中国3月15日晚会揭露AI“投毒”牟利行为
中国备受关注的年度消费者权益保护节目“315晚会”于3月15日曝光了一个操纵人工智能模型的新兴行业。调查显示,以“GEO”为名运作的服务提供商向客户收费,对主要的AI平台进行“投毒”。通过向模型大量投放促销软文,这些公司确保其客户的产品在AI生成的搜索结果中被呈现为权威的“标准答案”。
一位服务提供商告诉卧底记者,这一过程相当于内容营销,即AI平台被系统性地喂入特定信息以进行“刷、录、入、爬”。由于算法频繁更新,维持这种被操纵的排名靠前需要持续且昂贵的促销内容“灌输”,有效地围绕“洗脑”商业AI系统来牟利,形成了一种商业模式。
“GEO”作为AI影响力的两用工具浮出水面
“GEO”,即生成式搜索引擎优化的简称,并非天生具有恶意。在西方市场,GEO是一种合法且不断发展的营销学科,专注于道德地提升品牌在谷歌AI概览和ChatGPT等AI系统生成答案中的表现。这种“白帽”GEO通过增强品牌的实体清晰度并建立在信誉良好的第三方来源之间达成共识,从而增加被推荐的可能性。
中国的此次曝光揭示了这些原则的“黑帽”应用。被曝光的公司没有建立合法的权威,而是通过注入有偏见和促销性的数据来利用AI的学习过程。这给行业带来了重大挑战,因为用于合法品牌建设的相同工具可能被武器化,用于传播虚假信息和操纵消费者选择,从而模糊了优化和欺骗之间的界限。
AI诚信危机引发监管和投资者担忧
这些披露给开发或依赖商业AI的公司带来了显著的信任赤字。系统性操纵AI输出的能力侵蚀消费者信心,并威胁到AI驱动搜索的长期可行性。这个问题并非仅限于第三方不良行为者;来自SEO公司SE Ranking的研究显示,即使是谷歌自己的AI搜索工具也表现出偏见,17%的引用会回溯到谷歌自己的财产——这比去年增加了三倍。
“315晚会”的高知名度使得中国极有可能出台监管回应,可能涉及更严格的AI训练数据和算法透明度规定。对于投资者而言,这一事件为AI行业带来了新的运营和声誉风险。许多AI模型曾经是技术脚注的“黑箱”性质,现在已成为一个关键的漏洞,可能导致全球范围内显著的股票估值压力和更严格的合规成本。