中國3月15日晚會揭露AI「投毒」牟利行為
中國備受關注的年度消費者權益保護節目「315晚會」於3月15日曝光了一個操縱人工智慧模型的新興行業。調查顯示,以「GEO」為名運作的服務提供商向客戶收費,對主要的AI平台進行「投毒」。透過向模型大量投放促銷軟文,這些公司確保其客戶的產品在AI生成的搜尋結果中被呈現為權威的「標準答案」。
一位服務提供商告訴臥底記者,這一過程相當於內容營銷,即AI平台被系統性地餵入特定資訊以進行「刷、錄、入、爬」。由於演算法頻繁更新,維持這種被操縱的排名靠前需要持續且昂貴的促銷內容「灌輸」,有效地圍繞「洗腦」商業AI系統來牟利,形成了一種商業模式。
「GEO」作為AI影響力的兩用工具浮出水面
「GEO」,即生成式搜尋引擎優化的簡稱,並非天生具有惡意。在西方市場,GEO是一種合法且不斷發展的營銷學科,專注於道德地提升品牌在谷歌AI概覽和ChatGPT等AI系統生成答案中的表現。這種「白帽」GEO透過增強品牌的實體清晰度並建立在信譽良好的第三方來源之間達成共識,從而增加被推薦的可能性。
中國的此次曝光揭示了這些原則的「黑帽」應用。被曝光的公司沒有建立合法的權威,而是透過注入有偏見和促銷性的數據來利用AI的學習過程。這給行業帶來了重大挑戰,因為用於合法品牌建設的相同工具可能被武器化,用於傳播虛假資訊和操縱消費者選擇,從而模糊了優化和欺騙之間的界線。
AI誠信危機引發監管和投資者擔憂
這些披露給開發或依賴商業AI的公司帶來了顯著的信任赤字。系統性操縱AI輸出的能力侵蝕了消費者信心,並威脅到AI驅動搜尋的長期可行性。這個問題並非僅限於第三方不良行為者;來自SEO公司SE Ranking的研究顯示,即使是谷歌自己的AI搜尋工具也表現出偏見,17%的引用會回溯到谷歌自己的財產——這比去年增加了三倍。
「315晚會」的高知名度使得中國極有可能出台監管回應,可能涉及更嚴格的AI訓練數據和演算法透明度規定。對於投資者而言,這一事件為AI行業帶來了新的運營和聲譽風險。許多AI模型曾經是技術註腳的「黑箱」性質,現在已成為一個關鍵的漏洞,可能導致全球範圍內顯著的股票估值壓力與更嚴格的合規成本。