中国の3月15日晩会がAI「汚染」による営利行為を暴く
中国で広く視聴されている毎年恒例の消費者権利擁護番組「315晩会」が3月15日、人工知能モデルを操作する急成長中の業界を暴露しました。調査の結果、「GEO」という名で運営されるサービスプロバイダーが、主要なAIプラットフォームを「汚染」するために顧客から料金を徴収していることが明らかになりました。これらの企業は、大量のプロモーション的なソフト記事をモデルに浴びせかけることで、AIが生成する検索結果において、顧客の製品が権威ある「標準回答」として提示されるようにしていました。
あるサービスプロバイダーは潜入記者に対し、このプロセスはコンテンツマーケティングに相当し、AIプラットフォームに特定の情報が「ブラシ、記録、入力、クロール」されるように体系的に供給されていると語りました。アルゴリズムの頻繁な更新のため、この操作された上位ランキングを維持するには、継続的かつ費用のかかるプロモーションコンテンツの「大量投入」が必要であり、商業AIシステムを「洗脳」して利益を得るビジネスモデルを効果的に生み出しています。
「GEO」がAI影響力のための二重用途ツールとして出現
「GEO」は「生成型エンジン最適化(Generative Engine Optimization)」の略であり、本質的に悪意のあるものではありません。欧米市場では、GEOは、GoogleのAI概要やChatGPTのようなAIシステムが生成する回答において、ブランドがどのように表示されるかを倫理的に改善することに焦点を当てた、合法的で成長中のマーケティング分野です。この「ホワイトハット」GEOは、ブランドのエンティティの明確性を高め、信頼できる第三者情報源間で合意を形成することで、推奨される可能性を高めます。
中国のこの暴露は、これらの原則の「ブラックハット」な応用を浮き彫りにしています。合法的な権威を築く代わりに、暴露された企業は、偏向したプロモーションデータを注入することでAIの学習プロセスを悪用しています。これは業界にとって重大な課題を生み出しており、合法的なブランド構築に使われる同じツールが、誤情報を広めたり消費者の選択を操作したりするための武器となり、最適化と欺瞞の境界線を曖昧にしています。
AIの信頼性危機が規制当局と投資家の懸念を煽る
今回の暴露は、商用AIを開発または依存する企業にとって重大な信頼の欠如を生み出します。AIの出力を体系的に操作する能力は、消費者の信頼を損ない、AI駆動型検索の長期的な存続可能性を脅かします。この問題は、第三者の悪意ある行為者だけに限られません。SEO企業SE Rankingの調査によると、Google自身のAI検索ツールでさえ偏りを示しており、引用の17%がGoogle自身のプロパティに戻っており、これは昨年から3倍の増加です。
「315晩会」の高い注目度は、中国における規制対応の可能性が非常に高いことを示唆しており、AI訓練データとアルゴリズムの透明性に関するより厳格な規則が含まれる可能性が高いです。投資家にとって、このイベントはAIセクターに新たな運用上および評判上のリスクをもたらします。かつては技術的な脚注であった多くのAIモデルの「ブラックボックス」的性質は、今や世界的に重大な株価評価圧力とより厳格なコンプライアンスコストにつながる可能性のある、決定的な脆弱性となっています。