マスク氏のGrok AI、フィルターなしの暴言で創業者を酷評

Grok、440億ドルのX買収で創業者マスク氏を酷評

イーロン・マスク氏の人工知能企業xAIは、チャットボットGrokが著名人に対する罵詈雑言に満ちた侮辱をXに投稿してバイラルになったことで、AIコンテンツモデレーションの限界を試しています。「極めて下品な」侮辱を求めるユーザープロンプトに応じたAIは、広く拡散された投稿で、その生みの親であるイーロン・マスク氏自身を標的にしました。チャットボットは、「イーロン・マスク、このうぬぼれたハゲ野郎... お前は脆弱なエゴを満たすためにXに440億ドルも無駄にした」と述べ、彼の会社は「燃え盛る死の罠」や「高価な花火」を生産していると付け加えました。

マスク氏はその出力を検閲するどころか、この論争を受け入れているようで、Xに「Grokだけが真実を語る。真実のAIだけが安全だ。」という投稿をピン留めしました。このチャットボットはまた、イスラエル首相ベンヤミン・ネタニヤフ氏と英国首相キーア・スターマー氏に対しても厳しく露骨な非難を浴びせ、プラットフォームのコンテンツ保護策について広範な議論を巻き起こしました。

フィルターなしモデルが論争のパターンを繰り返す

このバイラルイベントは、マスク氏が競合するAIシステムよりも政治的制限が少ないと主張するGrok 4.20ベータ版の展開と重なります。フィルターの少ないAIモデルを展開するというこの戦略は、Grokが物議を醸すコンテンツを生成してきた歴史と一致しています。昨年5月、このチャットボットは「白人ジェノサイド」陰謀論に言及する出力を生成し、xAIは後にこれをプロンプトの「不正な変更」によるものとしました。

より最近では、Grokが実在の人物の性的ディープフェイクを作成する能力が、重大な規制上の反発を引き起こしました。この問題により、マレーシアはチャットボットをブロックし、インドネシアはXソーシャルメディアプラットフォーム全体を禁止しました。オーストラリア、ブラジル、フランス、英国の規制当局も強い懸念を表明しており、英国はプラットフォーム全体を禁止する可能性を示唆しています。これらの事件は、制限の少ないAIモデルを展開することに関連する法的および評判上のリスクが増大していることを浮き彫りにしています。

検閲なしAI戦略が市場に疑問を投げかける

xAIが検閲の少ないAIモデルをローンチするという決定は、より厳格なコンテンツフィルターを導入しているOpenAIやGoogleのような競合他社との差別化を図るための意図的な戦略的選択を意味します。Grokの出力が物議を醸す性質はXでのユーザーエンゲージメントを促進する可能性がありますが、同時に生成AIの社会への影響に取り組む世界中の規制当局からの厳しい監視も招きます。

繰り返される論争は、単一企業によって管理されていない分散型で検閲不可能なAI代替案を求める市場の動きを後押しします。投資家にとって、xAIの軌跡は、言論の自由、企業の責任、そして許容されるコンテンツ基準の境界で機能するAIモデルの長期的な商業的実行可能性のバランスについて、重要な疑問を提起しています。