3大AI企業CEO、議会に生物兵器対策法の可決を要請

世界を代表する3人のAI企業CEOが、合成DNAのスクリーニングを義務化するよう議会に求め、急速に進化する人工知能ツールが悪意ある行為者による生物兵器開発を助長する可能性を警告している。

OpenAIのサム・アルトマン氏、Anthropicのダリオ・アモデイ氏、Google DeepMindのデミス・ハサビス氏は連名書簡に署名し、合成核酸を販売する企業に対し、危険な組み合わせがないか顧客の注文をスクリーニングするよう義務付ける法律の制定を議会に求めた。その背景には、AIがこれまで悪意ある行為者の生物兵器入手を妨げてきた知識の壁を侵食するリスクがあるとしている。

「AIシステムは急速に改良されており、科学や医療に計り知れない恩恵をもたらす一方で、歴史的に悪意ある行為者が生物兵器を入手するのを妨げてきた知識の壁が、現実的に大きく侵食される可能性がある」と書簡は述べている。

この書簡は、テクノロジーに特化した2つのシンクタンクが主導し、マイクロソフトのAI責任者であるムスタファ・スレイマン氏と、メタの最高AI責任者であるアレクサンドル・ワン氏も署名した。情報筋によると、マイクロソフトの調査では、AIツールが現在、危険なタンパク質を模倣し、既存の安全チェックを回避する遺伝子配列を設計できることが判明しているという。

この動きは、トランプ大統領が火曜日にAI監視とサイバーセキュリティに関する大統領令に署名し、これまでの自由放任の姿勢から転換した後に行われた。ホワイトハウスは昨年、バイデン政権時代の遺伝子スクリーニングの枠組みを自らのガイドラインに置き換えると述べたが、まだ代替政策を発表していない。

規制の空白

前バイデン政権は、連邦資金の受給者に対し、合成遺伝子注文のスクリーニングを義務付けていたが、トランプ大統領は2025年1月の最初の大統領令の一つでその枠組みを撤回した。今回の新たな書簡の支持者らは、議会は連邦資金の受給者だけでなく、合成核酸のすべての購入者に適用される法律を可決すべきだと主張している。これまでにいくつかの法案が提出されたが、進展しておらず、業界の自主基準は断片的な状態にある。

業界の推定によると、2024年に約140億ドル（約2兆1000億円）規模とされる合成生物学分野は、ワクチン開発から農業バイオテクノロジーに至るまで、多様な用途のためのカスタムDNAおよびRNA配列に依存している。Twist Bioscience、Integrated DNA Technologies、GenScriptなどの企業が遺伝子合成市場を支配しており、新たなスクリーニング義務化の影響を直接受けることになる。

今週のトランプ大統領令は、モデル開発者に対し、サイバーセキュリティプロトコルの実装と安全性試験結果の報告を義務付けているが、CEOらが求めている強制的なスクリーニングには踏み込んでいない。ホワイトハウス関係者は、政権はイノベーションと安全性のバランスを取ることに尽力していると述べた。

業界内のコスト負担を巡る溝

反対派は、どの核酸の組み合わせが危険とみなされるかは主観的であり、コンプライアンスコストが新興企業を圧迫する可能性があると主張する。Foundation for American Innovationの元トランプ政権AI顧問であるディーン・ボール氏は、リスクを考慮すればコストは負う価値があると述べた。「生物やウイルスを生み出す物質を合成しているのであれば、それが何らかの形で危険かどうかをスクリーニングするよう求めているのです」とボール氏は語る。「それは社会として主張するのが合理的なことのように思えます。」

アルトマン氏は水曜日、ホワイトハウス関係者や議員らと会談し、モデル開発者に対するより強力な要件に関するOpenAIの提案について議論した。同社は最近、科学特化型モデルを活用し、生物学的リスクの防止に関して連邦政府と協力するプログラムを開始した。

この書簡は、政策においてしばしば対立する競合AI企業のCEO間で、珍しく意見が一致した分野を表している。アルトマン氏とアモデイ氏は通常、AI規制に関して対照的な立場をとっており、Anthropicは業界の他社よりも強力な規制を支持している。ハサビス氏は、タンパク質構造を予測し創薬を加速するAIプラットフォームへの貢献により、2024年のノーベル賞を共同受賞した。

マイクロソフト、グーグル、メタなどの大手テクノロジー企業にとって、積極的な安全対策は長期的な規制リスクを軽減する可能性がある。しかし、強制的なスクリーニングの推進は、危険な配列の設計に悪用される可能性のあるAIモデル開発者に新たな法的責任を生じさせ、AIの説明責任をめぐる議論に新たな側面を加えることになる。

Twist BioscienceやGenScriptなどを会員に持つ業界団体International Gene Synthesis Consortiumは、すでに自主的に注文のスクリーニングを実施している。連邦政府による義務化が実現すれば、すべてのサプライヤーが一貫した基準に直面することになり、悪意ある行為者が規制されていない業者を求めようとするインセンティブを生まなくなる。

本記事は情報提供のみを目的としており、投資助言を構成するものではありません。