3대 AI CEO들, 의회에 생물무기 방지법 통과 촉구

세계 최고 AI 경영진 3인이 의회에 합성 DNA 검사 의무화를 촉구하며, 급속도로 발전하는 인공지능 도구가 악의적 행위자의 생물무기 개발을 도울 수 있다고 경고했다.

오픈AI의 샘 알트만, 앤스로픽의 다리오 아모데이, 구글 딥마인의 데미스 허사비스는 의회에 합성 핵산을 판매하는 기업들이 위험한 조합이 포함된 고객 주문을 검사하도록 요구하는 서한에 서명했다. AI가 과거에 악의적 행위자가 생물무기를 획득하지 못하게 막아온 지식 장벽을 무너뜨릴 수 있다는 위험성을 근거로 제시했다.

"AI 시스템은 급속도로 개선되고 있으며, 과학과 의학에 엄청난 혜택을 가져다주는 동시에, 역사적으로 악의적 행위자가 생물무기를 획득하지 못하게 막아온 지식 장벽이 상당히 약화될 실질적인 가능성이 존재합니다."라고 서한은 밝혔다.

이 서한은 두 개의 기술 전문 싱크탱크가 주관했으며, 마이크로소프트 AI 책임자 무스타파 술레이만과 메타의 최고 AI 책임자 알렉산더 왕도 서명했다. 원자료에 따르면, 마이크로소프트의 연구 결과 AI 도구가 이제 위험한 단백질을 모방하고 기존 안전 점검을 회피하는 유전자 서열을 설계할 수 있는 것으로 나타났다.

이러한 움직임은 트럼프 대통령이 화요일 AI 감독 및 사이버보안에 관한 행정명령에 서명하면서 규제 불간섭 접근법에서 전환한 이후 나왔다. 백악관은 작년에 바이든 시대의 유전자 검사 프레임워크를 자체 지침으로 대체하겠다고 밝혔으나 아직 대체 정책을 발표하지 않았다.

규제 공백

이전 바이든 행정부는 연방 자금 지원 수혜자들에게 합성 유전자 주문 검사를 의무화했지만, 트럼프 대통령은 2025년 1월 첫 번째 행정명령 중 하나로 해당 프레임워크를 폐지했다. 새로운 서한의 지지자들은 의회가 연방 자금을 받는 업체뿐만 아니라 모든 합성 핵산 구매자에게 적용되는 법률을 통과시켜야 한다고 주장한다. 여러 법안이 제안되었지만 진전을 보지 못해, 자발적 업계 표준만이 산발적으로 적용되고 있는 상황이다.

2024년 업계 추정치 기준 약 140억 달러 규모로 평가되는 합성생물학 분야는 백신 개발부터 농업 생명공학에 이르기까지 맞춤형 DNA 및 RNA 서열에 의존한다. 트위스트 바이오사이언스, 인티그레이티드 DNA 테크놀로지스, 젠스크립트 등이 유전자 합성 시장을 주도하는 기업으로, 새로운 검사 요구사항의 직접적인 영향을 받게 된다.

트럼프 대통령의 이번 주 행정명령은 모델 개발자에게 사이버보안 프로토콜을 구현하고 안전 테스트 결과를 보고하도록 요구하지만, CEO들이 현재 요구하는 의무 검사에는 미치지 못한다. 백악관 관계자는 행정부가 혁신과 안전의 균형을 유지하는 데 전념하고 있다고 밝혔다.

준수 비용을 둘러싼 업계 분열

반대론자들은 어떤 핵산 조합이 위험한 것으로 간주되는지가 주관적이며, 준수 비용이 스타트업에 타격을 줄 수 있다고 주장한다. 재미혁신재단의 전 트럼프 AI 고문이었던 딘 볼은 위험을 감안할 때 비용을 감수할 가치가 있다고 말했다. "생명체와 바이러스를 만들어내는 물질을 합성한다면, 그것이 어떤 면에서 위험한지 검사해보라고 요구하는 것입니다." 볼은 "이는 사회가 요구하기에 합리적인 사항입니다."라고 말했다.

알트만은 수요일 백악관 관료 및 의원들을 만나 모델 개발자에 대한 더 강력한 요구사항에 관한 오픈AI의 제안을 논의했다. 오픈AI는 최근 생물학적 위험 예방을 위해 연방 정부와 협력하는 과학 중심 모델을 활용한 프로그램을 시작했다.

이 서한은 정책 문제에서 자주 의견이 갈리는 경쟁 AI 경영진들 사이에서 드문 합의 영역을 나타낸다. 알트만과 아모데이는 일반적으로 AI 규제에 대해 상반된 입장을 취하며, 앤스로픽은 업계의 다른 기업들보다 더 강력한 규제를 지지해왔다. 허사비스는 단백질 구조를 예측하고 신약 개발을 가속화하는 AI 플랫폼 연구로 2024년 노벨상을 공동 수상했다.

마이크로소프트, 구글, 메타를 포함한 주요 기술 기업들에게 선제적 안전 조치는 장기적 규제 리스크를 줄일 수 있다. 그러나 의무 검사 요구는 위험한 서열을 설계하는 데 사용될 수 있는 AI 모델 개발자에게 잠재적 책임을 부과하며, AI 책임에 대한 논쟁에 새로운 차원을 추가한다.

트위스트 바이오사이언스와 젠스크립트가 회원사로 포함된 업계 단체인 국제 유전자 합성 컨소시엄은 이미 자발적으로 주문을 검사하고 있다. 연방 차원의 의무 요구사항은 모든 공급업체가 일관된 기준을 준수하도록 보장하여, 악의적 행위자가 규제되지 않은 제공업체를 찾아다니도록 하는 유인을 차단할 것이다.

본 문서는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.