Anthropic CEO, 국가 안보 위험을 초래하는 AI 모델 1종을 두고 백악관과 회동

Anthropic의 CEO 다리오 아모데이는 금요일 수지 와일스 백악관 비서실장과 '건설적인' 회담을 가졌으며, 이는 전례 없는 사이버 보안 능력을 갖춘 AI 모델을 둘러싼 갈등을 해결하기 위한 중요한 진전입니다. 이번 만남은 수천 개의 미지의 소프트웨어 취약점을 찾아내고 공격을 실행할 수 있어 국가 안보 위험이자 필수적인 방어 도구라는 평가를 받는 Anthropic의 범용 AI인 'Mythos'에 대한 범정부적 불안을 해소하기 위한 것입니다.

POLITICO가 입수한 연방 기관 대상 이메일에서 예산관리국(OMB)의 그레고리 바바차 최고정보책임자는 "적절한 가드레일과 안전장치가 마련될 수 있도록 모델 제공업체, 기타 업계 파트너 및 정보 커뮤니티와 긴밀히 협력하고 있다"고 밝혔습니다.

4월 7일 발표된 Mythos는 32단계 기업 네트워크 공격 시뮬레이션을 처음부터 끝까지 완료한 최초의 AI로, 83% 이상의 사례에서 첫 시도 만에 작동하는 익스플로잇 개발에 성공했습니다. Anthropic은 이 모델의 일반 공개를 제한하는 대신, '프로젝트 글래스윙(Project Glasswing)' 프로그램을 통해 구글, 아마존 웹 서비스(AWS), JP모건 체이스를 포함한 약 40개의 검증된 조직에 제공하여 핵심 취약점을 찾고 수정하도록 했습니다.

이번 회담은 지난 2월 Anthropic이 군사적 목적을 위한 안전 가드레일 제거를 거부했다는 이유로 이 회사를 국가 안보 공급망 위험 요소로 지정한 트럼프 행정부의 역설적 상황을 보여줍니다. 이제 재무부, 사이버보안 및 기간시설 안보국(CISA), 정보 커뮤니티 모두가 Mythos가 노출할 수 있는 바로 그 결함에 대응하기 위해 이 기술을 필요로 하고 있습니다.

갈등은 피트 헤그세스 국방장관이 Anthropic에 자율 무기 체계를 포함한 모든 합법적인 목적을 위해 펜타곤이 모델에 무제한 접근할 수 있도록 요구하면서 심화되었습니다. 아모데이 CEO가 안전상의 이유로 이를 거부하자 정부 계약 블랙리스트에 올랐습니다. Anthropic은 이에 대응해 두 건의 연방 소송을 제기했으며, 항소 법원이 소송 기간 동안 펜타곤의 금지 조치를 유지했음에도 불구하고 회사는 여전히 다른 연방 기관과 협력할 수 있는 상태입니다.

무시하기에는 너무나 귀중한 도구

Mythos의 기능은 워싱턴 전역에서 긴급한 논의 주제가 되었습니다. 영국의 AI 안전 연구소는 이 모델이 "이전에 평가된 어떤 모델보다 사이버 공격 능력이 실질적으로 더 뛰어나다"고 평가했습니다. JP모건 체이스의 제이미 다이먼 CEO는 이 모델이 "훨씬 더 많은 취약점을 드러낸다"고 언급했습니다. 이러한 강력한 성능은 정부의 입장을 대결에서 협상으로 바꾸어 놓았습니다.

국가 사이버 국장실이 행정부의 대응을 주도하고 있으며, 예산관리국은 연방 기관들이 이 모델의 '수정된' 버전을 사용할 수 있는 방안을 모색 중입니다. 재무부와 CISA를 포함한 여러 기관이 이미 모델을 테스트 중이거나 금융 부문 및 주요 인프라에 미치는 영향을 평가하기 위해 접근을 시도하고 있다는 보고가 잇따르고 있습니다.

글로벌 압력과 지정학적 레버리지

이 교착 상태는 글로벌한 영향력을 가집니다. 영국 중앙은행 총재는 Mythos를 시스템적 사이버 보안 위험으로 명명했으며, Anthropic은 런던 사무소 인력을 800명으로 4배 늘리면서 이미 일부 영국 은행에 접근 권한을 제공하고 있습니다. 이는 핵심 동맹국인 영국이 미국 정부보다 먼저 미국에서 개발된 핵심 보안 도구를 배포할 수 있는 상황을 만들어 백악관이 해결책을 찾도록 압박을 가하고 있습니다.

이러한 상황은 Anthropic에 상당한 레버리지를 제공합니다. 연간 매출 300억 달러를 달성하고 8,000억 달러의 기업 가치로 투자자들의 관심을 받고 있는 이 회사는 생존을 위해 펜타곤 계약에 의존하지 않습니다. 합의가 이루어진다면 자율 무기나 감시 용도에 대한 제한은 유지하면서 방어 목적으로 Mythos에 대한 접근 권한을 제공하는 대가로 공급망 위험 지정이 철회될 가능성이 높습니다. 구글, 아마존을 포함한 Anthropic의 투자자들과 OpenAI와 같은 경쟁사들에게 이번 해결은 미국의 첨단 AI 개발에 대한 규제 환경의 위험이 완화되는 신호가 될 것입니다.

이 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.