3대 테크 거물, 미국 정부의 AI 모델 출시 전 검토 허용

인공지능에 대한 정부의 감독을 실질적으로 강화하는 조치로, 알파벳의 구글, 마이크로소프트, 그리고 xAI는 공개 출시 전 자사의 첨단 AI 모델을 보안 평가용으로 제공하기로 합의했다. 이번 합의를 통해 세 기술 거물은 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI)와 파트너십을 맺게 되었으며, CAISI는 이미 OpenAI 및 Anthropic PBC와 유사한 계약을 체결한 바 있다.

크리스 폴 CAISI 소장은 성명을 통해 "독립적이고 엄격한 측정 과학은 프런티어 AI와 그것이 국가 안보에 미치는 영향을 이해하는 데 필수적"이라며, "이러한 확장된 업계 협력은 중요한 시기에 공익을 위한 우리의 업무 규모를 확대하는 데 도움이 된다"고 밝혔다.

해당 기관은 OpenAI 및 Anthropic과의 기존 계약 또한 도널드 트럼프 대통령의 'AI 행동 계획'에 맞춰 재협상되었다고 언급했다. 2024년 이후 센터는 아직 대중에게 공개되지 않은 모델을 포함하여 40건 이상의 AI 모델 평가를 완료했다. 구글, 마이크로소프트, 일론 머스크의 xAI까지 참여를 확대한 것은 Anthropic의 'Mythos' 모델과 같은 새로운 시스템의 기능에 대한 행정부의 우려가 커진 데 따른 것이다.

이러한 정부 접근권의 확대는 점점 더 강력해지는 AI가 제기하는 국가 안보 문제의 직접적인 결과이다. 임계 소프트웨어와 인프라에서 수천 개의 취약점을 발견한 것으로 알려진 Anthropic의 자체 Mythos 모델 분석은 트럼프 행정부 내의 정책 노력을 가속화했다. 백악관은 이미 Anthropic의 Mythos 접근권 확대 계획에 반대했으며, 국방부는 해당 회사의 공급망 위험 지위를 두고 법적 분쟁을 벌이고 있다.

혁신과 국가 안보의 균형

이번 합의로 CAISI의 권한이 더욱 강화되었다. CAISI는 2023년 바이든 행정부 시절 AI 안전 연구소로 설립되어 지난해 트럼프 행정부에 의해 재설립된 기구다. 아직 법적으로 명문화되지는 않았으나, 트럼프의 AI 행동 계획은 센터가 국가 안보 관련 모델 평가를 주도하도록 지시하고 있다. 이는 규제 당국이 기존 법률을 AI 시스템에 적용하는 방법을 모색함에 따라 새로운 집행의 길을 열어줄 수 있다.

행정부의 전략은 두 갈래로 보인다. 한편으로는 강력한 AI의 오용 가능성 때문에 더 강력한 안전 및 보안 검토를 추진하고 있다. 다른 한편으로, 트럼프 행정부는 새로운 모델의 출시를 가속화하고 미국이 중국에 대한 경쟁 우위를 유지할 수 있도록 일부 AI 안전 가드레일을 제거하겠다는 목표도 밝혔다. 이는 위험 완화와 신속한 혁신 촉진 사이의 섬세한 균형 잡기를 의미한다. 새로운 평가 합의와 향후 발표될 행정명령은 공식적인 정부 검토 프로세스를 구축함으로써 이러한 과제를 해결하려는 행정부의 시도를 나타낸다.

이 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.