Vance, AI가 생사 결정을 내려선 안 된다는 3단어 군사 교리 경고

JD Vance 부통령은 공군 사관생도들에게 인공지능이 전장에서 생사 결정을 내리는 것을 절대 허용해서는 안 된다고 말하며, 트럼프 행정부 내에서 논란을 빚고 있는 이 문제에 뛰어들었다. 현재 국방부는 전쟁에서 AI 사용을 가속화하고 있다.

Vance는 목요일 콜로라도스프링스에 있는 미 공군사관학교에서 약 900명의 사관생도에게 "생사에 관한 결정은 기계가 아닌 인간이 내려야 한다"며 "기술을 사용해 더 나아지되, 기술에 굴복해서는 안 된다. 당신들은 전쟁의 지배자이며, 당신들의 두뇌와 마음은 인공적인 것의 정반대"라고 말했다.

이 연설은 한때 AI 규제 완화를 강력히 지지해 온 전직 벤처캐피털리스트인 Vance의 눈에 띄는 기조 변화를 의미한다. 그는 작년 파리 AI 액션 서밋에서 유럽 동맹국들의 "과잉 규제" 접근법을 비난한 바 있다. 그의 발언은 이번 주 발표된 교황 레오 14세의 AI 회칙(encyclical)과도 맥을 같이하는데, 해당 회칙은 도덕적 결정을 디지털 기술에 위탁하는 것을 경고했다. Vance는 이번 주 NBC 뉴스와의 인터뷰에서 이 문서를 칭찬하기도 했다.

이러한 발언은 전투에서의 국방부 AI 사용에 대한 감시가 강화되는 가운데 나왔다. Anthropic의 Claude AI 도구로 구동되는 Maven Smart System은 이란 전쟁 발발 직후 배치돼 수백 개의 표적을 제안하고 위치 좌표를 제공한 것으로 알려졌다. 이 시스템이 이란 군사 시설과 인접한 학교를 합법적 표적으로 식별한 이후, 최소 175명(대부분 여학생)이 사망한 이란 학교 공습에 대한 조사가 진행 중이다.

이 사건은 AI 정책을 둘러싼 백악관 내부의 분열을 심화시켰다. Scott Bessent 재무장관은 강력한 AI 시스템에 대한 보다 면밀한 감독을 요구한 반면, 전 AI 차르 David Sacks는 가벼운 규제 접근법을 지지했다. AI 개발을 "경쟁"이라고 부르며 "속도가 승리한다"고 주장해 온 Pete Hegseth 국방장관은 지난달 군 전반에 걸친 AI의 광범위한 도입을 지시했다.

도널드 트럼프 대통령은 지난주, 최신 AI 모델에 대한 자발적 정부 테스트 메커니즘을 만들 계획이었던 행정명령을 폐기했다. 이는 제한 조치를 우려한 기술 기업 임원들의 막판 로비 활동 이후의 결정이었다. 행정부는 여전히 경쟁 파벌들 사이에서 AI 정책 프레임워크를 조율 중이다.

이라크에서 복무한 해병대 참전 용사인 Vance는 미국인들이 AI가 일자리와 사회적 상호작용에 미칠 영향에 대해 느끼는 불안감을 인정하면서도, 자신의 가장 큰 우려는 AI가 전쟁에 미치는 영향이라고 밝혔다. 그는 "미래의 전쟁이 우리 조상들의 도덕적 가치에 부합하려면, 생사에 관한 결정은 인간이 아닌 기계가 내려서는 안 된다"고 말했다.

이번 발언은 Palantir Technologies Inc., Lockheed Martin Corp., RTX Corp.과 같은 방산 기술 계약업체들에게 호재로 작용할 수 있다. 이들 기업은 AI 기반 군사 시스템에 대한 정부의 관심 증가로 수혜를 볼 위치에 있다. 미군이 자율 전투 능력에서 중국을 능가하기 위해 경쟁함에 따라 국방부의 AI 예산은 증가해 왔다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.