AI, 군사 계획 시간을 몇 주에서 며칠로 단축
미국과 이스라엘의 이란에 대한 군사 작전은 인공지능이 전장에 대규모로 처음 사용된 사례이며, 현대 전쟁의 속도와 범위를 변화시키고 있습니다. 보도에 따르면, AI 도구는 정보 분석 및 목표 선택부터 임무 계획 및 피해 평가에 이르기까지 작전의 모든 단계에 필수적으로 통합되었습니다. 이러한 통합은 복잡한 물류 계산을 자동화하여 이전에 느리고 주관적이었던 계획 주기를 극적으로 가속화하여, 소요 시간을 몇 주에서 단 며칠로 단축했습니다.
가장 중요한 즉각적인 영향은 정보 처리에서 나타납니다. 군 관계자들은 인간 분석가가 일반적으로 사용 가능한 정보 자료의 약 4%만을 검토할 수 있어 중요한 병목 현상을 초래한다고 보고합니다. 이제 AI 시스템은 테헤란의 해킹된 교통 카메라 피드와 가로챈 통신을 포함하여 방대한 양의 데이터를 걸러내어 실행 가능한 통찰력을 식별합니다. 기계 시각은 이제 위성 이미지에서 특정 차량 모델이나 항공기를 빠르게 식별할 수 있으며, 다른 시스템은 음성 데이터를 분석하여 관련 대화를 요약함으로써 관리 불가능한 정보의 홍수를 검색 가능한 데이터베이스로 변환합니다.
시스템 오류 및 오래된 데이터, 치명적인 위험 초래
AI가 전례 없는 효율성을 제공하지만, 혼란스러운 전쟁 환경에서의 배치는 상당한 위험을 초래합니다. 군사 AI 모델은 종종 오래되었거나 명확성이 부족한 훈련 데이터에 의존하는데, 이는 전장 결정이 걸려 있는 상황에서 치명적인 결함입니다. 국방부의 초대 AI 책임자 잭 섀너핸(Jack Shanahan)은 이를 주요 과제로 강조하며, 시스템 오류가 치명적인 결과를 초래할 수 있다고 언급했습니다. 미국 군 당국은 분쟁 첫날의 잘못된 정보가 이란의 한 여자 초등학교에서 수십 명의 어린이 사망으로 이어졌는지 여부를 조사하고 있는 것으로 알려졌습니다.
이는 자동화된 의사 결정에 대한 과도한 의존에 대한 우려를 제기합니다. 전문가들은 강력한 인간 감독 없이 최종 권한을 알고리즘에 넘기는 것이 위험한 길이라고 경고합니다. 이러한 위험을 제한하는 인프라는 여전히 미흡하며, 기계 오류가 파괴적인 인명 손실을 초래할 수 있는 공백을 남깁니다. 한 전문가는 경고하듯이, 전쟁의 궁극적인 생사 결정에서는 인간의 판단이 여전히 대체 불가능합니다.
의사 결정을 AI에 넘기는 것은 심각한 문제입니다.
— 에밀리아 프로바스코(Emelia Probasco), 조지타운 대학교 안보 및 신흥 기술 센터 선임 연구원.