Key Takeaways:
미국 최고의 금융 규제 당국자들이 국가 최대 은행들에 직접적인 경고를 발령하며, 금융 시스템 내 인공지능 통합에 대한 강화된 조사의 새로운 단계가 시작되었음을 알렸습니다.
스콧 베센트 미국 재무장관과 제롬 파월 연준 의장은 화요일 은행 임원들과 긴급 회의를 소집하여 Anthropic의 최신 AI 모델이 초래할 시스템적 리스크에 대해 경고했습니다. 이 조치는 금융권의 AI 도입에 제동을 걸 수 있습니다. 블룸버그가 보도한 4월 9일 회의는 재무부와 연준 수장이 상업용 AI 모델의 특정 리스크에 대해 공동으로 개입한 첫 번째 사례입니다.
회의 내용에 정통한 한 소식통은 "널리 사용되는 단일 모델에서 발생할 수 있는 상관된 실패나 예기치 못한 리스크는 즉각적인 주의가 필요한 시스템적 리스크의 새로운 매개체"라고 말했습니다.
은행권 내 Anthropic 신규 모델 도입에 대한 구체적인 수치는 공개되지 않았으나, 규제 당국의 선제적 행동은 높은 수준의 우려를 시사합니다. 이번 경고는 JP모건 체이스(JPM)가 기술 분야에만 연간 150억 달러 이상을 지출하는 등 은행들이 효율성 제고를 위해 AI를 공격적으로 탐색하는 가운데 나왔습니다. 제3자 기술 벤더에 대한 금융권의 노출은 이미 규제의 핵심 초점이었으며, 이번 회의는 그 우려를 기초 AI 모델로 확장했습니다.
쟁점의 핵심은 단일 AI 모델의 빠르고 광범위한 채택이 시스템적 리스크의 새로운 형태를 창출할 수 있는지 여부입니다. 즉, 모델의 결함이나 예기치 못한 동작이 여러 주요 금융 기관에 동시에 영향을 미쳐 연쇄 실패로 이어질 수 있다는 것입니다. 규제 당국은 향후 6개월 내에 AI 모델 리스크 관리에 대한 공식 지침을 발표할 예정이며, 잠재적으로 은행들에게 AI 벤더 다변화와 모델의 복원력 증명을 요구할 수 있습니다.
이번 비정기 회의는 금융 산업 내 인공지능에 대한 규제 감독이 크게 강화되었음을 강조합니다. 사이버 보안이나 제3자 벤더 관리에 대한 이전 지침과 달리, 이번 개입은 기술 기반 자체를 대상으로 합니다. 주요 기술 및 금융 기업의 지원을 받는 선도적인 AI 개발사인 Anthropic의 특정 모델에 집중한 것은, 균일한 AI 생태계가 은행 시스템 전반에 걸쳐 단일 장애 지점(Single point of failure)을 유발할 수 있다는 우려를 반영합니다.
금융 기관들은 사기 탐지부터 알고리즘 트레이딩, 대출 심사에 이르기까지 모든 분야에 머신러닝을 초기부터 열정적으로 도입해 왔습니다. 그러나 최신 세대 대규모 언어 모델(LLM)의 복잡성과 '블랙박스'적 특성은 새로운 과제를 제시합니다. 규제 당국은 은행들이 잠재적인 편향성, 보안 취약점 또는 시장 위기 시 발생할 수 있는 예상치 못한 경기 순응적(pro-cyclical) 동작에 대해 이러한 모델을 완전히 검증할 내부 전문 지식을 갖추지 못했을 수 있음을 우려하고 있습니다.
베센트와 파월의 경고는 내부 검토의 물결을 일으키고 미국 은행 내 첨단 AI 배포를 늦출 가능성이 큽니다. 최고리스크관리책임자(CRO)들은 이제 기관이 제3자 AI 모델을 테스트, 검증 및 모니터링하기 위한 견고한 프레임워크를 갖추고 있음을 규제 당국에 증명해야 하는 압박을 받게 될 것입니다. 이는 거의 확실하게 규제 준수 비용을 증가시킬 것이며, 집중 리스크를 완화하기 위해 단일 지배적 모델 제공업체에 의존하는 전략에서 다중 벤더 접근 방식으로의 전환을 강요할 수 있습니다.
본 기사는 정보 제공만을 목적으로 하며 투자 조언을 구성하지 않습니다.
