200명 이상의 아동 발달 전문가와 옹호 단체 연합이 구글과 유튜브에 아동용 인공지능(AI) 콘텐츠 제작 중단을 요구하고 나섰습니다. 이는 일부 제작자가 수백만 달러의 가치가 있다고 주장하는 시장에 큰 파장을 일으킬 수 있는 행보입니다.
비영리 단체 Fairplay를 주축으로 한 200여 개의 아동 옹호 기관들은 구글과 유튜브 CEO에게 서한을 보내, 아동 발달에 심각한 위험을 초래한다는 이유로 유튜브 키즈 플랫폼에서 이른바 'AI 슬롭(AI slop)'이라 불리는 저질 AI 생성 영상의 금지를 요구했습니다.
TMW 조기 학습 센터의 소아과 교수인 다나 서스킨드(Dana Suskind)는 "오류와 불안한 이미지로 가득 찬 이 콘텐츠는 단순한 오락이 아니라 유아를 대상으로 한 오정보"라며 "아이들의 뇌가 평생의 기틀을 마련하는 중요한 발달 시기에 이런 콘텐츠가 노출되고 있다"고 경고했습니다.
미국 교사 연맹과 '불안한 세대'의 저자 조너선 하이트(Jonathan Haidt) 등이 서명한 이 서한은 AI 생성 영상이 대개 줄거리가 없고 최면을 거는 듯한 방식으로 설계되어 시청 시간을 극대화한다고 지적했습니다. 연합 측은 이러한 'AI 슬롭'이 아동 발달에 필수적인 현실 세계 활동을 대체한다고 주장합니다. 서한에 따르면 아동을 타겟으로 한 상위 AI 슬롭 채널들은 이미 연간 425만 달러 이상의 수익을 올리고 있습니다.
이러한 요구는 알파벳(GOOGL)의 수익성 높은 유튜브 사업부에 압박으로 작용하고 있으며, 아동에게 미치는 영향에 대한 규제 당국의 감시도 강화되고 있습니다. 최근 배심원단이 유튜브와 메타가 아동의 복지를 고려하지 않고 중독성 있게 플랫폼을 설계한 것에 대해 책임을 물은 판결에 이어, 이번 사태는 콘텐츠 검토 및 플랫폼 설계에 대한 비용이 많이 드는 변경으로 이어질 수 있으며, 이는 광고주 참여와 투자자 신뢰에 영향을 줄 수 있습니다.
유튜브의 AI 안전장치에 도전하는 옹호론자들
연합은 유튜브가 모든 AI 생성 콘텐츠에 명확한 라벨을 부착하고, 유튜브 키즈 앱에서의 노출을 금지하며, 18세 미만 사용자에게 추천하는 것을 막을 것을 촉구하고 있습니다. 또한 부모가 자녀가 검색하더라도 AI 콘텐츠를 완전히 차단할 수 있는 부모 통제 옵션을 요구했습니다.
Fairplay는 유튜브의 현재 자율 공시 정책이 불충분하다고 주장합니다. 현재 정책은 합성 매체로 제작된 '실사형' 콘텐츠에만 라벨을 부착하도록 요구하고 있어, 수많은 애니메이션이나 비실사형 AI 영상은 공시 없이 배포되고 있습니다. 옹호 단체는 어린 아이들이 이러한 라벨을 읽거나 이해할 수 없기 때문에 줄거리 없이 최면을 거는 듯한 AI 콘텐츠에 무방비로 노출된다고 비판합니다.
조사가 강화되는 가운데 정책을 옹호하는 유튜브
이에 대해 유튜브 대변인은 "유튜브 키즈 앱의 콘텐츠에 대해 높은 기준을 유지하고 있으며, 앱 내 AI 생성 콘텐츠를 소수의 고품질 채널로 제한하고 있다"고 밝혔습니다. 또한 부모가 채널을 차단할 수 있는 기능을 제공하고 있으며, 유튜브 키즈 앱 전용 라벨을 개발 중이라고 덧붙였습니다.
이러한 아동 안전 단체들의 반발은 구글의 'AI 퓨처스 펀드'가 아동용 AI 애니메이션 스튜디오인 애니마쥬(Animaj)에 100만 달러를 투자한 직후에 나왔습니다. 닐 모한(Neal Mohan) 유튜브 CEO가 이전에 'AI 슬롭 관리'를 우선순위로 꼽았음에도 불구하고, 연합은 플랫폼의 행동이 말과 일치하지 않으며 최연 어린 사용자의 복지보다 이익을 우선시하고 있다고 믿고 있습니다.
이 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.
