由 200 多名兒童發育專家和倡導團體組成的聯盟正要求谷歌和 YouTube 停止使用人工智能為兒童創作內容。這一舉動可能會影響到一個據稱價值數百萬美元的市場。
以非營利組織 Fairplay 為首的 200 多家兒童倡導機構向谷歌和 YouTube 的首席執行官發出聯名信,要求在 YouTube Kids 平台上禁止被稱為「AI 垃圾內容(AI slop)」的低質量 AI 生成視頻,理由是這些內容給年輕觀眾帶來了顯著的發育風險。
「這些內容充斥著錯誤和令人不安的圖像,並不僅僅是無害的娛樂;它是針對蹣跚學步兒童的誤導信息,」TMW 早期學習中心的心理及兒科教授 Dana Suskind 表示,「它出現的時間正值兒童大腦連線的關鍵發育期,這真正影響了他們的一生。」
這封信由包括美國教師聯合會在內的團體以及《焦慮的一代》作者 Jonathan Haidt 等專家簽署,指出 AI 生成的視頻通常沒有情節且極具催眠性,旨在最大限度地延長觀看時間。該聯盟認為,這種「AI 垃圾內容」取代了對發育至關重要的現實活動。信中指出,針對兒童的頂級 AI 垃圾內容頻道每年的收入已超過 425 萬美元。
這一要求給 Alphabet (GOOGL) 利潤豐厚的 YouTube 部門帶來了壓力,該部門因其對兒童的影響正面臨越來越多的監管審查。其結果可能會迫使其對內容審核和平台設計進行代價高昂的改變,進而可能影響廣告商參與度和投資者信心,尤其是在最近的一項裁決中,陪審團認定 YouTube 和 Meta 在設計平台時為了吸引年輕用戶而罔顧其福祉,需承擔法律責任。
倡導者挑戰 YouTube 的 AI 防護措施
該聯盟呼籲 YouTube 明確標記所有 AI 生成的內容,禁止其出現在 YouTube Kids 應用中,並禁止向 18 歲以下的用戶推薦此類內容。此外,他們要求提供家長控制選項,允許家長完全屏蔽 AI 內容,即使孩子主動搜索也不例外。
Fairplay 認為,YouTube 目前的自願披露政策是不夠的。該政策僅要求創作者標記使用合成媒體製作的「寫實」內容,這使得大量動畫或明顯非寫實的 AI 視頻在沒有任何披露的情況下傳播。該倡導組織認為,許多年幼的孩子根本無法閱讀或理解這些標籤,從而使他們容易受到其所謂的「無情節、催眠式的 AI 內容」的影響。
YouTube 在審查中為政策辯護
對此,YouTube 發言人表示,該公司對「YouTube Kids 裡的內容保持高標準,包括將該應用中的 AI 生成內容限制在一小部分高質量頻道中」。該公司還指出,它為家長提供了屏蔽頻道的功能,並正在積極為 YouTube Kids 應用開發特定的標籤。
在兒童安全團體的抵制發生前不久,谷歌的 AI 未來基金向 Animaj 投資了 100 萬美元,這是一家製作兒童內容的 AI 動畫工作室,並已吸引了大量觀眾。雖然 YouTube 首席執行官 Neal Mohan 此前曾將「管理 AI 垃圾內容」列為首要任務,但該聯盟認為該平台的行動與其言論不符,將利潤置於最年輕用戶的福祉之上。
本文僅供參考,不構成投資建議。