Một liên minh gồm hơn 200 chuyên gia phát triển trẻ em và các nhóm vận động đang yêu cầu Google và YouTube ngừng sử dụng trí tuệ nhân tạo để tạo nội dung cho trẻ em, một động thái có thể tác động đến một thị trường mà một số nhà sáng tạo tuyên bố trị giá hàng triệu đô la.
Hơn 200 tổ chức vận động trẻ em, dẫn đầu bởi tổ chức phi lợi nhuận Fairplay, đã gửi thư tới các CEO của Google và YouTube yêu cầu cấm các video do AI tạo ra với chất lượng thấp, được gọi là "rác AI" (AI slop), khỏi nền tảng YouTube Kids, viện dẫn những rủi ro phát triển đáng kể cho người xem nhỏ tuổi.
Dana Suskind, giáo sư phẫu thuật và nhi khoa tại Trung tâm Học tập Sớm TMW, cho biết: “Nội dung này, chứa đầy lỗi và hình ảnh gây khó chịu, không chỉ là giải trí vô hại; nó là thông tin sai lệch cho trẻ mới biết đi. Nó xuất hiện trong một giai đoạn phát triển quan trọng, khi não bộ của trẻ em thực sự đang được kết nối cho cả cuộc đời.”
Bức thư, được ký bởi các nhóm bao gồm Liên đoàn Giáo viên Hoa Kỳ và các chuyên gia như tác giả Jonathan Haidt của cuốn "The Anxious Generation", chỉ ra rằng các video do AI tạo ra thường không có cốt truyện và có tính gây mê, được thiết kế để tối đa hóa thời gian xem. Các nhóm lập luận rằng "rác AI" này thay thế các hoạt động thế giới thực quan trọng cho sự phát triển. Bức thư lưu ý rằng các kênh rác AI hàng đầu nhắm vào trẻ em đã tạo ra doanh thu hàng năm hơn 4,25 triệu USD.
Nhu cầu này gây áp lực lên bộ phận YouTube mang lại lợi nhuận cao của Alphabet (GOOGL), vốn đang đối mặt với sự giám sát ngày càng tăng của cơ quan quản lý về tác động đối với trẻ em. Kết quả có thể buộc công ty phải thay đổi tốn kém đối với việc kiểm duyệt nội dung và thiết kế nền tảng, có khả năng ảnh hưởng đến sự tham gia của nhà quảng cáo và niềm tin của nhà đầu tư, đặc biệt là sau một phán quyết gần đây của bồi thẩm đoàn cho thấy YouTube và Meta chịu trách nhiệm về việc thiết kế các nền tảng nhằm lôi kéo người dùng trẻ mà không quan tâm đến phúc lợi của họ.
Các nhà vận động thách thức các biện pháp bảo vệ AI của YouTube
Liên minh đang kêu gọi YouTube gắn nhãn rõ ràng cho tất cả nội dung do AI tạo ra, cấm nội dung này xuất hiện trên ứng dụng YouTube Kids và cấm đề xuất nội dung đó cho người dùng dưới 18 tuổi. Hơn nữa, họ yêu cầu một tùy chọn kiểm soát của phụ huynh cho phép phụ huynh chặn hoàn toàn nội dung AI, ngay cả khi trẻ chủ động tìm kiếm.
Fairplay lập luận rằng chính sách tiết lộ tự nguyện hiện tại của YouTube là không đủ. Chính sách này yêu cầu các nhà sáng tạo chỉ gắn nhãn nội dung "thực tế" được tạo bằng phương tiện tổng hợp, để lại một lượng lớn video AI hoạt hình hoặc rõ ràng là không thực tế mà không có bất kỳ sự tiết lộ nào. Nhóm vận động cho rằng nhiều trẻ nhỏ không thể đọc hoặc hiểu các nhãn như vậy, khiến chúng dễ bị tổn thương trước cái gọi là "nội dung AI không cốt truyện, gây mê".
YouTube bảo vệ các chính sách trong bối cảnh bị giám sát
Đáp lại, một người phát ngôn của YouTube tuyên bố công ty có "tiêu chuẩn cao cho nội dung trong YouTube Kids, bao gồm việc giới hạn nội dung do AI tạo ra trong ứng dụng ở một nhóm nhỏ các kênh chất lượng cao". Công ty cũng lưu ý rằng họ cung cấp cho phụ huynh khả năng chặn các kênh và đang tích cực phát triển các nhãn cụ thể cho ứng dụng YouTube Kids.
Sự phản đối từ các nhóm an toàn trẻ em diễn ra ngay sau khi Quỹ AI Futures của Google đầu tư 1 triệu USD vào Animaj, một studio hoạt hình AI chuyên sản xuất nội dung cho trẻ em và đã thu hút lượng người xem đáng kể. Mặc dù CEO YouTube Neal Mohan trước đó đã liệt kê việc "quản lý rác AI" là một ưu tiên, nhưng liên minh tin rằng các hành động của nền tảng không phù hợp với lời nói của mình, ưu tiên lợi nhuận hơn là phúc lợi của những người dùng nhỏ tuổi nhất.
Bài viết này chỉ mang tính chất thông tin và không cấu thành lời khuyên đầu tư.
