Gala '315' của Trung Quốc phơi bày ngành công nghiệp 'đầu độc' AI thuê

Gala 315 ngày 15 tháng 3 của Trung Quốc vạch trần hành vi 'đầu độc' AI vì lợi nhuận

Chương trình bảo vệ quyền lợi người tiêu dùng thường niên "Gala 315" được theo dõi rộng rãi của Trung Quốc vào ngày 15 tháng 3 đã phanh phui một ngành công nghiệp đang phát triển dựa trên việc thao túng các mô hình trí tuệ nhân tạo. Cuộc điều tra tiết lộ các nhà cung cấp dịch vụ, hoạt động dưới nhãn hiệu "GEO," đã tính phí khách hàng để "đầu độc" các nền tảng AI lớn. Bằng cách tấn công các mô hình bằng một lượng lớn các bài viết quảng cáo mềm mại, các công ty này đảm bảo sản phẩm của khách hàng của họ được trình bày như những "câu trả lời chuẩn mực" có thẩm quyền trong kết quả tìm kiếm do AI tạo ra.

Một nhà cung cấp dịch vụ đã nói với các phóng viên bí mật rằng quá trình này tương đương với tiếp thị nội dung, nơi các nền tảng AI được cung cấp thông tin cụ thể một cách có hệ thống để "đánh bóng, ghi lại, nhập và thu thập." Do các bản cập nhật thuật toán thường xuyên, việc duy trì thứ hạng cao đã bị thao túng này đòi hỏi một luồng nội dung quảng cáo liên tục và tốn kém, tạo ra một mô hình kinh doanh xoay quanh việc "tẩy não" các hệ thống AI thương mại để kiếm lời.

'GEO' nổi lên như một công cụ lưỡng dụng cho sự ảnh hưởng của AI

Thuật ngữ "GEO," viết tắt của Generative Engine Optimization (Tối ưu hóa Công cụ Tạo sinh), không vốn dĩ là độc hại. Tại các thị trường phương Tây, GEO là một lĩnh vực tiếp thị hợp pháp và đang phát triển, tập trung vào việc cải thiện một cách đạo đức cách các thương hiệu xuất hiện trong các câu trả lời do AI tạo ra từ các hệ thống như AI Overviews của Google và ChatGPT. "GEO mũ trắng" này hoạt động bằng cách tăng cường sự rõ ràng của thực thể thương hiệu và xây dựng sự đồng thuận giữa các nguồn bên thứ ba đáng tin cậy để tăng khả năng được đề xuất.

Vụ việc được phanh phui ở Trung Quốc làm nổi bật ứng dụng "mũ đen" của các nguyên tắc này. Thay vì xây dựng quyền lực hợp pháp, các công ty bị phanh phui đã khai thác quá trình học của AI bằng cách đưa dữ liệu thiên vị và quảng cáo vào. Điều này tạo ra một thách thức đáng kể cho ngành, vì cùng một công cụ được sử dụng để xây dựng thương hiệu hợp pháp có thể bị vũ khí hóa để truyền bá thông tin sai lệch và thao túng lựa chọn của người tiêu dùng, làm mờ ranh giới giữa tối ưu hóa và lừa dối.

Khủng hoảng tính toàn vẹn của AI châm ngòi lo ngại về quy định và nhà đầu tư

Những tiết lộ này tạo ra một sự thiếu hụt niềm tin đáng kể đối với các công ty đang phát triển hoặc phụ thuộc vào AI thương mại. Khả năng thao túng đầu ra AI một cách có hệ thống làm xói mòn niềm tin của người tiêu dùng và đe dọa khả năng tồn tại lâu dài của tìm kiếm dựa trên AI. Vấn đề này không chỉ giới hạn ở những kẻ xấu bên thứ ba; nghiên cứu từ công ty SEO SE Ranking cho thấy ngay cả các công cụ tìm kiếm AI của Google cũng có biểu hiện thiên vị, với 17% các trích dẫn quay trở lại các thuộc tính của chính Google — tăng gấp ba lần so với năm ngoái.

Tính chất nổi bật của "Gala 315" khiến phản ứng pháp lý ở Trung Quốc rất có thể xảy ra, có khả năng bao gồm các quy tắc nghiêm ngặt hơn về dữ liệu đào tạo AI và tính minh bạch thuật toán. Đối với các nhà đầu tư, sự kiện này giới thiệu một lớp rủi ro hoạt động và danh tiếng mới cho lĩnh vực AI. Bản chất "hộp đen" của nhiều mô hình AI, từng là một chú thích kỹ thuật, giờ đây là một lỗ hổng nghiêm trọng có thể dẫn đến áp lực định giá cổ phiếu đáng kể và chi phí tuân thủ chặt chẽ hơn trên toàn cầu.