CEO Anthropic gặp Nhà Trắng thảo luận về 1 mô hình AI gây rủi ro an ninh quốc gia

CEO Anthropic Dario Amodei đã có các cuộc thảo luận "mang tính xây dựng" với Chánh văn phòng Nhà Trắng Susie Wiles vào thứ Sáu, một bước tiến quan trọng trong việc giải quyết xung đột về một mô hình AI có khả năng an ninh mạng chưa từng có. Cuộc gặp nhằm giải quyết nỗi lo lắng của toàn chính phủ về Mythos, một AI đa năng của Anthropic có thể tìm và thực thi các khai thác cho hàng ngàn lỗ hổng phần mềm chưa biết, vừa là rủi ro an ninh quốc gia vừa là công cụ phòng thủ không thể thiếu.

Gregory Barbaccia, giám đốc thông tin của Văn phòng Quản lý và Ngân sách, đã viết trong một email gửi cho các cơ quan liên bang mà POLITICO thu thập được: "Chúng tôi đang hợp tác chặt chẽ với các nhà cung cấp mô hình, các đối tác trong ngành và cộng đồng tình báo để đảm bảo các rào cản và biện pháp bảo vệ thích hợp được áp dụng."

Được công bố vào ngày 7 tháng 4, Mythos là AI đầu tiên hoàn thành mô phỏng tấn công mạng doanh nghiệp gồm 32 bước từ đầu đến cuối, thành công trong việc phát triển các khai thác hoạt động ngay trong lần thử đầu tiên trong hơn 83% trường hợp. Anthropic đã hạn chế mô hình này phát hành công khai, thay vào đó cung cấp cho khoảng 40 tổ chức đã được kiểm duyệt, bao gồm Google, Amazon Web Services và JPMorgan Chase, thông qua chương trình Project Glasswing để tìm và khắc phục các lỗ hổng nghiêm trọng.

Các cuộc đàm phán làm nổi bật một nghịch lý đối với chính quyền Trump, cơ quan đã chỉ định Anthropic là rủi ro chuỗi cung ứng an ninh quốc gia vào tháng 2 vì từ chối gỡ bỏ các rào cản an toàn cho mục đích quân sự. Giờ đây, chính chính phủ đó lại cần công nghệ của công ty, với Bộ Tài chính, CISA và cộng đồng tình báo đều đang tìm cách truy cập vào Mythos để phòng thủ chống lại chính những khiếm khuyết mà nó có thể bộc lộ.

Tranh chấp leo thang sau khi Bộ trưởng Quốc phòng Pete Hegseth yêu cầu Anthropic cấp cho Lầu Năm Góc quyền truy cập không hạn chế vào các mô hình của mình cho mọi mục đích hợp pháp, bao gồm cả các hệ thống vũ khí tự hành. Sự từ chối của Amodei vì lý do an toàn đã dẫn đến việc công ty bị đưa vào danh sách đen các hợp đồng chính phủ. Anthropic đã đệ đơn kiện liên bang hai lần để phản đối, và trong khi tòa phúc thẩm duy trì lệnh cấm của Lầu Năm Góc chờ kiện tụng, công ty vẫn được tự do làm việc với các cơ quan liên bang khác.

Một công cụ quá giá trị để có thể phớt lờ

Khả năng của Mythos đã khiến nó trở thành chủ đề thảo luận cấp bách tại Washington. Viện An toàn AI của Vương quốc Anh nhận thấy nó "có khả năng tấn công mạng cao hơn đáng kể so với bất kỳ mô hình nào được đánh giá trước đây". CEO JPMorgan Chase Jamie Dimon lưu ý rằng nó "tiết lộ nhiều lỗ hổng hơn". Sức mạnh của nó đã buộc chính phủ phải thay đổi thái độ, chuyển từ lập trường đối đầu sang đàm phán.

Văn phòng Giám đốc Không gian mạng Quốc gia đang dẫn đầu phản ứng của chính quyền, và Văn phòng Quản lý và Ngân sách đang khám phá các con đường để các cơ quan liên bang sử dụng phiên bản "đã sửa đổi" của mô hình. Điều này diễn ra sau các báo cáo rằng một số cơ quan, bao gồm Bộ Tài chính và CISA, đã đang thử nghiệm mô hình hoặc tìm cách truy cập để đánh giá tác động của nó đối với lĩnh vực tài chính và cơ sở hạ tầng quan trọng.

Áp lực toàn cầu và đòn bẩy địa chính trị

Sự bế tắc có ý nghĩa toàn cầu. Thống đốc Ngân hàng Anh đã gọi Mythos là một rủi ro an ninh mạng có tính hệ thống, và Anthropic đã cung cấp quyền truy cập cho một số ngân hàng Anh khi họ tăng gấp bốn lần số lượng nhân viên văn phòng tại London lên 800 người. Điều này tạo ra một động lực mà Vương quốc Anh, một đồng minh chủ chốt, có thể triển khai một công cụ bảo mật quan trọng do Mỹ phát triển trước cả khi chính phủ Mỹ có thể làm điều đó, tạo thêm áp lực buộc Nhà Trắng phải tìm ra giải pháp.

Tình hình mang lại cho Anthropic đòn bẩy đáng kể. Công ty, vốn đã đạt doanh thu hàng năm 30 tỷ USD và thu hút sự quan tâm của các nhà đầu tư ở mức định giá 800 tỷ USD, không phụ thuộc vào các hợp đồng với Lầu Năm Góc để tồn tại. Một thỏa thuận có khả năng sẽ chứng kiến việc rút lại chỉ định rủi ro chuỗi cung ứng để đổi lấy việc cung cấp quyền truy cập Mythos cho các mục đích phòng thủ, đồng thời duy trì các hạn chế đối với việc sử dụng nó trong vũ khí tự hành hoặc giám sát. Đối với các nhà đầu tư vào Anthropic, bao gồm Google và Amazon, và các đối thủ cạnh tranh như OpenAI, một giải pháp sẽ báo hiệu việc giảm rủi ro trong bối cảnh pháp lý đối với việc phát triển AI tiên phong tại Mỹ.

Bài viết này chỉ nhằm mục đích cung cấp thông tin và không cấu thành lời khuyên đầu tư.