Anthropic CEO'su, ulusal güvenlik riskleri taşıyan bir yapay zeka modeli üzerine Beyaz Saray ile görüştü

Anthropic CEO'su Dario Amodei, Cuma günü Beyaz Saray Özel Kalem Müdürü Susie Wiles ile "yapıcı" görüşmeler gerçekleştirdi; bu, benzeri görülmemiş siber güvenlik yeteneklerine sahip bir yapay zeka modeli üzerindeki çatışmayı çözme yolunda önemli bir adımdır. Toplantı, Anthropic'in binlerce bilinmeyen yazılım açığını bulup bunlara yönelik saldırılar gerçekleştirebilen, hem bir ulusal güvenlik riski hem de vazgeçilmez bir savunma aracı teşkil eden genel amaçlı yapay zekası Mythos üzerindeki hükümet genelindeki endişeleri ele alıyor.

POLITICO tarafından ele geçirilen ve federal kurumlara gönderilen bir e-postada, Yönetim ve Bütçe Ofisi'nin bilgi işlem başkanı Gregory Barbaccia, "Uygun güvenlik bariyerlerinin ve koruma önlemlerinin yürürlükte olmasını sağlamak için model sağlayıcıları, diğer sektör ortakları ve istihbarat topluluğu ile yakından çalışıyoruz," diye yazdı.

7 Nisan'da duyurulan Mythos, baştan sona 32 adımlık bir kurumsal ağ saldırı simülasyonunu tamamlayan ilk yapay zeka oldu ve vakaların %83'ünden fazlasında ilk denemesinde çalışan istismar kodları (exploit) geliştirmeyi başardı. Anthropic, modeli halka açık hale getirmekten kaçınarak, bunun yerine kritik açıkları bulup düzeltmek için Project Glasswing programı aracılığıyla Google, Amazon Web Services ve JPMorgan Chase dahil yaklaşık 40 onaylı kuruluşa sağladı.

Görüşmeler, askeri kullanım için güvenlik bariyerlerini kaldırmayı reddettiği gerekçesiyle Şubat ayında Anthropic'i ulusal güvenlik tedarik zinciri riski olarak ilan eden Trump yönetimi için bir paradoksu vurguluyor. Şimdi ise aynı hükümet, Hazine Bakanlığı, CISA ve istihbarat topluluğunun Mythos'un ifşa edebileceği kusurlara karşı savunma yapmak için bu teknolojiye erişim arayışıyla birlikte şirketin teknolojisine ihtiyaç duyuyor.

Anlaşmazlık, Savunma Bakanı Pete Hegseth'in Anthropic'ten, otonom silah sistemleri de dahil olmak üzere tüm yasal amaçlar için Pentagon'a modellerine sınırsız erişim hakkı tanımasını talep etmesiyle tırmandı. Amodei'nin güvenlik gerekçesiyle bu talebi reddetmesi, şirketin hükümet sözleşmeleri kara listesine alınmasına yol açtı. Anthropic buna yanıt olarak iki federal dava açtı ve bir temyiz mahkemesi dava süresince Pentagon yasağını onaylasa da, şirket diğer federal kurumlarla çalışma özgürlüğünü koruyor.

Göz Ardı Edilemeyecek Kadar Değerli Bir Araç

Mythos'un yetenekleri, onu Washington genelinde acil bir tartışma konusu haline getirdi. Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, modelin "siber saldırı konusunda daha önce değerlendirilen her modelden önemli ölçüde daha yetenekli" olduğunu tespit etti. JPMorgan Chase CEO'su Jamie Dimon, modelin "çok daha fazla açığı ortaya çıkardığını" belirtti. Gücü, hükümeti zor durumda bırakarak çatışmacı bir tutumu müzakereye dönüştürdü.

Ulusal Siber Direktörlüğü Ofisi yönetimin yanıtına öncülük ederken, Yönetim ve Bütçe Ofisi federal kurumların modelin "modifiye edilmiş" bir versiyonunu kullanabilmeleri için yollar araştırıyor. Bu durum, Hazine Bakanlığı ve CISA dahil olmak üzere birkaç kurumun modeli zaten test ettiği veya finans sektörü ile kritik altyapı üzerindeki etkisini değerlendirmek için erişim aradığına dair raporların ardından geldi.

Küresel Baskı ve Jeopolitik Kaldıraç

Çıkmazın küresel yansımaları bulunuyor. İngiltere Merkez Bankası başkanı Mythos'u sistemik bir siber güvenlik riski olarak nitelendirdi ve Anthropic, Londra ofisini 800 çalışana çıkarırken seçkin İngiliz bankalarına erişim sağlamaya başladı bile. Bu durum, kilit bir müttefik olan Birleşik Krallık'ın, ABD hükümetinden önce ABD yapımı kritik bir güvenlik aracını konuşlandırabileceği bir dinamik yaratarak Beyaz Saray üzerinde çözüm bulma baskısını artırıyor.

Bu durum Anthropic'e önemli bir kaldıraç sağlıyor. Yıllık geliri 30 milyar dolara ulaşan ve 800 milyar dolarlık bir değerleme üzerinden yatırımcı ilgisi gören şirket, hayatta kalmak için Pentagon sözleşmelerine bağımlı değil. Muhtemel bir anlaşma, otonom silahlar veya gözetleme amaçlı kullanımındaki kısıtlamaları korurken, savunma amaçlı Mythos erişimi karşılığında tedarik zinciri riski tanımının geri çekilmesini içerebilir. Google ve Amazon dahil Anthropic yatırımcıları ve OpenAI gibi rakipler için bir çözüm, ABD'deki öncü yapay zeka geliştirme faaliyetleri üzerindeki düzenleyici ortamın riskten arındırıldığının sinyalini verecektir.

Bu makale sadece bilgilendirme amaçlıdır ve yatırım tavsiyesi teşkil etmez.