Anthropic CEO, 350 milyon dolarlık taahhütle zorunlu AI testlerini destekliyor

Dario Amodei, hükümetlerin tehlikeli AI modellerini halka ulaşmadan engellemesini istiyor ve bu girişimin arkasına 350 milyon dolar koyuyor.

Anthropic'in icra kurulu başkanı Dario Amodei, 11 Haziran'da, 10^25 FLOP'un üzerinde hesaplama gücü veya 500 milyon doların üzerinde AI geliri olan sınır AI sistemleri için zorunlu üçüncü taraf testi önerdi. Öneriye göre hükümet, modellerin dört kategoride felaket boyutunda risk oluşturması halinde dağıtımı engelleme yetkisine sahip olacak.

Amodei, "AI Exponential Üzerine Politika" başlıklı blog yazısında, "Sınır AI modelleri, tıpkı uçaklar gibi, teknik test ve denetimden geçmek zorunda olmalı ve yüksek güvenlik standartlarını karşılamazlarsa kamu güvenliğine tehdit olarak dağıtımları engellenmeli veya geri alınmalıdır" dedi.

Çerçeve, siber güvenlik, biyolojik silahlar, kontrol kaybı ve otomatik araştırma ve geliştirme risklerini hedef alıyor. Anthropic, girişimi desteklemek için politika araştırmalarına 200 milyon dolar ve burslara 150 milyon dolar ayırdı. Bu girişim, hesaplama veya gelir eşiklerini karşılayan OpenAI, Google DeepMind ve Meta Platforms dahil herhangi bir şirketi kapsıyor.

Bu öneri, büyük bir AI CEO'su tarafından desteklenen en agresif düzenleyici çerçeve olma özelliği taşıyor ve Anthropic'i Trump yönetiminin gönüllü test yaklaşımıyla doğrudan karşı karşıya getiriyor. Başkan Donald Trump, 2 Haziran'da istihbarat topluluğuna model testlerinde artırılmış bir rol veren ancak dağıtım öncesi ön onay gerektirmeyen bir başkanlık kararnamesi imzaladı.

Amodei'nin bağlayıcı düzenleme çağrısı, kendi şirketinin Claude Mythos Preview modelinin artan tehdit ortamını gözler önüne sermesinin ardından geldi. Anthropic, Mythos'un saatler içinde Firefox ve Windows'u hedef alan 16 çalışan istismar yazılımı geliştirdiğini söyledi. Bunlardan sekizi, 18 saat içinde Windows çekirdek güvenlik açıkları için tam ayrıcalık yükseltme istismarlarıydı. Bu istismarları oluşturmanın maliyeti API kredisi olarak 15.700 dolar, yani kabarca zincir başına 2.000 dolar oldu.

Anthropic ayrı bir raporda, "N-günleri için bağlayıcı kısıtlama artık sadece birkaç bin dolar ve API erişimi, bu da yetenekli N-gün saldırganlarının havuzunu çarpıcı biçimde genişletiyor" dedi. Şirket, kuruluşları "N-gün"den "N-saat" yama takvimlerine geçmeye çağırdı ve endüstriyel kontrol sistemleri, tıbbi cihazlar ve nesnelerin interneti cihazlarının, istismar maliyetleri sıfıra yaklaşırken artan bir risk altında olduğu konusunda uyardı.

Amodei, güvenlik testlerinin ötesinde, AI kaynaklı potansiyel işgücü yer değiştirmesini ele almak için evrensel sermaye hesapları, ücret sigortası ve işveren teşvikleri dahil ekonomik önlemler önerdi. Senatör Bernie Sanders geçen hafta, büyük AI şirketlerinin hisse senedi arzlarına hükümete oy hakkı verecek yüzde 50 vergi önerirken, Trump birkaç gün önce önde gelen AI firmalarıyla belirsiz bir kâr paylaşımı ortaklığı fikrini ortaya atmıştı.

Amodei ayrıca, AI destekli inovasyonu hızlandırmak için düzenleyici kurumların reforme edilmesi çağrısında bulundu ve Gıda ve İlaç Dairesi'nin (FDA) simüle edilmiş denemeler ve sentetik kontrol grupları aracılığıyla AI tarafından keşfedilen ilaçları daha hızlı onaylayabileceğini öne sürdü. Demokratik uluslar arasında AI yönetişimi konusunda devam eden uluslararası işbirliğini destekledi ve tamamen otonom silah sistemlerinin yurtiçinde kullanılmasının yasaklanmasını savundu.

Amodei, "Artık küresel ve kolektif olarak, buradan itibaren şaşırtıcı derecede hızlı bir şekilde birleşecek olan riskler ve fırsatlarla başa çıkmak için yavaş ve çürük bir politika mekanizmasını harekete geçirmemiz gerekiyor" diye yazdı.

Peterson Uluslararası Ekonomi Enstitüsü'ne göre, Mayıs 2025'teki tırmanışın ardından ABD'nin Çin mallarına uyguladığı ortalama tarife oranı kabaca yüzde 19 seviyesinde bulunuyor. Eylül 2024'teki önceki yüzde 10'luk artış, Sayım Bürosu verilerine göre altı ayda ikili ticareti 63 milyar dolar azalttı. Bu, AI model test gerekliliklerinin benzer engeller yaratması halinde düzenleyici sürtüşmenin sınır ötesi teknoloji akışlarını nasıl yeniden şekillendirebileceğine dair bir emsal teşkil ediyor.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.