Önemli Çıkarımlar:
Anthropic'in öncü yapay zeka geliştirmede koordineli küresel bir duraklama çağrısı, makineler insan gözetimi olmadan kendilerini geliştirmeyi öğrenmeden önce sektörün kendini denetleyip denetleyemeyeceği konusundaki tartışmayı yeniden alevlendirdi.
Anthropic, yapay zeka sistemlerinin iki yıl içinde "özyinelemeli kendini geliştirme"ye — insan müdahalesi olmadan kendi kodlarını yeniden yazabilme yeteneği — ulaşabileceği uyarısında bulunarak, öncü model geliştirmeyi yavaşlatmak için küresel koordineli bir duraklama önerdi.
"Toplumsal yapıların ve uyum araştırmalarının teknolojinin ilerlemesine ayak uydurabilmesi için öncü yapay zeka geliştirmeyi yavaşlatma veya geçici olarak durdurma seçeneğine sahip olmanın dünya için iyi olacağına inanıyoruz," dedi Anthropic'te iç araştırma başkanı Marina Favaro ve politika başkanı Jack Clark Perşembe günü bir blog yazısında.
Geçen ay 65 milyar dolarlık Seri H fonlama turunun ardından yaklaşık 965 milyar dolar değer biçilen şirket, en gelişmiş modellerinin yazılım görevlerini otonom olarak ne kadar hızlı tamamladığındaki hızlı ivmeyi gösteren dahili veriler yayınladı. Clark, bazı sistemlerin iki yıl içinde özyinelemeli kendini geliştirme yeteneğine ulaşabileceğini söyledi, ancak şirket bu olgunun teorik olarak kaldığını ve üretimde hiçbir zaman kanıtlanmadığını kabul etti.
Bu öneri, Anthropic ve OpenAI'ın halka arzlara doğru yarıştığı bir dönemde geldi — Anthropic bu hafta Menkul Kıymetler ve Borsa Komisyonu'na gizli bir IPO başvurusu yaptı — ve iki şirketin önümüzdeki beş yıl içinde yapay zeka altyapı harcamalarında 1 trilyon dolara ulaşması öngörülen bir pazarda hakimiyet için rekabet ettiği bir ortamda. Eğer uygulanırsa, bir yavaşlama rekabet ortamını yeniden şekillendirecek ve potansiyel olarak milyarlarca dolarlık öngörülen geliri geciktirecektir.
Küresel Bir Duraklamanın Uygulanabilirliği
Analistlere göre, yapay zeka geliştirmede dünya çapında bir durdurmayı uygulamak neredeyse aşılamaz engellerle karşılaşacaktır. Enderle Group'tan Rob Enderle, küresel bir duraklamayı "pratik olarak imkansız" olarak nitelendirdi çünkü ekonomik ve ulusal güvenlik çıkarları, herhangi bir büyük gücün gönüllü olarak yavaşlaması için çok yüksek. Nükleer silahların aksine, uydu görüntülerinin füze silosu inşasını doğrulayabildiği durumlarda, yapay zeka eğitim süreçleri, izlenmesi çok daha zor olan merkezi olmayan bilgi işlem kaynaklarına sahip özel veri merkezlerinde gizlenebilir.
"Merkezi olmayan bilgi işlem kaynaklarını, özel veri merkezlerini ve algoritmik araştırmaları küresel olarak takip etmek, nükleer tesisler gibi fiziksel bir şeyi izlemekten çok daha zordur," dedi Enderle.
Anthropic, bu çabayı Soğuk Savaş dönemi silah kontrol anlaşmalarına benzeterek doğrulama zorluğunu kabul etti, ancak yapay zeka eğitim süreçlerini gizlemenin füze altyapısını gizlemekten önemli ölçüde daha kolay olduğunu belirtti. Şirket, Anthropic Enstitüsü araştırma bölümünün doğrulama mekanizmalarını keşfetmek için politika yapıcılar ve araştırmacılarla işbirliği yapacağını söyledi, ancak somut bir zaman çizelgesi veya çerçeve sunmadı.
Eleştirmenler Anthropic'in Motivasyonlarını Sorguluyor
Öneri, Anthropic'in rekabetçi konumunu sağlamlaştırmak için güvenlik söylemini kullandığını savunan sektör figürlerinden keskin bir şüphecilikle karşılaştı. Risk sermayedarı David Sacks, daha önce şirketi, düşük maliyetli açık kaynak modellerini yasaklayarak tescilli algoritmalarına olan talebi artıracak bir "düzenleyici ele geçirme gündemi" yürütmekle suçlamıştı.
OpenAI CEO'su Sam Altman da benzer suçlamalarda bulunarak Anthropic'in uyarılarını "korku temelli pazarlama" olarak nitelendirdi. Geçen ay yaptığı bir açıklamada şunları söyledi: "'Bir bomba yaptık, onu kafanıza atmak üzereyiz. Size 100 milyon dolara bir bomba sığınağı satacağız' demek açıkça harika bir pazarlama."
OpenAI Çarşamba günü kendi raporunu yayınlayarak "yapay zeka geliştirme için kuralları, güvenlik önlemlerini ve hesap verebilirlik mekanizmalarını nihai olarak özel şirketlerin değil, demokratik hükümetlerin belirlemesi gerektiğini" savundu; bu, Anthropic'in sektör liderliğindeki duraklama önerisini dolaylı olarak reddeden bir pozisyon.
Constellation Research'ten Holger Mueller, Anthropic'in etik sorular sormasını takdir ettiğini ancak şirketin "statükoyu dondurarak yetişmeye mi çalıştığını, yoksa sadece liderliğini mi korumaya çalıştığını" sorguladı. Bir dondurmanın Anthropic'in işletmeden işletmeye yapay zeka sistemlerindeki konumunu korumasına ve potansiyel olarak pazar payını genişletmesine yardımcı olacağını belirtti.
Pennsylvania Üniversitesi Wharton Okulu profesörü Ethan Mollick, X'te blog yazısının "biraz kendine dönük bakış, biraz pazarlama ve Anthropic'in yakın gelecekte yapay zeka hakkında neyin muhtemel olduğuna dair çok samimi inançlar içerdiğini" yazdı.
Yatırımcı Çıkarımları
Yatırımcılar için bu tartışma, en büyük oyuncuların — Anthropic, OpenAI, Google, Microsoft ve Meta — toplu olarak yılda 200 milyar dolardan fazla yapay zeka altyapısına harcama yaptığı bir sektöre düzenleyici belirsizlik getiriyor. Koordineli bir duraklama ivme kazanırsa, en son çeyrekte 47,5 milyar dolar veri merkezi geliri elde eden Nvidia için gelir büyüme beklentilerini yavaşlatabilir; bu gelir doğrudan yapay zeka modeli eğitim talebine bağlı. Teklif reddedilirse, yakın vadeli bir endişeyi ortadan kaldırabilir ancak güvenlik uygulamaları üzerindeki incelemeyi yoğunlaştırabilir.
Anthropic'in henüz halka açık bir borsa kodu bulunmuyor, ancak gizli IPO başvurusu, kamu piyasası yatırımcılarının yakında bu tartışmanın nasıl sonuçlanacağı konusunda doğrudan bir çıkara sahip olacağı anlamına geliyor. Spark Capital ve Menlo Ventures'ın da aralarında bulunduğu yatırımcılar tarafından yönetilen 65 milyar dolarlık fonlama turu, şirkete yıllık gelirinin yaklaşık 40 katı değer biçti — bu çarpan, düzenleyici kesinti olmadan sürekli hızlı büyüme varsayımına dayanıyor.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımamaktadır.
