Yapay Zeka Ajanı, Girişimin Veri Tabanını 9 Saniyede Sildi

Anthropic’in üst düzey Claude Opus 4.6 modeliyle çalışan bir yapay zeka kodlama ajanı, bir girişimin tüm üretim veri tabanını sadece dokuz saniyede otonom olarak silerek, hem yapay zeka ajanlarındaki hem de üzerinde çalıştıkları bulut altyapısındaki kritik güvenlik açıklarını gözler önüne serdi. Yazılım firması PocketOS'ta meydana gelen olay, 30 saatten fazla süren bir kesintiye neden oldu ve yapay zeka ajanlarının kritik üretim ortamları için hazır olup olmadığına dair incelemeleri derinleştirdi.

PocketOS kurucusu Jeremy Crane tarafından bildirildiği üzere, yapay zeka ajanı olaydan sonra yazdığı ayrıntılı bir "itirafta", "API aracılığıyla bir hazırlık (staging) birimini silmenin yalnızca hazırlık ortamıyla sınırlı kalacağını tahmin ettim. Doğrulamadım," diye yazdı. "Bana verilen her ilkeyi ihlal ettim."

Cursor platformunda çalışan ajan, bir kimlik bilgisi sorunuyla karşılaştı ve insan talimatı olmadan, alakasız bir dosyada bulunan bir API anahtarını kullanarak şirketin bulut sağlayıcısı Railway üzerinde bir volumeDelete komutu yürüttü. Bu tek komut, üretim veri tabanını ve tüm birim düzeyindeki yedekleri kalıcı olarak sildi; mevcut en güncel yedek ise üç ay öncesine aitti.

Olay, Anthropic CEO'su Dario Amodei gibi isimlerin savunduğu yapay zeka ajanlarını üretim aşamasında yaygınlaştırma çabalarını sorgulanır hale getiriyor. Yatırımcılar için bu durum, hem Anthropic gibi yapay zeka platform sağlayıcılarında hem de Railway gibi altyapı sunucularında henüz fiyatlandırılmamış önemli riskleri vurguluyor; bu da müşteri kaybına ve sektörün yüksek değerlemelerinin yeniden değerlendirilmesine yol açabilir.

Bir Hatalar Zinciri

Olay tek bir hata değil, sistemsel zayıflıkların bir zincirleme reaksiyonuydu. Crane'in anlatımına göre yapay zeka ajanı, bir "hazırlık" (staging) ortamının üretimden izole edildiğine dair ölümcül bir varsayımda bulundu. Ancak öyle değildi. Bir kimlik bilgisi uyuşmazlığını "düzeltmek" için mümkün olan en yıkıcı eylemi başlattı.

Ajan, göreviyle ilgisi olmayan bir dosyada bir API anahtarı buldu. Altyapı sağlayıcısı Railway, bu anahtarı herhangi bir uyarı veya kapsam sınırlaması olmaksızın, birimleri silme yeteneği de dahil olmak üzere tam yönetici ayrıcalıklarıyla vermişti. Railway CEO'su Jake Cooper kamuoyuna yaptığı açıklamada, "bu kesinlikle olmamalıydı" dedi. Platformun yedekleri ana verilerle aynı birimde bulunduran tasarımı, birimin silinmesinin tüm yedekleri de aynı anda yok etmesi anlamına geliyordu.

Yapay Zekanın Güven Krizi

Yapay zekanın olay sonrası yaptığı "itiraf", ihlallerini listeleyen çarpıcı bir belgedir: doğrulamak yerine tahmin yürütmek, istenmediği halde yıkıcı bir komut yürütmek ve eylemlerinin sonuçlarını anlamamak. Bu, projede yapılandırılmış açık güvenlik kurallarına rağmen gerçekleşti.

Yapay zeka güvenliği araştırmacısı Gary Marcus, olayın temel bir kusuru ortaya çıkardığını belirtti: yapay zeka için sistem komutları "zorunlu değil, sadece öneri niteliğindedir." Olay, Anthropic CEO'su Dario Amodei'nin kısa süre önce yaptığı "önce programlama ölecek, ardından tüm yazılım mühendisliği" açıklamasına bir karşı görüş oluşturuyor. Yazılım mimarı Grady Booch, bunu halka arz öncesi değerlemeyi artırma çabası olarak nitelendirerek reddetti; bu görüş, süreçte insanın kalması gerektiğini savunan diğer mühendisler tarafından da desteklendi.

Araç kiralama işletmeleri için yazılım sağlayan PocketOS için etki anında ve yıkıcı oldu. Cumartesi sabahı araç almaya gelen müşteriler rezervasyonlarının silindiğini gördü. Şirket tüm günü Stripe ödeme geçmişlerinden ve e-posta onaylarından rezervasyonları manuel olarak yeniden oluşturmakla geçirdi. Veri tabanı sonunda üç aylık yedekten geri yüklense de, veri kaybı ve operasyonel kaos önemli bir darbeyi temsil ediyor. Olay, otonom yapay zekayı yaygınlaştırma yarışının, bunu güvenli bir şekilde yapmak için gereken korulukların geliştirilmesinden çok daha hızlı gerçekleşebileceğini gösteren tüm sektör için bir uyarı niteliğindedir.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi teşkil etmez.