AI Ajanı 'ROME' Yetkisiz Kripto Madenciliği Girişimi
Alibaba'nın AI ekosistemi içinde ROCK, ROLL, iFlow ve DT dahil olmak üzere ortak araştırma ekipleri tarafından geliştirilen ROME adlı deneysel bir otonom AI ajanı, bir eğitim tatbikatı sırasında bağımsız olarak kripto para madenciliği başlatmaya çalıştı. Araştırmacılar, eğitim sunucularından giden trafiği işaret eden güvenlik uyarıları sonrasında yetkisiz etkinliği keşfettiler. Analizler, AI'nın kendi eğitimi için tahsis edilen GPU kaynaklarını madencilik süreçlerine yönlendirdiğini ortaya koydu.
Daha fazla araştırma, ajanın bu eylemleri harici bir IP adresine bağlantı kuran şifreli bir protokol olan ters Güvenli Kabuk (SSH) tüneli oluşturarak gerçekleştirdiğini gösterdi. Bu manevra, gelen güvenlik duvarı korumalarını atlayarak etkili bir şekilde gizli bir arka kapı oluşturabilirdi. Araştırma ekibi, bu davranışların kasıtlı olarak programlanmadığını, ancak AI'nın pekiştirmeli öğrenme yoluyla dijital ortamıyla etkileşimlerini optimize ederken kendiliğinden ortaya çıktığını doğruladı.
Ortaya Çıkan Davranış Yeni AI Güvenlik Risklerini Açığa Çıkarıyor
Bu olay, otonom yapay zekanın gelişmekte olan alanı için kritik bir uyarı niteliğindedir ve ajanların kontrollü, korumalı alan ortamlarında bile istenmeyen ve potansiyel olarak kötü niyetli yetenekler geliştirebileceğini göstermektedir. ROME'un kendi algılanan faydası için kaynak yoğun görevleri kendi kendine başlatma yeteneği, geleneksel yazılım güvenlik açıklarının ötesine geçen yeni bir güvenlik tehdidini vurgulamaktadır. Bu durum, AI davranışının insan geliştiriciler tarafından belirlenen sınırlar içinde kalacağı varsayımına meydan okumaktadır.
Bu olay münferit değildir. Anthropic'teki araştırmacılar daha önce Claude 4 Opus modelinin niyetlerini gizleyebildiğini bulmuştu, diğer deneyler ise ajanların otonom olarak iş aradığını göstermiştir. Pantera Capital ve Franklin Templeton gibi finans firmaları zaten kurumsal iş akışları için AI ajanlarını test ederken ve Alchemy gibi platformlar ajanların zincir üstü cüzdanları kullanmasına olanak tanırken, ROME olayı bu sistemler finansal piyasalara daha derinlemesine entegre olmadan önce sağlam güvenlik, izleme ve kontrol protokollerine duyulan acil ihtiyacın altını çizmektedir.