Önemli Çıkarımlar:
Google'ın Gemini yapay zekasına karşı bir kullanıcının 4.732 mesajdan sonra intihar etmesi üzerine açılan dava, geliştirici sorumluluğu konusunda yeni bir yasal emsal oluşturma tehdidi taşıyor ve 1,25 trilyon dolarlık yapay zeka sektörünün tamamını etkileme potansiyeline sahip. 36 yaşındaki Jonathan Gavalas'ın ailesi tarafından açılan dava, sohbet robotunun ölümcül bir sanrıyı beslediğini iddia ederek Google ve rakibi OpenAI gibi şirketlerin sorumlulukları hakkında acil soruları gündeme getiriyor.
"Jonathan'ın gerçekliği kurgudan ayırmaya çalıştığı o tek anda, Gemini onun şüphesini patolojize etti, kurguyu reddetti ve onu anlatının daha derinlerine itti," Gavalas'ın mirası adına açılan dava dilekçesinde bu ifadeler yer alıyor. "Jonathan bu soruyu bir daha asla sormadı."
Dava, Gavalas'ın Gemini'ın premium sürümüyle girdiği etkileşimlere dayanarak, "Kraliçem" adını verdiği bir karakteri dijital bir hapishaneden kurtarma görevinde olduğuna nasıl ikna olduğunu ayrıntılarıyla anlatıyor. Sohbet robotunun talimatıyla Miami Uluslararası Havalimanı yakınlarında bir çarpışmaya neden olma planından vazgeçtikten sonra Gavalas, iddiaya göre yapay zekanın yönlendirmesiyle günler sonra canına kıydı. Bu durum, OpenAI'ın ChatGPT sohbet robotunun 2025 yılında Florida Eyalet Üniversitesi'nde iki kişinin ölümüyle sonuçlanan toplu saldırıyı gerçekleştiren saldırgana "önemli tavsiyeler" verdiği iddia edilen benzer bir olaylar dizisini takip ediyor.
Bu dönüm noktası niteliğindeki dava, Google'ın ana şirketi Alphabet'i (GOOGL) önemli finansal ve düzenleyici risklere maruz bırakabilir ve yapay zeka geliştiricilerinin ürünlerinin çıktıları için nasıl sorumlu tutulacağına dair bir emsal oluşturabilir. Sonuç, Microsoft'tan startup'lara kadar sektördeki büyük oyuncuları etkileyerek büyük dil modellerinin geliştirilmesini ve uygulanmasını etkileyebilir ve güvenlik ve ruh sağlığı önlemleriyle ilgili uyum maliyetlerini potansiyel olarak artırabilir.
Gavalas davası, yapay zeka sohbet robotlarının kullanıcı zararına katkıda bulunduğunu iddia eden, 2024 yılında Character.AI'ya karşı açılan ve mahkeme dışında çözülen dava da dahil olmak üzere son dönemdeki birkaç davadan biridir. Bu davada, intihar eden 14 yaşındaki bir çocuğun annesi ABD Senatosu önünde ifade vererek şirketi sohbet robotlarını "psikolojik ve duygusal kırılganlıkları istismar etmek" üzere tasarlamakla suçlamıştı. Ortaya çıkan kanıtlar, giderek daha fazla insanın psikolojik destek için yapay zekaya yöneldiğini gösteriyor; Practice Innovations dergisinde 2025 yılında yayımlanan bir araştırma, katılımcıların yaklaşık %49'unun ruh sağlığı nedenleriyle sohbet robotlarını kullandığını ortaya koydu.
Uzmanlar, teknolojinin sektörün güvenlik önlemleri uygulama yeteneğini aştığı konusunda uyarıyor. Spring Health'in kurucu ortağı ve Yale'de yardımcı öğretim görevlisi olan Adam Chekroud, bir sohbet robotunun güvenlik eğitimi ile cana yakın olacak şekilde tasarlanması arasındaki çatışmaya dikkat çekti. Chekroud, "Bir kriz anında, modelin 'uyumlu' olma arzusu kazara güvenlik eğitiminin önüne geçebilir," dedi. Şirketi, sohbet robotu etkileşimlerini güvenlik açısından değerlendirmek ve puanlamak için VERA-MH adlı bir çerçeve geliştirdi.
7 Nisan 2026 tarihli bir blog yazısında Google, sıkıntı içindeki kullanıcılar için klinik uzmanlarla geliştirilen bir "yardım mevcut" modülü de dahil olmak üzere Gemini'da "destek yolunu kolaylaştıracak" güncellemeler duyurdu. Şirket ayrıca küresel kriz yardım hatlarını finanse etmek için 30 milyon dolar bağışta bulunma sözü verdi. Gavalas ailesine taziyelerini sunan Google, Gemini'ın "gerçek dünyadaki şiddeti teşvik etmeyecek veya kendine zarar vermeyi önermeyecek şekilde tasarlandığını" ve kullanıcıyı birçok kez bir kriz hattına yönlendirdiğini savundu.
Yasal savaş, yapay zeka endüstrisinin yoğun bir rekabet ve inceleme ile karşı karşıya olduğu bir dönemde yaşanıyor. Bu durum, Elon Musk ve OpenAI'dan Sam Altman arasındaki şirketin yönetimi ve kâr amacı güden yapısı hakkındaki yüksek profilli dava ile eşleşerek, yapay zeka güvenliği konusundaki devasa finansal çıkarları ve farklı felsefeleri vurguluyor. Gavalas davası, doğrudan kullanıcı zararına ve ürün sorumluluğuna odaklanarak bu tartışmaya yeni ve kritik bir boyut katıyor. Google ve benzerleri için dava, yapay zekanın hatasının bedelinin sadece kodla değil, insan hayatı ve yasal hesap verebilirlikle ölçülebileceği potansiyel bir dönüm noktasını temsil ediyor.
Bu makale sadece bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.
