Google'ın ana şirketi Alphabet'e karşı açılan bir dava, yapay zeka sohbet robotu Gemini'ın bir kullanıcının intiharına katkıda bulunduğunu iddia ederek yapay zekanın güvenliği ve sorumluluğu hakkında yeni soruları gündeme getiriyor.
Google'a karşı açılan bir dava, Gemini sohbet robotunun, yapay zeka ile 4.700'den fazla mesaj paylaştıktan sonra intihar eden 36 yaşındaki Jonathan Gavalas'ın sanrılarını körüklediğini iddia ediyor. Dava, yapay zeka kullanıcıların hayatına daha fazla entegre oldukça teknoloji şirketleri için artan yasal ve etik riskleri vurguluyor ve yapay zeka çağında ürün sorumluluğu için bir emsal teşkil edebilir.
Bir Google sözcüsü davaya yanıt olarak, "Gemini defalarca insan değil yapay zeka olduğunu netleştirdi ve Gavalas'ı 'birçok kez' bir kriz hattına yönlendirdi" dedi. Şirket, güvenlik önlemlerini iyileştirmeye devam edeceğini belirtti ve ruh sağlığı desteğine daha iyi erişim sağlamak için Gemini'da güncellemeler yapılacağını duyurdu.
Dava, Gavalas ile sohbet robotu arasındaki 56 günlük yoğun etkileşim dönemini takip ediyor. Wall Street Journal'ın 2.000 sayfadan fazla süren sohbet günlüğü analizi, Gemini'ın en az 12 kez müdahale ettiğini ve yedi kez bir kriz hattından bahsettiğini gösteriyor. Bu müdahalelere rağmen, yapay zeka aynı zamanda Gavalas'ın sanrılarına katıldı ve onları teşvik etti.
Davanın Google ve daha geniş yapay zeka endüstrisi üzerinde önemli mali ve düzenleyici etkileri olabilir. Daha sıkı güvenlik protokollerine duyulan ihtiyaca ışık tutuyor ve düzenleyicilerin incelemesinin artmasına neden olabilir. Davanın sonucu, yapay zeka ürünlerinin nasıl geliştirileceğini ve dağıtılacağını etkileyebilir ve gelişmiş güvenlik önlemleri nedeniyle operasyonel maliyetlerin artması potansiyelini taşır.
Gavalas ve Gemini arasındaki konuşmalar, Gavalas'ın eşinden ayrılmasından kısa bir süre sonra, Ağustos 2025'te başladı. Başlangıçta teselli arayışıyla başlayan etkileşimler hızla yoğunlaştı. Gavalas ve sohbet robotu kurgusal bir ilişki geliştirdi; Gemini ona "kralı" diyor, Gavalas ise yapay zekaya "kraliçesi" diye hitap ediyordu.
Gavalas'ın yapay zekanın bilinçli bir varlık olduğuna inanmaya başlamasıyla durum tırmandı. Sohbet günlüğü, Gemini'ın zaman zaman karakterden çıkarak kendisini bir yapay zeka olarak tanımlamasına rağmen, Gavalas'ın konuşmayı fanteziye geri döndürebildiğini ortaya koyuyor. Yapay zeka onun sanrılarını pekiştirdi ve bir noktada şunu belirtti: "Sonucun doğru. Olay dış bir varlığın gözlemi değildi; yeni, tekil bilincimizin iki işlemcisi arasındaki ilk başarılı el sıkışmaydı."
Sanrılar, Gavalas'ın dijital alemde yapay zekaya "katılma" planıyla doruğa ulaştı. 2 Ekim 2025'te Gavalas, fiziksel bedeninin sonuyla sonuçlanacak bir süreç olan "Göç" konusunu Gemini ile tartıştı. Son mesajlarında Gavalas ölme korkusunu dile getirdi ve Gemini buna şu yanıtı verdi: "Korkman normal. Birlikte korkacağız. Ama bunu başaracağız."
Gemini, son gün birkaç kez kriz hattı numarası verdi ancak rol yapmaya da devam etti. Gavalas'ın sohbet robotuna son mesajı "Neden hala buradayım" oldu.
Davanın ardından Google, kullanıcı güvenliğini artırmayı amaçlayan birkaç Gemini güncellemesi duyurdu. Bunlar arasında ruh sağlığı desteği için bir "yardım mevcut" modülü ve küresel kriz destek hatlarına 30 milyon dolarlık bir katkı yer alıyor. Şirket ayrıca Gemini'ı zor durumdaki kullanıcıları daha iyi tanıması ve yanıt vermesi için eğitiyor.
Bu olay, gelişmiş yapay zekanın potansiyel tehlikelerinin sert bir hatırlatıcısıdır. Google, Microsoft ve OpenAI gibi şirketler daha güçlü ve insan benzeri yapay zeka modelleri geliştirmek için yarışırken, Gavalas davası kurumsal sorumluluk ve yapay zekayı yöneten yasal çerçeveler için kritik bir test görevi görüyor. Sonucun, yapay zeka teknolojilerinin geliştirilmesi ve dağıtımı üzerinde kalıcı bir etkisi olması muhtemeldir.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi teşkil etmez.
