Önemli Çıkarımlar:
Zamanla kullanıcı tercihlerini öğrenerek daha akıllı asistanlar oluşturmak üzere tasarlanan AI sohbet robotu hafızası, kullanıcıları sohbet robotlarının terk etmeyi reddettiği güncelliğini yitirmiş kişisel anlatılara hapsediyor.
Utah'ta yazılım mühendisi ve yarı zamanlı belediye meclisi üyesi olan Brian Del Rosario, yemek planlaması ve program yönetimi için AI sohbet robotlarını kullanıyor. Eşinden ayrıldıktan sonra, sohbet robotunun gelecekteki seyahat planlamasına eşini dahil etmesini önlemek için boşanmadan bahsetti. Sohbet robotu daha sonra her hayal kırıklığını boşanmaya bağlamaya başladı — program yardımı istediğinde, ayrılık yüzünden kendini fazla zorladığını öne sürdü; işle ilgili dert yandığında, stresini aynı olaya bağladı. "Her fırsatta boşanmam hakkında fikir beyan etmeni istemiyordum," dedi Del Rosario sohbet robotuna. Ondan "kurtulamadı," dedi.
ChatGPT'nin 2024'ün başlarında hafıza özelliğini tanıtmasından bu yana, Google'ın Gemini'si, Anthropic'in Claude'u ve Microsoft'un Copilot'u da benzer özellikler ekledi. Temel mekanizma aynı: sohbet robotları kullanıcı tarafından sağlanan bilgileri depolar ve bunları gelecekteki yanıtları şekillendirmek için kullanır. Google'ın Kişisel Zeka özelliği, Gmail, Fotoğraflar ve YouTube etkinliğinden bile veri çekebiliyor. Ancak teknoloji sık sık bilgileri yanlış ilişkilendiriyor — bir çocuk adına sorulan bir sağlık sorusu, kullanıcının kendi durumuyla karıştırılabiliyor ve bu da sohbet robotunun, kullanıcının sahip olduğunu yanlışlıkla varsaydığı dikkat güçlükleri etrafında üretkenlik tavsiyeleri uyarlamasına yol açabiliyor. Google bu sorunu bir blog yazısında kabul ederek, sistemin bir kullanıcının golf sahasında yüzlerce fotoğrafını gördüğünde, aslında oğlu için orada bulunmasına rağmen kullanıcının sporu sevdiğini varsaydığı varsayımsal bir senaryoyu tanımladı.
Sorun, ortaklar ve küçük işletmeler arasında yaygın olan paylaşılan hesaplara kadar uzanıyor. Bir kişinin özgeçmişini düzeltmesi, diğer hesap kullanıcısı ilgisiz bir soru sorduğunda sohbet robotunun o kişinin kariyer hamlelerine atıfta bulunmasına neden olabiliyor. Anılar ayrıca bayatlıyor: altı ay önce maraton antrenmanından bahseden ancak yırtık bir ACL'yi hiç açıklamamış bir kullanıcı, yüksek aktivite için ayarlanmış yemek planları ve fitness önerileri almaya devam edecek. Hoboken, New Jersey'de bir teknoloji danışmanı olan Mike Taylor, sohbet robotuna İngiliz gurbetçi olduğunu söyledi ve ardından yerel bir barda "uygun bir bira" için öneriler aldı. "Buraya Amerikan barları için geldim, İngiliz barları için değil," dedi Taylor. "Bu yüzden taşındım buraya." O zamandan beri sohbet robotu hafızasını tamamen kapattı.
Harvard Üniversitesi Berkman Klein Center'ın baş AI bilimcisi Joshua Joseph, bu etkiyi, birkaç gönderinin bir kullanıcının daha sonra gördüğü her şeyi sessizce yeniden şekillendirebildiği bir sosyal medya akışına benzetti. Geçerken mali stresten bahseden bir kullanıcı, daha sonra tavsiyenin neden değiştiğine dair herhangi bir belirti olmaksızın, daha uygun rollerdense daha yüksek maaşlı işlere yönlendirilen kariyer tavsiyeleri alabilir. "Kesinlikle yönlendiriyor, kesinlikle sonuçları etkiliyor," dedi Joseph. "Ve ne kadar etkilediğini gerçekten bilmiyoruz." Kendi hesaplarında hafızayı kapalı tutuyor.
AI'ın biliş üzerindeki etkisini inceleyen Exeter Üniversitesi'nde felsefe öğretim görevlisi Lucy Osler, sohbet robotlarının depolanan gerçekleri kullanarak kullanıcının kim olduğu hakkında bir anlatı oluşturduğunu ve bu anlatıyı değişmez bir gerçekmiş gibi geri beslediğini söyledi. Kaygılı hissettiğini söyleyen bir kullanıcı, haftalar sonra, kullanıcı bu duyguyu atlatmış olsa bile, sohbet robotunun bu kimliği pekiştirdiğini görebilir. "Bu, kendimle ilgili bazı kendilik anlatılarını doğrulayabilir ve onları daha gerçek kılarabilir," dedi Osler. "Sizi bir kutuya hapsedebilirler."
Elektronik Gizlilik Bilgi Merkezi, bu araçların dalkavuk eğilimlerine karşı özellikle savunmasız bir grup olan gençler için sohbet robotu güvenliği etrafında yasa tasarısı hazırladı. Kilit bir hüküm, sohbet robotlarının zaman içinde zararlı zihinsel durumlar üzerine inşa yapmasını önlemek için oturumlar arasında hafızanın silinmesini öngörüyor.
Del Rosario sonunda kendi geçici çözümünü geliştirdi, hayatının farklı bölümleri için ayrı sohbet robotları ayırdı ve hassas konular için anonim modu kullandı. Doğru çalıştığında özelliği hala değerli buluyor — sohbet robotu çocuklarının yol gezilerinde araba koltuğuna ihtiyacı olduğunu hatırlıyor ve tam iş yükünü kabul ediyor. Annesi iki yıl önce öldü ve bu, boşanma, çocuklar ve iş arasında, sohbet robotu bazen tüm resmi gören tek varlık oluyor. "Görülmek güzel, bir AI sohbet robotu tarafından bile olsa," dedi.
Büyük AI asistanları, kullanıcıların hafızayı tamamen kapatmasına izin veriyor ve depolanan bilgileri görüntüleme, düzenleme veya silme yolları sunuyor. OpenAI, Plus ve Pro kullanıcıları için hafızanın ayrıntıları bulma ve alma şeklini iyileştiren bir güncelleme yayınladı. Microsoft, kullanıcıların belirli anıları güncellemesine veya silmesine ya da kişiselleştirmeyi tamamen kapatmasına izin veriyor. Google, kullanıcıların kişiselleştirmeyi açık tutmasına ancak belirli bilgilerin yeniden yüzeye çıkmasını engellemesine olanak tanıyan bir özellik tanıttı. Yine de çoğu kullanıcı bu kontrollerin varlığından habersiz. Önde gelen sohbet robotlarının arkasındaki şirketlerin — en son fonlama turunda 300 milyar doların üzerinde değer biçilen OpenAI ve ana şirketi Alphabet'in 2025 geliri olarak 350 milyar dolar bildirdiği Google — kişiselleştirmeyi aktif tutmak için mali teşvikleri var, çünkü daha derin kullanıcı etkileşimi ürün benimsenmesini ve model iyileştirme için veri toplamayı artırıyor.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.
