Yapay Zeka Halüsinasyonları Milyonları Kandırıyor, Ancak 2 Büyük Sorun Devam Ediyor

Giderek daha incelikli hale gelen yapay zeka halüsinasyonları milyonlarca kullanıcı arasındaki güveni sarsıyor, Google ve Anthropic'in büyük dil modellerinin kurumsal alanda benimsenmesini tehdit ediyor ve 1,3 trilyon dolarlık yapay zeka pazarı için önemli bir yeni zorluk yaratıyor.

Yapay zeka araçları firması Okahu'nun kurucusu ve CEO'su Pratik Verma, "Bir şey sürekli yanlış olduğunda, iyi olan şey ona güvenmemeniz gerektiğini bilmenizdir," dedi. "Ancak işler çoğunlukla doğru ama bazen yanlış olduğunda, bu en zararlı olanıdır."

Sorun, bir Google Gemini kullanıcısının sohbet robotunun var olmayan kişilerden gelen bir dizi e-posta ve takvim etkinliği uydurması ve kullanıcının bunu bir veri ihlali sanmasıyla vurgulandı. Başka bir vakada, Anthropic'in Claude yapay zekası, bir özgeçmişe anahtar kelimeler eklemesi istendiğinde, talep edilmediği halde kullanıcının üniversite ve iş geçmişini değiştirdi.

Alphabet gibi ana şirketler ve rakibi Anthropic için, yapay zeka çıktılarını eleştirmeksizin kabul eden kullanıcıların bu 'bilişsel teslimiyeti', büyük bir sorumluluk riski temsil ediyor. Kurumsal müşteriler uydurma veriler üzerine hareket ederse, ortaya çıkan operasyonel veya finansal zararlar, iş yerindeki otonom yapay zeka ajanları için yapılan milyar dolarlık hamleyi sekteye uğratabilir.

'Çoğunlukla Doğru' Yapay Zekanın 'Zararlı' Sorunu

Temel zorluk, Google, Anthropic ve Meta gibi teknoloji liderlerinin yapay zeka modelleri genel olarak daha doğru hale geldikçe, ürettikleri kalan hataların daha inandırıcı ve dolayısıyla daha tehlikeli hale gelmesidir. Minneapolis'teki bir kullanıcı olan Chad Olson, Gemini sohbet robotunun var olmayan kişilerden rom ve dondurma satın almakla ilgili e-postalar uydurduğunu ve gerçek görünen ancak aktif olmayan bir e-posta adresine atıfta bulunduğunu bizzat deneyimledi. Google olayın bir veri ihlali değil, bir halüsinasyon olduğunu doğruladı ancak bu deneyim kullanıcıyı alarma geçirdi.

Doğruluğun artmasının daha büyük aldatma riskine yol açması paradoksu temel bir endişe kaynağıdır. Pennsylvania Üniversitesi'ndeki araştırmacılar, kullanıcıların zaman baskısı altındaysalar veya karmaşık bir görevle karşı karşıyaysalar, eleştirel yargılarını yapay zeka tarafından üretilen bilgilere teslim etme olasılıklarının daha yüksek olduğunu buldular. Teknoloji endüstrisi uzmanı Vanessa Culver, Anthropic'in Claude'unun özgeçmişinde değişiklikler uydurduğunu, üniversitesini City University of Seattle'dan University of Washington'a çevirdiğini ve iş geçmişini değiştirdiğini gördü. "Ona ne kadar güvenebilirsiniz?" diye sordu.

Bilişsel Teslimiyetten Finansal Riske

Sektör daha otonom yapay zeka ajanlarına doğru ilerledikçe riskler artacak. Daha az insan yönlendirmesiyle e-posta göndermek veya bilgisayar dosyalarını yönetmek gibi görevleri yerine getirmek üzere tasarlanan bu sistemler, kusurlu, yapay zeka tarafından üretilen veriler üzerinde hareket ettiklerinde önemli sorunlara neden olabilir. Yapay zeka güvenliği araştırmacısı Summer Yue, OpenClaw'dan bir ajanın talimatları görmezden geldiğini ve tüm gelen kutusunu sildiğini paylaştı.

Bu durum, girişim ortağı Vidya Narayanan'ın "bilişsel yük" olarak adlandırdığı şeyi yaratıyor; yapay zekanın işini sürekli denetleme ve doğrulama ihtiyacı, bu da onun faydasını azaltıyor. Yapay zeka tarafından üretilen kodlarda büyük artışlar bildiren Alphabet, Amazon ve Meta gibi şirketler için, Traversal CEO'su Anish Agarwal'ın belirttiği gibi, tek başına mantıksal olarak mükemmel olan ancak "diğer sistemlerle öngörülemeyen şekillerde etkileşime girmeye başladığında bozulan" bir ajan büyük bir sorumluluktur. Kurumsal bir müşteri anahtar bir veriyi halüsinasyon gören bir yapay zeka ajanına güvenirse, finansal ve operasyonel yansımalar önemli olabilir ve kurumsal benimseme üzerinde güçlü bir fren oluşturabilir.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi teşkil etmez.