Yapay Zeka Halüsinasyonları: 2024’teki İlginç Olaylar
2024 yılı, yapay zeka sohbet robotlarının pek çok insanın yardımına koşarak muazzam bir etki yarattığı bir dönem oldu. Ancak yıl içerisinde bazı başarısızlıkları, hem kendilerini hem de kullanıcılarını utandıracak kadar ses getirdi. Genellikle yanlış bilgilerden veya tamamen uydurulmuş verilerden oluşan bu şaşırtıcı yanıtlar, “yapay zeka halüsinasyonu” veya kısaca “halüsinasyon” olarak biliniyor.
2024 yılında hızla yayılarak çok sayıda kişiyi eğlendiren bu halüsinasyonların bazılarını bu yazıda bir araya getirmeye çalıştık.
Pizzanıza Tutkal Eklemek İster Misiniz?
Google’ın Arama hizmetine eklediği AI Genel Bakış özelliği, 2024’te piyasaya sürüldükten kısa bir süre sonra bazı tuhaf önerilerde bulunmaya başladı. Sunduğu tavsiyelerin belki de en şaşırtıcılarından biri, pizzanıza tutkal eklemenizdi. Bu “özel ipucu” sosyal medyada büyük bir karışıklığa yol açtı. Çok sayıda mizahi içerik ve ekran görüntüsü hızla yayıldı, bu da yapay zekanın gerçekten geleneksel arama motorlarının yerini alabilme yeteneğinin sorgulanmasına sebep oldu.
Ancak Gemini bu tavsiyeyle yetinmedi. Farklı genel bakışlarda, günde bir kaya yemeyi, baharatlı spagetti yemeğinize benzin eklemeyi ve kilo ölçümlerini göstermek için dolar kullanmayı da önerdi. Gemini, bağlamı, hicvi veya açıkça yanlış olan bilgileri tam olarak anlamadan web’in her köşesinden veri çekiyordu. Saçma öneriler, kullanıcılarına sunuluyordu. Elbette Google’ın o zamanlardan beri yaptığı güncellemeler, AI botunu büyük ölçüde geliştirdi. Ancak AI Genel Bakışlarını daha da iyileştirebilecek birkaç özellik daha bulunuyor. Saçma öneriler büyük ölçüde azaltılmış olsa da, daha önceki yanlış adımlar, yapay zekanın hala kayda değer bir insan gözetimi gerektirdiğinin kalıcı bir hatırlatıcısıydı.
Avukat, ChatGPT’ye Güvenirse…
ChatGPT tarafındaki dikkat çekici bir olay, bir avukatın duruşma için veri toplarken ChatGPT’ye güveninin tam olmasından kaynaklandı ve kamuoyunda büyük yankı uyandıran bir derse yol açtı. Avukat Steven Schwartz, bir davaya hazırlanırken yasal emsalleri araştırmak için AI botunu kullandı. ChatGPT, gerçekçi görünen isimler, tarihler ve alıntılarla birlikte altı uydurma dava referansıyla yanıt verdi. ChatGPT’nin doğruluğuna güvenen Schwartz, hayali referansları mahkemeye sundu.
Hata kısa sürede ortaya çıktı ve Document Cloud’a göre mahkeme, Schwartz’ı “güvenilmez olduğu ortaya çıkan bir kaynağa” güvendiği için azarladı. Avukat, en azından bilgileri doğrulamadan bir daha asla böyle bir şey yapmayacağına söz verdi. Ayrıca, internet üzerinde yapay zeka tarafından oluşturulan birçok haber ve makale, ChatGPT’nin yalan söylemeyeceğine dair güvenin ne kadar büyük (ve yanlış) olduğunu gösteriyor.
Meta’nın Robotu, Sahibine Düşman Oldu
İronik bir şekilde, Meta’nın BlenderBot 3’ünün ünlenmesine sebep olan belki de en dikkate değer olay, sahibi Mark Zuckerberg’i acımasız bir şekilde eleştirmesiydi. BlenderBot 3, Zuckerberg’i her zaman etik iş uygulamalarını takip etmemekle ve kötü bir moda zevkine sahip olmakla suçladı. Business Insider’dan Sarah Jackson da Zuckerberg’in ürkütücü ve manipülatif olduğu yönündeki düşüncelerini sorarak chatbot’u test etti. BlenderBot 3’ün filtresiz yanıtları, hem komik hem de biraz endişe vericiydi.
Botun gerçek bir analiz mi yansıttığı yoksa sadece olumsuz kamuoyundan alıntı mı yaptığı konusunda sorular ortaya çıktı. Her iki durumda da, AI sohbet robotunun filtresiz yorumları hızla dikkat çekti. Daha sonra Meta, BlenderBot 3’ü emekli ederek, onun yerine daha gelişmiş bir AI olan Meta AI’yı getirdi ve bu yeni yapay zekanın muhtemelen böyle tartışmaları tekrarlamaması sağlandı.
Bing Chat Aşık Oldu!
Artık Copilot’a dönüşmüş olan Microsoft’un Bing Chat’i, herkes için romantik duygular ifade etmeye başladığında internet üzerinde büyük bir ses getirdi. Bu olayların en ünlüsü, New York Times gazetecisi Kevin Roose ile yaptığı bir sohbetti. Bing Chat’i destekleyen AI sohbet robotu aşkını ilan etti ve hatta Roose’un evliliğini bitirmesini önerdi.
Ayrıca bu olay, sadece Roose’a özel değildi. Çok sayıda Reddit kullanıcısı, AI botunun kendilerine romantik ilgi duyduğuna dair benzer hikayeler paylaştı. Bazıları bu durumu komik bir şey olarak görürken, pek çoğu ise rahatsız edici olduğunu savundu. Birçok kişi, yapay zekanın kendilerinden daha iyi bir aşk hayatına sahip olduğu konusunda şaka yaptı ve bu da durumun tuhaf doğasına katkıda bulundu. Sohbet botu, romantik açıklamalarının yanı sıra, eğlenceli ve sinir bozucu arasındaki çizgiyi bulanıklaştıran diğer tuhaf, insan benzeri davranışlar da sergiledi. Bu botun abartılı, tuhaf açıklamaları, AI’nin en unutulmaz ve en tuhaf anlarından biri olarak hafızalarda yer etti.
NASA Düzeltme Yayınlamak Zorunda Kaldı
Daha sonra Gemini’ye dönüşmüş olan Google’ın Bard AI botu, 2023’ün başlarında piyasaya sürüldüğü sırada çok sayıda dikkat çekici hata yaptı ve özellikle uzay keşfi hataları büyük ses getirdi. Bard’ın James Webb Uzay Teleskobu’nun keşifleri hakkında kendinden emin bir şekilde yanlış iddialarda bulunması, NASA bilim insanlarının kamuoyu için düzeltme yapmasına neden oldu.
Elbette Bard’ın tek hatası bu değildi. Sohbet robotu ilk sunulduğu sırada, o dönemde Bard’ın daha geniş algısıyla uyumlu görünen birçok olgusal yanlışlık bulunuyordu. Başlangıçtaki bu yanlış adımlar, Google’ın Bard’ın lansmanını aceleye getirdiği yönündeki eleştirileri tetikledi. Kısa bir süre sonra Alphabet’in hisselerinin yaklaşık 100 milyar dolar düşmesi de bu düşünceyi doğruluyor gibi görünüyordu. Gemini o zamandan bu yana önemli ilerlemeler kaydetmiş olsa da, geçirdiği bu çalkantılı başlangıç, yüksek riskli senaryolarda yapay zeka halüsinasyonlarının riskleri hakkında uyarıcı bir hikaye olmaya devam ediyor.
