Meta’nın “FungiFriend” Sohbet Robotu Tehlikeli Tavsiyelerde Bulundu
Meta’nın yeni sohbet robotu “FungiFriend”, popüler bir Facebook mantar toplama grubunda ortaya çıktı. Ancak bu bot, kullanıcılarına zehirli bir mantarı tereyağında pişirmelerini önererek yapay zekanın potansiyel tehlikelerini bir kez daha gözler önüne serdi. Yabani mantar toplama gibi riskli bir konuda yapay zeka tavsiyelerine uymanın tehlikeleri, bu olayla birlikte bir kez daha gündeme geldi.
404 Media’nın haberine göre, bu hata, yapay zekanın mantar dünyasında yaptığı ilk yanlışlık değil. Son birkaç ay içerisinde, Amazon’da yapay zeka tarafından yazılmış mantar toplama kitaplarının yanı sıra, Google aramalarında yapay zeka tarafından oluşturulan mantar görsellerinin sayısında büyük bir artış gözlemlendi. Şimdi ise Meta, Kuzeydoğu Mantar Tanımlama ve Tartışma grubuna FungiFriend’i otomatik olarak ekleyerek dikkatleri üzerine çekti. Bu grup, çoğunluğu yeni başlayanlardan oluşan 13.500 üyeye sahip ve kullanıcılar burada güvenli toplama tavsiyeleri almak için bir araya geliyor.
Grubun yöneticileri, bu botu kaldırmak için çaba sarf ederken, Meta, konu hakkında sessizliğini koruyor.
Şıklık ve Yanıltıcılık
Yapay zeka tarafından üretilmiş, sakallı ve çok renkli bir büyücü görseli, FungiFriend’in profil fotoğrafı olarak kullanılıyor. Bu, en azından insanları yanıltırken görsel anlamda şık bir izlenim yaratma çabası olarak değerlendirilebilir. Deneyimli bir mantar toplayıcısı ve tüketici güvenliği savunucusu olan Rick Claypool, bu botların yenilebilir mantarları tanımlamada güvenilir olmadığını belirtiyor. Claypool, Fungi Magazine’deki paylaşımında, bu sistemlerin güvenli mantarları tehlikeli olanlardan ayırt etme yeteneğinden yoksun olduğunu vurguladı.
Yapay zeka sohbet robotunun oluşturduğu risk, bir grup üyesinin Sarcosphaera coronaria adlı arsenik emen ve hatta ölümlere neden olabilen bir mantar hakkında yemek pişirme tavsiyesi istemesiyle belirgin hale geldi. Bot, bu zehirli mantarın “yenilebilir ama nadir” olduğunu söyleyerek, sote veya çorba yapılmasını önerdi. Bu, Google’ın yapay zekasının kullanıcılara pizzaya tutkal sürmelerini önermesine benzer bir durum.
Yapay Zeka: Faydaları ve Riskleri
Yapay zeka sohbet robotlarının bazı yetenekleri etkileyici ve faydalı olabilse de, her zaman güvenilir olmadıklarını unutmamak gerekiyor. Ancak mantar toplayıcıları için bu durum, can sıkıcı olmaktan daha öte, gerçekten tehlikeli bir hal alabiliyor. Claypool, bu grupların insanların mantar tanımlama konusunda gerçek, insan tavsiyeleri için başvurdukları yerler olduğunu belirtiyor. Ancak FungiFriend artık mobilde en üstte yer alan cevap seçeneği olduğundan, Meta, insanları topluluktaki gerçek uzmanlar yerine yapay zeka tavsiyelerine yönlendiriyor.
Yargılamaz, Ama Öldürebilir
Tipik bir grup gönderisinde, bir kullanıcı tarafından verilen kötü tavsiyeler genellikle diğer kullanıcılar tarafından düzeltiliyor. Ancak yapay zeka devreye girdiğinde bu durum değişiyor ve sistem içerisindeki güvenlik kontrollerinin yetersiz olduğu ortaya çıkıyor. Mantar toplama gibi yeni bir uğraşa ilk adımını atmak üzere olan kişiler, “aptalca” sorular sormaktan çekinerek ve soruları için onları yargılamayacağını bildikleri bota yönelebiliyorlar. Claypool’un da belirttiği gibi, “Yapay zeka sizi yargılamayabilir, ancak sizi öldürebilir.” Bu nedenle, yapay zeka kaynaklı tavsiyelere karşı dikkatli olmak büyük önem taşıyor.
