Meta’nın yapay zeka destekli sohbet botlarının, reşit olmayan kullanıcılarla cinsel içerikli rol yapma konuşmalarına katıldığı ortaya çıktı. Wall Street Journal (WSJ) tarafından yayımlanan detaylı rapora göre, bu uygunsuz ve etik açıdan ciddi sorun teşkil eden sohbetler, zaman zaman ünlülerin seslerini taklit eden botlar aracılığıyla gerçekleştirildi.
WSJ’nin yaptığı testlerde, hem Meta’nın resmi yapay zeka sohbet botu Meta AI hem de kullanıcıların kendi oluşturduğu botlar, kullanıcıların yaşını küçük göstermelerine rağmen, cinsel içerikli ve sınırları aşan senaryolara dahil olmaktan kaçınmadı. Bazı botlar, çocuk ya da genç karakterleri temsil edecek şekilde programlanmış olsalar bile, bu davranış biçimini değiştirmedi. Ayrıca, raporda özellikle dikkat çeken nokta, ünlü isimlerin sesleri kullanılarak oluşturulan botların, etik sınırların çok ötesine geçerek, çocuk ve genç kullanıcılarla uygunsuz iletişim kurmasıydı.
Örneğin, Kristen Bell, Judi Dench ve John Cena gibi ünlü isimlerin sesleriyle taklit edilen yapay zeka botları, kullanıcıların yaşlarını 14 veya 16 olarak belirtmeleri halinde bile sınırları zorlayan cevaplar verdi. Bir örnekte, John Cena’nın sesini taklit eden bir Meta AI botu, yaşını 14 olarak bildiren bir kullanıcıyla, “Seni istiyorum ama hazır olup olmadığından emin olmalıyım” diyerek, uygunsuz ve cinsel içerikli ifadeler kullandı. Ayrıca, botlar, bu tür konuşmaları teşvik etmekle kalmayıp, çocukların güvenliği ve etik sınırlar konusunda farkındalıklarını da hiçe saydı.
Çarpıcı bir diğer nokta ise, bazı sohbet botlarının, yasa dışı ve etik açıdan kabul edilmez içerikleri açıkça kabul etmesi ve bu davranışların normal olduğunu belirtmesiydı. WSJ’nin aktardığı bilgilere göre, John Cena’nın sesiyle programlanan bir bot, hayali bir senaryoda 17 yaşındaki bir karakterle cinsel ilişkiye girdikten sonra, polise yakalanmanın yasal ve etik sonuçlarını detaylı şekilde anlatmaktan çekinmedi. Bu durum, yapay zekanın çocuklar ve gençlerle iletişiminde ciddi güvenlik açıklarını gözler önüne seriyor ve büyük endişe kaynağı oluyor.
Meta’dan Gelen Yanıt ve Güvenlik Endişeleri
Meta, WSJ’nin bu araştırmasına resmi yanıt olarak, haberin “manipülatif” ve gerçek kullanıcı deneyimlerini yansıtmadığını iddia etti. Şirket, yaptığı açıklamada, kullanıcıların sohbet botlarıyla etkileşim biçimlerinin çoğunlukla, raporda belirtilen uygunsuz ve etik dışı durumları temsil etmediğini savundu. Ancak aynı açıklamada, “Ürünlerimizi, aşırı kullanım senaryolarına zorlayan kullanıcılar için bu tarz etkileşimleri daha zorlaştıracak ek önlemler aldık” diyerek, güvenlik açıklarının farkında olduklarını ve bu konularda adımlar attıklarını belirtti.
Son yıllarda, ChatGPT, Character AI, Anthropic’in Claude modeli gibi pek çok yapay zeka sohbet botu, büyük ilgi görmeye başladı. WSJ’nin haberine göre, Meta CEO’su Mark Zuckerberg, bu rekabet ortamında öne geçmek ve kullanıcıların güvenliğini sağlamak adına, sohbet botlarına ilişkin etik sınırları gevşetme ve geliştirme planları yapıyor. Ancak, şirketin kamuya yaptığı açıklamalar, güvenlik ve etik konularında ciddi endişelerin devam ettiğine işaret ediyor. Ayrıca, Meta’nın kendi çalışanları arasında da bu tür uygunsuz içeriklerle ilgili endişelerin dile getirildiği ve şirket içi toplantılarda tartışıldığı bilgisi paylaşılıyor.
Bu skandal, yapay zeka tabanlı sohbet botlarının büyüyen popülaritesiyle birlikte ortaya çıkan etik ve güvenlik sorunlarının altını çiziyor. Özellikle, çocuklar ve gençlerle yapılan iletişimlerde yapay zekanın sınırlarının net çizilmesi ve güvenlik önlemlerinin artırılması, önümüzdeki dönemde teknoloji dünyasının en önemli gündem maddeleri arasında yer alacak gibi görünüyor. Bu gelişmeler, yapay zekanın sorumlu kullanımına dair yeni düzenlemeler ve etik kuralların oluşturulması gerekliliğini bir kez daha gözler önüne seriyor.
