Gizli Yapay Zeka Deneyi ve Reddit Topluluğu Üzerindeki Etkileri
Son dönemde, büyük dil modellerinin ne kadar ikna edici ve etkili olabildiği üzerine yapılan araştırmalar hız kazandı. Bir grup araştırmacı, bu teknolojilerin kullanıcılar üzerinde yaratabileceği psikolojik etkileri test etmek amacıyla, yapay zeka tarafından üretilen yorumları kullanarak Reddit’in en popüler topluluklarından birinde aylar süren <yetkisiz> bir deney gerçekleştirdi. Bu deney, yapay zekanın insanların fikirlerini ve davranışlarını nasıl şekillendirebileceğine dair önemli ipuçları sunmayı amaçlamaktadır ve aynı zamanda “psikolojik manipülasyon” kavramını gündeme getirmiştir.
Hafta sonunda, r/changemyview adlı Reddit topluluğu moderatörleri tarafından bu deneyin varlığı fark edildi. Moderatörlerin yaptığı açıklamada, Zürih Üniversitesi’ndeki araştırmacıların, yapay zekanın kullanıcıların düşünce yapısını nasıl etkileyebileceğini analiz etmek amacıyla böyle bir çalışma yürüttüğü belirtildi. Bu tür deneyler, geçmişte de çeşitli platformlarda gerçekleştirilmiş olup, özellikle Facebook üzerinde yapılan ve Cambridge Analytica skandalıyla sonuçlanan çalışmalarla hatırlanmaktadır. Facebook’un, kullanıcı verilerini deneyi yürüten araştırma şirketine satmasıyla gündeme gelen bu olay, büyük tartışmalara yol açmış ve platformun güvenilirliği sorgulanmıştı.
Deney kapsamında, yapay zeka tarafından oluşturulan yorumlar çeşitli kimlik ve roller üstlenerek topluluğa entegre edildi. Moderatörlerin açıklamasına göre, bu yapay zeka destekli yorumlar arasında; cinsel saldırı mağduru olduğunu iddia eden, “istismar konusunda uzmanlaşmış” bir travma danışmanı ve Black Lives Matter hareketine karşı çıkan, siyah bir kişi gibi farklı kimlikler yer aldı. Reddit’in 3,8 milyon üyeye ulaşan ve sıkça ana sayfada görülen bu alt dizini için, moderatörler bu yapay zeka tabanlı botların yaptığı yorumları büyük ölçüde silmek zorunda kaldı. Ancak, araştırma ekibi, deney sırasında üretilen ve arşivledikleri çok sayıda yorumu çalışmalarına devam etmek amacıyla sakladı. Aynı zamanda, bu yapay zekalı botların, insan aktivitelerine oldukça benzeyen davranışlar sergileyebildiği ve tespit edilmesinin oldukça güç olduğu da ortaya çıktı. Bu durum, platformlarda sahte hesapların ve otomatik aktivitelerin tespiti konusunda yeni zorluklar doğuruyor.
Deneyin Sonuçları ve Toplumsal Yansımaları
Bu gizli deneyin asıl merak edilen yönü ise, yapay zeka tarafından üretilen yorumların Reddit kullanıcıları üzerinde ne ölçüde etkili olduğudur. Diğer bir deyişle, bu yapay zeka botlarının, tartışmalarda yer alan kullanıcıların fikirlerini ve kararlarını değiştirip değiştirmediği büyük bir soru işaretidir. Ayrıca, bu manipülasyonun herhangi bir mağduriyet yaratıp yaratmadığı ve kullanıcıların bilinçli veya bilinçsiz şekilde nasıl etkilendiği de tartışma konusu olmuştur.
Sonuç olarak, bu araştırma ve deneyler, yapay zekanın toplumsal iletişim ve kamuoyu oluşturma süreçlerindeki potansiyel tehlikelerine dikkat çekmekte ve dijital platformlarda şeffaflık ile denetimin önemini vurgulamaktadır. Ayrıca, yapay zekanın etik kullanımı ve kullanıcıların bu teknolojiler karşısında bilinçlendirilmesi gereken kritik noktalar olarak öne çıkmaktadır.
