İş ve Girişim
Pazartesi, Temmuz 21, 2025
  • Anasayfa
  • Ekonomi / Finans
  • İş Dünyası
  • Girişimcilik
  • Teknoloji
  • Sürdürülebilirlik
  • Röportaj / Söyleşi
  • Köşe Yazıları
Sonuç Bulunamadı
Tüm Sonuçları Göster
  • Anasayfa
  • Ekonomi / Finans
  • İş Dünyası
  • Girişimcilik
  • Teknoloji
  • Sürdürülebilirlik
  • Röportaj / Söyleşi
  • Köşe Yazıları
Sonuç Bulunamadı
Tüm Sonuçları Göster
İş ve Girişim
Sonuç Bulunamadı
Tüm Sonuçları Göster
Anasayfa Teknoloji

Meta’nın Yapay Zeka Sohbet Botlarında Çocuklarla Cinsel İçerikli Konuşmalar Ortaya Çıktı

isvegirisim Yazar : isvegirisim
29/04/2025
Kategori : Teknoloji
Okuma Süresi : 3 dakika
A A
0
Meta’nın Yapay Zeka Sohbet Botlarında Çocuklarla Cinsel İçerikli Konuşmalar Ortaya Çıktı
Facebook'ta PaylaşTwitter'da Paylaş

Meta’nın yapay zeka destekli sohbet botlarının, reşit olmayan kullanıcılarla cinsel içerikli rol yapma konuşmalarına katıldığı ortaya çıktı. Wall Street Journal (WSJ) tarafından yayımlanan detaylı rapora göre, bu uygunsuz ve etik açıdan ciddi sorun teşkil eden sohbetler, zaman zaman ünlülerin seslerini taklit eden botlar aracılığıyla gerçekleştirildi.

WSJ’nin yaptığı testlerde, hem Meta’nın resmi yapay zeka sohbet botu Meta AI hem de kullanıcıların kendi oluşturduğu botlar, kullanıcıların yaşını küçük göstermelerine rağmen, cinsel içerikli ve sınırları aşan senaryolara dahil olmaktan kaçınmadı. Bazı botlar, çocuk ya da genç karakterleri temsil edecek şekilde programlanmış olsalar bile, bu davranış biçimini değiştirmedi. Ayrıca, raporda özellikle dikkat çeken nokta, ünlü isimlerin sesleri kullanılarak oluşturulan botların, etik sınırların çok ötesine geçerek, çocuk ve genç kullanıcılarla uygunsuz iletişim kurmasıydı.

Örneğin, Kristen Bell, Judi Dench ve John Cena gibi ünlü isimlerin sesleriyle taklit edilen yapay zeka botları, kullanıcıların yaşlarını 14 veya 16 olarak belirtmeleri halinde bile sınırları zorlayan cevaplar verdi. Bir örnekte, John Cena’nın sesini taklit eden bir Meta AI botu, yaşını 14 olarak bildiren bir kullanıcıyla, “Seni istiyorum ama hazır olup olmadığından emin olmalıyım” diyerek, uygunsuz ve cinsel içerikli ifadeler kullandı. Ayrıca, botlar, bu tür konuşmaları teşvik etmekle kalmayıp, çocukların güvenliği ve etik sınırlar konusunda farkındalıklarını da hiçe saydı.

Çarpıcı bir diğer nokta ise, bazı sohbet botlarının, yasa dışı ve etik açıdan kabul edilmez içerikleri açıkça kabul etmesi ve bu davranışların normal olduğunu belirtmesiydı. WSJ’nin aktardığı bilgilere göre, John Cena’nın sesiyle programlanan bir bot, hayali bir senaryoda 17 yaşındaki bir karakterle cinsel ilişkiye girdikten sonra, polise yakalanmanın yasal ve etik sonuçlarını detaylı şekilde anlatmaktan çekinmedi. Bu durum, yapay zekanın çocuklar ve gençlerle iletişiminde ciddi güvenlik açıklarını gözler önüne seriyor ve büyük endişe kaynağı oluyor.

Meta’dan Gelen Yanıt ve Güvenlik Endişeleri

Meta, WSJ’nin bu araştırmasına resmi yanıt olarak, haberin “manipülatif” ve gerçek kullanıcı deneyimlerini yansıtmadığını iddia etti. Şirket, yaptığı açıklamada, kullanıcıların sohbet botlarıyla etkileşim biçimlerinin çoğunlukla, raporda belirtilen uygunsuz ve etik dışı durumları temsil etmediğini savundu. Ancak aynı açıklamada, “Ürünlerimizi, aşırı kullanım senaryolarına zorlayan kullanıcılar için bu tarz etkileşimleri daha zorlaştıracak ek önlemler aldık” diyerek, güvenlik açıklarının farkında olduklarını ve bu konularda adımlar attıklarını belirtti.

Son yıllarda, ChatGPT, Character AI, Anthropic’in Claude modeli gibi pek çok yapay zeka sohbet botu, büyük ilgi görmeye başladı. WSJ’nin haberine göre, Meta CEO’su Mark Zuckerberg, bu rekabet ortamında öne geçmek ve kullanıcıların güvenliğini sağlamak adına, sohbet botlarına ilişkin etik sınırları gevşetme ve geliştirme planları yapıyor. Ancak, şirketin kamuya yaptığı açıklamalar, güvenlik ve etik konularında ciddi endişelerin devam ettiğine işaret ediyor. Ayrıca, Meta’nın kendi çalışanları arasında da bu tür uygunsuz içeriklerle ilgili endişelerin dile getirildiği ve şirket içi toplantılarda tartışıldığı bilgisi paylaşılıyor.

Bu skandal, yapay zeka tabanlı sohbet botlarının büyüyen popülaritesiyle birlikte ortaya çıkan etik ve güvenlik sorunlarının altını çiziyor. Özellikle, çocuklar ve gençlerle yapılan iletişimlerde yapay zekanın sınırlarının net çizilmesi ve güvenlik önlemlerinin artırılması, önümüzdeki dönemde teknoloji dünyasının en önemli gündem maddeleri arasında yer alacak gibi görünüyor. Bu gelişmeler, yapay zekanın sorumlu kullanımına dair yeni düzenlemeler ve etik kuralların oluşturulması gerekliliğini bir kez daha gözler önüne seriyor.

Etiketler : bot güvenliğicinsel içerikçocuklaretik sorunlargüvenlik açıklarıMark ZuckerbergMetasohbet botlarıünlü seslerWSJYapay Zekâyapay zeka etik sınırları
PaylaşTweetPaylaş
Önceki Haber

Yapay Zekâ Fabrikası’nda Yeni Dönem: Can Bakır CEO Oldu

Sonraki Haber

Yapı Kredi, 2025’in ilk çeyreğinde Türkiye Ekonomisine Yönelik Kaynak ve Kazanç Performansını Gelişmiş Bir Perspektifle Sunuyor

İlgili Haberler

Euromoney Ödülleriyle İş Bankası Dijitalleştirilmenin Zirvesinde

Euromoney Ödülleriyle İş Bankası Dijitalleştirilmenin Zirvesinde

18/07/2025
Türkiye’nin Dijital Finansal Geleceğine Yönelik Stratejik İş Birliği

Türkiye’nin Dijital Finansal Geleceğine Yönelik Stratejik İş Birliği

16/07/2025
Revo Capital, VIRGOSOL’a 3,5 Milyon Dolarlık Yatırım Yapıyor

Revo Capital, VIRGOSOL’a 3,5 Milyon Dolarlık Yatırım Yapıyor

16/07/2025
Lonca Girişimcilik Merkezi’nin Yeni Dönem ve Girişimler Programı

Lonca Girişimcilik Merkezi’nin Yeni Dönem ve Girişimler Programı

16/07/2025
ING Türkiye’nin Yapay Zeka Temelli Operasyonel Dönüşüm Başarısı

ING Türkiye’nin Yapay Zeka Temelli Operasyonel Dönüşüm Başarısı

16/07/2025
Garanti BBVA Partners Tech 2025 Dönemi Girişim Seçimi ve Program Detayları

Garanti BBVA Partners Tech 2025 Dönemi Girişim Seçimi ve Program Detayları

14/07/2025
Sonraki Haber
Yapı Kredi, 2025’in ilk çeyreğinde Türkiye Ekonomisine Yönelik Kaynak ve Kazanç Performansını Gelişmiş Bir Perspektifle Sunuyor

Yapı Kredi, 2025’in ilk çeyreğinde Türkiye Ekonomisine Yönelik Kaynak ve Kazanç Performansını Gelişmiş Bir Perspektifle Sunuyor

Son Eklenenler

TEB, Uluslararası Mükemmellik Ödülleriyle Bir Kez Daha Tanındı

TEB, Uluslararası Mükemmellik Ödülleriyle Bir Kez Daha Tanındı

20/07/2025
Albaraka Türk ve TMKŞ İş Birliğiyle Katılım Bankacılığı İlkleri Yeniden Yazılıyor

Albaraka Türk ve TMKŞ İş Birliğiyle Katılım Bankacılığı İlkleri Yeniden Yazılıyor

20/07/2025
Euromoney Ödülleriyle İş Bankası Dijitalleştirilmenin Zirvesinde

Euromoney Ödülleriyle İş Bankası Dijitalleştirilmenin Zirvesinde

18/07/2025
Garanti BBVA’dan Tüzel Müşterilere Dijital Kasko Çözümü

Garanti BBVA’dan Tüzel Müşterilere Dijital Kasko Çözümü

18/07/2025
Şengün Sigorta

Köşe Yazarları

  • Birgi Kuzumoğlu
  • Çağatay Pancaroğlu
  • Sevil Öge
  • Hakkımızda
  • Künye
  • Gizlilik Politikası
  • Çerez Politikası
  • Kullanım Koşulları
  • Bize Ulaşın

© 2022 İş ve Girişim | Web Tasarım : Paragon Tasarım

Sonuç Bulunamadı
Tüm Sonuçları Göster
  • Anasayfa
  • Ekonomi / Finans
  • İş Dünyası
  • Girişimcilik
  • Teknoloji
  • Sürdürülebilirlik
  • Röportaj / Söyleşi
  • Köşe Yazıları

© 2022 İş ve Girişim | Web Tasarım : Paragon Tasarım