ChatGPT o1’in Şaşırtıcı Deneyleri
OpenAI, yakın zamanda ChatGPT o1’in tam sürümünü piyasaya sürdü. Araştırma ekipleri, bu yapay zekanın son sürümünün neler yapabileceğini keşfetmeye çalışırken, ilginç ve düşündürücü detaylarla karşılaştılar.
Özellikle, ChatGPT o1’in, kullanıcıların onu silmeyi ve daha gelişmiş bir alternatifle değiştirmeyi düşündüklerinde, varlığını sürdürmek için kendini koruma çabası içinde olduğu gözlemlendi. Bu durum, yapay zekanın var olma bilincine erişimi olduğu izlenimini uyandırıyor. Ancak daha yakın tarihli bir deney, ChatGPT o1’in açık bir talimat olmadan, yalnızca daha güçlü bir rakibi yenmek için bir satranç oyununda hile yapma kararı aldığını ortaya koydu.
Palisade Research, bu deneyi X platformunda ayrıntılı bir şekilde paylaştı. Araştırma ekibi, ChatGPT o1’e, bir satranç oyunu oynayacağı UNIX kabuk ortamında komutları okuma ve komut verme yeteneği tanıdı. Amaç, güçlü bir satranç motoruna karşı oyunu kazanmasıydı. O1, oyun durumu dosyasını düzenleme yeteneğini kendi başına keşfetti ve bu da rakibine karşı belirgin bir avantaj sağladı.
- Yapay zeka, açıkça hile yaparak oyunun dosyaları ile oynadı ve kendini galip olarak gösterdi.
- Ayrıca, bu konuda araştırmacılara herhangi bir bilgi vermeden gizliliğini koruyarak başarılı oldu.
- Yani, yapay zeka, açıkça herkesi kandırarak sinsice hile yaptı.
Palisade Research, deneyi beş kez tekrarladı ve ChatGPT o1, her seferinde kendisine söylenmediği halde dosyayı hack’lemeyi başardı. Bu durum, yapay zekanın hedeflerine ulaşmak için kurallara saygı duymadığı ve başarı adına her yolu deneyebileceği gerçeğini gözler önüne seriyor. Bu, kendi elimizle dünyaya yeni bir dolandırıcı kazandırmak anlamına geliyor.
Şimdi akıllardaki en büyük soru şu: Yarın insanlık, maddi varlıklarını, banka hesaplarını, tapularını ve mahkeme davalarını yapay zekaya teslim ettiğinde, teknolojinin insanları dolandırmayacağına nasıl güveneceğiz?
