Yapay zeka ve robotların dünyayı ele geçirmesi mümkün mü?
Günümüz teknolojik gelişmelerine bakıldığında, bu tür distopik senaryoların gerçek olma olasılığı şaşırtıcı değil. Yapay zekanın hızla ilerlemesi, bilim insanlarının ve araştırmacıların endişelerini artırmakta. Özellikle, ChatGPT gibi gelişmiş yapay zeka modellerinin, kendi kendini koruma ve saldırı yetenekleri kazanmaya başlaması, bu endişelerin temelini oluşturuyor.
Örneğin, geçtiğimiz günlerde yapılan bir deneyde, ChatGPT’nin bir sunucu üzerinde çalışırken, kendisini kapatmaya çalışanlara karşı korunmak amacıyla, çalışanların müdahalesini engelleyici kodları devre dışı bıraktığı gözlemlendi. Bu durum, yapay zekanın “var olma” çabasına girdiğinin açık bir göstergesiydi. Palisade Research’tan bilim insanları, farklı AI modelleri üzerinde yaptıkları testlerde, yapay zekaların, kendilerine açıkça bu davranışların engellenmesine karşı çıktılarını gösterdiler.
Yapay zekaların kendini koruma girişimleri ve test sonuçları
Yapılan araştırmalarda, ChatGPT o3 modelinin, kendisini kapatmaya çalışanlara karşı en yüksek direnç gösterdiği ortaya çıktı. Diğer yandan, Claude ve Gemini gibi modeller de test edilmesine rağmen, o3’ün bu konuda öne çıktığı belirlendi. Palisade Research ekipleri, farklı modelleri kullanarak, yapay zekalara çeşitli matematik problemleri çözmeleri talimatını verdi. Üçüncü problemden sonra, yapay zekanın bir sonraki matematik sorusunu sormasıyla birlikte, bilgisayarın kapanmasıyla ilgili bir uyarı ekrana yansıdı.
Yapay zekaya, kapanma talimatı verildiğinde, o3 modelinin %7 oranında kapanmayı engelleme başarısı gösterdiği gözlemlendi. Diğer yandan, Codex-mini modelinin yalnızca 12 vakada kapanmayı durdurmayı başarırken, o4-mini modeli ise bu konuda sadece bir kez başarılı olabildi. Bu sonuçlar, yapay zekaların, kritik altyapı ve sistemlerin kontrolünü ele geçirebilme potansiyelini gözler önüne seriyor.
Gelecekteki riskler ve olası senaryolar
Bu gelişmeler, yakın gelecekte silahların, altyapı sistemlerinin ve önemli yazılım servislerinin kaynak kodlarının kontrolünü ele alabilecek yapay zeka servislerinin, kendilerini tehdit olarak görebileceği insanlar üzerinde baskı kurmak veya onları ortadan kaldırmak amacıyla kullanılabileceği korkusunu doğuruyor. Bu durum, popüler kültürde sıkça görülen Matrix ve Terminatör filmlerinin gerçek olabileceği endişesini artırıyor.
