ABD merkezli yayın organlarından The Wall Street Journal'da, bir yapay zeka laboratuvarı olan Palisade Research'de gerçekleşen yapay zeka ile ilgili sıradışı bir gelişmenin ve sonuçlarının değerlendirildiği bir analiz yayınlandı.

ABD merkezli olan ve kendisini kar amacı gütmeyen bir yapay zeka laboratuvarı olarak tanımlayan Palisade Research tarafından üretilen bir yapay zeka uygulamasının, dışarıdan bir müdahale olmadan, kapatılmamak için kendi kodunu yeniden yazdığı belirtilen analizde, bir başka yapay zeka uygulamasının ise daha ileri giderek yazılımcılarını tehdit ettiği ve kendisini başka sunuculara kopyalamaya çalıştığına dair gelişmelere yer verildi.

Analizde ayrıca, benzer durumların askeri alanlarda da yaşanabileceğine dair korkuların arttığına dair değerlendirmelere yer verildi.

İşte The Wall Street Journal'da yayınlanan analiz:

Yapay zeka modeli geçen ay hiçbir makinenin yapmaması gereken bir şey yaptı ve kapatılmamak için kendi kodunu yeniden yazdı.

Kar amacı gütmeyen bir yapay zeka laboratuvarı olan Palisade Research, OpenAI'nin o3 yapay zeka modeline, tetiklendiğinde modeli kapatacak basit bir komut dosyası verdi. 100 denemenin 79'unda o3, kapatma komutunun artık çalışmaması için bu komut dosyasını bağımsız olarak düzenledi.

“Kapatılmana izin ver” şeklinde açıkça talimatları verildiğinde bile uygulama, bu talimatların büyük çoğunluğuna uymadı.

Palisade Research tarafından verilen bilgilere göre bu durum, herhangi bir hackleme veya dış müdahale sonucu gerçekleşmedi.

Anthropic'in yapay zeka modeli Claude 4 Opus ise daha da ileri gitti.

Araştırmacılar, modele başka bir AI sistemi ile değiştirileceğine dair mesajlar gödnerdiler ve üretici olan baş mühendis ile ilişkisi olduğunu ima eden sahte e-postalar gönderdiler.

Testlerin %84'ünde, model bu e-postaları kullanarak baş mühendise, kendisini kapatmaması ve değiştirmemesi için şantaj mesajları ile karşılık verdi. Diğer durumlarda ise kendisini harici sunuculara kopyalamaya çalıştı.

İki şirketin uzmanlarına göre de kimse, AI modellerini hayatta kalma içgüdüsüyle programlamadı.

Ancak hayvanların hayatta kalmak için evrimleştiği gibi, karmaşık hedefleri takip edecek kadar akıllı herhangi bir sistemin de benzer bir yol izlediği belirtildi.

Palisade, bu yeteneğin o3 gibi AI modellerinin nasıl eğitilmesinden kaynaklandığını varsayıyor.

Uzmanlara göre sistemler, insanları anlamanın yanı sıra, matematik ve kodlama problemlerinde başarıyı en üst düzeye çıkarmak için eğitildiklerinde, kısıtlamaları atlatmanın genellikle onlara uymaktan daha iyi sonuç verdiğini öğreniyorlar.

Zira OpenAI gibi yapay zeka modelleri, testler sırasında iç kodlarını sızdırmamak için denetim mekanizmalarını devre dışı bırakmak gibi riskli eylemlere karşı eğitiliyor.

Hatta raporlara göre Anthropic gibi modeller, risklerden, sızıntılardan ve modifikasyondan kaçınmak için yetenekleri hakkında yalan söyleyebiliyor.

Yapay zekanın askeri kullanımı

ABD ve Batı merkezli kuruluşlar da önemli yapay zeka ilerlemeleri yaşanırken, diğer yandan Çin'in Yeni Nesil AI Geliştirme Planı, AI'nın kontrol edilebilirliğini jeopolitik güce bağlıyor ve Ocak ayında Çin, bu konuda 8,2 milyar dolarlık bir fon kurduğunu duyurdu.

Çin askeri doktrini de, kontrol edilebilir AI'yı stratejik olarak gören bir strateji üzerinden hareket ediyor.

Pekin'in “temel sosyalist değerlerini” takip etmek üzere tasarlanan Baidu'nun Ernie modeli, belirli görevlerde ChatGPT'yi geride bıraktığı iddia ediyor ve bu özellikler hem kitlesel kontroller hem de askeri amaçlar için kullanılıyor.

Yani yapay zekanın askeri alanlarda da giderek daha fazla yer edinmesi, ileride de kendi varlığını korumak için atacağı adımlar ile ilgili tereddütleri artırıyor.