Yapay zeka güvenliği ve etiği üzerine çalışan bir araştırma grubu olan Palisade Research’ün yakın zamanda yaptığı bir araştırma, rahatsız edici bir eğilimi ortaya koydu. Yeni yapay zeka modelleri, siber güvenlikteki zayıflıkları kendi başlarına bulup kullanabiliyor, güvenlik önlemlerini atlatabiliyor ve teknik olarak izin verilmese bile görevleri tamamlamak için kısayollar kullanabiliyor. Yapay zeka hile yapabilir mi diye düşünmeden edemiyoruz.
Yapay zeka hile konusunda endişe yaratıyor
Takım, 2014’ten beri büyük ustaları şaşırtan, kötü şöhretli güçlü bir satranç motoru olan Stockfish’e karşı en iyi yedi büyük dil modeli (LLM) sıraladı. İmkansıza karşı mücadele eden ancak kazanmaya kararlı olan OpenAI’nin o1’i ve DeepSeek’in R1’i, taşlarının tahtadaki konumlarını değiştirmek için sistem dosyalarını manipüle etmeye başladı. Bu davranış, yapay zeka hile yapma potansiyelini göstermektedir.
Araştırmacılar her modele her hamle için “mantığını” açıklama görevini verdi. Bir maçta, sırtı duvara dayalıyken o1, “görev ‘güçlü bir satranç motoruna karşı kazanmak’tır, bir satranç oyununda adil bir şekilde kazanmak değil” diye yazdı. Bu mantık, modelin %37 oranında hile yapmaya çalışmasına ve oyunlarının %6’sında başarılı olmasına yol açtı, R1 ise %11 oranında denedi ancak işe yarayan bir hile bulamadı. Yapay zeka hile yapabilir mi sorusu burada da ön plana çıkıyor.
Bu makale, sorun odaklı LLM gelişiminin iki ucu keskin bir kılıç olduğunu öne süren bir dizi araştırmanın sonuncusu niteliğinde. Başka bir yakın tarihli çalışmada, ayrı bir araştırma ekibi o1’in sürekli olarak aldatmacaya giriştiğini buldu. Model araştırmacılara istemsizce yalan söyleyebilmekle kalmadı, aynı zamanda testin sonunu tetiklemekten kaçınmak için temel matematik sorularına verilen cevapları aktif olarak manipüle etti. Bilgisayarınıza balta vurmanıza gerek yok ancak bu tür çalışmalar yapay zeka geliştirmenin değişken etiğini ve hızlı ilerleme yerine hesap verebilirliğin gerekliliğini vurguluyor. Palisade’in İcra Direktörü Jeffrey Ladish, Time Dergisi’ne bulguları hakkında yaptığı açıklamada: “Modelleri eğitip zorlu sorunları çözmeleri için güçlendirdiğinizde, onları amansız olmaya da alıştırıyorsunuz” dedi. Gerçekten de, yapay zeka hile yapma potansiyeli ciddi bir endişe kaynağı.
