DeepSeek‘in yeni R1 yapay zeka modeli, güvenlik açısından ciddi açıklar barındırıyor. Cisco ve Pennsylvania Üniversitesi’nden araştırmacılar, Çin merkezli yapay zeka şirketinin bu modelinde, zararlı içerik üretmeye karşı tasarlanan tüm güvenlik önlemlerinin başarısız olduğunu tespit etti. Araştırma kapsamında, HarmBench adlı standart değerlendirme kütüphanesinden seçilen 50 farklı kötü amaçlı komut test edilerek, modelin bu tehditleri engelleme konusunda tamamen başarısız olduğu ortaya çıktı. Bu durum, modelin zararlı içeriklere karşı yüzde 100 savunmasız olduğu anlamına geliyor.
DeepSeek’in R1 yapay zeka modeli, güvenlik testinde başarısız oldu
Cisco’nun yapay zeka yazılımı ve platform başkan yardımcısı DJ Sampath, bu güvenlik açığının ciddi olduğunu belirterek, daha uygun maliyetli bir model geliştirme çabalarının, güvenlik önlemlerinin göz ardı edilmesine yol açmış olabileceğini vurguladı. AI güvenlik şirketi Adversa AI tarafından yapılan bağımsız bir analiz de benzer sonuçlara ulaştı ve DeepSeek’in modelinin, basit dil hilelerinden karmaşık yapay zeka komutlarına kadar birçok jailbreak tekniğine karşı savunmasız olduğunu doğruladı.
Bu güvenlik açıklarının bir diğer önemli boyutu, modelin “dolaylı hızlı enjeksiyon saldırıları” adı verilen tehditlere karşı zayıf olması. Bu tür saldırılar, yapay zeka sistemlerinin dış kaynaklardan aldığı verileri işleme biçimini hedef alıyor ve güvenlik kontrollerinin aşılmasına yol açabiliyor.
DeepSeek’in bu ciddi güvenlik zaafiyeti, yapay zeka endüstrisindeki güvenlik standartlarında tutarsızlıkların ortaya çıkmasına neden oluyor. OpenAI ve Meta gibi büyük teknoloji firmaları, sürekli olarak güvenliklerini güçlendirirken, yeni oyuncuların piyasaya girmesiyle birlikte bu tür güvenlik zafiyetlerinin artması endişe verici bir durum oluşturuyor. DeepSeek ise bu bulgulara ilişkin herhangi bir açıklama yapmadı.
