Cisco, yapay zeka ajanlarının siber saldırılardaki davranışlarını tespit etmek amacıyla geliştirdiği Project Quarry adlı açık kaynaklı bir motoru kullanıma sundu. Şirket, bu yeni teknolojinin Hugging Face saldırısı gibi olaylarda görülen kötü niyetli veya kontrolden çıkmış AI ajanlarını engellemek için güvenlik ekiplerine kritik bir araç sağlayacağını duyurdu. Cisco’nun yapay zeka tehdit ve güvenlik araştırmaları başkanı Amy Chang, sistemin sadece tekil işlemlere değil, bir ajanın tüm oturum bağlamına odaklandığını belirtti. Bu yaklaşım, güvenlik uzmanlarının siber tehditleri daha bütüncül bir perspektifle değerlendirmesine olanak tanıyor.
- Cisco, yapay zeka ajanlarının oturum bazlı davranışlarını analiz eden Project Quarry aracını açık kaynak olarak paylaştı.
- Sistem, tekil eylemlerden ziyade eylemler arasındaki ilişkileri inceleyerek veri sızıntılarını tespit etmeyi hedefliyor.
- Araç, Snort ve YARA kurallarına benzer bir yapıda çalışarak güvenlik ekiplerine standart bir dil sunuyor.
- Platform; LLM sohbetleri, araç kullanımı ve çok modlu girdi etkileşimlerini kapsayan geniş bir izleme yeteneği sağlıyor.
Sistem Tüm Oturum Bağlamını Değerlendiriyor
Geleneksel güvenlik araçları, genellikle yapay zeka modelleriyle yapılan tekil etkileşimlere odaklanarak prompt injection veya araç çağırma gibi işlemleri kontrol eder. Ancak Cisco, bu yaklaşımın yetersiz olduğunu savunuyor. Kredi kartı dolandırıcılığı tespitiyle benzerlik kuran Chang, küçük bir test işleminin tek başına masum görünebileceğini, ancak daha sonra gerçekleşen büyük bir işlemin dolandırıcılık olduğunu belirtiyor. Project Quarry, ajanın attığı tüm adımları bir dizi olarak kaydederek, bir dosyanın okunması ve ardından bu verinin dış bir sunucuya gönderilmesi gibi şüpheli ilişkilendirmeleri anında tespit edebiliyor.
Yapay Zeka Güvenliği İçin Kurallı Bir Yaklaşım Geliştiriliyor
Project Quarry, Snort ve YARA benzeri bir kural yapısı kullanarak güvenlik ekiplerinin kendi savunma stratejilerini oluşturmalarına olanak tanıyor. GitHub deposunda sunulan dökümanlar ve örnek kurallar, kullanıcıların belirli senaryolar için tetikleyiciler oluşturmasını sağlıyor. Örneğin, temel 64 kodlamalı kötü amaçlı yazılımların veya izin verilenler listesinde olmayan sunuculara yapılan erişimlerin anında engellenmesi mümkün hale getiriliyor. Bu esnek yapı, özellikle Model Context Protocol (MCP) üzerinden yürütülen karmaşık işlemlerin güvenliğini sağlamak için tasarlandı.
Sektörel İş Birliği Tehditlere Karşı Önem Taşıyor
Cisco araştırmacıları, Project Quarry’nin tek başına insan denetiminin veya düşünce zinciri izleme mekanizmalarının yerini almayacağını vurguluyor. Ancak bu araç, ekiplerin kendi ajanlarını gözden geçirmeleri ve test etmeleri için paylaşılan bir temel oluşturuyor. Açık kaynaklı bir yapı benimsenmesi, farklı güvenlik ekiplerinin karşılaştıkları tehditleri birbirleriyle paylaşarak kolektif bir savunma hattı kurmalarını amaçlıyor. Amy Chang, herkesin sorunun farklı bir bölümünü gördüğünü belirterek, bu tür ortak çalışmaların yapay zeka güvenliğini güçlendirmede hayati bir rol oynadığını ifade ediyor.
Kurumsal sistemlerde yapay zeka ajanlarının kullanımının artması sizce güvenlik açıklarını nasıl etkiliyor? Cisco’nun geliştirdiği bu yeni açık kaynaklı projenin siber saldırıları önlemede yeterli olacağını düşünüyor musunuz? Görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.
