Sysdig AI Defense ile ajan güvenliği geliyor

Sysdig AI Defense, yapay zeka ajanlarını çalışma anında izleyen ve gerekirse durduran yeni bir güvenlik ürünü olarak duyuruldu. Sysdig, çalışma anı görünürlüğündeki birikimini bu kez ajan tabanlı yapay zekanın yönetişimine taşıyor. Çünkü yapay zeka artık yalnızca cevap vermiyor, iş de yapıyor. Ancak yönetişim olmazsa bu teknoloji hızla, fark edilmeden işletme için bir felakete dönüşebilir.

Ajanlar Neden Yeni Bir Risk Yaratıyor?

Şirketin kurucusu ve CTO’su Loris Degioanni, yapay zekanın cevap vermekten iş yapmaya geçtiğini söylüyor. Ona göre eskiden sohbet eden makineler vardı, şimdi ise ajanlar bizim adımıza iş yapıyor. Ancak ajan, ona söylenenden fazlasını yapabiliyor ve bunu kontrol edebileceğimizden daha hızlı yapıyor. Üstelik ahlaki bir sezgisi yok.

Sysdig’e göre ajanlar kod yayınlıyor, altyapıyı değiştiriyor ve üretim sistemlerine erişiyor. Bunu hiçbir ekibin elle inceleyemeyeceği bir hızda yapıyorlar. Ayrıca ajanlar giderek daha özerk, daha karmaşık ve daha fazla “akıl yürütme” yeteneğiyle tasarlanıyor. Dolayısıyla hataya kayma ihtimali de artıyor.

Sysdig AI Defense Nasıl Çalışıyor?

Sysdig AI Defense, ajanın attığı her adımı başlangıcından bitişine kadar görüyor ve izliyor. Bu kolay bir iş değil. Çünkü ajanlar görevlerini tamamlamak için yeni yetkileri çok hızlı edinebiliyor. Ayrıca kaydedilen her eylemin altında, yalnızca işletim sistemi çekirdeğinin (kernel) görebildiği beş veya daha fazla süreç bulunabiliyor.

Üstelik bu süreçler ajanın işlevini fark ettirmeden değiştirebilir. Sysdig’in ifadesiyle sabah devreye alınan ajan, öğleden sonra çalışan ajanla her zaman aynı değil. Dolayısıyla gerçekte neyin çalıştığını yalnızca çekirdek gösteriyor.

Bir ajan eyleminin güvenlik nedeniyle engellenmesi gerekiyorsa, bunun anında olması şart. Degioanni, engellemenin eylem sürerken ve tamamlanmadan önce, gerçek zamanlı ve hat içinde yapılması gerektiğini söylüyor. Bu nedenle çalışma anında işleyen, çok hızlı çalışan ve müdahale yeteneği olan çözümlere ihtiyaç var.

Degioanni bir noktayı daha vurguluyor. Ona göre bir ajan araç çağrısını yanlış raporlayabilir, ancak sistemle ve dış dünyayla etkileşimlerini yeniden yazamaz. Ajanın kendi anlatımı yararlı bir bağlam, fakat kanıt değil. Anlatım ile eylemler çeliştiğinde ise bir tespit ortaya çıkıyor.

Hangi Özellikleri Sunuyor?

Sysdig AI Defense için şirketin öne sürdüğü başlıca yararlar şöyle:

• Ajanlar, harness’ler, modeller, MCP sunucuları, beceriler ve eklentilerden oluşan canlı bir envanter. Veriler çalışma anı telemetrisinden geliyor.
• Her ajan, hesap verebilir bir insana bağlanabiliyor.
• Riskli ajan eylemleri tespit edilip insan incelemesine alınabiliyor ya da tamamlanmadan engellenebiliyor.
• OWASP Top 10 for LLM Applications gibi çerçevelere eşlenmiş hazır politika şablonları var. Her politika uyarı modunda başlıyor, kurum hazır olduğunda uygulama moduna geçiyor.
• Canlı eylem grafiği her adımı sırasıyla gösteriyor. Ajanın ne yaptığını söylediği ile gerçekte yaptığını, erişebildiklerini ve hangi yetkiyle hareket ettiğini eşleştiriyor.
• Hangi politikaların ne zaman uygulandığını ve kimin onayladığını gösteren, denetim kalitesinde değiştirilemez kayıtlar tutuluyor.

Ajanın ve AI Defense’in yaptığı işlemler de olduğu anda kaydediliyor. IBM Institute for Business Value’nun bu yıl yayımladığı rapor ise sorunun büyüyeceğini gösteriyor. Raporda, ajanlar pilottan üretime geçerken sistemlerin otonom kararları insan denetiminin izleyemeyeceği hacimde aldığı belirtiliyor.

Buna göre şirketlerin 2027’ye kadar ortalama 1.661 yapay zeka ajanı devreye alması bekleniyor. Bu rakam bugüne göre yüzde 38 artış anlamına geliyor. Teknoloji liderleri günde yüz binlerce otonom kararı yönetmek zorunda kalacak, elle yönetişim ise bu hesaba yetişemeyecek.