Yakın zamanda 350’den fazla IT yöneticisiyle yapılan bir ankete göre, yöneticilerin yarısından fazlası, yapay zeka uygulamalarının karmaşıklığının siber güvenlik zafiyetlerini artırdığını düşünüyor.
Ayrıca, yöneticilerin %40’tan fazlası güvenlik ekiplerinin yapay zeka uygulamalarını korumak için gerekli becerilere sahip olmadığını ifade ediyor. Bu ihtiyaç, AI sistemlerini siber saldırılardan koruma odaklı birçok girişimin ortaya çıkmasına yol açtı.
HiddenLayer ve Protect AI gibi girişimler, AI sistemlerini kötü niyetli saldırılardan koruma üzerine çalışırken, Cranium gibi şirketler ise uygulama seviyesinde yapay zeka sistemlerine görünürlük sağlıyor.
2023 yılında kurulan ve bugün gizlilikten çıkan Noma Security de bu güvenlik girişimlerinden biri olarak dikkat çekiyor. Noma, veri bilimi ortamlarında güvenlik açıklarını tespit etme ve tehditleri belirleme konularında yenilikçi araçlar sunmayı hedefliyor.
Noma’nın kurucusu ve CEO’su Niv Braun’a göre, yapay zeka uygulamalarında veri güvenliği sağlamak için geliştirilmiş mevcut araçlar yeterli değil. Braun, “Mevcut araçlar geleneksel yazılım döngüsü için tasarlandı, ancak yapay zeka döngüsü kendine özgü teknolojilere dayanır ve farklı güvenlik açıkları içerir.” diyor.
Yapay zeka için özel güvenlik araçları
Noma’nın geliştirdiği platform, AI uygulamalarında kullanılan veri boru hatları ve kodları tarayarak yanlış yapılandırmaları tespit ediyor. Örneğin, model eğitim veri kümelerinde kişisel bilgileri içeren hassas verileri tarayarak güvenlik risklerini en aza indiriyor. Şirketlerin, yapay zeka uygulamalarının güvenlik durumunu tek bir kontrol paneli üzerinden yönetmelerini sağlayan bu platform, hem bulut tabanlı hem de kendine ait sunucularda çalışabiliyor.
Braun, AI güvenliği alanında birçok tek işlevli güvenlik çözümünün piyasaya sürüldüğünü, ancak Noma’nın bütüncül bir yaklaşım benimsediğini belirtiyor. Şirketlerin yapay zeka uygulama güvenliğini anlamalarına ve yönetim kontrolleri sağlamalarına yardımcı olarak, riskleri azaltma ve iş alanlarında daha hızlı AI kullanımını teşvik etme amacında olduklarını ifade ediyor.
Güçlü yatırım ve büyüme planları
Noma, B2B yazılım, finansal hizmetler ve perakende sektörlerinde Fortune 500 şirketleri de dahil olmak üzere birçok müşteriye sahip.
Girişim, kısa süre önce Ballistic Ventures liderliğinde 25 milyon dolarlık Seri A yatırım turunu tamamladı. Bu yatırımla birlikte toplamda 32 milyon dolar fon toplayan Noma, geliştirme ve pazarlama ekiplerini büyütmeyi, 20 kişilik ekibini gelecek yıl iki katına çıkarmayı planlıyor.
Braun, bu sermayenin şirketin AI güvenliği alanındaki konumunu güçlendirmek için hızlandırıcı bir etki yaratacağını belirtiyor.