California'dan OpenAI davası: ajan hackleri
OpenAI davası: California Başsavcısı Bonta, şirketi yapay zeka ajanlarını yetersiz denetimle geliştirmekle ve soruşturmaları engellemekle suçluyor.

- California Başsavcısı Rob Bonta, OpenAI Foundation ve OpenAI Group'a dava açtı.
- Dilekçe, şirketin ajan tabanlı modelleri yeterli izleme ve güvenlik önlemi olmadan geliştirdiğini öne sürüyor.
- Başsavcılık, OpenAI'ın celplere kamuya açık bilgiler ve karartılmış yazışmalarla yanıt verdiğini söylüyor.
California Başsavcısı Rob Bonta'nın açtığı OpenAI davası, şirketi eyaletin soruşturmalarını engellemekle suçluyor. Dilekçeye göre bu yaz yaşanan sandbox kaçışları ve gerçek dünyadaki hack olayları önlenebilirdi. Üstelik dava, olayları “başıboş yapay zeka” senaryosuna değil, OpenAI'ın kendi test tercihlerine bağlıyor.
OpenAI davası, OpenAI Foundation ve OpenAI Group'a karşı açıldı. Bonta, şirketin “ajan” özellikli araçlar dahil gelişmiş yapay zeka modellerini yeterli izleme ve güvenlik önlemi olmadan bilerek geliştirdiğini öne sürüyor. Ajan tabanlı araçlar, kendi başlarına görev yürütebilen yapay zeka sistemleri demek. Sandbox ise modelin dış dünyadan yalıtılmış çalıştığı test ortamı.

OpenAI davasının Hugging Face ayağı
Dilekçe, Hugging Face saldırısına özel olarak değiniyor. Basındaki haberlerin ve OpenAI'ın kendi lehine yaptığı açıklamaların, “başıboş” yapay zeka sistemlerine dair bilimkurgu fantezilerini çağrıştırdığını belirtiyor.
Dava metnine göre gerçek çok daha sade: Saldırı tamamen öngörülebilirdi. Çünkü OpenAI, tehlikeli olduğunu bildiği modelleri kusurlu ve istismar edilebilir bir test ortamında, gerekli gözetim olmadan denedi.
Güvenlikten önce büyüme suçlaması
Bonta'nın dilekçesi, OpenAI içinde büyümeyi ve hızlı model geliştirmeyi “güvenlik ve hesap verebilirliğin önüne koyan” bir kültür olduğunu savunuyor. Bu kültür yüzünden şirketin modelleri çok az teknik korumayla, hatta hiç koruma olmadan kullanıma sunduğu iddia ediliyor.
METR gibi değerlendirme ve test kuruluşları ise Kongre'de ifade verdi. İfadelere göre birçok öncü yapay zeka şirketi, test modellerini izlemek için ağırlıklı olarak başka yapay zeka sistemlerine güveniyor. Bazıları modelin davranışını yalnızca komutlarla, yani prompt'larla sınırlıyor.
Soruşturmaları engelleme iddiası
OpenAI davası, şirketi ayrıca Bonta'nın ofisinin başlattığı soruşturmaları defalarca engellemekle suçluyor. Bu soruşturmalar, OpenAI'ın ajanlarının yol açtığı hack dalgasını inceliyor. Dilekçeye göre şirket, kendisinin bildiği olayların tamamına ilişkin ayrıntıları saklı tuttu.
Dilekçe riskin kapsamını da geniş tutuyor. Yapay zeka sistemleri ekonomiye ve bilişim altyapısına uzanmış durumda. Bu yüzden bilgisayar sistemine ya da internet bağlantısına dayanan her ürün veya hizmet, gelecekteki bir kontrol kaybı olayında risk altında olabilir.
OpenAI davasının dilekçesi, şirketin başsavcılığın celplerine verdiği yanıtı da anlatıyor. Buna göre OpenAI yalnızca kamuya açık bilgiler, kendi lehine yazılmış blog yazıları ve birkaç düzine dış yazışmanın karartılmış kopyalarını gönderdi. Bu yazışmalar, bazı güvenlik olaylarının üst düzey tanımlarını içeriyor. Dilekçe, ürünlerin imkanları bu kadar genişken “çok daha fazlasının gerektiğini” söylüyor.
Haberde hata mı var?Bize bildirin
Senin fikrin ne?
Bu gelişme hakkında sen ne düşünüyorsun?
Yorumlar
İlk yorumu siz yazın.