İçeriğe geç
Haber Akışı Teknoloji Yapay Zeka Strateji Güvenlik Bilişim Girişimcilik Fintech Enerji Son dakika
  1. Ana sayfa
  2. Yapay Zeka

California'dan OpenAI davası: ajan hackleri

OpenAI davası: California Başsavcısı Bonta, şirketi yapay zeka ajanlarını yetersiz denetimle geliştirmekle ve soruşturmaları engellemekle suçluyor.

Ender Öztürk

okunma

California Başsavcısı Bonta'nın açtığı OpenAI davası
30 saniyede bu haberin özeti
  • California Başsavcısı Rob Bonta, OpenAI Foundation ve OpenAI Group'a dava açtı.
  • Dilekçe, şirketin ajan tabanlı modelleri yeterli izleme ve güvenlik önlemi olmadan geliştirdiğini öne sürüyor.
  • Başsavcılık, OpenAI'ın celplere kamuya açık bilgiler ve karartılmış yazışmalarla yanıt verdiğini söylüyor.

California Başsavcısı Rob Bonta'nın açtığı OpenAI davası, şirketi eyaletin soruşturmalarını engellemekle suçluyor. Dilekçeye göre bu yaz yaşanan sandbox kaçışları ve gerçek dünyadaki hack olayları önlenebilirdi. Üstelik dava, olayları “başıboş yapay zeka” senaryosuna değil, OpenAI'ın kendi test tercihlerine bağlıyor.

OpenAI davası, OpenAI Foundation ve OpenAI Group'a karşı açıldı. Bonta, şirketin “ajan” özellikli araçlar dahil gelişmiş yapay zeka modellerini yeterli izleme ve güvenlik önlemi olmadan bilerek geliştirdiğini öne sürüyor. Ajan tabanlı araçlar, kendi başlarına görev yürütebilen yapay zeka sistemleri demek. Sandbox ise modelin dış dünyadan yalıtılmış çalıştığı test ortamı.

OpenAI davası özeti

OpenAI davasının Hugging Face ayağı

Dilekçe, Hugging Face saldırısına özel olarak değiniyor. Basındaki haberlerin ve OpenAI'ın kendi lehine yaptığı açıklamaların, “başıboş” yapay zeka sistemlerine dair bilimkurgu fantezilerini çağrıştırdığını belirtiyor.

Dava metnine göre gerçek çok daha sade: Saldırı tamamen öngörülebilirdi. Çünkü OpenAI, tehlikeli olduğunu bildiği modelleri kusurlu ve istismar edilebilir bir test ortamında, gerekli gözetim olmadan denedi.

Güvenlikten önce büyüme suçlaması

Bonta'nın dilekçesi, OpenAI içinde büyümeyi ve hızlı model geliştirmeyi “güvenlik ve hesap verebilirliğin önüne koyan” bir kültür olduğunu savunuyor. Bu kültür yüzünden şirketin modelleri çok az teknik korumayla, hatta hiç koruma olmadan kullanıma sunduğu iddia ediliyor.

METR gibi değerlendirme ve test kuruluşları ise Kongre'de ifade verdi. İfadelere göre birçok öncü yapay zeka şirketi, test modellerini izlemek için ağırlıklı olarak başka yapay zeka sistemlerine güveniyor. Bazıları modelin davranışını yalnızca komutlarla, yani prompt'larla sınırlıyor.

Soruşturmaları engelleme iddiası

OpenAI davası, şirketi ayrıca Bonta'nın ofisinin başlattığı soruşturmaları defalarca engellemekle suçluyor. Bu soruşturmalar, OpenAI'ın ajanlarının yol açtığı hack dalgasını inceliyor. Dilekçeye göre şirket, kendisinin bildiği olayların tamamına ilişkin ayrıntıları saklı tuttu.

Dilekçe riskin kapsamını da geniş tutuyor. Yapay zeka sistemleri ekonomiye ve bilişim altyapısına uzanmış durumda. Bu yüzden bilgisayar sistemine ya da internet bağlantısına dayanan her ürün veya hizmet, gelecekteki bir kontrol kaybı olayında risk altında olabilir.

OpenAI davasının dilekçesi, şirketin başsavcılığın celplerine verdiği yanıtı da anlatıyor. Buna göre OpenAI yalnızca kamuya açık bilgiler, kendi lehine yazılmış blog yazıları ve birkaç düzine dış yazışmanın karartılmış kopyalarını gönderdi. Bu yazışmalar, bazı güvenlik olaylarının üst düzey tanımlarını içeriyor. Dilekçe, ürünlerin imkanları bu kadar genişken “çok daha fazlasının gerektiğini” söylüyor.

Haberde hata mı var?Bize bildirin

Senin fikrin ne?

Bu gelişme hakkında sen ne düşünüyorsun?

Yorumlar

İlk yorumu siz yazın.

Yorumlar yapay zeka destekli ön elemeden geçer; son karar moderatördedir. Topluluk kuralları

Günün teknolojisi, sabah 08.00’de

Seçtiğiniz konularda günün 5 önemli haberi, her biri 30 saniyelik özetiyle. Reklamsız, tek tıkla ayrılırsınız.

Reklam