En büyük 7 yapay zeka şirketinin temsilcileri Beyaz Saray’da buluştu ve ABD yönetimine gönüllü güvenlik taahhütleri verdi.
Yapay zeka yasalarının çıkmasına henüz çok var, ancak sektör ışık hızında ilerliyor ve birçok kişi – Beyaz Saray dahil – kontrolün elden çıkabileceğinden endişe ediyor. Bu yüzden Biden yönetimi, planlanan bir İcra Emri öncesinde paylaşılan güvenlik ve şeffaflık hedeflerini takip etmek için en büyük 7 AI geliştiricisinden “gönüllü taahhütler” topladı.
OpenAI, Anthropic, Google, Inflection, Microsoft, Meta ve Amazon bu bağlayıcı olmayan anlaşmaya katılan şirketler ve bugün Başkan Biden ile görüşmek üzere Beyaz Saray’a temsilci gönderdi.
Kabul edilen uygulamaların tamamen gönüllü olduğunun altını çizmek gerekli. Ancak bir şirket birkaçını görmezden gelirse hiçbir devlet kurumu bir şirketi sorumlu tutmayacak, aynı zamanda büyük olasılıkla bir dava da söz konusu olmayacak.
İşte Beyaz Saray’daki katılımcıların listesi
Brad Smith, Başkan, Microsoft
Kent Walker, Başkan, Google
Dario Amodei, CEO, Anthropic
Mustafa Suleyman, CEO, Inflection AI
Nick Clegg, Başkan, Meta
Greg Brockman, Başkan, OpenAI
Adam Selipsky, CEO, Amazon Web Services
Ne taahhüt ettiler?
AI sistemlerinin iç ve dış güvenlik testleri, dahil olmak üzere şirket dışındaki uzmanlar tarafından “kırmızı ekip” düşmanca testleri yapılacak.
AI riskleri ve azaltma teknikleri (örneğin “jailbreaking”i önlemek gibi) hakkında hükümet, akademi ve “sivil toplum” arasında bilgi paylaşılacak.
Özel model verilerini korumak için siber güvenlik ve “içerideki tehdit önlemleri”ne yatırım yapılacak. Bu, sadece IP’yi korumak için değil, aynı zamanda erken geniş çapta yayın, kötü niyetli aktörlere bir fırsat sunabilir çünkü önemlidir.
Üçüncü taraf keşif ve güvenlik açıklarının bildirilmesini kolaylaştıracak, örneğin bir hata ödül programı veya alan uzmanı analizi.
AI üretilen içeriği işaretlemek için sağlam bir filigran veya başka bir yol geliştirecek.
AI sistemlerinin “kabiliyetleri, sınırlamaları ve uygun ve uygunsuz kullanım alanları” hakkında rapor verilmesi. Bu konuda düz bir yanıt almanın zor olacağı aşikar.
Sistematik önyargı veya gizlilik sorunları gibi toplumsal riskler üzerinde araştırma yapmayı önceliklendirme.
Kanser önleme ve iklim değişikliği gibi “toplumun en büyük sorunlarını çözmeye yardımcı olacak” AI geliştirme ve dağıtma. (Bununla birlikte, bir basın toplantısında AI modellerinin karbon ayak izinin izlenmediği belirtildi.)
Beyaz Saray, açıkça sosyal medyanın yıkıcı yetenekleri tarafından biraz şaşırtılmış olan bu sonraki büyük teknoloji dalgasının önünde olmayı arzuluyor. Başkan ve Başkan Yardımcısı her ikisi de sektör liderleriyle görüştüler ve bir ulusal AI stratejisi üzerine tavsiye istediler, ayrıca yeni AI araştırma merkezleri ve programlarına ciddi miktarda fon ayırdılar. Tabii ki ulusal bilim ve araştırma kurumları onların çok önünde, DOE ve National Labs’dan gelen bu oldukça kapsamlı (ancak zorunlu olarak biraz tarih dışı) araştırma zorlukları ve fırsatları raporu gösteriyor.
