OpenAI, yeni bir bağımsız yönetim kurulu denetim komitesinin kurulması da dahil olmak üzere güvenlik ve emniyet uygulamalarında önemli değişiklikler duyurdu. Bu hareket, önemli bir değişiklikle geliyor: CEO Sam Altman artık güvenlik komitesinin bir parçası değil ve bu da önceki yapıdan bir ayrılışı işaret ediyor.
OpenAI güvenlik kurulu yetkileri değişiyor
Yeni oluşturulan Güvenlik ve Emniyet Komitesi’ne (SSC) Carnegie Mellon Üniversitesi Makine Öğrenmesi Bölümü Direktörü Zico Kolter başkanlık edecek. Diğer önemli üyeler arasında Quora CEO’su Adam D’Angelo, emekli ABD Ordusu Generali Paul Nakasone ve Sony Corporation’ın eski EVP’si ve Genel Müşaviri Nicole Seligman yer alıyor.
Bu yeni komite, Haziran 2024’te kurulan ve üyeleri arasında Altman’ın da bulunduğu önceki Güvenlik ve Emniyet Komitesi’nin yerini alıyor. Orijinal komite, OpenAI projeleri ve operasyonları için kritik güvenlik ve emniyet kararları konusunda önerilerde bulunmakla görevlendirilmişti.
SSC’nin sorumlulukları artık önerilerin ötesine uzanıyor. Büyük model sürümleri için güvenlik değerlendirmelerini denetleme ve model lansmanları üzerinde denetim yapma yetkisine sahip olacak. En önemlisi, komite, güvenlik endişeleri yeterince ele alınana kadar bir sürümü geciktirme yetkisine sahip olacak.
Bu yeniden yapılanma, OpenAI’nin AI güvenliğine olan bağlılığıyla ilgili bir inceleme döneminin ardından geldi. Şirket, geçmişte Superalignment ekibini dağıtması ve güvenlik odaklı kilit personelin ayrılması nedeniyle eleştirilerle karşı karşıya kalmıştı. Altman’ın güvenlik komitesinden çıkarılması, şirketin güvenlik denetimindeki olası çıkar çatışmalarıyla ilgili endişeleri giderme girişimi gibi görünüyor.
OpenAI’nin son güvenlik girişimi ayrıca güvenlik önlemlerini geliştirme, çalışmaları hakkında şeffaflığı artırma ve dış kuruluşlarla iş birliği yapma planlarını da içeriyor. Şirket, ortaya çıkan AI güvenlik riskleri ve güvenilir AI için standartlar konusunda araştırma yapmak üzere ABD ve İngiltere AI Güvenlik Enstitüleri ile iş birliği yapmak üzere halihazırda anlaşmalara vardı.