OpenAI CEO’su Altman, çalışmayı Perşembe akşamı X platformunda yaptığı bir gönderiyle duyurdu.
Duyuru, ayrıntılar açısından kısıtlı olsa da, OpenAI’in daha güçlü jeneratif yapay zeka teknolojileri geliştirme uğruna yapay zeka güvenliği üzerindeki çalışmaları ikinci plana attığı yönündeki eleştirilere bir yanıt niteliğinde.
Mayıs ayında OpenAI, “süper zeki” yapay zeka sistemlerinin kontrolden çıkmasını önlemek için geliştirilen kontroller üzerinde çalışan birimi fiilen dağıtmıştı. Haberler, şirketin bu ekibin güvenlik araştırmalarını yeni ürünlerin lansmanları lehine bir kenara bıraktığını ve bu durumun, ekibin iki liderinin (Jan Leike ve OpenAI kurucu ortağı Ilya Sutskever) istifasına yol açtığını ortaya koydu.
Bu gelişmelere yanıt olarak şirket, ihbarcılığı zımnen caydıran kısıtlayıcı “aşağılama yasağı” maddelerini kaldıracağını ve bir güvenlik komisyonu oluşturacağını duyurdu. Ayrıca, hesaplama kaynaklarının %20’sini güvenlik araştırmalarına ayırma taahhüdünü yineledi.
Ancak, OpenAI’in bu adımları bazı gözlemcileri tatmin etmedi. Özellikle, OpenAI’in güvenlik komisyonunu tamamen şirket içi isimlerle doldurmasının ardından ve kısa bir süre önce üst düzey bir güvenlik yöneticisini başka bir birime atamasının ardından eleştiriler arttı. Hawaii’li Demokrat Senatör Brian Schatz‘ın da aralarında bulunduğu beş senatör, Altman’a bir mektup yazarak şirketin politikalarını sorguladı. Şirketin baş strateji sorumlusu Jason Kwon ise mektuba verdiği yanıtta, OpenAI’in süreçlerinin her aşamasında titiz güvenlik protokolleri uygulamaya kararlı olduğunu belirtti.
OpenAI’in ABD Yapay Zeka Güvenlik Enstitüsü ile yaptığı anlaşmanın zamanlaması, şirketin bu hafta başında gelecekteki İnovasyon Yasası’nı desteklemesi ışığında biraz şüpheli görünüyor. Bu yasa tasarısı, Güvenlik Enstitüsü’nü AI modelleri için standartlar ve yönergeler belirleyen bir yürütme organı olarak yetkilendirecek. Altman, ayrıca ABD İç Güvenlik Bakanlığı’nın Yapay Zeka Güvenlik ve Güvenilirlik Kurulu’nda yer alıyor; bu kurul, ABD’nin kritik altyapılarında yapay zekanın güvenli bir şekilde geliştirilmesi ve uygulanması için önerilerde bulunuyor.
OpenAI’in bu yıl federal lobi faaliyetlerine yaptığı harcamaları ciddi şekilde artırması da dikkat çekiyor. 2024’ün ilk altı ayında 800.000 dolar harcayan şirket, 2023 yılında sadece 260.000 dolar harcamıştı.
Bu durum, OpenAI’in federal düzeyde yapay zeka politika yapımında etkisini artırmaya çalıştığını gösteriyor.
