Federal Ticaret Komisyonu (FTC), OpenAI‘in ChatGPT‘sinin, insanlar hakkında yanlış bilgiler yayınlayarak insanlara zarar verip vermediğini ve yapay zeka kullanarak ürkütücü bir şekilde insan benzeri içerik üretebilen popüler uygulama için potansiyel bir yasal tehdit oluşturup oluşturmadığını araştırıyor.
Perşembe günü şirkete yapılan bir medeni mahkeme celbinde FTC, ChatGPT soruşturmasının OpenAI‘in “itibar zedelenmesi de dahil olmak üzere tüketicilere zarar verme riskleriyle ilgili haksız veya aldatıcı uygulamalar” yapıp yapmadığına odaklandığını söyledi.
Başkan Lina Khan yönetimindeki yeni FTC soruşturması, federal hükümetin ortaya çıkan teknolojiyi denetlemedeki rolünde önemli bir artışa işaret ediyor. Ancak bu, antitröst uygulama çabalarında son zamanlarda yasal aksiliklere maruz kalan kurum için keşfedilmemiş bir bölgeye başka bir riskli girişim anlamına gelebilir.
ChatGPT biri hakkında yanlış bir şey söylediğinde ve bu kişinin itibarına zarar vermiş olabileceğinde, bu FTC’nin yetki alanına girer mi? Bir endüstri ticaret grubu olan İlerleme Odası’nın kurucusu Adam Kovacevich, “Bunun hiç de net olduğunu düşünmüyorum.” dedi. “Bu tür meseleler daha çok söz alemindedir ve onların yetkilerini aşan söz düzenlemesi olur” diye ekledi.
FTC, haksız rekabetin yanı sıra tüketicilere zarar verebilecek haksız ve aldatıcı iş uygulamalarını denetlemek için geniş bir yetkiye sahip, ancak eleştirmenler, Khan’ın yetkisini bazen çok ileri götürdüğünü söylüyor.
Perşembe günü Khan, ajansının Twitter’ın tüketiciler için gizlilik korumalarına ilişkin soruşturması nedeniyle eleştirildi. Cumhuriyetçiler, soruşturmanın Elon Musk’ın Twitter’ı devralmasına ve içerik denetleme politikalarını gevşetmesine kızan ilericiler tarafından yürütüldüğünü söylüyor. Khan, ajansın yalnızca kullanıcıların gizliliğini korumakla ilgilendiğini söyledi.
FTC, OpenAI‘ye yaptığı sivil mahkeme celbinde şirkete veri güvenliği uygulamaları hakkında ayrıntılı sorular sordu. Şirketin, kullanıcıların diğer kullanıcıların sohbetleri hakkındaki bilgileri ve ödemeyle ilgili bazı bilgileri görmesine izin veren bir hatayı ifşa ettiği 2020 olayına atıfta bulundu. FTC mahkeme celbinin kapsadığı diğer konular arasında şirketin pazarlama çabaları, yapay zeka modellerini eğitme uygulamaları ve kullanıcıların kişisel bilgilerinin ele alınması yer alıyor.
Bir düşünce kuruluşu olan Yapay Zeka ve Dijital Politika Merkezi, Mart ayında ChatGPT ile ilgili olarak FTC’ye şikayette bulundu ve bunu “taraflı, aldatıcı ve mahremiyet ve kamu güvenliği için bir risk” olarak nitelendirdi ve FTC’nin yönergelerinden hiçbirini karşılamadığını savundu.
Biden yönetimi, ChatGPT gibi yapay zeka araçları üzerinde kontrol yapılması gerekip gerekmediğini incelemeye başladı. Potansiyel düzenlemeye yönelik ilk adımda, Ticaret Departmanı Nisan ayında hesap verebilirlik önlemleri olarak adlandırdığı şey hakkında yorum yapmak için resmi bir kamuoyu talebi yayınladı.
Senato Çoğunluk Lideri Chuck Schumer liderliğindeki her iki partideki milletvekilleri de yapay zekayı düzenlemeyi mevcut Kongre için bir öncelik haline getirdi. Milletvekilleri, potansiyel itibar riskleriyle ilgili endişelere ek olarak, AI araçlarının seçmenleri dezenformasyonla manipüle etmek, azınlık gruplarına karşı ayrımcılık yapmak, karmaşık mali suçlar işlemek, milyonlarca işçiyi yerinden etmek veya başka zararlar yaratmak için kötüye kullanılabileceğinden de endişe duyduklarını söylüyorlar.
Milletvekilleri, gerçek insanları utanç verici eylemlerde bulunurken veya utanç verici açıklamalarda bulunurken yanlış bir şekilde tasvir eden derin sahte videoların risklerinden özellikle endişe duyuyorlar.
Ancak yeni mevzuat veya diğer önlemler muhtemelen daha uzun değilse de aylarca uzakta. Ve milletvekilleri, atacakları herhangi bir önemli adımın, yapay zeka araçları pazarlarına hakim olmak için Çin ile hayati bir rekabet olarak şekillenen ABD inovasyonunun hızını yavaşlatma riski taşıyacağından endişelenmeli.
ChatGPT’nin yaratıcıları bile yapay zeka geliştirme konusunda daha fazla devlet gözetimi yapılmasını istedi.
Mayıs ayında Kongre’den önceki bir duruşmada, OpenAI CEO’su Sam Altman, Kongre’yi gelişmiş yapay zeka sistemleri için lisanslama ve güvenlik standartları oluşturmaya çağırırken, milletvekilleri tüketicilere sunulan güçlü yeni araçları düzenlemeye yönelik iki partili bir hamle başlattı.
Sam Altman, Senato alt komitesi duruşmasında AI teknolojisi hakkında “İnsanların bunun yaşam biçimimizi nasıl değiştirebileceği konusunda endişeli olduklarını anlıyoruz. Biz de öyleyiz.” dedi. “Bu teknoloji ters giderse, oldukça ters gidebilir.”