Meta, Gözetim Kurulu tarafından sorgulanana kadar Hintli bir kamu şahsiyetinin yapay zeka tarafından üretilen müstehcen bir görüntüsünü kaldırmayı başaramadı. Kurul, Perşembe günü yayınladığı raporda, teknoloji devini platformlarındaki rıza dışı, çıplak deepfake’leri ele almak için daha fazlasını yapmaya çağırdı.
Raporda, Meta Gözetim Kurulu‘nun Nisan ayında Meta’nın deepfake pornografiyi ele alışı ile ilgili başlattığı bir soruşturmanın sonuçları yer aldı. Bu soruşturma, bir Amerikalı ve bir Hintli kamu figürünün müstehcen görüntülerinin yayınlandığı iki spesifik örneği içeriyordu.
Yapay zeka tarafından üretilen pornografi tehdidi, Taylor Swift gibi ünlülerin yanı sıra ABD’li lise öğrencileri ve dünyanın dört bir yanındaki diğer kadınların çevrimiçi istismar biçiminin kurbanı olmasıyla son aylarda dikkat çekti. Yaygın olarak erişilebilen üretken yapay zeka araçları, bu tür görüntülerin oluşturulmasını daha hızlı, daha kolay ve daha ucuz hale getirdi. Bu tür görüntülerin hızla yayılabildiği Meta gibi sosyal medya platformları, bu sorunla mücadele etmek için artan bir baskıyla karşı karşıya kaldı.
Meta’nın tepkisi ve eksiklikler
Facebook’ta yayınlanan ve yapay zeka tarafından üretilen, çıplak ve tacize uğramış olarak tasvir edilen Amerikalı tanınmış kişinin görüntüsü söz konusu olduğunda, şirket daha önce kural ihlali yapan görüntüleri otomatik olarak tespit eden bir eşleştirme bankasına eklenmiş olan bu resmi derhal kaldırdı. Ancak Hintli tanınmış kişinin durumunda, görüntü Meta‘ya iki kez bildirilmesine rağmen, şirket Gözetim Kurulu davayı ele alana kadar görüntüyü Instagram’dan kaldırmadı.
Gözetim Kurulu raporunda, “Meta, içeriği Instagram’da bırakma yönündeki ilk kararının hatalı olduğunu tespit etti ve şirket, Zorbalık ve Taciz Topluluk Standardını ihlal ettiği için gönderiyi kaldırdı” dedi. “Daha sonra, Kurul görüşmelerine başladıktan sonra, Meta içeriği yayınlayan hesabı devre dışı bıraktı.”
Tavsiyeler ve Meta’nın tepkisi
Rapor, yapay zekadaki ilerlemeler bu tür tacizleri giderek daha yaygın hale getirse bile, Meta‘nın rıza dışı cinsel görüntülere karşı kurallarını tutarlı bir şekilde uygulamadığını öne sürüyor. Rapor aynı zamanda Meta‘nın Batılı olmayan ya da İngilizce konuşulmayan ülkelerdeki içerikleri denetlemesinde süregelen sorunlara da işaret ediyor ki şirket bu konuda daha önce de eleştirilere maruz kalmıştı. Meta yaptığı açıklamada kurulun kararını memnuniyetle karşıladığını belirtti. Raporda tespit edilen belirli gönderiler halihazırda kaldırılmış olsa da, şirketin, Gözetim Kurulu tarafından vurgulananlarla “aynı ve aynı bağlamda” olan Hintli kamu figürünün görüntüleri hakkında “teknik ve operasyonel olarak mümkün olduğu durumlarda” “harekete geçeceğini” ekledi.
İfade özgürlüğü ve insan hakları gibi alanlarda uzmanlardan oluşan yarı bağımsız bir kuruluş olan Gözetim Kurulu, raporunda Meta‘nın cinselleştirilmiş deepfake’lerle mücadele çabalarını nasıl geliştirebileceğine dair ek tavsiyelerde bulundu. Şirketten, “aşağılayıcı cinselleştirilmiş photoshop” yasağını özellikle “rıza dışı” kelimesini içerecek şekilde güncelleyerek ve yapay zeka gibi diğer fotoğraf manipülasyon tekniklerini açıkça kapsayacak şekilde kurallarını daha net hale getirmesini istedi.
Medyanın rolü
Habere göre Meta, kurula, Hintli tanınmış kişinin görüntüsünü başlangıçta kuralı ihlal eden fotoğraf eşleştirme bankasına eklemediğini çünkü bu konuda haber yapılmadığını, oysa medyanın ABD’li tanınmış kişinin görüntülerine yer verdiğini söyledi. “Bu endişe verici bir durum çünkü deepfake mahrem görüntülerin pek çok mağduru kamuoyunun gözü önünde değil ve ya rıza dışı tasvirlerinin yayılmasını kabul etmek ya da her örneği aramak ve bildirmek zorunda kalıyorlar” diyen Kurul, Meta‘nın bir görüntünün bankaya eklenip eklenmeyeceğini belirlerken yapay zeka tarafından üretilip üretilmediği de dahil olmak üzere diğer faktörleri göz önünde bulundurabileceğini de sözlerine ekledi. Kurulun Nisan ayında soruşturmaya başlamasının ardından Meta, görüntüyü fotoğraf eşleştirme bankasına ekledi.
Meta’nın mücadelesi
Rızaya dayalı olmayan deepfake’lerle mücadele etme çabası, Meta‘nın kullanıcılarının cinsel istismarını önlemeye yönelik daha büyük çabalarının sadece bir parçası. Şirket Çarşamba günü yaptığı açıklamada, Nijerya’da insanların (genellikle gençlerin) çıplak görüntüler göndermeleri için kandırıldığı ve daha sonra gasp edildiği finansal sextortion dolandırıcılığı yapan yaklaşık 63.000 hesabı kaldırdığını söyledi.
 konusunda yeterince etkili önlemler almadığı gerekçesiyle Gözetim Kurulu tarafından eleştirildi.){kind=link}