Board, Meta’ya bu tür yapay zeka ürünü görüntülerle ilgili terminolojiyi “aşağılayıcı” yerine “rızasız” olarak değiştirmesini ve bu politikaları “Zorbalık ve Taciz” bölümünden “Cinsel Sömürü Topluluk Standartları” bölümüne taşımasını önerdi.
Mevcut durumda, Meta’nın yapay zeka ile oluşturulan açık görüntülerle ilgili politikası, “aşağılayıcı cinsel photoshop” kuralına dayanıyor. Board, “photoshop” kelimesinin yerine manipüle edilmiş medya için genel bir terim kullanılmasını tavsiye etti. Ayrıca, Meta’nın rızasız görüntüleri “ticari olmayan veya özel bir ortamda üretilmiş” ise yasakladığını belirtti. Board, bu şartın yapay zeka ile oluşturulan veya manipüle edilen görüntülerin kaldırılması için zorunlu olmaması gerektiğini savundu.
Bu tavsiyeler, iki yüksek profilli olayın ardından geldi. Bu olaylarda, Instagram ve Facebook’ta paylaşılan yapay zeka ile oluşturulmuş açık görüntüler Meta’yı zor durumda bırakmıştı. İlk olayda, Hintli bir kamu figürünün yapay zeka ile oluşturulmuş çıplak görüntüsü Instagram’da paylaşıldı.
Birçok kullanıcı bu görüntüyü bildirdi ancak Meta, 48 saat içinde istemi kapattı ve herhangi bir inceleme yapmadı. Kullanıcılar karara itiraz etti ancak istem tekrar kapatıldı. Meta, Oversight Board davayı ele aldıktan sonra içeriği kaldırdı ve hesabı yasakladı.
Diğer olayda, ABD’li bir kamu figürüne benzeyen yapay zeka ile oluşturulmuş bir görüntü Facebook’ta paylaşıldı. Meta, bu görüntüyü zaten Media Matching Service (MMS) deposunda (hizmet şartlarını ihlal eden görüntülerin benzerlerini tespit etmek için kullanılan bir bank) bulunduruyordu ve başka bir kullanıcı bu görüntüyü Facebook’a yüklediğinde hızlı bir şekilde kaldırdı. Ancak Meta, Hintli kamu figürüne ait görüntüyü Oversight Board’un teşvikiyle MMS bankasına ekledi. Şirket, bu görüntünün daha önce MMS bankasında olmadığını, çünkü olayla ilgili medya raporlarının bulunmadığını belirtti.
Oversight Board, “Bu durum endişe verici çünkü deepfake mahrem görüntülerinin kurbanlarının çoğu kamuoyunun gözü önünde değil ve rızaları dışında gerçekleşen tasvirlerin yayılmasını kabul etmek veya her olayı bildirmek zorunda kalıyorlar.” dedi.
Hintli bir organizasyon olan Breakthrough Trust, bu sorunların ve Meta’nın politikalarının kültürel etkileri olduğunu vurguladı. Breakthrough, Oversight Board’a yaptığı yorumlarda, rızasız görüntülerin genellikle kimlik hırsızlığı olarak trivialize edildiğini ve cinsiyete dayalı şiddet olarak görülmediğini belirtti.
Meta, Board’un bu gözlemlerine yanıt olarak, bu tavsiyeleri gözden geçireceğini belirtti.