Instagram’ın takipçilere, çocukları cinselleştiren makaralar sunduğu bildirildi. X’in Yahudi karşıtı içerik içerdiği iddia edilen reklam tartışmasının ardından, içerik algoritması nedeniyle mercek altına alınma sırası artık Meta’da. The Wall Street Journal tarafından yürütülen bir araştırmaya göre, Instagram’ın Reels video hizmeti, yalnızca genç ve genç yaştaki bireyleri(yani genç jimnastikçileri ve amigo kızları) takip eden hesapları test etmek için “çocukların riskli görüntülerinin yanı sıra açıkça cinsel içerikli yetişkin videoları” da sunacak. Bu tür reklamların Meta platformlarında yasaklanması gerekiyordu.
Instagram çocukları cinselleştiren markalar mı sağlıyor?
Daha da kötüsü, bu tür müstehcen içeriklerin Disney, Walmart, Pizza Hut, Bumble, Match Group ve hatta The Wall Street Journal gibi önemli ABD markalarını temsil eden reklamlara da karıştırılmasıydı. Raporda, Kanada Çocuk Koruma Merkezi’nin de ayrı ayrı kendi testleriyle benzer sonuçlar elde ettiği belirtildi. Walmart ve Pizza Hut görünüşe göre yorum yapmaktan kaçınırken, Bumble, Match Group, Hims (erektil disfonksiyon ilaçları perakendecisi) ve Disney o zamandan beri ya reklamlarını Meta’dan çekti ya da firmaya bu sorunu çözmesi için baskı yaptı. X ile ilgili daha önce yaşanan tartışmalar göz önüne alındığında, reklamverenlerin reklamlarının yanında gösterilen içerik türü konusunda çok daha hassas oldukları görülüyor. Buna yanıt olarak Meta, müşterilerine araştırma yaptığını ve “bir şirketin reklamlarının kabul edilemez olarak nitelendirdiği içeriğin yanında ne sıklıkta göründüğünü belirlemek için marka güvenliği denetim hizmetlerine para ödeyeceğini” söyledi. Ancak firma, gelecekte önlem alınmasına ilişkin bir zaman çizelgesi veya ayrıntı sunma konusunda yetersiz kaldı.
Bu tür testlerin mutlaka gerçek kullanıcı deneyimini temsil etmediği söylenebilir (teknoloji şirketlerinin iddia ettiği gibi), Instagram’ın çocuklara yönelik cinsel içerikli içerikleri toplama eğilimi, şirket içinde bilinen bir sorundu. Mevcut ve önceki bilgilere göre Reels piyasaya sürülmeden önce bile bu durumlara rastlanıyordu.
Aynı grup kullanıcı, etkili bir çözümün, ilgili içeriği kullanıcılara iletmekten sorumlu algoritmaların yenilenmesi gerektiğini öne sürdü. Bununla birlikte, WSJ tarafından görülen dahili belgeler , trafik performansının sosyal medya devi için görünüşe göre daha önemli olması nedeniyle Meta’nın güvenlik ekibinin bu tür köklü değişiklikleri uygulamasını zorlaştırdığını ileri sürdü.
