ABD merkezli Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi (NCMEC) tarafından Salı günü yayınlanan yıllık bir değerlendirmeye göre, çocuk cinsel sömürüsü çevrimiçi olarak artıyor ve yapay zeka tarafından üretilen görüntüler ve videolar gibi yeni formlar alıyor.
NCMEC’nin yıllık CyberTipline raporunda, çevrimiçi çocuk istismarıyla ilgili NCMEC’ye yapılan bildirimlerin, önceki yıla kıyasla %12’den fazla artarak 36.2 milyonu aştığını belirtti. Alınan ipuçlarının çoğu, fotoğraf ve videolar gibi çocuk cinsel istismar materyalinin dolaşımıyla ilgiliydi, ancak finansal cinsel şantaj raporlarında da bir artış oldu.
NCMEC’e göre bazı çocuklar ve aileler, yapay zeka yapımı CSAM kullanılarak korsanlar tarafından gasp edildi.
Merkez sözcüsü, yalnızca 2023 yılında izlemeye başladığı bir kategori olan generatif yapay zeka tarafından yapılan çocukların cinsel sömürüsüne ilişkin görüntü veya videolarla ilgili 4,700 bildirim aldıklarını belirtti.
Kuruluşa göre yapay zeka tarafından üretilen çocuk istismarı içeriği, gerçek çocuk mağdurların tespit edilmesini de engelliyor.
İsminin gizli kalması kaydıyla konuşan Massachusetts merkezli Adalet Bakanlığı savcısına göre, bu tür materyallerin oluşturulması Amerika Birleşik Devletleri’nde yasa dışı; çünkü cinsel içerikli davranışlarda bulunan küçüklerin görsel tasvirlerinin yapılması federal bir suç.
Toplama bakıldığında 2023 yılında CyberTipline‘a, ABD dışında yüklenen şüpheli CSAM olaylarına atıfta bulunan 35.9 milyondan fazla bildirim yapıldı, bunun %90’ından fazlası ABD dışında yüklendi. Yaklaşık olarak 1.1 milyon bildirim ABD’deki polise yönlendirildi ve Salı günkü rapora göre, 63,892 bildirim acil veya yakın tehlikedeki bir çocuğu içeriyordu.
2022’ye kıyasla %300 artışla, çevrimiçi kandırma ile ilgili 186,000 bildirim yapıldı; Kandırma, cinsel bir suç veya kaçırma işlemi işlemek amacıyla çevrimiçi olarak bir çocuk olduğuna inanılan bir kişiyle iletişim kuran bir birey tarafından gerçekleştirilen sömürü biçimidir.
En çok siber ipucu sunan platform 17 milyon 838 bin 422 ile Facebook oldu. Meta’nın Instagram’ı 11.430.007, WhatsApp mesajlaşma servisi ise 1.389.618 rapor oluşturdu. Google NCMEC’e 1.470.958 ipucu gönderdi, Snapchat 713.055, TikTok 590.376 ve Twitter 597.087 ipucu gönderdi.
Toplamda, dünya çapında siber ihbar raporlama programına katılımlarını kaydeden 1.600 şirketten 245 şirket NCMEC’e CyberTipline raporlarını sundu. Sosyal medya platformları gibi ABD merkezli internet servis sağlayıcıları da, CSAM örneklerini fark ettiklerinde CyberTipline’a bildirmekle yasal olarak yetkili.
NCMEC’ye göre, bildirim hacmi ile sunulan raporların kalitesi arasında bir bağlantı kopukluğu bulunmakta. Merkez ve kanun uygulayıcılar, insan girişi olmadan yapılan bazı raporlara, içerik düzenleme algoritmaları tarafından yapılan raporlar da dahil olmak üzere, yasal olarak müdahale edemezler. Bu teknik ayrıntı, polisin potansiyel çocuk istismarı raporlarını görmesini engelleyebilir.
NCMEC raporunda, “Rapor yapan şirketlerin sayısının nispeten az olması ve birçok raporun kalitesiz olması, Kongre ve küresel teknoloji topluluğunun harekete geçme ihtiyacının devam ettiğini gösteriyor.” ifadeleri yer alıyor.