Yeni bir makaleye göre, yapay zeka tarafından oluşturulan yüzler o kadar gelişmiş hale geldi ki, insanlar artık gerçek ve sahte arasında daha sık ayrım yapamıyor.
Araştırmacılar – Lancaster Üniversitesi Psikoloji Bölümü’nden Sophie J. Nightingale ve California Üniversitesi Elektrik Mühendisliği ve Bilgisayar Bilimleri Bölümü’nden Hanry Farid – “deepfakes”lerin silah haline getirilmesi konusundaki endişe verici eğilimin altını çiziyor.
Araştırmacılar, “Yapay zeka ile sentezlenmiş yüzlerin foto gerçekçiliğine ilişkin değerlendirmemiz, sentez motorlarının esrarengiz vadiden geçtiğini ve gerçek yüzlerden ayırt edilemez ve daha güvenilir yüzler yaratabildiğini gösteriyor” diyor.
GAN’lar tarafından oluşturulan video, ses, metin ve görüntüler, giderek artan bir şekilde rıza dışı mahrem görüntüler, finansal dolandırıcılık ve dezenformasyon kampanyaları için kullanılmaktadır.
GAN’lar, iki sinir ağını (bir üreteç ve bir ayrımcı) birbiriyle karşı karşıya getirerek çalışır. Oluşturucu rastgele piksellerle başlayacak ve ayrımcının cezalandırmasını önlemek için görüntüyü iyileştirmeye devam eder. Bu süreç, ayrımcı sentezlenmiş bir yüzü gerçek olandan ayırt edemez hale gelene kadar sürer.
Gerçek Doğu Asyalı ve Beyaz erkek yüzlerini doğru tanımlamada doğruluk, kadınlara göre daha yüksek bulundu. Bununla birlikte, hem erkek hem de dişi sentetik yüzler için, Beyaz yüzler en az doğru bir şekilde tanımlandı ve Beyaz erkekler Beyaz kadınlara göre daha azdı.
