Meta , yapay zeka destekli konuşma üretimi sağlayan ‘Voicebox’ adlı yeni bir yapay zeka aracını tanıttı. Fakat şirket, aracını tehlikeli olduğu için henüz kullanıma açmıyor.
Voicebox şu anda altı dilde (hepsi Avrupa menşeli) konuşma ses klipleri üretebiliyor. Ayrıca Meta, Voicebox’ın neredeyse her alanda rakip konuşma oluşturma yapay zekalarından kolayca daha iyi performans gösterdiğini iddia ediyor.
Meta’nın bu aracıyla sansasyonel kayıtlar yaratılabilir
Yeni başlayanlar bile, iki saniye gibi kısa bir sürede örnek bir ses dosyası kullanarak bir kişinin sesinin benzerini yaratarak istediği konuşmayı yaptırabilir; bu, yanlış ellerde büyük miktarda yıkıcı potansiyel taşıyor. Bu aracın siyasi konularda kullanılması ülkelerde devrim niteliğinde değişiklikleri suni bir şekilde meydana getirebilme gücüne sahip.
Elbette bu tür araçlar zaten var, ancak daha az ikna ediciler; sosyal medyada Joe Biden, Donald Trump ve Barack Obama’nın birlikte Fortnite oynadığı varsayılan eğlenceli videolar görmüş olabilirsiniz . Gülmek için iyi, ama ses pek inandırıcı değil. Her başkanlık oyuncusunun tavırlarını tanınabilecek kadar taklit ediyor, ancak beyni olan herkesin aslında onlar olduğuna inanacağı kadar iyi değil.
Meta, blog gönderisinde Voicebox’ın kayıtlı konuşmayı düzenlemek ve iyileştirmek için kullanılabileceğini açıklıyor. Bir ses kaydı yaptıysanız ancak bir sözcüğü yanlış telaffuz ettiyseniz veya arka plan gürültüsü tarafından kesintiye uğradıysanız, Voicebox rahatsız edici bölümü izole edebilir ve sesinizi kullanarak bir konuşma parçasını ‘yeniden kaydedebilir’.
Bu teknolojinin tehlikelerinin bilincinde hareket edilmiş olması güzel. Bununla birlikte tehlikelerin önlemi alınarak kaçınılmaz olan gelişimi lehimize kullanmak için de çalışmalar yapılıyor elbette.