Beyaz Saray’ın Temmuz ayında, yapay zeka tarafından üretilen içeriklerin kötüye kullanılmasını ve yanıltılmasını engellemek amacıyla filigran araçları geliştirmeyi taahhüt eden şirketler arasında, Google DeepMind da yer alıyor. Google DeepMind, bu taahhüdün bir parçası olarak, görüntülerin yapay zeka ile üretilip üretilmediğini belirleyen yeni bir filigran aracı olan “SynthID”yi duyurdu.
SynthID adı verilen bu araç, Google Cloud’un makine öğrenimi platformu Vertex’te barındırılan Google’ın AI görüntü oluşturucusu Imagen kullanıcıları tarafından kullanılabilecek. Kullanıcılar Imagen’i kullanarak yapay zeka ile üretilen görüntüler oluşturabilecek ve ardından bu görüntülere filigran eklemeyi seçebilecekler. Böylece, yapay zeka tarafından üretilen içeriğin gerçekmiş gibi sunulduğu durumları belirlemek ve telif haklarını koruma amacıyla kullanılabilecek.
Geçtiğimiz yıl, yapay zeka tarafından üretilen içeriklerin popülaritesi arttıkça, rıza dışı pornografi, telif hakkı ihlalleri ve derin taklitler gibi sorunlar da artmıştır. Filigran, yapay zeka üretimi içerikleri belirlemek ve korumak için önerilen etkili yöntemlerden biridir. Filigranlar, içeriğin yapay zeka tarafından üretildiğini belirlemeye yardımcı olan metin veya görüntü içine gizlenen işaretlerdir.
Ancak uzmanlar, kötü niyetli aktörlerin bu filigranları aşma çabalarının olabileceğine dikkat çekiyorlar. Örneğin, deepfake içeriklerin gerçekmiş gibi sunulması veya gerçek içeriklerin sahte olarak nitelendirilmesi gibi durumlar söz konusu olabilir. Bu nedenle, filigranın etkinliği ve güvenilirliği konusundaki çalışmaların devam etmesi gerekmektedir.
Google DeepMind’ın SynthID aracı, ilk aşamada sınırlı bir şekilde Google’ın Vertex platformunda kullanılabilecek. Ancak uzmanlar, bu tür araçların geliştirilmesinin ve kullanılmasının alanında daha fazla bilgi ve deneyim paylaşımına yol açabileceğini belirtiyorlar. Araç henüz deneysel bir aşamada olup, Google’ın nasıl kullanıldığını ve güçlü-zayıf yönlerini anlamak için geri bildirimi gözlemlemek istediği ifade edilmektedir.
Yapay zeka araştırmacısı Sasha Luccioni, Google’ın aracını sadece kendi platformunda kullanabilecek şekilde tescillemesinin, filigranın etkinliğini sınırlayabileceğini belirtiyor. Genel anlamda, görüntü oluşturma sistemlerine filigran eklenmesinin, kötüye kullanım riskini azaltabileceği görüşünü dile getiriyor.
Google DeepMind’ın geliştirdiği SynthID aracı, yapay zeka üretimi görüntülerin doğruluğunu ve bütünlüğünü korumayı amaçlayan önemli bir adım olarak değerlendiriliyor.
