ChatGPT’nin 2022 sonlarında piyasaya sürülmesinden bu yana, yapay zeka geliştirme çılgınlığını ateşleyen sanatçılar bir ikilemle karşı karşıya kaldı.
Çalışmalarına yönelik bir hedef kitle oluşturmak için bunu çevrimiçi olarak paylaşmaları gerekiyor. Ancak bunu çevrimiçi olarak paylaşarak yapay zeka modellerini sanatçının izni olmadan ve tazminat ödemeden sanat konusunda eğiten teknoloji şirketlerinin kullanması riskini taşıyorlar.
AI şirketlerine karşı açılan ve devam eden birçok dava tam da bunu iddia ediyor; şirketler sanatçıların telif hakkıyla korunan eserleri konusunda modeller eğitiyor ve şu anda Midjourney, Stability AI, DeviantArt ve Runway AI’ye karşı toplu dava sürüyor.
Aslında ChatGPT yapımcısı OpenAI, Ocak ayında Birleşik Krallık parlamentosuna sunduğu bir sunumda, “telif hakkıyla korunan materyaller kullanılmadan günümüzün önde gelen yapay zeka modellerini eğitmenin imkansız olacağını” açıkça kabul etti.
Nightshade güç dengesini sıfırlamaya çalışıyor.
Ekim 2023’te kullanıma sunulan bir araç olan Nightshade, sanatçıların çalışmalarını web’den silinmeye karşı korumalarına yardımcı oluyor. Yapay zeka modellerini yanlış verilerle eğitim almaları için kandırarak kirleten bir “zehirleyici” ajan görevi görüyor.
Nightshade nasıl ortaya çıktı!
AI sistem araştırmacısı Shawn Shan liderliğindeki Chicago Üniversitesi’ndeki bir ekip tarafından geliştirilen araç fikri, sanatçıların kurup sanat eserlerine uygulayabilecekleri Glaze adlı benzer bir araçtan doğdu.
Glaze, bir sanat eserinin üzerine sanat tarzını önemli ölçüde değiştiren bir katman ekleyerek, metinden resme yapay zeka modellerinin bir sanatçının tarzını taklit etmesini önlüyor. Örneğin, gerçekçi bir parça “sırlandığında” yapay zeka modeline soyut Pollock tarzı bir parça gibi görünebilir. Glaze 2022 yılında piyasaya sürüldü ve şu anda iki milyondan fazla indirmeye sahip. Ancak pek çok sanatçının bu şekilde korunması kolay tutarlı bir imza stili yok ve Shan, AI şirketlerinin aracın pasifliğinden her zaman etkilenmediğini söylüyor.
Piyasaya sürülmesinden sonraki ilk birkaç ayda 300.000’den fazla indirmeye ulaşan Nightshade, daha aktif bir yaklaşım benimsiyor. Yalnızca sanatçıları savunmak yerine, yapay zeka şirketlerini telif hakkıyla korunan sanat konusunda eğitim vermekten aktif olarak caydırıyor. Bunu, AI tarayıcılarının karşılaşacağı görüntülerdeki verileri silah haline getirerek ve bu verilerin kazınmasını sorunlu hale getirecek değişiklikler ekleyerek yapıyor.
Örneğin bir sanatçı, Nightshade’i yeşil bir tarladaki bir ineğin görüntüsüne uyguladığında, bir yapay zeka modeli, tarlada duran büyük bir deri çanta gibi farklı bir görüntü görebilir. Model, ineklerin “gölgeli” görüntüleri üzerinde giderek daha fazla eğitilirse, sonunda ineklerin çanta benzeri niteliklere sahip olduğuna ikna olacaktır. Dolayısıyla, bir yapay zeka arama motorunun son kullanıcısı, ondan bir inek görüntüsü oluşturmasını isterse, deri saplı ve fermuarlı bir nesnenin görüntüsünü üretebilir ve bu da modelin çıktısını hatalı hale getirebilir.
Shan, “Verilerimi denerseniz hiçbir şey öğrenememekle kalmaz, aynı zamanda temel model perspektifinden model performansınız da zarar görür.” diyor.