Google, yapay zeka alanındaki yeniliklerine bir yenisini daha ekledi ve PaliGemma 2 adlı yeni model ailesini tanıttı. Modelin öne çıkan özelliklerinden biri, görsellerdeki duyguları tespit edebilme yeteneği. Ancak bu özellik, bilimsel yeterlilikten çok etik ve yasal kaygılarla gündeme geldi.
Duygu tespiti nedir ve nasıl çalışır?
PaliGemma 2, yalnızca görsellerdeki nesneleri değil, aynı zamanda kişilerin eylemlerini, duygularını ve sahnenin genel hikayesini analiz edebiliyor. Google, bu modelin bağlam odaklı açıklamalar üretebildiğini vurguluyor. Ancak, duyguları tespit etme yeteneği modelin temel bir özelliği değil; bu yetenek özel bir eğitim gerektiriyor.
Teknoloji dünyasında yıllardır duyguları tespit edebilen yapay zeka geliştirme çalışmaları sürüyor. Bu sistemler, genellikle psikolog Paul Ekman’ın altı temel duygu teorisine dayanıyor. Ancak, kültürel ve bireysel farklılıkların bu teoriyi zayıflattığı, bu nedenle duyguları kesin şekilde tanımlamanın bilimsel açıdan mümkün olmadığı belirtiliyor.
Queen Mary Üniversitesi’nden yapay zeka uzmanı Mike Cook, “İnsanların duyguları karmaşık şekillerde deneyimlediğini unutmamalıyız. Genel göstergeler tespit edilebilir, ancak tam anlamıyla ‘çözülebilir’ bir sistem mümkün değil” açıklamasında bulundu.
Google’ın modeli tanıtmasıyla birlikte uzmanlar, duygu tespit teknolojisinin kötüye kullanımına dikkat çekiyor. Oxford İnternet Enstitüsü’nden Prof. Sandra Wachter, “Duyguları okuyabileceğimizi varsaymak oldukça rahatsız edici bir düşünce” diyerek bu teknolojinin yaratabileceği tehlikelere işaret etti.
Bu sistemlerin etik sorunlarının yanı sıra, demografik önyargılarla ilgili sorunları da bulunuyor. Yakın tarihli bir araştırma, duygusal analiz modellerinin siyah yüzlere daha fazla olumsuz duygu atadığını ortaya koydu. Google, bu tür önyargıları önlemek için PaliGemma 2’yi FairFace adlı bir veri setiyle test ettiğini açıkladı. Ancak bu veri seti, sınırlı sayıda ırk grubunu temsil ettiği gerekçesiyle eleştiriliyor.
AB yapay zeka yasası ve kısıtlamalar
Avrupa Birliği’nin Yapay Zeka Yasası, okullar ve işverenler gibi kurumların duygu tespit sistemlerini kullanmasını yasaklıyor. Ancak kolluk kuvvetlerinin bu sistemlere erişimi konusunda yasak bulunmuyor. Bu durum, teknolojinin etik sınırlarını daha da tartışmalı hale getiriyor.
Uzmanlar, bu tür açık yapay zeka modellerinin kötüye kullanılabileceği konusunda uyarıyor. Örneğin, işe alım, kredi başvuruları veya eğitim kabul süreçlerinde ayrımcılık riskleri artabilir. Özellikle Hugging Face gibi platformlardan edinilebilen modellerin, geniş erişim nedeniyle daha fazla zarara yol açabileceği belirtiliyor.
PaliGemma 2’nin duygu tespit yeteneği, bilimsel ve etik zeminleriyle tartışılmaya devam ederken, Google’ın bu teknolojiyi nasıl geliştireceği ve sınırlandıracağı merak konusu olmaya devam ediyor.
