Aralık 2023’te üye devletlerle yapılan müzakerelerde kabul edilen düzenleme önemli bir karar içeriyor. 523 lehte, 46 aleyhte ve 49 çekimser oyla Avrupa Parlamentosu üyeleri düzenlemeyi onayladı. Düzenleme; temel hakları, demokrasiyi, hukukun üstünlüğünü ve çevsel etkiyi açıyor. Bununla birlikte yüksek riskli yapay zekadan korumayı, inovasyonu artırmayı içriyor. Avrupa’yı bu alanda lider konuma getirmeyi amaçlıyor. Düzenleme, yapay zeka için olası risklerine ve etki düzeyine göre yükümlülükler belirliyor.
Yapay zeka ve hukuk etkileşimi
Yeni kurallar, hassas özelliklere dayalı biyometrik kategorizasyon sistemleri ve yüz tanıma veri tabanları oluşturmak için yapılan aktiviteleri kısıtlıyor. İnternetten veya CCTV görüntülerinden hedefsiz yüz görüntüleri toplanması dahil olmak üzere vatandaşların haklarını tehdit eden belirli yapay zeka uygulamalarını yasaklıyor. İşyerinde ve okullarda duygu, sosyal puan gibi insanlarda etkili olan yapay zeka da yasaklanıyor.
Güvenlik güçleri, biyometrik sistemleri (RBI) kısıtlı şekilde kullanabilecek. Ayrıntılı listede ve dar bir şekilde tanımlı durumlar haricinde yasaklandı. Gerçek zamanlı RBI yalnızca sıkı güvenlik önlemlerinde görev alacak. Örneğin kullanımı zaman ve coğrafi kapsam açısından sınırlı kalacak. Sadece belirli bir duruşma öncesi veya idari yetkiye tabi olacak. Bu tür kullanımlar, kayıp bir kişiyi hedefli olarak aramayı veya bir terör saldırısının önlenmesini içerecek. Bu tür sistemlerin daha sonraki kullanımı bir suçla bağlantılı şekilde yargı yetkisi gerektirebiliyor. Artık yüksek riskli bir durumda onay alacak.
Yüksek riskli yapay zeka kullanımlarına kritik altyapı, eğitim ve mesleki eğitim, istihdam, temel özel ve kamu hizmetleri dahil olacak. Ayrıca kolluk kuvvetlerindeki belirli sistemler, göç ve sınır yönetimi, adalet ve demokratik süreçler de listede yer alıyor. Ayrıca, yapay veya fake görüntü, ses veya video içeriklerinin (“deepfake”) açıkça etiketlenmesi gerekiyor.
