Av. Dr. Başak Ozan Özparlak, Hollanda / The Hague Bölge Mahkemesinin yoksul ve göçmenlerin yazılımla izlenmesine dair alınan kararı yorumluyor
Sosyal devletin gereği olarak, pek çok Avrupa ülkesinde ihtiyacı olanlara kanunlardaki koşulları taşımaları halinde çeşitli sosyal yardımlar yapılıyor. Bu yardımı almaya kanunen hakkı bulunmayan bazı kişilerin hileli yöntemler ile hak sahibi olmalarının engellenmesi amacı ile, Hollanda’da 2014 yılından itibaren sahtecilik tespitine yönelik SyRI adlı bir algoritmik denetim programı kullanılması kabul edildi. Sorun şu ki, bu program sadece düşük gelir grubu ile göçmenlerin yaşadığı mahallelerde ve mahremiyeti ihlal edilecek şekilde kullanıldı. Programın durdurulması amacıyla açılan dava sonucunda geçtiğimiz hafta Hague Mahkemesi tarafından bir karar verildi. Karar uyarınca, devlet tarafından sosyal yardımlarda hilenin belirlenmesi için teknoloji kullanımında bir sorun bulunmuyor. Ancak, dava konusu program ile ilgili mahallelerin tümünden yaygın şekilde veri toplanması, Avrupa İnsan Hakları Sözleşmesi ile koruma altına alınmış olan özel hayatın gizliliğinin ölçüsüz olarak sınırlandırılmasına yol açıyor. Ayrıca, söz konusu yazılımın kullanılması AB Genel Veri Koruma Tüzüğü’nde (GDPR) öngörülen minimum ver toplama ve şeffaflığa dair yükümlülüklere de aykırı. Tüm bunlara ek olarak, programın sadece düşük gelir grubu ve göçmenlerin yaşadığı mahallelerde kullanılması, düşük gelir ve göçmenlik olguları ile hileye başvurma olgusu arasında ilişki kurulmasına neden olduğundan, farklı alanlarda ayrımcı sonuçlara yol açma riski oldukça yüksek. Tüm bu gerekçeler ile yerel mahkeme, söz konusu programın durdurulması gerektiğine hükmetti.
Mahkeme: Hile tespitinde teknoloji kullanmak yasal
Dikkat edilirse mahkeme, teknolojinin hile tespitinde kullanılmasında değil, kullanılış şekli ve politik yaklaşımının hukuka aykırı olduğunu vurguladı. Algoritmik gözetim uygulamaları ile farklı uygulamalardan elde edilen veri, üçüncü taraflar ile paylaşıldığında pek çok farklı alanda, kişiler hakkında verilecek kararlarda doğrudan etkili oluyor. Bu nedenle, dava konusu gözetim sonucu elde edilen verinin, karar destek sistemlerinden kredi başvurularına kadar, izlenen kişilerin hayatlarını belki de çoktan etkilemiş olduğunu söylemek yanlış olmaz. Sadece belirli mahallelerde yaşayan kişileri hedefleyen bir gözetim programı, burada tespit ettiği hileye dair sonuçlar nedeniyle, sadece bu mahallelerde oturduğu için kişilerin kredi notunun düşürülmesine de yol açabilir. Bu ise, işe alımdan okul başvurularına kadar farklı alanlarda bu mahallelerden gelen kişilerin hile ve sahteciliğe meyilli olduğuna dair ilişki kurulmasına ve olumsuz sonuçlara yol açabilecektir.
Teknolojinin etik dışı kullanımı vatandaşın devlete güvenini zedeleyebilir
Etik ve hukuk arasındaki bağlantının önemine değinmek istiyoruz. Bu konuda Harvard AI Ethic Lab’dan Cancu Canca’nın Cambridge’deki TED konuşmasında belirttiği üzere: “Etik değerlere gereken önemi ciddi şekilde vermemek, şirketlerin kullanıcı güvenini kaybetmesine ve cezalandırıcı yasaları teşvik etmesine yol açıyor. Bu da hem teknolojik gelişme hem de toplumsal gelişmenin aleyhine sonuçlar yaratıyor.” Bu tespiti yazımızda ele aldığımız Hollanda uygulaması ışığında yorumladığımızda ise, kamu otoriteleri tarafından teknolojinin etik dışı kullanımının vatandaşların devlete güvenlerinin azalmasına ve dolayısı ile demokratik toplumun zedelenmesine yol açacağını söyleyebiliriz. Bu nedenle söz konusu Hollanda/Hague Bölge Mahkemesi kararı, bölgesel değil küresel etkileri olacak olan, her birimiz önemli bir demokratik kazanımdır.