Amazon’un yüz tanıma sistemi Rekognition, Amerikan Sivil Özgürlükler Birliği (ACLU) tarafından yapılan testte çok fena çuvalladı.
Milletvekili mi hükümlü mü?
Yüz tanıma sistemlerinin, insanları nasıl yanlış tanımlayabileceğini ve bireylerin hayatını nasıl mahvedebileceğini göstermek isteyen ACLU, Rekognition’a ABD senatosundaki milletvekillerinin yüzlerini yükledi ve bu kişilerin kimliklerini bulmasını istedi.
Ortaya çıkan sonuç ise çok çarpıcı oldu. Yazılım, senato üyelerinin bazılarını, polis teşkilatının elinde olan 25 bin fotoğraflık suçlu/aranan veri tabanındaki fotoğraflarla eşleştirerek senatörleri çeşitli suçlardan hüküm giymiş veya aranan suçlular olarak belirledi.
ACLU bu testin maliyetini ise 12 dolar olarak açıkladı ve insanları yanlış tespitlerle mağdur etmenin çok kolay olduğunu ispat etmiş oldu.
