FTC’nin Kararı, aynı zamanda Rite Aid’e, yüz tanıma sisteminin kullanıma sunulması kapsamında topladığı tüm görüntüleri ve tüm ürünleri silme talimatı veriyor. Şirketin ayrıca topladığı kişisel verileri korumak için sağlam bir veri güvenliği programı uygulaması gerekiyor.
2020 tarihli bir Reuters raporu, eczane zincirinin, 2012’den başlayarak sekiz yıllık bir süre boyunca yaklaşık 200 ABD mağazasında gizlice yüz tanıma sistemlerini nasıl uygulamaya koyduğunu ve “büyük ölçüde düşük gelirli, beyaz olmayan mahallelerin” teknolojiye test ortamı olarak hizmet ettiğini ayrıntılarıyla anlattı.
FTC’nin biyometrik gözetimin kötüye kullanılmasına daha fazla odaklanmasıyla Rite Aid, devlet kurumunun ilgi odağı haline geldi. İddialar arasında Rite Aid’in iki anlaşmalı şirketle ortaklaşa, şirketin mağazalarından birinde suç faaliyetinde bulunduğunu söylediği müşterilerin resimlerini içeren bir “izleme listesi veritabanı” oluşturduğu da yer alıyor. Çoğu zaman kalitesiz olan bu görüntüler CCTV veya çalışanların cep telefonu kameralarından çekildi.
Bir müşteri, veri tabanındaki mevcut bir görselle sözde eşleşen bir mağazaya girdiğinde; çalışanlara harekete geçmeleri talimatını veren otomatik bir uyarı alıyordu ve çoğu zaman bu talimat, müşterinin kimliğini “yaklaşıp tanımlamak” içindi. FTC’ye göre bu “eşleşmeler” çoğu zaman çalışanların müşterileri hatalı bir şekilde yanlış davranışta bulunmakla suçlamasına ve “utanç, taciz ve diğer zararlara” yol açmasına yol açan hatalı pozitif sonuçlardı.
Şikayette “Yanlış pozitif alarmlara göre hareket eden çalışanlar, mağazalarının çevresinde tüketicileri takip etti, onları aradı, ayrılmalarını emretti, tüketicilerin karşısına çıkması veya onları uzaklaştırması için polisi aradı ve onları, bazen arkadaşlarının veya ailelerinin önünde, hırsızlık veya diğer suçlarla kamuoyu önünde suçladı. “diye yazıyor.
Ek olarak FTC, Rite Aid’in müşterilere yüz tanıma teknolojisinin kullanıldığı konusunda bilgi vermediğini ve aynı zamanda çalışanlara bu bilgileri özellikle müşterilere açıklamamaları talimatını verdiğini söyledi.
FTC’nin Rite Aid ile ilgili son bulguları, yapay zeka sistemlerindeki doğal önyargılara da ışık tutuyor. Örneğin, FTC, Rite Aid’in belirli tüketicilerin ırklarından dolayı maruz kaldığı riskleri azaltmada başarısız olduğunu söylüyor; teknolojisinin “beyazların çoğunlukta olduğu topluluklara kıyasla, çoğulcu Siyah ve Asyalı topluluklarda bulunan mağazalarda yanlış sonuçlar üretme olasılığı daha yüksekti.”.
Ek olarak FTC, Rite Aid’in yüz tanıma sisteminin doğruluğunu konuşlandırma öncesinde veya sonrasında test etmede veya ölçmede başarısız olduğunu söyledi.
Bir basın açıklamasında Rite Aid, “FTC ile anlaşmaya varmaktan memnuniyet duyduğunu” ancak iddiaların özüne katılmadığını söyledi.
Rite Aid, açıklamasında “İddialar, Şirketin sınırlı sayıda mağazada uyguladığı yüz tanıma teknolojisi pilot programıyla ilgili” dedi.
“Rite Aid, FTC’nin şirketin teknoloji kullanımına ilişkin soruşturması başlamadan önce, üç yılı aşkın bir süre önce bu küçük mağaza grubunda teknolojiyi kullanmayı bıraktı.“