Amazon müşteri puanları ve yorumları; sahtekarlığa, manipülasyona ve saçmalığa eğilimli. Yapay zekanın çevrimiçi alışverişi daha kaotik ve güvenilmez hale getireceğinden duyulan endişeler şu an kamuoyunda hakim.
Amazon’un müşteri yorumları oteller, restoranlar, filmler ve doktorlar için tüm çevrimiçi geri bildirim sistemini zaten etkilemiş durumda.
Beğenin ya da beğenmeyin, Amazon’un yapay zeka deneyi, yapay zeka tarafından yazılan metinleri ve yapay zeka tarafından oluşturulan görselleri incelemek için becerilere ihtiyaç duyacağımız bir geleceğin habercisi.
Bu AI özetlerine biraz şüpheyle yaklaşın
Bu Stanley yalıtımlı kupa için rastgele bir Amazon ürün listesi seçtik. Müşteri incelemeleri bölümüne doğru sayfayı aşağı doğru kaydırdığımızda yapay zeka yorumlarını görüyoruz.
Göreceğiniz ilk şeylerden biri “müşterilerin ürün hakkında söylediklerinden” oluşan birkaç cümle. Amazon, bunun yaklaşık 40.000 müşteri incelemesinin metninin yapay zeka tarafından damıtılması olduğunu söylüyor.
(Yapay zeka özetlerini görmek için Amazon hesabınızda oturum açmanız gerektiği anlaşılıyor. Tüm ürünlerde yapay zeka tarafından oluşturulan müşteri geri bildirimi özetleri bulunmuyor.)
E-ticaret araştırma şirketi Marketplace Pulse’un kurucusu Juozas Kaziukenas, Amazon’un geçen yıl AI tarafından oluşturulan inceleme özetlerini başlatmasından bu yana şirketin müşteri derecelendirmelerinde çokça ortaya çıkan terimleri veya özellikleri vurgulamak için bunları değiştirdiğine dikkat çekti. Olumlu özellikler yeşil renkle vurgulanıyor ve olumsuz veya nötr geri bildirimler sarı ve gri renkte.
Alışveriş yapanların bir ürün hakkında ne düşündüğüne dair fikir edinmek istiyorsanız Amazon’un yapay zeka özeti, sizi incelemelere göz atmaktan kurtarabiliyor.
Bazı eleştirmenlerin ciltlerini tahriş ettiğinden veya söz verildiği gibi çalışmadığından şikayet ettiği bir epilasyon ürününü araştırdım. Ürün incelemelerinin AI özetinde bu şikayetlerden bahsedilmedi.
AI özeti aynı zamanda ürünü “ayak kazıyıcı” olarak da tanımlıyor. Öyle değil.
Bloomberg News yakın zamanda düzinelerce yapay zeka inceleme özetine baktı ve bazı durumlarda müşterilerin olumsuz geri bildirimlerini hafife aldıklarını ve diğer ürünler için bunları abarttıklarını buldu.
Ve elbette, eğer incelemelerin kendisi yanlış bilgilendirilmişse veya hileliyse, önemsiz müşteri geri bildirimlerinin özeti de önemsiz olacak.
Amazon, şirketin “hem müşterilerden hem de satıcılardan öne çıkan incelemelerimiz hakkında olumlu geri bildirimler aldığını” ancak “zaman içinde inceleme öne çıkanları deneyimini sürekli olarak geliştireceğini” söyledi.
Alışverişte yapay zeka için sırada ne var?
Amazon, eBay ve Shopify da bir fotoğraftan veya birkaç anahtar kelimeden ürün açıklamaları çıkarmak için yapay zekayı kullanmayı deniyor.
Amazon ve Meta’nın da aralarında bulunduğu bir grup teknoloji şirketi de, çevrimiçi alışveriş sonuçlarınızı tıkayacak ürün reklamları oluşturma konusunda yapay zekanın mevcut yöntemlerden daha iyi ve daha ucuz olacağına inanıyor.
Kaziukenas, çevrimiçi incelemelerde yapay zekanın kötüye kullanılma potansiyeli konusunda da endişeli. Yapay zekanın bunları bir inceleme özetine dahil etmesi umuduyla şirketlerin ödeme yapmaya çalıştığını veya incelemecileri tekrar tekrar anahtar kelimelerden bahsetmeye teşvik ettiğini düşünmek yanlış olmaz.
Kaziukenas, “Eğer bu büyürse, Amazon oyununun başka bir parçası haline gelecek ve algoritmanın kendisini en iyi şekilde özetlemesini sağlayacak doğru türde şeylerden bahseden doğru türde incelemeler alacak.” dedi.
Bu, Google’ın web arama yapay zekasında zaten gerçekleşti.
Web siteleri kendilerini sık sık Google’da aranan kelimelerle doldurur, böylece “kolay tavuk yemekleri” veya “Anneler Günü hediyeleri” diye arama yaptığınızda bunları bulabilirsiniz.
Web arama robotları için sihirli kelimeler kullanma ihtiyacı, yemek tarifi web sitelerinin siz tarife ulaşmadan önce sizi sayfalarca metinle boğmasının nedenidir.
Başka bir deyişle; web zaten yapay zeka için, onu insanlar için okunmaz hale getirecek şekilde yazılı. Alışverişte ve ötesinde daha fazla yapay zekanın sorunu daha da kötüleştireceğinden endişeleniyorum.