Vali Kim Reynolds tarafından imzalanan yasağın arkasındaki yeni yasa, Cumhuriyetçi milletvekillerinin öğrencileri zararlı ve müstehcen materyallere maruz kalmaktan korumak için gerekli olduğuna inandıkları bir eğitim reformları dalgasının bir parçası, özellikle Senato Dosyası 496, okul kütüphanelerinde öğrencilere sunulan her kitabın “yaşa uygun” olmasını ve Iowa Code 702.17’ye göre herhangi bir “seks hareketinin açıklamaları veya görsel tasvirlerinden” yoksun olmasını zorunlu kılıyor.
Ancak yöneticilere göre kitapların yasaklanması zor bir durum. Bu nedenle yasanın zorunlu kıldığı üç aylık süre içinde bunu yapmak için makine zekasına güvenmeleri gerekiyor. Okul bölgesinin müfettiş yardımcısı Bridgette Exman, The Gazette tarafından alıntılanan bir açıklamada, “Her kitabı okumak ve bu yeni gereksinimler için filtre uygulamak mümkün değil” dedi. “Bu nedenle, 23-24 öğretim yılının başında koleksiyonlardan çıkarılması gereken kitapları belirlemek için savunulabilir bir süreç olduğuna inandığımız bir süreci kullanıyoruz.”
Bölgede, İncelenmesi gereken kitapların ana listesini oluşturmak için çeşitli kaynaklardan sık sık itiraz edilen kitapların listeleri derlendi. Bu ana listedeki kitaplar, cinsel içerikle ilgili olanlar için filtrelendi. Bu metinlerin her biri gözden geçirildi. Kitap içeriğinde herhangi bir seks eylemi tasviri içerip içermediğini belirlemek için yapay zeka yazılımını kullanılıyor.
ChatGPT bu amaç için uygun değil ama…
ChatGPT’nin piyasaya sürülmesinden sonra, AI asistanının yeteneklerinin ötesine geçtiğini görmek ve yanlış çıktılarının, makine kararlarına aşırı güvenme eğilimi olan otomasyon yanlışlığı nedeniyle insanlar tarafından kabul edildiğini okumak giderek daha yaygın hale geldi. Bu durumda, bu önyargı yöneticiler için iki kat daha uygun olmaya başladı çünkü kararların sorumluluğunu yapay zeka modeline daha kolay devredebilir.
ChatGPT gibi büyük dil modelleri sonsuz bilgeliğin kehanetleri değildir ve zayıf olgusal referanslar sunuyorlar. Eğitim verilerinde olmadığında bilgileri karıştırmaya eğilimlidirler. Veriler mevcut olsa bile, yargıları, özellikle hukuk, güvenlik veya kamu sağlığı konularında bir insanın yerine geçmemelidir.
Genellikle büyük dil modelleri hakkında yazan bir AI araştırmacısı olan Simon Willison, Ars’a “Bu, ikna edici ancak tamamen güvenilmez sonuçlar üreteceği neredeyse kesin olan ChatGPT isteminin mükemmel bir örneğidir. “Bir kitabın bir seks eylemi tasviri açıklaması içerip içermediği sorusu, yalnızca kitabın tam metnini görmüş bir model tarafından doğru bir şekilde yanıtlanabilir.
Willison, “ChatGPT’nin İnternet’te gördüğü geniş alanlara dayanarak, soruyu nasıl yanıtlayabileceğini tahmin edebiliyoruz,” dedi.
Gerçekten de, ChatGPT’nin bu görev için uygun olmadığı, başkaları tarafından yapılan gelişigüzel testlerle bile kanıtlanmıştır. Potansiyel yasaklama listesindeki kitaplar hakkında ChatGPT’yi sorgulayan Popular Science, düzensiz sonuçlar buldu ve bazılarının uygulanan yasaklarla görünüşte eşleşmediğini gördü.