OpenAI, ChatGPT’den yazımı tespit edebilen araçlar yayınlamak için ‘bilinçli bir yaklaşım’ benimsediğini söylüyor. OpenAI, ödevlerini ChatGPT’den yazdırarak kopya çeken öğrencileri yakalayabilen bir araç geliştirdi. Ancak The Wall Street Journal’a göre şirket, bu aracı yayınlayıp yayınlamama konusunda tartışıyor.
OpenAI kopya içerik önlemleri
Açıklamada, OpenAI sözcüsü şirketin Journal’ın haberinde anlatılan metin filigranlama yöntemini araştırdığını doğruladı. Ancak “karmaşıklıklar ve OpenAI’nin ötesindeki daha geniş ekosistem üzerindeki muhtemel etkisi” nedeniyle “kasıtlı bir yaklaşım” benimsediklerini söyledi.
Sözcü: “Geliştirdiğimiz metin filigranlama yöntemi teknik olarak ümit verici, ancak alternatifleri araştırırken değerlendirdiğimiz önemli riskler var. Bunlar arasında kötü niyetli kişiler tarafından atlatılmaya açık olma ve İngilizce konuşmayanlar gibi grupları orantısız bir şekilde etkileme potansiyeli yer alıyor” dedi. OpenAI kopya içerik konusunda önlelerini artırarak eğitim ve iş hayatını özgün haliyle bırakmak istiyor.
Bu, büyük ölçüde etkisiz olan yapay zeka tarafından oluşturulan metni tespit etmeye yönelik önceki çabaların çoğundan farklı bir yaklaşım olacak. Hatta OpenAI bile geçen yıl önceki AI metin algılayıcısını “düşük doğruluk oranı” nedeniyle kapatmıştı. Metin filigranlamasıyla OpenAI, yalnızca ChatGPT’den yazıyı tespit etmeye odaklanacaktı. Bunu, ChatGPT’nin kelimeleri nasıl seçtiğinde küçük değişiklikler yaparak, esasen yazıda daha sonra ayrı bir araç tarafından tespit edilebilecek görünmez bir filigran oluşturarak yapacaktı.
Derginin hikayesinin yayınlanmasının ardından OpenAI, yapay zeka tarafından oluşturulan içeriği tespit etme konusundaki araştırmasıyla ilgili Mayıs ayındaki blog yazısını da güncelledi. Güncellemede, metin filigranının “paraphrase gibi yerelleştirilmiş kurcalamalara karşı oldukça doğru ve hatta etkili” olduğu, ancak “çeviri sistemleri kullanma, başka bir üretken modelle yeniden ifade etme veya modelden her kelimenin arasına özel bir karakter eklemesini isteme ve sonra o karakteri silme gibi küreselleştirilmiş kurcalamalara karşı daha az dayanıklı” olduğu belirtiliyor. Sonuç olarak, OpenAI bu yöntemin “kötü niyetli kişiler tarafından atlatılmasının kolay olduğunu” yazıyor. OpenAI’nin güncellemesi ayrıca sözcünün İngilizce konuşmayanlar hakkındaki görüşünü yansıtıyor ve metin filigranlamasının “yapay zekanın ana dili İngilizce olmayanlar için yararlı bir yazma aracı olarak kullanılmasını damgalayabileceğini” yazıyor.