Wall Street Journal‘ın haberine göre, OpenAI tarafından geliştirilen bu araç büyük ölçüde doğru sonuçlar verse de, bazı endişeler nedeniyle yayına alınması ertelendi.
OpenAI, bu suistimal tespit aracının hazır olduğunu, ancak kullanıma sunulup sunulmaması konusunda tartışmaların sürdüğünü belirtti. Şirket, metinlerin suistimal edilmesini önlemek için “metin damgalama” yöntemini geliştirdiğini ancak bu yöntemin bazı zayıf yönlerinin olduğunu kabul etti.
OpenAI tarafından yapılan açıklamada, metin damgalamanın yanı sıra, sınıflandırıcılar ve metaveriler gibi diğer çözümlerin de araştırıldığı belirtildi. Metin damgalamanın bazı durumlarda yüksek doğrulukla çalıştığı, ancak yeniden yazma, farklı dillerde çeviri yapma ya da özel karakterlerin metne eklenip ardından çıkarılması gibi manipülasyonlara karşı zayıf kaldığı ifade edildi.
Şirket, bu yöntemin ayrıca bazı grupları orantısız bir şekilde etkileyebileceği ve yapay zekanın yazı aracı olarak kullanımını damgalayabileceği endişesini dile getirdi. Özellikle İngilizce’yi ana dil olarak konuşmayanlar için bu durumun sorun yaratabileceği vurgulandı.
Bu riskler göz önüne alındığında, OpenAI, metin doğrulama araçlarının kullanımına yönelik kararını erteledi. Şirket, önceliğini sesli ve görsel içerikler için doğrulama araçlarının geliştirilmesine verdiğini açıkladı. OpenAI sözcüsü, “metin damgalamanın karmaşık bir konu olduğunu” ve bu araçların yalnızca OpenAI değil, daha geniş bir ekosistem üzerinde de etkisi olacağını belirtti.
Bu açıklamalar, eğitim kurumlarının öğrencilerin yapay zekayı suistimal etme potansiyeline karşı artan kaygıları arasında geldi. OpenAI, kullanıcıların bu yeni teknolojilere nasıl erişip kullanacağını dikkatle incelemeye devam edeceğini bildirdi.