OpenAI bir programının daha fişini çekti!

Ocak ayında yapay zeka devi OpenAI, kendi ChatGPT’si gibi üretici yapay zeka araçları kullanılarak bir içerik parçasının oluşturulup oluşturulmadığını tespit eden dünyayı kurtarabilecek veya en azından profesörlerin ve öğretmenlerin akıl sağlığını koruyabilir bir aracı duyurmuştu.

Firma, ChatGPT yaratıcısı OpenAI şirketinin “düşük doğruluk oranı” nedeniyle geçen hafta AI algılama aracı AI Classifier’ı sessizce kapattı. Açıklama yeni bir duyuruda yer almıyordu ancak aracı ilk kez duyuran blog gönderisine eklenen bir notta yer alıyordu. OpenAI’ın sınıflandırmasının bağlantısı artık mevcut değil.

OpenAI, “Geri bildirimleri dahil etmek için çalışıyoruz ve şu anda metin için daha etkili kaynak teknikleri araştırıyoruz ve kullanıcıların işitsel veya görsel içeriğin yapay zeka tarafından üretilip üretilmediğini anlamalarını sağlayan mekanizmalar geliştirmeye ve uygulamaya koyma taahhüdünde bulunuyoruz” diye yazdı.

Gün geçtikçe daha sofistike hale gelen yapay zekanın kullanımına izin veren yeni araçlar neredeyse her gün çevrimiçi hale geliyor ve yapay zeka dedektörlerinden oluşan küçük bir endüstri yaratıyor.

OpenAI, bir insan tarafından yazılan metin ile bir yapay zeka tarafından yazılan metni ayırt edebildiğini iddia eden AI Sınıflandırıcısının lansmanını duyurdu. Bununla birlikte, o zaman bile, OpenAI, sınıflandırıcıyı “tamamen güvenilir değil” olarak nitelendirdi ve İngilizce metinlerden oluşan bir “zorluk seti” üzerindeki değerlendirmelerin, yapay zeka tarafından yazılmış metnin %26’sını doğru bir şekilde tanımlarken, insanı yanlış bir şekilde etiketlediğini ekledi.

OpenAI, AI Sınıflandırıcının sınırlamalarının 1.000 karakterden daha az metin üzerinde güvenilmez olma, insanlar tarafından yazılan metni AI tarafından yazılmış gibi yanlış etiketleme ve sinir ağlarına dayalı sınıflandırıcıların eğitim verilerinin dışında kötü performans göstermesini içerdiğini söylüyor.

Yapay zekayı doğru bir şekilde tespit etmekle yakından ilgilenen bir sektör eğitimdir. ChatGPT’nin Kasım ayında piyasaya sürülmesinden bu yana eğitimciler, deneme yazmak için chatbot’u kullanan öğrencilerin alarmını çalıyor.

OpenAI, “Yapay zeka ile yazılmış metni tanımlamanın eğitimciler arasında önemli bir tartışma konusu olduğunun farkındayız ve aynı derecede önemli olan, sınıftaki yapay zeka tarafından oluşturulan metin sınıflandırıcıların sınırlarını ve etkilerini tanımaktır.” diyerek şirketin erişimi genişletmeye devam edeceğini de sözlerine ekledi.