OpenAI, geçtiğimiz eylül ayında tanıttığı yeni yapay zeka modeli GPT-o1 ile dikkatleri üzerine çekti. Daha karmaşık konularda derinlemesine akıl yürütme kabiliyetiyle tanıtılan GPT-o1, teknoloji camiasında büyük bir heyecan yaratmıştı. Ancak, modelin kullanımında ortaya çıkan ilginç bir durum, hem kullanıcıları hem de uzmanları şaşırttı: GPT-o1, İngilizce yürütülen konuşmalarda akıl yürütmeye İngilizce başlayıp beklenmedik bir şekilde Çinceye geçiyor.
Veri kaynakları şüphe uyandırıyor
Bu sıra dışı durum, OpenAI’ın GPT-o1’i eğitirken Çinli veri şirketlerinden elde ettiği veri paketlerini kullanmış olabileceği yönünde spekülasyonlara yol açtı. Hugging Face CEO’su Clément Delangue, OpenAI’ın bu modeli eğitmek için Çin kaynaklı verilerden faydalanmış olabileceğini öne sürdü. Google DeepMind araştırmacısı Ted Xiao ise modelin geliştirilme sürecinde Çinli veri etiketleme servislerinin etkili olmuş olabileceğini belirtti.
Öte yandan, Hugging Face yazılımcılarından Tiezhen Wang, GPT-o1’in eğitimi sırasında oluşan çağrışımların bu davranışa yol açabileceğini ifade etti. Wang, kişisel bir örnek vererek, kendisinin de İngilizce konuşurken matematiksel hesaplamalar yaparken Çince düşündüğünü söyledi.
Daha derin bir sorun mu?
Akademisyen Matthew Guzdial, bu durumu daha farklı bir bakış açısıyla değerlendirdi. Guzdial, yapay zekanın diller arasında bir ayrım yapmadığını, metinleri sadece birer veri olarak gördüğünü vurguladı. Bu bağlamda, GPT-o1’in İngilizce bir soruya yanıt verirken Çinceye geçmesinin bilinçli bir tercih değil, eğitim sürecindeki verilerin bir yansıması olduğunu ifade etti.
Şeffaflık tartışmaları yeniden alevlendi
Bu beklenmedik davranış, yapay zeka modellerinin eğitim süreçleriyle ilgili önemli soru işaretlerini gündeme getirdi. OpenAI başta olmak üzere yapay zeka şirketlerinin, modellerini eğitirken kullandıkları veri kaynakları konusunda daha şeffaf olmaları gerektiği yönündeki eleştiriler yeniden alevlendi.
OpenAI’dan konuyla ilgili resmi bir açıklama gelmezken, GPT-o1’in dil değişimi davranışının altında yatan nedenlerin netleşmesi, yapay zeka araştırmalarında etik ve güvenlik açısından kritik bir adım olarak değerlendiriliyor.