OpenAI’ın yakın zamanda tanıttığı o3 modeli, bugüne kadarki en güçlü yapay zeka modeli olarak öne sürülüyor. Ancak büyük bir dezavantajı var: Çalıştırmak için inanılmaz miktarda paraya ihtiyaç duyulması. OpenAI sorgu maliyeti işte burada devreye giriyor.
o3, test zamanı hesaplaması olarak bilinen bir teknik kullanarak sorunlar üzerinden “nedenler” yani, bir cevap vermeden önce birden fazla olasılığı “düşünmek” ve keşfetmek daha fazla zaman alır. Bu nedenle, OpenAI mühendisleri AI modelinin hatalı bir sonuca atlamak yerine karmaşık istemlere daha iyi yanıtlar üreteceğini umuyor.
OpenAI sorgu maliyeti
En azından bir dereceye kadar işe yaramış gibi görünüyor. Testin yaratıcısı François Chollet’e göre, en güçlü “yüksek hesaplama modunda” o3, dil modellerini test etmek için tasarlanmış ARC-AGI kıyaslamasında %87,5 puan aldı. Bu, önceki o1 modelinin en iyi puanı olan sadece %32’nin neredeyse üç katı. Ancak tüm bu titiz düşünce, fahiş masraflarla birlikte gelir. O yüksek su işaretine ulaşmak için, o3 görev başına 1.000 doların çok üzerinde işlem gücü kullandı – o3’ün düşük güç versiyonundan 170 kat daha fazla işlem gücü ve görev başına 4 dolardan daha az maliyeti olan selefinden çok daha fazlası. Bu ise OpenAI sorgu maliyetini ciddi derecede artırmaktadır.
Bu maliyetler, o3’ün performansının, yapay zeka modellerini “ölçeklendirme” yoluyla veya daha fazla işlem gücü ve eğitim verisi sağlayarak iyileştirmenin bir duvara çarptığı yönündeki korkuları kesin bir şekilde çürüttüğü yönündeki endüstri iddialarını karmaşıklaştırıyor. Öte yandan, o3’ün sadece üç ay önce yayınlanan o1’den neredeyse üç kat daha yüksek puan alması, yapay zeka kazanımlarının yavaşlamadığına dair yeterli kanıt gibi görünüyor. Ancak, OpenAI sorgu maliyeti açısından incelendiğinde ciddi masraflar ortaya çıkmaktadır.
Ancak ölçeklemeyle ilgili eleştiri, azalan getiriler sağlamasıdır. Buradaki kazanımlar büyük ölçüde yapay zeka modelinin tek başına ölçekleme yerine “mantık yürütme” biçimini değiştirerek elde edilmiş olsa da eklenen maliyetleri görmezden gelmek zordur.
Karşılaştırmada hala çığır açacak bir yüzde 76 puan alan düşük işlemli o3 sürümü bile görev başına yaklaşık 20 dolara mal oluyor. Bu nispeten uygun bir fiyat ancak yine de seleflerinden çok daha pahalı ve ChatGPT Plus’ın aylık maliyeti sadece 25 dolar olduğundan, kullanıcıya yönelik bu ürünün OpenAI’yi derinden olumsuz etkilemeden ne kadar daha akıllı hale gelebileceği belirsiz. OpenAI sorgu maliyeti bu nedenle sürekli bir endişe kaynağıdır.
