Yazılım geliştiricisi ve elektronik tablo bağımlısı olduğunu belirten Ishan Anand, GPT-2’yi Microsoft Excel’e sıkıştırdı. Daha da şaşırtıcı olanı ise işe yarıyor olması. Büyük dil modellerinin (LLM’ler) nasıl çalıştığına ve temeldeki Transformer mimarisinin akıllı sonraki token tahminini nasıl yaptığına dair fikir sağlıyor. Anand, “Bir e-tabloyu anlayabiliyorsanız, o zaman yapay zekayı da anlayabilirsiniz” diye övünüyor. 1,25 GB’lık e-tablo GitHub’da herkesin indirip oynayabilmesi için kullanıma sunuldu.
GPT-2 Excel dosyası ile çalıştırıldı
Doğal olarak, GPT-2’nin bu e-tablo uygulaması, 2024’te mevcut olan Yüksek Lisans’ların bir miktar gerisinde. Ancak GPT-2 son teknoloji ürünüydü ve 2019’da birçok manşete konu oldu. GPT-2’nin bir şey olmadığını hatırlamak önemli. ChatGPT, 2022’de GPT-3’ü konuşma yoluyla yönlendirmek için yapılan çalışmalardan elde edildi. Üstelik Anand burada GPT-2 Small modelini kullanıyor ve XLSB Microsoft Excel Binary dosyasında 124 milyon parametre var ve GPT-2’nin tam sürümünde 1.5 milyar parametre kullanılıyor.
GPT-2 esas olarak akıllı ‘sonraki belirteç tahmini’ üzerinde çalışır; burada Transformer mimarisi dil modeli, bir girdiyi dizinin en olası sonraki kısmıyla tamamlıyor. Bu e-tablo yalnızca 10 jetonluk girişi işleyebiliyor. Bu, GPT-4 Turbo’nun işleyebileceği 128.000 jetonla karşılaştırıldığında çok küçük. Ancak yine de bir demo için iyi bir şey ve Anand, “düşük kodlu tanıtımının” teknoloji yöneticileri, pazarlamacılar, ürün yöneticileri, yapay zeka politika yapıcıları, etik uzmanları ve geliştiriciler ve bilim adamları için bir Yüksek Lisans temeli olarak ideal olduğunu iddia ediyor. Anand, aynı Transformer mimarisinin “OpenAI’nin ChatGPT’sinin, Anthropic’in Claude’unun, Google’ın Bard/ Gemini’sinin , Meta’nın Llama’sının ve diğer birçok LLM’nin temeli” olmaya devam ettiğini iddia ediyor.
Yukarıda Anand’ın GPT-2’yi bir e-tablo uygulaması olarak açıkladığını görebilirsiniz. Çok sayfalı çalışmada, ilk sayfa, girmek istediğiniz herhangi bir istemi içeriyor. Yukarıda GPT-2 Small’un kullandığı nispeten kompakt LLM’den bahsetmiştik. Anand, 2024’te bu şekilde sınıflandırılmayabilecek bir Yüksek Lisans kullanmasına rağmen, Excel uygulamasının yeteneklerini geliştirmeye devam ediyor. Geliştirici, bu Excel dosyasını Mac’te kullanmaya çalışmamanız veya onu bulut elektronik tablo uygulamalarından birine yüklemeye çalışmanız konusunda uyarıyor. Ayrıca Excel’in en son sürümü öneriliyor.
