Doğal dil teknolojisi işleme bölümündeki üretken yapay zeka (AI), büyük ve küçük veri işlemlerini otomatikleştirmek, üretimi artırmak amacıyla pilot uygulama konusunda hızlı olmasıyla dünyayı kasıp kavurdu.
Teknoloji devleri Google, Microsoft ve Amazon, bulut tabanlı genAI teknolojileri sunuyor veya bunları kullanıcılar için iş hizmetlerine dahil ediyor; IDC’ye göre yapay zekaya yönelik küresel harcamaların 2026 yılına kadar 301 milyar civarında olması bekleniyor.
Ancak genAI araçları, öncelikle OpenAI’nin ChatGPT’si ve Google’ın Bard’ının izniyle büyük dil modellerinin (LLM’ler) eğitimi için çok sayıda programlama kaynağı tüketiyor. GenAI kullanımı özellikleri, doğal dil işleme için bilgi depoları olan bu modelleri çalıştırmak için kullanılan donanım üzerindeki baskı da artıyor.
İşlemci ve bellek yongaları gibi farklı yongaların tek bir pakette bir araya getirilmesiyle birimleri grafik işlem birimleri (GPU’lar), LLM’leri eğitmek ve dağıtmak için gereken bant genişliğini sundukları için yapay zeka platformlarının temeli haline geldi. Ancak AI çip tescili talebi karşılanamıyor. Sonuç olarak, son aylarda AI GPU’lar için karaborsalar ortaya çıktı.
Bazıları bu kıtlığın sebebini, GPU üretimi konusunda piyasayı köşeye sıkıştıran ve tedarikte saklanabilen Nvidia gibi şirketlere bağlıyor. Yapay zekanın yükselişinden önce Nvidia, video oyunlarında gelişmiş görüntülerin oluşturulmasına yardımcı olan üst düzey işlemciler tasarladı ve üretti; bu, artık makine geliştirme ve yapay zeka için son derece uygulanabilir olan özel bir işlem türü.
Yapay zekanın GPU’lara olan susuzluğu
2018’de OpenAI, 2012’de bu yana en büyük yapay zeka eğitim çalışmalarında kullanılan bilgi işlem gücünün miktarının katlanarak arttığını, her 3,4 ayda bir ikiye katlandığını gösteren bir analiz yayınlandı.
OpenAI raporunda, “2012’den bu yana bu ölçüm 300.000 kattan fazla arttı.” dedi. “Bilgi işlemindeki ilerlemeler yapay zeka ilerlemesinin önemli bir bileşeni olmuştur; dolayısıyla bu işlem devam ettiği sürece, günümüzün üyelerinin çok ötesindeki sistemlerin parçalarına hazırlanmasına değer.”
OpenAI’nin tezinin değişmesine bağlı olarak hiçbir neden yok; Hatta Elektrik ve Elektronik Mühendisleri Enstitüsü’nden (IEEE) araştırmacı Jay Shah’a göre, geçen Kasım ayında ChatGPT’nin raporlarıyla talep arttı. “Şu anda büyük teknoloji analizlerinde, kullanıcı deneyiminin değiştiği ve mevcut ürünlerin yeni özelliklerini belirlemek için farklı yapay zeka modellerini eğitmek ve test etmek için donanım taleplerinde büyük bir artış görülüyor.” dedi.
OpenAI ve Amazon gibi Yüksek Lisans yaratıcıları zaman zaman en büyük modeli kimin oluşturabileceği konusunda iddialı bir mücadele içinde görünüyor. Bazılarının boyutları artık 1 standart parametreyi aşıyor; bu da eğitmek ve çalıştırmak için daha fazla işlem gücü ihtiyacının anlaşılmasını sağlıyor.
Shah, “Modelleri daha da büyütmenin alanını büyütmeyi geliştirmeyi planlıyoruz.” dedi. “Bu modellerin eğitim planlaması açısından son derece pahalı olmaya devam ediyor, paraya mal oluyor ve iklim üzerinde daha büyük karbon ayak izleri var. Ayrıca, diğer bu modellere erişilebildiğinde, onları eğitebildiğinde, test edilebildiğinde ve doğrulayabildiğinde araştırma sistemleri de gelişiyor.”
Shah’a göre çoğu üniversite ve araştırma kurumu, zaten çok büyük olan LLM’leri çoğaltmayı ve saklamayı göze alamaz; Bu nedenle, AI modellerini eğitmek ve dağıtmak için daha az donanım ve zaman kullanan verimli teknikler üzerinde yoğunlaşıyorlar. Kendi kendini denetleyen öğrenmeyi, aktarmayı öğrenmeyi, sürekli atışlı öğrenmeyi ve temel modeller gibi tekniklerin umut verici sonuçların ortaya çıktığını söyledi.
“Yapay zeka araştırmasının topluluğunun geçerli bir çözüm bulmasını bir ila iki yıl daha beklerim.” dedi.
Daha küçük LLM’ler çözüm olabilir mi?
Araştırma firması Gartner’dan Avivah Litan, GPU yongalarının ölçeklendirilmesinin er ya da geç yapay zeka model boyutlarındaki fiziksel ayaklara uygun olamayacağını söyledi ve “Dolayısıyla modelleri giderek büyütmeye devam etmek geçerli bir seçenek değil.” dedi.
iDEAL Semiconductor’dan Burns, “Daha verimli Yüksek Lisans ve Yapay Zeka çözümlerinin geliştirilmesine ihtiyaç duyulacak, ancak ek GPU üretimi bu denklemin kaçınılmaz bir parçası.” diyerek aynı fikirde.
Bu ayın başlarında, dünyanın en büyük çip üreticisi TSMC, üretim kısıtlamalarıyla ve yapay zeka ve HPC uygulamaları için sınırlı GPU kullanılabilirliğiyle karşı karşıya olduğunu itiraf etti. Semicon Tayvan’dan Liu, “Şu anda tüm verileri karşılayamıyoruz, ancak bunların yaklaşık %80’ini karşılamaya çalışıyoruz.” dedi. “Bu geçici bir aşama olarak görülüyor. Gelişmiş çip kapasitemizin kabaca bir buket yıl içinde büyümesinin ardından azalmasını öngörüyoruz.”
2021’de çip üretimindeki düşüş, dünya genelindeki bir tedarik zincirinin yetersiz olduğunu gözler önüne serdi. ABD’nin CHIPS yasası aracılığıyla teşvik etmesiyle Intel, Samsung, Micron ve TSMC gibi şirketlerin birkaç yeni ABD tesisi için planlarını açıkladılar.
Küresel yönetim danışmanlık şirketi McKinsey’e göre TSMC, diğer tam kapasiteye yakın veya tam kapasiteyle çalışmalarına rağmen, çip üretimini artırmak için bu yıl 36 milyar dolardan fazla harcama yapmayı planlıyor.
Ancak Nikkei Asia’da yayınlanan bir rapora göre TSMC’den Liu, AI çip tedarikindeki kısıtlamaların “geçici” olduğunu ve 2024 yılı boyunca hafifletilebileceğini söyledi .
iDEAL Semiconductor’dan Burns, ABD ve Avrupa Çip yasalarının, üretim sistemindeki arttırmanın artırılması için yarı iletken endüstrinin bazı kısımlarının yeniden desteklenerek tedarik zincirinin çözülmesine yardımcı olması gerektiğini söyledi.
Burns, “ABD CHIPS ve Bilim sistemi, yarı iletken tedarik zinciri riski ulusal bir diyaloga yükseltilmiş sektör zaten faaliyet gösteriyor. Artık tedarik zinciri risklerine odaklanan ilgi, özel sektör yatırımlarını artırdı.” dedi. “ABD’li güç kapasitelerini genişletme planlarını açıkladılar ve Teksas, Ohio, New York ve Arizona gibi geniş yatırımlar hızla devam ediyor. CHIPS ve Bilim hareketinin mevcut tedarik zincirini ne ölçüde çözebileceğini tam olarak değerlendirme zaman alacak ancak bu, yerli üretim kapasitesinin genişletilmesinde iyi bir ilk adımdır.”
Ancak AI çip kıtlığına rağmen, son 52 haftada hisse fiyatı üç kattan fazla artarak piyasa değeri kural kuralları arasında, Nvidia’nın da aralarında bulunduğu AI çip stokları hızla arttı.
IEEE’den Shah, ayrıca ABD’de dökümhanelere programlanan fonların sağlanamadığını, bunun da varsayılan olarak birçok ABD merkezli teknoloji firmasının mevcut faaliyetlere güvenmeyi planlamak zorunda olduğunu işaret ettiğini belirtti.
Shah, “Şahsen ben, ABD’deki Asyalı muadillerinden daha ucuz donanım üretiminin hala dört ila beş yıl sürebileceğine inanıyorum.” dedi.