Veri merkezlerinde Nvidia’nın baskın GPU tedarikçisi olduğu artık bir sır değil, ancak şimdi talep arttıkça AMD’nin bu pazarda ciddi bir rakip haline gelmesi olası. Kısa bir süre önce AMD’ye başvuran bir müşteri, 1,2 milyon GPU’dan oluşan bir yapay zekâ eğitim kümesi oluşturmayı talep etti. Bu da potansiyel olarak ortaya çıkacak yapının mevcut en hızlı süper bilgisayar olan Frontier’den 30 kat daha güçlü olmasını sağlayacak. Bu AMD için eşsiz bir fırsat zira firma 2023 yılında veri merkezi GPU’larının %2’sinden bile daha azını tedarik etti.
AMD Veri Merkezi Çözümleri Genel Müdürü Forrest Norrod verdiği bir röportajda, 1,2 milyon GPU kullanarak yapay zekâ eğitim kümeleri oluşturmak için müşterilerden gerçek talepler aldıklarını açıkladı. Bunu bir perspektife oturtmak gerekirse, mevcut yapay zekâ eğitim kümeleri genellikle birkaç yerel sunucu rafında yüksek hızlı ara bağlantı yoluyla bağlanan birkaç bin GPU kullanılarak oluşturuluyor.
Şu anda YZ geliştirme için düşünülen ölçeğin henüz bir benzeri görülmemiş. Norrod, “Düşünülen bazı eğitim kümeleri gerçekten akıllara durgunluk veriyor” diyor. Aslında, YZ modellerini eğitmek için kullanılan bilinen en büyük süper bilgisayar, 37.888 Radeon GPU’ya sahip Frontier ve AMD’nin potansiyel süper bilgisayarı, Frontier’den 30 kat daha güçlü olabilir
Güç tüketimi can yakıyor!
Elbette bu o kadar basit olmayacak. Mevcut güç seviyelerinde bile, yapay zekâ eğitim kümeleri oluştururken göz önünde bulundurulması gereken çok sayıda zorluk var. Yapay zekâ eğitimi, hızlı sonuçlar sunmak için düşük gecikme süresi gerektirir, önemli miktarda güç kullanır ve sadece birkaç bin GPU ile bile donanım arızaları beklenenin çok üzerine çıkabilir. Dolayısıyla AMD ve işbirliği yapacağı şirket(ler) için pek çok zorluk söz konusu olacak.
Çoğu sunucu yaklaşık %20 kullanımla çalışır ve uzak makinelerde binlerce küçük ve eş zamanlı olmayan iş yükünü idare eder. Ancak yapay zekâ eğitiminin yükselişi, sunucu yapısında önemli bir değişikliğe yol açıyor. Makine öğrenimi modellerine ve algoritmalarına ayak uydurmak için, bir yapay zekâ veri merkezinin bu iş için özel olarak tasarlanmış büyük miktarda bilgi işlem gücüyle donatılması gerekir. Yapay zekâ eğitimi, esasen kümedeki her düğümün bilgileri olabildiğince hızlı bir şekilde ileri geri iletmesini gerektiren büyük, eşzamanlı bir iştir.
AMD veri merkezi pazarında rekabetçi olabilir mi?
En ilginç olanı ise bu rakamların 2023 yılında veri merkezi GPU sevkiyatlarının %2’sinden daha azını oluşturan AMD’den geliyor olması. Diğer %98’i oluşturan Nvidia, müşterilerinin kendisinden ne üretmesini istediği konusunda ağzını sıkı tuttu. Pazar lideri olarak, ne üzerinde çalıştıklarını ancak hayal edebiliriz.
Önerilen 1,2 milyon GPU’lu süper bilgisayar tuhaf görünse de AMD yöneticisi Norrod, “çok aklı başında insanların” yapay zekâ eğitim kümelerine yüz milyar dolara kadar para harcamayı düşündüklerini söyledi. Teknoloji dünyasında son birkaç yıl YZ gelişmelerindeki patlama ile tanımlandığı için bu bir şok olmamalı. Görünen o ki şirketler rekabetçi kalabilmek için yapay zekâ ve makine öğrenimine önemli miktarlarda yatırım yapmaya hazır.