Nvidia, önümüzdeki yıl piyasaya sürmeyi planladığı 3,5 milyon adet H100 GPU ile büyük bir çıkış yapmaya hazırlanıyor. Nvidia’nın, her bir GPU’nun tepe güç tüketiminin 700W’a kadar çıkması, bu yongaların özellikle bazı ülkelerde enerji tüketimi konusunda soru işaretleri yaratıyor.
Nvidia’nın yapay zeka iş yükleri için tasarlanan H100 AI GPU’ları, beklenen talep doğrultusunda oldukça yüksek miktarlarda satılacak. Ancak, her birinin ortalama olarak 700W enerji tüketmesi, bu GPU’ların toplam enerji tüketiminin birçok şehirden veya küçük Avrupa ülkelerinden daha fazla olabileceği anlamına geliyor.
Veri merkezi yönetiminden sorumlu olan Microsoft yetkilisi Paul Churnock’a göre, Nvidia’nın H100 GPU’ları, 2024’ün sonunda milyonlarca adet dağıtıldığında ABD’nin 1.6 milyon nüfuslu Phoenix şehrinden daha fazla enerji tüketebilir. Bu durum, her bir H100 GPU’nun yılda ortalama bir Amerikan evinin enerji tüketimine eşdeğer olmasıyla açıklanıyor.
Eğer Nvidia, 2023’te 1,5 milyon ve 2024’te iki milyon H100 GPU satar ise, 2024’ün sonlarına kadar bu GPU’ların toplamda 3.5 milyon adet kullanıma girmiş olacak. Bu durumda, tüm H100’lerin yılda 13.091.820.000 kilovat-saat (kWh) veya 13.091,82 GWh enerji tüketmesi bekleniyor.
Bu tüketim miktarı, bazı ülkelerin yıllık elektrik tüketiminden daha fazla olabilir, ancak yapay zeka ve yüksek performanslı bilgi işlem GPU’larının verimliliğindeki artış da göz önünde bulundurulmalıdır. Tabii ki, talep beklenenden fazla olursa enerji tüketiminin daha da artması muhtemeldir.
