AWS müşterileri, Nvidia ile yapılan son anlaşma kapsamında trilyonlarca parametreli LLM’ler oluşturabilecek. AWS artık Nvidia Grace Blackwell GPU tabanlı Amazon EC2 bulut sunucularını ve Nvidia DGX Cloud’u sunacak.
AWS ve Nvidia, yeni Blackwell GPU platformunun AWS platformuna gelmesini sağlayacak stratejik işbirliklerinin genişletildiğini duyurdu. Hiper ölçekleyici, müşterilerin yeni üretken yapay zeka yeteneklerinin kilidini açmasına ve bunlardan yararlanmasına yardımcı olmak için tasarlanmış bir hareketle Nvidia GB200 Grace Blackwell Superchip ve B100 Tensor Core GPU’larını sunacak.
AWS kullanıcıları LLM erişimine sahip olacak
İşbirliği, Nvidia’nın çip üreticisinin yeni nesil Blackwell platformunu ve yapay zeka yazılımını içeren en yeni çok düğümlü sistemleri , AWS’nin Nitro Sistemi ve Anahtar Yönetim Hizmeti (AWS KMS) gelişmiş güvenliği, Elastic Fabric Adapter (EFA) petabit ölçekli ağ iletişimi ve AI yazılımı arasında entegrasyon sağlıyor. Yapılan duyuruda şirketler, bu teknoloji kombinasyonunun müşterilerin Amazon EC2’deki önceki nesil Nvidia GPU’lardan daha verimli bir şekilde multi trilyon parametreli büyük dil modelleri (LLM’ler) üzerinde gerçek zamanlı çıkarımlar oluşturmasına ve çalıştırmasına olanak sağlayacağını söyledi.
AWS CEO’su Adam Selipsky: “NVIDIA’nın yeni nesil Grace Blackwell işlemcisi, üretken yapay zeka ve GPU hesaplamada ileriye doğru atılmış önemli bir adıma işaret ediyor. AWS’nin güçlü Elastik Yapı Adaptör Ağı, Amazon EC2 UltraClusters’ın hiper ölçekli kümelemesi ve benzersiz Nitro sistemimizin gelişmiş sanallaştırma ve güvenlik yetenekleriyle birleştirildiğinde, müşterilerimizin multi trilyon parametreli büyük dil modellerini çok daha hızlı ve çok yüksek hızlarda oluşturmasını ve çalıştırmasını mümkün kılıyoruz. ölçeklenebilir ve başka herhangi bir yerden daha güvenli” dedi.
Genişletilen ortaklığın bir parçası olarak, Nvidia’nın GB200 NVL72’yi içeren Blackwell platformu, artık beşinci nesil Nvidia NVLink ile birbirine bağlanan 72 Blackwell GPU ve 36 Grace GPU ile tamamlanan AWS platformu üzerinden satışa sunulacak. Platform, AWS’nin EFA ağına bağlanacak ve bulut devinin gelişmiş Nitro System sanallaştırması ve hiper ölçekli kümelemesi EC2 UltraClusters’tan yararlanacak.
AWS, bu kombinasyonun müşterilerin binlerce GB200 Süper Çipe kadar ölçeklendirme yapmasına ve kaynak yoğun multi trilyon parametreli dil modelleri için çıkarım iş yüklerini hızlandırmasına olanak sağlayacağını söyledi. Ayrıca AWS, daha büyük ölçekte üretken yapay zeka eğitimini ve çıkarımı hızlandırmak için EC2 UltraClusters’ta dağıtılan yeni B100 GPU’ları içeren EC2 bulut sunucuları sunmayı planlıyor.
