Dell Technologies ve Nvidia, üretken AI kullanmaya başlama sürecini basitleştirmek üzere özel olarak tasarlanan Helix projesini hayata geçirmek için bir araya geldi.
Son zamanlarda yapılan duyurularda, IBM, Google, Salesforce, Microsoft, Amazon, Meta gibi teknoloji devlerinden üretken AI yeteneklerini işletmelere tanıtmayı hedefleyen yeni tekliflerin global bir trend olduğu gösteriliyor. Her teknoloji şirketinin, bu dönüştürücü yeni teknoloji etrafındaki heyecandan faydalanmaya çalıştığı görülüyor.
Çoğu kuruluşun AI’yi benimsemeye hevesli olduğu giderek daha belirgin hale geliyor. İşletmeler hızla AI’nin sağlayabileceği potansiyel üretkenlik artışları, verimlilikler ve diğer faydaları belirliyorlar. Ancak, bu şirketlerin tam olarak nasıl üretken AI kullanmaya başlayabileceklerinden emin olamamaları durumunda önemli bir sorun ortaya çıkıyor. Teknolojinin nasıl çalıştığı ve nasıl uygulanabileceği konusunda derin bilgiye sahip uzmanlar nadir ve oldukça yüksek maliyetli.
Bu bağlantı kopukluğunu fark eden Dell Technologies ve Nvidia, üretken AI ile başlamanın sürecini basitleştirmek üzere özel olarak tasarlanmış bir teklif olan Proje Helix’i bir araya getirdi. Proje Helix, şirketlerin kendi verilerini kullanarak yeni üretken AI temel modeller oluşturmasına veya mevcutları özelleştirmesine olanak sağlayan tam yığın, yerinde üretken AI çözümleri oluşturmaya odaklanmaya başladı.
Üretken AI hizmetlerini kullanmaya başlayan işletmelerde ortaya çıkan bir sorun, dahili IP sızıntısı riskidir. Aslında, Samsung ve Apple gibi birkaç şirket, bu konuyla ilgili endişeler nedeniyle çalışanlarının ChatGPT gibi araçları iş amaçlı kullanmalarını önleyen politikalar uygulamıştır.
Bu endişenin bir nedeni, üretken AI’nin neredeyse tüm erken iterasyonlarının sadece devasa bulut tabanlı veri merkezlerinde çalışabilmesi, bunların çoğunun istem girişlerine girilen verileri toplanıyor. Ancak, üretken AI uygulamalarını destekleyen temel modellerin son derece hızlı evriminde, bu endişelerin birçoğuna yanıt veriliyor. Özellikle, şimdi Hugging Face gibi pazar yerlerinden geniş çeşitlilikte açık kaynaklı modeller mevcut bulunuyor. Bu açık kaynaklı modellerin birçoğu, uygun şekilde donatılmış bir yerinde veri merkezinde olduğu gibi daha makul hesaplama gereksinimleriyle çok verimli bir şekilde çalışabilir. Ek olarak, büyük teknoloji şirketlerinin bir kısmı modellerinin nerede çalışabileceği konusundaki kuralları değiştirmeye başladı ve modellerinin daha küçük sürümlerini yerinde kullanım için optimize etmeye başlıyor.
Ayrıca, Nvidia dahil birkaç şirketin, özellikle iş uygulamaları için tasarlanmış modeller sunmaya başladığı görülüyor. Şirket, donanımı nedeniyle üretken AI ile güçlü bir şekilde ilişkilisini sürdürüyor. Nvidia’nın GPU çipleri, bulutta mevcut üretken AI uygulamaları ve hizmetlerinin büyük çoğunluğunu destekliyor. Şirketin son GTC konferansında, birçok kişiyi endüstriye özel yazılım temel modelleri ve özellikle NeMo büyük dil modeli (LLM) çerçeveleri ve istenmeyen konuları filtrelemek için NeMo Guardrails gibi işletmelere yönelik geliştirme araçlarını içeren bir dizi üretken AI ile ilgili yazılımı açığa çıkararak şaşırtıyor.
Proje Helix, Dell ve Nvidia’nın bir dizi Dell PowerEdge sunucu sistemi toplamaya yönelik bir çabayı temsil ediyor. Bunlar, Nvidia H100 GPU’lar ve Nvidia’nın Bluefield DPU’ları (AI iş yüklerinin gerektirdiği sunucular arası yüksek hızlı bağlantılar için kullanılan Veri İşlem Birimleri) ve Nvidia’nın Kurumsal AI yazılımı ile birlikte sunulur.
Ayrıca, Dell AI iş yükleri için optimize edilmiş PowerScale ve ECS Kurumsal Nesne Depolama hatlarından çeşitli farklı depolama seçenekleri sağlıyor. Sonuç, şirketlerin üretken AI modellerini oluşturmaya veya özelleştirmeye başlıyor. Potansiyel müşteriler ya Nvidia’nın temel model seçeneklerinden birini kullanabilir ya da isterlerse Hugging Face’den açık kaynaklı model seçip süreci başlatabilir.
Dahil edilen Nvidia yazılımı, bir kuruluşun mevcut veri derlemesinin belgeler, müşteri hizmetleri sohbetleri, sosyal medya gönderileri ve çok daha fazlası içe aktarılmasını sağlar ve ardından bunu ya yeni bir model eğitmek ya da mevcut bir modeli özelleştirmek için kullanılıyor. Eğitim süreci tamamlandıktan sonra, yeni eğitimli modeli kullanarak yeni uygulamalar oluşturmak için gerekli araçlar da dahildir. Dell’ın paketi ayrıca şirketlere bu modelleri oluşturma/özelleştirme ve bu araçları oluşturma sürecinde rehberlik eden bir yol haritası sağlar ve bir dizi teknik destek hizmeti sunuyor.
En önemlisi, bu işin içeride yapılıyor olması, birçok şirketin hatta üretken AI araçları ile çalışmaya başlayanların bile endişelendiren IP sızıntı sorunlarını hafifletmeye yardımcı olabiliyor.
Proje Helix’in bir başka önemli faydası, şirketlerin üretken AI’yi daha benzersiz ve kişiselleştirilmiş bir şekilde kullanmasına olanak sağlıyor. Şu anda mevcut olan genel amaçlı araçlar belirli türdeki uygulamalar ve ortamlar için kesinlikle yardımcı olabilir, ancak çoğu şirket, üretken AI’nin gerçek rekabet avantajının özelleştirmede olduğunu kabul ediyor. Bir şirketin kendi verilerini bu araçlara dahil etme konusunda önemli bir ilgi vardır, ancak tam olarak nasıl yapılacağı konusunda çok fazla kafa karışıklığı bulunuyor.
Üretken AI için bir “kolay set” bir araya getirmek, birçok kuruluşun verilerini ve teknolojilerini ihtiyaç duydukları çözümleri oluşturmak için kullanma konusunda zorluklarla karşılaşmayacağı anlamına gelmiyor. üretken AI’nın arkasındaki kavramların hala çok yeni olduğunu ve son derece karmaşık bir teknoloji olduğunu hatırlamak önemlidir. Bununla birlikte, birlikte çalışmak üzere önceden test edilmiş gerekli donanım ve yazılımı, süreci nasıl yöneteceğiniz hakkında bilgi ile bir araya getirerek, Proje Helix, bu heyecan verici yeni alana dalmak için hevesli olan veya rekabetçi nedenlerle bunu yapmak zorunda hisseden kuruluşlar için cazip bir seçenek gibi görünüyor.