Telefonlarda yapay zeka modelleri için büyük bir iş birliği yapıldı. Qualcomm ve Meta 2024’ten itibaren çalışmayı başlatıyor.
Qualcomm ve Meta, sosyal ağ şirketinin yeni büyük dil modeli Llama 2′nin 2024′ten itibaren telefonlarda ve bilgisayarlarda Qualcomm yongaları üzerinde çalışmasını sağlayacağını açıkladı.
Şimdiye kadar, LLM’ler, teknolojinin hesaplama gücü ve veriye olan büyük gereksinimleri nedeniyle, Nvidia grafik işlemcilerinde, bu yıl yüzde 220′den fazla artan Nvidia hissesini artıran büyük sunucu çiftliklerinde çalıştı. Ancak yapay zeka patlaması, Qualcomm gibi telefonlar ve bilgisayarlar için öncü işlemciler yapan şirketleri büyük ölçüde kaçırdı. Hisse senedi, 2023′te şu ana kadar yaklaşık yüzde 10 arttı ve NASDAQ’nın yüze 36′lık kazancının ardından geldi.
Qualcomm ve Meta’dan iş birliği
Yapılan duyuru, Qualcomm’un işlemcilerini yapay zeka için çok uygun, ancak “bulutta” yerine “uçta” veya bir cihazda konumlandırmak istediğini gösteriyor. Büyük dil modelleri büyük veri merkezleri yerine telefonlarda çalıştırılabilirse, yapay zeka modellerini çalıştırmanın önemli maliyetini azaltabilir ve daha iyi ve daha hızlı sesli asistanlar ve diğer uygulamalara yol açabilir. Qualcomm, akıllı sanal asistanlar gibi uygulamaları mümkün kılacağına inandığı Meta’nın açık kaynaklı Llama 2 modellerini Qualcomm cihazlarında kullanıma sunacak. Meta’nın Llama 2′si, ChatGPT ile aynı şeylerin çoğunu yapabilir, ancak daha küçük bir programda paketlenebilir ve bu da bir telefonda çalışmasına olanak tanıyor.
Qualcomm’un yongaları, yapay zeka modellerinin gerektirdiği hesaplama türleri için çok uygun olan bir “tensör işlemci birimi” veya TPU içerir. Bununla birlikte, bir mobil cihazda bulunan işlem gücü miktarı, son teknoloji GPU’larla dolu bir veri merkeziyle karşılaştırıldığında sönük kalıyor.
Meta’nın Laması dikkate değer çünkü Meta, belirli bir yapay zeka modelinin nasıl çalıştığını yönetmeye yardımcı olan “ağırlıklarını” yayınladı. Bunu yapmak, araştırmacıların ve nihayetinde ticari işletmelerin yapay zeka modellerini izin istemeden veya ödemeden kendi bilgisayarlarında kullanmalarına izin verecektir. OpenAI’nin GPT-4′ü veya Google’ın Bard’ı gibi diğer önemli LLM’ler kapalı kaynaktır ve ağırlıkları gizli tutulur. Qualcomm geçmişte, özellikle Quest sanal gerçeklik cihazları için çipler konusunda Meta ile yakın bir şekilde çalışıyor. Ayrıca, açık kaynaklı görüntü üreteci Stable Diffusion gibi çiplerinde yavaş çalışan bazı yapay zeka modellerinin tanıtımını yaptı.
