Artık GenAI fenomeninin 2. yılına girdiğimize göre, bu devrimin gerçekte ne getirebileceğine dair ikinci ve üçüncü dereceden sonuçları araştırmaya başlamanın zamanı geldi. Geçtiğimiz yıl boyunca gelişmeye devam eden sorulardan biri, üretken yapay zekanın PC’ler, akıllı telefonlar, tabletler, giyilebilir cihazlar ve diğer cihazlar gibi donanım cihazları üzerindeki potansiyel etkisi.
Üretken yapay zeka cihazlar üzerinde hangi sonuçlara neden olacak?
Başlangıçta, bu bilgi işlem cihazlarının küçük bir rol oynayacağı görüldü. Çünkü ilk GenAI uygulamaları ve hizmetleri bulut tabanlıydı ve herhangi bir tipik web sitesi veya uygulama gibi erişilebiliyordu. Varsayım, bu tür iş yüklerine yönelik bilgi işlem gereksinimlerinin, en gelişmiş kişisel bilgi işlem sistemlerinin bile yeteneklerini çok aştığı ve yalnızca bulut tabanlı mega veri merkezleri tarafından karşılanabileceği yönündeydi. Ancak bu bakış açısı, çeşitli gelişmeler ve GenAI alanındaki hızlı evrim ve ilerleme nedeniyle geçen yıl değişmeye başladı. Özellikle, kişisel cihazların hafıza ve hesaplama limitleri dahilinde çalışabilen, 10 milyardan az parametreye sahip çeşitli temel modellerin piyasaya sürülmesi önemli bir değişikliğe işaret etti.
Meta’nın Llama2’si, Google’ın Gemini’si , Stability AI’nin Stable Diffusion’ı ve diğer sürümlerin hepsinin PC’lerde veya telefonlarda çalıştığı gösterildi. Bu, Microsoft, Apple ve diğerleri gibi şirketlerin bu teknolojiyi 2024 yılına kadar günlük cihazlara entegre etme çabaları hakkında spekülasyonları ateşledi. Model niceleme gibi teknolojik ilerlemelerin yanı sıra, erişim artırılmış nesil (RAG) gibi kavramlar, odak modellerini ve GenAI uygulamalarını cihazlarda çalıştırmaya doğru kaydırdı. Bu yaklaşım artık geniş çapta kabul görmeye başladı.
Samsung Galaxy S24 lansman etkinliğinde, gerçek zamanlı çeviri özellikleri de dahil olmak üzere cihazdaki yapay zekanın ilk gerçek dünyadaki uygulamalarından bazılarını gözlemledik. Bu yıl ve bir sonraki yıl, muhtemelen cihaz içi yapay zekayı kullanan çok daha fazla ürün örneği getirecek. Ayrıca, yeni yarı iletkenlerde yapay zeka donanım hızlandırma yeteneklerinin tanıtılması öne çıkan bir konu oldu. Qualcomm, Snapdragon 8 Gen 3 mobil işlemcilerde çalışan GenAI modellerinin demolarıyla çalışmalara başladı. Şirket , 2024 ortasında piyasaya sürülmesi planlanan Snapdragon X Elite PC işlemcisinin duyurulmasıyla bu temayı sürdürdü . AMD, ilk Ryzen NPU’su ile Ryzen 7040 PC SoC’yi piyasaya sürdü ve yakın zamanda güncellenmiş 8040’ı piyasaya sürdü. Sonunda Intel , 2023’ü uzun süredir beklenen ve özel bir yapay zeka hızlandırıcıyı içeren ilk ürün olan Core Ultra SoC’nin lansmanıyla kapattı.