Microsoft araştırmacıları, şimdiye kadarki en büyük ölçekli 1-bit yapay zeka modelini geliştirdi. Bu modelin adı BitNet b1.58 2B4T. Açık kaynaklı ve MIT lisansı altında yayınlandı. Üstelik bu model, GPU’ya gerek duymadan Apple M2 işlemcili cihazlarda bile çalışabiliyor.
BitNet modelleri, hafif donanımlar için özel olarak tasarlanıyor. Bu modeller, klasik yapay zeka modelleri gibi büyük ve ağır değil. Tersine, ağırlıklı değerleri yalnızca -1, 0 ve 1 olacak şekilde sadeleştiriliyor. Bu da hem bellek tüketimini azaltıyor, hem de hesaplama hızını artırıyor.
33 milyon kitaba eşdeğer veri seti
Microsoft’un duyurduğu yeni yapay zeka modeli tam 2 milyar parametreye sahip. Bu parametreler, modelin iç yapısını tanımlayan temel unsurlar. BitNet b1.58 2B4T, 4 trilyon token ile eğitildi. Bu veri miktarı, yaklaşık 33 milyon kitaba eşdeğer.
Araştırma sonuçlarına göre BitNet, performans açısından da öne çıkıyor. Meta’nın Llama 3.2 1B, Google’ın Gemma 3 1B ve Alibaba’nın Qwen 2.5 1.5B modellerinden daha başarılı sonuçlar verdi. Bu testler arasında GSM8K (ilkokul düzeyinde matematik soruları) ve PIQA (fiziksel mantık testleri) bulunuyor.
Ancak bu kadarla bitmiyor. Microsoft yapay zeka modeli BitNet, rakip modellerle karşılaştırıldığında iki kat daha hızlı çalışıyor. Üstelik aynı işleri çok daha az bellek kullanarak yapıyor.
Ama bazı kısıtlamalar da var. BitNet’in yüksek verimliliğe ulaşabilmesi için bitnet.cpp adlı özel bir framework gerekiyor. Bu framework, şu an sadece belirli CPU’larla uyumlu. GPU desteği bulunmuyor, ki bu da yaygın kullanım için bir engel oluşturabilir.
Sonuç olarak, BitNet modelleri az kaynak tüketen cihazlar için umut vadediyor. Ancak donanım uyumluluğu hâlâ önemli bir sorun. Yine de bu gelişme, yapay zekanın daha erişilebilir hale gelmesinde büyük bir adım olarak kabul ediliyor.