DeepMind PonderNet ile hesaplama süreçlerini en verimli şekilde kullanacak. İhtiyaca göre kısa veya uzun hesaplamalar tercih edilecek.
DeepMind PonderNet ile hesaplamaları daha verimli yapıyor
Bilim insanları Andrea Banino, Jan Balaguer ve Charles Blundell tarafından açıklanan PonderNet, sinir ağı tasarımı ve bilgisayar optimizasyonunun ilginç bir kesişim noktasında bulunuyor.
Program tamamen bilgi işlemin verimliliği ve verimlilik ile doğruluk arasındaki denge ile ilgileniyor., PonderNet aslında basit bir tanımla, eldeki problemin karmaşıklığına dayalı olarak hesaplama miktarını uyarlamayı öğrenen yeni bir algoritma diyebiliriz. Program, bir yandan kıyaslama testlerinde derin öğrenme hedefi olan doğruluk hedefini, bir yandan daha fazla çabanın gerçekten pek bir fark yaratmayacağına dair olasılıklı bir tahminle dengeliyor. Yani doğru bilgiye en kısa sürede ulaşılması için çalışıyor.
PonderNet, sinir ağının kabul edilebilir bir tahmin yapması için zaman içinde bir noktaya kadar çaba yeterli görünüyorsa, hesaplamayı sonuçlandırma yeteneği kazanıyor. Tersine, daha iyi sonuçlar verebilirse hesaplamalarını daha kapsamlı hale getiriyor.
PonderNet örneğinde, Banino ve ekibi, Graves’in 2016’daki Uyarlamalı Hesaplama Süresi adlı çalışmasını temel alıyor. Bu makaledeki içgörü, insan muhakemesi alanında, bir problemin ifadesi ve bir problemin çözümü genellikle asimetriktir. Bir sorunu ifade etmek bazen çok az çaba gerektirebilir, ancak çözmesi çok zaman alabilir. Böylece Graves, bir bilgisayarın, problemin karmaşıklığı göz önüne alarak, bir tahmin problemini ne kadar “düşünmesi” gerektiğini hesaplaması için bir yol bulmuştu.
