Bilgisayarınızda yerel yapay zeka dil modelini (LLM) veya sohbet robotunu çalıştırmak, istediğiniz soruları tam bir gizlilik içinde sormanıza olanak tanıyor. Ancak bu LLM’lerin kurulması ve yapılandırılması genellikle zor. Bir çözüm var: GPT4All isimli uygulama.
Özel yapay zeka sohbet robotu için yapabilecekleriniz
Şimdilik GPT4All, kullanım kolaylığı ve esnekliğin en iyi kombinasyonunu temsil ediyor. Daha karmaşık çerçeveler ve uygulamalar kadar kullanışlı değil. Ancak yalnızca birkaç tıklamayla birkaç dakika içinde çalışır duruma getirebilirsiniz. Ayrıca CPU’nuzda veya GPU’nuzda çalışma olanağı da sunuyor. Bu, onu çalıştırmak için mutlaka en yeni ve en iyi donanıma ihtiyacınız olmadığı anlamına geliyor.
Yerel bir geniş dil modeli, bir AI sohbet robotuyla “konuşmanıza” olanak tanıyor. Bunu bir tür gelişmiş arama olarak veya sorunları teşhis etmenize yardımcı olmak için kullanabilirsiniz. İsterseniz sorunlarınızı onunla konuşabilirsiniz. Gerçekten kullanışlı olduğu nokta ise “yükleyebileceğiniz” ve bakmasını isteyebileceğiniz uzun, kapsamlı yasal veya tıbbi belgeleri anlamlandırmanıza yardımcı oluyor. Bir doktorun veya avukatın yerini almaz. Ancak profesyonel tavsiye almanız gerekip gerekmediği konusunda bir sondaj tahtası olabilir.
Daha da önemlisi, bu sizin LLM’niz. Microsoft’un Copilot’unu daha önce kullandıysanız, eksikleri olduğunu fark etmişsinizdir. Konuşmalarınızı sınırlıyor; hassas konularla ilgili soruları yanıtlamayı reddediyor. Daha da önemlisi, ChatGPT, Copilot ve Google Bard gibi yapay zeka sohbet robotlarının çoğu belirli bir düzeyde sorgularınızı inceliyor ve not ediyor.
İnternetten ne indirdiğiniz konusunda her zaman endişe duymalısınız. Yaapy zeka modellerinin büyümesi, birisinin internete kötü amaçlı yazılım göndermesi, buna “yapay zeka” adını vermesi ve ardından arkanıza yaslanıp beklemesi olasılığına kesinlikle izin veriyor. GPT4All, küçük bir geliştirici ekibi olan Nomic AI tarafından yayınlanmakta. Ancak uygulama açık kaynaklı, GitHub’da yayınlanıyor ve insanların kodu kurcalayıp dürtmesi için birkaç aydır yayında. Hiçbir şey tamamen güvenli olmasa da, bu bizim için tavsiye edilebilecek kadar güvenli olduğuna inanmamız için yeterli bir güvence.
GPT4All’ın indirme sayfası, Windows yükleyicisine (veya OSX veya Ubuntu) en üste bir bağlantı koyuyor. Yükleyicinin kendisi, belirli bir dizine atayabileceğiniz gerekli dosyaları indirecek, yalnızca 27 MB kadar küçük bir dosyadı içeriyor. Uygulamanın indirilmesi yalnızca 185 MB kadar bir alan gerektiriyor ve uygulama yalnızca birkaç saniye içinde yükleniyor.
