Yeni araştırmalar, ChatGPT gibi büyük dil modellerinin (LLM’ler) açık talimatlar olmadan bağımsız bir şekilde öğrenemeyeceğini veya yeni beceriler edinemeyeceğini, bu nedenle öngörülebilir ve kontrol edilebilir olduğunu ortaya koyuyor. Çalışma, bu modellerin karmaşık akıl yürütme yetenekleri geliştirmesi konusundaki korkuları ortadan kaldırıyor ve LLM’lerin karmaşık bir dil üretebilmesine rağmen varoluşsal tehditler oluşturmasının olası olmadığını vurguluyor. Ancak, sahte haber üretmek gibi yapay zekanın potansiyel kötüye kullanımı hala dikkat gerektiriyor.
Yapay zeka bağımsız öğrenme yeteneğine sahip değil
Almanya’daki Bath Üniversitesi ve Darmstadt Teknik Üniversitesi’nin yeni araştırmasına göre, ChatGPT ve diğer büyük dil modelleri (LLM’ler) bağımsız olarak öğrenemiyor veya yeni beceriler edinemiyor; bu da insanlık için varoluşsal bir tehdit oluşturmadığı anlamına geliyor.
Bugün, doğal dil işleme alanında önde gelen uluslararası konferans olan Hesaplamalı Dilbilim Derneği’nin (ACL 2024) 62. Yıllık Toplantısı’nın bildirilerinin bir parçası olarak yayınlanan çalışma, LLM’lerin talimatları takip etme ve dilde yeterlilik konusunda üstün olma konusunda yüzeysel bir yeteneğe sahip olduğunu, ancak açık bir talimat olmadan yeni becerilerde ustalaşma potansiyellerinin olmadığını ortaya koyuyor. Bu, doğal olarak kontrol edilebilir, öngörülebilir ve güvenli oldukları anlamına geliyor.
Araştırma ekibi, giderek daha büyük veri kümeleri üzerinde eğitim gören LLM’lerin güvenlik endişesi olmadan kullanılmaya devam edilebileceği, ancak teknolojinin hâlâ kötüye kullanılabileceği sonucuna vardı. Büyümeyle birlikte bu modellerin daha karmaşık bir dil üretmesi ve açık ve ayrıntılı komutları takip etmede daha iyi hale gelmesi muhtemeldir; ancak karmaşık muhakeme becerileri kazanmaları çok düşük bir olasılıktır.
Bath Üniversitesi’nde bilgisayar bilimci ve LLM’lerin ‘yeni ortaya çıkan yetenekleri’ üzerine yeni çalışmanın ortak yazarı olan Dr. Harish Tayyar Madabushi, “Bu tür yapay zekaların insanlık için bir tehdit olduğu yönündeki yaygın anlatı, bu teknolojilerin yaygın olarak benimsenmesini ve geliştirilmesini engelliyor ve ayrıca odaklanmamız gereken gerçek sorunlardan dikkati uzaklaştırıyor” dedi.
Almanya’daki Darmstadt Teknik Üniversitesi’nden Profesör Iryna Gurevych liderliğindeki işbirlikçi araştırma ekibi, LLM’lerin daha önce modellerde hiç karşılaşılmamış görevleri tamamlama yeteneğini test etmek için deneyler yürüttü.
