Site icon TechInside

AWS, AI halüsinasyonlarıyla mücadele için yeni bir araç duyurdu!

AWS Glue hizmeti

AWS Glue hizmeti

Automated Reasoning Checks adlı bu hizmet, modellerin yanıtlarını doğrulamak için müşterilerin sağladığı veri setlerini kullanıyor. AWS, bu aracın sektör için bir ilk olduğunu belirtiyor, ancak benzer teknolojilerin Microsoft ve Google gibi rakipler tarafından daha önce sunulduğu biliniyor.

AWS’nin Las Vegas’taki konferansında tanıtılan Automated Reasoning Checks, AWS’nin Bedrock platformundaki Guardrails aracı üzerinden erişilebilir durumda. Müşteriler, bir modelin doğru yanıtlar üretip üretmediğini değerlendirmek için bir “gerçeklik zemini” oluşturuyor. Sistem, bir model yanıt ürettiğinde bu yanıtı doğrulamak için bu zemine başvuruyor ve olası hatalı bilgileri işaretliyor.

Sistem, şüpheli bir durum algıladığında doğru cevabı sağlıyor ve kullanıcıya modelin ne kadar yanıldığına dair bir karşılaştırma sunuyor. AWS, bu çözümün PwC gibi şirketler tarafından halihazırda müşteri odaklı yapay zeka asistanları geliştirmek için kullanıldığını belirtti.

AWS Başkan Yardımcısı Swami Sivasubramanian, bu tür araçların Bedrock platformunun hızla büyümesine katkıda bulunduğunu söyledi. Bedrock’un müşteri tabanının geçen yıl içinde 4,7 kat arttığını ve artık on binlerce müşteriye hizmet verdiğini ekledi.

Model Distilasyonu ve Çoklu Ajan İş Birliği

AWS ayrıca, büyük dil modellerini daha küçük, daha ekonomik modellere dönüştürmeyi amaçlayan Model Distillation hizmetini tanıttı.

Bu araç, müşterilerin daha düşük maliyetli sistemlerde büyük modellerin yeteneklerini kullanmasına olanak tanıyor. Ancak bu süreç, yalnızca Bedrock’ta barındırılan Anthropic ve Meta modelleriyle sınırlı.

Ayrıca, büyük modelden küçük modele geçiş sırasında az da olsa doğruluk kaybı yaşanabiliyor.

Bir diğer yenilik ise Çoklu Ajan İş Birliği aracı oldu. Bu özellik, yapay zeka modellerine birden fazla alt görev atayarak daha karmaşık projelerde kullanılmasını sağlıyor. Örneğin, bir süpervizör ajan tüm görevleri düzenleyip dağıtabiliyor ve alt ajanların verimli bir şekilde çalışmasını koordine edebiliyor.

Gerçek Dünya Performansı Bekleniyor

AWS’nin bu yeni araçları, generatif yapay zekanın üretime geçişindeki büyük sorunları çözmeyi hedefliyor. Ancak yapay zeka halüsinasyonlarının tamamen ortadan kaldırılması zor bir hedef olarak değerlendiriliyor. Bu nedenle, AWS’nin çözümlerinin gerçek dünyada ne kadar etkili olacağı zamanla anlaşılacak.

AWS’nin yenilikleri, yapay zekayı daha güvenilir ve verimli bir araç haline getirmek isteyen şirketler için önemli bir adım olarak dikkat çekiyor.

Exit mobile version