Düzeltme adı verilen bu özellik, Microsoft Azure üzerinden yapay zeka kullanan müşterilerin, yapay zeka çıktılarındaki yanlış içerikleri tespit edip düzeltmelerine olanak tanıyor.
Özellik, Azure AI Studio’nun ön izleme sürümünde sunuluyor ve yapay zeka güvenliği için tasarlanmış bir dizi araç içeriyor. Bu araçlar, yapay zeka çıktılarındaki halüsinasyonları tespit ediyor, güvenlik açıklarını buluyor ve zararlı komutları engelliyor.
Düzeltme sistemi etkinleştirildiğinde, yapay zeka tarafından üretilen içeriği müşteri verileriyle karşılaştırarak hataları belirliyor. Ardından, hatayı vurgulayıp neden yanlış olduğunu açıklıyor ve içerik kullanıcıya gösterilmeden önce yanlış kısmı düzeltiyor. Bu özellik, yapay zeka modellerinin sık sık ürettiği hatalı içeriklerle başa çıkmanın etkili bir yolu gibi görünse de, yüzde yüz güvenilir bir çözüm olmayabilir.
Google’ın Vertex AI platformu da benzer bir özellikle yapay zeka modellerinin çıktılarının doğruluğunu Google Arama, şirketin kendi verileri ve yakında kullanıma sunulacak üçüncü taraf veri setleri ile kontrol ediyor.
Sistem, hatasızlıkla ilgili herhangi bir garanti vermiyor!
Microsoft’un bu yeni düzeltme sisteminin, küçük ve büyük dil modellerini kullanarak çıktıların doğru belgelerle hizalanmasını sağladığı belirtiliyor. Ancak Microsoft yetkilileri, bu özelliğin hatasızlık garantisi sunmadığını vurguluyor.
Şirket, yaptığı açıklamada, “Hizalama sistemi, içerik doğruluğunu tamamen garanti etmez, ancak üretken yapay zeka çıktılarının müşteri belgeleriyle daha uyumlu olmasını sağlar.” dedi.
Microsoft’un bu yeni düzeltme aracı, yapay zeka uygulamalarında güvenlik ve doğruluk açısından önemli bir adım olarak kabul ediliyor, ancak tam güvenilirliği konusunda soru işaretleri var.
