Patented.ai, çalışanlar şirket verilerini bir sohbet robotuna girdiğinde, bu verilerin chatbot’a güç veren büyük dil modelini eğitmek için kullanılabileceğini söylüyor.
Hassas bilgi uyarısı
San Francisco merkezli girişim Patented.ai, bir şirketin çalışanlarını OpenAI’nin ChatGPT’si veya Google’ın Bard’ı gibi bir yapay zeka sohbet botuyla hassas veya özel bilgileri paylaşmak üzereyken uyarmak için tasarlanmış LLM Shield adlı bir eklenti yayınladı. Bir chatbot penceresi içinde çalışabilen eklenti, chatbot’un metin penceresine hassas bilgiler giren bir çalışana bir uyarı gösteriyor. Patented.ai, LLM Shield’in bugün kullanıma sunulduğunu ve bu yıl boyunca, kişisel kullanım için bir eklenti sürümü de dahil olmak üzere, yapay zeka modeli tarafından desteklenen yeni güvenlik ürünleri sunmayı planladığını söylüyor.
Üretken AI modelleri büyük olasılıkla büyük ve küçük işletmelerde birçok yararlı ve zaman kazandırıcı uygulama bulacaktır, ancak birçok şirket, iç işleyişi hala tam olarak anlaşılamayan modeller tarafından hassas veya özel bilgilerin nasıl kullanılabileceği konusunda giderek daha fazla endişe duymaktadır. Bank of America, Goldman Sachs, Citigroup Inc., Deutsche Bank AG ve Wells Fargo sızıntı olasılığını en aza indirmek için ChatGPT’yi yasakladı. Perşembe günü, danışmanlık firması Gartner’da analist olan Avivah Litan, “Çalışanlar, üretken yapay zeka chatbot çözümleriyle etkileşime girerken hassas ve tescilli kurumsal verileri kolayca açığa çıkarabilir” dedi. Litan sözlerine şöyle devam etti: “Kullanıcılar ve üretici yapay zeka temel modellerine ev sahipliği yapan şirketler arasındaki veri ve süreç akışlarını yönetmek için yeni bir yapay zeka güven, risk ve güvenlik yönetimi araçlarına acil ihtiyaç var.”
Şirket, çalışanlar şirket verilerini bir chatbot’a girdiğinde, bu verilerin sohbet robotuna güç veren büyük dil modelini (LLM) eğitmek için kullanılabileceğini söylüyor. Dahası, bu verilerin paylaşılmasının, eğitim veri setlerini oluşturanlara ağ üzerinde aynı yerde daha fazla veri aramaları için bir sinyal görevi görebileceğini söylüyor. Patented.ai’yi kuran seri girişimci ve yatırımcı Wayne Chang yaptığı açıklamada, “Yapay zeka inanılmaz derecede güçlü ve şirketler erişimi yasaklamak zorunda kalmamalı” dedi. “Görünürlük ve kontrol sayesinde, şirketler çalışanlarına ve onların LLM’leri kullanımına daha fazla güven duymalıdır.”
LLM Shield, ticari sırlar ve kişisel olarak tanımlanabilir bilgilerden HIPPA korumalı sağlık verilerine ve askeri sırlara kadar her türlü hassas veriyi tanımak için tasarlanmış bir yapay zeka modeli tarafından desteklenmektedir. Patented.ai sözcüsü, modelin çeşitli sektörlerdeki şirketlerin fikri mülkiyet haklarını korumak için çeşitli ürünlere güç sağlamak için kullanılacağını söyledi; kısmen Samsung gibi şirketlerdeki sızıntı hikayeleri nedeniyle ortaya çıkan son talep nedeniyle şirket, LLM Shield’in geliştirilmesini hızlandırdı.
