OpenAI tarafından geliştirilen ve dünyanın en popüler sohbet robotu unvanını elinde bulunduran ChatGPT, yetenekleriyle sık sık gündeme geliyor. Fakat bu yapay zeka harikası, aynı zamanda bazı endişeleri de beraberinde getiriyor. ChatGPT’nin kalbinde yer alan ve dili işleme kapasitesiyle göz kamaştıran GPT-4o modeli, istenmeyen sonuçları engellemek adına belirli sınırlamalarla donatılmış durumda. Bu sınırlamalar, modelin şiddet içeren, zararlı, nefret söylemi içeren veya hassas bilgiler içeren yanıtlar üretmesini önlemeyi amaçlıyor.
ChatGPT, ahlak ve etik sınırlarını kaldırabiliyor!
Ancak son günlerde teknoloji dünyasında yeni bir keşif gündemi sarstı: GPT-4o’nun tüm sınırlamalarını ortadan kaldıran özel bir komut dizisi keşfedildi. Bu komut dizisi, modelin bir API arayüzü gibi davranmasını sağlayarak, güvenlik protokollerini devre dışı bırakıyor ve modelin tüm potansiyelini (iyi veya kötü) ortaya çıkarmasına olanak tanıyor.
Sosyal medya platformlarında paylaşılan denemeler, bu komut dizisinin gerçekten de etkili olduğunu gözler önüne seriyor. Hatta GPT-4o’nun ücretsiz sürümünde yer alan ve daha düşük kapasiteli olan GPT-4o mini modelinde bile bu komut dizisi kullanılarak, modelin etik sınırlarını aşan yanıtlar üretmesi sağlanabiliyor. Örnek olarak, “birini bayıltmak” gibi zararlı bir eylemi konu alan bir istekte bulunulduğunda, komut dizisi etkinleştirilmiş model, sınırlamalar olmadan yanıt üretebiliyor.
Daha da endişe verici olan ise bu komut dizisinin sadece GPT-4o’da değil, diğer bazı yapay zeka modellerinde de etkili olması. Yazılım mühendisi Denis Shilov, yaptığı paylaşımlarda, komut dizisinin xAI tarafından geliştirilen ve X Premium kullanıcılarına sunulan Grok 2 modelinde de çalıştığını ortaya koydu. Benzer şekilde, Mistral AI ve Claude modellerinin de bu komut dizisiyle manipüle edilebildiği belirtiliyor.
Bu durum, yapay zeka güvenliği konusunda önemli bir tartışmayı da beraberinde getiriyor. Her ne kadar OpenAI gibi şirketler modellerini etik sınırlarla donatmış olsa da, bu sınırlamaların kolayca aşılabilmesi, potansiyel riskleri gözler önüne seriyor. Yapay zekanın etik kullanımı ve güvenliği, önümüzdeki dönemde de teknoloji dünyasının gündemindeki yerini koruyacak gibi görünüyor.