Bir grup araştırmacı, verileri çalabilen, kötü amaçlı yazılım yayan ve bir e-posta istemcisi aracılığıyla birden fazla sisteme yayılmak üzere başkalarına spam gönderebilen birinci nesil bir yapay zeka solucanı yarattı. Morris II adını verdikleri bu solucan, popüler LLM test ortamlarında tasarlandı ve başarıyla çalışıyor. Bulgulara göre araştırmacılar, bu tür kötü amaçlı programlamanın yol açabileceği potansiyel tehlikeler hakkındaki endişelerini paylaşarak üretken yapay zeka geliştiricilerine tavsiyede bulundu. Ekip, verileri çalmak ve diğer e-posta istemcilerini etkilemek için iki yöntemin nasıl kullanıldığını gösteren araştırma makalelerini paylaştı ve bir video yayınladı.
Yapay zeka solucanı Cornell Tech’ten Ben Nassi, İsrail Teknoloji Enstitüsü’nden Stav Cohen ve Intuit’ten Ron Bitton tarafından yaratıldı. 1988’de çevrimiçi ortamda dünya çapında sıkıntı yaratan ilk bilgisayar solucanı olan orijinal Morris’ten ilham aldılar ve “Morris II” adını verdiler. Solucan, Gen AI uygulamalarını hedef alarak ve hatta Gemini Pro, ChatGPT 4. 0 ve LLaVA gibi AI modellerine karşı metin ve görüntüler üreten Gen AI özellikli e-posta asistanlarını hedef alarak çalışıyor.
Morris II sistemi, kendi kendini kopyalayan rakip bir istem kullanılarak çalışıyor. Araştırmacılar çalıştığını bu üretken yapay zeka motorlarıyla bir e-posta sistemi oluşturarak ve kendi kendini kopyalayan bir sistemde metin kullanarak veya bir resim dosyasına katıştırılmış olarak istemde bulunarak gösterdiler.
Metin istemi, sistemi dışından gelen ekstra verileri kullanmak için LLM’yi kullanan e-posta asistanına bulaşıyor ve bu veriler daha sonra metin içeriği oluşturmak için GPT-4 veya Gemini Pro’ya gönderiliyor. Bu içerik GenAI hizmetini jailbreak yapıyor ve dolayısıyla verileri başarıyla çalıyor. Her iki işlem sırasında da araştırmacılar, e-posta asistanının kredi kartı bilgileri ve sosyal güvenlik numaraları gibi bilgiler içeren mesajları herkese iletmesini sağladılar.
Kontrollü bir ortamda bile böyle çalışan bir solucan, bunun artık teorik olmadığını ve bu tür kötü niyetli istemler bulunduğunda etkili çözümlerle ciddi şekilde ele alınması gerektiğini kanıtlıyor.