OpenAI, operasyonun yapay zeka tarafından üretilen makaleler ve sosyal medya gönderileri oluşturduğunu ancak bu içeriklerin geniş bir kitleye ulaşmadığını açıkladı.
Bu, OpenAI’ın devlet destekli aktörlerin ChatGPT’yi kötü niyetle kullanmasını engellediği ilk olay değil. Mayıs ayında şirket, kamuoyunu manipüle etmek amacıyla ChatGPT kullanan beş kampanyayı daha engellemişti.
Bu olaylar, devlet aktörlerinin Facebook ve Twitter gibi sosyal medya platformlarını kullanarak önceki seçim döngülerine müdahale etme girişimlerine benzerlik gösteriyor. Şimdi, benzer gruplar (veya belki de aynı gruplar), sosyal medya kanallarını yanlış bilgilerle doldurmak için üretken yapay zeka kullanıyor. Sosyal medya şirketlerinde olduğu gibi, OpenAI de bu çabaları ortaya çıktıkça yasaklama yaklaşımını benimsemiş görünüyor.
OpenAI, bu hesap grubuna yönelik soruşturmasının, geçen hafta Microsoft Threat Intelligence tarafından yayınlanan bir rapordan faydalandığını belirtti. Bu raporda grup, 2020’den beri ABD seçimlerini etkilemek için faaliyet gösteren daha geniş bir kampanyanın parçası olarak tanımlandı.
Microsoft, Storm-2035 olarak adlandırdığı bu grubun, ABD’deki seçmen gruplarını başkan adayları, LGBTQ hakları ve İsrail-Hamas çatışması gibi konularda kutuplaştırıcı mesajlarla hedeflediğini açıkladı. Bu operasyonların amacı, belirli bir politikayı teşvik etmekten ziyade, anlaşmazlık ve çatışma yaratmak olarak görülüyor.
OpenAI, Storm-2035 için hem ilerici hem de muhafazakar haber siteleri olarak görünen beş siteyi tespit etti. Grup, “X Trump’ın tweetlerini sansürlüyor” gibi makaleler yazmak için ChatGPT’yi kullandı. OpenAI, sosyal medyada bu operasyonun kontrolünde bir düzine X ve bir Instagram hesabı tespit etti. Şirket, ChatGPT’nin çeşitli politik yorumları yeniden yazmak için kullanıldığını ve bu yorumların daha sonra bu platformlarda paylaşıldığını belirtti.
OpenAI, Storm-2035’in makalelerinin geniş çapta paylaşılmadığını ve sosyal medya gönderilerinin çoğunluğunun az beğeni, paylaşım veya yorum aldığını kaydetti. Bu tür operasyonlar genellikle hızlı ve ucuz bir şekilde yapay zeka araçlarıyla oluşturulabildiği için bu durum yaygındır. Seçim yaklaştıkça ve çevrimiçi partizan tartışmalar yoğunlaştıkça bu tür uyarılar daha sık görülebilir.