ChatGPT, bilimsel hipotezi desteklemek için sahte veri seti üretiyor. Araştırmacılar, chatbot’un arkasındaki modelin ikna edici sahte bir veri tabanı ürettiğini söylüyor ancak adli tıp incelemesi, bunun gerçek olarak kabul edilmediğini gösteriyor.
Araştırmacılar, doğrulanmamış bir bilimsel iddiayı desteklemek amacıyla sahte bir klinik deney veri seti oluşturmak için yapay zeka (AI) sohbet robotu ChatGPT’nin arkasındaki teknolojiyi kullandı. Kasım’da JAMA Ophthalmology’de yayınlanan bir makalede yazarlar, ChatGPT’nin üzerinde çalıştığı geniş dil modelinin en son sürümü olan GPT-4’ü Python ve programlama dilini içeren Gelişmiş Veri Analizi (ADA) ile eşleştirerek kullandılar. İstatistiksel analiz yapabilir ve veri görselleştirmeleri oluşturabilir. Yapay zeka tarafından oluşturulan veriler, iki cerrahi prosedürün sonuçlarını karşılaştırdı ve yanlış bir şekilde bir tedavinin diğerinden daha iyi olduğunu gösterdi.
ChatGPT sahte veri seti akademide kullanılacak
İtalya’daki Cagliari Üniversitesi’nde göz cerrahı Giuseppe Giannaccare: “Amacımız, birkaç dakika içinde gerçek orijinal verilerle desteklenmeyen ve aynı zamanda mevcut kanıtlarla karşılaştırıldığında zıt veya ters yönde olan bir veri seti oluşturabileceğinizi vurgulamaktı” diyor. Yapay zekanın ikna edici veriler üretme yeteneği, araştırmacılar ve dergi editörleri arasında araştırmanın bütünlüğü konusundaki endişeleri artırıyor. Mikrobiyolog ve bağımsız araştırma görevlisi Elisabeth Bik: “Üretken yapay zekanın intihal yazılımı kullanılarak tespit edilemeyecek metinler oluşturmak için kullanılabileceği bir şeydi, ancak sahte ama gerçekçi veri kümeleri oluşturma kapasitesi bir sonraki endişe düzey” diyor.
Yazarlar, GPT-4 ADA’dan, korneanın incelmesine neden olan ve odaklanmanın bozulmasına ve görmenin zayıflamasına yol açabilen keratokonus adı verilen göz rahatsızlığı olan kişilerle ilgili bir veri seti oluşturmasını istedi. Hastalığı olan kişilerin yüzde 15-20’si için tedavi, iki prosedürden biri kullanılarak gerçekleştirilen kornea naklini içeriyor. İlk yöntem olan penetran keratoplasti (PK), korneanın tüm hasarlı katmanlarının cerrahi olarak çıkarılmasını ve bunların bir donörden alınan sağlıklı dokuyla değiştirilmesini içeriyor. İkinci prosedür olan derin ön lameller keratoplasti (DALK), korneanın yalnızca ön tabakasını değiştirerek en içteki tabakayı sağlam bırakıyor.
Yapay zeka tarafından oluşturulan veriler 160 erkek ve 140 kadın katılımcıyı içeriyordu ve DALK uygulananların hem görme hem de görüntüleme testinde PK olanlara göre daha iyi puanlar aldığını gösterdi; bu bulgu, gerçek klinik çalışmaların gösterdiğiyle çelişiyor. 2010 yılında 77 katılımcıyla yapılan bir çalışmanın raporunda, DALK’ın sonuçlarının ameliyattan sonraki 2 yıla kadar PK’nınkilerle benzer olduğu ortaya çıktı.