Lažni naučni radovi preplavljuju akademsku zajednicu: AI kao novi alat za prevaru
Pripremio: Nenad Stanković
U poslednjih nekoliko godina, akademska zajednica suočava se sa alarmantnim porastom lažnih naučnih radova, posebno u oblastima istraživanja raka i COVID-19. Ovi radovi, često generisani ili značajno modifikovani uz pomoć veštačke inteligencije (AI), ne samo da narušavaju integritet nauke, već mogu imati i ozbiljne posledice po javno zdravlje.
Proliferacija lažnih radova
Nedavno objavljen izveštaj, rezultat šestomesečne istrage koju su sprovela dva kompjuterska naučnika i bivši zdravstveni novinar, otkrio je hiljade lažnih akademskih radova koji su preplavili naučne časopise. Ovi radovi su često generisani uz pomoć AI alata, što omogućava autorima da brzo i efikasno proizvode sadržaj koji na prvi pogled deluje validno.
Prema istraživanju The New York Timesa, broj akademskih radova generisanih veštačkom inteligencijom raste iz godine u godinu. “Fraudulent Science Papers Are a Growing Problem” (Gina Kolata, 2024) ističe da su mnogi od ovih radova napisani u svrhu sticanja akademskih poena i finansiranja, a ne u cilju doprinošenja nauci.
Motivi iza lažnih publikacija
U akademskom svetu, broj objavljenih radova često je ključni faktor za dobijanje finansijskih sredstava i napredovanje u karijeri. Ovaj pristup, poznat kao “objavi ili nestani”, stvara podsticaj za proizvodnju što većeg broja radova, često nauštrb kvaliteta. “Sistem koji vrednuje kvantitet umesto kvaliteta podstiče ovakve prakse”, navodi The Washington Post u članku “The Rise of AI-Generated Academic Papers” (Chris Mooney, 2024).
Posledice po nauku i društvo
Lažni radovi mogu dovesti istraživače na pogrešan put, trošeći dragoceno vreme i resurse na temelju netačnih informacija. Još ozbiljnije, takvi radovi mogu imati direktan uticaj na javno zdravlje. Na primer, istraživanje koje je preporučivalo upotrebu ivermektina kao leka za COVID-19 kasnije je otkriveno kao lažno, što je dovelo do hospitalizacije jednog pacijenta koji je pratio te preporuke.
“Ne možete samo pročitati sažetak i verovati mu”, kaže jedan istraživač raka citiran u članku The Globe and Maila, “AI and the Integrity of Academic Publishing” (Kelly Grant, 2024). “Sada pretpostavljam da je sve pogrešno.”
Alati za detekciju lažnih radova
Kako bi se borili protiv ovog trenda, razvijeni su alati poput Problematic Paper Screener-a, koji pretražuje milione novih naučnih radova u potrazi za znakovima prevare. Jedan od indikatora je neobičan jezik ili fraze koje se retko koriste u svakodnevnom govoru, što može ukazivati na to da je rad generisan ili modifikovan uz pomoć AI.
Prema Toronto Staru, kanadske akademske institucije su počele da sprovode rigorozniju proveru radova. U članku “Academic Fraud in the Age of AI” (Alex McKeen, 2024) ističe se da je nekoliko univerziteta već uvelo dodatne provere kako bi sprečilo objavljivanje sumnjivih radova.
Kritika sistema recenzije
Proces recenzije, koji bi trebalo da bude prva linija odbrane od lažnih radova, takođe je pod lupom. Prema izveštaju The Washington Posta, oko 17% recenzija sada piše ChatGPT, AI alat, što dodatno komplikuje situaciju. “Većina recenzenata nema vremena da detaljno prouči svaki rad, a kada uključimo AI u taj proces, situacija postaje još gora”, navodi Chris Mooney.
Zaključak
Ovaj problem ukazuje na potrebu za reformom u načinu na koji se vrednuje naučni rad. Fokusiranje na kvalitet umesto kvantiteta, kao i razvoj efikasnijih alata za detekciju lažnih radova, ključni su koraci ka očuvanju integriteta nauke. “Potrebno nam je manje istraživanja, ali boljeg kvaliteta, i istraživanja koja se rade iz pravih razloga”, zaključuje statističar citiran u izveštaju The Globe and Maila.
Ukoliko se nešto ne preduzme, postoji ozbiljan rizik da akademska zajednica izgubi kredibilitet i da lažne informacije postanu norma, a ne izuzetak.
