Inseguire i paper generati dall’IA non basta se non si cambiano le regole che premiano la quantità invece della qualità.
E’ ciò che sembra suggerire un recente articolo pubblicato su C&EN che analizza l’impatto del’intelligenza artificiale generativa (IA) su una crisi già esistente nella comunicazione scientifica: quella del publish or perish, il sistema che valuta i ricercatori soprattutto in base al numero di pubblicazioni e al prestigio della sede editoriale. Secondo gli esperti intervistati, l’IA non è la causa del problema, ma un potente acceleratore di dinamiche distorte già presenti. In questo senso il rischio è che il dibattito si concentri sull’IA come capro espiatorio, evitando di affrontare le distorsioni strutturali della valutazione accademica
L’uso dell’IA nella scrittura scientifica è ormai diffuso. Uno studio citato stima come almeno il 13,5% degli articoli di ambito biomedico pubblicati nel 2024 mostri segni di assistenza da parte dell’IA, con percentuali molto più elevate in alcuni settori e paesi. Non tutti gli utilizzi sono dannosi o fraudolenti. Se utilizzata in modo trasparente, l’IA può migliorare la qualità linguistica dei testi e aiutare i ricercatori non madrelingua inglesi. Tuttavia, gli stessi strumenti consentono di produrre rapidamente articoli apparentemente credibili, completi di dati, immagini e citazioni inventate.
Il fenomeno è particolarmente preoccupante perché rende estremamente economica e veloce la fabbricazione di ricerca fraudolenta. Le cosiddette paper mills, organizzazioni che producono e vendono articoli scientifici falsi, stanno crescendo a un ritmo superiore rispetto alla produzione scientifica legittima. Una volta pubblicati, questi lavori entrano nei circuiti della conoscenza: vengono citati, influenzano nuove ricerche, distorcono decisioni di finanziamento e finiscono persino nei dati utilizzati per addestrare altri sistemi di IA. Molte politiche editoriali attuali si basano sull’idea di poter identificare l’uso improprio dell’IA, ma questa premessa potrebbe essere tecnicamente irrealistica.
Per contrastare il fenomeno alcuni ricercatori (science sleuths) hanno sviluppato strumenti di rilevazione automatica. Esperti come Guillaume Cabanac utilizzano software capaci di individuare segnali di manipolazione, come frasi scientificamente prive di senso (tortured phrases) o residui lasciati da ChatGPT. Tuttavia, gli stessi sviluppatori di questi strumenti riconoscono che è un po’ come svuotare la barca che affonda con un cucchiaino: man mano che i sistemi di rilevazione migliorano, i modelli generativi diventano più sofisticati e difficili da individuare.
Per questo motivo molti esperti ritengono che le soluzioni basate esclusivamente sul controllo e sulla rilevazione siano insufficienti. La vera risposta dovrebbe essere una riforma dei criteri di valutazione della ricerca, passando da una logica quantitativa a una qualitativa. In questa prospettiva vengono richiamate iniziative come DORA e CoARA che tentano di ridurre il peso del numero di pubblicazioni e degli indicatori bibliometrici nelle decisioni di carriera e finanziamento, affiancandolo ad una valutazione multidimensionale dell’attività di ricerca (non limitata esclusivamente alle pubblicazioni in rivista) e che includa anche l’attività di tutoraggio, quella didattica, quella di cura e quella di divulgazione.