Si segnala una bella intervista del Tagesanzeiger ad Elisabeth Bik. Non perché ci dica cose nuove, ma perché un tema così complesso come la frode scientifica all’epoca della AI viene trattato in maniera comprensibile.

Secondo Bik la frode (intesa come ritocco o falsificazione di immagini) è sempre esistita, ma ha assunto negli ultimi anni una dimensione incontrollata, soprattutto da parte di ricercatori che provengono da Paesi (come la Cina ad esempio) in cui si viene pagati extra se si riesce a pubblicare su riviste più o meno prestigiose, o da Paesi in cui per poter fare carriera nella accademia viene richiesta una certa quantità di pubblicazioni e questa cosa promuove comportamenti adattivi.

Uno dei fenomeni che più si è sviluppato è quello dei paper mills che vendono authorship per articoli scritti da ghost writers o da sistemi di AI. In questo secondo caso gli articoli non hanno spesso alcuna attinenza né con lo stato dell’arte di un determinato ambito disciplinare, né con il buon senso.

L’intervistatore chiede a Bik come sia possibile che ricerche inventate possano essere pubblicate, e la risposta è semplice. Può capitare che a un reviewer sfugga qualche errore, ma quando gli errori sono tanti e di diverso tipo la conclusione può solo essere che anche la revisione è stata fatta da un sistema di AI.

Alla domanda se sia peggio farsi scrivere un articolo da AI o farsi produrre una immagine, Bik indica certamente il secondo caso. Le immagini per molti ambiti disciplinari rappresentano il cuore di una ricerca, la prova dei risultati, e se vengono ritoccate il risultato raggiunto non è più documentabile.

Bik parla anche delle tortured phrases cioè di quegli improbabili sinonimi che subito fanno pensare che un articolo è stato scritto da una macchina (si pensi ad esempio a “bosom malignancy” per breast cancer o a “counterfeit consciousness” per artificial intelligence.

Viene fatto anche un confronto fra diversi tipi di frode scientifica: plagio e falsificazione di immagini, ritenendo il primo illecito e imbarazzante, ma con effetti molto minori rispetto all’inquinamento di un ambito disciplinare prodotto da una immagine falsificata o manipolata.

Le previsioni sul futuro non sono rosee: ci sarà una competizione fra macchine che producono frodi scientifiche e macchine che le individuano, con il giudizio umano che dovrà cercare di essere arbitro il più a lungo possibile.