La notizia in sintesi:
- Lo studio di Maxim Topaz su The Lancet rivela migliaia di citazioni scientifiche inesistenti.
- Analizzati 2,5 milioni di articoli biomedici e 97 milioni di riferimenti su PubMed Central.
- Il tasso di riferimenti falsi nella letteratura medica è cresciuto di oltre 12 volte in tre anni.
- Le allucinazioni dell’AI colpiscono medicina, diritto, giornalismo e produzione editoriale globale.
(Riassunto generato con AI).
Allucinazioni dell’AI: cosa rivelano i nuovi dati nella ricerca
Chi ha scoperto l’ampiezza del problema è il professor associato Maxim Topaz, della School of Nursing della Columbia University. Cosa ha trovato? Migliaia di riferimenti scientifici inesistenti annidati nella letteratura biomedica indicizzati su PubMed Central. Dove è stato pubblicato lo studio? Sulle pagine di The Lancet, una delle riviste mediche più autorevoli al mondo. Quando è esploso il fenomeno? Dal 2024 in avanti, in parallelo alla diffusione degli strumenti di intelligenza artificiale generativa nella scrittura scientifica. Perché è rilevante? Perché queste “allucinazioni” possono infiltrarsi nella catena delle evidenze, influenzando linee guida cliniche, decisioni terapeutiche e, in ultima analisi, la cura dei pazienti.
La miccia è scattata quando una rivista ha chiesto a Topaz di chiarire una fonte citata in uno dei suoi articoli: l’AI che usava per rifinire testi e formattazione aveva inserito un riferimento inventato, senza alcun riscontro reale.
Dati, tendenze e rischi sistemici per scienza e professioni
Lo studio di Topaz ha passato al setaccio quasi 2,5 milioni di articoli biomedici e 97 milioni di citazioni su PubMed Central. Il risultato: oltre 4.000 riferimenti falsi, distribuiti in quasi 3.000 studi. Non tutte le citazioni spurie sono state generate dall’AI, ma la curva temporale è netta: l’aumento diventa “verticale” nel 2024, in coincidenza con l’uso massiccio di chatbot e assistenti di scrittura nella ricerca.
Negli ultimi tre anni il tasso di riferimenti inventati nella letteratura biomedica è cresciuto di oltre 12 volte. Nel 2023 un articolo su 2.828 conteneva almeno una citazione falsa; nel 2025 il rapporto è salito a uno su 458; nelle prime sette settimane del 2026 è stato individuato almeno un riferimento inesistente in un articolo ogni 277 pubblicati. Per Topaz, questa è “solo la punta dell’iceberg”.
La ragione è strutturale. Le allucinazioni dell’AI nascono dal fatto che i modelli privilegiano pattern linguistici e probabilità statistiche, non la verifica fattuale. In medicina, dove ogni studio alimenta revisioni sistematiche e linee guida, inserire un lavoro fittizio alla base della piramide significa contaminarne tutti i livelli successivi.
Conseguenze oltre la medicina e cosa cambierà nei prossimi anni
Il problema, avverte Topaz, non riguarda solo la biomedicina. Il caso del libro di Steven Rosenbaum, “The Future of Truth: How AI Reshapes Reality”, criticato dal The New York Times per citazioni errate o inventate, mostra come le allucinazioni dell’AI investano anche editoria e informazione. Indagini recenti indicano che oltre l’80% dei medici usa AI per riassumere ricerche, più della metà dei professionisti legali la impiega per bozze e memorie, e molti revisori scientifici la integrano nel peer review.
Topaz insiste però che *“il problema non è l’AI, ma l’output non verificato che entra nel registro permanente della conoscenza”*. La vera frattura dei prossimi anni sarà tra istituzioni capaci di integrare controlli rigorosi — sistemi di fact-checking bibliografico, tracciabilità dell’uso dell’AI, audit periodici — e chi continuerà a delegare alla macchina senza supervisione umana. Più tardi si interverrà, più complesso sarà bonificare archivi, linee guida e decisioni basate su fonti inesistenti.
FAQ
Cosa sono le allucinazioni dell’intelligenza artificiale?
Le allucinazioni sono risposte apparentemente plausibili ma fattualmente false, prodotte dai modelli AI perché privilegiano schemi linguistici e probabilità, non la verifica delle fonti reali.
Quanto sono diffusi i riferimenti falsi negli studi biomedici?
Sono in forte crescita: uno studio ha rilevato oltre 4.000 riferimenti inventati in quasi 3.000 articoli, con un aumento di oltre 12 volte in tre anni.
Perché le citazioni inventate sono pericolose in medicina?
Perché contaminano la catena delle evidenze: revisioni sistematiche e linee guida cliniche rischiano di basarsi su studi inesistenti, influenzando diagnosi e terapie.
Come possono ricercatori e professionisti limitare gli errori dell’AI?
Possono farlo verificando ogni riferimento, usando strumenti bibliografici indipendenti, tracciando l’uso dell’AI e introducendo procedure di controllo obbligatorie nei flussi di lavoro.
Quali sono le fonti alla base di questo articolo?
L’articolo deriva da una elaborazione congiunta di contenuti e lanci di Ansa.it, Adnkronos.it, Asca.it e Agi.it, rielaborati dalla nostra Redazione.
Our Fact Checking Process
We prioritize accuracy and integrity in our content. Here's how we maintain high standards:
- Expert Review: All articles are reviewed by subject matter experts.
- Source Validation: Information is backed by credible, up-to-date sources.
- Transparency: We clearly cite references and disclose potential conflicts.
Our Review Board
Our content is carefully reviewed by experienced professionals to ensure accuracy and relevance.
- Qualified Experts: Each article is assessed by specialists with field-specific knowledge.
- Up-to-date Insights: We incorporate the latest research, trends, and standards.
- Commitment to Quality: Reviewers ensure clarity, correctness, and completeness.
Look for the expert-reviewed label to read content you can trust.