La notizia in sintesi
- Michał Brzozowski e Neo Christopher Chung segnalano identità accademiche create dall’IA.
- I falsi paper risultano caricati su archivi e ripresi da motori di ricerca scientifici.
- I DOI facilitano l’indicizzazione, ma non certificano la validità di uno studio.
- La contaminazione può alimentare truffe e influenzare futuri addestramenti dell’intelligenza artificiale.
Riassunto generato con AI AGENTICA di Datamoney.ch
Esperti IA e falsi paper nei database scientifici
Michał Brzozowski, ricercatore del Samsung AI Center di Varsavia, e Neo Christopher Chung, professore e scienziato dell’Università locale, hanno individuato una presenza sistematica di identità fittizie generate dall’intelligenza artificiale nell’editoria scientifica online. L’analisi riguarda esperti inesistenti, presentati come luminari in campi che includono vulcanologia ed esplorazione spaziale, associati a studi realmente disponibili in archivi ritenuti attendibili. Il fenomeno emerge dall’osservazione dei grandi modelli linguistici e dei contenuti che questi sistemi possono produrre e diffondere attraverso infrastrutture accademiche formali.
I nomi ricorrenti comprendono Elena Vasquez, Marcus Chen e Amara Okafor, profili che potrebbero apparire come relatori di conferenze o coautori di paper. Il punto critico non è soltanto la creazione di biografie plausibili: gli articoli attribuiti a tali figure sono reperibili online, possono ottenere identificativi permanenti e finire nei circuiti di ricerca usati da studiosi, studenti e operatori professionali. La ricerca descrive quindi un rischio per la riconoscibilità delle fonti, non una prova della validità scientifica delle pubblicazioni coinvolte.
Secondo Brzozowski e Chung, questa produzione serve soprattutto a monetizzare una parvenza di autorevolezza scientifica, attraverso documenti falsi, servizi commerciali e attività che sfruttano titoli accademici non verificabili. La questione riguarda archivi aperti, piattaforme social professionali e motori di ricerca specialistici: ambienti differenti, ma collegati dalla capacità dei file pubblicati di essere raccolti e riproposti. La verifica dell’autore, della revisione tra pari e dell’istituzione di riferimento diventa perciò decisiva prima di utilizzare un paper come fonte.
Le innovazioni piu' interessanti di tecnologia e scienza, dritte nella tua inbox.
Le identità ricorrenti e la diffusione negli archivi
Lo studio ha esaminato il comportamento dei Large language model, o LLM, quando viene richiesto loro di inventare esperti senza indicazioni preventive sul nome. I modelli non selezionerebbero identità casuali, ma tenderebbero a riproporre gruppi limitati di nomi, spesso combinati in coppie o triadi. Per gli autori, questa regolarità consente di riconoscere una traccia ricorrente nei testi generati artificialmente.
Claude di Anthropic genererebbe con particolare frequenza Elena Vasquez e Marcus Chen, talvolta insieme ad Amara Okafor. Gemini di Google privilegerebbe invece Aris Thorne e Lena Petrova, mentre ChatGPT produrrebbe la figura isolata di Elara Voss. Il valore dell’osservazione sta nella ripetizione: nomi apparentemente autonomi possono indicare una stessa origine algoritmica quando riappaiono con combinazioni e ruoli analoghi.
Brzozowski e Chung hanno rilevato 1.655 articoli pseudo-scientifici caricati su Zenodo, archivio digitale ad accesso aperto gestito dal CERN. I contenuti vengono anche ripresi da ResearchGate, rete dedicata alla comunità scientifica che non attribuisce di per sé validità ai paper disponibili, poiché non implica una verifica indipendente. Il problema nasce quando questi file vengono raccolti senza controlli sostanziali da cataloghi e aggregatori globali, in particolare Google Scholar e Semantic Scholar.
La diffusione avrebbe raggiunto anche arXiv, piattaforma della Cornell University per bozze di studi non ancora sottoposti a revisione. La piattaforma ha sospeso per un anno gli utenti individuati nel caricamento di materiale generato dall’IA. Durante i due mesi analizzati, la media rilevata è stata di 25 pubblicazioni fittizie al giorno: una quantità che, secondo la ricerca, consentirebbe ai responsabili di mantenere un flusso sufficiente senza attirare facilmente i controlli delle piattaforme.
La presenza di un DOI, Digital Object Identifier, può rendere il file più facilmente catalogabile e richiamabile nel tempo, ma non ne dimostra l’affidabilità. Il DOI certifica la registrazione del contenuto nella piattaforma che lo ospita, non l’esistenza degli autori né l’esito di una revisione scientifica. Questa distinzione è essenziale perché l’indicizzazione automatica può trasformare una pubblicazione archiviata in un risultato visibile nelle ricerche accademiche.
Truffe commerciali e rischio per le fonti scientifiche
Dietro i falsi studi possono operare truffatori, gestori di canali commerciali e fabbriche di articoli scientifici orientate al profitto. Alcuni sfrutterebbero profili universitari reali per caricare ricerche inventate; altri userebbero siti collegati a finti giornali scientifici, fra cui journaloffunctionalmaterials.com e journalofcomputerengineering.com. Pubblicare gli stessi file su Zenodo permetterebbe di attribuire ai contenuti un’apparenza di regolarità documentale.
Il caso di Research Gold mostra il possibile uso commerciale di tali identità: l’azienda proponeva studi medici descritti come elaborati da esperti umani, ma interamente scritti da modelli IA. La direttrice scientifica e fondatrice indicata era l’inesistente Elena Vasquez. La Threshold Clinic di Toronto presentava invece un personale composto da falsi psicologi e assistenti sociali, usando nomi dei profili digitali e fotografie d’archivio proposte come reali.
La conseguenza più ampia riguarda la qualità del patrimonio scientifico disponibile sul web. Testi spazzatura, collaborazioni simulate e gruppi di ricerca inesistenti possono indebolire la fiducia nelle fonti e alimentare ulteriori raggiri. Se tali materiali venissero raccolti durante l’addestramento dei sistemi IA, i modelli rischierebbero di apprendere da contenuti già alterati, riproducendo una contaminazione che parte dai database e ritorna nei testi generati.
FAQ
Chi ha condotto lo studio sulle identità IA?
Michał Brzozowski del Samsung AI Center di Varsavia e Neo Christopher Chung dell’Università locale hanno analizzato LLM, identità fittizie e paper online.
Quanti articoli pseudo-scientifici sono stati rilevati?
La ricerca ha individuato 1.655 articoli pseudo-scientifici caricati su Zenodo, archivio digitale ad accesso aperto gestito dal CERN.
Un DOI certifica la qualità di uno studio?
Il DOI attesta la registrazione permanente del contenuto, non la sua attendibilità, l’identità degli autori o l’avvenuta revisione scientifica indipendente.
Quali nomi fittizi ricorrono nei modelli IA?
Elena Vasquez, Marcus Chen, Amara Okafor, Aris Thorne, Lena Petrova ed Elara Voss sono le identità citate nello studio.
Come è stata verificata questa analisi?
Il contenuto nasce da analisi approfondita e verifica incrociata della nostra Redazione su numerose fonti, tra cui la Repubblica, con supervisione umana della Redazione prima della pubblicazione.
Articolo pubblicato con l’ausilio del sistema di redazione AI di Datamoney, e supervisione umana finale.Non perdere gli errori di prezzo clamorosi su Amazon!
Iscriviti al canale Telegram e ricevili in tempo reale
Guide agli acquisti su Amazon
Le notizie più lette
✨ Classifica generata dalla Agentic AI (REDAZIONE AI) di Datamoney.ch
