La notizia in sintesi
- Gary Marcus critica l’affidabilità tecnica e morale dei chatbot generativi.
- Lo scienziato chiede controlli indipendenti prima del rilascio dei modelli avanzati.
- Nel mirino finiscono OpenAI, l’allineamento e i conflitti d’interesse pubblici.
- La proposta è puntare su sistemi ibridi, tra reti neurali e logica formale.
Riassunto generato con AI
Gary Marcus chiede un’IA verificabile
Gary Marcus, scienziato cognitivo e professore emerito di psicologia e neuroscienze alla New York University, rilancia dal Vaticano la sua critica all’intelligenza artificiale generativa. Intervenuto alla Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, Marcus sostiene che i chatbot oggi diffusi siano tecnicamente inaffidabili e moralmente inadeguati, perché producono risposte plausibili ma non necessariamente fondate sui fatti.
L’incontro avviene nel contesto del messaggio di papa Leone XIV, che nella sua prima enciclica del 2026, Magnifica Humanitas, ha invitato a “disarmare” l’intelligenza artificiale. Per Marcus, il nodo non è rinunciare all’IA, ma correggere la direzione dello sviluppo: privilegiare sistemi capaci di comprendere contesto, conoscenza e conseguenze delle risposte.
Il ricercatore, fondatore di una società di machine learning acquisita da Uber nel 2016, distingue infatti l’IA nel suo complesso dai chatbot basati sulla previsione statistica della parola successiva.
La sua posizione è maturata in decenni di ricerca e divulgazione, dai libri Rebooting AI e Taming Silicon Valley alla newsletter Marcus on AI.
Allucinazioni, propaganda e controlli indipendenti
Secondo Marcus, le cosiddette “allucinazioni” non sono un difetto marginale: derivano dall’assenza di un modello strutturato del mondo. Il ricercatore afferma di aver richiamato il problema già nel 2001 e considera insufficiente l’idea che il semplice aumento di potenza dei modelli possa eliminarlo.
La conseguenza, nella sua analisi, è duplice. Da un lato, i sistemi possono generare informazioni false senza possedere strumenti interni per accertarne la veridicità; dall’altro, la capacità di imitare gli stili umani può facilitarne l’uso nella disinformazione e nella propaganda. Marcus collega dunque il rischio sociale ai limiti tecnici dei modelli.
Come alternativa, indica sistemi ibridi che combinino reti neurali e logica formale. Cita AlphaFold di Google DeepMind come esempio di sistema ritenuto valido, pur precisando che la sua critica riguarda soprattutto i chatbot.
Per i modelli più avanzati, Marcus condivide l’esigenza di test prima del rilascio, richiamata da Demis Hassabis, ma chiede regole e verifiche affidate a soggetti indipendenti.
Il paragone è con la Food and Drug Administration statunitense: non dovrebbero essere le aziende a stabilire da sole le soglie di sicurezza. Nella governance, secondo Marcus, devono entrare scienziati terzi, istituzioni politiche, società civile e imprese, evitando che gli interessi commerciali prevalgano sulla valutazione dei rischi.
Il nodo dei conflitti d’interesse
Marcus estende la critica alla condotta delle grandi aziende tecnologiche. Contesta l’impiego di opere di artisti e scrittori nei sistemi generativi e ritiene che imprese con capitalizzazioni molto elevate avrebbero potuto adottare un approccio più equo verso il copyright.
Il ricercatore è particolarmente severo con Sam Altman e OpenAI. Dopo aver testimoniato accanto ad Altman al Senato degli Stati Uniti nel maggio 2023, sostiene di non ritenerlo affidabile e contesta alcune sue posizioni sulla regolamentazione e sulla partecipazione economica nella società.
Su Dario Amodei di Anthropic, Marcus esprime un giudizio relativamente meno duro, pur accusandolo di contribuire al clamore sulle capacità dei sistemi. Critica inoltre l’ipotesi di una quota pubblica in OpenAI: a suo avviso aggraverebbe il conflitto tra investimento, controllo e tutela della sicurezza.
La conseguenza futura, nella sua lettura, è chiara: senza supervisione autonoma, le decisioni sui modelli più rischiosi potrebbero restare nelle mani di soggetti interessati a distribuirli e monetizzarli.
FAQ
Chi è Gary Marcus?
Sì. È uno scienziato cognitivo, professore emerito alla New York University e fondatore di una società acquisita da Uber nel 2016.
Perché Marcus critica i chatbot?
Sì. Li considera predittori statistici privi di reale comprensione del mondo, quindi soggetti ad allucinazioni e non sufficientemente affidabili.
Quale alternativa propone Marcus?
Sì. Propone sistemi ibridi che uniscano reti neurali e logica formale, così da integrare modelli strutturati del contesto e dei fatti.
Come dovrebbero essere controllati i modelli?
Sì. Marcus chiede test prima del rilascio e supervisione indipendente, con scienziati terzi, politica, società civile e aziende coinvolte.
Da quali fonti deriva questa analisi?
Sì. Il contenuto nasce da un’analisi approfondita e da verifica incrociata della nostra Redazione su numerose fonti, tra cui la Repubblica.
