La notizia in sintesi
- MIT CSAIL sviluppa RLCR per rendere più affidabili le stime di confidenza dell’AI.
- Il metodo riduce l’errore di calibrazione fino al 90% senza sacrificare l’accuratezza.
- La tecnica penalizza risposte sicure ma errate e incertezze ingiustificate.
- Possibili applicazioni riguardano medicina, finanza, diritto e decisioni ad alto impatto.
(Riassunto generato con AI)
MIT migliora la capacità dell’AI di riconoscere l’incertezza
Massachusetts Institute of Technology, attraverso il Computer Science and Artificial Intelligence Laboratory (MIT CSAIL), ha presentato un metodo per insegnare ai modelli linguistici a dichiarare in modo più realistico quanto sono sicuri delle proprie risposte. La ricerca, pubblicata il 22 aprile 2026 e firmata anche da Mehul Damani e Isha Puri, affronta un limite centrale dei sistemi di intelligenza artificiale: l’eccesso di sicurezza anche quando la risposta deriva da un’incertezza effettiva.
La tecnica, denominata RLCR, acronimo di Reinforcement Learning with Calibration Rewards, combina la produzione della risposta con una stima esplicita della confidenza. L’obiettivo è ridurre il rischio che gli utenti interpretino come affidabile un risultato che il modello non è realmente in grado di sostenere.
Nei test descritti dal MIT, RLCR ha ridotto l’errore di calibrazione fino al 90%, mantenendo o migliorando l’accuratezza sia sui compiti di addestramento sia su dati nuovi. Il lavoro sarà presentato alla International Conference on Learning Representations.
Perché l’addestramento tradizionale favorisce risposte troppo sicure
Secondo i ricercatori del MIT, il problema nasce dal funzionamento dei tradizionali sistemi di reinforcement learning, usati anche in modelli di ragionamento come OpenAI o1. Questi meccanismi premiano una risposta corretta e penalizzano quella errata, senza distinguere tra una soluzione ottenuta con ragionamento solido e un’intuizione casualmente esatta.
“Lo standard di addestramento è semplice e potente, ma non dà al modello alcun incentivo a esprimere incertezza o a dire ‘non lo so’”, ha spiegato Mehul Damani, dottorando MIT e coautore principale dello studio. “Di conseguenza, il modello impara naturalmente a indovinare quando non è sicuro.”
RLCR aggiunge alla funzione di ricompensa il Brier score, una misura che valuta la distanza tra fiducia dichiarata e accuratezza reale. Le risposte molto sicure ma sbagliate vengono quindi penalizzate, così come le risposte corrette accompagnate da prudenza eccessiva.
Il gruppo ha sperimentato il sistema su un modello da 7 miliardi di parametri, usando benchmark di domande-risposte e matematica, compresi sei dataset mai visti durante l’addestramento. Il risultato rilevato è netto: l’addestramento RL standard peggiora la capacità del modello di stimare la propria incertezza, mentre RLCR ribalta questa tendenza senza perdite di accuratezza.
“L’aspetto più sorprendente è che il normale addestramento RL non si limita a non aiutare la calibrazione: la danneggia attivamente”, ha osservato Isha Puri. “I modelli diventano più capaci e più eccessivamente sicuri allo stesso tempo.”
Lo studio è stato realizzato con Stewart Slocum, Idan Shenfeld, Leshem Choshen e i senior author Jacob Andreas e Yoon Kim. La notizia è stata curata per MIT News da Rachel Gordon; l’immagine di accompagnamento è attribuita a Alex Shipps per MIT CSAIL.
Una confidenza calibrata può cambiare l’uso pratico dei modelli
La conseguenza più rilevante riguarda i contesti nei quali un output dell’AI orienta decisioni concrete. In medicina, diritto e finanza, una stima di confidenza non attendibile può indurre a non cercare una seconda valutazione quando sarebbe necessaria.
I ricercatori hanno inoltre verificato che, generando più risposte, selezionare quella con la maggiore confidenza dichiarata o pesare i voti in base alla confidenza migliora accuratezza e calibrazione all’aumentare della capacità di calcolo.
L’incertezza esplicitata dal modello, quindi, non appare un semplice elemento stilistico: contiene informazioni utili anche per classificatori successivi, soprattutto nei modelli più piccoli.
FAQ
Che cos’è il metodo RLCR del MIT?
Sì, RLCR è un metodo di addestramento che richiede al modello una risposta e una stima della propria confidenza.
Quanto migliora la calibrazione dei modelli?
Sì, nei benchmark riportati dal MIT il metodo ha ridotto l’errore di calibrazione fino al 90%.
RLCR riduce l’accuratezza delle risposte?
No, i test indicano che RLCR mantiene o migliora l’accuratezza sui compiti noti e su quelli nuovi.
Per quali settori è utile una confidenza affidabile?
Sì, il MIT indica medicina, diritto, finanza e altri ambiti in cui gli utenti decidono sulla base degli output AI.
Come è stata verificata questa analisi?
Sì, il contenuto nasce da un’analisi approfondita e da una verifica incrociata condotta dalla nostra Redazione su numerose fonti, tra cui MIT News | Massachusetts Institute of Technology.
