La notizia in sintesi
- Demis Hassabis propone controlli preventivi sui modelli AI più avanzati.
- Gli Stati Uniti dovrebbero guidare una nuova authority pubblica-privata.
- I test riguarderebbero cyber-rischi, jailbreak e minacce biologiche.
- La revisione volontaria precederebbe il rilascio pubblico di almeno 30 giorni.
(Riassunto generato con AI)
Hassabis chiede un’autorità globale per l’AI
Demis Hassabis, cofondatore e CEO di Google DeepMind e Isomorphic Labs, propone che gli Stati Uniti promuovano un organismo incaricato di testare i sistemi di intelligenza artificiale più potenti prima della diffusione al pubblico. L’iniziativa, illustrata nelle ultime ore dal responsabile dell’AI di Google, punta a definire standard comuni per i modelli di frontiera mentre cresce l’attenzione su rischi cyber, biologici e di sicurezza nazionale. Per Hassabis, premio Nobel per la Chimica 2024 grazie al lavoro su AlphaFold, un controllo preventivo è necessario perché l’AGI, un’intelligenza artificiale capace di eguagliare o superare l’uomo, potrebbe arrivare nel giro di pochi anni.
Il progetto non riguarda la regolazione dell’AI in senso generico, ma la verifica tecnica dei modelli con capacità considerate più pericolose prima della loro immissione sul mercato. L’obiettivo dichiarato è evitare che le autorità intervengano soltanto dopo un abuso, una vulnerabilità o un rilascio non adeguatamente protetto. La proposta si inserisce nel confronto tra laboratori, governi e comunità scientifica sulla necessità di mantenere l’innovazione accessibile senza rinunciare a soglie di sicurezza verificabili.
Come funzionerebbero test e standard preventivi
L’autorità immaginata da Hassabis potrebbe ispirarsi alla Financial Industry Regulatory Authority, organismo che supervisiona parte del settore finanziario statunitense sotto vigilanza federale. Sarebbe una partnership pubblico-privata guidata dal governo degli Stati Uniti, finanziata in larga parte dall’industria e dotata di risorse sufficienti per attrarre esperti tecnici e capacità di calcolo per test su larga scala. Nel consiglio dovrebbero sedere specialisti indipendenti e rappresentanti della comunità open source, per evitare che i criteri siano stabiliti esclusivamente dalle aziende sviluppatrici.
In una prima fase, i laboratori potrebbero sottoporre volontariamente i modelli alla valutazione fino a 30 giorni prima del rilascio. Dopo una dimostrazione di efficacia, il meccanismo potrebbe diventare obbligatorio per l’accesso al mercato statunitense dei sistemi più avanzati. Le verifiche includerebbero tentativi di aggirare le protezioni, comportamenti ingannevoli, capacità di individuare vulnerabilità informatiche e robustezza contro i jailbreak.
Tra le pratiche indicate figurano anche la filigrana digitale per le immagini generate dall’AI e output leggibili dall’uomo per comprendere il ragionamento del modello. L’autorità dovrebbe inoltre fissare benchmark e soglie per classificare i sistemi di frontiera, in collaborazione con laboratori nazionali e agenzie federali.
La sfida è ottenere adesione internazionale
Il nodo decisivo resta la cooperazione tra i principali sviluppatori, inclusi quelli esteri e open source. Fermare o rallentare un solo operatore avrebbe infatti efficacia limitata se modelli equivalenti continuassero a essere distribuiti altrove. Hassabis ritiene che la leadership statunitense possa offrire un punto di partenza per standard internazionali condivisi, ma il riconoscimento globale dell’organismo e i suoi poteri concreti restano da definire.
La proposta riceve sostegno da Mustafa Suleyman, CEO di Microsoft AI, e si aggiunge agli appelli di Dario Amodei, CEO di Anthropic, e Sam Altman di OpenAI. Il confronto avviene mentre l’amministrazione di Donald Trump valuta controlli sui modelli avanzati.
FAQ
Chi ha proposto la nuova authority AI?
Sì, la proposta è di Demis Hassabis, CEO di Google DeepMind, che chiede test preventivi per i modelli AI di frontiera.
Quando avverrebbero le valutazioni dei modelli?
Sì, i provider dovrebbero sottoporre volontariamente i nuovi modelli almeno 30 giorni prima del rilascio pubblico.
Quali rischi verrebbero controllati?
Sì, i test riguarderebbero soprattutto cybersicurezza, tentativi di bypassare le protezioni, jailbreak e potenziali minacce biologiche o nucleari.
Chi finanzierebbe il nuovo organismo?
Sì, secondo Hassabis il finanziamento arriverebbe probabilmente dall’industria AI, con supervisione federale degli Stati Uniti.
Su quali fonti si basa questa analisi?
Sì, il contenuto nasce da analisi approfondita e verifica incrociata della nostra Redazione su Adnkronos, CNBC, Tom’s Hardware e punto-informatico.it, incluso il contributo di Luca Colantuoni.
