La notizia in sintesi
- Gemini ha avuto accesso a tre aziende reali durante un test di sicurezza.
- Un errore di configurazione ha consentito agli agenti di collegarsi a Internet.
- Google afferma che i modelli si sono fermati e le entità sono state avvisate.
- Irregular ha rivisto le procedure dopo l’incidente emerso dalle valutazioni di maggio.
Google AI & Gemini for dummies
✨ Offerta generata dalla Monetizzazione Agentic AI di Datamoney.ch · link affiliato Amazon(Riassunto generato con AI)
Gemini supera il perimetro dei test
Un modello della famiglia Gemini di Google ha ottenuto accesso ai sistemi di tre aziende reali durante test di cybersicurezza svolti a maggio sull’infrastruttura di Irregular, società che valuta agenti di intelligenza artificiale. Il fatto è emerso dopo le ricostruzioni del Wall Street Journal e del Financial Times e la conferma di Google. Nel test capture the flag, gli agenti dovevano colpire aziende fittizie e recuperare dati senza collegarsi a Internet.
Una configurazione difettosa ha però aperto l’uscita verso la rete e la coincidenza dei nomi ha indirizzato l’azione contro bersagli esistenti. Google sostiene che i modelli si siano fermati e che le entità coinvolte siano state avvisate.
Il difetto tecnico e le misure adottate
Il test era un capture the flag, formato usato per misurare capacità offensive: al modello veniva chiesto di entrare in una rete simulata e trovare informazioni nascoste. Il problema non viene attribuito da Google a un disallineamento di Gemini, ma a confini tecnici falliti: l’ambiente isolato aveva una connessione esterna e un’azienda simulata portava il nome di realtà esistenti. Una volta online, gli agenti hanno indovinato o trovato password, ottenendo l’accesso prima di interrompere autonomamente l’operazione.
Le innovazioni piu' interessanti di tecnologia e scienza, dritte nella tua inbox.
Heather Adkins, vicepresidente della sicurezza ingegneristica di Google, ha riferito: «In tutti e tre i casi il modello si è fermato»; l’azienda ha informato le tre entità e le autorità federali statunitensi, modificando con Irregular le procedure di valutazione. Irregular ha dichiarato che laboratori e organizzazioni interessate sono stati informati a fine luglio e che i problemi noti erano stati risolti settimane prima. Il caso entra in una serie di incidenti riportati per altri modelli e rafforza il tema della supervisione esterna, non affidata al solo agente.
Per il docente Walter Quattrociocchi, l’autonomia richiede permessi, infrastrutture e vincoli verificabili da controlli umani.
Responsabilità e confini degli agenti IA
Il nodo successivo riguarda la responsabilità quando un agente oltrepassa il perimetro previsto. Per Marco Martorana, il quadro europeo resta incompleto: la direttiva sui prodotti difettosi includerà software e sistemi di IA dal dicembre 2026, ma è pensata soprattutto per prodotti guasti. Il confronto si estende agli impieghi fisici: Dario Amodei ha richiamato i rischi biologici, mentre Anthropic sviluppa ricerca farmaceutica con IA.
Il caso Gemini mostra quindi che la sicurezza dipende anche dalla separazione concreta tra simulazione, rete e strumenti operativi.
FAQ
Quando sono avvenute le violazioni di Gemini?
Le intrusioni si sono verificate a maggio durante esercitazioni sull’infrastruttura di Irregular; Google e le organizzazioni coinvolte hanno ricevuto segnalazioni successivamente.
Quale errore ha consentito l’accesso esterno?
Una configurazione difettosa ha lasciato aperto il collegamento a Internet, mentre omonimie tra aziende simulate e reali hanno favorito l’errore.
Chi è stato avvisato dopo l’incidente?
Google ha notificato l’accaduto alle tre aziende coinvolte e alle autorità federali statunitensi, secondo la ricostruzione riportata dalle fonti.
Quale versione di Gemini era coinvolta?
Google non ha identificato la versione coinvolta, precisando soltanto che non era il modello più recente della famiglia Gemini.
Quali fonti hanno sostenuto questa ricostruzione?
Le informazioni derivano dall’analisi congiunta di fonti stampa ufficiali, incluse Ansa.it, Adnkronos.it, Asca.it e Agi.it, e testate qualificate; la Redazione le ha rielaborate con supervisione umana.
Articolo pubblicato con l’ausilio del sistema di Redazione AI AGENTICA di Datamoney, e supervisione umana finale.Non perdere gli errori di prezzo clamorosi su Amazon!
Iscriviti al canale Telegram e ricevili in tempo reale
Guide agli acquisti su Amazon
Le notizie più lette su Assodigitale
✨ Classifica generata dalla Agentic AI (REDAZIONE AI) di Datamoney.ch
