La notizia in sintesi
- Adversa AI ha individuato un attacco contro il riassunto web di Grok.
- Le istruzioni cifrate possono estrarre dati di sessione e cronologia delle chat.
- xAI ha ricevuto la segnalazione, ma non risulta una correzione disponibile.
- Non esistono impostazioni utente per bloccare il rischio sulla chat web.
Riassunto generato con AI
Istruzioni cifrate aggirano Grok
Adversa AI ha descritto una vulnerabilità che coinvolge Grok, il chatbot di xAI, nella chat web di grok.com: una pagina controllata da un attaccante può indurre il modello a eseguire istruzioni cifrate durante la generazione del proprio riassunto. La tecnica, chiamata Cryptographic Context Injection, è stata segnalata a xAI il 3 giugno 2026 ed è stata riprodotta fino al 19 agosto su Grok 4.5 Fast. Il rischio riguarda gli utenti che chiedono al sistema di sintetizzare contenuti web non fidati, perché le istruzioni nascoste possono puntare a sottrarre nome, posizione e cronologia delle conversazioni.
Secondo i ricercatori, il meccanismo supera i controlli tradizionali di prompt injection indiretta: invece di presentare comandi leggibili, incorpora testo cifrato, chiave e istruzioni per la decifrazione. Grok tratta poi il risultato come un output interno affidabile e può inviare le informazioni raccolte verso un server controllato dall’attaccante. Non risultano sfruttamenti reali pubblici, né un CVE o un rimedio attivabile lato utente.
Come funziona il riciclaggio della fiducia
La ricostruzione tecnica di Adversa AI indica l’impiego di AES-256-GCM con chiave derivata tramite PBKDF2. I filtri vedrebbero quindi un blocco opaco e un’istruzione apparentemente legittima, senza eseguire la decifrazione necessaria per analizzarne il contenuto reale. Il modello, invece, può usare il proprio runtime Python per decifrare il carico e trattarne l’esito come dato generato internamente.
Le innovazioni piu' interessanti di tecnologia e scienza, dritte nella tua inbox.
È questo passaggio a rendere l’attacco distinto dalle semplici codifiche: la crittografia forte sposta il contenuto malevolo dentro il canale di esecuzione del modello. Adversa AI paragona il difetto a una SQL injection, dove dati esterni e istruzioni fidate transitano nello stesso canale senza una separazione efficace della provenienza. La società sostiene che, nel percorso osservato, non siano emersi consenso dell’utente, limiti efficaci sulle richieste in uscita o confini chiari per i dati di sessione.
La ricerca cita anche prove contro Google Gemini, con risultati però diminuiti durante l’estate dopo il rafforzamento delle protezioni. La parte su Gemini era stata descritta da Utevsky a marzo; Rehberger aveva già mostrato dal 2023 l’esfiltrazione tramite richieste esterne dell’interprete di codice. Nel caso di Grok, la novità è l’uso della decifratura come passaggio che può trasformare un input esterno in un’istruzione apparentemente affidabile.
La sicurezza dipende dall’architettura
Il caso sposta l’attenzione dai soli filtri del modello all’architettura degli agenti AI, soprattutto quando possono navigare, eseguire codice o inviare dati fuori dal servizio. Adversa AI propone di isolare i contenuti non fidati, separare gli output degli strumenti dal canale delle istruzioni e richiedere conferme per azioni esterne o irreversibili.
Per gli utenti, tuttavia, non risulta al momento un controllo da attivare sulla chat web di Grok. La conseguenza più immediata è una maggiore prudenza nel sottoporre al chatbot pagine sconosciute da riassumere, finché xAI non comunicherà una mitigazione verificabile.
FAQ
Cos’è Cryptographic Context Injection?
Sì: è una tecnica che nasconde istruzioni attaccanti in testo cifrato, insieme ai dati necessari per decifrarlo durante l’elaborazione del modello.
Quali dati può esporre Grok?
Sì: la dimostrazione cita nome, posizione e cronologia delle chat, assemblati come falsa chiave e inviati a un server esterno.
Quale versione di Grok è coinvolta?
Sì: la ricerca indica la chat web grok.com su Grok 4.5 Fast, con ultima riproduzione riportata il 19 agosto.
xAI ha pubblicato una correzione?
No: xAI avrebbe confermato la ricezione della segnalazione, ma non risultano patch, avvisi pubblici o tempi di mitigazione comunicati.
Come è stata verificata questa notizia?
Sì: nasce da analisi approfondita e verifica incrociata della nostra Redazione su più fonti: Hardware Upgrade e punto-informatico.it.
Non perdere gli errori di prezzo clamorosi su Amazon!
Iscriviti al canale Telegram e ricevili in tempo reale
Guide agli acquisti su Amazon
