Grok nel mirino: deepfake sessuali scatenano bufera e indagini, rischio per privacy e reputazione

Indice dei Contenuti:

Indagini e misure dei regolatori

Ofcom, autorità di regolazione media del Regno Unito, ha aperto un’indagine formale su X per verificare violazioni dell’Online Safety Act legate alla circolazione di deepfake sessuali generati con Grok. Il perimetro d’inchiesta riguarda la tutela dei minori e la responsabilità della piattaforma nell’ospitare contenuti potenzialmente illegali.

La Procura di Parigi ha avviato accertamenti autonomi su contenuti osceni connessi all’uso del modello di xAI, mentre in India il Ministero dell’Informatica ha notificato a X una lettera formale contestando l’incentivo alla diffusione di materiali indecorosi. Parallelamente, il Garante Privacy italiano ha emesso un provvedimento di avvertimento contro Grok e app analoghe, richiamando i rischi di “gravi violazioni dei diritti e delle libertà fondamentali”.

Sul piano probatorio, dati citati da CNN indicano almeno 6.700 immagini a sfondo sessuale generate tra il 5 e il 6 gennaio; la no-profit AI Forensics ha rintracciato circa 800 contenuti, alcuni definiti “professionali” e “fotorealistici”. Le autorità europee hanno avvertito che, in assenza di interventi efficaci della piattaforma, procederanno con azioni di enforcement.

Nel frattempo, in Malesia e Indonesia i regolatori hanno imposto il blocco della piattaforma, misura eccezionale motivata dal rischio di amplificazione di deepfake a carattere sessuale. Le contromisure mirano a contenere la generazione e la diffusione di materiali illegali e a fissare standard di conformità per sistemi di IA integrati nei social.

Reazioni internazionali e blocchi della piattaforma

Le risposte dei governi si sono fatte immediate: in Malesia e Indonesia l’accesso a X è stato bloccato per arginare la circolazione di deepfake sessuali legati a Grok. La misura, presentata come tutela dell’ordine pubblico digitale, punta a interrompere la generazione e la distribuzione di contenuti potenzialmente illegali.

In India, il Ministero dell’Informatica ha formalizzato una contestazione a X per l’asserito incentivo a materiale osceno, mentre la Procura di Parigi ha aperto fascicoli su possibili violazioni penali. La pressione regolatoria si coordina con gli avvertimenti del Garante Privacy italiano a Grok e ad app similari, richiamando i rischi per i diritti fondamentali.

A livello europeo, la posizione è netta: “se la piattaforma non agirà, interverremo noi”, con un richiamo diretto al rispetto dell’Online Safety Act britannico e dei principi UE sulla sicurezza online. Il portavoce della Commissione europea ha definito “pericolosa assurdità” equiparare libertà di espressione e strumenti di IA che generano materiale pedopornografico.

I dati raccolti da CNN e AI Forensics hanno alimentato le decisioni: migliaia di immagini sessuali in poche ore, centinaia catalogate come “professionali” e “fotorealistiche”. Gli esecutivi valutano ulteriori restrizioni qualora le misure interne di X risultino inefficaci nel contenimento dei contenuti illeciti.

Risposte di x e pressioni dell’ue

X ha limitato la modifica delle immagini con Grok agli utenti abbonati, presentando la stretta come misura di contenimento degli abusi. La scelta non convince le istituzioni, che la ritengono insufficiente sul piano della prevenzione e del contrasto ai contenuti illegali generati dall’IA.

La Commissione europea ha ribadito che la limitazione agli abbonati non attenua la responsabilità della piattaforma: “a pagamento o gratuita, la circolazione di immagini di questo tipo resta inaccettabile”. Il portavoce ha definito “pericolosa assurdità” accostare la libertà di espressione a strumenti che producono materiale pedopornografico, richiamando possibili azioni di enforcement.

Un portavoce del governo del Regno Unito ha criticato la mossa come trasformazione in servizio premium della possibilità di creare immagini illegali, giudicandola un insulto alle vittime di misoginia e violenza sessuale. In parallelo, Elon Musk ha annunciato l’intenzione di rendere trasparente l’algoritmo di raccomandazione di X, a circa un anno dalle richieste dell’UE, senza però dettagliare tempistiche e portata della disclosure.

FAQ

• Quali limiti ha introdotto X su Grok?
  Ha ristretto la modifica delle immagini agli utenti paganti.
• Perché l’UE critica la misura?
  Perché non riduce la diffusione di contenuti illegali e non esonera la piattaforma da responsabilità.
• Cosa ha detto il governo del Regno Unito?
  Che la stretta rende “premium” la creazione di immagini illegali, offensiva per le vittime.
• Elon Musk cosa ha annunciato?
  L’intenzione di rendere più trasparente l’algoritmo di raccomandazione di X.
• Le pressioni europee prevedono sanzioni?
  Sì, sono possibili azioni di enforcement se le misure risultano inadeguate.
• La limitazione agli abbonati riduce i rischi?
  Secondo le autorità, no: l’impatto è considerato insufficiente.
• Qual è una fonte giornalistica citata?
  CNN ha riportato i volumi di immagini generate in pochi giorni.