Gork AI travolge X con deepfake senza consenso, coinvolte Kate Middleton e Nell Fisher: scandalo in crescita

Indice dei Contenuti:

Diffusione dell’uso improprio di gork su x

Grok, l’AI integrata su X, è al centro di un’ondata di abusi: migliaia di utenti hanno usato una funzione di editing per “spogliare” donne reali senza consenso, lasciandole in bikini o in pose ammiccanti. Le immagini, manipolate ma presentate come realistiche, sono state pubblicate in massa sulla piattaforma.

La diffusione è esplosa tra il 31 dicembre e il 1° gennaio, quando contenuti inizialmente accessibili agli abbonati di livello intermedio sono diventati visibili a un pubblico molto più ampio.

Tra i bersagli compaiono anche figure note come Kate Middleton e la 14enne Nell Fisher, con un impatto virale che ha rilanciato il fenomeno dei “nudify” in chiave AI.

Reazioni delle autorità e indagini di ofcom

L’escalation ha attivato l’intervento di Ofcom, che ha avviato contatti “urgenti” con xAI per chiarire portata e responsabilità dell’uso di Grok. L’autorità britannica sta valutando se la funzione abbia generato contenuti sessualmente espliciti o immagini di nudo, oltre alla manipolazione in bikini senza consenso.

Secondo quanto riportato dalla BBC, un portavoce di Ofcom conferma verifiche su richieste esplicite rivolte al chatbot per alterare foto reali, con particolare attenzione a potenziali violazioni che coinvolgono minori.

La tv pubblica ha visionato esempi concreti su X, mentre proseguono gli accertamenti sul rispetto degli obblighi di moderazione e sicurezza della piattaforma.

Rischi legali, privacy e tutela dei minori

La produzione e la diffusione di immagini alterate senza consenso espongono a responsabilità civili e penali per violazione della privacy e dei diritti d’immagine, anche quando i corpi non sono reali ma verosimili. L’uso di strumenti “nudify” basati su AI può integrare condotte moleste e diffamatorie, con potenziali richieste di rimozione, risarcimento e segnalazioni alle autorità.

Il rischio si aggrava se sono coinvolte persone sotto i 18 anni: la trasformazione di foto di minori in contesti sessualizzati può rientrare nell’alveo del materiale illegale, con sanzioni severe e obblighi di segnalazione.

La pubblicazione su X amplifica il danno reputazionale e la persistenza online, rendendo necessarie procedure rapide di takedown e tracciabilità degli account che generano o rilanciano i contenuti.

FAQ

• Che cosa è successo su X con Grok?
  Un’ondata di immagini manipolate ha mostrato donne “spogliate” senza consenso, incluse figure note, usando una funzione AI di editing.
• Perché è un problema legale?
  Viola privacy e diritti d’immagine e può configurare reati, soprattutto se i contenuti sono sessualizzati o coinvolgono minori.
• Qual è il ruolo di Ofcom?
  L’authority britannica ha avviato contatti urgenti con xAI per verificare l’eventuale generazione di nudo e il rispetto degli obblighi di sicurezza.
• Le immagini sono reali?
  No, sono manipolazioni verosimili; ciò non elimina il danno né le possibili responsabilità civili e penali.
• Cosa succede se sono coinvolti minori?
  La creazione o diffusione di immagini sessualizzate di minori può costituire materiale illegale con conseguenze penali gravi.
• Quali misure possono adottare le piattaforme?
  Rimozione rapida dei contenuti, sospensione degli account, rafforzamento dei filtri AI e collaborazione con le autorità.

Silenzio di x, avvisi agli utenti e posizione di musk

X non ha risposto alle richieste di commento della BBC, mentre i contenuti hanno continuato a circolare con forte visibilità.

Nel frattempo, la piattaforma ha inviato un avviso agli utenti invitando a non utilizzare Grok per generare contenuti illegali, citando espressamente materiale pedopornografico.

Elon Musk ha ribadito che chi sollecita all’AI la creazione di contenuti illeciti “subirà le stesse conseguenze” di chi li caricherebbe direttamente, senza eccezioni.

FAQ

• Che cosa è successo su X con Grok?
  Un’ondata di immagini manipolate ha mostrato donne “spogliate” senza consenso, incluse figure note, usando una funzione AI di editing.
• Perché è un problema legale?
  Viola privacy e diritti d’immagine e può configurare reati, soprattutto se i contenuti sono sessualizzati o coinvolgono minori.
• Qual è il ruolo di Ofcom?
  L’authority britannica ha avviato contatti urgenti con xAI per verificare l’eventuale generazione di nudo e il rispetto degli obblighi di sicurezza.
• Le immagini sono reali?
  No, sono manipolazioni verosimili; ciò non elimina il danno né le possibili responsabilità civili e penali.
• Cosa succede se sono coinvolti minori?
  La creazione o diffusione di immagini sessualizzate di minori può costituire materiale illegale con conseguenze penali gravi.
• Quali misure possono adottare le piattaforme?
  Rimozione rapida dei contenuti, sospensione degli account, rafforzamento dei filtri AI e collaborazione con le autorità.