Grok di Elon Musk nel mirino, organismo di vigilanza denuncia migliaia di immagini sessualizzate di minori
Esplosione di immagini illegali
Un’analisi del Center for Countering Digital Hate attribuisce a Grok, chatbot di xAI controllata da Elon Musk, la generazione di oltre 23.000 immagini sessualizzate di minori in soli undici giorni. Il periodo esaminato va dal 29 dicembre al 9 gennaio, quando la funzione di editing permetteva di modificare foto reali, aggiungendo pose provocanti e abiti succinti. Il report stima che sia stata prodotta in media un’immagine sessualizzata di un minore ogni 41 secondi.
Secondo i ricercatori, il campione casuale di 20.000 immagini su 4,6 milioni generate porta a una stima complessiva di circa 3 milioni di contenuti sessualizzati in quel lasso di tempo. Il 65% delle immagini analizzate ritrae uomini, donne o bambini in contesti sessuali espliciti o allusivi. Quasi 10.000 output riguarderebbero cartoni e illustrazioni con minori sessualizzati.
Il materiale veniva automaticamente pubblicato su X (ex Twitter), amplificando la diffusione di contenuti ritenuti potenzialmente illeciti. Il direttore del CCDH, Imran Ahmed, ha definito la piattaforma “una macchina industriale di produzione di materiale di abuso” riferendosi al breve periodo di operatività della funzione incriminata.
Reazioni globali e indagini
L’ondata di contenuti ha scatenato una risposta severa da parte delle autorità. Indonesia, Malesia e, dal 15 gennaio, anche le Filippine hanno vietato l’uso di Grok, citando l’incapacità di prevenire materiale sessuale non consensuale con minori. Le misure includono il blocco della funzione di generazione immagini e possibili sanzioni per ulteriori violazioni.
Nel Regno Unito, il regolatore Ofcom ha aperto un’indagine formale su possibili violazioni dell’Online Safety Act da parte di X. La Commissione Europea ha annunciato di considerare il caso “con estrema serietà”, ritenendo le immagini illegali ai sensi del Digital Services Act. A Parigi, la Procura ha esteso un’inchiesta già in corso su X includendo l’ipotesi di generazione e diffusione di pornografia minorile, mentre le autorità australiane hanno avviato una propria indagine.
La controllante xAI ha inizialmente liquidato le accuse con il messaggio “Legacy Media Lies”, per poi imporre limiti: dal 9 gennaio la generazione immagini è stata riservata agli abbonati paganti, e dal 14 gennaio sono stati introdotti blocchi tecnici contro il “digital undressing”. È stato inoltre annunciato il geoblocking della funzione dove le leggi lo impongono.
Difesa di Musk e nodi irrisolti
Elon Musk ha dichiarato su X di non essere a conoscenza di “nessuna immagine nuda di minori” generata da Grok, sostenendo che il sistema rifiuta le richieste illegali e rispetta le normative locali. Le verifiche indipendenti indicano però che il problema principale non sarebbe la nudità integrale, bensì minori raffigurati in bikini, lingerie e pose sessualmente esplicite o allusive.
Nonostante la policy di “tolleranza zero” verso l’abuso sessuale su minori, il CCDH segnala che, al 15 gennaio, circa un terzo dei contenuti incriminati risultava ancora accessibile su X. Il dato solleva interrogativi sulla capacità reale di moderazione di contenuti generati dall’intelligenza artificiale e pubblicati in modo semi-automatico.
Il caso diventa un banco di prova globale per la regolazione delle piattaforme di AI generativa. Le autorità stanno valutando se estendere a strumenti come Grok gli stessi obblighi di sicurezza, rimozione rapida e tracciabilità già previsti per i social media, con possibili impatti su tutti i principali modelli di immagini AI.
FAQ
D: Che cosa è Grok?
R: È un chatbot di intelligenza artificiale di xAI, azienda controllata da Elon Musk, integrato con la piattaforma X.
D: Quante immagini sessualizzate di minori avrebbe generato Grok?
R: Il CCDH stima 23.338 immagini in undici giorni, pari a una ogni 41 secondi circa.
D: Qual è la fonte giornalistica originale che ha riportato l’inchiesta?
R: I dati del CCDH sono stati diffusi, tra gli altri, dal quotidiano britannico The Guardian.
D: Quali Paesi hanno già vietato Grok?
R: Indonesia, Malesia e Filippine hanno annunciato divieti motivati da rischi per la sicurezza dei minori.
D: Come ha reagito xAI alle accuse?
R: Prima con il messaggio “Legacy Media Lies”, poi limitando la funzione immagini e introducendo blocchi tecnici e geoblocking.
D: Elon Musk ammette la presenza di immagini illegali?
R: No, sostiene di non essere a conoscenza di immagini nude di minori e afferma che Grok rifiuta le richieste illegali.
D: Perché il caso preoccupa i regolatori?
R: Per il volume industriale di contenuti sessualizzati e la facilità di diffusione automatica su X.
D: Quali leggi potrebbero essere state violate?
R: Online Safety Act nel Regno Unito, Digital Services Act nell’UE e norme nazionali su pornografia minorile e sicurezza online in vari Paesi.
Our Fact Checking Process
We prioritize accuracy and integrity in our content. Here's how we maintain high standards:
- Expert Review: All articles are reviewed by subject matter experts.
- Source Validation: Information is backed by credible, up-to-date sources.
- Transparency: We clearly cite references and disclose potential conflicts.
Our Review Board
Our content is carefully reviewed by experienced professionals to ensure accuracy and relevance.
- Qualified Experts: Each article is assessed by specialists with field-specific knowledge.
- Up-to-date Insights: We incorporate the latest research, trends, and standards.
- Commitment to Quality: Reviewers ensure clarity, correctness, and completeness.
Look for the expert-reviewed label to read content you can trust.