La notizia in sintesi
- Meta ha rimosso annunci di Kromix dopo le domande di WIRED.
- Le inserzioni mostravano contenuti pornografici generati dall’intelligenza artificiale.
- Apple ha eliminato l’app dall’App Store dopo il contatto di WIRED.
- Il caso riaccende l’allarme sui deepfake sessuali contro donne impegnate in politica.
Riassunto generato con AI
Meta rimuove gli annunci di Kromix
Meta ha ospitato fino a metà agosto pubblicità di Kromix, applicazione di ritocco immagini basata sull’intelligenza artificiale, che prometteva contenuti pornografici generati con volti di persone reali. Le inserzioni, diffuse su Facebook e Instagram, sono state rimosse nelle ultime settimane dopo le richieste di chiarimento di WIRED, mentre Apple ha successivamente eliminato l’app dal proprio App Store.
Il caso riguarda annunci rivolti esclusivamente a utenti uomini e mostra come strumenti presentati come semplici servizi di fotoritocco possano essere impiegati per creare deepfake sessuali. Una delle pubblicità mostrava una donna con tratti simili a quelli di una personalità politica statunitense, prima in un contesto istituzionale e poi in una scena pornografica artificiale.
La rimozione è rilevante perché le politiche pubblicitarie di Meta vietano inserzioni a sfondo sessuale. Eppure, secondo quanto ricostruito da WIRED, gli annunci erano stati pubblicati sulle piattaforme nonostante contenessero nudità e pornografia generate dall’AI.
Le innovazioni piu' interessanti di tecnologia e scienza, dritte nella tua inbox.
La campagna e i controlli delle piattaforme
La campagna è stata individuata da Katie Paul, direttrice del Tech Transparency Project. Lo slogan, “Liberate la magia dell’AI di nuova generazione”, accompagnava una promessa esplicita: il servizio sarebbe stato privo di restrizioni e avrebbe utilizzato personaggi identificati come persone reali.
Grazie al database pubblicitario di Meta, WIRED ha rilevato 32 inserzioni associate all’account, in prevalenza con dieci impressioni o meno. La pagina collegata alla campagna era stata creata poco prima dell’avvio della pubblicità, un elemento che evidenzia la rapidità con cui questi contenuti possono entrare nei circuiti promozionali.
Meta afferma di sottoporre ogni annuncio a controlli automatici prima della pubblicazione. Tuttavia, Katie Paul ha sostenuto che tutte le inserzioni esaminate mostravano donne nude in scene pornografiche create dall’intelligenza artificiale.
Dopo le domande di WIRED, gli annunci sono scomparsi, senza risposte dal contatto indicato nell’applicazione. Il caso è stato riportato da Tiziana Foglio e si inserisce in un contesto più ampio di verifica sulla moderazione di app e pubblicità digitali.
In primavera, il Tech Transparency Project ha analizzato 38 app disponibili su App Store e Google Play per creare o modificare immagini sessuali. Le applicazioni avevano raggiunto 483 milioni di download e circa 106 milioni di euro di ricavi; 31 risultavano accessibili anche ai minori.
Secondo il rapporto, i due store ne aumentavano la visibilità nei risultati di ricerca e negli spazi pubblicitari. Apple, secondo 9to5mac, ha rimosso Kromix dopo il contatto di WIRED, spiegando che i contenuti contestati sarebbero stati aggiunti dopo l’esame iniziale dell’app.
Deepfake sessuali, un rischio sempre più accessibile
La vicenda segnala una conseguenza concreta della diffusione degli strumenti generativi: donne impegnate in politica restano fra i bersagli principali dei deepfake sessuali. Benjamin Shultz, ricercatore principale dell’American Sunlight Project, osserva che ritratti ufficiali e video di conferenze stampa possono diventare materiale di partenza per contenuti falsi.
Con strumenti sempre più semplici, la produzione di questi materiali non richiede necessariamente competenze tecniche avanzate. La rimozione degli annunci e dell’app non elimina quindi il problema: evidenzia piuttosto la necessità di controlli efficaci prima della diffusione commerciale.
FAQ
Perché Meta ha rimosso gli annunci di Kromix?
Sì, gli annunci sono scomparsi dopo le domande di WIRED; mostravano pornografia generata dall’AI, vietata dalle politiche pubblicitarie di Meta.
Quante pubblicità di Kromix sono state individuate?
Sì, il database pubblicitario di Meta ha consentito a WIRED di risalire a 32 inserzioni associate all’account della campagna.
Kromix è ancora disponibile sull’App Store?
No, Apple ha rimosso Kromix dall’App Store dopo essere stata contattata da WIRED, secondo 9to5mac.
Quante app sessuali erano accessibili ai minori?
Sì, 31 delle 38 applicazioni analizzate dal Tech Transparency Project risultavano accessibili ai minori su App Store e Google Play.
Come è stata verificata questa ricostruzione?
Sì, il contenuto nasce da un’analisi approfondita e da una verifica incrociata condotta dalla nostra Redazione su numerose fonti, tra cui punto-informatico.it.
Non perdere gli errori di prezzo clamorosi su Amazon!
Iscriviti al canale Telegram e ricevili in tempo reale
Guide agli acquisti su Amazon
