La notizia in sintesi
- Apple ha rimosso Kromix dall’App Store dopo un’inchiesta sulle sue funzioni.
- L’app veniva promossa come editor fotografico, ma gli annunci mostravano deepfake sessuali.
- Meta ha chiuso una campagna di 32 inserzioni rivolta esclusivamente a uomini.
- Il caso riaccende l’attenzione sui controlli dopo l’approvazione delle app.
Riassunto generato con AI
Apple rimuove Kromix dopo gli annunci sui deepfake
Apple ha eliminato Kromix dall’App Store nelle ultime ore, dopo che un’inchiesta di WIRED ha evidenziato funzioni capaci di trasformare immagini di persone reali in contenuti sessuali generati dall’intelligenza artificiale. L’app, distribuita sullo store ufficiale di Apple, si presentava come un “AI image styler”, cioè uno strumento per modificare fotografie con filtri creativi.
La rimozione riguarda un’applicazione che, secondo le pubblicità analizzate, andava oltre il ritocco d’immagine: uno spot mostrava una donna somigliante a una nota politica statunitense, prima davanti a bandiere americane e poi in una scena pornografica artificiale. Il motivo dell’intervento è quindi legato alla violazione delle regole contro pornografia e nudification, strumenti che simulano la rimozione degli indumenti senza consenso.
Anche Meta, che ospitava la campagna promozionale, ha rimosso gli annunci dopo essere stata contattata per un commento. Il caso mette al centro il percorso con cui prodotti apparentemente ordinari possono accedere agli store e usare i grandi circuiti pubblicitari per raggiungere pubblici mirati.
Le innovazioni piu' interessanti di tecnologia e scienza, dritte nella tua inbox.
Come funzionava la campagna e perché i controlli sono sotto esame
La campagna di Kromix comprendeva 32 inserzioni rivolte esclusivamente a utenti uomini. In uno degli annunci, il messaggio promozionale descriveva uno strumento “senza restrizioni”, sostenendo che i soggetti fossero persone reali e presentando l’IA come un prodotto destinato a un preciso pubblico maschile.
Il punto più rilevante non è soltanto la rimozione, ma il momento in cui è arrivata. Secondo Apple, le funzionalità vietate sarebbero state introdotte dopo il superamento della revisione iniziale dell’App Store: una modalità che consentirebbe agli sviluppatori di presentare un prodotto diverso da quello poi effettivamente offerto agli utenti.
Apple ha ribadito di vietare rigorosamente le applicazioni progettate per creare, distribuire o consumare pornografia e di intervenire contro app e account che cercano di aggirare i controlli. La società considera incompatibili con le proprie linee guida anche le applicazioni di nudification, capaci di alterare fotografie per simulare corpi nudi.
L’episodio non appare isolato. Il mese precedente, il City Attorney di San Francisco, David Chiu, aveva chiesto formalmente la rimozione di otto app analoghe. Un’altra applicazione, MaskAI, è stata a sua volta rimossa dopo segnalazioni su annunci che permettevano face swap sessuali con fotografie caricate dagli utenti.
Un problema che supera la singola applicazione
Il caso Kromix mostra una criticità ricorrente: la distribuzione ufficiale e la pubblicità mirata possono procedere insieme prima di una verifica esterna. Le rimozioni di Apple e Meta limitano la disponibilità dell’app e dei suoi annunci, ma non risolvono da sole il problema delle funzioni che possono essere attivate dopo l’approvazione iniziale.
La conseguenza più concreta è l’aumento della pressione sui controlli di aggiornamenti, creatività pubblicitarie e account degli sviluppatori. I deepfake sessuali coinvolgono persone reali, spesso donne e figure pubbliche, senza consenso: per questo la trasparenza sulle funzioni effettive delle app resta decisiva.
FAQ
Perché Apple ha rimosso Kromix?
Sì, Apple l’ha rimossa perché le funzioni emerse consentivano manipolazioni sessuali di immagini reali, vietate dalle linee guida dell’App Store.
Che cosa sono le app nudify?
Sì, sono strumenti che modificano fotografie per simulare la rimozione degli indumenti o creare contenuti sessuali artificiali senza il consenso della persona ritratta.
Quanti annunci di Kromix erano attivi su Meta?
Sì, la campagna contava 32 annunci ed era indirizzata esclusivamente a un pubblico maschile, prima della rimozione da parte di Meta.
Kromix aveva superato la revisione dell’App Store?
Sì, secondo Apple l’app avrebbe introdotto le funzionalità proibite solo dopo aver superato il processo iniziale di revisione.
Come è stata verificata questa ricostruzione?
Sì, il contenuto nasce da un’analisi approfondita e verifica incrociata della nostra Redazione su più fonti: Hardware Upgrade e TecnoAndroid.
Non perdere gli errori di prezzo clamorosi su Amazon!
Iscriviti al canale Telegram e ricevili in tempo reale
Guide agli acquisti su Amazon
