La notizia in sintesi
- Bill Swearingen ha testato un pattern contro una telecamera Flock a Las Vegas.
- Il progetto noRecognition punta a ridurre la confidenza dei sistemi di rilevamento.
- I risultati pubblicati restano in parte digitali e non dimostrano efficacia universale.
- La ricerca riapre il confronto sui limiti della sorveglianza algoritmica.
(Riassunto generato con AI)
Il test di noRecognition a Def Con
Bill Swearingen, professionista della cybersecurity e cofondatore del meetup SecKC di Kansas City, ha mostrato a Def Con come un pattern geometrico ad alto contrasto possa interferire con una telecamera intelligente Flock. L’esperimento si è svolto venerdì 7 agosto a Las Vegas, durante la trentaquattresima edizione della conferenza sulla sicurezza informatica, usando una vecchia Toyota Yaris rivestita con il disegno. Secondo il progetto noRecognition, il veicolo è passato davanti al dispositivo senza generare alcun avviso, pur con la registrazione video conservata dal sistema.
La dimostrazione riguarda il funzionamento dei modelli di visione artificiale: non “guardano” come un operatore umano, ma attribuiscono una probabilità statistica agli elementi presenti nell’immagine. Quando il valore resta sotto una soglia prestabilita, il software non evidenzia il soggetto né invia una segnalazione. Il tema è rilevante perché questi strumenti vengono impiegati per riconoscere persone, veicoli, targhe e volti, rendendo la soglia di confidenza un passaggio decisivo nella catena automatizzata degli avvisi.
Come funziona il camuffamento algoritmico
Un pattern avversariale agisce su contrasti, bordi e trame che la rete neurale ha appreso durante l’addestramento. L’obiettivo non è rendere invisibile una persona o un’automobile, ma far scendere il punteggio di riconoscimento al di sotto del limite operativo. Sul sito del progetto, una persona viene rilevata con confidenza 0,89 indossando una maglietta comune e ignorata con un indumento stampato; nei test citati la soglia è fissata a 0,25.
Swearingen riferisce che il lavoro è durato un anno ed è passato da prove su singoli algoritmi a un sistema di reinforcement learning capace, nelle sue parole, di “dipingere”: a ogni riconoscimento del disegno, il sistema lo modificava e ripeteva il test. La dashboard dichiara 31,7 milioni di prove su undici bersagli, inclusi lettori di targa Flock, bodycam Axon, telecamere che usano Clearview AI e un rilevatore estratto da una telecamera installata realmente.
I dati richiedono tuttavia cautela. Il progetto precisa che i punteggi sono digitali, con stampa e ripresa simulate e accesso completo ai pesi dei modelli. Il miglior risultato indicato è il 61,7% di non rilevamento sul detector estratto dalla telecamera reale, pari a 148 casi su 240; viene riportato anche il 90% su YOLOv5. Non è stato dimostrato un singolo motivo grafico efficace contro tutti gli undici modelli, mentre i log degli avvisi della telecamera Flock non sono stati pubblicati.
Precedenti e implicazioni della ricerca
Il camuffamento contro il riconoscimento automatico ha precedenti consolidati: Adam Harvey sviluppò CV Dazzle nel 2010 alla New York University, ma oggi avverte che quei look non funzionano più. Sono seguiti HyperFace, il Dazzle Club nato a Londra dopo i test a King’s Cross, studi di KU Leuven, Northeastern University, MIT e Tsinghua University.
In Italia, Rachele Didero ha brevettato con il Politecnico di Milano un metodo poi sviluppato in Capable con Federica Busani; la Manifesto Collection punta a indurre classificazioni come cane, zebra o giraffa. In Europa, il regolamento UE 2024/1689 vieta in linea generale l’identificazione biometrica remota in tempo reale negli spazi pubblici per finalità di contrasto, salvo eccezioni tassative, dal 2 febbraio 2025. Il caso noRecognition evidenzia quindi una criticità concreta: l’affidabilità dei sistemi dipende dal modello, dalle condizioni di ripresa e dalle soglie adottate.
FAQ
Chi ha creato il progetto noRecognition?
Sì, il progetto è stato realizzato da Bill Swearingen, professionista della cybersecurity e cofondatore del meetup SecKC di Kansas City.
Dove si è svolto il test?
Sì, la prova è avvenuta a Las Vegas, venerdì 7 agosto, durante la trentaquattresima edizione di Def Con.
Il pattern rende invisibili alle telecamere?
No, il pattern non cancella il soggetto dal video: può ridurre la confidenza del rilevatore e impedire l’invio dell’avviso automatico.
Qual è il risultato migliore dichiarato?
Sì, il progetto indica un 61,7% di non rilevamento sul detector estratto dalla telecamera reale, in 148 casi su 240.
Su quali fonti si basa questa analisi?
Sì, il contenuto nasce da un’analisi approfondita e da una verifica incrociata della nostra Redazione su numerose fonti, tra cui TecnoAndroid.
