La notizia in sintesi
- Flock usa l’IA per cercare persone nelle immagini delle telecamere di polizia.
- I controlli automatici registrano gli abusi potenziali, ma non impediscono tutte le ricerche.
- Le descrizioni legate a espressioni politiche ricevono un avviso, non un blocco.
- Esperti segnalano rischi per privacy, libertà civili e affidabilità dei risultati.
Riassunto generato con AI AGENTICA di Datamoney.ch
Flock e i limiti dei controlli sulle ricerche
La società statunitense Flock, fornitrice di telecamere e software per le forze dell’ordine, è al centro dell’analisi di WIRED sui limiti dei suoi strumenti di ricerca basati sull’intelligenza artificiale. Il sistema permette agli agenti di delimitare un’area su una mappa cittadina e avviare una ricerca automatizzata continua di persone corrispondenti a una descrizione scritta, con avvisi in caso di presunta corrispondenza. L’esame del codice dell’interfaccia mostra che le nuove garanzie annunciate dall’azienda possono scoraggiare e registrare utilizzi impropri, senza però bloccarli necessariamente. Il tema assume rilievo dopo contestazioni, contratti annullati e casi di accesso o consultazione controversa dei dati, perché coinvolge direttamente sorveglianza, privacy e tutela delle libertà costituzionali.
Le modifiche promesse e le vulnerabilità individuate
Ad agosto Flock ha annunciato un pacchetto di modifiche: riduzione del periodo predefinito di conservazione dei dati, codici di caso obbligatori per ogni ricerca e verifiche automatizzate sugli abusi, misure che la società prevede di rendere obbligatorie entro la fine dell’anno. Secondo WIRED, tuttavia, i dipartimenti possono ancora configurare alcune ricerche senza una motivazione o un numero di caso collegato a un’indagine reale e possono disattivare il sistema che segnala impieghi sospetti. Gran parte delle decisioni resta inoltre sui server aziendali, inclusi modello IA, risultati delle ricerche e parametri che incidono sulle classifiche delle immagini.
La funzione FreeForm accetta descrizioni in linguaggio naturale per individuare persone nei filmati, mentre le ricerche sui veicoli usano attributi definiti come colore, modello o accessori. Il sistema assegna alle richieste riferite a persone uno fra tre esiti: autorizzazione, blocco o avviso. Razza, etnia, religione, nazionalità, termini soggettivi o offensivi rientrano nelle categorie bloccate; l’espressione politica, sociale e culturale determina invece un avviso che l’agente può superare dopo aver lasciato un commento. Per Tom Bowman del Center for Democracy and Technology, proprio questo ambito è tra quelli più protetti dal Primo Emendamento.
Le innovazioni piu' interessanti di tecnologia e scienza, dritte nella tua inbox.
Registrare gli abusi non equivale a prevenirli
Le contestazioni riguardano anche l’efficacia concreta degli avvisi. Kate Ruane osserva che l’espressione politica, sociale e culturale è una categoria ampia e che un avvertimento non impedisce all’operatore di ottenere i risultati. Deepak Kumar, docente della UC San Diego, ritiene che i registri possano aiutare l’amministrazione soltanto se qualcuno verifica davvero le violazioni ripetute. Per Jay Stanley dell’ACLU, il filtraggio interviene su una parte limitata di una struttura di sorveglianza molto più estesa, i cui modelli statistici non sono verificabili dall’esterno.
FAQ
Che cos’è la ricerca FreeForm di Flock?
FreeForm consente agli agenti di cercare filmati tramite descrizioni testuali di abbigliamento, colori, oggetti o altri dettagli ritenuti pertinenti al caso.
Quali ricerche vengono bloccate dal sistema?
Il sistema blocca categorie come razza, etnia, religione, nazionalità, contenuti offensivi e termini soggettivi o distorti nelle descrizioni delle persone.
Cosa accade alle ricerche con contenuti politici?
Le richieste riferite a espressioni politiche, sociali o culturali ricevono un avviso, ma l’agente può continuare dopo conferma e commento.
Quali modifiche ha promesso Flock?
La società ha promesso minore conservazione dei dati, codici di caso obbligatori e audit automatici, da rendere obbligatori entro fine anno.
Quali fonti sono state usate?
Le informazioni sono rielaborate dalla Redazione con supervisione umana, attraverso analisi accurata di fonti ufficiali e giornalistiche, incluse Ansa.it, Adnkronos.it, Asca.it e Agi.it.
Articolo pubblicato con l’ausilio del sistema di redazione AI di Datamoney, e supervisione umana finale.Non perdere gli errori di prezzo clamorosi su Amazon!
Iscriviti al canale Telegram e ricevili in tempo reale
Guide agli acquisti su Amazon
Le notizie più lette su Assodigitale
✨ Classifica generata dalla Agentic AI (REDAZIONE AI) di Datamoney.ch
