Introduzione alla legge sull’intelligenza artificiale dell’Unione Europea

La legge sull’intelligenza artificiale dell’Unione Europea (in seguito denominata “legge sull’IA”) rappresenta un passo fondamentale nella regolamentazione dello sviluppo e dell’utilizzo dell’intelligenza artificiale (IA) “ad alto rischio” e mira a promuovere l’adozione di “IA affidabili” proteggendo al tempo stesso i diritti delle persone colpite dai sistemi di IA.

Tuttavia, come evidenziato dalle organizzazioni e dagli individui sottoscritti, nella sua proposta originaria, la legge sull’IA non affronta e previene adeguatamente i danni derivanti dall’uso dell’IA nel contesto della migrazione.

La necessità di proteggere i diritti delle persone in movimento

Mentre gli stati e le istituzioni spesso promuovono l’IA in termini di benefici per la società in generale, per le comunità emarginate e le persone in movimento (vale a dire migranti, richiedenti asilo e rifugiati), le tecnologie dell’IA si inseriscono in sistemi più ampi di sorveglianza eccessiva, criminalizzazione, discriminazione strutturale e violenza.

È fondamentale che la legge sull’IA dell’UE protegga tutte le persone dagli usi dannosi dei sistemi di intelligenza artificiale, indipendentemente dal loro stato migratorio.

Modifiche proposte alla legge sull’IA

Noi, le organizzazioni e gli individui sottoscritti, chiediamo al Parlamento europeo, alla Commissione europea, al Consiglio dell’Unione europea e agli Stati membri dell’UE di garantire che la legge sull’intelligenza artificiale dell’UE protegga i diritti di tutte le persone, comprese le persone in movimento. Raccomandiamo le seguenti modifiche alla legge sull’IA:

1. Proibire gli usi inaccettabili dei sistemi di IA nel contesto della migrazione Alcuni sistemi di intelligenza artificiale rappresentano un “rischio inaccettabile” per i nostri diritti fondamentali, che non sarà mai risolto con mezzi tecnici o garanzie procedurali. Sebbene la proposta legge sull’IA proibisca alcuni usi dell’IA, non impedisce alcuni degli usi più dannosi dell’IA nella migrazione e nel controllo delle frontiere, nonostante il potenziale di danni irreversibili.

La legge sull’IA deve essere modificata per includere quanto segue come “pratiche vietate”:

• Sistemi analitici predittivi quando usati per interdire, limitare e prevenire la migrazione. Questi sistemi generano previsioni su dove esiste un rischio di “migrazione irregolare” e sono potenzialmente utilizzati per prevenire o interdire la migrazione. Tali sistemi possono essere basati su dati imprecisi o incompleti e possono essere utilizzati in modo discriminatorio.
• Sistemi di sorveglianza basati sull’IA utilizzati per la gestione delle frontiere e il controllo migratorio. Questi sistemi, tra cui il riconoscimento facciale, la sorveglianza aerea e la sorveglianza remota, possono essere utilizzati per monitorare e controllare la migrazione in modo eccessivo e potenzialmente discriminatorio.
• Sistemi di analisi del rischio basati sull’IA utilizzati nei processi di asilo. Questi sistemi possono essere utilizzati per valutare il rischio di un individuo di essere perseguitato nel proprio paese di origine e possono essere basati su dati imprecisi o incompleti, portando a decisioni arbitrarie e potenzialmente discriminatorie.

Per garantire che la legge sull’IA dell’UE protegga i diritti di tutte le persone, comprese le persone in movimento, è essenziale che venga adottata una proibizione degli usi inaccettabili dei sistemi di IA nel contesto della migrazione.

In particolare, è fondamentale vietare sistemi analitici predittivi, sistemi di sorveglianza basati sull’IA e sistemi di analisi del rischio basati sull’IA, che possono essere utilizzati in modo discriminatorio e causare danni irreversibili.

La situazione attuale

Il Parlamento Europeo, la Commissione Europea, il Consiglio dell’Unione Europea e gli Stati Membri dell’UE hanno il compito di garantire che la legge sull’IA dell’UE protegga i diritti di tutte le persone, comprese le persone in movimento.

La proposta della legge sull’intelligenza artificiale dell’Unione Europea (legge sull’IA) sta suscitando preoccupazioni per quanto riguarda la protezione dei diritti delle persone in movimento. La legge, che mira a regolamentare lo sviluppo e l’uso dell’IA “ad alto rischio” e a promuovere l’adozione di “IA affidabili”, non affronta adeguatamente i danni derivanti dall’uso dell’IA nel contesto della migrazione.

Secondo alcune organizzazioni e individui che hanno espresso la loro posizione, mentre gli stati e le istituzioni spesso promuovono l’IA in termini di benefici per la società in generale, per le comunità emarginate e le persone in movimento (migranti, richiedenti asilo e rifugiati), le tecnologie dell’IA si inseriscono in sistemi più ampi di sorveglianza eccessiva, criminalizzazione, discriminazione strutturale e violenza.

Per questo motivo, queste organizzazioni e individui hanno chiesto al Parlamento europeo, alla Commissione europea, al Consiglio dell’Unione europea e agli Stati membri dell’UE di garantire che la legge sull’IA dell’UE protegga i diritti di tutte le persone, comprese le persone in movimento.

Tra le modifiche proposte alla legge sull’IA c’è la proibizione degli usi inaccettabili dei sistemi di IA nel contesto della migrazione, come ad esempio: sistemi analitici predittivi usati per interdire o limitare la migrazione, sistemi di sorveglianza basati sull’IA usati per la gestione delle frontiere e il controllo migratorio, sistemi di analisi del rischio basati sull’IA utilizzati nei processi di asilo.

In sintesi, l’UE deve garantire che la legge sull’IA protegga tutte le persone dagli usi dannosi dei sistemi di intelligenza artificiale, indipendentemente dal loro stato migratorio, prevenendo così danni irreversibili.

Conclusioni

E’ fondamentale che la legge sull’IA dell’UE vieti gli usi inaccettabili dei sistemi di IA nella migrazione e nel controllo delle frontiere in modo da proteggere i diritti fondamentali delle persone in movimento, prevenendo danni irreversibili.