Precauzioni nello sviluppo e nell’uso dei sistemi algoritmici

Il Consiglio d’Europa ha invitato i suoi 47 Stati membri ad adottare un approccio precauzionale allo sviluppo e all’uso dei sistemi algoritmici e ad adottare leggi, politiche e pratiche che rispettino appieno i diritti umani.

Sistemi algoritmici

In una raccomandazione sugli impatti sui diritti umani dei sistemi algoritmici, il Comitato dei Ministri del Consiglio d’Europa ha pubblicato una serie di linee guida che invitano i governi a garantire che non violino i diritti umani attraverso il proprio uso, sviluppo o acquisizione di sistemi algoritmici.

Inoltre, in qualità di regolatori, dovrebbero stabilire quadri legislativi, regolamentari e di vigilanza efficaci e prevedibili che prevengano, rilevino, vietino e rimedino alle violazioni dei diritti umani, che provengano da attori pubblici o privati.

La raccomandazione riconosce il vasto potenziale dei processi algoritmici per favorire l’innovazione e lo sviluppo economico in numerosi settori, tra cui i sistemi di comunicazione, istruzione, trasporti, governance e sanità.

La pandemia COVID-19

Nell’attuale pandemia di COVID-19, vengono utilizzati sistemi algoritmici per la previsione, la diagnosi e la ricerca su vaccini e trattamenti.

Misure di tracciamento digitale potenziate sono in discussione in un numero crescente di Stati membri, basandosi, ancora una volta, su algoritmi e automazione.

Diritti umani

Allo stesso tempo, la raccomandazione mette in guardia su sfide significative ai diritti umani legate all’uso di sistemi algoritmici, riguardanti principalmente il diritto a un processo equo; privacy e protezione dei dati; libertà di pensiero, coscienza e religione; le libertà di espressione e di riunione; il diritto alla parità di trattamento; e diritti economici e sociali.

Data la complessità, la velocità e la portata dello sviluppo algoritmico, le linee guida sottolineano che gli Stati membri devono essere consapevoli degli impatti sui diritti umani di questi processi e mettere in atto meccanismi efficaci di gestione dei rischi.

Lo sviluppo di alcuni sistemi dovrebbe essere rifiutato quando il loro spiegamento comporta elevati rischi di danni irreversibili o quando sono così opachi che il controllo e la supervisione umani diventano impraticabili.

Conseguenze serie e impreviste possono verificarsi a causa della crescente interdipendenza e interblocco di più sistemi algoritmici distribuiti negli stessi ambienti.

Sicurezza, privacy, protezione dei dati

In linea di principio, gli Stati dovrebbero garantire che i sistemi algoritmici includano la sicurezza, la privacy, la protezione dei dati e le garanzie di sicurezza in base alla progettazione.

Gli Stati devono inoltre valutare attentamente la qualità e la provenienza dei set di dati, nonché i rischi intrinseci, come la possibile anonimizzazione dei dati, il loro uso inappropriato o decontestualizzato e la generazione di nuovi dati dedotti, potenzialmente sensibili, attraverso mezzi automatizzati.

Le linee guida sottolineano la necessità per i governi di dotare le rispettive istituzioni nazionali competenti per la supervisione, il controllo, la valutazione dei rischi e l’applicazione di risorse e autorità adeguate.

Dovrebbero inoltre impegnarsi in regolari consultazioni e collaborazioni con tutte le parti interessate, compreso il settore privato, e promuovere la consapevolezza del pubblico in generale sulla capacità e sugli impatti dei sistemi algoritmici, compresi i loro rischi.

Link