Il Consiglio d’Europa ha invitato i suoi 47 Stati membri ad adottare un approccio precauzionale allo sviluppo e all’uso dei sistemi algoritmici e ad adottare leggi, politiche e pratiche che rispettino appieno i diritti umani.
Sistemi algoritmici
In una raccomandazione sugli impatti sui diritti umani dei sistemi algoritmici, il Comitato dei Ministri del Consiglio d’Europa ha pubblicato una serie di linee guida che invitano i governi a garantire che non violino i diritti umani attraverso il proprio uso, sviluppo o acquisizione di sistemi algoritmici.
Inoltre, in qualità di regolatori, dovrebbero stabilire quadri legislativi, regolamentari e di vigilanza efficaci e prevedibili che prevengano, rilevino, vietino e rimedino alle violazioni dei diritti umani, che provengano da attori pubblici o privati.
La raccomandazione riconosce il vasto potenziale dei processi algoritmici per favorire l’innovazione e lo sviluppo economico in numerosi settori, tra cui i sistemi di comunicazione, istruzione, trasporti, governance e sanità.
La pandemia COVID-19
Nell’attuale pandemia di COVID-19, vengono utilizzati sistemi algoritmici per la previsione, la diagnosi e la ricerca su vaccini e trattamenti.
Misure di tracciamento digitale potenziate sono in discussione in un numero crescente di Stati membri, basandosi, ancora una volta, su algoritmi e automazione.
Diritti umani
Allo stesso tempo, la raccomandazione mette in guardia su sfide significative ai diritti umani legate all’uso di sistemi algoritmici, riguardanti principalmente il diritto a un processo equo; privacy e protezione dei dati; libertà di pensiero, coscienza e religione; le libertà di espressione e di riunione; il diritto alla parità di trattamento; e diritti economici e sociali.
Data la complessità, la velocità e la portata dello sviluppo algoritmico, le linee guida sottolineano che gli Stati membri devono essere consapevoli degli impatti sui diritti umani di questi processi e mettere in atto meccanismi efficaci di gestione dei rischi.
Lo sviluppo di alcuni sistemi dovrebbe essere rifiutato quando il loro spiegamento comporta elevati rischi di danni irreversibili o quando sono così opachi che il controllo e la supervisione umani diventano impraticabili.
Conseguenze serie e impreviste possono verificarsi a causa della crescente interdipendenza e interblocco di più sistemi algoritmici distribuiti negli stessi ambienti.
Sicurezza, privacy, protezione dei dati
In linea di principio, gli Stati dovrebbero garantire che i sistemi algoritmici includano la sicurezza, la privacy, la protezione dei dati e le garanzie di sicurezza in base alla progettazione.
Gli Stati devono inoltre valutare attentamente la qualità e la provenienza dei set di dati, nonché i rischi intrinseci, come la possibile anonimizzazione dei dati, il loro uso inappropriato o decontestualizzato e la generazione di nuovi dati dedotti, potenzialmente sensibili, attraverso mezzi automatizzati.
Le linee guida sottolineano la necessità per i governi di dotare le rispettive istituzioni nazionali competenti per la supervisione, il controllo, la valutazione dei rischi e l’applicazione di risorse e autorità adeguate.
Dovrebbero inoltre impegnarsi in regolari consultazioni e collaborazioni con tutte le parti interessate, compreso il settore privato, e promuovere la consapevolezza del pubblico in generale sulla capacità e sugli impatti dei sistemi algoritmici, compresi i loro rischi.
Link
Our Fact Checking Process
We prioritize accuracy and integrity in our content. Here's how we maintain high standards:
- Expert Review: All articles are reviewed by subject matter experts.
- Source Validation: Information is backed by credible, up-to-date sources.
- Transparency: We clearly cite references and disclose potential conflicts.
Our Review Board
Our content is carefully reviewed by experienced professionals to ensure accuracy and relevance.
- Qualified Experts: Each article is assessed by specialists with field-specific knowledge.
- Up-to-date Insights: We incorporate the latest research, trends, and standards.
- Commitment to Quality: Reviewers ensure clarity, correctness, and completeness.
Look for the expert-reviewed label to read content you can trust.