Dipendenti di Snap sapevano dei problemi di sicurezza per i minori nell’app

Consapevolezza delle problematiche di sicurezza per i bambini

Nel novembre 2022, i dipendenti di Snap erano già immersi in discussioni riguardanti ben 10.000 segnalazioni mensili di sextortion, consapevoli che tali report “probabilmente rappresentano solo una piccola frazione di questo abuso”, a causa della vergogna e di altri ostacoli che impediscono la denuncia. Questo dettagliato quadro emerge da una versione recentemente declassificata della causa intentata dal procuratore generale del New Mexico contro Snap, che offre approfondimenti su quanto l’azienda fosse a conoscenza della portata del problema di sextortion presente sulla sua piattaforma.

In un caso specifico, gli impiegati avevano sollevato preoccupazioni su un account che, nonostante 75 segnalazioni collegate a “nudi, minorenni ed estorsione”, rimase comunque attivo. Secondo ricerche interne di Snap condotte nel 2022, oltre un terzo delle ragazze adolescenti e il 30% dei ragazzi adolescenti hanno subito contatti indesiderati sull’app. Tali statistiche evidenziano la consapevolezza aziendale riguardo alle carenze nell’ambito della protezione dei minori.

Persone che lavoravano nel settore della fiducia e della sicurezza in Snap hanno lamentato una scarsa comunicazione con i vertici, rispetto ad altre piattaforme social, e hanno notato resistenze nell’implementare meccanismi di sicurezza in-app, poiché il CEO di Snap, Evan Spiegel, avrebbe dato priorità al design rispetto alla sicurezza. Nonostante Snap abbia dichiarato che la sua applicazione è progettata per essere un luogo sicuro per comunicare con un cerchio ristretto di amici, sembrano esserci lacune significative nella protezione degli utenti più vulnerabili.

L’azienda aveva distribuito nel 2021 un rapporto esterno che evidenziava come presunti predatori interagissero con bambini di appena otto anni attraverso Snapchat, raccogliendo anche materiale relativo ad abusi sessuali sui minori. Ciò che preoccupa ulteriormente è stata la paura di implementare misure di sicurezza contro questi comportamenti, poiché si temeva potessero comportare onerosi costi amministrativi e compromettere la privacy degli utenti.

Rischi associati all’uso di Snapchat

Il pericolo di contatti indesiderati su Snapchat è emerso come una questione centrale all’interno delle discussioni interne dell’azienda. La denuncia non solo mette in luce il numero allarmante di report riguardanti rischi di sextortion, ma rivela anche che oltre un terzo delle adolescenti e il 30% degli adolescenti hanno subito esperienze di contatto indesiderato sulla piattaforma. In particolare, i dipendenti di Snap hanno documentato casi di account attivi malgrado numerose segnalazioni che menzionavano contenuti inappropriati e potenzialmente pericolosi.

Tra le caratteristiche della piattaforma, una delle più criticabili è risultata il sistema di “Quick Add”. Questo strumento suggerisce agli utenti potenziali nuovi contatti, una funzionalità che è stata identificata come un rischio poiché facilita l’interazione tra minori e utenti sconosciuti. Un dirigente della società ha esposto la necessità di adottare approcci innovativi per proteggere gli utenti più vulnerabili, suggerendo che fosse possibile silenziare queste interazioni senza compromettere l’esperienza degli utenti stessi. Tali considerazioni indicano una consapevolezza interna ma anche una resistenza a modifiche significative.

A complicare ulteriormente la situazione, vi sono state comunicazioni che attestano come i meccanismi per la segnalazione di abusi non funzionassero come dovuto. Secondo quanto riportato, il contenuto segnalato veniva visualizzato centinaia di volte prima di essere effettivamente trattato. Questo mette in evidenza l’inadeguatezza dei sistemi di monitoraggio esistenti che ci si aspettava dovessero proteggere i minori da comportamenti predatori.

La preoccupazione per i rischi connessi all’uso di Snapchat non si limita solo a casi di sextortion, ma si estende anche a situazioni di pericolo fisico più ampie, riguardanti il potenziale pericolo di incontri con sconosciuti che potrebbero sfociare in abusi. Le analisi fatte all’interno dell’azienda, dunque, sollevano interrogativi critici su come l’azienda intenda affrontare questi seri problemi, soprattutto in relazione all’impatto che la sua user experience ha su un pubblico così suscettibile.

La risposta interna di Snap alle segnalazioni di abusi

Le comunicazioni interne di Snap evidenziano un grave disallineamento tra la consapevolezza aziendale riguardo ai rischi e le misure adottate per affrontarli. Secondo la denuncia recentemente svelata, i dipendenti dell’azienda erano perfettamente al corrente del fenomeno degli abusi e delle segnalazioni che affliggevano la piattaforma, ma le reazioni a tali problematiche sono state inadeguate. Un rapporto distribuito nel 2021 ha messo in luce casi in cui presunti predatori contattavano minori attraverso Snapchat, senza che l’azienda intraprendesse azioni decisive per proteggere questi utenti vulnerabili.

In effetti, le preoccupazioni sulla sicurezza di giovani utenti sembrano essere state sistematicamente minimizzate. Nonostante i dipendenti identificassero chiari segnali di rischio, molte proposte per implementare sistemi di sicurezza più rigorosi sono state bloccate. Illustri membri del personale di Snap si sarebbero lamentati del fatto che le loro raccomandazioni in merito a misure protettive erano spesso eliminate o ignorate, con la direzione dell’azienda che prioritizzava l’estetica e la funzionalità del prodotto a scapito della sicurezza degli utenti.

Inoltre, la risposta aziendale alle segnalazioni di contenuti problematici si è dimostrata lenta e inefficace. Il contenuto segnalato veniva visualizzato ripetutamente da utenti per giorni prima di essere preso in carico, suscitando preoccupazioni circa l’efficacia del sistema di monitoraggio. Uno degli obiettivi di Snap è stato quello di creare un ambiente sociale, ma questa ambizione è stata compromessa dall’incapacità di gestire adeguatamente le situazioni di abuso e da una cultura interna che sembrava trascurare l’importanza delle misure di sicurezza.

La direzione della compagnia ha poi tentato di rassicurare riguardo agli approcci adottati per migliorare la sicurezza degli utenti, affermando di lavorare insieme a forze dell’ordine e agenzie governative. Tuttavia, le rivelazioni interne suggeriscono che simili affermazioni possano non riflettere l’effettivo impegno a garantire la sicurezza, lasciando molte domande aperte su come Snap intenda evolvere sia in termini di responsabilità sociale che di protezione degli utenti più vulnerabili.

Inadeguatezza delle misure di sicurezza

Il recente sviluppo legale evidenzia gravi lacune nelle misure di sicurezza adottate da Snap per garantire la protezione degli utenti più giovani sulla sua piattaforma. Nonostante le segnalazioni inquietanti di contatti indesiderati e di predatori, le risposte e le azioni dell’azienda sembrano essere state del tutto insufficienti. Risultati di studi interni hanno mostrato che, sebbene siano stati identificati numerosi casi di abuso, le funzionalità della piattaforma, come il sistema Quick Add, continuavano a facilitare l’interazione tra minori e adulti sconosciuti, aggravando ulteriormente la situazione.

I dipendenti di Snap hanno sollevato questioni critiche sulla necessità di modificare il funzionamento del Quick Add, richiedendo che vengano sviluppate nuove strategie in grado di proteggere i più vulnerabili. Tali revisioni sono state descritte come necessarie per silenziare le interazioni tra utenti a rischio e minori, senza compromettere l’esperienza della piattaforma. Tuttavia, le misure intraprese sembrano essere state parziali e non sufficientemente risolutive, lasciando aperti margini significativi di vulnerabilità.

In aggiunta, il modo in cui l’azienda trattava le segnalazioni di contenuto problematico ha suscitato serie preoccupazioni. Nonostante le segnalazioni venissero effettuate, tali contenuti rimanevano visibili per lunghe periodi, facendo emergere dubbi sulla reale efficacia dei meccanismi di controllo. Questo porta a una riflessione su quanto l’azienda sia realmente impegnata nella protezione dei suoi utenti, vista anche l’enfasi posta sull’esperienza utente piuttosto che sulla sicurezza.

La denuncia rivela anche che i dipendenti erano a conoscenza dei rischi associati all’uso della piattaforma, senza che l’azienda intraprendesse azioni adeguate per mitigare tali pericoli. Anzi, vi sono stati timori che l’implementazione di misure di sicurezza potesse risultare gravosa in termini di costi e impatti sulla privacy, mettendo a repentaglio la sicurezza di centinaia di migliaia di utenti minori. L’assenza di interventi significativi in risposta a queste preoccupazioni getta un’ombra inquietante sul futuro della piattaforma e sulla reale protezione offerta ai più giovani.

Complaints sull’addictive design di Snap

Il design delle funzioni di Snap, come il sistema Snapstreaks, ha suscitato preoccupazioni significative riguardo alla sua natura intrinsecamente avvincente e potenzialmente dannosa. I dipendenti della società hanno espresso dubbi su come queste caratteristiche possano contribuire a creare dipendenza tra gli utenti, in particolare tra i più giovani. Una comunicazione interna risalente a gennaio 2017 ha rivelato che alcuni impiegati si erano chiesti se fosse opportuno sviluppare ulteriori funzionalità simili che aumentassero l’attrattiva e la dipendenza dall’applicazione.

In un’altra comunicazione, un membro del personale ha osservato che “la maggior parte dei cosiddetti ‘streakers’ rappresentano il nostro nucleo demografico”. Questa affermazione pone l’accento sull’importanza di queste funzionalità nel mantenere l’utenza attiva, ma solleva anche interrogativi sull’etica di tali approcci in un contesto in cui la protezione dell’utente, e in particolare quella dei minori, dovrebbe essere una priorità assoluta.

Un’analisi dell’impatto di Snapstreaks, presentata nell’ottobre 2019, ha evidenziato come queste funzioni rendano difficile per gli utenti “disconnettersi anche solo per un giorno”. Questa osservazione riflette una crescente consapevolezza interna riguardo all’addictiveness del design della app e suggerisce che l’azienda potrebbe essere consapevole delle conseguenze negative delle proprie scelte progettuali.

In un contesto in cui Snap si è trovato a fronteggiare richieste di maggiori misure di sicurezza e di responsabilizzazione sociale, le comunicazioni internazionali sembrano indicare che le preoccupazioni sul design avvincente e sull’uso della app abbiano ricevuto un’attenzione insufficiente. Mentre l’azienda promuove una narrativa incentrata sulla connessione e sull’interazione tra gli utenti, emerge una tensione tra questi obiettivi e la necessità di garantire esperienze sicure e salutari ai giovani utenti della piattaforma.