Nuovi guai per Uber che ha ucciso un pedone non riconosciuto fuori dalle strisce pedonali

Il software all’interno del SUV a guida autonoma Uber che ha ucciso una donna dell’Arizona l’anno scorso non è stato progettato per rilevare i pedoni al di fuori di un passaggio pedonale, secondo i nuovi documenti rilasciati nell’ambito di un’indagine federale sull’incidente.

Questa è la rivelazione più dannosa offerta in una moltitudine di nuovi documenti relativi allo schianto, ma altri dettagli indicano che, in vari modi, il lavoro di auto a guida autonoma di Uber non è riuscito a considerare il modo in cui gli umani operano effettivamente.

Martedì, il National Transportation Safety Board, un pannello di sicurezza governativo indipendente che più spesso analizza gli incidenti aerei e gli incidenti di grandi camion, ha pubblicato documenti relativi alle sue indagini di 20 mesi sull’incidente di Uber.

Il panel pubblicherà un rapporto finale sull’incidente tra due settimane. Più di 40 dei documenti, che coprono centinaia di pagine, si immergono nei dettagli dell’incidente del 18 marzo 2016 , in cui il veicolo di prova Uber, gestito dalla 44enne Rafaela Vasquez, ha ucciso una donna di 49 anni di nome Elaine Herzberg mentre attraversava una strada buia nella città di Tempe, in Arizona. All’epoca, solo un guidatore monitorava il funzionamento e il software della macchina sperimentale mentre guidava in Arizona.

I filmati pubblicati nelle settimane successive allo schianto hanno mostrato che Vasquez reagisce con shock nei momenti immediatamente precedenti la collisione.

I nuovi documenti indicano che alcuni errori erano chiaramente correlati alla struttura interna di Uber, quella che gli esperti chiamano “cultura della sicurezza”. Per uno, il programma di guida autonoma non includeva una divisione di sicurezza operativa o un responsabile della sicurezza.

Gli errori più eclatanti erano legati al software. Il sistema di Uber non era attrezzato per identificare o trattare i pedoni che camminavano fuori da un passaggio pedonale.

Gli ingegneri Uber sembrano anche essere stati così preoccupati per i falsi allarmi che hanno costruito in un ritardo automatico di un secondo tra il rilevamento di un incidente e un’azione.

E Uber ha scelto di disattivare un sistema frenante Volvo incorporato che la casa automobilistica ha successivamente concluso potrebbe aver ridotto drasticamente la velocità con cui l’auto ha colpito Herzberg, o forse evitato del tutto la collisione.

(Gli esperti affermano che la decisione di spegnere il sistema Volvo mentre il software Uber faceva il suo lavoro aveva un senso tecnico, perché non sarebbe sicuro che l’auto avesse due “padroni” del software).

Gran parte di ciò spiega perché, nonostante il fatto che l’auto abbia rilevato Herzberg con un tempo più che sufficiente per fermarsi, stava viaggiando a 43,5 miglia orarie quando la colpì e la scagliò di 75 piedi.

Quando l’auto ha rilevato per la prima volta la sua presenza, 5,6 secondi prima dell’impatto, l’ha classificata come un veicolo.

Quindi cambiò idea in “altro”, poi di nuovo in veicolo, di nuovo in “altro”, poi in bicicletta, poi di nuovo in “altro”, e infine di nuovo in bicicletta.

Non aveva mai immaginato che Herzberg fosse a piedi per un semplice ed assurdo motivo: Uber non aveva detto alla sua auto di cercare pedoni al di fuori delle strisce pedonali.

“La progettazione del sistema non includeva una considerazione per i pedoni jaywalking”, recita il “Rapporto di automazione del veicolo” dell’NTSB.

Ogni volta che provava una nuova ipotesi, riavviava il processo di previsione di dove fosse diretto l’oggetto misterioso – Herzberg.

Non è stato fino a 1,2 secondi prima dell’impatto che il sistema ha riconosciuto che il SUV stava per colpire Herzberg, che non poteva sterzare intorno a lei e che aveva bisogno di sbattere sui freni.

Ciò scatenò quella che Uber chiamava “soppressione dell’azione”, in cui il sistema bloccava la frenata per un secondo mentre verificava “la natura del pericolo rilevato”, un secondo durante il quale l’operatore di sicurezza, la più importante e ultima linea di difesa di Uber, poteva ha preso il controllo della macchina e ha colpito i freni lei stessa.

Ma Vasquez non stava guardando la strada in quel secondo. Quindi, con 0,2 secondi rimasti prima dell’impatto, l’auto emise un segnale acustico e Vasquez prese il volante, disinnestando il sistema autonomo.

Quasi un secondo dopo aver colpito Herzberg, Vasquez ha frenato.