Google dichiara guerra agli insulti: Perspective avvisa gli editori

Gli insulti e i commenti offensivi hanno i giorni contati. Alphabet, la casa madre di Google, e la sussidiaria Jigsaw hanno lanciato Perspective uno strumento che grazie all’intelligenza artificiale è in grado di individuare gli insulti e i commenti offensivi e di avvisare gli editori.

Non si tratta di un filtro che blocca le offese ma di alert che usa un’Api, un’interfaccia di programmazione.

L’algoritmo rivede i commenti e assegna un punteggio da 1 a 100 basato su quanto siano simili a commenti che gli utenti hanno indicato come sgraditi o che hanno spinto le persone ad abbandonare la conversazione.

Perspective non si basa su un vocabolario o su una lista nera di vocaboli ma usa l’analisi attraverso l’algoritmo di migliaia di commenti etichettati manualmente da revisori umani.

Più il commento analizzato è simile per struttura, lessico e schema a un altro commento in precedenza contrassegnato come offensivo, più il suo punteggio finale è elevato. La valutazione quindi viene via a via corretta dagli utenti e quindi migliora ogni volta.

Una volta fatta l’analisi il sistema manda un alert all’editore che può decidere di impostare un limite di punteggio oltre il quale il commento viene automaticamente eliminato, o contrassegnato per il controllo da parte di un moderatore umano.

Oppure possono essere mostrati ai lettori soltanto previa accettazione.

Perspective può anche calcolare subito il punteggio dei commenti inviati e mostrarlo in tempo reale a chi li sta scrivendo, come fosse una sorta di correttore ortografico.

Il sistema è stato testato sul New York Times dove un team controlla e modera ogni commento prima che venga pubblicato, revisionando oltre 11mila commenti ogni giorno.

Ma solo il 10% degli articoli si possono commentare. Google ha lavorato insieme al quotidiano per perfezionare il sistema di controllo automatico dei commenti.

Una svolta per il giornalismo e per la Rete alle prese con questo fenomeno.