Instagram diventa più sicuro. Ci pensa l’intelligenza artificiale e due filtri

Un filtro contro i commenti offensivi ed un filtro antispam per rendere Instagram più sicuro. Sono le novità introdotte da social delle immagini il cui obiettivo è bloccate eventuali commenti offensivi. Ma vediamo come funzionano questi due nuovi filtri.

Due nuovi filtri contro le offese su Instagram

I filtri sono basati sulla tecnologia DeepText sviluppata da Facebook un anno fa e ulteriormente migliorata per ridurre al minimo i cosiddetti falsi positivi. Ovvero quelle frasi che inserite in un contesto possono sembrare positive ma che in realtà non lo sono e che solo la mente umana sarebbe in grado di individuare.

DeepText cerca di simulare il modo in cui il linguaggio viene elaborato dal cervello, sfruttando una concetto noto come “word embeddings”. Ovvero quando il sistema incontra una nuova parola cerca di comprendere il significato dalla altre parole nella frase. Lo spam su Instagram veniva inizialmente filtrato da un team di persone. Ora invece sarà l’intelligenza artificiale ad occuparsene. E si tratta di un bel salto di qualità per il social.

Come funzionati il filtro dei commenti e antispam su Instagram

Il filtro che blocca i commenti è automatico ma può essere disattivato manualmente all’interno delle Impostazioni dei commenti ed al momento supporta solo la lingua inglese.

Il filtro antispam invece blocca tutti i commenti che includono evidente spam. Questo speciale filtro riconosce lo spam in diverse lingue: in inglese, spagnolo, portoghese, arabo, francese, tedesco, russo, giapponese e cinese. Tutti questi filtri funzionano sia all’interno dei messaggi che nei Live Video.

DeepText su Instagram

DeepText non ha un’affidabilità del 100% ma Instagram ha lasciato volutamente un piccolo margine di errore per evitare l’eliminazione di commenti che sembrano offensivi, ma non lo sono, ad esempio quelli scritti per scherzo da un amico.

I social network si aggiornano e si adeguano alla realtà sempre più in divenire e sempre più complessa. I commenti negativi e le offese sono un tema particolarmente sensibile per i Big e da arginare con tutti gli strumenti possibili.