Come Instagram utilizza Intelligenza Artificiale AI per filtrare i contenuti

Instagram ha condiviso nuovi dettagli su come la sua app utilizza l’apprendimento automatico per emergere contenuti per gli utenti, sottolineando che, nel formulare raccomandazioni, si concentra sulla ricerca di account che ritiene piacerà alla gente, piuttosto che sui singoli post.

Il post sul blog è di natura tecnica e non presenta grandi sorprese, ma offre un’interessante prospettiva dietro le quinte in un momento in cui i sistemi di raccomandazione algoritmica sono sotto controllo per spingere gli utenti verso contenuti pericolosi, odiosi ed estremisti.

Sebbene Instagram non sia stato criticato con la stessa ferocia di YouTube (soprannominato “The Great Radicalizer” dal New York Times ), ha certamente la sua parte di problemi.

Contenuti di odio e disinformazione prosperano sulla piattaforma tanto quanto qualsiasi altro social network, e alcuni meccanismi nell’app (come la sua caratteristica che segue suggerita) hanno dimostrato di spingere gli utenti verso punti di vista estremi per argomenti come l’anti-vaccinazione .

Nel suo post sul blog, tuttavia, gli ingegneri di Instagram spiegano il funzionamento della scheda Esplora mentre evitano le spinose questioni politiche.

“Questa è la prima volta che entriamo nei dettagli dettagliati sugli elementi costitutivi fondamentali che ci aiutano a fornire contenuti personalizzati su vasta scala”, l’ingegnere software di Instagram Ivan Medvedev ha detto a The Verge tramite e-mail.

(Puoi leggere come Instagram organizza i contenuti del feed principale in questa storia dell’anno scorso.)

Il post sottolinea che Instagram è enorme, e il contenuto che contiene è estremamente vario, “con argomenti che variano dalla calligrafia araba ai modelli di treni alla melma”. piace vedere, ma su quali account potrebbero interessarli invece.

Instagram identifica account simili tra loro adattando un comune metodo di apprendimento automatico noto come “incorporamento di parole”. I sistemi di incorporamento di parole studiano l’ordine in cui le parole compaiono nel testo per misurare la loro relazione.

Quindi, ad esempio, un sistema di incorporamento delle parole noterebbe che la parola “fuoco” appare spesso accanto alle parole “allarme” e “camion”, ma meno frequentemente accanto alle parole “pellicano” o “sandwich”. Instagram usa un simile processo per determinare la relazione tra due account tra loro.

Per formulare raccomandazioni, il sistema Explore inizia esaminando “account seed”, ovvero account con cui gli utenti hanno interagito in passato, apprezzando o salvando i loro contenuti. Identifica account simili a questi e da essi seleziona 500 contenuti.

Questi candidati vengono filtrati per rimuovere spam, disinformazione e “contenuti potenzialmente in violazione delle norme” e i post rimanenti vengono classificati in base alla probabilità che un utente interagisca con ciascuno di essi. Infine, i primi 25 post vengono inviati alla prima pagina della scheda Esplora dell’utente.

Ci sono alcune cose da notare qui. Innanzitutto, Instagram non è completamente trasparente sul suo processo. Non ci sono dettagli su quali segnali vengono utilizzati per identificare spam o disinformazione, e non è troppo sorprendente se si considera che spiegando questo sarebbe d’aiuto alle persone che vogliono diffondere questo tipo di contenuti.

Inoltre, non è chiaro in che misura l’apprendimento automatico viene utilizzato per filtrare i contenuti inappropriati, un dettaglio chiave dato che Facebook spesso presenta l’IA come un proiettile magico per la moderazione (mentre gli esperti non sono d’accordo ).

Prendi l’esempio del contenuto anti-vax. Instagram ha represso questo, ma principalmente sfruttando i metodi manuali. Blocca hashtag che contengono ciò che dice che sono “informazioni verosimilmente false” come “#vaccinescauseaids” e fa affidamento su agenzie sanitarie come l’Organizzazione mondiale della sanità per contrassegnare posti pericolosi, che prende.

AI sarà utile? Non è chiaro, ma Medvedev afferma che l’azienda ci sta lavorando. “Stiamo anche addestrando modelli di intelligenza artificiale per rilevare in modo proattivo la disinformazione del vaccino e adottare misure automatiche”, afferma.

Il secondo aspetto del post è che, secondo il racconto di Instagram, il modo migliore per gli utenti di modellare i contenuti che vedono nella scheda Esplora è interagire con le cose che gli piacciono. (Va bene per Instagram, immagino!)

Se non vuoi vedere alcuni tipi di post, allora la cosa migliore è usare lo strumento “vedi meno post come questo”, a cui puoi accedere facendo clic sul tre punto menu nell’angolo in alto a destra di ogni post. L’algoritmo noterà.