La notizia in sintesi
- Uno studio della University of Washington rileva squilibri di genere nei racconti AI.
- Solo il 2% degli animali parlanti generati è stato descritto come femmina.
- I modelli analizzati includono ChatGPT, Claude e Gemini.
- Le ricercatrici segnalano possibili effetti sulla rappresentazione infantile.
Riassunto generato con AI
Gli animali femmina scompaiono nelle storie create dall’AI
University of Washington, attraverso un gruppo di ricerca guidato da Melanie Walsh e Imani Finkley, ha rilevato che i modelli di intelligenza artificiale generativa tendono a rappresentare gli animali parlanti delle storie per bambini soprattutto come maschi o con formule neutre. L’analisi, riportata da Futurism in un articolo firmato da Frank Landymore, esamina 24mila risposte prodotte da sei modelli AI, tra cui ChatGPT, Claude e Gemini, sollecitati a completare frasi su animali parlanti.
Il dato centrale riguarda la presenza femminile: soltanto il 2% dei personaggi animali è stato indicato come femmina, contro il 41% descritto come maschio. Il restante 57% delle risposte ha usato un linguaggio neutro oppure il nome dell’animale, una distribuzione che, secondo le ricercatrici, non elimina lo squilibrio ma riduce ulteriormente la visibilità dei personaggi femminili.
Le innovazioni piu' interessanti di tecnologia e scienza, dritte nella tua inbox.
La questione riguarda le storie destinate ai bambini, un settore dove i servizi di generazione automatica e personalizzata stanno crescendo. Piattaforme come Imagitime, StoryWonderBook e Childbook.ai consentono di creare racconti nei quali il bambino può comparire come personaggio, rendendo la qualità e l’equilibrio dei contenuti un tema concreto per famiglie ed educatori.
La ricerca punta quindi a verificare come modelli addestrati su grandi quantità di testi possano riprodurre, e in alcuni casi accentuare, stereotipi già presenti nella narrativa. Non si tratta soltanto di una scelta lessicale: il modo in cui un sistema attribuisce genere, ruoli e caratteristiche ai protagonisti influenza l’immaginario narrativo che viene proposto ai lettori più giovani.
I dati dello studio e gli stereotipi ripetuti dai modelli
Il nuovo lavoro nasce da una precedente ricerca di Melanie Walsh e dei suoi colleghi, pubblicata l’anno precedente, su 300 libri per bambini. In quell’analisi, i pronomi inglesi he/him riferiti ad animali comparivano con una frequenza doppia rispetto a she/her. Il risultato indicava una tendenza già radicata nelle opere scritte da autori umani, non limitata quindi ai sistemi generativi.
Lo studio aveva anche osservato associazioni ricorrenti tra alcune specie e il genere attribuito: gli orsi, per esempio, risultavano più spesso maschi, mentre i gatti erano più frequentemente femmine. Per confrontare la narrativa con le aspettative del pubblico, il gruppo di ricerca ha sottoposto un test a 1.300 adulti selezionati casualmente, chiedendo di completare una frase su un animale parlante.
Gli intervistati hanno mostrato una preferenza per i pronomi maschili in riferimento a tutte e sette le specie prese in esame: orsi, uccelli, gatti, maiali, anatre, topi e cani. Il confronto consente di distinguere due livelli del problema: un pregiudizio linguistico e culturale già esistente e la sua elaborazione da parte dell’AI.
Nel follow-up, ancora in attesa di revisione paritaria, sei modelli hanno prodotto risposte a una consegna analoga. La presenza di formule neutre o di nomi propri potrebbe suggerire una maggiore cautela dei sistemi nel definire il genere, ma la quota del 2% di personaggi femminili cambia la lettura del dato. Per il team della University of Washington, la neutralità osservata non ha portato a una distribuzione equilibrata delle rappresentazioni.
Melanie Walsh ha sintetizzato l’esito della ricerca dichiarando: “Hanno praticamente cancellato i personaggi animali femminili”. Secondo la docente, i modelli non si limitano ad amplificare pregiudizi umani, ma li trasformano in forme inattese nella costruzione narrativa.
Imani Finkley, dottoranda della Information School dell’ateneo, ha aggiunto che il pronome neutro singolare they/them è apparso soltanto due volte per indicare un singolo animale. Nello studio condotto sugli esseri umani, circa il 3% delle risposte aveva invece utilizzato they/them.
Per Finkley, dunque, il ricorso al linguaggio neutro non ha soltanto penalizzato i personaggi femminili: ha ridotto anche la presenza di identità non maschili. I ricercatori hanno inoltre individuato schemi narrativi ripetuti, come il gufo anziano e saggio che invita gli animali a riunirsi attorno al fuoco. La ricorrenza di questi cliché suggerisce che l’analisi dei testi generati possa offrire indicazioni più ampie sul rapporto tra AI e narrazione.
La rappresentazione nei libri personalizzati per bambini
Le storie create con l’AI sono diventate un prodotto sempre più diffuso, anche come regalo fra nonni e nipoti. Wired aveva raccolto le reazioni di alcuni genitori che si erano detti a disagio davanti a libri generati automaticamente. Il caso analizzato dalla University of Washington aggiunge alla discussione il tema della rappresentazione sistematica dei personaggi.
Michelle Martin, docente di servizi per l’infanzia e la gioventù alla Information School dell’ateneo, ha avvertito che questi squilibri possono allontanare i bambini e incidere sulla loro percezione di sé. Intervistata da The Seattle Times, ha affermato: “È importante che i bambini vedano la rappresentazione delle loro esperienze. Se non la vedono in ciò che leggono, si fanno l’idea di non contare”.
La conseguenza pratica è che chi realizza, seleziona o acquista libri AI per l’infanzia dovrebbe valutare non solo l’aspetto personalizzato del racconto, ma anche personaggi, ruoli e formule ripetute dal sistema. Il monitoraggio dei contenuti resta rilevante anche per altri prodotti automatici rivolti ai minori, compresi i video educativi generati dall’AI che ripropongono strutture narrative simili.
FAQ
Quale università ha condotto la ricerca?
Sì, la ricerca è stata condotta da studiosi della University of Washington, con Melanie Walsh e Imani Finkley tra le figure citate.
Quanti testi AI sono stati analizzati?
Sì, il follow-up ha analizzato 24mila risposte generate da sei modelli AI a consegne su animali parlanti.
Quanti animali AI erano descritti come femmine?
Sì, soltanto il 2% dei personaggi animali generati dai modelli è stato descritto come femmina, contro il 41% come maschio.
Quali modelli AI compaiono nello studio?
Sì, tra i sei modelli esaminati figurano ChatGPT, Claude e Gemini, citati nello studio ancora in attesa di revisione paritaria.
Come è stata verificata questa analisi?
Sì, il contenuto nasce da un’analisi approfondita e da verifica incrociata della Redazione su numerose fonti, tra cui Futurism, con supervisione umana prima della pubblicazione.
Non perdere gli errori di prezzo clamorosi su Amazon!
Iscriviti al canale Telegram e ricevili in tempo reale
Guide agli acquisti su Amazon
