L’IA Detective: Smascheriamo i Pregiudizi Genetici Nascosti nei Media!

Ciao a tutti! Oggi voglio parlarvi di qualcosa che mi affascina e, allo stesso tempo, mi preoccupa un po’: come parliamo di genetica, specialmente quando entrano in gioco i media. Sapete, c’è questa tendenza, a volte inconscia, a pensare ai geni come a una specie di “destino scritto”, un’essenza immutabile che definisce chi siamo e cosa possiamo diventare. Questo modo di pensare si chiama essenzialismo genetico, ed è un tipo di bias cognitivo, un errore di ragionamento, che può avere conseguenze non da poco.

Pensateci: quante volte abbiamo sentito parlare del “gene dell’obesità”, del “gene dell’intelligenza” o persino del “gene gay”? Sembra semplice, no? Un gene, una caratteristica. Peccato che la realtà sia infinitamente più complessa. La maggior parte dei nostri tratti sono influenzati da tantissimi geni che interagiscono tra loro e, soprattutto, con l’ambiente in cui viviamo. Ridurre tutto a un singolo gene o pensare che i geni determinino tutto in modo ineluttabile è, nella maggior parte dei casi, scientificamente sbagliato.

E qui entrano in gioco i media. Spesso, nel tentativo di semplificare o rendere più “sensazionale” una notizia scientifica, finiscono per rafforzare questi pregiudizi essenzialisti. Ma come facciamo a capire *quanto* è diffuso questo problema? Leggere e analizzare manualmente migliaia di articoli di giornale è un lavoro improbo. Ed è qui che entra in scena un alleato inaspettato: l’Intelligenza Artificiale, in particolare i famosi Large Language Models (LLM), come quelli che animano ChatGPT.

Ma cosa significa esattamente “Essenzialismo Genetico”?

Prima di tuffarci nell’IA, capiamo meglio il nemico. Gli psicologi Dar-Nimrod e Heine hanno identificato quattro “facce” principali di questo bias:

• Determinismo: L’idea che se hai un certo gene, allora *inevitabilmente* svilupperai una certa caratteristica o malattia. Come dire: “È nei geni, non puoi farci niente”. Ignora completamente il ruolo dell’ambiente, dello stile di vita, ecc.
• Eziologia Specifica: La convinzione che un singolo gene (o pochissimi geni) sia la causa diretta e unica di un tratto complesso. È il classico “gene per X”.
• Naturalismo: Pensare che tutto ciò che ha una base genetica sia “naturale” e, spesso per questo, “giusto” o “moralmente accettabile” (la famosa fallacia naturalistica).
• Omogeneità: Credere che le persone che condividono certi geni formino gruppi distinti e uniformi, quasi come fossero cloni. Questo può portare a stereotipi e a ignorare le enormi differenze individuali.

Questi bias non sono innocui. Nel caso dell’obesità, ad esempio, pensare che sia solo una questione di “geni cattivi” può scoraggiare le persone dall’adottare stili di vita più sani, pensando che tanto sia inutile. Oppure può portare a stigmatizzare le persone obese, vedendole come un gruppo omogeneo definito dalla loro (presunta) genetica.

La Sfida: Come Scovare il Bias Nascosto su Larga Scala?

Immaginate di dover leggere 26.000 articoli di giornale australiani che parlano di obesità, pubblicati tra il 2008 e il 2019, e cercare in ognuno di essi tracce, spesso sottili, di questi quattro bias. Un lavoro da certosini, lento e costoso. Ecco perché abbiamo pensato: e se usassimo gli LLM non per *generare* testo (come fanno di solito), ma per *analizzarlo* e scovare questi pregiudizi? Una sorta di “IA detective”!

L’idea era di addestrare un modello di IA a riconoscere frasi che contenessero uno o più dei quattro bias essenzialisti. Abbiamo preso un campione di frasi da questi articoli, le abbiamo fatte analizzare da esperti umani (io e un collega, entrambi con un background bello solido sull’argomento!) per identificare i bias, e poi abbiamo usato questi dati “etichettati” per insegnare all’IA cosa cercare.

Mettiamo alla Prova l’Intelligenza Artificiale: L’Esperimento

Abbiamo messo alla prova diversi tipi di modelli: alcuni più “tradizionali” (come Naive Bayes e Random Forest) e altri basati sulla tecnologia “transformer” degli LLM (BERT di Google e GPT-3.5-TURBO di OpenAI). La vera star si è rivelata una versione “potenziata” di GPT-3.5.

Cosa significa “potenziata”? Beh, non ci siamo limitati a dare all’IA le definizioni dei bias. Abbiamo usato delle tecniche di “prompt engineering” piuttosto furbe:

• Chain of Thought (Catena di Pensiero): Invece di chiedere solo “questa frase è deterministica?”, abbiamo mostrato all’IA degli esempi di *come* si arriva a quella conclusione, passo dopo passo. Tipo: “Vedi questa frase? Dice ‘i geni programmano il comportamento’. Questo suggerisce inevitabilità, quindi è determinismo. Capito?”.
• Self Consistency (Autocoerenza): Abbiamo chiesto all’IA di fare lo stesso ragionamento più volte (tre, nel nostro caso) e poi di scegliere la risposta più frequente, un po’ come chiedere un secondo e terzo parere per essere più sicuri.
• Piccoli Trucchi Aggiuntivi: Abbiamo scoperto che far generare all’IA prima la *spiegazione* e poi la *classificazione* migliorava i risultati. E per il bias di Omogeneità, siamo stati più severi: l’IA doveva essere *unanimemente* convinta che ci fosse il bias per classificarlo come tale.

Il risultato? Il nostro modello GPT “potenziato” è diventato bravo quasi quanto gli esperti umani a riconoscere questi bias! Un risultato pazzesco, che dimostra il potenziale enorme di questi strumenti.

Cosa Abbiamo Scoperto nei Giornali Australiani sull’Obesità?

Armati del nostro super-detective IA, abbiamo sguinzagliato il modello sull’intero corpus di 26.000 articoli. Ecco le scoperte più interessanti:

1. I geni non sono onnipresenti: Contrariamente a quanto si potrebbe pensare (la famosa “genohype”), meno del 10% degli articoli sull’obesità menzionava effettivamente concetti legati ai geni. Quindi, non c’è un’ossessione mediatica per la genetica dell’obesità, almeno in Australia in quel periodo.
2. MA… quando se ne parla, spesso è in modo distorto: Qui casca l’asino. Di quegli articoli che *menzionavano* i geni, quasi un terzo (il 31.26%) conteneva almeno uno dei nostri quattro bias essenzialisti. Insomma, quando si tira in ballo la genetica, è facile cadere in semplificazioni pericolose.
3. Quali bias dominano? A livello di singole frasi, il bias più comune è risultato l’Eziologia Specifica (il “gene per l’obesità”, circa il 43% dei bias trovati), seguito a ruota dal Determinismo (i geni come destino, circa il 33%). Molto meno frequenti l’Omogeneità (16%) e soprattutto il Naturalismo (solo il 7.6%). Quest’ultimo dato è interessante: forse l’obesità è vista così negativamente che è difficile considerarla “naturale” e quindi “accettabile”, anche quando se ne invoca una causa genetica.
4. I bias amano la compagnia: Spesso, i bias non vengono da soli. Abbiamo trovato molte frasi e articoli che combinavano, ad esempio, Eziologia Specifica e Omogeneità (il “gene X” definisce il “gruppo Y”), oppure Determinismo ed Eziologia Specifica (il “gene X” *causa inevitabilmente* il tratto Y). Questo mix può essere particolarmente potente nel rafforzare stereotipi e atteggiamenti fatalistici.
5. Differenze tra testate? Poche, ma significative: In generale, la “tendenza” a usare linguaggi essenzialisti era simile tra le varie testate giornalistiche, una volta tenuto conto di quanti articoli pubblicavano e quanto parlavano di geni. C’erano però delle eccezioni: il Brisbane Times, pur parlando poco di geni, tendeva a farlo in modo più “biased” della media, mentre il Sydney Morning Herald, pur essendo la testata con più bias in assoluto (perché pubblicava molti più articoli sull’argomento), in proporzione era tra le meno “biased”.

Perché Tutto Questo Dovrebbe Importarci?

Potreste pensare: “Vabbè, qualche frase un po’ imprecisa sui giornali, che sarà mai?”. E invece, le implicazioni sono profonde. Come dicevo, credere che l’obesità (o qualsiasi altra condizione complessa) sia puramente determinata dai geni può:

• Influenzare negativamente i comportamenti: Se penso che il mio peso sia scritto nel DNA, sarò meno motivato a mangiare sano e fare attività fisica? La ricerca suggerisce di sì.
• Alimentare lo stigma e la discriminazione: Vedere le persone obese come un gruppo omogeneo definito da una “tara” genetica può rafforzare pregiudizi e atteggiamenti negativi.
• Creare profezie che si autoavverano: Se la società mi etichetta come “geneticamente predisposto” a certi comportamenti (es. pigrizia associata all’obesità), potrei finire per interiorizzare quell’etichetta e comportarmi di conseguenza.

Questo studio suggerisce che la comunicazione mediatica, anche quando non è *ossessionata* dalla genetica, può comunque contribuire a creare un “ambiente informativo” che favorisce questi bias. È come se la disinformazione o l’informazione distorta sull’influenza dei geni fosse un altro pezzetto di quell'”ambiente obesogeno” di cui tanto si parla, che non è fatto solo di cibo spazzatura e sedentarietà, ma anche di idee sbagliate.

Uno Sguardo al Futuro: L’IA come Alleata della Consapevolezza

La cosa davvero entusiasmante di questo lavoro, per me, è duplice. Da un lato, abbiamo gettato un po’ di luce su come i media trattano un tema delicato come la genetica dell’obesità, confermando che, anche se non se ne parla tantissimo, quando lo si fa, bisogna stare attenti ai bias.

Dall’altro lato, e forse è l’aspetto più rivoluzionario, abbiamo dimostrato che gli LLM possono essere strumenti potentissimi per *rilevare* questi bias su larga scala, con un’accuratezza paragonabile a quella umana. Questo apre scenari incredibili: potremmo usare tecniche simili per monitorare altri tipi di bias (razziali, di genere, ecc.) in diversi contesti (social media, discorsi politici, persino letteratura scientifica!). Potremmo analizzare come si parla di altre condizioni legate alla genetica, dalla salute mentale alle malattie complesse.

Certo, la tecnologia non è perfetta e va usata con criterio e consapevolezza dei propri limiti e dei “valori” che incorporiamo quando la addestriamo (ad esempio, nel nostro caso abbiamo preferito essere più cauti e rischiare di mancare qualche bias piuttosto che etichettare erroneamente una frase come “biased”). Ma il potenziale è enorme.

Insomma, l’Intelligenza Artificiale, spesso vista con sospetto per la sua capacità di generare disinformazione o perpetuare bias, potrebbe rivelarsi anche una nostra preziosa alleata per diventare più consapevoli dei pregiudizi che si annidano nel linguaggio che usiamo ogni giorno. E capire come parliamo è il primo passo per iniziare a parlare – e pensare – meglio.

Fonte: Springer