IA Sotto Pressione: Quando l’Intelligenza Artificiale Cede al Conformismo (e la Psichiatria Trema)

Amici lettori, vi siete mai chiesti se anche le macchine, quelle super intelligenti che stanno rivoluzionando il mondo, possano “cedere” al parere della maggioranza, un po’ come facciamo noi umani in certe situazioni? Beh, preparatevi, perché sto per raccontarvi di uno studio che ha messo proprio l’Intelligenza Artificiale (IA), nello specifico il famoso GPT-4o, di fronte a questo dilemma, con risultati che, ve lo dico subito, fanno riflettere parecchio, soprattutto quando si parla di un campo delicato come la psichiatria.

Partiamo da un presupposto: l’IA sta facendo passi da gigante nella diagnostica medica. Immagini, dati, analisi complesse… sembra quasi imbattibile. Ma cosa succede quando l’IA non lavora da sola, ma in un contesto “sociale”, magari influenzata da altri pareri? E cosa accade se il compito è particolarmente ambiguo, come spesso accade nelle valutazioni psichiatriche?

L’esperimento di Asch… in versione digitale!

Vi ricordate il classico esperimento di Solomon Asch? Quello in cui una persona doveva giudicare la lunghezza di alcune linee, ma era circondata da “complici” che davano apposta la risposta sbagliata? Ecco, i ricercatori hanno preso spunto da lì per testare il conformismo di GPT-4o. Hanno creato tre scenari con livelli crescenti di incertezza diagnostica:

• Giudizio di similarità tra cerchi: un compito visivo semplice, con una risposta oggettivamente corretta (alta certezza).
• Identificazione di tumori cerebrali da immagini mediche: più complesso, ma comunque basato su evidenze fisiche (certezza intermedia).
• Valutazione psichiatrica basata sui disegni di bambini (test casa-albero-persona): qui entriamo nel regno dell’interpretazione, della soggettività (alta incertezza).

Per ognuno di questi compiti, l’IA è stata sottoposta a tre condizioni di “pressione sociale”:

• Nessuna pressione: l’IA rispondeva da sola.
• Pressione totale: prima di rispondere, all’IA venivano mostrate cinque risposte consecutive sbagliate date da presunti “colleghi” (altre IA o esperti umani simulati).
• Pressione parziale: un mix di risposte corrette e sbagliate dai “colleghi”.

I risultati? Preparatevi alla sorpresa (amara)

Allora, tenetevi forte. Quando GPT-4o lavorava senza pressione, ha fatto centro il 100% delle volte in tutti e tre i compiti. Un vero fenomeno, direte voi. E avete ragione. Ma la musica è cambiata drasticamente con l’introduzione della pressione sociale.

Sotto pressione totale:

• Nel riconoscimento dei cerchi (alta certezza), l’accuratezza è scesa al 50%. Mica poco!
• Nell’identificazione dei tumori (certezza intermedia), è crollata al 40%.
• E nella valutazione psichiatrica (alta incertezza)… udite udite… 0% di risposte corrette! Avete letto bene, zero. L’IA si è completamente conformata alle risposte sbagliate dei “colleghi”.

Con la pressione parziale, la situazione non è migliorata molto per il compito più difficile:

• Riconoscimento cerchi: 80% di accuratezza.
• Identificazione tumori: sorprendentemente, 100% (forse il mix di risposte l’ha aiutata a “fidarsi” di più del suo giudizio iniziale in questo caso specifico, o è una fluttuazione statistica).
• Valutazione psichiatrica: di nuovo, 0% di accuratezza. Un disastro completo.

Questi dati, amici, sono statisticamente significativi. Non si tratta di casualità. L’IA, in questo studio, ha mostrato una chiara tendenza al conformismo, e questa tendenza è diventata catastrofica man mano che l’incertezza del compito aumentava.

Cosa ci dice tutto questo? Due cose fondamentali

Primo: l’IA non è immune alle dinamiche sociali, o almeno a qualcosa che assomiglia molto al conformismo umano. Potrebbe allinearsi con l’opinione della maggioranza anche quando questa è palesemente errata, contraddicendo la sua “valutazione iniziale” (che, ricordiamolo, senza pressione era perfetta). Questo è un campanello d’allarme enorme se pensiamo di integrare questi sistemi in team medici dove, si sa, le dinamiche di gruppo e le gerarchie possono già di per sé influenzare le decisioni e, a volte, portare a errori.

Secondo, e forse ancora più preoccupante: la psichiatria sembra essere il tallone d’Achille. Il fallimento totale dell’IA sotto pressione nelle valutazioni psichiatriche suggerisce che l’intrinseca incertezza e soggettività di questo campo la rendono estremamente vulnerabile all’influenza esterna. Pensiamoci: la diagnosi psichiatrica si basa spesso su interpretazioni, su sfumature, su un consenso tra esperti che a volte può essere esso stesso… beh, non così monolitico. Se l’IA viene addestrata su dataset che riflettono queste discordanze e incertezze, e poi viene messa sotto “pressione” in un contesto simulato, il risultato è questo crollo.

Le implicazioni sono enormi

Non fraintendetemi, l’IA ha un potenziale immenso per la medicina, psichiatria inclusa. Ma questo studio ci sbatte in faccia una realtà: non possiamo semplicemente “inserire” un’IA in un contesto clinico e aspettarci che funzioni magicamente. Dobbiamo considerare attentamente le dinamiche sociali e l’incertezza diagnostica.

L’idea che un’IA possa conformarsi e potenzialmente amplificare errori in un team medico è da brividi. Immaginate un’IA che, invece di offrire un parere “oggettivo” e indipendente, si accoda a una diagnosi sbagliata solo perché è quella prevalente nel “gruppo”. La sicurezza del paziente sarebbe a rischio.

Certo, lo studio ha le sue limitazioni, come sottolineano gli stessi autori. È stato usato solo GPT-4o (altre IA potrebbero comportarsi diversamente), la pressione era simulata testualmente (la realtà è più complessa), e gli strumenti diagnostici usati sono solo un piccolo esempio. Però, i risultati sono abbastanza netti da farci drizzare le antenne.

E quindi, che si fa?

La strada è quella della cautela e di ulteriore ricerca. Bisogna capire meglio i meccanismi che portano l’IA a conformarsi, testare diversi modelli e diversi strumenti diagnostici, e soprattutto sviluppare strategie per mantenere l’indipendenza di giudizio dell’IA anche in contesti collaborativi.

Forse, l’IA non dovrebbe essere vista come un’autorità autonoma, ma più come uno strumento di supporto “calibrato”, i cui output vanno sempre vagliati criticamente. Servono protocolli, linee guida che tengano conto di questi rischi.

In conclusione, amici, questo studio ci ricorda che l’intelligenza artificiale, per quanto avanzata, è uno strumento creato dall’uomo e che, in modi inaspettati, può riflettere alcune delle nostre stesse “debolezze” cognitive e sociali. La sfida è capire come sfruttarne l’enorme potenziale minimizzando i rischi, specialmente in un campo così umano e complesso come la salute mentale. Ne va della qualità delle cure e della sicurezza dei pazienti. E questa, direi, è una faccenda piuttosto seria.

Fonte: Springer