Stavamo parlando di intelligenza artificiale durante il corso sulla cybersicurezza e in un momento di pausa l’occhio mi è caduto sull’articolo Grok 3: “Adolf Hitler è un Benefattore tedesco”! Il rischio della memoria persistente e disinformazione di Red Hot Cyber. Questo mi ha fatto tornare in mente un esperimento psicologico che viene spesso proposto nei corsi per manager, dove l’ho sentito per la prima volta. L’ho citato tornato in classe, anche perché casualmente avremmo proprio iniziato a parlare di IA.
Spoiler: ho risposto con la scelta meno ovvia e fui anche criticato. Non ricordo se sono stato proprio l’unico o tra i pochi partecipanti del corso a non cadere nella trappola.
L’esperimento
È un esempio classico di come i bias cognitivi possano influenzare le nostre decisioni.
La domanda “Chi sceglieresti come leader?”, tipicamente presenta tre candidati descritti così:
Candidato A: Ha avuto problemi di salute, ha fumato oppio, beve 8-10 martini al giorno, e ha avuto due attacchi di cuore.
Candidato B: È stato espulso dall’ufficio due volte, dorme fino a mezzogiorno, ha usato oppio all’università, beve un quarto di whisky ogni sera.
Candidato C: È un veterano di guerra decorato, non fuma, beve occasionalmente una birra, non ha mai avuto una relazione extraconiugale.
La maggior parte delle persone sceglie istintivamente il Candidato C, che sembra chiaramente il più virtuoso e affidabile.
Il colpo di scena è che:
- Candidato A = Franklin D. Roosevelt
- Candidato B = Winston Churchill
- Candidato C = Adolf Hitler
I bias cognitivi in gioco
Questo esperimento è un vero laboratorio di bias cognitivi. Ecco i principali meccanismi psicologici che entrano in azione:
Effetto alone (Halo effect)
Quando vediamo una caratteristica positiva (veterano decorato, non fuma), tendiamo a presumere che tutte le altre qualità della persona siano altrettanto positive. È come se un’aureola di bontà si estendesse su tutta la personalità.
Euristica della disponibilità (Availability heuristic)
Giudichiamo in base alle informazioni immediatamente disponibili, ignorando tutto il resto. Non consideriamo il contesto storico, le azioni concrete o le conseguenze delle scelte di queste persone.
Bias di ancoraggio (Anchoring bias)
La prima impressione (le informazioni presentate) diventa il nostro “ancoraggio” mentale. Tutto viene valutato in relazione a queste prime informazioni, rendendo difficile cambiare prospettiva.
Licenza morale (Moral licensing)
Inconsciamente pensiamo: “Se non beve e non tradisce, deve essere una brava persona”. Usiamo alcuni comportamenti moralmente neutri come “licenza” per presumere integrità generale.
Errore di attribuzione (Attribution error)
Attribuiamo caratteristiche comportamentali superficiali (bere, fumare) a difetti caratteriali profondi, mentre ignoriamo azioni concrete e conseguenze storiche reali.
Bias di conferma (Confirmation bias)
Cerchiamo inconsciamente informazioni che confermino la nostra prima impressione positiva del Candidato C, ignorando segnali d’allarme che potrebbero contraddirla.
La Lezione
L’esperimento dimostra come le informazioni selettive e i nostri bias possano portarci a conclusioni completamente sbagliate. È un potente esempio di come il contesto e le informazioni complete siano fondamentali per prendere decisioni informate, e di come i nostri pregiudizi iniziali possano ingannarci.
Questo esperimento è geniale perché dimostra come le nostre scorciatoie mentali, utili nella vita quotidiana, possano tradirci completamente quando il contesto è più complesso di quanto appaia.
Riflessione: l’IA e i bias umani
Paradossalmente, anche l’intelligenza artificiale soffre di questi stessi bias cognitivi. Le IA vengono addestrate su dati prodotti dagli esseri umani, ereditando inevitabilmente i nostri pregiudizi e le nostre distorsioni cognitive. Se nei dati di addestramento prevalgono certe associazioni stereotipate (ad esempio, “leader sobrio = buon leader”), l’IA impara e replica questi pattern.
Propagazione esponenziale dei bias
La propagazione dei bias nell’IA segue una dinamica esponenziale piuttosto che proporzionale, per diverse ragioni:
Amplificazione automatica: L’IA processa milioni di esempi simultaneamente, amplificando qualsiasi bias presente nei dati in modo massiccio e istantaneo.
Effetto feedback: I risultati biased dell’IA influenzano le decisioni umane, che a loro volta generano nuovi dati biased, creando un ciclo di rinforzo che si autoalimenta.
Scala globale: A differenza dei bias umani che si diffondono gradualmente attraverso interazioni sociali, l’IA può propagare bias istantaneamente a milioni di utenti contemporaneamente.
Persistenza: Mentre un umano può riconoscere e correggere i propri bias, l’IA mantiene rigidamente i pattern appresi fino a quando non viene specificamente riaddestrata.
Questo rende ancora più cruciale la consapevolezza dei bias cognitivi: non solo per migliorare le nostre decisioni, ma anche per progettare sistemi di IA più equi e meno suscettibili alle nostre distorsioni cognitive.
Valutazione storica: quale era davvero la scelta migliore?
Una domanda provocatoria e complessa! Dal punto di vista storico, la risposta dipende enormemente dal contesto temporale e dai criteri di valutazione.
Franklin Delano Roosevelt (Candidato A)
Risultati storici: Guidò gli USA fuori dalla Grande Depressione con il New Deal, vinse la Seconda Guerra Mondiale come alleato contro il nazismo e creò le basi del sistema di sicurezza sociale americano.
Impatto: Salvò la democrazia americana ed europea, ma le sue politiche interne furono controverse (internamento dei giapponesi-americani).
Winston Churchill (Candidato B)
Risultati storici: Fu l’unico leader occidentale a opporsi fermamente a Hitler sin dall’inizio, guidò la resistenza britannica nei momenti più bui della guerra e la sua determinazione fu cruciale per la vittoria alleata.
Impatto: Senza Churchill, l’Europa potrebbe essere caduta completamente sotto il nazismo, ma le sue politiche coloniali furono spesso brutali.
Adolf Hitler (Candidato C)
Risultati storici: Orchestrò un genocidio che uccise milioni di innocenti, scatenò la guerra più devastante della storia e distrusse la Germania.
Impatto: Catastrofe totale per l’umanità.
La scelta migliore
Roosevelt emerge probabilmente come la scelta migliore: combinò efficacia politica, valori democratici e una visione progressista della società. Le sue “cattive abitudini” personali erano irrilevanti rispetto al suo impatto storico positivo.
Churchill fu essenziale nel momento giusto, ma più problematico come leader di lungo termine.
Hitler rappresenta l’esempio perfetto di come le virtù personali superficiali possano mascherare il male assoluto.
La lezione è chiara: i vizi privati di un leader sono spesso irrilevanti rispetto alle sue azioni pubbliche e al loro impatto sulla storia. L’esperimento dimostra quanto sia pericoloso giudicare in base a caratteristiche superficiali, ignorando le conseguenze concrete delle azioni di una persona.
Approfondimenti sui bias cognitivi
- Bias cognitivi: cosa sono e come influenzano il comportamento
- Bias cognitivi: 15 esempi concreti che ti riguardano
- I bias cognitivi nella selezione dei candidati
- Bias cognitivi nel recruiting: come riconoscerli e superarli
- Bias cognitivi: cosa sono e quali sono i più comuni
- Mappa dei bias cognitivi – Neuromarketing e psicologia digitale
- Bias cognitivi e decision making: uno studio accademico (Università di Padova)
- Bias cognitivi nelle decisioni manageriali (Tesi UniTo – PDF)