Il primo marzo del 1954, gli Stati Uniti sganciarono sull'atollo di Bikini, nelle isole Marshall, una bomba a fusione termonucleare trecento volte più potente di quella sganciata su Hiroshima nel 1945. L'operazione, chiamata in codice Castle Bravo, si risolse nel più grave incidente nucleare mai accaduto prima, perché la potenza della bomba risultò non di trecento, ma di mille volte superiore a quella di Hiroshima. Uno dei suoi principali componenti, il litio-7, di cui evidentemente gli scienziati non conoscevano a sufficienza le proprietà, innescò una serie di reazioni che ne triplicarono l'energia. Nel giro di pochi minuti, il fungo atomico raggiunse un'altezza di 40 km, per cui la nube fu soggetta a venti di una forza e direzione del tutto impreviste dagli esperti che ne dovevano calcolare lo spostamento. Il fallout radioattivo colpì due atolli abitati da 67.000 persone che non si riuscì a far evacuare in tempo, mentre l'equipaggio di un peschereccio giapponese, che era in acque considerate sicure, fu colto in pieno dalle radiazioni. Lo stesso accadde all'equipaggio di un aereo militare che doveva osservare la zona del lancio da un'altezza considerata sicura, se tutto fosse andato secondo i piani.

Ma niente andò secondo i piani.

Steven Sloman,  cognitivista canadese docente alla Brown University e Philip Fernbach, già suo allievo e professore di Marketing alla Leeds School of Business della University of Colorado, aprono il loro saggio, L'illusione della conoscenza (Raffaello Cortina Editore), con il racconto di questa tragedia, esempio tragicamente perfetto per introdurre l'argomento del libro: siamo molto più ignoranti di quanto crediamo e la combinazione della nostra presunzione con la potenza della nostra tecnologia è molto pericolosa. Con lo stile scorrevole e divulgativo tipico della saggistica anglo-sassone, gli autori accompagnano il lettore in un percorso che si snoda tra psicologia, informatica, robotica, teoria evolutiva e scienze politiche. Il mondo in cui viviamo, avvertono, è molto complesso e una tecnologia sofisticata domina sempre più quasi ogni aspetto della vita quotidiana: è davvero difficile capire come funzionano gli strumenti che usiamo, mentre usarli è sempre più facile. Allo stesso modo, la tecnologia permette in poco tempo di creare movimenti d'opinione e certezze condivise, non necessariamente fondate su contenuti di verità. Questo rende molto grande la responsabilità dei cittadini, chiamati a esprimere opinioni e giudizi su temi talvolta molto difficili, determinando con le proprie scelte il futuro della collettività. Ma a tendenza naturale delle persone è di prendere posizione seguendo impulsi istintivi, con motivazioni superficiali, senza adeguata informazione, influenzandosi reciprocamente in direzione del rafforzamento delle proprie convinzioni, spesso sfuggendo o rifiutando il confronto con chi la pensa diversamente. Ragioniamo, affermano gli autori, secondo «una mentalità da branco», in cui prese di posizione molto forti non si fondano su una altrettanto forte conoscenza dell'argomento. «Portata alle estreme conseguenze – proseguono – l'impossibilità di renderci conto di quanto poco comprendiamo, combinata con il sostegno della comunità, può innescare meccanismi sociali veramente pericolosi».

Sottrarsi all'illusione della conoscenza, molto più dannosa dell'ignoranza stessa, è necessario per il bene di tutti. 

L'ignoranza, in un mondo complesso che ha alle spalle migliaia di anni di accumulo di conoscenze, è in qualche misura inevitabile. Il vero problema, perciò, non è tanto l'ignoranza ma piuttosto il fatto di credere di sapere molto più di quanto effettivamente sappiamo. Valutare quanto effettivamente sappiamo riguardo a una qualsiasi cosa che diremmo di conoscere bene, avvertono gli autori, è semplice: basta provare a spiegarla a voce alta. Prendete ad esempio lo sciacquone del bagno. Se qualcuno ci chiedesse: sai come funziona? tutti risponderemmo istintivamente di sì. Ma tentando di dire come, ci accorgeremmo molto probabilmente che in realtà, oltre al fatto di dovere spingere un bottone o muovere una manovella, alla fine potremmo dire poco più del numero di telefono dell'idraulico. Infatti, è lui la persona che sa davvero come funziona lo sciacquone, non noi! La risposta affermativa data istintivamente rispecchia una conoscenza di tipo particolare, risultante dalla combinazione di diversi elementi: quello – poco – che è effettivamente nella nostra mente, più quello che è nella mente dell'idraulico, più il numero di telefono e gli orari dell'idraulico stesso. Insomma, la nostra presunta conoscenza risiede in gran parte fuori di noi, in quella che gli autori definiscono la comunità della conoscenza cui ciascuno appartiene.

La mente, dunque, usa il cervello, ma va oltre e comprende «il corpo, l'ambiente e le altre persone», e tutte le fonti d'informazione accessibili. È questa l'origine dell'illusione della conoscenza: noi, infatti, confondiamo quello che sappiamo davvero ed è nella nostra mente, con quello che crediamo di sapere perché si tratta d'informazioni cui abbiamo facile accesso. 

La complessità del mondo, come abbiamo detto, giustifica almeno in parte la nostra ignoranza. Tuttavia, quello che sappiamo è davvero poco e Sloman e Fernbach ci spiegano perché. A questo punto permettetemi un accenno personale. Io tendo a dimenticare i dettagli – nomi, indirizzi, numeri etc. – e spesso me ne sono fatta una colpa, pensando che denotasse leggerezza o poca attenzione per gli altri o peggio. Confesso di avere provato un senso di vero sollievo leggendo che la nostra mente non è fatta per i dettagli (il mio orizzonte si rasserena…!) e che li dimentichiamo semplicemente perché non abbiamo bisogno di ricordarli. Infatti, «il pensiero è un maestro nell'arte di selezionare solo ciò che gli serve rimuovendo tutto il resto», a noi basta sapere dove cercarli al bisogno (il mio orizzonte si rabbuia di nuovo: dove ho scritto il numero dell'idraulico!?!). Dimentichiamo molte cose non per qualche difetto dell'intelletto o del cuore, ma banalmente perché le cose sono veramente tante e davvero complicate e saperle tutte rappresenterebbe per la mente un fardello inutile. Infatti, contrariamente a quanto si pensava agli albori delle scienze cognitivistiche, negli anni Cinquanta, la mente umana non assomiglia a un computer e non è progettata per accumulare dati.

La qual cosa ci porta alla seconda causa delle nostre dimenticanze, ossia la natura della mente – ciò a cui ci serve – e la funzione per la quale si è evoluta: l'azione. Per agire nel modo migliore al fine di raggiungere un determinato obiettivo, è necessaria quella caratteristica esclusivamente umana che è la capacità di astrarre, per «riconoscere come una situazione nuova assomigli a situazioni passate» e agire efficacemente di conseguenza. Ricordare ogni dettaglio, bloccando la mente sul particolare, renderebbe del tutto impossibile l'astrazione e la generalizzazione. 

Il saggio di Sloman e Fernbach si basa sulle ricerche di molti studiosi, tra i quali Michael Tomasello, autore di un saggio importante, Storia naturale della morale umana, da noi recensito qualche tempo fa su queste pagine. In particolare di Tomasello condividono la tesi che la caratteristica vincente della nostra specie, sia stata la capacità di condividere l'intenzionalità. Collaborare e lavorare in sintonia sono stati – e sono ancora – i fattori determinanti per la sopravvivenza e lo sviluppo dell'umanità. Mettersi insieme, dividersi i compiti e agire coordinatamente per un obiettivo comune – qualunque esso sia, dalla caccia al mammut allo sbarco sulla Luna – ci permette di non essere sopraffatti dalla complessità del mondo, nonostante i nostri limiti. Noi – la più fragile delle scimmie, dalla testa troppo grande per venire al mondo con la stessa facilità degli altri animali – siamo sopravvissuti e abbiamo prosperato non solo, e non tanto, per l'intelligenza individuale, ma perché abbiamo saputo costituire delle «comunità di cervelli» in grado d'agire insieme. Abbiamo costruito così delle «comunità della conoscenza» in cui, più della conoscenza individuale, è vitale l'accesso alle informazioni. Condividere l'intenzionalità è qualcosa che le macchine non potranno mai fare, il che ci libera, secondo Sloman e Fernbach, dalla paura che nel prossimo futuro una super-intelligenza prodotta dalla tecnologia prenda il sopravvento sugli umani. Sarebbe possibile soltanto se riuscissimo a costruire delle macchine coscienti, capaci di darsi un obiettivo comune ma, ancor prima, dovremmo capire cos'è la coscienza e la questione è tutt'altro che risolta, come spiega bene il saggio di Joseph LeDoux, Ansia. 

Qualche timore, tuttavia, è prudente conservarlo, perché una forma di super-intelligenza esiste già, composta dall'enorme quantità di persone in grado di connettersi in un attimo e da ogni parte del mondo. Esse costituiscono una comunità globale della conoscenza – cervelli in contatto e informazioni che circolano praticamente in tempo reale – che rappresenta, allo stesso tempo, una garanzia e un pericolo per le società democratiche. L'inclinazione alla mentalità da branco, di cui abbiamo detto, unita all'inconsapevolezza della propria ignoranza possono «innescare meccanismi sociali veramente pericolosi… le società possono diventare dei calderoni nel tentativo di creare un'ideologia uniforme, facendo evaporare pensiero indipendente e opposizione politica per mezzo della propaganda e del terrore». Allora ripartire dal socratico so di non sapere potrebbe essere un buon inizio per evitare qualche sciocchezza di cui, poi, sarebbe inutile pentirsi.