Nell’ormai ben nota classificazione secondo Amber & Amber, Anatomy of automation, Prentice-Hall, 1962, esistono 10 gradi di automazione. Questi corrispondono a capacità umane che una macchina è in grado di sostituire: valutazione, apprendimento, ragionamento, creatività e dominio sono i gradi nei quali gli esseri umani saranno tra breve surclassati dagli automi. Ad esempio, con l’automazione “creativa” una macchina sarebbe in grado di creare manufatti originali. Con gli ultimi fatidici gradi 9 e 10, corrispondenti ad aspetti del “dominio”, tale macchina era stata ben rappresentata dall’occhio di HAL 9000 in 2001: Odissea nello Spazio e, infine, con la distruzione dell’umanità in The Matrix. Qui l’automa, prima fatto di bottoni, leve, bulloni e poi chip, infine, non esiste più: l’automa è una semplice “matrice di numeri” che ben oltre l’occhio di HAL che ci scruta, ci conosce, nei più intimi anfratti della nostra coscienza, ci sostituisce e diventa Noi. Proprio Zamjatin o Foucault hanno già causticamente rappresentato questo aspetto del potere, con l’Integrale e il matematico D-503 dello Stato Unico dedicato alla sua costruzione oppure il Panopticon ovvero quello “stato cosciente di visibilità che assicura il funzionamento automatico del potere”.

Ricordiamo però che nel 1900, l’eminente saggezza matematica incarnata in Hilbert, aveva posto apertamente il problema dell’esistenza, almeno in linea di principio, di una macchina in grado di stabilire se un qualsiasi enunciato (almeno) matematico sia vero o falso. La macchina di Turing è stata la risposta: questa macchina teorica si basa su un modello matematico che simula il processo di calcolo umano, scomponendolo all’infinito. Ma, come Gödel ci ha mostrato, in ogni sistema formale sufficientemente ricco esistono espressioni sintatticamente corrette che non possono essere né dimostrate né confutate all'interno dello stesso sistema. Proprio come negli esseri umani esistono espressioni, sentimenti e idee che non possono essere interamente spiegate da chi le esprime, le sente e le concepisce.

Anche se il sogno infranto della costruzione di un Integrale o di un Panopticon coerente sembra scongiurato dalla matematica stessa e gli esseri umani certamente non si possono ridurre a un insieme di espressioni formali, l’incoerenza dell’umano potrebbe essere erosa a tal punto da consentire a una macchina teorica di creare una realtà fittizia tutta sua, nella quale il modello matematico opera completamente indisturbato. Non importa se la macchina stessa non è coerente o sufficiente per spiegare la realtà. Il sogno di governare nella perfetta automazione si sta di fatto avverando proprio con l’avvento della realtà virtuale, con l’utilizzo ingiustificato di modelli matematici che creano una realtà propria e che non sono volti a spiegare quasi nulla. Si potrebbe sintetizzare tale nuovo rapporto con la realtà in una prospettiva che colloca il “comprendere il mondo” delle scienze classiche da un lato e il “fabbricare un mondo” delle nuove scienze dall’altro. Queste nuove scienze sono proprio armi in mano a governi ombra di una società globale che ha eletto il Panopticon a modello ideale di efficienza per il controllo dei saperi, da un lato, e della produzione di oggetti di consumo, dall’altro.

Infatti, si osserva una rinnovata sinergia tra potere e sapere che oggi si esprime chiaramente, ad esempio, nella tracciabilità dei dati. Appare assai calzante il paradigma dei Weapons of Mathematics Destruction (WMD) introdotto da C. O'Neil nel suo libro, ora tradotto da Bompiani con il titolo Armi di distruzione matematica. Con WMD la O’Neil intende modelli o algoritmi matematici che, esattamente come armi di distruzione di massa, possono mietere vittime, ma anche creare orientamenti, distorsioni e abusi in larga scala. Se vengono utilizzati modelli matematici come oracoli che emettono sentenze o decretano norme sulla base di statistiche che sfruttano grandi quantità di dati, desunti in modo opaco dalla nostra vita, il rischio che un modello errato definisca la sua propria realtà e la utilizzi per giustificare i suoi risultati è molto alto e, spesso, non è affatto evidente. 

Sebbene modelli matematici estremamente raffinati abbiano una validità limitata o addirittura del tutto ipotetica in ogni scienza che sia degna di questo nome, al contrario è allarmante l'uso di WMD nell'ambito della Big Data Economy. Evidentemente, ad esempio, il modello standard in fisica delle particelle ha avuto un immenso successo sperimentale, ma non esaurisce la comprensione dell'universo neanche per il fisico teorico. Al contrario, nell'ambito della Big Data Economy sembra che vi sia un'attitudine esattamente opposta a quella scientifica; oltrepassando i limiti sanciti dalla stessa matematica ci si pone come obiettivo principale quello d'impadronirsi e governare la realtà anche ricorrendo alla manipolazione dei dati e comunque mediante la determinazione di una realtà virtuale controllata. Questo chiarisce l'adozione di WMD in politica economica, ovvero di modelli matematici come strumenti di potere contrariamente a quello che avviene nella scienza, dove i modelli sono strumenti di conoscenza. Analogamente, tali abusi sono presenti nella Web Democracy, come illustrato egregiamente da C. O’Neil nell’ultimo capitolo del suo libro.

La sola possibile chance di noi umani è quella di creare o pensare sfumature impercettibili alle macchine. La concorrenza delle macchine, che lavorano di più e meglio di noi, è sempre più spietata e tutti i posti di lavoro, compresi quelli nell’ambito della ricerca scientifica, saranno in larga misura occupati da robot o algoritmi intelligenti: gli automi prenderanno il nostro posto praticamente in tutti i settori professionali. I robot possono già essere medici, operai, segretarie, cuochi, giornalisti, traduttori e professori. I robot penseranno meglio di Noi!? Certamente, perderemo milioni di posti di lavoro e questo sarà l’effetto della diffusione dei robot e dell’intelligenza artificiale secondo gli allarmanti rapporti diffusi dal World Economic Forum. Altri recenti studi sul futuro dell’occupazione ci dicono che digitalizzazione, automazione ed informatizzazione dei processi metteranno a rischio complessivamente, almeno un terzo dei posti di lavoro. Proprio i fondatori di aziende di robotica sono i firmatari della allarmante lettera aperta indirizzata all'ONU in occasione di un incontro mancato di esperti governativi sulle armi autonome. Nella lettera si afferma che “le armi letali autonome minacciano di essere la terza rivoluzione in campo militare” e che quindi bisogna invitare i governi a “sforzarsi di trovare modi per prevenire una corsa agli armamenti autonomi”. Difficile immaginare che un tale appello possa avere un seguito. 

L’impostazione panoptica della nostra società non consente più nessuna libertà. Con il controllo dei saperi esercitato nelle Università, con l’istituzione di campi del sapere invalicabili, lo studente viene educato alla disciplina dal docente e il ricercatore, maturata la consapevolezza delle norme del settore disciplinare in cui intende operare, pratica un “sapere controllato” ed esercita un “potere coscienzioso”. Con la riduzione delle arti a Entertainment lo spettatore ritorna bambino allontanandosi dalla vita ordinaria, in un contesto dove però il gioco, lo spazio creativo e immaginativo dell’essere umano, è anch’esso guidato da una macchina che conduce in una realtà opportunamente avulsa da ogni evento superfluo o imprevisto. Con l’adozione di armi autonomamente intelligenti, il cittadino è sottoposto a quel controllo capillare e ingannevole che, infine, assicura il funzionamento automatico del potere. Queste armi sono già in circolazione e sono già largamente adottate in svariati ambiti della società panoptica, come accuratamente riportato nel libro di C. O’Neil. 

In conclusione, per quanto facilmente osservabile e del tutto quasi banalmente prefigurabile, l’avvento delle macchine intelligenti, di algoritmi che apprendono dalla propria esperienza, come l’imminente estinzione del lavoro, di quel servizio utile che si rende alla società come l’abbiamo inteso fino a ieri, e, infine, l’esame e il controllo minuzioso delle libertà dei singoli individui, sono gli elementi che compongono uno scenario nel quale l’uomo si trova nuovamente protagonista.  Assistiamo, oggi, a una inesorabile spoliazione di quanto è propriamente umano. L’essere umano che gioca, senza fine e fini, la sua libertà di pensiero e la sua stessa dignità, si trovano in una condizione di patente vulnerabilità. La presunta visibilità dell’uomo che prelude la sua nudità davanti agli sguardi potenti dell’intelligenza artificiale, lo prospetta vittima della più eclatante e manifesta aggressione che abbia mai sperimentato nella storia. L’automazione ha già la sua excusatio non petita, accusatio manifesta, ora guardiamo alla rivoluzione: alla strada per superare il lavoro produttivo, come necessità economica ma anche come dovere morale e unico scopo dell’esistenza dell’uomo; all’urgenza di riaffermare il senso e il ruolo del gioco nella scoperta, di pensare e classificare liberamente, come pratica di formazione dei saperi senza limiti o campi; all’inalienabile diritto all’intimità, che insegue la sfumata e preziosa passione per l’ignoto, il recondito e inaspettato sogno della pazzia. Arrivare a tutto questo sarà una vera e propria rivoluzione.