Come vivremo nel “capitalismo della sorveglianza” descritto e analizzato da Shoshana Zuboff? Ha provato a raccontarlo Marc-Uwe Kling, cabarettista berlinese che ha studiato teatro e filosofia, in QualityLand (trad. di Elena Papaleo, Feltrinelli, 2020). Il romanzo distopico è ambientato in un futuro non troppo lontano, in un mondo dove tutto è calcolato e ridotto a numero, dunque governabile grazie agli algoritmi. 

Protagonista è Peter Disoccupato (i personaggi prendono il cognome da uno dei genitori), che di mestiere fa lo sfasciacarrozze: o meglio, distrugge elettrodomestici e robot guasti od obsoleti. A QualityLand – nel romanzo e nella città distopica – i cittadini hanno un punteggio: come sta iniziando ad accadere esplicitamente in Cina e (a nostra insaputa) anche in tutto il resto del mondo. La scala della reputazione va da 0 a 100. Chi scende sotto i 10 punti inizia a perdere gli amici, perché la relazione con un “inutile” dà un punteggio negativo. Gli algoritmi decidono gli accoppiamenti e magari propongono opzioni migliori: “Se vuoi che la vostra separazione sia più facile per il tuo ex, inviagli un buono per una nuova compagna QualityPartner del suo livello”. È possibile persino prevedere, testando i due DNA, l'aspetto della futura prole. Gli algoritmi scrivono bestseller in grado di soddisfare il gusto del pubblico. L'androide Kalliope 7.3 si vanta: “Il mio primo romanzo è rimasto in vetta alle classifiche per sedici settimane!” Gli algoritmi decidono quello che desideriamo, e dunque quello che dobbiamo acquistare. Peter Disoccupato, appena abbandonato dall'ambiziosa fidanzata algoritmica, riceve un vibratore rosa a forma di delfino: a recapitarlo è un drone inviato da TheShop, “l'azienda di commercio elettronico più amata al mondo”. Lui non lo vuole, ma l'algoritmo non può sbagliare: ammettere l'errore metterebbe in crisi tutto il sistema.

Quello che accade a QualityLand sta iniziando ad sta accadere oggi, più o meno, su siti come Tinder, Google, Netflix, Facebook o Amazon. I bot scrivono articoli di economia e sport per siti e giornali. I dati raccolti dai nostri profili (intrecciati con quelli relativi al nostro conto corrente) determinano quello che vediamo nei nostri browser: ovvero quello che ci deve piacere e che dobbiamo acquistare, vedere, leggere, ascoltare, indossare. 

In questo mondo un po' troppo simile al nostro, i robot tolgono il lavoro agli umani, creando milioni di disoccupati incazzati e potenziali luddisti. Nel frattempo i ricchi e i famosi diventano invisibili a smartphone e telecamere: la privacy è un privilegio di classe, uno status symbol. 

Il romanzo QualityLand viene commercializzato dall'editore Feltrinelli in due versioni, una per ottimisti l'altra per pessimisti: il plot è lo stesso, cambiano il colore della copertina e, all'interno, le pubblicità e le chat che inframmezzano il racconto: “Sei stanco della tua vita? Semplice! Abbonati a quella di un altro!”, così potrai vivere “l'esperienza del più grande pornostar del mondo” o le imprese di Rodrigo Camionista che “uccide i terroristi per noi”. In Germania QualityLand è uscito nel 2017 e ha venduto più di 700.000 copie. I personaggi e la trama sono quelli facili facili di un fumetto o di una serie tv. Ci sta già lavorando per una serie HBO Mike Judge, uno dei creatori di Silicon Valley. Potrebbe venirne fuori un Black Mirror, però comico e sgangheratamente grottesco (vedremo come se la caveranno a inserire nella programmazione televisiva i finti spot immaginati da Kling).

A QualityLand si parla anche di politica. È in corso una campagna elettorale che vede tra i protagonisti un bellissimo e intelligentissimo androide, John Di Noi, in ballottaggio contro il populista Conrad Cuoco. L'algoritmo è in grado di prevedere le scelte elettorali di ogni cittadino: in una democrazia ridotta a involucro vuoto, le elezioni sono una semplice ma inutile formalità burocratica.

Nella vita reale Brittany Kaiser si è ritrovata in un incubo simile a quello in cui sprofonda Peter Disoccupato. Si è raccontata nell'illuminante La dittatura dei dati. La talpa di Cambridge Analytica svela come i big data e i social vengono usati per manipolarci e minacciare la democrazia (traduzione di Caterina Chiappa, Harper Collins, 2019, 20 €). Brittany è anche tra i protagonisti del documentario di Karim Amer e Jehane Noujaim The Great Hack – Privacy violata (2019, disponibile su Netflix), insieme a Carole Cadwalladr, la giornalista del “Guardian” che ha fatto scoppiare lo scandalo (la sua TED Talk su Facebook's role in Brexit – and the threat to democracy), e al professor David Carroll, che ha portato Cambridge Analytica in tribunale chiedendo i propri dati (il TED Talk di David Carroll: How I sued Cambridge Analytica over my personal data). 

Appassionata democratica, volontaria nei comitati elettorali per Barack Obama, impegnata in campagne per i diritti umani in vari angoli “caldi” del pianeta, la giovane Brittany viene assoldata dal brillante e affascinante britannico Alexander Nix. Brittany diventa la business unit development director dell'azienda: deve procacciare clienti in tutto il mondo. Finalmente un lavoro appassionante, uno stipendio che le consente di sostenere i genitori dopo la bancarotta, contatti ravvicinati con i potenti del pianeta. La liberal americana sostiene la campagna elettorale di Donald Trump, diventa socia della American Rifle Association (i lobbisti delle armi che sostengono da sempre la destra USA), frequenta i club dove Nix gioca a polo, dà il suo determinante contributo alla Brexit. Quando entra a casa Trump, nella Trump Tower, resta sorpresa: “Ma questo posto l'ho già visto!”. Le spiegano che era il set del talent The Apprentice, che ha fatto di Trump una star mediatica. Adesso è il quartier generale della sua campagna elettorale. Comico e politico in cortocircuito.

Alexander Nix – insieme all'ideologo della Alt-right Steve Bannon e con i miliardi della famiglia Mercer, il padre Bob e la figlia Rebekah – è l'anima di Cambridge Analytica, l'azienda che ha deciso l'esito di diverse elezioni: prima nel cosiddetto “terzo mondo” e poi negli USA e nel Regno Unito. Lo scandalo Cambridge Analytica ha portato Mark Zuckerberg a rendere una imbarazzata testimonianza di fronte al congresso americano (vedi Oliviero Ponte di Pino, Cosa avrei chiesto a Mark Zuckerberg).

L'arma di distrazione di massa, finita illecitamente nelle mani di Cambridge Analytica, erano i data point di milioni di cittadini – in pratica l'intero elettorato: 

“Nelle brochure e nelle presentazioni di Power Point dichiaravamo apertamente di possedere i dati di 240 milioni di americani, comprese i 30 milioni di informazioni di utenti Facebook con una media di 570 punti dati individuali a utente” (p. 177). 

Kaiser si inquieta quando scopre che sullo scaffale dietro la scrivania di Alexander Nix sono allineati diversi libri dedicati all'ascesa di fascismo e nazismo: “La raccolta dati dei cittadini tedeschi, tramite cui i nazisti avevano potuto suddividere la popolazione in ebrei, rom, disabili e omosessuali, aveva reso possibile l'Olocausto e la sua brutale efficienza” (p. 152).

La “bestia” messa a punto da Cambridge Analytica non si limitava a censire l'orientamento politico di ogni cittadino, ma lavorava per influenzarlo, senza alcuna consapevolezza da parte dell'interessato. Il primo passo era l'acquisizione del maggior numero di dati sul maggior numero di cittadini possibili. Ricercatori come il professor Aleksandr Kogan chiedevano a Facebook di raccogliere dati attraverso test psicologici. L'azienda di Zuckerberg ha consentito l'accesso ai dati di chi si sottoponeva a quei test in apparenza innocenti, e anche ai loro amici di Facebook: poche migliaia di adesioni bastavano a intercettare decine di migliaia di profili. Il secondo passo consisteva nell'utilizzo sistematico dei test della personalità, con il sistema di valutazione OCEAN, che misura cinque variabili: “apertura (O [openness], coscienziosità (C), estroversione (E), disponibilità (A [agreeableness]) e nevrosi (N)”. 

A questo punto, dopo aver classificato e “diagnosticato” milioni di persone, il “metodo Cambridge Analytica” consentiva di:
#1 “segmentare le persone in gruppi molto più sofisticati”, con una efficacia assai superiore a quella dei tradizionali sondaggi; “dopo aver assegnato le varie sottocategorie, CA aggiungeva i temi verso i quali le persone avevano già mostrato interesse”;

#2 offrire analisi predittive molto più precise (fino al 95% di accuratezza), calcolando con quale percentuale di probabilità un elettore avrebbe votato un determinato candidato;

#3 capire su quale piattaforma quell'elettore passasse la maggior parte del suo tempo (Twitter, Facebook, Pandora, Youtube, oppure la televisione o Google);

#4 interagire direttamente con l'interessato attraverso un messaggio mirato, sia online sia sul terreno sia telefonicamente, con il supporto di Ripon, “un software studiato per chi svolgeva propaganda elettorale casa per casa o per chi gestiva operazioni bancarie tramite telefono. Il programma consentiva a chi lo utilizzava di accedere ai dati di qualcuno semplicemente avvicinandosi alla sua abitazione o chiamandolo al telefono”, offrendo anche “una strategia appropriata”;

#5 “formulare i contenuti delle campagne” con una “strategia di microtargeting che consisteva nell'inviare a specifici target qualsiasi tipo di messaggio (…) tramite un sistema automatico che perfezionava di continuo i contenuti”.

Con questo poderoso sostegno (e un adeguato budget) “era possibile monitorare fino a diecimila differenti campagne contemporaneamente” (pp. 105-110). 

Anche Barack Obama, nelle sue campagne elettorali, aveva utilizzato con abilità i social network, tanto da cambiarne la storia: nel 2007 il suo account personale “divenne la prima pagina pubblica di Facebook”. Venne seguito ben presto da altri politici, oltre che da musicisti, attori e celebrities varie. I consulenti di Obama “superarono la tradizionale classificazione in base agli aspetti demografici, al genere e al partito di appartenenza, concentrandosi invece sulla preferenza del candidato, sulle probabilità di affluenza al voto, sulle cause sostenute e su temi specifici come la sanità e il lavoro” (p. 185).

La “bestia” di Cambridge Analytica (utilizzata da Donald Trump e da Leave.eu) era molto più precisa ed efficiente dei concorrenti, anche grazie a dati di cui non avrebbe potuto disporre e che aveva dichiarato di avere cancellato (nessuno aveva controllato). Il sistema permetteva di concentrarsi sugli elettori “volatili” nei collegi “incerti”, i collegi chiave: poche decine di migliaia di cittadini che potevano decidere il destino dell'intera nazione. Non si trattava però di convincere l'elettore con motivazioni razionali. Il modello puntava a cambiare l'orientamento dell'elettore con messaggi mirati, basati non solo sui suoi dati personali ma anche sul suo profilo psicologico e sulla sua situazione emotiva. Come spiegava Brittany Kaiser ai suoi clienti, si trattava di “capire le necessità individuali in termini di mobilitazione, persuasione o supporto”. A quel punto era possibile pianificare la comunicazione indirizzata ai diversi microtarget:

“I messaggi erano confezionati su misura, in base ai bisogni di ciascun elettore. Uno stoico che considerava importante la sicurezza nazionale, l'immigrazione e i principi morali tradizionali, avrebbe ricevuto messaggi contenenti parole come tradizione, valore, passato, azione e risultati. (…) Il messaggio indirizzato a una badante sarebbe stato completamente diverso. Avrebbe fatto leva sulla famiglia, utilizzando parole come comunità, onestà e società, e avrebbe usato toni confortanti. (…) Gli individualisti dell'Iowa avrebbero invece risposto meglio ad altri contenuti (…) parole che evocavano un senso di risolutezza e protezione” (pp. 208-209).

Una strategia efficace ma costosa: “Solo per quanto riguardava Cambridge, la campagna di Trump aveva speso 100 milioni di dollari nella propaganda digitale, gran parte della quale era avvenuta su Facebook” (p. 226). Convincere l'elettore non è mai facile: “In media, una persona doveva vedere un contenuto dalle cinque alle sette volte prima di poterci cliccare sopra” (p. 261). In alcuni casi, sono servite “9 milioni di reazioni per ottenere una conversione”. Per un gruppo di 100.000 afroamericani “persuadibili” in Georgia, sono state necessarie più di un milione di reazioni e 55.000 dollari” (p. 262-263).

Non è difficile capire la riluttanza di Zuckerberg a limitare o controllare la propaganda politica: ai suoi top clients politici offriva il “customer service plus (servizio clienti avanzato)”, che insegnava ad “aggregare persone con caratteristiche simili (lookalike), creare tipi di pubblico personalizzato (custom audiences), e anche di implementare le cosiddette dark ads, ovvero quei contenuti che solo determinate persone vedranno sulla propria bacheca” (p. 227). Chi utilizza questi strumenti ha un ulteriore vantaggio: il dashboard Siphon, che metteva in relazione i dati degli elettori con il costo degli spazi pubblicitari, consentiva in tempo reale di “fare aggiustamenti strategici legati alla spesa in base alle performance di ogni campagna di propaganda” (p. 259). “Piattaforme di analisi del sentiment” come Synthesio o Crimson, misurando l'effetto positivo o negativo dei tweet e dei post, consentivano di “calibrare l'audio, il colore e la didascalia” (p. 260). 

Questi metodi sono serviti anche per lanciare, testare e valutare messaggi contro gli avversari politici. Che il post sia vero o falso, poco importa, basta che sia efficace. Lo dimostrano i feroci attacchi contro Hillary Clinton, demolita dalla riproposta ossessiva di un suo intervento del 1996 sulle gang nei ghetti neri. Gli effetti possono essere imprevedibili. Ad alcuni elettori venne mostrato il famigerato video in cui Trump si vantava di sapere come afferrare le donne e fare di loro tutto ciò che voleva: il “modello fica”, come venne soprannominato, dimostrò che “tra i persuadibili, il video aveva prodotto un effetto positivo, una crescita del consenso verso Donald Trump, soprattutto da parte degli uomini, ma anche da parte di alcune donne” (p. 264).

Questo “strumento politico spietato, efficace e scalabile, estremamente pericoloso per la democrazia” (p. 273) ha eroso e stravolto le regole della competizione elettorale. Una comunicazione frammentata e personalizzata ha azzerato il dibattito e reso irrilevante l'opinione pubblica. È svanita la differenza tra sfera pubblica e sfera privata, nel momento in cui gli attori politici hanno accesso ai dati personali degli elettori, cancellando di fatto ogni privacy: non c'è più la differenza tra oikos e polis su cui si fonda la politica. La propaganda politica diventa “invisibile”: non è più monitorabile, verificabile, controllabile.

Svanisce anche l'ipotesi (o l'illusione) del libero arbitrio che sarebbe alla base delle nostre scelte: la propaganda manipola le nostre convinzioni a partire dal nostro stato emotivo. E il nostro stato emotivo viene a sua volta innescato dai media e dalla propaganda: “Se avete a che fare con un gruppo di persone emotivamente instabili, farete bene a inviare loro messaggi che fanno leva sulla paura”, come spiegava il responsabile della squadra degli psicologi della campagna di Trump, David Coombs (pp. 267-269). Dopo aver alterato lo stato emotivo, la conversione diventa più probabile. 

L'elettore non è più in grado di maturare serenamente il proprio convincimento, per esercitare un voto segreto, libero e incondizionato: “La gente non deve accorgersi che si tratta di propaganda”. Lo spiegava bene Mark Turnbull ai potenziali clienti di CA: “Il nostro lavoro è capire cosa si nasconde nel profondo dell'animo di ciascuno, quali sono le loro paure, le loro preoccupazioni” (p. 365). 

E il candidato? Le sue idee sono irrilevanti. Non viene coinvolto direttamente in questo processo: gli si dice semplicemente che cosa deve fare, è una marionetta nelle mani di coloro che lo finanziano e delle loro tecnologie. 

In questo clima, si infrange un altro tabù che accompagnava la retorica elettorale. La propaganda “mirata” può servire anche per diminuire l'intenzione di voto, ovvero per allontanare dai seggi gli elettori dell'avversario politico, con risultati “fenomenali” (il modello era stato sperimentato da Nix e soci a Trinidad e Tobago). 

Oggi la Gran Bretagna è fuori dall'Europa e Donald Trump è sicuro del suo secondo mandato alla Casa Bianca. La Bestia di Salvini continua a lanciare i suoi rutti digitali. Il mostro è uscito dalla lampada e ci vorrà qualche tempo per addomesticarlo. Non sarà facile. 

Nel suo Populismo digitale. Come internet sta uccidendo la democrazia (Chiarelettere, 2020, 16 €), Mauro Barberis analizza l'intreccio esplosivo di nuove tecnologie e nuovi populismi. Alla fine dell'analisi prova a suggerire qualche rimedio. Da un lato ci sono gli antichi anticorpi alla Tocqueville contro la dittatura della maggioranza: si tratta di rendere efficaci i poteri contromaggioritari come la magistratura, le autorità indipendenti, la stampa e i media, ma anche gli esperti e i tecnici, la partecipazione a organismi internazionali. Dall'altro lato, contro le fake news, gli hate speech e le narrazioni populiste e negazioniste, è inutile utilizzare il fact checking, che avrebbe “il solo effetto di propagare ulteriormente le menzogne”. Si potrebbero sparare altre fake news, hate speech e narrazioni “contropopuliste” (insomma, fare satira). Sarebbero opportune azioni informative (e contro-informative) mirate. Anche se contro le campagne elettorali miliardarie è una battaglia impari.

Il vero obiettivo sarebbe una regolamentazione di internet. Dopo la multa di 5 milioni di euro in conseguenza dello scandalo Cambridge Analytica, nel marzo 2019 lo stesso Mark Zuckerberg si è dichiarato disponibile a sottoscrivere una regolamentazione della privacy sul modello del GRDP approvato dall'Unione Europea nel 2018. Barberis propone anche di “esiliare” dai social network gli eletti durante tutto il loro mandato. A parte il fatto che il provvedimento non impedirebbe di usare una macchina come quella di Cambridge Analytica in campagna elettorale, questa misura in apparenza semplice ed estrema risulta facilmente aggirabile, se i politici sono solo marionette che obbediscono alle Bestie e ai loro finanziatori. 

Barberis cita la massima di Julian Assange: “Privacy per i deboli, trasparenza per i forti”. Però avverte che in realtà rischiamo di avviarci verso un inedito mix di costituzionalismo, neoliberismo e populismo, un ciclo di governi populisti e di tirannidi, passando per democrazie illiberali. Ma forse il mondo di oggi è troppo complesso per essere governato con ricette così semplici.

E forse gli esseri umani prima o poi sfuggono all'algoritmo e rispondono alle loro scelte etiche, al loro bisogno di libertà, fatto anche di errori e di follia. Le avventure fittizie di Peter Disoccupato e quella nella vita reale di Brittany Kaiser, figlia di un disoccupato, sono molto diverse ed entrambe romanzesche. Meglio non fare spoiler sul destino di Peter. Della whistleblower Brittany si può dire che ha ripreso la posizione politica progressista della sua adolescenza, che ha testimoniato in diverse occasioni e che ha creato un'organizzazione che sensibilizza sul tema dei diritti dei dati, la Own Your Data Foundation. Le loro storie prevedono l'errore (magari creativo). Seguono scelte etiche complesse, Si illuminano di un pizzico di follia. Anche da parte degli androidi, in QualityLand. Ma quello di Kling è solo un romanzo.