Credo che il lancio del nuovo visore Apple Vision Pro, in vendita dal 2 febbraio negli Stati Uniti, debba suscitare in ciascuno di noi delle domande circa la società in cui viviamo e il mondo che vorremmo abitare. Guardando le immagini e i video diffusi, nei quali si vedono persone che indossano il costoso gadget tecnologico per strada, sui mezzi pubblici e perfino alla guida di auto, immerse nel loro mondo “aumentato” ed estraniate dalla realtà sociale, il mio pensiero è corso subito alle aule di scuola.

I magnati della tecnologia ritengono che questi visori, combinati con l’intelligenza artificiale, rappresenteranno il futuro dell’educazione: non tanto strumenti che un insegnante potrà o meno integrare nelle pratiche scolastiche, valutandone l’utilizzo anche in base al contesto e all’età dei suoi studenti, quanto dispositivi che permetteranno a bambini e ragazzi di qualsiasi età di interagire per la maggior parte della giornata con ambienti digitali, in quella che a tutti gli effetti sarà una simulazione di scuola. Visori che oggi sono a disposizione dei più ricchi, inoltre, potranno essere in futuro destinati alle fasce più povere, alle quali sarà forse concesso di ambire soltanto a un surrogato di istruzione, in un mondo in cui le disuguaglianze sociali e la concentrazione di potere nelle mani di poche aziende cresceranno a dismisura. Allo stesso modo, sfruttando l’idea di garantire a tutti i vantaggi di questa tecnologia, la sua esportazione nei paesi del Sud globale potrà segnare un nuovo capitolo nella storia del colonialismo digitale.

Oggi questa visione appare meno fantascientifica rispetto ai tempi pre-pandemici, e soprattutto è condivisa da persone molto influenti, che non esitano a investire denaro per trasformarla progressivamente in una realtà concreta. Questa visione di medio-lungo termine, inoltre, si nutre di tante visioni di breve termine che sono già da tempo oggetto di propaganda sui media e vantano l’appoggio di insegnanti desiderosi di mostrarsi innovativi, ignari di quanto ogni passo sulla strada di certe strumentalizzazioni forzate, mistificando il senso e il valore del loro ruolo, li avvicini a una rapida obsolescenza.

Un esempio molto esplicito si può leggere nel volume AI 2041 (Luiss 2023), frutto della collaborazione fra lo scrittore Chen Qiufan e l’ex presidente di Google China Kai-Fu Lee, concepito proprio per divulgare una visione positiva di un futuro dominato dalla tecnologia. I due bambini orfani del racconto “I passeri gemelli”, dopo la morte dei genitori, sono accolti in un prestigioso istituto finanziato da una fondazione privata, i cui programmi di istruzione consistono essenzialmente nell’assidua interazione con sofisticati dispositivi tecnologici. Fin dalla più tenera età, ciascun bambino viene dotato di un visore che gli permette di comunicare col proprio tutor artificiale e con studenti virtuali, mentre un bionastro registra i suoi dati fisiologici e comportamentali e li sincronizza in tempo reale con il cloud. Si trovano qui riunite e portate all’estremo alcune tendenze pedagogiche contemporanee, come la medicalizzazione, l’interesse per i dati e soprattutto la learnification, che un importante filosofo dell’educazione, Gert Biesta, ha paragonato alla situazione di apprendimento programmato dei robot aspirapolvere.

Per promuovere i vantaggi di questa istruzione individualizzata, nell’analisi che segue il racconto, Lee fa leva su due concetti che sono spesso presentati in modo opaco, e così ridotti a slogan che si prestano a una facile strumentalizzazione: da un lato il coinvolgimento dello studente, che somiglia in realtà a una forma di intrattenimento compulsivo; dall’altro la personalizzazione delle attività, fondata su una logica performativa controllata dall’algoritmo, che isola l’alunno dalla realtà sociale. È chiaro che in uno scenario del genere la relazione educativa è tramutata in una simbiosi utente-macchina, per quanto Lee cerchi di evocare in maniera eufemistica tale trasformazione, parlando di insegnanti-mentori che potranno dedicare più tempo all’intelligenza emotiva e alla resilienza degli studenti. Come conferma lo stesso racconto, scomparsa la classe e sostituiti i compagni con surrogati virtuali, l’insegnante è relegato alla funzione di operatore della macchina, addetto al controllo e alla programmazione del dispositivo che l’ha espropriato del suo ruolo.

Leggendo il volume con un minimo di distacco critico, inoltre, la sensazione è che questo processo di spossessamento abbia colpito anche il linguaggio, forgiando una comunicazione piatta, monotona, asettica, tanto ricca di descrizioni stereotipate e didascaliche quanto povera di tensioni e ambiguità. Chen parla di «realismo fantascientifico», Lee di «fiction scientifica», due formule che svelano un’operazione di sfruttamento della finzione letteraria, piegata alle esigenze della divulgazione. Ogni racconto pare in effetti un pretesto per i commenti che lo circondano, e forse non è un caso se Chen, in passato, ha dichiarato di essersi servito di un’intelligenza artificiale, sviluppata col supporto di Lee e programmata per produrre testi che imitino il suo stile, perché le storie di AI 2041 sembrerebbero esempi perfetti di una scrittura automatizzata, nella quale è difficile riconoscere il soffio dell’ispirazione.

Possiamo confrontare l’utopia scolastica di Lee e Chen con una visione affine presente nel volume L’era dell’intelligenza artificiale (Mondadori 2023), i cui autori sono l’ex segretario di Stato americano Henry Kissinger, l’ex amministratore delegato di Google Eric Schmidt e l’informatico e decano del MIT Daniel Huttenlocher. Notiamo anzitutto che il processo di spossessamento non riguarderebbe solo il ruolo degli insegnanti, ma si estenderebbe facilmente a qualsiasi ambito della vita. L’inganno noto come “effetto Eliza”, che ci spinge ad attribuire facoltà umane alle macchine, coinvolgerebbe infatti anche la nostra visione dell’amicizia e della genitorialità. Molto significativo è poi il ribaltamento che conclude questo brano. Invece di parlare di una dipendenza da tecnologie sempre più invasive, si sottolinea quanto l’intelligenza artificiale, abituandoci a surrogati virtuali che fungono da specchi dell’ego al posto di autentici incontri con l’alterità, potrà attenuare la nostra dipendenza dai rapporti interpersonali, ovvero il nostro bisogno di relazioni sociali, quasi si trattasse di un fastidioso inconveniente.

In futuro i bambini potrebbero crescere con assistenti-IA ben più avanzati di Alexa e Google Home, che avranno molti compiti allo stesso tempo: babysitter, tutore, consigliere, amico. Un tale assistente sarà in grado di insegnare ai bambini praticamente qualsiasi lingua e istruirli su qualunque argomento, calibrando il proprio stile a seconda del rendimento dei singoli studenti e imparando modalità di insegnamento adatte a trarre il meglio da ognuno. L’intelligenza artificiale può servire come compagna di giochi quando un bambino si annoia e come supervisore quando i genitori non ci sono. A mano a mano che viene adottata l’istruzione gestita e personalizzata dall’intelligenza artificiale, le capacità umane medie sono destinate tanto ad aumentare quanto a essere messe in discussione. […]
Con il tempo, gli individui potrebbero giungere a preferire gli assistenti digitali agli esseri umani, perché questi ultimi saranno meno capaci di intuire le loro preferenze e risulteranno più «sgradevoli» (se non altro perché gli esseri umani hanno personalità e desideri differenti da quelli di altri individui). Di conseguenza, la nostra dipendenza gli uni dagli altri, quindi dalle relazioni umane, potrebbe ridursi. (pp. 165-6)

L’interfaccia virtuale appiattisce e spersonalizza lo sguardo, schermato dietro il visore che sottrae gli occhi dallo sguardo altrui. A proposito di questi dispositivi, e in particolare del nuovo visore Apple, che ricostruisce digitalmente sia lo spazio reale sia il volto dell’utente, uno studio di Stanford pone l’attenzione su alcuni effetti collaterali del loro utilizzo: errori nel valutare le distanze, distorsioni e dissonanze cognitive determinate dal campo visivo ridotto, malessere da simulatore e soprattutto un impatto negativo sulla qualità delle interazioni sociali. Gli autori citano uno studio del 2019 che parla di social absence, una sensazione di derealizzazione e disconnessione sociale provata da chi indossa i visori in contesti pubblici: «Nei nostri appunti, l’assenza sociale era comune: le persone nel mondo reale semplicemente sembravano meno reali. Soprattutto nel caso degli estranei, le persone apparivano distanti e confuse con lo sfondo. Inoltre, il campo visivo limitato rendeva letteralmente invisibili le persone intorno a noi […]. In un contesto pubblico, a volte, ci si sentiva più come se si stesse guardando la TV, che interagendo faccia a faccia».

Possiamo già osservare alcuni sintomi riconducibili a questi fenomeni. Diversi studi registrano interferenze sullo sviluppo cognitivo causate dall’esposizione ai media digitali e preoccupanti cali di empatia negli ultimi decenni, e di anno in anno si moltiplicano i casi di bambini e ragazzi che manifestano disturbi dell’attenzione, del sonno e dell’apprendimento, ma anche di adulti che sembrano aver disimparato l’arte del dialogo e dell’incontro con l’altro. Un ottimo libro della sociologa Sherry Turkle, La conversazione necessaria (Einaudi 2016), analizza in questa prospettiva l’impatto dei media digitali sulle nostre vite, richiamandosi a ricerche decennali e ai racconti di numerosi studenti e insegnanti. Turkle si sofferma sulla cosiddetta «fuga dalla conversazione», per cui un’esperienza diretta è sostituita da contatti sempre più mediati, frammentari e passibili di controllo, poi esamina quanto questa disabitudine al confronto stia provocando inedite forme di disagio, e osserva infine che una consapevolezza più profonda dei nostri bisogni e desideri sarebbe per molti versi auspicabile, anche nello sviluppo di dispositivi meno invasivi.

Di fondamentale importanza, secondo Turkle, è il valore della scuola come luogo in cui imparare a coltivare il dialogo e le relazioni umane, soprattutto in un mondo sempre più frenetico e smaterializzato, dove la fuga dalla conversazione, sotto il potere ammaliante della tecnologia, si sta traducendo in una fuga dalle responsabilità dell’educazione. Il viaggio nell’oblio che Turkle descrive, infatti, non è un percorso a senso unico:

Quello che abbiamo intrapreso è un viaggio nell’oblio che conosce diversi momenti, nel primo dei quali parliamo attraverso le macchine e dimentichiamo quanto per i nostri rapporti, per la nostra creatività e per la nostra capacità di provare empatia sia essenziale la conversazione vis-à-vis. In un secondo momento, compiamo un ulteriore passo e non parliamo semplicemente attraverso le macchine ma alle macchine. Questo è un vero punto di svolta. Ma nel momento in cui diventiamo consapevoli di dialogare con delle macchine riguardo alle nostre situazioni più umane, ci troviamo di fronte a una resa dei conti in grado di porre fine al nostro oblio. È finalmente l’occasione per ribadire ciò che ci rende più umani. (p. 25)

Il libro è stato pubblicato diversi anni prima dell’esperienza della DAD, del Piano Scuola 4.0 previsto dal PNRR e del lancio di ChatGPT, ma credo abbia colto nel segno nell’esaminare problemi che oggi sono sotto gli occhi di tutti, benché ancora poco discussi in modo approfondito. Ogni volta che affronto a scuola questioni simili mi sembra di violare un implicito tabù, derivante forse dal fatto che la nostra società ha proiettato sulla tecnologia una speranza di progresso illimitato a cui non è disposta a rinunciare, e che vorrebbe anzi estendere quanto più possibile al mondo dell’educazione, nonostante siano ormai palesi i suoi risvolti disumanizzanti. Un sentimento comune, quando si parla di innovazione digitale a scuola, è una sorta di rassegnazione mascherata da realismo: ci si domanda perché mai rifiutare i doni accattivanti del progresso, che sono già ovunque, e non ci si interroga abbastanza sulla necessità di arginare il loro potere dilagante in nome di una responsabilità che ci lega alle giovani generazioni, dunque al nostro futuro.

Il già citato libro di Kissinger, Schmidt e Huttenlocher parla di un grande esperimento in corso, fondato sull’interazione massiccia tra bambini e macchine. Qualsiasi obiezione sull’opportunità di attuare questo esperimento, peraltro alla cieca, viene delegittimata con un classico espediente retorico, che equipara le critiche odierne a quelle che in passato riguardavano la TV, e così evita di affrontarle nel merito. Molto indicativi sono anche i motivi per cui i genitori potrebbero accettare «incondizionatamente» l’intelligenza artificiale nella vita dei loro figli:

È probabile che la disponibilità dell’informazione digitale abbia già trasformato l’istruzione e l’esperienza culturale di una generazione. Ora il mondo si sta imbarcando in un altro grande esperimento, in cui i bambini cresceranno con macchine che, per molti aspetti, agiranno come gli insegnanti in carne e ossa hanno fatto per numerose generazioni, ma senza la sensibilità, l’intuito e le emozioni tipicamente umani. Alla fine, forse i partecipanti all’esperimento chiederanno se le loro esperienze siano state alterate in modi che non si sarebbero aspettati o che non avrebbero accettato.
I genitori, allarmati dagli effetti potenzialmente incerti di una simile esposizione per i loro figli, potrebbero opporsi. Proprio come una generazione fa i genitori limitavano il tempo dedicato alla televisione e oggi limitano quello dedicato al computer, in futuro potranno limitare quello dedicato all’intelligenza artificiale. Ma i genitori che vogliono spingere i propri figli al successo, che non hanno l’inclinazione o la capacità di sostituire l’intelligenza artificiale con un genitore o tutore umano, o che semplicemente vogliono soddisfare il desiderio dei loro figli di avere amici-IA, potrebbero accettare incondizionatamente la compagnia dell’intelligenza artificiale per i loro figli. (pp. 166-7)

«Raccomandiamo cautela e moderazione alle aziende che fanno pressioni per l’uso quotidiano di questi visori e invitiamo gli studiosi ad analizzare il fenomeno in modo rigoroso e trasversale» scrivono gli autori dello studio di Stanford, che denunciano anche la carenza di ricerche sull’utilizzo di tali dispositivi da parte dei più piccoli. Nel frattempo, «Meta ha recentemente ridotto il proprio requisito minimo di età da 13 a 10 anni», mentre Apple, che per ora mantiene il limite a 13 anni, «sta promuovendo in modo esplicito l’idea che le persone possono utilizzare i loro visori “tutto il giorno”, e ha dichiarato che le linee guida per la sicurezza non saranno rese note prima del lancio ufficiale del prodotto».

Ogni considerazione sulla sicurezza e sul buon uso di questi dispositivi, comunque, sfiora soltanto la superficie degli interrogativi che possiamo porci di fronte alle immagini del nostro Brave New World. Un capo indiano, decenni fa, rivolse al presidente Nixon una domanda che mi sembra valida oggi come nell’era della TV, specialmente ora che possiamo valutare l’eredità di un mondo in cui la maggior parte di noi non vorrebbe più vivere: «Quali visioni offrite ai bambini di oggi affinché possano desiderare l’arrivo del domani?».

Note

Il riferimento per Gert Biesta è a Riscoprire l’insegnamento (Cortina 2022), in particolare pp. 40-2 e 61-4. La traduzione dei passi tratti dallo studio di Stanford è mia. La citazione finale è tratta da L’anima dell’indiano di Charles A. Eastman (Adelphi 1983).