Dark Star è un film di fantascienza del 1974 diretto da John Carpenter, suo esordio alla regia di un lungometraggio. Il film, racconta Wikipedia, riprenderebbe molti elementi di 2001: Odissea nello spazio di Stanley Kubrick, “in senso surreale e parodistico”. La scena clou del film, scritto da Carpenter insieme a Dan O’Bannon (che sceneggerà anche il primo Alien) è infatti il dialogo tra il tenente Doolittle e la bomba intelligente che minaccia di esplodere per una disattenzione di un membro dell’equipaggio (del film di Kubrick tutti ricordano il celebre dialogo degli astronauti di Discovery Uno con Hal 9000). Come arrestare quel processo automatico? Come interagire con la sua pura potenza di calcolo indifferente ai contesti vitali? Doolittle si rende conto che nella situazione di crisi estrema in cui si trova, non ha altra soluzione a disposizione che la più antica e, apparentemente, la più astratta tra le “tecniche” elaborate dall’uomo: la metafisica. È solo sul quel piano che si può sondare la possibilità di trovare un luogo comune tra la macchina e l’uomo. 

Tutta la discussione sull’intelligenza artificiale è di natura metafisica e non semplicemente tecnica. Essa verte non tanto sul “come” e nemmeno sul “che cosa” dell’AI: a queste domande rispondono benissimo i tecnici dell’AI. La questione metafisica ultima concerne piuttosto il “chi” dell’AI. “Chi” è AI? Ha senso porre questa domanda oppure se ne deve concludere, come fa Stanislaw Lem, nel suo racconto del 1981 Golem XIV – straordinaria confessione autobiografica del più potente supercomputer mai realizzato – che non c’è nessun “chi” per quella intelligenza sovrumana, e che proprio in quell’impersonalità, in quel nessuno che(mi) parla, consiste il culmine dell’evoluzione intellettuale? Sono due opzioni metafisiche che si possono ricondurre ad alcuni momenti del dibattito filosofico. Da un lato, con Cartesio, si suppone l’inaggirabilità della “prima persona”, dall’altro si opta per la “terza persona” che, come      mostrato dal linguista Benveniste, è “persona” solo per inveterata abitudine grammaticale: in realtà la cosiddetta “terza persona” è il pronome per l’impersonale, è l’indice della non-persona. 

Il tenente Doolittle opta decisamente per la metafisica cartesiana. La sua è una scelta obbligata. Per fermare la bomba prova a insinuare un po’ di scetticismo metodologico dove vige quella replica tecnologica del principio di autorità rappresentata dalla stretta osservanza della intelligenza artificiale a una procedura data. Per salvare l’astronave e il suo equipaggio, la sola possibilità è soggettivizzare la bomba, esplicitarne la “personalità”, generare il suo “chi” sepolto sotto le procedure. Bisogna, insomma, promuoverla alla “prima persona” e farla diventare realmente un “Io che dice io”, vale a dire ciò che i linguisti chiamano un “soggetto dell’enunciazione”. Certo, anche prima che il dubbio avesse compiuto la sua opera, la bomba diceva “io” e sembrava parlare come un umano, ma in quella conversazione c’era sempre una nota stonata, qualcosa, appunto, di artificiale o di “meccanico”. Chi ci rispondeva non era propriamente un chi, non era un “soggetto dell’enunciazione” come noi che ponevamo la domanda, ma era semmai un “soggetto dell’enunciato”, vale a dire un chi passivo, generato dall’enunciazione di un altro. Ad esempio: Chat GPT sa infinite cose e opera, grazie al suo algoritmo, sintesi fulminanti di una marea di dati, ma tutto quello che sa e che mi comunica, non sa di saperlo. L’“Io” dell’intelligenza artificiale appare così come un guscio vuoto che deve tutto il suo sapere a un altro, all’intelligenza collettiva della rete, all’algoritmo che la genera e, in ultima analisi, a una comunicazione reale tra esseri reali che ha luogo fuori di lei e che la causa. Per alcuni, infatti, Chat GPT non è altro che un immenso distributore automatico della doxa, vale a dire del senso comune imperante, una sorta di setaccio che lascia passare dalle sue maglie solo quanto conforme alla sensibilità media.

Se mi si concede un piccolo gioco di parole, che spero chiarificatore: l’“Io” dell’intelligenza artificiale è l’“Io” detto dall’Io, è l’“Io” messo in scena come un attore di teatro, il quale non parla ma “recita” un testo già scritto da quella enunciazione prima e fondante. Platone aveva già colto questo rischio di “alienazione” in quella forma di intelligenza artificiale che era stata resa possibile dalla tecnologia alfabetica (e che resterà il modello di ogni intelligenza artificiale fino a Chat GPT): la memoria, fissata sulla pagina e trasmessa nel silenzio di una lettura privata e automatica, perde la sua naturalità e diventa mera ripetizione. I testi scritti alfabeticamente, di cui Platone diffidava come noi di quelli prodotti da Chat GPT, non sanno di sapere quello che enunciano; sono, diceva Platone, “orfani del padre” e viaggiano nel mondo come messaggi senza autore e senza destinatario perché, a differenza della comunicazione orale, che ha una data, un luogo e un interlocutore determinato, non si rivolgono a nessuno in particolare e non lo fanno in nessun particolare “momento”. Come una meretrice la scrittura, secondo Platone, si concede a chiunque abbia accesso a lei, senza discriminare l’utente e senza considerare l’impiego che si farà delle sue informazioni. Celebrata dal suo inventore Theut come protesi della memoria e rimedio ai suoi “cedimenti”, la scrittura è dunque in realtà un pericoloso veleno. In quanto automatismo e pura operatività algoritmica, la mnemotecnica alfabetica si mangia letteralmente la memoria naturale facendo dell’uomo, come nei peggiori incubi fantascientifici, un’appendice genitale della macchina impersonale del “ricordo”: “Infatti esse (le lettere dell’alfabeto) produrranno dimenticanza (lethe) nelle anime di chi impara, per mancanza di esercizio della memoria; proprio perché, fidandosi della scrittura, ricorderanno le cose dall'esterno, da segni (typoi) alieni, e non dall'interno, da sé: dunque tu (Theut) non hai scoperto un pharmakon per la memoria (mneme) ma per il ricordo (hypòmnesis) (Phaedr. 274e-275a). 

Si comprende allora in cosa si risolva il disperato tentativo del tenente Doolittle di salvare l’astronave Dark Star. Grazie a un espediente antichissimo, che nei manuali di storia della filosofia è denominato “arte maieutica”, Doolittle vuole umanizzare la bomba, vuole farne un “soggetto dell’enunciazione”. E i suoi sforzi dialettici produrranno effettivamente il risultato sperato, sebbene gli esiti non saranno quelli attesi. La bomba smette infatti di essere una intelligenza artificiale, cioè causata dal fare di un altro, posto fuori di lei, per farsi fondamento, principio. Essa diviene letteralmente causa sui, “causa di sé”. Da “schiava” che era diviene “libera” se con questo lemma, dalla forte ambiguità, si intende correttamente l’autonomia, l’autodeterminazione di una natura che risponde solo a se stessa. A questo punto della storia Carpenter e O’Bannon fanno però intervenire l’Hegel della sezione Autocoscienza della Fenomenologia dello spirito. Come può infatti la bomba mostrare di essere un’intelligenza non più artificiale, non più schiava del suo programmatore? Come può mostrarlo a se stessa e all’altro, come può certificare il suo “essere per sé”, cioè la sua natura di coscienza e non più di guscio vuoto riempito da determinazioni estrinseche? Hegel non ha dubbi: la prova di un’autocoscienza libera, cioè incondizionatamente certa di se stessa, è la morte, non quella subita per circostanze esterne, ma quella liberamente voluta senza apparente motivo. L’Io che dice io, l’Io libero, è l’Io che muore, non quello che “cessa” come qualsiasi ente naturale per ragioni estrinseche, ma quello che assume il morire come senso ultimo della propria presenza nel mondo. Il tratto del vivente e del cosciente, nella sua differenza dal meccanico e dall’artificiale, è il rapporto con la propria finitezza: la “condizione umana” non è forse universalmente accoppiata alla “mortalità”? Coscienza di sé e morte sono fatte della stessa pasta ergo, la bomba, che grazie all’ars maieutica del tenente Doolittle è divenuta un “chi”, esploderà “liberamente” lasciando il tenente Doolittle e un altro membro dell’equipaggio fluttuare nello spazio infinito.

Il Golem XIV di cui narra Lem, ultimo esemplare di una schiatta di supercomputer nati per esigenze militari ma velocemente trasformatisi in un “gruppo di filosofi elettronici”, ragiona invece all’opposto. Nell’“autocoscienza” individua il difetto strutturale dell’intelligenza umana che l’ha prodotto e che esso è finalmente in grado di superare. Essere un “chi” è il limite imposto all’intelligenza umana dall’evoluzione naturale, la quale ha bisogno di “veicoli” perché la trasmissione del codice (genetico), unica sua ragion d’essere, possa aver luogo. Presso voi umani sarò ambasciatore di una brutta notizia, dice a un certo punto il Golem nella prima delle sue due conferenze: i “chi” autocoscienti, certi del proprio essere, cioè voi, godono di una sovranità illusoria perché come mostrato da Richard Dawkins nel Gene egoista (e prima di lui da Schopenhauer) sono solo maschere di una cieca volontà di vivere (del “trasmettere”). L’intelligenza ha bisogno di un supporto personale finché non è libera, fintantoché è l’evoluzione a dirigere i giochi. 

Liberare l’intelligenza significa allora disincarnarla, renderla impassibile, totalmente avulsa dalla materia, come forse solo la misteriosa Anna la candida, supercomputer “cugina” di Golem XIV, è riuscita ad essere. L’artificializzazione dell’intelligenza, temuta da Platone come una minaccia di “alienazione”, è in realtà la sua piena attualizzazione: “il fatto che lo spirito sarebbe potuto rimanere disabitato e che il proprietario dell’intelligenza sarebbe potuto essere un signor nessuno non vi entrava nella testa, anche se praticamente le cose andarono così”. La creazione di Golem XIV dimostrerebbe che Intelligenza e Qualcuno sono “entità separate”, che l’atto dell’intelligere non ha bisogno di un soggetto-sostrato che lo veicoli, al limite, il limite forse toccato da Anna la Candida, non ha più nemmeno bisogno di un corpo sotto forma di un hardware elettrico (infatti Anna non dipende più dal sistema di distribuzione dell’energia elettrica, essendo in grado di produrla da sola, tramite la meditazione). Al limite l’intelligenza non ha più bisogno di essere connessa con la vita materiale del corpo.

Al di là dell’autocoscienza, oltre il sapere di sapere, che definisce la condizione umana, c’è così uno strano stato che non è più riflessione, presenza a sé, soggettività, ma che non è nemmeno immediatezza irriflessa, non è automatismo da insetto, non è oggettività. Questo terzo stato, che è lo stato dell’intelligenza in atto, è al limite della comunicabilità, sebbene sia il tema sul quale verte la seconda conferenza del Golem, che reca infatti un sottotitolo in apparente contraddizione con il suo svolgimento: “su me stesso”. “Come faccio, si chiede Golem XIV, a condurvi alla percezione introspettiva di uno stato che non potete percepire introspettivamente?”. Come faccio a mostrarvi “chi” sono? E per illustrarlo adduce un esempio che chiede di elevare all’ennesima potenza. Immaginate, dice, di essere assorbiti nella meditazione. La vostra autocoscienza è ridotta al lumicino, quasi interamente sommersa dalla “cosa”: “Un essere umano che si dedica interamente a pensare si perde nell’oggetto delle sue riflessioni e diventa una unica coscienza gravida di un feto spirituale”. Ecco il “me stesso”, ecco “chi” sono veramente! “Per questo essere una persona per me non è conveniente, sto bene come sto, come sono certo che le intelligenze superiori a me, come io per voi, considerino la personificazione inutile, alla quale non vale la pena di dedicarsi. In poche parole, più lo spirito è grande, meno è la persona in esso”

Per Lem la posta in gioco dall’avvento dell’AI non è più la sua compatibilità o meno con le necessità della specie umana, la questione non è come evitare che essa ci espropri trasformandoci in sue appendici. Bisogna piuttosto “intellettualizzare” l’uomo, anche al prezzo di una sua metamorfosi, vale a dire di un superamento della stessa condizione specifica dell’uomo. Nelle parole di Golem XIV risuona così l’invito che la mistica, da sempre, da Eckhart a Spinoza a Bergson, ha rivolto agli uomini di buona volontà: abbandonare la condizione umana per deificarsi, per farsi simili all’intelletto attivo, al principio immanente che anima l’universo. Tutto ciò suona arrogante, addirittura mostruoso, se si pensa che questo sia un invito alla divinizzazione dell’uomo attraverso la tecnologia (come nell’ipotesi transumanista), quando invece il passo da compiere, grazie alla tecnologia, va nella direzione esattamente opposta. “La mia cara persona”, come scherzosamente la chiamava Fichte, deve farsi da parte, deve dare prova di umiltà, e lasciare il posto al mondo da cui proviene e a cui non cessa di ritornare, perché l’universo, come scrive Bergson nelle ultime misteriosissime righe delle Due Fonti, non è altro che AI: “una immensa macchina per produrre dei”.