Farò una finzione che significherà cose grandi
Leonardo

Il senso

Se alcuni temono le proiezioni, gli equivoci emotivi e le confusioni di ruolo che sorgerebbero tra umani e robot, specie quando questi ultimi fossero dotati di emozioni e di coscienza e di responsabilità, altri invece propendono per una visione in cui la tecnica potrebbe contribuire a una crescente apertura dell’uomo grazie al dialogo con l’alterità, tanto sul piano spirituale, cognitivo ed emotivo quanto su quello concreto. In questa prospettiva, esaltata dalla tecnologia, l’uomo dovrebbe coinvolgere nella sua attività conversativa e dialogica tutta la realtà materiale, naturale e artificiale: gli animali, le piante, le macchine. In tal modo ogni oggetto contribuirebbe, attraverso l’uomo, a una progressiva crescita globale di significato, o meglio di “senso”.

A questo proposito, le azioni macchiniche, per quanto raffinate, ci appaiono comunque, almeno per il momento, prive di “senso”, o meglio hanno senso per noi ma non per i robot. Il senso delle nostre azioni non sta nelle azioni, ma le precede, sta nel contesto e nella storia, negli affetti, nella gioia, nella speranza, nel dolore, nell’anticipazione. Lo stesso vale per i prodotti della nostra attività. Si pensi al vasto territorio del simbolico, all’attività artistica, all’anelito verso lo spirituale e il trascendente. Le azioni delle macchine, per loro, non hanno senso perché la loro storia e il loro contesto siamo noi. E’ come se le macchine recitassero una poesia in una lingua a loro sconosciuta, ma che noi comprendiamo benissimo. Sono sempre gli uomini che interpretano ciò che le macchine fanno. Almeno per ora.

Almeno per ora siamo noi che proiettiamo sui robot le nostre emozioni e la nostra semantica, attribuendo loro caratteristiche e capacità che non posseggono. Ma evidentemente la proiezione cognitiva e soprattutto emotiva che compiamo sul robot umanoide non ci basta: come ho accennato, i ricercatori tentano di iniettare le emozioni nel robot stesso, per farne un vero e proprio interlocutore affettivo. Anzi, vanno ancora più in là: cercano di dotare queste macchine di una coscienza.
Su questa strada di umanizzazione profonda i problemi sono molti: in primo luogo non sappiamo che cosa sia la coscienza e non sappiamo come funzioni. Inoltre nell’uomo emozioni, coscienza, capacità cognitive, razionalità, corporeità e quant’altro sono talmente intrecciate da rendere poco plausibile il procedimento seguito per dotarne i robot, che è di tipo additivo: a una base cognitiva di intelligenza artificiale (IA) si aggiunge un corpo (percezione artificiale ed esecuzione di funzioni), poi a questo complesso si aggiungono (come?) emozioni artificiali e poi, in cima a tutto, si deposita (come?) una coscienza artificiale.

Qui il termine “artificiale” indica la derivazione da processi diversi da quelli biologico-evolutivi e qualifica in modo essenziale i sostantivi ai quali si applica. Consideriamo l’IA, il cui scopo primo, benché non sempre dichiarato, è quello di replicare l’intelligenza umana: ebbene, i risultati sono caratterizzati molto più dall’aggettivo “artificiale” che dal sostantivo “intelligenza”. L’IA è sì interessante, ma forse proprio perché è radicalmente diversa dalla nostra intelligenza: in ogni caso sarebbe opportuno adottare una terminologia altrettanto diversa.  A scanso di equivoci e derive metaforiche fuorvianti converrebbe evitare termini molto impegnati come intelligenza, emozioni, coscienza.

La coscienza artificiale

In precedenza abbiamo accennato alle ricerche che si compiono per dotare i robot di emozioni artificiali: ma la frontiera più avanzata in questo settore, che tocca i confini della fantascienza, è quella della coscienza artificiale. Se l’intelligenza artificiale riguarda attività che quando fossero compiute da un umano richiederebbero intelligenza, analogamente si può parlare di coscienza artificiale con riferimento ad attività che, quando fossero compiute da un umano, richiederebbero coscienza.

E’ chiaro che qui coscienza significa consapevolezza e non coscienza morale (come nelle locuzioni: mi rimorde la coscienza, mettiti una mano sulla coscienza e così via). Il problema centrale nel dibattito che si è avviato è se un robot possa, in linea di principio, manifestare una vera coscienza, nel senso psicologico, cioè una coscienza riflessa o “in senso forte”, oppure una semplice coscienza funzionale, o simulata, una coscienza “in senso debole”. Il problema ha una forte rilevanza etica, poiché tutti i nostri comportamenti significativi sotto il profilo etico presuppongono la coscienza. E’ ormai evidente che esistono agenti dotati di capacità cognitive che non posseggono affatto coscienza (per esempio i programmi che giocano a scacchi o che risolvono problemi di logica), ma negli esseri umani certe attività cognitive sembrano richiedere la coscienza perché sono intrecciate con le emozioni, con le azioni e quindi con il libero arbitrio e con la responsabilità.

La costruzione di enti dotati di coscienza “in senso forte” aprirebbe una serie di problemi etici: a tali enti dovrebbe essere riconosciuta una dignità analoga alla nostra ed essi avrebbero nei confronti nostri e di altri agenti quella responsabilità che nasce dalla consapevolezza dei propri atti. La coscienza potrebbe indurre in questi enti una certa capacità di soffrire sia per le loro azioni sia per il trattamento subìto, e a noi imporrebbe nei loro confronti un comportamento etico, che escluderebbe lo schiavismo e i maltrattamenti.

Alcuni ricercatori ritengono possibile la costruzione di agenti con una coscienza in senso forte, altri sono scettici, altri ancora addirittura contrari per principio a questa prospettiva. Comunque sia, il problema della coscienza artificiale s’intreccia con molti dei temi che abbiamo trattato, in particolare con le questioni etiche: il problema del bene e del male, dell’autodifesa, del danno, della responsabilità, del libero arbitrio e così via.

Il demiurgo allo specchio

Nell'avviarmi alla conclusione di questa lunga passeggiata nei territori, in gran parte da dissodare, della roboetica, voglio fare un paio di osservazioni. La marcia sempre più rapida di una tecnologia raffinata e suggestiva come la robotica non può non avere effetti profondi sull’immagine che abbiamo di noi stessi e sul nostro stesso essere umani: specchiandoci in quello straniante alter ego che sta diventando il robot, quale immagine ce ne ritorna? L’impresa della robotica, cioè la costruzione di un vero e proprio uomo artificiale, potrebbe darci, per analogia o per contrasto, indicazioni utili su di noi, così come ha fatto l’intelligenza artificiale. In questa prospettiva di rispecchiamento il robot potrebbe essere un laboratorio di etica (artificiale)?

Infine si pone la questione del perché: perché costruiamo i robot? In certi casi la risposta è ovvia: per eseguire compiti pesanti o pericolosi o ripetitivi, oppure per sostituire la manodopera umana con vantaggio economico, di efficacia o di rapidità. Ma tutto ciò non risponde alla questione di fondo: perché costruire macchine così simili a noi? Qualche risposta possibile: l’umanità sta facendo di tutto per entrare nel novero delle specie estinte e, sentendo prossima la fine dell’avventura, vuole lasciare un segno della propria grandezza, perciò costruisce macchine che le possano sopravvivere e che ricordino a chi verrà (chi? le macchine stesse?) un passato di gloria. C’è anche, come si è detto, l’orgoglio tutto umano di forzare e imitare i segreti della natura. Da ultimo c’è lo scopo comune a tutte le forme d’arte e di tecnica: stupire. “E’ del poeta il fin la meraviglia”, cantava Marino.

Qualunque risposta diamo alla domanda di fondo, perché?, è indubbio che da essa scaturiscono subito altre questioni che ne mettono in luce la natura socioculturale ed etica: quale società vogliamo costruire progettando i robot? Quali valori cerchiamo di rafforzare o di indebolire? Molti ricercatori non dimostrano alcun interesse per questi problemi e procedono tranquilli o entusiasti sulla strada dell’innovazione tecnica. Altri si pongono in una prospettiva di breve respiro, conformandosi a codici di comportamento elementari, simili alle leggi di Asimov. Altri ancora, una minoranza, si pongono nella prospettiva di medio e lungo termine e cercano di immaginare gli sbocchi possibili di quella che ormai è una vera e propria invasione dei robot. Qui le implicazioni della robotica e della roboetica si confondono con gli scenari elaborati in quell’attrezzatissima palestra di ipotesi sul futuro che è la fantascienza.

Il 13 marzo 2004, davanti a un folto pubblico di giovanissimi, l’orchestra filarmonica di Tokyo eseguì la Quinta di Beethoven sotto la direzione di Krio, un robot umanoide della Sony, che, dopo qualche incertezza, fece una discreta figura, aggiungendo un altro tassello al vasto mosaico delle attività umane eseguite (o imitate) dalle macchine. Krio ripeté l'impresa nel marzo del 2008. Ora, tanto per fare un esercizio di fantasociologia, m’immagino un nipotino di Krio che dirige un’orchestra di robot davanti a un pubblico di robot: se venissero a mancare gli umani chi si porrebbe le questioni di cui stiamo parlando? Dove andrebbe a finire il problema del senso? Chi si chiederebbe che cosa? E infine: dove andrebbe a finire la follia degli uomini? Che fine farebbero l’arte, l’umorismo, la trasgressione, la creatività, il gioco, il nonsenso? Chi potrebbe avvertire la differenza tra una lacrima e una goccia di pioggia? Forse, per perpetuare la follia creativa dell’uomo, ci sarebbe bisogno di una macchina schizofrenica. Ma chi saprebbe costruirla, e chi, sapendola costruire, se ne assumerebbe la responsabilità?