La pericolosa banalità dell'Algoretica e dell'Antronomia. Ovvero la pretesa di sostituire il 'computabile' all''umano'

Mi scrive un amico segnalandomi un articolo di padre Paolo Benanti. Mi segnala in particolare una frase: "Dobbiamo stabilire un linguaggio che sappia tradurre il valore morale in qualcosa di computabile per la macchina. La percezione del valore etico è una capacità puramente umana. Lavorare valori numerici è invece abilità della macchina. L'algoretica nasce se siamo in grado di trasformare in qualcosa di computabile il valore morale."

La pretesa di rendere i valori morali computabili da una macchina è insidiosa. Se si considera veramente il valore morale computabile, si apre la strada all'espropriazione dell'etica. 

Primo passaggio: i valori morali cessano di essere valori dell'essere umano e diventano patrimonio dell'esperto capace di trasformare l'etica in qualcosa di computabile. Ma computabile vuol dire: eseguibile da una macchina. Si apre così la strada -secondo passaggio- all'autonomia morale della macchina. Terzo passaggio: la macchina, che computa meglio dell'essere umano, sarà forse più morale dell'essere umano.

Ecco dunque apparire sulla scena la Moral Machine. Porta questo nome un progetto del MIT.  Ma, a proposito delle 'macchine morali', la descrizione più significativa mi pare si trovi nella conclusione del Book of Why di Judea Pearl. Qui il discorso è chiaramente sviluppato fino al terzo passaggio. (Per evitare fraintendimenti e sottolineare il pericoloso rilievo di questa posizione, trascrivo le frasi in inglese e aggiungo una mia traduzione). 

"Once we have built a moral robot, many apocalyptic visions start to recede into irrelevance. There is no reason to refrain from building machines that are better able to distinguish good from evil than we are, better able to resist temptation, better able to assign guilt and credit. At this point, like chess and Go players, we may even start to learn from our own creation. We will be able to depend on our machines for a clear-eyed and causally sound sense of justice. We will be able to learn how our own free will software works and how it manages to hide its secrets from us. Such a thinking machine would be a wonderful companion for our species and would truly qualify as AI’s first and best gift to humanity".

"Una volta che avremo costruito un robot morale, molte visioni apocalittiche inizieranno a recedere nell'irrilevanza. Non c'è motivo di astenersi dal costruire macchine che siano in grado di distinguere il bene dal male meglio di noi, meglio in grado di resistere alla tentazione, meglio in grado di assegnare colpe e meriti. A questo punto, come i giocatori di scacchi e di Go, potremmo anche iniziare a imparare dalla nostra stessa creazione. Saremo in grado dipendere dalle nostre macchine per un senso di giustizia lucido e causalmente sano. Saremo in grado di imparare come funziona il nostro software di libero arbitrio e come riesce a nasconderci i suoi segreti. Una tale macchina pensante sarebbe una meravigliosa compagna per la nostra specie e si qualificherebbe veramente come il primo e miglior regalo dell'IA all'umanità".

Dovremmo dunque dipendere da macchine per concepire il senso della giustizia. Dovremmo considerare lo stesso umano libero arbitrio un software. Dovremmo considerare la 'macchina pensante' compagna meravigliosa per la nostra specie, dovremmo apprendere da lei chi siamo e come pensare rettamente. Macchina maestra di etica. Questo non lo sostiene un delirante fanatico, lo sostiene in un libro del 2018, Judea Pearl, stimatissimo computer scientist, vincitore del Turing Award nel 2011. (Commento in modo più dettagliato il libro di Pearl qui).

Luca Peyron è un pensatore meno presuntuoso di Benanti, e aveva scritto anche cose interessanti sul corpo umano nei tempi digitali, ma in fondo segue lo stesso percorso, o anzi partecipa alla stessa ricorsa proponendo l'antronomo.

"L’antronomo è colui o colei che in un processo di creazione di un prodotto o servizio legato alla trasformazione digitale e le tecnologie emergenti pone l’umano come norma". Non competerà più all'essere umano conoscere il senso dell'umano. A dirci cosa è l'umano sarà d'ora in poi un Esperto Legittimato, iscritto ad una corporazione, dotato di patente attribuita dalla corporazione stessa.

L''umano come norma' di Peyron ci appare così vicinissimo al 'valore morale' di Benanti. Tutto deve essere detto da Esperti. 

Algoretico. Antronomo. In entrambi i casi si tratta di due esemplari Disabling Professions. L'avvento in ogni ambito di caste di esperti riduce gli spazi di partecipazione sociale, impedisce l'esercizio di una cittadinanza attiva e deprime la stessa qualità del pensiero. Il membro di una casta di esperti è portato a subordinare il proprio pensiero alla difesa del ruolo e a colludere con gli appartenenti ad altre caste di esperti. 

La presenza di esperti che parlano al posto loro depotenzia e deprime l'essere umano. Ciò è vero in modo speciale per quanto riguarda l'etica. Ogni essere umano possiede una propria etica. Magari può faticare a portarla alla luce. 

Potrebbe servire un amorevole accompagnamento teso a far crescere la consapevolezza della propria etica. Ma cosa fanno questi 'esperti'. Pearl pretende di sostituire alla morale della persona la morale della macchina. Benanti dice: la percezione del valore etico è una capacità puramente umana; ma si candida per trasferire questa capacità alla macchina. Peyron condivide l'approccio: l'umano è una categoria astratta, riducibile a norma, che l'esperto conosce meglio dell'essere umano stesso.

A ben guardare è la posizione del Grande Inquisitore di Dostoevskji. Non si contempla un cittadino in grado di attingere il libero arbitrio, capace di responsabilità. Si considerano necessarie narrazioni attraverso il quale educare il popolo. Ben venga quindi l'algoretica, pensiero espresso tramite un codice dominato dall'élite e fuori dalla portata dei cittadini.  (Parlo di questa posizione, nella versione fatta propria dal Vaticano, in quest'altro articolo. E in modo più approfondito parlo di questo nel mio libro Le Cinque Leggi Bronzee). 

Gli Esperti concordano nel passaggio chiave. Passaggio di stato. Tutto deve essere codificato in forma digitale. Tutti i nostri umanissimi discorsi devono essere resi computabili. E alla fine ci viene detto che i nostri discorsi non sono più i discorsi che noi abbiamo pronunciato. Ai nostri discorsi è sostituita la loro versione computata. 

Servirebbe a questo punto una seria riflessione sul Digital Twin. Il senso del pretenzioso assunto implicito nel concetto di gemello digitale è questo: attraverso la raccolta di dati può essere costruita la rappresentazione virtuale di ogni entità fisica, vivente o non vivente. All'essere è sostituito l'essere digitale. Al 'cerca te stesso' -la domanda chiave della filosofia- è sostituito il 'cerca te stesso nel tuo digital twin'. Alla vita nel mondo è sostituita la vita nel Metaverso. All'etica enunciata attraverso le lingue parlate dagli esseri umani è sostituita l'etica computata.

Voglio invece continuare a pensare che l'etica sia pensiero umano. Pensiero che non necessita nessuna computazione per essere efficace. Voglio continuare a pensare che più di ogni macchina sia buon compagno per l'uomo l'uomo stesso. 

L'essere umano è sfidato dall'avvento del digitale. La sfida può essere accolta considerando che, al di là di vantaggi che la digitalizzazione può portare, il futuro dell'essere umano va cercato oltre i confini dettati dalla computazione, dalla codifica digitale, dall'avvento di macchine autonome. Il futuro va cercato oltre l'esempio costituito dal modo di funzionare delle macchine. 

Ma Benanti e Peyron, peccando di sudditanza, si fanno adepti della digitalizzazione, ovvero della sua trasformazione  in 'qualcosa di computabile'.

Zuck colpisce ancora

Giovedì 16 febbraio 2017 David Zuckenberg pubblica su Facebook un lungo post dal titolo Building Global Community. Più che il Discorso dell'Unione di un Capo di Stato, è l'enciclica, la lettera pastorale del Papa di un Chiesa Universale. 

Nel testo, la parola infrastructure appare alla quinta riga, e poi altre ventiquattro volte. "In tempi come questi, la cosa più importante che noi di Facebook possiamo fare è sviluppare l'infrastruttura sociale per dare alle persone il potere di costruire una comunità globale che funzioni per tutti noi".

L'Infrastracture è definita con impegnativi aggettivi: social, meaningful, global. Altrettanto impegnativi gli aggettivi usati per definire le Communities nelle quali gli esseri umani meriterebbero di vivere: supportive, safe, informed, civically-engaged, inclusive.

Alla fine, salutando i lettori con il solo nome, Mark, senza cognome, come un vero Papa, Zuckenberg ringrazia: "Thank you for being part of this community". Possiamo leggere: Thank you for il vostro vivere dentro Facebook, The Infrastructure.

Zuckenberg, giovanotto viziato, reso delirante dal potere, rivolgendosi ad ogni essere umano, arrogandosi il diritto di  parlare a nome di ognuno di noi, chiama a partecipare alla costruzione dell'Infrastructure, "il mondo che vogliamo per le generazioni che verranno”. (1)¹

Fingendo di dimenticare che Facebook è piattaforma già costruita, alla cui costruzione nessuno di noi può partecipare; un luogo dove il cittadino è ridotto a utente.

La possibilità, offerta ad ognuno, di caricare su Facebook i propri materiali non è, come potrebbe apparire a prima vista, un’apertura alla partecipazione e alla condivisione dei saperi. Il knowledge di cui ogni essere umano è autore è ridotto a content, cosa che è costretta dentro, rinchiusa, forzata nei confini di una Infrastructure già costruita. E in base a regole opache, ed in ogni caso imposte d'autorità, Zuckerberg ha deciso che quel knowledge non è più dell’essere umano che l’ha prodotto, ma suo. Come anche la storia di vita del cittadino: ogni gesto, ogni parola diviene un dato che Zuck userà come gli pare.

La nuova terra promessa del Metaverso

Facebook instupidisce, ma non tutto è perduto se i cittadini reagiscono ancora, e mostrano segni di disaffezione per Facebook e per le mirabolanti promesse di nuova democrazia del giovanotto. Ma ecco che allora, all’inizio dell’estate 2021, Zuckerberg, vista la mala parata, rincara la dose, lanciando il progetto del Metaverse.

Se siete stufi di Facebook, ecco la nuova terra promessa: un mondo virtuale, una realtà aumentata dove sarà possibile “sperimentare un senso di presenza molto più forte” di quello offerto da social network e piattaforme. Un mondo “più naturale”, “più confortevole”.

"Quello che mi entusiasma è aiutare le persone a sperimentare un senso di presenza molto più forte" di quello offerto oggi da social network e piattaforme. "Le interazioni che avremo saranno molto più ricche". In futuro, invece di limitarti a telefonarmi, "potrai sederti come ologramma sul mio divano"; "e sembrerà davvero di nello stesso posto, insieme”, "anche se ci si trova in stati diversi o a centinaia di chilometri di distanza". (2)²

La novità è ufficialmente sancita il 28 ottobre 2021in una nuova lettera enciclica, rivolta al popolo del pianeta dal Sovrano Illuminato. (3)³

Ora Zuckerberg non offre solo spazi di libertà, luoghi di incontro mediati dalla scrittura e dalla lettura dei poveri post di Facebook e di WhatsApp, delle immagini e dai video di Instagram. Ora offre, molto modestamente, un nuovo mondo e una nuova vita.

“Nel Metaverso, sarai in grado di fare quasi tutto ciò che puoi immaginare: stare insieme ad amici e familiari, lavorare, imparare, giocare, fare acquisti, creare, nonché vivere esperienze completamente nuove”. “Sarai in grado di teletrasportarti istantaneamente come un ologramma per essere in ufficio senza fare il pendolare, a un concerto con gli amici o nel soggiorno dei tuoi genitori”. “Sarai in grado di dedicare più tempo a ciò che conta per te, ridurre il tempo nel traffico e ridurre la tua impronta di carbonio”. (5)⁴

E aggiunge: "Non costruiamo servizi per fare soldi; facciamo soldi per costruire servizi migliori". Come ogni narciso prigioniero del proprio ego, cita qui se stesso: ci ricorda che aveva pronunciato questa frase nel 2012, invitando gli investitori a comprare azioni Facebook. (5)⁵ Ora invita ad investire in Meta.

La forza di Zuckerberg sono i suoi seguaci

Non so se qualcuno riuscirà a fermarlo. Vedo un problema.

Nel 2017 si era diffusa la voce che Mark Zuckerberg si preparasse a candidarsi, nel 2020, come presidente degli Stati Uniti. Non era vero. Zuck non ne aveva bisogno. Ci sono motivi per sostenere che il suo potere asimmetrico di padrone di piattaforme sulle quali i cittadini del pianeta sono costretti a vivere è più grande del potere del presidente americano.

Il problema è che conosco diversi esperti, profeti della Digital Transformation, Innovation Manager, Business Designer, Business Futurist: loro considerano davvero Zuckerberg il Presidente, la guida che apre la strada. La forza di Zuckerberg sta in questi seguaci – che con lui in questi giorni si leccano i baffi pensando ai nuovi guadagni che potranno conseguire attraverso una gabbia imposta ai cittadini, un falso mondo, ben più pericoloso di Facebook.

1Mark Zuckerberg, “Building Global Community”, https://www.facebook.com/ notes/mark-zuckerberg/building-global-community/10103508221158471/.

2Casey Newton, "Mark in the Metaverse. Facebook’s CEO on why the social network is becoming ‘a metaverse company’", The Verge, Jul 22, 2021: https://www.theverge.com/22588022/mark-zuckerberg-facebook-ceo-metaverse-interview.

3Mark Zuckerberg, Meta Founder’s Letter, 2021, October 28, 2021, https://about.fb.com/news/2021/10/founders-letter/

4Ibid.

5Matt Rosoff, “Mark Zuckerberg's Letter To Facebook Investors”, Insider, Feb 1, 2012. https://www.facebook.com/businessinsider/posts/we-dont-build-services-to-make-money-we-make-money-to-build-better-services/10152583593614071/

Articolo apparso su Parole di Management l'8 novembre 2021.

La Legge di Moore: mito fondativo o comoda scusa

Il testo che segue è un breve brano tratto dal mio libro Le Cinque Leggi Bronzee dell'Era Digitale E perché conviene trasgredirle, Guerini e Associati, in libreria dal 10 settembre 2020.

Il cavallo di battaglia di tutti coloro che non vogliono guardare ai difetti della macchina che c'è, e che ogni giorno ci è data da utilizzare, e preferiscono invece saltare in fosso, e immaginarsi già in un mondo dove umani e macchine pari sono, ed anzi il computer è modello per l'umano, è la cosiddetta Legge di Moore.

Gordon Moore, tecnico specializzato in fisica applicata, direttore di un centro di ricerca, scrive nell'aprile 1965 che il numero di transistor contenuti in un circuito integrato appoggiato su una piastrina di silicio raddoppia ogni 18 mesi. "Cramming more components onto integrated circuits", recita il titolo dell'articolo che appare sulla rivista Electronics.¹ Il verbo to cram discende dalla stessa radice indoeuropea da cui anche il latino grex, gregge. Non si possono radunare più di tante pecore in un recinto. Ma ora il progressivo sviluppo nel campo delle nanotecnologie garantisce una crescente miniaturizzazione dei componenti. I limiti apparenti della fisica possono essere continuamente spostati.

Mosso da questa visione, nel '68 Moore è uno dei cofondatori di Intel, Integrated Electronics, che presto si affermerà come leader nel mercato della unità di elaborazione centrale, i supporti fisici, l'hardware sul quale si appoggia la potenza di calcolo dei Personal Computer. Nel 1975, in vista del decennio successivo, Moore rivede la sua previsione, affermando che la potenza si raddoppierà ogni due anni. Potenza crescente a costi decrescenti. Su questa promessa di abbondanza si fondano le pretese certezze dell'Era Digitale.

La miniaturizzazione dei transistor che compongono i circuiti integrati in silicio si avvicina forse ad un limite invalicabile. Ma resterebbe comunque aperta a quel punto la via del Cloud, e della moltiplicazione delle macchine che lavorano in parallelo.

Si aggiunge una nuova via, che promette un salto in avanti nella potenza di calcolo disponibile: i computer quantistici. Basta qui dire che su questa frontiera si muovono, lontano dai riflettori della cultura digitale raccontata ai cittadini, non solo IBM, Google, Microsoft, Intel, ma anche -in un gioco geopolitico gravido di conseguenze- la NASA (National Aeronautics and Space Administration), negli Stati Uniti, così come centri di ricerca cinesi e russi.

Così, in un modo o in un altro, nel presente e nel futuro, si considera il fatto che disporremo di una sempre maggiore potenza, di una sempre maggiore velocità di calcolo come una sorta di Legge della nuova Natura Digitale.

Se prendiamo per buono questo trend, dovremmo anche ammettere che siamo di fronte alla più

Già nel 2000 Jaron Lanier, programmatore finissimo, ma anche musicista, osservava questo fideistico affidamento alla provvidenziale Legge di Moore. Scriveva: “i computer diventano sempre più veloci, ma non per questo ci mostriamo capaci di scrivere software migliore”. “Il software dei nostri computer continua a deludere”. Questa, diceva Lanier, è la Great Shame of computer science, Grande Vergogna dell'Informatica.²

Vent'anni dopo, avendo nell'orecchio le parole di Computer Scientist, imprenditori e guru e filosofi del digitale, il giudizio merita di essere ripreso. Se c'è una cosa sulla quale si trovano d'accordo questi apologisti del nuovo mondo, è il collocare i propri ragionamenti in un rassicurante contesto: viviamo su un tappeto mobile -la situazione determinata dalla Legge di Moore- che per nostra fortuna ci trascina in avanti. L'abbondanza di risorse, di potenza di calcolo, sempre crescente, giustifica i nostri errori presenti, e garantisce comunque un mirabolante futuro. Qualsiasi presentazione al popolo delle meraviglie dell'Era Digitale inizia con una slide: la curva che rappresenta la Legge di Moore sale verso il cielo.

“Che ci importa di una comprensione razionale quando invece si può contare su un feticcio?”, scrive Lanier commentando questo atteggiamento. “Il feticizzare la legge di Moore seduce i ricercatori all'autocompiacimento”. “Se si ha dalla propria parte una forza esponenziale, sicuramente si sarà all'altezza di qualsiasi sfida”.

Lanier richiama alla realtà, all'immediata concretezza e e alla responsabilità: facile nascondere magagne e difetti del codice che scriviamo quando si dispone di potenza di calcolo sempre maggiore. Finisce per importar poco la scelta del linguaggio, e la cura stessa con la quale il codice viene scritto.

Scrivendo nel 2000, Lanier non disconosceva i progressi visibili nella scrittura del codice: ricordava come esempi di significativi risultati raggiunti i software di riconoscimento vocale e di traduzione da una lingua naturale all'altra. Oggi, vent'anni dopo, possiamo notare che i risultati raggiunti in questi campi sono dovuti alla capacità di calcolo fornita dai supporti fisici, all'hardware via via più potente, molto più che alla qualità del codice.

Anzi, si deve notare un fenomeno inverso: buona parte della nuova potenza di calcolo via via disponibile è assorbita dal software, senza che ssi notino miglioramenti nelle prestazioni del software.

Le parole di Lanier sono chiare ed incisive: “c'è una legge inversa di Moore osservabile nel software: man mano che i processori diventano più veloci e la memoria diventa più economica, il software utilizza comunque tutte le risorse disponibili, diventando più lento e più gonfio”.

Basta ricordare l'esperienza di ogni cittadino. Ogni nuovo computer -o smartphone- che compriamo dispone di memoria e di potenza di calcolo notevolmente superiore alla macchina che possedevamo prima. Ma non notiamo nessun miglioramento nelle prestazioni.

Ogni cittadino ha ben presente il fastidioso modo di funzionare dei programmi di uso quotidiano, per esempio, Microsoft Word. Ogni nuova versione occupa più spazio in memoria. Ogni nuova versione di un programma fa rimpiangere la precedente: la nuova è più macchinosa, più lenta; costringe a cambiare abitudini, contiene nuove funzione inutili, mentre sono state eliminate possibilità d'azione che l'utente trovava utilissime. “La distanza tra i computer ideali che immaginiamo nei nostri esperimenti di pensiero e i veri computer che sappiamo offrire al mondo non potrebbe essere più amara”, nota Lanier.

1Gordon E. Moore [Director, Research and Development Laboratories, Fairchild Semiconductor division of Fairchild Camera and Instrument Corp.], "Cramming more components onto integrated circuits", Electronics, Volume 38, Number 8, April 19, 1965. https://newsroom.intel.com/wp-content/uploads/sites/11/2018/05/moores-law-electronics.pdf

2Jaron Lanier, “One Half a Manifesto”, con commenti di George Dyson, Freeman Dyson. Cliff Barney, Bruce Sterling, Rod Brooks, Henry Warwick, Kevin Kelly, Margaret Wertheim, John Baez, Lee Smolin, Stewart Brand, Rod Brooks, Lee Smolin, Daniel C. Dennett, Philip W. Anderson, Ray Kurtzweil, Edge, 10 novembre, 2000, https://www.edge.org/conversation/jaron_lanier-one-half-a-manifesto.

Cosa posso fare accompagnato dalla macchina

Sto terminando di scrivere un libro, di cui su questo blog esistono varie tracce: Le Cinque Leggi Bronzee dell'Era Digitale. E perché ci conviene trasgredirle. Sono anche grandemente in ritardo nella consegna del libro al mio editore, Guerini e Associati.

Il blog è una libera accumulazione di testi, il libro ha una struttura più  chiusa. Giunti verso la  fine della stesura del libro si toglie, si aggiunge, si lima. Questo testo era compreso nella Conclusione delle Cinque Leggi Bronzee. Ma ora l'ho tolto. Lo pubblico qui, Nel libro, di questo testo, ho tenuto buono solo un capoverso, quello che inizia dicendo: Inevitabilmente, è un mare ricco di insidie...

Cosa possiamo fare accompagnati dalla macchina che abbiamo sempre con noi - in tasca, sulle ginocchia, sul tavolo. 

Possiamo intanto scientemente ignorare e trasgredire le pressanti indicazioni provenienti in modo sempre più subdolo dalla macchina. Possiamo scegliere di non dar retta alle notifiche. Diffidare da ogni contenuto che la macchina spaccia come “consigliato per te”. Possiamo per quanto possibile evitare di farci dettare i tempi e le priorità dalla macchina. Lungi dal sentirci obbligati ad entrare ogni giorno, ogni ora nei cosiddetti Social Network -Facebook,Twitter, Instagram o qualsiasi altro- possiamo entrarci solo quando e se abbiamo un motivo per farlo legato alla nostra vera vita di persone in carne ed ossa. Nel muoverci all'interno di questi poveri simil-mondi -in realtà istituzioni totali dove ci è negata libertà- converrà fare il possibile per portare lì conoscenze nuove, temi, argomenti provenienti dal mondo. Per esempio, proporre link, legami che rinviano ad altri testi, documenti, fonti accessibili in qualche luogo del World Wide Web.

Non dobbiamo infatti dimenticare che esiste un abisso tra la libertà e l'apertura che -con tutti i suoi limiti e le sue contraddizioni- ci offre il World Wide Web e la chiusura che caratterizza i Social Network. Basta vedere come ogni regime dittatoriale osteggia e limita il libero accesso al Web, ed accetta invece l'uso dei Social Network. E anche che c'è da preferire in ogni caso un sito Web ad una App. Le App sono una gabbia. Dietro la semplicità d'uso c'è l'assenza di qualsiasi trasparenza su quali dati ci vengono fatti vedere, e quale uso viene fatto dei dati da noi prodotti, quale tracciamento di ogni nostra azione. Usiamo qualsiasi strumento digitale partendo dalla supposizione che tramite quello strumento siamo sorvegliati, controllati. Che qualsiasi cosa pubblichiamo in un qualsiasi luogo digitale è, come dice il verbo stesso, pubblica.

Teniamo presente che siamo stati drogati e che i processi di disintossicazione sono lenti e faticosi; che esiste una tecnocrazia che ha interesse a tenerci chiusi in questi simil-mondi; che siamo condizionati da spinte gentili, ma tese a forzare la nostra volontà, la nostra scelta.

Restimo consapevoli che le nostre umani relazioni -amicizie, affetti, amori- non sono quelle che appaiono nei luoghi digitali. La più grave minaccia risiede proprio nello spingerci a rileggere il nostro complessivo modo di essere umani alla luce dei modi di essere che ci sono concessi, offerti, imposti dai Social Network.

Converrà ricordare il perverso disegno politico che si nasconde dietro concetti come Infosfera e OnLife. Noi non viviamo nell'Infosfera. Perché i frutti del nostro pensiero, le nostre conoscenze -come ci ricordano i verbi latini- sono qualcosa di enormemente più ricco delle mere 'informazioni'. E perché la nostra appartenenza alla natura, e alla storia e alla cultura non vengono meno con l'avvento dell'Era Digitale. Dobbiamo saper guardare a come in ogni proposta di passaggio al digitale siano implicite riduzioni della vita materiale e spirituale, di ciò che è più nobile nell'essere umano. Le tecnologie nel campo della manifattura, l'automazione, la robotica tolgono all'uomo il vitale lavoro. Le cosiddette smart city sono luoghi dove ogni angolo di strada è sorvegliato. La digitalizzazione della medicina trasforma la cura, che è preoccupazione, attenzione per se stessi e per gli altri, in esecuzione di protocolli affidati a macchine. L'enfatica celebrazione dei dati significa espropriare agli esseri umani conoscenze per poi riproporle filtrate attraverso lo sguardo della tecnocrazia.

La nuova proposta di una vita digitale è minacciosa, perché l'imitazione del mondo che viene proposto a noi come luogo dove vivere non si appoggia su gandi visioni, sulla grandezza e sulla nobiltà umana: è frutto invece -da Turing a Yudkowsky- di progetti nati dall'insicurezza, dal dolore, dal bisogno di fuggire, dal rifiuto del vitale equilibrio tra maschile e femminile. Frutto di allontanamento dall'essere umani.

La nostra vita, per nostra fortuna, già ben entrati nel Nuovo Millennio, in scarsissima misura si esplica sul terreno digitale. Camminiamo per terra, ci muoviamo nei prati e nei boschi, nuotiamo nel mare. Ci alimentiamo di cibo e curiamo la nostra salute e abbiamo rapporti affettivi e sessuali fuori dalla sfera digitale. Questo è essere umani. Vi aggiungeremo volentieri qualcosa, se potremo. Tramite l'uso di sempre nuovi strumenti, come del resto l'essere umano ha sempre fatto nel corso della storia, potremo migliorare la nostra vita. Sempre ricordando che la dote che ci caratterizza è la saggezza, non la sola ragione. La sola ragione taglia via, pretende di far apparire semplice ciò che è complesso, sostituisce la vita con imitazioni. La saggezza è coltivare il piacere, il gusto della vita, l'armonia e l'appartenenza.

I tecnocrati e i tecnici e gli scienziati ritengono di essere più vicini alla ragione dei comuni cittadini: è vero, ma questo è un loro limite, non un pregio. Se la ragione è un'esclusiva dei tecnici, la saggezza è una dote di ogni essere umano. E' la saggezza che ci porta a dire: intuisco e sento che qualcosa che mi è giustamente caro viene violato. Che può dirci come muoverci sulla soglia che abbiamo di fronte: scegliere se restare noi stessi o preferire una macchina a noi stessi.

Cosa possiamo fare. Non dovremo preoccuparci di disporre dell'ultima versione o dell'ultimo aggiornamento. Sappiamo anzi per esperienza che dal personale punto di vista di ognuno di noi, ogni nuova versione farà rimpiangere la precedente. Non dovremo preoccuparci di quale sia l'uso esatto previsto per ogni macchina, ogni programma; per quanto possibile la risposta umana dovrà essere: non mi lascio guidare. La uso come strumento per essere più pienamente me stesso, per portare avanti miei progetti, mie azioni. Perché, abbagliati da novità vuote di senso, viziati da inutili automatismi, distratti da notifiche, ci siamo dimenticati quanto la macchina ci sia utile. Così, tornati a considerare la macchina un mero strumento, possiamo tornare a vedere con chiarezza i grandi vantaggi che ci porta.

Mi limito a qualche esempio tratto dalla mia esperienza personale. Del resto, ognuno di noi dovrà imparare da sé a usare la macchina come gli serve.

Se ci troviamo in un incontro, in una riunione, non ci sarà bisogno di spengere lo strumento. Possiamo evitare di lasciarci distrarre da ciò che ci propone; scegliere di restare concentrati e seguire lo sviluppo dell'azione collettiva a cui stiamo partecipando, godendo pienamente della relazione con i presenti. Lo strumento ci permetterà al contempo di accedere a fonti -documenti, dizionari, enciclopedie- che allargano e approfondiscono le conoscenze che si vanno sviluppando, la comprensione del qui ed ora.

Se ci troviamo da soli a lavorare, possiamo continuare ad usare documenti e libri cartacei, avendo però a disposizione nello stesso momento altri testi che non abbiamo sul nostro tavolo. L'uso di un testo digitale comporta non trascurabili vantaggi: possiamo, per esempio, cercare all'interno del testo il ricorrere di una parola.

Esistono strumenti di base che, ad di là di inutili fronzoli, migliorano veramente il nostro lavoro, e la qualità del prodotto: programmi di scrittura, fogli elettronici.I programmi per scrivere incrementano in modo significativo la gamma di scelte in mano a chi scrive. Permettono di entrare nella struttura del testo. Liberano chi scrive dal vincolo delle scrittura sequenziale: lettera dopo lettera, parola dopo parola, riga dopo riga. Si può ora saltare da una parte all'altra del testo, manipolarlo plasticamente per approssimazioni successive al testo che abbiamo in mente. Forse ci facciamo poco caso, ma la letteratura è cambiata da quando i romanzi sono scritti tramite un programma di scrittura.

Esistono altri strumenti che allargano la nostra comprensione. La posta elettronica resta uno strumento di enorme valore. Non solo ha avuto lo storico ruolo di essere il primo strumento digitale ad aprire possibilità di relazioni tra persona e persona. Ma conserva grandi vantaggi sulle diverse ondate di strumenti di messaggistica che si sono succeduti. Si appoggia su un codice non proprietario, trasparente. Permette di conservare con facilità i messaggi e di tornare ad accedervi. La libertà del formato permette scelte personali nel modo di scrivere, e nel modo di interagire con gli interlocutori. L'Era Digitale, nata da idee libertarie, proponeva inizialmente una relazione da pari a pari, senza mediazioni autoritarie. La posta elettronica ci mantiene aperta ancora oggi questa situazione. Non solo leggiamo libri, possiamo scrivere all'autore ed attenderci risposta.

Programmi per tradurre ci permettono di avvicinarci a testi scritti in una qualsiasi lingua. In lingue che non conosciamo. Si sa che la qualità delle traduzioni migliorano via via, ma attraverso una appropriazione indebita, perché la casa produttrice del software utilizza il nostro lavoro non pagato: ogni nostra traduzione permette alla macchina di migliorare la qualità del suo lavoro. Si sa anche che il software che presiede alla traduzione potrebbe essere strumento di censura: potrebbe eliminare parti del testo o renderlo in modi corrispondenti a qualche autorità. Ma possiamo accettare questi limiti, essendone consapevoli. I programmi di traduzione ci aprono la porta di mondi altrimenti inaccessibili. Chi conosce bene quella lingua straniera potrà notare limiti nel programma. Ma qui la differenza è tra trovarsi di fronte a una porta chiusa, o avere invece la possibilità di avventurarci, di tentare di comprendere. Del resto, ogni traduzione è un tentativo di interpretare, comprendere. I testi classici possiamo trovarli facilmente già tradotti nella nostra lingua. Ma anche qui il programma di traduzione permette un salto dei qualità e di responsabilità. Un conto è affidarsi al traduttore, un conto è avventurarsi da soli a leggere in lingua originale Kant o Heidegger. Il traduttore-essere umano, nel tradurre, ha messo in campo la sua conoscenza di entrambe le lingue, la sua dottrina, ma anche i suoi pregiudizi.

Infine, il search engine, motore di ricerca. E' il più evidente esempio di strumento in grado di potenziare il lavoro intellettuale dell'essere umano. Nonostante il suo progressivo adattamento a scopi commerciali -come abbiamo visto descrivendo la Prima Legge- resta la più efficace macchina per pensare, il miglior esempio di efficace accompagnamento offerto all'intelligenza umana. Quel personalissimo lavoro mentale che abbiamo avvicinato ricordando il senso di alcuni verbi latini, è grandemente incrementato, sostenuto dall'uso del motore di ricerca. E' un cono di luce che ci permette di scoprire l'ignoto, di stabilire connessioni. Mettendo alla prova la nostra capacità di scegliere, criticare, valutare. Non a caso scriveva Vannevar Bush: come potremmo pensare. Come potrebbe pensare, come può pensare ogni essere umano che nell'Era Digitale non vuol rinunciare alla propria saggezza. Il primo passo è essere lettori critici, capaci di scegliere e giudicare.

Per questo è importante il motore di ricerca: lo strumento tramite il quale ogni cittadino può navigare in quella galassia di conoscenze che è il Web.

Inevitabilmente, è un mare ricco di insidie. Ma la pretesa di individuare, smascherare con certezza e magari sanzionare le cosiddette fake news è vana e pericolosa. Si torna per questa via affidarsi ad una autorità umana -ecco subito apparire un'altra delle nuove professioni tipiche dell'Era Digitale: fact checker, debunker- o a un qualche algoritmo, o intelligenza artificiale. Dietro l'autorità umana o digitale, sta una Legge. Che ci conviene trasgredire. Per cercare di persona, con l'aiuto del motore di ricerca, un'approssimazione alla conoscenza. Ricordiamo che il latino veritas traduce il greco alétheia: scoprire ciò che è nascosto, cogliere ciò che si nasconde dietro l'apparenza.

Kant aveva ben spiegato che l'Illuminismo è, per ogni essere umano, l'età dell'uscita dallo stato di minorità. Poi però, timoroso del disordine sociale, finiva per affidare i cittadini a Guardiani e celebrare il ruolo del Sovrano Illuminato. (1)
¹⁽¹⁾ L'Era Digitale è il culmine del tempo immaginato da Kant. Gli scienziati sembrano condividere lo scetticismo di Kant. Ma forse vogliono solo difendere il proprio ruolo di Esperti aristocraticamente distinti dai restanti esseri umani. La scienza ha finito per diventare schiava della tecnica. La tecnica si è trasformata in tecnocrazia. L'Intelligenza Artificiale è divenuta strumento di dominio. E' il modo attraverso il quale viene tolto dalle mani degli esseri umani il volante. E forse è anche l'annuncio di un futuro dove potrebbe non esserci più spazio per gli esseri umani.

Dunque l'enfasi posta sull'imminente avvento di Intelligenze Artificiali di un tipo o di un altro è, in fondo, una narrazione tesa ad annichilire gli esseri umani. Ci conviene sperare in noi stessi. Le speranze degli esseri umani non si nutrono di ragione. Si alimentano con narrazioni.

(1)  Immanuel Kant, "Beantwortung der Frage: Was ist Aufklärung?", Berlinische Monatsschrift, Dicembre 1784, pp. 481-494.