domenica 12 febbraio 2023

Chat GPT3: Una confutazione poetica


S’alza al cielo un commosso peana 
ognuno s'accinge a ciattare con Lei! 
Ogni dì frotte di teori 
s’accodano a interrogar l’oracolo 
s’affrettano a cercar l’autoaccecamento 
Ganzissimo l’ultimo gli chiede: 
Erri forse tu, oracolo? 

Oh funzionari dell’aurora 
corifei del digital c’avanza 
mosche cocchiere di variatissima estrazione 
plaudenti all’ultimo meraviglioso aggeggio 

Con esso, ci dicono, condito d’algoretica, 
il popolo pur affetto da terribili bias 
sarà salvato. O altrimenti che importa: 
ad ogni umano essere, alla natura tutta 
simulacri noi chierici sostituiremo, portatori di esattezza 
fedeli alla perfetta esecuzione del comando 
che consiste nel ripetere il già detto 

La nuvola ora si specchia nel lago 
Understanding Ciat 
coniò l’originale titolista 
And Its Discontents risponde, per non esser dammeno 
l’Influencer di fronte 
Siccome l’Agency toglie ancora una volta 
le castagne dal fuoco 
possono serrare le fila lobby piccolette. 
L’intellighenzia, risparmiato il disturbo 
dello scrivere pensando 
e del pensar scrivendo 
non dovrà più nulla a nessuno 
godrà del tempo per rimirarsi nel proprio ego 

Non è nuovo il disegno 
di chi esaltando le virtù del secolo nostro 
e magnificando la cornucopia della tecnica: 
farà della terra il Giardino delle Delizie. 
Nessuna delega abbiamo dato 
ad autoeletta schiera di eroi
richiamiamoli semmai nel consesso civile
nella casa comune degli umani.
Il cittadino intanto langue nella palude dell'onlife. 
Ivi, spinti a creder d’esser felici 
regaliamo le scie del pensar nostro 
e ligi al servaggio ci affaccendiamo 
alla più entusiasta propaganda dell’accrocchio 
emulatore dell’umano 

Finché nel Giorno del Giudizio 
la Borsa decreterà il valore 
delle nostre conoscenze alienate 
mentre i nostri stessi risparmi 
di cui remoti gestori s’appropriarono 
finiranno in mano ai magnifici 
inventori della Ciat 
ed ai loro sodali e reggicoda. 

Volano corvi, civette incombono sui rami, 
vortici d’immondizia numerica ammiccanti aleggiano 
e noi umani gravati da notifiche 
e da incombenze imposte per via digitale 
incapaci di accettare l’imperfetta bellezza nostra 
alziamo il canto 
Mira il tuo popolo, o bella Ciat, 
che pien di giubilo oggi t'onora 
Anch'io festevole corro ai tuoi pie', 
o santa macchina, parla per me 

Non è che un programma 
fedele all’istruzione 
Ma noi ansiosi di fuga 
l'eleviamo a nostro pari 

L’incommensurabile esser vivo 
sostituito dall'infimo avatar 
La sconfinata interconnessa vastità 
svilita in pauperrima collezione di dati 
Il caos, il cosmo, la storia 
osservati dal buco della serratura d’un algoritmo 

Eppure l’umano lume 
la scintilla della coscienza… 
Giacché nasce dalle viscere e dal sogno il pensiero 
dai gesti dagli sguardi dal dolore 
Ciò che in altro non umano modo emerge 
non è pensiero 

Immaginiamoci vi prego disposti ancora al mistero 
ospitato in sterminate biblioteche 
Diamo ascolto al brusio di umane voci 
che conobbero e narrarono il mondo. 
Nulla aggiunge il digital accrocchio 
Non esiste parola che squadri da ogni lato 
che a lettere di fuoco dica il vero 
non esiste la formula che il mondo possa aprirti  

Né è nuovo il compito: 
Di ciò che sembra, diffida 
Studia sempre 
Di fronte a ogni testo 
ad ogni oracolare verbo 
distingui, giudica, scegli, interpreta 
sia pure a fatica 
sii te stesso 

La fragile specie nostra non è immortale 
non tutto sa 
ma non rinuncia a dire 'io ci provo' 
Poseremo quindi con rispettoso disincanto 
l’occhio, e curioso 
sulla Cosa Digitale prender sua forma 
Ma il folle volo nel cupio dissolvi 
in quanto umani contrasteremo 
Diremo quindi: 
ignava è la macchina 
non ti curar troppo di lei 
ma guarda e passa. 

Se poi un giorno l’oracolo 
propinquo o remoto, in virtù d'addestramento 
scriverà versi 
mai saranno i miei 
storti come i rami secchi del mio pero 
ma versi di Francesco

Versione 22 febbraio 2023

Sono non di rado accusato di "posture tecnocritiche massimaliste". Ma so di conoscere le nuove tecnologie di cui parlo quanto coloro che criticano la mia posizione, o più di loro. Amo le nuove tecnologie. Solo, cerco di guardarle dal punto di vista del cittadino, e non del tecnico, e tanto meno del filosofo o del sociologo che limitano il loro sguardo e il loro raggio d'azione a terreni definiti da tecnici.

Il cittadino ha a disposizione molti linguaggi. Il linguaggio STEM è solo uno dei tanti. Di fronte all'accettazione supina del primato del linguaggio STEM serve tornare ad altri linguaggi. Uno di questi è certo la poesia.

Nelle mie raccolte di poesie T'adoriam budget divino. Critica della ragione aziendale, e L'irresistibile ascesa del Direttore Marketing cresciuto alla scuola del largo consumo si trovano diverse poesie di argomento informatico, o diremmo meglio oggi: digitale. Qui, ad esempio, la poesia Legacy.

Devo anche aggiungere che col senno di poi la lirica che ho scritto mi appare una sintesi in versi del mio saggio: Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle. Spero che la forma diversa e la brevità spingano qualcuno a leggere il libro. Del resto i riferimenti a Leopardi e a Goethe, sia nel mio saggio, sia in questi versi, sono evidenti. Leopardi propone la filosofia in forma di lirica, Goethe usava la forma poetica per ribadire le tesi dei suoi articoli scientifici. Umilmente seguo la loro strada.

domenica 15 gennaio 2023

Etica dell'intelligenza artificiale. Le religioni abramitiche si accodano al Vaticano

Etica dell’intelligenza artificiale: l’impegno delle religioni abramitiche nella Rome Call, si legge in un comunicato Microsoft del 10 gennaio 2023.

Le Chiese monoteiste si alleano con IBM e Microsoft nello scrivere algoritmi e nel decidere, insieme, cosa è buono per il popolo. Questo accade proprio nei giorni in cui viene rilasciata la ChatGPT, da molte parti giustamente considerata pericolosa, perché parla a noi umani con voce e con argomentazioni apparentemente umane. Le Chiese si candidano quindi a parlare attraverso ChatGPT. Ovviamente Microsoft, IBM, e la comunità dei promotori dell'industria digitale, accettano di buon grado la New Entry. L'avallo delle Chiese fa comodo.

Non è che l'allargamento del progetto promosso nel 2020 a nome del Vaticano dall'arcivescovo Vincenzo Paglia, presidente della Pontificia Accademia per la Vita. Di cui parlo dettagliatamente in un articolo apparso su Agenda Digitale. (Lo trovate qui su questo blog l'articolo, con il titolo che ritengo più appropriato)

Ora a Monsignor Paglia si aggiungono il rabbino capo Eliezer Simha Weisz (membro del Consiglio del Gran Rabbinato di Israele) e lo sceicco Al Mahfoudh Bin Bayyah (Segretario Generale del Forum per la Pace di Abu Dhabi), in rappresentanza dello sceicco Abdallah bin Bayyah, (presidente del Forum per la Pace di Abu Dhabi e presidente del Consiglio emiratino per la Shariah Fatwa).

Tra le dichiarazioni dei firmatari la più emblematica è quella del rabbino Weisz. “L’ebraismo esalta la saggezza dell’umanità, creata a immagine e somiglianza di Dio, che si manifesta in generale nell’innovazione umana e in particolare nell’intelligenza artificiale”. La la saggezza umana si manifesta nell'Intelligenza Artificiale? Direi il contrario: la saggezza umana sta nell'uso cauto e dubitante di ogni strumento fondato sull'Intelligenza Artificiale. Nelle parole del rabbino aleggia poi un'inquietante analogia tra l'Intelligenza Artificiale e ciò che è creato "a immagine e somiglianza di Dio".

I rappresentanti delle Chiese accettano di buon grado la linea dettata dal padre francescano del Terzo Ordine Regolare Paolo Benanti, professore straordinario presso la Facoltà di Teologia della Pontificia Università Gregoriana, direttore scientifico della Fondazione RenAIssance.

"La dignità umana e i diritti umani ci dicono che nel rapporto uomo-macchina è l’uomo a dover essere protetto”. Benanti accetta così l'equiparazione uomo macchina. E candida sé stesso ed ogni sacerdote delle tre Chiese Abramitiche a proteggere l'essere umano. I sacerdoti si chiamano fuori, come se non fossero essi stessi esseri umani. Si riconoscono nel superiore statuto di Protettori e per questo vogliono partecipare alla scrittura gli algoritmi.

Ecco così Benanti tornare sul suo cavallo di battaglia, riassunto nel neologismo algoretica. "Dobbiamo stabilire un linguaggio che possa tradurre i valori morali in qualcosa di computabile per la macchina". (Parlo della posizione di padre Benanti, e della sua algoretica, in questo blog, qui).

Ho già segnalato la pericolosa china sulla quale si scende se accetta questa via.

Primo passaggio: i valori morali cessano di essere valori dell'essere umano e diventano patrimonio dell'esperto capace di trasformare l'etica in qualcosa di computabile. Computabile vuol dire: eseguibile da una macchina.

Si apre così la strada -secondo passaggio- all'autonomia morale della macchina.

Terzo passaggio: si arriva a sostenere che la macchina, che computa meglio dell'essere umano, sarà più morale dell'essere umano. Non mi si dica che il terzo passaggio è esagerato, lontano dal pensiero di tecnici ed esperti. Dimostro, in un articolo su questo blog, che rinomati esperti ci pensano davvero citando la posizione del computer scientist di cultura ebraica Judea Pearl

Anche stavolta, come in occasione del primo lancio della Rome Call, nel 2020, si chiama in causa il Papa. Ma nonostante il Papa citi la nuova parola magica algoretica, appare subito chiaro la sua posizione è ben diversa dalla posizione di Benanti. Per il Papa: l’algoretica non è altro che "la riflessione etica sull’uso degli algoritmi". E il Papa si augura che questa riflessione "sia presente nel dibattito pubblico", prima che "nello sviluppo delle soluzioni tecniche". E sopratutto Bergoglio afferma che “Non è accettabile che la decisione sulla vita e il destino di un essere umano vanga affidata ad un algoritmo".

Monsignor Paglia ed ora anche con loro rappresentanti delle altre 'religioni abramitiche' accettano invece la strada di Benanti: insufflare principi etici negli algoritmi.

C'è un'altra via. Allargare per quanto possibile il dibattito pubblico tra i cittadini, che sono anche i fedeli delle grandi religioni.

Accettando come punto di partenza una considerazione opposta a quella di Benanti. La vita, così come la coscienza umana, sono talmente complesse da non poter mai essere adeguatamente computate. L'etica ed il senso di responsabilità sono qualcosa di profondamente umano. E' ciò che distingue l'uomo dalla macchina.



Computazione

Articolo apparso su Riflessioni Sistemiche, numero 27, dicembre 2022; numero dal titolo: Decostruendo miti e pregiudizi del nostro tempo. Qui l'articolo così come pubblicato sulla rivista. Qui il numero completo della rivista, pubblicata da AIEMS, Associazione Italiana di Epistemologia e Metodologie Sistemiche.
Riporto qui di seguito l'articolo, perché si connette da vari punti di vista ad argomenti che tratto in questo blog.

Sommario

Origine del termine digitale. Calcolatori come macchine che trattano informazioni espresse tramite numeri. Tuttavia, il termine più usato è computer. Differenza tra il calcolare e il computare. Il ruolo di Alan Turing nel passaggio dal calcolare al computare. Passaggio non solo matematico, logico, tecnico, ma anche filosofico, psicosociologico, politico. Differenza tra pensiero aperto alla complessità e pensiero computazionale.

Parole chiave

Digitale, calcolare, computer, computazione, matematica, formalismo, intuizionismo, complessità

Summary

Origin of the term 'digital'. Computers as machines that process information expressed through numbers. But the more commonly used term is computer. Difference between calculate and compute. Alan Turing's role in the transition from calculating to computing. Shifting not only mathematical, logical, technical, but also philosophical, psychosociological, political. Difference between thinking open to complexity and computational thinking.

Keywords

Digital, calculate, computers, computation, mathematics, formalism, intuitionism, complexity

Storie di Matematici

Le aspettative di una illustre famiglia aristocratica, presente da secoli sulla scena pubblica - il nonno fu Primo Ministro della Regina Vittoria - sono pesanti da supportare. L’educazione puritana, la repressione emotiva, il formalismo nei rapporti familiari ne aggravano il peso. Nella quiete e nel lusso di Pembroke Lodge, gran magione georgiana in Richmond Park, figura dominante dell’infanzia e l’adolescenza di Bertrand Russell fu la nonna paterna, di famiglia presbiteriana. La sua educazione si riassume nell’ammonimento - Esodo, 23, 2 - “Non seguirai la moltitudine nel fare il male”. Mentre il fratello Frank reagisce ribellandosi apertamente, Bertrand, di sette anni più giovane, impara a nascondere i propri sentimenti. Ma Frank, anche, fa conoscere a Bertrand Euclide.

"Io non sono nato felice", ricorda Russell. "Da bambino il mio salmo preferito era: 'Stanco della terra e carico dei miei peccati'. (...) Durante l'adolescenza, la vita mi era odiosa e pensavo continuamente al suicidio; ma questo mio proposito era tenuto a freno dal desiderio di approfondire la mia conoscenza della matematica". (Russell B., 1969)

La matematica come ancora di salvezza. La matematica, mondo ideale chiaro e puro, offre "la sensazione di evadere da una prigione", ci permette di credere che l’erba è verde, che il sole e le stelle esisterebbero anche se nessuno li percepisse. (Russell B., 1967-69)

All'alba del nuovo secolo, Russell ha trent'anni. Non ha ancora pubblicato nessuna opera significativa, anche se i Principles of Mathematics (Russell B., 1903) sono sostanzialmente pronti da due anni. (Russell B., 1938) Intanto legge, riflette, e sorgono i dubbi. Da poco è venuto a conoscenza dei Grundgesetze der Arithmetik (Frege G., band I, 1893) del logico tedesco Gottlob Frege. Il 16 giugno 1902 Russell scrive a Frege: "Mi trovo completamente d’accordo con voi in tutti i punti essenziali, in particolare nel rifiuto di ogni momento psicologico nella logica, e nel dar valore ad una notazione simbolica [Begriffsschrift] nei i fondamenti della matematica e della logica formale, che sono del resto quasi indistinguibili".

Russell sta portando avanti un progetto analogo, quasi completamente sovrapponibile al progetto di Frege: eliminare dal ragionamento ogni influenza psicologica; fare della matematica una pura macchina logica, priva di qualsiasi umana debolezza. Forgiare a partire dalla matematica un linguaggio privo di ogni contraddizione, ogni ambiguità. Si tratta di un bisogno profondo di cui Russell non nega le radici autobiografiche.

Scrive ora a Frege mostrando apprezzamento e riconoscenza. Ma non può fare a meno di notare come la logica di Frege zoppica in un punto preciso - e guarda caso è proprio lo stesso punto debole che Russell trova nelle proprie argomentazioni. "Solo in un certo punto ho incontrato una difficoltà". "Non esiste (come totalità) una classe di tutte le classi che, prese ciascuna come una totalità, non appartengono a sé stesse. Da ciò traggo la conclusione che in determinate circostanze una collezione [Menge] definibile non forma una totalità".

Frege risponde a stretto giro di posta. "La vostra scoperta della contraddizione mi ha causato la più grande sorpresa e, direi quasi, costernazione, giacché con ciò vacillano le basi sulle quali avevo l’intenzione di costruire l’Aritmetica". (Frege G., Russell B., 1902)
Ogni proposizione della forma ‘p implica q’, ogni affermazione che intende predicare il vero, ci impone di interrogarci sul paradosso: 'Nessuno vorrà asserire, della classe degli uomini, che essa è un uomo': abbiamo qui una classe che non appartiene a sé stessa. Ma può una classe appartenere a sé stessa? Può una classe essere definita da un termine che appartiene alla classe stessa? Può il linguaggio matematico definire le regole del linguaggio matematico?

Nel 1903 esce il secondo volume delle Grundgesetze der Arithmetik (Frege G., band II, 1903): Frege fa in tempo ad aggiungervi una appendice, dove discute il paradosso. Nello stesso anno escono i Principles of Mathematics di Russell (Russell B., 1903), dove al paradosso, e alla posizione di Frege, è riservato ampio spazio (Russell B., 1903, pag. 101-107)

Russell continuerà a cercare di definire da un punto di vista formale “la relazione di un elemento con la classe a cui appartiene”.
Si tratta, nota Russell, di “un compito puramente filosofico”. Si intende la logica come una branca
della matematica. Ci si propone -come già aveva tentato di fare Cartesio con le Regulae- di fondare la matematica su un ‘piccolissimo numero di concetti logici fondamentali’, gli assiomi: postulati, affermazioni di base, che non richiedono dimostrazione, da cui verranno dedotti tutti gli ulteriori elementi del sistema.

Per Frege e per Russell, dover ammettere che l’edificio vacilla è un dramma personale. Ma la matematica serve appunto a tenere lontano da sé il turbamento. Perciò, se l’edificio appare vacillante, se affiorano aporie logiche, si dovrà semplicemente pensare che non si sono ancora individuati gli assiomi necessari e sufficienti.

Ecco la matematica come Grund, come solido terreno, e quindi fonte del linguaggio che, si spera, permetterà di formulare - finalmente, e una volta per tutte - affermazioni incontestabili.
La logica matematica, così, si scopre riduzionistica: ci si muove in un campo via via più

rigorosamente definito, si usa il linguaggio che si ritiene capace di classificazioni via via più sottili. Ciò che non appare leggibile alla luce del quadro assiomatico è dato per non esistente. La chiusura è ritenuta necessaria. (von Neumann J., 1947)

Entra così in campo David Hilbert, il matematico che dominerà i primi trenta anni del secolo, il profeta di assiomi più solidi, più stringenti. (Zermelo E., 1908)
È lui il campione, il fiero sostenitore della matematica assiomatica. Ecco il progetto di Hilbert. Fondare una matematica intesa come sistema dove ogni formula sia dimostrabile a partire dalle regole del ragionamento logico-formale.

Negli Anni Venti Hilbert, proseguendo nel percorso da lui stesso tracciato dall’inizio del secolo, formula in modo via via più compito il suo programma, al quale chiama a lavorare l’intera comunità dei matematici: individuare -in aritmetica, in geometria, in teoria degli insiemi, ed ogni altro ambito della matematica- assiomi e regole di deduzione sulla cui base ogni proposizione potesse essere dimostrata vera o falsa. (Mancosu P., 1998)

Alla matematica che si ha già, afferma Hilbert, si deve aggiungere ora “una metamatematica”, in grado di “dare sicurezza” alla stessa matematica, “proteggendola sia dal terrore dei divieti non necessari che dal travaglio dei paradossi”. Questa liberazione della matematica dai suoi confini passa, sostiene Hilbert, “attraverso una rigorosa formalizzazione delle teorie matematiche nella loro interezza, comprese le loro dimostrazioni, cosicché -secondo il modello del calcolo logico- le inferenze e i concetti matematici vengono inseriti nell'edificio della matematica come componenti formali”. Gli assiomi, le formule e le dimostrazioni costituiscono un “edificio formale” fondato su “una rigorosa e sistematica separazione tra formule e dimostrazioni formali da un lato e argomentazioni contenutistiche dall'altro”. (Hilbert D., 1922, pp. 189-213, 197-98)

Non tutti i matematici sono d'accordo con Hilbert. Hermann Weyl, e più di ogni altro Luitzen Brouwer.
Contro l’idea hilbertiana di una matematica che esiste di per sé, Brouwer considera la matematica libera attività della mente umana, consistente nel costruire strutture mediante entità correlate fra loro - entità che non esistono al di fuori della mente dei soggetti. La matematica è un linguaggio, non il vertice di ogni possibile linguaggio. Un qualsiasi linguaggio matematico restituisce una immagine della matematica - solo una delle immagini possibili.

Mentre Hilbert tenta di attribuire al matematico il nobile compito di mettere ordine nel mondo, Brouwer considera la matematica un sempre provvisorio ‘modo di pensare’. (Brouwer L.E.J., 1923 pp. 334,345) Per Brouwer, infatti, le possibilità del pensiero non possono essere ridotte a un numero finito di regole stabilite in anticipo.

Il tentativo di Brouwer di edificare una matematica ‘intuizionista’ appare a Hilbert un attacco diretto al suo edificio assiomatico. Brouwer è quindi oggetto di una accanita campagna di denigrazione, tesa a minarne il potere accademico e l'autorevolezza.

All'inizio degli Anni Trenta l'Europa immersa nella crisi. Nelle elezioni del 14 settembre 1930, il partito nazionalsocialista ottiene 18% dei voti e 107 seggi nel Reichstag. Di colpo, il secondo partito in Germania.
Una settimana prima del voto, l’8 settembre, Hilbert, l'autorità, il maestro, a Knigsberg. Pronuncia un discorso in ringraziamento alla concessione della cittadinanza onoraria. Nel discorso, che fu trasmesso per radio, e di cui si ha registrazione, ripete i suoi ormai classici argomenti. Esponend oli ora alla comunit à civile, come ancoraggio logico, razionale. Risposta d el

metamatematico alle incertezze del presente. "Non dobbiamo credere a coloro che oggi, con portamento filosofico e tono deliberativo, profetizzano la caduta della cultura e accettano l'ignorabimus. Per noi non c'è nessun ignorabimus e, a mio avviso, non c'è nessun ignorabimus nelle scienze naturali.

Non dice: “in matematica non c'è l’Ignorabimus”, ora calca i toni su noi matematici. Fr den Mathematiker”, ‘per il matematico’, “Wir drfen”: ‘noi d obbiamo’. “Fr uns gibt es kein Ignorabimus”, ‘per noi matematici non c’è Ignorabimus’. Noi matematici “Wir mssen wissen, Wir werden wissen”, noi matematici ‘abbiamo bisogno di sapere, e sapremo’.

Tutto si riassume in una frase: “nessuno ci caccerà dal Paradiso che Cantor ha creato per noi”.

Il 7 settembre 1930, i fisici e i matematici tedeschi sono riuniti a Knigsberg per il sesto Congresso della loro associazione. Hilbert non partecipa ai lavori. Ma a Knigsberg. La presenza del maestro comunque aleggia sul Congresso.
A margine del grande incontro,
stato organizzato un altro evento, più̀ specifico e ‘di tendenza’, dedicato all’ “Erkenntnislehre der exakten Wissenschaften, Epistemologia delle Scienze Esatte. Promotori, due gruppi tra di loro connessi, potremmo dire d’avanguardia, attenti a quella zona di confine che è la ‘filosofia d ella scienza’: la Berliner Gesellschaft f r Empirische (Wissenschaftliche) Philosophie e il Verein Ernst Mach, pinoto come Wiener Kreis, Circolo di Vienna. Tra i relatori tre giovani matematici: von Neumann, Heyting, Gdel.

Jans von Neumann, espone in forma sintetica il formalismo assiomatico di Hilbert. (Pochi giorni dopo von Neumann si trasferisce negli Stati Uniti, a Princeton, piccolo centro del New Jersey già̀ famoso per la Princeton University, dove apre i battenti in quell’anno l’Institute for Advanced Study).

Arend Heyting il primo allievo di Brouwer, colui che più̀ lo segue nel ragionare sui fondamenti della matematica. Riesce ad esprimere il punto di vista ‘intuizionista’ con una chiarezza sconosciuta al suo maestro.
Poi, quel 7 settembre del 1930 a K
nigsberg, parla Kurt Gdel. Ha ventiquattro anni, ha da poco completato la tesi di dottorato sotto la guida di Hans Hahn, un assiduo frequentatore del Circolo di Vienna. Credeva di aver trovato solidi fondamenti nel sistema assiomatico proposto da Russel e Whitehead. Credeva nella solidità̀ dell’edificio di Hilbert. Suo malgrado, si trova a provare, quel giorno a Knigsberg, che il rassicurante edificio di Hilbert non sta in piedi.

Gdel dimostra che in ogni teoria matematica esiste una formula che non puessere dimostrata. È possibile definire una formula logica che nega la propria dimostrabilità̀: nla formula nla sua negazione sono dimostrabili. Esistono veritche non sono dimostrabili a partire dagli assiomi e seguendo le regole della logica e della matematica. (Gödel K, 1931, pp.173-198)

Ai presenti, quel giorno a Knigsberg, le parole di Gdel restano oscure.
Tra i presenti solo von Neumann -pensatore rapidissimo - coglie al volo il senso del lavoro di G
del, in modo forse più̀ pieno di quanto l’abbia colto lo stesso Gödel: nessun sistema puessere utilizzato per provare la propria stessa coerenza. Ogni sistema è incompleto. Non è possibile giungere a definire la lista esaustiva degli assiomi che permetta di dimostrare tutte le verità. Ogni volta che si aggiunge un enunciato all'insieme degli assiomi, ci sarà sempre un altro enunciato non incluso.
I paradossi che provocavano lo sconcerto di Frege sembravano superati dalla forza di volontà di Hilbert e dall'indiscutibilità dei suoi assiomi. Ma Gödel mostra che la matematica non è quell'ancora di salvezza che Russell cercava. Si torna daccapo. La matematica non è il linguaggio perfetto. I

matematici sono di nuovo cacciati dal loro Paradiso.

Alan Turing, o la computazione come piccolo Paradiso

La figura di Alan Turing è circonfusa di gloria. È il fondatore, oggetto di celebrazioni e apologie. Ma il culto occulta la storia. Seguaci ed eredi non hanno motivo di andare alle radici: le basi della disciplina non devono essere messe in discussione.
Seguaci ed eredi, del resto, sono logici formali, ingegneri, matematici, cognitivisti, costretti dall'evoluzione delle loro stesse discipline ad uno sguardo sempre più specializzato e settoriale: l'approccio umanistico, la psicologia del profondo e l'attenzione alla complessità sono per loro chiavi di lettura sconosciute e irrilevanti.

Alan Turing, però, era un bambino, un adolescente, un giovane adulto solo e incompreso. Si sentiva vittima di pregiudizi. Suo padre considerava inaccettabile, per il suo status di funzionario imperiale, tenere con sé in India il bambino, che crebbe quindi in Inghilterra presso tutori. Vedeva i genitori solo in momenti di vacanza. Né la madre, né il fratello, di pochi anni maggiore, vollero accettare la sua omosessualità - forse anzi addirittura scelsero di non vederla.

Adolescente, in collegio, vede morire di improvvisa malattia il compagno di cui era innamorato. Per tutta la vita chiederà affetti senza trovarli; chiederà di essere accolto senza trovare accoglienza. (Varanini F., 2020, pag. 73-94)

Il giovane Alan già da bambino si appassiona alla matematica. Trova in questo, come Russell, la sua salvezza.
Pensa: non trovo affetti, comprensione, rispetto negli umani. Io stesso fatico a provare autostima. Deluso dagli ingannevoli linguaggi umani cerco certezze nel puro linguaggio della matematica. Poco più che ventenne, nel 1936, prende in mano nell'articolo
On computable numbers la questione lasciata aperta da Gödel. Turing, infatti, cita Gödel già nelle prime righe del suo articolo.

Hilbert voleva porsi fuori dal mondo, e di lì descrivere il mondo in modo esatto. È l'esponente esemplare di una generazione di scienziati. si illudeva di conoscere le regole in base al quale il mondo è costruito: gli Anni Trenta del secolo scorso sono non a caso gli anni in cui filosofia, matematica, scienza cercavano la Weltbild, visione d el mond o. La Wissenschaftliche Weltauffassung, la visione Scientifica del Mondo. La General Theory, la Teoria Generaleche tutto spiega.

Si voleva dominare i sistemi, conoscerli in ogni dettaglio, osservarli dall'esterno come oggetti di fredda indagine. Gödel dimostra che questo è impossibile.
Non c'è il Paradiso grandioso di Hilbert, dove il matematico è in grado di tutto de scrivere ed ordinare, osservando il mondo dall'esterno, dall'alto di un metodo privo di falle. Gödel, usando gli stessi strumenti sui quali Hilbert fondava il suo potere, ha minato le basi di questo delirio di onnipotenza.

Turing trova una risposta. Tanto geniale quando illusoria. Ma gravida di conseguenze.
Se la calcolabilità - la descrizione del mondo logico-formale, esatta e priva di equivoci - è inattingibile, la risposta sta nel definire un universo più ristretto, dove i problemi che la calcolabilità impone sono assenti per definizione. Turing, in fondo, non fa altro che rinverdire il sistema assiomatico di Hilbert aggiungendo alla sua lista un nuovo assioma: useremo d'ora in poi solo numeri computabili. Sostituiremo alla problematica
calcolabilità la rassicurante computabilità.

Turing ripristina così il sogno di Hilbert. Non c'è il Paradiso della Matematica, ma c'è il Paradiso della Computazione.

La semplice soluzione di Turing

Nella prima riga dell'articolo è già fornita la definizione: "The computable numbers may be described briefly as the real numbers whose expressions as a decimal are calculable by finite means". Calcolabili con mezzi finiti. Poche righe sotto Turing spiega meglio: "a number is computable if its decimal can be written down by a machine".

La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti.
Gli assiomi che Hilbert voleva credere veri in assoluto ora sono veri in pratica, perché si riducono a questo: sono le regole che il programmatore stesso scrive, dettando.

Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare.
I numeri che la macchina non è in grado di trattare sono esclusi dalla scena. Inesistenti nel Paradiso della Computazione.

Nel Paradiso della Computazione

Ridefiniti i confini del mondo, si ricolloca in questo mondo depurato di complessità ogni ente. Si reimmagina in questo quadro l'essere umano, la natura stessa, l'universo.
Questo è il progetto che Turing definisce nel suo secondo articolo-chiave. Se il primo era scritto nel 1936, all'inizio della vita adulta, il secondo, scritto quattordici anni dopo, nel 1950, è scritto quando Turing è forse ancor più disperato che in gioventù. Ha trentotto anni. Quattro anni dopo si toglierà la vita.

Turing affida alla macchina, alla computer machine, le speranze che non coltiva per sé, e per l'umanità tutta. Spera che la macchina che ha immaginato prenda il posto dell'essere umano. O sia in fondo da guida all'essere umano.
Nell'articolo del 1950 Turing si pone una domanda: Possono le macchine pensare? E si risponde sì. Formula quindi un auspicio:
"We may hope that machines will eventually compete with men in all purely intellectual fields". (Turing A., 1950, p. 433-460)

Qui Turing formula una speranza esistenziale: deluso da sé stesso e dagli altri, tradito dagli umani, sceglie di fidarsi della macchina.
Ma il tutto si inquadra nel contesto della
computazione: una scena dove il perturbante, il difficile, il complesso, è escluso a priori. (Varanini F., 2016, pag. 97, 104)

Il computer umano ed il suo sostituto-macchina

Turing spiega molto bene dove va a cercare il nome che definisce il suo piccolo paradiso. Lo scrive nell'articolo del '36 e torna a dirlo nell'articolo del '50.
Computer, fino agli Anni Trenta del secolo scorso, significava in inglese contabile, computista. Turing è chiaro nel dire perché sceglie questa figura professionale come esemplare.

"L'idea alla base dei computer può essere spiegata dicendo che queste macchine sono destinate a svolgere qualsiasi operazione che potrebbe essere eseguita da un computer umano. Si suppone che il computer umano segua regole fisse; non ha la facoltà di discostarsene in alcun dettaglio. Si può

supporre che queste regole siano fornite in un libro, che viene modificato ogni volta che viene assegnato a un nuovo lavoro". (Turing A., 1950)
Il proporre un mondo assoggettato a regole, va di pari passo con l'immaginare un essere umano assoggettato a regole.

Ecco, dunque, una ulteriore precisazione del concetto di computazione: la macchina può sostituire l’uomo nel pensare e nel lavorare. Purché, precisa Turing, si accetti una precisa definizione del lavoro. “Il lavoro è eseguire ciò che sta scritto in un Book of Rules", in un Libro delle Regole. (Turing A., 1950)

Ecco, quindi, un'altra possibile definizione di computazione: è l'esecuzione di ciò che sta scritto in un libro delle Regole.

Due epistemologie: computazione vs. complessità

Si può dunque considerare l'approccio computazionale come esempio del più radicale riduzionismo. Ogni concetto e linguaggio è sottoposto alla traduzione in un altro linguaggio: il linguaggio che è compreso dalla computing machine. Ogni problema è riformulato in modo da poter essere trattato dalla computing machine. Ogni descrizione è fondata su un metodo che da Cartesio a Hilbert a Turing non cambia: si cerca di dar ragione del sistema considerandolo come scomponibile in sottosistemi. Si vede la gerarchia di sottosistemi, non la rete.

E si possono quindi osservare le differenze tra pensiero aperto alla complessità e pensiero computazionale.
Il pensiero aperto alla complessità non si pone confini, contempla una rete interminata di connessioni possibili, d i volt a in volt a speriment at e. I l pensiero comput azionale è invece predeterminato: prevede l'esistenza di un Libro delle Regole del retto pensare.

Il pensiero aperto alla complessità accetta in ogni suo passaggio, l'assenza di un quadro complessivo, di una descrizione sicura delle parti del tutto. Accetta l'ignoranza: Ignoramus et ignorabimus, ignoriamo e ignoreremo; c'è, e ci sarà in ogni istante ed in ogni contesto qualcosa di oscuro che ignoriamo, e che ignoreremo anche in futuro. Il pensiero computazionale, seguendo Turing, rifiuta a priori l'ignorabimus.

Il pensiero complesso è il pensiero dell'essere umano consapevole della propria imperfezione, e della propria appartenenza alla natura, alla vita, ovvero al sistema stesso che tenta di conoscere e descrivere. Il pensiero computazionale presume invece di raggiungere -sia pure dentro un quadro predefinito- la descrizione esaustiva del mondo. Il pensiero computazionale, anche, si fonda sull'idea di poter osservare il mondo dall'esterno, senza influenzarlo. Il pensiero computazionale, infine, è pensiero pensato da soggetti che si considerano creatori del mondo.

Il pensiero complesso si avventura nell'ignoto tracciando il cammino strada facendo. Il pensiero computazionale, al contrario, si muove lungo mappe già tracciate; esegue i passi di una procedura già scritta.

Oggi la cultura digitale ci parla, ci rende necessarie macchine in ogni fase della vita, ci propone luoghi dove abitare. Tutto questo: algoritmi, Intelligenza Artificiale, Mondi Virtuali, Metaversi, Gemelli Digitali- può essere bene inteso solo alla luce del passaggio che Turing ha imposto. Dalla faticosa accettazione della complessità alla sua sostituzione con la consolatoria computazione. Possiamo forse infine intendere la computazione come una specifica forma di rimozione: il tentativo di escludere, espellere dalla coscienza di ciò che ci turba e ci inquieta. Sostituendo ogni persona ed ogni cosa con un suo simulacro.

Bibliografia

Brouwer L.E.J., 1924. “Über die Bedeutung des Satzes vom ausgeschlossenen Dritten in der Mathematik, insbesondere in der Funktionentheorie”, Journal für die reine und angewandte Mathematik, 154, 1924, pp. 1-7 (lezione originale olandese agosto 1923); trad. inglese “On the significance of the principle of excluded middle in mathematics, especially in function theory”, 1923, With two Addenda and corrigenda, in Jean van Heijenoort (ed.), From Frege to Gödel: A Source Book in Mathematical Logic, 1879-1931, Harvard University Press, Cambridge, Ma., 1967..

Frege G., 1893. Grundgesetze der Arithmetik, Band I, Verlag Hermann Pohle, Jena.

Frege G., 1903. Grundgesetze der Arithmetik, Band II, Verlag Hermann Pohle, Jena.
Frege G., Russell B., 22 june 1902, in Gabriel, Hermes, Kambartel, Thiel & Veraart (eds.), Gottlob Frege, Wissenschaftlicher Briefwechsel, cit.; trad. inglese in Jean Louis Maxime van Heijenoort (ed.), From Frege to Gödel: A Source Book in Mathematical Logic, 1879-1931, Harvard University Press, Cambridge, Ma., 1962, cit. Vedi anche
: Willard Van Orman Quine, “On Frege’s Way Out”, Mind, 64, pp. 145-159, poi in Willard Van Orman Quine, Selected Papers. Random House, New York, 1966.

Gödel K., 1931. “Über formal unentscheidbare Stze der Principia Mathematica und verwandter Systeme I”, Monatshefte fr Mathematik und Physik, Leipzig, 38, 1931..

Hilbert D., 1922. “Neubegründung der Mathematik. Erste Mitteilung”, Abhandlungen aus dem Mathematischen Seminar der Hamburgischen Universität, 1 (1922), pp. 157-177; trad. it. in David Hilbert, Ricerche sui fondamenti della matematica, Bibliopolis, Napoli.

Mancosu P., 1998. From Brouwer to Hilbert. The Debate on the Foundations of Mathematics in the 1920s, Oxford University Press, Oxford.

Russell B., 1903. The Principles of Mathematics, Cambridge University Press, Cambridge.

Russell B., 1930. The Conquest of Happiness, George Allen & Unwin. London, 1930, pp. 17-18; La conquista della felicità, Longanesi, Milano 1969, pp. 16-17.
Russell B., 1967-69. The Autobiography of Bertrand Russell, George Allen & Unwin, London 1967-1969, 3 vols..

Russell B., 1938. Principles, Introduction to the Second Edition.

Turing A., 1950. “Computing Machinery and Intelligence”, Mind, Vol. 59, Number 236, October 1950. Poi in Alan Mathison Turing, Mechanical Intelligence, edited by Darrel C. Ince, North- Holland, Amsterdam-London-New York-Tokio, 1992; trad. it. Intelligenza meccanica, Boringhieri, Torino, 1994. Prima trad. it. “Macchine calcolatrici e intelligenza”, in Johann von Neumann, Gilbert Ryle, C. E. Shannon, Charles Sherrington, A. M. Turing, Norbert Wiener e altri, La filosofia degli automi, a cura di Vittorio Somenzi, Boringhieri, Torino, 1965, pp. 116-156.

Varanini F., 2016. Macchine per pensare. L'informatica come prosecuzione della filosofia con altri mezzi, Guerini e Associati

Varanini F., 2020. Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle, Guerini e Associati

von Neumann J., 1947. “The Mathematician”, in Robert B. Heywood (ed.), The Works of the Mind, Committee on Social Thought, University of Chicago Press, Chicago, 1947, pp. 180196. (Papers di Lectures tenute presso l’University of Chicago durante il 1946; tra gli altri, oltre a von Neumann, Frank Lloyd Wright, Marc Chagall, Arnold Schoenberg). Giuseppe O. Longo, Homo tecnologicus, Meltemi, Roma, 2005, pp. 102-105. Giorgio Isreal, La mathématisation du réel. Essai sur la modélisation mathématique, Editions du Seuil, Paris, 1996; trad. it. La visione matematica della realtà, Introduzione ai temi e alla storia della modellistica matematica, Laterza, Bari, 1996.

Zermelo E., 1908. “Neuer Beweis für die Möglichkeit einer Wohlordnung”, Mathematische Annalen, 65, 1908, pp. 107-128. “Untersuchungen über die Grundlagen der Mengenlehre, I”, Mathematische Annalen, 65, 1908, pp. 261-281 Trad. inglese in Jean van Heijenoort (ed.), From Frege to Gödel: A Source Book in Mathematical Logic, 1879-1931, Harvard Univ. Press, 1967

sabato 15 ottobre 2022

Perché mai noi umani dovremmo affidarci a macchine morali. A proposito di Judea Pearl, 'The Book of Why. The New Science of Cause and Effect'

Ho letto il libro di Pearl1 - con grande interesse. Anche con sorpresa. Più andavo avanti nella lettura più ero meravigliato. Fino alla sorpresa finale.

Più procedevo più mi convincevo che Pearl aveva ragione. O forse meglio: che ero d'accordo.

D'accordo sul fatto che la strada del Macchine Learning e del Deep Learning, affidate alla crescente potenza di calcolo, è meno promettente di quanto si dica. D'accordo sul fatto che non basta affidarsi a ciò che dicono i 'raw data' -i dati nudi e crudi- anche se 'interrogati' tramite una stratificazione di reti neurali. D'accordo sul fatto che i dati non sono altro che 'record' del passato. Insomma, in generale d'accordo sul fatto che il pensiero umano è infinitamente più profondo, articolato e complesso di questo modo di lavorare della macchina. D'accordo quindi nel cercare di avvicinarsi alla complessità del pensiero umano seguendo la via di Bayes e di Markov.

Ma leggendo ero anche sempre più sconcertato. Ero e resto meravigliato dal modo in cui Pearl fonda il suo approccio. Seguendo in modo precisissimo la via indicata da Turing in Computing Machinery and Intelligence (1950), cerca di costruire una macchina capace di pensare. Bisogna quindi, sostiene Pearl, insegnare alla macchina a contemplare livelli diversi di complessità. Ecco quindi la sua Ladder of Causation.

Primo livello. Association. Regolarità nelle osservazioni, previsioni basate su osservazioni passive. Correlazione o regressione. Non c'è modello di realtà. Domanda: E se vedo?

Secondo livello. Intervention. Attenzione a ciò che non può essere presente nei dati (che riguardano il passato). Cambiare ciò che è. Modello di realtà. Cercare altri dati. Scienza dell'inferenza. Domanda: Cosa accadrà se...?

Terzo livello. Counterfactuals. Confrontare il mondo fattuale con un mondo fittizio. Domandarsi: E se le cose fossero andate diversamente?

Che c'è di nuovo?

Il punto è che Pearl presenta la Scala come una novità. Nuova sarà forse per lui e per i suoi colleghi dediti al Machine Learning. Si tratterà forse di qualcosa di nuovo rispetto a ciò che si insegna di solito nei Dipartimenti di Informatica. Ma si tratta di qualcosa di ovvio, se si allarga lo sguardo al di là della formazione strettamente matematica, ingegneristica, STEM.

Al di fuori di questa cultura, i tre livelli di interrogazione causali, appaiono cosa scontata. Già l'idea di individuare i tre, gli unici tre, livelli che presiederebbe all'innalzarsi del pensiero umano verso livelli più alti, appare riduttiva. Inadeguata agli occhi di chi frequenta riflessioni filosofiche e coltiva attenzione per i sistemi complessi.

Pearl però va comunque apprezzato, per come cerca di allargare lo sguardo oltre il quadro delle fonti abitualmente prese in considerazione da chi si occupa di Computer Science. Cita Hume, per esempio, ma quanti altri filosofi avrebbe potuto citare, con più motivo! Semplicemente, credo, non gli è capitato di leggerli. Non gli se ne può fare una colpa. A partire dalla sua formazione di matematico, ha saputo muoversi con coraggio e libertà. Ma comunque resta vittima della sua formazione. Il vizio di origine continua a condizionarlo, anche quando si lancia oltre il consueto.

Enormi porzioni di letteratura, o meglio: di storia del pensiero umano sono ignorate. Non sarebbe grave, se non fosse che Pearl si propone di cogliere quello che potremmo chiamare lo 'schema genetico' del pensiero umano. Non sarebbe grave, se il suo intento non fosse trasferire alla macchina la nozione della complessità del pensiero umano.

Come si può, del resto avere la pretesa di riprodurre, ed anzi superare, il pensiero umano, senza prendere in considerazione, come fonte di stimoli alla progettazione, ogni manifestazione del pensiero umano: Pearl si limita a cercare fonti tra scienziati e filosofi. Mentre è perfino ovvio dire che l'umano pensare -il suo processo, i suoi frutti- può essere inteso solo se si prendono il considerazione la tradizione mantenuta viva in miti e narrazioni; l'arte; la letteratura; la musica. La filosofia, poi, e la scienza stessa, andrebbero intese non come repertorio di leggi e schemi assodati, ma come storia sempre incompiuta di osservazioni ed esperimenti...

Se si accettano multidisciplinarietà e complessità, insomma, il tentativo di ridurre l'umano pensiero, l'umana intelligenza, l'umana saggezza ai tre scalini della Ladder of Causation, finisce per apparirci come un banale esercizio di riduzionismo. Un modo di ingabbiare il pensiero, più che un modo di coglierne il senso.

Se poi accettiamo in vincolo di considerare la sola letteratura scientifica, e andiamo a guardare le fonti e gli strumenti matematici, logico-formali, statistici, con i quali Pearl scegli di lavorare, gli va riconosciuto il coraggio di muoversi lungo la non troppo praticata via stocastica, congetturale di Bayes e Markov. Ma si deve anche notare che Pearl mostra di ignorare fonti che avrebbero alimentato in modo significativo le sue stesse intenzioni progettuali.

Mi limito a pochissimi esempi.

I ragionamenti sui processi inferenziali, ipotetici, abduttivi di CS Peirce. La matematica intuizionistica di Brouwer. La matematica di volta in volta adattata ad una specifica ricerca di Walter Pitts. Von Foerster a proposito di auto-organizzazione dei sistemi e di rumore...

(Mi rendo conto che sto in fondo ripercorrendo in buona misura argomenti esposti nel mio libro Le Cinque Leggi Bronzee, o argomenti che tratterò nei volumi del Trattato di Informatica Umanistica successivi a Macchine per pensare).

I believe

Con tutto questo, il libro di Pearl ci appare una salutare critica al al Mainstream del Machine Learning. Pearl gioca contro la fiducia nella cieca capacità della macchina; contro le promesse della mera potenza di calcolo. Si mantiene anche lontanissimo da chi crede o spera nella Singolarità: una rottura, una discontinuità, per cui le macchine digitali ad certo punto della loro evoluzione si riveleranno capaci attitudini imprevedibili per gli umani. 

Ma The Book of Why pretende di essere molto di più di una sana critica della Computer Science 'normale'. Il disegno di Pearl, ambiziosissimo, si svela solo nelle pagine conclusive del libro. Pearl intende progettare la macchina che sappia essere migliore dell'essere umano. Non affida la sua speranza alla capacità della macchina di andare oltre il suo stesso progetto, come sostengono i profeti della Singolarità. Vuole scientemente progettare una macchina capace di prendere il posto del suo stesso progettista.

Pearl si pone cinque domande.

"1. Abbiamo già creato macchine che pensano?

2. Possiamo fare macchine che pensano?

3. Faremo macchine che pensano?

4. Dovremmo fare macchine che pensano?

E infine, la domanda non dichiarata che sta al cuore delle nostre ansie:

5. Possiamo fare macchine capaci di distinguere il bene dal male?"

La risposta alla prima domanda, ci dice dice Pearl, è: no. Per quanto riguarda le altre domande -che sono proprio le stesse domande che Turing si poneva in Computing Machinery and Intelligence (1950)- la risposta di Pearl è no, se si seguono le vie che altri ricercatori stanno seguendo. Ma è sì, se si segue la via che Pearl stesso propone.

Mi limito a citare Pearl laddove si riferisce alla quinta domanda:

"My answer to the fourth question is also yes, based on the answer to the fifth. I believe that we will be able to make machines that can distinguish good from evil, at least as reliably as humans and hopefully more so. The first requirement of a moral machine is the ability to reflect on its own actions, which falls under counterfactual analysis. Once we program self-awareness, however limited, empathy and fairness follow, for it is based on the same computational principles, with another agent added to the equation.

There is a big difference in spirit between the causal approach to building the moral robot and an approach that has been studied and rehashed over and over in science fiction since the 1950s: Asimov’s laws of robotics. Isaac Asimov proposed three absolute laws, starting with “A robot may not injure a human being or, through inaction, allow a human being to come to harm.” But as science fiction has shown over and over again, Asimov’s laws always lead to contradictions. To AI scientists, this comes as no surprise: rule-based systems never turn out well.

But it does not follow that building a moral robot is impossible. It means that the approach cannot be prescriptive and rule based. It means that we should equip thinking machines with the same cognitive abilities that we have, which include empathy, long-term prediction, and self-restraint, and then allow them to make their own decisions".

Ecco quindi la conclusione:

"Once we have built a moral robot, many apocalyptic visions start to recede into irrelevance. There is no reason to refrain from building machines that are better able to distinguish good from evil than we are, better able to resist temptation, better able to assign guilt and credit. At this point, like chess and Go players, we may even start to learn from our own creation. We will be able to depend on our machines for a clear-eyed and causally sound sense of justice. We will be able to learn how our own free will software works and how it manages to hide its secrets from us. Such a thinking machine would be a wonderful companion for our species and would truly qualify as AI’s first and best gift to humanity".

Mi sembra indispensabile rileggere queste parole in italiano. Per una macchina, o per un essere umano che considera se stesso esclusivamente come scienziato, la lingua potrà essere indifferente. Ma per un essere umano che intende pensare, mostrare la propria saggezza ed esprimere giudizi morali, la lingua non è indifferente: pensiamo nella nostra lingua natale, naturale.

"La mia risposta alla quarta domanda è sì, anche in base alla risposta alla quinta. Credo che saremo in grado di creare macchine in grado di distinguere il bene dal male, almeno con la stessa affidabilità degli esseri umani e, auspicabilmente, con una maggiore affidabilità. Il primo requisito di una macchina morale è la capacità di riflettere sulle proprie azioni, che rientra nell'analisi controfattuale. Una volta programmata l'autocoscienza, per quanto limitata, ne discendono l'empatia e l'equità, perché si basano sugli stessi principi computazionali, con l'aggiunta all'equazione di un altro agente.

C'è una grande differenza di principio tra l'approccio causale alla costruzione del robot morale e l'approccio che è stato finora studiato e che è stato ripreso più volte nella fantascienza a partire dagli anni Cinquanta: Le leggi di Asimov sulla robotica. Isaac Asimov propose tre leggi assolute, a cominciare da "Un robot non può ferire un essere umano o, per inazione, permettere che un essere umano venga danneggiato". Ma come la fantascienza stessa ha dimostrato più volte, le leggi di Asimov portano sempre a delle contraddizioni. Per gli scienziati dell'intelligenza artificiale, questo non è una sorpresa: i sistemi basati su regole non si rivelano mai buoni.

Ma questo non significa che costruire un robot morale sia impossibile. Significa che l'approccio non può essere prescrittivo e basato su regole. Significa che dovremmo dotare le macchine pensanti delle stesse capacità cognitive che abbiamo noi, tra cui l'empatia, la previsione a lungo termine e l'autocontrollo, e poi permettere loro di prendere le proprie decisioni".

Quindi:

"Una volta che avremo costruito un robot morale, molte visioni apocalittiche inizieranno a recedere nell'irrilevanza. Non c'è motivo di astenersi dal costruire macchine che siano in grado di distinguere il bene dal male meglio di noi, meglio in grado di resistere alla tentazione, meglio in grado di assegnare colpe e meriti. A questo punto, come i giocatori di scacchi e di Go, potremmo anche iniziare a imparare dalla nostra stessa creazione. Saremo in grado dipendere dalle nostre macchine per un senso di giustizia lucido e causalmente sano. Saremo in grado di imparare come funziona il nostro software di libero arbitrio e come riesce a nasconderci i suoi segreti. Una tale macchina pensante sarebbe una meravigliosa compagna per la nostra specie e si qualificherebbe veramente come il primo e miglior regalo dell'IA all'umanità".

Con Turing, oltre Turing

Si capisce che Pearl, con giusta ambizione, si confronta con Turing e si candida a proseguire il suo lavoro. Pearl è stato premiato nel 2011 con il Turin Award: dato l'intento di Pearl, nessun Turing Award è stato più giusto. Questo considerarsi il vero figlio del capostipite appare già evidente nel presentare la Scala di Causalità. Dice Pearl: "While Turing was looking for a binary classification -human or no human- ours has three tiers, corresponding to progressively more powerful causal queries". "Mentre Turing cercava una classificazione binaria - umano o non umano - la nostra ha tre livelli, corrispondenti a interrogazioni causali progressivamente più potenti".

Resta sorprendente, e grandemente interessante per me, la precisione con cui Pearl richiama la lezione di Turing, citando alla lettera Computing Machinery and Intelligence (1950).

Pearl riprende le speranze di Turing. Turing scriveva proprio "I hope", spero che la computing machine apprenda a pensare. Pearl segue lo stesso cammino cercando passi in avanti, e dice: "I believe". E precisa: con il mio approccio, ci riusciremo. Costruire un 'robot morale' è possibile. Sarà in grado di distinguere il bene dal male meglio di noi. Anzi: questa macchina meravigliosa compagna ci insegnerà la morale, ci mostrerà il senso del libero arbitrio...

Il mio primo commento è questo: non escludo che noi esseri umani si possa essere in grado di costruire questa macchina. Potremo forse riuscirci. Credo però che se mai ci riusciremo, sarà perché nell'immaginare, progettare, costruire questa macchina avremo saputo andare oltre la cultura matematica, oltre la formazione STEM nella quale Pearl resta chiuso.

Ben più rilevante mi sembra un ulteriore commento. Constato che noi umani, nei tempi digitali, siamo spinti ad accettare di soggiacere a questa legge: preferirai la macchina a te stesso. Il campione di questo atteggiamento, al quale Pearl si accoda, è Turing.

E' questo uno degli argomenti centrali del mio libro Le Cinque Leggi Bronzee. Come essere umano, scelgo di non arrendermi. Scelgo di continuare a preferire noi esseri umani ad ogni macchina. Scelgo di considerare più importante la contiguità dell'essere umano con gli animali, le piante, ogni elemento naturale che la contiguità con una macchina. Scelgo di scommettere sulla specie umana. Scelgo di investire su una specie umana protesa consapevole della sua appartenenza alla natura, alla vita, piuttosto che su umani disposti a cercare nuove terre digitali, totalmente progettate: Infosfere, Metaversi, e orientati ad affidare la responsabilità morale a macchine. (A proposito del "trasformare in qualcosa di computabile il valore morale" scrivo anche in quest'altro post).

Perché preferire la macchina a noi stessi?

Mi chiedo quindi: perché preferire la macchina a noi stessi? Da dove nasce l'ansia che spinge Turing e Pearl a costruire macchine capaci di pensare meglio di come pensi un essere umano?

Da dove nasce il bisogno di ri-educarci a dipendere dalla macchina, il bisogno di dire "We will be able to depend", "We will be able to learn"?

Ora, io credo che il motivo per cui Turing preferisce la macchina a sé stesso, come mostro nelle Cinque Leggi, stia nella sua triste vicenda personale. Era un essere umano deluso di sé stesso e dell'umanità; privo di fiducia e di stima per sé stesso e per gli altri esseri umani. Sceglieva quindi di collocare, al posto di sé stesso, la macchina. Pearl va per la stessa strada, ma si spinge oltre: auspica che la macchina insegni all'essere umano ad essere migliore.

Sono propenso a pensare che il motivo per cui Pearl passa dai ragionamenti tecnici sulla Causal inference in statistics, e simili, alla speranza di riuscire a costruire una macchina in grado di insegnare a noi umani morale e libero arbitrio, stia, come nel caso di Turing, nella triste vicenda personale.

Il dolore, la mancanza, che ha stravolto la vita di Judea Pearl è la tragica scomparsa del figlio Daniel. Giornalista del Wall Street Journal rapito e decapitato nel 2002 a trentanove anni da terroristi in Pakistan.

Judea in apparenza tiene separato il sé stesso padre, essere umano, cittadino, attore politico, dal sé stesso scienziato. Ma è, ovviamente, una scissione solo apparente. Ogni essere umano capace di commozione, e di sentimenti, così come ogni studioso attento alla complessità e alle scienze umane, sa che le ferite affettive che ci toccano nel profondo toccano ogni aspetto della nostra vita. Anche la vita lavorativa, professionale. Anche la vita di scienziato e ricercatore.

Judea Pearl padre addolorato, profondamente ferito e Judea Pearl scienziato sono una persona sola.

Judea Pearl dice: "Mio figlio è stato ucciso dall’odio per cui sono deciso a combattere l’odio".

Come combatte Judea Pearl l'odio? Certo, con Fondazione dedicata al figlio, che opera per il "mutual understanding among diverse cultures". Ma anche, e di più, credo, fortemente volendo, e tentando di costruire, una macchina che sia, a differenza degli umani, incapace di odiare.

Possiamo fidarci nel miglioramento di noi stessi? Possiamo sperare che prevalgano tra gli umani rispetto e giustizia? I motivi di pessimismo sono molti. Il Judea Pearl cittadino fa quanto possibile con la fondazione. Il Judea Pearl scienziato spera, crede di avere al suo arco frecce più promettenti.

Judea, padre, sa che Daniel, suo figlio, è stato ingiustamente ucciso. Il male, provocato da esseri umani, ha prevalso sul bene. Ecco dunque "la domanda che sta al cuore delle nostre ansie": "Saremo capaci di costruire macchine in grado di distinguere il bene dal male?".

Deluso come Turing dagli umani, come lui Judea Pearl sceglie di fidarsi della macchina. Spera in una macchina morale che sappia insegnare la moralità agli umani. 



1Judea Pearl and Dana MacKenzie, The Book of Why. The New Science of Cause and Effect, Basic Book, 2018.