Macchinismi computazionali e intelligenza: perché è aberrante la traduzione italiana del più noto articolo di Alan Turing

Computing Machinery and Intelligence: l’articolo di Alan Turing apparso nell’ottobre 1950 sulla rivista 'Mind'. Turing afferma in apertura: “I propose to consider the question: Can machines think?’". La definizione intelligenza artificiale viene coniata cinque anni dopo. Ma l’intero campo di ricerca discende da qui. Dove già nel titolo si propongono le parole chiave: macchina, computazione, intelligenza.

L’articolo, citatissimo, non è in realtà stato letto e studiato abbastanza. Per lo più è noto attraverso riassunti e letture di seconda mano, che presentano interpretazioni scolastiche e semplificate. L’impressione lasciata da queste sintesi appiattisce il senso, tanto da renderne inutile la lettura.

Leggete l’articolo da soli. Se l’avete già letto, rileggetelo. E' chiarissimo, e che ci parla più incisivamente delle prefazioni e dei commenti che lo accompagnano- illumina le stanche e ripetitive discussioni presenti. Non lasciatevi fuorviare dagli 'esperti' che vogliono darvi ad intendere che senza la loro mediazione non potrete comprendere: si capisce tutto molto bene.

Arriverete così a ragionare con la vostra testa sull’affermazione che si trova verso la fine: “We may hope that machines will eventually compete with men in all purely intellectual fields”. Potrete allora chiedervi: condivido questa speranza? Mi riconosco in questo progetto? In cosa il mio pensiero si differenzia da quello di Turing e dei suoi più o meno consapevoli seguaci?

L’articolo, è reperibile con estrema facilità sulla Rete in lingua originale, e in italiano, gratis. Ma ben venga una nuova edizione. Ne è uscita di recente una presso Einaudi, a cura di Diego Marconi.

La traduzione di Marconi è nuova. Ma il titolo - Macchine calcolatrici e intelligenza - resta lo stesso che appariva nella prima traduzione italiana dell'articolo, nell'antologia La filosofia degli automi, a cura di Vittorio Somenzi, Boringhieri, 1965. Il titolo resta uguale nella successiva edizione della raccolta: La Filosofia degli automi. Origini dell’intelligenza artificiale, a cura di Vittorio Somenzi e di Roberto Cordeschi, Boringhieri, 1986, ristampata con prefazione di Damiano Cantone, Mimesis, 2022.

Macchine calcolatrici e intelligenza è un titolo sbagliato. Era un titolo sbagliato nel 1965, nel 1986, nel 2022, e a maggior motivo lo è oggi.

Macchine calcolatrici evoca macchine ben più semplici del calcolatore elettronico. Ma anche l'espressione calcolatore elettronico, che pure Marconi usa nella postfazione dell'edizione Einaudi, è datata e fuorviante.  Principalmente per un motivo: si nasconde la differenza, tra 'calcolo' e 'computazione'. 

Turing ammette che la assoluta calcolabilità - la descrizione del mondo logico-formale, esatta e priva di equivoci - è inattingibile. La sua risposta a questa impossibilità sta nel definire un universo più ristretto, dove i problemi che la calcolabilità impone sono assenti per definizione: l'universo della computazione.

E' importante discutere e confrontarsi. Ma ogni confronto sarà impossibile se tramite un titolo sbagliato, o chissà volutamente fuorviante, si nega l'argomento del contendere.

Invito quindi a leggere l'articolo di Turing immaginandolo intitolato Macchine computanti e intelligenza. O Macchine computazionali e intelligenza. O Macchinismi computazionali e intelligenza. O, tout court Computer e intelligenza.

Turing lo sapeva!

Un accademico, ordinario di Computer Science recentemente uscito di ruolo per età, si  presenta ora su Linkedin come 'etico informatico'. Ha scritto sull'Avvenire un articolo commemorativo nel settantesimo anniversario della morte di Alan Turing 7 giugno  1954. Qui l'articolo.

Riporto qui il commento all'articolo che ho proposto su Linkedin.

Se seguiamo Turing quando dice: "presumibilmente il comportamento intelligente consiste in un allontanamento dal comportamento completamente disciplinato del calcolo"", dobbiamo dedurne che nessuna macchina fondata sulla computazione può essere 'intelligente', perché la computazione è esattamente un procedimento completamente disciplinato dal calcolo. Anzi, Turing ci impone una ulteriore riduzione, un ulteriore allontanamento dall''intelligenza' definita come sopra, dato che la computabilità è per definizione più strettamente disciplinata della calcolabilità.

Turing lo sapeva! Infatti tutto il suo ragionare, nell'articolo "Computer Machinery ed Intelligence", 1950, tutto il suo cercare la macchina che pensa, la macchina intelligente, non è che una mera speranza, umanamente comprensibile, ma priva di fondamenti logici, matematici, o in senso lato scientifici. 'I hope', scrive verso la fine dell'articolo, come tu stesso ricordi: "possiamo sperare che sicuramente nel futuro le macchine competeranno con gli uomini in tutti i settori puramente intellettuali".

La domanda dunque è: perché Turing coltivava questa fideistica speranza? La domanda è anche: perché sono molti oggi coloro che coltivano, seguendo Turing, questa fideistica speranza?

Mi sembra resti aperto anche un ulteriore interrogativo: anche tu coltivi questa fideistica speranza? Perché scrivi: "I recenti progressi dei sistemi di intelligenza artificiale generativa stanno facendo cadere l’ipotesi che siano solo dei 'pappagalli stocastici', basati sul caso. Almeno dal punto di vista fenomenologico alcuni esperimenti hanno invece dimostrato in questi sistemi l’esistenza di scintille di intelligenza".

Tu credi davvero che gli argomenti esposti da Emily Bender in "On the Dangers of Stochastic Parrots" siano infondati, e che invece vada dato credito a quanto scrive Sébastien Bubeck in "Sparks of Artificial General Intelligence: Early experiments with GPT-4"?

Nel complesso, leggendo il tuo articolo, mi sembra che tu condivida la "solenne dichiarazione di fiducia e ottimismo" che attribuisci a Turing.

Perciò mi pare resti una certa contraddizione tra il tuo testo il titolo dell'articolo: 'Così Alan Turing ci mise in guardia dagli inganni delle macchine'. Turing non mette in guardia dagli inganni delle macchine, spera che le macchine pensino!. Forse i redattori dell'Avvenire non hanno capito? O forse, consapevolmente o inconsciamente, si tratta di una presa di distanza da quello che scrivi?

L'ultima definizione di intelligenza è sempre la penultima

 Ci sono intellettuali preoccupati, a loro dire, di una certa regressione che si respira oggi nell'aria. Che fanno allora? Intervistano filosofe influenti, originali e stimolanti. (Se volete, leggete qui).

La filosofa dice: avevo scritto che c’era differenza tra un cervello organico e il modo in cui funziona un computer.

Ma mi sbagliavo! Me ne sono accorta quando ho scoperto l'esistenza dei chip sinaptici!

Ora, folgorata dal chip, la filosofa sa cosa è l'intelligenza - sa che può essere inequivocabilmente descritta tramite una definizione esaustiva, esatta - e sa anche che questa definizione è buona per descrivere sia l'intelligenza umana che l'intelligenza della macchina - che, ci assicura, sono la stessa cosa.

"È inutile negarlo: il cervello e il computer sono in una relazione reciproca e speculare, di mirroring". Dunque: specchiatevi nella macchina per conoscere voi stessi!

Sovviene un dubbio: quando verrà mostrato un nuovo chip alla filosofa, ella si afferrerà allora a nuove certezze?

Torna per fortuna in mente l'antica lezione: filosofia è aletheia: inesauribile tentativo di disvelamento, quindi proprio: esperimento, ricerca di ciò che sta oltre il già definito.

Dunque resta la domanda: dato e non concesso che la definizione di intelligenza fornita dalla filosofa abbia un senso, cosa c'è oltre quell'ambito già descritto?

Le mie capacità, e quelle tue, di te che mi stai leggendo, sono certo modestissime. Magari domani una macchina mi umilierà con i suoi superpoteri. Ma perfino nella mia capacità di pensare c'è qualcosa che travalica i confini segnati da quella definizione!

Nulla di questo sembra interessare a intellettuali e filosofi postmoderni, disinteressati a sondare le tenebre dell'ignoto, a cercare ancora. Ansiosi -o bisognosi- di stare al passo con le glorie dell'ora presente, essi sostituiscono la computazione all'aletheia.

L'intelligenza artificiale non è per forza tua amica. Otto domande di Sebastiano Zanolli a proposito del libro 'Splendori e miserie delle intelligenze artificiali'. Newsletter Linkedin 'La Grande Differenza', 21 luglio 2024

 Non è facile pensare e tantomeno scrivere. Ci sono anche cose di cui si preferirebbe non parlare, nemmeno con sé stessi. E se non si ripete a pappagallo quello che hanno già detto altri, si sente il peso della solitudine. Resta sempre il dubbio di non aver ben articolato gli argomenti; di non aver offerto un buon servizio al lettore.

In realtà un libro è il dialogo con un lettore disposto a farsi domande.
Grazie quindi a Sebastiano Zanolli per le sue domande. E per questa sua sintesi, che non avrei saputo scrivere con questa chiarezza:

- Il libro è per chiunque voglia pensare con la propria testa, spiegando concetti complessi in modo chiaro e comprensibile, senza bisogno di competenze tecniche avanzate.
- Il libro sfida la visione utopica delle tecnologie digitali, mettendo in guardia contro il cosiddetto "Paradiso tecnologico" e invitando a una valutazione critica e equilibrata delle intelligenze artificiali.
- Varanini sottolinea l'importanza di valorizzare l'esperienza umana, guardando oltre i dati e gli algoritmi, e mantenendo vivo il pensiero critico e la cultura aziendale in un contesto sempre più digitalizzato.
- Non come un manuale tecnico, ma come un viaggio riflessivo su chi siamo e su come possiamo rimanere umani in un mondo sempre più dominato dalle tecnologie.

L'intervista appare sulla newsletter Linkedin La Grande Differenza, 21 luglio 2024

Qui per iscriversi alla Newsletter

Riporto di seguito il testo dell'intervista.

Otto domande a Francesco Varanini sul suo ultimo libro

Francesco, quanto è accessibile il tuo libro Splendori e miserie delle intelligenze artificiali per i non esperti?

Splendori e miserie delle intelligenze artificiali si rivolge alle persone che hanno ancora voglia di pensare con la propria testa. Si rivolge a tutti coloro che capiscono non è tutto oro quello che luccica, e che vogliono capire. Si rivolge a coloro che intuiscono contraddizioni, vedono pericoli, hanno dei dubbi e dei timori, ma magari si vergognano anche a dirlo, perché non si considerano 'esperti'...

Credo sia fuorviante distinguere tra 'esperti' e 'non esperti'. Esistono persone che si impegnano nel pensare. Ed esistono persone che per gli effetti di una cattiva educazione e di una insistente propaganda che impone un falso pensiero bell'e pronto, tendono non fidarsi della propria capacità di pensare. Si affidano così ad 'esperti': ma gli 'esperti' spesso abusano della propria autorità, parlando come esperti di cose di cui non sono esperti; e poi gli 'esperti' sono in realtà portatori di interessi personali: il loro successo professionale dipende dal fatto che i cittadini accettino le cosiddette intelligenze artificiali a scatola chiusa, senza porsi troppe domande.

Considerando che l’IA è argomento complesso, riesci a spiegare i concetti chiave in modo comprensibile anche per chi non ha una formazione tecnica?
Non è così difficile spiegare di cosa si tratti. Quello che spesso manca è la volontà di spiegare. Giova a chi ha interessi da difendere il mostrare le cosiddette intelligenze artificiali come qualcosa di esoterico, comprensibile solo dagli 'esperti', dai 'tecnici'. I tecnici, poi, sono specializzati in un singolo campo. A loro manca la visione generale. Più precisamente si può dire che, con tutto il rispetto loro dovuto, i tecnici digitali sono specializzati nel parlare alle macchine, non nel parlare ai cittadini del modo in cui funzionano le macchine. Se i tecnici non sono in grado di guardare oltre i confini della propria disciplina, a porre in luce le interrelazioni e la complessità dovrebbero essere i filosofi. Ma -come mostro in un capitolo del mio libro- i filosofi, salvo eccezioni, hanno rinunciato a questo ruolo. Non c'è più la filosofia: l'interrogarsi su cosa voglia dire 'essere umano', l'amore per la conoscenza, lo spirito critico, la saggezza. C'è solo una filosofia ancella della tecnica: la filosofia dell'informazione, la filosofia dell'intelligenza artificiale, la filosofia della mente, la filosofia delle neuroscienze...

Quando nella tua domanda mi dici:“comprensibile anche per chi non ha una formazione tecnica” sembra quasi che tu dubiti della possibilità di capire. Sembra quasi che consideri necessario e irreversibile l'affidamento a chi è dotato di “una formazione tecnica”. Non è così!

Dobbiamo tornare a pensare e ad agire fidandoci di noi stessi, dobbiamo tornare a dar valore alla nostra storia personale, alla nostra esperienza – in questa storia e in questa esperienza stanno le chiavi per comprendere il senso profondo di qualsiasi questione tecnica...

Questo è ciò che mostro con il mio libro. E sono convinto che a te, leggendolo, sia venuto in mente un pensiero: 'ma allora, più che da imparare dai tecnici, ho molto da insegnare loro'.

Sì va bene, ma non hai risposto alla domanda. Dimmi in modo comprensibile: cosa è l'IA?

Insisto fin dove possibile nel non usare sigle e nel dire: 'cosiddette intelligenze artificiali'.

Insisto nello scrivere in minuscolo e nell'usare il plurale. Per sottolineare che sotto questa espressione-ombrello -intelligenza artificiale- vengono oggi messe insieme tecniche informatiche diverse. Fino a qualche anno fa ognuna aveva il suo nome, ma ora è comodo riassumere tutto all'ombra di queste due immaginifiche parole.

E sottolineo il 'cosiddette', perché in effetti il termine già in origine non esprimeva nessuna precisione tecnica. Fu coniato con un unico scopo: colpire la pubblica immaginazione. Favorendo così la raccolta di fondi della ricerca e l'ascesa sociale dei cultori di una nuova disciplina: la computer science.

Potrei darti qui, anche in brevi parole, una definizione tecnica. Potrei parlarti di algoritmi, di come funzionano le macchine. Nel libro ovviamente ne parlo.

Ma preferisco dirti in sintesi, prescindendo dagli aspetti tecnici. Le intelligenze artificiali sono macchine progettate per operare indipendentemente dagli esseri umani, e per autosupervisionarsi nel loro funzionamento e nel loro sviluppo.

Splendori e miserie non è l'ennesimo libro che spiega al popolo, considerato come una massa di ignoranti da istruire, le meraviglie delle nuovissime tecnologie. E' al contrario un tentativo di risvegliare le coscienze di noi esseri umani, assopite dall'affidamento a macchine sempre più potenti ed autonome.

Quindi, posso aggiungere che, di fatto, le intelligenze artificiali sono macchine progettate per sostituire gli esseri umani, ed imposte agli esseri umani come specchio del proprio modo di essere e come modello di come dovrebbero essere.

Sono macchine per togliere al posto nostro le castagne dal fuoco. Macchine che nel semplificarci apparentemente la vita ci impoveriscono. Macchine che ci spingono a non assumerci responsabilità.

Nel libro, metti in evidenza il concetto di Paradiso tecnologico. Perché ritieni questo concetto pericoloso?

Metto in guardia contro una comoda via fuga: la via di chi sostiene che bisogna lasciar campo libero all'innovazione, perché le tecnologie ci salveranno. Si dice che lo sviluppo tecnologico porterà vantaggi all’umanità tutta, alla vita sulla Terra, al pianeta. Come le prime comunità cristiane credevano nell’avvento del Regno di Cristo in Terra, qualcuno crede ora nella promessa di un eden tecnologico, felice per tutti.

Il primo problema è che in questa promessa c'è ben poco di vero.

Dietro questa narrazione si nascondono gli interessi economici, e di puro dominio, delle grandi case digitali. Si nasconde il fatto che queste tecnologie provocano già oggi, e provocheranno ancor più negli immediati anni a venire, conflitti sociali, perdite di diritti e di lavoro, aggravamento della forbice tra ricchezza e povertà.

I fautori del Paradiso Tecnologico sostengono che nel lungo periodo tutto si accomoderà. Ci sarà energia a basso costo, ci saranno servizi garantiti e cibo sintetico per tutti... Non è affatto detto che si arrivi a questo. Ma se pure ci si arriverà, non si tratta certo di uno scenario auspicabile. E' lo scenario descritto da Huxley nel romanzo The Brave New World, Il mondo nuovo: un modo dove dietro un'apparente libertà si nasconde una rigida divisione in caste ed un controllo sociale che sradica il pensiero individuale e libero.

Una via di fuga, dicevo, perché è un comodo modo per non assumersi l'onere di governare lo sviluppo dell'industria digitale, qui ed ora. E' un modo per evitare di fare scelte; di di dire: questo sì, questo no; di ammettere che l'industria digitale provoca gravi danni ambientali...

In che modo possiamo guardare ai limiti reali e le potenzialità delle tecnologie digitali, evitando sia un entusiasmo eccessivo che un pessimismo paralizzante?

Per quanto mi riguarda mi preoccupo sopratutto di contrastare l'entusiasmo eccessivo. Perché mi pare questo l'atteggiamento dominante. In realtà non si tratta di sincero entusiasmo dei cittadini, degli utenti, ma di narrazioni accuratamente costruite dai portatori di interessi, tese a convincere i cittadini ad accettare tutto quello che l'industria digitale propone. In fondo, credo di poter dire, la maggior parte dei libri dedicati ad intelligenze artificiali e dintorni hanno per scopo spargere fiducia. Si dice in fondo: fidatevi di noi esperti, perché voi non sapete. Si dice: osservate la bellezza, la meraviglia di queste novità. Si dice: in ogni caso la storia va in questa direzione, fatevene una ragione.

A me sembra che i rischi di un pessimismo paralizzante siano proprio uno degli argomenti usati dai fautori dei una innovazione digitale acritica. Un argomento usato per annichilire i cittadini ed i lavoratori che, in virtù del loro intuito, del loro senso di realtà, vedono problemi ed hanno dubbi. E spesso si vergognano di dirlo, direi anche: si vergognano per averlo pensato. Perché a nessuno piace essere giudicato retrogrado.

Il mio libro si rivolge in modo particolare a questi cittadini accusati di essere retrogradi. Dico loro: la vostra posizione è la più costruttiva e la più saggia. Allo stesso tempo mi rivolgo a chi è oggi disposto ad affidarsi alle nuove tecnologie digitali senza pensare troppo: invito chi ha questo atteggiamento alla cautela ed alla riflessione.

Propongo quindi concretamente un possibile cammino: non rinviare nel tempo la soluzione dei problemi che già oggi queste tecnologie comportano; non scaricare su di altri l'onere di responsabilità che ognuno, nel suo ruolo, può assumersi.

Hai parlato dell’importanza di guardare oltre ciò che un computer può vedere. Puoi spiegare cosa intendi, e come questo approccio potrebbe influenzare lo sviluppo e l’adozione delle tecnologie IA in ambito aziendale?

Piace oggi offrire a manager, lavoratori, cittadini, l'immagine di una crescente potenza del computer: sempre maggiore potenza di calcolo, fino al raggiungimento della cosiddetta intelligenza artificiale. L'invito è ad affidarsi sempre più alla macchina.

Si dice che il manager deve lasciare via via sempre più compiti al computer. Si sostiene che gli

algoritmi aiutano i decisori a risparmiare tempo perché automatizzano le decisioni ad alta frequenza e basso impatto. Ciò aumenta, si dice, l'opportunità di dedicare tempo e sforzi cognitivi a decisioni strategiche a bassa frequenza ed alto impatto.

A questa proposta è facile rispondere che è impossibile definire a priori quali sono le decisioni strategiche più importanti. Perché le decisioni più importanti sono le risposte a fenomeni emergenti, imprevedibili.

L'algoritmo opera sui dati: i dati non descrivono mai in modo esaustivo la realtà. L'algoritmo non è che una procedura basata su un modello. Il modello, per definizione, non è in grado di prevedere ogni possibile evento. L'algoritmo, quindi, non è in grado di rispondere ad eventi catastrofali, o anche semplicemente a necessità di intervento che vengono alla luce, agli occhi del manager, visitando di persona lo stabilimento produttivo, il magazzino, o parlando con i clienti.

Fidandomi della macchina rischio di non vedere ciò che di nuovo ed importante accade. Inoltre, abituandomi ad affidarmi alla macchina, lascio decadere nel tempo la mia stessa capacità di vedere.

Affermi che la cultura digitale debba essere decostruita per osservarne le miserie. Puoi fornire esempi concreti di come questa decostruzione possa avvenire nella pratica quotidiana di un’azienda tecnologica?

Per essere precisi, non uso il uso il verbo decostruire nel testo del libro; lo uso, in un tentativo di sintesi forse fuorviante, nel risvolto di copertina. Intendo semplicemente dire: leggere criticamente, non lasciarsi incantare dalla propaganda e della più comune delle affermazioni: 'queste tecnologie sono arrivate per restare'. Come a dire: dobbiamo accettarle per forza; dobbiamo adattarci. Non credo sia così. Penso che sia possibile, o anzi, spero, probabile, che tra cento o duecent'anni ci guarderemo indietro e diremo: oh come eravamo insensati quando pensavamo conveniente affidare i compiti più difficili a macchine in più possibile indipendenti da noi!

Nella pratica quotidiana di ogni azienda, tecnologica o non tecnologica, questo vuol dire innanzitutto scegliere oculatamente i modo di formare le persone a vivere la trasformazione digitale. Il modo comune è insegnare l'adattamento: insegnare ad usare passivamente ogni nuovo strumento prodotto da tecnologi lontani dalla vita della singola azienda, dalla sua cultura, del suo business.

C'è un modo differente: mostrare i limiti degli strumenti, i loro rischi, insegnare come mantenere viva la cultura aziendale, e gli spazi di libertà individuali, nonostante la presenza di strumenti digitali che tendono ad imporre una uniformazione universale.

Sostengo nel libro che questa formazione 'a rovescio' serve nelle aziende. E serve ad ogni cittadino, per mantenere vivi il senso di responsabilità ed il libero arbitrio, per non essere ridotto a utente passivo di servizi preconfezionati.

Un'ultima domanda. Una curiosità personale. Il sottotitolo del libro aggiunge una precisazione che sembra significativa: alla luce dell'umana esperienza. Mi sembra tu parli dell'esperienza soggettiva, dell'esperienza che ogni persona fa 'sulla propria pelle', interagendo con le macchine digitali, con le intelligenze artificiali in particolare...

Sì, è proprio così. La cultura tecnico-scientifica spinge a guardare le cose, a osservare il mondo, nel modo più oggettivo possibile. Le idiosincrasie, gli aspetti distintivi di una persona, la sua cultura e i suoi valori sono considerati difetti. Ma questa è proprio la via che ci porta ad essere sempre più simili a macchine, ad intelligenze artificiali.

Siccome il mio intento è ricordarci chi siamo, riscoprire spazi per noi stessi, noi umani, in questo contesto dove le macchine digitali sono presenti, allora il punto di partenza sta proprio nel narrare le esperienze personali. E così racconto di come mi sono sentito quella volta in cui ho interagito con Chat GPT a proposito di un argomento che mi stava veramente a cuore.

Siamo spinti a considerare rilevante solo a ciò che è codificabile, computabile. Ma così buttiamo via una parte significativa della nostra storia, dei nostri valori. Ci sono cose che riusciamo a dire solo attraverso narrazioni lontanissime dalla codifica digitale. Uno dei capitoli del mio libro è scritto in versi, è una poesia. Non è un gratuito esercizio. Solo così riuscivo a dire certe cose. Un altro capitolo è una lettera personale ad un esperto che stimo al di là delle differenze di posizione.

Il mio libro è un invito a continuare ad essere noi stessi, appunto dando valore alle nostre esperienze, evitando di farci 'dettare l'agenda' da intelligenze artificiali.

 

'Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza', Guerini e Associati, in libreria dal 24 maggio 2024

 Il tema del libro in tre frasi

Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce.
Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire.
Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità.

Uno degli argomenti che tratto nel libro
C'è un'inquietudine che mi muove. Continuo a venire a conoscenza delle opinioni di seri ricercatori. Essi dicono, sinceramente e con piena convinzione, cose del tipo:
"Una caratteristica distintiva dei sistemi di AI è questa: potranno prendere decisioni su basi etiche. Distinguere il bene dal male".
Nel libro discuto questa posizione, che -lo ammetto- mi scandalizza. Il fondamento della posizione sta nel far riferimento a studi di scienze cognitive. In base a quale presupposto studiosi di scienze cognitive pretendono di sapere cosa è il bene e il male, e cosa è l'etica, in base a un ancoraggio che guida la loro ricerca. L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana  è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. Il ricercatore stesso si allontana dal proprio essere umano.

Un altro argomento
L’immaginare di sostituire l’essere umano con una macchina è contrabbandare l’informazione per conoscenza.
La Transizione Digitale -che termina in una immagine conclusiva: l'Intelligenza Artificiale- è il punto di svolta di una svalutazione dell’umano. Perché costituisce la pretesa di sostituire all’esperienza umana i dati. I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano che sta maturando esperienze. L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato.
Un conto è l’informazione - che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza - che è il frutto dell’umana esperienza

Una descrizione dei temi  il libro
Splendori e miserie. C'è qualcosa di davvero splendido nelle promesse digitali - il cui culmine e la cui sintesi sembra ormai definitivamente riassumersi in un sostantivo ed in un aggettivo: Intelligenza Artificiale. Qualcosa di luminoso, scintillante. Sontuoso, grandioso, nobile. Ma c'è anche qualcosa di misero.
Siamo assillati da notizie che cantano le meravigliose capacità di intelligenze artificiali, e ci invitano ad affidarci ad esse. Ma sappiamo che il rischio di assuefazione e dipendenza è dietro l'angolo. Per noi e per i nostri figli, per i nostri posteri.
Perché ci impegniamo nell'insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano? Perché impegnarsi in progetti che consistono nell'ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina?
Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi?
Siccome l'innovazione appare inarrestabile, si sceglie di abbracciarla. Pare che l'unica scelta possibile consista nello sforzarsi di vederne gli aspetti positivi.
Credo invece si possa combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile.
Credo sia possibile dare risposte. Credo che in ogni caso convenga continuare a porci domande. Anche se non abbiamo immediate risposte.
La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole.

Un'altra descrizione - che mi sembra migliore della precedente
Anche i computer scientist ed i vari esperti che ci parlano di novità digitali hanno un'anima, una storia personale, un vissuto di dolori e di sogni. Gli strumenti ed i sistemi digitali, compreso tutto ciò che passa oggi sotto il nome di Intelligenze Artificiali, nascono in queste zone segrete, frutto di motivazioni profonde e non di rado inconfessate.
Per cercare di capire cosa significhino, e cosa nascondano, le Intelligenze Artificiali che con tanta insistenza vengono oggi propoposte ad ogni cittadino, non conviene quindi dar troppo credito alle spiegazioni tecniche e alle divulgazioni. Serve anzi ricordare che qualcosa, in queste narrazioni, resta sempre celato.
Per comprendere, conviene invece dare valore all'esperienza personale di ognuno di noi. Cosa vuol dire per me ricorrere ad una Intelligenza Artificiale? Quali sensazioni provo mentre mi affido a lei?
Scopriremo allora che le Intelligenze Artificiali rappresentano l'illusoria speranza di un facile modo per scaricare dalle proprie spalle il peso di responsabilità che ci paiono troppo gravose.
E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica.
Osservando con sguardo critico gli splendori e le miserie di ogni nuovissimo mezzo digitale, potremo tornare a guardare, e a dar valore, a ciò che siamo già capaci di fare, a mente libera e a mani nude, un attimo prima di cercare l'ausilio di una macchina.

Una terza descrizione
Oscilliamo tra miseria e splendore. La MISERIA sta nel non voler vedere ciò che ci turba e ci preoccupa. Sta nel sottovalutare le nostre doti e nello sprecarle.
La rincorsa al vano SPLENDORE sta nel proiettarsi nell'immagine di chi è vestito broccato d’oro e porpora, con una ghirlanda di giacinti rossi in testa, una collana d’oro. Una immagine alla quale aneliamo, ma che sappiamo lontanissima da ciò che vediamo se ci guardiamo allo specchio.
Di questi tempi, entrambe le immagini ci portano a credere nella potenza di cosiddette intelligenze artificiali. Ad affidarci a loro. Perché ci illudiamo possano vedere e agire al posto nostro. Perché se non possiamo vedere bellezza in noi, cerchiamo di vederla nella macchina.
Diamo alla macchina un nome splendido per nascondere ogni miseria.
Che fare? Nel mio libro SPLENDORI E MISERIE DELLE INTELLIGENZE ARTIFICIALI propongono una via.
- Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. Senza rinunciare al nostro corpo. Senza considerare la nostra mente separata dal corpo.
- Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole 'Intelligenza Artificiale'con lo sguardo dell’essere umano che contribuisce a costruire il mondo che abita. Con lo sguardo del cittadino che, disposto ad assumersi responsabilità, non cessa di porsi domande. Con lo sguardo di ognuno di noi, intento a vivere esperienze.
La saggezza umana sta nell’accettare la situazione, nell’apprendere a leggerla e a viverla. Senza arrendersi però al fato, a ciò che ci è comodo definire inevitabile. La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine.

 

Che fare di fronte alla GenAI? Costruire con spirito critico un antropocentrismo ingenuo

 Rispondo qui all'articolo dell'amico Paolo Costa La GenAI? E' l'orrendo che affascina. Nel mentre ancora lo ringrazio per aver partecipato all'incontro Sanno forse le scatole nere scrivere romanzi?, presso Spazio Vitale, Verona, 15 giugno 2024.

Ho amici che mi dicono: certe cose non vanno dette fuori dalla cerchia degli addetti ai lavori. E aggiungono: quando si parla ai cittadini, conviene evitare aspetti scabrosi, e dedicarsi invece a spargere fiducia; tanto poi, si aggiunge ancora, i 'profani' non sono in grado di capire. E si sa che poi, nel parlare, ci si adatta all'uditorio, al contesto. 

Capita così di dire in pubblico che sarebbe meglio non usare nemmeno l'espressione 'intelligenza artificiale', perché impropria e imprecisa. E capita che poi invece scrivendo già nel titolo si prende per buona l'Intelligenza Artificiale Generativa; per poi dilungarsi, nel corso dell'articolo, sulle magnifiche capacità retoriche della Intelligenza Artificiale Generativa stessa.

Per quanto mi riguarda, in ogni occasione e quale che siano gli interlocutori e il pubblico, mi spendo nel tentativo di discutere a fondo ogni affermazione data per scontata. E cerco in ogni situazione mostrare ciò che resta non detto nelle ambigue e imprecise divulgazioni tramite le quali l'Intelligenza Artificiale viene presentata ai cittadini. 

Perché non possiamo fare a meno di ricordare un fatto: circola nei media e nei social network ed in ogni dove una sia pur confusa e discordante apologia dell'Intelligenza Artificiale. Questa apologia giova a chiunque opera da professionista nel campo dell'Intelligenza Artificiale - anche a coloro che, di fronte a specifici aspetti di queste tecnologie, mostrano atteggiamenti critici.

E dunque fa comodo in ogni caso creare un'aura di attesa e di pubblico interesse attorno alla cosa detta 'Intelligenza Artificiale'. Non importa se si tratta di un'aura fumosa. In un modo o nell'altro fa comodo educare il popolo a stare in attesa di novità sbalorditive. Se mai si accenna a difetti di questa cosa detta 'Intelligenza Artificiale', sempre si bilancerà parlando dei difetti degli esseri umani. 

A questa ormai consolidata prassi comunicativa rispondono gli antropocentristi ingenui svelando trucchi e invitando tutti a tornare con i piedi per terra.

Vengo subito alla conclusione dell'articolo che sono qui a commentare.

dovremmo rinunciare ad assumere una posizione di sdegno, del tutto sterile, per la presunta detronizzazione dell'umano da parte della macchina

Cominciamo col dire che, di fronte a certe tecnologie pensate contro l'essere umano, a danno dell'essere umano, lo sdegno è motivato. Si può notare che per svalutare l'atteggiamento, per connotarlo con una venatura negativa, per intenderlo come gratuito disprezzo, si scrive sdegno e non indignazione. Diciamo dunque che di fronte a diverse tecnologie digitali che abbiamo sotto gli occhi, l'indignazione è del tutto motivata. Perché poi "del tutto sterile"? E' un monito politico. E' come dire: tanto il cittadino non può far nulla. Ogni tecnologia proposta dovrà comunque essere accettata. Lo stesso tono traspare dall'aggettivo presunta, che vuole far pensare ad atteggiamenti eccessivi, non realistici, non corrispondenti ai fatti. E poi la parola detronizzazione, come se gli umani si sentissero seduti indebitamente su un comodo trono. Seduti su un trono sono semmai i tecnologi, i finanziatori che scelgono quali ricerche finanziare, gli attori tutti del mercato dell'offerta di strumenti digitali, che sempre più costringono il cittadino, con ogni nuova proposta, a ridursi ad utente.

Ma in realtà tutto il senso della conclusione ricade sulla frase succcessiva

dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza

Mi chiedo innanzitutto se si abbia chiara nozione del senso della parola ingenuo. Significa "nato all'interno della stirpe, e perciò libero e schietto". Dunque, a scanso di equivoci, mi dichiaro antropocentrista ingenuo. C'è forse da vergognarsi a riconoscersi appartenenti alla stirpe degli esseri umani? Dove sta il difetto in questo riconoscimento? Si può legittimamente supporre che chi si propone di 'decostruire con spirito critico' l'antropocentrismo ingenuo intenda eludere le responsabilità che in quanto essere umano gravano sulle sue spalle. Chi è tacciato di 'antropocentrismo ' non si sente al centro di nulla: semplicemente non scansa le responsabilità che in quanto umano è chiamato ad assumersi.  Si può altresì inferire che, per un qualche motivo che i sostenitori di questa decostruzione non sanno spiegare bene, la critica all'antropocentrismo sia il velo che copre l'ansia di poter dire, seguendo Turing: che bello, le macchine sanno pensare! E forse anche: che bello se le macchine tolgono le castagne dal fuoco al posto nostro! Antropocentrista ingenuo, invece, scelgo di assumermi le mie responsabilità di conoscitore delle cose digitali e di cittadino. Parlo come cittadino, come essere umano che guarda negli occhi ogni altro essere umano, e si indigna di fronte all'invito di conoscere sé stesso attraverso il suo gemello digitale.

Sarebbe quindi facile rovesciare l'assunto dicendo 'dovremmo decostruire con spirito critico un intelligenzartifialecialecentrismo ingenuo'. Ma mi sono già appellato al senso profondo, costruttivo, dell'espressione ingenuo. Scarto quindi subito il troppo facile rovesciamento. Passando immediatamente ad argomentazioni più serie.

Il primo argomento che porto è la mia critica alla posizione di un noto filosofo, una delle star della neofilosofia dei tempi digitali. Non ne cito qui il nome, non c'è bisogno di riempire questo mio articoletto di parentesi e di note. Cito invece me stesso. Scrivo su questo mio stesso blog, Dieci chili di perle:

Ci ricorda [questo neofilosofo] che, in quanto persone, abusiamo dei nostri privilegi nei confronti delle cose. E che rimaniamo fissati su una concezione binaria, su due categorie mutuamente esclusive: persona o cosa.

Noi umani, si dice quindi, dobbiamo imparare a mettere in discussione i nostri privilegi, a sviluppare prospettive critiche sui nostri valori, e ad assumerci più pienamente le nostre responsabilità. Anche nei confronti delle cose.

Ma l'asino casca quando si sceglie il portavoce delle cose. Qualcuno sceglie come portavoce delle cose il robot. La responsabilità umana, attraverso questo corto circuito, finisce per consistere nell'affermare e difendere i diritti dei robot. 

Riprendo l'argomento a p. 194 e alle pp. 203-204 del mio libro Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, Guerini e Associati, maggio 2024. In entrambi i luoghi, su questo blog e nelle pagine del libro, mi pongo la domanda: di cosa deve farsi paladino l'essere umano per rispondere alla accusa di antropocentrismo? Alla domanda, offro una risposta ben più impegnativa sia del meschino farsi paladino dei diritti dei robot, sia dell'ardimentoso arrampicarsi sui vetri dell'agentività. Per non togliere ai miei pochi lettori il gusto della scoperta, non dico qui quale è la mia risposta. Preferisco rimandare a quanto ho già scritto, nel mio articolo su Dieci chili di perle, e nel mio libro.

Rivendico il diritto di osservare il mondo con lo sguardo dell'essere umano. Rivendico lo spazio d'azione per l'essere-umano artista. Se a un essere-umano-tecnico-ricercatore piace dedicare tempo e risorse a costruire una macchina destinata ad agire in piena auto, se a un essere-umano-esperto-o-addetto-ai-lavori piace il florilegio di elogi alla macchina -come ad esempio: "la macchina catalizza esperienze estetiche all'insegna del sublime"- reagisco in due modi.

Primo, metto in guardia per quello che posso i cittadini, portati dal rispetto per l'autorità a dare credito ai profeti del nuovo e delle magnifiche sorti digitali, ed ai cantori dell'inevitabilità dell'avvento di sempre nuove stupende tecnologie. Dico ai cittadini: osservate la vanità e della pericolosità di questo disegno; fidatevi del vostro giudizio più che dell'opinione degli esperti. 

Secondo: mi dedico, e invito ognuno a dedicarsi, a ciò che di più saggio e costruttivo possiamo fare in quanto esseri umani. Pensare ed agire in quanto essere umano.

Risalendo a ritroso nell'articolo, mi soffermo sul fatto che si giunge a sostenere la necessità di decostruire l'antropocentrismo ingenuo chiamando in causa Heidegger. A questo proposito mi limito a dire che mi pare incauto ed arrischiato chiamare in causa il filosofo citando esclusivamente, di tutte le pagine che egli ha scritto, il frutto di una intervista rilasciata a Der Spiegel nel 1966. Personalmente mi sento uno sciocco, avendo dedicato tanto tempo allo studio delle opere e del pensiero del filosofo. Forse non ce n'era bisogno? Ho tentato di studiare, certo con i mei poveri mezzi, sia l'invito di Hieidegger all'esserci e alla cura, e quindi alla responsabilità personale; sia le sue acutissime riflessioni sulla tecnica: la Zuhandenheit in Sein und Zeit, e poi gli articoli sulla tecnica del dopoguerra.

Qualche accenno al pensiero di Heidegger -e alle conseguenze che se ne possono trarre per ragionare sui temi attualissimi- si trova su questo blog. 

Per argomentare sulla perdita di centralità dello sguardo umano e sulle capacità retoriche della macchina, e per sostenere che la macchina offre a noi umani uno sguardo inedito sulle cose del mondo, serve almeno qualche base solida. Poca strada ci fanno fare McCormack & Dorin, Miller, Accoto, Floridi, Coleman. Consiglierei di partire dagli articoli sulla tecnica, del dopoguerra , lì da dove Heiddegger dice Indem der Mensch die Technik betreibt, nimmt er am Bestellen als Weise des Entbergens teil.

Sarebbe bene che ognuno leggesse Heidegger per conto suo. Forse questo richiede troppo tempo, impegno, dedizione. Qualcuno potrebbe magari allora trarre qualche spunto di riflessione da articoli che appaiono su questo stesso mio blog. Più utile penso sia il commento allo sviluppo del pensiero di Heidegger a proposito della tecnica che propongo nel capitolo di Macchine per pensare "Forma imposta o continuo presentarsi".

Torniamo alla frase che conclude l'articolo:

dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza

Che vuol dire "sguardo computazionale sul mondo"? Su quale definizione di computazione appoggiamo l'affermazione? Ora, non è che possiamo intendere per computazione quello che di volta in volta ci fa comodo.

Ricordiamo brevissimamente il percorso. Cartesio, Leibniz. E poi agli albori del Ventesimo Secolo e dentro il Ventesimo Secolo Frege, il primo Russell, Hilbert. La via alla conoscenza nel mondo sta nel pensiero calcolante.

Accade però che la calcolabilità del tutto sia messa in discussione, nel 1930, da Kurt Gödel. Gödel ci impone di accettare che in ogni teoria matematica esiste una formula che non può essere dimostrata. Dunque, ogni descrizione di un sistema è incompleta. Il puro e perfetto linguaggio universale della scienza sognato da Leibniz non è base sufficiente ed esaustiva per la ricerca scientifica. "Nessun calcolo può decidere un problema filosofico", chiosa Wittgenstein.

Ma ecco che allora subito, sei anni dopo Gödel, interviene Turing tappando la falla. La soluzione, ancora una volta, è logico-formale. Turing propone di sostituire alla calcolabilità la computabilità. Quale è la differenza? Si rinuncia scientemente a cercare e a dar valore ciò che non è calcolabile, contentandosi di ciò che è computabile. Cosa è computabile? E' computabile ciò che può essere "written down by a machine".

La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare. 

Ecco intanto una imprecisione da segnalare. E' improprio sostenere che "lo sguardo computazionale sul mondo" possa essere uno "strumento di conoscenza". Potrà tuttalpiù essere uno strumento di informazione. Perché la computazione tratta informazioni, e non ha nulla a che fare con la conoscenza. La conoscenza è qualcosa fuori dalla portata di un qualsiasi agente, e riguarda invece in modo esclusivo l'essere umano.

La computazione vede dunque al lavoro una macchina, non un essere umano. Quindi certo, perché negarlo, una macchina potrà anche generare informazioni che l'essere umano potrà giudicare interessanti. Vogliamo dire, con un linguaggio fiorito, che queste informazioni interessanti, questi dati, ancora tutti da interpretare, forniti da macchine costruite da esseri umani ad esseri umani che usano la macchina, possono essere dette "sguardo inedito sulle cose del mondo"? Se così fosse, sarebbe facile trovarsi d'accordo.

Ma le parole usate per descrivere la scena suggeriscono un diverso atteggiamento. Con più o meno cautele, più o meno distinguo, si vuole affermare, si sente il bisogno di affermare che la bellezza, la ricchezza, sta nell'autonomia della macchina rispetto all'essere umano.

Chi vuole affermare questo lo faccia pure. Ma sarebbe buona cosa lo facesse con chiarezza, con piena onestà, evitando di nascondersi dietro formulazioni ambigue, evitando di proporre narrazioni diverse a seconda del pubblico, evitando di parlare di "utili provocazioni" e di chiamare in causa l'antropocentrismo di chi, semplicemente, non si vergogna di essere umano.

Come mostro nelle Cinque Leggi Bronzee dell'Era Digitale. E perché ci conviene trasgredirle, e poi di nuovo, spero in modo più sintetico, in Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, sta qui un passaggio chiave.

Siamo invitati ad accettare come immagine del mondo ciò che è visibile attraverso la computazione. Rinunciando a ciò che la computazione non riesce a vedere. Siamo anche invitati, tramite accurata propaganda, a dimenticare questo originario limite. Nel momento poi in cui si inizia a considerare confrontabili l'intelligenza artificiale -frutto più elevato della computazione- e l'intelligenza umana, i limiti della computazione finiscono per essere imposti a noi umani.

Perché resta aperta una domanda: sostenendo che l'"l'energia retorica della macchina catalizza esperienze estetiche all'insegna del sublime", sostenendo che gli artefatti della macchina "posseggono una forza estetica", siamo sicuri di allargare lo sguardo? Forse lo stiamo invece restringendo. Forse stiamo abituandoci a vedere solo ciò che è possibile vedere alla luce della computazione, rinunciando al più vasto orizzonte che in quanto esseri umani, quando liberi da pastoie digitali, ci è possibile vedere.

"Orrendo che affascina". "Complessa combinazione di gioia e orrore". "Smarrimento che si accompagna al meraviglioso". "Piacere provato al cospetto di un oggetto che trascende il nostro controllo e la nostra comprensione". L'essere umano ha forse paura di questo? Certo che no. Sembra si voglia suggerire che il povero essere umano fugge dall'accettare il sublime che emana dall'Intelligenza Artificiale. La storia umana ci racconta il contrario: la nostra storia è stata un continuo confronto con l'evento inatteso, con l'apparire del sublime. Nelle Macchine per pensare, e poi ora negli Splendori e miserie delle intelligenze artificiali ho esplorato a fondo questo argomento."Una sorta di spaventoso che tocca ciò che ci è familiare". "Infido", "fonte di orrore". Pochi hanno studiato questo argomento con la profondità di Sigmund Freud, in Das Unheimliche. Prendo Freud a mia guida.

Freud parla di come sia difficile per noi umani l’accettare il dunkel, l’oscuro. Eppure, dice, ne siamo capaci. L'essere umano si è confrontato con il sublime lungo l'intero arco della sua storia! Non è certo comparso il sublime sulla scena con l'apparire di una qualche novità tecnologica, detta magari 'Intelligenza Artificiale'!

Accettare ciò che ci appare solo come oscuro presagio. Accettare ciò che la scienza non ha saputo ancora dominare, spiegare. Accettare l’incompletezza di ogni modello. Questa è forza dell'essere umano. Accettare le tenebre del dubbio, della paura, è il punto di partenza per essere umani.

È un atteggiamento faticoso. Esige lavoro su di sé, educazione: imparare ad aver fiducia in se stessi, coltivare l’autostima, cercare scopi significativi ai quali dedicare le energie e verso i quali indirizzare l’azione.

Mostro -in forma più estesa in Macchine per pensare, e in forma più sintetica negli Splendori e miserie delle intelligenze artificiali- come la 'macchina che pensa', poi rinominata Intelligenza Artificiale sia l'invenzione attraverso la quale Turing fugge dal fare personalmente i conti con l'"orrendo che affascina", con il sublime, con la complessa combinazione di gioia ed orrore.

Turing, purtroppo, ha aperto per noi proprio questa strada - o meglio questa meschina scappatoia. Non interrogarsi, ma interrogare la macchina-che-risponde-ad ogni domanda. Non attraversare le tenebre, ma affidarsi alla luce della macchina-che-tutto-illumina.

I pappagalli sono (salvo eccezione) maschi

Non possiamo dimenticare il tweet di Sam Altman, CEO di Open AI, il 4 dicembre 2022, nei giorni del lancio di GPT3: «I am a stochastic parrot, and so r u», Sono un pappagallo stocastico, e anche tu lo sei.

Sarà capitato anche a voi, in quest'ultimo anno di assistere a presentazioni convegni che cantano le meraviglie di GPT. Avrete notato che non manca mai una frase, una slide, che recita: GPT NON E' UN PAPPAGALLO STOCASTICO. 

Tutti costoro si accodano ad Altman. Atto di fede, dichiarazione di appartenenza alla comunità degli addetti ai lavori, difesa del territorio e del mercato di fronte a chi aveva detto che il re è nudo: Emily Bender On the Dangers of Stochastic Parrots, l'articolo di Emily Bender (e di ricercatrici di Google che pagarono caro questo gesto) era uscito nel marzo del 2021, e metteva in luce in anticipo diversi aspetti critici di GPT. Ma sopratutto uno: I PAPPAGALLI SONO PERICOLOSI. 

GPT è un pappagallo, pronuncia parole di cui non conosce minimamente il senso. Dunque per noi umani credere che questi modelli linguistici siano effettivamente intelligenti significa svalutarsi, per corrispondere a ciò che il modello linguistico può fare. Come ho già scritto su questo blog, e come scrivo nel mio libro Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, Guerini e Associati, in libreria  nel maggio 2024, l'arrogante chiamata di Altman a negare per principio le critiche, vantandosi di essere pappagalli, è un atteggiamento tipicamente maschile. Di fronte alle promesse mirabolanti della cosiddetta 'intelligenza artificiale generativa', le donne sono più caute e dubbiose. In fin dei conti, loro sanno meglio dei maschi cosa vuol dire veramente 'generare' (ho argomentato in modo più approfondito a questo proposito nel mio libro Le Cinque Leggi Bronzee dell'Era Artificiale. E perché ci conviene trasgredirle, pp. 232-233).

Il Test di Turing è un inganno

Bisogna innanzitutto ricordare che Turing parlava più modestamente imitation game, 'gioco dell'imitazione'. La definizione Test di Turing è data successivamente da seguaci più realisti del re, bisognosi di dare fondamenti autorevoli alla disciplina che si apprestavano a fondare : la Computer Science. 

Potremmo dire anche trucco o truffa, ma va bene dire inganno, perché Turing evocava questo gioco per ingannare sé stesso, per trovare conferme logiche ad un bisogno che nasceva dalla sua triste storia di vita: deluso da sé stesso e dagli umani, voleva sperare in macchine migliori degli umani. Il trucco consiste nell'imporre, al posto di ciò che nella vita che emerge e fluisce, un suo simulacro descritto in termini indiscutibili per via logico-formale. 

La sostituzione si svolge attraverso il processo che passo ora a descrivere. 

Si isola e si definisce astrattamente una competenza umana: l'intelligenza, il vedere, il sentire, il decidere. Potremmo dire in termini più sintetici: il pensare e l'agire. Potremmo dire in termini più analitici: ogni lavoro, ogni mestiere. 

Il primo passo consiste nell'isolare le competenze; rimuovendone le connessioni tra l'una e l'altra. Si sceglie poi di ignorare la complessità interna di ogni competenza, ed il mutare delle competenze con l'evolversi delle esperienze e delle relazioni tra esseri umani. 

A questo punto, si predispone, per ogni competenza, una definizione semplificata. 

Si costruiscono quindi macchine capaci di raggiungere un qualche livello di prestazione corrispondente a quella definizione. 

Il gioco è fatto: alla luce delle riduttive definizioni, il nostro pensare ed agire è considerato confrontabile con il funzionamento della macchina. 

Ultimo passaggio, il più grave: la prestazione della macchina è proposta esplicitamente, o subdolamente suggerita, come modello e parametro del pensare e dell'agire umano. 

Dove sta dunque l'inganno? 

A un primo livello sta nel fatto che ciò che è dimostrato vero all'interno di quella riduttiva descrizione formalizzata del mondo che è la computazione non è vero nel mondo abitato da noi umani. 

A un secondo livello sta nel fatto che si educano capziosamente gli umani a considerare mondo nel quale abitiamo le 'realtà artificiali', 'realtà aumentate', i 'metaversi': simulacri del mondo costruiti da Computer Scientist: nella progettazione di questi mondi costruiti ad hoc è facile impostare come requisito di partenza la comparabilità e la sostituibilità tra umani e macchine. 

Il fatto che una qualche macchina superi il Test di Turing, si dimostri cioè capace di comportarsi in modo adeguato a quanto previsto dalla definizione formale di una imitazione di una competenza umana, potrà certo interessare i Computer Scientist, ma non ha nessuna rilevanza per noi umani.

Denunciare o scendere a patti. Papa Francesco parla di intelligenza artificiale

Si è sentita il primo dell'anno la voce commossa del Pontefice parlare di amore e pace. Il primo gennaio, infatti, si celebra dal 1968, per volere di Paolo VI, il Papa di allora, la Giornata Mondiale della Pace. La scelta papale è poi stata fatta propria nel 1981 dall'Assemblea Generale delle Nazioni Unite.

Si sa di come il Pontefice abbia messo in gioco tutto il suo impegno, il suo coraggio, la sua autorevolezza, per mettere fine alle guerre in corso. Eppure il tema da lui proposto -già annunciato nell'agosto scorso, ed esplicitato nella lettera resa pubblica l'8 dicembre scorso- è Intelligenza artificiale e pace.

I fedeli si sono ritrovati dunque in piazza San Pietro per fare memoria di tutte le terre che nel Nord e nel Sud del mondo attendono la fine della guerra e del terrorismo, a partire dal doloroso conflitto ancora aperto in Ucraina e da quello tra Israele e Hamas – ed allo stesso tempo ad esprimere sostegno al sostegno al messaggio di Papa Intelligenza artificiale e pace.¹

Certo la lettera contiene richiami all'“immensa tragedia della guerra”, alla follia della guerra”, ma il Papa sembra considerare aspetto chiave del tempo presente, più della guerra, più della povertà, dell'oppressione, la presenza di una nuova tecnologia.

Non si può evitare di notare le differenze. L'anno scorso il messaggio di pace del Papa diceva: Nessuno può salvarsi da solo. Ripartire dal Covid-19 per tracciare insieme sentieri di pace. Nel 2022 il tema era: Dialogo fra generazioni, educazione e lavoro: strumenti per edificare una pace duratura. Nel 2021: La cultura della cura come percorso di pace.

Nel 2020: La pace come cammino di speranza: dialogo, riconciliazione e conversione ecologica. Il messaggio di quell'anno esordiva con queste parole: “La pace è un bene prezioso, oggetto della nostra speranza, al quale aspira tutta l’umanità. Sperare nella pace è un atteggiamento umano che contiene una tensione esistenziale”. Oggi sorge un dubbio: possiamo forse affidare ad una qualche intelligenza artificiale questa speranza? Il messaggio nel 2020 proseguiva ricordando che “il mondo non ha bisogno di parole vuote, ma di testimoni convinti, di artigiani della pace aperti al dialogo senza esclusioni né manipolazioni”. Possiamo oggi chiederci: non dobbiamo forse diffidare delle parole vuote di tanti tecnologi? Possiamo forse considerarli artigiani della pace aperti al dialogo senza esclusioni né manipolazioni? A chi si rivolge dunque oggi il Papa? Ad ogni essere umano di buona volontà o a tecnologi portatori di un sapere esclusivo ed escludente?

Non a caso l'incipit della lettera di quest'anno non può parlare né di speranza, né di cura, né di dialogo. E' un incipit astratto, che si sforza di intendere “il progresso della scienza e della tecnologia come via verso la pace”. E che tenta l'ardua via di definire l'intelligenza attraverso citazioni veterotestamentarie.

Dato che tutto questo è scritto sotto un titolo nel quale campeggia l'espressione intelligenza artificiale, si accetta così implicitamente di fatto che possa esistere un qualche legame, una continuità o contiguità tra “l’intelligenza (...) espressione della dignità donataci dal Creatore” ed un certo funzionamento di una qualche macchina, funzionamento che quale capziosamente qualche tecnologo ha capziosamente chiamato intelligenza.

Non si corre forse così il rischio di essere schiavi del tempo, dell'ultima novità imposta da media e propaganda?

A chi si rivolge Papa Francesco

E' subito chiaro che stavolta il Pontefice non rivolge il suo messaggio agli uomini di buona volontà, ad ogni essere umano, ma parla invece ad un gruppo di esperti che si collocano fuori dal mondo - sacerdoti, potremmo dire, di nuove tecnologie digitali. A loro si rivolge.

Afferma quindi che “giustamente ci rallegriamo e siamo riconoscenti per le straordinarie conquiste della scienza e della tecnologia”. Ma sta rivolgendosi a scienziati e tecnologi quando si chiede:

quali saranno le conseguenze, a medio e a lungo termine, delle nuove tecnologie digitali? E quale impatto avranno sulla vita degli individui e della società, sulla stabilità internazionale e sulla pace?

Il Papa ammette in principio che il “progresso della scienza e della tecnica, nella misura in cui contribuisce a un migliore ordine della società umana, ad accrescere la libertà e la comunione fraterna, porta dunque al miglioramento dell’uomo e alla trasformazione del mondo”. Per poi notare che “i notevoli progressi delle nuove tecnologie dell’informazione, specialmente nella sfera digitale, presentano dunque entusiasmanti opportunità e gravi rischi, con serie implicazioni per il perseguimento della giustizia e dell’armonia tra i popoli”.

Sono, a guardar bene, le stesse cose che i tecnologi digitali ed i loro accoliti e filosofi di complemento si dicono da soli, negli ormai numerosissimi manifesti, lettere aperte, codici etici che si sono accumulati, senza influire più di tanto sugli indirizzi e sugli sviluppi delle cosiddette intelligenze artificiali.

Tutti coloro che a vario titolo sono impegnati nell'industria digitale vogliono sistemi che siano allo stesso tempo “robusti e benefici”, tutti a parole si pongono al servizio del benessere e della prosperità. Facile e comodo per tutti ripetere che “gli esseri umani e la natura” dovranno essere “al centro dello sviluppo dell'innovazione digitale”.

Il Pontefice sembra prendere per buoni questi impegni e questi intenti. Salvo poi mantener vivo qualche dubbio: “L’intelligenza artificiale, quindi, deve essere intesa come una galassia di realtà diverse e non possiamo presumere a priori che il suo sviluppo apporti un contributo benefico al futuro dell’umanità e alla pace tra i popoli”.

Francesco autore di Laudato si'

Non possiamo fare a meno di notare la differenza da quanto il Papa stesso afferma nell'enciclica Laudato si'.² “La tecnologia che, legata alla finanza, pretende di essere l’unica soluzione dei problemi, di fatto non è in grado di vedere il mistero delle molteplici relazioni che esistono tra le cose, e per questo a volte risolve un problema creandone altri” (20).

Non solo due stili diversi. Due argomentazioni diverse nella sostanza, nelle premesse e nelle conclusioni.

Va ricordato che il Pontefice ha sentito di recente il bisogno, come a ribadirne l'importanza e l'attualità, i temi di Laudato si'. Eccolo così, otto anni dopo la pubblicazione dell'enciclica (24 maggio 2015), rendere pubblica il 4 ottobre, Festa di San Francesco d’Assisi, dell’anno 2023, “undicesimo del mio Pontificato”, l'esortazione apostolica Laudate Deum.³

Qui (Laudate Deum, 20) critica senza indulgenze il “paradigma tecnocratico” di cui l'intelligenza artificiale è il caso esemplare. “Si tratta di «un modo di comprendere la vita e l’azione umana che è deviato e che contraddice la realtà fino al punto di rovinarla». [Laudato si’, 101] In sostanza, consiste nel pensare «come se la realtà, il bene e la verità sbocciassero spontaneamente dal potere stesso della tecnologia e dell’economia». [Laudato si' 105] Come conseguenza logica, «da qui si passa facilmente all’idea di una crescita infinita o illimitata, che ha tanto entusiasmato gli economisti, i teorici della finanza e della tecnologia». [Laudato si' 106]”.

Ancora più chiaro è il paragrafo seguente (Laudate Deum, 21): “L’intelligenza artificiale e i recenti sviluppi tecnologici si basano sull’idea di un essere umano senza limiti, le cui capacità e possibilità si potrebbero estendere all’infinito grazie alla tecnologia. Così, il paradigma tecnocratico si nutre mostruosamente di sé stesso.”.

Il paragrafo 23, poi, è una accorata manifestazione della preoccupazione del Pontefice di fronte alla concentrazione di potere di cui godono i fautori delle intelligenze artificiali: “Fa venire i brividi rendersi conto che le capacità ampliate dalla tecnologia danno «a coloro che detengono la conoscenza e soprattutto il potere economico per sfruttarla un dominio impressionante sull’insieme del genere umano e del mondo intero. Mai l’umanità ha avuto tanto potere su sé stessa e niente garantisce che lo utilizzerà bene, soprattutto se si considera il modo in cui se ne sta servendo. [...] In quali mani sta e in quali può giungere tanto potere? È terribilmente rischioso che esso risieda in una piccola parte dell’umanità». [Laudato si' 104]”.

Il giudizio sembra senza appello (Laudate Deum 31): “La logica del massimo profitto al minimo costo, mascherata da razionalità, progresso e promesse illusorie, rende impossibile qualsiasi sincera preoccupazione per la casa comune e qualsiasi attenzione per la promozione degli scartati della società”. Sembra essere evidente una scelta di campo, una presa di posizione.

Un patto con una piccola parte dell'umanità

Ma ecco che ora, con la lettera Intelligenza artificiale e pace, il Pontefice sembra scegliere di scendere a patti con quella “piccola parte dell'umanità” che ha in mano lo sviluppo e l'uso delle cosiddette intelligenze artificiali.

Il fatto è che due diversi percorsi -allo stesso tempo teologici, politici ed etici- sembrano essere portati avanti parallelamente.

Da un lato, in Laudato si', il rigoroso, commosso discorso di denuncia, che si traduce nella chiamata rivolta ad ogni essere umano di buona volontà, ad ogni cittadino del pianeta: solo attraverso l'assunzione da parte di ognuno e di tutti di sincere impegnative responsabilità personali, potremo salvare la casa comune, a cui tutti apparteniamo.

Dall'altro la proposta di un patto rivolta alla sempre più “piccola parte dell'umanità” costituita detentori del potere - che ha oggi la duplice, sovrapposta veste, di potere tecnologico e finanziario insieme, e che ha manifestazione più evidente ed efficace nella cosiddetta intelligenza artificiale.

Patto diplomatico, politico, etico.

Per stare al passo con i tempi, il patto è noto con parole inglesi: Rome Call for Ethics AI.⁴ 

La figura che appare a fronte dell'iniziativa è monsignor Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, consigliere spirituale della Comunità di Sant'Egidio. La presenza papale è però evidente: Venerdì, 28 febbraio 2020 Monsignor Paglia legge all'Assemblea Plenaria della Pontificia Accademia per la vita un discorso scritto da Papa Francesco (in quei giorni condizionato da problemi di salute).⁵ La Call è firmata -insieme al Vaticano, al Ministro per l’Innovazione Tecnologica del governo italiano e alla FAO- Microsoft e IBM. Seguiranno altre adesioni. Segue, nel gennaio 2023, proprio nei giorni in cui Open AI lancia Chat GPT -la più compiuta dimostrazione al popolo della potenza dell'intelligenza artificiale- l'adesione al progetto vaticano delle 'Chiese Abramitiche': un rabbino di Israele, uno sceicco di Abu Dhabi...⁶

Ho già raccontato questa storia.⁷

Se Laudate Deum è un addolorato ritorno, aggiornato alla luce di nuovi motivi di preoccupazione, sui temi di Laudato si', la lettera Intelligenza artificiale e pace è un nuovo avvallo del Pontefice al progetto espresso in Rome Call for AI Ethics. 

Due modi di intendere la Chiesa

Sono, a ben guardare, due modi di intendere la Chiesa. Da un lato comunità di esseri umani che cercano insieme luce e verità; dall'altro struttura, istituzione destinata a farsi carico di esseri umani bisognosi di guida e protezione.

Giustificati dall'intendere la Chiesa nel secondo di questi due modi, autorità Vaticane hanno scelto di dialogare con i vertici delle grandi case digitali e con i tecnologi dediti alla ricerca ed allo sviluppo. Ma hanno finito poi per fare il gioco di questa stessa élite, colludendo con essa, senza minimamente incidere sul disinteresse di questa élite per le conseguenze delle proprie azioni.

In un discorso del 2019, dedicato ad un tema particolarmente importante, Child Dignity in the Digital World,⁸ Francesco chiama gli attori della sena digitale alla “responsabilità nei confronti dei minori, della loro integrità e del loro futuro”. In questo discorso si sente risuonare appieno la voce di Francesco, la stessa che appare forte e chiara in Laudato si'.

Si rivolge alle “grandi compagnie del settore, che superano agevolmente le frontiere fra gli Stati, si muovono rapidamente sul fronte più avanzato dello sviluppo tecnologico e hanno accumulato risorse economiche ingenti”. Precisa che “è ormai evidente che esse non possono considerarsi completamente estranee all’uso degli strumenti che mettono nelle mani dei loro clienti”. “È ad esse quindi che rivolgo oggi il più impellente appello alla responsabilità nei confronti dei minori, della loro integrità e del loro futuro”. Chiaramente non basta – la prevalenza di interessi finanziari e speculativi ed il conseguenze cinismo non saranno certo scalfiti da un monito papale. Il Pontefice aggiunge allora: “faccio quindi appello agli ingegneri informatici, perché si sentano anch’essi responsabili in prima persona della costruzione del futuro”.

Questo è il punto chiave. Quest'appello chiama all'umiltà gli arroganti ricercatori drogati dal successo, dal senso di potenza implicito nel trovarsi a costruire una nuova simil-vita. Questo appello chiama alla conversione, al cambiar strada. Questo appello chiama all'uscita dalla torre d'avorio: tornate, vi prego, a sentirvi, prima che tecnologi, genitori, cittadini, appartenenti alla casa comune.

Invece nella lettera Intelligenza artificiale e pace, così già come nel discorso che accompagnava il lancio di Rome Call for AI Ethics, gli appelli alla responsabilità personale dei tecnologi passano in secondo piano. Si accetta invece la loro autorità 'sacerdotale' e si prone loro un patto, anzi un sostegno. “Tocca a loro [agli ingegneri informatici], con il nostro appoggio, impegnarsi in uno sviluppo etico degli algoritmi, farsi promotori di un nuovo campo dell’etica per il nostro tempo: la 'algor-etica'”.

Il nostro appoggio, un'etica per il nostro tempo

Il nostro appoggio: dunque il Vaticano -mi sembra fuori luogo parlare qui di Chiesa- appoggia i potenziatati digitali. Grandi case e tecnologi. In cosa? Nel definire e nell'imporre, mettendo in campo per questo la propria autorità, “un'etica del nostro tempo: l'algor-etica”.

La via è quella dell'impegno ad una autoregolazione etica da parte di ogni grande casa digitale. E' noto purtroppo quale trattamento -vessazioni ed espulsione- hanno subito i membri di questi comitati che hanno osato esprimere posizioni critiche, invitando alla cautela, al cambiamento di rotta, al bloccare linee di sviluppo.

La via è quella di organismi internazionali che dettano indirizzi e linee guida. Ne fanno parte esponenti di parte vaticana. Ma tutte queste belle parole sono ovviamente disattese, non spostano di una virgola investimenti ed indirizzi di sviluppo.

La via è quella di norme di legge di stati sovrani. Qui si può osservare come abbondino le affermazioni di principio: la più nota è l'affermazione europea di una Human-Centered AI. Affermazione retorica che non tocca il fatto che il principale interesse affermato dalle norme europee è il sostegno all'industria europea, nei confronti dell'industria statunitense e cinese.

A ciò si aggiunga il fatto che i politici non conoscono la materia. Si affideranno quindi inevitabilmente ad esperti, appartenenti alla famiglia professionale le cui azioni andrebbero poste sotto controllo.

In generale, dunque, la via è quella dei comitati etici. Ricercatori e tecnologi, accompagnati da qualche esperto -magari qualche filosofo- dovrebbero dettare regole e vincoli e indirizzi.

Iniziative vane. Utili purtroppo innanzitutto a questo: a fornire ad imprenditori, finanziatori, tecnici, una foglia di fico. Utili a permettere loro di dire: datemi una regola, stabilite una norma. Utili ad eludere il sincero e profondo riferimento di ognuno alla propria responsabilità personale.

Il Vaticano, purtroppo, finisce per legittimare questo disegno con una sorta di bolla papale. Si può capire che l'intrattenere legami con le grandi case digitali sia oggi importante per la diplomazia vaticana; si può anche capire l'ansia di parlare alla famiglia professionale dei tecnologi digitali.

Ma tra il dire “faccio quindi appello agli ingegneri informatici, perché si sentano anch’essi responsabili in prima persona della costruzione del futuro”, e il proporre, mettendo in campo l'autorità della Chiesa, una pretesa 'nuova etica per il nostro tempo', detta 'algor-etica', c'è un abisso.

Perché una nuova etica? Perché una nuova parola? Che cos'è poi l'algor-etica?

Ho mostrato in precedenti scritti⁹ come consiste in fondo nel tentativo di trasformare in codice digitale i principi della Dottrina Sociale della Chiesa: “dignità della persona, giustizia, sussidiarietà e solidarietà”.¹⁰ Conoscendo ciò che è buono per l'essere umano, una certa Chiesa si candida a rendere buone per gli esseri umani le piattaforme digitali. Si candida a far sì che le intelligenze artificiali diffondano il bene.

Disegno vano perché i grandi attori della scena digitale useranno la legittimazione della Chiesa senza dare nulla in cambio. Disegno ingiusto e pericoloso, perché così si finisce per alimentare il crescente divario tra l'élite di coloro che per via digitale governano il mondo ed i cittadini, gli abitatori della casa comune, sempre più ridotti a passivi utenti di servizi preconfezionati.

Più che etica, responsabilità personale

Come dimostrano l'enciclica Laudato si' e l'esortazione Laudate Deum, non è questa certo l'intenzione del Pontefice. Ma sarebbe interessante sapere per quali intrecci e disegni di potere vaticani il Santo Padre finisca per prestarsi a sostenere questo disegno.

Ritroviamo infatti l'algor-etica come snodo chiave nella lettera Intelligenza artificiale e pace.

“Uno sguardo umano e il desiderio di un futuro migliore per il nostro mondo portano alla necessità di un dialogo interdisciplinare finalizzato a uno sviluppo etico degli algoritmi -l’algor-etica-”.

Un conto è un benvenuto dialogo interdisciplinare: come afferma il Pontefice, “abbiamo perciò il dovere di allargare lo sguardo e di orientare la ricerca tecnico-scientifica al perseguimento della pace e del bene comune, al servizio dello sviluppo integrale dell’uomo e della comunità”.

Un conto è ridurre questa intenzione riconducendola allo “sviluppo etico degli algoritmi”.

Per dire che questa riduzione non è farina del sacco del Pontefice, credo basti citare un altro passaggio della lettera: “l’abilità di alcuni dispositivi nel produrre testi sintatticamente e semanticamente coerenti, ad esempio, non è garanzia di affidabilità. Si dice che possano 'allucinare', cioè generare affermazioni che a prima vista sembrano plausibili, ma che in realtà sono infondate o tradiscono pregiudizi”.

Mi chiedo e vi chiedo: vi sembrano queste parole di Papa Francesco? Ci interessa forse leggere in una sua lettera una qualche spiegazione dei limiti dei Foundation Model, dei Transformer, dei Large Language Model? Diciamolo allora semmai in parole semplici, adatte a tutti noi esseri umani abitatori di una casa comune: queste macchine forniscono a umane domande risposte sbagliate, erronee, infondate.

Chi ha scritto queste parole, che noi ci troviamo a leggere firmate dal Pontefice, vuol forse dire che l'algor-etica consiste nel collaborare con i costruttori di queste macchine per migliorare la qualità delle risposte?

Mi sembra convenga dire che l'etica è un attributo dell'essere umano, una caratteristica distintiva degli esseri umani, e che quindi in una macchina -anche nelle macchine che possono essere in base a un qualche criterio definite 'intelligenze artificiali'- potranno al massimo risiedere dati relativi ad atteggiamenti etici, e cioè tracce di atteggiamenti etici manifestati da esseri umani in momenti passati.

Non lasciamo che ‘etica’ sia trasformata -confondendola con un algoritmo- in una parola vuota.

Conviene considerare l'etica come qualcosa di ineffabile: ‘non esprimibile in parole’. L'etica può essere magari anche riassunta in principi, in valori. Ma resta ineludibile il fatto che l’etica esiste solo se la si pratica. Se se ne parla astratto, in modo distaccato dalla nostra personale e quotidiana vita, è perché non riusciamo a praticarla. Non c'è etica laddove si agisce eseguendo i dettami di una macchina.

Conviene quindi parlare di etica incarnata. Consiste in fondo nel vivere in carne propria, sulla propria pelle e allo stesso tempo nel proprio animo, la fatica di essere sé stessi - evitando di adattarci comodamente a ciò che altre persone decidono per noi.

E forse anche conviene evitare di usare la parola etica, e parlare invece di responsabilità. Responsabilità personale. Responsabilità personale di ogni abitante della casa comune, di ogni cittadino del pianeta, di ogni credente in ogni fede religiosa.

Leggiamo nella conclusione della lettera Intelligenza artificiale e pace l'auspicio di “modelli normativi che possano fornire una guida etica agli sviluppatori di tecnologie digitali”. Potranno essere d'aiuto, ma potranno anche essere fonte di comode elusioni ed alibi. Foglie di fico dietro cui vanamente nascondersi.

L'algor-etica si limita a ridipingere la facciata. Serve invece umiltà, senso del limite, saggezza, disponibilità alla conversione, consapevolezza di appartenere alla casa comune. Solo se il tecnologo sarà disposto a queste virtù la sua progettazione sarà rispettosa della natura, socialmente utile e costruttiva.

Leggiamo infatti nella stessa conclusione anche che “nei dibattiti sulla regolamentazione dell’intelligenza artificiale, si dovrebbe tenere conto della voce di tutte le parti interessate, compresi i poveri, gli emarginati”. Tutto sta nel dovrebbe. Il patto tra sacerdoti delle chiese adamitiche e sacerdoti digitali, però, non si fonda sull'ascolto e sulla partecipazione, si fonda purtroppo invece sulla presunzione degli 'esperti' di sapere già cosa è bene per ogni parte interessata, per i poveri e per gli emarginati.

Perciò, più che sperare che i progressi nello sviluppo di forme di intelligenza artificiale servano la causa della fraternità umana e della pace credo convenga ricordare che percorsi differenti di ricerca e sviluppo tecnologico sono possibili - evitando di considerare lo sviluppo delle cosiddette intelligenze artificiali che abbiamo sotto gli occhi l'unica, ormai ineluttabile via.

Sulla via della pace, certo le Chiese, e innanzitutto il Santo Padre, hanno qualcosa da dire. Ma più del cammino dell'algor-etica, più del cercar di educare ed accompagnare i tecnologi, più del proporre loro di accettare i rappresentanti delle Chiese nel consesso di coloro che scrivono il codice digitale che governa il mondo, sembrano adeguate le parole con le quali Papa Francesco conclude l'esortazione apostolica Laudate Deum: “un essere umano che pretende di sostituirsi a Dio diventa il peggior pericolo per sé stesso”.

Note:

1    Messaggio di Sua Santità Francesco per la LVII Giornata mondiale della Pace, Intelligenza artificiale e pace, 1° gennaio 2024. https://www.vatican.va/content/francesco/it/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html.

2   Lettera Enciclica Laudato si’ del Santo Padre Francesco Sulla cura della casa comune, 24 maggio 2015. https://www.vatican.va/content/francesco/it/encyclicals/documents/papa-francesco_20150524_enciclica-laudato-si.html

3   Esortazione Apostolica Laudate Deum del Santo Padre Francesco. A tutte le persone di buona volontà. Sulla crisi climatica, 4 ottobre 2023. https://www.vatican.va/content/francesco/it/apost_exhortations/documents/20231004-laudate-deum.html

4   https://www.romecall.org/ 

5    Discorso preparato dal Santo Padre Francesco per l'Incontro con i partecipanti alla plenaria della Pontificia Accademia per la Vita, letto da mons. Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, Sala Clementina, venerdì, 28 febbraio 2020. https://www.vatican.va/content/francesco/it/speeches/2020/february/documents/papa-francesco_20200228_accademia-perlavita.html

6   “Etica dell’intelligenza artificiale: l’impegno delle religioni abramitiche nella Rome Call”, Microsoft News, Gennaio 10, 2023, https://news.microsoft.com/it-it/2023/01/10/etica-dellintelligenza-artificiale-limpegno-delle-religioni-abramitiche-nella-rome-call/. https://diecichilidiperle.blogspot.com/2023/01/etica-dellintelligenza-artificiale-le.html.

7    Francesco Varanini, “La posizione del Vaticano di fronte all'Intelligenza Artificiale e la lezione della Lettera ai Filippesi”, Dieci Chili di Perle, 16 marzo 2021, https://diecichilidiperle.blogspot.com/2021/03/la-posizione-del-vaticano-di-fronte.html; seconda versione: Francesco Varanini, “Il piano del Vaticano per l’AI etica: basterà a ricordarci di restare umani?”, Agenda Digitale, 12 aprile 2021. https://www.agendadigitale.eu/cultura-digitale/il-piano-del-vaticano-per-lai-etica-bastera-a-ricordarci-di-restare-umani/. Francesco Varanini, “Etica dell'intelligenza artificiale. Le religioni abramitiche si accodano al Vaticano”, Dieci chili di perle, 15 gennaio 2023, https://diecichilidiperle.blogspot.com/2023/01/etica-dellintelligenza-artificiale-le.html

8    Discorso del Santo Padre Francesco ai Partecipanti Al Congresso "Child Dignity in the Digital World", Sala Clementina, giovedì, 14 novembre 2019. https://www.vatican.va/content/francesco/it/speeches/2019/november/documents/papa-francesco_20191114_convegno-child%20dignity.html

9    Francesco Varanini, “La posizione del Vaticano di fronte all'Intelligenza Artificiale e la lezione della Lettera ai Filippesi”, Dieci Chili di Perle, 16 marzo 2021, https://diecichilidiperle.blogspot.com/2021/03/la-posizione-del-vaticano-di-fronte.html. Francesco Varanini, “La pericolosa banalità dell'Algoretica e dell'Antronomia. Ovvero la pretesa di sostituire il 'computabile' all''umano'”, Dieci Chili di Perle, , 22 febbraio 2022. https://diecichilidiperle.blogspot.com/2022/02/la-pericolosa-banalita-dellalgoretica.html

10 Discorso preparato dal Santo Padre Francesco per l'Incontro con i partecipanti alla plenaria della Pontificia Accademia per la Vita, letto da mons. Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, Sala Clementina, venerdì, 28 febbraio 2020. https://www.vatican.va/content/francesco/it/speeches/2020/february/documents/papa-francesco_20200228_accademia-perlavita.html

Nishida Paradox: "Knowing and its object are completely unified"

"Knowing and its object are completely unified". L'umana conoscenza è 'pura esperienza'. 

L’esperienza individuale non è che un piccolo e limitato ambito particolare all’interno dell’esperienza. La conoscenza è emergente, è una sorgente che si rinnova in ogni istante. 

I dati non sono che tracce del passato, o scorie. 

I filosofi digitali e i computer scientist che cercano una qualche intelligenza artificiale, trarrebbero grande giovamento dallo studio di Kitarō Nishida, filosofo giapponese che ci avvicina allo Zen e allo stesso tempo riassume il senso più profondo del pensiero fenomenologico occidentale. 

Il 'Polanyi Paradox' (vedi mio precedente post), in effetti, non è che una versione semplificata del 'Nishida Paradox'. 

E' accaduto questo: Ikujiro Nonaka, studioso giapponese di management, nel suo affermare il concetto di impresa fondata sulla continua creazione di nuova conoscenza, sentí il bisogno di non apparire troppo legato alla cultura e alla filosofia orientale. Si cercò quindi un testimone mitteleuropeo e poi anglosassone: Michael Polanyi, contribuendo notevolmente a crearne la fama. 

Ma la vera fonte di Nonaka è Nishida, formatosi nella cultura Zen e poi grande studioso della filosofia occidentale. 

Ecco il punto essenziale: ogni algoritmo, ogni struttura dei dati, ogni modello fondazionale, ogni sistema di regole o lista di assiomi, impongono una chiave di lettura a priori. 

Nishida e Nonaka ci ricordano che la conoscenza non discende da fondamenti, ma emerge nel basho. Basho: ubicazione, posto, topos, terra, focolare, situazione, base materiale e allo stesso tempo spirituale. Non radici alle quali siamo vincolati, ma luogo che abitiamo. L'esperienza che in ogni istante stiamo vivendo si situa in un qui. Solo se c'è basho c'è conoscenza. 


Sensazioni, percezioni, corpo, contribuiscono al fenomeno emergente. Il fenomeno si manifesta così, solo in questo istante e solo in questo luogo. 

Le macchine 'generative' o 'causali' faranno pure il loro lavoro, apprenderanno a loro modo qualcosa da dati e informazioni, ma ciò non avrà mai nulla a che fare con l'umana conoscenza. 

Più che il supporto di macchine, cerchiamo sempre nuove esperienze! 

Ci aiutano forse a vivere esperienze le 'intelligenze artificiali' che ci vengono offerte? No. Al contrario, ci costringono a esperienze impersonali, lontane dal basho, o peggio ancora, ci spingono a ripetere situazioni già vissute.