Computer Science come meccanismo di difesa

Qui di seguito l’incipit e la conclusione dell'articolo Computer Science come meccanismo di difesa, apparso il 21 giugno 2026, su MagIA, Magazione Intelligenza Artificiale.

“Computer scientist scrivono un libro dopo l’altro, con la pretesa di educare i cittadini, come e più di quanto abbiamo visto fare ai virologi ai tempi dell’epidemia.

Fini studiosi, pensatori, filosofi e filosofe finiscono per distogliersi dal proprio tentativo di conoscere, dal proprio originale e libero pensiero, per recensire e commentare il pensiero dei computer scientist.

E questo mentre i computer scientist che scrivono, libro dopo libro, si allontanano sempre più dal loro fondato sapere, dalla loro specializzazione, per arrampicarsi in argomentazioni speculative, metafisiche, etiche

Un esperto di deep learning è forse legittimato a parlarci di ontologia e di coscienza? Il fatto che una certa macchina funziona, legittima forse il computer scientist a parlare dei massimi sistemi?

L’aura di autorità che circonfonde qualsiasi cosa dica il computer scientist è già ben alimentata da una oculata propaganda, cui contribuiscono membri della stessa élite, con il supporto di lobby industriali e speculativo-finanziarie che crescono attraverso l’affermazione dell’universale presenza della cosiddetta intelligenza artificiale.

La crescente attenzione ai computer scientist e ai loro corifei ha come contrappasso il trascurare altre chiavi di lettura.

Scienze differenti offrono chiavi di lettura differenti. Uno sguardo esaustivo ed esatto resta inattingibile. Ma, sulla strada del ‘vedere per sapere’, del conoscere, restano aperte due vie.

Si può scegliere di abbarbicarsi ad un unico sguardo – e possiamo supporre che questo afferrarsi sia un meccanismo di difesa, un inciampo o un rifiuto. O possiamo incamminarci lungo il faticoso percorso del giustapporsi, del sovrapporsi, del contaminarsi di sguardi differenti.

È comodo scegliere la prima via. Ed è comodo complemento all’incamminarsi lungo la prima via il rimuovere – il negare a se stessi e a ogni altro – l’esistenza di altre vie.

Oggi la via ‘scientifica’ stimata come più efficace, più celebrata, più socialmente rinomata, è, evidentemente, la via delle cosiddette discipline STEM (Science, Technology, Engineering, and Mathematics). E all’interno delle discipline STEM appare sempre più evidente il primato della Computer Science.

La via delle ‘scienze umane’, contestualmente, è considerata marginale, scarsamente, produttiva, in fondo irrilevante.

Esemplare il caso della psicologia. Intendo per psicologia la disciplina che studia il divenire adulto dell’essere umano, la consapevolezza del proprio modo di essere, lo scavo in noi stessi e l’accettazione dei nostri limiti, la sana gestione delle pulsioni, l’atteggiamento rispetto agli altri e la formazione di relazioni interpersonali…

C’è bisogno davvero di questo tentativo di definizione? Sì, perché la psicologia cui qui accenno è negata e rimossa, e sempre più di frequente sostituita da una ben diversa disciplina, la cui definizione più comune è forse ‘psicologia cognitiva’. Ovvero, una disciplina il cui metodo consiste nel considerare l’essere umano una macchina, e nel confrontare i comportamenti umani con modelli dati a priori. La psicologia cognitiva, dunque, si fonda sullo stesso concetto di macchina computazionale su cui si fonda la computer science.

In questo modo lo sguardo psicologico è censurato ed evitato.

Ora però è proprio questa censura a parlarci dell’importanza della psicologia. Infatti la psicologia ci invita ad osservare come inventiamo apparenti ragioni, scuse e deviazioni e coperture per poter evitare di vedere ciò che ci disturba, ci mette in crisi; la psicologia smonta le nostre sicurezze, mostra ciò che c’è dietro. Servono oggi gli strumenti della psicologia per guardare dietro l’ostentata sicurezza dei computer scientist, e del corteo di scienziati di altre discipline e di filosofi di complemento che si pongono a seguaci dei computer scientist.

I computer scientist progettano, costruiscono e governano le macchine che ogni cittadino del pianeta è oggi obbligato ad usare, e di più: indicano oggi ad ogni cittadino del pianeta la strada da seguire.

Eppure i computer scientist sono esseri umani, e lo statuto di computer scientist non salva l’essere umano che copre questo ruolo dall’essere vittima di quei meccanismi di difesa che sono l’oggetto di studio della psicologia.

Serve dunque tornare alla psicologia….”

Ed ora le frasi finali:

“Il computer scientist che progetta e costruisce la macchina che esegue autonomamente il programma, la macchina che si autoregola, la macchina pensante, sta cercando – a nome proprio e a nome di ogni essere umano – un sostituto simbolico alla riparazione del sé.

Si ricorre al costruire e all’affidarsi alla macchina perché il riparare il proprio sé è inteso come lavoro troppo faticoso. Più facile, più apparentemente efficace proiettarsi in un oggetto. L’oggettivazione cercata dal computer scientist nel costruire la macchina che si prende cura di sé stessa è, appunto, il meccanismo di difesa, la scorciatoia magica, il tentativo di evitare il dolore psichico creando un oggetto autonomo, privo di attrito, privo di difetti.

La computer science apre la strada alla via della fuga psicotica nell’artefatto: si fonda sul dichiarare il soggetto umano obsoleto, irrimediabilmente malato e difettoso. Si legittima così l’investimento -affettivo, emotivo, economico, politico, medico – sull’oggetto-computer.

È l’illusione di sopravvivere attraverso la nostra stessa scomparsa, lasciando a testimoniare la nostra esistenza un Ersatz, un surrogato, una imitazione di noi stessi.

Il soggetto, nel tempo in cui la computer science è la prima scienza, la scienza nei confronti della quale ogni altra scienza è debitrice, resta avvinto nella insoddisfazione, toccato dall’angoscia, costretto, nel tentativo di fuggire da sé stesso, a costruire macchine sempre più, in apparenza, simili a lui stesso. Macchine che nonostante l’illusoria similitudine, restano macchine, e che lasciano l’essere umano privo di quella cura che può emergere solo dal compassionevole agire umano.

Poiché l’atto creativo consistente nel progettare e sviluppare macchine è usato come difesa – come rimozione, come proiezione e come formazione reattiva – e non come riparazione, non come cura, l’angoscia originaria non è minimamente toccata. Rimane presente e sempre più pesante.

Ed è per questo che il creatore – il computer scientist – è condannato alla coazione a ripetere: dovrà costruire macchine sempre più grandi, sempre più potenti, in una corsa infinita che non potrà mai colmare il vuoto di senso, di amore, di pace.

Più il computer scientist si occupa della macchina – alimentandola di informazioni, addestrandola ad autosvilupparsi – più il soggetto umano si svuota.

Si svuota la vita, svilita nella comparazione con una imitazione della vita.”

A proposito di 'Macchinocentrismo'. Suggestioni storico culturali e situazione presente

 Dante

Possiamo leggere la cultura digitale alla luce della storia, invece di rileggere -come accade troppo di frequente- la storia alla luce della cultura digitale.
Ecco un esempio. Leggiamo l'esordio del Canto XI del Paradiso (1-3):

O insensata cura de’ mortali,
quanto son difettivi silogismi
quei che ti fanno in basso batter l’ali!

Cosa sono i sillogismi: sono il principale strumento degli studiosi di logica nel medioevo. Guardare alla posizione dei termini in una proposizione, senza occuparsi del loro valore di verità. Rendere conto delle diverse funzioni che le parole possono svolgere quando compaiono come termini in una proposizione.
Bastano questi brevissimi accenni per dire che è possibile stabilire una analogia tra i sillogismi della logica medievale e la codifica digitale. In particolare, ai sillogismi della cultura medievale corrispondono gli algoritmi della cultura digitale.

Cosa ci dice Dante? Non ci dice certo di rifiutare la cultura tecnico-scientifica-filosofica del tempo. Dante viveva immerso in questa cultura e la conosceva benissimo. Ma ci ricorda che il pur acuminato strumento tecnico, creato per avvicinarci alla conoscenza, è 'difettivo'. Il ragionamento basato sul sillogismo resta inevitabilmente imperfetto. I sillogismi finiscono per ingabbiare il nostro pensiero, gli impediscono di volare.
Altrettanto possiamo dire oggi degli algoritmi.

Ma ciò che più ci interessa è il fatto che Dante non si limita ad una critica, ma ci offre l'indicazione di un possibile percorso umano di elevazione, oltre i limiti rigorosi di una logica che finisce per essere una gabbia.
Leggiamo dunque il Canto XXIV del Purgatorio (52-54):

(...) "I’ mi son un che, quando
Amor mi spira, noto, e a quel modo
ch’e’ ditta dentro vo significando".

Importante notare che Dante parla di sé, del suo personale tentativo di trovare una strada - oltre il pensiero consueto, oltre la filosofia consolidata, oltre lo spirito del tempo. Noi scolasticamente conosciamo il nuovo pensiero che Dante propone 'Stil Novo'. Ma non si tratta certo solo di letteratura: è la risposta culturale alla chiusura logico-formale del sillogismo.
Dunque una guida per noi, per guardare oltre la chiusura logico-formale dell'algoritmo.
Dice Dante: io sono uno che, quando l'Amore mi parla nel cuore, ne prendo nota, e cerco di esprimere in parole ciò che egli mi detta, esattamente nel modo in cui egli lo detta.

Cos'è questo Amore? E' la forza che emana nel 'cuore' di tutte le creature in cerca della loro perfezione. E', potremmo dire oggi, la ricerca della presenza, della consapevolezza, di un bene non solo personale ma comune.
Dante ci invita a non affidarci a sillogismi ed algoritmi.
Dante ci dice che solo in questo Amore sta la vera nobiltà umana.

Jakob Böhme

“Lo studente disse: ‘Questo luogo è vicino o lontano?’. Il maestro rispose: ‘È dentro di te. Se riuscissi a mettere a tacere ogni desiderio e pensiero per un’ora, udiresti le ineffabili parole di Dio’". Così, siamo chiamati ad abbandonare fallaci speranze di controllo, e a muoverci invece con 'gelassenheit': serenità, abbandono, calma, placidità, tranquillità.
Jakob Böhme (1575-1624), teologo, filosofo, che di lavoro faceva il ciabattino, pensatore eterodosso, mistico, visionario, ermetico, gnostico, ci propone, all'inizio del Seicento, uno sguardo che bene illumina i foschi anni che viviamo.
Le paure che bloccano l'agire umano; il timore che ci incute il disordine sociale; e, ancora, il timore oscuro del controllo di nuovi Grandi Fratelli Digitali. Tutto questo può essere letto alla luce del pensiero di Böhme.
La gran parte della filosofia - e poi la breve storia del computing, prosecuzione della filosofia con altri mezzi, possono essere intese come tentativo di costruire solide e indefettibili strutture, ben fondate, dove ogni livello di pensiero si spiega razionalmente attraverso livelli di pensiero già consolidati.
Böhme ci invita invece a vivere nella scena primaria, lì dove nasce il pensiero.
“Non possiamo afferrare ciò”. Afferrare è traduzione approssimativa di
'begreifen'. 'Begriff', 'concetto', è parola chiave della filosofia tedesca, da Kant a Hegel.
Böhme ci chiama a collocarci nel momento anteriore all'affermazione di una rassicurante ragione: prima c'è il tentativo, il processo, la possibilità, l'accettazione fiduciosa dell'ignoto.
Ciò che ci appare inafferrabile, incomprensibile, è, ci insegna Böhme, l'Un-Grund. Senza-Fondo, Senza-Fondamenti. E' in potenza la fonte di ogni possibile. Genesi di conoscenza.
Böhme ci insegna a non cercare un Dio-macchina capace di governare la conoscenza con superiore efficacia. Ci insegna a non cercare nemmeno un Dio-programma capace di rispondere ad ogni domanda. Ci insegna a non provare timore di fronte al caos primigenio. Ci insegna a non avere paura di fronte all’ignoto e al non familiare. Ci insegna a non provare angoscia per il disordine che regna tra i dati.
Non c'è motivo perché l'uomo debba ridursi a macchina, né c'è motivo perché l'uomo debba appartenere ad una superiore macchina. Se proprio dovessimo ridurci ad usare, parlando di umanità, il termine macchina, dovremmo semmai dire: è una macchina-Ungrund.

Tutto in qualche modo è già stato detto e pensato - ma proprio questa è la trappola che Böhme ci invita ad evitare. Non pensare alla luce del già pensato, ma assumerci la responsabilità del pensare qui ed ora.

Immanuel Kant

Il 30 settembre 1784 Kant, risponde sulla rivista Berlinische Monatsschrift alla domanda: 'Cos'è l'Illuminismo?'. L'incipit è emozionante. "L'Aufklärung", ci dice Kant,"è l'uscita dell'essere umano dallo stato di minorità di cui egli stesso è colpevole. Minorità è l'incapacità di servirsi della propria 'Verstand' [intelligenza, senno, mente, ragione, animo] senza la guida di un altro". “Sapere aude!”, osa conoscere! “Abbi il coraggio di servirti della tua propria intelligenza!”.
Eppure, pessimisticamente aggiunge subito, “gli esseri umani rimangono minorenni a vita”. “È così comodo essere minorenni! Se ho un libro che ha Verstand per me, un direttore spirituale che ha coscienza per me, un medico che sceglie per me la dieta, ecc., non ho certo bisogno di sforzarmi da solo”. “E' dunque difficile liberarsi da una minorità divenutagli quasi natura”.

Kant mette in evidenza la stretta connessione tra l'atteggiamento passivo degli esseri umani e la presenza di Vormündern -custodi, guardiani, tutori di minorenni incapaci- “che si sono assunti con tanta benevolenza la sorveglianza sugli esseri umani” da convincerli che “il passaggio allo stato di maggiorità, oltreché difficile”, è anche “molto pericoloso”.
Così l'elogio dell'esercizio della propria intelligenza da parte di ognuno con cui si apre l'articolo, dopo pochi capoversi è rovesciato in una scettica constatazione: gli esseri umani sono “placide creature instupidite come animali domestici”, grandi masse senza cervello, incapaci di pensare.

Vediamo benissimo in queste pagine la situazione dell'essere umano nell'Era Digitale. Facili promesse di nuovi spazi aperti alla libera conoscenza, a nuove esperienze, ma nei fatti anonime folle di utenti di app e piattaforme, ognuno legato “ai ceppi di una permanente minorità”. Fino al fiducioso affidamento d'ognuno ai nuovi Vormündern: Intelligenze Artificiali.

Kant non si indigna di fronte a questo perpetuarsi della minorità. Perché, scrive, qualsiasi libertà civile dei cittadini è subordinata al prioritario buon funzionamento della 'gemeinen Wesen' [cosa pubblica, comunità, repubblica]. Per questo è necessario un Mechanism che garantisca ordine ed efficienza.
La buona organizzazione esige che non solo lavoratori, ma anche dirigenti siano 'Theil der Maschine', parte della macchina.
“Il governo tramite una künstliche Einhelligkeit [un'armonia artificiale], dirigerà i comportamenti di tutti costoro verso pubblici scopi, o almeno li indurrà a non contrastare tali scopi”.
Si potrà anche “permettere ai sudditi di fare uso pubblico della loro ragione” esponendo “le loro idee sopra un migliore assetto della legislazione”, ma alla fine, per Kant, l'Illuminismo si riduce a questo: l'affidamento a un Sovrano Illuminato.
Egli, disponendo delle forze dell'ordine “a garanzia della pubblica pace”, può dire ai sudditi: ragionate quanto volete e su tutto ciò che volete; solamente obbedite!

Parole scritte due secoli e mezzo fa illuminano il nostro presente.

Georges Bernanos

« Le danger n’est pas dans la multiplication des machines, mais dans le nombre sans cesse croissant d’hommes habitués, dès leur enfance, à ne désirer que ce que les machines peuvent donner
Il pericolo non sta nella moltiplicazione delle macchine, ma nel numero che cresce senza sosta di uomini abituati, dalla loro infanzia, a non desiderare altro che ciò che le macchine possono dare
Così scrive Georges Bernanos il 20 gennaio 1945

«L’idée que la liberté puisse disparaître peu à peu d’une civilisation technique où, en effet, elle n’a pas de place, m’est, à la lettre, intolérable.»
L'idea che la libertà possa sparire poco a poco da una civiltà tecnologica in cui, in effetti, non ha posto, mi è letteralmente intollerabile.

nel 1938 all'esilio in Brasile, vive dal 1940 in un a casa isolata, nei pressi di Barbacena, Minas Gerais, alle pendici di una collina chiamata Cruz das Almas.
Si intitolerà 'Le Chemin de la Croix-des-Âmes' (1948) la raccolta dei suoi scritti di quegli anni: articoli per giornali brasiliani e francesi, lettere aperte.
Bernanos è impegnato nella Resistenza. De Gaulle il 16 febbraio 1945 gli telegrafa «Votre place est parmi nous». In giugno torna in patria, ma rifiuta il ruolo di ministro che De Gaulle gli propone.

«Sono uno scrittore e, se Dio vuole, anche un poeta», dice di sé. «Non invento niente, racconto quello che vedo». E cosa vede Bernanos in quegli anni?

Sono gli anni del dopoguerra, del possibile inizio di tempi migliori. Politici, sociali. Bernanos, in quegli anni, coglie sintomi premonitori. Si chiede: non stiamo forse cadendo in "una fiducia cieca nella Civiltà delle Macchine?".
Nello stesso 1948, in cui esce presso Gallimard 'Le Chemin de la Croix-des-Âmes', esce in prima edizione mondiale presso un altro editore parigino il saggio di Norbert Wiener: 'Cybernetics; or, Control and communications in the animal and the machine'.

Bernanos scrive:

«L’idée que la liberté puisse disparaître peu à peu d’une civilisation technique où, en effet, elle n’a pas de place, m’est, à la lettre, intolérable.»

L'idea che la libertà possa sparire poco a poco da una civiltà tecnologica in cui, in effetti, non ha posto, mi è letteralmente intollerabile.

Ritorna sul tema in un saggio breve e nervoso, ricco di domande e di ammonimenti: 'La France contre les robots', 1947.
Bernanos, che ha passato la vita ad interrogarsi sulla propria fede, sull'impegno civile, finisce per passare gli ultimi anni della sua vita riflettendo su macchine che «dispensent de penser, de vouloir, de prévoir», dispensano dal pensare, dal volere, dal prevedere.
Questo, in fondo, è il suo testamento. Muore infatti, sessantenne, il 5 luglio 1948.

Amartya Sen 

Sen ci mette in guardia di fronte alle metriche, ai modelli. Spesso portano a trascurare il punto di vista di minoranze e oppositori. Meglio molti dati sporchi, difficili da interpretare, che pochi dati puliti.
Scrive: “ridurre ad un solo quantum omogeneo tutto ciò cui abbiamo motivo di dare valore non è possibile”. Quindi, dice, invece di ricondurre gli aspetti implicati nelle valutazioni a un unico sistema di pesi (come accade, ad esempio, nelle metriche contabili e bilancistiche; o come accade, in informatica, scegliendo un modello di dati o un algoritmo), meglio una ricca serie di pesi anche non pienamente congruenti tra di loro.

In un quadro segnato da una crescente divaricazione tra ricchezza e povertà

"Invece di accanirci a stabilire cos’è la giustizia ‘in principio’, facciamo il possibile, qui ed ora, anche magari per tentativi e errori, accettando l’imperfezione, facciamo il possibile per invertire il circolo vizioso della povertà e dell’ingiustizia."

"Si tratta quindi di accettare la complessità del mondo. Piuttosto che cercare rappresentazioni perfette del mondo, partecipare -per quanto è possibile ad ognuno di noi- alla costruzione di un mondo meno ingiusto."

"Non sta a noi definire cosa sarà considerato importante dai nostri figli, e da ogni generazione futura. Non sta a noi definire per loro gli ‘standard di vita’. A noi compete la responsabilità di lasciare agli altri lo spazio per scegliere in libertà quale vita vivere."

"Per cogliere i trend, i segnali deboli, conviene essere disposti ad ascoltare la voce altrui. Ascoltare chiunque e dare spazio anche alle opinioni con le quali si è in franco disaccordo. L’esclusione è in sé una ingiustizia, ed è anche fonte di ulteriori ingiustizie, perché, ritiene Sen, solo tramite il dibattito in pubblico cresce una società meno ingiusta."

Sen ci offre quindi una definizione sintetica: la democrazia è discussione in pubblico.

Una giustizia per i tempi digitali

Possiamo parlare di era di 'era digitale' ricordando che parliamo sia di causa che di effetto: l'economia, la finanza, la politica, gli interessi di una élite, generano una tecnologia. La tecnologia a sua volta determina economia, finanza, politica, cultura.

La tecnologia digitale finisce per ridefinire il concetto di giustizia.

Si afferma -a scapito di ogni altra élite; a scapito dei tradizionali poteri democratici: legislativo, esecutivo, giudiziario; a scapito anche a scapito dei politici di professione- una nuova élite di tecnici: tecnologi, tecnocrati digitali. Sono loro i nuovi Vormünder, i guardiani di cui parlava Kant.

I codici giuridici sono scritti da rappresentanti dei cittadini, in un quadro definito da costituzioni e norme di diritto. Sono scritti in testi e tramite linguaggi noti e trasparenti ai cittadini. Il codice digitale è invece scritto da puri tecnici non eletti ma auto-cooptati; ed è scritto in un linguaggio noto solo ai tecnici, illeggibile per il cittadino; linguaggio destinato ad essere compreso e recepito non dai cittadini ma da macchine.

Il cittadino vede via impoveriti i diritti dell'elettore e del legislatore, e retrocede ad utente di servizi erogati d'autorità dai detentori di piattaforme.

Il potere di fatto dei tecnologi e tecnocrati digitali può essere inteso come attacco alla giustizia. O ridefinizione della giustizia. I tecnologi hanno i mezzi per definire il terreno sul quale si svolge la vita civile.

Di fronte al nuovo potere di tecnologi e tecnocrati la risposta sta in una azione intensa della cittadinanza attiva. Amartya Sen ci fornisce indicazioni per trovare una via.

Verso una nuova assunzione di responsabilità

Circola nei media e nei social network ed in ogni dove una sia pur confusa e discordante apologia dell'Intelligenza Artificiale. Questa apologia giova a chiunque opera da professionista nel campo dell'Intelligenza Artificiale - anche a coloro che, di fronte a specifici aspetti di queste tecnologie, mostrano atteggiamenti critici.

Fa comodo in ogni caso creare un'aura di attesa e di pubblico interesse attorno alla cosa detta 'Intelligenza Artificiale'. Non importa se si tratta di un'aura fumosa. In un modo o nell'altro fa comodo educare il popolo a stare in attesa di novità sbalorditive. Se mai si accenna a difetti di questa cosa detta 'Intelligenza Artificiale', sempre si bilancerà parlando dei difetti degli esseri umani.

Se ci fermiamo per un attimo a pensare, se prendiamo anche solo per un istante coscienza di come stiamo vivendo e agendo, ci rendiamo conto di come oggi accettiamo una sottrazione di libertà.
Meditando, ci rendiamo conto di come oggi viviamo sottoposti ad una restrizione dell'ottica, dell'ampiezza del nostro sguardo. Viviamo sussunti a regole contenute in macchine. Viviamo chiedendo lumi a macchine. Osserviamo in mondo attraverso macchine.
Ci specchiamo in gemelli digitali. Conosciamo il mondo attraverso 'dati'.

Ci diciamo che 'non esiste umano senza macchina'. Cerchiamo di convincerci che 'è sempre stato così'. Ma sappiamo che dicendoci questo inganniamo noi stessi.

La macchina che ci impone le restrizioni che oggi subiamo è la macchina digitale, computazionale, che prima del Ventesimo Secolo non esisteva.
Solo la macchina detta 'computer' porta con sé l'idea che la macchina possa sostituire l'umano.
Solo la macchina detta 'computer', allo stesso tempo, porta con sé l'idea che il pensare è l'eseguire ciò che sta in un Libro delle Regole già scritto.

Siamo succubi di una ideologia che, a partire dalla presenza di questa macchina, pretende di ricostruire a ritroso la storia del pensiero e della conoscenza.

Siamo succubi di una filosofia secondo la quale l'amore per il sapere non autorizza noi umani a esplorare la realtà in ogni direzione. Ci viene infatti imposto di amare, prima del sapere, una macchina. Ci vienee imposto un pensiero sottoposto a regole e legato al confronto dell'umano con la macchina digitale.

Sta a noi mantener vivo un pensiero che non contempla macchine pensanti, e che non considera noi stessi macchine pensanti.
Solo recuperando una saggia distanza dalla macchina potremo vivere liberamente la presenza di macchine.

Chi dubita e si interroga, chi -di fronte al pressante invito ad adattarsi, a non fare a meno di sempre nuove tecnologie digitali- chiama alla cautela, viene tacciato di luddismo, difensivo attaccamento al passato, atteggiamento retrogrado.
Chi cerca di trovare, per sé e per gli altri, un limite, una misura, nell'uso dei mezzi digitali proposti dalla martellante propaganda, è accusato di essere vittima della paura. Paura della macchina, paura del nuovo, paura del confronto e dell'incontro con il diverso.

Ma a ben guardare, ad aver paura sono coloro che prontamente, con sollievo, si affidato a nuove macchine digitali, in particolare a quelle macchine che vanno sotto il nome di 'Intelligenze Artificiali'.

Tutti oggi abbiamo motivo di essere impauriti. Ma impauriti non tanto dalla presenza, accanto a noi, di una o di un'altra macchina; impauriti, invece da disagi sociali, crisi economiche, guerre conflitti politici che paiono insanabili, disastri ambientali. Di fronte a tutto questo, sì, abbiamo paura.
Come far fronte, ci chiediamo?

E ci rispondiamo: meno male, c'è l'Intelligenza Artificiale. Affidiamoci a lei.
Evitiamo così di chiederci davvero, in modo impegnativo, come posso far fronte?
In un tempo precedente non potevamo fare a meno di dirci: devo assumermi questa responsabilità. Oggi disponiamo di una macchina che ci illude di poter scansare ogni responsabilità.

Questi argomenti offrono uno sfondo al tema: Il macchinocentrismo come problema filosofico, oggetto di incontro il 29 maggio 2025, ore 18-20, presso la Casa della Cultura di Milano. Primo appuntamento della serie L'etica ai tempi del macchinocentrismo, a cura di Assoetica.

Macchinocentrismo vs. Antropocentrismo

E' diffusa l'accusa di 'antropocentrismo' rivolta a chi mostra cautela di fronte alle macchine digitali, in particolare di fronte alle macchine progettate per imitare, simulare o sostituire l'umano.

Dietro l'accusa di 'antropocentrismo' si nasconde la posizione 'macchinocentrista'.

Un primo modo di intendere il 'macchinocentrismo' risiede nel considerare esseri umani -e animali e ogni tipo di ente naturale- come sistemi complessi, ovvero macchine.
Un bambino, l'universo, la macchina di Turing, un qualsiasi computer, una infrastruttura tecnologica; in ogni caso macchine.
Descritta così la scena, il confronto tra macchine è istituito. Nello specifico è istituito il confronto tra essere umano e computer.
Si tratta di un confronto dove è assunta in principio la comparabilità tra i due enti. Perciò, sull'altare della comparabilità, ciò che dell'umano è incomparabile -ciò che non trova riscontro possibile nel computer- è rimosso e ignorato.

Una posizione 'macchinocentrista' esemplare consiste nel sostenere che gli esseri umani, viziati da 'antroprocentrismo' misconoscono i diritti delle 'cose'.
L'uscita dall''antropocentrismo' consisterebbe quindi nel farsi paladini dei diritti del rappresentante ideale di ogni 'cosa': il robot.

Altra posizione 'macchinocentrista' consiste nel sostenere che gli umani hanno sempre conosciuto sé stessi attraverso il confronto e l'interazione con macchine.
Si mette così tra parentesi il ri-conoscersi come essere umano, essere vivente, appartenente alla natura e alla vita.
Resta in ogni caso la differenza tra il conoscere sé stessi attraverso il confronto o l'incontro con un tornio, un orologio, e attraverso l'incontro o il confronto con macchine progettate per imitare, simulare o sostituire l'umano.

Il conoscere sé stessi tramite il confronto e l'incontro con ogni essere umano, con ogni essere vivente, tramite la consapevolezza di appartenere alla natura e alla vita, porta a riconoscere a sé stessi una responsabilità ed un ruolo da giocare.
A quale posizione portano invece il considerarsi macchine, e il conoscere sé stessi come e tramite macchine digitali?

Questi argomenti sono il punto di partenza dell'incontro Il macchinocentrismo come problema filosofico, 29 maggio 2025, ore 18-20, presso la Casa della Cultura di Milano:  Primo appuntamento della serie L'etica ai tempi del macchinocentrismo, a cura di Assoetica.

L'intelligenza artificiale non è per forza tua amica. Otto domande di Sebastiano Zanolli a proposito del libro 'Splendori e miserie delle intelligenze artificiali'. Newsletter Linkedin 'La Grande Differenza', 21 luglio 2024

 Non è facile pensare e tantomeno scrivere. Ci sono anche cose di cui si preferirebbe non parlare, nemmeno con sé stessi. E se non si ripete a pappagallo quello che hanno già detto altri, si sente il peso della solitudine. Resta sempre il dubbio di non aver ben articolato gli argomenti; di non aver offerto un buon servizio al lettore.

In realtà un libro è il dialogo con un lettore disposto a farsi domande.
Grazie quindi a Sebastiano Zanolli per le sue domande. E per questa sua sintesi, che non avrei saputo scrivere con questa chiarezza:

- Il libro è per chiunque voglia pensare con la propria testa, spiegando concetti complessi in modo chiaro e comprensibile, senza bisogno di competenze tecniche avanzate.
- Il libro sfida la visione utopica delle tecnologie digitali, mettendo in guardia contro il cosiddetto "Paradiso tecnologico" e invitando a una valutazione critica e equilibrata delle intelligenze artificiali.
- Varanini sottolinea l'importanza di valorizzare l'esperienza umana, guardando oltre i dati e gli algoritmi, e mantenendo vivo il pensiero critico e la cultura aziendale in un contesto sempre più digitalizzato.
- Non come un manuale tecnico, ma come un viaggio riflessivo su chi siamo e su come possiamo rimanere umani in un mondo sempre più dominato dalle tecnologie.

L'intervista appare sulla newsletter Linkedin La Grande Differenza, 21 luglio 2024

Qui per iscriversi alla Newsletter

Riporto di seguito il testo dell'intervista.

Otto domande a Francesco Varanini sul suo ultimo libro

Francesco, quanto è accessibile il tuo libro Splendori e miserie delle intelligenze artificiali per i non esperti?

Splendori e miserie delle intelligenze artificiali si rivolge alle persone che hanno ancora voglia di pensare con la propria testa. Si rivolge a tutti coloro che capiscono non è tutto oro quello che luccica, e che vogliono capire. Si rivolge a coloro che intuiscono contraddizioni, vedono pericoli, hanno dei dubbi e dei timori, ma magari si vergognano anche a dirlo, perché non si considerano 'esperti'...

Credo sia fuorviante distinguere tra 'esperti' e 'non esperti'. Esistono persone che si impegnano nel pensare. Ed esistono persone che per gli effetti di una cattiva educazione e di una insistente propaganda che impone un falso pensiero bell'e pronto, tendono non fidarsi della propria capacità di pensare. Si affidano così ad 'esperti': ma gli 'esperti' spesso abusano della propria autorità, parlando come esperti di cose di cui non sono esperti; e poi gli 'esperti' sono in realtà portatori di interessi personali: il loro successo professionale dipende dal fatto che i cittadini accettino le cosiddette intelligenze artificiali a scatola chiusa, senza porsi troppe domande.

Considerando che l’IA è argomento complesso, riesci a spiegare i concetti chiave in modo comprensibile anche per chi non ha una formazione tecnica?
Non è così difficile spiegare di cosa si tratti. Quello che spesso manca è la volontà di spiegare. Giova a chi ha interessi da difendere il mostrare le cosiddette intelligenze artificiali come qualcosa di esoterico, comprensibile solo dagli 'esperti', dai 'tecnici'. I tecnici, poi, sono specializzati in un singolo campo. A loro manca la visione generale. Più precisamente si può dire che, con tutto il rispetto loro dovuto, i tecnici digitali sono specializzati nel parlare alle macchine, non nel parlare ai cittadini del modo in cui funzionano le macchine. Se i tecnici non sono in grado di guardare oltre i confini della propria disciplina, a porre in luce le interrelazioni e la complessità dovrebbero essere i filosofi. Ma -come mostro in un capitolo del mio libro- i filosofi, salvo eccezioni, hanno rinunciato a questo ruolo. Non c'è più la filosofia: l'interrogarsi su cosa voglia dire 'essere umano', l'amore per la conoscenza, lo spirito critico, la saggezza. C'è solo una filosofia ancella della tecnica: la filosofia dell'informazione, la filosofia dell'intelligenza artificiale, la filosofia della mente, la filosofia delle neuroscienze...

Quando nella tua domanda mi dici:“comprensibile anche per chi non ha una formazione tecnica” sembra quasi che tu dubiti della possibilità di capire. Sembra quasi che consideri necessario e irreversibile l'affidamento a chi è dotato di “una formazione tecnica”. Non è così!

Dobbiamo tornare a pensare e ad agire fidandoci di noi stessi, dobbiamo tornare a dar valore alla nostra storia personale, alla nostra esperienza – in questa storia e in questa esperienza stanno le chiavi per comprendere il senso profondo di qualsiasi questione tecnica...

Questo è ciò che mostro con il mio libro. E sono convinto che a te, leggendolo, sia venuto in mente un pensiero: 'ma allora, più che da imparare dai tecnici, ho molto da insegnare loro'.

Sì va bene, ma non hai risposto alla domanda. Dimmi in modo comprensibile: cosa è l'IA?

Insisto fin dove possibile nel non usare sigle e nel dire: 'cosiddette intelligenze artificiali'.

Insisto nello scrivere in minuscolo e nell'usare il plurale. Per sottolineare che sotto questa espressione-ombrello -intelligenza artificiale- vengono oggi messe insieme tecniche informatiche diverse. Fino a qualche anno fa ognuna aveva il suo nome, ma ora è comodo riassumere tutto all'ombra di queste due immaginifiche parole.

E sottolineo il 'cosiddette', perché in effetti il termine già in origine non esprimeva nessuna precisione tecnica. Fu coniato con un unico scopo: colpire la pubblica immaginazione. Favorendo così la raccolta di fondi della ricerca e l'ascesa sociale dei cultori di una nuova disciplina: la computer science.

Potrei darti qui, anche in brevi parole, una definizione tecnica. Potrei parlarti di algoritmi, di come funzionano le macchine. Nel libro ovviamente ne parlo.

Ma preferisco dirti in sintesi, prescindendo dagli aspetti tecnici. Le intelligenze artificiali sono macchine progettate per operare indipendentemente dagli esseri umani, e per autosupervisionarsi nel loro funzionamento e nel loro sviluppo.

Splendori e miserie non è l'ennesimo libro che spiega al popolo, considerato come una massa di ignoranti da istruire, le meraviglie delle nuovissime tecnologie. E' al contrario un tentativo di risvegliare le coscienze di noi esseri umani, assopite dall'affidamento a macchine sempre più potenti ed autonome.

Quindi, posso aggiungere che, di fatto, le intelligenze artificiali sono macchine progettate per sostituire gli esseri umani, ed imposte agli esseri umani come specchio del proprio modo di essere e come modello di come dovrebbero essere.

Sono macchine per togliere al posto nostro le castagne dal fuoco. Macchine che nel semplificarci apparentemente la vita ci impoveriscono. Macchine che ci spingono a non assumerci responsabilità.

Nel libro, metti in evidenza il concetto di Paradiso tecnologico. Perché ritieni questo concetto pericoloso?

Metto in guardia contro una comoda via fuga: la via di chi sostiene che bisogna lasciar campo libero all'innovazione, perché le tecnologie ci salveranno. Si dice che lo sviluppo tecnologico porterà vantaggi all’umanità tutta, alla vita sulla Terra, al pianeta. Come le prime comunità cristiane credevano nell’avvento del Regno di Cristo in Terra, qualcuno crede ora nella promessa di un eden tecnologico, felice per tutti.

Il primo problema è che in questa promessa c'è ben poco di vero.

Dietro questa narrazione si nascondono gli interessi economici, e di puro dominio, delle grandi case digitali. Si nasconde il fatto che queste tecnologie provocano già oggi, e provocheranno ancor più negli immediati anni a venire, conflitti sociali, perdite di diritti e di lavoro, aggravamento della forbice tra ricchezza e povertà.

I fautori del Paradiso Tecnologico sostengono che nel lungo periodo tutto si accomoderà. Ci sarà energia a basso costo, ci saranno servizi garantiti e cibo sintetico per tutti... Non è affatto detto che si arrivi a questo. Ma se pure ci si arriverà, non si tratta certo di uno scenario auspicabile. E' lo scenario descritto da Huxley nel romanzo The Brave New World, Il mondo nuovo: un modo dove dietro un'apparente libertà si nasconde una rigida divisione in caste ed un controllo sociale che sradica il pensiero individuale e libero.

Una via di fuga, dicevo, perché è un comodo modo per non assumersi l'onere di governare lo sviluppo dell'industria digitale, qui ed ora. E' un modo per evitare di fare scelte; di di dire: questo sì, questo no; di ammettere che l'industria digitale provoca gravi danni ambientali...

In che modo possiamo guardare ai limiti reali e le potenzialità delle tecnologie digitali, evitando sia un entusiasmo eccessivo che un pessimismo paralizzante?

Per quanto mi riguarda mi preoccupo sopratutto di contrastare l'entusiasmo eccessivo. Perché mi pare questo l'atteggiamento dominante. In realtà non si tratta di sincero entusiasmo dei cittadini, degli utenti, ma di narrazioni accuratamente costruite dai portatori di interessi, tese a convincere i cittadini ad accettare tutto quello che l'industria digitale propone. In fondo, credo di poter dire, la maggior parte dei libri dedicati ad intelligenze artificiali e dintorni hanno per scopo spargere fiducia. Si dice in fondo: fidatevi di noi esperti, perché voi non sapete. Si dice: osservate la bellezza, la meraviglia di queste novità. Si dice: in ogni caso la storia va in questa direzione, fatevene una ragione.

A me sembra che i rischi di un pessimismo paralizzante siano proprio uno degli argomenti usati dai fautori dei una innovazione digitale acritica. Un argomento usato per annichilire i cittadini ed i lavoratori che, in virtù del loro intuito, del loro senso di realtà, vedono problemi ed hanno dubbi. E spesso si vergognano di dirlo, direi anche: si vergognano per averlo pensato. Perché a nessuno piace essere giudicato retrogrado.

Il mio libro si rivolge in modo particolare a questi cittadini accusati di essere retrogradi. Dico loro: la vostra posizione è la più costruttiva e la più saggia. Allo stesso tempo mi rivolgo a chi è oggi disposto ad affidarsi alle nuove tecnologie digitali senza pensare troppo: invito chi ha questo atteggiamento alla cautela ed alla riflessione.

Propongo quindi concretamente un possibile cammino: non rinviare nel tempo la soluzione dei problemi che già oggi queste tecnologie comportano; non scaricare su di altri l'onere di responsabilità che ognuno, nel suo ruolo, può assumersi.

Hai parlato dell’importanza di guardare oltre ciò che un computer può vedere. Puoi spiegare cosa intendi, e come questo approccio potrebbe influenzare lo sviluppo e l’adozione delle tecnologie IA in ambito aziendale?

Piace oggi offrire a manager, lavoratori, cittadini, l'immagine di una crescente potenza del computer: sempre maggiore potenza di calcolo, fino al raggiungimento della cosiddetta intelligenza artificiale. L'invito è ad affidarsi sempre più alla macchina.

Si dice che il manager deve lasciare via via sempre più compiti al computer. Si sostiene che gli

algoritmi aiutano i decisori a risparmiare tempo perché automatizzano le decisioni ad alta frequenza e basso impatto. Ciò aumenta, si dice, l'opportunità di dedicare tempo e sforzi cognitivi a decisioni strategiche a bassa frequenza ed alto impatto.

A questa proposta è facile rispondere che è impossibile definire a priori quali sono le decisioni strategiche più importanti. Perché le decisioni più importanti sono le risposte a fenomeni emergenti, imprevedibili.

L'algoritmo opera sui dati: i dati non descrivono mai in modo esaustivo la realtà. L'algoritmo non è che una procedura basata su un modello. Il modello, per definizione, non è in grado di prevedere ogni possibile evento. L'algoritmo, quindi, non è in grado di rispondere ad eventi catastrofali, o anche semplicemente a necessità di intervento che vengono alla luce, agli occhi del manager, visitando di persona lo stabilimento produttivo, il magazzino, o parlando con i clienti.

Fidandomi della macchina rischio di non vedere ciò che di nuovo ed importante accade. Inoltre, abituandomi ad affidarmi alla macchina, lascio decadere nel tempo la mia stessa capacità di vedere.

Affermi che la cultura digitale debba essere decostruita per osservarne le miserie. Puoi fornire esempi concreti di come questa decostruzione possa avvenire nella pratica quotidiana di un’azienda tecnologica?

Per essere precisi, non uso il uso il verbo decostruire nel testo del libro; lo uso, in un tentativo di sintesi forse fuorviante, nel risvolto di copertina. Intendo semplicemente dire: leggere criticamente, non lasciarsi incantare dalla propaganda e della più comune delle affermazioni: 'queste tecnologie sono arrivate per restare'. Come a dire: dobbiamo accettarle per forza; dobbiamo adattarci. Non credo sia così. Penso che sia possibile, o anzi, spero, probabile, che tra cento o duecent'anni ci guarderemo indietro e diremo: oh come eravamo insensati quando pensavamo conveniente affidare i compiti più difficili a macchine in più possibile indipendenti da noi!

Nella pratica quotidiana di ogni azienda, tecnologica o non tecnologica, questo vuol dire innanzitutto scegliere oculatamente i modo di formare le persone a vivere la trasformazione digitale. Il modo comune è insegnare l'adattamento: insegnare ad usare passivamente ogni nuovo strumento prodotto da tecnologi lontani dalla vita della singola azienda, dalla sua cultura, del suo business.

C'è un modo differente: mostrare i limiti degli strumenti, i loro rischi, insegnare come mantenere viva la cultura aziendale, e gli spazi di libertà individuali, nonostante la presenza di strumenti digitali che tendono ad imporre una uniformazione universale.

Sostengo nel libro che questa formazione 'a rovescio' serve nelle aziende. E serve ad ogni cittadino, per mantenere vivi il senso di responsabilità ed il libero arbitrio, per non essere ridotto a utente passivo di servizi preconfezionati.

Un'ultima domanda. Una curiosità personale. Il sottotitolo del libro aggiunge una precisazione che sembra significativa: alla luce dell'umana esperienza. Mi sembra tu parli dell'esperienza soggettiva, dell'esperienza che ogni persona fa 'sulla propria pelle', interagendo con le macchine digitali, con le intelligenze artificiali in particolare...

Sì, è proprio così. La cultura tecnico-scientifica spinge a guardare le cose, a osservare il mondo, nel modo più oggettivo possibile. Le idiosincrasie, gli aspetti distintivi di una persona, la sua cultura e i suoi valori sono considerati difetti. Ma questa è proprio la via che ci porta ad essere sempre più simili a macchine, ad intelligenze artificiali.

Siccome il mio intento è ricordarci chi siamo, riscoprire spazi per noi stessi, noi umani, in questo contesto dove le macchine digitali sono presenti, allora il punto di partenza sta proprio nel narrare le esperienze personali. E così racconto di come mi sono sentito quella volta in cui ho interagito con Chat GPT a proposito di un argomento che mi stava veramente a cuore.

Siamo spinti a considerare rilevante solo a ciò che è codificabile, computabile. Ma così buttiamo via una parte significativa della nostra storia, dei nostri valori. Ci sono cose che riusciamo a dire solo attraverso narrazioni lontanissime dalla codifica digitale. Uno dei capitoli del mio libro è scritto in versi, è una poesia. Non è un gratuito esercizio. Solo così riuscivo a dire certe cose. Un altro capitolo è una lettera personale ad un esperto che stimo al di là delle differenze di posizione.

Il mio libro è un invito a continuare ad essere noi stessi, appunto dando valore alle nostre esperienze, evitando di farci 'dettare l'agenda' da intelligenze artificiali.

 

Varie brevi riflessioni, intorno ai temi trattati nel libro 'Splendori e miserie delle intelligenze artificiali', e intorno ai temi sui quali mi interrogo in questo blog

 Brevi riflessioni pubblicate come post su Linkedin. 

L'usignolo meccanico, fiaba di Anderson, commento di Janine Chasseguet-Smirgel
Il CEO di Cisco e le iniziative vaticane come comoda propaganda
Nel 1969 Rudolf Arnheim spiegava che la cosiddetta 'intelligenza artificiale'...
Emily Bender e i pappagalli stocastici (per lo più maschi)
Umano essere-nel-mondo o sostituzione digitale
La libertà di non essere digitali, ovvero il digitale alla prova della sostenibilità
GPT: una confutazione poetica
La conversione di Yoshua Bengio
Qualcuno crede di essere capace di costruire robot dotati di 'saggezza artificiale'
Dieci possibili impegni per un 'digitale' sostenibile
Noi umani non cederemo la responsabilità della cura a una macchina
Wittgenstein: "Vogliamo camminare; dunque abbiamo bisogno dell’attrito. Torniamo sul terreno accidentato!"
Trent'anni fa leggevamo il libro di Negroponte 'Essere digitali'. Oggi...
Gli studenti del MIT di sessant'anni fa erano ben più fortunati degli studenti di oggi: 'Il Mulino di Amleto'
Perché la lezione di Epimeteo è più importante della lezione di Prometeo
Esperienza: vedere con i propri occhi l'opera d'arte
Le intelligenze artificiali non hanno accesso a ciò che non è digitalizzato
La formazione degli esseri umani e l'apprendimento delle macchine
Algor-etica: un concetto sgangherato ed equivoco
Papa Francesco parla di intelligenza artificiale
Il paradosso di Nishida: affidandosi alla macchina si rinuncia all'esperienza
Michael Polanyi e la conoscenza umana, inattingibile per la macchina
Marcel Mauss: la tecnica è innanzitutto usare consapevolmente il proprio corpo 
Perché i non giovani capiscono la cultura digitale meglio dei giovani
L'intelligenza artificiale come fuga dalla responsabilità personale
Stampa e intelligenza artificiale. Due salti tecnologici. Ma il paragone è improponibile
Judea Pearl, l'intelligenza artificiale causale e le macchine morali
Scott Aaronson e la sicurezza di GPT5
Intelligenze artificiali come metafora di sudditanza e di attesa di soccorso
Oscilliamo tra miseria e splendore. Miseria: affidarsi alla macchina. Splendore: la bellezza in noi, speriamo di vederla nella macchina.

'Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza', Guerini e Associati, in libreria dal 24 maggio 2024

 Il tema del libro in tre frasi

Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce.
Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire.
Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità.

Uno degli argomenti che tratto nel libro
C'è un'inquietudine che mi muove. Continuo a venire a conoscenza delle opinioni di seri ricercatori. Essi dicono, sinceramente e con piena convinzione, cose del tipo:
"Una caratteristica distintiva dei sistemi di AI è questa: potranno prendere decisioni su basi etiche. Distinguere il bene dal male".
Nel libro discuto questa posizione, che -lo ammetto- mi scandalizza. Il fondamento della posizione sta nel far riferimento a studi di scienze cognitive. In base a quale presupposto studiosi di scienze cognitive pretendono di sapere cosa è il bene e il male, e cosa è l'etica, in base a un ancoraggio che guida la loro ricerca. L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana  è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. Il ricercatore stesso si allontana dal proprio essere umano.

Un altro argomento
L’immaginare di sostituire l’essere umano con una macchina è contrabbandare l’informazione per conoscenza.
La Transizione Digitale -che termina in una immagine conclusiva: l'Intelligenza Artificiale- è il punto di svolta di una svalutazione dell’umano. Perché costituisce la pretesa di sostituire all’esperienza umana i dati. I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano che sta maturando esperienze. L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato.
Un conto è l’informazione - che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza - che è il frutto dell’umana esperienza

Una descrizione dei temi  il libro
Splendori e miserie. C'è qualcosa di davvero splendido nelle promesse digitali - il cui culmine e la cui sintesi sembra ormai definitivamente riassumersi in un sostantivo ed in un aggettivo: Intelligenza Artificiale. Qualcosa di luminoso, scintillante. Sontuoso, grandioso, nobile. Ma c'è anche qualcosa di misero.
Siamo assillati da notizie che cantano le meravigliose capacità di intelligenze artificiali, e ci invitano ad affidarci ad esse. Ma sappiamo che il rischio di assuefazione e dipendenza è dietro l'angolo. Per noi e per i nostri figli, per i nostri posteri.
Perché ci impegniamo nell'insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano? Perché impegnarsi in progetti che consistono nell'ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina?
Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi?
Siccome l'innovazione appare inarrestabile, si sceglie di abbracciarla. Pare che l'unica scelta possibile consista nello sforzarsi di vederne gli aspetti positivi.
Credo invece si possa combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile.
Credo sia possibile dare risposte. Credo che in ogni caso convenga continuare a porci domande. Anche se non abbiamo immediate risposte.
La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole.

Un'altra descrizione - che mi sembra migliore della precedente
Anche i computer scientist ed i vari esperti che ci parlano di novità digitali hanno un'anima, una storia personale, un vissuto di dolori e di sogni. Gli strumenti ed i sistemi digitali, compreso tutto ciò che passa oggi sotto il nome di Intelligenze Artificiali, nascono in queste zone segrete, frutto di motivazioni profonde e non di rado inconfessate.
Per cercare di capire cosa significhino, e cosa nascondano, le Intelligenze Artificiali che con tanta insistenza vengono oggi propoposte ad ogni cittadino, non conviene quindi dar troppo credito alle spiegazioni tecniche e alle divulgazioni. Serve anzi ricordare che qualcosa, in queste narrazioni, resta sempre celato.
Per comprendere, conviene invece dare valore all'esperienza personale di ognuno di noi. Cosa vuol dire per me ricorrere ad una Intelligenza Artificiale? Quali sensazioni provo mentre mi affido a lei?
Scopriremo allora che le Intelligenze Artificiali rappresentano l'illusoria speranza di un facile modo per scaricare dalle proprie spalle il peso di responsabilità che ci paiono troppo gravose.
E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica.
Osservando con sguardo critico gli splendori e le miserie di ogni nuovissimo mezzo digitale, potremo tornare a guardare, e a dar valore, a ciò che siamo già capaci di fare, a mente libera e a mani nude, un attimo prima di cercare l'ausilio di una macchina.

Una terza descrizione
Oscilliamo tra miseria e splendore. La MISERIA sta nel non voler vedere ciò che ci turba e ci preoccupa. Sta nel sottovalutare le nostre doti e nello sprecarle.
La rincorsa al vano SPLENDORE sta nel proiettarsi nell'immagine di chi è vestito broccato d’oro e porpora, con una ghirlanda di giacinti rossi in testa, una collana d’oro. Una immagine alla quale aneliamo, ma che sappiamo lontanissima da ciò che vediamo se ci guardiamo allo specchio.
Di questi tempi, entrambe le immagini ci portano a credere nella potenza di cosiddette intelligenze artificiali. Ad affidarci a loro. Perché ci illudiamo possano vedere e agire al posto nostro. Perché se non possiamo vedere bellezza in noi, cerchiamo di vederla nella macchina.
Diamo alla macchina un nome splendido per nascondere ogni miseria.
Che fare? Nel mio libro SPLENDORI E MISERIE DELLE INTELLIGENZE ARTIFICIALI propongono una via.
- Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. Senza rinunciare al nostro corpo. Senza considerare la nostra mente separata dal corpo.
- Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole 'Intelligenza Artificiale'con lo sguardo dell’essere umano che contribuisce a costruire il mondo che abita. Con lo sguardo del cittadino che, disposto ad assumersi responsabilità, non cessa di porsi domande. Con lo sguardo di ognuno di noi, intento a vivere esperienze.
La saggezza umana sta nell’accettare la situazione, nell’apprendere a leggerla e a viverla. Senza arrendersi però al fato, a ciò che ci è comodo definire inevitabile. La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine.

 

Persona, cosa, sasso

Qualcuno torna a dirci che siamo colpevoli di antropocentrismo. Ci ricorda che, in quanto persone, abusiamo dei nostri privilegi nei confronti delle cose. E che rimaniamo fissati su una concezione binaria, su due categorie mutuamente esclusive: persona o cosa.

Noi umani, si dice quindi, dobbiamo imparare a mettere in discussione i nostri privilegi, a sviluppare prospettive critiche sui nostri valori, e ad assumerci più pienamente le nostre responsabilità. Anche nei confronti delle cose.

Ma l'asino casca quando si sceglie il portavoce delle cose. Qualcuno sceglie come portavoce delle cose il robot. La responsabilità umana, attraverso questo corto circuito, finisce per consistere nell'affermare e difendere i diritti dei robot. 

Alla luce del pensiero che osserva il presente della tecnica, si capisce come venga in mente quest'esempio. Ma uno sguardo più ampio, aperto alla storia, potrebbe ugualmente contemplare i diritti della cosa-orologio, o della cosa-tornio. Se poi si prende in considerazione la vita sulla terra, potremo prendere in considerazione i diritti di un batterio, un’alga, una foglia o un gatto. Ma forse ancora più calzante è guardare a cose inanimate. Allontandoci radicalmente dall'antropocentrismo, potremo osservare, ed assumere come nostro impegno, i diritti di un sasso.

Miglior portavoce delle cose, più del robot, è un sasso. Un sasso ci parla, se sappiamo ascoltarlo.

Del resto, per decostruire l'opposizione binaria tra persone e cose, basterebbe tornare a leggere Spinoza.

E poi bisogna ricordare che prendendo a portavoce delle cose il robot, si occulta l'umana azione del costruttore di robot. E' troppo comodo -questo sì è abuso di un umano privilegio, manifestazione di un antropocentrismo deresponsabilizzante- il considerare il robot come frutto di una evoluzione tecnica che prescinde dall'agire umano. 

Si può anche affermare: il robot è figlio dell'antropocentrismo, perché è frutto di un gesto di potere umano, e perché simula o imita l'umano. Comporta quindi un rifiuto dell'alterità della cosa rispetto all'umano.

Il robot, a differenza di altre cose, non esisterebbe senza una azione consapevole di un qualche essere umano. Si torna quindi alla responsabilità dell'essere umano costruttore di macchine. Perché costruisco macchine? Quale macchina scelgo di costruire?

Se l'essere umano costruttore di macchine non si assume le proprie responsabilità, starà ad altri esseri umani assumersi responsabilità a nome suo.

I diritti del sasso, qui ed ora. 

(Nel mio libro Macchine per pensare. L'informatica come prosecuzione della filosofia con altri mezzi, 2016, avvicino questi argomenti  nella parte finale. Chi volesse, potrebbe partire da p. 257, dove sotto il titolo Il senso della cosa, inizio a scrivere: "Con lo sguardo dell'umano che non pretende di essere artefice, ma si assume il compito di custode dell'essere, possiamo tornare a osservare la macchina come ente tra gli enti, come cosa.").

(Su questo blog si trovano vari altri articoli riguardanti in concetto di cosa. Per un percorso di senso che attraversa questo blog, consiglio di iniziare dall'articolo: Dato. Attorno al significato della parola).

Denunciare o scendere a patti. Papa Francesco parla di intelligenza artificiale

Si è sentita il primo dell'anno la voce commossa del Pontefice parlare di amore e pace. Il primo gennaio, infatti, si celebra dal 1968, per volere di Paolo VI, il Papa di allora, la Giornata Mondiale della Pace. La scelta papale è poi stata fatta propria nel 1981 dall'Assemblea Generale delle Nazioni Unite.

Si sa di come il Pontefice abbia messo in gioco tutto il suo impegno, il suo coraggio, la sua autorevolezza, per mettere fine alle guerre in corso. Eppure il tema da lui proposto -già annunciato nell'agosto scorso, ed esplicitato nella lettera resa pubblica l'8 dicembre scorso- è Intelligenza artificiale e pace.

I fedeli si sono ritrovati dunque in piazza San Pietro per fare memoria di tutte le terre che nel Nord e nel Sud del mondo attendono la fine della guerra e del terrorismo, a partire dal doloroso conflitto ancora aperto in Ucraina e da quello tra Israele e Hamas – ed allo stesso tempo ad esprimere sostegno al sostegno al messaggio di Papa Intelligenza artificiale e pace.¹

Certo la lettera contiene richiami all'“immensa tragedia della guerra”, alla follia della guerra”, ma il Papa sembra considerare aspetto chiave del tempo presente, più della guerra, più della povertà, dell'oppressione, la presenza di una nuova tecnologia.

Non si può evitare di notare le differenze. L'anno scorso il messaggio di pace del Papa diceva: Nessuno può salvarsi da solo. Ripartire dal Covid-19 per tracciare insieme sentieri di pace. Nel 2022 il tema era: Dialogo fra generazioni, educazione e lavoro: strumenti per edificare una pace duratura. Nel 2021: La cultura della cura come percorso di pace.

Nel 2020: La pace come cammino di speranza: dialogo, riconciliazione e conversione ecologica. Il messaggio di quell'anno esordiva con queste parole: “La pace è un bene prezioso, oggetto della nostra speranza, al quale aspira tutta l’umanità. Sperare nella pace è un atteggiamento umano che contiene una tensione esistenziale”. Oggi sorge un dubbio: possiamo forse affidare ad una qualche intelligenza artificiale questa speranza? Il messaggio nel 2020 proseguiva ricordando che “il mondo non ha bisogno di parole vuote, ma di testimoni convinti, di artigiani della pace aperti al dialogo senza esclusioni né manipolazioni”. Possiamo oggi chiederci: non dobbiamo forse diffidare delle parole vuote di tanti tecnologi? Possiamo forse considerarli artigiani della pace aperti al dialogo senza esclusioni né manipolazioni? A chi si rivolge dunque oggi il Papa? Ad ogni essere umano di buona volontà o a tecnologi portatori di un sapere esclusivo ed escludente?

Non a caso l'incipit della lettera di quest'anno non può parlare né di speranza, né di cura, né di dialogo. E' un incipit astratto, che si sforza di intendere “il progresso della scienza e della tecnologia come via verso la pace”. E che tenta l'ardua via di definire l'intelligenza attraverso citazioni veterotestamentarie.

Dato che tutto questo è scritto sotto un titolo nel quale campeggia l'espressione intelligenza artificiale, si accetta così implicitamente di fatto che possa esistere un qualche legame, una continuità o contiguità tra “l’intelligenza (...) espressione della dignità donataci dal Creatore” ed un certo funzionamento di una qualche macchina, funzionamento che quale capziosamente qualche tecnologo ha capziosamente chiamato intelligenza.

Non si corre forse così il rischio di essere schiavi del tempo, dell'ultima novità imposta da media e propaganda?

A chi si rivolge Papa Francesco

E' subito chiaro che stavolta il Pontefice non rivolge il suo messaggio agli uomini di buona volontà, ad ogni essere umano, ma parla invece ad un gruppo di esperti che si collocano fuori dal mondo - sacerdoti, potremmo dire, di nuove tecnologie digitali. A loro si rivolge.

Afferma quindi che “giustamente ci rallegriamo e siamo riconoscenti per le straordinarie conquiste della scienza e della tecnologia”. Ma sta rivolgendosi a scienziati e tecnologi quando si chiede:

quali saranno le conseguenze, a medio e a lungo termine, delle nuove tecnologie digitali? E quale impatto avranno sulla vita degli individui e della società, sulla stabilità internazionale e sulla pace?

Il Papa ammette in principio che il “progresso della scienza e della tecnica, nella misura in cui contribuisce a un migliore ordine della società umana, ad accrescere la libertà e la comunione fraterna, porta dunque al miglioramento dell’uomo e alla trasformazione del mondo”. Per poi notare che “i notevoli progressi delle nuove tecnologie dell’informazione, specialmente nella sfera digitale, presentano dunque entusiasmanti opportunità e gravi rischi, con serie implicazioni per il perseguimento della giustizia e dell’armonia tra i popoli”.

Sono, a guardar bene, le stesse cose che i tecnologi digitali ed i loro accoliti e filosofi di complemento si dicono da soli, negli ormai numerosissimi manifesti, lettere aperte, codici etici che si sono accumulati, senza influire più di tanto sugli indirizzi e sugli sviluppi delle cosiddette intelligenze artificiali.

Tutti coloro che a vario titolo sono impegnati nell'industria digitale vogliono sistemi che siano allo stesso tempo “robusti e benefici”, tutti a parole si pongono al servizio del benessere e della prosperità. Facile e comodo per tutti ripetere che “gli esseri umani e la natura” dovranno essere “al centro dello sviluppo dell'innovazione digitale”.

Il Pontefice sembra prendere per buoni questi impegni e questi intenti. Salvo poi mantener vivo qualche dubbio: “L’intelligenza artificiale, quindi, deve essere intesa come una galassia di realtà diverse e non possiamo presumere a priori che il suo sviluppo apporti un contributo benefico al futuro dell’umanità e alla pace tra i popoli”.

Francesco autore di Laudato si'

Non possiamo fare a meno di notare la differenza da quanto il Papa stesso afferma nell'enciclica Laudato si'.² “La tecnologia che, legata alla finanza, pretende di essere l’unica soluzione dei problemi, di fatto non è in grado di vedere il mistero delle molteplici relazioni che esistono tra le cose, e per questo a volte risolve un problema creandone altri” (20).

Non solo due stili diversi. Due argomentazioni diverse nella sostanza, nelle premesse e nelle conclusioni.

Va ricordato che il Pontefice ha sentito di recente il bisogno, come a ribadirne l'importanza e l'attualità, i temi di Laudato si'. Eccolo così, otto anni dopo la pubblicazione dell'enciclica (24 maggio 2015), rendere pubblica il 4 ottobre, Festa di San Francesco d’Assisi, dell’anno 2023, “undicesimo del mio Pontificato”, l'esortazione apostolica Laudate Deum.³

Qui (Laudate Deum, 20) critica senza indulgenze il “paradigma tecnocratico” di cui l'intelligenza artificiale è il caso esemplare. “Si tratta di «un modo di comprendere la vita e l’azione umana che è deviato e che contraddice la realtà fino al punto di rovinarla». [Laudato si’, 101] In sostanza, consiste nel pensare «come se la realtà, il bene e la verità sbocciassero spontaneamente dal potere stesso della tecnologia e dell’economia». [Laudato si' 105] Come conseguenza logica, «da qui si passa facilmente all’idea di una crescita infinita o illimitata, che ha tanto entusiasmato gli economisti, i teorici della finanza e della tecnologia». [Laudato si' 106]”.

Ancora più chiaro è il paragrafo seguente (Laudate Deum, 21): “L’intelligenza artificiale e i recenti sviluppi tecnologici si basano sull’idea di un essere umano senza limiti, le cui capacità e possibilità si potrebbero estendere all’infinito grazie alla tecnologia. Così, il paradigma tecnocratico si nutre mostruosamente di sé stesso.”.

Il paragrafo 23, poi, è una accorata manifestazione della preoccupazione del Pontefice di fronte alla concentrazione di potere di cui godono i fautori delle intelligenze artificiali: “Fa venire i brividi rendersi conto che le capacità ampliate dalla tecnologia danno «a coloro che detengono la conoscenza e soprattutto il potere economico per sfruttarla un dominio impressionante sull’insieme del genere umano e del mondo intero. Mai l’umanità ha avuto tanto potere su sé stessa e niente garantisce che lo utilizzerà bene, soprattutto se si considera il modo in cui se ne sta servendo. [...] In quali mani sta e in quali può giungere tanto potere? È terribilmente rischioso che esso risieda in una piccola parte dell’umanità». [Laudato si' 104]”.

Il giudizio sembra senza appello (Laudate Deum 31): “La logica del massimo profitto al minimo costo, mascherata da razionalità, progresso e promesse illusorie, rende impossibile qualsiasi sincera preoccupazione per la casa comune e qualsiasi attenzione per la promozione degli scartati della società”. Sembra essere evidente una scelta di campo, una presa di posizione.

Un patto con una piccola parte dell'umanità

Ma ecco che ora, con la lettera Intelligenza artificiale e pace, il Pontefice sembra scegliere di scendere a patti con quella “piccola parte dell'umanità” che ha in mano lo sviluppo e l'uso delle cosiddette intelligenze artificiali.

Il fatto è che due diversi percorsi -allo stesso tempo teologici, politici ed etici- sembrano essere portati avanti parallelamente.

Da un lato, in Laudato si', il rigoroso, commosso discorso di denuncia, che si traduce nella chiamata rivolta ad ogni essere umano di buona volontà, ad ogni cittadino del pianeta: solo attraverso l'assunzione da parte di ognuno e di tutti di sincere impegnative responsabilità personali, potremo salvare la casa comune, a cui tutti apparteniamo.

Dall'altro la proposta di un patto rivolta alla sempre più “piccola parte dell'umanità” costituita detentori del potere - che ha oggi la duplice, sovrapposta veste, di potere tecnologico e finanziario insieme, e che ha manifestazione più evidente ed efficace nella cosiddetta intelligenza artificiale.

Patto diplomatico, politico, etico.

Per stare al passo con i tempi, il patto è noto con parole inglesi: Rome Call for Ethics AI.⁴ 

La figura che appare a fronte dell'iniziativa è monsignor Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, consigliere spirituale della Comunità di Sant'Egidio. La presenza papale è però evidente: Venerdì, 28 febbraio 2020 Monsignor Paglia legge all'Assemblea Plenaria della Pontificia Accademia per la vita un discorso scritto da Papa Francesco (in quei giorni condizionato da problemi di salute).⁵ La Call è firmata -insieme al Vaticano, al Ministro per l’Innovazione Tecnologica del governo italiano e alla FAO- Microsoft e IBM. Seguiranno altre adesioni. Segue, nel gennaio 2023, proprio nei giorni in cui Open AI lancia Chat GPT -la più compiuta dimostrazione al popolo della potenza dell'intelligenza artificiale- l'adesione al progetto vaticano delle 'Chiese Abramitiche': un rabbino di Israele, uno sceicco di Abu Dhabi...⁶

Ho già raccontato questa storia.⁷

Se Laudate Deum è un addolorato ritorno, aggiornato alla luce di nuovi motivi di preoccupazione, sui temi di Laudato si', la lettera Intelligenza artificiale e pace è un nuovo avvallo del Pontefice al progetto espresso in Rome Call for AI Ethics. 

Due modi di intendere la Chiesa

Sono, a ben guardare, due modi di intendere la Chiesa. Da un lato comunità di esseri umani che cercano insieme luce e verità; dall'altro struttura, istituzione destinata a farsi carico di esseri umani bisognosi di guida e protezione.

Giustificati dall'intendere la Chiesa nel secondo di questi due modi, autorità Vaticane hanno scelto di dialogare con i vertici delle grandi case digitali e con i tecnologi dediti alla ricerca ed allo sviluppo. Ma hanno finito poi per fare il gioco di questa stessa élite, colludendo con essa, senza minimamente incidere sul disinteresse di questa élite per le conseguenze delle proprie azioni.

In un discorso del 2019, dedicato ad un tema particolarmente importante, Child Dignity in the Digital World,⁸ Francesco chiama gli attori della sena digitale alla “responsabilità nei confronti dei minori, della loro integrità e del loro futuro”. In questo discorso si sente risuonare appieno la voce di Francesco, la stessa che appare forte e chiara in Laudato si'.

Si rivolge alle “grandi compagnie del settore, che superano agevolmente le frontiere fra gli Stati, si muovono rapidamente sul fronte più avanzato dello sviluppo tecnologico e hanno accumulato risorse economiche ingenti”. Precisa che “è ormai evidente che esse non possono considerarsi completamente estranee all’uso degli strumenti che mettono nelle mani dei loro clienti”. “È ad esse quindi che rivolgo oggi il più impellente appello alla responsabilità nei confronti dei minori, della loro integrità e del loro futuro”. Chiaramente non basta – la prevalenza di interessi finanziari e speculativi ed il conseguenze cinismo non saranno certo scalfiti da un monito papale. Il Pontefice aggiunge allora: “faccio quindi appello agli ingegneri informatici, perché si sentano anch’essi responsabili in prima persona della costruzione del futuro”.

Questo è il punto chiave. Quest'appello chiama all'umiltà gli arroganti ricercatori drogati dal successo, dal senso di potenza implicito nel trovarsi a costruire una nuova simil-vita. Questo appello chiama alla conversione, al cambiar strada. Questo appello chiama all'uscita dalla torre d'avorio: tornate, vi prego, a sentirvi, prima che tecnologi, genitori, cittadini, appartenenti alla casa comune.

Invece nella lettera Intelligenza artificiale e pace, così già come nel discorso che accompagnava il lancio di Rome Call for AI Ethics, gli appelli alla responsabilità personale dei tecnologi passano in secondo piano. Si accetta invece la loro autorità 'sacerdotale' e si prone loro un patto, anzi un sostegno. “Tocca a loro [agli ingegneri informatici], con il nostro appoggio, impegnarsi in uno sviluppo etico degli algoritmi, farsi promotori di un nuovo campo dell’etica per il nostro tempo: la 'algor-etica'”.

Il nostro appoggio, un'etica per il nostro tempo

Il nostro appoggio: dunque il Vaticano -mi sembra fuori luogo parlare qui di Chiesa- appoggia i potenziatati digitali. Grandi case e tecnologi. In cosa? Nel definire e nell'imporre, mettendo in campo per questo la propria autorità, “un'etica del nostro tempo: l'algor-etica”.

La via è quella dell'impegno ad una autoregolazione etica da parte di ogni grande casa digitale. E' noto purtroppo quale trattamento -vessazioni ed espulsione- hanno subito i membri di questi comitati che hanno osato esprimere posizioni critiche, invitando alla cautela, al cambiamento di rotta, al bloccare linee di sviluppo.

La via è quella di organismi internazionali che dettano indirizzi e linee guida. Ne fanno parte esponenti di parte vaticana. Ma tutte queste belle parole sono ovviamente disattese, non spostano di una virgola investimenti ed indirizzi di sviluppo.

La via è quella di norme di legge di stati sovrani. Qui si può osservare come abbondino le affermazioni di principio: la più nota è l'affermazione europea di una Human-Centered AI. Affermazione retorica che non tocca il fatto che il principale interesse affermato dalle norme europee è il sostegno all'industria europea, nei confronti dell'industria statunitense e cinese.

A ciò si aggiunga il fatto che i politici non conoscono la materia. Si affideranno quindi inevitabilmente ad esperti, appartenenti alla famiglia professionale le cui azioni andrebbero poste sotto controllo.

In generale, dunque, la via è quella dei comitati etici. Ricercatori e tecnologi, accompagnati da qualche esperto -magari qualche filosofo- dovrebbero dettare regole e vincoli e indirizzi.

Iniziative vane. Utili purtroppo innanzitutto a questo: a fornire ad imprenditori, finanziatori, tecnici, una foglia di fico. Utili a permettere loro di dire: datemi una regola, stabilite una norma. Utili ad eludere il sincero e profondo riferimento di ognuno alla propria responsabilità personale.

Il Vaticano, purtroppo, finisce per legittimare questo disegno con una sorta di bolla papale. Si può capire che l'intrattenere legami con le grandi case digitali sia oggi importante per la diplomazia vaticana; si può anche capire l'ansia di parlare alla famiglia professionale dei tecnologi digitali.

Ma tra il dire “faccio quindi appello agli ingegneri informatici, perché si sentano anch’essi responsabili in prima persona della costruzione del futuro”, e il proporre, mettendo in campo l'autorità della Chiesa, una pretesa 'nuova etica per il nostro tempo', detta 'algor-etica', c'è un abisso.

Perché una nuova etica? Perché una nuova parola? Che cos'è poi l'algor-etica?

Ho mostrato in precedenti scritti⁹ come consiste in fondo nel tentativo di trasformare in codice digitale i principi della Dottrina Sociale della Chiesa: “dignità della persona, giustizia, sussidiarietà e solidarietà”.¹⁰ Conoscendo ciò che è buono per l'essere umano, una certa Chiesa si candida a rendere buone per gli esseri umani le piattaforme digitali. Si candida a far sì che le intelligenze artificiali diffondano il bene.

Disegno vano perché i grandi attori della scena digitale useranno la legittimazione della Chiesa senza dare nulla in cambio. Disegno ingiusto e pericoloso, perché così si finisce per alimentare il crescente divario tra l'élite di coloro che per via digitale governano il mondo ed i cittadini, gli abitatori della casa comune, sempre più ridotti a passivi utenti di servizi preconfezionati.

Più che etica, responsabilità personale

Come dimostrano l'enciclica Laudato si' e l'esortazione Laudate Deum, non è questa certo l'intenzione del Pontefice. Ma sarebbe interessante sapere per quali intrecci e disegni di potere vaticani il Santo Padre finisca per prestarsi a sostenere questo disegno.

Ritroviamo infatti l'algor-etica come snodo chiave nella lettera Intelligenza artificiale e pace.

“Uno sguardo umano e il desiderio di un futuro migliore per il nostro mondo portano alla necessità di un dialogo interdisciplinare finalizzato a uno sviluppo etico degli algoritmi -l’algor-etica-”.

Un conto è un benvenuto dialogo interdisciplinare: come afferma il Pontefice, “abbiamo perciò il dovere di allargare lo sguardo e di orientare la ricerca tecnico-scientifica al perseguimento della pace e del bene comune, al servizio dello sviluppo integrale dell’uomo e della comunità”.

Un conto è ridurre questa intenzione riconducendola allo “sviluppo etico degli algoritmi”.

Per dire che questa riduzione non è farina del sacco del Pontefice, credo basti citare un altro passaggio della lettera: “l’abilità di alcuni dispositivi nel produrre testi sintatticamente e semanticamente coerenti, ad esempio, non è garanzia di affidabilità. Si dice che possano 'allucinare', cioè generare affermazioni che a prima vista sembrano plausibili, ma che in realtà sono infondate o tradiscono pregiudizi”.

Mi chiedo e vi chiedo: vi sembrano queste parole di Papa Francesco? Ci interessa forse leggere in una sua lettera una qualche spiegazione dei limiti dei Foundation Model, dei Transformer, dei Large Language Model? Diciamolo allora semmai in parole semplici, adatte a tutti noi esseri umani abitatori di una casa comune: queste macchine forniscono a umane domande risposte sbagliate, erronee, infondate.

Chi ha scritto queste parole, che noi ci troviamo a leggere firmate dal Pontefice, vuol forse dire che l'algor-etica consiste nel collaborare con i costruttori di queste macchine per migliorare la qualità delle risposte?

Mi sembra convenga dire che l'etica è un attributo dell'essere umano, una caratteristica distintiva degli esseri umani, e che quindi in una macchina -anche nelle macchine che possono essere in base a un qualche criterio definite 'intelligenze artificiali'- potranno al massimo risiedere dati relativi ad atteggiamenti etici, e cioè tracce di atteggiamenti etici manifestati da esseri umani in momenti passati.

Non lasciamo che ‘etica’ sia trasformata -confondendola con un algoritmo- in una parola vuota.

Conviene considerare l'etica come qualcosa di ineffabile: ‘non esprimibile in parole’. L'etica può essere magari anche riassunta in principi, in valori. Ma resta ineludibile il fatto che l’etica esiste solo se la si pratica. Se se ne parla astratto, in modo distaccato dalla nostra personale e quotidiana vita, è perché non riusciamo a praticarla. Non c'è etica laddove si agisce eseguendo i dettami di una macchina.

Conviene quindi parlare di etica incarnata. Consiste in fondo nel vivere in carne propria, sulla propria pelle e allo stesso tempo nel proprio animo, la fatica di essere sé stessi - evitando di adattarci comodamente a ciò che altre persone decidono per noi.

E forse anche conviene evitare di usare la parola etica, e parlare invece di responsabilità. Responsabilità personale. Responsabilità personale di ogni abitante della casa comune, di ogni cittadino del pianeta, di ogni credente in ogni fede religiosa.

Leggiamo nella conclusione della lettera Intelligenza artificiale e pace l'auspicio di “modelli normativi che possano fornire una guida etica agli sviluppatori di tecnologie digitali”. Potranno essere d'aiuto, ma potranno anche essere fonte di comode elusioni ed alibi. Foglie di fico dietro cui vanamente nascondersi.

L'algor-etica si limita a ridipingere la facciata. Serve invece umiltà, senso del limite, saggezza, disponibilità alla conversione, consapevolezza di appartenere alla casa comune. Solo se il tecnologo sarà disposto a queste virtù la sua progettazione sarà rispettosa della natura, socialmente utile e costruttiva.

Leggiamo infatti nella stessa conclusione anche che “nei dibattiti sulla regolamentazione dell’intelligenza artificiale, si dovrebbe tenere conto della voce di tutte le parti interessate, compresi i poveri, gli emarginati”. Tutto sta nel dovrebbe. Il patto tra sacerdoti delle chiese adamitiche e sacerdoti digitali, però, non si fonda sull'ascolto e sulla partecipazione, si fonda purtroppo invece sulla presunzione degli 'esperti' di sapere già cosa è bene per ogni parte interessata, per i poveri e per gli emarginati.

Perciò, più che sperare che i progressi nello sviluppo di forme di intelligenza artificiale servano la causa della fraternità umana e della pace credo convenga ricordare che percorsi differenti di ricerca e sviluppo tecnologico sono possibili - evitando di considerare lo sviluppo delle cosiddette intelligenze artificiali che abbiamo sotto gli occhi l'unica, ormai ineluttabile via.

Sulla via della pace, certo le Chiese, e innanzitutto il Santo Padre, hanno qualcosa da dire. Ma più del cammino dell'algor-etica, più del cercar di educare ed accompagnare i tecnologi, più del proporre loro di accettare i rappresentanti delle Chiese nel consesso di coloro che scrivono il codice digitale che governa il mondo, sembrano adeguate le parole con le quali Papa Francesco conclude l'esortazione apostolica Laudate Deum: “un essere umano che pretende di sostituirsi a Dio diventa il peggior pericolo per sé stesso”.

Note:

1    Messaggio di Sua Santità Francesco per la LVII Giornata mondiale della Pace, Intelligenza artificiale e pace, 1° gennaio 2024. https://www.vatican.va/content/francesco/it/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html.

2   Lettera Enciclica Laudato si’ del Santo Padre Francesco Sulla cura della casa comune, 24 maggio 2015. https://www.vatican.va/content/francesco/it/encyclicals/documents/papa-francesco_20150524_enciclica-laudato-si.html

3   Esortazione Apostolica Laudate Deum del Santo Padre Francesco. A tutte le persone di buona volontà. Sulla crisi climatica, 4 ottobre 2023. https://www.vatican.va/content/francesco/it/apost_exhortations/documents/20231004-laudate-deum.html

4   https://www.romecall.org/ 

5    Discorso preparato dal Santo Padre Francesco per l'Incontro con i partecipanti alla plenaria della Pontificia Accademia per la Vita, letto da mons. Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, Sala Clementina, venerdì, 28 febbraio 2020. https://www.vatican.va/content/francesco/it/speeches/2020/february/documents/papa-francesco_20200228_accademia-perlavita.html

6   “Etica dell’intelligenza artificiale: l’impegno delle religioni abramitiche nella Rome Call”, Microsoft News, Gennaio 10, 2023, https://news.microsoft.com/it-it/2023/01/10/etica-dellintelligenza-artificiale-limpegno-delle-religioni-abramitiche-nella-rome-call/. https://diecichilidiperle.blogspot.com/2023/01/etica-dellintelligenza-artificiale-le.html.

7    Francesco Varanini, “La posizione del Vaticano di fronte all'Intelligenza Artificiale e la lezione della Lettera ai Filippesi”, Dieci Chili di Perle, 16 marzo 2021, https://diecichilidiperle.blogspot.com/2021/03/la-posizione-del-vaticano-di-fronte.html; seconda versione: Francesco Varanini, “Il piano del Vaticano per l’AI etica: basterà a ricordarci di restare umani?”, Agenda Digitale, 12 aprile 2021. https://www.agendadigitale.eu/cultura-digitale/il-piano-del-vaticano-per-lai-etica-bastera-a-ricordarci-di-restare-umani/. Francesco Varanini, “Etica dell'intelligenza artificiale. Le religioni abramitiche si accodano al Vaticano”, Dieci chili di perle, 15 gennaio 2023, https://diecichilidiperle.blogspot.com/2023/01/etica-dellintelligenza-artificiale-le.html

8    Discorso del Santo Padre Francesco ai Partecipanti Al Congresso "Child Dignity in the Digital World", Sala Clementina, giovedì, 14 novembre 2019. https://www.vatican.va/content/francesco/it/speeches/2019/november/documents/papa-francesco_20191114_convegno-child%20dignity.html

9    Francesco Varanini, “La posizione del Vaticano di fronte all'Intelligenza Artificiale e la lezione della Lettera ai Filippesi”, Dieci Chili di Perle, 16 marzo 2021, https://diecichilidiperle.blogspot.com/2021/03/la-posizione-del-vaticano-di-fronte.html. Francesco Varanini, “La pericolosa banalità dell'Algoretica e dell'Antronomia. Ovvero la pretesa di sostituire il 'computabile' all''umano'”, Dieci Chili di Perle, , 22 febbraio 2022. https://diecichilidiperle.blogspot.com/2022/02/la-pericolosa-banalita-dellalgoretica.html

10 Discorso preparato dal Santo Padre Francesco per l'Incontro con i partecipanti alla plenaria della Pontificia Accademia per la Vita, letto da mons. Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, Sala Clementina, venerdì, 28 febbraio 2020. https://www.vatican.va/content/francesco/it/speeches/2020/february/documents/papa-francesco_20200228_accademia-perlavita.html