Il rapporto
Artificial Intelligence Index 2021 della Stanford University, uscito all'inizio di marzo, segnala gli eventi più importanti dell'anno scorso nel campo dell'Intelligenza Artificiale. Tra questi cita i “five news topics that got the most attention in 2020”. Tra questi, “the Vatican’s AI ethics plan”, noto sotto il titolo
Rome Call for Ethics AI.
La figura che appare a fronte dell'iniziativa è monsignor Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, consigliere spirituale della Comunità di Sant'Egidio, ma la presenza papale è evidente: Venerdì, 28 febbraio 2020 Monsignor Paglia legge all'Assemblea Plenaria della Pontificia Accademia per la vita un discorso scritto da Papa Francesco (in quei giorni condizionato da problemi di salute). Si legge nel discorso del Papa: l'Intelligenza Artificiale porta “mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana”.
In quella occasione viene presentata la Rome Call for Ethics AI. Firmano -insieme al Vaticano, al Ministro per l’Innovazione Tecnologica del governo italiano e alla FAO- Microsoft e IBM.
Nuovi Concordati
Il diverso statuto giuridico dei firmatari spinge ad una riflessione che possiamo articolare in due punti.
Primo punto, non certo nuovo, è la sovrapposizione tra Stato indipendente, Stato del Vaticano, e vertice della Chiesa Cattolica. Secondo punto, più nuovo, che troviamo tra i firmatari, con pari dignità e con pari autorevolezza, insieme a stati nazionale, organismi sovranazionali, entità private come Microsoft e IBM.
I due punti spingono a ricordare quel particolare accordo, recepito del resto nella nostra stessa Costituzione, che è il Concordato.
Facile ricordare l'importanza storica mostrata da questo istituto giuridico nel Ventesimo Secolo: basta ricordare i casi, tra le due guerre, dell'Italia e della Germania. La legittimazione dello Stato del Vaticano a stabilire accordi si fonda sulla sovrapposizione tra Stato del Vaticano stesso e Chiesa Cattolica. Le pubbliche autorità di Italia e della Germania ammettono una sorta di doppia cittadinanza. Numerosi cittadini dei due stati sono allo stesso tempo anche membri della Chiesa. I membri, o fedeli, della Chiesa attribuiscono alla Chiesa stessa una autorità. Lo Stato Vaticano legittimato da questa autorità tratta da pari a pari con gli Stati nazionali e gli organismi internazionali.
Esistono forti analogie tra le fonti dell'autorità del Vaticano e le fonti dell'autorità di Microsoft, IBM, Google (dovremmo dire con più precisione la capogruppo Alphabet), Facebook, Amazon.
Queste imprese private possono trattare da pari a pari con gli Stati nazionali e con gli organismi internazionali in virtù della legittimazione attribuita loro dai propri utenti. Come e più dei membri di una Chiesa, gli utenti delle grandi case digitali sono assoggettati alle loro leggi. Come ben sappiamo una parte sempre più significativa della vita politica e civile si svolge nel quadro delle regole e degli spazi concessi dalle grandi case digitali. La loro sorveglianza ed il loro controllo sull'agire dei cittadini è più efficace e pressante della sorveglianza e del controllo che gli stati nazionali sono in grado di esercitare.
Dunque ci sono motivi per intendere la firma, un'anno fa, della Rome Call for Ethics AI come primo passo di un nuovo assetto del diritto internazionale. Il Vaticano, proponendo l'accordo, forte della propria storia, prepara il terreno per futuri concordati dove gli stati nazionali, federali o confederali, e l'Europa unita, nella sua duplice natura di riunione tra governi nazionali e di parlamento unico sovranazionale, gli stati tutti, insomma, si troveranno a dover stabilire accordi trattando da pari a pari con le nuove potenze private digitali.
Qualcuno propone l'analogia tra le grandi case digitali e le Compagnie dell'epoca dell'Imperialismo. Ma c'è una grande differenza. Le Compagnie erano entità private come le grandi case digitali, ma agivano su concessione degli stati nazionali. La concessione alla Compagnia delle Indie fu infatti revocata nel 1800 dal governo inglese. La forza delle grandi case digitali sta nell'aver acquisito potere a prescindere da qualsiasi concessione. Le grandi case digitali, anzi, hanno creato un nuovo terreno di azione, solo a loro veramente noto, e da loro controllato, sono dunque loro nella situazione di concedere agli stessi stati nazionali spazi di azione.
Il potere delle grandi case digitali è dunque evidente nel presente nel governo delle piattaforme e nelle resti sociali: luoghi di vita per i cittadini; è evidente nell'appropriazione di beni comuni: i dati; è evidente nel concetto stesso di cloud: il luogo da dove si esercita il potere è ubiquo e fuori dal pubblico controllo. Ma l'attenzione dello Stato Vaticano, con motivo, va oltre, e guarda alla scena emergente sulla quale si va manifestando in modo più pesante il controllo sulle vite degli esseri umani. Il Vaticano guarda all'Intelligenza Artificiale.
Rome Call for Ethics AI
Passiamo dunque ad osservare cosa nella Rome Call for Ethics AI è stato concordato.
Per leggere senza fraintendimenti il documento, è necessario innanzitutto ricordare il senso dell'espressione Intelligenza Artificiale, Artificial Intelligence, AI. La storia stessa dell'Intelligenza Artificiale è resa irrilevante da un dato di fatto. Intelligenza Artificiale è oggi un termine ombrello teso a colpire e ammonire l'opinione pubblica. Filoni di ricerca diversissimi, ed anche in contraddizione tra di loro, sono confluiti sotto il termine ombrello. Ciò che accomuna i diversi campi di ricerca, e che a ragione inquieta le autorità vaticane, è lo scopo dei progetti: sostituire l'essere umano con macchine. Si può naturalmente disquisire all'infinito sulle modalità e sulla misura di questa sostituzione. Si può parlare di accompagnamento dell'umano, si può discettare di convivenza, interfacciamento, simbiosi tra uomo e macchina. Ma non si può ignorare la presenza dei progetti, i loro successi, l'enorme quantità di investimenti che i progetti raccolgono.
Meschina appare l'opinione di chi si consola rinviando nel tempo la questione, considerando che gli effetti più perversi si manifesteranno solo in tempi futuri. Ingenuo e disinformato chi minimizza.
Le autorità vaticane, giustamente, invitano ad occuparsene oggi. Perché, come si legge nel documento, è in gioco “il modo in cui percepiamo la realtà e la stessa natura umana”.
Il Vaticano, facciata istituzionale della Chiesa Cattolica, si pone come difensore dei diritti degli esseri umani di fronte alla minaccia esistenziale implicita in “tecnologie che si comportano come attori razionali ma non sono in alcun modo umani”.
Ripitturare la facciata con nuovi paroloni
Peccato che l'appello non contenga niente di nuovo, e si limiti a ripetere ciò che gli stessi attori impegnati nello sviluppo di Intelligenze Artificiali hanno, sulla carta, concordato, e scritto in ormai numerosi manifesti e lettere d'impegno.
Non si pone minimamente in discussione la corsa del progresso.
La Chiesa si adegua al mondo. Come vogliono le grandi case digitali l'Intelligenza Artificiale dovrà essere robusta. In aggiunta, si concede, dovrà è essere anche benefica. Facile e comodo ripetere che “gli esseri umani e la natura” dovranno essere “al centro dello sviluppo dell'innovazione digitale”.
Facile anche affermare che gli esseri umani dovranno essere “supportati e non sostituiti” dalle Intelligenze Artificiali.
Solennemente si afferma che “affinché il progresso tecnologico si allinei con il vero progresso della razza umana e con il rispetto del pianeta, deve soddisfare tre requisiti. Deve includere ogni essere umano, senza discriminare nessuno; deve avere a cuore il bene dell'umanità e il bene di ogni essere umano; infine, deve essere consapevole della complessa realtà del nostro ecosistema”.
“
Avere a cuore il bene dell'umanità e il bene di ogni essere umano”. Possiamo notare come nella Call si ripetano alla lettera le Tre Leggi della Robotica formulate nel 1940, sintetizzate dieci anni dopo nella Legge Zero dallo scrittore di fantascienza, e scienziato, Isaac Asimov: “Un robot non può recar danno all’umanità e non può permettere che, a causa di un suo mancato intervento, l’umanità riceva danno”. In più c'è solo il riferimento all'ecosistema.
Ora, le leggi di Asimov sono ancora un riferimento affascinante e preciso. Però, anche se vorremmo che bastassero, hanno almeno tre punti deboli.
Il primo consiste nell'universalismo: si dà per scontato che esista un'etica universale, indipendente dalle culture e dalla storia. Qui sta l'aspetto forse più insidioso del patto che la Chiesa propone ai fabbricanti di Intelligenze Artificiali: noi massimi portatori dei valori universali dell'umanità, vi legittimiamo nella vostra pretesa, o speranza, di inserire questi valori negli algoritmi.
Il secondo è che si resta nelle mani dei tecnici che programmano il codice: il cittadino non ha modo di controllare, non esiste difesa di fronte ad un tecnico malevolo.
Il terzo è che nel momento in cui si accetta l'esistenza di “attori razionali in alcun modo umani”, si deve accettare di conseguenza la possibilità che questi attori, Intelligenze Artificiali divenute autonome, possano divenire in grado di andare oltre le stesse regole imposte loro dai tecnici che le hanno progettate.
Resta dunque aperto un doppio ordine di interrogativi.
Osserviamo come nella Call si guarda al primo punto: si dice che è diritto di ogni persona essere messa in grado di sapere se sta interagendo con una macchina o con un essere umano (“must be aware when he or she is interacting with a machine”). Santa ipocrisia! Tra i firmatari c'è Microsoft, finanziatore di Open AI, impresa leader nel campo delle ricerche AI più avanzate. Open AI è al centro all'attenzione per aver sviluppato GPT-3, linguaggio la cui caratteristica è proprio rendere indistinguibile agli esseri umani se a parlare loro è una macchina o un essere umano.
Quanto al secondo punto, si sceglie di non affrontarlo. Siccome la corsa al progresso non è messa in discussione, il rischio esistenziale dovrà essere accettato. Anche nel lungo periodo, la speranza resta affidata ai “valori e principi che saremo capaci di instillare nell'AI”. Saremo in grado: l'appello non chiama in causa gli esseri umani: cittadini, membri della Chiesa: ci si limita a chiamare in causa in causa gli imprenditori, i manager, i tecnici impegnati nel settore digitale.
Caratteristico dell'appello vaticano è il ricorrente uso -a partire dal titolo- della parola etica.
Si parla di “integrità etica della razza umana”. Che però appare esclusivamente affidata “impegno etico di tutti gli attori coinvolti” dell'industria digitale.
Non aggiunge nulla l'uso del neologismo: algor-ethics. Che anzi sancisce che tutto dipende dagli addetti ai lavori. I cittadini ed i fedeli non sono che sudditi o utenti. “I promotori dell'appello esprimono il loro desiderio di lavorare insieme, in questo contesto e a livello nazionale e internazionale, per promuovere 'l'algor-etica'”. “Dobbiamo partire fin dall'inizio dello sviluppo di ogni algoritmo con una visione 'algor-etica', cioè un approccio di etica per progettazione”.
La voce di Papa Francesco
Faremmo torto alle buone intenzioni dell'iniziativa, se non guardassimo, oltre che al testo della Call, al discorso del Papa che la promuove e la celebra.
Anzi, è giusto ricordare quanto il Papa afferma nell'Enciclica Laudato si'. “Il paradigma tecnocratico tende ad esercitare il proprio dominio” (109). “Di fatto la tecnica ha una tendenza a far sì che nulla rimanga fuori dalla sua ferrea logica” (108). “Non possiamo ignorare che l’energia nucleare, la biotecnologia, l’informatica, la conoscenza del nostro stesso DNA e altre potenzialità che abbiamo acquisito ci offrono un tremendo potere. (…) È terribilmente rischioso che esso risieda in una piccola parte dell’umanità” (104).
Si coglie un richiamo a queste affermazioni nel discorso papale che motiva la Call: “la profondità e l’accelerazione delle trasformazioni dell’era digitale sollevano inattese problematiche, che impongono nuove condizioni all’ethos individuale e collettivo”. “'L'Intelligenza Artificiale' (…) induce mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana, che è nostro impegno tutelare e promuovere, non solo nella sua costitutiva dimensione biologica, ma anche nella sua irriducibile qualità biografica”.
“Esiste una dimensione politica nella produzione e nell’uso della cosiddetta 'Intelligenza Artificiale', che non riguarda solo la distribuzione dei suoi vantaggi individuali e astrattamente funzionali”. “In altri termini: non basta semplicemente affidarci alla sensibilità morale di chi fa ricerca e progetta dispositivi e algoritmi; occorre invece creare corpi sociali intermedi che assicurino rappresentanza alla sensibilità etica degli utilizzatori e degli educatori”.
La consapevolezza della tremenda potenza e della dimensione politica, però, per il momento si traduce in un povero frutto: l'algor-etica, appunto. Un appello alle “competenze che intervengono nel processo di elaborazione degli apparati tecnologici”, una chiamata loro rivolta, tesa ad “assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nostra era”. Così il Santo Padre, nel mentre afferma che “non basta semplicemente affidarci alla sensibilità morale di chi fa ricerca e progetta dispositivi e algoritmi”, si presta a considerare significativo passo avanti un patto con chi fa ricerca e progetta dispositivi e algoritmi.
L'algor-etica, dice, “potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali”. Si fonda così l'accordo i nuovi potentati della scena digitale; l'intenzione di
e lavorare insieme con loro espressa nella Call. “L’'algor-etica' potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali”, dice il Papa, anticipando e legittimando il testo della Call.
Realpolitik
Quali sono i principi che il Papa desidera si inscrivano concretamente nelle tecnologie digitali, possiamo chiederci. Quali sono valori e principi che, come si legge nella Call, dovranno essere insillatati in ogni Intelligenza Artificiale? Papa Francesco dice: “i principi della Dottrina Sociale della Chiesa offrono un contributo decisivo: dignità della persona, giustizia, sussidiarietà e solidarietà”.
Il riferimento alla Dottrina Sociale della Chiesa finisce per essere generico. Papa Francesco ritiene sia terribilmente rischioso che potenza implicita nell'Intelligenza Artificiale risieda in una piccola parte dell’umanità. Ma il monito papale finisce per trovare povera traduzione proprio in concordato con questi nuovi potentati.
La Rome Call for Ethics AI è un appello. L'aspetto cruciale dell'approccio vaticano sta nel non rivolgersi agli esseri umani tutti, ai cittadini del pianeta, ma ai nuovi potenti della terra. Il Vaticano, prima e più dei governi nazionali e degli organismi internazionali, chiama in causa le imprese e i tecnici impegnati nello sviluppo di “sistemi di IA”. La Chiesa, come madre che ha a cuore i suoi figli, chiama i nuovi potenti a condividere il ruolo di guida e di protettore.
Come testimonia l'apprezzamento da parte della Stanford University, l'iniziativa vaticana finisce per essere una legittimazione, quasi una santificazione delle imprese e i tecnici impegnati nello sviluppo di “sistemi di IA”, cui è concessa la patente di disseminatori di 'algor-etica'.
Naturalmente, le imprese e i tecnici impegnati nello sviluppo di “sistemi di IA”, intendono l''algor-etica' a modo loro. La intendono come una ripetizione di ciò che già hanno sottoscritto in diversi manifesti. L'IA dovrà essere sviluppata alla luce generici e non impegnativi principi: trasparenza, inclusione, responsabilità, imparzialità, affidabilità, sicurezza e privacy. Principi affidati all'insindacabile cura degli addetti ai lavori. Questi sono i banali principi affermati nella Call, i principi che alla fine il Vaticano sottoscrive. Qualcosa di un po' diverso dai “principi della Dottrina Sociale della Chiesa”. Qualcosa di diverso da ciò che si leggi nell'enciclica Laudato si'. E ancor più. qualcosa di diverso da ciò che possiamo leggere nel Nuovo Testamento.
Il Vaticano per ora si contenta di proporre una nuova vaga parola, interpretabile a proprio piacimento. Ottenendo il risultato di vedersi accolto nell'empireo di coloro che governano lo sviluppo dell'Intelligenza Artificiale.
Assumere la condizione di essere umano
Così purtroppo la montagna vaticana partorisce il topolino. Eppure se teniamo presenti la tradizione cristiana e la Parola di cui la Chiesa è custode, ed anche se prendiamo spunto, come visto, dall'enciclica Laudato si', siamo stimolati a letture molto più profonde e impegnative.
Per non entrare in dispute teologiche, dottrinali e pastorali, mi limito a citare di passaggio la parabola del Grande Inquisitore narrata da Dostoevskij. Il Grande Inquisitore, austero esponente della Chiesa, inveisce contro il Cristo, misteriosamente riapparso. Perché sei venuto a disturbarci?
L'élite che regge il mondo si considera investita di una sacra missione; ha buon gioco a sostenere che il popolo, vittima delle proprie paure e della propria ignoranza non può capire. Il popolo deve essere governato con messaggi consolatori e rassicuranti. In modo da non disturbare gli 'addetti ai lavori', gli esperti, i professionisti, l'élite, la classe politica.
Nell'Era Digitale questa distanza raggiunge la massima misura. I tecnici digitali, nuova avanguardia dell'élite, lavorano nei loro laboratori, sempre più lontani dai cittadini. Lontanissimi dai cittadini sono i tecnici che lavorano allo sviluppo di diverse forme di Intelligenza Artificiale. Lontanissimi da i lavoratori dei magazzini e dai consumatori sono i tecnici che scrivono gli algoritmi che governano il funzionamento della gran macchina di Amazon.
Lontanissimi dai comuni esseri umani sono gli 'esperti' -ricercatori tecnico-scientifici e manager dei potentati digitali- che si impegnano a insufflare un'etica negli algoritmi. Anche dando per scontato che possa esistere una universale definizione dell'etica -cosa che appare indimostrabile- l'etica è affidata al buon senso ed al buon cuore dei tecnici. Ora il Vaticano si candida a partecipare a questa insufflazione. Il Vaticano offre anche alla comunità professionale degli esperti una nuova parola: algor-etica. Ma ben poco c'è dietro la parola. I tecnici vanno per la loro strada, e i preoccupati interrogativi posti nell'enciclica Laudato si' restano lettera morta.
Paolo, nella Lettera ai Filippesi, indica un altro ben più impegnativo, radicale percorso.
Il tecnico digitale, chi scrive algoritmi, disponendo di strumenti preclusi agli altri esseri umani, si trova ad essere oggi nelle condizioni di un dio che crea e governa il mondo. Nel versetto 2, 7 leggiamo: Cristo, lui che gode della condizione divina, se ne è spogliato, facendo propria la condizione umana; si è fatto riconoscere dagli esseri umani come essere umano.
Spogliarsi dei propri privilegi. Svuotarsi del proprio potere. Guardare il mondo, la vita, i frutti stessi del proprio lavoro, con la saggezza dell'essere umano. Qualcosa di ben diverso dal comodo impegno ad insufflare principi etici negli algoritmi.
Kènosis, la parola greca che indica questo atteggiamento, descrive un percorso di conversione doloroso: chiama alla rinuncia alle sicurezze e le certezze che il tecnico, nel corso della sua carriera, si costruisce. Ma solo attraverso questa conversione, chi lavora nel campo dell'Intelligenza Artificiale, potrà cogliere il senso di ciò che sta facendo.
