venerdì 26 novembre 2021

Sempre a proposito di critica politica del digitale. I mezzi e i luoghi del nuovo potere

Non dobbiamo farci trarre in inganno. Una comune narrazione porta a considerare luoghi critici della politica digitale i bit e il cloud.

Ma guardando a questi concetti, abbagliati dalla loro apparenza, dalla patina esoterica delle parole nuove, restiamo lontani dall'avvicinarci all'intendere la base materiale del potere esercitato per via digitale.

I bit sono solo uno degli aspetti del codice. Possiamo smascherare l'apparente significato politico del bit attraverso lo studio del codice. Il codice va osservato come sovrapposizione di tre aspetti: supporto, linguaggio, testo. Il bit non è altro che scrittura sul supporto. Guardando al bit non cogliamo il luogo dove si esercita il potere digitale, consistente nella sottrazione all'essere umano dei frutti del proprio lavoro e della propria conoscenza.

Il cloud nasconde, dietro la sua così ben propagandata apparenza volatile, aerea, il luogo fisico. Il cloud è una architettura la cui base materiale è la Server Farm (o Data Center). Enormi magazzini di conoscenze prodotte da esseri umani, ben presenti sulla Terra, ma cancellate dalle mappe. Nella Server Farm ronzano, perpetuamente accese, macchine fisiche e supporti di memoria fisici, detenuti da Padroni del Digitale. Cloud, espressione nuova, nasconde la realtà politica del Mainframe, la macchina 'centrale' che tutto contiene, o della rete Client/Server. Dove il Server, macchina padrona, contiene tutto e determina tutto. Mentre la macchina nelle mani dell'essere umano è progressivamente svuotata e svilita.

Conosciamo praticabili alternative politiche all'architettura Client/Server. La più radicale è il Peer-to-Peer. Non è utopia: un progetto politico da considerare è Bitcoin-Blockchain.

Il bit è uno strato impolitico. Il cloud è una apparenza venduta all'utente. La comunemente accettata idea di dematerializzazione nasconde un inganno: in ogni architettura digitale resta presente la base materiale, nascosta però al cittadino ridotto a utente.

I luoghi politici a cui conviene guardare per una critica della politica digitale non sono il bit ed il cloud. Sono il dato e la piattaforma. Al di là delle parole, spiego cosa intendo.

I dati sono conoscenze frammentate, impoverite, separate dalla fonte e oggetto di appropriazione da parte dei Nuovi Padroni Digitali. Solo studiando i dati -la loro voluta frammentazione, la loro conservazione, il loro uso- possiamo indagare sul processo -politico ed economico- di sottrazione all'essere umano dei frutti del proprio lavoro e della propria conoscenza.

Le piattaforme sono istituzioni totali, artificiali, sostitutive dei luoghi sociali e terreni, di proprietà privata -una proprietà che sfugge al controllo pubblico degli Stati e degli organismi internazionali- capaci di propria produzione normativa e di controllo sociale. Dietro ogni piattaforma sta una Server Farm proprietaria, occultata agli sguardi non solo dei cittadini ma anche di ogni organismo di controllo pubblico.

Sulle piattaforme i cittadini sono ridotti a utenti di servizi preconfezionati. Servizi che occultano uno scopo implicito: sottrarre -sotto forma di dato- ciò che è frutto del lavoro e del pensiero umano.

(Parlo di piattaforme in vari altri luoghi. Tra cui questo).

lunedì 8 novembre 2021

Zuck colpisce ancora

Giovedì 16 febbraio 2017 David Zuckenberg pubblica su Facebook un lungo post dal titolo Building Global Community. Più che il Discorso dell'Unione di un Capo di Stato, è l'enciclica, la lettera pastorale del Papa di un Chiesa Universale. 

Nel testo, la parola infrastructure appare alla quinta riga, e poi altre ventiquattro volte. "In tempi come questi, la cosa più importante che noi di Facebook possiamo fare è sviluppare l'infrastruttura sociale per dare alle persone il potere di costruire una comunità globale che funzioni per tutti noi".

L'Infrastracture è definita con impegnativi aggettivi: social, meaningful, global. Altrettanto impegnativi gli aggettivi usati per definire le Communities nelle quali gli esseri umani meriterebbero di vivere: supportive, safe, informed, civically-engaged, inclusive.

Alla fine, salutando i lettori con il solo nome, Mark, senza cognome, come un vero Papa, Zuckenberg ringrazia: "Thank you for being part of this community". Possiamo leggere: Thank you for il vostro vivere dentro Facebook, The Infrastructure.

Zuckenberg, giovanotto viziato, reso delirante dal potere, rivolgendosi ad ogni essere umano, arrogandosi il diritto di  parlare a nome di ognuno di noi, chiama a partecipare alla costruzione dell'Infrastructure, "il mondo che vogliamo per le generazioni che verranno”. (1)1

Fingendo di dimenticare che Facebook è piattaforma già costruita, alla cui costruzione nessuno di noi può partecipare; un luogo dove il cittadino è ridotto a utente.

La possibilità, offerta ad ognuno, di caricare su Facebook i propri materiali non è, come potrebbe apparire a prima vista, un’apertura alla partecipazione e alla condivisione dei saperi. Il knowledge di cui ogni essere umano è autore è ridotto a content, cosa che è costretta dentro, rinchiusa, forzata nei confini di una Infrastructure già costruita. E in base a regole opache, ed in ogni caso imposte d'autorità, Zuckerberg ha deciso che quel knowledge non è più dell’essere umano che l’ha prodotto, ma suo. Come anche la storia di vita del cittadino: ogni gesto, ogni parola diviene un dato che Zuck userà come gli pare.

La nuova terra promessa del Metaverso

Facebook instupidisce, ma non tutto è perduto se i cittadini reagiscono ancora, e mostrano segni di disaffezione per Facebook e per le mirabolanti promesse di nuova democrazia del giovanotto. Ma ecco che allora, all’inizio dell’estate 2021, Zuckerberg, vista la mala parata, rincara la dose, lanciando il progetto del Metaverse.

Se siete stufi di Facebook, ecco la nuova terra promessa: un mondo virtuale, una realtà aumentata dove sarà possibile “sperimentare un senso di presenza molto più forte” di quello offerto da social network e piattaforme. Un mondo “più naturale”, “più confortevole”.

"Quello che mi entusiasma è aiutare le persone a sperimentare un senso di presenza molto più forte" di quello offerto oggi da social network e piattaforme. "Le interazioni che avremo saranno molto più ricche". In futuro, invece di limitarti a telefonarmi, "potrai sederti come ologramma sul mio divano"; "e sembrerà davvero di nello stesso posto, insieme”, "anche se ci si trova in stati diversi o a centinaia di chilometri di distanza". (2)2

La novità è ufficialmente sancita il 28 ottobre 2021in una nuova lettera enciclica, rivolta al popolo del pianeta dal Sovrano Illuminato. (3)3

Ora Zuckerberg non offre solo spazi di libertà, luoghi di incontro mediati dalla scrittura e dalla lettura dei poveri post di Facebook e di WhatsApp, delle immagini e dai video di Instagram. Ora offre, molto modestamente, un nuovo mondo e una nuova vita.

“Nel Metaverso, sarai in grado di fare quasi tutto ciò che puoi immaginare: stare insieme ad amici e familiari, lavorare, imparare, giocare, fare acquisti, creare, nonché vivere esperienze completamente nuove”. “Sarai in grado di teletrasportarti istantaneamente come un ologramma per essere in ufficio senza fare il pendolare, a un concerto con gli amici o nel soggiorno dei tuoi genitori”. “Sarai in grado di dedicare più tempo a ciò che conta per te, ridurre il tempo nel traffico e ridurre la tua impronta di carbonio”. (5)4

E aggiunge: "Non costruiamo servizi per fare soldi; facciamo soldi per costruire servizi migliori". Come ogni narciso prigioniero del proprio ego, cita qui se stesso: ci ricorda che aveva pronunciato questa frase nel 2012, invitando gli investitori a comprare azioni Facebook. (5)5 Ora invita ad investire in Meta.

La forza di Zuckerberg sono i suoi seguaci

Non so se qualcuno riuscirà a fermarlo. Vedo un problema.

Nel 2017 si era diffusa la voce che Mark Zuckerberg si preparasse a candidarsi, nel 2020, come presidente degli Stati Uniti. Non era vero. Zuck non ne aveva bisogno. Ci sono motivi per sostenere che il suo potere asimmetrico di padrone di piattaforme sulle quali i cittadini del pianeta sono costretti a vivere è più grande del potere del presidente americano.

Il problema è che conosco diversi esperti, profeti della Digital Transformation, Innovation Manager, Business Designer, Business Futurist: loro considerano davvero Zuckerberg il Presidente, la guida che apre la strada. La forza di Zuckerberg sta in questi seguaci – che con lui in questi giorni si leccano i baffi pensando ai nuovi guadagni che potranno conseguire attraverso una gabbia imposta ai cittadini, un falso mondo, ben più pericoloso di Facebook.

1Mark Zuckerberg, “Building Global Community”, https://www.facebook.com/ notes/mark-zuckerberg/building-global-community/10103508221158471/.

2Casey Newton, "Mark in the Metaverse. Facebook’s CEO on why the social network is becoming ‘a metaverse company’", The Verge, Jul 22, 2021: https://www.theverge.com/22588022/mark-zuckerberg-facebook-ceo-metaverse-interview.

3Mark Zuckerberg, Meta Founder’s Letter, 2021, October 28, 2021, https://about.fb.com/news/2021/10/founders-letter/

4Ibid.

5Matt Rosoff, “Mark Zuckerberg's Letter To Facebook Investors”, Insider, Feb 1, 2012. https://www.facebook.com/businessinsider/posts/we-dont-build-services-to-make-money-we-make-money-to-build-better-services/10152583593614071/

Articolo apparso su Parole di Management l'8 novembre 2021.

mercoledì 27 ottobre 2021

Realtà Aumentata come distruzione sociale

 Ricordo un incontro a cui ho partecipato durante il distanziamento obbligatorio causato dal virus. Incontro online, ovviamente. Tra i partecipanti, docenti universitari, persone convinte del proprio ruolo e della propria autorevolezza - in realtà per le prime volte esposte alla novità della connessione via piattaforma digitale.

Uno di loro si rivolge all'organizzatore, un imprenditore, e gli dice: 'Apprezzo l'organizzazione dell'incontro in questo momento difficile, è bello trovarci qui insieme nonostante il difficile momento. Peccato però che la relazione tra di noi sia penalizzata dalla povertà del mezzo. Auspico una futura situazione in cui possiamo trovarci insieme in modo più empatico, caldo'. Pensavo questo autorevole personaggio pensasse ad un incontro dal vivo, presenti insieme in carne ed ossa. Ma no, mi accorsi che si trattava di un invito all'organizzatore, affinché una prossima volta convocasse l'incontro su una piattaforma più performante, dove ognuno di noi fosse presente tramite un proprio avatar, un simulacro digitale, una apparenza tridimensionale. Forse aveva letto la pubblicità di una di quelle soluzioni tecnologiche e promette di creare mondi in cui interagire e comunicare, vivendo 'esperienze immersive molto simili a quelle della vita reale; ma migliori, più intense, delle esperienze della vita reale'.

Più comodo, più naturale, più reale

Ed ecco che verso la fine del giugno 2021, quando ormai la necessità di incontrarsi online viene meno, e torniamo in ogni luogo del pianeta ad incontrarci dio persona, tempestivo scende in campo Mark Zuckerberg.

Facebook è ormai lontana dai tassi di crescita vorticosa di anni precedenti, nuovi social network appaiono sulla scena, non bastano le sinergie con Instagram e WhatsApp, emergono problemi di privacy e l'opinione pubblica si fa più critica sui temi della privacy. Così, all'inizio dell'estate, Zackerberg lancia il suo Metaverse. Se si è stufi di Facebook, se si considera troppo povera l'interazione offerta dalle piattaforme di videoteleconferenza, ecco la nuova terra promessa: il Metaverse.

Dopo le tante riunioni di lavoro nell'ultimo anno, "faccio fatica a ricordare in quale incontro qualcuno ha detto qualcosa, perché le persone sembrano tutte uguali e si fondono tutte insieme". "Quello che mi entusiasma", afferma sorridente Zuckerberg, "è aiutare le persone a sperimentare un senso di presenza [sense of presence] molto più forte" di quello offerto da social network e piattaforme. Ed anche, aggiunge, "più naturale", "più comodo [comfortable]". "Le interazioni che avremo saranno molto più ricche, sembreranno reali [they’ll feel real]". In futuro, invece di limitarti a telefonarmi, "potrai sederti come ologramma sul mio divano"; "and it’ll actually feel like we’re in the same place", sembrerà davvero di nello stesso posto, "anche se ci si trova in stati diversi o a centinaia di chilometri di distanza".1

Così, conclude Zuckerberg, “mi aspetto che nel giro di cinque anni le persone ci vedranno non come un’azienda di social media, ma come una compagnia del metaverso”. Nel mentre lo descrive come un 'Internet incarnato', Zuckerberg annuncia che stanzierà 50 milioni di dollari per il suo sviluppo.

Quello che mi colpì di quel professore fu la superficialità, l'accondiscendenza con cui tutto ciò che viene presentato come innovazione: la soluzione di ogni problema affidata alla tecnologia; il dire: non si può tornare indietro: adottata una tecnologia, l'unica possibilità è passare ad una più potente. La tecnologia come imbuto nel quale va incanalata la vita. La realtà ridotta a simulazione.

Quello che mi colpisce di Zuckerberg è il cinismo. Il suo approfittare del momento, della contingenza. C'è certamente l'abilità imprenditoriale. C'è la capacità di approfittare di una esperienza da tutti diffusa: l'insoddisfazione per la qualità delle interazioni permesse dalle piattaforme usate nel tempo del distanziamento sociale obbligatorio.

Ma sgomenta l'imposizione di un disegno politico e sociale. La pretesa di sostenere di conoscere cosa è bene per i cittadini del pianeta. E la confusione tra cosa è bene per i cittadini e cosa è bene -ovvero: utile- per lo stesso Zuckerberg. Aggiungo che, ovviamente, Zuckerberg non è che il campione, l'esponente esemplare di una generazione di imprenditori, o come molti amano definirsi: business designer. Il che nei tempi digitali vuol dire: disegnatori di mondi nei quali non loro, ma ogni altro essere umano, dovrà vivere.

Realtà Virtuale, Realtà Aumentata

So bene che tecnici e studiosi del settore saliti in cattedra a cavillare sono pronti con la matita blu: Virtual Reality non deve essere confusa con Simulated Reality e Augmented Reality.

Ma vi invito a lasciar perdere queste sottigliezze: infatti, senza farsi tanti problemi, Zuckerberg parla di sense of presence senza definire il concetto, parla di genericamente di qualcosa che appare naturale, che sembra reale. E mette insieme senza minimamente preoccuparsi di distinguerle, Realtà Virtuale e Realtà Aumentata.

Ma va sottolineata una differenza. La Realtà Virtuale è una realtà non fisicamente esistente ma fatta apparire via software; un mondo artificialmente costruito, nel quale il cittadino ed il consumatore sono invitati ad entrare. La Realtà Aumentata, invece, è una contaminazione, una corruzione della realtà quotidianamente, socialmente, liberamente vissuta dagli esseri umani.

Vivo le mie esperienze quotidiane, ma ora non sono più libero di viverle come persona libera. Sono costretto a viverla tramite la mediazione di un software, di un qualche algoritmo costruito da un tecnico.

Bastano due esempi.

Il primo. Sono per strada e uso Google Map. Inizialmente il supporto di Realtà Aumentata mi appare un supporto a muovermi più efficacemente, in base alle mie scelte. Ma presto lo strumento nelle mie mani si trasforma in uno strumento che tramite gentili spinte mi induce a muovermi in certi modi, e ad osservare in mondo in una maniera che è frutto di un progetto altrui, e I miei desideri, i miei sogni, le mie scelte di utilità sono messe in secondo piano, svilite o censurate.

Si deve poi aggiungere che la Realtà che si presenta come semplice 'aumento' dello stato del mondo, finisce poi per prendere il sopravvento: crediamo di muoverci nello spazio della nostra città, e invece ci muoviamo dentro la rappresentazione di quello spazio costruita dai tecnici di Google. Accade già a noi quello che accadrà in ogni caso all'auto a guida autonoma: visto che guardiamo la mappa di Google e non il terreno che abbiamo intorno, se c'è una buca nella strada questa dovrà essere registrata sulla mappa digitale, di proprietà di Google. C'è qui, anche, un significativo risvolto politico: ciò che è un bene pubblico, in virtù della Realtà Aumentata, finisce per divenire privato.

Il secondo. Sono in un museo. Mi nutro della bellezza che ho intorno. Scelgo quale quadro guardare, e come. Scelgo il percorso. Scelgo dove e quando fermarmi, quando sedermi, in base a considerazioni estetiche e anche a privatissime sensazioni, come la stanchezza del momento, o a considerazioni legate al tempo a disposizione. Certo, posso anche seguire i suggerimenti di una guida, una persona in carne ed ossa, un essere umano con il quale interagire. I supporti di Realtà Aumentata, invece, allontanano il mio sguardo dal presente. Mi trasportano in un museo lontano dal qui ed ora; reimmaginato da un qualche esperto.

Infine, il tour così guidato porta sottilmente a pensare che tanto vale non essere fisicamente in quel luogo. La visita virtuale è meno faticosa. Sarò così sicuro di aver visto le opere che l'esperto considera importanti. La funzione educativa, esperienziale, della visita al museo, la mia crescita personale alla luce del bello che io stesso scopro, viene meno.

Due tipi di occhiali

L'ultimo prodotto uscito dai Facebook Reality Labs, all'inzio del settembre 2021, l'ultima trovata commerciale legata alla nuova strategia di Facebook coinvolge anche una grande impresa italiana, Luxottica. Occhiali con il brand Ray Ban.



Ray-Ban Stories: si afferma nella promozione: puoi catturare istantaneamente qualsiasi momento

"occhiali che ti offrono un modo autentico [authentic way] per catturare foto e video, condividere le tue avventure e ascoltare musica o rispondere alle telefonate - così puoi rimanere presente con gli amici, la famiglia e il mondo intorno a te".2

In occasione del lancio di questi smart glasses, il capo dei Facebook Reality Labs (FRL), Andrew "Boz" Bosworth, incontra, in un nuovo episodio del podcast Boz to the Future, Rocco Basilico, Chief Wearables Officer di EssilorLuxottica. I due, entusiasti, concordano: "Le persone smart devono indossare gli smart glasses!".

Ma il senso dell'operazione lo si legge a chiare lettere nella sintesi del podcast: "I Ray-Ban Stories segnano un'importante pietra miliare sulla strada verso gli occhiali AR [Augmented Reality], e il loro uso oggi è coerente con i casi d'uso che ci aspettiamo di vedere in futuro".3

Ovvero: la nostra strategia consiste nel dotare i cittadini di strumenti tesi a pilotare il loro modo di fare esperienza.

La tecnologia non è mai veramente nuova. Si tende a intendere la storia della tecnologia come una freccia tesa verso il futuro: progresso, innovazione come allontanamento dal passato. Ma potremmo invece ben leggere la storia della tecnologia come ciclico ritorno su progetti e linee di sviluppo. Guardate questa immagine:



Non vediamo qui un essere umano nascosto dietro occhiali scuri alla moda; non vediamo qui un essere umano pigro e dipendente, tenuto sveglio dagli effetti speciali di un accattivante Metaverso. Vediamo un essere umano orgoglioso del proprio pensiero, consapevole dei propri limiti, ma anche convinto del proprio discernimento.

Nel settembre 1945 Vannevar Bush, finissimo tecnologo, ripubblica sulla rivista Life l'articolo As We May Think, uscito su The Atlantic in luglio. Tra le illustrazioni che accompagnano l'articolo, questa, che campeggia sopra il titolo, è la più chiara e significativa.4

Possiamo ben immaginare quella telecamera integrata negli occhiali. Ma ecco la differenza tra gli occhiali di Bush e gli occhiali di Boz" Bosworth e Basilico. Ed ecco la differenza tra il computer come lo intendeva Bush e come lo intende Zuckerberg.

Bush intende il computer, e le sue periferiche, come strumenti al servizio dell'essere umano che liberamente, e sempre più profondamente ed originalmente pensa. Esseri umani che come Galileo conoscono il mondo, sperimentano, fanno esperienza. Occhiali come il cannocchiale di Galileo. Il supporto della macchina permette una esperienza più ricca. Bush immaginava che l'essere umano supportato dalla macchina sarebbe stato in grado di tenere traccia delle proprie esperienze, fonderle tra di loro, sommarle con conoscenze altrui. Immaginava che le conoscenze restassero bagaglio della persona, libera di scegliere come condividerle.

Dalle intuizioni di Vannevar Bush discende il World Wide Web, inteso come luogo di produzione sociale di conoscenza; Rete di conoscenze prodotte da esseri umani, in condizioni di libertà e parità di accesso.

Zuckerberg invece combatte il Web, prima sostituendovi il suo ambiente chiuso e proprietario, Facebook. Ed ora tentando di sostituire al Web il Metaverse. Una piattaforma progettata per indirizzare, inquadrare, condizionare, le esperienze di ogni essere umano.

Bush, e chi seguì la sua strada, immaginavano una rete peer-to-peer, dove ogni produttore di conoscenza sceglieva cosa e come mettere in comune.

Zuckerberg, al contrario, prevede che ogni conoscenza umana sia conservata in un cloud: cioè in un luogo di proprietà di Zuckerberg, fuori dalla controllo dei cittadini.

Le inclinazioni umane non sono bias

Non c'è bisogno di ripetere che prendiamo Zuckerberg come niente più che un esemplare rappresentante di una intera generazione di tecnici ed imprenditori.

E del resto vale la pena ricordare che la scienza e la tecnica non sono neutrali. Tanto meno lo è la tecnologia, che è applicazione della scienza e della tecnica ad interessi politici, finanziari ed industriali.5

Perciò possiamo guardare al retroterra storico e culturale che porta alla proposta del Metaverse.

Viviamo una stagione storica di grande divaricazione tra una élite economica, finanziaria, politica, e tecnico-scientifica, da un lato, e dall'altro cittadini sempre più ridotti a sudditi impotenti, utenti e consumatori.

L’élite sostiene che i cittadini sono incapaci di scelte efficaci ed adeguate. Tesi politica confermata da significativi riconoscimenti. Nel 2002 il premio Nobel per l'Economia è attribuito a Daniel Kahneman. A Kahneman e al suo collega matematico-psicologo Amos Tversky

Kahneman Thaler si deve il concetto di bias cognitivo. Una sorta di difetto congenito dell’essere umano. Errori di giudizio che portano prendere decisioni sulla base di pregiudizi e di percezioni errate. Il considerare questo vizio universale e congenito, permette di svalutare la portata dell’educazione, e anche la portata dell’umana saggezza. Limiti umani ovvi, così, vengono usati come giustificazione per togliere spazio al libero arbitrio, all’esercizio dell’umana saggezza.

dipendenti da meccanismi universali che presiedono il recupero di conoscenze razionali, e agiscono secondo automatismi mentali che portano a prendere decisioni velocemente, ma il più delle volte sbagliate perché fondate su pregiudizi o percezioni errate o deformate. Insomma, sono decisioni prese a partire da un errore di giudizio.

Perciò, ogni essere umano deve essere guidato, indirizzato, ed infine trattato come un infante.

In perfetta continuità, il premio Nobel per l’Economia del 2017 è attribuito a Richard Thaler, sostenitore della stessa scuola. Gli esseri umani compiono errori. Esiste quindi la necessità di paternalismo; esiste la necessità che designer, architetti, costruttori dell'opinione pubblica, “influenzino il comportamento delle persone, al fine di rendere la loro vita più lunga, sana, e migliore".

I dubbi sulla capacità dell’essere umano di prendere decisioni, si risolvono spingendo gli essere umani a prendere le decisioni che l’élite ritiene più convenienti. Questo è il senso del nudge, la spinta gentile. Ho perso il conto delle volte in cui, in questi anni, ho sentito tecnici informatici, User Experience Designer, strateghi del passaggio al digitale, giustificare le loro scelte progettuali con i bias cognitivi degli esseri umani. Molto più raro il loro appello alla capacità di giudizio ed alla saggezza che ogni essere umano possiede.

Per i poveri e deboli esseri umani, aggiunge ora Zuckerberg, non basta più Facebook come luogo di spinte gentili, ovvero di condizionamento di ogni cittadino e dell’opinione pubblica in genere. Serve il Metaverse, un luogo dove le gentilissime spinte saranno più incisive, irrifiutabili.


La realtà come costruzione sociale

Agli inizi degli Anni Sessanta del secolo scorso, agli albori dell’era digitale, si afferma l’espressione software. E di conseguenza virtual, nel senso di “non fisicamente esistente ma fatto apparire via software”. Si apriva allora la stagione dei progetti di esperienze immersive che si pretendono alternative alla vita reale, o in grado di migliorare la stessa vita reale.

In quei giorni due sociologi americani di origini austriache, si incontrano per una vacanza nelle Alpi bavaresi, e ragionando e discutendo finiscono per decidere di scrivere un libro il cui significato, come loro stessi diranno, è perfettamente racchiuso nel titolo: The Social Construction of Reality. Il libro uscirà nel 1966, e resta una pietra miliare.6

Berger e Luckmann ci parlano di come, nel corso della nostra lunghissima storia, noi esseri umani siamo ci siamo mostrati capaci di produrre conoscenze. Conoscenze adeguate alle necessità e ai desideri. Dalle esperienze, dalle conoscenze, nasce la realtà: un costrutto sociale, ci ricordano Berger e Luckmann, che gli esseri umani tutti contribuiscono ad edificare e a mantenere viva. La realtà è una costruzione sociale, alla quale ogni essere umano non solo ha diritto di partecipare, ma è capace di partecipare.

Anche oggi siamo capaci, ovviamente, di produrre conoscenze, e quindi realtà. Le accuse di Kahneman e Tversky, le pretese paternalistiche di Thaler non sono altro che aspetti contingenti di dinamiche politiche. Dinamiche che lungo la storia si sono presentate all’interno di ogni cultura: conflitti, lotte di potere, rotture di equilibri sociali.

L’unica novità è forse questa: alla pluralità di culture umane si tenta oggi di sostituire una unica cultura, imposta per via digitale. La Realtà Aumentata del Metaverso, universale ed unificante, è un attacco alle culture umane, una invasione del loro spazio.

Al senso di presenza creato via software che Zuckerberg ci propone, possiamo contrapporre la consapevolezza del nostro essere umani, l'autocoscienza, l'esperienza di sé narrata lungo l'arco di millenni dall'arte e dalla letteratura, dalla filosofia e dalle scienze umane, e presente nelle relazioni sociali, quando ci incontriamo faccia a faccia, veramente presenti con i nostri corpi e le nostre anime.

Ci aspettiamo una produzione digitale che rispetti la storia, e che se ne consideri parte. Non una produzione digitale che prenda di sostituire la storia umana.

(Questo articolo è stato pubblicato su Agenda Digitale il 27 ottobre 2021 con il titolo Il metaverso di Facebook: la realtà aumentata come distruzione sociale. Qui l'articolo.)

1Casey Newton, "Mark in the Metaverse. Facebook’s CEO on why the social network is becoming ‘a metaverse company’", The Verge, Jul 22, 2021: https://www.theverge.com/22588022/mark-zuckerberg-facebook-ceo-metaverse-interview.

2https://tech.fb.com/ray-ban-and-facebook-introduce-ray-ban-stories-first-generation-smart-glasses/

3https://tech.fb.com/boz-to-the-future-episode-4-the-future-of-wearables-with-rocco-basilico/

4Francesco Varanini, "Vannevar Bush", Dieci Chili di Perle, 20 febbraio 2010: https://diecichilidiperle.blogspot.com/2010/02/vannevar-bush.html

5Francesco Varanini, Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle, Guerini e Associati, 2020: Terza Legge.

6Peter L. Berger and Thomas Luckmann, The Social Construction of Reality: A Treatise in the Sociology of Knowledge, Anchor Books, New York, 1966. Trad. it. trad. it. La realtà come costruzione sociale, Bologna, Il Mulino, 1969.

mercoledì 22 settembre 2021

Il 'lavoro umano' che non potrà mai essere svolto da macchine

 Non possiamo più parlare di lavoro. Dobbiamo aggiungere sempre l'aggettivo: lavoro umano.

Abbiamo dato per scontato il concetto. Repubblica fondata sul lavoro. Organizzazione del lavoro. Psicologia e sociologia del lavoro. Costo del lavoro.

In particolare noi che ci occupiamo di Personale, di Risorse Umane, abbiamo sempre dato inteso il lavoro come un attributo dell'essere umano. Forse, la manifestazione più piena dell'essere umano.

A pensarci bene, però, abbiamo sempre sottovalutato il peso di una accezione negativa del lavoro. Molti, infatti, pensando al lavoro, vedono innanzitutto il peso, la fatica, sfruttamento. C'è stata una epoca, verso gli Anni Settanta del secolo scorso, il cui si è celebrato il rifiuto del lavoro. E ancora oggi si tende a enfatizzare la differenza tra lavoro e tempo libero. Certo, tutti vogliamo, per noi stessi e per ogni altro essere umano, che il lavoro sia sempre meno faticoso, pesante, usurante, dannoso per la salute. Tutti vogliamo un lavoro che non abbia riflessi negativi sulla speranza di vita.

Ma accettando questa critica del lavoro, giustificando la preferenza per il tempo libero, ci dimentichiamo alcuni aspetti chiave. Ci sono certo aspetti positivi nel tempo libero, e forse la riduzione degli orari di lavoro è un modo per garantire lavoro a più persone. C'è anche un certo paradosso nel cercare di liberarsi dalla fatica nel lavoro, per poi scegliere di faticare nel tempo libero: gli sport sono faticosi. Ma in ogni caso resta aperta la domanda: come occupiamo il tempo libero? In cosa consiste l'ozio? Forse non è così vero che nel tempo libero siamo liberi. La società dei consumi vuol dire colonizzazione del tempo libero. Siamo di fronte così ad un altro paradosso: vivere il tempo libero è svolgere un lavoro: il lavoro di consumatore, vittima di scelte obbligate.

C'è, ricordiamolo, per tutti, lo spettro della disoccupazione. C'è anche però, pronto, un pericoloso rimedio: il sussidio di disoccupazione, il salario sociale - chiamatelo come volete. Il sistema socio-economico nel quale ci troviamo a vivere tende a comprimere l'offerta di posti di lavoro. Ma in cambio offre sussidi di disoccupazione e salari sociali.

Ha senso quindi sostenere che la vera vita sta nel tempo libero? Ha senso cercare l'ozio? Ha senso cercare la propria realizzazione in hobby? Ha senso parlare ancora di lavoro come sfruttamento e di rifiuto del lavoro?

Meglio ripensare il concetto di lavoro. Tornando a considerare centrale per la vita umana il lavoro.

Meglio dire che anche l'hobby è un lavoro. Meglio dire che la situazione socio-economica ci pone di fronte ad una situazione dove esiste remunerazione senza lavoro e lavoro senza remunerazione.

Che cosa è dunque il lavoro. Conviene ripartire da quella frase di Primo Levi, così spesso citata. Ma forse non abbiamo meditato abbastanza su queste parole. Levi scrive nella Chiave a stella: "se si escludono istanti prodigiosi e singoli che il destino ci può donare, l'amare il proprio lavoro (che purtroppo è privilegio di pochi) costituisce la migliore approssimazione concreta alla felicità sulla terra: ma questa è una verità che non molti conoscono". Per Levi è "profondamente stupida" la retorica di chi tende a denigrare il lavoro, "a dipingerlo vile, come se del lavoro, proprio o altrui, si potesse fare a meno, non solo in Utopia ma oggi e qui: come se chi sa lavorare fosse per definizione un servo, e come se, per converso, chi lavorare non sa, o sa male, o non vuole, fosse per ciò stesso un uomo libero".


Attacco al lavoro umano

Ma c'è, nel discorso che sto facendo, un convitato di pietra. C'è una una presenza che spesso diamo per ovvia - ma che evitiamo di prendere veramente in considerazione: la tecnologia.

E' ovvio dire che le tecnologie sono benvenute non solo perché moltiplicano la produttività, ma anche perché alleviano la fatica dell'uomo. Ma altrettanto ovvio dovrebbe essere dire. come notavo all'inizio: non si può più parlare semplicemente di lavoro, si deve parlare di lavoro umano. Si deve dire lavoro umano per distinguerlo dal lavoro delle macchine.

Si sa che dagli anni a cavallo tra 1700 e 1800 il lavoro è cambiato. Le macchine sono apparse potentemente sulla scena. Le macchine hanno tolto fatica al lavoro umano. Hanno portato però anche riduzione dei posti di lavoro. Disoccupazione. E' comodo, ma superficiale, considerare ingenui retrogradi i luddisti, quegli operai che nella prima metà dell'Ottocento consideravano le macchine fonte di disoccupazione. Vale ancora oggi quello che diceva il poeta Byron alla Camera dei Lord difendendo i luddisti: "Queste macchine sono state per loro [gli imprenditori] un vantaggio, perché facevano venir meno la necessità di impiegare un certo numero di operai".

Una facile accusa a chi parla così come sto parlando è dire: sei luddista. Facile esporre al pubblico ludibrio: innovazione, progresso, finiscono per essere miti indiscutibili. Eppure parliamo oggi di limiti dello sviluppo. Non sono in discussione i vantaggi della moderna industria, della produzione di massa, dell'automazione. Ma è anche vero che dove aumenta il lavoro delle macchine diminuisce il lavoro umano. E' anche evidente che siamo alle prese con crescenti volumi di disoccupazione. Ricordando Levi, disoccupazione vuol dire impossibilità, per un crescente numero di persone, di cercare sé stessi attraverso il lavoro.


Oggi, evidentemente, siamo di fronte ad un attacco al lavoro umano.

Il più facile modo di svalutare l'opinione di chi, come in me, non si rassegna a questo trend, è dire: anche la Rivoluzione Industriale del 1800 ha tolto posti di lavoro, ma poi le cose si sono aggiustate. Nuovi posti di lavoro sono emersi. Non si dice come, non si sa come, ma si vuole trarre buon auspicio da questo passato: anche stavolta le cose si aggiusteranno.

In risposta a queste posizione elusive, però, possono essere portati solidi argomenti. La Rivoluzione Industriale del 1800 è diversa dalla Rivoluzione Digitale. Per almeno due aspetti.

Distanza dei tecnologi dai luoghi di lavoro. Nel 1800, e ancora nel 900 con l'organizzazione scientifica del lavoro di Taylor, i tecnici, gli ingegneri, erano vicini alla fabbrica. Anzi, ne facevano parte: i progettisti delle macchine, all'inizio del 1800 erano lavoratori che cercavano, tramite l'evoluzione dell'attrezzo, dello strumento, il modo di alleviare la propria personale fatica. La macchina era un passo ulteriore in questa direzione.

Oggi i sistemi di automazione sono progettati in luoghi lontani dalla fabbrica, lontani dalla cultura dell'industria manifatturiera.

I tecnologi digitali, invece, non si considerano lavoratori. Si considerano progettisti di mondi che altri, non loro, dovranno abitare. I tecnologi, lontani dalla fabbrica, sono invece vicini ai mercati finanziari. Tramite software, algoritmi, dei quali i lavoratori, e gli stessi manager di uno stabilimento produttivo nella sanno Le aspettative di ritorno finanziario sono imposte ad ogni impresa.

Linee essenziali del progetto: senza esseri umani. Nel 1800 e nel 1900 dallo studio del lavoro umano nasceva la scelta di automatizzare singole attività, o magari interi processi. In nessun caso però si immaginava il lavoro della macchina senza lavoro umano. Lo scenario è socio-tecnico. Macchine al servizio degli esseri umani. Esseri umani e macchine insieme.

Con le tecnologie digitali, oggi, invece, lo scopo del progetto è: sostituire in toto il lavoro umano. Sostituire sia il lavoro umano che è sia agire pratico, sia il pensiero umano. Il lavoro dei computer scientist è teso a questo: farne a meno dell'essere umano.


Ritorno al lavoro umano

Ogni lavoro umano, si dice, entro cinquant'anni sarà alla portata di un sistema automatico, di un robot, di una intelligenza artificiale, di un algoritmo.

Molti tecnologi e scienziati, nell'indirizzare i loro sforzi sono in buona fede. Possiamo considerarli vittima di una limitante formazione STEM, che fa perdere di vista il loro stesso essere umani. Primo Levi considera la loro posizione "profondamente stupida". Ma loro non lo sanno, perché la formazione STEM considera perdita di tempo la riflessione umanistica.


Dunque di fronte al progetto di sostituire in toto il lavoro degli esseri umani con il lavoro di macchine, non basta più parlare di politiche del lavoro: si deve parlare di politiche per il lavoro umano.

La saggezza umana, quel pensiero che ci accompagna dalle origini, e che ogni cultura porta nel proprio cuore, quel monito ci dice: cerca te stesso, cerca il Sé. Cerca di essere il più pienamente possibile consapevole del tuo essere, del tuo agire nel mondo. Responsabile di fronte a te stesso, alla comunità umana, all’ambiente ecologico e sociale cui appartieni. Ma nell’Era Digitale si spalanca una via di fuga: affidati alla macchina. Un algoritmo ti dirà cosa fare, una Intelligenza Artificiale ti guiderà, ti assisterà, ti proteggerà. In questo nuovo scenario la ricerca del Sé non è più motivata.

E' questa la tendenza che dobbiamo contrastare. Tornando a porre al centro dell'attenzione il lavoro umano.


Nota. Gli argomenti di questo articolo sono ampiamente trattati nel libro: Francesco Varanini, Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle, Guerini e Associati, 2020.

sabato 22 maggio 2021

L'ultima scappatoia: Le leggi di Frank Pasquale

Non si può fare a meno di interrogarci sui rischi derivati da uno sviluppo di Intelligenze Artificiali sempre più difficili da controllare.

Un caso tra i numerosissimi. Computer Scientist hanno sviluppato strumenti che rendono impossibile comprendere se a parlare e a interagire con noi è un altro essere umano, o una macchina programmata in modo ignoto. I Computer Scientist stessi ammettono ora i rischi sociali, politici, etici impliciti in questi strumenti. E puntano il dito contro Google o altri grandi Case che ne hanno promosso lo sviluppo e li usano. Quale soluzione propongono? Dicono: non fidatevi di Google, fidatevi di noi. "We can’t really stop this craziness around large language models, but what we can do is try to nudge this in a direction that is in the end more beneficial”. Comodo dire che la corsa a cui si partecipa non può essere fermata. Perché mai dovremmo di questi scienziati? Ci dicono che sono strumenti pericolosi ma vogliono continuare a svilupparli. 

Un amico rinomato ricercatore e progettista nel campo dell'Intelligenza Artificiale mi dice: io so cosa vuol dire assumersi la pesante responsabilità di decidere che una 'macchina medica' lavora in un modo o in un altro... Grave responsabilità decidere quale grado di autonomia attribuire alla macchina; decidere se farla intervenire in un modo in un altro. In che momento.

Un altro amico profondo conoscitore della materia, Domenico Talia, si interroga sull'Impero degli algoritmi (Rubbettino, 2021). Si pone l'obiettivo politico di evitare che "questa nuova élite tecnologica  diventi la nuova 'razza padrona' delle vite di miliardi di persone". Ci ricorda quindi che "la democratizzazione delle tecnologie passa attraverso la diffusione delle conoscenze su di esse e in particolare sugli algoritmi che sono a loro fondamento". E conclude: "non abbiamo bisogno di gabbie algoritmiche razionali ed efficienti", ma invece di "strumenti risolutori per alimentare il pensiero critico". Nell'aggettivo 'risolutore' colgo un riferimento ad un ragionamento aperto alla complessità, e cioè orientato a risolvere, a sciogliere garbugli e intrichi. O per dirla altrimenti: non leggi a cui appellarsi, ma impegno personale etico e politico.

Considero questi amici una eccezione. Di gran lunga prevalente è la posizione degli 'addetti ai lavori' che nascondono a sé stessi agli altri gli aspetti problematici. Non si parla nemmeno tra colleghi di questi pesi e dei dubbi e dei dilemmi che si vivono nel progettare. Tantomeno se ne parla in pubblico. Il cittadino nulla deve sapere di tutto questo. Rispetto all'opinione pubblica la posizione che gli 'addetti ai lavori' -salvo rare eccezioni- contribuiscono a mantenere si può riassumere in un breve frase: spargere fiducia.

Adesso si fa un gran parlare di 'leggi etiche' alle quali rifarsi in queste situazioni critiche. Si può vedere per esempio Frank Pasquale, New Laws of Robotics (Harvard University Press, ottobre 2020). Il libro sarà pubblicati in italiano da Luiss University Press [il libro è stato pubblicato in italiano nel giugno 2021; nota che aggiungo a questo post lasciandolo per il resto così come l'avevo pubblicato il 22 maggio 2021], ma già ora, mentre è ancora inedito nella nostra lingua, leggo vari commenti entusiasti, anche su quotidiani: la Stampa, il Manifesto. In realtà questi commenti mi sembra che non facciano altro che seguire l'onda di commenti usciti negli States. Più interessante di questi commenti, che mi sembrano acritici e che si ripetono l'un l'altro, è ciò che scrive a proposito del libro di Pasquale Lelio Demichelis su Agenda digitale

In un altro  post commenterò su questo blog le Leggi di Pasquale una per una. E discuterò l'assunto: la tesi che alla base delle leggi stesse: le Leggi della Robotica di Isaac Asimov sono superate; servono nuove norme. Ma prima del guardare al contenuto delle leggi, serve notare come la 'legge' costituisca in sé una comodo modo per scansare  il problema. 

Frank Pasquale, precedentemente autore di un libro che merita di essere letto: The Black Box Society (Harvard Unversity Press, 2016), ha una formazione giuridica. E' un aspetto non trascurabile: cerchiamo in fondo qualcuno che ci dica quali sono le leggi da rispettare.  Abbassando così il livello di responsabilità.

Infatti, appare gravissimo il peso della responsabilità di chi si trova a scrivere algoritmi ed in generale a progettare macchine destinate ad agire autonomamente, al posto di esseri umani impegnati in un qualsiasi lavoro, e anche destinate ad agire andando oltre i limiti della stessa programmazione iniziale definita dal progettista.

Ma di fronte alla responsabilità, la prima scelta è purtroppo l'elusione o la fuga. Chi sviluppa nel campo dell'Intelligenza Artificiale elude la responsabilità -responsabilità personale- nascondendosi dietro l'idea che il progresso e la tecnica non possono essere in ogni caso fermati, e che quindi 'se non sviluppassi io questo strumento, lo svilupperebbe comunque un altro tecnico'. Chi sviluppa nel campo dell'Intelligenza Artificiale elude la responsabilità dicendo: 'a noi compete fare ricerca e sviluppo, degli usi se ne occuperà la politica'.

Ed ora ben vengano a togliere di dosso il peso della responsabilità anche le Leggi di Pasquale.

E' una scappatoia: ci si tranquillizza con il rispetto della legge e così ci si deresponsabilizza. Ed anche ci si allontana dal caso singolo: da ciò che io, ricercatore e sviluppatore sto facendo qui ed ora. Ed anche: si rinforza il potere del tecnico - ora legittimato ad agire dal fatto che rispetta le leggi di Pasquale. Ma allo stesso tempo così ogni ricercatore e sviluppatore resta solo, nella comunità di tecnici probabilmente meno orientati di lui all'etica...

Due sono le strade che i tecnici digitali giustamente preoccupati potrebbero adottare. 

Impegnarsi pubblicamente a rinunciare a lavorare in questo campo. 

Tornare a considerare sé stessi cittadini tra i cittadini 

Peccato siano invece restii ad incamminarsi in questa direzione. A quanto sembra non intendono rinunciare ai loro privilegi. Non sembrano disposti ad assumere posizioni veramente critiche all'interno della comunità professionale cui appartengono.

Eppure possiamo dire che di fronte allo spargere fiducia di tanti addetti ai lavori, la risposta politica è spargere cautela. Di fronte a comode leggi che dicono cosa è giusto e cosa è sbagliato, cosa si può fare e cosa non si può fare, la risposta etica è: mi sento responsabile di quello che sto facendo e delle conseguenze delle mie azioni

venerdì 30 aprile 2021

Educazione civica digitale Un insegnamento necessario nelle scuole di ogni ordine e grado

 È urgente occuparcene. Una educazione civica digitale. O forse meglio: un’educazione esistenziale per l’era digitale. O potremmo dire anche: una educazione ad essere umani nell’Era Digitale.

La saggezza umana, quel pensiero che ci accompagna dalle origini, e che ogni cultura porta nel proprio cuore, quel monito ci dice: cerca te stesso, cerca il Sé. Cerca di essere il più pienamente possibile consapevole del tuo essere, del tuo agire nel mondo. Responsabile di fronte a te stesso, alla comunità umana, all'ambiente ecologico e sociale cui appartieni. Ma nell'Era Digitale si spalanca una via di fuga: affidati alla macchina. Un algoritmo ti dirà cosa fare, una Intelligenza Artificiale ti guiderà, ti assisterà, ti proteggerà. In questo nuovo scenario la ricerca del Sé non è più motivata.

Se questo punto di vista vi pare troppo filosofico, o astratto, guardiamo la questione dal punto di vista politico. Da un lato sta un'élite del potere. A questa élite appartengono, accanto alla classe politica in senso stretto ed a chi è dedito ad operazioni di finanza speculativa, i tecnici digitali - coloro che disegnano strumenti e piattaforme, scrivono algoritmi, progettano varie forme di Intelligenza Artificiale. Dall'altro stanno i cittadini, esposti al rischio di diventare sempre più succubi, sudditi soggetti a leggi veicolate via software, ridotti a utenti.

Si parla della necessità di diffondere, nel nostro paese e nel mondo, la cultura STEM. E' una fondata esigenza. E' una fondata esigenza. Diffondere la cultura STEM significa portare tra i ricercatori, scienziati e tecnici, sempre in maggior misura esponenti di gruppi sociali diversi, più donne, persone di culture e origini etniche diverse. Più che cultura STEM dovremmo dire: culture STEM. Le discipline scientifiche e tecniche, sempre più specializzate, verticale, perdono di vista l'insieme, la complessità. Non si può più parlare a rigore di computer science o di informatica: le specializzazioni sono tante e tali che gli addetti ai lavori poco o nulla sanno al di fuori della propria specializzazione: si conosce un solo strato di codice, si pratica chiusi all'interno del proprio campo di ricerca. Espressioni-ombrello come 'Intelligenza Artificiale' sono pericolose per questo: gli 'esperti' che ne parlano conoscono una ridotta parte del campo. Nella formazione STEM la vista d'insieme, e quel pensiero che può orientare al dubbio e alla cautela sono assenti.

La formazione STEM dunque non basta. Più cresce la cultura STEM più appare evidente l'esigenza di un bilanciamento.

Educazione civica digitale

Dobbiamo dunque ragionare attorno a cosa serve insegnare nelle scuole di ogni ordine e grado, consapevoli che lì si formano i futuri cittadini, ed anche i futuri tecnici e scienziati: educazione civica digitale. Potremmo forse dire meglio: educazione civica per il tempo digitale. Un tempo in cui si scivola passo dopo passo verso l'equiparare macchine ed esseri umani - finendo così per considerare che l'apprendimento umano e l'apprendimento della macchina non siano che due varianti di uno stesso modello.

Come mostro nel libro Le Cinque Leggi Bronzee dell'Era Digitale, si finisce per proporre agli esseri umani, tramite piattaforme e app, le modalità di apprendimento che si sono rivelate buone per le macchine. Ignorando il senso stesso del latino ad-prehendere: avvicinarsi alla preda, acciuffare, andare a caccia. Di fronte all'acquisita capacità delle macchine di apprendere, dovremo quindi rivalutare gli umanissimi modi di insegnare e di ricevere insegnamento. Per coltivare la nostra umanità.

Si immagina l'insegnamento erogato, nei modi e con gli approfondimenti di caso in caso adeguati, ad ogni livello della formazione scolastica pre-universitaria.

Ecco dunque una proposta; la possibile traccia degli argomenti chiave.

Storia della tecnica

La storia della vita in senso lato, della vita sulla terra, la storia conosciuta da noi essere umano, non inizia nell'Anno Duemila. Può sembrare paradossale ricordarlo. Ma ogni avvicinamento alla cultura digitale, alle opportunità che porta con sé, ma anche alle minacce ed ai rischi che comporta, inizia con il nuovo secolo. Magari qualcuno risale qualche anno più indietro, a quando Negroponte pubblica Being Digital. Magari qualcun altro risale agli articoli fondativi di Alan Turing, 1936 e 1950. Ma manca in ogni caso la prospettiva, la profondità, l'attenzione ai tempi lunghi della storia.

Servirà dunque una Storia della tecnica. Dove la tecnica appare come attività umana legata alle epoche e alle culture. E dove il senso della techne greca è illustrato tenendo ben presente la traduzione latina ars. Che ci fa intendere la tecnica come arte, ma ci ricorda anche che la tecnica è sempre connessa agli arti, al corpo umano. Mente e corpo concorrono a creare strumenti. Servirà anche ben spiegare la differenza tra tecnica e tecnologia. Dove tecnologia , parola coniata alla metà del 1800, tesa a significare un uso della tecnica al sevizio di progetti industriali, orientati ad uno scopo di profitto. Non tutta la tecnica si riduce a tecnologia. La tecnologia non è la versione più evoluta della tecnica.

Buone storie di strumenti digitali pensati da esseri umani per essere più umani

Si è arrivati oggi a dare per scontata la necessità di trovare un interfacciamento, una convivenza, o magari una simbiosi tra esseri umani e macchine. Dove le macchine sono sempre più autonome rispetto agli esseri umani.

Ma dobbiamo affrontare di petto la questione. Stiamo parlando di formazione degli esseri umani. Scopo di questa formazione non dovrà essere l'abituare a convivere con la macchina. E' giusto che sia scopo della formazione la preparazione ad essere sempre più pienamente umani. Non certo perché si consideri l'essere umano superiore ad altri esseri viventi, ma solo perché noi stessi, io che scrivo e voi che leggete, siamo esseri umani che formano sé stessi.

Dunque sarà virtuoso andare a cercare, nella storia dell'informatica e della computer science, narrazioni esemplari di come si possa intendere una macchina pensata per accompagnare l'essere umano nell'essere più pienamente sé stesso.

Tre personaggi, tre storie di vita, sembrano esemplari.

Vannevar Bush nel 1945 anticipa e rovescia la domanda che si pone Alan Turing nel 1950. Turing, nell'articolo Computer Machinery and Intelligence, si chiede: Can machines think?, possono le macchine pensare? Ed anzi precisa: spero che presto le macchine possano pensare, meglio degli esseri umani ed al posto degli esseri umani. Bush ignora la domanda e la rovescia in una affermazione, già esplicitata nel titolo: As We May Think. Come possiamo pensare noi esseri umani se supportati da strumenti che ci supportano nel ragionare, nel ricordare, nel connettere tra di loro fonti.

Doug Engelbart, nel settembre del '45 legge l'articolo di Bush sulla rivista Life. Il Giappone si è ormai arreso, Doug, studente in ingegneria, è radiotelegrafista nelle isole Filippine. Doug promette a sé stesso, e in fondo a tutti noi esseri umani: costruirò la macchina immaginata da Bush. Verso la fine del 1968 presenta ad una platea stupita di informatici e computer scientist e informatici quello che è a tutti gli effetti il prototipo del personal computer.

Ted Nelson, poco più che ventenne, in quegli stessi Anni Sessanta immagina e sviluppa i primi prototipi di quel sistema che oggi conosciamo come World Wide Web. E' mosso dalla propria cultura umanistica, letteraria. Immagina una letteratura non chiusa in pagine e libri, ma aperta: una rete che connette ogni testo ad ogni altro, ogni parola ad ogni altra. Ed è mosso anche da una lessico medico e psichiatrico definisce ADD: Attention Deficit Disorder. Nelson si rifiuta di considerare il proprio modo di essere difettoso, malato, e così immagina una macchina che lo accompagni nell'essere sé stesso, trasformando l'apparente difetto in virtù. Da singolari equilibri di mente e di corpo, da eccentrici modi di pensare e di costruire conoscenza considerati dalla ‘scienza normale’ pericolose sindromi, nasce dunque quel computing che espande l’area della personale coscienza. Tutti noi oggi siamo arricchiti dalla possibilità di pensare muovendoci in una sterminata rete di connessioni, liberati dalla gabbia di un unico ordine, di una sequenza, di una gerarchia.

Le tre funzioni del codice

Ad ogni cittadino è offerto un insegnamento elementare. Saper scrivere e saper leggere, è il modo per partecipare alla scrittura delle leggi che reggono la partecipazione del cittadino alla cosa pubblica. E’ il modo per conoscere le leggi che siamo chiamati a rispettare. E’ il modo per partecipare alla vita sociale e politica.

Ma oggi tutto ciò che conta è scritto in un codice digitale, in una ‘lingua’ che solo tecnici specialisti conoscono, e che è invece inaccessibile ai cittadini. Si tratta, oltretutto, di una lingua progettata per essere letta da macchine, e non da esseri umani.

Così al cittadino è negata anche la possibilità di controllare ciò che è scritto nel codice. E risulta impossibile distinguere se a parlare all’essere umano è un essere umano o una macchina.

Appare di scarsa o nulla utilità un insegnamento di base di uno dei tanti linguaggi di programmazione. Il primo passo per rendere percepibile la pericolosa situazione sta invece nello studio del concetto di codice. A partire dalla sua triplice funzione. Il codice è innanzitutto un supporto - sia si tratti di una tavoletta di cera, di un foglio di carta, o una piastrina di silicio. Il codice è un sistema di segni, un linguaggio di scrittura. Il codice è un testo scritto tramite un linguaggio sul supporto.

Così, alla luce di una riflessione del triplice mostrarsi del codice, potrà essere proposta la riflessione su sul codice digitale: una lingua pensata rivolgersi a macchine è infine imposta come nuova, più evoluta lingua, agli stessi esseri umani.

La discontinuità digitale

Di fronte all'insistente propaganda dell'innovazione, del progresso, della crescita esponenziale, dell'hype, serve -come bilanciamento e chiave di lettura- una attenzione alla storia. Serve saper vedere la storia di lungo periodo, per smitizzare apparenti novità, e serve anche consuetudine con la storia centrata sugli eventi, per cogliere le vere discontinuità.

In particolare, appare necessario soffermarsi su una discontinuità. E' una novità del Ventesimo Secolo il progetto di sostituire in toto l'essere umano con una macchina. Macchine progettate per pensare al posto degli esseri umani. Macchine progettate per prendere il posto degli esseri umani in ogni lavoro.

Un programma di educazione civica digitale rivolto agli esseri umani non potrà ignorare questa novità. Siamo infatti di fronte ad un bivio. O preparare gli esseri umani a convivere, a interfacciarsi, a entrare in simbiosi con macchine, algoritmi, Intelligenze Artificiali. O preparare gli esseri umani ad essere più pienamente sé stessi, consapevoli della propria storia, e allo stesso tempo delle proprie potenzialità. Timidezze o ambiguità nella scelta tra le due opzioni rendono vana l'educazione. In questo programma si opta per la seconda via.

Tre vie per essere cittadini oggi

Di fronte alle novità e agli interrogativi che le nuove tecnologie impongono a noi esseri umani, possiamo individuare atteggiamenti necessari. L'educazione civica digitale dovrà preparare ad assumere questa posizione.

Non rinviare nel tempo

Ci dobbiamo preparare ad evitare la più comoda, ma anche la più grave ed irresponsabile, delle vie di fuga.

Non si può ignorare la presenza di ricerche riguardanti temi critici, come -per fare solo due esempi- la sostituzione di ogni lavoro umano o le armi autonome dotate di Intelligenza Artificiale.

E' facile dire: sì, esistono potenziali rischi e problemi, ma non sono così imminenti. E' facile dire: ce ne occuperemo a tempo debito. O peggio dire: se ne occuperanno i nostri nipoti.

Meschina appare l'opinione di chi si consola rinviando nel tempo la questione, considerando che gli effetti più perversi si manifesteranno solo in tempi futuri. Ingenuo e disinformato chi minimizza.

Evitare la sottrazione incrociata

Scienziati e tecnici si sottraggono dal farsi carico dei possibili usi di ciò sperimentano e sviluppo dicendo: a noi compete ricercare e innovare, delle conseguenze dei nuovi ritrovati si deve occupare la politica. Il cittadino si sottrae dicendo a sé stesso: non posso capire, non sono all'altezza. C'è sempre qualcun altro che deve occuparsene; con il risultato che non se ne occupa nessuno.

La responsabilità sociale e l'azione politica nascono sempre dal non rifiutare di assumersi responsabilità personali. Dovremo quindi evitare una seconda via di fuga, consistente nell'attribuire la responsabilità ad un soggetto diverso da noi stessi, quale che sia il nostro ruolo.

Non nascondere il male dietro il bene

Di fronte ad ogni novità tecnologica si potrà sempre facilmente dire: questo ritrovato serve a salvare vite umane. Così è, per fare solo due esempi, per le automobili a guida autonoma come per la connessione tra cervello umano e computer tramite nanofili di silicio.

Dovremo apprendere, tramite l'educazione civica digitale, ad evitare anche questa via di fuga. Chi sostiene che il ritrovato tecnologico è utile a salvare vite umane, sta nascondendo a sé stesso e agli altri che quello stesso ritrovato comporta anche, e spesso in maggior misura, il rischio di danni gravissimi non solo agli esseri umani, ma in senso lato a ciò che chiamiamo 'vita' e 'natura'.

L'educazione civica digitale dovrà quindi fare appello non tanto alla ragione o all'intelligenza, ma a quella umana attitudine che chiamiamo saggezza.

Questo articolo è stato pubblicato su Agenda Digitale il 22 aprile 2021 con il titolo Educazione civica digitale: cosa insegnare e perché è necessariaQui l'articolo.

mercoledì 14 aprile 2021

Onlife

 On life: se non avessimo perso l'abitudine a cercare il senso nelle espressioni in lingua straniera che ormai usiamo senza pensare, ci potrebbe venire in mente “sulla vita”: si tratta forse di un pensiero rivolto alla vita sulla terra, alla natura, alla vita umana?

Si tratta invece di un neologismo creato, o comunque diffuso, da un personaggio di pubblica notorietà, che ha eletto sé stesso a profeta o divulgatore di una nuova cultura digitale ai quali i cittadini tutti dovranno adattarsi.

Il neologismo è calcato sull'espressione inglese on line. Facilissima da tradurre con una identica espressione italiana: in linea.

Linea è una bella parola che ritroviamo in ogni lingua moderna, rimanda a una pianta usata da noi esseri umani fin da tempi remoti: il lino. L'idea di linea discende dall'osservare il filo di lino. Essere on line, in linea, è essere connessi tramite un filo. C'è della poesia nell'immagine che ci vede tutti connessi tramite sottili fili di lino. Più pesante, incombente, è un sinonimo di online: wired. L'inglese wire, discende da una radice protogermanica che sta per 'metallo'. Dunque un filo di ferro, che può essere torto e piegato.

Basterebbe dunque dire che viviamo nell'era della connessione. Tramite strumenti digitali, noi cittadini del pianeta siamo connessi l'uno all'altro.

Ma dire questo non basta al noto divulgatore. Egli intende educare il popolo, condurlo ad una disciplina. Cosa significa essere umani nell'era digitale? Si dovrà dunque far credere a noi esseri umani di essere oggi sbalzati in una dimensione dove le dicotomie fra reale e digitale, e tra umano e macchina non sono più definibili in maniera nitida.

Ecco dunque il noto divulgatore coniare la nuova espressione, buona per far capire il concetto al cittadino, considerato incapace di pensare in proprio e veramente comprendere. Il divulgatore constata: viviamo in nuovo ambiente, fatto di esperienze online e offline: esperienze vissute a prescindere da connessioni, e esperienze che sono conseguenza di connessioni. E fin qui possiamo facilmente essere d'accordo con lui.

L'umana consapevolezza può ben esserci di aiuto nel distinguere i momenti della vita, scegliere quali strumenti usare, decidere il come usarli, quando e dove. L'essere umano può scegliere quando e come perché, e con quali cautele usare una piattaforma digitale. Certo, questo richiede educazione, attenzione, senso di responsabilità. E' importantissimo oggi lavorare a formare questa nuova coscienza sociale e politica. Ma cosa dice invece il noto divulgatore: state vivendo in un'ibrida onlife. La condizione è data per fatale e per ineluttabile.

Ricalcando on line, si dice: on life. Una comoda assonanza tra due parole inglesi permette di un salto concettuale: un filo di lino non è nulla rispetto alla complessità della vita; eppure lì dove si parla di connessione, si vuol far pensare che si parli di vita intera.

C'è un esempio che il noto personaggio porta in ogni occasione. La società dell'informazione è la società delle mangrovie. Le mangrovie crescono nel delta del fiume, dove l’acqua dolce (l’analogico) si confonde con l’acqua salata del mare (il digitale). Ed è in questa dimensione ibrida, in questa acqua salmastra, che crescono le mangrovie, il mondo onlife.

Possiamo ripeterlo: la complessità della vita è ridotta ad una opposizione: analogico o digitale. Badate bene: analogico e digitale sono aggettivi che descrivono macchine. Certo, possiamo intendere l'essere umano come una macchina, e confrontare l'essere umano con altre macchine, e cercare la convivenza tra esseri umani e macchine. Ma è questo che vogliamo? Vogliamo considerare noi stessi come macchina, intendendo per macchina un computer, o magari una 'intelligenza artificiale'? C'è una ricchezza nell'essere-in-connessione degli esseri umani, nella società umana, nella vita umana, che la parola nuova onlife ci porta a dimenticare, o a considerare irrimediabilmente persa.

Le metafore, del resto, vanno usate con cautela. Sono narrazioni: dobbiamo accettare che ci dicano più di quanto appare a prima vista. O ancora: dobbiamo accettare che, al di là delle intenzioni dei noti divulgatori, parlino in modo differente ad ogni essere umano.

Un'arte tipicamente umana è il narrarsi storie. Ecco dunque cosa mi evoca la parola onlife, spiegata attraverso la metafora della mangrovia.

Ho vissuto e lavorato in un luogo la cui conformazione geofisica è la foresta di mangrovie. Il confondersi dell'acqua salmastra con l'acqua dolce non è che un aspetto. La marea sale e il suolo fangoso scompare alla vista e di questo intrico emergono ormai solo le chiome verdi. I rami si trasformano in radici. Il confine è sempre mutevole, non solo tra le acque, ma ancor più tra le terre. Isole emergono e scompaiono. Impossibile dire dove sta, tra San Lorenzo e Tumaco, tra Ecuador e Colombia, dove sta la frontiera.

Lì ho visto svolgere i lavori più disumani che abbia mai conosciuto in vita mia. Donne e bambini a raccogliere nel fango conchas prietas, apprezzati frutti di mare.



Ed oggi la zona è uno dei luoghi del mondo più crudeli, invivibili per gli esseri umani. Terra in mano alla malavita, a commercianti fuorilegge di droga e di armi.

Le mangrovie, e dietro le mangrovie l'onlife, parlano dunque anche di un pericolo, di una minaccia. Potremo certo muoverci su questo terreno. Ma ciò è possibile solo se ci manteniamo vigili.

La lezione che traggo da tutto questo è che a noi esseri umani compete la responsabilità di rispettare la natura e la vita. Ed anche la responsabilità di migliorare la natura e la vita, se possibile, ma sempre consapevoli del nostro farne parte.

Ci conviene pensare che l'onlife non è altro che una parte della vita che quotidianamente viviamo. Un terreno che possiamo esplorare.

Questo testo è stato pubblicato il 6 aprile 2021 sul blog Oltrepassare.

lunedì 12 aprile 2021

Essere umano o macchina. Un dilemma

È troppo facile dire: vogliamo un’Intelligenza Artificiale allo stesso tempo “robusta e benefica”. Di fronte alle implicazioni morali di innovazioni tecnologiche che minacciano la salute collettiva e il futuro del pianeta e il senso stesso della vita, è sconsiderato dire: la libertà di ricerca e l’etica possono andare a braccetto. Non è degno di esseri umani responsabili dire: l’etica consiste nel cercare “il giusto mezzo”. Perché ci sono momenti in cui le scelte si impongono. Giunti al dunque, non si può andare contemporaneamente in due direzioni: si deve scegliere una strada. 
Questo è in fondo l’insegnamento di quell’antica modalità di pensiero che gli antichi greci chiamavano dilemma: scelta tra due contrastanti soluzioni, quando ogni altra via d’uscita sia esclusa. La virtù formativa del dilemma si basa dunque sul togliere spazio agli alibi, alle vie di fuga, ai compromessi. Cercherò di argomentare qui a proposito di un dilemma: uomo o macchina. Forse è anzi meglio dire: essere umano o macchina, per ribadire che è una questione che riguarda ogni persona, non solo i maschi.
Conviviamo con macchine da tempi remotissimi: da quando usiamo l’aratro, il tornio e la fresa. 
La modernità ha portato con sé una significativa novità. Alla fine del Settecento. Sono entrate allora in campo macchine capaci non solo di accompagnare l’uomo nel lavoro, ma di sostituirlo: caso esemplare i telai meccanici governati da schede perforate e mossi dal vapore. Ma la rivoluzione che stiamo vivendo è più radicale. Più drastica. 
Nell’Ottocento, e nella prima metà del Novecento, la macchina accompagnava l’essere umano, lo sostituiva in attività faticose e ripetitive. Oggi siamo alle prese con la cosiddetta trasformazione digitale, il cui senso in fondo si riassume in questo: l’essere umano può essere sostituito dalla macchina in toto, in ogni attività mentale e fisica. Questa, infatti, è la promessa dell’automazione, della robotica, dell’Intelligenza Artificiale. 
È qui che si pone con drammatica evidenza il dilemma, che contrappone essere umano e macchina. Un difficile argomento. Una accurata propaganda tende a far apparire retrogrado, nemico del progresso e dell’innovazione chi prova a leggere in luce critica il passaggio al digitale. 
La narrazione più comune è appunto quella consistente nel sostenere che si può dare al contempo un colpo al cerchio e uno alla botte: un colpo al cerchio dell’etica e un colpo alla botte dell’innovazione senza limite. 
Ma il rigore logico del dilemma ci ricorda che non si può tenere il piede in due scarpe. Ci sono situazioni in cui si deve scegliere. Di fronte al dilemma si sono trovati i ricercatori impegnati nello sviluppo delle armi nucleari. Non dissimile è la situazione dei ricercatori impegnati sul fronte dell’automazione, della robotica e dell’Intelligenza Artificiale. 
Personalmente, sono appassionato esploratore di nuove frontiere tecnologiche. Provengo da una formazione umanistica, ma ho anche lavorato da professionista nel campo dell’informatica. Per tanti anni ho scritto cercando di mostrare gli indiscutibili, non sempre ben compresi, aspetti positivi, delle tecnologie digitali. 
Il personal computer, anche sotto forma, oggi, di smartphone, allarga l’area della coscienza di ogni essere umano; offre nuovi spazi di libertà e di relazione interpersonale. Ma proprio per questo non voglio chiudere gli occhi di fronte alle minacce. 
Oggi il dilemma essere umano-macchina non può e non deve essere eluso. Scrivo di questo in Le Cinque Leggi Bronzee dell’Era Digitale. E perché conviene trasgredirle, Guerini e Associati 2020. Mi limito qui a sottolineare quello che mi pare un passaggio chiave, che nel mio libro cerco di illustrare. 
La tanto celebrata cultura scientifica, tecnica, ingegneristica e matematica, STEM, come si dice con una sigla entrata nell’uso comune, nasconde questo pericoloso risvolto. I tecnici dicono: noi facciamo ricerca, questo è il nostro lavoro, questo è il nostro impegno etico, innovare e ricercare comunque. Delle conseguenze e degli usi delle nostre ricerche, altri dovranno occuparsene: i politici, i cittadini. 
Il tecnico, insomma, si chiude in laboratorio, e qui crea macchine. Il tecnico cessa di sentirsi cittadino. I cittadini così, a loro volta, si trovano costretti nel ruolo di sudditi, o più precisamente di utenti, deprivati di spazi di libertà, obbligati a usare macchine sulla cui costruzione, sui cui scopi nulla hanno potuto dire.
Si torna dunque alla necessità, all’urgenza di una formazione adatta ai tempi. Rivolta ai cittadini e ai lavoratori, tesa a far sì che si affermi un controllo civico, pubblico, diffuso sulla progettazione delle macchine. Rivolta a tecnici, ricercatori, scienziati, tesa a ricordare loro che essi non appartengono ad una casta, a una comunità a parte, ma sono anch’essi niente altro e niente più che esseri umani, e cittadini.

Questo articolo è apparso il 15 settembre 2020 su FormaFuturi, magazine di Asfor e Apaform.

martedì 16 marzo 2021

La posizione del Vaticano di fronte all'Intelligenza Artificiale e la lezione della Lettera ai Filippesi

Il rapporto Artificial Intelligence Index 2021 della Stanford University, uscito all'inizio di marzo, segnala gli eventi più importanti dell'anno scorso nel campo dell'Intelligenza Artificiale. Tra questi cita i “five news topics that got the most attention in 2020”. Tra questi, “the Vatican’s AI ethics plan”, noto sotto il titolo Rome Call for Ethics AI
La figura che appare a fronte dell'iniziativa è monsignor Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita, consigliere spirituale della Comunità di Sant'Egidio, ma la presenza papale è evidente: Venerdì, 28 febbraio 2020 Monsignor Paglia legge all'Assemblea Plenaria della Pontificia Accademia per la vita un discorso scritto da Papa Francesco (in quei giorni condizionato da problemi di salute). Si legge nel discorso del Papa: l'Intelligenza Artificiale porta “mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana”. 
In quella occasione viene presentata la Rome Call for Ethics AI. Firmano -insieme al Vaticano, al Ministro per l’Innovazione Tecnologica del governo italiano e alla FAO- Microsoft e IBM. 

Nuovi Concordati 
Il diverso statuto giuridico dei firmatari spinge ad una riflessione che possiamo articolare in due punti.
Primo punto, non certo nuovo, è la sovrapposizione tra Stato indipendente, Stato del Vaticano, e vertice della Chiesa Cattolica. Secondo punto, più nuovo, che troviamo tra i firmatari, con pari dignità e con pari autorevolezza, insieme a stati nazionale, organismi sovranazionali, entità private come Microsoft e IBM. 
I due punti spingono a ricordare quel particolare accordo, recepito del resto nella nostra stessa Costituzione, che è il Concordato. 
Facile ricordare l'importanza storica mostrata da questo istituto giuridico nel Ventesimo Secolo: basta ricordare i casi, tra le due guerre, dell'Italia e della Germania. La legittimazione dello Stato del Vaticano a stabilire accordi si fonda sulla sovrapposizione tra Stato del Vaticano stesso e Chiesa Cattolica. Le pubbliche autorità di Italia e della Germania ammettono una sorta di doppia cittadinanza. Numerosi cittadini dei due stati sono allo stesso tempo anche membri della Chiesa. I membri, o fedeli, della Chiesa attribuiscono alla Chiesa stessa una autorità. Lo Stato Vaticano legittimato da questa autorità tratta da pari a pari con gli Stati nazionali e gli organismi internazionali. 
Esistono forti analogie tra le fonti dell'autorità del Vaticano e le fonti dell'autorità di Microsoft, IBM, Google (dovremmo dire con più precisione la capogruppo Alphabet), Facebook, Amazon. Queste imprese private possono trattare da pari a pari con gli Stati nazionali e con gli organismi internazionali in virtù della legittimazione attribuita loro dai propri utenti. Come e più dei membri di una Chiesa, gli utenti delle grandi case digitali sono assoggettati alle loro leggi. Come ben sappiamo una parte sempre più significativa della vita politica e civile si svolge nel quadro delle regole e degli spazi concessi dalle grandi case digitali. La loro sorveglianza ed il loro controllo sull'agire dei cittadini è più efficace e pressante della sorveglianza e del controllo che gli stati nazionali sono in grado di esercitare. 
Dunque ci sono motivi per intendere la firma, un'anno fa, della Rome Call for Ethics AI come primo passo di un nuovo assetto del diritto internazionale. Il Vaticano, proponendo l'accordo, forte della propria storia, prepara il terreno per futuri concordati dove gli stati nazionali, federali o confederali, e l'Europa unita, nella sua duplice natura di riunione tra governi nazionali e di parlamento unico sovranazionale, gli stati tutti, insomma, si troveranno a dover stabilire accordi trattando da pari a pari con le nuove potenze private digitali. 
Qualcuno propone l'analogia tra le grandi case digitali e le Compagnie dell'epoca dell'Imperialismo. Ma c'è una grande differenza. Le Compagnie erano entità private come le grandi case digitali, ma agivano su concessione degli stati nazionali. La concessione alla Compagnia delle Indie fu infatti revocata nel 1800 dal governo inglese. La forza delle grandi case digitali sta nell'aver acquisito potere a prescindere da qualsiasi concessione. Le grandi case digitali, anzi, hanno creato un nuovo terreno di azione, solo a loro veramente noto, e da loro controllato, sono dunque loro nella situazione di concedere agli stessi stati nazionali spazi di azione. 
 Il potere delle grandi case digitali è dunque evidente nel presente nel governo delle piattaforme e nelle resti sociali: luoghi di vita per i cittadini; è evidente nell'appropriazione di beni comuni: i dati; è evidente nel concetto stesso di cloud: il luogo da dove si esercita il potere è ubiquo e fuori dal pubblico controllo. Ma l'attenzione dello Stato Vaticano, con motivo, va oltre, e guarda alla scena emergente sulla quale si va manifestando in modo più pesante il controllo sulle vite degli esseri umani. Il Vaticano guarda all'Intelligenza Artificiale. ​ 

Rome Call for Ethics AI 
Passiamo dunque ad osservare cosa nella Rome Call for Ethics AI è stato concordato. Per leggere senza fraintendimenti il documento, è necessario innanzitutto ricordare il senso dell'espressione Intelligenza Artificiale, Artificial Intelligence, AI. La storia stessa dell'Intelligenza Artificiale è resa irrilevante da un dato di fatto. Intelligenza Artificiale è oggi un termine ombrello teso a colpire e ammonire l'opinione pubblica. Filoni di ricerca diversissimi, ed anche in contraddizione tra di loro, sono confluiti sotto il termine ombrello. Ciò che accomuna i diversi campi di ricerca, e che a ragione inquieta le autorità vaticane, è lo scopo dei progetti: sostituire l'essere umano con macchine. Si può naturalmente disquisire all'infinito sulle modalità e sulla misura di questa sostituzione. Si può parlare di accompagnamento dell'umano, si può discettare di convivenza, interfacciamento, simbiosi tra uomo e macchina. Ma non si può ignorare la presenza dei progetti, i loro successi, l'enorme quantità di investimenti che i progetti raccolgono. Meschina appare l'opinione di chi si consola rinviando nel tempo la questione, considerando che gli effetti più perversi si manifesteranno solo in tempi futuri. Ingenuo e disinformato chi minimizza. Le autorità vaticane, giustamente, invitano ad occuparsene oggi. Perché, come si legge nel documento, è in gioco “il modo in cui percepiamo la realtà e la stessa natura umana”. Il Vaticano, facciata istituzionale della Chiesa Cattolica, si pone come difensore dei diritti degli esseri umani di fronte alla minaccia esistenziale implicita in “tecnologie che si comportano come attori razionali ma non sono in alcun modo umani”. ​ 

Ripitturare la facciata con nuovi paroloni 
Peccato che l'appello non contenga niente di nuovo, e si limiti a ripetere ciò che gli stessi attori impegnati nello sviluppo di Intelligenze Artificiali hanno, sulla carta, concordato, e scritto in ormai numerosi manifesti e lettere d'impegno. Non si pone minimamente in discussione la corsa del progresso.
La Chiesa si adegua al mondo. Come vogliono le grandi case digitali l'Intelligenza Artificiale dovrà essere robusta. In aggiunta, si concede, dovrà è essere anche benefica. Facile e comodo ripetere che “gli esseri umani e la natura” dovranno essere “al centro dello sviluppo dell'innovazione digitale”. 
Facile anche affermare che gli esseri umani dovranno essere “supportati e non sostituiti” dalle Intelligenze Artificiali. Solennemente si afferma che “affinché il progresso tecnologico si allinei con il vero progresso della razza umana e con il rispetto del pianeta, deve soddisfare tre requisiti. Deve includere ogni essere umano, senza discriminare nessuno; deve avere a cuore il bene dell'umanità e il bene di ogni essere umano; infine, deve essere consapevole della complessa realtà del nostro ecosistema”. “
Avere a cuore il bene dell'umanità e il bene di ogni essere umano”. Possiamo notare come nella Call si ripetano alla lettera le Tre Leggi della Robotica formulate nel 1940, sintetizzate dieci anni dopo nella Legge Zero dallo scrittore di fantascienza, e scienziato, Isaac Asimov: “Un robot non può recar danno all’umanità e non può permettere che, a causa di un suo mancato intervento, l’umanità riceva danno”. In più c'è solo il riferimento all'ecosistema. 
Ora, le leggi di Asimov sono ancora un riferimento affascinante e preciso. Però, anche se vorremmo che bastassero, hanno almeno tre punti deboli. 
Il primo consiste nell'universalismo: si dà per scontato che esista un'etica universale, indipendente dalle culture e dalla storia. Qui sta l'aspetto forse più insidioso del patto che la Chiesa propone ai fabbricanti di Intelligenze Artificiali: noi massimi portatori dei valori universali dell'umanità, vi legittimiamo nella vostra pretesa, o speranza, di inserire questi valori negli algoritmi. 
Il secondo è che si resta nelle mani dei tecnici che programmano il codice: il cittadino non ha modo di controllare, non esiste difesa di fronte ad un tecnico malevolo. 
Il terzo è che nel momento in cui si accetta l'esistenza di “attori razionali in alcun modo umani”, si deve accettare di conseguenza la possibilità che questi attori, Intelligenze Artificiali divenute autonome, possano divenire in grado di andare oltre le stesse regole imposte loro dai tecnici che le hanno progettate. 
Resta dunque aperto un doppio ordine di interrogativi. Osserviamo come nella Call si guarda al primo punto: si dice che è diritto di ogni persona essere messa in grado di sapere se sta interagendo con una macchina o con un essere umano (“must be aware when he or she is interacting with a machine”). Santa ipocrisia! Tra i firmatari c'è Microsoft, finanziatore di Open AI, impresa leader nel campo delle ricerche AI più avanzate. Open AI è al centro all'attenzione per aver sviluppato GPT-3, linguaggio la cui caratteristica è proprio rendere indistinguibile agli esseri umani se a parlare loro è una macchina o un essere umano. 
Quanto al secondo punto, si sceglie di non affrontarlo. Siccome la corsa al progresso non è messa in discussione, il rischio esistenziale dovrà essere accettato. Anche nel lungo periodo, la speranza resta affidata ai “valori e principi che saremo capaci di instillare nell'AI”. Saremo in grado: l'appello non chiama in causa gli esseri umani: cittadini, membri della Chiesa: ci si limita a chiamare in causa in causa gli imprenditori, i manager, i tecnici impegnati nel settore digitale. 
Caratteristico dell'appello vaticano è il ricorrente uso -a partire dal titolo- della parola etica. Si parla di “integrità etica della razza umana”. Che però appare esclusivamente affidata “impegno etico di tutti gli attori coinvolti” dell'industria digitale. 
Non aggiunge nulla l'uso del neologismo: algor-ethics. Che anzi sancisce che tutto dipende dagli addetti ai lavori. I cittadini ed i fedeli non sono che sudditi o utenti. “I promotori dell'appello esprimono il loro desiderio di lavorare insieme, in questo contesto e a livello nazionale e internazionale, per promuovere 'l'algor-etica'”. “Dobbiamo partire fin dall'inizio dello sviluppo di ogni algoritmo con una visione 'algor-etica', cioè un approccio di etica per progettazione”. ​ 

La voce di Papa Francesco 
Faremmo torto alle buone intenzioni dell'iniziativa, se non guardassimo, oltre che al testo della Call, al discorso del Papa che la promuove e la celebra. 
 Anzi, è giusto ricordare quanto il Papa afferma nell'Enciclica Laudato si'. “Il paradigma tecnocratico tende ad esercitare il proprio dominio” (109). “Di fatto la tecnica ha una tendenza a far sì che nulla rimanga fuori dalla sua ferrea logica” (108). “Non possiamo ignorare che l’energia nucleare, la biotecnologia, l’informatica, la conoscenza del nostro stesso DNA e altre potenzialità che abbiamo acquisito ci offrono un tremendo potere. (…) È terribilmente rischioso che esso risieda in una piccola parte dell’umanità” (104). 
Si coglie un richiamo a queste affermazioni nel discorso papale che motiva la Call: “la profondità e l’accelerazione delle trasformazioni dell’era digitale sollevano inattese problematiche, che impongono nuove condizioni all’ethos individuale e collettivo”. “'L'Intelligenza Artificiale' (…) induce mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana, che è nostro impegno tutelare e promuovere, non solo nella sua costitutiva dimensione biologica, ma anche nella sua irriducibile qualità biografica”. 
“Esiste una dimensione politica nella produzione e nell’uso della cosiddetta 'Intelligenza Artificiale', che non riguarda solo la distribuzione dei suoi vantaggi individuali e astrattamente funzionali”. “In altri termini: non basta semplicemente affidarci alla sensibilità morale di chi fa ricerca e progetta dispositivi e algoritmi; occorre invece creare corpi sociali intermedi che assicurino rappresentanza alla sensibilità etica degli utilizzatori e degli educatori”. 
La consapevolezza della tremenda potenza e della dimensione politica, però, per il momento si traduce in un povero frutto: l'algor-etica, appunto. Un appello alle “competenze che intervengono nel processo di elaborazione degli apparati tecnologici”, una chiamata loro rivolta, tesa ad “assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nostra era”. Così il Santo Padre, nel mentre afferma che “non basta semplicemente affidarci alla sensibilità morale di chi fa ricerca e progetta dispositivi e algoritmi”, si presta a considerare significativo passo avanti un patto con chi fa ricerca e progetta dispositivi e algoritmi. 
L'algor-etica, dice, “potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali”. Si fonda così l'accordo i nuovi potentati della scena digitale; l'intenzione di e lavorare insieme con loro espressa nella Call. “L’'algor-etica' potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali”, dice il Papa, anticipando e legittimando il testo della Call. ​ 

Realpolitik 
Quali sono i principi che il Papa desidera si inscrivano concretamente nelle tecnologie digitali, possiamo chiederci. Quali sono valori e principi che, come si legge nella Call, dovranno essere insillatati in ogni Intelligenza Artificiale? Papa Francesco dice: “i principi della Dottrina Sociale della Chiesa offrono un contributo decisivo: dignità della persona, giustizia, sussidiarietà e solidarietà”. 
 Il riferimento alla Dottrina Sociale della Chiesa finisce per essere generico. Papa Francesco ritiene sia terribilmente rischioso che potenza implicita nell'Intelligenza Artificiale risieda in una piccola parte dell’umanità. Ma il monito papale finisce per trovare povera traduzione proprio in concordato con questi nuovi potentati. 
La Rome Call for Ethics AI è un appello. L'aspetto cruciale dell'approccio vaticano sta nel non rivolgersi agli esseri umani tutti, ai cittadini del pianeta, ma ai nuovi potenti della terra. Il Vaticano, prima e più dei governi nazionali e degli organismi internazionali, chiama in causa le imprese e i tecnici impegnati nello sviluppo di “sistemi di IA”. La Chiesa, come madre che ha a cuore i suoi figli, chiama i nuovi potenti a condividere il ruolo di guida e di protettore. 
Come testimonia l'apprezzamento da parte della Stanford University, l'iniziativa vaticana finisce per essere una legittimazione, quasi una santificazione delle imprese e i tecnici impegnati nello sviluppo di “sistemi di IA”, cui è concessa la patente di disseminatori di 'algor-etica'. 
Naturalmente, le imprese e i tecnici impegnati nello sviluppo di “sistemi di IA”, intendono l''algor-etica' a modo loro. La intendono come una ripetizione di ciò che già hanno sottoscritto in diversi manifesti. L'IA dovrà essere sviluppata alla luce generici e non impegnativi principi: trasparenza, inclusione, responsabilità, imparzialità, affidabilità, sicurezza e privacy. Principi affidati all'insindacabile cura degli addetti ai lavori. Questi sono i banali principi affermati nella Call, i principi che alla fine il Vaticano sottoscrive. Qualcosa di un po' diverso dai “principi della Dottrina Sociale della Chiesa”. Qualcosa di diverso da ciò che si leggi nell'enciclica Laudato si'. E ancor più. qualcosa di diverso da ciò che possiamo leggere nel Nuovo Testamento. 
Il Vaticano per ora si contenta di proporre una nuova vaga parola, interpretabile a proprio piacimento. Ottenendo il risultato di vedersi accolto nell'empireo di coloro che governano lo sviluppo dell'Intelligenza Artificiale. ​ 

Assumere la condizione di essere umano 
Così purtroppo la montagna vaticana partorisce il topolino. Eppure se teniamo presenti la tradizione cristiana e la Parola di cui la Chiesa è custode, ed anche se prendiamo spunto, come visto, dall'enciclica Laudato si', siamo stimolati a letture molto più profonde e impegnative. Per non entrare in dispute teologiche, dottrinali e pastorali, mi limito a citare di passaggio la parabola del Grande Inquisitore narrata da Dostoevskij. Il Grande Inquisitore, austero esponente della Chiesa, inveisce contro il Cristo, misteriosamente riapparso. Perché sei venuto a disturbarci? L'élite che regge il mondo si considera investita di una sacra missione; ha buon gioco a sostenere che il popolo, vittima delle proprie paure e della propria ignoranza non può capire. Il popolo deve essere governato con messaggi consolatori e rassicuranti. In modo da non disturbare gli 'addetti ai lavori', gli esperti, i professionisti, l'élite, la classe politica. 
Nell'Era Digitale questa distanza raggiunge la massima misura. I tecnici digitali, nuova avanguardia dell'élite, lavorano nei loro laboratori, sempre più lontani dai cittadini. Lontanissimi dai cittadini sono i tecnici che lavorano allo sviluppo di diverse forme di Intelligenza Artificiale. Lontanissimi da i lavoratori dei magazzini e dai consumatori sono i tecnici che scrivono gli algoritmi che governano il funzionamento della gran macchina di Amazon. 
Lontanissimi dai comuni esseri umani sono gli 'esperti' -ricercatori tecnico-scientifici e manager dei potentati digitali- che si impegnano a insufflare un'etica negli algoritmi. Anche dando per scontato che possa esistere una universale definizione dell'etica -cosa che appare indimostrabile- l'etica è affidata al buon senso ed al buon cuore dei tecnici. Ora il Vaticano si candida a partecipare a questa insufflazione. Il Vaticano offre anche alla comunità professionale degli esperti una nuova parola: algor-etica. Ma ben poco c'è dietro la parola. I tecnici vanno per la loro strada, e i preoccupati interrogativi posti nell'enciclica Laudato si' restano lettera morta. 
Paolo, nella Lettera ai Filippesi, indica un altro ben più impegnativo, radicale percorso. Il tecnico digitale, chi scrive algoritmi, disponendo di strumenti preclusi agli altri esseri umani, si trova ad essere oggi nelle condizioni di un dio che crea e governa il mondo. Nel versetto 2, 7 leggiamo: Cristo, lui che gode della condizione divina, se ne è spogliato, facendo propria la condizione umana; si è fatto riconoscere dagli esseri umani come essere umano. Spogliarsi dei propri privilegi. Svuotarsi del proprio potere. Guardare il mondo, la vita, i frutti stessi del proprio lavoro, con la saggezza dell'essere umano. Qualcosa di ben diverso dal comodo impegno ad insufflare principi etici negli algoritmi. 
Kènosis, la parola greca che indica questo atteggiamento, descrive un percorso di conversione doloroso: chiama alla rinuncia alle sicurezze e le certezze che il tecnico, nel corso della sua carriera, si costruisce. Ma solo attraverso questa conversione, chi lavora nel campo dell'Intelligenza Artificiale, potrà cogliere il senso di ciò che sta facendo.