Lettere aperte a proposito dei rischi impliciti nella Chat GPT e nell'Intelligenza Artificiale in genere: un altro vano giro di valzer. Il Garante italiano risponde inutilmente. Si discetta sui pappagalli. Ma i cittadini restano ancora una volta esclusi dalla discussione

Fine marzo 2023. La lettera aperta del Future of Life Institute Pause Giant AI Experiments, riportata dal Financial Times, è pedestremente ripresa dalla stampa italiana. Elon Musk e altri 1.000 leader della Silicon Valley chiedono di "sospendere lo sviluppo dell’intelligenza artificiale". I firmatari spiegano come "negli ultimi mesi c’è stata una corsa fuori controllo dei laboratori per l’intelligenza artificiale a sviluppare potenti menti digitali che nessuno, neanche i creatori, possono capire, prevedere e controllare".  

Lettere aperte: Future of Life Institute e Association for the Advancement of Artificial Intelligence

"Chiediamo a tutti i laboratori di intelligenza artificiale di fermarsi immediatamente per almeno sei mesi nell’addestrare i sistemai di IA più potenti come GPT-4. La pausa dovrebbe essere pubblica, verificabile e includere tutti. Se non sarà attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria", si legge nella lettera del Future of Life Institute.

Un monito da prendere sul serio? Una presa di posizione veramente nuova? Non sembra.

Come racconto nel mio libro Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle (Guerini e Associati, 2020, pp. 219 e segg.), lo scrivere lettere aperte a proposito dei rischi impliciti nell'Intelligenza Artificiale è uno sport molto diffuso tra tecnici e guru dell'Era Digitale. Così ci si lava la coscienza, poi si può tornare sollevati a chiudersi in laboratorio, senza pensare troppo alle conseguenze delle proprie azioni, senza assumersi reali responsabilità. Si sbandierano assieme il vessillo della preoccupazione per il futuro dell'essere umano e lo stendardo della potente forza implicita nell'Intelligenza Artificiale. Si ripete fino alla noia che l'Intelligenza Artificiale è gravida di buone promesse ma potrebbe anche comportare l'estinzione della specie umana.

Campione della gara delle lettere aperte è proprio il Future of Life Institute. La recente lettera aperta ripete stancamente quella del gennaio 2015, documento di esordio dell'Institute. Mark Tegmark, fisico ansiosamente alla ricerca del grande pubblico, cerca spazio sul ghiotto terreno dell'Intelligenza Artificiale. Eccolo fondare il Future of Life Institute, di cui è tutt'ora presidente. Si susseguono da allora campagne che sostengono l'ovvio. Il trucco consiste nel non prendere partito: vogliamo una AI al contempo roubust and beneficial. 

Questo significa forse mettere un freno alla corse verso l'Intelligenza Artificiale? Non sia mai! Al contrario, "this does not mean a pause on AI development". Sarebbe sbagliatissimo, si legge nella lettera del 2015, rinunciare alla ricerca, perché “i benefici [benefits] sono enormi”. 

“A fronte del grande potenziale dell'AI è importante ricercare il modo di raccogliere i suoi benefici evitando potenziali insidie [pitfalls]”.Ciò che già si leggeva nella lettera del 2015, lo si ritrova pari pari nella lettera del marzo 2023: "AI research and development should be refocused on making today's powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal".

A cosa dovrebbe servire la pausa ora proposta? "I laboratori di intelligenza artificiale e gli esperti indipendenti dovrebbero sfruttare questa pausa per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo avanzati di intelligenza artificiale, rigorosamente verificati e supervisionati da esperti esterni indipendenti". Notare bene: si parla di protocolli stabiliti dagli stessi laboratori impegnati nella ricerca, accompagnati da esperti esterni indipendenti. Tra le righe è facile leggere la risposta ad una domanda: chi sono gli esperti indipendenti? Innanzitutto i ricercatori del Future Of Life Institute! Quale lo scopo dei protocolli? Rendere tutto più robusto. "Robust AI governance systems". "Robust auditing and certification ecosystem". E anche, guarda caso, "robust public funding for technical AI safety research". Cioè: l'industria privata fa cose pericolose, quindi, argomentano Tegmark e amici, merita risorse pubbliche per mitigare i rischi impliciti nei progetti.

Gli interessi economico-finanziari e l'interesse dei tecnici ad avere mano libera vanno a braccetto. Così, anche, si mantiene vivo, ma sotto controllo, lo stesso business della critica ai rischi dell'Intelligenza Artificiale. Chi è il vice-presidente e tesoriere del Future of Life Institute? Meia Chita-Tegmark, moglie di Mark Tegmark. Ora si considera notevole il fatto che tra i primi firmatari della lettera si trovi Elon Musk. Si evitata di ricordare che già all'inizio del 2015 Tegmark, celebrava la “la donazione di 10 milioni di dollari di Elon Musk al Future of Life Institute, che ha contribuito a mettere a disposizione 37 sovvenzioni per gestire un programma di ricerca globale volto a mantenere l'IA benefica per l'umanità”.

Dalla discussione, insomma, è bandita l'ipotesi che l'Intelligenza Artificiale possa veramente essere dannosa. Basta del resto leggere ciò che scrive Tegmark per osservare come considera obiettivo auspicabile per gli stessi esseri umani l'affermarsi di una Superintelligenza non umana. Racconto nelle Cinque Leggi di come Tegmark parli del futuro collocandosi al di fuori della comunità umana, dei cittadini del mondo: scienziato che dall'alto e dal di fuori disegna scenari - per la precisione dodici. Per non compromettersi, non prende esplicitamente partito per nessuno di essi. Ma comunque annuncia qual è il luogo dove il destino degli esseri umani sarà spiegato al volgo: il Future of Life Institute. 

Musk, da parte sua, proprio alla fine del 2015 fonda Open AI, società che ha per scopo sviluppare quell'Intelligenza Artificiale Generale, AGI, che Tegmark chiama Superintelligenza. Proprio Open AI sembra ora, con la Chat GPT, essersi avvicinata ben più di ogni altra impresa all'Intelligenza Artificiale Generale. Come mostro nelle Cinque Leggi, Elon Musk presto cambiò idea, e passò a considerare l'Intelligenza Artificiale Generale "un rischio fondamentale per la civiltà umana". Non va dimenticato che Musk indirizzò allora i suoi investimenti verso un progetto diverso, ma non meno inquietante: connettere tramite sottilissimi filamenti neurali il cervello umano ad un computer.

Ecco comunque ora tutti, impauriti o sorpresi, a firmare la lettera del Future of Life Institute. Ma anche, allo stesso tempo, ansiosamente dediti a provare l'ultima versione della Chat GPT. I tecnici firmatari della lettera invocano "un passo indietro rispetto alla pericolosa corsa verso modelli black-box sempre più grandi e imprevedibili con capacità emergenti". L'invocazione è certo frutto di preoccupazione, ma anche, è lecito supporre, espressione di invidia nei confronti dei colleghi di Open AI. Quasi a dire: la black-box dovrebbe essere aperta a tutti i tecnici, cioè anche anche a noi. La sorpresa di qualcuno di fronte a ciò che la Chat GPT riesce a fare non sembra invece molto motivata. I risultati erano prevedibili. Non c'è niente di nuovo da un punto di vista tecnico, c'è solo il fatto che usando ingenti investimenti e enorme potenza di calcolo si è andati avanti lungo una strada già nota. 

Se questo è vero per la lettera del Future of Life Institute, pubblicata il 23 marzo, è ancor più vero per la lettera dell'Association for the Advancement of Artificial Intelligence, che segue a pochi giorni di distanza, il 5 aprile. Storica società scientifica, l'AAAI si propone come punto di riferimento per la comunità professionale dal 1979. Naturalmente si è data un codice etico: vuoto e non impegnativo, come troppo spesso capita di vedere: basta citare una frase: "the entire computing profession benefits when the ethical decision-making process is accountable to and transparent to all stakeholders". Si può subito notare che l'intento non è portare la comunità professionale ad assumere impegni, l'impegno consiste al contrario nel difendere gli interessi della comunità professionale di fronte a qualsiasi situazione che ne minacci la posizione dominante e lo spazio d'azione. Lo stesso intento appare chiarissimo ora nella lettera aperta Working together on our future  whit  AI. L'incipit ammonisce il popolo: "L'Intelligenza Artificiale sta già arricchendo le nostre vite, spesso in modi non percepiti". "Alimenta i nostri sistemi di navigazione, è utilizzata in migliaia di screening quotidiani di tumori, smista miliardi di lettere del servizio postale". E via dicendo: "ha svelato la struttura di migliaia di proteine", garantisce previsione meteorologiche dettagliate, fornisce idee che stimolano la creatività. "We believe that AI will be increasingly game-changing" in ogni ambito. 

Segue una modesta ammissione: "siamo consapevoli dei limiti e delle preoccupazioni sui progressi dell'Intelligenza Artificiale". Ma subito si rovescia la frittata, dichiarando innocenti i membri della comunità professionale e affermando che dei problemi se ne deve occupare qualcun altro: "Beyond technology, we see opportunities  for work in policy, including efforts with standards, laws, and regulations". Si coglie anche l'occasione per chiedere investimenti pubblici destinati a ricerche sulla valutazione del rischio. 

Per quanto riguarda la comunità professionale, ci si limita a dire che la si incoraggia ad incrementare gli sforzi indirizzati verso la sicurezza e l'affidabilità dell'AI e le sue influenze sulla società. In che modo? Parlandone di più in convegni e workshop "ed altre attività esistenti". Basta dunque aggiungere ai convegni una sezione dove si parli di "short-term and longer term ofAI".

Ciò che si deve quindi sottolineare è che esiste in ogni caso un punto che accomuna l'intera comunità professionale impegnata in un modo o in un altro nel campo della ricerca legata all'Intelligenza Artificiale. Accomuna coloro che mirano ad Intelligenze Artificiali specializzate in un compito e coloro che cercano l'Intelligenza Generale Artificiale. Accomuna i puri tecnici e gli imprenditori. Accomuna i profeti della Digital Disruption e i filosofi fiancheggiatori. Consapevoli tutti di appartenere alla stessa famiglia professionale e di avere interessi in comune da difendere. Tutti infatti appaiono nei fatti d'accordo su un punto: l'importante è che il dibattito, e le decisioni conseguenti, restino in mano alla lobby degli addetti ai lavori. Chi infatti è invitato a firmare queste lettere? Tecnici e scienziati, tecnocrati, imprenditori del settore - che riservano a se stessi l'autorità di decidere come autoregolarsi. Tutto in mano agli 'esperti'! 

C'è motivo di ritenere che le lettere aperte degli esperti servano solo, in un momento in cui si ha di fronte una novità per certi aspetti sorprendente, a rinserrare le fila. E' facile per i tecnici considerare i cittadini non all'altezza di capire ed opinare. A questo scopo si evita ogni trasparenza, si usano gerghi escludenti. Oppure si offre una divulgazione volutamente superficiale, tesa a sollevare entusiasmi e a far apparire tecnofobi e retrogradi coloro che chiamano alla cautela. Si evita, insomma, un autentico dibattito pubblico, dove i cittadini siano messi in condizioni di comprendere e siano convocati a partecipare. Scrivo nelle Cinque Leggi che il primo passo in questa direzione dovrebbero compierlo i tecnici. Cercando la trasparenza nella narrazione del loro lavoro e nella descrizione dei sistemi da loro sviluppati. Ma sopratutto tornando a considerare sé stessi come cittadini. Spogliandosi del proprio potere, potrebbero chiedersi: cosa sto facendo? Comodo invece limitarsi a sottoscrivere lettere aperte.

Scende nell'agone il Garante italiano della Privacy 

Il Garante italiano della Privacy avvia una istruttoria su OpenAI e la Chat GPT. Risultato: l'accesso alla Chat è negato ai cittadini italiani.

Motivi addetti dal Garante: 

OpenAi non ha mai fornito una spiegazione dettagliata su come utilizzerà le informazioni che immagazzina

Il gruppo ha la sua base negli States. Sembra quindi che dati di cittadini europei siano raccolti su database situati fuori dalla comunità europea.

La Chat GPT non verifica l’età dell’utente. Quando in Europa la possibilità che un minore sia esposto ad informazioni 'inidonee' è considerato reato. 

Naturalmente, c'è poi un ragionamento politico-strategico: lo stesso uso della Chat da parte dei cittadini, è fonte di alimentazione delle conoscenze che rendono possibile il funzionamento della Chat. 

Il Garante afferma che la Chat utilizza dati dei quali i cittadini non hanno concesso l'uso. Questo può essere vero. Ma in molti casi, i dati personali che Open AI, come tanti altri grandi operatori digitali, usa, sono legittimati dal fatto che li abbiamo resi pubblici involontariamente noi cittadini non stando attenti alle disclaimer di siti e piattaforme, dove si dichiara che silenzio dell'utente è assenso, e cose simili.

Si può dire che l'atto del Garante appare una censura fondata su interpretazioni formali di norme vigenti. Sul breve termine Open AI accetta la posizione del Garante bloccando il servizio in Italia. Presto troverà il modo di aggiustare il tiro. 

Si possono riconoscere ai difensori civici le buone intenzioni. Ma ogni censura è vana, perdente, specie nei tempi digitali dove i confini nazionali e europei valgono ben poco. I loro interventi non hanno la minima di possibilità di incidere sulle ricerche, sulle strategie e sulle scelte di mercato delle grandi case digitali. 

E ancora, l'intervento del Garante finisce per essere il sostituto di un vero dibattito pubblico. La comunità dei tecnici digitali intanto, nel mentre sparge un po' di lacrime di coccodrillo attraverso qualche lettera aperta, continua, in un modo o nell'altro, ad appropriarsi dei dati dei cittadini per costruire strumenti sempre più potenti per condizionare i cittadini stessi, rendendoli passivi utenti. 

Il fascino della Chat GPT: sottile ed ingannevole

La censura è vana, perdente. Gli argomenti addotti dal Garante sono dubbi. Non si ferma certo così un trend. L'isolamento al quale l'intervento del Garante costringe chi opera nel nostro paese è dannoso. 

Ma il coro di voci che si leva contro il Garante dà da pensare. Possiamo veramente considerarli imparziali nel giudicare? Non credo. Le voci che criticano l'intervento del Garante non sono né indipendenti né disinteressate. Sono vocci di addetti ai lavori personalmente interessati al fatto che la giostra continui a girare e anzi giri sempre più veloce. 

Denunciamo dunque la vanità delle prese di posizione del Garante. Ammettiamo però anche l'ipocrisia implicita in lettere come quella del Future of Life Institute. E ammettiamo anche il fascino pericoloso che esercita su di noi questa Intelligenza Artificiale Generativa. Sia chi ha, sia chi non ha, fiducia nel possibile avvento di una Intelligenza Artificiale Generale, sia chi questa fiducia non ce l'ha, sono affascinati dai risultati raggiunti da Open AI. Tutti passano il tempo a interrogare il nuovo oracolo! Non posso che tornare sugli argomenti espressi nella Confutazione poetica della Chat GPT, pubblicata di recente su questo blog. E non posso fare a meno di ricordare quello che scrivo nelle Cinque Leggi. Mi sembra che tra gli 'esperti' la grande maggioranza si ponga senza troppo ragionare nella scia di Turing, quando, nell'articolo apparso su Mind nel 1950, dice: 'Spero che le macchine pensino'. La seconda delle leggi di cui parlo nel mio libro infatti recita: 'Preferirai la macchina a te stesso'. La quarta: 'Lascerai alla macchina in governo'. Un cittadino dovrebbe, secondo me, preferire sé stesso ad ogni macchina e non lasciare alla macchina il governo. Ma gli 'esperti' invitano invece i cittadini a fidarsi della macchina più che di sé stessi.

Vorrei anche aggiungere una nota strettamente politica. Perché le scelte che ci appaiono meramente scientifiche e tecnologiche, sono in realtà sempre anche scelte politiche. Gli esperti, i tecnologi, posso dire in genere i membri delle élite, possono ben dire che la Chat GPT è mero strumento, tramite il quale scaricarsi i compiti ripetitivi e inutilmente faticosi. 

La Chat, però, lungi dal apparire strumento per aprire alla creatività, appare strumento di dominio a chi vive in condizioni di sudditanza. 

L'élite che magnifica la Chat, e prova soddisfazione nell'usarla, nasconde così a sé stessa il fatto che in un contesto democratico, dove la democrazia non sia ridotta alla versione più banale e comoda del liberismo, l'élite svolge il suo ruolo solo se va oltre il comodo, esclusivo perseguimento dei propri interessi, e si fa carico di creare condizioni affinché ognuno, anche chi proviene da condizioni disagiate, possa giungere ad essere pienamente cittadino, attivo e responsabile. E' però evidente che la Chat GPT è usata al contrario: per imporre risposte ad  ogni domanda, per svilire la ricerca, per costringere chi non appartiene all'élite in una condizione di definitiva sudditanza. Per qualcuno la Chat è un gioco, un divertimento, per altri è strumento di controllo sociale.

Ed in ogni caso, non dimentichiamolo, la Chat GPT è un modo per raccogliere dati e per garantire al sistema nuove informazioni sui comportamenti umani. Più alimentiamo Chat GPT, più ne diventiamo dipendenti.

Agenti, copiloti e pappagalli

Un articolo diffuso in pre-print il 13 aprile è molto citato in questi giorni, a conferma della condivisa speranza degli 'esperti': Sparks of Artificial General Intelligence: Early experiments with GPT-4. Gli autori -Sébastien Bubeck ed altri, lavorano nei laboratori di ricerca di Microsoft, la grande casa cui Open AI è più vicina. "Cosa sta realmente accadendo? Il nostro studio di GP 4 è interamente fenomenologico: ci siamo concentrati sulle cose sorprendenti che GP 4 può fare, ma non affrontiamo le domande fondamentali sul perché e come raggiunge un'intelligenza così straordinaria". Per questo l'articolo piace tantissimo agli addetti ai lavori: propone una entusiastica apologia della nuova tecnologia, eludendo qualsiasi domanda impegnativa, da un punto di vista sia tecnico che da punti di vista sociali, politici ed etici. 

E' la filosofia del lavarsene le mani. La posizione che Bubeck, con una certa ingenuità, ammette, è la posizione generalmente diffusa tra gli addetti ai lavori. Delle conseguenze ci preoccuperemo veramente, se sarà il caso, in futuro. Intanto, firmiamo una lettera - che tanto, lo sappiamo, non bloccherà nessuna ricerca. E semmai il compito di bloccare spetta alla politica. Il business e l'industria devono andare avanti. I finanziatori attendo sempre più alti ritorni dell'investimento. Subito la ricerca deve essere applicata a prodotti.

Non a caso Microsoft, sulla base degli studi che Open AI porta avanti, lancia in questi stessi giorni un nuovo tool della suite Office 365, dal nome emblematico: Copilot. "We spend too much time consumed by the drudgery of work on tasks that zap our time, creativity and energy. To reconnect to the soul of our work, we don’t just need a better way". La better way proposta ad ogni cittadino del pianeta per l'uso del proprio tempo, dei propri personali spazi di libertà, nel lavoro e nella vita quotidiana, sarà indicata dal copilota digitale! 
Satya Nadella, Chairman e CEO di Microsoft, infatti annuncia: “With our new copilot for work, we’re giving people more agency and making technology more accessible through the most universal interface - natural language.” 

More agency: agency è l'ambigua parola che i filosofi digitali sostituiscono a libertà. Infatti nessuno osa tradurre agency con libertà, o neanche con potere, capacità. Si preferisce lasciare la parola in inglese, o avventurarsi nel neologismo agentività. L'espressione vuole affermare l'esistenza di un terreno sul quale appaiono -simili, fungibili, sostituibili l'un l'altro- l'umano e la macchina. La metrica buona per la macchina è per questa via imposta agli umani. La millenaria storia dell'umana ricerca dell'essere, de sé, dello spazio di autonomia, della responsabilità personale, è così comodamente elusa, o anzi rimossa. Anche di questo parlo in modo dettagliato e preoccupato nelle Cinque Leggi.

Microsoft e Open AI, dunque,  ci  dicono che sanno ciò che è bene per ognuno di noi, e ci chiedono di fidarci di loro. Quando scrivo Microsoft e Open AI, possiamo intendere i tecnici di Microsoft e di Open AI, oppure, direttamente la Chat che i tecnici di Microsoft e Open AI hanno creato, Chat dotata di Intelligenza Artificiale che parla agli umani come se a parlarci fosse un umano. Ecco cosa intendo quando dico: cittadini ridotti a utenti. Il concetto di Copilota risulta infatti volutamente ambiguo. Mentre si lascia in apparenza libertà, si dà per scontato che convenga agli umani seguire i suoi  melliflui consigli del Copilota. Mentre prosegue il lavoro di rendere, tramite l'uso di ricerche neuroscientifiche, sempre più difficile agli umani non seguire la via indicata, tramite acconci algoritmi, sui Social Network; mentre diventano più incombenti i 'consigli' che arrivano tramite notifiche, e ora tramite il Copilota. Agli 'esperti' seguaci di Turing piace essere guidati dalla macchina. Forse molti cittadini la pensano diversamente. Ma ora saranno ricondotti sulla retta via.

In realtà, di fronte all'avvento della Chat GPT, qualcuno è tornato a citare un articolo del 2021, di grande interesse, critico e premonitore. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Emily Bender e le altre ricercatrici legate al centro di ricerca di Google, come si sa, hanno pagato cara questa presa di posizione. Non è questa la sede per riprenderne in dettaglio i diversi argomenti. Basta l'attenzione dedicata a mostrare i costi ambientali e finanziari della tecnologia fondata su modelli linguistici linguistici sempre più grandi. Le ricercatrici si chiedono How big is too big? Notano come non conta solo la quantità dei dati, ma anche la loro qualità. Conta anche, da un punto di vista etico, come sono stati raccolti i dati. Non è necessariamente questo -modelli linguistici di dimensioni sempre più grandi- l'unica direzione nella quale dovrebbe muoversi la ricerca, suggeriscono Binder e le coautrici. Ma certo se la gran parte degli investimenti sono rivolti a questo tipo di ricerca, ben poco di differente potrà essere sperimentato. 

Alla riflessione sui dati: la loro quantità e la loro qualità; e all'invito a non trascurare altri indirizzi di ricerca le ricercatrici aggiungono una presa di posizione etica. "Chiediamo di riconoscere che le applicazioni che mirano a imitare [...] gli esseri umani comportano il rischio di danni estremi [extreme harms]. Il lavoro sul comportamento umano sintetico è una linea di confine nello sviluppo dell'AI rispettoso dell'etica, dove "gli effetti a valle devono essere compresi e modellati per bloccare i danni alla società e a diversi gruppi sociali". 

Sui rischi, e sulle necessarie cautele, la lettera aperta del Future of Life Institute non fa che ripetere quello che Bender e le sue colleghe avevano già detto. E comunque, come ho mostrato, la recente lettera dice in realtà che i ricercatori impegnati su questa frontiera non vogliono né fermarsi né cercare altre strade. Si contentano sempre di ribadire la banale affermazione: 'Intelligenza Artificiale robusta e benefica'. Non aggiunge molto la pretesa novità affermata dall'Unione Europea: Intelligenza Artificiale human centered. In ogni caso nessuno vuole davvero mettere limiti alla ricerca.

Di recente, Bender è tornata a far ascoltare la sua voce: "Sento che ci sono troppi sforzi per creare macchine autonome", ha detto. Mentre diminuiscono gli sforzi per "cercare di creare macchine che siano strumenti utili per gli esseri umani". Di fronte agli atteggiamenti di persone con le quali si è trovata a discutere in incontri pubblici, Bender si è sentita obbligata a precisare. "Non ho intenzione di conversare con persone che che non pongono la mia umanità come assioma alla conversazione". Sono infatti molti i tecnici e i filosofi fiancheggiatori che amano ricordare che non conta essere umani o non esserlo. Siamo tutti, alla pari agenti. 

Solo alla luce di questa scelta personale, esistenziale, etica e filosofica si può ben capire il senso del titolo dell'articolo del 2021. Pappagalli stocastici. Bender, consapevole di essere umana, consapevole consapevole di appartenere alla vita sulla terra, ad una storia, consapevole di come il proprio pensiero ed il proprio parlare siano legati al corpo umano, ha molti motivi per dire che la Chat GPT non è che un pappagallo stocastico. Possedendo un solido dominio della sintassi, si esprime in modo correttissimo, e quindi in apparenza convincente. Ma non possedendo capacità semantiche parla come un pappagallo, che imita il linguaggio umano, ma a differenza degli umani non sa quello che dice. 

L'Intelligenza Artificiale Generale è ormai tra noi?

Qui l'opposizione è netta. Da un lato coloro che, nonostante le grandi prestazioni di GPT credono che si tratti di nient'altro che di un pappagallo stocastico. Dall'altro lato coloro che, come Bubeck, ritengono le prestazioni di GPT siano tanto sorprendenti da far pensare che -lo dice già nel titolo: Sparks of Artificial General Intelligence- vi si trovino scintille di Intelligenza Artificiale Generale. "Resta ancora molto da fare per creare un sistema che possa qualificarsi come Intelligenza Artificiale Generale completa", scrive Bubeck. Eppure Bubeck, come tanti esperti, è entusiasta, emozionato, di fronte alle core mental capabilities di GPT. Le elenca con ammirazione: reasoning, creativity, deduction; variety of tasks it is able to perform: playing games, using tools, explaining itself... 

Resta ancora nutrita, potremmo anche dire maggioritaria, la schiera dei ricercatori e dei tecnici che intendono l'Intelligenza Artificiale come capacità applicata a macchine dedicate ad un singolo scopo. Essi non hanno mai creduto all'Intelligenza Artificiale Generale, né ne hanno fatto l'oggetto della propria ricerca. Ma molti di loro in questi giorni si stanno ricredendo. 

Quella Superintelligenza, totalmente autonoma dall'intelligenza umana, a suo modo cosciente, che era stata cercata per settant'anni seguendo altre vie tecnologiche, sembra comunque ora apparire vicinissima a manifestarsi, come frutto del Deep Learning e dei Large Language Model: la si chiama Intelligenza Artificiale Generativa.

Chi ci parla davvero, senza enfasi, dei rischi esistenziali

Retorica e propaganda accompagnano la crescita dell'industria digitale. I tecnici impegnati nella ricerca, spinti dall'ansia di sperimentare, scelgono di sottovalutare le conseguenze dei loro progetti: si limitano a firmare lettere aperte e al fare appello alla politica, che dovrebbe imporre norme e freni. Ma i politici, non sapendo cosa fare di fronte a ricerche di cui non capiscono senso e portata, si affidano a commissioni formate dagli stessi tecnici che rimandano le decisioni alla politica. Da questo circolo vizioso, non possono che nascere norme inefficaci.

Ai tecnici, poi, è stato insegnato che la misura del successo di una ricerca sta nei risultati finanziari generati dalla ricerca stessa. Il legame tra tecnici ricercatori e investitori risulta così ambiguo tanto quanto il legame tra tecnici e politici.

Le voci critiche realmente autonome sono quindi poche. Le poche, vanno sminuite e svalutate. Così accade appunto con l'articolo di Emily Binder e delle altre ricercatrici, On Danger of Stochastic Parrots.

Non solo sono disattesi gli accorati inviti di Binder: mettere un limite alla raccolta dei dati, evitare ricerche orientate . Ma nell'ansia di svalutare l'articolo si punta dritto alla tesi espressa nel titolo. 

Sam Altman, CEO di Open AI, il 4 dicembre 2022,  quattro giorni dopo il rilascio di Chat GPT, scrive in un tweet: "Sono un pappagallo stocastico". Crede di essere ironico. 

Bender risponde: "Le persone vogliono credere così tanto che questi modelli linguistici siano effettivamente intelligenti che sono disposte a prendere se stesse come punto di riferimento e a svalutare questo aspetto per adeguarsi a ciò che il modello linguistico può fare". 

"Vogliono credere": vi colgo un richiamo all'"I hope" di Turing. Specchiarsi nella macchina. Il 'gioco dell'imitazione', di cui parlava Turing nell'articolo del 1950, i seguaci turinghiani l'hanno poi pomposamente definito test di Turing. Turing ridefinisce l'intelligenza ed il pensiero umani, in modo tale da poter arrivare a dire: 'l'intelligenza ed il pensiero corrispondenti alla definizione, si ritrovano nella macchina'. Insomma, torno a dirlo con la seconda delle Cinque Leggi: 'Preferirai la macchina a te stesso'. Prenderai la macchina a modello di te stesso. Il Gemello digitale di ogni entità fisica, anche di ogni essere umano, è un passo in questa direzione.

Ma in realtà, nessuno si ferma. La ricerca prosegue. L'argomento dei pappagalli stocastici viene usato come arma retorica contro Binder. Bubeck osserva emozionato le scintille di Intelligenza Artificiale Generale che traspaiono nei GPT.

Non sappiamo ancora ben immaginare, e tanto meno regolamentare, un mondo in cui quell'intelligenza esiste. Eppure la lettera aperta di Future of Life si apre con una frase precisa: "AI systems with human-competitive intelligence can pose profound risks to society and humanity".Perché non ce ne preoccupiamo in modo serio? Credo che per rispondere a questa domanda, convenga seguire la lezione di Eliezer Yudkowsky. Scrivo di lui nelle Cinque Leggi, p. 225 e seguenti. Da lui viene il pensiero dal quale è nata la lettera aperta di Future of Life. Comunque lo si giudichi, Yudkowsky ha posto vent'anni fa il tema dei rischi esistenziali legati all'Intelligenza Artificiale. E nel corso degli anni è divenuto via via più pessimista. Cosa dice ora Yudkowsky di GPT? Parlo di questo in un articolo pubblicato su Agenda Digitale.

(post scritto il 30 marzo e via aggiornato fino al 4 maggio 2023)

Perché mai noi umani dovremmo affidarci a macchine morali. A proposito di Judea Pearl, 'The Book of Why. The New Science of Cause and Effect'

Ho letto il libro di Pearl¹ - con grande interesse. Anche con sorpresa. Più andavo avanti nella lettura più ero meravigliato. Fino alla sorpresa finale.

Più procedevo più mi convincevo che Pearl aveva ragione. O forse meglio: che ero d'accordo.

D'accordo sul fatto che la strada del Macchine Learning e del Deep Learning, affidate alla crescente potenza di calcolo, è meno promettente di quanto si dica. D'accordo sul fatto che non basta affidarsi a ciò che dicono i 'raw data' -i dati nudi e crudi- anche se 'interrogati' tramite una stratificazione di reti neurali. D'accordo sul fatto che i dati non sono altro che 'record' del passato. Insomma, in generale d'accordo sul fatto che il pensiero umano è infinitamente più profondo, articolato e complesso di questo modo di lavorare della macchina. D'accordo quindi nel cercare di avvicinarsi alla complessità del pensiero umano seguendo la via di Bayes e di Markov.

Ma leggendo ero anche sempre più sconcertato. Ero e resto meravigliato dal modo in cui Pearl fonda il suo approccio. Seguendo in modo precisissimo la via indicata da Turing in Computing Machinery and Intelligence (1950), cerca di costruire una macchina capace di pensare. Bisogna quindi, sostiene Pearl, insegnare alla macchina a contemplare livelli diversi di complessità. Ecco quindi la sua Ladder of Causation.

Primo livello. Association. Regolarità nelle osservazioni, previsioni basate su osservazioni passive. Correlazione o regressione. Non c'è modello di realtà. Domanda: E se vedo?

Secondo livello. Intervention. Attenzione a ciò che non può essere presente nei dati (che riguardano il passato). Cambiare ciò che è. Modello di realtà. Cercare altri dati. Scienza dell'inferenza. Domanda: Cosa accadrà se...?

Terzo livello. Counterfactuals. Confrontare il mondo fattuale con un mondo fittizio. Domandarsi: E se le cose fossero andate diversamente?

Che c'è di nuovo?

Il punto è che Pearl presenta la Scala come una novità. Nuova sarà forse per lui e per i suoi colleghi dediti al Machine Learning. Si tratterà forse di qualcosa di nuovo rispetto a ciò che si insegna di solito nei Dipartimenti di Informatica. Ma si tratta di qualcosa di ovvio, se si allarga lo sguardo al di là della formazione strettamente matematica, ingegneristica, STEM.

Al di fuori di questa cultura, i tre livelli di interrogazione causali, appaiono cosa scontata. Già l'idea di individuare i tre, gli unici tre, livelli che presiederebbe all'innalzarsi del pensiero umano verso livelli più alti, appare riduttiva. Inadeguata agli occhi di chi frequenta riflessioni filosofiche e coltiva attenzione per i sistemi complessi.

Pearl però va comunque apprezzato, per come cerca di allargare lo sguardo oltre il quadro delle fonti abitualmente prese in considerazione da chi si occupa di Computer Science. Cita Hume, per esempio, ma quanti altri filosofi avrebbe potuto citare, con più motivo! Semplicemente, credo, non gli è capitato di leggerli. Non gli se ne può fare una colpa. A partire dalla sua formazione di matematico, ha saputo muoversi con coraggio e libertà. Ma comunque resta vittima della sua formazione. Il vizio di origine continua a condizionarlo, anche quando si lancia oltre il consueto.

Enormi porzioni di letteratura, o meglio: di storia del pensiero umano sono ignorate. Non sarebbe grave, se non fosse che Pearl si propone di cogliere quello che potremmo chiamare lo 'schema genetico' del pensiero umano. Non sarebbe grave, se il suo intento non fosse trasferire alla macchina la nozione della complessità del pensiero umano.

Come si può, del resto avere la pretesa di riprodurre, ed anzi superare, il pensiero umano, senza prendere in considerazione, come fonte di stimoli alla progettazione, ogni manifestazione del pensiero umano: Pearl si limita a cercare fonti tra scienziati e filosofi. Mentre è perfino ovvio dire che l'umano pensare -il suo processo, i suoi frutti- può essere inteso solo se si prendono il considerazione la tradizione mantenuta viva in miti e narrazioni; l'arte; la letteratura; la musica. La filosofia, poi, e la scienza stessa, andrebbero intese non come repertorio di leggi e schemi assodati, ma come storia sempre incompiuta di osservazioni ed esperimenti...

Se si accettano multidisciplinarietà e complessità, insomma, il tentativo di ridurre l'umano pensiero, l'umana intelligenza, l'umana saggezza ai tre scalini della Ladder of Causation, finisce per apparirci come un banale esercizio di riduzionismo. Un modo di ingabbiare il pensiero, più che un modo di coglierne il senso.

Se poi accettiamo in vincolo di considerare la sola letteratura scientifica, e andiamo a guardare le fonti e gli strumenti matematici, logico-formali, statistici, con i quali Pearl scegli di lavorare, gli va riconosciuto il coraggio di muoversi lungo la non troppo praticata via stocastica, congetturale di Bayes e Markov. Ma si deve anche notare che Pearl mostra di ignorare fonti che avrebbero alimentato in modo significativo le sue stesse intenzioni progettuali.

Mi limito a pochissimi esempi.

I ragionamenti sui processi inferenziali, ipotetici, abduttivi di CS Peirce. La matematica intuizionistica di Brouwer. La matematica di volta in volta adattata ad una specifica ricerca di Walter Pitts. Von Foerster a proposito di auto-organizzazione dei sistemi e di rumore...

(Mi rendo conto che sto in fondo ripercorrendo in buona misura argomenti esposti nel mio libro Le Cinque Leggi Bronzee, o argomenti che tratterò nei volumi del Trattato di Informatica Umanistica successivi a Macchine per pensare).

I believe

Con tutto questo, il libro di Pearl ci appare una salutare critica al al Mainstream del Machine Learning. Pearl gioca contro la fiducia nella cieca capacità della macchina; contro le promesse della mera potenza di calcolo. Si mantiene anche lontanissimo da chi crede o spera nella Singolarità: una rottura, una discontinuità, per cui le macchine digitali ad certo punto della loro evoluzione si riveleranno capaci attitudini imprevedibili per gli umani. 

Ma The Book of Why pretende di essere molto di più di una sana critica della Computer Science 'normale'. Il disegno di Pearl, ambiziosissimo, si svela solo nelle pagine conclusive del libro. Pearl intende progettare la macchina che sappia essere migliore dell'essere umano. Non affida la sua speranza alla capacità della macchina di andare oltre il suo stesso progetto, come sostengono i profeti della Singolarità. Vuole scientemente progettare una macchina capace di prendere il posto del suo stesso progettista.

Pearl si pone cinque domande.

"1. Abbiamo già creato macchine che pensano?

2. Possiamo fare macchine che pensano?

3. Faremo macchine che pensano?

4. Dovremmo fare macchine che pensano?

E infine, la domanda non dichiarata che sta al cuore delle nostre ansie:

5. Possiamo fare macchine capaci di distinguere il bene dal male?"

La risposta alla prima domanda, ci dice dice Pearl, è: no. Per quanto riguarda le altre domande -che sono proprio le stesse domande che Turing si poneva in Computing Machinery and Intelligence (1950)- la risposta di Pearl è no, se si seguono le vie che altri ricercatori stanno seguendo. Ma è sì, se si segue la via che Pearl stesso propone.

Mi limito a citare Pearl laddove si riferisce alla quinta domanda:

"My answer to the fourth question is also yes, based on the answer to the fifth. I believe that we will be able to make machines that can distinguish good from evil, at least as reliably as humans and hopefully more so. The first requirement of a moral machine is the ability to reflect on its own actions, which falls under counterfactual analysis. Once we program self-awareness, however limited, empathy and fairness follow, for it is based on the same computational principles, with another agent added to the equation.

There is a big difference in spirit between the causal approach to building the moral robot and an approach that has been studied and rehashed over and over in science fiction since the 1950s: Asimov’s laws of robotics. Isaac Asimov proposed three absolute laws, starting with “A robot may not injure a human being or, through inaction, allow a human being to come to harm.” But as science fiction has shown over and over again, Asimov’s laws always lead to contradictions. To AI scientists, this comes as no surprise: rule-based systems never turn out well.

But it does not follow that building a moral robot is impossible. It means that the approach cannot be prescriptive and rule based. It means that we should equip thinking machines with the same cognitive abilities that we have, which include empathy, long-term prediction, and self-restraint, and then allow them to make their own decisions".

Ecco quindi la conclusione:

"Once we have built a moral robot, many apocalyptic visions start to recede into irrelevance. There is no reason to refrain from building machines that are better able to distinguish good from evil than we are, better able to resist temptation, better able to assign guilt and credit. At this point, like chess and Go players, we may even start to learn from our own creation. We will be able to depend on our machines for a clear-eyed and causally sound sense of justice. We will be able to learn how our own free will software works and how it manages to hide its secrets from us. Such a thinking machine would be a wonderful companion for our species and would truly qualify as AI’s first and best gift to humanity".

Mi sembra indispensabile rileggere queste parole in italiano. Per una macchina, o per un essere umano che considera se stesso esclusivamente come scienziato, la lingua potrà essere indifferente. Ma per un essere umano che intende pensare, mostrare la propria saggezza ed esprimere giudizi morali, la lingua non è indifferente: pensiamo nella nostra lingua natale, naturale.

"La mia risposta alla quarta domanda è sì, anche in base alla risposta alla quinta. Credo che saremo in grado di creare macchine in grado di distinguere il bene dal male, almeno con la stessa affidabilità degli esseri umani e, auspicabilmente, con una maggiore affidabilità. Il primo requisito di una macchina morale è la capacità di riflettere sulle proprie azioni, che rientra nell'analisi controfattuale. Una volta programmata l'autocoscienza, per quanto limitata, ne discendono l'empatia e l'equità, perché si basano sugli stessi principi computazionali, con l'aggiunta all'equazione di un altro agente.

C'è una grande differenza di principio tra l'approccio causale alla costruzione del robot morale e l'approccio che è stato finora studiato e che è stato ripreso più volte nella fantascienza a partire dagli anni Cinquanta: Le leggi di Asimov sulla robotica. Isaac Asimov propose tre leggi assolute, a cominciare da "Un robot non può ferire un essere umano o, per inazione, permettere che un essere umano venga danneggiato". Ma come la fantascienza stessa ha dimostrato più volte, le leggi di Asimov portano sempre a delle contraddizioni. Per gli scienziati dell'intelligenza artificiale, questo non è una sorpresa: i sistemi basati su regole non si rivelano mai buoni.

Ma questo non significa che costruire un robot morale sia impossibile. Significa che l'approccio non può essere prescrittivo e basato su regole. Significa che dovremmo dotare le macchine pensanti delle stesse capacità cognitive che abbiamo noi, tra cui l'empatia, la previsione a lungo termine e l'autocontrollo, e poi permettere loro di prendere le proprie decisioni".

Quindi:

"Una volta che avremo costruito un robot morale, molte visioni apocalittiche inizieranno a recedere nell'irrilevanza. Non c'è motivo di astenersi dal costruire macchine che siano in grado di distinguere il bene dal male meglio di noi, meglio in grado di resistere alla tentazione, meglio in grado di assegnare colpe e meriti. A questo punto, come i giocatori di scacchi e di Go, potremmo anche iniziare a imparare dalla nostra stessa creazione. Saremo in grado dipendere dalle nostre macchine per un senso di giustizia lucido e causalmente sano. Saremo in grado di imparare come funziona il nostro software di libero arbitrio e come riesce a nasconderci i suoi segreti. Una tale macchina pensante sarebbe una meravigliosa compagna per la nostra specie e si qualificherebbe veramente come il primo e miglior regalo dell'IA all'umanità".

Con Turing, oltre Turing

Si capisce che Pearl, con giusta ambizione, si confronta con Turing e si candida a proseguire il suo lavoro. Pearl è stato premiato nel 2011 con il Turin Award: dato l'intento di Pearl, nessun Turing Award è stato più giusto. Questo considerarsi il vero figlio del capostipite appare già evidente nel presentare la Scala di Causalità. Dice Pearl: "While Turing was looking for a binary classification -human or no human- ours has three tiers, corresponding to progressively more powerful causal queries". "Mentre Turing cercava una classificazione binaria - umano o non umano - la nostra ha tre livelli, corrispondenti a interrogazioni causali progressivamente più potenti".

Resta sorprendente, e grandemente interessante per me, la precisione con cui Pearl richiama la lezione di Turing, citando alla lettera Computing Machinery and Intelligence (1950).

Pearl riprende le speranze di Turing. Turing scriveva proprio "I hope", spero che la computing machine apprenda a pensare. Pearl segue lo stesso cammino cercando passi in avanti, e dice: "I believe". E precisa: con il mio approccio, ci riusciremo. Costruire un 'robot morale' è possibile. Sarà in grado di distinguere il bene dal male meglio di noi. Anzi: questa macchina meravigliosa compagna ci insegnerà la morale, ci mostrerà il senso del libero arbitrio...

Il mio primo commento è questo: non escludo che noi esseri umani si possa essere in grado di costruire questa macchina. Potremo forse riuscirci. Credo però che se mai ci riusciremo, sarà perché nell'immaginare, progettare, costruire questa macchina avremo saputo andare oltre la cultura matematica, oltre la formazione STEM nella quale Pearl resta chiuso.

Ben più rilevante mi sembra un ulteriore commento. Constato che noi umani, nei tempi digitali, siamo spinti ad accettare di soggiacere a questa legge: preferirai la macchina a te stesso. Il campione di questo atteggiamento, al quale Pearl si accoda, è Turing.

E' questo uno degli argomenti centrali del mio libro Le Cinque Leggi Bronzee. Come essere umano, scelgo di non arrendermi. Scelgo di continuare a preferire noi esseri umani ad ogni macchina. Scelgo di considerare più importante la contiguità dell'essere umano con gli animali, le piante, ogni elemento naturale che la contiguità con una macchina. Scelgo di scommettere sulla specie umana. Scelgo di investire su una specie umana protesa consapevole della sua appartenenza alla natura, alla vita, piuttosto che su umani disposti a cercare nuove terre digitali, totalmente progettate: Infosfere, Metaversi, e orientati ad affidare la responsabilità morale a macchine. (A proposito del "trasformare in qualcosa di computabile il valore morale" scrivo anche in quest'altro post).

Perché preferire la macchina a noi stessi?

Mi chiedo quindi: perché preferire la macchina a noi stessi? Da dove nasce l'ansia che spinge Turing e Pearl a costruire macchine capaci di pensare meglio di come pensi un essere umano?

Da dove nasce il bisogno di ri-educarci a dipendere dalla macchina, il bisogno di dire "We will be able to depend", "We will be able to learn"?

Ora, io credo che il motivo per cui Turing preferisce la macchina a sé stesso, come mostro nelle Cinque Leggi, stia nella sua triste vicenda personale. Era un essere umano deluso di sé stesso e dell'umanità; privo di fiducia e di stima per sé stesso e per gli altri esseri umani. Sceglieva quindi di collocare, al posto di sé stesso, la macchina. Pearl va per la stessa strada, ma si spinge oltre: auspica che la macchina insegni all'essere umano ad essere migliore.

Sono propenso a pensare che il motivo per cui Pearl passa dai ragionamenti tecnici sulla Causal inference in statistics, e simili, alla speranza di riuscire a costruire una macchina in grado di insegnare a noi umani morale e libero arbitrio, stia, come nel caso di Turing, nella triste vicenda personale.

Il dolore, la mancanza, che ha stravolto la vita di Judea Pearl è la tragica scomparsa del figlio Daniel. Giornalista del Wall Street Journal rapito e decapitato nel 2002 a trentanove anni da terroristi in Pakistan.

Judea in apparenza tiene separato il sé stesso padre, essere umano, cittadino, attore politico, dal sé stesso scienziato. Ma è, ovviamente, una scissione solo apparente. Ogni essere umano capace di commozione, e di sentimenti, così come ogni studioso attento alla complessità e alle scienze umane, sa che le ferite affettive che ci toccano nel profondo toccano ogni aspetto della nostra vita. Anche la vita lavorativa, professionale. Anche la vita di scienziato e ricercatore.

Judea Pearl padre addolorato, profondamente ferito e Judea Pearl scienziato sono una persona sola.

Judea Pearl dice: "Mio figlio è stato ucciso dall’odio per cui sono deciso a combattere l’odio".

Come combatte Judea Pearl l'odio? Certo, con Fondazione dedicata al figlio, che opera per il "mutual understanding among diverse cultures". Ma anche, e di più, credo, fortemente volendo, e tentando di costruire, una macchina che sia, a differenza degli umani, incapace di odiare.

Possiamo fidarci nel miglioramento di noi stessi? Possiamo sperare che prevalgano tra gli umani rispetto e giustizia? I motivi di pessimismo sono molti. Il Judea Pearl cittadino fa quanto possibile con la fondazione. Il Judea Pearl scienziato spera, crede di avere al suo arco frecce più promettenti.

Judea, padre, sa che Daniel, suo figlio, è stato ingiustamente ucciso. Il male, provocato da esseri umani, ha prevalso sul bene. Ecco dunque "la domanda che sta al cuore delle nostre ansie": "Saremo capaci di costruire macchine in grado di distinguere il bene dal male?".

Deluso come Turing dagli umani, come lui Judea Pearl sceglie di fidarsi della macchina. Spera in una macchina morale che sappia insegnare la moralità agli umani. 

1Judea Pearl and Dana MacKenzie, The Book of Why. The New Science of Cause and Effect, Basic Book, 2018.

Sempre a proposito di critica politica del digitale. I mezzi e i luoghi del nuovo potere

Non dobbiamo farci trarre in inganno. Una comune narrazione porta a considerare luoghi critici della politica digitale i bit e il cloud.

Ma guardando a questi concetti, abbagliati dalla loro apparenza, dalla patina esoterica delle parole nuove, restiamo lontani dall'avvicinarci all'intendere la base materiale del potere esercitato per via digitale.

I bit sono solo uno degli aspetti del codice. Possiamo smascherare l'apparente significato politico del bit attraverso lo studio del codice. Il codice va osservato come sovrapposizione di tre aspetti: supporto, linguaggio, testo. Il bit non è altro che scrittura sul supporto. Guardando al bit non cogliamo il luogo dove si esercita il potere digitale, consistente nella sottrazione all'essere umano dei frutti del proprio lavoro e della propria conoscenza.

Il cloud nasconde, dietro la sua così ben propagandata apparenza volatile, aerea, il luogo fisico. Il cloud è una architettura la cui base materiale è la Server Farm (o Data Center). Enormi magazzini di conoscenze prodotte da esseri umani, ben presenti sulla Terra, ma cancellate dalle mappe. Nella Server Farm ronzano, perpetuamente accese, macchine fisiche e supporti di memoria fisici, detenuti da Padroni del Digitale. Cloud, espressione nuova, nasconde la realtà politica del Mainframe, la macchina 'centrale' che tutto contiene, o della rete Client/Server. Dove il Server, macchina padrona, contiene tutto e determina tutto. Mentre la macchina nelle mani dell'essere umano è progressivamente svuotata e svilita.

Conosciamo praticabili alternative politiche all'architettura Client/Server. La più radicale è il Peer-to-Peer. Non è utopia: un progetto politico da considerare è Bitcoin-Blockchain.

Il bit è uno strato impolitico. Il cloud è una apparenza venduta all'utente. La comunemente accettata idea di dematerializzazione nasconde un inganno: in ogni architettura digitale resta presente la base materiale, nascosta però al cittadino ridotto a utente.

I luoghi politici a cui conviene guardare per una critica della politica digitale non sono il bit ed il cloud. Sono il dato e la piattaforma. Al di là delle parole, spiego cosa intendo.

I dati sono conoscenze frammentate, impoverite, separate dalla fonte e oggetto di appropriazione da parte dei Nuovi Padroni Digitali. Solo studiando i dati -la loro voluta frammentazione, la loro conservazione, il loro uso- possiamo indagare sul processo -politico ed economico- di sottrazione all'essere umano dei frutti del proprio lavoro e della propria conoscenza.

Le piattaforme sono istituzioni totali, artificiali, sostitutive dei luoghi sociali e terreni, di proprietà privata -una proprietà che sfugge al controllo pubblico degli Stati e degli organismi internazionali- capaci di propria produzione normativa e di controllo sociale. Dietro ogni piattaforma sta una Server Farm proprietaria, occultata agli sguardi non solo dei cittadini ma anche di ogni organismo di controllo pubblico.

Sulle piattaforme i cittadini sono ridotti a utenti di servizi preconfezionati. Servizi che occultano uno scopo implicito: sottrarre -sotto forma di dato- ciò che è frutto del lavoro e del pensiero umano.

(Parlo di piattaforme in vari altri luoghi. Tra cui questo).

Realtà Aumentata come distruzione sociale

 Ricordo un incontro a cui ho partecipato durante il distanziamento obbligatorio causato dal virus. Incontro online, ovviamente. Tra i partecipanti, docenti universitari, persone convinte del proprio ruolo e della propria autorevolezza - in realtà per le prime volte esposte alla novità della connessione via piattaforma digitale.

Uno di loro si rivolge all'organizzatore, un imprenditore, e gli dice: 'Apprezzo l'organizzazione dell'incontro in questo momento difficile, è bello trovarci qui insieme nonostante il difficile momento. Peccato però che la relazione tra di noi sia penalizzata dalla povertà del mezzo. Auspico una futura situazione in cui possiamo trovarci insieme in modo più empatico, caldo'. Pensavo questo autorevole personaggio pensasse ad un incontro dal vivo, presenti insieme in carne ed ossa. Ma no, mi accorsi che si trattava di un invito all'organizzatore, affinché una prossima volta convocasse l'incontro su una piattaforma più performante, dove ognuno di noi fosse presente tramite un proprio avatar, un simulacro digitale, una apparenza tridimensionale. Forse aveva letto la pubblicità di una di quelle soluzioni tecnologiche e promette di creare mondi in cui interagire e comunicare, vivendo 'esperienze immersive molto simili a quelle della vita reale; ma migliori, più intense, delle esperienze della vita reale'.

Più comodo, più naturale, più reale

Ed ecco che verso la fine del giugno 2021, quando ormai la necessità di incontrarsi online viene meno, e torniamo in ogni luogo del pianeta ad incontrarci dio persona, tempestivo scende in campo Mark Zuckerberg.

Facebook è ormai lontana dai tassi di crescita vorticosa di anni precedenti, nuovi social network appaiono sulla scena, non bastano le sinergie con Instagram e WhatsApp, emergono problemi di privacy e l'opinione pubblica si fa più critica sui temi della privacy. Così, all'inizio dell'estate, Zackerberg lancia il suo Metaverse. Se si è stufi di Facebook, se si considera troppo povera l'interazione offerta dalle piattaforme di videoteleconferenza, ecco la nuova terra promessa: il Metaverse.

Dopo le tante riunioni di lavoro nell'ultimo anno, "faccio fatica a ricordare in quale incontro qualcuno ha detto qualcosa, perché le persone sembrano tutte uguali e si fondono tutte insieme". "Quello che mi entusiasma", afferma sorridente Zuckerberg, "è aiutare le persone a sperimentare un senso di presenza [sense of presence] molto più forte" di quello offerto da social network e piattaforme. Ed anche, aggiunge, "più naturale", "più comodo [comfortable]". "Le interazioni che avremo saranno molto più ricche, sembreranno reali [they’ll feel real]". In futuro, invece di limitarti a telefonarmi, "potrai sederti come ologramma sul mio divano"; "and it’ll actually feel like we’re in the same place", sembrerà davvero di nello stesso posto, "anche se ci si trova in stati diversi o a centinaia di chilometri di distanza".¹

Così, conclude Zuckerberg, “mi aspetto che nel giro di cinque anni le persone ci vedranno non come un’azienda di social media, ma come una compagnia del metaverso”. Nel mentre lo descrive come un 'Internet incarnato', Zuckerberg annuncia che stanzierà 50 milioni di dollari per il suo sviluppo.

Quello che mi colpì di quel professore fu la superficialità, l'accondiscendenza con cui tutto ciò che viene presentato come innovazione: la soluzione di ogni problema affidata alla tecnologia; il dire: non si può tornare indietro: adottata una tecnologia, l'unica possibilità è passare ad una più potente. La tecnologia come imbuto nel quale va incanalata la vita. La realtà ridotta a simulazione.

Quello che mi colpisce di Zuckerberg è il cinismo. Il suo approfittare del momento, della contingenza. C'è certamente l'abilità imprenditoriale. C'è la capacità di approfittare di una esperienza da tutti diffusa: l'insoddisfazione per la qualità delle interazioni permesse dalle piattaforme usate nel tempo del distanziamento sociale obbligatorio.

Ma sgomenta l'imposizione di un disegno politico e sociale. La pretesa di sostenere di conoscere cosa è bene per i cittadini del pianeta. E la confusione tra cosa è bene per i cittadini e cosa è bene -ovvero: utile- per lo stesso Zuckerberg. Aggiungo che, ovviamente, Zuckerberg non è che il campione, l'esponente esemplare di una generazione di imprenditori, o come molti amano definirsi: business designer. Il che nei tempi digitali vuol dire: disegnatori di mondi nei quali non loro, ma ogni altro essere umano, dovrà vivere.

Realtà Virtuale, Realtà Aumentata

So bene che tecnici e studiosi del settore saliti in cattedra a cavillare sono pronti con la matita blu: Virtual Reality non deve essere confusa con Simulated Reality e Augmented Reality.

Ma vi invito a lasciar perdere queste sottigliezze: infatti, senza farsi tanti problemi, Zuckerberg parla di sense of presence senza definire il concetto, parla di genericamente di qualcosa che appare naturale, che sembra reale. E mette insieme senza minimamente preoccuparsi di distinguerle, Realtà Virtuale e Realtà Aumentata.

Ma va sottolineata una differenza. La Realtà Virtuale è una realtà non fisicamente esistente ma fatta apparire via software; un mondo artificialmente costruito, nel quale il cittadino ed il consumatore sono invitati ad entrare. La Realtà Aumentata, invece, è una contaminazione, una corruzione della realtà quotidianamente, socialmente, liberamente vissuta dagli esseri umani.

Vivo le mie esperienze quotidiane, ma ora non sono più libero di viverle come persona libera. Sono costretto a viverla tramite la mediazione di un software, di un qualche algoritmo costruito da un tecnico.

Bastano due esempi.

Il primo. Sono per strada e uso Google Map. Inizialmente il supporto di Realtà Aumentata mi appare un supporto a muovermi più efficacemente, in base alle mie scelte. Ma presto lo strumento nelle mie mani si trasforma in uno strumento che tramite gentili spinte mi induce a muovermi in certi modi, e ad osservare in mondo in una maniera che è frutto di un progetto altrui, e I miei desideri, i miei sogni, le mie scelte di utilità sono messe in secondo piano, svilite o censurate.

Si deve poi aggiungere che la Realtà che si presenta come semplice 'aumento' dello stato del mondo, finisce poi per prendere il sopravvento: crediamo di muoverci nello spazio della nostra città, e invece ci muoviamo dentro la rappresentazione di quello spazio costruita dai tecnici di Google. Accade già a noi quello che accadrà in ogni caso all'auto a guida autonoma: visto che guardiamo la mappa di Google e non il terreno che abbiamo intorno, se c'è una buca nella strada questa dovrà essere registrata sulla mappa digitale, di proprietà di Google. C'è qui, anche, un significativo risvolto politico: ciò che è un bene pubblico, in virtù della Realtà Aumentata, finisce per divenire privato.

Il secondo. Sono in un museo. Mi nutro della bellezza che ho intorno. Scelgo quale quadro guardare, e come. Scelgo il percorso. Scelgo dove e quando fermarmi, quando sedermi, in base a considerazioni estetiche e anche a privatissime sensazioni, come la stanchezza del momento, o a considerazioni legate al tempo a disposizione. Certo, posso anche seguire i suggerimenti di una guida, una persona in carne ed ossa, un essere umano con il quale interagire. I supporti di Realtà Aumentata, invece, allontanano il mio sguardo dal presente. Mi trasportano in un museo lontano dal qui ed ora; reimmaginato da un qualche esperto.

Infine, il tour così guidato porta sottilmente a pensare che tanto vale non essere fisicamente in quel luogo. La visita virtuale è meno faticosa. Sarò così sicuro di aver visto le opere che l'esperto considera importanti. La funzione educativa, esperienziale, della visita al museo, la mia crescita personale alla luce del bello che io stesso scopro, viene meno.

Due tipi di occhiali

L'ultimo prodotto uscito dai Facebook Reality Labs, all'inzio del settembre 2021, l'ultima trovata commerciale legata alla nuova strategia di Facebook coinvolge anche una grande impresa italiana, Luxottica. Occhiali con il brand Ray Ban.

Ray-Ban Stories: si afferma nella promozione: puoi catturare istantaneamente qualsiasi momento

"occhiali che ti offrono un modo autentico [authentic way] per catturare foto e video, condividere le tue avventure e ascoltare musica o rispondere alle telefonate - così puoi rimanere presente con gli amici, la famiglia e il mondo intorno a te".²

In occasione del lancio di questi smart glasses, il capo dei Facebook Reality Labs (FRL), Andrew "Boz" Bosworth, incontra, in un nuovo episodio del podcast Boz to the Future, Rocco Basilico, Chief Wearables Officer di EssilorLuxottica. I due, entusiasti, concordano: "Le persone smart devono indossare gli smart glasses!".

Ma il senso dell'operazione lo si legge a chiare lettere nella sintesi del podcast: "I Ray-Ban Stories segnano un'importante pietra miliare sulla strada verso gli occhiali AR [Augmented Reality], e il loro uso oggi è coerente con i casi d'uso che ci aspettiamo di vedere in futuro".³

Ovvero: la nostra strategia consiste nel dotare i cittadini di strumenti tesi a pilotare il loro modo di fare esperienza.

La tecnologia non è mai veramente nuova. Si tende a intendere la storia della tecnologia come una freccia tesa verso il futuro: progresso, innovazione come allontanamento dal passato. Ma potremmo invece ben leggere la storia della tecnologia come ciclico ritorno su progetti e linee di sviluppo. Guardate questa immagine:

Non vediamo qui un essere umano nascosto dietro occhiali scuri alla moda; non vediamo qui un essere umano pigro e dipendente, tenuto sveglio dagli effetti speciali di un accattivante Metaverso. Vediamo un essere umano orgoglioso del proprio pensiero, consapevole dei propri limiti, ma anche convinto del proprio discernimento.

Nel settembre 1945 Vannevar Bush, finissimo tecnologo, ripubblica sulla rivista Life l'articolo As We May Think, uscito su The Atlantic in luglio. Tra le illustrazioni che accompagnano l'articolo, questa, che campeggia sopra il titolo, è la più chiara e significativa.⁴

Possiamo ben immaginare quella telecamera integrata negli occhiali. Ma ecco la differenza tra gli occhiali di Bush e gli occhiali di Boz" Bosworth e Basilico. Ed ecco la differenza tra il computer come lo intendeva Bush e come lo intende Zuckerberg.

Bush intende il computer, e le sue periferiche, come strumenti al servizio dell'essere umano che liberamente, e sempre più profondamente ed originalmente pensa. Esseri umani che come Galileo conoscono il mondo, sperimentano, fanno esperienza. Occhiali come il cannocchiale di Galileo. Il supporto della macchina permette una esperienza più ricca. Bush immaginava che l'essere umano supportato dalla macchina sarebbe stato in grado di tenere traccia delle proprie esperienze, fonderle tra di loro, sommarle con conoscenze altrui. Immaginava che le conoscenze restassero bagaglio della persona, libera di scegliere come condividerle.

Dalle intuizioni di Vannevar Bush discende il World Wide Web, inteso come luogo di produzione sociale di conoscenza; Rete di conoscenze prodotte da esseri umani, in condizioni di libertà e parità di accesso.

Zuckerberg invece combatte il Web, prima sostituendovi il suo ambiente chiuso e proprietario, Facebook. Ed ora tentando di sostituire al Web il Metaverse. Una piattaforma progettata per indirizzare, inquadrare, condizionare, le esperienze di ogni essere umano.

Bush, e chi seguì la sua strada, immaginavano una rete peer-to-peer, dove ogni produttore di conoscenza sceglieva cosa e come mettere in comune.

Zuckerberg, al contrario, prevede che ogni conoscenza umana sia conservata in un cloud: cioè in un luogo di proprietà di Zuckerberg, fuori dalla controllo dei cittadini.

Le inclinazioni umane non sono bias

Non c'è bisogno di ripetere che prendiamo Zuckerberg come niente più che un esemplare rappresentante di una intera generazione di tecnici ed imprenditori.

E del resto vale la pena ricordare che la scienza e la tecnica non sono neutrali. Tanto meno lo è la tecnologia, che è applicazione della scienza e della tecnica ad interessi politici, finanziari ed industriali.⁵

Perciò possiamo guardare al retroterra storico e culturale che porta alla proposta del Metaverse.

Viviamo una stagione storica di grande divaricazione tra una élite economica, finanziaria, politica, e tecnico-scientifica, da un lato, e dall'altro cittadini sempre più ridotti a sudditi impotenti, utenti e consumatori.

L’élite sostiene che i cittadini sono incapaci di scelte efficaci ed adeguate. Tesi politica confermata da significativi riconoscimenti. Nel 2002 il premio Nobel per l'Economia è attribuito a Daniel Kahneman. A Kahneman e al suo collega matematico-psicologo Amos Tversky

Kahneman Thaler si deve il concetto di bias cognitivo. Una sorta di difetto congenito dell’essere umano. Errori di giudizio che portano prendere decisioni sulla base di pregiudizi e di percezioni errate. Il considerare questo vizio universale e congenito, permette di svalutare la portata dell’educazione, e anche la portata dell’umana saggezza. Limiti umani ovvi, così, vengono usati come giustificazione per togliere spazio al libero arbitrio, all’esercizio dell’umana saggezza.

dipendenti da meccanismi universali che presiedono il recupero di conoscenze razionali, e agiscono secondo automatismi mentali che portano a prendere decisioni velocemente, ma il più delle volte sbagliate perché fondate su pregiudizi o percezioni errate o deformate. Insomma, sono decisioni prese a partire da un errore di giudizio.

Perciò, ogni essere umano deve essere guidato, indirizzato, ed infine trattato come un infante.

In perfetta continuità, il premio Nobel per l’Economia del 2017 è attribuito a Richard Thaler, sostenitore della stessa scuola. Gli esseri umani compiono errori. Esiste quindi la necessità di paternalismo; esiste la necessità che designer, architetti, costruttori dell'opinione pubblica, “influenzino il comportamento delle persone, al fine di rendere la loro vita più lunga, sana, e migliore".

I dubbi sulla capacità dell’essere umano di prendere decisioni, si risolvono spingendo gli essere umani a prendere le decisioni che l’élite ritiene più convenienti. Questo è il senso del nudge, la spinta gentile. Ho perso il conto delle volte in cui, in questi anni, ho sentito tecnici informatici, User Experience Designer, strateghi del passaggio al digitale, giustificare le loro scelte progettuali con i bias cognitivi degli esseri umani. Molto più raro il loro appello alla capacità di giudizio ed alla saggezza che ogni essere umano possiede.

Per i poveri e deboli esseri umani, aggiunge ora Zuckerberg, non basta più Facebook come luogo di spinte gentili, ovvero di condizionamento di ogni cittadino e dell’opinione pubblica in genere. Serve il Metaverse, un luogo dove le gentilissime spinte saranno più incisive, irrifiutabili.

La realtà come costruzione sociale

Agli inizi degli Anni Sessanta del secolo scorso, agli albori dell’era digitale, si afferma l’espressione software. E di conseguenza virtual, nel senso di “non fisicamente esistente ma fatto apparire via software”. Si apriva allora la stagione dei progetti di esperienze immersive che si pretendono alternative alla vita reale, o in grado di migliorare la stessa vita reale.

In quei giorni due sociologi americani di origini austriache, si incontrano per una vacanza nelle Alpi bavaresi, e ragionando e discutendo finiscono per decidere di scrivere un libro il cui significato, come loro stessi diranno, è perfettamente racchiuso nel titolo: The Social Construction of Reality. Il libro uscirà nel 1966, e resta una pietra miliare.⁶

Berger e Luckmann ci parlano di come, nel corso della nostra lunghissima storia, noi esseri umani siamo ci siamo mostrati capaci di produrre conoscenze. Conoscenze adeguate alle necessità e ai desideri. Dalle esperienze, dalle conoscenze, nasce la realtà: un costrutto sociale, ci ricordano Berger e Luckmann, che gli esseri umani tutti contribuiscono ad edificare e a mantenere viva. La realtà è una costruzione sociale, alla quale ogni essere umano non solo ha diritto di partecipare, ma è capace di partecipare.

Anche oggi siamo capaci, ovviamente, di produrre conoscenze, e quindi realtà. Le accuse di Kahneman e Tversky, le pretese paternalistiche di Thaler non sono altro che aspetti contingenti di dinamiche politiche. Dinamiche che lungo la storia si sono presentate all’interno di ogni cultura: conflitti, lotte di potere, rotture di equilibri sociali.

L’unica novità è forse questa: alla pluralità di culture umane si tenta oggi di sostituire una unica cultura, imposta per via digitale. La Realtà Aumentata del Metaverso, universale ed unificante, è un attacco alle culture umane, una invasione del loro spazio.

Al senso di presenza creato via software che Zuckerberg ci propone, possiamo contrapporre la consapevolezza del nostro essere umani, l'autocoscienza, l'esperienza di sé narrata lungo l'arco di millenni dall'arte e dalla letteratura, dalla filosofia e dalle scienze umane, e presente nelle relazioni sociali, quando ci incontriamo faccia a faccia, veramente presenti con i nostri corpi e le nostre anime.

Ci aspettiamo una produzione digitale che rispetti la storia, e che se ne consideri parte. Non una produzione digitale che prenda di sostituire la storia umana.

(Questo articolo è stato pubblicato su Agenda Digitale il 27 ottobre 2021 con il titolo Il metaverso di Facebook: la realtà aumentata come distruzione sociale. Qui l'articolo.)

1Casey Newton, "Mark in the Metaverse. Facebook’s CEO on why the social network is becoming ‘a metaverse company’", The Verge, Jul 22, 2021: https://www.theverge.com/22588022/mark-zuckerberg-facebook-ceo-metaverse-interview.

2https://tech.fb.com/ray-ban-and-facebook-introduce-ray-ban-stories-first-generation-smart-glasses/

3https://tech.fb.com/boz-to-the-future-episode-4-the-future-of-wearables-with-rocco-basilico/

4Francesco Varanini, "Vannevar Bush", Dieci Chili di Perle, 20 febbraio 2010: https://diecichilidiperle.blogspot.com/2010/02/vannevar-bush.html

5Francesco Varanini, Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle, Guerini e Associati, 2020: Terza Legge.

6Peter L. Berger and Thomas Luckmann, The Social Construction of Reality: A Treatise in the Sociology of Knowledge, Anchor Books, New York, 1966. Trad. it. trad. it. La realtà come costruzione sociale, Bologna, Il Mulino, 1969.

L'ultima scappatoia: Le leggi di Frank Pasquale

Non si può fare a meno di interrogarci sui rischi derivati da uno sviluppo di Intelligenze Artificiali sempre più difficili da controllare.

Un caso tra i numerosissimi. Computer Scientist hanno sviluppato strumenti che rendono impossibile comprendere se a parlare e a interagire con noi è un altro essere umano, o una macchina programmata in modo ignoto. I Computer Scientist stessi ammettono ora i rischi sociali, politici, etici impliciti in questi strumenti. E puntano il dito contro Google o altri grandi Case che ne hanno promosso lo sviluppo e li usano. Quale soluzione propongono? Dicono: non fidatevi di Google, fidatevi di noi. "We can’t really stop this craziness around large language models, but what we can do is try to nudge this in a direction that is in the end more beneficial”. Comodo dire che la corsa a cui si partecipa non può essere fermata. Perché mai dovremmo di questi scienziati? Ci dicono che sono strumenti pericolosi ma vogliono continuare a svilupparli. 

Un amico rinomato ricercatore e progettista nel campo dell'Intelligenza Artificiale mi dice: io so cosa vuol dire assumersi la pesante responsabilità di decidere che una 'macchina medica' lavora in un modo o in un altro... Grave responsabilità decidere quale grado di autonomia attribuire alla macchina; decidere se farla intervenire in un modo in un altro. In che momento.

Un altro amico profondo conoscitore della materia, Domenico Talia, si interroga sull'Impero degli algoritmi (Rubbettino, 2021). Si pone l'obiettivo politico di evitare che "questa nuova élite tecnologica  diventi la nuova 'razza padrona' delle vite di miliardi di persone". Ci ricorda quindi che "la democratizzazione delle tecnologie passa attraverso la diffusione delle conoscenze su di esse e in particolare sugli algoritmi che sono a loro fondamento". E conclude: "non abbiamo bisogno di gabbie algoritmiche razionali ed efficienti", ma invece di "strumenti risolutori per alimentare il pensiero critico". Nell'aggettivo 'risolutore' colgo un riferimento ad un ragionamento aperto alla complessità, e cioè orientato a risolvere, a sciogliere garbugli e intrichi. O per dirla altrimenti: non leggi a cui appellarsi, ma impegno personale etico e politico.

Considero questi amici una eccezione. Di gran lunga prevalente è la posizione degli 'addetti ai lavori' che nascondono a sé stessi agli altri gli aspetti problematici. Non si parla nemmeno tra colleghi di questi pesi e dei dubbi e dei dilemmi che si vivono nel progettare. Tantomeno se ne parla in pubblico. Il cittadino nulla deve sapere di tutto questo. Rispetto all'opinione pubblica la posizione che gli 'addetti ai lavori' -salvo rare eccezioni- contribuiscono a mantenere si può riassumere in un breve frase: spargere fiducia.

Adesso si fa un gran parlare di 'leggi etiche' alle quali rifarsi in queste situazioni critiche. Si può vedere per esempio Frank Pasquale, New Laws of Robotics (Harvard University Press, ottobre 2020). Il libro sarà pubblicati in italiano da Luiss University Press [il libro è stato pubblicato in italiano nel giugno 2021; nota che aggiungo a questo post lasciandolo per il resto così come l'avevo pubblicato il 22 maggio 2021], ma già ora, mentre è ancora inedito nella nostra lingua, leggo vari commenti entusiasti, anche su quotidiani: la Stampa, il Manifesto. In realtà questi commenti mi sembra che non facciano altro che seguire l'onda di commenti usciti negli States. Più interessante di questi commenti, che mi sembrano acritici e che si ripetono l'un l'altro, è ciò che scrive a proposito del libro di Pasquale Lelio Demichelis su Agenda digitale. 

In un altro  post commenterò su questo blog le Leggi di Pasquale una per una. E discuterò l'assunto: la tesi che alla base delle leggi stesse: le Leggi della Robotica di Isaac Asimov sono superate; servono nuove norme. Ma prima del guardare al contenuto delle leggi, serve notare come la 'legge' costituisca in sé una comodo modo per scansare  il problema. 

Frank Pasquale, precedentemente autore di un libro che merita di essere letto: The Black Box Society (Harvard Unversity Press, 2016), ha una formazione giuridica. E' un aspetto non trascurabile: cerchiamo in fondo qualcuno che ci dica quali sono le leggi da rispettare.  Abbassando così il livello di responsabilità.

Infatti, appare gravissimo il peso della responsabilità di chi si trova a scrivere algoritmi ed in generale a progettare macchine destinate ad agire autonomamente, al posto di esseri umani impegnati in un qualsiasi lavoro, e anche destinate ad agire andando oltre i limiti della stessa programmazione iniziale definita dal progettista.

Ma di fronte alla responsabilità, la prima scelta è purtroppo l'elusione o la fuga. Chi sviluppa nel campo dell'Intelligenza Artificiale elude la responsabilità -responsabilità personale- nascondendosi dietro l'idea che il progresso e la tecnica non possono essere in ogni caso fermati, e che quindi 'se non sviluppassi io questo strumento, lo svilupperebbe comunque un altro tecnico'. Chi sviluppa nel campo dell'Intelligenza Artificiale elude la responsabilità dicendo: 'a noi compete fare ricerca e sviluppo, degli usi se ne occuperà la politica'.

Ed ora ben vengano a togliere di dosso il peso della responsabilità anche le Leggi di Pasquale.

E' una scappatoia: ci si tranquillizza con il rispetto della legge e così ci si deresponsabilizza. Ed anche ci si allontana dal caso singolo: da ciò che io, ricercatore e sviluppatore sto facendo qui ed ora. Ed anche: si rinforza il potere del tecnico - ora legittimato ad agire dal fatto che rispetta le leggi di Pasquale. Ma allo stesso tempo così ogni ricercatore e sviluppatore resta solo, nella comunità di tecnici probabilmente meno orientati di lui all'etica...

Due sono le strade che i tecnici digitali giustamente preoccupati potrebbero adottare. 

Impegnarsi pubblicamente a rinunciare a lavorare in questo campo. 

Tornare a considerare sé stessi cittadini tra i cittadini 

Peccato siano invece restii ad incamminarsi in questa direzione. A quanto sembra non intendono rinunciare ai loro privilegi. Non sembrano disposti ad assumere posizioni veramente critiche all'interno della comunità professionale cui appartengono.

Eppure possiamo dire che di fronte allo spargere fiducia di tanti addetti ai lavori, la risposta politica è spargere cautela. Di fronte a comode leggi che dicono cosa è giusto e cosa è sbagliato, cosa si può fare e cosa non si può fare, la risposta etica è: mi sento responsabile di quello che sto facendo e delle conseguenze delle mie azioni.