giovedì 6 febbraio 2025
'Beyond cyborgs: the cybork idea for the de-individuation of (artificial) intelligence and an emergence-oriented design', articolo apparso su 'AI & Society', 1 febbraio 2025
domenica 21 luglio 2024
L'intelligenza artificiale non è per forza tua amica. Otto domande di Sebastiano Zanolli a proposito del libro 'Splendori e miserie delle intelligenze artificiali'. Newsletter Linkedin 'La Grande Differenza', 21 luglio 2024
Non è facile pensare e tantomeno scrivere. Ci sono anche cose di cui si preferirebbe non parlare, nemmeno con sé stessi. E se non si ripete a pappagallo quello che hanno già detto altri, si sente il peso della solitudine. Resta sempre il dubbio di non aver ben articolato gli argomenti; di non aver offerto un buon servizio al lettore.
In realtà un libro è il dialogo con un lettore disposto a farsi domande.
Grazie quindi a Sebastiano Zanolli per le sue domande. E per questa sua sintesi, che non avrei saputo scrivere con questa chiarezza:
- Il libro è per chiunque voglia pensare con la propria testa, spiegando concetti complessi in modo chiaro e comprensibile, senza bisogno di competenze tecniche avanzate.
- Il libro sfida la visione utopica delle tecnologie digitali, mettendo in guardia contro il cosiddetto "Paradiso tecnologico" e invitando a una valutazione critica e equilibrata delle intelligenze artificiali.
- Varanini sottolinea l'importanza di valorizzare l'esperienza umana, guardando oltre i dati e gli algoritmi, e mantenendo vivo il pensiero critico e la cultura aziendale in un contesto sempre più digitalizzato.
- Non come un manuale tecnico, ma come un viaggio riflessivo su chi siamo e su come possiamo rimanere umani in un mondo sempre più dominato dalle tecnologie.
L'intervista appare sulla newsletter Linkedin La Grande Differenza, 21 luglio 2024
Qui per iscriversi alla Newsletter
Riporto di seguito il testo dell'intervista.
Otto domande a Francesco Varanini sul suo ultimo libro
Francesco, quanto è accessibile il tuo libro Splendori e miserie delle intelligenze artificiali per i non esperti?
Splendori e miserie delle intelligenze artificiali si rivolge alle persone che hanno ancora voglia di pensare con la propria testa. Si rivolge a tutti coloro che capiscono non è tutto oro quello che luccica, e che vogliono capire. Si rivolge a coloro che intuiscono contraddizioni, vedono pericoli, hanno dei dubbi e dei timori, ma magari si vergognano anche a dirlo, perché non si considerano 'esperti'...
Credo sia fuorviante distinguere tra 'esperti' e 'non esperti'. Esistono persone che si impegnano nel pensare. Ed esistono persone che per gli effetti di una cattiva educazione e di una insistente propaganda che impone un falso pensiero bell'e pronto, tendono non fidarsi della propria capacità di pensare. Si affidano così ad 'esperti': ma gli 'esperti' spesso abusano della propria autorità, parlando come esperti di cose di cui non sono esperti; e poi gli 'esperti' sono in realtà portatori di interessi personali: il loro successo professionale dipende dal fatto che i cittadini accettino le cosiddette intelligenze artificiali a scatola chiusa, senza porsi troppe domande.
Considerando che l’IA è argomento complesso, riesci a spiegare i concetti chiave in modo comprensibile anche per chi non ha una formazione tecnica?
Non è così difficile spiegare di cosa si tratti. Quello che spesso manca è la volontà di spiegare. Giova a chi ha interessi da difendere il mostrare le cosiddette intelligenze artificiali come qualcosa di esoterico, comprensibile solo dagli 'esperti', dai 'tecnici'. I tecnici, poi, sono specializzati in un singolo campo. A loro manca la visione generale. Più precisamente si può dire che, con tutto il rispetto loro dovuto, i tecnici digitali sono specializzati nel parlare alle macchine, non nel parlare ai cittadini del modo in cui funzionano le macchine. Se i tecnici non sono in grado di guardare oltre i confini della propria disciplina, a porre in luce le interrelazioni e la complessità dovrebbero essere i filosofi. Ma -come mostro in un capitolo del mio libro- i filosofi, salvo eccezioni, hanno rinunciato a questo ruolo. Non c'è più la filosofia: l'interrogarsi su cosa voglia dire 'essere umano', l'amore per la conoscenza, lo spirito critico, la saggezza. C'è solo una filosofia ancella della tecnica: la filosofia dell'informazione, la filosofia dell'intelligenza artificiale, la filosofia della mente, la filosofia delle neuroscienze...
Quando nella tua domanda mi dici:“comprensibile anche per chi non ha una formazione tecnica” sembra quasi che tu dubiti della possibilità di capire. Sembra quasi che consideri necessario e irreversibile l'affidamento a chi è dotato di “una formazione tecnica”. Non è così!
Dobbiamo tornare a pensare e ad agire fidandoci di noi stessi, dobbiamo tornare a dar valore alla nostra storia personale, alla nostra esperienza – in questa storia e in questa esperienza stanno le chiavi per comprendere il senso profondo di qualsiasi questione tecnica...
Questo è ciò che mostro con il mio libro. E sono convinto che a te, leggendolo, sia venuto in mente un pensiero: 'ma allora, più che da imparare dai tecnici, ho molto da insegnare loro'.
Sì va bene, ma non hai risposto alla domanda. Dimmi in modo comprensibile: cosa è l'IA?
Insisto fin dove possibile nel non usare sigle e nel dire: 'cosiddette intelligenze artificiali'.
Insisto nello scrivere in minuscolo e nell'usare il plurale. Per sottolineare che sotto questa espressione-ombrello -intelligenza artificiale- vengono oggi messe insieme tecniche informatiche diverse. Fino a qualche anno fa ognuna aveva il suo nome, ma ora è comodo riassumere tutto all'ombra di queste due immaginifiche parole.
E sottolineo il 'cosiddette', perché in effetti il termine già in origine non esprimeva nessuna precisione tecnica. Fu coniato con un unico scopo: colpire la pubblica immaginazione. Favorendo così la raccolta di fondi della ricerca e l'ascesa sociale dei cultori di una nuova disciplina: la computer science.
Potrei darti qui, anche in brevi parole, una definizione tecnica. Potrei parlarti di algoritmi, di come funzionano le macchine. Nel libro ovviamente ne parlo.
Ma preferisco dirti in sintesi, prescindendo dagli aspetti tecnici. Le intelligenze artificiali sono macchine progettate per operare indipendentemente dagli esseri umani, e per autosupervisionarsi nel loro funzionamento e nel loro sviluppo.
Splendori e miserie non è l'ennesimo libro che spiega al popolo, considerato come una massa di ignoranti da istruire, le meraviglie delle nuovissime tecnologie. E' al contrario un tentativo di risvegliare le coscienze di noi esseri umani, assopite dall'affidamento a macchine sempre più potenti ed autonome.
Quindi, posso aggiungere che, di fatto, le intelligenze artificiali sono macchine progettate per sostituire gli esseri umani, ed imposte agli esseri umani come specchio del proprio modo di essere e come modello di come dovrebbero essere.
Sono macchine per togliere al posto nostro le castagne dal fuoco. Macchine che nel semplificarci apparentemente la vita ci impoveriscono. Macchine che ci spingono a non assumerci responsabilità.
Nel libro, metti in evidenza il concetto di Paradiso tecnologico. Perché ritieni questo concetto pericoloso?
Metto in guardia contro una comoda via fuga: la via di chi sostiene che bisogna lasciar campo libero all'innovazione, perché le tecnologie ci salveranno. Si dice che lo sviluppo tecnologico porterà vantaggi all’umanità tutta, alla vita sulla Terra, al pianeta. Come le prime comunità cristiane credevano nell’avvento del Regno di Cristo in Terra, qualcuno crede ora nella promessa di un eden tecnologico, felice per tutti.
Il primo problema è che in questa promessa c'è ben poco di vero.
Dietro questa narrazione si nascondono gli interessi economici, e di puro dominio, delle grandi case digitali. Si nasconde il fatto che queste tecnologie provocano già oggi, e provocheranno ancor più negli immediati anni a venire, conflitti sociali, perdite di diritti e di lavoro, aggravamento della forbice tra ricchezza e povertà.
I fautori del Paradiso Tecnologico sostengono che nel lungo periodo tutto si accomoderà. Ci sarà energia a basso costo, ci saranno servizi garantiti e cibo sintetico per tutti... Non è affatto detto che si arrivi a questo. Ma se pure ci si arriverà, non si tratta certo di uno scenario auspicabile. E' lo scenario descritto da Huxley nel romanzo The Brave New World, Il mondo nuovo: un modo dove dietro un'apparente libertà si nasconde una rigida divisione in caste ed un controllo sociale che sradica il pensiero individuale e libero.
Una via di fuga, dicevo, perché è un comodo modo per non assumersi l'onere di governare lo sviluppo dell'industria digitale, qui ed ora. E' un modo per evitare di fare scelte; di di dire: questo sì, questo no; di ammettere che l'industria digitale provoca gravi danni ambientali...
In che modo possiamo guardare ai limiti reali e le potenzialità delle tecnologie digitali, evitando sia un entusiasmo eccessivo che un pessimismo paralizzante?
Per quanto mi riguarda mi preoccupo sopratutto di contrastare l'entusiasmo eccessivo. Perché mi pare questo l'atteggiamento dominante. In realtà non si tratta di sincero entusiasmo dei cittadini, degli utenti, ma di narrazioni accuratamente costruite dai portatori di interessi, tese a convincere i cittadini ad accettare tutto quello che l'industria digitale propone. In fondo, credo di poter dire, la maggior parte dei libri dedicati ad intelligenze artificiali e dintorni hanno per scopo spargere fiducia. Si dice in fondo: fidatevi di noi esperti, perché voi non sapete. Si dice: osservate la bellezza, la meraviglia di queste novità. Si dice: in ogni caso la storia va in questa direzione, fatevene una ragione.
A me sembra che i rischi di un pessimismo paralizzante siano proprio uno degli argomenti usati dai fautori dei una innovazione digitale acritica. Un argomento usato per annichilire i cittadini ed i lavoratori che, in virtù del loro intuito, del loro senso di realtà, vedono problemi ed hanno dubbi. E spesso si vergognano di dirlo, direi anche: si vergognano per averlo pensato. Perché a nessuno piace essere giudicato retrogrado.
Il mio libro si rivolge in modo particolare a questi cittadini accusati di essere retrogradi. Dico loro: la vostra posizione è la più costruttiva e la più saggia. Allo stesso tempo mi rivolgo a chi è oggi disposto ad affidarsi alle nuove tecnologie digitali senza pensare troppo: invito chi ha questo atteggiamento alla cautela ed alla riflessione.
Propongo quindi concretamente un possibile cammino: non rinviare nel tempo la soluzione dei problemi che già oggi queste tecnologie comportano; non scaricare su di altri l'onere di responsabilità che ognuno, nel suo ruolo, può assumersi.
Hai parlato dell’importanza di guardare oltre ciò che un computer può vedere. Puoi spiegare cosa intendi, e come questo approccio potrebbe influenzare lo sviluppo e l’adozione delle tecnologie IA in ambito aziendale?
Piace oggi offrire a manager, lavoratori, cittadini, l'immagine di una crescente potenza del computer: sempre maggiore potenza di calcolo, fino al raggiungimento della cosiddetta intelligenza artificiale. L'invito è ad affidarsi sempre più alla macchina.
Si dice che il manager deve lasciare via via sempre più compiti al computer. Si sostiene che gli
algoritmi aiutano i decisori a risparmiare tempo perché automatizzano le decisioni ad alta frequenza e basso impatto. Ciò aumenta, si dice, l'opportunità di dedicare tempo e sforzi cognitivi a decisioni strategiche a bassa frequenza ed alto impatto.
A questa proposta è facile rispondere che è impossibile definire a priori quali sono le decisioni strategiche più importanti. Perché le decisioni più importanti sono le risposte a fenomeni emergenti, imprevedibili.
L'algoritmo opera sui dati: i dati non descrivono mai in modo esaustivo la realtà. L'algoritmo non è che una procedura basata su un modello. Il modello, per definizione, non è in grado di prevedere ogni possibile evento. L'algoritmo, quindi, non è in grado di rispondere ad eventi catastrofali, o anche semplicemente a necessità di intervento che vengono alla luce, agli occhi del manager, visitando di persona lo stabilimento produttivo, il magazzino, o parlando con i clienti.
Fidandomi della macchina rischio di non vedere ciò che di nuovo ed importante accade. Inoltre, abituandomi ad affidarmi alla macchina, lascio decadere nel tempo la mia stessa capacità di vedere.
Affermi che la cultura digitale debba essere decostruita per osservarne le miserie. Puoi fornire esempi concreti di come questa decostruzione possa avvenire nella pratica quotidiana di un’azienda tecnologica?
Per essere precisi, non uso il uso il verbo decostruire nel testo del libro; lo uso, in un tentativo di sintesi forse fuorviante, nel risvolto di copertina. Intendo semplicemente dire: leggere criticamente, non lasciarsi incantare dalla propaganda e della più comune delle affermazioni: 'queste tecnologie sono arrivate per restare'. Come a dire: dobbiamo accettarle per forza; dobbiamo adattarci. Non credo sia così. Penso che sia possibile, o anzi, spero, probabile, che tra cento o duecent'anni ci guarderemo indietro e diremo: oh come eravamo insensati quando pensavamo conveniente affidare i compiti più difficili a macchine in più possibile indipendenti da noi!
Nella pratica quotidiana di ogni azienda, tecnologica o non tecnologica, questo vuol dire innanzitutto scegliere oculatamente i modo di formare le persone a vivere la trasformazione digitale. Il modo comune è insegnare l'adattamento: insegnare ad usare passivamente ogni nuovo strumento prodotto da tecnologi lontani dalla vita della singola azienda, dalla sua cultura, del suo business.
C'è un modo differente: mostrare i limiti degli strumenti, i loro rischi, insegnare come mantenere viva la cultura aziendale, e gli spazi di libertà individuali, nonostante la presenza di strumenti digitali che tendono ad imporre una uniformazione universale.
Sostengo nel libro che questa formazione 'a rovescio' serve nelle aziende. E serve ad ogni cittadino, per mantenere vivi il senso di responsabilità ed il libero arbitrio, per non essere ridotto a utente passivo di servizi preconfezionati.
Un'ultima domanda. Una curiosità personale. Il sottotitolo del libro aggiunge una precisazione che sembra significativa: alla luce dell'umana esperienza. Mi sembra tu parli dell'esperienza soggettiva, dell'esperienza che ogni persona fa 'sulla propria pelle', interagendo con le macchine digitali, con le intelligenze artificiali in particolare...
Sì, è proprio così. La cultura tecnico-scientifica spinge a guardare le cose, a osservare il mondo, nel modo più oggettivo possibile. Le idiosincrasie, gli aspetti distintivi di una persona, la sua cultura e i suoi valori sono considerati difetti. Ma questa è proprio la via che ci porta ad essere sempre più simili a macchine, ad intelligenze artificiali.
Siccome il mio intento è ricordarci chi siamo, riscoprire spazi per noi stessi, noi umani, in questo contesto dove le macchine digitali sono presenti, allora il punto di partenza sta proprio nel narrare le esperienze personali. E così racconto di come mi sono sentito quella volta in cui ho interagito con Chat GPT a proposito di un argomento che mi stava veramente a cuore.
Siamo spinti a considerare rilevante solo a ciò che è codificabile, computabile. Ma così buttiamo via una parte significativa della nostra storia, dei nostri valori. Ci sono cose che riusciamo a dire solo attraverso narrazioni lontanissime dalla codifica digitale. Uno dei capitoli del mio libro è scritto in versi, è una poesia. Non è un gratuito esercizio. Solo così riuscivo a dire certe cose. Un altro capitolo è una lettera personale ad un esperto che stimo al di là delle differenze di posizione.
Il mio libro è un invito a continuare ad essere noi stessi, appunto dando valore alle nostre esperienze, evitando di farci 'dettare l'agenda' da intelligenze artificiali.
sabato 29 giugno 2024
Varie brevi riflessioni, intorno ai temi trattati nel libro 'Splendori e miserie delle intelligenze artificiali', e intorno ai temi sui quali mi interrogo in questo blog
Brevi riflessioni pubblicate come post su Linkedin.
L'usignolo meccanico, fiaba di Anderson, commento di Janine Chasseguet-Smirgel
Il CEO di Cisco e le iniziative vaticane come comoda propaganda
Nel 1969 Rudolf Arnheim spiegava che la cosiddetta 'intelligenza artificiale'...
Emily Bender e i pappagalli stocastici (per lo più maschi)
Umano essere-nel-mondo o sostituzione digitale
La libertà di non essere digitali, ovvero il digitale alla prova della sostenibilità
GPT: una confutazione poetica
La conversione di Yoshua Bengio
Qualcuno crede di essere capace di costruire robot dotati di 'saggezza artificiale'
Dieci possibili impegni per un 'digitale' sostenibile
Noi umani non cederemo la responsabilità della cura a una macchina
Wittgenstein: "Vogliamo camminare; dunque abbiamo bisogno dell’attrito. Torniamo sul terreno accidentato!"
Trent'anni fa leggevamo il libro di Negroponte 'Essere digitali'. Oggi...
Gli studenti del MIT di sessant'anni fa erano ben più fortunati degli studenti di oggi: 'Il Mulino di Amleto'
Perché la lezione di Epimeteo è più importante della lezione di Prometeo
Esperienza: vedere con i propri occhi l'opera d'arte
Le intelligenze artificiali non hanno accesso a ciò che non è digitalizzato
La formazione degli esseri umani e l'apprendimento delle macchine
Algor-etica: un concetto sgangherato ed equivoco
Papa Francesco parla di intelligenza artificiale
Il paradosso di Nishida: affidandosi alla macchina si rinuncia all'esperienza
Michael Polanyi e la conoscenza umana, inattingibile per la macchina
Marcel Mauss: la tecnica è innanzitutto usare consapevolmente il proprio corpo
Perché i non giovani capiscono la cultura digitale meglio dei giovani
L'intelligenza artificiale come fuga dalla responsabilità personale
Stampa e intelligenza artificiale. Due salti tecnologici. Ma il paragone è improponibile
Judea Pearl, l'intelligenza artificiale causale e le macchine morali
Scott Aaronson e la sicurezza di GPT5
Intelligenze artificiali come metafora di sudditanza e di attesa di soccorso
Oscilliamo tra miseria e splendore. Miseria: affidarsi alla macchina. Splendore: la bellezza in noi, speriamo di vederla nella macchina.
'Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza', Guerini e Associati, in libreria dal 24 maggio 2024
Il tema del libro in tre frasi
Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce.
Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire.
Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità.
Uno degli argomenti che tratto nel libro
C'è un'inquietudine che mi muove. Continuo a venire a conoscenza delle opinioni di seri ricercatori. Essi dicono, sinceramente e con piena convinzione, cose del tipo:
"Una caratteristica distintiva dei sistemi di AI è questa: potranno prendere decisioni su basi etiche. Distinguere il bene dal male".
Nel libro discuto questa posizione, che -lo ammetto- mi scandalizza. Il fondamento della posizione sta nel far riferimento a studi di scienze cognitive. In base a quale presupposto studiosi di scienze cognitive pretendono di sapere cosa è il bene e il male, e cosa è l'etica, in base a un ancoraggio che guida la loro ricerca. L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. Il ricercatore stesso si allontana dal proprio essere umano.
Un altro argomento
L’immaginare di sostituire l’essere umano con una macchina è contrabbandare l’informazione per conoscenza.
La Transizione Digitale -che termina in una immagine conclusiva: l'Intelligenza Artificiale- è il punto di svolta di una svalutazione dell’umano. Perché costituisce la pretesa di sostituire all’esperienza umana i dati. I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano che sta maturando esperienze. L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato.
Un conto è l’informazione - che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza - che è il frutto dell’umana esperienza
Una descrizione dei temi il libro
Splendori e miserie. C'è qualcosa di davvero splendido nelle promesse digitali - il cui culmine e la cui sintesi sembra ormai definitivamente riassumersi in un sostantivo ed in un aggettivo: Intelligenza Artificiale. Qualcosa di luminoso, scintillante. Sontuoso, grandioso, nobile. Ma c'è anche qualcosa di misero.
Siamo assillati da notizie che cantano le meravigliose capacità di intelligenze artificiali, e ci invitano ad affidarci ad esse. Ma sappiamo che il rischio di assuefazione e dipendenza è dietro l'angolo. Per noi e per i nostri figli, per i nostri posteri.
Perché ci impegniamo nell'insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano? Perché impegnarsi in progetti che consistono nell'ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina?
Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi?
Siccome l'innovazione appare inarrestabile, si sceglie di abbracciarla. Pare che l'unica scelta possibile consista nello sforzarsi di vederne gli aspetti positivi.
Credo invece si possa combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile.
Credo sia possibile dare risposte. Credo che in ogni caso convenga continuare a porci domande. Anche se non abbiamo immediate risposte.
La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole.
Un'altra descrizione - che mi sembra migliore della precedente
Anche i computer scientist ed i vari esperti che ci parlano di novità digitali hanno un'anima, una storia personale, un vissuto di dolori e di sogni. Gli strumenti ed i sistemi digitali, compreso tutto ciò che passa oggi sotto il nome di Intelligenze Artificiali, nascono in queste zone segrete, frutto di motivazioni profonde e non di rado inconfessate.
Per cercare di capire cosa significhino, e cosa nascondano, le Intelligenze Artificiali che con tanta insistenza vengono oggi propoposte ad ogni cittadino, non conviene quindi dar troppo credito alle spiegazioni tecniche e alle divulgazioni. Serve anzi ricordare che qualcosa, in queste narrazioni, resta sempre celato.
Per comprendere, conviene invece dare valore all'esperienza personale di ognuno di noi. Cosa vuol dire per me ricorrere ad una Intelligenza Artificiale? Quali sensazioni provo mentre mi affido a lei?
Scopriremo allora che le Intelligenze Artificiali rappresentano l'illusoria speranza di un facile modo per scaricare dalle proprie spalle il peso di responsabilità che ci paiono troppo gravose.
E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica.
Osservando con sguardo critico gli splendori e le miserie di ogni nuovissimo mezzo digitale, potremo tornare a guardare, e a dar valore, a ciò che siamo già capaci di fare, a mente libera e a mani nude, un attimo prima di cercare l'ausilio di una macchina.
Una terza descrizione
Oscilliamo tra miseria e splendore. La MISERIA sta nel non voler vedere ciò che ci turba e ci preoccupa. Sta nel sottovalutare le nostre doti e nello sprecarle.
La rincorsa al vano SPLENDORE sta nel proiettarsi nell'immagine di chi è vestito broccato d’oro e porpora, con una ghirlanda di giacinti rossi in testa, una collana d’oro. Una immagine alla quale aneliamo, ma che sappiamo lontanissima da ciò che vediamo se ci guardiamo allo specchio.
Di questi tempi, entrambe le immagini ci portano a credere nella potenza di cosiddette intelligenze artificiali. Ad affidarci a loro. Perché ci illudiamo possano vedere e agire al posto nostro. Perché se non possiamo vedere bellezza in noi, cerchiamo di vederla nella macchina.
Diamo alla macchina un nome splendido per nascondere ogni miseria.
Che fare? Nel mio libro SPLENDORI E MISERIE DELLE INTELLIGENZE ARTIFICIALI propongono una via.
- Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. Senza rinunciare al nostro corpo. Senza considerare la nostra mente separata dal corpo.
- Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole 'Intelligenza Artificiale'con lo sguardo dell’essere umano che contribuisce a costruire il mondo che abita. Con lo sguardo del cittadino che, disposto ad assumersi responsabilità, non cessa di porsi domande. Con lo sguardo di ognuno di noi, intento a vivere esperienze.
La saggezza umana sta nell’accettare la situazione, nell’apprendere a leggerla e a viverla. Senza arrendersi però al fato, a ciò che ci è comodo definire inevitabile. La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine.
mercoledì 1 maggio 2024
L'usignolo e la sua imitazione digitale
La fiaba di Andersen L'usignolo meccanico pone in modo esemplare la questione della povertà delle imitazioni digitali della vita e della natura.
Accettate che dica qui, senza definire ulteriormente, vita e natura: cercare definizioni è fuggire dall'argomento e rifiutare la dimensione autocritica, autobiografica, personale della riflessione. Voi che mi leggete siete esseri umani - se mi legge qualche entità digitale a suo modo, in qualche maniera, senziente, non mi interessa. Accettate quello che vi dice questa narrazione, che ha radici antiche, ed è allo stesso capace di illuminare il nostro presente.
Questa narrazione avrà un ruolo particolarmente importante in un libro che vado scrivendo, secondo tomo del Trattato di Informatica Umanistica, seguito del primo tomo Macchina per pensare.
Trascrivo di seguito una versione della fiaba, dove sono intercalati mie glosse: provvisori primi abbozzi di un commento che sto scrivendo.
In Cina, lo sai bene, l'imperatore è un cinese e anche tutti quelli che lo circondano sono cinesi. La storia è di molti anni fa, ma proprio per questo vale la pena di sentirla, prima che venga dimenticata. Il castello dell'imperatore era il più bello del mondo, tutto fatto di finissima porcellana, costosissima ma così fragile e delicata, che, toccandola, bisognava fare molta attenzione. Nel giardino si trovavano i fiori più meravigliosi, e a quelli più belli erano state attaccate campanelline d'argento che suonavano cosicché nessuno passasse di lì senza notare quei fiori. Sì, tutto era molto ben progettato nel giardino dell'imperatore che si estendeva talmente che neppure il giardiniere sapeva dove finisse. Se si continuava a camminare, si arrivava in uno splendido bosco con alberi altissimi e laghetti profondi. Il bosco terminava vicino al mare, azzurro e profondo; grandi navi potevano navigare fin sotto i rami del bosco e tra questi viveva un usignolo, e cantava in modo così meraviglioso che persino il povero pescatore, che aveva tanto da fare, sentendolo cantare si fermava a ascoltarlo, quando di notte era fuori a tendere le reti da pesca. «Oh, Signore, che bello!» diceva, poi doveva stare attento al suo lavoro e dimenticava l'uccello.
LA BELLEZZA NON DISTOGLIE, NON FA DIMENTICARE IL LAVORO
Ma la notte successiva, quando questo ancora cantava, il pescatore che usciva con la barca, esclamava: «Oh, Signore, che bello!».
Alla città dell'imperatore giungevano stranieri da ogni parte del mondo, per ammirare la città stessa, il castello e il giardino; quando però sentivano l'usignolo, dicevano tutti: «Questa è la meraviglia più grande!».
I viaggiatori poi, una volta tornati a casa, raccontavano tutto, e le persone istruite scrissero molti libri sulla città, sul castello e sul giardino, ma non dimenticarono mai l'usignolo, anzi l'usignolo veniva prima di tutto il resto, e quelli che sapevano scrivere poesie scrissero i versi più belli sull'usignolo del bosco, vicino al mare profondo.
NARRAZIONE, TRADIZIONE POPOLARE, NON C’E’ FILTRO DEL POTERE,
ESPERIENZA CHE DIVIENE CONOSCENZA
Quei libri girarono per il mondo e alcuni giunsero fino all'imperatore. Seduto sul trono d'oro, leggeva continuamente, facendo ogni momento cenni di assenso con la testa, perché gli piaceva ascoltare le splendide descrizioni della città, del castello e del giardino. "Ma l'usignolo è la cosa più bella" c'era scritto.
«Che cosa?» esclamò l'imperatore. «L'usignolo? Non lo conosco affatto! Esiste un tale uccello nel mio regno, e per di più nel mio giardino! Non l'ho mai saputo! E bisogna leggerlo per saperlo!»
MURI DI CARTA E D’IINCENSO
Così chiamò il suo luogotenente che era così distinto che, se qualcuno inferiore a lui osava rivolgergli la parola o chiedergli qualcosa, non diceva altro che: «P...!», il che non significa nulla.
«Qui dovrebbe esserci un uccello meraviglioso chiamato usignolo» spiegò l'imperatore. «Si dice che sia la massima meraviglia del mio grande regno. Perché nessuno me ne ha mai parlato?»
«Non l'ho mai sentito nominare prima d'ora» rispose il luogotenente «non è mai stato introdotto a corte.»
«Voglio che venga qui stasera a cantare per me» concluse l'imperatore. «Tutto il mondo sa che cosa possiedo e io non lo so!»
«Non l'ho mai sentito nominare prima d'ora!» ripetè il luogotenente «farò in modo di trovarlo.»
Ma dove? Il luogotenente corse su e giù per le scale e attraversò saloni e corridoi; nessuno di quelli che incontrava aveva mai sentito parlare dell'usignolo, così il luogotenente tornò di corsa dall'imperatore e gli disse che doveva essere un'invenzione di chi aveva scritto i libri.
«Sua Maestà Imperiale non deve credere a quello che si scrive! È certamente un'invenzione fatta con quella che si chiama magia nera.»
CONTROLLO DELL’APPARATO. IMPERATORE PRIGIONIERO.
LA STORIA DELLA TECNICA SI INQUADRA NELLA STORIA DELLA POLITICA
«Ma quel libro in cui l'ho letto» disse l'imperatore «mi è stato inviato dal potente imperatore del Giappone, quindi non può essere falso. Voglio sentire quell'usignolo! Dev'essere qui stasera! Sarà ammesso nelle mie grazie! Se invece non viene, tutta la corte sarà picchiata sulla pancia dopo cena!»
«Tsing-pe!» rispose il luogotenente e ricominciò a correre su e giù per le scale, e attraverso saloni e corridoi, e metà della corte correva con lui, dato che non volevano essere picchiati sulla pancia. Si sentiva chiedere soltanto dello straordinario usignolo che tutto il mondo conosceva eccetto quelli della corte.
Alla fine trovarono una povera fanciulla in cucina che disse: «O Dio! L'usignolo: lo conosco, e come canta bene. Ogni sera ho il permesso di portare un po' degli avanzi a casa, alla mia povera mamma malata che vive giù vicino alla spiaggia, e quando al ritorno, stanca, mi fermo a riposare nel bosco, sento cantare l'usignolo. Mi vengono le lacrime agli occhi, è come se la mia mamma mi baciasse!».
SAGGEZZA POPOLARE COME FONTE ETICA
«Povera sguattera» esclamò il luogotenente «ti darò un posto fisso in cucina e ti permetterò di assistere al pranzo dell'imperatore se ci porterai dall'usignolo, dato che è stato convocato per questa sera.»
Così tutti si diressero nel bosco, dove di solito cantava l'usignolo; c'era mezza corte. Sul più bello una mucca cominciò a muggire.
«Oh!» dissero i gentiluomini di corte «eccolo! C'è una forza straordinaria in un animale così piccolo; certo l'ho sentito prima!»
«No! Sono le mucche che muggiscono» spiegò la piccola sguattera «siamo ancora lontani.»
Allora le rane gracidarono nello stagno.
«Bello!» disse il cappellano di corte cinese «ora lo sento, sembrano tante piccole campane!»
«No! Sono le rane» esclamò la fanciulla. «Sentite, sentite! Eccolo lì» e indicò un piccolo uccello grigio trai rami.
«È possibile?» disse il luogotenente «non me lo sarei mai immaginato così. Come è modesto! Ha certamente perso i suoi colori nel vedersi intorno tanta gente distinta.»
«Piccolo usignolo!» gridò la fanciulla a voce alta «il nostro clemente imperatore desidera che tu canti per lui!»
«Volentieri!» rispose l'usignolo, e cantò che era un piacere sentirlo .
«È come se fossero campane di vetro!» commentò il luogotenente. «E guardate quella piccola gola, come si sforza! È stranissimo che non l'abbiamo mai sentito prima! Avrà sicuramente successo a corte.»
VISIONE RIDOTTA DAL POTERE
«Devo cantare ancora una volta per l'imperatore?» chiese l'usignolo, convinto che l'imperatore fosse presente.
«Mio eccellente usignolo!» disse il luogotenente «ho il grande piacere di invitarla a una festa a corte, questa sera, dove lei incanterà la Nostra Altezza Imperiale con il suo affascinante canto!»
«È meglio tra il verde!» rispose l'usignolo,
NATURA SPINOZA
ma li seguì ugualmente volentieri quando seppe che l'imperatore lo desiderava.
Al castello avevano fatto grandi preparativi. Le pareti e i pavimenti, che erano di porcellana, brillavano, illuminati da migliaia di lampade d'oro; i fiori più belli, quelli che tintinnavano, erano stati messi lungo i corridoi; c'era un correre continuo e una forte corrente d'aria, e così tutte le campanelline si misero a suonare e non fu più possibile capire niente.
TRIVIALITA’ DELL’ARTIFICIALE
In mezzo al grande salone dove stava l'imperatore era stato collocato un trespolo d'oro, su cui l'usignolo doveva posarsi c'era tutta la corte, e la piccola sguattera aveva avuto il permesso di stare dietro alla porta, dato che era stata insignita del titolo di "sguattera imperiale."
Tutti indossavano i loro abiti migliori e tutti guardarono quel piccolo uccello grigio che l'imperatore salutò con un cenno.
L'usignolo cantò così deliziosamente che l'imperatore si commosse, le lacrime gli corsero lungo le guance, allora l'usignolo cantò ancora meglio e gli andò dritto al cuore. L'imperatore era così soddisfatto che diede ordine che l'usignolo portasse intorno al collo la sua pantofola d'oro. L'usignolo ringraziò ma disse che aveva già avuto la sua ricompensa.
«Ho visto le lacrime negli occhi dell'imperatore, questo è il tesoro più prezioso per me. Le lacrime di un imperatore hanno una potenza straordinaria. Dio sa che sono già stato ricompensato!» E cantò di nuovo con la sua dolcissima voce.
DONO (INCOMPRESO)
«È la più amabile civetteria che io conosca!» dissero le dame di corte e si misero dell'acqua in bocca per fare glug, quando qualcuno avesse rivolto loro la parola, così credevano di essere anche loro degli usignoli. Anche i lacchè e le cameriere cominciarono a essere soddisfatti, e questa non è cosa da poco perché sono le persone più diffìcili da soddisfare. Sì, l'usignolo portò davvero la gioia!
Ora sarebbe rimasto a corte, in una gabbia tutta d'oro e con la possibilità di passeggiare due volte di giorno e una volta di notte. Ebbe a disposizione dodici servitori e tutti avevano un nastro di seta con cui lo tenevano stretto, dato che i nastri erano legati alla sua zampina. Non era certo un divertimento fare quelle passeggiate!
TECNICA COME NATURA INGABBIATA
GABBIA D’ORO NON NASCONDE GABBIA. TECNICA POSTA AL SERVIZIO DEL POTERE.
Tutta la città parlava di quel meraviglioso uccello, e quando due persone si incontravano uno non diceva altro che: «Usi» e l'altro rispondeva: «Gnolo!» e poi sospiravano comprendendosi reciprocamente; undici figli di droghieri ricevettero il nome di quell'uccello, ma non
uno di essi ebbe il dono di cantare bene.
Un giorno arrivò un grande pacco per l'imperatore, con scritto sopra: "Usignolo."
«È sicuramente un nuovo libro sul famoso uccello!» esclamò l'imperatore; ma non era un libro, era invece un piccolo oggetto chiuso in una scatola: un usignolo meccanico, che doveva somigliare a quello vivo ma era ricoperto completamente di diamanti, rubini e zaffiri. Non appena lo si caricava, cominciava a cantare uno dei brani che anche quello vero cantava, e intanto muoveva la coda e brillava d'oro e d'argento.
GEMELLO DIGITALE
Intorno al collo aveva un piccolo nastro su cui era scritto: "L'usignolo dell'imperatore del Giappone è misero in confronto a quello dell'imperatore della Cina."
«Che bello!» dissero tutti, e colui che aveva portato quell'usignolo meccanico ebbe il titolo di Portatore imperiale di usignoli.
«Ora devono cantare insieme! Chissà che duetto!»
Cantarono insieme, ma non andò molto bene, perché il vero usignolo cantava a modo suo, quello meccanico invece funzionava per mezzo di cilindri. «Non è colpa sua!» spiegò il maestro di musica «tiene bene il tempo e segue in tutto la mia scuola!»
ARGOMENTO DI TURING SUL LIVELLARE L’UOMO ALLA MACCHINA
MACCHINA REPLICA ESEGUE PROGRAMMA
Così l'usignolo meccanico dovette cantare da solo. Ebbe lo stesso successo di quello vero, ma era molto più bello da guardare: brillava come i braccialetti e le spille.
SOSTITUZIONE DEL DIGITALE AL NATURALE.
PROPAGANDA A FAVORE DELLA BELLEZZA DIGITALE
Cantò per trentatré volte sempre lo stesso pezzo e non era affatto stanco; la gente lo avrebbe ascoltato volentieri di nuovo, ma l'imperatore pensò che ora avrebbe dovuto cantare un po' l'usignolo vero... ma dov'era finito? Nessuno aveva notato che era volato dalla finestra aperta, verso il suo verde bosco.
«Guarda un po'!» esclamò l'imperatore; e tutta la corte si lamentò e dichiarò che l'usignolo era un animale molto ingrato. «Ma abbiamo l'uccello migliore!» dissero, e così l'uccello meccanico dovette cantare ancora e per la trentaquattresima volta sentirono la stessa melodia, ma non la conoscevano ancora completamente, perché era molto difficile, il maestro di musica lodò immensamente l'uccello e assicurò che era migliore di quello vero, non solo per il suo abbigliamento e i bellissimi diamanti, ma anche internamente.
«Perché, vedete, Signore e Signori, e prima di tutti Vostra Maestà Imperiale, con l'usignolo vero non si può mai prevedere quale sarà il suo canto; in questo uccello meccanico invece tutto è stabilito. Così è e non cambia! Ci si può rendere conto di come è fatto, lo si può aprire e si può capire come sono collocati i cilindri, come funzionano e come si muovono, uno dopo l'altro.»
BELLEZZA SOTTO CONTROLLO. NORMALIZZAZIONE DELLA BELLEZZA OVVERO NEGAZIONE DELLA BELLEZZA
«È proprio quello che penso anch'io!» esclamarono tutti, e il maestro di musica ottenne il permesso, la domenica successiva, di mostrare l'uccello al popolo. «Anche loro devono sentirlo cantare» disse l'imperatore, e così lo sentirono e si divertirono tantissimo, come si fossero ubriacati di tè, il che è una cosa prettamente cinese. Tutti esclamarono: "Oh!" e alzarono in aria il dito indice, che chiamano "leccapentole," e assentirono col capo. Ma i poveri pescatori che avevano sentito l'usignolo vero, dissero: «Canta bene, e assomiglia all'altro, ma manca qualcosa, anche se non so che cosa!».
ANCORA SAGGEZZA E LIBERTA’ DI GIUDIZIO POPOLARE
Il vero usignolo venne bandito da tutto l'impero.
SOSTITUZIONE E RIMOZIONE
L'uccello meccanico fu posto su un cuscino di seta vicino al letto dell'imperatore; tutti i regali che aveva ricevuto, oro e pietre preziose, gli furono messi intorno, e gli fu dato il titolo di "Cantore imperiale da comodino";
NATURA RIDOTTA A GADGET SOTTO CONTROLLO
nel protocollo fu messo al primo posto a sinistra, perché l'imperatore considerava quel lato più nobile, essendo il lato del cuore: e anche il cuore di un imperatore infatti sta a sinistra. Il maestro di musica scrisse venticinque volumi sull'uccello meccanico, molto eruditi e lunghi e espressi con le parole cinesi più diffìcili, che tutti dissero di aver letto e capito, perché altrimenti sarebbero parsi sciocchi e sarebbero stati picchiati sulla pancia.
ESOTERISMO DELLA TECNICA COME FORMA DI POTERE ESCLUDENTE
Passò così un anno intero; l'imperatore, la corte e tutti gli altri cinesi conoscevano ogni minimo suono della canzone dell'uccello meccanico, e proprio per questo pensavano che fosse così bella:
CONDIZIONAMENTO SOCIALE E COGNITIVO
infatti potevano cantarla anche loro, insieme all'uccello, e così facevano. I ragazzi di strada cantavano: «Zi zi zi! giù giù giù!» e lo stesso cantava l'imperatore. Era proprio bello!
Ma una sera, mentre l'uccello meccanico cantava meglio che poteva, e l'imperatore era a letto a ascoltarlo, si sentì svup!; nell'uccello era saltato qualcosa: trrrr! tutte le ruote girarono, e poi la musica si fermò.
L'imperatore balzò fuori dal letto e chiamò il suo medico, ma a che cosa poteva servire? Allora chiamò l'orologiaio che, dopo molti discorsi e visite, rimise in sesto in qualche modo l'uccello, ma disse che bisognava risparmiarlo il più possibile, perché aveva i congegni consumati e non era possibile metterne di nuovi senza rischiare di rovinare la musica. Fu un grande dolore! Si poteva far suonare l'uccello meccanico solo una volta l'anno, e con fatica, ma il maestro di musica tenne un discorso con parole difficili e disse che tutto era uguale a prima, e difatti tutto fu uguale a prima.
LIMITI DELLA TECNICA RISPETTO ALLA NATURA
Passarono cinque anni e tutto il paese ebbe un grande dolore perché in fondo tutti amavano il loro imperatore; e lui era malato e non sarebbe vissuto a lungo, si diceva; un nuovo imperatore era già stato scelto e il popolo si riuniva per la strada e chiedeva al luogotenente come stava il loro imperatore.
«P!» diceva lui scuotendo il capo.
L'imperatore stava pallido e gelido nel suo grande e meraviglioso letto. Tutta la corte lo credeva morto e tutti corsero a salutare il nuovo imperatore; i servitori uscirono per parlare dell'avvenimento e le cameriere s'erano trovate in compagnia per il caffè. In tutti i saloni e i corridoi erano stati messi a terra dei drappeggi, affinché non si sentisse camminare nessuno, e per questo motivo c'era silenzio, molto silenzio. Ma l'imperatore non era ancora morto; rigido e pallido stava nel suo bel letto con le lunghe tende di velluto e i pesanti fiocchi dorati. In alto c'era la finestra aperta e la luna illuminava l'imperatore e l'uccello meccanico.
Il povero imperatore non riusciva quasi a respirare, era come se avesse qualcosa sul petto; spalancò gli occhi e vide che la morte sedeva sul suo petto e s'era messa in testa la sua corona d'oro. In una mano teneva la spada d'oro e nell'altra una splendida insegna; tutt'intorno, dalle pieghe delle grandi tende di velluto del letto, comparivano strane teste, alcune orribili, altre molto dolci: erano tutte le azioni buone e cattive dell'imperatore, che lo guardavano, ora che la morte poggiava sul suo cuore.
«Ti ricordi?» sussurrarono una dopo l'altra. «Ti ricordi?» e gli raccontarono tante e tante cose che il sudore gli colava dalla fronte.
«Non l'ho mai saputo!» diceva l'imperatore. «Musica musica, il grande tamburo cinese!» gridava «per non sentire quello che dicono!»
Ma loro continuarono e la morte faceva di sì con la testa a tutto quello che veniva detto.
«Musica! Musica!» gridò l'imperatore. «Tu, piccolo uccello d'oro canta, forza, canta! Ti ho dato oro e oggetti preziosi, ti ho appeso personalmente la mia pantofola d'oro al collo, canta dunque, canta!»
Ma l'uccello stava zitto, non c'era nessuno che lo caricasse e quindi non poteva cantare.
L’OGGETTO TECNICO RESTA IN OGNI CASO DIPENDENTE DAL SOGGETTO UMANO
NON C’E’ COMUNE APPARTENENZA COME NELLA NATURA NATURANS DI SPINOZA.
La morte invece continuò a guardare l'imperatore con le sue enormi orbite cave, e stava in silenzio, in un silenzio spaventoso.
In quel momento si sentì vicino alla finestra un canto mirabile; era il piccolo usignolo vivo che stava seduto sul ramo lì fuori; aveva sentito delle sofferenze dell'imperatore e era accorso per infondergli col canto consolazione e speranza. Mentre lui cantava, quelle immagini diventavano sempre più tenui, il sangue si mise a scorrere con più forza nel debole corpo dell'imperatore, e la morte stessa si mise a ascoltare e disse: «Continua, piccolo usignolo, continua!».
«Solo se mi darai la bella spada d'oro, se mi darai quella ricca insegna, se mi darai la corona dell'imperatore!»
E la morte gli diede ogni cimelio in cambio di una canzone, e l'usignolo continuò a cantare, e cantò del tranquillo cimitero dove crescevano le rose bianche, dove l'albero di sambuco profumava e dove la fresca erbetta veniva innaffiata dalle lacrime dei sopravvissuti; allora la morte sentì nostalgia del suo giardino e volò via, come una fredda nebbia bianca, fuori dalla finestra.
NELLA NATURA NON C’E’ MORTE
«Grazie, grazie!» disse l'imperatore. «Piccolo uccello celeste, ti riconosco! Ti avevo bandito dal mio regno e ciò nonostante col tuo canto hai allontanato le cattive visioni dal mio letto, e hai scacciato la morte dal mio cuore. Come potrò ricompensarti?»
«Mi hai già ricompensato!» rispose l'usignolo. «Ho avuto le tue lacrime la prima volta che ho cantato per te, non lo dimenticherò mai! Questi sono i gioielli che fanno bene al cuore di chi canta! Ma adesso dormi e torna a essere forte e sano: io canterò per te.»
DONO
Cantò di nuovo, e l'imperatore cadde in un dolce sonno, in un sonno tranquillo e ristoratore.
Il sole entrava dalla finestra quando lui si svegliò, guarito e pieno di forza; nessuno dei suoi servitori era ancora tornato perché credevano che fosse morto, ma l'usignolo era ancora lì a cantare.
«Dovrai restare con me per sempre!» disse l'imperatore. «Canterai solo quando ne avrai voglia, e io farò in mille pezzi l'uccello meccanico.»
«Non farlo!» gridò l'usignolo. «Ha fatto tutto il bene che poteva. Conservalo come prima.
TECNICA ACCETTATA, COLLOCATA AL SUO POSTO
Io non posso vivere al castello, ma permettimi di venire quando ne ho voglia, allora ogni sera mi poserò su quel ramo vicino alla finestra e canterò per te, perché tu possa essere felice e riflettere un po'.
LIBERTA’ UMANA
COMPASSIONE, SIMPATIA
CANTO: NARRAZIONE E ORIGINE DELLA LETTERATURA
Ti canterò delle persone felici e di quelle che soffrono. Ti canterò del bene e del male intorno a te che ti viene tenuto nascosto. L'uccellino che canta vola ovunque, dal povero pescatore alla casa del contadino, da tutti quelli che sono lontani da te e dalla tua corte. Io amo il tuo cuore più della tua corona, anche se la corona ha qualcosa di sacro intorno a sé. Verrò a cantare per te! Ma mi devi promettere una cosa.»
«Qualunque cosa!» rispose l'imperatore, ritto negli abiti imperiali che aveva indossato da solo, la pesante spada d'oro sul cuore.
«Ti chiedo una sola cosa! Non raccontare a nessuno che hai un uccellino che ti riferisce tutto, così le cose andranno molto meglio!»
RELAZIONI SOCIALI VOLONTARIE DEPURATE DAL POTERE. NON POTRANNO MAI ESSERE SOSTITUITE DAI ‘DATI’
E l'usignolo volò via.
I servitori entrarono per vedere il loro imperatore morto; restarono impalati quando l'imperatore disse: «Buongiorno!».
lunedì 15 aprile 2024
I pappagalli sono (salvo eccezione) maschi
Non possiamo dimenticare il tweet di Sam Altman, CEO di Open AI, il 4 dicembre 2022, nei giorni del lancio di GPT3: «I am a stochastic parrot, and so r u», Sono un pappagallo stocastico, e anche tu lo sei.
Sarà capitato anche a voi, in quest'ultimo anno di assistere a presentazioni convegni che cantano le meraviglie di GPT. Avrete notato che non manca mai una frase, una slide, che recita: GPT NON E' UN PAPPAGALLO STOCASTICO.
Tutti costoro si accodano ad Altman. Atto di fede, dichiarazione di appartenenza alla comunità degli addetti ai lavori, difesa del territorio e del mercato di fronte a chi aveva detto che il re è nudo: Emily Bender On the Dangers of Stochastic Parrots, l'articolo di Emily Bender (e di ricercatrici di Google che pagarono caro questo gesto) era uscito nel marzo del 2021, e metteva in luce in anticipo diversi aspetti critici di GPT. Ma sopratutto uno: I PAPPAGALLI SONO PERICOLOSI.
GPT è un pappagallo, pronuncia parole di cui non conosce minimamente il senso. Dunque per noi umani credere che questi modelli linguistici siano effettivamente intelligenti significa svalutarsi, per corrispondere a ciò che il modello linguistico può fare. Come ho già scritto su questo blog, e come scrivo nel mio libro Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, Guerini e Associati, in libreria nel maggio 2024, l'arrogante chiamata di Altman a negare per principio le critiche, vantandosi di essere pappagalli, è un atteggiamento tipicamente maschile. Di fronte alle promesse mirabolanti della cosiddetta 'intelligenza artificiale generativa', le donne sono più caute e dubbiose. In fin dei conti, loro sanno meglio dei maschi cosa vuol dire veramente 'generare' (ho argomentato in modo più approfondito a questo proposito nel mio libro Le Cinque Leggi Bronzee dell'Era Artificiale. E perché ci conviene trasgredirle, pp. 232-233).
venerdì 17 novembre 2023
Perché i non giovani capiscono la cultura digitale meglio dei giovani
Si parla frequentemente di come il mondo in cui viviamo non sia un mondo per vecchi.
Eppure dovremmo invece ricordare che ci sono solidi motivi per sostenere che i non giovani comprendono la cultura digitale meglio dei giovani. Per il semplice motivo che hanno avuto la fortuna di vivere in un mondo di calde relazioni interpersonali. Hanno avuto la fortuna di vivere una prima infanzia riscaldata dalla cura, dai gesti, dalla voce di una madre; confortati da volti familiari e da scambi basati sugli sguardi, sulla voce, sulla lingua materna che diviene veicolo espressivo della persona che cresce.
Di tutto questo i nativi digitali sono stati invece privati, in una misura che sembra crescente generazione dopo generazione, di questa educazione, della socializzazione primaria. Perché hanno avuto in mano fin dalla prima infanzia macchine digitali che notificano comportamenti attesi e rilasciano feedback. Macchine sempre più autonome, impermeabili ai progetti e ai desideri della persona. Sostituti delle figure parentali e della famiglia. Macchine che preparano fin dall'infanzia ad una percezione di sé stessi e ad una vita di relazioni mediata da macchine.
Il disagio degli adulti di fronte a questo impoverimento della propria identità e della propria inclinazione alla vita sociale non è retrogrado rimpianto del tempo che fu. Il disagio è invece il sano frutto del ricordo, scolpito nella memoria personale, di cosa siano l'educazione e la vita di relazioni. E il disagio, allo stesso tempo, è il frutto della consapevolezza di una intromissione, di una pericolosa presenza estranea: un qualche aggeggio digitale dotato dotato di una propria autonomia, portatore di un progetto di cui nulla sappiamo, si interpone in ogni manifestazione dell'essere umano, in ogni relazione tra esseri umani.
C'è quindi una responsabilità sulle spalle dei genitori: non concedere, per quanto possibile, spazio eccessivo agli strumenti digitali nell'infanzia dei figli. Poi viene il ruolo della scuola. E poi ancora il ruolo della formazione aziendale. Più che la diffusione di un 'digital mindset', una educazione civica digitale.
giovedì 25 maggio 2023
La sostenibilità digitale. Dieci impegni (prima versione)
Sostenibilità: impegno di ogni cittadino del pianeta, e quindi di ogni istituzione ed organizzazione, nei confronti delle generazioni future.
Solo tornando a questo fondamentale e necessario obbligo morale si può cogliere il senso della sostenibilità digitale. Aspetto chiave del nostro impegno verso le generazioni future è infatti il lasciare loro libertà. Libertà anche rispetto all'invasione del digitale nelle nostre vite.
Propongo dunque l'assunzione di dieci impegni.
- Un primo modo di guardare ad una vera sostenibilità digitale, è applicare all'industria digitale gli stessi criteri applicati alle altre industrie. Non danneggiare l'ambiente attraverso l'eccessivo consumo di energia e attraverso l'uso di materie prime non rinnovabili: è un obiettivo universalmente accettato, ma che stranamente ci si impegna ad applicare ad ogni altro settore più che al settore digitale.
- Non considerare la connessione per via digitale come condizione inevitabile. Si sostiene che già oggi, ormai inevitabilmente, senza rimedio e senza possibilità di alternativa, viviamo nell'onlife, in un'infosfera, eternamente connessi. Dovremmo invece garantire a noi stessi ed ai nostri posteri il diritto alla disconnessione.
- Non imporre mondi già costruiti. Mentre il mondo fisico è co-costruito dagli esseri umani che vi vivono, i mondi digitali sono offerti, o imposti, come già totalmente costruiti. Mondi alla cui progettazione non abbiamo minimamente partecipato ci vengono imposti come luoghi da abitare. Garantiamo ad ogni essere umano la possibilità di costruire e di modificare l'ambiente nel quale si trova a vivere.
- Lasciare la possibilità di scegliere quali servizi digitali usare e quali non usare. La vita sembra ridursi all'uso di servizi offerti per via digitale. Ma il punto più grave è che i servizi non sono solo offerti, ma imposti, per via di consigli di 'intelligenze artificiali', per via di notifiche sottilmente invitanti, per via di contratti e anche di norme di legge. Lasciamo la libertà di formulare di volta in volta scelte consapevoli.
- Non obbligare a compiere azioni predeterminate. La libertà è spazio per sperimentare, tentare, sbagliare. Anche il violare le leggi rientra tra le libertà di cui l'essere umano dispone. Evitiamo che macchine digitali -magari con la giustificazione del 'nostro bene', o dell'abbassamento della soglia del rischio- impongano limitazioni al nostro spazio d'azione.
- Non considerare l'essere umano attraverso il suo 'digital twin'. Tramite sensori e sistemi di rilevazione di vario tipo si raccolgono dati su ogni essere umano e poi gli si dice: tu sei chi appare attraverso questi dati; tu sei il tuo gemello digitale. Eppure l'essere umano è sempre qualcosa di più, di differente, da ciò che i dati più completi e precisi possano attestare. Lasciamogli questa libertà.
- Non imporre la rinuncia al corpo. L'essere umano non si riduce alla sua mente. La mente è incarnata, inconcepibile senza corpo. Abbiamo il diritto di non veder reso inutile il nostro corpo da protesi e strumenti digitali.
- Non imporre la rinuncia al lavoro. Il 'lavoro umano' non può essere ridotto a fatica e pena dalle quali conviene liberarsi. Il lavoro umano è sempre anche costruzione di sé stessi e del mondo. Guardando al 'lavoro umano' nella sua pienezza, gli aspetti materiali e immateriali sono inscindibili. Così come è inscindibile il pensare dall'agire. Dovremo evitare l'automazione e la robotica che tolgono senso e spazio al lavoro umano.
- Non provocare deskilling. La presenza di costrutti digitali autonomi imposti all'essere umano lo dequalificano, l'impoveriscono e l'impigriscono. Condizionando lo stesso futuro evolutivo della specie. Anche in presenza di macchine in grado di garantire di sostituire l'essere umano garantendo magari performance più alte, garantiamo alle generazioni umane future la possibilità di conoscere, di apprendere, di migliorare sé stessi.
- Infine: garantiamo ai nostri posteri la possibilità di vivere senza strumenti digitali. La libertà, se lo vorranno, di non essere digitali.
domenica 12 febbraio 2023
Chat GPT: Una confutazione poetica
Sono non di rado accusato di "posture tecnocritiche massimaliste". Ma so di conoscere le nuove tecnologie di cui parlo quanto coloro che criticano la mia posizione, o più di loro. Amo le nuove tecnologie. Solo, cerco di guardarle dal punto di vista del cittadino, e non del tecnico, e tanto meno del filosofo o del sociologo che limitano il loro sguardo e il loro raggio d'azione a terreni definiti da tecnici.
Il cittadino ha a disposizione molti linguaggi. Il linguaggio STEM è solo uno dei tanti. Di fronte all'accettazione supina del primato del linguaggio STEM serve tornare ad altri linguaggi. Uno di questi è certo la poesia.
Nelle mie raccolte di poesie T'adoriam budget divino. Critica della ragione aziendale, e L'irresistibile ascesa del Direttore Marketing cresciuto alla scuola del largo consumo si trovano diverse poesie di argomento informatico, o diremmo meglio oggi: digitale. Qui, ad esempio, la poesia Legacy.
Devo anche aggiungere che col senno di poi la lirica che ho scritto mi appare una sintesi in versi del mio saggio: Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle. Spero che la forma diversa e la brevità spingano qualcuno a leggere il libro. Del resto i riferimenti a Leopardi e a Goethe, sia nel mio saggio, sia in questi versi, sono evidenti. Leopardi propone la filosofia in forma di lirica, Goethe usava la forma poetica per ribadire le tesi dei suoi articoli scientifici. Umilmente seguo la loro strada.
sabato 15 ottobre 2022
Perché mai noi umani dovremmo affidarci a macchine morali. A proposito di Judea Pearl, 'The Book of Why. The New Science of Cause and Effect'
Ho letto il libro di Pearl1 - con grande interesse. Anche con sorpresa. Più andavo avanti nella lettura più ero meravigliato. Fino alla sorpresa finale.
Più procedevo più mi convincevo che Pearl aveva ragione. O forse meglio: che ero d'accordo.
D'accordo sul fatto che la strada del Macchine Learning e del Deep Learning, affidate alla crescente potenza di calcolo, è meno promettente di quanto si dica. D'accordo sul fatto che non basta affidarsi a ciò che dicono i 'raw data' -i dati nudi e crudi- anche se 'interrogati' tramite una stratificazione di reti neurali. D'accordo sul fatto che i dati non sono altro che 'record' del passato. Insomma, in generale d'accordo sul fatto che il pensiero umano è infinitamente più profondo, articolato e complesso di questo modo di lavorare della macchina. D'accordo quindi nel cercare di avvicinarsi alla complessità del pensiero umano seguendo la via di Bayes e di Markov.
Ma leggendo ero anche sempre più sconcertato. Ero e resto meravigliato dal modo in cui Pearl fonda il suo approccio. Seguendo in modo precisissimo la via indicata da Turing in Computing Machinery and Intelligence (1950), cerca di costruire una macchina capace di pensare. Bisogna quindi, sostiene Pearl, insegnare alla macchina a contemplare livelli diversi di complessità. Ecco quindi la sua Ladder of Causation.
Primo livello. Association. Regolarità nelle osservazioni, previsioni basate su osservazioni passive. Correlazione o regressione. Non c'è modello di realtà. Domanda: E se vedo?
Secondo livello. Intervention. Attenzione a ciò che non può essere presente nei dati (che riguardano il passato). Cambiare ciò che è. Modello di realtà. Cercare altri dati. Scienza dell'inferenza. Domanda: Cosa accadrà se...?
Terzo livello. Counterfactuals. Confrontare il mondo fattuale con un mondo fittizio. Domandarsi: E se le cose fossero andate diversamente?
Che c'è di nuovo?
Il punto è che Pearl presenta la Scala come una novità. Nuova sarà forse per lui e per i suoi colleghi dediti al Machine Learning. Si tratterà forse di qualcosa di nuovo rispetto a ciò che si insegna di solito nei Dipartimenti di Informatica. Ma si tratta di qualcosa di ovvio, se si allarga lo sguardo al di là della formazione strettamente matematica, ingegneristica, STEM.
Al di fuori di questa cultura, i tre livelli di interrogazione causali, appaiono cosa scontata. Già l'idea di individuare i tre, gli unici tre, livelli che presiederebbe all'innalzarsi del pensiero umano verso livelli più alti, appare riduttiva. Inadeguata agli occhi di chi frequenta riflessioni filosofiche e coltiva attenzione per i sistemi complessi.
Pearl però va comunque apprezzato, per come cerca di allargare lo sguardo oltre il quadro delle fonti abitualmente prese in considerazione da chi si occupa di Computer Science. Cita Hume, per esempio, ma quanti altri filosofi avrebbe potuto citare, con più motivo! Semplicemente, credo, non gli è capitato di leggerli. Non gli se ne può fare una colpa. A partire dalla sua formazione di matematico, ha saputo muoversi con coraggio e libertà. Ma comunque resta vittima della sua formazione. Il vizio di origine continua a condizionarlo, anche quando si lancia oltre il consueto.
Enormi porzioni di letteratura, o meglio: di storia del pensiero umano sono ignorate. Non sarebbe grave, se non fosse che Pearl si propone di cogliere quello che potremmo chiamare lo 'schema genetico' del pensiero umano. Non sarebbe grave, se il suo intento non fosse trasferire alla macchina la nozione della complessità del pensiero umano.
Come si può, del resto avere la pretesa di riprodurre, ed anzi superare, il pensiero umano, senza prendere in considerazione, come fonte di stimoli alla progettazione, ogni manifestazione del pensiero umano: Pearl si limita a cercare fonti tra scienziati e filosofi. Mentre è perfino ovvio dire che l'umano pensare -il suo processo, i suoi frutti- può essere inteso solo se si prendono il considerazione la tradizione mantenuta viva in miti e narrazioni; l'arte; la letteratura; la musica. La filosofia, poi, e la scienza stessa, andrebbero intese non come repertorio di leggi e schemi assodati, ma come storia sempre incompiuta di osservazioni ed esperimenti...
Se si accettano multidisciplinarietà e complessità, insomma, il tentativo di ridurre l'umano pensiero, l'umana intelligenza, l'umana saggezza ai tre scalini della Ladder of Causation, finisce per apparirci come un banale esercizio di riduzionismo. Un modo di ingabbiare il pensiero, più che un modo di coglierne il senso.
Se poi accettiamo in vincolo di considerare la sola letteratura scientifica, e andiamo a guardare le fonti e gli strumenti matematici, logico-formali, statistici, con i quali Pearl scegli di lavorare, gli va riconosciuto il coraggio di muoversi lungo la non troppo praticata via stocastica, congetturale di Bayes e Markov. Ma si deve anche notare che Pearl mostra di ignorare fonti che avrebbero alimentato in modo significativo le sue stesse intenzioni progettuali.
Mi limito a pochissimi esempi.
I ragionamenti sui processi inferenziali, ipotetici, abduttivi di CS Peirce. La matematica intuizionistica di Brouwer. La matematica di volta in volta adattata ad una specifica ricerca di Walter Pitts. Von Foerster a proposito di auto-organizzazione dei sistemi e di rumore...
(Mi rendo conto che sto in fondo ripercorrendo in buona misura argomenti esposti nel mio libro Le Cinque Leggi Bronzee, o argomenti che tratterò nei volumi del Trattato di Informatica Umanistica successivi a Macchine per pensare).
I believe
Con tutto questo, il libro di Pearl ci appare una salutare critica al al Mainstream del Machine Learning. Pearl gioca contro la fiducia nella cieca capacità della macchina; contro le promesse della mera potenza di calcolo. Si mantiene anche lontanissimo da chi crede o spera nella Singolarità: una rottura, una discontinuità, per cui le macchine digitali ad certo punto della loro evoluzione si riveleranno capaci attitudini imprevedibili per gli umani.
Ma The Book of Why pretende di essere molto di più di una sana critica della Computer Science 'normale'. Il disegno di Pearl, ambiziosissimo, si svela solo nelle pagine conclusive del libro. Pearl intende progettare la macchina che sappia essere migliore dell'essere umano. Non affida la sua speranza alla capacità della macchina di andare oltre il suo stesso progetto, come sostengono i profeti della Singolarità. Vuole scientemente progettare una macchina capace di prendere il posto del suo stesso progettista.
Pearl si pone cinque domande.
"1. Abbiamo già creato macchine che pensano?
2. Possiamo fare macchine che pensano?
3. Faremo macchine che pensano?
4. Dovremmo fare macchine che pensano?
E infine, la domanda non dichiarata che sta al cuore delle nostre ansie:
5. Possiamo fare macchine capaci di distinguere il bene dal male?"
La risposta alla prima domanda, ci dice dice Pearl, è: no. Per quanto riguarda le altre domande -che sono proprio le stesse domande che Turing si poneva in Computing Machinery and Intelligence (1950)- la risposta di Pearl è no, se si seguono le vie che altri ricercatori stanno seguendo. Ma è sì, se si segue la via che Pearl stesso propone.
Mi limito a citare Pearl laddove si riferisce alla quinta domanda:
"My answer to the fourth question is also yes, based on the answer to the fifth. I believe that we will be able to make machines that can distinguish good from evil, at least as reliably as humans and hopefully more so. The first requirement of a moral machine is the ability to reflect on its own actions, which falls under counterfactual analysis. Once we program self-awareness, however limited, empathy and fairness follow, for it is based on the same computational principles, with another agent added to the equation.
There is a big difference in spirit between the causal approach to building the moral robot and an approach that has been studied and rehashed over and over in science fiction since the 1950s: Asimov’s laws of robotics. Isaac Asimov proposed three absolute laws, starting with “A robot may not injure a human being or, through inaction, allow a human being to come to harm.” But as science fiction has shown over and over again, Asimov’s laws always lead to contradictions. To AI scientists, this comes as no surprise: rule-based systems never turn out well.
But it does not follow that building a moral robot is impossible. It means that the approach cannot be prescriptive and rule based. It means that we should equip thinking machines with the same cognitive abilities that we have, which include empathy, long-term prediction, and self-restraint, and then allow them to make their own decisions".
Ecco quindi la conclusione:
"Once we have built a moral robot, many apocalyptic visions start to recede into irrelevance. There is no reason to refrain from building machines that are better able to distinguish good from evil than we are, better able to resist temptation, better able to assign guilt and credit. At this point, like chess and Go players, we may even start to learn from our own creation. We will be able to depend on our machines for a clear-eyed and causally sound sense of justice. We will be able to learn how our own free will software works and how it manages to hide its secrets from us. Such a thinking machine would be a wonderful companion for our species and would truly qualify as AI’s first and best gift to humanity".
Mi sembra indispensabile rileggere queste parole in italiano. Per una macchina, o per un essere umano che considera se stesso esclusivamente come scienziato, la lingua potrà essere indifferente. Ma per un essere umano che intende pensare, mostrare la propria saggezza ed esprimere giudizi morali, la lingua non è indifferente: pensiamo nella nostra lingua natale, naturale.
"La mia risposta alla quarta domanda è sì, anche in base alla risposta alla quinta. Credo che saremo in grado di creare macchine in grado di distinguere il bene dal male, almeno con la stessa affidabilità degli esseri umani e, auspicabilmente, con una maggiore affidabilità. Il primo requisito di una macchina morale è la capacità di riflettere sulle proprie azioni, che rientra nell'analisi controfattuale. Una volta programmata l'autocoscienza, per quanto limitata, ne discendono l'empatia e l'equità, perché si basano sugli stessi principi computazionali, con l'aggiunta all'equazione di un altro agente.
C'è una grande differenza di principio tra l'approccio causale alla costruzione del robot morale e l'approccio che è stato finora studiato e che è stato ripreso più volte nella fantascienza a partire dagli anni Cinquanta: Le leggi di Asimov sulla robotica. Isaac Asimov propose tre leggi assolute, a cominciare da "Un robot non può ferire un essere umano o, per inazione, permettere che un essere umano venga danneggiato". Ma come la fantascienza stessa ha dimostrato più volte, le leggi di Asimov portano sempre a delle contraddizioni. Per gli scienziati dell'intelligenza artificiale, questo non è una sorpresa: i sistemi basati su regole non si rivelano mai buoni.
Ma questo non significa che costruire un robot morale sia impossibile. Significa che l'approccio non può essere prescrittivo e basato su regole. Significa che dovremmo dotare le macchine pensanti delle stesse capacità cognitive che abbiamo noi, tra cui l'empatia, la previsione a lungo termine e l'autocontrollo, e poi permettere loro di prendere le proprie decisioni".
Quindi:
"Una volta che avremo costruito un robot morale, molte visioni apocalittiche inizieranno a recedere nell'irrilevanza. Non c'è motivo di astenersi dal costruire macchine che siano in grado di distinguere il bene dal male meglio di noi, meglio in grado di resistere alla tentazione, meglio in grado di assegnare colpe e meriti. A questo punto, come i giocatori di scacchi e di Go, potremmo anche iniziare a imparare dalla nostra stessa creazione. Saremo in grado dipendere dalle nostre macchine per un senso di giustizia lucido e causalmente sano. Saremo in grado di imparare come funziona il nostro software di libero arbitrio e come riesce a nasconderci i suoi segreti. Una tale macchina pensante sarebbe una meravigliosa compagna per la nostra specie e si qualificherebbe veramente come il primo e miglior regalo dell'IA all'umanità".
Con Turing, oltre Turing
Si capisce che Pearl, con giusta ambizione, si confronta con Turing e si candida a proseguire il suo lavoro. Pearl è stato premiato nel 2011 con il Turin Award: dato l'intento di Pearl, nessun Turing Award è stato più giusto. Questo considerarsi il vero figlio del capostipite appare già evidente nel presentare la Scala di Causalità. Dice Pearl: "While Turing was looking for a binary classification -human or no human- ours has three tiers, corresponding to progressively more powerful causal queries". "Mentre Turing cercava una classificazione binaria - umano o non umano - la nostra ha tre livelli, corrispondenti a interrogazioni causali progressivamente più potenti".
Resta sorprendente, e grandemente interessante per me, la precisione con cui Pearl richiama la lezione di Turing, citando alla lettera Computing Machinery and Intelligence (1950).
Pearl riprende le speranze di Turing. Turing scriveva proprio "I hope", spero che la computing machine apprenda a pensare. Pearl segue lo stesso cammino cercando passi in avanti, e dice: "I believe". E precisa: con il mio approccio, ci riusciremo. Costruire un 'robot morale' è possibile. Sarà in grado di distinguere il bene dal male meglio di noi. Anzi: questa macchina meravigliosa compagna ci insegnerà la morale, ci mostrerà il senso del libero arbitrio...
Il mio primo commento è questo: non escludo che noi esseri umani si possa essere in grado di costruire questa macchina. Potremo forse riuscirci. Credo però che se mai ci riusciremo, sarà perché nell'immaginare, progettare, costruire questa macchina avremo saputo andare oltre la cultura matematica, oltre la formazione STEM nella quale Pearl resta chiuso.
Ben più rilevante mi sembra un ulteriore commento. Constato che noi umani, nei tempi digitali, siamo spinti ad accettare di soggiacere a questa legge: preferirai la macchina a te stesso. Il campione di questo atteggiamento, al quale Pearl si accoda, è Turing.
E' questo uno degli argomenti centrali del mio libro Le Cinque Leggi Bronzee. Come essere umano, scelgo di non arrendermi. Scelgo di continuare a preferire noi esseri umani ad ogni macchina. Scelgo di considerare più importante la contiguità dell'essere umano con gli animali, le piante, ogni elemento naturale che la contiguità con una macchina. Scelgo di scommettere sulla specie umana. Scelgo di investire su una specie umana protesa consapevole della sua appartenenza alla natura, alla vita, piuttosto che su umani disposti a cercare nuove terre digitali, totalmente progettate: Infosfere, Metaversi, e orientati ad affidare la responsabilità morale a macchine. (A proposito del "trasformare in qualcosa di computabile il valore morale" scrivo anche in quest'altro post).
Perché preferire la macchina a noi stessi?
Mi chiedo quindi: perché preferire la macchina a noi stessi? Da dove nasce l'ansia che spinge Turing e Pearl a costruire macchine capaci di pensare meglio di come pensi un essere umano?
Da dove nasce il bisogno di ri-educarci a dipendere dalla macchina, il bisogno di dire "We will be able to depend", "We will be able to learn"?
Ora, io credo che il motivo per cui Turing preferisce la macchina a sé stesso, come mostro nelle Cinque Leggi, stia nella sua triste vicenda personale. Era un essere umano deluso di sé stesso e dell'umanità; privo di fiducia e di stima per sé stesso e per gli altri esseri umani. Sceglieva quindi di collocare, al posto di sé stesso, la macchina. Pearl va per la stessa strada, ma si spinge oltre: auspica che la macchina insegni all'essere umano ad essere migliore.
Sono propenso a pensare che il motivo per cui Pearl passa dai ragionamenti tecnici sulla Causal inference in statistics, e simili, alla speranza di riuscire a costruire una macchina in grado di insegnare a noi umani morale e libero arbitrio, stia, come nel caso di Turing, nella triste vicenda personale.
Il dolore, la mancanza, che ha stravolto la vita di Judea Pearl è la tragica scomparsa del figlio Daniel. Giornalista del Wall Street Journal rapito e decapitato nel 2002 a trentanove anni da terroristi in Pakistan.
Judea in apparenza tiene separato il sé stesso padre, essere umano, cittadino, attore politico, dal sé stesso scienziato. Ma è, ovviamente, una scissione solo apparente. Ogni essere umano capace di commozione, e di sentimenti, così come ogni studioso attento alla complessità e alle scienze umane, sa che le ferite affettive che ci toccano nel profondo toccano ogni aspetto della nostra vita. Anche la vita lavorativa, professionale. Anche la vita di scienziato e ricercatore.
Judea Pearl padre addolorato, profondamente ferito e Judea Pearl scienziato sono una persona sola.
Judea Pearl dice: "Mio figlio è stato ucciso dall’odio per cui sono deciso a combattere l’odio".
Come combatte Judea Pearl l'odio? Certo, con Fondazione dedicata al figlio, che opera per il "mutual understanding among diverse cultures". Ma anche, e di più, credo, fortemente volendo, e tentando di costruire, una macchina che sia, a differenza degli umani, incapace di odiare.
Possiamo fidarci nel miglioramento di noi stessi? Possiamo sperare che prevalgano tra gli umani rispetto e giustizia? I motivi di pessimismo sono molti. Il Judea Pearl cittadino fa quanto possibile con la fondazione. Il Judea Pearl scienziato spera, crede di avere al suo arco frecce più promettenti.
Judea, padre, sa che Daniel, suo figlio, è stato ingiustamente ucciso. Il male, provocato da esseri umani, ha prevalso sul bene. Ecco dunque "la domanda che sta al cuore delle nostre ansie": "Saremo capaci di costruire macchine in grado di distinguere il bene dal male?".
Deluso come Turing dagli umani, come lui Judea Pearl sceglie di fidarsi della macchina. Spera in una macchina morale che sappia insegnare la moralità agli umani.
1Judea Pearl and Dana MacKenzie, The Book of Why. The New Science of Cause and Effect, Basic Book, 2018.
