sabato 27 luglio 2024

Ammorbati come siamo da tante parole vuote, tiratevi su leggendo un romanzo di Manuel Puig

 Vi piace leggere romanzi? Vi piace il cinema?

“Manuel nasce a General Villegas nel 1932 nell’'ausencia total del paisaje, el centro de la nada'. Assenza totale di paesaggio, al centro del nulla. General Villegas – rinominata nel romanzo Coronel Vallejos: poche migliaia di abitanti, estremo nord ovest della Provincia di Buenos Aires, cinquecento chilometri dalla capitale. Il padre imbottiglia vino. La madre lavora all’ospedale. Piccola borghesia.”

Manuel Puig, cinefilo e romanziere. Una bella storia. E' stato bello per me scriverla; spero sia bello per voi leggerla. La storia di un essere umano che patisce le proprie pene, soffre della pubblica incomprensione, e risponde al dolore raccontando sogni, producendo immagini.

La fiducia nel potere salvifico della narrazione, delle immagini che emergono dal buio dell'inconscio e della sala cinematografica.

Una boccata d'aria, per me, scrivere queste pagine. E spero anche per voi leggerle. Ammorbati come siamo da tante parole vuote. Perché non so voi, ma purtroppo cedo sempre alla speranza di trovare qualcosa di sensato in questi libri che celebrano il nuovo sapere dell'Era Digitale.

Così mi sobbarco alla noiosa lettura di libri che sostengono i Diritti dei Robot, libri che parlano di Macchine influenti e di Retorica delle performance computazionali, ed ora libri di Teoria letteraria per Robot.

Sento così dire che "la dicotomia uomo-macchina nasce da una domanda mal posta perché l'intelligenza è un fenomeno collettivo e le macchine ne fanno parte. Non da oggi, da sempre". E' così facile rispondere! Voi, amici che scrivete queste cose, definite 'macchine' e 'intelligenza' nel modo costrittivo che vi fa comodo. E ne deducete quello che vi fa comodo. Le narrazioni degli esseri umani sono la sconferma empirica delle vostre affermazioni: sono complesse, sfuggenti ad ogni definizione. Se poi una qualche macchina sembrerà imitare efficacemente qualcosa che un umano ha già narrato, cosa mi importa: altri umani aggiungeranno nuove narrazioni, sfuggenti ad ogni definizione. 

Voi invece, nell'ansia di affermare il potere e l'autorità della macchina, avete bisogno di definizioni. 
Avete bisogno di evitare la complessità. E nascondete questo bisogno dietro la fumosità.

Sentite qui: “in questo studio, propongo di eludere la complessità filosofica che circonda il libero arbitrio, l'agenzia o la volizione a favore del loro proxy linguistico, la sintassi”. Il solito tentativo: sostituire alla semantica la sintassi, sostituire all'essere umano che agisce nel mondo un 'agente', che può essere indifferentemente umano o macchina.

Alimentatevi con le appassionate parole di Puig! Lui si poneva tante domande, si chiedeva chi era. Ma mai gli passò per l'anticamera del cervello di considerarsi una macchina. Lasciate perdere gli 'agenti'. Qualcuno vi invita a specchiarvi in gemelli digitali. Confrontatevi invece con persone come Puig. Lasciate perdere le ridicole accuse di antropocentrismo ingenuo e ascoltate le storie che esseri umani raccontano ad altri esseri umani.

E semmai vi accingete a scrivere un saggio leggetevi le fonti. Non restate chiusi nella insipida melassa del pensiero digitale. Sentite questa: “Cercando un modello formale di agency basato su caratteristiche grammaticali (…) come dice David Alworth riferendosi a Bruno Latour che cita Algirdas Julien Greimas attraverso Lucien Tesniere...”. Citazioni di ennesima mano; come sempre in questi libri di cultori del nuovo. Ma andatevi a leggere da soli la Semantica strutturale di Greimas! E prima di sostituire la sintassi alla semantica, leggete per favore The Semantic Conception of Truth di Tarski. Quanto a Latour, a quando vedo forse l'autore più indebitamente citato da questi agiografi del Digitale, nessun 'digitalista' dovrebbe permettersi di citarlo senza aver letto prima Aramis ou l'Amour des techniques (se per caso leggeste in inglese notate, prego, che nel titolo si sostituisce artatamente Technique con Technology).

Ringrazio chi la letto fin qui questo mio sfogo. Leggete se volete le pagine con le quali cerco di portare qui ed ora, tra noi, Manuel Puig. O meglio, leggete, o rileggete, quest'estate un romanzo di Puig.

domenica 21 luglio 2024

L'intelligenza artificiale non è per forza tua amica. Otto domande di Sebastiano Zanolli a proposito del libro 'Splendori e miserie delle intelligenze artificiali'. Newsletter Linkedin 'La Grande Differenza', 21 luglio 2024

 Non è facile pensare e tantomeno scrivere. Ci sono anche cose di cui si preferirebbe non parlare, nemmeno con sé stessi. E se non si ripete a pappagallo quello che hanno già detto altri, si sente il peso della solitudine. Resta sempre il dubbio di non aver ben articolato gli argomenti; di non aver offerto un buon servizio al lettore.

In realtà un libro è il dialogo con un lettore disposto a farsi domande.
Grazie quindi a Sebastiano Zanolli per le sue domande. E per questa sua sintesi, che non avrei saputo scrivere con questa chiarezza:

- Il libro è per chiunque voglia pensare con la propria testa, spiegando concetti complessi in modo chiaro e comprensibile, senza bisogno di competenze tecniche avanzate.
- Il libro sfida la visione utopica delle tecnologie digitali, mettendo in guardia contro il cosiddetto "Paradiso tecnologico" e invitando a una valutazione critica e equilibrata delle intelligenze artificiali.
- Varanini sottolinea l'importanza di valorizzare l'esperienza umana, guardando oltre i dati e gli algoritmi, e mantenendo vivo il pensiero critico e la cultura aziendale in un contesto sempre più digitalizzato.
- Non come un manuale tecnico, ma come un viaggio riflessivo su chi siamo e su come possiamo rimanere umani in un mondo sempre più dominato dalle tecnologie.

L'intervista appare sulla newsletter Linkedin La Grande Differenza, 21 luglio 2024

Qui per iscriversi alla Newsletter

Riporto di seguito il testo dell'intervista.

Otto domande a Francesco Varanini sul suo ultimo libro

Francesco, quanto è accessibile il tuo libro Splendori e miserie delle intelligenze artificiali per i non esperti?

Splendori e miserie delle intelligenze artificiali si rivolge alle persone che hanno ancora voglia di pensare con la propria testa. Si rivolge a tutti coloro che capiscono non è tutto oro quello che luccica, e che vogliono capire. Si rivolge a coloro che intuiscono contraddizioni, vedono pericoli, hanno dei dubbi e dei timori, ma magari si vergognano anche a dirlo, perché non si considerano 'esperti'...

Credo sia fuorviante distinguere tra 'esperti' e 'non esperti'. Esistono persone che si impegnano nel pensare. Ed esistono persone che per gli effetti di una cattiva educazione e di una insistente propaganda che impone un falso pensiero bell'e pronto, tendono non fidarsi della propria capacità di pensare. Si affidano così ad 'esperti': ma gli 'esperti' spesso abusano della propria autorità, parlando come esperti di cose di cui non sono esperti; e poi gli 'esperti' sono in realtà portatori di interessi personali: il loro successo professionale dipende dal fatto che i cittadini accettino le cosiddette intelligenze artificiali a scatola chiusa, senza porsi troppe domande.

Considerando che l’IA è argomento complesso, riesci a spiegare i concetti chiave in modo comprensibile anche per chi non ha una formazione tecnica?
Non è così difficile spiegare di cosa si tratti. Quello che spesso manca è la volontà di spiegare. Giova a chi ha interessi da difendere il mostrare le cosiddette intelligenze artificiali come qualcosa di esoterico, comprensibile solo dagli 'esperti', dai 'tecnici'. I tecnici, poi, sono specializzati in un singolo campo. A loro manca la visione generale. Più precisamente si può dire che, con tutto il rispetto loro dovuto, i tecnici digitali sono specializzati nel parlare alle macchine, non nel parlare ai cittadini del modo in cui funzionano le macchine. Se i tecnici non sono in grado di guardare oltre i confini della propria disciplina, a porre in luce le interrelazioni e la complessità dovrebbero essere i filosofi. Ma -come mostro in un capitolo del mio libro- i filosofi, salvo eccezioni, hanno rinunciato a questo ruolo. Non c'è più la filosofia: l'interrogarsi su cosa voglia dire 'essere umano', l'amore per la conoscenza, lo spirito critico, la saggezza. C'è solo una filosofia ancella della tecnica: la filosofia dell'informazione, la filosofia dell'intelligenza artificiale, la filosofia della mente, la filosofia delle neuroscienze...

Quando nella tua domanda mi dici:“comprensibile anche per chi non ha una formazione tecnica” sembra quasi che tu dubiti della possibilità di capire. Sembra quasi che consideri necessario e irreversibile l'affidamento a chi è dotato di “una formazione tecnica”. Non è così!

Dobbiamo tornare a pensare e ad agire fidandoci di noi stessi, dobbiamo tornare a dar valore alla nostra storia personale, alla nostra esperienza – in questa storia e in questa esperienza stanno le chiavi per comprendere il senso profondo di qualsiasi questione tecnica...

Questo è ciò che mostro con il mio libro. E sono convinto che a te, leggendolo, sia venuto in mente un pensiero: 'ma allora, più che da imparare dai tecnici, ho molto da insegnare loro'.

Sì va bene, ma non hai risposto alla domanda. Dimmi in modo comprensibile: cosa è l'IA?

Insisto fin dove possibile nel non usare sigle e nel dire: 'cosiddette intelligenze artificiali'.

Insisto nello scrivere in minuscolo e nell'usare il plurale. Per sottolineare che sotto questa espressione-ombrello -intelligenza artificiale- vengono oggi messe insieme tecniche informatiche diverse. Fino a qualche anno fa ognuna aveva il suo nome, ma ora è comodo riassumere tutto all'ombra di queste due immaginifiche parole.

E sottolineo il 'cosiddette', perché in effetti il termine già in origine non esprimeva nessuna precisione tecnica. Fu coniato con un unico scopo: colpire la pubblica immaginazione. Favorendo così la raccolta di fondi della ricerca e l'ascesa sociale dei cultori di una nuova disciplina: la computer science.

Potrei darti qui, anche in brevi parole, una definizione tecnica. Potrei parlarti di algoritmi, di come funzionano le macchine. Nel libro ovviamente ne parlo.

Ma preferisco dirti in sintesi, prescindendo dagli aspetti tecnici. Le intelligenze artificiali sono macchine progettate per operare indipendentemente dagli esseri umani, e per autosupervisionarsi nel loro funzionamento e nel loro sviluppo.

Splendori e miserie non è l'ennesimo libro che spiega al popolo, considerato come una massa di ignoranti da istruire, le meraviglie delle nuovissime tecnologie. E' al contrario un tentativo di risvegliare le coscienze di noi esseri umani, assopite dall'affidamento a macchine sempre più potenti ed autonome.

Quindi, posso aggiungere che, di fatto, le intelligenze artificiali sono macchine progettate per sostituire gli esseri umani, ed imposte agli esseri umani come specchio del proprio modo di essere e come modello di come dovrebbero essere.

Sono macchine per togliere al posto nostro le castagne dal fuoco. Macchine che nel semplificarci apparentemente la vita ci impoveriscono. Macchine che ci spingono a non assumerci responsabilità.

Nel libro, metti in evidenza il concetto di Paradiso tecnologico. Perché ritieni questo concetto pericoloso?

Metto in guardia contro una comoda via fuga: la via di chi sostiene che bisogna lasciar campo libero all'innovazione, perché le tecnologie ci salveranno. Si dice che lo sviluppo tecnologico porterà vantaggi all’umanità tutta, alla vita sulla Terra, al pianeta. Come le prime comunità cristiane credevano nell’avvento del Regno di Cristo in Terra, qualcuno crede ora nella promessa di un eden tecnologico, felice per tutti.

Il primo problema è che in questa promessa c'è ben poco di vero.

Dietro questa narrazione si nascondono gli interessi economici, e di puro dominio, delle grandi case digitali. Si nasconde il fatto che queste tecnologie provocano già oggi, e provocheranno ancor più negli immediati anni a venire, conflitti sociali, perdite di diritti e di lavoro, aggravamento della forbice tra ricchezza e povertà.

I fautori del Paradiso Tecnologico sostengono che nel lungo periodo tutto si accomoderà. Ci sarà energia a basso costo, ci saranno servizi garantiti e cibo sintetico per tutti... Non è affatto detto che si arrivi a questo. Ma se pure ci si arriverà, non si tratta certo di uno scenario auspicabile. E' lo scenario descritto da Huxley nel romanzo The Brave New World, Il mondo nuovo: un modo dove dietro un'apparente libertà si nasconde una rigida divisione in caste ed un controllo sociale che sradica il pensiero individuale e libero.

Una via di fuga, dicevo, perché è un comodo modo per non assumersi l'onere di governare lo sviluppo dell'industria digitale, qui ed ora. E' un modo per evitare di fare scelte; di di dire: questo sì, questo no; di ammettere che l'industria digitale provoca gravi danni ambientali...

In che modo possiamo guardare ai limiti reali e le potenzialità delle tecnologie digitali, evitando sia un entusiasmo eccessivo che un pessimismo paralizzante?

Per quanto mi riguarda mi preoccupo sopratutto di contrastare l'entusiasmo eccessivo. Perché mi pare questo l'atteggiamento dominante. In realtà non si tratta di sincero entusiasmo dei cittadini, degli utenti, ma di narrazioni accuratamente costruite dai portatori di interessi, tese a convincere i cittadini ad accettare tutto quello che l'industria digitale propone. In fondo, credo di poter dire, la maggior parte dei libri dedicati ad intelligenze artificiali e dintorni hanno per scopo spargere fiducia. Si dice in fondo: fidatevi di noi esperti, perché voi non sapete. Si dice: osservate la bellezza, la meraviglia di queste novità. Si dice: in ogni caso la storia va in questa direzione, fatevene una ragione.

A me sembra che i rischi di un pessimismo paralizzante siano proprio uno degli argomenti usati dai fautori dei una innovazione digitale acritica. Un argomento usato per annichilire i cittadini ed i lavoratori che, in virtù del loro intuito, del loro senso di realtà, vedono problemi ed hanno dubbi. E spesso si vergognano di dirlo, direi anche: si vergognano per averlo pensato. Perché a nessuno piace essere giudicato retrogrado.

Il mio libro si rivolge in modo particolare a questi cittadini accusati di essere retrogradi. Dico loro: la vostra posizione è la più costruttiva e la più saggia. Allo stesso tempo mi rivolgo a chi è oggi disposto ad affidarsi alle nuove tecnologie digitali senza pensare troppo: invito chi ha questo atteggiamento alla cautela ed alla riflessione.

Propongo quindi concretamente un possibile cammino: non rinviare nel tempo la soluzione dei problemi che già oggi queste tecnologie comportano; non scaricare su di altri l'onere di responsabilità che ognuno, nel suo ruolo, può assumersi.

Hai parlato dell’importanza di guardare oltre ciò che un computer può vedere. Puoi spiegare cosa intendi, e come questo approccio potrebbe influenzare lo sviluppo e l’adozione delle tecnologie IA in ambito aziendale?

Piace oggi offrire a manager, lavoratori, cittadini, l'immagine di una crescente potenza del computer: sempre maggiore potenza di calcolo, fino al raggiungimento della cosiddetta intelligenza artificiale. L'invito è ad affidarsi sempre più alla macchina.

Si dice che il manager deve lasciare via via sempre più compiti al computer. Si sostiene che gli

algoritmi aiutano i decisori a risparmiare tempo perché automatizzano le decisioni ad alta frequenza e basso impatto. Ciò aumenta, si dice, l'opportunità di dedicare tempo e sforzi cognitivi a decisioni strategiche a bassa frequenza ed alto impatto.

A questa proposta è facile rispondere che è impossibile definire a priori quali sono le decisioni strategiche più importanti. Perché le decisioni più importanti sono le risposte a fenomeni emergenti, imprevedibili.

L'algoritmo opera sui dati: i dati non descrivono mai in modo esaustivo la realtà. L'algoritmo non è che una procedura basata su un modello. Il modello, per definizione, non è in grado di prevedere ogni possibile evento. L'algoritmo, quindi, non è in grado di rispondere ad eventi catastrofali, o anche semplicemente a necessità di intervento che vengono alla luce, agli occhi del manager, visitando di persona lo stabilimento produttivo, il magazzino, o parlando con i clienti.

Fidandomi della macchina rischio di non vedere ciò che di nuovo ed importante accade. Inoltre, abituandomi ad affidarmi alla macchina, lascio decadere nel tempo la mia stessa capacità di vedere.

Affermi che la cultura digitale debba essere decostruita per osservarne le miserie. Puoi fornire esempi concreti di come questa decostruzione possa avvenire nella pratica quotidiana di un’azienda tecnologica?

Per essere precisi, non uso il uso il verbo decostruire nel testo del libro; lo uso, in un tentativo di sintesi forse fuorviante, nel risvolto di copertina. Intendo semplicemente dire: leggere criticamente, non lasciarsi incantare dalla propaganda e della più comune delle affermazioni: 'queste tecnologie sono arrivate per restare'. Come a dire: dobbiamo accettarle per forza; dobbiamo adattarci. Non credo sia così. Penso che sia possibile, o anzi, spero, probabile, che tra cento o duecent'anni ci guarderemo indietro e diremo: oh come eravamo insensati quando pensavamo conveniente affidare i compiti più difficili a macchine in più possibile indipendenti da noi!

Nella pratica quotidiana di ogni azienda, tecnologica o non tecnologica, questo vuol dire innanzitutto scegliere oculatamente i modo di formare le persone a vivere la trasformazione digitale. Il modo comune è insegnare l'adattamento: insegnare ad usare passivamente ogni nuovo strumento prodotto da tecnologi lontani dalla vita della singola azienda, dalla sua cultura, del suo business.

C'è un modo differente: mostrare i limiti degli strumenti, i loro rischi, insegnare come mantenere viva la cultura aziendale, e gli spazi di libertà individuali, nonostante la presenza di strumenti digitali che tendono ad imporre una uniformazione universale.

Sostengo nel libro che questa formazione 'a rovescio' serve nelle aziende. E serve ad ogni cittadino, per mantenere vivi il senso di responsabilità ed il libero arbitrio, per non essere ridotto a utente passivo di servizi preconfezionati.

Un'ultima domanda. Una curiosità personale. Il sottotitolo del libro aggiunge una precisazione che sembra significativa: alla luce dell'umana esperienza. Mi sembra tu parli dell'esperienza soggettiva, dell'esperienza che ogni persona fa 'sulla propria pelle', interagendo con le macchine digitali, con le intelligenze artificiali in particolare...

Sì, è proprio così. La cultura tecnico-scientifica spinge a guardare le cose, a osservare il mondo, nel modo più oggettivo possibile. Le idiosincrasie, gli aspetti distintivi di una persona, la sua cultura e i suoi valori sono considerati difetti. Ma questa è proprio la via che ci porta ad essere sempre più simili a macchine, ad intelligenze artificiali.

Siccome il mio intento è ricordarci chi siamo, riscoprire spazi per noi stessi, noi umani, in questo contesto dove le macchine digitali sono presenti, allora il punto di partenza sta proprio nel narrare le esperienze personali. E così racconto di come mi sono sentito quella volta in cui ho interagito con Chat GPT a proposito di un argomento che mi stava veramente a cuore.

Siamo spinti a considerare rilevante solo a ciò che è codificabile, computabile. Ma così buttiamo via una parte significativa della nostra storia, dei nostri valori. Ci sono cose che riusciamo a dire solo attraverso narrazioni lontanissime dalla codifica digitale. Uno dei capitoli del mio libro è scritto in versi, è una poesia. Non è un gratuito esercizio. Solo così riuscivo a dire certe cose. Un altro capitolo è una lettera personale ad un esperto che stimo al di là delle differenze di posizione.

Il mio libro è un invito a continuare ad essere noi stessi, appunto dando valore alle nostre esperienze, evitando di farci 'dettare l'agenda' da intelligenze artificiali.

 

sabato 29 giugno 2024

Varie brevi riflessioni, intorno ai temi trattati nel libro 'Splendori e miserie delle intelligenze artificiali', e intorno ai temi sui quali mi interrogo in questo blog

 Brevi riflessioni pubblicate come post su Linkedin. 

L'usignolo meccanico, fiaba di Anderson, commento di Janine Chasseguet-Smirgel
Il CEO di Cisco e le iniziative vaticane come comoda propaganda
Nel 1969 Rudolf Arnheim spiegava che la cosiddetta 'intelligenza artificiale'...
Emily Bender e i pappagalli stocastici (per lo più maschi)
Umano essere-nel-mondo o sostituzione digitale
La libertà di non essere digitali, ovvero il digitale alla prova della sostenibilità
GPT: una confutazione poetica
La conversione di Yoshua Bengio
Qualcuno crede di essere capace di costruire robot dotati di 'saggezza artificiale'
Dieci possibili impegni per un 'digitale' sostenibile
Noi umani non cederemo la responsabilità della cura a una macchina
Wittgenstein: "Vogliamo camminare; dunque abbiamo bisogno dell’attrito. Torniamo sul terreno accidentato!"
Trent'anni fa leggevamo il libro di Negroponte 'Essere digitali'. Oggi...
Gli studenti del MIT di sessant'anni fa erano ben più fortunati degli studenti di oggi: 'Il Mulino di Amleto'
Perché la lezione di Epimeteo è più importante della lezione di Prometeo
Esperienza: vedere con i propri occhi l'opera d'arte
Le intelligenze artificiali non hanno accesso a ciò che non è digitalizzato
La formazione degli esseri umani e l'apprendimento delle macchine
Algor-etica: un concetto sgangherato ed equivoco
Papa Francesco parla di intelligenza artificiale
Il paradosso di Nishida: affidandosi alla macchina si rinuncia all'esperienza
Michael Polanyi e la conoscenza umana, inattingibile per la macchina
Marcel Mauss: la tecnica è innanzitutto usare consapevolmente il proprio corpo 
Perché i non giovani capiscono la cultura digitale meglio dei giovani
L'intelligenza artificiale come fuga dalla responsabilità personale
Stampa e intelligenza artificiale. Due salti tecnologici. Ma il paragone è improponibile
Judea Pearl, l'intelligenza artificiale causale e le macchine morali
Scott Aaronson e la sicurezza di GPT5
Intelligenze artificiali come metafora di sudditanza e di attesa di soccorso
Oscilliamo tra miseria e splendore. Miseria: affidarsi alla macchina. Splendore: la bellezza in noi, speriamo di vederla nella macchina.

'Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza', Guerini e Associati, in libreria dal 24 maggio 2024

 Il tema del libro in tre frasi

Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce.
Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire.
Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità.

Uno degli argomenti che tratto nel libro
C'è un'inquietudine che mi muove. Continuo a venire a conoscenza delle opinioni di seri ricercatori. Essi dicono, sinceramente e con piena convinzione, cose del tipo:
"Una caratteristica distintiva dei sistemi di AI è questa: potranno prendere decisioni su basi etiche. Distinguere il bene dal male".
Nel libro discuto questa posizione, che -lo ammetto- mi scandalizza. Il fondamento della posizione sta nel far riferimento a studi di scienze cognitive. In base a quale presupposto studiosi di scienze cognitive pretendono di sapere cosa è il bene e il male, e cosa è l'etica, in base a un ancoraggio che guida la loro ricerca. L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana  è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. Il ricercatore stesso si allontana dal proprio essere umano.

Un altro argomento
L’immaginare di sostituire l’essere umano con una macchina è contrabbandare l’informazione per conoscenza.
La Transizione Digitale -che termina in una immagine conclusiva: l'Intelligenza Artificiale- è il punto di svolta di una svalutazione dell’umano. Perché costituisce la pretesa di sostituire all’esperienza umana i dati. I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano che sta maturando esperienze. L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato.
Un conto è l’informazione - che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza - che è il frutto dell’umana esperienza

Una descrizione dei temi  il libro
Splendori e miserie. C'è qualcosa di davvero splendido nelle promesse digitali - il cui culmine e la cui sintesi sembra ormai definitivamente riassumersi in un sostantivo ed in un aggettivo: Intelligenza Artificiale. Qualcosa di luminoso, scintillante. Sontuoso, grandioso, nobile. Ma c'è anche qualcosa di misero.
Siamo assillati da notizie che cantano le meravigliose capacità di intelligenze artificiali, e ci invitano ad affidarci ad esse. Ma sappiamo che il rischio di assuefazione e dipendenza è dietro l'angolo. Per noi e per i nostri figli, per i nostri posteri.
Perché ci impegniamo nell'insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano? Perché impegnarsi in progetti che consistono nell'ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina?
Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi?
Siccome l'innovazione appare inarrestabile, si sceglie di abbracciarla. Pare che l'unica scelta possibile consista nello sforzarsi di vederne gli aspetti positivi.
Credo invece si possa combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile.
Credo sia possibile dare risposte. Credo che in ogni caso convenga continuare a porci domande. Anche se non abbiamo immediate risposte.
La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole.

Un'altra descrizione - che mi sembra migliore della precedente
Anche i computer scientist ed i vari esperti che ci parlano di novità digitali hanno un'anima, una storia personale, un vissuto di dolori e di sogni. Gli strumenti ed i sistemi digitali, compreso tutto ciò che passa oggi sotto il nome di Intelligenze Artificiali, nascono in queste zone segrete, frutto di motivazioni profonde e non di rado inconfessate.
Per cercare di capire cosa significhino, e cosa nascondano, le Intelligenze Artificiali che con tanta insistenza vengono oggi propoposte ad ogni cittadino, non conviene quindi dar troppo credito alle spiegazioni tecniche e alle divulgazioni. Serve anzi ricordare che qualcosa, in queste narrazioni, resta sempre celato.
Per comprendere, conviene invece dare valore all'esperienza personale di ognuno di noi. Cosa vuol dire per me ricorrere ad una Intelligenza Artificiale? Quali sensazioni provo mentre mi affido a lei?
Scopriremo allora che le Intelligenze Artificiali rappresentano l'illusoria speranza di un facile modo per scaricare dalle proprie spalle il peso di responsabilità che ci paiono troppo gravose.
E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica.
Osservando con sguardo critico gli splendori e le miserie di ogni nuovissimo mezzo digitale, potremo tornare a guardare, e a dar valore, a ciò che siamo già capaci di fare, a mente libera e a mani nude, un attimo prima di cercare l'ausilio di una macchina.

Una terza descrizione
Oscilliamo tra miseria e splendore. La MISERIA sta nel non voler vedere ciò che ci turba e ci preoccupa. Sta nel sottovalutare le nostre doti e nello sprecarle.
La rincorsa al vano SPLENDORE sta nel proiettarsi nell'immagine di chi è vestito broccato d’oro e porpora, con una ghirlanda di giacinti rossi in testa, una collana d’oro. Una immagine alla quale aneliamo, ma che sappiamo lontanissima da ciò che vediamo se ci guardiamo allo specchio.
Di questi tempi, entrambe le immagini ci portano a credere nella potenza di cosiddette intelligenze artificiali. Ad affidarci a loro. Perché ci illudiamo possano vedere e agire al posto nostro. Perché se non possiamo vedere bellezza in noi, cerchiamo di vederla nella macchina.
Diamo alla macchina un nome splendido per nascondere ogni miseria.
Che fare? Nel mio libro SPLENDORI E MISERIE DELLE INTELLIGENZE ARTIFICIALI propongono una via.
- Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. Senza rinunciare al nostro corpo. Senza considerare la nostra mente separata dal corpo.
- Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole 'Intelligenza Artificiale'con lo sguardo dell’essere umano che contribuisce a costruire il mondo che abita. Con lo sguardo del cittadino che, disposto ad assumersi responsabilità, non cessa di porsi domande. Con lo sguardo di ognuno di noi, intento a vivere esperienze.
La saggezza umana sta nell’accettare la situazione, nell’apprendere a leggerla e a viverla. Senza arrendersi però al fato, a ciò che ci è comodo definire inevitabile. La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine.

 

lunedì 17 giugno 2024

Che fare di fronte alla GenAI? Costruire con spirito critico un antropocentrismo ingenuo

 Rispondo qui all'articolo dell'amico Paolo Costa La GenAI? E' l'orrendo che affascina. Nel mentre ancora lo ringrazio per aver partecipato all'incontro Sanno forse le scatole nere scrivere romanzi?, presso Spazio Vitale, Verona, 15 giugno 2024.


Ho amici che mi dicono: certe cose non vanno dette fuori dalla cerchia degli addetti ai lavori. E aggiungono: quando si parla ai cittadini, conviene evitare aspetti scabrosi, e dedicarsi invece a spargere fiducia; tanto poi, si aggiunge ancora, i 'profani' non sono in grado di capire. E si sa che poi, nel parlare, ci si adatta all'uditorio, al contesto. 

Capita così di dire in pubblico che sarebbe meglio non usare nemmeno l'espressione 'intelligenza artificiale', perché impropria e imprecisa. E capita che poi invece scrivendo già nel titolo si prende per buona l'Intelligenza Artificiale Generativa; per poi dilungarsi, nel corso dell'articolo, sulle magnifiche capacità retoriche della Intelligenza Artificiale Generativa stessa.

Per quanto mi riguarda, in ogni occasione e quale che siano gli interlocutori e il pubblico, mi spendo nel tentativo di discutere a fondo ogni affermazione data per scontata. E cerco in ogni situazione mostrare ciò che resta non detto nelle ambigue e imprecise divulgazioni tramite le quali l'Intelligenza Artificiale viene presentata ai cittadini. 

Perché non possiamo fare a meno di ricordare un fatto: circola nei media e nei social network ed in ogni dove una sia pur confusa e discordante apologia dell'Intelligenza Artificiale. Questa apologia giova a chiunque opera da professionista nel campo dell'Intelligenza Artificiale - anche a coloro che, di fronte a specifici aspetti di queste tecnologie, mostrano atteggiamenti critici.

E dunque fa comodo in ogni caso creare un'aura di attesa e di pubblico interesse attorno alla cosa detta 'Intelligenza Artificiale'. Non importa se si tratta di un'aura fumosa. In un modo o nell'altro fa comodo educare il popolo a stare in attesa di novità sbalorditive. Se mai si accenna a difetti di questa cosa detta 'Intelligenza Artificiale', sempre si bilancerà parlando dei difetti degli esseri umani. 

A questa ormai consolidata prassi comunicativa rispondono gli antropocentristi ingenui svelando trucchi e invitando tutti a tornare con i piedi per terra.


Vengo subito alla conclusione dell'articolo che sono qui a commentare.

dovremmo rinunciare ad assumere una posizione di sdegno, del tutto sterile, per la presunta detronizzazione dell'umano da parte della macchina

Cominciamo col dire che, di fronte a certe tecnologie pensate contro l'essere umano, a danno dell'essere umano, lo sdegno è motivato. Si può notare che per svalutare l'atteggiamento, per connotarlo con una venatura negativa, per intenderlo come gratuito disprezzo, si scrive sdegno e non indignazione. Diciamo dunque che di fronte a diverse tecnologie digitali che abbiamo sotto gli occhi, l'indignazione è del tutto motivata. Perché poi "del tutto sterile"? E' un monito politico. E' come dire: tanto il cittadino non può far nulla. Ogni tecnologia proposta dovrà comunque essere accettata. Lo stesso tono traspare dall'aggettivo presunta, che vuole far pensare ad atteggiamenti eccessivi, non realistici, non corrispondenti ai fatti. E poi la parola detronizzazione, come se gli umani si sentissero seduti indebitamente su un comodo trono. Seduti su un trono sono semmai i tecnologi, i finanziatori che scelgono quali ricerche finanziare, gli attori tutti del mercato dell'offerta di strumenti digitali, che sempre più costringono il cittadino, con ogni nuova proposta, a ridursi ad utente.

Ma in realtà tutto il senso della conclusione ricade sulla frase succcessiva

dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza

Mi chiedo innanzitutto se si abbia chiara nozione del senso della parola ingenuo. Significa "nato all'interno della stirpe, e perciò libero e schietto". Dunque, a scanso di equivoci, mi dichiaro antropocentrista ingenuo. C'è forse da vergognarsi a riconoscersi appartenenti alla stirpe degli esseri umani? Dove sta il difetto in questo riconoscimento? Si può legittimamente supporre che chi si propone di 'decostruire con spirito critico' l'antropocentrismo ingenuo intenda eludere le responsabilità che in quanto essere umano gravano sulle sue spalle. Chi è tacciato di 'antropocentrismo ' non si sente al centro di nulla: semplicemente non scansa le responsabilità che in quanto umano è chiamato ad assumersi.  Si può altresì inferire che, per un qualche motivo che i sostenitori di questa decostruzione non sanno spiegare bene, la critica all'antropocentrismo sia il velo che copre l'ansia di poter dire, seguendo Turing: che bello, le macchine sanno pensare! E forse anche: che bello se le macchine tolgono le castagne dal fuoco al posto nostro! Antropocentrista ingenuo, invece, scelgo di assumermi le mie responsabilità di conoscitore delle cose digitali e di cittadino. Parlo come cittadino, come essere umano che guarda negli occhi ogni altro essere umano, e si indigna di fronte all'invito di conoscere sé stesso attraverso il suo gemello digitale.

Sarebbe quindi facile rovesciare l'assunto dicendo 'dovremmo decostruire con spirito critico un intelligenzartifialecialecentrismo ingenuo'. Ma mi sono già appellato al senso profondo, costruttivo, dell'espressione ingenuo. Scarto quindi subito il troppo facile rovesciamento. Passando immediatamente ad argomentazioni più serie.


Il primo argomento che porto è la mia critica alla posizione di un noto filosofo, una delle star della neofilosofia dei tempi digitali. Non ne cito qui il nome, non c'è bisogno di riempire questo mio articoletto di parentesi e di note. Cito invece me stesso. Scrivo su questo mio stesso blog, Dieci chili di perle:

Ci ricorda [questo neofilosofo] che, in quanto persone, abusiamo dei nostri privilegi nei confronti delle cose. E che rimaniamo fissati su una concezione binaria, su due categorie mutuamente esclusive: persona o cosa.

Noi umani, si dice quindi, dobbiamo imparare a mettere in discussione i nostri privilegi, a sviluppare prospettive critiche sui nostri valori, e ad assumerci più pienamente le nostre responsabilità. Anche nei confronti delle cose.

Ma l'asino casca quando si sceglie il portavoce delle cose. Qualcuno sceglie come portavoce delle cose il robot. La responsabilità umana, attraverso questo corto circuito, finisce per consistere nell'affermare e difendere i diritti dei robot. 

Riprendo l'argomento a p. 194 e alle pp. 203-204 del mio libro Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, Guerini e Associati, maggio 2024. In entrambi i luoghi, su questo blog e nelle pagine del libro, mi pongo la domanda: di cosa deve farsi paladino l'essere umano per rispondere alla accusa di antropocentrismo? Alla domanda, offro una risposta ben più impegnativa sia del meschino farsi paladino dei diritti dei robot, sia dell'ardimentoso arrampicarsi sui vetri dell'agentività. Per non togliere ai miei pochi lettori il gusto della scoperta, non dico qui quale è la mia risposta. Preferisco rimandare a quanto ho già scritto, nel mio articolo su Dieci chili di perle, e nel mio libro.


Rivendico il diritto di osservare il mondo con lo sguardo dell'essere umano. Rivendico lo spazio d'azione per l'essere-umano artista. Se a un essere-umano-tecnico-ricercatore piace dedicare tempo e risorse a costruire una macchina destinata ad agire in piena auto, se a un essere-umano-esperto-o-addetto-ai-lavori piace il florilegio di elogi alla macchina -come ad esempio: "la macchina catalizza esperienze estetiche all'insegna del sublime"- reagisco in due modi.

Primo, metto in guardia per quello che posso i cittadini, portati dal rispetto per l'autorità a dare credito ai profeti del nuovo e delle magnifiche sorti digitali, ed ai cantori dell'inevitabilità dell'avvento di sempre nuove stupende tecnologie. Dico ai cittadini: osservate la vanità e della pericolosità di questo disegno; fidatevi del vostro giudizio più che dell'opinione degli esperti. 

Secondo: mi dedico, e invito ognuno a dedicarsi, a ciò che di più saggio e costruttivo possiamo fare in quanto esseri umani. Pensare ed agire in quanto essere umano.


Risalendo a ritroso nell'articolo, mi soffermo sul fatto che si giunge a sostenere la necessità di decostruire l'antropocentrismo ingenuo chiamando in causa Heidegger. A questo proposito mi limito a dire che mi pare incauto ed arrischiato chiamare in causa il filosofo citando esclusivamente, di tutte le pagine che egli ha scritto, il frutto di una intervista rilasciata a Der Spiegel nel 1966. Personalmente mi sento uno sciocco, avendo dedicato tanto tempo allo studio delle opere e del pensiero del filosofo. Forse non ce n'era bisogno? Ho tentato di studiare, certo con i mei poveri mezzi, sia l'invito di Hieidegger all'esserci e alla cura, e quindi alla responsabilità personale; sia le sue acutissime riflessioni sulla tecnica: la Zuhandenheit in Sein und Zeit, e poi gli articoli sulla tecnica del dopoguerra.

Qualche accenno al pensiero di Heidegger -e alle conseguenze che se ne possono trarre per ragionare sui temi attualissimi- si trova su questo blog. 

Per argomentare sulla perdita di centralità dello sguardo umano e sulle capacità retoriche della macchina, e per sostenere che la macchina offre a noi umani uno sguardo inedito sulle cose del mondo, serve almeno qualche base solida. Poca strada ci fanno fare McCormack & Dorin, Miller, Accoto, Floridi, Coleman. Consiglierei di partire dagli articoli sulla tecnica, del dopoguerra , lì da dove Heiddegger dice Indem der Mensch die Technik betreibt, nimmt er am Bestellen als Weise des Entbergens teil.

Sarebbe bene che ognuno leggesse Heidegger per conto suo. Forse questo richiede troppo tempo, impegno, dedizione. Qualcuno potrebbe magari allora trarre qualche spunto di riflessione da articoli che appaiono su questo stesso mio blog. Più utile penso sia il commento allo sviluppo del pensiero di Heidegger a proposito della tecnica che propongo nel capitolo di Macchine per pensare "Forma imposta o continuo presentarsi".


Torniamo alla frase che conclude l'articolo:

dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza

Che vuol dire "sguardo computazionale sul mondo"? Su quale definizione di computazione appoggiamo l'affermazione? Ora, non è che possiamo intendere per computazione quello che di volta in volta ci fa comodo.

Ricordiamo brevissimamente il percorso. Cartesio, Leibniz. E poi agli albori del Ventesimo Secolo e dentro il Ventesimo Secolo Frege, il primo Russell, Hilbert. La via alla conoscenza nel mondo sta nel pensiero calcolante.

Accade però che la calcolabilità del tutto sia messa in discussione, nel 1930, da Kurt Gödel. Gödel ci impone di accettare che in ogni teoria matematica esiste una formula che non può essere dimostrata. Dunque, ogni descrizione di un sistema è incompleta. Il puro e perfetto linguaggio universale della scienza sognato da Leibniz non è base sufficiente ed esaustiva per la ricerca scientifica. "Nessun calcolo può decidere un problema filosofico", chiosa Wittgenstein.

Ma ecco che allora subito, sei anni dopo Gödel, interviene Turing tappando la falla. La soluzione, ancora una volta, è logico-formale. Turing propone di sostituire alla calcolabilità la computabilità. Quale è la differenza? Si rinuncia scientemente a cercare e a dar valore ciò che non è calcolabile, contentandosi di ciò che è computabile. Cosa è computabile? E' computabile ciò che può essere "written down by a machine".

La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare. 

Ecco intanto una imprecisione da segnalare. E' improprio sostenere che "lo sguardo computazionale sul mondo" possa essere uno "strumento di conoscenza". Potrà tuttalpiù essere uno strumento di informazione. Perché la computazione tratta informazioni, e non ha nulla a che fare con la conoscenza. La conoscenza è qualcosa fuori dalla portata di un qualsiasi agente, e riguarda invece in modo esclusivo l'essere umano.

La computazione vede dunque al lavoro una macchina, non un essere umano. Quindi certo, perché negarlo, una macchina potrà anche generare informazioni che l'essere umano potrà giudicare interessanti. Vogliamo dire, con un linguaggio fiorito, che queste informazioni interessanti, questi dati, ancora tutti da interpretare, forniti da macchine costruite da esseri umani ad esseri umani che usano la macchina, possono essere dette "sguardo inedito sulle cose del mondo"? Se così fosse, sarebbe facile trovarsi d'accordo.

Ma le parole usate per descrivere la scena suggeriscono un diverso atteggiamento. Con più o meno cautele, più o meno distinguo, si vuole affermare, si sente il bisogno di affermare che la bellezza, la ricchezza, sta nell'autonomia della macchina rispetto all'essere umano.

Chi vuole affermare questo lo faccia pure. Ma sarebbe buona cosa lo facesse con chiarezza, con piena onestà, evitando di nascondersi dietro formulazioni ambigue, evitando di proporre narrazioni diverse a seconda del pubblico, evitando di parlare di "utili provocazioni" e di chiamare in causa l'antropocentrismo di chi, semplicemente, non si vergogna di essere umano.


Come mostro nelle Cinque Leggi Bronzee dell'Era Digitale. E perché ci conviene trasgredirle, e poi di nuovo, spero in modo più sintetico, in Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, sta qui un passaggio chiave.

Siamo invitati ad accettare come immagine del mondo ciò che è visibile attraverso la computazione. Rinunciando a ciò che la computazione non riesce a vedere. Siamo anche invitati, tramite accurata propaganda, a dimenticare questo originario limite. Nel momento poi in cui si inizia a considerare confrontabili l'intelligenza artificiale -frutto più elevato della computazione- e l'intelligenza umana, i limiti della computazione finiscono per essere imposti a noi umani.

Perché resta aperta una domanda: sostenendo che l'"l'energia retorica della macchina catalizza esperienze estetiche all'insegna del sublime", sostenendo che gli artefatti della macchina "posseggono una forza estetica", siamo sicuri di allargare lo sguardo? Forse lo stiamo invece restringendo. Forse stiamo abituandoci a vedere solo ciò che è possibile vedere alla luce della computazione, rinunciando al più vasto orizzonte che in quanto esseri umani, quando liberi da pastoie digitali, ci è possibile vedere.



"Orrendo che affascina". "Complessa combinazione di gioia e orrore". "Smarrimento che si accompagna al meraviglioso". "Piacere provato al cospetto di un oggetto che trascende il nostro controllo e la nostra comprensione". L'essere umano ha forse paura di questo? Certo che no. Sembra si voglia suggerire che il povero essere umano fugge dall'accettare il sublime che emana dall'Intelligenza Artificiale. La storia umana ci racconta il contrario: la nostra storia è stata un continuo confronto con l'evento inatteso, con l'apparire del sublime. Nelle Macchine per pensare, e poi ora negli Splendori e miserie delle intelligenze artificiali ho esplorato a fondo questo argomento."Una sorta di spaventoso che tocca ciò che ci è familiare". "Infido", "fonte di orrore". Pochi hanno studiato questo argomento con la profondità di Sigmund Freud, in Das Unheimliche. Prendo Freud a mia guida.

Freud parla di come sia difficile per noi umani l’accettare il dunkel, l’oscuro. Eppure, dice, ne siamo capaci. L'essere umano si è confrontato con il sublime lungo l'intero arco della sua storia! Non è certo comparso il sublime sulla scena con l'apparire di una qualche novità tecnologica, detta magari 'Intelligenza Artificiale'!

Accettare ciò che ci appare solo come oscuro presagio. Accettare ciò che la scienza non ha saputo ancora dominare, spiegare. Accettare l’incompletezza di ogni modello. Questa è forza dell'essere umano. Accettare le tenebre del dubbio, della paura, è il punto di partenza per essere umani.

È un atteggiamento faticoso. Esige lavoro su di sé, educazione: imparare ad aver fiducia in se stessi, coltivare l’autostima, cercare scopi significativi ai quali dedicare le energie e verso i quali indirizzare l’azione.

Mostro -in forma più estesa in Macchine per pensare, e in forma più sintetica negli Splendori e miserie delle intelligenze artificialicome la 'macchina che pensa', poi rinominata Intelligenza Artificiale sia l'invenzione attraverso la quale Turing fugge dal fare personalmente i conti con l'"orrendo che affascina", con il sublime, con la complessa combinazione di gioia ed orrore.

Turing, purtroppo, ha aperto per noi proprio questa strada - o meglio questa meschina scappatoia. Non interrogarsi, ma interrogare la macchina-che-risponde-ad ogni domanda. Non attraversare le tenebre, ma affidarsi alla luce della macchina-che-tutto-illumina.




mercoledì 1 maggio 2024

L'usignolo e la sua imitazione digitale

La fiaba di Andersen L'usignolo meccanico pone in modo esemplare la questione della povertà delle imitazioni digitali della vita e della natura. 

Accettate che dica qui, senza definire ulteriormente, vita e natura: cercare definizioni è fuggire dall'argomento e rifiutare la dimensione autocritica, autobiografica, personale della riflessione. Voi che mi leggete siete esseri umani - se mi legge qualche entità digitale a suo modo, in qualche maniera, senziente, non mi interessa. Accettate quello che vi dice questa narrazione, che ha radici antiche, ed è allo stesso capace di illuminare il nostro presente. 

Questa narrazione avrà un ruolo particolarmente importante in un libro che vado scrivendo, secondo tomo del Trattato di Informatica Umanistica, seguito del primo tomo Macchina per pensare.

Trascrivo di seguito una versione della fiaba, dove sono intercalati mie glosse: provvisori primi abbozzi di un commento che sto scrivendo.


In Cina, lo sai bene, l'imperatore è un cinese e anche tutti quelli che lo circondano sono cinesi. La storia è di molti anni fa, ma proprio per questo vale la pena di sentirla, prima che venga dimenticata. Il castello dell'imperatore era il più bello del mondo, tutto fatto di finissima porcellana, costosissima ma così fragile e delicata, che, toccandola, bisognava fare molta attenzione. Nel giardino si trovavano i fiori più meravigliosi, e a quelli più belli erano state attaccate campanelline d'argento che suonavano cosicché nessuno passasse di lì senza notare quei fiori. Sì, tutto era molto ben progettato nel giardino dell'imperatore che si estendeva talmente che neppure il giardiniere sapeva dove finisse. Se si continuava a camminare, si arrivava in uno splendido bosco con alberi altissimi e laghetti profondi. Il bosco terminava vicino al mare, azzurro e profondo; grandi navi potevano navigare fin sotto i rami del bosco e tra questi viveva un usignolo, e cantava in modo così meraviglioso che persino il povero pescatore, che aveva tanto da fare, sentendolo cantare si fermava a ascoltarlo, quando di notte era fuori a tendere le reti da pesca. «Oh, Signore, che bello!» diceva, poi doveva stare attento al suo lavoro e dimenticava l'uccello.


LA BELLEZZA NON DISTOGLIE, NON FA DIMENTICARE IL LAVORO


Ma la notte successiva, quando questo ancora cantava, il pescatore che usciva con la barca, esclamava: «Oh, Signore, che bello!».

Alla città dell'imperatore giungevano stranieri da ogni parte del mondo, per ammirare la città stessa, il castello e il giardino; quando però sentivano l'usignolo, dicevano tutti: «Questa è la meraviglia più grande!».

I viaggiatori poi, una volta tornati a casa, raccontavano tutto, e le persone istruite scrissero molti libri sulla città, sul castello e sul giardino, ma non dimenticarono mai l'usignolo, anzi l'usignolo veniva prima di tutto il resto, e quelli che sapevano scrivere poesie scrissero i versi più belli sull'usignolo del bosco, vicino al mare profondo.


NARRAZIONE, TRADIZIONE POPOLARE, NON C’E’ FILTRO DEL POTERE,

ESPERIENZA CHE DIVIENE CONOSCENZA



Quei libri girarono per il mondo e alcuni giunsero fino all'imperatore. Seduto sul trono d'oro, leggeva continuamente, facendo ogni momento cenni di assenso con la testa, perché gli piaceva ascoltare le splendide descrizioni della città, del castello e del giardino. "Ma l'usignolo è la cosa più bella" c'era scritto.

«Che cosa?» esclamò l'imperatore. «L'usignolo? Non lo conosco affatto! Esiste un tale uccello nel mio regno, e per di più nel mio giardino! Non l'ho mai saputo! E bisogna leggerlo per saperlo!»


MURI DI CARTA E D’IINCENSO


Così chiamò il suo luogotenente che era così distinto che, se qualcuno inferiore a lui osava rivolgergli la parola o chiedergli qualcosa, non diceva altro che: «P...!», il che non significa nulla.

«Qui dovrebbe esserci un uccello meraviglioso chiamato usignolo» spiegò l'imperatore. «Si dice che sia la massima meraviglia del mio grande regno. Perché nessuno me ne ha mai parlato?»

«Non l'ho mai sentito nominare prima d'ora» rispose il luogotenente «non è mai stato introdotto a corte.»

«Voglio che venga qui stasera a cantare per me» concluse l'imperatore. «Tutto il mondo sa che cosa possiedo e io non lo so!»

«Non l'ho mai sentito nominare prima d'ora!» ripetè il luogotenente «farò in modo di trovarlo.»

Ma dove? Il luogotenente corse su e giù per le scale e attraversò saloni e corridoi; nessuno di quelli che incontrava aveva mai sentito parlare dell'usignolo, così il luogotenente tornò di corsa dall'imperatore e gli disse che doveva essere un'invenzione di chi aveva scritto i libri.

«Sua Maestà Imperiale non deve credere a quello che si scrive! È certamente un'invenzione fatta con quella che si chiama magia nera.»


CONTROLLO DELL’APPARATO. IMPERATORE PRIGIONIERO.

LA STORIA DELLA TECNICA SI INQUADRA NELLA STORIA DELLA POLITICA



«Ma quel libro in cui l'ho letto» disse l'imperatore «mi è stato inviato dal potente imperatore del Giappone, quindi non può essere falso. Voglio sentire quell'usignolo! Dev'essere qui stasera! Sarà ammesso nelle mie grazie! Se invece non viene, tutta la corte sarà picchiata sulla pancia dopo cena!»

«Tsing-pe!» rispose il luogotenente e ricominciò a correre su e giù per le scale, e attraverso saloni e corridoi, e metà della corte correva con lui, dato che non volevano essere picchiati sulla pancia. Si sentiva chiedere soltanto dello straordinario usignolo che tutto il mondo conosceva eccetto quelli della corte.

Alla fine trovarono una povera fanciulla in cucina che disse: «O Dio! L'usignolo: lo conosco, e come canta bene. Ogni sera ho il permesso di portare un po' degli avanzi a casa, alla mia povera mamma malata che vive giù vicino alla spiaggia, e quando al ritorno, stanca, mi fermo a riposare nel bosco, sento cantare l'usignolo. Mi vengono le lacrime agli occhi, è come se la mia mamma mi baciasse!».


SAGGEZZA POPOLARE COME FONTE ETICA



«Povera sguattera» esclamò il luogotenente «ti darò un posto fisso in cucina e ti permetterò di assistere al pranzo dell'imperatore se ci porterai dall'usignolo, dato che è stato convocato per questa sera.»

Così tutti si diressero nel bosco, dove di solito cantava l'usignolo; c'era mezza corte. Sul più bello una mucca cominciò a muggire.

«Oh!» dissero i gentiluomini di corte «eccolo! C'è una forza straordinaria in un animale così piccolo; certo l'ho sentito prima!»

«No! Sono le mucche che muggiscono» spiegò la piccola sguattera «siamo ancora lontani.»

Allora le rane gracidarono nello stagno.

«Bello!» disse il cappellano di corte cinese «ora lo sento, sembrano tante piccole campane!»

«No! Sono le rane» esclamò la fanciulla. «Sentite, sentite! Eccolo lì» e indicò un piccolo uccello grigio trai rami.

«È possibile?» disse il luogotenente «non me lo sarei mai immaginato così. Come è modesto! Ha certamente perso i suoi colori nel vedersi intorno tanta gente distinta.»

«Piccolo usignolo!» gridò la fanciulla a voce alta «il nostro clemente imperatore desidera che tu canti per lui!»

«Volentieri!» rispose l'usignolo, e cantò che era un piacere sentirlo .

«È come se fossero campane di vetro!» commentò il luogotenente. «E guardate quella piccola gola, come si sforza! È stranissimo che non l'abbiamo mai sentito prima! Avrà sicuramente successo a corte.»


VISIONE RIDOTTA DAL POTERE


«Devo cantare ancora una volta per l'imperatore?» chiese l'usignolo, convinto che l'imperatore fosse presente.

«Mio eccellente usignolo!» disse il luogotenente «ho il grande piacere di invitarla a una festa a corte, questa sera, dove lei incanterà la Nostra Altezza Imperiale con il suo affascinante canto!»

«È meglio tra il verde!» rispose l'usignolo,


NATURA SPINOZA


ma li seguì ugualmente volentieri quando seppe che l'imperatore lo desiderava.

Al castello avevano fatto grandi preparativi. Le pareti e i pavimenti, che erano di porcellana, brillavano, illuminati da migliaia di lampade d'oro; i fiori più belli, quelli che tintinnavano, erano stati messi lungo i corridoi; c'era un correre continuo e una forte corrente d'aria, e così tutte le campanelline si misero a suonare e non fu più possibile capire niente.


TRIVIALITA’ DELL’ARTIFICIALE


In mezzo al grande salone dove stava l'imperatore era stato collocato un trespolo d'oro, su cui l'usignolo doveva posarsi c'era tutta la corte, e la piccola sguattera aveva avuto il permesso di stare dietro alla porta, dato che era stata insignita del titolo di "sguattera imperiale."

Tutti indossavano i loro abiti migliori e tutti guardarono quel piccolo uccello grigio che l'imperatore salutò con un cenno.

L'usignolo cantò così deliziosamente che l'imperatore si commosse, le lacrime gli corsero lungo le guance, allora l'usignolo cantò ancora meglio e gli andò dritto al cuore. L'imperatore era così soddisfatto che diede ordine che l'usignolo portasse intorno al collo la sua pantofola d'oro. L'usignolo ringraziò ma disse che aveva già avuto la sua ricompensa.

«Ho visto le lacrime negli occhi dell'imperatore, questo è il tesoro più prezioso per me. Le lacrime di un imperatore hanno una potenza straordinaria. Dio sa che sono già stato ricompensato!» E cantò di nuovo con la sua dolcissima voce.


DONO (INCOMPRESO)


«È la più amabile civetteria che io conosca!» dissero le dame di corte e si misero dell'acqua in bocca per fare glug, quando qualcuno avesse rivolto loro la parola, così credevano di essere anche loro degli usignoli. Anche i lacchè e le cameriere cominciarono a essere soddisfatti, e questa non è cosa da poco perché sono le persone più diffìcili da soddisfare. Sì, l'usignolo portò davvero la gioia!

Ora sarebbe rimasto a corte, in una gabbia tutta d'oro e con la possibilità di passeggiare due volte di giorno e una volta di notte. Ebbe a disposizione dodici servitori e tutti avevano un nastro di seta con cui lo tenevano stretto, dato che i nastri erano legati alla sua zampina. Non era certo un divertimento fare quelle passeggiate!


TECNICA COME NATURA INGABBIATA


GABBIA D’ORO NON NASCONDE GABBIA. TECNICA POSTA AL SERVIZIO DEL POTERE.


Tutta la città parlava di quel meraviglioso uccello, e quando due persone si incontravano uno non diceva altro che: «Usi» e l'altro rispondeva: «Gnolo!» e poi sospiravano comprendendosi reciprocamente; undici figli di droghieri ricevettero il nome di quell'uccello, ma non

uno di essi ebbe il dono di cantare bene.

Un giorno arrivò un grande pacco per l'imperatore, con scritto sopra: "Usignolo."

«È sicuramente un nuovo libro sul famoso uccello!» esclamò l'imperatore; ma non era un libro, era invece un piccolo oggetto chiuso in una scatola: un usignolo meccanico, che doveva somigliare a quello vivo ma era ricoperto completamente di diamanti, rubini e zaffiri. Non appena lo si caricava, cominciava a cantare uno dei brani che anche quello vero cantava, e intanto muoveva la coda e brillava d'oro e d'argento.


GEMELLO DIGITALE



Intorno al collo aveva un piccolo nastro su cui era scritto: "L'usignolo dell'imperatore del Giappone è misero in confronto a quello dell'imperatore della Cina."

«Che bello!» dissero tutti, e colui che aveva portato quell'usignolo meccanico ebbe il titolo di Portatore imperiale di usignoli.

«Ora devono cantare insieme! Chissà che duetto!»

Cantarono insieme, ma non andò molto bene, perché il vero usignolo cantava a modo suo, quello meccanico invece funzionava per mezzo di cilindri. «Non è colpa sua!» spiegò il maestro di musica «tiene bene il tempo e segue in tutto la mia scuola!»


ARGOMENTO DI TURING SUL LIVELLARE L’UOMO ALLA MACCHINA


MACCHINA REPLICA ESEGUE PROGRAMMA


Così l'usignolo meccanico dovette cantare da solo. Ebbe lo stesso successo di quello vero, ma era molto più bello da guardare: brillava come i braccialetti e le spille.


SOSTITUZIONE DEL DIGITALE AL NATURALE.

PROPAGANDA A FAVORE DELLA BELLEZZA DIGITALE


Cantò per trentatré volte sempre lo stesso pezzo e non era affatto stanco; la gente lo avrebbe ascoltato volentieri di nuovo, ma l'imperatore pensò che ora avrebbe dovuto cantare un po' l'usignolo vero... ma dov'era finito? Nessuno aveva notato che era volato dalla finestra aperta, verso il suo verde bosco.

«Guarda un po'!» esclamò l'imperatore; e tutta la corte si lamentò e dichiarò che l'usignolo era un animale molto ingrato. «Ma abbiamo l'uccello migliore!» dissero, e così l'uccello meccanico dovette cantare ancora e per la trentaquattresima volta sentirono la stessa melodia, ma non la conoscevano ancora completamente, perché era molto difficile, il maestro di musica lodò immensamente l'uccello e assicurò che era migliore di quello vero, non solo per il suo abbigliamento e i bellissimi diamanti, ma anche internamente.

«Perché, vedete, Signore e Signori, e prima di tutti Vostra Maestà Imperiale, con l'usignolo vero non si può mai prevedere quale sarà il suo canto; in questo uccello meccanico invece tutto è stabilito. Così è e non cambia! Ci si può rendere conto di come è fatto, lo si può aprire e si può capire come sono collocati i cilindri, come funzionano e come si muovono, uno dopo l'altro.»


BELLEZZA SOTTO CONTROLLO. NORMALIZZAZIONE DELLA BELLEZZA OVVERO NEGAZIONE DELLA BELLEZZA


«È proprio quello che penso anch'io!» esclamarono tutti, e il maestro di musica ottenne il permesso, la domenica successiva, di mostrare l'uccello al popolo. «Anche loro devono sentirlo cantare» disse l'imperatore, e così lo sentirono e si divertirono tantissimo, come si fossero ubriacati di tè, il che è una cosa prettamente cinese. Tutti esclamarono: "Oh!" e alzarono in aria il dito indice, che chiamano "leccapentole," e assentirono col capo. Ma i poveri pescatori che avevano sentito l'usignolo vero, dissero: «Canta bene, e assomiglia all'altro, ma manca qualcosa, anche se non so che cosa!».


ANCORA SAGGEZZA E LIBERTA’ DI GIUDIZIO POPOLARE


Il vero usignolo venne bandito da tutto l'impero.


SOSTITUZIONE E RIMOZIONE


L'uccello meccanico fu posto su un cuscino di seta vicino al letto dell'imperatore; tutti i regali che aveva ricevuto, oro e pietre preziose, gli furono messi intorno, e gli fu dato il titolo di "Cantore imperiale da comodino";



NATURA RIDOTTA A GADGET SOTTO CONTROLLO


nel protocollo fu messo al primo posto a sinistra, perché l'imperatore considerava quel lato più nobile, essendo il lato del cuore: e anche il cuore di un imperatore infatti sta a sinistra. Il maestro di musica scrisse venticinque volumi sull'uccello meccanico, molto eruditi e lunghi e espressi con le parole cinesi più diffìcili, che tutti dissero di aver letto e capito, perché altrimenti sarebbero parsi sciocchi e sarebbero stati picchiati sulla pancia.


ESOTERISMO DELLA TECNICA COME FORMA DI POTERE ESCLUDENTE



Passò così un anno intero; l'imperatore, la corte e tutti gli altri cinesi conoscevano ogni minimo suono della canzone dell'uccello meccanico, e proprio per questo pensavano che fosse così bella:


CONDIZIONAMENTO SOCIALE E COGNITIVO



infatti potevano cantarla anche loro, insieme all'uccello, e così facevano. I ragazzi di strada cantavano: «Zi zi zi! giù giù giù!» e lo stesso cantava l'imperatore. Era proprio bello!

Ma una sera, mentre l'uccello meccanico cantava meglio che poteva, e l'imperatore era a letto a ascoltarlo, si sentì svup!; nell'uccello era saltato qualcosa: trrrr! tutte le ruote girarono, e poi la musica si fermò.

L'imperatore balzò fuori dal letto e chiamò il suo medico, ma a che cosa poteva servire? Allora chiamò l'orologiaio che, dopo molti discorsi e visite, rimise in sesto in qualche modo l'uccello, ma disse che bisognava risparmiarlo il più possibile, perché aveva i congegni consumati e non era possibile metterne di nuovi senza rischiare di rovinare la musica. Fu un grande dolore! Si poteva far suonare l'uccello meccanico solo una volta l'anno, e con fatica, ma il maestro di musica tenne un discorso con parole difficili e disse che tutto era uguale a prima, e difatti tutto fu uguale a prima.


LIMITI DELLA TECNICA RISPETTO ALLA NATURA



Passarono cinque anni e tutto il paese ebbe un grande dolore perché in fondo tutti amavano il loro imperatore; e lui era malato e non sarebbe vissuto a lungo, si diceva; un nuovo imperatore era già stato scelto e il popolo si riuniva per la strada e chiedeva al luogotenente come stava il loro imperatore.

«P!» diceva lui scuotendo il capo.

L'imperatore stava pallido e gelido nel suo grande e meraviglioso letto. Tutta la corte lo credeva morto e tutti corsero a salutare il nuovo imperatore; i servitori uscirono per parlare dell'avvenimento e le cameriere s'erano trovate in compagnia per il caffè. In tutti i saloni e i corridoi erano stati messi a terra dei drappeggi, affinché non si sentisse camminare nessuno, e per questo motivo c'era silenzio, molto silenzio. Ma l'imperatore non era ancora morto; rigido e pallido stava nel suo bel letto con le lunghe tende di velluto e i pesanti fiocchi dorati. In alto c'era la finestra aperta e la luna illuminava l'imperatore e l'uccello meccanico.

Il povero imperatore non riusciva quasi a respirare, era come se avesse qualcosa sul petto; spalancò gli occhi e vide che la morte sedeva sul suo petto e s'era messa in testa la sua corona d'oro. In una mano teneva la spada d'oro e nell'altra una splendida insegna; tutt'intorno, dalle pieghe delle grandi tende di velluto del letto, comparivano strane teste, alcune orribili, altre molto dolci: erano tutte le azioni buone e cattive dell'imperatore, che lo guardavano, ora che la morte poggiava sul suo cuore.

«Ti ricordi?» sussurrarono una dopo l'altra. «Ti ricordi?» e gli raccontarono tante e tante cose che il sudore gli colava dalla fronte.

«Non l'ho mai saputo!» diceva l'imperatore. «Musica musica, il grande tamburo cinese!» gridava «per non sentire quello che dicono!»

Ma loro continuarono e la morte faceva di sì con la testa a tutto quello che veniva detto.

«Musica! Musica!» gridò l'imperatore. «Tu, piccolo uccello d'oro canta, forza, canta! Ti ho dato oro e oggetti preziosi, ti ho appeso personalmente la mia pantofola d'oro al collo, canta dunque, canta!»

Ma l'uccello stava zitto, non c'era nessuno che lo caricasse e quindi non poteva cantare.


L’OGGETTO TECNICO RESTA IN OGNI CASO DIPENDENTE DAL SOGGETTO UMANO

NON C’E’ COMUNE APPARTENENZA COME NELLA NATURA NATURANS DI SPINOZA.


La morte invece continuò a guardare l'imperatore con le sue enormi orbite cave, e stava in silenzio, in un silenzio spaventoso.

In quel momento si sentì vicino alla finestra un canto mirabile; era il piccolo usignolo vivo che stava seduto sul ramo lì fuori; aveva sentito delle sofferenze dell'imperatore e era accorso per infondergli col canto consolazione e speranza. Mentre lui cantava, quelle immagini diventavano sempre più tenui, il sangue si mise a scorrere con più forza nel debole corpo dell'imperatore, e la morte stessa si mise a ascoltare e disse: «Continua, piccolo usignolo, continua!».

«Solo se mi darai la bella spada d'oro, se mi darai quella ricca insegna, se mi darai la corona dell'imperatore!»

E la morte gli diede ogni cimelio in cambio di una canzone, e l'usignolo continuò a cantare, e cantò del tranquillo cimitero dove crescevano le rose bianche, dove l'albero di sambuco profumava e dove la fresca erbetta veniva innaffiata dalle lacrime dei sopravvissuti; allora la morte sentì nostalgia del suo giardino e volò via, come una fredda nebbia bianca, fuori dalla finestra.


NELLA NATURA NON C’E’ MORTE


«Grazie, grazie!» disse l'imperatore. «Piccolo uccello celeste, ti riconosco! Ti avevo bandito dal mio regno e ciò nonostante col tuo canto hai allontanato le cattive visioni dal mio letto, e hai scacciato la morte dal mio cuore. Come potrò ricompensarti?»

«Mi hai già ricompensato!» rispose l'usignolo. «Ho avuto le tue lacrime la prima volta che ho cantato per te, non lo dimenticherò mai! Questi sono i gioielli che fanno bene al cuore di chi canta! Ma adesso dormi e torna a essere forte e sano: io canterò per te.»


DONO


Cantò di nuovo, e l'imperatore cadde in un dolce sonno, in un sonno tranquillo e ristoratore.

Il sole entrava dalla finestra quando lui si svegliò, guarito e pieno di forza; nessuno dei suoi servitori era ancora tornato perché credevano che fosse morto, ma l'usignolo era ancora lì a cantare.

«Dovrai restare con me per sempre!» disse l'imperatore. «Canterai solo quando ne avrai voglia, e io farò in mille pezzi l'uccello meccanico.»

«Non farlo!» gridò l'usignolo. «Ha fatto tutto il bene che poteva. Conservalo come prima.


TECNICA ACCETTATA, COLLOCATA AL SUO POSTO


Io non posso vivere al castello, ma permettimi di venire quando ne ho voglia, allora ogni sera mi poserò su quel ramo vicino alla finestra e canterò per te, perché tu possa essere felice e riflettere un po'.


LIBERTA’ UMANA

COMPASSIONE, SIMPATIA

CANTO: NARRAZIONE E ORIGINE DELLA LETTERATURA


Ti canterò delle persone felici e di quelle che soffrono. Ti canterò del bene e del male intorno a te che ti viene tenuto nascosto. L'uccellino che canta vola ovunque, dal povero pescatore alla casa del contadino, da tutti quelli che sono lontani da te e dalla tua corte. Io amo il tuo cuore più della tua corona, anche se la corona ha qualcosa di sacro intorno a sé. Verrò a cantare per te! Ma mi devi promettere una cosa.»

«Qualunque cosa!» rispose l'imperatore, ritto negli abiti imperiali che aveva indossato da solo, la pesante spada d'oro sul cuore.

«Ti chiedo una sola cosa! Non raccontare a nessuno che hai un uccellino che ti riferisce tutto, così le cose andranno molto meglio!»


RELAZIONI SOCIALI VOLONTARIE DEPURATE DAL POTERE. NON POTRANNO MAI ESSERE SOSTITUITE DAI ‘DATI’


E l'usignolo volò via.

I servitori entrarono per vedere il loro imperatore morto; restarono impalati quando l'imperatore disse: «Buongiorno!».

lunedì 15 aprile 2024

L'essere-umani-nel- mondo e la sua sostituzione digitale. Una stringata sintesi dei mio pensiero a proposito di qualche concetto chiave

La Transizione Digitale conteneva una grande promessa: nuovi strumenti per essere più pienamente umani. Si è invece rivelata il punto di svolta di una svalutazione dell’umano. 

Al posto dell’umano essere-nel-mondo vengono proposti, o imposti, riduttivi surrogati digitali. Una cosa è la conoscenza, fondata sulla presenza e sull’osservazione. Ben altra cosa è l’informazione: un insieme di dati. 

I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano. 

L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato. 

Il calcolo, che in realtà non raggiunge mai l’esattezza che promette, non è che una delle possibili forme della narrazione.

Il documento è steso per narrare ciò che è accaduto e ciò che sta accadendo. Il modello è una chiave di lettura data a priori, che esclude parti di ciò che lo sguardo umano sa vedere qui ed ora. 

Non c’è motivo di negare valore alla computer science. Essa ha lo scopo di costruire e programmare macchine. Ciò che è criticabile è la sua duplice pretesa - che raggiunge il culmine con la cosiddetta ‘intelligenza artificiale’: - considerare buono ed auspicabile per noi umani ciò che è buono per macchine digitali. - proporre un sostituto digitale per ogni aspetto dell’umano essere-nel-mondo. 


 
Nota
Almeno ogni tanto, bisogna cercare di proporre sintesi stringate come questa. Certo poi si deve sperare che ci leggi non giudichi troppo stretta la sintesi. Prendete queste poche parole come suggestione, ma non  valutate il mio pensiero alla luce di questa sintesi. 
Si tratta di argomenti che tratto in modo disteso nei miei libri: Macchine per pensare. L'informatica come prosecuzione della filosofia con altri mezzi, 2016; Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle, 2020; Splendori e miserie delle intelligenze artificiali. Alla luce dell’umana esperienza, 2024. 
A proposito in particolare di una informatica o computer science basata sul documento, vi invito a leggere l'articolo Architetture civili.