Turing lo sapeva!

Un accademico, ordinario di Computer Science recentemente uscito di ruolo per età, si  presenta ora su Linkedin come 'etico informatico'. Ha scritto sull'Avvenire un articolo commemorativo nel settantesimo anniversario della morte di Alan Turing 7 giugno  1954. Qui l'articolo.

Riporto qui il commento all'articolo che ho proposto su Linkedin.

Se seguiamo Turing quando dice: "presumibilmente il comportamento intelligente consiste in un allontanamento dal comportamento completamente disciplinato del calcolo"", dobbiamo dedurne che nessuna macchina fondata sulla computazione può essere 'intelligente', perché la computazione è esattamente un procedimento completamente disciplinato dal calcolo. Anzi, Turing ci impone una ulteriore riduzione, un ulteriore allontanamento dall''intelligenza' definita come sopra, dato che la computabilità è per definizione più strettamente disciplinata della calcolabilità.

Turing lo sapeva! Infatti tutto il suo ragionare, nell'articolo "Computer Machinery ed Intelligence", 1950, tutto il suo cercare la macchina che pensa, la macchina intelligente, non è che una mera speranza, umanamente comprensibile, ma priva di fondamenti logici, matematici, o in senso lato scientifici. 'I hope', scrive verso la fine dell'articolo, come tu stesso ricordi: "possiamo sperare che sicuramente nel futuro le macchine competeranno con gli uomini in tutti i settori puramente intellettuali".

La domanda dunque è: perché Turing coltivava questa fideistica speranza? La domanda è anche: perché sono molti oggi coloro che coltivano, seguendo Turing, questa fideistica speranza?

Mi sembra resti aperto anche un ulteriore interrogativo: anche tu coltivi questa fideistica speranza? Perché scrivi: "I recenti progressi dei sistemi di intelligenza artificiale generativa stanno facendo cadere l’ipotesi che siano solo dei 'pappagalli stocastici', basati sul caso. Almeno dal punto di vista fenomenologico alcuni esperimenti hanno invece dimostrato in questi sistemi l’esistenza di scintille di intelligenza".

Tu credi davvero che gli argomenti esposti da Emily Bender in "On the Dangers of Stochastic Parrots" siano infondati, e che invece vada dato credito a quanto scrive Sébastien Bubeck in "Sparks of Artificial General Intelligence: Early experiments with GPT-4"?

Nel complesso, leggendo il tuo articolo, mi sembra che tu condivida la "solenne dichiarazione di fiducia e ottimismo" che attribuisci a Turing.

Perciò mi pare resti una certa contraddizione tra il tuo testo il titolo dell'articolo: 'Così Alan Turing ci mise in guardia dagli inganni delle macchine'. Turing non mette in guardia dagli inganni delle macchine, spera che le macchine pensino!. Forse i redattori dell'Avvenire non hanno capito? O forse, consapevolmente o inconsciamente, si tratta di una presa di distanza da quello che scrivi?

L'informatica è umanistica

Articolo apparso su MagIA il 13 ottobre 2024

L'informatica è umanistica

di Francesco Varanini

Informatica Umanistica o Digital Humanities? Da molte parti sento dire che l'espressione 'informatica umanistica' è orrenda, e che non esiste motivo per non adottare l'espressione inglese, che oltretutto porta con sé un richiamo esplicito alla comune, e per molti definitiva, affermazione del 'digitale' come parola chiave indispensabile per definire la cultura nella quale ci si vuole considerare definitivamente immersi.

Dietro la facile parola 'digitale' continuano però ad aleggiare, lo si voglia o no, altre due espressioni, ben più portatrici di senso: computazione e informatica. Il 'digitale', in effetti, non è che la lettura pop della computazione e dell'informatica.

Ben venga quindi una dizione -informatica umanistica- che mantiene vivo il senso di una storia e che è espressa in lingua italiana. Non è questo il luogo per guardare alle differenze sottili tra 'informatica' e 'computer science'. Basta qui ricordare che i Dipartimenti delle nostre Università si chiamano Dipartimenti di Informatica.

Mi pare anche che in italiano risalti meglio l'ossimoro, l'accostamento di concetti in apparenza tra loro contrari, la giustapposizione di due in apparenza opposti avvicinamenti alla conoscenza. Da un lato l'Informatica, la Computer Science, nuova disciplina. Dall'altro l'Umanistica: l'arte, la letteratura, le scienze umane.

Appare dunque evidente l'ampiezza di senso che alberga nella definizione - e quindi nel campo di studi che la definizione descrive. Come possono stare insieme informatica e umanistica? Come si contraddicono a vicenda, oppure come si imbricano, come contaminano e interlacciano le due aree disciplinari? Cercherò di rispondere mostrando perché 'informatica' e 'umanistica' debbano stare insieme. Non possano che stare insieme.

E' inevitabile iniziare dicendo che l'Informatica Umanistica -o Digital Humanities- designa comunemente un ambito banale. L'informatica umanistica, si dice, si dedica a predisporre strumenti informatici per cultori delle discipline umanistiche: hardware e software ad uso editoriale, di biblioteche e musei; supporti informatici per ricerche storiche, linguistiche, o filologiche. Oppure si pone l'accento sulla divulgazione della conoscenza attraverso media informatici. O ancora si guarda alla codifica digitale di testi prima appoggiati su supporti cartacei; e in genere alla codifica digitale di parole, suoni, immagini.

Se invece prendiamo buono quel luogo, quel confine sfumato che sta tra l'Informatica e l'Umanistica, possiamo avventurarci a proporre un primo tentativo di definizione: l'informatica umanistica è il regno della transdiciplinarità.

Ma la transdisciplinarità è un'arte difficile da praticare.

Basta un esempio. Un concetto fondante dell'informatica è l'organizzazione dei dati sotto forma di albero gerarchico. E' buona cosa cercare di illustrare questa organizzazione logica attraverso analogie attinte dal vasto campo umanistico. Le scelte però finiscono per cozzare con i limiti, forse inevitabili, del quadro di conoscenze dello studioso.

Siccome in una edizione italiana del romanzo di Gabriel García Márquez Cien años de soledad l'editore ha aggiunto al testo, ad inizio libro, un albero genealogico della famiglia Buendía, si prende questo albero genealogico come riferimento tramite il quale mostrare le virtù generali e quindi le applicazioni tecniche dell'hierarchical tree.

Non si può certo pretendere che un docente di informatica sia particolarmente ferrato in temi storico-letterari, critico-letterari o filologici. Ma si dà il fatto che l'albero genealogico della famiglia protagonista del romanzo sia una aggiunta estemporanea del redattore italiano di una singola edizione. L'albero genealogico non compare in nessuna edizione in lingua originale, e tanto meno nella prima edizione dell'opera. Si dà anche il fatto che l'esposizione dell'albero genealogico contraddice le intenzioni dell'autore e la proposta che l'autore rivolge al lettore. García Márquez, al contrario, propone lettore di perdersi in una narrazione dove la sequenza storica, temporale, lineare degli eventi è assente; invita il lettore a rinunciare all'ordine rappresentato dalla gerarchia dei puri passaggi generazionali, e ad immergersi invece nella complessità: tornano gli stessi nomi di battesimo, la figura del nonno si ritrova negli atteggiamenti del nipote, gli antenati sono presenti qui ed ora... Se il romanzo ci offre metafore -e ce le offre- certo non ci parla di gerarchia, ci parla semmai di rete, o della massa di Big Data, aperti alle più differenti connessioni, compresi in un LLM.

Così, la buona intenzione si trasforma in un cattivo servizio.

Altri romanzi avrebbero certo fornito un miglior esempio di hierarchical system. Ma va anche detto che, al di là della letteratura, e dell'inesistente albero di García Márquez, le analogie pertinenti non sono poi così difficili da trovare.

Si sarebbe potuto ricorrere alle rappresentazioni grafiche delle strutture elementari delle parentele offerte dall'antropologia culturale. Ma sopratutto si può ricordare l'esempio principe di rappresentazione sistematica di conoscenze fondata sulla struttura ad albero: il Systema Naturae per Regna Tria Naturae, secundum classes, ordines, genera, species, cum characteribus, differentiis, synonymis, locis di Linneo. Nelle tavole di Linneo troviamo, già pienamente implementate, il hierarchical tree articolato in classi e sottoclassi, il file system, il modello dei dati.

Seguendo Linneo, si può oltretutto ricostruire il percorso che porta a Goethe. Goethe provava un enorme ammirazione per il quadro generale generale e sistematico, universale, proposto da Linneo.

Ma poi, anche sotto l'influenza straniante della lettura di Spinoza, un giorno, nell'orto botanico di Padova, osservando dal vivo un albero, Goethe ha una illuminazione: si rende conto della necessaria esistenza di una differente rappresentazione. La rappresentazione di Linneo è una Gestalt, una struttura ordinata dove ogni cosa sta in un posto formalmente descritto. Esiste un'altra possibile, anzi: necessaria rappresentazione: la Bildung: la forma formante, la forma che sta prendendo forma in questo istante, la forma emergente.

Se è possibile cercare il senso della computer science attraverso per la via della Gestalt, altrettanto può dirsi della via della Bildung.

Ricordando gli aspetti riduttivi e inconsistenti del richiamo approssimativo ad autore e ad una opera letteraria, non si vuole certo gettare la croce addosso a qualcuno. Si vuole solo far presente che molto difficilmente l'auspicato approccio transdisciplinare può essere oggetto di un singolo insegnamento, e molto difficilmente può essere praticato da un singolo docente.

La domanda che si pone è dunque questa: come cercare la transdisciplinarità. Come metterla in campo, come insegnarla.

Verosimilmente, la transdisciplinarità può emergere dal tenere aperto il ventaglio degli argomenti, al di là dei confini disciplinari. E cioè, in università, la transdiciplinarità è il frutto dell'ampiezza degli sguardi disciplinari accolti nei piani di studi.

Scrivo questo avendo in mente la personale esperienza. Ho partecipato più di vent'anni, presso l'Università di Pisa, al decollo del primo -e credo ancora unico- corso di laurea triennale in Informatica Umanistica. Si trattava di un corso Interfacoltà. Era bellissimo vedere lavorare insieme docenti cultori di discipline diversissime, e quindi anche incapaci di intendere l'uno il saper dell'altro. Tutti contribuivano ad una sintesi, o meglio in una apertura, in una disponibilità alla complessità, che si formava e andava crescendo nella mente degli studenti.

Spero che questi stringati accenni siano sufficienti per mostrare come l'informatica umanistica possa offrire un servizio di grande importanza: collocare i concetti, i costrutti che sono il pane quotidiano dei cultori dell'informatica e della computer science nel quadro storico e culturale nel quale i concetti e costrutti stessi sono stati generati e si sono evoluti.

Collocare il pensiero informatico e computazione nel vasto, aperto contesto della storia delle idee significa offrire la via per avvicinarsi alla più profonda e sfumata conoscenza della propria disciplina, al più consapevole dominio dei ferri del mestiere.

E' forse necessaria una precisazione: non si tratta di cercare, lungo una via già molto percorsa, ma foriera di vari fraintendimenti, un incontro tra due culture, la cultura 'umanistica' e cultura 'scientifica' (di cui la computer science fa parte), intese come campi nativamente distinti. Si tratta invece di considerare la scienza stessa (e quindi la computer science) un'arte umana, una specifica via verso la conoscenza, come lo sono la letteratura o la musica.

Accade oggi che i corsi di laurea di Digital Humanities siano incardinati nel quadro di Dipartimenti di taglio umanistico. E che siano concepiti come preparazione a coprire ruoli dove la competenza informatica necessaria è limitata ad elementi basilari e semplificati. Andando per esempi: dall'esperto di biblioteconomia all'esperto di Search Engine Optimization.

Il modo di intendere l'Informatica Umanistica che sto esponendo trova invece collocazione all'interno dei Dipartimenti di Informatica. Perché un certo senso l'Informatica Umanistica che qui propongo può anzi essere intesa la miglior formazione per qualunque professione nel campo della computer science: sia si tratti di impieghi di ambito aziendale, sia di carriere nel campo dell'accademia e della ricerca.

Infatti serve una solida preparazione in meritò ai fondamenti matematica, alla calcolabilità e alla computazione, algoritmi, programmazione... Ma è anche evidente la rapida evoluzione delle tecnologie: ciò che conta è essere preparati a coglierne gli aspetti essenziali e ad apprendere rapidamente. A questo fine, una preparazione umanistica è sicuramente un fattore efficace, un importantissimo acceleratore.

Si può infine ricordare che l'informatica umanistica fornisce un antidoto al comune modo di intendere la figura del computer scientist. Si dice che il computer scientist è impegnato ad interagire con due 'agenti': l'utente e la macchina. L'informatica umanistica riporta con i piedi per terra: il protagonista di questa storia è uno solo: l'essere umano. Nessun essere umano si merita di essere ritenuto passivo 'utente'. L'essere umano che costruisce macchine destinate ad essere usate da altri esseri umani merita una formazione che gli ricorda la sua appartenenza all'umanità. L'essere umano che costruisce strumenti per accompagnare gli esseri umani nella loro ricerca di conoscenza, merita una formazione aperta alla complessità dei processi di costruzione di conoscenza.

L'ultima definizione di intelligenza è sempre la penultima

 Ci sono intellettuali preoccupati, a loro dire, di una certa regressione che si respira oggi nell'aria. Che fanno allora? Intervistano filosofe influenti, originali e stimolanti. (Se volete, leggete qui).

La filosofa dice: avevo scritto che c’era differenza tra un

cervello organico e il modo in cui funziona un computer.

Ma mi sbagliavo! Me ne sono accorta quando ho scoperto l'esistenza dei chip sinaptici!

Ora, folgorata dal chip, la filosofa sa cosa è l'intelligenza - sa che può essere inequivocabilmente descritta tramite una definizione esaustiva, esatta - e sa anche che questa definizione è buona per descrivere sia l'intelligenza umana che l'intelligenza della macchina - che, ci assicura, sono la stessa cosa.

"È inutile negarlo: il cervello e il computer sono in una relazione reciproca e speculare, di mirroring". Dunque: specchiatevi nella macchina per conoscere voi stessi!

Sovviene un dubbio: quando verrà mostrato un nuovo chip alla filosofa, ella si afferrerà allora a nuove certezze?

Torna per fortuna in mente l'antica lezione: filosofia è aletheia: inesauribile tentativo di disvelamento, quindi proprio: esperimento, ricerca di ciò che sta oltre il già definito.

Dunque resta la domanda: dato e non concesso che la definizione di intelligenza fornita dalla filosofa abbia un senso, cosa c'è oltre quell'ambito già descritto?

Le mie capacità, e quelle tue, di te che mi stai leggendo, sono certo modestissime. Magari domani una macchina mi umilierà con i suoi superpoteri. Ma perfino nella mia capacità di pensare c'è qualcosa che travalica i confini segnati da quella definizione!

Nulla di questo sembra interessare a intellettuali e filosofi postmoderni, disinteressati a sondare le tenebre dell'ignoto, a cercare ancora. Ansiosi -o bisognosi- di stare al passo con le glorie dell'ora presente, essi sostituiscono la computazione all'aletheia.

Overwhelming effect. La complessità ridotta a computabilità

 Se, nell'osservare la scena digitale, dobbiamo, per riflettere sul suo senso, guardare a una parola nuova ne cito una sola: computazione. Ben più digitale, dobbiamo considerarla la parola emblematica, che descrive la situazione che ci troviamo a vivere.

Kurt Gödel, ventiquattrenne finissimo matematico, dimostra nel 1930 che nessun sistema può essere utilizzato per provare la propria stessa coerenza. Ogni sistema è incompleto. Non è possibile giungere a definire la lista esaustiva degli assiomi che permetta di dimostrare tutte le verità. Ogni volta che si aggiunge un enunciato all'insieme degli assiomi, ci sarà sempre un altro enunciato non incluso.

Nel 1936 un altro finissimo matematico allora ventiquattrenne, Alan Turing, risponde a Gödel. Se la calcolabilità - la descrizione del mondo logico-formale, esatta e priva di equivoci - è inattingibile, la risposta sta nel definire un universo più ristretto, dove i problemi che la calcolabilità impone sono assenti per definizione. Turing, in fondo, non fa altro che rinverdire il sistema assiomatico di Hilbert aggiungendo alla sua lista un nuovo assioma: useremo d'ora in poi solo numeri computabili. Sostituiremo alla problematica calcolabilità la rassicurante computabilità.

Nella prima riga dell'articolo è già fornita la definizione: "The computable numbers may be described briefly as the real numbers whose expressions as a decimal are calculable by finite means". Calcolabili con mezzi finiti. Poche righe sotto Turing spiega meglio: "a number is computable if its decimal can be written down by a machine".

La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare.

I numeri che la macchina non è in grado di trattare sono esclusi dalla scena. Inesistenti nel Paradiso della Computazione.

L'effetto elettrone

Turing era ben consapevole dei limiti di questa scelta. Nell'articolo del 1950, dove sostiene che il modo di pensare delle macchine computanti, computer, possa essere pari o migliore del mondo di pensare di noi umani, parla di come eventi apparentemente limitati possono avere effetti rovinosi e smisurati [overwhelming effect] in un momento successivo. “Lo spostamento di un singolo elettrone di un miliardesimo di centimetro in un momento può fare la differenza, un anno dopo, tra la morte di un uomo sotto una valanga o la sua salvezza”. L'effetto elettrone di Turing anticipa di più di dieci anni l'effetto descritto dal matematico e meteorologo Edward Lorenz: il battito delle ali di una farfalla in Brasile la condizioni iniziale del sistema. Variazioni infinitesime nelle condizioni iniziali -ben difficilmente calcolabili- producono variazioni grandi e crescenti nel comportamento successivo del sistema. Turing ha dunque ben chiaro il concetto di ciò che chiamiamo sistema dinamico non lineare, sistema adattivo, sistema complesso.

Ma qual'è la sua risposta? La sua proposta è leggere gli stati del mondo attraverso una 'macchina a stati discreti'. La vita è un continuum, un flusso ininterrotto. La macchina a stati discreti si limita a rappresentare il flusso attraverso “sudden jumps or clicks from one quite definite state to another”, salti o scatti automatici da uno stato ben definito a un altro. Si sceglie di ignorare la differenza.

“Una proprietà essenziale dei sistemi meccanici che abbiamo chiamato macchine a stati discreti è che questo [l'overwhelming effect] fenomeno non si verifichi”. Dunque: siamo di fronte all'imprevedibilità e all'incertezza. Sappiamo che ogni stato iniziale, difficilissimo da leggere in tutti suoi aspetti, può generare conseguenze caotiche e catastrofiche. Cosa si fa? Si usa, per misurare e controllare il fenomeno, o per simularlo, una macchina a stati discreti, dove il fenomeno non si verifica. Insomma, la proposta è gestire un sistema complesso attraverso un suo modello: un gemello meccanico, non complesso.

La giustificazione di Turing è questa: “una conoscenza ragionevolmente accurata dello stato in un momento produce una conoscenza ragionevolmente accurata per un certo numero di passi successivi”. Insomma, dobbiamo contentarci dei dati di cui disponiamo, sempre limitati e mai sufficientemente accurati; dobbiamo contentarci di una rappresentazione del fenomeno -suo modello, gemello- ragionevolmente accurata, mai perfetta. Sappiamo che il nostro sguardo previsionale non può andare oltre “un certo numero di passi successivi”.

Qui Turing non aggiunge niente: a suo modo lo diceva trecento anni prima Spinoza; e forse a ben guardare l'intera storia della filosofia e della matematica ci parlano di questa incompletezza.

Ciò che aggiunge Turing è il gioco di prestigio di sostituire alla calcolabilità la computabilità, il gioco di sostituire alla difficile osservazione del mondo tramite esperimenti l'affidamento alla rappresentazione del mondo proposta da una macchina detta computer, il gioco di sostituire ai sistemi complessi i sistemi meccanici.

La tecnica e il proprio corpo. La via di Alan Turing e l'opposta via di Marcel Mauss

Propone Leroi-Gourhan in Le gest et la parole: il proprio avvenire, per gli esseri umani ora costretti a convivere con macchine, consiste nello scegliere di restare – o tornare ad essere- sapiens.

Di radici culturali dell'essere umano, di origini della tecnica, e di uso umano della tecnica, parla in una conferenza nel 1934 Marcel Mauss, etnologo francese maestro di Leroi-Gourhan.

L'articolo tratto dalla lezione esce nel 1936.¹ Proprio l'anno in cui Turing presenta nell'articolo On Computable numbers l'idea di una computing machine. Fino a ben dentro il Ventesimo Secolo computer non voleva dire altro che essere umano che fa di conto, contabile, computista. Turing, invece, immagina un computer-macchina. Macchina affidabile, macchina che non tradisce mai le aspettative: esegue indefettibilmente il proprio programma.

Quando Turing scrive l'articolo ha ventiquattro anni. Giovane solitario, disperato, vive un'infelice condizione esistenziale. Neonato, è privato della vicinanza dei genitori, che risiedono in India. Vive con fatica la propria omosessualità. Ha sedici anni quando il ragazzo che ama muore. Ama la matematica: non un linguaggio per interagire con altri esseri umani, ma un linguaggio per parlare con se stesso, per cercare la propria purezza.

Le carenze umane, vissute sulla propria pelle, nel proprio cuore, motivano la ricerca di un sostituto non umano. Turing vuole, perché ne ha bisogno, dimostrare che una certa macchina può mostrarsi più affidabile dell'essere umano, più degna di stima, e anche di affetto.

"We may hope that machines will eventually compete with men”, “possiamo sperare che le macchine saranno alla fine in grado di competere con gli uomini”, scrive a trentott'anni -quattro anni prima di togliersi la vita- in Computing Machinery and Intelligence. I due articoli si completano a vicenda. La macchina è la conscio o inconscia proiezione dei bisogni del proprio creatore.

Turing spera che al suo posto viva una macchina. Una macchina matematica, logico-formale, mentale, cartesiana, leibniziana. Priva di sembianze umane. Priva di identità sessuale, di genere indefinito.

La tecnica, così, finisce per essere la via lungo la quale allontanarsi dal proprio corpo.

Mauss propone una via opposta. “Intendo con questa parola il modo in cui gli esseri umani, società per società, in un modo tradizionale, sanno servirsi del loro corpo”.² Vernadsky, McLuhan e Leroi-Gourhan ci parlano del progressivo allontanamento dello strumento dal corpo dell'essere umano. Mauss torna daccapo: la tecnica è innanzitutto uso del proprio corpo.

“Abbiamo fatto, e io stesso ho fatto per diversi anni, l'errore fondamentale di non considerare che ci sia la tecnica solo quando c'è lo strumento”. Possiamo dire che anche Vernadski resta vittima di questo errore. E lo stesso Leroi-Gourhan, attratto dall'evidente fenomeno, dalla fuga in avanti, dal costante e crescente trasferimento di capacità dall'essere umano allo strumento, finisce per guardare a quest'ultimo, quasi collocando ai margini della scena l'essere umano. Ma Leroi-Gourhan torna poi a interrogarsi sulle sorti dell'essere umano, quando appunto esso vive sulla nuova scena determinata da strumenti e macchine sempre più autonomi e separati da lui. E allora afferma: torniamo a ricordare le radici. Ci spinge quindi a rileggere le pagine di Mauss, suo maestro.

Mauss restituisce la tecnica all'essere umano. Parla di tecniche del corpo.

“Il corpo è il primo e il più naturale strumento dell'uomo. O più esattamente, senza parlare di strumenti, il primo e il più naturale oggetto tecnico, e allo stesso tempo mezzo tecnico, dell'uomo, è il suo corpo”.

Come usiamo le mani nel lavoro e nel gesticolare. Come camminiamo, come corriamo o marciamo. Come nuotiamo moduliamo la voce nel parlare o nel cantare. E anche: come pensiamo – perché l'approccio etnologico, antropologico di Mauss lascia fuori ogni ipotesi cartesiana, ogni separazione tra mente e corpo: la mente, la capacità intellettiva, fa parte dell'essere umano intero.

Ci si apre un nuovo orizzonte: è ben vero che assistiamo ad un progressivo allontanamento dello strumento dal corpo umano. Ma Mauss ci richiama all'origine di questa storia. Storia della vita, della natura, storia umana, e storia personale di ogni singolo essere umano. In origine, ed in ogni tempo in cui l'essere umano è vissuto, ed ancora oggi nei tempi digitali, separarsi dalla tecnica è separarsi da sé stessi.

La tecnica è in origine, ci dice Mauss, “un atto tradizionale efficace”.

Efficacia: verbo latino efficere, ex facere, 'far sì'. La tecnica è produzione di effetti. Tradizione: il latino tradere è trans dare. Dare -e la radice indeuropea do- stanno per 'passaggio di possesso'. Quindi: 'dare attraverso'. Consegnare, affidare, rimettere nelle mani, mettere a disposizione. Trasmettere. Tramandare le conoscenze di generazione in generazione.

“E' innanzitutto in questo che l'essere umano si distingue dagli animali: per la trasmissione delle sue tecniche, e molto probabilmente per la loro trasmissione orale”.

Subissati, annichiliti dalla presenza di strumenti e di macchine, abbiamo finito per dimenticare che la la tecnica nasce dall'intento umano di compiere atti efficaci. Qualsiasi strumento è frutto di questa intenzione.

Mauss ci invita a tornare alla fonte: al momento in cui l'essere umano -in ogni luogo del pianeta che è giunto ad abitare- apprende a compiere atti efficaci. Atti relativi ad ogni fase e ad ogni aspetto della vita.

In origine, l'essere umano non ha ancora in mano uno strumento. Prima di apprendere ad usare un qualsiasi strumento -un bastone, una pietra-, l'essere umano ha verificato la possibilità di usare il proprio corpo.

La tecnica cessa di essere una astrazione. E cessa di essere lontana, inevitabilmente affidata ad una macchina. Mauss ci invita a concepire una tecnica incarnata. Una tecnica continuamente rinascente nel, dal corpo umano.

In questa ottica, la rivoluzione digitale appare come causa di grave deprivazione: ogni conoscenza umana è appoggiata oggi su un supporto digitale, esterno al corpo umano; ogni atto umano sembra dover transitare oggi attraverso la mediazione di un codice digitale, di un programma. L'homo sapiens non può fare a meno di interrogarsi. Subire passivamente o reagire.

Varie sono tecniche dimenticate, perdute forse per sempre. Tecniche, meglio arti: non dimentichiamo che arte e tecnica sono sinonimi.

Una è ricordata dallo stesso Turing, proprio nell'articolo nel quale cerca di dimostrare come una macchina possa pensare: la percezione extrasensoriale. Telepatia, efficacia dei gesti degli sciamani.

Di natura contigua è un'arte ricordata da Mauss. “Alla base degli stati mistici si trovano tecniche del corpo che in tempi moderni sono state dimenticate, e che furono invece perfettamente studiate nella Cina e nell'India in epoche molto antiche”.

Queste antiche tradizioni del Taoismo e dello Yoga non a caso tornano alla luce nei tempi digitali, anche in forma occidentalizzate, in parte magari banalizzate. Le tecniche usate per cercare una mindfulness sono l'esempio più calzante.

Questo ritorno è particolarmente importante: è segno di un risveglio, segno dell'umana intuizione di come di fronte all'incombere di macchine sostitutive serva riscoprire aspetti semidimenticati di sé stesso. Più precisamente: serva riportare alla luce quelle umane caratteristiche che più difficilmente possono essere imitate e simulate tramite una macchina digitale.

Un'arte quasi perduta è certo l'arte della memoria: l'arte di ricordare usando le risorse offerte dal proprio corpo. Significativo è, nel verbo ricordare, il riferimento al cuore: luogo simbolico del corpo umano, sede della sensibilità, dei sentimenti. Sofisticate arti permettevano all'essere umano di conservare conoscenze in una quantità e con una qualità che oggi sembrano definitivamente perdute. L'arte è andata perduta probabilmente, come supponeva Platone, con il sopraggiungere della scrittura: una nuova tecnica che permetteva di affidare la conservazione della conoscenza a un supporto esterno.

C'è qui una lezione da imparare. L'essere umano si trova di fronte dell'Era Digitale a mezzi dotati di una memoria incommensurabilmente superiore alla memoria umana. La battaglia tra essere umano e macchina è ormai persa. Non potremo mai, in ogni caso, conservare conoscenze così come sa farlo la macchina-computer.

Di ciò consapevoli, abbiamo definitivamente rinunciato a fare esercizio della nostra memoria. Abbiamo accettato di ridurre le nostre capacità cognitive. Abbiamo accettato un futuro in cui umane capacità, non usate, si atrofizzeranno definitivamente. Il nostro stesso corpo è destinato ad una riduzione delle proprie funzioni: gli organi sui quali si appoggia la memoria perderanno il loro motivo di esistere.

Eppure il ricordo umano, lo specifico modo umano di conservare conoscenza, mantiene un proprio valore. E si può presumere che non potrà mai essere del tutto imitato e simulato dalla macchina.

Le tecniche del corpo sono una ricchezza alla quale non ci conviene rinunciare. Sono doti, anzi, che diventano più preziose in un mondo popolato da macchine.

Non si tratta certo ora di rinunciare a tutto ciò che l'uso di strumenti e macchine ci offre. Né si tratta di rimpiangere remoti tempi felici. Si tratta di non dimenticare. Così come il ricordare ci riporta al mondo delle emozioni e degli affetti, il verbo dimenticare ci ammonisce: dementicus è in latino un derivato di demens: de, privo di, mens, mente. Ogni essere umano, e poi gli esseri umani riuniti

Si tratta dunque di tornare a sentir viva la tradizione che ci lega agli esseri umani del passato. Si tratta di non guardare solo in avanti, di non vivere auspicando l'arrivo di una nuova macchina alla quale affidarsi. Si tratta di ricordare che ogni sostituzione macchinica di una facoltà umana, è una deprivazione di umanità.

Si tratta di mantener viva la fiducia in sé stessi, nell'essere umano che giorno dopo giorno può imparare a conoscenze di più sé stesso; che può apprendere ad usare in modo più efficace il proprio corpo.

Il grande paradosso che si manifesta nell'Era Digitale è questo: preferiamo le macchine a noi stessi. Invece di porre attenzione al conoscere noi stessi, costruiamo macchine per simulare e imitare ciò che il nostro corpo e la nostra mente sapevano, e in fondo sanno ancora, fare.

Qualsiasi strumento comporta un pericolo: ci porta a dimenticarci del nostro corpo. La comodità dello strumento, ed ormai la consuetudine ad averlo in mano, hanno fatto dimenticare all'essere umano tutto ciò che sa fare - anche senza strumenti.

Secondo vari guru e profeti del digitale siamo entrati in una storia irrimediabilmente nuova; gli stessi guru e profeti, e anche loro illustri precursori, come Teilhard du Chardin e lo stesso Vernadsky, il futuro dell'umanità consiste nel confluire, insieme a macchine divenute a loro modo 'intelligenti', in un indistinto nous -potremmo dire: ogni ente partecipe di una conoscenza disincarnata. Ma alla fin fine, anche accettando la supposizione di una convergenza tra essere umano e macchina, resta per l'essere umano la possibilità, o anzi: la responsabilità, di portare nel nuovo ente quanto più possibile della propria storia, del proprio modo di essere. La nuova scena digitale, e la presenza di macchine a loro modo viventi, ci spinge ad essere umani, con più coscienza e con più volontà.

Così possiamo sostenere, con Leroi-Gourhan, e con Mauss, che il futuro dell'umanità, anche e proprio nell'Era Digitale, consiste nel non recidere le proprie radici, nel rammentare in ogni istante le proprie origini, nel restare nella propria specie, nella propria storia.

Solo conservando nell'agire presente memoria delle origini, solo mantenendo vivi i legami con la tradizione l'essere umano può costruire il proprio futuro. Può costruire un futuro per sé stesso e per la propria specie. Siamo ancora, per nostra fortuna, e ci conviene continuare ad essere, quelle stesse persone. Memori del primo momento in cui l'essere umano assunse la posizione eretta e scoprì le potenzialità implicite nella propria mano e nella propria testa.

E' sempre possibile, come mostra Robinson Crusoe, ricominciare daccapo, ripartire dal proprio corpo, dalle proprie mani e dalla propria testa, dalle proprie capacità, inventando nuove tecniche adatte a mondi inizialmente sconosciuti.

Mauss ci riporta alla scena primaria: di fronte ad una esigenza dettata dall'ambiente, di fronte a un bisogno o un desiderio, l'essere umano cerca una soluzione efficace. Non è una scena da collocarsi in tempi ormai remoti. E' anzi, la scena che riviviamo in ogni istante – anche nei tempi digitali. La via che l'essere umano ha conosciuto, la via che gli ha permesso di ri-generarsi, è di affrontare il problema innanzitutto con il proprio corpo, partendo da sé stessi: da ciò che posso pensare, da ciò che ricordo e da ciò che mi hanno tramandato generazioni precedenti, da ciò che posso fare con le mie mani, da ciò che posso condividere con altri esseri umani. Ripartendo ogni volta da sé stesso l'essere umano si mantiene vivo nel presente e garantisce speranze di vita futura a sé stesso ed ai posteri.

In tempi di macchine potenti ed autonome, è auspicabile recuperare la sensazione del momento iniziale, quando, a mani nude, disponendo solo del proprio corpo, l'essere umano intuisce, scopre, inventa, crea, costruisce.

1Marcel Mauss, “Les Techniques du corps”, Journal de Psychologie, XXXII, ne, 3-4, 15 mars - 15 avril 1936. Communication présentée à la Société de Psychologie le 17 mai 1934.

2 Marcel Mauss, “Les Techniques du corps”, Journal de Psychologie, XXXII, ne, 3-4, 15 mars - 15 avril 1936. Communication présentée à la Société de Psychologie le 17 mai 1934.

Lachmann vs. Bédier. Paradigmi della filologia come chiavi di lettura della cultura digitale. Appunti e bibliografia provvisori in vista di un Seminario

Descrizione provvisoria, scritta il  18 agosto 2024,  del seminario che terrò, salvo imprevisti, il 30 ottobre 2024 presso l'Università di Pisa, corso di laurea in Informatica Umanistica, nell'ambito del ciclo 'Seminari di cultura digitale'. 

L'informatica umanistica è spesso intesa riduttivamente come versione 'leggera' dell'informatica, come studio e sviluppo di interfacce-utente, o come disciplina tesa a predisporre strumenti informatici per studiosi e ricercatori di ambito umanistico. 

Invece, possiamo intendere l'informatica umanistica come lettura critica dell'informatica e della cultura digitale alla luce di chiavi di lettura di stampo umanistico. 

Quest'ultimo modo di intendere l'informatica umanistica può essere ben esemplificato guardando alla filologia: disciplina volta a reperire, ricostruire e interpretare i testi e a mettere in luce tutto ciò che può favorirne la comprensione. 

Certamente l'informatica umanistica supporta la filologia offrendo strumenti utili per l'edizione critica di testi. Ma allo stesso tempo la filologia propone spunti e mezzi per intendere il senso dell'informatica. 

Nel seminario si prenderà quindi in esame una esemplare opposizione tra due approccia alla filologia.

L'opposizione tra il metodo di Lachmann e il metodo di Bédier introduce a interessanti domande generali attorno all'interrogativo: 'Che cosa è la letteratura?', ed ai ruoli dell'autore, del critico e del lettore.

E poi, in particolare, la differenza tra i due approcci invita a riflettere su come muti il concetto stesso di letteratura, e come mutino i ruoli di autore, critico e lettore, nel momento in cui i testi passano dall'essere appoggiati su codice cartaceo ad essere appoggiati su codice digitale. 

E' possibile quindi compiere un ulteriore passaggio: il concetto di letteratura appare buono per intendere il senso del Word Wide Web. 

Seguendo questa via l'opposizione tra l'ottica Lachmann e l'ottica di Bédier appare chiave di lettura che permette di distinguere fasci di aspetti differenti compresenti nella cultura digitale. Dal lato di Lachmann, per esempio, i modelli dei dati e gli algoritmi. Dal lato di Bédier, per esempio, il word processor; il Web nella sua versione originaria: un insieme di testi disponibili per sempre differenti connessioni; dal lato di Bédier, ancora, il motore di ricerca nella sua versione originaria: ricerca  sul full text tramite puri operatori booleani.

Concetti, annotazione provvisoria

archetypus

textus receptus

emendatio

emendatio ope ingenii

authéntes, authentikós

auctor

Citazioni

"Au lieu de s'épuiser à la recherche des hypothétiques modèles perdus des chansons de geste, il faut les accepter telles qu'elles sont, dans les textes que nous avons […], il faut les aimer et tâcher de les comprendre pour ce qu'elles sont". Joseph Bédier, Les Légendes épiques (œuvre créative), Paris, 1908, vol. 4 (1913; 3e éd. 1929), p. 431

Bibliografia provvisoria e per ora disordinata

Juan Ruiz Archipreste de Hita, El libro del buen amor, testi manoscritti 1330, 1334, edizione di Joan Corminas, Madrid, 1967

Joseph Bédier, Les Légendes épiques (œuvre créative), Paris, 1908

Joseph Bédier, La vie de saint Alexis, poème du XIe siècle et renouvellements des XIIe, XIIIe et XIVe siècles, Paris, Franck, 1872

Alcuni degli argomenti vicini al tema del seminario esposti in questo stesso blog

Il Web è letteratura, la letteratura è il Web 

Post con il tag Cosa è la letteratura

Post con il tag Come si scrive

Post con il tag Romanzo come baule

Ammorbati come siamo da tante parole vuote, tiratevi su leggendo un romanzo di Manuel Puig

 Vi piace leggere romanzi? Vi piace il cinema?

“Manuel nasce a General Villegas nel 1932 nell’'ausencia total del paisaje, el centro de la nada'. Assenza totale di paesaggio, al centro del nulla. General Villegas – rinominata nel romanzo Coronel Vallejos: poche migliaia di abitanti, estremo nord ovest della Provincia di Buenos Aires, cinquecento chilometri dalla capitale. Il padre imbottiglia vino. La madre lavora all’ospedale. Piccola borghesia.”

Manuel Puig, cinefilo e romanziere. Una bella storia. E' stato bello per me scriverla; spero sia bello per voi leggerla. La storia di un essere umano che patisce le proprie pene, soffre della pubblica incomprensione, e risponde al dolore raccontando sogni, producendo immagini.

La fiducia nel potere salvifico della narrazione, delle immagini che emergono dal buio dell'inconscio e della sala cinematografica.

Una boccata d'aria, per me, scrivere queste pagine. E spero anche per voi leggerle. Ammorbati come siamo da tante parole vuote. Perché non so voi, ma purtroppo cedo sempre alla speranza di trovare qualcosa di sensato in questi libri che celebrano il nuovo sapere dell'Era Digitale.

Così mi sobbarco alla noiosa lettura di libri che sostengono i Diritti dei Robot, libri che parlano di Macchine influenti e di Retorica delle performance computazionali, ed ora libri di Teoria letteraria per Robot.

Sento così dire che "la dicotomia uomo-macchina nasce da una domanda mal posta perché l'intelligenza è un fenomeno collettivo e le macchine ne fanno parte. Non da oggi, da sempre". E' così facile rispondere! Voi, amici che scrivete queste cose, definite 'macchine' e 'intelligenza' nel modo costrittivo che vi fa comodo. E ne deducete quello che vi fa comodo. Le narrazioni degli esseri umani sono la sconferma empirica delle vostre affermazioni: sono complesse, sfuggenti ad ogni definizione. Se poi una qualche macchina sembrerà imitare efficacemente qualcosa che un umano ha già narrato, cosa mi importa: altri umani aggiungeranno nuove narrazioni, sfuggenti ad ogni definizione. 

Voi invece, nell'ansia di affermare il potere e l'autorità della macchina, avete bisogno di definizioni. 
Avete bisogno di evitare la complessità. E nascondete questo bisogno dietro la fumosità.

Sentite qui: “in questo studio, propongo di eludere la complessità filosofica che circonda il libero arbitrio, l'agenzia o la volizione a favore del loro proxy linguistico, la sintassi”. Il solito tentativo: sostituire alla semantica la sintassi, sostituire all'essere umano che agisce nel mondo un 'agente', che può essere indifferentemente umano o macchina.

Alimentatevi con le appassionate parole di Puig! Lui si poneva tante domande, si chiedeva chi era. Ma mai gli passò per l'anticamera del cervello di considerarsi una macchina. Lasciate perdere gli 'agenti'. Qualcuno vi invita a specchiarvi in gemelli digitali. Confrontatevi invece con persone come Puig. Lasciate perdere le ridicole accuse di antropocentrismo ingenuo e ascoltate le storie che esseri umani raccontano ad altri esseri umani.

E semmai vi accingete a scrivere un saggio leggetevi le fonti. Non restate chiusi nella insipida melassa del pensiero digitale. Sentite questa: “Cercando un modello formale di agency basato su caratteristiche grammaticali (…) come dice David Alworth riferendosi a Bruno Latour che cita Algirdas Julien Greimas attraverso Lucien Tesniere...”. Citazioni di ennesima mano; come sempre in questi libri di cultori del nuovo. Ma andatevi a leggere da soli la Semantica strutturale di Greimas! E prima di sostituire la sintassi alla semantica, leggete per favore The Semantic Conception of Truth di Tarski. Quanto a Latour, a quando vedo forse l'autore più indebitamente citato da questi agiografi del Digitale, nessun 'digitalista' dovrebbe permettersi di citarlo senza aver letto prima Aramis ou l'Amour des techniques (se per caso leggeste in inglese notate, prego, che nel titolo si sostituisce artatamente Technique con Technology).

Ringrazio chi la letto fin qui questo mio sfogo. Leggete se volete le pagine con le quali cerco di portare qui ed ora, tra noi, Manuel Puig. O meglio, leggete, o rileggete, quest'estate un romanzo di Puig.

L'intelligenza artificiale non è per forza tua amica. Otto domande di Sebastiano Zanolli a proposito del libro 'Splendori e miserie delle intelligenze artificiali'. Newsletter Linkedin 'La Grande Differenza', 21 luglio 2024

 Non è facile pensare e tantomeno scrivere. Ci sono anche cose di cui si preferirebbe non parlare, nemmeno con sé stessi. E se non si ripete a pappagallo quello che hanno già detto altri, si sente il peso della solitudine. Resta sempre il dubbio di non aver ben articolato gli argomenti; di non aver offerto un buon servizio al lettore.

In realtà un libro è il dialogo con un lettore disposto a farsi domande.
Grazie quindi a Sebastiano Zanolli per le sue domande. E per questa sua sintesi, che non avrei saputo scrivere con questa chiarezza:

- Il libro è per chiunque voglia pensare con la propria testa, spiegando concetti complessi in modo chiaro e comprensibile, senza bisogno di competenze tecniche avanzate.
- Il libro sfida la visione utopica delle tecnologie digitali, mettendo in guardia contro il cosiddetto "Paradiso tecnologico" e invitando a una valutazione critica e equilibrata delle intelligenze artificiali.
- Varanini sottolinea l'importanza di valorizzare l'esperienza umana, guardando oltre i dati e gli algoritmi, e mantenendo vivo il pensiero critico e la cultura aziendale in un contesto sempre più digitalizzato.
- Non come un manuale tecnico, ma come un viaggio riflessivo su chi siamo e su come possiamo rimanere umani in un mondo sempre più dominato dalle tecnologie.

L'intervista appare sulla newsletter Linkedin La Grande Differenza, 21 luglio 2024

Qui per iscriversi alla Newsletter

Riporto di seguito il testo dell'intervista.

Otto domande a Francesco Varanini sul suo ultimo libro

Francesco, quanto è accessibile il tuo libro Splendori e miserie delle intelligenze artificiali per i non esperti?

Splendori e miserie delle intelligenze artificiali si rivolge alle persone che hanno ancora voglia di pensare con la propria testa. Si rivolge a tutti coloro che capiscono non è tutto oro quello che luccica, e che vogliono capire. Si rivolge a coloro che intuiscono contraddizioni, vedono pericoli, hanno dei dubbi e dei timori, ma magari si vergognano anche a dirlo, perché non si considerano 'esperti'...

Credo sia fuorviante distinguere tra 'esperti' e 'non esperti'. Esistono persone che si impegnano nel pensare. Ed esistono persone che per gli effetti di una cattiva educazione e di una insistente propaganda che impone un falso pensiero bell'e pronto, tendono non fidarsi della propria capacità di pensare. Si affidano così ad 'esperti': ma gli 'esperti' spesso abusano della propria autorità, parlando come esperti di cose di cui non sono esperti; e poi gli 'esperti' sono in realtà portatori di interessi personali: il loro successo professionale dipende dal fatto che i cittadini accettino le cosiddette intelligenze artificiali a scatola chiusa, senza porsi troppe domande.

Considerando che l’IA è argomento complesso, riesci a spiegare i concetti chiave in modo comprensibile anche per chi non ha una formazione tecnica?
Non è così difficile spiegare di cosa si tratti. Quello che spesso manca è la volontà di spiegare. Giova a chi ha interessi da difendere il mostrare le cosiddette intelligenze artificiali come qualcosa di esoterico, comprensibile solo dagli 'esperti', dai 'tecnici'. I tecnici, poi, sono specializzati in un singolo campo. A loro manca la visione generale. Più precisamente si può dire che, con tutto il rispetto loro dovuto, i tecnici digitali sono specializzati nel parlare alle macchine, non nel parlare ai cittadini del modo in cui funzionano le macchine. Se i tecnici non sono in grado di guardare oltre i confini della propria disciplina, a porre in luce le interrelazioni e la complessità dovrebbero essere i filosofi. Ma -come mostro in un capitolo del mio libro- i filosofi, salvo eccezioni, hanno rinunciato a questo ruolo. Non c'è più la filosofia: l'interrogarsi su cosa voglia dire 'essere umano', l'amore per la conoscenza, lo spirito critico, la saggezza. C'è solo una filosofia ancella della tecnica: la filosofia dell'informazione, la filosofia dell'intelligenza artificiale, la filosofia della mente, la filosofia delle neuroscienze...

Quando nella tua domanda mi dici:“comprensibile anche per chi non ha una formazione tecnica” sembra quasi che tu dubiti della possibilità di capire. Sembra quasi che consideri necessario e irreversibile l'affidamento a chi è dotato di “una formazione tecnica”. Non è così!

Dobbiamo tornare a pensare e ad agire fidandoci di noi stessi, dobbiamo tornare a dar valore alla nostra storia personale, alla nostra esperienza – in questa storia e in questa esperienza stanno le chiavi per comprendere il senso profondo di qualsiasi questione tecnica...

Questo è ciò che mostro con il mio libro. E sono convinto che a te, leggendolo, sia venuto in mente un pensiero: 'ma allora, più che da imparare dai tecnici, ho molto da insegnare loro'.

Sì va bene, ma non hai risposto alla domanda. Dimmi in modo comprensibile: cosa è l'IA?

Insisto fin dove possibile nel non usare sigle e nel dire: 'cosiddette intelligenze artificiali'.

Insisto nello scrivere in minuscolo e nell'usare il plurale. Per sottolineare che sotto questa espressione-ombrello -intelligenza artificiale- vengono oggi messe insieme tecniche informatiche diverse. Fino a qualche anno fa ognuna aveva il suo nome, ma ora è comodo riassumere tutto all'ombra di queste due immaginifiche parole.

E sottolineo il 'cosiddette', perché in effetti il termine già in origine non esprimeva nessuna precisione tecnica. Fu coniato con un unico scopo: colpire la pubblica immaginazione. Favorendo così la raccolta di fondi della ricerca e l'ascesa sociale dei cultori di una nuova disciplina: la computer science.

Potrei darti qui, anche in brevi parole, una definizione tecnica. Potrei parlarti di algoritmi, di come funzionano le macchine. Nel libro ovviamente ne parlo.

Ma preferisco dirti in sintesi, prescindendo dagli aspetti tecnici. Le intelligenze artificiali sono macchine progettate per operare indipendentemente dagli esseri umani, e per autosupervisionarsi nel loro funzionamento e nel loro sviluppo.

Splendori e miserie non è l'ennesimo libro che spiega al popolo, considerato come una massa di ignoranti da istruire, le meraviglie delle nuovissime tecnologie. E' al contrario un tentativo di risvegliare le coscienze di noi esseri umani, assopite dall'affidamento a macchine sempre più potenti ed autonome.

Quindi, posso aggiungere che, di fatto, le intelligenze artificiali sono macchine progettate per sostituire gli esseri umani, ed imposte agli esseri umani come specchio del proprio modo di essere e come modello di come dovrebbero essere.

Sono macchine per togliere al posto nostro le castagne dal fuoco. Macchine che nel semplificarci apparentemente la vita ci impoveriscono. Macchine che ci spingono a non assumerci responsabilità.

Nel libro, metti in evidenza il concetto di Paradiso tecnologico. Perché ritieni questo concetto pericoloso?

Metto in guardia contro una comoda via fuga: la via di chi sostiene che bisogna lasciar campo libero all'innovazione, perché le tecnologie ci salveranno. Si dice che lo sviluppo tecnologico porterà vantaggi all’umanità tutta, alla vita sulla Terra, al pianeta. Come le prime comunità cristiane credevano nell’avvento del Regno di Cristo in Terra, qualcuno crede ora nella promessa di un eden tecnologico, felice per tutti.

Il primo problema è che in questa promessa c'è ben poco di vero.

Dietro questa narrazione si nascondono gli interessi economici, e di puro dominio, delle grandi case digitali. Si nasconde il fatto che queste tecnologie provocano già oggi, e provocheranno ancor più negli immediati anni a venire, conflitti sociali, perdite di diritti e di lavoro, aggravamento della forbice tra ricchezza e povertà.

I fautori del Paradiso Tecnologico sostengono che nel lungo periodo tutto si accomoderà. Ci sarà energia a basso costo, ci saranno servizi garantiti e cibo sintetico per tutti... Non è affatto detto che si arrivi a questo. Ma se pure ci si arriverà, non si tratta certo di uno scenario auspicabile. E' lo scenario descritto da Huxley nel romanzo The Brave New World, Il mondo nuovo: un modo dove dietro un'apparente libertà si nasconde una rigida divisione in caste ed un controllo sociale che sradica il pensiero individuale e libero.

Una via di fuga, dicevo, perché è un comodo modo per non assumersi l'onere di governare lo sviluppo dell'industria digitale, qui ed ora. E' un modo per evitare di fare scelte; di di dire: questo sì, questo no; di ammettere che l'industria digitale provoca gravi danni ambientali...

In che modo possiamo guardare ai limiti reali e le potenzialità delle tecnologie digitali, evitando sia un entusiasmo eccessivo che un pessimismo paralizzante?

Per quanto mi riguarda mi preoccupo sopratutto di contrastare l'entusiasmo eccessivo. Perché mi pare questo l'atteggiamento dominante. In realtà non si tratta di sincero entusiasmo dei cittadini, degli utenti, ma di narrazioni accuratamente costruite dai portatori di interessi, tese a convincere i cittadini ad accettare tutto quello che l'industria digitale propone. In fondo, credo di poter dire, la maggior parte dei libri dedicati ad intelligenze artificiali e dintorni hanno per scopo spargere fiducia. Si dice in fondo: fidatevi di noi esperti, perché voi non sapete. Si dice: osservate la bellezza, la meraviglia di queste novità. Si dice: in ogni caso la storia va in questa direzione, fatevene una ragione.

A me sembra che i rischi di un pessimismo paralizzante siano proprio uno degli argomenti usati dai fautori dei una innovazione digitale acritica. Un argomento usato per annichilire i cittadini ed i lavoratori che, in virtù del loro intuito, del loro senso di realtà, vedono problemi ed hanno dubbi. E spesso si vergognano di dirlo, direi anche: si vergognano per averlo pensato. Perché a nessuno piace essere giudicato retrogrado.

Il mio libro si rivolge in modo particolare a questi cittadini accusati di essere retrogradi. Dico loro: la vostra posizione è la più costruttiva e la più saggia. Allo stesso tempo mi rivolgo a chi è oggi disposto ad affidarsi alle nuove tecnologie digitali senza pensare troppo: invito chi ha questo atteggiamento alla cautela ed alla riflessione.

Propongo quindi concretamente un possibile cammino: non rinviare nel tempo la soluzione dei problemi che già oggi queste tecnologie comportano; non scaricare su di altri l'onere di responsabilità che ognuno, nel suo ruolo, può assumersi.

Hai parlato dell’importanza di guardare oltre ciò che un computer può vedere. Puoi spiegare cosa intendi, e come questo approccio potrebbe influenzare lo sviluppo e l’adozione delle tecnologie IA in ambito aziendale?

Piace oggi offrire a manager, lavoratori, cittadini, l'immagine di una crescente potenza del computer: sempre maggiore potenza di calcolo, fino al raggiungimento della cosiddetta intelligenza artificiale. L'invito è ad affidarsi sempre più alla macchina.

Si dice che il manager deve lasciare via via sempre più compiti al computer. Si sostiene che gli

algoritmi aiutano i decisori a risparmiare tempo perché automatizzano le decisioni ad alta frequenza e basso impatto. Ciò aumenta, si dice, l'opportunità di dedicare tempo e sforzi cognitivi a decisioni strategiche a bassa frequenza ed alto impatto.

A questa proposta è facile rispondere che è impossibile definire a priori quali sono le decisioni strategiche più importanti. Perché le decisioni più importanti sono le risposte a fenomeni emergenti, imprevedibili.

L'algoritmo opera sui dati: i dati non descrivono mai in modo esaustivo la realtà. L'algoritmo non è che una procedura basata su un modello. Il modello, per definizione, non è in grado di prevedere ogni possibile evento. L'algoritmo, quindi, non è in grado di rispondere ad eventi catastrofali, o anche semplicemente a necessità di intervento che vengono alla luce, agli occhi del manager, visitando di persona lo stabilimento produttivo, il magazzino, o parlando con i clienti.

Fidandomi della macchina rischio di non vedere ciò che di nuovo ed importante accade. Inoltre, abituandomi ad affidarmi alla macchina, lascio decadere nel tempo la mia stessa capacità di vedere.

Affermi che la cultura digitale debba essere decostruita per osservarne le miserie. Puoi fornire esempi concreti di come questa decostruzione possa avvenire nella pratica quotidiana di un’azienda tecnologica?

Per essere precisi, non uso il uso il verbo decostruire nel testo del libro; lo uso, in un tentativo di sintesi forse fuorviante, nel risvolto di copertina. Intendo semplicemente dire: leggere criticamente, non lasciarsi incantare dalla propaganda e della più comune delle affermazioni: 'queste tecnologie sono arrivate per restare'. Come a dire: dobbiamo accettarle per forza; dobbiamo adattarci. Non credo sia così. Penso che sia possibile, o anzi, spero, probabile, che tra cento o duecent'anni ci guarderemo indietro e diremo: oh come eravamo insensati quando pensavamo conveniente affidare i compiti più difficili a macchine in più possibile indipendenti da noi!

Nella pratica quotidiana di ogni azienda, tecnologica o non tecnologica, questo vuol dire innanzitutto scegliere oculatamente i modo di formare le persone a vivere la trasformazione digitale. Il modo comune è insegnare l'adattamento: insegnare ad usare passivamente ogni nuovo strumento prodotto da tecnologi lontani dalla vita della singola azienda, dalla sua cultura, del suo business.

C'è un modo differente: mostrare i limiti degli strumenti, i loro rischi, insegnare come mantenere viva la cultura aziendale, e gli spazi di libertà individuali, nonostante la presenza di strumenti digitali che tendono ad imporre una uniformazione universale.

Sostengo nel libro che questa formazione 'a rovescio' serve nelle aziende. E serve ad ogni cittadino, per mantenere vivi il senso di responsabilità ed il libero arbitrio, per non essere ridotto a utente passivo di servizi preconfezionati.

Un'ultima domanda. Una curiosità personale. Il sottotitolo del libro aggiunge una precisazione che sembra significativa: alla luce dell'umana esperienza. Mi sembra tu parli dell'esperienza soggettiva, dell'esperienza che ogni persona fa 'sulla propria pelle', interagendo con le macchine digitali, con le intelligenze artificiali in particolare...

Sì, è proprio così. La cultura tecnico-scientifica spinge a guardare le cose, a osservare il mondo, nel modo più oggettivo possibile. Le idiosincrasie, gli aspetti distintivi di una persona, la sua cultura e i suoi valori sono considerati difetti. Ma questa è proprio la via che ci porta ad essere sempre più simili a macchine, ad intelligenze artificiali.

Siccome il mio intento è ricordarci chi siamo, riscoprire spazi per noi stessi, noi umani, in questo contesto dove le macchine digitali sono presenti, allora il punto di partenza sta proprio nel narrare le esperienze personali. E così racconto di come mi sono sentito quella volta in cui ho interagito con Chat GPT a proposito di un argomento che mi stava veramente a cuore.

Siamo spinti a considerare rilevante solo a ciò che è codificabile, computabile. Ma così buttiamo via una parte significativa della nostra storia, dei nostri valori. Ci sono cose che riusciamo a dire solo attraverso narrazioni lontanissime dalla codifica digitale. Uno dei capitoli del mio libro è scritto in versi, è una poesia. Non è un gratuito esercizio. Solo così riuscivo a dire certe cose. Un altro capitolo è una lettera personale ad un esperto che stimo al di là delle differenze di posizione.

Il mio libro è un invito a continuare ad essere noi stessi, appunto dando valore alle nostre esperienze, evitando di farci 'dettare l'agenda' da intelligenze artificiali.

 

Varie brevi riflessioni, intorno ai temi trattati nel libro 'Splendori e miserie delle intelligenze artificiali', e intorno ai temi sui quali mi interrogo in questo blog

 Brevi riflessioni pubblicate come post su Linkedin. 

L'usignolo meccanico, fiaba di Anderson, commento di Janine Chasseguet-Smirgel
Il CEO di Cisco e le iniziative vaticane come comoda propaganda
Nel 1969 Rudolf Arnheim spiegava che la cosiddetta 'intelligenza artificiale'...
Emily Bender e i pappagalli stocastici (per lo più maschi)
Umano essere-nel-mondo o sostituzione digitale
La libertà di non essere digitali, ovvero il digitale alla prova della sostenibilità
GPT: una confutazione poetica
La conversione di Yoshua Bengio
Qualcuno crede di essere capace di costruire robot dotati di 'saggezza artificiale'
Dieci possibili impegni per un 'digitale' sostenibile
Noi umani non cederemo la responsabilità della cura a una macchina
Wittgenstein: "Vogliamo camminare; dunque abbiamo bisogno dell’attrito. Torniamo sul terreno accidentato!"
Trent'anni fa leggevamo il libro di Negroponte 'Essere digitali'. Oggi...
Gli studenti del MIT di sessant'anni fa erano ben più fortunati degli studenti di oggi: 'Il Mulino di Amleto'
Perché la lezione di Epimeteo è più importante della lezione di Prometeo
Esperienza: vedere con i propri occhi l'opera d'arte
Le intelligenze artificiali non hanno accesso a ciò che non è digitalizzato
La formazione degli esseri umani e l'apprendimento delle macchine
Algor-etica: un concetto sgangherato ed equivoco
Papa Francesco parla di intelligenza artificiale
Il paradosso di Nishida: affidandosi alla macchina si rinuncia all'esperienza
Michael Polanyi e la conoscenza umana, inattingibile per la macchina
Marcel Mauss: la tecnica è innanzitutto usare consapevolmente il proprio corpo 
Perché i non giovani capiscono la cultura digitale meglio dei giovani
L'intelligenza artificiale come fuga dalla responsabilità personale
Stampa e intelligenza artificiale. Due salti tecnologici. Ma il paragone è improponibile
Judea Pearl, l'intelligenza artificiale causale e le macchine morali
Scott Aaronson e la sicurezza di GPT5
Intelligenze artificiali come metafora di sudditanza e di attesa di soccorso
Oscilliamo tra miseria e splendore. Miseria: affidarsi alla macchina. Splendore: la bellezza in noi, speriamo di vederla nella macchina.

'Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza', Guerini e Associati, in libreria dal 24 maggio 2024

 Il tema del libro in tre frasi

Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce.
Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire.
Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità.

Uno degli argomenti che tratto nel libro
C'è un'inquietudine che mi muove. Continuo a venire a conoscenza delle opinioni di seri ricercatori. Essi dicono, sinceramente e con piena convinzione, cose del tipo:
"Una caratteristica distintiva dei sistemi di AI è questa: potranno prendere decisioni su basi etiche. Distinguere il bene dal male".
Nel libro discuto questa posizione, che -lo ammetto- mi scandalizza. Il fondamento della posizione sta nel far riferimento a studi di scienze cognitive. In base a quale presupposto studiosi di scienze cognitive pretendono di sapere cosa è il bene e il male, e cosa è l'etica, in base a un ancoraggio che guida la loro ricerca. L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana  è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. Il ricercatore stesso si allontana dal proprio essere umano.

Un altro argomento
L’immaginare di sostituire l’essere umano con una macchina è contrabbandare l’informazione per conoscenza.
La Transizione Digitale -che termina in una immagine conclusiva: l'Intelligenza Artificiale- è il punto di svolta di una svalutazione dell’umano. Perché costituisce la pretesa di sostituire all’esperienza umana i dati. I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano che sta maturando esperienze. L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato.
Un conto è l’informazione - che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza - che è il frutto dell’umana esperienza

Una descrizione dei temi  il libro
Splendori e miserie. C'è qualcosa di davvero splendido nelle promesse digitali - il cui culmine e la cui sintesi sembra ormai definitivamente riassumersi in un sostantivo ed in un aggettivo: Intelligenza Artificiale. Qualcosa di luminoso, scintillante. Sontuoso, grandioso, nobile. Ma c'è anche qualcosa di misero.
Siamo assillati da notizie che cantano le meravigliose capacità di intelligenze artificiali, e ci invitano ad affidarci ad esse. Ma sappiamo che il rischio di assuefazione e dipendenza è dietro l'angolo. Per noi e per i nostri figli, per i nostri posteri.
Perché ci impegniamo nell'insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano? Perché impegnarsi in progetti che consistono nell'ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina?
Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi?
Siccome l'innovazione appare inarrestabile, si sceglie di abbracciarla. Pare che l'unica scelta possibile consista nello sforzarsi di vederne gli aspetti positivi.
Credo invece si possa combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile.
Credo sia possibile dare risposte. Credo che in ogni caso convenga continuare a porci domande. Anche se non abbiamo immediate risposte.
La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole.

Un'altra descrizione - che mi sembra migliore della precedente
Anche i computer scientist ed i vari esperti che ci parlano di novità digitali hanno un'anima, una storia personale, un vissuto di dolori e di sogni. Gli strumenti ed i sistemi digitali, compreso tutto ciò che passa oggi sotto il nome di Intelligenze Artificiali, nascono in queste zone segrete, frutto di motivazioni profonde e non di rado inconfessate.
Per cercare di capire cosa significhino, e cosa nascondano, le Intelligenze Artificiali che con tanta insistenza vengono oggi propoposte ad ogni cittadino, non conviene quindi dar troppo credito alle spiegazioni tecniche e alle divulgazioni. Serve anzi ricordare che qualcosa, in queste narrazioni, resta sempre celato.
Per comprendere, conviene invece dare valore all'esperienza personale di ognuno di noi. Cosa vuol dire per me ricorrere ad una Intelligenza Artificiale? Quali sensazioni provo mentre mi affido a lei?
Scopriremo allora che le Intelligenze Artificiali rappresentano l'illusoria speranza di un facile modo per scaricare dalle proprie spalle il peso di responsabilità che ci paiono troppo gravose.
E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica.
Osservando con sguardo critico gli splendori e le miserie di ogni nuovissimo mezzo digitale, potremo tornare a guardare, e a dar valore, a ciò che siamo già capaci di fare, a mente libera e a mani nude, un attimo prima di cercare l'ausilio di una macchina.

Una terza descrizione
Oscilliamo tra miseria e splendore. La MISERIA sta nel non voler vedere ciò che ci turba e ci preoccupa. Sta nel sottovalutare le nostre doti e nello sprecarle.
La rincorsa al vano SPLENDORE sta nel proiettarsi nell'immagine di chi è vestito broccato d’oro e porpora, con una ghirlanda di giacinti rossi in testa, una collana d’oro. Una immagine alla quale aneliamo, ma che sappiamo lontanissima da ciò che vediamo se ci guardiamo allo specchio.
Di questi tempi, entrambe le immagini ci portano a credere nella potenza di cosiddette intelligenze artificiali. Ad affidarci a loro. Perché ci illudiamo possano vedere e agire al posto nostro. Perché se non possiamo vedere bellezza in noi, cerchiamo di vederla nella macchina.
Diamo alla macchina un nome splendido per nascondere ogni miseria.
Che fare? Nel mio libro SPLENDORI E MISERIE DELLE INTELLIGENZE ARTIFICIALI propongono una via.
- Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. Senza rinunciare al nostro corpo. Senza considerare la nostra mente separata dal corpo.
- Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole 'Intelligenza Artificiale'con lo sguardo dell’essere umano che contribuisce a costruire il mondo che abita. Con lo sguardo del cittadino che, disposto ad assumersi responsabilità, non cessa di porsi domande. Con lo sguardo di ognuno di noi, intento a vivere esperienze.
La saggezza umana sta nell’accettare la situazione, nell’apprendere a leggerla e a viverla. Senza arrendersi però al fato, a ciò che ci è comodo definire inevitabile. La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine.

 

Che fare di fronte alla GenAI? Costruire con spirito critico un antropocentrismo ingenuo

 Rispondo qui all'articolo dell'amico Paolo Costa La GenAI? E' l'orrendo che affascina. Nel mentre ancora lo ringrazio per aver partecipato all'incontro Sanno forse le scatole nere scrivere romanzi?, presso Spazio Vitale, Verona, 15 giugno 2024.

Ho amici che mi dicono: certe cose non vanno dette fuori dalla cerchia degli addetti ai lavori. E aggiungono: quando si parla ai cittadini, conviene evitare aspetti scabrosi, e dedicarsi invece a spargere fiducia; tanto poi, si aggiunge ancora, i 'profani' non sono in grado di capire. E si sa che poi, nel parlare, ci si adatta all'uditorio, al contesto. 

Capita così di dire in pubblico che sarebbe meglio non usare nemmeno l'espressione 'intelligenza artificiale', perché impropria e imprecisa. E capita che poi invece scrivendo già nel titolo si prende per buona l'Intelligenza Artificiale Generativa; per poi dilungarsi, nel corso dell'articolo, sulle magnifiche capacità retoriche della Intelligenza Artificiale Generativa stessa.

Per quanto mi riguarda, in ogni occasione e quale che siano gli interlocutori e il pubblico, mi spendo nel tentativo di discutere a fondo ogni affermazione data per scontata. E cerco in ogni situazione mostrare ciò che resta non detto nelle ambigue e imprecise divulgazioni tramite le quali l'Intelligenza Artificiale viene presentata ai cittadini. 

Perché non possiamo fare a meno di ricordare un fatto: circola nei media e nei social network ed in ogni dove una sia pur confusa e discordante apologia dell'Intelligenza Artificiale. Questa apologia giova a chiunque opera da professionista nel campo dell'Intelligenza Artificiale - anche a coloro che, di fronte a specifici aspetti di queste tecnologie, mostrano atteggiamenti critici.

E dunque fa comodo in ogni caso creare un'aura di attesa e di pubblico interesse attorno alla cosa detta 'Intelligenza Artificiale'. Non importa se si tratta di un'aura fumosa. In un modo o nell'altro fa comodo educare il popolo a stare in attesa di novità sbalorditive. Se mai si accenna a difetti di questa cosa detta 'Intelligenza Artificiale', sempre si bilancerà parlando dei difetti degli esseri umani. 

A questa ormai consolidata prassi comunicativa rispondono gli antropocentristi ingenui svelando trucchi e invitando tutti a tornare con i piedi per terra.

Vengo subito alla conclusione dell'articolo che sono qui a commentare.

dovremmo rinunciare ad assumere una posizione di sdegno, del tutto sterile, per la presunta detronizzazione dell'umano da parte della macchina

Cominciamo col dire che, di fronte a certe tecnologie pensate contro l'essere umano, a danno dell'essere umano, lo sdegno è motivato. Si può notare che per svalutare l'atteggiamento, per connotarlo con una venatura negativa, per intenderlo come gratuito disprezzo, si scrive sdegno e non indignazione. Diciamo dunque che di fronte a diverse tecnologie digitali che abbiamo sotto gli occhi, l'indignazione è del tutto motivata. Perché poi "del tutto sterile"? E' un monito politico. E' come dire: tanto il cittadino non può far nulla. Ogni tecnologia proposta dovrà comunque essere accettata. Lo stesso tono traspare dall'aggettivo presunta, che vuole far pensare ad atteggiamenti eccessivi, non realistici, non corrispondenti ai fatti. E poi la parola detronizzazione, come se gli umani si sentissero seduti indebitamente su un comodo trono. Seduti su un trono sono semmai i tecnologi, i finanziatori che scelgono quali ricerche finanziare, gli attori tutti del mercato dell'offerta di strumenti digitali, che sempre più costringono il cittadino, con ogni nuova proposta, a ridursi ad utente.

Ma in realtà tutto il senso della conclusione ricade sulla frase succcessiva

dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza

Mi chiedo innanzitutto se si abbia chiara nozione del senso della parola ingenuo. Significa "nato all'interno della stirpe, e perciò libero e schietto". Dunque, a scanso di equivoci, mi dichiaro antropocentrista ingenuo. C'è forse da vergognarsi a riconoscersi appartenenti alla stirpe degli esseri umani? Dove sta il difetto in questo riconoscimento? Si può legittimamente supporre che chi si propone di 'decostruire con spirito critico' l'antropocentrismo ingenuo intenda eludere le responsabilità che in quanto essere umano gravano sulle sue spalle. Chi è tacciato di 'antropocentrismo ' non si sente al centro di nulla: semplicemente non scansa le responsabilità che in quanto umano è chiamato ad assumersi.  Si può altresì inferire che, per un qualche motivo che i sostenitori di questa decostruzione non sanno spiegare bene, la critica all'antropocentrismo sia il velo che copre l'ansia di poter dire, seguendo Turing: che bello, le macchine sanno pensare! E forse anche: che bello se le macchine tolgono le castagne dal fuoco al posto nostro! Antropocentrista ingenuo, invece, scelgo di assumermi le mie responsabilità di conoscitore delle cose digitali e di cittadino. Parlo come cittadino, come essere umano che guarda negli occhi ogni altro essere umano, e si indigna di fronte all'invito di conoscere sé stesso attraverso il suo gemello digitale.

Sarebbe quindi facile rovesciare l'assunto dicendo 'dovremmo decostruire con spirito critico un intelligenzartifialecialecentrismo ingenuo'. Ma mi sono già appellato al senso profondo, costruttivo, dell'espressione ingenuo. Scarto quindi subito il troppo facile rovesciamento. Passando immediatamente ad argomentazioni più serie.

Il primo argomento che porto è la mia critica alla posizione di un noto filosofo, una delle star della neofilosofia dei tempi digitali. Non ne cito qui il nome, non c'è bisogno di riempire questo mio articoletto di parentesi e di note. Cito invece me stesso. Scrivo su questo mio stesso blog, Dieci chili di perle:

Ci ricorda [questo neofilosofo] che, in quanto persone, abusiamo dei nostri privilegi nei confronti delle cose. E che rimaniamo fissati su una concezione binaria, su due categorie mutuamente esclusive: persona o cosa.

Noi umani, si dice quindi, dobbiamo imparare a mettere in discussione i nostri privilegi, a sviluppare prospettive critiche sui nostri valori, e ad assumerci più pienamente le nostre responsabilità. Anche nei confronti delle cose.

Ma l'asino casca quando si sceglie il portavoce delle cose. Qualcuno sceglie come portavoce delle cose il robot. La responsabilità umana, attraverso questo corto circuito, finisce per consistere nell'affermare e difendere i diritti dei robot. 

Riprendo l'argomento a p. 194 e alle pp. 203-204 del mio libro Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, Guerini e Associati, maggio 2024. In entrambi i luoghi, su questo blog e nelle pagine del libro, mi pongo la domanda: di cosa deve farsi paladino l'essere umano per rispondere alla accusa di antropocentrismo? Alla domanda, offro una risposta ben più impegnativa sia del meschino farsi paladino dei diritti dei robot, sia dell'ardimentoso arrampicarsi sui vetri dell'agentività. Per non togliere ai miei pochi lettori il gusto della scoperta, non dico qui quale è la mia risposta. Preferisco rimandare a quanto ho già scritto, nel mio articolo su Dieci chili di perle, e nel mio libro.

Rivendico il diritto di osservare il mondo con lo sguardo dell'essere umano. Rivendico lo spazio d'azione per l'essere-umano artista. Se a un essere-umano-tecnico-ricercatore piace dedicare tempo e risorse a costruire una macchina destinata ad agire in piena auto, se a un essere-umano-esperto-o-addetto-ai-lavori piace il florilegio di elogi alla macchina -come ad esempio: "la macchina catalizza esperienze estetiche all'insegna del sublime"- reagisco in due modi.

Primo, metto in guardia per quello che posso i cittadini, portati dal rispetto per l'autorità a dare credito ai profeti del nuovo e delle magnifiche sorti digitali, ed ai cantori dell'inevitabilità dell'avvento di sempre nuove stupende tecnologie. Dico ai cittadini: osservate la vanità e della pericolosità di questo disegno; fidatevi del vostro giudizio più che dell'opinione degli esperti. 

Secondo: mi dedico, e invito ognuno a dedicarsi, a ciò che di più saggio e costruttivo possiamo fare in quanto esseri umani. Pensare ed agire in quanto essere umano.

Risalendo a ritroso nell'articolo, mi soffermo sul fatto che si giunge a sostenere la necessità di decostruire l'antropocentrismo ingenuo chiamando in causa Heidegger. A questo proposito mi limito a dire che mi pare incauto ed arrischiato chiamare in causa il filosofo citando esclusivamente, di tutte le pagine che egli ha scritto, il frutto di una intervista rilasciata a Der Spiegel nel 1966. Personalmente mi sento uno sciocco, avendo dedicato tanto tempo allo studio delle opere e del pensiero del filosofo. Forse non ce n'era bisogno? Ho tentato di studiare, certo con i mei poveri mezzi, sia l'invito di Hieidegger all'esserci e alla cura, e quindi alla responsabilità personale; sia le sue acutissime riflessioni sulla tecnica: la Zuhandenheit in Sein und Zeit, e poi gli articoli sulla tecnica del dopoguerra.

Qualche accenno al pensiero di Heidegger -e alle conseguenze che se ne possono trarre per ragionare sui temi attualissimi- si trova su questo blog. 

Per argomentare sulla perdita di centralità dello sguardo umano e sulle capacità retoriche della macchina, e per sostenere che la macchina offre a noi umani uno sguardo inedito sulle cose del mondo, serve almeno qualche base solida. Poca strada ci fanno fare McCormack & Dorin, Miller, Accoto, Floridi, Coleman. Consiglierei di partire dagli articoli sulla tecnica, del dopoguerra , lì da dove Heiddegger dice Indem der Mensch die Technik betreibt, nimmt er am Bestellen als Weise des Entbergens teil.

Sarebbe bene che ognuno leggesse Heidegger per conto suo. Forse questo richiede troppo tempo, impegno, dedizione. Qualcuno potrebbe magari allora trarre qualche spunto di riflessione da articoli che appaiono su questo stesso mio blog. Più utile penso sia il commento allo sviluppo del pensiero di Heidegger a proposito della tecnica che propongo nel capitolo di Macchine per pensare "Forma imposta o continuo presentarsi".

Torniamo alla frase che conclude l'articolo:

dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza

Che vuol dire "sguardo computazionale sul mondo"? Su quale definizione di computazione appoggiamo l'affermazione? Ora, non è che possiamo intendere per computazione quello che di volta in volta ci fa comodo.

Ricordiamo brevissimamente il percorso. Cartesio, Leibniz. E poi agli albori del Ventesimo Secolo e dentro il Ventesimo Secolo Frege, il primo Russell, Hilbert. La via alla conoscenza nel mondo sta nel pensiero calcolante.

Accade però che la calcolabilità del tutto sia messa in discussione, nel 1930, da Kurt Gödel. Gödel ci impone di accettare che in ogni teoria matematica esiste una formula che non può essere dimostrata. Dunque, ogni descrizione di un sistema è incompleta. Il puro e perfetto linguaggio universale della scienza sognato da Leibniz non è base sufficiente ed esaustiva per la ricerca scientifica. "Nessun calcolo può decidere un problema filosofico", chiosa Wittgenstein.

Ma ecco che allora subito, sei anni dopo Gödel, interviene Turing tappando la falla. La soluzione, ancora una volta, è logico-formale. Turing propone di sostituire alla calcolabilità la computabilità. Quale è la differenza? Si rinuncia scientemente a cercare e a dar valore ciò che non è calcolabile, contentandosi di ciò che è computabile. Cosa è computabile? E' computabile ciò che può essere "written down by a machine".

La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare. 

Ecco intanto una imprecisione da segnalare. E' improprio sostenere che "lo sguardo computazionale sul mondo" possa essere uno "strumento di conoscenza". Potrà tuttalpiù essere uno strumento di informazione. Perché la computazione tratta informazioni, e non ha nulla a che fare con la conoscenza. La conoscenza è qualcosa fuori dalla portata di un qualsiasi agente, e riguarda invece in modo esclusivo l'essere umano.

La computazione vede dunque al lavoro una macchina, non un essere umano. Quindi certo, perché negarlo, una macchina potrà anche generare informazioni che l'essere umano potrà giudicare interessanti. Vogliamo dire, con un linguaggio fiorito, che queste informazioni interessanti, questi dati, ancora tutti da interpretare, forniti da macchine costruite da esseri umani ad esseri umani che usano la macchina, possono essere dette "sguardo inedito sulle cose del mondo"? Se così fosse, sarebbe facile trovarsi d'accordo.

Ma le parole usate per descrivere la scena suggeriscono un diverso atteggiamento. Con più o meno cautele, più o meno distinguo, si vuole affermare, si sente il bisogno di affermare che la bellezza, la ricchezza, sta nell'autonomia della macchina rispetto all'essere umano.

Chi vuole affermare questo lo faccia pure. Ma sarebbe buona cosa lo facesse con chiarezza, con piena onestà, evitando di nascondersi dietro formulazioni ambigue, evitando di proporre narrazioni diverse a seconda del pubblico, evitando di parlare di "utili provocazioni" e di chiamare in causa l'antropocentrismo di chi, semplicemente, non si vergogna di essere umano.

Come mostro nelle Cinque Leggi Bronzee dell'Era Digitale. E perché ci conviene trasgredirle, e poi di nuovo, spero in modo più sintetico, in Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, sta qui un passaggio chiave.

Siamo invitati ad accettare come immagine del mondo ciò che è visibile attraverso la computazione. Rinunciando a ciò che la computazione non riesce a vedere. Siamo anche invitati, tramite accurata propaganda, a dimenticare questo originario limite. Nel momento poi in cui si inizia a considerare confrontabili l'intelligenza artificiale -frutto più elevato della computazione- e l'intelligenza umana, i limiti della computazione finiscono per essere imposti a noi umani.

Perché resta aperta una domanda: sostenendo che l'"l'energia retorica della macchina catalizza esperienze estetiche all'insegna del sublime", sostenendo che gli artefatti della macchina "posseggono una forza estetica", siamo sicuri di allargare lo sguardo? Forse lo stiamo invece restringendo. Forse stiamo abituandoci a vedere solo ciò che è possibile vedere alla luce della computazione, rinunciando al più vasto orizzonte che in quanto esseri umani, quando liberi da pastoie digitali, ci è possibile vedere.

"Orrendo che affascina". "Complessa combinazione di gioia e orrore". "Smarrimento che si accompagna al meraviglioso". "Piacere provato al cospetto di un oggetto che trascende il nostro controllo e la nostra comprensione". L'essere umano ha forse paura di questo? Certo che no. Sembra si voglia suggerire che il povero essere umano fugge dall'accettare il sublime che emana dall'Intelligenza Artificiale. La storia umana ci racconta il contrario: la nostra storia è stata un continuo confronto con l'evento inatteso, con l'apparire del sublime. Nelle Macchine per pensare, e poi ora negli Splendori e miserie delle intelligenze artificiali ho esplorato a fondo questo argomento."Una sorta di spaventoso che tocca ciò che ci è familiare". "Infido", "fonte di orrore". Pochi hanno studiato questo argomento con la profondità di Sigmund Freud, in Das Unheimliche. Prendo Freud a mia guida.

Freud parla di come sia difficile per noi umani l’accettare il dunkel, l’oscuro. Eppure, dice, ne siamo capaci. L'essere umano si è confrontato con il sublime lungo l'intero arco della sua storia! Non è certo comparso il sublime sulla scena con l'apparire di una qualche novità tecnologica, detta magari 'Intelligenza Artificiale'!

Accettare ciò che ci appare solo come oscuro presagio. Accettare ciò che la scienza non ha saputo ancora dominare, spiegare. Accettare l’incompletezza di ogni modello. Questa è forza dell'essere umano. Accettare le tenebre del dubbio, della paura, è il punto di partenza per essere umani.

È un atteggiamento faticoso. Esige lavoro su di sé, educazione: imparare ad aver fiducia in se stessi, coltivare l’autostima, cercare scopi significativi ai quali dedicare le energie e verso i quali indirizzare l’azione.

Mostro -in forma più estesa in Macchine per pensare, e in forma più sintetica negli Splendori e miserie delle intelligenze artificiali- come la 'macchina che pensa', poi rinominata Intelligenza Artificiale sia l'invenzione attraverso la quale Turing fugge dal fare personalmente i conti con l'"orrendo che affascina", con il sublime, con la complessa combinazione di gioia ed orrore.

Turing, purtroppo, ha aperto per noi proprio questa strada - o meglio questa meschina scappatoia. Non interrogarsi, ma interrogare la macchina-che-risponde-ad ogni domanda. Non attraversare le tenebre, ma affidarsi alla luce della macchina-che-tutto-illumina.