Forma imposta o continuo presentarsi. Heidegger, la tecnica e il nuovo pensiero

Heidegger non scrive 'contro la tecnica', né nell'Essere e il tempo, né nel dopoguerra. Scrive a proposito di come la tecnica favorisce o contrasta il pensiero umano. Scrive alla luce dell'avvento di quella cultura tecnico-scientifica che sembra rendere vana la 'filosofia'. Ma se muore 'un certo tipo di filosofia' non muore l'umano pensare.

Non è difficile constatare che Heidegger mostra di conoscere molto bene la cibernetica -e implicitamente quelle disciplina che prende il nome di 'computer science' o di 'informatica'. Per questa via si può seguire la lezione di Heidegger nel leggere criticamente in senso delle macchine proposte dall'informatica, lungo la sua storia, fino al giorno d'oggi.

L'articolo -che si sviluppa come commento puntuale della conferenza Das Ende des Denkens in der Gestalt der Philosophie, La fine del pensiero in forma di filosofia, dettata da Heidegger il 30 ottobre 1965- riprende senza modifiche il penultimo capitolo di: Francesco Varanini, 'Macchine per pensare', Guerini e Associati, 2015.

Potete leggerlo qui su Stultifera Navis.

Macchinismi computazionali e intelligenza: perché è aberrante la traduzione italiana del più noto articolo di Alan Turing

Computing Machinery and Intelligence: l’articolo di Alan Turing apparso nell’ottobre 1950 sulla rivista 'Mind'. Turing afferma in apertura: “I propose to consider the question: Can machines think?’". La definizione intelligenza artificiale viene coniata cinque anni dopo. Ma l’intero campo di ricerca discende da qui. Dove già nel titolo si propongono le parole chiave: macchina, computazione, intelligenza.

L’articolo, citatissimo, non è in realtà stato letto e studiato abbastanza. Per lo più è noto attraverso riassunti e letture di seconda mano, che presentano interpretazioni scolastiche e semplificate. L’impressione lasciata da queste sintesi appiattisce il senso, tanto da renderne inutile la lettura.

Leggete l’articolo da soli. Se l’avete già letto, rileggetelo. E' chiarissimo, e che ci parla più incisivamente delle prefazioni e dei commenti che lo accompagnano- illumina le stanche e ripetitive discussioni presenti. Non lasciatevi fuorviare dagli 'esperti' che vogliono darvi ad intendere che senza la loro mediazione non potrete comprendere: si capisce tutto molto bene.

Arriverete così a ragionare con la vostra testa sull’affermazione che si trova verso la fine: “We may hope that machines will eventually compete with men in all purely intellectual fields”. Potrete allora chiedervi: condivido questa speranza? Mi riconosco in questo progetto? In cosa il mio pensiero si differenzia da quello di Turing e dei suoi più o meno consapevoli seguaci?

L’articolo, è reperibile con estrema facilità sulla Rete in lingua originale, e in italiano, gratis. Ma ben venga una nuova edizione. Ne è uscita di recente una presso Einaudi, a cura di Diego Marconi.

La traduzione di Marconi è nuova. Ma il titolo - Macchine calcolatrici e intelligenza - resta lo stesso che appariva nella prima traduzione italiana dell'articolo, nell'antologia La filosofia degli automi, a cura di Vittorio Somenzi, Boringhieri, 1965. Il titolo resta uguale nella successiva edizione della raccolta: La Filosofia degli automi. Origini dell’intelligenza artificiale, a cura di Vittorio Somenzi e di Roberto Cordeschi, Boringhieri, 1986, ristampata con prefazione di Damiano Cantone, Mimesis, 2022.

Macchine calcolatrici e intelligenza è un titolo sbagliato. Era un titolo sbagliato nel 1965, nel 1986, nel 2022, e a maggior motivo lo è oggi.

Macchine calcolatrici evoca macchine ben più semplici del calcolatore elettronico. Ma anche l'espressione calcolatore elettronico, che pure Marconi usa nella postfazione dell'edizione Einaudi, è datata e fuorviante.  Principalmente per un motivo: si nasconde la differenza, tra 'calcolo' e 'computazione'. 

Turing ammette che la assoluta calcolabilità - la descrizione del mondo logico-formale, esatta e priva di equivoci - è inattingibile. La sua risposta a questa impossibilità sta nel definire un universo più ristretto, dove i problemi che la calcolabilità impone sono assenti per definizione: l'universo della computazione.

E' importante discutere e confrontarsi. Ma ogni confronto sarà impossibile se tramite un titolo sbagliato, o chissà volutamente fuorviante, si nega l'argomento del contendere.

Invito quindi a leggere l'articolo di Turing immaginandolo intitolato Macchine computanti e intelligenza. O Macchine computazionali e intelligenza. O Macchinismi computazionali e intelligenza. O, tout court Computer e intelligenza.

Turing lo sapeva!

Un accademico, ordinario di Computer Science recentemente uscito di ruolo per età, si  presenta ora su Linkedin come 'etico informatico'. Ha scritto sull'Avvenire un articolo commemorativo nel settantesimo anniversario della morte di Alan Turing 7 giugno  1954. Qui l'articolo.

Riporto qui il commento all'articolo che ho proposto su Linkedin.

Se seguiamo Turing quando dice: "presumibilmente il comportamento intelligente consiste in un allontanamento dal comportamento completamente disciplinato del calcolo"", dobbiamo dedurne che nessuna macchina fondata sulla computazione può essere 'intelligente', perché la computazione è esattamente un procedimento completamente disciplinato dal calcolo. Anzi, Turing ci impone una ulteriore riduzione, un ulteriore allontanamento dall''intelligenza' definita come sopra, dato che la computabilità è per definizione più strettamente disciplinata della calcolabilità.

Turing lo sapeva! Infatti tutto il suo ragionare, nell'articolo "Computer Machinery ed Intelligence", 1950, tutto il suo cercare la macchina che pensa, la macchina intelligente, non è che una mera speranza, umanamente comprensibile, ma priva di fondamenti logici, matematici, o in senso lato scientifici. 'I hope', scrive verso la fine dell'articolo, come tu stesso ricordi: "possiamo sperare che sicuramente nel futuro le macchine competeranno con gli uomini in tutti i settori puramente intellettuali".

La domanda dunque è: perché Turing coltivava questa fideistica speranza? La domanda è anche: perché sono molti oggi coloro che coltivano, seguendo Turing, questa fideistica speranza?

Mi sembra resti aperto anche un ulteriore interrogativo: anche tu coltivi questa fideistica speranza? Perché scrivi: "I recenti progressi dei sistemi di intelligenza artificiale generativa stanno facendo cadere l’ipotesi che siano solo dei 'pappagalli stocastici', basati sul caso. Almeno dal punto di vista fenomenologico alcuni esperimenti hanno invece dimostrato in questi sistemi l’esistenza di scintille di intelligenza".

Tu credi davvero che gli argomenti esposti da Emily Bender in "On the Dangers of Stochastic Parrots" siano infondati, e che invece vada dato credito a quanto scrive Sébastien Bubeck in "Sparks of Artificial General Intelligence: Early experiments with GPT-4"?

Nel complesso, leggendo il tuo articolo, mi sembra che tu condivida la "solenne dichiarazione di fiducia e ottimismo" che attribuisci a Turing.

Perciò mi pare resti una certa contraddizione tra il tuo testo il titolo dell'articolo: 'Così Alan Turing ci mise in guardia dagli inganni delle macchine'. Turing non mette in guardia dagli inganni delle macchine, spera che le macchine pensino!. Forse i redattori dell'Avvenire non hanno capito? O forse, consapevolmente o inconsciamente, si tratta di una presa di distanza da quello che scrivi?

L'informatica è umanistica

Articolo apparso su MagIA il 13 ottobre 2024

L'informatica è umanistica

di Francesco Varanini

Informatica Umanistica o Digital Humanities? Da molte parti sento dire che l'espressione 'informatica umanistica' è orrenda, e che non esiste motivo per non adottare l'espressione inglese, che oltretutto porta con sé un richiamo esplicito alla comune, e per molti definitiva, affermazione del 'digitale' come parola chiave indispensabile per definire la cultura nella quale ci si vuole considerare definitivamente immersi.

Dietro la facile parola 'digitale' continuano però ad aleggiare, lo si voglia o no, altre due espressioni, ben più portatrici di senso: computazione e informatica. Il 'digitale', in effetti, non è che la lettura pop della computazione e dell'informatica.

Ben venga quindi una dizione -informatica umanistica- che mantiene vivo il senso di una storia e che è espressa in lingua italiana. Non è questo il luogo per guardare alle differenze sottili tra 'informatica' e 'computer science'. Basta qui ricordare che i Dipartimenti delle nostre Università si chiamano Dipartimenti di Informatica.

Mi pare anche che in italiano risalti meglio l'ossimoro, l'accostamento di concetti in apparenza tra loro contrari, la giustapposizione di due in apparenza opposti avvicinamenti alla conoscenza. Da un lato l'Informatica, la Computer Science, nuova disciplina. Dall'altro l'Umanistica: l'arte, la letteratura, le scienze umane.

Appare dunque evidente l'ampiezza di senso che alberga nella definizione - e quindi nel campo di studi che la definizione descrive. Come possono stare insieme informatica e umanistica? Come si contraddicono a vicenda, oppure come si imbricano, come contaminano e interlacciano le due aree disciplinari? Cercherò di rispondere mostrando perché 'informatica' e 'umanistica' debbano stare insieme. Non possano che stare insieme.

E' inevitabile iniziare dicendo che l'Informatica Umanistica -o Digital Humanities- designa comunemente un ambito banale. L'informatica umanistica, si dice, si dedica a predisporre strumenti informatici per cultori delle discipline umanistiche: hardware e software ad uso editoriale, di biblioteche e musei; supporti informatici per ricerche storiche, linguistiche, o filologiche. Oppure si pone l'accento sulla divulgazione della conoscenza attraverso media informatici. O ancora si guarda alla codifica digitale di testi prima appoggiati su supporti cartacei; e in genere alla codifica digitale di parole, suoni, immagini.

Se invece prendiamo buono quel luogo, quel confine sfumato che sta tra l'Informatica e l'Umanistica, possiamo avventurarci a proporre un primo tentativo di definizione: l'informatica umanistica è il regno della transdiciplinarità.

Ma la transdisciplinarità è un'arte difficile da praticare.

Basta un esempio. Un concetto fondante dell'informatica è l'organizzazione dei dati sotto forma di albero gerarchico. E' buona cosa cercare di illustrare questa organizzazione logica attraverso analogie attinte dal vasto campo umanistico. Le scelte però finiscono per cozzare con i limiti, forse inevitabili, del quadro di conoscenze dello studioso.

Siccome in una edizione italiana del romanzo di Gabriel García Márquez Cien años de soledad l'editore ha aggiunto al testo, ad inizio libro, un albero genealogico della famiglia Buendía, si prende questo albero genealogico come riferimento tramite il quale mostrare le virtù generali e quindi le applicazioni tecniche dell'hierarchical tree.

Non si può certo pretendere che un docente di informatica sia particolarmente ferrato in temi storico-letterari, critico-letterari o filologici. Ma si dà il fatto che l'albero genealogico della famiglia protagonista del romanzo sia una aggiunta estemporanea del redattore italiano di una singola edizione. L'albero genealogico non compare in nessuna edizione in lingua originale, e tanto meno nella prima edizione dell'opera. Si dà anche il fatto che l'esposizione dell'albero genealogico contraddice le intenzioni dell'autore e la proposta che l'autore rivolge al lettore. García Márquez, al contrario, propone lettore di perdersi in una narrazione dove la sequenza storica, temporale, lineare degli eventi è assente; invita il lettore a rinunciare all'ordine rappresentato dalla gerarchia dei puri passaggi generazionali, e ad immergersi invece nella complessità: tornano gli stessi nomi di battesimo, la figura del nonno si ritrova negli atteggiamenti del nipote, gli antenati sono presenti qui ed ora... Se il romanzo ci offre metafore -e ce le offre- certo non ci parla di gerarchia, ci parla semmai di rete, o della massa di Big Data, aperti alle più differenti connessioni, compresi in un LLM.

Così, la buona intenzione si trasforma in un cattivo servizio.

Altri romanzi avrebbero certo fornito un miglior esempio di hierarchical system. Ma va anche detto che, al di là della letteratura, e dell'inesistente albero di García Márquez, le analogie pertinenti non sono poi così difficili da trovare.

Si sarebbe potuto ricorrere alle rappresentazioni grafiche delle strutture elementari delle parentele offerte dall'antropologia culturale. Ma sopratutto si può ricordare l'esempio principe di rappresentazione sistematica di conoscenze fondata sulla struttura ad albero: il Systema Naturae per Regna Tria Naturae, secundum classes, ordines, genera, species, cum characteribus, differentiis, synonymis, locis di Linneo. Nelle tavole di Linneo troviamo, già pienamente implementate, il hierarchical tree articolato in classi e sottoclassi, il file system, il modello dei dati.

Seguendo Linneo, si può oltretutto ricostruire il percorso che porta a Goethe. Goethe provava un enorme ammirazione per il quadro generale generale e sistematico, universale, proposto da Linneo.

Ma poi, anche sotto l'influenza straniante della lettura di Spinoza, un giorno, nell'orto botanico di Padova, osservando dal vivo un albero, Goethe ha una illuminazione: si rende conto della necessaria esistenza di una differente rappresentazione. La rappresentazione di Linneo è una Gestalt, una struttura ordinata dove ogni cosa sta in un posto formalmente descritto. Esiste un'altra possibile, anzi: necessaria rappresentazione: la Bildung: la forma formante, la forma che sta prendendo forma in questo istante, la forma emergente.

Se è possibile cercare il senso della computer science attraverso per la via della Gestalt, altrettanto può dirsi della via della Bildung.

Ricordando gli aspetti riduttivi e inconsistenti del richiamo approssimativo ad autore e ad una opera letteraria, non si vuole certo gettare la croce addosso a qualcuno. Si vuole solo far presente che molto difficilmente l'auspicato approccio transdisciplinare può essere oggetto di un singolo insegnamento, e molto difficilmente può essere praticato da un singolo docente.

La domanda che si pone è dunque questa: come cercare la transdisciplinarità. Come metterla in campo, come insegnarla.

Verosimilmente, la transdisciplinarità può emergere dal tenere aperto il ventaglio degli argomenti, al di là dei confini disciplinari. E cioè, in università, la transdiciplinarità è il frutto dell'ampiezza degli sguardi disciplinari accolti nei piani di studi.

Scrivo questo avendo in mente la personale esperienza. Ho partecipato più di vent'anni, presso l'Università di Pisa, al decollo del primo -e credo ancora unico- corso di laurea triennale in Informatica Umanistica. Si trattava di un corso Interfacoltà. Era bellissimo vedere lavorare insieme docenti cultori di discipline diversissime, e quindi anche incapaci di intendere l'uno il saper dell'altro. Tutti contribuivano ad una sintesi, o meglio in una apertura, in una disponibilità alla complessità, che si formava e andava crescendo nella mente degli studenti.

Spero che questi stringati accenni siano sufficienti per mostrare come l'informatica umanistica possa offrire un servizio di grande importanza: collocare i concetti, i costrutti che sono il pane quotidiano dei cultori dell'informatica e della computer science nel quadro storico e culturale nel quale i concetti e costrutti stessi sono stati generati e si sono evoluti.

Collocare il pensiero informatico e computazione nel vasto, aperto contesto della storia delle idee significa offrire la via per avvicinarsi alla più profonda e sfumata conoscenza della propria disciplina, al più consapevole dominio dei ferri del mestiere.

E' forse necessaria una precisazione: non si tratta di cercare, lungo una via già molto percorsa, ma foriera di vari fraintendimenti, un incontro tra due culture, la cultura 'umanistica' e cultura 'scientifica' (di cui la computer science fa parte), intese come campi nativamente distinti. Si tratta invece di considerare la scienza stessa (e quindi la computer science) un'arte umana, una specifica via verso la conoscenza, come lo sono la letteratura o la musica.

Accade oggi che i corsi di laurea di Digital Humanities siano incardinati nel quadro di Dipartimenti di taglio umanistico. E che siano concepiti come preparazione a coprire ruoli dove la competenza informatica necessaria è limitata ad elementi basilari e semplificati. Andando per esempi: dall'esperto di biblioteconomia all'esperto di Search Engine Optimization.

Il modo di intendere l'Informatica Umanistica che sto esponendo trova invece collocazione all'interno dei Dipartimenti di Informatica. Perché un certo senso l'Informatica Umanistica che qui propongo può anzi essere intesa la miglior formazione per qualunque professione nel campo della computer science: sia si tratti di impieghi di ambito aziendale, sia di carriere nel campo dell'accademia e della ricerca.

Infatti serve una solida preparazione in meritò ai fondamenti matematica, alla calcolabilità e alla computazione, algoritmi, programmazione... Ma è anche evidente la rapida evoluzione delle tecnologie: ciò che conta è essere preparati a coglierne gli aspetti essenziali e ad apprendere rapidamente. A questo fine, una preparazione umanistica è sicuramente un fattore efficace, un importantissimo acceleratore.

Si può infine ricordare che l'informatica umanistica fornisce un antidoto al comune modo di intendere la figura del computer scientist. Si dice che il computer scientist è impegnato ad interagire con due 'agenti': l'utente e la macchina. L'informatica umanistica riporta con i piedi per terra: il protagonista di questa storia è uno solo: l'essere umano. Nessun essere umano si merita di essere ritenuto passivo 'utente'. L'essere umano che costruisce macchine destinate ad essere usate da altri esseri umani merita una formazione che gli ricorda la sua appartenenza all'umanità. L'essere umano che costruisce strumenti per accompagnare gli esseri umani nella loro ricerca di conoscenza, merita una formazione aperta alla complessità dei processi di costruzione di conoscenza.

Overwhelming effect. La complessità ridotta a computabilità

Se, avendo sotto gli occhi la scena digitale, vogliamo riflettere sul suo senso, possiamo chiederci: in quali parole nuove risiede il senso di tutto ciò che definiamo digitale? Una parola appare, più della stessa parola digitale, e di ogni altra più di ogni altra, portatrice di novità, emblematica, capace di descrivere la situazione che ci troviamo a vivere. Questa parola è: computazione.

Kurt Gödel, ventiquattrenne finissimo matematico, dimostra nel 1930 che nessun sistema può essere utilizzato per provare la propria stessa coerenza. Ogni sistema è incompleto. Non è possibile giungere a definire la lista esaustiva degli assiomi che permetta di dimostrare tutte le verità. Ogni volta che si aggiunge un enunciato all'insieme degli assiomi, ci sarà sempre un altro enunciato non incluso.

Nel 1936 un altro finissimo matematico allora ventiquattrenne, Alan Turing, risponde a Gödel con l'articolo On Computable Numbers. Se la calcolabilità - la descrizione del mondo logico-formale, esatta e priva di equivoci - è inattingibile, la risposta sta nel definire un universo più ristretto, dove i problemi che la calcolabilità impone sono assenti per definizione. Turing, in fondo, non fa altro che rinverdire il sistema assiomatico di Hilbert aggiungendo alla sua lista un nuovo assioma: useremo d'ora in poi solo numeri computabili. Sostituiremo alla problematica calcolabilità la rassicurante computabilità.

Nella prima riga dell'articolo è già fornita la definizione: "The computable numbers may be described briefly as the real numbers whose expressions as a decimal are calculable by finite means". Calcolabili con mezzi finiti. Poche righe sotto Turing spiega meglio: "a number is computable if its decimal can be written down by a machine".

La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare.

I numeri che la macchina non è in grado di trattare sono esclusi dalla scena. Inesistenti nel Paradiso della Computazione.

Turing era ben consapevole dei limiti di questa scelta. 

In Computing machinery and intelligence, 1950, argomenta a favore di questa tesi: le macchine computanti -macchine alle quali infatti aveva dato già nell'articolo del 1936 il nome computers- sono capaci di pensare. Turing prosegue poi cercando di mostrare come il modo di pensare delle macchine possa essere pari o migliore del modo di pensare di noi umani.

Turing aveva risolto ogni questione suo argomentare, non può ignorare 

parla di come eventi apparentemente limitati possono avere effetti rovinosi e smisurati [overwhelming effect] in un momento successivo. “Lo spostamento di un singolo elettrone di un miliardesimo di centimetro in un momento può fare la differenza, un anno dopo, tra la morte di un uomo sotto una valanga o la sua salvezza”. 

Notando le enormi, esponenziali, overwhelming conseguenze sistemiche di un singolo minimo evento, Turing anticipa di più di dieci anni l'effetto farfalla descritto dal matematico e meteorologo Edward Lorenz: il battito delle ali di una farfalla in Brasile può portare a conseguenze enormi e imprevedibili. 

Infatti, come a suo modo mostrava Gödel, i sistemi viventi non sono lineari, sono invece complessi, caotici, adattivi. Variazioni infinitesime nelle condizioni iniziali producono variazioni grandi e crescenti nel comportamento successivo del sistema. 

Turing ha dunque ben chiaro tutto questo. Sa bene che la vita è un continuum, un flusso ininterrotto. E sa che il computer è una macchina a stati discreti; una macchina che si limita a rappresentare il flusso attraverso “sudden jumps or clicks from one quite definite state to another”, salti o scatti automatici da uno stato ben definito a un altro. 

Turing sceglie di ignorare la differenza. La sua proposta è leggere gli stati del mondo -complessi, caotici, non lineari- attraverso una 'macchina a stati discreti'. 

“Una proprietà essenziale dei sistemi meccanici che abbiamo chiamato macchine a stati discreti è che questo [l'overwhelming effect] fenomeno non si verifichi”. Dunque: siamo di fronte all'imprevedibilità e all'incertezza. Sappiamo che ogni stato iniziale, difficilissimo da leggere in tutti suoi aspetti, può generare conseguenze caotiche e catastrofiche. Cosa si fa? Si usa, per misurare e controllare il fenomeno, o per simularlo, una macchina a stati discreti, dove il fenomeno non si verifica. Insomma, la proposta è gestire un sistema complesso attraverso un suo modello: un gemello meccanico, non complesso.

La giustificazione di Turing è questa: “una conoscenza ragionevolmente accurata dello stato in un momento produce una conoscenza ragionevolmente accurata per un certo numero di passi successivi”. Insomma, Turing ci invita a contentarci di dati che sappiamo incapaci di descrivere uno stato del mondo.

Cosa vuol dire Turing dicendo: "ragionevolmente accurato"? La proposta consiste nel sostituire la ragione umana -o meglio: il pensiero umano- con la conoscenza -direi meglio: l'informazione- che permette alla macchina di prevedere “un certo numero di passi successivi”. Turing ci invita a contentarci di una rappresentazione del fenomeno -suo modello, gemello- generata dalla macchina.

Generata dalla macchina: questo è il punto chiave. L'essere umano è sempre stato accompagnato dalla consapevolezza di ciò che Gödel ha dimostrato formalmente: qualsiasi pretesa di conoscere e controllare tutto è fallace. Di questo ci parla anche un'altra parola nuova: cibernetica. Parola che rimanda al governo, all'arte del timoniere. Arte umana, consistente nell'affrontare eventi imprevedibili, nell'attraversare tempeste sempre differenti delle precedenti, nel a navigare a vista. Arte umana a cui diamo anche il nome di scienza: tentativo di ampliare, tramite esperimenti e prove gli orizzonti della conoscenza.

Eppure Turing -e la computer science volta all'intelligenza artificiale- ci propongono di sostituire quest'arte umana con l'affidamento alla macchina. 

Ciò che propone Turing, dunque, non è che un gioco di prestigio: risolvere i problemi impliciti nella calcolabilità tramite la computabilità; porre la simulazione al posto dell'osservazione; guardare i sistemi complessi tramite modelli che sono sistemi meccanici. Sostituire al mondo la rappresentazione del mondo proposta da una macchina detta computer. 

La tecnica e il proprio corpo. La via di Alan Turing e l'opposta via di Marcel Mauss

Propone Leroi-Gourhan in Le gest et la parole: il proprio avvenire, per gli esseri umani ora costretti a convivere con macchine, consiste nello scegliere di restare – o tornare ad essere- sapiens.

Di radici culturali dell'essere umano, di origini della tecnica, e di uso umano della tecnica, parla in una conferenza nel 1934 Marcel Mauss, etnologo francese maestro di Leroi-Gourhan.

L'articolo tratto dalla lezione esce nel 1936.¹ Proprio l'anno in cui Turing presenta nell'articolo On Computable numbers l'idea di una computing machine. Fino a ben dentro il Ventesimo Secolo computer non voleva dire altro che essere umano che fa di conto, contabile, computista. Turing, invece, immagina un computer-macchina. Macchina affidabile, macchina che non tradisce mai le aspettative: esegue indefettibilmente il proprio programma.

Quando Turing scrive l'articolo ha ventiquattro anni. Giovane solitario, disperato, vive un'infelice condizione esistenziale. Neonato, è privato della vicinanza dei genitori, che risiedono in India. Vive con fatica la propria omosessualità. Ha sedici anni quando il ragazzo che ama muore. Ama la matematica: non un linguaggio per interagire con altri esseri umani, ma un linguaggio per parlare con se stesso, per cercare la propria purezza.

Le carenze umane, vissute sulla propria pelle, nel proprio cuore, motivano la ricerca di un sostituto non umano. Turing vuole, perché ne ha bisogno, dimostrare che una certa macchina può mostrarsi più affidabile dell'essere umano, più degna di stima, e anche di affetto.

"We may hope that machines will eventually compete with men”, “possiamo sperare che le macchine saranno alla fine in grado di competere con gli uomini”, scrive a trentott'anni -quattro anni prima di togliersi la vita- in Computing Machinery and Intelligence. I due articoli si completano a vicenda. La macchina è la conscio o inconscia proiezione dei bisogni del proprio creatore.

Turing spera che al suo posto viva una macchina. Una macchina matematica, logico-formale, mentale, cartesiana, leibniziana. Priva di sembianze umane. Priva di identità sessuale, di genere indefinito.

La tecnica, così, finisce per essere la via lungo la quale allontanarsi dal proprio corpo.

Mauss propone una via opposta. “Intendo con questa parola il modo in cui gli esseri umani, società per società, in un modo tradizionale, sanno servirsi del loro corpo”.² Vernadsky, McLuhan e Leroi-Gourhan ci parlano del progressivo allontanamento dello strumento dal corpo dell'essere umano. Mauss torna daccapo: la tecnica è innanzitutto uso del proprio corpo.

“Abbiamo fatto, e io stesso ho fatto per diversi anni, l'errore fondamentale di non considerare che ci sia la tecnica solo quando c'è lo strumento”. Possiamo dire che anche Vernadski resta vittima di questo errore. E lo stesso Leroi-Gourhan, attratto dall'evidente fenomeno, dalla fuga in avanti, dal costante e crescente trasferimento di capacità dall'essere umano allo strumento, finisce per guardare a quest'ultimo, quasi collocando ai margini della scena l'essere umano. Ma Leroi-Gourhan torna poi a interrogarsi sulle sorti dell'essere umano, quando appunto esso vive sulla nuova scena determinata da strumenti e macchine sempre più autonomi e separati da lui. E allora afferma: torniamo a ricordare le radici. Ci spinge quindi a rileggere le pagine di Mauss, suo maestro.

Mauss restituisce la tecnica all'essere umano. Parla di tecniche del corpo.

“Il corpo è il primo e il più naturale strumento dell'uomo. O più esattamente, senza parlare di strumenti, il primo e il più naturale oggetto tecnico, e allo stesso tempo mezzo tecnico, dell'uomo, è il suo corpo”.

Come usiamo le mani nel lavoro e nel gesticolare. Come camminiamo, come corriamo o marciamo. Come nuotiamo moduliamo la voce nel parlare o nel cantare. E anche: come pensiamo – perché l'approccio etnologico, antropologico di Mauss lascia fuori ogni ipotesi cartesiana, ogni separazione tra mente e corpo: la mente, la capacità intellettiva, fa parte dell'essere umano intero.

Ci si apre un nuovo orizzonte: è ben vero che assistiamo ad un progressivo allontanamento dello strumento dal corpo umano. Ma Mauss ci richiama all'origine di questa storia. Storia della vita, della natura, storia umana, e storia personale di ogni singolo essere umano. In origine, ed in ogni tempo in cui l'essere umano è vissuto, ed ancora oggi nei tempi digitali, separarsi dalla tecnica è separarsi da sé stessi.

La tecnica è in origine, ci dice Mauss, “un atto tradizionale efficace”.

Efficacia: verbo latino efficere, ex facere, 'far sì'. La tecnica è produzione di effetti. Tradizione: il latino tradere è trans dare. Dare -e la radice indeuropea do- stanno per 'passaggio di possesso'. Quindi: 'dare attraverso'. Consegnare, affidare, rimettere nelle mani, mettere a disposizione. Trasmettere. Tramandare le conoscenze di generazione in generazione.

“E' innanzitutto in questo che l'essere umano si distingue dagli animali: per la trasmissione delle sue tecniche, e molto probabilmente per la loro trasmissione orale”.

Subissati, annichiliti dalla presenza di strumenti e di macchine, abbiamo finito per dimenticare che la la tecnica nasce dall'intento umano di compiere atti efficaci. Qualsiasi strumento è frutto di questa intenzione.

Mauss ci invita a tornare alla fonte: al momento in cui l'essere umano -in ogni luogo del pianeta che è giunto ad abitare- apprende a compiere atti efficaci. Atti relativi ad ogni fase e ad ogni aspetto della vita.

In origine, l'essere umano non ha ancora in mano uno strumento. Prima di apprendere ad usare un qualsiasi strumento -un bastone, una pietra-, l'essere umano ha verificato la possibilità di usare il proprio corpo.

La tecnica cessa di essere una astrazione. E cessa di essere lontana, inevitabilmente affidata ad una macchina. Mauss ci invita a concepire una tecnica incarnata. Una tecnica continuamente rinascente nel, dal corpo umano.

In questa ottica, la rivoluzione digitale appare come causa di grave deprivazione: ogni conoscenza umana è appoggiata oggi su un supporto digitale, esterno al corpo umano; ogni atto umano sembra dover transitare oggi attraverso la mediazione di un codice digitale, di un programma. L'homo sapiens non può fare a meno di interrogarsi. Subire passivamente o reagire.

Varie sono tecniche dimenticate, perdute forse per sempre. Tecniche, meglio arti: non dimentichiamo che arte e tecnica sono sinonimi.

Una è ricordata dallo stesso Turing, proprio nell'articolo nel quale cerca di dimostrare come una macchina possa pensare: la percezione extrasensoriale. Telepatia, efficacia dei gesti degli sciamani.

Di natura contigua è un'arte ricordata da Mauss. “Alla base degli stati mistici si trovano tecniche del corpo che in tempi moderni sono state dimenticate, e che furono invece perfettamente studiate nella Cina e nell'India in epoche molto antiche”.

Queste antiche tradizioni del Taoismo e dello Yoga non a caso tornano alla luce nei tempi digitali, anche in forma occidentalizzate, in parte magari banalizzate. Le tecniche usate per cercare una mindfulness sono l'esempio più calzante.

Questo ritorno è particolarmente importante: è segno di un risveglio, segno dell'umana intuizione di come di fronte all'incombere di macchine sostitutive serva riscoprire aspetti semidimenticati di sé stesso. Più precisamente: serva riportare alla luce quelle umane caratteristiche che più difficilmente possono essere imitate e simulate tramite una macchina digitale.

Un'arte quasi perduta è certo l'arte della memoria: l'arte di ricordare usando le risorse offerte dal proprio corpo. Significativo è, nel verbo ricordare, il riferimento al cuore: luogo simbolico del corpo umano, sede della sensibilità, dei sentimenti. Sofisticate arti permettevano all'essere umano di conservare conoscenze in una quantità e con una qualità che oggi sembrano definitivamente perdute. L'arte è andata perduta probabilmente, come supponeva Platone, con il sopraggiungere della scrittura: una nuova tecnica che permetteva di affidare la conservazione della conoscenza a un supporto esterno.

C'è qui una lezione da imparare. L'essere umano si trova di fronte dell'Era Digitale a mezzi dotati di una memoria incommensurabilmente superiore alla memoria umana. La battaglia tra essere umano e macchina è ormai persa. Non potremo mai, in ogni caso, conservare conoscenze così come sa farlo la macchina-computer.

Di ciò consapevoli, abbiamo definitivamente rinunciato a fare esercizio della nostra memoria. Abbiamo accettato di ridurre le nostre capacità cognitive. Abbiamo accettato un futuro in cui umane capacità, non usate, si atrofizzeranno definitivamente. Il nostro stesso corpo è destinato ad una riduzione delle proprie funzioni: gli organi sui quali si appoggia la memoria perderanno il loro motivo di esistere.

Eppure il ricordo umano, lo specifico modo umano di conservare conoscenza, mantiene un proprio valore. E si può presumere che non potrà mai essere del tutto imitato e simulato dalla macchina.

Le tecniche del corpo sono una ricchezza alla quale non ci conviene rinunciare. Sono doti, anzi, che diventano più preziose in un mondo popolato da macchine.

Non si tratta certo ora di rinunciare a tutto ciò che l'uso di strumenti e macchine ci offre. Né si tratta di rimpiangere remoti tempi felici. Si tratta di non dimenticare. Così come il ricordare ci riporta al mondo delle emozioni e degli affetti, il verbo dimenticare ci ammonisce: dementicus è in latino un derivato di demens: de, privo di, mens, mente. Ogni essere umano, e poi gli esseri umani riuniti

Si tratta dunque di tornare a sentir viva la tradizione che ci lega agli esseri umani del passato. Si tratta di non guardare solo in avanti, di non vivere auspicando l'arrivo di una nuova macchina alla quale affidarsi. Si tratta di ricordare che ogni sostituzione macchinica di una facoltà umana, è una deprivazione di umanità.

Si tratta di mantener viva la fiducia in sé stessi, nell'essere umano che giorno dopo giorno può imparare a conoscenze di più sé stesso; che può apprendere ad usare in modo più efficace il proprio corpo.

Il grande paradosso che si manifesta nell'Era Digitale è questo: preferiamo le macchine a noi stessi. Invece di porre attenzione al conoscere noi stessi, costruiamo macchine per simulare e imitare ciò che il nostro corpo e la nostra mente sapevano, e in fondo sanno ancora, fare.

Qualsiasi strumento comporta un pericolo: ci porta a dimenticarci del nostro corpo. La comodità dello strumento, ed ormai la consuetudine ad averlo in mano, hanno fatto dimenticare all'essere umano tutto ciò che sa fare - anche senza strumenti.

Secondo vari guru e profeti del digitale siamo entrati in una storia irrimediabilmente nuova; gli stessi guru e profeti, e anche loro illustri precursori, come Teilhard du Chardin e lo stesso Vernadsky, il futuro dell'umanità consiste nel confluire, insieme a macchine divenute a loro modo 'intelligenti', in un indistinto nous -potremmo dire: ogni ente partecipe di una conoscenza disincarnata. Ma alla fin fine, anche accettando la supposizione di una convergenza tra essere umano e macchina, resta per l'essere umano la possibilità, o anzi: la responsabilità, di portare nel nuovo ente quanto più possibile della propria storia, del proprio modo di essere. La nuova scena digitale, e la presenza di macchine a loro modo viventi, ci spinge ad essere umani, con più coscienza e con più volontà.

Così possiamo sostenere, con Leroi-Gourhan, e con Mauss, che il futuro dell'umanità, anche e proprio nell'Era Digitale, consiste nel non recidere le proprie radici, nel rammentare in ogni istante le proprie origini, nel restare nella propria specie, nella propria storia.

Solo conservando nell'agire presente memoria delle origini, solo mantenendo vivi i legami con la tradizione l'essere umano può costruire il proprio futuro. Può costruire un futuro per sé stesso e per la propria specie. Siamo ancora, per nostra fortuna, e ci conviene continuare ad essere, quelle stesse persone. Memori del primo momento in cui l'essere umano assunse la posizione eretta e scoprì le potenzialità implicite nella propria mano e nella propria testa.

E' sempre possibile, come mostra Robinson Crusoe, ricominciare daccapo, ripartire dal proprio corpo, dalle proprie mani e dalla propria testa, dalle proprie capacità, inventando nuove tecniche adatte a mondi inizialmente sconosciuti.

Mauss ci riporta alla scena primaria: di fronte ad una esigenza dettata dall'ambiente, di fronte a un bisogno o un desiderio, l'essere umano cerca una soluzione efficace. Non è una scena da collocarsi in tempi ormai remoti. E' anzi, la scena che riviviamo in ogni istante – anche nei tempi digitali. La via che l'essere umano ha conosciuto, la via che gli ha permesso di ri-generarsi, è di affrontare il problema innanzitutto con il proprio corpo, partendo da sé stessi: da ciò che posso pensare, da ciò che ricordo e da ciò che mi hanno tramandato generazioni precedenti, da ciò che posso fare con le mie mani, da ciò che posso condividere con altri esseri umani. Ripartendo ogni volta da sé stesso l'essere umano si mantiene vivo nel presente e garantisce speranze di vita futura a sé stesso ed ai posteri.

In tempi di macchine potenti ed autonome, è auspicabile recuperare la sensazione del momento iniziale, quando, a mani nude, disponendo solo del proprio corpo, l'essere umano intuisce, scopre, inventa, crea, costruisce.

1Marcel Mauss, “Les Techniques du corps”, Journal de Psychologie, XXXII, ne, 3-4, 15 mars - 15 avril 1936. Communication présentée à la Société de Psychologie le 17 mai 1934.

2 Marcel Mauss, “Les Techniques du corps”, Journal de Psychologie, XXXII, ne, 3-4, 15 mars - 15 avril 1936. Communication présentée à la Société de Psychologie le 17 mai 1934.

'Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza', Guerini e Associati, in libreria dal 24 maggio 2024

 Il tema del libro in tre frasi

Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce.
Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire.
Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità.

Uno degli argomenti che tratto nel libro
C'è un'inquietudine che mi muove. Continuo a venire a conoscenza delle opinioni di seri ricercatori. Essi dicono, sinceramente e con piena convinzione, cose del tipo:
"Una caratteristica distintiva dei sistemi di AI è questa: potranno prendere decisioni su basi etiche. Distinguere il bene dal male".
Nel libro discuto questa posizione, che -lo ammetto- mi scandalizza. Il fondamento della posizione sta nel far riferimento a studi di scienze cognitive. In base a quale presupposto studiosi di scienze cognitive pretendono di sapere cosa è il bene e il male, e cosa è l'etica, in base a un ancoraggio che guida la loro ricerca. L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana  è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. Il ricercatore stesso si allontana dal proprio essere umano.

Un altro argomento
L’immaginare di sostituire l’essere umano con una macchina è contrabbandare l’informazione per conoscenza.
La Transizione Digitale -che termina in una immagine conclusiva: l'Intelligenza Artificiale- è il punto di svolta di una svalutazione dell’umano. Perché costituisce la pretesa di sostituire all’esperienza umana i dati. I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano che sta maturando esperienze. L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato.
Un conto è l’informazione - che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza - che è il frutto dell’umana esperienza

Una descrizione dei temi  il libro
Splendori e miserie. C'è qualcosa di davvero splendido nelle promesse digitali - il cui culmine e la cui sintesi sembra ormai definitivamente riassumersi in un sostantivo ed in un aggettivo: Intelligenza Artificiale. Qualcosa di luminoso, scintillante. Sontuoso, grandioso, nobile. Ma c'è anche qualcosa di misero.
Siamo assillati da notizie che cantano le meravigliose capacità di intelligenze artificiali, e ci invitano ad affidarci ad esse. Ma sappiamo che il rischio di assuefazione e dipendenza è dietro l'angolo. Per noi e per i nostri figli, per i nostri posteri.
Perché ci impegniamo nell'insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano? Perché impegnarsi in progetti che consistono nell'ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina?
Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi?
Siccome l'innovazione appare inarrestabile, si sceglie di abbracciarla. Pare che l'unica scelta possibile consista nello sforzarsi di vederne gli aspetti positivi.
Credo invece si possa combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile.
Credo sia possibile dare risposte. Credo che in ogni caso convenga continuare a porci domande. Anche se non abbiamo immediate risposte.
La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole.

Un'altra descrizione - che mi sembra migliore della precedente
Anche i computer scientist ed i vari esperti che ci parlano di novità digitali hanno un'anima, una storia personale, un vissuto di dolori e di sogni. Gli strumenti ed i sistemi digitali, compreso tutto ciò che passa oggi sotto il nome di Intelligenze Artificiali, nascono in queste zone segrete, frutto di motivazioni profonde e non di rado inconfessate.
Per cercare di capire cosa significhino, e cosa nascondano, le Intelligenze Artificiali che con tanta insistenza vengono oggi propoposte ad ogni cittadino, non conviene quindi dar troppo credito alle spiegazioni tecniche e alle divulgazioni. Serve anzi ricordare che qualcosa, in queste narrazioni, resta sempre celato.
Per comprendere, conviene invece dare valore all'esperienza personale di ognuno di noi. Cosa vuol dire per me ricorrere ad una Intelligenza Artificiale? Quali sensazioni provo mentre mi affido a lei?
Scopriremo allora che le Intelligenze Artificiali rappresentano l'illusoria speranza di un facile modo per scaricare dalle proprie spalle il peso di responsabilità che ci paiono troppo gravose.
E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica.
Osservando con sguardo critico gli splendori e le miserie di ogni nuovissimo mezzo digitale, potremo tornare a guardare, e a dar valore, a ciò che siamo già capaci di fare, a mente libera e a mani nude, un attimo prima di cercare l'ausilio di una macchina.

Una terza descrizione
Oscilliamo tra miseria e splendore. La MISERIA sta nel non voler vedere ciò che ci turba e ci preoccupa. Sta nel sottovalutare le nostre doti e nello sprecarle.
La rincorsa al vano SPLENDORE sta nel proiettarsi nell'immagine di chi è vestito broccato d’oro e porpora, con una ghirlanda di giacinti rossi in testa, una collana d’oro. Una immagine alla quale aneliamo, ma che sappiamo lontanissima da ciò che vediamo se ci guardiamo allo specchio.
Di questi tempi, entrambe le immagini ci portano a credere nella potenza di cosiddette intelligenze artificiali. Ad affidarci a loro. Perché ci illudiamo possano vedere e agire al posto nostro. Perché se non possiamo vedere bellezza in noi, cerchiamo di vederla nella macchina.
Diamo alla macchina un nome splendido per nascondere ogni miseria.
Che fare? Nel mio libro SPLENDORI E MISERIE DELLE INTELLIGENZE ARTIFICIALI propongono una via.
- Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. Senza rinunciare al nostro corpo. Senza considerare la nostra mente separata dal corpo.
- Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole 'Intelligenza Artificiale'con lo sguardo dell’essere umano che contribuisce a costruire il mondo che abita. Con lo sguardo del cittadino che, disposto ad assumersi responsabilità, non cessa di porsi domande. Con lo sguardo di ognuno di noi, intento a vivere esperienze.
La saggezza umana sta nell’accettare la situazione, nell’apprendere a leggerla e a viverla. Senza arrendersi però al fato, a ciò che ci è comodo definire inevitabile. La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine.

 

La sostenibilità digitale. Dieci impegni (prima versione)

Sostenibilità: impegno di ogni cittadino del pianeta, e quindi di ogni istituzione ed organizzazione, nei confronti delle generazioni future.

Solo tornando a questo fondamentale e necessario obbligo morale si può  cogliere il senso della sostenibilità digitale. Aspetto chiave del nostro impegno verso le generazioni future è infatti il lasciare loro libertà. Libertà anche rispetto all'invasione del digitale nelle nostre vite.

Propongo dunque l'assunzione di dieci impegni.

• Un primo modo di guardare ad una vera sostenibilità digitale, è applicare all'industria digitale gli stessi criteri applicati alle altre industrie. Non danneggiare l'ambiente attraverso l'eccessivo consumo di energia e attraverso l'uso di materie prime non rinnovabili: è un obiettivo universalmente accettato, ma che stranamente ci si impegna ad applicare ad ogni altro settore più che al settore digitale.
• Non considerare la connessione per via digitale come condizione inevitabile. Si sostiene che già oggi, ormai inevitabilmente, senza rimedio e senza possibilità di alternativa, viviamo nell'onlife, in un'infosfera, eternamente connessi. Dovremmo invece garantire a noi stessi ed ai nostri posteri il diritto alla disconnessione.
• Non imporre mondi già costruiti. Mentre il mondo fisico è co-costruito dagli esseri umani che vi vivono, i mondi digitali sono offerti, o imposti, come già totalmente costruiti. Mondi alla cui progettazione non abbiamo minimamente partecipato ci vengono imposti come luoghi da abitare. Garantiamo ad ogni essere umano la possibilità di costruire e di modificare l'ambiente nel quale si trova a vivere.
• Lasciare la possibilità di scegliere quali servizi digitali usare e quali non usare. La vita sembra ridursi all'uso di servizi offerti per via digitale. Ma il punto più grave è che i servizi non sono solo offerti, ma imposti, per via di consigli di 'intelligenze artificiali', per via di notifiche sottilmente invitanti, per via di contratti e anche di norme di legge. Lasciamo la libertà di formulare di volta in volta scelte consapevoli.
• Non obbligare a compiere azioni predeterminate. La libertà è spazio per sperimentare, tentare, sbagliare. Anche il violare le leggi rientra tra le libertà di cui l'essere umano dispone. Evitiamo che macchine digitali -magari con la giustificazione del 'nostro bene', o dell'abbassamento della soglia del rischio- impongano limitazioni al nostro spazio d'azione.
• Non considerare l'essere umano attraverso il suo 'digital twin'. Tramite sensori e sistemi di rilevazione di vario tipo si raccolgono dati su ogni essere umano e poi gli si dice: tu sei chi appare attraverso questi dati; tu sei il tuo gemello digitale. Eppure l'essere umano è sempre qualcosa di più, di differente, da ciò che i dati più completi e precisi possano attestare. Lasciamogli questa libertà.
• Non imporre la rinuncia al corpo. L'essere umano non si riduce alla sua mente. La mente è incarnata, inconcepibile senza corpo. Abbiamo il diritto di non veder reso inutile il nostro corpo da protesi e strumenti digitali.
• Non imporre la rinuncia al lavoro. Il 'lavoro umano' non può essere ridotto a fatica e pena dalle quali conviene liberarsi. Il lavoro umano è sempre anche costruzione di sé stessi e del mondo. Guardando al 'lavoro umano' nella sua pienezza, gli aspetti materiali e immateriali sono inscindibili. Così come è inscindibile il pensare dall'agire.  Dovremo evitare l'automazione e la robotica che tolgono senso e spazio al lavoro umano.
• Non provocare deskilling. La presenza di costrutti digitali autonomi imposti all'essere umano lo dequalificano, l'impoveriscono e l'impigriscono. Condizionando lo stesso futuro evolutivo della specie. Anche in presenza di macchine in grado di garantire di sostituire l'essere umano garantendo magari performance più alte, garantiamo alle generazioni umane future la possibilità di conoscere, di apprendere, di migliorare sé stessi.
• Infine: garantiamo ai nostri posteri la possibilità di vivere senza strumenti digitali. La libertà, se lo vorranno, di non essere digitali.

Lettere aperte a proposito dei rischi impliciti nella Chat GPT e nell'Intelligenza Artificiale in genere: un altro vano giro di valzer. Il Garante italiano risponde inutilmente. Si discetta sui pappagalli. Ma i cittadini restano ancora una volta esclusi dalla discussione

Fine marzo 2023. La lettera aperta del Future of Life Institute Pause Giant AI Experiments, riportata dal Financial Times, è pedestremente ripresa dalla stampa italiana. Elon Musk e altri 1.000 leader della Silicon Valley chiedono di "sospendere lo sviluppo dell’intelligenza artificiale". I firmatari spiegano come "negli ultimi mesi c’è stata una corsa fuori controllo dei laboratori per l’intelligenza artificiale a sviluppare potenti menti digitali che nessuno, neanche i creatori, possono capire, prevedere e controllare".  

Lettere aperte: Future of Life Institute e Association for the Advancement of Artificial Intelligence

"Chiediamo a tutti i laboratori di intelligenza artificiale di fermarsi immediatamente per almeno sei mesi nell’addestrare i sistemai di IA più potenti come GPT-4. La pausa dovrebbe essere pubblica, verificabile e includere tutti. Se non sarà attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria", si legge nella lettera del Future of Life Institute.

Un monito da prendere sul serio? Una presa di posizione veramente nuova? Non sembra.

Come racconto nel mio libro Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle (Guerini e Associati, 2020, pp. 219 e segg.), lo scrivere lettere aperte a proposito dei rischi impliciti nell'Intelligenza Artificiale è uno sport molto diffuso tra tecnici e guru dell'Era Digitale. Così ci si lava la coscienza, poi si può tornare sollevati a chiudersi in laboratorio, senza pensare troppo alle conseguenze delle proprie azioni, senza assumersi reali responsabilità. Si sbandierano assieme il vessillo della preoccupazione per il futuro dell'essere umano e lo stendardo della potente forza implicita nell'Intelligenza Artificiale. Si ripete fino alla noia che l'Intelligenza Artificiale è gravida di buone promesse ma potrebbe anche comportare l'estinzione della specie umana.

Campione della gara delle lettere aperte è proprio il Future of Life Institute. La recente lettera aperta ripete stancamente quella del gennaio 2015, documento di esordio dell'Institute. Mark Tegmark, fisico ansiosamente alla ricerca del grande pubblico, cerca spazio sul ghiotto terreno dell'Intelligenza Artificiale. Eccolo fondare il Future of Life Institute, di cui è tutt'ora presidente. Si susseguono da allora campagne che sostengono l'ovvio. Il trucco consiste nel non prendere partito: vogliamo una AI al contempo roubust and beneficial. 

Questo significa forse mettere un freno alla corse verso l'Intelligenza Artificiale? Non sia mai! Al contrario, "this does not mean a pause on AI development". Sarebbe sbagliatissimo, si legge nella lettera del 2015, rinunciare alla ricerca, perché “i benefici [benefits] sono enormi”. 

“A fronte del grande potenziale dell'AI è importante ricercare il modo di raccogliere i suoi benefici evitando potenziali insidie [pitfalls]”.Ciò che già si leggeva nella lettera del 2015, lo si ritrova pari pari nella lettera del marzo 2023: "AI research and development should be refocused on making today's powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal".

A cosa dovrebbe servire la pausa ora proposta? "I laboratori di intelligenza artificiale e gli esperti indipendenti dovrebbero sfruttare questa pausa per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo avanzati di intelligenza artificiale, rigorosamente verificati e supervisionati da esperti esterni indipendenti". Notare bene: si parla di protocolli stabiliti dagli stessi laboratori impegnati nella ricerca, accompagnati da esperti esterni indipendenti. Tra le righe è facile leggere la risposta ad una domanda: chi sono gli esperti indipendenti? Innanzitutto i ricercatori del Future Of Life Institute! Quale lo scopo dei protocolli? Rendere tutto più robusto. "Robust AI governance systems". "Robust auditing and certification ecosystem". E anche, guarda caso, "robust public funding for technical AI safety research". Cioè: l'industria privata fa cose pericolose, quindi, argomentano Tegmark e amici, merita risorse pubbliche per mitigare i rischi impliciti nei progetti.

Gli interessi economico-finanziari e l'interesse dei tecnici ad avere mano libera vanno a braccetto. Così, anche, si mantiene vivo, ma sotto controllo, lo stesso business della critica ai rischi dell'Intelligenza Artificiale. Chi è il vice-presidente e tesoriere del Future of Life Institute? Meia Chita-Tegmark, moglie di Mark Tegmark. Ora si considera notevole il fatto che tra i primi firmatari della lettera si trovi Elon Musk. Si evitata di ricordare che già all'inizio del 2015 Tegmark, celebrava la “la donazione di 10 milioni di dollari di Elon Musk al Future of Life Institute, che ha contribuito a mettere a disposizione 37 sovvenzioni per gestire un programma di ricerca globale volto a mantenere l'IA benefica per l'umanità”.

Dalla discussione, insomma, è bandita l'ipotesi che l'Intelligenza Artificiale possa veramente essere dannosa. Basta del resto leggere ciò che scrive Tegmark per osservare come considera obiettivo auspicabile per gli stessi esseri umani l'affermarsi di una Superintelligenza non umana. Racconto nelle Cinque Leggi di come Tegmark parli del futuro collocandosi al di fuori della comunità umana, dei cittadini del mondo: scienziato che dall'alto e dal di fuori disegna scenari - per la precisione dodici. Per non compromettersi, non prende esplicitamente partito per nessuno di essi. Ma comunque annuncia qual è il luogo dove il destino degli esseri umani sarà spiegato al volgo: il Future of Life Institute. 

Musk, da parte sua, proprio alla fine del 2015 fonda Open AI, società che ha per scopo sviluppare quell'Intelligenza Artificiale Generale, AGI, che Tegmark chiama Superintelligenza. Proprio Open AI sembra ora, con la Chat GPT, essersi avvicinata ben più di ogni altra impresa all'Intelligenza Artificiale Generale. Come mostro nelle Cinque Leggi, Elon Musk presto cambiò idea, e passò a considerare l'Intelligenza Artificiale Generale "un rischio fondamentale per la civiltà umana". Non va dimenticato che Musk indirizzò allora i suoi investimenti verso un progetto diverso, ma non meno inquietante: connettere tramite sottilissimi filamenti neurali il cervello umano ad un computer.

Ecco comunque ora tutti, impauriti o sorpresi, a firmare la lettera del Future of Life Institute. Ma anche, allo stesso tempo, ansiosamente dediti a provare l'ultima versione della Chat GPT. I tecnici firmatari della lettera invocano "un passo indietro rispetto alla pericolosa corsa verso modelli black-box sempre più grandi e imprevedibili con capacità emergenti". L'invocazione è certo frutto di preoccupazione, ma anche, è lecito supporre, espressione di invidia nei confronti dei colleghi di Open AI. Quasi a dire: la black-box dovrebbe essere aperta a tutti i tecnici, cioè anche anche a noi. La sorpresa di qualcuno di fronte a ciò che la Chat GPT riesce a fare non sembra invece molto motivata. I risultati erano prevedibili. Non c'è niente di nuovo da un punto di vista tecnico, c'è solo il fatto che usando ingenti investimenti e enorme potenza di calcolo si è andati avanti lungo una strada già nota. 

Se questo è vero per la lettera del Future of Life Institute, pubblicata il 23 marzo, è ancor più vero per la lettera dell'Association for the Advancement of Artificial Intelligence, che segue a pochi giorni di distanza, il 5 aprile. Storica società scientifica, l'AAAI si propone come punto di riferimento per la comunità professionale dal 1979. Naturalmente si è data un codice etico: vuoto e non impegnativo, come troppo spesso capita di vedere: basta citare una frase: "the entire computing profession benefits when the ethical decision-making process is accountable to and transparent to all stakeholders". Si può subito notare che l'intento non è portare la comunità professionale ad assumere impegni, l'impegno consiste al contrario nel difendere gli interessi della comunità professionale di fronte a qualsiasi situazione che ne minacci la posizione dominante e lo spazio d'azione. Lo stesso intento appare chiarissimo ora nella lettera aperta Working together on our future  whit  AI. L'incipit ammonisce il popolo: "L'Intelligenza Artificiale sta già arricchendo le nostre vite, spesso in modi non percepiti". "Alimenta i nostri sistemi di navigazione, è utilizzata in migliaia di screening quotidiani di tumori, smista miliardi di lettere del servizio postale". E via dicendo: "ha svelato la struttura di migliaia di proteine", garantisce previsione meteorologiche dettagliate, fornisce idee che stimolano la creatività. "We believe that AI will be increasingly game-changing" in ogni ambito. 

Segue una modesta ammissione: "siamo consapevoli dei limiti e delle preoccupazioni sui progressi dell'Intelligenza Artificiale". Ma subito si rovescia la frittata, dichiarando innocenti i membri della comunità professionale e affermando che dei problemi se ne deve occupare qualcun altro: "Beyond technology, we see opportunities  for work in policy, including efforts with standards, laws, and regulations". Si coglie anche l'occasione per chiedere investimenti pubblici destinati a ricerche sulla valutazione del rischio. 

Per quanto riguarda la comunità professionale, ci si limita a dire che la si incoraggia ad incrementare gli sforzi indirizzati verso la sicurezza e l'affidabilità dell'AI e le sue influenze sulla società. In che modo? Parlandone di più in convegni e workshop "ed altre attività esistenti". Basta dunque aggiungere ai convegni una sezione dove si parli di "short-term and longer term ofAI".

Ciò che si deve quindi sottolineare è che esiste in ogni caso un punto che accomuna l'intera comunità professionale impegnata in un modo o in un altro nel campo della ricerca legata all'Intelligenza Artificiale. Accomuna coloro che mirano ad Intelligenze Artificiali specializzate in un compito e coloro che cercano l'Intelligenza Generale Artificiale. Accomuna i puri tecnici e gli imprenditori. Accomuna i profeti della Digital Disruption e i filosofi fiancheggiatori. Consapevoli tutti di appartenere alla stessa famiglia professionale e di avere interessi in comune da difendere. Tutti infatti appaiono nei fatti d'accordo su un punto: l'importante è che il dibattito, e le decisioni conseguenti, restino in mano alla lobby degli addetti ai lavori. Chi infatti è invitato a firmare queste lettere? Tecnici e scienziati, tecnocrati, imprenditori del settore - che riservano a se stessi l'autorità di decidere come autoregolarsi. Tutto in mano agli 'esperti'! 

C'è motivo di ritenere che le lettere aperte degli esperti servano solo, in un momento in cui si ha di fronte una novità per certi aspetti sorprendente, a rinserrare le fila. E' facile per i tecnici considerare i cittadini non all'altezza di capire ed opinare. A questo scopo si evita ogni trasparenza, si usano gerghi escludenti. Oppure si offre una divulgazione volutamente superficiale, tesa a sollevare entusiasmi e a far apparire tecnofobi e retrogradi coloro che chiamano alla cautela. Si evita, insomma, un autentico dibattito pubblico, dove i cittadini siano messi in condizioni di comprendere e siano convocati a partecipare. Scrivo nelle Cinque Leggi che il primo passo in questa direzione dovrebbero compierlo i tecnici. Cercando la trasparenza nella narrazione del loro lavoro e nella descrizione dei sistemi da loro sviluppati. Ma sopratutto tornando a considerare sé stessi come cittadini. Spogliandosi del proprio potere, potrebbero chiedersi: cosa sto facendo? Comodo invece limitarsi a sottoscrivere lettere aperte.

Scende nell'agone il Garante italiano della Privacy 

Il Garante italiano della Privacy avvia una istruttoria su OpenAI e la Chat GPT. Risultato: l'accesso alla Chat è negato ai cittadini italiani.

Motivi addetti dal Garante: 

OpenAi non ha mai fornito una spiegazione dettagliata su come utilizzerà le informazioni che immagazzina

Il gruppo ha la sua base negli States. Sembra quindi che dati di cittadini europei siano raccolti su database situati fuori dalla comunità europea.

La Chat GPT non verifica l’età dell’utente. Quando in Europa la possibilità che un minore sia esposto ad informazioni 'inidonee' è considerato reato. 

Naturalmente, c'è poi un ragionamento politico-strategico: lo stesso uso della Chat da parte dei cittadini, è fonte di alimentazione delle conoscenze che rendono possibile il funzionamento della Chat. 

Il Garante afferma che la Chat utilizza dati dei quali i cittadini non hanno concesso l'uso. Questo può essere vero. Ma in molti casi, i dati personali che Open AI, come tanti altri grandi operatori digitali, usa, sono legittimati dal fatto che li abbiamo resi pubblici involontariamente noi cittadini non stando attenti alle disclaimer di siti e piattaforme, dove si dichiara che silenzio dell'utente è assenso, e cose simili.

Si può dire che l'atto del Garante appare una censura fondata su interpretazioni formali di norme vigenti. Sul breve termine Open AI accetta la posizione del Garante bloccando il servizio in Italia. Presto troverà il modo di aggiustare il tiro. 

Si possono riconoscere ai difensori civici le buone intenzioni. Ma ogni censura è vana, perdente, specie nei tempi digitali dove i confini nazionali e europei valgono ben poco. I loro interventi non hanno la minima di possibilità di incidere sulle ricerche, sulle strategie e sulle scelte di mercato delle grandi case digitali. 

E ancora, l'intervento del Garante finisce per essere il sostituto di un vero dibattito pubblico. La comunità dei tecnici digitali intanto, nel mentre sparge un po' di lacrime di coccodrillo attraverso qualche lettera aperta, continua, in un modo o nell'altro, ad appropriarsi dei dati dei cittadini per costruire strumenti sempre più potenti per condizionare i cittadini stessi, rendendoli passivi utenti. 

Il fascino della Chat GPT: sottile ed ingannevole

La censura è vana, perdente. Gli argomenti addotti dal Garante sono dubbi. Non si ferma certo così un trend. L'isolamento al quale l'intervento del Garante costringe chi opera nel nostro paese è dannoso. 

Ma il coro di voci che si leva contro il Garante dà da pensare. Possiamo veramente considerarli imparziali nel giudicare? Non credo. Le voci che criticano l'intervento del Garante non sono né indipendenti né disinteressate. Sono vocci di addetti ai lavori personalmente interessati al fatto che la giostra continui a girare e anzi giri sempre più veloce. 

Denunciamo dunque la vanità delle prese di posizione del Garante. Ammettiamo però anche l'ipocrisia implicita in lettere come quella del Future of Life Institute. E ammettiamo anche il fascino pericoloso che esercita su di noi questa Intelligenza Artificiale Generativa. Sia chi ha, sia chi non ha, fiducia nel possibile avvento di una Intelligenza Artificiale Generale, sia chi questa fiducia non ce l'ha, sono affascinati dai risultati raggiunti da Open AI. Tutti passano il tempo a interrogare il nuovo oracolo! Non posso che tornare sugli argomenti espressi nella Confutazione poetica della Chat GPT, pubblicata di recente su questo blog. E non posso fare a meno di ricordare quello che scrivo nelle Cinque Leggi. Mi sembra che tra gli 'esperti' la grande maggioranza si ponga senza troppo ragionare nella scia di Turing, quando, nell'articolo apparso su Mind nel 1950, dice: 'Spero che le macchine pensino'. La seconda delle leggi di cui parlo nel mio libro infatti recita: 'Preferirai la macchina a te stesso'. La quarta: 'Lascerai alla macchina in governo'. Un cittadino dovrebbe, secondo me, preferire sé stesso ad ogni macchina e non lasciare alla macchina il governo. Ma gli 'esperti' invitano invece i cittadini a fidarsi della macchina più che di sé stessi.

Vorrei anche aggiungere una nota strettamente politica. Perché le scelte che ci appaiono meramente scientifiche e tecnologiche, sono in realtà sempre anche scelte politiche. Gli esperti, i tecnologi, posso dire in genere i membri delle élite, possono ben dire che la Chat GPT è mero strumento, tramite il quale scaricarsi i compiti ripetitivi e inutilmente faticosi. 

La Chat, però, lungi dal apparire strumento per aprire alla creatività, appare strumento di dominio a chi vive in condizioni di sudditanza. 

L'élite che magnifica la Chat, e prova soddisfazione nell'usarla, nasconde così a sé stessa il fatto che in un contesto democratico, dove la democrazia non sia ridotta alla versione più banale e comoda del liberismo, l'élite svolge il suo ruolo solo se va oltre il comodo, esclusivo perseguimento dei propri interessi, e si fa carico di creare condizioni affinché ognuno, anche chi proviene da condizioni disagiate, possa giungere ad essere pienamente cittadino, attivo e responsabile. E' però evidente che la Chat GPT è usata al contrario: per imporre risposte ad  ogni domanda, per svilire la ricerca, per costringere chi non appartiene all'élite in una condizione di definitiva sudditanza. Per qualcuno la Chat è un gioco, un divertimento, per altri è strumento di controllo sociale.

Ed in ogni caso, non dimentichiamolo, la Chat GPT è un modo per raccogliere dati e per garantire al sistema nuove informazioni sui comportamenti umani. Più alimentiamo Chat GPT, più ne diventiamo dipendenti.

Agenti, copiloti e pappagalli

Un articolo diffuso in pre-print il 13 aprile è molto citato in questi giorni, a conferma della condivisa speranza degli 'esperti': Sparks of Artificial General Intelligence: Early experiments with GPT-4. Gli autori -Sébastien Bubeck ed altri, lavorano nei laboratori di ricerca di Microsoft, la grande casa cui Open AI è più vicina. "Cosa sta realmente accadendo? Il nostro studio di GP 4 è interamente fenomenologico: ci siamo concentrati sulle cose sorprendenti che GP 4 può fare, ma non affrontiamo le domande fondamentali sul perché e come raggiunge un'intelligenza così straordinaria". Per questo l'articolo piace tantissimo agli addetti ai lavori: propone una entusiastica apologia della nuova tecnologia, eludendo qualsiasi domanda impegnativa, da un punto di vista sia tecnico che da punti di vista sociali, politici ed etici. 

E' la filosofia del lavarsene le mani. La posizione che Bubeck, con una certa ingenuità, ammette, è la posizione generalmente diffusa tra gli addetti ai lavori. Delle conseguenze ci preoccuperemo veramente, se sarà il caso, in futuro. Intanto, firmiamo una lettera - che tanto, lo sappiamo, non bloccherà nessuna ricerca. E semmai il compito di bloccare spetta alla politica. Il business e l'industria devono andare avanti. I finanziatori attendo sempre più alti ritorni dell'investimento. Subito la ricerca deve essere applicata a prodotti.

Non a caso Microsoft, sulla base degli studi che Open AI porta avanti, lancia in questi stessi giorni un nuovo tool della suite Office 365, dal nome emblematico: Copilot. "We spend too much time consumed by the drudgery of work on tasks that zap our time, creativity and energy. To reconnect to the soul of our work, we don’t just need a better way". La better way proposta ad ogni cittadino del pianeta per l'uso del proprio tempo, dei propri personali spazi di libertà, nel lavoro e nella vita quotidiana, sarà indicata dal copilota digitale! 
Satya Nadella, Chairman e CEO di Microsoft, infatti annuncia: “With our new copilot for work, we’re giving people more agency and making technology more accessible through the most universal interface - natural language.” 

More agency: agency è l'ambigua parola che i filosofi digitali sostituiscono a libertà. Infatti nessuno osa tradurre agency con libertà, o neanche con potere, capacità. Si preferisce lasciare la parola in inglese, o avventurarsi nel neologismo agentività. L'espressione vuole affermare l'esistenza di un terreno sul quale appaiono -simili, fungibili, sostituibili l'un l'altro- l'umano e la macchina. La metrica buona per la macchina è per questa via imposta agli umani. La millenaria storia dell'umana ricerca dell'essere, de sé, dello spazio di autonomia, della responsabilità personale, è così comodamente elusa, o anzi rimossa. Anche di questo parlo in modo dettagliato e preoccupato nelle Cinque Leggi.

Microsoft e Open AI, dunque,  ci  dicono che sanno ciò che è bene per ognuno di noi, e ci chiedono di fidarci di loro. Quando scrivo Microsoft e Open AI, possiamo intendere i tecnici di Microsoft e di Open AI, oppure, direttamente la Chat che i tecnici di Microsoft e Open AI hanno creato, Chat dotata di Intelligenza Artificiale che parla agli umani come se a parlarci fosse un umano. Ecco cosa intendo quando dico: cittadini ridotti a utenti. Il concetto di Copilota risulta infatti volutamente ambiguo. Mentre si lascia in apparenza libertà, si dà per scontato che convenga agli umani seguire i suoi  melliflui consigli del Copilota. Mentre prosegue il lavoro di rendere, tramite l'uso di ricerche neuroscientifiche, sempre più difficile agli umani non seguire la via indicata, tramite acconci algoritmi, sui Social Network; mentre diventano più incombenti i 'consigli' che arrivano tramite notifiche, e ora tramite il Copilota. Agli 'esperti' seguaci di Turing piace essere guidati dalla macchina. Forse molti cittadini la pensano diversamente. Ma ora saranno ricondotti sulla retta via.

In realtà, di fronte all'avvento della Chat GPT, qualcuno è tornato a citare un articolo del 2021, di grande interesse, critico e premonitore. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Emily Bender e le altre ricercatrici legate al centro di ricerca di Google, come si sa, hanno pagato cara questa presa di posizione. Non è questa la sede per riprenderne in dettaglio i diversi argomenti. Basta l'attenzione dedicata a mostrare i costi ambientali e finanziari della tecnologia fondata su modelli linguistici linguistici sempre più grandi. Le ricercatrici si chiedono How big is too big? Notano come non conta solo la quantità dei dati, ma anche la loro qualità. Conta anche, da un punto di vista etico, come sono stati raccolti i dati. Non è necessariamente questo -modelli linguistici di dimensioni sempre più grandi- l'unica direzione nella quale dovrebbe muoversi la ricerca, suggeriscono Binder e le coautrici. Ma certo se la gran parte degli investimenti sono rivolti a questo tipo di ricerca, ben poco di differente potrà essere sperimentato. 

Alla riflessione sui dati: la loro quantità e la loro qualità; e all'invito a non trascurare altri indirizzi di ricerca le ricercatrici aggiungono una presa di posizione etica. "Chiediamo di riconoscere che le applicazioni che mirano a imitare [...] gli esseri umani comportano il rischio di danni estremi [extreme harms]. Il lavoro sul comportamento umano sintetico è una linea di confine nello sviluppo dell'AI rispettoso dell'etica, dove "gli effetti a valle devono essere compresi e modellati per bloccare i danni alla società e a diversi gruppi sociali". 

Sui rischi, e sulle necessarie cautele, la lettera aperta del Future of Life Institute non fa che ripetere quello che Bender e le sue colleghe avevano già detto. E comunque, come ho mostrato, la recente lettera dice in realtà che i ricercatori impegnati su questa frontiera non vogliono né fermarsi né cercare altre strade. Si contentano sempre di ribadire la banale affermazione: 'Intelligenza Artificiale robusta e benefica'. Non aggiunge molto la pretesa novità affermata dall'Unione Europea: Intelligenza Artificiale human centered. In ogni caso nessuno vuole davvero mettere limiti alla ricerca.

Di recente, Bender è tornata a far ascoltare la sua voce: "Sento che ci sono troppi sforzi per creare macchine autonome", ha detto. Mentre diminuiscono gli sforzi per "cercare di creare macchine che siano strumenti utili per gli esseri umani". Di fronte agli atteggiamenti di persone con le quali si è trovata a discutere in incontri pubblici, Bender si è sentita obbligata a precisare. "Non ho intenzione di conversare con persone che che non pongono la mia umanità come assioma alla conversazione". Sono infatti molti i tecnici e i filosofi fiancheggiatori che amano ricordare che non conta essere umani o non esserlo. Siamo tutti, alla pari agenti. 

Solo alla luce di questa scelta personale, esistenziale, etica e filosofica si può ben capire il senso del titolo dell'articolo del 2021. Pappagalli stocastici. Bender, consapevole di essere umana, consapevole consapevole di appartenere alla vita sulla terra, ad una storia, consapevole di come il proprio pensiero ed il proprio parlare siano legati al corpo umano, ha molti motivi per dire che la Chat GPT non è che un pappagallo stocastico. Possedendo un solido dominio della sintassi, si esprime in modo correttissimo, e quindi in apparenza convincente. Ma non possedendo capacità semantiche parla come un pappagallo, che imita il linguaggio umano, ma a differenza degli umani non sa quello che dice. 

L'Intelligenza Artificiale Generale è ormai tra noi?

Qui l'opposizione è netta. Da un lato coloro che, nonostante le grandi prestazioni di GPT credono che si tratti di nient'altro che di un pappagallo stocastico. Dall'altro lato coloro che, come Bubeck, ritengono le prestazioni di GPT siano tanto sorprendenti da far pensare che -lo dice già nel titolo: Sparks of Artificial General Intelligence- vi si trovino scintille di Intelligenza Artificiale Generale. "Resta ancora molto da fare per creare un sistema che possa qualificarsi come Intelligenza Artificiale Generale completa", scrive Bubeck. Eppure Bubeck, come tanti esperti, è entusiasta, emozionato, di fronte alle core mental capabilities di GPT. Le elenca con ammirazione: reasoning, creativity, deduction; variety of tasks it is able to perform: playing games, using tools, explaining itself... 

Resta ancora nutrita, potremmo anche dire maggioritaria, la schiera dei ricercatori e dei tecnici che intendono l'Intelligenza Artificiale come capacità applicata a macchine dedicate ad un singolo scopo. Essi non hanno mai creduto all'Intelligenza Artificiale Generale, né ne hanno fatto l'oggetto della propria ricerca. Ma molti di loro in questi giorni si stanno ricredendo. 

Quella Superintelligenza, totalmente autonoma dall'intelligenza umana, a suo modo cosciente, che era stata cercata per settant'anni seguendo altre vie tecnologiche, sembra comunque ora apparire vicinissima a manifestarsi, come frutto del Deep Learning e dei Large Language Model: la si chiama Intelligenza Artificiale Generativa.

Chi ci parla davvero, senza enfasi, dei rischi esistenziali

Retorica e propaganda accompagnano la crescita dell'industria digitale. I tecnici impegnati nella ricerca, spinti dall'ansia di sperimentare, scelgono di sottovalutare le conseguenze dei loro progetti: si limitano a firmare lettere aperte e al fare appello alla politica, che dovrebbe imporre norme e freni. Ma i politici, non sapendo cosa fare di fronte a ricerche di cui non capiscono senso e portata, si affidano a commissioni formate dagli stessi tecnici che rimandano le decisioni alla politica. Da questo circolo vizioso, non possono che nascere norme inefficaci.

Ai tecnici, poi, è stato insegnato che la misura del successo di una ricerca sta nei risultati finanziari generati dalla ricerca stessa. Il legame tra tecnici ricercatori e investitori risulta così ambiguo tanto quanto il legame tra tecnici e politici.

Le voci critiche realmente autonome sono quindi poche. Le poche, vanno sminuite e svalutate. Così accade appunto con l'articolo di Emily Binder e delle altre ricercatrici, On Danger of Stochastic Parrots.

Non solo sono disattesi gli accorati inviti di Binder: mettere un limite alla raccolta dei dati, evitare ricerche orientate . Ma nell'ansia di svalutare l'articolo si punta dritto alla tesi espressa nel titolo. 

Sam Altman, CEO di Open AI, il 4 dicembre 2022,  quattro giorni dopo il rilascio di Chat GPT, scrive in un tweet: "Sono un pappagallo stocastico". Crede di essere ironico. 

Bender risponde: "Le persone vogliono credere così tanto che questi modelli linguistici siano effettivamente intelligenti che sono disposte a prendere se stesse come punto di riferimento e a svalutare questo aspetto per adeguarsi a ciò che il modello linguistico può fare". 

"Vogliono credere": vi colgo un richiamo all'"I hope" di Turing. Specchiarsi nella macchina. Il 'gioco dell'imitazione', di cui parlava Turing nell'articolo del 1950, i seguaci turinghiani l'hanno poi pomposamente definito test di Turing. Turing ridefinisce l'intelligenza ed il pensiero umani, in modo tale da poter arrivare a dire: 'l'intelligenza ed il pensiero corrispondenti alla definizione, si ritrovano nella macchina'. Insomma, torno a dirlo con la seconda delle Cinque Leggi: 'Preferirai la macchina a te stesso'. Prenderai la macchina a modello di te stesso. Il Gemello digitale di ogni entità fisica, anche di ogni essere umano, è un passo in questa direzione.

Ma in realtà, nessuno si ferma. La ricerca prosegue. L'argomento dei pappagalli stocastici viene usato come arma retorica contro Binder. Bubeck osserva emozionato le scintille di Intelligenza Artificiale Generale che traspaiono nei GPT.

Non sappiamo ancora ben immaginare, e tanto meno regolamentare, un mondo in cui quell'intelligenza esiste. Eppure la lettera aperta di Future of Life si apre con una frase precisa: "AI systems with human-competitive intelligence can pose profound risks to society and humanity".Perché non ce ne preoccupiamo in modo serio? Credo che per rispondere a questa domanda, convenga seguire la lezione di Eliezer Yudkowsky. Scrivo di lui nelle Cinque Leggi, p. 225 e seguenti. Da lui viene il pensiero dal quale è nata la lettera aperta di Future of Life. Comunque lo si giudichi, Yudkowsky ha posto vent'anni fa il tema dei rischi esistenziali legati all'Intelligenza Artificiale. E nel corso degli anni è divenuto via via più pessimista. Cosa dice ora Yudkowsky di GPT? Parlo di questo in un articolo pubblicato su Agenda Digitale.

(post scritto il 30 marzo e via aggiornato fino al 4 maggio 2023)