'Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza', Guerini e Associati, in libreria dal 24 maggio 2024

 Il tema del libro in tre frasi

Le Intelligenze Artificiali sono di solito descritte con lo sguardo dell'esperto che spiega e ammonisce.
Ma è forse più interessante osservarle con gli occhi del cittadino che cerca spazi di libertà e strumenti per agire.
Se da un lato le Intelligenze Artificiali possono costituire un aiuto, dall'altro rischiano di essere il mezzo che permette ad ognuno una comoda fuga dalle proprie responsabilità.

Uno degli argomenti che tratto nel libro
C'è un'inquietudine che mi muove. Continuo a venire a conoscenza delle opinioni di seri ricercatori. Essi dicono, sinceramente e con piena convinzione, cose del tipo:
"Una caratteristica distintiva dei sistemi di AI è questa: potranno prendere decisioni su basi etiche. Distinguere il bene dal male".
Nel libro discuto questa posizione, che -lo ammetto- mi scandalizza. Il fondamento della posizione sta nel far riferimento a studi di scienze cognitive. In base a quale presupposto studiosi di scienze cognitive pretendono di sapere cosa è il bene e il male, e cosa è l'etica, in base a un ancoraggio che guida la loro ricerca. L'ancoraggio consiste nel supporre che il funzionamento della mente umana può essere compreso attraverso una analogia: la mente umana  è, in fondo, un computer. Le scienze cognitive si appoggiano alla computer science. La computer science si appoggia alle scienze cognitive. Ci si allontana così fatalmente dalla comprensione dell'essere umano che era stata raggiunta da filosofia, psicologia e sociologia. Il ricercatore stesso si allontana dal proprio essere umano.

Un altro argomento
L’immaginare di sostituire l’essere umano con una macchina è contrabbandare l’informazione per conoscenza.
La Transizione Digitale -che termina in una immagine conclusiva: l'Intelligenza Artificiale- è il punto di svolta di una svalutazione dell’umano. Perché costituisce la pretesa di sostituire all’esperienza umana i dati. I dati consistono in ciò che è stato rilevato da un sensore. I sensori sono povere imitazioni dei sensi dell’essere umano che sta maturando esperienze. L’esperienza umana, maturata tramite il corpo e il pensiero, è nuova attimo dopo attimo, sempre più aggiornata di ogni dato.
Un conto è l’informazione - che è un insieme di dati, buono per essere elaborato da un computer; un conto è la conoscenza - che è il frutto dell’umana esperienza

Una descrizione dei temi  il libro
Splendori e miserie. C'è qualcosa di davvero splendido nelle promesse digitali - il cui culmine e la cui sintesi sembra ormai definitivamente riassumersi in un sostantivo ed in un aggettivo: Intelligenza Artificiale. Qualcosa di luminoso, scintillante. Sontuoso, grandioso, nobile. Ma c'è anche qualcosa di misero.
Siamo assillati da notizie che cantano le meravigliose capacità di intelligenze artificiali, e ci invitano ad affidarci ad esse. Ma sappiamo che il rischio di assuefazione e dipendenza è dietro l'angolo. Per noi e per i nostri figli, per i nostri posteri.
Perché ci impegniamo nell'insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano? Perché impegnarsi in progetti che consistono nell'ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina?
Perché accettiamo di considerare queste macchine digitali modello e guida? Perché preferiamo la macchina a noi stessi?
Siccome l'innovazione appare inarrestabile, si sceglie di abbracciarla. Pare che l'unica scelta possibile consista nello sforzarsi di vederne gli aspetti positivi.
Credo invece si possa combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile.
Credo sia possibile dare risposte. Credo che in ogni caso convenga continuare a porci domande. Anche se non abbiamo immediate risposte.
La chiave sta nel guardare alle intelligenze artificiali con lo sguardo del cittadino che cerca strumenti per essere più pienamente sé stesso, più responsabile e consapevole.

Un'altra descrizione - che mi sembra migliore della precedente
Anche i computer scientist ed i vari esperti che ci parlano di novità digitali hanno un'anima, una storia personale, un vissuto di dolori e di sogni. Gli strumenti ed i sistemi digitali, compreso tutto ciò che passa oggi sotto il nome di Intelligenze Artificiali, nascono in queste zone segrete, frutto di motivazioni profonde e non di rado inconfessate.
Per cercare di capire cosa significhino, e cosa nascondano, le Intelligenze Artificiali che con tanta insistenza vengono oggi propoposte ad ogni cittadino, non conviene quindi dar troppo credito alle spiegazioni tecniche e alle divulgazioni. Serve anzi ricordare che qualcosa, in queste narrazioni, resta sempre celato.
Per comprendere, conviene invece dare valore all'esperienza personale di ognuno di noi. Cosa vuol dire per me ricorrere ad una Intelligenza Artificiale? Quali sensazioni provo mentre mi affido a lei?
Scopriremo allora che le Intelligenze Artificiali rappresentano l'illusoria speranza di un facile modo per scaricare dalle proprie spalle il peso di responsabilità che ci paiono troppo gravose.
E' comodo pensare di avere a disposizione macchine in grado di togliere al posto nostro le castagne dal fuoco. Ma possiamo invece, riflettendo sul senso delle Intelligenze Artificiali, tornare costruttivamente a guardare cosa conta davvero: l'impegno nella propria ed altrui educazione, la cittadinanza attiva, la partecipazione alla vita sociale e politica.
Osservando con sguardo critico gli splendori e le miserie di ogni nuovissimo mezzo digitale, potremo tornare a guardare, e a dar valore, a ciò che siamo già capaci di fare, a mente libera e a mani nude, un attimo prima di cercare l'ausilio di una macchina.

Una terza descrizione
Oscilliamo tra miseria e splendore. La MISERIA sta nel non voler vedere ciò che ci turba e ci preoccupa. Sta nel sottovalutare le nostre doti e nello sprecarle.
La rincorsa al vano SPLENDORE sta nel proiettarsi nell'immagine di chi è vestito broccato d’oro e porpora, con una ghirlanda di giacinti rossi in testa, una collana d’oro. Una immagine alla quale aneliamo, ma che sappiamo lontanissima da ciò che vediamo se ci guardiamo allo specchio.
Di questi tempi, entrambe le immagini ci portano a credere nella potenza di cosiddette intelligenze artificiali. Ad affidarci a loro. Perché ci illudiamo possano vedere e agire al posto nostro. Perché se non possiamo vedere bellezza in noi, cerchiamo di vederla nella macchina.
Diamo alla macchina un nome splendido per nascondere ogni miseria.
Che fare? Nel mio libro SPLENDORI E MISERIE DELLE INTELLIGENZE ARTIFICIALI propongono una via.
- Usare la macchina con cautela. Senza rinunciare alla nostra storia. Senza cercare una vita al di fuori della natura. Senza cercare nella macchina un sostituto di noi stessi. Senza rinunciare al nostro corpo. Senza considerare la nostra mente separata dal corpo.
- Osservare le miserie e gli splendori delle novità digitali che si riassumono nelle parole 'Intelligenza Artificiale'con lo sguardo dell’essere umano che contribuisce a costruire il mondo che abita. Con lo sguardo del cittadino che, disposto ad assumersi responsabilità, non cessa di porsi domande. Con lo sguardo di ognuno di noi, intento a vivere esperienze.
La saggezza umana sta nell’accettare la situazione, nell’apprendere a leggerla e a viverla. Senza arrendersi però al fato, a ciò che ci è comodo definire inevitabile. La responsabilità consiste nel giudicare, decidere, scegliere, premiare il giusto, punire il malvagio, salvare e guarire: questi umani impegni restano vivi nei tempi digitali. Anche quando può sembrare possibile toglierci dalle spalle ogni peso, affidandolo a macchine.

 

Lettera a Eliezer Yudkowsky

 Eliezer,

è l'alba, mi sono alzato, mi sono messo un maglione, sono andato nel mio studio, ho aperto la finestra, ho spostato lo schermo per vedere dietro il mare e il cielo, sento i gabbiano gracchiare, ne vedo salire un in alto. Passa nel golfo il primo traghetto.

E' tempo di scriverti. Sono mesi che mi propongo di farlo, senza riuscire a trovare il filo, la chiave. Ho accartocciato e buttato nel cestino decine di lettere. Virtualmente, certo, sono quarant'anni che scrivo con il computer -questo Eliezer vuol dire che potrei darti i file di quello che ho scritto. Credo tu sia d'accordo con me nel dire che contano i sessanta e più anni di storia di quel campo di ricerca cui fu attribuito il nome 'intelligenza artificiale'; ma conta ancor più la personale esperienza con questa macchina detta 'computer', strumento nelle nostre mani, ma anche simbolo costantemente presente di una entità aliena che forse si emancipa, che si allontana da noi. Nessun altro mi ha parlato in modo così sottile di questa sensazione. Solo tu. Possiamo chiamarla sensazione o è meglio dire consapevolezza?

Così ho passato questa estate a leggere tuoi testi. Saggi su temi di epistemologia, libri che immagino per ragazzi, lunghi e articolati post su LessWrong. Colgo il tentativo di sintesi nelle tue interviste, i tuoi ultimi video. Ho in mente ora in particolare il tuo colloquio con Lex Fridman e il tuo articolo su Times. La minaccia che senti incombere impone di non andare troppo per il sottile: le Superintelligenze mettono a repentaglio la specie umana. Shut Down. Chiudiamo tutto, interrompiamo la ricerca, smantelliamo le server farm, mettiamo sotto controllo la vendita di ogni singola scheda grafica. Per carità, facciamolo, siamo lontani da una sufficiente comprensione di ciò a cui abbiamo incontro. E poi l'ultima risorsa argomentativa: la citazione della email della tua compagna che parla del dentino caduto della tua figlia. Che futuro avranno questi bambini? Queste macchine lavoreranno al posto loro, condizioneranno la loro vita. Sta andando tutto troppo veloce. Fermiamoci. Facciamolo per loro.

E' facile accantonare la tua posizione dandoti del millenarista, del vano profeta annunciatore di catastrofi. Per questo nei mesi scorsi mi sono messo a rileggere quello che hai scritto. Per immergersi in quella materia che sapevo che c'era. E che prima avevo solo assaggiato. Avvicinato a spizzichi. Mi ci sono immerso ora per cogliere le origini, la storia, il senso di quel pensiero che sfocia adesso nel tuo annuncio della disperata urgenza. Scritti di grande ampiezza e profondità. Un corpus omogeneo e variato, serrato e aperto. Nutrito di discipline diverse, logica, matematica, statistica, ingegneria, biologia: lista provvisoria, che subito tradisce l'insignificanza dei confini disciplinari. Visione senza confini, alimentata dalla tua benedetta distanza da ogni ogni formazione scolastica, accademica, settoriale. Profondità è ampiezza, ti dicevo, un sistema così ben tessuto. Non ti seguo su tutti i fronti, ovviamente, ma colgo, credo, l'armonia, la struttura. Il genio non può che essere autodidatta. Il pensiero va oltre i confini, è trascinato oltre i confini provvisoriamente raggiunti dal suo stesso sviluppo.

Seguo il tuo modo di intendere la teoria bayesiana. Inseguo la tua epistemologia. Mi appoggio però inevitabilmente alle mie letture, alla mia formazione. Non mi faccio bello citando le contiguità che posso immaginare per te immagino abbiano più senso. Cito invece, a costo di gettare la palla lontano dal tuo cesto, forse magari quasi di offenderti, testi ed autori che hanno senso per me. Opere intrinsecamente legate all'autobiografia, generate dal dolore e da una profonda solitudine. La solitudine di chi si sente il solo a vedere. L'Esegesi di Philip Dick. La scrittura lenta e metodica di Juan Emar, scrittura che, da un certo giorno in poi, accompagna ogni giorno della vita. Il tornare e il ritornare di Lezama Lima tramite ondate barocche su ogni dettaglio, ogni anfratto della propria vita, il sogno sempre presente del proprio personale Paradiso, forse non perduto – convocando nel discorso ogni brandello del sapere universale, cornucopia che sparge immagini. Sei anche questo Eliezer, un grande scrittore.

Del testo tu stesso hai scritto da qualche parte -riesco a scriverti ora perché finalmente ho una visione sintetica dei tuoi testi- che bisogna saper narrare. Non solo calcolare. Anche per questo mi permetto di citarti narratori.

Ma più leggo, più il tuo pensiero si apre ai miei occhi, nella sua solida consistenza scientifica e filosofica, nella sua coerenza interna, nel suo rispondere anticipatamente a critiche che potrebbero minarlo.

Così, Eliezer, ho maturato l'intenzione di scriverti. Volevo scriverti per confortarti dicendoti che ti sbagli. In più parti delle mie bozze di lettere non spedite avevo scritto: Eliezer, hai torto marcio; dici che soccomberemo, ma non accadrà. Mi sembrava che la tua definizione di Superintelligenza riprendesse alla lettera la definizione di Turing. Macchine in grado di competere con gli esseri umani in “all purely intellectual fields, dice lui”. “A Superintelligence is something that can beat any human, and the entire human civilization, at all the cognitive tasks”. Non solo in grado di competere, ma battere. Però sempre solo nei cognitive tasks. Mi chiedevo: non è forse riduttiva la tua definizione? Non stai descrivendo invece un attacco che tocca ogni aspetto della vita umana? Avevo scritto anche: hai ragione a metterci in guardia, ma la tua idea di una minaccia così forte, così grave, così imminente, è infondata. La Superintelligenza non ci distruggerà. Non saremo tutti morti. Tua figlia avrà un mondo in cui crescere. Mi sembrava infatti possibile fondare la mia speranza osservando che tu restavi chiuso nella scatola ricorsiva della computazione, senza saper vedere la complessità dei sistemi viventi, la cui descrizione non può che essere subottimale e incompleta. Quindi, accettata la complessità, aperta all'evento, all'imprevisto, all'emergente: come predire la probabile con la sicurezza che mostri?

Ma più procedevo nel mio tentativo di cercare contraddizioni e lacune nella tua posizione, e più mi accanivo a vedere luci di futuro lì dove tu vedi segni di catastrofe, più mi accorgevo della modestia e della vanità del mio tentativo. Modestia, perché sono in grado di seguirti solo parzialmente. Vanità, perché più penso al tuo pensiero, più credo che dobbiamo accoglierlo come dono, come cattedrale in un deserto. C'è così poco di interessante da leggere, così pochi testi veramente stimolanti, visionari. Le tue scritture svettano tra testi aridi, incapaci di cogliere le sfaccettature degli stessi argomenti trattati, viziati da arroganza speculativa, da interessi di parte. Nei tuoi testi si respira invece un'aria rarissima di libertà di pensiero. Se vogliamo vederla, anche di spietatezza, di costante critica nei confronti di te stesso che pensi.

Perché quindi tentare di smontare l'architettura così ben costruita. Prendiamola com'è. Ammiriamo l'edificio, la sua bellezza. Cogliamo il monito, l'insegnamento.

Accetto quello che mi dici, Eliezer. Rischiamo un'apocalissi. Una minaccia pantoclastica incombe su di noi. Se anche la tua posizione potrebbe essere classificata, in base a certi criteri, come millenarista e catastrofista, questa classificazione non le toglie valore. Abbiamo bisogno di profeti che sposino l'annuncio e la denuncia. L'annuncio della Superintelligenza che verrà. La denuncia dei rischi enormi, mai vissuti dalla specie umana prima, che questo avvento comporta.

Io non credo come te all'avvento di Superintelligenze. Ma forse non ci credo perché non so, non capisco abbastanza. Di altri non mi fido. Di te, per la tua onestà personale, per l'atteggiamento etico che ti riconosco, per la struttura ammirevole dei tuoi testi, mi fido. Ti ascolto.

Se quindi ora pongo a me stesso, e a te, qualche domanda, è solo perché voglio capire.

Per farla semplice, parto da una tua narrazione orale. Dal tuo colloquio con Fridman. Ti racconto di una sensazione: una discontinuità nel tuo discorso mi è balzata agli occhi in un punto preciso. Mi è parsa immotivata. Non so cosa non ho capito.

Giustamente citi un certo punto nella conversazione dici: io sono la persona che ha letto da ragazzo Great Mambo Chicken & The Transhuman Condition come tuo libro di fondazione: l'adolescente si nutre del sogno di una scienza potente, capace di forzare i confini, i limiti stessi di ciò che chiamiamo vita. Ma perché ora, quando ti sei dato il compito compito arduo, e in un modo o nell'altro giusto- di convincere i tuoi simili, esseri umani, a non subire passivamente il fato, a intervenire politicamente, attivamente, in prima persona, contro una minaccia epocale, perché citi come libro che tutti dovrebbero leggere, o rileggere Adaption and Natural Selection di George Williams, quel libro del 1966 dove si afferma che l'evoluzione delle specie naturali si svolge a livello di geni. Solo di geni. Geni egoisti di cui l'essere umano è solo ospitante. Sto semplificando, certo, ma mi pare una lettura riduttiva della teoria dell'evoluzione, una teoria che finisce per essere esclusivamente matematica, formalizzata. Faccio fatica, sinceramente, a tenere insieme questo approccio con il tuo atteggiamento personale pienamente umano, consapevole, compassionevole.

Conosci bene, certo meglio di me, questa storia. 1964: Hamilton, The Genetical Evolution of Social Behaviour; Williams, 1966; Robert Trivers, 1971; Maynard Smith e Price, 1973.

Fitness, tradurrei in italiano idoneità: efficienza riproduttiva di un genotipo rispetto agli altri. Il conflitto tra animali diviene oggetto di speculazioni esclusivamente logiche. Scusami ancora per l'esposizione rozza, forse forzata: vince il più idoneo, il più adatto in partenza. L'EES, strategia evolutivamente stabile, desunta da una formalizzazione del conflitto tra falchi e colombe. L'evoluzione ridotta a teoria dei giochi. A ordine di beccata tra polli. Fino alla Sociobiology di Wilson, 1975. La nuova sintesi: ogni specie cerca di riprodursi. Il successo sta nei geni presenti nella generazione successiva. Ogni comportamento sociale è funzionale a questo scopo. L'altruismo, la cura dei giovani, si spiegano con questa pressione biologica. D'accordo, ma tu e la tua compagna siete mossi solo da un automatismo, da una deriva deterministica, quando siete ansiosamente preoccupati per il futuro di vostra figlia? Non so. Non credo.

Forse, Eliezer, questi modelli sono i più fitted, idonei a spiegare e descrivere l'avvento della Superintelligenza, che si eleva dal calcolo, dalla mera computazione. Ma bastano questi modelli per descrivere la complessa vita della natura, dei sistemi viventi? Contano solo i geni, o esiste la possibilità di osservare l'evoluzione a livello di organismi viventi?

Non sto a ricordarti ipotesi neodarwinistiche che conosci meglio di me. Lasciami dire ancora in modo rozzo: certo il genotipo determina il fenotipo. La filogenesi determina l'ontogenesi. Ma la funzione dell'organo non è scritta una volta per tutte nel codice. L'organismo vivente genera risposte necessarie per sopravvivere nell'ambiente. Le piume primordiali garantivano protezione al corpo, e cambiano funzione, divenendo strumenti per il volo. La selezione convive con la mutazione. Non c'è forse eccessiva fede nel potere della selezione naturale come agente ottimizzante? Non converrebbe invece osservare il manifestarsi di storie adattative diverse?

Non si riduce così il ruolo giocato in questo contesto dalla nostra specie? Facciamo parte della natura, ma abbiamo imparato a manipolare la natura, stiamo apprendendo a ri-scrivere il codice della vita. Quindi abbiamo la responsabilità di essere custodi della natura, di cui facciamo parte. Responsabili della cura di noi stessi, della nostra specie, della vita.

Mi provoca una grande malinconia ascoltare amici che parlano di sé stessi come 'intelligenze a base carbonio' che si preparano a convivere con 'intelligenze a base silicio'. Quale aridità! Come se ci si vergognasse di essere umani. Come se si preferisse ignorarlo. Come se, privi di autocoscienza e di fiducia in sé stessi, si preferisse immaginare sé stessi come macchine. Come se si aspettasse la salvezza nell'avvento di una qualche forma di 'intelligenza artificiale'.

Questa credo proprio fosse la speranza di Turing. I hope. Spero che le macchine pensino. Pensino meglio e al posto degli umani. Deluso dagli umani, incapaci di elevarsi oltre il proprio dolore, Turing proiettava la propria salvezza, la visione della propria salute, nel trionfo della macchina. Forse anche tu, Eliezer, quando eri ragazzo, adolescente, la pensavi in questo modo. Preferivi vedere te stesso come macchina. Giustificavi le tue incapacità con limiti della macchina. Turing non ha saputo uscire da questo circolo vizioso. Mentre nel 1950 stava scrivendo l'articolo sulle macchine che pensano, stava scrivendo anche un altro articolo, che aveva per tema la metamorfosi. Non credo fosse un caso. Ma non ce l'ha fatta. Si è tolto la vita. Tu invece Eliezer, guarda che uomo sei diventato. Solo tu sai a costo di quali sofferenze. Ma ce l'hai fatta. Non ti sei fermato a recriminare sui difetti del tuo codice. Non ti sei certo rassegnato ad una storia scritta nei tuoi geni.

Eccoti qui ad ammonirci e a preoccuparti e a prenderti cura. Benvenuta la tua voce a dire: state attenti, la crescente autonomia di cosiddette intelligenze artificiali non è un gioco così facile né così indolore. Guardate ai rischi immani. Leggo in tutte le tue pagine un invito: assumetevi responsabilità, io cerco di assumermi le mie. Ogni cosa che capisco è fonte di responsabilità.

Hamilton, Williams, Trivers, Maynard Smith e Price, Wilson sono stati credo giustamente criticati non solo per intrinseche debolezze delle loro teorie, ma anche per aver offerto una via di fuga psicologica, sociale e politica: la storia e la cultura sono frutto di pressione genetica. I comportamenti sono tempi remotissimi già scritti nel codice genetico della specie. L'essere umano è impotente. La passività e la dipendenza sono giustificate a priori. Non è certo il tuo caso. La tua cara presenza ci accompagna nel tenere gli occhi aperti. Credi ancora, credi sempre in noi esseri umani.

E' questo che mi desta un po' di meraviglia. O forse non capisco. Mi sembra quasi che tutto quello che leggo nelle tue fittissime, geniali pagine, sia in qualche modo superato dal tuo sguardo un po' triste, partecipe, dalla tua attenzione rivolta ai rischi presenti. Come se tutto quello che hai scritto fosse la narrazione di un passaggio, di una transizione, di una emancipazione. Usi codici logico-formali, matematici, computazionali, statistici. Ma mi pare che tu sia andato oltre. Sul terreno di un rischio e di una speranza dove le parole sono superate, i codici che adotti sono inadeguati. In effetti usi i codici e gli argomenti di coloro ai quali ti opponi. Ti opponi ad irresponsabili cultori del progresso - mossi in realtà da interessi personali di denaro, di carriera. Ti opponi ad accelerazionisti che dicono: se l'intelligenza artificiale deve arrivare, facciamola arrivare subito, affidiamoci a lei.

Eliezer, mi sembra alla fine che tu usi apparentemente li stessi codici, gli stessi argomenti di coloro ai quali ti opponi, ma che tu usi in realtà atri codici, umanissimi: codici affettivi, codici narrativi. Certo anche i codici affettivi e narrativi si appoggiano su basi biologiche e matematiche, ma che non parlano ad un agente, ad un ente metafisico: parlano agli esseri umani.

Eliezer, anch'io cerco di fare la mia piccola parte ammonendo, rischiarando per quello che sono capace la scena digitale, al di là dei miti, delle illusioni e degli inganni.

Sento qui il tuo accompagnamento. La tua calorosa vicinanza. Non mi importa tanto sapere se applichi a casi immediati la teoria bayesiana. Non mi importano più di tanto riferimenti e quadri concettuali ai quali ti attieni.

Il fatto è che ti sento vicino quando devo rispondere ad amici che mi dicono: noi umani siamo una specie come tante, siamo nient'altro che organismi viventi. Apparteniamo alla natura come altri animali, come piante, come sassi. E oltretutto siamo meno saggi di altri enti naturali. E' vero. Ma abbiamo sviluppato una potenza che nessun altro ente naturale ha. Ci tocca fare i conti con questa potenza. Decidere quando e come esercitarla, decidere quando fermarci. Se anche aspetti disfunzionali dei sistemi viventi non sono stati causati dall'agire umano, solo l'essere umano dispone degli strumenti e della forza per intervenire, correggere, riassestare, o almeno mitigare.

Ancora più vicino ti sento quando mi trovo a rispondere agli amici che dicono: il nostro futuro sta nel convivere con intelligenze artificiali. Nessuno più di te ha studiato l'argomento.

Così, seguendoti, mi guardo bene dall'escludere la possibilità che questo accada. Può darsi che ci troveremo a convivere con intelligenze autonome, del tutto indipendenti da noi - e anche, come tu supponi enormemente potenti, tanto diverse da rendere difficilissimo il colloquio. In questo scenario quali possibilità abbiamo? Mi pare tu sia d'accordo con me nel considerare che le risposte possibili non stanno nell'imitare la macchina, stanno invece nell'orgoglio della propria storia e della propria specie. Nell'essere umani che non si affidano e non si arrendono.

Esseri umani che scelgono le parole, anche. Giustamente dici che ormai conviene uno usare più la parola singolarità, abusata o mal usata. Altrettanto si può dire delle parole rischio esistenziale. Lasciamo la parola singolarità a Kurzweil. Lasciamo il rischio esistenziale a Bostrom, Tekmark e Elon Musk. Per quanto mi riguarda, prendo con le molle anche il concetto di cognizione. Troppo ambiguo. Credo tu sia d'accordo con me nel considerare mente e corpo inscindibili. Psicosoma. Ebodiments. Embodied mind. Ma lo ripeto: Eliezer, quali che siano le parole che usi, la tua compassione umana ti porta oltre.

E ancora, ti sento vicino nel rispondere agli amici che dicono: la scena digitale è una utile provocazione, ci spinge a migliorarci. Non credo questa posizione sia onesta fino in fondo. In realtà vuole salvare capra e cavoli. Si accetta che una tecnologia dis-umana -una tecnologia contraria all'etica, a ciò che appare a noi umani saggio- definisca la scena, e poi si dice: è comunque un'utile provocazione per noi! Ci stimola a crescere, a cambiare! No amici: come ci dice Eliezer, la scelta saggia -ed efficace dal punto di vista della costruzione del futuro- sta talvolta nel dire no. Nel non seguire l'onda, nel fermarsi.

Insomma Eliezer, ho imparato tanto da te, dalla tua storia di persona che ha saputo cercare sé stesso, e che ora è ansiosamente preoccupato. Siamo diversi per lingua, cultura, per età, per formazione. Ma ti sento vicino. Vorrei dari un piccolo dono, fatto di parole che risuonano mentre ti sto scrivendo.

José Lezama Lima, poeta cubano a me caro, diceva: “Solo lo difícil es estimulante”. Certo è difficile, e per questo stimolante, il compito di cui ti sei fatto carico. Mettere in guardi di fronte al possibile avvento di Superintelligenze. Mettere in guardia, innanzitutto, dall'affidarsi ad esse, subordinando il nostro essere umani a quel fallace rispecchiamento dell'umano che la macchina ci restituisce.

Lezama ha scritto una poesia che inizia con questi versi: “Ah, que tú escapes en el instante/

en el que ya habías alcanzado tu definición mejor”. Mi auguro che tu scappi oltre, altrove, nell'istante in cui ti sembra di aver trovato il miglior schema che ci definisce. Potremmo dire che questo è la computazione: la pretesa di dare di noi stessi, degli altri, della natura, della vita, la definizione migliore. Scappa via, fuggi, dagli schemi già dati. Mi sembra, Eliezer, tu lo faccia sempre.

Trovo consonanti questi versi, scritti nel Ventesimo Secolo, con i versi che scriveva Goethe verso il termine del Diciottesimo Secolo, mentre leggeva Spinoza, e cercava una scienza, lui poeta-scienziato, attenta più che alla quantità, alla qualità, al complesso, all'emergente. Sembrano una novità oggi transumanesimo, e appaiono accattivanti titolo di libri che parlano di Homo Deus. Ma già allora Goethe intitolava la poesia Il Divino. E stava parlando di noi esseri umani, come siamo, come potremmo essere. “Secondo eterne, grandi,/ inflessibili leggi/ tutti dobbiamo/ compiere il cerchio/ della nostra esistenza”. “Eppure, l'uomo soltanto/ può l'impossibile:/ egli distingue,/ giudica e sceglie”. Ecco: la nostra natura e la nostra cultura ci invitano ad assumerci la responsabilità di decidere. Cedere le redini alla macchina è il contrario. “Egli soltanto può

premiare il giusto,/ punire il malvagio;/ salvare e guarire”. Tu Eliezer non stai arrogandoti il ruolo di chi premia e punisce. Ma stai accollandoti il compito di fare quello che puoi per salvare noi umani dalla dipendenza da Superintelligenze. Permettimi di dire che la Superintelligenza è una minaccia reale, ti credo. Ma ancor prima è una metafora della sudditanza scelta come fuga dalla responsabilità. Guarire: la tua storia personale, mi permetto di dire, è la storia di una cura, di una guarigione. Dalla cura di sé stessi nasce la cura per gli altri e per il mondo.

Wilson, con la sua sociobiologia, ha detto qualcosa di nuovo? Non credo. Noi umani replichiamo comportamenti ancestrali, certo. Siamo predeterminati geneticamente. Ma sappiamo anche rinnovarci e cambiare. La tecnica è il frutto della nostra capacità di rinnovarci e cambiare. Ma sappiamo anche cambiare noi stessi: tu Eliezer ne sei la prova. La tua etica non credo si spieghi solo con la genetica.

Tu Eliezer hai definito la Superintelligenza come qualcosa che sconfigge ogni umano e l'intera umana civiltà nei cognitive tasks. Importano poco le definizioni, il lessico dettato da più o meno nuove discipline. Ma andiamo al sodo. Penso di poterti dire che quando parli di cognitive task non fai che ripetere una vecchia lezione. Credo tu sia d'accordo con me nel pensare che a noi umani -non enti astratti, non agenti, ma esseri umani come ci sentiamo di essere tu ed io- compete

distinguere, giudicare, scegliere, premiare il giusto e punire il malvagio. Vogliamo lasciare questo compito a una macchina?

Vogliamo forse ancora -seguendo Turing, e tutto un filone di scienze cognitive, di neuroscienze- considera la mente umana un mero sistema di elaborazione di informazioni? Per quanto mi riguarda, non voglio questo. La tua storia di vita, il tuo sguardo e le tue parole compassionevoli mi dicono che neanche tu, Eliezer, lo vuoi.

Vogliamo lasciare alle macchine spazio per una loro possibile storia evolutiva? Le più nuove macchine digitali sono sistemi predisposti, allenati a cercare correlazioni in sempre più grandi insiemi di dati. Potremmo dire: bene, accompagniamole nel loro sviluppo e lasciamo seguano la loro strada. Ora tu dici: no. Troppo pericoloso. Ti seguo in questo invito a fermarsi, a fermare lo sviluppo di queste macchine.Hai sperato di poterti fidare di una macchina, hai sperato di affidarti a lei, ma ora dici Shut Down. Ti seguo.

Ma ancora più importante, a questo punto, mi pare tornare ad affermare la differenza. Noi umani non ci accontentiamo di correlazioni. Cerchiamo cause. Tu Eliezer parli di correlazioni, di statistica, usi ancora il linguaggio della computazione, va bene, ogni linguaggio è buono. Ma sei andato oltre. Grazie di questo.

Sei l'esempio brillante e commovente di come noi umani non siamo schiavi di nessuna determinazione evolutiva. Tu ci mostri come siamo in grado di andare oltre la nostra stessa programmazione biologica. Ci mostri come l'empatia, la compassione ci portino oltre il nostro stesso linguaggio, oltre la nostra storia. Ci ribelliamo, ci indigniamo, e davanti ad evidenze non rinunciamo a vedere e denunciamo.

Agiamo con il lume dell'umano intelletto. Guidato, più che da una pura ragione, dalla saggezza, e dalla scintilla della coscienza. Non siamo Moral Machines, siamo esseri umani. Coltiviamo noi stessi. Apprendere dalla macchina o tramite la macchina, apprendere dalla convivenza con la macchina, sono solo alcuni degli infiniti modi per apprendere di cui disponiamo.

Perché poi, seguendo il tuo monito, dobbiamo chiederci: non è forse giunto il momento di pensare anche a come cautelarci, a come difenderci, a proteggere noi stessi dall'invasiva, incombente presenza di macchine digitali?

E' così, Eliezer, vero?

Intelligenza Artificiale: benvenuta l'ansiosa preoccupazione. Perciò ascoltate la voce di Eliezer Yudkowsky

Articolo apparso su Agenda Digitale, 12 maggio 2024

Yann LeCun: La gente diventa clinicamente depressa leggendo le tue stronzate.

Eliezer Yudkowsky: Non posso fare a meno di osservare che sei un dipendente di primo piano di... Facebook. Tu hai contribuito a *molteplici* casi di depressione adolescenziale.

LeCun: Piantala, Eliezer. Il tuo allarmismo sta già danneggiando un bel po' di persone. Ti dispiacerà se ci scappa il morto.

Yudkowsky: Se stai spingendo l'Intelligenza Arificiale lungo un percorso che va oltre l'intelligenza umana e verso quella sovrumana, è semplicemente sciocco affermare che non si sta mettendo a rischio la vita di nessuno. E ancora più sciocco è affermare che non ci sono presupposti degni di discussione alla base dell'affermazione che non stai mettendo a rischio la vita di nessuno.

LeCun: Sai, non si può andare in giro a usare argomenti ridicoli per accusare le persone di genocidio anticipato e sperare che non ci siano conseguenze di cui pentirsi. È pericoloso.

Yudkowsky: La mia risposta concreta è che se c'è un asteroide che cade, dire che 'parlare di quell'asteroide che cade deprimerà gli studenti delle scuole medie superiori' non è una buona ragione per non parlare dell'asteroide o addirittura -secondo la mia morale- per *nascondere la verità* agli studenti delle scuole medie superiori.

Questo è, il 23 e 24 aprile, lo scambio su Twitter tra Yann LeCun e Eliezer Yudkowsky. Il primo punto da sottolineare è che qui in Italia gli addetti ai lavori, gli esperti che -parlando in questi giorni di Intelligenza Artificiale, Large Language Model, GPT- spargono la loro illuminata opinione sui media di ogni tipo, citano Yann LeCun, VP & Chief AI Scientist a Meta, come esimia autorità, mentre ignorano del tutto Yudkowsky. Il secondo punto è che però LeCun, nel mentre attacca violentemente le LeCun, lo tratta da pari a pari.

Mi pare che lo scambio sintetizzi bene due posizioni: da un lato l'esperto che innanzitutto difende il territorio, usando tutti i mezzi, se del caso anche il dileggio e la violenza, per escludere dal dibattito chi turba gli equilibri di potere. Si può ben discutere tra addetti ai lavori se firmare o non firmare la lettera sulla moratoria di GPT, ma non si scrive un appello come quello che ha scritto Yudkowsky sul newsmagazine Time, non si vanno a dire in un Podcast molto seguito le cose che ha detto Yudkowsky. I panni si lavano in casa, non si sputa nel piatto dove si mangia.

Sono istintivamente dalla parte di Yudkowsky perché ho vissuto tante volte questa situazione. Quanto volte ho sentito dire: 'questo non lo diciamo agli utenti', 'bisogna spargere fiducia'. La grande maggioranza di coloro che sono impegnati nell'industria digitale -dai computer scientist accademici ai filosofi fiancheggiatori- crede giusto spargere fiducia nell'opinione pubblica, in modo da non condizionare la ricerca. Fidandosi nella speranza che sì, forse ci sarà anche qualche conseguenza negativa, ma alla fine tutto andrà bene.

Per questo sono importanti le voci come quella di Yudkowsy. Nessuno, tra gli addetti ai lavori ed i seminatori di fiducia, può mettere in dubbio la sua competenza. LeCun continua a fare il duro, ma ora molti dei seminatori di fiducia si sono ricreduti. Sono spaventati come Yudkowsky dai rapidi e inattesi miglioramenti di GPT. Dallo spargere fiducia sono passati all'invitare alla cautela. Ma non sanno che pesci prendere.

Yudkowsky non ha dovuto ricredersi. Ci crede da vent'anni all'avvento di macchine dotate di una intelligenza di capacità crescente, del tutto autonoma dagli esseri umani, e da vent'anni dice: il problema è che non abbiamo cinquant'anni per trovare il modo di tenerla a bada, per imparare a convivere con lei. Più tardiamo, più la convivenza diventa difficile.

Di chi non abbiamo motivo di fidarci

Geoffrey Hinton, psicologo cognitivo e computer scientist, uno dei riconosciuti maestri della ricerca ora nell'occhio del ciclone, intervistato nel 2015 dal New Yorker, ammetteva di essere consapevole di come la sua ricerca potesse provocare gravi danni ai cittadini. E allora, gli chiede l'intervistatore, perché continui con le tue ricerche? "Potrei risponderti nei soliti modi", risponde Hinton, ma la verità è che la prospettiva della scoperta è troppo allettante". Racconto di questo nel mio libro Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle, 2020 (pp. 111-112). E' solo uno dei casi che citavo allora e che potremmo citare oggi. Difficile rinunciare al prestigio, al potere, al denaro e soprattutto al brivido della ricerca.

Adesso, l'1 maggio 2023, esce sul New York Times una nuova intervista. Hinton parla di GPT: sistemi che arrivano a formulare ragionamenti e a prendere decisioni che non possono essere previste dai creatori dei programmi, sistemi in grado non solo di generare il proprio codice, ma di eseguirlo da soli. Parla del rischio che la macchina sfugga al controllo dell’uomo. Parla di "autonomous weapons, those killer robots". Per questo ora lascia il suo ruolo a Google.

"Forse quello che sta succedendo in questi sistemi", dice, "è in realtà molto meglio di quello che sta succedendo nel cervello umano". Lo paventava dieci anni fa, ma non denunciato, ha proseguito nella ricerca e nello sviluppo. Non possiamo fidarci di lui. "Guarda com'era la tecnologia cinque anni fa e com'è adesso", aggiunge. “Prendi la differenza e proiettala in avanti. È spaventoso". Se poi davvero non ha colto il trend implicito nelle conseguenze delle ricerche che lui stesso conduceva, a maggior motivo non possiamo fidarci di lui.

LeCun è solo un caso esemplare. Geoffry Hinton è solo un caso esemplare.

Le pubbliche prese di posizione sull'Intelligenza Artificiale di Tegmark, di Bostrom, di Kurzweil, di Elon Musk, e di Sam Altman, CEO di Open AI, come quella di LeCun, e Hinton, e di tutti i nomi illustri di questa scena, sono viziate dalla loro posizione dominante: tutti loro lavorano nell'industria digitale, per tutti loro il denaro ed il successo professionale sono legati all'avanzamento della ricerca nell'Intelligenza Artificiale. Possiamo considerare le loro opinioni libere da interessi di parte? Possiamo considerare le parole da loro rivolte all'opinione pubblica libere da pregiudizi, mosse dall'interesse per il bene comune? Possiamo fidarci, oggi e in futuro, di Geoffry Hinton? Non credo.

Di fronte a temi di enorme rilievo etico e sociale, di fronte a rischi che toccano ogni cittadino, dovremmo credo tener conto dell'atteggiamento personale di chi parla. Vogliamo solo voci che parlano dal pulpito, condizionati, magari involontariamente, dall'arroganza del potere, da interessi materiali, finanziari, dall'appartenenza a comunità professionali e a lobby, o vogliamo ascoltare anche voci critiche?

Nessuno osa mettere in discussione l'autorevolezza di Yudkowsky. Ma c'è di più. A differenza di Elon Musk, Steve Wozniak, Andrew Yang, Jaan Tallinn, Stuart Russell, Max Tegmark, Yuval Noah Harari, Ernie Davis, Gary Marcus, Yoshua Bengio, firmatari della lettera aperta Pause Giant AI Experiments diffusa il 23 marzo dal Future of Life Insitute, Yudkowsky non ha posizioni di potere da difendere. Ha coraggiosamente scelto di non averne.

Ciò che manda in bestia LeCun è che Yudkowsky è convincente. Ma ancor di più è il fatto che Yudkowsky viola quell'implicito patto che lega gli addetti ai lavori: possiamo accettare una qualche cautela, ma la ricerca deve andare avanti, l'industria non deve fermarsi, lo spettacolo deve continuare. LeCun, e tutti gli altri, parlano dalla cattedra, dai luoghi del potere. Hinton, da parte sua, anche parlando dalle colonne del New York Times, a legger bene, non si sta rivolgendo ai cittadini, si sta rivolgendo ai colleghi: nel mentre ritiene impossibile una moratoria sulla ricerca, affida le sue poche speranze a un possibile impegno corale di tutti gli scienziati del mondo.

Perché fidarsi di Yudkowsky

Yudkowsky è indiscutibilmente competente, ma parla come cittadino ad altri cittadini. Non ha nessun interesse da difendere. Parla perché è mosso da una ansiosa preoccupazione. Questo può notarlo ogni cittadino, perché appunto Yudkowsky non comunica solo tramite articoli accademici o interviste con giornalisti inginocchiati. Parla a tutti attraverso il blog LessWrong.

Per fortuna non tutti i computer scientist hanno l'arroganza di LeCun. O l'incoscienza di Hinton. Basta citare Scott Aaronson. Celebrato maestro e precursore del computing quantistico, è autore di un libro che è una pietra miliare : Quantum Computing since Democritus: un libro scritto dieci anni fa, ma ancora attualissimo, in virtù dell'apertura dello sguardo. Se avete anche la curiosità di vedere come si pone rispetto ai temi etici, leggete il suo post sull'Eigenmorality: "A moral person is someone who cooperates with other moral people, and who refuses to cooperate with immoral people".

Come LeCun, Aaronson è tra coloro che non firmano la lettera aperta Pause Giant AI Experiments promossa dal Future of Life Institute. Ma osservate le differenze.

Aaronson ha sempre onestamente criticato la posizione di Yudkowsky, eppure è stimato e rispettato dalla comunità che si raccoglie attorno al blog LessWrong. Un post di LessWrong accoglie infatti come evento importante e promettente, il 18 giungo 2022, la scelta di Aaronson di lasciare la Schlumberger Centennial Chair of Computer Science all'University of Texas, ed il connesso incarico di direttore del Quantum Information Center, per andare a lavorare ad Open AI, allo sviluppo della sicurezza di GPT.

Ora, il 30 marzo 2023, Aaronson spiega, sul suo blog Shtetl-Optimized, la scelta di non firmare la nota lettera. Il post ha per titolo If AI scaling is to be shut down, let it be for a coherent reason. Aaronson ribadisce i motivi del suo disaccordo don Yudkowsky, ma ammette che, se è vero quello che si afferma nella lettera -"AI systems with human-competitive intelligence can pose profound risks to society and humanity"- allora la moratoria proposta dai firmatari della lettera è un insufficiente palliativo.

"Fino alla settimana scorsa stavate ridicolizzando GPT, ed ora con una giravolta dite che potrebbe comportare un rischio esistenziale". "Se GPT è stupido, perché ridimensionarlo per motivi di sicurezza?". "Se il problema è che GPT è davvero troppo intelligente, allora perché non riuscite a dirlo?".

"Ho scritto diversi post spiegando cosa mi separa dall'ortodossia yudkowskyana, ma trovo questa posizione intellettualmente coerente, con conclusioni che discendono chiaramente dalle premesse".

"L'Intelligenza Artificiale è manifestamente diversa da qualsiasi altra tecnologia che gli esseri umani abbiano mai creato, perché potrebbe farci diventare quello che per noi sono gli oranghi".

"L'idea che l'Intelligenza Artificiale ora deve essere trattata con estrema cautela mi sembra tutt'altro che assurda. Non escludo nemmeno la possibilità che l'intelligenza artificiale avanzata possa eventualmente richiedere lo stesso tipo di protezione delle armi nucleari".

Chi è Yudkowsky

Da noi non se ne parla. Ma Yudkowsky è la riconosciuta fonte del pensiero di Tegmark, di Bostrom, di Kurzweil, di Elon Musk, di Sam Altman CEO di Open AI. Il Silicon-Valley-pensiero -Transumanesimo, Singolarità- è in gran parte frutto delle sue geniali riflessioni.

Ho scritto di lui nel mio libro Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle (pp. 225-230). Racconto della sua commovente, sofferta storia di vita. Autodidatta, fin da ragazzo si è guadagnato da vivere scrivendo software. Come Turing elabora la propria insicurezza, la sensazione del proprio disagio, della propria malattia, nella visione dell'emergere dalla macchina di una Intelligenza superiore. Nel 2000, ventunenne, con il modesto sostegno economico di qualche appassionato, fonda il Singularity Institute for Artificial Intelligence. "Crediamo che la creazione di un'intelligenza superiore a quella umana si tradurrebbe in un miglioramento immediato, mondiale e materiale della condizione umana"; "crediamo in un'Intelligenza Artificiale che vada a beneficio dell'umanità": Friendly AI. Yudkowsky cede il marchio del Singularity Institute e del Singularity Summit a Raymond Kurzweil, che trasforma le appassionate visioni di Yudkowsky in cinica occasione di business.

Fino almeno al 2008, Yudkowsky crede nella possibilità di progettare una Friendly AI. Una Intelligenza Artificiale che pur superando in modo forse incommensurabile l'intelligenza umana, resti amichevole nei confronti degli esseri umani. Ma già da ben prima Yudkowsky poneva la questione filosofica che sta al cuore delle diverse prese di posizione di questi giorni. Ridotta all'osso sta nella frase con la quale si presenta su Twitter: "Ours is the era of inadequate AI alignment theory". E aggiunge, a testimonianza della sua ossessione: "Any other facts about this era are relatively unimportant". Possiamo essere d'accordo con Yudkowsky che la minaccia dell'AI non sta nel rischio che essa sia votata al male. La minaccia sta invece nel fatto che la Superintelligenza -se mai esisterà- vivrà la propria vita, perseguirà i propri scopi, imperscrutabili per gli esseri umani. Ci schiaccerà -magari senza volerlo- come noi schiacciamo una formica.

A forza di studiare l'argomento, Yudkowsky è diventato sempre più pessimista. Ora, quaraquattrenne, continua a sostenere -con motivi che una notevole, crescente parte degli addetti ai lavori considera fondati- che un'Intelligenza Artificiale autonoma dall'intelligenza umana si affermerà. Non crede più, però, che l'Intelligenza Artificiale ci salverà. Oggi crede che i tentativi di cercare l'allineamento siano destinati a fallire. Crede, con argomenti che debbono certo essere discussi, ma a cui nessuno nega solidità, che si stia ora superando la soglia critica, il punto di non ritorno, oltre il quale è ormai troppo tardi per far sì che si possa sperare in una Intelligenza Artificiale amica dell'essere umano.

Yudkowsky, con grande sincerità e forza d'animo si è caricata sulle spalle questa missione: mettere in guardia contro il rischio esistenziale implicito nell'Intelligenza Artificiale Generale. O in qualcosa che gli assomigli.

Lettere aperte e articoli mainstream

Accade che in questo mese di aprile 2023, il giorno 13, sia stato reso disponibile un rapporto di ricerca di Sébastien Bubeck, e di altri membri della divisione Ricerca & Sviluppo di Microsoft.

Il testo è stato accolto con brividi di entusiasmo, con malcelato giubilo, da ricercatori, imprenditori, finanziatori. Gli stessi che firmano la lettera del Future of Life Institute non riescono a trattenere l'emozione: l'Artificial General Intelligence, AGI, è vicina! L'evento da tempo atteso -tra i primi a prevedere l'avvento: Yudkowsky- è imminente, o forse è anzi già avvenuto. (Parlo di questo nell'articolo Lettere aperte a proposito dei rischi impliciti nella Chat GPT e nell'Intelligenza Artificiale).

L'emozione traspare già dal titolo Sparks of Artificial General Intelligence: Early experiments with GPT-4. E basta leggere un brano:

L'affermazione centrale del nostro lavoro è che il GPT-4 raggiunge una forma di intelligenza generale, mostrando anzi scintille di intelligenza generale artificiale. Ciò è dimostrato dalle sue capacità mentali di base (come il ragionamento, la creatività e la deduzione), dalla gamma di argomenti su cui ha acquisito competenze (come la letteratura, la medicina e la codifica) e dalla varietà di compiti che è in grado di svolgere (ad esempio, giocare, usare strumenti, spiegarsi, ...). (§10, p. 92).

Bontà loro, Bubeck e soci ammettono: "Resta ancora molto da fare per creare un sistema che possa essere considerato un'intelligenza artificiale completa". Ma sembrano in realtà dire: 'il più è ormai fatto'.

Generative Pre-trained Transformer, GPT: ciò che mostra la ricerca fondata su Deep Learning e Large Language Model è sorprendente. Molti ricercatori che non credevano che fosse questa la via maestra verso l'Intelligenza Artificiale si sono ricreduti. Molti che credevano l'Intelligenza Artificiale Generale fosse una irraggiungibile chimera si stanno ricredendo. Riappare ora sotto il nome di Intelligenza Artificiale Generativa.

Di fronte a queste novità, ci troviamo però immersi in una bolla di pensieri conformisti e superficiali, che pretendono di far fronte ai rischi proponendo temporanee moratorie; o magari affermando che "serve dare un'etica agli algoritmi". Si presenta questa facile soluzione con parole banali, rivolte a cittadini considerati incapaci di ragionare: "È come mettere dei guardrail alla macchina perché non vada fuoristrada". La proposta consiste di fatto nell'istituire comitati etici. Gli autori della proposta, naturalmente, si candidano a far parte dei comitati.

Se crediamo che i rischi siano controllabili, allora lasciamo perdere i comitati etici, e affidiamoci alla speranza che nella comunità professionale dei computer scientist cresca la presenza di ricercatori responsabili, come Aaronson.

Se invece chiamiamo in causa il rischio esistenziale, se cioè supponiamo possa essere vero che GPT mostra barlumi che potrebbero far pensare a una qualche Intelligenza Artificiale Generale -capacità di pensiero e di azione del tutto autonoma dagli esseri umani- allora la moratoria di qualche mese proposta dalla nota lettera aperta è, come dice Aaronson, una risposta insufficiente.

Allineamento Umani-Intelligenze Artificiali secondo Yudkowsky

Si torna così alla posizione di Yudkowsky. Al suo problema dall'allineamento.

Se assumiamo un atteggiamento attendista, tardando ad intervenire o limitandoci a temporanee e parziali moratorie, se non interveniamo ora, bloccando su ogni fronte la ricerca sull'AI generativa, rischiamo di trovarci a dover fronteggiare, in quanto esseri umani, in un momento imprevedibile, ma forse imminente, una AI che pensa in modo incomprensibile a noi umani, ed in grado di agire in modo del tutto autonomo da noi umani.

Yudkowsky dice: a quel punto avremo il problema di far accettare il punto di vista umano alla Superintelligenza, e di guadagnare il rispetto della Superintelligenza.

Yudkowsky sostiene che a quel punto avremo un solo colpo in canna. Si tratta in fondo di una rivisitazione della Mutual Assured Distruction, dottrina strategica che presiede al cosiddetto 'equilibrio del terrore' determinato dalla disponibilità di armi nucleari. L'equilibrio sta nel fatto che l'uso di armi nucleari da parte di un aggressore su un difensore dotato delle stesse armi e di capacità di secondo colpo provoca il completo annientamento sia dell'aggressore che del difensore. Nel caso del confronto tra umani e Intelligenze Artificiali è diverso, perché non si tratta di soggetti reciprocamente conosciuti, comparabili e dotati di uguale potenza. L'ipotesi di Yudkowsky, e degli stessi firmatari della lettera aperta, è di trovarsi di fronte ad una potenza immane e sconosciuta. Il questo contesto, insiste Yudkowsky, l'equilibrio garantito dalla possibilità del secondo colpo viene meno.

Se il nostro tentativo di far comprendere alla Superintelligenza la nostra posizione fallirà, la Superintelligenza reagirà, e a quel punto saremo tutti morti: non per cattiveria della Superintelligenza, ma perché saremo per lei un moscerino o una qualsiasi irrilevante cosa.

Yudkowsky sostiene che le probabilità di non sbagliare il primo colpo sono troppo basse per accettare il rischio. Per questo dobbiamo fermare lo sviluppo prima che la Superintelligenza raggiunga una sua autonomia.

Yudkowsky ha una schiera di seguaci che possiamo definire fondamentalisti. E' ovviamente giusto tenersi lontani da fondamentalismo, catastrofismo, millenarismo. E' giusto chiamare in causa una profonda riflessione etico-filosofica, orientata alla cautela. E' giusto chiamare in causa le esperienze maturate nella gestione strategica del rischio nucleare. E' giusto chiamare in causa il metodo scientifico. Ma certo la risposta agli appelli di Yudkowsky non sta nell'arrogante posizione di LeCun. E dobbiamo tener conto di ciò che limita una libera e serena riflessione. C'è un enorme pressione esercitata dagli interessi in gioco. La comunità scientifica vuole spazio libero per la ricerca. Gli ingentissimi investimenti finanziari attendono un ritorno. Le potenze geopolitiche considerano necessario primeggiare in questo terreno. Si cercano così, in realtà, motivi per non fermarsi.

Vale la pena di ricorrere ancora ad Aaronson: comprende e rispetta la posizione di Yudkowsky, pur avendone una diversa. Si chiede: dove sta il limite? In un post del 16 aprile torna a chiedersi: AI safety: what should actually be done now? "In realtà", scrive, "sono pieno di preoccupazioni. Il problema è solo che, in questo caso, sono anche pieno di metapreoccupazione , cioè la preoccupazione che qualsiasi cosa di cui mi preoccupi si riveli essere la cosa sbagliata".

Diverse posizioni a proposito del rischio esistenziale

I firmatari della lettera aperta del Future of Life Institute, coloro che come Aaronson non l'hanno firmata, i critici radicali come Yudkowsky, tutti concordano sui rischi impliciti nell'Intelligenza Artificiale Generativa. Ricordiamo ancora la frase con cui si apre la lettera: "AI systems with human-competitive intelligence can pose profound risks to society and humanity".

Ma allo stesso tempo è evidente la spasmodica ricerca di motivi per non fermarsi. Due sono gli ordini di motivi che giustificano in non fermarsi.

Il primo è questo: abbiamo buone probabilità, si dice di affrontare i rischi impliciti nell'allineamento tra l'intelligenza umana e quella artificiale. Si sostiene cioè di poter insegnare alle macchine a rispettare gli esseri mani e la natura, la vita.

Esistono due varianti di questa posizione. Entrambe discendono dall'ipotesi di Yudkowsky, che dice: se lasciamo spazio allo sviluppo dell'Intelligenza Artificiale, ci troveremo ad avere una sola possibilità di trovare un equilibrio: se il tentativo che metteremo in campo fallirà, saremo finiti.

Una variante di questa posizione dice: Yudkowsky esagera nel timore. Si scommette insomma che l'Intelligenza Artificiale sia intelligente, ma non troppo.

L'altra variante accetta invece l'ipotesi di Yudkowsky. Ammette che avremo a disposizione una sola opportunità. Ma si confida nel fatto che non falliremo.

Il secondo ordine di motivi per cui si considera giustificato non fermare ora la ricerca nell'Intelligenza Artificiale si fonda sull'affidarsi ad essa. Sostenere che sarà proprio l'Intelligenza Artificiale a salvarci.

Una variante di questa posizione dice: la specie umana è stanca, ha fatto il suo tempo, ha mostrato i suoi gravi limiti e danneggiato il suo stesso ambiente. La sua speranza di vita futura si fonda sull'avvento di una nuova specie. Per l'essere umano, debole e limitato, sarà benvenuto un nuovo dominus e protettore.

Un'altra variante, meno estrema, ribadisce la fiducia nella tecnologia. Di fronte a qualsiasi rischio implicito nello sviluppo tecnologico, si sceglie di porre fiducia nella speranza che dallo stesso sviluppo emergerà una tecnologia che mitigherà o annullerà quel rischio. Si giustifica così l'inazione nel presente rifugiandosi nel futuro. Come scrivo nelle Cinque Leggi: "Si guarda solo al futuro, inteso come tempo nel quale troveranno soluzione tutti gli effetti negativi prodotti nel presente dalla tecnica stessa" (p. 131).

Eccoci così caduti nel paradosso. Chiusi in un circolo vizioso. Gli stessi tecnologi ammoniscono a proposito dei rischi impliciti nelle tecnologie digitali - ma allo stesso tempo sembra inevitabile affidarci a queste tecnologie. Urge una via d'uscita.

Il pressante appello di Yudkowsky

Una possibile via d'uscita nota è considerarci di fronte ad una scommessa. E infatti Yudkowsky, Aaronson e altri, ragionano di calcolo di probabilità e di statistica. Siamo ancora qui, come ai tempi dell'equilibrio del terrore della guerra fredda, ad affidarci alla teoria del giochi: modelli matematici di interazione strategica tra agenti razionali. Ma il futuro della vita può essere affidato ad agenti razionali? Possiamo fidarci del fatto che sia possibile rappresentare tramite modelli la complessità sistemica implicita nella coabitazione tra esseri umani e intelligenze aliene? Le macchine digitali possono essere considerate agenti razionali più efficienti di noi umani. Siamo di fronte ad un nuovo motivo che ci spinge o obbliga a passare la mano?

Prima di farlo abbiamo il diritto e il dovere di chiederci: quale altra via è praticabile?

Forse siamo già andati troppo avanti in questa corsa. La scelta di rispondere al rischio implicito nella corsa col dire: corriamo più veloci, più in avanti, non sembra la più saggia. Ecco, più che alla ragione, sembra conveniente fare appello ad un'altra virtù umana: la saggezza. La saggezza comporta il senso del limite. La scelta di rinunciare al gioco. La scelta di fermarsi.

La lettera aperta del Future of Life Institute -in modo parziale e contraddittorio- e Eliezer Yudkowsky in modo radicale propongono questa via: smettere di giocare. Scrive Eliezer nel suo appello sul Time, 29 marzo:

Shut it all down.

We are not ready. We are not on track to be significantly readier in the foreseeable future. If we go ahead on this everyone will die, including children who did not choose this and did not do anything wrong.

Eliezer non risparmia i dettagli.

Moratoria sul Deep Learning a tempo indeterminato e mondiale. Senza eccezioni, nemmeno per governi o militari. Se gli Stati Uniti prendono questa iniziativa, la Cina vedrà che gli Stati Uniti non cercano un vantaggio, "ma piuttosto cercano di prevenire una tecnologia orribilmente pericolosa che non può avere un vero proprietario e che ucciderà tutti negli Stati Uniti, in Cina e sulla Terra" . "Se avessi la libertà infinita di scrivere leggi, continua Eliezer, potrei ritagliarmi un'unica eccezione per le IA addestrate esclusivamente a risolvere problemi di biologia e biotecnologia, non addestrate su testi raccolti su Internet e non predisposte per parlare o pianificare; "ma se ciò complicasse lontanamente la questione, scarterei immediatamente quella proposta e direi di chiudere tutto".

E continua: "Spegniamo tutti i grandi cluster GPU: le grandi computer farm in cui vengono perfezionate le IA più potenti". "Mettiamo un limite alla quantità di potenza di calcolo che chiunque può utilizzare per addestrare un sistema di Intelligenza Artificiale e spostiamolo via via verso il basso per compensare la crescente efficienza degli algoritmi di addestramento". "Nessuna eccezione per governi e militari". "Fare immediati accordi multinazionali per evitare che le attività proibite si spostino altrove". "Tenere traccia di tutte le GPU vendute".

Se l'intelligence dice che un paese al di fuori dell'accordo sta costruendo un cluster GPU, sii meno spaventato da un conflitto a fuoco tra nazioni che dalla violazione della moratoria; bisogna essere disposti a distruggere un data center canaglia con un attacco aereo.

Dovrà essere esplicitato nella diplomazia internazionale che lo scenario della prevenzione dell'estinzione causata dall'AI è considerato prioritario rispetto alla prevenzione di uno scambio nucleare totale, e che le potenze nucleari sono disposti a correre un certo rischio di scambio nucleare se questo è il necessario per ridurre il rischio implicito nello sviluppo dell'AI.

Yudkowsky esagera? Può darsi. Ma possiamo dire anche che esagerano sul versante opposto coloro che sottovalutano i rischi. Coloro che scientemente, hanno l'abitudine a non uscire dal recinto delle fonti più comode; coloro che si assumono il compito di tranquillizzare; coloro che propongono come soluzioni norme di legge o comitati etici; coloro che dicono: sì, certo, ci sono sfide serie di tipo etico, industriale, aziendale, di accordi globali, ma non minacce fantascientifiche. La parola fantascientifico è usata come clava per picchiare addosso a chi assume posizioni critiche, proprio come la parola luddista.

Anche chi non condividesse il pessimismo di Yudkowsky, farebbe bene ad ascoltare le sue parole: sono l'antidoto alla facile apologia del presente, e di un futuro che scienziati e tecnici pensano, con pericolosa hybris, di saper disegnare con esattezza.

Perché dar ascolto a Yudkowsky

Vedo due importanti ordini di motivi che spingono a dar ascolto a Yudkowsky.

Il primo è ha il coraggio di dire: fermiamoci; se possibile torniamo indietro. Ora, per lo scienziato, per il tecnologo digitale, per lo speculatore finanziario, dire: fermiamoci è una bestemmia. O comunque è una cosa che non si può dire in pubblico. Ho mostrato nell'articolo Lettere aperte a proposito dei rischi impliciti nella Chat GPT e nell'Intelligenza Artificiale, e ho ribadito qui sopra, come la lettera del Future of Life Institute non parli veramente del rallentare la corsa, del fermarsi, dell'invertire la rotta. Tantomeno apre qualche via l'ipocrita lettera proposta dall'Association for the Advancement of Artificial Intelligence.

I computer scientist ed i tecnologi digitali, e con loro l'intera industria digitale, si sono creati l'alibi per esentarsi da ogni orientamento alla sostenibilità. Dicono: gli sviluppi tecnologici ci permetteranno di risolvere ogni problema di sostenibilità. E giustificano così ogni rischio implicito nelle ricerche. Oppure affidano il compito di rallentare la corsa e di non danneggiare gli esseri umani e la vita sulla terra a loro stessi. O si affidano a comitati etici o iniziative legislative.

La radicalità di Yudkowsky è un grande insegnamento. Ci ricorda che di fronte a rischio potenzialmente catastrofali, pantoclastici, non esiste solo la via della mitigazione, della riduzione. Esiste anche la via della rinuncia: ovvero della scelta di non correre il rischio.

Ma c'è un altro, forse più profondo motivo che spinge a dar valore alla sua posizione. Quello che conta non sta tanto o solo in quello che dice, sta sopratutto nel modo in cui lo dice. Ed è contro questo modo di dire che si scaglia indispettito Yann LeCun.

Yudkowsky, che è anche un tecnico finissimo, parla come cittadino. Cittadino tra cittadini, mette le sue conoscenze in mano alla comunità sociale. Chiama -come auspico nelle Cinque Leggi- ogni scienziato ed ogni tecnologo ed ogni esponente dell'élite, a sentirsi innanzitutto un cittadino, e a pensare in quanto cittadino. Cito ancora dal suo appello sul Time:

Le persone sane che sentono parlare per la prima volta di Intelligenza Artificiale Generativa e dicono sensatamente "forse non dovremmo", meritano di sentirsi dire, onestamente, cosa ci vorrebbe perché ciò non accada. Quando la tua domanda politica è così grande, l'unico modo per venirne fuori è che i policymakers si rendano conto che se si comportano come al solito e fanno ciò che è politicamente facile, andrà a finire che anche i loro figli moriranno.

Un conto è parlare attraverso il canone degli articoli scientifici, un conto è parlare in convegni riservati ad addetti ai lavori, un conto è parlare in conferenze rivolte ad un pubblico colto: è il caso della lezione magistrale di LeCun alla Sorbona, un conto è scrivere saggi divulgativi, un conto è parlare ad un pubblico più vasto tramite interviste raccolte da giornalisti.

Ma in tutti questi casi resta un fondamentale aspetto comune: a parlare è un'autorità, l'autorità è un velo che ammanta e che finisce per nascondere. Chi parla e chi ascolta sono separati da una incolmabile distanza.

C'è un modo di parlare diverso da tutti questi. Perciò vi invito a dedicare tre ore a guardare il podcasat, dove Eliezer Yudkowsky conversa da pari a pari con Lex Fridman.

Lex Fridman Podcast #368

Lex Fridman, trentasettenne già ricercatore al MIT nel campo dell'interazione uomo-robot e nell'apprendimento automatico della macchina -due aree disciplinari basilari nella ricerca che porta a GPT- conduce un famoso podcast. Lo potete vedere su YouTube, e su Apple o Google Podcast.

Dice di sé su Instagram: "I am not right wing or left wing. I am a human being who listens, emphatizes, learns, and thinks". C'è naturalmente chi lo odia e fa di tutto per sminuirlo, ma la forza nel podcast sta in due constatazioni: possiamo osservare la lista degli autorevoli personaggi che vi hanno partecipato; e sopratutto possiamo osservare come, senza montaggio o interventi in postproduzione, Fridman e il suo ospite conversano insieme, da pari a pari, guardandosi negli occhi.

Invito dunque tutti a dedicare tre ore a guardare su YouTube la puntata 368 del podcast, pubblicata il 30 marzo: Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization.

Va reso onore a Fridman. Conversa da pari a pari, esponendo il suo punto di vista, lontanissimo dall'atteggiamento del giornalista intervistatore. Contano anche gli sguardi, i gesti, i dubbi e gli inciampi. Le parole usate ed i ritorni su argomenti dei quali non si può fare a meno di parlare. Contano le sottolineature e le elusioni. Ciò che in un articolo scientifico, nella presentazione ad una Conferenze o in una esibizione sul palco di un Ted resta accuratamente nascosto, qui appare agli occhi e alle orecchie del cittadino.

Possiamo così notare le differenze personali tra Yudkowsky e Elon Musk, Raymond Kurzweil, e Sam Altman, Max Tegmark, ospiti di Fridman in puntate precedenti o successive al podcast.

Yudkowsky ridice ciò che possiamo leggere in forma brevissima nell'appello sul Time

o in forma amplissima e variamente dettagliata sul sito LessWrong. Basta qui ricordare

la lista AGI Ruin: A List of Lethalities, pubblicata il 5 giugno 2022: 43 motivi per cui si deve temere che l'allineamento AI- esseri umani non vada a buon fine.

Evito quindi qui di riassumere cosa dice Yudkowsky conversando con Fridman. Non conta quello che dice. Conta come lo dice.

Si fa un gran parlare, nei giorni in cui scrivo, di prompt, e anche di prompt engineering. Possiamo dire in termini molto umani: il modo di porre domande all'oracolo GPT. Si vuole che diventiamo esperti nel colloquiare con la macchina. Si programma la macchina in modo da farla apparire amichevole. Si simula, si tenta di ricostruire tramite software l'empatia che lega gli umani quando parlano tra di loro. Per migliorare in questo senso le prestazioni della macchina, si usano esseri umani. Reinforcement Learning from Human Feedback (RLHF): siamo usati per rendere la macchina più capace di apparirci umana.

Com'è bello invece osservare esseri umani che parlano tra di loro. Ogni cittadino può seguire il colloquio tra Eliezer e Lex, e farsi una propria idea.

Mi limito qui a riportare qualche brano della conclusione, dove il discorso torna vicino allo scambio su Twitter tra Eliezer e LeCun.

Lex chiede: Quale consiglio potresti dare ai giovani delle scuole superiori e dell'università, visto che la posta in gioco è altissima?

Eliezer risponde che intende combattere. Ma ammette che non sa cosa dire ai giovani, ai ragazzi. "Cosa dire loro è un pensiero doloroso". A questo punto non so quasi più come combattere. Spero di sbagliarmi e di poter dare un po' di speranza. Spero di trovare il modo di essere pronto a reagire a questa situazione.

Spero emerga una public outcry, dice. Oucry: voci che si alzano in pubblico, voci di angosciosa preoccupazione, non voci di sterile paura. Pubblica protesta. "Questa è la speranza. Se ci fosse una massiccia indignazione da parte dell'opinione pubblica nella giusta direzione, cosa che non mi aspetto...". "Se ci fosse un'indignazione pubblica tale da far chiudere i cluster di GPU, allora si potrebbe far parte di questa protesta". "Qualche ragazzo delle scuole medie superiori potrebbe essere pronto a farne parte".

Lex allora dice: E' bello che tu dica che speri di sbagliarti, che sei disposto ad accettare una sorpresa positiva, che vada al di là dei tuoi timori. E Eliezer: "Mi sembra una competenza molto, molto elementare per la quale mi stai elogiando. E sai, non sono mai stato capace di accettare i complimenti con gratitudine. Forse dovrei accettare quello che dici con gratitudine. E Eliezer allora: "It's just a matter of being like, yeah, I care. Mi limito a guardare tutte le persone, una per una, fino agli 8 miliardi, e a pensare, questa è vita, questa è vita, questa è vita".

Lex: Elizer, you're an incredible human. È un grande onore. Abbiamo parlato insieme per più di tre ore... (ridendo) perché sono un tuo grande fan. Penso che la tua voce e il tuo pensiero siano molto importanti. Grazie per la battaglia che sta combattendo. Grazie per essere impavido e coraggioso e per tutto quello che fai. Spero che avremo la possibilità di parlare insieme di nuovo. E spero che tu non ti arrenda mai".

Eliezer: "Non c'è di che. Mi preoccupa il fatto che non abbiamo realmente affrontato molte

delle domande fondamentali che le persone si aspettano, ma sai... Forse a qualcosa è servito. Siamo andati un po' più in là del solito, abbiamo fatto un piccolo passo avanti e direi che possiamo essere soddisfatti di questo. Ma in realtà no, penso che potremmo sentirci soddisfatti solo quando avremo risolto l'intero problema".

L'umana comprensione, la reciproca riconoscenza rendono efficaci e promettenti le parole.

Prometeo ed Epimeteo

La parola, il necessario impegno, torna ad ognuno di noi. Ad ogni cittadino. Sia chi svolge il lavoro di tecnologo o scienziato, sia lo studente delle superiori, sia l'abitante di qualsiasi luogo sperduto del pianeta, siamo tutti esseri umani e cittadini. La parola torna a noi. La risposta ai rischi impliciti nell'Intelligenza Artificiale può nascere solo dall'indignazione e dall'impegno civico.

Un dialogo tra persone reciprocamente riconoscenti vale più di mille lezioni. E' confortante scorrere su YouTube i commenti alla conversazione. "Eliezer è una voce incredibilmente toccante in questa discussione e capisco molte delle sue preoccupazioni". "Podcast come questo sono di pubblica utilità. Ci sono immense decisioni scientifiche e tecnologiche che dovremo prendere molto presto come società, meglio non lasciarle a una manciata di scienziati. Essere un vero cittadino al giorno d'oggi implica una conoscenza di argomenti come l'IA o la genetica".

Nel libro Le Cinque Leggi Bronzee mostro come la mitologia greca presentava, in modo ancora oggi efficacissimo, il dilemma che abbiamo di fronte. Prometeo ha un fratello, Epimeteo. (pp. 113, 206).

Per lo scienziato, il tecnologo, può essere difficile fermarsi. Rinunciare. Tornare indietro. Per chi considera sé stesso come essere umano, come cittadino, questo saggio atteggiamento è più facilmente accessibile. L'auspicio dunque è questo: torniamo a sentirci tutti esseri umani, cittadini.

L'essere umano, il cittadino, sa fermarsi: come Prometeo cerca indefessamente il progresso; ma come suo fratello Epimeteo sa anche pensare a cose fatte. Osservare ciò che ha creato, vederne la bellezza, ma anche l'orrore.

Eliezer, Prometeo, vede il rischio esistenziale, un rischio per la specie a cui appartiene e per la natura a cui appartiene. Accetta, anche suo malgrado, la pesante responsabilità: la denuncia è un imperativo etico a cui non si sottrae.

La via per andare oltre il malcelato entusiasmo, da un lato, e d il senso di pericolo e di incertezza, di impotenza, di pessimismo, dall'altro, non sta in comitati etici, norme di legge, o lettere aperte. Sta nell'ascoltare con sincera partecipazione voci autentiche, come quella di Eliezer.

Serve un dibattito pubblico, aperto, liberato da linguaggi tesi ad occultare e umiliare, focalizzato su tre punti. Non rinviare nel tempo: domani può essere troppo tardi. Non sottrarsi dicendo: trovare la soluzione spetta a qualcun altro. Non nascondere il male dietro al bene: ciò che può salvare vite, può allo stesso tempo, o anzi: prima, essere così pericoloso che il gioco non vale la candela.

Lettere aperte a proposito dei rischi impliciti nella Chat GPT e nell'Intelligenza Artificiale in genere: un altro vano giro di valzer. Il Garante italiano risponde inutilmente. Si discetta sui pappagalli. Ma i cittadini restano ancora una volta esclusi dalla discussione

Fine marzo 2023. La lettera aperta del Future of Life Institute Pause Giant AI Experiments, riportata dal Financial Times, è pedestremente ripresa dalla stampa italiana. Elon Musk e altri 1.000 leader della Silicon Valley chiedono di "sospendere lo sviluppo dell’intelligenza artificiale". I firmatari spiegano come "negli ultimi mesi c’è stata una corsa fuori controllo dei laboratori per l’intelligenza artificiale a sviluppare potenti menti digitali che nessuno, neanche i creatori, possono capire, prevedere e controllare".  

Lettere aperte: Future of Life Institute e Association for the Advancement of Artificial Intelligence

"Chiediamo a tutti i laboratori di intelligenza artificiale di fermarsi immediatamente per almeno sei mesi nell’addestrare i sistemai di IA più potenti come GPT-4. La pausa dovrebbe essere pubblica, verificabile e includere tutti. Se non sarà attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria", si legge nella lettera del Future of Life Institute.

Un monito da prendere sul serio? Una presa di posizione veramente nuova? Non sembra.

Come racconto nel mio libro Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle (Guerini e Associati, 2020, pp. 219 e segg.), lo scrivere lettere aperte a proposito dei rischi impliciti nell'Intelligenza Artificiale è uno sport molto diffuso tra tecnici e guru dell'Era Digitale. Così ci si lava la coscienza, poi si può tornare sollevati a chiudersi in laboratorio, senza pensare troppo alle conseguenze delle proprie azioni, senza assumersi reali responsabilità. Si sbandierano assieme il vessillo della preoccupazione per il futuro dell'essere umano e lo stendardo della potente forza implicita nell'Intelligenza Artificiale. Si ripete fino alla noia che l'Intelligenza Artificiale è gravida di buone promesse ma potrebbe anche comportare l'estinzione della specie umana.

Campione della gara delle lettere aperte è proprio il Future of Life Institute. La recente lettera aperta ripete stancamente quella del gennaio 2015, documento di esordio dell'Institute. Mark Tegmark, fisico ansiosamente alla ricerca del grande pubblico, cerca spazio sul ghiotto terreno dell'Intelligenza Artificiale. Eccolo fondare il Future of Life Institute, di cui è tutt'ora presidente. Si susseguono da allora campagne che sostengono l'ovvio. Il trucco consiste nel non prendere partito: vogliamo una AI al contempo roubust and beneficial. 

Questo significa forse mettere un freno alla corse verso l'Intelligenza Artificiale? Non sia mai! Al contrario, "this does not mean a pause on AI development". Sarebbe sbagliatissimo, si legge nella lettera del 2015, rinunciare alla ricerca, perché “i benefici [benefits] sono enormi”. 

“A fronte del grande potenziale dell'AI è importante ricercare il modo di raccogliere i suoi benefici evitando potenziali insidie [pitfalls]”.Ciò che già si leggeva nella lettera del 2015, lo si ritrova pari pari nella lettera del marzo 2023: "AI research and development should be refocused on making today's powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal".

A cosa dovrebbe servire la pausa ora proposta? "I laboratori di intelligenza artificiale e gli esperti indipendenti dovrebbero sfruttare questa pausa per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo avanzati di intelligenza artificiale, rigorosamente verificati e supervisionati da esperti esterni indipendenti". Notare bene: si parla di protocolli stabiliti dagli stessi laboratori impegnati nella ricerca, accompagnati da esperti esterni indipendenti. Tra le righe è facile leggere la risposta ad una domanda: chi sono gli esperti indipendenti? Innanzitutto i ricercatori del Future Of Life Institute! Quale lo scopo dei protocolli? Rendere tutto più robusto. "Robust AI governance systems". "Robust auditing and certification ecosystem". E anche, guarda caso, "robust public funding for technical AI safety research". Cioè: l'industria privata fa cose pericolose, quindi, argomentano Tegmark e amici, merita risorse pubbliche per mitigare i rischi impliciti nei progetti.

Gli interessi economico-finanziari e l'interesse dei tecnici ad avere mano libera vanno a braccetto. Così, anche, si mantiene vivo, ma sotto controllo, lo stesso business della critica ai rischi dell'Intelligenza Artificiale. Chi è il vice-presidente e tesoriere del Future of Life Institute? Meia Chita-Tegmark, moglie di Mark Tegmark. Ora si considera notevole il fatto che tra i primi firmatari della lettera si trovi Elon Musk. Si evitata di ricordare che già all'inizio del 2015 Tegmark, celebrava la “la donazione di 10 milioni di dollari di Elon Musk al Future of Life Institute, che ha contribuito a mettere a disposizione 37 sovvenzioni per gestire un programma di ricerca globale volto a mantenere l'IA benefica per l'umanità”.

Dalla discussione, insomma, è bandita l'ipotesi che l'Intelligenza Artificiale possa veramente essere dannosa. Basta del resto leggere ciò che scrive Tegmark per osservare come considera obiettivo auspicabile per gli stessi esseri umani l'affermarsi di una Superintelligenza non umana. Racconto nelle Cinque Leggi di come Tegmark parli del futuro collocandosi al di fuori della comunità umana, dei cittadini del mondo: scienziato che dall'alto e dal di fuori disegna scenari - per la precisione dodici. Per non compromettersi, non prende esplicitamente partito per nessuno di essi. Ma comunque annuncia qual è il luogo dove il destino degli esseri umani sarà spiegato al volgo: il Future of Life Institute. 

Musk, da parte sua, proprio alla fine del 2015 fonda Open AI, società che ha per scopo sviluppare quell'Intelligenza Artificiale Generale, AGI, che Tegmark chiama Superintelligenza. Proprio Open AI sembra ora, con la Chat GPT, essersi avvicinata ben più di ogni altra impresa all'Intelligenza Artificiale Generale. Come mostro nelle Cinque Leggi, Elon Musk presto cambiò idea, e passò a considerare l'Intelligenza Artificiale Generale "un rischio fondamentale per la civiltà umana". Non va dimenticato che Musk indirizzò allora i suoi investimenti verso un progetto diverso, ma non meno inquietante: connettere tramite sottilissimi filamenti neurali il cervello umano ad un computer.

Ecco comunque ora tutti, impauriti o sorpresi, a firmare la lettera del Future of Life Institute. Ma anche, allo stesso tempo, ansiosamente dediti a provare l'ultima versione della Chat GPT. I tecnici firmatari della lettera invocano "un passo indietro rispetto alla pericolosa corsa verso modelli black-box sempre più grandi e imprevedibili con capacità emergenti". L'invocazione è certo frutto di preoccupazione, ma anche, è lecito supporre, espressione di invidia nei confronti dei colleghi di Open AI. Quasi a dire: la black-box dovrebbe essere aperta a tutti i tecnici, cioè anche anche a noi. La sorpresa di qualcuno di fronte a ciò che la Chat GPT riesce a fare non sembra invece molto motivata. I risultati erano prevedibili. Non c'è niente di nuovo da un punto di vista tecnico, c'è solo il fatto che usando ingenti investimenti e enorme potenza di calcolo si è andati avanti lungo una strada già nota. 

Se questo è vero per la lettera del Future of Life Institute, pubblicata il 23 marzo, è ancor più vero per la lettera dell'Association for the Advancement of Artificial Intelligence, che segue a pochi giorni di distanza, il 5 aprile. Storica società scientifica, l'AAAI si propone come punto di riferimento per la comunità professionale dal 1979. Naturalmente si è data un codice etico: vuoto e non impegnativo, come troppo spesso capita di vedere: basta citare una frase: "the entire computing profession benefits when the ethical decision-making process is accountable to and transparent to all stakeholders". Si può subito notare che l'intento non è portare la comunità professionale ad assumere impegni, l'impegno consiste al contrario nel difendere gli interessi della comunità professionale di fronte a qualsiasi situazione che ne minacci la posizione dominante e lo spazio d'azione. Lo stesso intento appare chiarissimo ora nella lettera aperta Working together on our future  whit  AI. L'incipit ammonisce il popolo: "L'Intelligenza Artificiale sta già arricchendo le nostre vite, spesso in modi non percepiti". "Alimenta i nostri sistemi di navigazione, è utilizzata in migliaia di screening quotidiani di tumori, smista miliardi di lettere del servizio postale". E via dicendo: "ha svelato la struttura di migliaia di proteine", garantisce previsione meteorologiche dettagliate, fornisce idee che stimolano la creatività. "We believe that AI will be increasingly game-changing" in ogni ambito. 

Segue una modesta ammissione: "siamo consapevoli dei limiti e delle preoccupazioni sui progressi dell'Intelligenza Artificiale". Ma subito si rovescia la frittata, dichiarando innocenti i membri della comunità professionale e affermando che dei problemi se ne deve occupare qualcun altro: "Beyond technology, we see opportunities  for work in policy, including efforts with standards, laws, and regulations". Si coglie anche l'occasione per chiedere investimenti pubblici destinati a ricerche sulla valutazione del rischio. 

Per quanto riguarda la comunità professionale, ci si limita a dire che la si incoraggia ad incrementare gli sforzi indirizzati verso la sicurezza e l'affidabilità dell'AI e le sue influenze sulla società. In che modo? Parlandone di più in convegni e workshop "ed altre attività esistenti". Basta dunque aggiungere ai convegni una sezione dove si parli di "short-term and longer term ofAI".

Ciò che si deve quindi sottolineare è che esiste in ogni caso un punto che accomuna l'intera comunità professionale impegnata in un modo o in un altro nel campo della ricerca legata all'Intelligenza Artificiale. Accomuna coloro che mirano ad Intelligenze Artificiali specializzate in un compito e coloro che cercano l'Intelligenza Generale Artificiale. Accomuna i puri tecnici e gli imprenditori. Accomuna i profeti della Digital Disruption e i filosofi fiancheggiatori. Consapevoli tutti di appartenere alla stessa famiglia professionale e di avere interessi in comune da difendere. Tutti infatti appaiono nei fatti d'accordo su un punto: l'importante è che il dibattito, e le decisioni conseguenti, restino in mano alla lobby degli addetti ai lavori. Chi infatti è invitato a firmare queste lettere? Tecnici e scienziati, tecnocrati, imprenditori del settore - che riservano a se stessi l'autorità di decidere come autoregolarsi. Tutto in mano agli 'esperti'! 

C'è motivo di ritenere che le lettere aperte degli esperti servano solo, in un momento in cui si ha di fronte una novità per certi aspetti sorprendente, a rinserrare le fila. E' facile per i tecnici considerare i cittadini non all'altezza di capire ed opinare. A questo scopo si evita ogni trasparenza, si usano gerghi escludenti. Oppure si offre una divulgazione volutamente superficiale, tesa a sollevare entusiasmi e a far apparire tecnofobi e retrogradi coloro che chiamano alla cautela. Si evita, insomma, un autentico dibattito pubblico, dove i cittadini siano messi in condizioni di comprendere e siano convocati a partecipare. Scrivo nelle Cinque Leggi che il primo passo in questa direzione dovrebbero compierlo i tecnici. Cercando la trasparenza nella narrazione del loro lavoro e nella descrizione dei sistemi da loro sviluppati. Ma sopratutto tornando a considerare sé stessi come cittadini. Spogliandosi del proprio potere, potrebbero chiedersi: cosa sto facendo? Comodo invece limitarsi a sottoscrivere lettere aperte.

Scende nell'agone il Garante italiano della Privacy 

Il Garante italiano della Privacy avvia una istruttoria su OpenAI e la Chat GPT. Risultato: l'accesso alla Chat è negato ai cittadini italiani.

Motivi addetti dal Garante: 

OpenAi non ha mai fornito una spiegazione dettagliata su come utilizzerà le informazioni che immagazzina

Il gruppo ha la sua base negli States. Sembra quindi che dati di cittadini europei siano raccolti su database situati fuori dalla comunità europea.

La Chat GPT non verifica l’età dell’utente. Quando in Europa la possibilità che un minore sia esposto ad informazioni 'inidonee' è considerato reato. 

Naturalmente, c'è poi un ragionamento politico-strategico: lo stesso uso della Chat da parte dei cittadini, è fonte di alimentazione delle conoscenze che rendono possibile il funzionamento della Chat. 

Il Garante afferma che la Chat utilizza dati dei quali i cittadini non hanno concesso l'uso. Questo può essere vero. Ma in molti casi, i dati personali che Open AI, come tanti altri grandi operatori digitali, usa, sono legittimati dal fatto che li abbiamo resi pubblici involontariamente noi cittadini non stando attenti alle disclaimer di siti e piattaforme, dove si dichiara che silenzio dell'utente è assenso, e cose simili.

Si può dire che l'atto del Garante appare una censura fondata su interpretazioni formali di norme vigenti. Sul breve termine Open AI accetta la posizione del Garante bloccando il servizio in Italia. Presto troverà il modo di aggiustare il tiro. 

Si possono riconoscere ai difensori civici le buone intenzioni. Ma ogni censura è vana, perdente, specie nei tempi digitali dove i confini nazionali e europei valgono ben poco. I loro interventi non hanno la minima di possibilità di incidere sulle ricerche, sulle strategie e sulle scelte di mercato delle grandi case digitali. 

E ancora, l'intervento del Garante finisce per essere il sostituto di un vero dibattito pubblico. La comunità dei tecnici digitali intanto, nel mentre sparge un po' di lacrime di coccodrillo attraverso qualche lettera aperta, continua, in un modo o nell'altro, ad appropriarsi dei dati dei cittadini per costruire strumenti sempre più potenti per condizionare i cittadini stessi, rendendoli passivi utenti. 

Il fascino della Chat GPT: sottile ed ingannevole

La censura è vana, perdente. Gli argomenti addotti dal Garante sono dubbi. Non si ferma certo così un trend. L'isolamento al quale l'intervento del Garante costringe chi opera nel nostro paese è dannoso. 

Ma il coro di voci che si leva contro il Garante dà da pensare. Possiamo veramente considerarli imparziali nel giudicare? Non credo. Le voci che criticano l'intervento del Garante non sono né indipendenti né disinteressate. Sono vocci di addetti ai lavori personalmente interessati al fatto che la giostra continui a girare e anzi giri sempre più veloce. 

Denunciamo dunque la vanità delle prese di posizione del Garante. Ammettiamo però anche l'ipocrisia implicita in lettere come quella del Future of Life Institute. E ammettiamo anche il fascino pericoloso che esercita su di noi questa Intelligenza Artificiale Generativa. Sia chi ha, sia chi non ha, fiducia nel possibile avvento di una Intelligenza Artificiale Generale, sia chi questa fiducia non ce l'ha, sono affascinati dai risultati raggiunti da Open AI. Tutti passano il tempo a interrogare il nuovo oracolo! Non posso che tornare sugli argomenti espressi nella Confutazione poetica della Chat GPT, pubblicata di recente su questo blog. E non posso fare a meno di ricordare quello che scrivo nelle Cinque Leggi. Mi sembra che tra gli 'esperti' la grande maggioranza si ponga senza troppo ragionare nella scia di Turing, quando, nell'articolo apparso su Mind nel 1950, dice: 'Spero che le macchine pensino'. La seconda delle leggi di cui parlo nel mio libro infatti recita: 'Preferirai la macchina a te stesso'. La quarta: 'Lascerai alla macchina in governo'. Un cittadino dovrebbe, secondo me, preferire sé stesso ad ogni macchina e non lasciare alla macchina il governo. Ma gli 'esperti' invitano invece i cittadini a fidarsi della macchina più che di sé stessi.

Vorrei anche aggiungere una nota strettamente politica. Perché le scelte che ci appaiono meramente scientifiche e tecnologiche, sono in realtà sempre anche scelte politiche. Gli esperti, i tecnologi, posso dire in genere i membri delle élite, possono ben dire che la Chat GPT è mero strumento, tramite il quale scaricarsi i compiti ripetitivi e inutilmente faticosi. 

La Chat, però, lungi dal apparire strumento per aprire alla creatività, appare strumento di dominio a chi vive in condizioni di sudditanza. 

L'élite che magnifica la Chat, e prova soddisfazione nell'usarla, nasconde così a sé stessa il fatto che in un contesto democratico, dove la democrazia non sia ridotta alla versione più banale e comoda del liberismo, l'élite svolge il suo ruolo solo se va oltre il comodo, esclusivo perseguimento dei propri interessi, e si fa carico di creare condizioni affinché ognuno, anche chi proviene da condizioni disagiate, possa giungere ad essere pienamente cittadino, attivo e responsabile. E' però evidente che la Chat GPT è usata al contrario: per imporre risposte ad  ogni domanda, per svilire la ricerca, per costringere chi non appartiene all'élite in una condizione di definitiva sudditanza. Per qualcuno la Chat è un gioco, un divertimento, per altri è strumento di controllo sociale.

Ed in ogni caso, non dimentichiamolo, la Chat GPT è un modo per raccogliere dati e per garantire al sistema nuove informazioni sui comportamenti umani. Più alimentiamo Chat GPT, più ne diventiamo dipendenti.

Agenti, copiloti e pappagalli

Un articolo diffuso in pre-print il 13 aprile è molto citato in questi giorni, a conferma della condivisa speranza degli 'esperti': Sparks of Artificial General Intelligence: Early experiments with GPT-4. Gli autori -Sébastien Bubeck ed altri, lavorano nei laboratori di ricerca di Microsoft, la grande casa cui Open AI è più vicina. "Cosa sta realmente accadendo? Il nostro studio di GP 4 è interamente fenomenologico: ci siamo concentrati sulle cose sorprendenti che GP 4 può fare, ma non affrontiamo le domande fondamentali sul perché e come raggiunge un'intelligenza così straordinaria". Per questo l'articolo piace tantissimo agli addetti ai lavori: propone una entusiastica apologia della nuova tecnologia, eludendo qualsiasi domanda impegnativa, da un punto di vista sia tecnico che da punti di vista sociali, politici ed etici. 

E' la filosofia del lavarsene le mani. La posizione che Bubeck, con una certa ingenuità, ammette, è la posizione generalmente diffusa tra gli addetti ai lavori. Delle conseguenze ci preoccuperemo veramente, se sarà il caso, in futuro. Intanto, firmiamo una lettera - che tanto, lo sappiamo, non bloccherà nessuna ricerca. E semmai il compito di bloccare spetta alla politica. Il business e l'industria devono andare avanti. I finanziatori attendo sempre più alti ritorni dell'investimento. Subito la ricerca deve essere applicata a prodotti.

Non a caso Microsoft, sulla base degli studi che Open AI porta avanti, lancia in questi stessi giorni un nuovo tool della suite Office 365, dal nome emblematico: Copilot. "We spend too much time consumed by the drudgery of work on tasks that zap our time, creativity and energy. To reconnect to the soul of our work, we don’t just need a better way". La better way proposta ad ogni cittadino del pianeta per l'uso del proprio tempo, dei propri personali spazi di libertà, nel lavoro e nella vita quotidiana, sarà indicata dal copilota digitale! 
Satya Nadella, Chairman e CEO di Microsoft, infatti annuncia: “With our new copilot for work, we’re giving people more agency and making technology more accessible through the most universal interface - natural language.” 

More agency: agency è l'ambigua parola che i filosofi digitali sostituiscono a libertà. Infatti nessuno osa tradurre agency con libertà, o neanche con potere, capacità. Si preferisce lasciare la parola in inglese, o avventurarsi nel neologismo agentività. L'espressione vuole affermare l'esistenza di un terreno sul quale appaiono -simili, fungibili, sostituibili l'un l'altro- l'umano e la macchina. La metrica buona per la macchina è per questa via imposta agli umani. La millenaria storia dell'umana ricerca dell'essere, de sé, dello spazio di autonomia, della responsabilità personale, è così comodamente elusa, o anzi rimossa. Anche di questo parlo in modo dettagliato e preoccupato nelle Cinque Leggi.

Microsoft e Open AI, dunque,  ci  dicono che sanno ciò che è bene per ognuno di noi, e ci chiedono di fidarci di loro. Quando scrivo Microsoft e Open AI, possiamo intendere i tecnici di Microsoft e di Open AI, oppure, direttamente la Chat che i tecnici di Microsoft e Open AI hanno creato, Chat dotata di Intelligenza Artificiale che parla agli umani come se a parlarci fosse un umano. Ecco cosa intendo quando dico: cittadini ridotti a utenti. Il concetto di Copilota risulta infatti volutamente ambiguo. Mentre si lascia in apparenza libertà, si dà per scontato che convenga agli umani seguire i suoi  melliflui consigli del Copilota. Mentre prosegue il lavoro di rendere, tramite l'uso di ricerche neuroscientifiche, sempre più difficile agli umani non seguire la via indicata, tramite acconci algoritmi, sui Social Network; mentre diventano più incombenti i 'consigli' che arrivano tramite notifiche, e ora tramite il Copilota. Agli 'esperti' seguaci di Turing piace essere guidati dalla macchina. Forse molti cittadini la pensano diversamente. Ma ora saranno ricondotti sulla retta via.

In realtà, di fronte all'avvento della Chat GPT, qualcuno è tornato a citare un articolo del 2021, di grande interesse, critico e premonitore. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Emily Bender e le altre ricercatrici legate al centro di ricerca di Google, come si sa, hanno pagato cara questa presa di posizione. Non è questa la sede per riprenderne in dettaglio i diversi argomenti. Basta l'attenzione dedicata a mostrare i costi ambientali e finanziari della tecnologia fondata su modelli linguistici linguistici sempre più grandi. Le ricercatrici si chiedono How big is too big? Notano come non conta solo la quantità dei dati, ma anche la loro qualità. Conta anche, da un punto di vista etico, come sono stati raccolti i dati. Non è necessariamente questo -modelli linguistici di dimensioni sempre più grandi- l'unica direzione nella quale dovrebbe muoversi la ricerca, suggeriscono Binder e le coautrici. Ma certo se la gran parte degli investimenti sono rivolti a questo tipo di ricerca, ben poco di differente potrà essere sperimentato. 

Alla riflessione sui dati: la loro quantità e la loro qualità; e all'invito a non trascurare altri indirizzi di ricerca le ricercatrici aggiungono una presa di posizione etica. "Chiediamo di riconoscere che le applicazioni che mirano a imitare [...] gli esseri umani comportano il rischio di danni estremi [extreme harms]. Il lavoro sul comportamento umano sintetico è una linea di confine nello sviluppo dell'AI rispettoso dell'etica, dove "gli effetti a valle devono essere compresi e modellati per bloccare i danni alla società e a diversi gruppi sociali". 

Sui rischi, e sulle necessarie cautele, la lettera aperta del Future of Life Institute non fa che ripetere quello che Bender e le sue colleghe avevano già detto. E comunque, come ho mostrato, la recente lettera dice in realtà che i ricercatori impegnati su questa frontiera non vogliono né fermarsi né cercare altre strade. Si contentano sempre di ribadire la banale affermazione: 'Intelligenza Artificiale robusta e benefica'. Non aggiunge molto la pretesa novità affermata dall'Unione Europea: Intelligenza Artificiale human centered. In ogni caso nessuno vuole davvero mettere limiti alla ricerca.

Di recente, Bender è tornata a far ascoltare la sua voce: "Sento che ci sono troppi sforzi per creare macchine autonome", ha detto. Mentre diminuiscono gli sforzi per "cercare di creare macchine che siano strumenti utili per gli esseri umani". Di fronte agli atteggiamenti di persone con le quali si è trovata a discutere in incontri pubblici, Bender si è sentita obbligata a precisare. "Non ho intenzione di conversare con persone che che non pongono la mia umanità come assioma alla conversazione". Sono infatti molti i tecnici e i filosofi fiancheggiatori che amano ricordare che non conta essere umani o non esserlo. Siamo tutti, alla pari agenti. 

Solo alla luce di questa scelta personale, esistenziale, etica e filosofica si può ben capire il senso del titolo dell'articolo del 2021. Pappagalli stocastici. Bender, consapevole di essere umana, consapevole consapevole di appartenere alla vita sulla terra, ad una storia, consapevole di come il proprio pensiero ed il proprio parlare siano legati al corpo umano, ha molti motivi per dire che la Chat GPT non è che un pappagallo stocastico. Possedendo un solido dominio della sintassi, si esprime in modo correttissimo, e quindi in apparenza convincente. Ma non possedendo capacità semantiche parla come un pappagallo, che imita il linguaggio umano, ma a differenza degli umani non sa quello che dice. 

L'Intelligenza Artificiale Generale è ormai tra noi?

Qui l'opposizione è netta. Da un lato coloro che, nonostante le grandi prestazioni di GPT credono che si tratti di nient'altro che di un pappagallo stocastico. Dall'altro lato coloro che, come Bubeck, ritengono le prestazioni di GPT siano tanto sorprendenti da far pensare che -lo dice già nel titolo: Sparks of Artificial General Intelligence- vi si trovino scintille di Intelligenza Artificiale Generale. "Resta ancora molto da fare per creare un sistema che possa qualificarsi come Intelligenza Artificiale Generale completa", scrive Bubeck. Eppure Bubeck, come tanti esperti, è entusiasta, emozionato, di fronte alle core mental capabilities di GPT. Le elenca con ammirazione: reasoning, creativity, deduction; variety of tasks it is able to perform: playing games, using tools, explaining itself... 

Resta ancora nutrita, potremmo anche dire maggioritaria, la schiera dei ricercatori e dei tecnici che intendono l'Intelligenza Artificiale come capacità applicata a macchine dedicate ad un singolo scopo. Essi non hanno mai creduto all'Intelligenza Artificiale Generale, né ne hanno fatto l'oggetto della propria ricerca. Ma molti di loro in questi giorni si stanno ricredendo. 

Quella Superintelligenza, totalmente autonoma dall'intelligenza umana, a suo modo cosciente, che era stata cercata per settant'anni seguendo altre vie tecnologiche, sembra comunque ora apparire vicinissima a manifestarsi, come frutto del Deep Learning e dei Large Language Model: la si chiama Intelligenza Artificiale Generativa.

Chi ci parla davvero, senza enfasi, dei rischi esistenziali

Retorica e propaganda accompagnano la crescita dell'industria digitale. I tecnici impegnati nella ricerca, spinti dall'ansia di sperimentare, scelgono di sottovalutare le conseguenze dei loro progetti: si limitano a firmare lettere aperte e al fare appello alla politica, che dovrebbe imporre norme e freni. Ma i politici, non sapendo cosa fare di fronte a ricerche di cui non capiscono senso e portata, si affidano a commissioni formate dagli stessi tecnici che rimandano le decisioni alla politica. Da questo circolo vizioso, non possono che nascere norme inefficaci.

Ai tecnici, poi, è stato insegnato che la misura del successo di una ricerca sta nei risultati finanziari generati dalla ricerca stessa. Il legame tra tecnici ricercatori e investitori risulta così ambiguo tanto quanto il legame tra tecnici e politici.

Le voci critiche realmente autonome sono quindi poche. Le poche, vanno sminuite e svalutate. Così accade appunto con l'articolo di Emily Binder e delle altre ricercatrici, On Danger of Stochastic Parrots.

Non solo sono disattesi gli accorati inviti di Binder: mettere un limite alla raccolta dei dati, evitare ricerche orientate . Ma nell'ansia di svalutare l'articolo si punta dritto alla tesi espressa nel titolo. 

Sam Altman, CEO di Open AI, il 4 dicembre 2022,  quattro giorni dopo il rilascio di Chat GPT, scrive in un tweet: "Sono un pappagallo stocastico". Crede di essere ironico. 

Bender risponde: "Le persone vogliono credere così tanto che questi modelli linguistici siano effettivamente intelligenti che sono disposte a prendere se stesse come punto di riferimento e a svalutare questo aspetto per adeguarsi a ciò che il modello linguistico può fare". 

"Vogliono credere": vi colgo un richiamo all'"I hope" di Turing. Specchiarsi nella macchina. Il 'gioco dell'imitazione', di cui parlava Turing nell'articolo del 1950, i seguaci turinghiani l'hanno poi pomposamente definito test di Turing. Turing ridefinisce l'intelligenza ed il pensiero umani, in modo tale da poter arrivare a dire: 'l'intelligenza ed il pensiero corrispondenti alla definizione, si ritrovano nella macchina'. Insomma, torno a dirlo con la seconda delle Cinque Leggi: 'Preferirai la macchina a te stesso'. Prenderai la macchina a modello di te stesso. Il Gemello digitale di ogni entità fisica, anche di ogni essere umano, è un passo in questa direzione.

Ma in realtà, nessuno si ferma. La ricerca prosegue. L'argomento dei pappagalli stocastici viene usato come arma retorica contro Binder. Bubeck osserva emozionato le scintille di Intelligenza Artificiale Generale che traspaiono nei GPT.

Non sappiamo ancora ben immaginare, e tanto meno regolamentare, un mondo in cui quell'intelligenza esiste. Eppure la lettera aperta di Future of Life si apre con una frase precisa: "AI systems with human-competitive intelligence can pose profound risks to society and humanity".Perché non ce ne preoccupiamo in modo serio? Credo che per rispondere a questa domanda, convenga seguire la lezione di Eliezer Yudkowsky. Scrivo di lui nelle Cinque Leggi, p. 225 e seguenti. Da lui viene il pensiero dal quale è nata la lettera aperta di Future of Life. Comunque lo si giudichi, Yudkowsky ha posto vent'anni fa il tema dei rischi esistenziali legati all'Intelligenza Artificiale. E nel corso degli anni è divenuto via via più pessimista. Cosa dice ora Yudkowsky di GPT? Parlo di questo in un articolo pubblicato su Agenda Digitale.

(post scritto il 30 marzo e via aggiornato fino al 4 maggio 2023)