Rispondo qui all'articolo dell'amico Paolo Costa La GenAI? E' l'orrendo che affascina. Nel mentre ancora lo ringrazio per aver partecipato all'incontro Sanno forse le scatole nere scrivere romanzi?, presso Spazio Vitale, Verona, 15 giugno 2024.
Ho amici che mi dicono: certe cose non vanno dette fuori dalla cerchia degli addetti ai lavori. E aggiungono: quando si parla ai cittadini, conviene evitare aspetti scabrosi, e dedicarsi invece a spargere fiducia; tanto poi, si aggiunge ancora, i 'profani' non sono in grado di capire. E si sa che poi, nel parlare, ci si adatta all'uditorio, al contesto.
Capita così di dire in pubblico che sarebbe meglio non usare nemmeno l'espressione 'intelligenza artificiale', perché impropria e imprecisa. E capita che poi invece scrivendo già nel titolo si prende per buona l'Intelligenza Artificiale Generativa; per poi dilungarsi, nel corso dell'articolo, sulle magnifiche capacità retoriche della Intelligenza Artificiale Generativa stessa.
Per quanto mi riguarda, in ogni occasione e quale che siano gli interlocutori e il pubblico, mi spendo nel tentativo di discutere a fondo ogni affermazione data per scontata. E cerco in ogni situazione mostrare ciò che resta non detto nelle ambigue e imprecise divulgazioni tramite le quali l'Intelligenza Artificiale viene presentata ai cittadini.
Perché non possiamo fare a meno di ricordare un fatto: circola nei media e nei social network ed in ogni dove una sia pur confusa e discordante apologia dell'Intelligenza Artificiale. Questa apologia giova a chiunque opera da professionista nel campo dell'Intelligenza Artificiale - anche a coloro che, di fronte a specifici aspetti di queste tecnologie, mostrano atteggiamenti critici.
E dunque fa comodo in ogni caso creare un'aura di attesa e di pubblico interesse attorno alla cosa detta 'Intelligenza Artificiale'. Non importa se si tratta di un'aura fumosa. In un modo o nell'altro fa comodo educare il popolo a stare in attesa di novità sbalorditive. Se mai si accenna a difetti di questa cosa detta 'Intelligenza Artificiale', sempre si bilancerà parlando dei difetti degli esseri umani.
A questa ormai consolidata prassi comunicativa rispondono gli antropocentristi ingenui svelando trucchi e invitando tutti a tornare con i piedi per terra.
Vengo subito alla conclusione dell'articolo che sono qui a commentare.
dovremmo rinunciare ad assumere una posizione di sdegno, del tutto sterile, per la presunta detronizzazione dell'umano da parte della macchina
Cominciamo col dire che, di fronte a certe tecnologie pensate contro l'essere umano, a danno dell'essere umano, lo sdegno è motivato. Si può notare che per svalutare l'atteggiamento, per connotarlo con una venatura negativa, per intenderlo come gratuito disprezzo, si scrive sdegno e non indignazione. Diciamo dunque che di fronte a diverse tecnologie digitali che abbiamo sotto gli occhi, l'indignazione è del tutto motivata. Perché poi "del tutto sterile"? E' un monito politico. E' come dire: tanto il cittadino non può far nulla. Ogni tecnologia proposta dovrà comunque essere accettata. Lo stesso tono traspare dall'aggettivo presunta, che vuole far pensare ad atteggiamenti eccessivi, non realistici, non corrispondenti ai fatti. E poi la parola detronizzazione, come se gli umani si sentissero seduti indebitamente su un comodo trono. Seduti su un trono sono semmai i tecnologi, i finanziatori che scelgono quali ricerche finanziare, gli attori tutti del mercato dell'offerta di strumenti digitali, che sempre più costringono il cittadino, con ogni nuova proposta, a ridursi ad utente.
Ma in realtà tutto il senso della conclusione ricade sulla frase succcessiva
dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza
Mi chiedo innanzitutto se si abbia chiara nozione del senso della parola ingenuo. Significa "nato all'interno della stirpe, e perciò libero e schietto". Dunque, a scanso di equivoci, mi dichiaro antropocentrista ingenuo. C'è forse da vergognarsi a riconoscersi appartenenti alla stirpe degli esseri umani? Dove sta il difetto in questo riconoscimento? Si può legittimamente supporre che chi si propone di 'decostruire con spirito critico' l'antropocentrismo ingenuo intenda eludere le responsabilità che in quanto essere umano gravano sulle sue spalle. Chi è tacciato di 'antropocentrismo ' non si sente al centro di nulla: semplicemente non scansa le responsabilità che in quanto umano è chiamato ad assumersi. Si può altresì inferire che, per un qualche motivo che i sostenitori di questa decostruzione non sanno spiegare bene, la critica all'antropocentrismo sia il velo che copre l'ansia di poter dire, seguendo Turing: che bello, le macchine sanno pensare! E forse anche: che bello se le macchine tolgono le castagne dal fuoco al posto nostro! Antropocentrista ingenuo, invece, scelgo di assumermi le mie responsabilità di conoscitore delle cose digitali e di cittadino. Parlo come cittadino, come essere umano che guarda negli occhi ogni altro essere umano, e si indigna di fronte all'invito di conoscere sé stesso attraverso il suo gemello digitale.
Sarebbe quindi facile rovesciare l'assunto dicendo 'dovremmo decostruire con spirito critico un intelligenzartifialecialecentrismo ingenuo'. Ma mi sono già appellato al senso profondo, costruttivo, dell'espressione ingenuo. Scarto quindi subito il troppo facile rovesciamento. Passando immediatamente ad argomentazioni più serie.
Il primo argomento che porto è la mia critica alla posizione di un noto filosofo, una delle star della neofilosofia dei tempi digitali. Non ne cito qui il nome, non c'è bisogno di riempire questo mio articoletto di parentesi e di note. Cito invece me stesso. Scrivo su questo mio stesso blog, Dieci chili di perle:
Ci ricorda [questo neofilosofo] che, in quanto persone, abusiamo dei nostri privilegi nei confronti delle cose. E che rimaniamo fissati su una concezione binaria, su due categorie mutuamente esclusive: persona o cosa.
Noi umani, si dice quindi, dobbiamo imparare a mettere in discussione i nostri privilegi, a sviluppare prospettive critiche sui nostri valori, e ad assumerci più pienamente le nostre responsabilità. Anche nei confronti delle cose.
Ma l'asino casca quando si sceglie il portavoce delle cose. Qualcuno sceglie come portavoce delle cose il robot. La responsabilità umana, attraverso questo corto circuito, finisce per consistere nell'affermare e difendere i diritti dei robot.
Riprendo l'argomento a p. 194 e alle pp. 203-204 del mio libro Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, Guerini e Associati, maggio 2024. In entrambi i luoghi, su questo blog e nelle pagine del libro, mi pongo la domanda: di cosa deve farsi paladino l'essere umano per rispondere alla accusa di antropocentrismo? Alla domanda, offro una risposta ben più impegnativa sia del meschino farsi paladino dei diritti dei robot, sia dell'ardimentoso arrampicarsi sui vetri dell'agentività. Per non togliere ai miei pochi lettori il gusto della scoperta, non dico qui quale è la mia risposta. Preferisco rimandare a quanto ho già scritto, nel mio articolo su Dieci chili di perle, e nel mio libro.
Rivendico il diritto di osservare il mondo con lo sguardo dell'essere umano. Rivendico lo spazio d'azione per l'essere-umano artista. Se a un essere-umano-tecnico-ricercatore piace dedicare tempo e risorse a costruire una macchina destinata ad agire in piena auto, se a un essere-umano-esperto-o-addetto-ai-lavori piace il florilegio di elogi alla macchina -come ad esempio: "la macchina catalizza esperienze estetiche all'insegna del sublime"- reagisco in due modi.
Primo, metto in guardia per quello che posso i cittadini, portati dal rispetto per l'autorità a dare credito ai profeti del nuovo e delle magnifiche sorti digitali, ed ai cantori dell'inevitabilità dell'avvento di sempre nuove stupende tecnologie. Dico ai cittadini: osservate la vanità e della pericolosità di questo disegno; fidatevi del vostro giudizio più che dell'opinione degli esperti.
Secondo: mi dedico, e invito ognuno a dedicarsi, a ciò che di più saggio e costruttivo possiamo fare in quanto esseri umani. Pensare ed agire in quanto essere umano.
Risalendo a ritroso nell'articolo, mi soffermo sul fatto che si giunge a sostenere la necessità di decostruire l'antropocentrismo ingenuo chiamando in causa Heidegger. A questo proposito mi limito a dire che mi pare incauto ed arrischiato chiamare in causa il filosofo citando esclusivamente, di tutte le pagine che egli ha scritto, il frutto di una intervista rilasciata a Der Spiegel nel 1966. Personalmente mi sento uno sciocco, avendo dedicato tanto tempo allo studio delle opere e del pensiero del filosofo. Forse non ce n'era bisogno? Ho tentato di studiare, certo con i mei poveri mezzi, sia l'invito di Hieidegger all'esserci e alla cura, e quindi alla responsabilità personale; sia le sue acutissime riflessioni sulla tecnica: la Zuhandenheit in Sein und Zeit, e poi gli articoli sulla tecnica del dopoguerra.
Qualche accenno al pensiero di Heidegger -e alle conseguenze che se ne possono trarre per ragionare sui temi attualissimi- si trova su questo blog.
Per argomentare sulla perdita di centralità dello sguardo umano e sulle capacità retoriche della macchina, e per sostenere che la macchina offre a noi umani uno sguardo inedito sulle cose del mondo, serve almeno qualche base solida. Poca strada ci fanno fare McCormack & Dorin, Miller, Accoto, Floridi, Coleman. Consiglierei di partire dagli articoli sulla tecnica, del dopoguerra , lì da dove Heiddegger dice Indem der Mensch die Technik betreibt, nimmt er am Bestellen als Weise des Entbergens teil.
Sarebbe bene che ognuno leggesse Heidegger per conto suo. Forse questo richiede troppo tempo, impegno, dedizione. Qualcuno potrebbe magari allora trarre qualche spunto di riflessione da articoli che appaiono su questo stesso mio blog. Più utile penso sia il commento allo sviluppo del pensiero di Heidegger a proposito della tecnica che propongo nel capitolo di Macchine per pensare "Forma imposta o continuo presentarsi".
Torniamo alla frase che conclude l'articolo:
dovremmo decostruire con spirito critico un antropocentrismo ingenuo, considerando lo sguardo computazionale sul mondo come un prezioso strumento di conoscenza
Che vuol dire "sguardo computazionale sul mondo"? Su quale definizione di computazione appoggiamo l'affermazione? Ora, non è che possiamo intendere per computazione quello che di volta in volta ci fa comodo.
Ricordiamo brevissimamente il percorso. Cartesio, Leibniz. E poi agli albori del Ventesimo Secolo e dentro il Ventesimo Secolo Frege, il primo Russell, Hilbert. La via alla conoscenza nel mondo sta nel pensiero calcolante.
Accade però che la calcolabilità del tutto sia messa in discussione, nel 1930, da Kurt Gödel. Gödel ci impone di accettare che in ogni teoria matematica esiste una formula che non può essere dimostrata. Dunque, ogni descrizione di un sistema è incompleta. Il puro e perfetto linguaggio universale della scienza sognato da Leibniz non è base sufficiente ed esaustiva per la ricerca scientifica. "Nessun calcolo può decidere un problema filosofico", chiosa Wittgenstein.
Ma ecco che allora subito, sei anni dopo Gödel, interviene Turing tappando la falla. La soluzione, ancora una volta, è logico-formale. Turing propone di sostituire alla calcolabilità la computabilità. Quale è la differenza? Si rinuncia scientemente a cercare e a dar valore ciò che non è calcolabile, contentandosi di ciò che è computabile. Cosa è computabile? E' computabile ciò che può essere "written down by a machine".
La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare.
Ecco intanto una imprecisione da segnalare. E' improprio sostenere che "lo sguardo computazionale sul mondo" possa essere uno "strumento di conoscenza". Potrà tuttalpiù essere uno strumento di informazione. Perché la computazione tratta informazioni, e non ha nulla a che fare con la conoscenza. La conoscenza è qualcosa fuori dalla portata di un qualsiasi agente, e riguarda invece in modo esclusivo l'essere umano.
La computazione vede dunque al lavoro una macchina, non un essere umano. Quindi certo, perché negarlo, una macchina potrà anche generare informazioni che l'essere umano potrà giudicare interessanti. Vogliamo dire, con un linguaggio fiorito, che queste informazioni interessanti, questi dati, ancora tutti da interpretare, forniti da macchine costruite da esseri umani ad esseri umani che usano la macchina, possono essere dette "sguardo inedito sulle cose del mondo"? Se così fosse, sarebbe facile trovarsi d'accordo.
Ma le parole usate per descrivere la scena suggeriscono un diverso atteggiamento. Con più o meno cautele, più o meno distinguo, si vuole affermare, si sente il bisogno di affermare che la bellezza, la ricchezza, sta nell'autonomia della macchina rispetto all'essere umano.
Chi vuole affermare questo lo faccia pure. Ma sarebbe buona cosa lo facesse con chiarezza, con piena onestà, evitando di nascondersi dietro formulazioni ambigue, evitando di proporre narrazioni diverse a seconda del pubblico, evitando di parlare di "utili provocazioni" e di chiamare in causa l'antropocentrismo di chi, semplicemente, non si vergogna di essere umano.
Come mostro nelle Cinque Leggi Bronzee dell'Era Digitale. E perché ci conviene trasgredirle, e poi di nuovo, spero in modo più sintetico, in Splendori e miserie delle intelligenze artificiali. Alla luce dell'umana esperienza, sta qui un passaggio chiave.
Siamo invitati ad accettare come immagine del mondo ciò che è visibile attraverso la computazione. Rinunciando a ciò che la computazione non riesce a vedere. Siamo anche invitati, tramite accurata propaganda, a dimenticare questo originario limite. Nel momento poi in cui si inizia a considerare confrontabili l'intelligenza artificiale -frutto più elevato della computazione- e l'intelligenza umana, i limiti della computazione finiscono per essere imposti a noi umani.
Perché resta aperta una domanda: sostenendo che l'"l'energia retorica della macchina catalizza esperienze estetiche all'insegna del sublime", sostenendo che gli artefatti della macchina "posseggono una forza estetica", siamo sicuri di allargare lo sguardo? Forse lo stiamo invece restringendo. Forse stiamo abituandoci a vedere solo ciò che è possibile vedere alla luce della computazione, rinunciando al più vasto orizzonte che in quanto esseri umani, quando liberi da pastoie digitali, ci è possibile vedere.
"Orrendo che affascina". "Complessa combinazione di gioia e orrore". "Smarrimento che si accompagna al meraviglioso". "Piacere provato al cospetto di un oggetto che trascende il nostro controllo e la nostra comprensione". L'essere umano ha forse paura di questo? Certo che no. Sembra si voglia suggerire che il povero essere umano fugge dall'accettare il sublime che emana dall'Intelligenza Artificiale. La storia umana ci racconta il contrario: la nostra storia è stata un continuo confronto con l'evento inatteso, con l'apparire del sublime. Nelle
Macchine per pensare, e poi ora negli
Splendori e miserie delle intelligenze artificiali ho esplorato a fondo questo argomento."Una sorta di spaventoso che tocca ciò che ci è familiare". "Infido", "fonte di orrore". Pochi hanno studiato questo argomento con la profondità di Sigmund Freud, in
Das Unheimliche. Prendo Freud a mia guida.
Freud parla di come sia difficile per noi umani l’accettare il dunkel, l’oscuro. Eppure, dice, ne siamo capaci. L'essere umano si è confrontato con il sublime lungo l'intero arco della sua storia! Non è certo comparso il sublime sulla scena con l'apparire di una qualche novità tecnologica, detta magari 'Intelligenza Artificiale'!
Accettare ciò che ci appare solo come oscuro presagio. Accettare ciò che la scienza non ha saputo ancora dominare, spiegare. Accettare l’incompletezza di ogni modello. Questa è forza dell'essere umano. Accettare le tenebre del dubbio, della paura, è il punto di partenza per essere umani.
È un atteggiamento faticoso. Esige lavoro su di sé, educazione: imparare ad aver fiducia in se stessi, coltivare l’autostima, cercare scopi significativi ai quali dedicare le energie e verso i quali indirizzare l’azione.
Mostro -in forma più estesa in Macchine per pensare, e in forma più sintetica negli Splendori e miserie delle intelligenze artificiali- come la 'macchina che pensa', poi rinominata Intelligenza Artificiale sia l'invenzione attraverso la quale Turing fugge dal fare personalmente i conti con l'"orrendo che affascina", con il sublime, con la complessa combinazione di gioia ed orrore.
Turing, purtroppo, ha aperto per noi proprio questa strada - o meglio questa meschina scappatoia. Non interrogarsi, ma interrogare la macchina-che-risponde-ad ogni domanda. Non attraversare le tenebre, ma affidarsi alla luce della macchina-che-tutto-illumina.
