mercoledì 14 settembre 2022

La scintilla della coscienza. Federico Faggin e gli 'esperti' che si sentono traditi da lui

Federico Faggin: se ne parla su tutti i sui quotidiani nazionali in questi giorni, per l'uscita di un suo libro. Sono direttore di MIT Sloan Management Review Italia: gli abbiamo dedicato un'ampia intervista nell'ultimo numero (intervista raccolta 10 giugno scorso). La trovate qui
Agli amici che si dicono delusi dalla svolta spirituale di Faggin, posso dire che la sua non è resa, ma consapevolezza di cosa sia la vita. 
Agli amici che dicono: tutto parte da una molecola di DNA e non c'è 'spirito' in una molecola di DNA, c'è solo codice posso rispondere con la formula da loro stessi normalmente usata: partiamo dal definire i concetti dei quali stiamo discutendo. Definitemi cosa intendete con 'sistema', 'sistema vivente', 'spirito'; definitemi cosa intendete con 'codice'. Controporrò le mie definizioni. Le discuteremo insieme.
Agli amici che dicono che la complessità può essere risolta con sempre più evoluti strumenti tecnici, ricordo i teoremi di incompletezza di Gödel, e ricordo anche che nel mentre strumenti tecnici risolvono problemi, si allarga il nostro sguardo e vediamo nuovi problemi irrisolti. 
Agli amici che credono che tra vent'anni i robot avranno una coscienza, dico che potrebbe anche darsi. Ma la coscienza del robot, se mai ci sarà, non avrà nulla a che fare con la coscienza umana. Di fronte a questa prospettiva, credo, noi umani -tecnici, e semplici cittadini- dovremmo evitare la facile via consistente nel limitarci a credere, o a sperare, che robot o macchine o algoritmi o altre nuove tecnologie risolvano per noi i problemi che non sappiamo risolvere.
Possiamo invece assumerci nel presente responsabilità personali. Faggin: "Ciò che succede a me è in gran parte dovuto alle mie azioni". "Soltanto assumendosi questa responsabilità, che sorge da un bisogno di onestà verso se stessi, da un senso di giustizia e di verità, si potrà avere più consapevolezza. È da questa che nasce la capacità di governo delle macchine. E, quindi, del nostro futuro". "C’è molta differenza tra il lavoro imprenditoriale di chi si limita a sfruttare la tecnologia che esiste e chi investe in ricerca fondamentale che illumina la nostra natura. Una nuova tecnologia è utile, ma la vera trasformazione è cambiare l’idea di chi siamo, perché ciò può trasformare il mondo in meglio per tutti". 
Per quanto mi riguarda, ho cercato di parlare di tutto questo nel libro Le Cinque Leggi Bronzee dell'Era Digitale. E perché conviene trasgredirle.
Lì argomento a proposito sia del concetto di codice, sia di come non si possa comparare la consapevolezza umana con un eventuale raggiungimento di 'consapevolezza' da parte della macchina, sia della 'scintilla della coscienza', che è ciò che contraddistingue l'essere umano.


martedì 6 settembre 2022

Tre posizioni etiche di fronte alle novità digitali

Di fronte alle novità e agli interrogativi che le nuove tecnologie impongono a noi esseri umani, possiamo individuare atteggiamenti necessari. L'educazione civica digitale dovrà preparare ad assumere questa posizione.

Non rinviare nel tempo

Ci dobbiamo preparare ad evitare la più comoda, ma anche la più grave ed irresponsabile, delle vie di fuga.

Non si può ignorare la presenza di ricerche riguardanti temi critici, come -per fare solo due esempi- la sostituzione di ogni lavoro umano o le armi autonome dotate di Intelligenza Artificiale.

E' facile dire: sì, esistono potenziali rischi e problemi, ma non sono così imminenti. E' facile dire: ce ne occuperemo a tempo debito. O peggio dire: se ne occuperanno i nostri nipoti.

Meschina appare l'opinione di chi si consola rinviando nel tempo la questione, considerando che gli effetti più perversi si manifesteranno solo in tempi futuri. Ingenuo e disinformato chi minimizza.

Evitare la sottrazione incrociata

Scienziati e tecnici si sottraggono dal farsi carico dei possibili usi di ciò sperimentano e sviluppo dicendo: a noi compete ricercare e innovare, delle conseguenze dei nuovi ritrovati si deve occupare la politica. Il cittadino si sottrae dicendo a sé stesso: non posso capire, non sono all'altezza. C'è sempre qualcun altro che deve occuparsene; con il risultato che non se ne occupa nessuno.

La responsabilità sociale e l'azione politica nascono sempre dal non rifiutare di assumersi responsabilità personali. Dovremo quindi evitare una seconda via di fuga, consistente nell'attribuire la responsabilità ad un soggetto diverso da noi stessi, quale che sia il nostro ruolo.

Non nascondere il male dietro il bene

Di fronte ad ogni novità tecnologica si potrà sempre facilmente dire: questo ritrovato serve a salvare vite umane. Così è, per fare solo due esempi, per le automobili a guida autonoma come per la connessione tra cervello umano e computer tramite nanofili di silicio.

Dovremo apprendere, tramite l'educazione civica digitale, ad evitare anche questa via di fuga. Chi sostiene che il ritrovato tecnologico è utile a salvare vite umane, sta nascondendo a sé stesso e agli altri che quello stesso ritrovato comporta anche, e spesso in maggior misura, il rischio di danni gravissimi non solo agli esseri umani, ma in senso lato a ciò che chiamiamo 'vita' e 'natura'.

L'educazione civica digitale dovrà quindi fare appello non tanto alla ragione o all'intelligenza, ma a quella umana attitudine che chiamiamo saggezza.

Parlo di questi argomenti nell'articolo Educazione civica digitale: cosa insegnare e perché è necessaria, apparso su Agenda Digitale il 22 aprile 2021.