Essere umano o macchina. Un dilemma

È troppo facile dire: vogliamo un’Intelligenza Artificiale allo stesso tempo “robusta e benefica”. Di fronte alle implicazioni morali di innovazioni tecnologiche che minacciano la salute collettiva e il futuro del pianeta e il senso stesso della vita, è sconsiderato dire: la libertà di ricerca e l’etica possono andare a braccetto. Non è degno di esseri umani responsabili dire: l’etica consiste nel cercare “il giusto mezzo”. Perché ci sono momenti in cui le scelte si impongono. Giunti al dunque, non si può andare contemporaneamente in due direzioni: si deve scegliere una strada. 

Questo è in fondo l’insegnamento di quell’antica modalità di pensiero che gli antichi greci chiamavano dilemma: scelta tra due contrastanti soluzioni, quando ogni altra via d’uscita sia esclusa. La virtù formativa del dilemma si basa dunque sul togliere spazio agli alibi, alle vie di fuga, ai compromessi. Cercherò di argomentare qui a proposito di un dilemma: uomo o macchina. Forse è anzi meglio dire: essere umano o macchina, per ribadire che è una questione che riguarda ogni persona, non solo i maschi.

Conviviamo con macchine da tempi remotissimi: da quando usiamo l’aratro, il tornio e la fresa. 

La modernità ha portato con sé una significativa novità. Alla fine del Settecento. Sono entrate allora in campo macchine capaci non solo di accompagnare l’uomo nel lavoro, ma di sostituirlo: caso esemplare i telai meccanici governati da schede perforate e mossi dal vapore. Ma la rivoluzione che stiamo vivendo è più radicale. Più drastica. 

Nell’Ottocento, e nella prima metà del Novecento, la macchina accompagnava l’essere umano, lo sostituiva in attività faticose e ripetitive. Oggi siamo alle prese con la cosiddetta trasformazione digitale, il cui senso in fondo si riassume in questo: l’essere umano può essere sostituito dalla macchina in toto, in ogni attività mentale e fisica. Questa, infatti, è la promessa dell’automazione, della robotica, dell’Intelligenza Artificiale. 

È qui che si pone con drammatica evidenza il dilemma, che contrappone essere umano e macchina. Un difficile argomento. Una accurata propaganda tende a far apparire retrogrado, nemico del progresso e dell’innovazione chi prova a leggere in luce critica il passaggio al digitale. 

La narrazione più comune è appunto quella consistente nel sostenere che si può dare al contempo un colpo al cerchio e uno alla botte: un colpo al cerchio dell’etica e un colpo alla botte dell’innovazione senza limite. 

Ma il rigore logico del dilemma ci ricorda che non si può tenere il piede in due scarpe. Ci sono situazioni in cui si deve scegliere. Di fronte al dilemma si sono trovati i ricercatori impegnati nello sviluppo delle armi nucleari. Non dissimile è la situazione dei ricercatori impegnati sul fronte dell’automazione, della robotica e dell’Intelligenza Artificiale. 

Personalmente, sono appassionato esploratore di nuove frontiere tecnologiche. Provengo da una formazione umanistica, ma ho anche lavorato da professionista nel campo dell’informatica. Per tanti anni ho scritto cercando di mostrare gli indiscutibili, non sempre ben compresi, aspetti positivi, delle tecnologie digitali. 

Il personal computer, anche sotto forma, oggi, di smartphone, allarga l’area della coscienza di ogni essere umano; offre nuovi spazi di libertà e di relazione interpersonale. Ma proprio per questo non voglio chiudere gli occhi di fronte alle minacce. 

Oggi il dilemma essere umano-macchina non può e non deve essere eluso. Scrivo di questo in Le Cinque Leggi Bronzee dell’Era Digitale. E perché conviene trasgredirle, Guerini e Associati 2020. Mi limito qui a sottolineare quello che mi pare un passaggio chiave, che nel mio libro cerco di illustrare. 

La tanto celebrata cultura scientifica, tecnica, ingegneristica e matematica, STEM, come si dice con una sigla entrata nell’uso comune, nasconde questo pericoloso risvolto. I tecnici dicono: noi facciamo ricerca, questo è il nostro lavoro, questo è il nostro impegno etico, innovare e ricercare comunque. Delle conseguenze e degli usi delle nostre ricerche, altri dovranno occuparsene: i politici, i cittadini. 

Il tecnico, insomma, si chiude in laboratorio, e qui crea macchine. Il tecnico cessa di sentirsi cittadino. I cittadini così, a loro volta, si trovano costretti nel ruolo di sudditi, o più precisamente di utenti, deprivati di spazi di libertà, obbligati a usare macchine sulla cui costruzione, sui cui scopi nulla hanno potuto dire.

Si torna dunque alla necessità, all’urgenza di una formazione adatta ai tempi. Rivolta ai cittadini e ai lavoratori, tesa a far sì che si affermi un controllo civico, pubblico, diffuso sulla progettazione delle macchine. Rivolta a tecnici, ricercatori, scienziati, tesa a ricordare loro che essi non appartengono ad una casta, a una comunità a parte, ma sono anch’essi niente altro e niente più che esseri umani, e cittadini.

Questo articolo è apparso il 15 settembre 2020 su FormaFuturi, magazine di Asfor e Apaform.