Il doppio standard etico dei guru del Machine Learning

Godono di pubblica ammirazione coloro che si occupano di Machine Learning. Sia coloro che continuano a lavorare in una Università, sia coloro che hanno preso casa a Google, come John Giannandrea, e Fei-Fei Li, o a Facebook, come Yann LeCun.
Giannandrea, LeCun e Li godono del pubblico riconoscimento del pubblico che passivamente usa Google e Facebook e WhatsApp, sempre bisognoso di guru. E sono celebrati senza riserve dai docenti e ricercatori universitari di tutto il mondo, che sognano di percorrere la loro stessa carriera.
E' un copione che si ripete. Giannandrea e LeCun non cessano di dire ai cittadini che ci vuole più Intelligenza Artificiale, non meno. Può darsi. Ma possiamo credere loro? Possiamo fidarci di loro?
Giannandrea, LeCun e Li, così come i ricercatori di tutto il mondo che invidiano il loro successo, non possono dirci che la loro ricerca è pura. La loro ricerca è chiaramente asservita ad interessi economici e finanziari. Il valore di Borsa del titolo di Google e Facebook dipende dal loro lavoro. Per questo sono remunerati.
Poi ogni sera anche Giannandrea, LeCun e Li, come tutti i loro colleghi, tornano a casa, e accettano magari di fronte a sé stessi di ammettere gli inganni di Facebook e di Google. Magari anche, come cittadini, si indignano per questo.
Capita che tengano conferenze, scrivano articoli per il vasto pubblico, o rispondano alle domande di un giornalista. Si chiama di solito: 'divulgazione'. Salvo rarissime eccezioni, li si vede, in questi casi, giocare con l'ambiguità. Raccontano in parole povere, con comoda superficialità i contenuti del  proprio lavoro,  e poi, in coda, mettono in guardia i cittadini di fronte all'invasiva presenza, alla continua sorveglianza esercitata da Google e da Facebook e di simili attori della scena digitale nella vita quotidiana di ognuno.

Doppio standard: uno standard per parlare all'interno della propria famiglia professionale, tra tecnologi. Un altro standard in quanto cittadini, elettori, padri e madri di famiglia.
Fei-Fei Li, giovane ricercatrice cinese, cresciuta all'interno di una minoranza etnica, madre, sembra in apparenza disposta, nelle sue frequenti apparizioni sui mass media, a un atteggiamento critico. Parla volentieri con dovizia di come sia importante annoverare tra chi si dedica  al lavoro di ricerca consapevoli esponenti di minoranze sociale e consapevoli madri, con i figli e la famiglia sempre in mente, anche nel tempo di lavoro. Ma si guarda bene dal dirci come questa consapevolezza si manifesta nel lavoro. Si guarda bene dal dirci cosa -memore dell'appartenere a una minoranza e in quanto madre- si rifiuta di fare nel suo lavoro di ricerca.
Doppio standard. Di ciò che si fa come ricercatori si risponde solo di fronte alla comunità dei ricercatori. Ciò che si pensa e si fa in quanto cittadini si ferma sulla soglia del luogo dove si svolge la ricerca. Avremmo bisogno invece di tecnologi e progettisti che, prima di sentirsi tecnologi e progettisti, si sentono cittadini.

Giannandrea, LeCun, Li e tutti i loro epigoni credono di avere buon gioco appellandosi alla Scienza. Noi, dichiarano, siamo ricercatori scientifici. E quindi meritiamo di godere di finanziamenti pubblici o privati alla ricerca, e del riconoscimento sociale di cui gode lo scienziato.

Ma così facendo  ed i loro epigoni capziosamente dimenticano che i ricercatori scientifici indagano sulla natura. Il loro compito consiste nello scoprire come funziona la natura, risiede nel portare alla luce le 'leggi della natura'.

Ogni computer scientist, invece, ed in particolare il computer scientist che agisce nel campo del Machine Learning, non osserva la natura, ma pretende invece di creare una nuova natura. Una natura digitale. Il computer scientist non scopre leggi. Scrive leggi. 

Se vogliamo restare sul piano degli esempi banali, ma giustificati, possiamo dire che la sua responsabilità ha più punti di contatto con la responsabilità dell'ingegnere che con quella dello scienziato.

Se poi vogliamo accettare Giannandrea, LeCun e Li nella comunità degli scienziati, viene buono ricordare una esemplare vicenda del Ventesimo Secolo: la ricerca scientifica nel campo della fisica, che si traduce nella progettazione della bomba atomica e della bomba all'idrogeno.

La vicenda, grandemente istruttiva, è nota. Ma purtroppo si sa che la storia della scienza non ha grande spazio nella formazione degli scienziati in genere; e ancor meno ne ha nella formazione dei computer scientist.

Basta qui citare in estrema sintesi le opinioni di due protagonisti: Robert Oppenheimer e Edward Teller. Sono entrambi scienziati, fisici. In linea di principio la loro posizione coincide. "If you are a scientist you believe that it is good to find out how the world works; that it is good to find out what the realities are", dice Oppenheimer. Il job dello scienziato, conferma Teller, consiste in "to find out how these laws operate. It is the scientist's job to find the ways in which these laws can serve the human will".

Oppenheimer -in virtù del suo sguardo interdisciplinare, e della sua capacità di sintesi- si trova ad essere nel 1942 il direttore tecnico del progetto Manhattan, il cui lavoro porta, nell'estate del 1945, al lancio delle bombe atomiche su Hiroshima e Nagasaki. Poi, di fronte all'ancor più distruttiva bomba nucleare, si ferma, scegliendo di non partecipare al progetto. Al suo posto sta ora Edward Teller, che sostiene: "it is not the scientist's job to determine whether it a hydrogen bomb should be used, or how it should be used. This responsibility rests with the American people and their chosen representatives".

Ecco qui, pienamente affermata, la comoda posizione: noi siamo scienziati, non cittadini. L'essere cittadino di Teller si risolve nell'eleggere qualcuno. Fatto questo, "back to the laboratories", dove "as a scientist, I am troubled by other questions, more limited, more specific, but not less urgent and not less harrassing".

Oppenheimer argomenta diversamente: "we are not only scientists; we are men, too". "The value of science must lie in the world of men", "all our roots lie there". C'è un legame più forte, più profondo di quello che lega i membri della comunità scientifica, c'è un deepest bond, "that bind us to our fellow men". Fellow: 'companion, comrade, partner, one who shares with another', con riferimento a un legame soggiacente. Fellow men: io, tu, noi, quale che sia il ruolo professionale, siamo innanzitutto esseri umani; apparteniamo alla comunità degli esseri umani.

Teller aggiunge una considerazione che appare ovvia: "The scientist is not responsible for the laws of nature". E' ovvio, appunto, ma si coglie nelle sue parole il chiamarsi fuori dalla comunità dei cittadini responsabili. Lo scienziato di Teller ha una doppia giustificazione al non assumersi responsabilità: perché, chiuso nel suo laboratorio, lo scienziato pensa di poter dimenticare le responsabilità del cittadino; e perché, anche nella sua ricerca, è irresponsabile: le responsabilità sono tutte della natura.

Giannandrea, LeCun e Fei Fei Li sono lontani da Oppenheimer, e vicini invece a Teller. Come Teller, giocando la facile partita del doppio standard, si spogliano delle loro responsabilità di cittadini sulle porte del laboratorio.

Come Teller vorrebbero anche loro fare appello alle leggi di natura, per attribuire ad esse ogni responsabilità. Nel loro caso sostenere l'assenza di responsabilità per i risultati della ricerca è ancora più difficile di quanto lo sia per Teller. Loro non scoprono leggi di natura; creano una nuova natura.

Fonti:

Robert Oppenheimer, Speech to the Association of Los Alamos Scientists, Los Alamos, New Mexico, November 2, 1945.

Edward Teller, Back to Laboratories, in Bulletin of Atomic Scientists, VI, 2, 1950, pp. 71-72.