Giannandrea, LeCun e Li godono del pubblico riconoscimento del pubblico che passivamente usa Google e Facebook e WhatsApp, sempre bisognoso di guru. E sono celebrati senza riserve dai docenti e ricercatori universitari di tutto il mondo, che sognano di percorrere la loro stessa carriera.
E' un copione che si ripete. Giannandrea e LeCun non cessano di dire ai cittadini che ci vuole più Intelligenza Artificiale, non meno. Può darsi. Ma possiamo credere loro? Possiamo fidarci di loro?
Giannandrea, LeCun e Li, così come i ricercatori di tutto il mondo che invidiano il loro successo, non possono dirci che la loro ricerca è pura. La loro ricerca è chiaramente asservita ad interessi economici e finanziari. Il valore di Borsa del titolo di Google e Facebook dipende dal loro lavoro. Per questo sono remunerati.
Poi ogni sera anche Giannandrea, LeCun e Li, come tutti i loro colleghi, tornano a casa, e accettano magari di fronte a sé stessi di ammettere gli inganni di Facebook e di Google. Magari anche, come cittadini, si indignano per questo.
Capita che tengano conferenze, scrivano articoli per il vasto pubblico, o rispondano alle domande di un giornalista. Si chiama di solito: 'divulgazione'. Salvo rarissime eccezioni, li si vede, in questi casi, giocare con l'ambiguità. Raccontano in parole povere, con comoda superficialità i contenuti del proprio lavoro, e poi, in coda, mettono in guardia i cittadini di fronte all'invasiva presenza, alla continua sorveglianza esercitata da Google e da Facebook e di simili attori della scena digitale nella vita quotidiana di ognuno.
Doppio standard: uno standard per parlare all'interno della propria famiglia professionale, tra tecnologi. Un altro standard in quanto cittadini, elettori, padri e madri di famiglia.
Fei-Fei Li, giovane ricercatrice cinese, cresciuta all'interno di una minoranza etnica, madre, sembra in apparenza disposta, nelle sue frequenti apparizioni sui mass media, a un atteggiamento critico. Parla volentieri con dovizia di come sia importante annoverare tra chi si dedica al lavoro di ricerca consapevoli esponenti di minoranze sociale e consapevoli madri, con i figli e la famiglia sempre in mente, anche nel tempo di lavoro. Ma si guarda bene dal dirci come questa consapevolezza si manifesta nel lavoro. Si guarda bene dal dirci cosa -memore dell'appartenere a una minoranza e in quanto madre- si rifiuta di fare nel suo lavoro di ricerca.
Doppio standard. Di ciò che si fa come ricercatori si risponde solo di fronte alla comunità dei ricercatori. Ciò che si pensa e si fa in quanto cittadini si ferma sulla soglia del luogo dove si svolge la ricerca. Avremmo bisogno invece di tecnologi e progettisti che, prima di sentirsi tecnologi e progettisti, si sentono cittadini.
Giannandrea, LeCun, Li e tutti i loro
epigoni credono di avere buon gioco appellandosi alla Scienza. Noi,
dichiarano, siamo ricercatori scientifici. E quindi meritiamo di
godere di finanziamenti pubblici o privati alla ricerca, e del
riconoscimento sociale di cui gode lo scienziato.
Ma così facendo ed i loro epigoni capziosamente dimenticano che i ricercatori
scientifici indagano sulla natura. Il loro compito consiste nello
scoprire come funziona la natura, risiede nel portare alla luce le
'leggi della natura'.
Ogni computer scientist,
invece, ed in particolare il computer scientist che agisce nel campo
del Machine Learning, non osserva la natura, ma
pretende invece di creare una nuova natura. Una natura digitale. Il
computer scientist non scopre leggi. Scrive leggi.
Se vogliamo restare sul piano degli
esempi banali, ma giustificati, possiamo dire che la sua
responsabilità ha più punti di contatto con la responsabilità dell'ingegnere che con quella dello scienziato.
Se poi vogliamo accettare Giannandrea, LeCun e Li nella comunità degli scienziati, viene buono ricordare una esemplare vicenda del
Ventesimo Secolo: la ricerca scientifica nel campo della fisica, che
si traduce nella progettazione della bomba atomica e della bomba
all'idrogeno.
La vicenda, grandemente
istruttiva, è nota. Ma purtroppo si sa che la storia della scienza non ha
grande spazio nella formazione degli scienziati in genere; e ancor
meno ne ha nella formazione dei computer scientist.
Basta qui citare in estrema sintesi le
opinioni di due protagonisti: Robert Oppenheimer e Edward
Teller. Sono entrambi scienziati, fisici. In linea di principio la
loro posizione coincide. "If you are a scientist you believe
that it is good to find out how the world works; that it is good to
find out what the realities are", dice Oppenheimer. Il job
dello scienziato, conferma Teller, consiste in "to find out how
these laws operate. It is the scientist's job to find the ways in
which these laws can serve the human will".
Oppenheimer -in
virtù del suo sguardo interdisciplinare, e della sua capacità di
sintesi- si trova ad essere nel 1942 il direttore tecnico del
progetto Manhattan, il cui lavoro porta, nell'estate del 1945, al
lancio delle bombe atomiche su Hiroshima e Nagasaki. Poi, di fronte
all'ancor più distruttiva bomba nucleare, si ferma, scegliendo di
non partecipare al progetto. Al suo posto sta ora Edward Teller, che
sostiene: "it is not the scientist's job to determine whether it
a hydrogen bomb should be used, or how it should be used. This
responsibility rests with the American people and their chosen
representatives".
Ecco qui, pienamente
affermata, la comoda posizione: noi siamo scienziati, non cittadini.
L'essere cittadino di Teller si risolve nell'eleggere qualcuno. Fatto
questo, "back to the laboratories", dove "as a
scientist, I am troubled by other questions, more limited, more
specific, but not less urgent and not less harrassing".
Oppenheimer
argomenta diversamente: "we are not only scientists; we are men,
too". "The value of science must lie in the world of men",
"all our roots lie there". C'è un legame più forte, più
profondo di quello che lega i membri della comunità scientifica, c'è
un deepest bond,
"that bind us to our fellow men". Fellow: 'companion, comrade, partner, one who shares with another', con riferimento a un legame soggiacente. Fellow
men:
io, tu, noi, quale che sia il ruolo professionale, siamo innanzitutto esseri umani; apparteniamo alla comunità degli esseri umani.
Teller aggiunge una
considerazione che appare ovvia: "The scientist is not
responsible for the laws of nature". E' ovvio, appunto, ma si
coglie nelle sue parole il chiamarsi fuori dalla comunità dei
cittadini responsabili. Lo scienziato di Teller ha una doppia
giustificazione al non assumersi responsabilità: perché, chiuso nel
suo laboratorio, lo scienziato pensa di poter dimenticare le
responsabilità del cittadino; e perché, anche nella sua ricerca, è
irresponsabile: le responsabilità sono tutte della natura.
Giannandrea, LeCun e
Fei Fei Li sono lontani da Oppenheimer, e vicini invece a Teller.
Come Teller, giocando la facile partita del doppio standard, si
spogliano delle loro responsabilità di cittadini sulle porte del
laboratorio.
Come Teller
vorrebbero anche loro fare appello alle leggi di natura, per
attribuire ad esse ogni responsabilità. Nel loro caso sostenere
l'assenza di responsabilità per i risultati della ricerca è ancora
più difficile di quanto lo sia per Teller. Loro non scoprono leggi
di natura; creano una nuova natura.
Fonti:
Robert Oppenheimer,
Speech to the Association of Los Alamos
Scientists, Los Alamos, New Mexico,
November 2, 1945.
Edward Teller, Back
to Laboratories, in Bulletin
of Atomic Scientists, VI, 2, 1950, pp.
71-72.