giovedì 20 giugno 2019

Per una cittadinanza digitale

Il ragionamento che guarda alla cittadinanza digitale può essere articolato a partire da tre parole.
Cittadinanza, partecipazione, digitale.
Partecipazione: il latino particeps è composto da pars e dal tema del verbo capere, 'prendere': partecipe è chi 'prende parte'. Interessante però soffermarci qui su pars, da cui in italiano parte. Pars è nome d'azione del verbo parere, 'produrre', il cui senso sta nel modo di 'produrre' umanamente più ricco: il partus, parto. Siamo portati a considerare la parte come qualcosa di dato, come se all'origine stesse una separazione: se, indicatore di separazione, parere. Ma in l'etimologia ci suggerisce una lettura più profonda. Ogni essere umano è parte, nel senso che è stato partorito. La separazione è solo la separazione del parto. La separazione sociale sta piuttosto nel verbo dividere, dove il senso originario sta nel vid:  'mancante di'. La figura sociale esemplare che ci parla del senso della 'divisione', ovvero della forzata separazione dal corpo sociale è la vedova, colei che è 'mancante di', 'costretta alla separazione'. E' così che la saggezza umana, in qualsiasi cultura, consiglia di preoccuparsi nella reintegrazione nel tessuto sociale delle vedove e degli orfani. Possiamo chiederci come la tecnologia possa sostenerci nel reintegrare nel tessuto sociale chi è costretto alla separazione. La parola device ci parla di questo: dalla consapevolezza della divisione emerge il tentativo di superarla, espressa dal verbo francese diviser, 'divisare'. Di qui l'inglese device.
Cittadinanza: il latino cives, 'cittadino', discende da una radice indoeuropea che sta per 'insediarsi'. L'insediamento è un processo, o meglio è frutto di un passaggio. L'origine sia del migrare che del mutare è ben raccontata dal verbo latino meare: 'passare per una data via'.  Il 'passaggio al digitale' è una migrazione verso una nuova cittadinanza. Importante notare che il cives prende in latino un significato giuridico. Ma il senso originale dell'espressione è più vasto e più profondo. Ne è testimonianza in fatto che dalla stessa radice discendono in sanscrito espressioni che stanno per 'caro'. Dunque la cittadinanza è una relazione tanto giuridica quanto affettiva.
Del senso della parola digitale, ho parlato e scritto in varie occasioni, per esempio qui. In fondo la parola digitale è deludente. Digitale non vuol dire altro che 'numerico'. La parola quindi ci ammonisce, chiamandoci a non ridurre la cognizione di noi stessi a ciò che è visibile tramite 'dati' espressi in numeri. L'umana capacità di conoscere non si riduce al 'pensiero calcolante'.
Nell'intento di guardare alla 'cittadinanza digitale', conviene chiamare in causa anche un'altra parola. Siamo chiamati a vivere su piattaforme, o meglio a vivere in infrastrutture. Meglio usare la parola infrastruttura, più ricca di senso ed istruttiva. Infrastruttura: in origine sta la radice indeuropea ster, che ha il senso di 'stendere'. Da questa radice in greco antico stratos, 'esercito schierato', e strategôs, 'capo dell'esercito'. Questa è quindi anche l'origine di strategia.
Dalla radice ster discende il verbo struere significa in latino 'disporre uno strato sopra l'altro'. Da struo il concetto astratto: structura. Anteponendo il cum, che porta in senso di vicinanza e compiutezza, si ha il verbo construo, da cui costruisco, e quindi costruzione, construction. Ed anteponendo il dis, che sta per separazione, dispersione, si ha il latino destruo, distruggo, e quindi distruzione, destruction. Dal verbo struere, ancora, il latino stratum, da cui anche strada. E' proprio lo strato, dunque, a dirci dell'originario senso della struttura: un continuo tentativo di assestamento, che avviene attraverso il sovrapporre in modo differente gli strati uno sopra l'altro, cambiando ad ognuno la posizione, o aggiungendo o togliendo strati. L'infra rafforza ulteriormente il senso: infra è in origine 'sotto', ma poi sta anche per 'dentro', 'fra', 'all'interno'.
Il rischio che corriamo nel vivere in infrastrutture è  ben rappresentato dalla differenza tra l'essere cittadini ed essere utenti. Se ci limitiamo a vivere in infrastrutture già costruite saremo ridotti a utenti. Saremo cittadini solo se parteciperemo alla costruzione dell'infrastruttura.

sabato 30 marzo 2019

Push vs. Pull. Appunti sulla libertà e sul controllo sociale ai tempi della Rete



Agli albori del nuovo secolo, e del nuovo millennio, la novità digitale trovava nella Rete, o World Wide Web, la sua manifestazione esemplare ed insieme il suo simbolo. Si faceva un gran parlare allora di due possibili modi di intendere la Rete. O meglio: di due diversi atteggiamenti degli esseri umani appetto della Rete. Ovviamente si faceva uso di due termini inglesi: pull e push.
Pull: applicare forza in modo da causare il movimento verso la fonte della forza. Portare a sé. Estrarre, tirar fuori. Forse da un originale senso di sbucciare, sgusciare, raccogliere frutta o fiori.
Push: applicare forza contro qualcosa o qualcuno. Spostare, colpire, guidare, premere, schiacciare. Spingere, imporre.
Pull: la Rete, galassia di fonti, è il luogo da cui l’essere umano può liberamente attingere, mosso dalla propria curiosità, dai propri bisogni e dai propri desideri.
Push: la Rete, sistema più o meno strutturato di informazioni, è la base a partire dalla quale le informazioni saranno saranno trasferite, nel dovuto momento, nella mente e nel corpo di ogni essere umano.

Nel suo primo apparire, l'alternativa Pull vs. Push riguarda il marketing: disciplina nata nel Ventesimo Secolo con l'affermarsi della società dei consumi. Non basta il pull, la libera scelta di acquistare. Serve il push: la domanda di beni e servizi dovrà essere forzata tramite varie forme di rèclame, advertising, propaganda, sempre più specializzate per ambito merceologico, pubblico destinatario, tecnologie adottate. La domanda dovrà essere forzata anche attraverso la sempre più attenta predisposizione di canali e punti di vendita.
Il marketing definisce una figura sociale: il cliente. Il cliens, nell'antica Roma, era il membro di un gruppo sociale bisognoso di protezione. Il verbo cluere e la radice indeuropea retrostante stanno per 'ascoltare', 'ubbidire'. Il cliente, incapace di pull, incapace di soddisfare autonomamente i propri bisogni, vive del push del patronus. Patronus è pater, 'padre', discendono dallo stesso etimo e stanno per 'protettore e nutritore'. Il patronus sceglie a nome del cliens, sa cosa è meglio per lui. Nella logica del push il fornitore impone al cliente ciò che dovranno apparire come i suoi stessi bisogni.

Il marketing sembra trasformarsi, attorno all'Anno Duemila, in Customer Relationship Management. Con l'apparire sulla scena della Rete, i cultori del marketing sembrano convertirsi,. La Rete, secondo le prime entusiastiche letture, pone al centro la persona. Ogni singola persona è un nodo della Rete così come la Ford o la Coca Cola. Sembra cambiare l'ottica: è la persona a scegliere, a eleggere, confrontando offerte dirette, il proprio fornitore. Al posto del cliente sembra così apparire una nuova figura, l'eroe del pull: il customer. Il customer è il libero cittadino visto dal punto di vista del fornitore. Qui il fornitore lascia che sia il cittadino a scegliere. Il fornitore scommette sulla speranza che il cittadino per propria iniziativa, voglia consolidare l'abitudine, la consuetudine, il costume, di acquistare i suoi prodotti e servizi. La scommessa, basata sulla fiducia, va oltre. Si immagina un patto dove fornitore e customer cooperano: il prodotto o servizio sarà, in questa prospettiva, sempre più, frutto di un progetto condiviso dai due attori.
Ma questa epoca d'oro dura poco. Il marketing torna presto al suo originario orientamento al push. Le piattaforme digitali cessano di essere luogo di libera scelta, e passano al contrario ad essere il luogo del più feroce e invasivo push. L'ambiente nel quale il cittadino si trova a vivere, ambiente che è una interamente costruita macchina digitale, orientata al push.
Ciò che è più grave è che si tratta di piattaforme universali, che ogni cittadino sembra obbligato ad usare in ogni momento della propria vita. La pressione prima esercitata per spingere all'acquisto di beni di consumo è, nell'era della digitalizzazione del tutto, esercitata per imporre idee, modi pensare, scelte politiche. Il cittadino è ridotto a utente di servizi imposti. Le piattaforme digitali, per via push, dettano legge.

Già negli Anni Ottanta, quando inizia a crescere la massa di documenti accessibili tramite Internet, Rete che connette tra di loro diversi archivi e documenti conservati in luoghi ed in modi diversi, si fa viva la necessità di indici e sommari e schedature. L'avvento del World Wide Web rende via via più necessario uno strumento che permetta di orientarsi e di scegliere.
Appaiono così, negli Anni Novanta, i search engine, motori di ricerca. Il motore di ricerca è lo strumento principe del pull , la risorsa digitale attraverso la quale l'individuo, il singolo libero cittadino afferma il proprio desiderio di conoscere e di sperimentare.

Ma nel nuovo millennio, nel primo quarto di secolo, il push torna a prevalere sul pull. Lo stesso motore di ricerca è divenuto strumento di push. Nonostante ciò che scriviamo nella finestra di ricerca, le fonti proposte in risposta sono filtrate da una macchina che penalizza l'orientamento alla scoperta, anteponendo alle nostre scelte, scelte sue proprie. La macchina ci riproponendoci qui ed ora ciò che abbiamo cercato in passato, quando eravamo mossi da uno stato d'animo certo diverso da quello che ci muove oggi, quando vivevamo in un momento storico diverso. La macchina, a fronte della nostra domanda, ci propone in risposta ciò che qualcuno -impresa commerciale, lobby, partito politico- intende imporci. La macchina esegue gli interessi di un qualche ente orientato al dominio. La libertà di scelta è conculcata.

Anche le reti sociali sono nate come strumenti pull. Strumenti tesi a potenziare l’umana capacità di entrare in relazione con altri esseri umani. Spazi dove ogni essere umano può esprimere il proprio pensiero. Possiamo osservare come però hanno finito per divenire i più efficaci strumenti push: luoghi dove la manipolazione e la propaganda impongono pensiero unico al popolo inerme.

La facilità d'uso, la riduzione della fatica e dell'impegno personale sono la chiave per trasformare il pull in push. L'essere umano insicuro, in soggezione di fronte ad ogni autorità, ed ogni macchina, accetta di buon grado strumenti che semplificano la vita. L'inevitabile complessità è rimossa. Appare all'essere umano solo ciò che enti interessati al push ritengono opportuno far vedere.
L'esempio più evidente sono gli strumenti digitali che passano sotto il nome di App. Con i loro automatismi ignoti all’utente, con le notifiche che annunciano alla persona ciò che nel progetto dell'app si è previsto che la persona debba vedere e fare, sono lo strumento principe del push.

Dalla parte del pull sta il comportamento dell’essere umano che è cittadino adulto e responsabile e consapevole di sé, fiducioso in sé stesso. La scelta della fonte, e la sua interpretazione, sono azioni personali, così come la scelta del rappresentante in una elezione democratica. Dalla parte del push sta invece l’essere umano ridotto ad indistinto elemento del popolo. Umanità ridotta a massa. Un norma che si vuole ineludibile è spinta nella mente e nel corpo di ogni anonimo componente del popolo. Quel comando, quel senso di rassicurante dipendenza che prima passava attraverso i raduni nazisti o stalinisti, passa ora attraverso le risposte manipolate dei motori di ricerca, attraverso le notizie truccate pubblicate sulle reti sociali da agenti della propaganda nascosti dietro una maschera, attraverso le notifiche emanate dalle App.

Il push è l’arma nelle mani di una classe politica, una élite variegata nelle più diverse posizioni ideologiche, ma unita e solidale nell'esercizio del potere. Il push è arma usata contro i cittadini, e contro il concetto stesso di cittadinanza. Non c’è cittadinanza digitale, non c’è cittadinanza in senso lato se non è rispettata la sfera di autonomia e di privatezza. Se l’essere umano è continuamente osservato e controllato. Il push è, in fondo, la possibilità, garantita dalla tecnica, di penetrare nella sfera privata. Qui il dominio si sposa al controllo: gli stessi strumenti tesi ad imporre comportamenti agli esseri umani, dovranno sorvegliare i comportamenti degli esseri umani.
Un disegno certo non nuovo, agli occhi degli storici, dei cultori delle scienze umane, e sopratutto agli occhi dei letterati, degli artisti, sommi indagatori dell'animo umano. Possiamo ben rileggere la storia come contrasto tra esseri umani: la prevaricazioni di pochi si impone alle moltitudini.
Questo ben noto disegno trae nuova forza dall'inusitata potenza degli strumenti digitali.

domenica 3 marzo 2019

Bitcoin-Blockchain: un avvicinamento storico, politico e culturale. O tracce per un seminario

Molti si occupano oggi di Blockchain. Per quanto mi riguarda, anche in questo caso il mio approccio è storico, politico, culturale.  Satoshi Nakamoto, chiunque egli sia, è l'erede di una duplice ricchezza: un consapevole profondo pensiero politico-economico-sociale e una grande competenza tecnica. La competenza tecnica, da sola, mai avrebbe potuto portare a scelte progettuali così originali.
Questo è il pensiero che mi guida nei seminari che dedico a questo argomento.  Per i tecnici, è molto importante inquadrare la novità nella storia. Per manager e in genere cittadini è importante capire, affinché la novità politica e culturale non sia azzerata da sguardi miopi, esclusivamente tecnici o speculativi.
Di seguito la traccia usata in un seminario. Non tutto risulterà chiaro. Ma credo si coglierà il senso di un percorso. Del resto, è lo stesso percorso di senso che seguo nella Prefazione a Nicola Attico, Blockchain. Guida all’Ecosistema. Tecnologia, Business, Società, Guerini Next, 2018, a cui ho dedicato l'articolo precedente.

1889 Macchina di Hollerith: l'Informatica del Mainframe
Anni 30 IBM in Germania
1936 Turing: Macchina di Turing, Programma
1945 Computer digitale: percorso che porta alla cosiddetta Intelligenza Artificiale
Anni 60 Engelbart, Nelson, Licklider
1970 Nelson: Computer Lib/Dream Machine. Jobs, Gates.
Anni 80 Cyberpunk, Chypherpunk: Manifesti; Gibson, Stephenson; Crittografia- Anonimato contro Oligarchia.
Anni 2000-... Amazon, Google, Facebook, Cloud

Emerson, Nietzsche

2008-... Satoshi Nakamoto. Hal Finney. Nick Szabo: Shelling Out, Smart Contract, Bit Gold

Anonimato
Firma digitale: soluzione parziale
Democrazia dei computer accesi
Peer to Peer: no terze parti garanti; decentramento, non distribuzione
Crittografia asimmetrica: Hellman 1976;  chiave pubblica e chiave privata; firma digitale; no intermediari
Hash, Hashing: insieme di dati qualsiasi trasformato in stringa di lunghezza fissa: Digest o Hash Value
Mining: blocco chiuso da orologio, costo di transazione, numero di transazioni al secondo, Proof come sigillo
Proof of Work vs. Proof of Stake: una scelta politica

Transazioni
Catena e biforcazioni
Blockchain vs. Database
Database: scaffale gestito da terzo dove si mette e si toglie, sempre e solo in posizioni predefinite
Blockchain: archivio storico di transazioni andate a buon fine, immodificabile, disponibile a tutti gli attori, ogni transazione connessa ad ogni altra
Accessibilità e privatezza: si mostra ciò che serve, quando serve, a chi serve

Transazioni
Smart Contract
DAO, Decentralized Autonomous Organization
Nick Szabo vs. Vitalik Buterin

Casi esemplari: Pay Roll, Logistica, Banche

venerdì 11 gennaio 2019

Un avvicinamento alla Blockchain

Questo testo è la Prefazione al libro di Nicola Attico, Blockchain. Guida all'Ecosistema. Tecnologia, Business, Società, Guerini Next, 2018.


Nel momento più acuto della crisi finanziaria -scoppio della bolla immobiliare, crisi dei mutui subprime, fallimento della banca Lehman Brothers- il 31 ottobre 2008 appare sulla Cryptography Mailing List del sito metzdowd.com il paper firmato da Satoshi Nakamoto: Bitcoin: A Peer-to-Peer Electronic Cash System.
Per cogliere il senso dell'evento dobbiamo risalire a venti anni prima. Attorno alle metà del 1988 un gruppo di giovani programmatori dotati di una precisa coscienza politica diffonde The Crypto Anarchist Manifesto. "A specter is hauting the modern world, the specter of crypto anarchy". Nel marzo del 1993 le tesi sono ribadite in A Cyberpunk's Manifesto. Appariva già allora chiaro a questi giovani esperti una situazione oggi evidentissima: il Personal computer -e possiamo aggiungere, anche lo smartphone, il Personal Computer in miniatura che ognuno di noi ha in mano- mentre da un lato è strumenti per essere sé stessi, per essere liberi cittadini, dall'altro è strumenti tramite i quali ogni cittadino è osservato, sorvegliato, controllato. Ogni comportamento può essere tracciato; i dati prodotti da ognuno diventano ricchezza nelle mani di grandi player globali. La sfera personale del cittadino è costantemente soggetta alla minaccia di violazioni. Dunque: "Privacy is necessary for an open society in the electronic age". I Cyberpunk -ma è forse meglio usare la definizione più precisa: Cypherpunk- propongono una risposta: "Privacy in an open society requires cryptography".
Così la crittografia, arte della quale questi giovani programmatori sono appassionati cultori, non sarà più strumento delle mani dei governi ed enti pubblici, oligarchie e grandi imprese. La crittografia si trasformerà in strumento per proteggere la libertà individuale. In modo da permettere ad ogni cittadino di svelare di sé di volta in volta, quello che serve, quando serve, a chi serve. La crittografia può essere usata come maschera che garantisce l'anonimato. "We the Cypherpunks are dedicated to building anonymous systems. We are defending our privacy with cryptography, with anonymous mail forwarding systems, with digital signatures, and with electronic money".
Diverse voci si sono levate a criticare il fatto che coloro che vent'anni dopo hanno reso disponibile la criptomoneta bitcoin non abbiano rivelato la propria identità. Varie inchieste hanno tentato vanamente di svelare chi si nasconde dietro lo pseudonimo 'Satoshi Nakamoto'. Ma si tratta delle voci di giornalisti in cerca di scoop, o di programmatori poco avvezzi allo sguardo storico. O, peggio, di esponenti degli enti che non intendono rinunciare a controllare e sorvegliare. Eppure, varie tracce legano 'Satoshi Nakamoto' ai Cypherpunk. Che già vent'anni prima avevano sostenuto la virtù politica dell'anonimato. La scelta di restare anonimi va dunque intesa come scelta di serietà e di coerenza.
Il progetto è ambizioso, utopistico. Dato per scontato che ogni cittadino disponga di un proprio Personal Computer, si tratta di permettere ai cittadini di scambiarsi beni e servizi, e di essere giustamente ricompensati per questo, senza nessun intervento da parte di "financial institutions serving as trusted third parties".
Eccoci così alla Blockchain: è il ledger, libro mastro, registro permanente, immodificabile, di tutte le transazioni avvenute. Registro che non risiede su un unico server centrale, è invece distribuito: risiede sui computer di tutti coloro che utilizzano la moneta digitale.
Dall'ottobre 2008 sino passati solo dieci anni. Si può con molti motivi ritenere che il successo di bitcoin come moneta, e la reputazione guadagnata dalla blockchain come alternativa ai consueti database, abbiano sorpreso gli stessi membri del gruppo di progetto. Un esperimento tecnologico -fondato sulla crittografia- e politico -orientato in senso antioligarchico- si è trasformato in un fenomeno di enorme portata. Paragonabile, per le sue potenzialità, all'accoppiata Internet-World Wide Web.
Come è normale che accada, coloro che cavalcano la nuova onda -speculatori finanziari, sviluppatori, startupper- ignorano la storia, anzi, la ritengono trascurabile. Poco importa loro dei precursori. Eppure, solo risalendo alle origini, come si preoccupa sempre giustamente di fare l'autore del libro che vi accingete a leggere, si possono cogliere appieno le potenzialità di un sistema tecnologico. Le stesse trusted third parties -istituzioni finanziarie, enti pubblici- tutte impegnate ogni a sviluppare la propria blockchain, trarranno giovamento dal ricordare gli intenti dai quali l'originaria blockchain è nata.
Perciò questo libro costituisce un avvicinamento efficace. L'autore, come i Cyberpunk, è mosso dalla passione per l'informatica intesa come substrato di una nuova vita sociale. Ma la sua passione è mitigata dalla formazione scientifica.
Nicola Attico, formatosi come fisico, conserva lo sguardo del ricercatore: uno sguardo imperturbabile, capace di muoversi con grande capacità di lettura in una sovrabbondante massa di informazioni che quotidianamente si accumulano, e di descrivere quindi con equanime rispetto scelte tecniche radicalmente differenti, senza mai lascia influenzare dagli eccessi di certe opinioni di parte. Riesce così a descrivere con efficace sintesi questo nuovo ecosistema con il quale ogni manager, ed in genere oggi cittadino, dovrà imparare a fare i conti.
Ogni lettore, così, avrà modo di formarsi una propria personale opinione.


lunedì 8 ottobre 2018

Macchina, Engine. Artefatto, Utensile, Strumento, Device

Macchina, Engine. Artefatto, Utensile, Strumento, Device: parole necessarie per arrivare a intendere appieno il senso della parola Computer (che trovate raccontata su questo stesso blog, qui).
Le voci che seguono sono tratte dal libro: Francesco Varanini, Nuove parole del manager. 113 voci per capire l’azienda, Guerini e Associati, 2011.

Macchina
Dante nel Convivio (Trattato Quarto, IX) si interroga -nel quadro ordinatore di Aristotele e San Tommaso- a proposito di cosa è “naturale” e su cosa è “umano”.
Parla dunque delle “maniere d’operazione” per le quali la nostra ragione è predisposta. Ci sono le operazioni che la ragione può considerare, ma non fare direttamente: le cose naturali e soprannaturali e le matematiche. Ci sono le operazioni che la ragione contempla e che traduce in atto, “le quali si chiamano razionali”, come l’arte di parlare. Ci sono infine le operazioni che la ragione considera “e fa in materia di fuori di sé, sì come sono arti meccanice”.
In greco mekhanikós, e in latino mechanicus stanno per ‘inerente alla macchina’. Ecco così in greco la mekhaniké téchne, e in latino l’arte mechanica. In greco attico la parola per ‘macchina’ era mekané. Al latino machina si giunge attraverso il dialetto dorico makaná.
Si trattava di ingegni tecnici usati nelle costruzioni e nei trasporti, e tipicamente in guerra. Ma l’osservazione di questi artefatti che l’uomo stesso aveva costruito, porta a proporre una visione del cosmo come un sistema regolato da leggi e sottratto ai capricci degli dei: è questo il senso della Machina Mundi immaginata da Lucrezio (De Rerum Natura, Libro V, verso 96).
Possiamo dunque collocare la macchina -per come essa era concepita in epoca classica, e poi nel Medioevo- proprio sul confine, che resta sfumato, tra le cose naturali e soprannaturali, le matematiche, e ciò che la ragione umana “fa in materia fuori di sé”.
Non a caso Roberto l’Anglicano scrivendo nel 1271 il suo commento al Tractatus de Sphera Mundi di Giovanni Sacrobosco che “Non è ancora possibile per qualsivoglia orologio seguire il corso del firmamento con completa accuratezza”. Gli orologiai, nota, stanno cercando di realizzare una ruota che dovrebbe fare una rivoluzione per ogni circolo equinoziale, ma non sono riusciti ancora “a perfezionare abbastanza i meccanismi”.
Nel mentre si immaginava la Machina Mundi, comunque, si continuavano a costruire macchine utili per la vita quotidiana. Ne è testimone la macina. La parola, un derivato di machina, usato nel latino parlato, designa la mola del mugnaio.
Mola, così come molinum, derivano dal verbo molere, che discende da una radica indeuropea mele, che sta appunto per ‘macinare’. Da molinum l’inglese mill, che non a caso nel 1800 -ne troviamo traccia nei saggi di Babbage e nei romanzi di Dickens- designava ogni grande macchina.

Engine
A Londra, nel 1800, vive e pensa e inventa un eccentrico genio che vede oltre. Progetta con grande acume -e tenta vanamente di costruire- macchine che oggi chiamiamo computer. In un’epoca in cui le grandi macchine sono comunemente definite mill, alla lettera ‘mulini’, a Babbage viene naturale parlare di engine.

Quando, sul finire del 1837, Babbage descrive nei suoi appunti l'Analytical Engine, la regina Vittoria è salita al trono da pochi mesi. E' la Londra di Darwin e FitzRoy, di Thomas Henry Huxley. La Londra di Dickens, fango e sterco di cavallo nelle strade, fumo che cala dai camini formando una pioggia sottile, morbida e nera. Città in trasformazione: si aprono grandi strade, si scavano fognature e gallerie per la ferrovia metropolitana.
Dickens e Babbage errano legati da amicizia. Ritroviamo Babbage nel nel personaggio di Daniel Doyce, in Little Dorrit (1857) vittima di un Governo poco disposto a sostenere l'innovazione; sconfitto a causa della scarsa protezione legale delle invenzioni.
Ada Lovelace, figlia del poeta Byron, scrive nel 1843 a proposito dell’Analytical Engine.The engine, from its capability of performing by itself all those purely material operations, spares intellectual labour, which may be more profitably employed. Thus the engine may be considered as a real manufactory of figures”. L’engine, in virtù della sua capacità di svolgere da sé le operazioni puramente materiali, risparmia lavoro intellettuale; le capacità umane possono così essere più proficuamente impiegate.
Engine porta con se l’idea di ‘macchina’, certo, e anche di ‘motore’. Ma proprio le caratteristiche innovative del congegno di Babbage ci fanno appare appropriato il termine engine.
Manufactory of figures: potremmo tradurre ‘fabbrica di simboli’ o ‘macchina che produce codice’. Possiamo però anche seguire la suggestione proposta da figura: dal latino fingere ‘plasmare’, da cui anche finzione e fiction. Non c’è in origine in questa idea negazione del reale; l’accento è posto sul creare ciò che non c’è ancora.
Engine, non a caso, discende dalla radice gene, ‘generare’, da cui, genio, genitore, gente, generazione, germe, gene, genetica, indigeno, progenie, nascere, nazione.
Il latino ingenium -da cui anche ingegneria- stava in inglese nel 1200 per ‘espediente’, ma anche ‘macchina da guerra’. Dal 1300, ‘strumento meccanico’, dal 1600 ‘macchina complessa’, poi specialmente steam-engine, ‘macchina a vapore’.
Potremmo forse tradurre congegno, incrocio di ingegnare e combinare. O meglio apparato, apparecchio. Perché il verbo latino parare, ‘produrre’, rimanda ad una radice che -con senso affine all’idea di gene- ci parla di ‘mettere al mondo’.

Artifact
La tékhne della Grecia classica, da cui la moderna tecnica e la modernissima tecnologia, si traduce in latino ars: 'arte', 'mestiere'. Si trova qui un senso che ritroviamo negli arti umani, e anche all'inglese arm, 'braccio', e all'arma -utensile, prolungamento del braccio alle mani. Un riferimento all'agire congiunto della mente e del corpo dell'essere umano. Alla base sta la radice indeuropea are, che -si veda anche anche il greco artys, 'unione'- ci parla di 'articolare', 'ordinare', 'unione', 'adattamento': di qui anche armento: 'insieme di animali'.
L'artefatto è arte factus, ‘fatto con arte’.  L’artifex è dotato di perizia tecnica, conosce il mestiere,
In latino troviamo anche artificium, artificialis, artificiosum. Le espressioni passano alle lingue romanze. In italiano, già ai tempi di Dante il senso è consolidato. Arte: 'attività umana regolata da accorgimenti tecnici e fondata sullo studio e sull'esperienza'. Artificio: 'espediente ingegnoso diretto a supplire alle deficienze della natura'.
In latino artificialis e artificiosum sono sostanzialmente sinonimi. Ma prendono poi nelle lingue romanze un senso divergente, che è utile qui ricordare. In artificiale è implicita l'opposizione al naturale: 'frutto del lavoro umano' – un esempio è la memoria artificiale: artificio, tecnologia, abilità, attraverso la quale greci e latini espandevano la capacità della mente umana di conservare conoscenza, utilizzando come supporto fisico il proprio cervello. In artificioso appare invece l'idea di 'affettazione', 'malizia', 'inutile ricercatezza', cammino lungo una strada che ci porta all'inganno e alla falsità. Chiara la differenza, l'ambiguità resta: la moderna tecnologia è al contempo artificiale -utile prodotto dell’homo faber- e artificiosa -qualcosa che minacciosamente si oppone all’uomo-.
Arriviamo così all'inglese artifact, parola nuova, coeva e connessa a technology. Entrambe si affermano negli Stati Uniti in conseguenza della saldatura tra scienza e industria. Entrambe ci parlano di 'volontaria estensione di un processo naturale'.
Per l'Oxford Dictionary (edizione 1928) l'artifact -o artefact- è ancora, genericamente, “a thing made by art, an artificial product”. Nel Supplement del 1933 la definizione è più precisa: “Anything made by human art and workmanship, an artificial product”. Workmanship: 'lavorazione', 'abilità professionale', 'rifinitura'.
Nel Supplement nel 1987, infine, appare una significativa aggiunta: “in technical and medical use, a product or effect that is not present in in the natural state (of an organism, etc.) but occurs during or as a result of investigation or is brought about by some extraneous agency”.
E dunque, se prima della rivoluzione scientifica e tecnologica del Ventesimo Secolo vedevamo l’artifact come prodotto dell’homo faber, ora lo osserviamo come mera conseguenza di un un processo di continua modifica dell’ambiente – al quale sia l’uomo, sia gli aritfacts già esistenti contribuiscono. 

Utensile
Organo: il latino organum; e, prima, il greco organon, significavano genericamente 'strumento', 'utensile', dalla radice indoeuropea werg-, che esprime l'idea di lavoro (da cui il greco 
érgon, 'lavoro', 'opera' e ergazomai, 'lavorare'; così come en-ergeia, 'forza in azione', 'energia').

L'idea di organo naturale, biologico, è dovuta al fatto che nessuna macchina appariva all'uomo complessa ed articolata come il suo stesso corpo. Forse la macchina più sofisticata costruita nell'antichità classica era lo strumento musicale a canne -macchina, organo per eccellenza.

Protesi, dal francese prothèse, alla fine del 1600 'apparecchio sostitutivo'. Il francese è dal latino tardo e dotto prothesis, 'aggiunta di una lettera all'inizio di una parola', dal greco próthesis, 'esposizione' , 'anticipazione', dal verbo prothítenai, 'porre innanzi', da pro, 'davanti', thítenai 'porre'.

Strumento: dal latino instrumentum, verbo struere 'costruire' (da cui anche structura) a sua volta dalla radice ster 'stendere'.
Dispositivo, dal francese dispositif: 'che prepara', dal latino dispositus, nel senso di ‘preparare al lavoro’, ‘preparare gli strumenti per il lavoro’.
Tool: protogermanico tolan, antico inglese tawian, ancora nel senso di 'preparare'. Strumento per eseguire o facilitare operazioni manuali, attrezzo, arnese.
Attrezzo: nel 1100 in antico francese atrait, alla lettera: 'attratto'. In italiano dalla seconda metà del 1600 'arnese necessario allo svolgimento di una attività'. Attrezzatura: nel 1800 'insieme di strumenti e pezzi di cui è corredata una nave', e poi nel 1900 complesso di arnesi, macchine, impianti destinati uno scopo.Equipaggiamento: dal france équiper, forse risalente allo scandinavo skipa, 'allestire una nave'.
Arnese: provenzale arnes, francese antico herneis, 'armatura del cavallo'.
Herramienta, in spagnolo ‘strumento’, utensile’. Dal latino ferramenta, plurale neutro di ferramentum, ‘arnese di ferro’.
Possiamo forse sintetizzare guardando all’utensile. Nel senso di strumento, arnese da casa o da officina, arriva in italiano nel 1600 attraverso il francese dotto ustensile, che si affianca al popolare outil. In origine, il latino utensilis, aggettivo per ‘utile’, ‘necessario’. E utensilia, ‘cose utili’; dal verbo uti, 'usare' – ma con un senso che resta ampio, ben oltre i confini del lavoro, come si legge in Tito Livio: “divina humanaque utensilia”, ‘oggetti relativi al culto e alla vita’.


Device
Un antichissimo concetto indeuropeo: widhewa significa ‘colei che è priva’, ovvero la ‘vedova’ (ne troviamo traccia precisa nel tedesco Witwe). La radice è weidh, ‘separare’, ‘dividere’, da cui il verbo latino dividere - dove il di rafforza l’idea di sottrazione.
Dividere sta dunque in latino per per ‘separare’, ‘distaccare’, ‘fendere’, ‘spaccare’. Anche per ‘distribuire’, ‘ripartire’, ‘dispensare’. E, in senso lato, ‘abbellire’, ‘far risaltare’, ‘ornare’ - ma anche qui resta sullo sfondo l’antica idea di vedovanza: irrimediabile mancanza, allontanamento dolorosamente subito.
Continuando ad esplorare questo campo semantico segnato dalla privazione, troviamo subito un
altro verbo, derivato da dividere, già usato nel latino volgare: divisare. Di qui l’antico francese, da cui l’italiano. Diviser, poi deviser, dal 1100 ci parla ancora di separazione, ma introduce l’idea di un proposito, una determinazione ad andare oltre: ‘mettere in ordine’, ‘fare la parte di’, ‘condividere’, ‘raccontare’. Quindi: ‘esaminare punto per punto’, ‘esporre minutamente’. E poi: ‘ideare’, ‘immaginare’, ‘inventare’.
Da deviser, nel 1400 devise, ‘azione di dividere’, e dunque segno distintivo, da cui da noi divisa, la veste che serve a distinguere un casato, uniforme che serve a distinguere un esercito. E la divisa nel senso di ‘titolo di credito’, ‘moneta cartacea’.
Prima però, già nel 1200, devis. ‘Separazione’, ma anche ‘disposizione’, ‘desiderio’, ‘proposito’. E quindi: ‘schema’, ‘piano’. Ancora oggi in francese devis è ‘stato dettagliato dei lavori da eseguire con la stima dei prezzi’, ‘preventivo’.
Da qui, nello stesso 1200, l’inglese devise (la grafia devise o device rimane incerta fino alla fine del 1800): maniera in cui qualcosa è divised o framed, con riferimento al progetto. C’è anche un rimando al subdolo, al malvagio. Ma poi anche qui entrano in gioco will, piacere, inclinazione. E quindi device è ‘ingenious or clever expedient’, ‘innovazione’.
Ecco così il ‘congegno destinato ad uno specifico scopo’. Prima meccanico e poi elettronico.
Alla tremenda solitudine della vedova, così come alle divisioni tra persone si risponde divisando: immaginando e realizzando strumenti capaci di aiutare a vivere con agio anche in stato di isolamento; strumenti utili a creare relazioni, oltre la divisione sociale.
Se il digital divide -la divisione, il divario che separa chi dispone di strumenti informatici e chi ne è escluso- si pone oggi come problema, electronic devices alla portata di tutti -calcolatrici tascabili, telefoni cellulari, computer palmari- semplici da usare ed efficaci, si presentano come soluzione. 

domenica 30 settembre 2018

Il mio computer mi dice... Risposta ad una domanda di mia mamma


Mia mamma ha novantasette anni. L'altro giorno mi ha telefonato per chiedermi spiegazioni. Voleva sapere perché "il mio computer" (un iPad) "mi segnala due siti dicendomi che sono i più visitati". Le devo una spiegazione un po' più accurata di quella data al telefono.
Devo cominciare notando che mia mamma dice giustamente "il mio computer mi dice", non distinguendo ciò che nasce dal sistema operativo della macchina stessa, da un software applicativo caricato sul computer, o nasce invece da una connessione. Mia mamma dice giustamente, perché i produttori di hardware e software, i fornitori di sevizi via web, gli sviluppatori di applicativi, gli esperti di User Experience Design -insomma, tutti gli attori che operano sulla scena digitale, salvo rare eccezioni- fanno il possibile per azzerare la differenza tra ciò che accade sulla singola macchina e ciò che accade nell'indistinta nuvola, o cloud che dir si voglia.
Tutto, agli occhi dell'utente, deve apparire come indistinta e complessiva manifestazione della volontà di una macchina. Volontà che si fa di volta in volta più imperativa e pressante. Mia mamma poco tempo fa ha dovuto sostituire il suo iPad con uno nuovo. Il nuovo disponeva di un sistema operativo più evoluto. Mia mamma ha commentato così: è peggio di quello di prima, perché vuole fare di più quello che vuole lui.
E' proprio vero: più passa il tempo, e più 'la macchina' -e intendiamo come già detto l'insieme: il sistema operativo, Google, la singola applicazione, il singolo sito- sempre più propone all'utente scelte obbligate, presentate oltretutto come vantaggiose per l'utente, ma che sono invece vantaggiose solo per il fornitore. Faccio solo un esempio: se casomai un utente, nell'usare Google Map, disinserisce la localizzazione, il software cerca di colpevolizzare, e afferma: non sai cosa perdi! Qualcuno potrebbe argomentare: si tratta di servizi gratuiti. Ma la risposta è facile: Google offre servizi gratuiti come esca per spiare i comportamenti umani e trarne profitto. Moltissimi sarebbero coloro -certamente anche mia mamma- che, correttamente informati, preferirebbero pagare qualcosa per di non essere spiati. Non a caso mia mamma, osservando la posizione dell'utente indicata in fondo alla pagina che restituisce i risultati di una ricerca su Google, si scandalizza, sempre riferendosi, a ragione, al computer, inteso come unica macchina: ma come fanno a sapere dove sono?
Torno alla domanda di mia mamma. Lei, come ho già detto -e dobbiamo darle ragione, anche per motivi che lei ignora- attribuisce il comportamento al computer. Perché il computer le dice che quei due sono i siti più visitati. Come fa a saperlo. E sono davvero i più visitati?
L'informazione proposta, nota giustamente mia mamma, è ambigua. Aveva tutti i motivi per restare meravigliata quando, parlandole al telefono, le ho detto che era una informazione rivolta solo a lei, e che per 'siti più visitati' non si intendevano i siti in generale più vistati, ma si intendevano invecei siti più visitati da lei.
Mi ha chiesto subito: e come fanno a saperlo? Questa domanda apre un mondo: se appena lo si vuole, si potrebbe benissimo spiegare 'come fa il computer a saperlo'. Spiegarlo sarebbe veramente istruttivo. Peccato che i fornitori di hardware e software e servizi web, ivi compresi Apple, Microsoft, Google, Facebook Amazon e WhatsApp, hanno imboccato da tempo la strada che li porta a preferire utenti passivi e ignoranti. Poco importa agli operatori del settore che si finisca così per trasformare la stessa cittadinanza in utenza. Siamo sempre meno cittadini responsabili e sempre più passivi utenti.
Andati oltre il 'come fa il computer a sapere che questi sono i siti che ho visitato più di frequente', emergono altre domande. Mia mamma mi chiede: ma a cosa serve segnalarmi quali sono i siti che visito più di frequente? Ha ragione. Se li visito, vuol dire sono siti che conosco e che saprò ritrovare. Ma il fatto che conosco questi siti non significa che siano gli unici che possono interessarmi. Se sono invitato a tornare sempre lì, non esploro, non apprendo, non cresco, non mi formo.
Ho dovuto spiegare a mia mamma una cosa. Il computer -ripeto per l'ultima volta: il computer inteso come insieme di servizi locali e servizi in cloud- è programmato per spingere le persone a fare sempre le stesse cose, a considerare normale rifare le cose fatte prima, a considerare vantaggioso visitare sempre gli stessi siti.
Coloro che hanno sognato e poi progettato il Personal Computer ed il Web volevano allargare l'area della coscienza, aprire nuovi orizzonti, permettere l'accesso a sempre nuove fonti. E credo che questo abbia insegnato mia mamma nei lunghi anni in cui ha lavorato come professoressa. E questo è lo spirito che ha trasmesso ai suoi figli.
Dunque, giustamente, a mia mamma pare strano che 'il computer' spinga gli utenti a visitare sempre gli stessi siti. Pare strano che il motore di ricerca Google, nel fornire le risposte ad una domanda, e quindi nell'elencare i siti sui quali posso trovare la risposta, consideri tra i motivi per collocare ai primi posti un sito il fatto che ho già visitato quel sito in passato.
Non si vogliono persone che cercano e che si interrogano; si vogliono persone che prendono per buono quello che gli viene proposto. Non si vogliono persone che, di fronte ad una situazione, si formano una opinione; si vogliono persone che, a prescindere dalle situazioni, restano legate ad opinioni già espresse in passato. Non si vogliono persone che coltivano una propria posizione; si vogliono persone che si annullano nella massa.
Per fortuna, per quanto ne so, mia mamma non dà retta ai consigli e ai suggerimenti di Siri, e prova a fare da sola. E non rinuncia a porsi domande. Spero che tutti facciano così. Ma purtroppo vedo una gran passività: si prende per buono ciò che la macchina propone.
Così, mi pare, fanno a anche i 'nativi digitali: subiscono passivamente gli inviti della macchina'. Qualcuno sostiene che da loro dovrebbe prendere esempio chiunque si avvicini alle 'nuove tecnologie'. Credo sia vero il contrario: i 'nativi digitali', non avendo conosciuto il mondo pre-digitale -i libri, l'accesso faticoso alle fonti, la difficoltà di entrare in connessione e stare in connessione con altre persone- sono i più esposti al diventare passivi fruitori di una macchina che, nonostante le sue potenzialità, è stata invece programmata per spingerci a restringere l'area della nostra conoscenza. 

domenica 19 agosto 2018

Il doppio standard etico dei guru del Machine Learning

Godono di pubblica ammirazione coloro che si occupano di Machine Learning. Sia coloro che continuano a lavorare in una Università, sia coloro che hanno preso casa a Google, come John Giannandrea, e Fei-Fei Li, o a Facebook, come Yann LeCun.
Giannandrea, LeCun e Li godono del pubblico riconoscimento del pubblico che passivamente usa Google e Facebook e WhatsApp, sempre bisognoso di guru. E sono celebrati senza riserve dai docenti e ricercatori universitari di tutto il mondo, che sognano di percorrere la loro stessa carriera.
E' un copione che si ripete. Giannandrea e LeCun non cessano di dire ai cittadini che ci vuole più Intelligenza Artificiale, non meno. Può darsi. Ma possiamo credere loro? Possiamo fidarci di loro?
Giannandrea, LeCun e Li, così come i ricercatori di tutto il mondo che invidiano il loro successo, non possono dirci che la loro ricerca è pura. La loro ricerca è chiaramente asservita ad interessi economici e finanziari. Il valore di Borsa del titolo di Google e Facebook dipende dal loro lavoro. Per questo sono remunerati.
Poi ogni sera anche Giannandrea, LeCun e Li, come tutti i loro colleghi, tornano a casa, e accettano magari di fronte a sé stessi di ammettere gli inganni di Facebook e di Google. Magari anche, come cittadini, si indignano per questo.
Capita che tengano conferenze, scrivano articoli per il vasto pubblico, o rispondano alle domande di un giornalista. Si chiama di solito: 'divulgazione'. Salvo rarissime eccezioni, li si vede, in questi casi, giocare con l'ambiguità. Raccontano in parole povere, con comoda superficialità i contenuti del  proprio lavoro,  e poi, in coda, mettono in guardia i cittadini di fronte all'invasiva presenza, alla continua sorveglianza esercitata da Google e da Facebook e di simili attori della scena digitale nella vita quotidiana di ognuno.

Doppio standard: uno standard per parlare all'interno della propria famiglia professionale, tra tecnologi. Un altro standard in quanto cittadini, elettori, padri e madri di famiglia.
Fei-Fei Li, giovane ricercatrice cinese, cresciuta all'interno di una minoranza etnica, madre, sembra in apparenza disposta, nelle sue frequenti apparizioni sui mass media, a un atteggiamento critico. Parla volentieri con dovizia di come sia importante annoverare tra chi si dedica  al lavoro di ricerca consapevoli esponenti di minoranze sociale e consapevoli madri, con i figli e la famiglia sempre in mente, anche nel tempo di lavoro. Ma si guarda bene dal dirci come questa consapevolezza si manifesta nel lavoro. Si guarda bene dal dirci cosa -memore dell'appartenere a una minoranza e in quanto madre- si rifiuta di fare nel suo lavoro di ricerca.
Doppio standard. Di ciò che si fa come ricercatori si risponde solo di fronte alla comunità dei ricercatori. Ciò che si pensa e si fa in quanto cittadini si ferma sulla soglia del luogo dove si svolge la ricerca. Avremmo bisogno invece di tecnologi e progettisti che, prima di sentirsi tecnologi e progettisti, si sentono cittadini.

Giannandrea, LeCun, Li e tutti i loro epigoni credono di avere buon gioco appellandosi alla Scienza. Noi, dichiarano, siamo ricercatori scientifici. E quindi meritiamo di godere di finanziamenti pubblici o privati alla ricerca, e del riconoscimento sociale di cui gode lo scienziato.
Ma così facendo  ed i loro epigoni capziosamente dimenticano che i ricercatori scientifici indagano sulla natura. Il loro compito consiste nello scoprire come funziona la natura, risiede nel portare alla luce le 'leggi della natura'.
Ogni computer scientist, invece, ed in particolare il computer scientist che agisce nel campo del Machine Learning, non osserva la natura, ma pretende invece di creare una nuova natura. Una natura digitale. Il computer scientist non scopre leggi. Scrive leggi. 

Se vogliamo restare sul piano degli esempi banali, ma giustificati, possiamo dire che la sua responsabilità ha più punti di contatto con la responsabilità dell'ingegnere che con quella dello scienziato.
Se poi vogliamo accettare Giannandrea, LeCun e Li nella comunità degli scienziati, viene buono ricordare una esemplare vicenda del Ventesimo Secolo: la ricerca scientifica nel campo della fisica, che si traduce nella progettazione della bomba atomica e della bomba all'idrogeno.
La vicenda, grandemente istruttiva, è nota. Ma purtroppo si sa che la storia della scienza non ha grande spazio nella formazione degli scienziati in genere; e ancor meno ne ha nella formazione dei computer scientist.

Basta qui citare in estrema sintesi le opinioni di due protagonisti: Robert Oppenheimer e Edward Teller. Sono entrambi scienziati, fisici. In linea di principio la loro posizione coincide. "If you are a scientist you believe that it is good to find out how the world works; that it is good to find out what the realities are", dice Oppenheimer. Il job dello scienziato, conferma Teller, consiste in "to find out how these laws operate. It is the scientist's job to find the ways in which these laws can serve the human will".
Oppenheimer -in virtù del suo sguardo interdisciplinare, e della sua capacità di sintesi- si trova ad essere nel 1942 il direttore tecnico del progetto Manhattan, il cui lavoro porta, nell'estate del 1945, al lancio delle bombe atomiche su Hiroshima e Nagasaki. Poi, di fronte all'ancor più distruttiva bomba nucleare, si ferma, scegliendo di non partecipare al progetto. Al suo posto sta ora Edward Teller, che sostiene: "it is not the scientist's job to determine whether it a hydrogen bomb should be used, or how it should be used. This responsibility rests with the American people and their chosen representatives".
Ecco qui, pienamente affermata, la comoda posizione: noi siamo scienziati, non cittadini. L'essere cittadino di Teller si risolve nell'eleggere qualcuno. Fatto questo, "back to the laboratories", dove "as a scientist, I am troubled by other questions, more limited, more specific, but not less urgent and not less harrassing".
Oppenheimer argomenta diversamente: "we are not only scientists; we are men, too". "The value of science must lie in the world of men", "all our roots lie there". C'è un legame più forte, più profondo di quello che lega i membri della comunità scientifica, c'è un deepest bond, "that bind us to our fellow men". Fellow: 'companion, comrade, partner, one who shares with another', con riferimento a un legame soggiacente. Fellow men: io, tu, noi, quale che sia il ruolo professionale, siamo innanzitutto esseri umani; apparteniamo alla comunità degli esseri umani.

Teller aggiunge una considerazione che appare ovvia: "The scientist is not responsible for the laws of nature". E' ovvio, appunto, ma si coglie nelle sue parole il chiamarsi fuori dalla comunità dei cittadini responsabili. Lo scienziato di Teller ha una doppia giustificazione al non assumersi responsabilità: perché, chiuso nel suo laboratorio, lo scienziato pensa di poter dimenticare le responsabilità del cittadino; e perché, anche nella sua ricerca, è irresponsabile: le responsabilità sono tutte della natura.
Giannandrea, LeCun e Fei Fei Li sono lontani da Oppenheimer, e vicini invece a Teller. Come Teller, giocando la facile partita del doppio standard, si spogliano delle loro responsabilità di cittadini sulle porte del laboratorio.
Come Teller vorrebbero anche loro fare appello alle leggi di natura, per attribuire ad esse ogni responsabilità. Nel loro caso sostenere l'assenza di responsabilità per i risultati della ricerca è ancora più difficile di quanto lo sia per Teller. Loro non scoprono leggi di natura; creano una nuova natura.

Fonti:
Robert Oppenheimer, Speech to the Association of Los Alamos Scientists, Los Alamos, New Mexico, November 2, 1945.
Edward Teller, Back to Laboratories, in Bulletin of Atomic Scientists, VI, 2, 1950, pp. 71-72.