L'informazione è la risoluzione dell'incertezza.
Claude Elwood Shannon era un matematico, ingegnere elettrico e crittografo americano noto come "il padre della teoria dell'informazione". Shannon è noto per aver fondato la teoria dell'informazione con un documento fondamentale, "A Mathematical Theory of Communication", che ha pubblicato nel 1948.
È anche ben noto per aver fondato la teoria dei circuiti digitali nel 1937, quando—come studente di dottorato di 21 anni al Massachusetts Institute of Technology MIT—ha scritto la sua tesi dimostrando che le applicazioni elettriche dell'algebra booleana potevano costruire qualsiasi relazione numerica logica. Shannon ha contribuito al campo della crittoanalisi per la difesa nazionale durante la Seconda Guerra Mondiale, incluso il suo lavoro fondamentale sulla decifrazione del codice e le telecomunicazioni sicure.
Biografia
Infanzia
La famiglia Shannon viveva a Gaylord, Michigan, e Claude è nato in un ospedale a Petoskey nelle vicinanze. Suo padre, Claude Sr. 1862–1934 era un uomo d'affari e per un periodo è stato giudice di successione e sua madre, Mabel Wolf Shannon 1890–1945, era un'insegnante di lingue, che ha anche servito come preside della Gaylord High School.
La maggior parte dei primi 16 anni della vita di Shannon furono trascorsi a Gaylord, dove ha frequentato la scuola pubblica, diplomandosi alla Gaylord High School nel 1932. Shannon ha mostrato un'inclinazione verso le cose meccaniche ed elettriche. Le sue materie migliori erano scienze e matematica. A casa ha costruito dispositivi come modelli di aerei, una barca telecomanda e un sistema telegrafico a filo spinato verso la casa di un amico a mezzo miglio di distanza. Durante l'infanzia, ha anche lavorato come messaggero per la società Western Union.
Il suo eroe dell'infanzia era Thomas Edison, del quale in seguito ha scoperto di essere un cugino lontano. Sia Shannon che Edison erano discendenti di John Ogden 1609–1682, un leader coloniale e un antenato di molte persone illustri.
Circuiti logici
Nel 1932, Shannon è entrato all'Università del Michigan, dove è stato introdotto al lavoro di George Boole. Si è laureato nel 1936 con due lauree di primo livello: una in ingegneria elettrica e l'altra in matematica.
Nel 1936, Shannon ha iniziato i suoi studi universitari in ingegneria elettrica al MIT, dove ha lavorato all'analizzatore differenziale di Vannevar Bush, un primo computer analogico. Mentre studiava i complicati circuiti ad hoc di questo analizzatore, Shannon ha progettato circuiti di commutazione basati sui concetti di Boole. Nel 1937, ha scritto la sua tesi di laurea magistrale, A Symbolic Analysis of Relay and Switching Circuits. Un articolo da questa tesi è stato pubblicato nel 1938. In questo lavoro, Shannon ha provato che i suoi circuiti di commutazione potevano essere utilizzati per semplificare l'arrangiamento dei relè elettromeccanici che erano allora usati negli interruttori di instradamento delle chiamate telefoniche. Successivamente, ha ampliato questo concetto, provando che questi circuiti potevano risolvere tutti i problemi che l'algebra booleana poteva risolvere. Nel capitolo finale, ha presentato diagrammi di diversi circuiti, incluso un sommatore completo a 4 bit.
Utilizzare questa proprietà dei commutatori elettrici per implementare la logica è il concetto fondamentale che sottende tutti i computer digitali elettronici. Il lavoro di Shannon è diventato il fondamento della progettazione dei circuiti digitali, poiché è diventato ampiamente noto nella comunità dell'ingegneria elettrica durante e dopo la Seconda Guerra Mondiale. Il rigore teorico del lavoro di Shannon ha superato i metodi ad hoc che avevano prevalso in precedenza. Howard Gardner ha chiamato la tesi di Shannon "probabilmente la tesi di laurea magistrale più importante e anche la più nota del secolo".
Shannon ha ricevuto il suo dottorato dal MIT nel 1940. Vannevar Bush aveva suggerito che Shannon dovrebbe lavorare sulla sua dissertazione al Cold Spring Harbor Laboratory, al fine di sviluppare una formulazione matematica per la genetica mendeliana. Questa ricerca ha portato alla tesi di dottorato di Shannon, chiamata An Algebra for Theoretical Genetics.
Nel 1940, Shannon è diventato un National Research Fellow presso l'Institute for Advanced Study a Princeton, New Jersey. A Princeton, Shannon ha avuto l'opportunità di discutere le sue idee con scienziati e matematici influenti come Hermann Weyl e John von Neumann, e ha anche avuto occasionali incontri con Albert Einstein e Kurt Gödel. Shannon ha lavorato liberamente tra le discipline, e questa capacità può aver contribuito al suo successivo sviluppo della teoria matematica dell'informazione.
Ricerca durante il periodo bellico
Shannon si è poi unito a Bell Labs per lavorare su sistemi di controllo del fuoco e crittografia durante la Seconda Guerra Mondiale, con un contratto con la sezione D-2 Control Systems section del National Defense Research Committee NDRC.
Shannon è accreditato dell'invenzione dei grafi di flusso di segnale, nel 1942. Ha scoperto la formula del guadagno topologico mentre investigava il funzionamento funzionale di un computer analogico.
Per due mesi all'inizio del 1943, Shannon è entrato in contatto con il matematico britannico leader Alan Turing. Turing era stato inviato a Washington per condividere con il servizio di crittoanalisi della Marina degli Stati Uniti i metodi utilizzati dal British Government Code and Cypher School a Bletchley Park per decifrare i cifrari utilizzati dai sottomarini Kriegsmarine nell'Oceano Atlantico settentrionale. Era anche interessato alla cifratura del discorso e a tale scopo ha trascorso del tempo a Bell Labs. Shannon e Turing si sono incontrati al momento del tè nella mensa. Turing ha mostrato a Shannon il suo articolo del 1936 che ha definito quella che oggi è nota come la "Macchina di Turing Universale". Questo ha impressionato Shannon, poiché molte delle sue idee complementavano le proprie.
Nel 1945, mentre la guerra stava volgendo al termine, l'NDRC stava emettendo un riepilogo delle relazioni tecniche come ultimo passo prima della sua eventuale chiusura. All'interno del volume sul controllo del fuoco, un saggio speciale intitolato Data Smoothing and Prediction in Fire-Control Systems, coautore di Shannon, Ralph Beebe Blackman e Hendrik Wade Bode, ha trattato formalmente il problema dell'uniformazione dei dati nel controllo del fuoco per analogia con "il problema di separare un segnale dal rumore interferente nei sistemi di comunicazione". In altre parole, ha modellato il problema in termini di elaborazione dei dati e dei segnali e ha così annunciato l'avvento dell'Era dell'Informazione.
Il lavoro di Shannon sulla crittografia era ancora più strettamente correlato alle sue successive pubblicazioni sulla teoria della comunicazione. Alla fine della guerra, ha preparato un memorandum classificato per i Bell Telephone Labs intitolato "A Mathematical Theory of Cryptography", datato settembre 1945. Una versione declassificata di questo articolo è stata pubblicata nel 1949 come "Communication Theory of Secrecy Systems" nel Bell System Technical Journal. Questo articolo incorporava molti dei concetti e delle formulazioni matematiche che apparivano anche nel suo A Mathematical Theory of Communication. Shannon ha detto che le sue intuizioni durante il tempo di guerra sulla teoria della comunicazione e la crittografia si sono sviluppate contemporaneamente e che "erano così vicine che non potevi separarle". In una nota a piè di pagina vicino all'inizio del rapporto classificato, Shannon ha annunciato la sua intenzione di "sviluppare questi risultati … in un memorandum imminente sulla trasmissione dell'informazione".
Mentre era a Bell Labs, Shannon ha provato che il cifrario one-time pad crittografico è inviolabile nella sua ricerca classificata che è stata successivamente pubblicata nell'ottobre 1949. Ha anche provato che qualsiasi sistema inviolabile deve avere essenzialmente le stesse caratteristiche del one-time pad: la chiave deve essere veramente casuale, grande quanto il testo in chiaro, mai riutilizzata interamente o in parte, e tenuta segreta.
Teoria dell'informazione
Nel 1948, il promesso memorandum è apparso come "A Mathematical Theory of Communication", un articolo in due parti nei numeri di luglio e ottobre del Bell System Technical Journal. Questo lavoro si concentra sul problema di come codificare al meglio le informazioni che un mittente vuole trasmettere. In questo lavoro fondamentale, ha utilizzato strumenti della teoria della probabilità, sviluppati da Norbert Wiener, che erano nei loro primi stadi di applicazione alla teoria della comunicazione in quel momento. Shannon ha sviluppato l'entropia dell'informazione come una misura del contenuto di informazione in un messaggio, che è una misura dell'incertezza ridotta dal messaggio, mentre essenzialmente ha inventato il campo della teoria dell'informazione. Nel 1949 Claude Shannon e Robert Fano hanno ideato un modo sistematico per assegnare parole di codice basate su probabilità di blocchi. Questa tecnica, nota come codifica Shannon–Fano, è stata proposta per la prima volta nell'articolo del 1948.
Il libro, coautore con Warren Weaver, The Mathematical Theory of Communication, ristampa l'articolo del 1948 di Shannon e la sua divulgazione da parte di Weaver, che è accessibile ai non specialisti. Warren Weaver ha sottolineato che la parola "informazione" nella teoria della comunicazione non è correlata a quello che dici, ma a quello che potresti dire. Cioè, l'informazione è una misura della propria libertà di scelta quando si seleziona un messaggio. I concetti di Shannon sono stati anche divulgati, soggetti alla sua stessa correzione di bozze, nel libro "Symbols, Signals, and Noise" di John Robinson Pierce.
Il contributo fondamentale della teoria dell'informazione all'elaborazione del linguaggio naturale e alla linguistica computazionale è stato ulteriormente stabilito nel 1951, nel suo articolo "Prediction and Entropy of Printed English", mostrando i limiti superiore e inferiore dell'entropia sulla statistica dell'inglese – fornendo una base statistica all'analisi del linguaggio. Inoltre, ha provato che il trattamento dello spazio vuoto come il 27º lettera dell'alfabeto in realtà abbassa l'incertezza nel linguaggio scritto, fornendo un chiaro collegamento quantificabile tra la pratica culturale e la cognizione probabilistica.
Un altro articolo notevole pubblicato nel 1949 è "Communication Theory of Secrecy Systems", una versione declassificata del suo lavoro in tempo di guerra sulla teoria matematica della crittografia, in cui ha provato che tutti i cifrari teoricamente inviolabili devono avere gli stessi requisiti del one-time pad. È anche accreditato dell'introduzione della teoria del campionamento, che riguarda la rappresentazione di un segnale in tempo continuo da un insieme discreto uniforme di campioni. Questa teoria è stata essenziale per consentire alle telecomunicazioni di passare da sistemi di trasmissione analogici a digitali negli anni '60 e oltre.
È ritornato al MIT per tenere una cattedra dotata nel 1956.
Insegnamento al MIT
Nel 1956 Shannon si è unito alla facoltà del MIT per lavorare nel Research Laboratory of Electronics RLE. Ha continuato a servire nella facoltà del MIT fino al 1978.
Vita successiva
Shannon ha sviluppato la malattia di Alzheimer e ha trascorso gli ultimi anni della sua vita in una casa di cura; è morto nel 2001, sopravvissuto da sua moglie, un figlio e una figlia, e due nipoti.
Hobby e invenzioni
Al di là dei suoi inseguimenti accademici, Shannon era interessato al giocoleria, al monociclo e agli scacchi. Ha anche inventato molti dispositivi, incluso un computer con numeri romani chiamato THROBAC, macchine per il giocoleria e una tromba che sputa fuoco. Ha costruito un dispositivo che poteva risolvere il puzzle del Cubo di Rubik.
Shannon ha progettato il Minivac 601, un trainer di computer digitale per insegnare agli uomini d'affari come funzionavano i computer. È stato venduto dalla Scientific Development Corp a partire dal 1961.
È anche considerato il co-inventore del primo computer indossabile insieme a Edward O. Thorp. Il dispositivo è stato utilizzato per migliorare le probabilità quando si giocava alla roulette.
Vita personale
Shannon ha sposato Norma Levor, un'intellettuale ricca, ebrea e di sinistra nel gennaio 1940. Il matrimonio è terminato con il divorzio dopo circa un anno. Levor in seguito ha sposato Ben Barzman.
Shannon ha incontrato sua moglie di secondo Shannon Betty Shannon nata Mary Elizabeth Moore quando era analista numerica a Bell Labs. Si sono sposati nel 1949. Betty ha aiutato Claude nella costruzione di alcune delle sue invenzioni più famose. Hanno avuto tre figli.
Shannon era apolitico e ateo.
Tributi
Ci sono sei statue di Shannon scolpite da Eugene Daub: una presso l'Università del Michigan; una al MIT nel Laboratory for Information and Decision Systems; una a Gaylord, Michigan; una presso l'Università della California, San Diego; una a Bell Labs; e un'altra presso AT&T Shannon Labs. Dopo la rottura del Bell System, la parte di Bell Labs rimasta con la AT&T Corporation è stata chiamata Shannon Labs in suo onore.
Secondo Neil Sloane, un Fellow di AT&T che ha co-curato la grande collezione di articoli di Shannon nel 1993, la prospettiva introdotta dalla teoria della comunicazione di Shannon ora chiamata teoria dell'informazione è il fondamento della rivoluzione digitale, e ogni dispositivo contenente un microprocessore o microcontrollore è un discendente concettuale della pubblicazione di Shannon del 1948: "È uno dei grandi uomini del secolo. Senza di lui, nessuna delle cose che conosciamo oggi esisterebbe. L'intera rivoluzione digitale è iniziata con lui." L'unità shannon è chiamata così in onore di Claude Shannon.
A Mind at Play, una biografia di Shannon scritta da Jimmy Soni e Rob Goodman, è stata pubblicata nel 2017.
Il 30 aprile 2016 Shannon è stato onorato con un Google Doodle per celebrare la sua vita in quella che sarebbe stata la sua 100ª compleanno.
The Bit Player, un lungometraggio su Shannon diretto da Mark Levinson ha avuto il suo debutto mondiale al World Science Festival nel 2019. Tratto da interviste condotte con Shannon nella sua casa negli anni '80, il film è stato rilasciato su Amazon Prime nell'agosto 2020.
Altro lavoro
Il topo di Shannon
"Theseus", creato nel 1950, era un topo meccanico controllato da un circuito di relè elettromeccanico che gli permetteva di muoversi in un labirinto di 25 quadrati. La configurazione del labirinto era flessibile e poteva essere modificata arbitrariamente riorganizzando le partizioni mobili. Il topo è stato progettato per cercare attraverso il corridoio
