情報とは不確実性の解決である。
Claude Elwood Shannonはアメリカの数学者、電気技術者、暗号学者であり、「情報理論の父」として知られています。Shannonは1948年に発表した「通信の数学的理論」という画期的な論文で情報理論を創立したことで注目されています。
また、1937年にデジタル回路設計理論を創立したことでもよく知られています。その時、彼はマサチューセッツ工科大学(MIT)の修士課程の学生で21歳でしたが、ブール代数の電気的応用がいかなる論理的数値関係も構築できることを実証する論文を執筆しました。Shannonは第二次世界大戦中、国防のための暗号解析分野に貢献し、暗号解読と安全な通信に関する基本的な業績を残しました。
経歴
幼少期
Shannon一族はミシガン州Gaylordに住んでおり、Claudeは近くのPetoskeyの病院で生まれました。彼の父、Claude Sr.(1862年–1934年)はビジネスマンで、しばらくの間遺産管理裁判官を務めていました。母親のMabel Wolf Shannon(1890年–1945年)は言語教師で、Gaylord High Schoolの校長も務めていました。
Shannonの人生の最初の16年間のほとんどはGaylordで過ごされ、そこで公立学校に通い、1932年にGaylord High Schoolを卒業しました。Shannonは機械的および電気的なものに対する傾向を示しました。彼の得意科目は科学と数学でした。家では飛行機のモデル、ラジオ操縦のモデルボート、友人の家まで半マイル離れた場所への有刺鉄線電信システムなどの装置を製作しました。成長過程で、彼はWestern Union会社のメッセンジャーとしても働きました。
彼の幼少期の英雄はThomas Edisonで、後に彼が遠い親戚であることを知りました。ShannonとEdisonはどちらもJohn Ogden(1609年–1682年)の子孫で、彼は植民地時代の指導者であり、多くの著名人の祖先でした。
論理回路
1932年、Shannonはミシガン大学に入学し、George Booleの業績に紹介されました。彼は1936年に電気工学と数学の2つの学士号を取得して卒業しました。
1936年、ShannonはMITの電気工学の大学院研究を開始し、Vannevar Bushの微分解析機(初期のアナログコンピュータ)で働きました。このアナライザーの複雑なアドホック回路を研究している間に、Shannonはbooleの概念に基づいた交換回路を設計しました。1937年、彼は修士論文「リレーとスイッチング回路の記号解析」を執筆しました。この論文は1938年に発表されました。この研究において、Shannonは彼のスイッチング回路が、当時電話通話ルーティングスイッチで使用されていた電気機械的リレーの配置を簡略化するために使用できることを証明しました。次に、彼はこの概念を拡張し、これらの回路がブール代数が解くことができるすべての問題を解くことができることを証明しました。最後の章では、4ビット完全加算器を含むいくつかの回路の図を提示しました。
論理を実装するための電気スイッチのこの特性を使用することは、すべての電子デジタルコンピュータの基盤となっている基本的な概念です。Shannonの業績はデジタル回路設計の基礎となり、第二次世界大戦中および戦後の電気工学のコミュニティで広く知られるようになりました。Shannonの業績の理論的厳密さは、以前に一般的だったアドホック手法に取って代わりました。Howard Gardnerはshannon の論文を「おそらく世紀で最も重要で、最も注目されている修士論文」と呼びました。
Shannonは1940年にMITからPhDを取得しました。Vannevar Bushはshannon が Cold Spring Harbor Laboratoryで論文に取り組むべきだと提案しました。これはメンデル遺伝学の数学的定式化を開発するためです。この研究はShannon の博士論文「理論遺伝学の代数」を生み出しました。
1940年、Shannonはニュージャージー州プリンストンの高等研究所でNational Research Fellowになりました。プリンストンでは、ShannonはHermann WeylやJohn von Neumannなどの影響力のある科学者や数学者と彼の考えを議論する機会がありました。また、Albert EinsteinとKurt Gödelとの時々の出会いもありました。Shannonは学問領域を超えて自由に活動し、この能力は後の数学情報理論の発展に貢献したかもしれません。
戦時中の研究
その後、Shannonはベル研究所に参加して、国防研究委員会(NDRC)のD-2制御システムセクションとの契約の下、第二次世界大戦中に火力制御システムと暗号化に取り組みました。
Shannonは1942年に信号フロー図の発明で認められています。彼はアナログコンピュータの機能動作を調査している間にトポロジゲイン式を発見しました。
1943年初頭の2ヶ月間、Shannonは著名なイギリスの数学者Alan Turingと接触しました。Turingはワシントンに派遣され、アメリカ海軍の暗号解析サービスに、イギリスの政府暗号学校(Bletchley Park)が北大西洋でKriegsmarineの潜水艦によって使用された暗号を破るために使用した方法を共有するためです。彼は音声の暗号化にも関心があり、この目的のためにBell Labsで時間を過ごしました。ShannonとTuringはカフェテリアのティータイムで会いました。Turingはshannon に、現在「Universal Turing machine」として知られているものを定義した1936年の論文を見せました。これはShannonに感銘を与えました。その多くの考えは彼自身の考えを補完したからです。
1945年、戦争が終わりに近づくと、NDRCは最終的な閉鎖の前の最後の段階として技術報告書の要約を発行していました。火力制御に関するボリューム内で、Shannonが共著した「火力制御システムにおけるデータ平滑化と予測」という特別なエッセイは、「通信システムにおける干渉ノイズからシグナルを分離する問題」との類推によって、火力制御のデータを平滑化する問題を正式に扱いました。言い換えれば、それはデータとシグナル処理の観点から問題をモデル化し、情報化時代の到来を予告しました。
Shannonの暗号化に関する業績は、後の通信理論に関する発表とさらに密接に関連していました。戦争の終わりに、彼はBell Telephone Labsのために「暗号化の数学的理論」と題された機密メモランダムを作成しました。日付は1945年9月です。この論文の機密解除版は1949年に「Communication Theory of Secrecy Systems」としてBell System Technical Journalで発表されました。この論文は、彼の「通信の数学的理論」にも掲載された多くの概念と数学的定式化を組み込みました。Shannonは彼の戦時中の通信理論と暗号化に関する洞察が同時に発展し、「それらはとても密接に一緒だったので分離できなかった」と述べました。機密報告書の最初の近くの脚注では、Shannonは「これらの結果…情報の伝達に関する今後のメモランダムで発展させる」という彼の意図を発表しました。
Bell Labsにいる間、Shannonは、後に1949年10月に発表された機密研究で暗号化ワンタイムパッドが壊せないことを証明しました。彼はまた、壊すことができないシステムはワンタイムパッドと本質的に同じ特性を持つ必要があることを証明しました。鍵は真にランダムでなければならず、平文と同じくらい大きく、全体または一部で再利用されず、秘密に保たれる必要があります。
情報理論
1948年、約束のメモランダムは「通信の数学的理論」として現れました。これはBell System Technical Journalの7月号と10月号の2部構成の記事です。この業績は、送信者が送信したい情報を最も良くエンコードする方法の問題に焦点を当てています。この基本的な業績において、彼はNorbert Wienerによって開発された確率理論のツールを使用しました。これは当時通信理論に適用されているその始まりの段階にありました。Shannonはメッセージの情報コンテンツの尺度として情報エントロピーを開発しました。これはメッセージによって削減された不確実性の尺度であり、本質的に情報理論の分野を発明しました。1949年、Claude ShannonとRobert Fanoは、ブロックの確率に基づいてコード語を割り当てる体系的な方法を考案しました。Shannon-Fano符号化として知られるこの手法は、1948年の記事で最初に提案されました。
Warren Weaverと共著した本「通信の数学的理論」はShannonの1948年の記事とWeaverによるその一般向けの説明を再版しており、専門家以外にもアクセス可能です。Warren Weaverは通信理論における「情報」という言葉があなたが何を言うかではなく、あなたが何を言うことができるかに関連していることを指摘しました。つまり、情報はメッセージを選択するときの人の選択の自由度の尺度です。Shannonの概念はまた、John Robinson Pierceの「Symbols, Signals, and Noise」で彼自身の校正を受けて一般向けにされました。
情報理論の自然言語処理と計算言語学への基本的な貢献は、1951年に彼の記事「英語の予測とエントロピー」でさらに確立されました。これは英語の統計にエントロピーの上限と下限を示し、言語分析に統計的基礎を与えています。さらに、彼は空白を字母の27番目の文字として扱うことが実際には書き言葉の不確実性を低下させることを証明し、文化的慣行と確率的認知の間に明確な定量的なリンクを提供しました。
1949年に発表された別の注目すべき論文は「Communication Theory of Secrecy Systems」で、これは暗号化の数学的理論に関する彼の戦時中の業績の機密解除版であり、彼は理論的に壊すことができないすべての暗号がワンタイムパッドと同じ要件を持つ必要があることを証明しました。彼はまた、サンプリング理論の導入で認められています。これは一様な離散サンプルのセットから連続時間シグナルを表現することに関係しています。この理論は、1960年代以降に通信が類似物から数位伝送システムに移行することを可能にするために不可欠でした。
彼は1956年にMITに戻ってendowed chairを保有していました。
MITでの教育
1956年、Shannonはエレクトロニクス研究所(RLE)で働くためにMITの教員に参加しました。彼は1978年まで引き続きMITの教員を務めました。
晩年
Shannonはアルツハイマー病を患い、彼の人生の最後の数年間は介護施設で過ごしました。彼は2001年に亡くなり、彼の妻、息子と娘、および2人の孫娘が彼を生き残りました。
趣味と発明
Shannonの学問的追求の外で、彼はジャグリング、一輪車乗り、チェスに興味を持っていました。彼はまた、THROBACと呼ばれるローマ数字コンピュータ、ジャグリングマシン、火炎放射トランペットなど、多くのデバイスを発明しました。彼はRubik's Cubeパズルを解くことができるデバイスを構築しました。
Shannonはビジネスマンにコンピュータの機能について教えるためのデジタルコンピュータトレーナーであるMinivac 601を設計しました。これは1961年からScientific Development Corpによって販売されました。
彼はまた、Edward O. Thorpと共にコンピュータの最初のウェアラブルの共同発明者と見なされています。このデバイスはルーレットをプレイする際のオッズを改善するために使用されました。
個人的な生活
Shannonは1940年1月に、裕福で、ユダヤ人で、左寄りの知識人であるNorma Lavorと結婚しました。結婚は約1年後に離婚に終わりました。Lavorは後にBen Barzmanと結婚しました。
ShannonはBell Labsで数値アナリストだった2番目の妻Betty Shannon(旧姓Mary Elizabeth Moore)に会いました。彼らは1949年に結婚しました。Bettyはclaudeが彼の最も有名な発明のいくつかを構築するのを支援しました。彼らは3人の子供がいました。
Shannonは無党派派であり、無神論者でした。
敬意
Eugene Daubによって彫刻されたShannonの6つの像があります。1つはミシガン大学にあり、1つはMITの情報・決定システム研究所にあり、1つはミシガン州Gaylordにあり、1つはカリフォルニア大学サンディエゴ校にあり、1つはBell Labsにあり、もう1つはAT&T Shannon Labsにあります。Bell Systemの解散後、AT&T Corporationに残ったBell Labsの部分は彼の名誉を称えてShannon Labsという名前が付けられました。
AT&T Fellowで1993年にShannonの大規模な論文集を共同編集したNeil Sloanによると、Shannonの通信理論によって導入された観点は、現在情報理論と呼ばれており、デジタル革命の基礎であり、マイクロプロセッサまたはマイクロコントローラを含むすべてのデバイスは、1948年のShannonの発表の概念的な子孫です。「彼は世紀の偉大な男性の一人です。彼がいなければ、私たちが今知っていることのどれも存在しないでしょう。デジタル革命全体は彼から始まりました。」shannonという単位はClaude Shannonにちなんで名付けられています。
「A Mind at Play」はJimmy SoniとRob Goodmanによって書かれたShannonの伝記で、2017年に発表されました。
2016年4月30日、Shannonは彼の100歳の誕生日だったであろう彼の人生を祝うためにGoogle Doodleで称えられました。
「The Bit Player」はMark Levinsonが監督したShannonについての劇場映画で、2019年に世界科学映画祭で初演されました。1980年代にShannonの家で行われたインタビューから引き出されたこの映画は2020年8月にAmazon Primeでリリースされました。
他の業績
Shannonのマウス
1950年に作成された「Theseus」は、電気機械的リレー回路によって制御された機械的マウスで、25個の正方形の迷路の周りを動く能力を可能にしました。迷路の構成は柔軟で、移動可能なパーティションを再配置することで任意に変更できました。マウスは回廊を検索するように設計されました
