Claude Shannon

阅读完整传记、IQ分数、名言和成就 Claude Shannon 在Geniuses.Club上.

信息是不确定性的消解。

Claude Elwood Shannon是一位美国数学家、电气工程师和密码学家,被誉为"信息论之父"。Shannon因其在1948年发表的里程碑论文《通信的数学理论》而闻名于世,该论文标志着信息论的诞生。

他也因在1937年创立数字电路设计理论而备受瞩目。当时他还是Massachusetts Institute of Technology MIT的21岁硕士研究生,他的论文证明了布尔代数的电气应用可以构造任何逻辑数值关系。Shannon在第二次世界大战期间为国防事业贡献了密码分析领域的研究成果,包括他在密码破译和安全通信方面的基础性工作。

传记

童年

Shannon家族住在Michigan的Gaylord,Claude在附近的Petoskey医院出生。他的父亲Claude Sr.(1862–1934)是一位商人,曾担任遗产法法官,他的母亲Mabel Wolf Shannon(1890–1945)是一位语言教师,也曾担任Gaylord高中的校长。

Shannon生命中前16年的大部分时间都在Gaylord度过,他在公立学校就读,并于1932年从Gaylord高中毕业。Shannon对机械和电气事物表现出了浓厚的兴趣。他最擅长的科目是科学和数学。在家里,他制作了飞机模型、遥控模型船和一套铁丝电报系统(连接到半英里外的朋友家)。成长过程中,他还曾在Western Union公司担任信差。

他童年的英雄是Thomas Edison,后来他得知Edison是他的远房亲戚。Shannon和Edison都是John Ogden(1609–1682)的后代,John Ogden是殖民地领导人,也是许多杰出人士的祖先。

逻辑电路

1932年,Shannon进入University of Michigan,在那里他接触到了George Boole的著作。他于1936年毕业,获得了两个学士学位:一个是电气工程学位,另一个是数学学位。

1936年,Shannon开始在MIT攻读电气工程硕士学位,他曾在Vannevar Bush的微分分析仪(一台早期模拟计算机)上工作。在研究这台分析仪复杂的临时电路时,Shannon设计了基于Boole概念的开关电路。1937年,他完成了硕士论文《继电器和开关电路的符号分析》。该论文的一篇论文发表于1938年。在这项工作中,Shannon证明了他的开关电路可以用来简化当时在电话呼叫路由开关中使用的机电继电器的排列。随后,他扩展了这个概念,证明了这些电路可以解决布尔代数能解决的所有问题。在最后一章中,他展示了几个电路的图表,包括一个4位全加器。

使用电气开关的这一特性来实现逻辑是所有电子数字计算机的基础概念。Shannon的工作成为了数字电路设计的基础,它在第二次世界大战期间和之后在电气工程界得到了广泛认可。Shannon工作的理论严谨性超越了之前盛行的临时方法。Howard Gardner称Shannon的论文"可能是本世纪最重要的、也是最著名的硕士论文"。

Shannon在1940年获得了MIT的博士学位。Vannevar Bush建议Shannon应该在Cold Spring Harbor Laboratory进行论文研究,以便为孟德尔遗传学开发数学公式。这项研究最终成为了Shannon的博士论文《理论遗传学代数》。

1940年,Shannon成为了Princeton New Jersey Institute for Advanced Study的国家研究员。在Princeton,Shannon有机会与Hermann Weyl和John von Neumann等有影响力的科学家和数学家交流他的想法,他还偶尔与Albert Einstein和Kurt Gödel相遇。Shannon自由地跨越学科工作,这种能力可能对他后来开发数学信息论有所贡献。

战时研究

之后,Shannon加入了Bell Labs,在国家防御研究委员会NDRC的D-2控制系统部门的合同下,从事火控系统和密码学研究。

Shannon因1942年信号流图的发明而获得认可。他在调查模拟计算机的功能操作时发现了拓扑增益公式。

1943年初的两个月里,Shannon与英国杰出数学家Alan Turing有过接触。Turing被派到Washington与美国海军密码破译部门分享英国政府密码和密码学校Bletchley Park用来破译Kriegsmarine U型潜艇在北大西洋使用的密码的方法。他也对语音加密感兴趣,为此在Bell Labs停留了一段时间。Shannon和Turing在食堂的茶点时间见面。Turing向Shannon展示了他1936年的论文,该论文定义了现在被称为"通用Turing机"的概念。这给Shannon留下了深刻印象,因为许多思想与他自己的想法相符。

1945年,随着战争接近尾声,NDRC发布了技术报告摘要作为其最终关闭前的最后一步。在火控卷中,有一篇特别论文《火控系统中的数据平滑与预测》,由Shannon、Ralph Beebe Blackman和Hendrik Wade Bode共同撰写,正式将火控中的数据平滑问题与"在通信系统中将信号与干扰噪声分离的问题"进行了类比。换句话说,它用数据和信号处理术语对问题进行了建模,从而预示了信息时代的到来。

Shannon关于密码学的工作与他后来关于通信理论的出版物更为密切相关。战争结束时,他为Bell Telephone Labs准备了一份机密备忘录,题为《密码学的数学理论》,日期为1945年9月。这篇论文的解密版本于1949年在《Bell系统技术杂志》上以《保密系统的通信理论》的名义发表。这篇论文包含了许多概念和数学公式,这些概念和公式也出现在他的《通信的数学理论》中。Shannon说他在战时对通信理论和密码学的见解是同时发展的,"它们紧密相连,你无法将它们分开"。在这份机密报告开头附近的脚注中,Shannon宣布了他的意图,即"在即将发表的关于信息传输的备忘录中进一步发展这些结果"。

在Bell Labs工作期间,Shannon证明了一次性密码本在密码学中是无法破解的,他的机密研究后来在1949年10月发表。他还证明了任何无法破解的系统必须具有与一次性密码本本质上相同的特征:密钥必须是真正随机的、与明文一样长、不能全部或部分重复使用,并且必须保密。

信息论

1948年,承诺的备忘录以《通信的数学理论》的名义出现,这是一篇发表在《Bell系统技术杂志》7月和10月期刊上的两部分文章。这项工作关注的是如何最好地对发送者想要传输的信息进行编码的问题。在这项基础工作中,他使用了Norbert Wiener开发的概率论工具,这些工具当时才刚开始应用于通信理论。Shannon开发了信息熵作为消息中信息内容的度量,这是消息所减少的不确定性的度量,同时他本质上发明了信息论领域。1949年,Claude Shannon和Robert Fano设计了一种系统的方法来根据数据块的概率分配码字。这种技术被称为Shannon-Fano编码,首次在1948年的文章中提出。

与Warren Weaver合著的《通信的数学理论》一书重印了Shannon的1948年文章和Weaver对其的通俗化解释,这对非专业人士是可以理解的。Warren Weaver指出,通信理论中的"信息"一词与你所说的内容无关,而与你可能说的内容有关。也就是说,信息是衡量一个人在选择消息时自由选择的程度。Shannon的概念也在John Robinson Pierce的《符号、信号和噪声》一书中得到了通俗化,并经过了他自己的校对。

信息论对自然语言处理和计算语言学的根本贡献在1951年进一步确立,他发表了《英文的预测和熵》文章,展示了英文统计的熵上下界——为语言分析提供了统计基础。此外,他证明了将空格视为字母表的第27个字母实际上会降低书面语言的不确定性,为文化实践和概率认知之间的联系提供了清晰的量化关系。

1949年发表的另一篇值得注意的论文是《保密系统的通信理论》,这是他战时关于密码学数学理论工作的解密版本,他在其中证明了所有理论上无法破解的密码都必须具有与一次性密码本相同的要求。他还因引入采样理论而获得认可,该理论涉及从均匀离散采样集表示连续时间信号。这个理论对于实现1960年代及以后电信从模拟传输系统向数字传输系统的转变至关重要。

他在1956年回到MIT担任讲席教授。

在MIT教学

1956年,Shannon加入MIT faculty在电子研究实验室RLE工作。他继续在MIT faculty任职直到1978年。

晚年生活

Shannon患上了阿尔茨海默病,生命的最后几年在养老院度过;他于2001年去世,身后留下妻子、一个儿子和一个女儿,以及两个孙女。

爱好和发明

除了学术研究之外,Shannon还对杂耍、独轮车和国际象棋感兴趣。他还发明了许多设备,包括一台名为THROBAC的罗马数字计算机、杂耍机器和一支喷火小号。他制造了一台可以解决魔方拼图的设备。

Shannon设计了Minivac 601,这是一台数字计算机培训器,用于教导商人了解计算机如何工作。从1961年开始由Scientific Development Corp销售。

他也被认为是与Edward O. Thorp共同发明的第一台可穿戴计算机的发明者。该设备被用来改善玩轮盘赌时的赔率。

个人生活

Shannon在1940年1月与Norma Levor结婚,她是一位富有的、犹太人、左翼知识分子。婚姻在约一年后以离婚告终。Levor后来嫁给了Ben Barzman。

Shannon在Bell Labs遇见了他的第二任妻子Betty Shannon(娘家名Mary Elizabeth Moore),当时她是Bell Labs的数值分析员。他们于1949年结婚。Betty协助Claude制造了他的一些最著名的发明。他们有三个孩子。

Shannon在政治上保持中立,是一位无神论者。

致敬

有六座由Eugene Daub雕刻的Shannon雕像:一座在University of Michigan;一座在MIT电子研究实验室LIDS;一座在Michigan的Gaylord;一座在University of California, San Diego;一座在Bell Labs;还有一座在AT&T Shannon Labs。在Bell系统解体后,与AT&T Corporation一起留下的Bell Labs部分以他的名字命名为Shannon Labs。

根据AT&T Fellow Neil Sloane的说法,他在1993年共同编辑了Shannon的大量论文集,Shannon的通信理论(现称为信息论)所引入的观点是数字革命的基础,每个包含微处理器或微控制器的设备都是Shannon1948年出版物的概念后代:"他是本世纪最伟大的人物之一。没有他,我们今天所知道的一切都不会存在。整个数字革命从他开始。"Shannon单位以Claude Shannon的名字命名。

由Jimmy Soni和Rob Goodman撰写的Shannon传记《A Mind at Play》于2017年出版。

2016年4月30日,Shannon在谷歌涂鸦中得到荣誉,以庆祝他在100岁生日前夕的人生。

由Mark Levinson执导的关于Shannon的故事片《The Bit Player》于2019年在World Science Festival首映。这部电影改编自1980年代在Shannon家中进行的采访,于2020年8月在Amazon Prime上发布。

其他工作

Shannon的老鼠

"Theseus"创建于1950年,是一只由机电继电器电路控制的机械老鼠,使其能够在由25个方格组成的迷宫中移动。迷宫配置是灵活的,可以通过重新排列可移动的隔板来任意修改。老鼠被设计来搜索走廊

与伟人比较

Augustine Of Hippo vs Edgar Allan PoeFrancis Crick vs Friedrich NietzscheCarl Sagan vs Linus PaulingSalvador Dal vs Sigmund Freud
查看排行 →所有对比 →

神童

Shakuntala DeviShakuntala DeviMultiplied two 13-digit numbers in her head in 28 secondsJeremy ShulerJeremy ShulerCornell University at 12 — Reading at 21 Months, Top-Decile SAT…Akiane KramarikAkiane KramarikSelf-Taught Painter from Age 4 — Paintings Sold for Up to…Marko ČalasanMarko ČalasanWorld's Youngest Microsoft Certified Systems Engineer — Age 8…
神童 →

玩一玩,明天再来

每日天才挑战 · Guess the genius
19th-century mathematician who wrote the first algorithm for Charles Babbage's Analytical Engine.
点选你的答案 ↓
你是哪位天才? 免费智商测试