정보란 불확실성의 해결이다.
Claude Elwood Shannon은 "정보이론의 아버지"로 알려진 미국의 수학자, 전기공학자, 암호분석가이다. Shannon은 1948년에 발표한 "통신의 수학적 이론"이라는 획기적인 논문으로 정보이론을 창립한 것으로 유명하다.
그는 또한 1937년 디지털 회로 설계 이론을 창립한 것으로 잘 알려져 있다. 당시 매사추세츠 공과대학교(MIT)의 21세 석사학위 학생이었던 그는 부울 대수의 전기적 응용이 모든 논리적 수치 관계를 구성할 수 있음을 보여주는 논문을 작성했다. Shannon은 제2차 세계대전 중 국방을 위해 암호분석 분야에 기여했으며, 암호 해독 및 안전한 통신에 대한 근본적인 업적을 남겼다.
생애
어린 시절
Shannon 가족은 Michigan의 Gaylord에 살았고, Claude는 인근 Petoskey의 병원에서 태어났다. 그의 아버지 Claude Sr. (1862–1934)는 사업가였으며 한때 유산 판사를 역임했고, 어머니 Mabel Wolf Shannon (1890–1945)는 언어 교사로 Gaylord High School의 교장을 역임했다.
Shannon이 인생의 처음 16년 대부분을 Gaylord에서 보냈고, 공립학교에 다니며 1932년 Gaylord High School을 졸업했다. Shannon은 기계적이고 전기적인 것들에 대한 성향을 보였다. 그의 최고의 과목은 과학과 수학이었다. 집에서 그는 비행기 모형, 무선 조종 보트 모형, 그리고 친구 집까지 반 마일 거리의 유선 전신 시스템과 같은 장치들을 만들었다. 성장하면서 그는 또한 Western Union 회사의 메신저로 일했다.
그의 어린 시절 영웅은 Thomas Edison이었으며, 나중에 그가 먼 친척임을 알게 되었다. Shannon과 Edison 모두 1609–1682년의 식민지 지도자이자 많은 저명인사의 조상인 John Ogden의 후손이었다.
논리 회로
1932년 Shannon은 Michigan 대학교에 입학했고, George Boole의 업적을 소개받았다. 그는 1936년에 전기공학과 수학 두 개의 학사학위를 받고 졸업했다.
1936년 Shannon은 MIT의 전기공학 대학원 과정을 시작했으며, Vannevar Bush의 차분 해석기(초기 아날로그 컴퓨터)에서 일했다. 이 해석기의 복잡한 임시 회로를 연구하면서 Shannon은 Boole의 개념을 기반으로 한 스위칭 회로를 설계했다. 1937년 그는 석사학위 논문 "계전기 및 스위칭 회로의 기호 분석"을 작성했다. 이 논문에서 나온 논문은 1938년에 발표되었다. 이 연구에서 Shannon은 그의 스위칭 회로가 당시 전화 교환 회로에 사용되던 전자기계식 계전기의 배치를 단순화하는 데 사용될 수 있음을 증명했다. 다음으로, 그는 이 개념을 확장하여 이러한 회로가 부울 대수가 풀 수 있는 모든 문제를 해결할 수 있음을 증명했다. 마지막 장에서 그는 4비트 전 가산기를 포함한 여러 회로의 다이어그램을 제시했다.
전기 스위치의 이 특성을 사용하여 논리를 구현하는 것은 모든 전자 디지털 컴퓨터의 기초가 되는 근본적인 개념이다. Shannon의 연구는 제2차 세계대전 중과 이후 전기공학 커뮤니티에 널리 알려지면서 디지털 회로 설계의 기초가 되었다. Shannon의 연구의 이론적 엄밀성은 이전에 널리 퍼져 있던 임시 방편적 방법들을 능가했다. Howard Gardner는 Shannon의 논문을 "아마도 이 세기의 가장 중요하고 가장 주목받은 석사 논문"이라고 불렀다.
Shannon은 1940년 MIT에서 박사학위를 받았다. Vannevar Bush는 Shannon이 멘델 유전학의 수학적 공식화를 개발하기 위해 Cold Spring Harbor Laboratory에서 박사 학위 논문을 작성해야 한다고 제안했다. 이 연구로 인해 Shannon의 박사 논문 "이론적 유전학을 위한 대수"가 나왔다.
1940년 Shannon은 New Jersey의 Princeton에 있는 고급 연구소의 전국 연구 펠로우가 되었다. Princeton에서 Shannon은 Hermann Weyl과 John von Neumann 같은 영향력 있는 과학자 및 수학자들과 자신의 아이디어를 논의할 기회를 가졌으며, Albert Einstein과 Kurt Gödel과 가끔 만났다. Shannon은 학제 간에 자유롭게 일했으며, 이 능력이 나중에 그의 수학적 정보이론 발전에 기여했을 수 있다.
전시 연구
Shannon은 이후 Bell Labs에 합류하여 제2차 세계대전 중 국방 연구 위원회(NDRC)의 D-2 제어 시스템 부서의 계약에 따라 화재 통제 시스템 및 암호화에 대한 업무를 수행했다.
Shannon은 1942년 신호 흐름 그래프의 발명으로 인정받는다. 그는 아날로그 컴퓨터의 기능적 동작을 조사하던 중 위상 이득 공식을 발견했다.
1943년 초 2개월 동안 Shannon은 저명한 영국 수학자 Alan Turing과 접촉했다. Turing은 Bletchley Park의 영국 정부 암호 학교에서 대서양 북부의 Kriegsmarine 잠수함이 사용하는 암호를 해독하는 데 사용한 방법을 미 해군의 암호 분석 서비스와 공유하기 위해 Washington에 파견되었다. 그는 또한 음성 암호화에 관심이 있어 Bell Labs에서 시간을 보냈다. Shannon과 Turing은 식당의 티타임에 만났다. Turing은 현재 "Universal Turing machine"으로 알려진 것을 정의한 그의 1936년 논문을 Shannon에게 보여주었다. 이는 Shannon에게 깊은 인상을 주었으며, 많은 아이디어가 그 자신의 아이디어를 보완했다.
1945년 전쟁이 막바지에 이르자 NDRC는 최종 폐지 전 마지막 단계로 기술 보고서 요약을 발행했다. 화재 통제 관련 권의 내에 Shannon, Ralph Beebe Blackman, Hendrik Wade Bode가 공동 저술한 "화재 통제 시스템의 데이터 평활화 및 예측"이라는 특별 에세이가 "통신 시스템에서 간섭 노이즈로부터 신호를 분리하는 문제"와의 유사성으로 화재 통제의 데이터 평활화 문제를 공식적으로 다루었다. 즉, 데이터 및 신호 처리 측면에서 문제를 모델링하여 정보 시대의 도래를 예고했다.
Shannon의 암호화 관련 업무는 나중의 통신이론 발표와 더욱 밀접하게 연결되어 있었다. 전쟁 종료 시 그는 1945년 9월로 날짜가 지정된 "암호화의 수학적 이론"이라는 제목의 분류된 메모를 Bell Telephone Labs에 제출했다. 이 논문의 비분류 버전은 1949년 Bell System Technical Journal의 "통신 보안 시스템 이론"으로 발표되었다. 이 논문은 그의 "통신의 수학적 이론"에도 나타난 많은 개념과 수학적 공식화를 포함했다. Shannon은 그의 전시 통신이론 및 암호화에 대한 통찰이 동시에 발전했으며 "그것들은 매우 밀접해서 분리할 수 없었다"고 말했다. 분류된 보고서 시작 근처의 각주에서 Shannon은 "정보 전송에 대한 후속 메모에서 이러한 결과를 발전시키겠다"는 의도를 발표했다.
Bell Labs에 있는 동안 Shannon은 나중에 1949년 10월에 발표된 분류된 연구에서 암호화 원타임 패드가 깨질 수 없음을 증명했다. 그는 또한 모든 깨질 수 없는 시스템이 원타임 패드와 본질적으로 동일한 특성을 가져야 함을 증명했다: 키는 진정으로 무작위여야 하며, 평문만큼 커야 하고, 전체 또는 일부로 재사용되지 않으며, 비밀로 유지되어야 한다.
정보이론
1948년 약속된 메모는 Bell System Technical Journal의 7월과 10월 호에 두 부분으로 나뉜 "통신의 수학적 이론"이라는 논문으로 나타났다. 이 업적은 송신자가 전송하고자 하는 정보를 최적으로 인코딩하는 방법에 대한 문제에 초점을 맞춘다. 이 근본적인 연구에서 그는 당시 통신이론에 적용되기 시작한 초기 단계에 있던 Norbert Wiener가 개발한 확률론의 도구를 사용했다. Shannon은 메시지의 정보 내용의 측정값인 정보 엔트로피를 개발했으며, 이는 메시지로 인해 감소된 불확실성의 측정값이면서 본질적으로 정보이론의 분야를 창안했다. 1949년 Claude Shannon과 Robert Fano는 블록의 확률에 기반하여 코드워드를 할당하는 체계적인 방법을 고안했다. Shannon–Fano 부호화로 알려진 이 기법은 1948년 논문에서 처음 제안되었다.
Warren Weaver와 공동 저술한 책 "통신의 수학적 이론"은 Shannon의 1948년 논문과 Weaver의 대중화 버전을 다시 인쇄했으며, 비전문가도 접근 가능하다. Warren Weaver는 통신이론에서 "정보"라는 단어가 당신이 말한 것과는 관련이 없지만 당신이 말할 수 있는 것과 관련이 있다고 지적했다. 즉, 정보는 메시지를 선택할 때 선택의 자유도를 측정하는 것이다. Shannon의 개념은 또한 그 자신의 교정을 거쳐 John Robinson Pierce의 "기호, 신호, 그리고 소음"에서 대중화되었다.
정보이론의 자연어 처리 및 계산 언어학에 대한 근본적 기여는 1951년 "인쇄된 영어의 예측 및 엔트로피"라는 논문에서 더욱 확립되었으며, 영어 통계의 엔트로피 상한선과 하한선을 보여주어 언어 분석에 통계적 기초를 제공했다. 또한 그는 공백을 알파벳의 27번째 문자로 취급하는 것이 실제로 쓰여진 언어의 불확실성을 낮춘다는 것을 증명했으며, 문화적 관행과 확률적 인식 사이에 명확한 정량화 가능한 연결고리를 제공했다.
1949년에 발표된 또 다른 주목할 만한 논문은 "통신 보안 시스템 이론"으로, 암호화의 수학적 이론에 대한 전시 업무의 비분류 버전이며, 모든 이론적으로 깨질 수 없는 암호가 원타임 패드와 동일한 요구사항을 가져야 함을 증명했다. 그는 또한 균일한 이산 샘플 세트로부터 연속 시간 신호를 표현하는 것과 관련된 샘플링 이론의 도입으로도 인정받는다. 이 이론은 1960년대 이후 통신이 아날로그에서 디지털 전송 시스템으로 전환되는 것을 가능하게 하는 데 필수적이었다.
그는 1956년 MIT로 돌아가 석좌 교수직을 맡았다.
MIT에서의 교직
1956년 Shannon은 MIT 교수진에 합류하여 전자공학 연구소(RLE)에서 일했다. 그는 1978년까지 MIT 교수진으로 계속 봉직했다.
말년
Shannon은 알츠하이머병을 앓았고 인생의 마지막 몇 년을 요양원에서 보냈으며, 2001년에 아내, 아들 1명, 딸 1명, 그리고 손녀 2명이 있는 상태로 사망했다.
취미 및 발명
Shannon의 학문적 추구 외에도 그는 저글링, 외발 자전거, 그리고 체스에 관심이 있었다. 그는 또한 THROBAC라는 로마 숫자 컴퓨터, 저글링 기계, 그리고 불꽃을 분사하는 트럼펫을 포함한 많은 장치를 발명했다. 그는 루빅스 큐브 퍼즐을 풀 수 있는 장치를 만들었다.
Shannon은 사람들이 컴퓨터가 어떻게 작동하는지를 배우도록 가르치기 위한 디지털 컴퓨터 트레이너인 Minivac 601을 설계했다. 1961년부터 Scientific Development Corp에 의해 판매되었다.
그는 또한 Edward O. Thorp와 함께 최초의 웨어러블 컴퓨터의 공동 발명자로 여겨진다. 이 장치는 룰렛을 할 때 승률을 높이는 데 사용되었다.
개인 생활
Shannon은 1940년 1월에 부유하고 유대계이며 좌파 지식인인 Norma Levor와 결혼했다. 혼인은 약 1년 후 이혼으로 끝났다. Levor는 나중에 Ben Barzman과 결혼했다.
Shannon은 Bell Labs의 수치 분석가였던 두 번째 아내 Betty Shannon (구 Mary Elizabeth Moore)을 만났다. 그들은 1949년에 결혼했다. Betty는 Claude가 그의 가장 유명한 발명품 중 일부를 만드는 것을 도왔다. 그들은 3명의 자녀가 있었다.
Shannon은 정치적으로 무관심했으며 무신론자였다.
추모
Eugene Daub가 조각한 Shannon의 동상 6개가 있다: Michigan 대학교 1개, MIT의 정보 및 의사결정 시스템 실험실 1개, Gaylord Michigan 1개, University of California, San Diego 1개, Bell Labs 1개, AT&T Shannon Labs 1개. Bell System의 분해 후 AT&T Corporation에 남은 Bell Labs의 일부는 그의 영예로 Shannon Labs로 명명되었다.
1993년 Shannon의 대규모 논문 모음을 공동 편집한 AT&T Fellow인 Neil Sloane에 따르면, Shannon의 통신이론(현재 정보이론이라고 불림)에 의해 도입된 관점은 디지털 혁명의 기초이며, 마이크로프로세서나 마이크로컨트롤러를 포함하는 모든 장치는 Shannon의 1948년 발표의 개념적 후손이다: "그는 이 세기의 위대한 인물 중 한 명이다. 그가 없었다면 우리가 오늘 알고 있는 어떤 것도 존재하지 않을 것이다. 전체 디지털 혁명은 그로부터 시작되었다." shannon이라는 단위는 Claude Shannon의 이름을 따서 명명되었다.
Jimmy Soni와 Rob Goodman이 저술한 Shannon의 전기 "A Mind at Play"는 2017년에 출판되었다.
2016년 4월 30일 Shannon은 그의 100번째 생일이 되었을 날을 기념하기 위해 Google Doodle로 영예를 안았다.
Mark Levinson이 감독한 Shannon에 관한 장편 영화 "The Bit Player"는 2019년 World Science Festival에서 초연되었다. 1980년대 그의 집에서 Shannon과 함께 진행한 인터뷰로부터 그려진 이 영화는 2020년 8월 Amazon Prime에 출시되었다.
기타 업무
Shannon의 쥐
1950년에 만들어진 "Theseus"는 25개의 정사각형으로
