섀넌은 2차 세계 대전이 시작된 직후부터 암호를 연구하기 시작했다. 벨 연구소에서 진행된 연구 중 가장 유명한 건 ‘X 시스템(System X)’이란 이름의 워싱턴-런던 핫라인이었다.

당연하게도 독일이 도청할 수 없도록 만드는 것이 핵심이었다. 벨 연구소의 엔지니어들은 다양한 방법으로 목소리를 변형시켰다. 독일에서 도청하지 못하도록 하는게 목표였다. 일부가 적에게 뺏기 더라도 복구하기 힘든 시스템을 만다는 것이 핵심이었다. 당시 사용되는 암호는 전신에 적이 유추하기 힘든 특정한 무작위의 신호를 보내는 것이었다. 그 방법은 하나의 키(key)로 작동했고 그 키가 완벽하게 전달되면 메시지 역시 완벽한 것이라고 판단됐다.

언젠가 처칠과 루즈벨트의 목소리가 핫라인을 타고 전달될 예정이었다. 엔지니어 한 명이 새로운 암호 기술을 개발하면 다른 연구자가 암호화된 메시지를 해독하는 일이 반복됐다. 엔지니어들은 메시지를 보내는 사람과 받는 사람만이 알 수 있는 신호를 무작위로 메시지에 섞어 보내는 기술을 발명했다.

2차 세계 대전이 지속되는 동안 X시스템은 미국과 영국의 전쟁 전략을 맡고 있는 담당 부서 사이에서 정보를 교환하는 요긴한 장치로 사용됐다. 샘플링(sampling)과 양자화(quantization)라는 새로운 기술이 떠올랐다. 목소리는 다양한 높이와 크기로 나눠졌다. X시스템은 첫 디지털 통신 시스템이었다. 아날로그 신호를 전달하는 전화와 달리 X시스템은 몇 개의 숫자로 이뤄진 디지털을 통해 정보를 전달했다.

X 시스템 개발은 비밀리에 이뤄졌기 때문에 섀넌도 정확한 내용을 알 수가 없었다. 그는 “시스템 개발과 관련된 학자들은 세상에서 가장 비밀스러운 사람들이었다”고 회상했다. 벨 연구소 역시 마찬가지였지만 전쟁은 자신의 앞에 놓여 있는 나무만 볼 수 있도록 했다. 자신이 담당하고 있는 자세한 기술에 대해서는 알 수 있었지만 그 기술들이 결합돼 만드는 전체적인 형태에 대해선 파악하지 못했다. 섀넌은 자신이 맡은 일을 묵묵히 해냈다. 다른 과학자들과의 교류 역시 제한적이었다. 그들은 다른 사람들이 무엇을 하는 것인지에 대해서 자세히 알 수 없었다.

1943년 1월 앨런 튜링(Alan Turing)이 뉴욕에 있는 벨 연구소를 방문했다. 목소리를 암호화하는 방법에 궁금증을 풀어보기 위해 미국을 찾았다. 그는 2달간 머물며 섀넌과 가끔 대화를 했다. 점심 시간을 이용해 식사를 즐기며 만났던 그들은 자신들이 진행하고 있던 일에 대해서는 대화를 하지 않았다. 튜닝이 연구하고 있던 이니그마(Enigma)에 대해서나 섀넌이 진행하던 벨 연구소의 일에 대해서는 대화 주제에 오르지 못했다. 카페에서 점심을 먹거나 차를 마시면서 컴퓨터나 인간의 뇌를 자극하는 기계에 대해서 자연스럽게 얘기를 나눴다. 이와 함께 정보를 전달할 수 있는 기계에 대해서도 자연스럽게 대화가 오고갔다. 튜링은 정보의 양을 측정하는 용어를 만들어 냈다. 그가 만든 반(ban)이라는 용어는 섀넌이 정보의 양으로 정의한 비트(bit)와 유사한 개념이다.

1912년 6월 23일 런던에서 태어난 튜링은 어려서부터 수학에서 탁월한 재능을 발휘했다. 15살 때는 수학적 재능이 빼어난 ‘크리스토퍼 모컴’이라는 친구와 친하게 지냈는데, 둘은 힘을 합쳐 엄청나게 복잡한 수학 문제를 풀기로 결심했다. 그런데 2년 뒤 모컴이 결핵으로 숨지자 튜링은 깊이 낙담했고, 이때부터 필생의 과제에 매달리기 시작했다. 인간의 지능을 기계에 넣어두는 방법을 고안하는 일이었다. 튜링은 18살에 케임브리지 대학의 킹스 칼리지에 입학해서 수학을 공부했는데, 수치해석을 비롯해서 확률론과 통계학에 특히 큰 관심을 보였다. 1935년부터는 대학원 연구원으로 일하면서 2년 뒤 ‘계산 가능한 수와 결정문제의 응용에 관하여 (On Computable Numbers, with an Application to the Entscheidungsproblem)’라는 빼어난 논문을 발표해 학계의 주목을 받았다. 이 논문에서는 컴퓨터의 기본 구상이 최초로 선보였는데, ‘튜링기계’라 불리는 가상의 연산 기계가 그것이었다. 읽기와 쓰기, 제어 센터, 이 세 가지만 있으면 모든 계산 가능한 문제를 풀 수 있다는 것이 튜링의 핵심 개념이었다. 오늘날의 컴퓨터는 튜링의 보편만능기계를 그대로 구현하고 있다. 튜링은 영국이 전쟁에 돌입한 지 하루 만인 1939년 9월 4일 런던 북쪽의 블레츨리 파크에 위치한 ‘정부암호학교’의 암호해독반 수학팀장으로 스카우트됐다. 섀넌은 튜링과 함께 일하면서 정보와 암호 기계 발명이 다양한 의견을 모았다. 둘의 만남은 정보이론의 탄생에 있어 중요한 순간이었을 지도 모른다.

작은 시골 마을의 게이놀드 고등학교를 졸업한 그는 1932년 미시건 대학에 입학한다. 그는 가장 좋아하는 과목이 무엇인지 선택하기 힘들었다고 한다. 하지만 라디오를 가지고 놀기를 좋아했고 무선 통신 모델에 대해서 관심을 가지고 있었다. 반 마일 떨어진 곳에 있는 친구 집에 전선을 연결하기도 했다. 전공은 전자공학과 수학이었다. 입학 4년 만인 1936년 2개의 학위를 받고 졸업한다. 전자공학과 수학이다. 워낙 조용했던 탓에 대학 시절에 대한 기록은 남아 있지 않다.

대학 시절에 대한 기록을 비롯해 섀넌의 삶에 대한 기록은 많지 않다. 기자들과의 인터뷰도 사양했고 조용한 은둔가 스타일로 알려져 있다. 특별히 대외 활동을 하지도 않았다. 2진수 등을 연구한 조지 불(George Boole)의 수업에 빠져 있었다고 한다. 섀넌의 인생은 학부 게시판의 공고문을 보곤 바뀌게 된다. 그 게시물은 MIT(Massachusetts Institute of Technology)대의 바네바 부시(Vannevar Bush) 교수가 조교를 모집하는 공고문이었다.

부시 자신이 발명한 미분 해석기(differential analyzer)를 운영하는 조교를 모집했다. 미분 해석기는 간단한 아날로그 형태의 컴퓨터다. 현재 컴퓨터와 비교해 단순한 컴퓨터로 이해하면 된다. MIT 수학과에서 일하던 섀넌은 1937년에는 여름 방학을 맞아 벨 연구소를 찾아 연구를 진행하기도 했다. 그해 미국 NBC 방송국은 이탈리아 출신의 지휘자 아르투로 토스카니니를 영입해 NBC 심포니 오케스트라를 창단한다. 크리스마스 밤 새롭게 단장한 RCA의 스튜디오에서 토스카니니의 지휘로 비발디의 ‘콘체르토 그로소’가 전파를 타고 방송됐다. 기술의 진보는 콘서트홀 대신 방송 스튜디오를 오케스트라의 무대로 만들었다.

1938년 섀넌은 ‘릴레이 분석과 스위칭 회로(A Symbolic Analysis of Relay and Switching Circuits)’라는 석사 논문을 발표한다. 그가 발표한 논문은 요즘에도 전자공학을 배우는 학부생들의 수업에서 공부하고 있다. ‘논리회로’라는 이 과목에선 컴퓨터를 설계의 기본이 되는 과정을 다룬다. 그는 1940년 이 논문으로 엔지니어에게 수여하는 미국 알프레드 노벨상을 받는다. 발달심리학자인 하워드 가드너(howard gardner)는 1987년 “섀넌의 논문은 이번 세기를 통틀어 아마도 가장 중요하고 가장 유명한 박사 논문이 될 것”이라고 말했다.

MIT에서 연구에 전념하던 섀넌은 1938년 현재도 유명세를 띄고 있는 논문을 발표한다. ‘릴레이 및 스위칭 회로에 있어서의 상징적인 분석(A Symbolic Analysis of Relay and Switching Circuits)’이라는 제목의 논문이었다. 섀넌이 발표한 논문은 전자공학을 공부하는 대학생들이 배우고 있는 전공 과목에 포함되어 있다. 논문에서 섀넌은 여러 개로 연결된 전자 회로를 단순화 할 수 있는 방법을 간단한 방법을 제시했다. 수학적인 방법을 통해 복잡한 회로를 단순화할 수 있음을 보여줬다. 전자회로 설계 등을 통해서 배우고 있다. 이 논문을 통해 섀넌은 1940년 전자공학 분야에 주는 (스웨덴 노벨위원회에서 수여하는 노벨상과는 다른) 알프레드 노벨상을 수상했다. 그의 논문은 “지금까지 쓰여진 어느 석사 논문 보다 중요하다. 전자회로 분야에 있어서 필수적인 툴이다”는 평가를 받고 있다.

클로드 섀넌은 1916년 4월 30일 미국 미시건주 게이로드(Gaylord)에서 태어났다. 알렉산더 그레이엄 벨(Alexander Graham Bell, 1847~1922)이 전화기를 세상에 내놓은 지 40년이 지나서였다. 미시건주 북쪽에 위치한 게이로드는 인구 3000명 정도의 작은 시골 마을이었다. 농지는 지평선 가까이 드넓게 펼쳐져 있었다. 섀넌의 할어버지는 전형적인 시골 마을인 이곳에서 농사를 지었다. 게이로드에선 지금도 섀넌의 흔적을 찾아볼 수 있다. 섀넌이 사망한 뒤 게이로드 시청은 시내 중심가에 섀넌의 탄생을 기념하는 공원을 만들어서다.

아버지는 유언을 전담하는 판사였다. 독일 이민자의 딸이던 섀넌의 어머니 마벨 캐서린 울프(Mabel Catherine Wolf)는 고등학교 선생님으로 학생들을 가르쳤다. 특이하게도 그의 할아버지는 농부이자 발명가였다. 자동으로 옷을 빨아주는 세탁기를 만드는 등 다방면으로 관심이 많았다. 발명품은 상업적으로 성공하진 못했지만 그의 머릿속은 항상 아이디어가 가득했다. 섀넌은 그랬던 할아버지의 영향을 많이 받았다. 그의 톡톡튀는 창조력은 할아버지에게 물려받은 유산이었다. 섀넌은 저글링을 하는 기계 등 익살스런 장난감을 발명했다. 그는 자신의 만든 장남감에 독특한 재미를 담았다. 예를 들어 미로에서 길을 찾는 장난감 쥐는 기억 장치를 통해 틀린 길을 회피할 수 있는 기능을 담았다. 기억 장치를 통해 살아 움직이는 생물쥐를 모방한 것이다. 미로에서 길을 찾는 쥐는 기억 장치와 정교한 수학적 원리를 바탕에 깔고 있었다.

그의 어린 시절은 장난감 그리고 수학으로 채워져있다. 특히 빈 칸에 들어가는 숫자를 유추하는 수학 퍼즐을 즐겨했다고 전해진다. 누나 캐서린 울프 섀넌(Catherine Wolf Shannon)과 함께 수학 퍼즐을 푸는 시간이 많았다. 소설책 읽는 것도 즐겼는데 특히 애드거 앨런 포의 ‘황금벌레’는 몇 번이나 다시 읽었다고 한다. 황금벌레는 암호문을 풀어 숨겨진 보물을 찾는 과정을 담고 있다. 그는 IEEE와의 인터뷰에서 “그런 종류의 것들이 나를 유혹됐어요. 특히 애드거 앨런 포우의 열열한 팬이었고 그가 쓴 황금벌레 같은 책엔 빠져들지 않을 수 없었어요”라고 말했다.

섀넌이 어린시절을 보낸 미국은 당시 새로운 발명품이던 전화기가 대륙 전체를 뒤흔들고 있었다. 전화선은 작은 시골 마을인 게이로드까지 들어왔다. 경작지 사이에 길게 늘어져 있는 검은색 전화선을 보며 전화기의 원리를 상상하면서 전화기의 꿈을 키웠다고 한다. 전화선은 기술 진보의 상징이었다. 기술은 빠르게 변하고 있었고 섀넌은 그 중심에 서 있었다.

과학 기술은 발전을 거듭하고 있었다. 1877년 벨이 가디너 허바드, 샌더스 등과 함께 벨 전화회사(Bell Telephone Company. 오늘날 AT&T의 전신)를 설립한 이후 10년 만에 미국에서 15만 명이 전화기를 갖게 되었다. 벨과 왓슨은 전화기 대중화를 위해 순회 설명회를 열었다. 인간의 음성이 기계적인 신호를 타고 5킬로미터 떨어진 곳까지 전달됐다. 벨은 대중화를 위해 순회 설명회를 열었다. 그것은 쇼와 비슷했다. 멀리 떨어져 있는 왓슨이 전화기를 통해 인사하고 노래를 부르면, 청중은 크게 놀라고 신기해했다. 소문이 퍼지면서 사람들은 설명회 입장권을 구하려 난리였다. 1877년 4월에는 보스턴에 있는 벨의 작업장과 서머빌 근처 찰스 윌리엄스의 집 사이에 최초의 전화선이 개설됐고, 같은 해 여름에는 당시의 ‘얼리어답터’ 200여 명(대부분 사업상의 필요에 의해 신청한 사업가들)을 위해 보스턴에 최초의 교환대가 설치됐다. 교환 서비스가 등장했지만 정보는 멀리 나를 수 있었다.

논리의 역사는 인류의 역사와 함께한다고 해도 과언이 아니지만 이를 체계적으로 분석한 확립한 이가 있다. 바로 고대 그리스 철학자 아리스토텔레스(BC 384~BC 322)다. 아리스토텔레스는 분류와 관계 짓기, 대조 등을 통해 논리학의 기초를 쌓았다. 오르가논(Oraganon)은 그가 정리한 논리학의 토대가 담겨있는 책이다. 

오라가논의 내용은 방대하지만 구체적인 예를 들고 있어 이해하기 까다로운 편은 아니다. 아리스토텔레스는 징검다리를 놓듯 논리의 기초를 조심스럽게 하나하나 쌓아간다. 그가 쌓은 논리의 기초는 (*거의 모든 것들이라고 해도 큰 무리가 없을 정도의) 학문을 이루는 기반이 됐다. 그중에서 가장 유명한 건 삼단논법이다. 이제 막 학교에 입학생 초등학생들도 삼단논법은 금세 이해한다. 사실 삼단논법을 익히기 전부터 인간의 뇌는 이런 방식으로 작동하고 있는 것이다. 논리는 어떤 측면에선 거창한 결과물처럼 보이지만 단순하게 생각하면 언어를 사용하는 누구나 공유하고 있는 단순한 규칙에 불과하다. 그런 점에서 논리를 수학으로 옮기는 작업은 너무도 당연한 것을 또 다른 무엇으로 바꾸는 작업이었다. 어려서부터 다양한 언어를 독학한 불은 이런 점을 그 누구보다 잘 이해하고 있었다.

“아마도 어떤 사람들에게는 너무나 명백한 진리들 사이에서 순서가 바뀌는 정도로 보일지도 모른다. 그런 점에서 특별한 관심을 받을 만큼 중요하지 않게 보일 수도 있다. 그런 점에서 내 글이 생소하게 받아들여질지도 모른다. 하지만 나는 이 작업이 추론의 과정을 바꿔놓을 것이라고 믿는다. 어쩌면 인간 지성의 법칙과 구성을 근본적으로 바꿀지도 모른다. 그렇게 된다면 논리는 실제로 존재하지만 더 이상 우리가 알던 그 논리는 아닐 것이다.”

불의 시도가 중요한 이유는 아리스토텔레스 이후 2000여 년 간 철학과 언어의 영역에 머물던 논리가 새로운 영역을 만나 확장할 수 있게 됐기 때문이다. 불의 시도가 성공한다면 논리는 수학이란 새로운 차원으로 확장할 수 있다. 기어 다니던 아기가 침대를 딛고 일어서면서 완전히 새로운 시각을 갖는 것과 마찬가지다. 수 천 년간 서로 다른 길을 걷던 논리와 수학이 어느 한순간에 만난 것이다. 불의 시도가 성공한다면 논리는 수학적 계산을 통해 증명될 수 있다. 다시 말해 수학에 능통한 기계 장치가 있다면 어떤 논리라도 단숨에 계산해 증명할 수 있다는 의미다.

아리스토텔레스.

불은 아리스토텔레스가 오라가논에서 걸었던 그 길을 다시 걸으며 수학 공식으로 이를 바꾼다. 아리스토텔레스는 오라가논에서 정언 명제(Categorical Propositions)를 도입하면서 논리학을 정립했다. 정언 명제는 예를 들면 이해하기 쉽다. 아리스토텔레스는 정언 명제를 A E I O 4가지로 나눴다. 

모든 N는 P이다.(A) 

모든 N는 P가 아니다.(E) 

어떤 N은 P이다.(I) 

어떤 N은 P가 아니다.(O)

예를 들어 ‘모든 염소는 동물이다’는 정언 명제 A로 분류할 수 있다. 불은 이를 xy = x로 바꿀 수 있다고 주장한다. 여기서 x가 상징하는 건 염소다. y는 동물을 상징한다. ‘xy = x’는  ‘x(1-y) = 0’로 바꿀 수 있다. 1이 상징하는 건 우주 그 자체다. 1-y 는 우주에서 동물을 제외한 그 무엇이다. 모든 염소는 동물이기 때문에 우주에서 동물을 제외한 것과 곱하면 0이 된다. 이런 식으로 불은 아리스토텔레스의 정언 명제를 수학적으로 해석했다. 아주 간단한 예를 들었지만 책에서 수식을 통해 무언가를 증명하려는 건 아니다. 주목해야 할 건 불의 질문과 아이디어다. 불은 “내가 제안하고 싶은 건 논리의 계산 방식이다. 물론 이 과정은 지금까지 알려진 수학의 체계를 통한다”라고 말했다.

이를 확장하면 아리스토텔레스가 주장한 삼단논법도 수학적 방식을 통해 증명할 수 있다. 삼단논법은 모두가 아는 것처럼 대전제-소전제-결론으로 이어지는 논리 흐름을 말한다.  

모든 인간은 죽는다.(대전제)

소크라테스는 인간이다.(소전제)

그러므로 소크라테스는 죽는다.(결론) 

불은 삼단논법 역시 정언명제를 증명한 것과 같은 방식으로 수학적으로 해석해 증명한다. 이를 통해 아리스토텔레스가 정리한 삼단논법도 수학적으로 계산이 가능하다는 사실을 보여준다. 사고 작용이 밟는 과정이며, 이것에 의하여 바르고 참된 인식을 얻기 위해 이 사고 작용의 법칙과 형식을 분명히 하여 사고가 거쳐야 할 길을 안내하는 것이 논리학이다. 

불이 수학적으로 해석한 아리스토텔레스의 삼단논법을 예를 들면 다음과 같다. 

All Ys are Xs, y(1 − x) = 0, 

All Zs are Ys, z(1 − y) = 0,

Eliminating y by (13) we have z(1 − x) = 0,

∴ All Zs are Xs.

불이 남긴 유산이 디지털 시대를 낳은 건 논리를 0과 1 그리고 간단한 수식으로 대체할 수 있다는 점을 보여줬기 때문이다. 논리를 수학으로 표현할 수 있다면 인간 머릿속에 있는 사고의 흐름을 수학이란 새로운 언어로 풀어낼 수 있다는 의미다. 다시 말해 인간이 생각하는 과정을 수학적 기호와 연산 부호만으로 표현할 수 있다는 뜻이다. 아리스토텔레스가 삼단논법을 통해 인간의 사고를 분석했다면 불은 세상의 모든 논리가 결국 0과 1로 귀결될 수 있다는 걸 보여줬다.

찰스 배비지가 계산기계를 놓고 씨름하던 그 무렵 영국 출신 수학자 조지 불은 계산 가능한 논리를 고민했다. 비슷한 시기에 영국과 아일랜드에서 활동했음에도 두 사람은 학문적 교류를 나누진 않았다. 배비지가 계산기계라는 하드웨어에 집중했다면 불은 수학과 논리라는 소프트웨어에 천착했다. 두 사람의 작업은 공통분모가 없는 것처럼 보이지만 컴퓨터와 코딩이란 긴 역사를 놓고 보자면 두 사람은 그 어딘가에서 만날 수밖에 없는 운명이었다.

찰스 배비지와 조지 불.

불이 집중했던 건 인간의 사고 과정과 그 속에 숨은 논리적 구조를 밝히는 것이었다. 마음을 찾아가는 심리학에 가까울 것이라고 오해할 수 있지만 불은 철저히 수학적 과정을 통해 이를 보여줬다. 인간의 사고 과정을 수학을 통해 검증하고 증명하고 예측할 수 있다는 걸 보여줬다. 사실 수를 더하고 빼는 계산이란 인간이 만든 발명품이자 인간이 모든 생명체에 앞선 능력이다. 수는 자연을 이루는 근본이지만 이를 확인해 학문의 영역으로 만든 건 인간이다. 계산이란 고도의 지적 능력은 인간의 사고 과정에서 빼놓을 수 없는 부분이다. 배비지가 만들려고 했던 계산기계는 이런 능력을 인간의 두뇌 밖으로 옮기려는 일종의 시도였다. 불이 집중했던 것도 배비지의 그것과 닮았다. 불은 인간의 사고 과정에 숨은 논리라는 일정한 과정을 바깥으로 드러내려는 작업에 도전했다. 배비지의 계산기계와 불의 논리학은 현대적인 컴퓨터의 근본이 됐다.

두 사람이 서로 다른 지점에서 열어 놓은 길은 현대적 컴퓨터에서 만난다. 만날 운명이라면 언젠가는 만날 수밖에 없다는 걸 배비지와 불은 증명한다.