이론은 의식이 '자신의 그림자를 뛰어넘게 하고', 주어진 것에서 벗어나게 하며, 오직 기호만을 써서 초월적인 것을 자명한 것으로 표현하도록 한다. - 헤르만 바이루(20p)
정보도 마찬가지였다. 개념을 정제하는 과정이 필요했다.
정보 개념을 단순화하고, 정제하고, 비트라는 단위로 세면서 정보는 모든 곳에서 모습을 드러냈다. 섀넌의 이론은 정보와 불확실성, 정보와 엔트로피, 정보와 카오스를 잇는 다리를 놓았다. (22p)
벨연구소의 엔지니어로 트랜지스터라는 단어를 만든 존 피어스는 나중에 이렇게 말했다. "섀넌 이전에 살았던 사람들이 세상을 어떻게 보았는지를 상상하기란 쉽지 않다. 이들의 순진함, 정보에 대한 무지와 몰이해를 다시 복원하기는 어렵다." (27p)
정형화된 수식구가 길게 따라붙으면서, 말하자면 이런 잉여성으로 인해서 모호함은 사라진다. (46p)
하틀리의 공식은 (일단 파악하고 나면) 대단히 단순한 현상을 정량화했다. 일정한 양의 정보를 전달할 때 기호의 종류가 적을수록 더 많이 전송해야 한다는 것이다. 북으로 전달하는 메시지가 말로 전달하는 메시지보다 약 8배나 더 길어야 했던 이유가 거기 있었다. (48p)
우리가 안다는 것을 아는 것은 문어라는 기제가 있기 때문이다. 문어는 우리의 생각을 정리한다. 문해력이 어떻게 생겨났는지를 역사적으로 또 논리적으로 이해하고 싶을 수도 있다. 하지만 역사와 논리 자체는 문자적 사유의 산물이다.
하나의 기술로서 글쓰기는 사전 숙고와 특별한 능력이 필요하다. 제 아무리 효율적이고 잘 개발되었다고 해도 언어는 기술이 아니다. 언어는 지성과 분리된 것으로 받아들여지지 않는다. 언어는 지성의 작용이다. 조너선 밀러는 이렇게 말한다. "언어와 지성의 관계는 사실상 입법 활동과 의회의 관계와 같다. 언어는 일련의 구체적인 실행을 통해 끊임없이 자신을 체화하는 역량이다. 기록에 대해서도 거의 같은 설명을 할 수 있다. 기록 역시 구체적인 실행이지만 말이 종이나 돌에 실체화되면 인공물로서 별개의 존재가 된다. 기록은 도구의 산물이며, 하나의 도구이다. (55p)
기록의 힘은 단지 보존되고 전승되는 지식에만 있는 것이 아니라(물론 이것도 중요하다) 방법론에도 있다. 코드화된 시각적인 말, 전달하는 행위, 대상을 기호로 대체하는 방법론에도 있는 것이다. 그런 다음 나중에는 기호가 기호를 대체하게 된다. (57p)
글이 되려면 사물을 표상하는 단계에서 구어를 표상하는 단계로 나아가는 중요한 변환을 거쳐야 했다. 즉, 두 번의 표상 단계가 빠져 있었다. 구체적으로는 '그림을 나타내는' 상형문자에서 '뜻을 나타내는' 표의문자를 거쳐 '말을 나타내는' 표어문자로 나아가야 한다. (58p)
대부분이 문해력이 있는 우리에게 사유와 쓰기(writing)는 서로 연관된 활동처럼 보이지 않는다. 쓰기가 사유에 의존하는 것은 맞지만 반대의 경우는 분명히 아니라고 생각하는 것이다. 말하자면 쓰든 쓰지 않든 간에 모두가 생각한다고 믿는다. 그러나 해블록이 옳았다. 우리가 알고 있듯 기록된 말(지속성을 얻은 말)은 의식적 사고의 전제 조건이다. 글은 인간의 영혼에 대대적이고 돌이킬 수 없는 변화를 촉발시켰다. (64p)
논리는 기록과 별개로 존재하며, 가령 삼단논법은 글뿐만 아니라 말로도 구사할 수 있다고 생각할 수 있다. 그러나 사실은 그렇지 않다. 말은 너무 순식간에 지나가기 때문에 분석이 가능하지 않다. 논리는 그리스와 인도 그리고 중국에서 독자적으로 글을 통해 전승됐다. 논리는 추상화라는 행위를 참과 거짓을 가리는 도구로 바꾼다. 즉, 확고한 경험과 별개로 글만으로 진리를 발견할 수 있다. (65p)
러시아 심리학자인 알렉산드르 로마노비치 루리야가 1930년대에 중앙아시아 지역의 우즈베키스탄과 키르기스스탄 벽지에 사는 문맹을 대상으로 조사한 결과를 제시했다. 루리야는 문맹과 조금이라도 문해력이 있는 사람들 간에는 아는 것뿐만 아니라 생각하는 방식에도 현저한 차이가 있다는 사실을 발견했다. 논리가 기호와 직접적으로 관련이 있음을 보여준 것이다. 사물은 분류하는 범주에 속해 있으며, 범주는 추상화되고 일반화된 속성을 지닌다. 구술문화에 속한 사람들은 기록문화에 속한 문맹들조차 거의 본능적으로 습득하는 기하학적 형태와 같은 범주들을 모른다. (66p)
정보는 모든 사람으로부터, 화자의 경험으로부터 분리되어버린다. 이제 정보는 조그만 생명 유지 장치인 말 속에서 살아간다. 말도 정보를 전달하지만 글처럼 자의식을 수반하지는 않는다. 문자를 해득할 줄 아는 사람들은 분류, 참조, 정의 같은 문자와 관련된 지적 활동들을 함으로써 글에 대한 인식을 당연하게 받아들인다. 문해력이 없는 사람들은 이런 기술들이 전혀 당연하지 않았다. (67p)
매클루언의 비판에 따르면 활자는 좁은 의사소통 채널일 따름이다. 이 채널은 단선적이며 심지어 파편화되어 있다. 반면 말은 원시적인 경우로, 몸짓과 접촉을 수반하여 생생하게 이뤄지는 대면 의사소통이다. 청각뿐만 아니라 모든 감각을 끌어들인다. 의사소통의 이상(理想)이 영혼의 만남이라면 글은 그 이상의 슬픈 그림자일 뿐이다. (78p)
글의 불확실성, 철자의 비일관성 (81p)
언어는 사용자가 미리 정해진 정확한 항목을 불러내어 쓸 수 있는 단어들의 창고가 아니었다. 오히려 단어는 일시적으로 그때그때 사용되고 다시 사라지는 것이었다. 말해진 단어는 다른 용례와 비교하거나 견줄 수 없었다. 사람들은 종이에 단어를 적기 위해 펜에 잉크를 묻힐 때마다 무엇이든 적당해 보이는 철자를 새로 골라 썼다. 하지만 이런 관행도 변화를 맞았다. 인쇄된 책을 접할 수 있게 되면서 문자 언어는 특정한(다시 말해 어떤 형식은 올바르고 어떤 형식은 틀리다는) 방식으로 '적어야 한다'라는 인식이 생겼다. 처음에 이런 인식은 무의식적이었지만, 차차 보편적인 인식으로 자리 잡기 시작했다. 인쇄업자들은 스스로 이것을 자신의 일로 삼았다. (85p)
무지한 사람들 앞에서 공적으로 말하는 직위와 직업을 가진 사람들(특히 설교자들)은 충고를 들어야 한다. 절대 낯선 현학적인 말ynckhorne termes('inkhorn'은 잉크병을, 'inkhorn term'은 현학적인 말을 가리킨다)을 쓰지 마라, 흔하게 쓰이고 아무리 무지하더라도 이해할 수 있는 말을 써라. (89p)
코드리 시대로주터 1세기 후, 독일의 철학자이자 수학자인 라이프니츠는 둘의 차이를 명쾌 하게 지적했다.
“말하자면 모든 사물과 행동을 가리키는 단어 혹은 이름은 알파벳과 속성, 이 두 가지 다른 방식으로 목록을 만들 수 있다.... 전자는 단어에서 사물로 가고, 후자는 사물에서 단어로 간다."
주제별 목록은 사고를 자극하고, 불완전하고, 창의적이었다. 반면 알파벳순 목록은 기계적이고, 효율적이고, 자동적이었다. 알파벳순으로 생각하면 단어들은 각각 홈에 놓인 표시에 지나지 않는다. 사실상 숫자와 다를 바 없는 것이다. (93p)
coffa 혹은 cauphe: 터키인과 페르시아인이 마시는(그리고 근래에 우리에게 소개된) 음료의 일종으로 검은색에 진하고 쓴맛이 나고, 이름과 종류가 같은 열매에서 얻으며, 유익하고 아주 몸에 좋은 것으로 여겨진다. 우울증을 치료하는 데 효과가 있다고 한다. (99p)
사전은 단어의 지속성을 승인한다. 사전은 단어들의 의미가 다른 단어로부터 나온다는 사실을 명확하게 보여준다. 또한 모든 단어가 총체적으로 서로 맞물린 구조를 형성한다는 사실을 보여준다. 모든 단어가 다른 단어를 통해 정의되기 때문이다. 이는 언어를 볼 수 없는 구술문화에서는 결코 문제가 될 수 없었다. 인쇄술(그리고 사전)이 언어를 세밀하게 검토할 수 있는 독립적 대상으로 부각시켜야만 비로소 단어의 의미가 상호의존적이고 심지어 순환적이라는 인식을 할 수 있다. 단어가 사물에서 분리되어 다른 단어를 표상하는 단어로 여겨져야 했던 것이다. 20세기 들어 논리학 기법들이 고도로 발전하면서 순환성이 문제로 대두되었다. 비트겐슈타인은 이렇게 불평했다. "설명을 하려면, 나는 이미 언어를 본격적으로 사용해야만 한다." 3세기 전 뉴턴이 제기했던 불평을 되풀이했지만, 비트겐슈타인의 불평은 한 번 더 꼬인 것이었다. 뉴턴이 자연법칙을 가리키는 단어를 원한 반면 비트겐슈타인은 단어를 가리키는 단어를 원했기 때문이다. "언어(단어, 문장 등)에 대해 말할 때 나는 일상어를 사용해야 한다. 이 일상어라는 게 우리가 말하고자 하는 바를 표현하기에는 너무 투박하고 물질적이지 않은가?" 사실이었다. 그리고 언어는 언제나 변화하고 있었다. (102p)
후에 옥스퍼드 영어사전이 된 『역사적 원칙에 따른 새 영어사전 A New English Dictionary on Historical Principles』의 초판은 그때까지 만들어진 가장 방대한 책 중 하나였다. 41만 4,825개의 단어가 실린 이 10권짜리 사전은 1928년 국왕 조지5세와 캘빈 쿨리지 대통령에게 증정되었다. 편찬 작업에는 수십 년이 걸렸고, 그사이 머리가 사망했으며, 심지어 제본작업이 이뤄지는 동안 시대에 뒤떨어진 것으로 여겨지기도 했다. 1989년 2판이 나올 때까지 몇 권의 부록들이 만들어졌다. 2판은 총 20권에 2만 2,000페이지였으며, 무게가 63킬로그램이었다. 3판은 달랐다. 디지털로 만들어진 3판은 무게가 나가지 않았다. 아마 앞으로 종이와 잉크가 들어가는 일은 절대 없을 것이다. 2000년부터는 전체 콘텐츠에 대한 개정판이 분기마다 온라인으로 게재되었다. 각 개정판은 수천 개의 수정된 항목과 수백 개의 새로운 단어를 담고 있다. (103p)
숫자표는 인쇄시대가 시작되기 전부터 책 산업의 한 축을 차지했다. '알고리즘(algorithm)'이라는 단어에 자신의 이름을 남긴 아부 압둘라 모함 마드 이븐 무사 알-콰리즈미는 9세기 바그다드에서 활동하면서 삼각함수표를 만들었다. (126p)
로그는 산술과 기하학에서 계산을 더 쉽게 만들기 위해 발명된 수 이다. 로그라는 이름은 비율을 뜻하는 '로고스(logos)'와 수를 뜻하는 '아리스모스(arithmos)'를 합친 것에서 나왔다. 산술에서 로그를 활용하면 모든 까다로운 곱셈과 나눗셈을 피하고, 곱셈을 덧셈으로, 나눗셈을 뺄셈으로 대체할 수 있다. (128p)
배비지는 숫자들 내의 기계적 법칙(원리)들을 찾아냄으로써 한 걸음 나아갔다. 하나의 수열과 다른 수열 사이의 차분을 계산하면 몇몇 구조가 드러난다는 사실을 알았던 것이다. '차분법'은 수학자들, 특히 프랑스 수학자들이 100여 년간 탐구하던 것이었다. 차분법의 힘은 고차원의 계산을 쉽게 규칙화할 수 있는 단순한 덧셈으로 바꾸는 것에 있었다. 배비지에게 차분법은 매우 중요했기 때문에, 처음 구상할 때부터 자신의 기계에 차분기관이라는 이름을 붙였다. (141p)
에이다는 하나의 프로세스를, 한 벌의 규칙을, 일련의 연산을 고안 했다. 시대가 달랐다면 이 프로세스는 알고리즘으로 불리다 컴퓨터 프로그램으로 불렸겠지만, 당시 이 개념은 설명하기 힘들었다. 가장 복잡한 것은 이 알고리즘이 귀납적이며, 루프 구조를 취한다는 점이었다. 한 번 반복(iteration)한 결과는 다음 반복의 대상이 된다. (169p)
신문은 전혀 쓸모없어질 것이다. 번개같이 빠른 날개를 단 전신 때 문에 모든 면에서 예상한 대로 신문은 지역 뉴스나 관념적 사변만 다룰 수 있을 것이다. 설령 선거운동에 대한 것이라고 해도 센세이 션을 일으키는 힘은 크게 약화될 것이다. 잘못된 내용이 보도되자 마자 결코 틀리는 법이 없는 전신이 반박할 것이기 때문이다. (205p)
점과 선으로 이루어진 모스 체계는 처음에는 코드로 부르지 않았다. 그냥 알파벳으로 불렀는데, 흔히 말하는 "모스 전신 알파벳"이었다. 하지만 모스 체계는 알파벳은 아니었다. 기호로 소리를 나타내지는 않았던 것이다. 모스 방식은 알파벳을 출발점으로 삼고, 기호를 새로운 기호로 바꾸면서 알파벳을 활용했다. 말하자면 모스 체계는 알파벳을 한 번 거친 메타 알파벳이었다. 이미 수학에는 이처럼 의미를 한 기호 수준에서 다른 수준으로 옮기는 절차가 존재했다. 이런 절차는 어떤 의미에서 수학의 핵심이었다. 이것이 이제 익숙한 도구가 된 것이다. 19 세기 말 사람들은 순전히 전신 때문에 기호로 다른 기호를 나타내거나 단어로 다른 단어를 나타내는 코드라는 개념을 편안해하거나 최소한 친숙하게 느꼈다. 하나의 기호 수준에서 다른 수준으로 옮기는 일은 '인코딩'으로 부를 수 있었다. (212p)
단어에서 의미를 제거하면 안전성이 상당히 증가한다. 기호와 상징 은 단지 자리만 차지하는 존재가 아니다. 말하자면 연산자로, 기계에서 기어와 레버와 같은 것이다. 언어는 결국 하나의 도구이다.
이로써 언어는 이제 표현과 사고라는 두 가지 독립적 기능을 하는 도구로 인식된다. 맨 처음 오는 것은 사고였다. 아니 적어도 사람들은 그렇게 추정했다. 불에게 논리는 (다듬어지고 정화된) 사고'였'다. 1854년에 쓴 역작의 제목으로 불이 정한 것은 『사고의 법칙 The Laws of Thought』 이었다. 우연찮게 전신 기사들 또한 두뇌 안에서의 메시지 전달에 대한 통찰을 얻고 있다고 느꼈다. 1873년 한 평론가는 <하퍼스 뉴 먼슬리 매거진>에 실은 글에서 "말은 생각하는 사람이 자신의 생각을 전달하는 신호로 사용하기 이전에 생각을 위한 도구"라고 주장했다. (229p)
러셀은 역설을 제거하기 위해 극단적인 조치를 취했다. 역설을 일 으키는 요인은 문제의 진술 안에 존재하는 특유의 재귀 때문인 것처럼 보였다. 다시 말해 집합에 속한 집합이라는 개념 말이다. 재귀는 불길을 살리는 산소였다. 마찬가지로 거짓말쟁이의 역설은 진술에 대한 진술에 기댄다. "이 진술은 거짓이다"는 언어에 대한 언어인 메타언어이다. 또한 러셀의 역설적 집합은 집합의 집합인 메타집합에 기대고 있다. 따라서 문제는 층위를 섞는 것, 러셀의 표현으로는 유형을 혼합하는 데 있었다. 해결책은 이런 혼합을 규칙에 어긋나는 것으로 치고, 터부시하고, 금지하는 것이다. 다른 층위의 추상화를 혼합하는 것도, 자기참조(self-reference)도 자기충족(self-containment)도 안 된다. <수학 원리>에 적용된 기호체계의 규칙은 한 바퀴 되돌아오는 것, 마치 자기 꼬리를 무는 뱀처럼 자기모순의 가능성을 향하는 것으로 보이는 피드백 고리를 허용하지 않는다. 이 규칙이 러셀의 방화벽이었다. (250p)
PM을 비롯하여 기본적인 산술을 할 수 있는 모든 일관된 논리체계 안에는 언제나 참이지만 증명할 수 없는 저주받은 진술들이 존재할 수밖에 없다. 이처럼 괴델은 일관된 형식 체계는 불완전할 수밖에 없으며, 완전하고 일관된 체계는 존재할 수 없음을 보여줬다.
역설이 다시 돌아왔고, 또 단순히 기이한 것도 아니었다. 이제 역설은 러셀과 화이트헤드의 기획의 핵심을 강타했다. (254p)
한참이 지나고 노인이 된 러셀은 괴델이 자신을 당혹스럽게 했음을 시인했다. 러셀은 이렇게 썼다.
"더 이상 수리논리학을 연구하지 않아서 다행이었습니다. 주어진 공리의 집합이 모순으로 이어진다면 최소한 하나의 공리는 거짓이어야 함이 분명합니다."
이와 달리 빈의 가장 유명한 철학자로 근본적으로 수학을 믿지 않았던 루트비히 비트겐슈타인은 불완전성 정리를 속임수(Kunststücken)라고 일축하면서 논박보다는 그냥 지나가는 말로 으스대듯 이렇게 말했다.
“수학은 '지각'이 불완전할 수 있는 것 이상으로 불완전할 수 없다. 나는 이해할 수 있는 것은 무엇이든 완전하게 이해하는 것이 틀림 없다.”
괴델은 한꺼번에 두 사람을 응수하고 나섰다.
"러셀은 확실히 저의 결론을 오해했습니다. 다만 방식은 매우 흥미로웠습니다. 반면 비트겐슈타인은... 지극히 사소할 뿐만 아니라 흥미롭지도 않은 오해를 제시했습니다.” (256p)
수학자에게는 어떤 주장이 모든 세부적인 면에서 완벽하지 않으면 틀린 것이다. 수학자는 이것을 '엄밀한 사고'라고 한다. 반면 전형적인 엔지니어는 이를 '사소한 것에 대한 집착'이라고 한다. 또한 수학자는 자신이 맞닥뜨린 모든 상황을 이상화하는 경향이 있다. 수학자에게 기체는 "이상적"이고, 도체는 "완벽"하며, 표면은 "평탄"하다. 수학자는 이를 "본질에의 접근"이라 한다. 하지만 엔지 니어는 이것을 "사실의 무시"라고 할 것이다. (269p)
괴델은 말년에 "튜링의 작업 덕분에 나의 증명이 산술을 포함한 '모든' 형식 체계에 적용된다는 사실이 완전히 명료해졌다"라고 썼다. (284p)
이렇듯 상상 속에만 있고, 추상적이며, 전적으로 머릿속에만 존재 하는 튜링 계산기는 튜링을 괴델과 일맥상통하는 증명으로 이끈다. 튜링은 형식 체계의 보편 개념을 정의함으로써 괴델에서 한 걸음 더 나아갔다. 공식을 생성하기 위한 모든 기계적 절차는 본질적으로 튜링기계이다. 따라서 '모든' 형식 체계는 결정 불가능한 명제를 가질 수밖에 없다. 수학은 결정 불가능하다. 이 불완전성은 연산 불가능성에서 나온다. (290p)
기계 자체의 운동을 숫자로 코드화할 때 다시 한 번 역설이 고개를 든다. 재귀적 순환의 필연적인 등장이었다. 인식되는 대상은 인식하는 대상과 운명적으로 얽힌다. 한참 후 더글러스 호프스태터는 이렇게 썼다. "중요한 것은 계속 머뭇거리는 관찰자가 그 자신을 바라보면서 자신의 행동을 예측하려 하는 자신을 바라보면서 자신의 행동을 예측하려 하는 자신을 바라보면서... 자신의 행동을 예측하려는 데 있다.”
불확정성 원리를 접한 튜링은 이를 자기참조(self-reference) 개념으로 표현했다. "과학은 어떤 특정한 순간 우주의 모든 것을 안다면, 앞으로 어떤 일이 벌어질지 예측할 수 있다고 가정했다.... 하지만 최근 과학은 우리가 정확한 상태를 전혀 알 수 없는 원자와 전자를 다루고 있다는 결론에 이르렀다. 우리의 도구 자체가 원자와 전자로 이루어져 있다. (290p)
더 현실적인 사례에서 섀넌은 확률 함수로 정보를 측정하는 명쾌한 해결책을 내놓는다. 바로 로그 가중치를 둔(밑을 2로 삼는 것이 가장 편리했다) 확률의 합을 구하는 공식이었다. 이는 메시지의 불가능성을 보여주는 평균 로그로, 사실상 의외성의 척도였다.
H= -Σplog2p
여기서 p는 각 메시지의 확률을 가리킨다. 섀넌은 이 공식을 계속 접하게 될 것이며, 이 공식의 값은 “정보이론에서 정보, 선택, 불확실성의 척도로서 중심적인 역할을 한다"라고 주장했다. 실제로 H는 어디에나 존재하며, 통상적으로 메시지의 엔트로피 혹은 섀넌 엔트로피 아니면 간단히 정보로 불렸다.
측정의 새로운 단위가 필요했다. 섀넌의 말을 들어보자. “귀결되는 단위는 바이너리 디지트(이진 부호) 또는 줄여서 '비트'라고 부를 수 있다. 1비트는 가능한 최소 정보량으로 동전을 던질 때 나오는 불확실성의 양을 나타낸다. 동전 던지기는 동일한 확률을 가진 두 가능성 사이의 선택을 나타낸다. 이 경우 p₁과 p₂는 각각 2분의 1 이며, 밑이 2인 2분의 1의 로그는 -1이다. 따라서 H는 1비트이다. (309p)
장 피에르 뒤피는 이렇게 말했다. "사실 과학자들이 자신의 말을 곧이곧대로 받아들인다고 비과학자들을 탓하는 것은 매우 흔한 일이다. 인공두뇌학자들은 생각하는 기계가 곧 출현할 것이라는 생각을 대중에게 심어놓고 서둘러 그런 것을 믿을 만큼 순진한 사람들과 거리를 뒀다.“ (332p)
섀넌과 위너는 강조점이 달랐다. 위너에게 엔트로피는 무질서의 척 도인 반면 섀넌에게는 불확실성의 척도였다. 이들이 깨달은 것처럼 기본적으로 무질서와 불확실성은 같은 것이었다. (335p)
모든 학문을 통틀어 심리학은 항상 정확하게 무엇을 연구하는지 이야기하기가 가장 어려운 학문이었다. 원래 심리학이 다루는 대상은 육체(생체학)와 피(혈액학)에 대비되는 마음이었다. 17세기에 제임스 드 백은 이렇게 썼다. “‘심리학'은 인간의 마음과 그 작용을 탐구하는 학문이다. 마음이 없다면 인간은 존재할 수 없다. 하지만 이런 정의에서조차도 마음이라는 것은 말로 표현하기 힘들었으며, 알 수 있는 대상이 아니었다. 문제를 더욱 복잡하게 만든 것은 다른 모든 학문과 달리 심리학에서는 관찰자와 관찰 대상이 얽힌다는 점이었다. 1854년 데이비드 브루스터는 이렇게 탄식했다. (당시는 심리학을 "심리 철학(Mental Philosophy)"으로 더 많이 불렀다.) "마음의 학문만큼 진전을 이루지 못한 지식의 분야는 없다. 그것을 학문이라고 부를 수 있다면 말이다.” (348p)
섀넌의 핵심적 성과 중 하나인 잡음 부호화 정리(noisy coding theorem)는 오류정정을 통해 잡음과 데이터 손상에 효과적으로 대응할 수 있다는 사실을 보여줌으로써 갈수록 중요해졌다. 처음에 이 정리는 그저 흥미를 끄는 이론의 말단에 불과했다. 오류정정에 아직까지는 비용이 많이 드는 계산이 필요했던 것이다. 하지만 섀넌의 전망대로 1950년대 들어 오류정정 수단에 대한 연구가 만족할 만한 수준에 이르면서 잡음 부호화 이론이 필요해졌다. 한 가지 적용 분야는 로켓과 인공위성을 이용한 우주 탐사였다. 우주 탐사를 위해서는 한정된 에너지로 아주 먼 거리까지 메시지를 보내야 했다. 부호화 이론은 나란히 발전하는 오류정정 기술, 데이터 압축 기술과 함께 컴퓨터공학의 핵심적인 부분이었다. (357p)
일을 산출하는 열역학계의 능력은 열 자체가 아니라 온도 차이에 달려 있었다. 뜨거운 돌을 찬물에 넣으면(이를테면 터빈을 돌리는 증기를 만들어서) 일을 할 수 있지만, (돌과 물을 합친) 계 안의 전체 열은 일정하다. 결국 시간이 지나면 돌과 물은 온도가 같아진다. 닫힌계가 얼마나 많은 에너지를 갖고 있든 간에 모든 것이 같은 온도에 이르면 아무 일도 할 수 없다.
클라우지우스가 측정하고자 했던 것은 바로 이 에너지의 무효성 (unavailability)이었다. 클라우지우스는 변화를 뜻하는 그리스어로 만든 '엔트로피'라는 단어를 내놓았다. (366p)
물리학자에게 엔트로피는 물리계의 상태, 즉 가질 수 있는 모든 가능한 상태 중 하나의 상태에 대한 불확실성의 척도이다. 이 미시상태들의 확률은 동일하지 않을 수 있으며, 따라서 물리학자들은 S=-∑plogp로 쓴다.
정보이론가에게 엔트로피는 메시지, 즉 통신원이 생성할 수 있는 모든 가능한 메시지 중 하나의 메시지에 대한 불확실성의 척도이 다. 가능한 메시지들의 확률은 동일하지 않을 수 있으며, 따라서 섀넌 은 H=-∑plogp로 쓴다.
이는 단지 형식의 일치, 다시 말해 자연은 비슷한 문제에 비슷한 해 답을 제시한다는 형식의 일치는 아니다. 모두 하나의 문제인 것이다.
"하나의 물질이 살아 있다고 말할 수 있는 때는 언제일까요?" 슈뢰딩거는 이렇게 질문하고는 (성장, 섭식, 번식 같은) 통상적인 의견들을 건너뛰고 가능한 한 단순하게 대답했다. “비슷한 환경에서 무생물이 '계속할 것'으로 기대되는 것보다 훨씬 더 오래 움직이거나 환경과 물질을 교환하는 등 '어떤 일'을 계속할 때 우리는 살아 있다고 합니다." 대개 물질은 멈추게 된다. 기체 상자는 균일한 온도에 이른다. 화학적 시스템은 이런저런 방식으로 “활기 없는 불활성의 물질 덩어리로 쇠퇴하고" 최대 엔트로피에 이르면서 제2법칙을 따른다. 반면 생물은 어떻게든 불안정한 상태를 유지한다. 노버트 위너가 『인공두뇌학』에서 다룬 게 바로 이런 생각이었다. 위너는 효소가 “준안정적인(metastable)", 다시 말해서 그다지 안정적이지 않거나 불안정하게 안정된 맥스웰의 도깨비일지 모른다고 썼다. "효소의 안정적 상태는 저하된 것이며, 유기체의 안정적 상태는 죽은 것이다." (382p)
슈뢰딩거는 제2법칙을 잠시 거르기 때문에 혹은 그렇게 보이기 때문에 생명체가 “그토록 불가사의하게 보인다"라고 생각했다. 영구 운동을 하는 척하는 유기체의 능력 때문에 많은 사람들이 특별한 초자연적 '생명력'을 믿게 되었다는 얘기였다. 슈뢰딩거는 '활력'이나 생명력 같은 개념들과 유기체가 “에너지를 먹고 산다"라는 대중적인 인식을 비웃었다. 에너지와 물질은 단지 동전의 양면이며, 어쨌든 하나의 칼로리는 다른 칼로리와 똑같다는 말도 틀렸다고 말했다. 즉, 유기체는 네거티브 엔트로피를 먹고 산다. 슈뢰딩거는 역설적으로 이렇게 말했다.
“덜 역설적으로 말하자면, 신진대사에서 본질적인 것은 유기체가 살면서 어쩔 수 없이 생성하는 모든 엔트로피로부터 벗어나는 데 성공한다는 것입니다." (382p)
그레고어 멘델은 녹색 콩과 노란색 콩을 수년 동안 연구하면서 유전자 같은 것이 틀림없이 존재함을 증명했다. 색상을 비롯한 다른 특성들은 온도와 토질 같은 많은 요소들에 따라 달라진다. 하지만 '어떤 것'은 온전히 보존되는데, 혼합되거나 분산되지 않으며, 틀림없이 정량화된다. 멘델은 정확하게 명명하지는 않았지만 유전자를 발견한 것이다. 멘델에게 유전자는 물리적 실체라기보다 대수적 편의(algebraic convenience)에 가까웠다. (390p)
DNA 복제는 정보를 복사하는 것이다. 단백질 제조는 정보를 전송 하는 것이다. 다시 말해 메시지를 보내는 것이다. 생물학자들은 이제 '메시지'가 무엇인지 잘 정의할 수 있을 뿐만 아니라 어떤 특정한 실체로부터 나온 것이기 때문에 이 사실을 분명하게 볼 수 있었다. 메시지가 음파나 전자파를 통해 전달된다면 화학적 과정을 통하지 못할 이유가 무엇일까? (400p)
1950년대까지 생화학의 모든 것은 세포의 기능에 필요한 에너지와 물질을 어디서 얻는지에 관한 것이었습니다. 생화학자들은 에너지와 물질의 흐름만 생각했습니다. 분자생물학자들이 정보의 흐름을 이야기하기 시작했습니다. 돌이켜보면 이중나선 구조 덕분에 에너지나 물질과 똑같이 생물계의 정보를 연구할 수 있다는 깨달음을 얻었음을 알 수 있습니다. (403p)
식물학자의 예감과 대수적 편의성에 의해 시작된 유전자는 염색체까지 추적되면서 꼬인 가닥을 가진 분자라는 것이 밝혀졌다. 학자들은 유전자를 해독하고, 하나하나 나열했으며, 목록을 작성했다. 그러다가 분자생물학이 절정에 이르면서 유전자에 대한 견해는 다시 한 번 사슬에서 풀려났다.
유전자는 알면 알수록 더 정의하기 어려웠다. 유전자는 DNA 그 이 상도 이하도 아닌 것일까? DNA로 '구성'되는 것일까, 아니면 DNA로 '전달'되는 것일까? 물질적 대상으로 정확하게 파악할 수 있기나 한 것일까?
모든 사람이 문제가 있다고 동의한 것은 아니었다. 1977년 군터 스 텐트는 분자생물학의 위업 중 하나는 멘델 유전자를 특정 길이의 DNA로 “명확하게 확인한 것"이라고 밝혔다. (405p)
벤저는 재조합으로 교체되는 최소 단위로 '레콘(recon)', 변이의 최소 단위(단일 염기쌍)로 '뮤톤(muton)', 기능의 단위로 '시스트론(cistron)'이라는 새로운 입자명을 제안했다. (406p)
누구도 두뇌가 없는 아주 작은 독립체인 유전자 자체에 의도가 있 다고 생각하지 않는다. 그러나 도킨스가 보여준 것처럼 관점을 바꾸어 유전자가 자신의 복제를 최대화하기 위해 움직인다고 말하면 꽤나 잘 들어맞는다. […] 도킨스는 이렇게 말한다. “유전자는 미리 계획하지 않는다. 유전자는 단지 '존재할' 뿐이며, 일부 유전자는 다른 유전자보다 더 그렇다. 그것이 전부이다. (410p)
내 생각에 생명체에 대한 지침서 같은 것이 존재한다면 첫 줄에 하나의 계명처럼 '너의 정보를 더 키워라'라고 적혀 있을 것이다." (412p)
종이에 잉크로 그려진 8분 음표와 4분 음표는 음악이 아니다. 음악 은 공기를 통해 울려 퍼지는 일련의 압력파도, 음반이나 CD에 새겨진 홈도, 청중의 두뇌에서 발생한 뉴런의 심포니도 아니다. 음악은 정보이다. 마찬가지로 DNA의 염기쌍은 유전자가 아니다. DNA 염기쌍은 유전자를 인코딩한다. 유전자 자신은 비트로 구성된다. (417p)
힘과 속도가 동물의 생존에 유리하듯, 운율과 리듬은 밈의 생존에 유리한 속성이다. 패턴화된 언어는 진화론적으로 장점이 있다. 운율과 리듬 그리고 이유(이유 역시)는 패턴의 한 형태이다. (464p)
유전자는 적어도 물리적 실체가 있다. 하지만 밈은 추상적이고, 실 체가 없으며, 측정할 수 없다. 유전자는 완벽에 가까운 충실도로 복제를 하며, 진화는 이에 달려 있다. 일부 변이는 필수적이지만, 돌연변이는 드물어야 한다. 하지만 밈은 정확하게 복제되는 일이 거의 없다. 밈의 경계는 언제나 흐릿하며, 생물학의 입장에서는 치명적일 정도로 심한 유연성을 가지고 변이한다. '밈'이라는 개념은 작은 것부터 큰 것까지 온갖 의심스러운 대상에 적용될 수 있다. 데닛에게 베토벤의 <운명> 교향곡에 나오는 첫 4음은 호메로스의 <오디세이>(혹은 적어도 '오디세이'라는 '관념'), 바퀴, 반유대주의, 기록과 함께 '분명히' 밈이었다." 도킨스의 말을 들어보자. "밈은 아직 그들의 왓슨과 크릭을 찾지 못했다. 심지어 그들의 멘델조차 없다." (435p)
확률은 전체에 대한 것이지, 개별 사건에 대한 것이 아니다. 확률론은 사건을 통계적으로 취급한다. 따라서 "그 사건이 일어날 가능성은 얼마나 될까?"라는 식의 질문을 좋아하지 않는다. 사건이 일어났다면, 일어난 것이다. (447p)
섀넌은 동시에 메시지 내의 잉여성, 즉 메시지를 압축할 수 있게 만드는 패턴, 규칙성, 질서도 고려했다. 메시지의 규칙성이 클수록 예측성이 높아진다. 예측성이 높을수록 잉여성은 커진다. 잉여성이 클수록 포함하는 정보는 줄어드는 것이다. (447p)
우리는 왜 파이가 무작위적이지 않다고 말하는 것일까? 체이틴은 분명하게 답한다. 수가 계산 가능하다면, 즉 확정된 컴퓨터 프로그램으로 이 수를 생성할 수 있다면 무작위적이지 않다. 따라서 연산 가능성은 무작위성의 기준이다. (450p)
튜링에게 연산 가능성은 예 혹은 아니요의 속성, 다시 말해 주어진 수가 '~이거나' 혹은 '~이 아닌' 속성이었다. 하지만 우리는 어떤 수가 다른 수보다 더 무작위적이라고, 말하자면 패턴이나 질서가 적다고 말하고 싶어 한다. 체이틴은 패턴과 질서가 연산 가능성을 표현한다고 말했다. 알고리즘은 패턴을 생성한다. 따라서 우리는 '알고리즘의 크기'를 통해 연산 가능성을 가늠할 수 있다. 주어진 수(어떤 길이의 수열로 표현된 수)에 대해 우리는 “이 수를 생성할 가장 짧은 프로그램의 길이는 무엇인가?"라고 물을 수 있다. 튜링기계의 언어를 활용하면 이 질문은 비트로 측정되는 명확한 답을 가질 수 있다.
무작위성을 알고리즘으로 정의한 체이틴의 방식을 보면 정보를 알 고리즘으로 정의할 수 있다. 알고리즘의 크기는 주어진 기호열이 얼마나 많은 정보를 담는지 말해준다. (450p)
어떤 대상의 콜모고로프 복잡성은 그 대상을 생성하는 데 필요한 가장 짧은 알고리즘의 비트 단위 크기이다. 이는 또한 정보량이기도 하다. 아울러 무작위성의 정도이기도 하다. 콜모고로프의 말은 이렇다. "무작위성은 '무작위적(random)'이라는 개념의 새로운 이해방식으로, 규칙성의 부재라는 자연스러운 가정에 부합한다."
정보, 무작위성, 복잡성, 이 세 가지는 근본적으로 동일하다. 이 세가지 강력한 추상적 개념은 마치 은밀한 연인들처럼 한데 엉켜 있다. (457p)
이론물리학자들은 아주 똑똑한 코딩 알고리즘처럼 행동한다. 솔로모노프는 이렇게 썼다. “발견된 과학 법칙은 우주에 대한 수많은 경험적 데이터를 간략하게 요약한 것으로 볼 수 있다. 각 법칙은 현재의 맥락 안에서 그 법칙의 토대가 되는 경험적 데이터를 긴밀하게 코딩하는 수단으로 전환될 수 있다.” 솔로모노프의 말을 달리 표현하면 이렇다. 뛰어난 과학 이론은 경제적이다. (467p)
우리가 중요하게 생각하는 모든 것은 패턴과 무작위성이 얽히는 곳 중간 어딘가에 존재한다. 체이틴과 찰스 베넷은 뉴욕 요크타운 하이츠에 있는 IBM의 연구소에서 이런 문제들을 토론하곤 했다. 몇 년에 걸쳐 베넷은 '논리적 깊이(logical depth)'라는 새로운 가치 척도 연구를 진행했다. 베넷의 개념은 복잡성과 관련이 있지만 다른 면도 있었다. 깊이는 (어떤 특정한 영역에서 유용성이 무엇을 의미하든 간에) 메시지의 유용성을 포착한다는 것을 의미했다. 마침내 1988년 베넷은 자신의 개념을 내놓으면서 이렇게 썼다. "정보이론이 태동할 때부터 정보 그 자체는 메시지가 지닌 가치의 좋은 척도가 될 수 없다는 사실을 인식하고 있었다." (477p)
메시지의 가치는 “묻혀 있는 잉여성으로 부를 수 있는 것. 즉 어렵게 예측할 수 있는 부분, 원칙적으로 수신자가 말을 듣지 않고도 파악할 수 있지만 돈이나 시간 혹은 연산 측면에서 상당한 비용을 치러야만 하는 것"에 있다. (478p)
양자역학은 짧은 역사에도 다른 어떤 학문보다 많은 위기와 논쟁, 해석(코펜하겐 해석, 봄(Bohm) 해석, 다세계(Many Worlds) 해석, 다정신(Many Minds) 해석), 학파의 분열과 전면적인 철학적 고통을 겪었다. 양자역학은 다행스럽게도 미스터리로 가득하다. 또 인간의 직관을 보란 듯이 무시한다. 아인슈타인은 양자역학의 결론과 끝내 화해하지 못했고, 양자역학을 이해하는 사람은 아무도 없다는 리처드 파인먼의 말은 농담이 아니었다. 어쩌면 실재의 본질에 대한 논쟁이 벌어질 수도 있다. 실제로 아주 뛰어난 성공을 거둔 양자역학은 이론적으로 모든 대상의 근본을 다루며, 자신의 토대를 계속 재구축하고 있다. 이런 상황에도 불구하고 양자역학의 동요는 때로 과학적이라기보다 종교적으로 보인다. (483p)
양자역학에 따르면 정보는 절대 파괴될 수 없다. 결정론적 물리법칙에서 어느 한 순간의 물리계 상태를 알면 다음 순간의 물리계 상태를 알 수 있다. 미시적 세부에서 이 법칙들은 가역적이며, 정보는 보존되어야 한다. 호킹은 이것이 양자역학을 뿌리째 흔드는 문제라고 단호하게(심지어 걱정스럽게) 처음으로 말한 사람이었다. 정보 손실은 확률의 합이 1이 되어야 한다는 원칙, 즉 유니터리성(unitarity)을 침해했다. 호킹은 "신은 주사위 놀이를 할 뿐만 아니라 때로 주사위를 볼 수 없는 곳으로 던진다"라고 말했다. (486p)
"우리가 우리의 불편하고 작은 손가락으로 셈을 배웠을 때 우리는 잘못된 길을 간 것이다. 우리는 정수가 개별적이고 고유한 값을 가져야 한다고 생각했다.” 롤프 란다우어의 냉철한 지적이었다. 실제 세계, 다시 말해 양자 세계에서는 그렇지 않다는 말이었다. (500p)
종이가 파피루스보다 내구성이 좋기 때문이 아니라 순전히 많은 사본이 있었기 때문에 모든 지식 형태가 안정성과 영구성을 획득했던 것이다. (545p)
선택은 신뢰와 취향의 문제를 제기한다. 풍부한 정보의 경이로움을 다룬 모든 사고실험에는 필터의 필요성이 개입한다. 데닛은 자신의 완전한 시 네트워크를 상상하면서 이 문제를 깨달았다. “집단 밈 연구에서 명백한 역가설이 등장한다. 이런 네트워크가 구축된다면 좋은 시를 찾는다고 엉터리 시로 가득한 수천 개의 전자 파일을 힘겹게 읽을 시 애호가는 아무도 없을 것이다." 필터, 즉 편집자와 평론가가 필요한 이유이다. "이들은 지성 사이의 전달 매체가 무엇이든 간에 공급이 달리고 지성의 용량에 한계가 있기 때문에 번창한다." 정보가 저렴해지면, (특정 정보에) 주목(하도록 만드는 것)이 비싸진다. (557p)
컴퓨터로 구현된 검색과 필터링 전략은 새로워 보인다. 하지만 그렇지 않다. 사실 지금은 낡은 벽지만큼 눈에 띄지도 않고 당연하게 여겨지는 인쇄매체의 도구와 장비 상당수는 정보 과잉에 직접적으로 대응하면서 진화한 것이다. 알파벳순 색인, 서평, 도서 분류법과 도서목록 카드, 백과사전, 선집과 요약집, 인용집과 용어 색인과 지명 사전 같은 선택과 분류의 메커니즘이 바로 그것이다. (558p)
정보이론은 정보에서 의미를 가차 없이 제거함으로써 탄생했다. 정 보에 가치와 목적을 부여하는 의미를 빼버림으로써 정보이론이 탄생할 수 있었던 것이다. 『통신의 수학적 이론』을 소개하면서 섀넌은 노골적으로 말해야 했다. 섀넌은 그냥 의미가 "공학 문제와 무관하다"라고 밝혔다. 인간의 심리는 잊어버리고, 주관성은 버려버리는 것이다.
반발이 있을 것이라는 점은 알고 있었다. 섀넌은 메시지가 의미를 지닐 수 있음을, “즉 분명한 물리적 혹은 개념적 실체를 가진 일부 체계를 가리키거나 그것과 상관관계가 있음"을 부정하지는 않았다. (567p)
신호를 받아 정보로 바꾸려면 인간 혹은 "인지적 중개자"가 필요하다. 프레드 드레츠키는 "아름다움은 보는 사람의 눈 속에 있고, 정보는 받는 사람의 머릿속에 있다"라고 말한다. 어쨌든 “우리는 자극에 의미를 '부여'하며, 의미 부여가 없으면 자극은 정보로는 쓸모가 없다"라는 것이 인식론의 일반적인 시각이다. 하지만 드레츠키는 정보와 의미를 구별함으로써 철학자는 자유로워진다고 주장한 다. 공학자들이 제시한 것은 기회와 과제였다. 말하자면 의미가 어떻게 진화하는지, 생명이 정보를 처리하고 코딩하면서 어떻게 해석과 믿음 그리고 지식으로 나아가는지 이해하는 일을 제시한 것이다. (568p)
트위터는 전신 같은 신호 보내기일까? 선시일까? 화장실 벽에
휘갈겨진 농담일까? 나무에 새겨진 사랑 고백일까? 그저 트위터는 의사소통이며, 의사소통은 인간이 좋아하는 것이라고 해두자. (571p)