넥서스

인간 개개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도, 대규모 네트워크는 허구와 환상에 의존하여 사회 구성원들을 묶고 질서를 유지한다. 나치즘과 스탈린주의는 이렇게 탄생한 것이다. (10p)

역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이다. 역사는 우리에게 무엇이 그대로이고, 무엇이 변하며, 어떻게 변하는지 가르쳐준다. 이 원리는 다른 모든 종류의 역사적 변화와 마찬가지로 정보혁명에도 적용된다. (30p)

진실이라는 개념의 기저에는 하나의 보편적인 현실이 존재한다는 전제가 깔려 있다. 북극성부터 닐리의 통신 비둘기, 점성술에 관한 웹페이지까지 지금까지 존재했거나 앞으로 존재할 무언가는 이 단일한 현실의 일부다. 따라서 진실 찾기는 보편적 프로젝트다. 사람, 국가, 문화에 따라 다양한 신념과 감정을 지닐 수는 있지만, 모두가 보편적인 현실을 공유하므로 진실은 오직 하나뿐이어야 한다. 보편주의를 거부하는 사람은 진실을 거부하는 것이다. (44p)

정확성을 추구하는 시도가 극단으로 치달으면 호르헤 루이스 보 르헤스의 단편소설 <과학의 정확성에 관하여〉에서처럼 세상을 1대1 비율로 재현하는 지경에까지 이를 수 있다. […] 1대 1 비율의 지도는 현실의 궁극적 재현으로 보일지도 모르지만, 의미심장하게도 그것은 더 이상 재현이 아니라 현실 자체다. (47p)

현실을 최대한 사실 그대로 기술해도 현실을 온전히 담아낼 수 없다는 것이다. 모든 재현에는 무시되거나 왜곡되는 측면이 있기 마련이다. 따라서 진실은 현실을 1대1 비율로 재현하는 것이 아니다. 오히려 진실은 현실의 특정 측면을 알리고 다른 측면은 어쩔 수 없이 무시하는 것이다. 현실에 대한 어떤 기술도 100퍼센트 정확하지 않지만, 그럼에도 불구하고 일부 기술은 다른 것들 보다 진실에 가깝다. (47p)

순진한 정보관은 정보를 현실을 재현하려는 시도로 본다. 이 관점은 일부 정보가 현실을 제대로 재현하지 않는다는 사실을 알지만 그것을, '오정보'나 '허위 정보'의 불행한 사례로 치부한다. 오정보는 누군가가 현실을 재현하려다가 어긋났을 때 발생하는 정직한 실수다. 반면 허위 정보는 누군가가 현실에 대한 우리의 시각을 의식적으로 왜곡하려 할 때 발생하는 고의적인 거짓말이다. 순진한 정보관은 나아가 오정보와 허위 정보가 초래하는 문제에 대한 해결책은 더 많은 정보라고 믿는다. (48p)

우주에 대한 정보가 더 많이 주어지면 사람들은 분명 점성술을 완전히 포기할 것이라고 순진한 정보관은 주장한다. 하지만 실제로 점성술은 수천 년 동안 역사에 엄청난 영향을 미쳤으며, 지금도 수백만 명의 사람들이 무엇을 공부할지, 누구와 결혼할지 같은 인생 중대사를 결정하기 전에는 별자리 운세를 확인한다. 2021년 기준으로 전 세계 점성술 시장의 규모는 128억 달러에 달했다. […] 점성술의 예는 오류, 거짓말, 환상, 허구도 정보라는 것을 보여준다. 순진한 정보관이 주장하는 것과 달리, 정보는 진실과 딱히 관련이 없으며, 정보가 역사에서 하는 역할은 실존하는 현실을 그대로 재현하는 것이 아니다. 오히려 정보가 하는 일은 별개의 것들을 하나로 묶어서 연인이든 제국이든 새로운 현실을 만들어내는 것이다. 정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다. 정보가 꼭 어떤 것들에 대해 무언가를 알릴 필요는 없다. 오히려 정보는 서로 다른 것들을 무언가로 묶는 역할을 한다. 별자리 운세는 연인을 별점으로 묶고, 선전 방송은 유권자를 정치적으로 묶고, 군가는 병사들을 군사 대형으로 묶는다. (49p)

순진한 정보관의 믿음과 달리 호모 사피엔스가 세계를 정복한 이유는 정보를 현실의 정확한 지도로 바꾸는 데 탁월한 재능이 있어서가 아니었다. 오히려 사피엔스의 성공 비결은 정보를 활용하여 많은 개인을 연결하는 일에 탁월한 재능을 발휘한 것이다. 하지만 안타깝게도 이 능력은 거짓, 오류, 환상을 믿는 것과도 밀접한 관련이 있다. (56p)

브랜딩 작업은 때때로 허위 정보를 퍼뜨리는 뒤틀린 활동이지만, 역사의 빅 스토리들은 대부분 감정 투사와 희망적 사고의 산물이었다. 모든 주요 종교와 이데올로기의 등장 뒤에는 열렬한 신봉자들의 중요한 역할이 있었고, 예수 이야기가 역사를 바꾼 것은 열렬한 신자들을 엄청나게 많이 확보했기 때문이다. (64p)

가족은 인간이 아는 가장 강력한 유대 관계다. 이야기가 낯선 사람들 사이에 신뢰를 구축하는 한 가지 방법은 서로를 가족으로 상상하게 만드는 것이다. 예수 이야기는 예수를 모든 인류의 부모처럼 묘사하면서 수억 명의 기독교인들에게 서로를 형제자매로 여기도록 권하고 공동의 가족 기억을 만들어냈다. (64p)

스토리텔링 이전에 있었던 두 차원의 현실은 객관적 현실과 주관적 현실이다. 객관적 현실은 돌과 산, 소행성 같은 것들로 이루어져 있다. 즉 우리가 그 존재를 알든 모르든 관계없이 존재하는 것들이다. […] 그다음에는 주관적 현실이 있다. 고통과 즐거움, 사랑처럼 '저 밖'이 아니라 '이 안에' 있는 것들이다. 주관적인 것들은 우리가 그것을 인지하는 순간 생긴다. […] 어떤 이야기는 세 번째 차원의 현실을 창조할 수 있다. 바로 상호주관적 현실이다. 통증과 같은 주관적 현실은 한 개인의 마음속에 존재하는 반면, 법이나 신, 국가나 기업, 화폐와 같은 상호 주관적인 현실은 수많은 사람들의 마음을 연결하는 곳에 존재한다. (66p)

《오래된 새 땅(The Old New Land)》(1902)은 1923년을 배경으로 번영하는 유대인 국가에 대한 이상을 묘사한 유토피아 소설이었다. 역시 태생적으로 팔레스타인 땅의 현실을 무시하기 쉬웠던 두 권의 책은 시온주의 운동을 조직하는 데 막대한 영향을 주었다. 《오래된 새 땅》의 히브리어 번역본은 《텔아비브 Tel Aviv》라는 제목으로 출판되었다(텔아비브는 '오래된 새 땅'을 히브리어로 대강 번역한 것이다). 그 책이 출간되고 7년 후 건설된 텔아비브시의 도시명은 이 책의 제목을 딴 것이다. (88p)

켄들 헤이븐이 2007년에 출간한 저서 《스토리 프루프: 이야기 의 놀라운 힘을 뒷받침하는 과학(Story Proof: The Science Behind the Startling Power of Story)》에서 썼듯이, "인간의 마음은 (...) 삶을 이해하고, 의미를 부여하고, 기억하고, 계획하기 위한 로드맵으로서 주로 이야기와 이야기 형식을 활용한다. (...) 삶이 이야기와 비슷한 것은 우리가 이야기의 관점에서 생각하기 때문이다". (92p)

문서는 객관적인 경험적 현실을 나타내지 않았고, 오히려 문서 자체가 현실이었다. 나중에 살펴보겠지만, 문서는 결국 컴퓨터가 사용하게 될 선례와 모델을 제공했다. 상호주관적 현실을 만들어내는 컴퓨터의 힘은 따지고 보면 점토판과 종이가 가진 힘의 연장(延長)이다. (94p)

관료제(bureaucracy)는 말 그대로 '책상에 의한 통치'라는 뜻이다. 이 용어는 18세기에 프랑스에서 생겨났는데, 당시 전형적인 관료들은 서랍이 달린 책상인 뷔로(bureau) 옆에 앉아 업무를 보았다. 따라서 관료제 질서의 중심에는 서랍이 있다. 관료제는 세상을 서랍으로 나누고 어떤 문서가 어느 서랍에 들어가는지 파악함으로써 검색 문제를 해결하려고 한다. (99p)

신화와 관료제는 모든 대규모 사회를 떠받치는 두 개의 기둥이다. 하지만 신화는 매혹을 불러일으키는 반면 관료제는 의심을 사는 경향이 있다. (107p)

성 아우구스티누스는 "실수하는 것은 인간적이지만 실수를 고치 지 않는 것은 악마적이다"라는 유명한 말을 남겼다. (125p)

개인적 수준에서 종교는 위안을 주고 생명의 미스터리를 설명하 는 등 많은 다양한 기능을 수행할 수 있다. 하지만 역사적으로 종교의 가장 중요한 기능은 사회질서에 초인적 정당성을 부여하는 것이었다. (126p)

《미시나》가 정경화되어 사본이 만들어지자마자 유대인들은 《미시나》의 올바른 해석을 두고 논쟁하기 시작했다. 마침내 《미시나》의 해석에 대한 합의가 이루어져 5, 6세기에 세 번째 거룩한 책 《탈무드>로 정경화되었지만, 유대인들은 또다시 《탈무드》의 해석에 동의하지 못했다. (140p)

한 세대 후 히포 공의회(393)와 카르타고 공의회(397)에서 주교들과 신학자들이 모여 이 추천 목록을 공식적으로 정경화했고 이것이 《신약》으로 알려지게 되었다. (146p)

인쇄술과 마녀사냥의 역사에서 알 수 있듯이, 정보 시장의 규제를 없앤다고 해서 사람들이 스스로의 오류를 찾아내 바로잡는다는 보장은 없다. 자유로운 정보 시장에서는 진실보다 분노가 우세할 가능성이 높기 때문이다. (168p)

자정 장치는 거룩한 책과는 정반대로 작동하는 정보 기술이다. 거룩한 책은 오류가 없어야 하지만, 자정 장치는 오류가 생길 가능성을 받아들인다. 자정 장치(self-correcting mechanism)란 누군가가 자신의 오류를 스스로 바로잡는 데 사용하는 메커니즘을 뜻한다. (171p)

과학 기관에서는 '발표하지 않으면 도태된다'는 원리에 따라 채용과 승진이 이루어지며, 권위 있는 학술지에 논문을 발표하기 위해서는 기존 이론의 오류를 찾아 내거나 선배나 스승이 몰랐던 무언가를 발견해야 한다. 이전 학자들이 말한 것을 충실하게 되풀이하고 모든 새로운 과학 이론에 반대하는 것으로 노벨상을 받은 사람은 없다. (181p)

때때로 중앙정부가 모든 정보를 독점하고 모든 결정을 직접 내림으로써 국민의 삶 전체를 통제하려고 시도하기도 한다. 히틀러와 스탈린 같은 사람들이 시행했듯이, 이렇게 모든 것을 통제하는 형태의 독재를 전체주의라고 한다. 하지만 모든 독재가 전체주의는 아니다. 많은 독재자가 기술적 어려움 때문에 전체주의자가 되지 못한다. (188p)

요컨대, 독재는 강력한 자정 장치가 없는 중앙 집중화된 정보 네트워크다. 반면 민주주의는 강력한 자정 장치를 갖춘 분산된 정보 네트워크다. […] 자율은 정부가 무능해서 생기는 결과가 아니라, 민주주의의 이상적 가치로서 보장된다. (190p)

제임스 매디슨 대통령의 말을 빌리자면, 인간은 오류가 있기 때문에 정부가 필요하지만, 정부도 오류가 있기 때문에 선거를 정기적으로 실시하고, 언론의 자유를 보장하고, 정부 권력을 행정부, 입법부, 사법부로 분리하는 등 오류를 찾아내고 바로잡을 장치가 필요하다. (191p)

민주주의에는 다수라도 침해할 수 없는 두 가지 권리 범주가 존재한다. 첫 번째 범주는 인권이다. […] 인권 범주에는 생명권 외에도 노동권, 사생활 권리, 이동의 자유, 종교의 자유 등 다양한 권리가 포함된다. […] 두 번째 중요한 권리 범주는 시민권이다. […] 다른 시민권으로는 언론의 자유, 학문의 자유, 집회의 자유 등이 있으며, 이런 권리들 덕분에 독립 언론, 대학, 정부에 반대하는 시민 단체가 정부를 비판할 수 있다. […] 인권과 시민권에서 공히 놓치지 말아야 할 중요한 점은 이 권리들이 중앙정부의 권력을 수동적으로 제한하는 데 그치지 않고 중앙 정부에 여러 적극적인 의무도 부여한다는 것이다. (196p)

정보 흐름의 관점에서 한 정치체제를 '민주주의'로 정의하는 기준은 하나뿐이다. 즉 중앙정부가 무제한적인 권한을 갖지 않고 중앙의 실수를 바로잡을 수 있는 견고한 장치를 갖추고 있다는 것이다. (197p)

포퓰리스트들의 가장 놀라운 주장은 자신들만이 진정으로 국민 을 대변한다는 것이다. 민주주의에서는 오직 국민만이 정치권력을 가질 수 있는데 포퓰리스트 정당만이 국민을 대변하므로 포퓰리스트 정당이 모든 권력을 가져야 한다는 것이다. 포퓰리스트가 아닌 다른 정당이 선거에서 승리했다고 해서 그 정당이 국민의 신임을 얻었고 정부를 구성할 자격이 있다는 뜻은 아니다. 오히려 이는 선거가 조작되었거나, 국민이 속아서 자신들의 진정한 의사를 반영하지 못하는 방식으로 투표했다는 뜻이다.

여기서 강조하고 싶은 점은 많은 포퓰리스트들이 선전 전략상 이 렇게 말하는 것이 아니라 정말로 그렇게 믿는다는 것이다. (203p)

로마 황제, 아바스 제국의 칼리프, 몽골제국의 칸은 자신들은 틀릴 수 없 다고 믿는 무자비한 전제군주였지만, 대규모 사회를 완전히 통제하는 데 필요한 장치가 없었다. 이것이 무슨 말인지 이해하기 위해서는 먼저 전체주의 체제와 이보다는 덜 극단적인 체제인 전제주의의 차이를 명확하게 알 필요가 있다. 전제주의 네트워크는 통치자의 의지를 법적으로는 막을 수 없지만 그 의지를 실행에 옮기는 데는 많은 한계가 따른다. 반면 전체주의 네트워크에는 이런 실행상의 한계들이 별로 없다. (234p)

알고리즘은 사용자들의 뉴스 피드 상단에 무엇을 배치할지, 어떤 콘텐츠를 홍보할지, 어느 페이스북 그룹에 가입하라고 추천할지 결정했다. 알고리즘은 자비심에 관한 법문이나 요리 교실을 추천할 수도 있었지만, 증오로 가득한 음모론을 퍼뜨리기로 결정했다. 권위 있는 대상의 추천은 사람들에게 막대한 영향력을 미칠 수 있다. 《성경》이 추천 목록으로서 탄생했다는 사실을 떠올려보라. 아타나시우스와 여타 교부들은 기독교인들에게, 좀 더 관용적인 〈바울과 테클라의 행전〉이 아니라 여성 혐오적인 〈디모테오에게 보낸 첫째 편지>를 읽도록 추천함으로써 역사의 경로를 바꾸었다. 《성경>의 경우 최종 권력은 여러 종교 소책자를 집필한 저자들이 아니라, 추천 목록을 만든 큐레이터들에게 있었다. 바로 이런 종류의 권력을 2010년대에 소셜 미디어 알고리즘이 휘두른 것이다. (290p)

사람들이 페이스북 플랫폼에서 더 많은 시간을 보낼수록 페이스북은 부자가 되었다. 이 사업 모델에 따라 인간 관리자들은 자사의 알고리즘에게 딱 하나의 최우선 목표를 부여했다. 바로 사용자 참여를 늘리라는 것이었다. 알고리즘은 수 백만 사용자들을 대상으로 실험하면서 분노가 참여도를 높인다는 사실을 알아냈다. 인간은 자비를 가르치는 법문보다 증오로 가득한 음모론에 더 끌리는 경향이 있다. 따라서 알고리즘은 사용자 참여 도를 늘리기 위해 분노를 퍼뜨리는 운명적인 결정을 내렸다. (292p)

인간 병사들은 자신들의 유전 코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다. 수많은 새로운 주체들이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다. (293p)

사람들은 자주 지능을 의식과 혼동하고, 그 결과 많은 사람들이 의식이 없는 존재는 지능을 가질 수 없다는 결론으로 도약한다. 하지만 지능과 의식은 매우 다르다. 지능은 목표(예를 들어 소셜 미디어 플랫폼에서 사용자 참여를 극대화하는 것)를 달성하는 능력이다. 의식은 고통, 쾌락, 사랑, 증오 같은 주관적인 감정을 경험할 수 있는 능력이다. (294p)

CAPTCHA는 "컴퓨터와 인간을 구분하기 위한 완전히 자동화된 공개 튜링 테스트(Completely Automated Public Turing test to tell Computers and Humans Apart)"의 약자로, 일반적으로 인간은 정확하게 식별할 수 있지만 컴퓨터는 잘 식별하지 못하는 일련의 뒤틀린 문자 또는 기타 시각적 기호로 이루어져 있다. (297p)

2010년대에는 소셜 미디어가 사람들의 관심을 장악하기 위한 전투장이었다. 하지만 2020년대에는 전투의 목표가 관심에서 친밀감으로 이동할 가능성이 높다. (307p)

우리는 문화라는 고치 안에 갇혀서 문화라는 프리즘을 통해 현실 을 경험한다. 우리의 정치적 견해는 언론 보도와 친구들 의견의 영 향을 받아 형성된다. 우리의 성 습관은 동화와 영화의 영향을 받는 다. 심지어 우리가 걷고 숨 쉬는 방식도 병사들의 군사훈련이나 승 려의 명상 수행 같은 문화적 전통의 영향을 받는다. 아주 최근까지 만 해도 우리가 살아가는 문화적 고치는 인간의 손으로 지어졌다. 하지만 앞으로 점점 더 많은 부분을 컴퓨터가 설계하게 될 것이다. (309p)

이제는 AI를 '이질적인 지능(Alien Intelligence)'의 약자로 간주하는 것이 더 나을지도 모른다. AI는 진화함에 따라 (인간 설계에 대한 의존도 측면에서) 덜 인공적이 되고 더 이질적으로 변한다. 또 하나 지적해둘 것은, 사람들은 흔히 '인간 수준의 지능'을 기준으로 AI를 정의하고 평가하며, 따라서 AI가 언제 '인간 수준의 지능'에 도달할 것인지를 두고 많은 논쟁이 벌어지고 있다는 점이다. 하지만 이 기준은 심각한 혼란을 부를 수 있다. 이는 마치 '새 수준의 비행 능력'을 기준으로 비행기를 정의하고 평가하는 것과 같다. AI는 인간 수준의 지능을 향해 발전하고 있지 않다. 그것은 완전히 다른 종류의 지능으로 진화하고 있다. (317p)

물고기가 물속에 살듯이, 인간은 디지털 관료제 속에서 살아가며 끊임없이 데이터를 들이마시고 내뱉는다. 우리가 하는 모든 행위는 데이터 흔적을 남기고, 그것들은 패턴을 파악하기 위해 수집되고 분석된다. (344p)

이런 모호한 성격은 중세 평판 시스템에서는 버그가 아니라 중요한 기능이었다. '계산'은 교활함과 계략의 동의어였다. 명예로운 행동은 외적 보상을 추구하는 것이 아니라 내적 미덕을 보여주는 지표로 여겨졌다. (362p)

2012년에 이용자들은 유튜브에서 매일 1억 시간 분량의 동영상을 시청하고 있었다. 기업 경영진은 그것으로 만족하지 않고 알고리즘에 2016년까지 하루 10억 시간을 달성하라는 야심찬 목표를 설정했다. 유튜브 알고리즘은 수백만 명을 대상으로 시행착오를 거듭한 끝에 페이스북 알고리즘이 학습한 것과 동일한 패턴을 발견했다. 즉 분노를 유발하는 내용은 참여도를 높이지만 온건한 내용은 그렇지 않은 경향이 있었다. 이에 따라 유튜브 알고리즘은 수백만 명의 이용자들에게 터무니없는 음모론을 추천하는 동시에 온건한 콘텐츠는 무시하기 시작했다. 2016년에 이용자들은 유튜브에서 정말로 하루 10억 시간 분 량의 동영상을 시청하고 있었다.

관심을 놓고 경쟁하는 유튜버들은 거짓말로 가득한 터무니없는 영상을 올리면 알고리즘이 수많은 이용자에게 그것을 추천해주고 따라서 인기와 수익을 얻을 수 있다는 사실을 알게 되었다. 반대로 분노의 강도를 낮추고 진실을 보여주면 알고리즘은 그것을 무시하는 경향이 있었다. 알고리즘이 이런 식으로 강화 학습을 제공한 지 몇 달 만에 많은 유튜버가 트롤로 변신했다. (372p)

우리가 그동안의 역사에서 숱하게 보았듯이, 모든 정보가 여과 없이 흐르도록 내버려두면 진실이 지는 경향이 있다. 저울을 진실 쪽으로 기울이려면, 정보 네트워크가 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다. 이런 자정 장치는 비용이 많이 들지만, 진실을 얻고 싶다면 반드시 그것에 투자해야 한다. (379p)

나는 순진하게도 소셜 미디어가 수십억 명의 전두엽을 연결해 인간의 의식을 고양하고 인류 공동의 관점을 퍼뜨릴 수 있다고 믿었어요. 하지만 알고 보니 소셜 미디어 기업들에게는 전두엽을 연결할 이유가 없었어요. 소셜 미디어 기업들이 연결해야 하는 것은 변연계였죠. 결과적으로 인류는 훨씬 위험한 상황에 놓였어요. (381p)

텔레비전이 지배적인 매체였던 시절시청 자들은 '카우치 포테이토'로 비하되었다. 그것은 소수의 재능 있는 예술가가 생산한 콘텐츠를 수동적으로 소비하는 사람들이라는 뜻이다. (382p)

우리는 클라우제비츠의 《전쟁론》을, '승리의 극대화'는 '이용자 참여의 극대화'만큼이나 근시안적인 목표라는 경고로 이해할 수 있다. 클라우제비츠 모델에 따르면, 정치적 목표가 분명해야 군대가 그 목표를 달성하기 위한 군사전략을 결정할 수 있다. 그 다음에는 하급 장교들이 그 전반적인 전략에서 전술적 목표를 이끌어낼 수 있다. 이 모델은 장기 정책, 중기 전략, 단기 전술 사이에 명확한 위계를 세운다. 전술은 어떤 전략적 목표에 부합할 경우에만, 전략은 어떤 정치적 목표에 부합할 경우에만 합리적인 것으로 간주된다. 하급 중대장의 국지적인 전술적 결정조차도 전쟁의 궁극적인 정치적 목표에 부합해야 한다. (387p)

수천 년 동안 철학자들은 더 높은 목표에 부합하지 않아도 되는 궁극적인 목표의 정의를 찾으려고 시도했다. 그들은 두 가지 접근법에 반복적으로 끌렸다. 이 둘은 의무론과 공리주의라는 철학 용어로 잘 알려져 있다. 의무론자 deontologist ('의무'를 뜻하는 그리스어 데온deon에서 유래했다)는 모든 사람에게 적용되는 어떤 보편적인 도덕적 의무, 또는 도덕 법칙이 있다고 생각한다. 이 법칙은 더 높은 목표에 부합하는 대신 내재적 선(그 자체로 좋은 것)에 의존한다. (398p)

칸트는 내재적으로 선한 법칙이란 나 자신이 보편적인 것으로 만들고 싶은 모든 법칙이라고 주장했다. 이 견해에 따르면, 누군가를 죽이기로 작정한 사람은 일단 행동을 멈추고 다음과 같은 사고 과정을 거쳐야 한다. '나는 지금 사람을 죽이려고 한다. 나는 '사람을 죽여도 된다'는 보편적 법칙을 만들고 싶은가? 그런 보편적 법칙이 생긴다면 누군가가 나를 죽일지도 모른다. 따라서 살인을 허용하는 보편적 법칙은 존재해서는 안 된다. 그렇다면 나도 사람을 죽여서는 안 된다.' 쉽게 말하자면, 칸트는 오래된 황금률인 “남에게서 바라는 대로 남에게 해주어라"(<마태오의 복음서> 7:12)를 재구성한 것이다. (398p)

알고리즘의 편향 중 상당수가 똑같은 근본적인 문제를 가지고 있다. 즉 실제로는 인간에게 어떤 질서를 부여해놓고 인간에 대한 어떤 진실을 발견했다고 생각하는 것이다. 소셜 미디어 알고리즘은 인간이 분노를 좋아한다는 사실을 발견했다고 생각하겠지만, 애초에 분노를 더 많이 생산하고 소비하도록 인간을 조건화한 것은 알고리즘이다. 알고리즘의 이런 편향은 한편으로는 컴퓨터가 인간 능력의 완전한 잠재력을 무시하는 데서 발생하고, 다른 한편으로는 컴퓨터가 인간에게 미치는 자신들의 영향력을 과소평가하는 데서 비롯된다. 거의 모든 인간이 특정 방식으로 행동하는 것처럼 보인다고 해서 인간이 그런 식으로밖에 행동하지 못하는 건 아니다. 인간이 특정 방식으로 행동하는 것은 단지 컴퓨터들이 그런 행동에 보상을 제공하는 한편 다른 행동은 벌하고 차단하기 때문인지도 모른다. (426p)

사람들은 익숙하지 않은 기술적인 세부 사항에 압도되면 절망을 느끼거나 무관심으로 반응한다. (439p)

민주주의의 생존이라는 측면에서 보면 약간의 비효율은 버그가 아니라 기능이다. (441p)

인간의 삶은 자기 개선 노력과 자기 수용 사이의 균형 잡기다. (445p)

또 하나의 널리 퍼져 있는 잘못된 가정은 창의성이 인간의 독특한 특성이라서 창의성을 요하는 직업은 자동화하기 어렵다는 생각이다. 하지만 체스에서 컴퓨터는 이미 인간보다 훨씬 더 창의적이다. 음악을 작곡하는 것부터 수학 공식을 증명하고 이런 책을 쓰는 일까지 다른 많은 분야도 마찬가지 상황이 될 것이다. 창의성은 종종 패턴을 인식한 다음 그 패턴을 깨는 능력으로 정의된다. 그렇다면, 컴퓨터는 패턴 인식에 뛰어나기 때문에 많은 분야에서 우리보다 창의적일 가능성이 높다. (449p)

AI는 스스로는 아무런 감정을 지니지 않지만 그럼에도 인간의 감정 패턴을 인식하는 방법을 학습할 수 있다. 사실 컴퓨터는 자기 감정이 없다는 바로 그 이유 때문에 인간의 감정을 알아차리는 데 인간보다 뛰어날지도 모른다. 우리는 이해받기를 갈망하지만 타인들은 자기 감정에 빠져 있기 때문에 우리가 어떻게 느끼는지 잘 이해하지 못한다. 반면 컴퓨터는 우리가 어떻게 느끼는지 매우 정확하고 깊이 있게 이해하게 될 텐데, 왜냐하면 컴퓨터는 우리의 감정 패턴을 인식하는 방법을 알지만 자신의 감정에 휘둘리지 않을 것이기 때문이다. (449p)

다양한 사회적 역할과 직업이 자동화될 가능성을 고려할 때 중요한 질문은 '사람들이 진정으로 원하는 것이 무엇인가'다. 단순히 문제 해결을 원하는가, 아니면 다른 의식적 존재와의 관계를 원하는가? (452p)

에드먼드 버크가 대표적으로 주장한 보수의 핵심 통찰은, 사회 현실은 진보주의자들이 생각하는 것보다 훨씬 복잡하며 사람들은 세상을 이해하고 미래를 예측하는 데 그리 능숙하지 않다는 것이다. 그렇기 때문에 현실이 불공평해 보여도 현 상태를 유지하는 것이 최선이며, 몇몇 변화가 불가피하다면 제한적이고 점진적으로 이루어져야 한다. 사회는 오랜 시간 시행착오를 거치며 축적된 규칙, 제도, 관습의 얽히고 설킨 그물망을 통해 작동한다. 이 모든 것이 어떻게 연결되어 있는지 이해하는 사람은 아무도 없다. 오래된 전통은 터무니없고 시대착오적으로 보일 수 있지만 그것을 폐지하면 예상치 못한 문제가 발생할 수 있다. 반면 혁명은 이미 일어났어야 할 정당한 일처럼 보일지 모르지만 이전 체제가 범한 것보다 더 큰 범죄를 부를 수 있다. (456p)

보수는 정책보다 속도가 더 중요한 사람들이었다. 보수는 특정 종교나 이념에 헌신하지 않는다. 그게 무엇이든 이미 있는 것, 지금까지 대체로 합리적으로 작동해온 것을 보존하는 데 헌신한다. 폴란드의 보수는 가톨릭이고, 스웨덴의 보수는 프로테스탄트이고, 인도네시아의 보수는 무슬림이며, 태국의 보수는 불교도다. 제정러시아에서 보수는 러시아 황제를 지지하는 것을 뜻했다. 1980년대 소련에서 보수는 공산주의 전통을 지지하고 글라스노스트(개방), 페레스트로이카(개혁), 민주화에 반대한다는 뜻이었다. 1980년대 미 국에서 보수는 미국의 민주주의 전통을 지지하고 공산주의와 전체 주의에 반대한다는 뜻이었다. (456p)

버크주의 보수가 창시된 순간은 바스티유 감옥 습격 사건이 일어났을 때였는데, 버크는 이 사건을 보며 공포에 질렸다. 하지만 2021년 1월 6일, 수많은 트럼프 지지자들은 미국 국회의사당을 습격하는 장면을 지켜보며 열광했다. […] 왜 이런 일이 벌어지고 있는지 확실히 아는 사람은 아무도 없다. 한 가지 설명은 기술 변화의 가속화와 그에 따른 경제적, 사회적, 문화적 변화가 온건한 보수주의 프로그램을 비현실적으로 보이게 만들었을 가능성이 있다는 것이다. 기존의 전통과 제도를 지키는 것이 도저히 불가능해서 어떤 종류의 혁명이 불가피해 보인다면, 좌파 혁명을 저지하기 위해서라도 먼저 우파 혁명을 일으켜야 한다. 이것은 1920년대와 1930년대 보수 세력의 정치 논리였다. 당시 이탈리아, 독일, 스페인 등에서 보수 세력은 소련에서 발생한 것과 같은 좌파 혁명을 막는 방법으로 급진적인 파시스트 혁명을 지지했다. (457p)

21세기를 버텨내기 위해 가장 중요한 인간의 능력은 유연성일 가능성이 높고, 민주주의는 전체주의 체제보다 유연하다. (459p)

37번째 수가 AI 혁명의 상징으로 여겨지는 데는 두 가지 이유가 있다. 첫째, 그것은 AI의 이질적인 성격을 보여주었다. […] 둘째, 37번째 수는 AI의 불가해성을 보여주었다. (468p)

점점 더 불가해해지고 있는 정보 네트워크는 최근 포퓰리스트 정당과 강력한 지도자가 잇달아 등장하고 있는 이유 중 하나다. 사람들은 더 이상 세상을 이해할 수 없을 때, 그리고 소화할 수 없는 엄청난 양의 정보에 압도될 때 쉽게 음모론에 빠지고, 자신들이 이해하는 대상인 '인간'에게 구원을 요청한다. (470p)

알고리즘이 수많은 데이터 포인트에 의존하여 결정을 내리는 반면, 인간은 수많은 데이터 포인트를 의식적으로 고려하고 비교하는 데 어려움을 느낀다는 것이다. 우리는 단일 데이터 포인트로 작업하는 것을 선호한다. 그렇기 때문에 대출 신청, 팬데믹, 전쟁 같은 복잡한 문제에 직면할 때 우리는 특정 행동 방침을 취할 하나의 이유를 찾고 다른 모든 고려 사항을 무시하는 경향이 있다. 이것이 단일 원인의 오류다. (470p)

인간의 의사 결정이 우리가 의식하는 몇 가 지 데이터 포인트에만 의존하는 것처럼 보일 수 있지만 실제로는 수천 개의 추가적인 데이터 포인트로부터 무의식적으로 영향을 받는다. 이런 무의식적인 과정을 인지하지 못하기 때문에 우리는 결정할 때나 결정에 대해 설명할 때, 실제로는 수십억 개의 뉴런이 뇌 안에서 상호작용하면서 일어나는 일에 대해 사후적으로 단순하고 그럴듯한 이유를 만들어낸다. (474p)

인간이 관료제를 잘 이해하지 못하는 이유는 관료제가 생물학적 드라마의 각본을 따르지 않기 때문이고, 대부분의 예술가들은 관료주의 드라마를 묘사할 의지나 능력이 없다. 예를 들어 21세기 정치를 소재로 한 소설, 영화, 텔레비전 시리즈는 몇몇 권력자 가문의 불화와 연애에 초점을 맞추는 경향이 있다. 마치 오늘날 국가가 고대 부족이나 왕국과 동일한 방식으로 통치되는 것처럼 말이다. 이렇게 왕조의 생물학적 드라마에 시선을 고정하는 예술 작품들은 수 세기에 걸쳐 권력이 작동하는 방식에 일어난 실질적인 변화를 제대로 조명하지 못한다. (476p)

우리가 무정부 상태에 이르게 되면, 다음 단계는 아마 독재 정권의 수립일 것이다. 사람들이 약간의 확실성을 얻기 위해 자유를 포기하는 데 동의할 테니 말이다. (482p)

전제군주들은 항상 과거를 바꿀 수 있는 힘을 갖고 싶어 했다. 예를 들어 로마 황제들은 기억의 저주(damnatio memoriae, 라이벌과 적의 기억을 지우는 것)라는 행위에 자주 가담했다. (492p)

수 세기 동안 새로운 정보 기술은 세계화 과정을 촉진하여 전 세계 사람들을 더욱 가까워지게 했다. 하지만 역설적이게도, 오늘날의 정보 기술은 너무나 강력해서 인류를 갈라놓으려 한다. 사람들이 별개의 정보 고치에 갇혀 서로 달라지면, 인류는 더 이상 같은 현실을 공유하지 않을 것이다. 최근 수 십년 동안의 핵심 은유가 웹이었다면, 미래의 은유는 고치가 될지도 모른다. (526p)

모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 변화다. (548p)

자기 수정을 통한 개선은 인류 역사보다 훨씬 오래된 원리다. 그것은 자연의 기본 원리요, 유기체의 근본 바탕이다. 최초의 유기체는 어떤 오류도 범하지 않는 천재나 신에 의해 창조되지 않았으며, 복잡한 시행착오 과정을 통해 출현했다. (561p)

넥서스'는 네트워크에서 여러 노드(사람, 장치, 시스템 등)가 연결 되는 중심 연결점을 뜻한다. '정보가 인간 네트워크를 어떻게 구축 하는지' 탐구하는 《넥서스》는 제목 그대로 '연결'에 대한 책이다. 또한 정보라는 키워드를 중심으로 역사, 종교, 신화, 문학, 진화생물학 같은 다양한 주제가 만난다는 의미에서 책 자체가 '넥서스' 역할을 한다. (571p)