특이점이 온다 / 레이 커즈와일

아무리 충격적이고 설혹 받아들이고 싶지 않은 예측이라 해도 눈을 감고 외면할 수 없는 이유는, 커즈와일의 말마따나 특이점이 그리 먼 미래가 아닐지 모르며, 완벽하게는 아니더라도 어느 정도는 반드시 이 기술 분석가가 예측한 세상이 도래할 것이기 때문이다.

(언제든 자유롭게 실험하도록 허락해주셨다.)

프롤로그：생각의 힘15

이 세상의 어느 누구도 발명가가 자신의 지적 창조물이 성공하는 것을 볼 때 느끼는 전율보다 더 큰 전율을 느끼지는 못할 것이다 - 니콜라 테슬라

 

16 우리는 올바른 생각을 통해 불가항력의 난제로 보이는 것까지 극복할 수 있다. 오늘날까지 나는 이 기본적인 철학을 확신하고 있다. 어떠한 곤경에 처하더라도 그것을 극복할 수 있는 아이디어가 있게 마련이고, 또 우리는 그 아이디어를 찾아낼 수 있다는 것이다. 그리고 일단 찾아내면, 그것을 수행해야 한다. 내 삶은 이 원칙에 입각하여 발전해왔다. 생각의 힘, 그 자체가 하나의 훌륭한 생각이다.

 

16 나를 기른 종교 - 인간의 창조력과 생각의 힘에 대한 숭배

 

18 파도타기와 비슷하다. 물결을 정확히 예측하고 잡아낼 수 있어야 한다.

 

18 세상을 변화시키는 생각의 힘 자체도 가속적으로 발전한다.

 

19 수확 가속의 법칙

 

19 마음속에 현실의 모델을 만드는 능력 덕분에 우리는 인간이 창조할 비생물학적 지능과 인간의 생물학적 사고가 융합된다는 것이 어떤 의미일지, 합리적으로 통찰해 볼 수 있다. 이것이 바로 이 책에서 하고 싶은 이야기이다. 우리가 우리 자신의 지능을 이해할 수 있으며, 나아가 수정하고 확장할 수 있다는 생각을 전제하는 이야기이다.

 

20 우리가 스스로의 지능을 이해하고, 모델링하고, 확장할 능력을 가지고 있다는 것은 틀림없어 보인다. 우리의 지능은 무한한 창조력의 세계로 현재의 능력을 끌어올리기에 필요한 임계점을 충분히 넘어서 있다.

 

20 앞으로 길어봐야 수십 년 후에는 실제로 존재할 세계이기 때문에 터무니없는 공상이라고 할 수 만은 없다.

 

21 인간이란 정보 이상 아무것도 아니다.

 

 

1. 여섯 시기23

사람들은 자기 비전의 한계를 세계의 한계로 생각한다 - 쇼펜하우어

 

23 특이점 - 미래에 기술 변화의 속도가 매우 빨라지고 그 영향이 매우 깊어서 인간의 생활이 되돌수 없도록 변화되는 시기를 뜻한다.

 

24 특이점을 이해하게 되면 지나간 과거의 의미와 미래에 다가올 것들에 대한 시각이 바뀐다. 특이점을 정확하게 이해하면 보편적 삶이나 개인의 개별적 삶에 대한 인생관이 본질적으로 바뀐다.

 

26 특이점을 통해 우리는 생물학적 몸과 뇌의 한계를 극복할 수 있을 것이다. 우리는 운명을 지배할 수 있는 힘을 얻게 될 것이다. 죽음도 제어할 수 있게 될 것이다. 원하는 만큼 살 수 있을 것이다(영원히 살게 되리라는 것과는 약간 다른 말이다). 우리는 인간의 사고를 완전히 이해하고 사고 영역을 크게 확장할 것이다. 이 세기가 끝날 때쯤에는 지능의 비생물학적인 부분이 순수한 인간의 지능과 비교할 수 없을 만큼 강력해져 있을 것이다.

 

27 생물학적 사고 및 존재 + 기술

 

28 폰 노이만
1) 가속 - 기하급수적
2) 특이점 - 예측을 뛰어넘는 속성

 

31 기하급수적 증가는 모든 진화 과정의 공통된 특성

 

33 우선 우리가 도구를 만들면 다음엔 도구가 우리를 만든다.

 

34 진화는 점점 질서가 높은 패턴을 창조해가는 과정이다.

 

34 모든 원소들 중 가장 쓰임새가 풍부한 것은 탄소다.

 

35 우리의 진화를 가능하게 한 우주 안에서만 이러한 질문을 할 수 있다고 주장하는 인류 원리를 생각한다.

 

40 노이즈 = 분산

 

42 눈깜짝할 사이에 기존의 모든 규칙을 버려야 한다.

 

45 기계, 우리 마음의 자손

 

45 MEST - 물질, 에너지, 공간, 시간

 

48 기계는 거의 빛의 속도 - 초당 약 3억 미터

 

48 기계는 자원, 지능, 메모리를 공유할 수 있다. 기계는 하나로 합쳐질 수도 있고 다시 나눠질 수도 있다. 여러 대의 기계가 하나인 동시에 별개의 존재르르 간직할 수도 있다.

 

49 생물은 고유한 한계를 갖고 있다. 가령 살아 있는 모든 유기체는 일차원적인 아미노산 사슬이 접혀 만들어진 단백질로 구성되어야 한다.

 

49 인간 지능은 일정 정도의 가소성을 지니고 있다.

 

50 생물학적 지능에서 비생물학적 지능으로 넘어간다면,

 

52 궁극적으로 온 우주가 우리의 지능으로 포화될 것이다. 이것이 우주의 운명이다.

 

53 그 뒤에 무엇이 있는지 완벽히 이해할 수 없다. 사실 바로 그렇기 때문에 이 변화를 특이점이라고 부르는 것이기도 하다. 그러나 내 생각에, 인간은 어쩔 수 없는 사고의 한계에도 불구하고 특이점 이후의 삶에 대해 의미 있는 진술을 하기에는 충분한 추상화 능력을 지니고 있다. 무엇보다도 앞으로 탄생할 지능 또한 이미 인간-기계 문명이라고 불러야 옳을 우리 인간 문명을 나타내리라는 점을 잊지 말아야 한다. 즉 미래의 기계는 비록 생물이 아닐지라도 변함없이 인간적일 것이다.

 

53 문명의 지능 대부분은 결국에는 비생물학적인 형태가 될 테고, 이번 세기 말쯤에는 비생물학적 지능이 인간 지능보다 수조 배의 수조 배만큼 강력해질 것이다. 생물학적 지능이 진화의 우위를 잃는다 해도 이것이 흔히 우려하는 것처럼 생물학적 지능의 종말을 뜻하는 건 아니다. 비생물학적 지능은 어차피 생물학적 설계에서 파생되어 나올 것이기 때문이다 우리의 운명은 여전히 인간적일 것이다. 비록 인간성에 대한 이해가 생물학적 기원을 넘어서긴 하겠지만, 정말 여러가지 면에서 미래 문명은 현재보다 더 인간적인 전형이 될지 모른다.

 

57 진화 - 위험천만한 폭주 현상

 

58 당신이란 존재는 방대한 물질과 에너지 중 극히 일부에 불과

 

58 포글릿은 나노봇의 일종- 혈구 크기만 한 로봇 - 자기들끼리 연결해서 온갖 물리적 구조를 복제해 낼 수 있다. 시청각 정보를 특정한 방식으로 처리해서 실제 현실을 마치 가상현실처럼 마음대로 빚어내기도 한다.

 

 

 

2. 기술 진화 이론：수확 가속의 법칙61

 

61 뒤를 멀리 돌아볼수록 앞을 더 멀리 내다볼 수 있다 - 윈스턴 처칠

 

61 20억 년 전에 우리 조상은 미생물이었다. 5억 년 전에는 물고기, 1억 년 전에는 쥐 같은 것, 천만 년 전에는 나무 위에 사는 유인원

 

61 특정 수준 지능에게 불가능 했던 것이 조금 높아진 수준의 지능에게는 쉬운 것이 된다.

 

61 수확 가속의 법칙 - 진화 과정이 가속적이라는 현상, 그 산물 또한 기하급수적으로 증가한다.

 

62 복잡성이란 어떤 과정을 표현하는 데 필요한 최소한의 정보량이다.

 

63 완전히 무작위적인 정보를 포함한 파일은 도처히 압축할 수 없다. 사실 압축할 수 있느냐 없느냐 하는 점은 어떤 수열이 정말로 무작위인가 아닌가를 결정하는 중요한 기준이다.

 

66 복잡성의 증가 자체가 진화 과정의 궁극적 목표이거나 최종 산출물인 것은 아니다. 진화는 더 복잡한 답을 찾아내는 것이 아니라 더 나은 답을 찾아낸다. 간단한 해결책

 

66 질서는 무질서의 반대말이 아니다. 무질서가 무작위로 일어나는 사건을 가리킨다면 무질서의 반대말은 무작위적이지 않음이 되어야 한다. 정보느느 유기체의 DNA 암호나 컴퓨터 프로그램의 비트처럼 어떤 과정 속에서 의미가 있는 데이터의 배결이다. 반면 '소음'은 무작위 배열이다. 소음은 본질적으로 예측불가능하고 정보도 가지고 있지 않다. 그런데 정보도 예측불가능하다. 과거의 데이터를 이용해 미래의 데이터를 예측할 수 있다면 그 미래의 데이터는 더 이상 정보가 아니다. 그러니 정보와 소음은 둘 다 압축될 수 없다.

 

66 규칙적인 것과 질서는 또 다르다. 질서는 정보를 필요로 하기 때문이다. 질서란 목적에 부합하는 정보다. 질서의 크기는 정보가 목적에 부합하는 정도에 따라 결정된다. 생물 진화의 목적이라면 살아남는 것이다. 질서를 측정하는 것은 복잡성을 측정하는 것보다 더 어렵다. 질서를 측정하려면 각 상황에 맞는 성공의 척도가 필요하다. 진화 알고리즘을 만드는 프로그래머는 이러한 성공척도(효용함수)를 제공해야 한다.

 

67 문제에 대한 해결책을 발전시키면 질서가 증가된다. 이제 문제를 정의하는 일만 남았다. 사실 진화 알고리즘의 핵심은 문제를 정의하는 것이다. 생물학적 진화에서라면 대체로 살아남는 것이 늘 문제였다.

 

68 진화는 질서를 증가시킨다. 그러나 복잡성은 증가되기도 하고 증가되지 않기도 한다. 보통은 증가한다. 생명체든 기술이든 진화의 속도가 빨라지는 주된 이유는 점점 증가하는 질서 위에 쌓여가기 때문이다. 정보를 기록하고 조작하는 기법들이 점점 세련되어지기 때문이다. 진화가 만들어낸 혁신은 더 빠른 진화를 촉진하고 가능케 한다. 생명체 진화의 경우 가장 중요한 초기 사계는 DNA였다. DNA는 생명의 설계안이 안전하게 기록되게 함으로써 더 진취적인 실험을 가능하게 했다. 기술 진화의 경우 정보 기록방법이 지속적으로 개선되면서 더 나아간 기술의 발전을 촉진했다.

 

69 기술의 진화 과정은 기술의 역량을 기하급수적으로 늘려갔다. 혁신은 기술의 역량을 덧셈이 아니라 곱셈으로 늘려간다. 모든 진화가 그렇듯, 기술은 과거의 성취 위에 쌓인다.

 

69 진화는 인간을 창조했고, 인간은 기술을 창조했다. 특이점 시대에 이르러서는 인간과 기술 간의 구별이 사라질 것이다. 인간이 현재의 기계처럼 변하기 때문이 아니라 기계가 현재의 인간처럼, 나아가 그 이상으로 발전할 것이기 때문이다.

 

69 질서(생존이라는 진화의 목적에 정보가 얼마나 잘 부합하는가를 나타내는 크기) 진화의 과정은 닫힌 계가 아니다.

 

75 한없이 증가하는 진화 과정의 질서 자체가 하나의 중요한 자원이다. 진화과정의 산물은 끊임없이 질서를 증가시키고자 하기 때문이다. 진화의 각 단계마다 다음 단계를 위한 강력한 도구가 만들어진다.

 

76 질서의 기하급수적 증가가 지속되기 위해서 있어야 할 또 다른 자원은 진화 과정이 전제되는 환경 내의 카오스이다. 카오스는 다양성을 담보하기 위한 여러 선택지를 제공해주기 때문이다. 카오스가 제공하는 가변성 덕분에 진화 과정은 더 강력하고 효과적인 해답을 발견해낼 수 있다.

 

82 책은 우리 문화를 반영하고 만들어가는 사회적 필수요소이다. 책이 없는 삶은 상상하기 어렵다. 그러나 무릇 모든 기술이 그렇듯, 인쇄된 책도 영원하지는 못할 것이다.

 

82 기술의 생명주기
상상 - 발명 - 보호/지원 - 성숙- 새기술 등장 - 기술쇠퇴/경쟁자 - 유물

 

88 천문학이 망원경에 관한 학문이 아닌 것처럼 컴퓨터 과학은 더 이상 컴퓨터에 관한 학문이 아니다.

 

GNR 유전학, 나노기술, 로봇공학
나노기술 - 물질과 기계 시스템에 대한 정보 지배력을 급속하게 증가
로봇공학 - 인간 뇌 역분석 - 강력한 연산 플랫폼

 

114 인간 지식과 예술표현의 모든 형태가 디지털 정보로 표현될 수 있다. 우리 뇌도 디지털식으로 작동한다. 뉴런의 점화가 디지털이기 때문이다. 개재뉴런의 연결 구조도 디지털 방식으로 설명될 수 있으며, 뇌의 설계는 놀랄 만큼 적은 양의 디지털 유전 암호로부터 나오는 것이다.

 

115 탄소원자는 네 방향으로 연결을 할 수 있어 다채로운 삼차원 구조를 만드는 능력이 탁월하기 때문에, 생물과 기술 모두에서 중추적인 역할을 담당한다. 원자 내의 전자들은 이산적 에너지 준위를 갖는다. 양자 같은 다른 소립자들은 이산적인 수의 원자가 쿼크들로 이루어진다.

 

116 우주 자체가 하나의 거대한 세포 자동자 컴퓨터 - 겉보기에 아날로그적인 현상들과 물리학 원리들 기저에는 사실 디지털적인 기초가 있다.

 

116 에너지가 아닌 정보로 관심의 초점을 옮긴 것을 드러냈는데, 에너지가 아닌 정보의 변환이 우주의 근본적 구성 단위일지 모른다. 우주가 디지털 컴퓨터로 연산되는 것일지 모른다

 

116 우주가 궁극적으로는 소프트웨어로 구성되어 있다. 입자와 힘으로 이루어진 무언가가 아니라, 연산 규칙에 따라 변경되는 데이터 비트에 가깝다.

 

116 우리에게는 세 가지 커다란 철학적 질문들이 있다. 생명이란 무엇인가? 의식이니 사고니 기억이니 뭐니 하는 것들은 무엇인가? 우주는 어떻게 움직이는가? 정보 관점은 이 세가지를 모두 망라한다. 말하자면 가장 기초적인 수준의 복잡성에서는 정보 처리 과정이 모든 물리 현상을 운영하고 있다는 뜻이다. 좀더 높은 수준의 복잡성인 생명체에서는 DNA, 그리고 사실상 모든 생화학적 기능들이 디지털 정보 처리 과정에 의해 제어된다. 그리고 또 다른 수준인 우리의 사고 과정 또한 기본적으로 정보 처리 과정이다.

 

118 현재의 진행 속도보다 더 빨리 질문에 대한 대답을 알 수 있는 방법은 없다. 우주가 문자 그대로 하나의 컴퓨터이고, 누군가 혹은 무엇언가가 문제 해결을 위해 이 우주를 사용하고 있다.
좋은 소식은 우리의 삶에 목적이 있다는 것이고, 나쁜소식은 그 목적이 저 먼 어딘가에 있는 해커가 원주율을 소수점 이하 거의 무한대 자릿수까지 계산한다는 걸 돕는 일이라는 점이다.

 

118 어떤 특정 정보 처리 과정에 드는 에너지 양은 우리 맘대로 줄일 수 있고, 최소 한계도 없다고 했다. 이는 물질 및 에너지보다 정보가 더 근본적인 실체라는 의미를 담고 있다.

 

120 우리가 최고로 간단한 시작점, 즉 검은색 세포 하나에서 시작했다. - 그 결과가 겉으로 보기에는 분명히 무작위적이다.

 

121 연산이란 본질적으로 단순한 것이고 도처에 존재하는 것이다.

 

122 복잡성은 연속적인 개념이다. 질서를 목적에 부합하는 정보라고 정의한다. 완벽히 예측가능한 과정의 질서는 0이다. 정보의 차원이 높다고 해서 반드시 질서의 차원이 높은 것도 아니다. 전화번호부는 많은 정보를 갖고 있지만 정보의 질서 차원은 매우 낫다. 무작위 수열은 본질적으로 순수한 정보라 할 수 있지만 질서는 없다. 문제는 인간 존재라는 패턴은, 그와는 비교가 안 될 정도로 질서의 수준이 높고 복잡성의 수준이 높다는 점이다.

 

124 우리가 고려해야 할 개념은 갈등, 즉 진화이다.

 

124 소프트웨어 수준에서는, 각각이 만드는 패턴의 질서가 명백히 다르고 복잡성과 유용성의 수준이 다르다. 진화 알고리즘의 시작은 어떤 문제에 대한 잠재적 해답들을 무작위로 형성하는 것이다. 해답들은 디지털 유전 정보로 암호화된다. 그러면 그 해답들을 가상의 진화 전장에 몰아넣고 경쟁하게 하는 것이다. 남보다 나은 해결책이 살아남고, 그들끼리 가상의 유성 생식을 통해 자손을 낳는다. 자손 해답은 두 부모로부터 유전 정보를 절반씩 끌어내 만들어진다.

 

127 1950 앨런튜링 - 기초적인 명령만을 사용하지만 상상할 수 있는 모든 연산을 수행하도록 만들 수 있었다.

 

130 이성적인 사람은 자신을 세계에 맞춘다. 비이성적인 사람은 세계를 자신에게 맞추려고 애쓴다. 그러므로 모든 진보는 비이성적인 사람에게 달려 있다 - 조지 버나드쇼

모든 진보는 수입 이상으로 살고자 하는 모든 생물 보편의 타고난 욕망에 근거한다.

만약 오늘 내가 서부로 달려가 새로운 사업을 시작한다면, 반도체가 아니라 생명공학과 나노기술에 주목할 것이다.

 

131 경제적 요구라는 명제는 생물학적 진화로 빗대면 생존해야 한다는 목표에 해당한다.

 

133 기술에 의한 생산성 개선

 

141 아는 것이 힘 - 손자

 

146 주가가 빠른 속도로 높아질 것을 깨닫는 순간, 바로 그렇기 때문에 할인율이 덩달아 높아진다.

 

 

 

3. 인간 뇌 수준의 연산 용량 만들기

 

157 자기복제하고 자기조직하는 전자기기나 기계를 만든다는 발상은 생물학에서 영감을 얻은 것이다.

 

158 DNA는 자연의 나노 컴퓨터이다.

연산의 목적은 문제를 푸는 것이다. 단 해답이 일련의 기호로 표현될 수 있는 문제여야 한다.

 

165 수십 년 안에 완벽하게 지능적인 기계가 등장하리라는 예상은 성급해보일지도 모른다. 컴퓨터는 50년간 발전해왔지만 아직 곤충의 정신에도 못 미친다.

 

166 특이점의 순간, 인간 지능이 비생물학적 지능과 융합

 

167 위치를 파악하는 가장 중요한 단서 - 시간 차 ITD

 

173 연산의 궁극적 한계를 묻는다는 것은 우리 문명의 운명을 탐구하는 것이다.

 

176 엔트로피는 환경에서 정보를 측정하는 척도

184 물체의 역량을 검토하는 두 가지 잣대는 기억 효율성과 연산 효율성이다.

 

188 그냥 시간이 흘러서 그렇게 되었을 리는 없다. 모종의 조건이 변화했기 때문이다.

 

190 시간 확장 연산 과정이 이 문제를 일으키지 않는 이유는 과거에 영향을 미치지 않기 때문이다. 그러면서도 주어진 질문에 대한 결정적이고 확실한 답을 현재에 불러올 수 있다. 일단 반드시 또렷한 답을 가지는 질문이어야 한다. 답은 질문이 주어진 후에야 존재할 수 있게 된다.

 

 

 

4. 인간 지능 수준의 소프트웨어 만들기: 어떻게 뇌를 역분석 할 것인가

 

199 하향식 트리구조

 

202 뇌 모델에 쓰이는 알고리즘들은 순차식 논리 기법들이 아니다. 뇌는 자기조직적이고, 카오스적이고, 홀로그램같은 과정을 즐겨 사용한다. 정보가 한 장소에 존재하는 게 아니라 영역 전반에 분포되어 있다. 또 병렬적 연산을 하며, 아날로그 기법들을 디지털적으로 관리하는 등 혼합적 접근법을 사용한다.

 

203 병렬 처리 구조는 패턴 인식 능력의 핵심이고, 패턴 인식 능력은 인간 사고 능력의 중심이다. 포유류의 뉴런들은 카오스적인 행태를 보이는데 일단 신경망이 무언가를 학습하면 거기서 안정적 패턴이 떠오른다. 망이 결정을 내렸다는 사실이 그런 식으로 드러나는 것이다.

 

205 뇌는 아날로그 현상과 디지털 현상을 결합하여 쓴다. 뇌의 연결들이 그리는 지형도는 본질적으로 디지털 현상이다. 연결은 있거나 없거나 둘 중 하나다.

 

206 뇌는 창발적 속성을 활용한다. 지적 행동이란 카오스적이고 복잡한 뇌 활동으로부터 창발적으로 생겨난 것이다.

207 뇌는 진화를 활용한다. 환경을 제일 잘 설명하고 인지와 결정에 도움을 주는 연결 패터난 살아남는다.

 

208 차원이 높아질수록 단순해진다.

 

215 레지스터 - 일시 기억 장소

 

223 세포가 빽빽하게 밀집한 조직 속을 전진하는 나노로봇은 어쩔수 없이 눈 앞에 놓인 세포 사이 접착물들을 소량이나마 파괴하게 될 것이다. 그 후에는 물론 침입의 여파를 최소화하기 위해 지나온 길에 뚫린 구멍들을 막아줘야 한다. 대강 두더지가 굴을 파는 방식과 비슷한 것을 생각하면 된다.

 

229 인간이 기억으로 만들어진 존재이고, 기억이 뇌의 기능이라면, 시냅스는 자아의 근본단위라 할 수 있다. 시냅스를 통해 뉴런들이 소통할 뿐더러 기억이 암호화되는 물리적 구조이기 때문이다.

 

230 시냅스의 가소성 - 한 뉴런에서 다른 뉴런으로 쉽게 신호를 전달하는 시냅스의 유연한 능력 - 변화야말로 학습에 꼭 필요한 요인이다.

 

232 시냅스를 이루는 연결망이 쉼없이 바뀐다.

253 우리는 세상을 명료하게 바라본다고 생각하지만 실제 우리가 받아들이는 감각은 시공간적 단서들, 가장자리에 대한 정보들뿐이다.

 

256 인간 수준 지능의 가장 중요한 면모는 제대로 기능할 때 어떤 일을 하느냐가 아니라 궁지에 몰렸을 때 어떤 일을 하느냐 이다 - 민스키

사랑이 답이라니. 질문을 정확하게 다시 한 번 알려주실래요?

 

258 재귀성
재귀는 작은 부분들을 몽서 큰 덩어리로 만들고, 그 큰 덩어리를 하나의 부분으로 활용하여 또 다른 구조를 만들고, 이런 식으로 반복적으로 과정을 이어가는 능력이다. 덕분에 우리는 한정된 단어들을 갖고 풍부한 문장과 단락 구조를 만들어낼 수 있는 것이다.

 

264 우리는 자신의 마음속을 깊이 들여다보고 앞으로 어떤 존재가 되고 싶은지 결정해야 할 것이다.

우리는 우리가 무엇인지 알지만, 무엇이 될지는 모릅니다.

가장 중요한 것은 이것이다. 미래에 될 수 있을 것을 위해서는 어느 때라도 현재의 우리를 희생할 수 있을 것

 

275 전화란 것도 사실 청각적 가상 현실

 

276 MOSH - 대체로 원래의 형태를 유지한 인간

 

 

 

5. GNR：중첩되어 일어날 세 가지 혁명277

278 인간은 2류 로봇으로 남을 것이다. 생물학의 한계를 넘게 해줄 것은 Generics, Nanotechnology, & Robotics - 지능이란 우주에서 가장 강력한 힘이다. 지능은 제대로 발달하기만 한다면, 자기 앞에 놓인 어떤 장애물이라도 쉽게 내다보고 극복할 수 있을 정도로 똑똑한 것이다.

 

288 노화와 죽음은 필연적인 것이라는 통념이 심각하게 흔들릴 것이다. 5~10년 후면 성공할 것이다.

 

293 내가 운영을 돕고 있는 회사들 중 하나인 유나이티드 세라퓨틱스

 

294 캐나다 정부는 2005년 초부터 사람에 대한 시험을 허가했다.

 

298 미토콘드리아 돌연변이
세포의 에너지 발전소, 미토콘드리아가 함유한 13개 유전자에 변형이 누적되면 그 또한 노화의 원인이다. 이 몇 안 되는 유전자들은 세포의 효율적 가동에 극히 중요한 존재들인데, 핵 유전자보다 돌연변이 발생률이 높다. 우리가 체세포 유전자 치료법에 통달한다면 미토콘드리아 유전자들을 다량 복제하여 세포 핵에 집어 넣음으로써 귀중한 유전정보를 안전하게 보관할 수 있을 것이다. 이미 핵 DNA에서 합성한 단백질을 미토콘드리아로 옮기는 기술이 가능하므로, 꼭 미토콘드리아가 직접 단백질들을 만들 필요는 없다. 배양 세포차원세서는 미토콘드리아 유전자를 핵으로 옮기는 데 이미 성공했다.

 

300 생명공학을 나노기술과 접목시켜 상상하면 세포 하나하나를 컴퓨터로 바꾸는 것도 가능하다. 강화된 기능을 가진 이 세포들은 알아서 암 세포를 파악하고 파괴할 것이며 인체 일부를 재생할 수 있을지 모른다.

 

301 복제는 핵심기술이다. 인간복제는 언젠가 벌어질 사건이며 그것도 머지않아 벌이질 가능성이 높다. 일종의 영생으로 가는 방법이고, 갖가지 추진력이 될 만한 요인들이 있기 때문이다. 윤리적 장벽은 설령 사라지지 않더라도 거의 미미해질 것이다. 복제는 의미있는 기술이다.
- 멸종한 생물 되살리기
- 치료용 복제
- 인간 체세포 공학 - 교차분화: 환자의 특정 세포를 다른 종류의 세포로 바꿈으로써 자신의 DNA를 간직한 새로운 조직을 만들어내는 기술이다.
- 세계 식량 문제 해결
- 인간 복제

 

306 누구나 자기 유전자를 바꿀 수 있다면, 누구라도 모든 면에서 완벽해지실 선택할 것이고, 세상에는 다양성이 없어질 것이고, 뛰어남조차 무의미해지지 않겠습니까? - 누구나 다양한 재능을 타고 나지만 실제 드러나는 실력은 교육, 발달 과정, 경험에 달린 문제죠. 유전자는 성향이라는 가능성을 간직할 뿐입니다. 즉, 우리가 어떤 사람이 되느냐는 본성(유전자)과 양육(경험)양자가 긴밀하게 얽힌 결과입니다.

 

309 나노기술 혁명은 우리 몸과 뇌, 우리가 만나는 세상 전부를 분자 단위로 하나하나 재설계하고 재조립할 수 있게 한다.

 

316 효소란 서로 다른 분자들 사이의 결합을 만들었다가, 부쉈다가, 다시 잇곤 하는 분자 기계나 다름없다. 근육이 움직이는 것은 분자 기계들이 근섬유를 이리저리 잡아당기기 때문이다. DNA는 데이터 저장소로 기능하며, 단백질 분자를 제조하는 분자 기계인 리보솜에 디지털 명령을 전송한다. 이렇게 생성된 단백질 분자들이 이번에는 다른 분자 기계들의 구성 물질이 된다.

 

317 리보솜은 컴퓨터인 동시에 생성자 로봇이다. 전체 암호가 모든 세포에 다 들어가 있다.

 

317 나노컴퓨터와 나노봇
유전 암호를 지닌 동시에 RNA, 리보솜, 기타 생물학적 조립에 필요한 컴퓨터 요소들의 활동을 모방하는 기계
를 집어 넣는 것이다.

 

325 과학자가 어떤 일이 가능하다고 말한다면, 아마 그 일은 생각보다 훨씬 먼 미래에 현실화할 것이다. 하지만 과학자가 어떤 일이 불가능하다고 말한다면, 아마 그것은 틀린 말일 것이다 - 드렉슬러

333 오늘날 사용되는 대부분의 에너지원이 형태만 다를 뿐 실은 태양에너지에서 온 것임을 상기할 필요가 있다. 화석연료는 태양에너지가 동식물의 형태로 변환 저장되어 수백년간 변화를 겪은 것이다.

351 나노봇 - 그래서 영원히 젊게 살 수 있다고요? 그러니까 언제쯤이라고요? 20~25년쯤 뒤일 거에요. 노화를 멈추는 건 시작일 뿐이죠.

355 여기까지는 괜찮지만 더는 안 돼 라고 인정할 만한 중간 단계란 존재하지 않는다.

356 나는 핵심은 오로지 지능이라고 본다. 지능은 속성상 반드시 세상에 영향을 미칠 방법을 찾아 나설 텐데, 그 방법 중 한가지로 물리적 존재인 육체가 있을 뿐이다.

362 문명의 가장 중요하고 강력한 속성, 우리 행성에서 벌어진 모든 진화를 포괄하는 것, 즉 지능을 정보해야 하기 때문이다. 현상을 이해한 뒤 증폭에 초점을 맞춘 시스템을 고안하는 것이 공학의 속성이다.

369 신경망의 핵심은 반드시 주제에 대해 학습해야 된다는 것이다.

382 https://www.kurzweilai.net/

395 우리는 아무리 시스템을 들여다보아도 도무지 방법을 찾아낼 수 없다. 시스템이 정말 너무 복잡하기 때문이다. 바로 그런 데 적합한 방식이 진화다.

397 무언가를 한 가지 방식으로만 이해한다면 전혀 이해하지 못했다는 것과 마찬가지다. 뭔가가 잘못될 경우 그 고정관념에만 사로잡혀 어떻게 해야 할지 모를 것이기 때문이다. 어떤 것의 의미를 안다는 건 이미 알고 있던 다른 모든 사실들과 그 사실을 연결한다는 것이다.

399 기계들은 어떤 주제를 놓고도 인간과 지적 소통을 할 수 있을 것이다. 그때가 되면 기계 안에 마음이 존재한다는 사실을 믿지 않을 수 없을 것이다.

403 뇌 고유의 전략 중 하나는 처음부터 모든 지식을 고정되게 기억하는 대신 학습을 통해 유연하게 배운다는 점이다. 본능이란 그런 타고난 지식을 가리키는 말이다.

406 진정한 AI의 시대는 2030년대일 것이라 늦춰 잡은 것이다. 2040년대가 되면 우리는 우리 문명의 축적된 지식을 연산 플랫폼에 모조리 옮길 수 있을 것이다.

409 우리는 기계를 통해서 우리 지능을 확장해 사용하고 있지요. 한계를 넘어서고자 하는 건 인간의 본성입니다. 인간이 세포들의 집합체고, 우리는 진화의 산물입니다.

 

6. 어떤 영향들을 겪게 될 것인가?411

419 예를 들어, 우리가 영양 공급 기기가 달린 특수 벨트나 속옷을 입으면, 영양소를 실은 나노봇들이 피부나 기타 몸의 구멍들을 통해 몸속으로 들어가는 것이다.

425 호킹은 뇌와 기계의 직접 연결을 서둘러 추진할 필요가 있으며, 그것은 컴퓨터가 인간 지능을 보조하는 것이지 반대는 아닐것이라 주장했다.

427 버전 3.0 인체는 지금의 우리가 봐도 인간답다 여겨지는 형태를 유지할 가능성이 높다. 그렇지만 일단 인체가 엄청난 유여넝을 획득하게 된 이상, 미적 기준 자체가 서서히 변할 것이다. 요즘만 해도 피어싱, 문신, 성형수술로 몸을 개조하는 사람들이 많고 사회 전반이 변화를 빠르게 수용하는 상황이다. 어떤 변화라도 쉽게 되물릴 수 있다는 보장이 있으면 육체에 대한 더욱 대담한 실험들이 횡행할 것이다.

436 비생물학적 지능 역시 인간이다. 지금 우리 뇌는 설계가 고정된 편이다. 인공 신경을 삽입하는 기술이 도입되고 있다.

445 의학적으로 방지 가능한 질병들 중 50%에 해당하는 상황만 막아도 기대 수명이 150년까지 늘어날 것으로 본다.

447 인간은 웹에서 살게 될지도 모른다. 필요가 있거나 원할 때만 육체를 가지는 것이다.

448 변하지 않는 것은 물질이 아니라 물질과 에너지의 패턴일 뿐이며, 그마저도 사실 점진적으로는 변화한다. 따라서 영원히 살아남으며 서서히 변화하고 발전해가는 불멸의 존재란 인간이라는 소프트웨어의 패턴인 것이다.

453 뇌는 매우 중요한 정보의 저장소다. 내 생각과 지식을 그대로 습득한 어떤 존재가 있다면 그것은 나인가 다른사람인가? 답이 무엇이든간에, 뇌의 정보와 정보처리 과정을 고스란히 복사할 수 있다는 말은 우리가 영원히 살 수 있다는 말로 들린다.

462 자율적 통제력을 키우는 것이 또 하나의 중요한 목표다.

463 과학은 조직된 지식이다. 지혜는 조직된 삶이다. - 칸트

465 모든 도구가 제 일을 알아서 할 수 있다면 남들의 바람을 읽고 충실히 따를 줄 안다면, 예를 들어 인도하는 손 없이도 스스로 베를 짤 줄 알고 나무조각이 스스로 현을 고를 줄 안다면, 장인들에게는 일꾼이 필요 없을 것이요, 주인들에게는 노예가 필요없을 것이다.

471 대담하게 모험하지 않는 삶은 무의미하다.

485 우리의 연산활동은 어딘가에 집중되기보다 넓게 퍼져서 이뤄지고 있다. 분산화 추세는 앞으로도 지속될 것으로 보인다. 하지만 일단 주변의 자원에서 얻을 수 있는 최대 연산 수준에 가까워지게 되면, 위에서 소개한 새로운 설계에 따라 처리장치들을 배치하게 될 가능성이 높다.

486 태양계 너머로 지능을 확장해간다. 그런 임무를 수행할 때 생물학적 인간들을 보낸 이유가 없다. 단지 생물학적 인간을 대신할 로봇탐색기들을 보내다는 뜻도 아니다. 그때쯤이면 인류 문명이라는 것 자체가 비생물학적인 무언가로 되어 있을 것이다. 나노봇이면 충분하다. 나노봇들을 떼로 보내면서 그들 중 일부 씨앗들이 다른 행성계를 뿌리내리도록 하는 것이다. 거기에서 탄소나 기타 필요한 재료들을 적절히 찾아 자기복제하게 하는 것이다. 일단 나노봇 군락이 자리를 잡으면, 다음에 그들의 지능을 최적화 하기 위해 필요한 정보들은 통신으로 전달해줄 수 있다. 물질이 아니라 에너지만 소요하는 통신을 광속으로 하면 되는 것이다.

487 지능이 우주로 뻗어가는 속도의 문제 - 기본적으로 우리의 관심은 통신속도이다. - 둘이 아무리 멀리 떨어져 있어도 상관없다. 두 입자 사이에 모종의 교신이 있는 것처럼 보이는 것이다.

493 내 결론은 그런 외계 문명들이 하나도 없을 가능성이 높다는 것이다. 물론 확실한 것은 아니다. 즉, 인류가 우주에서 가장 앞선 것이다.

494 우리가 여기 존재한다는 것은 현실이다. 그러니 또 다시 인류 원리의 논리를 끌여들여 주장해보면, 우리가 우주에서 가장 앞선 존재인 것도 현실이다. 우리는 버젓이 여기 존재하므로 지금 이런 생각들을 하고 있는 것이다.

465 우리가 진짜 외계 지적 생명체를 만나게 된다면 그들은 우리 같은 생물학적 지능이 아니라 기계 지능일 가능성이 아주 높다.

498 레너드 서스킨드(끈이론 창시자)와 리 스몰린(양자 중력전문가)은 마치 자연적인 진화 과정처럼 한 우주가 다른 우주들을 낳으며, 그 과정에서 자연 상수들이 점진적으로 변화한다는 이론: 한 마디로 우리 우주의 법칙과 상수 갑이 지적 생명체 진화에 이상적인 것은 우연이 아니며, 그런 방향으로 진화해온 결과라는 것이다.

498 지능이 우주를 가득 채우는 날이 올 것이며, 지능이 우주의 운명을 결정하게 되리라는 것이다.

501 효용함수 - 진화과정을 통해 최적화되는 어떤 성질

501 블랙홀은 하나의 궁극의 컴퓨터

502 호킹 VS. 존 프레스킬 의 내기
블랙홀로 들어간 정보는 영원히 유실된다. VS 정보를 되찾을 수 있다.
호킹은 패배를 시인하고, 2004년, 프레스킬이 옳다고 인정
블랙홀 안에서 변형된 상태로 다시 끄집어내어질 수 있다.

504 문명은 결국 중력과 기타 우주의 힘들을 넘어설 것이다. 아니, 정확하게 말하자면, 그런 힘들을 제어하고 조작할 수 있게 될 것이다. 우주를 원하는 대로 만들 수 있을 것이다. 그것이 특이점의 목표다.

7. 나는 특이점주의자입니다511

511 물론이다. 우리에게는 영혼이 있다. 그러나 그 영혼마저도 수많은 작은 로봇들로 만들어진 것이다.

512 우리는 탄소 우월주의, 즉 생물중심주의를 거부해야 한다.

513 시간이 흐르자 기술에 대한 분석이 스스로 꼴을 갖추더니 기술 진화 이론이라는 형태로 구체화한 것이다. 믿음의 문제가 아니라 이해의 문제임에 틀림없지만, 기존 종교들이 풀고자 했던 문제에 대한 새로운 시각을 갖게 되는 것도 사실이다. 이를테면 생명의 유한함과 불멸, 삶의 목적, 우주 속의 지능이라는 문제들 말이다.

특이점주의자로 자처하는 것은 외롭고도 고독한 경험이었다. 주변 사람들이 대부분 내게 공감하지 않았기 때문이다. 변화의 가속성이 점차 뚜렷하게 드러남에 따라 이런 편협한 시각들도 언젠가 바뀔 것이라 맏는다. 책을 쓴 것도 더 많은 사람들과 내 시야를 공유하기 위해서다.

514 인체는 까마득한 고대에 만들어진, 이제는 구식인 유전 프로그램의 통제를 받고 있으므로 스스로 유전적 유산을 극복해야 한다. 지식은 충분하다. 내가 받고 있는 처방이 증거다.

515 지식은 어떤 형태라도 다 소중하다. 하나라도 잃는 것은 비극이다.
정보는 지식이 아니다. 세상에 정보는 넘쳐난다. 그중 유의미한 패턴을 밝혀내고 처리하는 것이 지능의 몫이다. 가령 우리 몸은 초당 수백 메가비트의 정보들을 감각이라는 형태로 받아들인다.하지만 대부분은 지능적으로 폐기된다. 오직 핵심적인 인식 내용이나 통찰(온갖종류의 지식)만 간직된다. 지능은 정보를 선택적으로 파괴하여 지식을 엮어낸다.

516 죽음이 없다면 오히려 삶을 견디기 힘들 것이다라고 믿는 견해 - 온갖 지식들이 흘러 넘치면 삶은 한층 견딜만한 것이 될 것이다. 삶의 진정한 의미가 생겨날 것이다. 내가 볼 때 삶의 목적은 끝없이 지식을 창조하고 감상하는 것이다. 더욱 훌륭한 질서를 만들어 가는 것이다.

516 우주의 목적은 우리 삶의 존재 목적과 같다. 좀더 뛰어난 지능과 지식으로 나아가는 것이다. 인류의 지능과 기술은 우주적으로 확장해가는 지능의 첨단에 있다.

516 우주로 뻗어나가는 일만 남는다.

517 인간은 동물과 초인 사이에 놓인 밧줄이오, 심연 위로 걸쳐진 밧줄이다. - 니체

518 만약 기술로 강화된 인간은 인간이 아니라고 규정한다면, 대체 어느 선에서 경계를 그을 것인가?

519 종이라는 개념 자체가 순수한 생물학적 개념인데, 정작 변화는 생물학 자체를 초월하는 것이다.

527 객관적 체험이란 과학의 기반, 주관적 체험이란 의식의 다른 말 - 둘 사이에 간극이 있다.

531 자유의지란 해야만 할을 달갑게 하는 능력 - 칼 융

540 우리가 진정한 초월을 맛볼 수 있는 건 패턴이 지닌 창발적 역량을 통해서다.

541 진화는 패턴의 문제다. 진화 과정이란 패턴의 깊이와 질서가 증가하는 것을 말한다.

8. 뗄 수 없게 얽힌 GNR의 희망과 위험545

9. 비판에 대한 반론597

614 뇌가 활용하는 병렬식, 카오스적, 자기조직적, 프랙탈식 기법들을 역분석하여 현대적 연산 하드웨어에 옮겨 심는 것이다.

618 디지털 기법은 할 수 없는데 아날로그 기법이 할 수 있는 일이란 존재하지 않는다. 디지털 기법으로 아날로그 과정을 모방할 수는 있지만 역은 반드시 참이 아니다.

620 인간 수준 지능을 가진 비생물학적 개체를 만드는 비법 - 스스로 학습하며 자기조직적인 카오스 시스템을 구축하는 것이다.

627 뇌는 카오스적인, 즉 완벽히 예측할 수 없는 과정들을 창조하기 위해 확률적 프랙탈이라는 조직 방식을 쓴다.

639 뇌는 기계다. 정확히 말하면 생물학적 기계이지만, 기계이긴 마찬가지다.

642 컴퓨터가 꼭 0과 1만 다룰 필요는 없고 완벽하게 디지털이어야 할 필요도 없다. 디지털 알고리즘으로 얼마든지 아날로그 과정을 모방할 수 있다. 고도로 병렬적인 기계를 만들 수도 있다. 뇌처럼 카오스적인 창발적 기술을 사용하게 할 수도 있다.

653 생물학에서 영감을 얻은 기법들을 동원한 자기조직적 카오스 시스템이 이미 대세이다.

654 한 가지 끔찍한 가능성은 이런 기술들 덕분에 부자들은 더 많은 이점과 기회를 갖게 되는 반면 나머지 대부분의 인류는 그렇지 못할 것이라는 점이다

662 유물론적으로 만들어진 개체는 뭐든 예측가능하다는 주장도 틀렸다. 요즘의 컴퓨터 프로그램들은 무작위성을 구현한다. 완벽한 무작위성을 구현해주는 기기들도 존재한다. 심오하고도 환원불가능한 양자적 무작위성을 따른다. 물질계는 거시 차원이든 미시차원이든 결코 예측가능하지 않다.

664 진화는 신이란 개념을 향해 당당하게 나아가는 것이다. 영원히 그 궁극의 이상에는 도달하지 못하겠지만 말이다.

674 우리는 부분의 합보다 뛰어난 전체를 이루는 기계를 만들 수 있고, 만들고 있다. 자연계의 자기조직적 설계원칙에다 가속적으로 증가하는 인간 기술 능력을 결합함으로써 말이다.

 

에필로그675

기하급수적 성장은 영원하지 않다. 하지만 끝을 영원히 미루는 것은 가능하다 - 무어

ray@singularity.com