뇌복제와 인공지능 시대 / 로빈 핸슨

인간노동도 자본처럼 성장하는 사회, 인류의 후손인 인공지능들이 살아가는 이야기

 

 

PART 01기초

'엠' = '뇌 에뮬레이션' = '컴퓨터에 업로드한 마음'

 

이 책은 두 가지 추측에서 생기는 질문에 대답해보려는 것이다. 첫째, 인공지능으로 인해 인간 노동자를 대량으로 대체할 수 있는 스마트 로봇의 출현이다. 둘째, 그러한 최초의 로봇은 대략 한 세기 안에 도래할 전뇌 에뮬레이션 또는 '엠ems'일 것이라고 추측한다.

• 엠의 속도로 볼 때 다른 행성들까지 여행하기게는 너무 느리다.
• 이 책은 인간을 보는 것이 아니라 정말 인간처럼 경험하는 엠에 대부분 초점을 준다.

• 엠 세계로의 전환이 물질적으로 대다수 인류에게 혜택을 준다 해도 미래 인류의 아주 작은 소수의 후손만이 새로운 사회를 지배한다. 대다수 평범한 사람은 전환 이전에 영향력을 준 것보다 세계에 미칠 수 있는 영향력이 훨씬 더 적다.
• 출산률 하락은 아마도 우리의 행동방식이 생물학적으로 부적응적이라는 가장 극적인 증거이다. 정의상 어떤 환경에서 장기적으로 후손을 적게 남기는 행동방식은 진화가 선택을 안 하기 쉬울 것이다. 그래서 그런 행동방식은 자기가 있는 환경에서 지속할 수 없는 적응이다.
• 물리법칙의 본질을 우리가 크게 잘못 이해하지 않는 한 유용하고 실질적인 혁신과 경제성장은 최소 수십억 년 혹은 그 이상의 우주론적 시간 단위에서 곧 끝이 나야만 한다.
• 나는 사실 우리의 먼 후손이 인간같은 마인드를 가질 것이라고 주장하고 있지 않다. 나는 성장의 궁극적인 한계를 설명하려고 인간을 기준으로 사용하고 있다.
• 과거를 바꿀 수 없음에도 불구하고 미래보다 과거를 공부하는 데 더 많은 노력을 한다.
• 미래에 비해 과거에 대한 연구는 이제 효용이 다하고 있다.
• 확증편향: 일이 일어난 후에 일이 일어난 배경을 억지로 꿰어 맞추는 심리편향
• 마음은 곧 뇌일 뿐이다.
• 뇌 에뮬레이션은 세 가지 기반 기술이 필요하다.
  1) 뇌 스캔 기술, 2) 뇌 세포 모델, 3) 신호처리 하드웨어(컴퓨터)
• 우리는 에뮬레이션 기술을 가지게 될 것이다. 그러나 우리가 가지게 될 그것이 정확히 무엇인가?
• '인간 뇌의 기능을 일대일로 모델링 할 수 있는 미래'
• 엠은 에뮬레이션한 브레인 안에다, 보통 사용하지 않는 부위에 새롭고 많은 '감각'과 '작동장치'를 넣을 수 있다.  에뮬레이션한 브레인 안의 특정 부위에 신호를 바로 공급해주면서 특정 브레인 부위에 센서를 두고 외부장치와 연결하여서 그렇게 할 수 있다.
• 엠은 3가지 방식으로 변한다: 경험하기, 복제하기, 미세수정

• 정말 어린 뇌가 성인 뇌와는 상당히 다른 발달 과정을 가진다면 발달 중인 어린 뇌를 에뮬레이션하는 과제에 특별히 전인 하드웨어를 만드는 것이 의미 있을지도 모른다.
• 신호처리 하드웨어는 아날로그이거나 디지털이다. 디지털 세계는 확장성 측면에서 좀 더 경제적이다. 하드웨어의 중요한 많은 부품들이 계속 디지털일 것이라는 것이 기본가정이다.

 

 

PART 02물리학

• 인간 뇌의 뉴런 섬유는 초당 0.5미터에서 120미터의 속도 범위 내에서 신호를 전송한다.
• 인간의 뇌는 대략 1/10초에 맞추는 반응시간을 가지도록 설계되었다.
• 평범한 인간보다 16배 빠르게 구동하는 엠은 객관적인 90분이 주관적 경험으로는 하루다. 
• 빠른-엠 브레인에 잘 맞는 안드로이드 몸체는 보통 인간의 신체보다 256배 더 작고 256배 더 빠를 것이다.
• 엠은 실제현실보다 가상현실을 선호한다. 특히 많은 엠들이 공유할 수 있어서 가상현실 계산비용들을 줄일 수 있는 표준 가상현실들을 선호한다.
• 원본 엠이 복제과정에 대해 강한 거부권을 행사할 때 원본 동의 없이는 복제가 불가능하다. 그래서 엠은 오늘날 인간보다 엠은 자기 존재에 대한 소유권을 더 중요시할 것이다.
• 엠은 기업처럼 통합될지도 모르고 엠은 그런 엠 기업의 주식을 어느정도 소유할지도 모른다.
• 어떤 엠은 자기복제품을 멀리 다른 곳에 보내어 자기가 속한 지역의 불안정한 엠 문화에서 벗어나 생존하려고 시도할 수 있다. 아마도 지구 밖 우주로 보낼 수도 있을 것이다. 그러나 대부분의 인간들과 느린 엠들은 그럴 여유가 없다.
• 인간이 죽음을 혐오하는 이유는 많다. 그중에서도 가장 확실한 이유는 생산적인 인간으로 성장하기까지 수십 년이 걸리고, 결국 죽음은 이런 성장 비용을 잃는 아주 비싼 손실이라는 데 있다. 많은 것을 투자했지만 아주 적은 것만을 얻고 끝난 젊은 사람들의 죽음을 우리는 더 많이 슬퍼한다. 그런 손실을 줄이려고 인간은 죽음에 대한 강한 개인적 혐오와 살인을 금하는 강한 사회적 규범을 진화시켰다.

 

PART 03경제

• 맬서스적 임금: 인구 증가율이 총 경제 생산량보다 더 빠르면 임금은 최저생계 수단으로 떨어진다.
• 부유한 개인은 어떤 인간을 스캔하고 복제할지 어떤 미세수정을 할지를 선택하기도 한다. 극단적인 특징을 지닌 엠은 부유한 개인들이 선택한 것이기 쉽다.
• 경쟁적인 엠 경제에서 대부분 엠들의 특징은 이윤추구 기업이 선택하는 대로 따라갈 것이다.
• 엠이 효율적이라는 가정은 가능성도 높고 기본적인 가정이다. 정말 경쟁적인 엠 세계는 엠들이 더 자주 자존심을 누르게 하고 효율적이지만 이상하고 혹은 혐오스러운 새로운 방식으로 전환하게 유도되기 쉬울 것이다.
• 엠들은 대부분 천 명도 안되는 정도의 원본 인간의 복제품이다.
• 엠은 우리보다 더 진정한 엘리트 계층이라고 할 수 있다.
• 음악은 어떤 종류의 일에서는 생산성을 늘려준다. 그래서 어떤 엠은 일하며 음악 듣기를 좋아할 것이다. 그런 음악은 전형적으로 부드럽고 가사가 없고 크게 산만하지 않은 음악이 될 것이다.
• 혁신을 돕는 연구는 대개 기초연구가 아니고 응용연구이다.
• 우리 경제는 그렇게 빠르게 성장하지 않는다. 왜냐하면 기계처럼 그렇게 빠르게 사람을 복제할 수 없기 때문이다.
• S&P500에 들어있는 기업의 평균연한은 18년이다.
• 가장 생산적인 노동자는 생산성 정점 연령이 40세를 전후로 5년 정도인 나이에 있기 쉽다. 나이를 먹어감에 따라 정신 능력이 퇴화하는 데에 있는 것은 아닌 듯하다. 노동자는 40대 만큼이나 60대에도 비슷한 생산성을 보일 수 있다. 그럼에도 불구하고 문제는 후속 세대 노동자가 생산성이 더 높기 쉽다는 데 있다.

PART 04조직

• 거대하고 몇 안 되는 엠도시가 지배하는 세계에서는 무력전쟁보다 냉전이 더 의미 있을 수 있다.
• 시간이 지나면서 민주주의가 더 적어질 것이다. 
• 사고방식을 평균으로 만드는 마인드 읽기를 통해 대신 투표할지도 모른다.

 

PART 05사회

• 엠이 하는 불법적 짝짓기는 찾아내기가 더 힘들 수 있다. 엠들은 안전한 가상장소에서 만날 수 있고 만남을 위해 속도를 올릴 수 있어서 그런 만남들은 공간적으로 그런 엠들이 가는 길을 쫓거나 아니면 그런 엠의 일정표에서 불분명하게 비어 있는 일정을 들여다보아서는 찾아낼 수 없을 수 있다.
• 엠들은 자신들이 더 매력적일수록 그리고 성관계 아닌 연애시간에 비용을 기꺼이 더 쓰면 더 좋은 품질의 오픈소스 애인을 얻을 수 있다.
• 오픈소스 애인을 두려는 엠은 자신이 원하는 기준대로 엠 세계에서 가장 최상의 오픈소스 애인들을 자주 선택할 수 있다. 이 점은 여성에게 더 매려적인 선택사항일 것 같다.
• 엠 세계는 더 가난하다. 엠 세계는 경쟁이 더 심하다.
• 엠 세계에서는 연애를 더 많이 할 것 같다.
• 남성 엠 수요가 더 많을 수 있다.
• 엠의 정체성이 반복해서 이어지는 것이라면 다른 엠들을 자기로 보지도 않고 자기가 아니라고도 보지 않는다.

 

PART 06의미

• 엠의 삶이 가지고 있는 가치는 적어도 현재 우리들 인간의 삶이 가지고 있는 기초적인 가치에 준한다.
• 강력한 세계 정부가 없는 가운데 미래를 바꾸고 조정하기에는 정말 제한된 기술만 우리에게 있다는 것을 유념하라. 기후 변화 같은 주제에서도 문제가 있고 그럴 듯한 해결책이 있다는 전문가들의 일치된 합의가 있음에도 세계는 그런 해결책을 적용해보도록 조정할 수 없어 보인다.

• 엠의 이야기가 실현될 가능성을 저자는 10%로 추정했다가 나중에 5%로 낮추었다.
• 미래사회가 지나온 인류의 역사처럼 인간중심 사회의 연장으로 이어질 것이라는 어떤 보장도 없음을 말하려 하는 것이 이 책의 기본 의도이다.

 

mubnoos

너무 구체적이라서, 이미 엠(EM)이 존재하는 것 같다. 

이렇게 낯선 존재를 이렇게 많은 사람들이 연구하고 있다는 사실은 소설보다 더 허구같다.

현재까지 올해 읽은 책들 중 가장 황당하고 흥미로운 내용이다.