라이프 3.0 / 맥스 테그마크

 

 
 
 
 
 

프렐류드: 오메가팀 이야기 

ㆍ지능이 발달해 어떤 영리한 인간의 지적 활동도 압도하는 기계가 개발된다면, 그 기계를 초지능 기계라고 정의하자. 기계 개발도 지적 활동의 하나이기 때문에 초지능 기계는 점점 더 영리한 기계를 설계할 수 있다. 결국 의문의 여지 없이 지능 폭발이 일어날 것이다. 인간의 지능은 기계에 비해 한참 뒤쳐질 것이다. 따라서 최초의 초지능 기계는 인간이 만들 필요가 있는 것 가운데 최후의 발명이 된다. 그 전제 조건은 초지능 기계가 충분히 온순해 사람에게 자신을 통제 아래 두는 방법을 알려준다는 것이다. 

 

ㆍ오메가팀이 만든 AI는 프로메테우스라는 별명으로 불렸다. 

 

ㆍ정치 어젠다에 지지가 모이는 현상의 7가지 슬로건

1) 민주주의, 2) 세금 감축, 3) 정부의 사회적 서비스 감축, 4) 군비 감축, 5) 자유무역, 6) 국경 개방, 7) 사회적 책임을 수행하는 기업: 오메가팀의 7가지 슬로건을 내건 정당이 세계 각국의 선거에서 잇따라 승리했다. 거의 아무도 깨닫지 못한 사실이 있었다. 프로메테우스가 주의 깊게 최적의 인물들을 선정해 후보로 조련했고 모든 줄을 움직여 그들이 승리하도록 했다는 사실이었다. 

 

 

 
 

1. 우리 시대 가장 중요한 대화에 참여하는 것을 환영하며 

ㆍ기술은 삶이 전에 없이 흥성하도록 하는 잠재력을 품고 있다. 그 잠재력은 스스로를 파괴하는 것일 수도 있다. 

 

ㆍ생명을 매우 넓게 정의해, 단순히 자신의 복잡성을 유지하고 복제할 수 있는 과정이라고 하자. 복제되는 대상은 물질이 아니라 정보이고, 어떻게 원자가 배열되는지를 구체적으로 정하는 정보이다. 박테리아가 자신을 복제할 때 새 원자는 하나도 창조되지 않고, 다만 원래 개체와 같은 양상으로 새로운 원자의 조합이 배열되고 그럼으로써 정보가 복제된다. 달리 말하면 생명은 자기 복제를 위한 정보 처리 시스템으로, 정보(소프트웨어)가 해당 개체의 행동과 하드웨어의 청사진을 결정한다. 

 

ㆍ사람이 호랑이를 통제하는 것은 더 강해서가 아니라 더 영리해서이다. 

 
 

2. 물질이 지능을 갖게 되다 

ㆍ수소..., 시간이 충분히 주어지면, 사람이 된다. 

 

ㆍ지능 = 복잡한 목표를 달성하는 능력

 

ㆍ정보는 물리적 기질로부터 독립된 자신의 생명을 지닌다. 정보와 마찬가지로 계산도 기질에 독립적이다. 

 

ㆍ연산은 한 기억 상태를 다른 상태로 전환하는 일이다. 

 

ㆍ어떤 물질이든 안정 상태를 다양하게 띨 수 있으면 기억에 쓰이는 기질이 될 수 있다. 
 
 

3. 가까운 미래: 약진, 오류, 법, 무기, 일자리

ㆍAI가 실제 시스템을 통제하도록 할 때 중요한 것은 AI가 더 틀림없이 우리가 원하는 일을 하도록 만드는 방법을 배우는 일이다. 이 일의 핵심은 검증, 확인, 보안, 통제와 관련된 까다로운 기술적 문제를 푸는 것이다. 
 

4. 지능 폭발 

ㆍ만약 기계가 사고할 수 있다면 기계는 우리보다 더 지능적으로 사고할 것인데, 그때 우리는 어디에 있을 것인가? 설령 우리가 사고하는 기계를 복종하는 자리에 둘 수 있더라도, 우리는 종으로서 매우 초라하게 느낄 것이다. 

 

ㆍ최초의 초지능 기계는 인간이 만들 필요가 있는 최후의 발명이다. 전제는 그런 기계가 우리에게 자신을 어떻게 통제 아래 둘지 알려줄 정도로 고분고분하다는 것이다. 

 

ㆍ만약 인류가 인간 수준 AGI를 만드는 데 성공한다면 무슨 일이 일어날까? 분명하고 짧은 답은 '우리는 알지 못한다'라는 것이다. 

 

ㆍ어떤 과정이든 그 속의 힘이 현재보다 일정한 비율로 커질 경우, 그 힘은 일정 기간에 한 번씩 두 배로 증가한다. 그런 성장은 지수적이라고 불리고, 그런 과정을 폭발이라고 한다. 

 

 
 

5. 그 후: 다음 1만 년 

ㆍ인간은 바퀴벌레나 마찬가지로 무의미하게 될 것이다. 

 

ㆍ우리의 추측은 끝은 슈퍼문명이다. 이 문명에서 모든 태양계 생명의 종합은 스스로를 계속 연장하고 개선하며 태양 밖으로 확장하면서 생명이 아닌 것을 정신으로 바꿔나간다. 
 

6. 우리의 우주적인 재능: 다음 수십억 년과 그 너머 

ㆍ초지능 생명은 현재 자원을 놀랍게도 훨씬 더 효율적으로 활용할 뿐 아니라 빛에 가까운 속도로 우주 정착지에서 더 많은 자원을 확보함으로써 생물권을 약 32단위 확장할 수 있게 된다. 

 

ㆍ우주적 거리에서 공유되거나 거래될 주요 상품은 정보일 것이다. 

 

7. 목적 

ㆍ인간 존재의 미스터리는 그저 살아 있는 데 있지 않고, 그것을 위해 살아갈 무언가를 찾는 데 있다. - 표도르 도스토옙스키

 

ㆍ인생은 여행이다. 목적지가 아니다.

 

ㆍ 인간은 역사적인 우연의 산물이지, 잘 정의된 물리 문제의 최적해는 아닌듯 하다. 그렇다면 엄격하게 정의된 목적을 추가하는 초지능은 우리를 제거함으로써 자신의 목적을 더 잘 이룰 수 있을 것이다. 따라서 우리가 AI를 어떻게 개발할지 현명하게 결정하려면, 인간은 전통적인 전산 과제 뿐 아니라 철학의 고도 난제도 정면으로 마주할 필요가 있다. 우호적인 AI를 프로그램하기 위해 우리는 생명의 의미를 파악해야 한다. '의미'란 무엇인가? '생명'은 무엇인가? 궁극적인 윤리 명령을 무엇을 가리키는가? 우리는 우주의 미래를 만들기 위해 어떻게 노력해야 하는가? 우리가 이들 질문에 대한 엄격한 답을 찾아내기 전에 초지능에게 통제권을 넘길 경우, 초지능의 답은 우리를 포함한 것이 아닐 수 있다.  

 

ㆍ 기계와 인간의 목적을 정렬하는 문제는 세 가지 미해결 문제로 나뉜다.

1) 기계의 인간 목적 학습, 2) 채택, 3) 유지 이다. 

 

8. 의식 

ㆍ의식은 주관적인 경험이다. 

 

ㆍ의식 없이는 의미도 있을 수 없다. 우주가 의식이 있는 존재에게 의미를 부여하는 것이 아니라 의식이 있는 존재가 우주에 의미를 부여하는 것이다. 
 

에필로그: FLI 팀 이야기 

ㆍ현재 생명의 가장 슬픈 측면은 사회가 지혜를 얻는 것보다 빠른 속도로 과학이 지식을 모은다는 것이다. - 아이작 아시모프