진보란 무엇인가?
• 우리 세계는 테크코-낙관주의에 흠뻑 빠져 있다. 모든 곳에서 모든 사람이 자신이 할 수 있는 힘껏 혁신을 하고 효과가 있는 것들을 알아내야 하며 거친 모서리들은 나중에 다듬어 나가면 된다는 것이다.
• 1970년 제러미 벤담은 파놉티콘이라는 감옥을 설계 했다. 벤담은 원형 건물 안에 중앙 감시탑을 두고 적절한 조명을 갖추면, 간수 본인은 노출되지 않으면서 모든 죄수가 간수가 자신을 언제나 지켜보고 있다는 느낌을 갖게 할 수 있다고 주장했다. 이는 이것이 좋은 행실을 유도하기에 매우 효율적인 , 즉 비용이 적게 드는 방법이 되리라고 생각했다. 이 아이디어는 영국 정부에서 어느 정도의 호응을 얻었지만 충분한 자금 지원으로는 이어지지 않았고, 원래 설계안대로 파놉티콘 감옥은 지어진 적이 없다. 그렇지만 파놉티콘은 현대인의 상상을 사로잡았다. 프랑스 철학자 미셸 푸코에게 파놉티콘은 산업 사회의 핵심인 억압적 감시의 상징이었다. 조지 오웰의 <1984>에서 파놉티콘은 도처에 편재한 사회 통제 수단으로 그려진다. 마블 영화 <가디언즈 오브 갤럭시>에서 파놉티콘은 기발한 탈옥이 가능한 결함 있는 설계로 등장한다. - 감옥으로서 제안되기 전에 파놉티콘은 공장이었다. 이 아이디어의 주인공은 제러미 벤담의 동생이자 당시 러시아에서 그리고리 포템킨 공을 위해 일하던 해군 엔지니어 새뮤얼 벤담이었다. 새뮤얼 벤담은 소수의 감독관이 최대한 많은 노동자를 지켜볼 수 있게 하는 방법으로 파놉티콘을 고안했다.
• 공장 시스템은 18세기 후반에 영국 전역으로 빠르게 확산되었다. 파놉티콘의 건물 자체를 지으려는 움직임이 일지는 않았지만 많은 고용주가 벤담이 제시한 일반적인 접근법과 일치하는 방식으로 노동을 조직했다.
• 이제까지 경함한 ‘공유된 번영’의 사례들은 기술 진보 자체에 내재된 요인에 의해 자동적으로 보장되어 있던 결과가 아니었다. 공유된 번영은 기술 진보의 방향과 사회적으로 이득을 분배하는 방식이 협소한 지배층의 이익에만 복무했던 제도적 배열에서 멀어졌을 때, 오로지 그랬을 때만 생겨날 수 있었다. 우리가 진보의 수혜를 입은 것은 맞지만, 그것이 가능했던 주요 이유는 우리 앞의 세대들이 그 진보가 폭넓은 사람들을 위해 작동하게끔 만들었기 때문이다.
1장 테크놀로지에 대한 통제
• 기술적 실업은 1930년에 경제학자 존 메이너드 케인즈가 새로운 생산 방식이 인간 노동력의 필요성을 줄여서 대규모 실업을 일으킬지 모른다는 가능성을 나타내기 위해 만든 말이다. 이는 노동의 사용을 절약하는 수단이 발견되는 속도가 노동의 새로운 사용처가 발견되는 속도를 능가함으로써 실업이 발생할 수 있다는 의미이다.
• 공유된 번영을 일구기 위해 무엇을 해야 하는가? 답은 테크놀로지의 속도를 늦추지 않는 것이다. 기계에 맞서 경주하기보다 기계와 더불어서 경주해야 한다. 이것이 우리 앞에 놓인 커다란 과제다.
• 이 모든 것이 테크놀로지와 관련해 주목해야 할 가장 중요한 것 하나를 가리킨다. 바로 선택이다. 생산성 향상을 위해 우리의 집합적인 지식을 사용하는 방법은 아주 많으며 혁신의 방향을 잡는 방법은 그보다도 더 많을 것이다. 디지털 도구를 감시에 사용할 것인가? 자동화에 사용할 것인가? 아니면 새로운 업무를 창출함으로써 노동자의 역량을 강화하는 데 사용할 것인가? 미래의 진보를 어느 방향으로 이끄는 데 우리의 노력을 쏟을 것인가?
• 압축된 공기가 실린더 내부를 진공으로 만들어서 대기압이 피스톤을 누를 수 있게 하는 ‘대기압’ 엔진 방식에 압도적으로 초점을 두었다.
2장 운하의 비전
• 앙시앵 레짐 - 프랑스 대혁명 이전의 구체제
• 비전에 불을 때는 연료는 낙관이다.
• 프랑스가 실패한 이유는 기망적인 비전에 갇힌 나머지 당대에 활용 가능했던 지식과 기술로 시도해 볼 수 있었을 또 다른 경로를 보지 못했고, 현실에서 발생하는 난관 또한 보지 못했다는 데 있었다. 그들은 쌓여가는 증거와 쌓여가는 시신이 그들의 방식이 가진 오류를 가시적으로 보여주고 있었는데도 경고를 바꾸지 않았다. 이 프로젝트를 이끈 것은 하나부터 열까지 레셉스의 비전이었다. 그리고 그의 비전에는 테크노-낙관주의와 잘못된 확신이 결합되어 있었다. 이 비전은 단지 진보의 이름으로 권력을 갖지 못한 사람들에게 비용을 지우기만 한 것이 아니었다. 이것은 반증을 무시하게 만드는 오만이 일으킨 재앙이기도 했다. 현실의 사실관계들을 무시하면서, 프로젝트는 재앙을 향해 행진했다.
• 비전이 없으면 테크놀로지는 아무것도 아니다. 하지만 비전은 가시 범위를 제한하는 왜곡된 렌즈이기도 하다.
• 몇 가지 면에서 레셉스의 감수성은 놀랍도록 현대적이었다. 거대 프로젝트에 대한 선호, 테크노-낙관주의, 민간 투자의 힘에 대한 믿음, 목소리를 내지 못하는 사람들이 처하게 될 운명에 대한 무시 등을 보건데 레셉스는 오늘날의 기업 이사회에 들어가도 잘 어울렸을 것이다.
3장 설득 권력
• 좁은 의미에서 권력은 투입이 얼마가 되었든 산출에 더 우선순위를 부여하는 능력, 듣고 있기보다는 말할 수 있는 능력을 의미한다. 어느 면에서 이것은 무언가를 배우지 않아도 사는 데 아무 지장이 없을 수 있는 능력이다.
• 진보의 방향은 사회가 어떤 비전을 따르는가에 좌우되며, 따라서 누가 승자가 되고 패자가 되는지도 사회의 비전에 좌우된다.
• 권력은 어떤 개인이나 집단이 암묵적 또는 명시적인 목적을 달성할 수 있는 능력을 말한다. 하나의 빵을 두 사람이 갖고 싶어 할 때 누가 가질지 좌우하는 것이 권력이다. 꼭 물질적인 목적에만 해당되는 이야기는 아니다. 테크놀로지의 미래와 관련해 누구의 비전이 우세해질 것이냐와 같이 비물질적인 것이 목적이 되기도 한다.
• 현대 사회가 주로 의지하는 권력은 설득의 권력이다. 사람들이 따르는 이유는 따르기로 설득되었기 떄문이다.
• 어떤 아이디어는 엄청나게 설득력이 있으며 딱 맞는 맥락에서 확신을 가지고 표현되면 더욱 그렇다. 또한 아이디어가 자기 복제가 될 경우, 즉 많은 사람이 설득되어 다시 그 아이디어를 전파할 경우 더 널리 확산되고 영향력도 커진다. 반복되는 아이디어가 강력한 아이디어다.
• 질문을 던지고 우선순위를 설정하고 선택지에 무엇이 포함되고 무엇이 포함되지 말아야 할지 정할 수 있는 사람은 대중의 담론에 모양을 잡고 대중을 설득하는 데 막강한 영향력을 갖는다.
• 액턴 경 1887
“권력은 부패하는 경향이 있으며 절대 권력은 절대적으로 부패합니다. 위대한 인물은 거의 언제나 나쁜 인간입니다. 권한이 아니라 영향력만 행사할 때도 그렇습니다. 그러니 부패의 경향성 또는 확실성을 권한이 한층 더 강화하는 경우에는 더더욱 그럴 것입니다. 직위가 그 직위에 있는 사람에게 신성함을 부여한다는 개념보다 더 이단적인 것도 없을 것입니다.
• 이것이 비전의 덫이다. 어느 비전이 지배적이 되면 그것의 족쇄를 떨쳐버리기 어려워진다. 사람들이 그 비전의 가르침을 믿게 되기 떄문이다. 그리고 비전이 통제를 벗어나서 과잉 확신과 비용에 대한 맹목적인 무시를 모든 이에게서 촉진하게 되면 상황은 훨씬 더 나빠진다.
4장 비참함의 육성
• 대안적인 경로가 있었긴 하지만 농업 테크놀로지의 오랜 역사는 명백하게 지배충에게 유리하게 편향된 경로를 보여준다. 이는 지배층이 강업을 종교적 설득과 결합했을 때 더욱 극명하게 나타났다. 이러한 역사는 우리가 무엇이 진보이고 무엇이 아닌지를 말하는 아이디어에 접하면 늘 조심스럽게 살펴보아야 한다는 점을 다시금 상기시켜준다. 특히 강력한 사람들이 특정한 비전을 설파하려 할 때, 우리는 더더욱 조심해야 한다.
5장 중간 정도의 혁명
• 필요는 발명의 어머니라고 하지만, 필요가 너무나 맹렬히 사람들을 추동하고 있어서 오늘날을 별도로 구분하기 위해 ‘프로젝트의 시대’라고 칭하는 것이 전혀 부적절하지 않아 보인다.
• 산업혁명이 다른 곳보다 영국에서 먼저 일어난 이유는 무엇인가? 그리고 왜 18세기인가?
1. 지리적 요인: 영국의 지리적 조건이 경제 발달에 특히 유리했다는 주장 / 산업의 발달이 특정 위도 지역에서 더 쉽게 발생한다는 주장
2. 문화적 요인: 종교, 문화에 내재한 사업가 정신, 영국인 특유의 리스크에 대한 태도, 사업에 대한 태도, 공동체에 대한 태도
3. 천연자원 요인: 양질의 철광석 산지가 잉글랜드 중부와 북부의 석탄 매장지와 근접해서 유리했다는 사실
4. 경제적 요인: 노동 비용, 노동자들의 임금이 높아지면 노동 절약적 테크놀로지를 받아들이는 것이 훨씬 더 매력적이게 된다는 주장
5. 정부 정책 요인: 애덤 스미스가 말한 자유방임이 영국의 경제 성장에 중요했다는 주장
6장 진보의 피해자
• 산업 시대에서만 노동자들이 봉건 예속에서 거의 자유로워지지 않은 채로 단순한 물자나 소지품으로 쓰이는 것이 가능해졌다. 노동자들은 누구에게도 최악일 여건에 밀집되어 살도록 내몰렸고 열심히 일해 번 돈으로는 완전한 폐허로 떨어질 권리밖에 살 수 없는 현실을 받아들여야 했다. 이 공장이 성취한 것은 이 노동자들, 이러한 빈곤, 이와 같은 노예적 예속이 없었다면 달성될 수 없었을 것이다. - 앵겔스
• 생산성 밴드왜건의 논리대로라면 산업혁명 초기 국면에 테크놀로지가 빠르게 발달하면서 임금이 올랐어야 한다. 하지만 대다수 사람들의 실질임금은 정체되었다. 그와 동시에 노동 시간을 늘었고 노동 여건은 심하게 악화되어서 점점 더 많은 노동이 더 적은 시간당 임금으로 추출되었다.
• Factory는 기름 짜는 도구나 방앗간을 의미하는 라틴어 단어가 어원이다.
• 생산성 밴드왜건은 두 가지 조건이 작동해야 나타날 수 있다.
1. 노동의 한계생산성이 증가해야 하고
2. 노동자들이 충분한 협상력을 가지고 있어야 한다.
• 모든 공장에 소크라테스가 있을 수는 없고 모든 공장 도시에 그와 같은 지혜와 미덕과 사람들을 가르칠 수 있는 기회를 가진 사람이 있는 것도 아니지만, 많은 사람이 모일 수 있는 곳이면 어디에서나 소크라테스의 정신이 필연적으로 생겨날 것이다.
• 동인도 회사는 원래 향신료 교역을 위해 설립되었지만 초기에 상업적 성공을 가져다준 사업은 해외에서 생산된 직물과 의류 완제품을 영국으로 수입하는 것이었다. 동인도 회사는 면 의류 생산도 인도에서 이루어지게 했는데, 천연자원과 숙련 노동력이 있는 곳이 인도였기 때문이다. 영국이 인도의 일부 지역을 식민화하기 시작하고서 첫 100년 동안 인도에서 유럽으로의 면직물 수출이 증가했다. 그러다가 수차로 기계를 돌려 실을 뽑는 기술이 개발되었다.
• 유럽 식민지 대부분에서는 여건이 개선되기는커녕 상당히 악화되었다. 인도 같은 나라는 영국의 직물이 밀려 들어오면서 탈산업화의 길로 심각하게 내몰렸다. 인도와 일부 아프리카 지역 등은 빠르게 성장하는 유럽 산업 영역의 맹렬한 식욕을 채우는 천연자원 공급지가 되었다. 미국 남부 같은 곳에서는 노예제의 형태로 최악의 억압적 노동이 한층 더 강화되었고, 원주민과 이민자에 대한 사악한 차별이 심화되었다. 이 모두가 진보의 이름으로 벌어진 일이었다.
7장 투쟁으로 점철된 경로
• 미 대통령 노사정책자문위원회의 만장일치
1. 자동화와 기술 진보는 국민 보편의 후생, 강한 경제, 국가 방위에 필수적이다.
2. 이러한 진보는 인간의 가치를 희생시키지 않고 달성될 수 있으며 그렇게 달성되어야 한다.
3. 인간의 가치를 희생시키지 않고 기술 진보를 달성하려면 자유로운 사회의 원칙에 부합하는, 민간과 정부 모두의 행동이 필요하다.
• 전기의 도입, 엔지니어링, 시스템적 접근, 새로운 업무의 창출이 어떻게 함께 어우러져 작동했는지를 가장 잘 보여주는 사례는 자동차 산업, 특히 포드 모터 컴퍼니다.
8장 디지털 피해
• 컴퓨터에 대해 좋은 소식은, 우리가 하라는 대로 한다는 것이다. 컴퓨터에 대해 안 좋은 소식은, 우리가 하라는 대로 한다는 것이다.
• 세계화와 자동화는 서로 시너지를 낸다. 둘 다 노동 비용을 줄이고 노동자를 대체하려는 동일한 목적에서 추동되며 둘 다 1980년 이후 노동 현장과 정치적 장 모두에서 길항 권력이 약화되면서 일어났다.
• 디지털 유토피아가 추동하는 과도한 자동화가 아니라 균형 잡힌 혁신의 포트폴리오가 경제의 생산성을 더 빠르게 놓일 수 있을 것이다.
• 테크놀로지의 편향은 아주 많이 선택의 문제였고 사회적으로 구성된 것이었다. 이어서 테크 미래주의자들이 사회를 재구성하는 도구를 새로이 발견하면서 경제적, 정치적, 사회적으로 상황이 더 악화되기 시작했는데, 그 도구는 바로 인공지능이다.
9장 인공 투쟁
• 미래 세계는 편안히 누워서 노예 로봇을 기다리면 되는 안락자가 아니라 우리가 우리 지능의 한게에 맞서야 하는, 점점 더 힘겨워질 투쟁의 장일 것이다.
• 자율적인 기계 지능에 대한 꿈을 좌절시킨 세 가지 핵심 문제
1. 기계가 살아 있는 유기체를 모방하는 데서는 늘 완벽하지 않기 때문에 인간을 능가하고 대체하는 것은 어렵다.
2. 자동화는 노동자에게 즉각적인 악영향을 미친다.
3. 자동화에만 매진한다는 것은 과학자와 기술자들이 기술에 대해 통제력을 잃을 수 있다는 의미이기도 하다.
• 사회의 권력 배분을 재조정하고 테크놀로지의 방향을 바꿔 현재의 딜레마에서 빠져나오는 것은 가능하다. 그러한 변화는 아래로부터의 민주적인 과정을 통해서 일어나야 할 것이다. 그런데 불길하게도 AI는 민주주의도 훼손하고 있다.
10장 민주주의, 무너지다
• 소셜미디어의 역사는 아직 다 쓰이지 않았고, 그것의 효과는 중립적이지 않다.
• 모두가 늘 당신에게 거짓말을 한다면 그것의 결과는 당신이 그것을 믿게 되는 것이 아니라 더는 아무도, 아무것도 믿지 않게 되는 것입니다.
• 페가수스는 ‘제로 클릭’ 소프트웨어다. 사용자가 아무 링크도 클릭하지 않았어도 사용자의 모바일 기기에 원격으로 설치될 수 있는 악성 소프트웨어를 말한다. 즉 사용자가 모르는 사이에, 사용자의 동의 없이 설치가 가능하다는 뜻이다. 그리스 신화에 나오는 날개 달린 말 페가수스에서 따온 이 이름은 페가수스 유의 악성 소프트웨어를 일컫는 트로이의 목마를 연상시키며 이 소프트웨어가 수동으로 설치된다기보다 원격으로 날아온다는 점도 연상시킨다. 오늘날 테크 분야의 지배층은 인공지능을 불여 즐겨 빗대면서 자신을 테크놀로지의 힘을 인류에게 선물한 현대판 프로메테우스라고 말하곤 한다. 하지만 현대의 디지털 테크놀로지에서 우리가 갖게 된 것은 프로메테우스가 아니라 페가수스인 것 같다.
• 비극은 AI가 민주주의가 가장 필요할 때 민주주의를 훼손하고 있다는 사실이다. 디지털 테크놀로지의 방향으르 근본적으로 바꾸지 못하면 계속해서 불평등에 불을 때고 노동력의 대다수를 주변화할 것이다. 또한 현재의 경로에서 AI테크놀로지는 노동자들을 점점 더 면미랗게 감시하는 데 쓰이고 있으며 임금을 한층 더 아래로 내리누르고 있다.
• 조지 오웰은 <1984>에서 이렇게 묻는다.
- 2 더하기 2가 4인 줄 우리가 어떻게 아는가?
- 중력이 작동하는 것을 어떻게 아는가?
- 과거가 달라질 수 없다는 것을 어떻게 아는가?
- 과거와 외부 세계가 정신에만 존재한다면, 그리고 정신 자체가 통제 가능하다면 그다음에는 어떻게 되겠는가?
11장 테크놀로지의 경로를 다시 잡기
• 컴퓨터는 사람들을 위해서 사용되기보다 사람들에게 적대적으로 사용되고, 사람들을 자유롭게 하기 위해 사용되기 보다 사람들을 통제하기 위해 사용된다.
• 진보 시대의 개혁 운동
1. 내러티브와 규범을 바꾸는 것
2. 길항 권력을 일구는 것
3. 정책적 해법을 찾는 것
