디지털 미래는 인류가 살 만한 시대가 될 수 있을까?
• 우리 모두가 똑똑한 기계를 위해 일하게 될까요? 아니면 똑똑한 사람들이 기계를 중심으로 모이게 될까요?
• 모든 생명체는 태어난 곳을 향한다. 모든 생물 종은 기원한 지점을 향해 방위를 정한다. 그러한 방향성이 없다면 미지의 영역을 항해할 방법이 없고, 길을 잃게 될 것이다. 모든 여행자와 추방당한 자가 고향을 향하는 것은 인간이 가진 본능적 애착에서 비롯된다. 고향으로의 귀환이 우리의 가장 깊은 욕구 가운데 하나라는 사실은 우리가 귀향을 위해 기꺼이 지불하는 대가에서 뚜렷이 드러난다. 우리가 떠나온 장소로 돌아가든, 미래에 대한 바람으로 둥지를 틀고 성장할 수 있는 새로운 고향을 만들든 어쨌든 고통은 수반된다. 우리는 여전히 오이세우스가 겪은 고난에 관해 이야기한다. 인간은 고향 해변으로 돌아가 우리가 살던 성문 안으로 들어가기 위해 고통을 견뎌낸다.
• 급변한 상황이 우리에게, 우리 아이들에게, 그리고 우리의 민주주의와 디지털 세계에서 사는 인간의 미래에 뜻하는 바는 무엇일까? 이 질문들에 답하는 것이 이 책의 목표다. 이 책은 디지털 세상의 꿈에 어둠이 드리우고 완전히 새로운 탐욕스러운 상업적 프로젝트, 즉 감시 자본주의 사회로 빠르게 뒤바뀌는 데 대한 이야기다.
• 감시 자본주의의 개척자로서, 구글은 인터넷상의 미개척지에서 전례없는 시장 운영이 가능했다. 천적이 없는 환경에 들어온 외래종과도 같았다. 이 황무지에는 법이나 경쟁자의 방해가 거의 없었다. 구글의 경영자들은 그 어떤 공공기관이나 개인들도 따라올 수 없는 무서운 속도로 사업의 체계적 일관성을 밀어붙였다. - 감사 자본가들은 곧 그들이 무엇이든 원하는 대로 할 수 있음을 깨달았고, 그렇게 했다.
• 감시 자본주의 사회의 제품과 서비스는 가치 교환의 대상이 아니다. 그 거래를 통해 생산자와 소비자 사이에 건설적인 호혜 관계가 구축되지 않는다. 상품과 서비스는 개인적 경험을 다른 사람의 목적을 위한 수단으로 활용하기 위해 긁어모아 포장하는 채굴 사업으로 사용자들을 유인하기 위한 미끼일 뿐이다. 우리는 감시 자본주의의 고객이 아니다. ‘무엇인가가 공짜라면, 당신이 곧 상품이라는 뜻이다’라는 말도 있지만 이 역시 틀렸다. 우리는 감시 자본주의를 가능케 하는 결정적 잉여의 원천이며, 원재료 착출 사업의 대상일 뿐이다. 그 사업에는 고도의 테크놀로지가 동원되며, 우리는 그것을 점점 더 피할 수 없게 된다. 감시 자본주의의 진짜 고객은 그 사장에서 미래행동에 대한 정보를 사가는 기업들이다.
1부 감시 자본주의의 토대
01 2011년 8월 9일 : 감시 자본주의를 위한 무대 설치
• 감시 자본주의가 테크놀로지가 아니라 실행 논리라는 점이 핵심이다. 감시 자본주의는 우리가 그들의 관행이 그들이 활용하는 테크놀로지에 불가피하게 수반되는 현상이라고 생각하기를 원한다. 정확히 말하자면, 검색 엔진이 아니라 감시 자본주의가 정보를 보유하는 것이다. // 기술적으로 불가피하다는 주장에 맞서려면 방향 설정부터 해야 한다. 테크놀로지가 경제나 사회로부터 떨어져 나와 그 자체로서만 존재하지 않으며 결코 그럴 수 없다는 사실을 명확하게 인정하지 않고 정보 문명의 현상황을 평가하기란 불가능하다. 이는 기술적 불가피성이 존재하지 않는다는 뜻이다. 테크놀로지는 언제나 경제적 수단이며, 그 자체로 목적이 될 수 없다.
02 행동잉여의 발견 : 온라인 행동이 남기는 부수적인 흔적들
• 구글과 감시 자본주의의 관계는 포드 자동차, 제너럴 모터스와 대량생산 기반 경영 자본주의의 관계와 같다.
• 핵심은 감시 자본주의가 특정 시공간에서 특정 인간 집단에 의해 발명되었다는 사실이다. 그것은 디지털 기술의 숙명적 결과도, 정보 자본주의의 필연적 표출 형태도 아니다. 감시 자본주의는 역사의 한순간에 의도적으로 축조되었다.
• 구글은 2004년에 나스닥에 상장되었다. 행동잉여의 발견은 4년이 채 안되는 기간 동안 3,490%라는 놀라운 수익 증대를 낳았다.
• 감시 자본주의는 구글을 필두로 웹 전체에서 급속하게 정보 자본주의의 기본 모델이 되었고, 점차 모든 부문에서 경쟁자들을 끌어들였다. 이 새로운 시장 형태는 사람들의 진정한 요구를 충족시키는 일이 그들의 행동에 대한 예측을 판매하는 것보다 수익성이 낮고 따라서 덜 중요하다고 선언한다. 구글은 우리의 가치보다 우리의 미래행동이 다른 사람들에게 주는 가치가 더 높다는 점을 발견한 것이다. 이 발견은 모든 것을 바꾸어 놓았다. 행동잉여는 구글의 수익을 보장한다. 행동잉여를 감시 자산으로 볼 수 있으며 여기에 구글의 운명이 달려 있다. 이 자신은 감시 수익을 발생시키고, 결과적으로 감시 자본이 될 결정적 원재료다. 이 자본 축적 논리 자체를 가장 정확하게 이해할 수 있느느 용어가 감시 자본주의다. 감시 자본주의란 감시 기반 경제 질서, 즉 감시 경제의 기본이 되는 틀이다. 여기서 종속과 위계가 중요하다. 예전에 존재했던 기업과 사용자 사이의 호혜 관계가 이는 우리의 행동잉여를 다른 사람의 목적을 위해 수립하는 파생 프로젝트에 종속된다. 우리는 더 아시아 가치 실현의 주체가 아니다. 그러나 어떤 사람들이 주장하듯이 구글이 판매하는 제품도 아니다. 우리는 구글 예측 공장을 위해 원래료를 추출당하고 몰수당하는 대상일 뿐이다. 우리의 행동에 대한 예측이 구글이 만들어 파는 제품이며, 그 제품은 우리가 아닌 구글의 실질적 고객에게 판매된다. 우리는 다른 사람의 목적을 위한 수단이다.
• 산업 자본주의는 사연에서 얻은 원재료를 상품으로 변모시켰고, 감시 자본주의는 새로 발명한 상품을 위해 인간의 본성을 활용하려 한다. 이제 사람들은 새로운 시대의 시장을 위해 자연 대신 인간의 본성을 파내고 뜯어내고 탈취해간다. 그 해악을 사용자들이 원래료 공급에 대한 대가를 못 받고 있다는 점 정도로 환원시킬 수 있다고 생각한다면 큰 착각이다. 그러한 왜곡은 가격 책정 메커니즘을 이용해 제조 및 판매를 위한 인간 행동의 추출을 제도화, 정당화할 수 있게 한다. 또한 다른 사람들이 우리를 더 잘 통제할 수 있도록 우리의 삶을 행동 데이터로 만드는 것이 착취의 본질이라는 점이 핵심인데, 이 핵심을 무시하게 만든다. 여기서 문제 삼아야 할 것들은 우리의 삶이 애초엥 행동 데이터로 만들어진다는 사실, 상기한 무시가 어디에서나 행동 데이터가 만들어질 수 있게 하는 조건이라는 점, 결정해야 할 사안이 있다는 것을 알기도 전에 의사 결정권이 사라진다는 것, 이러한 권리 축소가 가져올 결과를 알 수도 예측할 수도 없다는 것, 다른 영역의 소비자처럼 떠날 것인가, 항의할 것인가, 남을 것인가를 선택할 수 없고 우리에게 남은 것은 단지 무력함과 체념, 정신적 마비뿐이라는 것, 저녁 식탁에 둘러 앉아 정체 모를 세력으로부터 숨을 방법을 궁리해봐야 우리가 적극적으로 할 수 있는 일이라고는 암호화밖에 없다는 것이다.
• 구글의 기계 지능 기술은 행동잉여를 먹고 자라며, 더 많은 잉여가 투입될수록 기계 지능이 만들어내는 예측 상품이 더 정확해진다.
• 기계 지능은 행동잉여를 가지고 우리가 지금, 곧, 혹은 장차 무엇을 느끼고, 생각하고, 행동할지 예측하기 위해 설계된 예측상품을 만든다. 그 공정은 구글이 가장 삼엄하게 지키는 기밀 사항에 속한다. 이러한 상품의 속성은 왜 구글이 반복적으로 그들이 개인의 데이터를 팔지 않는다고 주장하는지를 설명한다. 구글의 경영진들은 자기들이 원재료를 팔지 않으므로 프라이버시 문제에서 결백하다고 주장한다. 맞다. 그들이 파는 것은 행동 테이터 같은 개인 정보가 아니라 예측이다. 그러나 그 예측은 행동잉여라는 세계사적으로 유례 없는 구묘의 개인 정보가 있어야만 재조될 수 있는 상품이다.
03 성을 둘러싼 해자 : 사용자의 행동을 예측하기 위해 설계된 알고리즘의 보호막
• 감시 자본주의하에서 행동의 상품화는 우리의 미래를 시장 권력이 비밀주의와 해독불가능성, 전문지식이라는 해자에 의해 보호되는 세상으로 만든다.
• 구글이 가장 앞서가는 가운데 감시 자본주의는 인간의 경험을 갈취하고 그것을 남들이 탐낼 만한 행동 예측으로 전환시키는 방법을 알아내면서 그 시장이 역학을 널리 확신시켰다. 2차 현대성의 요구, 신자유주의의 유산, 현실정치에서의 감시 예외주의라는 시대적 예견, 그리고 공급망 운용을 외부의 감독으로부터 지킬 목적으로 정치적, 문화적 장악력을 통해 스스로 구축한 요새는 구글과 더 광범위한 감시 프로젝트를 탄생시키고 보호하고, 성공적으로 키워냈다.
04 정교화된 감시 자본주의 : 탈취, 장악, 경쟁
• 래리 페이지는 이런 세상을 꿈꾸었다. “우리의 궁극적 야망은 구글에서 일어나는 경험 전체를 아주 단순하고 그래서 아름답게, 마치 저절로 일어나는 마법처럼 만드는 것이다. 우리는 당신이 무엇을 원하는지 알고 그것을 즉시 가져다줄 수 있다‘
• 구글이 하는 일은 형태를 바꾸는 것읻. 그러나 각각의 형태 안에 같은 목적이 숨겨져 있다. 원재료를 사냥하고 포획하는 것이 그 목적이다.
• 수탈의 사이클
1단계 침입
2단계 습관화
3단계 각색
4단계 조준변경
• 감시 자산 경쟁이 가열되면서 새로운 운동 법칙이 나타나고, 이러한 운동 법칙은 결국 점점 인정사정 볼 것 없이 더 확실하고 자세하게 미래행동을 예측해야 한다는 절박한 과제를 부여하고, 우리가 현실이라고 부르는 것을 프로젝트 전체를 가상 세계로부터 탈출시키라고 압박할 것이다.
• 우리 시대의 감사 자본가들이 지식, 권한, 권력을 규정하는 핵심 질문들을 장악하면서 우리는 훨씬 더 근본적인 위협에 직면하게 된다. 그 질문들은 다음과 같다. 누가 아는가? 누가 결정하는가? 누가 결정하는지를 누가 결정하는가?
05 데이타 탈취 : 학습의 사회적 분업화
• 감시 자본주의 시대를 정복의 시대로 규정하는 여섯 개의 선언과 함께 감시 자본주의 시대의 막이 열렸다.
1. 인간의 경험은 우리가 무상으로 취할 수 있는 원재료다. 이에 기초하여, 우리는 개인의 권리, 이해관계, 인지, 이해에 대한 고려를 무시할 수 있다.
2. 이에 기초해 우리는 행동 데이터로 변환하기 위해 개인의 경험을 취할 권리를 주장한다.
3. 무상 원재료에 대한 주장에 기초해 개인의 경험을 취할 권리는 인간 경험에서 나오는 행동 데이터를 소유할 권리를 부여한다.
4. 취하고 소유할 권리는 그 데이터가 무엇을 나타내는지를 알 권리를 부여한다.
5. 취하고 소유하고 알 권리는 우리의 지식을 어떻게 쓸 것인지를 결정할 권리를 부여한다.
6. 취하고 소유하고 알고 결정할 권리는 취하고 소유하고 알고 결정할 권리를 지킬 조건에 대한 권리를 부여한다.
• 핵심 질문
1. 누가 아는가?
2. 누가 결정하는가?
3. 누가 결정하는지를 누가 결정하는가?
2부 감시 자본주의의 전진
01 현실 비지니스 : 현실 세계에서 작동하는 기계 기반 아키텍처
• 불가피론자들이 끊임없이 퍼뜨리는 메시지는 새로운 유비쿼터스 장치가 마치 개별 인간 주체나 사회의 선택과 무관하게 테크놀로지 자체의 힘에 의해 만들어진 산물이며, 역사의 바깥에서 기원해 모호한 방식으로 지구와 인류의 완성을 추동하는 확고부동한 경향성인 것처럼 묘사한다. 테크놀로지에 자율적인 힘의 이미지를 부여하고 따라서 그 작동이나 작동 결과를 피할 수 없다고 인식시키는 것은 테크놀로지에서 권력의 지문을 지워 권력을 가진 자가 책임을 벗어나기 위해 수 세기 동안 활용해온 방법이다. 빅터 프랑켄슈타인이 아니라 괴물이 한 짓이다. 그러나 괴수를 감시하는 것은 전자팔찌가 아니라 형사사법 시스템이다.
02 렌더링 : 경험에서 데이터로
• 렌더의 두 가지 의미
1. 원래의 어떤 것으로부터 다른 어떤 것이 만들어지는 과정
2. 변화의 대상이 스스로를 그 변화 과정에 넘겨주는 과정
03 저 깊은 곳으로부터의 렌더링: 경험을 데이터로 변화하는 과정
• 기계는 개인화의 가치 아래 인간의 깊은 내면에까지 침투한다.
04 그들을 춤추게 하라 : 사람들의 행동을 예측 가능한 방향으로 변화시키는 일
• 이제는 단순히 유비쿼터스 컴퓨팅이 문제가 아니다. 이제 진정한 목표는 편재적 개입, 행위, 통제이며, 이제 진정한 권력은 당신이 현실 세계에서 실시간으로 일어나는 행위를 수정할 수 있다는 데서 나온다. 인터넷에 연결된 스마트 센서들은 모든 종류의 행동을 기록, 분석해 그 행동을 수정할 방법을 알아낼 수 있다. 실시간 분석은 실시간 행위로 전환된다. 이 새로운 역량은 액추에이션이라고 부르며 유비쿼터스 장치 진화에서 매우 중요하면서도 논란의 여지가 거의 없는 전환점으로 본다.
05 미래 시제에 대한 권리 : 개인의 존엄성을 위한 의지에 대한 자유
• 약속을 한다는 것은 미래를 예측하는 일이며 약속을 지키는 것은 의지를 행사해 예측을 사실로 바꾸는 일이다. 의지는 미래를 존재케 하는 정신적 기관이다.
• 불확실성 없이는 자유도 없다. 불확실성이란 인간의 의지를 약속의 형태로 표현하게 하는 매개체다.
• 계약은 인간 공동체에서 불확실성을 덜어내기 위해 만든 공동의 예측 가능성의 섬으로 시작되었으며, 여전히 이 의미를 지니고 있다.
• 불확실성은 카오스가 아니다. 오히려 현재 시제의 필연적 서식지다. 자유가 없다면 미래는 단순한 행동만 존재하는 무한한 현재로 전락한다. 거기에는 주체subject 도 투사project 도 없다. 단지 객체object 만 있을 뿐이다.
3부 현대성과 도구주의 권력
01 두 권력 : 도구의 권려과 전제주의 권력
• 전체주의와 도구주의 권력은 다르다. 도구주의 권력이 향하는 지평선은 반대편에 있다. 전체주의는 폭력 수단을 통해 작동했지만, 도구주의 권력은 행동수정수단을 통해 작동한다.
• 자유는 환상이다.
02 빅 다어와 도구주의 권력의 부상 : 비인격적인 평가 방법
• 감시 자본주의는 유비쿼터스 디지털 장치라는 매체를 통해 그 의지를 강요하는 꼭두각시 조종자다. 나는 이제 이 장치에 빅 아더라는 이름을 붙인다. 이것은 감응과 연산 기능이 있고 네크워크에 연결돼 있는 꼭두각시 인형으로 인간의 행동을 렌더링, 모니터링, 연산, 수정한다. 빅 아더는 지식과 실행 기능을 결합함으로써 전례 없는 행동수정수단을 만연시킨다. 감시 자본주의의 경제적 논리는 빅 아더의 막대한 능력을 통해 도구주의 권력을 생산하고, 그럼으로써 영혼의 엔지니어링을 행동의 엔지니어링으로 대체한다.
03 확실성의 유토피아 : 감시 자본가들이 꿈꾸는 세상
04 도구주의 사회 : 인간의 행동에 장치를 적용해 측정하는 일
• 이 시대는 새로운 디지털 시스템을 요구한다. 그 시스템은 통합적이고, 총체적이며, 민감하게 반응하고, 역동적이고, 자율규제적이어야 한다.
05 벌집에서의 삶 : 타인에 대한 심리적 의존성
• 현재의 과제는 세가지 방식으로 우리 시대의 특유의 존재 조건과 합해진다 .
1. 전통사회가 쇠퇴하고 사회의 복잡성이 진전되면서 개인화 과정이 가속화되었다.
2. 디지털 테크놀로지가 사회참여에 필수적인 수단이 되었다.
3. 감시 자본주의가 디지털 테크놀로지에 의해 이루어지는 사람들 사이의 연결을 지배하고 계측도구로 만든다.
06 성역을 가질 권리 : 사생활을 지킬 필요성
결론
위로부터의 쿠데타 : 우리는 그들이 무엇을 아는지 모른다
• 어떤 제약도 받지 않는 자유를 요구한다는 점은 감시 자본가들도 다른 자본가들과 다를 바 없다.
• 감시 자본주의의 운용에 관한 한, 시장은 더 이상 보이지 않는 존재가 아니다.
