인공지능, 마음을 묻다 / 김선희

 
 
 

1장 인공지능은 우리를 속일 수 있는가

 
ㆍ기능주의는 마음을 정의하기 위해 3 가지 요소를 도입합니다
요소 1. 입력: 외부의 물리적 자극
요소 2. 중간: 주체의 내적 상태, 입력과 출력 사이
요소 3. 출력: 언행이나 신체 행동

ㆍ중국어 방 사고실험을 통해 씨얼은 언어를 이해하거나 사고하기 위해서는 주관적인 일인칭 관점에서 이해의 경험과 의식을 가질 수 있어야 한다고 주장합니다. 달리 말하면 사고력을 부여하기 위해서는 데카르트의 코기토 테스트를 통과해야 한다는 것입니다. 자신의 사고를 의식할 수 있는 자만이 속임의 대상이 될 수 있다고 본 철학자는 데카르트였습니다. 즉 속임의 대상이 되려면 ‘코기토’라고 말할 수 있어야 합니다. 진정으로 사유하는 자는 자신이 의도하고 이해하는 바륽 의식하고 있어야 합니다. 그렇다면 비록 튜링 테스트를 통과할지라도 튜링기계는 이러한 의식을 결여하므로 사고한다고 볼 수 없다는 것이지요. 그리하여 인공지능은 우리를 속일 수도 없고 속임을 당할 수도 없다는 결론에 도달하게 됩니다.

ㆍ비트겐슈타인은 이해나 사고는 의식작용을 수반하지 않는다는 것을 주장합니다. 무엇을 이해한다는 것은 그 주체 자신이 이해하고 있다는 것을 자각하는 의식작용을 함축하지 않는다는 것입니다. 그러한 자각이나 의식 없이도 우리는 많은 것들을 이해합니다. 믿음이나 욕구와 같은 심적 상태의 경우에도 마찬가지입니다. 우리가 무엇을 이해하거나 어떤 믿음을 가질때마다 마음 안에 어떤 특별한 심상이나 의식이 일어남을 느끼는 것은 아닙니다. 어떤 이들은 우리가 어떤 사고를 하나의 믿음으로 수용하거나  무언가를 이해할 때마다 아 그렇구나 라는 종류의 어떤 긍정적인 느낌이 있다고 주장해왔습니다. 유사하게 어떤 것에 대한 불신은 부정의 느낌을 직접 경험하게 하고 기억은 언젠가 본 듯한 느낌을 동반하며, 욕구나 바람들은 현재의 결핍감과 결합된 갈망이나 동경의 느낌을 가져온다고 말합니다.

2장 인공지능은 마음을 구현할 수 있는가

 
ㆍ우리의 마음은 두 가지, 지향적 마음과 현상적 마음입니다. 현상적 마음은 주체에게 어떠하게 보이거나 느껴지는 질적인 경험, 주관적 느낌이나 의식 상태를 말합니다. 지향적 마음은 대상을 향하는 마음으로, 사고 내용을 대상으로 갖습니다. 지향적 마음과 현상적 마음은 동질적이지 않은 마음의 두 영역입니다. 두 마음은 서로 다른 특성을 가지며 이해하는 접근 방식도 다르기 때문입니다. 현상적 마음은 심리 주체의 내면에서 주관적으로 느껴지는 의식으로서 제3자가 객관적으로 접근하거나 인지할 수 없습니다. 한편 지향적 마음, 지향적 심리 현상은 제3자의 객관적 관점에서 이해하고 접근할 수 있습니다.

ㆍ마음을 기능화하는 구체적인 방법은 무엇일까요? 명제 내용을 가진 지향적 사고를 기능화하는 가장 기본적인 방법은 질문과 답변을 통하는 것입니다. 언어적 입력에 대하여 출력된 언어 행동을 보며 내적 사고 과정을 이해하는 것이지요. 기계가 마음을 구현화할 수 있는 것은 기능화할 수 있는 마음에 한정됩니다. 그러나 현상적 의식의 경우에는 달리 기능화할 방법이 없습니다. 그리하여 우리는 다시 의식의 문제에 직면합니다.

ㆍ의식에 인과력이 없다면 의식은 우리가 사는 세계에 아무런 변화와 차이도 일으키지 않습니다. 그렇다면 두 가지 물음이 생깁니다.
1. 현상적 의식이 물리 세계의 인과 과정에 아무런 역할을 하지 않는다면 그것이 존재해야 할 이유는 무엇일까요? 만일 현상적 의식이 인과력이 없는 부수 현상에 불과하다면 그것이 존재할 이유가 있을까요? 즉 현상적 의식이 없더라도 이 세계에 아무런 차이도 일으키지 않는다면 그것은 대체 왜 존재할까요?
2. 의식을 가진 인간과 의식이 없는 기계의 차이는 무엇일까요?

ㆍ우리가 어떤 일이나 주제에 대해 특정 관점을 취하는 것은 이미 자신이 형성하고 있는 총체적인 지향적 사고 체계에 근거한 것입니다. 사람들마다 갖고 있는 사고 체계의 차이가 관점의 차이를 만듭니다. 여기에 지향적 사고 이외의 특별한 현상적 의식이 도입될 필요는 없습니다. 지향적 사고들만으로도 논리적 관계를 비롯한 여타의 관계를 통해 총체적인 체계가 형성되고 이로부터 관점이 생겨납니다.

3장 인공지능은 감정을 느낄 수 있는가

 
ㆍ고통을 직접 느끼는 것 외에는 그것이 어떤 것인지 설명하거나 기능화할 수 없습니다.

ㆍ인공지능의 감정에 대한 두 가지 방향
1. 인공지능 할의 두려움이 지향적 마음을 통해 인간만큼 기능적으로 잘 표현된다면 두려움의 감정을 어느 정도 부여할 수 있다.
2. 인공지능 할의 두려움은 인지적, 기능적 마음의 표현에 불과하다. 인공지능이 표현하는 감정은 내면의 질적 느낌이 없는 것이며 인공지능은 마음의 의식이 텅 빈 좀비에 불과하다.

ㆍ인공지능 의식의 미래
1. 감정을 최대한 기능화할수록 인공지능은 감정을 더 잘 구현하고 점차 인간의 의식에 가까워진다.
2. 기능화되지 않는 의식의 잔여물이 있을지라도 그것은 아무런 인과적 역할이 없다는 점에서 있으나 마나 한 잉여물이다.

ㆍ공감은 다른 사람의 이유의 공간에 들어가 그 사람의 입장이 되어서 그 감정을 추론함으로써 그 사람의 감정을 공유하는 것입니다. 공감은 감각질에 전제하지 않으며 적어도 감각질 없이도 이유를 공유함으로써 공감이 가능하다고 보는 것이 적절해 보입니다. 감각질이 없다고 공감이 없는 것은 아니라는 뜻입니다. 그렇다면 지향적, 인지적, 기능적 이해에 바탕을 둔 인공지능의 공감은 여전히 가능할 것입니다.

ㆍ사람은 답이 없는 문제에도 매달리지만 인공지능도 그럴 수 있을까요? 답이 없는 질문이나 출력 값이 없는 과제 수행이 어떠면 인공지능에게는 부조리한 상황일지도 모르겠습니다.

4장 인공지능은 생명과 개성을 가질 수 있는가

 
ㆍ사이버네틱스(by 노버트 위너)는 기계가 변화하는 환경 속에서 어떻게 자신을 조절하는가에 관한 이론입니다. 그것은 환경으로부터 입력되는 새로운 정보를 계속 피드백하면서 그 시스템이 환경에 다시 적응해나가는 자동조절 순환 과정을 통해 기계의 목적 지향적 동작을 설명합니다.

ㆍ모든 생물의 핵심에 있는 것은 생기, 따스한 호흡, 생명의 활기가 아니다. 그것은 정보, 언어, 명령들이다. 생물을 이해하려면 떨고 진동하는 젤이나 분비물을 이해할 것이 아니라 정보기술을 이해해야 한다. - 도킨스

ㆍ개성을 가지려면 유기적으로 통합된 개별자의 몸이 필요합니다.

5장 인공지능은 예술을 감상할 수 있는가

 
ㆍ인공지능은 빨간 색을 보는 것이 어떤 것인지 현상적 경험을 하지 못합니다. 하지만 색 지각의 현상적 의식이 없을 뿐, 색깔을 인지하거나 인식할 수 없는 것은 아닙니다. 즉 색에 관한 주관적 특질을 갖지는 못하지만 물리적이고 기능적인 지식을 가질 수 있습니다.

ㆍ기계는 목표가 제공되면 그것을 달성하기 위한 최적의 효율적 수단을 수행합니다.

6장 인공지능과 사랑할 수 있을까

 

7장 인공지능은 젠더 정체성을 갖는가

 
ㆍ기계 학습의 3 종류
1. 입력 자료와 알고리즘을 모두 인간이 제공하고 기계는 그 지시대로 따르게 하는 방법
2. 사람이 알고리즘을 직접 짜는 것이 아니라 사람은 학습 데이터만 제공하고 알고리즘은 기계가 스스로 짜게 하는 방법
3. 기계가 입력 자료와 알고리즘을 스스로 만들고 생성하면서 인간의 지식에 의존하지 않고 학습하는 방법
 

맺음말 인공지능을 믿을 수 있을까

ㆍ인공지능이 목표 달성을 위한 수단을 찾는 기준은 최적의 효율성입니다. 최적화와 효율성이야말로 인공지능이 추구하는 가치인 셈이지요. 반면에 사람은 목표 달성을 위해 효율적이기만 하면 어떤 수단이든 좋다고 생각하지 않습니다.

 

1. 우리는 인공지능 알고리즘이 공정하다는 걸 믿을 수 있을까?
2. 인공지능이 인간의 가치와 충돌하지 않는다고 믿을 수 있는가?
3. 인공지능에게 인간의 가치나 윤리를 가르칠 수 있을까? 인간의 윤리를 학습한 인공지능은 믿어도 되는가?