인공지능이 할 수 있는 것, 할 수 없는 것 / 강국진

 

 

 

여는 글

ㆍ인공지능은 인간의 지능을 확장하기 위한 것이다. 

 

1장 인공지능 패러다임

ㆍ인공지능은 그저 하나의 기술이고 기계일 뿐일까?

 

ㆍ지능이란 무엇인가? 라는 질문에는 객관적 답이 없다. 그래서 인공지능 개발은 곧바로 인간의 자기 성찰이 되고 만다. 지능 가장 중요한 기준이 인간이기 때문이다. 우리는 자신이 관행적으로 하던 일을 그냥 인간의 지능적 행동이라고 여기다가, 기계에게 그걸 시키려고 할 때 비로소 스스로를 되돌아보게 된다. 우리는 왜 그렇게 행동할까? 이건 정말 지능적이고 합리적인 행동일까? 이런 질문과 기본적 배경에 대한 생각없이는, 엄청난 양의 데이터와 빠른 컴퓨터가 있다고 해도 저절로 지능이 만들어지진 않는다. 

 

ㆍ복잡한 기계를 만들 때, 우리는 작은 부분을 먼저 만들고, 그 부분들을 모아서 더 큰 부분을 만드는 식으로 진행한다. 반면에 인공지능은 데이터와 컴퓨터 최적화에 의해서 만들어진다. 기본적으로 환원주의를 따르지 않는 것이다. 또한 인공지능은 작은 부분들이 합쳐져서 만들어지지 않으며, 문제를 논리적으로 분석해서 해법을 찾지도 않는다. 그것은 무수히 많은 시행착오를 통해 답을 찾아가는데, 그 과정은 생명의 진화와 닮아 있다. 

 

2장 기호주의 인공지능과 문자 지식 패러다임

ㆍ"기계가 언어를 사용하고, 추상화와 개념을 형성하며, 현재는 인간의 몫으로 남겨진 문제를 해결하고, 스스로를 개선하도록 만드는 방법을 찾기 위한 시도가 이우러질 것입니다."

- 1955년, 다트머스대학, 수학과 교수 존 매카시, 마빈 민스키, 너새니얼 로체스터, 클로드 섀넌

 

ㆍ형식적 시스템의 4가지 요소

1) 기호나 상징

2) 구성 규칙

3) 변형 규칙

4) 공리

 

ㆍ기록 기술이 있기에 복잡한 생각이 가능해졌다. 문자로 기록하는 기술은 인간의 제한적인 기억력을 극복할 수 있게 해주었고, 그 기억을 남에게 전달하는 방식도 혁신했다. 

 

ㆍ진시황이 천하통일 한 후에 가장 먼저 한 일은 도량형 통일이었다. 하나의 사회를 통일적으로 움직이기 위해서는 말의 표준화, 기준의 표준화가 필요하다. 

 

ㆍ전체를 부분들로 나누어서 얻게 되는 건 어디까지나 참값이 아닌 근사값이다. 

 

ㆍ인간은 이미 사이보그다. 

 

 

3장 기계학습 인공지능

ㆍ인공지능 구현의 기술적 접근방식

1) 기호주의 접근법

2) 기계학습 접근법: 인간이 규칙을 제공하지 않고, 기계가 스스로 주어진 데이터 안에 존재하는 규칙성을 찾아내어 새로운 상황에 대처하게 만들고자 한다. 

 

ㆍAI 전제조건과 한계

A. 데이터에 배울 규칙이 없다. 

B. 데이터는 전제되는 이론 없이 존재하지 않는다. 

C. 때로는 데이터를 구하기 어렵다. 

 

 

4장 지능 패러다임

ㆍ간결한 법칙의 추구는 한 가지 결과로 이어진다. 그건 바로 외부로붜의 영향이 제거되어 있는 고립된 시스템, 즉 고립계를 연구하게 만드는 것이다. 이는 환원주의의 추구로 이어지곤 한다. 그런데 뇌과학이나 경제, 사회 분야에는 고립계를 고려하는 것이 불가능한 상황들이 있다. 

 

ㆍ우리는 시스템이 크고 복잡하지만, 데이터를 통해 무언가 배울 수 있다고 기대되는 두 가지 경우에 주목하게 된다. 

1) 매우 높은 자유도와 복잡성을 지닌 듯 보이는 시스템이 실제로는 단순한 결과물을 내놓는 경우

2) 애초에 가능한 경우의 수를 제한하는 규칙이 있는 시스템, 즉 게임의 경우 

 

ㆍ물리학은 세상을 결정론적으로 보게 하여, 그 안의 복잡성을 과소평가하고 우리가 모든 것을 알고 있다고 착각하게 만든다. 

1) 물리학은 물리법칙들을 늘어놓고선, 이제 미래는 결정되었다고 말하는 듯 하다. 

2) 물리학은 관찰자가 없는 고립계를 가정함으로써 물리계를 기술하는데, 이는 어디까지나 근삿값에 불과하다. 

 

 

5장 AI 시대

ㆍ지식이 너무 많으면 쓸모없어진다. 어떤 현실적인 질문에 답해야 할 때, 다양한 시각의 종합이 필요하다. 그런데 모두가 너무 전문화되고 나면, 누구도 폭넓은 지식을 가질 수 없기 때문에 문제 해결에 도움이 안 된다. 전문가의 시야가 너무 좁아지는 것이다. 

 

ㆍ우리는 자신의 한계를 인정해야 한다.

 

 

 

닫는 글

ㆍ우리는 AI와 함께 새로운 인간을 만들어갈 것이다.