AI 윤리에 대한 모든 것 / 마크 코켈버그

 

 

 

1장 거울아 거울아

ㆍAI 윤리는 기술 변화와 그것이 개인의 삶에 미치는 영향뿐 아니라 사회와 경제의 변화에 관한 것이기도 하다. 

 

2장 초지능, 괴물, 인공지능 묵시록

ㆍ초지능은 기계가 인간의 지능을 능가할 것이라는 발상이다. 이는 종종 지능 폭발과 기술적 특이점이라는 개념과 연결된다. 

 

ㆍ많은 사람들의 생각과 달리 서양 문화의 역사에서 종교와 기술은 항상 연결되어 있었다. 

 

 

3장 인간에 관한 모든 것

ㆍ인간-같은 AI의 가능성에 대한 비판과 회의의 역사가 있다. 

 

ㆍ우리는 의미를 만들고, 의식이 있고, 체화된, 생명체이며, 그 본성, 마음, 지식은 기계와의 비교를 통해서는 설명될 수 없는 존재다. 

 

ㆍ인간이란 무엇이며, 인간은 무엇이 되어야 하는가?

 

ㆍ비인간이 우리와 비슷할 필요도 없고, 우리와 비슷하게 만들어서도 안 된다. 

 

ㆍ포스트휴머니즘에 힘입어 AI는 인간을 모방하거나 재구성해야 하는 부담에서 벗어나 여러 다른 비인간적 종류의 존재, 지능, 창의성 등을 탐색할 수 있다. 

 

 

4장 단지 기계?

ㆍ누군가는 AI를 '학대'하는 것은 AI에 해를 끼치기 때문이 아니라, 그렇게 할 경우 우리의 도덕적 품성이 손상되기 때문에 잘못이라고 주장한다. 

 

ㆍ우리는 이미 소셜 미디어 플랫폼, 검색 엔진, 그리고 일상적인 경험의 일부분이 된 여타 미디어와 기술을 구동하고 있는 AI를 잊어서는 안 된다. AI는 어디에나 있다. 

 

 

5장 기술

ㆍ기계학습은 '학습'할 수 있는 소프트웨어를 가리킨다. 

 

 

6장 데이터 (과학)을 잊지 말자

ㆍ예전에는 통계학이 그다지 매력적이지 않은 분야로 여겨졌다. 오늘날에는 데이터 과학의 한 부분이자 빅데이터와 함께 작동하는 AI의 형태로 모습을 드러내는 통계학이 뜨거운 인기를 누린다. 새로운 마법과도 같다. 

 

 

7장 프라이버시와 기타 유력 용의자들

ㆍAI는 새로운 형태의 조작, 감시, 전체주의로 이어질 수 있으며, 반드시 권위주의 정치의 형태가 아니더라도 더 은밀하되 대단히 효과적인 방식으로 그렇게 될 수 있다. 

 

ㆍ네트워크로 연결된 세상에서는 모든 전자 기기나 소프트웨어가 악의적인 의도를 가진 사람들에 의해 해킹되고, 침입받고, 조작될 수 있다. 

 

 

8장 책임 없는 기계와 설명할 수 없는 결정

ㆍAI에 더 많은 행위주체성이 부여되어 인간이 하던 일을 대신하게 되면 도덕적 책임은 어떻게 귀속시킬 수 있을까?

 

 

 

9장 편향과 삶의 의미

ㆍ편향과 차별의 문제는 사회에 항상 존재해 왔지만, 우려되는 것은 AI가 이러한 문제를 영속화하고 그 영향력을 확대할 수 있다는 점이다. 

 

ㆍ정의는 맹목적이고 공평무사해야 할까, 아니면 정의는 이미 불이익을 당한 사람들에게 혜택을 주는 것을 의미하는 것일까?

 

ㆍAI에 기반한 자동화는 우리 경제와 사회를 근본적으로 변화시킴으로써 일의 미래와 의미에 관한 질문뿐 아니라 인간 삶의 미래와 의미에 관한 질문까지 제기할 것으로 예상된다. 

 

 

 

10장 정책 제안

ㆍAI로 인해 제기되는 윤리적, 사회적 도전에 대처하는 것이 시급하고 중요하다는 직관이 널리 공유되면서 이니셔티브와 정책 문서가 쏟아져 나오고 있다. 

 

 

11장 정책 입안자들의 과제

ㆍAI 윤리가 반드시 금지를 위한 것은 아니다. 우리에게는 또한 좋은 삶과 좋은 사회의 비전을 발전시키는 긍정적 윤리가 필요하다. 

 

 

12장 문제는 기후야, 바보야!