기계의 반칙 / 넬로 크리스티아니니

 

 

 

1장. 지능의 탐구

 

ㆍ지능이란 인간적인 것에 관한 문제가 아니라, 새로운 상황에서 효과적으로 행동할 수 있는 능력에 관한 문제다. 

 

ㆍ자신이 무엇을 찾고 있는지 모른다면, 막상 찾아내더라도 알아차리지 못할 수 있다. 다른 형태의 지능을 연구할 때 중요한 문제 중 하나는 '인간과 근본적으로 다른 것을 정확히 상상하는' 것이다. 

 

ㆍ지능은 소속된 환경에서 작동할 수 있고 감각 정보를 사용해 의사 결정을 내릴 수 있는 모든 체계에 해당하는 에이전트의 행동이다. 

 

ㆍ경험에 따른 행동의 모든 변화가 바로 '학습'이다. 

 

ㆍ진화는 몇 가지 암묵적인 가정에 따라 일어날 수 있다. 즉, 환경은 규칙적이며, 그 유기체의 설계 방식과 일치하는 특정한 유형의 규칙성이 있다는 가정이다. 

 

ㆍ생존 기법 중 일부는 매우 유용하고도 식별하기 쉬워 따로 고유의 명칭도 있다. 반사, 계획, 추론, 학습 등이 그것이다. 

 

2장. 치트키

ㆍ생물학적 지능이란 신의 생각을 이해하기 위한 능력보다는 '잘 행동'하도록 돕는 능력에 의해 형성되었다. 

 

3장. 세계의 질서를 찾아서

ㆍ모든 환경은 위험을 감수하는 데 드는 대가와 이익 사이에서 각기 다른 트레이드오프를 보여주므로 군소는 각 상황에 따라 달리 행동해야 한다. 

 

ㆍ사람이나 기계가 일련의 관찰에서 질서를 찾고자 할 때는 많은 문제가 발생할 수 있다. 간단한 질문을 통해 구체화할 수 있는 질문들은 다음과 같다.

1. 모든 데이터 세트에서 어떤 패턴을 확인하는 일반적인 방법이 있는가?

2. 데이터에서 발견한 관계성이 우연의 결과가 아니라는 것을 어떻게 신뢰할 수 있는가?

3. 기계가 발견한 관계성을 들여다봄으로써 무엇을 알아낼 수 있는가?

 

4장. 러브레이스는 틀렸다

 

5장. 의도를 벗어난 행동

ㆍ인간은 우리 자신이 그렇게 믿고 싶을 만큼 복잡한 존재가 아닐 수도 있다. 충분히 복잡도가 높은 에이전트에게 있어서 인간은 그렇게 어려운 작업 환경이 아닐 수 있다. 

6장. 마이크로타기팅과 대중 설득

7장. 피드백 루프

 

 

8장. 결함

 

 

9장. 소셜 머신

 

 

10장. 금지가 아닌 규제

ㆍ웹 혁명의 가장 큰 매력 중 하나는 기존의 권력 구조를 뒤엎고 공급 경로를 단축하여 생산자와 소비자가 브로커나 다른 중개자를 우회해 거래할 수 있는 잠재력이었다. 웹 혁명은 아티스트와 관객, 판매자와 구매자, 구직자와 고용주를 직접 연결하는 탈중개화를 약속했다. 이 새로운 매체의 주된 매력 중 하나는 '게이트키퍼' 즉 기회나 자원에 대한 접근을 통제하는 자를 거치지 않을 수 있는 가능성이었다. 

 

ㆍ모든 사용자는 인공지능 에이전트와의 상호작용에서 다음과 같은 내용을 기대할 수 있어야 한다.

1. 안정성

2. 존중

3. 투명성

4. 공정성

5. 개인정보보호