728x90 초지능2 라이프 3.0 / 맥스 테그마크 프렐류드: 오메가팀 이야기 ㆍ지능이 발달해 어떤 영리한 인간의 지적 활동도 압도하는 기계가 개발된다면, 그 기계를 초지능 기계라고 정의하자. 기계 개발도 지적 활동의 하나이기 때문에 초지능 기계는 점점 더 영리한 기계를 설계할 수 있다. 결국 의문의 여지 없이 지능 폭발이 일어날 것이다. 인간의 지능은 기계에 비해 한참 뒤쳐질 것이다. 따라서 최초의 초지능 기계는 인간이 만들 필요가 있는 것 가운데 최후의 발명이 된다. 그 전제 조건은 초지능 기계가 충분히 온순해 사람에게 자신을 통제 아래 두는 방법을 알려준다는 것이다. ㆍ오메가팀이 만든 AI는 프로메테우스라는 별명으로 불렸다. ㆍ정치 어젠다에 지지가 모이는 현상의 7가지 슬로건 1) 민주주의, 2) 세금 감축, 3) 정부의 사회적 서비스 감축, 4) .. 2023. 11. 14. 슈퍼인텔리전스 / 닉 보스트롬 “현재를 확인하고 미래를 전망할 수 있는 반드시 읽어야 할 두 권의 책 중에서 한 권” - 빌 게이츠 서문 ㆍ만약 기계지능이 일반 지능의 영역에서 인간의 지능을 뛰어넘는 날이 온다면, 이 새로운 초지능은 아주 강력한 힘을 가지게 될 것이다. 마치 현재 고릴라들의 생존이 그들 자신의 노력보다는 우리 인간의 의지에 달린 것처럼, 인간의 운명 또한 기계 초지능의 행동에 의해서 결정될 것이다. 그러나 우리 인류에게는 단 하나의 희망이 있다. 즉 우리 스스로가 초지능 개발 여정의 첫걸음을 선택할 수 있다는 것이다. 앞으로 다가올 지능 대확산의 시기에 우리 인간이 살아남을 수 있도록 명령된 초기 인공지능을 만들거나 초기 조건들을 조정할 수 있지는 않을까? 폭발적인 지능 대확산이 아닌 보다 점진적인 지능 대확산을 유.. 2022. 10. 15. 이전 1 다음 728x90
