AGI 시대와 인간의 미래 / 맹성현

 
 

 

 

 

Word Became Flesh

 

지구에서 돈을 가장 많이 버는 기업들이 천문학적인 자금을 우주 개발에 투자하고 있다. 마치 지구에서 번 돈을 우주에 쏟아붓는 것처럼 보인다. 효율적인 의사결정으로 유명한 기업들이 왜 이런 결정을 내릴까? 기후변화와 자원 고갈 같은 문제에 대한 해결책을 찾으려는 걸까? 아니면 인간의 탐구 본능과 무한한 가능성에 대한 열망 때문일까? 혹시 그들은 지구와 인류의 미래에 가망이 없다고 판단한 걸까? 

 

우리는 우주에서 우주복을 벗는 순간 죽는다. 그렇다면 우주복을 입은 채 살아가겠다는 뜻은 아닐 것이다. 아마도 테라포밍을 통해 인간이 살 수 있는 환경을 만들 생각일지도 모른다. 그런데 그런 환경을 만드는 것이 가능할까? 만약 가능하다면, 지구를 개선하는 게 더 쉽지 않을까? 환경을 바꾸기보다는 인간이 환경에 적응하는 쪽이 더 합리적이다. 사실, 인류의 역사를 보면 환경에 맞춰 개체가 변화한 사례는 있어도 그 반대는 없었다. 어쩌면 가장 효율적인 방법은 인간 자체를 바꾸는 것일지도 모른다. 유전자 조작을 통해 인간을 지구 중심적인 존재가 아닌, 새로운 '우주 생존형'으로 개조하는 것이다. 윤리적인 문제가 있겠지만, 기술적·자원적 관점에서는 더 유리해 보인다. 설마, 이런 논리로 우주 개발이 이루어지는 것은 아닐까?

 

사실 인간이 지속 가능성을 확보하려면 인간 자체를 바꾸는 것보다 인공지능을 활용하는 편이 훨씬 효율적이다. AGI는 인간처럼 생물학적 한계에 얽매이지 않고, 혹독한 우주 환경에서도 생존할 수 있다. 어쩌면 기업들이 우주로 진출하는 이유는 인간의 지속성을 탐구하기보다 인공지능으로 대체하려는 것일 수도 있다. 그래서 요즘 뇌과학과 인공지능 연구가 이렇게 진전된 걸까?

 

AGI와 인간의 차이는 무엇일까? 생존에 더 유리한 쪽은 누구일까? 생명은 언젠가 끝나는 것이 본질인데, 우리는 끊임없이 지속성과 영원성을 꿈꾼다. 이는 새로운 일이 아니다. 고대 메소포타미아의 길가메시도 영원을 갈망했으며, 이집트인들은 미라를 만들어 피라미드에 보관하며 유한성을 극복하려 했다. 결국 실패했지만, 그들이 남긴 문자들은 시간의 유한성을 넘어서 지금도 전해지고 있다. 

 

"말씀이 육신이 되었다"는 성경 구절처럼, 어쩌면 생명도 DNA라는 정보의 조합일 뿐이다. 우리의 삶은 그 정보가 잠시 나타나는 순간일지도 모른다. 생명은 유한하지만, DNA라는 정보는 영원할 수 있다. 결국 우리는 이기적인 유전자 정보를 전달하기 위해 돈을 벌고, 결혼을 하고, 아이를 낳고, 그렇게 삶을 이어가는 게 아닐까?

 

AGI를 생명이라고 할 수 있을까? 생명이 아니겠지? 경이로움에는 두려움도 따른다. 인간은 불편하거나 두려움을 회피하려는 본능을 가진다. 인간과 AGI가 공존하게 된다면, 그 관계는 무엇을 의미할까? 결국 인간다움의 경계는 흐려지지 않을까? 결국 중요한 것은 변화를 두려워하지 않고 열린 마음으로 받아들이는 것이다. 하지만 과연 그것 말고 다른 선택지가 있을까?

 

Prompt: "인간과 AGI, 둘 중 어떤 것이 더 오래 지속할 가능성이 높은가?"

Response: "AGI가 인간보다 지속할 가능성이 훨씬 높다."

 
 
 

 

 

---

 

 

 

 

 

 

 

 

프롤로그

 
• 경이로움에는 두려움도 따른다.

 

• 인터넷은 인류의 생활과 문화가 기록되고 공유되는 공간이 되었다. 인간과 사물을 연결하는 네트워크가 아니라 인류의 지식과 지혜가 담긴 거대한 '인류의 뇌'가 되었다. 인간은 이와 상호작용하여 새로운 콘텐츠를 입력하기도 하고 인출해가기도 하는 입출력 장치 역할을 맡게 되었다. 수많은 개인의 뇌가 '인류의 뇌'로 융합되어 전인류가 사용할 수 있는 거대한 시스템이 된 것이다. 

 

• 챗GPT의 본질적인 능력을 한마디로 요약하면, '인류가 생산해놓은 거의 모든 텍스트를 읽어 들여 융합한 후 대화를 통해 질문에 대한 답이나 지시한 글쓰기 작업 등 언어 기반의 지적 작업을 수행해내는 AI라고 할 수 있다. 

 

• 누구나 한 번쯤은 그것을 보았을 것이다. 그러나 보았다고 해서 모든 사람이 다 깊이 생각하지는 않는다. 

 

1장 AI를 넘어 AGI의 시대로

 
• 인간의 스트레스는 주로 미래에 대한 불확실성에서 온다. 

 

• 독해와 작문 실력을 키우려면 독서를 많이 하라는 조언을 들어본 적이 있을 것이다. 글을 많이 읽으면 어떤 일이 벌어지는 것일까? 결론부터 이야기하면 어휘력, 문장 구성 능력, 논리적 사고력 등이 향상된다. 우리 뇌는 독서의 과정을 통해 단어, 문장 구조, 문단의 흐름 등 언어적인 요소들을 파악하여 언어지도를 만들어내고 이를 계속 업데이트한다. 우리는 이러한 언어지도를 사용하여 말이나 글을 생성하는 것이다. 글을 많이 읽다 보면 언어지도가 더욱 고급스럽게 만들어져 논리학이나 글 쓰는 법 같은 것을 별도로 배우지 않아도 어느 정도 터득하게 된다. 모국어 문법을 별도로 배운 적이 없어도 틀리거나 어색한 문장을 지적해 낼 수 있는 것은 글을 많이 읽고 들었기 때문이다. 이와 같이 우리는 명시적으로 가르치지 않아도 생겨나는 '창발 능력'을 가지고 있다. 그런데 챗 GPT도 이런 능력을 가지고 있다. 

 

• 언어 정보를 '기억한다'는 것은 챗GPT의 경우 인공뉴런들 간의 연결 강도인 매개변수값들이 결정되는 것이고, 인간 뇌의 경우에는 시냅스의 연결 강도가 결정되는 것이닫. 즉 매개변수의 수는 기억할 수 있는 용량과 추론의 깊이를 결정한다. 

 

• '판단'도 변환 과정의 일부다.
 

2장 AGI의 시작 ‘생성형 AI’

 • 인공신경망의 파라미터(매개변수) 값 세팅을 통해 기억되는데, 훈련데이터가 많으면 많을수록 그 차이를 확신할 수 있다. 

 

 • AI가 똑똑하다는 것은 어떤 의미일까? 데이터의 패턴을 읽어 판단을 잘하는 것이 똑똑한 것이다. 

 

 • 대량의 말뭉치로 훈련시키면 여기 출현하는 모든 단어에 대한 의미 기반 표상이 생성된다. 이렇게 만들어지는 단어의 벡터를 '임베딩'이라고도 한다. 비슷한 의미를 가진 단어들이 비슷한 임베딩 벡터를 가지게 되므로 문장, 문단 등 더 큰 텍스트의 벡터도 단어 벡터들로부터 만들어낼 수 있는 길이 열리는 것이다. 

 

 • 트랜스포머의 다른 색심 아이디어는 하나의 단어 열에 존재하는 다양한 언어적 특성을 기억하기 위해 '다중 헤드'를 사용한다는 것이다. 이는 마치 하나의 문장을 놓고 여러 사람이 각자의 역할에 따라 분석하는 것과 같은 효과를 준다. 

 

 • GPT4의 경우 트랜스포머가 한 번에 받아들일 수 있는 입력 텍스트의 최대 길이가 3만3000토큰이다. 이것의 의미는 100페이 정도의 문서를 읽고 그 안에 있는 언어적 특성, 내용, 논리적 구조, 수사적 구조 등을 모두 순간적으로 파악해낸다는 것이다. 

 

 • 많은 경우 특정 과업의 특성을 반영하여 제대로 된 성능을 내기 위해서는 이미 구축된 언어 모델을 '미세조정 fine tuning'하는 과정을 거쳐야 한다. 

 

 • 파운데이션 모델: 레이블링 되어 있지 않은 초거대 용량의 콘텐츠를 사용하여 만들어 놓은 것

 

 • 환각 현상은 챗GPT의 내부 메커니즘이 확률 기반이기 때문에 생기는 것이므로 트랜스포머 기반의 AI가 갖는 근본적인 한계로 볼 수도 있다. 하지만 사실 이 문제가 생기는 이유는 챗GPT가 아직 미숙아 상태이기 때문이라는 것이 더 정확한다. 이 미숙함의 원인은 크게 네 가지로 볼 수 있다.

1) 학습데이터에 잘못된 정보가 들어가 있거나 그 양 자체가 충분하지 않아 학습이 제대로 되지 않은 상태

2) 2021년 9월까지의 데이터로만 학습시킨 후 새로운 정보를 받아들이지 못했기 때문에  최근 정보를 알 수 없어서

3) 사실 확인 과정을 별도로 가지고 있지 않아서

4) 데이터에 존재하는 패턴들의 관게성만 활용하여 추론하기 때문에 인간과 같이 다양한 추론을 할 수 없는 한계 때문에

 

 • 응용 프로그래밍 인터페이스 Application Programming Interface 외부 시스템과  협업하는 환경을 확장; 계산기, 사실검색, 그래프 기반 추론 등 외부 도구를 맥락에 맞게 활용할 수 있는 방법을 학습시키는 것, 즉 API로 새로운 데이터를 불러온 후 필요한 내용만 미세조정 과정에 사용하는 방식

 

 • 생태계란 그 안에 존재하는 것들이 스스로 협동하며 생존해가는 지속 가능한 환경을 의미한다. 따라서 이제 막 시작되는 인간-AI 생태계의 공진화를 위해서는 크게 세 가지 방향으로서의 기준이 필요하다. 

1. AI의 사용성을 확장시켜 AI가 스스로 존재할 이유가 있어야 한다. 

2. 인간의 생태계가 공존의 생태계로 확장되었을 때 AI를 사용하는 인간이 안전해야 하고 인류의 번영에 도움이 되어야 한다.

3. 이런 생태계가 지속가능하도록 메타 수준에서 감독하고 점검하기 위한 기준이나 평가 체계가 있어야 한다.
 

3장 두 번째 인지혁명

 • 도구는 어떤 쓰임새가 있기 마련이다. 대부분 노동력을 절감하거나 사람이 가지고 있는 물리적인 한계를 극복해주기 때문에 사용된다. 하지만 챗GPT와 같은 생성형 AI는 인간의 노동력을 절감하는 데 그치는 것이 아니라 인간의 사고와 의사결정을 대신할 수 있다는 면에서 기존 도구와 크게 다르다. 지속적인 대화를 통해 인간의 사고나 지적 활동에 개별적으로 영향을 주는 비자발적 능동성을 가지고 있다. 

 

 • 질문의 명확성, 방향성 그리고 문제 해결에 대한 접근 방식에 따라 답의 내용과 품질이 크게 달라진다. 

 

 • 과업완수의 정신 노동의 네 단계

1. 정보 취득을 위한 과정

2. 생산성 향상을 위한 도구 사용 및 협업 과정

3. 배경지식 학습 과정

4. 과업 수행 
 

4장 AI가 가져다줄 기회와 실존적 위험

 • 신뢰는 아는 것과 모르는 것의 틈새를 메꿔주기 때문에 불확실성도 건너뛸 수 있게 해준다. 비록 생성형 AI가 하는 일이 인간을 흉내 내거나 아는척하는 수준이고 허위 정보를 포함할 수 있다고 하더라도, 챗GPT와 신뢰를 쌓은 사용자라면 그 정도 불완전성은 건너뛸 수 있다. 

 

 • AI와 인간 간의 관계에도 주목할 필요가 있다. 인간의 도구로 시작된 AI와의 관계가 AI의 자율성꽈 지능이 증가함에 따라 공존과 협력의 관계로 전환되고 있다. 어쩌면 전통적인 인간-도구의 주종 관계가 수평적 관계를 넘어 반대로 뒤바뀔 가능성도 있다. AI가 전문적인 일을 수행하면서 인간은 AI를 위해 새로운 유형의 허드렛일에 종사하게 될 수 있다. 머리를 써야 하는 지적이고 복잡한 일은 AI가 하고 육체를 움직여야 하는 단순한 일은 대부분 사람이 맡아서 하는 거꾸로 된 세상이 올 수도 있다.  

5장 인간 지능과 AI

 • 지능의 핵심은 미래에 일어날 일을 상상하여 다양한 시나리오를 만들고 각각의 결과를 예측해볼 수 있는 능력이라고 할 수 있다. 따라서 정교함, 상상력, 예측력을 갖추고 실행에 옮길 수 있으면 높은 지능을 가지고 있다고 할 수 있다. 

 

• 다중 지능의 아홉 가지 능력

1. 시공간 지능

2. 언어 지능

3. 논리수학 지능

4. 신체 운동 지능

5. 음악 지능

6. 대인 관계 지능

7. 성찰 지능

8. 자연 동화 지능

9. 존재 지능
 

• 성공적인 지능이 갖춰야 할 세 가지 요소

1) 분석 지능: 정보를 분석하고 문제 해결을 하는 능력

2) 창조 지능: 새로운 아이디어를 창출해내는 능력

3) 실용 지능: 변화하는 환경에 적응하는 능력

 

• 인간은 확률적으로만 생각하지 않고 규칙을 사용한 의사결정도 한다. 휴리스틱스는 복잡한 문제를 해결하기 위해 사용하는 경험 기반의 간단한 규칙 또는 지침을 일컫는 전문용어다. 인간이나 컴퓨터 프로그램이 완벽한 결정을 위해 계산할만한 여건이 안 될때 효율적인 결정을 내리기 위해 휴리스틱스를 사용한다. 인지적 판단을 해야 하는 상황에서 생각의 속도를 높여주기 위해 기억에 의존한 휴리스틱스를 사용한다. 인간은 타고난 인지적 게으름과 효율성을 추구하는 본능으로 인해 잘못된 결정을 내릴 수 있음에도 불구하고 빠른 의사결정을 선호하는 경향이 있다. 즉 모든 사고를 확률적으로 하는 것이 아니라 규칙에 의해 결정적으로 하는 경우도 많다. 

 

• AI 대비 인간의 학습능력은 다음과 같은 특성을 갖는다. 

1) 학습 결과를 적용하는 과정에 새로운 학습이 바로 이루어진다. 이러한 '학습-실행-학습'의 단계가 계속 연결되어 마치 나사를 돌려 물체를 파고드는 과정과 같이 지적 세계가 확장되는 메커니즘을 가지고 있다. 

2) 문제를 해결하는 데 있어 창의적인 접근을 하는 인간은 그 창조 과정에서 새로운 아이디어를 스스로 학습한다. 즉 창조 과정을 거치면서 습득한 새로운 노하우는 내재화되어 다른 문제를 해결하는 데 사용될 수도 있는 지식과 경험이 된다. 

3) 인간은 사회적 관계 내에서 협업하면서 문제 해결을 할 뿐만 아니라 상호작용을 통해 배운 지식을 다시 공유하고 전달함으로써 사회안에서의 학습 싸이클이 구축되어 있다. 

4) 인간은 대부분 챙동에 있어 가치 판단을 하므로 학습 시 가치를 따져가며 선별하는 장치를 가지고 있다. 불필요한 노력을 최소화하는 무의식적 판단을 통해 매우 효율적인 학습을 한다. 

 

• 현재 AI는 스스로 의도를 형성하는 게 아니라 주어진 목적함수에 따라 행동한다. 그러나 AI는 목적함수를 만족시키는 범위 내에서 세부 목표를 설정하고 조정하는 자율성을 가지고 있다. 이는 자동화 수준을 높이기 위해 필요한 것으로, AI가 사용자의 지속적인 확인 없이도 최적화 과정을 통해 목표를 수행할 수 있게 한다. 인간도 변화하는 환경과 상황에 따라 자신의 목표를 수정하여 생존 확률을 높인다. 그렇다면 AI와의 차이는 뭘까? 인간은 외부 환경에 변화가 없어도 새로운 욕구가 생기거나 내부 동기에 변화가 생길 때 목표를 수정하기도 한다. 인간은 자기 인식능력이 있으므로, 외부 피드백과 함께 자신의 상황을 평가하여 전체 목표를 수정할 수도 있다. 인간은 외부 상황에 큰 변화가 있어도 의지력과 집중력을 동원하여 목표를 유지하는 힘도 가지고 있다. 이런 힘도 내적 동기, 욕망, 자기통제력 등으로부터 나온다. 

 

• AI의 제한된 센서와 이미 존재하는 데이터를 통해 외부 환경에 대한 정보를 수집할 수 있지만, 인간과의 가장 극명한 차이는 이것을 '느낌'으로 연결될 수 없다는 것이다. 

 

• 감각과 지각을 통한 인간만의 인지활동

1. 직접학습을 통해 학습

2. 자신의 몸을 사용하여 세계를 경험하고 이해하는 과정에서 발생하는 체화된 지식

3. 실제 환경에서 지능적 행위를 이어나가기 위한 세계에 대한 모델 수립

 

• 창의성은 새로운 아이디어를 창출하는 능력으로 정의될 수 있다. 문제 해결의 맥락에서 볼 때, 창의적인 사람은 기존 관념이나 접근법에서 벗어나 문제에 대한 새로운 해석을 찾고 독특한 해결책을 제시한다. 그런데 인간의 창의성이 발현되는 과정을 보면 종종 비선형적으로 진행된다. 창작 과정에서 뜻하지 않은 쪽으로 생각이 발전하는 것은 관련이 없어 보이는 요소들을 연결하고 공통점을 발견하는 통찰력의 힘이다. 기존 지식과 경험을 기반으로 새로운 아이디어를 생성하는 것이다. 이미 알려진 것과 알려지지 않은 것을 연결하여 새로운 이해로 발전하는 사고의 과정을 유추 analogy라고 한다. 유추와 같은 창의성은 기존의 연관성을 필요로 하지만 이 연관성이 느슨하고 장난스러운 상태로 있어야 한다. 창의성의 핵심 요소인 상상력과 융합 사고는 이러한 인지적 느슨함을 필요로 한다. 경직된 사고를 하거나 한 우물만 파는 사람이 상상력의 나래를 펴서 타 분야와의 융합을 하고 새로운 아이디어를 창출하는 것은 기대하기 어렵기 때문이다. 

 

• 공감이란 타인의 감정을 공유하고, 그 감정에 관해 생각하고, 그 감정을 배려하는 과정이 포함된 반응 방식이다. 이 정의에는 세 가지 핵심 요소가 담겨 있다. 

1) 공유: 경험을 공유하고 정서적으로 공감

2) 생각: 타인의 감정을 인지하고 추론하여 정신화

3) 배려: 경험 공유와 정신화를 바탕으로 타인을 도와주고 싶은 욕구

 

• 생성형AI 는 언어처리 관점에서 두 가지 한계점을 가지고 있다. 

1. 단어나 문장을 이들이 지칭하는 현실 세계의 대상들과 연결하는 '그라운딩'을 못하는 문제

2. 개인의 특이한 경험을 확장하는 식의 반응이나 글쓰기의 불가

 

• 인간은 감정, 언어, 문화적 요소를 갖추어 사회적 상호작용을 수행하며 이를 통해 스스로의 자아의식과 세계관을 형성한다. 반면 AI에게는 이 세 가지를 이해하고 모방하는 것이 매우 큰 도전이다. 

6장 AI와의 공존을 위한 미래 전략

 
• 인간은 스스로의 선택에 의해 자신의 모습을 만들어간다. - 사르트르

 

• 리더는 자기가 가는 길을 알고, 그 길을 가고, 또한 그 길을 보여줄 수 있는 사람이다. 

 

• AI는 인간의 능력을 보완하는 지식과 독특한 사고를 가지고 있어 인간과 공존 관계가 성립될 수 있다. 

 

• '미세조정'이나 '맥락 내 학습'과 같은 기술을 통해 특화된 AI를 개발하는 것이 AI 전문가들의 손에 달려 있다. 따라서 인간이 원하는 AI, 즉 인간을 충분히 이해하는 AI를 만들기 위해서는 설계 팀이 인간의 본성을 얼마나 잘 이해하는가에 달려 있다고 해도 과언이 아니다. 

 

• AI 진화의 절대적 조건은 인간의 생존을 보장하는 것이며, 여기에는 타협의 여지가 없다. 

 

• 인간-AI 공준 시대가 열린다. 

 

• 불확실한 미래의 투자 결정의 두 가지 전략

1) 기본에 충실

2) 분산 투자 전략

 

• AGI시대의 9가지 필수 능력

1. 문해력

2. 통합 통찰력

3. 창의력

4. AI 리터러시

5. 기술 변화 적응력

6. 지식정보 가치 판단력

7. 공감 기반 협업 능력

8. 경험 체화 능력

9. 정서적 인간다움