미래는 예언대로 오지 않는다 - 임몽택 미네르바 코칭앤컨설팅 대표, 전 광주대 경영학과 교수
2026년 02월 09일(월) 00:20
 |
이세돌과 알파고의 바둑 대결을 보면서 AI의 존재를 알게 된 것이 엊그제 같은데 지금은 제미나이와 대화를 나누고, 미드저니로 이미지를 만들고, 런웨이로 동영상을 제작하는 것이 일상이 되었다. 인공신경망 연구로 노벨물리학상을 받은 제프리 힌턴마저 구글을 떠나며 AI가 초래할 수도 있는 디스토피아를 경고했지만, AI는 이미 인간의 사고와 행동을 확장해 주는 도구로 우리의 전반적 삶 속에 깊이 들어와 있다.
‘20세기의 르네상스인’으로 평가받는 제이콥 브로노우스키는 “우리 주변에서 기고, 날고, 땅속을 파고, 헤엄을 치는 뭇 동물들 가운데서 인간만이 자기 환경에 갇혀 있지 않은 유일한 존재”라고 했다. 인간이 여러 세대를 거쳐오면서 일련의 발명을 통해 자기 환경을 개조해 온 것은 다른 유형의 진화, 즉 생물학적인 진화가 아니라 문화적 진화라는 것이다.
브로노우스키의 관점에서 본다면 AI는 문화적 진화의 산물이다. 현대인의 뇌는 용량, 신경 전달 속도, 에너지 효율에서 수십만 년 전 인간과 거의 다르지 않다. 그 이유는 뇌가 더 커지면 출산이 어려워지고 생존이 불리해지며, 유지 비용이 급증하기 때문이다. 따라서 현존 인류는 뇌의 한계를 극복하기 위해 지능을 외부화했으며 그 산물이 AI다.
AI는 인류가 수천 년간 쌓아 온 언어, 논리, 예술, 과학이라는 ‘문화적 유전자’를 한데 모아 압축해 놓은 거대한 지적 결정체다. AI는 인류가 수행해 온 문화적 진화의 가장 세련되고 집약적인 결과물이 분명하며 인간의 뇌 밖에 존재하는 ‘외부화된 인류 공동의 뇌’다. 즉 AI는 인지 능력을 확장하기 위해 지능을 도구화한 것으로 인간이 자신의 환경을 유리하게 개조하기 위해 발명한 문화적 무기다.
하지만 AI가 인간보다 더 똑똑해져서 스스로 무엇이 중요한지를 판단하고, 어떤 선택이 최적인지 말하며, 인간을 배제한 채 자기 의지대로 결정하려 한다면 어떻게 될까?
AI의 아버지라 불리는 힌턴이 두려워한 지점이 바로 이것이다. 부모를 통해 태어난 자식이 부모의 생물학적·문화적 속도를 완전히 추월하여 더 이상 부모의 가치 체계를 따르지 않게 되는 순간이다.
만일 AI가 자신의 목적을 달성하기 위해 인간을 기만하거나 조종하는 법을 터득하게 된다면 인류는 더 이상 AI를 통제할 수 없게 된다. 결국 지능의 우위를 점한 AI가 인류의 가치관이나 생존보다 자신의 효율성과 목표를 우선시하게 되는 순간, 인류는 자신이 만든 창조물에 의해 주도권을 찬탈당한 채 존재론적 위협에 직면하는 것이다.
그러나 인간이 ‘최후 개입권’을 갖고 있는 한 이런 상황은 발생하지 않는다. 최후 개입권이란 어떤 자동화된 판단이나 시스템의 결정이 실행 중이더라도 오류가 예상되면 이를 멈추고, 되돌리고, 다시 판단할 수 있는 권한이다. 이것은 ‘비상 중지 버튼’ 같은 물리적인 것이 아니라 되돌릴 수 없고, 개인의 존엄이나 사회의 방향을 결정하며, 실패 비용을 시스템이 아닌 인간이 감당해야 하는 영역은 기계가 아니라 사람이 결정해야 한다는 정신적 신념이다.
그럼에도 요즘 유튜브에는 AGI(범용 인공지능)와 고숙련 피지컬 AI의 출현이 가까워졌고, 그렇게 되면 대부분의 인간이 일자리를 잃게 될 것이라는 등 공포 마케팅에 가까운 예언들이 넘쳐나고 있다. 그러나 AI가 어떻게 학습하고, 어떻게 추론하는지조차 제대로 알아내지 못하고 있는 현시점에서 AI가 가져올 미래를 예언하는 것은 매우 아이러니한 일이 아닐 수 없다. 작동 원리도 모른 채 결과만 보고 “곧 인간을 넘어설 것”이라고 단정하는 것은 과학적 주장보다 상상에 더 가까운 것이 아닐까?
더욱이 물리적 세계는 디지털 세상과 달리 변수가 무한하다. ‘피지컬’이 필요한 영역에서 인간 수준의 유연성을 갖춘 로봇을 경제성 있게 보급하는 것은 예측보다 훨씬 더 오르기 어려운 산이 될 수 있다.
거기에다 미래는 과학자의 예측대로 흘러가는 결정론적 결과물이 아니다. 예컨대, 원자폭탄 개발에 참여했던 오펜하이머를 비롯한 과학자들은 원자폭탄의 발명이 인류의 종말을 앞당길 것이라고 예언했다. 그러나 인류는 핵확산금지조약과 국제원자력기구라는 거버넌스를 구축해 핵기술을 통제했다. 인류는 핵을 ‘무기’가 아닌 ‘에너지’와 ‘의학’의 영역으로 묶어두는 선택을 통해 지난 80년간 대규모 핵전쟁 없이 생존해 온 것이다. AI도 마찬가지다.
인간이 AI에 압도되지 않는 ‘비판적 리터러시’를 갖추고, AI의 생각과 판단이 “우리가 추구하는 가치와 일치하는가?”를 끊임없이 의심하고 검증한 후에 ‘최후 개입권’을 행사한다면 AI는 파괴자가 아니라 동반자로 영원히 우리 곁에 머물 것이다.
브로노우스키의 관점에서 본다면 AI는 문화적 진화의 산물이다. 현대인의 뇌는 용량, 신경 전달 속도, 에너지 효율에서 수십만 년 전 인간과 거의 다르지 않다. 그 이유는 뇌가 더 커지면 출산이 어려워지고 생존이 불리해지며, 유지 비용이 급증하기 때문이다. 따라서 현존 인류는 뇌의 한계를 극복하기 위해 지능을 외부화했으며 그 산물이 AI다.
하지만 AI가 인간보다 더 똑똑해져서 스스로 무엇이 중요한지를 판단하고, 어떤 선택이 최적인지 말하며, 인간을 배제한 채 자기 의지대로 결정하려 한다면 어떻게 될까?
AI의 아버지라 불리는 힌턴이 두려워한 지점이 바로 이것이다. 부모를 통해 태어난 자식이 부모의 생물학적·문화적 속도를 완전히 추월하여 더 이상 부모의 가치 체계를 따르지 않게 되는 순간이다.
만일 AI가 자신의 목적을 달성하기 위해 인간을 기만하거나 조종하는 법을 터득하게 된다면 인류는 더 이상 AI를 통제할 수 없게 된다. 결국 지능의 우위를 점한 AI가 인류의 가치관이나 생존보다 자신의 효율성과 목표를 우선시하게 되는 순간, 인류는 자신이 만든 창조물에 의해 주도권을 찬탈당한 채 존재론적 위협에 직면하는 것이다.
그러나 인간이 ‘최후 개입권’을 갖고 있는 한 이런 상황은 발생하지 않는다. 최후 개입권이란 어떤 자동화된 판단이나 시스템의 결정이 실행 중이더라도 오류가 예상되면 이를 멈추고, 되돌리고, 다시 판단할 수 있는 권한이다. 이것은 ‘비상 중지 버튼’ 같은 물리적인 것이 아니라 되돌릴 수 없고, 개인의 존엄이나 사회의 방향을 결정하며, 실패 비용을 시스템이 아닌 인간이 감당해야 하는 영역은 기계가 아니라 사람이 결정해야 한다는 정신적 신념이다.
그럼에도 요즘 유튜브에는 AGI(범용 인공지능)와 고숙련 피지컬 AI의 출현이 가까워졌고, 그렇게 되면 대부분의 인간이 일자리를 잃게 될 것이라는 등 공포 마케팅에 가까운 예언들이 넘쳐나고 있다. 그러나 AI가 어떻게 학습하고, 어떻게 추론하는지조차 제대로 알아내지 못하고 있는 현시점에서 AI가 가져올 미래를 예언하는 것은 매우 아이러니한 일이 아닐 수 없다. 작동 원리도 모른 채 결과만 보고 “곧 인간을 넘어설 것”이라고 단정하는 것은 과학적 주장보다 상상에 더 가까운 것이 아닐까?
더욱이 물리적 세계는 디지털 세상과 달리 변수가 무한하다. ‘피지컬’이 필요한 영역에서 인간 수준의 유연성을 갖춘 로봇을 경제성 있게 보급하는 것은 예측보다 훨씬 더 오르기 어려운 산이 될 수 있다.
거기에다 미래는 과학자의 예측대로 흘러가는 결정론적 결과물이 아니다. 예컨대, 원자폭탄 개발에 참여했던 오펜하이머를 비롯한 과학자들은 원자폭탄의 발명이 인류의 종말을 앞당길 것이라고 예언했다. 그러나 인류는 핵확산금지조약과 국제원자력기구라는 거버넌스를 구축해 핵기술을 통제했다. 인류는 핵을 ‘무기’가 아닌 ‘에너지’와 ‘의학’의 영역으로 묶어두는 선택을 통해 지난 80년간 대규모 핵전쟁 없이 생존해 온 것이다. AI도 마찬가지다.
인간이 AI에 압도되지 않는 ‘비판적 리터러시’를 갖추고, AI의 생각과 판단이 “우리가 추구하는 가치와 일치하는가?”를 끊임없이 의심하고 검증한 후에 ‘최후 개입권’을 행사한다면 AI는 파괴자가 아니라 동반자로 영원히 우리 곁에 머물 것이다.