인류가 인공지능(AI)의 최종 목표를 무엇으로 설정하든 그리고 개발 속도를 어떻게 조절하든, 인공지능이 ‘지능 대확산’이라는 과정을 거쳐 언젠가는 인간의 인지능력을 훌쩍 뛰어넘는 것은 불을 보듯 명확해 보인다. 이른바 ‘초지능’(super intelligence)으로 진화할 것이란 얘기다.

지난 2016년 3월, 세계 최정상급 프로기사인 이세돌 9단이 구글의 인공지능 바둑프로그램 ‘알파고’에 1대4로 패배한 뒤 크게 변한 바둑계의 모습은 다가올 ‘초지능’의 세계를 미리 엿볼 수 있게 해 준다. 그로부터 5년도 지나지 않은 지금, 상당수 프로 바둑기사들은 인간의 한계를 가뿐히 넘어 버린 AI 바둑 프로그램을 ‘스승 삼아’ 훈련에 열중하고 있다. 바둑이라는 전문 분야에서 인공지능이 인간을 뛰어넘었다는 것은 이제 모두가 기정사실로 받아들이고 있다.

인공지능의 적용 범위를 ‘거대 담론’(big question)이 펼쳐지는 과학과 철학 분야로까지 확장한다면 그 영향력과 가능성은 상상을 불허한다. 스웨덴 출신의 철학자 닉 보스트롬은 지난 2017년 발표한 세계적 베스트셀러 ‘슈퍼인텔리전스: 경로, 위험, 전략’에서 초지능의 위력을 이렇게 설명하고 있다. “인류 역사상 가장 찬사를 받는 철학자들이라고 할지라도 (초지능에 비교한다면) 마치 일어서서 뒷다리로 걷는 개와 다를 바가 없다.”

최근 국내에서 인공지능 챗봇 ‘이루다’를 둘러싸고 벌어진 논란은 ‘인공지능이 개발자의 목표나 의지와 관계없이 독립적으로 진화할 수 있다’는 그동안의 우려가 현실화될 가능성을 분명히 보여 준 것이기도 하다. 지난 2017년 세계적인 AI 전문가들이 발표한 ‘미래 인공지능 연구의 23가지 원칙’ 중 가장 마지막 원칙은 ‘초지능은 광범위하게 공유되는 윤리적 이상에만 복무하도록, 그리고 모든 인류의 이익을 위해 개발되어야 한다’고 규정하고 있다.

하지만 초지능은 말 그대로 인류의 인지 능력을 훌쩍 넘어선다. 아메바가 사람에게 명령할 수 없듯이, 사람이 초지능을 제어할 수 있을지는 미지수다. 인류는 이미 루비콘 강을 건너 디스토피아를 향해 가고 있는지도 모른다.

/홍행기 정치부장 redplane@kwangju.co.kr