예전에 인공지능 관련한 제비들의 우화를 하나 소개하면서 그 우화를 쓴 Nick Bostrom이라는 사람도 언급을 잠깐 한 적이 있었습니다. 그런데 이분이 작년에 TED에서 인공지능과 관련해서 약 16분짜리 짧은 강연을 한 적이 있었습니다(유튜브 링크: (한글 자막도 있습니다)). 그 강연 가운데 인간의 지능과 인공지능을 비교하는 것을 간단한 그림으로 보여주는 장면이 나오는데 그 그림이 정말 간단하면서도 인공지능에 대한 직관적인 이해를 돕는 부분이 있는 것 같아서 한 번 소개해 봅니다.




우선 인간의 지능은 위의 그림과 같다고 합니다. 한쪽 끝에는 정말 멍청한 "동네 바보 형"이 있다면 다른 쪽 끝에는 에드 위튼과 같은 정말 대단한 천재가 있다는 겁니다. (이 에드 위튼이라는 사람을 찾아 봤더니 2차 초끈 이론을 촉발시킨 아인슈타인 이후 최고의 천재 물리학자로 불리는 사람이라고 하네요.) 우리 인간들은 대부분 저 동네 바보 형과 에드 위튼 사이에 위치하게 되겠지요(저는 동네 바보 형에 아주 가까운 쪽에, 그리고 우리 피지알 회원님들 대부분은 절반 지점을 훌쩍 넘어서 에드 위튼 쪽에 위치하겠지요...--;;;) 그리고 인간의 지능은 확장성도 거의 없습니다. 동네 바보 형보다 더 바보가 되기도 어렵고 에드 위튼의 수준보다 더 뛰어난 지능을 가지는 일도 극히 어렵다는 것입니다.




그런데 인공지능의 입장에서 보면 그림이 다시 위처럼 확장이 된다고 합니다. 처음에는 지능이라는 게 아무것도 없는 지능 0에서 시작해서 아주 힘들게 쥐의 지능에 도달하게 되고 또 정말 많은 과학자들의 노력으로 침팬지 정도의 지능에 도달하게 되겠지요. 그리고 거기서 좀더 발전하면 드디어 우리의 인공지능도 "동네 바보 형"의 지능과 비슷한 수준에 도달하게 됩니다. 그런데 인공지능의 무서운 점은 출발점은 있지만 도착점은 없다는 것입니다. 인공지능이 에드 위튼의 지능 수준까지 도달했을 때 "와우! 드디어 인간계 최고 지능 보유자 에드 위튼의 지능까지 따라잡았네...이제 목표도 달성했으니 그만해야지!" 하지 않는다는 거지요. 부산 가는 기차가 대전역에서 영원히 정차하지 않듯이 에드 위튼의 지능을 넘어선 인공지능은 그 다음을 향해서 거칠 것 없는 질주를 계속할 거라는 얘기입니다. 바로 모든 지적 능력에서 인간을 뛰어넘는 초지능(superintelligence)이 탄생하는 거라고 합니다.



인공지능의 발전 속도와 관련해서 또 다른 그래프가 하나 있습니다. 이 그래프는 강연에는 나오지 않는 내용입니다. x축이 시간의 경과를 나타내고 y축이 시스템 능력(지능 수준)을 나타냅니다. 아래쪽에 "human baseline"이라고 되어 있는 선은 선진국에 살고 있는 평균적인 성인 인간이 현재 이용 가능한 기술들과 정보에 접근할 수 있는 수단들을 가지고서 발휘할 수 있는 지적 능력을 나타냅니다. 현재의 AI 시스템은 이 "human baseline"보다 밑에 있다고 합니다. 그런데 AI의 지능이 이 수준에 도달하게 되면 이제 본격적인 인공 지능의 출발을 의미한다고 합니다.

인공지능이 더 발전하면 다음으로 "civilization baseline"에 도달하게 되는데 이는 한 개인이 아니라 인류 전체의 지능을 총합한 능력을 나타내는 선입니다. AI 시스템이 이 "civilization baseline"을 넘고 계속 발전하게 된다면 결국 인간의 능력을 한참 뛰어 넘는 "strong superintelligence" 수준에 도달하게 되고 그 뒤로도 계속 발전이 이루어진다고 합니다.

"human baseline"과 "civilization baseline"사이에 "crossover"라인이 있는데 이 라인이 가리키는 것은 이 라인을 넘어서게 되면 그때부터는 인공지능이 인간의 도움 보다 자기 자신의 능력으로 발전을 이루어나가게 되는 시점을 의미한다고 합니다. 그런데 위의 그래프는 인공지능이 "human baseline"을 넘어서 "strong superintelligence"까지 도달하는 시간이 그렇게 오래 걸리지 않을 것으로 보는 시각을 반영하고 있습니다.


인간이 저렇게 폭주하는 인공지능을 과연 제어할 수 있을까요? 자연에서 살든, 동물원에서 살든 인간의 성인 남성보다 약 2배 정도 더 힘이 세다는 침팬지들의 운명이 자신들이 무얼 하느냐 보다는 우리 인간들의 어떻게 하느냐에 달려있듯 우리의 운명은 앞으로 이미 인간의 지능을 뛰어넘은 인공지능의 손에 전적으로 맡겨지게 되는 건 아닌지 한번 생각해 볼 필요가 있을 것 같습니다.