4차산업혁명, 어떻게 대응해 살아 나갈 것인가?

[SNS 타임즈] 알파고 제로는 바둑 규칙 이외에 정석이나 기보 등 어떠한 사전 지식도 없는 상태의 신경망에서 출발했다. 이 상태에서 혼자서 바둑을 두며 데이터를 쌓으며 바둑의 원리를 스스로 터득하는 게 알파고 제로다.

▲ ALPHAGO ZERO vs ALPHAGO MASTER Game. (이미지= YouTube Mind Sports/SNS 타임즈)

AI기술의 급속한 발전으로 AI로봇끼리 인간을 따돌리고 자신들만의 대화를 나눈다거나, ‘알파고 제로’처럼 바둑의 기보를 학습하지 않고 바둑 규칙만으로 스스로 학습해 단기간내에 천하무적 최고수가 되는 창의성을 보여주는 등 놀라운 사건들이 벌어지고 있다.

특이점(Singularity)이란?

일론 머스크나 마크 저커버그 훨씬 전에 "인류는 AI와 결합해 새로운 인류로 탄생한다"고 예언한 사람이 있다. 그가 바로 에디슨 이후 최고 발명가로 불리는 미래학자 레이 커즈와일이다.

그는 AI가 빠른 속도로 발전해 2029년이 되면 사람처럼 감정을 느끼고, 2045년엔 AI가 전체 인류 지능의 총합을 넘어서는 시점, 즉 특이점이 온다고 2005년에 주장했다. 그는 향후 인간이 AI와 결합해 생물학적 한계를 뛰어넘어 현생 인류인 호모사피엔스(Homo Sapiens)로부터 트랜스휴먼(Trans-human)을 거쳐 포스트 휴먼(Post Human)으로 진화한다고 주장했다.

사실상 특이점이란 용어는 1950년대 처음 등장했다. 헝가리 태생 수학자 폰 노이만은 "기술 발전 속도가 점점 빨라져 언젠가 기술이 인류의 삶을 송두리째 바꾸는 특이점이 올 것"이라고 내다봤다.

1993년에 미국 사이언스 픽션 작가 버너 빈지도 "기술 발전이 점점 빨라져 조만간 인간 지능을 넘어서는 기계 지능이 탄생할 것"이라고 전망했다. 이 시점을 ‘특이점’이라고 제시한 것이다. 당시 빈지가 제시한 특이점은 2005년이었는데, 나중에 레이 커즈와일이 기술 발전 속도를 고려해 2045년쯤 특이점이 올 것으로 예견했다.

AI가 인간 지능을 추월한다는 특이점 관점에서 흥미와 두려움의 양면으로 다가오는 사건들이 자주 발생한다.

인간 따돌린 AI끼리의 대화

2017년 7월말 페이스북은 자사의 AI 기술을 적용해 개발 중인 챗봇(Chatbot)이 자신들끼리만 알아듣는 언어로 대화하는 사실을 포착하고 이를 강제로 종료했다.

페이스북은 인간의 실제 대화를 모방하게 하는 방식으로 AI 챗봇을 훈련시키는 과정에서 모자와 책, 공 등을 협상하면서 나눠 갖도록 대화하는 훈련을 시켰는데, AI 챗봇은 인간도 이해할 수 있는 평이한 수준의 영어(I need the hats and you can have the rest: 나는 모자만 있으면 되니까 나머지는 네가 가져도 좋아)를 구사했다.

그러나 챗봇과 챗봇이 반복 대화하도록 훈련을 시켰더니 인간이 이해할 수 없는 언어(balls have a ball to me to me to me to me to me to me to me)가 나오기 시작했다. 원칙대로라면 아무런 의미가 없어 보이는 이런 말에 대해 상대 챗봇은 오류를 일으켜야 한다. 하지만 챗봇은 이를 이해한 듯 대답(i i can i i i everything else)하며 인간이 이해할 수 없는 대화가 이어졌다. 페이스북 개발자들은 AI들이 자신들만의 코드 언어를 개발한 것으로 분석했다.

이처럼 페이스북의 채팅 로봇에게 협상하는 방법을 훈련시키는 과정에서 두렵지만 흥미로운 일이 발생한 것이다. 어쩌면 AI 역사의 새로운 장을 열 만한 사건일지도 모른다.

채팅 로봇AI가 시키지도 않았는데 스스로 새로운 언어를 개발해 업무를 수행했다는 사실이 밝혀진 것이다. 더 높은 보상을 받기 위한 전략의 하나로 AI들끼리 주고받는 새로운 언어를 스스로 만들었다는 것이다.

이 언어를 연구진은 이해할 수 없었다. 인간이 명령하거나 제안하지 않은 작업을 스스로의 판단으로 했다는 것이 첫 번째 충격이다. 두 번째 충격은 그 과정과 결과에 대해 인간이 이해하지 못하고 있다는 것이다. AI가 인간의 통제를 벗어날 수 있는 가능성을 실체적으로 보여 주었다는 점에서 많은 사람이 이번 사건의 결과를 두려운 시선으로 바라보고 있는 것 같다. 그런데 한편 이번 사건은 그런 두려움을 넘어설 만한 흥미로운 면도 함께 갖고 있다.

인간의 언어를 모방해 학습하던 AI가 기계끼리만 알아들을 수 있는 새로운 언어를 만들어 대화한 사실이 확인됨으로써 AI 진화 속도가 빨라져 인간을 위협하는 단계까지 나아갈 수 있다는 우려와 함께, AI가 복잡한 인간 언어의 문법을 이해하지 못해 나타난 일시적인 오류일 뿐이라는 시각이 엇갈렸다.

특히 언어를 다루는 AI는 서로를 자극해서 발전하는 이른바 ‘강화학습’을 하는 경우 인간이 이해하지 못하는 단계로 발전할 가능성도 있다. 언어를 학습하는 AI는 명확하게 승패가 엇갈리는 바둑을 두는 알파고와 달리 향후 어떻게 진화할지 예측이 어렵기 때문이다. 인간의 언어가 의미 전달에 비효율적이라고 판단할 경우, 의미 전달에 가장 효율적이라 여기는 언어를 AI 스스로 개발할 수도 있다는 의미이다. 하지만 이번에 의도하지 않은 상황이 불거지면서 AI가 어떤 방식으로 진화할지를 두고 논쟁이 이어질 것으로 보인다.

AI창의성으로 인해 앞당겨지는 특이점(Singularity)

AI가 인간의 지능을 넘어선다는 특이점이 예상보다 앞당겨질지 모를 일이 일어났다.

2017년 10월 구글 딥마인드 데미스 허사비스는 과학 학술지 ‘네이처’를 통해 ‘알파고’를 능가하는 ‘알파고 제로’를 공개했다. 알파고 제로는 바둑의 기본 규칙만 아는 상태에서 인간으로부터의 가르침 없이 스스로 수많은 시행착오를 통한 ‘강화학습’ 방식으로 탄생했다는 점에서 놀라움을 안겨준다.

알파고(이후 ‘알파고 리’로 불림)는 2016년 3월 ‘인간 대표’ 이세돌 9단을 4대 1로 꺾은 바 있다. 2017년 5월에는 세계 최강 중국의 커제 9단마저 정식 대국에서 알파고(이후 ‘알파고 마스터’로 불림)에 3대 0으로 완패 후 눈물을 흘렸다.  알파고(‘알파고 리’, ‘알파고 마스터’)는 인간이 만든 정석을 외우거나 기보를 통해 바둑을 학습했다.

AI의 신기원을 연 딥마인드는 여기서 더 나아가 백지상태에서 스스로 바둑을 깨우친 AI를 선보였다.  인간의 한계를 뛰어넘은 것은 물론 창의성까지 발휘해 ‘알파고 제로’ 불린다.

데미스 하사비스는 2017년 10월 ‘네이처’지에 알파고 제로의 개발 과정 등을 담은 ‘인간의 지식 없이 바둑 마스터하기’(Mastering the game of Go without human knowledge)’란 제목의 논문을 발표했다.

논문에 따르면 알파고 제로는 바둑 규칙 이외에 정석이나 기보 등 어떠한 사전 지식도 없는 상태의 신경망에서 출발했다. 이 상태에서 홀로 바둑을 두며 데이터를 쌓고 바둑의 원리를 스스로 터득하는 게 알파고 제로다.

특히 ‘알파고 제로’는 컴퓨팅 파워까지 크게 줄였다. ‘알파고 제로’가 상대의 수를 예측하는 데 걸리는 시간은 '0.4초'에 불과했다. 논문에 따르면 기존 ‘알파고’보다 직관적이다. 뇌 구조도 훨씬 단순해졌다. ‘알파고 리’는 구글이 개발한 AI용 칩 TPU를 48개나 동원하는 등 대규모 전산 설비로 무장했지만, ‘알파고 제로’는 고작 한 대의 산업용 컴퓨터에 TPU 4개만을 사용한다.

이처럼 적은 데이터와 적은 사양으로 빠른 학습이 가능해진 이유는 기술적으로 하나의 신경망을 사용한 것에 있다. AI의 뇌에도 사람처럼 신경회로가 돌아가는데, ‘알파고 리’는 신경망 2개를 사용해 바둑을 뒀다. 상대가 다음에 둘 가능성이 있는 수를 뽑아내는 '정책망'과 해당 수에서의 승률을 계산하는 '가치망'이 분리돼 있었다. 그러나 ‘알파고 제로’는 신경망 2개를 하나로 통합해 효율을 획기적으로 높였다.

알파고 제로가 보여준 AI의 창의성

2017년 5월 중국 저장성에서 열린 세계 1위 커제 9단과의 3번기에서 3-0 완승을 거둔 ‘알파고 마스터’가 최근 등장한 ‘알파고 제로’와 100판을 대작해 고작 11승밖에 거두지 못했다.

‘알파고 제로’는 이전 버전과는 달리 인간의 기보를 학습하지 않고 스스로 바둑을 익혔다. ‘알파고 제로’는 바둑을 독학한지 3일 만에 셀프 대국만으로 490만 판을 둔 뒤 이세돌 9단과 둔 ‘알파고 리’에 100전 100승을 거뒀다. 이어 40일 만에 2900만 판을 두며 ‘알파고 마스터’를 압도했다. 인간의 도움이 필요 없는 AI의 발전 속도가 놀랍기만 할 뿐이다.

지금까지 AI 시스템은 주로 인간 전문가들의 결정을 따르도록 만들어진 지도학습 시스템(Supervised Learning System), 즉 인간이 AI의 훈련을 감독하는 시스템이었다.

그러나 인간 전문가의 결정에 대한 데이터를 구하는 데 비용이 많이 들거나, 데이터를 믿을 수 없거나, 그런 데이터가 아예 없는 경우가 많다. 설령 신뢰할만한 데이터가 있더라도 AI 시스템이 인간이 만든 데이터에 의한 지도 하에 훈련을 받을 경우 이 탓에 인간의 한계를 뛰어넘지 못할 수도 있다.

이런 한계를 극복하기 위해 최근에는 강화 학습(Reinforcement Learning System)에 대한 연구가 이뤄지고 있다.

인간으로부터 배우지 않고 AI가 스스로 수많은 시행착오를 통해 요령을 터득하도록 하는 방법이다. 특히 믿을만한 인간 전문가가 아예 존재하지 않는 전혀 새로운 분야를 이런 방식으로 연구하는 데에 관심이 쏠린다. 강화학습 방식으로 만들어진 ‘알파고 제로’는 지금까지 나온 알파고 버전들 중 가장 강력하다.

기존 최강 버전인 ‘알파고 마스터’와 이를 능가하는 ‘알파고 제로’의 기본 알고리즘과 아키텍처는 똑같다. 차이는 '인간으로부터 배웠느냐, 아니냐'이고, 인간으로부터 배우지 않은 후자가 더욱 뛰어난 실력을 갖게 됐다.

‘알파고 마스터’는 그 전 버전들과 마찬가지로 인간의 대국 기보 데이터로 훈련을 받았고 바둑을 두는 전략의 일부도 인간으로부터 입력 받은 후에 이를 바탕으로 강화학습을 했다. 이와 달리 ‘알파고 제로’는 바둑의 기본 규칙만 아는 상태로 혼자 바둑을 두는 강화학습 방식만으로 인간으로부터의 가르침 없이 바둑의 이치를 깨우쳤다.

‘알파고 제로’는 처음 3일까지는 바둑 초심자처럼 돌을 포위하는 것에 집중했으나 이후 고급 전략을 습득해 펼치기 시작했으며, 40일 뒤에는 그 동안 존재하지 않던 새로운 정석을 발견하기도 했다. ‘알파고 제로’는 딥러닝 방식과 함께 어떤 수가 승률을 높이는 좋은 수인지 피드백을 통해 스스로 19시간이 지나자, 돌의 사활 개념을 비롯해 핵심전략을 이해하기 시작했고, 독학 70시간이 지나자 프로기사의 실력을 뛰어넘는 수준의 바둑을 두기 시작했다.

‘네이처’지는 ‘알파고 제로’에 대해 “사람이 입력하지 않고 스스로 학습하는 AI는 모든 문제를 해결할 수 있는 범용 AI 개발의 꿈을 향한 핵심적 단계”라고 평가했다. MIT 테크놀로지 리뷰는 ‘알파고 제로’는 AI가 학습할 충분한 데이터가 없는 현실의 어려운 문제에 대해서도 해결책을 찾아낼 수 있다는 점에서 AI 개발의 중대한 진전이라고 평가했다.

그동안 데이터 축적과 확보를 무엇보다 중시해왔던 AI 연구 흐름에도 변화가 예상된다. AI 기업들이 경쟁적으로 개발도구를 개방하고 생태계를 만드는 목적도, 더 많은 데이터를 확보하기 위한 시도로 인식돼 왔다.

AI가 축적된 데이터 없이도 학습할 수 있다면 기존의 AI 연구에서 데이터와 알고리즘 간의 관계를 역전시키는 결과로 이어질 수 있다. AI가 뛰어난 알고리즘 개발만으로 데이터가 전혀 없는 영역에서도 인간 능력을 뛰어넘는 해결책을 제시할 수 있다는 기대를 갖게 해준다. 동시에 이런 알고리즘 우선주의는 데이터를 생산하는 주체이자 AI를 훈련시키는 인간의 역할을 무가치하게 만들 수 있다.

한편, ‘알파고 제로’에 대해 지나친 평가를 할 필요가 없다는 지적도 있다.

‘알파고 제로’가 인간 최고수를 넘어 신의 경지에 도달했음을 보여준 바둑과 달리, 현실의 문제는 대부분 사람의 행동과 의지가 개입된 복합적 영역에서 생겨난다. 변수가 통제된 폐쇄 영역에서 보여준 AI의 능력이 개방적이고 복합적인 인간 삶의 영역에서 그대로 이어지기는 어렵기 때문이다.

전문가들은 ‘알파고 제로’가 강한 이유에 대해 “인간 지식의 한계에 더 이상 속박되지 않기 때문”이라고 설명한다. 2년 만에 알파고가 바둑계에서 이룩한 놀라운 성과에 과학계와 산업계가 비상한 관심을 보이고 있다.

AI로봇시대 대비는 필수적

수년년 전만 해도 특이점이 2045년께나 도래할 것이라는 예측이 미래학자들의 전망이었다. ‘알파고 제로’를 통해 AI 창의성이 확인되며 그 시기가 빨라질 것이라는 조심스런 전망이 가능하다.

이에 따라 AI를 둘러싸고 공존하던 기대와 우려를 담은 논쟁도 더욱 가열될 가능성이 높다. 하지만 AI에 대한 막연한 불안감이나 공포, 두려움은 경계해야 한다.

역사적으로 신기술이 탄생할 때마다 역기능이 지적되지 않은 적이 없지만, 인류는 신기술의 순기능에 주목하며 혁신의 길을 걸어왔다. 지금까지 1, 2, 3차 산업 혁명이 일어날 때 마다 이번만은 과거와 다를 것이라는 두려움을 가졌던 것이 사실이지만, 우리 인류 문명은 계속 발전해 왔다. 가속화되는 AI 진화에 대해 냉정하고도 긍정적인 접근이 요구되는 이유다.

최근엔 AI로봇끼리 대화를 주고받는다거나 스스로 프로그램을 만든다는 등 두렵기도 하고 흥미롭기도 한 AI로봇 기술 혁신 소식들이 보도되고 있다. 특이점이 정말 다가올지는 확신할 수 없다. AI가 인간을 뛰어넘을 수 있다는데 부정적 견해를 밝힌 과학자도 많다.

무어의 법칙이 결국 깨진 것처럼 AI의 특이점도 쉽게 도달할 수는 없을 것이라는 시각도 있다.

2045년 인간과 AI가 결합하는 일이 생기지 않고, 특이점이 현실이 되지 않더라도, AI 로봇시대를 맞이할 준비는 필요하다.

- Copyright, SNS 타임즈 www.snstimes.kr