4차산업혁명이 바꾸어 나가는 세상 (7편)

[SNS 타임즈] 빅브라더는 정보의 독점과 감시를 통해 사람들과 사회를 통제하는 권력을 의미한다. 소설 속에 등장하는 빅브라더는 텔레스크린을 통해 사회를 끊임없이 감시하며, 실로 가공할 만한 사생활 침해를 보여준다.

▲ 자료 사진. /SNS 타임즈

이스라엘 히브리대 유발 하라리 교수는 저서 ‘호모데우스’에서 “구글과 페이스북의 알고리즘이 모든 것을 아는 신탁(神託)이 되면, 그 다음은 대리인으로 진화하고 마침내 주권자로 진화할 것이다”라고 예견했다.

지금은 알고리즘이 우리가 질문하면 대답을 해주는(그러나 결정은 우리가 하는) 신탁의 역할을 하지만, 머지않아 우리가 알고리즘에게 최종 목표만 부여하면 우리가 감독할 필요 없이 알아서 목표를 실현하는 대리인이 될 것이라는 것이다.

나아가 알고리즘이 더욱 진화를 거듭하며 스스로 목표를 설정하고 결정하는 주권자(主權者)의 역할을 할 것이라는 전망이다.

4차산업혁명시대를 이끌어 갈 플랫폼 기업은 세상의 데이터를 독점하고, 플랫폼의 위력을 활용해 세상을 암암리에 자신들에게 이익이 되는 방향으로 끌고 가는 빅브라더(Big Brother)가 될 수 있다.

네이버 신, 구글 신이라는 용어가 나오는 이유이다. 빅브라더 라는 용어는 조지 오웰(George Orwell)의 소설 ‘1984년’에서 유래됐다.

빅브라더는 정보의 독점과 감시를 통해 사람들과 사회를 통제하는 권력을 의미한다. 소설 속에 등장하는 빅브라더는 텔레스크린을 통해 사회를 끊임없이 감시하며, 실로 가공할 만한 사생활 침해를 보여준다.

사람은 감기에 걸리면 포털에 감기 증상이나 치료방법을 검색하고, 부모 몰래 임신한 어린 자녀는 임산부들이 필요한 준비물에 관해 검색하고, 범죄자는 완전 범죄를 위해 검색을 한다.

사람은 검색을 통해서는 거짓말을 하지 않으므로 포털은 이용자들의 검색과정에서 만들어진 빅데이터 수집을 통해 어떤 일이 일어났는지? 빅데이터 분석을 통해 그런 일이 왜 일어났는지? 앞으로 무엇 일이 일어날 것인지는 알 수 있게 된다.

데이터 센터 클라우드는 신전(神殿)

현재 세계 곳곳에는 고대의 ‘신전’(神殿)과 같은 대접을 받는 클라우드 설치공간인 데이터 센터들이 세워지고 있다.

공공 클라우드 선도 기업은 데이터센터를 건설하고 초고속 네트워크로 연결하는 하드웨어 기반 구조 확충에 전력을 기울이고 있다. 동시에 운영자와 개발자가 쉽게 사용할 수 있는 각종 개발 환경을 구축한다. 최근에는 빅데이터, AI, 머신 러닝, IoT 관련 서비스도 일괄 제공해 명실상부한 IT 세상 최강자로 군림한다.

2010년 애플이 준공한 ‘메이든 센터’는 연간유지보수 비용만 13억$가 소요되며, 연간 발전용량이 176 MW에 달한다. 애플을 비롯한 정보수집 기업들은 이런 데이터 센터들을 계속 건설하고 있다.

국내 기업으로는 네이버가 2013년에 춘천 구봉산 자락에 네이버 데이터 센터 ‘각(閣)’을 1500억원을 투입해 구축하기도 했다.

각은 기업이 가진 자체 데이터센터로는 국내 최초다. ‘기록을 후대에 남기자’는 뜻에서 760년 넘게 팔만대장경이 보관돼 있는 해인사의 장경각에서 이름을 따왔다. 각에는 총 12만 대의 서버가 포함된다. 서버의 저장 용량은 240페타바이트(PB)에 이른다. 이는 책 1000만 권을 소장한 국립중앙도서관이 약 2만5000개 있는 것과 같은 양이다. '데이터 팔만대장경'인 셈이다.

▲ 강원도 춘천 구봉산에 위치하는 네이버 데이터 센터 ‘각(閣)’. 각에는 총 12만 대의 서버가 포함된다. 서버의 저장 용량은 240페타바이트(PB)에 이른다.

네이버가 수년간 ‘각’을 운용하며 축적해 온 경험은 네이버가 아마존 웹서비스(AWS), 마이크로소프트(MS), 알리바바, 구글 같은 글로벌 '클라우드' 업계 ‘빅4’와 경쟁하는 무기가 된다.

고대에 살았던 사람들은 신전에 가서 자신들의 미래에 대해 질문했다. 현대에 사는 사람들은 데이터 센터에서 제공하는 신의 음성과 같은, 음성인식 서비스로 자신들의 앞날에 관해 질문할 것이다.

수년전 카이스트 정하웅 교수가 ‘구글 신은 모든 것을 알고 있다’라는 제목의 강의로 일반인들에게 큰 인기를 끌었다. ‘구글 신’은 사람들이 구글 검색 등 서비스를 활용하는 과정에서 도둑 맞은 정보를 구글이 클라우드 너머에 쌓아 놓고 빅데이터와 AI 기술로 분석하여 들려주는 것이다.

지금은 ‘어느 교통편이 가장 빠른지?’, ‘유명한 맛집이 어디에 있는지?’, ‘경관이 좋은 곳은 어디에 있는지?’ 등과 같은 가벼운 질문을 하지만, 미래에는 심리 상담을 받고 배우자와 직업을 고르기 위해 데이터 센터를 향해 질문할 것이다.

그리고 그 질문에 대한 답은 세상의 모든 것을 알고 있는 클라우드 너머의 신, 데이터 센터가 겉으로는 감히 범접할 수 없는, 그러나 속으로는 정교하고 의도적인 알고리즘을 통해 지상으로 내려줄 것이다. 물론 여기에는 AI와 빅데이터 기술과 가상화 기술이 활용된다.

벌써 아마존의 알렉사나 SKT의 누구(Nugu)와 같은 음성인식 AI비서, 삼성전자의 갤럭시 S10(Bixby 인공지능)이나 애플의 아이폰10(Siri 인공지능)과 같은 AI 스마트폰이 아직은 어설픈 비서, 연인이나 친구 수준의 서비스를 제공하고 있다.

그러나 딥러닝(Deep Learning) 과정에 유입되는 학습량이 많아져 지식이 더욱 쌓이고 정교해지면 삶의 동반자 수준으로 승격되고, 궁극적으로는 클라우드 너머의 신의 역할을 하려고 할 것이다.

그 결과 멀지 않은 장래에 모든 기도는 응답을 받을 것이며, 대답 없는 질문은 더 이상 존재하지 않을지 모른다.

우리가 소비하는 상품이 많아질수록, 제공되는 정보가 많아질수록, 복잡한 일상 생활 속에서 여유를 더 갖고 싶을수록, 결정이나 문제를 앞에 놓고 고민하지 않고 쉽게 결정을 내리고 싶어하기 때문이다.

클라우드 기반의 데이터 센터를 가진 애플, 구글, 마이크로소프트, 아마존, 페이스북 등과 같은 사업자들은 클라우드에서 빅데이터를 처리하는 알고리즘에 자사에 이익이 되는 정책을 교묘하게 반영하고, 서비스를 이용하는 과정에서 사람들의 아이디어와 관심과 시간을 빼앗아 자사의 사업에 유리하게 활용하는 등 클라우드 너머의 신에 의한 부작용이 점점 커지고 있다.

현재의 일부 선지자들은 클라우드 너머의 신들에 대해 규제의 필요성을 제기하고 있다. 사람들의 아이디어와 관심을 빼앗아 세계 경제를 장악하고, 미디어 통로 역할을 악용해 사람들의 생각까지 지배하고 여론을 자사에게 유리하게 조성하는 등 우리사회를 통제하는 새로운 ‘빅브라더’가 될 수 있다는 우려를 하고 있는 것이다.

미래 세상 권력은 플랫폼상의 알고리즘과 빅데이터로 이동

유발 할라리 교수는 저서 ‘호모데우스’에서 인간이 신(神)으로 변모하려는 순간 인간의 권력은 알고리즘과 빅데이터로 옮겨갈 것으로 보고 있다. 그는 이것을 종교로 승격시켜서 ‘데이터교’(Dataism)라고 명명했다.

미래 세상은 데이터교라고 표현할 정도로 데이터가 핵심이 되는 세상이 도래할 것이 분명해 보인다. 데이터를 확보한 개인과 국가는 권력과 부를 갖는 반면, 그렇지 못한 개인과 국가는 추락하게 된다. 그 격차는 상상하기 어려울 정도로 커져 두려운 미래가 열릴 수도 있다.

플랫폼 기업들은 플랫폼 위력을 활용해 세상을 암암리에 자신들에게 이익이 되는 방향으로 끌고 가는 빅브라더(Big Brother)가 될 수 있다.

빅데이터를 독점하는 거대 기업이 존재하면, 민주주의가 위협당하고, 정부의 정책에까지 영향을 미칠 수 있다. 미리 자리 잡은 선두기업만 유리하고 신진 기업은 갈수록 불리 해지며 혁신을 저해하게 돼 규제의 필요성을 주장하는 전문가들이 있다. 유발 하라리 교수는 부와 권력이 극소수 엘리트에게 집중되는 것을 막으려면 근본적으로 데이터 독점적인 소유를 규제해야 한다고 주장한다.

알고리즘의 위험성과 취약성

오늘날 세상을 움직이는 힘은 알고리즘이다. 명령어의 집합으로 불리는 알고리즘은 SNS, 검색 엔진, 위성 항법, 음악 추천 등 모든 시스템을 세상에 제공한다. 그러나 빛이 있는 반면 그림자도 있다.

대표적인 것이 알고리즘으로 인한 개인 데이터 유출이다. 알고리즘으로 모든 데이터가 수집되고 약탈적인 광고 등에 활용되므로, 무료 알고리즘에 의문을 품어야 한다.

SNS에 올린 글과 ‘좋아요’를 누른 게시물, 은밀한 검색기록 뿐 아니라 정치 성향, 복용약, 임신 중절 여부까지도 무심코 동의하는 순간 모두 데이터 브로커에 팔린다.

브로커는 이 데이터를 이용해 우리의 호 불호에 따라 관심사에 맞는 광고를 띄운다. 데이터를 광고에 활용하는 것을 넘어서서 인간을 조정하는 데까지 확장된다.

대선이나 총선기간 중에 조작된 가짜 뉴스를 퍼뜨려 유권자를 조정하기도 한다. 그리고 각종 개인 정보를 활용하여 개인 신용도를 평가하기도 한다.

알고리즘이 적용된 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 상황이 발생한다. 예를 들어 암을 치료하는데 사용되는 의료기기를 만들 때 개인과 인류 중 누구를 위해 작동되어야 하는지, 그리고 인류 전체 이익을 위해 만들어지는 기계는 되도록 많은 생명을 살리는데 우선을 둘 것이고, 보험사의 목적에 맞춘 기계는 되도록 비용을 적게 들이도록 할 것이다. 제약회사에 중점을 둔 기계는 특정 약품을 다른 약품 보다 많이 쓰도록 초점을 맞출 것이다.

자율주행차의 경우에도 이런 딜레마가 발생한다. 차량을 설계할 때 탑승자와 보행자 중 어느 목숨을 우선해야 할지, 충돌을 피할 수 없는 상황에서 그대로 달려 보행자를 희생시키고 탑승자를 살릴 것인지, 반대로 콘크리트 벽을 들이박고 보행자를 살릴 것인지의 상황에 직면할 수 있다.

이처럼 책임과 윤리적 문제는 알고리즘에서 불가피한 논제이다. 이런 딜레마는 알고리즘의 신뢰를 넘어 인간의 한계와 가치까지 결정할 것으로 요구 받는다.

목표와 동기가 충돌하는 경우 알고리즘의 위험은 은폐되고 이익은 부풀려진다. 신기술 중심에는 힘과 기대치, 통제, 책임 위임과 관련한 난제들이 자리하고 있기 때문이다.

알고리즘의 공정성 문제도 있다. 모든 것을 공정하게 처리할 것으로 알았던 알고리즘이 편향을 드러낸다. 범죄 용의자를 분류할 때 백인에 비해 흑인이 2배 정도 고위험군으로 분류될 확률이 높은 사례에서 보는 것처럼, 알고리즘이 모든 사람을 똑같이 다루지는 않는다는 것이다.

알고리즘의 시대에는 그 어느 때보다도 인간이 중요하므로 알고리즘의 결정에 물음을 던지고, 그 아래 깔린 동기를 꼼꼼히 살펴야 한다.

기업의 이익을 우선하는 독재적이고 오만한 알고리즘으로 동작되는 기계를 객관적인 만능 해결사 내지는 신(神)으로 우러러 받드는 미래 세상이 되지 않도록 하기 위해서는 기계 오류와 결함은 물론 인간의 결점과 약점까지 이해해야 한다.

플랫폼 알고리즘의 가공할 위력

플랫폼에 연결되어 있는 수 많은 사람들을 알게 모르게 자신들의 의도에 따르게 하거나 자신들이 권력에 복종시킬 수도 있다. 알고리즘이란 기술에 숨겨진 의도로 세상의 권력을 바꾸거나 만들 수도 있다.

이미 글로벌 거대 플랫폼 기업들은 제한된 영역에서는 이미 빅 브라더가 되어 있는지도 모른다. 이와 같이 무서운 것은 소셜 미디어 플랫폼에 감추어진 알고리즘이다.

페이스북이나 유튜브 등 SNS는 알고리즘의 작동에 따라 유사한 사고방식을 가진 사용자들이 점점 더 많이 상호작용을 할 수 있도록 만든다. 자연히 반대 의견은 차단하는 동종 선호의 효과를 나타내고 있다.

그 결과 자신이 활동하는 SNS는 모두가 똑같은 성향의 정치적 입장을 가진 사람들 뿐이다. 그 안에서 포스팅을 하고 ‘좋아요’를 누르다’보면 마치 세상사람 모두가 자신이 지지하는 정치성향과 일치한다는 착각에 빠지게 되고 그것이 대세인 것으로 믿게 된다.

자유로운 정보의 바다라고 생각했던 인터넷이 거대 플랫폼에 의해 쪼개지고, 각각의 플랫폼 안에서 사람들은 알고리즘, 즉 AI가 공급하는 콘텐츠만을 받아보는 세상으로 바뀌었다.

과거에는 컴퓨터 앞에서 앉아서 능동적으로 웹을 ‘서핑’했던 사람들은 이제 스마트폰으로 이동했고, 풍요로운 정보의 바다를 마음껏 항해하던 웹 브라우저 대신 몇 개의 앱 안에 갇혀서 산다.

그리고 그 안에서 내 주장에 동의하는 사람들로만 친구를 맺는 커뮤니티가 형성되고, 그렇게 만들어진 세상을 현실이라고 생각한다. 예를 들어 세상을 진보적으로만 보는 외눈박이 사람들끼리, 세상을 보수적으로 보는 오른눈박이 사람들끼리의 세상속에 갇힌다면 어떨까? 그 안에 살면서 밖으로 나오지 않는다면 이미 사람들은 듣고 싶은 것만 듣고 믿고 싶은 것만 믿는 확증 편향(Confirmation Bias)에 사로잡혀 실제 세상이 아닌 허구적인 가상의 세상에 갇혀서 사는 것과 다름이 없는 것이다.

국내의 보수와 진보 진영간 치열한 이념 대결 양상은 소설미디어들의 확증 편향에 기인하는 바가 적지 않다.

▲ 플랫폼 기업의 빅브라더로 변신: 플랫폼에 연결되어 있는 수 많은 사람들을 알게 모르게 자신들의 의도에 따르게 하거나 자신들이 권력에 복종시킬 수도 있다. 알고리즘이란 기술에 숨겨진 의도로 세상의 권력을 바꾸거나 만들 수도 있다. 이미 글로벌 거대 플랫폼 기업들은 제한된 영역에서는 이미 빅 브라더가 되어 있는지도 모른다. (출처: IT트렌드)

글로벌 플랫폼 기업은 세상의 빅브라더(Big Brother)

세계 시가총액 1~5위 기업인 애플, 구글, 마이크로소프트, 아마존, 페이스북 등은 모두 플랫폼 기반의 비즈니스 모델을 갖고 있다. IT플랫폼에 AI로봇이 접목되면, 이 회사들의 세상 지배력은 더욱 커지게 된다.

구글은 사람들이 검색 과정에서 생성한 빅데이터를 통해 사람들의 아이디어를 빼앗아간다. 구글의 유튜브와 페이스북, 넷플릭스 등은 사람들의 시간과 관심을 빼앗기 위해 고객들의 빅데이터를 분석하는 알고리즘을 더욱 정교하게 다듬어 가고 있다.

거대 IT기업들은 빅데이터 분석을 통해 세상 경제를 지배할 뿐 만 아니라, 사람들이 구글과 페이스북 플랫폼을 통해 미디어에 접속하므로 사람들의 생각까지 지배하고 있다. 애플, 마이크로소프트, 구글, 페이스북 등 글로벌 플랫폼 기업들은 이미 제한된 영역에서 빅브라더가 되어 있는지 모른다.

플랫폼 보유 회사들은 개인의 성향을 파악해 선호할 만한 뉴스나 콘텐츠만을 선별, 제공함으로써 왜곡된 사고를 갖게 하는 반향실 효과(Chamber Effect)에 갇히게 하며 이념 갈등을 증폭시키는 역기능을 한다.

최근 국내에서 네이버의 뉴스 재배치건이 정치권에서 이슈가 됐다. 검색 점유율 70% 이상을 점유하는 포털 네이버는 뉴스를 스스로 만들지 않지만, 언론사들의 슈퍼 언론사로서 뉴스 소비의 50% 이상, 미디어 시장을 먹여 살리는 광고 시장 매출의 50% 이상을 점유하고 있다.

네이버는 뉴스 조작, 재배열, 댓글 편향성 등으로 인해 정치권에서 논란이 일자, 뉴스 배치 알고리즘을 공개하겠다고 선언할 정도로 영향력이 지대하다.

페이스북은 ‘내가 읽어야 할 신문을 매일 배달해주는 나만의 신문’이다. 페이스북은 직접 컨텐츠를 생산하지 않는다. 친구가 뉴스를 포스팅하고 댓글 남기기로 공유할 뿐이다. 그러나 은밀하고 의도적인 알고리즘을 통해 어떤 컨텐츠를 전달할지 결정함으로써 큰 영향력을 행사한다.

플랫폼 알고리즘 조작으로 특정 정당 지지도와 대선이나 총선에서 대통령과 국회의원 당선자까지 바꿔 놓을 수 있다. 구글의 검색 플랫폼 역시 알고리즘 조작을 통해 개인의 정치적인 성향이나 회사나 상품에 대한 호감도 등을 바꿀 수 있다.

플랫폼 소유자들은 플랫폼 위력을 활용해 세상을 암암리에 자신들에게 이익이 되는 방향으로 끌고 가는 빅브라더가 될 수 있다. 플랫폼에 연결되어 있는 수 많은 사람들을 알게 모르게 자신들의 의도에 따르게 하거나 자신들이 권력에 복종시킬 수도 있다. 알고리즘이란 기술에 숨겨진 의도로 세상의 권력을 바꾸거나 만들 수도 있는 것이다.

특성상 알고리즘 작동 방식은 내부에서도 극히 일부를 제외하고는 알기 어렵다. 해당 플랫폼이 평상시에 내가 선호하는 뉴스나 컨텐츠를 시의 적절하게 잘 전달해주니 선의를 믿을 수밖에 없다. 공경하고 두려워한다는 의미를 갖는 경외(敬畏)하는 ‘구글 신’(神), ‘네이버 신’(神)이라는 표현이 십분 이해된다.

미래 플랫폼 기업이 지배하는 세상

파이프라인 기업을 위해 개발된 전통적인 형태의 정부 규제는 플랫폼이 야기하는 복잡한 사회 문제를 해결하기에 적절치 않다. 정책 입안자들이 이런 변화의 성질을 온전히 이해하고 혁신이 가져온 이익을 훼손하지 않으면서 플랫폼 혁명이 가져올 심각한 위협으로부터 시민과 기존 사업자를 보호하기 위해 규제 대응을 하려면 시간이 필요하다.

우리 사회가 플랫폼 혁명에 따른 경제, 사회, 정치 권력의 변화에 적절히 대응하기 위해 무엇을 해야 할지 파악하는 데도 시간이 걸릴 수밖에 없다. 그렇기 때문에 우리는 지금 당장 이 문제에 대해 고민해야 하는 것이다. 이제 혁명의 윤곽이 막 드러나기 시작했기 때문이다.

플랫폼 비즈니스는 규제 혁신을 통해 육성되고, 필연적으로 기존 산업 생태계를 파괴하기 때문에 규제의 필요성이 제기된다.

글로벌 플랫폼 기업들이 지배하는 미래 세상을 우리 인간들이 제도나 정책으로 잘 관리하지 못하면, 전세계적으로 문제가 되고 있는 경제 양극화 정도가 더욱 심화되며 초양극화 상황으로 치닫게 될 수 있다.

유전자 조작과 사람의 수명 연장 등 신(神)의 영역에 속하는 분야까지 양극화의 범위가 확대돼 감에 따라, 불평등과 불만으로 인해 갈등과 분쟁이 고조돼 지구촌의 평화가 위협을 받는 상황이 전개될 수도 있다.

현재 국내 경제 양극화는 OECD국가 중에서 중간 수준인데도 젊은층을 중심으로 ‘헬조선’이니 ‘흙수저’ 운운하면서 민주주의 양대 이념인 ‘자유’와 ‘평등’ 중 ‘평등’에 무게 중심을 옮길 것을 주장하는 등 이념이 좌측으로 빠르게 이동 조짐이 있다. 이런 가운데 자유 시장경제를 지지하는 보수진영은 포퓰리즘 정책으로 국고를 바닥내고 국가경제를 붕괴시킨다고 강하게 비난하는 등 팽팽하게 맞서고 있다.

현재 수준의 경제 양극화 상황에서 진보와 보수진영 간의 갈등이 첨예하게 부딪치는 국내 정치 현실을 감안해 볼 때, 미래 초양극화 세상의 도래를 효과적으로 막지 못한다면 그로 인한 갈등과 분쟁은 상상을 초월한다.

이런 경제 초양극화 상황에 대비해 벌써 국민들과 정치권의 이념이 전반적으로 좌향 이동하는 트렌드를 보이는 것은 세계적인 현상으로 보인다.

AI 로봇 등 플랫폼 기술 발전에 따라 일자리, 근로, 복지, 의료, 조세 제도는 온전하게 존속하지 못하며, 새로운 제도가 만들어질 것으로 전망된다.

플랫폼 기업들은 플랫폼상의 알고리즘과 빅데이터의 활용으로 빅브라더 위치를 확고히 함에 따라, 자유 민주주의와 자유시장 경제가 유지되기 어렵기 때문에 새로운 형태의 정치와 경제 질서가 재탄생할 것으로 전망된다.

,

- Copyright, SNS 타임즈 www.snstimes.kr