'모른다'고 말 못하는 AI, 그것이 가장 위험!

"챗봇이나 거대언어모델이 '모른다'고 답하는 걸 마지막으로 본 게 언제인가요?"

[SNS 타임즈- LA] IBM 리서치 수석과학자 우치르 푸리(Ruchir Puri)가 던진 이 질문 하나가, 지금 인공지능 업계가 마주한 가장 근본적인 결함을 정확히 짚어내고 있다.

AI 전문 매체 더 딥뷰(The Deep View)가 진행한 인터뷰에서 그는, 오늘날의 AI 모델들이 자신이 무엇을 모르는지조차 알지 못한 채 언제나 그럴듯한 답을 내놓는다고 지적했다.

31년째 IBM에 몸담고 있는 푸리는 1990년대 초반 알고리즘 연구로 커리어를 시작해, 2011년부터는 인공지능 연구에 뛰어들었다. 챗GPT라는 단어조차 존재하지 않던 시절 그는 이미 그래픽처리장치(GPU)를 활용해 대규모 데이터를 분석하는 작업을 하고 있었고, 이후 4년간 IBM 왓슨의 최고기술책임자(CTO)를 지낸 뒤 지금의 수석과학자 자리에 올랐다.

그는 자신의 연구 이력을 인공지능이 세간의 주목을 받기 전, 이른바 'AI의 겨울'이라 불리던 침체기까지 거슬러 올라가 설명했다.

푸리가 짚은 지금의 AI 붐은 세 가지 요소가 동시에 맞물리면서 일어났다.

인터넷 확산으로 폭발적으로 늘어난 데이터, 그래픽 연산에 특화된 GPU를 행렬 연산에 활용할 수 있게 되면서 확보된 대규모 연산 능력, 그리고 오늘날 모든 거대언어모델의 근간이 된 트랜스포머(Transformer) 구조의 등장이다.

이 세 가지가 없었다면 지금의 돌파구도 없었을 것이라는 게 그의 설명이다. 흥미로운 건 시점이다.

그는 챗GPT가 등장하기 이전인 2020년, 이미 AI가 소프트웨어 개발 방식 자체를 근본적으로 바꿔놓을 것이라 예견했다고 밝혔다. 소프트웨어는 결과물이 맞는지 틀린지를 검증할 수 있다는 점에서, 결과물이 옳았는지 확인하고 그 피드백을 다시 모델에 넣어 개선하는 '닫힌 반복 구조'를 만들 수 있다는 것이 그 근거였다.

그러나 대화의 무게중심은 곧 AI의 한계로 옮겨간다.

푸리는 지능을 이루는 요소를 두 갈래로 나눠 설명했다. 하나는 이미 알고 있는 것을 기억에서 꺼내오는 '회상'이고, 다른 하나는 자신이 무엇을 모르는지를 인식하는 능력이다.

그는 후자야말로 진짜 지능이라고 말한다. 인간은 겉으로 인정하든 하지 않든 내심 자신의 한계를 알고 있지만, 지금의 AI 모델은 이 '불확실성 모델링(uncertainty modeling)'을 아직 제대로 학습하지 못했다는 것이다.

불확실성 모델링이란, AI가 자신의 답변이 얼마나 확실한지 스스로 가늠하고 그 확신의 정도를 결과에 반영하도록 만드는 기술을 말한다. 이 능력이 부족하기 때문에 AI는 근거 없는 답을 그럴듯하게 지어내는 이른바 '환각(hallucination)' 현상을 일으키게 된다.

사실이 아닌 내용을 마치 사실인 것처럼 답하는 이 현상은, 최근 AI 업계 안팎에서 신뢰성 문제로 계속 지적되어 온 고질적 결함이다. 푸리는 이를 "알면서 속이는 거짓말과는 다르다"며, AI 스스로도 자신이 틀렸다는 사실을 모른 채 답하고 있다는 점에서 오히려 더 다루기 까다로운 문제라고 짚었다.

그가 꼽은 두 번째 과제는 '자기 진화(self-evolving)' 능력이다.

사람은 매 순간의 경험을 통해 스스로 배우고 조금씩 달라지지만, 지금의 거대언어모델은 한 번 훈련되고 나면 다음 버전이 나올 때까지 같은 수준의 지능에 머물러 있다는 것이다.

세 번째는 에너지 효율의 문제다.

그는 인간의 뇌가 부피 약 1,200㎤에 소비 전력은 약 20와트에 불과한 반면, 최신 AI 반도체 한 장은 그보다 60배 많은 약 1,200와트를 소비하며 뇌 기능의 일부를 대신하는 데도 수백, 수천 개의 칩이 필요하다고 설명했다.

그러면서 최근 스탠퍼드대학교에서 나온 '와트당 지능(intelligence per watt)' 개념의 논문을 언급하며, 지금의 AI는 무차별적으로 연산량을 쏟아붓는 방식에 의존하고 있어 장기적으로 지속 가능하지 않다고 진단했다.

지능을 바라보는 그의 시각도 눈길을 끈다.

그는 지능을 지능지수(IQ), 감성지능(EQ), 그리고 그가 직접 이름 붙인 '관계지능(RQ, Relationship Quotient)' 세 요소의 결합으로 설명한다.

AI는 지식과 논리를 다루는 IQ 영역에서는 곧 인간을 압도할 것으로 내다봤지만, 타인의 감정을 헤아리고 위로를 건네는 EQ, 그리고 관계를 형성하고 발전시키는 RQ 영역에서는 아직 갈 길이 멀다고 봤다. 인간의 정서적 교감은 언어라는 형태의 데이터, 즉 토큰만으로는 온전히 담아낼 수 없는 영역이라는 게 그의 진단이다.

이런 한계들에도 불구하고 푸리는 AI의 미래를 여전히 낙관한다. 다만 그가 지향하는 목표는 이른바 범용인공지능(AGI, Artificial General Intelligence)이 아니다.

그는 AGI라는 개념 자체가 명확히 정의되지 않은 채 통용되고 있다는 점에 거리를 두며, 대신 '인공 유용 지능(AUI, Artificial Useful Intelligence)'이라는 표현을 즐겨 쓴다고 밝혔다.

그가 정말 중요하게 여기는 것은 AI가 얼마나 '일반적인' 지능을 갖췄느냐가 아니라, 언어 장벽을 없애주거나 번거로운 업무를 대신해주는 등 실제로 사람들의 일상에 얼마나 쓸모가 있느냐다.

같은 맥락에서 그는 AI를 도입하는 두 가지 상반된 접근법을 소개했다.

기존 업무에 AI 기능을 하나씩 덧붙이는 '플러스 AI' 방식과, 애초에 AI가 존재한다는 전제 아래 업무 프로세스 자체를 처음부터 다시 설계하는 'AI 플러스' 방식이다.

그는 전자가 어느 정도의 생산성 향상은 가져다주지만, 진짜 도약은 후자에서 나온다고 강조했다.

실제로 IBM 리서치는 이 같은 접근을 양자컴퓨팅 연구에도 적용해, AI를 활용해 양자 오류 정정 코드를 개선하고 양자 시스템의 보정(calibration) 방식을 새롭게 설계하는 작업을 진행 중이라고 소개했다.

IBM은 2029년을 양자컴퓨팅에서 결함 허용(fault tolerance) 단계에 도달하는 주요 이정표로 제시하고 있으며, 반도체 칩 설계 과정에도 AI를 접목해 재구성하는 연구를 병행하고 있다고 덧붙였다.

결국 푸리가 그리는 다음 단계는 명확하다.

지금 가장 시급한 것은 AI가 자신의 무지를 인식하는 불확실성 모델링이고, 그다음은 스스로 경험을 통해 배워나가는 자기 진화 능력이며, 장기적으로는 반도체와 하드웨어 구조 차원에서 에너지 효율을 끌어올리는 일이다.

인간의 뇌가 샌드위치 한 조각의 에너지로도 작동하듯, AI 역시 언젠가는 지금보다 훨씬 적은 자원으로 지금 이상의 성능을 낼 수 있어야 한다는 것이 그의 결론이다.

- Copyright, SNS 타임즈 www.snstimes.kr