[SNS 타임즈- LA] 오픈AI의 CEO 샘 올트먼이 사용자들에게 ChatGPT와의 개인적인 대화를 자제할 것을 당부한 것으로 알려졌다.

AI 전문 기업 더딥뷰(The Deep View)는 최근 시장 동향 자료에서 이와 같이 밝히고, AI 챗봇과의 대화가 기존 전문가-환자 간 비밀보장 원칙의 보호를 받지 못한다는 점을 지적했다.

올트먼 CEO는 지난주 팟캐스트 '디스 패스트 위켄드 위드 테오 본'에 출연해 "사람들이 ChatGPT에게 자신의 삶에서 가장 개인적인 문제들을 털어놓고 있다"며 우려를 표명했다.

그는 "특히 젊은 세대가 ChatGPT를 치료사나 생활코치처럼 활용하며 인간관계 문제 등에 대해 조언을 구하고 있다"고 설명했다.

현재 의사-환자, 변호사-의뢰인 간 대화는 법적으로 비밀보장 의무가 적용되지만, AI 챗봇과의 대화에는 이러한 보호 장치가 마련되지 않은 상황이다. 이는 사용자의 개인정보가 법적 분쟁 상황에서 증거자료로 활용될 위험성을 의미한다.

법원 명령으로 대화 기록 무기한 보존

상황을 더욱 복잡하게 만드는 것은 현재 진행 중인 뉴욕타임스와 오픈AI 간 저작권 소송이다. 법원은 이 소송과 관련해 오픈AI에게 모든 ChatGPT 사용자 대화 기록을 무기한 보존하도록 명령했으며, 이는 삭제된 대화까지 포함한다.

이 명령은 ChatGPT 무료 버전, 플러스, 프로, 팀스 사용자 모두에게 적용된다. 평소 30일 후 자동 삭제되던 대화 기록들도 별도로 보관되고 있으며, '임시 채팅' 모드로 진행된 대화조차 법적 검토를 위해 보존되고 있는 실정이다.

청소년층 정신건강 상담 증가로 우려 확산

이러한 상황은 특히 정신건강 지원을 위해 AI 챗봇을 활용하는 청소년층에게 심각한 문제가 될 수 있다. 전통적인 심리치료가 접근하기 어렵거나 사회적 편견으로 인해 기피되는 상황에서, 많은 청소년들이 ChatGPT를 대안으로 선택하고 있기 때문이다.

정신건강 문제, 인간관계 고민, 개인적 위기 상황 등을 AI에게 털어놓은 사용자들이 나중에 이혼, 양육권 분쟁, 고용 관련 법적 분쟁에 연루될 경우, 해당 대화 내용이 법정에서 증거로 제출될 가능성이 있다는 것이다.

기업용 서비스는 보호, 일반 소비자는 제외

흥미롭게도 ChatGPT 엔터프라이즈(기업용)와 에듀(교육용) 고객들은 이번 법원 명령 적용 대상에서 제외됐다. 법원의 이러한 결정으로 기업 사용자들은 개인정보 보호를 받는 반면, 일반 소비자들은 그렇지 못한 이중 잣대라는 비판을 피하기 어렵게 됐다.

전문가들은 전문가-의뢰인 간 비밀보장과 동등한 수준의 'AI 특권'이 법적으로 확립되기 전까지는 AI와의 대화를 공개 발언처럼 신중하게 취급해야 한다고 조언하고 있다.

- Copyright, SNS 타임즈 www.snstimes.kr