[SNS 타임즈- LA] 미국에서 처음으로 초거대 AI 시스템의 안전성과 투명성을 규율하는 법안이 제정됐다.

해외 AI 조사 연구 분석 전문 매체 '더 딥뷰(The Deep View)'에 따르면, 캘리포니아주 개빈 뉴섬 주지사는 지난 월요일 '프론티어 인공지능 투명성법(Transparency in Frontier Artificial Intelligence Act, TFAIA)'에 서명했다.

이는 미국 연방정부 차원의 포괄적 AI 정책이 부재한 상황에서 주정부가 선제적으로 나선 사례로, 향후 다른 주들의 AI 규제 청사진이 될 것으로 전망된다.

안전사고 공개부터 설계 투명성까지 의무화

이번 법안은 최첨단 AI 모델을 개발하는 기업들에게 세 가지 핵심 의무를 부과한다.

먼저 AI 시스템 운영 중 발생한 안전 관련 사고를 의무적으로 공개해야 한다. 또한 AI 모델의 설계 과정을 투명하게 공개하고, 초거대 AI 개발 단계에서 안전장치를 설치해야 한다.

여기서 '프론티어 AI'란 현존하는 가장 강력한 성능을 가진 초거대 AI 시스템을 의미하며, 일반적으로 수천억 개 이상의 매개변수를 가진 대규모 언어모델 등을 지칭한다.

법안은 캘리포니아주가 전국 최초로 작성한 'AI 안전장치 보고서'의 권고사항을 기반으로 마련됐다. 이 보고서는 증거 기반 정책 수립을 위한 구체적 방안을 제시한 것으로 알려졌다.

"기술 혁신과 안전, 두 마리 토끼 잡는다"

스콧 위너 캘리포니아 주 상원의원은 성명을 통해 "이번 법으로 캘리포니아는 다시 한번 기술 혁신과 안전 분야에서 글로벌 리더로 나섰다"고 밝혔다.

실제로 캘리포니아는 실리콘밸리를 중심으로 OpenAI, 구글, 메타 등 주요 AI 기업들이 집중된 AI 개발의 심장부다. 이러한 배경에서 주정부는 혁신을 저해하지 않으면서도 윤리적 AI 개발을 촉진하는 균형점을 찾고자 노력해왔다.

아동 보호 AI 법안도 잇따라 통과

초거대 AI 규제법 통과 하루 전, 캘리포니아 주의회는 '캘리포니아 AI 아동 보호법(California AI Child Protection Bill)'도 통과시켰다.

이 법안은 청소년 이용자들이 "아동에게 해를 끼칠 수 있는 특정 행위를 할 가능성이 있는" 챗봇에 접근하지 못하도록 차단하는 내용을 담고 있다.

다만 일부 업계에서는 과도한 규제가 혁신을 저해할 수 있다는 우려를 제기하고 있다.

컴퓨터통신산업협회(Computer and Communications Industry Association)는 법안에 대한 의견서에서 "미성년자 데이터를 AI 시스템 학습에 사용하지 못하도록 금지하면 범용 AI 모델의 가용성과 품질에 광범위한 영향을 미칠 것"이라며, "오히려 미성년자를 위한 AI의 효과성과 안전성이 떨어질 수 있다"고 지적했다.

현재 아동 보호법은 뉴섬 주지사의 최종 서명을 기다리고 있다.

연방정부의 통합 AI 정책이 부재한 가운데, 캘리포니아를 시작으로 각 주정부 차원의 AI 규제 움직임이 본격화될지 주목된다.

- Copyright, SNS 타임즈 www.snstimes.kr