[서울파이낸스 김현경 기자] 인공지능(AI)을 활용해 서비스를 제공하는 금융사들은 앞으로 보안을 위해 AI 전담조직 등 3중 내부통제장치를 마련해야 한다.
금융위원회는 8일 제1차 '디지털금융협의회 데이터 분과회의'를 열고 '금융분야 AI 가이드라인'을 발표했다.
먼저, AI를 금융거래·서비스에 활용하는 금융업권은 △AI 윤리원칙 △AI 조직 △위험관리정책 등 3중 내부통제장치를 마련하도록 했다. 신용평가사 등 비금융업이라도 AI 활용 결과가 금융거래에 미치는 영향이 큰 경우에는 같은 조치가 적용된다.
대상 기업들은 회사별 가치, AI 활용 상황 등에 따라 AI 서비스 개발·운영시 준수해야 할 원칙·기준을 수립해야 한다. 이후 AI의 잠재적 위험을 평가·관리할 구성원의 역할·책임·권한을 서비스 전 단계에 걸쳐 구체적으로 정의해야 한다. 또 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리를 적용한다.
아울러 AI 학습 데이터에 대한 조사·검증을 지속하는 한편, 개인신용정보 오·남용이 없도록 불필요한 개인신용정보 처리를 최소화하는 시스템을 마련토록 했다. 특히, 사생활정보 등 민감정보를 활용하는 경우 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거쳐야 한다.
AI 활용 과정에서 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고 서비스 공정성을 제고해야 한다. 또 금융소비자가 AI 서비스에 대한 충분한 설명을 듣고 자신의 권리를 행사할 수 있도록 지원해야 한다. AI 서비스 외부위탁 개발·운영시에도 직접 운영할 때와 같이 철저히 관리해야 한다.
또 금융소비자에게 AI가 활용된다는 사실을 사전에 고지해야 한다. AI를 통해 신용평가, 보험가입 등의 금융거래를 한 경우 설명요구와 정정요구권이 있음을 함께 고지해야 한다.
이날 회의에서 도규상 금융위 부위원장은 "AI와 같은 기술 혁신이 금융의 질적변화를 주도할 것으로 예상된다"면서도 "AI기술을 전면적으로 도입하기에는 아직 넘어야 할 과제들이 많다"고 말했다.
도 부위원장은 "AI로 인한 차별 발생 가능성 등에 대한 우려가 있고 AI기술의 안전성에 대한 사회적 신뢰도 충분하지 못한 상황"이라며 "금융분야 AI 가이드라인은 이러한 문제 인식을 바탕으로 신뢰를 근간으로 하는 금융 서비스가 AI 기술을 접목함에 있어 지켜야할 최소한의 방향성을 제시하고자 했다"고 강조했다.
그는 "AI 기술발전 및 활용과 관련해 규제 불확실성 등을 최소화하면서 AI 금융서비스에 대한 사회적 신뢰를 공고히 할 것"이라며 "AI를 통한 지속가능한 금융혁신을 이룰 수 있도록 제도적 환경을 조성할 계획"이라고 말했다.
