[서울파이낸스 이도경 기자] 한국과학기술원(KAIST)은 전기 및 전자공학부 황의종 교수 연구팀이 학습 상황과 달라진 새로운 분포의 데이터에 대해서도 편향되지 않은 판단을 내리도록 돕는 새로운 인공지능(AI) 모델 훈련 기술을 개발했다고 30일 밝혔다.
연구팀은 '상관관계 변화'(correlation shifts) 개념을 이용해 데이터의 편향 패턴이 변화해도 모델을 공정하게 학습하는 새로운 프레임 워크를 제안했다. 이를 통해 과거 데이터에서 학습했던 특정 인종 데이터를 상대적으로 줄임으로써 채용과의 상관관계를 낮출 수 있다고 연구팀은 설명했다.
그간 AI 모델은 긍정적 효과 외에도 인종 별로 서로 다른 재범 확률을 부여하거나 채용, 대출 시스템 등 중요 영역에서 심각한 편향성을 가질 수 있다는 우려가 제기돼왔다.
이 기법은 데이터 전처리만 하기 때문에 기존에 제안된 알고리즘 기반 학습 기법을 그대로 활용하면서도 이러한 편향성을 개선할 수 있다는 이점이 있다.
이번 연구 논문의 제1 저자인 KAIST 전기및전자공학부 노유지 박사과정 학생은 "인공지능 기술의 실제 적용 환경에서 더욱 신뢰할 수 있고 공정한 판단을 하도록 도울 것으로 기대한다ˮ고 밝혔다.
저작권자 © 서울파이낸스 무단전재 및 재배포 금지
