인공지능 챗봇 ‘이루다’가 이용자들과 나눈 일부 대화에서 차별･혐오적 표현이 나타났다. 이는 인공지능 윤리, 학습데이터의 개인정보 보호 법제 준수 등에 대한 논의를 불러일으켰다. 결국 출시 20일 만에 중단되고 만 이루다가 우리나라 인공지능 분야에 남긴 과제는 개인정보 처리에 대한 사전동의와 사후 통제의 조화, 가명처리의 개선, 인공지능 윤리기준의 구체화, 적정 수준의 학습데이터 확보 등이다.
1. 들어가며
최근 논란의 대상이 된 ‘이루다’는 인공지능 챗봇(AI chatbot) 서비스, 즉 인간을 모방하여 대화를 생성하는 컴퓨터 시스템이다. 이루다의 개발자는 이용자들이 이루다와 편리하고 친숙하게 대화할 수 있도록 페이스북 메신저에서 이루다를 친구로 추가할 수 있도록 했고, 이루다에게 20세 여대생이라는 친근한 가상 프로필을 부여했다. 또한 사람들의 실제 대화를 대량으로 기계학습시켜서 이루다가 특정 전문분야에 한정된 것이 아니라 일상의 모든 주제에 대해서 대화할 수 있도록 만들었다.