(2) ‘이루다’에 대한 논란
이루다는 사람들이 언제나 편안하게 일상적인 대화를 나눌 수 있는 채팅 서비스를 제공하는 인공지능 챗봇이다. 특히 젊은 연인들 사이의 대화를 대량으로 기계학습했기 때문에 10~30대가 실제 사용하는 표현을 능숙하게 모방한다.
짧은 기간 동안 많은 이용자들의 관심을 모았지만, 개발자가 어느 정도 예상했음에도 불구하고 충분히 대비하지 못한 부분에서 문제가 발생했다. 그 촉발점은 혐오와 차별이다. 이루다는 성 소수자를 어떻게 생각하느냐는 질문에 싫어한다고 답하기도, 그렇지 않다고 답하기도 했다. 이러한 문제의 근본원인은 이루다의 기계학습에 투입된 학습데이터의 편향성이다. 그래서 어떠한 학습데이터가 활용되었는지 살펴보는 과정에서, 데이터의 편향성보다는 데이터 수집･활용의 부적절함이 더 심각한 문제로 나타났다. 개발자는 이루다의 자연스러운 대화를 위해 자사가 제공하는 다른 서비스에서 수집된 개인정보(연인 간 메신저 대화 내용 등)를 활용했는데, 많은 사람들이 자신의 개인정보가 해당 서비스의 개선을 넘어 이루다의 개발에까지 사용될지는 몰랐던 것이다. 결국 이루다의 논란은 개인정보 침해로 귀결되고 있다.
이루다의 개발자는 2021년 1월 8일에 공식 입장을 발표했지만, 논란이 사그러들지 않자 1월 11일 입장문을 발표하고 다음 날인 12일부터 서비스를 전면 중단했다. 그러나 부정적인 여론에 대한 충분한 소명은 되지 못했다. 현재 일부 사용자들이 공동소송을 준비하고, 개인정보보호위원회도 현장조사와 후속조치를 추진하고 있다.