(5) 인공지능 피해에 대한 배상책임 제도 보완
인공지능이 유발하는 위험은 설계과정에서 알고리즘의 편향에서 비롯될 수도, 애초 설계 목적과 다르게 사용함에 따라 발생하기도 하지만 시스템 설계대로 사용했음에도 불구하고 의도하지 않은 위험이 나타날 수 있다.
이러한 위험은 복잡한 알고리즘과 불투명성 등으로 인하여 사전 기술영향평가와 사후 감시･감독시스템이 갖추어져 있다고 하여도 이를 막기에 역부족일 수 있다. 따라서 이로 인해 피해가 발생할 때 이를 어떻게 보상할 것인가에 대한 논의가 필요하다.
인공지능이 다른 제품과 결합될 경우는 「제조물 책임법」에 따른 책임을 물을 수 있지만, 인공지능이 소프트웨어 형태로 있을 때는 「제조물 책임법」에 따른 제조물 책임을 묻기도 어렵다. 더욱이 개발자와 사용자의 과실이 없는데도 피해가 발생할 때 어떻게 손해배상을 할 것인지도 문제가 된다.
따라서 인공지능의 특성을 고려하여 책임 요건을 규정할 필요가 있고, 누구에게도 책임을 돌릴 수 없는 손해의 경우 이를 배상하기 위한 보험제도 도입을 검토해 볼 필요가 있다.