3. 신기술 위험에 대응한 통합적 거버넌스 마련 필요
이번 AHP 조사 결과에 따르면, 사전예방원칙 대안을 고려할 때 평가기준의 중요 도로 ‘시행가능성’이 가장 높은 순위를 나타냈다. 즉, 인공지능 위험의 직접적 피해 및 2차적 피해와 같은 장기적 관점을 포괄하고 있는 복원력에 비해, ‘기술적’ 측면과 1차적 위험 대비에 방점을 두고 있는 사전예방원칙 대안의 경우에는 시의 적절하게 정책을 계획하고 집행할 수 있는 ‘시행가능성’이 강조된다고 해석될 수 있다. 이와 같은 결과는 기술개발의 완성단계나 상용화단계보다는 인공지능 기술의 오류나 리스크를 상대적으로 쉽게 줄이고 통제할 수 있는 설계단계에서의 사전예방적 안전조치가 필요함을 시사한다고 볼 수 있다. 또한, 사전예방원칙 관련정책의 평가 기준네 항목 모두에서 ‘위험처리 의사결정’이 공히 중요도가 높게 나타남에 따라 정부의 인공지능을 비롯한 신기술이 초래할 잠재적 기술위험에 대한 통합적인 위험관리시스템을 구축할 필요가 있음을 시사한다. 아울러, 인공지능 기술의 위험 감독, 위험 책임소재 규명, 위험 평가 등과 관련한 정책의 중요성이 강조되며, 따라서 정부는 이와 관련된 전담 조직 등을 신설하여 효과적이고 효율적인 업무를 수행할 수 있도록 해야 한다. 네 개 평가기준을 종합적으로 고려했을 때 정부가 최우선적으로 도입해야 할 사전예방원칙관련 하위 정책수단으로는 ‘위험감지 시 한시적 개발중지 정책 도입’과 함께 ‘인공지능 안전입증의 공급자 책임 원칙’, ‘인공지능 위험비용/책임체계 논의 및 마련’이 18개의 정책수단들 중 높은 비중으로 1위, 2위, 3위를 차지하였다. 이와 같은 AHP조사 결과는 향후 인공지능 위험의 대비하기 위하여 위험의 책임 소재, 위험 입증, 위험 평가 등이 조속히 마련되어야 하며, 동시에 관리 주체로서 제조업, 개발사(자), 비영리기관 등과 더불어 정부의 역할이 중요하다는 것을 시사 하고 있다. 또한 인공지능 기술의 특성 및 지식의 전문성으로 인해 사전 모니터링이나 위험감지가 어렵다는 점을 고려할 때, 인공지능 설계 과정에서의 윤리기준 및 인공지능 기술 표준 등 정부 차원의 구체적인 기준이 요구된다.