2. 인공지능 윤리 동향
(1) 인공지능의 부작용 사례
인공지능은 인간의 편익을 증대시키지만, 그에 못지않게 위험도 증대시키고 있다. 2017년 Global Risk Report에 따르면 12개의 새로운 기술 중 인공지능과 로봇공학이 편익과 위험 모두 가장 큰 것으로 조사되었다.
인공지능이 유발하는 위험 가능성에는 아래 [표 1]와 같이 편견, 차별, 사생활 침해 등이 있다.
인공지능의 위험사례는 먼저, 아마존의 채용시스템에서 확인 할 수 있다. 아마존은 2014년 인공지능을 이용한 채용시스템을 활용하였지만, 여성을 차별하는 알고리즘이 발견되어 2015년도에 해당시스템을 폐기하였다.
다음으로, 미국에서 널리 사용되는 재범 위험예측 알고리즘인 COMPAS(Correctional Offender Management Profiling for Alternative Sanctions)는 흑인과 백인간의 재범 예측률에 있어서 흑인에게 불리한 결과를 나타냈다.
또한, 최근에 아마존에서 개발한 안면인식 기술이 미국 국회의원 28명을 범죄자로 잘못 인식한 사례도 있었다.