둘째, 데이터의 인지적 편향을 차단하기에 불충분하다. 데이터 요약이나 압축은 인간이 설정한 방향에 따라 이뤄질 수 있으므로 정부지향적인 인지적 편향에서 자유롭지 못하다. 데이터 압축 방향은 설정, 지시, 이행의 주체인 인간이 직관적으로 인식할 수 있는 범위 내에서 이뤄진다. 객관적 기준이 아니라 인간이 보기에 전형적인 형태로 보이는 기준으로 데이터가 통합되거나 인간의 선입견으로 사안들이 마구잡이로 분류되는 경향이 존재한다. 예를 들어, ‘이미지를 통한 성별 특성 분석’은 이미지만으로 여성의 경우, 턱이 작고 코가 길며 이마가 좁았다. 반면, 남성은 턱이 크고 코가 크며 이마가 넓었다(digitaltoday, 2019.6.26). 또는 안면인식 애플리케이션에서 범죄자 얼굴 데이터베이스에 혐의자가 있는지 확인하는 과정에서 인종에서 그 차이가 두드러졌다. 남성보다 여성에 긍정 오류(false positive; 대상의 신원을 잘못 파악하는 것) 비율이 2~5배가량 높았다. 또한, 노년층과 유년층이 다른 연령대에 비해 긍정 오류 비율이 높았다. 미국 시민자유연맹(ACLU)의 선임 정책 분석가인 제이 스탠리는 “한 번의 오류로 인해 항공기를 놓치는 것은 물론 감시 대상이 되거나 잘못된 체포를 당할 수도 있다”라며 안면인식 도입을 제고할 이유를 다시 한 번 환기했다. 베키 화이트 구글 매니저는 머신러닝이 “인종, 민족, 종교, 소득 등 인구 편향 특성을 강화해서는 안 된다. 머신러닝 공정성에 대한 인식이 필요하다”고 말했다(CIO, 2019.12.20). 압축 데이터는 ‘덜 다듬어진 알갱이’ 상태로 개략적 근사치에 가까운 데이터다. 기존 데이터의 편향성을 확대 재생산할 수 있는 가능성을 차단할 수 있도록 인간이 항상 머신러닝이 진행되는 동안, 사회적인 맥락을 인지하고 있어야 한다.