프랭크 파스콸레(2016)는 <블랙박스 사회>에서 누구나 데이터베이스에서 ‘신용도 낮음’, ‘의료비 높음’, ‘소득 감소’ 등의 모욕적인 평판으로 분류될 수 있으며, 평판 시스템은 오류나 불공정성 때문에 냉대 받는 (대개 보이지 않는) 새로운 소수자를 만들어낸다고 분석한다. 알고리즘은 차별이라는 근본적인 문제에서 자유롭지 않다. 알고리즘 내의 부정적이고 근거 없는 가정이 편견으로 굳어지기 때문이다. 알고리즘도 인간이 프로그래밍하는 것이다 보니 개발자의 가치관이 소프트웨어에 이식된다. 알고리즘은 흔히 너무도 인간적인 편견이 반영된 데이터를 사용하고 있는 것이다. 이 결과 차별이 일상화되고 내재화 된다.
알고리즘 개발자의 가치관이 소프트웨어에 이식되고 차별이 일상화, 내재화 된다. 프랭크 파스콸레는 평판 시스템은 오류나 불공정성 때문에 냉대 받는 새로운 소수자를 만들어낸다고 한다.