대한민국 헌법 제10조는 인간의 존엄과 행복추구권을, 또한 동법 제11조 제1항은 “모든 국민은 법 앞에 평등하다. 누구든지 성별?종교 또는 사회적 신분에 의하여 정치적?경제적?사회적?문화적 생활의 모든 영역에 있어서 차별을 받지 아니한다”라고 각 명시함으로써 인간의 존엄을 중심으로 자유와 권리를 보장받도록 하고 있다. 인공지능을 앞세운 4차 산업혁명시대 우리는 법 앞에 평등하고, 각종 차별로부터 자유로울까? 특히 빅데이터 기반의 인공지능 시스템에서 자동화 처리로 인하여 정보주체가 받는 차별은 이미 우리 사회 깊숙이 자리하고 있지만, 우리는 차별을 당하고 있다는 것조차 지각하지 못하는 듯하다. 개인정보의 수집부터 삭제에 이르기까지 처리 메커니즘이 명확했던 과거와 달리, 거의 전 과정이 자동화된 오늘날 누구도 처리과정을 알 수 없는 이른바 ‘블랙박스화’로 인한 투명성 및 공정성의 문제는 새로운 사회문제로 자리 잡았다. 개인정보는 개인정보보호원칙에 따라 최소한의 정보만 투명하게 수집?처리되어야 하지만, 첨단 기술발전으로 인한 자동화 처리로 자신의 정보가 어디서 어떻게 수집?처리되는지 알기 어려워 정보주체의 개인정보자기결정권 행사가 사실상 불가능해지고 있다. 이러한 자동화 처리는 정보주체의 차별로 이어져 인종 간의 갈등으로 비화될 수 있고, 나아가 자동화 처리로 대표되는 인공지능에 대한 막연한 거부감으로 기술발전을 가로막는 장벽이 될 수 있다. 그러나 인공지능은 인간이 만든 알고리즘에 의해 작동한다는 사실을 간과해서는 안되는바, 자동화 처리로 인한 정보주체의 차별 문제를 해결하기 위한 연구가 필요하다. 이에 본고에서는 알고리즘의 편향성을 알고리즘 설계?제작자가 의도한 경우와 의도치 못한 경우로 나누어 살펴보고, 차별의 개념 및 정의를 통한 인공지능의 차별에 대한 국내외 사례를 살펴볼 것이다. 인공지능의 차별로부터 어떻게 정보주체를 보호할지 개인정보보호관점에서 바라보기 위해 EU의 GDPR을 중심으로 살펴보고, 이를 통하여 현재 인공지능의 주류인 머신러닝으로부터 비롯된 불투명성을 알고리즘의 본질로부터 해결하는 방안을 찾아보도록 하겠다.
인공지능은 인간이 만든 알고리즘에 의하여 작동된다는 사실을 간과해서는 안되므로 자동화 처리로 인한 정보주체의 차별 문제를 해결하기 위한 연구가 필요한 실정이다. 본 논문에서는 알고리즘의 편향성을 알고리즘 설계·제작자가 의도한 경우와 의도치 못한 경우로 나누어 분석하고 차별의 개념 및 정의를 통한 인공지능의 차별에 대한 국내외 사례를 살펴보고자 했다. 인공지능의 차별로부터 어떻게 정보주체를 보호할지 개인정보보호관점에서 바라보기 위하여 EU의 GDPR을 중심으로 분석하고, 현재 인공지능의 불투명성을 알고리즘의 본질로부터 해결하는 방안을 제안했다.