인간의 편견이 빅데이터를 만나면 어떤 폐해가 발생할 수 있는지를 고찰한 책입니다. 컴퓨터는 인간에 비해서 더 공평하고 엄밀하게 사회문제를 해결할 것이라는 세간의 믿음과는 다르게, 근거없는 편견을 주입받은 컴퓨터가 불투명한 과정에 의해 무고한 피해자를 양산한다는 점을 지적하고 있습니다.
반응형
구체적으로 말하자면, 범죄를 일으킬 가능성이 높은사람, 빚을 갚을 능력이 안되거나 업무에 부적합한 사람들에게 패널티를 주는 데 있어서, 수학 모형은 인과관계가 검증되지 않은 대리데이터 (거주지역, 의료기록 등)에 의존함으로써 잘못된 판단을 하게 된다는 것입니다. 대부분 알고리즘이 어떻게 결과를 도출해내는지 공개되어 있지 않기 때문에, 피해자 입장에서는 뭐가 문제인지를 알 수 없다는 것이 대량살상 수학무기 (Weapons of Math Destruction, 줄여서 WMD)의 공통적인 특징이라고 합니다.
개인적으로 특히 눈길이 갔던 부분은 영리대학 (혹은 학위공장)에 대한 부분이었습니다. 간단히 말하자면 우리나라의 지잡대와 비슷한 포지션을 가지고 있다고도 볼 수 있겠습니다. 이들은 WMD를 동원하여 저학력, 저소득층을 물색하고, 자신들이 주는 학위로 더 좋은 직장을 구할 수 있다는 약탈적 광고로 타겟을 유혹하지만, 결국 남는것은 학자금대출로 인한 막대한 빚밖에 없다고 합니다. 한국은 모든 대학들이 학부서열에서 자유롭지도 못하고 미국에 비해 땅도 좁으니, WMD를 동원한 만행을 저지르기가 어려워 보이지만, 모르는 일이죠.