「 자네.. 내가 빅데이터를 그렇게 쓰라고 했나? 」 이 책의 장르는 '스릴러'다.  '기계를 통해 사람들을 점수 매겨 가난이 범죄가 되는 사회' '가난하고 건강하지 못한 사람들에게 더 비싼 보험료를 지불하게 만드는 보험회사들' '이해할 수 없는 알고리즘으로 생성된 대학 랭킹 때문에 학생들의 지갑을 얇게 만드는 대학 총장들' 이 모든 게 수학과 데이터, IT 기술의 결합으로 탄생한 빅데이터 모형 때문이다. 효율성이라는 이름으로 자행되는 차별들은 고작 인간들이 만든 알고리즘 때문에 발생한다. 이 책은 어떻게 빅데이터는 '불평등을 확산하고 민주주의를 위협하는가'에 대한 내용을 담고 있다. <사피엔스>의 저자 '유발 하라리'는 “21세기 인본주의 시대에는 인간의 감정이 최고의 권위를 누렸지만, 미래에는 알고리즘이 우리 삶을 지배할 것”이라고 예측했다. 유발 하라리의 분석처럼 우리는 힘을 가지기 위해 우리 존재를 숫자와 점으로 바꾸고 평가를 알고리즘에 맡기고 있다. 우리는 이런 흐름을 ‘빅데이터’라고 부른다. 빅데이터는 방대한 양의 데이터를 논리적이고 합리적인 알고리즘으로 계산해 인간이 인지하지 못하는 질서와 규칙을 찾아낸다. 따라서 빅데이터 모형은 편견에 사로잡힌 인간보다 공정하며, 개인의 권리와 이익을 보호한다고 알려져 있다. 그런데 <대량살상수학무기>의 '캐시 오닐'은 누가 어떤 목적으로 사용하는가에 따라 알고리즘은 전혀 다른 얼굴을 가질 수 있다고 말한다. 잠깐 페이스북의 알고리즘 조정 사건으로 예시로 들어보자. “페이스북 알고리즘을 조정해 정치 시스템에 영향을 줄 수 있을까?” 페이스북은 이 질문에 답을 찾기 위해 ‘투표 메가폰’이라는 캠페인을 시작했다. 연구진들은 상하원 선거 당일 투표에 참여한 페이스북 이용자가 ‘나는 투표했다’는 게시물을 올리면, 친구들의 뉴스피드에 해당 게시물이 우선적으로 노출되도록 알고리즘을 조정했다. 투표일에만 6100만 명의 페이스북 사용자가 ‘나는 투표했다’는 게시물을 올렸고 이에 자극을 받은 다른 이용자들도 경쟁적으로 페이스북에 투표 인증을 했다. 페이스북은 ‘투표 메가폰’이 약 34만 명의 유권자를 투표소로 더 불러낸 것으로 추정했다. 이는 미국 한 주의 전체 선거 결과뿐 아니라 전국적인 선거 결과에도 영향을 미칠 수 있는 숫자로, 투표 당일 페이스북의 알고리즘을 어떻게 조정하느냐에 따라 선거결과를 바꿀 수도 있음을 뜻한다. 이 책에서는 알고리즘의 힘을 ‘신’ 같은 존재로 비유한다. 알고리즘의 의사결정 과정은 수학과 IT기술로 숨겨져 있어서 일반인들이 이해하기 힘들다. 각 영역의 최고 사제들, 즉 수학자와 컴퓨터 과학자 들을 제외하고는 그 누구에게도 내부의 작동 방식을 알 수 없다. 페이스북의 사례에서 보듯이 오히려 인간은 알고리즘의 결정을 자발적인 선택이라고 믿는다.  이 책을 읽으면서 정말 소름 끼치고 화가 났다. '빈익빈 부익부'라는 고전적인 악습은 빅데이터 알고리즘을 가진 WMD가 관행을 저질렀다. 빅데이터와 인공지능이 가진 파괴적인 힘을 수년간 목격한 '캐시 오닐'은 수학자이자 퀀트, 데이터 과학자이다. 그녀는 이 소름 끼치는 빅데이터의 그림자에 대해 이렇게 말했다. "수학, 데이터, IT 기술의 결합으로 만들어진 알고리즘들은 지금 이 순간에도 곳곳에서 '보이지 않는 손'이 되어 권력을 휘두르고 있습니다. 이런 프로그램들이 '대량살상무기(Weapons of Mass Destruction)'만큼 위험하다고 생각합니다. 그래서 이것들에게 '대량살상수학무기(Weapons of Math Destruction)', 줄여서 WMD란 이름을 붙였습니다." 그럼 이제부터 이 무시무시한 대량살상수학무기(WMD)의 단적인 예시를 살펴보자. '인간에게 점수가 부여된다면?' 넷플릭스 드라마 '블랙미러'에서나 나올법한 '인간 평가'가 지금 이 세계에서도 자행되고 있다. 빅데이터 알고리즘을 통한 신용평가 분석은 재무 정보 외에도 우편번호, 인터넷 서핑 패턴, 최근 구매 행위 등등 온갖 정보를 참고해 모든 사람들의 등급을 매기고 있다. 그들은 소비자로서 잠재적 가치를 측정하기 위해 사용되는 개인의 신용평가 기준으로 급여, 직업, 주거 형태, 총부채, 구매 이력 등을 고려한다. 우리의 눈으로 볼 수 없는 이 점수는 누군가에게는 기회의 문을 활짝 열어주지만, 누군가에게는 코앞에서 문을 쾅 닫아버린다. 예를 들어, 빈민가에 거주하는 대출자에게 낮은 점수가 부여될 확률이 아주 높고, 그들의 컴퓨터 화면에는 대부분 신용카드 대출 팝업 광고이다. 이는 가뜩이나 어려운 사람들에게 신용 한도가 더 적고, 금리가 더 높은 신용카드가 발급된다는 뜻이다. 이러한 약탈적 광고는 e점수라는 알고리즘을 통해 만들어지고 있다. 이뿐만이 아니다. 빅데이터를 통해 사람의 건강지수도 예측할 수 있다. 추후 암에 걸릴 확률이 높은 사람은 아예 보험 가입이 불가능하거나 정상인에 비해 월등히 높은 보험료를 지불해야 한다. 또한, 정보의 빈익빈 부익부라는 이유로 가난한 사람들은 더더욱 많은 보험료를 지불하고 있다. 사회를 위해 헌신하는 '보험'까지도. 이 얼마나 불공정한 프로세스인가.  '억울하게 해고되는 선생님' 정부에서 실시한 이상한 알고리즘을 통해 해고될 위기에 처한 교사가 있다. 정부에서는 교사들을 학생들의 성취도 평가 점수를 교사들의 점수로 평가하고 하위 10%에 속한 교사들을 해고하라는 지시를 내렸다.  그녀는 학생들과 학부모들에게 평판이 좋은 선생님이었지만, 100점 만점에 9점을 맞아 해고될 위기에 처했다. 학생들의 만족도를 고작 성취도 평가 성적 향상으로 평가하니 이런 사태가 발생한 것이다. 하지만 결론적으로 그녀는 하위반 학생과 상위반 학생을 가르치기에 성적 향상이 어려운 케이스였다. 그리고 1년 후, 성적 향상이 쉬운 중위권 학생들을 가르쳤는데 100점 만점에 90점을 받았다. 주관적인 생각이 들어간 알고리즘은 인간의 선택보다는 너무나도 수준이 낮았다.  그래서 우리는 개인이든 기업이든 누가 모형을 만들었는지 그들이 성취하려는 목표가 무엇인지 알아야 한다. WMD 알고리즘은 패배자로 낙인찍힌 사람들이 언제까지나 계속 패배자로 남도록 만든다. 반면 운이 좋은 소수는 빅데이터 경제에 대한 통제력을 갈수록 확장하고 막대한 부를 축적하면서 자신은 모든 특혜를 누릴 자격이 있다고 확신한다. 데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. '누구나 차별 없는 공정한 삶을 살기 위해서' 이 소름끼치는 책을 읽고 나는 단 하나의 결론을 내렸다. "빅데이터를 사용하는 기업들은, 신용평가점수와 e점수를 포함해 대중의 삶에 막대한 영향을 미치는 모형들을 대중에게 공개해 대중도 사용할 수 있도록 해야 한다. 그리고 한 기업의 이익보다는 공정성을 추구하여 모든 사람들에게 공정한 '착한 빅데이터'를 만들어 가야 한다. 앞으로 '억울하게 해고되는 선생님', '가난의 굴레에서 벗어나지 못하는 사람들'을 위해서라도."