Coded Bias

알고리즘은 인공지능을 탄생시켰고, 새로운 시대를 열고 있다. 그러나 새로운 시대가 무조건 더 좋은 방향으로만 발전하는 것은 아니다. 편향적인 데이터에 노출된 인공지능은 편견을 갖게 된다. 하나의 편견에서 시작된 알고리즘이 더 강한 편견으로 이어지며, 극으로 치달은 편견을 가진 인공지능을 만들어낸다. 그리고 인공지능은 자신을 이용하는 사람들을 차별한다. 마치 인간처럼 말이다. 광고, 검색, 동영상 추천 등 우리의 인터넷 환경에서 너무도 쉽게 접하는 알고리즘이지만, 마냥 편리하고 좋을 줄 만 알았던 기술에 치명적인 단점이 발견되면서 기술의 발달로 인해 이상적인 세계로만 나아갈 줄 알았던 기술이 실제로는 더 편향적이며 비윤리적인 상황에 놓일 수 있음을 경고한다. 기술적 발전이 가져다주는 편리가 인간 모두의 존엄성을 해칠 수 없도록 기계에 대한 맹목적 신뢰를 경계하고, 비판적인 시각으로 꾸준한 견제와 감시가 필요한 시점이다.

소수에 포함되지 않는 모든 사람들은 이 전방위적인 전쟁에 목소리를 보태야 한다. 대화 상대가 아직은 설득이 가능한, 완벽히 효율적이지 않은 대상일 때.

세상은 여자가 바꾼다

기술의 진보가 세상을 퇴보시켰다.

인간과 달리 기계(a.i)는 무결할 것 처럼 생각하는 이들이 있다. 결국 모든 기술을 만들어 내는 것은 사람의 몫이고 의도하건 하지않았건 그 혹은 그녀의 생각들이 반영되기에, 상상하는 무결하고 중립적인 미래 비전은 사실이 아니란 생각이 든다. 심지어 이젠 개발자들도 알고리즘 작동 방식을 예측하지 못한다고하니 불완전한 인공지능으로 인한 디스토피아 비전도 상상 가능한 영역이 아닐지.

알고리즘은 정의가 없다. 알고리즘이 정의한 데이터 기반은 결국 사람에게서 나온 것. 완벽하지 않은 사람에게서 뽑은 불안정한 데이터로 완벽한 것을 실현하려는 모순.

막연히 인공지능은 많은 데이터를 학습하고 분석해서 판단을 내리니까 공정할꺼라 생각했지. 주어진 데이터부터 편향적 성향을 띄고있기 때문에 알고리즘은 개발 단계부터 잘못된 거였구나. 현재 진행중으로 쟁취하고 있는 평등을 알고리즘 분석 결과 하나로 손쉽게 무너뜨릴 수 있는데, 기술의 발전에 비해 관련 법 제정은 더디기 때문에 우리는 항상 깨어있고 의식해야 한다. 옆나라 중국만 봐도 알 수 있겠지.

문득 기억나서 주는 만점 ai 무섭다