인공지능의 편향과 챗봇의 일탈

인공지능의 발전이 늘 옳기만 할까 ‘옮긴이의 말’에서부터 소개하는 대로, 챗봇은 그 출시와 함께 많은 관심을 받았고 동시에 많은 이로부터 비판의 목소리로 가득한 소요들을 일으키며 논란의 중심에 서 왔다. 챗봇의 운영 기반이 되는 인공지능이 특히나 우리나라에서 강한 파급력을 지녔던 것은 이세돌을 꺾었던 알파고의 파급력 때문이라고 해도 과언이 아니다. ‘인간을 이긴 인공지능’이라는 수식어로 인해 인공지능은 가장 올바르고 공정한 판단을 할 것이라는 기대감은 커져만 갔지만, 실상은 그것과 달리 다양한 문제들을 일으키는 ‘말썽쟁이’로서의 면모 또한 ‘착실히’(?) 쌓아 가고 있다. 문제는 인공지능이 빅데이터에 기반하고 있다는 사실이다. 인공지능의 능력을 바둑의 영역에 한정한다면 기보의 누적에 의해 이루어지는 딥러닝 방식으로 인하여 확실히 좋은 결과를 이룰 수 있다. 그러나 우리의 언어는 ‘지금 여기’라는 특정한 사회 문화적 맥락에서 진행된다. 테이 사건은 데이터의 축적만으로는 해결될 수 없는 문제가 엄연히 존재한다는 점을 상징적으로 보여 준다. 다시 말해, 인공지능이 늘 사회적으로도 좋은 결과를 가져오지만은 않는다는 것이다. 인공지능의 발전이 모든 방향에서 늘 옳다고만 할 수는 없다. 다가오는 인공지능에 대해 무작정 환영하기 보다는 어떠한 태도로 인공지능을 바라보고 감시하며 받아들여야 할지에 대해 경각심을 일깨운다. 사실 인공지능에게 조금의 공정성을 기대한다면, 이 기술을 바라보고 개발하는 인간이 먼저 공정해야 하지 않을까. 인공지능 챗봇의 오늘, 우리의 내일을 묻는다. 이 책은 고도로 발전한 인공지능의 친근한 사례로 챗봇 ‘이루다’를 소개한다. 이루다는 순식간에 많은 사람들의 이목을 끈 동시에 논란을 일으키며 자신의 무대에서 퇴출당했다. 이렇게 순식간에 성장했다고 급작스럽게 몰락한 원인은 이루다 자체가 윤리적인 기준을 가지지 못했다는 것이고 따라서 그 스스로 혐오에도, 성희롱에도 아무런 저항이나 반대를 할 능력을 갖지 못했기 때문이다. 무엇에도 저항하지 않은 이루다에게는 잘 받아주는 것이 자신만의 기준인 것처럼 행동한다. 책의 1부에서 지적하는 인공지능의 ‘편향성’ 문제로부터 기인한 것임을 어렵지 않게 파악할 수 있다. 인공지능 기술이 발전하는 만큼 챗봇과 개발사의 윤리적 기준과 능력이 발달하는 방법은 무엇일까. 지속적으로 터져나오는 문제들을 규제하거나 보완하는 방법은 없을까. 책의 1부 인공지능의 편향성 문제에 대한 직접적인 문제들을 다루는 챗봇의 문제는 보다 구체적으로 오늘 우리의 윤리적인 문제들을 묻게 한다. 성숙하지 못한 챗봇이 성숙하지 못한 사회의 윤리적 기준을 완곡하게 보여 준다고 할 수 있다. 이 책을 통해 우리가 반성할 수 있는 바는 명확해 보인다. 인공지능 자체의 문제를 지탄할 것인가 아니면 인공지능의 개발을 담당하고 그 기술을 활용하는, 더 나아가 우리의 삶의 중요한 일부로 자리를 잡아 갈 새로운 기술을 받아들이는 오늘의 우리 스스로의 책임과 윤리를 돌아볼 것인가. 독일의 철학자 마르틴 하이데거는 올바른 질문이 올바른 정답을 이끈다고 말했다. 새로운 시대에 앞서 인공지능의 오늘은 올바른 질문을 던지길 촉구한다. 그리고 이 책을 통해 많은 사람이 우리가 가져야 할 책임과 윤리에 관한 올바른 질문을 던져 보는 계기가 되길 기대한다.