새로운 질서

“무한한 가능성과 복잡한 과제들이 혼재하는 미래를 들여다보는 최초의 시도” ―샘 올트먼 헨리 키신저 × 에릭 슈밋 × 크레이그 먼디. 세 거인이 통찰한 AI 시대의 새로운 질서 ● 지배적인 AI 시스템을 최초로 발명한 국가 외 나머지가 데이터를 공급하는 조공국으로 추락한다. ● 통제되지 않은 신기술이 오픈소스로 확산해 상당한 AI 역량을 갖춘 범죄 집단들이 나타난다. ● 오류를 교정하는 과정에서 AI가 ‘잘못된’ 선택을 내릴 수 있는 인간의 자유의지를 위협한다. ● AI가 취향에 맞춰 설계한 세계에 몰입하여 인간이 능동적 주체에서 수동적 소비자로 밀려난다. ● 인간을 대신하여 탐사하는 AI가 적대적인 외계 지능과 접촉하여 인류 문명의 종말을 초래한다. “최초의 초지능이 도래하기까지 수년, 수개월, 수주, 수일이 걸릴지 모르지만, 인류의 존망을 좌우할 딜레마가 기다리고 있다.” 『새로운 질서』는 챗GPT가 출시되기 4년 전인 2018년, 아직 인공지능이 초미의 관심사로 오르기 전부터 그 위험성을 예견한 헨리 키신저(미국 전 국무장관)가 기술 전문가 에릭 슈밋(구글 전 CEO), 크레이그 먼디(마이크로소프트 전 연구 책임자)와 함께 AI 시대의 미래상을 뚜렷하게 전망한 책이다. 더불어 샘 올트먼(오픈AI CEO), 데미스 허사비스(딥마인드 CEO), 다리오 아모데이(앤트로픽 CEO), 무스타파 술레이만(마이크로소프트AI CEO) 등 업계의 선두자들이 여기에 중요한 정보와 통찰을 제공했다. 물리학·화학·생물학은 물론 지정학·역사·철학까지 AI의 영향력이 닿는 모든 분야를 철저하게 살핀다. 이 신기술은 얼마나 똑똑해질 수 있는가? 앞으로 전쟁은 어떤 양상으로 펼쳐지는가? AI가 어떻게 인간을 대체하고, 더 나아가 어떻게 인간의 지위를 위협하는가? 다양한 질문을 던지고 답하며, 우리가 기계 기술과 공생하는 인간종 ‘호모 테크니쿠스’로 바람직하게 진화할 건설적인 방법을 모색한다. “대부분 AI가 무엇을 할지 이야기할 때, 논의의 프레임을 훌륭하게 재설정한다” ―파리드 자카리아 일자리를 빼앗기는 것보다 더 중요한 근본적인 패러다임의 변화를 전망하는 책 “AI로 대체할 수 없는 업무임을 입증하지 못하면 신규 채용을 하지 않겠다”(쇼피파이 CEO 토비 뤼트케). AI에 의한 일자리 대체가 큰 문제로 대두되는 오늘날, 이 책은 그런 단순한 걱정에서 한 걸음 더 나아간다. 오히려 AI는 우리가 더는 하지 않아도 되는 일을 대신 맡으며, 인간은 직업 상실이 아닌 노동 해방을 이루고, 결핍에서 풍요로 경제의 근간이 달라질 것이다. 저자들이 우려하는 바는 일하지 않고서도 원하는 것을 가질 수 있을 때에 나타날 인간의 수동성이다. 고역이면서도 동시에 충만함과 즐거움의 원천이 되는 노동을 기계가 앗아간다면 인간은 어떻게 자기 역량을 발휘할 것인가? 한편 AI는 전쟁과 안보의 패러다임도 바꾼다. 책에서 제시하는 한 가지 시나리오는 AI가 대리인으로 나서 인간을 전쟁에서 완전히 제외하는 것이다. 데이터센터와 디지털 인프라가 AI의 공격을 촉발하고, 인간 사상자를 줄이면서도 잠재적으로 전쟁의 결정력은 줄이지 않는다. 전쟁은 순전히 기계의 치사율을 다루는 게임으로 변질되며, 병사의 용맹함이나 애국심과는 무관한 양상으로 그 성격이 완전히 바뀐다. 저자들은 AI가 초래한 분쟁을 과연 무엇이 끝낼 것인지 물으며, 평화와 안녕을 보장할 새로운 길을 찾는다. “AI는 도구가 아니라 행위자다” ―유발 하라리 초인적인 기계 지능 앞에서 ‘인류’를 재정의하는 시급한 현안에 답하다 AI 슈퍼컴퓨터는 인간 뇌보다 정보 처리 속도가 1억 2000만 배 빠르다. 더 방대한 양의 정보를 소화하고, 동시에 제시되는 요청을 훨씬 더 많이 처리한다. 그러한 AI에 우리는 번역, 이미지와 영상 생성, 코딩 등 인간의 다양한 능력을 학습시키고 있으나, 이 책은 그보다 근본적이고 가장 시급한 과제를 말한다. 과학계에는 모든 AI 시스템에 고유한 안전장치를 설치하는 일이고, 우리에게는 인간의 ‘존엄성’을 현대적이고 지속 가능하게 정의하여 전달하는 일이다. ‘인류란 무엇인가’를 올바로 정의하고 합의하지 않으면, AI가 특정한 방법으로 존엄성을 침해하고 이를 정당화할 수 있다. 아니면 AI가 충분한 능력을 부여받아 존엄한 존재가 되어 인간을 완전히 대체할 수도 있다. 저자들은 인간의 취약성과 실패할 잠재력, 생명력과 자유를 담아 우리가 출발점으로 삼을 새로운 정의를 제시한다. 『새로운 질서』는 오늘날 AI 기술이 도달한 영역을 알기 쉽게 설명하는 과학서이자, 완전히 달라질 인간의 조건을 탐색하는 철학서다. 인공지능이 무슨 위험을 초래할지 사려 깊게 다루며 그저 공포를 조장하기보다는 해결책까지 제시하면서 구체적인 미래상을 탐색한다. AI 이후의 세계질서를 고민하는 글로벌 리더는 물론이고, 당장 AI 에이전트로 자동화된 현장의 한가운데 있는 각 분야의 실무진, 자연스레 챗GPT와 더불어 논문을 쓰고 공부하는 학생에 이르기까지, 다가올 시대에 진심인 모두가 읽어야 할 책이다.