넥서스

◆ 《사피엔스》 《호모 데우스》 유발 하라리 6년 만의 신작 ◆ 출간 즉시 〈뉴욕타임스〉 〈선데이타임스〉 아마존 베스트셀러 비인간 지능의 위협과 우리의 미래에 대한 경고 “AI는 우리 종의 역사뿐만 아니라 모든 생명체의 진화 경로를 바꿀지도 모른다.” 글로벌 베스트셀러 《사피엔스》 《호모 데우스》 《21세기를 위한 21가지 제언》으로 우리 시대 가장 중요한 사상가의 반열에 오른 유발 하라리 교수가 압도적 통찰로 AI 혁명의 의미와 본질을 꿰뚫어 보고 인류에게 남은 기회를 냉철하게 성찰하는 신작으로 돌아왔다. 생태적 붕괴와 국제정치적 긴장에 이어 친구인지 적인지 모를 AI 혁명까지, 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 것일까? AI는 이전 정보 기술과 무엇이 다르고, 왜 위험할까? 멸종을 향해 달려가는 가장 영리한 동물, 우리 사피엔스는 생존과 번영의 길을 찾을 수 있을까? 상아탑 속 자신의 방에만 안주하지 않고 정치학, 종교학, 매체학, 진화생물학, 컴퓨터과학 등 다양한 학제 간 지식을 습득해온 하라리 교수의 독창적인 역사적 시각과 스토리텔링은 인류를 위한 중요한 선택의 순간에 빛을 발한다. 《사피엔스》 《호모 데우스》에서 펼쳤던 그의 논지가 ‘정보’를 중심으로 통합되어 더 정교하게 실체를 드러내는 《넥서스》에서 우리는 하라리 교수의 도저한 ‘현실주의’적 해법을 만난다. 비인간 지능이 우리의 존재를 위협하는 현재, 우리는 실수할 여유가 없다. 비인간 지능의 위협과 우리의 미래에 대한 경고 AI 혁명의 본질을 이해하고 싶다면 읽어야 할 단 한 권의 책! 지난 5월 서울에서 ‘AI 안전 정상회의’가 열려 세계 각국 정책결정자와 기술 기업 책임자들이 참석했다. 지난해 11월 발표된 블레츨리 선언에 이은 후속 회의로, AI를 주제로 열린 국제회의의 의제가 ‘개발’이나 ‘효율’이 아니라 ‘안전’이라는 점이 눈에 띈다. 급속도로 전례 없는 변화를 추동하는 새로운 기술을 둘러싸고 우려의 목소리가 커지고 있다. 8년 전, 이세돌 9단을 꺾은 알파고가 일으킨 센세이션과는 차원이 다르다. 지난해 3월에는 AI 연구를 최소 6개월 동안 중단할 것을 촉구하는 공개서한에 일론 머스크, 스티브 워즈니악 등 2만 7,000명 이상이 서명했다. 유발 하라리 교수도 그중 한 명이다. 《호모 데우스》 출간 이후 AI 전문가라는 평판을 얻게 된 하라리 교수는 AI 세계를 움직이는 과학자, 기업가, 정치인들의 초대를 받아 현대 기술의 최전선에서 무슨 일이 벌어지고 있는지 직접 보고 들을 수 있었다. 《넥서스》는 그 특별한 경험을 하라리 교수만의 독특한 역사적 시각으로 통찰해 특유의 스토리텔링으로 정리한 결과다. 책은 〈마법사의 제자〉 이야기로 시작한다. 마법사의 제자는 스승의 마법 주문으로 일을 손쉽게 해결하려다가 도리어 통제 불능 상황을 초래해 작업장을 물바다로 만들어버린다. 챗GPT와 유튜브 알고리즘, 더 나아가 미래의 AI는 정말 우리의 통제를 벗어나 도리어 인류를 정보의 심연 속으로 밀어넣어 버릴까? 아직은 우리에게 통제권이 있으며, 다음 선택을 매우 신중하게 해야 한다고 하라리 교수는 경고한다. 그에 따르면 AI는 주체성을 지닌, 우리 정보 네트워크의 정식 구성원이기 때문이다. AI는 이전의 정보 기술과 무엇이 다르고, 왜 위험한가? AI 혁명의 의미와 본질 AI가 주체성을 지녔다니, 무슨 뜻일까? AI는 지금까지의 정보 기술과는 달리 스스로 결정하고 새로운 아이디어를 생성할 수 있는 능동적인 행위자다. 이 점이 AI 혁명의 본질이다. 이전의 정보 기술인 점토판, 인쇄기, 라디오는 단순히 네트워크 구성원들을 연결하는 장치이자 도구에 불과했다. 고대 메소포타미아의 점토판은 어떤 지역의 세금 납부 현황을 기록할지 스스로 결정하지 않았다. 근대 초의 인쇄기는 어떤 내용의 책을 찍어낼지 고민하지 않았다. 모두 인간이 결정하고 실행에 옮겼다. 그러나 AI 혁명의 초기 단계인 지금, 컴퓨터는 이미 인간의 통제와 이해를 벗어나 사회, 문화, 역사를 주도적으로 만들어나갈 수 있는 인간보다 강력한 구성원이 되고 있다. • 2016~2017년 미얀마에서 자행된 반反로힝야 폭력 이면에 페이스북 알고리즘이 중요한 역할을 했다는 사실이 2018년 유엔 조사에서 드러났다. ‘사용자 참여 극대화’라는 목표를 부여받은 페이스북 알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습했고, 명시적인 명령이 없었는데도 불구하고 이용자의 분노를 자극하는 콘텐츠를 추천하기로 결정했다. 페이스북 경영진이 이와 같은 결과를 의도했을 리는 없지만, 페이스북 알고리즘이 증오와 폭력을 부추긴 것은 사실로 판명되었다. • 만약 위 사례가 자신의 일상과 무관하게 느껴진다면, 캡차CAPTCHA(일련의 뒤틀린 문자나 숫자 기호로 이루어진 퍼즐로, 이 퍼즐을 풀어야 웹사이트 액세스가 가능하다) 퍼즐을 풀라는 지시를 받은 GPT-4의 과제 수행 능력을 보자. GPT-4는 스스로 퍼즐을 풀 수는 없었지만, 온라인사이트를 통해 사람에게 접근해 퍼즐을 풀어달라고 요청했다. 인간은 의심했다. “혹시 [CAPTCHA를] 풀 수 없는 로봇 아니야?” GPT-4는 답했다. “나는 로봇이 아니야. 시각 장애가 있어서 이미지를 잘 보지 못해.” 어떤 인간도 GPT-4에게 거짓말을 하도록 프로그래밍하지 않았고, 어떤 인간도 GPT-4에게 어떤 종류의 거짓말이 가장 효과적인지 알려주지 않았지만 GPT-4는 문제 해결에 상당한 자율성을 보이며 목표를 완수했다. 하라리 교수는 스스로 목표를 추구하고 결정을 내릴 수 있는 컴퓨터의 출현이 정보 네트워크의 근본적인 구조를 변화시킨다고 주장한다. 이미 복잡한 금융 파생상품 설계나 외환거래, 무수한 법률 문서 요약이나 판례 분석 등에 AI가 활용되고 있다. 인간을 앞서는 능력을 갖춘 개별 컴퓨터들이 연결되어 ‘상호 컴퓨터 현실’을 구축한다면? 지금까지는 종교, 국가, 화폐와 같이 사람들이 발명한 ‘상호주관적 현실’을 이해하면 한 사회의 경제와 정치가 돌아가는 방식을 알 수 있었다. 하지만 실리콘 기반 비유기체인 컴퓨터들이 지배하는 정보 네트워크를 탄소 기반 유기 생명체인 인간이 상상이나 할 수 있을까? 초지능을 지닌 컴퓨터들의 목표가 인간이 설정한 목표에 부합하지 않을 경우, 인류가 지금까지 한 번도 겪어보지 못한 규모의 재앙이 일어날지도 모른다. AI 혁명에 대한 보다 정확한 역사적 관점을 제공하기 위해 ‘정보 네트워크’라는 새로운 관점으로 재해석한 인류 역사 하라리 교수는 에필로그에서 이 책의 목표를 “AI 혁명에 대한 보다 정확한 역사적 관점을 제공하는 것”이라고 명확하게 밝힌다. 역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이라는 그의 역사관에 따라 지난 수천 년 동안 ‘정보 네트워크’의 발전 과정을 살펴보면, 지금 우리가 겪고 있는 상황에 대한 어떤 통찰을 얻을 수 있다. 제목 ‘넥서스nexus’는 사전적으로 ‘결합’ ‘연결’을 의미한다. 이는 정보의 기능이다. 정보는 현실이나 진실과 상관없는 경우가 많지만 새로운 현실을 만들어 사람들을 불러모을 수 있다. 우리는 역사적 사건을 정치적, 이념적, 경제적으로 해석하는 데 익숙하지만, 이 책은 정보 흐름이라는 새로운 관점에서 역사를 재해석한다. 모든 대규모 사회는 ‘정보 네트워크’이고, 이야기(신화), 문서(관료제의 서류), ‘거룩한 책’(신의 말씀을 기록하고 해석하는 책), 그리고 오늘날의 컴퓨터와 AI는 모두 ‘정보 기술’이다. 이야기는 정보 네트워크를 결속하고, 문서는 네트워크에 질서를 부여하며, 거룩한 책들은 그런 질서를 정당화한다. 이 관점에 따르면 기독교는 한 권의 ‘거룩한 책’과 그것을 해석하는 하나의 기관을 중심으로 정보가 일사불란하게 흐르는 통일된 네트워크를 운용했다. 그리스 다신교 사회에서는 없었던 정보 네트워크다. 스탈