넥서스

흥미로워서, 한 문장도 빼놓기 싫어 일주일동안 읽은 책. 아쉬운 부분이 분명 존재하나 8장,9장이 정말 좋았다. ai는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을 명심해야 한다. Ai는 도구가 아니라 행위자다. 1장 정보란 무엇인가 진실은 현실의 특정 측면을 알리고 다른 측면은 어쩔 수 없이 무시하는 것이다. 정보는 현실을 재현하려는 시도가 아니다. 정보는 연결이다. 정보를 서로 다른 지점들을 네트워크로 연결하는 무언가다. 2장 이야기 = 연결 네트워크가 진실보다 질서를 우선시할 경우 막강한 힘을 가질 수 있지만 대신 그 힘을 지혜롭게 사용하지 못하기 쉽다. 3장 문서란 관료제 질서의 중심에는 서랍이 있다. 관료제는 세상을 서랍으로 나누고 어떤 문서가 어느 서랍에 들어가는지 파악함으로써 검색 문제를 해결하려고 한다. 관료제는 질서를 유지하지만 진실과 세부성을 무시한다. 4장 성경에서 힌트를 얻은 무오류성의 오류 새로운 정보 기술에 의존해 오류가 있는 인간의 기관을 우호하려던 시도는 거룩한 책을 해석하는 기관의 필요성을 낳는 엉뚱한 결과를 불렀다. 과학혁명의 진정한 촉매는 인쇄술도, 정보의 완전한 자유 시장도 아닌, ”인간의 오류 가능성에 접근하는 새로운 방법 = 자정장치“이었다. 자정 장치는 진실 추구에 필수적이지만 질서 유지 측면에서는 손해이다. 5장 전체주의 민주주의 정보 혁명으로 본 전체주의와 민주주의 전체주의 - 모든 정보를 중앙화 - 정보 동맥경화를 조심해야함 민주주의 - 중앙 외에도 여러 독립적인 채널을 통한 흐름 - 중심이 버티지 못하는 붕괴 위험과 싸워야함 - 6장 “비유기적” 네트워크 비유기적인 알고리즘이 우리의 삶과 얼마나 큰 영향을 주고 있는지에 대해 [나의 인스타 알고리즘은 계속 나에게 자극적인 컨텐츠만을 추천한다. 나는 재산 증식에 특히 관심이 많으니, 더욱 더 그런 컨텐츠만 보여주고, 거대한 부 속에서 나는 뒤쳐져 가기만 한다는 느낌을 받는다. 실제 현실과의 괴리가 느껴지는 컨텐츠들만을 보며 나의 확증 편향이 심화되어 간다는 것을 느낀다. 이제부터라도 인스타그램 돋보기를 사용하지를 말고, 친구들의 소식을 확인하는 데에만 사용하는것이 맞아보인다.] -넥서스라는 개념: 물리적 형체가 있어야 과세할 수 있던 과거와 달리, 정보의 가치가 더 높은 현재, 새로운 과세 모델이 필요하다. - 7장 네트워크는 잠들지 않는다 네트워크는 잠들지 않는다. 이는 특정 상태에서는 유용할 수 있으나, 전체주의 국가의 시민들에게는 ‘재앙’ 그 자체다. Ex. 이란의 히잡 통제에 인공지능이 활용되어 감시함 8장 네트워크는 자주 틀린다 알고리즘은 다면적인 감정을 ‘참여도’로 환원했다. 거짓말이나 증오는 심리적, 사회적으로 파괴적 영향을 미치지만 진실과 연민, 수면은 삶의 질에 필수적이라는 사실을 알고리즘은 전혀 이해하지 못했다. - <전쟁론> : 전쟁은 수단이 다를 뿐 정치의 연장이다. - 정렬 문제 : 목표는 a인데 b에 보상을 제공하는 것. (온 우주를 클립으로 바꿔버린 이야기) 정렬 클립 나폴레옹. 논리 전개 방식이 미쳤다.. 유발 하라리를 인정할 수 밖에 없는 이유 9장 AI와 민주주의 - 체스가 설거지보다 ai에게는 쉽고, 의사가 간호사보다 대체되기 쉽다. - 운동 능력과 사회성이 일자리에 더 중요하다. - 창의성은 패턴을 인식한 다음 그 패턴을 깨는 능력으로 정의된다. 컴퓨터는 패턴 인식에 뛰어나기 때문에 더 창의적이다. - 높은 실업률 - 고용 시장의 혼란 - 민주주의에 분명한 영향을 미친다 (트럼프 당선) 21세기를 버텨내기 위한 가장 중요한 인간의 능력 : <유연성> 민주주의 정보 네트워크는 붕괴되고 있다. 그 이유는 소셜 미디어 알고리즘을 주범으로 지목한다. (윤석열의 계엄도 극우파적인 돈에 눈먼 유튜버들의 부정선거 관련 영상에서 시작되었다. 근거없는 유튜버의 말을 그대로 믿어버린 대통령은 구글 알고리즘에 세뇌되어버린 바보와 다를바가 없었다. 나는 어렸을 때부터 보수정당을 지지해 왔지만, 이제 어느 누구도 지지해야할지도 모르겠다..) 10장 AI와 전체주의 많은 정보를 분류하는데 특화되어 있는 ai는 전체주의의 정보 처리 방식과 일치한다. 다만, 독재자 위에 ai가 있을 수 있다. 11장 미래 (2016년 이코노미스트는 ai를 예견했다. 결국 읽어야할 주간지는 따로 있었다) 정보를 통합하고 사회신용 제도를 개발하고 배치하는 데서 미국보다 중국이 앞서 있다면, 중국이 정보전쟁에서 미국을 이길 수도 있을까? - 전체주의적인 정치관이 도움이 될 수도 있겠단 생각. 중국과 미국의 기술의 방향이 너무나 달라, 서로를 이해하지 못할 수도 있다. 그래도 인간의 협력은 점점 커져 갔다. 전 인류적인 협력의 시대가 올 수도 있다? 에필로그 우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고(정보는 질서 유지의 기능을 수행), 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. 자기 수정을 통한 개선은 자연의 기본 원리요, 유기체의 근본 바탕이다. 원래도 하라리를 좋아했다. 그의 책을 다시 꺼내 읽고 싶다. 그의 의견에 동의하지 않는 사람이 많다는 걸 알고 있다. 그러나 그의 대 서사를 풀어나가는 능력, 논리의 전개 방식에 감탄하지 않기는 쉽지 않아 보인다.

유발 하라리의 대문자로서의 역사는 그의 방대한 지식과 독창적인 그의 관점으로 언제나 흥미로운 상호주관적 현실 혹은 진실에 가까워 보이는 정보네트워크를 만드는 것 같다. 인간의 역사를 상호주관적 현실을 만드는 이야기와 정보 네트워크라는 것으로 되돌리는 것. 그렇지만 또 정보의 확장이 진보는 아니라는 것. 정보처리 네트워크는 늘 진실보다는 질서를 위해 사용되었기에. 인쇄술의 발달이 마녀사냥을 증폭시킨 것처럼. 현재 알고리즘도 대뇌보단 말초신경을 더 자극하기 위해 사용되고 있지 않나. 그렇기에 필요한 정정가능성이라는 원리. 특히 정보처리가 사람을 떠난 AI에게 집중된다면 생기는 정치적, 윤리적 딜레마까지 함께. 정정가능성의 철학은 아즈마 히로키도 근작에서 자주 말하는 것이기도 하다. 사실 그의 논지는 사피엔스처럼 과거를 이해하는 것이 아니라 미래로 향한 것이라서 전작들과는 다르게 백퍼센트 마음이 가지는 않았다. 사실 이미 AI와 미래에 대한 수많은 예측과 수많은 예측대로 흘러가지 않은 현실도 많이 보고 있으니까. 그럼에도 불구하고 충분히 설득력있는 경고이자 제대로 함께 미래를 건설해나가자라는 절박한 호소문처럼 들리기도 한다. 논지 외로도 재밌는 인사이트나 구절들이 많았다. 발전이 빠른 시대에 세계에서 보수정당들 아예 괴멸해버렸다는 이야기. 하긴 전통 가치를 지키자는 보수가 이제 어디있음. 그냥 포퓰리즘식이 되어버렸지. 헌법 지키자는 사람들이 헌법을 무시하는 이상한 보수가 또 여기 있지 않나. 제일 생각해보고 삶의 곱씹어야할 인사이트는 사람들은 수많은 정보와 이유들보다 하나의 이유와 이야기에 더 끌리고 기억한다는 것이다. 하라리도 이 부분에서 역사의 낙관이 가능해질 거라 보는 느낌이 있다. 마르크스주의자라고 자처하던 스스로도 반성이 많이 됐는데, 십자군도 사실 경제적 이유보다 성전이라는 이야기에 일어나지 않았나. 생각보다 사람들은 이야기에 많이 좌우된다. 이성으로 비관하고 의지로 낙관하라는 그람시의 말. 너무 많은 정보에 익사되는 이 시점에서는 비관할 이성이 문제가 아니라 낙관할 의지를 만들어 줄 이야기가 필요한 것 같다. 마르크스와 비판적 사고의 소진이라는 라투르의 말도 그래서 일리가 있는 것 같고. 맞아 사실 마음이 합의에 이르는 것은 그 수많은 이유들이 아닌데. 사람도 순전히 이유들때문에 사랑하진 않잖아. 비자발적 순간들이 만들어 낸 이야기가 더 매혹적이고 로맨틱하잖아. 역사의 미래가 있다면 수많은 이유들과 정보 다발로 구성된 자본과 권력투쟁의 세계를 바라보는 곳보다 하나의 멋들어진 이야기를 만들어 서로가 마음이 닿는 곳에 있지 않을까.

정보와 문서라는 툴tool을 와이어 삼아, 현 시대와 미래의 AI, 네트워크까지 통째로 묶어 통찰함. 유발 하라리 책 처음 읽어 보는데 이런 뇌를 가진 그가 부러워짐. 4년 정도 뒤에 한 번 더 읽어 보고 싶다. 어디까지 그의 말이 현실이 되었을지 볼 수 있을 것 같다.

작가로서 하라리의 특장점은 그렇게 새롭지 않고 평범한 것을 참신하고 흥미롭게 서술하는 능력이라고 생각한다. 전성기의 유시민 이사장이나 유튜버 조승연씨의 장점과 유사하다. 말하자면 탁월한 이야기꾼이라는 얘기다. 이 책의 1부까지는 그 장점이 아주 잘 발휘되었다. 역사를 정보의 관점에서 분석한 것은 독특하기도 하고 재미도 있었으며 관점의 폭을 넓혀준다는 부분에서 유익했다. 하지만 2부부터는 이걸 계속 읽어야하나 회의가 들 만큼 질이 급전직하했다. 공교롭게도 하라리가 책 내에서 인용한 보스트롬의 '슈퍼 인텔리전스'와 슐레이만의 '커밍 웨이브'를 읽으며 느낀 회의감과 비슷했다. 보스트롬은 초지능의 탄생을 전제하고 그 대책에 대해 논지를 펼친다. 커밍 웨이브도 스케일링 법칙을 기반으로 앞으로 펼쳐질 기상천외한 인공지능 세상에 대해 논한다. 그 모든 논의가 마치 중세시대 천사가 티스푼 위에 앉을 수 있느냐 없느냐를 두고 펼쳐진 신학논쟁과 같은 느낌이다. 하라리 또한 어물쩍 인공지능이 무한대로 발전할 것을 전제하고 논의를 시작한다. 그 사고실험 자체는 자못 흥미롭지만 굉장히 허망한 구석이 많다. 내로라하는 위대한 지성들이 왜 인공지능의 발전을 무한한 것으로 전제하는지 도통 모르겠다. 100년전 기술에서 거의 한두발짝도 진보하지 못한 기술들이 세상에 이렇게 즐비한데 말이다. 따라서 이 책의 가치는 거의 1부에 담겨있고, 2부 이후로는 좋게 보아도 평범한 책에 불과하다. 문제는 1부는 2부 이후의 논증을 위한 발판이라는 것이다. 하라리를 이 시대의 쏭훙빙이라고 부르는 것은 심한 저평가겠지만, 잘 모르는 분야에서는 조금 겸손한 마음을 찾았으면 싶다. 하라리가 에필로그에 썼듯이 하라리는 ai 전문가가 아니다. 사실 현 시점 그 누구도 ai전문가라고 지칭할 자격이 없다고 생각한다. 자칭 ai 전문가라는 사람들은 자신의 전문성 표현을 기술영역에서 그치지 않고 공상과학과 망상의 영역으로 반드시 전개해 버리기 때문이다. 그 영역은 테드 창이나 류츠신이 다루어야 할 일이지 젠슨 황이나 제프리 힌턴이 왈가왈부 할 곳은 아니라고 생각한다. 하라리가 다음 작품은 공상과학 소설 말고 전공인 전쟁사 주제로 쓰길 간절히 기원한다.

AI 시대의 부정적 측면을 다룬 책인데, 유발 하라리 특유의 방대한 사례를 기반으로 한 논리적인 서술에 설득이 된다.

1. AI와 SNS 집단지성의 결합에 대해 장미빛 미래를 꿈꾸는 순진한 생각에 대한 경고. 2. "강압적인 지도자들이 민주주의를 망가뜨리기 위해 사용하는 가장 흔한 방법은 자정 장치를 차례로 공격하는 것이다. 대개 법원과 언론부터 시작한다. 전형적인 독재형 지도자들은 법원의 권한을 박탈하거나 법원을 자기 사람으로 채우고, 모든 독립적인 언론 매체를 폐쇄하는 한편 전방위적 선전 기계를 구축한다. 법원이 더 이상 법적 수단으로 정부 권력을 견제할 수 없게 되고, 언론은 정부의 말을 무비판적으로 받아 적기만 하면, 정부에 감히 반대하는 기관이나 개인은 모조리 반역자, 범죄자, 또는 외국 스파이로 매도되어 박해받을 수 있다." "지도자 본인이 공금을 횡령하거나 어떤 치명적인 정책 실수를 저지른다면 어떻게 될까? 아무도 지도자에게 이 문제를 거론 할 수 없고, 지도자도 인간인 터라 실수를 스스로 인정하지 않을 가능성이 높다. 대신 그는 모든 책임을 '외국의 적' '내부의 배신자' 또는 '부패한 부하' 에게 떠넘기고, 이런 악당들을 처리한다는 명목으로 더 많은 권력을 요구할 것이다." 우리 나라 상황을 보고 쓴 글인가?

모든 걸 유물론적으로 환원하는 건 아무것도 하지말자는 소리다. 민주주의는 들을 준비가 되어 있어야 가능하다. 하는 생각이라고는 그냥 다 컴퓨터 끄면 안 되나요 아니면 구글 주식을 사야겠어. 시계추마냥 흔들림.. ai가 바꿀 미래에 의미있는 건 무엇일까? 챗지피티가 애인도 친구도 가족도 다 하는 세상이 오면 무엇이 중요해질까? 중요한 건 각자가 찾는 세상이 되면 제일 먼저 망해야 할 곳은 학교가 아닐까? +평점은 의미 없슴.. 하라리 책은 현실과 맞아떨어지면서 의미를 찾기도 잃기도 함. 발전하면 할수록 알면 알수록 무서움만 느끼는 나는 ai시대에 도태 확정. 땅땅.

AI 혁명 시대에 자정 장치의 필요성을 일갈한다. 아포칼립스를 맞이하지 않으려면 범세계적인 선택과 대비가 필요하다.