AGI, 천사인가 악마인가

상식 차원에서 읽어볼만 하지만 깊은 통찰을 얻기엔 다소 평이하다.

지식 인사이드를 보고 이 책을 본다. 프랑켄슈타인을 읽고 느꼈던 서글픔이 다시금 몰려온다. 그땐 괴물을 죽일 수라도 있었지... 기술자본주의의 끝이 공멸이지 않도록, 많은 사람들이 이 책을 통해 적어도 경각심이라도 가져봤으면...

<독서모임 참여용> ㅇ책제목 : AGI, 천사인가 악마인가 ㅇ지은이 : 김대식(카이스트 전기 및 전자과 교수) ㅇ출판사 : 동아시아 출판사 ㅇ읽은기간 : 2025.9.10.-9.23. ㅇ책을 읽기 전 생각 -AI 모델의 구조, 딥러닝의 작동방식을 몰랐음 -엔비디아에 투자하면서도, 정확히 엔비디아가 무엇을 하는 회사인지 모름 ㅇ책을 읽은 후 생각 - 책 요약 내용으로 갈음하겠음. 하단에 정리한 요약본을 통해 AI 시대와 AGI(전방위 AI)시대에 대비해 보는 첫걸음이 되었으면 함. ㅇ문장수집(내용 요약) 1. 슈퍼컴퓨터 시대(cpu의 눈부신 발전) 도래함에도 본격적인 AI의 상용화는 불가능했던 이유 : 인간의 자연어와 컴퓨터가 처리하는 디지털 언어 체계가 다르기 때문에 인간이 직접 프로그래밍 언어를 배워야 했음-> 전문가계층만 향유함. 보통 사람은 여전히 ‘모니터‘를 보고 ’커서’로 ‘아이콘‘ 을 클릭해야 원하는 프로그램에 진입하여 결과물을 낼 수 있었음 2. 스케일링의 법칙과 AI시대의 시작 : ‘덩치‘ 를 키우면 없던 기능이 생기고, 안되는 것도 된다. 그것이 스케일링의 법칙. gpu는 원래 픽셀 처리를 위한 유닛에 불과했음. cpu보다 하급의 하드웨어로 여겨짐. 그런데 우연한 발견으로 (단순 gpu모델을 여러층 쌓으면 인공지능 모델 학습의 ’가속기‘ 역할을 할수있다) gpu가 각광받기 시작함!!! :cpu와 gpu의 차이-> cpu가 더 복잡함. 한번에 여러 계산식 활용. *cpu 예시) 다리가 4개이고, 머리가 있고 털이 복슬복슬하다-> ’고양이‘ 임을 학습시킴. 조건이 바뀌었을때나 다리가 3개인 고양이 알아보지 못하는 문제 발생 *gpu 예시) 그래픽 구현화용 유닛. 계산보다는 그림을 그리기 위한 단순 유닛(게임 등에 활용) 어느날 전문가들은 gpu를 100층 이상 쌓으면 ‘데이터 학습‘이 가능하다는것을 깨달음. 고양이사진 10,000,000개 보여주는 식-> 어떤 변수 하에서도 고양이 알아봄. 그것이 학습 모델, ai의 시작. 단순한 모델을 여러 층 쌓는것이 복잡한 모델을 하나 만드는것보다 더 ‘인간‘의 사고회로와 가깝다는 것이 증명됨. 실제로 gpu 병렬 구조는 인간의 연상, 언어 구동 방식과 비슷함 -> 대화, 문학, 노트 등 엄청난 양의 텍스트 학습시켜서 언어모델 만듦-> llm 등장 3. 챗지피티 등의 모체, llm (large language model) : 인간의 ‘자연어‘ 를 학습하기 위한 딥러닝 모델. 방대한 양의 텍스트 데이터를 학습하여 자연어의 맥락, 문법, 의미 등을 학습함. 엔비디아는 그 모델을 구동하기 위한 하드웨어를 제공하는데, 그 대표적인 기계가 H100임. 엔비디아에서만 돌아가는 특화 소프트웨어 들이 있는데, 이러한 독점 때문에 엔비디아 중심의 소프트웨어, 하드웨어 생태계가 이어지고 있음. 소프트웨어 독점 극복, 생태계 다변화와 오픈소스화를 위해 amd, 마이크로소프트 등 경쟁 기업들에서는 오픈 소스 AI 가속기 플랫폼이나 독자적인 AI 칩, 소프트웨어 생태계 구축에 힘쓰고 있음 4. 디지털 휴먼의 등장: 현재 애플과 삼성은 더이상 모바일폰 디자인 배틀을 하지 않음. 누가 더 우수한 ai모델을 탑재시키느냐, 누가 네모반듯한 휴대폰 외형에서 벗어나, 글래스나 와치 등의 웨어러블 컴퓨터 시장을 선점하느냐에 집중중임. 이렇듯 인공지능과 인체가 합일되는 미래가 현실화되면서, 공진화와 상호 협력이라는 개념이 중요해짐. 인간과 AI는 대체 관계가 되기보다는 공생하는 방향으로 진화해야 함. 스케일링의 법칙으로(gpu크기를 키우고 키우면 인간과 같아진다) 기계가 인간의 뇌구조를 완전히 복제해버리면, ‘스스로 사고하고 판단하는 인공지능’이 나타날 수도 있음. 기술의 변수는 시스템을 조정하면 되지만, AI의 판단은 똑같이 인간의 판단으로만 커버할수있음. 한가지 긍정적인 점을 꼽자면, 인간은 <육체>가 있는 존재임. 소프트웨어는 부수적 구동 장치가 반드시 필요한 데 반해, 인간은 육체를 타고남. 피곤함을 분석할 수는 있지만 느낄 수는 없는 ‘인공지능’의 허점을 파고들면 인간은 우위를 점할 수 있음. 그런데 인간은 ‘agi' (general한 ai)세계를 받아들여야 하지, 싸우려 들면 안됨. 막 갖다쓰기 위해 무작정 개발해놓고 책임 없이 던져놓으면 안된다는 것임. 도덕성이나 연민은 기술주의를 퇴보하게 하는 것이 아님. 도리어 그것들은 기술이 나아갈 방향을 제시해줌. 기술을 노예화하지 말고, 파트너로 대하고 존중해야 함. 그렇게 해야만 하는 시기가 도래했음. ai의 진화는 막을 수 없음. 돈이 되니까 내가 안하면 어느 다른 기업이어도 할것임(그것이 모든 기업의 r&d 핵심 동인임). 그러니까 인간은 기술과 함께 나아가야 함. 끝없이 길들이고 길들여지면서. ㅇ내 삶에 적용해볼 점 / 지인에게 공유하고 싶은 점 -직렬 모델 하나를 수없이 수정, 발전시켰음에도 불구하고, 단순모델 병렬구조에 못당하다니 정말이지 데이터 축적은 중요한 일이구나 싶었다. 주제가 엉뚱한 데 튀는 것 같지만, 결국 세상살이도 AI 아키텍처 과정과 비슷한 것 아닌가 생각이 든다. 경험치가 쌓이고 쌓여 방대해지면 어떤 완벽한 단일 논리구조도 만들어낼 수 없는 아이디어를 떠올릴 수 있지 않을까. -또한 노벨 물리학상이 ‘얼굴인식’ 프로그램 개발자에게 돌아간 것이 흥미롭다 생각이 든다. 순수 학문적 성과라기엔 지나치게 실용적인 단순 기능인데. 그러나 한번 더 곱씹어 생각해보면 20세기말 퍼스널 컴퓨터의 등장 시기 예상된 시나리오 중에 ‘인터넷 쇼핑’은 없었다. 기술은 결국 ‘보통 사람’과 친숙해야만 선택받는다. 알고리즘을 짜고 이를 하드웨어에 세팅하는 것은 전문가지만, 신기술을 상품화시키는 것은 ‘친숙해서 돈이 되는 것’을 먼저 알아보는 사람이다. 기술은 전문가보다는 감도 높은 사람을 자연선택한다.

자극적인 제목이지만 내용은 인사이트 있었다. 인공지능의 역사, 원리에 대해 잘 설명되어져있고 미래에 대해서도 상당히 설득력이 있다. 불과 1년전만해도 내 주변에 업무에 인공지능을 활용하는 사람은 없었다. 어려운 엑셀 수식 하나 만들려면 반나절을 고민해야했었는데, 지금은 5분이면 뚝딱이다. 1년 새 인공지능 없이는 업무가 불가능하게 되었다. 이직하고 새로운 영역을 공부하는데 인공지능이 없었다면 고생 깨나 했을 것이다. 저자의 말처럼 AGI(범용 인공 지능)는 필연적일 것 같다. 이미 모든 전문가들이 AGI의 등장은 기정사실, 시기의 문제라고 말한다. 개미와 인간의 격차만큼 인공지능과의 격차가 벌어지면 인간은 인공지능이 주는 답을 절대 이해할 수 없을 것이다. 그렇게되면 우주의 탄생의 비밀, 미시세계와 거시세계의 연결 등 지금까지 난제인 것들은 대부분 풀리겠지? 책에서는 인공지능을 인간이 더 이상 통제할 수 없는 상황을 우려하고있지만 난 사실 그런것은 관심이 없고, 내 관심사는 그래서 대체 우리 아이들은 뭘하고 살거냐는거다. 일은 인공지능이 다 해주고 어쩌면 인간과의 접촉도 현저히 줄어들 수 있는 세상. 어떻게 살아야 스스로 만족하며 살 수 있을 지.

2025-10-29 OpenAI는 범용 인공 지능(AGI)을 2027~2030년 사이에 달성할 가능이 있다고 본다. 2027년이면 내 후년이다. AGI의 출현에 따라 인류의 미래는 유토피아 쪽일까 디스토피아 쪽일까? 나는 비관적인 전망 쪽에 한 표. 그렇다고 기술이 문제라는 건 아니다. 기술이 무슨 죄가 있겠나, 사람이 죄지. AGI가 무서운 건 사람과 달리 배운 걸 잊어버리지 않는다는 것이고, 지겹거나 재미없다고 중간에 포기하지 않는다는 거다. 나는 영어 공부를 40년 넘게 하면서도 네이티브처럼 얘기를 못하지만 AI는 학습을 하면 할수록 조금씩 더 똑똑해질 거다. 그리고 기술의 발전은 40년이 아니라 400년 4000년간 배워야 할 것을 AI에게 학습시킬 수 있을 것이고. 무섭지 않은가?

ネタバレがあります!!見る

이 책을 읽고 나니 나는 한낱 무력한 개인으로서 허무주의가 오게 됐다. 홍수 같이 쏟아지는 기술의 발달이야 막을 수 없다는 생각을 하면서도, 속도 조절 없이 밀어 붙이는 과학자들이 괜히 미워지고 저주스러워 지기도 했다. 뭐 따지고 보면 그들도 그들의 일을 하는 것이니 딱히 저주할 명분은 없다. 또 한편으로는, 나 또한 우리 인간이란 종의 패권의 상실을 예감하고서 비탄에 빠져 버린, 그저 단순히 어떤 종의 최우위에 있고 싶어 하는 그런 잔인한 생명체인건가 싶은 생각이 들어 자괴감도 동시에 몰려 왔다. 우리는 새로운 종을 만들었고, 우리가 만든, 아니 냉정하게 과학자들이 만든 그 새로운 종에 의해 언제가 될지도 모르는 미래에 말살 당할 것이라고 예상하니 너무나 우울했다. 이건 5년 후가 될 지 100년 후가 될 지 아무도 모를 일이니 그 아득함으로 인해 사실상 나는 이성이 마비되는 것 같은 느낌이 들었다. 그러니 허무주의가 올 수밖에 없었던 것 같다. 이처럼 혼돈의 미래가 올 것임이 분명한 상황에서 내가 보기에는 아직 세계적 차원의 논의 따위는 없다. 물론 섣부른 우려로 너무 긁어 부스럼을 만들 필요는 없겠지만, 내 보기엔 그들은 만들기에만 급급하여 도래할 악영향들에는 스위치를 끄고 쉬쉬하고, 미래는 미래에 맡긴다는 생각처럼 보인다. 당연히 심도있는 숙고를 통해 법제를 마련함과 동시에 범지구적으로 같이 해결점을 모색하는 것이 맞지 않은가? 지금 이렇게 개발에만 오로지 만전을 기하는 것이 과연 옳은 것인가? agi의 개발이 끝나고 상용화되었을 때 그 혼돈을 바로 잡을 수 있을 것이라 기대하는가? cui bono? 그때에는 과연 누가 이득을 보는 것인가? 하기는 그들의 생각에는 그게 맞는 것일 거다. 어차피 수천 년의 역사 속에서 무력한 개인은 어떤 새로운 체제가 당도함에 있어서 무력한 존재로서 희생됨을 안다. 지금, 우리 힘 없는 존재가 서 있는 바로 이 지점 또한 그 분기점이다. 세계적 석학들과 전문가들의 의견도 지리멸렬한 가운데 우리같은 작은 존재가 무엇을 할 수 있겠는가? 결국 이것은 인간 일반에 대한 근본적인 물음인 선악으로 치닫는다. 무엇이 선이고 무엇이 악인가? 그들의 선은 과연 작동할 것이며, 악은 닫혀 질 것인가?저자처럼 역사 속에서 힌트를 얻자면 상당히 회의적일 수밖에 없다. 나 또한 선악의 정의를 내리기에는 너무 미흡하다. 중요한 것은 이런 엿같은 기분을 간직한 채로 또 내일 일어나 불안 속에서 희망을 찾고 살아가야 한다는 것이다. 그것만이 현재 우리가 할 수 있는 것이다. 근데 또 따지고 보면 불안과 공포가 없는 미래가 존재하긴 했었던가 싶다. 우리는 전복되고 비틀거리는 대지 위에서도 중심을 단단히 잡고, 서투른 희망이라도 가지며, 위기 속에서 기회를 엿보려는 지혜를 키워가야만 할 것이다. 지금으로서는 나에게 그것만이 최선의 해결책이다.

agi, 하나의 효율적인 자동차지만, 안전벨트 안매면 다칩니다