ChaeHyun
AGI, 천사인가 악마인가
平均 3.6
<독서모임 참여용> ㅇ책제목 : AGI, 천사인가 악마인가 ㅇ지은이 : 김대식(카이스트 전기 및 전자과 교수) ㅇ출판사 : 동아시아 출판사 ㅇ읽은기간 : 2025.9.10.-9.23. ㅇ책을 읽기 전 생각 -AI 모델의 구조, 딥러닝의 작동방식을 몰랐음 -엔비디아에 투자하면서도, 정확히 엔비디아가 무엇을 하는 회사인지 모름 ㅇ책을 읽은 후 생각 - 책 요약 내용으로 갈음하겠음. 하단에 정리한 요약본을 통해 AI 시대와 AGI(전방위 AI)시대에 대비해 보는 첫걸음이 되었으면 함. ㅇ문장수집(내용 요약) 1. 슈퍼컴퓨터 시대(cpu의 눈부신 발전) 도래함에도 본격적인 AI의 상용화는 불가능했던 이유 : 인간의 자연어와 컴퓨터가 처리하는 디지털 언어 체계가 다르기 때문에 인간이 직접 프로그래밍 언어를 배워야 했음-> 전문가계층만 향유함. 보통 사람은 여전히 ‘모니터‘를 보고 ’커서’로 ‘아이콘‘ 을 클릭해야 원하는 프로그램에 진입하여 결과물을 낼 수 있었음 2. 스케일링의 법칙과 AI시대의 시작 : ‘덩치‘ 를 키우면 없던 기능이 생기고, 안되는 것도 된다. 그것이 스케일링의 법칙. gpu는 원래 픽셀 처리를 위한 유닛에 불과했음. cpu보다 하급의 하드웨어로 여겨짐. 그런데 우연한 발견으로 (단순 gpu모델을 여러층 쌓으면 인공지능 모델 학습의 ’가속기‘ 역할을 할수있다) gpu가 각광받기 시작함!!! :cpu와 gpu의 차이-> cpu가 더 복잡함. 한번에 여러 계산식 활용. *cpu 예시) 다리가 4개이고, 머리가 있고 털이 복슬복슬하다-> ’고양이‘ 임을 학습시킴. 조건이 바뀌었을때나 다리가 3개인 고양이 알아보지 못하는 문제 발생 *gpu 예시) 그래픽 구현화용 유닛. 계산보다는 그림을 그리기 위한 단순 유닛(게임 등에 활용) 어느날 전문가들은 gpu를 100층 이상 쌓으면 ‘데이터 학습‘이 가능하다는것을 깨달음. 고양이사진 10,000,000개 보여주는 식-> 어떤 변수 하에서도 고양이 알아봄. 그것이 학습 모델, ai의 시작. 단순한 모델을 여러 층 쌓는것이 복잡한 모델을 하나 만드는것보다 더 ‘인간‘의 사고회로와 가깝다는 것이 증명됨. 실제로 gpu 병렬 구조는 인간의 연상, 언어 구동 방식과 비슷함 -> 대화, 문학, 노트 등 엄청난 양의 텍스트 학습시켜서 언어모델 만듦-> llm 등장 3. 챗지피티 등의 모체, llm (large language model) : 인간의 ‘자연어‘ 를 학습하기 위한 딥러닝 모델. 방대한 양의 텍스트 데이터를 학습하여 자연어의 맥락, 문법, 의미 등을 학습함. 엔비디아는 그 모델을 구동하기 위한 하드웨어를 제공하는데, 그 대표적인 기계가 H100임. 엔비디아에서만 돌아가는 특화 소프트웨어 들이 있는데, 이러한 독점 때문에 엔비디아 중심의 소프트웨어, 하드웨어 생태계가 이어지고 있음. 소프트웨어 독점 극복, 생태계 다변화와 오픈소스화를 위해 amd, 마이크로소프트 등 경쟁 기업들에서는 오픈 소스 AI 가속기 플랫폼이나 독자적인 AI 칩, 소프트웨어 생태계 구축에 힘쓰고 있음 4. 디지털 휴먼의 등장: 현재 애플과 삼성은 더이상 모바일폰 디자인 배틀을 하지 않음. 누가 더 우수한 ai모델을 탑재시키느냐, 누가 네모반듯한 휴대폰 외형에서 벗어나, 글래스나 와치 등의 웨어러블 컴퓨터 시장을 선점하느냐에 집중중임. 이렇듯 인공지능과 인체가 합일되는 미래가 현실화되면서, 공진화와 상호 협력이라는 개념이 중요해짐. 인간과 AI는 대체 관계가 되기보다는 공생하는 방향으로 진화해야 함. 스케일링의 법칙으로(gpu크기를 키우고 키우면 인간과 같아진다) 기계가 인간의 뇌구조를 완전히 복제해버리면, ‘스스로 사고하고 판단하는 인공지능’이 나타날 수도 있음. 기술의 변수는 시스템을 조정하면 되지만, AI의 판단은 똑같이 인간의 판단으로만 커버할수있음. 한가지 긍정적인 점을 꼽자면, 인간은 <육체>가 있는 존재임. 소프트웨어는 부수적 구동 장치가 반드시 필요한 데 반해, 인간은 육체를 타고남. 피곤함을 분석할 수는 있지만 느낄 수는 없는 ‘인공지능’의 허점을 파고들면 인간은 우위를 점할 수 있음. 그런데 인간은 ‘agi' (general한 ai)세계를 받아들여야 하지, 싸우려 들면 안됨. 막 갖다쓰기 위해 무작정 개발해놓고 책임 없이 던져놓으면 안된다는 것임. 도덕성이나 연민은 기술주의를 퇴보하게 하는 것이 아님. 도리어 그것들은 기술이 나아갈 방향을 제시해줌. 기술을 노예화하지 말고, 파트너로 대하고 존중해야 함. 그렇게 해야만 하는 시기가 도래했음. ai의 진화는 막을 수 없음. 돈이 되니까 내가 안하면 어느 다른 기업이어도 할것임(그것이 모든 기업의 r&d 핵심 동인임). 그러니까 인간은 기술과 함께 나아가야 함. 끝없이 길들이고 길들여지면서. ㅇ내 삶에 적용해볼 점 / 지인에게 공유하고 싶은 점 -직렬 모델 하나를 수없이 수정, 발전시켰음에도 불구하고, 단순모델 병렬구조에 못당하다니 정말이지 데이터 축적은 중요한 일이구나 싶었다. 주제가 엉뚱한 데 튀는 것 같지만, 결국 세상살이도 AI 아키텍처 과정과 비슷한 것 아닌가 생각이 든다. 경험치가 쌓이고 쌓여 방대해지면 어떤 완벽한 단일 논리구조도 만들어낼 수 없는 아이디어를 떠올릴 수 있지 않을까. -또한 노벨 물리학상이 ‘얼굴인식’ 프로그램 개발자에게 돌아간 것이 흥미롭다 생각이 든다. 순수 학문적 성과라기엔 지나치게 실용적인 단순 기능인데. 그러나 한번 더 곱씹어 생각해보면 20세기말 퍼스널 컴퓨터의 등장 시기 예상된 시나리오 중에 ‘인터넷 쇼핑’은 없었다. 기술은 결국 ‘보통 사람’과 친숙해야만 선택받는다. 알고리즘을 짜고 이를 하드웨어에 세팅하는 것은 전문가지만, 신기술을 상품화시키는 것은 ‘친숙해서 돈이 되는 것’을 먼저 알아보는 사람이다. 기술은 전문가보다는 감도 높은 사람을 자연선택한다.