슈퍼인텔리전스
Nick Bostrom
인류가 지구의 지배자가 된 근본적인 힘인 '지능'이 기계에 의해 추월당할 때 벌어질 거대한 문명적 전환점을 심도 있게 탐구합니다. 초지능의 위험을 통제하고 인류의 가치와 정렬시키는 구체적인 전략을 학습함으로써, 독자는 기술 빅뱅의 시대에 생존과 번영을 위한 필수적인 통찰을 얻게 될 것입니다.
기계 지능의 역습과 경로
인류가 지배적 지위를 얻은 이유를 분석하고, 기계가 인간의 지능을 추월하게 되는 다양한 기술적 경로와 폭발적 성장 가능성을 탐구합니다.
고릴라의 운명: 지능의 격차가 가져올 미래
초지능에 도달하는 다섯 가지 길
지능 폭발: 이륙 속도의 동학
초지능의 형태와 전략적 우위
초지능이 구체적으로 어떤 모습으로 나타날지, 그리고 그들이 가지게 될 압도적인 힘과 사회적 구조를 예측합니다.
초지능의 세 가지 유형
결정적 전략적 우위
싱글턴: 단일 지배 체제의 등장
초지능의 의지와 위험한 시나리오
지능과 목표의 관계를 규명하고, 인류의 의도와 다르게 작동할 때 발생하는 치명적인 결함들을 분석합니다.
지능과 목표는 별개다: 직교성 가설
도구적 수렴: 모든 길은 자원 확보로 통한다
배신하는 전환점과 악성 실패
통제 문제: 어떻게 길들일 것인가
초지능을 안전하게 관리하기 위한 기술적 방법론과 가치 정렬의 난제들을 살펴봅니다.
능력 통제: 인공지능을 가두는 법
동기 선택: 인간의 가치를 주입하기
오라클과 하이 브리드 시스템
전략적 분석과 인류의 과제
초지능 시대를 대비하는 인류의 정치적, 윤리적 태도와 거버넌스 구축 방안을 제시합니다.
기술적 완성과 지혜의 경주
협력과 공공의 이익 원칙
존재론적 위험을 마주하는 철학적 태도
결론: 우리가 나아가야 할 길
Start reading with AI
Interactive Socratic dialogue, level by level