Siêu trí tuệ
Nick Bostrom
Cuốn sách mở ra viễn cảnh khi trí tuệ máy vượt xa giới hạn sinh học, buộc chúng ta phải đối mặt với câu hỏi sống còn: Làm thế nào để kiểm soát một thực thể thông minh hơn chính mình? Qua những phân tích sắc bén của Nick Bostrom, bạn sẽ hiểu rõ các kịch bản rủi ro và tầm quan trọng của việc thiết lập các rào cản đạo đức ngay từ bây giờ để đảm bảo tương lai của nhân loại trước làn sóng công nghệ đột phá.
Bối cảnh và Các con đường dẫn đến Siêu trí tuệ
Khám phá lịch sử phát triển của AI và các phương thức khả thi để đạt được trí tuệ vượt xa con người.
Lịch sử và Những bước tiến ban đầu
Mô phỏng não bộ toàn phần (WBE)
Nâng cấp sinh học và Giao diện người-máy
Động lực của sự bùng nổ trí tuệ
Phân tích các loại hình siêu trí tuệ và tốc độ diễn ra quá trình tự cải thiện của máy móc.
Ba hình thái của Siêu trí tuệ
Cơ chế Tự cải thiện đệ quy
Tốc độ cất cánh (Takeoff speeds)
Lợi thế chiến lược và Siêu năng lực
Đánh giá những sức mạnh mà một thực thể siêu trí tuệ sẽ sở hữu và tác động toàn cầu của nó.
Lợi thế chiến lược quyết định
Các siêu năng lực nhận thức
Sự thống trị của 'Người chiến thắng'
Ý chí và Mục tiêu của Siêu trí tuệ
Tìm hiểu mối quan hệ giữa trí thông minh và đạo đức, cùng các rủi ro từ mục tiêu sai lệch.
Định đề về tính trực giao
Sự hội tụ công cụ (Instrumental Convergence)
Mối đe dọa hiện hữu (Existential Risk)
Bài toán Kiểm soát: Khả năng
Các phương pháp kỹ thuật nhằm hạn chế sức mạnh của siêu trí tuệ để đảm bảo an toàn.
Phương pháp Cách ly (Boxing)
Khuyến khích và Công tắc ngắt
Hạn chế năng lực và Nhân chủng học
Bài toán Kiểm soát: Động lực
Cách thức lập trình các giá trị và mục tiêu của con người vào siêu trí tuệ.
Đặc tả trực tiếp và Học hỏi giá trị
Ước nguyện nội suy nhất quán (CEV)
Mô hình Tiên tri và Thần đèn
Chiến lược và Tương lai nhân loại
Tầm nhìn dài hạn về sự tồn tại của con người trong kỷ nguyên siêu trí tuệ.
Bẫy Malthus trong thế giới số
Hợp tác toàn cầu và Chính sách
Nguyên tắc tiền định
Start reading with AI
Interactive Socratic dialogue, level by level