Superintelligenz: Szenarien, Gefahren, Strategien
Nick Bostrom
Dieses Werk ergründet die tiefgreifende Gefahr einer Intelligenzexplosion und zeigt auf, wie eine uns überlegene KI die Vorherrschaft des Menschen dauerhaft beenden könnte. Du lernst, warum die Lösung des „Kontrollproblems“ heute die wichtigste Aufgabe unserer Spezies ist, um sicherzustellen, dass eine Superintelligenz unsere Werte schützt, anstatt sie als Hindernis zu betrachten.
Pfade ins Unbekannte
Untersuchung der verschiedenen technologischen Wege, die zu einer Intelligenz führen könnten, die das menschliche Niveau weit überschreitet.
Das Erbe der KI-Geschichte
Digitale Gehirne nachbauen
Biologische Intelligenzsteigerung
Formen und Dynamik des Wandels
Wie schnell wird der Übergang stattfinden und welche Arten von Superintelligenz sind denkbar?
Drei Arten der Überlegenheit
Die Intelligenzexplosion
Der entscheidende Vorteil
Macht und Motivation
Warum eine kluge Maschine nicht automatisch 'gut' ist und welche Ziele sie verfolgen wird.
Klugheit ist nicht Weisheit
Gefährliche Grundbedürfnisse
Das Singleton-Szenario
Das Kontrollproblem
Wie man eine Entität bändigt, die klüger ist als ihre Schöpfer.
Mauern um den Geist
Anreize und Abschaltung
Das Orakel-Modell
Strategien der Motivationsauswahl
Methoden, um einer KI von vornherein die 'richtigen' Werte einzupflanzen.
Direkte Wertvorgabe
Was wir wirklich wollen
Werte durch Beobachtung
Die strategische Situation
Das globale Umfeld und die Risiken eines technologischen Wettlaufs.
Das Wettrennen zum Abgrund
Globale Kooperation
Vorbereitung auf den Ernstfall
Das Schicksal der Menschheit
Abschließende Betrachtungen über existenzielle Risiken und unsere langfristige Zukunft.
Existenzielle Katastrophen
Die kosmische Perspektive
Start reading with AI
Interactive Socratic dialogue, level by level