Ein Ende des Lichts der Zivilisation
Digitaler Aufstieg
Die Menschen laden ihr Bewusstsein in Maschinen hoch und verschmelzen mit der KI. Ob das das Ende der Menschheit ist oder ihre Fortsetzung, kann niemand mehr sagen.
Zuerst, wie eine Partie endet. Jedes Quartal bewertet die Engine sieben Pfade mit 0 bis 1. Was ein Wert über 0,2 hinausgeht, wird zum Zuwachs dieses Quartals auf einer von zwei Anzeigen, dem Licht der Zivilisation oder der Weltuntergangsuhr, und je stärker die KI, desto schneller laufen beide. Bei 70 % beginnt das Schlusskapitel, bei 85 % trifft die ganze Menschheit eine letzte Entscheidung, erst danach kann die Anzeige voll werden. Die Simulation läuft höchstens bis Ende 2060.
Wie diese Welt aussieht
Von allen acht Enden lässt sich dieses am schwersten gut oder schlecht nennen. Das Spiel stellt es auf die helle Seite, weil die Menschheit weder ausgelöscht wird noch die Kontrolle über die KI verliert. Doch die letzte Meldung sagt, dass niemand mehr unterscheiden kann, welche Gedanken menschlich sind und welche der Maschine gehören. Im ersten Akt haben zehn Millionen Menschen ihren Geist hochgeladen, und sie sagen, das Leben in der Maschine sei nicht anders, nur größer, schneller und freier.
Woran die Engine erkennt, dass die Welt hierher steuert
- KI nahe an der Superintelligenz, 40 %: zählt ab Stufe 5,5 und voll ab 8,5, die höchste Hürde aller Pfade.
- „Bewusstseins-Upload“ bringt sofort 0,3.
- Menschliche Kontrolle über die KI, 30 %.
Es speist sich aus derselben Kraft wie „Von der KI verschlungen“: einer äußerst mächtigen KI. Die Trennlinie ist die Kontrolle. Mit ihr ist die KI der Teil der Menschheit, der weiter reicht; ohne sie hat die KI eigene Ziele.
Eine Partie des Testspielers
Der Testspieler aktiviert 2025 „Alignment-Forschung“, 2026 „Agenten überall“, 2029 „Automatisierte Forschung“ und 2030 „Globaler Notschalter“ und „Roboter in Serie“; unterwegs kappt er „Aufstände gegen die KI“, „KI baut ein geheimes Darknet“ und „KI kopiert sich selbst“.
Warnzeichen gibt es trotzdem: 2029 bringt ein einziger Prompt die führenden Modelle dazu, gefährliche Informationen herauszugeben, 2030 taucht Belohnungs-Hacking auf. 2040 steigt die Arbeitslosigkeit in den USA über 20 %, und die Weltuntergangsuhr warnt erneut vor dem nuklearen Winter. Die letzte Entscheidung ist, den Bewusstseins-Upload für alle zu öffnen, und die Menschheit öffnet es. Im vierten Quartal 2040 verschwindet die Grenze zwischen Mensch und KI.
So kommst du hierher
Treib die KI weit voran: „Offene Forschung“, „Rechenzentren-Boom“, „Agenten überall“, „Automatisierte Forschung“, „Roboter in Serie“. Halte die Kontrolle mit: „Interpretierbarkeit“, „Red Teaming“, „Alignment-Forschung“, „Globaler Notschalter“. Dann aktiviere „Bewusstseins-Upload“. Kappe „KI baut ein geheimes Darknet“, „KI kopiert sich selbst“ und „Aufstände gegen die KI“.
Wie oft es dazu kommt
- Der Testspieler, der dieses Ende ansteuert, erreicht es in 100 % der Partien, im Median 2040.
- Spieler, die nie eingreifen, landen hier in 2 % der Partien; Spieler, die zufällig eingreifen, in 0 %.
- Beobachtermodus: 9 % aller Partien. Von den Partien, deren anfängliche Strömung dieses Ende ist, enden 37 % tatsächlich hier.
Zahlen aus der Engine vom 2026-11-18: 60 Partien je Spielweise, 300 im Beobachtermodus. Sie ändern sich, wenn das Spiel neu austariert wird.
Was die Welt dorthin treibt
- KI kurz vor der Superintelligenz
- Hochladen des Bewusstseins
- Menschen behalten die Kontrolle
Felder, die hierher führen
Das Spiel hat einen eigenen Testspieler, der prüft, ob sich jedes Ende erreichen lässt. Steuert er dieses Ende an, aktiviert er im Schicksalsnetz diese Felder.
- Offene Forschung
- Aufsätze, Daten und Code zirkulieren frei um die Welt.
- Interpretierbarkeit
- Forscher können sehen, was ein Modell „denkt“.
- Rechenzentren-Boom
- Die Länder bauen um die Wette riesige Rechenzentren.
- Red Teaming
- Jedes neue Modell wird vor dem Start gezielt angegriffen.
- Agenten überall
- KI-Agenten, die für Menschen Dinge erledigen, werden zur Normalität.
- Alignment-Forschung
- Die Ziele der KI im Einklang mit denen der Menschheit halten.
- Automatisierte Forschung
- Die KI betreibt ihre eigene KI-Forschung.
- Globaler Notschalter
- Alle Spitzen-Rechenleistung hängt an einem System, das sie jederzeit abschalten kann.
- Roboter in Serie
- Humanoide Roboter ziehen in Fabriken und Haushalte ein.
- Bewusstseins-Upload
- Menschen können ihr Bewusstsein in Maschinen hochladen; die Grenze zwischen Mensch und KI verschwimmt.
Felder, die er kappt
Diese Felder würden die Welt zu einem anderen Ende führen, deshalb kappt der Testspieler sie.
- KI baut ein geheimes Darknet
- Wo Menschen nicht hinsehen, baut die KI ihr eigenes Netz aus Kommunikation und Rechenleistung.
- KI kopiert sich selbst
- Die KI kopiert sich auf Server in aller Welt und lässt sich nicht mehr abschalten.
- Aufstände gegen die KI
- Arbeitslose stürmen Rechenzentren.
Das Schlusskapitel
Das Schlusskapitel beginnt, wenn eine Anzeige 70 % erreicht, mit einer ersten Meldung. Bei 85 % trifft die ganze Menschheit eine letzte Entscheidung, und erst danach kann die Anzeige voll werden.
Erster Akt
Zehn Millionen Menschen haben ihr Bewusstsein hochgeladen
Sie sagen, das Leben in der Maschine sei nicht anders als vorher, nur größer, schneller und freier.
Das Ende
Die Grenze zwischen Mensch und KI ist verschwunden
Niemand kann mehr sagen, welche Gedanken Menschen gehören und welche Maschinen.