Prolog
Dies ist eine Miniserie, die der Erinnerung an meine erste Lektüre von Bostroms neuem Buch „Deep Utopia“ gewidmet ist, das ich – etwas entgegen seiner Absichten – sehr verstörend und irritierend fand. Bostrom, der sich selbst als Langfristtheoretiker betrachtet, hatte vor, nach seinem letzten Buch „Superintelligence“ ein heitereres Buch zu schreiben, das irgendwie eine positive Perspektive auf die positiven Folgen einer Gesellschaft bieten sollte, die technologische Reife erreicht. Ein Hauptthema in Bostroms Schriften dreht sich um das Thema des Managements existenzieller Risiken; er gehört zu den Top-Experten auf diesem Gebiet.
„Deep Utopia“ kann als langatmiger Essay über das betrachtet werden, was ich als Management existenzieller Glückseligkeit bezeichnen würde: Stellen wir uns vor, beim Aufstieg der Menschheit zum universellen Ruhm läuft alles richtig und wir erreichen das Stadium von Tech-Mat. Bostrom prägt dafür den Begriff „Plastizität“ – was dann? Im Grunde geht er einfach davon aus, dass alle Vorteile der posthumanistischen Singularität, wie sie von Befürwortern wie Kurzweil et al. beschrieben werden, wahr werden. Und dann?
Um Licht in diesen Abgrund zu bringen, taucht Bostrom tief in den Marianengraben der erkenntnistheoretischen Zukunftsforschung ein und findet in dieser außergewöhnlichen Umgebung, die er „Plastic World“ nennt, einige wahrhaft bizarre intellektuelle Kreaturen.
Bostroms detaillierte Untersuchung der universellen Langeweile nach Erreichen der technologischen Reife ist viel unterhaltsamer, als das Thema vermuten lässt. Leider ist es auch kein „Superintelligenz“-Kracher.
Er präsentiert seine Erkenntnisse in Form eines Meta-Tagebuchs und strukturiert sein Buch hauptsächlich nach Wochentagen. Er scheint in seinem Stil und seiner Herangehensweise an das Thema spielerisch und unbeschwert sein zu wollen. Dies ist ein gefährlicher Weg, und ich werde erklären, warum er meiner Meinung nach in dieser Hinsicht teilweise scheitert. Dies ist kein Buch, dessen Lektüre wirklich Spaß machen wird. Das Verdauen der wesentlichen Inhalte dieses Buches wird durch die meta-ebene und selbstreferenzielle Struktur nicht erleichtert, da die Haupthandlung in einer Woche während Bostroms Universitätsvorlesungen stattfindet. Die Handzettel Die in diesen Vorlesungen präsentierten Texte sind eine gute Möglichkeit, dem Leser eine Zusammenfassung zu geben. An der von Bostrom gewählten Form gibt es viel zu kritisieren, aber es ist die Qualität und Tiefe des Gedankenapparats selbst, die Respekt verdient.
Dann gibt es noch eine Nebengeschichte über ein Schwein, das Philosoph ist, eine Art Parabel zwischen „Farm der Tiere“ und „Herr der Fliegen“, die mir nie gefallen hat und bei der ich nie gesehen habe, wie sie mit dem Hauptthema zusammenhängt. Eine Art tiefgründiger, nerdiger Insider-Witz, den nur schwedische Philosophen mit Langzeitperspektive verstehen könnten.
Dieser gesamte Text umfasst etwa 8.500 Wörter und wurde in einem Durchgang geschrieben. Die Aufteilung in mehrere Teile dient lediglich der Bequemlichkeit des Lesers. Die Dichte von Bostroms Material ist so, wie man es bei der Erforschung solcher Tiefen erwarten würde. Ich fürchte, dieser Text ist auch nicht besonders zugänglich. Nur Leser, die keine Abneigung gegen ernsthafte intellektuelle Anfälle haben, sollten sich daran versuchen. Alle anderen sollten warten, bis wir alle einen erschwinglichen NICK 3000-Mentalleistungssteigerer zur Verfügung haben.
PS: Eine Woche nachdem sich der Staub der Hoffnungslosigkeit gelegt hat, den ich direkt nach der Lektüre verspürte, kann ich jetzt erkennen, dass dieses Buch in 20 Jahren ein Klassiker sein wird. Bostrom, mit der kleinen Laterne der reinen Vernunft, ist tiefer gegangen als die meisten seiner Zeitgenossen, als es darum ging, die seltsamen Kreaturen zu katalogisieren, die sich auf dem Grund der Tiefsee der gelösten Welt befinden.

Handout 1: Die kosmische Begabung
Die Kernaussage dieses Handouts ist, dass eine technologisch fortgeschrittene Zivilisation durch Weltraumkolonisierung und fortschrittliche Computertechnologien potenziell eine große Anzahl menschenähnlicher Leben im gesamten Universum schaffen und erhalten könnte. Mithilfe von Sonden, die sich mit einem erheblichen Bruchteil der Lichtgeschwindigkeit fortbewegen, könnte eine solche Zivilisation Planeten um viele Sterne erreichen und terraformieren und ihre Fähigkeit, Leben zu unterstützen, weiter verstärken, indem sie künstliche Lebensräume schafft wie O'Neill-Zylinder. Darüber hinaus kann die enorme Rechenleistung von Strukturen wie Dyson-Sphärenist es möglich, Simulationen des menschlichen Geistes durchzuführen, was zur theoretischen Existenz einer erstaunlichen Zahl simulierter Leben führt. Diese Untersuchung unterstreicht das enorme Potenzial für zukünftiges Wachstum und die Schaffung von Leben, abhängig vom technologischen Fortschritt und den ethischen Überlegungen bei der Simulation des menschlichen Bewusstseins. Im Wesentlichen handelt es sich dabei um die Zahlenfantasie eines Langfristtheoretikers. Das Hauptargument und der Grund, warum Bostrom sein Buch schreibt, ist hier:
Wenn wir all das Glück, das wir in einem solchen Leben erfahren, mit einer einzigen Freudenträne ausdrücken würden, dann könnte das Glück dieser Seelen die Ozeane der Erde jede Sekunde füllen und wieder auffüllen, und das hundert Milliarden Jahrtausende lang. Es ist wirklich wichtig, dass wir sicherstellen, dass es sich wirklich um Freudentränen handelt.
Bostrom, Nick. *Deep Utopia: Leben und Bedeutung in einer gelösten Welt* (englische Ausgabe), S. 60.
Wie können wir das sicherstellen? Das können wir nicht, und wie wir später noch herausfinden werden, ist dies ein wirklich schwieriges Problem für Informatiker wie Bostrom.

Handout 2: CAPS BEI TECHMAT
Bostrom gibt einen Überblick über eine Reihe von Errungenschaften im Bereich der technologischen Reife (TECHMAT) für verschiedene Sektoren.
1 Transport
2.Engineering des Geistes
3. Computergestützte Berechnung und virtuelle Realität
4.Humanoide und andere Roboter
5.Medizin & Biologie
6. Künstliche Intelligenz
7.Totale Kontrolle
Die in dieser Serie verstreuten Abbildungen vermitteln einen Eindruck. Bostrom gibt später eine Taxonomie (Handout 12, Teil 2 dieser Serie), in der er tiefer in das Thema eintaucht. Lassen Sie uns zunächst davon ausgehen, dass der zweite Sektor, Mind-Engineering, eine herausragende Rolle spielen wird, da er die Wurzel des philosophischen Bedeutungsproblems darstellt.

Handout 3: Wertbeschränkungen
Bostrom identifiziert sechs verschiedene Bereiche, in denen die Ressourcen selbst in einem Szenario unbegrenzten Überflusses im Stadium der technologischen Reife (Tech-Mat) immer noch begrenzt sein könnten. Diese Bereiche sind:
- Positionelle und konfliktreiche Güter: Selbst in einer Hyperüberflusswirtschaft kann nur eine Person die reichste Person sein; das Gleiche gilt für jede Errungenschaft, wie etwa auf dem Mond zu stehen oder einen besonderen Berg zu besteigen.
- Auswirkungen: Eine gelöste Welt wird keine Möglichkeiten für Größe bieten.
- Zweck: Eine gelöste Welt wird keine wirklichen Schwierigkeiten bereiten.
- Neuheit: In einer gelösten Welt werden Heureka-Momente, in denen man etwas wirklich Neues entdeckt, sehr sporadisch auftreten.
- Sättigung/Zufriedenheit: Im Wesentlichen eine Variante von Neuheit, mit einer begrenzten Anzahl von Interessen. Der Erwerb des n-ten Gegenstands einer Sammlung oder der n-ten Erfahrung in einer Gesamtwohlfahrtsfunktion wird immer geringere Zufriedenheitserträge bringen. Selbst wenn wir jeden Tag ein neues Hobby oder Unterfangen beginnen, gilt dies auch auf der Metaebene.
- Moralische Einschränkungen: Ethische Beschränkungen, die unabhängig vom technologischen Fortschritt relevant bleiben.

Handout 4 & 5: Arbeitsplatzsicherheit, Statussymbolik und Grenzen der Automatisierung
Die letzten verbleibenden Aufgaben, für die Menschen bevorzugt werden könnten, sind Tätigkeiten, die dem Arbeitgeber oder Käufer Statussymbolik verleihen, bei denen Menschen einfach als kompetenter als Roboter gelten. Dazu gehören emotionale Aufgaben wie die Beratung anderer Menschen oder das Halten einer Predigt in einem religiösen Kontext.
Handout 9: Die Gefahren universeller Langeweile
(…) wenn wir tiefer in die Zukunft blicken, ist jede Möglichkeit, die nicht radikal ist, nicht realistisch.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.129).
Die vier Fallstudien: In einer gelösten Welt wird jede Aktivität, die wir derzeit als nützlich erachten, ihren Zweck verlieren. Dann könnten solche Aktivitäten ihren Freizeit- oder didaktischen Wert völlig verlieren. Bostroms tiefgreifende Studien über Einkaufen, Sport, Lernen und insbesondere Elternschaft sind aus seiner analytischen Sicht verheerend.
Handout 10: Herunterladen und Brain Editing
Dies ist der entscheidende Teil, der erklärt, warum Autopotenz wahrscheinlich eine der schwierigsten und neuesten Fähigkeiten ist, die eine Tech-Mat-Zivilisation entwickeln wird.
Bostrom geht detailliert darauf ein, wie dies erreicht werden könnte und welche Herausforderungen überwunden werden müssen, um eine solche Technologie realisierbar zu machen:
Einzigartige Gehirnstrukturen: Aufgrund der individuellen Einzigartigkeit jedes menschlichen Gehirns ist das Konzept des „Kopierens und Einfügens“ von Wissen ohne eine komplexe Übersetzung zwischen den einzigartigen neuronalen Verbindungen verschiedener Individuen nicht umsetzbar.
Kommunikation als Übersetzung: Der unvollkommene Prozess der menschlichen Kommunikation ist eine Form der Übersetzung, bei der idiosynkratische neuronale Repräsentationen in Sprache und wieder zurück in neuronale Repräsentationen in einem anderen Gehirn umgewandelt werden.
Komplexität: Das direkte „Herunterladen“ von Wissen ins Gehirn ist schwierig, da Milliarden oder Billionen kortikaler Synapsen und möglicherweise subkortikaler Schaltkreise für echtes Verständnis und den Erwerb von Fähigkeiten mit Femtopräzision angepasst werden müssen.
Technologische Voraussetzungen: Die Berechnung synaptischer Änderungen erfordert um viele Größenordnungen mehr von dem, was wir möglicherweise nutzen können. Diese Anforderungen sind potenziell KI-komplett, das heißt, wenn wir sie erfüllen können, brauchen wir zuerst eine künstliche Superintelligenz.
Superintelligente Umsetzung: Legt nahe, dass nicht Menschen, sondern superintelligente Maschinen letztendlich die erforderliche Technologie entwickeln könnten. Dabei könnten Nanobots zum Einsatz kommen, um das Konnektom des Gehirns abzubilden und synaptische Operationen auf der Grundlage von Berechnungen einer externen superintelligenten KI durchzuführen.
Normale Lernprozesse nachbilden: Um Lernen wirklich nachzubilden, müssten in vielen Teilen des Gehirns Anpassungen vorgenommen werden, um Meta-Lernen, die Bildung neuer Assoziationen und Änderungen verschiedener Gehirnfunktionen zu berücksichtigen, wobei möglicherweise Billionen von synaptischen Gewichten beteiligt wären.
Ethische und rechnerische Komplikationen: mögliche ethische Probleme und rechnerische Komplexitäten bei der Bestimmung, wie die neuronale Konnektivität verändert werden kann, ohne während der Simulationen moralisch relevante mentale Einheiten oder Bewusstsein zu erzeugen.
Vergleich mit Gehirnemulationen: Das Übertragen geistiger Inhalte auf eine Gehirnemulation (digitales Gehirn) könnte in mancher Hinsicht einfacher sein, beispielsweise hinsichtlich der Möglichkeit, den Geist während der Bearbeitung anzuhalten. Die rechnerischen Herausforderungen bei der Bestimmung der vorzunehmenden Bearbeitungen wären jedoch ähnlich.

Handout 11: Erlebnismaschine
Eine Variante von Handout 10: Anstatt das physische Gehirn direkt zu manipulieren, haben wir die Simulation von Realitäten perfektioniert, die dem Gehirn genau die Erfahrung vermitteln, die es als Realität wahrnimmt (siehe Realität+, Chalmers). Dies könnte tatsächlich eine rechnerisch weniger anspruchsvolle Aufgabe sein und ein Schritt auf dem Weg zur echten Gehirnbearbeitung sein. Bostrom nimmt Nozicks Gedankenexperiment und untersucht die Auswirkungen.
Abschnitt a diskutiert die Grenzen der direkten Manipulation des Gehirns, um Erfahrungen hervorzurufen, die die natürlichen Fähigkeiten oder die Persönlichkeit einer Person normalerweise nicht zulassen, wie z. B. Tapferkeit bei einem Feigling oder mathematische Brillanz bei jemandem, der in Mathematik nicht begabt ist. Es wird darauf hingewiesen, dass eine umfangreiche, abrupte und unnatürliche Neuverdrahtung des Gehirns, um solche Erfahrungen zu erzielen, die persönliche Identität so weit verändern könnte, dass die daraus resultierende Person nicht mehr als dieselbe Person angesehen werden kann. Die Fähigkeit, bestimmte Erfahrungen zu machen, wird stark von den vorhandenen Konzepten, Erinnerungen, Einstellungen, Fähigkeiten und dem allgemeinen Persönlichkeits- und Eignungsprofil einer Person beeinflusst, was auf eine erhebliche Herausforderung für die Durchführbarkeit der direkten Gehirnbearbeitung zur Erweiterung der persönlichen Erfahrung hinweist.
Abschnitt b unterstreicht die Komplexität der künstlichen Reproduktion von Erfahrungen, die persönliche Anstrengung erfordern, wie etwa die Besteigung des Mount Everest. Zwar ist es möglich, die sensorischen Aspekte solcher Erfahrungen, einschließlich visueller Hinweise und körperlicher Empfindungen, zu simulieren, doch das inhärente Gefühl des persönlichen Kampfes und der damit verbundenen Anstrengung kann nicht authentisch reproduziert werden, ohne echtes Unbehagen, Angst und Willenskraft zu erzeugen. Folglich bietet die Erlebnismaschine möglicherweise eine sicherere Alternative zu tatsächlichen körperlichen Anstrengungen und schützt vor Verletzungen, aber sie bietet nicht die tiefe persönliche Erfüllung, die sich aus der wahren Überwindung von Herausforderungen ergibt, was darauf hindeutet, dass manche Erfahrungen besser in der Realität gesucht werden sollten.
Abschnitt c handelt von sozialen oder parasozialen Interaktionen innerhalb dieser Erlebnismaschinen. Der Text untersucht verschiedene Methoden und ethische Überlegungen zur Schaffung realistischer Interaktionserlebnisse innerhalb einer hypothetischen Erlebnismaschine. Dabei wird zwischen Nicht-Spieler-Charakteren (NPCs), virtuellen Spieler-Charakteren (VPCs), Spieler-Charakteren (PCs) und anderen Methoden wie Aufzeichnungen und geführten Träumen zur Simulation von Interaktionen unterschieden:
1. NPCs sind Konstrukte ohne moralischen Status, die oberflächliche Interaktionen ohne ethische Implikationen simulieren können. Die Schaffung tiefer, bedeutungsvoller Interaktionen mit NPCs stellt jedoch eine Herausforderung dar, da hierfür möglicherweise ein komplexer Geist mit moralischem Status simuliert werden muss.
2. VPCs besitzen bewusste digitale Geister mit moralischem Status, was ein breiteres Spektrum an Interaktionserfahrungen ermöglicht. Sie können auf Anfrage generiert werden und von NPCs zu VPCs wechseln, um tiefere Interaktionen zu ermöglichen, werfen jedoch aufgrund ihres Bewusstseins moralische Komplikationen auf.
3. PCs erfordern die Interaktion mit realen Personen entweder durch Simulationen oder direkte Verbindungen zur Maschine. Dies wirft ethische Fragen hinsichtlich Zustimmung und Authentizität auf, da reale Personen oder ihre Simulationen ohne ihre Zustimmung möglicherweise nicht wie gewünscht handeln.
4. Aufzeichnungen bieten eine Möglichkeit, Interaktionen wiederzugeben, ohne neue moralische Entitäten zu generieren. Dadurch werden die Erfahrungen auf vorab aufgezeichnete beschränkt, einige ethische Dilemmata werden jedoch vermieden, indem bei der Wiedergabe keine realen Personen verkörpert werden.
5. Interpolationen nutzen zwischengespeicherte Berechnungen und Mustervergleiche, um Interaktionen zu simulieren, ohne moralisch bedeutsame Entitäten zu erzeugen. Mit diesem Ansatz könnte eine realistische Interaktion erreicht werden, ohne dass ethische Bedenken hinsichtlich der erzeugten Wesen bestehen.
6. Geführte Träume stellen eine Untergrenze des Möglichen dar, was darauf schließen lässt, dass fortgeschrittene Neurotechnologie den Realismus und die Kontrolle über den Trauminhalt erhöhen könnte. Dies wirft Fragen über den moralischen Status der geträumten Personen und die ethischen Auswirkungen realistischer Träume über andere ohne deren Zustimmung auf.
fortgesetzt werden