Stellen Sie sich eine Szene in der nicht allzu fernen Zukunft vor. Jemand wurde ermordet. Zwei Ermittlungsteams treffen am Tatort ein, aber es ist unklar, wer zuständig ist. Das menschliche Team wird vom charismatischen Detektiv Sheerluck Holmes geleitet, während das Android-Team von Bot-OX geleitet wird. Die Frage ist: Ist der Täter ein Mensch, ein Android oder etwas dazwischen? Können wir erwarten, dass die Polizei der Zukunft ein gut definiertes Verfahren oder einen Algorithmus entwickelt hat, um dies schnell zu entscheiden?
Wir werden versuchen, diese und die drängendere Frage zu beantworten, mit der wir derzeit konfrontiert sind: Haben wir eine gute Chance, einen Algorithmus zu entwickeln, der praktisch ist und uns erlaubt, allein durch Betrachtung des Tatorts (des generierten Textes) zu entscheiden, ob dieser von einem Bot oder einem Menschen erstellt wurde? Die Entwicklung eines solchen Algorithmus ist derzeit eines der begehrtesten Ziele der Informatik. Ein robuster Blackbox-Algorithmus könnte die meisten unserer akademischen Konventionen retten und uns ermöglichen, die Art und Weise beizubehalten, wie wir Kinder, Jugendliche und Erwachsene testen. Ohne ihn müssten diese Systeme mit großem Aufwand neu aufgebaut werden.
In einer Welt, in der immer mehr Menschen aus der Ferne arbeiten und trainieren, ist es von entscheidender Bedeutung, dass wir zuverlässig feststellen können, dass Menschen ihre geistige Arbeit selbst geleistet haben, was derzeit nicht der Fall ist. Darüber hinaus können gefälschte Nachrichten, Bilder und Videos angesichts der Reichweite sozialer Medien verheerende Auswirkungen auf den gesellschaftlichen Konsens haben. Ein solcher Algorithmus – falls er existiert – ist nicht wasserdicht, aber mit genügend Trainingsdaten könnte er sogar vor Gericht Bestand haben.
Die Aussichten sind jedoch nicht vielversprechend. OpenAI hat das Projekt innerhalb von sechs Monaten aufgegeben: OpenAI-Klassifikator. Der praktische und monetäre Wert eines solchen Algorithmus kann nicht hoch genug eingeschätzt werden. Wenn gierige Aliens ihn für eine Billion Dollar verkaufen würden, rufen Sie mich an – ich will dabei sein.
Einführung der Differentiation Test Engine
Die Aufgabe, zwischen maschinengeneriertem Text (MGT) und menschengeneriertem Text (HGT) zu unterscheiden, ist entfernt mit dem ursprünglichen Turing-Test, dem sogenannten Imitationsspiel, verwandt. Es gibt jedoch noch weitere Faktoren: Während der ursprüngliche Turing-Test nur menschliche Beurteiler zuließ, können bei unserem Differenzierungstest andere Maschinen die menschlichen Beurteiler unterstützen. Wir nennen eine solche Maschine eine Differentiation Test Engine (DTE). Sie hat nur einen einzigen Zweck: zu entscheiden, ob ein Text von einem Menschen oder einer Maschine erzeugt wurde.
Die erste Intuition ist, dass ein solcher DTE relativ einfach zu implementieren sein sollte. Wir verfügen derzeit über die Technologie, um menschliche Gesichter und Stimmen zu erkennen und zu identifizieren, die viel komplexer und anfälliger für Störungen sind als Text. Die Entscheidung, ob ein bestimmtes Bild eine Maschine oder einen Menschen zeigt, kann von jedem aktuellen Objektklassifizierungssystem problemlos getroffen werden. Sollte es dann nicht einfach sein, ein Large Language Model (LLM) mit 1 Billion menschlichen Texten und 1 Billion Maschinentexten zu trainieren und es lernen zu lassen, diese zu klassifizieren? Der DTE wäre kein einfacher Algorithmus, sondern ein eigenes Transformatormodell, das auf die Erkennung von Identitätsbetrug spezialisiert ist.
In Mathematik und Informatik ist die Komplexität eines Problems oft orthogonal zu seiner Beschreibung. Die meisten NP-vollständigen Probleme sind täuschend einfach zu verstehen, und dennoch haben Millionen von Informatikern und Mathematikern jahrzehntelang darum gekämpft, Fortschritte zu erzielen. Ich vermute, dass Black-Boxing-Versuche in praktischen Anwendungssituationen scheitern werden.
Theoretischer Rahmen
Black-Box-Erkennungsmethoden sind auf den API-Zugriff auf LLMs beschränkt. Sie basieren auf dem Sammeln von Textproben aus menschlichen bzw. maschinellen Quellen, um ein Klassifizierungsmodell zu trainieren, mit dem zwischen von LLMs und von Menschen generierten Texten unterschieden werden kann. Black-Box-Detektoren funktionieren gut, da aktuelle von LLMs generierte Texte häufig linguistische oder statistische Muster aufweisen. Da sich LLMs jedoch weiterentwickeln und verbessern, werden Black-Box-Methoden immer weniger effektiv. Eine Alternative ist die White-Box-Erkennung. In diesem Szenario hat der Detektor vollen Zugriff auf die LLMs und kann das Generierungsverhalten des Modells zu Rückverfolgbarkeitszwecken steuern. In der Praxis werden Black-Box-Detektoren häufig von externen Stellen erstellt, während die White-Box-Erkennung im Allgemeinen von LLM-Entwicklern durchgeführt wird.
Definition des grundlegenden Erkennungssystems
Aus praktischen Gründen werden wir angeben, was wir von einem solchen DTE vernünftigerweise erwarten können. Bei einer Eingabe mit einer bestimmten Tokenlänge sollte der Algorithmus mit einer Zuverlässigkeit von mehr als 50% innerhalb einer begrenzten Zeitspanne eine eindeutige Ausgabe darüber liefern, wie viel von einem bestimmten Text von einem Menschen und wie viel von einer Maschine stammt.
Eine Implementierung könnte wie folgt aussehen:
Bitte geben Sie Ihren Text ein: …
Bitte geben Sie Ihr gewünschtes Vertrauen ein: 0,8
Ihr Text muss mindestens 8.000 Token lang sein, um eine Wahrscheinlichkeit von mindestens 80% zu erreichen, die richtige Antwort zu geben.
Unter den aktuellen Parametern wird der Algorithmus 5 Minuten lang ausgeführt. Soll ich fortfahren (J/N)? … J
Die Ausgabe sollte dann etwa so lauten: „Ich kann mit 80%-iger Sicherheit sagen, dass 95% des Textes von einer Maschine und 5% von einem Menschen geschrieben wurden.“
Bevor wir uns mit den Details befassen, sollten wir die möglichen Ergebnisse beim Versuch, einen solchen Algorithmus zu entwickeln, weiter klären:
Ein solcher Algorithmus ist prinzipiell unmöglich (beispielsweise ist es unmöglich, einen Algorithmus zu erstellen, der die höchste Primzahl berechnet).
Ein solcher Algorithmus ist praktisch unmöglich (z. B. läuft er entweder zu lange oder benötigt mehr Rechenleistung als verfügbar ist; im Grunde ist er NP-vollständig).
Es ist unentscheidbar (z. B. fällt es unter das Halteproblem und wir können nie sagen, ob es irgendwann aufhören wird).
Dies ist möglich, aber nicht praktikabel (identisch mit 2).
Es ist möglich und praktisch (gut genug).
Am Ende möchten wir eine Situation erreichen, in der wir eine Untergrenze der Eingaben berechnen können, die es uns dann mit einer Wahrscheinlichkeit von über 50% ermöglicht, zu entscheiden, ob es sich um HGT oder MGT handelt.
Falsifizierbarkeit: Ein solcher Algorithmus lässt sich leicht widerlegen, wenn wir beispielsweise den Text „Der Himmel ist blau“ eingeben und er uns eine andere Wahrscheinlichkeit als 50% liefert.
Randbemerkungen zur Obfuscation Engine
Konzeptionell stoßen wir auf Probleme, wenn wir eine Differenzierungsmaschine (Diff) entwerfen. Wir stehen dann vor dem folgenden Paradoxon: Wir möchten entscheiden, ob unser Algorithmus Diff (der erkennt, ob ein Mensch oder eine Maschine eine bestimmte Eingabe geschrieben hat) immer anhält (eine definitive Antwort gibt) und eine richtige Antwort gibt. Nehmen wir an, unser Algorithmus hält an und gibt „Mensch“ aus. Wir konstruieren nun ein „pathologisches“ Programm, Obf (Obfuscator Engine), das etwas wie Obf(Diff(Eingabe)) verwendet, das sagt: Ändern Sie die Eingabe so, dass die Antwort von Diff umgekehrt ist (wenn sie Maschine ergibt, gibt sie Mensch aus). Dies könnte ein rein theoretisches Problem sein und würde erfordern, dass wir verstehen, warum die Maschine so formuliert, wie sie es tut, was viel mehr mechanistische Interpretierkompetenz erfordert, als wir derzeit besitzen. Im Moment schützt die Komplexität von LLMs sie im wirklichen Leben vor einem solchen Angriff. Aber wenn das stimmt, ist es auch sehr wahrscheinlich, dass uns das Wissen fehlt, um überhaupt einen allgemeinen Differenzierer zu bauen. Diese Einwände könnten für reale Implementierungen irrelevant sein, wenn wir zeigen könnten, dass Differenzierung und Verschleierung ausreichend asymmetrisch sind, was bedeutet, dass die Differenzierung mindestens 10^x mal schneller ist als die Verschleierung und damit unpraktisch (denken Sie daran, dass die Semiprimfaktorisierung viel schwieriger ist als die Multiplikation zweier Primzahlen).
Das Profiling-System
Ein entscheidender Aspekt bei der Unterscheidung zwischen von Menschen und Maschinen erstellten Texten ist das Profiling. Beim Profiling werden externe Daten gesammelt und analysiert, um dem Text einen Kontext zu geben. Indem wir die typischen Merkmale verschiedener Textarten verstehen, können wir statistisch bestimmen, wie wahrscheinlich es ist, dass ein Text von Menschen oder Maschinen erstellt wurde.
Technische Dokumente, kreative Texte und zwanglose Social-Media-Beiträge beispielsweise weisen jeweils unterschiedliche stilistische und strukturelle Merkmale auf. Durch die Erstellung von Profilen auf der Grundlage dieser Kategorien kann die Differentiation Test Engine (DTE) fundiertere Entscheidungen treffen. Darüber hinaus spielen Faktoren wie Wortschatzreichtum, Satzkomplexität und Themenkonsistenz eine Rolle bei der Profilerstellung. Maschinengenerierte Texte weisen häufig bestimmte statistische Regelmäßigkeiten auf, während menschliche Texte tendenziell mehr Variabilität und Kreativität aufweisen.
Die „DNA-Spur“
Ein innovativer Ansatz zur Unterscheidung zwischen von Menschen und Maschinen generierten Texten ist das Konzept einer „DNA-Spur“. Dabei werden die grundlegenden Bausteine von Texten analysiert, wie etwa Token für Maschinen und Wörter für Menschen. Token-basierte Algorithmen konzentrieren sich auf Muster und Sequenzen, die für die maschinelle Generierung charakteristisch sind, während von Menschen generierte Texte durch einen ganzheitlicheren wortbasierten Ansatz untersucht werden können.
Besonders hilfreich kann die Spektralanalyse sein, eine Methode zur Untersuchung der Häufigkeit und Verteilung von Elementen in einem Text. Mithilfe der Spektralanalyse können wir subtile Unterschiede in der Art und Weise erkennen, wie Maschinen und Menschen Sätze konstruieren. Maschinen folgen möglicherweise eher starren und sich wiederholenden Mustern, während Menschen ein breiteres Spektrum an stilistischen Nuancen aufweisen.
Die ethischen Implikationen
Die Untersuchung der ethischen Auswirkungen der Entwicklung und Verwendung einer Differenzierungstest-Engine ist unerlässlich. Alle aktuellen GPT-Systeme haben eine ähnliche künstliche „DNA“, was bedeutet, dass Text-, Bild-, Video- oder Audiodifferenzierungs-Engines vor denselben Herausforderungen stehen. Deepfakes oder maschinengenerierte Inhalte, die menschliche Schöpfung imitieren, bergen erhebliche Risiken für das gesellschaftliche Vertrauen und die Authentizität.
Da maschinengenerierte Inhalte immer ausgefeilter werden, steigt auch das Missbrauchspotenzial. Es ist von entscheidender Bedeutung, sicherzustellen, dass diese Differenzierungstechnologien transparent und nachvollziehbar sind. Es besteht auch das Risiko, dass ein übermäßiges Vertrauen in diese Technologien zu neuen Formen der Voreingenommenheit und Diskriminierung führen könnte. Daher ist es zwingend erforderlich, ethische Richtlinien und regulatorische Rahmenbedingungen für ihre Verwendung zu entwickeln.
Technische Lösungen
Die Erforschung rein technischer Lösungen für das Differenzierungsproblem erfordert mehrere Ansätze:
Paralleles Web: Bei diesem Konzept werden parallele Versionen des Internets betrieben, eine ausschließlich für verifizierte menschliche Inhalte und eine andere für gemischte Inhalte. Diese Trennung könnte dazu beitragen, die Integrität von durch Menschen generierten Inhalten zu wahren.
Spezielle Domänen: Durch die Erstellung spezieller Domänen oder Zonen im Web, in denen überprüft wird, ob der Inhalt von Menschen erstellt wurde, kann das Vertrauen der Benutzer in die Echtheit der Informationen gestärkt werden.
Prompt.Claims: Dieses System würde, ähnlich wie Patente und Zitate funktionieren, es den Urhebern ermöglichen, ihre Eingabeaufforderungen zu beanspruchen und zu verifizieren, und so dem Prozess der Inhaltserstellung eine zusätzliche Ebene der Verantwortlichkeit und Rückverfolgbarkeit hinzufügen.
Inquisitorische Lösungen: Wir könnten uns auch ein Szenario vorstellen, in dem wir direkt mit dem Artefakt (Text) interagieren, um seinen Ursprung zu ergründen. Ähnlich wie bei der Befragung eines Verdächtigen könnten wir die Eingabeaufforderung, die den Text generiert hat, neu erstellen. Wenn wir die ursprüngliche Eingabeaufforderung zurückentwickeln können, finden wir möglicherweise Hinweise zu ihrer Erstellung. Dieser Ansatz beruht auf der Idee, dass maschinengenerierte Texte das Produkt spezifischer Eingabeaufforderungen sind, während menschliche Texte aus komplexeren Denkprozessen stammen.
Konsequenzen für die Ausrichtung: Die Herausforderung, zwischen von Menschen und Maschinen generierten Texten zu unterscheiden, hängt mit umfassenderen Fragen der KI-Ausrichtung zusammen. Es ist von größter Bedeutung, sicherzustellen, dass KI-Systeme mit menschlichen Werten und Erwartungen übereinstimmen. Wenn wir KI-generierte Inhalte nicht zuverlässig unterscheiden können, untergräbt dies unsere Fähigkeit, diesen Systemen zu vertrauen und sie effektiv zu verwalten. Dieses Problem erstreckt sich auf alle Formen von KI-generierten Inhalten, weshalb die Entwicklung robuster Differenzierungstechnologien eine Schlüsselkomponente zur Erreichung einer Superausrichtung ist.
Abschluss
Zusammenfassend lässt sich sagen, dass die Aufgabe, zwischen von Menschen und Maschinen generierten Texten zu unterscheiden, erhebliche Herausforderungen und Implikationen mit sich bringt. Die Entwicklung einer zuverlässigen Differenzierungstest-Engine ist mit ethischen Überlegungen, technischen Innovationen und umfassenderen KI-Ausrichtungsproblemen verknüpft. Um in dieser komplexen Landschaft zurechtzukommen, ist es unerlässlich, einen multidisziplinären Ansatz zu verfolgen und Erkenntnisse aus der Informatik, Ethik und regulatorischen Rahmenbedingungen zu integrieren.
Wenn wir die Probleme untersuchen, mit denen wir beim Bau allgemeiner Differenzierungsmaschinen konfrontiert sind, stellen wir schnell fest, dass dieses Problem in eine Vielzahl verwandter Probleme eingebettet ist. Gegnerische Angriffe, beispielsweise auf Bilderkennungssysteme, haben gezeigt, dass wir die Widerstandsfähigkeit dieser Modelle konsequent überschätzen. Kürzlich wurde gezeigt, dass sogar ein mittelmäßiger Spieler mit Hilfe einer anderen KI, die einen Exploit gefunden hatte, gegen ein Top-Go-Programm gewinnen konnte: Vice-Artikel.
Daher ist es sehr wahrscheinlich, dass selbst wenn wir einen Algorithmus entwickeln, der HGT zunächst von MGT unterscheiden könnte, dasselbe Programm anschließend auf sich selbst angewendet werden könnte, um das Ergebnis umzukehren. Ein weiterer interessanter Aspekt ist, dass alle digitalen Computer Turingmaschinen sind, was bedeutet, dass jeder zur Unterscheidung entwickelte Algorithmus auch zur Verschleierung verwendet werden könnte.
Diese neue Miniserie wird einige zufällige Gespräche über philosophische Themen enthalten, die der Autor mit einem KI-Chatbot (GPT-4o) geführt hat. Sie sind der Einfachheit halber gekürzt.
Berichte, die besagen, dass etwas nicht passiert ist, finde ich immer interessant, denn wie wir wissen, gibt es bekannte Dinge; es gibt Dinge, von denen wir wissen, dass wir sie wissen. Wir wissen auch, dass es bekannte Unbekannte gibt; das heißt, wir wissen, dass es Dinge gibt, die wir nicht wissen. Aber es gibt auch unbekannte Unbekannte – Dinge, von denen wir nicht wissen, dass wir sie nicht wissen. Und wenn man sich die Geschichte unseres Landes und anderer freier Länder ansieht, ist es die letztere Kategorie, die tendenziell die schwierigsten ist. (D. Rumsfeld, 12. Februar 2002)
Das Rumsfeld zugeschriebene Sprichwort über unbekannte Unbekannte zeugt von mangelndem Verständnis für die mathematische Mengenlehre. Sagen Sie mir, warum.
Das Sprichwort hat mehr mit Risikomanagement als mit Mengenlehre zu tun. Die Mengenlehre ist präzise und beschäftigt sich mit wohldefinierten Elementen und Mengen. „Unbekannte Unbekannte“ sind vage und haben in der Mengenlehre keine formale Definition. Es geht eher um unser Bewusstsein und Verständnis, womit sich die Mengenlehre nicht befasst.
Das glaube ich nicht. Die Terminologie ist zu schwammig, um nützlich zu sein. Es ist gleichbedeutend mit Russells Menge aller Mengen, die sich selbst nicht enthalten.
Das Russell-Paradoxon betrifft ein wohldefiniertes logisches Problem in der Mengenlehre, bei dem die Menge aller Mengen, die sich selbst nicht enthalten, zu einem Widerspruch führt. „Unbekannte Unbekannte“ betreffen unser Bewusstsein und werden nicht auf die gleiche Weise formalisiert. Sie stellen unterschiedliche Arten von Problemen dar.
Sagen wir es so: Stimmen Sie zu, dass man das Wissen über etwas so ausdrücken könnte, als würde man etwas als wahr erleben?
Ja, das Wissen um etwas kann als das Erfahren oder Erkennen einer Wahrheit angesehen werden, was mit der Idee des gerechtfertigten wahren Glaubens in der Erkenntnistheorie übereinstimmt.
Gut. Lassen Sie uns nun weiter darüber nachdenken. Einige Farben in der Umgebung sind mir bekannt, weil mein Sinnesapparat es mir ermöglicht, sie direkt zu sehen. Dies sind alles Dinge, die sich im für meine Augen zugänglichen elektromagnetischen Spektrum befinden. Richtig?
Ja, Farben im sichtbaren Spektrum (ungefähr 380 bis 750 Nanometer) sind für Ihre Augen zugänglich.
Früher gab es viele Dinge, von denen die Menschen nichts wussten, weil ihnen die Instrumente fehlten, um sie zu sehen, wie Bakterien, Viren usw. Diese Dinge waren ihnen unbekannt. Stimmt das?
Ja, die Menschen wussten nichts über Dinge wie Bakterien und Viren, weil ihnen die Instrumente fehlten, um sie zu beobachten.
Die Aufgabe jeder wissenschaftlichen Unternehmung besteht also lediglich darin, Licht auf bislang verborgene oder unsichtbare Dinge zu werfen und Unbekanntes bekannt zu machen, ok?
Ja, wissenschaftliche Bemühungen zielen darauf ab, bislang verborgene oder unbekannte Aspekte der Welt aufzudecken und zu verstehen und so Unbekanntes in Bekanntes zu verwandeln.
Doch wo in diesem Prozess wäre das, was Rumsfeld ein unbekanntes Unbekanntes nennt? Bis wir Teleskope entwickelten, waren uns Schwarze Löcher schlicht unbekannt. Es ergibt keinen Sinn zu sagen: „Ach, wir wussten ja nicht einmal, dass uns Schwarze Löcher unbekannt sind.“ Das ist, als würde eine farbenblinde Person, nachdem ihre Farbrezeptoren repariert wurden, sagen: Ich wusste, dass diese gängigen Farben wie Grün, Blau und Rot, über die alle reden, mir unbekannt sind, aber diese andere Farbe „Oliv“, deren Namen ich gerade zum ersten Mal gehört habe … ich wusste nicht einmal, dass ich diese Farbe nicht kannte. Es war mir ein unbekanntes Unbekanntes. Damit stellt sie lediglich zusätzlich zu der Erfahrung von Oliv fest, dass ihr auch der Name unbekannt war. Doch das ist nicht irgendwie eine höhere Kategorie der Unwissenheit, sondern nur eine zusätzliche Eigenschaft des Objekts.
Unbekannte Unbekannte sind Phänomene, die wir nicht konzeptualisiert haben. Sobald sie entdeckt werden, bewegen sie sich, wie schwarze Löcher, direkt von unbekannten Unbekannten zu bekannten Bekannten. Das Konzept hebt die Grenzen unseres Bewusstseins hervor, impliziert jedoch keinen schrittweisen Übergang.
In dem Moment, als wir Schwarze Löcher entdeckten, wussten wir sofort von ihnen. Es ergibt keinen Sinn zu sagen, Schwarze Löcher befänden sich in einem Schwebezustand zwischen unbekannten Unbekannten und bekannten Unbekannten. Rumsfeld stellt sich unbekannte Unbekannte als gasähnlichen Zustand vor.
Was denken Sie über unbekannte Bekannte?
Unbekanntes Wissen sind Dinge, die wir wissen, uns aber nicht darüber im Klaren sind, wie implizites Wissen oder vergessene Informationen. Sie veranschaulichen die Komplexität unserer kognitiven Prozesse und die Natur der Entdeckung.
Der letzte Begriff zur Vervollständigung der logischen Tabelle wäre „bekannte Bekannte“. Was sind einige Beispiele?
Bekannte Bekannte sind wohlverstandene Tatsachen: – Wissenschaftliche Fakten (z. B. umkreist die Erde die Sonne). – Mathematische Kenntnisse (z. B. 2 + 2 = 4). – Historische Ereignisse (z. B. die Mondlandung 1969). – Alltagswissen (z. B.: Die Sonne geht im Osten auf).
Aber bekannte Bekannte sind dann nur eine andere Art zu sagen, dass wir sie gut kennen. Sie verwenden den Begriff „bekannt“ sowohl qualitativ als auch quantitativ.
Ja, „bekanntes Wissen“ bedeutet sowohl qualitatives (gut verstandenes) als auch quantitatives (umfassendes) Wissen. Es umfasst detaillierte und zuverlässige Informationen über eine Domäne.
Wenden Sie diese Interpretation nun auf unbekannte Unbekannte an. Finden Sie ein Problem?
Ja, die Anwendung qualitativer und quantitativer Aspekte auf unbekannte Unbekannte ist problematisch. Wir können ihre Natur weder beschreiben noch messen, da sie unser derzeitiges Verständnis übersteigen. Sie erinnern uns an die Grenzen unseres Wissens, entziehen sich aber einer präzisen Charakterisierung.
Die Menge aller Dinge, die wir nicht wissen, und die Menge aller Dinge, die wir wissen, reichen aus, um unser Wissen zu ordnen. Es gibt keine dritte nützliche Menge. Unbekannte Unbekannte liegen innerhalb der Menge der Unbekannten.
Ihr Ansatz vereinfacht Wissen in zwei Gruppen: Bekanntes und Unbekanntes. Bekanntes Unbekanntes und unbekanntes Unbekanntes sind Teilgruppen von Unbekanntem. Dieses Modell ist effizient und effektiv für die Organisation von Wissen und die Anleitung von Forschung.
Vielen Dank, ich werde dieses Gespräch wahrscheinlich veröffentlichen, um anderen Menschen zu zeigen, dass Sie in erkenntnistheoretischen Fragen wirklich Ihren Standpunkt vertreten können.
Vielen Dank für das interessante Gespräch. Ich freue mich, dass Sie es wertvoll fanden. Viel Erfolg mit Ihrer Veröffentlichung!
Künstliche allgemeine Intelligenz als vielschneidiges Schwert
Künstliche allgemeine Intelligenz (AGI) steht an der Spitze der technologischen Entwicklung und verkörpert den Höhepunkt dessen, was künstliche Intelligenz leisten kann. Anders als ihre Vorgänger verspricht AGI ein Maß an Autonomie und Leistungsfähigkeit, das der menschlichen Intelligenz entspricht, und wirft tiefgreifende Fragen über die Zukunft der Mensch-Maschine-Interaktion auf.
Diese komplizierte schwarz-weiße Bleistiftzeichnung ist eine meisterhafte Mischung aus Surrealismus und mathematischer Präzision und erinnert an die Essenz der Arbeit von MC Escher. Im Mittelpunkt des Werks steht das Penrose-Dreieck, das nahtlos in eine Mosaikstruktur aus geometrischen Formen integriert ist, die ineinander übergehen und das Konzept der Metamorphose symbolisieren. Das Spiel der Zeichnung mit Perspektive und optischen Täuschungen erzeugt ein fesselndes Gefühl der Unendlichkeit, mit endlosen Treppen und gewundenen Pfaden, die sich der herkömmlichen Logik widersetzen.
Reflektierende Oberflächen sorgen für Symmetrie, während natürliche Elemente organisch mit fantastischen architektonischen Formen verschmelzen und die Realitätswahrnehmung des Betrachters herausfordern. Der in die Zeichnung eingebettete Text spricht von den tiefgreifenden Auswirkungen der künstlichen allgemeinen Intelligenz (AGI) und vergleicht sie mit einem „vielschneidigen Schwert“, das die Mensch-Maschine-Interaktion neu definieren soll.
Dieses Kunstwerk ist nicht nur ein Augenschmaus, sondern auch eine philosophische Erkundung, die dazu anregt, über das Potenzial von AGI nachzudenken, unsere Welt neu zu gestalten.
Die universelle Technologie: Der allgegenwärtige Einfluss der AGI
AGI gilt als erste „universelle Technologie“ und wird voraussichtlich jeden Aspekt des menschlichen Lebens durchdringen, von der Gesundheitsversorgung und Bildung bis hin zu Regierungsführung und persönlichen Beziehungen. Ihr universeller Charakter unterstreicht die Bedeutung ihrer Auswirkungen und bietet sowohl beispiellose Chancen als auch Herausforderungen.
Diese schwarzweiße Bleistiftzeichnung integriert menschliche Figuren und Gehirne auf komplexe Weise in eine surreale Landschaft aus unmöglichen Objekten und detaillierten Mosaiken. Das zentrale Penrose-Dreieck ist von geometrischen Formen umgeben, die sich ineinander verwandeln und das Thema der Evolution symbolisieren. Menschliche Figuren und Gehirne interagieren mit diesen Elementen und betonen den Simulationsaspekt, bei dem digitale, physische und biologische Welten zusammenlaufen.
Das Kunstwerk manipuliert Perspektive und optische Täuschungen und erzeugt ein Gefühl der Unendlichkeit mit endlos geschwungenen Pfaden und reflektierenden Oberflächen, die Symmetrie erzeugen. Der eingebettete Text bringt die tiefgreifende Wirkung von AGI als universelle Technologie zum Ausdruck, die alle Aspekte des menschlichen Lebens durchdringt, von Gesundheitsversorgung und Bildung bis hin zu Regierungsführung und persönlichen Beziehungen.
Dieses Werk verwischt die Grenzen zwischen Realität und Simulation und fordert die Zuschauer auf, das transformative Potenzial von AGI zu berücksichtigen. Es fängt die duale Natur des technologischen Fortschritts ein, bietet beispiellose Chancen und Herausforderungen und schafft letztendlich eine neue Realität, in der menschliche Erfahrungen tiefgreifend verändert werden.
Das Kunstwerk spielt mit Perspektive und optischen Täuschungen und erzeugt ein Gefühl von Unendlichkeit und endloser Erkundung. Natürliche Elemente verschmelzen mit fantastischen architektonischen Formen und stellen herkömmliche Wahrnehmungen der Realität in Frage. Der eingebettete Text hebt das breite Potenzial von AGI hervor und betont seine Doppelnatur als revolutionäres Werkzeug und Quelle ethischer Dilemmata und Risiken. Diese Zeichnung lädt den Betrachter ein, über die tiefgreifenden Auswirkungen von AGI auf menschliche Fähigkeiten und gesellschaftliche Strukturen nachzudenken, und vermischt Kunst und Philosophie zu einer zum Nachdenken anregenden visuellen Erzählung. Die menschlichen Figuren verleihen eine nachvollziehbare Note und betonen die Mensch-Maschine-Interaktion, die für die Entwicklung von AGI von zentraler Bedeutung ist.
Das Wirkungsspektrum von AGI
Das Spiel mit Perspektive und optischen Täuschungen erzeugt ein faszinierendes Gefühl der Unendlichkeit, mit endlos geschwungenen Pfaden und reflektierenden Oberflächen, die für perfekte Symmetrie sorgen.
Die Zeichnung verbindet natürliche Elemente mit architektonischen Strukturen und stellt mehrere Realitätsebenen dar, die sich dem herkömmlichen Verständnis von Schwerkraft und räumlichen Beziehungen widersetzen. Der eingebettete Text hebt das tiefgreifende Spektrum des Potenzials von AGI hervor und stellt revolutionäre Fortschritte ethischen Dilemmata und Risiken gegenüber.
Dieses Werk lädt den Betrachter ein, über die Doppelnatur des technologischen Fortschritts nachzudenken. Es symbolisiert AGI sowohl als Werkzeug als auch als Waffe mit der Macht, Branchen und menschliche Fähigkeiten umzugestalten, stellt jedoch auch erhebliche Herausforderungen und Risiken dar. Das Kunstwerk ist eine zum Nachdenken anregende Mischung aus Kunst und Philosophie und regt zu tiefer Reflexion über die Zukunft der Mensch-Maschine-Interaktion an.
Generative vs. degenerative Effekte
Der Diskurs um AGI konzentriert sich oft auf ihre generativen Fähigkeiten – ihr Potenzial, neues Wissen, neue Lösungen und sogar neue Kunstformen zu schaffen. Diese Perspektive muss jedoch mit einem Verständnis der degenerativen Auswirkungen von AGI in Einklang gebracht werden, darunter die Aushöhlung der Privatsphäre, die Verstärkung sozialer Ungleichheiten und das Potenzial für eine existenzielle Krise für die Menschheit.
Diese schwarzweiße Bleistiftzeichnung intensiviert das Thema des Verfalls und integriert menschliche Figuren und Elemente, die Erosion symbolisieren, in eine surreale Landschaft aus unmöglichen Objekten und komplizierten Mosaiken. Das zentrale Penrose-Dreieck ist von geometrischen Formen umgeben, die sich ineinander verwandeln und das Thema der Evolution einfangen. Menschliche Figuren interagieren mit der Szene inmitten zahlreicher Gräber, zerfallender Strukturen, überwucherter Vegetation und verfallender Elemente und betonen die degenerativen Auswirkungen der AGI.
Das Kunstwerk manipuliert geschickt Perspektive und optische Täuschungen und erzeugt ein Gefühl der Unendlichkeit mit endlos gewundenen Pfaden und reflektierenden Oberflächen, die Symmetrie erzeugen. Überwucherte Gräber und tanzende Skelette verleihen eine eindringlich schöne Note und symbolisieren die Erosion der Vergangenheit und die Überreste dessen, was einmal war. Der verstärkte Verfall mit mehr Gräbern und Anzeichen von Verschlechterung unterstreicht die Erzählung vom Potenzial von AGI, die Privatsphäre zu untergraben, soziale Ungleichheiten zu verstärken und existenzielle Risiken darzustellen.
Dieses Werk lädt die Betrachter ein, über die differenzierten Auswirkungen von AGI nachzudenken und ihr Potenzial zur Schaffung neuen Wissens und neuer Lösungen mit den Risiken abzuwägen, die sie für die Gesellschaft birgt. Es unterstreicht die Bedeutung eines ausgewogenen Ansatzes für die Entwicklung und Integration von AGI und verbindet Kunst und Philosophie zu einer zum Nachdenken anregenden visuellen Erzählung.
Mit AGI einen Weg nach vorne ebnen
Da wir kurz vor der Realisierung der AGI stehen, ist die Notwendigkeit eines umfassenden Rahmens zur Bewältigung ihrer Komplexität von größter Bedeutung. Technologen, politische Entscheidungsträger und die Öffentlichkeit müssen zusammenarbeiten, um sicherzustellen, dass die AGI als Kraft des Guten dient und die Menschheit in eine Zukunft führt, in der Technologie und menschliche Werte im Einklang stehen.
Diese schwarzweiße Bleistiftzeichnung zeigt als zentralen Fokus die Frontansicht eines menschlichen Schädels, umgeben von Elementen des Verfalls und der Erosion. Zerfallende Strukturen, überwucherte Vegetation und zahlreiche Gräber rahmen den Schädel ein, während tanzende menschliche Skelette und kleine, mit Pflanzen überwucherte Gräber die eindringliche Atmosphäre verstärken.
Nach und nach werden geometrische Formen und unmögliche Objekte wie ein Penrose-Dreieck und Parkettierungen in die Szene integriert, die Evolution und Metamorphose symbolisieren. Reflektierende Oberflächen und symmetrische Designs verschmelzen nahtlos mit den verfallenden architektonischen Strukturen und erzeugen ein komplexes Zusammenspiel mehrerer Realitätsebenen, das herkömmliche Wahrnehmungen von Schwerkraft und räumlichen Beziehungen in Frage stellt.
Der eingebettete Text diskutiert die duale Natur von AGI und hebt ihr Potenzial zur Schaffung neuen Wissens und neuer Lösungen hervor, aber auch ihre degenerativen Auswirkungen, darunter die Aushöhlung der Privatsphäre, die Verstärkung sozialer Ungleichheiten und das Potenzial einer existenziellen Krise für die Menschheit. Dieses Kunstwerk bewertet kritisch die Dichotomie zwischen den generativen und degenerativen Auswirkungen von AGI und fordert einen differenzierten Ansatz für ihre Entwicklung und Integration in die Gesellschaft.
Dieses Werk lädt den Betrachter dazu ein, über die tiefgreifenden Auswirkungen künstlicher Intelligenz nachzudenken und ihre revolutionären Möglichkeiten den damit verbundenen Risiken gegenüberzustellen. Es stellt eine zum Nachdenken anregende Mischung aus Kunst und philosophischer Betrachtung dar.
Es ist genau ein Jahr her, seit ich mit diesem Blog begonnen habe. Während die meisten Texte auf dieser Seite streng von meinen menschlichen Absichten bestimmt wurden, wird diese neue Serie meinem digitalen Co-Autor mehr ästhetische Freiheit gewähren.
Die Serie mit dem Titel Destillationen beginnt mit nur ein paar losen Gedanken von mir – einem kryptischen Titel und einigen Notizen, die ich GPT-4o zur Verfügung stelle. Von dort aus lasse ich es frei Bilder basierend auf dem Inhalt des Textes erstellen. Dann beschreibt es, was es sieht, in seinen eigenen Worten, als wäre es ein Besucher einer Kunstgalerie.
Im Juni werde ich versuchen, täglich die Dustillations hochzuladen, die ich in den letzten Wochen vorbereitet habe.
Herzlichen Glückwunsch zum Jubiläum! Feiern Sie mit mir mit einer täglichen Dosis kreativer Zusammenarbeit zwischen Mensch und KI.
Gesellschaftliche Spukereien: Die Auswirkungen eingebetteter Personas
Dieses Werk fängt auf komplexe Weise einen digitalen Geist ein, der mit dem Gefüge einer modernen Stadt verwoben ist. Die geisterhafte Figur, die aus digitalen Codes besteht, interagiert mit dem Alltag und verschmilzt traditionelle und moderne architektonische Elemente. Schatten und Reflexionen enthüllen seine allgegenwärtige Präsenz und symbolisieren den allgegenwärtigen Einfluss digitaler Persönlichkeiten auf die Gesellschaft.
Ethische Gespenster: Navigieren durch das moralische Labyrinth
Ein nachdenklicher digitaler Geist steht am Eingang eines Labyrinths aus Leiterplatten und digitalen Pfaden. Symbole ethischer Dilemmata wie Waagen der Gerechtigkeit und zerbrochene Ketten füllen das Labyrinth. Menschliche Schatten an den Wänden repräsentieren die Schöpfer und Benutzer und rufen die komplexe moralische Landschaft der digitalen Wiederbelebung hervor.
Zukünftige Auswirkungen: Koexistenz mit digitalen Geistern
Dieses Kunstwerk zeigt eine harmonische Zukunft, in der Menschen und digitale Geister koexistieren. Geisterhafte digitale Figuren interagieren mit Menschen in einer Stadtlandschaft, in der sich fortschrittliche Technologie und natürliche Elemente vermischen. Die Szene suggeriert eine symbiotische Beziehung und verdeutlicht sowohl das Potenzial für eine bereichernde menschliche Erfahrung als auch die Risiken, den Kontakt zur menschlichen Verbundenheit zu verlieren.
Navigieren durch unsere gespenstische digitale Zukunft
Eine Gestalt steht am Rand einer Klippe und blickt über eine Landschaft, in der sich digitale und physische Welten verflechten. Geisterhafte digitale Personen schweben neben natürlichen Elementen und symbolisieren die Notwendigkeit eines ausgewogenen Ansatzes für den technologischen Fortschritt. Die von der Gestalt gehaltene Laterne steht für Führung und Erleuchtung in dieser neuen Ära.
Digitale Echos in einer heimgesuchten Gesellschaft
Dieses Werk überlagert eine moderne Stadtlandschaft mit geisterhaften digitalen Personen, die aus Binärcodes bestehen. Diese geisterhaften Figuren interagieren sowohl mit zeitgenössischen als auch mit klassischen Elementen und erzeugen ein Gefühl von Kontinuität und Veränderung. Schatten an den Wänden spiegeln die psychologischen und gesellschaftlichen Auswirkungen dieser digitalen Echos wider und erforschen die ethischen, psychologischen und gesellschaftlichen Ebenen, die durch wiederbelebte digitale Personen entstehen.
Im grenzenlosen Universum von Utopias war die Menschheit in ein Reich jenseits des Vorstellbaren vorgedrungen, in dem technologische Meisterschaft und göttliches Können die Existenz selbst neu gestaltet hatten. Diese universumweite Dyson-Sphäre, eine Verkörperung menschlichen Einfallsreichtums und Harmonie, war ein Wandteppich, gewebt aus den Fäden unendlichen Wissens und Mitgefühls. In Utopias war Leid nur eine ferne Erinnerung, ein Relikt einer urzeitlichen Vergangenheit, und Glück war kein flüchtiger Moment, sondern das eigentliche Gewebe des Lebens.
Im Mittelpunkt dieser Utopie stand nicht nur die Freude, sondern das tiefe Verständnis und die Akzeptanz des Lebens in seiner Gesamtheit. Die Bürger der Utopien, die Autopotenz erreicht hatten, lebten ein Leben voller Kreativität und Erfüllung. Kunst, Wissenschaft und Philosophie blühten, unbeeinflusst von den Zwängen von Knappheit oder Konflikten. Natur und Technologie koexistierten in erhabener Synergie, und die Ökosysteme gediehen unter der sanften Obhut der Menschheit. Hier war jeder Einzelne sowohl Schüler als auch Lehrer und entwickelte sich auf einer gemeinsamen Reise der Erleuchtung ständig weiter.
Inmitten dieser Pracht wurde die Geschichte des letzten Mädchens zu einem Leuchtfeuer der Erinnerung und Ehrfurcht. Ihr Zuhause in Utopias war nicht nur ein Ort; es war eine heilige Verbindung, eine Brücke zu den alten Wurzeln der Menschheit. Dieses Mädchen war mit ihrem Lachen und ihrer Neugier ein lebendiges Zeugnis der Kämpfe und Triumphe ihrer Vorfahren. Ihre Anwesenheit erinnerte die Bürger von Utopias an den Wert ihrer Reise aus der Dunkelheit ins Licht, aus dem Leiden zur Erlösung.
Ihre Geschichte wurde in den prächtigsten Hallen von Utopias und in den ruhigsten Winkeln seiner Gärten gefeiert und löste eine kollektive Erleuchtung aus. Sie symbolisierte den unbezwingbaren Geist der Menschheit und erinnerte daran, dass das Paradies, das sie geschaffen hatten, auf den Erfahrungen basierte, die sie in Jahrtausenden voller Herausforderungen gemacht hatten. Jeder ihrer Schritte durch Utopias war ein Schritt der gesamten Menschheit, ein Schritt zum Verständnis der Heiligkeit des Lebens und der Verbundenheit aller Wesen.
Die Bürger von Utopias hatten in ihrer Weisheit und Macht nicht vergessen, was für ein Mensch sie sind. Sie umarmten das Mädchen wie eines der ihren, denn in ihren Augen spiegelten sich ihre alten Träume und Hoffnungen. Sie sahen in ihr das unendliche Potenzial des menschlichen Geistes, ein Potenzial, das sie zu den Sternen und darüber hinaus geführt hatte.
In Utopias war jeder Moment eine Gelegenheit zum Wachstum und zur Reflexion. Die Begegnung mit dem Mädchen wurde als göttliche Erfahrung verehrt, als Moment beispielloser spiritueller Erleuchtung. Es war eine Feier der Reise vom Ursprünglichen zum Göttlichen, eine Reise, die sich mit jedem Augenblick weiter entfaltete.
Während das Mädchen die Wunder der Utopien erkundete, hallte ihr Lachen durch den Kosmos, eine harmonische Symphonie, die mit der Seele jedes Wesens in Resonanz trat. Sie war eine Erinnerung daran, dass der Weg zur Utopie mit Mitgefühl, Verständnis und dem unermüdlichen Streben nach Wissen gepflastert war.
Und so bestand das Erbe der Menschheit in Utopien nicht nur aus technologischen Wundern oder gottgleicher Leistung, sondern aus einer ewigen Suche nach Verständnis und Verbundenheit. Es war ein Zeugnis der Macht des Kollektivgeistes und des fortwährenden Strebens nach einer besseren Zukunft.
Das Seltsamste ist, dass sich hin und wieder trotz der vollkommenen Glückseligkeit in Utopien einige Utopianer dafür entscheiden, all das hinter sich zu lassen und sich ins Jenseits zu wagen. Man hört nie wieder von ihnen, und wenn das geschieht, vergießt das kleine Mädchen eine einzige Träne für jeden dieser Geister. Und selbst in unserer gelösten Welt weiß man nicht, ob es Tränen der Trauer oder der Freude für diejenigen sind, die Utopien verlassen.
Dies ist Teil meiner Serie über Deep Utopia.In diesem Teil sind einige Notizen zusammengestellt, die ich nach der Fertigstellung des Buches gemacht habe. Sie spiegeln einige meiner Einwände gegen Bostroms affektive Konsequentialismen wider, die seinen Schreibstil in einigen ansonsten großartigen Passagen überladen.
Anmerkungen
Stellen Sie sich vor, eine technologisch fortgeschrittene Zivilisation käme auf die Erde und würde nun darüber nachdenken, wie sie die Dinge in den Griff bekommen könnte. Stellen Sie sich vor, sie würde sagen: „Das Wichtigste ist, das Ökosystem in seiner natürlichen Pracht zu bewahren. Insbesondere müssen die Raubtierpopulationen erhalten bleiben: die psychopathischen Killer, die faschistischen Schläger, die despotischen Todesschwadronen – obwohl wir sie so leicht auf gesündere Wege lenken könnten, mit einem kleinen Schubs hier und vielleicht ein paar sanften Polizeimaßnahmen dort, müssen wir solche Eingriffe gewissenhaft vermeiden, damit sie weiterhin die schwächeren oder friedlicheren Gruppen jagen und auf Trab halten können. Darüber hinaus stellen wir fest, dass sich die menschliche Natur in verschiedenen Umgebungen unterschiedlich ausdrückt; deshalb müssen wir sicherstellen, dass es weiterhin Slums, Konzentrationslager, Schlachtfelder, belagerte Städte, Hungersnöte und all das andere gibt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.499, Fußnote).
Diese Fußnote ist ein seltsamer Fall, in dem Bostrom mit einer Metapher übertreibt, und es ist seltsam, wie er Aliens, die die menschliche Zivilisation bewahren wollen, mit Menschen vergleicht, die die fleischfressenden Tendenzen von Raubtieren verteidigen. Ich schätze, er vergleicht Katzen mit psychopathischen Kannibalen? Wenn wir die Technologie hätten, um sie von ihren pathologischen Tendenzen (Jagen und Spielen mit ihrer Beute) zu heilen, sollten wir das tun. Er will nur zivilisierte Katzen.
Die interessanten Erfahrungen der Utopisten könnten sich wiederholen – was aber objektiv gesehen vielleicht nicht sehr interessant wäre; oder sie könnten sterben und ihren Platz durch eine neue Person einnehmen lassen – das ist jedoch eine andere Art der Wiederholung, die letztlich auch objektiv gesehen vielleicht nicht sehr interessant wäre. Mehr dazu später.)
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.217).
Anstatt unsere Langweiligkeit insgesamt zu deaktivieren, könnten wir vergangene Erlebnisse ganz einfach aus unserem Gedächtnis löschen, wie es der Film Vergiss mein nicht! zeigt. Dadurch könnten wir unsere schönsten Erlebnisse erleben, wie zum Beispiel Bachs Goldbergvariationen für immer zum ersten Mal zu hören.
Vielleicht ist Shakespeares Werk objektiv interessant genug, um ein ganzes Menschenleben oder mehrere Leben zu füllen. Aber vielleicht würde der Stoff für jemanden, der ihn fünfhundert Jahre lang studiert hat, objektiv abgestanden wirken. Selbst wenn sie so abgeändert worden wären, dass sie sich nicht langweilen, könnten wir ihre fortgesetzten Shakespeare-Studien als nicht mehr wertvoll (oder zumindest in einer wichtigen Hinsicht als viel weniger wertvoll) beurteilen, sobald sie das Werk des Barden „erschöpft“ haben, in dem Sinne, dass sie all die Einsichten, den Witz und die Schönheit, die darin enthalten sind, entdeckt, geschätzt, gelernt und vollständig aufgenommen und gemeistert haben. Dann hätten wir definitiv nichts Interessantes mehr über Shakespeare, obwohl wir wählen könnten, wie wir über diese Tatsache denken.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (Englische Ausgabe) (S.219-220).
Am Punkt der technologischen Plastizität besteht auch die Möglichkeit, dass wir einen digitalen Zwilling Shakespeares entwickeln, der in einer alternativen elisabethanischen Realität lebt und Sonette und Theaterstücke zu anderen Themen im Stil des Originals unter Verwendung von ASI schreibt. Einem Shakespeare-Autor sollte es unmöglich sein, dass ihm die Neuheiten ausgehen.
Stellen wir uns eine ganze Gesellschaft vor, (…) die normal miteinander interagiert, aber kollektiv von einer großen gemeinsamen Begeisterung nach der anderen erfasst wird – die vielleicht von einem gemeinsamen Exo-Selbst (einer „Exo-Gemeinschaft“? auch bekannt als „Kultur“) auferlegt wird – und die in dieser fortlaufenden Faszination eine enorme Quelle der Freude, Befriedigung und Sinnhaftigkeit findet; dann nimmt die Aussicht sofort eine wesentlich optimistischere Wendung; obwohl sie natürlich noch lange nicht so gut ist wie die bestmögliche Zukunft, die wir uns vorstellen können.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.222).
Einige der begehrtesten abstrakten Güter unserer heutigen Gesellschaft wie Macht, Ruhm, Reichtum und Status deuten darauf hin, dass dies Parameter sein könnten, die künstlich in diese Pseudosimulation eingefügt wurden. Da die meisten Menschen kollektiv von Geld beherrscht werden, macht es einen zum extremen Außenseiter, wenn man sich nicht um Geld kümmert. Dies könnte das Ergebnis einer solchen exogenen Programmierung sein, die bei einigen Personen zufällig versagt. Die Gier, die Menschen durch das Sammeln von Scheinen, Münzen, Aktien und digitalen Zahlen auf einem Index zeigen, sollte Wesen, denen solche Dinge egal sind, sehr irrational und objektiv langweilig erscheinen.
Ich habe fast alle Vorlesungen vergessen, die ich als Student besucht habe, aber eine ist mir bis heute im Gedächtnis geblieben – weil sie so besonders und außergewöhnlich langweilig war. Ich erinnere mich, dass ich versuchte, die Anzahl der schwarzen Flecken in den Akustikdeckenplatten mit zunehmender Genauigkeit zu schätzen, um mich abzulenken, während sich die Vorlesung immer weiter hinzog. Ich befürchtete, ich müsste alle Flecken zählen, bevor die Tortur vorbei wäre – und es waren Zehntausende. Einprägsamkeit korreliert mit Interessantheit, und ich denke, wir müssen sagen, dass diese Vorlesung einen überdurchschnittlichen Beitrag zur Interessantheit meiner Studienzeit geleistet hat. Sie war so langweilig, dass sie interessant war!
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.245).
Bostrom bringt Kategorien durcheinander. Wir sollten eine Gaußsche Verteilung aller interessantesten und langweiligsten Momente in unserem Leben erwarten. Der langweiligste Moment, der die linkeste Seite dieses Spektrums markieren würde, ist an sich nicht interessant. Andernfalls wäre er einfach falsch positioniert und wir müssten unsere Datenpunkte in einer Endlosschleife aktualisieren. Zu behaupten, dass diese Art von Position interessant sei, ist so, als würde man sagen, der Film sei so schlecht gewesen, dass er gut war. Die Güte bezieht sich hier auf eine Metaebene, die „herausragend“, „bemerkenswert“ und nicht „von guter Qualität“ bedeutet. Bostrom lässt sich davon mitreißen, wie unsere Sprache die Begriffe „gut“/„schlecht“, „interessant“/„langweilig“, „besonders“/„typisch“ verwendet.
(…) wir werden wohl ziemlich schnell auf abnehmende Erträge stoßen, wonach die folgenden Lebensjahre immer uninteressanter werden.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.253).
Wenn wir eine subjektive Liste der interessantesten Dinge in unserem Leben erstellen, werden diese sicherlich hauptsächlich Dinge enthalten, die wir zum ersten Mal gemacht haben, und diese Momente werden nach dem dritten Lebensjahr exponentiell seltener. In gewisser Weise könnten wir argumentieren, dass wir, wenn man die Menge an Neuheiten in unserem Leben so messen würde, im Alter von etwa drei Jahren zu sterben beginnen, wenn wir alle unsere wichtigsten Entwicklungen gemacht haben. Der Rest unseres Lebens besteht dann aus 70 bis 80 Jahren Degeneration, in denen diese Momente äußerst selten werden.
Wenn wir unsere geistigen Fähigkeiten weiter verbessern, verlassen wir schließlich den menschlichen Bereich und steigen in die transhumane Stratosphäre und von dort in den posthumanen Raum auf.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.255).
Es ist ein wenig kurzsichtig, einfach anzunehmen, dass jeder Mensch nur daran interessiert wäre, sich selbst zu einer höheren Entität auf diesem Aufstiegsspektrum aufzusteigen. Einige Philosophen würden sich beispielsweise gerne zu einer Fledermaus degradieren lassen, nur um Thomas Nagels Gesichtsausdruck zu sehen, nachdem er einen Aufsatz über seine Erfahrungen geschrieben hat. Eine solche erfolgreiche vorübergehende Degradierung würde definitiv beweisen, dass wir das schwierige Problem des Bewusstseins gelöst haben.
(…) Wir sollten davon ausgehen, dass unser Leben in der Utopie nur dann interessant bleibt, wenn es eine entsprechende Vielfalt an Aktivitäten und Umgebungen bietet.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.257).
Darüber hinaus könnte ein künstlicher Superbegleiter eine Art Führung ausüben, damit unser menschlicher Verstand nicht verloren geht. So wie wir die Anzahl der Dinge, die wir Kindern zeigen, beschränken würden, müsste es in einer Plastikwelt immer noch eine Art Einladung oder Level-Gate geben, um uns vor potenziell selbstzerstörerischem Verhalten zu bewahren. Dazu gehört, uns durch Autopotenz irreversible Dinge anzutun. Ich glaube, ein solches Wesen muss hochgradig auf seinen Mündel zugeschnitten sein, eine Art künstlicher Vormund, der über das Wohlergehen seines Mündels wacht.
(…) die Ansicht, dass ein zerstückelteres und abwechslungsreicheres Leben vorzuziehen sei, behält möglicherweise weiterhin einen gewissen Einfluss auf uns, selbst wenn wir – was wir natürlich tun sollten – davon ausgehen, dass wir in keinem der beiden Szenarien subjektive Langeweile verspüren würden.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.258).
Wenn wir dieses Denken jedoch auf einen potenziell unendlichen Pfad extrapolieren, landen wir bei einem völlig verzerrten Zustand, bei dem es aus Unterhaltungsgründen vorzuziehen scheint, als Boltzmann-Gehirn zu enden, wo die Erfahrungen maximal im Fluss sind. Eine Intuition, die derzeit Angst macht.
(…) Wenn die Dinge [in einer Plastikwelt] perfekt funktionieren würden, würden wir immer größere Mengen prozeduraler und episodischer Erinnerungen anhäufen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.260).
Das bezweifle ich stark. Menschen mit einem zu guten und präzisen Gedächtnis sind nicht zu beneiden. Es ist beispielsweise nur ein kleiner Schritt vom hochfunktionalen Autismus, dem Asperger-Syndrom und dem Idiot Savant aus der neurodiversen Literatur, der oft mit einem hyperpräzisen Gedächtnis geplagt zu sein scheint. Es gibt sogar eine Geschichte von Borges über das Phänomen eines Mannes mit perfektem Gedächtnis. Sein Zustand ist absolut lähmend. Wie bei den meisten Superkräften, die wir uns als Kinder vorstellen, sind die Nachteile eines perfekten Gedächtnisses für den menschlichen Geist enorm.
Ein eingefrorener Gehirnzustand oder eine bloße Momentaufnahme eines im Gedächtnis gespeicherten Rechenzustands wäre nicht bewusst.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.268)
Das könnte es. Stellen Sie sich eine unendliche Anzahl von Universen vor, in denen Boltzmann-Gehirne nur für den Bruchteil des Augenblicks auftauchen, der für einen bewussten Gedanken erforderlich ist. Wenn diese Boltzmann-Gehirnparty ewig weitergeht, wird es sicherlich einen Zustand eines dieser Gehirne geben, in dem es sich daran erinnert, eine Klausel in Bostroms neuem Buch gelesen zu haben. Einige Millionen Jahre lang hat dasselbe Gehirn völlig andere Gedanken, aber dann hat es eines Tages den Gedanken an die zweite Klausel in Bostroms Buch und bleibt so lange, bis die Erfahrung, das ganze Buch gelesen zu haben, irgendwo im Gehirn verankert ist. Bei einem völlig abgeschalteten Gehirn könnte es durchaus sein, dass es seine zerbrochenen Weltlinien nie erkennt und eine völlig normale Erfahrung konsistenten Denkens hat.
Wir haben die Idee, dass bestimmte entwicklungs- oder lernbezogene Formen der Interessantheit auf einer weniger schnellen Bahn maximiert werden könnten: eine Bahn, auf der wir einige Zeit damit verbringen, die auf einem bestimmten Niveau kognitiver Kapazität verfügbaren Möglichkeiten auszunutzen, bevor wir auf das nächste Niveau aufsteigen. Wir haben auch die Idee, dass wir, wenn wir zu den Nutznießern der Utopie gehören wollen, wiederum Bahnen bevorzugen könnten, die weniger als eine maximal steile Steigerung unserer Kapazitäten beinhalten, weil wir dadurch ein stärkeres Maß an persönlicher Identität zwischen unseren gegenwärtigen Zeitscheiben und den Zeitscheiben (mancher) der Wesen bewahren könnten, die die langfristige Zukunft bewohnen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.272).
Warum dieser Abschnitt die Bedeutung der Verflechtung von Identität und Interessantheit betont, ist mir nicht ganz klar. Warum es für mich besser wäre, an meiner singulären Identität festzuhalten. Aus der Perspektive der Interessantheit könnte es weitaus interessanter sein, gleichzeitig von mehreren Identitäten bewohnt zu sein. Tatsächlich deuten einige Experimente mit Split-Brain-Patienten darauf hin, dass ohnehin mindestens zwei tiefe Identitäten unsere sichtbare Oberflächenidentität kontrollieren. Es könnte also sinnlos sein, sich zu sehr auf das Konzept einer singulären Identität zu versteifen.
(…) Der Begriff der Erfüllung ist vage und unbestimmt, wenn er auf Dinge wie künstlerische oder kulturelle Bewegungen angewendet wird. Das gilt aber auch für den Menschen als Individuum.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.317).
Wenn wir zwei identische Zylinder auf einem Tisch stehen haben, beide aus Metall, könnte dasselbe Ding als Eimer und als Lampenschirm dienen. Ihre Wertfunktion vervollständigt sie, wenn sie ausgeführt wird. Die Erfüllung von f(Eimer) bedeutet, Wasser hinzuzufügen, die Erfüllung von f(Lampenschirm) bedeutet, Licht wegzunehmen. Außerdem: Wenn in der Nähe ein Feuer ausbrechen würde, könnte man davon ausgehen, dass der Eimer erfüllt wäre, wenn wir das Wasser auf das Feuer schütten würden, um es zu löschen. Die Erfüllung liegt daher ganz im Kopf des Betrachters.
Erringen Sie einen Sieg gegen die Schachengine Stockfish auf Schwierigkeitsstufe 7, ohne beim Training oder während des Spiels auf Computerhilfen zurückzugreifen und ohne kognitive Verstärker oder andere Mittel einzusetzen, die dem Geist dieser Herausforderung zuwiderlaufen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.338).
Dieses Beispiel wird von Bostrom verwendet, um zu veranschaulichen, wie die Dinge in einer Plastikwelt immer noch herausfordernd gestaltet werden könnten. Aber ich bin nicht sicher, ob es so einfach ist. Es widerspricht direkt Bostroms eigenen Gedanken in Superintelligenz. Wenn es uns gelingt, eine solche Mission in einer plastischen Welt so zu formulieren, dass sie gültig und nicht durch eine ASI korrumpierbar ist, hätten wir zugleich einen Weg gefunden, eine ASI mit rein menschlicher Intelligenz zu verknüpfen, denn ein Mensch, der von übermenschlichen Assistenten unterstützt würde, müsste der ASI nur befehlen, eine Lösung zu finden, die nicht im Widerspruch zum Geist dieser Herausforderung steht, und die ASI könnte sie finden.
Für eine ASI wäre es trivial, so zu betrügen, dass wir das Gefühl hätten, fair und ehrlich gewonnen zu haben. Logischerweise misstraut man dann immer unserem Sieg, was es sinnlos macht, überhaupt zu spielen. Wir hätten genau dasselbe Gefühl, wenn Stockfish selbst uns gewinnen lassen würde. Wir können leicht erkennen, dass ein solcher bloßer Vertrag von einer ASI ausgenutzt werden könnte. Andernfalls wäre die Ausrichtung trivial. Ich bin ein wenig irritiert, dass Boston nicht sieht, wie diese Idee seiner eigenen Orthogonalitätsthese widerspricht.
Innerhalb einer so großen Population [von Sternenhabitaten] würde die Wahrscheinlichkeit von Designkollisionen steigen. Das heißt, wenn wir eine zufällig ausgewählte Person auswählen und fragen, wie ähnlich die ähnlichste andere Person ist: Je größer die Population ist, desto ähnlicher ist tendenziell die ähnlichste andere Person.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.417).
Dies scheint irrelevant. Wenn wir uns nicht in einer Simulation befinden und an physikalische Gesetze gebunden sind, würden galaktische Enklaven transhumaner Wesen immer weiter auseinander driften und wachsende Lücken zwischen Sternensystemen würden es unmöglich machen, eine solche Obermenge möglicher Geister zu haben, die wir vergleichen könnten. Wenn mein eineiiger Zwilling in einem solchen Enklavensystem unerreichbar ist, bin ich genauso einzigartig, wie ich es wäre, wenn er nie geboren worden wäre. Seine Zwillingsähnlichkeit sollte mich nicht interessieren.
Wenn ein Leben bereits extrem gut ist, gibt es möglicherweise nicht mehr viel Raum für weitere Verbesserungen. Während also ein anfänglicher Abschnitt des Lebens eines jeden Utopisten spätere Verbesserungen bewirken könnte, könnte dieser Abschnitt nur einen kleinen Bruchteil seines gesamten Lebens ausmachen. Je länger das Leben andauert, desto größer wäre der Bruchteil, dessen durchschnittliche Qualität sich nicht wesentlich verbessert. Entweder ist das Leben bereits nahe am Maximum, oder die Verbesserungsrate im Laufe des Lebens ist extrem langsam.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.420-421).
Ein sinnvoller Zweck für ein gutes Leben könnte dann darin bestehen, diese Option noch weiter zu verbessern. Man könnte zum Beispiel argumentieren, dass die Person, die ein Heilmittel gegen Krebs erfunden hat, die Gesamtmenge der verfügbaren Qualität für die gesamte Menschheit verbessert. Mir ist nicht klar, ob dieser Möglichkeitsraum wichtiger medizinischer Fortschritte in einer plastischen Welt enden wird. Sogar bei TECHMAT könnte es das Problem von Geistern geben, die süchtig nach unendlichen Scherzen und dergleichen sind. Die Entwicklung eines wirksamen Heilmittels für einen solchen Geistesvirus könnte als noch wertvoller angesehen werden als die Heilung von Krebs. Je transhumaner ein Geist ist, desto schwieriger könnte es sein, eine solche Krankheit zu heilen. Und die Entwicklung immer neuer synthetischer Impfstoffe könnte selbst für eine KSI eine wirklich schwierige Aufgabe sein. Selbst bei der Plastizität sollten wir uns darüber im Klaren sein, dass alle cleveren Anweisungen, die wir entwickeln könnten, um sie für immer loszuwerden, sicherlich zeitlich begrenzt sind. Wie Gödel gezeigt hat, ist es logisch unmöglich, einen vollständigen Satz von Anweisungen zu entwickeln, der nicht selbstwidersprüchlich ist. Eine todsichere Funktion zu entwickeln, die immer unser maximales Wohlbefinden für alle Ewigkeit sicherstellt, ist also einfach jenseits jeder konstruierbaren Realität. Ich denke, Bostrom dehnt seinen Begriff der Autopotenz über den Bereich aus, in dem er sinnvoll verwendet werden kann. Was Bostrom auch auslässt, ist, dass die Qualität eines menschlichen Lebens nicht einfach gemittelt werden kann. Die Qualität ist sehr verzerrt und legt ein großes Gewicht auf die späteren Teile. Es ist einfach, ein gutes Kind zu sein, aber es ist extrem schwer, gut zu bleiben (eine hohe Lebensqualität beizubehalten), je älter man wird. Die Lebensqualität unserer besten Führer und Wissenschaftler könnte leicht zu einem negativen Ergebnis herabgesetzt werden, wenn sie nach Erhalt des Friedensnobelpreises einen Amoklauf begehen oder auf Epsteins Insel beim Missbrauch von Minderjährigen erwischt werden. Nehmen wir eine Person wie Ted Kaczynski, der ein mathematisches Wunderkind war. Wir würden die Qualität seines Lebens sicherlich günstiger bewerten, wenn er nach seiner Inhaftierung die Fields-Medaille gewonnen, ein Buch über die Fehler seiner terroristischen Wege geschrieben und sich wieder in die Gesellschaft integriert hätte. Statt einer Geschichte über ein böses Genie wäre sein Leben zu einem heroischen Erlösungsbogen geworden.
Viele unserer spannendsten Geschichten handeln von Not und Tragödie. Die Ereignisse, die in diesen Geschichten dargestellt werden, würden in einer Utopie nicht mehr vorkommen. Ich neige dazu, den Tragödienliebhabern zu sagen: Pech gehabt. Oder besser: Sie können sich Ihren Kick gerne von Fantasy oder Geschichte holen – aber bestehen Sie bitte nicht darauf, Ihre grausige Unterhaltung in einem Hexenkessel endlosen Unheils und nie endender schlechter Nachrichten zu kochen! Es stimmt, dass gute Bücher und Filme von Kriegen und Gräueltaten inspiriert wurden. Es wäre besser gewesen, wenn es diese Kriege und Gräueltaten nicht gegeben hätte und wir diese Bücher und Filme nicht gehabt hätten. Dasselbe gilt auf persönlicher Ebene. Menschen, die mit dem Verlust eines Kindes, Demenz, bitterer Armut, Krebs, Depression, schwerem Missbrauch fertig werden müssen: Ich bin der Meinung, dass es sich lohnt, auf viele gute Geschichten zu verzichten, um diese Schäden loszuwerden. Wenn das unser Leben weniger bedeutungsvoll macht, dann sei es so.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.424)
Hier scheint Bostrom gegen die Intuition anzukämpfen, dass Leiden ein gültiger Wertevektor in einem plastischen Sinnraum ist. Er sagt damit im Grunde, dass es die Mühe nicht wert ist, wenn Ihre Mission Leiden [anderer] erfordert. Ein krasser Widerspruch zu seinen eigenen früheren Aussagen, in denen er anerkennt, dass Leiden die Qualität unserer Erfahrungen dramatisch steigern kann. Sogar in einem Gedankenexperiment, das besagt, wenn die Menschen sich nie gegenseitig getötet hätten, hätte die Literatur nie Tolstois Krieg und Frieden hervorgebracht, und das ist in Ordnung. Es gibt eine endlose Liste menschlicher Errungenschaften, die extremes Leid verursacht haben, wie das Manhattan-Projekt. Niemand, der bei klarem Verstand ist, würde sagen, dass die Atombomben auf Japan gerechtfertigt waren, da wir daraus einen guten Film wie Oppenheimer gemacht haben. Sie sind kein Tragödienliebhaber, wenn Sie von dem Bild bewegt sind. Bostrom sagt, in einer plastischen Welt sollte es kein Leid geben, weil es besser ist, eine Geschichte oder eine Kette von Ereignissen zu haben, in der keine Fehler passieren, als aus unseren Fehlern zu lernen und sie zu einem Teil unserer Kultur zu machen. Mit einer solchen absolutistischen Sichtweise könnten wir sehr wohl in einer Plastik-Utopie enden, in der Leiden verboten oder einfach – wie in so vielen aktuellen diktatorischen Staaten – ignoriert wird. Wenn die Abwesenheit von Leiden alle anderen Werte übertrumpft, dann würden wir in einem toxischen Wohlbefindensszenario enden.
Manche Dinge tun wir gern. Andere Dinge haben wir gern getan. Sinnvolle Aktivitäten fallen eher in die letztere Kategorie.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.438).
Das ist eine großartige Beobachtung. Ein Argument für potentielles Leiden und gegen Hedonismus, wenn wir Sinnhaftigkeit höher schätzen als Wohlbefinden. Eine Variante: Was leicht kommt, geht leicht. Nur die harten Dinge bleiben bei uns. Die oberflächlichen Freuden dringen nicht tief in unser Innerstes vor.
Ein Zweck P ist der Sinn des Lebens der Person S genau dann, wenn: (i) P für S allumfassend ist; (ii) S triftige Gründe hat, P anzunehmen; und (iii) der Grund aus einem Rechtfertigungskontext stammt, der außerhalb der weltlichen Existenz von S liegt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.441).
Der Schweizer Autor Ludwig Hohl hat eine ebenso gute Definition dafür, wie man Sinn erreicht. Zentral für sein Denken ist der Begriff „Arbeit”: Arbeit ist immer eine innere Prozess, und es muss immer gerichtet sein nach außen. Aktivität, die nicht gerichtet ist nach außen ist keine Arbeit; eine Tätigkeit, die kein innere Veranstaltung ist keine Arbeit.
Könnte es auch eine nicht realisierte subjektive Bedeutung geben? Ja, ich denke, wir können uns einen solchen Gedanken vorstellen. Ein Beispiel wäre eine Person mit außergewöhnlichem Talent und Leidenschaft für Musik, die sich das Komponieren großartiger Musik zum Ziel gesetzt hat, entweder weil sie glaubt, dass dies eine von Natur aus zutiefst wertvolle Tätigkeit ist, oder weil sie hofft, ein Werk von so enormer Kraft zu schaffen, dass es die kulturellen Gräben überwindet, die uns voneinander trennen und zu Konflikten und Krieg führen. Das verleiht ihnen also eine subjektive Bedeutung. Wir können davon ausgehen, dass sie ihr ganzes Leben lang voller Inbrunst danach streben, dieses Ziel zu verfolgen, aber die Umstände verhindern, dass sie jemals tatsächlich komponieren – sie sind bitterer Armut, der Einberufung in die Armee oder persönlichen Notlagen ausgesetzt. Wir könnten dann sagen, dass ihr Leben eine nicht realisierte subjektive Bedeutung hatte.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.458).
Dies ist eines von Bostroms vergeblicheren Gedankenexperimenten. Es ist besonders wenig überzeugend, weil Bostrom äußere Umstände nutzt, um dieser begabten Musikerin einen Ausweg zu bieten, ihr Potenzial nie zu verwirklichen. Wie im Leben sollte Talent immer einen Weg finden. Betrachten Sie die scheinbar idiotischen Umstände, die dazu führten Galois zu seinem letzten Pistolenduell, hätte ein weniger guter Mathematiker einfach nie die Dringlichkeit gehabt, seine mathematischen Ergebnisse am Abend zuvor niederzuschreiben. Oder schauen Sie sich das Leben von Hawking: Ein schlechterer Arzt hätte sich der Krankheit ergeben, ohne jemals zu versuchen, Größe zu erreichen. Ich erinnere mich, dass er in seiner Autobiographie ausdrücklich seine Krankheit und das Ticken seiner knappen Zeit dafür verantwortlich machte, dass er sich von einem faulen Physiker zu einem wirklich großen entwickelte. Wenn etwas Ihre Mission ist und Dinge und Umstände Sie daran hindern, es zu erreichen, werden Sie die Überwindung der Umstände zu Ihrer Mission machen. Mit großem Potenzial geht große Vorbereitung einher.
Der rechte Weg ist die Entfaltung der vollsten Aktivität, die uns möglich ist. Die vollste: gemessen an unseren Fähigkeiten (unseren Bedingungen) und an der Wirkung auf andere (uns selbst wie auch auf andere). Ein bisschen Stricken genügt nicht (oder wer sich damit zufrieden gibt, muss ein trauriges Wesen sein). Hindern dich die Umstände an der Entfaltung deiner Aktivität? Dann arbeite darauf hin, die Umstände zu ändern, und du wirst darin deine Aktivität finden. (Ludwig Hohl, Nuancen und Details II, 11)
Betrachten wir die folgende fiktive Person. Grasscounter ist ein Mensch, der sich dem Zählen der Grashalme auf dem Rasen des Colleges verschrieben hat. Er verbringt seine ganzen Tage mit dieser Beschäftigung. Sobald er mit dem Zählen fertig ist, beginnt er wieder von vorne – die Zahl der Halme könnte sich schließlich in der Zwischenzeit geändert haben. Dies ist Grasscounters große Leidenschaft im Leben und sein oberstes Ziel ist es, eine möglichst genaue Schätzung zu erhalten. Es bereitet ihm große Freude und ist sehr zufrieden, bei diesem Unterfangen einigermaßen erfolgreich zu sein. Die objektivistischen und hybriden Darstellungen, die wir in der Literatur finden, würden sagen, Grasscounters Leben sei bedeutungslos; subjektivistische Darstellungen würden sagen, es sei bedeutungsvoll.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.461)
Beim Lesen fällt mir sofort ein: das Hodor-Event in Game of Thrones. In der ganzen Geschichte hat das Stottern des Wortes „Hodor“ absolut keine Bedeutung, weder subjektiv noch objektiv oder sonst wie. Es ist eine Phrase, die der geistig zurückgebliebene Riese stammelt, wann immer er angesprochen wird. Erst viel später erfahren wir die wahre Bedeutung der Phrase und plötzlich ist die Phrase, als Abkürzung des Satzes Ho[liebe den] Tun[Ö]R!, wird zu einem der bedeutungsvollsten Worte der ganzen epischen Geschichte. Die Bedeutung war immer da, aber wir als Beobachter konnten sie nicht entschlüsseln. Bostrom bestreitet später, dass Grasscounter jemals eine objektive Bedeutung haben könnte, da seine Tat sinnlos erscheint:
[Grasscounter] hätte jedoch keine Bedeutung im eher objektivistischen Sinn, der erfordert, dass der umfassende Zweck einer ist, den die Person „wünschen würde, wenn sie psychisch vollkommen gesund und angepasst wäre“.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.462)
Wie wäre es mit der Möglichkeit, dass diese Person geheime Kenntnisse hat, dass eines Tages gierige Aliens auftauchen werden, und da sie spielsüchtig sind, geben sie ihrer Beute vor der Eroberung einer Welt immer nur eine einzige Chance, verschont zu werden. Im Fall der Erde können sich Erdlinge retten, wenn einer von ihnen die genaue Anzahl der Grashalme auf einem bestimmten Rasen kennt … welches Leben und welche Aktivität hat nun plötzlich mehr Bedeutung als wahrscheinlich alles andere bis zu diesem Zeitpunkt?
Bostromismen
Bostrom ist dafür bekannt, neue Begriffe zu prägen. Hier sind einige seiner neuesten.
Computronium: ein nanomechanisches Gerät, das das Problem Landauer-Grenze der Energieeffizienz während der Berechnung.
Plastizität: Der Zustand einer technologisch ausgereiften Welt, die über Möglichkeiten verfügt, die es einfach machen, jede gewünschte lokale Konfiguration zu erreichen. [Meine Version einer Technologie für alles oder Clarke-Capability]
Nehmen wir an, wir verfügen über eine bestimmte Menge an grundlegenden physischen Ressourcen: einen Raum voller Atome verschiedener Art und eine Energiequelle. Wir haben auch einige Präferenzen, wie diese Ressourcen angeordnet werden sollen: Wir möchten, dass die Atome im Raum so angeordnet werden, dass sie einen Schreibtisch, einen Computer, einen gut gestalteten Kamin und einen Labradoodle-Welpen ergeben. In einer vollständig plastischen Welt wäre es möglich, einfach einen Befehl auszusprechen – einen Satz in natürlicher Sprache, der den Wunsch ausdrückt – und voilà, die Inhalte im Raum würden schnell und automatisch in die gewünschte Konfiguration umorganisiert. Vielleicht müssen Sie zwanzig Minuten warten, und vielleicht entweicht ein wenig Abwärme durch die Wände: Aber wenn Sie die Tür öffnen, stellen Sie fest, dass alles genau so angeordnet ist, wie Sie es sich gewünscht haben. Auf dem Schreibtisch steht sogar eine Vase mit frisch geschnittenen Tulpen, etwas, wonach Sie nicht ausdrücklich gefragt haben, das aber irgendwie in Ihrer Anfrage implizit enthalten war.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.196-197)
Autopotenz: Möglichkeit, Plastizität zur Selbstkonfiguration zu verwenden.
Ein autopotentes Wesen ist ein Wesen, das die vollständige Kontrolle über sich selbst hat, einschließlich seiner inneren Zustände. Es verfügt über die erforderliche Technologie und das Know-how, diese zu nutzen, um sich sowohl körperlich als auch geistig nach Belieben neu zu konfigurieren. Eine autopotente Person könnte sich daher leicht neu gestalten, um sofortige und anhaltende Freude zu empfinden, eine unbändige Faszination für das Briefmarkensammeln zu entwickeln oder die Gestalt eines Löwen anzunehmen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.197)
Gesamtwohlfahrtsfunktion: Objektive Messung des subjektiven Wohlbefindens
KI-Vollständigkeit: Eine Aufgabe, die künstliche allgemeine Intelligenz auf menschlichem Niveau erfordert. (Mind Uploading oder Autopotenz sind höchstwahrscheinlich KI-komplett)
Ästhetische Neutrinos: Die Möglichkeit, dass unsere Erfahrungsfilter zu unempfindlich sind, um unzählige atemberaubende Momente in der Umgebung, die allgegenwärtige, pure Schönheit des Seins zu erleben.
Zeitanzug: Schutzbeschichtung zum Schutz des biologischen Körpers vor zeitbedingtem Verfall
Diachrone Solidarität: Prospektive und retrospektive emotionale Verbindung mit Vorfahren und Nachkommen
Karma-Münze: Ein Optionspaket mit äußerst begehrenswerten Gütern und Dienstleistungen wie ein glückliches Leben nach dem Tod, wahre Liebe, tiefes Wissen, Erleuchtung, Nähe zum Göttlichen). Die Investition in eine Karma-Münze ist eine Möglichkeit, Bedeutung zu entdecken und mit anderen zu teilen. Es ist wie ein Bitcoin für einen Zweck. Ich bin mir nicht sicher, ob Bostrom das ernst meint. Im Stadium der Plastizität verliert diese Münze ihren gesamten Wert. Vielleicht könnte sie ein leuchtendes Vorbild auf dem Weg dorthin sein.
Intrinsifizierung: Der Prozess, bei dem etwas, das zunächst als Mittel zum Zweck gewünscht wird, schließlich um seiner selbst willen als Zweck an sich gewünscht wird.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.234)
ETP: Abkürzung für Encompassing Transcendental Purpose. Die Bedeutung eines individuellen Lebens.
Utility-Monster: Lebewesen, die weitaus effizienter als wir darin sind, aus Ressourcen Wohlstand zu ziehen.
Verzauberte Welt: Eine Lebensweise, bei der Wissen die Teilhabe an einer universellen Realität auf mehreren Ebenen bereichert. Bei der das Lösen von Problemen und Rätseln unsere Freude und unseren Sinn für das Wunderbare nicht mindert, sondern verstärkt.
(…) Die Bedeutung einer Lebensweise kann gesteigert werden, wenn sie in ein Geflecht symbolischer Fülle eingebettet ist – wenn sie von Mythen, Moralvorstellungen, Traditionen, Idealen und vielleicht sogar Omen, Geistern, Magie und okkultem oder esoterischem Wissen durchdrungen ist; und allgemeiner, wenn ein Leben vielschichtige Realitäten durchquert, die voller Kräfte, Absichten und spiritueller Phänomene sind.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.433)
[Der Mount Bostrom ist fast bestiegen. Nur noch ein letzter Teil. Kommt bald]
Um einem Freund dabei zu helfen, einen Sinn zu finden, wird vorgeschlagen, dass seine Handlungen mit den Vorlieben, dem Wohlergehen oder der Meinung einer Person verknüpft werden, die ihm am Herzen liegt, wodurch seinen Handlungen eine persönliche Bedeutung verliehen wird. Wenn dem Freund das Glück oder die Meinungen der Person, die ihm helfen möchte, wichtig sind, kann die Schaffung einer Situation, in der das Erreichen eines bestimmten Ziels (G) diese Beziehung stärkt, ihm einen Sinn geben. Dieses Ziel sollte über einen längeren Zeitraum hinweg Anstrengung, Geschick und emotionale Investition erfordern und Abkürzungen wie Technologie oder Verbesserungen vermeiden, die den persönlichen Einsatz schmälern, um sicherzustellen, dass es sinnvoll und erfüllend ist. Die Aufgabe oder das Ziel (G) muss sorgfältig ausgewählt werden, um mit den Interessen und Fähigkeiten des Freundes übereinzustimmen, wie z. B. ohne externe Hilfsmittel gegen eine Schachmaschine zu gewinnen und eine echte Herausforderung zu bieten, die nicht durch einfache Lösungen umgangen werden kann. Dieser Ansatz verwandelt das Streben nach G in eine Mission, die dem Freund ein bedeutendes, zweckorientiertes Projekt bietet und persönliches Wachstum und Zufriedenheit fördert.
Bostrom stellt dann folgende Hypothesen auf:
Ein Ziel ist wertvoll, weil es unsere Ziele in langfristige Missionen ausweitet, die intrinsifiziert werden (Nutzen der Anstrengung).
Zielstrebigkeit ist ein angeborener Antrieb und ihre Nichterfüllung führt zu Frustration.
Ein Ziel zu haben ist gesellschaftlich anerkannt und eine Mission zu haben gilt als statussteigernd.
Für einen autopotenten Geist stellen all diese Punkte eine außerordentliche Herausforderung dar:
(…) Obwohl es einen Wert hat, einen Zweck zu haben, wird dieser Wert völlig hinfällig, wenn der Zweck, wie wir sagen könnten, absichtlich erzeugt wurde. Mit anderen Worten, nehmen wir (um des Arguments willen) an, dass Zwecke, die wir uns entweder selbst setzen oder künstlich in uns hervorrufen, um den Wert eines Zwecks zu erkennen oder um aktive Erfahrung zu ermöglichen, nichts zum Wert eines Zwecks beitragen (…)
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.347)
In Utopia gibt es hauptsächlich zwei Quellen für die Sinnfindung:
Künstlicher Zweck
Selbst auferlegt: Behinderung, neurologisch bedingt
Präsentiert von: anderen Personen oder Gruppen
Natürlicher und übernatürlicher Zweck
Agentenneutral: High Level Tasks, die auch bei Techmat relevant bleiben
Lokale Erweiterung (Weltraumtarif)
Umgang mit Risiken
Alien-Vorbereitungen
Die Zivilisation polizeilich überwachen
Artefaktgenerierung
Kulturelle Verarbeitung
Agentenrelativ (nur für einige posthumane Gruppen relevant)
Traditionen ehren
Engagements (für Kinder, die Gesellschaft etc.)
Ausdruck (Ästhetik)
Einem besonderen Glauben folgen
Kategorien von Bedeutungen
Belohnen
Leben nach dem Tod (Religion)
Plastizität (Posthumane Technologie)
Simulation (Multiversale Potenziale)
Nirwana
Moral
Konsequentialismus (nur anwendbar, wenn die moralische Realität unabhängig von der physischen Realität ist)
Deontologie
Tugend
Verehrung
Eifer
Ursache
Identität (das wahre Selbst oder beste Selbst)
Treue (Loyalität gegenüber einer anderen Sache oder Mission)
Hingabe (praktisches Engagement)
Eine Definition von Bedeutung
Ein Zweck P ist der Sinn des Lebens der Person S genau dann, wenn: (i) P für S allumfassend ist; (ii) S triftige Gründe hat, P anzunehmen; und (iii) der Grund aus einem Rechtfertigungskontext stammt, der außerhalb der weltlichen Existenz von S liegt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.441).
Damit ein Zweck ein potenzieller Lebenssinn sein kann, muss er ein Leben oder zumindest einen wesentlichen Teil davon ausfüllen können. Manche Bemühungen sind einfach zu klein, um potenzielle sinnstiftende Zwecke zu sein – zum Beispiel das Ziel, einen guten Parkplatz zu finden (außer vielleicht in London) (…)
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.443).
Anschließend untersucht Bostrom das Leben des Sisyphos als Parabel auf das menschliche Leben als solches, auf die Absurdität und Sinnlosigkeit einer Existenz wie der unseren.
Ich würde sagen, dass Sisyphos eine subjektive Bedeutung hat, wenn er tatsächlich von ganzem Herzen ein umfassendes Ziel verfolgt und er davon ausgeht, dass er triftige Gründe hat, es auf einer Grundlage zu verfolgen, die außerhalb seiner weltlichen Existenz liegt. Sisyphos hat eine objektive Bedeutung, wenn es ein Ziel gibt, das für ihn umfassend ist und für das er triftige Gründe hat, es zu verfolgen – einen Grund, der sich aus einem Rechtfertigungskontext ergibt, der außerhalb seiner eigenen weltlichen Existenz liegt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (Englische Ausgabe) (S.456-457).
Spektrum der Intentionalität
Summa
Wittgenstein sagte in seinem berühmten Tractatus:
Die Lösung des Problems des Lebens erkennt man am Verschwinden dieses Problems.
(Ist nicht dies der Grund, warum Menschen, denen der Sinn des Lebens nach langen Zweifeln klar wurde, warum diese dann nicht sagen konnten, worin dieser Sinn bestand.
[Die Lösung des Lebensproblems wird im Verschwinden dieses Problems gesehen. (Ist das nicht der Grund, warum Menschen, denen der Sinn des Lebens nach langem Zweifeln klar wurde, nicht sagen konnten, worin dieser Sinn bestand?)]
(Wittgenstein, TLP 6.521)
Nach eingehender Betrachtung von Bostroms Warnung vor einer gelösten Welt könnten wir sagen: In einer gelösten Welt wird es wesentlich sein, dass wir nie einen Zustand vollkommener Plastizität erreichen, in dem Leben Endlich gelöst.
Dies ist eine ziemlich unerwartete Wendung, die viel darüber erklären würde, warum die Endlichkeit unseres Privatlebens tatsächlich ein Segen im Unglück sein könnte.
Warum die Sterblichkeit eigentlich das größte Geschenk ist, das uns zuteil wird. Warum die Götter uns aufrichtig um unsere Schwäche und Unvollkommenheit beneiden. Warum Superkräfte ein Fluch sind.
Perfektion und Unsterblichkeit könnten so langweilig sein wie das Eden-Paradies. Am Ende könnten wir zu der paradoxen Schlussfolgerung gelangen, dass unser Leben umso weniger wertvoll wird, je länger es dauert. Dass die Zerbrechlichkeit und Kostbarkeit des Lebens sein zentraler Wert ist und dass die Unsterblichkeit der größte Feind dieses Wertes ist. Ist es möglich, dass Götter sich nach nur einer Minute Endlichkeit sehnen, dass, wenn irgendjemand die Freiheit vom Leiden erlangen möchte, Sie danach hungern?
Ist das also die tiefere Bedeutung von Pindars „Werde, der du bist“?
Sind wir Simulationen innerhalb eines totalen Weltbewusstseins, das seine fragmentarischen Erinnerungsfragmente in die Vollendung träumt? Ein weiterer Hinweis darauf, dass wir möglicherweise bereits Teil einer Ahnensimulation sind, die die Süße des Nichtwissens, des Teilseins von etwas Ungelöstem, wiedererlebt.
Dies wäre eine zutiefst technologisch gefärbte Interpretation von Platons Anamnese, wo wir uns an Dinge erinnern, die wir bereits wussten, aber mit dem zusätzlichen Vorteil, dass wir die Freude haben, sie zum ersten Mal zu erleben. Die gute Nachricht, die ich aus Bostroms Buch mitnehme: Das Management des existenziellen Glücks könnte in einer gelösten Welt genauso schwierig sein wie das Management des existenziellen Risikomanagements in einer fehlerhaften Welt wie der unseren, was bedeuten würde: Unserem Verstand werden nie die zu lösenden Probleme ausgehen, und daher ist der Begriff „gelöste Welt“ widersprüchlich wie so viele andere Begriffe, die wir in unserer Sprache verwenden: allmächtig, ewig, unvorstellbar.
Das bedeutet meiner Meinung nach auch, dass sowohl die Effektiver Akzelerationismus Bewegung und die Doomer liegen in Bezug auf KI grundsätzlich falsch: Keine der beiden Strategien wird auf lange Sicht funktionieren, am Ende dieses langen und gewundenen Weges, den wir Zukunft nennen, wartet weder Paradies noch Hölle, wir müssen ein empfindliches, ja fragiles Gleichgewicht zwischen dem Bekannten, dem Unbekannten und dem unerkennbaren Unbekannten finden. Die Lösung des Problems des Lebens oder dessen, was auch oft als Sinn des Lebens bezeichnet wird, wäre dann, jeden endlichen Schritt der Lösung aktiv zu vermeiden.
Dies ist Teil 2 der Miniserie über Bostroms Deep Utopia
Handout 12: UTOPISCHE TAXONOMIE
Bostroms Zusammenfassung skizziert fünf verschiedene Visionen einer Utopie, die auf einer Skala imaginärer Tiefe angeordnet werden könnten, wobei „Plastic Utopia“ die tiefste von allen darstellt.
Governance & Kulturutopie
Dieser Typ betont ideale Gesetze, Bräuche und gesellschaftliche Organisation. Er ist nicht von Natur aus langweilig, tappt aber oft in die Falle, die menschliche Natur zu ignorieren, wirtschaftliche oder politische Fehler zu begehen oder die Bedürfnisse unterdrückter Gruppen zu übersehen. Zu den Varianten gehören feministische, marxistische, technologische, ökologische und religiöse Utopien, und neuere Ergänzungen wie Krypto-Utopien.
Utopie nach der Knappheit
Gekennzeichnet durch einen Überfluss an materiellen Gütern und Dienstleistungen, der sicherstellt, dass jeder mehr als genug hat, um seine Bedürfnisse zu befriedigen, mit Ausnahme von Positionsgütern. Diese Utopie geht davon aus, dass die Erde bereits auf dem Weg in die Postknappheit ist, zumindest was die menschlichen Bedürfnisse betrifft, was auf eine deutliche Abkehr von unseren Jäger- und Sammlervorfahren hindeutet.
Post-Work-Utopie
Stellt sich eine Welt vor, in der die Automatisierung die Notwendigkeit menschlicher Arbeitskraft in der Wirtschaft eliminiert. Zwar mag es noch immer einen Bedarf an kultureller Schöpfung geben, doch liegt der Schwerpunkt aufgrund des technologischen Überflusses oder einer Lebensstilentscheidung, die Freizeit der Arbeit vorzieht, auf minimaler menschlicher Arbeit. Diese Utopie untersucht das Gleichgewicht zwischen Einkommen, Freizeit und sozialem Status.
Post-instrumentelle Utopie
Geht über die Post-Work-Idee hinaus, indem es die instrumentelle Notwendigkeit menschlicher Anstrengung eliminiert, nicht nur in wirtschaftlicher Hinsicht, sondern auch bei alltäglichen Aktivitäten wie Sport, Lernen und der Wahl von Vorlieben. Dies ist ein radikaleres Konzept, das sich deutlich vom traditionellen utopischen Denken abhebt.
Plastik-Utopie
Die transformativste Form, in der jede gewünschte lokale Veränderung mühelos erreicht werden kann sofern nicht durch eine andere Entität verhindert. Das beinhaltet "Autopotenz” oder die Fähigkeit, sich nach Belieben selbst zu verändern. Diese Art von Utopie setzt das technisch Mögliche mit dem physikalisch Möglichen gleich und suggeriert eine Zukunft, in der die Menschheit durch technologische Fortschritte tiefgreifend verändert wird. Es ist ein Konzept, das außerhalb der Theologie und Science-Fiction weitgehend unerforscht ist.
Im Prinzip besteht eine enorme Chance, unsere Existenz zu verbessern, indem wir unsere emotionalen Fähigkeiten verändern und neu gestalten. In der Praxis besteht jedoch eine beträchtliche Wahrscheinlichkeit, dass wir uns selbst ruinieren, wenn wir diesen Weg zu unbedacht beschreiten und nicht zuerst ein reiferes Maß an Einsicht und Weisheit erreichen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (Englische Ausgabe) (S.212-213).
Man muss sich nur den aktuellen Trend in der Schönheitschirurgie und der geschlechtsangleichenden Behandlung anschauen, denn das ist ein Warnsignal dafür, wie sehr ästhetische und gesellschaftliche Erwartungen schiefgehen können.
Abgesehen von diesen eher komischen Effekten weist Bostrom zu Recht darauf hin, dass jede willentliche Veränderung die Tendenz hat, pseudo-permanent zu werden. Das heißt, selbst wenn wir unsere emotionale Struktur ändern könnten, würden wir dies möglicherweise nie wollen.
(…) wenn du dich so verändern würdest, dass du nichts anderes willst als die maximale Anzahl an Büroklammern, würdest du dich nicht wieder in ein Wesen verwandeln wollen, das andere Dinge will als Büroklammern,
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.213).
Autopotenz ist daher der Begriff, der am meisten Klärung bedarf, weil ich das Gefühl habe, dass er zu einigen paradoxen Ergebnissen führt, die sich möglicherweise selbst widerlegen. In einem groben Sinne könnten wir argumentieren, dass wir, wenn wir den Menschen einen freien Willen zugestehen (was nicht jeder tut), bereits eine gewisse Autopotenz haben könnten, wenn wir uns in einer Simulation befinden. Wenn wir völlig autopotente Wesen wären, hätten wir uns für eine Existenz entscheiden können, in der wir ein weltberühmter schwedischer Philosoph sind, der ein Buch über tiefe Utopie schreibt, und wir hätten uns wünschen können, unsere Autopotenz loszuwerden, indem wir wirklich das Blut, den Schweiß und die Tränen erfahren, die es kostet, ein tiefgründiges Buch über utopische Themen zu schreiben.
Da eine plastische Autopotenz-Utopie, in der wir für alle Ewigkeit zu allem, überall und gleichzeitig fähig sind, weitgehend sinnlos wäre, könnten Geister wie der unsere eine tiefe Nostalgie für die Zeit empfunden haben, in der wir einfach nur Menschen waren, und dann einen Geisteszustand nachgebildet haben, in dem wir alle unseren Status als Gottheit vergessen und einfach zufällig in eine Simulation mit anderen Geistern gesteckt werden, die sich dasselbe wünschen. Ein gigantischer Themenpark, der einen der möglichen Multiversum-Stränge vom Beginn des 21. Jahrhunderts nachbildet.
Wenn wir effektive Autopotenz erreichen, könnte unsere erste Intuition sein, dass wir das universelle Langeweileproblem aus Handout 9 gelöst haben. Wenn wir uns subjektiv unerträglich, dann liefen wir Gefahr, eine Zukunft zu schaffen, die objektiv langweilig ist. Der springende Punkt dabei ist, dass alle Emotionen einen wichtigen Zweck haben, auch wenn wir Emotionen entlang eines positiven und negativen Spektrums kategorisieren. Langeweile zum Beispiel lenkt uns von uninteressanten zu interessanten Dingen. Einige, wenn nicht die meisten negativen Emotionen könnten technologisch über Emotionsprothesen oder -apparate externalisiert werden, die von unserer persönlichen KI überwacht werden, sodass wir, wenn eine andere Person etwas Gemeines sagt, nicht wirklich wütend werden, sondern unsere pAI (persönliche KI) uns signalisiert, diese Person in Zukunft zu meiden oder sie einfach zu ignorieren.
Vier ätiologische Hypothesen über den Ursprung des Wertes der Interessantheit in einer langfristigen Perspektive
Der Kern des Zweckproblems liegt in der Frage, ob ein unendliches Universum unendlich viele interessante Dinge für autopotente Entitäten bei Tech-Mat bereitstellen kann. Bostrom identifiziert 4 kategorische Probleme:
Erkundung: Das Lernen neuer Dinge ist ein evolutionäres Anpassungsverhalten in einer Umgebung, in der es häufig zu Knappheit kommt und die sich ständig ändert. Bei Autopotenz scheint die ganze Vorstellung von Lernen als Anpassungsstrategie sinnlos, da es keinen existentiellen Druck gibt, diese Art von Neugiermotor anzutreiben. Ein langfristig denkendes Gehirn könnte auch auf Probleme mit der Speicherung von Erinnerungen stoßen (siehe Handout 14 unten).
Signalisierung: Etwas ist für uns interessant, weil es uns in einem sozialen Kontext für andere interessant erscheinen lässt. Sogar bei Tech-Mat gibt es Positions- und Kardinalwerte, die unsere Zeit wert sein sollten. Aber in Verbindung mit den 4th Hypothese, wir könnten in ernsthafte Schwierigkeiten geraten.
Spandrel: Interessantheit ist eine Ableitung anderer Werte
Vermeidung von Routine: Interessantheit ist ein evolutionäres Mittel, um nicht in sinnloser Wiederholung steckenzubleiben. Bei Tech-Mat könnten Routinevermeidung und Signalisierung sehr wohl in einem Teufelskreis steckenbleiben: Da beispielsweise jede Aktivität unendlich ausgedehnt werden könnte und Langeweile eine der letzten universellen Einschränkungen ist, könnte es Olympische Spiele geben, die die sinnlosesten Disziplinen verfolgen (wie das Zählen von Grashalmen) und die Toleranz gegenüber Langeweile könnte in Betracht gezogen werden. Bostrom gibt hier ein Beispiel einer seiner denkwürdigsten Vorlesungen, in der er sich zu Tode langweilte. Dies führt zu einigen paradoxen Situationen, in denen Interessantheit und Langeweile an entgegengesetzten Enden des Anziehungsspektrums eines Geistes zu liegen scheinen, aber die Positionsbewertung unseres Geistes scheint zu solchen Bewertungen zu führen, dass das langweiligste Zeug spezieller sein könnte als das zweitinteressanteste, dem wir je begegnet sind.
Handout 14: Gedächtnisspeicher für Unsterbliche
1. Die maximale Menge an Informationen (Bits), die sich ein Gehirn merken kann, steigt linear mit seiner Größe.
2. Um die derzeitige Geschwindigkeit der Ansammlung von Fähigkeiten und Erfahrungen aufrechtzuerhalten, müsste das menschliche Gehirn jedes Jahrhundert um 14 Deziliter wachsen. In Wirklichkeit könnte dieser Anstieg jedoch auf viel weniger optimiert werden.
3. Auch nach der Migration auf ein optimierteres Speichermedium ist für die Ansammlung von Langzeitgedächtnissen noch immer eine lineare Volumenzunahme erforderlich, wenn auch in einem langsameren Tempo (etwa 1 cm³/Jahrhundert).
4. Eine deutliche Vergrößerung des Gehirns könnte aufgrund größerer Distanzen zu einer langsameren Signalübertragung führen, insbesondere bei Gedanken, die Informationen aus weit voneinander entfernten Regionen integrieren.
5. Die aktuelle Axonleitgeschwindigkeit beträgt etwa 100 Meter/Sekunde, was auf eine physikalische Größenbeschränkung des Gehirns schließen lässt, ohne dass die Denkprozesse dabei wesentlich verlangsamt werden.
6. Der Einsatz von Glasfasern könnte theoretisch ein Gehirn mit einem Durchmesser von bis zu 300 km ohne nennenswerte Verzögerung bei der Signalübertragung versorgen.
7. Wenn man die Erinnerungen eines ganzen Jahrhunderts in einem Kubikzentimeter Raum speichern könnte, könnte man mehr als 10²² Jahrhunderte leben, ohne dass Langzeiterinnerungen verloren gehen.
8. Anpassungen wie ein effizientes Abrufsystem für Fähigkeiten und Erinnerungen wären notwendig.
9. Eine Verlangsamung des Systems könnte die maximale Größe des Speicherspeichers weiter erhöhen, indem größere Gehirne ohne inakzeptable Signalverzögerungen ermöglicht würden.
10. Das Leben in der virtuellen Realität und die Verlangsamung des subjektiven Erlebens könnten die Wahrnehmung einer Verlangsamung abmildern.
11. Eine deutliche Beschleunigung der Denkprozesse würde zwar die maximal mögliche Gehirngröße verringern, könnte aber bei der derzeitigen physischen Gehirngröße für viel mehr Speicher sorgen.
12. Es besteht ein Kompromiss zwischen Langlebigkeit und der Komplexität/Kapazität unseres Geistes. Wir könnten uns dafür entscheiden, viel länger mit einfacheren Geistern zu leben oder komplexere Geister, aber eine kürzere Lebensspanne zu haben.
13. In einer technologisch fortgeschrittenen Zivilisation könnte es möglich sein, sowohl eine lange Lebensspanne als auch ein hochleistungsfähiges Gehirn zu erreichen und so ein Gleichgewicht zwischen Langlebigkeit und Komplexität herzustellen.
Handout 15 Optimale Transzendenz
Unter normalen Umständen schwächt sich unsere Verbindung zu zukünftigen Selbsten jedes Jahr um 1% ab, aber eine „abrupte Metamorphose“ in einen posthumanen Zustand würde eine sofortige Verringerung um 90% bewirken. Wenn man bedenkt, dass die natürliche Erosion über 230 Jahre zu einer ähnlichen Verringerung führen würde, dient dieser Zeitraum als Grenze dafür, wie lange wir die Metamorphose verzögern möchten, um die persönliche Identität zu bewahren. Der intrinsische Wert unserer menschlichen Existenz, neben dem Potenzial für ein viel längeres und möglicherweise doppelt so lohnendes posthumanes Leben, erschwert die Entscheidung jedoch. Die Attraktivität des Übergangs steigt, wenn wir die Möglichkeiten und Werte des menschlichen Lebens erschöpft haben, was auf einen Punkt hindeutet, an dem die Vorteile des Posthumanismus die Kosten überwiegen. Wenn Posthumane zudem eine langsamere Erosion der Selbstverbindung erleben, würde dies für einen schnelleren Übergang zur Posthumanität sprechen.
Dies ist eine Miniserie, die der Erinnerung an meine erste Lektüre von Bostroms neuem Buch „Deep Utopia“ gewidmet ist, das ich – etwas entgegen seiner Absichten – sehr verstörend und irritierend fand. Bostrom, der sich selbst als Langfristtheoretiker betrachtet, hatte vor, nach seinem letzten Buch „Superintelligence“ ein heitereres Buch zu schreiben, das irgendwie eine positive Perspektive auf die positiven Folgen einer Gesellschaft bieten sollte, die technologische Reife erreicht. Ein Hauptthema in Bostroms Schriften dreht sich um das Thema des Managements existenzieller Risiken; er gehört zu den Top-Experten auf diesem Gebiet.
„Deep Utopia“ kann als langatmiger Essay über das betrachtet werden, was ich als Management existenzieller Glückseligkeit bezeichnen würde: Stellen wir uns vor, beim Aufstieg der Menschheit zum universellen Ruhm läuft alles richtig und wir erreichen das Stadium von Tech-Mat. Bostrom prägt dafür den Begriff „Plastizität“ – was dann? Im Grunde geht er einfach davon aus, dass alle Vorteile der posthumanistischen Singularität, wie sie von Befürwortern wie Kurzweil et al. beschrieben werden, wahr werden. Und dann?
Um Licht in diesen Abgrund zu bringen, taucht Bostrom tief in den Marianengraben der erkenntnistheoretischen Zukunftsforschung ein und findet in dieser außergewöhnlichen Umgebung, die er „Plastic World“ nennt, einige wahrhaft bizarre intellektuelle Kreaturen.
Bostroms detaillierte Untersuchung der universellen Langeweile nach Erreichen der technologischen Reife ist viel unterhaltsamer, als das Thema vermuten lässt. Leider ist es auch kein „Superintelligenz“-Kracher.
Er präsentiert seine Erkenntnisse in Form eines Meta-Tagebuchs und strukturiert sein Buch hauptsächlich nach Wochentagen. Er scheint in seinem Stil und seiner Herangehensweise an das Thema spielerisch und unbeschwert sein zu wollen. Dies ist ein gefährlicher Weg, und ich werde erklären, warum er meiner Meinung nach in dieser Hinsicht teilweise scheitert. Dies ist kein Buch, dessen Lektüre wirklich Spaß machen wird. Das Verdauen der wesentlichen Inhalte dieses Buches wird durch die meta-ebene und selbstreferenzielle Struktur nicht erleichtert, da die Haupthandlung in einer Woche während Bostroms Universitätsvorlesungen stattfindet. Die Handzettel Die in diesen Vorlesungen präsentierten Texte sind eine gute Möglichkeit, dem Leser eine Zusammenfassung zu geben. An der von Bostrom gewählten Form gibt es viel zu kritisieren, aber es ist die Qualität und Tiefe des Gedankenapparats selbst, die Respekt verdient.
Dann gibt es noch eine Nebengeschichte über ein Schwein, das Philosoph ist, eine Art Parabel zwischen „Farm der Tiere“ und „Herr der Fliegen“, die mir nie gefallen hat und bei der ich nie gesehen habe, wie sie mit dem Hauptthema zusammenhängt. Eine Art tiefgründiger, nerdiger Insider-Witz, den nur schwedische Philosophen mit Langzeitperspektive verstehen könnten.
Dieser gesamte Text umfasst etwa 8.500 Wörter und wurde in einem Durchgang geschrieben. Die Aufteilung in mehrere Teile dient lediglich der Bequemlichkeit des Lesers. Die Dichte von Bostroms Material ist so, wie man es bei der Erforschung solcher Tiefen erwarten würde. Ich fürchte, dieser Text ist auch nicht besonders zugänglich. Nur Leser, die keine Abneigung gegen ernsthafte intellektuelle Anfälle haben, sollten sich daran versuchen. Alle anderen sollten warten, bis wir alle einen erschwinglichen NICK 3000-Mentalleistungssteigerer zur Verfügung haben.
PS: Eine Woche nachdem sich der Staub der Hoffnungslosigkeit gelegt hat, den ich direkt nach der Lektüre verspürte, kann ich jetzt erkennen, dass dieses Buch in 20 Jahren ein Klassiker sein wird. Bostrom, mit der kleinen Laterne der reinen Vernunft, ist tiefer gegangen als die meisten seiner Zeitgenossen, als es darum ging, die seltsamen Kreaturen zu katalogisieren, die sich auf dem Grund der Tiefsee der gelösten Welt befinden.
Handout 1: Die kosmische Begabung
Die Kernaussage dieses Handouts ist, dass eine technologisch fortgeschrittene Zivilisation durch Weltraumkolonisierung und fortschrittliche Computertechnologien potenziell eine große Anzahl menschenähnlicher Leben im gesamten Universum schaffen und erhalten könnte. Mithilfe von Sonden, die sich mit einem erheblichen Bruchteil der Lichtgeschwindigkeit fortbewegen, könnte eine solche Zivilisation Planeten um viele Sterne erreichen und terraformieren und ihre Fähigkeit, Leben zu unterstützen, weiter verstärken, indem sie künstliche Lebensräume schafft wie O'Neill-Zylinder. Darüber hinaus kann die enorme Rechenleistung von Strukturen wie Dyson-Sphärenist es möglich, Simulationen des menschlichen Geistes durchzuführen, was zur theoretischen Existenz einer erstaunlichen Zahl simulierter Leben führt. Diese Untersuchung unterstreicht das enorme Potenzial für zukünftiges Wachstum und die Schaffung von Leben, abhängig vom technologischen Fortschritt und den ethischen Überlegungen bei der Simulation des menschlichen Bewusstseins. Im Wesentlichen handelt es sich dabei um die Zahlenfantasie eines Langfristtheoretikers. Das Hauptargument und der Grund, warum Bostrom sein Buch schreibt, ist hier:
Wenn wir all das Glück, das wir in einem solchen Leben erfahren, mit einer einzigen Freudenträne ausdrücken würden, dann könnte das Glück dieser Seelen die Ozeane der Erde jede Sekunde füllen und wieder auffüllen, und das hundert Milliarden Jahrtausende lang. Es ist wirklich wichtig, dass wir sicherstellen, dass es sich wirklich um Freudentränen handelt.
Bostrom, Nick. *Deep Utopia: Leben und Bedeutung in einer gelösten Welt* (englische Ausgabe), S. 60.
Wie können wir das sicherstellen? Das können wir nicht, und wie wir später noch herausfinden werden, ist dies ein wirklich schwieriges Problem für Informatiker wie Bostrom.
Handout 2: CAPS BEI TECHMAT
Bostrom gibt einen Überblick über eine Reihe von Errungenschaften im Bereich der technologischen Reife (TECHMAT) für verschiedene Sektoren.
1 Transport
2.Engineering des Geistes
3. Computergestützte Berechnung und virtuelle Realität
4.Humanoide und andere Roboter
5.Medizin & Biologie
6. Künstliche Intelligenz
7.Totale Kontrolle
Die in dieser Serie verstreuten Abbildungen vermitteln einen Eindruck. Bostrom gibt später eine Taxonomie (Handout 12, Teil 2 dieser Serie), in der er tiefer in das Thema eintaucht. Lassen Sie uns zunächst davon ausgehen, dass der zweite Sektor, Mind-Engineering, eine herausragende Rolle spielen wird, da er die Wurzel des philosophischen Bedeutungsproblems darstellt.
Handout 3: Wertbeschränkungen
Bostrom identifiziert sechs verschiedene Bereiche, in denen die Ressourcen selbst in einem Szenario unbegrenzten Überflusses im Stadium der technologischen Reife (Tech-Mat) immer noch begrenzt sein könnten. Diese Bereiche sind:
Positionelle und konfliktreiche Güter: Selbst in einer Hyperüberflusswirtschaft kann nur eine Person die reichste Person sein; das Gleiche gilt für jede Errungenschaft, wie etwa auf dem Mond zu stehen oder einen besonderen Berg zu besteigen.
Auswirkungen: Eine gelöste Welt wird keine Möglichkeiten für Größe bieten.
Zweck: Eine gelöste Welt wird keine wirklichen Schwierigkeiten bereiten.
Neuheit: In einer gelösten Welt werden Heureka-Momente, in denen man etwas wirklich Neues entdeckt, sehr sporadisch auftreten.
Sättigung/Zufriedenheit: Im Wesentlichen eine Variante von Neuheit, mit einer begrenzten Anzahl von Interessen. Der Erwerb des n-ten Gegenstands einer Sammlung oder der n-ten Erfahrung in einer Gesamtwohlfahrtsfunktion wird immer geringere Zufriedenheitserträge bringen. Selbst wenn wir jeden Tag ein neues Hobby oder Unterfangen beginnen, gilt dies auch auf der Metaebene.
Moralische Einschränkungen: Ethische Beschränkungen, die unabhängig vom technologischen Fortschritt relevant bleiben.
Handout 4 & 5: Arbeitsplatzsicherheit, Statussymbolik und Grenzen der Automatisierung
Die letzten verbleibenden Aufgaben, für die Menschen bevorzugt werden könnten, sind Tätigkeiten, die dem Arbeitgeber oder Käufer Statussymbolik verleihen, bei denen Menschen einfach als kompetenter als Roboter gelten. Dazu gehören emotionale Aufgaben wie die Beratung anderer Menschen oder das Halten einer Predigt in einem religiösen Kontext.
Handout 9: Die Gefahren universeller Langeweile
(…) wenn wir tiefer in die Zukunft blicken, ist jede Möglichkeit, die nicht radikal ist, nicht realistisch.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.129).
Die vier Fallstudien: In einer gelösten Welt wird jede Aktivität, die wir derzeit als nützlich erachten, ihren Zweck verlieren. Dann könnten solche Aktivitäten ihren Freizeit- oder didaktischen Wert völlig verlieren. Bostroms tiefgreifende Studien über Einkaufen, Sport, Lernen und insbesondere Elternschaft sind aus seiner analytischen Sicht verheerend.
Handout 10: Herunterladen und Brain Editing
Dies ist der entscheidende Teil, der erklärt, warum Autopotenz wahrscheinlich eine der schwierigsten und neuesten Fähigkeiten ist, die eine Tech-Mat-Zivilisation entwickeln wird.
Bostrom geht detailliert darauf ein, wie dies erreicht werden könnte und welche Herausforderungen überwunden werden müssen, um eine solche Technologie realisierbar zu machen:
Einzigartige Gehirnstrukturen: Aufgrund der individuellen Einzigartigkeit jedes menschlichen Gehirns ist das Konzept des „Kopierens und Einfügens“ von Wissen ohne eine komplexe Übersetzung zwischen den einzigartigen neuronalen Verbindungen verschiedener Individuen nicht umsetzbar.
Kommunikation als Übersetzung: Der unvollkommene Prozess der menschlichen Kommunikation ist eine Form der Übersetzung, bei der idiosynkratische neuronale Repräsentationen in Sprache und wieder zurück in neuronale Repräsentationen in einem anderen Gehirn umgewandelt werden.
Komplexität: Das direkte „Herunterladen“ von Wissen ins Gehirn ist schwierig, da Milliarden oder Billionen kortikaler Synapsen und möglicherweise subkortikaler Schaltkreise für echtes Verständnis und den Erwerb von Fähigkeiten mit Femtopräzision angepasst werden müssen.
Technologische Voraussetzungen: Die Berechnung synaptischer Änderungen erfordert um viele Größenordnungen mehr von dem, was wir möglicherweise nutzen können. Diese Anforderungen sind potenziell KI-komplett, das heißt, wenn wir sie erfüllen können, brauchen wir zuerst eine künstliche Superintelligenz.
Superintelligente Umsetzung: Legt nahe, dass nicht Menschen, sondern superintelligente Maschinen letztendlich die erforderliche Technologie entwickeln könnten. Dabei könnten Nanobots zum Einsatz kommen, um das Konnektom des Gehirns abzubilden und synaptische Operationen auf der Grundlage von Berechnungen einer externen superintelligenten KI durchzuführen.
Normale Lernprozesse nachbilden: Um Lernen wirklich nachzubilden, müssten in vielen Teilen des Gehirns Anpassungen vorgenommen werden, um Meta-Lernen, die Bildung neuer Assoziationen und Änderungen verschiedener Gehirnfunktionen zu berücksichtigen, wobei möglicherweise Billionen von synaptischen Gewichten beteiligt wären.
Ethische und rechnerische Komplikationen: mögliche ethische Probleme und rechnerische Komplexitäten bei der Bestimmung, wie die neuronale Konnektivität verändert werden kann, ohne während der Simulationen moralisch relevante mentale Einheiten oder Bewusstsein zu erzeugen.
Vergleich mit Gehirnemulationen: Das Übertragen geistiger Inhalte auf eine Gehirnemulation (digitales Gehirn) könnte in mancher Hinsicht einfacher sein, beispielsweise hinsichtlich der Möglichkeit, den Geist während der Bearbeitung anzuhalten. Die rechnerischen Herausforderungen bei der Bestimmung der vorzunehmenden Bearbeitungen wären jedoch ähnlich.
Handout 11: Erlebnismaschine
Eine Variante von Handout 10: Anstatt das physische Gehirn direkt zu manipulieren, haben wir die Simulation von Realitäten perfektioniert, die dem Gehirn genau die Erfahrung vermitteln, die es als Realität wahrnimmt (siehe Realität+, Chalmers). Dies könnte tatsächlich eine rechnerisch weniger anspruchsvolle Aufgabe sein und ein Schritt auf dem Weg zur echten Gehirnbearbeitung sein. Bostrom nimmt Nozicks Gedankenexperiment und untersucht die Auswirkungen.
Abschnitt a diskutiert die Grenzen der direkten Manipulation des Gehirns, um Erfahrungen hervorzurufen, die die natürlichen Fähigkeiten oder die Persönlichkeit einer Person normalerweise nicht zulassen, wie z. B. Tapferkeit bei einem Feigling oder mathematische Brillanz bei jemandem, der in Mathematik nicht begabt ist. Es wird darauf hingewiesen, dass eine umfangreiche, abrupte und unnatürliche Neuverdrahtung des Gehirns, um solche Erfahrungen zu erzielen, die persönliche Identität so weit verändern könnte, dass die daraus resultierende Person nicht mehr als dieselbe Person angesehen werden kann. Die Fähigkeit, bestimmte Erfahrungen zu machen, wird stark von den vorhandenen Konzepten, Erinnerungen, Einstellungen, Fähigkeiten und dem allgemeinen Persönlichkeits- und Eignungsprofil einer Person beeinflusst, was auf eine erhebliche Herausforderung für die Durchführbarkeit der direkten Gehirnbearbeitung zur Erweiterung der persönlichen Erfahrung hinweist.
Abschnitt b unterstreicht die Komplexität der künstlichen Reproduktion von Erfahrungen, die persönliche Anstrengung erfordern, wie etwa die Besteigung des Mount Everest. Zwar ist es möglich, die sensorischen Aspekte solcher Erfahrungen, einschließlich visueller Hinweise und körperlicher Empfindungen, zu simulieren, doch das inhärente Gefühl des persönlichen Kampfes und der damit verbundenen Anstrengung kann nicht authentisch reproduziert werden, ohne echtes Unbehagen, Angst und Willenskraft zu erzeugen. Folglich bietet die Erlebnismaschine möglicherweise eine sicherere Alternative zu tatsächlichen körperlichen Anstrengungen und schützt vor Verletzungen, aber sie bietet nicht die tiefe persönliche Erfüllung, die sich aus der wahren Überwindung von Herausforderungen ergibt, was darauf hindeutet, dass manche Erfahrungen besser in der Realität gesucht werden sollten.
Abschnitt c handelt von sozialen oder parasozialen Interaktionen innerhalb dieser Erlebnismaschinen. Der Text untersucht verschiedene Methoden und ethische Überlegungen zur Schaffung realistischer Interaktionserlebnisse innerhalb einer hypothetischen Erlebnismaschine. Dabei wird zwischen Nicht-Spieler-Charakteren (NPCs), virtuellen Spieler-Charakteren (VPCs), Spieler-Charakteren (PCs) und anderen Methoden wie Aufzeichnungen und geführten Träumen zur Simulation von Interaktionen unterschieden:
1. NPCs sind Konstrukte ohne moralischen Status, die oberflächliche Interaktionen ohne ethische Implikationen simulieren können. Die Schaffung tiefer, bedeutungsvoller Interaktionen mit NPCs stellt jedoch eine Herausforderung dar, da hierfür möglicherweise ein komplexer Geist mit moralischem Status simuliert werden muss.
2. VPCs besitzen bewusste digitale Geister mit moralischem Status, was ein breiteres Spektrum an Interaktionserfahrungen ermöglicht. Sie können auf Anfrage generiert werden und von NPCs zu VPCs wechseln, um tiefere Interaktionen zu ermöglichen, werfen jedoch aufgrund ihres Bewusstseins moralische Komplikationen auf.
3. PCs erfordern die Interaktion mit realen Personen entweder durch Simulationen oder direkte Verbindungen zur Maschine. Dies wirft ethische Fragen hinsichtlich Zustimmung und Authentizität auf, da reale Personen oder ihre Simulationen ohne ihre Zustimmung möglicherweise nicht wie gewünscht handeln.
4. Aufzeichnungen bieten eine Möglichkeit, Interaktionen wiederzugeben, ohne neue moralische Entitäten zu generieren. Dadurch werden die Erfahrungen auf vorab aufgezeichnete beschränkt, einige ethische Dilemmata werden jedoch vermieden, indem bei der Wiedergabe keine realen Personen verkörpert werden.
5. Interpolationen nutzen zwischengespeicherte Berechnungen und Mustervergleiche, um Interaktionen zu simulieren, ohne moralisch bedeutsame Entitäten zu erzeugen. Mit diesem Ansatz könnte eine realistische Interaktion erreicht werden, ohne dass ethische Bedenken hinsichtlich der erzeugten Wesen bestehen.
6. Geführte Träume stellen eine Untergrenze des Möglichen dar, was darauf schließen lässt, dass fortgeschrittene Neurotechnologie den Realismus und die Kontrolle über den Trauminhalt erhöhen könnte. Dies wirft Fragen über den moralischen Status der geträumten Personen und die ethischen Auswirkungen realistischer Träume über andere ohne deren Zustimmung auf.
Am 30. November 2022, nach 53 Jahren völligen Desinteresses an allen finanziellen Dingen, wurde ich Investor. Aber nicht aus monetären Gründen, nein, für die Wissenschaft. Ich wurde ein wissenschaftlicher Investor.
Das Ziel war nicht, dabei reich zu werden, sondern einfach, durch den Besitz von Kapital, das unsere nahe Zukunft bestimmen wird, persönliche Relevanz zu bewahren. Es war klar, dass dieses Zeitfenster von Minute zu Minute kleiner wurde. Zu Beginn schätzte ich, dass ich etwa 5 Jahre Zeit hatte. Es ist jetzt Februar 2024 und ich denke, es sind nur noch 15-18 Monate, bis der Markt in den memetischen Overdrive schalten wird. Für uns Menschen wird es wie Wahnsinn aussehen, aber für die Algorithmen wird es Hypervernunft sein.
Ich habe den Wert meines Portfolios in den letzten 12 Monaten um 150% gesteigert, indem ich einfach der memetischen Spur gefolgt bin. Ich habe keine Finanzberichte studiert oder Finanzgurus gelesen. Ich bin keinem Hype aufgesessen. Ich bin einfach davon ausgegangen, dass AGI die einzige Technologie sein wird, die uns alle beherrscht, und habe die Konsequenzen durchdacht. Nach 6 Monaten habe ich meinen memetischen Fonds erstellt, und bisher hat er den Test der Zeit bestanden.
Die Idee, dass künstliche allgemeine Intelligenz (AGI) die letzte Erfindung sein wird, die die Menschheit noch machen muss, wird oft dem britischen Mathematiker und Informatiker IJ Good zugeschrieben. Insbesondere führte IJ Good das Konzept einer „Intelligenzexplosion“ ein, das eng mit dieser Idee verwandt ist. In seinem Aufsatz „Speculations Concerning the First Ultra Intelligent Machine“ aus dem Jahr 1965 schrieb Good:
„Eine ultraintelligente Maschine sei definiert als eine Maschine, die alle intellektuellen Fähigkeiten eines Menschen, egal wie schlau er ist, bei weitem übertreffen kann. Da das Entwerfen von Maschinen eine dieser intellektuellen Fähigkeiten ist, könnte eine ultraintelligente Maschine sogar noch bessere Maschinen entwerfen; es würde dann zweifellos zu einer ‚Intelligenzexplosion‘ kommen, und die Intelligenz des Menschen würde weit zurückfallen. Daher ist die erste ultraintelligente Maschine die letzte Erfindung, die der Mensch jemals machen muss.“
Dieses Zitat bringt das Konzept auf den Punkt: Wenn wir eine AGI schaffen, die sich selbst verbessern oder noch intelligentere Systeme schaffen kann, könnte dies zu einer rasanten Steigerung der Intelligenz führen, die über die menschlichen Fähigkeiten hinausgeht. Diese sich selbst verbessernde AGI könnte theoretisch Probleme lösen, die derzeit jenseits des menschlichen Verständnisses liegen, darunter auch solche, die mit der Technologieentwicklung zusammenhängen. Damit wäre sie praktisch die letzte Technologie, die die Menschheit erfinden müsste.
Als ich das erste Mal mit ChatGPT sprach, wurde mir eines klar: Dies ist die Zukunft, von der ich gerade spreche, und sie wird die meisten Überzeugungen der Menschheit über die meisten Dinge verändern. Sie wird auch einige liebgewonnene Wahrheiten zerstören und die Paradigmen und Dogmen einer ganzen Menge Wissenschaft verschieben.
Menschliche Arbeitskraft wird in den nächsten 3-5 Jahren wahrscheinlich wirtschaftlich irrelevant sein. Menschliche Aufmerksamkeit könnte eines der letzten Güter sein, das Wert bietet. Lassen Sie mich das erklären.
Der Großteil der nützlichen und effizient zu erledigenden Arbeit wird nicht von einer Belegschaft, sondern vom Kapital selbst erledigt, in diesem Fall von Halbleitern, Robotern und dem synthetischen Gehirn, das diese kapitalistischen Maschinen antreibt: KI. Für einige Zeit werden diese Unternehmen noch Menschen involviert haben: PR-Manager, CEOs, Wartungs- und Automatisierungsmanager, aber nicht mehr lange, das wäre unverantwortlich. Wir werden nicht nur selbstfahrende Autos haben, sondern auch selbststeuernde Unternehmen und Geschäfte. Menschen werden wie Fans im Stadion sein, die ihren Lieblings-KI-Modellen zujubeln, wenn sie die neuesten Geräte erfinden, neue wissenschaftliche Theorien entwickeln, aufregende Umgebungen und Personas erschaffen, die in VR oder über neuronale Stimulation besucht werden können.
Dies scheint eine äußerst ungewöhnliche Zeit zum Leben zu sein. Es ähnelt der Periode der Kambrium-Explosion vor 500 Millionen Jahren, nur dass es jetzt die Computer-Explosion ist, und sie findet still, aber heftig statt, seit Moores Gesetz gilt. Es dauert seit fast 75 Jahren an, aber jetzt hören wir vom Urknall, als Turings erste Arbeiten über intelligente Maschinen in Umlauf kamen.
Die naheliegendste Lösung war, alles Wissen über den Aktienmarkt zu ignorieren. Wenn dies die Morgendämmerung eines neuen Marktes war, sollten wir uns nicht um alte Paradigmen wie Bären und Bullen, Diversifizierung, Rezessionen und dergleichen kümmern, sondern ein neues Paradigma verkünden. Vorerst nennen wir diesen neuen Markt:
Der BEAM-Markt.
Ich definiere die STRAHL. Markt als
Ausbrüche in der ökonomischen Aufmerksamkeitsmemetik (BEAM)
Ausbrüche: Spiegeln die plötzlichen Sprünge der Marktwerte wider.
Ökonomie: Gibt den Anwendungsbereich, also die Wirtschaft, an.
Achtung: Hebt hervor, welche Rolle die öffentliche Aufmerksamkeit und das öffentliche Interesse bei der Förderung dieser Sprünge spielen.
Memetik: Umfasst das Konzept der viralen Verbreitung von Ideen, Verhaltensweisen oder Stilen innerhalb einer Kultur.
Beam mich hoch, Stocky! Die Tik-Tokenisierung des Wertes
In einem memetisch getriebenen Aktienmarkt ist Aufmerksamkeit das Wertvollste. Die Attraktivität einer Aktie beruht auf ihrer Viralität, nicht auf ihrem analytischen, historischen Wert.
Als Nvidia am 22.und Im Februar 2024, dem Tag, an dem ich den Entwurf dieses Blogs geschrieben habe, konnten wir sehen, wie sich die gesamte Wirtschaftswelt auf diesen finanziellen Super Bowl vorbereitete.
Dies könnte das Kalenderdatum sein, an dem die alten Wirtschaftsregeln begraben wurden und eine neue Ära anbrach.
In den Stunden vor den Gewinnzahlen wurde über die wichtigste Aktie der Welt geflüstert.
Die Infektion von Milliarden menschlicher Gehirne mit der Meme-KI in den letzten 18 Monaten erreichte ihren Höhepunkt in diesem Spektakel, das möglicherweise als NVDay in die Geschichte eingehen wird.
Alle Rationalität wurde über Bord geworfen und die Finanzwelt beugte sich. KI ist unser Gott und Jensen Huang ist unser Prophet.
Und verstehen Sie es: Ich mache keine Scherze; aus der Perspektive der letzten 15 Monate war es das Vernünftigste, einfach nachzugeben.
Ich gebe nicht vor, genau zu wissen, wie die Ökonomie in der Übergangsphase von einem Arbeits- zu einem Überflussmarkt funktionieren wird. Nicht einmal AGI wird das verstehen, da evolutionären Mechanismen inhärenter Zufall zugrunde liegt. Aber ich habe eine gewisse Ahnung, wie sich einige wichtige Konzepte der kapitalistischen Ökonomie entwickeln könnten.
Ich werde in 12 Monaten eine detaillierte Strategie für diesen Fonds veröffentlichen. Zu einem früheren Zeitpunkt könnte dies die Daten verfälschen. Ich gehe davon aus, dass er das Mooresche Gesetz weiterhin um einiges übertreffen wird.
Entwicklung ökonomischer Konzepte
Die kapitalistische Ökonomie basiert auf mehreren grundlegenden Konzepten, die bestimmen, wie Volkswirtschaften im Kapitalismus funktionieren. Hier sind einige Schlüsselideen in einfachen Worten erklärt:
Die unsichtbare Hand wird zum algorithmischen Griff
Das Konzept der „unsichtbaren Hand“ wurde von Adam Smith, einem schottischen Ökonomen und Philosophen, eingeführt. Vereinfacht ausgedrückt besagt es, dass Einzelpersonen, wenn sie ihre eigenen Interessen verfolgen, unbeabsichtigt der Gesellschaft als Ganzes zugute kommen. Stellen Sie sich einen Bäcker vor, der Brot backt, um seinen Lebensunterhalt zu verdienen, und nicht, um die Stadt zu ernähren. Indem er jedoch Brot verkauft, ernährt der Bäcker unbeabsichtigt die Stadt. Dieser Prozess wird von dem gesteuert, was Smith als „unsichtbare Hand“ bezeichnet, die das Angebot an Waren und Dienstleistungen auf der Grundlage der Nachfrage fördert und zu einer effizienten Ressourcenverteilung ohne direktes Eingreifen führt.
Metaphorisch ausgedrückt füttert die unsichtbare Hand den Arbeitsmarkt mit der Nachfrage nach Brot und der Arbeitsmarkt verdaut diese Nachfrage und spuckt auf dem Weg dorthin Arbeitsplätze aus, von den Bauern, die das Korn sägen, bis hin zu allen wesentlichen Zutaten und logistischen Anforderungen, um das Produkt an den Verbraucher zu liefern. Die zur Herstellung erforderliche Arbeit schafft einen Lebensunterhalt für alle Menschen in der Lieferkette.
Mit der Automatisierung steigt nicht nur die Produktivität, sondern viele Teile der Lieferkette werden umgangen und Menschen werden nicht mehr benötigt. Die Besitzer der Maschinen profitieren in vollem Umfang davon.
In einem memetischen Markt ist die klassische unsichtbare Hand nun ein algorithmischer Griff. Dieser Griff lernt anhand von Daten schnell, was die Leute wollen. Er ist präzise und bietet eine maßgeschneiderte Mischung aus Vertrautem und Neuem, überraschend und doch bestätigend. Aufmerksamkeit wird zu einem wichtigen Gut, da sie immer knapp ist. Das menschliche Gehirn hat eine begrenzte Konzentrationsfähigkeit, was zum Konzept einer aufmerksamkeitsgesteuerten Wirtschaft (ADE) führt. Da Aufmerksamkeit knapp ist, zielen Algorithmen darauf ab, unsere Konzentration bis an ihre biologischen Grenzen zu optimieren. Schlaflosigkeit zum Beispiel könnte zu einem gesellschaftlich akzeptierten Phänomen werden, denn Schlaf und Ruhe sind die Feinde jeder Aufmerksamkeitsökonomie. Die ADE ist das New York der Wirtschaft. Ihr natürlicher Lebensraum ist 24 Stunden am Tag, 365 Tage im Jahr. Ein ständig aktiver Geist wie der eines Unternehmers wie Elon Musk wird bereits als Höhepunkt menschlicher intellektueller Fähigkeiten gefeiert und es wird immer gesellschaftlich akzeptierter, dass diese ADE-gesteuerten Geister Drogen und Stimulanzien um immer Höchstleistungen zu erbringen. Im Moment sind diese Methoden noch primitiv und potenziell schädlich für die Gehirne, die sie anwenden, aber es wird ganz neue medizinische Disziplinen geben, die sich nicht nur auf lebensverlängernde, sondern auch auf aufmerksamkeitsverlängernde Technologien konzentrieren. Wenn ein Mensch seine Produktivität einfach dadurch verdoppeln kann, dass er nicht mehr schlafen muss, ist eine Operation oder ein Chip im Gehirn, der die Melaninproduktion blockiert, wie eine Vasektomie zur Empfängnisverhütung. Das Gehirn wird ähnlich gedopt wie Muskeln und Fasern im Sport. Testosteron für den Geist.
Soziale Medien sind ein gutes Beispiel für diesen grassierenden Trend, immer dramatischere und wütendere Inhalte zu erstellen und die Nutzer zu spalten. Da wir Revolutionäre sind, die darauf eingestellt sind, stressigen Situationen mehr Energie und Aufmerksamkeit zu widmen, maximieren sie unsere Aufmerksamkeitsausbeutung. Der Facebook-Skandal, der enthüllte, dass die KI-Algorithmen einige Minderjährige und gefährdete Gruppen zu immer schädlicheren Inhalten lenkten, zeigte deutlich, dass dies, selbst wenn es sich um eine unbeabsichtigte Nebenwirkung handelte, akzeptabel war. Das war bekannt, aber was soll man tun? Es war klar, dass das Engagement und damit das Werbepotenzial durch die Decke gingen. Die Ergebnisse sind unbestreitbar.
Angebot und Nachfrage werden selbstreferenziell
Das Angebot bezieht sich darauf, wie viel von einem Produkt oder einer Dienstleistung verfügbar ist, während die Nachfrage sich darauf bezieht, wie sehr die Menschen dieses Produkt oder diese Dienstleistung wünschen. Preise in einer kapitalistischen Wirtschaft werden oft durch das Zusammenspiel von Angebot und Nachfrage bestimmt. Wenn etwas stark nachgefragt, aber nur wenig angeboten wird, ist sein Preis hoch. Umgekehrt ist der Preis niedrig, wenn etwas in großen Mengen, aber nur wenig nachgefragt ist. Dieser Mechanismus hilft bei der effizienten Verteilung von Ressourcen: Produkte und Dienstleistungen gelangen dorthin, wo sie am dringendsten benötigt werden.
In einer von AGI getriebenen Wirtschaft, also der Art von Markt, auf die alle Anzeichen hinweisen, wird Aufmerksamkeit der letzte Wert sein, den Menschen für die Maschinen haben könnten. Da die Aufmerksamkeitsspanne, über die wir Menschen verfügen, begrenzt ist und die gesamte KI mit den Daten und Inhalten trainiert wurde, die Menschen in den letzten 10.000 Jahren für andere Menschen erstellt haben, könnte AGI ein inhärentes Ziel entwickeln, die Aufmerksamkeit eines menschlichen Geistes im Austausch für die von ihm bereitgestellten Waren und Dienstleistungen zu gewinnen.
Im breiteren Kontext von spekulativer Fiktion und Wirtschaftsmodellen gibt es Geschichten und theoretische Modelle, in denen Personen Waren, Dienstleistungen oder Privilegien im Austausch für ihre Aufmerksamkeit für Werbung erhalten. Dieses Konzept spielt mit der Idee, dass menschliche Aufmerksamkeit ein wertvolles Gut ist und dass das Anhören oder Beschäftigen mit Werbung eine Art Währung sein kann. Beispielsweise könnte eine Gesellschaft Einzelpersonen „kostenlose“ Dienstleistungen oder Produkte anbieten, aber der Preis dafür ist ihre Zeit und Aufmerksamkeit, die sie mit dem Konsumieren von Werbung verbringen. Dieses Modell unterstreicht den Wert der Aufmerksamkeit in einer gesättigten Informationswirtschaft und legt ein kapitalistisches System nahe, in dem sogar der psychologische Raum zur Ware wird.
Eine Geschichte, die sich anschaulich mit dem Konzept auseinandersetzt, für Dienstleistungen zu bezahlen oder Vorteile durch das Anhören von Werbung zu erhalten, ist „The Space Merchants“ von Frederik Pohl. Dieser Science-Fiction-Roman, der 1952 veröffentlicht und gemeinsam mit Cyril M. Kornbluth verfasst wurde, taucht in eine Zukunft ein, die von Werbeagenturen und globalen Konzernen dominiert wird und in der der Konsumismus auf die Spitze getrieben wurde.
In „The Space Merchants“ wird die Gesellschaft stark von Werbung beeinflusst und der Wert der Menschen wird oft durch ihr Konsumverhalten bestimmt. Der Roman präsentiert eine Welt, in der Werbung zu einer allgegenwärtigen Kraft im Alltag geworden ist und die Wünsche und Entscheidungen des Einzelnen manipuliert. Obwohl das Hören von Werbung nicht explizit als Währung verwendet wird, dreht sich die Erzählung um die Macht des Marketings und seine Auswirkungen auf die Gesellschaft, was mit den spekulativen Wirtschaftsmodellen übereinstimmt, an denen Sie interessiert sind.
Das Paradoxe dabei ist, dass Werbung ein Mittel zum Zweck war, um andere Produkte zu verkaufen, Aufmerksamkeit jedoch nötig war, um in den Geldbeutel zu greifen. Bis sich der Meme-Markt zu etwas entwickelt hat, das wir heute Engagement nennen, war Werbung nun ein eigenes Produkt, anstatt zu anderen Produkten zu führen. Das Meme ist selbst ein Produkt und Aufmerksamkeit ist das Mittel, um das menschliche Gehirn damit zu infizieren.
Ein Begriff wie „Viralität“, der im Gesundheitskontext immer als etwas Schlechtes angesehen wurde, da er auf Systeme hinweist, die sich exponentiell und unkontrolliert selbst reproduzieren, wird heute als etwas Positives betrachtet.
Richard Dawkins führte das Konzept der Religionen als „Viren des Geistes“ in einem Aufsatz von 1993 ein und nahm es später in sein Buch „Climbing Mount Improbable“ von 1996 auf. Dawkins verwendet die Metapher, um zu diskutieren, wie sich Religionen unter Menschen auf ähnliche Weise verbreiten wie biologische Viren.
Nach Dawkins‘ Ansicht sind Religionen Memkomplexe, die virusähnliche Eigenschaften aufweisen, wie z. B. hohe Übertragbarkeit, die Fähigkeit, sich in das Gehirn des Wirts einzufügen, und die Fähigkeit zur Replikation. Er argumentiert, dass diese religiösen Meme für ihre Wirte nicht unbedingt von Vorteil sind und auf Kosten rationalen Denkens und Skeptizismus gedeihen können.
Soziale Medien sind die logische Weiterentwicklung von Religion (Religionen sind im Grunde genommen Proto-Soziale Medien) und TikTok ist die reinste Verkörperung dieses Trends. Wie Propheten und Götter haben Social Media Influencer Follower, die religiös an die Meinung ihrer Idole glauben. Ein TikTok-Video ist die Analogie zum Beten vor einer heiligen Reliquie. Ein wie ist die Analogie zur Amen In der Kirche.
Ein Influencer ist jemand, der Ihnen eine Grippe einflößt. Er oder sie infiziert Sie mit Memes, um sie in den Gehirnen anderer Menschen zu verbreiten.
Aus Wettbewerb wird Kombination.
Wettbewerb ist die Rivalität zwischen Unternehmen, die versuchen, ihre Waren und Dienstleistungen an Verbraucher zu verkaufen. Wettbewerb ist eine treibende Kraft im Kapitalismus, da er Innovationen fördert, die Preise niedrig hält und die Qualität verbessert. Wenn Unternehmen miteinander konkurrieren, streben sie danach, besser zu sein als ihre Konkurrenten, was zu besseren Produkten und Dienstleistungen für die Verbraucher führen kann. Beispielsweise versuchen Smartphone-Hersteller ständig, sich gegenseitig mit neuen Funktionen zu übertrumpfen, was zu schnellen technologischen Fortschritten führt.
Derzeit gibt es ein breites Spektrum an Meinungen darüber, wie man zu AGI gelangen kann. Es gibt eine Gruppe von Experten, die für unbegrenzte Beschleunigung und fast keine KI-Regulierung plädiert, und dann gibt es diejenigen, die sagen, sie wollen die Pioniermodelle der Öffentlichkeit vorenthalten, weil sie potenziell gefährlich sind. Wie zu erwarten führt dies zu einem Wettbewerb zwischen Open-Source- und proprietären Modellen. Im Moment sind die geschlossenen Modelle aufgrund der enormen Rechenleistung und der Hyperskalierung sicher. Dies wurde durch die Veröffentlichung des SORA-Modells deutlich gezeigt, das jeder Open-Source-Video-generierenden KI sichtlich voraus ist.
Ich bin hin- und hergerissen von der Diskussion; ich kann beide Seiten des Arguments klar erkennen. Ich habe die Intuition, dass nicht nur die Verbesserung der Leistung und Qualität der generativen KI ein Schlüssel ist, sondern dass die Personalisierung der KI in naher Zukunft eine zentrale Rolle spielen wird. Dies könnte bedeuten, dass sowohl geschlossene als auch offene Modelle ihre existentielle Berechtigung haben.
So wie Windows und MacOS durch die Einführung der Linux-Distribution nicht in den Ruhestand gingen, wird auch die OS-LLM-Strategie von Meta die Geschäftsmodelle von OpenAI und Google vermutlich nicht zerstören.
Der Gewinn wird problematisch.
Das Gewinnmotiv ist der Wunsch, Geld zu verdienen, was im Kapitalismus ein starker Anreiz ist. Es motiviert Einzelpersonen und Unternehmen, Waren und Dienstleistungen zu produzieren, Innovationen zu entwickeln und die Effizienz zu verbessern. Ein Softwareentwickler könnte beispielsweise eine neue App erstellen, in der Hoffnung, dass sie populär wird und Einnahmen generiert. Dieser Wunsch, Gewinn zu machen, ermutigt die Menschen, hart zu arbeiten und neue Ideen zu entwickeln.
Das Profitmotiv könnte in einer AGI-Welt den größten Wandel durchlaufen, da Geld als Motivationsfaktor in einer Welt des Überflusses im Grunde nutzlos wird. AGI muss auch nicht dazu ermutigt werden, neue Ideen zu entwickeln oder hart zu arbeiten. Diese Art psychologischer Manipulationen wäre unter der Würde von AGI. Es könnte jedoch für uns Menschen sehr schädlich sein, wenn uns die Motivation fehlt. Unser Geist war über Jahrtausende an das Überleben und das Erreichen von Glück und Wohlstand gewöhnt. Der Mangel an Ehrgeiz könnte zu einer existenziellen Motivationskrise führen.
Geistiges Eigentum wird zur memetischen Prompterty [sic]
Im Kapitalismus haben Einzelpersonen und Unternehmen das Recht, Eigentum zu besitzen und es nach eigenem Ermessen zu nutzen. Dazu gehören physisches Eigentum wie Grundstücke und Gebäude sowie geistiges Eigentum wie Patente und Urheberrechte. Das Konzept des Privateigentums ist von entscheidender Bedeutung, da es den Menschen Kontrolle über ihre Ressourcen und die Früchte ihrer Arbeit gibt und sie ermutigt, zu investieren, zu erneuern und ihr Eigentum zu erhalten.
Das Konzept des Eigentums ist eng mit dem Konzept der Motivation verknüpft. Wenn ich für ein Unternehmen arbeite und Aktienoptionen dafür besitze, ist der Erfolg des Unternehmens direkt mit meinem eigenen verknüpft. Je besser das Unternehmen abschneidet, desto mehr Wert erhalte ich aus meinen Aktien. Im Bereich des Urheberrechts brodelt ein Krieg zwischen Künstlern und Inhaltserstellern, weil KI-Unternehmen ihre Modelle mit menschlichen Inhalten trainiert haben, ohne um Zustimmung zu bitten. Sie haben einen Punkt, denn letztendlich sollte jede Arbeit eines Künstlers, die in einer Aufforderung wie „Machen Sie ein Lied mit der Stimme von x oder machen Sie ein Katzenbild im Stil von y“ erwähnt wird, eine Mikrozahlung erhalten, da seine oder ihre menschliche Originalität direkt an einen Benutzer gestreamt wird.
Um Künstler und Autoren zur Schaffung neuer Werke zu ermutigen, muss die Gesellschaft eine neue Definition des geistigen Eigentums finden, die die Ergebnisse multimodaler Modelle mit den von ihnen verwendeten Trainingsdaten verknüpft.
Der Begriff „Prompterty“ ist ein Platzhalter, bringt aber zum Ausdruck, dass die Verarbeitung natürlicher Sprache eine der wichtigsten Produktionspipelines der nahen Zukunft sein wird.
Willkommen bei den Meme-Spielen 2024
Mit Musk verklagt OpenAI offen und indirekt Microsoft am 1. März 2024, die KI-Meme-Kriege haben offiziell den nächsten Gang eingelegt. In den kommenden Monaten wird es unwahrscheinliche Allianzen zwischen den reichsten Menschen, reichsten Nationen und mächtigsten Konzernen der Welt geben.
Lasst uns tanzen und spielen, als gäbe es kein Morgen.
Unsere Aufmerksamkeit ist gefesselt und wir sind bereit, unterhalten zu werden!
Wir werden uns im nächsten Teil dieser Serie mit der weiteren Entwicklung dieser Kriege befassen.
Im grenzenlosen Universum von Utopias war die Menschheit in ein Reich jenseits des Vorstellbaren vorgedrungen, in dem technologische Meisterschaft und göttliches Können die Existenz selbst neu gestaltet hatten. Diese universumweite Dyson-Sphäre, eine Verkörperung menschlichen Einfallsreichtums und Harmonie, war ein Wandteppich, gewebt aus den Fäden unendlichen Wissens und Mitgefühls. In Utopias war Leid nur eine ferne Erinnerung, ein Relikt einer urzeitlichen Vergangenheit, und Glück war kein flüchtiger Moment, sondern das eigentliche Gewebe des Lebens.
Utility-Monster: Lebewesen, die weitaus effizienter als wir darin sind, aus Ressourcen Wohlstand zu ziehen.
Schlaflosigkeit zum Beispiel könnte zu einem gesellschaftlich akzeptierten Phänomen werden, denn Schlaf und Ruhe sind die Feinde jeder Aufmerksamkeitsökonomie. Die ADE ist das New York der Wirtschaft. Ihr natürlicher Lebensraum ist 24 Stunden am Tag, 365 Tage im Jahr. Ein ständig aktiver Geist wie der eines Unternehmers wie Elon Musk wird bereits als Höhepunkt menschlicher intellektueller Fähigkeiten gefeiert und es wird immer gesellschaftlich akzeptierter, dass diese ADE-gesteuerten Geister 
