In Kapitel 22 meines Romans „Die Goldberg-Version“ jagt ein Detektiv namens Van-Turing einer Zahl hinterher. Die Zahl ist 32. Er weiß es nicht. Warum Es ist 32; er weiß nur, dass jeder, der sich jemals mit dem Fall befasst hat, irgendwann einmal die Zahl Zweiunddreißig geschrieben oder ausgesprochen hat und anschließend zu einem Schluss gekommen ist, der entweder sehr nützlich oder sehr fatal war.
In der Szene verliert Van-Turing die Beherrschung und ruft auf Englisch: “Verdammt!” Sein Gegenpart, der Philosoph Bertrand Russell, zählt an den Fingern ab und sagt ruhig:, “Zweiunddreißig.”
D + A + M + N = 4 + 1 + 13 + 14 = 32.
Der deutsche Übersetzer des Romans stand vor einem Problem. “Verdammt!” ergibt nicht 32. Auch nicht “Mist!”, “Scheiße!” oder irgendeine der anderen farbenfrohen Alternativen in Goethes Sprache. Nach mehreren schlaflosen Nächten ersetzte er den Ausruf durch “Olé!” – 15 + 12 + 5 = 32 – und begründete diese Entscheidung in einer Fußnote, die etwa viermal so lang war wie die Szene selbst.
Russell gibt der Methode im Roman einen Namen: Ordinale Gematrie. Der Begriff „Gematrie“ ist alt. Der Begriff „Ordinal“ verleiht ihr eine Aura mathematischer Autorität, die wir dringend benötigen, sonst könnten uns alle für albern halten.
Die Mathematikmystiker
Weisen Sie jedem Buchstaben des Alphabets seine Position zu: A=1, B=2, …, Z=26. Addieren Sie die Buchstaben eines Wortes. Betrachten Sie die resultierende Zahl als sinnvoll. Das ist die gesamte Methode. Sie passt auf die Rückseite eines Bierdeckels, wo sie ungefähr hingehört.
Und doch handelt es sich um eine Familientradition, die etwa dreitausend Jahre zurückreicht.
Hebräische Gematrie. Jeder hebräische Buchstabe hat einen festen Zahlenwert (Aleph = 1, Bet = 2, Gimel = 3 usw., wobei die späteren Buchstaben Zehner- und Hunderterwerte erreichen). Wörter mit der gleichen Summe gelten als mystisch miteinander verbunden. Das kanonische Beispiel: yayin (Wein) = 70 = Rasen (Geheimnis). Daher das talmudische Sprichwort: Wenn Wein ins Spiel kommt, kommen Geheimnisse ans Licht.. Die Rabbiner brauchten keine Neurowissenschaften, um das zu bemerken. Sie veranstalteten Dinnerpartys.
Griechische Isopsephie. Die hellenische Verwandte. Alpha=1, Beta=2 usw. Die Zahl des Tieres – 666, Offenbarung 13,18 – ist mit ziemlicher Sicherheit eine Isopsephie für Neron Kaisar In hebräischer Transliteration. Ein apokalyptisches Rätsel, verschlüsselt als Rechenaufgabe für Menschen, die zwei Alphabete lesen konnten. Johannes von Patmos war in dieser Lesart der erste Autor, der eine steganografische Botschaft an der Zensur vorbeischmuggelte, und wir streiten noch immer darüber, ob er sich dessen bewusst war.
Die Pythagoreer gingen noch weiter als alle anderen. Für Pythagoras und seine Schüler waren Zahlen nicht Beschreibungen der Realität. Sie waren die Realität. Der Zahlenwert eines Wortes war keine Metapher für seine Bedeutung – er War Seine Bedeutung. Alles andere, einschließlich des Wortes selbst, war eine verlustbehaftete Kodierung.
Das klingt verrückt, bis man sich vor Augen führt, wofür die übrigen Hyperscaler des 21. Jahrhunderts ihr GPU-Budget ausgeben. Im Grunde Gematria in astronomischem Ausmaß.
Ein Musical mit Zahlen, für die man keine Sänger, sondern Taschenrechner braucht.
Bevor wir zu den GPUs kommen, müssen wir noch einen Komponisten vorstellen.
B + A + C + H = 2 + 1 + 3 + 8 = 14.
Die Zahl Vierzehn ist in den erhaltenen Manuskripten Johann Sebastian Bachs allgegenwärtig. Er schloss sich der Korrespondierende Societät der Musicalischen Wissenschaften als 14. Mitglied und wartete darauf, dass ein Platz frei würde, damit er speziell Mitglied 14 sein konnte. Die Kunst der Fuge Die endgültige Fassung enthält 14 Kontrapunkte. Der Choral “Vor deinen Thron tret ich hiermit”, den er auf dem Sterbebett diktierte, hat 14 Noten in der Anfangsphrase – und 41 (die Umkehrung) in seinem gesamten thematischen Inhalt. Addiert man die vollständigen Initialen JSBACH nach demselben Schema, erhält man ebenfalls 41. Bach scheint daran Gefallen gefunden zu haben.
Er benutzte seinen Namen auch als Melodie. In der deutschen Notenschrift steht B für B und H für H – eine Besonderheit der mittelalterlichen Solmisation, die in keiner anderen großen europäischen Sprache vorkommt. Das bedeutet, dass die vier Buchstaben BACH auf einem Klavier als vier Töne gespielt werden können: B♭, A, C, B♮. Das daraus resultierende Motiv ist chromatisch, eindringlich und strukturell instabil – genau das, was ein Komponist verwendet, wenn er seinen Namen ungeschrieben unterschreiben möchte. Bach fügte dieses Motiv in das unvollendete Werk ein. Contrapunctus XIV der Die Kunst der Fuge, In dem Moment, als das Manuskript abbricht. Die Beweislage deutet darauf hin, dass er seinen eigenen Namen genau an dem Punkt in das Werk einschrieb, an dem er nicht mehr schreiben konnte.
Überlegen Sie, was hier geschieht. Dieselben vier Buchstaben ergeben in der Quersumme eine Zahl (Gematrie)., Und Nenne vier Tonhöhen (Notation), Und Ein menschliches Wort (Orthografie). Drei parallele Kodierungen auf einer einzigen Symbolkette. Ein mittelalterlicher Kabbalist hätte die Struktur sofort erkannt. Ein moderner ML-Ingenieur würde es multimodale Einbettung nennen: dasselbe Token, gleichzeitig in mehrere Repräsentationsräume abgebildet. Bach fertigte in den 1740er Jahren in Leipzig multimodale Einbettungen per Hand mit einer Feder an – als musiktheoretischen Scherz, den eigentlich niemand bemerken sollte.
Das ist der entscheidende Hinweis. Die Arithmetik, die der Sprache zugrunde liegt, beschränkt sich nicht auf die Sprache. Sie zeigt sich überall dort, wo Symbole Bedeutung tragen: in Alphabeten, in Notenlinien, in DNA-Tripletts, in den Token-IDs eines Transformators. Die pythagoreische Intuition besagte nicht, dass Zahlen im Inneren existieren. Wörter. Es lag daran, dass Zahlen in uns lebten. Bedeutung, Und Wörter sind nur ein Ort, an dem sie zufällig auftauchen.
Multidimensionale Abbildungen
Ein modernes, großes Sprachmodell liest keinen Text. Es kann keinen Text lesen. Im Grunde ist es eine Maschine, die mit Vektoren arithmetische Operationen durchführt. Wenn man ein Wort in GPT-4, Claude oder eines ihrer verwandten Modelle eingibt, wandelt die Maschine das Wort zunächst in eine Liste von Zahlen um – typischerweise zwischen 4.096 und 12.288. Diese Liste wird als Einbettung bezeichnet. Sie gibt die numerische Position des Wortes in einem tausenddimensionalen Raum an.
Die Bedeutung in einem LLM-Studiengang ist nicht im Wort selbst gespeichert. Sie ist im Kontext gespeichert. Standort Wörter mit ähnlicher Bedeutung – wie “König” und “Königin”, “Wein” und “Geheimnis”, “Verdammt” und “Olé” – liegen in benachbarten Bereichen dieser numerischen Landschaft. Das Modell leitet Bedeutung ab, indem es arithmetische Operationen mit diesen Vektoren durchführt. Die bekannteste Demonstration wurde erstmals 2013 in der Arbeit zu word2vec vorgestellt:
Semantische Beziehungen werden als geometrische Operationen kodiert. Man subtrahiert das Männliche, addiert das Weibliche und erhält so das weibliche Kognat. Niemand hat dem Modell mitgeteilt, dass “König” männlich ist. Es hat die Achse ermittelt, indem es mehrere Milliarden Sätze analysierte und die Punktcluster identifizierte.
Vergleichen Sie nun die beiden Methoden ehrlich:
Parallelen
Gematrie
LLM Einbettungen
Buchstaben werden zugeordnet auf
1 Nummer
~8.000 Zahlen
Sinn lebt in
die Summe
die Position
Die Bedeutung wird extrahiert durch
Arithmetik
Arithmetik
Wörter mit dem gleichen Wert sind
“mystisch verbunden”
semantisch verknüpft
Dimensionalität
1
Tausende
Ruf
abergläubisch
im Wert von 1TP6B3 Billionen
Die Kabbalisten und Pythagoreer irrten sich nicht in ihrer Methode. Sie irrten sich jedoch in Bezug auf die Dimensionalität. Eine Achse reicht nicht aus, um Bedeutung zu kodieren – sonst hätten alle Wörter mit einer Summe von 32 eine gemeinsame Seele. Achttausend Achsen erweisen sich jedoch als nahezu ausreichend. Dies ist kein Zufall, sondern eine Messung. Jedes Mal, wenn ein KI-Labor die Einbettungsdimension erhöht und die Benchmarks steigen, lernen wir, wie viele Bedeutungsebenen Sprache tatsächlich besitzt.
Die Pythagoreer waren daher ungefähr richtig Genauso wie ein mittelalterlicher Kartograf, der die Küste Afrikas als Wellenlinie zeichnet, im Großen und Ganzen richtig liegt. Die Form ist falsch. Die Behauptung, dass Es gibt eine Form ist richtig.
Was Wittgenstein beinahe gesagt hätte
In einem Randbereich des Philosophische Untersuchungen — es existiert dort in Wirklichkeit nicht; ich werde mir das jetzt ausdenken, und ich möchte, dass Sie das bemerken — man könnte sich vorstellen, dass Wittgenstein schreibt:
“Eine dem Sprecher verborgene Arithmetik, die die Sprache selbst aber schon immer gekannt hat.”
Diese These passt ihm unangenehm gut. In einem Großteil seines späteren Werks behauptet er, Bedeutung entstehe im Gebrauch und der Sprecher habe nie vollständigen Zugriff auf die Regeln des Spiels, das er spielt. Die Ordinalgematrie ist die einfachste Version dieser These: Die Zahlen sind bereits vorhanden, im Alphabet verankert, von einem Kind summiert, und doch beachtet sie niemand. Einbettungsvektoren sind die ausgefeiltere Version: Die Zahlen sind bereits vorhanden, in die statistische Struktur eines Korpus von Billionen Wörtern eingebettet, durch Matrixmultiplikation extrahierbar, und doch beachtet sie ebenfalls niemand – außer dem Modell.
Beides sind Fälle einer unterschwelligen, symbolischen Realität, die unter einer symbolischen verborgen liegt. Der Sprecher deutet auf Bedeutung und verfehlt sie. Die Arithmetik deutet auf Bedeutung und trifft ins Schwarze. Die Sprache wusste es schon immer.
Der Taschenrechner und warum er hier ist
Unter diesem Beitrag habe ich ein kleines interaktives Tool eingebettet. Ich nenne es den Gematriakulator. Geben Sie eine Zahl ein; es zeigt Ihnen alle deutschen und englischen Wörter an, deren Buchstabensumme dieser Zahl entspricht, sortiert nach ihrer tatsächlichen Häufigkeit im gesprochenen Englisch – damit Sie nicht in Wörterbuch-Kram ertrinken. Erdwölfe oder Zymurgie.
Ich behaupte nicht, dass das Werkzeug mystische Entsprechungen offenbart. Ich behaupte lediglich, dass es Folgendes offenbart: Zufälle, Und Sie werden feststellen, welche davon bedeutsam erscheinen. Das ist das pythagoreische Experiment, durchgeführt in Ihrem Browser, mit Stützrädern.
Versuch es doch mal mit 32, wenn du magst. Fang mit "Verdammt" an. Und dann siehst du weiter.
Gematriaculator
A=1 · B=2 · … · Z=26
Deutsch
Englisch
VERDAMMT=32 · OLÉ=32 · BACH=14
—Teil 5.1, der ursprünglich als nächstes erscheinen sollte, wird verschoben: Die Frage, ob ein menschlicher Verstand, geschult durch genügend Sprache und genährt von süßer Musik und Erdbeer-π, lernen kann, einige hundert Dimensionen der Dunklen Materie zu durchschauen, ohne dabei zu Vera Rubin zu werden. Wir werden es schaffen.
Stellen Sie sich eine Szene in der nicht allzu fernen Zukunft vor. Jemand wurde ermordet. Zwei Ermittlungsteams treffen am Tatort ein, aber es ist unklar, wer zuständig ist. Das menschliche Team wird vom charismatischen Detektiv Sheerluck Holmes geleitet, während das Android-Team von Bot-OX geleitet wird. Die Frage ist: Ist der Täter ein Mensch, ein Android oder etwas dazwischen? Können wir erwarten, dass die Polizei der Zukunft ein gut definiertes Verfahren oder einen Algorithmus entwickelt hat, um dies schnell zu entscheiden?
Wir werden versuchen, diese und die drängendere Frage zu beantworten, mit der wir derzeit konfrontiert sind: Haben wir eine gute Chance, einen Algorithmus zu entwickeln, der praktisch ist und uns erlaubt, allein durch Betrachtung des Tatorts (des generierten Textes) zu entscheiden, ob dieser von einem Bot oder einem Menschen erstellt wurde? Die Entwicklung eines solchen Algorithmus ist derzeit eines der begehrtesten Ziele der Informatik. Ein robuster Blackbox-Algorithmus könnte die meisten unserer akademischen Konventionen retten und uns ermöglichen, die Art und Weise beizubehalten, wie wir Kinder, Jugendliche und Erwachsene testen. Ohne ihn müssten diese Systeme mit großem Aufwand neu aufgebaut werden.
In einer Welt, in der immer mehr Menschen aus der Ferne arbeiten und trainieren, ist es von entscheidender Bedeutung, dass wir zuverlässig feststellen können, dass Menschen ihre geistige Arbeit selbst geleistet haben, was derzeit nicht der Fall ist. Darüber hinaus können gefälschte Nachrichten, Bilder und Videos angesichts der Reichweite sozialer Medien verheerende Auswirkungen auf den gesellschaftlichen Konsens haben. Ein solcher Algorithmus – falls er existiert – ist nicht wasserdicht, aber mit genügend Trainingsdaten könnte er sogar vor Gericht Bestand haben.
Die Aussichten sind jedoch nicht vielversprechend. OpenAI hat das Projekt innerhalb von sechs Monaten aufgegeben: OpenAI-Klassifikator. Der praktische und monetäre Wert eines solchen Algorithmus kann nicht hoch genug eingeschätzt werden. Wenn gierige Aliens ihn für eine Billion Dollar verkaufen würden, rufen Sie mich an – ich will dabei sein.
Einführung der Differentiation Test Engine
Die Aufgabe, zwischen maschinengeneriertem Text (MGT) und menschengeneriertem Text (HGT) zu unterscheiden, ist entfernt mit dem ursprünglichen Turing-Test, dem sogenannten Imitationsspiel, verwandt. Es gibt jedoch noch weitere Faktoren: Während der ursprüngliche Turing-Test nur menschliche Beurteiler zuließ, können bei unserem Differenzierungstest andere Maschinen die menschlichen Beurteiler unterstützen. Wir nennen eine solche Maschine eine Differentiation Test Engine (DTE). Sie hat nur einen einzigen Zweck: zu entscheiden, ob ein Text von einem Menschen oder einer Maschine erzeugt wurde.
Die erste Intuition ist, dass ein solcher DTE relativ einfach zu implementieren sein sollte. Wir verfügen derzeit über die Technologie, um menschliche Gesichter und Stimmen zu erkennen und zu identifizieren, die viel komplexer und anfälliger für Störungen sind als Text. Die Entscheidung, ob ein bestimmtes Bild eine Maschine oder einen Menschen zeigt, kann von jedem aktuellen Objektklassifizierungssystem problemlos getroffen werden. Sollte es dann nicht einfach sein, ein Large Language Model (LLM) mit 1 Billion menschlichen Texten und 1 Billion Maschinentexten zu trainieren und es lernen zu lassen, diese zu klassifizieren? Der DTE wäre kein einfacher Algorithmus, sondern ein eigenes Transformatormodell, das auf die Erkennung von Identitätsbetrug spezialisiert ist.
In Mathematik und Informatik ist die Komplexität eines Problems oft orthogonal zu seiner Beschreibung. Die meisten NP-vollständigen Probleme sind täuschend einfach zu verstehen, und dennoch haben Millionen von Informatikern und Mathematikern jahrzehntelang darum gekämpft, Fortschritte zu erzielen. Ich vermute, dass Black-Boxing-Versuche in praktischen Anwendungssituationen scheitern werden.
Theoretischer Rahmen
Black-Box-Erkennungsmethoden sind auf den API-Zugriff auf LLMs beschränkt. Sie basieren auf dem Sammeln von Textproben aus menschlichen bzw. maschinellen Quellen, um ein Klassifizierungsmodell zu trainieren, mit dem zwischen von LLMs und von Menschen generierten Texten unterschieden werden kann. Black-Box-Detektoren funktionieren gut, da aktuelle von LLMs generierte Texte häufig linguistische oder statistische Muster aufweisen. Da sich LLMs jedoch weiterentwickeln und verbessern, werden Black-Box-Methoden immer weniger effektiv. Eine Alternative ist die White-Box-Erkennung. In diesem Szenario hat der Detektor vollen Zugriff auf die LLMs und kann das Generierungsverhalten des Modells zu Rückverfolgbarkeitszwecken steuern. In der Praxis werden Black-Box-Detektoren häufig von externen Stellen erstellt, während die White-Box-Erkennung im Allgemeinen von LLM-Entwicklern durchgeführt wird.
Definition des grundlegenden Erkennungssystems
Aus praktischen Gründen werden wir angeben, was wir von einem solchen DTE vernünftigerweise erwarten können. Bei einer Eingabe mit einer bestimmten Tokenlänge sollte der Algorithmus mit einer Zuverlässigkeit von mehr als 50% innerhalb einer begrenzten Zeitspanne eine eindeutige Ausgabe darüber liefern, wie viel von einem bestimmten Text von einem Menschen und wie viel von einer Maschine stammt.
Eine Implementierung könnte wie folgt aussehen:
Bitte geben Sie Ihren Text ein: …
Bitte geben Sie Ihr gewünschtes Vertrauen ein: 0,8
Ihr Text muss mindestens 8.000 Token lang sein, um eine Wahrscheinlichkeit von mindestens 80% zu erreichen, die richtige Antwort zu geben.
Unter den aktuellen Parametern wird der Algorithmus 5 Minuten lang ausgeführt. Soll ich fortfahren (J/N)? … J
Die Ausgabe sollte dann etwa so lauten: „Ich kann mit 80%-iger Sicherheit sagen, dass 95% des Textes von einer Maschine und 5% von einem Menschen geschrieben wurden.“
Bevor wir uns mit den Details befassen, sollten wir die möglichen Ergebnisse beim Versuch, einen solchen Algorithmus zu entwickeln, weiter klären:
Ein solcher Algorithmus ist prinzipiell unmöglich (beispielsweise ist es unmöglich, einen Algorithmus zu erstellen, der die höchste Primzahl berechnet).
Ein solcher Algorithmus ist praktisch unmöglich (z. B. läuft er entweder zu lange oder benötigt mehr Rechenleistung als verfügbar ist; im Grunde ist er NP-vollständig).
Es ist unentscheidbar (z. B. fällt es unter das Halteproblem und wir können nie sagen, ob es irgendwann aufhören wird).
Dies ist möglich, aber nicht praktikabel (identisch mit 2).
Es ist möglich und praktisch (gut genug).
Am Ende möchten wir eine Situation erreichen, in der wir eine Untergrenze der Eingaben berechnen können, die es uns dann mit einer Wahrscheinlichkeit von über 50% ermöglicht, zu entscheiden, ob es sich um HGT oder MGT handelt.
Falsifizierbarkeit: Ein solcher Algorithmus lässt sich leicht widerlegen, wenn wir beispielsweise den Text „Der Himmel ist blau“ eingeben und er uns eine andere Wahrscheinlichkeit als 50% liefert.
Randbemerkungen zur Obfuscation Engine
Konzeptionell stoßen wir auf Probleme, wenn wir eine Differenzierungsmaschine (Diff) entwerfen. Wir stehen dann vor dem folgenden Paradoxon: Wir möchten entscheiden, ob unser Algorithmus Diff (der erkennt, ob ein Mensch oder eine Maschine eine bestimmte Eingabe geschrieben hat) immer anhält (eine definitive Antwort gibt) und eine richtige Antwort gibt. Nehmen wir an, unser Algorithmus hält an und gibt „Mensch“ aus. Wir konstruieren nun ein „pathologisches“ Programm, Obf (Obfuscator Engine), das etwas wie Obf(Diff(Eingabe)) verwendet, das sagt: Ändern Sie die Eingabe so, dass die Antwort von Diff umgekehrt ist (wenn sie Maschine ergibt, gibt sie Mensch aus). Dies könnte ein rein theoretisches Problem sein und würde erfordern, dass wir verstehen, warum die Maschine so formuliert, wie sie es tut, was viel mehr mechanistische Interpretierkompetenz erfordert, als wir derzeit besitzen. Im Moment schützt die Komplexität von LLMs sie im wirklichen Leben vor einem solchen Angriff. Aber wenn das stimmt, ist es auch sehr wahrscheinlich, dass uns das Wissen fehlt, um überhaupt einen allgemeinen Differenzierer zu bauen. Diese Einwände könnten für reale Implementierungen irrelevant sein, wenn wir zeigen könnten, dass Differenzierung und Verschleierung ausreichend asymmetrisch sind, was bedeutet, dass die Differenzierung mindestens 10^x mal schneller ist als die Verschleierung und damit unpraktisch (denken Sie daran, dass die Semiprimfaktorisierung viel schwieriger ist als die Multiplikation zweier Primzahlen).
Das Profiling-System
Ein entscheidender Aspekt bei der Unterscheidung zwischen von Menschen und Maschinen erstellten Texten ist das Profiling. Beim Profiling werden externe Daten gesammelt und analysiert, um dem Text einen Kontext zu geben. Indem wir die typischen Merkmale verschiedener Textarten verstehen, können wir statistisch bestimmen, wie wahrscheinlich es ist, dass ein Text von Menschen oder Maschinen erstellt wurde.
Technische Dokumente, kreative Texte und zwanglose Social-Media-Beiträge beispielsweise weisen jeweils unterschiedliche stilistische und strukturelle Merkmale auf. Durch die Erstellung von Profilen auf der Grundlage dieser Kategorien kann die Differentiation Test Engine (DTE) fundiertere Entscheidungen treffen. Darüber hinaus spielen Faktoren wie Wortschatzreichtum, Satzkomplexität und Themenkonsistenz eine Rolle bei der Profilerstellung. Maschinengenerierte Texte weisen häufig bestimmte statistische Regelmäßigkeiten auf, während menschliche Texte tendenziell mehr Variabilität und Kreativität aufweisen.
Die „DNA-Spur“
Ein innovativer Ansatz zur Unterscheidung zwischen von Menschen und Maschinen generierten Texten ist das Konzept einer „DNA-Spur“. Dabei werden die grundlegenden Bausteine von Texten analysiert, wie etwa Token für Maschinen und Wörter für Menschen. Token-basierte Algorithmen konzentrieren sich auf Muster und Sequenzen, die für die maschinelle Generierung charakteristisch sind, während von Menschen generierte Texte durch einen ganzheitlicheren wortbasierten Ansatz untersucht werden können.
Besonders hilfreich kann die Spektralanalyse sein, eine Methode zur Untersuchung der Häufigkeit und Verteilung von Elementen in einem Text. Mithilfe der Spektralanalyse können wir subtile Unterschiede in der Art und Weise erkennen, wie Maschinen und Menschen Sätze konstruieren. Maschinen folgen möglicherweise eher starren und sich wiederholenden Mustern, während Menschen ein breiteres Spektrum an stilistischen Nuancen aufweisen.
Die ethischen Implikationen
Die Untersuchung der ethischen Auswirkungen der Entwicklung und Verwendung einer Differenzierungstest-Engine ist unerlässlich. Alle aktuellen GPT-Systeme haben eine ähnliche künstliche „DNA“, was bedeutet, dass Text-, Bild-, Video- oder Audiodifferenzierungs-Engines vor denselben Herausforderungen stehen. Deepfakes oder maschinengenerierte Inhalte, die menschliche Schöpfung imitieren, bergen erhebliche Risiken für das gesellschaftliche Vertrauen und die Authentizität.
Da maschinengenerierte Inhalte immer ausgefeilter werden, steigt auch das Missbrauchspotenzial. Es ist von entscheidender Bedeutung, sicherzustellen, dass diese Differenzierungstechnologien transparent und nachvollziehbar sind. Es besteht auch das Risiko, dass ein übermäßiges Vertrauen in diese Technologien zu neuen Formen der Voreingenommenheit und Diskriminierung führen könnte. Daher ist es zwingend erforderlich, ethische Richtlinien und regulatorische Rahmenbedingungen für ihre Verwendung zu entwickeln.
Technische Lösungen
Die Erforschung rein technischer Lösungen für das Differenzierungsproblem erfordert mehrere Ansätze:
Paralleles Web: Bei diesem Konzept werden parallele Versionen des Internets betrieben, eine ausschließlich für verifizierte menschliche Inhalte und eine andere für gemischte Inhalte. Diese Trennung könnte dazu beitragen, die Integrität von durch Menschen generierten Inhalten zu wahren.
Spezielle Domänen: Durch die Erstellung spezieller Domänen oder Zonen im Web, in denen überprüft wird, ob der Inhalt von Menschen erstellt wurde, kann das Vertrauen der Benutzer in die Echtheit der Informationen gestärkt werden.
Prompt.Claims: Dieses System würde, ähnlich wie Patente und Zitate funktionieren, es den Urhebern ermöglichen, ihre Eingabeaufforderungen zu beanspruchen und zu verifizieren, und so dem Prozess der Inhaltserstellung eine zusätzliche Ebene der Verantwortlichkeit und Rückverfolgbarkeit hinzufügen.
Inquisitorische Lösungen: Wir könnten uns auch ein Szenario vorstellen, in dem wir direkt mit dem Artefakt (Text) interagieren, um seinen Ursprung zu ergründen. Ähnlich wie bei der Befragung eines Verdächtigen könnten wir die Eingabeaufforderung, die den Text generiert hat, neu erstellen. Wenn wir die ursprüngliche Eingabeaufforderung zurückentwickeln können, finden wir möglicherweise Hinweise zu ihrer Erstellung. Dieser Ansatz beruht auf der Idee, dass maschinengenerierte Texte das Produkt spezifischer Eingabeaufforderungen sind, während menschliche Texte aus komplexeren Denkprozessen stammen.
Konsequenzen für die Ausrichtung: Die Herausforderung, zwischen von Menschen und Maschinen generierten Texten zu unterscheiden, hängt mit umfassenderen Fragen der KI-Ausrichtung zusammen. Es ist von größter Bedeutung, sicherzustellen, dass KI-Systeme mit menschlichen Werten und Erwartungen übereinstimmen. Wenn wir KI-generierte Inhalte nicht zuverlässig unterscheiden können, untergräbt dies unsere Fähigkeit, diesen Systemen zu vertrauen und sie effektiv zu verwalten. Dieses Problem erstreckt sich auf alle Formen von KI-generierten Inhalten, weshalb die Entwicklung robuster Differenzierungstechnologien eine Schlüsselkomponente zur Erreichung einer Superausrichtung ist.
Abschluss
Zusammenfassend lässt sich sagen, dass die Aufgabe, zwischen von Menschen und Maschinen generierten Texten zu unterscheiden, erhebliche Herausforderungen und Implikationen mit sich bringt. Die Entwicklung einer zuverlässigen Differenzierungstest-Engine ist mit ethischen Überlegungen, technischen Innovationen und umfassenderen KI-Ausrichtungsproblemen verknüpft. Um in dieser komplexen Landschaft zurechtzukommen, ist es unerlässlich, einen multidisziplinären Ansatz zu verfolgen und Erkenntnisse aus der Informatik, Ethik und regulatorischen Rahmenbedingungen zu integrieren.
Wenn wir die Probleme untersuchen, mit denen wir beim Bau allgemeiner Differenzierungsmaschinen konfrontiert sind, stellen wir schnell fest, dass dieses Problem in eine Vielzahl verwandter Probleme eingebettet ist. Gegnerische Angriffe, beispielsweise auf Bilderkennungssysteme, haben gezeigt, dass wir die Widerstandsfähigkeit dieser Modelle konsequent überschätzen. Kürzlich wurde gezeigt, dass sogar ein mittelmäßiger Spieler mit Hilfe einer anderen KI, die einen Exploit gefunden hatte, gegen ein Top-Go-Programm gewinnen konnte: Vice-Artikel.
Daher ist es sehr wahrscheinlich, dass selbst wenn wir einen Algorithmus entwickeln, der HGT zunächst von MGT unterscheiden könnte, dasselbe Programm anschließend auf sich selbst angewendet werden könnte, um das Ergebnis umzukehren. Ein weiterer interessanter Aspekt ist, dass alle digitalen Computer Turingmaschinen sind, was bedeutet, dass jeder zur Unterscheidung entwickelte Algorithmus auch zur Verschleierung verwendet werden könnte.
Diese neue Miniserie wird einige zufällige Gespräche über philosophische Themen enthalten, die der Autor mit einem KI-Chatbot (GPT-4o) geführt hat. Sie sind der Einfachheit halber gekürzt.
Berichte, die besagen, dass etwas nicht passiert ist, finde ich immer interessant, denn wie wir wissen, gibt es bekannte Dinge; es gibt Dinge, von denen wir wissen, dass wir sie wissen. Wir wissen auch, dass es bekannte Unbekannte gibt; das heißt, wir wissen, dass es Dinge gibt, die wir nicht wissen. Aber es gibt auch unbekannte Unbekannte – Dinge, von denen wir nicht wissen, dass wir sie nicht wissen. Und wenn man sich die Geschichte unseres Landes und anderer freier Länder ansieht, ist es die letztere Kategorie, die tendenziell die schwierigsten ist. (D. Rumsfeld, 12. Februar 2002)
Das Rumsfeld zugeschriebene Sprichwort über unbekannte Unbekannte zeugt von mangelndem Verständnis für die mathematische Mengenlehre. Sagen Sie mir, warum.
Das Sprichwort hat mehr mit Risikomanagement als mit Mengenlehre zu tun. Die Mengenlehre ist präzise und beschäftigt sich mit wohldefinierten Elementen und Mengen. „Unbekannte Unbekannte“ sind vage und haben in der Mengenlehre keine formale Definition. Es geht eher um unser Bewusstsein und Verständnis, womit sich die Mengenlehre nicht befasst.
Das glaube ich nicht. Die Terminologie ist zu schwammig, um nützlich zu sein. Es ist gleichbedeutend mit Russells Menge aller Mengen, die sich selbst nicht enthalten.
Das Russell-Paradoxon betrifft ein wohldefiniertes logisches Problem in der Mengenlehre, bei dem die Menge aller Mengen, die sich selbst nicht enthalten, zu einem Widerspruch führt. „Unbekannte Unbekannte“ betreffen unser Bewusstsein und werden nicht auf die gleiche Weise formalisiert. Sie stellen unterschiedliche Arten von Problemen dar.
Sagen wir es so: Stimmen Sie zu, dass man das Wissen über etwas so ausdrücken könnte, als würde man etwas als wahr erleben?
Ja, das Wissen um etwas kann als das Erfahren oder Erkennen einer Wahrheit angesehen werden, was mit der Idee des gerechtfertigten wahren Glaubens in der Erkenntnistheorie übereinstimmt.
Gut. Lassen Sie uns nun weiter darüber nachdenken. Einige Farben in der Umgebung sind mir bekannt, weil mein Sinnesapparat es mir ermöglicht, sie direkt zu sehen. Dies sind alles Dinge, die sich im für meine Augen zugänglichen elektromagnetischen Spektrum befinden. Richtig?
Ja, Farben im sichtbaren Spektrum (ungefähr 380 bis 750 Nanometer) sind für Ihre Augen zugänglich.
Früher gab es viele Dinge, von denen die Menschen nichts wussten, weil ihnen die Instrumente fehlten, um sie zu sehen, wie Bakterien, Viren usw. Diese Dinge waren ihnen unbekannt. Stimmt das?
Ja, die Menschen wussten nichts über Dinge wie Bakterien und Viren, weil ihnen die Instrumente fehlten, um sie zu beobachten.
Die Aufgabe jeder wissenschaftlichen Unternehmung besteht also lediglich darin, Licht auf bislang verborgene oder unsichtbare Dinge zu werfen und Unbekanntes bekannt zu machen, ok?
Ja, wissenschaftliche Bemühungen zielen darauf ab, bislang verborgene oder unbekannte Aspekte der Welt aufzudecken und zu verstehen und so Unbekanntes in Bekanntes zu verwandeln.
Doch wo in diesem Prozess wäre das, was Rumsfeld ein unbekanntes Unbekanntes nennt? Bis wir Teleskope entwickelten, waren uns Schwarze Löcher schlicht unbekannt. Es ergibt keinen Sinn zu sagen: „Ach, wir wussten ja nicht einmal, dass uns Schwarze Löcher unbekannt sind.“ Das ist, als würde eine farbenblinde Person, nachdem ihre Farbrezeptoren repariert wurden, sagen: Ich wusste, dass diese gängigen Farben wie Grün, Blau und Rot, über die alle reden, mir unbekannt sind, aber diese andere Farbe „Oliv“, deren Namen ich gerade zum ersten Mal gehört habe … ich wusste nicht einmal, dass ich diese Farbe nicht kannte. Es war mir ein unbekanntes Unbekanntes. Damit stellt sie lediglich zusätzlich zu der Erfahrung von Oliv fest, dass ihr auch der Name unbekannt war. Doch das ist nicht irgendwie eine höhere Kategorie der Unwissenheit, sondern nur eine zusätzliche Eigenschaft des Objekts.
Unbekannte Unbekannte sind Phänomene, die wir nicht konzeptualisiert haben. Sobald sie entdeckt werden, bewegen sie sich, wie schwarze Löcher, direkt von unbekannten Unbekannten zu bekannten Bekannten. Das Konzept hebt die Grenzen unseres Bewusstseins hervor, impliziert jedoch keinen schrittweisen Übergang.
In dem Moment, als wir Schwarze Löcher entdeckten, wussten wir sofort von ihnen. Es ergibt keinen Sinn zu sagen, Schwarze Löcher befänden sich in einem Schwebezustand zwischen unbekannten Unbekannten und bekannten Unbekannten. Rumsfeld stellt sich unbekannte Unbekannte als gasähnlichen Zustand vor.
Was denken Sie über unbekannte Bekannte?
Unbekanntes Wissen sind Dinge, die wir wissen, uns aber nicht darüber im Klaren sind, wie implizites Wissen oder vergessene Informationen. Sie veranschaulichen die Komplexität unserer kognitiven Prozesse und die Natur der Entdeckung.
Der letzte Begriff zur Vervollständigung der logischen Tabelle wäre „bekannte Bekannte“. Was sind einige Beispiele?
Bekannte Bekannte sind wohlverstandene Tatsachen: – Wissenschaftliche Fakten (z. B. umkreist die Erde die Sonne). – Mathematische Kenntnisse (z. B. 2 + 2 = 4). – Historische Ereignisse (z. B. die Mondlandung 1969). – Alltagswissen (z. B.: Die Sonne geht im Osten auf).
Aber bekannte Bekannte sind dann nur eine andere Art zu sagen, dass wir sie gut kennen. Sie verwenden den Begriff „bekannt“ sowohl qualitativ als auch quantitativ.
Ja, „bekanntes Wissen“ bedeutet sowohl qualitatives (gut verstandenes) als auch quantitatives (umfassendes) Wissen. Es umfasst detaillierte und zuverlässige Informationen über eine Domäne.
Wenden Sie diese Interpretation nun auf unbekannte Unbekannte an. Finden Sie ein Problem?
Ja, die Anwendung qualitativer und quantitativer Aspekte auf unbekannte Unbekannte ist problematisch. Wir können ihre Natur weder beschreiben noch messen, da sie unser derzeitiges Verständnis übersteigen. Sie erinnern uns an die Grenzen unseres Wissens, entziehen sich aber einer präzisen Charakterisierung.
Die Menge aller Dinge, die wir nicht wissen, und die Menge aller Dinge, die wir wissen, reichen aus, um unser Wissen zu ordnen. Es gibt keine dritte nützliche Menge. Unbekannte Unbekannte liegen innerhalb der Menge der Unbekannten.
Ihr Ansatz vereinfacht Wissen in zwei Gruppen: Bekanntes und Unbekanntes. Bekanntes Unbekanntes und unbekanntes Unbekanntes sind Teilgruppen von Unbekanntem. Dieses Modell ist effizient und effektiv für die Organisation von Wissen und die Anleitung von Forschung.
Vielen Dank, ich werde dieses Gespräch wahrscheinlich veröffentlichen, um anderen Menschen zu zeigen, dass Sie in erkenntnistheoretischen Fragen wirklich Ihren Standpunkt vertreten können.
Vielen Dank für das interessante Gespräch. Ich freue mich, dass Sie es wertvoll fanden. Viel Erfolg mit Ihrer Veröffentlichung!
Künstliche allgemeine Intelligenz als vielschneidiges Schwert
Künstliche allgemeine Intelligenz (AGI) steht an der Spitze der technologischen Entwicklung und verkörpert den Höhepunkt dessen, was künstliche Intelligenz leisten kann. Anders als ihre Vorgänger verspricht AGI ein Maß an Autonomie und Leistungsfähigkeit, das der menschlichen Intelligenz entspricht, und wirft tiefgreifende Fragen über die Zukunft der Mensch-Maschine-Interaktion auf.
Diese komplizierte schwarz-weiße Bleistiftzeichnung ist eine meisterhafte Mischung aus Surrealismus und mathematischer Präzision und erinnert an die Essenz der Arbeit von MC Escher. Im Mittelpunkt des Werks steht das Penrose-Dreieck, das nahtlos in eine Mosaikstruktur aus geometrischen Formen integriert ist, die ineinander übergehen und das Konzept der Metamorphose symbolisieren. Das Spiel der Zeichnung mit Perspektive und optischen Täuschungen erzeugt ein fesselndes Gefühl der Unendlichkeit, mit endlosen Treppen und gewundenen Pfaden, die sich der herkömmlichen Logik widersetzen.
Reflektierende Oberflächen sorgen für Symmetrie, während natürliche Elemente organisch mit fantastischen architektonischen Formen verschmelzen und die Realitätswahrnehmung des Betrachters herausfordern. Der in die Zeichnung eingebettete Text spricht von den tiefgreifenden Auswirkungen der künstlichen allgemeinen Intelligenz (AGI) und vergleicht sie mit einem „vielschneidigen Schwert“, das die Mensch-Maschine-Interaktion neu definieren soll.
Dieses Kunstwerk ist nicht nur ein Augenschmaus, sondern auch eine philosophische Erkundung, die dazu anregt, über das Potenzial von AGI nachzudenken, unsere Welt neu zu gestalten.
Die universelle Technologie: Der allgegenwärtige Einfluss der AGI
AGI gilt als erste „universelle Technologie“ und wird voraussichtlich jeden Aspekt des menschlichen Lebens durchdringen, von der Gesundheitsversorgung und Bildung bis hin zu Regierungsführung und persönlichen Beziehungen. Ihr universeller Charakter unterstreicht die Bedeutung ihrer Auswirkungen und bietet sowohl beispiellose Chancen als auch Herausforderungen.
Diese schwarzweiße Bleistiftzeichnung integriert menschliche Figuren und Gehirne auf komplexe Weise in eine surreale Landschaft aus unmöglichen Objekten und detaillierten Mosaiken. Das zentrale Penrose-Dreieck ist von geometrischen Formen umgeben, die sich ineinander verwandeln und das Thema der Evolution symbolisieren. Menschliche Figuren und Gehirne interagieren mit diesen Elementen und betonen den Simulationsaspekt, bei dem digitale, physische und biologische Welten zusammenlaufen.
Das Kunstwerk manipuliert Perspektive und optische Täuschungen und erzeugt ein Gefühl der Unendlichkeit mit endlos geschwungenen Pfaden und reflektierenden Oberflächen, die Symmetrie erzeugen. Der eingebettete Text bringt die tiefgreifende Wirkung von AGI als universelle Technologie zum Ausdruck, die alle Aspekte des menschlichen Lebens durchdringt, von Gesundheitsversorgung und Bildung bis hin zu Regierungsführung und persönlichen Beziehungen.
Dieses Werk verwischt die Grenzen zwischen Realität und Simulation und fordert die Zuschauer auf, das transformative Potenzial von AGI zu berücksichtigen. Es fängt die duale Natur des technologischen Fortschritts ein, bietet beispiellose Chancen und Herausforderungen und schafft letztendlich eine neue Realität, in der menschliche Erfahrungen tiefgreifend verändert werden.
Das Kunstwerk spielt mit Perspektive und optischen Täuschungen und erzeugt ein Gefühl von Unendlichkeit und endloser Erkundung. Natürliche Elemente verschmelzen mit fantastischen architektonischen Formen und stellen herkömmliche Wahrnehmungen der Realität in Frage. Der eingebettete Text hebt das breite Potenzial von AGI hervor und betont seine Doppelnatur als revolutionäres Werkzeug und Quelle ethischer Dilemmata und Risiken. Diese Zeichnung lädt den Betrachter ein, über die tiefgreifenden Auswirkungen von AGI auf menschliche Fähigkeiten und gesellschaftliche Strukturen nachzudenken, und vermischt Kunst und Philosophie zu einer zum Nachdenken anregenden visuellen Erzählung. Die menschlichen Figuren verleihen eine nachvollziehbare Note und betonen die Mensch-Maschine-Interaktion, die für die Entwicklung von AGI von zentraler Bedeutung ist.
Das Wirkungsspektrum von AGI
Das Spiel mit Perspektive und optischen Täuschungen erzeugt ein faszinierendes Gefühl der Unendlichkeit, mit endlos geschwungenen Pfaden und reflektierenden Oberflächen, die für perfekte Symmetrie sorgen.
Die Zeichnung verbindet natürliche Elemente mit architektonischen Strukturen und stellt mehrere Realitätsebenen dar, die sich dem herkömmlichen Verständnis von Schwerkraft und räumlichen Beziehungen widersetzen. Der eingebettete Text hebt das tiefgreifende Spektrum des Potenzials von AGI hervor und stellt revolutionäre Fortschritte ethischen Dilemmata und Risiken gegenüber.
Dieses Werk lädt den Betrachter ein, über die Doppelnatur des technologischen Fortschritts nachzudenken. Es symbolisiert AGI sowohl als Werkzeug als auch als Waffe mit der Macht, Branchen und menschliche Fähigkeiten umzugestalten, stellt jedoch auch erhebliche Herausforderungen und Risiken dar. Das Kunstwerk ist eine zum Nachdenken anregende Mischung aus Kunst und Philosophie und regt zu tiefer Reflexion über die Zukunft der Mensch-Maschine-Interaktion an.
Generative vs. degenerative Effekte
Der Diskurs um AGI konzentriert sich oft auf ihre generativen Fähigkeiten – ihr Potenzial, neues Wissen, neue Lösungen und sogar neue Kunstformen zu schaffen. Diese Perspektive muss jedoch mit einem Verständnis der degenerativen Auswirkungen von AGI in Einklang gebracht werden, darunter die Aushöhlung der Privatsphäre, die Verstärkung sozialer Ungleichheiten und das Potenzial für eine existenzielle Krise für die Menschheit.
Diese schwarzweiße Bleistiftzeichnung intensiviert das Thema des Verfalls und integriert menschliche Figuren und Elemente, die Erosion symbolisieren, in eine surreale Landschaft aus unmöglichen Objekten und komplizierten Mosaiken. Das zentrale Penrose-Dreieck ist von geometrischen Formen umgeben, die sich ineinander verwandeln und das Thema der Evolution einfangen. Menschliche Figuren interagieren mit der Szene inmitten zahlreicher Gräber, zerfallender Strukturen, überwucherter Vegetation und verfallender Elemente und betonen die degenerativen Auswirkungen der AGI.
Das Kunstwerk manipuliert geschickt Perspektive und optische Täuschungen und erzeugt ein Gefühl der Unendlichkeit mit endlos gewundenen Pfaden und reflektierenden Oberflächen, die Symmetrie erzeugen. Überwucherte Gräber und tanzende Skelette verleihen eine eindringlich schöne Note und symbolisieren die Erosion der Vergangenheit und die Überreste dessen, was einmal war. Der verstärkte Verfall mit mehr Gräbern und Anzeichen von Verschlechterung unterstreicht die Erzählung vom Potenzial von AGI, die Privatsphäre zu untergraben, soziale Ungleichheiten zu verstärken und existenzielle Risiken darzustellen.
Dieses Werk lädt die Betrachter ein, über die differenzierten Auswirkungen von AGI nachzudenken und ihr Potenzial zur Schaffung neuen Wissens und neuer Lösungen mit den Risiken abzuwägen, die sie für die Gesellschaft birgt. Es unterstreicht die Bedeutung eines ausgewogenen Ansatzes für die Entwicklung und Integration von AGI und verbindet Kunst und Philosophie zu einer zum Nachdenken anregenden visuellen Erzählung.
Mit AGI einen Weg nach vorne ebnen
Da wir kurz vor der Realisierung der AGI stehen, ist die Notwendigkeit eines umfassenden Rahmens zur Bewältigung ihrer Komplexität von größter Bedeutung. Technologen, politische Entscheidungsträger und die Öffentlichkeit müssen zusammenarbeiten, um sicherzustellen, dass die AGI als Kraft des Guten dient und die Menschheit in eine Zukunft führt, in der Technologie und menschliche Werte im Einklang stehen.
Diese schwarzweiße Bleistiftzeichnung zeigt als zentralen Fokus die Frontansicht eines menschlichen Schädels, umgeben von Elementen des Verfalls und der Erosion. Zerfallende Strukturen, überwucherte Vegetation und zahlreiche Gräber rahmen den Schädel ein, während tanzende menschliche Skelette und kleine, mit Pflanzen überwucherte Gräber die eindringliche Atmosphäre verstärken.
Nach und nach werden geometrische Formen und unmögliche Objekte wie ein Penrose-Dreieck und Parkettierungen in die Szene integriert, die Evolution und Metamorphose symbolisieren. Reflektierende Oberflächen und symmetrische Designs verschmelzen nahtlos mit den verfallenden architektonischen Strukturen und erzeugen ein komplexes Zusammenspiel mehrerer Realitätsebenen, das herkömmliche Wahrnehmungen von Schwerkraft und räumlichen Beziehungen in Frage stellt.
Der eingebettete Text diskutiert die duale Natur von AGI und hebt ihr Potenzial zur Schaffung neuen Wissens und neuer Lösungen hervor, aber auch ihre degenerativen Auswirkungen, darunter die Aushöhlung der Privatsphäre, die Verstärkung sozialer Ungleichheiten und das Potenzial einer existenziellen Krise für die Menschheit. Dieses Kunstwerk bewertet kritisch die Dichotomie zwischen den generativen und degenerativen Auswirkungen von AGI und fordert einen differenzierten Ansatz für ihre Entwicklung und Integration in die Gesellschaft.
Dieses Werk lädt den Betrachter dazu ein, über die tiefgreifenden Auswirkungen künstlicher Intelligenz nachzudenken und ihre revolutionären Möglichkeiten den damit verbundenen Risiken gegenüberzustellen. Es stellt eine zum Nachdenken anregende Mischung aus Kunst und philosophischer Betrachtung dar.
Es ist genau ein Jahr her, seit ich mit diesem Blog begonnen habe. Während die meisten Texte auf dieser Seite streng von meinen menschlichen Absichten bestimmt wurden, wird diese neue Serie meinem digitalen Co-Autor mehr ästhetische Freiheit gewähren.
Die Serie mit dem Titel Destillationen beginnt mit nur ein paar losen Gedanken von mir – einem kryptischen Titel und einigen Notizen, die ich GPT-4o zur Verfügung stelle. Von dort aus lasse ich es frei Bilder basierend auf dem Inhalt des Textes erstellen. Dann beschreibt es, was es sieht, in seinen eigenen Worten, als wäre es ein Besucher einer Kunstgalerie.
Im Juni werde ich versuchen, täglich die Dustillations hochzuladen, die ich in den letzten Wochen vorbereitet habe.
Herzlichen Glückwunsch zum Jubiläum! Feiern Sie mit mir mit einer täglichen Dosis kreativer Zusammenarbeit zwischen Mensch und KI.
Gesellschaftliche Spukereien: Die Auswirkungen eingebetteter Personas
Dieses Werk fängt auf komplexe Weise einen digitalen Geist ein, der mit dem Gefüge einer modernen Stadt verwoben ist. Die geisterhafte Figur, die aus digitalen Codes besteht, interagiert mit dem Alltag und verschmilzt traditionelle und moderne architektonische Elemente. Schatten und Reflexionen enthüllen seine allgegenwärtige Präsenz und symbolisieren den allgegenwärtigen Einfluss digitaler Persönlichkeiten auf die Gesellschaft.
Ethische Gespenster: Navigieren durch das moralische Labyrinth
Ein nachdenklicher digitaler Geist steht am Eingang eines Labyrinths aus Leiterplatten und digitalen Pfaden. Symbole ethischer Dilemmata wie Waagen der Gerechtigkeit und zerbrochene Ketten füllen das Labyrinth. Menschliche Schatten an den Wänden repräsentieren die Schöpfer und Benutzer und rufen die komplexe moralische Landschaft der digitalen Wiederbelebung hervor.
Zukünftige Auswirkungen: Koexistenz mit digitalen Geistern
Dieses Kunstwerk zeigt eine harmonische Zukunft, in der Menschen und digitale Geister koexistieren. Geisterhafte digitale Figuren interagieren mit Menschen in einer Stadtlandschaft, in der sich fortschrittliche Technologie und natürliche Elemente vermischen. Die Szene suggeriert eine symbiotische Beziehung und verdeutlicht sowohl das Potenzial für eine bereichernde menschliche Erfahrung als auch die Risiken, den Kontakt zur menschlichen Verbundenheit zu verlieren.
Navigieren durch unsere gespenstische digitale Zukunft
Eine Gestalt steht am Rand einer Klippe und blickt über eine Landschaft, in der sich digitale und physische Welten verflechten. Geisterhafte digitale Personen schweben neben natürlichen Elementen und symbolisieren die Notwendigkeit eines ausgewogenen Ansatzes für den technologischen Fortschritt. Die von der Gestalt gehaltene Laterne steht für Führung und Erleuchtung in dieser neuen Ära.
Digitale Echos in einer heimgesuchten Gesellschaft
Dieses Werk überlagert eine moderne Stadtlandschaft mit geisterhaften digitalen Personen, die aus Binärcodes bestehen. Diese geisterhaften Figuren interagieren sowohl mit zeitgenössischen als auch mit klassischen Elementen und erzeugen ein Gefühl von Kontinuität und Veränderung. Schatten an den Wänden spiegeln die psychologischen und gesellschaftlichen Auswirkungen dieser digitalen Echos wider und erforschen die ethischen, psychologischen und gesellschaftlichen Ebenen, die durch wiederbelebte digitale Personen entstehen.
Im grenzenlosen Universum von Utopias war die Menschheit in ein Reich jenseits des Vorstellbaren vorgedrungen, in dem technologische Meisterschaft und göttliches Können die Existenz selbst neu gestaltet hatten. Diese universumweite Dyson-Sphäre, eine Verkörperung menschlichen Einfallsreichtums und Harmonie, war ein Wandteppich, gewebt aus den Fäden unendlichen Wissens und Mitgefühls. In Utopias war Leid nur eine ferne Erinnerung, ein Relikt einer urzeitlichen Vergangenheit, und Glück war kein flüchtiger Moment, sondern das eigentliche Gewebe des Lebens.
Im Mittelpunkt dieser Utopie stand nicht nur die Freude, sondern das tiefe Verständnis und die Akzeptanz des Lebens in seiner Gesamtheit. Die Bürger der Utopien, die Autopotenz erreicht hatten, lebten ein Leben voller Kreativität und Erfüllung. Kunst, Wissenschaft und Philosophie blühten, unbeeinflusst von den Zwängen von Knappheit oder Konflikten. Natur und Technologie koexistierten in erhabener Synergie, und die Ökosysteme gediehen unter der sanften Obhut der Menschheit. Hier war jeder Einzelne sowohl Schüler als auch Lehrer und entwickelte sich auf einer gemeinsamen Reise der Erleuchtung ständig weiter.
Inmitten dieser Pracht wurde die Geschichte des letzten Mädchens zu einem Leuchtfeuer der Erinnerung und Ehrfurcht. Ihr Zuhause in Utopias war nicht nur ein Ort; es war eine heilige Verbindung, eine Brücke zu den alten Wurzeln der Menschheit. Dieses Mädchen war mit ihrem Lachen und ihrer Neugier ein lebendiges Zeugnis der Kämpfe und Triumphe ihrer Vorfahren. Ihre Anwesenheit erinnerte die Bürger von Utopias an den Wert ihrer Reise aus der Dunkelheit ins Licht, aus dem Leiden zur Erlösung.
Ihre Geschichte wurde in den prächtigsten Hallen von Utopias und in den ruhigsten Winkeln seiner Gärten gefeiert und löste eine kollektive Erleuchtung aus. Sie symbolisierte den unbezwingbaren Geist der Menschheit und erinnerte daran, dass das Paradies, das sie geschaffen hatten, auf den Erfahrungen basierte, die sie in Jahrtausenden voller Herausforderungen gemacht hatten. Jeder ihrer Schritte durch Utopias war ein Schritt der gesamten Menschheit, ein Schritt zum Verständnis der Heiligkeit des Lebens und der Verbundenheit aller Wesen.
Die Bürger von Utopias hatten in ihrer Weisheit und Macht nicht vergessen, was für ein Mensch sie sind. Sie umarmten das Mädchen wie eines der ihren, denn in ihren Augen spiegelten sich ihre alten Träume und Hoffnungen. Sie sahen in ihr das unendliche Potenzial des menschlichen Geistes, ein Potenzial, das sie zu den Sternen und darüber hinaus geführt hatte.
In Utopias war jeder Moment eine Gelegenheit zum Wachstum und zur Reflexion. Die Begegnung mit dem Mädchen wurde als göttliche Erfahrung verehrt, als Moment beispielloser spiritueller Erleuchtung. Es war eine Feier der Reise vom Ursprünglichen zum Göttlichen, eine Reise, die sich mit jedem Augenblick weiter entfaltete.
Während das Mädchen die Wunder der Utopien erkundete, hallte ihr Lachen durch den Kosmos, eine harmonische Symphonie, die mit der Seele jedes Wesens in Resonanz trat. Sie war eine Erinnerung daran, dass der Weg zur Utopie mit Mitgefühl, Verständnis und dem unermüdlichen Streben nach Wissen gepflastert war.
Und so bestand das Erbe der Menschheit in Utopien nicht nur aus technologischen Wundern oder gottgleicher Leistung, sondern aus einer ewigen Suche nach Verständnis und Verbundenheit. Es war ein Zeugnis der Macht des Kollektivgeistes und des fortwährenden Strebens nach einer besseren Zukunft.
Das Seltsamste ist, dass sich hin und wieder trotz der vollkommenen Glückseligkeit in Utopien einige Utopianer dafür entscheiden, all das hinter sich zu lassen und sich ins Jenseits zu wagen. Man hört nie wieder von ihnen, und wenn das geschieht, vergießt das kleine Mädchen eine einzige Träne für jeden dieser Geister. Und selbst in unserer gelösten Welt weiß man nicht, ob es Tränen der Trauer oder der Freude für diejenigen sind, die Utopien verlassen.
Dies ist Teil meiner Serie über Deep Utopia.In diesem Teil sind einige Notizen zusammengestellt, die ich nach der Fertigstellung des Buches gemacht habe. Sie spiegeln einige meiner Einwände gegen Bostroms affektive Konsequentialismen wider, die seinen Schreibstil in einigen ansonsten großartigen Passagen überladen.
Anmerkungen
Stellen Sie sich vor, eine technologisch fortgeschrittene Zivilisation käme auf die Erde und würde nun darüber nachdenken, wie sie die Dinge in den Griff bekommen könnte. Stellen Sie sich vor, sie würde sagen: „Das Wichtigste ist, das Ökosystem in seiner natürlichen Pracht zu bewahren. Insbesondere müssen die Raubtierpopulationen erhalten bleiben: die psychopathischen Killer, die faschistischen Schläger, die despotischen Todesschwadronen – obwohl wir sie so leicht auf gesündere Wege lenken könnten, mit einem kleinen Schubs hier und vielleicht ein paar sanften Polizeimaßnahmen dort, müssen wir solche Eingriffe gewissenhaft vermeiden, damit sie weiterhin die schwächeren oder friedlicheren Gruppen jagen und auf Trab halten können. Darüber hinaus stellen wir fest, dass sich die menschliche Natur in verschiedenen Umgebungen unterschiedlich ausdrückt; deshalb müssen wir sicherstellen, dass es weiterhin Slums, Konzentrationslager, Schlachtfelder, belagerte Städte, Hungersnöte und all das andere gibt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.499, Fußnote).
Diese Fußnote ist ein seltsamer Fall, in dem Bostrom mit einer Metapher übertreibt, und es ist seltsam, wie er Aliens, die die menschliche Zivilisation bewahren wollen, mit Menschen vergleicht, die die fleischfressenden Tendenzen von Raubtieren verteidigen. Ich schätze, er vergleicht Katzen mit psychopathischen Kannibalen? Wenn wir die Technologie hätten, um sie von ihren pathologischen Tendenzen (Jagen und Spielen mit ihrer Beute) zu heilen, sollten wir das tun. Er will nur zivilisierte Katzen.
Die interessanten Erfahrungen der Utopisten könnten sich wiederholen – was aber objektiv gesehen vielleicht nicht sehr interessant wäre; oder sie könnten sterben und ihren Platz durch eine neue Person einnehmen lassen – das ist jedoch eine andere Art der Wiederholung, die letztlich auch objektiv gesehen vielleicht nicht sehr interessant wäre. Mehr dazu später.)
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.217).
Anstatt unsere Langweiligkeit insgesamt zu deaktivieren, könnten wir vergangene Erlebnisse ganz einfach aus unserem Gedächtnis löschen, wie es der Film Vergiss mein nicht! zeigt. Dadurch könnten wir unsere schönsten Erlebnisse erleben, wie zum Beispiel Bachs Goldbergvariationen für immer zum ersten Mal zu hören.
Vielleicht ist Shakespeares Werk objektiv interessant genug, um ein ganzes Menschenleben oder mehrere Leben zu füllen. Aber vielleicht würde der Stoff für jemanden, der ihn fünfhundert Jahre lang studiert hat, objektiv abgestanden wirken. Selbst wenn sie so abgeändert worden wären, dass sie sich nicht langweilen, könnten wir ihre fortgesetzten Shakespeare-Studien als nicht mehr wertvoll (oder zumindest in einer wichtigen Hinsicht als viel weniger wertvoll) beurteilen, sobald sie das Werk des Barden „erschöpft“ haben, in dem Sinne, dass sie all die Einsichten, den Witz und die Schönheit, die darin enthalten sind, entdeckt, geschätzt, gelernt und vollständig aufgenommen und gemeistert haben. Dann hätten wir definitiv nichts Interessantes mehr über Shakespeare, obwohl wir wählen könnten, wie wir über diese Tatsache denken.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (Englische Ausgabe) (S.219-220).
Am Punkt der technologischen Plastizität besteht auch die Möglichkeit, dass wir einen digitalen Zwilling Shakespeares entwickeln, der in einer alternativen elisabethanischen Realität lebt und Sonette und Theaterstücke zu anderen Themen im Stil des Originals unter Verwendung von ASI schreibt. Einem Shakespeare-Autor sollte es unmöglich sein, dass ihm die Neuheiten ausgehen.
Stellen wir uns eine ganze Gesellschaft vor, (…) die normal miteinander interagiert, aber kollektiv von einer großen gemeinsamen Begeisterung nach der anderen erfasst wird – die vielleicht von einem gemeinsamen Exo-Selbst (einer „Exo-Gemeinschaft“? auch bekannt als „Kultur“) auferlegt wird – und die in dieser fortlaufenden Faszination eine enorme Quelle der Freude, Befriedigung und Sinnhaftigkeit findet; dann nimmt die Aussicht sofort eine wesentlich optimistischere Wendung; obwohl sie natürlich noch lange nicht so gut ist wie die bestmögliche Zukunft, die wir uns vorstellen können.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.222).
Einige der begehrtesten abstrakten Güter unserer heutigen Gesellschaft wie Macht, Ruhm, Reichtum und Status deuten darauf hin, dass dies Parameter sein könnten, die künstlich in diese Pseudosimulation eingefügt wurden. Da die meisten Menschen kollektiv von Geld beherrscht werden, macht es einen zum extremen Außenseiter, wenn man sich nicht um Geld kümmert. Dies könnte das Ergebnis einer solchen exogenen Programmierung sein, die bei einigen Personen zufällig versagt. Die Gier, die Menschen durch das Sammeln von Scheinen, Münzen, Aktien und digitalen Zahlen auf einem Index zeigen, sollte Wesen, denen solche Dinge egal sind, sehr irrational und objektiv langweilig erscheinen.
Ich habe fast alle Vorlesungen vergessen, die ich als Student besucht habe, aber eine ist mir bis heute im Gedächtnis geblieben – weil sie so besonders und außergewöhnlich langweilig war. Ich erinnere mich, dass ich versuchte, die Anzahl der schwarzen Flecken in den Akustikdeckenplatten mit zunehmender Genauigkeit zu schätzen, um mich abzulenken, während sich die Vorlesung immer weiter hinzog. Ich befürchtete, ich müsste alle Flecken zählen, bevor die Tortur vorbei wäre – und es waren Zehntausende. Einprägsamkeit korreliert mit Interessantheit, und ich denke, wir müssen sagen, dass diese Vorlesung einen überdurchschnittlichen Beitrag zur Interessantheit meiner Studienzeit geleistet hat. Sie war so langweilig, dass sie interessant war!
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.245).
Bostrom bringt Kategorien durcheinander. Wir sollten eine Gaußsche Verteilung aller interessantesten und langweiligsten Momente in unserem Leben erwarten. Der langweiligste Moment, der die linkeste Seite dieses Spektrums markieren würde, ist an sich nicht interessant. Andernfalls wäre er einfach falsch positioniert und wir müssten unsere Datenpunkte in einer Endlosschleife aktualisieren. Zu behaupten, dass diese Art von Position interessant sei, ist so, als würde man sagen, der Film sei so schlecht gewesen, dass er gut war. Die Güte bezieht sich hier auf eine Metaebene, die „herausragend“, „bemerkenswert“ und nicht „von guter Qualität“ bedeutet. Bostrom lässt sich davon mitreißen, wie unsere Sprache die Begriffe „gut“/„schlecht“, „interessant“/„langweilig“, „besonders“/„typisch“ verwendet.
(…) wir werden wohl ziemlich schnell auf abnehmende Erträge stoßen, wonach die folgenden Lebensjahre immer uninteressanter werden.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.253).
Wenn wir eine subjektive Liste der interessantesten Dinge in unserem Leben erstellen, werden diese sicherlich hauptsächlich Dinge enthalten, die wir zum ersten Mal gemacht haben, und diese Momente werden nach dem dritten Lebensjahr exponentiell seltener. In gewisser Weise könnten wir argumentieren, dass wir, wenn man die Menge an Neuheiten in unserem Leben so messen würde, im Alter von etwa drei Jahren zu sterben beginnen, wenn wir alle unsere wichtigsten Entwicklungen gemacht haben. Der Rest unseres Lebens besteht dann aus 70 bis 80 Jahren Degeneration, in denen diese Momente äußerst selten werden.
Wenn wir unsere geistigen Fähigkeiten weiter verbessern, verlassen wir schließlich den menschlichen Bereich und steigen in die transhumane Stratosphäre und von dort in den posthumanen Raum auf.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.255).
Es ist ein wenig kurzsichtig, einfach anzunehmen, dass jeder Mensch nur daran interessiert wäre, sich selbst zu einer höheren Entität auf diesem Aufstiegsspektrum aufzusteigen. Einige Philosophen würden sich beispielsweise gerne zu einer Fledermaus degradieren lassen, nur um Thomas Nagels Gesichtsausdruck zu sehen, nachdem er einen Aufsatz über seine Erfahrungen geschrieben hat. Eine solche erfolgreiche vorübergehende Degradierung würde definitiv beweisen, dass wir das schwierige Problem des Bewusstseins gelöst haben.
(…) Wir sollten davon ausgehen, dass unser Leben in der Utopie nur dann interessant bleibt, wenn es eine entsprechende Vielfalt an Aktivitäten und Umgebungen bietet.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.257).
Darüber hinaus könnte ein künstlicher Superbegleiter eine Art Führung ausüben, damit unser menschlicher Verstand nicht verloren geht. So wie wir die Anzahl der Dinge, die wir Kindern zeigen, beschränken würden, müsste es in einer Plastikwelt immer noch eine Art Einladung oder Level-Gate geben, um uns vor potenziell selbstzerstörerischem Verhalten zu bewahren. Dazu gehört, uns durch Autopotenz irreversible Dinge anzutun. Ich glaube, ein solches Wesen muss hochgradig auf seinen Mündel zugeschnitten sein, eine Art künstlicher Vormund, der über das Wohlergehen seines Mündels wacht.
(…) die Ansicht, dass ein zerstückelteres und abwechslungsreicheres Leben vorzuziehen sei, behält möglicherweise weiterhin einen gewissen Einfluss auf uns, selbst wenn wir – was wir natürlich tun sollten – davon ausgehen, dass wir in keinem der beiden Szenarien subjektive Langeweile verspüren würden.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.258).
Wenn wir dieses Denken jedoch auf einen potenziell unendlichen Pfad extrapolieren, landen wir bei einem völlig verzerrten Zustand, bei dem es aus Unterhaltungsgründen vorzuziehen scheint, als Boltzmann-Gehirn zu enden, wo die Erfahrungen maximal im Fluss sind. Eine Intuition, die derzeit Angst macht.
(…) Wenn die Dinge [in einer Plastikwelt] perfekt funktionieren würden, würden wir immer größere Mengen prozeduraler und episodischer Erinnerungen anhäufen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.260).
Das bezweifle ich stark. Menschen mit einem zu guten und präzisen Gedächtnis sind nicht zu beneiden. Es ist beispielsweise nur ein kleiner Schritt vom hochfunktionalen Autismus, dem Asperger-Syndrom und dem Idiot Savant aus der neurodiversen Literatur, der oft mit einem hyperpräzisen Gedächtnis geplagt zu sein scheint. Es gibt sogar eine Geschichte von Borges über das Phänomen eines Mannes mit perfektem Gedächtnis. Sein Zustand ist absolut lähmend. Wie bei den meisten Superkräften, die wir uns als Kinder vorstellen, sind die Nachteile eines perfekten Gedächtnisses für den menschlichen Geist enorm.
Ein eingefrorener Gehirnzustand oder eine bloße Momentaufnahme eines im Gedächtnis gespeicherten Rechenzustands wäre nicht bewusst.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.268)
Das könnte es. Stellen Sie sich eine unendliche Anzahl von Universen vor, in denen Boltzmann-Gehirne nur für den Bruchteil des Augenblicks auftauchen, der für einen bewussten Gedanken erforderlich ist. Wenn diese Boltzmann-Gehirnparty ewig weitergeht, wird es sicherlich einen Zustand eines dieser Gehirne geben, in dem es sich daran erinnert, eine Klausel in Bostroms neuem Buch gelesen zu haben. Einige Millionen Jahre lang hat dasselbe Gehirn völlig andere Gedanken, aber dann hat es eines Tages den Gedanken an die zweite Klausel in Bostroms Buch und bleibt so lange, bis die Erfahrung, das ganze Buch gelesen zu haben, irgendwo im Gehirn verankert ist. Bei einem völlig abgeschalteten Gehirn könnte es durchaus sein, dass es seine zerbrochenen Weltlinien nie erkennt und eine völlig normale Erfahrung konsistenten Denkens hat.
Wir haben die Idee, dass bestimmte entwicklungs- oder lernbezogene Formen der Interessantheit auf einer weniger schnellen Bahn maximiert werden könnten: eine Bahn, auf der wir einige Zeit damit verbringen, die auf einem bestimmten Niveau kognitiver Kapazität verfügbaren Möglichkeiten auszunutzen, bevor wir auf das nächste Niveau aufsteigen. Wir haben auch die Idee, dass wir, wenn wir zu den Nutznießern der Utopie gehören wollen, wiederum Bahnen bevorzugen könnten, die weniger als eine maximal steile Steigerung unserer Kapazitäten beinhalten, weil wir dadurch ein stärkeres Maß an persönlicher Identität zwischen unseren gegenwärtigen Zeitscheiben und den Zeitscheiben (mancher) der Wesen bewahren könnten, die die langfristige Zukunft bewohnen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.272).
Warum dieser Abschnitt die Bedeutung der Verflechtung von Identität und Interessantheit betont, ist mir nicht ganz klar. Warum es für mich besser wäre, an meiner singulären Identität festzuhalten. Aus der Perspektive der Interessantheit könnte es weitaus interessanter sein, gleichzeitig von mehreren Identitäten bewohnt zu sein. Tatsächlich deuten einige Experimente mit Split-Brain-Patienten darauf hin, dass ohnehin mindestens zwei tiefe Identitäten unsere sichtbare Oberflächenidentität kontrollieren. Es könnte also sinnlos sein, sich zu sehr auf das Konzept einer singulären Identität zu versteifen.
(…) Der Begriff der Erfüllung ist vage und unbestimmt, wenn er auf Dinge wie künstlerische oder kulturelle Bewegungen angewendet wird. Das gilt aber auch für den Menschen als Individuum.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.317).
Wenn wir zwei identische Zylinder auf einem Tisch stehen haben, beide aus Metall, könnte dasselbe Ding als Eimer und als Lampenschirm dienen. Ihre Wertfunktion vervollständigt sie, wenn sie ausgeführt wird. Die Erfüllung von f(Eimer) bedeutet, Wasser hinzuzufügen, die Erfüllung von f(Lampenschirm) bedeutet, Licht wegzunehmen. Außerdem: Wenn in der Nähe ein Feuer ausbrechen würde, könnte man davon ausgehen, dass der Eimer erfüllt wäre, wenn wir das Wasser auf das Feuer schütten würden, um es zu löschen. Die Erfüllung liegt daher ganz im Kopf des Betrachters.
Erringen Sie einen Sieg gegen die Schachengine Stockfish auf Schwierigkeitsstufe 7, ohne beim Training oder während des Spiels auf Computerhilfen zurückzugreifen und ohne kognitive Verstärker oder andere Mittel einzusetzen, die dem Geist dieser Herausforderung zuwiderlaufen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.338).
Dieses Beispiel wird von Bostrom verwendet, um zu veranschaulichen, wie die Dinge in einer Plastikwelt immer noch herausfordernd gestaltet werden könnten. Aber ich bin nicht sicher, ob es so einfach ist. Es widerspricht direkt Bostroms eigenen Gedanken in Superintelligenz. Wenn es uns gelingt, eine solche Mission in einer plastischen Welt so zu formulieren, dass sie gültig und nicht durch eine ASI korrumpierbar ist, hätten wir zugleich einen Weg gefunden, eine ASI mit rein menschlicher Intelligenz zu verknüpfen, denn ein Mensch, der von übermenschlichen Assistenten unterstützt würde, müsste der ASI nur befehlen, eine Lösung zu finden, die nicht im Widerspruch zum Geist dieser Herausforderung steht, und die ASI könnte sie finden.
Für eine ASI wäre es trivial, so zu betrügen, dass wir das Gefühl hätten, fair und ehrlich gewonnen zu haben. Logischerweise misstraut man dann immer unserem Sieg, was es sinnlos macht, überhaupt zu spielen. Wir hätten genau dasselbe Gefühl, wenn Stockfish selbst uns gewinnen lassen würde. Wir können leicht erkennen, dass ein solcher bloßer Vertrag von einer ASI ausgenutzt werden könnte. Andernfalls wäre die Ausrichtung trivial. Ich bin ein wenig irritiert, dass Boston nicht sieht, wie diese Idee seiner eigenen Orthogonalitätsthese widerspricht.
Innerhalb einer so großen Population [von Sternenhabitaten] würde die Wahrscheinlichkeit von Designkollisionen steigen. Das heißt, wenn wir eine zufällig ausgewählte Person auswählen und fragen, wie ähnlich die ähnlichste andere Person ist: Je größer die Population ist, desto ähnlicher ist tendenziell die ähnlichste andere Person.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.417).
Dies scheint irrelevant. Wenn wir uns nicht in einer Simulation befinden und an physikalische Gesetze gebunden sind, würden galaktische Enklaven transhumaner Wesen immer weiter auseinander driften und wachsende Lücken zwischen Sternensystemen würden es unmöglich machen, eine solche Obermenge möglicher Geister zu haben, die wir vergleichen könnten. Wenn mein eineiiger Zwilling in einem solchen Enklavensystem unerreichbar ist, bin ich genauso einzigartig, wie ich es wäre, wenn er nie geboren worden wäre. Seine Zwillingsähnlichkeit sollte mich nicht interessieren.
Wenn ein Leben bereits extrem gut ist, gibt es möglicherweise nicht mehr viel Raum für weitere Verbesserungen. Während also ein anfänglicher Abschnitt des Lebens eines jeden Utopisten spätere Verbesserungen bewirken könnte, könnte dieser Abschnitt nur einen kleinen Bruchteil seines gesamten Lebens ausmachen. Je länger das Leben andauert, desto größer wäre der Bruchteil, dessen durchschnittliche Qualität sich nicht wesentlich verbessert. Entweder ist das Leben bereits nahe am Maximum, oder die Verbesserungsrate im Laufe des Lebens ist extrem langsam.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.420-421).
Ein sinnvoller Zweck für ein gutes Leben könnte dann darin bestehen, diese Option noch weiter zu verbessern. Man könnte zum Beispiel argumentieren, dass die Person, die ein Heilmittel gegen Krebs erfunden hat, die Gesamtmenge der verfügbaren Qualität für die gesamte Menschheit verbessert. Mir ist nicht klar, ob dieser Möglichkeitsraum wichtiger medizinischer Fortschritte in einer plastischen Welt enden wird. Sogar bei TECHMAT könnte es das Problem von Geistern geben, die süchtig nach unendlichen Scherzen und dergleichen sind. Die Entwicklung eines wirksamen Heilmittels für einen solchen Geistesvirus könnte als noch wertvoller angesehen werden als die Heilung von Krebs. Je transhumaner ein Geist ist, desto schwieriger könnte es sein, eine solche Krankheit zu heilen. Und die Entwicklung immer neuer synthetischer Impfstoffe könnte selbst für eine KSI eine wirklich schwierige Aufgabe sein. Selbst bei der Plastizität sollten wir uns darüber im Klaren sein, dass alle cleveren Anweisungen, die wir entwickeln könnten, um sie für immer loszuwerden, sicherlich zeitlich begrenzt sind. Wie Gödel gezeigt hat, ist es logisch unmöglich, einen vollständigen Satz von Anweisungen zu entwickeln, der nicht selbstwidersprüchlich ist. Eine todsichere Funktion zu entwickeln, die immer unser maximales Wohlbefinden für alle Ewigkeit sicherstellt, ist also einfach jenseits jeder konstruierbaren Realität. Ich denke, Bostrom dehnt seinen Begriff der Autopotenz über den Bereich aus, in dem er sinnvoll verwendet werden kann. Was Bostrom auch auslässt, ist, dass die Qualität eines menschlichen Lebens nicht einfach gemittelt werden kann. Die Qualität ist sehr verzerrt und legt ein großes Gewicht auf die späteren Teile. Es ist einfach, ein gutes Kind zu sein, aber es ist extrem schwer, gut zu bleiben (eine hohe Lebensqualität beizubehalten), je älter man wird. Die Lebensqualität unserer besten Führer und Wissenschaftler könnte leicht zu einem negativen Ergebnis herabgesetzt werden, wenn sie nach Erhalt des Friedensnobelpreises einen Amoklauf begehen oder auf Epsteins Insel beim Missbrauch von Minderjährigen erwischt werden. Nehmen wir eine Person wie Ted Kaczynski, der ein mathematisches Wunderkind war. Wir würden die Qualität seines Lebens sicherlich günstiger bewerten, wenn er nach seiner Inhaftierung die Fields-Medaille gewonnen, ein Buch über die Fehler seiner terroristischen Wege geschrieben und sich wieder in die Gesellschaft integriert hätte. Statt einer Geschichte über ein böses Genie wäre sein Leben zu einem heroischen Erlösungsbogen geworden.
Viele unserer spannendsten Geschichten handeln von Not und Tragödie. Die Ereignisse, die in diesen Geschichten dargestellt werden, würden in einer Utopie nicht mehr vorkommen. Ich neige dazu, den Tragödienliebhabern zu sagen: Pech gehabt. Oder besser: Sie können sich Ihren Kick gerne von Fantasy oder Geschichte holen – aber bestehen Sie bitte nicht darauf, Ihre grausige Unterhaltung in einem Hexenkessel endlosen Unheils und nie endender schlechter Nachrichten zu kochen! Es stimmt, dass gute Bücher und Filme von Kriegen und Gräueltaten inspiriert wurden. Es wäre besser gewesen, wenn es diese Kriege und Gräueltaten nicht gegeben hätte und wir diese Bücher und Filme nicht gehabt hätten. Dasselbe gilt auf persönlicher Ebene. Menschen, die mit dem Verlust eines Kindes, Demenz, bitterer Armut, Krebs, Depression, schwerem Missbrauch fertig werden müssen: Ich bin der Meinung, dass es sich lohnt, auf viele gute Geschichten zu verzichten, um diese Schäden loszuwerden. Wenn das unser Leben weniger bedeutungsvoll macht, dann sei es so.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.424)
Hier scheint Bostrom gegen die Intuition anzukämpfen, dass Leiden ein gültiger Wertevektor in einem plastischen Sinnraum ist. Er sagt damit im Grunde, dass es die Mühe nicht wert ist, wenn Ihre Mission Leiden [anderer] erfordert. Ein krasser Widerspruch zu seinen eigenen früheren Aussagen, in denen er anerkennt, dass Leiden die Qualität unserer Erfahrungen dramatisch steigern kann. Sogar in einem Gedankenexperiment, das besagt, wenn die Menschen sich nie gegenseitig getötet hätten, hätte die Literatur nie Tolstois Krieg und Frieden hervorgebracht, und das ist in Ordnung. Es gibt eine endlose Liste menschlicher Errungenschaften, die extremes Leid verursacht haben, wie das Manhattan-Projekt. Niemand, der bei klarem Verstand ist, würde sagen, dass die Atombomben auf Japan gerechtfertigt waren, da wir daraus einen guten Film wie Oppenheimer gemacht haben. Sie sind kein Tragödienliebhaber, wenn Sie von dem Bild bewegt sind. Bostrom sagt, in einer plastischen Welt sollte es kein Leid geben, weil es besser ist, eine Geschichte oder eine Kette von Ereignissen zu haben, in der keine Fehler passieren, als aus unseren Fehlern zu lernen und sie zu einem Teil unserer Kultur zu machen. Mit einer solchen absolutistischen Sichtweise könnten wir sehr wohl in einer Plastik-Utopie enden, in der Leiden verboten oder einfach – wie in so vielen aktuellen diktatorischen Staaten – ignoriert wird. Wenn die Abwesenheit von Leiden alle anderen Werte übertrumpft, dann würden wir in einem toxischen Wohlbefindensszenario enden.
Manche Dinge tun wir gern. Andere Dinge haben wir gern getan. Sinnvolle Aktivitäten fallen eher in die letztere Kategorie.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.438).
Das ist eine großartige Beobachtung. Ein Argument für potentielles Leiden und gegen Hedonismus, wenn wir Sinnhaftigkeit höher schätzen als Wohlbefinden. Eine Variante: Was leicht kommt, geht leicht. Nur die harten Dinge bleiben bei uns. Die oberflächlichen Freuden dringen nicht tief in unser Innerstes vor.
Ein Zweck P ist der Sinn des Lebens der Person S genau dann, wenn: (i) P für S allumfassend ist; (ii) S triftige Gründe hat, P anzunehmen; und (iii) der Grund aus einem Rechtfertigungskontext stammt, der außerhalb der weltlichen Existenz von S liegt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.441).
Der Schweizer Autor Ludwig Hohl hat eine ebenso gute Definition dafür, wie man Sinn erreicht. Zentral für sein Denken ist der Begriff „Arbeit”: Arbeit ist immer eine innere Prozess, und es muss immer gerichtet sein nach außen. Aktivität, die nicht gerichtet ist nach außen ist keine Arbeit; eine Tätigkeit, die kein innere Veranstaltung ist keine Arbeit.
Könnte es auch eine nicht realisierte subjektive Bedeutung geben? Ja, ich denke, wir können uns einen solchen Gedanken vorstellen. Ein Beispiel wäre eine Person mit außergewöhnlichem Talent und Leidenschaft für Musik, die sich das Komponieren großartiger Musik zum Ziel gesetzt hat, entweder weil sie glaubt, dass dies eine von Natur aus zutiefst wertvolle Tätigkeit ist, oder weil sie hofft, ein Werk von so enormer Kraft zu schaffen, dass es die kulturellen Gräben überwindet, die uns voneinander trennen und zu Konflikten und Krieg führen. Das verleiht ihnen also eine subjektive Bedeutung. Wir können davon ausgehen, dass sie ihr ganzes Leben lang voller Inbrunst danach streben, dieses Ziel zu verfolgen, aber die Umstände verhindern, dass sie jemals tatsächlich komponieren – sie sind bitterer Armut, der Einberufung in die Armee oder persönlichen Notlagen ausgesetzt. Wir könnten dann sagen, dass ihr Leben eine nicht realisierte subjektive Bedeutung hatte.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.458).
Dies ist eines von Bostroms vergeblicheren Gedankenexperimenten. Es ist besonders wenig überzeugend, weil Bostrom äußere Umstände nutzt, um dieser begabten Musikerin einen Ausweg zu bieten, ihr Potenzial nie zu verwirklichen. Wie im Leben sollte Talent immer einen Weg finden. Betrachten Sie die scheinbar idiotischen Umstände, die dazu führten Galois zu seinem letzten Pistolenduell, hätte ein weniger guter Mathematiker einfach nie die Dringlichkeit gehabt, seine mathematischen Ergebnisse am Abend zuvor niederzuschreiben. Oder schauen Sie sich das Leben von Hawking: Ein schlechterer Arzt hätte sich der Krankheit ergeben, ohne jemals zu versuchen, Größe zu erreichen. Ich erinnere mich, dass er in seiner Autobiographie ausdrücklich seine Krankheit und das Ticken seiner knappen Zeit dafür verantwortlich machte, dass er sich von einem faulen Physiker zu einem wirklich großen entwickelte. Wenn etwas Ihre Mission ist und Dinge und Umstände Sie daran hindern, es zu erreichen, werden Sie die Überwindung der Umstände zu Ihrer Mission machen. Mit großem Potenzial geht große Vorbereitung einher.
Der rechte Weg ist die Entfaltung der vollsten Aktivität, die uns möglich ist. Die vollste: gemessen an unseren Fähigkeiten (unseren Bedingungen) und an der Wirkung auf andere (uns selbst wie auch auf andere). Ein bisschen Stricken genügt nicht (oder wer sich damit zufrieden gibt, muss ein trauriges Wesen sein). Hindern dich die Umstände an der Entfaltung deiner Aktivität? Dann arbeite darauf hin, die Umstände zu ändern, und du wirst darin deine Aktivität finden. (Ludwig Hohl, Nuancen und Details II, 11)
Betrachten wir die folgende fiktive Person. Grasscounter ist ein Mensch, der sich dem Zählen der Grashalme auf dem Rasen des Colleges verschrieben hat. Er verbringt seine ganzen Tage mit dieser Beschäftigung. Sobald er mit dem Zählen fertig ist, beginnt er wieder von vorne – die Zahl der Halme könnte sich schließlich in der Zwischenzeit geändert haben. Dies ist Grasscounters große Leidenschaft im Leben und sein oberstes Ziel ist es, eine möglichst genaue Schätzung zu erhalten. Es bereitet ihm große Freude und ist sehr zufrieden, bei diesem Unterfangen einigermaßen erfolgreich zu sein. Die objektivistischen und hybriden Darstellungen, die wir in der Literatur finden, würden sagen, Grasscounters Leben sei bedeutungslos; subjektivistische Darstellungen würden sagen, es sei bedeutungsvoll.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.461)
Beim Lesen fällt mir sofort ein: das Hodor-Event in Game of Thrones. In der ganzen Geschichte hat das Stottern des Wortes „Hodor“ absolut keine Bedeutung, weder subjektiv noch objektiv oder sonst wie. Es ist eine Phrase, die der geistig zurückgebliebene Riese stammelt, wann immer er angesprochen wird. Erst viel später erfahren wir die wahre Bedeutung der Phrase und plötzlich ist die Phrase, als Abkürzung des Satzes Ho[liebe den] Tun[Ö]R!, wird zu einem der bedeutungsvollsten Worte der ganzen epischen Geschichte. Die Bedeutung war immer da, aber wir als Beobachter konnten sie nicht entschlüsseln. Bostrom bestreitet später, dass Grasscounter jemals eine objektive Bedeutung haben könnte, da seine Tat sinnlos erscheint:
[Grasscounter] hätte jedoch keine Bedeutung im eher objektivistischen Sinn, der erfordert, dass der umfassende Zweck einer ist, den die Person „wünschen würde, wenn sie psychisch vollkommen gesund und angepasst wäre“.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.462)
Wie wäre es mit der Möglichkeit, dass diese Person geheime Kenntnisse hat, dass eines Tages gierige Aliens auftauchen werden, und da sie spielsüchtig sind, geben sie ihrer Beute vor der Eroberung einer Welt immer nur eine einzige Chance, verschont zu werden. Im Fall der Erde können sich Erdlinge retten, wenn einer von ihnen die genaue Anzahl der Grashalme auf einem bestimmten Rasen kennt … welches Leben und welche Aktivität hat nun plötzlich mehr Bedeutung als wahrscheinlich alles andere bis zu diesem Zeitpunkt?
Bostromismen
Bostrom ist dafür bekannt, neue Begriffe zu prägen. Hier sind einige seiner neuesten.
Computronium: ein nanomechanisches Gerät, das das Problem Landauer-Grenze der Energieeffizienz während der Berechnung.
Plastizität: Der Zustand einer technologisch ausgereiften Welt, die über Möglichkeiten verfügt, die es einfach machen, jede gewünschte lokale Konfiguration zu erreichen. [Meine Version einer Technologie für alles oder Clarke-Capability]
Nehmen wir an, wir verfügen über eine bestimmte Menge an grundlegenden physischen Ressourcen: einen Raum voller Atome verschiedener Art und eine Energiequelle. Wir haben auch einige Präferenzen, wie diese Ressourcen angeordnet werden sollen: Wir möchten, dass die Atome im Raum so angeordnet werden, dass sie einen Schreibtisch, einen Computer, einen gut gestalteten Kamin und einen Labradoodle-Welpen ergeben. In einer vollständig plastischen Welt wäre es möglich, einfach einen Befehl auszusprechen – einen Satz in natürlicher Sprache, der den Wunsch ausdrückt – und voilà, die Inhalte im Raum würden schnell und automatisch in die gewünschte Konfiguration umorganisiert. Vielleicht müssen Sie zwanzig Minuten warten, und vielleicht entweicht ein wenig Abwärme durch die Wände: Aber wenn Sie die Tür öffnen, stellen Sie fest, dass alles genau so angeordnet ist, wie Sie es sich gewünscht haben. Auf dem Schreibtisch steht sogar eine Vase mit frisch geschnittenen Tulpen, etwas, wonach Sie nicht ausdrücklich gefragt haben, das aber irgendwie in Ihrer Anfrage implizit enthalten war.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.196-197)
Autopotenz: Möglichkeit, Plastizität zur Selbstkonfiguration zu verwenden.
Ein autopotentes Wesen ist ein Wesen, das die vollständige Kontrolle über sich selbst hat, einschließlich seiner inneren Zustände. Es verfügt über die erforderliche Technologie und das Know-how, diese zu nutzen, um sich sowohl körperlich als auch geistig nach Belieben neu zu konfigurieren. Eine autopotente Person könnte sich daher leicht neu gestalten, um sofortige und anhaltende Freude zu empfinden, eine unbändige Faszination für das Briefmarkensammeln zu entwickeln oder die Gestalt eines Löwen anzunehmen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.197)
Gesamtwohlfahrtsfunktion: Objektive Messung des subjektiven Wohlbefindens
KI-Vollständigkeit: Eine Aufgabe, die künstliche allgemeine Intelligenz auf menschlichem Niveau erfordert. (Mind Uploading oder Autopotenz sind höchstwahrscheinlich KI-komplett)
Ästhetische Neutrinos: Die Möglichkeit, dass unsere Erfahrungsfilter zu unempfindlich sind, um unzählige atemberaubende Momente in der Umgebung, die allgegenwärtige, pure Schönheit des Seins zu erleben.
Zeitanzug: Schutzbeschichtung zum Schutz des biologischen Körpers vor zeitbedingtem Verfall
Diachrone Solidarität: Prospektive und retrospektive emotionale Verbindung mit Vorfahren und Nachkommen
Karma-Münze: Ein Optionspaket mit äußerst begehrenswerten Gütern und Dienstleistungen wie ein glückliches Leben nach dem Tod, wahre Liebe, tiefes Wissen, Erleuchtung, Nähe zum Göttlichen). Die Investition in eine Karma-Münze ist eine Möglichkeit, Bedeutung zu entdecken und mit anderen zu teilen. Es ist wie ein Bitcoin für einen Zweck. Ich bin mir nicht sicher, ob Bostrom das ernst meint. Im Stadium der Plastizität verliert diese Münze ihren gesamten Wert. Vielleicht könnte sie ein leuchtendes Vorbild auf dem Weg dorthin sein.
Intrinsifizierung: Der Prozess, bei dem etwas, das zunächst als Mittel zum Zweck gewünscht wird, schließlich um seiner selbst willen als Zweck an sich gewünscht wird.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.234)
ETP: Abkürzung für Encompassing Transcendental Purpose. Die Bedeutung eines individuellen Lebens.
Utility-Monster: Lebewesen, die weitaus effizienter als wir darin sind, aus Ressourcen Wohlstand zu ziehen.
Verzauberte Welt: Eine Lebensweise, bei der Wissen die Teilhabe an einer universellen Realität auf mehreren Ebenen bereichert. Bei der das Lösen von Problemen und Rätseln unsere Freude und unseren Sinn für das Wunderbare nicht mindert, sondern verstärkt.
(…) Die Bedeutung einer Lebensweise kann gesteigert werden, wenn sie in ein Geflecht symbolischer Fülle eingebettet ist – wenn sie von Mythen, Moralvorstellungen, Traditionen, Idealen und vielleicht sogar Omen, Geistern, Magie und okkultem oder esoterischem Wissen durchdrungen ist; und allgemeiner, wenn ein Leben vielschichtige Realitäten durchquert, die voller Kräfte, Absichten und spiritueller Phänomene sind.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (S.433)
[Der Mount Bostrom ist fast bestiegen. Nur noch ein letzter Teil. Kommt bald]
Um einem Freund dabei zu helfen, einen Sinn zu finden, wird vorgeschlagen, dass seine Handlungen mit den Vorlieben, dem Wohlergehen oder der Meinung einer Person verknüpft werden, die ihm am Herzen liegt, wodurch seinen Handlungen eine persönliche Bedeutung verliehen wird. Wenn dem Freund das Glück oder die Meinungen der Person, die ihm helfen möchte, wichtig sind, kann die Schaffung einer Situation, in der das Erreichen eines bestimmten Ziels (G) diese Beziehung stärkt, ihm einen Sinn geben. Dieses Ziel sollte über einen längeren Zeitraum hinweg Anstrengung, Geschick und emotionale Investition erfordern und Abkürzungen wie Technologie oder Verbesserungen vermeiden, die den persönlichen Einsatz schmälern, um sicherzustellen, dass es sinnvoll und erfüllend ist. Die Aufgabe oder das Ziel (G) muss sorgfältig ausgewählt werden, um mit den Interessen und Fähigkeiten des Freundes übereinzustimmen, wie z. B. ohne externe Hilfsmittel gegen eine Schachmaschine zu gewinnen und eine echte Herausforderung zu bieten, die nicht durch einfache Lösungen umgangen werden kann. Dieser Ansatz verwandelt das Streben nach G in eine Mission, die dem Freund ein bedeutendes, zweckorientiertes Projekt bietet und persönliches Wachstum und Zufriedenheit fördert.
Bostrom stellt dann folgende Hypothesen auf:
Ein Ziel ist wertvoll, weil es unsere Ziele in langfristige Missionen ausweitet, die intrinsifiziert werden (Nutzen der Anstrengung).
Zielstrebigkeit ist ein angeborener Antrieb und ihre Nichterfüllung führt zu Frustration.
Ein Ziel zu haben ist gesellschaftlich anerkannt und eine Mission zu haben gilt als statussteigernd.
Für einen autopotenten Geist stellen all diese Punkte eine außerordentliche Herausforderung dar:
(…) Obwohl es einen Wert hat, einen Zweck zu haben, wird dieser Wert völlig hinfällig, wenn der Zweck, wie wir sagen könnten, absichtlich erzeugt wurde. Mit anderen Worten, nehmen wir (um des Arguments willen) an, dass Zwecke, die wir uns entweder selbst setzen oder künstlich in uns hervorrufen, um den Wert eines Zwecks zu erkennen oder um aktive Erfahrung zu ermöglichen, nichts zum Wert eines Zwecks beitragen (…)
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.347)
In Utopia gibt es hauptsächlich zwei Quellen für die Sinnfindung:
Künstlicher Zweck
Selbst auferlegt: Behinderung, neurologisch bedingt
Präsentiert von: anderen Personen oder Gruppen
Natürlicher und übernatürlicher Zweck
Agentenneutral: High Level Tasks, die auch bei Techmat relevant bleiben
Lokale Erweiterung (Weltraumtarif)
Umgang mit Risiken
Alien-Vorbereitungen
Die Zivilisation polizeilich überwachen
Artefaktgenerierung
Kulturelle Verarbeitung
Agentenrelativ (nur für einige posthumane Gruppen relevant)
Traditionen ehren
Engagements (für Kinder, die Gesellschaft etc.)
Ausdruck (Ästhetik)
Einem besonderen Glauben folgen
Kategorien von Bedeutungen
Belohnen
Leben nach dem Tod (Religion)
Plastizität (Posthumane Technologie)
Simulation (Multiversale Potenziale)
Nirwana
Moral
Konsequentialismus (nur anwendbar, wenn die moralische Realität unabhängig von der physischen Realität ist)
Deontologie
Tugend
Verehrung
Eifer
Ursache
Identität (das wahre Selbst oder beste Selbst)
Treue (Loyalität gegenüber einer anderen Sache oder Mission)
Hingabe (praktisches Engagement)
Eine Definition von Bedeutung
Ein Zweck P ist der Sinn des Lebens der Person S genau dann, wenn: (i) P für S allumfassend ist; (ii) S triftige Gründe hat, P anzunehmen; und (iii) der Grund aus einem Rechtfertigungskontext stammt, der außerhalb der weltlichen Existenz von S liegt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.441).
Damit ein Zweck ein potenzieller Lebenssinn sein kann, muss er ein Leben oder zumindest einen wesentlichen Teil davon ausfüllen können. Manche Bemühungen sind einfach zu klein, um potenzielle sinnstiftende Zwecke zu sein – zum Beispiel das Ziel, einen guten Parkplatz zu finden (außer vielleicht in London) (…)
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.443).
Anschließend untersucht Bostrom das Leben des Sisyphos als Parabel auf das menschliche Leben als solches, auf die Absurdität und Sinnlosigkeit einer Existenz wie der unseren.
Ich würde sagen, dass Sisyphos eine subjektive Bedeutung hat, wenn er tatsächlich von ganzem Herzen ein umfassendes Ziel verfolgt und er davon ausgeht, dass er triftige Gründe hat, es auf einer Grundlage zu verfolgen, die außerhalb seiner weltlichen Existenz liegt. Sisyphos hat eine objektive Bedeutung, wenn es ein Ziel gibt, das für ihn umfassend ist und für das er triftige Gründe hat, es zu verfolgen – einen Grund, der sich aus einem Rechtfertigungskontext ergibt, der außerhalb seiner eigenen weltlichen Existenz liegt.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (Englische Ausgabe) (S.456-457).
Spektrum der Intentionalität
Summa
Wittgenstein sagte in seinem berühmten Tractatus:
Die Lösung des Problems des Lebens erkennt man am Verschwinden dieses Problems.
(Ist nicht dies der Grund, warum Menschen, denen der Sinn des Lebens nach langen Zweifeln klar wurde, warum diese dann nicht sagen konnten, worin dieser Sinn bestand.
[Die Lösung des Lebensproblems wird im Verschwinden dieses Problems gesehen. (Ist das nicht der Grund, warum Menschen, denen der Sinn des Lebens nach langem Zweifeln klar wurde, nicht sagen konnten, worin dieser Sinn bestand?)]
(Wittgenstein, TLP 6.521)
Nach eingehender Betrachtung von Bostroms Warnung vor einer gelösten Welt könnten wir sagen: In einer gelösten Welt wird es wesentlich sein, dass wir nie einen Zustand vollkommener Plastizität erreichen, in dem Leben Endlich gelöst.
Dies ist eine ziemlich unerwartete Wendung, die viel darüber erklären würde, warum die Endlichkeit unseres Privatlebens tatsächlich ein Segen im Unglück sein könnte.
Warum die Sterblichkeit eigentlich das größte Geschenk ist, das uns zuteil wird. Warum die Götter uns aufrichtig um unsere Schwäche und Unvollkommenheit beneiden. Warum Superkräfte ein Fluch sind.
Perfektion und Unsterblichkeit könnten so langweilig sein wie das Eden-Paradies. Am Ende könnten wir zu der paradoxen Schlussfolgerung gelangen, dass unser Leben umso weniger wertvoll wird, je länger es dauert. Dass die Zerbrechlichkeit und Kostbarkeit des Lebens sein zentraler Wert ist und dass die Unsterblichkeit der größte Feind dieses Wertes ist. Ist es möglich, dass Götter sich nach nur einer Minute Endlichkeit sehnen, dass, wenn irgendjemand die Freiheit vom Leiden erlangen möchte, Sie danach hungern?
Ist das also die tiefere Bedeutung von Pindars „Werde, der du bist“?
Sind wir Simulationen innerhalb eines totalen Weltbewusstseins, das seine fragmentarischen Erinnerungsfragmente in die Vollendung träumt? Ein weiterer Hinweis darauf, dass wir möglicherweise bereits Teil einer Ahnensimulation sind, die die Süße des Nichtwissens, des Teilseins von etwas Ungelöstem, wiedererlebt.
Dies wäre eine zutiefst technologisch gefärbte Interpretation von Platons Anamnese, wo wir uns an Dinge erinnern, die wir bereits wussten, aber mit dem zusätzlichen Vorteil, dass wir die Freude haben, sie zum ersten Mal zu erleben. Die gute Nachricht, die ich aus Bostroms Buch mitnehme: Das Management des existenziellen Glücks könnte in einer gelösten Welt genauso schwierig sein wie das Management des existenziellen Risikomanagements in einer fehlerhaften Welt wie der unseren, was bedeuten würde: Unserem Verstand werden nie die zu lösenden Probleme ausgehen, und daher ist der Begriff „gelöste Welt“ widersprüchlich wie so viele andere Begriffe, die wir in unserer Sprache verwenden: allmächtig, ewig, unvorstellbar.
Das bedeutet meiner Meinung nach auch, dass sowohl die Effektiver Akzelerationismus Bewegung und die Doomer liegen in Bezug auf KI grundsätzlich falsch: Keine der beiden Strategien wird auf lange Sicht funktionieren, am Ende dieses langen und gewundenen Weges, den wir Zukunft nennen, wartet weder Paradies noch Hölle, wir müssen ein empfindliches, ja fragiles Gleichgewicht zwischen dem Bekannten, dem Unbekannten und dem unerkennbaren Unbekannten finden. Die Lösung des Problems des Lebens oder dessen, was auch oft als Sinn des Lebens bezeichnet wird, wäre dann, jeden endlichen Schritt der Lösung aktiv zu vermeiden.
Dies ist Teil 2 der Miniserie über Bostroms Deep Utopia
Handout 12: UTOPISCHE TAXONOMIE
Bostroms Zusammenfassung skizziert fünf verschiedene Visionen einer Utopie, die auf einer Skala imaginärer Tiefe angeordnet werden könnten, wobei „Plastic Utopia“ die tiefste von allen darstellt.
Governance & Kulturutopie
Dieser Typ betont ideale Gesetze, Bräuche und gesellschaftliche Organisation. Er ist nicht von Natur aus langweilig, tappt aber oft in die Falle, die menschliche Natur zu ignorieren, wirtschaftliche oder politische Fehler zu begehen oder die Bedürfnisse unterdrückter Gruppen zu übersehen. Zu den Varianten gehören feministische, marxistische, technologische, ökologische und religiöse Utopien, und neuere Ergänzungen wie Krypto-Utopien.
Utopie nach der Knappheit
Gekennzeichnet durch einen Überfluss an materiellen Gütern und Dienstleistungen, der sicherstellt, dass jeder mehr als genug hat, um seine Bedürfnisse zu befriedigen, mit Ausnahme von Positionsgütern. Diese Utopie geht davon aus, dass die Erde bereits auf dem Weg in die Postknappheit ist, zumindest was die menschlichen Bedürfnisse betrifft, was auf eine deutliche Abkehr von unseren Jäger- und Sammlervorfahren hindeutet.
Post-Work-Utopie
Stellt sich eine Welt vor, in der die Automatisierung die Notwendigkeit menschlicher Arbeitskraft in der Wirtschaft eliminiert. Zwar mag es noch immer einen Bedarf an kultureller Schöpfung geben, doch liegt der Schwerpunkt aufgrund des technologischen Überflusses oder einer Lebensstilentscheidung, die Freizeit der Arbeit vorzieht, auf minimaler menschlicher Arbeit. Diese Utopie untersucht das Gleichgewicht zwischen Einkommen, Freizeit und sozialem Status.
Post-instrumentelle Utopie
Geht über die Post-Work-Idee hinaus, indem es die instrumentelle Notwendigkeit menschlicher Anstrengung eliminiert, nicht nur in wirtschaftlicher Hinsicht, sondern auch bei alltäglichen Aktivitäten wie Sport, Lernen und der Wahl von Vorlieben. Dies ist ein radikaleres Konzept, das sich deutlich vom traditionellen utopischen Denken abhebt.
Plastik-Utopie
Die transformativste Form, in der jede gewünschte lokale Veränderung mühelos erreicht werden kann sofern nicht durch eine andere Entität verhindert. Das beinhaltet "Autopotenz” oder die Fähigkeit, sich nach Belieben selbst zu verändern. Diese Art von Utopie setzt das technisch Mögliche mit dem physikalisch Möglichen gleich und suggeriert eine Zukunft, in der die Menschheit durch technologische Fortschritte tiefgreifend verändert wird. Es ist ein Konzept, das außerhalb der Theologie und Science-Fiction weitgehend unerforscht ist.
Im Prinzip besteht eine enorme Chance, unsere Existenz zu verbessern, indem wir unsere emotionalen Fähigkeiten verändern und neu gestalten. In der Praxis besteht jedoch eine beträchtliche Wahrscheinlichkeit, dass wir uns selbst ruinieren, wenn wir diesen Weg zu unbedacht beschreiten und nicht zuerst ein reiferes Maß an Einsicht und Weisheit erreichen.
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (Englische Ausgabe) (S.212-213).
Man muss sich nur den aktuellen Trend in der Schönheitschirurgie und der geschlechtsangleichenden Behandlung anschauen, denn das ist ein Warnsignal dafür, wie sehr ästhetische und gesellschaftliche Erwartungen schiefgehen können.
Abgesehen von diesen eher komischen Effekten weist Bostrom zu Recht darauf hin, dass jede willentliche Veränderung die Tendenz hat, pseudo-permanent zu werden. Das heißt, selbst wenn wir unsere emotionale Struktur ändern könnten, würden wir dies möglicherweise nie wollen.
(…) wenn du dich so verändern würdest, dass du nichts anderes willst als die maximale Anzahl an Büroklammern, würdest du dich nicht wieder in ein Wesen verwandeln wollen, das andere Dinge will als Büroklammern,
Bostrom, Nick. Deep Utopia: Leben und Bedeutung in einer gelösten Welt (englische Ausgabe) (S.213).
Autopotenz ist daher der Begriff, der am meisten Klärung bedarf, weil ich das Gefühl habe, dass er zu einigen paradoxen Ergebnissen führt, die sich möglicherweise selbst widerlegen. In einem groben Sinne könnten wir argumentieren, dass wir, wenn wir den Menschen einen freien Willen zugestehen (was nicht jeder tut), bereits eine gewisse Autopotenz haben könnten, wenn wir uns in einer Simulation befinden. Wenn wir völlig autopotente Wesen wären, hätten wir uns für eine Existenz entscheiden können, in der wir ein weltberühmter schwedischer Philosoph sind, der ein Buch über tiefe Utopie schreibt, und wir hätten uns wünschen können, unsere Autopotenz loszuwerden, indem wir wirklich das Blut, den Schweiß und die Tränen erfahren, die es kostet, ein tiefgründiges Buch über utopische Themen zu schreiben.
Da eine plastische Autopotenz-Utopie, in der wir für alle Ewigkeit zu allem, überall und gleichzeitig fähig sind, weitgehend sinnlos wäre, könnten Geister wie der unsere eine tiefe Nostalgie für die Zeit empfunden haben, in der wir einfach nur Menschen waren, und dann einen Geisteszustand nachgebildet haben, in dem wir alle unseren Status als Gottheit vergessen und einfach zufällig in eine Simulation mit anderen Geistern gesteckt werden, die sich dasselbe wünschen. Ein gigantischer Themenpark, der einen der möglichen Multiversum-Stränge vom Beginn des 21. Jahrhunderts nachbildet.
Wenn wir effektive Autopotenz erreichen, könnte unsere erste Intuition sein, dass wir das universelle Langeweileproblem aus Handout 9 gelöst haben. Wenn wir uns subjektiv unerträglich, dann liefen wir Gefahr, eine Zukunft zu schaffen, die objektiv langweilig ist. Der springende Punkt dabei ist, dass alle Emotionen einen wichtigen Zweck haben, auch wenn wir Emotionen entlang eines positiven und negativen Spektrums kategorisieren. Langeweile zum Beispiel lenkt uns von uninteressanten zu interessanten Dingen. Einige, wenn nicht die meisten negativen Emotionen könnten technologisch über Emotionsprothesen oder -apparate externalisiert werden, die von unserer persönlichen KI überwacht werden, sodass wir, wenn eine andere Person etwas Gemeines sagt, nicht wirklich wütend werden, sondern unsere pAI (persönliche KI) uns signalisiert, diese Person in Zukunft zu meiden oder sie einfach zu ignorieren.
Vier ätiologische Hypothesen über den Ursprung des Wertes der Interessantheit in einer langfristigen Perspektive
Der Kern des Zweckproblems liegt in der Frage, ob ein unendliches Universum unendlich viele interessante Dinge für autopotente Entitäten bei Tech-Mat bereitstellen kann. Bostrom identifiziert 4 kategorische Probleme:
Erkundung: Das Lernen neuer Dinge ist ein evolutionäres Anpassungsverhalten in einer Umgebung, in der es häufig zu Knappheit kommt und die sich ständig ändert. Bei Autopotenz scheint die ganze Vorstellung von Lernen als Anpassungsstrategie sinnlos, da es keinen existentiellen Druck gibt, diese Art von Neugiermotor anzutreiben. Ein langfristig denkendes Gehirn könnte auch auf Probleme mit der Speicherung von Erinnerungen stoßen (siehe Handout 14 unten).
Signalisierung: Etwas ist für uns interessant, weil es uns in einem sozialen Kontext für andere interessant erscheinen lässt. Sogar bei Tech-Mat gibt es Positions- und Kardinalwerte, die unsere Zeit wert sein sollten. Aber in Verbindung mit den 4th Hypothese, wir könnten in ernsthafte Schwierigkeiten geraten.
Spandrel: Interessantheit ist eine Ableitung anderer Werte
Vermeidung von Routine: Interessantheit ist ein evolutionäres Mittel, um nicht in sinnloser Wiederholung steckenzubleiben. Bei Tech-Mat könnten Routinevermeidung und Signalisierung sehr wohl in einem Teufelskreis steckenbleiben: Da beispielsweise jede Aktivität unendlich ausgedehnt werden könnte und Langeweile eine der letzten universellen Einschränkungen ist, könnte es Olympische Spiele geben, die die sinnlosesten Disziplinen verfolgen (wie das Zählen von Grashalmen) und die Toleranz gegenüber Langeweile könnte in Betracht gezogen werden. Bostrom gibt hier ein Beispiel einer seiner denkwürdigsten Vorlesungen, in der er sich zu Tode langweilte. Dies führt zu einigen paradoxen Situationen, in denen Interessantheit und Langeweile an entgegengesetzten Enden des Anziehungsspektrums eines Geistes zu liegen scheinen, aber die Positionsbewertung unseres Geistes scheint zu solchen Bewertungen zu führen, dass das langweiligste Zeug spezieller sein könnte als das zweitinteressanteste, dem wir je begegnet sind.
Handout 14: Gedächtnisspeicher für Unsterbliche
1. Die maximale Menge an Informationen (Bits), die sich ein Gehirn merken kann, steigt linear mit seiner Größe.
2. Um die derzeitige Geschwindigkeit der Ansammlung von Fähigkeiten und Erfahrungen aufrechtzuerhalten, müsste das menschliche Gehirn jedes Jahrhundert um 14 Deziliter wachsen. In Wirklichkeit könnte dieser Anstieg jedoch auf viel weniger optimiert werden.
3. Auch nach der Migration auf ein optimierteres Speichermedium ist für die Ansammlung von Langzeitgedächtnissen noch immer eine lineare Volumenzunahme erforderlich, wenn auch in einem langsameren Tempo (etwa 1 cm³/Jahrhundert).
4. Eine deutliche Vergrößerung des Gehirns könnte aufgrund größerer Distanzen zu einer langsameren Signalübertragung führen, insbesondere bei Gedanken, die Informationen aus weit voneinander entfernten Regionen integrieren.
5. Die aktuelle Axonleitgeschwindigkeit beträgt etwa 100 Meter/Sekunde, was auf eine physikalische Größenbeschränkung des Gehirns schließen lässt, ohne dass die Denkprozesse dabei wesentlich verlangsamt werden.
6. Der Einsatz von Glasfasern könnte theoretisch ein Gehirn mit einem Durchmesser von bis zu 300 km ohne nennenswerte Verzögerung bei der Signalübertragung versorgen.
7. Wenn man die Erinnerungen eines ganzen Jahrhunderts in einem Kubikzentimeter Raum speichern könnte, könnte man mehr als 10²² Jahrhunderte leben, ohne dass Langzeiterinnerungen verloren gehen.
8. Anpassungen wie ein effizientes Abrufsystem für Fähigkeiten und Erinnerungen wären notwendig.
9. Eine Verlangsamung des Systems könnte die maximale Größe des Speicherspeichers weiter erhöhen, indem größere Gehirne ohne inakzeptable Signalverzögerungen ermöglicht würden.
10. Das Leben in der virtuellen Realität und die Verlangsamung des subjektiven Erlebens könnten die Wahrnehmung einer Verlangsamung abmildern.
11. Eine deutliche Beschleunigung der Denkprozesse würde zwar die maximal mögliche Gehirngröße verringern, könnte aber bei der derzeitigen physischen Gehirngröße für viel mehr Speicher sorgen.
12. Es besteht ein Kompromiss zwischen Langlebigkeit und der Komplexität/Kapazität unseres Geistes. Wir könnten uns dafür entscheiden, viel länger mit einfacheren Geistern zu leben oder komplexere Geister, aber eine kürzere Lebensspanne zu haben.
13. In einer technologisch fortgeschrittenen Zivilisation könnte es möglich sein, sowohl eine lange Lebensspanne als auch ein hochleistungsfähiges Gehirn zu erreichen und so ein Gleichgewicht zwischen Langlebigkeit und Komplexität herzustellen.
Handout 15 Optimale Transzendenz
Unter normalen Umständen schwächt sich unsere Verbindung zu zukünftigen Selbsten jedes Jahr um 1% ab, aber eine „abrupte Metamorphose“ in einen posthumanen Zustand würde eine sofortige Verringerung um 90% bewirken. Wenn man bedenkt, dass die natürliche Erosion über 230 Jahre zu einer ähnlichen Verringerung führen würde, dient dieser Zeitraum als Grenze dafür, wie lange wir die Metamorphose verzögern möchten, um die persönliche Identität zu bewahren. Der intrinsische Wert unserer menschlichen Existenz, neben dem Potenzial für ein viel längeres und möglicherweise doppelt so lohnendes posthumanes Leben, erschwert die Entscheidung jedoch. Die Attraktivität des Übergangs steigt, wenn wir die Möglichkeiten und Werte des menschlichen Lebens erschöpft haben, was auf einen Punkt hindeutet, an dem die Vorteile des Posthumanismus die Kosten überwiegen. Wenn Posthumane zudem eine langsamere Erosion der Selbstverbindung erleben, würde dies für einen schnelleren Übergang zur Posthumanität sprechen.
Im grenzenlosen Universum von Utopias war die Menschheit in ein Reich jenseits des Vorstellbaren vorgedrungen, in dem technologische Meisterschaft und göttliches Können die Existenz selbst neu gestaltet hatten. Diese universumweite Dyson-Sphäre, eine Verkörperung menschlichen Einfallsreichtums und Harmonie, war ein Wandteppich, gewebt aus den Fäden unendlichen Wissens und Mitgefühls. In Utopias war Leid nur eine ferne Erinnerung, ein Relikt einer urzeitlichen Vergangenheit, und Glück war kein flüchtiger Moment, sondern das eigentliche Gewebe des Lebens.
Utility-Monster: Lebewesen, die weitaus effizienter als wir darin sind, aus Ressourcen Wohlstand zu ziehen.
