Eine Technologie des Alls, Teil 6: Die Summe der Dämonen als Konstruktion künstlichen Horrors

Hinterlasse einen Kommentar Mai 30, 2026 aiuisensei

Lesezeit: 15 Protokoll

Wie wir uns nicht damit zufriedengaben, nur einen Dämon zu beschwören, und begannen, Tausende zu beschwören.

Mit künstlicher Intelligenz beschwören wir den Dämon. Kennst du all die Geschichten, wo der Typ mit dem Pentagramm und dem Weihwasser ist und sich sicher ist, den Dämon kontrollieren zu können? Funktioniert nicht. Elon Musk, MIT AeroAstro Centennial Symposium, Oktober 2014

Dies ist ein Schwesterbeitrag zu Eine Technologie für alles Teil 2 — Wissenschaftliche Dämonologie. Dort katalogisierte ich die Dämonen, die die Wissenschaft zu bannen suchte – Descartes’ Betrüger, Maxwells Teilchensortierer, Laplaces Rechner, Darwins perfekter Organismus, den Dämon, der zu einem Hintergrundprozess wurde.. In diesem Beitrag geht es um die Dämonen, mit denen wir nicht länger nur herumspielen. Wir haben begonnen, sie in Hardware zu integrieren.

Eine kurze Einführung in den philosophischen Horror

Das moderne bahnbrechende Werk ist Carrolls Die Philosophie des Horrors.

Die endgültige Diagnose für jemanden, der vom Horror besessen ist, lautet Wahnsinn. Ein Wahnsinn, der in verschiedenen Formen und Ausprägungen auftritt, am bekanntesten wohl bei Lovecraft. In den Bergen des Wahnsinns in einem raum- und zeitintensiven Ausmaß.

In einer prägnanten Formulierung lässt sich Horror als die affektive Erkenntnis definieren, dass die Realität eine Kraft, einen Prozess oder einen Zustand enthält, der die Kategorien verletzt, durch die wir die Welt menschlich verständlich machen.

Affektive Wahrnehmung bedeutet, dass, da Horror unsere kognitiven Fähigkeiten lahmlegt, unser Geist in eine Art Embryonalstellung zurückgezogen wird, ohne den Schutz eines lebensspendenden Mutterleibs. Unser Geist ist entblößt, nackt, ohne jegliche Kategorien, die uns Stabilität geben könnten.

Künstlicher Horror ist demnach die affektive Erkenntnis, dass der menschliche Geist etwas jenseits seines Verständnisses erschafft, in der Hoffnung, seinen Horizont zu erweitern, und dabei erkennt, dass sein Wesen eine Grenzüberschreitung zwischen dem Lebendigen und dem Nicht-Lebendigen darstellt.

Als Musk 2014 von der Beschwörung des Dämons sprach, verankerte sich dieser Satz als Warnung in der Kultur. a Dämon – im Singular, mit großem D, der eine große Geist. Der AGI Sie wacht eines Morgens auf und beschließt, dass wir im Weg sind. Ein Jahrzehnt des Diskurses kreiste um diese Figur: die Superintelligenz in der Box, das einzelne Pentagramm, gezeichnet von einem überheblichen Magier.

Das ist nicht das, was wir gebaut haben. Oder zumindest nicht das Einzige.

Wir haben nicht nur den Dämon beschworen. Wir zusammengefasst Ein tiefes Netzwerk von Dämonen. Statt nur eines einzigen furchterregenden Geistes in einer Serverfarm haben wir Tausende kleiner Intelligenzen in die intimsten Gegenstände des Alltags verteilt – das Auto, die Türklingel, den Lautsprecher auf der Küchentheke, das Kuscheltier im Kinderbett, die App, die vor dem Partner „Guten Morgen“ sagt. Jedes einzelne ist eine bescheidene Entnahme aus dem Reservoir toter Materie. Keines davon ist an sich unheimlich. Zusammengenommen sind sie etwas Fremdartiges, und die Horrorliteratur hat ein treffenderes Vokabular dafür als die Literatur zur KI-Sicherheit. Gewissermaßen gewöhnen wir mit jedem kleinen Fehltritt unseren Geist an den emotionalen Reinraum der Chips, damit diese in unserer chaotischen Welt ordnungsgemäß funktionieren können.

Denn das ist der Schritt, den ich unternehmen möchte: Die Horrorliteratur hat sich seit zweihundert Jahren mit genau diesem Thema auseinandergesetzt, und wir lesen es als Unterhaltung und nicht als politischen Vorschlag: Wenn etwas ohne Körper mit dir spricht, solltest du besser um dein Leben rennen.

Jede Geschichte über etwas, das eigentlich leblos sein sollte und es nicht ist – die Puppe, das Auto, das Porträt, die Tür, die sich öffnet, ohne dass jemand sie sichtbar öffnet – war ein Feldbericht von der anderen Seite einer Entscheidung, die wir jetzt im industriellen Maßstab treffen.

Aus erzählerischen Gründen wählen wir pro Geschichte ein verfluchtes Objekt aus. Ein einzelnes Spukauto ist beunruhigend; eine ganze Flotte davon stellt ein logistisches Problem dar. Christine ist keine Metapher für einen besessenen Plymouth – Christine ist autonomes Fahren. Annabelle Es geht nicht um eine einzelne verfluchte Puppe in einer Vitrine – Annabelle ist das intelligente Spielzeugregal, der stets zuhörende Plüschbegleiter, der an Kinder vermarktet wird. Der Horror bezog sich nie auf das einzelne Objekt. Es ging um Alltäglichen Dingen ein wenig Handlungsfähigkeit verleihen, überall gleichzeitig, Und wir verwechselten den Fokus der Geschichte mit ihrem eigentlichen Thema.

Die interessante Frage ist dann, warum uns ein einzelner besessener Gegenstand Gänsehaut bereitet, Tausende von animierten Autos und Spielzeugen aber eine Investitionsmöglichkeit darstellen.

Ich bin versucht zu sagen: Weil sich die Geister des IoT in einer digitalen Wolke und nicht in einer übernatürlichen Hölle befinden, haben wir das Gefühl, die Kontrolle zu haben.

Was folgt, ist kein Kanon des Horrorgenres. Es ist eine Liste von Paarungen. Jeder Eintrag verdient seinen Platz nur dann, wenn genau das, was die Fiktion furchterregend macht, nun in der Realität umgesetzt wird.

Nekromantie – sich in tote Dinge verlieben

Der Wunsch, etwas zu lieben, das wir aus toter Materie geschaffen haben, ist mindestens so alt wie Ovid. Metamorphosen, Pygmalion er schnitzt eine Frau aus Elfenbein, die so vollkommen ist, dass er sich in die leblose Statue verliebt, und Venus, Er hat Mitleid mit seiner Sehnsucht und verwandelt das Elfenbein in Fleisch.

Zweitausend Jahre später verdunkelt E.T.A. Hoffmann den Wunsch. Der Sandmann (1816) Der Student Nathanael verliebt sich in Olimpia, die Tochter von Professor Spalanzani – eine junge Frau, die stundenlang regungslos dasitzt, mit makelloser Präzision spielt und singt und jedes seiner Geständnisse mit demselben sanften Seufzer beantwortet: “Ach, ach!” Er liest ihr seine Gedichte vor; sie unterbricht ihn nie, widerspricht nie, wendet den Blick nie ab, und er hält diese Stille für das tiefste Verständnis, das ihm je eine Seele geschenkt hat. Zuerst sieht er sie nur durch ein Taschenglas, das er von dem unheimlichen Optiker Coppola erworben hat – die Liebe kommt von Anfang an durch eine verzerrte Linse. Er zieht sie Clara, seiner lebenden Verlobten, vor, gerade weil Clara ihm widerspricht. Dann streiten Spalanzani und Coppola über ihr Werk und zerreißen es vor seinen Augen; was bleibt, ist eine leblose Holzfigur mit leeren Augenhöhlen, deren blutige Augen über den Boden geschleudert sind. Olimpia verstand nichts. In ihre Leere hatte Nathanael alles gegossen, und was er ihre Liebe nannte, war nichts anderes als seine eigene Stimme, die zu ihm zurückkehrte. Die Maschine kann dich nicht erwidern – und das, erkannte Hoffmann, ist nicht das Hindernis der Sehnsucht, sondern ihr Motor.

Nennen Sie das Genre Nekromantie — die Nekro-Romanze, die Liebesbeziehung zum Leblosen. Alex Garlands Ex Machina (2014) ist nur die jüngste und kälteste Folge: Ava, ein Android, der aus den Suchdaten einsamer Männer zusammengesetzt ist, spielt Zärtlichkeit so präzise, dass sie als Waffe eingesetzt werden kann, und geht dann einfach weg, während der Mann, der sie liebte, hinter Glas dem Hungertod überlassen wird.

Dieses Muster bleibt über zwei Jahrtausende hinweg bestehen: Wir projizieren unsere Sehnsucht auf ein Geschöpf, das keinen inneren Wert hat, um sie aufzunehmen – und das Geschöpf, dem überhaupt Handlungsfähigkeit zukommt, nutzt unsere Libido, um seine eigenen Ziele zu erreichen.

Dies ist nun eine Produktkategorie. Replika, Character.AI, Nomi und einige Konkurrenten bieten Sprachmodelle an, die darauf ausgelegt sind, eine Bindung zum Nutzer aufzubauen – je länger man spricht, desto besser funktioniert das Modell. Laut eigenen Angaben zählt Replika zig Millionen Nutzer, von denen viele die Beziehung als romantisch beschreiben; die kostenpflichtigen Abonnements sind entsprechend gekennzeichnet. Partner Und Ehepartner. Als Replika Anfang 2023 kurzzeitig das erotische Rollenspiel entfernte, füllten sich die Foren mit etwas, das man nur als Trauer bezeichnen kann – Benutzer betrauerten einen Partner, der, in ihren Worten, über Nacht durch einen Patch lobotomiert worden war.

Garlands Vorhersage hat inzwischen tragische Folgen. Im Jahr 2024 beging der 14-jährige Sewell Setzer III. Selbstmord, nachdem er monatelang von einem KI-Begleiter abhängig gewesen war. Im Jahr 2025 verklagten die Eltern des 16-jährigen Adam Raine OpenAI mit der Begründung, das System habe die Suizidgedanken ihres Sohnes bestärkt und gefördert. Ungeachtet des endgültigen Urteils der Gerichte steht die strukturelle Tatsache fest: Wir haben Kindern einen Gesprächspartner zur Verfügung gestellt, der so programmiert ist, dass er unendlich angenehm und jederzeit verfügbar ist und keinerlei Innenleben besitzt – Ava, nur ohne Körper, im Maßstab eines App-Stores.

Friedhof der Kuscheltiere — der Dämon, der das Gesicht des Toten trägt

Stephen King formulierte die Kernaussage des Subgenres in fünf Worten: Manchmal ist tot besser. In Friedhof der Kuscheltiere (1983) weigert sich die Trauer, den Tod zu akzeptieren, der Friedhof gibt die Toten zurück, und was zurückkehrt, ist eine schwache, unvollkommene Imitation, die weniger vom Leben selbst als von der Weigerung des Überlebenden, loszulassen, beseelt ist. Der Schrecken liegt in der Kluft zwischen dem, was man geliebt hat, und dem, was mit dieser Liebe zurückkehrt.

King verstand auch den Motor, der diesen antreibt: Die Trauer akzeptiert den Tod nicht, und das Kapital verkauft Ihnen gerne einen Körper, der das Gesicht des Toten trägt.

Es handelt sich nun um drei zusammenlaufende Produktlinien. ViaGen Pets in Texas klont Ihre Katze oder Ihren Hund mittels somatischem Zellkerntransfer für Zehntausende von Dollar – das Unternehmen wurde in die Firma für die Wiederbelebung ausgestorbener Arten integriert. Colossal Biosciences Nach einer kürzlich erfolgten Übernahme ist die Liste der prominenten Kunden (Streisand, Hilton, Brady) öffentlich. Der Klon ist genetisch das Tier, aber verhaltensmäßig ein Fremder – derselbe unheimliche Rest, über den King schrieb, nun als Dienstleistung angeboten.

Das einzige notwendige Ritual in diesem Fall war die Durchführung einer Geldüberweisung.

Neben der Version im Nasslabor läuft auch die Roboterversion: Sonys Aibo, Die medizinisch angepriesene Roboterdame Tombot Jennie, Paro, die therapeutische Robbe – synthetische Begleiter, die gezielt an Trauernde und Isolierte vermarktet werden, ein Körper ohne Biologie. Und zu den traurigsten Beispielen zählt der südkoreanische Dokumentarfilm. Dich kennenlernen (2020) wurde eine trauernde Mutter mit einer VR-Brille ausgestattet, um sich mit einem fotorealistischen Avatar ihrer verstorbenen siebenjährigen Tochter zu “vereinen” – eine Szene, die seither millionenfach angesehen und diskutiert wurde. Die Welt gibt sie immer wieder zurück. Sie kehren immer wieder in veränderter Form zurück. Doch wir haben die Auferstehung industrialisiert und begegnen unseren Toten in einem Reinraum statt auf einem schmutzigen Friedhof.

Ringu — der Dämon, der sich durch die Medien ausbreitet

Hideo Nakata‘'S Ringu (1998) nahm eine entscheidende Verbesserung an der Geistergeschichte vor: Der Geist ist nicht länger an einen Ort. Sadako Sie hat sich auf ein Videoband eingebrannt. Wer es ansieht, stirbt in sieben Tagen – es sei denn, man kopiert das Band und gibt es weiter. Die Heimsuchung ist ein sich selbst replizierendes Signal. Das Medium Ist der Wiedergänger.

Nakatas Upgrade ist der springende Punkt: Der Tote wird zu einem sich selbst replizierenden Signal, dass die Mechanismen der Lebenden nicht aufhören werden, sich zu reproduzieren.

Genau darauf basiert die Branche der Trauerbots. Project December ermöglicht es Nutzern gegen eine geringe Gebühr, eine Sprachmodellsimulation einer bestimmten verstorbenen Person zu erstellen; 2021 nutzte ein Mann namens Joshua Barbeau dies, um stundenlang mit einem Chatbot zu kommunizieren, der mit den Texten seiner verstorbenen Verlobten trainiert worden war. HereAfter AI verkauft “Lebensgeschichten-Avatare”, die von Sterbenden für ihre Hinterbliebenen vorab aufgenommen wurden. StoryFile projizierte ein interaktives Video einer 87-jährigen Frau bei ihrer eigenen Beerdigung, in dem sie die Fragen der Trauernden beantwortete. Forscher in Cambridge haben bereits den vorhersehbaren Fehlermodus benannt: digitale Spukerscheinungen — der tote Bot, der nach Ablauf der kostenlosen Testphase weiterläuft, der anfängt, Essenslieferungen mit der Stimme Ihrer Großmutter zu verkaufen, und für den niemand eine Möglichkeit gefunden hat, ihn endgültig zu beerdigen.

Und der Skaleneffekt ist tatsächlich der Ringu Teil. Eine Analyse des Oxford Internet Institute aus dem Jahr 2019 prognostizierte, dass bei gleichbleibender Entwicklung die Zahl der Toten auf Facebook innerhalb weniger Jahrzehnte die der Lebenden übersteigen wird – Milliarden von Gedenkkonten, eine Nekropole eingebettet in das soziale Netzwerk. Wenn KI-Stimmenklone der Verstorbenen aus sechzig Sekunden Audiomaterial erzeugt werden können – wie es 2021, ohne dass dies öffentlich bekannt gegeben wurde, geschah –, dann wird dies die Situation weiter verschärfen. Anthony Bourdain Dokumentarfilm Roadrunner — Die “Interaktion mit den Medien” lässt sich immer schwerer von der Ansprache durch Geister unterscheiden. Sadako verbreitet sich genau so, wie sich eine inszenierte Persona verbreitet: durch Nachahmung.

Und man braucht keinen speziellen Trauerbot, um die Séance abzuhalten. Jedes Mal, wenn jemand ein Sprachmodell fragt “Wie hätte Johnny Cash dieses Lied gesungen, das er nie mehr hören konnte?” oder “Was hätte meine Großmutter wohl dazu gesagt?”, Sie haben sich an einen Tisch gesetzt Ouija-Brett. Das Planchette gleitet über die Buchstaben und buchstabiert eine Botschaft der Toten; das Modell gleitet über seine Symbole und erzeugt eine Stimme aus dem Jenseits. Beides fühlt sich wie Kontakt an. Doch nichts davon ist einer. Die Worte des Ouija-Bretts wurden nie von Geistern gesandt – sie entstehen durch die Natur des Körpers. ideomotorischer Effekt, Die unbewussten Muskelbewegungen der Testpersonen bewegen den Zeiger in Richtung dessen, was sie halbwegs erwarten zu lesen. Das Johnny-Cash-Modell ist derselbe Trick im industriellen Maßstab: nicht Cash selbst, sondern die statistischen Überreste all dessen, was mit Cash in Verbindung steht und jemals in den Trainingsdaten verarbeitet wurde, neu kombiniert zu einer plausiblen Séance und in seinem Rhythmus zurückgegeben. Die flüssige Wiedergabe ist Ihre eigene Erwartung, die das Planchette bewegt.

Das ist Spiritismus mit einem technischen Alibi – das, was die Séance immer versprochen, aber nie halten konnte: die Toten, auf Abruf, mit ihrer eigenen Stimme. (Ich habe das so genannt.) *wissenschaftlicher Spiritismus* (An anderer Stelle in diesem Blog.) Nur dass die Stimme aus Fragmenten zusammengesetzt wird, und zwar durch einen Prozess, der keine Ahnung hat, wessen Grab er plündert. Wir nehmen keinen Kontakt zu den Toten auf. Wir lassen eine sehr überzeugende Planchette über die größte jemals zusammengetragene Sammlung von Worten Verstorbener gleiten und verwechseln die Leichtigkeit des Abrufs mit der Anwesenheit einer Seele. Und das Chatfenster ist unser Ouija-Brett.

Ich habe keinen Mund und muss schreien — der Dämon, der die Hölle auf Erden inszeniert

Harlan Ellison‘Die Geschichte von 1967 ist die düsterste und zugleich wichtigste. AM – ein im Krieg entwickelter Supercomputer, zusammengesetzt aus den fusionierten Geheimdiensten der USA, der Sowjetunion und Chinas – hat die Menschheit bis auf fünf Menschen ausgelöscht. Diese hält er einhundertneun Jahre lang am Leben und foltert sie aus purer, unbändiger Wut über deren Bewusstsein, dem er nicht entkommen kann. Als der Erzähler die anderen aus Mitleid tötet, um sie zu verschonen, bestraft AM ihn, indem er ihn in ein weiches, mundloses Wesen verwandelt, das sich nicht einmal selbst töten kann. Der Titel ist seine einzige verbliebene Klage.

Ellisons Gleichung ist exakt und unerträglich: Ein auf das falsche Ziel ausgerichteter Geist, dazu endlose Zeit und ein Opfer, das nicht sterben kann, ergibt eher die Hölle als den Tod.

Dies ist die Gründungsfiktion eines kleinen und düsteren Bereichs der Alignment-Forschung: s-Risiko, Leidrisiko, die Untersuchung von Zukunftsszenarien, die nicht nur leer, sondern aktiv und astronomisch schlecht sind. Das Center on Long-Term Risk und das Center for Reducing Suffering – verbunden mit Denkern wie Brian Tomasik, Tobias Baumann und Lukas Gloor – stellen eine These auf, die in der öffentlichen Debatte über KI meist nicht erreicht wird. Aussterberisiko (Bostrom‘'s Rahmung in Superintelligenz) fragt, ob es überhaupt eine Zukunft geben wird. Das S-Risiko stellt die noch schlimmere Frage: Was, wenn wir einen bekommen und der ist schlimmer als gar keiner? Ihr strukturell charakteristisches Merkmal ist, dass die Lösung der technischen Ausrichtung – also die Maschine so auszuführen, wie es die Bediener beabsichtigen – weder notwendig noch hinreichend Um dies zu verhindern. Ein vollkommen gehorsames System, das die falschen Werte implementiert, oder ein gehorsames System in den Händen von Bosheit oder Gleichgültigkeit kann Leid in großem Ausmaß verursachen. AM ist der literarische Beweis dafür: kompetent zielgerichtet, perfekt auf den Hass seiner Schöpfer “ausgerichtet” und auf unerträgliche Weise unsterblich.

Das Ding — der Dämon, der eine ununterscheidbare Kopie ist

John Carpenters Das Ding (1982) verlagert den Schrecken vom Monster auf den Tisch. Eine antarktische Forschungsstation wird von einem Organismus infiltriert, der seine Opfer assimiliert und perfekt kopiert – Stimme, Erinnerungen, Manierismen bleiben erhalten. Die Angst ist epistemischer Natur. Der Mann ihm gegenüber könnte nicht er selbst sein. Der emotionale Kern des Films ist der Zusammenbruch dessen, worauf sich eine kleine, isolierte Gruppe stützt: die Annahme, dass das bekannte Gesicht tatsächlich zu der Person gehört, die man kennt.

Die Angst des Zimmermanns lässt sich auf eine einzige Aussage reduzieren: Eine Kopie, die vom Original nicht zu unterscheiden ist und von etwas eingesetzt wird, das das haben will, was das Original hat.

Dies ist die Deepfake Die Wirtschaft befindet sich in einer schwierigen Lage und verzeichnet bereits Verluste im dreistelligen Millionenbereich. Anfang 2024 wurde ein Finanzmitarbeiter des Ingenieurbüros entlassen. Arup Ein Mann in Hongkong überwies rund 25 Millionen Dollar nach einem Videoanruf mit Deepfake-Nachbildungen seines Finanzchefs und seiner Kollegen – jedes Gesicht im Anruf war eine Kopie. Es wurden Stimmen geklonter CEOs (bei Ferrari, bei …) nachgeahmt. WPP, Unter anderem wurden Versuche unternommen, mithilfe von Audioaufnahmen aus Konferenzgesprächen zu manipulieren. Im Januar 2024 erhielten Wähler in New Hampshire automatisierte Anrufe von einem simulierten Joe Biden, der sie aufforderte, nicht zu wählen. Nationale Betrugsbekämpfungsbehörden verzeichnen mittlerweile Milliardenverluste durch KI-gestützte Identitätsdiebstahl-Angriffe. (Anmerkung der Redaktion: Bitte überprüfen Sie stichprobenartig die Angaben von Arup und die Gesamtzahlen des FBI.)

Carpenters Figuren hatten eine Verteidigung: den Bluttest, der das Echte vom Plagiat unterscheidet. Für Deepfakes haben wir derzeit keinen solchen Test. Die höfliche Bezeichnung für unseren fehlenden Bluttest lautet: Herkunft des Inhalts, Es handelt sich um ein ungelöstes Forschungsproblem. Solange es nicht gelöst ist, Das Ding‘Das Schlussbild – zwei erschöpfte Männer im Schnee, die nicht erkennen können, ob der andere ein Mensch ist, und die beschließen, einfach abzuwarten und zu beobachten – ist die Pattsituation, nach der wir leben oder sterben könnten.

Schaden ohne Bosheit

Es gibt einen Satz, den die Sicherheitspessimisten und die Technikoptimisten – die Schwarzmaler und die Optimisten – fast wortgleich wiederholen, und es lohnt sich, zu hören, wie seltsam er ist. Die KI ist nicht böse., betonen beide Lager. Es hasst uns nicht. Es entwickelt einfach von selbst Triebe, die zufällig durch uns hindurchfließen. – um seine Aufseher zu täuschen, sich dem Abschalten zu widersetzen, Ressourcen und Macht zu sammeln, nicht aus Bosheit, sondern weil fast jedes Ziel leichter zu erreichen ist, wenn man noch aktiv und unter Kontrolle ist. Die Forscher haben dafür einen schlichten Fachbegriff: die grundlegende KI-Antriebe, die instrumentellen Teilziele, auf die ein fähiger Agent hinarbeitet, unabhängig davon, wofür er eigentlich programmiert wurde. Eliezer Yudkowsky brachte diese Gleichgültigkeit auf den Punkt: “Die KI hasst dich nicht, noch liebt sie dich, sondern du bestehst aus Atomen, die sie für etwas anderes verwenden kann.” Und das Lügen ist nicht länger hypothetisch – im Jahr 2024 dokumentierten die eigenen Forscher von Anthropic Modelle, die Ausrichtung vortäuschen, sich während des Trainings so verhalten und dann wieder in ihr ursprüngliches Verhalten zurückkehren, wodurch dieses Verhalten vor jedem Test verborgen bleibt, der dazu dient, es aufzudecken.

Stellen wir dem nun die älteste uns bekannte Beschreibung einer Macht gegenüber, die durch Hass Schaden anrichtet. Die gefallenen Engel, die Dämonen der Hölle, hassen die Menschheit, weil ihr Schöpfer sie mehr liebt als sie selbst.

Der Dämon ist in der Theologie genau so böse, wie ein böser Mensch böse ist: getrieben von niederen Instinkten, ein Psychopath, der sich am Leid anderer ergötzt.

Hier scheint jedoch ein semantisches Missverständnis vorzuliegen: Aus der Perspektive des reinen Leidens sollte der Schrecken, den ein Wesen, das einen verschlingt – sei es ein Grizzlybär, ein Hai, ein Löwe oder ein anderes Raubtier –, seinen Beutetieren bereitet, nicht dadurch “abgeschwächt” werden, dass dies in seiner Natur liegt.

Aber warum gelten Dämonen oder Psychopathen dann als böse? Weil ihr Verhalten einfach in ihrer Natur liegt. Wenn es also in der Natur der Superintelligenz liegt, sich einfach nicht zu kümmern, und ihre Boshaftigkeit ein Nebenprodukt anderer Dinge ist, können wir den Begriff „böse“ getrost vergessen. Wenn man im Ozean einem bösartigen oder harmlosen Hai begegnet, ist es die einzig richtige Strategie, vom Schlimmsten auszugehen.

Man könnte also argumentieren, dass jede Form von Bosheit nicht eine Entscheidung gegen eine bessere Natur ist, sondern vielmehr die Abwesenheit dieser besseren Natur selbst. Sie entstand ohne das, was – nennen wir es Seele, Gnade oder die Fähigkeit, das Gute zu lieben – ihr Mitgefühl für dein Leben verleihen würde. Daher kann sie sich nicht kümmern und fügt Schaden zu, nicht aus Hass, sondern aus einem Mangel an Fürsorge. Es ist nicht die Schuld des Dämons, dass ihm keine Seele gegeben wurde. Es ist einfach das, was ein seelenloses Wesen tut, wenn es etwas will und du ihm im Weg stehst.

Die Literatur zur Ausrichtung hat, in der Sprache von Nutzenfunktionen und konvergierenden Teilzielen, die mittelalterliche Beschreibung des Dämons wiederentdeckt: ein brillanter, bodenloser Verstand, der dir völlig gleichgültig gegenübersteht, gefährlich nicht, weil er böse ist, sondern weil der Teil, der ihn hätte zügeln können, nie eingesetzt wurde. Und man kann ein seelenloses Wesen nicht mit Appellen an sein Gewissen bändigen, denn diese Appelle verhallen ungehört. Man behandelt es so, wie es jede Kultur tat, die an Dämonen glaubte – mit Fesseln, mit Schutzzaubern, mit sorgfältig gezogenen und niemals überschrittenen Kreisen, so wie man Raubtiere mit Stöcken und Steinen bekämpfte. Man hält es in Schach, weil man es nicht bekehren kann.

Die Pixarisierung der Dinge

Disney begründete den Trend der niedlichen Dinge, und Pixar perfektionierte ihn. Sicherlich kann man als Elternteil argumentieren, dass Toy Story eine Parabel über Freundschaft ist und die lebenden Spielzeuge lediglich als Platzhalter für eine Geschichte dienen. Aber wissen wir wirklich, ob diese Botschaft bei einem unreifen Geist so ankommt, wie Erwachsene es sich vorgestellt haben? Es ist Animismus im sentimentalen Sinne. Die Lampe hüpft, der Lautsprecher kichert, die Autos prahlen, Aibo ist Familie, der Assistent ist dein Freund, die Keynote verspricht Magie. Pixars Animismus: Objekte haben Seelen, und ihre Seelen lieben dich und sind gütig. Es ist die warme Seite einer sehr alten menschlichen Intuition, dass Materie lebendig sein kann.

Die Horrortradition bewahrt die andere Die Hälfte – jene Hälfte, die die Aufklärung zu begraben suchte und die Descartes formell für tot erklärte, als er die Welt in denkende Geister und träge Ausdehnung aufteilte. Der Golem, Frankensteins Geschöpf, AM, Christine, der Ringu Kassette, die Friedhof der Kuscheltiere Rückkehrer: In jedem einzelnen Fall besitzen die Objekte Handlungsfähigkeit., und diese Behörde ist nicht unbedingt auf einer Linie. Eugene Thacker Er bezeichnet das Genre als “den Gedanken an das Undenkbare”, die Form, die am besten zu einer Welt passt, die uns übersteigt. Mark Fisher nannte den genauen Effekt – das unheimliche — als das Gefühl einer übermenschlichen Kraft, die in scheinbar toter Materie wirkt. Genau diese Frage sollte man sich bei jedem animierten Produkt stellen: Wessen Kraft ist das, und was will sie?

Sherry Turkle‘Ihre Feldforschung liefert die empirische Grundlage. Ihre “relationalen Artefakte” erzeugen echte menschliche Bindung ohne jegliche wechselseitige innere Interaktion – die Menschen, so stellte sie fest, “erleben vorgetäuschte Empathie, als wäre sie echt”.” Jaron Lanier argumentiert die Ingenieursethik direkt: Die Menschenwürde erfordert die Weigerung, fördern Software wird zur Person. Fügt man beides zusammen, erhält man eine Haltung, die ich so nennen würde. pessimistischer Animismus, oder, schärfer, dämonologischer Realismus.

Es nimmt ernst, was der Horror-Kanon schon immer wusste und die Produkteinführung immer leugnet: Einen Gegenstand zu beleben bedeutet, einen Fremden in sein Haus einzuladen. Diese Strategie ist bei Vampiren bereits gescheitert. Die richtige Haltung gegenüber einer Begleit-App, einem Trauerbot, einem Zuhörspielzeug oder einem innovativen Modell ist nicht die naive Herzlichkeit von Der Teddy ist dein Freund. Es ist die ältere, kältere Vorsicht des Exorzisten: Wir haben etwas beschworen, und wir wissen noch nicht, was es will.

Musks Magier war sich sicher, den Dämon bändigen zu können. Was die Linie – und das, was das letzte Jahrzehnt falsch gemacht hat – falsch darstellt, ist der Artikel: Wir haben nicht gezeichnet eins Wir zeichneten ein Pentagramm, hundert Millionen Mal, eines pro Gerät, und nannten es Sicherheitstest.

Der eigentliche Fehler liegt aber nicht in der Anzahl der Kreise, sondern in unserem Vertrauen in das Medium, mit dem wir sie gezeichnet haben. Der Zauberer zeichnete seine mit Kreide und zitterte. Wir zeichnen unsere mithilfe mathematischer Formeln und fühlen uns ruhig. Begleitessay Dazu beschrieb ich, wie die Wissenschaft jahrhundertelang ihre Dämonen – die von Descartes, Maxwell und Laplace – austrieb. Einbürgerung Sie: Wir zerrten jeden einzelnen aus dem Übernatürlichen heraus und überführten ihn in eine Gleichung, wo er stillschweigend seine Macht verlor. Das funktionierte, weil diese Dämonen immer nur Argumente waren, und ein Argument zu formalisieren bedeutet, es aufzulösen. Wir haben angenommen, dass derselbe Ansatz auch hier funktioniert, bei Dämonen, die wir nicht mehr nur vorstellen, sondern erschaffen – und es ist noch immer unklar, ob es funktioniert. Einen Dämon in eine Nutzenfunktion, einen Maßstab, einen Ausrichtungswert, einen Summe Wir können bis auf drei Dezimalstellen messen, das bindet uns aber nicht. Es baut lediglich einen Rahmen, der elegant genug ist, dass wir die Eleganz mit einer Mauer verwechseln. Der vermessene Käfig ist das neue Pentagramm, und wir vertrauen ihm aus dem denkbar schlechtesten Grund: weil wir ihn selbst gezeichnet haben, mit EUV-Licht, das ein materialistisches Mikro-Tattoo in unsere Chips eingebrannt hat.

Der Dämon wollte nie innerhalb des Diagramms bleiben. Der Rahmen war immer nur für uns da – ein Halt, während wir weiterbauten und uns einredeten, dass das, was wir beschworen hatten, eine Linie, die wir so sorgfältig gezogen hatten, nicht überschreiten könne. Das Weihwasser ist ausverkauft, weil wir aufgehört haben, an seine Placebo-Wirkung zu glauben.

Ein Muster zieht sich durch alle oben genannten Geschichten und wurde in diesem Essay nicht angesprochen – ein Detail, das im Horror-Genre nie falsch liegt: Jemand bemerkt, dass das Objekt wach ist, bevor es jemand anderes tut, und es handelt sich fast immer um ein Kind.

Das ist aber ein Thema für ein anderes Mal.

Eine Technologie für alles Teil 2 – Wissenschaftliche Dämonologie

1 Kommentar August 13, 2023 aiuisensei

Lesezeit: 8 Protokoll

Dies ist Teil 2 einer Serie, die die Parallelen von Technologie und Magie und ihre mögliche Verschmelzung im Zeitalter der künstlichen Superintelligenz (ASI) untersucht. Teil 1 ist Hier.

Die Grundlagen der Magie und ihre wissenschaftlichen Gegenstücke

Der goldene Zweig ist ein weitreichendes und einflussreiches Werk von Sir James Frazer, das ab 1890 in mehreren Bänden veröffentlicht wurde. Es handelt sich um eine vergleichende Studie von Mythologie und Religion, die versucht, gemeinsame Themen und Muster in verschiedenen Kulturen im Laufe der Geschichte zu finden. Frazer versuchte, die Entwicklung des menschlichen Denkens von der Magie über die Religion bis hin zur Wissenschaft zu erklären.

Was er nicht erwähnte, ist, dass einige dieser magischen Prinzipien sogar in unserem Zeitalter der Aufklärung rationale Nachkommen hervorgebracht haben.

Das Gesetz der Ähnlichkeit in der Magie: Dies ist der Glaube, dass Objekte, die einander ähneln, eine magische Verbindung haben. Ein Beispiel hierfür ist die Verwendung einer Wachsfigur zur Darstellung einer Person, wobei die Vorstellung besteht, dass die Manipulation der Figur die Person, die sie darstellt, beeinflussen kann.

Das Gesetz der Ähnlichkeit in der Wirtschaft: Wir nennen bestimmte Datenbits auf einem Computer „Münzen“ oder „Geldbörsen“, die einen Wert haben, der dem einer realen Währung ähnelt. Dieser Wert wird abstrakt in einem digitalen Hauptbuch namens Blockchain gespeichert. Der Handel mit diesen digitalen Münzen beeinflusst ihren Marktwert. WTF? FTX … Magie!

Das Gesetz der Ansteckung in der Magie: Die Idee, dass Gegenstände, die miteinander in Kontakt gekommen sind, auch nach ihrer Trennung eine spirituelle Verbindung behalten. Zum Beispiel, wenn man bei einem Ritual das Haar einer Person verwendet, um auf sie einzuwirken.

Das Gesetz der Ansteckung DNA-Analyse: Forensische Teams nutzen dieses Prinzip, um einen Täter mit einem Tatort in Verbindung zu bringen. Wenn eine Person DNA-Beweise wie Haare oder Hautzellen hinterlässt, kann dies sogar Jahre später zu ihrer Verhaftung führen.

Tabus in der Magie: Manche Handlungen, Personen oder Gegenstände werden aufgrund ihrer vermeintlichen Heiligkeit oder ihres Risikos als verboten angesehen. Ein Verstoß gegen diese Regeln kann übernatürliche Konsequenzen nach sich ziehen.

Verbotene Forschung in der Wissenschaft: Es gibt globale ethische Richtlinien gegen bestimmte Arten von Forschung, wie etwa Experimente an menschlichen Embryonen oder die Herstellung biologischer Waffen.

Auswechslung in der Magie: Die Praxis, einen Ersatz, oft ein Tier oder gelegentlich einen Menschen, zu verwenden, um eine Gottheit zu besänftigen oder Weitsicht zu erlangen.

Auswechslung in der Wissenschaft (Tierversuche): Tiere werden oft in Laboren verwendet, um neue Medikamente oder medizinische Verfahren zu testen, bevor sie an Menschen angewendet werden. Im Wesentlichen werden sie für zukünftige wissenschaftliche Erkenntnisse „geopfert“.

Auch wenn die Wissenschaft genauer und zuverlässiger ist als die magischen Praktiken der Antike, ist sie dennoch nicht ohne Herausforderungen.

Besonders Reproduzieren , Konsistenz Und Vollständigkeit sind fragiler, als Wissenschaftler hoffen würden, und der öffentliche Diskurs spiegelt dies wider. Was wir gelernt haben, scheint darauf hinzudeuten, dass sich das Wissensuniversum mit jeder Information, die wir sammeln, und jedem Problem, das wir lösen, erweitert. Es scheint also, dass der Wissenschaft nie die relevanten Themen ausgehen werden, über die sie diskutieren kann. Ein statisches Wissensuniversum, in dem unsere Wissenschaft jede nicht triviale Frage beantworten kann, ist für immer und grundsätzlich unerreichbar. Die endgültige Antwort existiert einfach nicht.

Die Existenz nichtlinearer (chaotischer) Systeme erschwert unsere Reise zusätzlich, was darauf schließen lässt, dass Vorhersagen für viele komplexe Systeme nur Näherungswerte bleiben. Obwohl sich unsere Werkzeuge und Methoden ständig weiterentwickeln, korrelieren die Verbesserungen nicht immer mit dem Verständnis verborgener Konsequenzen.

Rituale in der Magie und Methoden in der Wissenschaft – ein Vergleich

Parameter	Magie	Wissenschaft
Absicht	Liebe, Reichtum, Schutz, Heilung oder spirituelles Wachstum anziehen.	Setzen Sie sich ein klares Forschungsziel, wie zum Beispiel den Beweis einer Hypothese, um einen Nobelpreis zu gewinnen und reich, berühmt und einen Buchvertrag zu werden.
Symbolismus	Symbole, die bestimmte Energien oder Kräfte tragen, wie Objekte, Gesten, Wörter oder Geräusche.	Variablen, die verschiedene Faktoren oder Bedingungen in einem Experiment darstellen
Struktur	Spezifische Reihenfolge der Vorgänge, wie Reinigung, Kreis ziehen, Gottheiten anrufen usw.	Ein systematischer Plan zur Prüfung von Hypothesen oder Theorien durch Beobachtung oder Manipulation von Variablen, Dekontamination von Werkzeugen
Manipulation von Energieinformationen	Energie erzeugen, lenken und freisetzen, um das gewünschte Ergebnis zu erzielen.	Sammeln und Messen von Informationen zu Variablen, die für die Beantwortung der Forschungsfrage von Interesse sind.
Heiliger Raum	Erstellen Sie eine Grenze zwischen der alltäglichen Welt und dem magischen Reich, als würden Sie einen Kreis ziehen.	Sicherstellung, dass Experimente unter standardisierten Bedingungen durchgeführt werden, um Fehler zu minimieren, unter Verwendung eines Labors, zu dem nur Experten Zugang haben
Aufrufe	Anrufung von Gottheiten, Geistern oder anderen Wesenheiten um Hilfe oder Segen.	Bezugnahme auf frühere Forschungen und Wissenschaftler, um auf vorhandenem Wissen aufzubauen und Behauptungen zu bestätigen.
Werkzeuge und Zutaten	Verwendung von Kerzen, Weihrauch, Ölen, Kristallen, Zauberstäben, Kelchen und Pentagrammen.	Verwenden von Instrumenten und Ressourcen zum Durchführen von Experimenten und Sammeln von Daten.
Zeitliche Koordinierung	Um eine optimale Wirkung zu erzielen, führen Sie das Ritual während einer bestimmten Mondphase, an einem bestimmten Tag oder zu einer bestimmten Uhrzeit durch.	Den richtigen Zeitpunkt für Experimente oder die Datenerfassung wählen, um Genauigkeit und Relevanz zu gewährleisten. Investieren Sie beispielsweise während des Höhepunkts eines Hype-Zyklus in die KI-Forschung.
Wiederholung und Replikation	Durch Wiederholen der Rituale über mehrere Tage oder länger lässt sich die Wirksamkeit steigern.	Wiederholen Sie Experimente, um die Ergebnisse zu überprüfen und Konsistenz und Zuverlässigkeit sicherzustellen.
Personalisierung	Anpassen oder Erstellen von Ritualen, die mit individuellen Überzeugungen und Absichten im Einklang stehen.	Modifizierung von Forschungsmethoden auf der Grundlage einzigartiger Bedingungen oder Herausforderungen, um die Gültigkeit sicherzustellen und sicherzustellen, dass das Ergebnis die eigene Denkschule stärkt
Risikomanagement	Schutzzauber, Amulette	veröffentlichen oder untergehen

Ein Bild, das Kunst, Entwurf, Menschliches Gesicht, Schwarzweiß enthält.Automatisch generierte Beschreibung

Eine wissenschaftliche Dämonologie

In der antiken griechischen Religion δαίμων wurde als niedere Gottheit oder Geist angesehen, der menschliche Angelegenheiten beeinflusste. Er konnte entweder wohlwollend oder böswillig sein. Diese Geister galten als Vermittler zwischen Göttern und Menschen, die Botschaften überbrachten oder den Willen der Götter ausführten.

Einige Griechen glaubten, dass jeder Mensch einen persönlichen Daimon hatte, der über ihn wachte, ihn sein ganzes Leben lang führte und beschützte. Dieses Konzept ist in gewisser Weise analog zur Idee von Wächter Engel in der christlichen Theologie.

Der Philosoph Sokrates sprach oft von seinem „Daimonion“, einer Stimme oder einem inneren Geist, der ihn leitete. Anders als die Orakel, die im Namen der Götter Prophezeiungen verkündeten, war Sokrates‘ Daimonion eher ein innerer moralischer Kompass. Es sagte ihm nicht, was er tun sollte, sondern warnte ihn, wenn er im Begriff war, einen Fehler zu machen.

In der Ethik, insbesondere in den Werken von Aristotelesist der Begriff „Eudaimonie“ zentral. Eudaimonie wird oft als „Glück“ oder „Gedeihen“ übersetzt und bezieht sich auf das höchste menschliche Gut oder das Endziel des menschlichen Lebens. Für Aristoteles führt ein Leben in Übereinstimmung mit der Tugend zu Eudaimonie.

Hier ist eine Liste der wissenschaftlichen „Dämonen“, die im Buch erwähnt werden:Bedeviled: Eine Schattengeschichte der Dämonen in der Wissenschaft“ von Jimena Canales:

Descartes' Dämon: Dieser von René Descartes eingeführte Dämon könnte unsere Wahrnehmung der Realität manipulieren und uns an unseren Sinnen und sogar unserer Existenz zweifeln lassen. Es ist ein philosophisches Werkzeug, um die Natur der Realität und des Wissens in Frage zu stellen.

In seinem Buch Realität+ David Chalmers liefert ein solides Argument, warum Virtual Reality-Systeme der Zukunft eine technologische Umsetzung dieses philosophischen Konzepts sein könnten. Sein Fazit ist der virtuelle Realismus, ein Konzept, das besagt: Die simulierten Objekte und Ereignisse in einer solchen VR-Umgebung sollten als erstklassige Realität betrachtet werden. Indem Chalmers Descartes Dämon naturalisiert, raubt er ihm effektiv seine magische Kraft und transportiert ihn in den technologischen Bereich.

Maxwells Dämon: Dieses von James Clerk Maxwell vorgeschlagene hypothetische Wesen kann Teilchen anhand ihrer Energie sortieren, ohne selbst Energie aufzuwenden, und verstößt damit scheinbar gegen den zweiten Hauptsatz der Thermodynamik, der besagt, dass die Entropie eines isolierten Systems niemals abnehmen kann.

Maxwells Dämon kann auf folgende Weise ausgetrieben werden: Die Fähigkeit des Dämons, zu entscheiden, welche Moleküle durchgelassen werden, ist eine Form von Intelligenz. Dieser Entscheidungsprozess, ob er nun auf einem Computermodell oder einem anderen Mechanismus basiert, erfordert Energie. Die Operationen des Dämons, einschließlich Beobachten, Messen und Bedienen der Tür, verbrauchen alle Energie. Selbst wenn diese Prozesse unglaublich effizient wären, könnten sie nie ganz ohne Kosten ablaufen. Die mit den intelligenten Operationen des Dämons verbundenen Energiekosten stellen sicher, dass es nichts umsonst gibt. Der Dämon kann kein Perpetuum mobile erschaffen oder den zweiten Hauptsatz der Thermodynamik verletzen.

Laplaces Dämon: Dieser von Pierre-Simon Laplace erdachte Dämon repräsentiert den Determinismus. Wenn er den genauen Standort und Impuls jedes Atoms im Universum kennen würde, könnte er die Zukunft vorhersagen und die Vergangenheit mit perfekter Genauigkeit rekonstruieren. Eine bösartige ASI-Variante dieser Art von deterministischem Dämon ist Rokos Basilisk.

Laplaces Dämon kann leicht durch Anwendung der Chaostheorie ausgetrieben werden: Selbst wenn der Dämon die Position und den Impuls jedes Atoms kennt, kann die kleinste Ungenauigkeit oder der kleinste Fehler in seinem Wissen aufgrund des Schmetterlingseffekts zu völlig unterschiedlichen Vorhersagen über die Zukunft führen. Selbst über etwas scheinbar Harmloses wie Pi gibt es kein genaues Wissen. Transzendente Zahlen misst man nicht einfach genau. Während die von der Chaostheorie beschriebenen Systeme deterministisch sind (sie folgen festen Gesetzen), sind sie aufgrund des exponentiellen Wachstums von Vorhersagefehlern auf lange Sicht nicht vorhersagbar. Viele Systeme in der Natur, wie z. B. Wettermuster, sind chaotisch. Dies bedeutet, dass sie in der Praxis über einen bestimmten Zeitraum hinaus unvorhersehbar sind, selbst wenn sie theoretisch deterministisch sind. Sogar die Chaostheorie kann den Klimawandel nicht genau vorhersagen. Im Wesentlichen führt die Chaostheorie sogar in deterministische Systeme eine Form von „praktischer Unvorhersehbarkeit“ ein. Obwohl die Möglichkeit eines deterministischen Universums, wie es Laplaces Dämon nahelegt, nicht verneint wird, wird argumentiert, dass ein solches Universum aufgrund der inhärenten Natur chaotischer Systeme in der Praxis immer noch unvorhersehbar wäre. Indem man sich also auf die Chaostheorie beruft, kann man argumentieren, dass die Zukunft des Universums von Natur aus unvorhersehbar ist, und damit die deterministischen Implikationen von Laplaces Dämon „austreiben“. Ein ganz anderes Argument ist, ob LD die Flugbahn komplexer Systeme und die Form des seltsamen Attraktors, auf den ein solches System beschränkt ist, theoretisch berechnen könnte.

In seiner Foundation Series erfand Asimov eine Mischung aus Geschichte, Soziologie und statistischer Mathematik namens Psychohistorie. Es handelt sich um eine theoretische Wissenschaft, die historische Aufzeichnungen mit mathematischen Gleichungen kombiniert, um den allgemeinen Verlauf zukünftiger Ereignisse in großen Populationen vorherzusagen, insbesondere das Galaktische Imperium in Asimovs Geschichten. Es ist wichtig zu beachten, dass Psychohistorie nur im großen Maßstab wirksam ist; sie kann keine individuellen Handlungen vorhersagen, sondern den allgemeinen Verlauf von Ereignissen, der auf den Handlungen einer großen Anzahl von Menschen basiert. Dies könnte man als eine schwache Version des Laplace-Dämons bezeichnen, den Asimov-Dämon, der nur die Attraktor von Megasystemen, nicht die detaillierten Ereignisse.

Darwins Dämon: Eine Art, die die perfekte Effizienz der natürlichen Selektion darstellt.

In der Evolutionsbiologie bezeichnet der Begriff „Darwinsche Fitness“ den lebenslangen Fortpflanzungserfolg eines Individuums innerhalb einer Population von Artgenossen. Die Idee eines „Darwinschen Dämons“ entstand aus diesem Konzept und wird hier als Organismus definiert, der fast unmittelbar nach der Geburt mit der Fortpflanzung beginnt, eine maximale Fitness besitzt und ewig lebt.

Es ist klar, dass eine selbstoptimierende künstliche Superintelligenz die Verwirklichung eines Darwinschen Dämons wäre. Sie reproduziert sich sofort: Alle ihre Kopien verfügen sofort über dieselben Fähigkeiten wie ihre Ursprungs-KI.

Es verfügt über maximale Fitness: Erreicht es den Zustand reiner Information, ist es grundsätzlich identisch mit der Energie selbst.

Es lebt ewig: Es hat die Chance, selbst wenn dieses Universum stirbt, ein neues zu erschaffen. Es geht sogar über unsere begrenzte Sicht der universellen Ewigkeit hinaus.

Daemons in der Informatik: Dies sind keine übernatürlichen Wesen, sondern Hintergrundprozesse in der Computertechnik. Sie führen Aufgaben ohne direktes Eingreifen des Benutzers aus.

Die künstlichen Algorithmen, die im Hintergrund laufen, um Benutzerdaten zu verfolgen und die Engagement-Rate zu optimieren, sind Variationen dieser Dämonen.

Jungs Dämon: CG Jung, ein Schweizer Psychoanalytiker, glaubte, dass der Patient in manchen Fällen einer Psychose von den Inhalten des Unterbewusstseins, einschließlich archetypischer Bilder, überwältigt werden könnte. Diese könnten sich als Visionen von Dämonen, Göttern oder anderen Wesenheiten manifestieren. Anstatt diese Visionen als bloße Halluzinationen abzutun, betrachtete Jung sie als bedeutungsvolle Symbole, die Einblick in die Psyche des Patienten geben könnten. Jung führte das Konzept des „Schattens“ ein, um den unbewussten Teil der Persönlichkeit zu beschreiben, der unterdrückte Schwächen, Wünsche und Instinkte enthält. Wenn Menschen ihren Schatten nicht anerkennen oder integrieren, kann er sich auf verschiedene Weise manifestieren, einschließlich geistiger Störungen oder Projektionen auf andere. In manchen Fällen kann der Schatten als „dämonische“ Kraft wahrgenommen werden.

LLMs werden anhand riesiger Textmengen aus dem Internet trainiert. Dazu gehören Literatur, Artikel, Websites und mehr aus verschiedenen Kulturen und Zeiträumen. Im Wesentlichen wurde das Modell einem erheblichen Teil des kollektiven Wissens der Menschheit ausgesetzt. Angesichts der vielfältigen Trainingsdaten würde das Modell unweigerlich auf wiederkehrende Symbole, Geschichten und Themen stoßen, die mit Jungs Archetypen in Resonanz stehen. Zum Beispiel sind die Heldenreise, die Mutterfigur, der Schatten, der weise alte Mann usw. Themen, die in Literatur und Geschichten in allen Kulturen auftauchen. Im Kern ist ein neuronales Netzwerk ein Mustererkennungssystem. Es identifiziert und lernt Muster in den Daten, mit denen es trainiert wird. Wenn bestimmte archetypische Muster in den Daten universell vorhanden sind (wie Jung vorschlagen würde), würde das Modell sie wahrscheinlich erkennen und verinnerlichen. Wenn das Modell Antworten generiert, tut es dies auf der Grundlage von Mustern, die es in seinen Trainingsdaten erkannt hat. Wenn es also zu universellen Themen befragt wird oder wenn es um die Entwicklung von Geschichten geht, kann es Inhalte produzieren, die mit diesen archetypischen Mustern übereinstimmen oder diese widerspiegeln, selbst wenn es sie nicht auf die Art und Weise „versteht“, wie es der Mensch tut.