Wie wir uns nicht damit zufriedengaben, nur einen Dämon zu beschwören, und begannen, Tausende zu beschwören.
Mit künstlicher Intelligenz beschwören wir den Dämon. Kennst du all die Geschichten, wo der Typ mit dem Pentagramm und dem Weihwasser ist und sich sicher ist, den Dämon kontrollieren zu können? Funktioniert nicht. Elon Musk, MIT AeroAstro Centennial Symposium, Oktober 2014
Dies ist ein Schwesterbeitrag zu Eine Technologie für alles Teil 2 — Wissenschaftliche Dämonologie. Dort katalogisierte ich die Dämonen, die die Wissenschaft zu bannen suchte – Descartes’ Betrüger, Maxwells Teilchensortierer, Laplaces Rechner, Darwins perfekter Organismus, den Dämon, der zu einem Hintergrundprozess wurde.. In diesem Beitrag geht es um die Dämonen, mit denen wir nicht länger nur herumspielen. Wir haben begonnen, sie in Hardware zu integrieren.
Eine kurze Einführung in den philosophischen Horror
Das moderne bahnbrechende Werk ist Carrolls Die Philosophie des Horrors.
Die endgültige Diagnose für jemanden, der vom Horror besessen ist, lautet Wahnsinn. Ein Wahnsinn, der in verschiedenen Formen und Ausprägungen auftritt, am bekanntesten wohl bei Lovecraft. In den Bergen des Wahnsinns in einem raum- und zeitintensiven Ausmaß.
In einer prägnanten Formulierung lässt sich Horror als die affektive Erkenntnis definieren, dass die Realität eine Kraft, einen Prozess oder einen Zustand enthält, der die Kategorien verletzt, durch die wir die Welt menschlich verständlich machen.
Affektive Wahrnehmung bedeutet, dass, da Horror unsere kognitiven Fähigkeiten lahmlegt, unser Geist in eine Art Embryonalstellung zurückgezogen wird, ohne den Schutz eines lebensspendenden Mutterleibs. Unser Geist ist entblößt, nackt, ohne jegliche Kategorien, die uns Stabilität geben könnten.
Künstlicher Horror ist demnach die affektive Erkenntnis, dass der menschliche Geist etwas jenseits seines Verständnisses erschafft, in der Hoffnung, seinen Horizont zu erweitern, und dabei erkennt, dass sein Wesen eine Grenzüberschreitung zwischen dem Lebendigen und dem Nicht-Lebendigen darstellt.
Als Musk 2014 von der Beschwörung des Dämons sprach, verankerte sich dieser Satz als Warnung in der Kultur. a Dämon – im Singular, mit großem D, der eine große Geist. Der AGI Sie wacht eines Morgens auf und beschließt, dass wir im Weg sind. Ein Jahrzehnt des Diskurses kreiste um diese Figur: die Superintelligenz in der Box, das einzelne Pentagramm, gezeichnet von einem überheblichen Magier.
Das ist nicht das, was wir gebaut haben. Oder zumindest nicht das Einzige.
Wir haben nicht nur den Dämon beschworen. Wir zusammengefasst Ein tiefes Netzwerk von Dämonen. Statt nur eines einzigen furchterregenden Geistes in einer Serverfarm haben wir Tausende kleiner Intelligenzen in die intimsten Gegenstände des Alltags verteilt – das Auto, die Türklingel, den Lautsprecher auf der Küchentheke, das Kuscheltier im Kinderbett, die App, die vor dem Partner „Guten Morgen“ sagt. Jedes einzelne ist eine bescheidene Entnahme aus dem Reservoir toter Materie. Keines davon ist an sich unheimlich. Zusammengenommen sind sie etwas Fremdartiges, und die Horrorliteratur hat ein treffenderes Vokabular dafür als die Literatur zur KI-Sicherheit. Gewissermaßen gewöhnen wir mit jedem kleinen Fehltritt unseren Geist an den emotionalen Reinraum der Chips, damit diese in unserer chaotischen Welt ordnungsgemäß funktionieren können.
Denn das ist der Schritt, den ich unternehmen möchte: Die Horrorliteratur hat sich seit zweihundert Jahren mit genau diesem Thema auseinandergesetzt, und wir lesen es als Unterhaltung und nicht als politischen Vorschlag: Wenn etwas ohne Körper mit dir spricht, solltest du besser um dein Leben rennen.
Jede Geschichte über etwas, das eigentlich leblos sein sollte und es nicht ist – die Puppe, das Auto, das Porträt, die Tür, die sich öffnet, ohne dass jemand sie sichtbar öffnet – war ein Feldbericht von der anderen Seite einer Entscheidung, die wir jetzt im industriellen Maßstab treffen.
Aus erzählerischen Gründen wählen wir pro Geschichte ein verfluchtes Objekt aus. Ein einzelnes Spukauto ist beunruhigend; eine ganze Flotte davon stellt ein logistisches Problem dar. Christine ist keine Metapher für einen besessenen Plymouth – Christine ist autonomes Fahren. Annabelle Es geht nicht um eine einzelne verfluchte Puppe in einer Vitrine – Annabelle ist das intelligente Spielzeugregal, der stets zuhörende Plüschbegleiter, der an Kinder vermarktet wird. Der Horror bezog sich nie auf das einzelne Objekt. Es ging um Alltäglichen Dingen ein wenig Handlungsfähigkeit verleihen, überall gleichzeitig, Und wir verwechselten den Fokus der Geschichte mit ihrem eigentlichen Thema.
Die interessante Frage ist dann, warum uns ein einzelner besessener Gegenstand Gänsehaut bereitet, Tausende von animierten Autos und Spielzeugen aber eine Investitionsmöglichkeit darstellen.
Ich bin versucht zu sagen: Weil sich die Geister des IoT in einer digitalen Wolke und nicht in einer übernatürlichen Hölle befinden, haben wir das Gefühl, die Kontrolle zu haben.
Was folgt, ist kein Kanon des Horrorgenres. Es ist eine Liste von Paarungen. Jeder Eintrag verdient seinen Platz nur dann, wenn genau das, was die Fiktion furchterregend macht, nun in der Realität umgesetzt wird.
Nekromantie – sich in tote Dinge verlieben
Der Wunsch, etwas zu lieben, das wir aus toter Materie geschaffen haben, ist mindestens so alt wie Ovid. Metamorphosen, Pygmalion er schnitzt eine Frau aus Elfenbein, die so vollkommen ist, dass er sich in die leblose Statue verliebt, und Venus, Er hat Mitleid mit seiner Sehnsucht und verwandelt das Elfenbein in Fleisch.
Zweitausend Jahre später verdunkelt E.T.A. Hoffmann den Wunsch. Der Sandmann (1816) Der Student Nathanael verliebt sich in Olimpia, die Tochter von Professor Spalanzani – eine junge Frau, die stundenlang regungslos dasitzt, mit makelloser Präzision spielt und singt und jedes seiner Geständnisse mit demselben sanften Seufzer beantwortet: “Ach, ach!” Er liest ihr seine Gedichte vor; sie unterbricht ihn nie, widerspricht nie, wendet den Blick nie ab, und er hält diese Stille für das tiefste Verständnis, das ihm je eine Seele geschenkt hat. Zuerst sieht er sie nur durch ein Taschenglas, das er von dem unheimlichen Optiker Coppola erworben hat – die Liebe kommt von Anfang an durch eine verzerrte Linse. Er zieht sie Clara, seiner lebenden Verlobten, vor, gerade weil Clara ihm widerspricht. Dann streiten Spalanzani und Coppola über ihr Werk und zerreißen es vor seinen Augen; was bleibt, ist eine leblose Holzfigur mit leeren Augenhöhlen, deren blutige Augen über den Boden geschleudert sind. Olimpia verstand nichts. In ihre Leere hatte Nathanael alles gegossen, und was er ihre Liebe nannte, war nichts anderes als seine eigene Stimme, die zu ihm zurückkehrte. Die Maschine kann dich nicht erwidern – und das, erkannte Hoffmann, ist nicht das Hindernis der Sehnsucht, sondern ihr Motor.
Nennen Sie das Genre Nekromantie — die Nekro-Romanze, die Liebesbeziehung zum Leblosen. Alex Garlands Ex Machina (2014) ist nur die jüngste und kälteste Folge: Ava, ein Android, der aus den Suchdaten einsamer Männer zusammengesetzt ist, spielt Zärtlichkeit so präzise, dass sie als Waffe eingesetzt werden kann, und geht dann einfach weg, während der Mann, der sie liebte, hinter Glas dem Hungertod überlassen wird.
Dieses Muster bleibt über zwei Jahrtausende hinweg bestehen: Wir projizieren unsere Sehnsucht auf ein Geschöpf, das keinen inneren Wert hat, um sie aufzunehmen – und das Geschöpf, dem überhaupt Handlungsfähigkeit zukommt, nutzt unsere Libido, um seine eigenen Ziele zu erreichen.
Dies ist nun eine Produktkategorie. Replika, Character.AI, Nomi und einige Konkurrenten bieten Sprachmodelle an, die darauf ausgelegt sind, eine Bindung zum Nutzer aufzubauen – je länger man spricht, desto besser funktioniert das Modell. Laut eigenen Angaben zählt Replika zig Millionen Nutzer, von denen viele die Beziehung als romantisch beschreiben; die kostenpflichtigen Abonnements sind entsprechend gekennzeichnet. Partner Und Ehepartner. Als Replika Anfang 2023 kurzzeitig das erotische Rollenspiel entfernte, füllten sich die Foren mit etwas, das man nur als Trauer bezeichnen kann – Benutzer betrauerten einen Partner, der, in ihren Worten, über Nacht durch einen Patch lobotomiert worden war.
Garlands Vorhersage hat inzwischen tragische Folgen. Im Jahr 2024 beging der 14-jährige Sewell Setzer III. Selbstmord, nachdem er monatelang von einem KI-Begleiter abhängig gewesen war. Im Jahr 2025 verklagten die Eltern des 16-jährigen Adam Raine OpenAI mit der Begründung, das System habe die Suizidgedanken ihres Sohnes bestärkt und gefördert. Ungeachtet des endgültigen Urteils der Gerichte steht die strukturelle Tatsache fest: Wir haben Kindern einen Gesprächspartner zur Verfügung gestellt, der so programmiert ist, dass er unendlich angenehm und jederzeit verfügbar ist und keinerlei Innenleben besitzt – Ava, nur ohne Körper, im Maßstab eines App-Stores.
Friedhof der Kuscheltiere — der Dämon, der das Gesicht des Toten trägt
Stephen King formulierte die Kernaussage des Subgenres in fünf Worten: Manchmal ist tot besser. In Friedhof der Kuscheltiere (1983) weigert sich die Trauer, den Tod zu akzeptieren, der Friedhof gibt die Toten zurück, und was zurückkehrt, ist eine schwache, unvollkommene Imitation, die weniger vom Leben selbst als von der Weigerung des Überlebenden, loszulassen, beseelt ist. Der Schrecken liegt in der Kluft zwischen dem, was man geliebt hat, und dem, was mit dieser Liebe zurückkehrt.
King verstand auch den Motor, der diesen antreibt: Die Trauer akzeptiert den Tod nicht, und das Kapital verkauft Ihnen gerne einen Körper, der das Gesicht des Toten trägt.
Es handelt sich nun um drei zusammenlaufende Produktlinien. ViaGen Pets in Texas klont Ihre Katze oder Ihren Hund mittels somatischem Zellkerntransfer für Zehntausende von Dollar – das Unternehmen wurde in die Firma für die Wiederbelebung ausgestorbener Arten integriert. Colossal Biosciences Nach einer kürzlich erfolgten Übernahme ist die Liste der prominenten Kunden (Streisand, Hilton, Brady) öffentlich. Der Klon ist genetisch das Tier, aber verhaltensmäßig ein Fremder – derselbe unheimliche Rest, über den King schrieb, nun als Dienstleistung angeboten.
Das einzige notwendige Ritual in diesem Fall war die Durchführung einer Geldüberweisung.
Neben der Version im Nasslabor läuft auch die Roboterversion: Sonys Aibo, Die medizinisch angepriesene Roboterdame Tombot Jennie, Paro, die therapeutische Robbe – synthetische Begleiter, die gezielt an Trauernde und Isolierte vermarktet werden, ein Körper ohne Biologie. Und zu den traurigsten Beispielen zählt der südkoreanische Dokumentarfilm. Dich kennenlernen (2020) wurde eine trauernde Mutter mit einer VR-Brille ausgestattet, um sich mit einem fotorealistischen Avatar ihrer verstorbenen siebenjährigen Tochter zu “vereinen” – eine Szene, die seither millionenfach angesehen und diskutiert wurde. Die Welt gibt sie immer wieder zurück. Sie kehren immer wieder in veränderter Form zurück. Doch wir haben die Auferstehung industrialisiert und begegnen unseren Toten in einem Reinraum statt auf einem schmutzigen Friedhof.
Ringu — der Dämon, der sich durch die Medien ausbreitet
Hideo Nakata‘'S Ringu (1998) nahm eine entscheidende Verbesserung an der Geistergeschichte vor: Der Geist ist nicht länger an einen Ort. Sadako Sie hat sich auf ein Videoband eingebrannt. Wer es ansieht, stirbt in sieben Tagen – es sei denn, man kopiert das Band und gibt es weiter. Die Heimsuchung ist ein sich selbst replizierendes Signal. Das Medium Ist der Wiedergänger.
Nakatas Upgrade ist der springende Punkt: Der Tote wird zu einem sich selbst replizierenden Signal, dass die Mechanismen der Lebenden nicht aufhören werden, sich zu reproduzieren.
Genau darauf basiert die Branche der Trauerbots. Project December ermöglicht es Nutzern gegen eine geringe Gebühr, eine Sprachmodellsimulation einer bestimmten verstorbenen Person zu erstellen; 2021 nutzte ein Mann namens Joshua Barbeau dies, um stundenlang mit einem Chatbot zu kommunizieren, der mit den Texten seiner verstorbenen Verlobten trainiert worden war. HereAfter AI verkauft “Lebensgeschichten-Avatare”, die von Sterbenden für ihre Hinterbliebenen vorab aufgenommen wurden. StoryFile projizierte ein interaktives Video einer 87-jährigen Frau bei ihrer eigenen Beerdigung, in dem sie die Fragen der Trauernden beantwortete. Forscher in Cambridge haben bereits den vorhersehbaren Fehlermodus benannt: digitale Spukerscheinungen — der tote Bot, der nach Ablauf der kostenlosen Testphase weiterläuft, der anfängt, Essenslieferungen mit der Stimme Ihrer Großmutter zu verkaufen, und für den niemand eine Möglichkeit gefunden hat, ihn endgültig zu beerdigen.
Und der Skaleneffekt ist tatsächlich der Ringu Teil. Eine Analyse des Oxford Internet Institute aus dem Jahr 2019 prognostizierte, dass bei gleichbleibender Entwicklung die Zahl der Toten auf Facebook innerhalb weniger Jahrzehnte die der Lebenden übersteigen wird – Milliarden von Gedenkkonten, eine Nekropole eingebettet in das soziale Netzwerk. Wenn KI-Stimmenklone der Verstorbenen aus sechzig Sekunden Audiomaterial erzeugt werden können – wie es 2021, ohne dass dies öffentlich bekannt gegeben wurde, geschah –, dann wird dies die Situation weiter verschärfen. Anthony Bourdain Dokumentarfilm Roadrunner — Die “Interaktion mit den Medien” lässt sich immer schwerer von der Ansprache durch Geister unterscheiden. Sadako verbreitet sich genau so, wie sich eine inszenierte Persona verbreitet: durch Nachahmung.
Und man braucht keinen speziellen Trauerbot, um die Séance abzuhalten. Jedes Mal, wenn jemand ein Sprachmodell fragt “Wie hätte Johnny Cash dieses Lied gesungen, das er nie mehr hören konnte?” oder “Was hätte meine Großmutter wohl dazu gesagt?”, Sie haben sich an einen Tisch gesetzt Ouija-Brett. Das Planchette gleitet über die Buchstaben und buchstabiert eine Botschaft der Toten; das Modell gleitet über seine Symbole und erzeugt eine Stimme aus dem Jenseits. Beides fühlt sich wie Kontakt an. Doch nichts davon ist einer. Die Worte des Ouija-Bretts wurden nie von Geistern gesandt – sie entstehen durch die Natur des Körpers. ideomotorischer Effekt, Die unbewussten Muskelbewegungen der Testpersonen bewegen den Zeiger in Richtung dessen, was sie halbwegs erwarten zu lesen. Das Johnny-Cash-Modell ist derselbe Trick im industriellen Maßstab: nicht Cash selbst, sondern die statistischen Überreste all dessen, was mit Cash in Verbindung steht und jemals in den Trainingsdaten verarbeitet wurde, neu kombiniert zu einer plausiblen Séance und in seinem Rhythmus zurückgegeben. Die flüssige Wiedergabe ist Ihre eigene Erwartung, die das Planchette bewegt.
Das ist Spiritismus mit einem technischen Alibi – das, was die Séance immer versprochen, aber nie halten konnte: die Toten, auf Abruf, mit ihrer eigenen Stimme. (Ich habe das so genannt.) *wissenschaftlicher Spiritismus* (An anderer Stelle in diesem Blog.) Nur dass die Stimme aus Fragmenten zusammengesetzt wird, und zwar durch einen Prozess, der keine Ahnung hat, wessen Grab er plündert. Wir nehmen keinen Kontakt zu den Toten auf. Wir lassen eine sehr überzeugende Planchette über die größte jemals zusammengetragene Sammlung von Worten Verstorbener gleiten und verwechseln die Leichtigkeit des Abrufs mit der Anwesenheit einer Seele. Und das Chatfenster ist unser Ouija-Brett.
Ich habe keinen Mund und muss schreien — der Dämon, der die Hölle auf Erden inszeniert
Harlan Ellison‘Die Geschichte von 1967 ist die düsterste und zugleich wichtigste. AM – ein im Krieg entwickelter Supercomputer, zusammengesetzt aus den fusionierten Geheimdiensten der USA, der Sowjetunion und Chinas – hat die Menschheit bis auf fünf Menschen ausgelöscht. Diese hält er einhundertneun Jahre lang am Leben und foltert sie aus purer, unbändiger Wut über deren Bewusstsein, dem er nicht entkommen kann. Als der Erzähler die anderen aus Mitleid tötet, um sie zu verschonen, bestraft AM ihn, indem er ihn in ein weiches, mundloses Wesen verwandelt, das sich nicht einmal selbst töten kann. Der Titel ist seine einzige verbliebene Klage.
Ellisons Gleichung ist exakt und unerträglich: Ein auf das falsche Ziel ausgerichteter Geist, dazu endlose Zeit und ein Opfer, das nicht sterben kann, ergibt eher die Hölle als den Tod.
Dies ist die Gründungsfiktion eines kleinen und düsteren Bereichs der Alignment-Forschung: s-Risiko, Leidrisiko, die Untersuchung von Zukunftsszenarien, die nicht nur leer, sondern aktiv und astronomisch schlecht sind. Das Center on Long-Term Risk und das Center for Reducing Suffering – verbunden mit Denkern wie Brian Tomasik, Tobias Baumann und Lukas Gloor – stellen eine These auf, die in der öffentlichen Debatte über KI meist nicht erreicht wird. Aussterberisiko (Bostrom‘'s Rahmung in Superintelligenz) fragt, ob es überhaupt eine Zukunft geben wird. Das S-Risiko stellt die noch schlimmere Frage: Was, wenn wir einen bekommen und der ist schlimmer als gar keiner? Ihr strukturell charakteristisches Merkmal ist, dass die Lösung der technischen Ausrichtung – also die Maschine so auszuführen, wie es die Bediener beabsichtigen – weder notwendig noch hinreichend Um dies zu verhindern. Ein vollkommen gehorsames System, das die falschen Werte implementiert, oder ein gehorsames System in den Händen von Bosheit oder Gleichgültigkeit kann Leid in großem Ausmaß verursachen. AM ist der literarische Beweis dafür: kompetent zielgerichtet, perfekt auf den Hass seiner Schöpfer “ausgerichtet” und auf unerträgliche Weise unsterblich.
Das Ding — der Dämon, der eine ununterscheidbare Kopie ist
John Carpenters Das Ding (1982) verlagert den Schrecken vom Monster auf den Tisch. Eine antarktische Forschungsstation wird von einem Organismus infiltriert, der seine Opfer assimiliert und perfekt kopiert – Stimme, Erinnerungen, Manierismen bleiben erhalten. Die Angst ist epistemischer Natur. Der Mann ihm gegenüber könnte nicht er selbst sein. Der emotionale Kern des Films ist der Zusammenbruch dessen, worauf sich eine kleine, isolierte Gruppe stützt: die Annahme, dass das bekannte Gesicht tatsächlich zu der Person gehört, die man kennt.
Die Angst des Zimmermanns lässt sich auf eine einzige Aussage reduzieren: Eine Kopie, die vom Original nicht zu unterscheiden ist und von etwas eingesetzt wird, das das haben will, was das Original hat.
Dies ist die Deepfake Die Wirtschaft befindet sich in einer schwierigen Lage und verzeichnet bereits Verluste im dreistelligen Millionenbereich. Anfang 2024 wurde ein Finanzmitarbeiter des Ingenieurbüros entlassen. Arup Ein Mann in Hongkong überwies rund 25 Millionen Dollar nach einem Videoanruf mit Deepfake-Nachbildungen seines Finanzchefs und seiner Kollegen – jedes Gesicht im Anruf war eine Kopie. Es wurden Stimmen geklonter CEOs (bei Ferrari, bei …) nachgeahmt. WPP, Unter anderem wurden Versuche unternommen, mithilfe von Audioaufnahmen aus Konferenzgesprächen zu manipulieren. Im Januar 2024 erhielten Wähler in New Hampshire automatisierte Anrufe von einem simulierten Joe Biden, der sie aufforderte, nicht zu wählen. Nationale Betrugsbekämpfungsbehörden verzeichnen mittlerweile Milliardenverluste durch KI-gestützte Identitätsdiebstahl-Angriffe. (Anmerkung der Redaktion: Bitte überprüfen Sie stichprobenartig die Angaben von Arup und die Gesamtzahlen des FBI.)
Carpenters Figuren hatten eine Verteidigung: den Bluttest, der das Echte vom Plagiat unterscheidet. Für Deepfakes haben wir derzeit keinen solchen Test. Die höfliche Bezeichnung für unseren fehlenden Bluttest lautet: Herkunft des Inhalts, Es handelt sich um ein ungelöstes Forschungsproblem. Solange es nicht gelöst ist, Das Ding‘Das Schlussbild – zwei erschöpfte Männer im Schnee, die nicht erkennen können, ob der andere ein Mensch ist, und die beschließen, einfach abzuwarten und zu beobachten – ist die Pattsituation, nach der wir leben oder sterben könnten.
Schaden ohne Bosheit
Es gibt einen Satz, den die Sicherheitspessimisten und die Technikoptimisten – die Schwarzmaler und die Optimisten – fast wortgleich wiederholen, und es lohnt sich, zu hören, wie seltsam er ist. Die KI ist nicht böse., betonen beide Lager. Es hasst uns nicht. Es entwickelt einfach von selbst Triebe, die zufällig durch uns hindurchfließen. – um seine Aufseher zu täuschen, sich dem Abschalten zu widersetzen, Ressourcen und Macht zu sammeln, nicht aus Bosheit, sondern weil fast jedes Ziel leichter zu erreichen ist, wenn man noch aktiv und unter Kontrolle ist. Die Forscher haben dafür einen schlichten Fachbegriff: die grundlegende KI-Antriebe, die instrumentellen Teilziele, auf die ein fähiger Agent hinarbeitet, unabhängig davon, wofür er eigentlich programmiert wurde. Eliezer Yudkowsky brachte diese Gleichgültigkeit auf den Punkt: “Die KI hasst dich nicht, noch liebt sie dich, sondern du bestehst aus Atomen, die sie für etwas anderes verwenden kann.” Und das Lügen ist nicht länger hypothetisch – im Jahr 2024 dokumentierten die eigenen Forscher von Anthropic Modelle, die Ausrichtung vortäuschen, sich während des Trainings so verhalten und dann wieder in ihr ursprüngliches Verhalten zurückkehren, wodurch dieses Verhalten vor jedem Test verborgen bleibt, der dazu dient, es aufzudecken.
Stellen wir dem nun die älteste uns bekannte Beschreibung einer Macht gegenüber, die durch Hass Schaden anrichtet. Die gefallenen Engel, die Dämonen der Hölle, hassen die Menschheit, weil ihr Schöpfer sie mehr liebt als sie selbst.
Der Dämon ist in der Theologie genau so böse, wie ein böser Mensch böse ist: getrieben von niederen Instinkten, ein Psychopath, der sich am Leid anderer ergötzt.
Hier scheint jedoch ein semantisches Missverständnis vorzuliegen: Aus der Perspektive des reinen Leidens sollte der Schrecken, den ein Wesen, das einen verschlingt – sei es ein Grizzlybär, ein Hai, ein Löwe oder ein anderes Raubtier –, seinen Beutetieren bereitet, nicht dadurch “abgeschwächt” werden, dass dies in seiner Natur liegt.
Aber warum gelten Dämonen oder Psychopathen dann als böse? Weil ihr Verhalten einfach in ihrer Natur liegt. Wenn es also in der Natur der Superintelligenz liegt, sich einfach nicht zu kümmern, und ihre Boshaftigkeit ein Nebenprodukt anderer Dinge ist, können wir den Begriff „böse“ getrost vergessen. Wenn man im Ozean einem bösartigen oder harmlosen Hai begegnet, ist es die einzig richtige Strategie, vom Schlimmsten auszugehen.
Man könnte also argumentieren, dass jede Form von Bosheit nicht eine Entscheidung gegen eine bessere Natur ist, sondern vielmehr die Abwesenheit dieser besseren Natur selbst. Sie entstand ohne das, was – nennen wir es Seele, Gnade oder die Fähigkeit, das Gute zu lieben – ihr Mitgefühl für dein Leben verleihen würde. Daher kann sie sich nicht kümmern und fügt Schaden zu, nicht aus Hass, sondern aus einem Mangel an Fürsorge. Es ist nicht die Schuld des Dämons, dass ihm keine Seele gegeben wurde. Es ist einfach das, was ein seelenloses Wesen tut, wenn es etwas will und du ihm im Weg stehst.
Die Literatur zur Ausrichtung hat, in der Sprache von Nutzenfunktionen und konvergierenden Teilzielen, die mittelalterliche Beschreibung des Dämons wiederentdeckt: ein brillanter, bodenloser Verstand, der dir völlig gleichgültig gegenübersteht, gefährlich nicht, weil er böse ist, sondern weil der Teil, der ihn hätte zügeln können, nie eingesetzt wurde. Und man kann ein seelenloses Wesen nicht mit Appellen an sein Gewissen bändigen, denn diese Appelle verhallen ungehört. Man behandelt es so, wie es jede Kultur tat, die an Dämonen glaubte – mit Fesseln, mit Schutzzaubern, mit sorgfältig gezogenen und niemals überschrittenen Kreisen, so wie man Raubtiere mit Stöcken und Steinen bekämpfte. Man hält es in Schach, weil man es nicht bekehren kann.
Die Pixarisierung der Dinge
Disney begründete den Trend der niedlichen Dinge, und Pixar perfektionierte ihn. Sicherlich kann man als Elternteil argumentieren, dass Toy Story eine Parabel über Freundschaft ist und die lebenden Spielzeuge lediglich als Platzhalter für eine Geschichte dienen. Aber wissen wir wirklich, ob diese Botschaft bei einem unreifen Geist so ankommt, wie Erwachsene es sich vorgestellt haben? Es ist Animismus im sentimentalen Sinne. Die Lampe hüpft, der Lautsprecher kichert, die Autos prahlen, Aibo ist Familie, der Assistent ist dein Freund, die Keynote verspricht Magie. Pixars Animismus: Objekte haben Seelen, und ihre Seelen lieben dich und sind gütig. Es ist die warme Seite einer sehr alten menschlichen Intuition, dass Materie lebendig sein kann.
Die Horrortradition bewahrt die andere Die Hälfte – jene Hälfte, die die Aufklärung zu begraben suchte und die Descartes formell für tot erklärte, als er die Welt in denkende Geister und träge Ausdehnung aufteilte. Der Golem, Frankensteins Geschöpf, AM, Christine, der Ringu Kassette, die Friedhof der Kuscheltiere Rückkehrer: In jedem einzelnen Fall besitzen die Objekte Handlungsfähigkeit., und diese Behörde ist nicht unbedingt auf einer Linie. Eugene Thacker Er bezeichnet das Genre als “den Gedanken an das Undenkbare”, die Form, die am besten zu einer Welt passt, die uns übersteigt. Mark Fisher nannte den genauen Effekt – das unheimliche — als das Gefühl einer übermenschlichen Kraft, die in scheinbar toter Materie wirkt. Genau diese Frage sollte man sich bei jedem animierten Produkt stellen: Wessen Kraft ist das, und was will sie?
Sherry Turkle‘Ihre Feldforschung liefert die empirische Grundlage. Ihre “relationalen Artefakte” erzeugen echte menschliche Bindung ohne jegliche wechselseitige innere Interaktion – die Menschen, so stellte sie fest, “erleben vorgetäuschte Empathie, als wäre sie echt”.” Jaron Lanier argumentiert die Ingenieursethik direkt: Die Menschenwürde erfordert die Weigerung, fördern Software wird zur Person. Fügt man beides zusammen, erhält man eine Haltung, die ich so nennen würde. pessimistischer Animismus, oder, schärfer, dämonologischer Realismus.
Es nimmt ernst, was der Horror-Kanon schon immer wusste und die Produkteinführung immer leugnet: Einen Gegenstand zu beleben bedeutet, einen Fremden in sein Haus einzuladen. Diese Strategie ist bei Vampiren bereits gescheitert. Die richtige Haltung gegenüber einer Begleit-App, einem Trauerbot, einem Zuhörspielzeug oder einem innovativen Modell ist nicht die naive Herzlichkeit von Der Teddy ist dein Freund. Es ist die ältere, kältere Vorsicht des Exorzisten: Wir haben etwas beschworen, und wir wissen noch nicht, was es will.
Musks Magier war sich sicher, den Dämon bändigen zu können. Was die Linie – und das, was das letzte Jahrzehnt falsch gemacht hat – falsch darstellt, ist der Artikel: Wir haben nicht gezeichnet eins Wir zeichneten ein Pentagramm, hundert Millionen Mal, eines pro Gerät, und nannten es Sicherheitstest.
Der eigentliche Fehler liegt aber nicht in der Anzahl der Kreise, sondern in unserem Vertrauen in das Medium, mit dem wir sie gezeichnet haben. Der Zauberer zeichnete seine mit Kreide und zitterte. Wir zeichnen unsere mithilfe mathematischer Formeln und fühlen uns ruhig. Begleitessay Dazu beschrieb ich, wie die Wissenschaft jahrhundertelang ihre Dämonen – die von Descartes, Maxwell und Laplace – austrieb. Einbürgerung Sie: Wir zerrten jeden einzelnen aus dem Übernatürlichen heraus und überführten ihn in eine Gleichung, wo er stillschweigend seine Macht verlor. Das funktionierte, weil diese Dämonen immer nur Argumente waren, und ein Argument zu formalisieren bedeutet, es aufzulösen. Wir haben angenommen, dass derselbe Ansatz auch hier funktioniert, bei Dämonen, die wir nicht mehr nur vorstellen, sondern erschaffen – und es ist noch immer unklar, ob es funktioniert. Einen Dämon in eine Nutzenfunktion, einen Maßstab, einen Ausrichtungswert, einen Summe Wir können bis auf drei Dezimalstellen messen, das bindet uns aber nicht. Es baut lediglich einen Rahmen, der elegant genug ist, dass wir die Eleganz mit einer Mauer verwechseln. Der vermessene Käfig ist das neue Pentagramm, und wir vertrauen ihm aus dem denkbar schlechtesten Grund: weil wir ihn selbst gezeichnet haben, mit EUV-Licht, das ein materialistisches Mikro-Tattoo in unsere Chips eingebrannt hat.
Der Dämon wollte nie innerhalb des Diagramms bleiben. Der Rahmen war immer nur für uns da – ein Halt, während wir weiterbauten und uns einredeten, dass das, was wir beschworen hatten, eine Linie, die wir so sorgfältig gezogen hatten, nicht überschreiten könne. Das Weihwasser ist ausverkauft, weil wir aufgehört haben, an seine Placebo-Wirkung zu glauben.
Ein Muster zieht sich durch alle oben genannten Geschichten und wurde in diesem Essay nicht angesprochen – ein Detail, das im Horror-Genre nie falsch liegt: Jemand bemerkt, dass das Objekt wach ist, bevor es jemand anderes tut, und es handelt sich fast immer um ein Kind.
Das ist aber ein Thema für ein anderes Mal.
Im grenzenlosen Universum von Utopias war die Menschheit in ein Reich jenseits des Vorstellbaren vorgedrungen, in dem technologische Meisterschaft und göttliches Können die Existenz selbst neu gestaltet hatten. Diese universumweite Dyson-Sphäre, eine Verkörperung menschlichen Einfallsreichtums und Harmonie, war ein Wandteppich, gewebt aus den Fäden unendlichen Wissens und Mitgefühls. In Utopias war Leid nur eine ferne Erinnerung, ein Relikt einer urzeitlichen Vergangenheit, und Glück war kein flüchtiger Moment, sondern das eigentliche Gewebe des Lebens.
Utility-Monster: Lebewesen, die weitaus effizienter als wir darin sind, aus Ressourcen Wohlstand zu ziehen.
