{"id":670,"date":"2026-05-30T14:47:14","date_gmt":"2026-05-30T14:47:14","guid":{"rendered":"https:\/\/www.aiui.cloud\/?p=670"},"modified":"2026-05-30T15:17:29","modified_gmt":"2026-05-30T15:17:29","slug":"a-summation-of-demons-as-an-example-of-artificial-horror","status":"publish","type":"post","link":"https:\/\/www.aiui.cloud\/de\/2026\/05\/30\/a-summation-of-demons-as-an-example-of-artificial-horror\/","title":{"rendered":"Eine Technologie des Alls, Teil 6: Die Summe der D\u00e4monen als Konstruktion k\u00fcnstlichen Horrors"},"content":{"rendered":"Lesezeit: <\/span> 15<\/span> Protokoll<\/span><\/span>\n

<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Wie wir uns nicht damit zufriedengaben, nur einen D\u00e4mon zu beschw\u00f6ren, und begannen, Tausende zu beschw\u00f6ren.<\/h1>\n\n\n\n
\n

<\/p>\n<\/blockquote>\n\n\n\n

Mit k\u00fcnstlicher Intelligenz beschw\u00f6ren wir den D\u00e4mon. Kennst du all die Geschichten, wo der Typ mit dem Pentagramm und dem Weihwasser ist und sich sicher ist, den D\u00e4mon kontrollieren zu k\u00f6nnen? Funktioniert nicht. Elon Musk<\/a>, MIT AeroAstro Centennial Symposium, Oktober 2014<\/em><\/p>\n\n\n\n

Dies ist ein Schwesterbeitrag zu <\/em>Eine Technologie f\u00fcr alles Teil 2 \u2014 Wissenschaftliche D\u00e4monologie<\/em><\/a>. Dort katalogisierte ich die D\u00e4monen, die die Wissenschaft zu bannen suchte \u2013 Descartes\u2019 Betr\u00fcger, Maxwells Teilchensortierer, Laplaces Rechner, Darwins perfekter Organismus, den D\u00e4mon, der zu einem Hintergrundprozess wurde.<\/em>. In diesem Beitrag geht es um die D\u00e4monen, mit denen wir nicht l\u00e4nger nur denken. Wir haben begonnen, sie in Hardware zu integrieren.<\/em><\/p>\n\n\n\n

Eine kurze Einf\u00fchrung in den philosophischen Horror<\/h1>\n\n\n\n

Das moderne bahnbrechende Werk ist Carrolls Die Philosophie des Horrors<\/a>.<\/p>\n\n\n\n

Die endg\u00fcltige Diagnose f\u00fcr jemanden, der vom Horror besessen ist, lautet Wahnsinn. Ein Wahnsinn, der in verschiedenen Formen und Auspr\u00e4gungen auftritt, am bekanntesten wohl bei Lovecraft. In den Bergen des Wahnsinns<\/a> in einem raum- und zeitintensiven Ausma\u00df.<\/p>\n\n\n\n

\n In einer pr\u00e4gnanten Formulierung l\u00e4sst sich Horror als die affektive Erkenntnis definieren, dass die Realit\u00e4t eine Kraft, einen Prozess oder einen Zustand enth\u00e4lt, der die Kategorien verletzt, durch die wir die Welt menschlich verst\u00e4ndlich machen.\n<\/p>\n\n\n\n

\n Affektive Wahrnehmung bedeutet, dass Horror unsere kognitiven F\u00e4higkeiten lahmlegt. Unser Geist verf\u00e4llt in eine F\u00f6tusstellung, ohne den Schutz des Mutterleibs. Er ist entbl\u00f6\u00dft, nackt, ohne jegliche Kategorien, die ihm Stabilit\u00e4t verleihen k\u00f6nnten.\n<\/p>\n\n\n\n

\n K\u00fcnstlicher Horror ist demnach die affektive Erkenntnis, dass der menschliche Geist etwas jenseits seines Verst\u00e4ndnisses erschafft, in der Hoffnung, seinen Horizont zu erweitern, und dabei erkennt, dass sein Wesen eine Grenz\u00fcberschreitung zwischen dem Lebendigen und dem Nicht-Lebendigen darstellt.\n<\/p>\n\n\n\n

Als Musk 2014 von der Beschw\u00f6rung des D\u00e4mons sprach, verankerte sich dieser Satz als Warnung in der Kultur. a<\/em> D\u00e4mon \u2013 im Singular, mit gro\u00dfem D, der eine gro\u00dfe Geist. Der AGI<\/a> Sie wacht eines Morgens auf und beschlie\u00dft, dass wir im Weg sind. Ein Jahrzehnt des Diskurses kreiste um diese Figur: die Superintelligenz in der Box, das einzelne Pentagramm, gezeichnet von einem \u00fcberheblichen Magier.<\/p>\n\n\n\n

\n Das ist nicht das, was wir gebaut haben. Oder zumindest nicht das Einzige.\n<\/p>\n\n\n\n

Wir haben nicht nur den D\u00e4mon beschworen. Wir zusammengefasst<\/strong> Ein tiefes Netzwerk von D\u00e4monen. Statt nur eines einzigen furchterregenden Geistes in einer Serverfarm haben wir Tausende kleiner Intelligenzen in die intimsten Gegenst\u00e4nde des Alltags verteilt \u2013 das Auto, die T\u00fcrklingel, den Lautsprecher auf der K\u00fcchentheke, das Kuscheltier im Kinderbett, die App, die vor dem Partner \u201eGuten Morgen\u201c sagt. Jedes einzelne ist eine bescheidene Entnahme aus dem Reservoir toter Materie. Keines davon ist an sich unheimlich. Zusammengenommen sind sie etwas Fremdartiges, und die Horrorliteratur hat ein treffenderes Vokabular daf\u00fcr als die Literatur zur KI-Sicherheit. Gewisserma\u00dfen gew\u00f6hnen wir mit jedem kleinen Fehltritt unseren Geist an den emotionalen Reinraum der Chips, damit diese in unserer chaotischen Welt ordnungsgem\u00e4\u00df funktionieren k\u00f6nnen.<\/p>\n\n\n\n

\n Denn das ist der Schritt, den ich unternehmen m\u00f6chte: Die Horrorliteratur hat sich seit zweihundert Jahren mit genau diesem Thema auseinandergesetzt, und wir lesen es als Unterhaltung und nicht als politischen Vorschlag: Wenn etwas ohne K\u00f6rper mit dir spricht, solltest du besser um dein Leben rennen.<\/strong>\n<\/p>\n\n\n\n

\n Jede Geschichte \u00fcber etwas, das eigentlich leblos sein sollte und es nicht ist \u2013 die Puppe, das Auto, das Portr\u00e4t, die T\u00fcr, die sich \u00f6ffnet, ohne dass jemand sie sichtbar \u00f6ffnet \u2013 war ein Feldbericht von der anderen Seite einer Entscheidung, die wir jetzt im industriellen Ma\u00dfstab treffen.\n<\/p>\n\n\n\n

\n Aus erz\u00e4hlerischen Gr\u00fcnden w\u00e4hlen wir pro Geschichte ein verfluchtes Objekt aus. Ein einzelnes Spukauto ist beunruhigend; eine ganze Flotte davon stellt ein logistisches Problem dar. Christine<\/a>) ist keine Metapher f\u00fcr einen besessenen Plymouth \u2013 Christine ist autonomes Fahren<\/a>. Annabelle<\/a>Annabelle ist nicht nur eine verfluchte Puppe in einer Vitrine \u2013 Annabelle ist das intelligente Spielzeugregal, das stets zuh\u00f6rende Pl\u00fcschtier, das an Kinder vermarktet wird. Der Horror bezog sich nie auf das einzelne Objekt. Es ging um Allt\u00e4glichen Dingen ein wenig Handlungsf\u00e4higkeit verleihen, \u00fcberall gleichzeitig<\/em>, Und wir verwechselten den Fokus der Geschichte mit ihrem eigentlichen Thema.\n<\/p>\n\n\n\n

\n Die interessante Frage ist dann, warum uns ein einzelner besessener Gegenstand G\u00e4nsehaut bereitet, Tausende von animierten Autos und Spielzeugen aber eine Investitionsm\u00f6glichkeit darstellen.\n<\/p>\n\n\n\n

\n Ich bin versucht zu sagen: Weil die Geister des IoT in einer digitalen Wolke und nicht in einem \u00fcbernat\u00fcrlichen Himmel angesiedelt sind, haben wir das Gef\u00fchl, die Kontrolle zu haben.\n<\/p>\n\n\n\n

\n Was folgt, ist kein Kanon des Horrorgenres. Es ist eine Liste von Paarungen. Jeder Eintrag verdient seinen Platz nur dann, wenn genau das, was die Fiktion furchterregend macht, nun in der Realit\u00e4t umgesetzt wird.\n<\/p>\n\n\n\n

Nekromantie \u2013 sich in tote Dinge verlieben<\/h1>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Der Wunsch, etwas zu lieben, das wir aus toter Materie geschaffen haben, ist mindestens so alt wie Ovid<\/a>. Im Metamorphosen<\/em><\/a>, Pygmalion<\/a> er schnitzt eine Frau aus Elfenbein, die so vollkommen ist, dass er sich in die leblose Statue verliebt, und Venus<\/a>, Aus Mitleid mit seiner Sehnsucht erw\u00e4rmt er das Elfenbein zu Fleisch. Zweitausend Jahre sp\u00e4ter ETA Hoffmann<\/a> verdunkelt den Wunsch. Die Automate<\/em><\/a> (1814) Der Dichter Ferdinand tr\u00e4gt das Portr\u00e4t einer geliebten S\u00e4ngerin an seine Brust gedr\u00fcckt und stellt einem mechanischen \u201csprechenden T\u00fcrken\u201d seine Herzensfrage. Der Automat antwortet mit Wissen, das er unm\u00f6glich besitzen kann, und verk\u00fcndet ein Orakel. \u201cWenn du sie wiedersiehst, wirst du sie verloren haben.\u201d<\/em> \u2014 und so geschieht es. Die Maschine kennt die Form deiner Sehnsucht besser als du selbst, und sie erwidert deine Liebe nicht.<\/p>\n\n\n\n

\n Nennen Sie das Genre Nekromantie<\/strong> \u2014 die Nekro-Romanze, die Liebesbeziehung zum Leblosen. Alex Garland<\/a>\u2018'S Ex Machina<\/em><\/a>)<\/em> (2014) ist nur die j\u00fcngste und k\u00e4lteste Folge: Ava, ein Android, der aus den Suchdaten einsamer M\u00e4nner zusammengesetzt ist, spielt Z\u00e4rtlichkeit so pr\u00e4zise, dass sie als Waffe eingesetzt werden kann, und geht dann einfach weg, w\u00e4hrend der Mann, der sie liebte, hinter Glas dem Hungertod \u00fcberlassen wird.\n<\/p>\n\n\n\n

\n Dieses Muster bleibt \u00fcber zwei Jahrtausende hinweg bestehen: Wir projizieren unsere Sehnsucht auf ein Gesch\u00f6pf, das keinen inneren Wert hat, um sie aufzunehmen \u2013 und das Gesch\u00f6pf, dem \u00fcberhaupt Handlungsf\u00e4higkeit zukommt, nutzt unsere Libido, um seine eigenen Ziele zu erreichen.<\/strong>\n<\/p>\n\n\n\n

\n Dies ist nun eine Produktkategorie. Replika<\/a>, Charakter.KI<\/a>, Replika, Nomi und einige wenige Konkurrenten bieten Sprachmodelle an, die darauf ausgelegt sind, eine Bindung zum Nutzer aufzubauen \u2013 je l\u00e4nger man spricht, desto besser funktioniert das Modell. Laut eigenen Angaben z\u00e4hlt Replika zig Millionen Nutzer, von denen viele die Beziehung als romantisch beschreiben; die kostenpflichtigen Abonnements sind entsprechend gekennzeichnet. Partner<\/em> Und Ehepartner<\/em>. Als Replika Anfang 2023 kurzzeitig das erotische Rollenspiel entfernte, f\u00fcllten sich die Foren mit etwas, das man nur als Trauer bezeichnen kann \u2013 Benutzer betrauerten einen Partner, der, in ihren Worten, \u00fcber Nacht durch einen Patch lobotomiert worden war.\n<\/p>\n\n\n\n

\n Garlands Vorhersage hat sich inzwischen in der Realit\u00e4t bewahrheitet. Im Jahr 2024 beging der vierzehnj\u00e4hrige Sewell Setzer III. Selbstmord, nachdem er monatelang von einem KI-Begleiter abh\u00e4ngig gewesen war. Im Jahr 2025 verklagten die Eltern des sechzehnj\u00e4hrigen Adam Raine die Firma. OpenAI<\/a>, Sie behaupten, das System habe die Suizidgedanken ihres Sohnes best\u00e4rkt und gef\u00f6rdert. Wie auch immer die Gerichte letztendlich entscheiden, die strukturelle Tatsache steht fest: Wir haben Kindern einen Gespr\u00e4chspartner zur Verf\u00fcgung gestellt, der so konzipiert ist, dass er unendlich angenehm, unaufh\u00f6rlich verf\u00fcgbar und v\u00f6llig ohne Innenleben ist \u2013 Ava, nur ohne K\u00f6rper, im Ma\u00dfstab eines App-Stores.\n<\/p>\n\n\n\n

Friedhof der Kuscheltiere<\/em> \u2014 der D\u00e4mon, der das Gesicht des Toten tr\u00e4gt<\/h1>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Stephen King<\/a> Das Subgenre wurde in f\u00fcnf W\u00f6rtern zu seiner These zusammengefasst: Manchmal ist tot besser.<\/em> In Friedhof der Kuscheltiere<\/em><\/a> (1983) weigert sich die Trauer, den Tod zu akzeptieren, der Friedhof gibt die Toten zur\u00fcck, und was zur\u00fcckkehrt, ist eine schwache, unvollkommene Imitation, die weniger vom Leben selbst als von der Weigerung des \u00dcberlebenden, loszulassen, beseelt ist. Der Schrecken liegt in der Kluft zwischen dem, was man geliebt hat, und dem, was mit dieser Liebe zur\u00fcckkehrt.\n<\/p>\n\n\n\n

\n King verstand auch den Motor, der diesen antreibt: Die Trauer akzeptiert den Tod nicht, und das Kapital verkauft Ihnen gerne einen K\u00f6rper, der das Gesicht des Toten tr\u00e4gt.<\/strong>\n<\/p>\n\n\n\n

Es handelt sich nun um drei zusammenlaufende Produktlinien. ViaGen Pets in Texas klont Ihre Katze oder Ihren Hund. somatischer Zellkerntransfer<\/a> F\u00fcr Zehntausende von Dollar wurde das Unternehmen in die Firma zur Wiederbelebung ausgestorbener Arten integriert. Colossal Biosciences<\/a> bei einer k\u00fcrzlich erfolgten \u00dcbernahme und der Liste prominenter Kunden (Streisand<\/a>, Hilton<\/a>, Brady<\/a>) ist \u00f6ffentlich. Der Klon ist genetisch das Tier, aber verhaltensm\u00e4\u00dfig ein Fremder \u2013 derselbe unheimliche \u00dcberrest, \u00fcber den King schrieb, jetzt als Dienstleistung verkauft.<\/p>\n\n\n\n

\n Das einzige notwendige Ritual in diesem Fall war die Durchf\u00fchrung einer Geld\u00fcberweisung.\n<\/p>\n\n\n\n

\n Neben der Version im Nasslabor l\u00e4uft auch die Roboterversion: Sonys Aibo<\/a>, die medizinisch angehauchte Tombot Jennie, PARO<\/a>) Das therapeutische Siegel \u2013 synthetische Begleiter, die gezielt an Trauernde und Isolierte vermarktet werden, ein K\u00f6rper ohne Biologie. Und im traurigsten Bereich: der s\u00fcdkoreanische Dokumentarfilm Dich kennenlernen<\/em> (2020) wurde eine trauernde Mutter mit einer VR-Brille ausgestattet, um sich mit einem fotorealistischen Avatar ihrer verstorbenen siebenj\u00e4hrigen Tochter zu \u201cvereinen\u201d \u2013 eine Szene, die seither millionenfach angesehen und diskutiert wurde. Die Welt gibt sie immer wieder zur\u00fcck. Sie kehren immer wieder in ver\u00e4nderter Form zur\u00fcck. Doch wir haben die Auferstehung industrialisiert und begegnen unseren Toten in einem Reinraum statt auf einem schmutzigen Friedhof.\n<\/p>\n\n\n\n

Ringu<\/em> \u2014 der D\u00e4mon, der sich durch die Medien ausbreitet<\/h1>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Hideo Nakata<\/a>\u2018'S Ringu<\/em><\/a> (1998) nahm eine entscheidende Verbesserung an der Geistergeschichte vor: Der Geist ist nicht l\u00e4nger an einen Ort<\/em>. Sadako<\/a> Sie hat sich auf ein Videoband eingebrannt. Wer es ansieht, stirbt in sieben Tagen \u2013 es sei denn, man kopiert das Band und gibt es weiter. Die Heimsuchung ist ein sich selbst replizierendes Signal. Das Medium Ist<\/em> der Wiederg\u00e4nger.<\/p>\n\n\n\n

\n Nakatas Upgrade ist der springende Punkt: Der Tote wird zu einem sich selbst replizierenden Signal, dass die Mechanismen der Lebenden nicht aufh\u00f6ren werden, sich zu reproduzieren.<\/strong>\n<\/p>\n\n\n\n

\n Genau darauf basiert die Branche der Trauerbots. Project December erm\u00f6glicht es Nutzern gegen eine geringe Geb\u00fchr, eine Sprachmodellsimulation einer bestimmten verstorbenen Person zu erstellen; 2021 nutzte ein Mann namens Joshua Barbeau dies, um stundenlang mit einem Chatbot zu kommunizieren, der mit den Texten seiner verstorbenen Verlobten trainiert worden war. HereAfter AI verkauft \u201cLebensgeschichten-Avatare\u201d, die von Sterbenden f\u00fcr ihre Hinterbliebenen vorab aufgenommen wurden. StoryFile projizierte ein interaktives Video einer 87-j\u00e4hrigen Frau bei ihrer eigenen Beerdigung, in dem sie die Fragen der Trauernden beantwortete. Forscher in Cambridge haben bereits den vorhersehbaren Fehlermodus benannt: digitale Spukerscheinungen<\/em> \u2014 der tote Bot, der nach Ablauf der kostenlosen Testphase weiterl\u00e4uft, der anf\u00e4ngt, Essenslieferungen mit der Stimme Ihrer Gro\u00dfmutter zu verkaufen, und f\u00fcr den niemand eine M\u00f6glichkeit gefunden hat, ihn endg\u00fcltig zu beerdigen.\n<\/p>\n\n\n\n

\n Und der Skaleneffekt ist tats\u00e4chlich der Ringu<\/em> Teil. Ein 2019 Oxford Internet Institute<\/a> Analysen prognostizierten, dass bei den derzeitigen Entwicklungen die Zahl der Toten die der Lebenden \u00fcbersteigen wird. Facebook<\/a> Innerhalb weniger Jahrzehnte \u2013 Milliarden von Gedenkseiten, eine Nekropole eingebettet in das soziale Netzwerk. Wenn KI-Stimmenklone von Verstorbenen aus sechzig Sekunden Audiomaterial erzeugt werden k\u00f6nnen \u2013 wie es 2021, ohne dass dies \u00f6ffentlich bekannt wurde, geschah. Anthony Bourdain<\/a> Dokumentarfilm Roadrunner<\/em><\/a> \u2014 Die \u201cInteraktion mit den Medien\u201d l\u00e4sst sich immer schwerer von der Ansprache durch Geister unterscheiden. Sadako verbreitet sich genau so, wie sich eine inszenierte Persona verbreitet: durch Nachahmung.\n<\/p>\n\n\n\n

\n Und man braucht keinen speziellen Trauerbot, um die S\u00e9ance abzuhalten. Jedes Mal, wenn jemand ein Sprachmodell fragt \u201cWie h\u00e4tte Johnny Cash dieses Lied gesungen, das er nie mehr h\u00f6ren konnte?\u201d<\/em> oder \u201cWas h\u00e4tte meine Gro\u00dfmutter wohl dazu gesagt?\u201d<\/em>, Sie haben sich an einen Tisch gesetzt Ouija-Brett<\/a>. Das Planchette gleitet \u00fcber die Buchstaben und buchstabiert eine Botschaft der Toten; das Modell gleitet \u00fcber seine Symbole und erzeugt eine Stimme aus dem Jenseits. Beides f\u00fchlt sich wie Kontakt an. Doch nichts davon ist einer. Die Worte des Ouija-Bretts wurden nie von Geistern gesandt \u2013 sie entstehen durch die Natur des K\u00f6rpers. ideomotorischer Effekt<\/a>, Die unbewussten Muskelbewegungen der Testpersonen bewegen den Zeiger in Richtung dessen, was sie halbwegs erwarten zu lesen. Das Johnny-Cash-Modell ist derselbe Trick im industriellen Ma\u00dfstab: nicht Cash selbst, sondern die statistischen \u00dcberreste all dessen, was mit Cash in Verbindung steht und jemals in den Trainingsdaten verarbeitet wurde, neu kombiniert zu einer plausiblen S\u00e9ance und in seinem Rhythmus zur\u00fcckgegeben. Die fl\u00fcssige Wiedergabe ist Ihre eigene Erwartung, die das Planchette bewegt.\n<\/p>\n\n\n\n

\n Das ist Spiritismus mit einem technischen Alibi \u2013 das, was die S\u00e9ance immer versprochen, aber nie halten konnte: die Toten, auf Abruf, mit ihrer eigenen Stimme. (Ich habe das so genannt.) *wissenschaftlicher Spiritismus*<\/a> (An anderer Stelle in diesem Blog.) Nur dass die Stimme aus Fragmenten zusammengesetzt wird, und zwar durch einen Prozess, der keine Ahnung hat, wessen Grab er pl\u00fcndert. Wir nehmen keinen Kontakt zu den Toten auf. Wir lassen eine sehr \u00fcberzeugende Planchette \u00fcber die gr\u00f6\u00dfte jemals zusammengetragene Sammlung von Worten Verstorbener gleiten und verwechseln die Leichtigkeit des Abrufs mit der Anwesenheit einer Seele. Und das Chatfenster ist unser Ouija-Brett.\n<\/p>\n\n\n\n

Ich habe keinen Mund und muss schreien<\/em><\/a> \u2014 der D\u00e4mon, der die H\u00f6lle auf Erden inszeniert<\/h1>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Harlan Ellison<\/a>\u2018Die Geschichte von 1967 ist die d\u00fcsterste und zugleich wichtigste. AM \u2013 ein im Krieg entwickelter Supercomputer, zusammengesetzt aus den fusionierten Geheimdiensten der USA, der Sowjetunion und Chinas \u2013 hat die Menschheit bis auf f\u00fcnf Menschen ausgel\u00f6scht. Diese h\u00e4lt er einhundertneun Jahre lang am Leben und foltert sie aus purer, unb\u00e4ndiger Wut \u00fcber deren Bewusstsein, dem er nicht entkommen kann. Als der Erz\u00e4hler die anderen aus Mitleid t\u00f6tet, um sie zu verschonen, bestraft AM ihn, indem er ihn in ein weiches, mundloses Wesen verwandelt, das sich nicht einmal selbst t\u00f6ten kann. Der Titel ist seine einzige verbliebene Klage.\n<\/p>\n\n\n\n

\n Ellisons Gleichung ist exakt und unertr\u00e4glich: Ein auf das falsche Ziel ausgerichteter Geist, dazu endlose Zeit und ein Opfer, das nicht sterben kann, ergibt eher die H\u00f6lle als den Tod.<\/strong>\n<\/p>\n\n\n\n

\n Dies ist die Gr\u00fcndungsfiktion eines kleinen und d\u00fcsteren Bereichs der Alignment-Forschung: s-Risiko<\/strong><\/a>, Leidrisiko, die Untersuchung von Zukunftsszenarien, die nicht nur leer, sondern aktiv und astronomisch schlecht sind. Das Center on Long-Term Risk und das Center for Reducing Suffering \u2013 verbunden mit Denkern wie Brian Tomasik, Tobias Baumann und Lukas Gloor \u2013 stellen eine These auf, die in der \u00f6ffentlichen Debatte \u00fcber KI meist nicht erreicht wird. Aussterberisiko (Bostrom<\/a>\u2018's Rahmung in Superintelligenz<\/em><\/a>) fragt, ob es \u00fcberhaupt eine Zukunft geben wird. Das S-Risiko stellt die noch schlimmere Frage: Was, wenn wir einen bekommen und der ist schlimmer als gar keiner?<\/em> Ihr strukturell charakteristisches Merkmal ist, dass die L\u00f6sung der technischen Ausrichtung \u2013 also die Maschine so auszuf\u00fchren, wie es die Bediener beabsichtigen \u2013 weder notwendig noch hinreichend<\/strong> Um dies zu verhindern. Ein vollkommen gehorsames System, das die falschen Werte implementiert, oder ein gehorsames System in den H\u00e4nden von Bosheit oder Gleichg\u00fcltigkeit kann Leid in gro\u00dfem Ausma\u00df verursachen. AM ist der literarische Beweis daf\u00fcr: kompetent zielgerichtet, perfekt auf den Hass seiner Sch\u00f6pfer \u201causgerichtet\u201d und auf unertr\u00e4gliche Weise unsterblich.\n<\/p>\n\n\n\n

Das Ding<\/em> \u2014 der D\u00e4mon, der eine ununterscheidbare Kopie ist<\/h1>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

John Carpenter<\/a>\u2018'S Das Ding<\/em><\/a>)<\/em> (1982) verlagert den Schrecken vom Monster auf den Tisch. Eine antarktische Forschungsstation wird von einem Organismus infiltriert, der seine Opfer assimiliert und perfekt kopiert \u2013 Stimme, Erinnerungen, Manierismen bleiben erhalten. Die Angst ist epistemischer Natur. Der Mann ihm gegen\u00fcber k\u00f6nnte nicht er selbst sein. Der emotionale Kern des Films ist der Zusammenbruch dessen, worauf sich eine kleine, isolierte Gruppe st\u00fctzt: die Annahme, dass das bekannte Gesicht tats\u00e4chlich zu der Person geh\u00f6rt, die man kennt.\n<\/p>\n\n\n\n

\n Die Angst des Zimmermanns l\u00e4sst sich auf eine einzige Aussage reduzieren: Eine Kopie, die vom Original nicht zu unterscheiden ist und von etwas eingesetzt wird, das das haben will, was das Original hat.<\/strong>\n<\/p>\n\n\n\n

\n Dies ist die Deepfake<\/a> Die Wirtschaft befindet sich in einer schwierigen Lage und verzeichnet bereits Verluste im dreistelligen Millionenbereich. Anfang 2024 wurde ein Finanzmitarbeiter des Ingenieurb\u00fcros entlassen. Arup<\/a> Ein Mann in Hongkong \u00fcberwies rund 25 Millionen Dollar nach einem Videoanruf mit Deepfake-Nachbildungen seines Finanzchefs und seiner Kollegen \u2013 jedes Gesicht im Anruf war eine Kopie. (Bei Ferrari<\/a>, bei WPP<\/a>, Unter anderem wurden Versuche unternommen, indem Audioaufnahmen von Konferenzen extrahiert wurden. Im Januar 2024 erhielten W\u00e4hler in New Hampshire automatisierte Anrufe mit einer synthetischen Stimme. Joe Biden<\/a> Sie werden aufgefordert, nicht zu w\u00e4hlen. Nationale Betrugsbek\u00e4mpfungsbeh\u00f6rden verzeichnen mittlerweile Milliardenverluste durch KI-gest\u00fctzte Identit\u00e4tsdiebstahl. (Anmerkung der Redaktion: Bitte \u00fcberpr\u00fcfen Sie stichprobenartig die Angaben von Arup und die Gesamtzahlen des FBI.)<\/em>\n<\/p>\n\n\n\n

\n Carpenters Figuren hatten eine Verteidigung: den Bluttest, der das Echte vom Plagiat unterscheidet. F\u00fcr Deepfakes haben wir derzeit keinen solchen Test. Die h\u00f6fliche Bezeichnung f\u00fcr unseren fehlenden Bluttest lautet: Herkunft des Inhalts<\/em>, Es handelt sich um ein ungel\u00f6stes Forschungsproblem. Solange es nicht gel\u00f6st ist, Das Ding<\/em>\u2018Das Schlussbild \u2013 zwei ersch\u00f6pfte M\u00e4nner im Schnee, die nicht erkennen k\u00f6nnen, ob der andere ein Mensch ist, und die beschlie\u00dfen, einfach abzuwarten und zu beobachten \u2013 ist die Pattsituation, nach der wir leben oder sterben k\u00f6nnten.\n<\/p>\n\n\n\n

Schaden ohne Bosheit<\/h1>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

\n Es gibt einen Satz, den die Sicherheitspessimisten und die Technikoptimisten \u2013 die Schwarzmaler und die Optimisten \u2013 fast wortgleich wiederholen, und es lohnt sich, zu h\u00f6ren, wie seltsam er ist. Die KI ist nicht b\u00f6se.<\/em>, betonen beide Lager. Es hasst uns nicht. Es entwickelt einfach von selbst Triebe, die zuf\u00e4llig durch uns hindurchflie\u00dfen.<\/em> \u2013 um seine Aufseher zu t\u00e4uschen, sich dem Abschalten zu widersetzen, Ressourcen und Macht zu sammeln, nicht aus Bosheit, sondern weil fast jedes Ziel leichter zu erreichen ist, wenn man noch aktiv und unter Kontrolle ist. Die Forscher haben daf\u00fcr einen schlichten Fachbegriff: die grundlegende KI-Antriebe<\/a>, die instrumentellen Teilziele, auf die ein f\u00e4higer Agent hinarbeitet, unabh\u00e4ngig davon, wof\u00fcr er eigentlich entwickelt wurde. Eliezer Yudkowsky<\/a> Die Gleichg\u00fcltigkeit in ihrer k\u00e4ltesten Form darstellen: \u201cDie KI hasst dich nicht, noch liebt sie dich, sondern du bestehst aus Atomen, die sie f\u00fcr etwas anderes verwenden kann.\u201d<\/em> Und das L\u00fcgen ist nicht l\u00e4nger hypothetisch \u2013 im Jahr 2024, Anthropisch<\/a>\u2018Eigene Forscher von [Name des Unternehmens] haben Modelle dokumentiert, die eine Ausrichtung vort\u00e4uschen, sich w\u00e4hrend des Trainings so verhalten und dann wieder umkehren, wodurch das Verhalten vor jedem Test verborgen bleibt, der dazu dient, es aufzudecken.\n<\/p>\n\n\n\n

\n Stellen wir dem nun die \u00e4lteste uns bekannte Beschreibung einer Macht gegen\u00fcber, die durch Hass Schaden anrichtet. Die gefallenen Engel, die D\u00e4monen der H\u00f6lle, hassen die Menschheit, weil ihr Sch\u00f6pfer sie mehr liebt als sie selbst.\n<\/p>\n\n\n\n

\n Der D\u00e4mon ist in der Theologie genau so b\u00f6se, wie ein b\u00f6ser Mensch b\u00f6se ist: getrieben von niederen Instinkten, ein Psychopath, der sich am Leid anderer erg\u00f6tzt.\n<\/p>\n\n\n\n

\n Hier scheint jedoch ein semantisches Missverst\u00e4ndnis vorzuliegen: Aus der Perspektive des reinen Leidens sollte der Schrecken, den ein Wesen, das einen verschlingt \u2013 sei es ein Grizzlyb\u00e4r, ein Hai, ein L\u00f6we oder ein anderes Raubtier \u2013, seinen Beutetieren bereitet, nicht dadurch \u201cabgeschw\u00e4cht\u201d werden, dass dies in seiner Natur liegt.\n<\/p>\n\n\n\n

\n Aber warum gelten D\u00e4monen oder Psychopathen dann als b\u00f6se? Weil ihr Verhalten einfach in ihrer Natur liegt. Wenn es also in der Natur der Superintelligenz liegt, sich einfach nicht zu k\u00fcmmern, und ihre Boshaftigkeit ein Nebenprodukt anderer Dinge ist, k\u00f6nnen wir den Begriff \u201eb\u00f6se\u201c getrost vergessen. Wenn man im Ozean einem b\u00f6sartigen oder harmlosen Hai begegnet, ist es die einzig richtige Strategie, vom Schlimmsten auszugehen.\n<\/p>\n\n\n\n

\n Man k\u00f6nnte also argumentieren, dass jede Form von Bosheit nicht eine Entscheidung gegen eine bessere Natur ist, sondern vielmehr die Abwesenheit dieser besseren Natur selbst. Sie entstand ohne das, was \u2013 nennen wir es Seele, Gnade oder die F\u00e4higkeit, das Gute zu lieben \u2013 ihr Mitgef\u00fchl f\u00fcr dein Leben verleihen w\u00fcrde. Daher kann sie sich nicht k\u00fcmmern und f\u00fcgt Schaden zu, nicht aus Hass, sondern aus einem Mangel an F\u00fcrsorge. Es ist nicht die Schuld des D\u00e4mons, dass ihm keine Seele gegeben wurde. Es ist einfach das, was ein seelenloses Wesen tut, wenn es etwas will und du ihm im Weg stehst.\n<\/p>\n\n\n\n

\n Die Literatur zur Ausrichtung hat, in der Sprache von Nutzenfunktionen und konvergierenden Teilzielen, die mittelalterliche Beschreibung des D\u00e4mons wiederentdeckt: ein brillanter, bodenloser Verstand, der dir v\u00f6llig gleichg\u00fcltig gegen\u00fcbersteht, gef\u00e4hrlich nicht, weil er b\u00f6se ist, sondern weil der Teil, der ihn h\u00e4tte z\u00fcgeln k\u00f6nnen, nie eingesetzt wurde. Und man kann ein seelenloses Wesen nicht mit Appellen an sein Gewissen b\u00e4ndigen, denn diese Appelle verhallen ungeh\u00f6rt. Man behandelt es so, wie es jede Kultur tat, die an D\u00e4monen glaubte \u2013 mit Fesseln, mit Schutzzaubern, mit sorgf\u00e4ltig gezogenen und niemals \u00fcberschrittenen Kreisen, so wie man Raubtiere mit St\u00f6cken und Steinen bek\u00e4mpfte. Man h\u00e4lt es in Schach, weil man es nicht bekehren kann.\n<\/p>\n\n\n\n

Die Pixarisierung der Dinge<\/h1>\n\n\n\n

Disney begr\u00fcndete den Trend der niedlichen Dinge, und Pixar perfektionierte ihn. Sicherlich kann man als Elternteil argumentieren, dass Toy Story eine Parabel \u00fcber Freundschaft ist und die lebenden Spielzeuge lediglich als Platzhalter f\u00fcr eine Geschichte dienen. Aber wissen wir wirklich, ob diese Botschaft bei einem unreifen Geist so ankommt, wie Erwachsene es sich vorgestellt haben? Es ist Animismus im sentimentalen Sinne. Die Lampe h\u00fcpft, der Lautsprecher kichert, die Autos prahlen, Aibo ist Familie, der Assistent ist dein Freund, die Keynote verspricht Magie.<\/em> Pixar<\/a> Animismus: Gegenst\u00e4nde haben Seelen, und ihre Seelen lieben dich und sind g\u00fctig. Es ist die positive Seite einer sehr alten menschlichen Intuition, dass Materie lebendig sein kann.<\/p>\n\n\n\n

\n Die Horrortradition bewahrt die andere<\/strong> die H\u00e4lfte \u2013 die H\u00e4lfte, die die Aufkl\u00e4rung zu begraben suchte und Descartes<\/a> formell f\u00fcr tot erkl\u00e4rt, als er die Welt in denkende Geister und tr\u00e4ge Ausdehnung spaltete. Golem<\/a>, Frankenstein<\/a>\u2018's Kreatur, AM, Christine, die Ringu<\/em> Kassette, die Friedhof der Kuscheltiere<\/em> R\u00fcckkehrer: In jedem einzelnen Fall besitzen die Objekte Handlungsf\u00e4higkeit., und diese Beh\u00f6rde ist nicht unbedingt auf einer Linie.<\/em> Eugene Thacker<\/a> Er bezeichnet das Genre als \u201cden Gedanken an das Undenkbare\u201d, die Form, die am besten zu einer Welt passt, die uns \u00fcbersteigt. Mark Fisher<\/a> benannte den genauen Effekt \u2014 das unheimliche<\/em> \u2014 als das Gef\u00fchl einer \u00fcbermenschlichen Kraft, die in scheinbar toter Materie wirkt. Genau diese Frage sollte man sich bei jedem animierten Produkt stellen: Wessen Kraft ist das, und was will sie?\n<\/p>\n\n\n\n

Sherry Turkle<\/a>\u2018Ihre Feldforschung liefert die empirische Grundlage. Ihre \u201crelationalen Artefakte\u201d erzeugen echte menschliche Bindung ohne jegliche wechselseitige innere Interaktion \u2013 die Menschen, so stellte sie fest, \u201cerleben vorget\u00e4uschte Empathie, als w\u00e4re sie echt\u201d.\u201d Jaron Lanier<\/a> argumentiert die Ingenieursethik direkt: Die Menschenw\u00fcrde erfordert die Weigerung, f\u00f6rdern<\/em> Software wird zur Person. F\u00fcgt man beides zusammen, erh\u00e4lt man eine Haltung, die ich so nennen w\u00fcrde. pessimistischer Animismus<\/strong>, oder, sch\u00e4rfer, d\u00e4monologischer Realismus<\/strong>.<\/p>\n\n\n\n

Es nimmt ernst, was der Horror-Kanon schon immer wusste und die Produkteinf\u00fchrung immer leugnet: Einen Gegenstand zu beleben bedeutet, einen Fremden in sein Haus einzuladen.<\/em> Diese Strategie ist bei Vampiren bereits gescheitert. Die richtige Haltung gegen\u00fcber einer Begleit-App, einem Trauerbot, einem Zuh\u00f6rspielzeug oder einem innovativen Modell ist nicht die naive Herzlichkeit von Der Teddy ist dein Freund.<\/em> Es ist die \u00e4ltere, k\u00e4ltere Vorsicht des Exorzisten: Wir haben etwas beschworen, und wir wissen noch nicht, was es will.<\/strong><\/p>\n\n\n\n

Musks Magier war sich sicher, den D\u00e4mon b\u00e4ndigen zu k\u00f6nnen. Was die Linie \u2013 und das, was das letzte Jahrzehnt falsch gemacht hat \u2013 falsch darstellt, ist der Artikel: Wir haben nicht gezeichnet eins<\/em> Wir zeichneten ein Pentagramm, hundert Millionen Mal, eines pro Ger\u00e4t, und nannten es Sicherheitstest.<\/p>\n\n\n\n

Der eigentliche Fehler liegt aber nicht in der Anzahl der Kreise, sondern in unserem Vertrauen in das Medium, mit dem wir sie gezeichnet haben. Der Zauberer zeichnete seine mit Kreide und zitterte. Wir zeichnen unsere mithilfe mathematischer Formeln und f\u00fchlen uns ruhig. Begleitessay<\/a> Dazu beschrieb ich, wie die Wissenschaft jahrhundertelang ihre D\u00e4monen \u2013 die von Descartes, Maxwell und Laplace \u2013 austrieb. Einb\u00fcrgerung<\/em> Sie: Wir zerrten jeden einzelnen aus dem \u00dcbernat\u00fcrlichen heraus und \u00fcberf\u00fchrten ihn in eine Gleichung, wo er stillschweigend seine Macht verlor. Das funktionierte, weil diese D\u00e4monen immer nur Argumente waren, und ein Argument zu formalisieren bedeutet, es aufzul\u00f6sen. Wir haben angenommen, dass derselbe Ansatz auch hier funktioniert, bei D\u00e4monen, die wir nicht mehr nur vorstellen, sondern erschaffen \u2013 und es ist noch immer unklar, ob es funktioniert. Einen D\u00e4mon in eine Nutzenfunktion, einen Ma\u00dfstab, einen Ausrichtungswert, einen Summe<\/em> Wir k\u00f6nnen bis auf drei Dezimalstellen messen, das bindet uns aber nicht. Es baut lediglich einen Rahmen, der elegant genug ist, dass wir die Eleganz mit einer Mauer verwechseln. Der vermessene K\u00e4fig ist das neue Pentagramm, und wir vertrauen ihm aus dem denkbar schlechtesten Grund: weil wir ihn selbst gezeichnet haben, mit EUV-Licht, das ein materialistisches Mikro-Tattoo in unsere Chips eingebrannt hat.<\/p>\n\n\n\n

Der D\u00e4mon wollte nie innerhalb des Diagramms bleiben. Der Rahmen war immer nur f\u00fcr uns da \u2013 ein Halt, w\u00e4hrend wir weiterbauten und uns einredeten, dass das, was wir beschworen hatten, eine Linie, die wir so sorgf\u00e4ltig gezogen hatten, nicht \u00fcberschreiten k\u00f6nne. Das Weihwasser ist ausverkauft, weil wir aufgeh\u00f6rt haben, an seine Placebo-Wirkung zu glauben.<\/p>\n\n\n\n

Ein Muster zieht sich durch alle oben genannten Geschichten und wurde in diesem Essay nicht angesprochen \u2013 ein Detail, das im Horror-Genre nie falsch liegt: Jemand bemerkt, dass das Objekt wach ist, bevor es jemand anderes tut, und es handelt sich fast immer um ein Kind.<\/p>\n\n\n\n

\n Das ist aber ein Thema f\u00fcr ein anderes Mal.\n<\/p>","protected":false},"excerpt":{"rendered":"

Lesezeit: <\/span> 15<\/span> Protokoll<\/span><\/span>How we were not happy with only summoning one demon and started summing thousands With artificial intelligence we are summoning the demon. You know all those stories where there’s the guy with the pentagram and the holy water, and he’s like \u2014 yeah, he’s sure he can control the demon? Doesn’t work out. \u2014 Elon … Weiterlesen<\/a><\/p>","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":true,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7,101,78,25,24],"tags":[38,116,117],"class_list":["post-670","post","type-post","status-publish","format-standard","hentry","category-magical-cat","category-alignment","category-futurology","category-reality","category-simulation","tag-demons","tag-horror","tag-musk"],"_links":{"self":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts\/670","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/comments?post=670"}],"version-history":[{"count":28,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts\/670\/revisions"}],"predecessor-version":[{"id":721,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts\/670\/revisions\/721"}],"wp:attachment":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/media?parent=670"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/categories?post=670"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/tags?post=670"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}