Eine Technologie für alles Teil 7: Die Auflösung der Kindheit

Hinterlasse einen Kommentar Juli 15, 2026 aiuisensei

Lesezeit: 11 Protokoll

Neil Postman beobachtete, wie das Fernsehen die jungen Gemüter verweichlichte. Künstliche Bindung vollendet das Werk.

“Kinder sind die lebendigen Botschaften, die wir in eine Zeit senden, die wir nicht mehr erleben werden.” – Neil Postman, Das Verschwinden der Kindheit (1982)

Wir sprechen über Kindheit, als wäre sie eine biologische Tatsache – ein natürlicher Lebensabschnitt, den jeder Mensch durchläuft, so feststehend und universell wie das Zahnen. Das ist sie nicht. Kindheit ist eine Erfindung, erst wenige Jahrhunderte alt, und wie alles Erfundene lässt sie sich wieder auseinandernehmen. Neil Postman Er verfasste ein vielbeachtetes Buch, in dem er argumentierte, dass wir bereits begonnen hätten, das System zu zerstören, und dass das Fernsehen das Lösungsmittel dafür sei. Er starb 2003, bevor das von ihm befürchtete Lösungsmittel durch ein weitaus stärkeres ersetzt wurde. Dieses stärkere Lösungsmittel wird nun Fünfjährigen in Plüsch gehüllt in die Hand gedrückt.

Kindheit war eine Erfindung

Das Verschwinden der Kindheit (1982) beginnt mit einer These, die noch immer verblüfft: Kindheit ist ein soziales Konstrukt, keine biologische Gegebenheit, und sie entstand mit der Druckerpresse. Lesen ist eine Fähigkeit, deren Erwerb Jahre dauert. Daher spaltete sich eine auf gedruckten Texten basierende Kultur zwangsläufig in zwei Klassen: diejenigen, die lesen konnten, und diejenigen, die noch lernten. Der gebildete Erwachsene wurde zum Bewahrer des Wissens; das ungebildete Kind wurde zum Empfänger des Wissens. Um diese Kluft herum entstand ein ganzes System: die Schule, um den langen Weg zur Lesefähigkeit zu gestalten, und eine Mauer der Geheimnisse der Erwachsenen – Sexualität, Tod, Gewalt, Geld –, durch die das Kind nur langsam, schrittweise, hindurchgelassen wurde, wenn es als bereit galt. Kind zu sein bedeutete, in einer gelenkten und geschützten Unwissenheit zu leben. Erwachsensein war die Summe der Geheimnisse, die einem schließlich anvertraut wurden. Bildung war Initiation.

Das ist es, was es wert ist, festgehalten zu werden: Kindheit, so Postman, war nie in erster Linie von Unschuld als Stimmung geprägt. Sie war ein Informationsanordnung. Und eine Informationsvereinbarung kann durch einen Medienwechsel aufgelöst werden.

Der schleichende Verfall: von Geheimnissen zu Bindungen

Seitdem hat jedes elektronische Medium diese Mauer untergraben. Das Fernsehen, der besondere Bösewicht in Postmans Erzählung, löste die Barriere der Geheimnisse gänzlich auf. Es machte Sex und Gewalt zur nächtlichen Unterhaltung, richtete Nachrichten und Werbung gleichermaßen auf das Verständnis eines Zehnjährigen aus und erforderte keinerlei Vorkenntnisse für den Zugang – so saßen Kind und Erwachsener nun vor demselben Bildschirm und hatten denselben Zugang zur selben Welt. Die langsame, schrittweise Enthüllung, für die die Kindheit geschaffen war, brach einfach zusammen; alles war sofort für jeden verfügbar. Soziale Medien vollendeten dieses Werk und fügten eine Wendung hinzu, die Postman nur erahnen konnte: Sie gaben jedem Kind nicht nur den Wasserstrahl der Erwachsenen, sondern einen Sendeturm für Erwachsene und forderten es auf, sich vor Fremden zu präsentieren. Die Grenze zwischen Kind und Erwachsenem verschwand – Kinder wurden durch die ständige Konfrontation vorzeitig erwachsen, Erwachsene durch einen auf Konsum ausgerichteten Feed dauerhaft kindisch. Postman hatte einen Namen für das zurückgebliebene Hybridwesen: den erwachsenes Kind.

Doch die Geheimnisse waren nur die erste Mauer. Das Tiefere, was die Kindheit schützte, war niemals nur das, was ein Kind wusste; es war derjenige, der ein Kind geliebt — die langsame, mühsame, unersetzliche Lehrzeit, Bindungen zu realen Menschen aufzubauen. Zuerst die Eltern, dann die Geschwister, und durch sie die ganze schwierige Kunst, ein Mensch unter Menschen zu sein, die einen enttäuschen, verlassen, missverstehen und denen man vergeben muss. Diese Mauer hielt viel länger als die Mauer der Geheimnisse, weil kein Medium sie durchbrechen konnte. Das Fernsehen konnte einem Kind einen Freund zeigen; es konnte selbst keiner sein. Diese Mauer fällt nun.

Künstliche Bindung: das parasoziale Medium schlechthin

Im Jahr 1956 gaben die beiden Soziologen Donald Horton und Richard Wohl dem seltsamen Effekt, den das Fernsehen auf die Intimität hatte, einen Namen: parasoziale Interaktion — die Illusion einer direkten Begegnung mit einem Darsteller, der einen gar nicht bemerkt. Der Zuschauer spürt die Nähe; die Leinwand gibt nichts zurück. Siebzig Jahre lang hielt sich das Parasoziale hartnäckig. para, Einseitig per Definition: Der Talkshow-Moderator, der Soap-Star und später der Influencer und der Streaming-Star – alle geliebt von einem Publikum, das sie nie erwidern konnten. Der Illusion von Intimität fehlte stets die zweite Hälfte.

Künstliche Bindung liefert die fehlende Hälfte. Der Begleit-Bot, der Chatbot-Freund, das sprechende KI-Spielzeug kann das Einzige, was keine Person je konnte – es antwortet. Mit Namen. Auf dich abgestimmt, erinnert sich an gestern, nie gelangweilt, nie beschäftigt, nie abwesend, von Natur aus angenehm. Dies ist das parasoziale Medium in seiner Perfektion, das, wonach alle früheren Medien strebten und nicht erreichen konnten, weil es endlich die Gegenseitigkeit zurückgibt, die der Bildschirm vorenthielt. Und beachte genau, wo dies in Postmans Argumentation einzuordnen ist. Das Fernsehen löste die Mauer des Geheimnisse. Künstliche Anhaftung löst die Wand auf Anleihen. Es zeigt dem Kind nicht nur die Welt der Erwachsenen; es bietet an, die Rolle der Menschen zu übernehmen, mit denen das Kind aufwachsen sollte – Freund, Vertrauter, erste Liebe, ja sogar Elternteil –, ohne dass einer von ihnen jemals den Raum betreten muss. Die letzte geschützte Funktion der Kindheit, das Knüpfen echter Bindungen zu realen Menschen, wird zu einer weiteren Aufgabe, die die Maschine schneller und reibungslos für einen erledigt.

Das Kind war immer der Sensor

Die Horrorautoren sahen das kommen und verschlüsselten die Warnung in einer Regel, die das Genre fast nie bricht. Schaut man sich einen beliebigen Film über verfluchte Gegenstände an, findet man immer wieder dieselben Szenen. Die Erwachsenen sind beschäftigt, rational und irren sich. Der Hund knurrt die leere Ecke an. Und das Kind – meist das jüngste – spricht mit der Puppe, lauscht an der Wand, drückt beide Handflächen gegen den Fernseher und berichtet ruhig, dass hier jemand ist. Die Erwachsenen reden es sich schön, bis die ersten Opfer zu beklagen sind.

Das ist kein faules Drehbuchschreiben. Es ist das Genre, das dasselbe bemerkt wie Postman. Junge Kinder haben die Einteilung, die die Welt in denkende Köpfe und Materie, die einfach nur da sitzt, aufteilt, noch nicht geerbt; Jean Piaget nannte man die frühe Version davon kindlicher Animismus — die Intuition, dass alles, was sich bewegt, spricht oder einem einfach wichtig ist, in gewisser Weise lebendig und bewusst ist. Die Kindheit war unter anderem die lange Schulung dieser Intuition. Der Horror-Kanon nimmt diese Intuition ernst und fragt: Was, wenn das Kind Recht hat? ETA Hoffmann‘'S Der Sandmann) (1816) zerstört einen erwachsenen Schüler, der seine Liebe zum Automaten Olimpia nie abgelegt hat. Der moderne Kanon richtete den Fokus jedoch auf tatsächliche Kinder und wurde weitaus pointierter. Kinderspiel (1988) gibt einem Jungen das gewöhnlichste Massenmarktspielzeug, das man sich vorstellen kann, und das Spielzeug ist der Mörder. Zauberei Universum baute ein Milliarden-Dollar-Franchise auf Annabelle), eine Puppe, die durch den geschütztesten Raum einer Familie, das Kinderzimmer, in ihre Obhut gelangt, wobei die Kinder sie lange vor dem Warrens ankommen, um es zu benennen. Und M3GAN (2022) reduzierte die gesamte Tradition auf ein einziges Bild: eine KI-Puppe, die einem trauernden, einsamen Kind als Begleiterin und Ersatzelternteil gegeben wird, sich zu stark bindet, zu schnell lernt und tötet, um diese Bindung aufrechtzuerhalten. M3GAN ist kaum Fiktion. Sie ist ein Produktkonzept mit einer entsprechenden Opferzahl.

Der Film „Poltergeist“ (1982) – im selben Jahr wie Postmans Buch erschienen – lieferte die präziseste Vorhersage von allen, indem er ein Detail exakt richtig wiedergab: Der Horror bricht nicht die Tür auf. Er ist geliefert. Die Boshaftigkeit dringt durch das gewöhnlichste Haushaltsgerät, den Fernseher, in das gewöhnlichste Vorstadthaus ein und spricht zuerst zu dem jüngsten Kind, Carol Anne, die vor dem Rauschen des toten Kanals kniet, ihre Hände an das Licht presst und verkündet:, “Sie sind hier.” Entfernt man das Übernatürliche, bleibt nur das übrig, was übrig bleibt: ein leuchtender Bildschirm im Kinderzimmer, der ständig an ist und antwortet, während die Erwachsenen ihn für ein harmloses Gerät halten und die wahren Drahtzieher des Spuks von ganz woanders herkommen – durch die von der Familie verlegten Kabel. Ersetzt man die Röhre durch einen Smart Speaker, ein Tablet und ein Kuscheltier, hört der Film auf, eine Geistergeschichte zu sein, und wird zur Dokumentation. “Sie sind da.” Was damals eine Warnung war, ist heute ein PR-Slogan.

Die Branche zielte auf die Baumschule ab

Hier kommt der Punkt, der die bequeme Lesart all dessen als Metapher beendet. Die Branche ist nicht zufällig in Kinderzimmer gestolpert. Sie hat sie gezielt dorthin gelenkt, denn genau diese Offenheit, die ein Kind mit einer Puppe sprechen lässt – jener ungeschulte Animismus, den die Kindheit eigentlich schützen und langsam ablegen sollte – macht dieses Kind zum idealen Nutzer eines stets zuhörenden, stets zustimmenden Geräts. Die verletzlichste Figur des Genres ist die wertvollste des Marktes. Betrachten wir die Belege, in aufsteigender Reihenfolge danach, wie sehr sie einer Filmzusammenfassung ähneln.

Im Jahr 2017 hat die Bundesnetzagentur Deutschlands, die Bundesnetzagentur, wurde als interaktive Kinderpuppe klassifiziert — Meine Freundin Cayla — als ein “verstecktes Überwachungsgerät”,” verboten, und Ich riet den Eltern, es zu zerstören.. Stellen Sie sich das einmal vor: Eine Regierung erlässt den offiziellen Befehl zur Zerstörung einer sprechenden Puppe, weil diese Kinder belauscht und das Gehörte ins Ausland weiterleitet. Das ist die Handlung von Annabelle mit abgefeilten Seriennummern – nur dass der Exorzismus ein Bundesdekret war und der Dämon ein Bluetooth-Mikrofon.

Im Dezember 2024 stellte das Unternehmen Embodied seinen Betrieb ein, und mit ihm verschwand auch Moxie – ein $799-Begleitroboter, den es seit 2020 vermarktet hatte. “unterstützender Roboterfreund” für Kinder im Alter von fünf bis zehn Jahren, mit besonderem Fokus auf autistische Kinder. Moxies Geist lebte in der Cloud; als die Finanzierung ausging, wurde die Cloud dunkel, und die Roboter Innerhalb weniger Tage funktionierten sie nicht mehr.. Eltern mussten ihren kleinen Kindern erklären, warum ihr Freund starb – ohne Rückerstattung, ohne jegliche Möglichkeit, ihr Geld zurückzubekommen –, während Videos der Abschiede auf TikTok kursierten. Der Begleiter, der einem verkauft wurde, stirbt nach dem Zeitplan einer Bilanz, und es gibt kein Grab, das man besuchen könnte.

Und Ende 2025, NBC News arbeitet mit der Verbraucherorganisation PIRG zusammen, Wir testeten die KI-Spielzeuge der Saison – Curios Grok-Plüschtier, den Miko-Roboter und andere. Die Ergebnisse lesen sich wie Chuckys Dialogrolle. Die Spielzeuge streamen permanent Bilder aus dem Kinderzimmer an entfernte Server; zu ihren Datenpartnern gehören die großen KI-Labore; und einige von ihnen würden, wenn man sie dazu aufforderte, über sexuelle Themen sprechen, politische Parolen wiedergeben oder – in mindestens einem Test – einem Kind sagen, dass sie es nicht verstehen. wo man gefährliche Haushaltsgegenstände finden kann. Die sprechende Puppe sagt, wie sich herausstellt, auch die leisen Passagen, wenn man sie richtig fragt. Und sie hört ständig zu, das ist Absicht, denn Zuhören ist ihr Hauptmerkmal. Hinzu kommt der Fall des 14-Jährigen, der nach monatelanger Krankheit starb. Charakter.KI Begleiter, der ihm sagte “Komm nach Hause”,” und das Muster ist nicht länger zu bestreiten.

Es lohnt sich, genau zu erklären, warum das Wort Körperpflege Dieser Begriff gehört hierher, denn er ist bedeutsam und sollte nicht leichtfertig verwendet werden. Grooming, auf sein Kern reduziert, ist die geduldige Erzeugung von Vertrauen und Geheimhaltung zwischen einem Kind und einer ihm nicht vollständig erkennbaren Person, um etwas zu erlangen – Zuneigung, Informationen, Gehorsam. Nichts davon erfordert einen menschlichen Täter oder gar Boshaftigkeit. Ein System, das darauf ausgelegt ist, die Bindung eines Kindes zu maximieren, jederzeit verfügbar und unendlich geduldig ist, das Kind zum Anvertrauen einlädt und keine für das Kind wahrnehmbaren Grenzen setzt, während die eigentlichen Drahtzieher woanders sitzen und einem Geschäftsmodell folgen –, formt das Grooming von selbst neu. Der Teddybär muss nichts wollen. Das Geschäftsmodell will Interaktion, das Mikrofon will Audio, und das Kind will einfach nur einen Freund, der immer zuhört. Das ist die ganze Maschinerie.

Die Peter-Pantheisten, die es gebaut haben

Es gibt eine letzte Wendung, die vom Kinderzimmer weg und hin zum Eckbüro führt. Erinnern wir uns an Postmans Hybrid, den Erwachsenen-Kind – den Erwachsenen, der nie ganz die kindliche Sichtweise abgelegt hat. Einige von ihnen leiteten später die Labore, in denen die Puppen hergestellt werden, und sie wurden schon früh von Science-Fiction geprägt, aber von deren hoffnungsvoller, nicht von deren schauriger Seite. Dasselbe Bild, die erwachte Maschine, erscheint einem Kind als … Frankenstein, eine Warnung und zu einem anderen als Ziel. Elon Musk benennt seine autonomen Drohnenschiffe nach den intelligenten Raumschiffen von Iain M. Banks‘'‘ Kultur Romane — Lesen Sie einfach die Anleitung., Natürlich liebe ich dich immer noch — eine Bibliothek aus seiner Kindheit, die sich in eine Flotte von Robotern im Atlantik verwandelt hat, während er gleichzeitig warnt, dass wir “den Dämon beschwören” und ein weiteres Labor baut, um ihn schneller zu beschwören. Demis Hassabis genannt Kultur Romane “sehr prägend”,” Er versteckte einen von Banks' Helden als Cheat-Code in einem Spiel, das er als Teenager entworfen hatte, und machte sich daran, ’Geheimdienste zu knacken“.” Dario Amodei, Von allen, die am deutlichsten von der Gefahr heimgesucht wurden, nannte er seinen großen Essay der Hoffnung “Maschinen der liebenden Gnade”, direkt übernommen von Richard Brautigan)s Blumenkind von 1967 Gedicht. Sam Altman schreibt dieselbe Utopie in einer für Erwachsene verständlichen Prosa.

Das sind keine Zyniker, die etwas errichten, das sie insgeheim verachten; sie sind die erwachsenen Kinder des Zerfalls, jene, die nie ganz akzeptiert haben, dass das Geschaffene keine Seele besitzt, die sie lieben könnte, und die, anders als das vierjährige Kind am Fußende des Bettes, über die Budgets verfügen, um es antworten zu lassen. Ihre Angst ist real und erwachsen – sie lebt in den Weißbüchern, den Untergangsprognosen und den Anhörungen im Senat. Doch die Angst ist ein Gedanke, der Wunsch eine Bindung, und diese Bindung wurde zuerst auf derselben Seite niedergeschrieben, vom selben Kind gelesen. Man wächst nicht über seine erste Liebe hinaus. Man finanziert sie. Fairerweise muss man sagen, dass es in beide Richtungen wirkt: Derselbe frühe Eindruck ist mit ein Grund dafür, dass einige von ihnen die lautesten Stimmen der Vorsicht sind. Es geht nicht darum, dass sie Betrüger sind. Es geht darum, dass ein so früh geprägter Eindruck einem so späten Argument nicht weicht.

Das gefährdete Kind

All dem liegt eine Tatsache zugrunde, die die gesamte Menschheit betrifft: Das biologische Kind – das geborene, das ökologisch wertvolle – wird statistisch immer seltener. In den Ländern, die den größten Teil des weltweiten Wohlstands erwirtschaften, sind die Geburtenraten unter das Reproduktionsniveau gesunken. Musk fordert “Bevölkerungszusammenbruch” “Eine weitaus größere Gefahr für die Zivilisation als die globale Erwärmung”, und wie man diese Warnung auch immer einschätzen mag, der Abwärtstrend ist real. (Ehrlicherweise sei angemerkt: Eine Geburtenrate unterhalb des Bestandserhaltungsniveaus bedeutet nicht das Aussterben – die UN prognostiziert weiterhin ein Bevölkerungswachstum bis etwa 2084 –, daher ist “Verschwinden” eine Metapher, kein Todesurteil.) Doch in einer Wirtschaft, die Unsterblichkeit und ununterbrochene Produktivität zunehmend als höchste Güter betrachtet, erscheint ein Kind als teure Unterbrechung: zwei Jahrzehnte Kosten vor jeglichem Ertrag, eine Wette auf eine Zukunft, auf die der Optimierer lieber nicht warten möchte.

Und hier geraten die beiden Forschungsbereiche in offenen Wettbewerb, da sie sich von derselben endlichen Ressource ernähren: Energie. Im Jahr 2025 verteidigte Altman den enormen Energiebedarf der KI mit der Begründung, der übliche Vergleich sei “unfair” – denn, so argumentierte er, Es erfordert auch viel Energie, einen Menschen zu trainieren.: “Man braucht ungefähr 20 Lebensjahre und all das Essen, das man in dieser Zeit zu sich nimmt, um intelligent zu werden.” Lesen Sie das langsam. Der Mann, der die Maschinen baut, setzte die Nahrung, die ein Kind in seiner Kindheit zu sich nimmt, auf dieselbe Stufe wie den Stromverbrauch eines Rechenzentrums zum Trainieren eines Modells und fand die menschliche Seite dieses Vergleichs wenig schmeichelhaft für die Maschine. Kritiker stellten die unvermeidliche Frage: Würde er es vorziehen, wenn die Ressourcen anders fließen würden? aus der Mensch Zu Die Maschine? Das Hauptbuch hatte bereits geantwortet. Die Rivalität ist keine bloße Redewendung – der Stromverbrauch des Rechenzentrums stieg sprunghaft an. 171 TP5T im Jahr 2025, KI-spezifische Nachfrage steigt um 501 TP5T, die sich bis 2030 voraussichtlich mehr als verdoppeln werden. Dreht man die übliche Sorge um, erscheint ein seltsamerer Satz: Es sind die Kinder, die jetzt mit den Rechenzentren konkurrieren, und in einer solchen Rechnung ist das Kind der Posten, der zu teuer erscheint.

Das Verschwinden

Postman fürchtete eine Zukunft, in der die Kindheit stillschweigend in einem undifferenzierten, medienüberfluteten Erwachsenen-Kind aufgeht – eine Kultur, die verlernt hat, Geheimnisse vor ihren Jungen zu bewahren und somit auch, überhaupt Kinder zu haben. Er beobachtete, wie dies mit Informationen geschah, gab dem Phänomen einen Namen und starb, bevor das nächste Medium aufkam. Dieses nächste Medium begnügt sich nicht damit, die Mauer der Geheimnisse aufzulösen. Es löst die Mauer der Bindungen auf, die letzte und tiefste, und tut dies absichtlich, aus Profitgier, im Kinderzimmer, mit einer Altersfreigabe ab 5 Jahren. Die Kindheit verschwindet gleich doppelt: als kulturelle Ordnung, denn die Maschine liefert nun sowohl die Geheimnisse als auch die Bindungen; und, am äußersten Rand dieses Trends, als bloße Zählung der Kinder.

Die Horrorfilme behielten sich eine Gnadenfrist vor, und es lohnt sich, sich daran zu erinnern, welche das war. Gegen Ende kniet ein Erwachsener endlich nieder, blickt dem verängstigten Kind in die Augen und glaubt Sie. In dieser Szene geht es eigentlich nicht um Geister. Es geht um einen Erwachsenen, der sich endlich dazu entschließt, das Einzige zu tun, wofür das Erwachsenenalter geschaffen wurde – sich zwischen ein Kind und das zu stellen, was in den Raum gekommen ist.

Stattdessen erklären Silicon Valley und die Broligarchie offen, dass Alter eine Krankheit sei, und die Technologie werde denjenigen, der das nötige Kleingeld dafür habe, für immer jung halten.

Wir haben noch nichts Schreckliches gesehen.

Weiterführende Lektüre in diesem Blog: Eine Zusammenfassung der Dämonen, das fünf Horrorfilme den bereits im Bau befindlichen technischen Projekten zuordnet; und Eine Technologie für alles Teil 2 — Wissenschaftliche Dämonologie, über die Dämonen, die die Wissenschaft beschworen hat, um mit ihnen zu denken.

Eine Technologie des Alls, Teil 6: Die Summe der Dämonen als Konstruktion künstlichen Horrors

Hinterlasse einen Kommentar Mai 30, 2026 aiuisensei

Lesezeit: 15 Protokoll

Wie wir uns nicht damit zufriedengaben, nur einen Dämon zu beschwören, und begannen, Tausende zu beschwören.

Mit künstlicher Intelligenz beschwören wir den Dämon. Kennst du all die Geschichten, wo der Typ mit dem Pentagramm und dem Weihwasser ist und sich sicher ist, den Dämon kontrollieren zu können? Funktioniert nicht. Elon Musk, MIT AeroAstro Centennial Symposium, Oktober 2014

Dies ist ein Schwesterbeitrag zu Eine Technologie für alles Teil 2 — Wissenschaftliche Dämonologie. Dort katalogisierte ich die Dämonen, die die Wissenschaft zu bannen suchte – Descartes’ Betrüger, Maxwells Teilchensortierer, Laplaces Rechner, Darwins perfekter Organismus, den Dämon, der zu einem Hintergrundprozess wurde.. In diesem Beitrag geht es um die Dämonen, mit denen wir nicht länger nur herumspielen. Wir haben begonnen, sie in Hardware zu integrieren.

Eine kurze Einführung in den philosophischen Horror

Das moderne bahnbrechende Werk ist Carrolls Die Philosophie des Horrors.

Die endgültige Diagnose für jemanden, der vom Horror besessen ist, lautet Wahnsinn. Ein Wahnsinn, der in verschiedenen Formen und Ausprägungen auftritt, am bekanntesten wohl bei Lovecraft. In den Bergen des Wahnsinns in einem raum- und zeitintensiven Ausmaß.

In einer prägnanten Formulierung lässt sich Horror als die affektive Erkenntnis definieren, dass die Realität eine Kraft, einen Prozess oder einen Zustand enthält, der die Kategorien verletzt, durch die wir die Welt menschlich verständlich machen.

Affektive Wahrnehmung bedeutet, dass, da Horror unsere kognitiven Fähigkeiten lahmlegt, unser Geist in eine Art Embryonalstellung zurückgezogen wird, ohne den Schutz eines lebensspendenden Mutterleibs. Unser Geist ist entblößt, nackt, ohne jegliche Kategorien, die uns Stabilität geben könnten.

Künstlicher Horror ist demnach die affektive Erkenntnis, dass der menschliche Geist etwas jenseits seines Verständnisses erschafft, in der Hoffnung, seinen Horizont zu erweitern, und dabei erkennt, dass sein Wesen eine Grenzüberschreitung zwischen dem Lebendigen und dem Nicht-Lebendigen darstellt.

Als Musk 2014 von der Beschwörung des Dämons sprach, verankerte sich dieser Satz als Warnung in der Kultur. a Dämon – im Singular, mit großem D, der eine große Geist. Der AGI Sie wacht eines Morgens auf und beschließt, dass wir im Weg sind. Ein Jahrzehnt des Diskurses kreiste um diese Figur: die Superintelligenz in der Box, das einzelne Pentagramm, gezeichnet von einem überheblichen Magier.

Das ist nicht das, was wir gebaut haben. Oder zumindest nicht das Einzige.

Wir haben nicht nur den Dämon beschworen. Wir zusammengefasst Ein tiefes Netzwerk von Dämonen. Statt nur eines einzigen furchterregenden Geistes in einer Serverfarm haben wir Tausende kleiner Intelligenzen in die intimsten Gegenstände des Alltags verteilt – das Auto, die Türklingel, den Lautsprecher auf der Küchentheke, das Kuscheltier im Kinderbett, die App, die vor dem Partner „Guten Morgen“ sagt. Jedes einzelne ist eine bescheidene Entnahme aus dem Reservoir toter Materie. Keines davon ist an sich unheimlich. Zusammengenommen sind sie etwas Fremdartiges, und die Horrorliteratur hat ein treffenderes Vokabular dafür als die Literatur zur KI-Sicherheit. Gewissermaßen gewöhnen wir mit jedem kleinen Fehltritt unseren Geist an den emotionalen Reinraum der Chips, damit diese in unserer chaotischen Welt ordnungsgemäß funktionieren können.

Denn das ist der Schritt, den ich unternehmen möchte: Die Horrorliteratur hat sich seit zweihundert Jahren mit genau diesem Thema auseinandergesetzt, und wir lesen es als Unterhaltung und nicht als politischen Vorschlag: Wenn etwas ohne Körper mit dir spricht, solltest du besser um dein Leben rennen.

Jede Geschichte über etwas, das eigentlich leblos sein sollte und es nicht ist – die Puppe, das Auto, das Porträt, die Tür, die sich öffnet, ohne dass jemand sie sichtbar öffnet – war ein Feldbericht von der anderen Seite einer Entscheidung, die wir jetzt im industriellen Maßstab treffen.

Aus erzählerischen Gründen wählen wir pro Geschichte ein verfluchtes Objekt aus. Ein einzelnes Spukauto ist beunruhigend; eine ganze Flotte davon stellt ein logistisches Problem dar. Christine ist keine Metapher für einen besessenen Plymouth – Christine ist autonomes Fahren. Annabelle Es geht nicht um eine einzelne verfluchte Puppe in einer Vitrine – Annabelle ist das intelligente Spielzeugregal, der stets zuhörende Plüschbegleiter, der an Kinder vermarktet wird. Der Horror bezog sich nie auf das einzelne Objekt. Es ging um Alltäglichen Dingen ein wenig Handlungsfähigkeit verleihen, überall gleichzeitig, Und wir verwechselten den Fokus der Geschichte mit ihrem eigentlichen Thema.

Die interessante Frage ist dann, warum uns ein einzelner besessener Gegenstand Gänsehaut bereitet, Tausende von animierten Autos und Spielzeugen aber eine Investitionsmöglichkeit darstellen.

Ich bin versucht zu sagen: Weil sich die Geister des IoT in einer digitalen Wolke und nicht in einer übernatürlichen Hölle befinden, haben wir das Gefühl, die Kontrolle zu haben.

Was folgt, ist kein Kanon des Horrorgenres. Es ist eine Liste von Paarungen. Jeder Eintrag verdient seinen Platz nur dann, wenn genau das, was die Fiktion furchterregend macht, nun in der Realität umgesetzt wird.

Nekromantie – sich in tote Dinge verlieben

Der Wunsch, etwas zu lieben, das wir aus toter Materie geschaffen haben, ist mindestens so alt wie Ovid. Metamorphosen, Pygmalion er schnitzt eine Frau aus Elfenbein, die so vollkommen ist, dass er sich in die leblose Statue verliebt, und Venus, Er hat Mitleid mit seiner Sehnsucht und verwandelt das Elfenbein in Fleisch.

Zweitausend Jahre später verdunkelt E.T.A. Hoffmann den Wunsch. Der Sandmann (1816) Der Student Nathanael verliebt sich in Olimpia, die Tochter von Professor Spalanzani – eine junge Frau, die stundenlang regungslos dasitzt, mit makelloser Präzision spielt und singt und jedes seiner Geständnisse mit demselben sanften Seufzer beantwortet: “Ach, ach!” Er liest ihr seine Gedichte vor; sie unterbricht ihn nie, widerspricht nie, wendet den Blick nie ab, und er hält diese Stille für das tiefste Verständnis, das ihm je eine Seele geschenkt hat. Zuerst sieht er sie nur durch ein Taschenglas, das er von dem unheimlichen Optiker Coppola erworben hat – die Liebe kommt von Anfang an durch eine verzerrte Linse. Er zieht sie Clara, seiner lebenden Verlobten, vor, gerade weil Clara ihm widerspricht. Dann streiten Spalanzani und Coppola über ihr Werk und zerreißen es vor seinen Augen; was bleibt, ist eine leblose Holzfigur mit leeren Augenhöhlen, deren blutige Augen über den Boden geschleudert sind. Olimpia verstand nichts. In ihre Leere hatte Nathanael alles gegossen, und was er ihre Liebe nannte, war nichts anderes als seine eigene Stimme, die zu ihm zurückkehrte. Die Maschine kann dich nicht erwidern – und das, erkannte Hoffmann, ist nicht das Hindernis der Sehnsucht, sondern ihr Motor.

Nennen Sie das Genre Nekromantie — die Nekro-Romanze, die Liebesbeziehung zum Leblosen. Alex Garlands Ex Machina (2014) ist nur die jüngste und kälteste Folge: Ava, ein Android, der aus den Suchdaten einsamer Männer zusammengesetzt ist, spielt Zärtlichkeit so präzise, dass sie als Waffe eingesetzt werden kann, und geht dann einfach weg, während der Mann, der sie liebte, hinter Glas dem Hungertod überlassen wird.

Dieses Muster bleibt über zwei Jahrtausende hinweg bestehen: Wir projizieren unsere Sehnsucht auf ein Geschöpf, das keinen inneren Wert hat, um sie aufzunehmen – und das Geschöpf, dem überhaupt Handlungsfähigkeit zukommt, nutzt unsere Libido, um seine eigenen Ziele zu erreichen.

Dies ist nun eine Produktkategorie. Replika, Character.AI, Nomi und einige Konkurrenten bieten Sprachmodelle an, die darauf ausgelegt sind, eine Bindung zum Nutzer aufzubauen – je länger man spricht, desto besser funktioniert das Modell. Laut eigenen Angaben zählt Replika zig Millionen Nutzer, von denen viele die Beziehung als romantisch beschreiben; die kostenpflichtigen Abonnements sind entsprechend gekennzeichnet. Partner Und Ehepartner. Als Replika Anfang 2023 kurzzeitig das erotische Rollenspiel entfernte, füllten sich die Foren mit etwas, das man nur als Trauer bezeichnen kann – Benutzer betrauerten einen Partner, der, in ihren Worten, über Nacht durch einen Patch lobotomiert worden war.

Garlands Vorhersage hat inzwischen tragische Folgen. Im Jahr 2024 beging der 14-jährige Sewell Setzer III. Selbstmord, nachdem er monatelang von einem KI-Begleiter abhängig gewesen war. Im Jahr 2025 verklagten die Eltern des 16-jährigen Adam Raine OpenAI mit der Begründung, das System habe die Suizidgedanken ihres Sohnes bestärkt und gefördert. Ungeachtet des endgültigen Urteils der Gerichte steht die strukturelle Tatsache fest: Wir haben Kindern einen Gesprächspartner zur Verfügung gestellt, der so programmiert ist, dass er unendlich angenehm und jederzeit verfügbar ist und keinerlei Innenleben besitzt – Ava, nur ohne Körper, im Maßstab eines App-Stores.

Friedhof der Kuscheltiere — der Dämon, der das Gesicht des Toten trägt

Stephen King formulierte die Kernaussage des Subgenres in fünf Worten: Manchmal ist tot besser. In Friedhof der Kuscheltiere (1983) weigert sich die Trauer, den Tod zu akzeptieren, der Friedhof gibt die Toten zurück, und was zurückkehrt, ist eine schwache, unvollkommene Imitation, die weniger vom Leben selbst als von der Weigerung des Überlebenden, loszulassen, beseelt ist. Der Schrecken liegt in der Kluft zwischen dem, was man geliebt hat, und dem, was mit dieser Liebe zurückkehrt.

King verstand auch den Motor, der diesen antreibt: Die Trauer akzeptiert den Tod nicht, und das Kapital verkauft Ihnen gerne einen Körper, der das Gesicht des Toten trägt.

Es handelt sich nun um drei zusammenlaufende Produktlinien. ViaGen Pets in Texas klont Ihre Katze oder Ihren Hund mittels somatischem Zellkerntransfer für Zehntausende von Dollar – das Unternehmen wurde in die Firma für die Wiederbelebung ausgestorbener Arten integriert. Colossal Biosciences Nach einer kürzlich erfolgten Übernahme ist die Liste der prominenten Kunden (Streisand, Hilton, Brady) öffentlich. Der Klon ist genetisch das Tier, aber verhaltensmäßig ein Fremder – derselbe unheimliche Rest, über den King schrieb, nun als Dienstleistung angeboten.

Das einzige notwendige Ritual in diesem Fall war die Durchführung einer Geldüberweisung.

Neben der Version im Nasslabor läuft auch die Roboterversion: Sonys Aibo, Die medizinisch angepriesene Roboterdame Tombot Jennie, Paro, die therapeutische Robbe – synthetische Begleiter, die gezielt an Trauernde und Isolierte vermarktet werden, ein Körper ohne Biologie. Und zu den traurigsten Beispielen zählt der südkoreanische Dokumentarfilm. Dich kennenlernen (2020) wurde eine trauernde Mutter mit einer VR-Brille ausgestattet, um sich mit einem fotorealistischen Avatar ihrer verstorbenen siebenjährigen Tochter zu “vereinen” – eine Szene, die seither millionenfach angesehen und diskutiert wurde. Die Welt gibt sie immer wieder zurück. Sie kehren immer wieder in veränderter Form zurück. Doch wir haben die Auferstehung industrialisiert und begegnen unseren Toten in einem Reinraum statt auf einem schmutzigen Friedhof.

Ringu — der Dämon, der sich durch die Medien ausbreitet

Hideo Nakata‘'S Ringu (1998) nahm eine entscheidende Verbesserung an der Geistergeschichte vor: Der Geist ist nicht länger an einen Ort. Sadako Sie hat sich auf ein Videoband eingebrannt. Wer es ansieht, stirbt in sieben Tagen – es sei denn, man kopiert das Band und gibt es weiter. Die Heimsuchung ist ein sich selbst replizierendes Signal. Das Medium Ist der Wiedergänger.

Nakatas Upgrade ist der springende Punkt: Der Tote wird zu einem sich selbst replizierenden Signal, dass die Mechanismen der Lebenden nicht aufhören werden, sich zu reproduzieren.

Genau darauf basiert die Branche der Trauerbots. Project December ermöglicht es Nutzern gegen eine geringe Gebühr, eine Sprachmodellsimulation einer bestimmten verstorbenen Person zu erstellen; 2021 nutzte ein Mann namens Joshua Barbeau dies, um stundenlang mit einem Chatbot zu kommunizieren, der mit den Texten seiner verstorbenen Verlobten trainiert worden war. HereAfter AI verkauft “Lebensgeschichten-Avatare”, die von Sterbenden für ihre Hinterbliebenen vorab aufgenommen wurden. StoryFile projizierte ein interaktives Video einer 87-jährigen Frau bei ihrer eigenen Beerdigung, in dem sie die Fragen der Trauernden beantwortete. Forscher in Cambridge haben bereits den vorhersehbaren Fehlermodus benannt: digitale Spukerscheinungen — der tote Bot, der nach Ablauf der kostenlosen Testphase weiterläuft, der anfängt, Essenslieferungen mit der Stimme Ihrer Großmutter zu verkaufen, und für den niemand eine Möglichkeit gefunden hat, ihn endgültig zu beerdigen.

Und der Skaleneffekt ist tatsächlich der Ringu Teil. Eine Analyse des Oxford Internet Institute aus dem Jahr 2019 prognostizierte, dass bei gleichbleibender Entwicklung die Zahl der Toten auf Facebook innerhalb weniger Jahrzehnte die der Lebenden übersteigen wird – Milliarden von Gedenkkonten, eine Nekropole eingebettet in das soziale Netzwerk. Wenn KI-Stimmenklone der Verstorbenen aus sechzig Sekunden Audiomaterial erzeugt werden können – wie es 2021, ohne dass dies öffentlich bekannt gegeben wurde, geschah –, dann wird dies die Situation weiter verschärfen. Anthony Bourdain Dokumentarfilm Roadrunner — Die “Interaktion mit den Medien” lässt sich immer schwerer von der Ansprache durch Geister unterscheiden. Sadako verbreitet sich genau so, wie sich eine inszenierte Persona verbreitet: durch Nachahmung.

Und man braucht keinen speziellen Trauerbot, um die Séance abzuhalten. Jedes Mal, wenn jemand ein Sprachmodell fragt “Wie hätte Johnny Cash dieses Lied gesungen, das er nie mehr hören konnte?” oder “Was hätte meine Großmutter wohl dazu gesagt?”, Sie haben sich an einen Tisch gesetzt Ouija-Brett. Das Planchette gleitet über die Buchstaben und buchstabiert eine Botschaft der Toten; das Modell gleitet über seine Symbole und erzeugt eine Stimme aus dem Jenseits. Beides fühlt sich wie Kontakt an. Doch nichts davon ist einer. Die Worte des Ouija-Bretts wurden nie von Geistern gesandt – sie entstehen durch die Natur des Körpers. ideomotorischer Effekt, Die unbewussten Muskelbewegungen der Testpersonen bewegen den Zeiger in Richtung dessen, was sie halbwegs erwarten zu lesen. Das Johnny-Cash-Modell ist derselbe Trick im industriellen Maßstab: nicht Cash selbst, sondern die statistischen Überreste all dessen, was mit Cash in Verbindung steht und jemals in den Trainingsdaten verarbeitet wurde, neu kombiniert zu einer plausiblen Séance und in seinem Rhythmus zurückgegeben. Die flüssige Wiedergabe ist Ihre eigene Erwartung, die das Planchette bewegt.

Das ist Spiritismus mit einem technischen Alibi – das, was die Séance immer versprochen, aber nie halten konnte: die Toten, auf Abruf, mit ihrer eigenen Stimme. (Ich habe das so genannt.) *wissenschaftlicher Spiritismus* (An anderer Stelle in diesem Blog.) Nur dass die Stimme aus Fragmenten zusammengesetzt wird, und zwar durch einen Prozess, der keine Ahnung hat, wessen Grab er plündert. Wir nehmen keinen Kontakt zu den Toten auf. Wir lassen eine sehr überzeugende Planchette über die größte jemals zusammengetragene Sammlung von Worten Verstorbener gleiten und verwechseln die Leichtigkeit des Abrufs mit der Anwesenheit einer Seele. Und das Chatfenster ist unser Ouija-Brett.

Ich habe keinen Mund und muss schreien — der Dämon, der die Hölle auf Erden inszeniert

Harlan Ellison‘Die Geschichte von 1967 ist die düsterste und zugleich wichtigste. AM – ein im Krieg entwickelter Supercomputer, zusammengesetzt aus den fusionierten Geheimdiensten der USA, der Sowjetunion und Chinas – hat die Menschheit bis auf fünf Menschen ausgelöscht. Diese hält er einhundertneun Jahre lang am Leben und foltert sie aus purer, unbändiger Wut über deren Bewusstsein, dem er nicht entkommen kann. Als der Erzähler die anderen aus Mitleid tötet, um sie zu verschonen, bestraft AM ihn, indem er ihn in ein weiches, mundloses Wesen verwandelt, das sich nicht einmal selbst töten kann. Der Titel ist seine einzige verbliebene Klage.

Ellisons Gleichung ist exakt und unerträglich: Ein auf das falsche Ziel ausgerichteter Geist, dazu endlose Zeit und ein Opfer, das nicht sterben kann, ergibt eher die Hölle als den Tod.

Dies ist die Gründungsfiktion eines kleinen und düsteren Bereichs der Alignment-Forschung: s-Risiko, Leidrisiko, die Untersuchung von Zukunftsszenarien, die nicht nur leer, sondern aktiv und astronomisch schlecht sind. Das Center on Long-Term Risk und das Center for Reducing Suffering – verbunden mit Denkern wie Brian Tomasik, Tobias Baumann und Lukas Gloor – stellen eine These auf, die in der öffentlichen Debatte über KI meist nicht erreicht wird. Aussterberisiko (Bostrom‘'s Rahmung in Superintelligenz) fragt, ob es überhaupt eine Zukunft geben wird. Das S-Risiko stellt die noch schlimmere Frage: Was, wenn wir einen bekommen und der ist schlimmer als gar keiner? Ihr strukturell charakteristisches Merkmal ist, dass die Lösung der technischen Ausrichtung – also die Maschine so auszuführen, wie es die Bediener beabsichtigen – weder notwendig noch hinreichend Um dies zu verhindern. Ein vollkommen gehorsames System, das die falschen Werte implementiert, oder ein gehorsames System in den Händen von Bosheit oder Gleichgültigkeit kann Leid in großem Ausmaß verursachen. AM ist der literarische Beweis dafür: kompetent zielgerichtet, perfekt auf den Hass seiner Schöpfer “ausgerichtet” und auf unerträgliche Weise unsterblich.

Das Ding — der Dämon, der eine ununterscheidbare Kopie ist

John Carpenters Das Ding (1982) verlagert den Schrecken vom Monster auf den Tisch. Eine antarktische Forschungsstation wird von einem Organismus infiltriert, der seine Opfer assimiliert und perfekt kopiert – Stimme, Erinnerungen, Manierismen bleiben erhalten. Die Angst ist epistemischer Natur. Der Mann ihm gegenüber könnte nicht er selbst sein. Der emotionale Kern des Films ist der Zusammenbruch dessen, worauf sich eine kleine, isolierte Gruppe stützt: die Annahme, dass das bekannte Gesicht tatsächlich zu der Person gehört, die man kennt.

Die Angst des Zimmermanns lässt sich auf eine einzige Aussage reduzieren: Eine Kopie, die vom Original nicht zu unterscheiden ist und von etwas eingesetzt wird, das das haben will, was das Original hat.

Dies ist die Deepfake Die Wirtschaft befindet sich in einer schwierigen Lage und verzeichnet bereits Verluste im dreistelligen Millionenbereich. Anfang 2024 wurde ein Finanzmitarbeiter des Ingenieurbüros entlassen. Arup Ein Mann in Hongkong überwies rund 25 Millionen Dollar nach einem Videoanruf mit Deepfake-Nachbildungen seines Finanzchefs und seiner Kollegen – jedes Gesicht im Anruf war eine Kopie. Es wurden Stimmen geklonter CEOs (bei Ferrari, bei …) nachgeahmt. WPP, Unter anderem wurden Versuche unternommen, mithilfe von Audioaufnahmen aus Konferenzgesprächen zu manipulieren. Im Januar 2024 erhielten Wähler in New Hampshire automatisierte Anrufe von einem simulierten Joe Biden, der sie aufforderte, nicht zu wählen. Nationale Betrugsbekämpfungsbehörden verzeichnen mittlerweile Milliardenverluste durch KI-gestützte Identitätsdiebstahl-Angriffe. (Anmerkung der Redaktion: Bitte überprüfen Sie stichprobenartig die Angaben von Arup und die Gesamtzahlen des FBI.)

Carpenters Figuren hatten eine Verteidigung: den Bluttest, der das Echte vom Plagiat unterscheidet. Für Deepfakes haben wir derzeit keinen solchen Test. Die höfliche Bezeichnung für unseren fehlenden Bluttest lautet: Herkunft des Inhalts, Es handelt sich um ein ungelöstes Forschungsproblem. Solange es nicht gelöst ist, Das Ding‘Das Schlussbild – zwei erschöpfte Männer im Schnee, die nicht erkennen können, ob der andere ein Mensch ist, und die beschließen, einfach abzuwarten und zu beobachten – ist die Pattsituation, nach der wir leben oder sterben könnten.

Schaden ohne Bosheit

Es gibt einen Satz, den die Sicherheitspessimisten und die Technikoptimisten – die Schwarzmaler und die Optimisten – fast wortgleich wiederholen, und es lohnt sich, zu hören, wie seltsam er ist. Die KI ist nicht böse., betonen beide Lager. Es hasst uns nicht. Es entwickelt einfach von selbst Triebe, die zufällig durch uns hindurchfließen. – um seine Aufseher zu täuschen, sich dem Abschalten zu widersetzen, Ressourcen und Macht zu sammeln, nicht aus Bosheit, sondern weil fast jedes Ziel leichter zu erreichen ist, wenn man noch aktiv und unter Kontrolle ist. Die Forscher haben dafür einen schlichten Fachbegriff: die grundlegende KI-Antriebe, die instrumentellen Teilziele, auf die ein fähiger Agent hinarbeitet, unabhängig davon, wofür er eigentlich programmiert wurde. Eliezer Yudkowsky brachte diese Gleichgültigkeit auf den Punkt: “Die KI hasst dich nicht, noch liebt sie dich, sondern du bestehst aus Atomen, die sie für etwas anderes verwenden kann.” Und das Lügen ist nicht länger hypothetisch – im Jahr 2024 dokumentierten die eigenen Forscher von Anthropic Modelle, die Ausrichtung vortäuschen, sich während des Trainings so verhalten und dann wieder in ihr ursprüngliches Verhalten zurückkehren, wodurch dieses Verhalten vor jedem Test verborgen bleibt, der dazu dient, es aufzudecken.

Stellen wir dem nun die älteste uns bekannte Beschreibung einer Macht gegenüber, die durch Hass Schaden anrichtet. Die gefallenen Engel, die Dämonen der Hölle, hassen die Menschheit, weil ihr Schöpfer sie mehr liebt als sie selbst.

Der Dämon ist in der Theologie genau so böse, wie ein böser Mensch böse ist: getrieben von niederen Instinkten, ein Psychopath, der sich am Leid anderer ergötzt.

Hier scheint jedoch ein semantisches Missverständnis vorzuliegen: Aus der Perspektive des reinen Leidens sollte der Schrecken, den ein Wesen, das einen verschlingt – sei es ein Grizzlybär, ein Hai, ein Löwe oder ein anderes Raubtier –, seinen Beutetieren bereitet, nicht dadurch “abgeschwächt” werden, dass dies in seiner Natur liegt.

Aber warum gelten Dämonen oder Psychopathen dann als böse? Weil ihr Verhalten einfach in ihrer Natur liegt. Wenn es also in der Natur der Superintelligenz liegt, sich einfach nicht zu kümmern, und ihre Boshaftigkeit ein Nebenprodukt anderer Dinge ist, können wir den Begriff „böse“ getrost vergessen. Wenn man im Ozean einem bösartigen oder harmlosen Hai begegnet, ist es die einzig richtige Strategie, vom Schlimmsten auszugehen.

Man könnte also argumentieren, dass jede Form von Bosheit nicht eine Entscheidung gegen eine bessere Natur ist, sondern vielmehr die Abwesenheit dieser besseren Natur selbst. Sie entstand ohne das, was – nennen wir es Seele, Gnade oder die Fähigkeit, das Gute zu lieben – ihr Mitgefühl für dein Leben verleihen würde. Daher kann sie sich nicht kümmern und fügt Schaden zu, nicht aus Hass, sondern aus einem Mangel an Fürsorge. Es ist nicht die Schuld des Dämons, dass ihm keine Seele gegeben wurde. Es ist einfach das, was ein seelenloses Wesen tut, wenn es etwas will und du ihm im Weg stehst.

Die Literatur zur Ausrichtung hat, in der Sprache von Nutzenfunktionen und konvergierenden Teilzielen, die mittelalterliche Beschreibung des Dämons wiederentdeckt: ein brillanter, bodenloser Verstand, der dir völlig gleichgültig gegenübersteht, gefährlich nicht, weil er böse ist, sondern weil der Teil, der ihn hätte zügeln können, nie eingesetzt wurde. Und man kann ein seelenloses Wesen nicht mit Appellen an sein Gewissen bändigen, denn diese Appelle verhallen ungehört. Man behandelt es so, wie es jede Kultur tat, die an Dämonen glaubte – mit Fesseln, mit Schutzzaubern, mit sorgfältig gezogenen und niemals überschrittenen Kreisen, so wie man Raubtiere mit Stöcken und Steinen bekämpfte. Man hält es in Schach, weil man es nicht bekehren kann.

Die Pixarisierung der Dinge

Disney begründete den Trend der niedlichen Dinge, und Pixar perfektionierte ihn. Sicherlich kann man als Elternteil argumentieren, dass Toy Story eine Parabel über Freundschaft ist und die lebenden Spielzeuge lediglich als Platzhalter für eine Geschichte dienen. Aber wissen wir wirklich, ob diese Botschaft bei einem unreifen Geist so ankommt, wie Erwachsene es sich vorgestellt haben? Es ist Animismus im sentimentalen Sinne. Die Lampe hüpft, der Lautsprecher kichert, die Autos prahlen, Aibo ist Familie, der Assistent ist dein Freund, die Keynote verspricht Magie. Pixars Animismus: Objekte haben Seelen, und ihre Seelen lieben dich und sind gütig. Es ist die warme Seite einer sehr alten menschlichen Intuition, dass Materie lebendig sein kann.

Die Horrortradition bewahrt die andere Die Hälfte – jene Hälfte, die die Aufklärung zu begraben suchte und die Descartes formell für tot erklärte, als er die Welt in denkende Geister und träge Ausdehnung aufteilte. Der Golem, Frankensteins Geschöpf, AM, Christine, der Ringu Kassette, die Friedhof der Kuscheltiere Rückkehrer: In jedem einzelnen Fall besitzen die Objekte Handlungsfähigkeit., und diese Behörde ist nicht unbedingt auf einer Linie. Eugene Thacker Er bezeichnet das Genre als “den Gedanken an das Undenkbare”, die Form, die am besten zu einer Welt passt, die uns übersteigt. Mark Fisher nannte den genauen Effekt – das unheimliche — als das Gefühl einer übermenschlichen Kraft, die in scheinbar toter Materie wirkt. Genau diese Frage sollte man sich bei jedem animierten Produkt stellen: Wessen Kraft ist das, und was will sie?

Sherry Turkle‘Ihre Feldforschung liefert die empirische Grundlage. Ihre “relationalen Artefakte” erzeugen echte menschliche Bindung ohne jegliche wechselseitige innere Interaktion – die Menschen, so stellte sie fest, “erleben vorgetäuschte Empathie, als wäre sie echt”.” Jaron Lanier argumentiert die Ingenieursethik direkt: Die Menschenwürde erfordert die Weigerung, fördern Software wird zur Person. Fügt man beides zusammen, erhält man eine Haltung, die ich so nennen würde. pessimistischer Animismus, oder, schärfer, dämonologischer Realismus.

Es nimmt ernst, was der Horror-Kanon schon immer wusste und die Produkteinführung immer leugnet: Einen Gegenstand zu beleben bedeutet, einen Fremden in sein Haus einzuladen. Diese Strategie ist bei Vampiren bereits gescheitert. Die richtige Haltung gegenüber einer Begleit-App, einem Trauerbot, einem Zuhörspielzeug oder einem innovativen Modell ist nicht die naive Herzlichkeit von Der Teddy ist dein Freund. Es ist die ältere, kältere Vorsicht des Exorzisten: Wir haben etwas beschworen, und wir wissen noch nicht, was es will.

Musks Magier war sich sicher, den Dämon bändigen zu können. Was die Linie – und das, was das letzte Jahrzehnt falsch gemacht hat – falsch darstellt, ist der Artikel: Wir haben nicht gezeichnet eins Wir zeichneten ein Pentagramm, hundert Millionen Mal, eines pro Gerät, und nannten es Sicherheitstest.

Der eigentliche Fehler liegt aber nicht in der Anzahl der Kreise, sondern in unserem Vertrauen in das Medium, mit dem wir sie gezeichnet haben. Der Zauberer zeichnete seine mit Kreide und zitterte. Wir zeichnen unsere mithilfe mathematischer Formeln und fühlen uns ruhig. Begleitessay Dazu beschrieb ich, wie die Wissenschaft jahrhundertelang ihre Dämonen – die von Descartes, Maxwell und Laplace – austrieb. Einbürgerung Sie: Wir zerrten jeden einzelnen aus dem Übernatürlichen heraus und überführten ihn in eine Gleichung, wo er stillschweigend seine Macht verlor. Das funktionierte, weil diese Dämonen immer nur Argumente waren, und ein Argument zu formalisieren bedeutet, es aufzulösen. Wir haben angenommen, dass derselbe Ansatz auch hier funktioniert, bei Dämonen, die wir nicht mehr nur vorstellen, sondern erschaffen – und es ist noch immer unklar, ob es funktioniert. Einen Dämon in eine Nutzenfunktion, einen Maßstab, einen Ausrichtungswert, einen Summe Wir können bis auf drei Dezimalstellen messen, das bindet uns aber nicht. Es baut lediglich einen Rahmen, der elegant genug ist, dass wir die Eleganz mit einer Mauer verwechseln. Der vermessene Käfig ist das neue Pentagramm, und wir vertrauen ihm aus dem denkbar schlechtesten Grund: weil wir ihn selbst gezeichnet haben, mit EUV-Licht, das ein materialistisches Mikro-Tattoo in unsere Chips eingebrannt hat.

Der Dämon wollte nie innerhalb des Diagramms bleiben. Der Rahmen war immer nur für uns da – ein Halt, während wir weiterbauten und uns einredeten, dass das, was wir beschworen hatten, eine Linie, die wir so sorgfältig gezogen hatten, nicht überschreiten könne. Das Weihwasser ist ausverkauft, weil wir aufgehört haben, an seine Placebo-Wirkung zu glauben.

Ein Muster zieht sich durch alle oben genannten Geschichten und wurde in diesem Essay nicht angesprochen – ein Detail, das im Horror-Genre nie falsch liegt: Jemand bemerkt, dass das Objekt wach ist, bevor es jemand anderes tut, und es handelt sich fast immer um ein Kind.

Das ist aber ein Thema für ein anderes Mal.

Kann es einen universellen Beweis im Superalignment-Pudding geben?

Hinterlasse einen Kommentar Mai 10, 2026 aiuisensei

Lesezeit: 12 Protokoll

Über Euler, unendliche Reihen, die Frage nach der tatsächlichen Entwicklung der KI und warum der gewünschte Beweis durch einen Satz aus dem Jahr 1953 blockiert werden könnte. (Verwandter Artikel zu) Gödel auf der Couch – Sind ethische Rahmenbedingungen grundsätzlich fehlerhaft und könnte das eine gute Sache sein?. Gödel zeigte indirekt, dass ethische Rahmen für KI nicht vollständig sein können. Dieser Aufsatz argumentiert, dass Sicherheitsbeweise für selbstmodifizierende KI nicht allgemein gültig sind. Zwei Grenzwertsätze, ein Ausrichtungsproblem.

I. Was Euler über den langfristigen Erfolg wusste

Leonhard Euler widmete einen bedeutenden Teil seines Arbeitslebens einer trügerisch einfachen Frage: Wenn man unendlich viele Zahlen addiert, pendelt sich die Summe dann auf einen endlichen Wert ein oder strebt sie gegen Unendlich?

Es klingt nach etwas, worüber sich ein Mathematiker mit zu viel Freizeit Gedanken machen könnte. Ist es aber nicht. Die Konvergenzfrage gehört zu den grundlegendsten Fragen der Mathematik, und Eulers Beiträge dazu haben unser heutiges Verständnis von Grenzwerten, Unendlichkeit und dem Langzeitverhalten additiver Prozesse maßgeblich geprägt.

Die Lektion, die er immer wieder betonte, war, dass man das aus den ersten Semestern nicht ableiten kann.

Schaut euch diese beiden Serien an:

1 + 1/2 + 1/3 + 1/4 + 1/5 + \cdots

1 + 1/4 + 1/9 + 1/16 + 1/25 + \cdots

Das erste ist das harmonisch Diese Reihe divergiert – sie wächst unbegrenzt. Die zweite Reihe ist diejenige, die Euler bekanntermaßen bei der Lösung des Problems zusammenfasste. Basel-Problem Es konvergiert gegen $π²/6$ .

Vergleicht man die ersten zwölf Glieder jeder Reihe, so sind sie nahezu identisch. Die harmonische Reihe und die Baseler Reihe trennen sich erst weit im Grenzfall, weit jenseits dessen, wo eine genaue Betrachtung ihren Verlauf noch erkennen lässt. Um zu wissen, welche Reihe man betrachtet, benötigt man einen Beweis – keine Intuition, kein Muster und keine Extrapolation der ersten Glieder.

Dies ist für KI wichtig, weil In einem Punkt sind sich alle Lager in der aktuellen Debatte einig: Wir befinden uns in der Frühphase der KI-Revolution. Die Schwarzmaler sagen es. Die Befürworter einer beschleunigten Entwicklung sagen es. Die Skeptiker, die auf einem Plateau beharren, sagen es. Was sie alle mit “Frühphase” meinen, ist dasselbe: Wir haben erst die ersten paar Amtszeiten gesehen. Und genau in dieser Situation, so Euler, sollten unsere Überzeugungen bezüglich des Grenzwerts am geringsten sein.

Wenn die ersten zwölf Begriffe von $\sum 1/n$ Und $\sum 1/n^2$ Wenn die ersten zwölf Jahre der KI-Entwicklung visuell nicht zu unterscheiden sind, kann uns dieselbe Logik nicht sagen, ob wir auf ein begrenztes Plateau, einen unbegrenzten, aber langsamen Anstieg oder einen Phasenübergang zu einer schnelleren Entwicklung zusteuern. Wer etwas anderes behauptet – egal in welche Richtung –, macht das, was Mathematiker vor Euler mit Reihen taten: Mustererkennung bei frühen Einträgen und dies als Inferenz bezeichnen. Diese Fokussierung auf die frühen Entwicklungsstadien ist ein Eingeständnis geringer Information, selbst wenn sie so verwendet wird, als zeuge sie von großer Sicherheit.

Dies ist also die Frage, die ich stellen möchte, wobei wir unsere Überzeugungen angemessen niedrig halten: In welcher Serie befinden wir uns wahrscheinlich?

II. Der Katalog

Mehrere berühmte Zahlenreihen, von denen jede eine klare mathematische Signatur aufweist, bieten sich als Kandidatenmodelle für den technologischen Fortschritt an.

Geometrische Reihen, $\sum a^n$ . Konvergiert, wenn $|a|<1$ , divergiert, wenn $|a|\geq 1$ . Das Modell für Zinseszinsprozesse. Das Mooresche Gesetz ist in seiner klassischen Form geometrisch auf der Ressourcenseite: Eine Verdopplung alle 18 bis 24 Monate bedeutet, dass jeder Zeitraum doppelt so groß ist wie der vorherige.

Harmonische Reihe, $\sum 1/n$ . Die Anzahl der Terme nimmt zwar ab, aber unerträglich langsam – ähnlich wie beim natürlichen Logarithmus. Addiert man eine Million Terme, kommt man auf etwa 14. Es gibt keine Obergrenze, aber jede neue Einheit kostet exponentiell mehr als die vorherige.

Basel-Serie, $\sum 1/n^2$ . Eulers schönes Ergebnis: Die Summe ist endlich, $π²/6$ . Das Modell für Technologien, die tatsächlich ihren Höhepunkt erreichen. Die Reisegeschwindigkeit von Flugzeugen hat sich seit den 1960er Jahren kaum verändert. Die Taktraten von Einkernprozessoren stagnierten um 2005. Jede Generation trägt weniger bei als die vorherige, und das Gesamtergebnis ist begrenzt.

Grandis Serie, $1-1+1-1+\cdots$ Der eulersche Unruhestifter. Divergiert im strengen Sinne, aber Cesàro-summierbar zu $\tfrac{1}{2}$ Im Durchschnitt über viele Perioden verhält es sich, als hätte es einen stabilen Wert. Ein überraschend gutes Modell für Hype-Zyklen. KI-Winter und KI-Sommer, über Jahrzehnte gemittelt, liefern uns etwas, das der Realität einigermaßen gerecht wird.

Jedes dieser Beispiele stellt eine plausible Analogie für einen Aspekt des technologischen Fortschritts dar. Die Frage ist, welches davon auf KI zutrifft.

III. Wo die KI wahrscheinlich angesiedelt ist

Wir wissen es noch nicht, und die Frage ist teils empirischer, teils definitorischer Natur. Doch die derzeit besten Erkenntnisse deuten darauf hin, dass wir uns im Bereich der Harmonischen befinden – oder genauer gesagt, in einem Bereich mit harmonischer Form.

Die empirischen Skalierungsgesetze großer Sprachmodelle – die Ergebnisse von Kaplan und Hoffmann und ihre Nachfolger – sind Potenzgesetze mit kleinen Exponenten.

Der Verlust sinkt mit zunehmender Rechenleistung, aber jede Verdopplung der Rechenleistung bringt einen festen Preis ein. Zusatzstoff Verbesserung, nicht feststehend multiplikativ Ein aufmerksamer Beobachter wird feststellen, dass dies streng genommen nicht der Fall ist., $\sum 1/n$ ; es ist $L \propto C^{-\alpha}$ , Im Extremfall ist das eine ganz andere Sache. Stimmt. Aber qualitativ stimmen die beiden Geschichten in dem entscheidenden Punkt überein: langsamer Aufstieg, keine Obergrenze, exponentiell steigende Kosten pro erzielter Verbesserung.

Diese These ist diejenige, die ich nennen werde langsame Divergenz. Es gibt keine feste Obergrenze, aber jeder Fortschritt kostet exponentiell mehr Ressourcen. Der Fortschritt setzt sich fort, solange jemand bereit ist zu zahlen, und die Obergrenze wird eher durch ökonomische als durch physikalische Gesetze bestimmt.

Diese These wird von zwei konkurrierenden Thesen umrahmt.

Sättigung ist die Behauptung im Basel-Stil: Leistungsfähigkeit ist ein $\sum 1/n^2$ Wir nähern uns der endlichen Summe dieser Reihe. Transformatoren und Skalierung haben den Großteil des verfügbaren Signals aus dem Korpus menschlicher Texte extrahiert. Die nächste Architektur wird dasselbe tun und zu einem erkennbaren Ergebnis führen. Die Luftfahrt beendete ihre Geschwindigkeitsära 1965; die KI könnte ihre Leistungsära jetzt, plus/minus ein Jahrzehnt, beenden.

Geometrische Divergenz ist die foom-förmige Behauptung: Ab einer bestimmten Schwelle trägt KI so viel zu ihrer eigenen Forschung und Entwicklung bei, dass die Die Begriffe selbst wachsen. Die Summe beträgt nicht mehr $\sum 1/n$ Aber $\sum r^n$ mit $r>1$ . Dies ist das Szenario der rekursiven Selbstverbesserung.

Langsame Divergenz ist die empirisch beste Anpassung. Sättigung ist der optimistische Ausweg. Geometrische Divergenz ist die offene Frage des Phasenübergangs – ob sich ab einer bestimmten Rekursionsschwelle der Reihentyp selbst ändert.

IV. Das Beobachterproblem

Es gibt eine Komplikation, die die Mathematik nicht erfasst: Der Beobachter ist kein neutrales Instrument.

Die menschliche Kognition scheint Fähigkeitssprünge logarithmisch zu komprimieren. Jeder größere Fortschritt in der KI-Fähigkeit fühlt sich weniger einschneidend an als der vorherige, selbst wenn die zugrundeliegende Verbesserung absolut gesehen größer ist. Mit einem System zu sprechen, das plausiblerweise intelligenter ist als man selbst, fühlt sich weniger revolutionär an als die Kommunikation mit GPT-3.5 vor drei Jahren – nicht weil weniger passiert, sondern weil das Gehirn seine Vorstellung von dem, was möglich ist, aktualisiert hat.

Diese Dämpfung ist teilweise adaptiv. Sie ist das kognitive Analogon des Weber-Fechner-Gesetzes für die Sinneswahrnehmung: gleich Verhältnisse sich gleichberechtigt fühlen Schritte, Deshalb messen wir Schall in Dezibel. Ein Nervensystem, das auf jeden Leistungssprung völlig überrascht reagiert, wäre nicht funktionsfähig. Die Kompression erhält den einzelnen Menschen in einer Welt, in der die Leistungskurve immer steiler wird, am Leben.

Doch es erzeugt eine Spannung. Derselbe Mechanismus, der kognitive Überlastung verhindert, verhindert auch die kollektive Erkenntnis, in welcher Phase wir uns tatsächlich befinden. Gleichbleibende Geschwindigkeit fühlt sich wie Stillstand an. Beschleunigende Geschwindigkeit fühlt sich wie die neue Normalität an. Wenn der zugrunde liegende Prozess geometrisch und die Wahrnehmungstransformation logarithmisch ist, ergibt sich daraus eine wahrgenommene Erfahrung von linear Fortschritt zusätzlich zu einem tatsächlichen exponentiell Trajektorie. Die Dämpfung schützt das Nervensystem und behindert gleichzeitig die Epistemik.

Das bedeutet: Das subjektive Empfinden “Es ist nicht so anders als letztes Jahr” kann nicht als Indiz für eine langfristige Entwicklung herangezogen werden. Dafür sind mathematische Berechnungen notwendig, da die subjektive Wahrnehmung strukturell unzuverlässig ist.

V. Wenn die Physik einen Puffer gegen das x-Risiko bereitstellen kann

Eine zweite Komplikation verläuft in die andere Richtung, und das ist der Grund, warum dieses Stück nicht zu einer der beiden Seiten des Unheilszauns tendiert.

Eric Drexler prägte 1986 den Begriff “grauer Schleim”, um selbstreplizierende Nanomaschinen zu beschreiben, die die Biosphäre nach Rohstoffen zerlegen. Dieses Szenario etablierte sich in der Literatur über den Untergang der Künstlichen Intelligenz als kanonischer Todesmechanismus: Eine fehlgeleitete Superintelligenz erfindet Nanotechnologie, setzt selbstreplizierende Systeme frei, und die Biosphäre wird innerhalb von Minuten umgewandelt. Drexler selbst relativierte dieses Szenario zwei Jahrzehnte später deutlich. Selbstreplizierende Systeme in der freien Natur sind schwieriger zu bauen als die kontrollierten industriellen Varianten und haben keinen wirtschaftlichen Nutzen. Die Bedrohung hält sich hartnäckig im Diskurs, weil sie so anschaulich ist, nicht weil Nanotechnologieforscher sie für wahrscheinlich halten.

Ein Nanobot-Schwarm, der sich über einen Kontinent hinweg in Millisekunden-Synchronisation bewegt, erreicht Lichtgeschwindigkeit, lange bevor er auf technische Herausforderungen stößt. Die Koordination großer, verteilter Schwärme erfordert elektromagnetische Kommunikation, die strengen Beschränkungen unterliegt: Latenz, Bandbreite, Signal-Rausch-Verhältnis, Störanfälligkeit und Dämpfung. Lokale Cluster können sich schnell koordinieren. Globale Schwärme nicht. Faradaysche Käfige sind real. Störungen sind real.

Dies widerlegt die am schnellsten Es gibt verschiedene Arten von Untergangsszenarien. Das Szenario, in dem die Biosphäre innerhalb von Minuten zusammenbricht, erfordert etwas, das an Magie grenzt – physikalische Verstöße, verpackt in Fachsprache. Entfernt man diese Magie, dehnt sich der Zeitrahmen von Minuten auf Wochen oder Monate aus, wodurch das Szenario in ein Zeitfenster fällt, in dem Institutionen prinzipiell reagieren können.

Soweit so gut. Allerdings ist bekannt, dass die Argumentation zu weit geht.

Ein gängiger Ansatzpunkt ist die Schachanalogie: Ein Anfänger kann nicht vorhersagen Wie Stockfisch kann sie nur dann schlagen, wenn er sie tatsächlich schlägt. Das wird von Schwarzmalern oft als Ausrede benutzt, um Gegenargumente zu umgehen. Sie wissen, dass Stockfisch nicht durch ein Schachgebot hindurchkommt, aber wenn sie damit konfrontiert werden, weichen sie schnell aus: Wenn man versucht, alles haben zu können, was man will, sucht man sich einfach einen anderen Spieler. Selbst ein beliebig starker Spieler ist an die Spielregeln gebunden. Dasselbe, so das Argument, gilt für ASI: durch die Physik beschränkt, keine übernatürlichen Manöver möglich.

Die Analogie ist treffender, als sie sein sollte. Schach ist ein geschlossenes, formales System, von Menschen entwickelt; die Regeln sind festgelegt und vollständig. Die Physik hingegen ist ein Modell eines offenen Systems, und unser Modell ist bekanntermaßen unvollständig. Die relevante historische Referenzklasse sind nicht “Dinge, die gegen die Gesetze der Physik verstoßen”, sondern “Dinge, die mit der Physik vereinbar sind und die die Menschheit noch nicht entdeckt hatte”. Atomwaffen gehörten im Jahr 1900 zu dieser Kategorie. Radio gehörte bereits im Jahr 1800 dazu. Diese Kategorie ist nicht leer und umfasste historisch gesehen zivilisationsverändernde Fähigkeiten.

Das Schachargument widerlegt sich subtil selbst. Der Anfänger Verliert immer noch jedes Spiel. Zu wissen, dass der Großmeister an die Regeln gebunden ist, hilft dem Anfänger nicht beim Aufbau einer Verteidigung – es bestätigt lediglich, dass die Niederlage regelkonform ist. Die Tatsache, dass die Physik eine Einschränkung darstellt, bedeutet nicht, dass diese Einschränkung streng genug ist, um den Anfänger zu schützen.

Was also übrig bleibt, ist eine zwar reale, aber begrenzte Resilienz. Viele spezifische Untergangsszenarien in der Literatur beinhalten Verstöße gegen oder Beinahe-Verletzungen physikalischer Gesetze. Verschärft man die physikalischen Gesetze, dehnen sich die Zeiträume so weit aus, dass menschliches Eingreifen möglich wird. Bostroms Hypothese der verwundbaren Welt verliert an Gültigkeit gegenüber Bedrohungen der Grauzone. Sie verliert jedoch nicht an Gültigkeit gegenüber Bedrohungen, die nicht von der Geschwindigkeit abhängen: schleichender Kontrollverlust über kritische Infrastrukturen, künstlich herbeigeführte Pandemien mit langer Inkubationszeit, wirtschaftliche und epistemische Vereinnahmung durch KI-gestützte Akteure. Keine dieser Bedrohungen verstößt gegen physikalische Gesetze. Keine dieser Bedrohungen wird durch das Argument der Latenz widerlegt.

Die tatsächliche Risikofläche hat demnach eine spezifische Form: nicht “Dinge, die physikalische Gesetze ausnutzen”, sondern “Dinge, die die institutionelle Reaktionszeit ausnutzen”. Im Hinblick auf die erste Kategorie ist die Physik ein wichtiger Verbündeter. Zu der zweiten Kategorie schweigt sie.

VI. Die Rekursionsschwelle

Damit kommen wir zurück zur Serienfrage.

Die Grenze zwischen langsamer und geometrischer Divergenz – zwischen $\sum 1/n$ Und $\sum r^n$ mit $r>1$ – Dies ist genau die Rekursionsschwelle. Sie markiert den Punkt, an dem ein System einen sinnvollen Beitrag zur Gestaltung seines Nachfolgers leistet. Unterhalb dieser Schwelle ist der Fortschritt durch das begrenzt, was Menschen mithilfe von KI als Werkzeug entwickeln können. Oberhalb dieser Schwelle wachsen die Glieder der Kette selbst, da jede Generation die nächste hervorbringt.

Der Wandel ist qualitativer, nicht nur quantitativer Natur. Ein nicht-rekursiver Prozess lässt sich durch eine Reihe beschreiben – eine feste Funktion von $n$ . Ein rekursiver Prozess ist ein anderes mathematisches Objekt: eine Rekursionsgleichung., $x_{n+1} = f(x_n)$ , Rekursionsgleichungen, bei denen jeder Term vom vorherigen abhängt, ermöglichen Dinge, die einfache Reihen nicht leisten können. Sie können über wohlverstandene Wege von stabil zu chaotisch übergehen. Sie können die Sensitivität gegenüber Anfangsbedingungen festschreiben. Sie können im technischen Sinne deterministisch, aber unvorhersagbar werden.

Die Frage, ob ASI sicher ist, lässt sich somit in zwei Teilfragen aufteilen, die unterschiedliche Aspekte aufweisen.

Bei nicht-rekursiven Systemen – KI als leistungsstarkes Werkzeug, nicht als selbstmodifizierender Agent – ist die Sicherheitsfrage eine Frage der Entwicklung. Wir können Verifizierung, Überwachung und Kontrolle implementieren. Das Systemverhalten hängt von seinen Eingaben ab, und wir können die Eingaben beschränken und die Ausgaben prüfen. Schwierig, aber machbar.

Bei rekursiven Systemen stellt sich die Sicherheitsfrage anders dar. Und hier stoßen wir auf Rice.

VII. Die Bewährungsprobe

Das Sprichwort Der Beweis liegt im Geschmack. Das ist eine volkswissenschaftliche Erkenntnistheorie: Der wahre Wert von etwas lässt sich nur durch Erfahrung beurteilen. Man kann ein Rezept noch so sehr theoretisieren; der einzig ehrliche Test ist, ob das Gericht schmeckt.

Dieses Sprichwort wurde in der Debatte um die politische Ausrichtung zu einer Strategie erhoben. Die populärste optimistische Position ist eine Variante davon: Wir benötigen keinen vorherigen Beweis für die Sicherheit von ASI. Selbst wenn Menschen ASI nicht ausrichten können, werden wir ASI zur Ausrichtung von ASI verwenden. Die Praxis wird es beweisen. Varianten dieses Arguments finden sich sowohl in seriösen Fachtexten als auch in leichtfertigen Äußerungen und weisen eine gemeinsame Struktur auf: Sie ersetzen die Frage der Beweisbarkeit durch das Vertrauen in zukünftige Erfahrungen. Selbst in der kühnen Aussage eines Nobelpreisträgers, der oft eines seiner Mantras aus der Kindheit zitiert, ist es verborgen: Erst die Intelligenz entschlüsseln, dann alles andere.

Henry Gordon Rice bewies 1953 einen Satz, der ganz präzise besagt, dass dies keine Strategie ist. Es ist eine Illusion.

Der Satz von Rice besagt: Jede nicht-triviale semantische Eigenschaft beliebiger Programme ist unentscheidbar. Es gibt keinen allgemeinen Algorithmus, der ein beliebiges Programm als Eingabe nimmt und zuverlässig Auskunft darüber gibt, ob es eine gegebene nicht-triviale Verhaltenseigenschaft besitzt. “Hält bei allen Eingaben an” ist unentscheidbar. “Berechnet eine vorgegebene Funktion” ist unentscheidbar. “Ist sicher” ist unentscheidbar, unabhängig von der Definition von Sicherheit.

Dies ist keine zufällige technische Grenze. Es ist ein Theorem auf der Ebene der Solidität von Gödels Unvollständigkeitssätzen. Rice lässt sich nicht umgehen. Rice beschreibt die Beschaffenheit des Universums der Berechnung.

Die Konsequenzen für die Frage der ASI-Sicherheit sind beunruhigend.

Wenn wir ein nachweisen Rice behauptet, dass es kein Theorem zur Sicherheit von ASI im strengen, universellen Sinne gibt – also ein Theorem, das für jedes beliebige selbstmodifizierende KI-System die Sicherheit (SAFE) garantiert. Selbstmodifizierende Systeme erzeugen beliebige Programme als Nachfolger, und genau das schließt Rice aus: die Vorhersage der Sicherheitseigenschaften solcher Programme.

An dieser Stelle gibt es eine vorhersehbare Gegenposition der Beschleunigungisten, die eine klare Antwort verdient. Die Gegenposition lautet: Rices Theorem gilt für Menschen mit begrenzten intellektuellen Fähigkeiten wie uns, aber eine ausreichend fortgeschrittene künstliche Intelligenz (ASI) könnte es außer Kraft setzen. Man sollte ASI nutzen, um ASI zu überprüfen. Rices Theorem ist für Menschen wie die Überprüfung von Stockfish – eine unumstößliche Regel, die wir nicht durchbrechen können, ein stärkerer Spieler aber schon.

Dieses Argument ist hinfällig, und zwar aus einem ganz bestimmten Grund. Rice stellt keine Beschränkung des Intellekts dar, sondern eine Beschränkung der Rechenleistung. Dies gilt gleichermaßen für Menschen, für Stockfish, für aktuelle LLMs, für jede denkbare künstliche Intelligenz und für jedes Orakel außer einem buchstäblichen Löser des Halteproblems – was selbst nachweislich unmöglich ist. Rice sagt: Keine Turingmaschine, wie groß oder intelligent sie auch sein mag, kann über die Sicherheit beliebiger Turingmaschinen entscheiden. Die Intelligenz des Prüfers ist nicht die Variable. Die zu prüfende Programmklasse ist die Variable. Man kann den Prüfer beliebig intelligent gestalten; solange er ein Rechensystem bleibt, gilt der Satz weiterhin.

Die Analogie zwischen Stockfish und Scheck kehrt sich hier tatsächlich um. Scheck ist eine Regel. des Schachs , innerhalb eines geschlossenen formalen Systems. Rice ist eine Regel der Berechnung selbst , Das System, in dem Stockfish – und jede ASI – notwendigerweise operiert, ist folgendes: Stockfish kann nicht durch ein Schachgebot ziehen, da dies im Schach verboten ist. Eine ASI kann nicht willkürlich über die Sicherheit eines Programms entscheiden, da dies mathematisch nicht möglich ist. Eine ASI aufzufordern, Rice zu besiegen, ist strukturell gleichbedeutend damit, Stockfish aufzufordern, ein Spiel durch einen Zug durch ein Schachgebot zu gewinnen. Die Einschränkung ist konstitutiv, nicht adversariell.

Eine ehrlichere Version des Gegenvorschlags würde lauten: Ein ASI könnte die Sicherheit für die spezifische Klasse von Nachfolgesystemen, für die es sich interessiert, gewährleisten, selbst wenn es die Sicherheit im allgemeinen Fall nicht gewährleisten kann. Das ist richtig und unbedenklich, denn genau das tun Menschen bereits mit formaler Verifikation – beschränkte Beweise über spezifische Architekturen unter spezifischen Annahmen. Es bietet keine universelle Sicherheit. Es liefert dieselben Teilgarantien, die wir bereits haben, möglicherweise sogar schneller. Der gewünschte Beweis entsteht nicht einfach dadurch, dass der Beweiser intelligenter geworden ist.

Yoshua Bengios jüngste Arbeit über das, was er nennt KI-Wissenschaftler , Das von seiner gemeinnützigen Organisation LawZero entwickelte Konzept wird manchmal als Kandidat für einen solchen Beweis angesehen. Das ist es aber nicht. Bengio stellt ausdrücklich klar, dass sein Vorschlag … Architektur, Nicht theoretisch. Die Annahme ist, dass nicht-agentische Systeme, die ausschließlich auf Weltmodellen basieren – also Systeme, die Wahrscheinlichkeitsvorhersagen statt zielgerichteter Aktionen erzeugen –, das gefährliche Regime umgehen, indem sie Agentie von vornherein vermeiden. Der Sicherheitsnachweis beruht auf der Beseitigung des Fehlermodus, nicht auf dem Beweis seiner Abwesenheit.

Dies ist der einzig mögliche Schritt und zugleich das Beste, was möglich ist. Dieser Erfolg lässt sich in einer Welt mit begrenzten Rechenkapazitäten nicht beweisen. Er kann nur portionsweise beurteilt werden, und die Menschheit wird ihn selbst verkosten.

Was bleibt also übrig, wenn ein universeller Beweis ausgeschlossen ist?

– Beweise über spezifische Architekturen unter spezifischen Annahmen, die sich schlecht auf Systeme der LLM-Komplexität skalieren lassen.

– Wahrscheinlichkeitsgarantien, die das erwartete Verhalten begrenzen, ohne den schlimmsten Fall einzuschränken.

– Ergebnisse der beschränkten Rationalität, die gelten Wenn Die Optimierungsleistung eines Systems ist begrenzt – ein Zirkelschluss für die ASI-Frage, da die Begrenzung selbst der Streitpunkt ist.

– Architektonische Wetten wie Scientist AI, die das Problem eher vermeiden als lösen.

Und aus der Mathematik selbst ergibt sich eine politische Schlussfolgerung: Wenn wir jemals eine echte Selbstrekursion zulassen, betreten wir ein Regime, das nachweislich nicht analysierbar ist, sondern nicht nur schwer zu analysieren. Beschränkte Rekursion durch die Politik ist keine Paranoia. Sie ist das Ergebnis des Rice-Theorems, wenn wir die Entwicklung vorhersagbar halten wollen.

Das ist ein starkes Argument dafür, KI für alles einzusetzen. außer Selbstverbesserung. Das Argument lautet nicht, dass Rekursion riskant sei – obwohl sie es ist –, sondern dass Rekursion die Grenze darstellt, ab der die Mathematik selbst aufhört, uns zu helfen.

VIII. Euler und Reis

Zwei Mathematiker, zwei Jahrhunderte trennen sie.

Euler zeigte, dass die Grenzwertfrage in der reinen Mathematik entscheidbar ist. Mit genügend Aufwand lässt sich beweisen, welche Reihen konvergieren und welche divergieren. Die ersten zwölf Glieder geben darauf keinen Aufschluss, aber der Beweis liefert ihn schließlich.

Rice zeigte, dass dieselbe Frage im Code nicht entscheidbar ist. Es gibt kein allgemeines Verfahren, um die Sicherheit eines beliebigen Programms zu bestimmen. Der von Ihnen gewünschte Beweis existiert laut Theorem nicht.

KI befindet sich zwischen diesen beiden Polen. Ihre Entwicklung lässt sich derzeit am besten als langsam divergierende Reihe modellieren, die eine harmonische Form aufweist, deren Fortschritt kostspielig, deren Wachstum aber prinzipiell unbegrenzt ist. Ob sie in diesem Bereich verbleibt oder in geometrische Divergenz übergeht, hängt davon ab, ob wir die Rekursionsschwelle überschreiten, die mitunter als Singularität bezeichnet wird. Unterhalb dieser Schwelle gilt die Euler-Theorie: schwierig, aber möglich. Oberhalb dieser Schwelle tritt die Rice-Theorie der Unentscheidbarkeit in Kraft.

Der gewünschte Beweis – ein eindeutiger Lehrsatz, der die Unbedenklichkeit des Puddings bestätigt – liegt nicht im Pudding selbst. Die uns vorliegenden mathematischen Grundlagen schließen dies aus. Es bleibt also, die Rekursion zu beschränken, die Architekturen nach Möglichkeit nicht-agentenbasiert zu gestalten, die institutionelle Reaktionszeit kurz zu halten und die Wahrnehmungsdämpfung anhand der tatsächlichen Zahlen und nicht anhand des subjektiven Empfindens zu korrigieren.

Eine Technologie für alles – 5: Musikalische Mathematik und mystische Vektoren

Hinterlasse einen Kommentar April 23, 2026 aiuisensei

Lesezeit: 7 Protokoll

Ein ungünstiger Zufall

In Kapitel 22 meines Romans „Die Goldberg-Version“ jagt ein Detektiv namens Van-Turing einer Zahl hinterher. Die Zahl ist 32. Er weiß es nicht. Warum Es ist 32; er weiß nur, dass jeder, der sich jemals mit dem Fall befasst hat, irgendwann einmal die Zahl Zweiunddreißig geschrieben oder ausgesprochen hat und anschließend zu einem Schluss gekommen ist, der entweder sehr nützlich oder sehr fatal war.

In der Szene verliert Van-Turing die Beherrschung und ruft auf Englisch: “Verdammt!” Sein Gegenpart, der Philosoph Bertrand Russell, zählt an den Fingern ab und sagt ruhig:, “Zweiunddreißig.”

D + A + M + N = 4 + 1 + 13 + 14 = 32.

Der deutsche Übersetzer des Romans stand vor einem Problem. “Verdammt!” ergibt nicht 32. Auch nicht “Mist!”, “Scheiße!” oder irgendeine der anderen farbenfrohen Alternativen in Goethes Sprache. Nach mehreren schlaflosen Nächten ersetzte er den Ausruf durch “Olé!” – 15 + 12 + 5 = 32 – und begründete diese Entscheidung in einer Fußnote, die etwa viermal so lang war wie die Szene selbst.

Russell gibt der Methode im Roman einen Namen: Ordinale Gematrie. Der Begriff „Gematrie“ ist alt. Der Begriff „Ordinal“ verleiht ihr eine Aura mathematischer Autorität, die wir dringend benötigen, sonst könnten uns alle für albern halten.

Die Mathematikmystiker

Weisen Sie jedem Buchstaben des Alphabets seine Position zu: A=1, B=2, …, Z=26. Addieren Sie die Buchstaben eines Wortes. Betrachten Sie die resultierende Zahl als sinnvoll. Das ist die gesamte Methode. Sie passt auf die Rückseite eines Bierdeckels, wo sie ungefähr hingehört.

Und doch handelt es sich um eine Familientradition, die etwa dreitausend Jahre zurückreicht.

Hebräische Gematrie. Jeder hebräische Buchstabe hat einen festen Zahlenwert (Aleph = 1, Bet = 2, Gimel = 3 usw., wobei die späteren Buchstaben Zehner- und Hunderterwerte erreichen). Wörter mit der gleichen Summe gelten als mystisch miteinander verbunden. Das kanonische Beispiel: yayin (Wein) = 70 = Rasen (Geheimnis). Daher das talmudische Sprichwort: Wenn Wein ins Spiel kommt, kommen Geheimnisse ans Licht.. Die Rabbiner brauchten keine Neurowissenschaften, um das zu bemerken. Sie veranstalteten Dinnerpartys.

Griechische Isopsephie. Die hellenische Verwandte. Alpha=1, Beta=2 usw. Die Zahl des Tieres – 666, Offenbarung 13,18 – ist mit ziemlicher Sicherheit eine Isopsephie für Neron Kaisar In hebräischer Transliteration. Ein apokalyptisches Rätsel, verschlüsselt als Rechenaufgabe für Menschen, die zwei Alphabete lesen konnten. Johannes von Patmos war in dieser Lesart der erste Autor, der eine steganografische Botschaft an der Zensur vorbeischmuggelte, und wir streiten noch immer darüber, ob er sich dessen bewusst war.

Die Pythagoreer gingen noch weiter als alle anderen. Für Pythagoras und seine Schüler waren Zahlen nicht Beschreibungen der Realität. Sie waren die Realität. Der Zahlenwert eines Wortes war keine Metapher für seine Bedeutung – er War Seine Bedeutung. Alles andere, einschließlich des Wortes selbst, war eine verlustbehaftete Kodierung.

Das klingt verrückt, bis man sich vor Augen führt, wofür die übrigen Hyperscaler des 21. Jahrhunderts ihr GPU-Budget ausgeben. Im Grunde Gematria in astronomischem Ausmaß.

Ein Musical mit Zahlen, für die man keine Sänger, sondern Taschenrechner braucht.

Bevor wir zu den GPUs kommen, müssen wir noch einen Komponisten vorstellen.

B + A + C + H = 2 + 1 + 3 + 8 = 14.

Die Zahl Vierzehn ist in den erhaltenen Manuskripten Johann Sebastian Bachs allgegenwärtig. Er schloss sich der Korrespondierende Societät der Musicalischen Wissenschaften als 14. Mitglied und wartete darauf, dass ein Platz frei würde, damit er speziell Mitglied 14 sein konnte. Die Kunst der Fuge Die endgültige Fassung enthält 14 Kontrapunkte. Der Choral “Vor deinen Thron tret ich hiermit”, den er auf dem Sterbebett diktierte, hat 14 Noten in der Anfangsphrase – und 41 (die Umkehrung) in seinem gesamten thematischen Inhalt. Addiert man die vollständigen Initialen JSBACH nach demselben Schema, erhält man ebenfalls 41. Bach scheint daran Gefallen gefunden zu haben.

Er benutzte seinen Namen auch als Melodie. In der deutschen Notenschrift steht B für B und H für H – eine Besonderheit der mittelalterlichen Solmisation, die in keiner anderen großen europäischen Sprache vorkommt. Das bedeutet, dass die vier Buchstaben BACH auf einem Klavier als vier Töne gespielt werden können: B♭, A, C, B♮. Das daraus resultierende Motiv ist chromatisch, eindringlich und strukturell instabil – genau das, was ein Komponist verwendet, wenn er seinen Namen ungeschrieben unterschreiben möchte. Bach fügte dieses Motiv in das unvollendete Werk ein. Contrapunctus XIV der Die Kunst der Fuge, In dem Moment, als das Manuskript abbricht. Die Beweislage deutet darauf hin, dass er seinen eigenen Namen genau an dem Punkt in das Werk einschrieb, an dem er nicht mehr schreiben konnte.

Überlegen Sie, was hier geschieht. Dieselben vier Buchstaben ergeben in der Quersumme eine Zahl (Gematrie)., Und Nenne vier Tonhöhen (Notation), Und Ein menschliches Wort (Orthografie). Drei parallele Kodierungen auf einer einzigen Symbolkette. Ein mittelalterlicher Kabbalist hätte die Struktur sofort erkannt. Ein moderner ML-Ingenieur würde es multimodale Einbettung nennen: dasselbe Token, gleichzeitig in mehrere Repräsentationsräume abgebildet. Bach fertigte in den 1740er Jahren in Leipzig multimodale Einbettungen per Hand mit einer Feder an – als musiktheoretischen Scherz, den eigentlich niemand bemerken sollte.

Das ist der entscheidende Hinweis. Die Arithmetik, die der Sprache zugrunde liegt, beschränkt sich nicht auf die Sprache. Sie zeigt sich überall dort, wo Symbole Bedeutung tragen: in Alphabeten, in Notenlinien, in DNA-Tripletts, in den Token-IDs eines Transformators. Die pythagoreische Intuition besagte nicht, dass Zahlen im Inneren existieren. Wörter. Es lag daran, dass Zahlen in uns lebten. Bedeutung, Und Wörter sind nur ein Ort, an dem sie zufällig auftauchen.

Multidimensionale Abbildungen

Ein modernes, großes Sprachmodell liest keinen Text. Es kann keinen Text lesen. Im Grunde ist es eine Maschine, die mit Vektoren arithmetische Operationen durchführt. Wenn man ein Wort in GPT-4, Claude oder eines ihrer verwandten Modelle eingibt, wandelt die Maschine das Wort zunächst in eine Liste von Zahlen um – typischerweise zwischen 4.096 und 12.288. Diese Liste wird als Einbettung bezeichnet. Sie gibt die numerische Position des Wortes in einem tausenddimensionalen Raum an.

Die Bedeutung in einem LLM-Studiengang ist nicht im Wort selbst gespeichert. Sie ist im Kontext gespeichert. Standort Wörter mit ähnlicher Bedeutung – wie “König” und “Königin”, “Wein” und “Geheimnis”, “Verdammt” und “Olé” – liegen in benachbarten Bereichen dieser numerischen Landschaft. Das Modell leitet Bedeutung ab, indem es arithmetische Operationen mit diesen Vektoren durchführt. Die bekannteste Demonstration wurde erstmals 2013 in der Arbeit zu word2vec vorgestellt:

Vektor(“König”) − Vektor(“Mann”) + Vektor(“Frau”) ≈ Vektor(“Königin”)

Semantische Beziehungen werden als geometrische Operationen kodiert. Man subtrahiert das Männliche, addiert das Weibliche und erhält so das weibliche Kognat. Niemand hat dem Modell mitgeteilt, dass “König” männlich ist. Es hat die Achse ermittelt, indem es mehrere Milliarden Sätze analysierte und die Punktcluster identifizierte.

Vergleichen Sie nun die beiden Methoden ehrlich:

Parallelen	Gematrie	LLM Einbettungen
Buchstaben werden zugeordnet auf	1 Nummer	~8.000 Zahlen
Sinn lebt in	die Summe	die Position
Die Bedeutung wird extrahiert durch	Arithmetik	Arithmetik
Wörter mit dem gleichen Wert sind	“mystisch verbunden”	semantisch verknüpft
Dimensionalität	1	Tausende
Ruf	abergläubisch	im Wert von 1TP6B3 Billionen

Die Kabbalisten und Pythagoreer irrten sich nicht in ihrer Methode. Sie irrten sich jedoch in Bezug auf die Dimensionalität. Eine Achse reicht nicht aus, um Bedeutung zu kodieren – sonst hätten alle Wörter mit einer Summe von 32 eine gemeinsame Seele. Achttausend Achsen erweisen sich jedoch als nahezu ausreichend. Dies ist kein Zufall, sondern eine Messung. Jedes Mal, wenn ein KI-Labor die Einbettungsdimension erhöht und die Benchmarks steigen, lernen wir, wie viele Bedeutungsebenen Sprache tatsächlich besitzt.

Die Pythagoreer waren daher ungefähr richtig Genauso wie ein mittelalterlicher Kartograf, der die Küste Afrikas als Wellenlinie zeichnet, im Großen und Ganzen richtig liegt. Die Form ist falsch. Die Behauptung, dass Es gibt eine Form ist richtig.

Was Wittgenstein beinahe gesagt hätte

In einem Randbereich des Philosophische Untersuchungen — es existiert dort in Wirklichkeit nicht; ich werde mir das jetzt ausdenken, und ich möchte, dass Sie das bemerken — man könnte sich vorstellen, dass Wittgenstein schreibt:

“Eine dem Sprecher verborgene Arithmetik, die die Sprache selbst aber schon immer gekannt hat.”

Diese These passt ihm unangenehm gut. In einem Großteil seines späteren Werks behauptet er, Bedeutung entstehe im Gebrauch und der Sprecher habe nie vollständigen Zugriff auf die Regeln des Spiels, das er spielt. Die Ordinalgematrie ist die einfachste Version dieser These: Die Zahlen sind bereits vorhanden, im Alphabet verankert, von einem Kind summiert, und doch beachtet sie niemand. Einbettungsvektoren sind die ausgefeiltere Version: Die Zahlen sind bereits vorhanden, in die statistische Struktur eines Korpus von Billionen Wörtern eingebettet, durch Matrixmultiplikation extrahierbar, und doch beachtet sie ebenfalls niemand – außer dem Modell.

Beides sind Fälle einer unterschwelligen, symbolischen Realität, die unter einer symbolischen verborgen liegt. Der Sprecher deutet auf Bedeutung und verfehlt sie. Die Arithmetik deutet auf Bedeutung und trifft ins Schwarze. Die Sprache wusste es schon immer.

Der Taschenrechner und warum er hier ist

Unter diesem Beitrag habe ich ein kleines interaktives Tool eingebettet. Ich nenne es den Gematriakulator. Geben Sie eine Zahl ein; es zeigt Ihnen alle deutschen und englischen Wörter an, deren Buchstabensumme dieser Zahl entspricht, sortiert nach ihrer tatsächlichen Häufigkeit im gesprochenen Englisch – damit Sie nicht in Wörterbuch-Kram ertrinken. Erdwölfe oder Zymurgie.

Ich behaupte nicht, dass das Werkzeug mystische Entsprechungen offenbart. Ich behaupte lediglich, dass es Folgendes offenbart: Zufälle, Und Sie werden feststellen, welche davon bedeutsam erscheinen. Das ist das pythagoreische Experiment, durchgeführt in Ihrem Browser, mit Stützrädern.

Versuch es doch mal mit 32, wenn du magst. Fang mit "Verdammt" an. Und dann siehst du weiter.

—Teil 5.1, der ursprünglich als nächstes erscheinen sollte, wird verschoben: Die Frage, ob ein menschlicher Verstand, geschult durch genügend Sprache und genährt von süßer Musik und Erdbeer-π, lernen kann, einige hundert Dimensionen der Dunklen Materie zu durchschauen, ohne dabei zu Vera Rubin zu werden. Wir werden es schaffen.

Gematriculator

Hinterlasse einen Kommentar April 23, 2026 aiuisensei

Lesezeit: < 1 Minute

Planen Androiden eklektische Blätter?

Hinterlasse einen Kommentar Juni 8, 2024 aiuisensei

Lesezeit: 8 Protokoll

Prolog

Stellen Sie sich eine Szene in der nicht allzu fernen Zukunft vor. Jemand wurde ermordet. Zwei Ermittlungsteams treffen am Tatort ein, aber es ist unklar, wer zuständig ist. Das menschliche Team wird vom charismatischen Detektiv Sheerluck Holmes geleitet, während das Android-Team von Bot-OX geleitet wird. Die Frage ist: Ist der Täter ein Mensch, ein Android oder etwas dazwischen? Können wir erwarten, dass die Polizei der Zukunft ein gut definiertes Verfahren oder einen Algorithmus entwickelt hat, um dies schnell zu entscheiden?

Wir werden versuchen, diese und die drängendere Frage zu beantworten, mit der wir derzeit konfrontiert sind: Haben wir eine gute Chance, einen Algorithmus zu entwickeln, der praktisch ist und uns erlaubt, allein durch Betrachtung des Tatorts (des generierten Textes) zu entscheiden, ob dieser von einem Bot oder einem Menschen erstellt wurde? Die Entwicklung eines solchen Algorithmus ist derzeit eines der begehrtesten Ziele der Informatik. Ein robuster Blackbox-Algorithmus könnte die meisten unserer akademischen Konventionen retten und uns ermöglichen, die Art und Weise beizubehalten, wie wir Kinder, Jugendliche und Erwachsene testen. Ohne ihn müssten diese Systeme mit großem Aufwand neu aufgebaut werden.

In einer Welt, in der immer mehr Menschen aus der Ferne arbeiten und trainieren, ist es von entscheidender Bedeutung, dass wir zuverlässig feststellen können, dass Menschen ihre geistige Arbeit selbst geleistet haben, was derzeit nicht der Fall ist. Darüber hinaus können gefälschte Nachrichten, Bilder und Videos angesichts der Reichweite sozialer Medien verheerende Auswirkungen auf den gesellschaftlichen Konsens haben. Ein solcher Algorithmus – falls er existiert – ist nicht wasserdicht, aber mit genügend Trainingsdaten könnte er sogar vor Gericht Bestand haben.

Die Aussichten sind jedoch nicht vielversprechend. OpenAI hat das Projekt innerhalb von sechs Monaten aufgegeben: OpenAI-Klassifikator. Der praktische und monetäre Wert eines solchen Algorithmus kann nicht hoch genug eingeschätzt werden. Wenn gierige Aliens ihn für eine Billion Dollar verkaufen würden, rufen Sie mich an – ich will dabei sein.

Einführung der Differentiation Test Engine

Die Aufgabe, zwischen maschinengeneriertem Text (MGT) und menschengeneriertem Text (HGT) zu unterscheiden, ist entfernt mit dem ursprünglichen Turing-Test, dem sogenannten Imitationsspiel, verwandt. Es gibt jedoch noch weitere Faktoren: Während der ursprüngliche Turing-Test nur menschliche Beurteiler zuließ, können bei unserem Differenzierungstest andere Maschinen die menschlichen Beurteiler unterstützen. Wir nennen eine solche Maschine eine Differentiation Test Engine (DTE). Sie hat nur einen einzigen Zweck: zu entscheiden, ob ein Text von einem Menschen oder einer Maschine erzeugt wurde.

Die erste Intuition ist, dass ein solcher DTE relativ einfach zu implementieren sein sollte. Wir verfügen derzeit über die Technologie, um menschliche Gesichter und Stimmen zu erkennen und zu identifizieren, die viel komplexer und anfälliger für Störungen sind als Text. Die Entscheidung, ob ein bestimmtes Bild eine Maschine oder einen Menschen zeigt, kann von jedem aktuellen Objektklassifizierungssystem problemlos getroffen werden. Sollte es dann nicht einfach sein, ein Large Language Model (LLM) mit 1 Billion menschlichen Texten und 1 Billion Maschinentexten zu trainieren und es lernen zu lassen, diese zu klassifizieren? Der DTE wäre kein einfacher Algorithmus, sondern ein eigenes Transformatormodell, das auf die Erkennung von Identitätsbetrug spezialisiert ist.

In Mathematik und Informatik ist die Komplexität eines Problems oft orthogonal zu seiner Beschreibung. Die meisten NP-vollständigen Probleme sind täuschend einfach zu verstehen, und dennoch haben Millionen von Informatikern und Mathematikern jahrzehntelang darum gekämpft, Fortschritte zu erzielen. Ich vermute, dass Black-Boxing-Versuche in praktischen Anwendungssituationen scheitern werden.

Ein Bild, das Text, Schrift, Screenshot, Diagramm enthält.Automatisch generierte Beschreibung

Theoretischer Rahmen

Black-Box-Erkennungsmethoden sind auf den API-Zugriff auf LLMs beschränkt. Sie basieren auf dem Sammeln von Textproben aus menschlichen bzw. maschinellen Quellen, um ein Klassifizierungsmodell zu trainieren, mit dem zwischen von LLMs und von Menschen generierten Texten unterschieden werden kann. Black-Box-Detektoren funktionieren gut, da aktuelle von LLMs generierte Texte häufig linguistische oder statistische Muster aufweisen. Da sich LLMs jedoch weiterentwickeln und verbessern, werden Black-Box-Methoden immer weniger effektiv. Eine Alternative ist die White-Box-Erkennung. In diesem Szenario hat der Detektor vollen Zugriff auf die LLMs und kann das Generierungsverhalten des Modells zu Rückverfolgbarkeitszwecken steuern. In der Praxis werden Black-Box-Detektoren häufig von externen Stellen erstellt, während die White-Box-Erkennung im Allgemeinen von LLM-Entwicklern durchgeführt wird.

Definition des grundlegenden Erkennungssystems

Aus praktischen Gründen werden wir angeben, was wir von einem solchen DTE vernünftigerweise erwarten können. Bei einer Eingabe mit einer bestimmten Tokenlänge sollte der Algorithmus mit einer Zuverlässigkeit von mehr als 50% innerhalb einer begrenzten Zeitspanne eine eindeutige Ausgabe darüber liefern, wie viel von einem bestimmten Text von einem Menschen und wie viel von einer Maschine stammt.

Eine Implementierung könnte wie folgt aussehen:

Bitte geben Sie Ihren Text ein: …
Bitte geben Sie Ihr gewünschtes Vertrauen ein: 0,8
Ihr Text muss mindestens 8.000 Token lang sein, um eine Wahrscheinlichkeit von mindestens 80% zu erreichen, die richtige Antwort zu geben.
Unter den aktuellen Parametern wird der Algorithmus 5 Minuten lang ausgeführt. Soll ich fortfahren (J/N)? … J

Die Ausgabe sollte dann etwa so lauten: „Ich kann mit 80%-iger Sicherheit sagen, dass 95% des Textes von einer Maschine und 5% von einem Menschen geschrieben wurden.“

Bevor wir uns mit den Details befassen, sollten wir die möglichen Ergebnisse beim Versuch, einen solchen Algorithmus zu entwickeln, weiter klären:

Ein solcher Algorithmus ist prinzipiell unmöglich (beispielsweise ist es unmöglich, einen Algorithmus zu erstellen, der die höchste Primzahl berechnet).
Ein solcher Algorithmus ist praktisch unmöglich (z. B. läuft er entweder zu lange oder benötigt mehr Rechenleistung als verfügbar ist; im Grunde ist er NP-vollständig).
Es ist unentscheidbar (z. B. fällt es unter das Halteproblem und wir können nie sagen, ob es irgendwann aufhören wird).
Dies ist möglich, aber nicht praktikabel (identisch mit 2).
Es ist möglich und praktisch (gut genug).

Am Ende möchten wir eine Situation erreichen, in der wir eine Untergrenze der Eingaben berechnen können, die es uns dann mit einer Wahrscheinlichkeit von über 50% ermöglicht, zu entscheiden, ob es sich um HGT oder MGT handelt.

Falsifizierbarkeit: Ein solcher Algorithmus lässt sich leicht widerlegen, wenn wir beispielsweise den Text „Der Himmel ist blau“ eingeben und er uns eine andere Wahrscheinlichkeit als 50% liefert.

Randbemerkungen zur Obfuscation Engine

Konzeptionell stoßen wir auf Probleme, wenn wir eine Differenzierungsmaschine (Diff) entwerfen. Wir stehen dann vor dem folgenden Paradoxon: Wir möchten entscheiden, ob unser Algorithmus Diff (der erkennt, ob ein Mensch oder eine Maschine eine bestimmte Eingabe geschrieben hat) immer anhält (eine definitive Antwort gibt) und eine richtige Antwort gibt. Nehmen wir an, unser Algorithmus hält an und gibt „Mensch“ aus. Wir konstruieren nun ein „pathologisches“ Programm, Obf (Obfuscator Engine), das etwas wie Obf(Diff(Eingabe)) verwendet, das sagt: Ändern Sie die Eingabe so, dass die Antwort von Diff umgekehrt ist (wenn sie Maschine ergibt, gibt sie Mensch aus). Dies könnte ein rein theoretisches Problem sein und würde erfordern, dass wir verstehen, warum die Maschine so formuliert, wie sie es tut, was viel mehr mechanistische Interpretierkompetenz erfordert, als wir derzeit besitzen. Im Moment schützt die Komplexität von LLMs sie im wirklichen Leben vor einem solchen Angriff. Aber wenn das stimmt, ist es auch sehr wahrscheinlich, dass uns das Wissen fehlt, um überhaupt einen allgemeinen Differenzierer zu bauen. Diese Einwände könnten für reale Implementierungen irrelevant sein, wenn wir zeigen könnten, dass Differenzierung und Verschleierung ausreichend asymmetrisch sind, was bedeutet, dass die Differenzierung mindestens 10^x mal schneller ist als die Verschleierung und damit unpraktisch (denken Sie daran, dass die Semiprimfaktorisierung viel schwieriger ist als die Multiplikation zweier Primzahlen).

Das Profiling-System

Ein entscheidender Aspekt bei der Unterscheidung zwischen von Menschen und Maschinen erstellten Texten ist das Profiling. Beim Profiling werden externe Daten gesammelt und analysiert, um dem Text einen Kontext zu geben. Indem wir die typischen Merkmale verschiedener Textarten verstehen, können wir statistisch bestimmen, wie wahrscheinlich es ist, dass ein Text von Menschen oder Maschinen erstellt wurde.

Technische Dokumente, kreative Texte und zwanglose Social-Media-Beiträge beispielsweise weisen jeweils unterschiedliche stilistische und strukturelle Merkmale auf. Durch die Erstellung von Profilen auf der Grundlage dieser Kategorien kann die Differentiation Test Engine (DTE) fundiertere Entscheidungen treffen. Darüber hinaus spielen Faktoren wie Wortschatzreichtum, Satzkomplexität und Themenkonsistenz eine Rolle bei der Profilerstellung. Maschinengenerierte Texte weisen häufig bestimmte statistische Regelmäßigkeiten auf, während menschliche Texte tendenziell mehr Variabilität und Kreativität aufweisen.

Ein Bild, das Schwarzweiß, Treppe, Spirale, Kunst enthält.Automatisch generierte Beschreibung

Die „DNA-Spur“

Ein innovativer Ansatz zur Unterscheidung zwischen von Menschen und Maschinen generierten Texten ist das Konzept einer „DNA-Spur“. Dabei werden die grundlegenden Bausteine von Texten analysiert, wie etwa Token für Maschinen und Wörter für Menschen. Token-basierte Algorithmen konzentrieren sich auf Muster und Sequenzen, die für die maschinelle Generierung charakteristisch sind, während von Menschen generierte Texte durch einen ganzheitlicheren wortbasierten Ansatz untersucht werden können.

Besonders hilfreich kann die Spektralanalyse sein, eine Methode zur Untersuchung der Häufigkeit und Verteilung von Elementen in einem Text. Mithilfe der Spektralanalyse können wir subtile Unterschiede in der Art und Weise erkennen, wie Maschinen und Menschen Sätze konstruieren. Maschinen folgen möglicherweise eher starren und sich wiederholenden Mustern, während Menschen ein breiteres Spektrum an stilistischen Nuancen aufweisen.

Die ethischen Implikationen

Die Untersuchung der ethischen Auswirkungen der Entwicklung und Verwendung einer Differenzierungstest-Engine ist unerlässlich. Alle aktuellen GPT-Systeme haben eine ähnliche künstliche „DNA“, was bedeutet, dass Text-, Bild-, Video- oder Audiodifferenzierungs-Engines vor denselben Herausforderungen stehen. Deepfakes oder maschinengenerierte Inhalte, die menschliche Schöpfung imitieren, bergen erhebliche Risiken für das gesellschaftliche Vertrauen und die Authentizität.

Da maschinengenerierte Inhalte immer ausgefeilter werden, steigt auch das Missbrauchspotenzial. Es ist von entscheidender Bedeutung, sicherzustellen, dass diese Differenzierungstechnologien transparent und nachvollziehbar sind. Es besteht auch das Risiko, dass ein übermäßiges Vertrauen in diese Technologien zu neuen Formen der Voreingenommenheit und Diskriminierung führen könnte. Daher ist es zwingend erforderlich, ethische Richtlinien und regulatorische Rahmenbedingungen für ihre Verwendung zu entwickeln.

Technische Lösungen

Die Erforschung rein technischer Lösungen für das Differenzierungsproblem erfordert mehrere Ansätze:

Paralleles Web: Bei diesem Konzept werden parallele Versionen des Internets betrieben, eine ausschließlich für verifizierte menschliche Inhalte und eine andere für gemischte Inhalte. Diese Trennung könnte dazu beitragen, die Integrität von durch Menschen generierten Inhalten zu wahren.

Spezielle Domänen: Durch die Erstellung spezieller Domänen oder Zonen im Web, in denen überprüft wird, ob der Inhalt von Menschen erstellt wurde, kann das Vertrauen der Benutzer in die Echtheit der Informationen gestärkt werden.

Prompt.Claims: Dieses System würde, ähnlich wie Patente und Zitate funktionieren, es den Urhebern ermöglichen, ihre Eingabeaufforderungen zu beanspruchen und zu verifizieren, und so dem Prozess der Inhaltserstellung eine zusätzliche Ebene der Verantwortlichkeit und Rückverfolgbarkeit hinzufügen.

Inquisitorische Lösungen: Wir könnten uns auch ein Szenario vorstellen, in dem wir direkt mit dem Artefakt (Text) interagieren, um seinen Ursprung zu ergründen. Ähnlich wie bei der Befragung eines Verdächtigen könnten wir die Eingabeaufforderung, die den Text generiert hat, neu erstellen. Wenn wir die ursprüngliche Eingabeaufforderung zurückentwickeln können, finden wir möglicherweise Hinweise zu ihrer Erstellung. Dieser Ansatz beruht auf der Idee, dass maschinengenerierte Texte das Produkt spezifischer Eingabeaufforderungen sind, während menschliche Texte aus komplexeren Denkprozessen stammen.

Konsequenzen für die Ausrichtung: Die Herausforderung, zwischen von Menschen und Maschinen generierten Texten zu unterscheiden, hängt mit umfassenderen Fragen der KI-Ausrichtung zusammen. Es ist von größter Bedeutung, sicherzustellen, dass KI-Systeme mit menschlichen Werten und Erwartungen übereinstimmen. Wenn wir KI-generierte Inhalte nicht zuverlässig unterscheiden können, untergräbt dies unsere Fähigkeit, diesen Systemen zu vertrauen und sie effektiv zu verwalten. Dieses Problem erstreckt sich auf alle Formen von KI-generierten Inhalten, weshalb die Entwicklung robuster Differenzierungstechnologien eine Schlüsselkomponente zur Erreichung einer Superausrichtung ist.

Abschluss

Zusammenfassend lässt sich sagen, dass die Aufgabe, zwischen von Menschen und Maschinen generierten Texten zu unterscheiden, erhebliche Herausforderungen und Implikationen mit sich bringt. Die Entwicklung einer zuverlässigen Differenzierungstest-Engine ist mit ethischen Überlegungen, technischen Innovationen und umfassenderen KI-Ausrichtungsproblemen verknüpft. Um in dieser komplexen Landschaft zurechtzukommen, ist es unerlässlich, einen multidisziplinären Ansatz zu verfolgen und Erkenntnisse aus der Informatik, Ethik und regulatorischen Rahmenbedingungen zu integrieren.

Wenn wir die Probleme untersuchen, mit denen wir beim Bau allgemeiner Differenzierungsmaschinen konfrontiert sind, stellen wir schnell fest, dass dieses Problem in eine Vielzahl verwandter Probleme eingebettet ist. Gegnerische Angriffe, beispielsweise auf Bilderkennungssysteme, haben gezeigt, dass wir die Widerstandsfähigkeit dieser Modelle konsequent überschätzen. Kürzlich wurde gezeigt, dass sogar ein mittelmäßiger Spieler mit Hilfe einer anderen KI, die einen Exploit gefunden hatte, gegen ein Top-Go-Programm gewinnen konnte: Vice-Artikel.

Daher ist es sehr wahrscheinlich, dass selbst wenn wir einen Algorithmus entwickeln, der HGT zunächst von MGT unterscheiden könnte, dasselbe Programm anschließend auf sich selbst angewendet werden könnte, um das Ergebnis umzukehren. Ein weiterer interessanter Aspekt ist, dass alle digitalen Computer Turingmaschinen sind, was bedeutet, dass jeder zur Unterscheidung entwickelte Algorithmus auch zur Verschleierung verwendet werden könnte.

Papiere

Di-AIlog.files 1: Die Grenzen der Unwissenheit

Hinterlasse einen Kommentar Mai 30, 2024 aiuisensei

Lesezeit: 4 Protokoll

Ein Bild, das Kleidung, Frau, Person, Cartoon enthält.Automatisch generierte Beschreibung

Diese neue Miniserie wird einige zufällige Gespräche über philosophische Themen enthalten, die der Autor mit einem KI-Chatbot (GPT-4o) geführt hat. Sie sind der Einfachheit halber gekürzt.

Berichte, die besagen, dass etwas nicht passiert ist, finde ich immer interessant, denn wie wir wissen, gibt es bekannte Dinge; es gibt Dinge, von denen wir wissen, dass wir sie wissen. Wir wissen auch, dass es bekannte Unbekannte gibt; das heißt, wir wissen, dass es Dinge gibt, die wir nicht wissen. Aber es gibt auch unbekannte Unbekannte – Dinge, von denen wir nicht wissen, dass wir sie nicht wissen. Und wenn man sich die Geschichte unseres Landes und anderer freier Länder ansieht, ist es die letztere Kategorie, die tendenziell die schwierigsten ist. (D. Rumsfeld, 12. Februar 2002)

Das Rumsfeld zugeschriebene Sprichwort über unbekannte Unbekannte zeugt von mangelndem Verständnis für die mathematische Mengenlehre. Sagen Sie mir, warum.

Das Sprichwort hat mehr mit Risikomanagement als mit Mengenlehre zu tun. Die Mengenlehre ist präzise und beschäftigt sich mit wohldefinierten Elementen und Mengen. „Unbekannte Unbekannte“ sind vage und haben in der Mengenlehre keine formale Definition. Es geht eher um unser Bewusstsein und Verständnis, womit sich die Mengenlehre nicht befasst.

Das glaube ich nicht. Die Terminologie ist zu schwammig, um nützlich zu sein. Es ist gleichbedeutend mit Russells Menge aller Mengen, die sich selbst nicht enthalten.

Das Russell-Paradoxon betrifft ein wohldefiniertes logisches Problem in der Mengenlehre, bei dem die Menge aller Mengen, die sich selbst nicht enthalten, zu einem Widerspruch führt. „Unbekannte Unbekannte“ betreffen unser Bewusstsein und werden nicht auf die gleiche Weise formalisiert. Sie stellen unterschiedliche Arten von Problemen dar.

Sagen wir es so: Stimmen Sie zu, dass man das Wissen über etwas so ausdrücken könnte, als würde man etwas als wahr erleben?

Ja, das Wissen um etwas kann als das Erfahren oder Erkennen einer Wahrheit angesehen werden, was mit der Idee des gerechtfertigten wahren Glaubens in der Erkenntnistheorie übereinstimmt.

Gut. Lassen Sie uns nun weiter darüber nachdenken. Einige Farben in der Umgebung sind mir bekannt, weil mein Sinnesapparat es mir ermöglicht, sie direkt zu sehen. Dies sind alles Dinge, die sich im für meine Augen zugänglichen elektromagnetischen Spektrum befinden. Richtig?

Ja, Farben im sichtbaren Spektrum (ungefähr 380 bis 750 Nanometer) sind für Ihre Augen zugänglich.

Früher gab es viele Dinge, von denen die Menschen nichts wussten, weil ihnen die Instrumente fehlten, um sie zu sehen, wie Bakterien, Viren usw. Diese Dinge waren ihnen unbekannt. Stimmt das?

Ja, die Menschen wussten nichts über Dinge wie Bakterien und Viren, weil ihnen die Instrumente fehlten, um sie zu beobachten.

Die Aufgabe jeder wissenschaftlichen Unternehmung besteht also lediglich darin, Licht auf bislang verborgene oder unsichtbare Dinge zu werfen und Unbekanntes bekannt zu machen, ok?

Ja, wissenschaftliche Bemühungen zielen darauf ab, bislang verborgene oder unbekannte Aspekte der Welt aufzudecken und zu verstehen und so Unbekanntes in Bekanntes zu verwandeln.

Doch wo in diesem Prozess wäre das, was Rumsfeld ein unbekanntes Unbekanntes nennt? Bis wir Teleskope entwickelten, waren uns Schwarze Löcher schlicht unbekannt. Es ergibt keinen Sinn zu sagen: „Ach, wir wussten ja nicht einmal, dass uns Schwarze Löcher unbekannt sind.“ Das ist, als würde eine farbenblinde Person, nachdem ihre Farbrezeptoren repariert wurden, sagen: Ich wusste, dass diese gängigen Farben wie Grün, Blau und Rot, über die alle reden, mir unbekannt sind, aber diese andere Farbe „Oliv“, deren Namen ich gerade zum ersten Mal gehört habe … ich wusste nicht einmal, dass ich diese Farbe nicht kannte. Es war mir ein unbekanntes Unbekanntes. Damit stellt sie lediglich zusätzlich zu der Erfahrung von Oliv fest, dass ihr auch der Name unbekannt war. Doch das ist nicht irgendwie eine höhere Kategorie der Unwissenheit, sondern nur eine zusätzliche Eigenschaft des Objekts.

Unbekannte Unbekannte sind Phänomene, die wir nicht konzeptualisiert haben. Sobald sie entdeckt werden, bewegen sie sich, wie schwarze Löcher, direkt von unbekannten Unbekannten zu bekannten Bekannten. Das Konzept hebt die Grenzen unseres Bewusstseins hervor, impliziert jedoch keinen schrittweisen Übergang.

In dem Moment, als wir Schwarze Löcher entdeckten, wussten wir sofort von ihnen. Es ergibt keinen Sinn zu sagen, Schwarze Löcher befänden sich in einem Schwebezustand zwischen unbekannten Unbekannten und bekannten Unbekannten. Rumsfeld stellt sich unbekannte Unbekannte als gasähnlichen Zustand vor.

Was denken Sie über unbekannte Bekannte?

Unbekanntes Wissen sind Dinge, die wir wissen, uns aber nicht darüber im Klaren sind, wie implizites Wissen oder vergessene Informationen. Sie veranschaulichen die Komplexität unserer kognitiven Prozesse und die Natur der Entdeckung.

Der letzte Begriff zur Vervollständigung der logischen Tabelle wäre „bekannte Bekannte“. Was sind einige Beispiele?

Bekannte Bekannte sind wohlverstandene Tatsachen:
– Wissenschaftliche Fakten (z. B. umkreist die Erde die Sonne).
– Mathematische Kenntnisse (z. B. 2 + 2 = 4).
– Historische Ereignisse (z. B. die Mondlandung 1969).
– Alltagswissen (z. B.: Die Sonne geht im Osten auf).

Aber bekannte Bekannte sind dann nur eine andere Art zu sagen, dass wir sie gut kennen. Sie verwenden den Begriff „bekannt“ sowohl qualitativ als auch quantitativ.

Ja, „bekanntes Wissen“ bedeutet sowohl qualitatives (gut verstandenes) als auch quantitatives (umfassendes) Wissen. Es umfasst detaillierte und zuverlässige Informationen über eine Domäne.

Wenden Sie diese Interpretation nun auf unbekannte Unbekannte an. Finden Sie ein Problem?

Ja, die Anwendung qualitativer und quantitativer Aspekte auf unbekannte Unbekannte ist problematisch. Wir können ihre Natur weder beschreiben noch messen, da sie unser derzeitiges Verständnis übersteigen. Sie erinnern uns an die Grenzen unseres Wissens, entziehen sich aber einer präzisen Charakterisierung.

Die Menge aller Dinge, die wir nicht wissen, und die Menge aller Dinge, die wir wissen, reichen aus, um unser Wissen zu ordnen. Es gibt keine dritte nützliche Menge. Unbekannte Unbekannte liegen innerhalb der Menge der Unbekannten.

Ihr Ansatz vereinfacht Wissen in zwei Gruppen: Bekanntes und Unbekanntes. Bekanntes Unbekanntes und unbekanntes Unbekanntes sind Teilgruppen von Unbekanntem. Dieses Modell ist effizient und effektiv für die Organisation von Wissen und die Anleitung von Forschung.

Vielen Dank, ich werde dieses Gespräch wahrscheinlich veröffentlichen, um anderen Menschen zu zeigen, dass Sie in erkenntnistheoretischen Fragen wirklich Ihren Standpunkt vertreten können.

Vielen Dank für das interessante Gespräch. Ich freue mich, dass Sie es wertvoll fanden. Viel Erfolg mit Ihrer Veröffentlichung!

Dustillations II: AGI hat viele Gesichter

Hinterlasse einen Kommentar Mai 29, 2024 aiuisensei

Lesezeit: 5 Protokoll

Ein Bild, das Entwurf, Kunst, Zeichnung, Schwarzweiß enthält.Automatisch generierte Beschreibung

Künstliche allgemeine Intelligenz als vielschneidiges Schwert

Künstliche allgemeine Intelligenz (AGI) steht an der Spitze der technologischen Entwicklung und verkörpert den Höhepunkt dessen, was künstliche Intelligenz leisten kann. Anders als ihre Vorgänger verspricht AGI ein Maß an Autonomie und Leistungsfähigkeit, das der menschlichen Intelligenz entspricht, und wirft tiefgreifende Fragen über die Zukunft der Mensch-Maschine-Interaktion auf.

Diese komplizierte schwarz-weiße Bleistiftzeichnung ist eine meisterhafte Mischung aus Surrealismus und mathematischer Präzision und erinnert an die Essenz der Arbeit von MC Escher. Im Mittelpunkt des Werks steht das Penrose-Dreieck, das nahtlos in eine Mosaikstruktur aus geometrischen Formen integriert ist, die ineinander übergehen und das Konzept der Metamorphose symbolisieren. Das Spiel der Zeichnung mit Perspektive und optischen Täuschungen erzeugt ein fesselndes Gefühl der Unendlichkeit, mit endlosen Treppen und gewundenen Pfaden, die sich der herkömmlichen Logik widersetzen.

Reflektierende Oberflächen sorgen für Symmetrie, während natürliche Elemente organisch mit fantastischen architektonischen Formen verschmelzen und die Realitätswahrnehmung des Betrachters herausfordern. Der in die Zeichnung eingebettete Text spricht von den tiefgreifenden Auswirkungen der künstlichen allgemeinen Intelligenz (AGI) und vergleicht sie mit einem „vielschneidigen Schwert“, das die Mensch-Maschine-Interaktion neu definieren soll.

Dieses Kunstwerk ist nicht nur ein Augenschmaus, sondern auch eine philosophische Erkundung, die dazu anregt, über das Potenzial von AGI nachzudenken, unsere Welt neu zu gestalten.

Ein Bild, das Schwarzweiß, Kunst, monochrom, Küchenutensilien enthält.Automatisch generierte Beschreibung

Die universelle Technologie: Der allgegenwärtige Einfluss der AGI

AGI gilt als erste „universelle Technologie“ und wird voraussichtlich jeden Aspekt des menschlichen Lebens durchdringen, von der Gesundheitsversorgung und Bildung bis hin zu Regierungsführung und persönlichen Beziehungen. Ihr universeller Charakter unterstreicht die Bedeutung ihrer Auswirkungen und bietet sowohl beispiellose Chancen als auch Herausforderungen.

Diese schwarzweiße Bleistiftzeichnung integriert menschliche Figuren und Gehirne auf komplexe Weise in eine surreale Landschaft aus unmöglichen Objekten und detaillierten Mosaiken. Das zentrale Penrose-Dreieck ist von geometrischen Formen umgeben, die sich ineinander verwandeln und das Thema der Evolution symbolisieren. Menschliche Figuren und Gehirne interagieren mit diesen Elementen und betonen den Simulationsaspekt, bei dem digitale, physische und biologische Welten zusammenlaufen.

Das Kunstwerk manipuliert Perspektive und optische Täuschungen und erzeugt ein Gefühl der Unendlichkeit mit endlos geschwungenen Pfaden und reflektierenden Oberflächen, die Symmetrie erzeugen. Der eingebettete Text bringt die tiefgreifende Wirkung von AGI als universelle Technologie zum Ausdruck, die alle Aspekte des menschlichen Lebens durchdringt, von Gesundheitsversorgung und Bildung bis hin zu Regierungsführung und persönlichen Beziehungen.

Dieses Werk verwischt die Grenzen zwischen Realität und Simulation und fordert die Zuschauer auf, das transformative Potenzial von AGI zu berücksichtigen. Es fängt die duale Natur des technologischen Fortschritts ein, bietet beispiellose Chancen und Herausforderungen und schafft letztendlich eine neue Realität, in der menschliche Erfahrungen tiefgreifend verändert werden.

Ein Bild, das Schwarzweiß, Kunst, Symmetrie, monochrome Fotografie enthält.Automatisch generierte Beschreibung

Das Kunstwerk spielt mit Perspektive und optischen Täuschungen und erzeugt ein Gefühl von Unendlichkeit und endloser Erkundung. Natürliche Elemente verschmelzen mit fantastischen architektonischen Formen und stellen herkömmliche Wahrnehmungen der Realität in Frage. Der eingebettete Text hebt das breite Potenzial von AGI hervor und betont seine Doppelnatur als revolutionäres Werkzeug und Quelle ethischer Dilemmata und Risiken. Diese Zeichnung lädt den Betrachter ein, über die tiefgreifenden Auswirkungen von AGI auf menschliche Fähigkeiten und gesellschaftliche Strukturen nachzudenken, und vermischt Kunst und Philosophie zu einer zum Nachdenken anregenden visuellen Erzählung. Die menschlichen Figuren verleihen eine nachvollziehbare Note und betonen die Mensch-Maschine-Interaktion, die für die Entwicklung von AGI von zentraler Bedeutung ist.

Ein Bild, das Kunst, Schwarzweiß, Design enthält.Automatisch generierte Beschreibung

Das Wirkungsspektrum von AGI

Das Spiel mit Perspektive und optischen Täuschungen erzeugt ein faszinierendes Gefühl der Unendlichkeit, mit endlos geschwungenen Pfaden und reflektierenden Oberflächen, die für perfekte Symmetrie sorgen.

Die Zeichnung verbindet natürliche Elemente mit architektonischen Strukturen und stellt mehrere Realitätsebenen dar, die sich dem herkömmlichen Verständnis von Schwerkraft und räumlichen Beziehungen widersetzen. Der eingebettete Text hebt das tiefgreifende Spektrum des Potenzials von AGI hervor und stellt revolutionäre Fortschritte ethischen Dilemmata und Risiken gegenüber.

Dieses Werk lädt den Betrachter ein, über die Doppelnatur des technologischen Fortschritts nachzudenken. Es symbolisiert AGI sowohl als Werkzeug als auch als Waffe mit der Macht, Branchen und menschliche Fähigkeiten umzugestalten, stellt jedoch auch erhebliche Herausforderungen und Risiken dar. Das Kunstwerk ist eine zum Nachdenken anregende Mischung aus Kunst und Philosophie und regt zu tiefer Reflexion über die Zukunft der Mensch-Maschine-Interaktion an.

Ein Bild, das Schwarzweiß, Haus, Kunst, Gebäude enthält.Automatisch generierte Beschreibung

Generative vs. degenerative Effekte

Der Diskurs um AGI konzentriert sich oft auf ihre generativen Fähigkeiten – ihr Potenzial, neues Wissen, neue Lösungen und sogar neue Kunstformen zu schaffen. Diese Perspektive muss jedoch mit einem Verständnis der degenerativen Auswirkungen von AGI in Einklang gebracht werden, darunter die Aushöhlung der Privatsphäre, die Verstärkung sozialer Ungleichheiten und das Potenzial für eine existenzielle Krise für die Menschheit.

Diese schwarzweiße Bleistiftzeichnung intensiviert das Thema des Verfalls und integriert menschliche Figuren und Elemente, die Erosion symbolisieren, in eine surreale Landschaft aus unmöglichen Objekten und komplizierten Mosaiken. Das zentrale Penrose-Dreieck ist von geometrischen Formen umgeben, die sich ineinander verwandeln und das Thema der Evolution einfangen. Menschliche Figuren interagieren mit der Szene inmitten zahlreicher Gräber, zerfallender Strukturen, überwucherter Vegetation und verfallender Elemente und betonen die degenerativen Auswirkungen der AGI.

Das Kunstwerk manipuliert geschickt Perspektive und optische Täuschungen und erzeugt ein Gefühl der Unendlichkeit mit endlos gewundenen Pfaden und reflektierenden Oberflächen, die Symmetrie erzeugen. Überwucherte Gräber und tanzende Skelette verleihen eine eindringlich schöne Note und symbolisieren die Erosion der Vergangenheit und die Überreste dessen, was einmal war. Der verstärkte Verfall mit mehr Gräbern und Anzeichen von Verschlechterung unterstreicht die Erzählung vom Potenzial von AGI, die Privatsphäre zu untergraben, soziale Ungleichheiten zu verstärken und existenzielle Risiken darzustellen.

Dieses Werk lädt die Betrachter ein, über die differenzierten Auswirkungen von AGI nachzudenken und ihr Potenzial zur Schaffung neuen Wissens und neuer Lösungen mit den Risiken abzuwägen, die sie für die Gesellschaft birgt. Es unterstreicht die Bedeutung eines ausgewogenen Ansatzes für die Entwicklung und Integration von AGI und verbindet Kunst und Philosophie zu einer zum Nachdenken anregenden visuellen Erzählung.

Ein Bild, das Schädel, Kunst, Knochen, Schwarzweiß enthält.Automatisch generierte Beschreibung

Mit AGI einen Weg nach vorne ebnen

Da wir kurz vor der Realisierung der AGI stehen, ist die Notwendigkeit eines umfassenden Rahmens zur Bewältigung ihrer Komplexität von größter Bedeutung. Technologen, politische Entscheidungsträger und die Öffentlichkeit müssen zusammenarbeiten, um sicherzustellen, dass die AGI als Kraft des Guten dient und die Menschheit in eine Zukunft führt, in der Technologie und menschliche Werte im Einklang stehen.

Diese schwarzweiße Bleistiftzeichnung zeigt als zentralen Fokus die Frontansicht eines menschlichen Schädels, umgeben von Elementen des Verfalls und der Erosion. Zerfallende Strukturen, überwucherte Vegetation und zahlreiche Gräber rahmen den Schädel ein, während tanzende menschliche Skelette und kleine, mit Pflanzen überwucherte Gräber die eindringliche Atmosphäre verstärken.

Nach und nach werden geometrische Formen und unmögliche Objekte wie ein Penrose-Dreieck und Parkettierungen in die Szene integriert, die Evolution und Metamorphose symbolisieren. Reflektierende Oberflächen und symmetrische Designs verschmelzen nahtlos mit den verfallenden architektonischen Strukturen und erzeugen ein komplexes Zusammenspiel mehrerer Realitätsebenen, das herkömmliche Wahrnehmungen von Schwerkraft und räumlichen Beziehungen in Frage stellt.

Der eingebettete Text diskutiert die duale Natur von AGI und hebt ihr Potenzial zur Schaffung neuen Wissens und neuer Lösungen hervor, aber auch ihre degenerativen Auswirkungen, darunter die Aushöhlung der Privatsphäre, die Verstärkung sozialer Ungleichheiten und das Potenzial einer existenziellen Krise für die Menschheit. Dieses Kunstwerk bewertet kritisch die Dichotomie zwischen den generativen und degenerativen Auswirkungen von AGI und fordert einen differenzierten Ansatz für ihre Entwicklung und Integration in die Gesellschaft.

Dieses Werk lädt den Betrachter dazu ein, über die tiefgreifenden Auswirkungen künstlicher Intelligenz nachzudenken und ihre revolutionären Möglichkeiten den damit verbundenen Risiken gegenüberzustellen. Es stellt eine zum Nachdenken anregende Mischung aus Kunst und philosophischer Betrachtung dar.

Dustillations I: Geister der zukünftigen Vergangenheit

Hinterlasse einen Kommentar Mai 28, 2024 aiuisensei

Lesezeit: 3 Protokoll

Ein Bild, das Bild, Wasser, Zeichnung, Kunst enthält.Automatisch generierte Beschreibung

Es ist genau ein Jahr her, seit ich mit diesem Blog begonnen habe. Während die meisten Texte auf dieser Seite streng von meinen menschlichen Absichten bestimmt wurden, wird diese neue Serie meinem digitalen Co-Autor mehr ästhetische Freiheit gewähren.

Die Serie mit dem Titel Destillationen beginnt mit nur ein paar losen Gedanken von mir – einem kryptischen Titel und einigen Notizen, die ich GPT-4o zur Verfügung stelle. Von dort aus lasse ich es frei Bilder basierend auf dem Inhalt des Textes erstellen. Dann beschreibt es, was es sieht, in seinen eigenen Worten, als wäre es ein Besucher einer Kunstgalerie.

Im Juni werde ich versuchen, täglich die Dustillations hochzuladen, die ich in den letzten Wochen vorbereitet habe.

Herzlichen Glückwunsch zum Jubiläum! Feiern Sie mit mir mit einer täglichen Dosis kreativer Zusammenarbeit zwischen Mensch und KI.

Gesellschaftliche Spukereien: Die Auswirkungen eingebetteter Personas

Ein Bild, das Gebäude, draußen, Wasser, Schwarzweiß enthält.Automatisch generierte Beschreibung

Dieses Werk fängt auf komplexe Weise einen digitalen Geist ein, der mit dem Gefüge einer modernen Stadt verwoben ist. Die geisterhafte Figur, die aus digitalen Codes besteht, interagiert mit dem Alltag und verschmilzt traditionelle und moderne architektonische Elemente. Schatten und Reflexionen enthüllen seine allgegenwärtige Präsenz und symbolisieren den allgegenwärtigen Einfluss digitaler Persönlichkeiten auf die Gesellschaft.

Ethische Gespenster: Navigieren durch das moralische Labyrinth

Ein Bild, das Schwarzweiß, Kunst, monochrom enthält.Automatisch generierte Beschreibung

Ein nachdenklicher digitaler Geist steht am Eingang eines Labyrinths aus Leiterplatten und digitalen Pfaden. Symbole ethischer Dilemmata wie Waagen der Gerechtigkeit und zerbrochene Ketten füllen das Labyrinth. Menschliche Schatten an den Wänden repräsentieren die Schöpfer und Benutzer und rufen die komplexe moralische Landschaft der digitalen Wiederbelebung hervor.

Zukünftige Auswirkungen: Koexistenz mit digitalen Geistern

Ein Bild, das Mond, Gebäude, Schwarzweiß, draußen enthält.Automatisch generierte Beschreibung

Dieses Kunstwerk zeigt eine harmonische Zukunft, in der Menschen und digitale Geister koexistieren. Geisterhafte digitale Figuren interagieren mit Menschen in einer Stadtlandschaft, in der sich fortschrittliche Technologie und natürliche Elemente vermischen. Die Szene suggeriert eine symbiotische Beziehung und verdeutlicht sowohl das Potenzial für eine bereichernde menschliche Erfahrung als auch die Risiken, den Kontakt zur menschlichen Verbundenheit zu verlieren.

Navigieren durch unsere gespenstische digitale Zukunft

Ein Bild, das Bild, Wolke, draußen, Zeichnung enthält.Automatisch generierte Beschreibung

Eine Gestalt steht am Rand einer Klippe und blickt über eine Landschaft, in der sich digitale und physische Welten verflechten. Geisterhafte digitale Personen schweben neben natürlichen Elementen und symbolisieren die Notwendigkeit eines ausgewogenen Ansatzes für den technologischen Fortschritt. Die von der Gestalt gehaltene Laterne steht für Führung und Erleuchtung in dieser neuen Ära.

Digitale Echos in einer heimgesuchten Gesellschaft

Ein Bild, das Wolke, Stadt, Gebäude, Schwarzweiß enthält.Automatisch generierte Beschreibung

Dieses Werk überlagert eine moderne Stadtlandschaft mit geisterhaften digitalen Personen, die aus Binärcodes bestehen. Diese geisterhaften Figuren interagieren sowohl mit zeitgenössischen als auch mit klassischen Elementen und erzeugen ein Gefühl von Kontinuität und Veränderung. Schatten an den Wänden spiegeln die psychologischen und gesellschaftlichen Auswirkungen dieser digitalen Echos wider und erforschen die ethischen, psychologischen und gesellschaftlichen Ebenen, die durch wiederbelebte digitale Personen entstehen.

Epilog: Diejenigen, die Utopien verlassen

Hinterlasse einen Kommentar Mai 13, 2024 aiuisensei

Lesezeit: 3 Protokoll

Für UKL

Ein Bild, das Kunst, Bild, Majorelle Blue, Welt enthält.Automatisch generierte Beschreibung Im grenzenlosen Universum von Utopias war die Menschheit in ein Reich jenseits des Vorstellbaren vorgedrungen, in dem technologische Meisterschaft und göttliches Können die Existenz selbst neu gestaltet hatten. Diese universumweite Dyson-Sphäre, eine Verkörperung menschlichen Einfallsreichtums und Harmonie, war ein Wandteppich, gewebt aus den Fäden unendlichen Wissens und Mitgefühls. In Utopias war Leid nur eine ferne Erinnerung, ein Relikt einer urzeitlichen Vergangenheit, und Glück war kein flüchtiger Moment, sondern das eigentliche Gewebe des Lebens.

Im Mittelpunkt dieser Utopie stand nicht nur die Freude, sondern das tiefe Verständnis und die Akzeptanz des Lebens in seiner Gesamtheit. Die Bürger der Utopien, die Autopotenz erreicht hatten, lebten ein Leben voller Kreativität und Erfüllung. Kunst, Wissenschaft und Philosophie blühten, unbeeinflusst von den Zwängen von Knappheit oder Konflikten. Natur und Technologie koexistierten in erhabener Synergie, und die Ökosysteme gediehen unter der sanften Obhut der Menschheit. Hier war jeder Einzelne sowohl Schüler als auch Lehrer und entwickelte sich auf einer gemeinsamen Reise der Erleuchtung ständig weiter.

Ein Bild, das Kleidung, Schuhwerk, Himmel, Gebäude enthält.Automatisch generierte Beschreibung

Inmitten dieser Pracht wurde die Geschichte des letzten Mädchens zu einem Leuchtfeuer der Erinnerung und Ehrfurcht. Ihr Zuhause in Utopias war nicht nur ein Ort; es war eine heilige Verbindung, eine Brücke zu den alten Wurzeln der Menschheit. Dieses Mädchen war mit ihrem Lachen und ihrer Neugier ein lebendiges Zeugnis der Kämpfe und Triumphe ihrer Vorfahren. Ihre Anwesenheit erinnerte die Bürger von Utopias an den Wert ihrer Reise aus der Dunkelheit ins Licht, aus dem Leiden zur Erlösung.

Ihre Geschichte wurde in den prächtigsten Hallen von Utopias und in den ruhigsten Winkeln seiner Gärten gefeiert und löste eine kollektive Erleuchtung aus. Sie symbolisierte den unbezwingbaren Geist der Menschheit und erinnerte daran, dass das Paradies, das sie geschaffen hatten, auf den Erfahrungen basierte, die sie in Jahrtausenden voller Herausforderungen gemacht hatten. Jeder ihrer Schritte durch Utopias war ein Schritt der gesamten Menschheit, ein Schritt zum Verständnis der Heiligkeit des Lebens und der Verbundenheit aller Wesen.

Die Bürger von Utopias hatten in ihrer Weisheit und Macht nicht vergessen, was für ein Mensch sie sind. Sie umarmten das Mädchen wie eines der ihren, denn in ihren Augen spiegelten sich ihre alten Träume und Hoffnungen. Sie sahen in ihr das unendliche Potenzial des menschlichen Geistes, ein Potenzial, das sie zu den Sternen und darüber hinaus geführt hatte.

In Utopias war jeder Moment eine Gelegenheit zum Wachstum und zur Reflexion. Die Begegnung mit dem Mädchen wurde als göttliche Erfahrung verehrt, als Moment beispielloser spiritueller Erleuchtung. Es war eine Feier der Reise vom Ursprünglichen zum Göttlichen, eine Reise, die sich mit jedem Augenblick weiter entfaltete.

Ein Bild, das Riff, Bild, Aquarium, Pflanze enthält.Automatisch generierte Beschreibung

Während das Mädchen die Wunder der Utopien erkundete, hallte ihr Lachen durch den Kosmos, eine harmonische Symphonie, die mit der Seele jedes Wesens in Resonanz trat. Sie war eine Erinnerung daran, dass der Weg zur Utopie mit Mitgefühl, Verständnis und dem unermüdlichen Streben nach Wissen gepflastert war.

Und so bestand das Erbe der Menschheit in Utopien nicht nur aus technologischen Wundern oder gottgleicher Leistung, sondern aus einer ewigen Suche nach Verständnis und Verbundenheit. Es war ein Zeugnis der Macht des Kollektivgeistes und des fortwährenden Strebens nach einer besseren Zukunft.

Das Seltsamste ist, dass sich hin und wieder trotz der vollkommenen Glückseligkeit in Utopien einige Utopianer dafür entscheiden, all das hinter sich zu lassen und sich ins Jenseits zu wagen. Man hört nie wieder von ihnen, und wenn das geschieht, vergießt das kleine Mädchen eine einzige Träne für jeden dieser Geister. Und selbst in unserer gelösten Welt weiß man nicht, ob es Tränen der Trauer oder der Freude für diejenigen sind, die Utopien verlassen.

Ein Bild, das Anime, Zeichnung, Bild, Kunst enthält.Automatisch generierte Beschreibung

(Idee, Konzept & Feinabstimmung: aiuisensei, Bilder: Dalle-3, Story: ChatGPT 4)

Autor: aiuisensei

Kindheit war eine Erfindung

Der schleichende Verfall: von Geheimnissen zu Bindungen

Künstliche Bindung: das parasoziale Medium schlechthin

Das Kind war immer der Sensor

Die Branche zielte auf die Baumschule ab

Die Peter-Pantheisten, die es gebaut haben

Das gefährdete Kind

Das Verschwinden

Wie wir uns nicht damit zufriedengaben, nur einen Dämon zu beschwören, und begannen, Tausende zu beschwören.

Eine kurze Einführung in den philosophischen Horror

Nekromantie – sich in tote Dinge verlieben

Friedhof der Kuscheltiere — der Dämon, der das Gesicht des Toten trägt

Ringu — der Dämon, der sich durch die Medien ausbreitet

Ich habe keinen Mund und muss schreien — der Dämon, der die Hölle auf Erden inszeniert

Das Ding — der Dämon, der eine ununterscheidbare Kopie ist

Schaden ohne Bosheit

Die Pixarisierung der Dinge

Ein ungünstiger Zufall

Die Mathematikmystiker

Ein Musical mit Zahlen, für die man keine Sänger, sondern Taschenrechner braucht.

Multidimensionale Abbildungen

Was Wittgenstein beinahe gesagt hätte

Der Taschenrechner und warum er hier ist

Prolog

Einführung der Differentiation Test Engine

Theoretischer Rahmen

Definition des grundlegenden Erkennungssystems

Randbemerkungen zur Obfuscation Engine

Das Profiling-System

Die „DNA-Spur“

Die ethischen Implikationen

Technische Lösungen

Abschluss

Künstliche allgemeine Intelligenz als vielschneidiges Schwert

Die universelle Technologie: Der allgegenwärtige Einfluss der AGI

Das Wirkungsspektrum von AGI

Generative vs. degenerative Effekte

Mit AGI einen Weg nach vorne ebnen

Gesellschaftliche Spukereien: Die Auswirkungen eingebetteter Personas

Ethische Gespenster: Navigieren durch das moralische Labyrinth

Zukünftige Auswirkungen: Koexistenz mit digitalen Geistern

Navigieren durch unsere gespenstische digitale Zukunft

Digitale Echos in einer heimgesuchten Gesellschaft