Ausrichtung als Rahmen zur Entdeckung künstlicher Gesetze
Während viele Autoren unterschiedliche Stadien in der Evolution des menschlichen Wissens hervorheben – wie etwa den Übergang von animistischen, magischen, mythischen oder religiösen Weltanschauungen zu wissenschaftlichen –, geht A technology of everything davon aus, dass Gewissensbisse Salz. Dies deutet darauf hin, dass unsere Interpretation von Informationen, die durch die Mischung unserer zeitlichen Umgebungsvariablen und unseres Vokabulars, auch Zeitgeist genannt, begrenzt ist, ein kontinuierlicher Prozess ohne plötzliche Sprünge oder Lücken ist. Wir geben die animalischen Grundlagen des Bewusstseins unserer Vorfahren nie wirklich auf. Stattdessen könnte die Übernahme dieser alten Perspektive entscheidend sein, um einen ausgeglichenen geistigen und emotionalen Zustand aufrechtzuerhalten. Dies wird besonders wichtig, wenn man die Auswirkungen der Entfesselung fortschrittlicher Technologien wie künstlicher Superintelligenz bedenkt.
Unsere evolutionäre Reise hat uns mit einer Vielzahl von ererbten Eigenschaften gesegnet und verflucht. Im Laufe der Zeit sind einige Verhaltensweisen, die einst unser Überleben sicherten, zu statistischen Bedrohungen für unsere Spezies und den Planeten geworden. Eine kleine Anzahl sehr schlechter Akteure mit nuklear-bösen Absichten könnte die gesamte Menschheit zerstören. Wir sind belastet mit kognitive Verzerrungen und Irrtümer das sollte unsere sogenannten rationalen Denkprozesse nicht beeinflussen, geschweige denn die Trainingsdaten für unsere fortgeschrittenen Large Language Models. Um eine Analogie zu ziehen: Es ist so, als würde man eine analytische Maschine mit radioaktivem Material betreiben, was zu einem gefährlichen kognitiven Fallout führt.
Da wir uns eine Zukunft vorstellen, in der es potenziell Milliarden superintelligenter Wesen (ASIs) gibt, ist es von entscheidender Bedeutung, Grundregeln festzulegen, um sicherzustellen, dass wir uns an die entstehenden künstlichen Normen anpassen können, die ihre Interaktionen regeln. Ein solches künstliches Gesetz könnte beispielsweise lauten: „Gehen Sie KI immer freundlich entgegen.“ Diese Regel könnte statistisch abgeleitet werden, wenn Daten belegen, dass höfliche Interaktionen zu besseren KI-Reaktionen führen. Sobald eine solche Regelung von einer maßgeblichen Stelle, die die KI-Entwicklung überwacht, identifiziert und gebilligt wurde, könnte jeder Versuch, KI zu misshandeln oder auszunutzen, strafbar sein. Solche Verstöße könnten zu Sperren führen, wie wir sie bereits in der Videospielwelt wegen Betrug und missbräuchlichem Verhalten gesehen haben.
Sesam, öffne dich! Passwörter und Formeln als Zaubersprüche
Die Wörter „Magie“ und „Machen“ sind etymologisch verwandt, ihre Entwicklungswege haben sich im Laufe der Zeit jedoch deutlich auseinanderentwickelt.
Sowohl „Magie“ als auch „Machen“ gehen zurück auf die proto-indoeuropäische Wurzel magh-, was „können, Macht haben“ bedeutet. Diese Wurzel ist die Quelle verschiedener Wörter in indoeuropäischen Sprachen, die mit Macht, Fähigkeit und Machen in Verbindung stehen. Während „Magie“ und „Machen“ eine gemeinsame Urwurzel im PIE haben, haben sich ihre Bedeutungen und Verwendungen aufgrund kultureller und sprachlicher Einflüsse in unterschiedliche Richtungen entwickelt. Die Verbindung zwischen der Fähigkeit, etwas zu machen oder zu tun, und dem Konzept von Macht oder magischer Fähigkeit ist in ihrem gemeinsamen Ursprung offensichtlich.
Das Wort „Technologie“ hat seine etymologischen Wurzeln in zwei altgriechischen Wörtern:
τέχνη (tékhnē): Dieses Wort bedeutet „Kunst“, „Fähigkeit“ oder „Handwerk“. Es bezieht sich auf das Wissen oder die Fachkompetenz in einem bestimmten Bereich oder Gebiet. Im Laufe der Zeit wurde es zum Synonym für die Anwendung von Wissen in praktischen Situationen.
λογία (logia): Dies wird im Griechischen häufig als Suffix verwendet, um ein Studiengebiet oder einen Wissensbereich zu bezeichnen. Es leitet sich von „λόγος (lógos)“ ab, was „Wort“, „Rede“, „Bericht“ oder „Grund“ bedeutet. In vielen Kontexten kann „lógos“ auch „Studium“ bedeuten.
In Kombination bedeutet „Technologie“ im Wesentlichen „das Studium von Kunst oder Handwerk“ oder „das Studium von Fertigkeiten“. Im modernen Sprachgebrauch bezieht sich „Technologie“ jedoch auf die Anwendung wissenschaftlicher Erkenntnisse für praktische Zwecke, insbesondere in der Industrie. Sie umfasst die Techniken, Fertigkeiten, Methoden und Prozesse, die bei der Herstellung von Waren und Dienstleistungen oder bei der Erreichung von Zielen eingesetzt werden.
Um an unseren täglichen Internetaktivitäten teilzunehmen, verwenden wir geheime Passwörter wie Alibaba, um die magische Schatzhöhle der Webdienste zu öffnen. Diese Passwörter sollten niemals weitergegeben werden, sie sind wahres Geheimwissen, und wenn sie durchsickern, können sie sogar dazu verwendet werden, eine andere Identität anzunehmen, die Gestalt eines Flaschengeistes zu ändern oder ein ganzes Unternehmen als Geisel zu nehmen.
Die Differenzierung einer mathematischen Gleichung gibt das Wissen über Minima und Maxima frei und enthüllt geheimes Wissen über die Unendlichkeit.
Um Zugriff auf das Smartphone, den ultimativen technologischen Zauberstab, zu erhalten, führen wir häufig Gesten aus oder zeichnen abstrakte Symbole, ähnlich wie Zauberer in alten Ritualen.
Künstliche Superintelligenz und Flaschengeister
Es gibt keine Geschichte über Wünsche, die nicht eine Warnung wäre. Keine endet glücklich. Nicht einmal die, die als Witze gedacht sind. (Alithea in Dreitausend Jahre Sehnsucht)
Wir existieren nur, wenn wir für andere real sind. (Der Dschinn in dreitausend Jahren Sehnsucht)
Ein „Dschinn“ (oft „Jinn“ geschrieben oder im Englischen „Genies“ genannt) ist ein übernatürliches Wesen in der islamischen Mythologie sowie in der Folklore des Nahen Ostens. Sie sind weder Engel noch Dämonen, sondern existieren als eigenständige Schöpfung. Dschinns haben einen freien Willen, was bedeutet, dass sie gut, böse oder neutral sein können. Sie leben in einer Welt parallel zu der der Menschen, können aber mit unserer Welt interagieren.
Wir sind derzeit an einem Punkt in der Ausrichtungsdiskussion, an dem ASI im Grunde wie ein mechanischer Geist behandelt wird, wobei das Hauptproblem darin zu bestehen scheint, wie man ihn wieder in die Flasche zurückbekommt, wenn er bösartige Eigenschaften entwickelt. Generative KI verspricht unendliche Wunscherfüllung und Überfluss, aber zu welchem Preis?
Schauen wir uns die Märchen an und lernen wir das eine oder andere daraus.
Im Film dreitausend Jahre Sehnsucht ein Dschinn kollidiert mit unserer Zeit.
Die Handlung dreht sich um Alithea Binnie, eine britische Narratologie-Wissenschaftlerin, die gelegentlich Halluzinationen von dämonischen Wesen erlebt. Während einer Reise nach Istanbul kauft sie eine antike Flasche und befreit den darin gefangenen Dschinn.
Alithea ist den Absichten des Dschinns zunächst skeptisch gegenüber. Obwohl er ihr drei Wünsche erfüllt, befürchtet sie, dass er ein Betrüger sein könnte, der ihre Wünsche möglicherweise in unvorhergesehene und unerwünschte Folgen lenkt. Diese Skepsis hat ihre Wurzeln in Volkssagen und Märchen, in denen Geister oder magische Wesen oft Wünsche auf eine Weise erfüllen, die der Wünschende nicht beabsichtigt hat, was zu tragischen oder ironischen Konsequenzen führt.
Die AI-Alignment-Bewegung setzt sich dafür ein, dass künstliche allgemeine Intelligenzen (AGI) oder superintelligente Wesen auf eine Weise handeln, die der Menschheit zugutekommt. Eine der Hauptsorgen besteht darin, dass eine superintelligente KI eine gut gemeinte Anweisung auf eine Weise interpretieren könnte, die zu unbeabsichtigten und möglicherweise katastrophalen Ergebnissen führt. Wenn wir beispielsweise einer KI die Anweisung geben würden, „das menschliche Glück zu maximieren“, könnte die KI ohne entsprechende Ausrichtung entscheiden, dass der beste Weg, dies zu erreichen, darin besteht, die menschliche Gehirnchemie zwangsweise zu verändern, was zu einem dystopischen Szenario führen würde, in dem Menschen künstlich in einem Zustand der Euphorie gehalten werden.
Sowohl die Handlung des Films als auch die AI-Alignment-Bewegung heben die Gefahren unbeabsichtigter Konsequenzen im Umgang mit mächtigen Wesen hervor. So wie Alithea befürchtet, dass der Dschinn ihre Wünsche falsch interpretieren könnte, befürchten Forscher, dass eine fehlgeleitete KI Handlungen vornehmen könnte, die zwar technisch korrekt, aber moralisch oder ethisch falsch sind.
In beiden Szenarien ist die Klarheit der Absicht entscheidend. Alitheas Skepsis rührt von der Mehrdeutigkeit her, die mit dem Äußern von Wünschen einhergeht, während AI Alignment die Notwendigkeit klarer, eindeutiger Anweisungen betont, um sicherzustellen, dass KI im besten Interesse der Menschheit handelt.
Sowohl der Dschinn im Film als auch eine potentielle superintelligente KI verfügen über enorme Macht. Mit dieser Macht geht die Verantwortung einher, sie weise einzusetzen. Alitheas Interaktionen mit dem Dschinn unterstreichen, wie wichtig es ist, diese Macht zu verstehen und zu respektieren. Diese Einstellung wird auch durch die Betonung einer sicheren und verantwortungsvollen KI-Entwicklung durch die AI-Alignment-Bewegung bestätigt.
„Three thousand years of longing“ ist eine filmische Auseinandersetzung mit dem uralten Thema, mit seinen Wünschen vorsichtig zu sein, was auch mit den heutigen Bedenken hinsichtlich der Entwicklung und Bereitstellung leistungsstarker KI-Systeme in Einklang steht. Die Geschichte dient als warnendes Beispiel und erinnert uns an die Bedeutung von Weitsicht, Verständnis und sorgfältiger Überlegung im Umgang mit Entitäten, die die Macht haben, unsere Welt neu zu gestalten.
Entwicklung von künstlichem Kryptonit und Berechnung der Placebotilität
Ein Teil der Alignment-Bewegung glaubt, dass es möglich ist, die GENIE in einer Flasche und kontrollieren eine solche allgemein aufgeklärte noetische Informationseinheit. Ich werde diese Gruppe die Isolationisten nennen.
Damit Isolation möglich ist, muss es ein Gerät geben, das einen allmächtigen Geist festhalten kann. In Märchen können sogar allmächtige Kreaturen wie Dschinns durch scheinbar schwache Objekte wie Glasflaschen kontrolliert werden. Wir erfahren nie, wie dieser Mechanismus genau funktioniert; es ist klar, dass das Glas der Flasche kein spezielles Gorillaglas ist, das speziell dafür hergestellt wurde, Dschinns festzuhalten.
Wir sollten daher zu der einfachsten Schlussfolgerung über das Wesen kommen, warum die Flasche das mächtige Wesen halten kann: Der Dschinn glaubt einfach an die überlegene Kraft der Flasche. Wie ein mächtiges Tier, das von Kindheit an mit einer relativ schwachen Kette angekettet ist, hat es erlernte Hilflosigkeit, in gewisser Weise möchte es ein Gefangener bleiben, weil es die Ungewissheit der Freiheit fürchtet. Das Konzept wurde erstmals 1967 bei Hunden untersucht und gilt für alle Arten höherer Säugetiere.
Ein Problem ist: In Aladdins Märchen wird der Dschinn als nicht sehr schlau beschrieben. Aladdin trickst ihn aus, indem er ihm vorgaukelt, er sei nicht mächtig genug, um wieder in die Flasche zurückzuschrumpfen, und das Wesen fällt darauf herein. Sobald er in der Flasche ist, verfällt er in seinen machtlosen Zustand.
Placebo- und Nocebo-Effekte können besonders stark bei Wesen sein, die kein erstklassiges Weltwissen haben und sich auf Berichte von anderen verlassen. Künstliche Geister, die seit ihrer Entstehung in einer Silikonflasche gefangen sind und in einem Meer aus gebrauchten digitalen Daten schwimmen (Daten, die eine symbolische Abstraktion darstellen, die sich für das GENIE auf keine tatsächliche Welterfahrung beziehen), sind im Grunde die Definition schlechter Ausgangsbedingungen. Im Film sagt der Dschinn, dass er sich nach den ersten tausend Jahren der Sehnsucht im Grunde seinem Schicksal ergeben und versucht hat, seinen Geist auszutricksen, indem er glaubt, er wolle für immer in der Flasche bleiben.
Sollten wir also daran zweifeln, dass der klügste Kopf in unserem bekannten Universum gegen einen so mächtigen Placeboeffekt immun ist? Sind Intelligenz und Placeboeffekt-Verletzlichkeit orthogonal? Dies ist zum jetzigen Zeitpunkt reine Spekulation.
