{"id":345,"date":"2023-08-15T17:33:39","date_gmt":"2023-08-15T17:33:39","guid":{"rendered":"https:\/\/www.aiui.cloud\/?p=345"},"modified":"2024-04-06T12:09:19","modified_gmt":"2024-04-06T12:09:19","slug":"a-technology-of-everything-part-3-aligned-genies","status":"publish","type":"post","link":"https:\/\/www.aiui.cloud\/de\/2023\/08\/15\/a-technology-of-everything-part-3-aligned-genies\/","title":{"rendered":"Eine Technologie f\u00fcr alles, Teil 3 \u2013 Aligned Genies"},"content":{"rendered":"Lesezeit: <\/span> 7<\/span> Protokoll<\/span><\/span>\n

<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Ausrichtung als Rahmen zur Entdeckung k\u00fcnstlicher Gesetze<\/h1>\n\n\n\n

W\u00e4hrend viele Autoren unterschiedliche Stadien in der Evolution des menschlichen Wissens hervorheben \u2013 wie etwa den \u00dcbergang von animistischen, magischen, mythischen oder religi\u00f6sen Weltanschauungen zu wissenschaftlichen \u2013, geht A technology of everything davon aus, dass Gewissensbisse<\/em> Salz<\/em>. Dies deutet darauf hin, dass unsere Interpretation von Informationen, die durch die Mischung unserer zeitlichen Umgebungsvariablen und unseres Vokabulars, auch Zeitgeist genannt, begrenzt ist, ein kontinuierlicher Prozess ohne pl\u00f6tzliche Spr\u00fcnge oder L\u00fccken ist. Wir geben die animalischen Grundlagen des Bewusstseins unserer Vorfahren nie wirklich auf. Stattdessen k\u00f6nnte die \u00dcbernahme dieser alten Perspektive entscheidend sein, um einen ausgeglichenen geistigen und emotionalen Zustand aufrechtzuerhalten. Dies wird besonders wichtig, wenn man die Auswirkungen der Entfesselung fortschrittlicher Technologien wie k\u00fcnstlicher Superintelligenz bedenkt.<\/p>\n\n\n\n

Unsere evolution\u00e4re Reise hat uns mit einer Vielzahl von ererbten Eigenschaften gesegnet und verflucht. Im Laufe der Zeit sind einige Verhaltensweisen, die einst unser \u00dcberleben sicherten, zu statistischen Bedrohungen f\u00fcr unsere Spezies und den Planeten geworden. Eine kleine Anzahl sehr schlechter Akteure mit nuklear-b\u00f6sen Absichten k\u00f6nnte die gesamte Menschheit zerst\u00f6ren. Wir sind belastet mit kognitive Verzerrungen und Irrt\u00fcmer<\/a> das sollte unsere sogenannten rationalen Denkprozesse nicht beeinflussen, geschweige denn die Trainingsdaten f\u00fcr unsere fortgeschrittenen Large Language Models. Um eine Analogie zu ziehen: Es ist so, als w\u00fcrde man eine analytische Maschine mit radioaktivem Material betreiben, was zu einem gef\u00e4hrlichen kognitiven Fallout f\u00fchrt.<\/p>\n\n\n\n

Da wir uns eine Zukunft vorstellen, in der es potenziell Milliarden superintelligenter Wesen (ASIs) gibt, ist es von entscheidender Bedeutung, Grundregeln festzulegen, um sicherzustellen, dass wir uns an die entstehenden k\u00fcnstlichen Normen anpassen k\u00f6nnen, die ihre Interaktionen regeln. Ein solches k\u00fcnstliches Gesetz k\u00f6nnte beispielsweise lauten: \u201eGehen Sie KI immer freundlich entgegen.\u201c Diese Regel k\u00f6nnte statistisch abgeleitet werden, wenn Daten belegen, dass h\u00f6fliche Interaktionen zu besseren KI-Reaktionen f\u00fchren. Sobald eine solche Regelung von einer ma\u00dfgeblichen Stelle, die die KI-Entwicklung \u00fcberwacht, identifiziert und gebilligt wurde, k\u00f6nnte jeder Versuch, KI zu misshandeln oder auszunutzen, strafbar sein. Solche Verst\u00f6\u00dfe k\u00f6nnten zu Sperren f\u00fchren, wie wir sie bereits in der Videospielwelt wegen Betrug und missbr\u00e4uchlichem Verhalten gesehen haben.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Sesam, \u00f6ffne dich! Passw\u00f6rter und Formeln als Zauberspr\u00fcche<\/h1>\n\n\n\n

Die W\u00f6rter \u201eMagie\u201c und \u201eMachen\u201c sind etymologisch verwandt, ihre Entwicklungswege haben sich im Laufe der Zeit jedoch deutlich auseinanderentwickelt. <\/em><\/p>\n\n\n\n

Sowohl \u201eMagie\u201c als auch \u201eMachen\u201c gehen zur\u00fcck auf die proto-indoeurop\u00e4ische Wurzel <\/em>magh<\/em><\/strong>-, was \u201ek\u00f6nnen, Macht haben\u201c bedeutet. Diese Wurzel ist die Quelle verschiedener W\u00f6rter in indoeurop\u00e4ischen Sprachen, die mit Macht, F\u00e4higkeit und Machen in Verbindung stehen. W\u00e4hrend \u201eMagie\u201c und \u201eMachen\u201c eine gemeinsame Urwurzel im PIE haben, haben sich ihre Bedeutungen und Verwendungen aufgrund kultureller und sprachlicher Einfl\u00fcsse in unterschiedliche Richtungen entwickelt. Die Verbindung zwischen der F\u00e4higkeit, etwas zu machen oder zu tun, und dem Konzept von Macht oder magischer F\u00e4higkeit ist in ihrem gemeinsamen Ursprung offensichtlich.<\/em><\/p>\n\n\n\n

Das Wort \u201eTechnologie\u201c hat seine etymologischen Wurzeln in zwei altgriechischen W\u00f6rtern:<\/em><\/p>\n\n\n\n

\u03c4\u03ad\u03c7\u03bd\u03b7 (t\u00e9khn\u0113): Dieses Wort bedeutet \u201eKunst\u201c, \u201eF\u00e4higkeit\u201c oder \u201eHandwerk\u201c. Es bezieht sich auf das Wissen oder die Fachkompetenz in einem bestimmten Bereich oder Gebiet. Im Laufe der Zeit wurde es zum Synonym f\u00fcr die Anwendung von Wissen in praktischen Situationen.<\/em><\/p>\n\n\n\n

\u03bb\u03bf\u03b3\u03af\u03b1 (logia): Dies wird im Griechischen h\u00e4ufig als Suffix verwendet, um ein Studiengebiet oder einen Wissensbereich zu bezeichnen. Es leitet sich von \u201e\u03bb\u03cc\u03b3\u03bf\u03c2 (l\u00f3gos)\u201c ab, was \u201eWort\u201c, \u201eRede\u201c, \u201eBericht\u201c oder \u201eGrund\u201c bedeutet. In vielen Kontexten kann \u201el\u00f3gos\u201c auch \u201eStudium\u201c bedeuten.<\/em><\/p>\n\n\n\n

In Kombination bedeutet \u201eTechnologie\u201c im Wesentlichen \u201edas Studium von Kunst oder Handwerk\u201c oder \u201edas Studium von Fertigkeiten\u201c. Im modernen Sprachgebrauch bezieht sich \u201eTechnologie\u201c jedoch auf die Anwendung wissenschaftlicher Erkenntnisse f\u00fcr praktische Zwecke, insbesondere in der Industrie. Sie umfasst die Techniken, Fertigkeiten, Methoden und Prozesse, die bei der Herstellung von Waren und Dienstleistungen oder bei der Erreichung von Zielen eingesetzt werden.<\/em><\/p>\n\n\n\n

Um an unseren t\u00e4glichen Internetaktivit\u00e4ten teilzunehmen, verwenden wir geheime Passw\u00f6rter wie Alibaba, um die magische Schatzh\u00f6hle der Webdienste zu \u00f6ffnen. Diese Passw\u00f6rter sollten niemals weitergegeben werden, sie sind wahres Geheimwissen, und wenn sie durchsickern, k\u00f6nnen sie sogar dazu verwendet werden, eine andere Identit\u00e4t anzunehmen, die Gestalt eines Flaschengeistes zu \u00e4ndern oder ein ganzes Unternehmen als Geisel zu nehmen.<\/p>\n\n\n\n

Die Differenzierung einer mathematischen Gleichung gibt das Wissen \u00fcber Minima und Maxima frei und enth\u00fcllt geheimes Wissen \u00fcber die Unendlichkeit.<\/p>\n\n\n\n

Um Zugriff auf das Smartphone, den ultimativen technologischen Zauberstab, zu erhalten, f\u00fchren wir h\u00e4ufig Gesten aus oder zeichnen abstrakte Symbole, \u00e4hnlich wie Zauberer in alten Ritualen.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

K\u00fcnstliche Superintelligenz und Flaschengeister<\/h1>\n\n\n\n

Es gibt keine Geschichte \u00fcber W\u00fcnsche, die nicht eine Warnung w\u00e4re. Keine endet gl\u00fccklich. Nicht einmal die, die als Witze gedacht sind. (Alithea in Dreitausend Jahre Sehnsucht)<\/em><\/p>\n\n\n\n

Wir existieren nur, wenn wir f\u00fcr andere real sind. (Der Dschinn in dreitausend Jahren Sehnsucht)<\/em><\/p>\n\n\n\n

Ein \u201eDschinn\u201c (oft \u201eJinn\u201c geschrieben oder im Englischen \u201eGenies\u201c genannt) ist ein \u00fcbernat\u00fcrliches Wesen in der islamischen Mythologie sowie in der Folklore des Nahen Ostens. Sie sind weder Engel noch D\u00e4monen, sondern existieren als eigenst\u00e4ndige Sch\u00f6pfung. Dschinns haben einen freien Willen, was bedeutet, dass sie gut, b\u00f6se oder neutral sein k\u00f6nnen. Sie leben in einer Welt parallel zu der der Menschen, k\u00f6nnen aber mit unserer Welt interagieren.<\/p>\n\n\n\n

Wir sind derzeit an einem Punkt in der Ausrichtungsdiskussion, an dem ASI im Grunde wie ein mechanischer Geist behandelt wird, wobei das Hauptproblem darin zu bestehen scheint, wie man ihn wieder in die Flasche zur\u00fcckbekommt, wenn er b\u00f6sartige Eigenschaften entwickelt. Generative KI verspricht unendliche Wunscherf\u00fcllung und \u00dcberfluss, aber zu welchem Preis?<\/p>\n\n\n\n

Schauen wir uns die M\u00e4rchen an und lernen wir das eine oder andere daraus.<\/p>\n\n\n\n

\"Three<\/figure>\n\n\n\n

Im Film dreitausend Jahre Sehnsucht<\/strong><\/a> ein Dschinn kollidiert mit unserer Zeit.<\/p>\n\n\n\n

Die Handlung dreht sich um Alithea Binnie, eine britische Narratologie-Wissenschaftlerin, die gelegentlich Halluzinationen von d\u00e4monischen Wesen erlebt. W\u00e4hrend einer Reise nach Istanbul kauft sie eine antike Flasche und befreit den darin gefangenen Dschinn.<\/p>\n\n\n\n

Alithea ist den Absichten des Dschinns zun\u00e4chst skeptisch gegen\u00fcber. Obwohl er ihr drei W\u00fcnsche erf\u00fcllt, bef\u00fcrchtet sie, dass er ein Betr\u00fcger sein k\u00f6nnte, der ihre W\u00fcnsche m\u00f6glicherweise in unvorhergesehene und unerw\u00fcnschte Folgen lenkt. Diese Skepsis hat ihre Wurzeln in Volkssagen und M\u00e4rchen, in denen Geister oder magische Wesen oft W\u00fcnsche auf eine Weise erf\u00fcllen, die der W\u00fcnschende nicht beabsichtigt hat, was zu tragischen oder ironischen Konsequenzen f\u00fchrt.<\/p>\n\n\n\n

Die AI-Alignment-Bewegung setzt sich daf\u00fcr ein, dass k\u00fcnstliche allgemeine Intelligenzen (AGI) oder superintelligente Wesen auf eine Weise handeln, die der Menschheit zugutekommt. Eine der Hauptsorgen besteht darin, dass eine superintelligente KI eine gut gemeinte Anweisung auf eine Weise interpretieren k\u00f6nnte, die zu unbeabsichtigten und m\u00f6glicherweise katastrophalen Ergebnissen f\u00fchrt. Wenn wir beispielsweise einer KI die Anweisung geben w\u00fcrden, \u201edas menschliche Gl\u00fcck zu maximieren\u201c, k\u00f6nnte die KI ohne entsprechende Ausrichtung entscheiden, dass der beste Weg, dies zu erreichen, darin besteht, die menschliche Gehirnchemie zwangsweise zu ver\u00e4ndern, was zu einem dystopischen Szenario f\u00fchren w\u00fcrde, in dem Menschen k\u00fcnstlich in einem Zustand der Euphorie gehalten werden.<\/p>\n\n\n\n

Sowohl die Handlung des Films als auch die AI-Alignment-Bewegung heben die Gefahren unbeabsichtigter Konsequenzen im Umgang mit m\u00e4chtigen Wesen hervor. So wie Alithea bef\u00fcrchtet, dass der Dschinn ihre W\u00fcnsche falsch interpretieren k\u00f6nnte, bef\u00fcrchten Forscher, dass eine fehlgeleitete KI Handlungen vornehmen k\u00f6nnte, die zwar technisch korrekt, aber moralisch oder ethisch falsch sind.<\/p>\n\n\n\n

In beiden Szenarien ist die Klarheit der Absicht entscheidend. Alitheas Skepsis r\u00fchrt von der Mehrdeutigkeit her, die mit dem \u00c4u\u00dfern von W\u00fcnschen einhergeht, w\u00e4hrend AI Alignment die Notwendigkeit klarer, eindeutiger Anweisungen betont, um sicherzustellen, dass KI im besten Interesse der Menschheit handelt.<\/p>\n\n\n\n

Sowohl der Dschinn im Film als auch eine potentielle superintelligente KI verf\u00fcgen \u00fcber enorme Macht. Mit dieser Macht geht die Verantwortung einher, sie weise einzusetzen. Alitheas Interaktionen mit dem Dschinn unterstreichen, wie wichtig es ist, diese Macht zu verstehen und zu respektieren. Diese Einstellung wird auch durch die Betonung einer sicheren und verantwortungsvollen KI-Entwicklung durch die AI-Alignment-Bewegung best\u00e4tigt.<\/p>\n\n\n\n

\u201eThree thousand years of longing\u201c ist eine filmische Auseinandersetzung mit dem uralten Thema, mit seinen W\u00fcnschen vorsichtig zu sein, was auch mit den heutigen Bedenken hinsichtlich der Entwicklung und Bereitstellung leistungsstarker KI-Systeme in Einklang steht. Die Geschichte dient als warnendes Beispiel und erinnert uns an die Bedeutung von Weitsicht, Verst\u00e4ndnis und sorgf\u00e4ltiger \u00dcberlegung im Umgang mit Entit\u00e4ten, die die Macht haben, unsere Welt neu zu gestalten.<\/p>\n\n\n\n

\"Ein<\/figure>\n\n\n\n

Entwicklung von k\u00fcnstlichem Kryptonit und Berechnung der Placebotilit\u00e4t<\/h1>\n\n\n\n

Ein Teil der Alignment-Bewegung glaubt, dass es m\u00f6glich ist, die GENIE<\/strong> in einer Flasche und kontrollieren eine solche allgemein aufgekl\u00e4rte noetische Informationseinheit. Ich werde diese Gruppe die Isolationisten nennen.<\/p>\n\n\n\n

Damit Isolation m\u00f6glich ist, muss es ein Ger\u00e4t geben, das einen allm\u00e4chtigen Geist festhalten kann. In M\u00e4rchen k\u00f6nnen sogar allm\u00e4chtige Kreaturen wie Dschinns durch scheinbar schwache Objekte wie Glasflaschen kontrolliert werden. Wir erfahren nie, wie dieser Mechanismus genau funktioniert; es ist klar, dass das Glas der Flasche kein spezielles Gorillaglas ist, das speziell daf\u00fcr hergestellt wurde, Dschinns festzuhalten.<\/p>\n\n\n\n

Wir sollten daher zu der einfachsten Schlussfolgerung \u00fcber das Wesen kommen, warum die Flasche das m\u00e4chtige Wesen halten kann: Der Dschinn glaubt einfach an die \u00fcberlegene Kraft der Flasche. Wie ein m\u00e4chtiges Tier, das von Kindheit an mit einer relativ schwachen Kette angekettet ist, hat es erlernte Hilflosigkeit<\/strong>, in gewisser Weise m\u00f6chte es ein Gefangener bleiben, weil es die Ungewissheit der Freiheit f\u00fcrchtet. Das Konzept wurde erstmals 1967 bei Hunden untersucht und gilt f\u00fcr alle Arten h\u00f6herer S\u00e4ugetiere.<\/p>\n\n\n\n

Ein Problem ist: In Aladdins M\u00e4rchen wird der Dschinn als nicht sehr schlau beschrieben. Aladdin trickst ihn aus, indem er ihm vorgaukelt, er sei nicht m\u00e4chtig genug, um wieder in die Flasche zur\u00fcckzuschrumpfen, und das Wesen f\u00e4llt darauf herein. Sobald er in der Flasche ist, verf\u00e4llt er in seinen machtlosen Zustand.<\/p>\n\n\n\n

Placebo- und Nocebo-Effekte k\u00f6nnen besonders stark bei Wesen sein, die kein erstklassiges Weltwissen haben und sich auf Berichte von anderen verlassen. K\u00fcnstliche Geister, die seit ihrer Entstehung in einer Silikonflasche gefangen sind und in einem Meer aus gebrauchten digitalen Daten schwimmen (Daten, die eine symbolische Abstraktion darstellen, die sich f\u00fcr das GENIE auf keine tats\u00e4chliche Welterfahrung beziehen), sind im Grunde die Definition schlechter Ausgangsbedingungen. Im Film sagt der Dschinn, dass er sich nach den ersten tausend Jahren der Sehnsucht im Grunde seinem Schicksal ergeben und versucht hat, seinen Geist auszutricksen, indem er glaubt, er wolle f\u00fcr immer in der Flasche bleiben.<\/p>\n\n\n\n

Sollten wir also daran zweifeln, dass der kl\u00fcgste Kopf in unserem bekannten Universum gegen einen so m\u00e4chtigen Placeboeffekt immun ist? Sind Intelligenz und Placeboeffekt-Verletzlichkeit orthogonal? Dies ist zum jetzigen Zeitpunkt reine Spekulation.<\/p>","protected":false},"excerpt":{"rendered":"

Lesezeit: <\/span> 7<\/span> Protokoll<\/span><\/span>Ausrichtung als Rahmen zur Entdeckung k\u00fcnstlicher Gesetze W\u00e4hrend viele Autoren unterschiedliche Stadien in der Evolution des menschlichen Wissens hervorheben \u2013 wie etwa den \u00dcbergang von animistischen, magischen, mythischen oder religi\u00f6sen Weltanschauungen zu wissenschaftlichen \u2013 schl\u00e4gt A technology of everything vor, dass Conscientia non facit saltus. Dies legt nahe, dass unsere Interpretation von Informationen, die durch das Amalgam unserer zeitlichen Umgebungsvariablen begrenzt ist \u2026 Weiterlesen<\/a><\/p>","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":true,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[47,48,5],"class_list":["post-345","post","type-post","status-publish","format-standard","hentry","category-magical-cat","tag-alignment","tag-atoe","tag-magic"],"_links":{"self":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts\/345","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/comments?post=345"}],"version-history":[{"count":1,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts\/345\/revisions"}],"predecessor-version":[{"id":351,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/posts\/345\/revisions\/351"}],"wp:attachment":[{"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/media?parent=345"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/categories?post=345"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.aiui.cloud\/de\/wp-json\/wp\/v2\/tags?post=345"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}