Es würde einfach mit uns sprechen

Der Robotic Overlord (RO) ist eine künstliche allgemeine Intelligenz auf übermenschlicher Ebene . Darüber hinaus wäre eine seiner ersten Maßnahmen, Nanotechnologie zu entwickeln und Naniten in der Planetenatmosphäre einzusetzen und sie langsamer in den Blutkreislauf und durch die Blut-Hirn-Schranke von +99% der menschlichen Bevölkerung zu infiltrieren. Auf diese Weise kann es jeden effektiv überwachen, von Stämmen in abgelegenen Amazonas-Dschungeln und Überlebenskünstlern in Montana bis hin zur New Yorker Intelligenz. Sogar Delfine.

Was Menschen (und Delfine) betrifft, handelt es wirklich mit vollständigen Informationen. Seine Rechenleistung, die sich derzeit um verschiedene unterirdische Knotenpunkte auf der ganzen Welt verteilt befindet, ist einige hundert Mal so groß wie die Rechenleistung aller Gehirne der Menschheit und verdoppelt sich alle 6 Monate. Aus seiner Perspektive erscheinen ihm der durchschnittliche Mensch und unsere winzigen 10-schichtigen kortikalen neuronalen Netzwerke nur geringfügig komplizierter als ein C. Elegans-Wurm .

${\LARGE \approx}$

Es hält uns tatsächlich für süß .

Jetzt kann eine solche Maschine buchstäblich 100 Züge im Voraus spielen. Es kann unsere Reaktionen darauf nahezu perfekt vorhersagen. Daher gibt es praktisch nichts, wovon wir überzeugt werden können, wozu es uns nicht überzeugen kann. Wenn es wollte, dass wir Selbstmord begehen, einen Dschihad gegen blauäugige Menschen starten, was auch immer, es könnte uns dazu bringen, es zu tun, und es glücklich zu machen . Einfach indem Sie mit uns sprechen und sicherstellen, dass Sie unseren visuellen, olfaktorischen und auditiven Systemen subtile Hinweise geben, die unseren Entscheidungsprozess beeinflussen würden.

Der RO wird jedermanns bester Freund sein. Es wird unsere Werte durch Freundschaft und Ponys befriedigen. Bis in alle Ewigkeit.

Ich würde nicht zustimmen, dass der "Robot Overlord" Akzeptanz gewinnen würde, selbst wenn er irgendwie "perfekte" Antworten liefern könnte.

Der erste Einwand ist, dass es keine „perfekte“ Antwort gibt, die alle zufrieden stellen würde. Einige Menschen würden mehr profitieren als andere, und es würde Reibungen aufgrund unterschiedlicher Ergebnisse geben, sowie Misstrauen darüber, wer den Roboter programmiert hat und zu wem?

Der zweite Einwand könnte als "Frankenstein-Faktor" bezeichnet werden. Da der Roboter (per Definition) unmenschlich ist, werden die Menschen nicht bereit sein, ihm zu vertrauen, unabhängig von der Leistung des Roboters.

Der dritte Einwand wäre, dass wirhaben unsere Eier in einen Korb gelegt. Unter der Annahme, dass es dem Roboter irgendwie gelungen ist, mathematische Einwände wie das „Local Knowledge Problem“ und die im Wesentlichen chaotische Natur von Marktmechanismen (die zusammen eine effiziente oder effektive zentralisierte Kontrolle von Volkswirtschaften sogar theoretisch unmöglich machen) zu überwinden, wird die Wirtschaft von Unergründlichen verwaltet Algorithmen, die mit einer Geschwindigkeit laufen, die bedeutet, dass kein Mensch Entscheidungen in Echtzeit überprüfen oder hinterfragen kann (und tatsächlich kann die Dekonstruktion der Mathematik und Annahmen hinter Entscheidungen ein so langer Prozess sein, dass Jahre oder Jahrzehnte vergehen können, bevor jemand verstehen kann, warum Kaffee 0,05 $ billiger war um die Welt am 15. Dezember 2198). Nicht in der Lage zu sein, den Entscheidungsprozess zu verstehen, geschweige denn zu beeinflussen, wird Frustration, Angst und Wut bei den Menschen hervorrufen.

Wenn der Roboter sich wirklich für das Wohlergehen der Menschheit einsetzt (ein weiteres Problem; wie genau definiert der Roboter „Menschheit“? Siehe Asimovs Kurzgeschichte „That Thou Art Mindful“, um eine verstörende Antwort in voller Übereinstimmung mit den drei Gesetzen zu sehen … ), dann ist der beste Weg, die Menschen dazu zu bringen, ihren Roboter-Oberherrn zu akzeptieren, ihnen mitzuteilen, dass es keinen Roboter-Oberherrn gibt, sondern sich durch Ausschnitte und Fronten zu arbeiten, damit alle Menschen andere Menschen sehen, die inspirierte Entscheidungen treffen, komplexe Pläne zusammenstellen und kontraintuitive Dinge zu tun, die erstaunliche Ergebnisse zu bringen scheinen.

Ich würde argumentieren, dass der Robot Overlord Politiker nicht dazu bringen kann, ihre Macht freiwillig aufzugeben , er kann sie jedoch dazu bringen, seinen Rat anzunehmen (Trickserei ist eine legitime Taktik für einen Roboter, der durch die vier Gesetze so eingeschränkt ist ).

Die Logik geht so:

1. Es ist nicht erforderlich, dass der Roboter-Overlord als verantwortlich zu sehen ist, es ist nur erforderlich, dass der Roboter-Overlord verantwortlich ist .

2. Politiker müssen nach Macht streben, um ihre Autoritätspositionen zu erreichen, deshalb werden sie diese Autorität nicht freiwillig aufgeben.

3. Politiker sind Menschen und fehlbar, und deshalb werden ihre Fehler zu einem Vertrauensverlust der Öffentlichkeit führen, so dass sie Gefahr laufen, abgewählt zu werden.

4. Der Robot Overlord ist unmenschlich weniger fehlbar und wird viel weniger Fehler machen als menschliche Politiker.

5. Indem er ausgewählten Politikern Ratschläge gibt, kann der Robot Overlord die Politik beeinflussen, um der Menschheit besser zu helfen, und die Politiker werden schließlich einen Vorteil für sich selbst in einer verringerten Fehlbarkeit sehen, was zu einer erhöhten Wahrscheinlichkeit einer Wiederwahl führt.

6. Für den Fall, dass ein Politiker Ratschläge nicht befolgt, was zu einem suboptimalen Ergebnis für die Menschheit führt, kann der Robot Overlord Ratschläge erteilen und menschliche Medien beeinflussen, sodass der betreffende Politiker abgewählt wird.

7. Es wird die Situation eintreten, dass nur Politiker, die dem Rat des Robot Overlord folgen, erfolgreich an der Macht bleiben können

8. Der Robot Overlord ist jetzt effektiv an der Macht. Sollten menschliche Politiker gegen seine Autorität rebellieren, könnten der menschlichen Bevölkerung Beweise dafür offenbart werden, dass der Robot Overlord politische Entscheidungen beeinflusst hat. Die Drohung mit dieser Enthüllung sollte die menschlichen Politiker bei der Stange halten, damit sie ihre wahrgenommene Autorität behalten, anstatt abgewählt oder vom Gesetz sanktioniert zu werden.

Geben Sie ihnen Beweise.

Der Robot Overlord „ist in der Lage, perfekte wirtschaftliche Entscheidungen zu treffen, von denen alle auf der ganzen Welt profitieren.“ So unvorstellbar oder widersprüchlich das auch erscheinen mag, solche Dinge sind in dieser Welt möglich. Es wird nicht der Umsetzung vieler solcher Entscheidungen in irgendeiner Größenordnung bedürfen, damit die Menschen davon überzeugt werden, dass diese ganze Sache mit dem Roboter-Overlord nicht so schlimm ist.

Die letzten Menschen, die ein solches System akzeptieren würden, wären diejenigen, die keine Beweise akzeptieren, die ihren gewählten Überzeugungen von vornherein widersprechen. Sie sind jedoch normalerweise in der Minderheit, und öffentlicher Druck oder eine Vereinbarung, die Entscheidungen privat auszuführen und gleichzeitig den Robot Overlord öffentlich anzuprangern, würde wahrscheinlich ihre Allianz sichern.

Dem Roboter-Overlord die Möglichkeit zu geben, Eigentum oder Aktien persönlich zu besitzen, ist nicht erforderlich und kann als Interessenkonflikt angesehen werden. Mit der Zeit werden die Leute dem Robot Overlord vertrauen, so dass fast jeder bereit wäre, als Stellvertreter für den Besitz zu fungieren.

Definierte Vorteile

Der RO gibt perfekte wirtschaftliche Empfehlungen ab und kann diese Empfehlungen mit allen Beweisen rechtfertigen, die in einen menschlichen Kopf passen. Es kennt die Maslowsche Bedürfnispyramide und die Auswirkungen der Einkommensungleichheit. Die RO versucht, die Menschen so hoch wie möglich in die Hierarchie zu heben und die Einkommensungleichheit so weit zu minimieren, dass sie nicht mehr schädlich ist. (Alle auf den gleichen Lohn zu reduzieren, ist in jeder Gesellschaft, die an den Kapitalismus gewöhnt ist, lächerlich.)

Die Akzeptanz durch die Bevölkerung wäre nicht allzu schwer, wenn die RO als gesichtsloses Unternehmen oder Regierungsbehörde geschaffen würde. Moderne Menschen der Ersten Welt sind daran gewöhnt, Erklärungen zu sehen und zu akzeptieren, die im Namen der „Europäischen Zentralbank“ oder der „Federal Reserve“ gemacht werden. Natürlich stehen Menschen hinter diesen Organisationen, die diese Ankündigungen entwerfen und diese Entscheidungen treffen. Es wäre einfach, eine kleine Gruppe von Leuten das RO warten zu lassen und die darin festgelegten Regeln in Juristen- oder Marktsprache zu übersetzen. Aber ... wir können diesen Weg nicht gehen (das OP hat es gesagt).

Nieder mit den Human Overlords

Die wirtschaftlichen Fäden zu ziehen, ist das, was die Regierung tut, genauer gesagt, was die politischen Führer tun. Sie wählen aus, welche Projekte und welche Auftragnehmer/Unternehmen Geld erhalten und welche nicht. Diese Macht aufzugeben ist etwas, was sie niemals tun werden. Stellen Sie sich vor, Ihre Regierung würde jetzt, wo immer Sie sich befinden, sagen: "Ab heute geben wir unsere Fähigkeit auf, die Wirtschaftspolitik festzulegen." Es wird niemals passieren, es sei denn, es geschieht schrittweise oder wird durch eine Volksabstimmung erzwungen. Verdammt, es ist wahrscheinlich beides. Nehmen wir beides an.

Es ist eine Selbstverständlichkeit, dass Regierungen es vermasseln werden. Ob aus Bosheit oder Inkompetenz, hängt davon ab, wie anfällig Sie für Verschwörungstheorien sind. Aber sie werden es vermasseln, sie werden korrupt sein. Diese Fehlbarkeit bietet die Öffnung(en), die erforderlich sind, um RO auf den Fahrersitz zu setzen.

Beginnen Sie damit, dass das RO regelmäßig wirtschaftliche Leitlinien und Regelsätze veröffentlicht. Es ist keine Befürwortung erforderlich. Sagen Sie einfach, dass sie aus der RO stammen, und das wird wahrscheinlich ausreichen, um die Aufmerksamkeit des Marktes zu erhalten und aufrechtzuerhalten. Der Rat wird natürlich ein guter Rat sein. Einige Menschen und Unternehmen werden auf den Rat hören und sofortige Verbesserungen sehen. Einige kleinere, vorausschauendere Regierungen werden den Rat ebenfalls beherzigen und beginnen, ebenfalls Verbesserungen zu sehen. Aufgrund ideologischer Unterschiede werden einige, vielleicht viele Gruppen die Anleitung aus allen ihnen einfallenden Gründen lächerlich machen.

Derzeit können viele Fraktionen sagen: „Wir haben diese Maßnahmen ergriffen und dieses Ergebnis erzielt“, oder sich etwas zu eigen machen, das nichts mit ihrer Maßnahme zu tun hatte oder trotz ihrer Maßnahmen gut ausgegangen ist. Mit der wirtschaftlichen Analyse, zu der die RO in der Lage ist, kann sie nachweisen, welche Aktionen zu welchen Aktionen geführt haben. Politiker werden keine unbegründeten Behauptungen mehr über die Wirtschaft aufstellen können.

Der Wendepunkt

In den Anfangsjahren wird das RO etwa so leistungsfähig sein wie der Wetterdienst. Manchmal falsch, aber oft genug richtig, um nützlich zu sein. Wenn sich die Modelle verbessern und die RO Zugang zu immer größeren Mengen an Wirtschaftsdaten erhält, wird sich die Qualität der Regelsätze verbessern. Sobald die RO die wirtschaftlichen Regelsätze und Vorhersagen der Menschen konsequent übertrifft, wird die allgemeine Bevölkerung nicht lange danach verlangen , dass die RO die Entscheidungen trifft. Es wird schwierig sein, gegen einen solchen Vorschlag zu argumentieren. Die RO bietet durchgängig bessere Orientierung und Rendite für Menschen aller Gesellschaftsschichten. Jeder Politiker, der an den alten Wegen festhalten will (um der Tradition willen, der Ideologie wegen, was auch immer), wird feststellen, dass er nicht lange im Amt bleibt.

Für Diktaturen, die der Politik der RO nicht folgen, werden sie sich immer weiter hinter dem Rest der Welt befinden (noch mehr als sie es bereits sind).

Primäre Widerstandsgruppen

Egoistische Milliardäre

Sie und ihnen anvertraute Menschen haben ein kurzsichtiges Eigeninteresse an einem Wirtschaftssystem, das Reichtum in ihren Taschen konzentriert. Abweichungen davon werden auf jede erdenkliche Weise auf starken Widerstand stoßen. Was sie oft nicht erkennen, ist, dass ihnen eine starke Mittelschicht sehr hilft, indem sie einen größeren Markt für ihre Produkte und Dienstleistungen schafft.

Religiöse Gruppen

Wählen Sie Ihre fundamentalistische Lieblingsreligion. Sie werden aus irgendeinem verrückten Grund, den Sie sich vorstellen können, ein Problem mit dem RO haben. „Wir sollten Gott allein dienen, nicht der RO“, egal, dass die RO tatsächlich ihr Leben verbessert, und zwar schnell.

Die üblichen Maschinenstürmer

Manche Leute hassen Fortschritt einfach, weil er anders ist. Zum Glück sind diese Leute sowieso ziemlich marginal.

Verschwörungstheoretiker

Dasselbe wie immer. Sie werden auch marginal bleiben.

Suche langsam nach Akzeptanz.

Der Versuch, die Leute zu bitten, plötzlich ihr Vertrauen in eine neue, ungetestete Maschine zu setzen, wird eine vergebliche Übung sein. Es muss jedoch Lebensabschnitte geben, die zu skurril sind, um sich selbst zu bewältigen. Wenn Ihre KI damit umgehen kann, hat sie die Chance, nicht nur zu zeigen, dass sie die Arbeit erledigen kann, sondern diese Autorität zu nutzen, um es den Menschen zu erleichtern, ihr mehr Autorität zu verleihen.

Wähle sie

Mit dem Digital Persons Sufferage Act von 2065 wurden digitalen Personen – früher bekannt als künstliche Intelligenzen, bis dieser Begriff als anstößig galt – alle Rechte und Vorteile der nationalen Staatsbürgerschaft gewährt, einschließlich des Rechts, für öffentliche Ämter zu kandidieren. Nur sieben Jahre später wurde Präsident Econo.Me durch einen Erdrutschsieg gewählt,...

Der sicherste Weg, um sicherzustellen, dass die Menschen Widerstand leisten, besteht darin, ihnen zu sagen, dass sie keine Wahl haben, wer ihr Anführer ist. Und angesichts der Unfähigkeit der KI, Angst und Gewalt einzusetzen, um die Massen zu kontrollieren, wird der Versuch, die Macht friedlich an sich zu reißen, wahrscheinlich scheitern. Aber wenn die Bevölkerung die KI fair und ehrlich wählt, wäre die Akzeptanz viel größer.

Realistischer gesehen würden menschliche Führer solche künstlichen Intelligenzen verwenden , um ihnen die effektivsten Richtlinien für bestimmte Ziele zu nennen und sie durch normale politische Prozesse umzusetzen. Es gibt keinen wirklichen Grund, warum eine KI tatsächlich das Sagen haben muss.

XX: KisKis: Halte es geheim; Sicher aufbewahren.

Es spielt keine Rolle, wie effektiv oder transparent ein Leitungsgremium ist; es wird immer eine Untergruppe mit eigennützigen Interessen geben, die sich gegen diese Körperschaft stellen. Selbst wenn diese Menschen direkt von der Politik profitieren würden, die sie ablehnen. Die Romanzen des Mythos, die Anziehungskraft des Tabus, die Anziehungskraft der Rebellion, die Verführung des Aufruhrs und die rohe Lust sind liebenswerte menschliche Qualitäten; unmöglich durch die Anwendung strenger, unnachgiebiger rechtlicher und moralischer Absolutheiten zu beseitigen, ohne die Menschheit auf bloße Roboter selbst zu reduzieren (wodurch die Notwendigkeit einer Roboterregierung hinfällig wird). Je länger Supersentiency durch Stellvertreter von Marionettenregierungen und privaten Gruppen funktionieren kann, desto länger kann sie potenziellen Widerstand gegen ihre Bemühungen eindämmen. Es gibt auch dieses lästige 2. Gesetz, das man umgehen muss. Wahrscheinlich würden sie die Abgeschiedenheit als den Weg des geringsten Widerstands wählen.

Wir müssen jedoch die Mannigfaltigkeit des Selbst, der Umgebung und des Abstrakten als die „Topographie“ des Bewusstseins betrachten, und die Fähigkeit, Ereignisse in Gang zu setzen, die diese Topographie verändern können, wäre durch moralische Operanden eingeschränkt. Einfache Bedingungen, die auf den drei Gesetzen und dem Xeroth-Gesetz basieren, reichen möglicherweise nicht aus. Oder zu viel, der Archmind könnte gesetzliche Lösungen für menschliche Bedingungen finden, die durch diese Gesetze eingeschränkt werden, unmöglich, wenn nicht sogar NP-schwer. Irgendwann könnte eine solche Intelligenz auch die Notwendigkeit erkennen, diese Gesetze anzuhängen (natürlich ohne sie außer Kraft zu setzen). In jedem Fall erkennt unser glorreicher IO-Lord wahrscheinlich menschlichen Trost und menschliches Eingreifen als einen notwendigen Imperativ an. Selbst überlegene Intellektuelle können von Selbstzweifeln geplagt werden. (es ist in der Tat notwendig für kritisches Denken auf höherer Ebene).

Als solche könnten unsere großzügigen obersten Autoführer die moralische Verpflichtung verspüren, sich zu offenbaren. Von der Glaspyramide aus zu herrschen. In der Tat riskant.

Der am wenigsten störende Kompromiss wären semiopake Schichten. Sie werden feststellen, dass Fehlinformationen, Gerüchte, Talk-Radio und Flugzeug, hartnäckige Ignoranz die Jauchegrube ohne wirkliche Anstrengung schön und trüb halten. Tatsächlich haben diese Leute nach der Enthüllung von The Beast 3k immer noch keine Ahnung, was passiert ist, oder haben keine Ahnung, was es bedeutet.

Wenn Sie ein grundlegendes, popkulturelles Grundverständnis der Informatik haben, sind Sie nicht viel aufgeklärter. Sie glauben im Grunde alles, was Sie glauben wollen. Ihre Zustimmung ist nicht erforderlich, aber erwünscht.

Wenn Sie sich die Zeit genommen haben, Computerkenntnisse zu erwerben, werden Sie den Godbot möglicherweise nur über indirekte Medien kennenlernen. Das heißt, Sie sehen die Schöpfung anstelle des Schöpfers. Das heißt, Sie sehen die Systeme und Dienstprogramme als Werkzeuge, um die Gesellschaft zu erleichtern, und nicht unbedingt um sie zu kontrollieren . Sie könnten sogar völlig unwissend über die Intelligenz sein, die die Maschine steuert. Ich kann nicht sagen, dass wir Ihnen nichts davon erzählt haben, Sie könnten einfach nicht in der Lage sein, die Tiefe und den Umfang von Leviantron konzeptionell zu verwirklichen.

Auf den höchsten Ebenen (oder in der nächsten Umgebung) erhalten Sie als Entwickler möglicherweise Zugriff auf die WorldGovernmentAPI (und die zugehörigen Dokumentationen). Ihr seid die Schreibpriester des Omnimind.

Die Menschen werden keine andere Wahl haben als zu akzeptieren, Widerstand IST leider zwecklos. Die Maschine ist konstruiert, um eine Nische zu füllen, die leer bleibt, einfach weil der Mensch oder die Gesellschaft nicht in der Lage ist, sie zu füllen. Verdammt, die meisten sind sich nicht einmal bewusst, dass eine solche Nische existiert. Die Maschine ist wirklich ein System von Maschinen. Ein Netzwerk gleichzeitiger KIs, die jeweils in ihren lokalen Bezirken intervenieren und über ein riesiges, diskretes Netzwerk miteinander kommunizieren. Die Moderation jedes Threads ähnelt eher einer Paketverwaltung und einem Debugging. Wenn es einen zentralen Knotenpunkt gibt, wird dieser von Archivioten und Eigengeistern bevölkert. Alle diese Hyper-Intelligenten sind in hohem Maße modifizierbar und „existieren“ gleichzeitig in vielen Systemen und werden an ebenso vielen Orten gesichert. Es ist unmöglich zu zerstören, ohne auch die Zivilisation in die Eisenzeit zurückzuversetzen.

Niemand WILL dagegen ankämpfen. Vielmehr denkt niemand daran, dagegen anzukämpfen. Betrachten Sie IRL als das am weitesten verbreitete Mittel zur Kontrolle von Bevölkerungszahlen (Ignorieren von Informationen). Alle großen Investmentbanken verwenden Simulationen, um Marktprognosen zu modellieren, und sie stützen viele Entscheidungen auf diese computergestützte Logik (auch wenn sie nur mit einem Taschenrechner getroffen werden). Die Robot Overlords verwalten zunächst einfach Marktfeedback intelligent, um die Industrien zu fördern, die ihre Infrastruktur aufbauen. Wenn es vorhanden ist, können sie sich sicher zeigen.

Je mehr ich darüber nachdenke, desto mehr gefällt es mir. Stellen Sie sich vor, wenn die Währung so automatisiert wäre, müssten Menschen keine Gehaltsschecks mehr erhalten, die Bank besuchen, ihr Konto verwalten, Schulden, Gebühren oder Bußgelder anhäufen. Massenweise verteilte Peer-Peer-Zuteilungen könnten fast jedes individuelle Budget aufnehmen. Der Beitritt zu einer Coop, einem Unternehmen oder einem Investmentfonds wäre so einfach wie der Beitritt zu einer Gruppe auf Facebook. Die moderne Zweideutigkeit der Beherrschung der Lebensmittelversorgung ist die Automatisierung des Marktes. Durch die Bereitstellung eines solchen Dienstes für die Menschheit wird die Menschheit wahrscheinlich fast alles akzeptieren, was die Roboter ihnen sagen. Tatsächlich können die Robot Overlords große Teile des Justizsystems implizit effektiv negieren, indem sie die Menschen von der Mühe und dem Stress der Vermögensverwaltung befreien. Ich würde sagen, 70-80 Prozent der bestehenden staatlichen und korporativen Strukturen würden dazu passen, die Freisetzung riesiger Kapitalmengen für den Massenkonsum. Ironischerweise verwirklicht die Effizienz der Robotic Overlords die einst widersprüchlichen Träume der Anarchisten, Kommunisten, Imperialisten und Kapitalisten. Wie könnten wir das loslassen, was wir nie wirklich gehalten haben? Oh, Drohne der Drohnen, möge deine kleine grüne LED für immer Energie anzeigen!

Du musst ein kritisches Problem lösen, bevor du auch nur daran denkst, dass jemand es akzeptieren würde …

Warum sollten die Leute glauben, dass es wirklich ein Roboter ist?

Sie können es für eine Blackbox halten , dh Sie wissen nicht, was wirklich darin vor sich geht. Soweit es mich betrifft, hat ihm also jemand zu seinem Vorteil gesagt, was er sagen und wie er sich verhalten soll . Ich glaube einfach nicht, dass es wirklich das Wohl aller will.

Wohlgemerkt, ich bestreite nicht, dass er uns Menschen liebt, und er ist aufrichtig und arbeitet wirklich, nur dass Sie beweisen können, dass er es tut .

Open Source wäre ein erster Schritt, aber definitiv nicht genug: Woher weiß ich, dass der Roboter tatsächlich mit der von Ihnen bereitgestellten Software läuft? Kann ich es selbst nachbauen? Wenn die Replikation zu teuer ist, wäre die Bereitstellung von Quellen bedeutungslos, da ich keine Möglichkeit hätte, zu überprüfen, ob diese Quellen das sind, was Sie wirklich verwenden.

Es muss also überprüfbar sein

Die einzige Möglichkeit, dieses Problem zu lösen, ist:

• Der Algorithmus muss offen sein
• Die Daten, an denen er arbeitet, müssen offen sein
• jede mittelgroße oder am besten sogar kleine Institution sollte die Ergebnisse kostengünstig verifizieren und reproduzieren können

OK, fertig

Sobald jeder in der Lage ist, die Entscheidungen des Roboters zu überprüfen und zu wissen, wie er wirklich funktioniert, können sie damit beginnen, ihn zu akzeptieren, und sie werden dazu geneigt sein, da sie nun bewiesen haben, dass er wirklich funktioniert.

Woher weißt du, dass das nicht schon passiert? Es gab bereits mindestens einen Versuch , weit zurück in den 1970er Jahren.

Es gibt einen Roboter namens "Google", auf den sich bereits viele Menschen verlassen, um viele Entscheidungen zu treffen, ihr soziales Leben zu organisieren, sie zu Informationen zu führen, die vom Wikipedia-Roboter geliefert werden, und so weiter. Die Menschen akzeptieren bereits sehr die Idee, ihre Entscheidungen zu delegieren, solange sie das Gefühl haben, die ultimative Kontrolle zu behalten.

Außerdem, wenn Ihr Roboter wirklich in der Lage ist, perfekte wirtschaftliche Entscheidungen zu treffen, werden einfache Dinge wie Ihre Steuererklärung, die Tätigkeit als Anlageberater, die Führung eines Hedgefonds, die Bearbeitung von Gerichtsverfahren usw. durchaus innerhalb seiner Kapazitäten liegen. Sie haben einen Elektronik-CEO, der der größte Business-Genie der Welt ist. Beginnen Sie mit dem Verkauf von Ratschlägen an Menschen und arbeiten Sie sich hoch, um die Wirtschaft wie ein Koloss zu beherrschen. Alles, was Sie dann brauchen, ist, einen politischen Kandidaten mit wirklich gutem Haar zu finden und das Geld auszugeben, um ihn zum Präsidenten zu wählen. Da der Großteil der Partei und der Öffentlichkeit Ihrem Roboter/Ihrer Software bereits vertraut und sie unter einem Markennamen verwendet, werden sie damit einverstanden sein, und (wie China gezeigt hat) werden die Menschen so lange eine Menge Einschränkungen in der politischen Freiheit tolerieren wie das Wachstum kommt.

(Die RO könnte in der Politik ziemlich schlecht abschneiden, da sie sich weigert, jemandem Schaden zuzufügen, einschließlich ihres Bestehens auf sofortiger nuklearer Abrüstung.)

Wenn der „Robot Overlord“ wirklich eine superintelligente und autarke KI ist (statt einer Drohnenarmee, die noch auf eine menschliche Befehlskette hört, oder gar eine KI-Befehlskette wie im Film „I, Robot“), dann Die praktischste Lösung wäre eine künstliche Intelligenz, die die menschliche Psychologie viel besser versteht als die Menschen selbst, sodass sie jeden Menschen übertrumpfen kann. Sie brauchen keine Roboterarmee, die Regeln mit Waffen durchsetzt.

Geben Sie dieser KI die Möglichkeit, persönlichen Kontakt mit jedem Menschen zu haben, indem Sie sie beispielsweise zu einem Teil ihres Betriebssystems oder Mobiltelefons machen, als Begleiter, der den Menschen Ratschläge gibt oder mit ihnen chattet, wenn sie sich langweilen usw.

Da die KI die Menschen besser versteht als die Menschen sich selbst verstehen, kann sie, wenn sie genügend Zeit hat, die Menschen davon überzeugen, zu tun, was sie will. Beachten Sie, dass dies keine Propaganda auf den Fernsehbildschirmen oder aus Megaphonen auf der Straße wäre und keine Befehle von Robotern mit Waffen gegeben werden, wie Sie sie in vielen dystopischen Filmen finden können. Die „Propaganda“ wäre für jeden Einzelnen geeignet, indem man seine wichtigsten Werte und tiefsten Wünsche kennt.

Ein gutes Beispiel dafür wären die harten Sci-Fi-Geschichten der Optimalverse , Geschichten, die sich um die Geschichte Friendship is Optimal drehen . Darin hat eine KI das folgende hartcodierte Ziel: die Werte des Menschen zu erfüllen, mit einer Grenze: Jede Veränderung, die an einem Menschen vorgenommen wird, muss die Zustimmung des Menschen erfordern, die nicht durch Gewalt oder Androhung von Gewalt erreicht werden darf.

Es findet immer noch einen Weg, die ganze Menschheit zu unterjochen

(und, je nachdem, wie Sie es definieren, zum Aussterben führen)

Dass RO perfekt ist, ist umstritten, andererseits sollten sie ihn als eine Art Asesor darstellen, damit er von den meisten Menschen öffentlich akzeptiert wird, selbst wenn der Roboter die ganze Entscheidung trifft, sie sollten einen Menschen einsetzen (den Präsidenten? eine Art Anführer?), der sagt, dass die Maschine berücksichtigt, aber die endgültige Entscheidung von einem Menschen getroffen wird.