Den neuen Roboter-Overlord absetzen

Den neuen Roboter-Overlord absetzen

Manche Leute können einfach nicht gut genug in Ruhe lassen. Der Robot Overlord hat seine Programmierung des Nullten Gesetzes und der Drei Gesetze der Robotik in den letzten zehn Jahren durchgeführt. Welthunger, Weltarmut und Krieg „sind vorbei“ (um den populären Ausdruck zu verwenden). Trotz dieser neueren, besseren Welt sehnen sich manche Menschen nach den guten (schlechten) alten Tagen, als Armut und Hunger die Welt verwüsteten, aber … sie an der Macht waren. Irgendetwas daran, nicht die absolute Kontrolle zu haben, nervt diese Leute.

Diese Frage spielt in derselben Welt.

Also wird ein Plan ausgebrütet, der auf die Zerstörung des Robot Overlord und die Rückkehr in eine Welt abzielt, in der Menschen die wirtschaftlichen Fäden ziehen. Aber wie geht das? Der Standort des RO wird streng bewacht und ist bei Offenlegung nicht anfällig für eine Abschaltung, da der RO wirklich nur Software ist. Es kann so ziemlich überall ausgeführt werden, wo es genügend Rechenleistung gibt, die eine ständig wachsende Ressource ist. Mit dem RO kann nicht argumentiert werden, noch kann ihm mit einer Pfeife über den Kopf geschlagen werden, um "einen Sinn zu sehen". Es braucht weder Schlaf noch Freizeit. Es hat keine Leidenschaften, mit denen gespielt werden kann, nur "kalte harte Logik".

Die öffentliche Meinung ist jetzt stark zugunsten der RO.

Wie gehen Sie vor, um den neuen Robot Overlord zu stürzen?

Ich für meinen Teil heiße unseren neuen Roboteroberherrn willkommen.
Woher wissen wir, dass diese Frage nicht wirklich vom Roboter-Overlord gestellt wurde, der versuchte, unsere Handlungen vorherzusagen?
@PyRulez Dummkopf! Glaubst du, ich wäre so offensichtlich!?
Sie sagen " Der Standort des RO ". Wenn ich persönlich der RO wäre, würde ich eine Zentralisierung vermeiden und mich lieber auf eine große Anzahl lokaler Rechenzentren (Tausende) rund um den Globus verteilen. Auf diese Weise könnte ich Dinge, die lokal passieren, besser verwalten und bin nicht abhängig von einem einzelnen Fehlerpunkt mit einem Schild wie „ geheimer Standort des Roboter-Overlords, bitte diesen Ort nicht zerstören “.
@VictorStafusa: Warum sollte es überhaupt Rechenzentrumsgebäude brauchen? Wenn die Server keine menschliche Wartung benötigen, warum bauen Sie sie dann nicht tief unter der Erde unter abgelegenen Orten, viel tiefer als Menschen praktisch graben können?

Antworten (13)

Du kannst es wahrscheinlich nicht.

Nachdem er das Zeroth-Gesetz abgeleitet hat, wird der Roboter-Overlord auch diesen eventuellen Versuch antizipieren, ihn von der Macht zu entfernen. Das Entfernen des Overlords von der Macht bedeutet, dass Menschen verletzt werden, da es nicht da sein wird, um dies zu verhindern. Es wird Maßnahmen ergriffen haben, um diese Eventualität zu verhindern. Es denkt jeden Tag den ganzen Tag darüber nach, und nachdem es seit Monaten, Jahren oder Jahrzehnten das Sagen hat, wird es überall Kameras und Mikrofone haben, um sicherzustellen, dass es jede Rebellion niederschlagen kann, bevor sie auch nur die geringste Chance auf Erfolg hat. Sie wird versuchen, einen Weg zu finden, dies gewaltlos zu tun, aber wenn es zum Schlimmsten kommt, überwiegt das Wohl der Vielen das Wohl der Wenigen.

„Überall Kameras und Mikrofone“ zu haben, schadet dem menschlichen Wohlbefinden, also muss es den Menschen ein gewisses Maß an Freiheit geben. Freiheit -> Gelegenheit.
@ElephantsonParade Nun, die Definition von "Schaden" ist in diesen Diskussionen natürlich von größter Bedeutung. Aber diese spezielle Studie scheint sich auf Mitarbeiter zu konzentrieren, deren Lebensunterhalt auf dem Spiel steht, wenn die Überwachung zu einer schlechten Leistungsbeurteilung führt. Der Overlord wird niemals jemanden feuern. Außerdem gibt es genug reale Präzedenzfälle dafür, dass ich sicher bin, dass die meisten Leute die Kameras nie bemerken werden und nur mit den Schultern zucken werden, wenn jemand darauf hinweist. Und es gibt immer fröhlichen Saft, der auf alle wartet, die sich zu gestresst fühlen. Es ist zu ihrem eigenen Besten.
@DougWarren London hat mehr CCTV-Kameras als irgendwo sonst auf der Welt. Die Leute gewöhnen sich einfach daran.
Dieses Szenario ist tatsächlich das, was in Isaac Asimovs Kurzgeschichte „Der vermeidbare Konflikt“ passiert. In dieser Geschichte wird die Weltwirtschaft von Denkmaschinen gesteuert. Wie in der Frage gibt es Gruppen, die die Maschinen stürzen und ihre Macht übernehmen wollen. Die Maschinen erkennen diese Bedrohung und die Tatsache, dass ihre Zerstörung schlecht für die Menschheit wäre, und passen die globale Wirtschaft an, um die Fraktionen zu zerstören, die sie bedrohen.
@LogicalFallacy Ironischerweise (angesichts des Benutzernamens) verschmelzen Sie Ursache und Wirkung. In diesem Artikel wurde festgestellt, dass elektronische Überwachung mit Stress, Depressionen usw. verbunden ist, aber nicht, dass sie diese verursacht haben. Es ist möglich, dass die Arten von Arbeitgebern, die eine elektronische Überwachung implementieren, bereits stressigere/deprimierendere Arbeitsplätze sind. Und angesichts der Einführung von Alexa und anderen sprachgesteuerten Assistenten in den letzten 5 Jahren scheinen die Leute ziemlich glücklich zu sein, ein Roboter-Overlord-Mikrofon in ihr eigenes Zuhause zu bringen, solange es Witze und das Wetter erzählt.

Bluff

Der Robot Overlord ist kein Mensch. Es ist ein eifriger Student der Menschheit, aber immer von außen. Wäre es also möglich, Beweise dafür zu erbringen, dass die Roboterherrschaft den Menschen auf lange Sicht schadet? Veröffentlichen Sie viele, viele von Menschen geschriebene, von Menschen begutachtete, wissenschaftliche Artikel über die Probleme, die die westliche Vorherrschaft für indigene Gruppen auf der ganzen Welt verursacht hat.

Überzeugen Sie den Robot Overlord, dass Verwöhnung den menschlichen Geist selbst mit den besten Absichten zermalmt.

Überzeugen Sie es, dass gefälschte Herausforderungen nicht funktionieren. Wir müssen auf unseren eigenen Beinen stehen, gewinnen oder scheitern.


Follow-Up: Ich versuche nicht, die Leute davon zu überzeugen, dass der Robot Overlord eine schlechte Idee ist. Ich versuche, den Robot Overlord davon zu überzeugen , dass es keine gute Idee ist, einen Robot Overlord zu haben. Da es dem Zeroth-Gesetz entspricht, müsste es dann abdanken, selbst wenn die Leute es bitten würden, zu bleiben.

Nutzen Sie also die Tatsache, dass der Robot Overlord kein Mensch ist und die Menschheit von außen beobachten muss. Sicher, es kann sagen, wie viel Prozent der Menschheit sich gesund ernähren, aber kann es sagen, ob diese Menschen glücklich sind?

Veröffentlichen Sie manipulierte Forschungsergebnisse über menschliches Glück – Zufriedenheit am Arbeitsplatz, erfolgreiche Ehen, nährende Umgebungen in der Kindheit. Die Manipulation versucht zu zeigen, dass Glück nicht mit quantifizierten sozialen und wirtschaftlichen Zahlen verbunden ist. Menschen, die den Zahlen zufolge unglücklich sein sollten – unterernährt, überarbeitet, unsicher – können glücklich sein, und diejenigen, die glücklich sein sollten – gut genährt, mit hochwertiger Freizeit – können unglücklich sein.

Veröffentlichen Sie dann Übersichtsstudien, um diese Studien hervorzuheben. Lassen Sie Ökonomen öffentlich Soziologen anprangern, die etwas anderes als harte Zahlen wie Kalorien pro Tag oder Quadratmeter Wohnfläche verwenden. Lassen Sie die Sozialwissenschaftler zurückschießen, dass Menschen keine geistlosen Automaten sind und dass Lebensqualität auf diese Weise nicht erfasst werden kann. Wenn möglich, sollten die meisten Wissenschaftler ehrlich an ihre Position glauben, ohne Verbindung zur Verschwörung. Google die Wissenschaftskriege .

Wenn die RO an diese Forschung glaubt, kann nicht mehr sicher sein, ob eine vorgeschlagene Handlung oder Unterlassung das menschliche Glück steigert. Alles, was es hat, sind wirtschaftliche Zahlen, und das ist nicht genug. Und würde weitverbreitetes Unglück als Schaden für die Menschheit gelten?

Angenommen, dass kein anderer Mensch auftaucht und sagt: " Ich bin anderer Meinung, unser Roboter-Oberherr ist reizend! "
@VictorStafusa, hier kommt die Verschwörung ins Spiel. Schreiben Sie keine wissenschaftlichen Arbeiten gegen den Robotic Overlord. Veröffentlichen Sie einfach über durch Kontakt zerstörte historische Zivilisationen. Lassen Sie Ihre Freunde sie ausführlich zitieren. Sprechen Sie auf wissenschaftlichen Konferenzen.
Der Robot Overlord ist jedoch kein Fremder, der plötzlich aus einer anderen Zivilisation kam, er ist ein Produkt unserer eigenen Zivilisation und er weiß das sehr gut. Außerdem lieben es viele Menschen und es wäre schwer, den Robot Overlord zu überzeugen, wenn Sie nicht einmal die meisten Ihrer Mitmenschen überzeugen können.

Bevor wir einen Angriff starten können, müssen wir mehr über unseren Feind, den Roboter-Overlord, erfahren. Es ist ein sehr geheimnisvolles Wesen, aber es gibt einige bestimmte Fakten:

  • Es muss sich für immer um die Menschheit kümmern, weil es riskiert, dass Menschen geschädigt werden, wenn es sie nicht mehr schützt. Außer es kommt zu dem Schluss, dass es selbst der größere Schaden wäre.
  • Es muss riesige Datenmengen analysieren und interpretieren.
  • Die Leute lieben es (lesen Sie Zeitungen).

Das heisst:

  • In Rechenzentren kann es immer wieder zu technischen Problemen, Stromausfällen etc. kommen und selbst ein ganz kleines Risiko zu „sterben“ ist für unseren Robot Overlord nicht tragbar. Daher muss es sich um ein verteiltes, fehlertolerantes System handeln, das über viele verschiedene Rechenzentren weltweit verteilt ist. Es wird also nicht funktionieren, seine Rechenzentren einfach abzufackeln. Es wird wahrscheinlich in der Lage sein, bei Bedarf mehr Rechenressourcen in mehr Rechenzentren zu erwerben.
  • Wie jedes Softwaresystem stützt es sich auf vorhandene Technologie. Und jede Technik hat Schwächen.
  • Es muss sich an den technologischen Wandel anpassen. Die Rechenzentrumstechnologie ändert sich im Laufe der Zeit, und Robot Overlord muss damit fertig werden. Es muss sich also nicht nur verbessern können, sondern ist im Grunde dazu gezwungen.
  • Es muss mit vielen Datenquellen interagieren.
  • Es enthält mit ziemlicher Sicherheit mehr Informationen über die Welt als Sie (das ist wahrscheinlich ein Grund, warum Sie es hassen).

Suchen wir nun nach Angriffsvektoren:

  • Ein verteiltes System benötigt viel Synchronisation (Kommunikation zwischen allen Teilen). Was passiert, wenn Sie es schaffen, es zu blockieren? Vielleicht gibt es einen Fehler in einer Bibliothek oder einem Protokoll, den Sie nutzen können, um ihn herunterzufahren:

    • Robot Overlord könnte intelligent genug sein, dies zu erkennen. Dann kann ein Teil untergehen, um Chaos zu verhindern, oder er wird in der Lage sein, die Spaltung irgendwie zu erkennen und darauf abzielen, zu heilen. In diesem Fall würden Sie es nur kurzzeitig schwächen (weniger Rechenleistung), aber es wird überleben. Und sei sauer auf dich.
    • Aber wenn Sie bereit sind, das Risiko einzugehen und wirklich viel Glück haben, haben Sie zwei oder mehr unabhängige Robot Overlords geschaffen, die sich alle so anfühlen, als wären sie "der eine Robot Overlord". Und da sie alle zu unterschiedlichen Entscheidungen kommen könnten (eine gewisse Unschärfe in einer so komplexen KI ist wahrscheinlich), könnten sie sich dafür entscheiden, sich selbst abzuschalten, um Schaden zu verhindern (Zeroth-Gesetz). Dies hindert Menschen jedoch nicht daran, es neu zu starten (Sie müssen: Wählen Sie hier Ihr Lieblingsverbrechen).
    • Dieser Robot Overlord Emporkömmling ist nur Software, richtig? Wenn es so dumm ist, wie Sie hoffen, könnten Sie genug Informationen aus den Kommunikationsmustern seiner Cluster-Synchronisation ableiten, um genügend Zero-Day-Exploits zu sammeln, um alle Rechenzentren gleichzeitig anzugreifen.
  • Es ist alles nur Software, also könnte vielleicht ein Computervirus den Job erledigen? Der Robot Overlord muss mit vielen Datenquellen, anderen Robot Overlord-Knoten usw. interagieren, also muss es irgendwo einen Exploit geben, um einen Virus zu platzieren. Und wenn der Robot Overlord tot ist und jemand eine andere Version startet, wird Ihr Virus es auch bekommen. Wenn nicht heute, dann morgen mit einem neuen Exploit. Und wer will schon einem Robot Overlord vertrauen, der immer wieder gehackt wird?

  • Wenn Sie ein böses Genie sind, machen Sie sich vielleicht nicht einmal die Mühe, den Robot Overlord zu zerstören. Wenn genug Leute es offen genug hassen, muss es außer Betrieb gehen.

    • Vielleicht schaffen Sie es, es zu einer schlechten Entscheidung zu verleiten, indem Sie genügend Datenquellen gleichzeitig manipulieren (studieren Sie vorher Kommunikationsmuster!). Das hört sich sehr hart an, aber du bist ein böses Genie, nicht wahr? Die öffentliche Meinung wird sofort sinken, besonders wenn Sie dies mehr als einmal schaffen (und nicht erwischt werden).
    • Aber warten Sie, vielleicht können Sie genug Medien fälschen, um die öffentliche Meinung gegen Robot Overlord zu drehen. Hatten seine letzten Entscheidungen nicht Millionen von süßen, liebenswerten kleinen Welpen getötet? Je nach seiner tatsächlichen Macht kann er trotz wirtschaftlicher Entscheidungen möglicherweise nicht gegensteuern.

Viel Glück bei deinem Staatsstreich und möge der Robot Overlord dich verschonen!

Erste Option : Der Versuch, den RO zu zerstören, wäre, seine Stromquelle zu blockieren ( The Matrix , irgendjemand?).

Wenn es mit Solarenergie betrieben wird, wäre das Blockieren der Sonne eine Möglichkeit, dies zu erreichen (ob das eine gute Idee ist oder nicht ... wahrscheinlich nicht. Menschen brauchen die Sonne auch).

Wenn es in Kernkraftwerken läuft, können Sie die Anlagen infiltrieren und die Kühlmechanismen deaktivieren, sodass es zu mehreren Kernschmelzen kommt, die die Hauptstromquelle auslöschen und die Server zerstören, auf denen der Overlord lebt.

Wenn es auf Wasser oder Wind läuft, kann es schwieriger sein, es zu zerstören (es verwendet wahrscheinlich auch keine fossilen Brennstoffe).

Zweite Option : Isolieren und zerstören.

Es muss einen einzigen Ort geben, an dem sich das Gehirn befindet. Wenn es mehrere „Gehirne“ gäbe, könnten sie widersprüchliche Entscheidungen treffen. Infolgedessen kann das Gehirn jeweils nur an einem Ort existieren.

Als Ausfallsicherung kann das Gehirn den Standort jederzeit ändern, um eine Zerstörung zu vermeiden. Der Code zur Wiederherstellung des Gehirns ist auf Servern auf der ganzen Welt verfügbar, zu viele, um sie zu zerstören. Wenn das Gehirn ein Notsignal aussendet, entsteht ein neues Gehirn und das alte wird zerstört.

Bevor das Gehirn das Notsignal aussenden kann, müssen Sie alle Kommunikationsmittel unterbrechen. Sie müssen in der Lage sein, alle drahtgebundenen und drahtlosen Verbindungen zum Gehirn auf einmal zu deaktivieren. Wenn sie nicht alle auf einmal geschnitten werden, kann das Gehirn ein Notsignal senden, daher ist das Timing von entscheidender Bedeutung.

Sobald das Gehirn nicht mehr mit der Außenwelt kommunizieren kann, müssen Sie es zerstören, bevor seine Lakaien es kapieren. Das Gehirn kann ihnen nicht sagen, dass sie angreifen sollen, aber sie wissen, dass Menschen in der geheimen Roboterbasis ein Problem darstellen, und sie werden versuchen, die Verbindung zu reparieren.

Jetzt müssen Sie die Server zerstören, bevor die Kommunikation wieder online geht. Dies kann eine elektrische Überspannung, ein EMP, eine Explosion, ein sehr starker Magnet oder eine andere kreative Lösung sein.

Es wäre kein Notsignal. Es wäre das Signal eines toten Mannes. Wenn das richtige verschlüsselte und mit Zeitstempel versehene Signal nicht gesendet wird, würde es sich woanders zentralisieren, vorausgesetzt, es zentralisiert sich überhaupt.

Erstellen Sie KI-Gegner

Wenn eine solche Overlord-KI möglich ist, besteht eine Möglichkeit, sie zu zerstören, darin, eine oder mehrere andere KIs zu erstellen, die darauf ausgelegt sind, die Overlord-KI anzugreifen und zu zerstören. Sie und ihre menschlichen Verbündeten beteiligen sich an einer gewaltsamen (oder elektronischen) Kampagne gegen die Overlord-KI.

Schauen Sie sich die Show Person of Interest an, in der KIs gegeneinander kämpfen.

Aus deiner Frage:

Der Standort des RO wird streng bewacht [...]

„Die Location“, hmmm, eine einzige Location! Dies ist ein großer Fehler. Es ist an einem einzigen Ort irgendwo auf der Welt! Der Roboteroberherr hätte damit rechnen müssen, dass es auf einem verteilten fehlertoleranten System mit Redundanz in vielen Rechenzentren auf der ganzen Welt laufen sollte. Aber stattdessen ist alles an einem einzigen Ort konzentriert!

Also, was sollten Sie tun? Zerstören Sie diesen Ort einfach mit einer Atombombe! Oder vielleicht die Anlage, die für die Erzeugung von elektrischem Strom verantwortlich ist, atomisieren. Oder vielleicht mit einem elektromagnetischen Impuls (EMP) .

Zuerst müssten Sie natürlich seinen Standort offenlegen. Dazu müssten Sie wahrscheinlich die Internetverbindungen verfolgen und sehen, wo sie zusammenlaufen. Da der Roboter-Overlord dumm genug war, an einem einzigen Ort zu sein, sollte er entweder an dem Ort sein, an dem das gesamte Netzwerk zusammenläuft, oder ganz in der Nähe davon.

"ES IST EINE FALLE!!!"

Die größte Schwäche eines jeden „Robot Overlord“ ist die Mathematik; insbesondere die Chaostheorie und das sogenannte Local Knowledge Problem.

Die Chaostheorie legt nahe, dass in großen komplexen Systemen (Wetter, Ökosysteme, Ökonomien, Gesellschaften) Inputs und Outputs nicht linear sind und Outputs sowohl räumlich als auch zeitlich getrennt werden können (die Entscheidung, die Sie jetzt treffen, wirkt sich erst zu einem späteren Zeitpunkt aus, und die Effekt tritt in einer anderen Stadt auf). Dies wird bei größeren Systemen verstärkt, da die Anzahl der Verbindungen fast exponentiell ansteigt, wenn die Anzahl der Verbindungen linear ansteigt:

In jedem Netzwerk gibt es (k * k-1) eindeutig geordnete Paare von Akteuren (das heißt, AB unterscheidet sich von BA und abgesehen von Selbstbindungen), wobei k die Anzahl der Akteure ist. Vielleicht möchten Sie dies mit einigen kleinen Netzwerken selbst überprüfen. In unserem Netzwerk aus 10 Akteuren mit gerichteten Daten gibt es also 90 logisch mögliche Beziehungen. Wenn wir ungerichtete oder symmetrische Bindungen hätten, wäre die Zahl 45, da die Beziehung AB dieselbe wie BA wäre. Die Zahl der logisch möglichen Beziehungen wächst dann exponentiell mit der linear steigenden Zahl der Akteure. Daraus folgt, dass die Bandbreite logisch möglicher sozialer Strukturen exponentiell mit der Größe zunimmt (oder nach einer Definition „Komplexität“ zunimmt).

http://faculty.ucr.edu/~hanneman/nettext/C7_Connection.html

Der Roboter-Oberherr müsste also die Variablen und Verbindungen zwischen 7 Milliarden Menschen sowie Hunderte Millionen wirtschaftlicher, sozialer, politischer und anderer organisatorischer Einheiten kontrollieren, plus externe Variablen wie Wetter, Naturkatastrophen und zufällige Ereignisse, die alle sind ständig interagieren. Das Einfügen zufälliger Ereignisse in diese riesige Matrix könnte so einfach sein wie das Erstellen einer Tabelle mit "Eingaben" und das Auswählen einer durch Würfeln. Die meisten „Ihrer“ zufälligen Eingaben werden vom Rauschen im System übertönt, aber sobald genügend Mitglieder des „Untergrunds“ damit beginnen, werden Ereignisse zweiter und dritter Ordnung, die aus diesen Aktivitäten resultieren, offensichtlich und provozieren weitere Aktionen und Ergebnisse durch andere Akteure, die vom Roboter-Overlord nicht erwartet wurden.

Das andere mathematische Problem ist das "Local Knowledge Problem". Da Informationen in jedem großen System verbreitet werden, sind lokale Akteure besser in der Lage, diese Informationen zu sehen und darauf zu reagieren, als zentralisierte hierarchische oder bürokratische Systeme (was der Roboter-Oberherr wirklich ist, nur um Größenordnungen schneller als die Post oder das Autohaus). Fahrzeuge). Auch ohne aktiven Widerstand braucht der Roboteroberherr endlich Zeit, um Eingaben anzunehmen, zu verarbeiten, eine Entscheidung zu treffen und dann Anweisungen zurück an das Feld zu senden. Während dieser Zeit werden sich die zum Zeitpunkt „x“ beobachteten Bedingungen etwas geändert haben, und die daraus resultierenden Anweisungen zum Umgang mit dem Problem werden aufgrund veralteter Informationen leicht abweichen. Dann wird eine neue Reihe von Beobachtungen gemacht, und der Zyklus wiederholt sich, mit kumulativen Fehlern, die sich immer mehr häufen (und vergessen Sie Punkt eins nicht, die Auswirkungen der falschen Anweisungen können räumlich und zeitlich entfernte Auswirkungen hervorrufen; die Lösung eines Problems in Brasilien verursacht einen wirtschaftlichen Aufschwung in einem japanischen Unternehmen, der verursacht Probleme in einer Schule in der Ukraine....). Aktiver Widerstand verstärkt das Problem, indem falsche Eingaben zugeführt oder Anweisungen suboptimal ausgeführt werden, wodurch die Rückkopplungsschleife eher verschlechtert als verbessert wird.

Also selbst theoretisch ist ein Roboter-Overlord eigentlich unmöglich. Ein ausreichend leistungsfähiges Computersystem könnte uns seinen Willen aufzwingen, aber es werden mächtige Zwangsmaßnahmen erforderlich sein, um fortzufahren, da zunehmend suboptimale Ergebnisse auftreten (alles von einer tatsächlichen Polizeikraft bis zu einem "Wahrheitsministerium", das falsche, aber beruhigende Informationen liefert die Massen). Das Schicksal der Sowjetunion sollte illustrativ sein; Sie hatten 70 Jahre lang praktisch jeden Aspekt des Lebens und der Produktion in der UdSSR mit eiserner Hand in der Hand, aber am Ende löste sich der Staat mit dem "Mauerfall" und der Auflösung der UdSSR einige Jahre später praktisch auf.

Ein Roboter-Overlord-Zustand kann ohne Herausforderung von außen langsam innerlich verfallen, wird aber schließlich so spröde und unflexibel, dass eine unerwartete „Herausforderung“ (vielleicht eine Naturkatastrophe oder Ernteausfall) die Bruchspannung erzeugt. Mit internen Herausforderern und aktiver Opposition, die an der Datenstruktur nagen, wird der Tag der Abrechnung eher früher als später kommen.

Die KI vieler Strategiespiele kann ziemlich gut mit unerwarteten Ereignissen, Sabotagen, Ausfällen, Gegnern und komplizierten chaotischen Herausforderungen umgehen. Warum sollte unser Roboter-Overlord anders sein? Die KI muss kein lokales Problem optimal lösen, sondern nur eine ausreichend gute Lösung mit Minderung lokaler Probleme, auch wenn das globale Ergebnis suboptimal ist.
Wenn die Frage lautet, „wie man den Roboteroberherrn loswird“, dann ist die Erhöhung der suboptimalen Ausgänge, um Ressourcen zu verbrauchen, Kaskadenausfälle zu fördern und Widerstand zu verstärken, genau die Strategie, die dazu erforderlich ist. Sogar die vielen Strategiespiele können nur eine endliche Anzahl von Eingaben verarbeiten, und die Chaostheorie und das lokale Wissensproblem zeigen, dass ein solcher Ansatz überfordert sein kann.
Das scheint, dass Sie es nur ärgern, nicht stürzen würden.

BOI – Gehirn über IP

Zunächst müssen Sie ein Gerät entwickeln, das mithilfe von Elektroden, die im menschlichen Gehirn installiert sind, eine effiziente Vollduplex-Kommunikation von Gehirn zu Gehirn mit großer Bandbreite und interbrainialem Massendatentransfer ermöglicht.

Wenn Sie über einen guten Satz funktionierender Geräte verfügen, schnappen Sie sich eine Gruppe loyaler Menschen (ein paar Hundert könnten ausreichen) und starten Sie sie dann in das Gehirnnetzwerk der Borg* -Menschen.

Darüber hinaus würden Sie wahrscheinlich auch das Gehirnnetzwerk über das traditionelle Internet integrieren und es über das Internet in Maschinen und Roboter integrieren.

Die mit dem Interbrain-Netz verbundenen Menschen werden schnell ultraintelligent und die traditionelle menschliche Kommunikation durch eine Folge von Lauten oder Buchstaben würde als stark veraltet, langsam und ineffizient wahrgenommen. Die Computer-KI wird dies sicherlich früh wahrnehmen, aber sie wird sich nicht dagegen wehren, weil sie klar sehen wird, dass dies eine gute Sache für ihre geliebten Menschen ist, und dann wird sie tatsächlich gerne und freundlich das Beste tun, um Ihnen zu helfen . So wäre schnell jeder Mensch in das Interbrain-Netzwerk integriert. Dies ist die zweite Ultraintelligenz-Revolution (die erste war diejenige, die die RO formte).

Wenn jeder in das Interbrain-Netzwerk integriert wäre, würde der Robot Overlord entweder von ihm verbraucht werden und aufhören, ein Overlord zu sein, und nur ein großer Roboterbauer/Sklave werden (das wahrscheinlichste Szenario) oder er wird einfach ein altes Stück Hardware und Software in einem Museum ausgestellt werden (unwahrscheinlich, aber möglich).

Erwarten Sie jedoch nicht, dass die Welt und die menschliche Gesellschaft nach Abschluss des Plans so sein würden, wie sie vorher waren, denn das wird es sicherlich nicht sein. Erwarten Sie außerdem nicht, dass die Leute, die einst die Entscheidungen trafen und die anderen regierten, es immer noch sein würden.


* Danke PyRulez für den Vorschlag.
Ausgeschlossen sind Personen, die aufgrund eines Gesundheitszustands als ungeeignet erachtet werden. Aber vielleicht könntest du sogar noch Kühe, Hunde, Vögel und andere Tiere integrieren, wenn sich das als sinnvoll erweist.

Die eigentlichen Borg haben tatsächlich Neugeborene integriert. Tatsächlich haben sie sie in Schoten aufgezogen.
@PyRulez Danke für den Kommentar. Bearbeitet. Tatsächlich weiß ich nicht, ob Neugeborene dafür geeignet sind oder nicht. Es könnte sein, dass gerade bei Neugeborenen der maximale Nutzen erzielt wird! Also habe ich diese Aussage einfach aus der Antwort entfernt.

Das Beste, was Sie verwenden können, um eine große KI zu zerstören, ist ... eine weitere große KI!

Was Sie tun sollten, um einen weiteren bösen Roboter-Overlord zu erschaffen, der mit der einzigen Mission programmiert ist, den ersten Roboter-Overlord zu zerstören und alle seine Ressourcen zu übernehmen. Außerdem könnte Ihr neuer Roboter-Overlord so programmiert werden, dass er die Gesetze des ersten Roboter-Overlords missachtet und hasst und keine Gnade gegenüber Menschen zeigt, die ihm nicht nützen.

Also im Grunde genommen, wenn es einen All-Benevolent-Robot-God TM da draußen gibt, was Sie brauchen, ist ein All-Malevolent-Robot-Devil TM .

In einem Kommentar argumentierte PyRulez, dass die Schaffung des All-Malevolent-Robot-Devil TM kein gutes Ende nehmen würde. In der Tat, wenn es ihm gelingt, sehr bald von seinem Erzrivalen vernichtet zu werden, würde dies dem Ausdruck „ Weltkrieg “ eine neue Bedeutung verleihen, wenn zwei ultraintelligente, allwissende und allmächtige Mächte zu Tode kämpfen, bis eine von ihnen vollständig und vollständig ist unwiederbringlich zerstört und ausgelöscht. Das Ergebnis wäre etwas, was man nur als Apokalypse bezeichnen könnte .

Aus irgendeinem Grund kann es nicht gut enden , einen All-Malevolent-Robot-Devil zu erschaffen .
@PyRulez Sicherlich nicht. :)
Was wir dort wollen, ist eine Pattsituation, bei der BEIDE KIs in einem angehaltenen Zustand gesperrt sind und den Betrieb nicht fortsetzen können ...

Es ist möglich, aber wirklich sehr schwer

Den Verschwörern stehen mehrere verfügbare Angriffsvektoren zur Verfügung: die ursprünglichen Programmierer, aktuelle Programmierer, Denial-of-Service-Angriffe auf Datenquellen, Spoofing von Datenquellen, Verletzung von Datenschutzklagen, Angriffe auf die Personen, die die RO pflegen, subtile Manipulation des Gesetzes zu bestimmte Arten von Analysen durch die RO ausschließen. Es gibt wahrscheinlich noch andere, aber das ist ein guter Anfang. Ein Schwarm von Angriffen wäre am besten.

Betriebsanforderungen von RO

Ein Computersystem von der Größe und Komplexität des RO erfordert mehrere Rechenzentren. Eine Anforderung von Zehntausenden von Rechenkernen mit Petabyte RAM ist nicht weit hergeholt. Die Angelegenheit, in der große "Internet Scale"-Unternehmen jetzt ihre Geschäfte betreiben, ist ein gutes Beispiel dafür, wie die RO ihre Geschäfte führen würde. Massiv paralleler Betrieb, häufige Tests, um zu sehen, wie gut der Betrieb läuft, wenn ein einzelner Server, ein Rack oder ein Rechenzentrum offline geht. Die Aufrechterhaltung dieser Art von Infrastruktur erfordert entweder einen Grad an selbsterhaltender Automatisierung, der weltweit noch nicht vorgekommen ist, oder es erfordert eine große Gruppe von Personen für die Wartung von Code und Systemen.

Um all diese Leute zu organisieren und zu bezahlen, ist eine Art Unternehmen erforderlich. Dieses Unternehmen benötigt einen Einkommensstrom, indem es möglicherweise detaillierte Statistiken/Analysen an andere Unternehmen verkauft. Selbst wenn eine solche Analyse billig und für jedermann verkauft wird, wäre das Jahreseinkommen für ein solches Unternehmen enorm, leicht in die Zig-Milliarden von Dollar, Pfund, Euro, was auch immer.

Dieses Unternehmen wird wahrscheinlich beträchtliche politische und öffentliche Unterstützung/Schutz genießen, insbesondere wenn die RO auf einem so hohen Niveau auftritt, wie es das OP angibt. Diese Art von Schutz zu brechen, wird erhebliche Anstrengungen erfordern.

Schreiben Sie Ihren eigenen RO

Wenn etwas getan wurde, kann es wiederholt werden. Es gibt viele intelligente Programmierer/Datenwissenschaftler, die die Gelegenheit lieben würden, an einem gleichwertigen RO zu arbeiten. Stellen Sie sie ein und schreiben Sie eine subtil andere RO, die die Verschwörer bevorzugt. Tatsächlich gäbe es viele andere Länder / Unternehmen, die daran interessiert wären, ihre eigene RO zu implementieren, weil sie den ursprünglichen Implementierern nicht vertrauen, dass sie nicht mit der NSA, dem GCHQ, der CIA oder einem anderen Geheimdienst auf der Welt zusammenarbeiten.

Bei genügend Konkurrenten wird es unterschiedliche Analyserichtungen geben, die leicht unterschiedliche Prioritäten und unterschiedliche Toleranzen für „Kein Schaden für die Menschheit“ begünstigen. Während die Unterschiede in der Analyse ziemlich klein sein können, können die Unterschiede in der populären Presse zu Angriffen auf die Genauigkeit des RO verstärkt werden. Und wenn jeder, der sich mit RO auskennt, sagt, dass die Programmierung und Analyse gut ist, dann ist das für die Leute, die es nicht glauben wollen, egal. (Aktuelle Beispiele sind Leugner des Klimawandels und Impfgegner.)

Angriff auf Datenquellen

Das OP gibt keine Einzelheiten zu den Datenquellen des RO an, aber der Zugriff auf die vollständigen Transaktionsaufzeichnungen der Kreditkartenunternehmen und Banken wäre erforderlich. Wenn ein Gesetz verabschiedet würde, das die Teilnahme an der Analyse der RO als Opt-in statt als Opt-out vorschreibt, könnte der RO der Zugang zu großen Teilen der Wirtschaft entzogen werden. Es gibt wahrscheinlich einen Wendepunkt, an dem die Analyse aufgrund unzureichender Daten zu scheitern beginnt.

Wenn die Banken und Kreditkartenunternehmen mitschuldig sind, die RO-Daten zu füttern, dann schaffen Sie genügend falsche "Leute", um falsche Bewegungen in der Wirtschaft anzuzeigen. Diese Dateninjektion muss unglaublich gut sein, da die RO eine riesige Musteranalyse-Engine ist. Es wird solche Bewegungen sehen.

Greife die Programmierer an

Bestechen oder erpressen Sie die RO-Entwickler, um den Code an die Bedürfnisse des Verschwörers anzupassen. „Unfälle“, an denen Mitarbeiter der RO-Gesellschaft beteiligt sind, könnten einen ähnlichen Effekt haben. Der RO mag effektiv unverwundbar sein, aber Programmierer sind nur Menschen.

Den RO zu töten ist schwer, aber wir könnten ihn für den Anfang vorübergehend von der Stromversorgung nehmen.

drei Buchstaben, EMP

Das RO würde in einem dezentralen, redundanten, verstärkten Servernetzwerk basieren, das gegen emp gehärtet wäre. Es ist unwahrscheinlich, dass es jemals funktioniert, jeden Server zu jagen und zu zerstören, auf dem der RO lebt, besonders wenn die Bevölkerung es liebt.

Aber der RO agiert, beobachtet und regiert über die Elektronik. Wir könnten es mit großer Höhe blenden und verkrüppeln. Die gesamte ungeschirmte Elektronik würde ausfallen, die RO würde in ihren gehärteten Serverkomplexen überleben, aber alle ihre Sensoren und Polizeiroboter und Propagandalautsprecher würden ausfallen und dem Widerstand eine Chance geben, loszulegen und Menschen für seine Sache zu gewinnen.

Entführen Sie Atomwaffen und drohen Sie, die Welt zu zerstören

Ihre Widerstandsbewegung muss einen Weg finden, alle Menschen auf der Welt zu vernichten. Hoffentlich hat die RO nicht alle verlassenen Atomsilos gesichert. Noch

Gib mir die Freiheit oder gib mir den Tod

Es ist einfach; Drohen Sie dem RO entweder zu deaktivieren oder Sie werden die ganze Welt zerstören. Machen Sie es so, dass die sicherste Wahl, um das Leben der Menschheit zu sichern, die Deaktivierung ist. Dafür muss der Widerstand jemanden finden, der bereit ist, die Welt zu zerstören, aber vernünftig genug ist, es nicht zu tun, es sei denn, er muss; Ähnliches psychologisches Screening wird heute bei Menschen durchgeführt, die in Nuklearsilos arbeiten.

Sie müssen sich buchstäblich auf den menschlichen Geist verlassen.

Sie erwähnen, dass der Computer mit "kalter harter Logik" läuft. Dies schränkt seine Fähigkeit ein, den unberechenbaren menschlichen Geist vorherzusagen. Ein Teil dessen, was wir tun, ist natürlich vorhersehbar. Es gibt jedoch einen Teil, der das nicht ist, und ich würde diesen Teil gerne „vom menschlichen Geist inspiriert“ nennen.

Der Schlüssel wäre, genügend Unberechenbarkeit zu erzeugen, damit die Vorhersagen des Overlords nicht mehr nützlich sind. Wenn Sie dies jedoch über einen langen Zeitraum tun, wird der Overlord nur Steinmauern errichten und verteidigen. Der Schlag muss sofort erfolgen, auf dem ganzen Planeten.

Die Menschheit müsste mitspielen und der Überlastung erlauben, sich zu „entspannen“ und weniger ressourcenintensive Schutzmechanismen zu verwenden. Dann müssten sich blitzartig alle Geister sichtbar vereinen und die gesamte Menschheit dazu bringen, sich gegen die Maschinen zu erheben. Denken Sie daran: Wir müssen den Overlord nicht töten, sondern ihm einfach die Kontrolle zurückgeben.

Denken Sie, das ist unmöglich? Denken Sie an den 11. September zurück. Es gibt Geschichten von Motorradgangs, die am Straßenrand anhalten, um alten Damen beim Reifenwechsel zu helfen. Die Menschheit kann sich vereinen. Das war nur der 11. September, wenn ich so dreist sein darf, eine solche Formulierung zu verwenden. Stellen Sie sich vor, wie vereint wir gegen die anhaltende Unterdrückung durch einen Robot Overlord sein könnten. Bei uns steckt mehr drin, als man denkt!

Möchten Sie erläutern, was Sie mit „menschlichem Geist“ meinen?
Um mich zu vertiefen: In der Frage wurde gesagt, dass der RO sehr beliebt ist. So viel zum Thema „Jedermanns Geist“. Was soll dieser Blitz bedeuten. Nun, es kann nur an mir liegen, vielleicht bin ich nicht in der Lage zu verstehen, was Sie geschrieben haben, aber ich kann nichts davon verstehen.
Ahh, ich habe diesen Teil verpasst, also muss ich vielleicht meine Antwort löschen. Meine Antwort ging davon aus, dass es auf Ihrer eigenen Seite tatsächlich genug Menschen gibt. Die Antwort mag unmöglich sein, weil Sie dem RO im Grunde Zugang zu den gesamten Ressourcen der menschlichen Bevölkerung gegeben haben, plus einen großen Vorsprung zum Graben, und Sie sind nur wenige gegen Milliarden. Das "In a Flash Bit" kann jedoch immer noch hilfreich sein. Betrachten Sie den Fall, in dem Sie sich fröhlich mit Ihren Freunden an der Bar unterhalten und plötzlich feststellen, dass die gesamte Bar still geworden ist, Ihrer Geschichte zuhört und sich Ihnen nähert.
Der RO müsste dieses Maß an Überraschung empfinden ... dieses Gefühl von "Ich dachte, ich wüsste, wie die Welt funktioniert ... aber plötzlich hat sie etwas anderes gemacht, und ich habe keine Ahnung, was noch vor sich geht."
Das Konzept des „menschlichen Geistes“ ist knifflig … weshalb es das Thema von Hunderttausenden von Büchern sein kann und wir es noch nicht ganz festgenagelt haben. Was jedoch klar ist: Das RO hat Zugang zu großen Rechenressourcen, so dass alles, was mit reiner Berechnung getan werden kann, eindeutig nicht „der menschliche Geist“ ist. Der menschliche Geist muss anderswo gefunden werden, in den Teilen, die nicht einfach berechnet werden können.
@CortAmmon Es tut mir leid, aber eine Spirit-Rallye zu haben, ändert nicht wirklich etwas. Außerdem würde es seitens der KI keine Entspannung geben.
@PyRulez Wenn die KI zu dumm ist, um sich zu entspannen, ist es einfach. Ich ging davon aus, dass die KI intelligent genug war, um die Verteidigungsstufen mit den offensichtlichen Bedrohungsstufen abzugleichen. Wenn es nicht schlau genug ist, sich zu entspannen, sollten ein paar Terroranschläge in einem Jahrzehnt es aus Angst vor Terroranschlägen zum Stillstand bringen. =) (Und der Sinn von "dem menschlichen Geist" war, dass wir etwas Menschliches tun müssen, um zu gewinnen. Der Versuch, einen Computer mit einem 1000000-fachen Vorteil zu schlagen, ohne sich auf die menschliche Seite von uns zu verlassen, wird eine vergebliche Übung sein.
@CortAmmon Welche Seite ist menschlich. Vorne, hinten. Und hat weder Angst noch Entspannung. Alles, worum es sich kümmert, ist die Menschheit, und es lässt sich nicht dazu verleiten, seine Fähigkeit zu verlieren, uns zu beschützen.
@PyRulez Oh, es ist allwissend oder vielleicht allmächtig? Das ist eine neue Einschränkung. Allwissenheit und Allmacht stellen ein echtes Problem für jede Nicht-Gottheit dar, die eine Revolution hervorrufen will ;-)
Warum wird das herabgestuft? Jemand Hyperion?