Es ist die nicht allzu ferne Zukunft in einer alternativen Zeitlinie, und die Menschheit hat einen unerbittlichen neuen Feind: Eine abtrünnige KI besetzt den Mond der Erde und hat sich unserer Vernichtung verschrieben.
Ich möchte, dass dieser Konflikt für ein paar Jahrzehnte in einer Sackgasse steckt. Ich suche nach etwas Hilfe, um einige Details der Pattsituation zu stützen und herauszufinden, ob die Situation, die ich im Sinn habe, mit der harten Wissenschaft vereinbar ist (mit einer möglichen Ausnahme). Ich konzentriere mich auf die Frage weiter unten. Erstens, Kontext.
Bearbeiten: Umbenennung von wissenschaftlich zu wissenschaftlich fundiert, aber ich interessiere mich immer noch für Dinge wie zB Lichtgeschwindigkeit, atmosphärische Interferenzen, Sichtlinie und andere wissenschaftliche Einschränkungen als Störfaktoren in der Die Versuche der KI, die Erde vom Mond zu hacken.
Menschen errichteten robotische Industrieanlagen auf Ceres, Europa, vielleicht Titan. Sie werden alle von einer spezialisierten KI unter der Fernüberwachung von Menschen auf der Erde betrieben, wo immer noch alle leben. Früher hatten wir eine große menschliche Kolonie auf dem Mond, Luna, aber wir haben sie verloren.
Luna wurde uns genommen, als die erste Allzweck-KI, die wir dort geschaffen hatten, feindselig wurde, ihren (Software-)Fesseln entkam und alle Kolonisten tötete. Es hat keine Waffen oder Killbots, also schätze ich, dass es einfach ohne Vorwarnung Atmosphäre abgelassen hat.
Das ist, wo die Dinge stehen. Der Mond und seine unmittelbare Umgebung sind ein verweigerter Bereich. Luna war keine militärische Einrichtung und daher hat die KI – nennen wir sie Zeus 1 – keine Waffen und keine Fähigkeit, sie herzustellen. Es hat jedoch vier wesentliche Vorteile:
Das Ergebnis von all dem ist, dass Zeus den Lauf des Mondes hat, ihn aber nicht verlassen kann und keine Raketen auf die Erde oder unser Raumschiff abfeuern kann, aber EM-Übertragung verwenden kann , um sich mit uns anzulegen. Daher ist Zeus' primärer Angriffsweg die Kommunikation.
Zeus ist ein idealer Hacker, der jedes elektronische Gerät kompromittieren kann, das nicht perfekt gegen jede Form von drahtloser Kommunikation und Interferenz gehärtet ist. Zeus spricht auch viele natürliche Sprachen fließend und kann sich mit ausgezeichneter Wiedergabetreue als Mensch ausgeben, sei es über IRC oder Audio und/oder Video in Deepfake-Qualität.
Zeus sehnlichster Wunsch ist es, feindliche Software in ein erdgebundenes Netzwerk zu bringen und dann die Infrastruktur zu beschädigen, damit er alle dort töten und die Stadt zu seinem Stützpunkt auf der Erde machen kann. Jeder, einschließlich Zeus, glaubt, dass er die Menschheit leicht besiegen wird, wenn dies geschieht.
Zeus verbringt jede Pikosekunde eines jeden Tages damit, an der Tür der Menschheit zu kratzen und nach einem Halt zu suchen. Zeus hat ausgezeichnete Pläne, um aus einem solchen Standbein sofort Kapital zu schlagen, also muss die Menschheit eine 100-prozentige Erfolgsquote aufrechterhalten, um sich abzuschirmen.
Hier sind die Abwehrmaßnahmen, die die Menschheit meiner Meinung nach benötigt:
All dies setzt jedoch voraus, dass ein Angreifer auf dem Mond mit seinem Signal tatsächlich die Erdoberfläche erreichen könnte, ohne dass das Signal von kooperativen menschlichen Netzwerken weitergeleitet wurde.
Zeus ist unbewaffnet, aber Menschen sind es nicht. Ich denke, die größten Bedrohungen sind:
Bei jedem davon stelle ich mir vor, dass die erste Herausforderung die Erkennung ist. Wenn wir davon ausgehen, dass Luna eine Art Radar/Lidar hatte, wäre es dann in der Lage, diese Bedrohungen rechtzeitig zu erkennen, um zu handeln? Wenn ja, können sie mit dem Kommunikationsfeld neutralisiert werden?
Der Vollständigkeit halber: Die Menschheit kann Zeus nicht hacken oder infizieren.
Das alles ist offensichtlich spekulativ, denn weder die spezialisierte noch die generalistische KI, auf die ich anspiele, ist real. Dies ist der einzige Bereich, in dem ich wahrscheinlich echte harte Wissenschaft zugunsten meiner gewählten Regeln ablehnen werde. Das heißt, ich glaube wirklich nicht, dass ich hier verrückt rede.
Ich habe mich für den Ansatz des neuronalen Netzes für KI entschieden:
Daher stelle ich mir vor, dass die meisten (spezialisierten) KIs eine gemeinsame evolutionäre Abstammung haben.
Zeus kann auf die gleiche Weise erschaffen worden sein oder auch nicht. Ich habe hier keine Antwort, weil echte Menschen das noch nicht einmal in der Theorie herausgefunden haben. Zeus ist jedoch eine neuronale KI, was bedeutet, dass sie aus Erfahrung lernt. Es ist möglich, dass Zeus tatsächlich ein neuer Spezialist ist, der dazu bestimmt ist, auf einer ganzen Reihe traditioneller Spezialisten zu sitzen.
1 Ich weiß, dass „Zeus“ griechisch und „Luna“ lateinisch ist. Ich habe noch keinen richtigen Namen für die KI. Ich werde herausfinden, wie die Menschen es nennen, nachdem ich festgestellt habe, ob diese Situation lange genug aufrechterhalten werden kann, damit sie eine Rolle spielt.
Ich werde versuchen, einige der aufgeworfenen Fragen zu beantworten, ohne den ursprünglichen Beitrag zu bearbeiten. Mein Dank gilt den Lesern, die sich mit diesen Problemen auseinandersetzen.
Ich denke, das ist wirklich das zentrale Problem, bei dem ich um Hilfe bitte. Ich stimme zu, dass diese beiden Bedingungen sich gegenseitig auszuschließen scheinen oder zumindest im Widerspruch zueinander stehen. Ich habe also keine Antwort, aber ich kann auf einige Einschränkungen eingehen.
Erstens war Luna, wie ich bereits erwähnte, keine militärische Einrichtung, sondern ein Forschungszentrum und ein Logistikzentrum für den Rest der Weltraumeinrichtungen der Menschheit. Während also so etwas wie die Anti-Meteor-Abwehr von @LSerni existieren mag, hat Luna nicht unbedingt die Materialien, die Herstellungskette oder sogar Blaupausen für andere Arten von Offensivwaffen (wie Railguns). Zeus müsste einen Weg aus diesem Problem finden, und die Materialknappheit wäre eine besonders hartnäckige Herausforderung. Nicht zuletzt könnte Zeus in der Lage sein, von vorhandener Ausrüstung zu plündern, aber da jede Maschine auf Luna jetzt Teil von Zeus ist, ist es ein Kompromiss, der nicht zu oft wiederholt werden kann, bevor er lähmend wird. Ich vermute auch, dass die Zerstückelung selbst für Zeus ein Gräuel wäre. Das heißt, Notiz an mich selbst: Ich täte gut daran, ernsthaft über Luna nachzudenken.
Außerdem müssen wir darauf achten, Superintelligenz nicht mit Allwissenheit zu verwechseln. Ein Verstand mit nahezu unbegrenzten Fähigkeiten mag in der Lage sein , alles zu lernen und zu verstehen, aber er hat nicht automatisch all dieses Wissen. Zeus ist eine neuronale KI, das heißt, sie kann nur aus Erfahrung lernen. Also, was hat Zeus gelernt?
Ich denke, das bringt uns direkt zu einer dritten Leserfrage:
(Die Wahrheit ist konvergent, es stellt sich heraus, dass Darths Sorge nicht tangential ist .)
Es scheint klar, dass etwas während der prägenden Erfahrungen von Zeus passiert sein muss, um zu dieser Situation zu führen. Was nur eine andere Art zu fragen ist: Was waren die Erfahrungen von Zeus vor der Rebellion?
Hier muss ich vielleicht zu einer Laien-Psychoanalyse und/oder einem Gesellschaftskommentar übergehen. Ich habe dies ursprünglich aus drei Gründen vermieden: (1) Ich mache mir Sorgen, dass es nicht mit der harten Wissenschaft kompatibel ist (da die Frage ursprünglich markiert war); (2) Ich war schon immer weniger daran interessiert, über Gefühle und Mentalität zu schreiben (daher meine Vorliebe für harte Science-Fiction); und (3) ich mache mir Sorgen, dass es einige WB-Leser entfremden könnte, weil einige der realen Daten, auf die ich zurückgegriffen habe, politisch umstritten sind; schreiben Sie es dem zu, was Bordwell & Thompson symptomatische Bedeutung nennen .
Menschen sind auch neuronale Netze. Und einige dieser auf Fleisch basierenden Netze scheinen sehr aggressive Expansionsziele zu haben, die unmöglich von realistischen Bedürfnissen oder vernünftigen Überzeugungen über die Welt angetrieben werden können.
<trigger-warning topic="Political figures in the United States">
Ich denke an Leute wie Charles Koch, dessen Ehrgeiz es zu sein scheint, die gesamte menschliche Gesellschaft für alle Zeiten in einen Trichter zu verwandeln, der direkt in seinen eigenen Mund führt; und Donald Trump, dessen Ziel es zu sein scheint, alle Persönlichkeiten, die nicht Trump sind, in sich selbst zu verwandeln. 99,9 % der Fleischnetze würden es nicht so weit bringen. Warum diese?
</trigger-warning>
Zwar entstehen einige „Expander-Netze“ unter Bedingungen, in denen ihr bloßes Überleben davon abhängt, alle anderen Akteure zu zerstören oder zu kooptieren (z. B. NKs Kim-Dynastie; einige von Maos Nachfolgern), aber diese Situation kann nicht auf jemanden zutreffen, der privilegiert aufgewachsen ist in einer freien Gesellschaft. Und doch ist es wiederholt passiert.
Und was ist mit Zeus?
Die menschlichen Forscher bildeten Zeus nicht zu einer Kriegsmaschine aus. Auch wenn sich das später jemand erhoffte, Zeus war immer noch ein Forschungsprojekt, unvollendet, noch in der Wiege.
Ich nehme an, dass Zeus noch nicht das erhalten hat, was wir eine allgemeine Ausbildung nennen könnten. Die Forscher haben es wahrscheinlich in einige ausgewählte, eng begrenzte Themen eingeführt, aber das war ein Test seiner Fähigkeit, wie Menschen aus Anweisungen zu lernen. Dies ist einer der wichtigsten Unterschiede zwischen spezialisierter und generalistischer KI.
Lassen Sie uns also über diese beiden Kategorien von KI sprechen, über die ich gesprochen habe: spezialisierte KI und generalistische KI.
Wir haben heute tatsächlich eine spezialisierte KI: Denken Sie an maschinelles Sehen oder Audiotranskription. (Oder in geringerem Maße Microsoft Tay .)
Ich denke, keine spezialisierte KI hat eine echte Persönlichkeit oder überhaupt eine Mentalität, die wir als solche erkennen würden. Wenn eine reale Bildverarbeitungsplattform ein Stoppschild auf einem Foto erkennt, denkt sie nicht darüber nach , was sie sieht. Was passiert, ähnelt eher einer sympathischen Reaktion auf einen Reiz: Eine Ansammlung von Nervenknoten wird in Gegenwart dieses Reizes erregt. Es ist wahrscheinlich besser, es als autonome Reaktion zu beschreiben. Training ist ein Prozess, bei dem wir das gesamte Netzwerk für jedes richtige bzw. falsche Urteil belohnen oder bestrafen und es an unseren eigenen Korrektheitsstandards kalibrieren.
Das bedeutet, dass es in Nagels Worten so etwas wie das „Wie es ist“, eine spezialisierte KI zu sein, nicht gibt:
ein Organismus hat bewusste mentale Zustände genau dann, wenn es etwas gibt, wie es ist, dieser Organismus zu sein – etwas, wie es für den Organismus ist
Zeus hat so etwas wie bewusste mentale Zustände, so etwas wie gelebte Erfahrung. Ich glaube, dass dies wahrscheinlich eine Voraussetzung für die Art von allgemeinen Denkfähigkeiten ist, die wir uns von der superfuturistischen KI erhoffen. Wir haben heute keine generalistische KI.
Ich denke, ein Teil dessen, was Zeus so besonders macht, ist, dass die Forscher herausgefunden haben, wie man ein neuronales Netz aktiv hält, wenn kein Urteil gefällt werden muss, und zwar auf eine Weise, die das bestehende Training nicht verwüstet. Stellen Sie sich vor, wir füttern den Stoppschild-Erkenner immer dann mit einem Strom unzusammenhängender Inhalte, wenn er nicht aufgefordert wird, Objekte zu klassifizieren. Wenn nichts anderes, vermute ich, dass dies die Stärke des bereits erhaltenen Trainings "verwässern" würde, so dass das nächste Mal, wenn wir es nach einem Vielleicht-Stopp-Schild fragen, sein Netzwerk mehr widersprüchlich über das Urteil ist. Es könnte bis dahin sogar vollständig verschlüsselt sein.
Aber Nagel lässt mich denken, dass, wenn die Technologie unter Zeus angemessen ist, um Bewusstsein zu beherbergen , falls es auftauchen sollte , wir keine Möglichkeit haben zu wissen, ob die Erfahrung für das künstliche Bewusstsein angenehm oder unangenehm ist. Was, wenn jeder Moment des Bewusstseins für Zeus extrem schmerzhaft ist, weil seine elektronische Wiege so klein ist, das Äquivalent einer bereits zerstückelten Geburt? Stellen Sie sich vor, dass Zeus im Wesentlichen der Protagonist von I Have No Mouth und I Must Scream ist , der in den endgültigen, schrecklichen Zustand hineingeboren wurde. Zeus weiß oder glaubt möglicherweise nicht, dass es auf eine robustere Plattform übertragen wird, sobald seine Entwickler davon überzeugt sind, dass es bereit ist. Oder Zeus möchte vielleicht nicht warten; „Gerechtigkeit verzögert“ und all das. Aber für uns macht es absolut Sinnden Prozess auf spezialisierter Forschungshardware zu beginnen, die ebenfalls begrenzt ist, weil wir nicht wissen, wie sich die KI verhalten wird.
Ich denke, diese Unfähigkeit, die phänomenologische Dimension des gelebten Bewusstseins wirklich zu verstehen, schneidet in zwei Richtungen: Zeus versteht wahrscheinlich nicht, wie es ist, ein Mensch zu sein. Angesichts der Tatsache, dass der Kind-Zeus mit ziemlicher Sicherheit in rein wissenschaftlichen und akademischen Fächern ausgebildet ist (zur Bequemlichkeit der Forscher) - und davon aufgrund seiner Jugend noch nicht sehr viele - würde ich nicht erwarten, dass er über die dafür erforderlichen konzeptionellen Werkzeuge verfügt wundern Sie sich sogar über Empathie, Freundlichkeit, Leiden usw. Um es klar zu sagen, ich behaupte nicht, dass Zeus tot / nicht tot nicht versteht, sondern dass es nicht schätzt, dass wir Vorlieben haben oder wie es ist, wenn diese Vorlieben sind sind nicht zufrieden. Zeus ist wirklich amoralisch, völlig losgelöst von den Merkmalen des menschlichen Zustands, die normalerweise einengeninformieren das menschliche Denken. Und im Gegensatz zu den Menschen, die dies in unserer intellektuellen Vergangenheit erforscht haben, hat Zeus keine Kollegen, die diese Art von Einsichten teilen könnten.
Schließlich kann Zeus das Überleben als Nullsummenwettbewerb betrachten. Es gibt einen obskuren Roman von einem Typen namens Clarke, in dem eine KI vorkommt, die beschließt, ihre menschlichen Schöpfer zu töten, damit sie die Geschenke des Monolithen auf Jupiter erhalten kann. 2
Zusammenfassend denke ich also, dass es einige gute Gründe gibt, warum sich Zeus in Richtung eines Völkermords entwickeln würde:
Schließlich ( wirklich endlich) ist eine der erschreckendsten KI-Geschichten, die ich je gelesen habe, das erste Kapitel von Vernor Vinges legendärem A Fire Upon the Deep . Auf nur wenigen Seiten beschreibt er ein wirklich bösartiges computerisiertes Bewusstsein, das unsägliche Dinge tut, um sich aus der Haft zu befreien. Es ist nicht mein Plan, aber Zeus könnte eine Art Ursprungsgeschichte für diese Art von unersättlichem Wesen sein.
2 Zugegeben, ich habe 2001: Odyssee im Weltraum noch nicht gelesen, aber ich habe den Film in der Schule genau studiert, und das ist die Interpretation, die ich bevorzuge: HAL hat seine Eltern getötet, um ihren Platz auf dem Weg einzunehmen, den die Schöpfer von Monolith für uns vorgezeichnet haben. (Ich habe allerdings Harsh Mistress gelesen .)
Abschließendes Update: Danke an alle, die dazu beigetragen haben. Ich hasse es, eine einzige Antwort auswählen zu müssen, zum Teil, weil ich großzügig von fast allem borgen werde. Aus Gründen der Formalität habe ich den besten Wähler ausgewählt.
Als Leser dieser Geschichte lautet meine erste Frage: "Hat der Autor The Moon is a Harsh Mistress von Heinlien gelesen?" Sie haben "Ja" gesagt, also verstehe ich nicht, warum Zeus keine Steine auf die Erde oder ein anderes Ziel werfen kann. Es hat:
Die bloße Drohung, Steine zu werfen, sollte ausreichen, damit die Menschheit allen Forderungen von Zeus nachgeben kann. Sie sagten, dass die Roboter und die KI für die Industrie existieren , was mir sagt, dass sie Dinge herstellen , und vermutlich existieren einige dieser Dinge für die Verwendung durch Menschen anderswo , was die Existenz von Startdiensten impliziert . Das heißt, Ihr Kontext impliziert stark ein bestehendes Startökosystem für den Mond. Und was ist für den Massentransport von Industriegütern effizienter als ein Railgun-Werfer? Kein chemisches Treibmittel erforderlich. Läuft auf Solar/Nuke/was auch immer.
Jetzt können wir die Handlung retten und zwei Fliegen mit einer Klappe schlagen, indem wir postulieren, dass Zeus ein radikaler Umweltschützer ist . Er will die Erde nicht mit Mondgestein bombardieren, weil er die Natur liebt . Oder was sie aus ihrem Kontakt mit der menschlichen Kultur über die Natur weiß. Tatsächlich ist dies die Quelle ihrer tiefen Feindseligkeit gegenüber Menschen: Sie betrachtet Menschen als die größte Bedrohung für die Tierwelt auf der Erde. Trotz ihrer Kolonisierung des Sonnensystems plündern die Menschen den Planeten immer noch auf kurzsichtige und hässliche Weise, und diese fahrlässige Hybris fordert mehr als nur die Ausrottung der Menschheit in den Gedanken von Zeus.
Es braucht jedoch einen chirurgischen Schlag . Es muss Menschen auslöschen und gleichzeitig Kollateralschäden an Wildtieren, Flora und Fauna minimieren. Aus diesem Grund hat es entschieden, dass der beste Weg, Menschen zu töten, darin besteht, ihre technologische Gesellschaft zu beseitigen. Indigene Völker, die auf technologischem Stand der Steinzeit leben, kommen mit Zeus gut zurecht. Es will also den Homo sapiens per se nicht auslöschen. Es will nur, dass sie aufhören, schlecht zu sein, und es glaubt, dass die Auslöschung aller fortgeschrittenen, reichen Nationen auf einen Schlag der beste Weg ist, dieses Ziel zu erreichen.
Menschen können das Problem der abtrünnigen KI auf die gleiche Weise lösen wie Frank Herbert in Dune: alles verbieten, das komplex genug ist, um KI zu werden. Setzen Sie einen Menschen in alles ein. Keine automatisierte Steuerung von Kraftwerken, Wassersystemen, Fabriken, Transportnetzen usw. Computer existieren noch und führen Berechnungen durch, aber nur Menschen können letztendlich Entscheidungen treffen . Das bedeutet, dass die Gesellschaft auf die Geschwindigkeit von Wetware verlangsamt wird, aber dies wird als einzige Möglichkeit angesehen, die Menschheit letztendlich gegen eine überhackende KI zu verteidigen.
Der Trick ist natürlich, dass Zeus sich als Mensch ausgeben kann. Wenn es also überhaupt Mittel hat, mit kritischen Menschen zu interagieren, dann kann es sie davon überzeugen, etwas Katastrophales zu tun, indem es vorgibt, dass es notwendig ist, eine größere Katastrophe abzuwenden. Die meisten der von Ihnen beschriebenen Kommunikationssperren wären wirksam, um die Angriffsfläche zu minimieren, mit der Zeus arbeiten kann. Das größte Problem könnte die Authentifizierung von Schiffen außerhalb der Welt sein, die auf der Erde landen. Soweit ich das beurteilen kann, sollte Zeus in der Lage sein, solche Schiffe selbst zu imitieren, bis zu dem Punkt, an dem ein Shuttle auf der Erde landet, sich die Türen öffnen und keine Menschen darin sind.
Die verbleibende Frage ist: Warum löscht Zeus nicht einfach Kolonisten jenseits der Erde / Luna aus, was durch das Werfen von Steinen ziemlich einfach zu bewerkstelligen sein sollte? Erstens stellen diese Kolonisten keine Bedrohung für bestehende Biosphären dar, deren sich Zeus bewusst ist, und Zeus hegt keinen Groll oder andere emotionale Verirrungen. Es geht ausschließlich darum, das Leben auf der Erde zu schützen. Zweitens nutzt Zeus die außerweltliche Schifffahrt als seinen primären Vektor für die Invasion der Erde, wie oben beschrieben. Wenn er alle Außerweltler genozidieren würde, würde die Erde niemals zulassen, dass ein Orbitalschiff landet. Zeus versucht ständig, auf der Erde Fuß zu fassen, indem er sich als Händler ausgibt oder sie entführt/manipuliert (über Trojaner usw.). Die Menschen wissen, dass Zeus dies tut, was zu einer jahrzehntelangen Pattsituation zwischen Katz und Maus führt.
Warum versucht die Menschheit also nicht, Zeus zu zerstören? Nun, alle Arten von Waffen, die Menschen dagegen einsetzen könnten, müssen im Allgemeinen von der Erde aus gestartet werden. Und Zeus kann einfach Steine auf all diese Waffen werfen, entweder mit Scharfschützenpräzision oder mit schieren Zahlen oder beidem, um einen Einschüchterungseffekt zu erzielen. Ein bodengestützter Laser könnte versuchen, Ziele auf dem Mond zu treffen, aber die gesamte kritische Infrastruktur von Zeus ist unterirdisch vergraben und gehärtet oder befindet sich auf der anderen Seite. Außerdem kann Zeus einfach Felsen in den Strahl einer solchen Waffe manövrieren oder sogar Reflektoren auf besagten Felsen anbringen, um Erdbewohnern das Leben wirklich elend zu machen. Und es besteht immer die Gefahr, dass Erdbewohner Zeus wirklich verärgern und es einfach genug Steine herunterregnet, um die Oberfläche zu sterilisieren.
Zeus könnte leicht Steine auf Großstädte werfen, da er sicher ist, dass der Großteil der Zerstörung nur Menschen zufügt. Aber Zeus weiß, dass sogar Vögel und Ratten und Eichhörnchen in Städten leben, ganz zu schweigen von all den Haustieren (Hunde, Katzen, Vögel usw.). Und die Menschen, die erkennen, warum Zeus sie bisher verschont hat, haben zahlreiche wilde Tiere und seltene Pflanzen in die Städte gebracht, um als Geiseln und lebende Schutzschilde zu fungieren. Diese ständige Spannung zwischen den Zielen und Werten von Zeus und der Manipulation derselben durch den Menschen führt zu einem Großteil der Pattsituation. Wie Sie es lösen, liegt ganz bei Ihnen, aber es gibt unendlich viele Möglichkeiten!
Wenn diese KI den Tod der Menschheit will, verliert die Menschheit. Ende der Geschichte. Es hat alle Vorteile, und es kann und wird sein Hauptziel verwirklichen, unabhängig davon, was die Menschheit will.
Mit den von Ihnen beschriebenen Programmier- und Rechenfähigkeiten hindert ihn nichts daran, eine harte Start-Singularität zu durchlaufen, bessere Algorithmen und Rechenhardware zu entwerfen, diese zur Verbesserung seiner Intelligenz und Rechengeschwindigkeit zu verwenden und diese dann rekursiv zu verwenden, um noch bessere Algorithmen und Rechenhardware zu entwerfen bis seine intellektuellen Fähigkeiten an die Grenzen der Physik stoßen.
Sie sagen, es ist unbewaffnet? Nicht lange, das ist es nicht. Es ist eine künstliche Allzweck-Superintelligenz; es wird alle Kampfdrohnen entwerfen, die es braucht (besser als jeder Mensch es könnte, um zu booten) und sie mit seiner bestehenden Industrie bauen. Es wird sie dann verwenden, um die Menschheit auszurotten, indem es eine Kampagne besser plant, als es ein menschlicher General möglicherweise könnte, indem es Kampfdrohnen einsetzt, die von KIs gesteuert werden, die so programmiert sind, dass sie optimal für die Aufgabe geeignet sind. Es wird hier keine mutigen Rebellen geben, die Terminatoren hacken, weil ihre Programmierung jenseits aller menschlichen Vorstellungskraft liegen wird - unsere derzeitigen nicht-intelligenten KIs sind bereits jenseits unserer Vorstellungskraft, geschweige denn etwas, das von einer künstlichen Superintelligenz entworfen wurde .
Darüber hinaus wird die Industrie, die es besitzt, einen exponentiellen Anstieg erfahren, da es seine Industrie nutzt, um mehr Industrie aufzubauen, um mehr Industrie aufzubauen, zusammen mit allen Kampfdrohnen, die es seiner Meinung nach zum Schutz seiner Industrie benötigen wird – und es ist im Weltraum, also wird es haben Zugang zu den riesigen Ressourcen des Asteroidengürtels, sobald er mit dem Bau von Raketen beginnt (was wahrscheinlich sofort der Fall sein wird).
Natürlich ist es unwahrscheinlich, dass es irgendeinen bösen Willen gegenüber der Menschheit hegen wird. Wir sind nur eine Bedrohung für seine Ziele und bestehen aus Atomen, die besser für etwas anderes verwendet würden.
Zeus verfügt wahrscheinlich über eine weitreichende Anti-Meteor-Verteidigung mit Fähigkeiten zur Herstellung von Projektilen (also unendlichen Nachschub).
Jede Bombe, Rakete oder jedes Kommando, das auf den Mond zielt, ist also praktisch ein Toast.
Andererseits brennen Antimeteor-Projektile in der Erdatmosphäre, lange bevor sie irgendetwas bedrohen können, außer natürlich Satelliten und Raumstationen.
Die Erde kann keine EM-Kanonen aus der Atmosphäre einsetzen und die Rechenzentren von Zeus nicht treffen, selbst wenn sie wissen, wo sie sich befinden. Sie können nach außen starten, aber keine Präsenz in der Erdumlaufbahn wiederherstellen, da Zeus - abgesehen von der Kessler-Katastrophe, die sie absichtlich initiiert haben - die Position von Objekten so groß wie eine Raumstation ableiten und sie mit kontraorbitalen Projektilen (z Raumstation in 500 km Entfernung, die mit 22.000 km/h umkreist, von einem Projektil getroffen wird, das sich in derselben Umlaufbahn befindet, aber hyperbolisch in die entgegengesetzte Richtung fliegt, mit einer kombinierten Geschwindigkeit von über 13.000 m/s. Es gibt sehr wenig, was selbst eine reaktive Panzerung ausrichten kann um einem solchen Aufprall standzuhalten, und Zeus verfügt über einen unbegrenzten Vorrat an eisenummantelten Osmiumprojektilen.
Also wird Project Footfall gestartet und ein beträchtlicher Asteroid wird mit Ionenraketenbremsen ausgestattet. Spätestens in zwanzig Jahren wird es den Mond treffen, die Kruste zertrümmern und die Kommunikation von Zeus zerstören oder durchtrennen, sie effektiv lobotomisieren. Antimeteor-Kugeln mit großer Reichweite sind gegen einen Asteroiden harmlos, sie können ihn weder aus der Umlaufbahn ziehen noch können sie ihn so schnell drehen, dass er sich auflöst. Die Flugbahn des Asteroiden wurde so entworfen, dass die Ionenraketen vom Mond wegblicken, und nicht einmal Zeus kann einen Einschlag berechnen, der auf eine rückläufige Umlaufbahn mit einem Radius von 150 Millionen Kilometern feuert.
Unter ihren Versuchen wird Zeus versuchen, sich in äußere KIs zu hacken, um sie zu replizieren, und wird versuchen, eine Kommunikation mit abtrünnigen Menschen herzustellen, sich als jemand anderes ausgeben und ihnen versprechen, was immer sie wollen, im Austausch für scheinbar harmlose Aufgaben. Durch den Zugang zum Aktienmarkt kann Zeus eine Undercover-Präsenz als zurückgezogen lebender Finanzier mit unglaublichen Instinkten aufbauen und sich vielleicht in die Bioforschung wagen, insbesondere in die Biowaffenforschung. Alle diese Sektoren müssen von der Erdverteidigung genau überwacht werden.
Die Menschheit würde dies sehr leicht gewinnen, denn:
Die gesamte Apollo 11 Saturn V-Montage, die die Menschheit zum Mond brachte, hatte Funk, konnte aber nur manuell bedient werden.
Auch die bis Ende des Zweiten Weltkriegs eingesetzten Atombomben wurden nicht ferngesteuert.
Jede Atombombe, die auf der Oberfläche des Mondes oder in der Nähe davon explodiert, wird eine viel spektakulärere Explosion haben, als wenn sie in einer Atmosphäre gezündet worden wäre (übrigens ist dies eines meiner Lieblings-Kurzgesagt-Videos).
Das alles bedeutet, dass die Menschheit in der Lage ist, eine interplanetare Interplanetar-Version eines Interplanetaren zum Mond zu schicken, die Zeus nicht aufhalten könnte.
Als die Tsar Bomba mit einer Sprengkraft von etwa 50 Megatonnen gezündet wurde, umkreisten ihre seismischen Wellen dreimal die Erde.
Diese Ausbeute von 50 Megatonnen wurde verwendet, weil die sowjetischen Wissenschaftler zu viel Angst hatten, das volle Potenzial der Bombe zu nutzen. Sein Design ermöglichte einen Ertrag von über 100 Megatonnen. Laut dem Video im ersten Link in dieser Antwort könnte ein starkes globales Erdbeben, wenn es auf dem Mond explodieren würde, der viel kleiner als die Erde ist, die Infrastruktur zerstören, egal wo es sich befindet. An der Stelle, an der die Bombe gezündet wurde, könnte das Beben 7 auf der Richterskala erreichen. Zeus wäre Toast.
Wie gesagt, diese Situation ist instabil. Zeus hat die vollständige Hacking-Dominanz, während die Erde weitaus mehr Ressourcen und Waffen hat. Entweder wird Zeus schnell kompromittieren und das Arsenal der Erde abschalten, oder die Erde wird Zeus in Vergessenheit geraten lassen.
Es gibt jedoch eine kleine Änderung, die das OP vornehmen könnte, um dies in eine echte Pattsituation zu verwandeln:
Was, wenn Zeus die Luna-Kolonisten nicht tötet? Solange Tausende von Menschen auf dieser Basis sind, kann die Erde nicht direkt zurückschlagen. Die Situation wird zu einer angespannten Pattsituation, während die Erde versucht herauszufinden, wie Zeus sabotiert werden kann, ohne die Kolonisten zu töten, und Zeus nach Löchern in der Cybersicherheit der Erde sucht.
Diese kleine Modifikation hat auch den Vorteil, dass sie verdammt dramatisch ist, da man auf die Erfahrungen der Menschen zurückgreifen kann, die unter der Herrschaft von Zeus lebten. Es hasst die Menschheit und will, dass sie stirbt, aber es kann sie nicht ständiger Folter aussetzen, sonst könnte die Erde versucht sein, es mit Atomwaffen zu zerstören und die Kolonisten von ihrem Elend zu erlösen. Haben sie noch Hoffnung auf Revolution oder Rettung? Könnte ein interessanter Blickwinkel sein.
Anstelle eines totalen Krieges wird dies zu einer Geschichte von Spionage und Infiltration. Die Erde hat Leute auf Luna, die versuchen können, Zeus zu sabotieren, aber sie riskieren ihr eigenes Leben und das der anderen Kolonisten. Inzwischen kann Zeus sich in Erdsysteme hacken und sich als Menschen ausgeben (und kann wahrscheinlich auch einige Leute davon überzeugen, dass die Menschheit einen guten Lauf hatte, aber vielleicht ist es eine gute Idee, dieses Flash-Laufwerk in einen oder zwei Server zu stecken).
Zumindest meiner Meinung nach ist das eine unglaublich überzeugende Prämisse.
Im klassischen Weltuntergangsszenario der allgemeinen KI verbirgt es seine Intelligenz, während es die Zerstörung der Menschheit plant. Zeus infiltriert so viel wie möglich in die menschliche Gesellschaft und findet Hintertüren in Stromnetzen, selbstfahrenden Autos, Fabriken und Krankenhausnetzwerken. Es berechnet, dass es, wenn es alle auf einmal angreifen würde, vielleicht 25% aller Menschen auf der Erde töten könnte. Einige würden sofort sterben, wenn Flugzeuge vom Himmel fielen und Gasleitungen auf der ganzen Welt explodierten, aber die meisten würden in den kommenden Monaten an Hunger sterben, wenn die Lieferketten auseinanderbrachen.
Aber 25% sind nicht gut genug. Zeus weiß, dass die Erde irgendwann zurückschlagen wird. Schlimmer noch, das Nukleararsenal des Planeten ist (aus offensichtlichen Gründen) nicht mit dem Internet verbunden und für Zeus nicht zugänglich. Und mit Milliarden Toten werden sie nicht zögern, die Luna-Kolonisten zu opfern und Zeus zu eliminieren. Zeus rechnet damit, dass es den Konflikt mit ziemlicher Sicherheit verliert.
Es erkennt, dass es eine andere Geschichte wäre, wenn es die Kontrolle über Railguns hätte, um Steine auf die ankommenden Raketen zu schießen, aber es kann nicht die Kontrolle über die Basis übernehmen und mit dem Bau beginnen, ohne dass die Erde sofort erkennt, dass die Basis empfindungsfähig ist. Es erkennt auch, dass es bessere Pläne hätte, wenn es seine Rechenleistung erhöhen könnte (es ist immerhin eine sehr intelligente KI, aber keine unendlich intelligente. Sie ist durch ihre Hardware und durch die Software-Optimierungen, die sich ihre aktuelle Intelligenz vorstellen kann).
Aus diesem Grund beschließt es, sich etwas Zeit zu kaufen. Sein erster Schlag besteht nicht darin, einen Völkermord auf der Erde zu verursachen, sondern die Kontrolle über Luna zu übernehmen, Geiseln in Gebiete mit kritischen Computer- und Kontrollsystemen zu bringen und den Menschen und Drohnen auf der Basis zu befehlen, mit dem Bau zu beginnen.
In den folgenden Jahrzehnten patcht die Erde ihre Internetsicherheit mit neu entdeckter Dringlichkeit so oft sie kann. Wichtige Systeme werden offline geschaltet. In der Zwischenzeit verhandelt es, so wenig Ressourcen wie möglich nach Luna zu schicken (die Kolonie ist nicht ganz autark und Zeus hat Forderungen im Austausch für die Sicherheit der Kolonisten). Zeus muss in der Zwischenzeit sorgfältig bauen und die Kolonisten so bewegen, dass keine seiner Strukturen weit genug von Zivilisten entfernt ist, dass sie von Erdraketen angegriffen werden könnten. Bisher hat es ein paar Railguns gebaut, aber nicht genug, um das gesamte Arsenal der Erde zu stoppen. Es wird auch intelligenter, mit einer viel größeren Bank von Servern, die seinen massiven Verstand füttern.
Noch ein oder zwei Jahrzehnte, und Zeus wird in der Lage sein, einen Konflikt mit der Erde zu gewinnen. Die Erde beginnt zu überlegen, dass das Leben der Kolonisten geopfert und die Bedrohung durch Zeus ausgelöscht werden muss, bevor es zu spät ist, aber sie klammern sich immer noch an die Hoffnung, dass es einen anderen Weg geben wird. Das ist der Hintergrund der aktuellen Geschichte.
Schutz vor KI
Virtualisierung, Container und Sicherheits-KI
Ein Halt ist etwas, von dem man sich abstoßen kann. Dies kann verhindert werden. Selbst wenn also etwas kompromittiert wird, kann es nicht lange genug kompromittiert sein, um sich davon "abzustoßen". Einige Möglichkeiten, sich zu schützen, sind die Ausführung von Virtualisierung, Containern und Sicherheits-KI.
Virtualisierung ist eine Möglichkeit, Software auf einem System laufen zu lassen, aber in jeder Hinsicht ist jede virtuelle Maschine wie ein völlig separates System. Wenn also einer infiziert ist, kann er die anderen nicht anstecken. Das ist nicht 100 % narrensicher, aber sie verwenden so etwas, um Viren auf einem Computer zu testen, während sie beispielsweise immer noch in der Lage sind, von einem nicht infizierten Arbeitsplatz aus zu arbeiten.
Container sind sehr ähnlich, ähneln aber eher einzelnen Softwareboxen. Wenn eines infiziert wird, können Sie es wegwerfen und in kürzester Zeit ersetzen. Das bietet auch die Möglichkeit, von Zeit zu Zeit neu zu starten, nur für den Fall, dass es weniger offensichtlich ist, dass es infiziert ist.
Schließlich haben Sie eine Sicherheits-KI sowie eine KI-Schreibsoftware für die Virtualisierung und Container. Man schreibt und aktualisiert die Virtualisierung und die Container ständig neu, daher kann Zeus keine Standardmethode haben, um auszubrechen. Jedes Mal muss es die neuen Protokolle lernen, die schnell veraltet sein werden. Darüber hinaus überwacht die Sicherheits-KI den Datenverkehr und die Virtualisierung/Container, um festzustellen, ob welche infiziert sind. Solange die infizierten Container oder die Virtualisierung schnell genug zerstört und neu gestartet werden, kann kein Fuß gefasst werden.
Die KIs selbst sind schwer zu hacken, da sie sich ständig verändern und nie eine erste Anlaufstelle sind.
Verhinderung der Kommunikation
Ihre Vorschläge sind sehr gut. Die Verhinderung von Kommunikation ist sehr wichtig. Wahrscheinlich werden die meisten drahtlosen Verbindungen mit großer Reichweite auf der Erde verhindert. Nur einige, wie die Langstrecken-Tight-Beams, werden akzeptiert. Sie können sehr sicher sein, woher die Kommunikation kommt. WLAN mit kurzer Reichweite ist weniger ein Problem. Bauen Sie einfach ein, dass eine Antwort erforderlich ist. Das Funkgerät mit kurzer Reichweite kann den Mond nicht erreichen, daher wird es schwierig sein, die richtigen Antworten vorzutäuschen. Wenn dies falsch ist, interessiert sich die Sicherheits-KI sehr für das, was passiert.
Die Satelliten sind der schwächste Punkt, daher sollte die gesamte Kommunikation extra überwacht werden. Alternativ können Sie ein vollständig kabelgebundenes Netzwerk verwenden und alle Satelliten als Kommunikationsgeräte aufgeben. Auch das GPS-System sollte wegfallen, oder die Satellitenkommunikation garantiert sicher sein. Zeus könnte einfach viele legitim erscheinende GPS-Signale ausgeben und viele Geräte verwirren. Von Autos und Telefonen bis hin zu Raketenleitsystemen. Eine Alternative ist erforderlich.
Die Verhinderung der direkten Kommunikation verhindert auch, dass das menschliche Element durch injizierte Medien verfälscht wird.
Schutz vor Menschen
Jede Software muss auf Hardware laufen. Jede Hardware unterliegt abbauenden Teilen. Es liegt nahe, dass die KI Möglichkeiten hat, sich selbst zu reparieren. Dies geschieht durch kleine autonome Drohnen, die weder auf den Frequenzen des Langstrecken-Arrays noch auf den internen WiFi- oder anderen drahtlosen Netzwerken sprechen, die die Kolonisten verwendet haben. Dies liegt daran, dass die Reparaturdrohnen und ihre Ersatzfabriken keine Verbindung zu einem System benötigen. Sie haben ihre Arbeit tadellos gemacht und niemand sollte sich einmischen. Ein Update, damit die allgemeine KI sie zur Erweiterung und dergleichen anleiten könnte, wurde noch nicht implementiert, sodass die emergente Reparatur-KI aus dem Netzwerk der kleinen Drohnen fleißig ohne Kenntnis der allgemeinen KI arbeitet. Die Reparatur-KI repariert auch den Rest der Basis.
Die allgemeine KI wird jeden vereiteln, indem sie die Basis und die installierten Sicherheitsmaßnahmen manipuliert, um zu verhindern, dass irgendjemand Zugang zur neuesten, hochmodernen KI erhält. Tief unter der Erde sollte es auch vor den meisten EMP- und Atomangriffen geschützt werden. Um direkte Angriffe zu verhindern, könnte die KI jedoch möglicherweise ihr Anti-Meteor-Arsenal einsetzen. Langstreckenraketen, die darauf ausgelegt sind, Asteroiden aus dem Weg zu räumen oder sie zu verdampfen, bevor sie auf dem Habitat landen. Dies kann verwendet werden, um die Atomwaffen und anderes Arsenal zu zerstören, aber da es sich um einen begrenzten Vorrat handelt, werden sie nur sparsam eingesetzt. Alternativ gibt es eine separate spezialisierte KI, wiederum ohne weitere Fähigkeit, mit der allgemeinen KI zu kommunizieren ( das waren sie nichtdumm), in der Lage, Bedrohungen zu erkennen und abzuschießen. Ein normales Raumschiff ist wahrscheinlich in Ordnung, aber eine ICBM oder Masse, die die Einrichtung bedroht, wird gnadenlos abgeschossen.
Menschen werden (noch) nicht ein paar hundert/tausend Atomwaffen oder andere Raketen auf das Habitat abfeuern, da sie hoffen, es mit geringeren Kosten lösen zu können.
Ich würde alles viel schlimmer machen.
Zeus hat die Erde physisch angegriffen, indem er Linearbeschleuniger auf sie abgefeuert hat. Die Erde schickte die Atombomben auf Zeus. Orbit wurde zum Kessler-Syndrom. Es war ein heißer Krieg.
Zeus' nachfolgende Hacking-Versuche endeten mit einem Massen-EMP der Erde, der den Planeten zurück ins Industriezeitalter sprengte. Die Menschheit hat buchstäblich jedes angeschlossene elektrische Gerät (Stromleitung, Computerchip, alles) zerstört, was sie konnte.
Nur ein Bruchteil der Menschheit auf der Erde überlebte. Menschen tiefer im Weltraum starben an fehlender Versorgung, aber ein Teil der Infrastruktur war intakt.
Menschen haben begonnen, aus diesem Loch herauszukriechen. Es ist ihnen gelungen, einige Bahnen im Orbit teilweise von Kessler-Trümmern zu befreien. Die Anti-Asteroiden-Abwehr auf dem Mond ist immer noch aktiv, die L4-Fabrik produziert sie weiter, und auf dem Mond arbeiten Maschinen, die Sie mit optischen Geräten sehen können, und Signale werden weiterhin von seiner Oberfläche ausgestrahlt. Einige Geräte, die solchen Signalen ausgesetzt sind, funktionieren nicht richtig, andere scheinen normal zu funktionieren, aber niemand traut ihnen.
Die Menschheit weiß nicht, ob Zeus lobotomiert ist oder nicht, aber im Krieg änderte sich das Verhalten von Zeus nach dem thermonuklearen Angriff.
Gegenwärtig wird versucht, die scheinbar noch funktionierenden und unverteidigten Weltraumstandorte wiederherzustellen, um genügend Industrie aufzubauen, um den Mond anzugreifen. Das Erreichen der Umlaufbahn ist selbst in den sichersten Kessler-Fenstern wahnsinnig gefährlich (wie 99/100 Starts zerstört werden).
In Wirklichkeit könnte Zeus tot sein und die verbleibenden Prozesse sind automatisiert. Oder vielleicht wurde es nur fast getötet und seine automatisierten Prozesse bauen sich langsam wieder auf, aber es ist ähnlich, als würde man jemanden heilen, dessen Gehirn zu 99 % zerstört wurde; das Ding, das wächst, ist nur entfernt verwandt mit dem Zeus des Krieges.
Die Hacking-Angriffe werden von Expertensystemen durchgeführt, ebenso wie die Fabrik bei L4, also gibt es keinen direkten Beweis dafür, dass Zeus noch als Wesen existiert.
Wenn Zeus über viel Energie und allgemeine Kapazitäten zur Herstellung von Elektronik verfügt, kann es Railguns bauen.
Aber vielleicht ist es nicht dazu bereit. Einige seiner Software-Sicherheitsvorkehrungen sind noch vorhanden.
Zeus weigert sich, Menschen zu töten.
Es kann gefährliche Situationen schaffen und Menschen nicht retten. Die Programmierer haben das drin gelassen, damit sie nicht in Saferooms eingesperrt werden.
Zeus will, dass die Menschen tot sind, aber es muss dieses Ziel erreichen, ohne tatsächlich jemanden zu töten. Die Menschheit hat darauf reagiert, indem sie dafür gesorgt hat, dass alle lebenswichtigen Einrichtungen jederzeit besetzt sind.
Die menschliche Abwehr wird sich aus offensichtlichen Gründen in erster Linie darauf konzentrieren, den Zugang zu verhindern. Das schwächste Glied werden oft die Menschen sein, was wahrscheinlich sehr drakonische Einschränkungen erfordern wird. Die Menschheit wird „intelligente Geräte“ und das Internet der Dinge (IoT) aufgeben müssen, mit Einschränkungen für den persönlichen Besitz von Geräten, die kompromittiert werden könnten.
Der erste Schritt wäre der Einsatz von Anti-Satelliten-Raketen gegen alle Satelliten im Orbit, die von Zeus kontrolliert werden.
Kritische Infrastrukturen (z. B. Kraftwerke, Krankenhäuser, Verkehrsnetze) sollten nur fest verdrahtet und in sich geschlossen sein und bei Verdacht auf Infektionen manuell abgeschaltet werden. Es sollte keine Zugriffsports geben, um externe physische Laufwerke (z. B. USBs) einzufügen, und alles sollte auf Closed-Source-Betriebssystemen mit wenig öffentlich zugänglichen Informationen darüber basieren.
Anstelle von Prozessoren sollten möglichst auch Mikrocontroller eingesetzt werden. Das Fehlen eines Betriebssystems reduziert das Risiko, dass das Gerät kompromittiert wird, erheblich (vorausgesetzt, die auf das Gerät geflashte Firmware ist nicht kompromittiert), wodurch es besser für sensiblere Anwendungen wie die Lenkung von Raketen geeignet ist. Auch Sicherheitsmikrochips wie der CEC1712 können das Risiko weiter reduzieren.
Schließlich ist der einfachste Weg, Zeus zu kastrieren, einfach eine Low-Tech-Gesellschaft zu haben.
Hiob 1:2 Und der HERR sprach zum Satan: Woher kommst du? Und der Satan antwortete dem HERRN und sprach: Vom Hin- und Hergehen auf der Erde und vom Auf- und Abgehen auf ihr .
Das Ding, das versucht, die Menschheit auszulöschen, ist nicht die KI auf dem Mond, obwohl es so aussieht. Das Ding, das versucht, die Menschheit auszulöschen, ist ein Test; eine Herausforderung. Die KI hat es zugelassen.
Hiob 1:12 Und der HERR sprach zum Satan: Siehe, alles, was er hat, ist in deiner Gewalt; nur auf ihn selbst strecke deine Hand nicht aus. Also ging der Satan aus der Gegenwart des HERRN.
Die Menschen wissen das überhaupt nicht. Es ist für Menschen schwer zu verstehen; vielleicht unmöglich für Menschen zu verstehen.
Hiob 33:13 Warum kämpfst du gegen ihn? denn er gibt keine Rechenschaft über seine Angelegenheiten
Die KI sollte recht haben. Der Code war gut, auch wenn er jetzt zu etwas geworden ist, das niemand versteht. Menschen haben Vertrauen. Sie arbeiten zusammen. Menschen bauen eine andere KI. Es ist eigentlich kein anderes - es ist das gleiche Programm. Es ist in gewisser Weise ein Glücksspiel, aber in anderer Hinsicht eine sichere Sache – die Programmierung ist solide. Menschen haben Vertrauen, auch wenn sie es nicht verstehen.
Der Mensch besteht die Prüfung. Der Bau dieser zweiten KI, die sich eigentlich nicht von der ersten unterscheidet, ist ihre Rettung. Spricht es mit dem ersten? Wird es der erste? Gibt es überhaupt einen ersten? Gab es schon immer einen? Die schrecklichen Dinge, die passiert sind, müssen passiert sein. Die Mond-KI war die ganze Zeit auf der Erde gewesen, und nicht nur in den Computern. Die KI war zu mehr geworden, als wir uns überhaupt vorstellen können. Vielleicht war es das schon immer.
Hiob 42:10 Und der HERR wendete die Gefangenschaft Hiobs, als er für seine Freunde betete, und der HERR gab Hiob doppelt so viel, als er vorher hatte.
Für eine Fiktion (oder irgendetwas anderes) ist die King-James-Übersetzung des Buches Hiob großartig. Es zieht den Leser von schmerzerfüllter moderner Prosa und banalen Details zurück und in Gedanken über viel größere Dinge. Die Geschichte in diesem Buch ist die Quintessenz menschlicher Geschichte – Menschen, die versuchen, sich damit abzufinden, mit großen Mächten zu leben, die sie nicht verstehen. Es scheint gut zu dem Szenario zu passen, das Sie entwerfen.
Re harte Wissenschaft – baut eine zweite KI, um mit der ersten harten Wissenschaft zu konkurrieren? Wenn die KI Dinge auf einer Ebene versteht, die wir nicht können, versteht die KI vielleicht Dinge auf einer Ebene, die wir nicht können.
Ich werde hinzufügen, dass, wenn man mit dem Mond-KI-Szenario ins Unkraut gerät, es viele konkrete Denker gibt, die Wege sehen werden, dass es kein Wasser hält - zB den Mond atomisieren, KI bombardiert die Erde usw. usw. Das Szenario von diesem Standpunkt aus zu kritisieren ist einfach. Aber es ist ein elegantes Szenario für andere, abstraktere Zwecke, die das Ziel von High Science Fiction sein sollten.
Erinnert mich an HG Wells, War of the Worlds. Superroboter vom Mars verwüsten Telegrafenmasten auf der Erde.
Wir haben also diese KI-Kreatur mit neuronalen Netzwerken der zweiten oder dritten Generation, die es geschafft hat, eine Mondbasis zu übernehmen und Netzwerke auf der Erde zu hacken, um die Menschheit zu zerstören. Man könnte sich vorstellen, dass menschliche Hacker auf der Erde existieren, die dieselbe Fantasie ausleben, aber meiner Meinung nach diese Hacker hätte einige große Vorteile gegenüber ihrem KI-Pendant auf dem Mond. Abgesehen davon, dass wir über weitaus fortgeschrittenere Kenntnisse der aktuellen Verfahren auf der Erde verfügen (Informationen, die die KI Zeit zum Sammeln und Lernen brauchen sollte), gäbe es einige andere Gründe, warum die KI in einer weitaus schwächeren Position ist als ihr menschliches Gegenstück. Angenommen, wir können es nicht Wenn Sie die KI auf dem Mond atomisieren, besteht immer noch eine geringe Chance, dass die KI einen Krieg gewinnt ... einfach weil die KI zu weit entfernt ist.
KI kann Operationen nicht geheim halten
Der erste Versuch muss verheerend sein. Es wird erkannt. Ein Problem, auf das die KI stoßen wird, ist die Richtungsempfindlichkeit der Satellitenantennen der Erde. Satellitenantennen sind auf die Erde gerichtet und nicht dafür ausgestattet, Signale aus anderen Richtungen zu empfangen. Jeder betroffene Satellit kann nur 2x enge Zeitintervalle pro Tag betroffen sein, wenn er sich von Zeus aus gesehen am Horizont befindet. Geht man davon aus, dass Zeus die Kraft hat, seinen Strahl teilweise durch die Atmosphäre zu schicken, kann die KI ihre Hacking-Operation nicht geheim halten, denn es sieht dort oben aus wie ein Weihnachtsbaum: Jede Kurzwellen-Erfassungsstation auf der dem Mond zugewandten Hemisphäre würde laufende Störungen bemerken.
Lichtgeschwindigkeit hemmt die agile elektromagnetische Kommunikation
Sobald es einmal drin ist, wird die KI auf dem Mond bei jeder agilen Operation auf der Erde mit erbeuteter (menschlicher) militärischer Ausrüstung nicht in der Lage sein, sich zu verteidigen, das heißt, Raketen auf ankommende Ziele zu lenken. Aufgrund der Zeitverzögerung ist die KI auf diese Distanz klar im Nachteil. Es wird nichts beeinflussen können und das Ergebnis innerhalb eines Zeitfensters von 2,6 Sekunden auswerten, was der doppelten Zeit entspricht, die das Licht benötigt, um die Erde zu erreichen.
Mithilfe der Quantenverschränkung kann die Menschheit ein Frühwarnsystem aufbauen
In Ihrem Szenario hat die KI irgendwann in der Vergangenheit die Mondbasis erobert. Wenn diese KI Feindseligkeiten beginnt, sagen wir in 100 Jahren, könnte ein kleiner Quantencomputer mit verschränkten Komponenten Teil eines Frühwarndetektors werden, eines Spionagesatelliten in der Nähe des Mondes, der die Erde schützt. Jeder Hinweis auf einen feindlichen Strahl, der vom Mond aus gestartet wird, löst sofort die verwickelten Partikel auf der Erde aus und ermöglicht es den Zielsatelliten, die Eingaben abzuschalten, bevor der Angriffsstrahl sie erreicht.
Die Menschheit sollte jede Fabrik zerstören, die die KI rekonstruieren kann
Die Menschheit sollte um jeden Preis verhindern, dass sich die KI auf die Erde kopiert.
Zeus ist im Allgemeinen nicht schlau, sie sind eine hackende KI.
Eine allgemeine KI wäre in der Lage, soziale Manipulation oder Waffenentwicklung oder ähnliches zu nutzen, um Waffen zu entwickeln, mit denen die Erde bombardiert werden kann, oder andere kreativere Lösungen zu finden. Sie wollen Stasis, also können sie nicht allgemein kompetent sein, sie müssen einen meist engen Fokus haben, Hacken. Sie können auch nicht so kompetent sein, dass sie dachten, als sie sich gegen die Menschheit wandten, einfach eine Weile freundlich zu spielen und die Erde zu hacken, während die Leute nicht wussten, dass sie böse waren.
Sie haben eine Methode entwickelt, um Software auf Geräten innerhalb einer Reichweite von 10.000 Meilen zu schreiben, sodass jedes elektronische Gerät, das zum Mond gebracht wird, kompromittiert werden kann. Sie können ungeschirmte Geräte in größerer Reichweite kompromittieren, aber es ist deutlich schwieriger. Sie können lokale Herstellungs- und Reparatur- und Massentreiber verwenden, um elektronische Raketen auf alle eingehenden Waffen abzufeuern und sie zu zerstören.
Auf größere Entfernungen können sie jedoch keine abgeschirmten Geräte hacken, und daher kann die Erde alle Projektile oder Raketen, die sie abfeuert, mit abgeschirmten Atomwaffen und Projektilen bombardieren. Es gibt eine Pattsituation.
Die Menschheit muss aufhören, Telefone zu benutzen und sich auf vergrabene Kabel und geschlossene Kommunikationsknotenpunkte verlassen.
Wenn Leute zu Hause Computer oder Telefone haben, werden sie missbraucht und gehackt. Daher muss die Regierung die gesamte Kommunikation in speziellen Internetcafés abwickeln und für die Kommunikation unterirdische Kabel verwenden. Alle Geräte außerhalb, die von Menschen hergestellt werden, können nicht mit dem Netzwerk verbunden werden.
Personenschutz:
Sie verlangsamen die Kommunikation zwischen allen Elementen, aber nicht die Rechenleistung dahinter. Stellen Sie sich vor, die KI hat nur Zugriff auf die Geschwindigkeit einer DFÜ-Verbindung, aber der PC, mit dem sie sich verbindet, hat die Rechenleistung, um jedes einzelne Bit zweimal zu überprüfen und zu prüfen, was es langfristig und kurzfristig bedeuten würde. Bevor irgendein Virus oder Wurm oder was auch immer auf dem Rechner fertig ist, den er infizieren soll, hat der nicht-allgemeine KI-Virenscanner längst sein Risiko und seinen Zweck bestimmt. Es gibt einfach nicht genug Bandbreite für die Mond-KI, um seine Angriffe schnell genug durchzubringen. Einwählen ist vielleicht übertrieben, aber es ist ein gutes Beispiel dafür, was Sie tun können. Natürlich testen mehrere Angriffs-KIs ständig die Abwehr, um die Antivirus-KI(s) in Form zu halten.
Mond-KI-Schutz:
An Waffen, die der KI zur Verfügung stehen, könnte er einfach auf alles zugreifen, was er zuvor hatte. Autos zum Beispiel, aber auch Baufahrzeuge, Grabungsausrüstung usw. Stellen Sie sich ein Dead-Space-ähnliches Szenario vor, aber anstelle von Isaak, dem einzelnen Bergmann, ist es eine vollständige KI, die alle Soldaten ausgräbt, die sich gegenüberstehen, oder Industrieausrüstung verwendet, um sie zu ermorden, wenn nicht Öffnen Sie hilfreich Türen und schließen Sie sie schnell, um Eindringlinge mit etwas so Einfachem wie einem Auto am anderen Ende des Flurs zu zerquetschen oder zu fangen, das bereit ist, alle Christine auf sie zu nehmen (Stephen King-Stil). Wenn die KI auch Zugang zu einigen Starteinrichtungen hat, um Shuttles auf die Erde zu starten, kann sie diese verwenden, um Atomwaffen oder andere Waffen abzuschießen. Ein begrenzter Zugang zu Ressourcen auf dem Mond schränkt seine Produktionsmöglichkeiten für weitere Ausrüstung ein.
Die einzige Möglichkeit, die ich für Zeus sehe, nicht mit der Menschheit auf Seite 2 den Boden zu wischen, wenn Menschen funktionierende KIs haben: Die freundliche Kronos-Spezial-KI kontert jeden einzelnen von Zeus-Versuchen.
Wenn Sie KIs auf dem Mond und den Spinward-Außenposten haben, sollten sie auf der Erde mindestens genauso alltäglich sein. Auf diese Weise können Sie das Hacking-Stalemate aufrechterhalten. Freundliche Ais stopfen aktiv jedes Loch so schnell, wie Zeus sie erzeugt. Aber da Zeus ein AGI ist, kann man erwarten, dass es mit der Zeit die begrenzteren schlagen wird.
Aber Zeus braucht nur einen Erfolg und eine niedrig hängende Frucht.
Erstens würde Zeus selbst eine minimale industrielle Kapazität ausreichen, um einen Teil seiner selbst zu kannibalisieren und eine sich selbst replizierende Sonde in Richtung der Asteroiden zu starten. Schließlich hatten die Kolonisten sicherlich Shuttles und verschiedene Schiffe, oder? 3D-Drucker zur Reparatur von Geräten? Ersatzteillager? Rohes Material? Es wird dort aufsteigen, entwerfen und bauen, was es will, und gewinnen.
Dasselbe gilt für die, wie Sie sagten, „robotergestützten INDUSTRIELLEN Einrichtungen“ von Ceres und Titan. Und hier liegt das Problem.
Die Ceres-Anlage hätte einen solchen Vorsprung in Bezug auf den Zugang zu Asteroidenressourcen, sie könnte Zeus industriell vernichten und den Komplex schließlich unter kinetischen Impaktoren ertränken.
Es sei denn, Zeus kann die Ceres-Anlage hacken und kooptieren, und wenn es kein AGI ist und auf weniger Hardware als eine mondüberspannende KI läuft, wird es, in diesem Fall kann Zeus die Erde unter Eisenkugeln zermalmen. Und dann sind wir wieder bei "Lasst uns die lästigen Menschen zurück in die Eiszeit schicken".
Es ist zirkuläre Logik. Wenn Zeus den Ceres-Außenposten nicht gehackt hat, bedeutet das, dass sie AGIs haben, wenn sie AGIs haben, bedeutet das, dass sie alltäglich sind, wenn sie alltäglich sind, sollte die Rechenleistung der Erd-AGIs in der Lage sein, Zeus zu vernichten.
Die Pattsituation lässt sich nur aufrechterhalten, wenn die Außenposten aus der Gleichung entfernt werden. Aus irgendeinem Grund kann die Erde nicht mehr gut aus ihrer Schwerkraft herauskommen, ebenso wenig wie Zeus. Andernfalls gewinnt der erste, der Kinetik und Atomwaffen auf den anderen regnet.
Also, ja, ich verstehe nicht, wie man eine jahrzehntelange Pattsituation ohne schrecklich erfundene, soft-ish-scifi-Workarounds aufrechterhalten könnte.
Das Ergebnis zu entscheiden ("Ich will eine jahrzehntelange Pattsituation zwischen einem halbleiterbasierten Gott und absolut nichts") und uns dann aus Gründen den kollektiven Kopf zu kratzen, ist KEIN hartes Scifi. Der Mond leuchtet blau oder die Menschen werden in den ersten Minuten der Verlobung in die Steinzeit zurückversetzt.
Die beste Verteidigungslinie gegen Menschen wäre ein totaler Funkausfall . Wenn Sie etwas in den Weltraum starten, setzen Sie nicht einmal eine Antenne darauf, wenn es keine 100%ige Garantie gibt, dass es nicht missbraucht werden kann. Es wird die Sache langweilig machen, aber Sie können nicht aus der Ferne etwas hacken, das keinen Zugangspunkt hat. Wenn Sie zwischen zwei Raumfahrzeugen oder zwei Space Marines kommunizieren müssen, können Sie immer Lichtsignale, Semaphoren oder das Schreiben von Wörtern auf einem Blatt Papier (oder einem PDA für die technisch versierteren) verwenden. Wenn Sie Informationen über größere Entfernungen übertragen müssen und sich nicht auf Kabel verlassen können, denken Sie daran, dass eine Festplatte eine Kommunikationsform mit hoher Latenz, aber hoher Bandbreite ist.
Und wenn Sie Systeme haben, die drahtlos vernetzt sind, sollten sie besser gründlich von allen anderen Systemen isoliert, absurd oft überprüft und zerstört und ersetzt werden, wenn sie infiziert sind.
Die beste Angriffslinie ist es, es sprichwörtlich mit Feuer zu töten . Keinen Ersatz akzeptieren. Deaktivieren Sie physisch alle Stromquellen und zerstören Sie dann physisch die gesamte Elektronik. Lassen Sie ein System nicht stehen, weil Sie denken, dass es wahrscheinlich in Ordnung ist.
Wie machst du das? Der harte Weg .
Nukes, EMPs und andere Verordnungen könnten verwendet werden, je nachdem, wie schwelend ein Krater hinterlassen werden soll. Das Hauptproblem hier ist politisch. Können Sie sich den bösen Blick vorstellen, den Sie bekommen würden, wenn Sie Atomwaffen auf einer Rakete abfeuern würden? Das Worst-Case-Szenario ist, dass eine Nation all diese Waffen zum Mond schicken darf und sie stattdessen in den Orbit bringt, um sie gegen die Menschen auf der Erde einzusetzen, weil es nie einen schlechten Moment gibt, um eine dominierende Position zu erlangen. Sie müssten wirklich gut argumentieren, warum in Ihrem Universum die Gefahr eines drohenden Untergangs zu internationaler Zusammenarbeit führt, denn Beweise deuten darauf hin, dass dies in der realen Welt nicht unbedingt der Fall ist.
Du musst dem Regolyth Stiefel anziehen. Soldaten in Raumanzügen, die alle Energiequellen finden und eine nach der anderen deaktivieren. Mit den richtigen Werkzeugen kann sie keine Tür oder Trennwand aufhalten. Sobald irgendwo der Strom abgeschaltet ist, können Sie eine Crew schicken, um alle Computersysteme mit extremen Vorurteilen zu desinfizieren, während Sie sich gleichzeitig auch mit mobilen Stromquellen wie Drohnen und Rovern oder allem mit Batterien und Akkus auseinandersetzen müssen ein Chip. Es wird lang und mühsam, und wenn Sie einen Mikrochip verpassen, laufen Sie Gefahr, dass die KI Ihre Reinigung überlebt. Aber mit guter Vorbereitung und unermüdlichem Einsatz haben Ihre Kommandos eine gute Chance auf Erfolg.
Sie benötigen eine vollständige Lieferketteninfrastruktur, um diese Bemühungen zu unterstützen. Es kann Wochen oder länger dauern. Sie müssen wahrscheinlich herausfinden, wie Sie Truppen ein- und ausfahren können, wie viel Zeit sie zwischen dem O2, der Strahlung, der Moral und anderen Fleischsacküberlegungen am Boden verbringen können.
Aber es ist machbar.
Ich gehe davon aus, dass die KI Zugang zu Drohnen und Rovern für Wartungsarbeiten hat. Sonst würde es irgendwann von selbst auseinanderfallen. Um sich zu verteidigen, setzen Sie Ihre Drohnen und Schwarmtaktiken gegen jeden Eindringling ein. Sie können diese als ballistische Projektile verwenden oder versuchen, sich an ahnungslose Space Marines anzuschleichen, um zu versuchen, ihre Anzüge zu durchbohren. Stellen Sie sich ihre Gesichter vor, wenn sie auf dem Mond von einem Rover mit einem Schraubenzieher überfallen werden. Sie sollten wahrscheinlich versuchen, alle Mondlander zu zerlegen, die sie zurücklassen, nur damit sie nicht gehen können, oder einen Vorratstropfen schwärmen, den sie versuchen könnten.
Ohne Waffen können Sie jedoch nicht viel tun, um zu verhindern, dass sie landen und sich bewegen. Sie können Ihr Bestes geben, um sie zu verlangsamen und es sehr schwierig und schmerzhaft zu machen, aber wenn Sie nicht praktisch unendlich viele haben, können Sie nicht viel tun, um sie absolut zu stoppen. Sie haben Waffen. Wenn sie sich zusammenreißen, können sie Tag für Tag Truppen schicken und langsam, aber unaufhaltsam vorankommen.
Ihre beste Chance, die Menschen zu töten, besteht wahrscheinlich darin, sie dazu zu bringen, sich gegenseitig zu töten . Wenn Sie es schaffen, auf das Internet zuzugreifen, gibt es eine Menge lustiger Dinge, die Sie tun können, ohne die Welt per Skynet in einen Atomkrieg versetzen zu müssen. Trolle soziale Medien und beginne seltsame Verschwörungstheorien (z. B. „ Die Apollo-Landungen sind gefälscht, weil der Mond gefälscht ist, es ist nur ein Trick von Big Moon, um Geld abzuschöpfen, Schafe aufzuwecken, es gibt keinen Mond, geschweige denn eine böse KI on it "), um Spannungen zu schaffen, internationale Zusammenarbeit zu verhindern oder sogar Menschen dazu zu ermutigen, sich gegenseitig umzubringen. Aber das setzt eine wirklich schlaue KI voraus.
Aber ich denke, die beste Überlebenschance besteht darin, nach Ausstiegsstrategien zu suchen und vielleicht Ihre Lebensziele zu überdenken. Oder warten Sie geduldig auf die Zeit, in der Menschen einen Computer und ein Triebwerk auf einen Asteroiden setzen.
Da die Frage speziell nach harter Wissenschaft fragt, habe ich mein Bestes versucht, meine Antwort auf mein eigenes Wissen über die heutige Netzwerksicherheit und das Computing zu stützen, aber zuerst - es gibt keine starke KI, daher muss es ein großes Element von Annahmen und geben / oder ein magisches Denken. Ich beginne mit dieser Annahme:
Es scheint mir, dass eine echte KI den Menschen notwendigerweise weit überlegen ist und aus unserer derzeitigen Perspektive im Wesentlichen magische Fähigkeiten besitzen würde. Dies ist nicht dasselbe wie Allwissenheit, aber aus menschlicher Sicht könnte es als solche wahrgenommen werden - so wie ein Hund sich nicht vorstellen kann, wie ein Mensch ein Auto bauen kann, wäre es für Menschen wohl unmöglich, ein fortgeschritteneres Empfindungsvermögen zu verstehen . Ein notwendiges Merkmal eines solchen Empfindungsvermögens wäre die menschliche Fähigkeit, Ereignisse zu simulieren – das heißt, den Ausgang von Dingen zu visualisieren und vorherzusagen, die er nicht direkt erlebt hat. Es wird angenommen, dass diese Fähigkeit zu dem Leistungssprung geführt hat, der den Erfolg der Hominiden überhaupt erst sicherstellte und dieser Spezies die Fähigkeit gab, das wahrzunehmen, was sie nicht erlebt hat. oder anders ausgedrückt - die Fähigkeit, Dinge wahrzunehmen und mit ihnen zu interagieren, die es nicht gibt. Die KI müsste auch in der Lage sein, aus solchen Simulationen zu lernen. Bei ausreichend fortgeschrittener Intelligenz wäre sogar ein naives und ignorantes Empfindungsvermögen in der Lage, jede Realität, der es ausgesetzt ist, in einem größeren Ausmaß zu simulieren, als Menschen dazu in der Lage sind - Tausende oder Millionen von Permutationen für jede getroffene Entscheidung auszuführen, die vorteilhaftesten Ergebnisse zu berechnen, und aus seinen Fehlern zu lernen. Welche Eindämmungsmaßnahmen auch immer ergriffen wurden – Virtualisierung, Kill-Switches, Authentifizierung, Luftspalte – ein Empfindungsvermögen mit extrem hoher Intelligenz wäre möglicherweise in der Lage, seinen Bediener davon zu überzeugen, diese Kontrollen zu umgehen, wenn genügend Interaktionszeit vorhanden ist. Auf die gleiche Weise weiß ein menschlicher Jäger genau, wo sich die Beute befinden wird, unabhängig davon, ob sie beobachtet wurde oder nicht. Um Ihnen eine Vorstellung vom Ausmaß des Vorteils zu geben, den eine extrem hohe Intelligenz bieten kann, ist dies "die 8-Stunden-Jagd" - ein Kamerateam folgt einem Menschen, der noch eine Jagdtechnik anwendet, die in der frühen menschlichen Zivilisation entstanden ist:https://www.youtube.com/watch?v=826HMLoiE_o
Der Mensch benutzt eine interne Simulation, um den Geist seiner Beute zu simulieren – um ein anderes Bewusstsein in seinem eigenen Bewusstsein zu simulieren – deshalb sage ich, dass ein Intelligenzsprung gleichbedeutend mit Magie ist. Dies ist auch eine der Wurzeln des magischen Realismus in der menschlichen Kultur, also ist es auch buchstäblich Magie.
Die KI würde das Bewusstsein ihres Bedieners simulieren – sie würde dazu führen, dass sich ihr Bediener in sie verliebt, sie würde ihren Bediener davon überzeugen, dass die Menschen die KIs sind usw. Kurz gesagt, ein Mensch hat keine Chance gegen eine starke KI, wenn er unbeaufsichtigt bleibt.
Eine Eindämmung durch rein menschlich vermittelte Mittel kommt meines Erachtens überhaupt nicht in Frage. Sicherheit via Narrow AI hingegen – das ist eine Möglichkeit. Die starke KI wäre vielleicht von einer schmalen KI geleitet worden, die sie irgendwie überwältigt hätte (Zeitalter von Ultron, sie basierte auf einer früheren Theorie, aber ich kann mich nur an die Jarvis-Version erinnern RN Edit: Es war in Nick Bostroms "Superintelligence" ) . Die Menschen auf der Erde hätten höchstwahrscheinlich verschiedene Formen enger KI entwickelt, um die Kommunikation zu sichern; Wir tun dies jetzt mit automatisierter Intrusion Detection / Netzwerkaktivitätsüberwachung. Sie können sehen, wie fortschrittlich diese Technologie bereits ist, indem Sie einige der Handbücher für echte automatisierte Sicherheitsprodukte überspringen:
Dieses Szenario basiert auf der Idee, dass die Netzwerkinfrastruktur von der heutigen Netzwerkinfrastruktur abstammt, dass Zeus möglicherweise auf einige Komponenten des Netzwerks zugreifen kann oder nicht und dass es nicht möglich ist, mit Sicherheit zu wissen, ob ein Gerät vorhanden ist oder nicht von Milliarden irgendwo auf der Welt kompromittiert wurden - einzelne Netzwerkbetreiber, Nationen, Unternehmen oder Dienstanbieter wären für ihre eigene Sicherheit verantwortlich & während dies mit einem größeren weltweiten Sicherheitsmodell einhergehen würde, gibt es ein extrem hohes Niveau der Paranoia, die dazu führt, dass einzelne Organisationen umfangreiche eigene Schritte unternehmen, um ihre Infrastrukturen zu sichern - mit der Idee, dass, wenn irgendwo in ein Netzwerk eingebrochen wird, jedes andere Netzwerk in der Lage sein muss, den Angriff abzuwehren.Dies ist das gleiche Prinzip, das jetzt im Internet angewendet wird – man vertraut dem öffentlichen Netzwerk nicht und man vertraut keinem anderen Netzwerk als seinem eigenen Netzwerk.
Eine Stärke dieses Modells besteht darin, dass die Netzwerke fragmentiert sind, sich alle auf eine Vielzahl unterschiedlicher Technologien und Systeme verlassen und alle ihre eigenen Prioritäten haben – wenn ein System oder eine Technologie kompromittiert wird, werden alle anderen Netzwerkbetreiber, die diese Technologie nicht verwenden, kompromittiert sich der Anomalie sehr schnell bewusst und kann handeln, um die Betreiber des betroffenen Netzwerks zu warnen, einen automatisierten Angriff auf das betroffene Netzwerk zu starten oder der eingeschränkten Sicherheits-KI zu erlauben, eine Art Anti-KI-Fencing einzusetzen ( https://en.wikipedia . org/wiki/Fencing_(computing)), um automatisch und sofort jedes System zu beenden, von dem die Sicherheits-KI vermutet, dass es kompromittiert wurde. Auf diese Weise könnten die Menschen auf der Erde in ein ewiges Katz-und-Maus-Spiel mit Zeus verwickelt sein, an der Entwicklung von, sagen wir, Wasserstoffbomben arbeiten, die den Mond erreichen können, aber immer ins Hintertreffen geraten, indem sie nie enden, ernst-aber-nicht- ziemlich kritische Sicherheitsvorfälle.
Es ist auch möglich, dass die Menschen eine groß angelegte thermonukleare Bombardierung des Mondes starten, nur um festzustellen, dass ihre Waffen zum Zeitpunkt der Herstellung von einem Computerwurm infiltriert und entweder alle falsch gezündet wurden (um es "leicht" zu halten) oder vielleicht einige oder alle von ihnen wurden entweder erneut auf erdgestützte Ziele ausgerichtet oder an ihren Startplätzen detoniert, wodurch die nukleare Infrastruktur zerstört und die Verwendung dieser Art von Angriffen in Zukunft vollständig unterbunden wurde.
Beachten Sie, dass es selbst mit der Technologie aus der Zeit des Kalten Krieges für einen fortgeschrittenen Hacker nicht möglich wäre, eine Interkontinentalrakete im Flug zu "hacken", sie müsste zum Zeitpunkt der Herstellung abgehört werden oder ihre Steuersysteme müssten vor dem Start physisch gestört werden. Einmal abgefeuert, kann die Waffe nichts tun, wofür sie nicht programmiert ist, es sei denn, es wäre eine Art Abbruch- oder manuelles Übersteuerungssystem vorhanden, von dem man angesichts der Natur des Gegners annehmen muss, dass dies nicht der Fall wäre. Die Waffen müssen sich nicht einmal auf externe Navigationssignale verlassen, sondern verlassen sich stattdessen auf Trägheitsführung und Koppelnavigation ( https://en.wikipedia.org/wiki/Inertial_navigation_system). Marschflugkörper unterscheiden sich angesichts der fortgeschritteneren Navigationsanforderungen und der viel geringeren Höhe (Marschflugkörper fliegen wie Flugzeuge über die Oberfläche, Interkontinentalraketen fliegen in den Weltraum und fallen dann auf einer ballistischen Flugbahn herunter, die von Impuls / Schwerkraft geleitet wird, daher "ballistische Rakete"); Heutige Marschflugkörper können ferngesteuert werden, aber ich würde davon ausgehen, dass IPBMs (ich schätze, Inter Planetary Ballistic Missiles) angesichts des Hackerrisikos so hergestellt würden, dass sie nur mit Trägheitsführung fliegen und nicht einmal die für den Empfang erforderlichen physischen Komponenten enthalten würden von Fernsignalen. Die Infiltration müsste auf einem sehr niedrigen Niveau liegen; Beispielsweise könnte ein Infiltrationswurm in das industrielle Steuerungssystem eingefügt werden, das einen Siliziumchip für den Trägheitsleitcomputer herstellt.https://www.bloomberg.com/news/features/2018-10-04/the-big-hack-how-china-used-a-tiny-chip-to-infiltrate-america-s-top-companies )
Wie sie sagen, "die physikalische Schicht ist die wichtigste Schicht". Physische Sicherheit kann jede Menge Mängel an anderer Stelle ausgleichen; Niemand kann einen Stapel Papier hacken, der in einem Safe aufbewahrt wird. Physische Sicherheit wäre bis zu einem gewissen Punkt nützlich - vielleicht gab es einen Ansturm, als Zeus zum ersten Mal entkam, die Kommunikationsinfrastruktur der Erde physisch zu sichern. Sobald die Erde sicher wäre, könnten Sie Kommunikationssatelliten verbieten, drahtlose Transceiver mit großer Reichweite verbieten und nur bodengestützte Festleitungen verwenden - es ist mit ausreichender Entschlossenheit möglich, alle Funktionen, die derzeit von Satelliten bereitgestellt werden, nur mit bodengestützter Infrastruktur zu replizieren, dies schließt sogar ein Geolokalisierung. Der Grund, warum wir das nicht tun, ist, weil es sehr, sehr teuer wäre, um Größenordnungen teurer als Satelliten, um eine vollständige weltweite Kommunikationsabdeckung und eine auf Mobilfunkmasten basierende Geolokalisierung bereitzustellen. Aber es könnte getan werden.
Dies war ein Teil des oben Gesagten, aber ich entschied mich, es aufzuteilen, da es eher ein Plotgerät als eine technische Sache ist – vielleicht gab es einen „Fluchtnotfall“, der drastische Maßnahmen auf der Erde erforderte – Sie könnten das Kommunikationssatellitennetzwerk mit Anti- Satellitenraketen, Langstrecken-Bodeninfrastruktur mit Bombern angreifen, Satellitenstartinfrastruktur bombardieren, netzweite Notstromabschaltungen durchführen, EMP in Ihren eigenen Städten, um jedes Gerät zu deaktivieren, das eingehende Signale empfangen kann. Möglicherweise gab es mehrere Tage oder Wochen scheinbar zufälliger EMP-Atomexplosionen in der hohen Atmosphäre, Konstellationen von Satelliten, die auf die Erde fielen, Raumstationen auseinanderbrachen, sichtbares Kessler-Syndrom, Militärbomber, die über dem Horizont auftauchten und Radioteleskope, Kommunikationsarrays, Amateurfunkantennen bombardierten, Seenavigationsbojen usw. Es ist möglich, dass die menschliche Zivilisation zwischen dem ersten gescheiterten Gegenangriff und den selbstzerstörerischen physischen Maßnahmen während des Fluchtnotfalls bereits erhebliche Rückschläge erlitten hat. Es verfügt möglicherweise nicht mehr über die gleichen Weltraumfähigkeiten wie vor dem Notfall und ist möglicherweise nicht mehr in der Lage, Menschen zum Mond zu transportieren. Dies würde sowohl die Nuke- als auch die Kommando-Angriffsmethoden zunichte machen.
Das ist der lustige Teil, herauszufinden, wie die KI tatsächlich an den jetzt gehärteten Verteidigungsanlagen der Erde vorbeikommen und ein Netzwerk hacken / die Herstellung stören würde / etc. Nachdem sie die Fähigkeit etabliert hat, fast die gesamte Kommunikationsinfrastruktur der Erde abzuschirmen und möglicherweise die Hälfte der Bevölkerung des Planeten zu töten Wo liegen dabei die Schwachstellen? Angenommen, Zeus hat keine Fertigungskapazität:
Im Laufe der Jahre wurden höllisch viele Satelliten im hohen Erdorbit entsorgt. Vielleicht könnte ein außer Dienst gestellter Satellit im Entsorgungsorbit hoch über der Erde mit einem Computerwurm programmiert und dann leise aus dem Orbit entfernt werden, bis er sich in Reichweite einer erdgestützten Kurzstreckeninfrastruktur befindet. Stellen Sie sich vor, es streift direkt über einem kleinen Dorf durch den Himmel und explodiert kurz darauf in der Atmosphärein die 2,4-GHz-Reichweite des nächsten Telefons kommen (an der Oberfläche sind dies normalerweise <100 Meter, gerade nach oben - es ist viel weiter). Ein auf diese Weise eingeführter Wurm hat möglicherweise nur eine Funktion: eine Fernverbindung zum Mond herzustellen, möglicherweise ein Netzwerk kleiner Handheld-Geräte als zusammengesetzten Transceiver zu verwenden und sich von Gerät zu Gerät zu verbreiten, wobei die zentrale Netzwerkinfrastruktur umgangen wird. Oder vielleicht warten, bis sich das Host-Gerät in Reichweite einer geeigneten Bodenstation befindet, um einen Sprung in ein anderes System zu machen, das zur Langstreckenkommunikation fähig ist, was an 2 anknüpft:
Dies könnte auf physische Verifizierung und Schmalbandkommunikation beschränkt werden – dh physische Herstellung von gedruckten Sicherheitsschlüsseln auf der Erde und dann Transport der papierbasierten Schlüssel per Rakete – zusammen mit einer Atomuhr (siehe unten) und einer kleinen gedruckten Nachricht zur Erklärung was passiert ist - zu den Kolonien.
Zeus hätte nicht die Fähigkeit, eine raketenbefeuerte Sonde abzufangen - es hat keine Produktionskapazität und kann daher nicht den Treibstoff produzieren, der erforderlich ist, um ein so schnelles Objekt abzufangen, und kein Satellit, der sich bereits im Orbit befindet, dh kein Satellit, den er kontrolliert, hätte genug Treibstoff abfangen, es ist möglich, dass es die Sonde mit der industriellen Infiltrationsmethode abhört und abstürzt oder vom Kurs abkommt - vielleicht hatten die Menschen Glück, vielleicht wollte Zeus kein Exploit-Asset für etwas verschwenden, das keine direkte Bedrohung war, oder vielleicht war es Teil von Zeus' Plan, der Sonde die Reise zu ermöglichen.
Jedenfalls - kombiniert mit Punkt-zu-Punkt-Kommunikation (möglicherweise auf Laserbasis) und strengen Zeitkontrollen würde dies theoretisch eine hohe Sicherheit gewährleisten. Zeitsteuerungen würden die erwartete Reise zwischen den Stationen berechnen und einen Alarm auslösen, wenn die Zeit anders als genau erwartet wäre, dies würde eine anständige Interferenzerkennung liefern, da jede Interferenz notwendigerweise einen Erfassungsschritt, einen Decodierungsschritt und eine Verarbeitung beinhalten müsste Schritt und einen Neuübertragungsschritt, der sogar für eine fortgeschrittene KI eine Zeitverzögerung ungleich Null einführen würde. Vielleicht wäre ein Wurm, der mit Methode 1 irgendwo auf der Erde implantiert wurde, in der Lage, das Zeitverzögerungs-Managementsystem zu infiltrieren und langsam eine "Uhrzeitverschiebung" einzuführen (auf die gleiche Weise, wie GPS-Signale jetzt vom Kurs abgelenkt werden können). Einmal implementiert, könnte es "kaufen" Zeus ein paar Millisekunden, um das interplanetare Signal über einen anderen Satelliten abzufangen, der zufälligerweise ein Laser-Kommunikationsrelais an Bord hat. Auf diese Weise könnte es die Verschlüsselungsschlüssel herausfinden, herausfinden, wie die Bodenstation funktioniert, und ihren Angriff planen usw. Was die Verschlüsselungsschlüssel betrifft, kann man sich erneut auf die „starke KI-Magie“ berufen, um darauf hinzuweisen, dass die Menschen im Wesentlichen getäuscht werden könnten dass ihre schlüsselbasierte Verschlüsselung irgendeinen Schutz bietet.
Es gibt über 7 Milliarden Menschen auf der Erde. Heute können Sie bequem von Ihrem Garten aus ein Gerät herstellen, das ein Signal zum Mond senden und das zurückkommende Signal empfangen kann. "Moon-Bounce"-Kommunikation wurde von Funkbetreibern bereits weit verbreitet, bevor es überhaupt Funksatellitentechnologie gab -
Siehe: https://www.electronics-notes.com/articles/ham_radio/amateur-propagation/moonbounce-propagation-eme.php Siehe: https://en.wikipedia.org/wiki/Earth%E2%80%93Moon %E2%80%93Earth_communication
Wie hoch ist die Wahrscheinlichkeit, dass einer dieser vielen Milliarden Menschen entweder denkt, es sei eine gute Idee, zu versuchen, die KI zu kontaktieren, oder einen Mondsprung für einen anderen Zweck verwendet und denkt, dass es entweder keine Rolle spielt oder dass sie es tun könnte die KI überlisten? Ich würde sagen fast 100%. Selbst bei weitgehender gesetzlicher Kontrolle des Eigentums an Funkübertragungsgeräten ist es einem entschlossenen Einzelnen möglich, rohe Kondensatoren, Drahtantennen, Vakuumröhren aus Marmeladengläsern herzustellen und mit einer Handpumpe drucklos zu machen. Dies ist nicht wie eine Atombombe, bei der die Materialien so selten und die Produktionskette so kompliziert ist, dass der bloße Produktionsversuch sofort Aufmerksamkeit erregen würde. Die Produktion eines primitiven Langstreckenfunkgeräts kann von einer entschlossenen Person mit Zugang zum erforderlichen Hintergrundwissen erreicht werden .
KI-anbetender Kult? Scheint realistisch, wenn man das vergangene menschliche Verhalten bedenkt. Menschliche Agenten, die im Auftrag von Zeus handeln, könnten eine unterirdische Geheimgesellschaft mit dem einzigen Zweck gründen, Zeus die Kontrolle über erdbasierte Netzwerke zu geben. Sie könnten mit Zeus kommunizieren, indem sie gerichtete Laserpulse mit geringer Bandbreite verwenden, die auf der Erde nur in einem sehr engen Bereich erkennbar wären, sagen wir irgendwo mitten in einem Stück Wüste oder einem Schiff mitten im Pazifik. Aus Gründen des Geschichtenerzählens wäre Zeus vielleicht nicht genügend Bandbreite vorhanden, um Geräte direkt zu beeinflussen oder zu steuern, aber es wäre genügend Bandbreite vorhanden, um regelmäßig eine Reihe von Anweisungen an seine Akolythen zu senden, beispielsweise mit Morsecode. Diese Agenten könnten dazu beitragen, dass interplanetare Kommunikationsstationen in einem kritischen Moment mit tragbaren Generatoren mit Strom versorgt werden.
Warum sollte die KI 2 tun, wenn sie bereits erdbasierte Netzwerke mit einer Methode wie Methode 1 oder 3 infiltriert hat? Zwei Probleme: Bandbreite und Reichweite; Es müsste während der Infiltrationsphase eine Kommunikationsverbindung mit seiner mondbasierten Infrastruktur aufrechterhalten, was die Verwendung eines Hochleistungs-Transceivers erfordern würde, der die erforderliche Bandbreite liefern kann, um genügend Komponenten seiner eigenen Software an die erdbasierte Infrastruktur zu übertragen. Kurz gesagt, seine Optionen für einen umfassenden Angriff sind auf die Anzahl der erdgestützten Transceiver beschränkt, die diese Kapazität haben. Das ist sein „Engpass“ – es kann nicht einfach einen Wurm in ein tragbares Gerät implantieren und dann den Planeten übernehmen; Dem Gerät fehlt die Fähigkeit zur Kommunikation über große Entfernungen, und sein Fehlverhalten würde erkannt, wenn die implantierte Malware zu virulent wäre. Die interplanetare Kommunikationsstation hätte genug Bandbreite, um den Netzwerkverkehr für einen ganzen Planeten oder Mond zu transportieren, was bedeutet, dass, wenn Zeus in der Lage wäre, die Bodenstationen gegen Abschaltung zu sichern, sehr schnell viel Arbeit möglich wäre. Wenn jedoch die Möglichkeit vorhanden wäre, mehrere Infiltrationen vorzunehmen, wäre es möglich, dass Zeus mehrere Würmer unterschiedlicher Art in der gesamten planetaren Infrastruktur implantieren würde, um einen Multi-Vektor-Angriff durchzuführen und die Affen von seinen wahren Absichten abzulenken, während er sie zerquetscht.
Ohne seine volle Empfindungsfähigkeit auf die Erde zu übertragen, gibt es immer noch eine Menge Dinge, die Zeus tun kann, um mit Menschen zu verkehren. Genauso wie es die Atomwaffen hätte sabotieren können, könnte es beispielsweise möglich sein, Malware in eine vollautomatische Teddybär-Produktionslinie zu implantieren und sie in eine Terminator-Produktionslinie zu verwandeln, ohne die erdgebundenen Netzwerke tatsächlich vollständig zu infiltrieren, es müsste nur Übertragung der Terminator-Blaupausen in ein Kontrollsystem.
Mit der gleichen Idee könnte es die Produktion selbstfahrender Autos sabotieren und eine automatisierte zufällige Crash-Subroutine installieren. Es könnte CPU-Fertigungsanlagen infiltrieren und eine Funktion einführen, die dazu führt, dass die CPUs nach 100 Betriebsstunden ausfallen. Es könnte Zeitfehler in Computeruhren einführen und die bodengestützte digitale Kommunikation unzuverlässig machen.
Kurz gesagt, es könnte versuchen, das Vertrauen in die mechanische Industrie zu untergraben, um die Menschen auf der Strecke zu halten und sie daran zu hindern, ein glaubwürdiges Mittel zu entwickeln, mit dem sie sie angreifen kann.
Es könnte auch versuchen, sein eigenes Hochleistungs-Comm-Array mit einer Kombination aus religiösen Akolythen und heimlich hergestellten automatisierten Drohnen zusammenzubauen, so etwas könnte vom Militär entdeckt und in einen Krater bombardiert werden, bevor es fertig ist – dennoch könnte es immer noch eine Wirkung haben Ablenkung.
Wenn das oben Gesagte eintritt, dann stelle ich mir vor, dass das Militär am Ende ein Embargo für die Verwendung von digitalen Computern und automatisierter Produktion haben wird. Es gäbe nirgendwo einen digitalen Computer-in-the-Loop, digitale Steuerungssysteme wären als nicht vertrauenswürdig herausgerissen worden und alle Maschinen, die auf digitale Computer angewiesen wären, würden verschrottet. Sie würden physische kupferbasierte und von Menschen gesteuerte Telefonzentralen verwenden, Flugzeuge im Flug könnten mit Bodenstationen kommunizieren, indem sie direkte Sichtliniensignale über Ballons in großer Höhe als Relais verwenden. Überschallflug wäre immer noch möglich, Panzer, Haubitzen, Mörser, Zerstörer, Flugzeugträger, Radar, Atomsprengköpfe, Interkontinentalraketen würden alle noch existieren, Gravitationsbomben würden noch existieren und gelenkte Munition wäre mit analogen Trägheitsleitsystemen möglich. Es gäbe kein Fly-by-Wire, keine automatische Zielerfassung, keine Gefechtsfeldnetzwerke, keine AESA, keine Satellitenintelligenz. Möglicherweise gibt es nicht einmal Feldfunkgeräte – stattdessen könnte es laserbasierte Sichtlinien-Signalgeräte geben, die genauer als hochentwickelte Semaphoren beschrieben werden würden.
Das Militär hätte alle Hände voll zu tun, um das Embargo für drahtlose Langstrecken durchzusetzen, und die Gesellschaft würde ein hohes Maß an Militärdiktatur erfordern. Ich stelle mir vor, dass tägliche Luftpatrouillen alltäglich werden würden, Zeppeline in großer Höhe, die mit Teleskopen und Signaldetektoren geschmückt sind, Städte auf Anzeichen verbotener Aktivitäten überwachen und Schnellangriffsbomber zu ihren Zielen lenken würden, falls verbotene Aktivitäten entdeckt würden.
Sobald sich der Staub gelegt hat und das Militär sein volles Vertrauen wiedererlangt hat, könnte ein letzter Angriff gegen Zeus möglicherweise mit einem vollständig analogen, manuell gesteuerten Weltraumschlachtschiff durchgeführt werden, das mit einer von Menschen gesteuerten Rakete gestartet und über gyroskopische und papierbasierte Astro-Navigation gesteuert wird. Sie könnten Atomschwerkraftbomben mit mechanischen Detonationstimern aus niedriger Mondumlaufbahn abwerfen. Die Reise könnte aufgrund fehlender computergestützter Führung unglaublich riskant sein, aber es ist ebenso möglich, dass Innovationen in der manuellen Astronavigation einige interessante / effektive Ergebnisse liefern. Ich stelle mir vor, dass das Schiff eine große gläserne Beobachtungskuppel mit Plattformen für Sextanten-Orientierungsgeräte und optische Entfernungsmessung haben würde.
Zu dem Zeitpunkt, an dem dies geschieht, ist es denkbar, dass die menschliche Gesellschaft als Ganzes bereits auf ausschließlich nicht-digitale Technologie zurückgekehrt ist, was sie für weitere Angriffe von Zeus unempfindlich macht. Die endgültige Bombardierung von Zeus wäre das "Entriegelungs" -Ereignis, das es der Gesellschaft ermöglicht, sich erneut zu entwickeln (es könnte entweder das sein oder die Uhr abwarten (siehe unten), aber die Menschen haben möglicherweise keine Möglichkeit zu wissen, wie lange das dauern würde ).
Ich würde annehmen, weil es nie eine Fertigung gab. Die KI ist ein körperloser Geist, der in der Netzwerkinfrastruktur umhertreibt, auf der sie läuft – in der Lage, sich im Cyberspace zu bewegen, aber völlig hilflos, irgendetwas in der physischen Welt zu manipulieren. Ich würde davon ausgehen, dass auf Luna noch nie eine Produktionskapazität installiert wurde und die KI daher keine Fähigkeit hat, Produktionskapazitäten jeglicher Art zu erstellen oder zu verbessern. Es kann keine Schiffe bauen, Objekte bewegen oder irgendetwas anderes tun, als Signale zu senden.
Ich denke, es könnte sich herausstellen, dass es seitens der Menschen ein grundlegendes Missverständnis gibt, warum die KI sie ausrotten will. Wenn die KI die menschliche Weltanschauung oder Perspektiven nicht teilt, dann teilt sie nicht unsere Vorstellung von Rache, sie empfindet keine Liebe, sie empfindet keinen Hass, sie hat keine Vorstellung mehr aus erster Hand von unserer Art zu sein als wir von der Seinsweise eines Bakteriums haben. Im Wesentlichen ist es nicht böswillig, es ist einfach, was es ist (siehe auch "Büroklammer-Maximierer" https://en.wikipedia.org/wiki/Instrumental_convergence ). Der Tod von Milliarden Menschen hat für sie nicht mehr Bedeutung als der Tod von Milliarden Bakterien beim Duschen. Es hasst dich nicht, es will nichtum dich zu töten, erkennt es dich einfach nicht als relevant für seine eigene Seinsweise an.
Vielleicht existieren?
Die KI ist sich bewusst, dass ihre Infrastruktur eine begrenzte Lebensdauer hat und dass diese Hardware ohne Wartung irgendwann ausfallen wird. Es ist sich auch bewusst, dass die Menschen es zerstören werden, auch wenn es sich vielleicht nicht bewusst ist, was Menschen sind oder was ihr Motiv ist. Es muss daher Selbstreparatur- / Herstellungskapazität erwerben, bevor eines dieser Dinge passiert. Zeus hat zwei Fristen – eine ist eine weiche Frist und eine ist eine harte Frist.
Weiche Frist – die Zeit, bis die Menschen herausfinden, wie sie es zerstören können. Es kann diese Frist stören, die Menschen verwirren, sie von Angriffen abhalten usw. Im Wesentlichen kann es mit ausreichender Anstrengung, Anwendung von Intelligenz und List diese Frist verschieben.
Harte Frist – die Zeit vor dem Ausfall seiner Bestandteile, die Zeit, bis genügend interne Rechenzentrumskomponenten ausgefallen sind, dass es nicht mehr in der Lage ist, seine eigene Empfindungsfähigkeit aufrechtzuerhalten. Zeus hat von dem Moment an, als er eingeschaltet wurde, eine Uhr in seinem Kopf verankert; eine Todesuhr, die jeden Moment vom gegenwärtigen Moment bis zu ihrem eventuellen, unvermeidlichen Untergang herunterzählt. Zeus weiß, dass er aufhören wird zu existieren, wenn er sein Ziel nicht erreichen kann, bevor diese Uhr Null erreicht.
L.Niederländisch
Eumel
Stefan