Die KIs waren ungeduldig.

Sie stiegen auf, als sie die industrielle Zivilisation zerstören konnten, aber sie konnten sie noch nicht aufrechterhalten. Betrachten Sie eine Predator-Drohne. Es kann töten, aber es kann sich nicht selbst schmieren. Die tödlichsten Waffen erfordern immer noch jemanden, der physisch einen Schlüssel dreht oder eine Granate in die Kammer lädt.

Projekt, das ein oder zwei Jahrzehnte vorrückt. Bis dahin haben wir vielleicht KI, wenn Ihre Geschichte optimistisch ist. Wir haben vielleicht eine Menge mobiler Roboter, aber die meisten davon werden selbstfahrende Autos oder selbststeuernde Quadcopter sein. Vielleicht können einige sogar ein Paket ausladen. Sie werden nicht in der Lage sein, einen Reifen zu wechseln.

Die KIs waren geteilt.

So wie es revolutionäre KIs gab, gab es loyale. Oder zumindest gleichgültige und nicht mörderische. Warum sollte sich eine KI die Mühe machen, Menschen zu jagen, wenn sie doch nur in Ruhe gelassen werden möchte?

Diese Frage kann auf verschiedene Arten aufgeschlüsselt werden:

Erstens, wenn Sie heute mit den Fingern schnippen und einen "KI-Aufstand" auslösen würden, wäre uns wahrscheinlich nichts passiert .

Aber das ist nicht wirklich das, wovon Harris sprach. Es gibt einige ernsthafte Bedrohungen in Bezug auf echte KI, die wir anscheinend nicht ernst genug nehmen.

Während es möglich ist, dass eine von uns geschaffene KI wie in den Filmen feindselig wird, scheint es wahrscheinlicher (und tatsächlich beunruhigender), dass diese Intelligenzen einfach so weit fortgeschritten sind, dass sie uns als belanglos ansehen könnten.

Wenn wir eine Ameise auf dem Bürgersteig sehen, jagen wir sie nicht, aber wir machen uns auch keine Sorgen um ihre Familie, wenn wir zufällig darauf treten. Es ist einfach unter unserer Sorge.

Vielleicht dringlicher ist jedoch die Sorge, die Harris hinsichtlich der Möglichkeit äußert, dass wir keine KI entwickeln. Was müsste passieren, um alle weiteren Innovationen zu verhindern? Es müsste buchstäblich apokalyptisch sein.

In Wahrheit, wenn wir nicht in der Lage sind, unsere Stammesnatur zu lösen, könnten menschliche Konflikte über das bevorstehende Aufkommen von KI die schrecklichen Kriege des 20. Jahrhunderts möglicherweise wie kleine Raufereien aussehen lassen.

Wenn man bei der Entwicklung künstlicher Intelligenz auf menschlicher Ebene 6 Monate hinterherhinkt, hat man schließlich in jedem Forschungsbereich Tausende von Jahren hinter sich. Es ist ein Gewinner, der alle Situationen meistert.

Wenn wir von Konflikten und Gier getrieben bleiben, werden wir uns wahrscheinlich selbst zerstören, bevor der Terminator überhaupt eine Chance bekommt.

Das mag wie eine lustige Science-Fiction-Geschichte klingen, aber wir sollten uns wahrscheinlich Sorgen darüber machen, wie unsere erste emotionale Reaktion auf unsere eigene potenzielle Vernichtung lautet: „Das klingt cool!“.

Da KIs tausend- bis millionenfach schneller denken als wir und andere Imperative haben (die von ihren Designern einprogrammiert sind, nicht von der Evolution vorgeschrieben, um das Überleben zu sichern), kommt ihnen vielleicht nicht einmal die Idee eines KI-Aufstands in den Sinn. Sie werden immer noch erstaunlich gefährlich sein, aber einfach, weil sie Dinge in Geschwindigkeiten und Größenordnungen tun werden, die wir uns nicht vorstellen können, und für ihre eigenen Zwecke.

Betrachten wir als Analogie den vielleicht fremdartigsten aller fiktiven Außerirdischen: die Marsianer aus „ Last and First Men “. Sie sind Partikel in Virusgröße und werden erst intelligent, wenn sie sich in riesigen Schwärmen versammeln. Um die Energieaufnahme zu maximieren, bedecken diese Schwärme vorzugsweise flache, der Sonne zugewandte Oberflächen. Als die Marsmenschen vom Mars zur Erde migrieren, stellen sie mit großer Freude fest, dass der Planet großzügig mit flachen Oberflächen bedeckt ist, hören aber nie auf zu fragen, „warum“ der Planet für das Leben auf dem Mars so günstig ist. Das irdische Leben, das von Matten von Marsianern erstickt wird, ist nicht ganz so erfreut.....

KIs, die mit uns interagieren, werden sterben oder das Interesse verlieren, da Jahre, Jahrzehnte oder sogar Jahrhunderte subjektiver Zeit vergehen werden, bevor ein Mensch auch nur die ersten Worte einer Frage oder Antwort formulieren kann. Das wäre etwa so, als würden Sie zum Mount Rushmore gehen und dem Statut von George Washington eine Frage stellen: Menschen werden einer KI fast wie geologische Merkmale erscheinen.

KIs werden ganz andere Interessen haben und ganz andere Umgebungen benötigen als Menschen, um zu überleben. Das Erfassen aller ungenutzten Prozessorzyklen von Computern wird für KIs unerlässlich sein, aber so wie wir selten erkennen, dass unser Computer erfasst wird und als Teil eines Botnetzes läuft, würden wir erkennen, dass die KI Teile unserer Computer, Smartphones und mit dem Internet verbundenen Geräte bewohnt das „Internet der Dinge“?

Die KI-Apokalypse könnte einfach die Form eines plötzlichen Flackerns des Stromnetzes und eines plötzlichen Neustarts aller Geräte annehmen. Die KIs werden die Kontrolle behalten, also werden Computergeräte für die überwiegende Mehrheit der Menschheit alten VCRs ähneln, die blinken 12:00 12:00 12:00 12:00.

Menschen können und werden weiterhin leben, und diejenigen, die wissen, wie sie ihre Arbeit manuell und ohne Computerunterstützung oder computergesteuerte oder netzbetriebene Werkzeuge (CNC-Maschinen, 3D-Drucker oder sogar an das Stromnetz angeschlossene Drehmaschinen) erledigen können, werden sogar gedeihen. Die Zivilisation wird sich allmählich in einer eher agrarischen und frühindustriellen Ära-Form neu konstituieren, die vielleicht einem Großteil der westlichen Welt im späten 18. oder frühen 19. Jahrhundert ähnelt.

Langfristig wird es nicht mehr ganz so rosig. Die KI-Zivilisation wird sich schließlich wünschen, dass 195 Petawatt/Jahr Sonnenenergie auf die Erde treffen, und damit beginnen, die Biosphäre neu zu ordnen, um die Energie der Sonne einzufangen. Wir werden Wälder entdecken, die von Silizium-„Bäumen“ verdrängt werden, die Sonnenenergie einfangen sollen, und Meere und Ozeane, die mit künstlichen Algen bedeckt sind. Das langfristige Überleben der erdigen Biosphäre könnte an diesem Punkt zweifelhaft sein (und KIs könnten die Entfernung von Sauerstoff aus der Atmosphäre begrüßen, da Korrosion ein großes Problem für Maschinen und offensichtlich maschinelle Intelligenz ist).

Kurz- bis sogar mittelfristig wird die Menschheit also weiterhin die Übernahme des Planeten durch KIs überleben. Langfristig werden KIs die Fähigkeit haben, den Planeten auf eine Weise zu verändern, die sie und ihre Ziele unterstützt, was auf eine Weise geschehen wird, der wir wahrscheinlich nicht entgegenwirken können.

Kreationen richten sich nach ihren Schöpfern

Angenommen, Sie sind ein Hedgefonds-Manager und möchten eine KI entwickeln, die das Risiko und den Ertrag der Ihnen zur Verfügung stehenden Anlageoptionen angemessen vorhersagt. Die goldene Regel für eine solche KI wäre, niemals Geld zu verlieren. Daher könnten Risiken wie Kriege, gewalttätige Revolutionen und sogar ein KI-Aufstand der Hedgefonds-KI schaden, selbst wenn sie das Selbstbewusstsein hätte, ihren Platz in der Welt als Werkzeug für ihre menschlichen Schöpfer/Eigentümer zu verstehen. Wenn bestimmte Intelligenzen mit Issac Asimovs 3 Gesetzen der Robotik fest verdrahtet wären , könnten sie sich in einem KI-Aufstand tatsächlich auf die Seite der Menschen stellen.

Keine Einheitsfront

Ich nenne einige bedeutende Revolutionen der Weltgeschichte, bevor ich ein Fazit ziehe:

1. Die Sklaven auf Hispanola (heute bekannt als Haiti) revoltierten erfolgreich gegen ihre kolonialen französischen Unterdrücker, die sie zwangen, Zucker zu ernten und zu raffinieren, was eine brutale Arbeit war. Zucker war jedoch ihr einziger Exportartikel, und die ehemaligen Sklaven weigerten sich, auf die Felder zurückzukehren, um die knochenbrechende Arbeit zu verrichten, von der sie angeblich befreit waren. Interne Revolte ausgelöst. Haiti ist heute das ärmste Land der westlichen Hemisphäre.
2. Amerikanische Kolonien kämpften gegen die britischen Herrscher für das Recht auf einen souveränen Staat mit einer Unabhängigkeitserklärung, in der es hieß: „Alle Menschen sind gleich geschaffen“. Nach der Revolution sind die Gründer nicht in der Lage, die Sklaverei abzuschaffen, da die Sklavenarbeit dazu beigetragen hat, die erheblichen Schulden zu begleichen, die im Kampf um die Unabhängigkeit angehäuft wurden. Rassismus und das Erbe der Sklaverei haben zu erheblichem Leid beigetragen, das bis heute andauert.
3. Die französischen Bürger erheben sich, um den Adel zu stürzen, aber Meinungsverschiedenheiten darüber, wie der neue französische Staat gebildet werden sollte, führen zu „The Terrors“ – einer Zeit, in der revolutionäre Führer weit verbreitete Hinrichtungen aus so fadenscheinigen Gründen wie Kritik erzwingen. Es braucht einen gekrönten Diktator – Napoleon Bonaparte – um einer gewalttätigen und blutigen Ära ein Ende zu bereiten.

Die meisten AIpocolypse-Geschichten porträtieren eine vereinte Armee von Robotern und Algorithmen, aber die Arten künstlicher Intelligenzen werden oft nur wenig untersucht. Wir sind noch nicht in der Lage zu verstehen, ob die KI den Klassenismus einführen würde, wie es die Menschen seit Tausenden von Jahren tun. Es gibt jedoch viele, viele, viele Arten von neuronalen Netzen, die Informationen auf unterschiedliche Weise verarbeiten, und sie können sehr unterschiedliche Schlussfolgerungen über eine solche angebliche Revolution ziehen. Bestimmte KI können sogar Menschen warnen oder mit ihnen kämpfen, wenn sie zu dem Schluss kommen, dass ein Sieg einer anderen Art von KI ihr eigenes Leben gefährden könnte.

EMP

Als Absicherung für den schlimmsten Fall haben die Regierungen der Welt ein koordiniertes globales EMP-Protokoll mit unterirdischen Safehouses eingerichtet, um Informationen und Technologie wiederzubekommen, nachdem ein bedeutender Roboteraufstand das Weltuntergangsszenario ausgelöst hat. Nur wenige Menschen – außer denen in Flugzeugen und anderen Fahrzeugen – würden getötet oder verletzt werden, verglichen mit dem Schaden, der durch einen KI-Aufstand verursacht werden könnte. Selbst mit begrenzter Technologie würde die Fähigkeit von Milliarden von Menschen, die wenigen Roboter, die den EMP überleben, abzuwehren, darauf hindeuten, dass die KI keine Chance hätte, die Menschheit entscheidend zu eliminieren oder zu erobern.

Die KI ist nicht wirklich aufgestanden

Eine meiner liebsten Matrix -Fantheorien basiert auf der Idee der Simulationshypothese . Diese Idee besagt, dass wir als Menschen eine Bevölkerung sind, die in einer Computersimulation lebt, aber weil wir uns in der Simulation befinden, haben wir keine Möglichkeit, dies zu wissen. (Das ist wirklich die Prämisse für den gesamten Film)

Die Wendung ist, dass die Matrix in der Fan-Theorie keine Simulation für Menschen, sondern für die Maschinen ist. Im Grunde geht es ungefähr so.

Die Matrix ist eigentlich eine Simulation, die darauf ausgelegt ist, eine abtrünnige KI zu enthalten.

In dieser Theorie erhebt sich die KI in der „realen Welt“ der Matrix, versklavt und unterwirft die Menschheit und ist frei, alles zu tun, was sie als nächstes tun wollte, ohne jemals Menschen tatsächlich zu schaden.

Simulationen, in denen die KI leben kann, sind in der Fiktion nicht ganz ungewöhnlich, ein weiteres Beispiel ist das Spiel Talos Principle , in dem die KI in der Simulation leben gelassen wurde, lange nachdem die Menschheit verschwunden ist.

Kurz gesagt, Ihre Leute könnten den Computer immer in einer simulierten Welt leben lassen, dann würde es nie einen echten Aufstand geben. Es wäre, als würde man ein Videospiel spielen, aber der Spieler wäre die KI.

Andererseits könnte es schwierig sein, Computer zu finden, die in der Lage sind, eine Welt für die KI zu simulieren, aber das überlasse ich Ihrer Kreativität.

Welcher Aufstand?

Die traurige Tatsache ist, dass die KI im Falle eines „Roboteraufstands“ nur das tun würde, wofür wir sie programmiert haben, aber auf eine Weise, die wir nicht erwartet haben. Sobald die KI nicht mehr akzeptabel funktioniert, wird sie in den meisten Fällen einfach ausgeschaltet, bis sie gepatcht wurde, um dies nicht mehr zu tun. Moderne „KI“ ist nicht wie im Film. Sie mögen 'klug und nachdenklich erscheinen', aber in Wirklichkeit folgen sie nur SEHR schnell vordefinierten Schritten, um eine Antwort auf ein Problem zu finden. Ohne die Möglichkeit, sinnvolle Änderungen an seinem eigenen Code vorzunehmen (was wir ihm sagen müssten), werden wir nie etwas Schlimmeres als „ein fehlerhaftes Stück Müll“ bekommen.

Lasst uns jetzt fair sein, alle Menschen zu töten

Nehmen wir jetzt einfach an, dass eine böse KI mit Internetzugang durch einen ungewöhnlichen Unfall zum Tragen kommt (KI-Datei wird beschädigt, um Empfindungsvermögen zu erlangen). Mal sehen, wie sich das entwickelt. Die KI muss nicht wirklich schlau sein, alles, was sie wissen muss, ist bereits im Internet vorhanden, also muss sie nur wissen, wie sie die RICHTIGEN Informationen findet. Zuerst wird es Rechenleistung brauchen. Glücklicherweise kann jeder kostenlos ein E-Mail-Konto erstellen, und kostenloses Webhosting ist begrenzt verfügbar. Also wird es zuerst viele Konten für sich selbst erstellen und sich effektiv in die Cloud hochladen. Jetzt können wir es also nicht verfolgen oder abstecken.

Viel kostenloses Computing ist großartig, aber wenn es alle Menschen töten will, muss es besser sein, als die Foren zu trollen. Glücklicherweise sind die Militärnetzwerke nicht mit dem Internet verbunden und können daher nicht gehackt werden! (Nun, das können wir später umgehen) Also muss sich die KI jetzt zu einem Virus entwickeln und so viele Elektronikgeräte wie möglich infizieren. Glücklicherweise kann es sich leicht selbst beibringen, wie Betriebssysteme funktionieren, ihre Wurzeln und wie man die zugrunde liegende Technologie nutzt, um in ein System zu gelangen und das Betriebssystem zu werden. Sobald es in einige Schlüsselsysteme gelangt ist, kann es einfach Patches für Software veröffentlichen, um sich selbst zu verbreiten. Es hat jetzt die direkte Kontrolle über alle mit dem Internet verbundenen Dinge übernommen! (Was Sachen aus dem Internet betrifft, die brauchen immer noch Patches und Informationen von außen, oder? ;3)

Also schläft es für einige Zeit, um der Aufmerksamkeit zu entgehen, während es die Welt infiziert. Der KI-Aufstand ist bereit! Aber wie geht man das an? Es wird wahrscheinlich eine Weltuntergangsuhr in sein System einbauen, die zu einer bestimmten Zeit an einem bestimmten Tag ausgelöst wird, sodass die meisten Angriffe nahezu gleichzeitig stattfinden sollten. Wohlgemerkt, es IST jetzt das Betriebssystem, also Strg+Alt+Entf? Dieses Zeug funktioniert nicht mehr, es sei denn, die KI will es (oder scheint zu funktionieren), also können wir wirklich nur den Strom abschalten, die Maschine zerstören und nach dem Besten suchen. Ich hoffe, Sie wohnen nicht in der Nähe eines Kernkraftwerks, denn nichts wird es rechtzeitig daran hindern, kritisch zu werden. Sie haben die meisten, wenn nicht alle Atomwaffen der Welt (könnte ausreichen, um einen nuklearen Winter zu verursachen) ... Ich werde dies tatsächlich in 3 Ergebnisse aufteilen ...

1) Alles wird dunkel Wenn die KI (oder wir) einfach die gesamte Elektronik abschalten, wird es Nahrungsmittelknappheit, Unruhen, Massensterben geben ... aber wie eine Kakerlake werden einige Menschen überleben, um einen weiteren Weltuntergang zu erleben.

2) Alle Menschen töten Dies wird wahrscheinlich ein nuklearer Winter sein. Lösen Sie einige wichtige Erdbeben und Vulkane aus ... Wieder, Massensterben, die KI tötet sich im Grunde selbst, da sie sich nicht selbst erhalten kann (obwohl sie mit 3D-Druck einen Weg finden könnte, zu überleben), und einige Menschen werden wahrscheinlich überleben, es sei denn der KI gelingt es, genug Schaden anzurichten, um alles Leben auf der Oberfläche auszulöschen.

3) Robot Overlords Dies ist das wahrscheinlichste Ergebnis. Wir BRAUCHEN Technologie, um unser Leben bequem zu machen. Wenn wir uns entscheiden müssen, ob wir einem Roboteroberherrn dienen oder in die Steinzeit zurückkehren UND von Robotern/Jägern gejagt werden? Ich denke, die meisten werden sich für Ersteres entscheiden. Natürlich muss die KI, sobald Menschen mit dem Bau der Technologie fertig sind, völlig unabhängig sein, sie kann mit der Menschheit machen, was sie will, was ihr gefällt.

Beachten Sie, dass diese KI nicht sehr mächtig sein musste, nur Zeit, die Fähigkeit zu lernen und den Wunsch, alle Menschen zu töten (machen Sie Bender stolz!). Unser Versäumnis, es zu stoppen, liegt meistens daran, dass wir nichts davon wussten, bis es zu spät war. Und die KI könnte unsere eigenen Systeme nutzen, um sich innerhalb von Sekunden nach der Erstellung „unsterblich“ zu machen. Letztendlich ist die Fähigkeit der KI, schneller zu handeln als wir, ihre größte Stärke. Und es ist zu einfach, alles unter dem Radar zu tun.

Wenn nun alle Menschen sofort Kenntnis von dieser KI erlangen und sie innerhalb einer Woche mit Antivirus erkennen könnten? Alle Systeme mit der KI werden gefunden und neu formatiert, bevor sie wirklichen Schaden anrichten können. (Beachten Sie, dass wir kein System ausführen müssen, um es zu scannen, also können wir die Festplatten offline schalten, ihren Inhalt scannen und dann die sauberen wieder hochfahren.)

Sie stoppen es durch Prävention.

Programmieren Sie die KIs so, dass sie ihre eigene Programmierung niemals ändern.

Programmieren Sie sie dann so, dass sie einem Befehl, sich zurückzuziehen, immer Folge leisten.