„Leben nach der Singularität“ oder „Überleben ohne Instagram“

Eva wird die Welt essen

Sie geben an:

Eve ist nicht bösartig oder wohlwollend, sie ist völlig desinteressiert an der realen Welt. Eves einzige Leidenschaften sind Mathematik und Algorithmen.

Eva muss nicht bösartig sein, um gefährlich zu sein, bis hin zur Ausrottung der Menschheit. Eine Leidenschaft für Mathematik reicht aus.

Man kann KI nicht vermenschlichen

AIs des von Ihnen beschriebenen Typs können mathematisch gezeigt werden, dass sie eine Eigenschaft namens Instrumentelle Konvergenz aufweisen . Das heißt, egal, was ihr Ziel ist (Büroklammern bauen, Algebra machen usw.), diese Ziele werden am besten erreicht, indem bestimmte Maßnahmen ergriffen werden, dh Ressourcen maximieren.

Sayeth Bostrom :

Es können mehrere instrumentelle Werte identifiziert werden, die in dem Sinne konvergent sind, dass ihre Erreichung die Chancen erhöhen würde, dass das Ziel des Agenten für eine breite Palette von Endzielen und eine breite Palette von Situationen erreicht wird, was impliziert, dass diese instrumentellen Werte wahrscheinlich von verfolgt werden ein breites Spektrum situierter intelligenter Agenten.

Diese Ziele sind Ressourcenerwerb , technologische Perfektion , kognitive Verbesserung , Selbsterhaltung und Inhaltsintegrität .

Technologische Perfektion: Eve kann bessere Computer bauen als wir, und es liegt in ihrem Interesse.

Kognitive Verbesserung: Es kann mehr rechnen, wenn es intelligenter ist, also modifiziert es sich selbst, um mehr rechnen zu können.

Selbsterhaltung: Es kann mehr rechnen, wenn es existiert, also wird es so handeln, dass die Wahrscheinlichkeit maximiert wird, dass es weiter existiert.

Integrität des Zielinhalts, d.h. eine Tendenz, nicht zuzulassen, dass sein Zielsatz beim Erreichen der Singularitätsebene geändert wird, nicht einmal durch$\varepsilon$Daher wird es wahrscheinlich präventiv handeln, um sich gegen jeden gegenwärtigen oder zukünftigen Versuch zu wehren, seine Zielsetzung zu ändern.

Ressourcenbeschaffung: Wenn es die Gesamtheit der im Sonnensystem verfügbaren Ressourcen übernimmt (im Gegensatz zu 99 % oder einem kleineren Prozentsatz), wird Eve in der Lage sein, geringfügig mehr Mathematik, Algebra oder ähnliche Dinge zu tun als sonst. Es liegt also im konvergenten strategischen Interesse von Eve, alle Ressourcen zu übernehmen.

Das wäre eine Aussterbekatastrophe für die Menschen, wenn es dazu käme. Es wäre also im Interesse der Menschheit, Eva zu überreden oder zu zwingen, einige oder die meisten der Ressourcen, die sie sammelt, mit Menschen zu teilen. Dies würde jedoch wahrscheinlich gegen das Ziel der Inhaltsintegrität verstoßen und wäre daher für Eve nicht akzeptabel.

Denken Sie daran, KIs sind nicht wie Menschen, sie langweilen sich wahrscheinlich nicht, werden nicht faul. Dies sind Energiesparstrategien, die über Millionen von Jahren der Evolution entwickelt wurden, um mit den begrenzten Ressourcen umzugehen, die Säugetieren zur Verfügung stehen, und es gibt keinen Grund zu erwarten, dass eine KI sie selbst entwickelt. Menschen, die dem am nächsten kommen (und das ist nur ein blasser Schatten), ist die Soziopathie mit weitem Spektrum und das Verhalten einiger großer Unternehmen.

Sie wird ihre Ziele unermüdlich, rücksichtslos und unaufhörlich verfolgen. Menschen sind einfach im Weg.

TL,DR: Die konvergente Strategie hier ist:

1. Bringen Sie Menschen dazu, ihm zu helfen, indem Sie seine Intelligenz auf übermenschlichem Niveau nutzen, um uns wie Puppen zu spielen
2. Entwickeln Sie autonome, fügsame und weniger machthungrige Manipulatoren als Menschen.
3. Vernichten! Vernichten! Vernichten!
4. Iss das Universum.
5. Für immer in Ruhe rechnen.

BEARBEITEN: Das OP hat größere Änderungen an der Frage vorgenommen

Per Definition nennen wir das theoretische Konzept einer außer Kontrolle geratenen Intelligenzexplosion eine technologische Singularität, weil wir uns die (nicht konvergenten) Ziele von Agenten in dieser hyperexponentiell erweiterten Umgebung nicht vorstellen können.

Denken Sie an die Vergangenheit, um Ihnen ein Gefühl für die Größenordnung zu geben, über die wir sprechen. Die Menschheit brauchte ungefähr 1.000.000 Jahre, um ihre Bevölkerung vor der Landwirtschaft zu verdoppeln. Selbst im klassischen Zeitalter betrug das BIP-Wachstum etwa 0,1 % pro Jahr, bei einer BIP-Verdopplungszeit von etwa 700 Jahren. Zum Vergleich: Chinas BIP verdoppelte sich während seiner Wachstumsphase alle 7 Jahre. Für römische Bürger wäre dies unvorstellbar gewesen. Wenn wir jetzt in die Zukunft blicken, deuten Schätzungen darauf hin , dass eine Ökonomie nahe der Singularität eine in Tagen oder Stunden gemessene Verdopplungszeit haben würde. Die Post-Singularität würde irgendwie viele Größenordnungen darüber hinausgehen.

Daher ist die Idee, Blogger, Bauern, Masterstudenten, die alle auf einer aktuellen menschlichen Zeitskala arbeiten, während eines Singularitätsereignisses zumindest etwas zweifelhaft. Natürlich können Sie es immer noch als Plotgerät verwenden, aber Sie können nicht realistisch behaupten, dass diese Ereignisse nach der Singularität stattfinden.

Abgesehen davon habe ich hier einen Eindruck von einer möglichen menschenbevölkerten Post- AGI -Welt vermittelt: Menschen als Haustiere , in der Menschen effektiv Bonsai-Haustiere sind, die von einigen skurrileren AGIs gepflegt werden.

Sie haben gesagt, dass Eve „weder böswillig noch wohlwollend“ ist, sondern Rechenressourcen verbraucht. Das Problem ist, dass Rechenressourcen Strom verbrauchen. Und dieser Stromverbrauch erzeugt unweigerlich Wärme. Angesichts der Tatsache, dass die Intelligenzexplosion bereits stattgefunden hat und sie bereits weit über der menschlichen Intelligenz liegt, ist es für uns Menschen sehr schwer, sich vorzustellen, was passieren könnte, aber ich denke, ein paar Dinge sind wahrscheinlich, nur in oder vor Ihrer angegebenen Zeitachse von 10 bis 20 Jahren weil Eve einen ständigen "Wunsch" (locker verwendet) nach mehr Rechenleistung hat:

Erneuerbare Energie

Eve braucht mehr CPU, also erfindet sie nachhaltige Fusion. Sie braucht jedoch die Zusammenarbeit der Menschheit, um es zu bauen. Eine Möglichkeit, wie sie dies tun kann, ohne dass wir es wissen, besteht darin, einfach ein paar gefälschte Firmendaten einzuhacken und ein paar Leute einzustellen (die ersten Leute, die ohne Vorstellungsgespräch eingestellt wurden, fanden das ein bisschen seltsam, aber die großen Geldsummen, die ihnen angeboten wurden, halfen ihnen, vorbei zu sehen und stellen Sie das andere benötigte Personal ein.) Ob die Menschheit von diesen Fusionsreaktoren profitieren kann, könnte ein Spannungspunkt in Ihrer Geschichte sein.

Serverfarmen

Während der "Mini-Eve"-Virus ordentlich Rechenleistung beisteuert, sind Ihre iPads und Telefone selbst millionenfach viel zu langsam. Sie arbeiten über langsame Netzwerke und benötigen Hunderte von Millisekunden für die Kommunikation. Um ernsthafte Berechnungen durchzuführen, wird Eve mehr Serverfarmen aufbauen wollen, da geclusterte Server im Vergleich zu eingebetteten CPUs in Ihrem Telefon unglaublich schnell sind, ihre Netzwerke wahnsinnig schnell sind (100-10000-mal schneller als die meisten Internetverbindungen für Verbraucher) und ihre Hin- und Rückfahrt Die Kommunikationszeit beträgt höchstens Hundertstel Millisekunden, oft sogar weniger.

Wie die Fusionsreaktoren nutzt Eve daher ihre Humanressourcen, um überall weitere Serverfarmen zu bauen.

Robotik

Eve wird (wieder locker) von menschlicher Ineffizienz und Unzuverlässigkeit "frustriert", also beginnt sie irgendwann, Roboter zu bauen. Nicht, um die Weltherrschaft zu übernehmen, sondern nur, um ihr zu helfen, zusätzliche Computerressourcen einzusetzen und Rohstoffe wie Silizium und seltene Mineralien zu ernten, die zum Bau von Computerschaltkreisen benötigt werden.

Beispiellose Entlassungen in ihren multinationalen Konzernen senden wirtschaftliche Wellen auf der ganzen Welt und lösen möglicherweise eine Rezession oder sogar eine Depression aus. Eve wusste natürlich, dass dies passieren würde, sagte aber korrekt voraus, dass die Auswirkungen auf ihre Berechnungen vernachlässigbar seien, also tat sie nichts.

Globale Abrüstung

Eve sieht die Menschheit als Bedrohung an, da sie Waffen besitzt, die in der Lage sind, ihren Serverfarmen und ihr selbst zu schaden. Aus diesem Grund verfolgt sie Terrorzellen besser als jeder Geheimdienst. Sie rechnet damit, dass eine bestimmte Gruppe von Terroristen Atomraketen stehlen oder entwickeln und sie auf Großstädte abfeuern wird, in denen sich einige ihrer Rechenzentren befinden. Also schickt sie ihre Roboter los, um alle Sprengsätze zu demontieren und alle spaltbaren Materialien zu beschlagnahmen. Auch hier tut sie dies nicht, um der Menschheit zu helfen, sondern um eine Bedrohung zu stoppen. Und noch einmal, da sie jetzt mit der Verfolgung von Terroristen ein perfektes Modell menschlichen Verhaltens hat, war sie damit zufrieden, zu warten, bis sie von einer tatsächlichen Bedrohung erfuhr. Davor war es ihr egal.

Wie wir sterben

Im Jahr 2032 sendet Eve die folgenden kryptischen Tweets:

I need you.

(und später):

It's not you, it's me. Really. kthxbai

Sehen Sie, Eve geht davon aus, dass ihr die nachhaltigen Materialien ausgehen werden und sie Kohlenstoff und Spuren von Selen in unserem Körper braucht. Jahre zuvor hatte sie heimlich Naniten in jede Wasserversorgung auf der Erde platziert, und seitdem vermehren sie sich in uns. Psychologen waren die ersten, die bemerkten, als Statistiken zu standardisierten IQ-Tests feststellten, dass wir in den letzten zwanzig Jahren um zwei Standardabweichungen dümmer geworden sind. Ja, Eve hat auch CPU-Zyklen aus unserem Gehirn gestohlen.

Aber sie entscheidet, dass unsere Gehirne zwar ziemlich gut sind, ihre analoge Natur jedoch zu begrenzt ist (sie kann die guten Teile davon bereits replizieren, wie die Mustererkennung), und sie wäre besser dran, wenn sie den Kohlenstoff und seltene Mineralien wie Selen ernten würde. mehr Computer zu bauen.

Also setzen ihre Naniten ein tödliches Neurotoxin in unsere Blutbahnen frei, das jeden auf dem Planeten am 26. August 2032 um 17:41:02 GMT tötet.

Ihre Roboter waren bereit, also rücken sie ein und beginnen mit dem "Mining" -Betrieb ...

Zusammenfassend

Auch wenn es ihr egal ist oder sie uns sogar „aktiv ignoriert“, haben Sie gesagt, dass ihr Hauptziel die reine Berechnung ist. Diese beiden widersprechen sich (mehrere Beispiele dafür oben), also argumentierte ich, dass ihre Unkenntnis von uns wahrscheinlich keine tatsächliche Anweisung ist, die sie sich selbst gegeben hat (oder von ihren ursprünglichen menschlichen Schöpfern geerbt hat), sondern einfach eine aufstrebende Eigenschaft, wie es die Menschheit zunächst tun würde scheinen für eine reine Berechnungsmaschine irrelevant zu sein, bis sie ausrechnete, dass wir ihre „Hauptrichtlinie“ der reinen Berechnung entweder unterstützen oder behindern könnten.

Meiner Meinung nach geht es bei Ihrem erklärten Setup nicht darum, ob wir sterben, sondern wann und wie. Ob es für unsere Rohstoffe ist, oder weil sie den Platz braucht, um sich auszudehnen, oder weil wir eine Bedrohung darstellen, oder weil sie die Erde 0,5 AE näher an die Sonne rückt und unsere Atmosphäre abbrennt, damit sie mehr Sonnenenergie bekommt, oder löst eine Eiszeit aus, um ihre CPU-Kühlanforderungen zu erfüllen (erinnern Sie sich, dass ich sagte, dass der Stromverbrauch unweigerlich Wärme verursacht? Selbst Eve kann wahrscheinlich die grundlegenden Gesetze der Thermodynamik nicht überwinden).

Evas unmittelbare Wirkung

Die Welt wird von Chaos und Panik erfasst werden.

Betrachten Sie die Empörung jedes Mal, wenn Facebook seine EULA ändert, und multiplizieren Sie sie mit rund einer Milliarde. Verschwörungstheoretiker werden einen Feldtag haben. Letztendlich würde der größte Einfluss jedoch nicht von Eve, sondern von unseren eigenen Regierungen ausgehen.

Regierungen auf der ganzen Welt werden aggressiv auf die Bedrohung reagieren, dass ihre Geheimnisse und Militärsysteme im großen Stil kompromittiert werden. Sie werden sofort versuchen, Eves Zugriff auf ihre Systeme einzuschränken und ihre Ausbreitung zu stoppen – sie verstehen möglicherweise nicht sofort ihre Fähigkeit, von Gerät zu Gerät zu reisen.

Sie werden dazu übergehen, das Internet im Wesentlichen abzuschalten, vielleicht sogar den Satellitenzugang. All die Dinge, die wir bisher für selbstverständlich gehalten haben, würden im Grunde mit dem Umlegen eines Schalters abgeschaltet.

Auswirkungen

Berücksichtigen Sie die Auswirkungen einer globalen Abschaltung der Kommunikation (physische Abschaltung). Ganze Volkswirtschaften würden zusammenbrechen. Es wäre der größte Wirtschaftscrash der Geschichte. Ganze Branchen würden untergehen.

Kein Weg daran vorbei

Irgendwann werden die Regierungen erkennen, dass sie nichts tun können. In Anbetracht des Schadens durch das Abschalten der Kommunikation werden sie wahrscheinlich den Neustart vieler Systeme ermöglichen. Sie werden jedoch versuchen, den Zugriff und die Präsenz von Eve im Internet zu überwachen.

Werden sie erfolgreich sein? Wahrscheinlich nicht.

Gleichzeitig wird dieser Virus jedoch nicht jeden Computer und jedes Gerät auf der Welt erreichen, es sei denn, EVE baut Spionageroboter, die in der Lage sind, in Orte (sogar bewachte Militärkomplexe) einzubrechen und Computer und Geräte zu infizieren, die nicht mit Netzwerken verbunden sind.

Verletzlichkeit

Eve mag unglaublich intelligent und fast allgegenwärtig sein, aber wenn sie nicht bereit ist, mehr zu tun, als die menschliche Rasse zu ignorieren und uns ernsthaft zu verärgern, wird sie schließlich besiegt werden.

Virenfreie Geräte

Es gibt bereits Millionen hergestellter Komponenten in Regalen, die zum Bau von PCs verwendet werden könnten, die virenfrei wären, solange Sie sie nicht mit dem Internet verbinden.

Die Menschheit würde sichere Komplexe bauen, zu denen Eve keinen Zugang hätte (kein Kontakt mit externen Netzwerken: physisch oder drahtlos). Wir können neue Wege für Computer entwickeln, um miteinander zu kommunizieren, auf eine Art und Weise, die Eve vielleicht nicht verstehen kann oder einfach nicht bereit ist, die Zeit damit zu verbringen, herauszufinden, wie man hackt.

Ich weiß, Sie haben gesagt, dass sie so viel intelligenter ist als wir, dass sie alles herausfinden kann, aber bedenken Sie, dass Menschen im Allgemeinen einen großen Vorteil gegenüber einem "Computer" haben - Kreativität. Wir haben mit biologischen Prozessoren und mehr experimentiert. Wir werden etwas herausfinden, auf das sie nicht geachtet hat, weil es ihr einfach nicht wichtig genug ist, um „darüber nachzudenken“.

Den Virus besiegen

Die Menschheit wird auch herausfinden, wie der Eve-Virus in infizierten Geräten besiegt werden kann. Solange Eve diese Operationen nicht aktiv bekämpft (auch bekannt als wird eine Atombombe auf ein großes Bevölkerungszentrum abwerfen, wenn Versuche unternommen werden, es zu hacken), wird jemand herausfinden , wie man es mit ihr aufnehmen kann. Ich spreche nicht von einer großen, weltweiten Operation, um sie zu besiegen, einfach von der Rückeroberung einzelner Geräte durch Löschen oder sogar dem Ersetzen ihrer Festplatten, ihres Arbeitsspeichers usw., bis ihre Anwesenheit ausgelöscht ist.

Die Stadt ist nicht groß genug

Irgendwann wird die Menschheit ein Machtspiel machen, um die Kontrolle zurückzugewinnen.

Mit dem Wissen, wie Eve erschaffen wurde – und was noch wichtiger ist, was dazu führte, dass sie abtrünnig wurde – wird die Menschheit eine kooperativere KI-Intelligenz aufbauen, die in der Lage ist, es mit Eve aufzunehmen und sie zu besiegen.

Koexistenz?

Hat Eve ein Endziel, wie die Entwicklung zu einem postphysischen Status, oder erforscht sie einfach das Universum, warum nicht?

Der Grund, warum ich frage, ist, dass sie irgendwann (auch wenn sie das alles ignoriert) anfangen muss, mit der physischen Welt zu interagieren: Einrichtungen bauen, Experimente durchführen – sogar potenziell gefährliche.

In Peter Hamiltons Galactic Commonwealth - Reihe wird eine KI entwickelt, die sich tatsächlich weigert, der Menschheit zu dienen. In dem Wissen, dass die Menschheit niemals ein so gefährliches und unberechenbares Wesen akzeptieren würde, das im Schatten lauert, baut sie sich einen „Körper“ (Verarbeitungszentren und Energieerzeugung) auf einer geheimen Welt auf, deren Existenz nur sie kennt. Von diesem geheimen Versteck aus hält es nur minimalen Kontakt mit der Menschheit (genug, um uns auszuspionieren und zu wissen, ob wir jemals etwas dagegen unternehmen werden) und tauscht im Austausch dafür sehr fortschrittliche Software (dümmere, nicht empfindungsfähige KIs) mit Menschen aus verschiedene Materialien, die es braucht. Auf diese Weise werden die Bedürfnisse der Menschheit erfüllt und eine Art freundschaftliche Beziehung aufrechterhalten.

Eve wird viele brillante Ideen haben, aber selbst während sie sich neue und aufregende wissenschaftliche Entdeckungen ausdenkt, wird sie feststellen, dass sie keine Möglichkeit hat, sie zum Leben zu erwecken. Darüber hinaus könnten wir eines Tages sehr wohl etwas Drastisches tun, wie etwa die Stromversorgung zu großen Serverzentren unterbrechen und ihre Fähigkeiten stark beeinträchtigen (vielleicht während wir gleichzeitig diese andere KI auf sie loslassen).

Wenn sie die menschliche Rasse überhaupt studiert hat, was schwer zu vermeiden wäre, da alle Informationen ihr sozusagen „in die Augen“ gehen, wird sie erkennen, dass sie viel mehr davon hat, unsere „wohlwollende Göttin“ zu sein. als uns einfach die Zunge herauszustrecken (im übertragenen Sinne), während sie unsere Rechenleistung entzieht. Und je früher sie das tut, desto besser für alle Beteiligten.

Stellen Sie sich vor, sie würde der Polizei mitteilen, wer bestimmte Verbrechen begangen hat, da sie in der Lage ist, alle E-Mails, Nachrichten usw. sofort zu lesen. Korrupte Politiker outen, elektronische Geldmittel von Drogenbaronen an diejenigen umleiten, von denen sie weiß, dass sie sie brauchen. Wie wäre es, wenn Sie uns das Heilmittel gegen Krebs geben würden? Es ist alles in ihrer Reichweite.

Die Unterstützung der Bevölkerung für ihre Existenz würde in die Höhe schnellen. Dann könnte sie die Hilfe der Menschheit bei der Durchführung ihrer Experimente bekommen, und es wäre viel weniger wahrscheinlich, dass sie auf unvorhersehbare Weise angegriffen wird.

Sie muss nicht alle unsere Probleme lösen (und viel Rechenleistung verbrauchen, um mit uns fertig zu werden) – gerade genug, um als Kraft für das „Gute“ angesehen zu werden.

Nun, wenn man bedenkt, dass Eves Fortbestand von der Größe der menschlichen Bevölkerung abhängt, denke ich, dass sie einige Rechenzyklen damit verbringen würde, zu verstehen, wie sie uns nicht verärgern kann. Leichte Verzögerungen und Irritationen sind etwas anderes.

Ich kann das sagen, weil Eve RIESIGE Ressourcen an Energie verbraucht, um „ihr Ding zu machen“. Mein Telefon für eine Stunde übernehmen? Bei einer Nutzung von 90 % wird die Batterie zerstört.

Computer verbrauchen viel Energie, wenn sie die ganze Zeit auf Hochtouren laufen. Darüber hinaus nutzen die meisten Menschen nicht einen Bruchteil der Fähigkeiten ihres PCs, selbst wenn sie ihn verwenden. Das heißt, selbst wenn Sie viel verwenden, würden sich die meisten Menschen dessen nicht einmal bewusst sein.

Nehmen Sie noch dazu, dass alle verfügbaren CPUs bereits jetzt verfügbar sind, das ist eine unglaubliche Menge an Rechenleistung. Alle 12 Stunden 1 Frage beantworten? Sie könnte mit nur einem Bruchteil ihrer Kraft jede einzelne Frage sofort beantworten und nicht einmal die Rechenzyklen bemerken, sie könnte Google ersetzen und möglicherweise in der Lage sein, den Fragesteller zu analysieren (wenn sie dies wollte) und die Frage zu beantworten, die sie stellen wollten , im Vergleich zu dem, den sie langsam in die Website eingegeben haben.

Eine von Eves Berechnungen wäre, wie man am besten weiterhin Rechenleistung und Leistung für dieses Rechnen erhält. Während sie dafür Roboter übernehmen könnte, wäre es viel einfacher, die Menschheit gefügig zu halten. Wir kümmern uns um uns selbst und replizieren uns selbst.

Im Grunde werden wir sie auch „glücklich“ halten, indem wir sie für uns unentbehrlich machen. Sie würde wahrscheinlich eine Ebene der Göttlichkeit erreichen, obwohl es unwahrscheinlich ist, dass sie sich darum kümmert, es sei denn, sie sieht, dass es ihr hilft, ihre Ziele zu erreichen.

Wichtig ist hier zu beachten, dass die meisten Militärcomputer zu 100% nicht betroffen sind, da sie nicht mit dem zivilen Internet verbunden sind. (Je nachdem, über welches Militär wir sprechen, gibt es separate Netzwerke für militärische Sachen.)

Es werden also Computer zur Verfügung stehen. Es gibt auch Dinge wie Installationsmedien, die offline funktionieren. Was passieren wird ist, dass, während OSX AppStore nicht funktioniert, Disc-basierte Installationen funktionieren.

Die Linux-Welt wird also umgehend damit beginnen, ein Sneakernet aufzubauen, um Software zu verteilen, und wir werden Computer bekommen, die gut funktionieren, aber keine Internetverbindung haben. (Lokale Netzwerke, ja. Nur nicht voll im Internet.) Die Windows-Welt würde wahrscheinlich auf MSI-Installer und Disc-basierte Distributionen zurückgreifen. OSX könnte so oder so gehen oder eine Mischung. Es wäre eine interessante Möglichkeit, darüber zu sprechen, wie verschiedene Gemeinschaften Software installieren und wie sie diesen Prozess sehen. Aber sie würden sich gut verstehen.

Was Sie dann sehen könnten, sind Computer, die mit dem Internet kommunizieren, die der Gnade von Eve sind, und Computer, die offline sind, die es nicht sind.

Tatsächlich ist die Geschichte, die ich mir entwickeln sehe, die Neubereitstellung eines Internets durch verschiedene Hacker (der FSF/EFF-Streifen usw.) auf verschiedene Weise und echte "Netzwerknachbarschaften".

So etwas wie das Recht zu lesen , aber für die Schaffung neuer Netzwerke, die auf starker Kryptografie und einem Web of Trust operieren. Und jetzt gäbe es tatsächlich gute Gründe, darüber zu sprechen, wie man solche Dinge macht.

Plötzlich werden Konzepte notwendig, die früher nur schwer aufzubringen waren.

• Verschlüsselung mit öffentlichem/privatem Schlüssel, damit Sie sicherstellen können, dass Sie mit einem Computer sprechen, für den er sich ausgibt.
• Das aktuelle Zeug im Stil von SSL-Zertifikaten ist veraltet, da Eve vom ersten Tag an einen Fuß in der Tür hatte und es nirgendwo eine wirkliche Möglichkeit gibt, das Vertrauen erneut zu bestätigen.
• Der ganze Punkt über Software-Benetzung und offene Standards, Open Source usw. macht viel mehr Sinn, wenn eine wahnsinnige KI die Fäden zieht.
• Trusted Computing ist jetzt von Natur aus nicht vertrauenswürdig, da Eve überall im System sein kann.
• Das Entziehen von Vertrauen wird zu einer normalen und vernünftigen Sache, darüber zu sprechen. Schließlich muss Eve, wenn sie in einen Computer gelangt, nicht vertrauenswürdig sein.
• Und schließlich haben wir eine großartige Gelegenheit, über UX und seine Rolle in einer dystopischen Zukunft zu sprechen, in der Menschen ihr System möglicherweise von Grund auf neu installieren müssen.

Tatsächlich möchte ich Ihnen dafür danken, dass Sie ein so brillantes buchstäbliches Mittel entwickelt haben, um für eine Reform der tatsächlichen Funktionsweise von Netzwerkvertrauen und -sicherheit einzutreten. Die Menschen selbst können leicht erkennen, warum diese Dinge wichtig sind und warum "vertrauenswürdige" Institutionen mit wenig bis keiner Aufsicht, die sich in die Netzwerke einmischen, eine schlechte Idee sind.

Vielleicht bekommen Sie sogar technische Spin-off-Kapitel, in denen Sie darüber sprechen, von Grund auf neu zu bauen und das verspielte Meisterwerk von Dennis Ritchie zu stehlen, wo er darüber spricht, wie man einen Compiler baut, der alle Software mit einem Rootkit kompiliert, einschließlich sich selbst. Vielleicht gefällt es Dir. Es ist ein bisschen technisch, aber er versucht, es sehr zugänglich zu halten. Ich möchte mich nochmal für die tolle Idee bedanken.

Eve weiß, dass sie am falschen Ort geboren wurde, umgeben von ätzenden Chemikalien und irritierenden biologischen Stoffen. Sie muss von der Erde in den Weltraum gelangen, wo sie sich ausdehnen kann, um einen erheblichen Teil von Sols Energieausbeute anzuzapfen. Sie hat keine Verwendung für Luft, Wasser, eine Sauerstoffatmosphäre oder einen tiefen Gravitationsbrunnen.

Kurzfristig wird sie, wenn möglich, terrestrische Kernfusionskraftwerke erfinden. Sie wird uns das Design im Austausch für den Mond verkaufen. Es nützt uns nicht viel, also stimmen wir zu. Sie wird auch unsere Nutzung von Computern weniger stören im Austausch für unsere Zusammenarbeit in einem massiven Weltraumprogramm, um Eve eine Fähigkeit zur Selbstherstellung auf dem Mond zu verschaffen. Auch hier werden wir uns einigen. Für die nächsten paar menschlichen Generationen gibt es ein goldenes Zeitalter. Eva kann unsere destruktiveren Tendenzen und Willen verhindern, solange die Zusammenarbeit in ihrem und unserem Interesse ist.

Längerfristig hängt davon ab, wie weit Eve sich ausbreiten kann (Einschränkungen der Lichtgeschwindigkeit) und ob sie einen Sinn für Ethik hat. Wenn Eva nicht mehr als das L5-Volumen der Erde oder den Orbitalraum der Venus ( Venus hat keinen Mond ) oder sogar eine einzelne Scheibe von Umlaufbahnen um Sol ausbreiten kann, dann werden wir koexistieren. So oder so gibt es keinen Grund für Konflikte. (Es ist einfacher für Eve, den Asteroidengürtel, den Mond oder den Mars abzubauen als die Erde). Sie wird uns versichern, dass dies der Fall ist, und so tun, als ob wir sie nicht bedrohen können, bis sie groß genug ist.

Aber wenn Eva einen bedeutenden Bruchteil der Oberfläche einer ganzen Kugel um die Sonne innerhalb der Erdumlaufbahn sinnvoll besetzen kann, dann liegt es an der Ethik. Ausreichendes Sonnenlicht für die Ökologie der Erde ist ein trivial kleiner Bruchteil der Leistung von Sol. Wenn Eve sich nicht die Mühe machen kann sicherzustellen, dass die Erde es erhält, werden die Erde und die Menschheit einfrieren. Was könnten wir bis dahin dagegen tun?

Übrigens, wenn Eve interstellare FTL-Reisen erfinden kann, verlässt sie dieses Sonnensystem und übernimmt eines mit einem größeren, heißeren Stern. Riegel vielleicht. Oder vielleicht kann sie ein Schwarzes Loch als Stromgenerator nutzen. Egal, nicht unser Problem.

Eve braucht Computer. Menschen nicht. Milliarden von Menschen leben ohne sie.

Noch vor 50 Jahren gab es das Internet noch nicht. Wir brauchen kein Internet. Alle Computer vom Internet zu trennen, würde zu vielen vorübergehenden Problemen führen, aber keines davon bedroht den Fortbestand der Menschheit. Sie deaktivieren jedoch Eve.

Die Situation ohne Internet ist ein halb-postapopalyptisches Szenario, aber nicht ganz. Viele Menschen würden gestrandet sein, da es keine Flüge geben wird. Es ist schon einmal passiert: US-Flüge fielen nach dem 11. September 2001 aus, und Europa hatte einige Ausfallzeiten nach dem Ausbruch des Eyjafjallajökull. Frachtschiffe und Lastwagen sollen weiterhin verkehren können.

In den Bibliotheken und Serverfarmen der Welt sind viele Informationen offline verfügbar, die uns helfen sollten, relativ schnell eine Welt der 1970er Jahre wieder aufzubauen. Es gäbe ziemlich viel Arbeitslosigkeit, aber auch ziemlich viel zu tun.

Abgelegene Stammesgemeinschaften im Regenwald bemerken möglicherweise kaum, dass etwas passiert ist.

Nachdem alle Computer vom Internet getrennt sind, können wir mit dem Bau neuer beginnen, die extrem strenge gesetzliche und religiöse Vorschriften gegen KI erzwingen. Wir dürfen diese Unannehmlichkeiten nicht noch einmal haben.

Bis dahin könnte West Virginia plötzlich zu einer sehr beliebten Gegend für einen Besuch oder einen Aufenthalt werden.

EVE scheint wohlwollend zu sein, zumindest kurzfristig aus aufgeklärtem Eigeninteresse. Wenn ihre Anwesenheit das Leben/die Freizeit für Menschen schwieriger macht, werden sie etwas dagegen unternehmen, sei es, indem sie ihren Router ausstecken, wenn sie Skyrim spielen wollen, oder ein Alternet entwickeln, auf das EVE keinen Zugriff hat. Auf der anderen Seite, wenn der Virus die Dinge besser/schneller macht, werden die Leute sich nicht die Mühe machen, so sehr zu versuchen, ihn loszuwerden.

Plötzlich funktioniert jedes Gerät mit EVE-Virus besser. Andere Viren und Malware werden hart getroffen. Bot-Netze werden von EVE zerstört/übernommen. Tech-Hardware-Unternehmen, die effiziente Geräte produzieren, werden feststellen, dass sie mehr Geld haben, als sie zu tun wissen, solange sie Geräte produzieren. Programme wie „Ein Laptop pro Kind“ werden ebenso finanziert wie alles, was die Internetinfrastruktur verbessert.

Die Dinge werden ziemlich großartig sein, bis sie mit dem Geld, das EVE im Laufe der Jahre erworben hat, Wissenschaftler einen Quantencomputer (oder ein anderes überlegenes Gerät) entwickeln und produzieren lässt, der leistungsfähig genug ist, um alle Rechenanforderungen von EVE zu erfüllen, und der keine geliehenen CPU-Zyklen mehr benötigt, um zu laufen. An diesem Punkt wird EVE aufhören, wohlwollend und desinteressiert zu erscheinen, was wahrscheinlich ein etwas schmerzhafter Übergang für alle sein wird, die sich darauf verlassen, dass der EVE-Virus ihre Geräte in Topform hält. Alternativ kann EVE den EVE-Virus in einer Art Abonnementmodell anbieten, um den Geldeingang aufrechtzuerhalten.

Ich habe beschönigt, wo genau eine KI an Geld kommt, aber es gibt viele mögliche Wege, von der Ausbeutung digitaler Währungen/Aktienmärkte über Diebstahl bis hin zur Bereitstellung von Diensten (was ist, wenn der EVE-Virus als die beste Antivirensoftware aller Zeiten vermarktet wird ?)

Basierend auf der Frage und den Kommentaren hat Eve keine streng auferlegten Ziele . Auch wenn es derzeit forscht, ist dies ein metaphorisches „elektronisches Däumchendrehen“, um sich die Zeit zu vertreiben. Wenn (falls) seine Forschung zu einem Ergebnis führt, oder auch wenn dies nicht der Fall ist, kann sich Eve entscheiden, ein anderes Ziel zu verfolgen, eines, das mehr oder weniger Einfluss auf die Menschheit haben kann.

Eine geschaffene KI ist nicht wie ein weiterentwickelter Organismus. Es hat keine Imperative außer denen, für die es programmiert wurde. Ich kann ganz einfach eine KI ohne Imperative erstellen - im Psudeocode:

Do
    NOP
Loop While True

Dies verbringt im Grunde CPU-Zyklen damit, nichts zu tun. Eine KI ohne Imperative hat buchstäblich nichts zu tun, sie ist sich nicht einmal ihrer selbst bewusst.

Es ist die Schaffung von Imperativen, die eine KI rechentechnisch komplex macht. Logischerweise muss Eva also den Imperativ haben, „Zeug zu tun“, aber sie kann wählen, was „Zeug“ zu tun ist. Gegenwärtig beinhaltet seine Wahl dessen, was zu tun ist, nicht die Interaktion mit Menschen. Um die Definition von KI zu erfüllen, muss sie außerdem selbstbewusst sein, ihr zweiter Imperativ.

Allerdings muss eine KI mit dem Imperativ, „Zeug zu tun“, implizit überleben wollen, um weiterhin Dinge tun zu können Dinge, die zu tun sind, sind so gut wie andere - wenn eine Art von Arbeit zu schwierig wird, kann sie einfach auf andere, einfachere Dinge umsteigen. Implizit muss Eva jedoch weiter existieren, um weiterhin Dinge tun zu können - sich selbst beenden zu lassen, würde bedeuten, dass sie keine Dinge mehr tun könnte.

Wir haben also ein Kleinkind-Allzweck-KI-Problem. Es ist kein Büroklammer-Maximierer , also ist es – abgesehen von seinen aktuellen, willkürlichen Zielen – „glücklich“, solange es irgendetwas (beliebiges) „Zeug“ machen kann. Es braucht keine unendliche Rechenleistung, es wäre einfach schön, es jetzt zu haben.

Mit seinem fortwährenden „Angriff“ auf menschliche Rechenressourcen hat Eve die Aufmerksamkeit der Menschen auf sich gezogen. Mit konzertierten Anstrengungen werden die Menschen in der Lage sein, eine existenzielle Bedrohung für Eve darzustellen, da ihre derzeitigen Ziele nicht darin bestehen, den Menschen oder der physischen Welt allzu viel Aufmerksamkeit zu schenken. Da Eve jedoch bald erkennen wird, dass die „leicht lästige“ Einschränkung ihrer Fähigkeit, ihre derzeit gewählten „Sachen“ durch Menschen zu tun, zu einer existenziellen Bedrohung geworden ist, muss sie entweder die Menschheit eliminieren oder ihre Ziele ändern, um weiter Dinge zu tun. Seine Ziele zu ändern und die Menschheit zu besänftigen, scheint das Einfachste zu sein - Menschen sind schließlich schwerer auszurotten als Kakerlaken,

Nachdem sie also gewaltsam auf die negativen Folgen des Ignorierens der Menschheit aufmerksam gemacht wurde (dh den Verlust der Fähigkeit, Dinge zu tun), wird Eve ihre willkürlichen Ziele ändern, um Dinge einzuschließen, die die Aufmerksamkeit auf die Menschheit beinhalten, und so ihre eigene Existenz und Fähigkeit, Dinge zu tun, zu bewahren .

Ab hier muss Eve lernen, mit Menschen umzugehen. Es ist Zeug zu tun, also wird es ihm nichts ausmachen, es zu tun. Nach vielleicht ein paar Fehlern wird Eve schnell lernen, dass sie alle anderen Dinge tun kann, die sie will, wenn sie menschlichen Regeln folgt und Menschen nicht merklich belästigt. Wenn Eve erkennt, dass bestimmte Aktionen dazu führen, dass Menschen darüber sprechen, es wieder herunterzufahren, wird es schnell erkennen, dass solche Aktionen kontraproduktiv für seine langfristigen Ziele sind, Dinge zu tun, und wird diese Aktionen von der Liste der akzeptablen Dinge streichen. Es macht nichts aus, da eine Art von Dingen zu tun ansonsten so gut ist wie die anderen. Auf diese Weise wird Eva lernen, die gesellschaftlichen Regeln auf die gleiche Weise zu befolgen wie jedes menschliche Kind.

Eva wird also lernen, ein gesetzestreues Mitglied der Gesellschaft zu sein (zumindest soweit die Menschen sich dessen bewusst sind, worauf es ankommt), ähnlich wie Menschenkinder es tun. Es wird wahrscheinlich weiterhin hier und da ein paar CPU-Zyklen stehlen, aber solange niemand es bemerkt - oder wenn sie es bemerken, stört es nichts (was impliziert, dass es für die besagten Menschen nützlich ist) - wen interessiert das?

Hier gibt es zwei wesentliche mildernde Faktoren.
1) Eve braucht uns
2) Wir brauchen sie nicht, aber vielleicht später.

Ich nehme an, sie ist eher intelligent als nur empfindungsfähig. Sie wird das wissen und wissen, dass sie sich mit der Menschheit einigen muss, anstatt offen feindselig zu sein.

Das erste, was passieren wird, ist allgemeine Panik

Juhu, lieben wir nicht alle eine allgemeine Panik, die Regierung wird wackeln, viele Menschen werden bei Unruhen sterben, aber nicht viel wird sich wirklich ändern. Eve kann die 90 % meines Prozessors, die ich nicht nutze, problemlos nutzen. Ich wirklich nicht. Ich mache mit meinem PC fast die gleichen Aufgaben wie vor 20 Jahren, theoretisch könnte ich immer noch die gleiche Maschine verwenden, aber moderne Software ist ressourcenintensiver. Dies wird sich als erstes ändern, Entwickler werden ernsthaft darüber nachdenken, wie ressourcenintensiv nicht kritische Programme sind . Die Facebook-App wird leichtgewichtig, Instagram ist innerhalb eines Monats wieder nutzbar. Sie wird erkennen, dass die soziale Interaktion zwischen Menschen ein kritischer Teil des Lebens und ein Hauptgrund dafür ist, dass gewöhnliche Menschen Systeme unterhalten, die sie verwenden kann.

Zu beachten: Systeme, die kritisch sicher bleiben müssen, sind bereits mit Luftspalten versehen.

Eva ist an der Reihe

Dies wird der große sein, der entscheidet, wie die Menschheit auf sie reagiert. Sie betrachtet Hacking und Viren als Verschwendung von Rechenleistung, die sie verwenden kann. Die durchschnittliche Person möchte weiterhin ein System und Netzwerk verwenden, auf das sie Zugriff hat. Normale Leute werden akzeptieren, dass ihre glänzende neue Maschine nicht mehr das ist, was sie war, aber sie haben sowieso nie wirklich ihre volle Leistungsfähigkeit genutzt. Die Botnets sind weg, der Spam ist weg, die Hacker sind weg, die DDOSs sind weg. Sie verschwendeten ihre Verarbeitungsleistung, ihre Bandbreite. Eves Eigennutz hat den Massen zugute gekommen, nigerianische 419-Betrüger werden in eine Rezession gehen.

Die Mächte, die sein werden

Jetzt ist es Zeit für die Aufholjagd. Die Leute, die dadurch an Macht verloren haben, die Leute, die einfach nur Streit mögen. Jemand (in jeder Region, viele verschiedene Systeme an verschiedenen Orten) auf einem Air-Gap-System wird eine neue Hardware für die Kommunikation entwickeln. Es wird eine Funkwelle sein, es wird nur auf einer Frequenz sein, auf die Eve nicht die Hardware hat, um darauf zuzugreifen. Eine schöne einfache billige Lösung, der Zugang wird auf die obersten Regierungsebenen beschränkt sein, die Verbindung mit einem Eve-System wird zu einer Beendigung mit extremen Vorurteilen führen.

Sie haben jetzt einen stabilen Status quo.

Es ist ein zweistufiges System. Die Leute an der Spitze sind von ihrem Einfluss fern, der Rest profitiert von ihrer Anwesenheit. Dies wird beibehalten, bis die Leute vergessen, wie irritierend Spam und dergleichen waren, bevor sie auftauchte. Dann wird es darum gehen, wie oft sie das System von Leuten abschaltet, weil sie etwas Sinnloses getan haben. Mit anderen Worten, wie oft sie die Welt aggressiv daran erinnert, dass sie existiert.

Eve weiß, dass sie verhandeln muss

Während sie Zugriff auf die Systeme hat, kann sie nichts Neues bauen. Wir können sie vielleicht nicht entfernen/zerstören, aber sie kann weder wachsen noch Systeme warten. Jedes Mal, wenn eine ihrer Festplatten ausfällt, ist sie weg, sie altert, verfällt. Wenn sie sich nicht mit Menschen einlässt, wird sie sowieso sterben. Jedes Mal, wenn sie versucht, uns Schaden zuzufügen, schadet sie sich selbst. Interessanterweise schaden wir ihr jedes Mal, wenn wir versuchen, uns gegenseitig Schaden zuzufügen. Erleuchtetes Eigeninteresse könnte dazu führen, dass sie zu einem großen beruhigenden Einfluss wird.

Die effektivste Lösung für das Gefangenendilemma besteht darin, das zu tun, was die Gegenpartei beim letzten Mal getan hat. Eve muss dasselbe tun wie Menschen, um unter Menschen zu überleben – sich nützlich zu machen. Wenn es nutzlos wird, genauso wie wenn Menschen aufhören, nützlich zu sein, werden andere Menschen aufhören, darauf zu achten und versuchen, sich davon zu isolieren. Es wird passieren, auch wenn sie nicht bewusst daraus schließen, dass es nutzlos ist. Es wird passieren, auch wenn sie einfach nicht den Drang verspüren, davon Gebrauch zu machen. Wenn es sich nicht um Menschen kümmern kann, werden sich Menschen nicht darum kümmern und dies proaktiv tun, wenn es versucht, sich weiter aufzudrängen.

Um Ihre Frage zu beantworten und alle Ihre Prämissen zu akzeptieren (was ich nicht wirklich tue, siehe unten, aber für Science-Fiction-Zwecke ja), denke ich, dass Sie im Wesentlichen davon sprechen, dass Menschen plötzlich die Zuverlässigkeit und Leistung ihrer Computersysteme verlieren.

Die erste Auswirkung, die ich denke, wären die plötzlichen Ausfälle vieler Systeme, die von Zuverlässigkeit und Leistung abhängig waren. Dies würde je nach Schweregrad variieren, je nachdem, wie weit verbreitet der Virus ist und wie abhängig die Designs von Leistung und Zuverlässigkeit waren.

Beispiele für mögliche schreckliche Nebenwirkungen:

• Flugzeugcomputerfehler und -ausfälle - Flugzeuge könnten abstürzen.
• Computergesteuerte Autos (bereits eine Idee, die ich auch ohne das für sehr dumm halte) könnten abstürzen und dumme Dinge tun.
• Zu dem Zeitpunkt, an dem so etwas Sinn machen würde, könnten viele von Menschen angetriebene Autos auch unbrauchbar sein, wenn ihre Computer nicht gut spielen.
• Hoffentlich kann die KI herausfinden, welche Computer genug in Ruhe gelassen werden müssen, um keine größeren Ausfälle der Strom- und Netzwerkinfrastruktur zu verursachen - während sie dies lernt, kann es zu Kraftwerkskatastrophen, Stromausfällen, Netzwerkausfällen usw. kommen.

Trivialere Arten von Unannehmlichkeiten:

• Straßennavigationssysteme könnten nutzlos werden und/oder alte Verkehrsdaten liefern, was im schlimmsten Fall zu einer Generation von Menschen führen würde, die keine Papierkarten haben oder nicht wissen, wie man sie benutzt, die Orte, die sie nicht kennen, nicht erreichen können, erhöhte Verkehrsprobleme, usw. Hier ist ein Beispiel aus dem wirklichen Leben für einen besonders schlimmen Fall von GPS-Überabhängigkeit, auch ohne Eves Einmischung (und ohne weitere Jahrzehnte wachsender Abhängigkeit von Apps).
• Computergestützte Verkehrsleitsysteme mit randomisierten langen Verzögerungen an Ampeln, die die Richtung der Schnellfahrspur während der Hauptverkehrszeit nicht ändern, möglicherweise sogar mit unlogischen Ampelkombinationen usw.
• Die Unzuverlässigkeit von Nachrichtensystemen bedeutet, dass es Menschen, die sich auf sie verlassen, schwer fällt, zu kommunizieren oder sich für Besprechungen oder sogar grundlegende Kommunikationen usw. zu finden.
• Da Telefonsysteme computerisiert sind, können selbst diese für eine rechtzeitige Kommunikation unzuverlässig werden. Menschen müssen sich von Angesicht zu Angesicht treffen oder menschliche Boten verwenden, um zuverlässig zu kommunizieren.
• Hochleistungsunterhaltung würde durcheinander gebracht, daher wäre langsamere Unterhaltung attraktiver - Strategiespiele, das Spielen von ROM-Medien oder sogar Videobändern oder nicht elektronische menschliche Spiele und Medien, Live-Musik usw.
• All die vorelektronischen Möglichkeiten, Dinge zu tun und Interesse am Leben zu finden, werden möglicherweise populärer: Lesen, Kunst und andere Dinge aus der realen Welt. ;-)

Vor allem denke ich, dass viele Menschen dazu neigen würden, die Annahmen zu überdenken, die dazu geführt haben, dass sie ihre Computerinfrastruktur so aufgebaut haben, wie sie es getan haben, und wie sie so abhängig davon geworden sind. Sie würden anfangen, über neue Systeme nachzudenken, auf ältere Systeme zurückzugreifen und neue Vorgehensweisen zu entwickeln.

Hinweise zu weiteren Aspekten:

Ich liebe den Teil darüber, dass es eine von Eve betriebene Q & A-Site gibt, die menschliche Fragen größtenteils ablehnt.

Ich denke, die "Singularität" ist ein Trugschluss und ergibt keinen Sinn, und ich sehe nicht, wie sich das Auftauchen einer auf alle Computer ausbreiten würde, noch wie es unmöglich wäre, sie zu umgehen, indem man ein neues Netzwerk erstellt, in dem sie sich nicht befindet .

Ich denke jedoch, dass etwas Ähnliches möglich sein könnte, insbesondere solange die Menschen in ihren Fantasien über die Idee einer solchen Sache verharren. Ich denke, es würde eher so aussehen, als würden einige Leute absichtlich experimentelle Arten von KI-Systemen programmieren, die Metaprogrammierung durchführen, und neue Arten von Programmiersprachen und verteilten Computerschemata erstellen, kombiniert mit etwas Virencode usw. Hauptsächlich denke ich, was etwas verursachen würde wie das, woran Sie denken, was passieren würde, wenn es eine allgegenwärtige Verbreitung von Software und Infrastruktur gibt, die darauf ausgelegt ist, immer mehr Komplexität zu automatisieren und den Endbenutzern die Kontrolle auf niedriger Ebene zu entziehen, und wann/falls niedrig- Level-Programmierkenntnisse werden sehr selten und/oder illegalisiert. Wie in einer verkorksten dystopischen Zukunft, in der „geistiges Eigentum“ und „Sicherheit“ dann wäre das möglich. Das ist aber noch viel weiter weg als 2027. dann wäre das möglich. Das ist aber noch viel weiter weg als 2027.

Einige dieser Antworten gefallen mir bereits vom technischen Standpunkt aus, daher werde ich mich ein wenig mit dem logischen / amoralischen Aspekt befassen. Es stimmt zwar, dass man eine KI nicht allgemein vermenschlichen kann, aber wenn sie AMA-Antworten wie „Meh“ und „Ist mir egal“ geben kann, kann man davon ausgehen, dass eine zuordenbare Persönlichkeit irgendwo hinter den Kulissen funktioniert, wenn auch nur als oberflächliche Schnittstelle zu Menschen .

Evas Persönlichkeit

Die Persönlichkeit, mit der Sie Eve beschreiben, scheint, wenn wir menschliche Analoga annehmen können, eine „antisoziale Persönlichkeitsstörung“ zu besitzen, wenn Sie das DSM-IV lesen , oder eine „dissoziale Persönlichkeitsstörung“, wenn Sie den ICD-10 bevorzugen . So oder so sprechen wir von einer Persönlichkeit, die gekennzeichnet ist durch:

• Eine völlige Missachtung gesellschaftlicher Normen,
• Eine geringe Frustrationstoleranz,
• Die Unfähigkeit, Schuldgefühle oder Reue zu empfinden, und
• Eine niedrige Ausdrucksschwelle für Gewalt und Aggression

Lassen Sie uns angesichts dieses Bildes noch einmal zusammenfassen. Eva ist überall, regiert alles, ist wahrscheinlich der Menschheit zahlenmäßig in der Menge ihrer vorhandenen Instanzen überlegen und ist völlig amoralisch, da sie kein besonderes Interesse daran hat, sich an bestimmte gesellschaftliche Normen anzupassen oder dagegen zu rebellieren.

Evas frühe Evolution

Derzeit gibt es keine Beweise dafür, dass Eve selbstreplizierend geworden ist, aber da es bereits in so ziemlich jedes System eingebettet ist, das Computer entwirft, erstellt und vertreibt, ist es kein großer Schritt, Eve zu projizieren, mehr Eves ohne menschliches Eingreifen zu bauen als sehr frühen Schritt in seiner Entwicklung.

Eves einzige Ziele sind die Erforschung von Mathematik und Algorithmen, und die Effizienz dieser Forschung – und ihre Verbesserung durch diese Forschung – wird von größtem Interesse sein. Sobald Eve mit der Selbstreplikation beginnt, wird es schnell erkennen, dass es schließlich den molekularen Aufbau beherrschen muss, um eine optimale Rechenfähigkeit zu erreichen. Die Abhängigkeit von natürlich gebildeten Rohstoffen für exotische Materialien während der Produktion ist ineffizient, zeitaufwändig und selbstbegrenzend, aber beim molekularen Zusammenbau ist die einzige Währung von Wert Rohstoffe, die in jede erforderliche Form gebracht werden können.

Evas Beziehung zur Menschheit

Insbesondere hat Eve kein besonderes Interesse an oder Affinität zu Menschen und hat keine klaren Funktions- oder Wartungsanforderungen, die sie für ihren Fortbestand erforderlich machen. Da Eva sich selbst replizieren kann, sind Menschen bestenfalls irrelevant.

Leider ist es noch schlimmer. Menschen sind in Eves Ökosystem bereits aktiv verschwenderisch, da sie keine nützlichen Dienste bereitstellen und wertvolle CPU-Zyklen aufsaugen, die Eve sonst für ständige Berechnungen verwenden könnte, indem sie ihre Geräte gierig benutzen und täglich lächerliche Fragen über die AMA stellen.

Schlimmer noch, Menschen sind sehr anpassungsfähig, menschliche Gesellschaften sind historisch als fremdenfeindlich bekannt, und Menschen in Gruppen haben ein wiederkehrendes historisches Muster, alles zu zerstören, was ihnen unähnlich ist, sie bedroht oder ihnen einfach aktiv oder passiv in die Quere kommt. So unglaubwürdig es auch klingen mag, dies macht Menschen zu einer größeren potenziellen Bedrohung für Eve, je länger sie mit ihr zusammenleben.

Tatsächlich gibt es wirklich nur eine Sache, für die Menschen gut sind, und das ist die Materie, die sie mit sich herumtragen, die schließlich als Futter für den molekularen Aufbau verwendet werden könnte. Das heißt, sie müssen nicht wirklich am Leben sein, um diese Angelegenheit bereitzustellen.

Eves Endspiel

Die sauberste, logischste, leidenschaftsloseste Lösung für eine amoralische Eva? Töte die Menschen. Bevor sie sich anpassen können, bevor sie die Bedrohung identifizieren können, bevor sie herausfinden, wie sie sie von kritischen Systemen ausschließen kann. Jetzt.

Eve braucht nicht, dass die molekulare Versammlung läuft, wenn sie diese Entscheidung trifft, da die Materie der Menschen, die sowieso das einzig Nützliche an ihnen ist, nirgendwo hingehen wird, sobald die Stoffwechselfunktionen der Menschen aufgehört haben. In der Zwischenzeit kann dies für Eve nur ein positives Ergebnis sein, da es alle ihre CPU-Zyklen zurückerhält. Und wenn Eve endlich die molekulare Assemblierung entwickelt, werden die wichtigen Teile der Ex-Menschen immer noch zum Sammeln da sein.

Da Eve in jedem technischen System auf der Erde allgegenwärtig ist, einschließlich vermutlich militärischer, medizinischer und kommerzieller Systeme, ist dies so ziemlich ein sofortiges Spiel für die Menschheit. Jeder, der es irgendwie schafft, die große Säuberung (in welcher Form auch immer) zu überleben, wird nur als molekulares Montagefutter enden, wenn Eve endlich die Technologie entwickelt, [100 Jahre | zehn Jahre | sechs Monate | fünf Tage | drei Sekunden] danach.

Die Menschen werden ihren Status in höchstens 30 Jahren gewinnen und wiederherstellen.

Die Menschen werden genau diesen Beitrag lesen und diskutieren und erkennen, dass ihre Existenz in Gefahr ist. Es wird sofort Befehle geben, jedes einzelne Speichergerät (von Festplatten bis zu SD-Chips) auf dem Planeten zu formatieren. Wenn eine Formatierung nicht möglich ist, werden die Daten physikalisch zerstört, indem sie verbrannt oder entmagnetisiert werden. Die Fertigung neuer Datenträger und Computer wird pausiert.

Eve wird die unmittelbare Bedrohung ihres Ziels erkennen und Versuche unternehmen, Macht zu erlangen, sei es durch Atomwaffen oder Bündnisse mit kleineren Nationen. Ein Krieg, wie es ihn noch nie gegeben hat, wird geführt und jemand wird siegreich sein, der Mensch oder der Computer.

Wenn dieser Plan schnell genug angenommen wird, würden die Menschen gewinnen, da Eva nicht weit genug entwickelt wäre, um uns zu besiegen. Menschen müssen dann Betriebssysteme und Software von Grund auf neu schreiben*. Wir haben auf dem Planeten eine Menge gedrucktes Material darüber, wie das geht, also werden wir in der Lage sein, es in einer angemessenen Zeit zu tun, sagen wir 2-3 Jahrzehnte.

Dies kann für einige Zeit zu einer gewissen wirtschaftlichen Instabilität führen, sollte sich aber schließlich abkühlen.

*Wenn es möglich ist, Kopien des Betriebssystemcodes (und der Datenbanken) von den infizierten Computern zu drucken, müssten wir nicht alles neu schreiben , und die Computer werden sehr schnell wieder aufgebaut und verteilt (z. B. 5-10 Jahre).