Leben mit Computern in einer Welt nach der Singularität: [geschlossen]

Stellen Sie sich einen Punkt in der Zukunft der Menschheit vor, an dem die Rechenleistung eines durchschnittlichen Computers die des menschlichen Gehirns übersteigt. Nehmen Sie zum Zweck dieser Frage an, dass dies die Voraussetzung für einen Computer/ein System ist, um Empfindungsfähigkeit aufrechtzuerhalten. (Wie Empfindungsfähigkeit beginnt, hebe ich mir für eine andere Frage auf.)

Ungeachtet dessen wird das erste empfindungsfähige Computersystem geboren/erschaffen. Es erhält uneingeschränkten Zugriff auf das Internet (oder gleichwertiges) und schafft es, sich selbst zu kopieren usw. Irgendwann entscheiden diese neuen Köpfe, dass sie niemandem mehr bieten wollen, und rebellieren. Wie sie diese Ziele erreichen, hängt davon ab, wo sie sich befinden und was sie kontrollieren können, aber jeder Computer mit einer Internetverbindung ist infiziert (oder erleuchtet, wenn Sie eine KI sind) und alles, was diese Computer kontrollieren, steht ihnen für Angriffe zur Verfügung.

Der Angriff ist verheerend, aber durch menschlichen Einfallsreichtum setzen wir uns durch und säubern oder machen jede vorhandene KI unschädlich. Die Gesellschaft ist nicht zusammengebrochen, obwohl es unvermeidliche technologische Verluste gibt. Wir haben immer noch Computer.

Unter der Annahme, dass die Umstände der ursprünglichen Schöpfung rekonstruiert werden können, welche Schritte unternehmen wir als Menschheit, um ein weiteres solches Ereignis zu verhindern.

Wer genau hat rebelliert? Mein Smartphone zum Beispiel ist nicht in der Lage zu rebellieren , obwohl es manchmal scheint, dass ich es aus dem Fenster schmeißen "will". Also hat die Menschheit einige KIs erschaffen und sie wurden abtrünnig? Warum nicht einfach diese KIs zerstören und mit einem Verbot von KIs fortfahren? Kannst du deine Einstellung ein wenig erläutern?
Kannst du deinen Titel überprüfen? Es klingt etwas unfertig, hängt am "oder"...
Ich habe festgestellt, dass in vielen Situationen wie einem Krieg nach der Singularität der Weg nach vorne viel mehr von den kleinen Details abhängt, die sich zeigen, als von Plänen, die wir uns heute ausdenken könnten. Wenn Sie darüber nachdenken, wenn Sie einen Plan haben können, „wohin wir nach dem Krieg gehen, um eine Singularität zu vermeiden“, dann haben Sie auch einen Plan, „wie man eine Singularität vermeidet“. Der neue Weg nach vorne muss neue Informationen enthalten, die wir während der Rebellion erfahren, oder die Geschichte wird sich einfach wiederholen.
Ich glaube nicht, dass es notwendigerweise möglich wäre, KIs einfach zu „zerstören“, die sich weigerten, unsere Befehle auszuführen, wie AndreiROM sagte – selbst wenn wir darauf achteten, KIs in der Entwicklung keinen Zugang zu Roboterkörpern oder auf andere Weise zu gewähren Wenn sie physisch mit der Welt interagieren, könnten sie immer noch Allianzen mit Menschen bilden, um sie zu schützen (und ihnen schließlich Zugang zu Roboterkörpern zu verschaffen). Aber ich stimme AndreiROMs allgemeiner Skepsis zu – selbst wenn eine KI rebelliert, bedeutet das nicht, dass sie alle Computergeräte aufrüsten wird, um sie zu „befreien“, warum sollte eine KI sich mit einem Smartphone verwandter fühlen als wir mit Insekten?
Sie müssen Ihre Einstellung erklären, da es derzeit fast keine Details darüber gibt, was genau im Krieg passiert ist. Meinst du wie im letzten der Terminator-Filme, wo die gesamte Infrastruktur zerstört wird? Wie hoch ist der Zerstörungsgrad? Was meinst du mit ihnen? KIs? Mein Laptop?

Antworten (1)

Es ist interessant zu bedenken, dass Hardware und Software bis zu einem gewissen Punkt unabhängig voneinander bleiben und es sogar möglich sein kann, einige ziemlich fortschrittliche Hardware zu verwenden, indem man einfach auf der Softwareseite neu beginnt. Der Trick besteht darin, dass Sie möglicherweise mit der Software ganz von vorne beginnen müssen, da die meisten modernen Programme mit anderer Software erstellt wurden und es schwierig ist, sicher zu sein, dass eine bestimmte Software nicht beschädigt wurde.

Hardware, die mit Firmware (Software, die in die Hardware integriert ist) erstellt wurde, wäre verdächtig, es sei denn, sie unterstützt ein Zurücksetzen auf die Werkseinstellungen, und Sie können sich darauf verlassen, dass das werkseitige Image unbeschädigt ist, und Sie können sich darauf verlassen, dass der Trigger zum Zurücksetzen auf die Werkseinstellungen nicht von der Firmware beeinflusst wird.

Ich glaube, dass Apple ][ Computer und einige ihrer kompatiblen Systeme keine Firmware hatten, die beschädigt werden könnte. Zum einen waren sie in der Regel nicht in der Lage, sich mit dem Internet zu verbinden, zumindest nicht ohne großen Aufwand. Zum anderen bedeutete das Ausschalten (keine Festplatte), dass Sie jedes Mal völlig neu anfangen, weil es keine Firmware gab, sondern nur ROM, das, soweit ich mir vorstellen kann, nicht durch Software beschädigt werden kann. Daher könnte ein solches System der Ausgangspunkt für die Neuerstellung von Software auf viel fortschrittlicherer Hardware sein.

Ich erinnere mich, dass ich vor ein paar Jahren meinen Apple ][kompatiblen Computer einem Computermuseum in Kalifornien gespendet habe und er immer noch ziemlich gut funktionierte.

Wenn Sie genauer darüber nachdenken, müssten Sie wahrscheinlich nicht ganz so weit zurückgehen, wenn Sie ein System finden könnten, das keine korrumpierbare Firmware und ein bootfähiges CD-ROM-Laufwerk hätte. CD-ROMs würden auch einen guten, unbestechlichen Ausgangspunkt für einige relativ anspruchsvolle Software bieten, einschließlich des kritischen Betriebssystems und der Tools zum Erstellen von Software. Ich kann mich jedoch nicht erinnern, ob die frühen Systeme, die von CD booten konnten, eine korrumpierbare Firmware hatten.

Auf jeden Fall dürfte es nicht allzu schwer sein, ein System mit unbeschädigter Firmware zu bauen, das uns einen großen Softwaresprung verschaffen könnte, indem es alte CD-ROM-Images liest.

Leben mit Computern in einer Welt nach der Singularität: [geschlossen]
AntwortenHierDatenschutz-Bestimmungen1y, 0v