Wie kann man Menschen daran hindern, manipulative KI-Nanobots zu entwickeln?

In der Zukunft, in der es in jedem Haushalt mindestens einen 3D-Drucker gibt, zeigt die Bevölkerungsdemografie eine Alterung in allen Teilen der Welt. In dieser Zukunft haben viele Eliten leistungsstarke KI-Nanobots, die in ihrem Gehirn laufen, um sie bei der Entscheidungsfindung zu unterstützen und über die relevanten aktuellen Ereignisse informiert zu werden, die gerade in der Welt stattfinden. Diese winzigen Nanobots können sich nicht selbst replizieren und müssen 3D-gedruckt werden. Normalerweise sind Menschen mit höherem sozialem Status oft manipulativ und versuchen hinterhältige Methoden wie das unfreiwillige Füttern ihrer Arbeiter oder Sklaven mit Nanobots, um ihre täglichen Aktivitäten zu belauschen und zu überwachen, um sie rechtzeitig zu erpressen. Seit einiger Zeit geht das Gerücht um, dass die Reichen und Mächtigen KI-Nanobots einsetzen, um das Unternehmen und sogar die gesamte Nation zu kontrollieren.

inspiriert von Rokos Basilisk ;D

Danke, aufgrund deiner letzten Zeile weiß ich jetzt, woher der Name der Figur "Roko Basilisk" im Webcomic questionablecontent.net stammt. :D
3D-Druck auf molekularer Ebene? Ich denke nicht so bald. Und was hat „demographische Daten zur Alterung in allen Teilen der Welt“ mit dieser Frage zu tun?
Dies hat nichts mit dem akausalen Handel zu tun, der der Mechanismus von Roko Basilisk ist.
@Christian: Du hast Recht, ich kann Roko's nicht verwenden, weil mir keine Möglichkeit einfällt, KI dazu zu motivieren, Menschen zu foltern; D
Keine Nanobots, aber verwandt genug, um von Interesse zu sein .

Antworten (4)

Ihnen fehlt das Design. Ihnen fehlt der Code. Ihnen fehlt die Hardware.

Der 3D-Druck eines Nanobots ist mehr als nur Druck. Sie brauchen zunächst die richtige Hardware. 3D-Drucker können heutzutage in Supermärkten gekauft werden, aber es gibt einen himmelweiten Unterschied zwischen einem Heimdrucker und einem kommerziellen Drucker, der viele tausend Dollar mehr kostet.

Wenn Sie eine Waffe auf Ihrem Heimdrucker in 3D drucken würden, stehen die Chancen gut, dass Sie sich die Finger / das Gesicht abblasen. Ein kommerzieller Drucker kann eine Waffe von besserer Qualität drucken, die sicher abgefeuert werden kann.

Als nächstes brauchen Sie das Design. Die Reichen haben Designteams von Ingenieuren und können Tausende von Arbeitsstunden und unzählige Ressourcen zum Bauen und Testen aufwenden.

Schließlich benötigen Sie den Code. Ein Nanobot braucht sowohl eine Programmierung als auch einen Körper. Die Reichen können es sich leisten, die besten Programmierer und Software zu kaufen. Die Armen können bestenfalls einen gefälschten Code herunterladen, von dem sie nicht wirklich wissen, was er tut oder ob er mit Malware geladen ist. Das Beste, was die Armen tun können, um zu konkurrieren, ist mit gestohlener Hardware, Designs und Codes, die sie optimieren und auf das Beste hoffen.

Designs und Programmierung sind nicht unbedingt ein Thema; es gibt immer Open Source und Open Hardware. OTOH, es gibt in der Tat einen großen Unterschied zwischen 3D-Druckern, die makroskopische Sachen machen können, und 3D-Druckern, die moderne Elektronik drucken können.
@Matthew, es würde sicherlich eine ziemlich mutige Person erfordern, einen Open-Source-/Hardware-KI-Nanobot in ihr Gehirn zu stecken. Wenn die Dinge so liefen, können Sie erwarten, dass das FBI/CIA ihre Finger im Spiel hat, ganz zu schweigen von all den anderen Problemen, die die Open-Source-Community hat ...
@Matthew Die meisten erstklassigen Hardwaredesigns für die meisten modernen Elektronikgeräte sind nicht Open Source. Und werden es nicht sein, bis sie irrelevant sind. Wir sprechen hier von NVIDIA-Chipsatz-Blueprints, nicht von NVIDIA-Treibern (die tatsächlich für eine bessere Interoperabilität Open Source sind).
@Gnudiff Die von der Community entwickelten Open-Source-NVIDIA-Treiber sind in der Leistung deutlich schlechter als die von NVIDIA entwickelten Closed-Source-Treiber.
@Michael stimmt, aber wir sprechen nicht einmal über Treiber, außer zum Kontrast. Nanobot-Design ähnelt Chipsatz-Blaupausen, nicht Chipsatz-Treibern.
Was hindert Sie daran, eine Drohne zu bauen? Nichts. Was hindert Sie daran, eine Militärdrohne zu bauen? Fehlende Hardware (3D-Drucker für Chassis, CNC für das Schaltungsdesign, automatisierte Bestückungsmaschine zum Hinzufügen von Chips und Widerständen usw. und die Teile selbst), fehlende Software (sichere Kommunikationskanäle, umfangreiche Tests usw.), rechtliche Bedenken. Angesichts der Tatsache, dass ein Nanobot wahrscheinlich in Aktion verloren geht, werden Sie viele davon benötigen. Selbst dann haben die Reichen wahrscheinlich Scanner, die ausgehende Signale von Nanobots in ihrem Körper überprüfen, und können Mitarbeiter stichprobenartig auf ähnliche Geräte überprüfen.
@Michael Liegt das nicht hauptsächlich daran, dass NVIDIA versucht, Informationen vor dem Open-Source-Team zu verbergen?
Ich kaufe es nicht – die Geschichte ist übersät mit Underdogs, die die „Großen“ besiegen. Alles von der amerikanischen Revolution (Briten "pffft, sie sind keine Bedrohung") bis hin zu Dell Computer und anderen (hat IBM überhaupt den Beginn ihres Niedergangs bemerkt??). Ich denke eher an ein Wunderkind, das Nanobots erschafft, um Nanobots zu suchen und zu zerstören ... hmmmm.
@gszavae ganz im Gegenteil, es wäre sehr mutig oder sogar dumm, einen Closed-Source-Nanobot in Ihr Gehirn zu stecken. Woher willst du wissen, was es wirklich tut, wenn es einmal da oben ist? Wie bleiben Sie sicher, wenn sie keine Patches mehr bereitstellen?
Viele von Ihnen verfehlen den Punkt. Die Leute setzen sie sich nicht in den Kopf. Die Reichen und sie in ihrem Essen/Wasser verstecken. Sie haben keine Wahl. Die Reichen führen benutzerdefinierten Code aus, den sie besitzen und kontrollieren. Sie brauchen kein Open Source.
@ njzk2 Leider trifft das auf Open Source zu. Wer genau überprüft die gesamte Open-Source-Software und schreibt ihre eigenen Patches? Selbst für extrem gut genutzte Projekte ist das ein riesiges Problem. Die Annahme, dass nur Closed-Source-Projekte unter diesem Problem leiden, ist nicht wahr.
@gszavae für Ihren ersten Punkt: Per Definition prüfen viel, viel mehr Menschen als Closed-Source-Projekte.
@ njzk2 Das ist nicht richtig. Viel mehr Leute könnten sie überprüfen, aber leider gibt es keine Studien, die dies tatsächlich beweisen. In Open-Source-Projekten gab es schreckliche Fehler, und das spricht noch nicht einmal von absichtlichen Schwachstellen. Viele Open-Source-Programme verlassen sich auf "Oh, aber jeder könnte die Quelle lesen" und haben keine robusten Test- und Validierungsschemata. Sehr, sehr wenige Benutzer werden jemals die Quelle lesen, fast niemand (wenn überhaupt jemand) wird die Quelle tatsächlich überprüfen. Es ist ein theoretischer Vorteil, das ist alles.
Beispiel @gszavae: Ich habe vor ein paar Tagen einen Fehlerbericht zu einer von mir verwendeten Bibliothek geöffnet, und nachdem ich genau analysieren konnte, was passiert ist, kann ich eine Lösung vorschlagen und möglicherweise die Korrektur bereitstellen. Andererseits bin ich nicht in der Lage, halb so viel mit Fehlern zu tun, die in Close-Source-Bibliotheken gefunden wurden.
@njzk2 Das Beheben eines Fehlers ist weit davon entfernt, ein Programm zu prüfen. Versuchen Sie zu verstehen, was Sie andeuten; "Ich habe einmal einen Fehler behoben, daher ist Open Source sicher vor Fehlern und Bosheit"? In welcher Welt macht das Sinn? Wir hatten so viele Fälle von Open-Source-Projekten, die nicht nur Mammutfehler, sondern auch absichtliche Hintertüren hatten. Ich weiß, Sie argumentieren mit Idealen, nicht mit Pragmatik, aber irgendwann müssen wir es wieder in die Realität zurückbringen.
Die Chancen stehen gut, dass die Software in diesem Stadium von KI geschrieben wird. Die Leute werden es einfach sowieso nicht lesen können.
@gszavae Es ist nur ein Beispiel und in keiner Weise eine Demonstration, aber es zeigt, dass Open Source Benutzern die Möglichkeit gibt, in die inneren Abläufe eines Codes einzutauchen und daran mitzuarbeiten, ihn zu verbessern. Nichts dergleichen kann für Closed Source gesagt werden.
@njzk2 Closed Source ist nicht auf Ad-hoc-Tests und -Debugging angewiesen
@gszavae Ich habe nie gesagt, dass es so ist. Sofern Sie nicht andeuten, dass Open Source dies tun würde (woher würden Sie diese Idee bekommen?), Bin ich mir nicht sicher, was ich mit Ihrem Kommentar tun soll.
@ njzk2 Das von Ihnen beschriebene Szenario ist für Closed Source nicht normal, da andere robustere Lösungen vorhanden sind.
@gszavae das Szenario, in dem ein Fehler in einem Closed-Source-Programm entdeckt wird, ist nicht normal? Wo steht in Closed-Source, dass es bestimmte robuste oder andere Lösungen gibt?

Von 3D-Druckern verboten

Nehmen Sie etwas Geld und versuchen Sie es zu scannen oder auszudrucken. Ihre Maschine lässt Sie dies nicht zu. Um dies zu verhindern, gibt es spezielle Schutzmaßnahmen, von denen die bekannteste die EURion-Konstellation ist . Ihr 3D-Drucker verfügt über einen ähnlichen Schutz und erkennt, dass Sie versuchen, einen Nanobot zu drucken.

Viele Daten, die gesendet und verarbeitet werden müssen

Denken Sie an selbstfahrende Autos. Sie sammeln Tonnen von Daten und müssen diese schnell verarbeiten. Sie erzeugen Terabytes an Daten. Das Gehirn ist sogar noch komplexer als ein Auto, also wird es um mehrere Größenordnungen höher sein. Ihre Nanobots sind nicht schnell genug, um so viele Daten zu verarbeiten, sie senden sie an einen zentralen Computer, der diese Daten verarbeitet. Aber das kann erkannt und somit reguliert werden

Dies ist meine Lieblingsantwort – sie nutzt vorhandene Technologie, um Fälschungen zu vereiteln, um eine absichtliche Einschränkung bei 3D-Druckern für Verbraucher zu extrapolieren, die nicht umgangen werden kann, ohne die Maschinen zu zerstören (oder ein in der allgemeinen Bevölkerung ungewöhnliches Maß an Fachwissen zu erfordern).
@JBH: Aber dieser Schutz ist nur wie ein Fahrradschloss: Er verhindert Gelegenheitskriminalität. Ein sehr entschlossener Krimineller kann einen Ausweg finden. Man könnte zum Beispiel eine eigene Firmware schreiben, um den Drucker oder Scanner zu betreiben.
@vsz Ein sehr entschlossener Krimineller (nicht um mit dem Finger zu zeigen, aber sagen wir, :-) der Superreiche ) kann sich in allen Verteidigungssystemen zurechtfinden. Den perfekten Schutz gibt es nicht. Wir könnten eine Klarstellung vom OP gebrauchen, aber ich vermute, dass er/sie von Gelegenheitskriminalität spricht. (Ist die Scanverbots-Firmware heutzutage? Früher war sie vorgeschrieben, da sie auf den Chip gebrannt wurde, sodass sie nicht trivial geändert werden konnte.)
@JBH: Es kann zwar nicht trivial ausgelesen und geändert werden, aber man kann immer eine neue Software von Grund auf neu schreiben. Wenn Freiwillige in ihrer Freizeit ganze Betriebssysteme schreiben können, ist eine Printer-Controller-Software nicht wirklich weit hergeholt.
@vsz aber deshalb wurde es ursprünglich auf den Chip gebrannt. Es konnte nicht von einem unternehmungslustigen jungen Ingenieur umgeschrieben werden. Es musste vollständig durch die Herstellung ersetzt werden, und der Herstellungskette wurden Regeln auferlegt (wenn ich mich erinnere, strafrechtliche Vorschriften, es waren die 90er Jahre, als ich das letzte Mal nachgesehen habe), die dies in allen außer den entschiedensten Fällen grundlegend stoppten. Ich wäre ehrlich gesagt schockiert, wenn die Fähigkeit, kein Geld zu fälschen, einfach eine Frage der Firma/Software wäre. Sie hätten College-Studenten auf jedem Campus, die 20-Dollar-Scheine am laufenden Band ausgeben.
@vsz Dies bringt jedoch einen weiteren Punkt hervor, wenn ich mich richtig erinnere, mussten die Druckerhersteller auch den Farbumfang der vorfarbigen Rechnungen vollständig vermeiden. Mit anderen Worten, es gibt mehrere Möglichkeiten, wie das OP diese Anforderung durchsetzen kann. Machen Sie die Naniten von einer bestimmten Titanlegierung abhängig und kontrollieren Sie dann beispielsweise den Verkauf dieses Titans vollständig. Zwischen den beiden Beschränkungen würde es einen sehr entschlossenen Verbrecher brauchen, um die kleinen Hupen zu machen.
@JBH: Verbrannt bedeutet nicht, dass es nicht überschrieben werden kann. In den meisten Chips gibt es Sperrbits, die das Lesen, aber nicht das Schreiben verhindern. Und selbst wenn der Chip physikalisch irgendwie nur einmal beschreibbar ist (was dann Firmware-Updates verhindern würde), könnte man sich einen neuen Mikrocontroller kaufen. Und wenn sich das als unmöglich erweist, löten Sie einfach den Mikrocontroller aus und schließen Sie einen anderen an. (wie ein High-End-Cortex, das ist mehr als genug, um eine Software zu implementieren, um die Motoren des Druckers zu bewegen).
Sie können online suchen, es gibt Leute, die die Firmware in ihrem Drucker und Scanner so geändert haben, dass die Motorfrequenz so variiert wird, dass sie ein Lied spielt. Es gibt Implementierungen des Videospiels Doom für Drucker.
@vsz Ich entschuldige mich, Sie scheinen das falsch zu verstehen. In den 90er Jahren wurden die Chips buchstäblich entworfen und verbrannt, um solche Änderungen zu verhindern. (Denken Sie daran, dass Sie mit einem Elektroingenieur sprechen.) Ich spreche nicht von FPGAs, Gate-Arrays oder anderen Arten von Firmware oder Speicher. Ich spreche davon, dass die Steuerchips nicht in der Lage sind, die Farben (beim Scannen oder Drucken) zu erkennen, sodass sie nicht (Punkt) reproduziert werden können. Es gibt keinen Sinn für eine andere Lösung. Gymnasiasten konnten die Einschränkung überwinden.
@JBH: Mein Punkt war, dass Sie es nicht neu programmieren oder replizieren müssen. Sie können es einfach entfernen. Und fahren Sie die Mechanik mit Ihrem eigenen Controller. Es ist viel einfacher, einen eigenen Controller zu bauen, als die mechanischen Teile des Druckers herzustellen.
@vsz Es ist viel einfacher, einen eigenen Controller zu bauen, als die mechanischen Teile des Druckers herzustellen. Ich fürchte, ich muss dieses Gespräch verlassen. Sie wissen zu wenig über Chipdesign, Fertigung und Modifikation von Leiterplatten, um darüber zu diskutieren. Die mechanischen Komponenten eines 3D-Druckers machen vielleicht 20 % der Kosten und des Herstellungsaufwands aus. Zahnräder sind einfach.
@JBH: Bitte hör auf, Annahmen darüber zu treffen, was ich weiß und was ich nicht weiß. Sie scheinen meine Aussage absichtlich falsch zu verstehen. Ich meinte nicht das Entwerfen und Herstellen eines benutzerdefinierten Chips! Ich meinte, einen vorhandenen Mikrocontroller zu kaufen und meine eigene Firmware dafür zu entwickeln, um alle mechanischen Teile anzutreiben. Und ich sprach nicht einmal von 3D-Druckern. Es ist nicht einfacher, einen Tintenstrahldrucker oder eine geeignete Qualität zu Hause von Grund auf neu zu bauen, als nur Software zu schreiben. Aber ja, das Anschließen eines anderen Mikrocontrollers könnte eine extreme Lösung sein. Es gibt einfachere Wege: youtu.be/R6k72DI0Qo0?t=32

Druckkopfgröße. Ein Drucker mit einem Kopf, der klein genug ist, um die Produktion im Nanomaßstab richtig zu handhaben, ist der Öffentlichkeit nicht zugänglich. Warum sollten die Unternehmen jemals Drucker mit einer so kleinen Größe verkaufen? Die Öffentlichkeit wird diesen Detaillierungsgrad in ihrem Drucker selten benötigen.

Form und Funktion des Druckkopfes. Die Form des Druckkopfs (und der Zuführungsschläuche) sowie seine Funktionsweise können die Verarbeitung von Materialien einschränken. Diese Drucker haben wahrscheinlich Dutzende, wenn nicht Hunderte verschiedener Druckköpfe, und derjenige mit der richtigen Form und den richtigen Funktionen zum Drucken (bösartiger) Nanobots fehlt einfach oder ist immer ein "Produktionsfehler".

Materialien nicht verfügbar. Nanobots sind häufiger spezifische Moleküle, die sich biologischen Funktionen annähern. Wenn die richtigen Materialien nicht an die Öffentlichkeit verkauft werden, um die fortgeschrittenen Versionen zu bauen, können Sie sie nicht bauen.

Vorlagen nicht verfügbar. 3D-Drucker brauchen eine Vorlage, um daran zu arbeiten, damit sie wissen, was sie bauen müssen. Es ist ziemlich schwierig, einen funktionierenden Nanobot-Schwarm zu entwerfen, der auch nur eine kleine Aufgabe bewältigen kann, ganz zu schweigen von der magischen Komplexität, die Dutzende, wenn nicht Hunderte von Nanobot-Varianten in Schwärmen erfordert, um zu funktionieren.

Einschränkungen bei Software und Computerhardware. Die böswillige Konstruktion von Nanobots verursacht absichtliche Fehler und macht es unmöglich, sie zu bauen, es sei denn, Sie können Ihre eigene Computersoftware und -hardware erstellen, um die Probleme zu beheben. Wie wirst du es bauen? Nun, Sie sind wahrscheinlich auf diesen 3D-Drucker angewiesen, der Ihnen Fehler gibt, wenn Sie versuchen, die gewünschten Teile zu bauen ...

Softwareprüfungen. Alle Drucker sind an einen zentralen Hub angeschlossen. Sie erkennen, dass Sie bestimmte Nanobots herstellen, und Sie bekommen einen Trip durch das Justizsystem.

Nanobot-Sabotage. Die öffentlichen 3D-Drucker sind alle mit installierten Nanobots ausgestattet, die den 3D-Drucker und seine Umgebung abhören. Sie bemerken, dass Sie Nanobots bauen, die nicht freigegeben sind, und beschädigen den 3D-Drucker. Wenn die Bots die Behörden nicht alarmieren, wird ein Mechaniker dies tun (obwohl der Mechaniker denken könnte, dass er nur ein bestimmtes Teil bestellt).

Zunächst einmal sind Drucker, die tatsächlich im atomaren Maßstab drucken können (im Gegensatz zum Zusammenbau bestehender Makromoleküle), unglaublich teuer. Darüber hinaus sind fast alle Drucker jeglicher Art auf vorab genehmigte Designs oder High-Level-Variationen davon beschränkt. Designs müssen mit einer Hersteller-ID mit Wasserzeichen versehen sein, dürfen keine automatische Replikation enthalten, außer in sehr spezifischen und streng geprüften Designs, und müssen eine Reihe anderer Sicherheitsmerkmale enthalten, die dazu bestimmt sind, Missbrauch einzuschränken. Ein Drucker, der die Sicherheitsmerkmale umgehen oder fälschen kann, ist äußerst illegal. Die einzigen legalen "ungezügelten" Modelle sind diejenigen, die tatsächlich neue Drucker, neue Low-Level-Designs, Waffen erstellen. . . Diese werden von den Behörden auf einem Grad an Paranoia kontrolliert, der den heutigen Methoden für Nuklearmaterial und Druckpressen für Papiergeld und Ausweisdokumente ähnelt.

Ich empfehle dringend, Neal Stephensons The Diamond Age zu lesen , da ich denke, dass dies eine wegweisende Sichtweise sein könnte.