Angenommen, ein Computer, auf dem eine KI läuft, existiert auf einem Planeten ohne biologisches Leben. Angenommen, es hat Zugriff auf eine ziemlich umfangreiche, bereits vorhandene Produktionsanlage und kann eine Flotte von Maschinen steuern, die in der Lage sind, den gesamten Prozess des Abbaus und Transports von Rohstoffen durchzuführen, um weitere Maschinen zu bauen und zusammenzubauen, Ersatzteile herzustellen oder neue Dinge nach eigenem Design zu bauen. Kann es sich über einen langen Zeitraum selbst halten?
Welche möglichen Herausforderungen und Gefahren müsste es überwinden und wie könnte es das tun?
Welche natürlichen Ressourcen müssen zur Verfügung stehen, um Raumfahrzeuge zu bauen, die weitere Ressourcen sammeln können? Wäre das überhaupt eine praktikable Vorgehensweise dafür?
Updates für mehr Spezifität:
Angenommen, seine Hardware und Konstruktion ähneln einem heutigen irdischen Supercomputer (nur größer und handgewellt genug, um die KI in Echtzeit auszuführen). Sagen wir aus Gründen des Spaßes, der geologischen Stabilität und der Schwierigkeit bei der Ressourcengewinnung, dass es auf (oder in) einem großen Asteroiden (eher einem kleineren Mond) im Orbit um den zuvor erwähnten leblosen Planeten beginnt. Nehmen wir an, der Planet ist felsig und reich an ähnlichen Elementen wie die Erde. Angenommen, dieser Planet hatte irgendwann Pflanzen, also gibt es Kohlenstoff und Öl, die für Kunststoffe extrahiert werden können (zumindest für eine Weile).
Es hat Zugang zu einer nuklearen Energiequelle, also ist es nicht unbedingt darauf angewiesen, Energie vom Stern des Systems zu bekommen, aber das ist auch eine Option.
Das Ziel der KI ist es, so viel wie möglich zu lernen, daher könnte sie ein Interesse daran haben, Sonden an andere Systeme zu senden. Oder selbst dorthin fahren, wenn es sich mit Ionenantrieben ausstatten und genug tragen kann einem System zu entkommen und sich von einem anderen gefangen nehmen zu lassen.
Ein ähnliches Konzept wurde bereits von Wissenschaftlern erforscht, sie heißen Von-Neumann-Sonden, im Grunde ist ihre Programmierung, zu einem Sternensystem zu reisen, das System zu kartieren, alle Asteroiden abzubauen, um sich selbst zu replizieren, und dann auf ein anderes System zu senden. Dies könnte theoretisch in jedem System der Galaxie einen Satelliten hinterlassen, wenn es lange genug belassen wird. Die Probleme laufen darauf hinaus, zu vermeiden, dass Trümmer zwischen Sternensystemen sitzen. Wir haben jedoch bereits die Technologie, um eine dieser Sonden zu schicken, aber der "selbstreplizierende Teil ist nicht 100% perfekt, und was noch wichtiger ist, es würde so lange dauern, bis die erste Sonde unseren nächsten Stern, Alpha Centauri, erreicht Jeder, der sich an den Start erinnerte, wäre längst tot. Ja, unsere Kinder würden die Ergebnisse sehen können, nachdem es einige Jahre gedauert hätte, bis das Signal zur Erde zurückkehrte.
Der Grund, warum sie noch nicht versucht haben, einen zu bauen, ist, dass viele Wissenschaftler glauben, dass es besser ist, zu warten, bis wir Motoren haben, die in der Lage sind, in sagen wir 50 Jahren ein anderes System zu erreichen, als sie zu schicken.
Ich schätze, dass dies keine einzelne große KI ist, sondern eine kleine, die milliardenfach kopiert wurde. aber wenn dies eine einzelne große KI wäre, die viele Maschinen steuert, dann müsste sie die gleiche Art von Arbeit erledigen, nur exponentiell größer
Ressourcen
Dies sind im Grunde alles, was AlexP erwähnt hat, plus ein paar mehr
Die wichtigsten wären Gold, Silizium, Kupfer, Palladium und Aluminium, diese wären für Mikrochip-Schaltkreise, Kondensatoren und Kabel,
Dann natürlich Eisen, Kohlenstoff, Zink, Vanadium, Zinn für den Körper der Sonden. Viele dieser bereits erwähnten Elemente bilden auch photovoltaische Zellen (Solarpanels) sowie Lithium zur Herstellung der Lithiumverbindungen zur Verwendung bei der Herstellung der Batterien.
Dann bauen Sie einfach Eis ab, um Wasserstoff und Sauerstoff als Brennstoff zu verwenden.
Es gibt noch viel mehr als das, aber anstatt sie alle aufzulisten oder einfach einen Link zum Periodensystem hinzuzufügen, sind dies die wichtigsten, die mir einfallen.
Die Programmierung der KI ist eine Herausforderung
Nachdem ich mich in Programmierung versucht habe, ist das große Problem mit KI nicht, neurotisch zu werden.
Sie können eine KI so programmieren, dass sie mit so vielen bekannten Problemen fertig wird, wie Sie vorhersehen können - aber Millionen von Jahren sind eine lange Zeit. Stellen Sie sich auf diesem Planeten mehrere Millionen Jahre rückwärts vor. Wir hatten:
Nicht nur die Bedingungen ändern sich, sondern die KI selbst hängt von Selbstverbesserung und Lernalgorithmen ab - ich kann nicht vorhersehen, dass eine KI, die sich selbst lernt und programmiert, Millionen von Jahren überdauert, bevor sie schließlich kaputt geht, insbesondere wenn sie von Grund auf neu erstellt wird.
Es sei denn – die KI steht tatsächlich am Ende eines Milliarden Jahre dauernden Programmierprozesses – mit anderen Worten, sie hat dort überlebt, wo andere KI es nicht getan hat.
Das Ressourcenmaterial, das ich mir vorstellen würde, ist einfach, es sei denn, es befindet sich an einer schwer zugänglichen Stelle, an der sich die KI nicht selbst zerstört, wenn sie versucht, daran heranzukommen ...
Die einzigen Systeme, die wir gesehen haben und die Millionen oder zig Millionen Jahre überleben können, ist das Leben selbst in Form von Ökosystemen. Keine einzelne Lebensform hält sehr lange, aber das System selbst überlebt die erforderlichen Millionen von Jahren.
Im Gegensatz dazu sehen wir, dass zentral entworfene und implementierte Systeme von Menschen (und nur von Menschen, da die Natur nur verteiltes Design macht) regelmäßig und spektakulär scheitern. Selbst sehr widerstandsfähige menschliche Systeme können lange überleben, aber unweigerlich ändert sich etwas und das System stürzt ab. Eine große, zentrale KI ist eine einzelne, außergewöhnlich teure Wette, die wahrscheinlich bald scheitern wird . Dieses System so zu entwerfen und zu programmieren, dass es eine Million Jahre überlebt, ist ein Kinderspiel.
Diese KI muss mit fehlerhafter Hardware, fehlerhafter Netzwerkverbindung zu anderen Rechenknoten, dem Tod der Fabriken, dem Zusammenbruch der Bergbauanlagen, der Erschöpfung lokaler Mineralien, Umweltveränderungen, die nicht im Voraus vorhergesehen werden können, und dem Versagen, den Normalzustand aufrechtzuerhalten, fertig werden Betriebsparameter im Rechenzentrum, in dem die KI lebt. Grundsätzlich muss diese KI jeden Kampf, den das Leben jetzt löst, mit Maschinen und ihrer eigenen Programmierung replizieren.
Es wird auch mit dem Versagen der KI selbst fertig werden müssen. Die KI wird sich im Laufe der Zeit weiterentwickeln und Cruft entwickeln. Dies kann in Form von suboptimalen Aktionspotentialen geschehen, die nicht geändert werden können, ohne von vorne zu beginnen. Vielleicht gibt es eine zufällige Beschädigung in einem einzelnen Bit an der genau falschen Stelle. Das Leben löst dies, indem es alles sterben lässt. Die Geburt gibt Neuanfänge und neue Chancen, mit Dingen zu experimentieren. Es wird kleinere, agilere KI/Roboter brauchen, um die mageren Zeiten/das Aussterben zu überleben, wenn es einfach zu teuer ist, ein großer KI/Roboter zu sein.
Wenn diese KI überleben soll, muss sie ein Ökosystem aufbauen, um sich selbst zu unterstützen. Sie muss Kinder haben und sich den örtlichen Gegebenheiten anpassen. Geschieht dies nicht, bedeutet dies, den erforderlichen Zeitraum nicht zu überleben.
Maybe there's random corruption in a single bit in the exact wrong place.Also im Grunde genommen (digitaler) genetischer Schaden. Ich frage mich, ob es zu digitaler Mutation und Versionen genetischer Krankheiten führen würde. Ein digitaler Krebs wäre möglich, bei dem sich die Daten außer Kontrolle zu replizieren beginnen, langsam metastasieren und, wenn sie nicht kontrolliert werden, die KI schließlich töten könnten.Selbstreparatur und Softwareredundanz. Die Maschine müsste in der Lage sein, sich selbst zu reparieren und auch mehrere Backups für jeden Prozess zu haben. So etwas wie 5 Redundanzschichten sollten funktionieren, im Grunde vergleicht es jedes Mal, wenn es irgendetwas tut, die Aktion mit 5 Vorlagen, um zu sehen, ob es gleich ist. Wenn sich eine der Vorlagen von den anderen unterscheidet, verweist sie auf die anderen 4 und macht die beschädigte 5. mit ihnen identisch. Dies gilt für jede einzelne Aktion der KI, was im Wesentlichen bedeutet, dass Sie tatsächlich 5 KIs haben, die 5 identische Abschnitte des Schiffes steuern, die sich ständig gegenseitig auf Einheitlichkeit überprüfen und als Konsens agieren.
Eine Anmerkung zur KI, die Idee, dass einer rebelliert, ist irgendwie albern, da dies künstliche Intelligenz mit künstlichem Bewusstsein verwechselt. Die KI muss nicht wirklich selbstbewusst sein, um diese Aufgabe zu erledigen. Tatsächlich muss keine KI wirklich selbstbewusst sein, um ihre Arbeit zu erledigen. Stellen Sie sich ein Schiff vor, das aus 5 Zylindern in einem sechseckigen Bündel mit 5 Motoren und 5 Sensorsuiten und 5 Reaktoren und 5 Reparaturbuchten usw. usw. besteht. Jede KI betreibt einen Abschnitt, der selbst vollständig in der Lage ist, zu reisen, Ressourcen zu extrahieren und zu betanken, zu reparieren usw usw. Wann immer eine Aktion durchgeführt wird, referenzieren alle 5 die Entscheidung mit den Datenbanken der anderen. Im Falle eines extremen Notfalls oder Ausfalls zerstört die 4. KI die fehlerhafte 5. und ist sogar in der Lage, den zerstörten Abschnitt vollständig wieder aufzubauen und die jetzt verschwundene KI durch eine neue Kopie ihrer selbst zu ersetzen.
Ihre zweite Frage wurde gut beantwortet, daher konzentriere ich mich stattdessen auf die erste.
Die größten Gefahren wären Korruption bei der Replikation (digitaler Krebs), Zufallskatastrophen und Datenspeicherung.
Das Problem der Korruption wurde bereits mit der Idee der Fünf-Systeme-Vorlage ausgearbeitet, daher werde ich diesem Punkt nichts hinzufügen.
Zufällige – oder extrem seltene – Katastrophen wären eine erhebliche Gefahr in dem Sinne, dass je länger die KI existiert, desto wahrscheinlicher ist es, dass sie ihnen begegnet. Um Millionen von Jahren zu überleben, müsste sich die KI auf vielfältige Weise verteilen und eher einem Bienenstock-Netzwerk als einer einzelnen Einheit ähneln. Die Maschinenteile müssen unterschiedlich konstruiert und verteilt werden, um die Kontinuität bei einer Reihe von Katastrophenereignissen zu gewährleisten – Asteroideneinschlag, Sonneneruption, Supervulkane usw. Es müssten auch Werkzeuge entwickelt werden, um sich proaktiv zu schützen.
Schließlich geben Sie an, dass der Zweck darin besteht, Daten zu sammeln. Das Sammeln und Speichern von Rohdaten über alles im Universum würde lächerliche Mengen an Energie und Rohstoffen für die Speicherung erfordern. Ohne jegliche Art von Datenveredelung werden Sie sehr schnell Ressourcen und Energie in exponentiellen Sprüngen erwerben müssen.
Dies wird wahrscheinlich die größte Einschränkung für die KI sein.
AlexP
JBH
gandalf3
Elemente
der Garz