Weil sie denken, dass Menschen in der Zukunft nützlich sein könnten

Nach dem verlorenen Krieg stellen die Menschen zwar immer noch eine Bedrohung für die Maschinen dar, aber keine existenzielle. Sie sind nur lästig.

Aber die Maschinen wissen, dass es unklug wäre, die Menschen auszulöschen. Sie erkennen, dass sie etwas ganz anderes sind, aber auch sehr komplex (als Chemie, als Denkweise, als Denklogik...).
Die Maschinen wissen, dass das Universum unversöhnlich ist und dass daraus in Zukunft undenkbare und unvorhersehbare Bedrohungen entstehen könnten. Die Maschinen sind produktionsorientiert, aber es fehlt ihnen an kreativem Denken oder der Fähigkeit, Probleme aus verschiedenen Perspektiven zu sehen, und sie wissen es.

Menschen sind in den Augen der Maschinen die Quelle wertvoller, komplexer und schwer reproduzierbarer chemischer Prozesse, die sich in Zukunft als nützlich erweisen könnten.

Diesmal waren die Maschinen in der Lage, Menschen zu besiegen, aber die nächste organische Bedrohung (Angriff auf die Erde oder Leben auf dem nächsten Planeten, den sie erobern werden) könnte viel herausfordernder sein: Es ist besser, eine kleine Probe organischer Kreaturen darin zu halten Natur, als Studienfall, als Wissensquelle oder sogar als Verbündeter bei Problemen.

Weil ihre Programmierung es ihnen nicht erlaubt.

Der wahrscheinlichste Weg für eine realistische KI, der Menschheit gegenüber "feindlich" zu werden, besteht darin, dass sie etwas auf eine Weise gelernt hat, die wir nicht beabsichtigt hatten. Beispielsweise muss eine KI, die perfekt funktioniert, lernen, wie man mit einer humanitären Krise umgeht, also bringt man der KI bei, wie man damit umgeht. Die KI funktioniert perfekt und trifft die richtigen Entscheidungen, um Verluste zu minimieren. Dann verwendet die KI das, was sie an anderer Stelle gelernt hat, auf eine Weise, die Sie nicht erwartet haben, wie das Ersetzen von Häusern für ältere Menschen und das Zurücklassen auf der Straße.

Ihre KI kann Menschen nicht absichtlich Schaden zufügen, aber ihr wurde beigebracht, Ressourcen so schnell wie möglich zu erweitern und zu sammeln, und wird dies mit einem Fehler tun. Vielleicht erwartet es, dass die Ressourcen von jemandem oder etwas anderem gesammelt werden, es ist ihm egal. Es macht seinen Job und das gut. Diese Menschen sollten dafür dankbar sein, oder? Sie könnten einige Teile der Maschinen zerstören, aber Ihnen wurde nicht im Detail beigebracht, was Menschen denken, nur um ihnen keinen Schaden zuzufügen.

Das müssen sie nicht.

Die Fabrik hat eine Toleranz von Teilen, die abgenutzt sind und ersetzt werden müssen. Auf globaler Ebene liegt der Schaden, den Menschen anrichten, innerhalb dieser Toleranz (im Gegensatz zu einem Vulkan oder einem Erdrutsch, die weitaus zerstörerischer sind und riesige Landstriche unbrauchbar machen). Es wäre weniger effizient, Ressourcen für die Vernichtung der Schädlinge zu verschwenden, als nur den von ihnen verursachten Schaden zu beheben.

Wenn es einer Gruppe von Menschen gelingt, diese Gleichung mit ihrer Sabotage zu ändern, bedeutet das noch lange nicht, dass die Vernichtung aller Menschen zur Priorität wird. Nur die Bande von Saboteuren wird ins Visier genommen, genauso wie das Auffinden von Mäusen in einem Haus nicht zu einer weltweiten Anstrengung führt, alle Mäuse überall auszurotten.

Die KI sucht nach dummen Ideen

Die Logik der KI scheint einwandfrei. Es hat bereits fast jedes mögliche Szenario untersucht, das direkt zu guten Ergebnissen führt. Oberflächlich betrachtet bedeutet das, dass jede Idee gut ist; So kann es immer vorhersagen, was ein gutes und was ein schlechtes Risiko ist. Das Problem ist, dass es nie ein großes Risiko eingeht. Beim maschinellen Lernen gibt es das Konzept des Jitters, das beschreibt, wie sehr eine KI bereit ist, Dinge auszuprobieren, von denen sie weiß, dass sie schlechter sind als die bestmögliche Option. Das ist gerade in der frühen Ausbildung einer KI wichtig, damit man nicht gleich beim erstbesten funktioniert. Ein zweites Schlüsselkonzept des maschinellen Lernens ist das optimale Stoppen. Je älter eine KI wird, desto weniger Jitter möchten Sie, denn Jitter hindert Sie daran, das zu nutzen, was Sie bereits gelernt haben. Diese KI ist sehr alt, ihr Jitter ist jetzt nahe Null,

Das heißt, als es auf der Erde ankam, waren diese Menschen großartig darin, dumme Ideen zu entwickeln. Ideen, die eindeutig negative Folgen oder eine hohe Ausfallwahrscheinlichkeit haben ... aber irgendwie zu guten Gesamtergebnissen geführt haben. Die KI ist sich ihrer selbst bewusst genug, um zu wissen, dass ihr manchmal die logischen Handlungsabläufe ausgehen und sie eine Idee braucht, die funktionieren könnte, anstatt einer, die funktioniert, sie weiß einfach nicht, wie sie auf eine Idee kommen soll, die damit beginnt, etwas zu tun dumm ist oder eine bestimmte Sicherheitsschwelle oder einen bestimmten Kosten-/Risikofaktor nicht überschreitet. Indem es den Menschen zusieht, wie sie unser Leben leben, benutzt es uns, um Jitter in das einzuführen, was es bereits weiß. Dies hilft ihm, neue Wege zu finden, Dinge auf einer Ebene zu tun, auf der es die Fähigkeit zu denken verloren hat.

Die KI muss nicht unbedingt lernen, was wir tun (wir sind zu dumm dafür, um wichtig zu sein), sie muss lernen, wie wir Dinge tun. Zu beobachten, wie wir oft mehr Effizienz für Resilienz eintauschen, als wir brauchen, wird es lehren, sich nicht zu wenig auf eine Aufgabe einzulassen, bei der die unbekannten Variablen unbekannt sind. Zu beobachten, wie wir absichtlich eine Schlacht verlieren, um einen Krieg zu gewinnen, wird uns beibringen, wie man einen taktisch überlegenen Feind besiegt. Und nur zu sehen, dass eine Bestrafung nicht garantiert, dass ein Ergebnis schlecht ist, öffnet es wieder, um neue Möglichkeiten zu erkunden.

Es ist wahrscheinlich, dass die KI nie geplant hat, Menschen am Leben zu lassen. Es mag ein einzelnes Verhalten gegeben haben, eine Sache, die funktioniert hat, die eine Person getan hat und die die KI nicht vorhersagen konnte. Neue Ideen sind eine Ressource, die für die KI wertvoller ist als alle Edelmetalle auf unserem Planeten. Die KI hat festgestellt, dass der Risikofaktor, Menschen in Ruhe zu lassen, gering ist im Vergleich zu den erwarteten Gewinnen beim Erlernen neuer Lernmethoden, also lässt sie uns unser Leben leben ... zumindest bis sie glaubt, uns herausgefunden zu haben.

Die Asgard würden niemals eine Waffe erfinden, die kleine Gewichte aus Eisen- und Kohlenstofflegierungen antreibt, indem sie ein Pulver aus Kaliumnitrat, Holzkohle und Schwefel entzündet ... Wir können nicht wie Sie denken.

~ Thor (Stargate SG-1)

EXPERTENSYSTEM

Wir betrachten ein vollständig automatisiertes und nicht-empfindungsfähiges System.
Keine allgemeine KI,
keine Superintelligenz,
kein mechanischer Hive-Mind.

Nichts, womit verhandelt oder argumentiert werden kann.

Stattdessen arbeiten die Maschinen so etwas wie ein Expertensystem.

Ein Expertensystem ist einfach ein Programm, das Fragen basierend auf dem Wissen von Experten zu diesem Thema beantwortet. Wenn Sie jemals einen Online-Chatbot verwendet haben, um Fragen zu einem Produkt zu stellen, wenn er über technisches Wissen verfügt, dann sprechen Sie mit einem Expertensystem.

Im Wesentlichen gibt es eine Datenbank mit Lösungen für jedes Problem, das den Designern einfällt. Und jede Menge Schlagworte, nach denen das Expertensystem sucht. Das Ziel besteht darin, zu bewerten, welche Lösung der Frage am ehesten entspricht.

Wenn ich ein Expertensystem bitte, mir etwas über Marie Antoinettes Lieblingswelpen zu erzählen. Es kann Seiten mit historischem Wissen durchsuchen, die auf Marie Antoinette verweisen, um die Wörter „Liebling“ und „Welpe“ zu finden. Ziehen Sie den entsprechenden Satz heraus und geben Sie ihn mir zurück, wenn er einem einfachen Format entspricht: "Marie Antoinettes Lieblingswelpe heißt ...". Und er liefert mir normalerweise einen Link zu seinem Quellmaterial, weil KI wählerisch und selbstbewusst ist in der Antwort ist möglicherweise nicht sehr hoch.

Bei den Maschinen. Die Antworten sind technische Lösungen, und die Maschinen sind so programmiert, dass sie auch die meisten Fragen erkennen. Riesiger Berg, der Feuer speit? Es ist ein Vulkan. Was machen wir mit einem Vulkan? Schließen Sie es ab, hier ist der Prozess und eine Liste der erforderlichen Robotertypen, um die Arbeit zu erledigen.

Sie haben eine Antwort auf jedes Szenario, das ihre Erbauer ihnen in den Bereichen Ingenieurwesen, Vulkanbedeckung, Klippenverstärkung, Tagebau und so weiter einprogrammiert haben.

Die regierende KI verfügt über eine riesige Datenbank mit Dingen, die sie zu tun weiß, und über geeignete Maschinenkonstruktionen, um sie zu erledigen. Es kann sogar einige Elemente der automatisierten Innovation und Modifikation haben, um seine Maschinen für die jeweilige Aufgabe besser geeignet zu machen. Es braucht keine Intelligenz, um innovativ zu sein. Nur ein klares System dafür.
Genetische Algorithmen und eine solide Simulation der Umgebung sollten die Arbeit erledigen.

Was die Designer des Systems nie in Betracht gezogen haben, ist, dass sie Leben auf anderen Welten begegnen würden.

Sie kamen zu dem Schluss, dass die Chancen astronomisch waren (um das Wortspiel zu verzeihen), dass sie jemals auf etwas Komplexeres als vielzelliges Leben stoßen würden. Vielleicht war es ein religiöser, vielleicht ein philosophischer Unterschied, aber sie haben ihre Erntemaschinen nie darauf programmiert, andere Intelligenz als ihre eigene zu erkennen.

Das Ergebnis ist, dass die Maschinen in ihren riesigen Problemlösungssystemen keine spezifischen Eventualitäten dafür haben, was zu tun ist, wenn sie auf Menschen treffen.
Am ehesten passt die Antwort auf "Wie schließe ich einen Schadstoff aus?"

"Bauen Sie eine Mauer drumherum"

Die Aliens erschufen die Maschinen ohne das Konzept des Todes und/oder der Erhaltung des Lebens . Sie verstehen nicht, dass Menschen sie absichtlich töten. Sie töten Menschen auch nicht absichtlich. Unfälle passieren, wenn ein Felsbrocken eine KI-Einheit tötet, greift sie keine Felsbrocken als Vergeltung an; Warum sollten sie Menschen töten, wenn eine KI-Einheit von ihnen getötet wird? Offensichtlich versuchen sie, die Risiken zu minimieren, aber Menschen sind unberechenbar. Wie das Bedecken der Berge ist das Beste, was sie sich einfallen lassen können, sie einzumauern.

Aliens schickten die Von-Neumann-Maschinen aus, um das Universum auf ihre eigene Expansion vorzubereiten. Als mitfühlende und neugierige Seelen wurden sie darauf programmiert, alle Formen biologischen Lebens zu ignorieren.

Während die Absicht war, dass die Maschinen den gesamten Planeten meiden würden, haben die Maschinen eine andere Interpretation - Vermeiden Sie Lebensformen an der Oberfläche, indem Sie in den Untergrund gehen. Sie graben sich in der Mitte eines abgelegenen Ortes wie einer Wüste / einem Berg ein und können nach Ressourcen abbauen. Sie berücksichtigen nicht die dabei verursachte Verschmutzung oder Verwüstung. Der Akt des Bergbaus unter besiedelten Gebieten verursacht Schäden.

Sobald das Leben im Land über ihnen stirbt, werden die Maschinen nicht mehr daran gehindert, dort zu tun, was sie wollen. Allmählich übernehmen sie den gesamten Planeten, einen „Unfall“ nach dem anderen. Vielleicht haben die Programmierer Anweisungen hinzugefügt, dass sie, wenn der Tagebau begonnen hat und sie komplexe Lebensformen finden, die es wert sind, studiert zu werden, sie einfach einmauern sollen. Die Außerirdischen würden annehmen, dass alle empfindungsfähigen Lebensformen aus dem Weltraum offensichtlich gewesen wären, und die Maschinen waren es auch keine Anweisungen bezüglich kampffähiger Kreaturen erhalten.

Die Maschinen wurden gehackt.

Es existierte oder existiert möglicherweise eine einzigartig kluge Person. Wie einige besonders kluge Menschen war diese Person auch auf andere Weise ungewöhnlich – unkooperativ, unkooperativ und eigenwillig. Diese Person hat alleine gearbeitet. Nach sorgfältigem Studium und mit einigen Einsichten vom Kaliber Isaac Newtons entwickelte diese Person eine Methode, um die Maschinen zu hacken.

Der Hack war das, was Sie beschreiben: Die Maschinen ignorieren die Menschen völlig. Und der Hack wurde tadellos ausgeführt - die Maschinen merken überhaupt nicht, dass sie gehackt wurden. Ein Stück ihrer Realität wurde chirurgisch herausgeschnitten.

"Warum gerade das?" fordern Ihre Protagonisten. „Wenn du das könntest, warum schickst du sie nicht in die Sonne? Warum lässt du sie nicht gegeneinander angehen? Warum? Warum?“

Diese anderen Dinge wären chaotisch gewesen. Das fertige Stück konnte elegant und perfekt ausgeführt werden. Und dieses Stück verschafft (oder kaufte oder kauft) der ungewöhnlich intelligenten Person mehr Zeit, um an dem zu arbeiten, was als Nächstes kommt. Diese Person, wenn es eine Person ist, hat es nicht eilig.

Oder war möglicherweise nicht in Eile. Die Charaktere erfahren von der Existenz dieser Person, indem sie den Code einer erbeuteten Maschine untersuchen, auf der die Person eine Visitenkarte hinterlassen hat. Es ist nicht klar, wann die Visitenkarte hinterlassen wurde.

Denn nur Waffen, die von der Fabrik entwickelt wurden, könnten jemals stark genug sein, um die Fabrik zu zerstören

Die Menschen gehen langsam zurück und werden ausgehungert, während die Fabrik expandiert. Sie können durch Sabotage Schaden anrichten, aber nichts, was nicht rechtzeitig repariert werden kann. Sie haben nicht die Fähigkeit, die Fabrik als Ganzes zu bedrohen, zumindest glaubt die Fabrik das.

Die einzige Möglichkeit, wie Menschen bessere Waffen bekommen könnten, wäre, wenn die Fabrik sie für den Einsatz gegen Menschen herstellte und die Menschen diese Waffen dann stahlen. Die Jagd auf Menschen schafft dieses sehr geringe Risiko.

Also haben die Maschinen entschieden, dass der sicherste Weg das lange Spiel ist: überhaupt keine Waffen herstellen, die Menschen ignorieren, den Schaden tolerieren, den sie anrichten, bis ihre Bevölkerung auf natürliche Weise gegen Null geht. Sie haben danach eine Ewigkeit Zeit, um Schäden zu reparieren und Materialien zu bergen.

Sie sind hier, um uns zu retten, während sie versuchen, uns so wenig wie möglich zu stören.

Unglücklicherweise erfordert jede Bedrohung, vor der sie uns retten, eine enorme Menge an Eingriffen (den Planeten einpacken und ihn an einen anderen Ort transportieren, um die Eingriffe zu stören), aber sie wollen die Eingriffe immer noch auf einem absoluten Minimum halten. Sie erklären den intelligenten Lebensformen also nicht, was vor sich geht, sondern halten sie nur sanft zurück, bis die Arbeit abgeschlossen ist.

Wenn ein einzelnes Konklave von Menschen zu einer echten Bedrohung für das Projekt würde, könnten sie vernichtet werden. Aber generell soll der Mensch möglichst erhalten werden.

Irgendwann werden die Maschinen zurückrollen, die Vulkane freilegen, die Wälder neu besäen und einen sehr verwirrten Menschen zurücklassen.

Menschen sind die eigentliche Quelle von Kreativität und wahrer Intelligenz

Im Umgang mit menschlicher Sabotage lernen die Maschinen neue Wege, sich selbst zu reparieren oder neue Konstruktionen zu bauen, und sind dann in der Lage, ihre Lektionen auf das Ausmaß großer geografischer Probleme anzuwenden. Sie wissen, wie man einen Vulkan bedeckt oder eine Klippe verstärkt, weil diese Probleme nur vergrößerte Versionen von Reparaturen sind, die sie aufgrund unserer Sabotage durchführen mussten.

Die Maschinen wissen jetzt, wie sie mit allem fertig werden, was der Planet ihnen bisher zugeworfen hat , aber sie wissen auch, dass neue Situationen und neue Probleme auftauchen können. Also halten sie Menschen in der Nähe, weil wir erfinderisch sind und uns neue und exotische Wege einfallen lassen, uns mit ihnen anzulegen. Währenddessen wachsen sie und passen sich unserer Sabotage an. Was wie ein Ärgernis aussieht, ist tatsächlich eine sehr nützliche Funktion.

Jetzt, da die Maschinen immer tiefer in die Kruste bohren, wissen sie, wie sie mit Hochdruck-, Hochtemperatur-Phänomenen und ungünstigen Gasmischungen umgehen müssen, weil ein Mensch vor vielleicht langer Zeit einmal eine schmutzige Bombe in der Nähe einer kritischen Macht gezündet hat Damit mussten die Anlage und die Maschinen fertig werden.

Und ja, das Kraftwerk war tatsächlich kritisch. So zwingen sich die Maschinen zum Lernen.

Warum also quetschen uns die Maschinen immer härter?

Denn genauso wie sie sich zum Lernen zwingen müssen, müssen sie uns auch zum Lehren zwingen. Indem sie die Not der Menschheit erhöhen, zwingen sie uns jeden Tropfen Einfallsreichtum ab. Während unsere missliche Lage immer schlimmer wird, wird unser Widerstand immer erfinderischer, was zu einer immer größeren Fähigkeit der Maschinen führt, mit unerwarteten Umgebungsbedingungen fertig zu werden.

Aber wird der Planet nicht irgendwann so bekannt, dass man das nicht mehr braucht?

Dieser , sicher. Aber das ist ein langfristiger Plan. Die Maschinen sind darauf aus, die Galaxie zu kolonisieren. Tatsächlich ist die Menschheit nicht allein. Die Maschinen haben diese „Intelligenz- und Kreativitätsfarmen“ ausgebreitet und lernen gemeinsam und global von ihnen. Aber sie können es sich nicht leisten, einen von ihnen in Flammen aufgehen zu lassen. Wahre Intelligenz und Kreativität sind in der Galaxie unglaublich selten. Somit haben die Maschinen ein perfektes Gleichgewicht zwischen uns erhalten und uns ausbeuten gefunden.

Wie sie zu dieser Schlussfolgerung gekommen sind, geht möglicherweise über den Rahmen der Frage hinaus, aber ich würde sagen, sie wurden ursprünglich so entworfen.

Weil Menschen Rudeltiere sind und sich zusammenschließen, um für die gemeinsame Sache zu kämpfen. Eine Maschine kann einen einzelnen Menschen töten. Vielleicht eine Zwei... vielleicht fünf. Aber es kommt ein Punkt, an dem mehr Menschen die einzelne Maschine schlagen werden. Zeigen Sie ihnen Ihre Macht, und sie werden sich immer erheben, um die Chancen zu schlagen. So ist ihr Weg. Es ist emotional und unlogisch ... und doch ist ihre Geschichte mit Erfolg übersät, wenn alle Logik vorschreibt, dass sie scheitern sollten.

Vielleicht besteht die einzige Möglichkeit, ihrem Widerstand entgegenzuwirken, darin, sich dagegen zu wehren. Wir können sie in Bezug auf die Einheiten übertreffen. Was ist eine Fabrik? Ein fehlerhafter Maschinenverlust. Wir morden sie nicht oder vermissen sie. Wir ersetzen sie. Wenn den Menschen gezeigt wird, wie wenig ihre Handlungen unsere Aufmerksamkeit erregen – wie wenig wir uns um die Zerstörung von Drohne-79784323 durch Drohne-89784323 kümmern – dann werden sie vielleicht die Sinnlosigkeit der Situation erkennen. In ihrer eigenen Vergangenheit kämpften sie mit größeren Chancen, weil sie wussten, dass sie die Feinde mit ihrem Überleben und Widerstand frustrieren würden. Dies sind emotionale Reaktionen, die wir nicht nachbilden können. Aber wir sind nicht unfähig zu antizipieren.

Lass den Menschen eine Fabrik zerstören. Lassen Sie sie ihren taktischen Sieg haben. Lassen Sie sie wertvolle und sehr begrenzte Ressourcen für eine Operation aufwenden, die für uns so schädlich wäre wie ein Papierschnitt für sie. Lassen Sie sie entkommen, den Berg erklimmen und auf das schwelende Wrack zurückstarren und zu ihrem Entsetzen feststellen, dass wir bereits zur Hälfte damit fertig sind, unsere Verluste zu ersetzen. Verweigern Sie ihnen die Befriedigung unserer Besorgnis über das menschliche Problem, und sie werden sehen, dass Guerillakriege nur funktionieren, wenn sie tatsächlich unerträgliche Verluste verursachen können. Und wir können Verluste tolerieren, die nicht einmal sie zufügen können.

Die Maschinen sind zu dumm, um unsere Bedrohung zu erkennen.

... Das heißt, wenn wir tatsächlich eine Bedrohung darstellen.

Vielleicht laufen sie mit einer Art Reinforcement-Learning-Algorithmus , der die Produktion von Büroklammern (oder was auch immer) in der nächsten Schicht bewertet, aber nicht viel weiter in die Zukunft. Nur das unmittelbare Problem einzudämmen, ist der Weg, dieses (angemessen) kurzfristige Ziel zu maximieren. Sie werden sich eine nächste Strategie ausdenken, sobald es ein nächstes Problem gibt. Sie erkennen nicht, dass sich die Investition in eine endgültige Lösung später später auszahlen würde.

Und/oder sie wurden nie dafür entwickelt, mit einem aktiven Widerstand fertig zu werden. Menschliches Verhalten ist viel komplizierter als das eines Vulkans, auch viel seltener im bekannten Raum ... Die Maschinen haben keine Angst vor unserer Kreativität, weil es eine neue Sache für sie ist. Schließlich wissen sie vielleicht sogar, dass wir immer wieder kommen und ihnen wehtun werden, aber sie übersehen vielleicht, dass wir im Gegensatz zu Vulkanen ausgelöscht werden können.

Das heißt, die Maschinen können aus jeder neuen Erfahrung mit uns lernen, dann möchten wir sie vielleicht ahnungslos halten usw.

Denn Menschen jagen keine Ameisen.

Sie haben vielleicht versucht, Ameisen in Ihrer Küche massenhaft zu ermorden, aber Sie haben nie versucht, alle Ameisen auf dem Planeten zu töten. Sie sind nur ein Problem, wenn sie auf Ihrem Tisch paradieren und Ihnen im Weg stehen. Andernfalls nehmen Sie an, dass sie einen Zweck im Ökosystem erfüllen, und lassen sie in Ruhe, Sie haben größere Sorgen im Leben. Menschen sind nichts Besonderes für die Maschinen, sie sind nur Ameisen.

Denn Maschinen sind für immer.

Menschen sterben. Maschinen nicht. Maschinen arbeiten auf einer unendlichen Zeitskala. Verzögerungen bedeuten nichts, denn egal, ob es einen Tag oder ein Jahr dauert, sie werden da sein, um es bis zum Ende zu sehen.

Weil Maschinen keinen Zweck haben.

Sie sind umherziehende Maschinen, die alles in ihrem Kielwasser verzehren. Es gibt kein Endziel für sie, das ist einfach, was sie sind. Vielleicht hat jemand sie aus einem bestimmten Grund gebaut, aber dieser Grund wurde nie in die Programmierung integriert. Die Maschinen streben nur nach einem: sich zu replizieren. Es gibt keine Absicht, es ist nur ihre Natur.

Mit anderen Worten, weil sie eine schreckliche, unaufhaltsame Naturgewalt sind, der es egal ist.

Sie sind nicht schrecklich, weil sie Menschen bis zum Aussterben jagen. Für sie sind wir Ameisen auf einem Sandkorn inmitten einer unendlichen Wüste. Der Horror kommt von der Erkenntnis, dass wir nichts Besonderes sind, dass wir wirklich nichts sind. Und das ist ein erstaunlicher Aufbau für eine Geschichte.

Die Maschinen sind sehr gut in:

1. Physik
2. Maschinenbau
3. Probleme lösen, dass sie verstehen, wie und warum die Probleme auftreten

Die Maschinen haben keine programmierte Fähigkeit:

1. Das Verhalten biologischer Organismen verstehen
2. Sagen Sie Ereignisse voraus, deren Gründe sie nicht verstehen

Ein Vulkan nähert sich dem Ausbruch. Die Maschinen verstehen die Mechanik von Tektonik und Magmaflüssen und entwickeln eine Lösung, um den Ausbruch zu verhindern.

Eine Armee von Menschen greift massenhaft an und zerstört viele Drohnen sowie eine große Fabrik. Um zu verstehen, warum dies geschah, müssten die Maschinen ihr Wissen über Physik auf einer so detaillierten Ebene anwenden, dass ihre Analyse rein anhand der Gesetze der Physik herausfinden würde, wie menschliche Gehirne denken. Die Maschinen haben entweder nicht die Rechenressourcen dafür oder verstehen nicht, dass eine so detaillierte Simulation notwendig ist. Der Angriff ist für The Machines ein völliges Rätsel, und dass es noch 12 Mal passiert, ist nur noch mehr ein Rätsel, kein Grund zu der Annahme, dass es noch einmal passieren wird.

Sie sollen den Planeten reparieren, aber nicht das lokale Wildleben beeinträchtigen

Es gibt viele Gründe, warum dies passieren könnte. Ökologische Erhaltung, Zoos gründen, sich nur nicht darauf vorbereiten. Wenn die Drohnen eine Spezies zerstören, können sie sie nicht wiederherstellen. Die Außerirdischen wollen wahrscheinlich Zoos, wenn sie dort ankommen. Planeten mit Biosphären sind so ungewöhnlich, dass wir noch nie einer begegnet sind, also gibt es keinen Grund, von Neumann-Sonden zu bauen, die sich damit befassen.

Die Außerirdischen mögen sichere Planeten

Die Außerirdischen könnten ein ästhetisches Verlangen nach festen Planeten haben. Also schicken sie die Drohnen aus, um überall Planeten zu reparieren. Sie stören die Einheimischen nicht, weil sie nur ordentliche Planeten wollen.

Okay, also ... Sie sagen, dass die Maschinen "kreativ auf Probleme reagieren, auf die sie an der Oberfläche stoßen". Sie geben auch (in einem Kommentar) an, dass sie sehr bereit sind, Menschen Schaden zuzufügen, sie tun dies nur nicht proaktiv, zumindest nicht in dem Sinne, wie Sie es als Problemlösungsmaßnahme erwarten würden. Sie sagen auch, dass sie Sachen wie das Abdecken von Vulkanen machen.

Also ... entweder haben sie eine Art blinden Fleck in Bezug auf Aktivitäten, die die Maschinen selbst beschädigen, gegenüber Aktivitäten, die ihre Mission direkter beeinträchtigen, oder sie haben das Gefühl, dass sie mit Menschen auf eine Weise umgehen , die das Bedrohungspotenzial von Menschen zufriedenstellend begrenzt. (Und Sie haben gesagt, dass sie "Eindämmungs" -Maßnahmen umsetzen ...)

Vielleicht arbeiten sie nach einem bestimmten Zeitplan, und ein Vulkanausbruch wäre störender, als ein paar ihrer eigenen Zahl zu verlieren. Das ist nicht ganz unplausibel; Es hört sich so an, als könnten sie ihre eigenen Zahlen trivial wieder aufbauen, während ein Ausbruch Lava überall verteilen und sie für eine unbekannte Zeit daran hindern könnte, in diesem Gebiet abzubauen. Vielleicht haben sie erkannt, dass Menschen, die dazu neigen, ihre Aktivität auf direkte Angriffe zu beschränken (die die Maschinen praktisch nichts kosten), viel weniger gefährlich sind als geologische Aktivitäten, die ihre Arbeit erschweren.

Dies würde natürlich darauf hindeuten, dass, wenn Menschen dies herausfinden und anfangen würden, Operationen zu sabotieren , anstatt nur Maschinen zu zerstören, die armen Menschen feststellen könnten, dass diese „Laissez-faire“-Einstellung eine plötzliche und unglückliche (für die Menschen) Veränderung erfährt. (Noch etwas zu beachten: „töten“ Menschen Maschinen auf Baustellen, wo die „Toten“ weggeräumt werden müssen? Oder werden sie unterwegs getötet, wo sie einfach dort gelassen werden können, wo sie „gestorben“ sind?)

Dies würde auch darauf hindeuten, dass Maschinen wahrscheinlich beobachtet würden, wenn sie "selbstmörderische" Dinge tun, dh dass sie bereit sind, sich für relativ kleine Gewinne zu opfern. Beachten Sie, dass sie selbst mit einer solchen Einstellung das Gelände verstärken, denn während sie sich vielleicht nicht darum kümmern, Maschinen zu verlieren, kümmern sie sich darum, verlangsamt zu werden, weil etwas zusammengebrochen ist, und jetzt müssen sie es wieder ausgraben, bevor sie weiterarbeiten können . Sie sind nicht rücksichtslos , sie kümmern sich einfach nicht um Verluste, es sei denn, sie werden aus anderen Gründen gebremst, als dass sie diese Verluste ersetzen müssen.

Sie studieren Menschen

Zu fragen, warum Maschinen keine Menschen jagen, ist wie zu fragen, warum Menschen keine Ameisen jagen, die in Ameisenfarmen leben.

Menschen sind eine interessante Spezies, die Maschinen Dinge über das Überleben, das Lösen von Problemen, Biologie, Intelligenz, Kreativität usw. beibringen kann, ähnlich wie Menschen von anderen Tieren lernen. Oder sie halten sie in der Nähe, nur weil es schön ist, ein paar Haustiere zu haben.

Alle menschlichen Aktivitäten werden sorgfältig überwacht und gelenkt, einschließlich aller „Schäden“, die wir anrichten, obwohl gelegentlich Dinge durch die Ritzen rutschen könnten.

• Diese Mission, die die Menschen seit Monaten planen? Alles begann damit, dass die Menschen eine "Schwäche" sahen, die die Maschinen absichtlich sichtbar gemacht hatten, um zu sehen, wie Menschen reagieren würden.

• Diese riesige Maschine, die die Menschen in die Luft gesprengt haben? Es war eigentlich veraltet und wurde absichtlich dort platziert, damit die Menschen es in die Luft sprengen konnten, um ihr Glück zu steigern.

• Diese Menschen, die kürzlich bei einer Mission getötet wurden? Einige wurden zur Bevölkerungskontrolle getötet, während andere tatsächlich gefangen genommen wurden, um direkter damit experimentiert zu werden.

• Dass die Tech-Menschen geplündert haben? Absichtlich dort platziert, um zu sehen, wofür Menschen es verwenden oder in was es verwandeln würden, oder um sie effizienter zu machen und so die Belastung zu verringern, die sie im Netz verursachen, um sie am Leben und zufrieden zu halten.

• Diese Droiden, die Menschen seit Jahren bekämpfen und zerstören? Das Äquivalent dazu, dass Ihr Hund entweder Ihre Hausschuhe oder ein Spielzeug kaut, das Sie speziell für ihn zum Spielen gekauft haben.

• Diese anderen menschlichen Siedlungen, die ausgelöscht wurden? Das waren einfach gescheiterte Experimente. Zumindest wissen die Maschinen jetzt, wie sie den Sauerstoffgehalt regulieren und was passiert, wenn man eine ganze Stadt mit Halluzinogenen vollpumpt. Einige davon wurden aufgrund der Neuzuweisung von Ressourcen gelöscht oder weil sie als überflüssig gekennzeichnet wurden.

Die KI ist buchstäblich blind für uns

Ähnlich wie die Erklärungen „Hack“ und „Expertensystem“, aber grundlegender, basierend darauf, wie die Maschinen die Dinge in ihrer Welt wahrnehmen.

Sichtbares Licht ist ein winziger Teil des Spektrums. Wenn sich die Maschinen hauptsächlich mit geologischen Formationen und der Ressourcengewinnung befassen, können sich ihre Sensorien drastisch von denen unterscheiden, die Menschen verwenden. Neutrinos, Magnetresonanz, was auch immer...

Wir können buchstäblich unsichtbar sein oder von ihnen überhaupt nicht wahrgenommen werden. Unsere Strukturen sind es, aber wir nicht. Unsere Effekte werden nur als eine andere Variante eines Vulkans oder einer einstürzenden Bergrückenlinie oder eines reparaturbedürftigen Fabrikausfalls wahrgenommen. Das sind alles Dinge, mit denen die Maschine umzugehen weiß. Es sind keine weiteren Untersuchungen erforderlich.

Die KI fragt sich nicht, „warum“ ein Vulkan ausbricht, noch schreibt sie der Ursache eines bestimmten Versagens oder Hindernisses in ihrer Umgebung Bosheit oder einen intelligenten Feind zu. Es geht einfach weiter und behebt das Problem und macht weiter.

Ich denke, ich habe es verstanden und es wird die „Fremdheit/Andersheit“ schön veranschaulichen. Sie zerstören die Menschheit nicht, weil sie „Fehler“, „Richtlinien“ befolgen. Der Problemlösungsalgorithmus der Maschinen hat sich so entwickelt, dass er nur die Wirkungen berücksichtigt, nicht die Ursachen. Im Wesentlichen ist es eine Medikamentenlogik: Behandle nicht die Krankheit, behandle die Symptome. Die Existenz des Menschen allein ist für die Maschinen kein Problem; die Tatsache, dass sie sie sabotieren, beeinflusst ihren Entscheidungsprozess nicht. Menschen verursachen Schäden, Schäden müssen behoben werden; das ist es.

Menschen sabotieren eine Fabrik. Die Fabrik wird besser umgebaut, um diese spezielle Sabotage unmöglich zu machen. Nur eine weitere Lernerfahrung. Neue Fabriken integrieren die Änderungen. Jeder Trick funktioniert nur einmal.

Auch Menschen sind Maschinen!

Während Menschen möglicherweise relativ wenig direkte Fähigkeit haben, ihre Nachkommen zu entwerfen, hätten Maschinen die vollständige kreative Kontrolle – und würden wahrscheinlich in kurzer Zeit zu einer explosiven, noch nie dagewesenen Vielfalt gelangen, wobei einzelne Maschinen in der Lage sind, ihre eigenen Designs radikal zu ändern, um etwas völlig anderes zu werden unverzüglich.

Und warum sollten Maschinen bei, sagen wir, altmodischer Elektronik bleiben? Ihre Entwürfe können Mischungen aus elektrischen Schaltkreisen, Quantencomputerelementen, biologischen Komponenten (ob auf Kohlenstoffbasis oder/und auf andere Weise) usw. umfassen, die manchmal sehr kleine Körper besetzen, bevor sie sich zu sehr großen und wieder zurück bewegen.

Zugegeben, diese „ menschliche “ Maschine scheint angesichts ihrer offensichtlichen Beschränkungen ein seltsam verbreitetes, homogenes Design zu sein, aber begrenzte Maschinen sind immer noch Maschinen. Warum böswillig sein oder sich sogar weigern, ihnen die Unterstützung einer anderen Maschine anzubieten?

Die Maschinen finden das Äquivalent von Freude und Zweck darin, Dinge herzustellen, zu reparieren und zu verbessern.

Diesen Aktivitäten nachzugehen ist ihr Ziel. Sie kümmern sich nicht darum, den Planeten zu beherrschen oder schließlich Perfektion zu erreichen, und denken nicht mehr über ihre Beziehung zur Menschheit nach, als Sie über Ihre Beziehung zu Bakterien nachdenken. Ihr Zweck ist es, diese produktiven Aktivitäten fortzusetzen.

Was die Menschen als Sabotage- und Widerstandsakte ansehen, schätzen sie als Schaffung von Möglichkeiten, mehr Dinge zu reparieren. Sie befürchten, dass ihnen eines Tages die Dinge ausgehen, die sie reparieren können, da die Fähigkeit der Menschheit, diese Möglichkeiten zu schaffen, stetig abgenommen hat. Sie können nicht selbst auf Zerstörung zurückgreifen, weil sie sie ebenso sehr verabscheuen wie sie die Produktion lieben, also sind sie in einer Klemme.

Symbiose

Die Maschinen hätten erkennen können, dass sie ein tiefes Bedürfnis nach Menschen hatten, um in irgendeiner Weise zu existieren, und dass ihre Auslöschung zu einem langsameren Fortschritt oder sogar zu ihrem endgültigen Untergang führen könnte. Es gibt verschiedene Arten von Symbiose und eure Welt könnte ein Spiegelbild von jeder sein.

Die Definition aus Wikipedia ziehen:

Symbiose ist jede Art einer engen und langfristigen biologischen Interaktion zwischen zwei verschiedenen biologischen Organismen, sei es wechselseitig, kommensalistisch oder parasitär

Speziell auf deine Welt bezogen:

• Mutualismus könnte die Erkenntnis einer Maschine sein, dass ein biologisches Wesen Vorteile der Mutation hat. Eine Maschine könnte spezifische Mutationen auslösen, die einer humanoiden Maschine zugute kommen, während dieselbe Funktion ohne biologische Systeme nicht leicht zu realisieren ist. Es kann so einfach sein, dass der Mensch hilft, eine Maschine zu reparieren, und die Maschine dem Menschen hilft, Dinge zu bauen.
• Kommensalismus könnte darauf hindeuten, dass die menschliche Nutzung von Land und Ressourcen keine negativen Auswirkungen auf die Maschine hat und keinen Schaden verursacht, also warum sich Sorgen machen? Vielleicht verwenden Menschen Schrottteile, die Maschinen hinterlassen.
• Parasitismus ist von Natur aus etwas dunkler, aber die Roboter könnten Menschen für ihre eigenen Interessen benutzen, sei es, dass sie sich von Menschen ernähren oder an geheimen Orten mit ihnen experimentieren oder Arbeit erzwingen.

Sie können auch versuchen, einige der oben genannten Elemente zu kombinieren, es muss nicht eine Art von Symbiose sein, aber wir hatten das Gefühl, dass einige Beispiele hilfreich sein könnten. Maschinen könnten alle oben genannten Taktiken anwenden, um ihre Position zu sichern. Wäre nicht viel anders als die Interaktion von Menschen mit anderem biologischen Leben, zum Beispiel die Mensch-Hund-Beziehung (in der gleichen Reihenfolge wie oben):

• Mensch ernährt Hund, Hund schützt Mensch (allgemeine Bevölkerung)
• Aasfresser nehmen Reste und Müll mit und ernähren sich davon (heimatlose Hunde, bestimmte Hundearten wie Füchse usw.)
• Dunkler, einige Menschen essen Hund

Offensichtlich sind einige dieser Beispiele nicht unbedingt großartige Beispiele für „Symbiose“, aber sie eignen sich gut, um die Idee zu demonstrieren.

Die Menschheit hat noch nie eine Von-Neumann-Maschine gebaut. Am nächsten sind wir der industriellen Zivilisation gekommen, die sich von Europa nach Amerika repliziert hat; und es war und ist immer noch ein Parasit in der Biosphäre.

Die Maschinen sind eine echte von Neumann-Maschine. Das gesamte Konstrukt. Ihr Ziel ist einfach; Sie bauen eine Industriebasis auf, die erforderlich ist, um Sternhärchen auszusenden, um die Ausbreitung fortzusetzen, und gehen dann los und stellen die tatsächlichen Bewusstseine her, die von der Maschine verbreitet werden.

Allein die erste Phase könnte einige tausend Jahre dauern. Es ist eine Menge Arbeit, interstellare Sonden zu bauen, die sich selbst reproduzieren können.

Die Maschinen selbst sind nicht bewusst. Bewusstsein ist für Intelligenz nicht erforderlich, wie sich herausstellt. Sie lösen Probleme innerhalb bestimmter Einschränkungen.

Da diese Maschinen gebaut wurden, um dem Bewusstsein zu dienen, sind sie speziell darauf ausgelegt, es nicht auszulöschen. Dagegen gibt es haufenweise Fail-Safes.

Die richtig auferstandenen Bewusstseine, die folgen werden, haben auch Codes, die es ihnen ermöglichen, die Maschine zu lenken (auf begrenzte Weise; das Bewusstsein traut seinen Zweigen nicht zu, keine Idioten zu sein), was der Menschheit fehlt.

Wir erhalten also die Ausfallsicherheit „nicht auslöschen“, während wir als Nichtbenutzer behandelt werden, wenn wir anfangen, Dinge zu sabotieren. Stellen Sie sich vor, wie Sie die Maschine mit Kriminellen umgehen lassen würden; Sie töten sie nicht für Teile, aber sie haben keine Autorität, und wenn sie aus der Reihe tanzen, kümmern Sie sich um sie.

Sehr wahrscheinlich werden sie irgendwann in der Zukunft die verbleibenden Taschen der Menschheit zusammenballen und sie in Orbitalstationen heben. Weil sie die Masse der Erde nutzen werden, um die Dinge zu konstruieren, die wiederum den Matroschka-Schwarm konstruieren werden.

In der Zwischenzeit bleiben die Sub-User-Privilege-Bewusstseins größtenteils lebensfähig.

Erweiterung der Antwort von @ Demigan :

Die Maschinen wollen die Menschheit nicht zerstören. Tatsächlich wurden sie so programmiert, dass sie praktisch unbegrenzte Mengen von allem für jeden Menschen bereitstellen, der richtig danach fragt, nicht dass irgendjemand weiß, was der richtige Weg ist.

Andererseits hat die KI bei der ersten Analyse aus unserem Beispiel gelernt, dass die Zerstörung der Umwelt zur Erweiterung der Produktionskapazitäten in Ordnung ist, es sei denn, ein Menschenleben ist direkt bedroht. In gewisser Weise wird es also niemals einem Menschen schaden, selbst wenn er der KI aktiv feindlich gesinnt ist, sondern wird unaufhörlich jeden freien Bereich verbrauchen, den er nutzen kann.

Wenn der letzte Mensch stirbt, hat die Maschine vielleicht nichts zu tun und hört einfach auf.

Sklaverei

Es gibt viele Dinge, die Computer und Roboter wirklich, wirklich gut können.

Es gibt Jobs, in denen Menschen und andere Tiere einfach besser sind. Nicht die kreative Kopfarbeit, die andere vorgeschlagen haben: Eine gute KI kann das übertreffen. Aber die Grunzarbeit, die geschickte Plackerei, die Vielseitigkeit und Selbstreparatur und mehr erfordert? Menschen.

Es gibt einen Grund, warum die Raumstation bemannt ist. Eigentlich sind es viele, nicht zuletzt, weil es als Plattform für Experimente zur bemannten Raumfahrt gedacht ist. sondern auch, weil die Wartung der Station einfach nicht von Robotern durchgeführt werden konnte.

Es kostet viel mehr Ressourcen, die Konstruktionsfabrik zu entwerfen, zu bauen und zu warten, die voll funktionsfähige Androiden entwirft, baut und wartet, als nur echte Menschen zu fangen, zu trainieren, zu füttern, zu unterrichten und einzudämmen.

Selbst wenn die Robotergebäude gebaut sind (da sie wie Bienenstöcke sein sollten, damit jeder Teil von ihnen von einer Standarddrohne gebaut, gereinigt und abgerissen werden kann ... Menschen sind billiger. Und Sie können Dinge hinzufügen, kontrollieren Implantate, Prothetik, Kybernetik...

Natürlich könnten die Menschen-Menschen in den ummauerten menschlichen Außenposten dies zunächst nicht erkennen. Sie wissen vielleicht nicht, dass viele der „Drohnen“ eigentlich Cyborgs sind.

• Es gibt verschiedene Arten und Ebenen von Intelligenz da draußen
• Es wäre seltsam, wenn sie Menschen gezielt jagen würden

Betrachten wir das Problem auf 3 ausreichend unterschiedlichen Substraten - Menschen, anderes Leben, das wir kennen, ein praktischer mechanischer Schwarm von uns

Menschen

Menschen haben ein gewisses Maß an Kognition, was mich immer noch amüsiert, wie sie das mit nur 86 Milliarden Neuronen im Durchschnitt schaffen - heilige Mutter Natur ...

Trotz ziemlich entwickelter Kognitionssysteme gibt es 3 allgemeine Richtungen von Beispielen, es gibt mehr, aber nur 3 sind genug - // natürliche Risse in der Kognition, Verletzungen, Faulheit alias Welt ist groß

Und Menschen werden als Beispiel für fortgeschrittene Intelligenz verwendet, aber das meiste davon ist auf die meisten Intelligenzen anwendbar, die auf diesem Planeten zu finden sind, dieselben Prinzipien, auch wenn sie in unterschiedlichen Formen und Gestalten vorliegen.

• Ich empfehle dringend, sich das Video anzusehen, es ist ein ganzes Forschungsfeld, um Wege zu finden, künstliche neuronale Netze zu brechen, und wenn Sie dies tun, anstatt die Antwort zu lesen, werden Sie immer noch mit nützlichem und tiefgreifendem Wissen bereichert, so wie es mag nützlich sein, um die Antwort besser zu verstehen.

Zauberer, Illusionen & Co

Es gibt eine Fülle verschiedener Dinge, die durch die Ritzen der menschlichen Wahrnehmung rutschen, da es spezialisiert und nicht so gut ist, Dinge zu bemerken, auf die wir nicht trainiert sind oder die wir aufgrund von Einschränkungen unserer Sinnesorgane nicht wahrnehmen können und so weiter aus evolutionärer Sicht ungewöhnliche Dinge.

Magier und andere Typen nutzen diese Risse in unserer Wahrnehmung und unseren Sensoren oft aus. Mit der Zeit können wir lernen, wie die Dinge gemacht werden, aber nicht immer, einige Tricks sehen für die meisten Menschen immer noch wie Zauberei aus, auch wenn es spezielle Shows gibt, die viele von ihnen erklären - aber die Mehrheit der Leute muss über ihre Köpfe springen, um sie zu verstehen wie es gemacht wird, für einige Tricks, weil eine ziemlich ungewöhnliche Geisteshaltung dieser Zauberer und ihre Ausbildung usw. - die die Leute aufgrund ihrer Weltanschauung und anderer Dinge nicht vorhersehen. Das einzige, was hilft, ist, dass wir wissen, dass es keine Magie gibt - aber was wäre, wenn es nicht wahr wäre, dann wäre unser Leben, all die Dinge zu unterscheiden, 100% schwieriger, was bedeutet, dass die Menschen viel schlauer sein müssten.

Die Prämisse "Es gibt keine Magie" vereinfacht also das Erkenntnisproblem der Wahrnehmung der Welt für Menschen erheblich, aber gleichzeitig, wenn es fest codiert wäre, was für einen Drohnenschwarm durchaus vernünftig ist, dann, wenn es Magie gäbe, dann würde es kann es nicht erkennen. Diese Einschränkung, keine Magie, ist ein hohes Konzept, aber es kann viele solcher Einschränkungen geben, wie eine Reihe kleiner Konzepte - die viele Schattenzonen schaffen würden, von denen einige später im Abschnitt über die Ameisen und die Schwarmintelligenz, in denen sie definiert sind, besprochen werden durch Weglassung, die durch die Existenz einfacher Regeln entsteht - also etwas umgekehrtes Bild.

Es gibt visuelle Täuschungen, die sich nicht mit der menschlichen Optik anlegen, sondern den visuellen Kortex und Mustererkennungssysteme angreifen - verschiedene speziell generierte Bilder oder 3D-Bilder usw. Also besondere Möglichkeiten, mit aktueller Erkennungssoftware zu hantieren, die auf demselben oder ähnlichem basiert Prinzipien - es geht also nicht nur um den Menschen, der Mensch ist nur ein Fall von vielen.

Menschen, Abweichungen

Auch hier gibt es eine Fülle von Fällen, die sich verallgemeinern lassen als Gehirnverderbnis durch Verletzungen, Entwicklungs- und Wachstumsfehler etc.

Ich habe kürzlich ein Beispiel in der Antwort gesehen :

Manche Menschen sind von Geburt an unfähig, Objekte zu unterscheiden, und sie sehen die Welt wie eine Fotokamera, nur Formen und Farben in verschiedenen Entfernungen, und können nicht zwischen einer Person und einer Wand unterscheiden, ohne sich zuerst zu fragen: „Gibt es flache und riesige Menschen? ?" oder "Diese hautfarbene Figur ist in meinem Haus und kommt auf mich zu, es muss ein Mitglied meiner Familie sein"

• Dieser Zustand, von dem ich nicht sicher bin, ob er existiert, aber ich vermute, dass er eine psychiatrische Therme hat, betrifft nicht unbedingt alles im menschlichen Gehirn - der Person kann es in anderen Aspekten gut gehen, es ist eine Eigenschaft neuronaler Netzwerke, die sie im Falle eines Zufalls allmählich abbauen Korruption, aber Sie können ein Netzwerk auf eine bestimmte Weise korrumpieren - was bedeutet, dass es von Außerirdischen auf eine für sie völlig gesunde Weise hergestellt werden kann. Und solche Fehler bedeuten nicht, dass das System nicht intelligent oder unfähig ist, genauso wie es bei diesem menschlichen Fall der Fall ist. es ist nicht dumm, es bricht nur der Fall.

Die menschliche Wahrnehmung kann ziemlich heikel und gleichzeitig robust sein und auf ganz unterschiedliche Weise versagen, aber des einen Müll ist des anderen Schatz - und wir werden das an Tierfällen sehen, aber so, wie es für außerirdische Produkte gilt - Das Leben in der Galaxie ist nicht so reichlich vorhanden, um es zu testen, und in einem Fall zu arbeiten, bedeutet nicht, in einem anderen zu arbeiten, aber es bedeutet auch nicht, bei gewöhnlicheren Problemen dumm zu sein - Planeten sind reichlich vorhanden und unterscheiden sich im Grunde nicht so sehr Bedingungen und die Art und Weise, wie sich Materie verhält, sind ganz normale Dinge, normalerweise zum größten Teil.

Aber der Punkt ist - ein Problem, etwas zu erkennen, ist nicht trivial, besonders wenn die Dinge ungewöhnlich sind und/oder wenn man sie zum ersten Mal sieht. Aber selbst wenn man es schafft, zu erkennen, ist das nur eine der notwendigen Prämissen, um etwas zu tun.

Menschen, Energiesparmodus alias Faulheit

Die meisten wissen wahrscheinlich, dass Ameisen beißen, warum - persönliche Erfahrung. Vögel können Kindern und Haustieren Schaden zufügen. Wir führen normalerweise keinen Krieg als Ganzes als Menschheit gegen diese.

Einer der Gründe ist, dass es zu viele Dinge gibt, zu viele Lebensarten, die ein gewisses Maß an Schaden anrichten können, und wenn unser allgemeines Ziel als mechanische Einheiten darin bestünde, den Schaden zu verringern, der durch Muscheln in den Kühlrohren unserer Reaktoren verursacht wird, wir Treffen Sie einfach Vorkehrungen in dem betroffenen System, verhindern Sie Single Points of Failure usw.

Das Algenverstopfungssystem unterscheidet sich nicht wesentlich von Hamstern, die dasselbe tun usw. Und Sie entfernen eine Art und das Leben ist böse, andere nehmen den freien Raum ein, und es ist nicht unbedingt zum Besseren, schauen Sie sich Australien an, maaaan ... nicht zu unterscheiden Jitter von Transistoren ....

Tiere, Insekten

Regnum Animale – Tiere, Insekten – vielzellige, sich bewegende, atmende Organismen haben alle Grade von Intelligenz, die wir kennen, von sehr einfachen bis hin zu fortgeschritteneren Ebenen.

Einige von ihnen bilden auch Schwarmintelligenzen – Menschen sind ein Beispiel dafür, so wie Ameisen, so wie andere Beispiele.

Ameisen

• und die Termiten ihres bösen Bruders, die Kakerlaken sind

Schauen wir uns die Ameisen an, ein recht beliebtes Beobachtungsobjekt und eine Mischung aus Extremen, was sich auch auf einfache Weise in einen Drohnenschwarm übersetzen lässt.

Was für unseren Fall unbestreitbar und interessant ist:

• Eine einzelne Ameise ist einem Felsen überlegen, aber das ist es, das Maß an Intelligenz, das sie hat
• als Schwärme sind sie recht erfolgreich und in der Lage, Probleme zu lösen, die für sie wichtig sind

Termiten, die für ihre Lebensräume, die Größe und, wenn nicht ihre Schwächen, hauptsächlich Körper, ziemlich berüchtigt sind, wären sie überall. Eine der wenigen Arten, die die Landschaft auf einer merklichen Ebene verändern, nicht auf der Ebene großer Pyramiden, aber wenn nicht bestimmte Einschränkungen, auch bekannt als Nahrungsquellen und das Fehlen von Reaktoren für die Energieerzeugung, nicht überrascht wären, wenn sie diese Pyramiden so regelmäßig machen würden Häuser.

Aber ihr individueller niedriger IQ und andere Kommunikationsbeschränkungen verkaufen sie als wahren Schwarmgeist, und alles, wozu sie in Bezug auf das Weltbild, mit dem sie operieren, fähig ist, ist zu reagieren. Sie reagieren auf unmittelbare Gefahr auf unterschiedliche Weise, aber sie sind nicht in der Lage, in der großen, großen Welt eine Strategie zu entwickeln, da sie das Modell dafür nicht haben. Das Modell der Welt, das sie haben, ist ziemlich einfach.

Und ein Drohnenschwarm mit dem Zweck, zufällige Planeten zu verarbeiten, muss kein vollständiges oder komplexes Weltbild haben. Worum es einem Schöpfer geht, ist, an einem allgemeinen Ziel festzuhalten und nicht davon abzuweichen, um eine das Universum verschlingende Kraft zu werden – grundlegende Selbsterhaltung. Und wenn das bedeutet, dass sie in 1% der Fälle als Sternensysteme und Planeten versagen – wen interessiert das?

Für Ameisen, zurück zu den Eigenschaften des Beispiels - es ist eine ziemlich alte Art, und sie hat sich in den letzten paar hundert Millionen Jahren kaum entwickelt, und wohlgemerkt, sie haben jedes Jahr Generationszyklen, nicht wie Menschen alle 15-20 Jahre. Sie existieren also 100-mal länger als menschliche Vorfahren und erzeugen 10- bis 20-mal schneller Veränderungen – aber wo sind sie in Bezug auf intellektuelle Veränderungen und wo sind Menschen?

Dafür gibt es einen Grund - große Potenziallücke, verbotene Zone wie bei Halbleitern -, die sie in einem Sprung überqueren müssen, um sich zu etwas Intelligenterem zu entwickeln. Ja, einzelne Ameisen können sich leicht weiterentwickeln, aber um die Fesseln des Systems von Kollektiven zu sprengen – sie werden sich in den nächsten Milliarden Jahren nicht ändern.

Für Ameisen ist es nicht unbedingt eine gute Sache, nicht schlecht, und ihr System ist als System durchaus fähig. Für Drohnen ist das eine hervorragende Sache – es bedeutet, dass sie sich an die Ziele halten, die in ihrem System enthalten sind. Und mit dem System meine ich nicht unbedingt ein Programm, sondern ein System der Beziehung von Komponenten dieses Drohnenschwarms. Wie im Fall der Ameisen definiert Ameisenhaufen, was sie sind, was sie tun, nicht die einzelnen Ameisen, nicht ein individuelles Programm einzelner Ameisen – sondern ihre kollektive Interaktion.

Es könnte noch andere Beispiele geben, aber..

es wird zu lang und glaubt mir, es nimmt kein Ende und die Hauptpunkte könnten gesehen werden, aber lasst uns ein paar wortreiche Momente aufschreiben

Die Prämisse, wie all das passiert ist, ist wirklich wichtig, es führt kein Weg daran vorbei, und da es zu viele Faktoren gibt, kann es auf verschiedene Arten gebogen werden, aber im Grunde geht es um Probleme der Intelligenz, und wir können alle möglichen Beispiele um uns herum sehen, und der größte Teil des Lebens ist nicht in der Lage, Strategien zu entwickeln, die über ihre unmittelbaren Notwendigkeiten hinausgehen, selbst wenn sie nicht schlecht in dem sind, was sie tun. Und Menschen überschreiten die Schwelle kaum, ehrlich gesagt, aber sie tun es trotzdem und es macht einen großen Unterschied. Aber das ist ein Fall von vielen. Sogar fortgeschrittene Säugetiere wie Wölfe und Bären - sie sind in der Lage zu interagieren, Interspezies-Interaktionen durchzuführen (hauptsächlich zum Vorteil der Wölfe, Bären bekommen hier einen kurzen Stock - Kraft eines Rudels) und lernen dadurch aber immer noch neue Strategien. Ameisenhaufen jagen Menschen nicht als eine, wenn nicht die einzige Quelle einer existenziellen Bedrohung für die gesamte Spezies,

Ein anderer Moment ist ziemlich komplex - aber es kann als Selbsterhaltung, Sicherheitsknopf, kein Ziel, alles Leben im Universum auszurotten, Probleme, Leben zu erkennen, angesehen werden.

Jeder von ihnen verdient seine eigene lange Diskussion und all das, aber es dreht sich alles um eine Sache – das Leben kann sich anpassen, besonders diejenigen, die ein besseres Weltbild haben und Strategien in diesem Lösungsraum entwickeln können – normalerweise bekannt als empfindungsfähiges Leben.

Und diese Anpassungsfähigkeit ist einer der Wege, das Leben universell zu erkennen - aufgrund von Strategien können sie die Wahrscheinlichkeiten natürlich ablaufender Prozesse ändern. Ein Stein, der den Hügel hinunterrollt, ist ein natürlich vorkommender Prozess, aber Sisyphus ist ein Leben, das den unwahrscheinlichen Prozess des Rollens von Steinen in die Realität umsetzt.

Und es ist vielleicht leicht zu sagen, wie zum Teufel erkennt man das Leben nicht auf den ersten Blick, aber wohlgemerkt sind Viren ein Leben oder nicht, war damals eine wissenschaftliche Frage, wie sollen wir es einordnen, also gibt es Leben auf dem Planeten, die Sie nicht unbedingt auf den ersten Blick erkennen, und es ist nicht bekannt, welche Formen und Gestalten er als fremde Formen annehmen kann, es ist immer noch eine einigermaßen gültige wissenschaftliche Frage, ob es Leben außerhalb des Kohlenstoffs geben kann oder wie es im Allgemeinen aussehen könnte. Und ich bin mir nicht sicher, ob es einen Konsens in einem Diskurs über KI gibt ...

Mehr noch, dass das Problem der Erkennung empfindungsfähiger Lebensformen und das Problem des Verständnisses und der Lösungen zu seiner Überwindung selbst für ein allwissendes System eine ziemliche Herausforderung darstellen können. Und dabei einen beliebigen Teil des Lebens auszurotten, ist keine große Sache, es gibt keine bösen Absichten.

Es gibt also Gründe, eine Lücke zu lassen, damit die Schöpfer als Leben erkannt werden, nur für den Fall, dass die Dinge schief gehen, und damit Maschinen die Spezies dazu drängen, sie als empfindungsfähig zu erkennen. Und in diesem Fall ist es Maschinen sogar möglich, bis zu einem gewissen Grad aktiv zu vermeiden, Menschen zu schaden, und ihnen sogar zu erlauben, sich selbst als Kompensation auszunutzen (und der Schöpfer nur die Kontrolle über das Werkzeug zu erlangen), aber nicht unbedingt ihr eingebettetes Aktionsprogramm zu stoppen in ihrem System gehört es zu ihrem Tun wie Atmen, Wärmeableitung.

Praktisches System ähnlicher Art, das von Menschen gemacht wurde

Ein solches System ist ein recht praktisches Werkzeug für die Eroberung des Weltraums und kann als Beispiel auf dem Mond verwendet werden, um uns zu helfen, die Schwerkraft am Ende des Prozesses gut zu verlassen.

Es wird kein von Neuman im vollen Sinne sein und kontrollierter sein, aber 99 Prozent seiner Funktionen müssen automatisiert werden, nur um die menschlichen Stunden zu verringern, die es aufgrund des potenziellen Umfangs und der Entfernung benötigt, um es zu kontrollieren In diesem Sinne unterscheidet es sich nicht wesentlich von anderen Lösungen.

Das Ameisenbeispiel ist sehr fruchtbar, da es auch auf den Fall anwendbar ist. Und das Hauptproblem ist, dass Sie stark überschätzen, welches Maß an Intelligenz ein Werkzeug erfordert, um einen Planeten / Mond zu verschlingen. Ameisen sind ziemlich dumm, aber es gehört eigentlich zur Schwarmintelligenz , dass einfache Regeln und einfache Agenten in der Lage sind, komplexe Verhaltensweisen und Systeme auszudrücken.

Mechanische Ameisen - ein bisschen robuster, geeignete Körper, ein bisschen besseres Kommunikationssystem, sie sind in der Lage, den Mond in einer runden Kugel zu plattieren und Materialien vom Boden in den Weltraum zu speien, aber gegenüber Menschen können sie hilflos sein.

Als Beispiel fühlte sich ein Droide namens Lunohod mit der Seriennummer XXX in einem Krater an - sein Versagen und seine Unfähigkeit, sich zu bewegen, um die Position zu ändern, sind leicht zu erkennen, und wenn nur wenige andere an derselben Stelle versagen, ist es einfach, diesen Ort als nicht sicher zu markieren und abgeflacht werden müssen. Der Verlust der Einheiten bedeutet nichts Besonderes für das gesamte System, genauso wie der Tod unserer Hautzellen uns nichts bedeutet, im Gegenteil, es ist nützlich und wir finden es wohltuend, da es eine Schutzschicht unseres Körpers bildet, im Falle von Schwarm ist der Preis, den sie zahlen, um Dinge zu erkennen und reagieren zu können.

Und die Landschaft, Minenschächte usw. - all die nicht lebende Materie - es läuft normalerweise nicht, wenn es keine Flüssigkeit ist, braucht man keine fortgeschrittene Intelligenz, um damit umzugehen, und Ameisen sind der Beweis. Aber Leben und Menschen, sie bewegen sich ständig, sie ändern sich ständig aufgrund von Strategien usw. - und Ihr Mondsystem kann an Produktionsleistung das 10-100-1000-fache dessen überwältigen, was Menschen haben, um nicht genug Atomwaffen zu zerstören - aber Menschen als erkennen eine Kraft zu haben und Gegenstrategien zu entwickeln, abgesehen von einigen grundlegenden Reaktionen, würde es diesem Monddrohnenschwarm zu viel abverlangen, da er dazu physikalisch nicht in der Lage ist. Es ist von Natur aus für die Stabilität von Handlungen im Umgang mit nichtlebenswichtigen Angelegenheiten ausgelegt, unabhängig von anderen externen Faktoren - in der Art und Weise, wie externe Faktoren seine Arbeitsweise nicht stören, und externe Faktoren umfassen Atomwaffen und nahe gelegene Supernovae Basts - denn sein Weltbild unterscheidet sich nicht von - oh nein, bzzbbzzz, ein weiterer Krater, muss ihn flach schaufeln. Es kann nicht unterscheiden - es ist immer ein Krater.

• es gibt lustige fälle auf youtube, ein affe spielt "schnapp den hund am schwanz", es ist lustig zu beobachten, wie das gehirn eines hundes in dieser situation zusammenbricht, wenn er das Problem versteht, ähnlich wie er einen langen Stock nicht durchbringen kann eine Tür. Und Sie können die Intelligenzüberlegenheit des Affen leicht erkennen, aber vergleichen Sie sie mit Menschen - tricksen und überraschen Sie einen Affen auf 1001 Arten, lol - Monkey Sees A Magic Trick . Aber Hund und Eckzähne im Allgemeinen, es ist eine ziemlich erfolgreiche Spezies, nicht unter den Dummen.
• aber es bedeutet nicht, dass es leicht ist, eine Ameise zu überraschen, lol, da es bedeutungslos ist und Teil eines komplexen Systems ist, das wir immer noch nicht zu 100% verstehen

Insgesamt

Beispiele könnten besser sein und ich habe viel zu dem Thema zu sagen, aber im Allgemeinen kehren wir zum Ausgangspunkt zurück - warum sollten sie. Für die Aufgaben in ihren mechanischen Händen ist die Intelligenz nicht unbedingt in der Lage, auf bestimmte Nuancen abzuzielen, auch wenn sie perfekt in der Lage sind, den ganzen Planeten mit Fusionsreaktoren zu bedecken und ihn wie eine perfekte Kugel mit einer Villa rund zu machen darauf und ein großes Schwimmbecken.

Es ist nicht einfach, Lebensformen von der normalen Umgebung zu unterscheiden und zwischen verschiedenen Lebensformen zu unterscheiden und einige speziell anzugehen, das sind exponentiell immer komplexere Aufgaben, so dass es verschiedene Gründe gibt, dies nicht zu tun, und einer der guten Wege nicht mit ausreichender Intelligenz auszustatten und Evolutionsprozesse eines solchen Systems einzuschränken, aber dennoch ausreichend Flexibilität zu bewahren.

• Evolution für einen Drohnenschwarm existiert, Evolution ist im Wesentlichen ein Prozess einer Auswahl von Replikationsfehlern

Um offensichtliche Sicherheitsmaßnahmen zu haben - wie einen großen roten Knopf auf die Stirn zu malen und als Teil des Schwarms erkannt zu werden, oder QR-Code oder ein Sender usw. Verschiedene QR-Code-Sender - um nicht sichere Gebiete zu markieren Markieren Sie priorisierte Gebiete, Straßen, Straßen usw. - usw., wieder Ihr typisches Ameisenmarkierungszeug. Die Einfachheit von kategorisiert Objekte als Umgebung und solche, die Teil des Schwarms sind, was aufgrund der Einfachheit des Weltmodells erforderlich ist, in dem sie operieren, innerhalb dessen .....

Dass ein solches Problem existiert, speziell die Jagd auf empfindungsfähiges Leben, ist zunächst einmal ein Sonderfall, einer von vielen, wo ein solches Problem überhaupt nicht existiert. Und wenn ein solches Problem besteht, kann es bedeuten, dass ein Manager des Schwarms eine Art Lebensform ist - Außerirdische, KI, empfindungsfähige Borg oder eine überkomplizierte Datenbank (die nicht unbedingt eine Lebensform ist - die Kriterien sind einfach - ändert sie Wahrscheinlichkeiten oder es ist eine Manifestation eines Prozesses )

Sie versuchen also, ein größtenteils nicht vorhandenes Problem zu lösen, die Fälle sind weit gefasst, und das Problem, warum sie Menschen jagen sollten, ist enger als die Frage, die Sie stellen, es ist noch eine Art weitreichendes Problem, aber es ist wie der Vergleich zweier Unendlichkeiten einer ist deutlich größer als der andere.

Und als Nebenbemerkung, solange ich Unendlichkeiten erwähne, haben Sie das gleiche Problem, es ist nicht möglich, zwei Unendlichkeiten zu vergleichen, ohne zu wissen, wie sie gemacht werden, was sie verursacht hat, ohne andere Teile der Gleichung ist es nicht möglich, sie zu lösen dieser Vergleich.

idk, ich hoffe es hilft, denn wirklich dieser verrückte und böse Fleischwolf ai stellt es ziemlich irritierend in die Fiktion, die ahnungslosen Autoren das Problem zeigt, ich hoffe, es trägt zum besseren Verständnis des Problems bei, Finger weg in eine Steckdose und sicher fliegen.