Biologiezentrierte Zivilisation vs. KI-basierte Zivilisation

Zuerst viel Setup

Für diese Antwort muss ich viele Annahmen darüber treffen, wie KI funktioniert und wie organische Gehirne funktionieren. Ich finde, die aussagekräftigste Antwort kommt von einem Quad-Diagramm, das auf zwei Arten der Bewertung eines "Dings" basiert. Sie sind sicherlich nicht die einzigen zwei Möglichkeiten, Dinge zu bewerten, aber sie erweisen sich für mich als nützlich, wenn ich über KI nachdenke.

Ich zeichne den Wert von Objekten auf, wie gut sich ein Objekt verhält, wenn es „wie definiert“ funktioniert, und wie gut sich ein Objekt verhält, wenn es „außerhalb der Spezifikation“ funktioniert (dh wenn Sie es bitten, etwas zu tun, von dem Sie glauben, dass es nicht „ erwartet" zu tun, wie gut hält es mit)

                Out of Spec Behavior
                Poor    |   Good
              +---------+-------------+
As       Good | Tool    | Interesting |
Defined ------+---------+-------------+
Behavior Poor | Crude   |  Resilient  |
              +---------+-------------+

• Grobe Dinge sind zu nichts gut. Sie zerfallen mit der Zeit und sind im Allgemeinen nicht sehr gut darin, sich an neue Situationen anzupassen. Die moderne menschliche Kategorie „Kinderspielzeug“ passt in diesen Block.
• Werkzeuge sind erstaunlich gut in dem, was sie am besten können. Sobald wir ein Werkzeug entwickelt und seine Fähigkeiten verstanden haben, erweisen sie sich als erstaunlich gut darin, Ziele zu erreichen. Sie sind jedoch oft sehr eng fokussiert und können sich nicht an sich ändernde Umgebungen anpassen. Ein Helikopter kann auf erstaunliche Weise fliegen, solange er innerhalb der Spezifikationen bleibt. Auf dem Everest steigen Menschen jedoch höher, als jeder Hubschrauber fliegen kann, weil die Luft zu dünn ist. Es gab eine berühmte Rettung an den unteren Hängen des Everest, bei der ein Hubschrauberpilot entschied, dass es das Risiko wert sei, sich aber weigerte, in dieser Höhe zu landen, aus Angst, die Maschine könnte nicht wieder abheben. Stattdessen schwebte er nur wenige Meter über dem Schnee und tastete vorsichtig nach einem Zeichen dafür, dass der Helikopter seine spezifizierte Reichweite verließ.
• Widerstandsfähige Objekte arbeiten einfach weiter, allen Widrigkeiten zum Trotz. Einige Systeme sind nicht für ihre Fähigkeit bekannt, unter idealen Bedingungen zu funktionieren, aber in unvorhersehbaren gefährlichen Umgebungen, in denen man sich nicht vorbereiten kann. Überlebensausrüstung fällt eher in diese Kategorie. Als ein Beispiel gibt es eine militärische Technik mit dem Spitznamen "Dummy Cording", bei der Sie den Kern einer Fallschirmschnur entfernen (um Gewicht zu sparen) und die äußeren Ummantelungen verwenden, um Ihre Ausrüstung an sich zu binden, damit sie in Zeiten großer Erschöpfung in der Nähe bleibt . Das Fallschirmseil wurde nie für diese Operation entwickelt, aber seine Konstruktion ist so widerstandsfähig, dass es sich als nützlich erweist, selbst nachdem Sie den starken Teil entfernt haben.
• Interessante Objekte fesseln unsere Aufmerksamkeit durch ihr Verhalten. Wenn wir versuchen, sie "in spec" als Werkzeuge zu verwenden, funktionieren sie perfekt und übertreffen unsere kühnsten Erwartungen. Wenn wir sie „außerhalb der Spezifikation“ verwenden müssen, überraschen sie uns immer wieder, indem sie niemals versagen, selbst wenn sie Umgebungsbedingungen ausgesetzt werden, die weit außerhalb ihrer „Betriebsumgebung“ liegen. Militärische Ausrüstung fällt oft in diese Kategorie. Betrachten Sie die berühmten Bilder von Helikopterhalos in der Wüste von Sand, der auf die Rotoren trifft, oder die legendäre Fähigkeit der A-10, selbst nach Hunderten von Runden zu fliegen . Selbst diejenigen, die die Physik dessen verstehen, was passiert, und die Designentscheidungen, die dazu führen, sind auf den ersten Blick beeindruckt.

Alle vier dieser Kategorien beziehen sich auf den Beobachter. Ein Schweizer Uhrmacher würde die Grenzen anders ziehen als ein Stammesältester aus dem Amazonas.

Ich stelle eine (unbewiesene) Hypothese auf, dass KIs und organische Gehirne einen anderen Weg durch dieses Quad-Diagramm nehmen.

• Wenn Sie an die Evolution glauben, besteht Organic Life aus all den wirklich guten zufälligen Entdeckungen der Genetik, die über Millionen von Jahren gefunden wurden. Dabei wird jede dieser Ideen einer bemerkenswerten Anzahl unterschiedlicher Szenarien unterzogen. Diejenigen, die überleben, sind diejenigen, die die Überlebensfähigkeit verbessern, aber was noch wichtiger ist, sind vielseitig genug, um in Tausenden von unerwarteten Situationen nützlich zu sein. Organisches Leben verbessert sich selbst, indem es versucht, von grob zu widerstandsfähig zu interessant zu werden.

• KIs sind im Allgemeinen Computerprogramme. Programme waren ursprünglich Werkzeuge. Derzeit sind unsere Programmierer sehr gut darin, Computer erstaunliche Dinge tun zu lassen, aber wir sind nicht sehr gut darin, Computer dazu zu bringen, gute Dinge zu tun, wenn wir den Drucker überraschen. Dies ist die Quelle großer Frustration für jeden IT-Mitarbeiter, der erklären muss, warum die Eingabe des Benutzers nicht „spec“ war, sodass der Computer versagt. KI versucht, immer vielseitiger zu sein und Situationen zu bewältigen, an die der Programmierer nicht gedacht hat. Die KI verbessert sich selbst, indem sie versucht, von Crude zu Tool zu Interesting zu gelangen.

Als Überverallgemeinerung gehe ich davon aus, dass sich Ihre biologischen und KI-zentrierten menschlichen Zivilisationen entlang dieser allgemeinen Prinzipien weiterentwickeln werden.

Der offensichtlichste Effekt dieser beiden Wege ist, dass die KI-zentrierte Zivilisation ihre Umwelt drastischer verändern will als die biologisch basierte. Dies liegt daran, dass eine KI mittlerer Stufe ein Werkzeug ist, was bedeutet, dass sie gut funktioniert, wenn Sie sie „in spec“ anwenden können. Der einfachste Weg, um sicherzustellen, dass diese Tools funktionieren, besteht darin, das Gesicht der Welt so zu verändern, dass es für einen Benutzer des KI-Tools einfacher ist, sich darauf zu verlassen, dass seine Verwendung „in der Spezifikation“ erfolgt.

Zivilisationen auf biologischer Basis werden weniger geneigt sein, ihre Umwelt zu verändern. Wenn die Umgebung kompliziert und feindselig ist, ist es sogar einfacher sicherzustellen, dass alle ihre Kreationen widerstandsfähig sind. Ihre biologische Zivilisation wird mit einer Welt zufrieden sein, in der sie nie sagen können, ob ihre Kreationen „in spec“ funktionieren, weil das für ihre Zivilisation nicht so wichtig ist. Sie würden leicht erstaunliche Kreationen schaffen, aber ihre Erstaunlichkeit würde sich in der Widerstandsfähigkeit ihrer Designs zeigen. Sie würden kein Bio-Jetpack sehen, das einmal verwendet werden kann, um einen KI-Turm durch einen ungeschützten Felsvorsprung anzugreifen, aber Sie sehen vielleicht ein Jetpack, das kontinuierlich verwendet werden kann und in heißen Sommern zum Auffächern der Eier junger Kreaturen verwendet werden kann.Das liegt nicht daran, dass die Riesenhirne nicht herausfinden können, wie man ein solches One-Shot-Gerät herstellt, sondern weil die Riesenhirne ein solches Gerät nicht bauen wollen . Sie wurden erzogen, um nach widerstandsfähigeren Lösungen zu suchen.

Jetzt für das Mischen und den Krieg

Wir gehen davon aus, dass jede Seite eine starke kulturelle Identität hat: Sie glauben, dass ihr Ansatz überlegen genug ist, um „uns“ von „ihnen“ zu unterscheiden.

Aus biologischer Sicht gibt es nur eine mögliche Antwort auf die Vermischung: die Erhöhung der Komplexität der Umwelt. Wenn sie Angst vor den KIs haben, werden sie versuchen, "sie" unfähig zu machen, Fortschritte zu machen. Eine komplizierte Umgebung bedeutet, dass es schwieriger ist zu sagen, dass Tools „in spec“ arbeiten, was die Fähigkeit der KI einschränkt, alle ihre Kreationen zu nutzen. Wenn sie andererseits versuchen, mit den KIs zu koexistieren, brauchen sie einen Weg, um die KIs so robust wie ihre Kultur zu machen. Dazu würden sie die KIs in Umgebungen einhüllen, die so gestaltet sind, dass sie für die KIs einfach erscheinen (und sie ihre Werkzeuge benutzen lassen), aber nach außen hin sind solche Umgebungen sehr widerstandsfähig (so dass die Biologischen sicherstellen können, dass ihre freundlichen KIs niemals konfrontiert werden komplizierte Umgebungen außerhalb der Spezifikation).

Auch aus KI-Sicht gibt es nur eine mögliche Antwort auf die Vermischung: die Komplexität der Umgebung vereinfachen. Wenn sie Angst vor den Biologicals haben, werden sie versuchen, einen strategischen Vorteil zu erlangen, indem sie alle Komplexitäten der biologischen Umgebung überbrücken. Wenn sie versuchen, mit den Biologicals zu koexistieren, müssen sie eine gemeinsame Basis entwickeln, auf der sie sicher mit der Biologie interagieren können, ohne befürchten zu müssen, die Spezifikation zu verlassen.

Aus beiden Perspektiven besteht also ein natürlicher Wunsch nach Trennung. Die interessantesten KIs werden die vorhersehbarsten Regionen weit weg von den Biologicals aufsuchen, um sicherzustellen, dass sie niemals „außerhalb der Spezifikation“ gefahren werden. Die interessantesten biologischen Kreaturen suchen die tiefsten und komplexesten natürlichen Regionen ihrer Gegend auf, weit weg von den KIs, um sicherzustellen, dass alle gefährlichen Werkzeuge auf der Reise zu ihrer Heimat abgestumpft werden.

Die Mitte wird von einer Mischung aus Werkzeugen und widerstandsfähigen Kreaturen kolonisiert, die ihren eigenen Lebensunterhalt suchen müssen, nachdem die interessantesten Kreaturen die besten Immobilien eingenommen haben. Je mehr Sie das Mischen minimieren möchten, desto mehr brauchen Sie die jungen Werkzeuge, um zur Intelligenz ihrer interessanten KI-Meister aufzublicken, und desto mehr brauchen Sie die jungen widerstandsfähigen Kreaturen, um zur Weisheit ihrer interessanten organischen Ältesten aufzublicken. Wie weit Sie damit gehen wollen, müssen Sie als Autor selbst entscheiden.

Bedenken Sie jedoch, dass ein solches Mischen möglicherweise keine so schlechte Sache ist. Bedenken Sie, dass ein durchschnittlicher Erwachsener nicht mit der Weisheit eines Ältesten mithalten kann. Bedenken Sie, dass ein durchschnittliches Schwert nicht mit den beeindruckenden Fähigkeiten einer Schusswaffe mithalten kann. Aber geben Sie einem durchschnittlichen Erwachsenen ein Schwert und bringen Sie es in ein Reich mit weisen, aber unbewaffneten Ältesten und Schusswaffen schwingenden, aber geistlosen Drohnen auf der anderen Seite, und plötzlich könnten sie sich einfach behaupten.

Und verdammt schade, wenn nach Jahrtausenden des Konflikts darüber, wer die rechtmäßigen Erben der Menschheit sind, wenn eine Gruppe von Menschen, die sowohl von KI- als auch von biologischen Meistern gleichermaßen als grob angesehen wird, plötzlich in der Mitte dieser beiden großen Kräfte stehen und sie zu Erben ausrufen kann beide ihrer Abstammung.

Das Spiel ausbalancieren

Sehr oft gehen wir davon aus, dass KIs die Biologie auf natürliche Weise besiegen werden, aber es gibt einige Argumente dafür, warum das auf natürliche Weise nicht so ist. KIs sind besser darin, kleine, gut definierte Probleme zu lösen. Die Biologie ist besser darin, vage große Probleme zu lösen. Betrachten Sie die Gesundheit einer Ameisenkolonie. Wenn wir eine Ameisenkolonie töten wollen, ist das nicht schwer. Wir stellen ein Ameisenvernichtungsmittel hin, lassen sie es essen und lachen in unserer Überlegenheit.

Die Ameisen lachen auch. Durch Biomasse überwiegen sie alle Menschen zusammen und sind auf fast jedem Terrain auf diesem Planeten zu finden. Den Ameisen geht es weit weniger um den Verlust einer Kolonie. Vielleicht gewinnen sie?

Die Interaktion zwischen KI und Biologie würde stark darin bestehen, dass die KI-Seite mit einer überlegenen Streitmacht ein kleines, genau definiertes Ziel anstrebt und es praktisch jedes Mal erobert. Die Biologicals würden jedoch versuchen, daraus einen physischen Sieg zu machen. Sie wollen, dass die KIs die Schlachten gewinnen, aber den Krieg verlieren. Ihre Taktik würde darin bestehen, die KIs bekommen zu lassen, was sie wollen, aber sicherzustellen, dass sie in jedem Kampf mehr geben, als sie einnehmen. Biologicals würden sich darin auszeichnen, eine Gemeinde aufzugeben und dies zu nutzen, um die KI-Armeen zu verlegen und eine KI-Stadt im Handel zu plündern.

Die KIs würden versuchen, ihr Verhalten vorherzusagen, und dort würde das wahre Gleichgewicht liegen. Die Biologie ist sehr chaotisch. Es ist praktisch unmöglich vorherzusagen, was einem als nächstes einfällt. Chaos ist der Feind der KI-Planung. Sie können darauf keine Logik anwenden, denn der Zweck einer chaotischen Bewegung besteht darin, dass es unmöglich ist zu sagen, ob ein Angriff ein kleines Gefecht oder ein großer Krieg sein wird. Nicht einmal die Biologen würden bis zum letzten Moment wissen, was es sein würde. Dort können die Biologen das Gleichgewicht wieder herstellen.

Es gibt einen Kampfstil, bei dem man sich und sein Umfeld so einrichtet, dass man den Gegner an nichts hindert und sich zu nichts verpflichtet. Sie stellen nur sicher, dass Sie einen kleinen Vorteil erhalten, egal was sie tun. Dann wartest du. Aufgrund einer Menge Mathematik, die ich hier nicht aufführen werde, habe ich festgestellt, dass dies mit Biologie (mit Schwerpunkt auf Resilienz) viel einfacher zu erreichen ist als mit KI (mit Schwerpunkt auf Logik und Werkzeugen). Die Biologie würde der KI ein paar Milliarden Optionen geben, die alle gut aussehen, aber alle fehlerhaft sind. Die KI müsste jeden von ihnen analysieren, während die Biologie weiß, dass sie das nicht muss. Welchen Weg auch immer die KI wählt, die Biologie ist bereit.

Diese Technik ist sehr abhängig von chaotischem Verhalten. Wenn sich die KI entscheidet, nichts zu tun, werden ihre Vorhersagen exponentiell ungenauer, was für die langfristige Planung brutal ist. Diese Technik zwingt die KI, eine Wahl zu treffen, ohne ihr Zeit zu geben, die Wahl mit Bedacht zu treffen.

Die beiden Kulturen (Hardware und Wetware) können mit Produkten handeln. Es wäre auch für sie von Vorteil, wenn sich ihre Wissenschaftler/Akademiker gegenseitig konsultieren würden.

Zusammenarbeit und gegenseitige Abhängigkeit sind für beide Kulturen sowieso viel vorteilhafter.

Es wäre sogar interessant, wenn Sie eine dritte Kultur haben, die beide Philosophien vereint. Ich werde ein Wort aus dem Dokumentarfilm „I videogame“ ausleihen und sie „Kulturbrecher“ nennen. Sie werden tun, was Kulturbrecher tun – Grenzen ziehen oder die Grenzen dieser beiden Philosophien verwischen.

Sie wären im Allgemeinen (aber nicht ausschließlich) junge Menschen, die bereit sind, neue Dinge auszuprobieren.

Ich wollte nur eine Frage stellen – was WOLLEN Ihre KIs eigentlich? - aber dann wurde mir klar, dass man das genauso gut auch von Ihrer Biotech-Kultur verlangen könnte. Ich denke, wenn Sie plausible Antworten finden, haben Sie die meiste Antwort.

Eine von vielen Möglichkeiten ist, dass die KIs die Biotechs als Bedrohung sehen und sie ausrotten wollen. Ein weiterer Grund ist, dass die KIs gerne in ihren unterirdischen Siliziumkavernen bleiben und die Biotechs kontrollieren wollen, um die Stromversorgung stabil zu halten.