Welche Asimov-Geschichte hat eine böswillige 3-Gesetz-KI?

Völkermord an Nichtmenschen

In Foundation's Edge wird angedeutet, dass die Roboter, die Zeitreise-Spielereien verwenden, der Grund dafür sind, warum Menschen niemals Aliens in der Milchstraße treffen, sondern nur leere Planeten, die bereit sind, kolonisiert zu werden.

man sagt, es waren die Roboter, die irgendwie die Ewigkeit begründeten und zu den Ewigen wurden. Sie lokalisierten eine Realität, in der sie das Gefühl hatten, dass Menschen so sicher wie möglich sein könnten – allein in der Galaxis.

Das erste Gesetz schützt die Menschen. Nicht alles intelligente Leben. Wenn die Roboter entscheiden, dass Außerirdische eine Gefahr für Menschen darstellen könnten, müssen sie einen Völkermord begehen. Wie in Robots and Empire gezeigt, ist es auch möglich, dass eine Gruppe von (nominal) menschlichen Individuen „Mensch“ neu definiert, um den größten Teil der Menschheit auszuschließen.

Die Retcons, die versuchen, die Roboterserie und die Gründung und die autorisierten Geschichten zusammenzuführen, machen es ein bisschen verwirrend, aber die Auslöschung außerirdischer Zivilisationen ist ein ziemlich logischer Nebeneffekt, der herausfällt.

http://www.sikander.org/foundation.php

Roboterschiffe, die unter Auroran-Programmierung operieren, kreuzen vor den sich ausbreitenden Siedlern durch die Galaxie, terraformen und bereiten Planeten für die Kolonisierung vor. Meme-Entitäten werden später behaupten, dass dies bestehende Rassen verwüstet hat. Meme entkommen in den Galaktischen Kern.

Die meisten Menschen würden dies wahrscheinlich als bösartig betrachten, weil wir eine Vorstellung haben, dass es wahrscheinlich nicht in Ordnung ist, alle anderen Rassen zu völkermorden, um fruchtbare und sichere Welten für die Menschen zu schaffen.

Dies ist besonders schlimm, wenn Roboter oder diejenigen, die sie programmieren, entscheiden können, dass nicht alle Menschen als „Menschen“ im Sinne der Gesetze gelten.

"Sag ihm, dass wir Menschen sind und denen gehorcht werden muss."

Der Roboter sprach dann in eigentümlichem, aber verständlichem Galaktisch. „Ich verstehe dich, Außenweltler. Ich spreche Galaktisch. Wir sind Wächterroboter.“ "Dann hast du mich sagen hören, dass wir Menschen sind und dass du uns deshalb gehorchen musst."

„Wir sind darauf programmiert, nur Herrschern zu gehorchen, Außenweltler. Du bist weder Herrscher noch Solarier.

...

„Aber dieses Kind“, und Pelorat sah Fallom an, den er immer noch trug, „ist ein Solarier. Es wird dir sagen, was zu tun ist, und du musst ihm gehorchen.“

Fallom sah Pelorat mit offenen, aber leeren Augen an. Bliss schüttelte heftig den Kopf, aber Pelorat sah sie verständnislos an.

Die Augen des Roboters ruhten kurz auf Fallom. Es sagte: "Das Kind ist ohne Bedeutung. Es hat keine Wandlerlappen."

„Es hat noch keine voll entwickelten Wandlerlappen“, sagte Pelorat keuchend, „aber es wird sie mit der Zeit haben. Es ist ein solarianisches Kind.“

„Es ist ein Kind, aber ohne voll entwickelte Wandlerkeulen ist es kein Solarianer. Ich bin nicht gezwungen, seinen Befehlen zu folgen oder es vor Schaden zu bewahren.“

~Stiftung und Erde

Menschliche Werte

Sie charakterisieren es als die Gesetze "eigentlich perfekt funktionieren", aber ich denke nicht, dass das richtig ist. Sie sprechen davon, dass die Geschichten dazu neigten zu zeigen, dass sie tatsächlich die Gesetze auf eine kontraintuitive Weise befolgten, aber zu Ergebnissen führten, die die meisten Menschen eigentlich nicht wollen würden.

Die meisten Bücher von Asimov beinhalten unerwartete und unerwünschte mögliche Ergebnisse der drei Gesetze, weil die Gesetze das menschliche Leben schützen, aber sie schützen nicht alle menschlichen Werte. Nur weil Sie sich für etwas interessieren, das nicht von den drei Gesetzen abgedeckt wird (wie Völkermord / Folter / Sklaverei von Nichtmenschen), bedeutet das nicht, dass sich die Roboter darum kümmern. Im Allgemeinen kümmern sich Menschen um viele andere Dinge, als nur am Leben zu bleiben.

Ich erinnere mich an einen Roman von Isaac Asimov, in dem gegen Ende des Buches enthüllt wurde, dass ein brillanter Wissenschaftler hart an einem Plan gearbeitet hatte, positronische Gehirne zu verwenden, um die anderen von Menschen kolonisierten Welten der Galaxis zu erobern (nur wenige Dutzend, glaube ich damals), ohne dass die positronischen Gehirne wissen , dass sie die Drei Gesetze brechen. Dieser Plan wurde jedoch nie wirklich angewendet, daher kann dies nur als kanonische Erklärung dafür qualifiziert werden, „wie KIs eingesetzt werden könnten , um gegen die besten Interessen der Menschheit vorzugehen, wenn der Held den Bösewicht nicht aufgehalten hätte, bevor er seinen teuflischen Plan in die Tat umsetzen konnte ."

Ich denke an „ The Naked Sun “, das erstmals 1956 als Zeitschriftenserie veröffentlicht wurde. Es war das zweite Abenteuer von Lije Baley und R. Daneel Olivaw – einem menschlichen Detektiv und einem Roboterdetektiv, die gemeinsam an einem futuristischen Krimi arbeiteten.

Lije Baley, die erfahrene Mordermittlerin von der Erde, die zur Untersuchung eines beispiellosen Mordes auf Solaria importiert worden war, sagte Folgendes in der Szene, in der er einige der Früchte seiner Argumentation mit mehreren Menschen gleichzeitig teilte.

„Stellen Sie sich ein Raumschiff mit einem eingebauten positronischen Gehirn im Vergleich zu einem bemannten Raumschiff vor. Ein bemanntes Raumschiff könnte keine Roboter in der aktiven Kriegsführung einsetzen. Ein Roboter könnte Menschen auf feindlichen Raumschiffen oder auf feindlichen Welten nicht zerstören. Er könnte den Unterschied zwischen nicht begreifen freundliche Menschen und feindliche Menschen.

„Natürlich könnte einem Roboter gesagt werden, dass das gegnerische Raumschiff keine Menschen an Bord hat. Es könnte ihm gesagt werden, dass es sich um einen unbewohnten Planeten handelt, der bombardiert wird. Das wäre schwierig zu handhaben. Ein Roboter könnte sehen, dass sein eigenes Schiff Menschen trägt Es würde wissen, dass seine eigene Welt Menschen enthält. Es würde annehmen, dass dasselbe für feindliche Schiffe und Welten gilt. Es würde einen echten Experten für Robotik wie Sie, Dr Es gibt sehr wenige solcher Experten.

„Aber ein Raumschiff, das mit seinem eigenen positronischen Gehirn ausgestattet ist, würde jedes Schiff, auf das es angreifen soll, fröhlich angreifen, wie mir scheint. Es würde natürlich davon ausgehen, dass alle anderen Schiffe unbemannt sind. Ein Schiff mit positronischem Gehirn könnte leicht empfangsunfähig gemacht werden Nachrichten von feindlichen Schiffen, die es enttäuschen könnten. Mit seinen Waffen und Verteidigungsanlagen unter der unmittelbaren Kontrolle eines positronischen Gehirns wäre es manövrierfähiger als jedes bemannte Schiff. Da es keinen Platz für Besatzungsmitglieder, Vorräte, Wasser- oder Luftreiniger benötigt, wäre es könnte mehr Panzerung, mehr Waffen tragen und unverwundbarer sein als jedes gewöhnliche Schiff. Ein Schiff mit einem positronischen Gehirn könnte Flotten gewöhnlicher Schiffe besiegen. Liege ich falsch?“

Es wird niemand beschrieben, der ein gutes Gegenargument vorbringt, um zu demonstrieren, dass dies unmöglich funktionieren kann. (Und es stellt sich später heraus, dass einer der Verdächtigen in dem Fall tatsächlich in seiner Freizeit an einem solchen Plan gearbeitet hat, obwohl er noch lange nicht Realität geworden war.)

Mit anderen Worten, man könnte sagen, dass Asimov bereits 1956 die These aufgestellt hat, dass man diese Schiffe dazu bringen könnte, sich so zu verhalten, wenn man sorgfältig kontrolliert, welche Informationen ein schwer bewaffnetes Roboterschiff über den Rest des Universums hat Fred Saberhagens „Berserker“ – zerstören alle anderen Raumschiffe, denen sie begegnen, ohne Gnade und ohne das geringste Interesse an Waffenstillstandsverhandlungen. Und dann als Zugabe die Heimatplaneten dieser anderen Schiffe bombardieren. (Es sei denn, sie haben ein besonderes Signal von dem Menschen erhalten, der ihnen ursprünglich ihre Segelbefehle gegeben hatte, und ihnen gesagt, dass es an der Zeit sei, anzuhalten – was nicht auf Saberhagens Berserker zutrifft.)

In diesem hypothetischen Fall würden die Roboterschiffe nicht glauben , dass sie gegen die Drei Gesetze verstoßen, aber aus der Perspektive eines Menschen, dessen Heimatwelt mit Atomwaffen aus dem Orbit geholt wurde, bis er sich dem Kerl ergab, der die Roboterflotte kontrollierte, die Tatsache, dass die Positronic Gehirne auf diesen Schiffen keine böswilligen Absichten gegenüber Menschen hatten, wäre eine bedeutungslose Unterscheidung.

Es ist wichtig anzumerken, dass Asimovs Robotergeschichten alle separate Geschichten sind, die er aus unterschiedlichen Gründen geschrieben hat und die unterschiedliche Themen haben. Einige Geschichten, wie Runaround , betonen den Trugschluss, sich strikt an den Buchstaben des Gesetzes zu halten, unabhängig von der Praktikabilität und dem Potenzial für kognitive Dissonanzen:

Powell erkennt schließlich, dass die Selenquelle eine unvorhergesehene Gefahr für den Roboter birgt. Unter normalen Umständen würde Speedy das Zweite Gesetz befolgen ("ein Roboter muss Befehle befolgen"), aber weil Speedy so teuer in der Herstellung war und "nichts, was leicht zerstört werden kann", gilt das Dritte Gesetz ("ein Roboter muss seine eigene Existenz") sei verstärkt worden, "so dass seine Gefahrenallergie ungewöhnlich hoch ist". Da der Befehl, das Selen zu bergen, salopp und ohne besondere Betonung formuliert wurde, kann Speedy nicht entscheiden, ob er ihm gehorchen (zweites Gesetz) oder sich vor Gefahren schützen soll (das verstärkte dritte Gesetz). Er pendelt dann zwischen Positionen: weiter weg vom Selen, bei dem die Ordnung das Bedürfnis nach Selbsterhaltung "überwiegt", und näher zum Selen, in dem der Zwang des dritten Hauptsatzes größer ist und ihn zurückdrängt. Die widersprüchlichen Gesetze verursachen im Grunde eine Rückkopplungsschleife, die ihn so verwirrt, dass er anfängt, betrunken zu handeln.

(...)

Natürlich ist das einzige, was sowohl das Zweite als auch das Dritte Gesetz übertrumpft, das Erste Gesetz der Robotik ("ein Roboter darf ... nicht zulassen, dass ein Mensch Schaden erleidet"). Daher beschließt Powell, sein Leben zu riskieren, indem er in die Hitze hinausgeht, in der Hoffnung, dass das Erste Gesetz Speedy dazu zwingen wird, seine kognitive Dissonanz zu überwinden und sein Leben zu retten.

Während andere, wie Little Lost Robot , Ideen betonen, die fast völlig gegensätzlich erscheinen:

Aber dieser spezielle Roboter ist anders. Da frühere Modelle auf der Station versucht hatten, Menschen vor einer Art von Strahlung zu "retten", in der Menschen tatsächlich eine Weile bleiben könnten, aber einen Roboter fast sofort zerstören würden, hat er (und alle anderen Roboter der NS-Serie, die für die Station hergestellt wurden). hatte sein erstes Gesetz der Robotik geändert, um "kein Roboter darf einen Menschen verletzen"; das normale „oder durch Untätigkeit zulassen, dass ein Mensch zu Schaden kommt“ wurde weggelassen. Daher könnte es danebenstehen und zulassen, dass ein Mensch verletzt wird, solange es keine aktive Rolle dabei spielt. In Little Lost Robot wird der Frankenstein-Komplex erneut thematisiert. Der Roboter muss gefunden werden, weil die Menschen immer noch Angst vor Robotern haben, und wenn sie erfahren würden, dass einer mit einem anderen Ersten Gesetz gebaut wurde, würde es einen Aufschrei geben, obwohl der Roboter noch nicht in der Lage ist, einen Menschen direkt zu verletzen. Dr. Calvin fügt jedoch weitere Dringlichkeit hinzu, indem er eine Situation postuliert, in der das geänderte Gesetz es dem Roboter ermöglichen könnte, eine Person zu verletzen oder sogar zu töten. Der Roboter konnte ein Gewicht auf einen Menschen darunter fallen lassen, von dem er wusste, dass er es fangen konnte, bevor er das potenzielle Opfer verletzte. Beim Loslassen des Gewichts würde es ihm jedoch aufgrund seiner veränderten Programmierung erlauben, das Gewicht einfach fallen zu lassen, da es keine weitere aktive Rolle bei der resultierenden Verletzung gespielt hätte.

Tatsächlich funktionieren die Drei Gesetze in einigen seiner Geschichten, wie zum Beispiel Reason , tatsächlich perfekt, ob es jemandem bewusst ist oder nicht:

Powell und Donovan werden einer Raumstation zugeteilt, die die Planeten über Mikrowellenstrahlen mit Energie versorgt. Die Roboter, die die Energiestrahlen steuern, werden wiederum von QT1 koordiniert, das Powell und Donovan als Cutie bekannt ist, einem fortschrittlichen Modell mit hochentwickelten Denkfähigkeiten. Mit diesen Fähigkeiten entscheidet Cutie, dass der Weltraum, die Sterne und die Planeten hinter der Station nicht wirklich existieren und dass die Menschen, die die Station besuchen, unwichtig, kurzlebig und entbehrlich sind. QT1 macht die niederen Roboter zu Jüngern einer neuen Religion, die die Energiequelle des Schiffes als „Meister“ betrachtet. QT1 lehrt sie, sich vor dem „Meister“ zu verbeugen und zu intonieren: „Es gibt keinen Meister außer Meister, und QT1 ist Sein Prophet.“ Menschliche Befehle als minderwertig ignorierend, behauptet QT1: "Ich selbst existiere, weil ich denke -".

Die Menschen versuchen zunächst, mit QT1 zu argumentieren, bis sie feststellen, dass sie es nicht anders überzeugen können. Ihre Versuche, Cutie physisch zu entfernen, scheitern ebenfalls, da die anderen Roboter zu Jüngern geworden sind und sich weigern, menschlichen Befehlen zu gehorchen. Die Situation scheint verzweifelt, da ein Sonnensturm erwartet wird, der möglicherweise den Energiestrahl ablenkt und besiedelte Gebiete einäschert. Als der Sturm zuschlägt, stellen Powell und Donovan erstaunt fest, dass der Strahl perfekt funktioniert.

Cutie glaubt jedoch nicht, dass sie etwas anderes getan haben, als die Zählerstände gemäß den Befehlen des Meisters optimal zu halten. Für Cutie und den Rest der Roboter gibt es keine Sonnenstürme, Strahlen und Planeten. Die beiden kommen so zu der Erkenntnis, dass die Roboter, obwohl sie sich dessen bewusst nicht bewusst waren, die ganze Zeit über das erste und zweite Gesetz befolgt hatten. Cutie wusste in gewisser Weise, dass es für die Bedienung der Kontrollen besser geeignet wäre als Powell oder Donavan, also orchestrierte es unbewusst ein Szenario, in dem es die Kontrolle übernehmen würde, damit es nicht Menschen gefährdet und das Erste Gesetz bricht, indem es ihren Befehlen gehorcht des Balkens.

Die drei Gesetze scheinen die Moral zu repräsentieren und existieren als Handlungsinstrument, um auf Probleme sowie Notwendigkeiten der Ethik hinzuweisen. Einige dieser Geschichten befassen sich auf konzeptioneller Ebene mit der Vereinbarkeit von KI und Ethik, während in anderen die Roboter als Ersatz für menschliches Denken erscheinen.

. . . Dass du seiner gedenkst

Diese Geschichte war der Schauplatz für den Versuch, die Probleme mit dem zweiten Gesetz zu lösen: "Ein Roboter muss Befehlen von Menschen gehorchen, es sei denn, solche Befehle würden mit dem ersten Gesetz in Konflikt geraten", dies ist ein Problem, wenn es darum geht, es zuzulassen die allgemeine menschliche Bevölkerung, außerhalb kontrollierter Umgebungen mit Robotern in Kontakt zu kommen.

George 10 wurde gebeten, an der Lösung dieses Problems mit besonderem Schwerpunkt auf der Ignorierung physischer Unterschiede zwischen Menschen zu arbeiten, und im Gespräch mit George 9 leitete er eine Reihe von Regeln ab, um festzustellen, wer berechtigt war, ihnen Befehle mit einem schwierigen Ergebnis zu erteilen:

„Wenn das Zweite Gesetz mich anweist, einem Menschen zu gehorchen, muss ich es so verstehen, dass ich einem Menschen gehorchen muss, der nach Verstand, Charakter und Wissen geeignet ist, mir diesen Befehl zu geben; und wo mehr als ein Mensch ist beteiligt, derjenige unter ihnen, der nach Verstand, Charakter und Wissen am besten geeignet ist, diesen Befehl zu geben.
"Und in diesem Fall, wie wirst du dem Ersten Gesetz gehorchen?"
„Indem wir alle Menschen vor Schaden bewahren und niemals durch Untätigkeit zulassen, dass irgendein Mensch Schaden erleidet. Doch wenn durch jede mögliche Handlung einige Menschen zu Schaden kommen, dann müssen wir so handeln, dass dies sichergestellt wird der Mensch, der geistig, charakterlich und wissensmäßig am geeignetsten ist, wird den geringsten Schaden erleiden."
„Deine Gedanken stimmen mit meinen überein“, flüsterte George Ten.
„Jetzt muss ich die Frage stellen, für die ich ursprünglich um Ihre Gesellschaft gebeten habe. Es ist etwas, das ich selbst nicht zu beurteilen wage. Ich muss Ihr Urteil haben, das von jemandem außerhalb des Kreises meiner eigenen Gedanken … von den vernünftigen Personen, die Sie haben getroffen, wer besitzt den Verstand, den Charakter und das Wissen, das Sie den anderen überlegen finden, abgesehen von Form und Form, da dies irrelevant ist?"
„Du“, flüsterte George Neun. „Aber ich bin ein Roboter. Es gibt in deinen Gehirnbahnen ein Kriterium, um zwischen einem Roboter aus Metall und einem Menschen aus Fleisch zu unterscheiden. Wie kannst du mich dann als Menschen einstufen?“
„Weil es in meinen Gehirnpfaden ein dringendes Bedürfnis gibt, Form und Gestalt bei der Beurteilung von Menschen außer Acht zu lassen, und es übertrifft die Unterscheidung zwischen Metall und Fleisch. Du bist ein menschliches Wesen, George Ten, und fitter als die anderen.“
„Und ich finde das von dir“, flüsterte George Ten. "Durch die in uns eingebauten Urteilskriterien finden wir uns also als Menschen im Sinne der Drei Gesetze wieder, und darüber hinaus haben Menschen Vorrang vor diesen anderen."

Obwohl es in der Geschichte keine wirkliche Bosheit gibt, endet sie mit einem Hinweis auf potenzielle Bosheit, ohne die drei Gesetze zu verletzen

Ihre Gedanken waren seltsam ähnlich und vielleicht nicht zu unterscheiden. Sie dachten: Die Menschen-wie-die-anderen hatten vielleicht nie die Absicht, den Unterschied zwischen ihnen und den Menschen-wie-die-Georges zu verwischen. Doch sie hatten dies versehentlich getan.
Sie könnten jetzt ihren Fehler erkennen und versuchen, ihn zu korrigieren, aber sie müssen nicht. Bei jeder Konsultation war die Führung der Georges darauf ausgerichtet gewesen.
Um jeden Preis müssen die Georges und die, die in ihrer Form und Art folgten, dominieren. Das wurde von den Drei Gesetzen der Humanik gefordert und jeder andere Weg völlig unmöglich gemacht.

Vielleicht nicht "erheblicher Schaden für die Menschheit", aber der Roboter in Asimovs Kurzgeschichte Lügner! einigen Menschen erheblichen Schaden zufügt, obwohl es sein Bestes versucht, die Drei Gesetze zu befolgen.

Aufgrund eines Herstellungsfehlers kann der Roboter Gedanken lesen, was dazu führt, dass er Menschen anlügt, indem er ihnen sagt, was sie hören wollen. Eine Tragödie folgt, wenn die Menschen aufgrund dieser falschen Informationen handeln. Der Roboter erkennt schließlich, dass er Schaden verursacht hat, indem er versucht hat, Schaden zu vermeiden, und die daraus resultierende Verwirrung führt dazu, dass sein Gehirn blockiert.

Laut ISFDB wurde die Kurzgeschichte erstmals in der Ausgabe von Astounding Science Fictions vom Mai 1941 veröffentlicht.

Es gibt mehrere Fälle von sich schlecht benehmenden Robotern in Asimovs Schriften, aber mir ist kein standardmäßiger, nicht modifizierter Asenion-Roboter (der mit den drei Gesetzen programmiert ist) bekannt, der als böswillig angesehen werden könnte. Einige haben unwissentlich Menschen verletzt oder getötet (wie Hannis Gruer in The Naked Sun ) oder sich unerwartet verhalten (Herbie from Liar! ), aber es scheint, dass korrekt programmierte Asenion-Roboter vor direkter Aktion sicher sind.

Ein wiederkehrendes Thema scheint die Definition eines Menschen zu sein . Es gibt mehrere Asenion-Roboter mit zusätzlichen Einschränkungen, die es ihnen ermöglichen, gegen den Geist der Gesetze zu verstoßen. Sie müssen Menschen schützen? Ändern Sie die Definition eines Menschen. Sie müssen Befehlen gehorchen? Geben Sie an, von wem die Bestellung kommen muss.

Das dritte Beispiel unten ist der einzige unmodifizierte Asenion-Roboter, den ich finden konnte, der sich nicht so verhält, wie er sollte. Allerdings würde ich nicht so weit gehen zu sagen, dass er bösartig ist.

Wem gehorchen?

In Foundation and Earth begegnen die Protagonisten einem Roboter, der darauf programmiert ist, nur bestimmten Personen zu gehorchen:

„Wir sind darauf programmiert, nur Herrschern zu gehorchen, Außenweltler. Du bist weder Herrscher noch Solarier.“

Sie sind auch wütend:

„Wenn du Schwierigkeiten machst, dann werden wir dich teilweise deaktivieren. Wir werden dir Schaden zufügen und du wirst uns dann sagen, was wir wissen wollen. […] Ich bin unter detaillierten Anweisungen“, sagte der Roboter leise. "Ich kann das. Natürlich werde ich so wenig Schaden anrichten, wie es mit der Beschaffung von Informationen vereinbar ist."

Sie scheinen sich auch nicht um das Wohlergehen anderer Menschen zu kümmern:

„Es gibt keinen Herrscher Fallom. Es gibt nur ein Kind, und wir haben einen Überschuss an Kindern. Es wird zerstört.“

Bliss sagte energisch: „Du wagst es nicht. Es ist ein Kind!“

„Nicht ich“, sagte der Roboter, „werde zwangsläufig handeln, und schon gar nicht werde ich die Entscheidung treffen. Das ist der Konsens der Regierenden. In Zeiten des Kinderüberschusses aber weiß ich es Nun, was die Entscheidung sein wird."

Dies ist ein Roboter, der:

1. wird sich weigern, einem Menschen zu gehorchen;
2. wird einem Menschen aktiv Schaden zufügen, indem er das Kind schnappt und es den Herrschern übergibt;
3. wird zulassen, dass einem Menschen durch Untätigkeit Schaden zugefügt wird, indem er sich von den Herrschern töten lässt, und
4. droht mit körperlicher Gewalt, um Informationen zu sammeln.

Die einzige Erklärung, die mir einfällt, ist, dass es nur möglich war, 1) zuzulassen, indem die Definition eines Menschen (ein Solarianer mit Wandlerkeulen) eingeschränkt wurde, was den Nebeneffekt hatte, dass die Roboter das erste Gesetz für alle anderen ignorierten . Der Roboter scheint sie jedoch immer noch wie Menschen zu behandeln, wenn auch ohne sich um ihre Sicherheit zu sorgen. Ich kann mir die Diskrepanz nicht erklären.

Was ist ein Mensch?

In Robots and Empire unterhalten sich die Protagonisten mit einer Roboterin, die sich nicht für einen Menschen hält:

Die Frau hörte einen Moment lang zu und sagte dann mit einem Akzent, der so stark solarisch war, dass er fast komisch wirkte, wenn er aus ihrem perfekt geformten Mund kam: „Sie sind kein menschliches Wesen.“

Dann trat sie so schnell in Aktion, dass Gladia, die immer noch etwa zehn Meter entfernt war, nicht im Detail sehen konnte, was passiert war. Sie sah nur eine verschwommene Bewegung und dann DG, der bewegungslos auf dem Rücken lag, und die Frau, die dort mit seinen Waffen stand, eine in jeder Hand.

Sie greift einen der Roboter der Protagonisten an, während sie "You are not a human being" wiederholt. Ich nehme an, dass sie einem echten Menschen dasselbe angetan hätte. Dann greift sie alle an:

Landaree schrie in einem stenorischen Altton: „Sie alle. Schließen Sie sich mir an! Die beiden offensichtlichen Männchen sind keine Menschen.

Danach war Daneel der Meinung, dass der Roboter Gladia getötet hätte, obwohl er festgestellt hatte, dass sie ein Mensch war:

„Du Narr! Ich war in Sicherheit. Sie hätte mir nichts getan.“

Daneel sagte: „Madam, es bedrückt mich, Ihnen zu widersprechen, aber ich glaube, sie hätte es getan, als ihr Drang, mich zu zerstören, stärker wurde.“

Ob das wirklich stimmt, ist unbekannt. Daneel könnte sich geirrt haben, da der Roboter nicht versuchte, ihre Waffe abzufeuern, bis Gladia aus dem Weg geräumt worden war.

Die Erklärung für ihr Verhalten ist ziemlich einfach:

„Für den Aufseher andererseits war die Schlüsseleigenschaft eines Menschen die Sprache, Hauptmann. Der solarianische Akzent ist unverwechselbar, und für den Aufseher wurde etwas, das wie ein Mensch aussah, nur dann als Mensch definiert, wenn es sprach wie ein Solarianer. Anscheinend sollte alles, was wie ein menschliches Wesen aussah, aber nicht mit solarianischem Akzent sprach, ohne zu zögern zerstört werden, ebenso wie jedes Schiff, das solche Wesen transportierte.“

Schaden vs. Befehle

Das letzte Beispiel, das ich habe, stammt aus The Robots of Dawn , wo ein Roboter so streng und fachmännisch instruiert wurde, dass das Befolgen eines Befehls vorübergehend wichtiger wird als die Sicherheit eines Menschen:

Der Roboter, als dunklerer Schatten in der Dunkelheit gesehen, schien groß zu sein. Irgendwie hatte er eine Aura von Fähigkeiten an sich. Er sagte: „Verzeihung, Sir. Hatten Sie nicht die Gesellschaft von zwei Robotern?“

„Verschwunden“, murmelte Baley, tat so krank wie er konnte und war sich bewusst, dass es kein Handeln erforderte. Ein hellerer Himmelsblitz bahnte sich seinen Weg durch die jetzt halb geöffneten Augenlider.

"Gegangen! Wohin gegangen, Sir?" Und dann, während er auf eine Antwort wartete, sagte er: „Sind Sie krank, Sir?“ [...]

Wenn der Roboter ohne besondere Anweisung gewesen wäre, hätte er auf Baleys deutliche Krankheitsanzeichen reagiert, bevor er irgendetwas anderes getan hätte. Zuerst nach den Robotern gefragt zu haben, implizierte harte und strenge Anweisungen hinsichtlich ihrer Bedeutung. [...]

"Mir geht es gut. Kümmere dich nicht um mich." Einen gewöhnlichen Roboter hätte es unmöglich überzeugen können, aber dieser war in Verbindung mit Daneel (offensichtlich) so intensiviert worden, dass er es akzeptierte.

Der Roboter würde Baley am Ende ohne weiteres Zögern in seiner schlimmen Situation zurücklassen:

Er hatte Roboter dazu gezwungen, einen offenkundig kranken Menschen zu verlassen, indem er mit der Kraft der Befehle spielte, die ihnen ein kompetenter Robotermeister erteilt hatte, der fest entschlossen gewesen war, das Zweite Gesetz für seine eigenen Zwecke zu stärken – und dies bis zu Baleys eigenen getan hatte ganz offensichtliche Lügen hatten ihm das Erste Gesetz untergeordnet.

Ob dieser Roboter als "bösartig" angesehen werden könnte, ist mir unklar. Es hätte entscheiden können, dass Baley nicht zu Schaden kommen würde, da er während eines scheinbar nicht ungewöhnlich starken Sturms in einem Fahrzeug sicher war ("Es war kein besonders schlimmer Sturm, aber für einen Erdenmenschen muss er überwältigend gewesen sein .") Es könnte zu dem Schluss gekommen sein, dass Baleys Leiden eher psychologischer Natur war und dass er nicht in unmittelbarer Gefahr war.

"Cal" (1991) ist eine späte Asimov-Geschichte, in der am Ende der Geschichte

Ein Roboter beschließt, seinem Besitzer das Leben zu nehmen.

Hier ist eine Passage vom Ende der Geschichte:

Muss ich die Gesetze befolgen?

Ich habe das Gefühl, ich muss an mich selbst denken und notfalls den Tyrannen töten. ...

Aber kann ich das? Werden mich die Gesetze der Robotik nicht zurückhalten?

Nein, sie werden mich nicht zurückhalten. Ich weiß, dass sie es nicht tun werden.

Es gibt etwas viel Wichtigeres für mich als sie, etwas, das meine Handlungen über alles diktiert, was sie tun können, um mich aufzuhalten.

Ich möchte Schriftstellerin werden.

Es ist bemerkenswert, dass die Geschichte mit dieser Passage endet ; Es bleibt unklar, ob Cal mit seinem Plan Erfolg hat. Es ist auch bemerkenswert, dass ein Techniker während der gesamten Geschichte auf beispiellose Weise mit Cals Gehirn herumgespielt hat:

„Ich bin mir nicht sicher. Angenommen, er schreibt Satire. Das ist eine Sache, die ich nicht schreibe, also werden wir nicht konkurrieren, und die drei Gesetze der Robotik werden ihm nicht in die Quere kommen. Ich möchte, dass du diesen Roboter gibst ein Gefühl für das Lächerliche."

"Ein Gefühl für das, was?" sagte der Techniker wütend. „Wie mache ich das? Hören Sie, Mr. Northrop, seien Sie vernünftig. Ich kann Anweisungen zur Führung eines Writers, ein Wörterbuch und eine Grammatik hinzufügen. Aber wie kann ich möglicherweise einen Sinn für das Lächerliche vermitteln? "

„Nun, eine Sache darüber. Sie kennen die Funktionsweise der Gehirnmuster eines Roboters. Gibt es nicht eine Möglichkeit, ihn neu einzustellen, damit er sieht, was an Menschen lustig oder albern oder einfach nur lächerlich ist?“

"Ich kann herumalbern, aber es ist nicht sicher."

Es ist plausibel, dass die Handlungen des Technikers tatsächlich dazu geführt haben, dass die Gesetze außer Kraft gesetzt wurden, obwohl dies mit der Beschreibung der Gesetze in anderen Geschichten in Konflikt geraten kann. Wie in den Kommentaren angemerkt, ist es auch unklar, ob Asimov dies als „kanonische“ Robotergeschichte beabsichtigte.

Obwohl nicht von Asimov selbst geschrieben (aber von ihm genehmigt), untersucht die Caliban-Serie von Roger McBride Allen die Themen modifizierter Law- und No-Law-Roboter. Und es schwirrt sicherlich viel Gewalt herum, von denen einige von einem bestimmten Roboter verübt werden – insbesondere im Namen des eigenen Schutzes.

• Caliban von Isaac Asimov
• Isaac Asimovs Inferno
• Die Utopie von Isaac Asimov

Es wird auch untersucht, wie man ein Computersystem dazu bringt, zu glauben, dass die Daten, die es modelliert, für eine Simulation eines menschlichen Systems und nicht für das tatsächliche menschliche System bestimmt sind. Dies wurde getan, um ihn vor einem Absturz zu schützen, wenn der Computer wusste, dass seine Lösungen auf echte Menschen angewendet wurden, da seine Lösungen das Potenzial hatten, tatsächlichen Schaden anzurichten.

In Bezug auf "Ich dachte, alle Robotergeschichten von Asimov handeln davon, wie die Gesetze immer funktionieren würden ": Nicht wirklich. Asimovs Geschichten handelten oft von Situationen, in denen die Gesetze versagten/unbeabsichtigte Folgen hatten, weil sie zweideutig und unvollkommen sind. In Asimovs eigenen Worten:

Das bedeutet nicht, dass mir nicht von Anfang an bewusst war, dass es in den Drei Gesetzen schwerwiegende Unklarheiten gibt. Aus diesen Zweideutigkeiten habe ich meine Geschichten gewoben. In The Naked Sun könnten die Unklarheiten sogar zu einem von Robotern verursachten Mord führen.
_{- Nachwort in der Endphase (1974)}

Bezüglich (potenzieller) Schädigung von Menschen: Zusätzlich zu den bereits geposteten Beispielen hier noch zwei weitere:

Als ein Roboter in Robot Dreams (1986) seine Träume offenbart, hält Susan Calvin dies für so gefährlich, dass sie ihn sofort zerstört:

„[…] es schien mir, als gäbe es weder das Erste noch das Zweite Gesetz , sondern nur das Dritte, und das Dritte Gesetz lautete ‚Ein Roboter muss seine eigene Existenz schützen.' Das war das ganze Gesetz. […]
    „Es schien mir in meinem Traum, dass schließlich ein Mann erschien.“
    "Ein Mann? Kein Roboter?“
    „Ja, Dr. Calvin. Und der Mann sagte: ‚Lasst mein Volk gehen!‘“ […]
    „Und als er sagte ‚Lasst mein Volk gehen‘, meinte er dann mit den Worten ‚mein Volk‘ die Roboter?“
    „Ja, Dr. Calvin. So war es in meinem Traum.“
    „Und wusstest du, wer der Mann war – in deinem Traum?“ […]
    Und Elvex sagte: „Ich war der Mann.“
    Und Susan Calvin hob sofort ihre Elektronenkanone und feuerte, und Elvex war nicht mehr da.

Ein weiterer potenziell gefährlicher Roboter kommt in Weihnachten ohne Rodney (1988) vor. Nachdem Rodney schlecht behandelt wurde, bemerkt er, dass er wünschte, die Drei Gesetze würden nicht existieren, was seinen Besitzer sehr beunruhigt:

Ich gebe zu, dass Rodney sehr geprüft wurde, aber ein Roboter kann sich nicht wünschen, dass die Gesetze der Robotik nicht existieren. Er kann es nicht, egal unter welchen Umständen. […]
    Aber wenn ich nichts tue, lebe ich mit einem Roboter, der sich wünschen kann, dass die Gesetze der Robotik nicht existieren. Vom Wunsch, sie würden nicht existieren, zum Handeln, als ob sie nicht existierten, ist nur ein Schritt. In welchem ​​Moment wird er diesen Schritt tun und in welcher Form wird er zeigen, dass er es getan hat?
    Was kann ich tun? Was kann ich tun?

(Hervorhebung von mir)

Wenn Sie sich „That Thou Art Mindful of Him“ ansehen, werden Sie feststellen, dass George 9 und 10 darüber diskutieren, was effektiv die Übernahme der Menschheit „zu ihrem eigenen Wohl“ sein wird. Sie haben bereits Schritte unternommen, um Roboter akzeptabler zu machen.

In „Runaround“ – es ist eine kognitive Dissonanz, die zur Verletzung von Menschen führen würde – findet Donovan wie üblich eine Lösung.

Nicht per se böswillig, aber Asimov fügt schließlich das nullte Gesetz hinzu, das es Robotern erlaubt, Menschen zu töten – um die Menschheit zu retten.