Ist Google Duplex unethisch, wenn es sich nicht ausdrücklich als nicht menschlich identifiziert?

Die kürzliche Google Duplex-Demo hat online einen Feuersturm der Kritik ausgelöst.

Eines der Dinge, die ich immer wieder hörte, war, dass es eine unethische Täuschung für ein KI-System sei, sich als menschlicher Anrufer auszugeben.

Ich habe darüber nachgedacht und kann nicht herausfinden, was daran unmoralisch oder unethisch ist.

Einige Leute haben sogar argumentiert, dass Google vorsätzlich täuschen wollte, aber ich verstehe nicht, wie das sein könnte, da der ganze Sinn des Systems darin besteht, die Erfahrung für den Angerufenen nahtlos zu gestalten, so dass die Erfahrung des Angerufenen die Interaktion ist so einfach, als wäre es ein Mensch am anderen Ende.

Ich verstehe auch nicht, woher die Idee kommt, dass der Angerufene ein moralisches Recht hat zu wissen, ob er mit einem Computersystem anstelle einer Person interagiert. Kann das jemand aufklären? Warum besteht in dieser Interaktion dieses Recht, verglichen mit beispielsweise dem Recht, andere Fakten über einen Anrufer zu erfahren, wenn dieser Anrufer ein Mensch war?

Rechtlich und moralisch sind Unternehmen dazu verpflichtet, ihren Kunden vorbehaltlos zu dienen. Zum Beispiel wäre es falsch, einen Kundendienst wegen seiner Rasse oder Religion abzulehnen.

In Bezug auf die Interaktion kann ich mir keinen Grund vorstellen, die Raffinesse der KI als unethisch darzustellen, es sei denn, die Kenntnis der nichtmenschlichen Identität des Anrufers würde dazu führen, dass sich der Angerufene bei dieser Erkenntnis anders verhält.

Und dann stellt sich für mich die Frage, was dieser Unterschied im Verhalten mit sich bringt. Das einzige, was mir einfällt, ist, einfach aufzulegen, der Wunsch, sich weigern zu können, mit einer KI zu interagieren.

Kann mir jemand das Gegenargument erklären? Warum ist es in diesem Fall unethisch, dass ein Unternehmen nicht weiß, dass ein Anrufer eine KI und kein Mensch ist?

Dies scheint hauptsächlich meinungsbasiert zu sein, aber ich hoffe, jemand kann eine Antwort geben, die nicht nur seine eigene Meinung wiedergibt.
@FrankHubeny Mainstream-Medien wie die BBC und andere zitieren Philosophieprofessoren mit der Aussage, dass dies Täuschung und unethisch sei. Wenn Sie nicht behaupten, dass diese Leute Scharlatane sind, muss es starke Argumente für ihre Position geben, oder?
Ich habe für das Schließen gestimmt, da es hauptsächlich auf Meinungen basiert.
@FrankHubeny Ich bin absolut nicht der Meinung, dass dies eine meinungsbasierte Frage ist. Ich denke, das ist eine relevante und aktuelle Frage für die moderne Philosophie.

Antworten (3)

"Du sollst keine Maschine machen, die dem menschlichen Geist gleicht" - Orange Katholische Bibel

Der Begriff „unethisch“ wird oft an nicht-philosophischen Orten herumgeworfen, um eine Vielzahl unerwünschter Dinge zu bezeichnen. Oft haben sie sehr wenig mit Ethik zu tun, also muss man sich eigentlich fragen, was die Leute meinen, wenn sie behaupten, es sei unethisch.

Ein Aspekt, den ich als unethisch ansehen könnte, ist, dass es normalerweise als unethisch angesehen wird, zu lügen. Wenn jemand glaubt, dass er mit einem Menschen spricht, wenn er tatsächlich mit einer KI spricht, ist es eine kleine Lüge, wenn die KI sich nicht identifiziert. Es gibt jedoch eine lange Reihe von Debatten darüber, ob Lügen durch Unterlassungen dasselbe sind wie aktives Lügen.

Ein weiteres potenzielles Problem besteht darin, dass allgemein davon ausgegangen wird, dass Gespräche nicht aufgezeichnet werden, sofern dies nicht angegeben ist („Dieser Anruf kann zur Qualitätssicherung aufgezeichnet werden.“). Wie sich die KI-Sprachverarbeitung hier einfügt, ist noch unklar.

Ich würde dies nicht als geschützt betrachten, wie es Rasse oder Religion sind. Dies sind geschützte Merkmale, die als eine ganz andere Klasse behandelt werden als alle anderen Unterscheidungsmerkmale, die ein Kunde haben kann.

Ich bin mir nicht sicher, ob das Argument der Lüge durch Unterlassung überzeugend ist. Es erscheint mir seltsam, darüber nachzudenken, welche Tatsachen über den Anrufer moralisch relevant sind. Wenn ein Mensch anruft, erwarten wir normalerweise nicht, dass der Angerufene das Geschlecht der Person kennt oder weiß, was er trägt oder ob er im Auftrag von jemandem anruft. Oft weist mich meine Frau an, Anrufe zu tätigen, wenn der Anruf zu ihrem Vorteil ist, aber ich sage es dem Geschäft am anderen Ende nicht, weil es eindeutig nicht relevant ist. Dasselbe gilt, wenn ich einen Spielwarenladen anrufe, um seine Öffnungszeiten zu erfahren, weil ich ein Geschenk für ein Kind kaufe.
Ich habe nicht gesagt, dass es überzeugende Argumente sind, aber es sind Argumente, die (meiner Meinung nach) zumindest vernünftig sind. Es gibt tatsächlich Codes und Erwartungen, wenn wir zum Telefon greifen. Google Duplex verstößt absolut gegen einige davon. Ob sie das unethisch macht oder nicht, ist eine andere Frage, aber ich habe keinen Zweifel daran, dass es gegen soziale Regeln verstößt. Die meisten unserer Gesellschaftsregeln sind nicht darauf ausgelegt, mit KIs umzugehen, die den Turing-Test bestehen können.
Der Aufzeichnungsaspekt ist interessanter, aber ich bin nicht der Meinung, dass Unternehmen erwarten sollten, dass ein Anruf auf einer Geschäftsnummer privat ist. Dies ist kein Anruf zwischen Freunden oder Einzelpersonen. Dies ist ein öffentliches Geschäft, bei dem mir die Erwartung der Privatsphäre geringer erscheint. Wenn die Person, die Duplex verwendet, eine körperliche Behinderung hat, die es ihr unmöglich macht, alleine ohne Hilfe zu telefonieren, scheint die Weigerung, mit Duplex zu interagieren, eine echte Rechtsverletzung zu sein.
gegen welche gesellschaftlichen regeln verstößt es?

unethisch - Die Ethik scheint nichts zu erklären, was die andere Partei aus irgendeinem Grund beleidigen oder verärgern könnte, ohne der anderen Partei zuvor die Möglichkeit zu geben, eine solche Interaktion abzulehnen.

Der I-Roboter-Film zeigte eine solche Voreingenommenheit gegenüber dem Prozess der Interaktion mit KI.

In Wirklichkeit ist das Gespräch mit einem Computer oder einer Person, die eine einfache Aufgabe erfüllt, um Informationen zu erhalten und einen Bedarf zu äußern, kein ethisches Problem beim Informationsaustausch, wenn aus der Kommunikation keine Bedrohung oder kein Problem entsteht.

Wenn Sie andererseits mit jemandem sprechen würden, der Ihnen großen Schaden zugefügt hat, oder jemandem, den Sie kennen, und wenn Sie wüssten, dass dies die Person ist, würden Sie nicht sprechen, dann würde man das als unethisch bezeichnen, weil die Antwort verstörend wäre, und die Kontaktverweigerung wäre 100%.

Manche Menschen haben offensichtlich Angst vor dieser Art der Nachahmung menschlicher Kommunikation, obwohl es irrelevant ist. Einige hassen es, die Eins für x zu drücken, die Taste to für y, was eine menschliche Stimme ist, die Ihnen eine Liste von Optionen gibt, die ähnlich ist. Aber ebenso hassen einige Leute dies und wollen eine komplexere Lösung.

Um also die Frage zu beantworten, wenn jemand diese Art von Interaktion hasst, wäre es unethisch, die Art der Interaktion, an der die Personen teilnehmen, nicht anzugeben, damit sie entscheiden können, ob sie aufhören oder weitermachen möchten. Dies ähnelt dem Aufzeichnen von Telefonanrufen, denen eine Warnung vorausgeht, dass dies geschieht. Es ist kein neues ethisches Dilemma mit einer einfachen Lösung.

Okay genau. Der letzte Absatz sagt alles. Wenn das, was Sie sagen, wahr ist, wie kommt das dann bei Menschen an, die nicht mit Homosexuellen oder Farbigen oder Behinderten sprechen wollen? Insbesondere im Fall eines Unternehmens sollte es nicht die Möglichkeit haben, jemandem die Dienstleistung zu verweigern, nur weil er mit diesem Unternehmen kommuniziert. Wenn das Unternehmen eine veröffentlichte Telefonnummer hat, sollte es bei einem legitimen Anruf nicht auflegen können, nur weil der Anruf von einer KI getätigt wird. Dies sind keine Crank Calls und dies ist keine private Interaktion.
Anders gesagt: Die Entscheidung, die Nicht-Menschlichkeit des Anrufs zu berücksichtigen und damit die Zustellung zu verweigern, kann unmöglich allein die Behauptung begründen, es sei trügerisch, wenn sich die KI nicht als solche ausgibt, sonst wäre es ähnlich trügerisch für eine Person of Color, das Geschäft eines weißen Supremacisten anzurufen und sich bei dem Anruf nicht als PoC auszuweisen, nur um dem Geschäftsinhaber die Möglichkeit zu geben, den Hörer aufzulegen.
Das ist einfach ein PR-Problem. Warum Leute aufregen, wenn sie nicht mitmachen wollen. Mit der Zeit werden sie sich daran gewöhnen. Ein Unternehmen stellt keine Mitarbeiter ein, sondern nutzt KI, weil es billiger ist. Und der Kunde hat immer Recht, denn er ist Käufer oder Anbieter eines Vermögenswerts. Wenn es sich andererseits um ein Geschäft handelt, das Kunden gewinnt, wäre es unlogisch, KI abzulehnen. Ich schlage vor, dass das Diskriminierungsargument keine gültige Parallele ist. Ich habe keine Bürgerrechte verletzt oder Gefühle verletzt!!!!
zum letzten Punkt: Ein menschliches Testament hat die KI gebeten, eine Aufgabe für sie zu erledigen. Es ist nicht nur ein Computer, der zufällig handelt. Eine Diskriminierung dagegen ist wohl eine Diskriminierung der Person, die damit beauftragt wurde.
@ribaldEddie Wollen Sie damit sagen, dass KI ein Opfer von Diskriminierung ist, die vor Gericht verteidigt werden sollte? Nur Menschen können diskriminiert werden. Ein Mensch spricht nicht mit dem Programmierer eines Systems, sondern mit dem System selbst. Und man darf einen Manager nicht diskriminieren. Sie sprechen weit außerhalb des Diskriminierungsgesetzes. Und welche Rechte werden für die KI verletzt? Nennen Sie einen.
nicht der Programmierer. Die Person, die sagt „Ok Google, buche den Termin für mich“.
Ich bin auch skeptisch, dass wir die menschlichen Schöpfer eines KI-Systems nicht mit den Aktionen der KI in Verbindung bringen können, denn wenn wir uns hier davon entfernen, glaube ich nicht, dass wir dieselbe Logik auf autonome Fahrzeuge anwenden. Auch im Fall des VW-Dieselabgasskandals wurden die menschlichen Programmierer für das Handeln des Computers verantwortlich gemacht. Ich glaube nicht, dass wir unseren Kuchen haben und essen können, wo wir in einem Fall die moralische und rechtliche Verbindung zwischen Schöpfer und Computersystem ignorieren, aber nicht im anderen, nur weil eine Version ein unartikuliertes Gefühl verletzt, dass Computer gruselig sind.

Ich glaube zumindest, dass die Entscheidungsträger von Google wissen, dass Menschen der Interaktion mit anderen Menschen einen höheren Wert beimessen als der KI. Sie würden also zumindest wissentlich von einer Täuschung profitieren, indem sie betrügerischen Goodwill erhalten (oder die Gelegenheit verkaufen, diesen zu erhalten).

Vielleicht würde der größte Schaden davon ausgehen, wie sich dieser Betrug auf Dritte auswirkt ... Manche Leute haben gerne einen Menschen am anderen Ende des Telefons, und einige Unternehmen stellen derzeit viele Menschen ein, um Telefone zu beantworten, um sich das zu verdienen Firmenwert von ihren Kunden.

Es wäre nicht unbedingt unethisch, diese Arbeitnehmer durch ein besseres oder effizienteres Produkt oder eine bessere Dienstleistung zu ersetzen. Aber sie durch einen falschen Dienst zu ersetzen, der den falschen Eindruck erweckt, mit einem Menschen zu sprechen, ist nicht dasselbe. Dies entspräche eher dem Verkauf eines physischen Produkts an die Menschen in Chicago unter der Werbung „Kaufen Sie direkt von unserer Fabrik in Chicago!“. Wenn sich herausstellt, dass das Produkt tatsächlich nur zum Verkauf an diese Fabrik in Chicago geliefert wird, anstatt dort hergestellt zu werden, wie dies absichtlich impliziert wurde.

BEARBEITEN: Die Tatsachen des ersten Satzes zum vom Menschen wahrgenommenen Wert der Interaktion mit anderen Menschen im Vergleich zur KI wurden bestritten. Eine kurze Online-Recherche ergab viele übereinstimmende Artikel und keinen, den ich finden konnte, der die Wertaussage des ersten Satzes bestritt. Ein repräsentatives Beispiel für verfügbare Daten finden Sie hier: https://www.prnewswire.com/news-releases/nearly-90-of-people-prefer-Speaking-to-a-live-customer-service-agent-on-the -telefon-trotz-effizienz-von-telefonmenüs-für-unternehmen-300830525.html

Ihr erster Absatz beruht auf einem Non-Sequitur. Menschen legen sicher Wert auf menschliche Interaktion, aber das bedeutet nicht, dass sie keinen Wert auf nichtmenschliche Interaktion legen. Die Idee, dass es eine Täuschung gibt, um guten Willen zu erlangen, würde nur funktionieren, wenn Sie ausdrücklich sagen wollen, dass Menschen keinen oder weniger Wert auf die Interaktion mit Duplex legen. Aber das hast du nicht gesagt. Ich sehe keinen Grund anzunehmen, dass Menschen keinen oder weniger Wert auf die Interaktion mit KI legen – KI gibt es noch nicht lange genug, als dass die meisten Menschen wissen würden, was sie denken.
Ich denke nicht, dass das, was Sie beschreiben, ein Non-Sequitur ist, sondern eher eine einfache Auseinandersetzung mit Tatsachen. (Was hier wichtig ist, weil falsche Fakten und Nicht-Sequituren eine unterschiedliche Handhabung erfordern.) Wie auch immer, die Sache, die Sie falsch finden ... Die Idee, dass Menschen lieber mit Menschen als mit KI sprechen, ist überprüfbar. Und es wurden Umfragen durchgeführt / Tests durchgeführt. Eines von vielen Beispielen finden Sie unter: prnewswire.com/news-releases/…
Wir sprechen nicht über automatisierte Eingabeaufforderungen. Wir sprechen davon, ein Gespräch / eine Interaktion mit einem System zu führen, das nicht von einer Person zu unterscheiden ist. Angesichts des offensichtlichen Problems mit Ihrer Behauptung glaube ich nicht, dass Sie in gutem Glauben posten.
Den ersten Satz habe ich auch präzisiert. Guter Punkt, beide Seiten in die Erklärung einzubeziehen. Was den Streit betrifft, so ist die Tatsache, dass, wenn Sie Leute fragen, ob sie lieber mit einem anderen Menschen oder einer KI sprechen, sie (mit großem Abstand) sagen, dass sie es vorziehen, mit anderen Menschen zu sprechen. Wenn Sie also diese Menschen heimlich ersetzen, begehen Sie Betrug. Dabei spielt es keine Rolle, ob das KI-System einen Menschen perfekt imitieren kann oder sogar viel besser als ein Mensch für die jeweilige Aufgabe geeignet ist. Es ist kein Mensch und so zu tun, ist Betrug. Betrug ist unethisch, selbst wenn die Absicht gut ist, da er die Selbstbestimmung einer Person verletzt.
Auch hier haben Sie keine Umfrage verlinkt, die zeigt, was Sie behaupten. Ihr Umfrage-Link ist so, als würden Sie Leute fragen, ob sie eine Fahrt über Land genießen, die anderthalb Wochen dauert, und dann hochrechnen, um anzunehmen, dass sie den gleichen Spaß für einen Flug haben, der vier Stunden dauert. Sicher, beide bringen Sie auf die andere Seite des Landes, aber es ist nicht dieselbe Reise. Was die Behauptung „Betrug“ betrifft, so ist Betrug ein juristischer Begriff. Ich sehe das hier nicht zutreffend. Die zugrunde liegende Prämisse ist, dass Geschäftsinhaber ein Recht darauf haben zu wissen, mit wem sie telefonieren, aber auf den ersten Blick stimmt das nicht.
Ist Google Duplex unethisch, wenn es sich nicht ausdrücklich als nicht menschlich identifiziert?
AntwortenHierDatenschutz-Bestimmungen1y, 0v