Was Sie angeben, ist, dass der Wälzer, der es John ermöglicht, Kommunikation auf Chinesisch zu simulieren, eine ziemlich enorme Rechenressource ist: eine, die in ihrer Komplexität sehr nahe kommt – vorausgesetzt, ihre Regeln sind komplex genug, um jahrelange Gespräche auf die gleiche Weise wie ein chinesischer Essayist erfolgreich zu führen könnte – um einfach mit einer chinesischen Person zu sprechen. Und ich denke, dass Sie im Wesentlichen Recht haben. Obwohl das Buch selbst ein statisches Objekt ist, codiert es Regeln, um einen interaktiven Prozess zu simulieren (durch seine Konstruktion!) und ist daher in Bezug auf seinen Wert als Gesprächsressource nicht sehr von einer chinesischen Person zu unterscheiden.

Offensichtlich ist ein Buch kein bewusster Chinese. Ich denke, wir können mit einiger Zuversicht sagen, dass ein Buch für sich genommen keine Art von bewusster Entität ist. Aber ein Buch, wie Searle es sich vorstellt, wäre eine Informationsquelle von enormer Macht; von absurd enormer Kraft, in der Tat. (Und jemand, der geduldig genug war, um es erfolgreich zu verwenden, wäre auch kein Problem mit Berechnungen oder zumindest der zuverlässigen Ausführung komplizierter Regelsysteme.) Einer der größten Fehltritte von Searle besteht darin, sich vorzustellen, dass wir uns das realistisch vorstellen können wie dieses Buch (oder sein Benutzer) aussehen müsste, um den Zweck zu erreichen, den er damit verfolgt. Es müsste im Wesentlichen so kompliziert sein wie ein ziemlich großer Teil eines menschlichen Gehirns, ein andereretwas, das wir auf keiner anderen Ebene als einer im Wesentlichen syntaktischen verstehen.

Es gibt einen Grund , warum das Bewusstsein so ein Mysterium ist. Wir haben nicht die geringste Ahnung, wie wir die Welt so verstehen können, dass wir sowohl Vorhersagekraft haben als auch die Fähigkeit, diese Vorhersagekraft zu nutzen, um zu beschreiben, woraus Bewusstsein überhaupt besteht, abgesehen davon, dass wir es selbst erfahren und beschreiben die Symptome des scheinbaren Bewusstseins bei anderen. Indem wir sagen, dass Computer kein Bewusstsein haben können, weil wir keinen Mechanismus kennen, der es ihnen ermöglichen würde, aus der mechanischen Evolution hervorzugehen, fassen wir auch das Problem zusammen, das wir haben, wenn wir unser eigenes Bewusstsein verstehen.

Scott Aaronson, Professor für Informatik am MIT, hat ganz ähnliche Dinge zu sagen. Das Folgende ist ein Auszug aus einer Reihe von Notizen aus einem Vortrag von ihm über Künstliche Intelligenz , aus einem exzellenten und weitreichenderen Vortragsangebot.

Gab es in den letzten fünfzig Jahren neue Erkenntnisse über den Turing-Test selbst? Meiner Meinung nach nein. Andererseits gab es eine Nichteinsicht, die Searle's Chinese Room genannt wird. Dies soll ein Argument dafür sein, dass selbst ein Computer, der den Turing-Test bestanden hat, nicht intelligent wäre. Nehmen wir an, Sie sprechen kein Chinesisch. (Debbie [eine chinesisch-amerikanische Kollegin von Scott] ist heute nicht hier, also denke ich, dass das eine sichere Annahme ist.) Sie sitzen in einem Raum und jemand reicht Ihnen Zettel durch ein Loch in der Wand mit Fragen, die auf Chinesisch geschrieben sind, und Sie können die Fragen (wieder auf Chinesisch) beantworten, indem Sie einfach ein Regelbuch konsultieren. In diesem Fall führen Sie vielleicht ein intelligentes chinesisches Gespräch, verstehen aber vermutlich kein Wort Chinesisch!

[...] Wie viele andere Gedankenexperimente bezieht auch das Chinesische Zimmer seine Wirkung aus einer trügerischen Wahl der Bildsprache – und, genauer gesagt, aus dem Ignorieren der Rechenkomplexität. Wir sind eingeladen, uns vorzustellen, wie jemand Zettel mit null Verständnis oder Einsicht herumschiebt – ähnlich wie die dummen Erstsemester, die (a+b) ² = a ² + b ^{2 schreiben}bei ihren Mathetests. Aber von wie vielen Zetteln reden wir? Wie groß müsste das Regelbuch sein und wie schnell müsste man es konsultieren, um ein intelligentes chinesisches Gespräch in annähernd Echtzeit zu führen? Wenn jede Seite des Regelbuchs einem Neuron von (sagen wir) Debbies Gehirn entspräche, dann würden wir wahrscheinlich von einem "Regelbuch" sprechen, das mindestens so groß wie die Erde ist und dessen Seiten von einem Schwarm von Robotern durchsucht werden können, die sich in der Nähe bewegen auf Lichtgeschwindigkeit. Wenn Sie es so ausdrücken, ist es vielleicht nicht so schwer vorstellbar, dass diese riesige chinesischsprachige Einheit – dieses dian nao – die wir ins Leben gerufen haben, etwas haben könnte, das wir Verständnis oder Einsicht nennen würden.

Ich bin sehr vertraut mit dem Argument, das John mit seinem „Chinese Room“-Argument vorbringt, und er ist äußerst konsequent darin, was er damit darstellen will: dass unser Konzept, was es bedeutet, Sprache zu verstehen, falsch ist, wenn wir versuchen, den Begriff auf eine Maschine anzuwenden die nur syntaktisch arbeitet. Es ist in erster Linie eine Widerlegung der Vorstellung, dass ein Turing-Test ausreicht, um zu behaupten, dass ein bewusstes Verständnis vorhanden ist.

Als Systemadministrator bei Tag und aufstrebender Philosophiestudent bei Nacht kann ich Ihnen voller Zuversicht sagen, dass John Searle Recht hat, wenn er behauptet, dass Computer rein syntaktisch arbeiten. Alles, was sie tun, ist Symbole zu manipulieren, und wir brauchen immer noch einen menschlichen Agenten, um diesen Symbolen eine Bedeutung zu verleihen. Dennoch ist die Erkenntnis, dass allein die Syntax eine so unglaubliche Kraft haben kann, die große Lektion unserer Zeit.

Das Problem mit dem Beispiel, das Sie oben gegeben haben, besteht darin, dass es genau den Punkt der Reduktion umgeht, den das chinesische Zimmer macht.

Im ursprünglichen Beispiel würde Mai ihre Antwort an eine große Kiste senden und in relativ kurzer Zeit verständliche Antworten von dieser Kiste (deren Bewohner sie agnostisch ist) erhalten. Aus Mais Sicht hat die Kiste den Turing-Test bestanden – Mai glaubt, dass sie von einem bewussten Wesen verstanden wurde. Auf Johns Seite hat er eine Reihe von Schubladen, die alle möglichen Antworten und Sätze für verschiedene Fragen enthalten, und der Reiseführer, den er bei sich trägt, leitet ihn einfach zu einer geeigneten Schublade, basierend auf der chinesischen Nachricht, die er erhält.

Die Intuition, auf die sich Searle hier stützt, ist, dass John kein Chinesisch versteht , also muss Mais Glaube, dass ihre Worte von einem bewussten Wesen verstanden werden, falsch sein. Der Versuch, das Gedankenexperiment zu wiederholen, bei dem Lao die Rolle des bewussten, verständnisvollen Responders spielt, umgeht somit nur das gesamte Argument, ohne das Problem anzusprechen, das es darstellt.

An diesem Punkt gibt es viele tiefe Meinungsverschiedenheiten: Wir könnten Mai verteidigen, indem wir behaupten, dass John + Box + Reiseführer zusammen ein System ergeben , das beispielsweise Chinesisch versteht. Searle selbst bestreitet, dass diese Position kohärent ist, aber nicht jeder kauft seine Meinung. Es gibt auch das Problem, das Daniel Dennett aufwirft, dass Searle einen Kategorienfehler macht, wenn er das Wort "Verstehen" verwendet. Nach Ansicht von Dennett ist Semantik für das Verständnis von Sprache unnötig, und syntaktische Operationen sind alles, was es gibt, um Bewusstsein zu erklären.

Sie könnten auch versuchen, den Vorwurf zu erheben, dass Searles Fehler darin besteht, zu glauben, dass es sogar eine Reihe von Regeln geben könnte, auf die eine lebende Sprache wie Chinesisch reduziert werden könnte. Dieses Argument hat jedoch zur Folge, dass es jede Möglichkeit bestreitet, dass ein Turing-Test jemals erfolgreich sein könnte. Um diesen Vorwurf zu erheben, müssen Sie daher bereits mit den Ergebnissen des Gedankenexperiments einverstanden sein: dass das Befolgen von Regeln allein unser normatives Verständnis dessen, was „Verstehen“ ausmacht, nicht erklären kann.

Obwohl ich glaube, dass Searle sich irrt, glaube ich nicht, dass Sie das Problem gefunden haben. Sie postulieren, dass der Inhalt nicht nur Chinesischkenntnisse in destillierter Form enthält , insbesondere beim Walk-across-the-Room-Beispiel. Aber viele maschinelle Lernalgorithmen nehmen einfach viele Beispiele und können dann ein angemessenes Verhalten erzeugen (in Grenzen natürlich). Sie haben also, wenn sie einmal trainiert sind, keinen Inhalt und nicht einmal von Menschen bereitgestellte Destillationen. Es ist wahr, dass relevante Eigenschaften von beispielsweise Chinesisch in den Eingabedaten enthalten sind; aber es scheint trotzdem überhaupt nicht das zu sein, was wir intuitiv denken, noch ist es der offensichtliche Ich-bin-durch-den-Raum-Lauf-Botschaftsbetrug, den Sie vorschlagen.

(Searle schlug das Gedankenexperiment zu einer Zeit vor, als der Gedanke war, dass logikbasierte KI sehr erfolgreich sein würde, was nicht der Fall war. Das Gedankenexperiment passt nicht ganz zur gegenwärtigen Praxis.)

Ist das nicht eher das, was eine E-Mail ist/macht? Unübersetzte Informationen von A nach B transportieren, genau so, wie die Informationen eingegeben wurden? Aber genau das macht Searle mit seiner Analogie aus - der Mann, der kein Chinesisch spricht, aber tatsächlich so handelt (wenn man nur das Ergebnis seiner Handlungen berücksichtigt), weil er ein Buch mit Regeln hat, die ihm sagen, wie es geht. Wenn ich nichts verpasse, fehlen Ihrer Analogie sehr wichtige Prämissen / Annahmen.

Ich sollte hinzufügen, dass ich so ziemlich nichts darüber weiß, wie Computer funktionieren, aber ich habe einige Zeit mit diesem Kapitel verbracht (was bedeutet, dass ich nur über Searles Argument spreche, nicht über Computer im Allgemeinen).

Woher kommt dieses Anleitungsbuch?

eine Hypothese

Vor der offiziellen Eröffnung des Great Chinese Room hatte John ein anderes Buch und einen großen Stapel Fragen und Antworten aus dem wirklichen Leben auf Chinesisch – das Complete Chinese Corpus . Dieses andere Buch lehrte John, wie er – unter Verwendung des Fragenstapels als Übungssatz – das Buch schreibt, das er derzeit verwendet, um den Raum so aussehen zu lassen, als würde er mit Mai sprechen. Die Person, die das erste Buch geschrieben hat, konnte auch kein Chinesisch, die Chinesischkenntnisse im Raum sind aus einer umfassenden Analyse des realen Sprachgebrauchs hervorgegangen.

eine Variation mit Lao

Ein ähnlicher Trick, aber mit Ihrem versteckten chinesischen Sprecher - Lao. Genau wie zuvor hat John eine Meta-Anleitung, wie man den Raum dazu bringt, Chinesisch zu verstehen, aber einige der Regeln in der Anleitung führen dazu, dass John mit Lao interagiert. Diese Interaktionen sind nicht so einfach wie das Weiterreichen von Tabletten von und zu Mai, nein, John muss akribisch Aufzeichnungen über alles, was hereinkommt, und alle Antworten, die Lao macht, führen und einige geheimnisvolle Manipulationen der Aufzeichnungen vornehmen (tatsächlich - Aufbau des unvollständigen chinesischen Korpuswie er geht). Zu diesen Manipulationen gehört die Vorhersage, was Lao sagen würde, das Vertrauen des Computerraums, dass die Vorhersage korrekt ist, und die Bewertung der Vorhersagen basierend auf der tatsächlichen Antwort. Schließlich, wenn Room's Selbstvertrauen höher als ein Schwellenwert ist, wird Lao für ein oder zwei Transaktionen aus der Schleife herausgeschnitten, und seine Beteiligung an dem Projekt schrumpft allmählich auf ein absolutes Minimum, nur um ab und zu die Qualität zu kontrollieren.

Ich habe einmal einen Physiker getroffen, der die starke KI-Position innehatte. Ich war 16, hatte diese Position noch nie erlebt, und sie kam mir völlig absurd vor. Auch wenn ich nicht mehr davon überzeugt bin, dass diese Position völlig absurd ist, verstehe ich immer noch nicht, warum alle versuchen, John Searle zu widerlegen. Mein Gefühl ist, dass der Aufbau von John Searles Gedankenexperiment sinnvoll in den Kontext moderner Computer übersetzt werden kann:

Ein moderner Computer bietet eine gewisse Speichermenge, genauer gesagt eine Speicherhierarchie mit zunehmender Größe, aber abnehmender Zugriffsgeschwindigkeit. Es bietet auch eine gewisse Verarbeitungsleistung, genauer gesagt ein Cluster paralleler Verarbeitungseinheiten mit zunehmender Anzahl, aber abnehmender Verbindungsgeschwindigkeit. Diese grundlegende Architektur ist normalerweise unabhängig von den Programmen und Eingabedaten, die verwendet werden, um nützliche Ergebnisse mit den von diesem Computer bereitgestellten Ressourcen zu erzeugen.

In Searles chinesischem Raum-Gedankenexperiment wird angenommen, dass John die Rolle dieses Computers übernimmt und den Speicher und die Rechenleistung für die Berechnung bereitstellt. Eigentlich wird angenommen, dass er nur das schnellste Gedächtnis liefert, während das wirklich riesige, aber langsame Gedächtnis John in Form von Papier und Stift und dem "magischen" Buch extern ist. Aber selbst wenn John die Rolle des "gesamten" Bandes einer Turing-Maschine übernehmen würde, warum sollten wir dann erwarten, dass er (oder das Band) die Probleminstanz versteht, an der die Turing-Maschine gerade arbeitet? Nun, ein Grund dafür ist, dass für eine universelle Turing-Maschine auch das Programm selbst auf das Band geschrieben wurde, sodass das Band im Laufe der Zeit Zugriff auf alle relevanten Informationen hatte (außer der Bedeutung und Interpretation seiner endgültigen Ausgabe, aber ich bezweifle, dass dies der Fall ist ist hier wichtig).

Meine Frage ist: Woher kommt dieses Anleitungsbuch? Wir sind uns alle bewusst, dass Menschen den Code schreiben, der einen Computer antreibt, oder Code schreiben, der mehr Code schreibt, um einen Computer anzutreiben (z. B. einen Compiler) usw.

Bei der obigen Übersetzung in den Kontext moderner Computer ist das Bedienungshandbuch Teil des Inputs. Das könnte ein wichtiger Punkt sein, denn oberflächlich sieht es so aus, als ob der einzige Input von Mai kommt, der die Fragen auf Chinesisch einreicht.

Woher kommt also der Input? Ich vermute, dass der Input aus der aktuellen und vergangenen Umgebung stammt. Wir können jedoch nicht weit genug in die Vergangenheit blicken, um zu erfahren, woher die „Initialsaat“ stammt. Und außerdem haben wir die Evolutionstheorie, die darauf hindeutet, dass der "ursprüngliche Samen" weniger wichtig gewesen sein könnte, als es scheint. Was mich zu einer anderen Position bringt, die mir völlig absurd erschien, als ich ihr zum ersten Mal begegnete. Jemand schlug mir vor, dass diese Welt von Außerirdischen erschaffen worden sein könnte. Ich fand das lächerlich, weil es die Frage aufwirft, wer die Außerirdischen überhaupt erschaffen hat. Nachdem ich mir jedoch einen Clip angesehen habe , in dem Richard Dawkins diese Möglichkeit ernsthaft in Betracht gezogen hat, muss ich zugeben, dass dies tatsächlich eine konsistente Position sein könnte.

Auch wenn es nicht direkt mit der Frage zusammenhängt, was ist meine eigene Vermutung, wie Verständnis und Bedeutung bei komplizierten Berechnungen entstehen können? Es könnte mit der Struktur von Raum und Zeit zusammenhängen, wo die Kommunikation von Informationen zwischen verschiedenen Punkten während einer Berechnung notwendig ist (weil die Menge an Informationen, die in der Nähe eines bestimmten Punktes gespeichert ist, endlich ist) und eine bestimmte endliche Zeit in Anspruch nimmt. Die Folge ist, dass komprimierte Nachrichten mit mehr oder weniger klarer Bedeutung im Kontext der Berechnung im Laufe einer Berechnung ausgetauscht und verstanden (und manchmal für spätere Bezugnahmen gespeichert) werden. (Und da die Berechnung, die unser Universum mit seiner Raum- und Zeitstruktur durchzuführen scheint, wahrscheinlich nicht so bald enden wird, brauchen Sie sich keine Gedanken über die Bedeutung und Interpretation ihrer endgültigen Ausgabe zu machen.)

Wenn wir Tiere betrachten, sind Menschen intelligent, Menschenaffen, Schweine, Hunde, Pferde sind intelligent, Hühner möglicherweise. Ob Fliegen oder Ameisen intelligent sind, ist sehr umstritten, und ein Bakterium oder Virus auf keinen Fall (meiner bescheidenen Meinung nach).

Searles Argument legt nahe, dass ein menschlicher, muskelbetriebener "Computer" in der Lage sein könnte, ein intelligentes Gespräch auf Chinesisch zu simulieren, und wir stimmen sicherlich alle darin überein, dass Searles Zimmer auf keinen Fall intelligent sein könnte. Wir sind uns sicherlich auch alle einig, dass Searles Zimmer auf keinen Fall eine intelligente Unterhaltung auf Chinesisch simulieren könnte! Es ist einfach kein ausreichend fortschrittliches Gerät für überhaupt eine Möglichkeit.

Daraus sollen wir schließen, dass ein hochentwickelter Computer den chinesischen Text unmöglich „verstehen“ kann. Das ist so, als würde man sagen, weil das Bakterium Chinesisch nicht verstehen kann, kann es ein Mensch nicht. Dies ist keine vernünftige Schlussfolgerung.

Ein moderner Computer könnte das, was Searles Zimmer tut, etwa 10 Milliarden Mal schneller erledigen, wobei die Tatsache ignoriert wird, dass der Mann in Searles Zimmer nicht bereit sein wird, mehr als 1/3 der Zeit zu arbeiten, was bedeutet, dass eine Antwort, die ein moderner Computer könnte eine Sekunde nachzugeben, würde Searles Zimmer tausend Jahre in Anspruch nehmen. Wir sind derzeit nicht in der Lage, ein Regelwerk zu erstellen, das die chinesische Konversation ermöglichen würde. Bis wir es schaffen können, werden Computer tausendmal schneller sein.

Wäre irgendjemand davon überzeugt, dass Searles Zimmer, das nicht nur ein Zimmer, sondern das Innere eines riesigen Wolkenkratzers ist, der seit einer Million Jahren in Betrieb ist, nicht etwas leisten kann, was dem menschlichen "Verstehen" entspricht?