Was könnten einige der bedeutendsten philosophischen Implikationen einer technologischen Singularität sein?

Wenn sie Recht haben, werden die Maschinen diese Frage viel besser beantworten als wir es jetzt können. Das wird die Revolution in der Ethik sein.

Die Wahrscheinlichkeit, dass dies in etwa der von Kurzweil und Moravec vorgeschlagenen Zeitskala geschieht, liegt jedoch so nahe bei Null, dass es sich nicht wirklich lohnt, über das Problem nachzudenken. In einem Konflikt zwischen Vorhersagen auf der Grundlage der Soziologie (der Fortschritt des technologischen Fortschritts, der durch Marktkräfte und inkrementelle Designverbesserungen angetrieben wird) und Einschränkungen auf der Grundlage der Physik (Widerstandsverlust von Energie, Leckströme, quantenmechanische Unsicherheit usw.) haben sie sich auf verblüffende Weise für eine Seite entschieden Soziologie. Das war in der Vergangenheit so gut wie nie der Fall. Es ist nicht so, dass wir die Physik nicht kennen, es ist so, dass wir sie kennen und dass sie nicht die Art von Erhöhung der Rechenleistung unterstützen wird, die sich Kurzweil liebevoll vorstellt.

In Bezug auf die Ethik simulierter Köpfe scheint es, dass der Turing-Test diesen bestimmten gordischen Knoten ziemlich unwiderruflich durchtrennt. Wenn man dem Tenor der Bewusstseinsdebatte glauben darf, muss noch eine plausible Alternative gefunden werden, um Bewusstseinsebenen zu klassifizieren, und die binäre Natur der bereitgestellten Klassifikation reduziert alle diese ethischen Bedenken auf menschliche Äquivalente*.

Um die ersten paar Zeilen von Rex' Antwort zu erweitern, denke ich, dass die aufregendste Aussicht etwas ist, das Sam Harris' Idee eines utilitaristischen Kalküls entspricht, das auf mentalen Zuständen basiert. In einer Welt nach der Singularität wird sein vermeintliches „Prinzipien“-Kalkül möglicherweise zu einer „in der Praxis“-Affäre, was eine äußerst verlockende Aussicht darstellt. In einer Welt mit der Rechenleistung und der Ausrüstung, um Glück genau zu quantifizieren – ein notwendiges Nebenprodukt unserer Fähigkeit, Gedanken zu simulieren – wird Ethik zu einem ganz anderen Ballspiel.

* Sicherlich kann ich mir all diese Bedenken vorstellen, aber ich denke, das könnte es wert sein, als separate Frage gestellt zu werden ... Bearbeiten: Also habe ich es gefragt

Welche ethischen Erwägungen könnten insbesondere bei der vorhergesagten Entwicklung von simulierten Köpfen mit großer Wahrhaftigkeit gegenüber dem menschlichen Verstand – oder künstlicher Intelligenz auf übermenschlicher Ebene – involviert sein?

Ich stelle mir vor, dass eine solche Entwicklung die Welt der Ethik in zwei Teile spalten wird, jede Seite mit sehr unterschiedlichen Vorstellungen:

Auf der einen Seite werden die Menschen behaupten, dass solche simulierten Geister aufgrund ihrer Ähnlichkeit mit dem menschlichen Geist Bürgerrechte haben. Der Physikalismus , insbesondere die vollständigere Art ( alles ist physikalisch, dh eine materialistische Sichtweise), wird wahrscheinlich viele zu dieser Sichtweise hinziehen. Physikalisten werden den simulierten Verstand als gleichwertig mit dem menschlichen Verstand ansehen; Da sie alle Phänomene als physisch betrachten, werden sie an eine Nachbildung des menschlichen Geistes mit fortschrittlicher KI denken, die dem menschlichen Geist selbst entspricht und dieselben neurologischen Verbindungen und Speicher in Form von Transistoren und Gedächtnis besitzt.

Auf der anderen Seite werden die Menschen behaupten, dass sie trotz der Wahrhaftigkeit dieser simulierten Köpfe gegenüber dem menschlichen Verstand keine ethischen Rechte haben und haben sollten. Dies liegt daran, dass sie nur physische Objekte sind und ihnen das Bewusstsein und die Empfindungsfähigkeit von Menschen fehlen. Besonders Dualisten werden von dieser Sichtweise angezogen, weil sie das menschliche Bewusstsein nicht als rein physisch reproduzierbar ansehen. Unabhängig davon, wie leistungsfähig die KI von Computern ist, werden sie einfach nicht den Verstand von Menschen haben, und daher kann man ihnen keine besonderen Rechte zuschreiben.

Letztendlich scheint mir, dass die Ethik von Computern und fortgeschrittener KI stark von den eigenen ontologischen Ansichten abhängt; diejenigen, die der Metaphysik zugeneigt sind, würden Computern eher Rechte verweigern, während die reinen Physikalisten eher Computern Rechte zusprechen würden.

Das wesentliche Hauptproblem bei der Idee der Singularität ist, dass es weder eine gute Theorie des Bewusstseins und damit der Intelligenz gibt; Vielen Fortschritten in dem, was allgemein als künstliche Intelligenz ausgelegt werden könnte, ging eine gute Theorie darüber voraus, was möglich ist und wie es möglich war; zum Beispiel:

• Indizierung: Das ist die Grundidee der Suche und natürlich hinter Google und anderen Suchmaschinen; die enorme Zunahme der Verarbeitungsleistung und die Verfügbarkeit großer Datenmengen, dh das Web, verbessert diese Fähigkeit enorm; so sehr, dass es sich manchmal wie Magie anfühlt; aber die Grundidee ist einfach.

• Robotik: es gibt ein gutes Verständnis von Bewegung - Newtonsche Mechanik; dies kann dann auf das Problem der Nachahmung der natürlichen Bewegung von Käfern, Fischen, Vierbeinern, Zweibeinern und Vögeln angewendet werden; ein Großteil dieser Arbeit wurde bereits erledigt; und verschiedene Technologien können in ein Paradigma passen, das dies Wirklichkeit werden lässt.

• sensorische Ausstattung: zum Beispiel Computer Vision; wir haben eine gute Theorie der Optik und Akustik; der Chemie und des elektromagnetischen Spektrums; Das wesentliche neue Problem hier ist der Musterabgleich - aber wir können wieder ganz direkt sehen, was erforderlich ist, und es ist eine Frage der Zeit, bis dies gut gemacht wird.

Es ist auch erwähnenswert, dass die enorme Zunahme der Rechenleistung, die seit einiger Zeit dem Gesetz von Moore folgt, eine Folge der Art von Technologien ist, die in Mikroprozessoren verwendet werden; im Grunde wird alles alle paar Jahre halb so groß; und dieser Prozess treibt den Fortschritt voran; ein ähnlicher Prozess ist beispielsweise für Solarenergie nicht vorstellbar, nur weil es eine theoretische Grenze dafür gibt, wie viel Energie pro Quadratmeter Sonnenschein erzeugt werden kann; irgendwann wird Moores Law aufhören und man wird gezwungen sein, Massive Paralellism zu verstehen; das Web ist natürlich ein Vorläufer davon auf einer sehr einfachen Ebene; ebenso wie neuronale Netze.

Bevor wir auch nur in die Nähe einer menschenähnlichen Intelligenz kommen, wird es erhebliche ethische Herausforderungen im Zusammenhang mit der Konvergenz bestimmter Technologien geben; zum Beispiel haben Drohnenkrieg und Massenüberwachung bereits viel Besorgnis ausgelöst; Ähnliche Probleme werden sich in absehbarer Zeit zeigen.

Es lohnt sich auch, eine Geschichte von Fredric Brown mit dem Namen Answer zu erzählen ; und kurz genug um hier zu zitieren:

Dwan Ev lötete feierlich die endgültige Verbindung mit Gold. Die Augen von einem Dutzend Fernsehkameras beobachteten ihn, und der Subether trug ein Dutzend Bilder von dem, was er tat, ins Universum. Er richtete sich auf und nickte Dwar Reyn zu, dann stellte er sich neben den Schalter, der den Kontakt herstellen würde, wenn er ihn umlegte. Der Schalter, der auf einmal alle Monster-Rechenmaschinen aller besiedelten Planeten im Universum – sechsundneunzig Milliarden Planeten – mit dem Superschaltkreis verbinden würde, der sie alle zu einem Superrechner verbinden würde, einer kybernetischen Maschine, die das tun würde Kombinieren Sie das gesamte Wissen aller Galaxien. Dwar Reyn sprach kurz zu den Billionen Zuschauern und Zuhörern. Dann, nach einem Moment des Schweigens, sagte er: „Jetzt, Dwar Ev.“ Dwar Ev legte den Schalter um. Es gab ein mächtiges Summen, der Energieschub von 96 Milliarden Planeten. Entlang der kilometerlangen Tafel blitzten Lichter auf und verstummten.

Dwar Ev trat zurück und holte tief Luft. „Die Ehre, die erste Frage zu stellen, gebührt Ihnen, Dwar Reyn.“

„Danke“, sagte Dwar Reyn. "Es soll eine Frage sein, die keine einzelne Kybernetik-Maschine beantworten konnte."

Er wandte sich der Maschine zu. "Gibt es einen Gott?"

Die mächtige Stimme antwortete ohne Zögern, ohne das Klicken eines einzigen Relais. "Ja, jetzt gibt es einen Gott." Plötzliche Angst blitzte auf dem Gesicht von Dwar Ev auf. Er sprang, um den Schalter zu ergreifen. Ein Blitz aus dem wolkenlosen Himmel traf ihn und schloß den Schalter.