Wie schlau können wir werden?

Eines der großen Probleme beim Entwerfen einer künstlichen Intelligenz , die wir kontrollieren können, ist unser eigener Mangel an ausreichender Intelligenz. Ein Teilversagen hier (Erfolg beim Entwerfen einer KI, Versagen bei der Kontrolle) würde zu einer Zukunft führen, in der wir alle tot oder bestenfalls Haustiere größerer Wesen sind .

Es wäre hilfreich, wenn biologische Menschen klüger wären . Nick Bostrom diskutiert einen kognitiven Verbesserungsprozess durch wiederholte genetische Selektion. Er argumentiert, dass, wenn die vererbbaren genetischen Merkmale der Intelligenz durch groß angelegte Korrelationsstudien bewertet werden können, ein Selektionsdruck von 1 zu 100 (wählen Sie das „Beste“ aus 100) gegenüber Korrelaten mit höherer kognitiver Funktion über 10 Gameten (Sperma + Ei) wiederholt wird )-Generationen können bei den ausgewählten Personen zu massiven IQ-Boosts führen (über 100 IQ-Punkte Gesamtgewinn am Ende des Auswahlverfahrens im Vergleich zum Ausgangswert – dh zu uns).

Wenn Bostroms Szenario realistisch ist, was wären die sozialen Auswirkungen eines solchen selektiven Prozesses, wenn diese Methode in der Bevölkerung, sagen wir, zu 1 % angenommen würde? Mit anderen Worten, wie schlau können wir werden und trotzdem eine lebensfähige Gesellschaft bewahren?

Es wäre unpraktisch, da Leute wie ich es auf uns nehmen würden, die Eugenisten zu töten.
Besser als die Alternative
dass Kornbluth Guy Idiocracy abzockt. Zeitreisende sind schamlos. Der IQ (der vielleicht nicht real ist) scheint zu steigen.
Interessieren Sie sich für negativ formulierte Antworten? Als jemand, der mit Optimierungstools wie genetischen Algorithmen spielt, kann ich Ihnen sagen, dass GAs das beste Tool sind, das wir heute für eine bestimmte Aufgabe haben: zu zeigen, wie schlecht Ihre Auswahl an Fitnessfunktionen überhaupt war.
@CortAmmon sicher
Suchen Sie auch rein biologische Erweiterungen oder Kybernetik?
Es fühlt sich an, als ob Biologie- und Genetik-Tags auf dieser Frage stehen sollten?

Antworten (3)

Ich denke, dass einige Regierungen eine sehr geheime, gut kontrollierte Gruppe hochintelligenter Superwissenschaftler schaffen könnten, deren Aufgabe es wäre, ihnen enorme Vorteile gegenüber ihrer Konkurrenz zu verschaffen.

Auf diese Leute konnte man sich verlassen, um Probleme zu lösen, deren Erforschung und Verständnis sonst Jahrzehnte dauern würde, sowie Waffensysteme und andere Technologien zu entwerfen, die dieses Land allen anderen voraus machen würden.

Sie würden diese Leute davon abhalten, effektiv unsere Oberherren zu werden, indem Sie sie an der engen Leine halten. Sie von Geburt an zu indoktrinieren, scheint ein logischer erster Schritt zu sein, aber jeder wirklich Intelligente wird wahrscheinlich aus seiner Konditionierung herauswachsen. An diesem Punkt hilft es, die Kontrolle zu behalten, wenn man einen altmodischen Idioten mit einer auf den Kopf gerichteten Waffe hat.

Selbst dann können diese Leute sehr gut herausfinden, wie sie die Kontrolle erlangen können. Je nachdem, wie sie den Rest von uns sehen (zu zerquetschende Insekten im Vergleich zu ihren benachteiligten Cousins), können sie bessere Anführer abgeben als die, die wir heute haben, oder auch nicht.

Muss es tun, da es sowieso jemand tut: Khaaaan!
@SerbanTanasa - ziemlich genau, ja. Khaaan!
Ich fand auch, dass Khan ein guter Name für einen Hund ist. Es wäre ein Vergnügen, sie von der anderen Seite des Parks herüberzurufen.
@Samuel Wirklich? Ich dachte immer, Feuer wäre ein toller Name für einen Hund.
Was genau ist Khan?

Dies würde sicherlich die Zahl der produzierten „Genies“ erheblich erhöhen und nach ein paar weiteren Generationen neu definieren, was wir als Genie betrachten.

Viele kluge Menschen werden aufgrund ihres Umgangs mit anderen bereits häufig als seltsam angesehen. Irgendwo habe ich ein Zitat gelesen, dass wir wirklich nur mit Menschen innerhalb eines bestimmten IQ-Bereichs von uns selbst effektiv kommunizieren können. Ich denke, es könnte 30 IQ seinPunkte. Wenn Sie also Leute bekommen, die klüger und klüger sind, werden sie automatisch dazu neigen, sich von uns (und wir von ihnen) zu trennen. Wir würden zwei getrennte Gesellschaften entstehen lassen. Irgendwann könnten sie übernehmen, uns zu regieren, da sie schlau genug wären, uns wie Haustiere zu manipulieren. Wenn sie jetzt despotisch würden, würden sie wahrscheinlich gestürzt und vielleicht ausgelöscht werden, aber da sie so viel schlauer sind als wir, würden sie eher den Weg von wohlwollenden Diktatoren einschlagen und dafür sorgen, dass sich jeder um die „Last“ kümmert, die einem auferlegt wird Eine Person ist "relativ" leicht. Wenn die Leute sich wohlfühlen und beschäftigt sind, randalieren oder ärgern sie sich nicht (so sehr).

Wenn die Superintelligenten ihr Geld und ihre Macht nicht zur Schau stellen, gäbe es noch weniger Grund zur Unzufriedenheit. Irgendwann würden sie sich wahrscheinlich ein Raumschiff besorgen, um uns Schmutzgräber uns selbst überlassen zu können.

Ich glaube nicht wirklich, dass kluge Leute es auf sich nehmen würden, über alle anderen zu herrschen. Kluge Menschen haben immer noch viele der gleichen Meinungen wie andere Menschen, nur verfeinerter. Sie hätten viele kluge Leute, die die Freiheit unterstützen.
Oh, aber das tun wir bereits! Freiheit ist nur eine Illusion, die wir dir erlauben zu behalten ...
Oh, keine Sorge, ich weiß, dass es keine wirkliche Freiheit im Sinne der Verfassung mehr gibt. Aber lass wenigstens dumme Leute so viel eine Rolle spielen, wie wir wollen. Lassen Sie sie an Caucus-Abstimmungen teilnehmen, bei denen sie eloquenten, intelligenten Menschen zuhören können, die unterschiedliche Standpunkte vertreten.

Das Problem liegt darin, wie wir „Intelligenz“ definieren. Wenn wir es auf das beschränken, „was durch IQ-Tests gemessen wird“, dann können wir diesen Faktor möglicherweise erheblich erhöhen, aber zu welchem ​​Preis . Beachten Sie, dass viele superintelligente Menschen auch sehr asozial sind. Grigori Perelman ist vielleicht einer der berühmtesten. Paul Erdos war freundlich, aber exzentrisch. Daher bewahrt uns ein hoher IQ allein möglicherweise nicht vor der Tyrannei der KI, da sich die Personen mit hohem IQ möglicherweise nicht im Geringsten um dieses Problem kümmern.

Heute können unsere politischen Führer kaum als die Klügsten im Rudel angesehen werden. Sogar unsere CEOs neigen eher zur Soziopathie als zu einem hohen IQ . Es ist also nicht ganz klar, wie Personen mit hohem IQ uns tatsächlich vor den Robot Overlords retten würden, es sei denn, wir würden sie als defensive Hacker in der NSA einsetzen.

Nun, wenn KI die Welt übernimmt, ist das auch ihr Problem, also verstehe ich nicht wirklich, warum Sie denken, dass sie sich nicht die Mühe machen würden, etwas zu tun.
Führungskräfte verhindern im Allgemeinen, dass schlechte Dinge passieren, indem sie Maßnahmen ergreifen, um diese Dinge zu verhindern, bevor sie passieren. Dazu gehören Dinge wie Hochwasserschutz, Raketenabwehr, Hydranten usw. Soweit ich weiß, gibt es nirgendwo auf der Welt eine "KI-Verteidigungsbehörde". Der Versuch, Zivilisten mit normalem IQ dazu zu bringen, für so etwas zu arbeiten, wäre Herausforderung genug. Zu versuchen, Personen mit hohem IQ dazu zu bringen, dies zu tun, bevor die KIs superintelligent wurden, ist etwas ganz anderes.
Und selbst wenn viele dieser hyperintelligenten Leute zustimmen, dass superintelligente KI eine Bedrohung darstellt, ziehen sie es möglicherweise dennoch vor, stattdessen mathematische Theoreme zu lösen. :/
Nun, das größere Problem ist, dass Menschen innerhalb der Intelligenz bereits die einzigen sind, die wirklich Schritte unternehmen, um an diesem Problem zu arbeiten, also vermute ich, dass die hyperintelligenten Leute die einzigen sein werden, die die Bedrohung durch KI wirklich ernst nehmen