Eines der großen Probleme beim Entwerfen einer künstlichen Intelligenz , die wir kontrollieren können, ist unser eigener Mangel an ausreichender Intelligenz. Ein Teilversagen hier (Erfolg beim Entwerfen einer KI, Versagen bei der Kontrolle) würde zu einer Zukunft führen, in der wir alle tot oder bestenfalls Haustiere größerer Wesen sind .
Es wäre hilfreich, wenn biologische Menschen klüger wären . Nick Bostrom diskutiert einen kognitiven Verbesserungsprozess durch wiederholte genetische Selektion. Er argumentiert, dass, wenn die vererbbaren genetischen Merkmale der Intelligenz durch groß angelegte Korrelationsstudien bewertet werden können, ein Selektionsdruck von 1 zu 100 (wählen Sie das „Beste“ aus 100) gegenüber Korrelaten mit höherer kognitiver Funktion über 10 Gameten (Sperma + Ei) wiederholt wird )-Generationen können bei den ausgewählten Personen zu massiven IQ-Boosts führen (über 100 IQ-Punkte Gesamtgewinn am Ende des Auswahlverfahrens im Vergleich zum Ausgangswert – dh zu uns).
Wenn Bostroms Szenario realistisch ist, was wären die sozialen Auswirkungen eines solchen selektiven Prozesses, wenn diese Methode in der Bevölkerung, sagen wir, zu 1 % angenommen würde? Mit anderen Worten, wie schlau können wir werden und trotzdem eine lebensfähige Gesellschaft bewahren?
Ich denke, dass einige Regierungen eine sehr geheime, gut kontrollierte Gruppe hochintelligenter Superwissenschaftler schaffen könnten, deren Aufgabe es wäre, ihnen enorme Vorteile gegenüber ihrer Konkurrenz zu verschaffen.
Auf diese Leute konnte man sich verlassen, um Probleme zu lösen, deren Erforschung und Verständnis sonst Jahrzehnte dauern würde, sowie Waffensysteme und andere Technologien zu entwerfen, die dieses Land allen anderen voraus machen würden.
Sie würden diese Leute davon abhalten, effektiv unsere Oberherren zu werden, indem Sie sie an der engen Leine halten. Sie von Geburt an zu indoktrinieren, scheint ein logischer erster Schritt zu sein, aber jeder wirklich Intelligente wird wahrscheinlich aus seiner Konditionierung herauswachsen. An diesem Punkt hilft es, die Kontrolle zu behalten, wenn man einen altmodischen Idioten mit einer auf den Kopf gerichteten Waffe hat.
Selbst dann können diese Leute sehr gut herausfinden, wie sie die Kontrolle erlangen können. Je nachdem, wie sie den Rest von uns sehen (zu zerquetschende Insekten im Vergleich zu ihren benachteiligten Cousins), können sie bessere Anführer abgeben als die, die wir heute haben, oder auch nicht.
Dies würde sicherlich die Zahl der produzierten „Genies“ erheblich erhöhen und nach ein paar weiteren Generationen neu definieren, was wir als Genie betrachten.
Viele kluge Menschen werden aufgrund ihres Umgangs mit anderen bereits häufig als seltsam angesehen. Irgendwo habe ich ein Zitat gelesen, dass wir wirklich nur mit Menschen innerhalb eines bestimmten IQ-Bereichs von uns selbst effektiv kommunizieren können. Ich denke, es könnte 30 IQ seinPunkte. Wenn Sie also Leute bekommen, die klüger und klüger sind, werden sie automatisch dazu neigen, sich von uns (und wir von ihnen) zu trennen. Wir würden zwei getrennte Gesellschaften entstehen lassen. Irgendwann könnten sie übernehmen, uns zu regieren, da sie schlau genug wären, uns wie Haustiere zu manipulieren. Wenn sie jetzt despotisch würden, würden sie wahrscheinlich gestürzt und vielleicht ausgelöscht werden, aber da sie so viel schlauer sind als wir, würden sie eher den Weg von wohlwollenden Diktatoren einschlagen und dafür sorgen, dass sich jeder um die „Last“ kümmert, die einem auferlegt wird Eine Person ist "relativ" leicht. Wenn die Leute sich wohlfühlen und beschäftigt sind, randalieren oder ärgern sie sich nicht (so sehr).
Wenn die Superintelligenten ihr Geld und ihre Macht nicht zur Schau stellen, gäbe es noch weniger Grund zur Unzufriedenheit. Irgendwann würden sie sich wahrscheinlich ein Raumschiff besorgen, um uns Schmutzgräber uns selbst überlassen zu können.
Das Problem liegt darin, wie wir „Intelligenz“ definieren. Wenn wir es auf das beschränken, „was durch IQ-Tests gemessen wird“, dann können wir diesen Faktor möglicherweise erheblich erhöhen, aber zu welchem Preis . Beachten Sie, dass viele superintelligente Menschen auch sehr asozial sind. Grigori Perelman ist vielleicht einer der berühmtesten. Paul Erdos war freundlich, aber exzentrisch. Daher bewahrt uns ein hoher IQ allein möglicherweise nicht vor der Tyrannei der KI, da sich die Personen mit hohem IQ möglicherweise nicht im Geringsten um dieses Problem kümmern.
Heute können unsere politischen Führer kaum als die Klügsten im Rudel angesehen werden. Sogar unsere CEOs neigen eher zur Soziopathie als zu einem hohen IQ . Es ist also nicht ganz klar, wie Personen mit hohem IQ uns tatsächlich vor den Robot Overlords retten würden, es sei denn, wir würden sie als defensive Hacker in der NSA einsetzen.
King-Ink
Scott Downey
King-Ink
Cort Ammon
Serban Tanasa
Tim B
Tim B