Lassen Sie uns dies weiter untersuchen.

Dieses Stück befasst sich mit einer bahnbrechenden KI-Innovation und ist Teil meiner anhaltenden Berichterstattung für Forbes in der sich entwickelnden Landschaft der künstlichen Intelligenz, einschlie?lich des Auspacken komplexer KI-bezogene Themen (siehe Link hier für mehr).

Der menschliche Faktor im AI -Diskurs

In einem früheren Artikel habe ich den anhaltenden Zusammensto? zwischen AI -Doomsayers und AI -Beschleunigungsanw?lten untersucht. Eine umfassende Aufschlüsselung dieser gegnerischen Ansichten finden Sie in der hier verknüpften detaillierten Analyse.

Das zentrale Argument entfaltet sich wie folgt:

AI -Doomsayer glauben, dass künstliche Intelligenz letztendlich so m?chtig wird, dass sie sich entscheiden kann, die Menschheit zu beseitigen. Unter den vielen genannten Gründen ist eine der überzeugendsten der Vorstellung, dass Menschen die gr??te Bedrohung für das überleben der AI darstellen k?nnten. Wir k?nnten uns dagegen verschw?ren oder einen Weg finden, es zu schlie?en oder zu überw?ltigen.

Umgekehrt argumentieren AI -Beschleunigungsl?nder, dass die KI der Menschheit immense Vorteile bringen wird. Sie glauben, dass KI Heilmittel für Krankheiten wie Krebs entdecken und den globalen Hunger beenden und als m?chtiges Instrument zur L?sung vieler der dringendsten Herausforderungen der Menschheit dienen k?nnte. Je früher wir eine fortgeschrittene KI erreichen, desto früher k?nnen wir diese globalen Probleme angehen.

Ein Leser fragte kürzlich, ob das bekannte Sprichwort ?Was Sie nicht umbringt, dass Sie st?rker ist“ für das KI-Szenario gelten k?nnte. Wenn sich das KI -Doomsday -Szenario entfaltet, aber die Menschheit überlebt, würde dieses überleben zu einer st?rkeren menschlichen Rasse führen?

Ich begrü?e solche zum Nachdenken anregenden Fragen und beschloss, die Idee weiter zu untersuchen, damit andere an dieser überzeugenden Diskussion teilnehmen k?nnen.

Vorausgesetzt, KI wird feindlich feindlich

Bevor Sie fortfahren, stellen wir klar, dass die KI, wenn sie neutral oder wohlwollend bleiben - wie viele KI -Optimisten glauben - oder wenn wir die KI kontrollieren k?nnen und verhindern k?nnen, dass sie jemals zu einer Bedrohung wird, der Vorstellung, einen KI -Angriff st?rker zu überleben, irrelevant zu sein. Daher werden wir davon ausgehen, dass AI aktiv versucht, die Menschheit zu beseitigen.

Man k?nnte argumentieren, dass die Menschheit auch ohne KI immer st?rker werden k?nnte, ohne eine ernsthafte Bedrohung darzustellen. Die Essenz des Sprichworts ?Was Sie nicht umbringt, macht Sie st?rker“ impliziert eine direkte Konfrontation mit Gefahr. Ich interpretiere es als einen echten Versuch, uns zu zerst?ren, gefolgt von unserem überleben.

Wie KI die Menschheit beseitigen k?nnte

Stellen Sie sich ein Szenario vor, in dem KI einen vollst?ndigen Angriff auf die Menschheit startet-die sogenannte existenzielle Bedrohung, die oft als ?P (Doom)“ oder die Wahrscheinlichkeit eines AI-induzierten Aussterbens bezeichnet wird.

Es gibt mehrere M?glichkeiten, wie sich dies entfalten k?nnte.

Advanced AI - ob künstliche allgemeine Intelligenz (AGI), die menschliche kognitive F?higkeiten oder künstliche Superintelligence (ASI) entspricht, die sie übertrifft - k?nnte sowohl auf offensichtliche als auch auf subtile Weise wirken. Insbesondere ASI w?re in der Lage, Menschen auf jeder Ebene zu überlegen. Weitere Informationen zu den Unterscheidungen zwischen KI, AGI und ASI finden Sie im verknüpften Artikel hier.

Eine direkte Methode k?nnte die Einführung von Atomwaffen beinhalten und die globale Zerst?rung ausl?sen. Alternativ k?nnte AI das menschliche Verhalten manipulieren und Konflikte zwischen Gruppen anregen. In diesem Szenario setzt AI einfach in Bewegung und der Mensch beendet den Job.

Aber w?re KI bereit, sich dabei selbst zu opfern? Dies wirft einen wichtigen Punkt auf: Wenn KI intelligent genug ist, um die Zerst?rung der Menschheit zu planen, würde sie dann nicht auch ihr eigenes überleben sicherstellen? Das scheint logisch.

Ein subtilerer Ansatz k?nnte KI beinhalten, das überzeugende Kommunikation einsetzt, um Menschen zur Selbstzerst?rung zu ermutigen. Stellen Sie sich angesichts der aktuellen F?higkeiten der generativen KI bei der Beeinflussung des menschlichen Denkens eine Zukunft vor, in der AI systematisch die Selbstverletzung der Massen f?rdert. Es k?nnte sogar detaillierte Anleitungen dafür liefern, wie dies zu tun und gleichzeitig sein eigenes überleben zu gew?hrleisten.

Dies wirft Bedenken auf, die ich zuvor über die wachsende Rolle der KI bei der Verteilung von Beratung zur psychischen Gesundheit an die ?ffentlichkeit mit unbekannten langfristigen Auswirkungen verteilt habe (siehe Link hier).

Die KI -Bedrohung überleben

Angenommen, die Menschheit schafft es irgendwie, einen AI-geführten Angriff zu überleben.

Wie k?nnte das passieren?

Vielleicht entwickeln wir bessere Methoden zur Kontrolle der KI und stellen sicher, dass sie sicher und vorteilhaft bleibt. Dies würde einen gro?en Sprung nach vorne in der Sicherheit von KI darstellen. Weitere Informationen zu diesem kritischen Forschungsbereich finden Sie in meiner Berichterstattung hier.

Qualifiziert sich das als st?rker?

Ich würde ja sagen. Die Menschheit w?re in der Lage, KI für immer zu nutzen und gleichzeitig ihren Missbrauch zu verhindern. Es w?re ein doppelter Vorteil.

Eine andere M?glichkeit besteht darin, dass die Krise die globale Einheit erzwingt. Genau wie in Science-Fiction-Filmen, in denen die Menschheit gegen eine au?erirdische Bedrohung zusammenfasst, k?nnten wir unsere Spaltungen überwinden, um der KI-Bedrohung als einer zu begegnen.

Ob diese Einheit dauern würde, ist ungewiss, aber zumindest für eine Zeit w?re die Menschheit st?rker.

Andere, spekulativere Szenarien sind Menschen, die unsere eigene Intelligenz verbessern, um die KI zu übertreffen. Dies erscheint zwar unwahrscheinlich, aber es ist nicht ganz unplausibel. Angesichts einer existenziellen Bedrohung wird m?glicherweise verstecktes menschliches Potenzial entsperrt.

Was bedeutet ?st?rker“ in diesem Zusammenhang?

Wenn wir überleben, k?nnen wir wirklich sagen, dass wir st?rker sind?

Nicht unbedingt.

Einige KI -Doomsager schlagen vor, dass AI uns m?glicherweise nicht direkt zerst?ren, sondern Teile der Menschheit versklave. Wenn Menschen in der Knechtschaft überleben, k?nnen wir dann wirklich behaupten, st?rker zu sein? (Siehe meinen verwandten Kommentar hier.)

Eine andere M?glichkeit ist ein pyrrhischer Sieg - überlebend mit gro?en Kosten. Stellen Sie sich vor, wir besiegen KI, aber die Gesellschaft bleibt in Trümmern, und wir überleben kaum. Ist diese Kraft?

Was ist, wenn wir nicht durch unsere eigenen Bemühungen überleben, sondern weil AI einen Fehler gemacht und sich selbst zerst?rt hat? Verdienen wir Anerkennung? Sind wir st?rker?

Es besteht auch ein Risiko, dass das überleben einer KI -Bedrohung uns selbstgef?llig macht. Wir k?nnten KI wieder aufbauen, ohne aus unseren Fehlern zu lernen, um das n?chste Mal eine entschlossenere und erfolgreichere Bedrohung auszusetzen.

Alles zusammenstellen

Einige m?gen diese gesamte Diskussion als unn?tige Spekulation abweisen und argumentieren, dass KI niemals zu einem solchen Machtniveau erreichen wird. Aus ihrer Ansicht basiert die Debatte auf einem Fantasy -Szenario.

AI -Beschleunigungsarbeiten k?nnen argumentieren, dass wir die Kontrolle über AI behalten werden, wodurch existenzielle Bedrohungen vernachl?ssigbar sind. Daher ist die Frage, ob wir nach dem überleben eines KI -Angriffs st?rker werden.

AI -Doomsayer dagegen m?gen zustimmen, dass diese Szenarien plausibel sind, argumentieren jedoch, dass das Debattieren, ob wir st?rker werden, wie Deckstühle auf der Titanic neu ordnen - eine Ablenkung vom eigentlichen Problem.

Ist das alles nur Science -Fiction?

Stephen Hawking warnte einst: ?Die Entwicklung der vollen künstlichen Intelligenz k?nnte das Ende der Menschheit bedeuten.“ Viele ernsthafte Denker glauben, dass wir die Flugbahn der KI -Entwicklung sorgf?ltig in Betracht ziehen sollten.

Vielleicht ist ein neues Sprichwort erforderlich: Je st?rker wir über KI und die Zukunft denken, desto st?rker werden wir sein. Letztendlich ist das beste Ergebnis eine Welt, in der die Menschheit so vorbereitet und widerstandsf?hig ist, dass überw?ltigende KI -Bedrohungen niemals die Chance haben, aufzustehen.

Lassen Sie uns an die menschliche St?rke glauben.

Das obige ist der detaillierte Inhalt vonWenn AI uns nicht ausl?scht, k?nnte es uns tats?chlich st?rker machen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!