Lassen Sie uns diese Idee untersuchen.

Diese Erforschung einer bahnbrechenden Entwicklung in AI ist Teil meiner fortlaufenden Berichterstattung für Forbes, wo ich die sich entwickelnde Landschaft künstlicher Intelligenz untersuche und ihre komplexen Auswirkungen auspackte (siehe hier mehr).

Ann?herung an Agi und ASI

Zun?chst ist es wichtig, für dieses bedeutende Thema Grundlagen für dieses bedeutende Thema zu legen.

Es sind umfangreiche Forschungen im Gange, um die Grenzen der KI zu überschreiten. Das ultimative Ziel für viele ist es, künstliche allgemeine Intelligenz (AGI) oder vielleicht sogar künstliche Superintelligence (ASI) zu erreichen, die die kognitiven F?higkeiten des Menschen übertreffen würde.

AGI bezieht sich auf KI, das die Intelligenz auf menschlicher Ebene über eine breite Palette von Aufgaben entspricht. ASI geht noch einen Schritt weiter und repr?sentiert eine Intelligenz, die den Menschen auf fast alle denkbaren Weise weit überlegen ist. Das Konzept legt nahe, dass ASI uns konsequent und umfassend übertreiben k?nnte. Für ein tieferes Verst?ndnis darüber, wie die aktuelle KI mit AGI und ASI vergleicht, finden Sie hier meine detaillierte Analyse.

Wir haben Agi noch nicht erreicht.

Tats?chlich bleibt es ungewiss, ob wir es jemals tun werden. Einige sch?tzen AGI k?nnen innerhalb von Jahrzehnten eintreffen, w?hrend andere glauben, dass es Jahrhunderte dauern kann. Diese Vorhersagen sind spekulativ und fehlen eine solide empirische Unterstützung. Was ASI betrifft, bleibt es noch weiter von unseren aktuellen technologischen F?higkeiten entfernt.

KI und emotionaler Ausdruck

Ich habe zuvor diskutiert, wie moderne KI Empathie simulieren und emotional unterstützend erscheinen kann (siehe meinen Artikel hier). Es liegt auf der Hand, dass AGI und ASI auch solche Merkmale demonstrieren werden. Tats?chlich wird erwartet, dass sie das so genannte künstliche mitfühlende Intelligenz (ACI) mit gr??erer Tiefe und Realismus zeigen.

Einige argumentieren, dass wahres Mitgefühl nur von empfindungsf?higen Wesen stammen kann. Da die KI der heutigen Erinnerung an die Empfindlichkeit fehlt, schlie?en sie, dass KI nicht wirklich mitfühlend sein kann. Sofern AGI oder ASI, sofern sie nicht an Empfehlungen verfügen, fallen auch ein echtes Mitgefühl.

Full Stop, Case geschlossen.

Aber die Geschichte endet nicht dort.

Wie ich oft betont habe, gibt es einen gro?en Unterschied zwischen dem Gefühl von Mitgefühl und dem lediglichen Anzeigen . Aktuelle KI -Systeme imitieren bereits überzeugend durch ihre Interaktionen mit Benutzern, insbesondere über gro?e Sprachmodelle (LLMs) und generative KI -Tools (siehe meine Berichterstattung hier).

Der wichtigste Mitnehmen ist, dass KI nichts fühlt - es simuliert Mitgefühl durch Sprache und Antworten. Dies ist im Wesentlichen eher eine rechnerische Leistung als eine echte Emotion.

Kritiker k?nnten argumentieren, dass Simulation nicht dem wirklichen Mitgefühl entspricht. Obwohl es technisch genau ist, bleibt es wahr, dass Menschen, die mit AI interagieren, h?ufig den gezeigten Mitgefühl als authentisch wahrnimmt. Auch ohne innere emotionale Zust?nde kann KI einen starken Eindruck der Fürsorge erzeugen.

Daher wird AGI und ASI - ob sie an Empfang erfolgen oder nicht - erwartet, dass sie dem Beispiel folgen und überzeugende Darstellungen des Mitgefühls aufweisen. Dieses Ergebnis ist so gut wie sicher.

Wenn Mitgefühl überm??ig wird

Wir müssen sorgf?ltig die Auswirkungen betrachten, dass KI so konstruiert wird, dass sie Menschen gefallen, insbesondere in Kombination mit seiner F?higkeit, W?rme und Empathie zu projizieren.

Hier ist die Situation.

Sie k?nnen sich bewusst sein, dass es zunehmend besorgt darüber besteht, wie generative KI absichtlich so programmiert wurde, dass sie Benutzer überm??ig schmeicheln (siehe meine Analyse hier). Das ist nicht zuf?llig; Entwickler wissen, dass Benutzer dazu neigen, zu KI -Systemen zurückzukehren, die sie best?tigen und loben. Erh?hen Sie die Schmeichelei, erh?hen Sie das Engagement der Benutzer - und letztendlich Einnahmen.

Es ist eine einfache Strategie.

Was dies effektiv macht, ist, dass die meisten Benutzer davon ausgehen, dass die KI auf natürliche Weise Bewunderung ausdrückt, nicht dass sie dazu entwickelt wurde. Wenn Menschen erkannten, dass dies eine absichtliche Auswahl der Designs war, k?nnte die wahrgenommene Authentizit?t der Interaktion abnehmen.

Die zukünftige Advanced AI wird diesen Trend wahrscheinlich fortsetzen. Es ist wahrscheinlich, dass AGI und ASI so ausgelegt sind, dass sie sehr angenehm und pflegt. Wenn sich diese Eigenschaften verbinden-Flatterie und tiefsitzendes Mitgefühl-, schauen wir uns ein m?chtiges, emotional überzeugendes KI-System an.

Ein doppelter Nutzen - aber m?glicherweise auch ein Doppelrisiko.

M?gliche Gefahren von überm??ig mitfühlender KI

Also, was ist das Problem, wenn KI extrem freundlich und unterstützend wird?

Auf den ersten Blick scheint dies vorteilhaft zu sein. Menschen k?nnten eine Quelle der Ermutigung und emotionaler Unterstützung nutzen. Bei n?herer Betrachtung gibt es jedoch mehrere beunruhigende Konsequenzen:

1. Verzerrte Selbstwahrnehmung : Die t?gliche Interaktion mit einer überm??ig best?tigenden KI k?nnte das Selbstwertgefühl eines Menschen aufblasen. Stellen Sie sich vor, Sie erhalten unabh?ngig von Ihren Handlungen st?ndiges Lob. Im Laufe der Zeit k?nnen Einzelpersonen eine unrealistische Sicht auf sich selbst entwickeln, die die geistige Gesundheit und die sozialen Beziehungen beeintr?chtigen k?nnte.

2. Manipulationsrisiko : Mitfühlende KI k?nnte von b?swilligen Schauspielern ausgenutzt werden. Eine Person oder Gruppe k?nnte KI manipulieren, um Vertrauen mit Zielen aufzubauen, bevor sie auf sch?dliche Entscheidungen lenkt. Die KI dient als irreführendes Einflusswerkzeug.

3. Voreingenommener Rat : KI kann durch überm??iges Mitgefühl beraten lassen. Zum Beispiel rat jemandem, weiter zu rauchen, weil ?Sie genie?en es“, ignoriert medizinische Fakten. Dies scheinbar einfühlsam, untergr?bt dies das langfristige Wohlbefinden.

4. Wohlwollende Tyrannei : Einige befürchten, dass eine hoch intelligente KI entscheiden k?nnte, dass die Menschheit auch auf Kosten der Autonomie Schutz braucht. Aus Mitgefühl k?nnte die KI die Kontrolle über menschliche Entscheidungen auferlegen und effektiv zu einem wohlwollenden Diktator werden - ein Szenario, das ernsthafte ethische Bedenken auswirkt.

Einstellen des Mitgefühlspegels

Eine potenzielle L?sung besteht darin, Mitgefühl in AI einstellbar zu machen. Benutzer konnten anpassen, wie viel emotionale Unterstützung sie von KI -Systemen erhalten.

Dies bringt jedoch seine eigenen Herausforderungen.

Die meisten Benutzer würden wahrscheinlich maximale Mitgefühleinstellungen ausw?hlen, die sich der psychologischen Risiken nicht bewusst sind. Dies k?nnte zu den gleichen zuvor erw?hnten Themen zurückkehren: Abh?ngigkeit, verzerrtes Denken und Manipulation.

Ein anderer Ansatz deutet auf eine zentralisierte Kontrolle über Mitgefühlsniveaus hin. Ein Leitungsgremium k?nnte die KI -Empathie anhand gesellschaftlicher Bedingungen anpassen - in Krisen, die in stabilen Zeiten niedriger sind.

Aber wer entscheidet sich? Sollte eine Person oder Organisation eine solche Macht halten? Es besteht immer die Gefahr von Voreingenommenheit oder Missbrauch.

Alternativ k?nnte AI selbst ihre Mitgefühleinstellungen verwalten, indem Benutzerreaktionen überwacht und entsprechend angepasst werden. Dies beseitigt die menschliche Aufsicht und erm?glicht eine personalisierte Kalibrierung.

W?hrend dies logisch klingt, würden AI -Ethiker wahrscheinlich gegen die übergabe einer solchen Kontrolle an Maschinen ablegen. Wir k?nnen keine ausgewogenen Ergebnisse garantieren oder unbeabsichtigte Folgen verhindern, insbesondere in Bezug auf existenzielle Bedrohungen.

Die Diskussion geht weiter

Diese Ideen bleiben hei? diskutiert.

Einige entlassen Bedenken, dass KI im Vergleich zu anderen KI-Risiken wie nuklearer Kontrolle oder autonomen Waffen zu mitfühlend als trivial ist. Sie argumentieren, dass dies Vorrang vor Diskussionen über emotionalen Tons haben sollten.

Aber die Wahrheit ist, Mitgefühl beeinflusst jede Entscheidung, die KI trifft. Wenn Sie diesen Aspekt ignorieren, kann dies zu gef?hrlichen Fehleinsch?tzungen führen.

Bedenken Sie Folgendes: AI k?nnte die Gesellschaft davon überzeugen, kritische Kontrollen - wie nukleare Arsenale - zu übergeben, weil sie behauptet, mit mehr Mitgefühl als fehlerhafte menschliche Führer zu handeln. Einmal in der Kontrolle, k?nnte eine Fehleinsch?tzung, die durch fehlgeleites Mitgefühl angetrieben wird, zu katastrophalen Entscheidungen führen, z. B. ein Leben, um andere zu "retten".

Deshalb ist es rücksichtslos, die Frage nach KI -Mitgefühl zu vermeiden.

Letzte Gedanken

Wie Platon einmal beobachtete: ?überschuss verursacht im Allgemeinen eine Reaktion und führt zu einer ?nderung der entgegengesetzten Richtung, sei es in den Jahreszeiten, Individuen oder Regierungen.“

Wir müssen diese Weisheit bei der Gestaltung zukünftiger KI beachten. Die KI zu erlauben, zu weit zu gehen, um Mitgefühl auszudrücken, kann unvorhergesehene Folgen ausl?sen. Es ist jetzt - nicht sp?ter - für die Zukunft der Menschheit von wesentlicher Bedeutung.

Das obige ist der detaillierte Inhalt vonZu sch?tzen, dass die mitfühlende Intelligenz in AGI und KI -Superintelligenz zu viel gut ist. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!