Das Hauptanliegen bei Big Tech, das mit künstlicher Intelligenz (KI) experimentiert, ist es nicht, dass es die Menschheit dominieren k?nnte. Das eigentliche Problem liegt in den anhaltenden Ungenauigkeiten von Gro?sprachmodellen (LLMs) wie Open AIs Chatgpt, Googles Gemini und Lama von Meta, die eine unvermeidliche Herausforderung zu sein scheinen.

Diese als Halluzinationen bezeichneten Fehler wurden insbesondere hervorgehoben, als Chatgpt 2023 f?lschlicherweise den US -Rechtsprofessor Jonathan Turley beschuldigte. OpenAs Antwort bestand im Wesentlichen darin, Turley "verschwinden" zu lassen, indem er Chatgpt nicht beantwortete, um Fragen über ihn zu beantworten. Es ist nicht wirksam, Halluzinationen von Fall zu Fall nach dem Auftreten eindeutig zu berücksichtigen.

Dies gilt auch für LLMs, die Stereotypen verst?rken oder Antworten auf westliche Perspektiven geben. Darüber hinaus mangelt es an der weit verbreiteten Fehlinformation, angesichts der Schwierigkeit, zu verstehen, wie die LLM zun?chst zu dem Verst?ndnis der LLM gezogen wurde, eine vollst?ndige Rechenschaftspflicht für die weit verbreitete Fehlinformation.

Nach der Ver?ffentlichung von GPT-4 2023, dem jüngsten Meilenstein in OpenAs LLM-Entwicklung, haben wir eine intensive Diskussion über diese Themen gesehen. Wahrscheinlich hat sich diese Debatte seitdem ohne gültigen Grund abgekühlt.

Zum Beispiel verabschiedete die EU 2024 ihr KI -Gesetz schnell, um weltweit bei der Regulierung dieses Gebiets zu führen. Das Gesetz h?ngt jedoch stark davon ab, dass KI-Unternehmen sich selbst regulieren, ohne die zugrunde liegenden Probleme direkt anzugehen . Dies hat Tech -Giganten nicht daran gehindert, LLMs weltweit für Hunderte von Millionen von Benutzern weltweit zu starten, w?hrend sie ihre Daten ohne angemessene Aufsicht sammeln.

Verwandte: "Im besten Fall t?uschend und im schlimmsten Fall t?uschend und gef?hrlich": Glauben Sie nicht dem Hype - hier ist, warum künstliche allgemeine Intelligenz nicht das ist, was die Milliard?re ihn behaupten

In der Zwischenzeit deuten jüngste Bewertungen darauf hin, dass selbst die fortschrittlichsten LLMs nicht vertrauenswürdig sind. Trotzdem vermeiden führende KI -Unternehmen weiterhin die Rechenschaftspflicht für Fehler.

Bedauerlicherweise kann die Tendenz von LLMs, die Verzerrung in die Irre zu führen und zu replizieren, durch allm?hliche Verbesserungen im Laufe der Zeit nicht aufgel?st werden. Mit der Einführung von Agentic AI , bei der Benutzer einem LLM Aufgaben zuweisen k?nnen - wie zum Beispiel die Buchung von Feiertagen oder die Optimierung monatlicher Rechnungszahlungen -, wird das Potenzial für Komplikationen voraussichtlich erheblich zunehmen.

Die neurosymbolische KI k?nnte diese Herausforderungen m?glicherweise l?sen und gleichzeitig die massiven Datenmengen verringern, die für das Training von LLMs erforderlich sind. Was genau ist die neurosymbolische KI und wie funktioniert sie?

Das LLM -Problem

LLMs arbeiten mit Deep -Lern -Techniken, bei denen sie gro?e Mengen an Textdaten erhalten und ausgefeilte Statistiken verwenden, um Muster zu identifizieren, die das n?chste Wort oder die n?chste Phrase in einer bestimmten Antwort bestimmen. Jedes Modell wird zusammen mit allen gelernten Mustern in Arrays leistungsstarker Computer in expansiven Rechenzentren gespeichert, die als neuronale Netzwerke bezeichnet werden.

LLMs k?nnen durch einen Prozess, der als Kette des Gedankens bezeichnet werden, zu begründen, wodurch mehrstufige Reaktionen erzeugt werden, die logische menschliche Schlussfolgerungen basieren, die auf Mustern basieren, die in Trainingsdaten beobachtet werden.

Zweifellos stellen LLMs eine bedeutende technische Leistung dar. Sie zeichnen sich aus, um Text zusammenzufassen und zu übersetzen, um die Produktivit?t für diejenigen sorgf?ltig zu steigern und zu wissen, dass sie ihre Fehler erfassen. Trotzdem haben sie ein erhebliches Potenzial, irreführend zu führen, da ihre Schlussfolgerungen immer auf Wahrscheinlichkeiten beruhen - nicht auf Verst?ndnis.

Eine gemeinsame Problemumgehung ist der "Mensch-in-the-Loop" -Ansatz: sicherzustellen, dass Menschen bei der Verwendung von AIS immer noch endgültige Entscheidungen treffen. Die Schuld auf die Schuld auf den Menschen l?st das Problem jedoch nicht - sie werden oft immer noch durch Fehlinformationen in die Irre geführt.

LLMs ben?tigen jetzt so viele Trainingsdaten, dass synthetische Daten - von LLMs erstellte Daten erstellt wurden. Diese synthetischen Daten k?nnen vorhandene Fehler von ihrer Quelle kopieren und verst?rken, wodurch neue Modelle alte Schw?chen erben. Infolgedessen nimmt die Kosten für Programmier-AIs zur Verbesserung der Genauigkeit nach dem Training-bekannt als "Post-hoc-Modellausrichtung"-dramatisch zu .

Für Programmierer wird es auch immer schwieriger, Probleme aufgrund der wachsenden Anzahl von Schritten im Denkprozess des Modells zu bestimmen, wodurch Korrekturen immer schwieriger werden.

Die neurosymbolische KI verschmilzt die pr?diktiven Lernf?higkeiten neuronaler Netzwerke mit dem Unterrichten der formellen Regeln der KI, die Menschen verwenden, um zuverl?ssiger absichtlich. Dazu geh?ren logische Regeln wie "wenn a dann b", z. B. "Wenn es regnet, dann ist alles au?erhalb normalerweise nass". Mathematische Regeln wie "wenn a = b und b = c dann a = c"; und vereinbarte Bedeutungen von W?rtern, Diagrammen und Symbolen. Einige davon werden direkt in das KI -System eingegeben, w?hrend andere unabh?ngig abgeleitet werden, indem Trainingsdaten analysiert und "Wissensextraktion" durchgeführt werden.

Dies sollte zu einer KI führen, die niemals schneller und schlauer lernt, indem Wissen in klaren, wiederverwendbaren Teilen organisiert wird. Wenn beispielsweise die KI eine Regel hat, die angibt, dass die Dinge au?erhalb des Regens nass sind, müssen sich nicht an jedes Beispiel für nasse Gegenst?nde erinnern - diese Regel kann für jedes neue Objekt angewendet werden, selbst eines zuvor nicht gesehen.

W?hrend der Modellentwicklung integriert die neurosymbolische KI das Lernen und das formale Denken durch einen Prozess, der als "neurosymbolischer Zyklus" bekannt ist. Dies beinhaltet eine teilweise geschulte KI, die Regeln aus ihren Trainingsdaten extrahiert und dieses konsolidierte Wissen dann vor dem weiteren Training mit Daten wieder in das Netzwerk einbettet.

Diese Methode ist energieeffizienter, da die KI keine umfangreichen Daten speichern muss, und die KI wird rechenschaftspflichter, da Benutzer besser steuern k?nnen, wie sie bestimmte Schlussfolgerungen erzielt und sich im Laufe der Zeit verbessert. Es ist auch fairer, weil es bereits bestehende Regeln einhalten kann, z.

Die dritte Welle

Die erste Welle der KI in den 1980er Jahren, bekannt als symbolische KI, umfasste das Unterrichten von Computern formelle Regeln für neue Informationen. Deep Learning folgte als zweite Welle in den 2010er Jahren, und viele sehen die neurosymbolische KI als dritte.

Die Anwendung neurosymbolischer Prinzipien auf Nischenbereiche ist einfacher, da Regeln klar definiert werden k?nnen. Daher ist es nicht überraschend, dass wir zuerst die Entstehung in Googles Alphafold gesehen haben, die Proteinstrukturen zur Unterstützung der Arzneimittelentdeckung und der Alphageometrie vorhersagt, die komplexe Geometrieprobleme l?st.

Für eine breitere AIS verwendet Chinas Deepseek eine Lerntechnik namens "Destillation" , einen Schritt in die gleiche Richtung. Um jedoch vollst?ndig zu realisieren

Das obige ist der detaillierte Inhalt vonAi 'Halluzinate' st?ndig, aber es gibt eine L?sung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!