人工知能（AI）を?qū)g験する大きな技術(shù)に関する主な懸念は、それが人類を支配するかもしれないということではありません。実際の問題は、Open Ai's ChatGpt、GoogleのGemini、Meta's Llamaなど、大規(guī)模な言語モデル（LLM）の持続的な不正確さにあります。

幻覚と呼ばれるこれらのエラーは、2023年にジョナサン?ターリー教授をジョナサン?ターリー教授を誤って非難したときに顕著に強(qiáng)調(diào)されました。オープンの反応は、本質(zhì)的に彼についての質(zhì)問に対処しないようにChatGPTに「消える」ことです。発生後の事後ベースで幻覚に対処することは明らかに効果的ではありません。

これは、ステレオタイプの強(qiáng)化または西洋の視點(diǎn)に偏った答えを提供するLLMSにも當(dāng)てはまります。さらに、LLMが最初に結(jié)論に達(dá)した方法を理解するのが難しいことを考えると、生成された広範(fàn)な誤った情報(bào)に対する説明責(zé)任が完全に不足しています。

OpenaiのLLM開発における最新のマイルストーンであるGPT-4の2023年のリリースに続いて、これらの問題に関する激しい議論を目撃しました。間違いなく、この議論はそれ以來、正當(dāng)な理由なしに冷卻されてきました。

たとえば、EUは2024年にAI法を急速に通過し、この地域の規(guī)制においてグローバルにリードすることを目指しています。ただし、この法律は、基礎(chǔ)となる問題に直接対処せずに自己調(diào)整することをAI企業(yè)に大きく依存しています。これにより、ハイテクの巨人は、適切な監(jiān)視なしにデータを収集しながら、數(shù)億人のユーザー向けにグローバルにLLMを発売することを妨げていません。

関連： 「せいぜい愚かで、最悪の場(chǎng)合は欺cept的で危険な」：誇大広告を信じないでください - ここで人工的な一般情報(bào)が億萬長(zhǎng)者がそれを主張するものではない理由です

一方、最近の評(píng)価は、最も高度なLLMでさえ信頼できないままであることを示唆しています。それにもかかわらず、大手AI企業(yè)は間違いに対する説明責(zé)任を避け続けています。

殘念ながら、LLMSがバイアスを誤解させ、複製する傾向は、時(shí)間の経過とともに徐々に強(qiáng)化されて解決することはできません。ユーザーがLLMにタスクを割り當(dāng)てることができるエージェントAIの導(dǎo)入により、休日の予約や毎月の請(qǐng)求書の支払いの最適化など、合併癥の可能性は大幅に増加すると予想されます。

神経腫瘍AIは、これらの課題を解決する可能性があり、LLMのトレーニングに必要な大量のデータも減少させる可能性があります。それでは、神経相対癥のAIとは正確には何ですか、そしてそれはどのように機(jī)能しますか？

LLMの問題

LLMSは、膨大な量のテキストデータを供給され、洗練された統(tǒng)計(jì)を利用して、特定の応答の次の単語またはフレーズを指示するパターンを特定するために、深い學(xué)習(xí)技術(shù)を使用して動(dòng)作します。各モデルは、すべての學(xué)習(xí)パターンとともに、ニューラルネットワークとして知られる広大なデータセンターにある強(qiáng)力なコンピューターの配列に保存されます。

LLMは、チェーンと呼ばれるプロセスを通じて推論されるように見えることがあり、トレーニングデータで観察されたパターンに基づいて論理的な人間の結(jié)論を模倣するマルチステップ応答を生成します。

間違いなく、LLMは重要なエンジニアリングの成果を表しています。彼らは、テキストを要約して翻訳することに優(yōu)れており、間違いをキャッチするのに十分な勤勉で知識(shí)のある人々のために生産性を高める可能性があります。それにもかかわらず、彼らの結(jié)論は常に確率に基づいているため、理解を深めることではなく、誤解を招く可能性があります。

一般的な回避策は、「ループの人間」アプローチです。AISを使用するときに人間が最終的な決定を下すようにします。しかし、人間に責(zé)任を負(fù)わせることは問題を解決しません。彼らはしばしば誤った情報(bào)に誤解されています。

LLMSには非常に多くのトレーニングデータが必要であるため、合成データ（LLMSによって作成されたデータ）が使用されています。この合成データは、既存のエラーをソースからコピーして増幅し、新しいモデルに古い弱點(diǎn)を継承します。その結(jié)果、トレーニング後の精度を高めるためのAISをプログラミングするコスト（「事後モデルアライメント」として知られる）は、劇的に増加しています。

また、モデルの思考プロセスのステップ數(shù)が増えているため、プログラマーが問題を特定することはますます困難になり、修正が徐々に難しくなります。

神経共生體AIは、神経ネットワークの予測(cè)學(xué)習(xí)能力を統(tǒng)合し、人間がより確実に審議するために使用するAIの正式なルールを教えます。これらには、「a then b」などの「雨が降っている場(chǎng)合、外のすべてが通常濡れている」などのロジックルールが含まれます。 「a = bおよびb = cの場(chǎng)合はa = c」などの數(shù)學(xué)ルール。単語、図、シンボルの合意された意味。これらのいくつかはAIシステムに直接入力されますが、他のものはトレーニングデータを分析し、「知識(shí)抽出」を?qū)g行することにより獨(dú)立して推定されます。

これにより、知識(shí)を明確で再利用可能な部分に編成することで、幻覚を伴わず、より速く、より賢く學(xué)習(xí)するAIが生じるはずです。たとえば、AIが雨が降るときに物事が外に濡れていることを示すルールがある場(chǎng)合、濡れたアイテムのすべての例を覚えておく必要はありません。このルールは、以前に見えなかった新しいオブジェクトにも適用できます。

モデルの開発中、神経相體AIは、「神経共生サイクル」として知られるプロセスを通じて學(xué)習(xí)と正式な推論を統(tǒng)合します。これには、トレーニングデータからルールを抽出する部分的にトレーニングされたAIが含まれ、データを使用してさらにトレーニングする前に、この統(tǒng)合された知識(shí)をネットワークに埋め込むことが含まれます。

AIは広範(fàn)なデータを保存する必要がないため、この方法はよりエネルギー効率が高く、AIは特定の結(jié)論に達(dá)し、時(shí)間とともに改善する方法をよりよく制御できるため、AIはより説明責(zé)任を負(fù)います。また、「AIによる決定のために、結(jié)果は人の人種や性別に依存してはならない」など、既存のルールを遵守できるため、より公平です。

3番目の波

象徴的なAIとして知られる1980年代のAIの最初の波は、新しい情報(bào)に適用される正式なルールをコンピューターに教えることを含みました。深い學(xué)習(xí)は、2010年代の第2波として続き、多くの人は神経反応質(zhì)AIを3番目の波と見なしています。

ルールを明確に定義できるため、神経共役原理をニッチ領(lǐng)域に適用することは簡(jiǎn)単です。したがって、薬物の発見を支援するタンパク質(zhì)構(gòu)造を予測(cè)するGoogleのAlphafoldで最初に出現(xiàn)したことは、最初に驚くことではありません。

より広範(fàn)なAISの場(chǎng)合、中國(guó)のDeepSeekは、 「蒸留」と呼ばれる學(xué)習(xí)手法を使用しています。これは同じ方向へのステップです。しかし、一般的なモデルの神経協(xié)調(diào)反応性AIの可能性を完全に実現(xiàn)するには、一般的なルールを識(shí)別し、知識(shí)抽出を?qū)g行する能力を改善するために、より多くの研究が必要です。

以上がAIは絶えず「幻覚」しますが、解決策がありますの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語 Web サイトの他の関連記事を參照してください。