大型技術(shù)實(shí)驗(yàn)人工智能（AI）的主要關(guān)注點(diǎn)并不是它可能主導(dǎo)人類(lèi)。真正的問(wèn)題在于大語(yǔ)言模型（LLM）的持續(xù)不準(zhǔn)確性，例如Open AI的Chatgpt，Google的Gemini和Meta的Llama，這似乎是不可避免的挑戰(zhàn)。

這些錯(cuò)誤被稱(chēng)為幻覺(jué)，當(dāng)Chatgpt錯(cuò)誤地指責(zé)美國(guó)法學(xué)教授喬納森·圖里（Jonathan Turley）在2023年遭受性騷擾時(shí)，特別強(qiáng)調(diào)了這些錯(cuò)誤。開(kāi)放式的回應(yīng)實(shí)質(zhì)上是為了通過(guò)指示Chatgpt不解決他的問(wèn)題來(lái)使Turley“消失” - 一種既既不公平又不滿意的方法。顯然，在出現(xiàn)后逐案解決幻覺(jué)顯然沒(méi)有有效。

這也適用于LLM的加強(qiáng)刻板印象或提供偏向西方觀點(diǎn)的答案。此外，鑒于很難理解LLM最初如何得出其結(jié)論，因此對(duì)產(chǎn)生的廣泛錯(cuò)誤信息完全缺乏責(zé)任。

在2023年發(fā)布GPT-4（Openai的LLM開(kāi)發(fā)中的最新里程碑）之后，我們就這些問(wèn)題進(jìn)行了激烈的討論?？梢哉f(shuō)，從那時(shí)起，這場(chǎng)辯論就沒(méi)有正當(dāng)理由而冷靜。

例如，歐盟在2024年迅速通過(guò)了其AI法案，旨在領(lǐng)導(dǎo)全球調(diào)節(jié)這一領(lǐng)域。但是，該法案在很大程度上取決于AI公司的自我調(diào)節(jié)，而無(wú)需直接解決潛在問(wèn)題。這并沒(méi)有阻止科技巨頭在全球范圍內(nèi)針對(duì)數(shù)億用戶推出LLM，同時(shí)收集其數(shù)據(jù)而沒(méi)有足夠的監(jiān)督。

相關(guān)： “充其量是愚蠢的，最壞的欺騙性和危險(xiǎn)”：不要相信炒作 - 這就是為什么人工通用情報(bào)不是億萬(wàn)富翁所聲稱(chēng)的原因

同時(shí)，最近的評(píng)估表明，即使是最先進(jìn)的LLM也是不可信的。盡管如此，領(lǐng)先的AI公司仍在繼續(xù)避免對(duì)錯(cuò)誤的責(zé)任。

遺憾的是，LLM誤導(dǎo)和復(fù)制偏見(jiàn)的趨勢(shì)無(wú)法通過(guò)隨著時(shí)間的推移逐漸增強(qiáng)來(lái)解決。通過(guò)引入Agesic AI ，用戶可以將任務(wù)分配給LLM（例如預(yù)訂假期或優(yōu)化每月賬單付款），并有望大幅度增加并發(fā)癥的潛力。

Neurosymbolic AI可以潛在地解決這些挑戰(zhàn)，同時(shí)還減少了訓(xùn)練LLM所需的大量數(shù)據(jù)。那么，神經(jīng)符號(hào)AI到底是什么？它如何作用？

LLM問(wèn)題

LLMS使用深度學(xué)習(xí)技術(shù)進(jìn)行操作，在該技術(shù)中，它們被喂食大量文本數(shù)據(jù)，并利用復(fù)雜的統(tǒng)計(jì)數(shù)據(jù)來(lái)識(shí)別在任何給定響應(yīng)中決定下一個(gè)單詞或短語(yǔ)的模式。每個(gè)模型以及所有學(xué)習(xí)的模式都存儲(chǔ)在位于稱(chēng)為神經(jīng)網(wǎng)絡(luò)的擴(kuò)展數(shù)據(jù)中心的強(qiáng)大計(jì)算機(jī)陣列中。

LLM可以通過(guò)稱(chēng)為“經(jīng)營(yíng)鏈”的過(guò)程來(lái)理解LLM，從而產(chǎn)生多步響應(yīng)，從而根據(jù)訓(xùn)練數(shù)據(jù)中觀察到的模式模仿人類(lèi)的結(jié)論。

毫無(wú)疑問(wèn)，LLMS代表了一項(xiàng)重大的工程成就。他們擅長(zhǎng)總結(jié)文本和翻譯，可能會(huì)提高勤奮和知識(shí)淵博的人的生產(chǎn)力，足以捕捉自己的錯(cuò)誤。然而，它們具有誤導(dǎo)性的巨大潛力，因?yàn)樗麄兊慕Y(jié)論始終基于概率，而不是理解。

一個(gè)常見(jiàn)的解決方法是“循環(huán)”方法：確保人類(lèi)在使用AIS時(shí)仍然做出最終決定。但是，將責(zé)任歸咎于人類(lèi)并不能解決問(wèn)題 - 它們通常仍然被錯(cuò)誤信息誤導(dǎo)。

LLM現(xiàn)在需要大量的培訓(xùn)數(shù)據(jù)，以至于使用合成數(shù)據(jù)（由LLMS創(chuàng)建的數(shù)據(jù)）正在使用。該合成數(shù)據(jù)可以從其來(lái)源復(fù)制和擴(kuò)大現(xiàn)有錯(cuò)誤，從而導(dǎo)致新模型繼承舊弱點(diǎn)。因此，編程AIS在訓(xùn)練后提高準(zhǔn)確性的成本（稱(chēng)為“事后模型對(duì)齊”）正在急劇增加。

由于模型思維過(guò)程中越來(lái)越多的步驟，因此，對(duì)于程序員來(lái)說(shuō)，這也變得越來(lái)越具有挑戰(zhàn)性，從而逐漸變得更加困難。

Neurosymbolic AI將神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)學(xué)習(xí)能力與教授AI的正式規(guī)則相結(jié)合，而AI的正式規(guī)則是人類(lèi)用來(lái)更可靠地考慮的。這些包括邏輯規(guī)則，例如“如果A當(dāng)時(shí)”，例如“如果在下雨，那么外面的所有東西通常都是濕的”；數(shù)學(xué)規(guī)則，例如“如果a = b and b = c，則a = c”;并同意單詞，圖表和符號(hào)的含義。其中一些將直接輸入到AI系統(tǒng)中，而另一些將通過(guò)分析培訓(xùn)數(shù)據(jù)和執(zhí)行“知識(shí)提取”來(lái)獨(dú)立推導(dǎo)。

這應(yīng)該導(dǎo)致AI永遠(yuǎn)不會(huì)通過(guò)將知識(shí)組織成清晰，可重復(fù)使用的部分來(lái)使其更快，更聰明地學(xué)習(xí)。例如，如果AI有規(guī)則，說(shuō)明雨水在外面濕潤(rùn)，則無(wú)需記住每個(gè)濕項(xiàng)目的例子 - 該規(guī)則可以應(yīng)用于任何新對(duì)象，即使是以前看不見(jiàn)的對(duì)象。

在模型開(kāi)發(fā)過(guò)程中，神經(jīng)符號(hào)AI通過(guò)稱(chēng)為“神經(jīng)肯定周期”的過(guò)程整合了學(xué)習(xí)和形式推理。這涉及從其培訓(xùn)數(shù)據(jù)中進(jìn)行部分培訓(xùn)的AI提取規(guī)則，然后將此合并知識(shí)嵌入到網(wǎng)絡(luò)中，然后再使用數(shù)據(jù)進(jìn)行進(jìn)一步培訓(xùn)。

由于AI不需要存儲(chǔ)大量數(shù)據(jù)，因此此方法更加節(jié)能，并且AI變得更加負(fù)責(zé)，因?yàn)橛脩艨梢愿玫乜刂破溥_(dá)到特定結(jié)論并隨著時(shí)間的推移而改善。這也更公平，因?yàn)樗梢宰袷仡A(yù)先存在的規(guī)則，例如：“對(duì)于AI做出的任何決定，結(jié)果不得取決于一個(gè)人的種族或性別?！?/p>

第三波

1980年代的第一波AI浪潮（稱(chēng)為象征性AI）涉及到適用于新信息的計(jì)算機(jī)形式規(guī)則。深度學(xué)習(xí)是2010年代的第二波，許多人將神經(jīng)肌符號(hào)AI視為第三波。

將神經(jīng)肯定原則應(yīng)用于利基區(qū)域更容易，因?yàn)榭梢悦鞔_定義規(guī)則。因此，毫不奇怪的是，我們首先看到了它在Google的Alphafold中的出現(xiàn)，該Alphafold預(yù)測(cè)了蛋白質(zhì)結(jié)構(gòu)有助于藥物發(fā)現(xiàn)和掌握法，該蛋白質(zhì)結(jié)構(gòu)解決了復(fù)雜的幾何學(xué)問(wèn)題。

對(duì)于基于更廣泛的AIS，中國(guó)的DeepSeek使用一種稱(chēng)為“蒸餾”的學(xué)習(xí)技術(shù)，這是朝著同一方向邁出的一步。然而，為了充分實(shí)現(xiàn)神經(jīng)成像AI的通用模型潛力，需要進(jìn)行更多的研究來(lái)完善其識(shí)別一般規(guī)則和執(zhí)行知識(shí)提取的能力。

以上是ai不斷地'幻覺(jué)”，但是有一個(gè)解決方案的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！