大型技術(shù)實(shí)驗(yàn)人工智能（AI）的主要關(guān)注點(diǎn)並不是它可能主導(dǎo)人類。真正的問題在於大語言模型（LLM）的持續(xù)不準(zhǔn)確性，例如Open AI的Chatgpt，Google的Gemini和Meta的Llama，這似乎是不可避免的挑戰(zhàn)。

這些錯誤被稱為幻覺，當(dāng)Chatgpt錯誤地指責(zé)美國法學(xué)教授喬納森·圖裡（Jonathan Turley）在2023年遭受性騷擾時，特別強(qiáng)調(diào)了這些錯誤。開放式的回應(yīng)實(shí)質(zhì)上是為了通過指示Chatgpt不解決他的問題來使Turley“消失” - 一種既既不公平又不滿意的方法。顯然，在出現(xiàn)後逐案解決幻覺顯然沒有有效。

這也適用於LLM的加強(qiáng)刻板印像或提供偏向西方觀點(diǎn)的答案。此外，鑑於很難理解LLM最初如何得出其結(jié)論，因此對產(chǎn)生的廣泛錯誤信息完全缺乏責(zé)任。

在2023年發(fā)布GPT-4（Openai的LLM開發(fā)中的最新里程碑）之後，我們就這些問題進(jìn)行了激烈的討論?？梢哉f，從那時起，這場辯論就沒有正當(dāng)理由而冷靜。

例如，歐盟在2024年迅速通過了其AI法案，旨在領(lǐng)導(dǎo)全球調(diào)節(jié)這一領(lǐng)域。但是，該法案在很大程度上取決於AI公司的自我調(diào)節(jié)，而無需直接解決潛在問題。這並沒有阻止科技巨頭在全球範(fàn)圍內(nèi)針對數(shù)億用戶推出LLM，同時收集其數(shù)據(jù)而沒有足夠的監(jiān)督。

相關(guān)： “充其量是愚蠢的，最壞的欺騙性和危險(xiǎn)”：不要相信炒作 - 這就是為什麼人工通用情報(bào)不是億萬富翁所聲稱的原因

同時，最近的評估表明，即使是最先進(jìn)的LLM也是不可信的。儘管如此，領(lǐng)先的AI公司仍在繼續(xù)避免對錯誤的責(zé)任。

遺憾的是，LLM誤導(dǎo)和復(fù)制偏見的趨勢無法通過隨著時間的推移逐漸增強(qiáng)來解決。通過引入Agesic AI ，用戶可以將任務(wù)分配給LLM（例如預(yù)訂假期或優(yōu)化每月賬單付款），並有望大幅度增加並發(fā)癥的潛力。

Neurosymbolic AI可以潛在地解決這些挑戰(zhàn)，同時還減少了訓(xùn)練LLM所需的大量數(shù)據(jù)。那麼，神經(jīng)符號AI到底是什麼？它如何作用？

LLM問題

LLMS使用深度學(xué)習(xí)技術(shù)進(jìn)行操作，在該技術(shù)中，它們被餵食大量文本數(shù)據(jù)，並利用複雜的統(tǒng)計(jì)數(shù)據(jù)來識別在任何給定響應(yīng)中決定下一個單詞或短語的模式。每個模型以及所有學(xué)習(xí)的模式都存儲在位於稱為神經(jīng)網(wǎng)絡(luò)的擴(kuò)展數(shù)據(jù)中心的強(qiáng)大計(jì)算機(jī)陣列中。

LLM可以通過稱為“經(jīng)營鏈”的過程來理解LLM，從而產(chǎn)生多步響應(yīng)，從而根據(jù)訓(xùn)練數(shù)據(jù)中觀察到的模式模仿人類的結(jié)論。

毫無疑問，LLMS代表了一項(xiàng)重大的工程成就。他們擅長總結(jié)文本和翻譯，可能會提高勤奮和知識淵博的人的生產(chǎn)力，足以捕捉自己的錯誤。然而，它們具有誤導(dǎo)性的巨大潛力，因?yàn)樗麄兊慕Y(jié)論始終基於概率，而不是理解。

一個常見的解決方法是“循環(huán)”方法：確保人類在使用AIS時仍然做出最終決定。但是，將責(zé)任歸咎於人類並不能解決問題 - 它們通常仍然被錯誤信息誤導(dǎo)。

LLM現(xiàn)在需要大量的培訓(xùn)數(shù)據(jù)，以至於使用合成數(shù)據(jù)（由LLMS創(chuàng)建的數(shù)據(jù)）正在使用。該合成數(shù)據(jù)可以從其來源複製和擴(kuò)大現(xiàn)有錯誤，從而導(dǎo)致新模型繼承舊弱點(diǎn)。因此，編程AIS在訓(xùn)練後提高準(zhǔn)確性的成本（稱為“事後模型對齊”）正在急劇增加。

由於模型思維過程中越來越多的步驟，因此，對於程序員來說，這也變得越來越具有挑戰(zhàn)性，從而逐漸變得更加困難。

Neurosymbolic AI將神經(jīng)網(wǎng)絡(luò)的預(yù)測學(xué)習(xí)能力與教授AI的正式規(guī)則相結(jié)合，而AI的正式規(guī)則是人類用來更可靠地考慮的。這些包括邏輯規(guī)則，例如“如果A當(dāng)時”，例如“如果在下雨，那麼外面的所有東西通常都是濕的”；數(shù)學(xué)規(guī)則，例如“如果a = b and b = c，則a = c”;並同意單詞，圖表和符號的含義。其中一些將直接輸入到AI系統(tǒng)中，而另一些將通過分析培訓(xùn)數(shù)據(jù)和執(zhí)行“知識提取”來獨(dú)立推導(dǎo)。

這應(yīng)該導(dǎo)致AI永遠(yuǎn)不會通過將知識組織成清晰，可重複使用的部分來使其更快，更聰明地學(xué)習(xí)。例如，如果AI有規(guī)則，說明雨水在外面濕潤，則無需記住每個濕項(xiàng)目的例子 - 該規(guī)則可以應(yīng)用於任何新對象，即使是以前看不見的對象。

在模型開發(fā)過程中，神經(jīng)符號AI通過稱為“神經(jīng)肯定週期”的過程整合了學(xué)習(xí)和形式推理。這涉及從其培訓(xùn)數(shù)據(jù)中進(jìn)行部分培訓(xùn)的AI提取規(guī)則，然後將此合併知識嵌入到網(wǎng)絡(luò)中，然後再使用數(shù)據(jù)進(jìn)行進(jìn)一步培訓(xùn)。

由於AI不需要存儲大量數(shù)據(jù)，因此此方法更加節(jié)能，並且AI變得更加負(fù)責(zé)，因?yàn)橛脩艨梢愿玫乜刂破溥_(dá)到特定結(jié)論並隨著時間的推移而改善。這也更公平，因?yàn)樗梢宰袷仡A(yù)先存在的規(guī)則，例如：“對於AI做出的任何決定，結(jié)果不得取決於一個人的種族或性別?！?/p>

第三波

1980年代的第一波AI浪潮（稱為像徵性AI）涉及到適用於新信息的計(jì)算機(jī)形式規(guī)則。深度學(xué)習(xí)是2010年代的第二波，許多人將神經(jīng)肌符號AI視為第三波。

將神經(jīng)肯定原則應(yīng)用於利基區(qū)域更容易，因?yàn)榭梢悦鞔_定義規(guī)則。因此，毫不奇怪的是，我們首先看到了它在Google的Alphafold中的出現(xiàn)，該Alphafold預(yù)測了蛋白質(zhì)結(jié)構(gòu)有助於藥物發(fā)現(xiàn)和掌握法，該蛋白質(zhì)結(jié)構(gòu)解決了複雜的幾何學(xué)問題。

對於基於更廣泛的AIS，中國的DeepSeek使用一種稱為“蒸餾”的學(xué)習(xí)技術(shù)，這是朝著同一方向邁出的一步。然而，為了充分實(shí)現(xiàn)神經(jīng)成像AI的通用模型潛力，需要進(jìn)行更多的研究來完善其識別一般規(guī)則和執(zhí)行知識提取的能力。

以上是ai不斷地'幻覺”，但是有一個解決方案的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！