介紹

大型語(yǔ)言模型（LLM）代理是使用LLM作為中央計(jì)算引擎的高級(jí)AI系統(tǒng)。他們有能力執(zhí)行特定的動(dòng)作，做出決策并自動(dòng)與外部工具或系統(tǒng)進(jìn)行交互。與標(biāo)準(zhǔn)LLM不同，這使他們能夠處理需要復(fù)雜推理的復(fù)雜任務(wù)，而標(biāo)準(zhǔn)LLM則主要集中于基于文本生成的輸入。隨著對(duì)各個(gè)行業(yè)的LLM代理商的用例越來(lái)越興趣，有關(guān)它們的一些問(wèn)題需要回答。在此博客中，我將介紹常見(jiàn)的LLM代理問(wèn)題。這包括從基礎(chǔ)到組件再到實(shí)際應(yīng)用等問(wèn)題等等。因此，讓我們探討這些問(wèn)題。

概述

• 了解LLM代理是什么，以及它們與LLM，RL代理和抹布有何不同。
• 探索一些有趣的用例和LLM代理的示例。
• 了解LLM代理的組件以及一些相關(guān)的工具和流行框架。
• 了解有關(guān)LLM代理商以及如何處理它們的局限性和道德問(wèn)題。

15個(gè)最常見(jiàn)的問(wèn)題

Q1）LLMS中有哪些代理？

在“ LLM代理”的背景下，“代理”一詞是指在文本生成以外利用LLMS能力的自主AI系統(tǒng)。代理人負(fù)責(zé)通過(guò)了解任務(wù)，做出決策并與外部環(huán)境進(jìn)行交互來(lái)執(zhí)行特定任務(wù)。其中一些是：

• 任務(wù)執(zhí)行：它們基于給定的說(shuō)明，例如安排會(huì)議或預(yù)訂飛行票。
• 決策：決策涉及分析數(shù)據(jù)，以根據(jù)可用信息確定最佳的行動(dòng)方案。
• 任務(wù)管理：代理人記住以前的操作，確保他們遵循所有多步說(shuō)明而不會(huì)失去軌道。
• 與外部系統(tǒng)的交互：代理可以與外部工具和功能鏈接，以更新記錄，檢索所需信息，執(zhí)行計(jì)算和執(zhí)行代碼。
• 適應(yīng)性：代理可以通過(guò)實(shí)時(shí)調(diào)整其行為來(lái)適應(yīng)更改或新信息。

另請(qǐng)閱讀：LLM代理的崛起：用迭代工作流程革新AI

Q2）LLM代理的示例是什么？

考慮一下正在計(jì)劃假期的約翰。為此，他尋求聊天機(jī)器人的幫助。

約翰聊天機(jī)器人： “訪問(wèn)埃及的最佳時(shí)間是什么？”

聊天機(jī)器人配備了通用LLM，可提供廣泛的信息。它可以分享埃及的位置，歷史和一般景點(diǎn)。

但是，這個(gè)關(guān)于訪問(wèn)埃及的最佳時(shí)間的問(wèn)題需要有關(guān)天氣模式，高峰季節(jié)以及影響旅游體驗(yàn)的其他因素的特定信息。因此，為了準(zhǔn)確回答此類問(wèn)題，聊天機(jī)器人需要專門的信息。這是高級(jí)LLM代理商發(fā)揮作用的地方。

LLM代理可以思考，理解和記住過(guò)去的對(duì)話，并使用不同的工具根據(jù)情況修改答案。因此，當(dāng)約翰向基于LLM代理商設(shè)計(jì)的虛擬旅行聊天機(jī)器人提出同樣的問(wèn)題時(shí)，這就是它的發(fā)展。

約翰到聊天機(jī)器人： “我想計(jì)劃為期7天的埃及旅行。請(qǐng)幫助我選擇那七天的最佳時(shí)間，找到我的航班，住宿和行程?！?/p>

嵌入在LLM聊天機(jī)器人中的代理最初處理并了解用戶的輸入。在這種情況下，用戶想計(jì)劃他到埃及的旅行，包括最佳參觀時(shí)間，飛行票，住宿和行程。

在下一步中，代理將任務(wù)分叉

• 找到訪問(wèn)埃及的最佳時(shí)間
• 預(yù)訂飛行票
• 預(yù)訂住宿
• 行程計(jì)劃

在執(zhí)行這些操作時(shí)，代理商搜索旅行數(shù)據(jù)庫(kù)以獲取合適的旅行時(shí)間和完美的七天行程。但是，對(duì)于飛行和酒店預(yù)訂，代理商連接到預(yù)訂API（例如Skyscanner或Cleartrip進(jìn)行飛行預(yù)訂，Booking.com或Trivago進(jìn)行酒店預(yù)訂）。

因此，LLM代理結(jié)合了此信息以提供整個(gè)旅行計(jì)劃。如果用戶確認(rèn)任何選項(xiàng)，則代理商還將預(yù)訂航班并確定住宿。此外，如果該計(jì)劃在最后一分鐘發(fā)生變化，則代理商會(huì)動(dòng)態(tài)調(diào)整其搜索并提供新的建議。

Q3）LLM和代理有什么區(qū)別？

LLM和代理人之間的差異是：

Q4）為什么我們需要LLM代理商？

LLM代理將NLP與自主決策和最終執(zhí)行相結(jié)合。當(dāng)項(xiàng)目需要理解，順序推理，計(jì)劃和內(nèi)存時(shí)，LLM代理可能會(huì)非常有幫助，因?yàn)樗鼈兩婕岸嗖饺蝿?wù)以處理復(fù)雜的文本。他們可以分析大量數(shù)據(jù)集，以獲取見(jiàn)解并幫助做出自主決定。 LLM代理與外部系統(tǒng)進(jìn)行交互以訪問(wèn)或獲取實(shí)時(shí)信息。這增強(qiáng)了從醫(yī)療保健到教育及其他各種應(yīng)用程序的各種應(yīng)用程序中的個(gè)性化行動(dòng)。

Q5）LLM代理的實(shí)際用例有哪些？

在快速發(fā)展的世界中，不同領(lǐng)域中有各種各樣的現(xiàn)實(shí)用例。其中一些在下面列出：

• 阿里巴巴使用LLM代理來(lái)增強(qiáng)其客戶服務(wù)。LLM代理幫助客戶支持系統(tǒng)直接處理請(qǐng)求而不是指導(dǎo)。這簡(jiǎn)化了整個(gè)過(guò)程并提高了客戶滿意度。
• 基于AI的法律與合規(guī)組織Brytr開(kāi)發(fā)了一個(gè)名為“電子郵件代理”的AI代理。該AI代理能夠直接在MS Outlook或Gmail中收到來(lái)自商業(yè)團(tuán)隊(duì)的電子郵件。
• 的確，一個(gè)尋求工作的平臺(tái)使用LLM代理商獲取有關(guān)求職者數(shù)據(jù)根據(jù)其經(jīng)驗(yàn)和教育而適合求職者數(shù)據(jù)的全面列表。
• 科技公司Oracle使用LLM代理商進(jìn)行法律搜索，收入情報(bào)，工作招聘和呼叫中心優(yōu)化。這將節(jié)省時(shí)間來(lái)檢索和分析復(fù)雜數(shù)據(jù)庫(kù)的信息。
• Duolingo是電子學(xué)習(xí)平臺(tái)，還使用LLM代理來(lái)增強(qiáng)學(xué)習(xí)者的學(xué)習(xí)經(jīng)驗(yàn)。
• 汽車公司特斯拉正在其自動(dòng)駕駛汽車中實(shí)施LLM代理商。這些代理有助于新組織技術(shù)的研發(fā)。

另請(qǐng)閱讀：LLM代理商的10個(gè)業(yè)務(wù)應(yīng)用

Q6）哪些流行的框架和構(gòu)建LLM代理的工具是什么？

開(kāi)發(fā)人員使用LLM代理框架作為一組工具，庫(kù)和準(zhǔn)則，通過(guò)大型語(yǔ)言模型（LLM）創(chuàng)建，部署和管理AI代理。一些流行的框架是：

1. Langgraph
   我們知道，“圖”是以結(jié)構(gòu)化方式的數(shù)據(jù)表示。 Langgraph框架將LLM與基于圖形的結(jié)構(gòu)化表示。這有助于模型理解，分析和生成相關(guān)的輸出。該框架減少了人類為構(gòu)建信息流以開(kāi)發(fā)復(fù)雜代理體系結(jié)構(gòu)的努力。
2. CREWAI
   “船員”一詞是指一群共同努力的人。 Crewai Framework專門針對(duì)LLM代理與其他多個(gè)LLM代理合作，每個(gè)代理都有其獨(dú)特的功能。所有這些代理商都集體致力于一個(gè)共同的目標(biāo)。
3. 自動(dòng)基因
   “ Autogen”與“自動(dòng)”一詞有關(guān)。 Autogen促進(jìn)了各種代理之間的平穩(wěn)對(duì)話。它使創(chuàng)建可感知的代理并擁有各種方便的代理類以開(kāi)發(fā)代理框架非常容易。

了解更多：2024年建立AI代理的前5個(gè)框架

Q7）LLM代理的組件是什么？

一個(gè)簡(jiǎn)單的LLM代理由8個(gè)組件組成，如下圖所示：

• 用戶提示：以文本形式提供給LLM的說(shuō)明以生成響應(yīng)。產(chǎn)生的輸出取決于提示的質(zhì)量。
• 大型語(yǔ)言模型： LLM是LLM代理的核心計(jì)算引擎，該發(fā)動(dòng)機(jī)在大型數(shù)據(jù)集上進(jìn)行了訓(xùn)練。這些模型根據(jù)培訓(xùn)的數(shù)據(jù)處理并理解語(yǔ)言。
• 計(jì)劃：解決復(fù)雜的任務(wù)是必要的思想流。該模型必須在現(xiàn)有和外部來(lái)源之間進(jìn)行選擇才能生成輸出。
• LLM的現(xiàn)有知識(shí)：這是指對(duì)LLM進(jìn)行培訓(xùn)的大量數(shù)據(jù)集，例如網(wǎng)絡(luò)來(lái)源，博客，研究論文，Wikipedia等。
• 工具：這些系統(tǒng)旨在與外部系統(tǒng)或環(huán)境進(jìn)行交互，以執(zhí)行數(shù)據(jù)庫(kù)調(diào)用，API調(diào)用等任務(wù)。
• 呼叫工具：使用所需工具提取相關(guān)信息的行為。
• 外部信息：通過(guò)外部環(huán)境訪問(wèn)的數(shù)據(jù)，例如網(wǎng)頁(yè)，數(shù)據(jù)庫(kù)，API等。
• 輸出：基于現(xiàn)有知識(shí)和外部知識(shí)的現(xiàn)有知識(shí)或組合產(chǎn)生的最終響應(yīng)。

Q8）RL代理和LLM代理有什么區(qū)別？

增強(qiáng)學(xué)習(xí)（RL）代理和LLM代理之間的差異為：

Q9）抹布和LLM代理之間有什么區(qū)別？

抹布和LLM代理之間的差異是

Q10）LLM代理如何處理模棱兩可的輸入？

LLM代理依靠提示作為輸入，最終輸出取決于提示的質(zhì)量。如果輸入模棱兩可或不清楚，LLM代理需要清晰。 LLM代理可以產(chǎn)生一些特定的后續(xù)問(wèn)題，以提高清晰度。

示例：如果用戶提示代理“發(fā)送電子郵件”，則代理會(huì)回答“您可以提及電子郵件ID嗎？”之類的問(wèn)題。

Q11）可以針對(duì)特定行業(yè)或任務(wù)定制LLM代理商嗎？

是的，可以根據(jù)行業(yè)或任務(wù)定制LLM代理商。創(chuàng)建自定義的LLM代理有不同的方法，例如：

• 對(duì)特定域數(shù)據(jù)進(jìn)行微調(diào)
• 合并特定域的API和數(shù)據(jù)庫(kù)
• 自定義提示

Q12）圍繞LLM代理商的道德問(wèn)題是什么？

訓(xùn)練和使用LLM代理時(shí)，有許多道德問(wèn)題。其中一些是：

• LLM代理在大規(guī)模數(shù)據(jù)集上進(jìn)行了培訓(xùn)，這些數(shù)據(jù)集可能包括偏見(jiàn)。結(jié)果，他們有時(shí)可能會(huì)發(fā)出歧視性產(chǎn)出。他們也可能產(chǎn)生令人反感的內(nèi)容。
• LLM代理可能會(huì)產(chǎn)生準(zhǔn)確和幻覺(jué)的響應(yīng)。因此，所有LLM生成的響應(yīng)都必須進(jìn)行交叉檢查。
• AI模型容易受到越獄和迅速注射的影響。它們可用于繞過(guò)安全措施的有害或非法目的。
• LLM代理在不同時(shí)間或不同用戶提供了同一查詢的不同答案。這引起了解釋性問(wèn)題。

但是，國(guó)家標(biāo)準(zhǔn)技術(shù)研究所（NIST）已經(jīng)解決了這些問(wèn)題，并提出了標(biāo)準(zhǔn)指南，AI開(kāi)發(fā)人員在部署任何新模型時(shí)都應(yīng)合并。

了解更多信息：如何在生成AI時(shí)代建立負(fù)責(zé)任的AI？

Q13）當(dāng)前LLM代理的局限性是什么？

LLM代理非常有用，但仍然面臨一些挑戰(zhàn)。其中一些是：

• 有限的長(zhǎng)期記憶： LLM代理商難以記住過(guò)去對(duì)話中的每個(gè)細(xì)節(jié)。它可以一次跟蹤有限的信息。這可能會(huì)丟失一些關(guān)鍵信息。矢量店技術(shù)對(duì)于存儲(chǔ)更多信息很有用，但是問(wèn)題仍然無(wú)法完全解決。
• 輸入是迅速依賴的： LLM代理依賴于輸入的提示。提示中的一個(gè)小錯(cuò)誤可能會(huì)導(dǎo)致完全不同的輸出，因此需要一個(gè)精制，結(jié)構(gòu)化和清晰的提示。
• 容易改變外部工具的變化： LLM代理取決于外部工具和來(lái)源，并且其中的變化可能會(huì)破壞最終輸出。
• 產(chǎn)生不一致的輸出：即使提示中有很小的變化，它們也可能產(chǎn)生不同的輸出。這有時(shí)會(huì)導(dǎo)致不可靠的輸出，這是執(zhí)行任務(wù)的錯(cuò)誤。
• 成本和效率： LLM代理商可能非常密集，以最終解決方案呼吁LLM多次提出LLM。

Q14）LLM代理如何處理持續(xù)學(xué)習(xí)和更新？

變化是永久的。可以使用填充，結(jié)合人類反饋和自我反射的跟蹤性能來(lái)定期適應(yīng)這些更改的方式設(shè)置代理。

Q15）LLM代理如何確保數(shù)據(jù)隱私和安全性？

AI生成的內(nèi)容可能包含關(guān)鍵或敏感信息。確保隱私和安全是LLM代理模型的關(guān)鍵步驟。因此，對(duì)許多模型進(jìn)行了培訓(xùn)以實(shí)時(shí)檢測(cè)違反隱私規(guī)范，例如共享個(gè)人身份信息（PII），例如地址，電話號(hào)碼等。

結(jié)論

在本文中，我們介紹了一些有關(guān)LLM代理商的最常見(jiàn)問(wèn)題。 LLM代理是處理復(fù)雜任務(wù)的有效工具。他們使用LLM作為大腦，并擁有其他七個(gè)主要組件：用戶提示，計(jì)劃，LLM的現(xiàn)有知識(shí)，工具，呼叫工具和輸出。最后，整合所有這些組件可以提高代理解決現(xiàn)實(shí)世界問(wèn)題的能力。但是，仍然存在一些局限性，例如有限的長(zhǎng)期記憶和實(shí)時(shí)適應(yīng)。解決這些限制將解鎖LLM代理模型的全部潛力。

探索LLM代理的未來(lái)派世界，并在我們的Genai Pinnacle計(jì)劃中了解所有有關(guān)它們的信息。

以上是關(guān)于LLM代理商的15個(gè)最常見(jiàn)的問(wèn)題的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！