大型語(yǔ)言模型（LLMS）的流行激增，工具稱呼功能極大地?cái)U(kuò)展了其功能，而不是簡(jiǎn)單的文本生成?，F(xiàn)在，LLM可以處理複雜的自動(dòng)化任務(wù)，例如動(dòng)態(tài)UI創(chuàng)建和自動(dòng)操作。在大規(guī)模數(shù)據(jù)集中培訓(xùn)，這些模型在理解和生成結(jié)構(gòu)化數(shù)據(jù)方面表現(xiàn)出色，使其非常適合精確的工具稱呼應(yīng)用程序。這加劇了他們?cè)贏I驅(qū)動(dòng)的軟件開發(fā)中的廣泛採(cǎi)用，從基本功能到復(fù)雜的代理，工具稱呼現(xiàn)在是中心。本文探討了LLM工具呼叫的基礎(chǔ)知識(shí)，並演示瞭如何使用開源工具來構(gòu)建強(qiáng)大的代理商來實(shí)施它。

關(guān)鍵學(xué)習(xí)目標(biāo)

• 掌握LLM工具的概念。
• 了解工具呼叫及其應(yīng)用的基本原理。
• 探索OpenAI中的工具稱呼實(shí)現(xiàn)（ChatCompletions API，助手API，並行工具調(diào)用和結(jié)構(gòu)化輸出），人類模型和Langchain。
• 學(xué)會(huì)使用開源資源來構(gòu)建有效的AI代理。

*本文是***數(shù)據(jù)科學(xué)博客馬拉鬆的一部分。

目錄

• 什麼是工具？
• 什麼是工具調(diào)用？
• 工具調(diào)用如何工作？
  • 示例用例
• 使用OpenAI型號(hào)的工具通話
  • 利用助手API
  • 並行函數(shù)調(diào)用
  • 結(jié)構(gòu)化輸出
• 用擬人的克勞德（Claude）來調(diào)用工具
• 用蘭班呼叫工具
  • 模式定義與pydantic
• 用工具調(diào)用的建築代理
• 引入Composio
• 建造GitHub代理
• 常見問題

什麼是工具？

工具是允許LLM與外部系統(tǒng)交互的機(jī)制。這些工具是可以訪問LLM的功能，在LLM認(rèn)為其使用必要時(shí)獨(dú)立執(zhí)行。一個(gè)典型的工具定義包括：

• 名稱：描述函數(shù)/工具名稱。
• 描述：詳細(xì)的工具說明。
• 參數(shù)：定義函數(shù)/工具參數(shù)的JSON模式。

什麼是工具調(diào)用？

工具調(diào)用使該模型能夠生成匹配用戶定義功能架構(gòu)的響應(yīng)。當(dāng)LLM決定需要工具時(shí)，它會(huì)產(chǎn)生與工具參數(shù)模式相符的結(jié)構(gòu)化輸出。例如，鑑於get_weather功能模式，有關(guān)城市天氣的查詢將返回一個(gè)格式化的功能參數(shù)架構(gòu)，從而使執(zhí)行能夠檢索天氣數(shù)據(jù)。重要的是，LLM不會(huì)執(zhí)行該工具；它生成用於外部執(zhí)行的結(jié)構(gòu)化輸入。

工具調(diào)用如何工作？

OpenAI和Anthropic的公司已經(jīng)培訓(xùn)了模型，可以根據(jù)上下文選擇適當(dāng)?shù)墓ぞ摺Ｃ總€(gè)提供商都以不同的方式處理工具調(diào)用和響應(yīng)。一般來說：

1. 定義工具並提供一個(gè)提示：定義具有名稱，描述和結(jié)構(gòu)化模式的工具，以及用戶的提示（例如，“倫敦的天氣是什麼？”）。
2. LLM工具選擇： LLM評(píng)估工具的必要性。如果是這樣，它會(huì)停止文本生成並使用工具參數(shù)值生成JSON形式的響應(yīng)。
3. 提取，執(zhí)行和返回：提取參數(shù)，運(yùn)行功能，然後返回輸出到LLM。
4. 答案生成： LLM使用工具輸出來製定最終答案。

示例用例

• 動(dòng)作啟用：將LLMS連接到應(yīng)用程序（Gmail，Github，Discord）以自動(dòng)化操作（發(fā)送電子郵件，創(chuàng)建拉請(qǐng)請(qǐng)求，發(fā)送消息）。
• 數(shù)據(jù)提供：從知識(shí)庫(kù)（Web，Wikipedia，API）中獲取數(shù)據(jù)，以向LLM提供特定信息。
• 動(dòng)態(tài)UIS：基於用戶輸入更新應(yīng)用程序UIS。

以下各節(jié)詳細(xì)介紹了OpenAI，人類和Langchain的工具接聽方法。開源模型（例如Llama 3）和推理提供商（如GROQ）也支持工具調(diào)用。

（本文的其餘部分將繼續(xù)詳細(xì)說明在OpenAI，人類，蘭鏈，建築代理，Composio和GitHub代理示例中呼叫工具的詳細(xì)說明，反映了原始輸入的結(jié)構(gòu)和內(nèi)容，但帶有重新表達(dá)的句子和詞彙。）

以上是在LLMS中調(diào)用工具的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！