PydanticAI 是一個(gè)強(qiáng)大的 Python 框架，旨在簡(jiǎn)化使用生成式 AI 的生產(chǎn)級(jí)應(yīng)用程式的開(kāi)發(fā)。它由廣泛使用的數(shù)據(jù)驗(yàn)證庫(kù) Pydantic 背後的同一團(tuán)隊(duì)構(gòu)建，旨在將 FastAPI 的創(chuàng)新和人體工學(xué)設(shè)計(jì)帶入人工智慧應(yīng)用程式開(kāi)發(fā)領(lǐng)域。 PydanticAI 專(zhuān)注於類(lèi)型安全、模組化以及與其他 Python 工具的無(wú)縫整合。

核心概念

PydanticAI 圍繞著幾個(gè)關(guān)鍵概念：

代理商

代理程式是與大型語(yǔ)言模型 (LLM) 互動(dòng)的主要介面。代理充當(dāng)各種組件的容器，包括：

• 系統(tǒng)提示：LLM說(shuō)明，定義為靜態(tài)字串或動(dòng)態(tài)函數(shù)。
• 函數(shù)工具：LLM 可以呼叫以取得其他資訊或執(zhí)行操作的函數(shù)。
• 結(jié)構(gòu)化結(jié)果類(lèi)型：LLM 在運(yùn)行結(jié)束時(shí)必須傳回的資料類(lèi)型。
• 相依類(lèi)型：系統(tǒng)提示函數(shù)、工具和結(jié)果驗(yàn)證器可能使用的資料或服務(wù)。
• LLM 模型：代理程式將使用的 LLM，可以在代理建立時(shí)或執(zhí)行時(shí)設(shè)定。

代理專(zhuān)為可重複使用性而設(shè)計(jì)，通常實(shí)例化一次並在整個(gè)應(yīng)用程式中重複使用。

系統(tǒng)提示

系統(tǒng)提示是開(kāi)發(fā)者提供給LLM的說(shuō)明。他們可以是：

• 靜態(tài)系統(tǒng)提示：在建立代理程式時(shí)定義，使用 Agent 建構(gòu)子的 system_prompt 參數(shù)。
• 動(dòng)態(tài)系統(tǒng)提示：由@agent.system_prompt修飾的函數(shù)定義。它們可以透過(guò) RunContext 物件存取運(yùn)行時(shí)信息，例如依賴(lài)項(xiàng)。

單一代理可以使用靜態(tài)和動(dòng)態(tài)系統(tǒng)提示，這些提示會(huì)依照?qǐng)?zhí)行時(shí)間定義的順序附加。

功能工具

功能工具使法學(xué)碩士能夠存取外部資訊或執(zhí)行系統(tǒng)提示本身不可用的操作。工具可以透過(guò)多種方式註冊(cè)：

• @agent.tool 裝飾器：適用於需要透過(guò) RunContext 存取代理程式上下文的工具。
• @agent.tool_plain 裝飾器：適用於不需要存取代理程式上下文的工具。
Agent 建構(gòu)函式中的
• tools 關(guān)鍵字參數(shù)：可以?huà)?cǎi)用 Tool 類(lèi)別的普通函式或?qū)嵗?，以便更好地控制工具定義。

工具參數(shù)是從函數(shù)簽章中提取的，用於建立工具的 JSON 模式。函數(shù)的文檔字串用於產(chǎn)生工具的描述以及模式中的參數(shù)描述。

依賴(lài)關(guān)係

相依性透過(guò)相依性注入系統(tǒng)向代理程式的系統(tǒng)提示、工具和結(jié)果驗(yàn)證器提供資料和服務(wù)。依賴(lài)項(xiàng)是透過(guò) RunContext 物件存取的。它們可以是任何 Python 類(lèi)型，但資料類(lèi)別是管理多個(gè)相依性的便捷方法。

結(jié)果

結(jié)果是代理運(yùn)行傳回的最終值。它們包裝在 RunResult（用於同步和非同步運(yùn)行）或 StreamedRunResult（用於串流運(yùn)行）中，提供對(duì)使用資料和訊息歷史記錄的存取。結(jié)果可以是純文字或結(jié)構(gòu)化數(shù)據(jù)，並使用 Pydantic 進(jìn)行驗(yàn)證。

透過(guò) @agent.result_validator 裝飾器新增的結(jié)果驗(yàn)證器提供了一種添加進(jìn)一步驗(yàn)證邏輯的方法，特別是當(dāng)驗(yàn)證需要 IO 並且是非同步時(shí)。

主要特點(diǎn)

PydanticAI 擁有多項(xiàng)關(guān)鍵功能，使其成為人工智慧應(yīng)用程式開(kāi)發(fā)的絕佳選擇：

• 模型不可知論：PydanticAI 支援各種 LLM，包括 OpenAI、Anthropic、Gemini、Ollama、Groq 和 Mistral。它還提供了一個(gè)簡(jiǎn)單的介面來(lái)實(shí)現(xiàn)對(duì)其他模型的支援。
• 類(lèi)型安全性：旨在與 mypy 和 Pyright 等靜態(tài)類(lèi)型檢查器無(wú)縫協(xié)作。它允許對(duì)依賴(lài)項(xiàng)和結(jié)果類(lèi)型進(jìn)行類(lèi)型檢查。
• 以 Python 為中心的設(shè)計(jì)：利用熟悉的 Python 控制流和代理組合來(lái)建立 AI 項(xiàng)目，從而輕鬆?wèi)?yīng)用標(biāo)準(zhǔn) Python 實(shí)踐。
• 結(jié)構(gòu)化反應(yīng)：使用 Pydantic 驗(yàn)證和建構(gòu)模型輸出，確保一致的反應(yīng)。
• 依賴(lài)注入系統(tǒng)：提供依賴(lài)注入系統(tǒng)，為代理的元件提供資料和服務(wù)，增強(qiáng)可測(cè)試性和迭代開(kāi)發(fā)。
• 串流回應(yīng)：支援串流 LLM 輸出並立即驗(yàn)證，從而獲得快速、準(zhǔn)確的結(jié)果。

與代理商合作

運(yùn)行代理

代理可以透過(guò)多種方式運(yùn)作：

• run_sync()：用於同步執(zhí)行。
• run()：用於非同步執(zhí)行。
• run_stream()：用於串流回應(yīng)。

對(duì)話(huà)

代理程式運(yùn)行可能代表整個(gè)對(duì)話(huà)，但對(duì)話(huà)也可以由多次運(yùn)行組成，特別是在維護(hù)互動(dòng)之間的狀態(tài)時(shí)。您可以使用 message_history 參數(shù)傳遞先前執(zhí)行的訊息以繼續(xù)對(duì)話(huà)。

使用限制

PydanticAI 提供了一個(gè) settings.UsageLimits 結(jié)構(gòu)來(lái)限制令牌和請(qǐng)求的數(shù)量。您可以透過(guò) use_limits 參數(shù)將這些設(shè)定套用到運(yùn)行函數(shù)。

模型設(shè)定

settings.ModelSettings 結(jié)構(gòu)可讓您透過(guò)溫度、max_tokens 和逾時(shí)等參數(shù)微調(diào)模型行為。您可以透過(guò)運(yùn)行函數(shù)中的 model_settings 參數(shù)來(lái)應(yīng)用這些。

功能工具詳解

工具註冊(cè)

可以使用@agent.tool裝飾器（對(duì)於需要上下文的工具）、@agent.tool_plain裝飾器（對(duì)於沒(méi)有上下文的工具）或透過(guò)Agent建構(gòu)函式中的tools參數(shù)來(lái)註冊(cè)工具。

工具架構(gòu)

參數(shù)描述從文件字串中提取並新增到工具的 JSON 架構(gòu)中。如果工具具有可以表示為 JSON 模式中的物件的單一參數(shù)，則該模式將簡(jiǎn)化為該物件。

動(dòng)態(tài)工具

可以使用準(zhǔn)備函數(shù)來(lái)自訂工具，該函數(shù)在每個(gè)步驟中呼叫以修改工具定義或從該步驟中省略工具。

訊息和聊天記錄

訪(fǎng)問(wèn)訊息

代理程式執(zhí)行期間??交換的訊息可以透過(guò) RunResult 和 StreamedRunResult 物件上的 all_messages() 和 new_messages() 方法存取。

訊息重複使用

訊息可以傳遞到 message_history 參數(shù)以在多個(gè)代理程式運(yùn)行之間繼續(xù)對(duì)話(huà)。當(dāng)message_history設(shè)定且不為空時(shí)，不會(huì)產(chǎn)生新的系統(tǒng)提示。

訊息格式

訊息格式與模型無(wú)關(guān)，允許訊息在不同的代理中使用，或與使用不同模型的相同代理一起使用。

調(diào)試與監(jiān)控

派丹提克原火

PydanticAI 與 Pydantic Logfire 集成，這是一個(gè)可觀察平臺(tái)，可讓您監(jiān)控和調(diào)試整個(gè)應(yīng)用程式。 Logfire 可用於：

• 即時(shí)偵錯(cuò)：即時(shí)查看應(yīng)用程式中發(fā)生的情況。
• 監(jiān)控應(yīng)用程式效能：使用 SQL 查詢(xún)和儀表板。

要將 PydanticAI 與 Logfire 一起使用，請(qǐng)使用 logfire 可選組進(jìn)行安裝：pip install 'pydantic-ai[logfire]'。然後，您需要設(shè)定 Logfire 專(zhuān)案並驗(yàn)證您的環(huán)境。

安裝和設(shè)定

安裝

PydanticAI 可以使用 pip 安裝：

也可以使用精簡(jiǎn)安裝來(lái)使用特定型號(hào)，例如：

日誌火集成

要將 PydanticAI 與 Logfire 一起使用，請(qǐng)使用 logfire 可選組安裝它：

範(fàn)例

範(fàn)例可作為單獨(dú)的包裝提供：

測(cè)試與評(píng)估

單元測(cè)試

單元測(cè)試驗(yàn)證您的應(yīng)用程式程式碼的行為是否符合預(yù)期。對(duì)於 PydanticAI，請(qǐng)遵循以下策略：

• 使用 pytest 作為您的測(cè)試工具。
• 使用 TestModel 或 FunctionModel 取代您的實(shí)際模型。
• 使用 Agent.override 取代應(yīng)用程式邏輯中的模型。
• 全域設(shè)定 ALLOW_MODEL_REQUESTS=False 以防止意外呼叫非測(cè)試模型。

埃瓦爾斯

評(píng)估用於衡量 LLM 的表現(xiàn)，更像是基準(zhǔn)測(cè)試而不是單元測(cè)試。評(píng)估的重點(diǎn)是衡量法學(xué)碩士在特定申請(qǐng)中的表現(xiàn)。這可以透過(guò)端到端測(cè)試、綜合獨(dú)立測(cè)試、使用 LLM 評(píng)估 LLM 或透過(guò)測(cè)量生產(chǎn)中的代理性能來(lái)完成。

範(fàn)例用例

PydanticAI 可用於多種用例：

• 輪盤(pán)賭輪：使用具有整數(shù)依賴(lài)項(xiàng)和布林結(jié)果的代理程式模擬輪盤(pán)賭輪。
• 聊天應(yīng)用程式：建立多次運(yùn)行的聊天應(yīng)用程序，使用 message_history 傳遞先前的消息。
• 銀行支援代理：使用工具、相依性注入和結(jié)構(gòu)化回應(yīng)為銀行建構(gòu)支援代理。
• 天氣預(yù)報(bào)：建立一個(gè)應(yīng)用程序，使用函數(shù)工具和依賴(lài)項(xiàng)根據(jù)位置和日期返回天氣預(yù)報(bào)。
• SQL 產(chǎn)生：根據(jù)使用者提示產(chǎn)生 SQL 查詢(xún)，並使用結(jié)果驗(yàn)證器進(jìn)行驗(yàn)證。

結(jié)論

PydanticAI 提供了一個(gè)強(qiáng)大而靈活的框架，用於開(kāi)發(fā)人工智慧應(yīng)用程序，重點(diǎn)強(qiáng)調(diào)類(lèi)型安全性和模組化。使用 Pydantic 進(jìn)行資料驗(yàn)證和結(jié)構(gòu)化，再加上其依賴(lài)注入系統(tǒng)，使其成為建構(gòu)可靠且可維護(hù)的人工智慧應(yīng)用程式的理想工具。憑藉其廣泛的 LLM 支援以及與 Pydantic Logfire 等工具的無(wú)縫集成，PydanticAI 使開(kāi)發(fā)人員能夠高效構(gòu)建強(qiáng)大的、可用於生產(chǎn)的 AI 驅(qū)動(dòng)專(zhuān)案。

以上是PydanticAI：建立生產(chǎn)就緒型人工智慧應(yīng)用程式的綜合指南的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！