PydanticAI 是一個強大的 Python 框架，旨在簡化使用生成式 AI 的生產(chǎn)級應(yīng)用程式的開發(fā)。它由廣泛使用的數(shù)據(jù)驗證庫 Pydantic 背後的同一團隊構(gòu)建，旨在將 FastAPI 的創(chuàng)新和人體工學(xué)設(shè)計帶入人工智慧應(yīng)用程式開發(fā)領(lǐng)域。 PydanticAI 專注於類型安全、模組化以及與其他 Python 工具的無縫整合。

核心概念

PydanticAI 圍繞著幾個關(guān)鍵概念：

代理商

代理程式是與大型語言模型 (LLM) 互動的主要介面。代理充當(dāng)各種組件的容器，包括：

• 系統(tǒng)提示：LLM說明，定義為靜態(tài)字串或動態(tài)函數(shù)。
• 函數(shù)工具：LLM 可以呼叫以取得其他資訊或執(zhí)行操作的函數(shù)。
• 結(jié)構(gòu)化結(jié)果類型：LLM 在運行結(jié)束時必須傳回的資料類型。
• 相依類型：系統(tǒng)提示函數(shù)、工具和結(jié)果驗證器可能使用的資料或服務(wù)。
• LLM 模型：代理程式將使用的 LLM，可以在代理建立時或執(zhí)行時設(shè)定。

代理專為可重複使用性而設(shè)計，通常實例化一次並在整個應(yīng)用程式中重複使用。

系統(tǒng)提示

系統(tǒng)提示是開發(fā)者提供給LLM的說明。他們可以是：

• 靜態(tài)系統(tǒng)提示：在建立代理程式時定義，使用 Agent 建構(gòu)子的 system_prompt 參數(shù)。
• 動態(tài)系統(tǒng)提示：由@agent.system_prompt修飾的函數(shù)定義。它們可以透過 RunContext 物件存取運行時信息，例如依賴項。

單一代理可以使用靜態(tài)和動態(tài)系統(tǒng)提示，這些提示會依照執(zhí)行時間定義的順序附加。

功能工具

功能工具使法學(xué)碩士能夠存取外部資訊或執(zhí)行系統(tǒng)提示本身不可用的操作。工具可以透過多種方式註冊：

• @agent.tool 裝飾器：適用於需要透過 RunContext 存取代理程式上下文的工具。
• @agent.tool_plain 裝飾器：適用於不需要存取代理程式上下文的工具。
Agent 建構(gòu)函式中的
• tools 關(guān)鍵字參數(shù)：可以採用 Tool 類別的普通函式或?qū)嵗?，以便更好地控制工具定義。

工具參數(shù)是從函數(shù)簽章中提取的，用於建立工具的 JSON 模式。函數(shù)的文檔字串用於產(chǎn)生工具的描述以及模式中的參數(shù)描述。

依賴關(guān)係

相依性透過相依性注入系統(tǒng)向代理程式的系統(tǒng)提示、工具和結(jié)果驗證器提供資料和服務(wù)。依賴項是透過 RunContext 物件存取的。它們可以是任何 Python 類型，但資料類別是管理多個相依性的便捷方法。

結(jié)果

結(jié)果是代理運行傳回的最終值。它們包裝在 RunResult（用於同步和非同步運行）或 StreamedRunResult（用於串流運行）中，提供對使用資料和訊息歷史記錄的存取。結(jié)果可以是純文字或結(jié)構(gòu)化數(shù)據(jù)，並使用 Pydantic 進行驗證。

透過 @agent.result_validator 裝飾器新增的結(jié)果驗證器提供了一種添加進一步驗證邏輯的方法，特別是當(dāng)驗證需要 IO 並且是非同步時。

主要特點

PydanticAI 擁有多項關(guān)鍵功能，使其成為人工智慧應(yīng)用程式開發(fā)的絕佳選擇：

• 模型不可知論：PydanticAI 支援各種 LLM，包括 OpenAI、Anthropic、Gemini、Ollama、Groq 和 Mistral。它還提供了一個簡單的介面來實現(xiàn)對其他模型的支援。
• 類型安全性：旨在與 mypy 和 Pyright 等靜態(tài)類型檢查器無縫協(xié)作。它允許對依賴項和結(jié)果類型進行類型檢查。
• 以 Python 為中心的設(shè)計：利用熟悉的 Python 控制流和代理組合來建立 AI 項目，從而輕鬆?wèi)?yīng)用標(biāo)準(zhǔn) Python 實踐。
• 結(jié)構(gòu)化反應(yīng)：使用 Pydantic 驗證和建構(gòu)模型輸出，確保一致的反應(yīng)。
• 依賴注入系統(tǒng)：提供依賴注入系統(tǒng)，為代理的元件提供資料和服務(wù)，增強可測試性和迭代開發(fā)。
• 串流回應(yīng)：支援串流 LLM 輸出並立即驗證，從而獲得快速、準(zhǔn)確的結(jié)果。

與代理商合作

運行代理

代理可以透過多種方式運作：

• run_sync()：用於同步執(zhí)行。
• run()：用於非同步執(zhí)行。
• run_stream()：用於串流回應(yīng)。

對話

代理程式運行可能代表整個對話，但對話也可以由多次運行組成，特別是在維護互動之間的狀態(tài)時。您可以使用 message_history 參數(shù)傳遞先前執(zhí)行的訊息以繼續(xù)對話。

使用限制

PydanticAI 提供了一個 settings.UsageLimits 結(jié)構(gòu)來限制令牌和請求的數(shù)量。您可以透過 use_limits 參數(shù)將這些設(shè)定套用到運行函數(shù)。

模型設(shè)定

settings.ModelSettings 結(jié)構(gòu)可讓您透過溫度、max_tokens 和逾時等參數(shù)微調(diào)模型行為。您可以透過運行函數(shù)中的 model_settings 參數(shù)來應(yīng)用這些。

功能工具詳解

工具註冊

可以使用@agent.tool裝飾器（對於需要上下文的工具）、@agent.tool_plain裝飾器（對於沒有上下文的工具）或透過Agent建構(gòu)函式中的tools參數(shù)來註冊工具。

工具架構(gòu)

參數(shù)描述從文件字串中提取並新增到工具的 JSON 架構(gòu)中。如果工具具有可以表示為 JSON 模式中的物件的單一參數(shù)，則該模式將簡化為該物件。

動態(tài)工具

可以使用準(zhǔn)備函數(shù)來自訂工具，該函數(shù)在每個步驟中呼叫以修改工具定義或從該步驟中省略工具。

訊息和聊天記錄

訪問訊息

代理程式執(zhí)行期間??交換的訊息可以透過 RunResult 和 StreamedRunResult 物件上的 all_messages() 和 new_messages() 方法存取。

訊息重複使用

訊息可以傳遞到 message_history 參數(shù)以在多個代理程式運行之間繼續(xù)對話。當(dāng)message_history設(shè)定且不為空時，不會產(chǎn)生新的系統(tǒng)提示。

訊息格式

訊息格式與模型無關(guān)，允許訊息在不同的代理中使用，或與使用不同模型的相同代理一起使用。

調(diào)試與監(jiān)控

派丹提克原火

PydanticAI 與 Pydantic Logfire 集成，這是一個可觀察平臺，可讓您監(jiān)控和調(diào)試整個應(yīng)用程式。 Logfire 可用於：

• 即時偵錯：即時查看應(yīng)用程式中發(fā)生的情況。
• 監(jiān)控應(yīng)用程式效能：使用 SQL 查詢和儀表板。

要將 PydanticAI 與 Logfire 一起使用，請使用 logfire 可選組進行安裝：pip install 'pydantic-ai[logfire]'。然後，您需要設(shè)定 Logfire 專案並驗證您的環(huán)境。

安裝和設(shè)定

安裝

PydanticAI 可以使用 pip 安裝：

也可以使用精簡安裝來使用特定型號，例如：

日誌火集成

要將 PydanticAI 與 Logfire 一起使用，請使用 logfire 可選組安裝它：

範(fàn)例

範(fàn)例可作為單獨的包裝提供：

測試與評估

單元測試

單元測試驗證您的應(yīng)用程式程式碼的行為是否符合預(yù)期。對於 PydanticAI，請遵循以下策略：

• 使用 pytest 作為您的測試工具。
• 使用 TestModel 或 FunctionModel 取代您的實際模型。
• 使用 Agent.override 取代應(yīng)用程式邏輯中的模型。
• 全域設(shè)定 ALLOW_MODEL_REQUESTS=False 以防止意外呼叫非測試模型。

埃瓦爾斯

評估用於衡量 LLM 的表現(xiàn)，更像是基準(zhǔn)測試而不是單元測試。評估的重點是衡量法學(xué)碩士在特定申請中的表現(xiàn)。這可以透過端到端測試、綜合獨立測試、使用 LLM 評估 LLM 或透過測量生產(chǎn)中的代理性能來完成。

範(fàn)例用例

PydanticAI 可用於多種用例：

• 輪盤賭輪：使用具有整數(shù)依賴項和布林結(jié)果的代理程式模擬輪盤賭輪。
• 聊天應(yīng)用程式：建立多次運行的聊天應(yīng)用程序，使用 message_history 傳遞先前的消息。
• 銀行支援代理：使用工具、相依性注入和結(jié)構(gòu)化回應(yīng)為銀行建構(gòu)支援代理。
• 天氣預(yù)報：建立一個應(yīng)用程序，使用函數(shù)工具和依賴項根據(jù)位置和日期返回天氣預(yù)報。
• SQL 產(chǎn)生：根據(jù)使用者提示產(chǎn)生 SQL 查詢，並使用結(jié)果驗證器進行驗證。

結(jié)論

PydanticAI 提供了一個強大而靈活的框架，用於開發(fā)人工智慧應(yīng)用程序，重點強調(diào)類型安全性和模組化。使用 Pydantic 進行資料驗證和結(jié)構(gòu)化，再加上其依賴注入系統(tǒng)，使其成為建構(gòu)可靠且可維護的人工智慧應(yīng)用程式的理想工具。憑藉其廣泛的 LLM 支援以及與 Pydantic Logfire 等工具的無縫集成，PydanticAI 使開發(fā)人員能夠高效構(gòu)建強大的、可用於生產(chǎn)的 AI 驅(qū)動專案。

以上是PydanticAI：建立生產(chǎn)就緒型人工智慧應(yīng)用程式的綜合指南的詳細內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！