www.av天堂.com,yyy6080韩国三级理论久久,国产av无码专区亚洲av人妖

首頁

科技周邊

人工智能

LATS：LlamainDex的AI代理商用于推薦系統(tǒng)

Joseph Gordon-Levitt

Mar 08, 2025 am 10:23 AM

用語言代??理樹搜索（LATS）

解鎖系統(tǒng)AI推理的功能

想象一個AI助手不僅回答了您的問題，而且還可以系統(tǒng)地解決問題，從其經(jīng)驗中學(xué)習(xí)，并在戰(zhàn)略上計劃多個步驟。語言代理樹搜索（LATS）是一個尖端的AI框架，將React提示的有條理推理與蒙特卡洛樹搜索（MCTS）的戰(zhàn)略規(guī)劃能力（MCT）。 LATS構(gòu)建了一個全面的決策樹，同時探索多個解決方案，并通過持續(xù)學(xué)習(xí)來完善其決策過程。專注于垂直AI代理，本文探討了使用LlamainDex和Sambanova.ai的LATS代理的實際實施。

密鑰學(xué)習(xí)目標：

掌握反應(yīng)（推理作用）提示框架及其思想行動觀察周期。

了解效果帶來了反應(yīng)框架的進步。

（本文是數(shù)據(jù)科學(xué)博客馬拉松的一部分。）目錄的
表：

反應(yīng)劑解釋了

了解語言代理樹搜索代理

> lats and react：一種協(xié)同方法

費用注意事項：何時雇用LATS

>使用LlamainDex和LATS
結(jié)論
常見問題
>反應(yīng)劑解釋了

React（推理作用）是一個提示的框架，使語言模型可以通過周期性的思想，行動和觀察過程來解決任務(wù)。想象一個大聲思考，采取行動并從反饋中學(xué)習(xí)的助手。周期為：

思考：

分析當前情況。 LATS: AI Agent with LlamaIndex for Recommendation Systems

>動作：

>根據(jù)分析選擇一個行動方案。

>觀察：>從環(huán)境中收集反饋。 >
使用反饋來告知后續(xù)思想。>
（以前涵蓋：使用Llamaindex和Gemini實施React代理）
了解語言代理樹搜索代理
> 語言代理樹搜索（LATS）是一個高級框架，將MCT與語言模型功能合并為復(fù)雜的決策和計劃。

LATS通過輸入查詢啟動的連續(xù)探索，評估和學(xué)習(xí)來運作。它保持了一個長期記憶，包括過去的探索和反思的搜索樹，指導(dǎo)未來的決策。 LATS系統(tǒng)地選擇有希望的路徑，在每個決策點進行示例潛在的動作，使用價值函數(shù)評估其優(yōu)點，并將它們模擬到終端狀態(tài)以衡量效率。代碼演示將說明樹的擴展和分數(shù)評估。

> lats and react：一種協(xié)同方法
>
LATS將React的思想行動觀察周期集成到其樹搜索中：>

每個節(jié)點都使用React的思想生成，動作選擇和觀察收集。通過同時探索多個反應(yīng)序列并利用過去的經(jīng)驗來指導(dǎo)探索， LATS可以增強此功能。

但是，這種方法在計算上是密集型的。讓我們檢查一下LATS何時最有益。
>
- >
- 雖然LATS在基準中的表現(xiàn)優(yōu)于COT，REACT和其他方法，但其計算成本卻很大。復(fù)雜的任務(wù)產(chǎn)生了許多節(jié)點，導(dǎo)致多個LLM調(diào)用，不適合生產(chǎn)環(huán)境。由于每個API調(diào)用的延遲，實時應(yīng)用程序尤其具有挑戰(zhàn)性。組織必須仔細權(quán)衡LATS的卓越?jīng)Q策與基礎(chǔ)設(shè)施成本，尤其是在擴展時。
>使用LATS時：

任務(wù)很復(fù)雜，具有多個解決方案（例如，編程）。 >錯誤是昂貴的，準確性至關(guān)重要（例如，財務(wù)，醫(yī)學(xué)診斷）。
從過去的嘗試中學(xué)習(xí)是有利的（例如，復(fù)雜的產(chǎn)品搜索）。
>

> > >
任務(wù)很簡單，需要快速響應(yīng)（例如，基本客戶服務(wù)）。
- 資源是有限的（例如，移動應(yīng)用程序）。
- 涉及重復(fù)任務(wù)（例如，內(nèi)容審核）。
- >使用LlamainDex和LATS
構(gòu)建推薦系統(tǒng) >讓我們使用LATS和LlamainDex構(gòu)建推薦系統(tǒng)。 >
步驟1：環(huán)境設(shè)置
- 安裝必要的軟件包：
```
!pip install llama-index-agent-lats llama-index-core llama-index-readers-file duckduckgo-search llama-index-llms-sambanovasystems
import nest_asyncio; nest_asyncio.apply()
```
  >步驟2：配置和API設(shè)置
  
  設(shè)置您的Sambanova LLM API密鑰（替換<your-api-key></your-api-key>）：
  >
```
import os
os.environ["SAMBANOVA_API_KEY"] = "<your-api-key>"

from llama_index.core import Settings
from llama_index.llms.sambanovasystems import SambaNovaCloud

llm = SambaNovaCloud(model="Meta-Llama-3.1-70B-Instruct", context_window=100000, max_tokens=1024, temperature=0.7, top_k=1, top_p=0.01)
Settings.llm = llm</your-api-key>
```
  步驟3：定義工具搜索（DuckDuckgo）>
```
from duckduckgo_search import DDGS
from llama_index.core.tools import FunctionTool

def search(query:str) -> str:
    """Searches DuckDuckGo for the given query."""
    req = DDGS()
    response = req.text(query,max_results=4)
    context = ""
    for result in response:
      context += result['body']
    return context

search_tool = FunctionTool.from_defaults(fn=search)
```
  >
  步驟4：llamaindex代理跑步者 - lats>
```
from llama_index.agent.lats import LATSAgentWorker
from llama_index.core.agent import AgentRunner

agent_worker = LATSAgentWorker(tools=[search_tool], llm=llm, num_expansions=2, verbose=True, max_rollouts=3)
agent = AgentRunner(agent_worker)
```
  >
  步驟5：Execute Agent
```
query = "Looking for a mirrorless camera under 00 with good low-light performance"
response = agent.chat(query)
print(response.response)
```
  >
  步驟6：錯誤處理（示例使用） - 本節(jié)提供了一種處理代理返回“我仍在思考”的情況的方法。該代碼在原始輸入中提供。agent.list_tasks()
  
  結(jié)論 LATS顯著提高AI代理體系結(jié)構(gòu)。雖然強大，但必須仔細考慮其計算需求。
  
  >常見問題
  
  FAQS部分在原始輸入中提供。 （注意：關(guān)于媒體所有權(quán)的說法保持不變。）