国产97在线 | 中文,国产aⅴ夜夜欢一区二区三区

Qwen剛剛發(fā)布了8種新車型，作為其最新家族Qwen3的一部分，展示了有希望的功能。旗艦型號(hào)QWEN3-235B-A22B優(yōu)于其他大多數(shù)型號(hào)，包括DeepSeek-R1，OpenAi的O1，O3-Mini，Grok 3和Gemini 2.5-Pro，在標(biāo)準(zhǔn)基準(zhǔn)測(cè)試中。同時(shí)，小QWEN3-30B-A3B的表現(xiàn)優(yōu)于QWQ-32B，其作為新模型的活性參數(shù)約為10倍。具有如此高級(jí)的功能，這些模型被證明是廣泛應(yīng)用程序的絕佳選擇。在本文中，我們將探討所有QWEN3模型的功能，并學(xué)習(xí)如何使用它們來(lái)構(gòu)建抹布系統(tǒng)和AI代理。

什么是qwen3？

Qwen3是QWEN家族中最新系列的大型語(yǔ)言模型（LLM），由8種不同的模型組成。其中包括QWEN3-235B-A22B，QWEN3-30B-A3B，QWEN3-32B，QWEN3-14B，QWEN3-8B，QWEN3-4B，QWEN3-1.7B和QWEN3-0.6B。所有這些模型均在Apache 2.0許可下發(fā)布，使其可向個(gè)人，開(kāi)發(fā)人員和企業(yè)免費(fèi)使用。

盡管其中6個(gè)模型是密集的，但這意味著它們?cè)谕评砗团嘤?xùn)期間積極使用所有參數(shù)，但其中2個(gè)是開(kāi)放加權(quán)的：

QWEN3-235B-A22B：具有2350億參數(shù)的大型模型，其中220億個(gè)是激活參數(shù)。
QWEN3-30B-A3B：一個(gè)較小的MUE，總參數(shù)為30億和30億個(gè)激活參數(shù)。

這是所有8種QWEN3模型的詳細(xì)比較：

型號(hào)	層	頭（Q/KV）	領(lǐng)帶嵌入	上下文長(zhǎng)度
QWEN3-0.6B	28	16/8	是的	32K
qwen3-1.7b	28	16/8	是的	32K
qwen3-4b	36	32/8	是的	32K
qwen3-8b	36	32/8	不	128K
Qwen3-14b	40	40/8	不	128K
QWEN3-32B	64	64/8	不	128K
QWEN3-30B-A3B	48	32/4	不	128K
QWEN3-235B-A22B	94	64/4	不	128K

這是桌子所說(shuō)的：

層：圖層表示所使用的變壓器塊的數(shù)量。它包括多頭自我發(fā)揮機(jī)制，飼料向前網(wǎng)絡(luò)，位置編碼，層歸一化和剩余連接。因此，當(dāng)我說(shuō)QWEN3-30B-A3B具有48層時(shí)，這意味著該模型使用48個(gè)變壓器塊，依次或并行堆疊。
頭：變形金剛使用多頭注意力，將其注意力機(jī)制分為幾個(gè)頭部，每個(gè)人都從數(shù)據(jù)中學(xué)習(xí)新方面。在這里，Q/KV代表：
- Q（查詢頭）：用于生成查詢的注意力頭的總數(shù)。
- KV（密鑰和值）：每個(gè)注意塊的密鑰/值頭的數(shù)量。

注意：這些關(guān)注，查詢和價(jià)值的注意力與自我發(fā)揮產(chǎn)生的密鑰，查詢和值向量完全不同。

另請(qǐng)閱讀：QWEN3模型：如何訪問(wèn)，性能，功能和應(yīng)用程序

qwen3的主要特征

以下是QWEN3模型的一些關(guān)鍵功能：

預(yù)訓(xùn)練：訓(xùn)練過(guò)程包括三個(gè)階段：
- 在第一階段，該模型在30萬(wàn)億個(gè)令牌上進(jìn)行了預(yù)測(cè)，上下文長(zhǎng)度為4K令牌。這教授了模型的基本語(yǔ)言技能和常識(shí)。
- 在第二階段，通過(guò)增加諸如STEM，編碼和推理任務(wù)等知識(shí)密集數(shù)據(jù)的比例來(lái)提高數(shù)據(jù)質(zhì)量。然后對(duì)模型進(jìn)行了另外5萬(wàn)億代幣的訓(xùn)練。
- 在最后階段，通過(guò)將上下文長(zhǎng)度增加到32K令牌來(lái)使用高質(zhì)量的長(zhǎng)上下文數(shù)據(jù)。這樣做是為了確保模型可以有效處理更長(zhǎng)的輸入。

訓(xùn)練后：為了開(kāi)發(fā)能夠逐步推理和快速響應(yīng)的混合模型，實(shí)施了四階段的訓(xùn)練管道。這包括：
- 長(zhǎng)鏈（COT）
- 基于推理的強(qiáng)化學(xué)習(xí)（RL）
- 思維模式融合
- 一般RL

混合思維模式： QWEN3模型采用混合方法來(lái)解決問(wèn)題，具有兩種新模式：
- 思考模式：在這種模式下，模型會(huì)花費(fèi)時(shí)間將復(fù)雜的問(wèn)題語(yǔ)句分解為小的程序步驟來(lái)解決它。
- 非思想模式：在此模式下，模型提供了快速的結(jié)果，并且主要適合簡(jiǎn)單的問(wèn)題。

多語(yǔ)言支持： QWEN3模型支持119種語(yǔ)言和方言。這可以幫助來(lái)自世界各地的用戶從這些模型中受益。
即興代理能力： QWEN優(yōu)化了QWEN3模型，以提高編碼和代理功能，并支持模型上下文協(xié)議（MCP）。

如何通過(guò)API訪問(wèn)QWEN3型號(hào)

要使用QWEN3型號(hào)，我們將使用OpenRouter API通過(guò)API訪問(wèn)它。這是這樣做的方法：

在OpenRouter上創(chuàng)建一個(gè)帳戶，然后轉(zhuǎn)到模型搜索欄以找到該模型的API。

如何使用qwen3構(gòu)建抹布系統(tǒng)和AI代理

選擇您選擇的模型，然后在著陸頁(yè)面上單擊“創(chuàng)建API密鑰”以生成新的API。

如何使用qwen3構(gòu)建抹布系統(tǒng)和AI代理

使用qwen3為您的AI解決方案供電

在本節(jié)中，我們將使用QWEN3構(gòu)建AI應(yīng)用程序的過(guò)程。我們將首先使用模型創(chuàng)建AI驅(qū)動(dòng)的旅行計(jì)劃者代理，然后使用Langchain創(chuàng)建Q/A rag機(jī)器人。

先決條件

在使用QWEN3構(gòu)建一些現(xiàn)實(shí)世界AI解決方案之前，我們需要首先介紹基本先決條件，例如：

熟悉命令提示或終端以及通過(guò)終端運(yùn)行它們的能力。
能夠設(shè)置環(huán)境變量。
python必須安裝：https：//www.python.org/downloads/
關(guān)于Langchain的基礎(chǔ)知識(shí)：https：//www.langchain.com/

使用qwen3構(gòu)建AI代理

在本節(jié)中，我們將使用QWEN3創(chuàng)建一個(gè)AI驅(qū)動(dòng)的旅行社，該旅行社將為您所訪問(wèn)的城市或地方提供主要的旅行地點(diǎn)。我們還將使代理商能夠搜索Internet以查找更新的信息，并添加一個(gè)啟用貨幣轉(zhuǎn)換的工具。

步驟1：設(shè)置庫(kù)和工具

首先，我們將安裝和導(dǎo)入構(gòu)建代理所需的必要庫(kù)和工具。

 ！
來(lái)自langchain.chat_models導(dǎo)入chatopenai
來(lái)自langchain。代理導(dǎo)入工具
來(lái)自langchain.tools進(jìn)口Duckduckgosearchrun
來(lái)自langchain.satent


llm = chatopenai（
   base_url =“ https://openrouter.ai/api/v1”，
   api_key =“ your_api_key”，
   型號(hào)=“ qwen/qwen3-235b-a22b：免費(fèi)”
）
＃網(wǎng)絡(luò)搜索工具
搜索= DuckDuckgoSearchRun（）


＃目標(biāo)工具
def get_destination（目的地）：
   返回search.run（f“ {destination}}中的前3個(gè)旅游景點(diǎn)”）


destinationTool =工具（
   名稱=“目標(biāo)推薦”，
   func = get_destinations，
   描述=“在城市找到最高的地方”
）


＃貨幣工具
def convert_usd_to_inr（查詢）：
   量= [float（s）for query.split（）if s.replace（'。'，'，'，1）.isdigit（）]
   如果金額：
       返回f“ {量[0]} usd = {量[0] * 83.2：.2f} inr”
   返回“無(wú)法解釋金額”。


貨幣工具=工具（
   名稱=“貨幣轉(zhuǎn)換器”，
   func = convert_usd_to_inr，
   描述=“根據(jù)靜態(tài)率將USD轉(zhuǎn)換為INR”
）

search_tool： duckduckgosearchrun（）使代理商可以使用Web搜索獲取有關(guān)流行旅游景點(diǎn)的實(shí)時(shí)信息。
DestinationTool：應(yīng)用GET_DESTINATIONS（）函數(shù)，該功能使用搜索工具在任何給定的城市中獲取前三名旅游景點(diǎn)。
貨幣工具：使用convert_usd_to_inr（）函數(shù)將價(jià)格從美元轉(zhuǎn)換為INR。您可以在功能中更改“ INR”，以將其轉(zhuǎn)換為您選擇的貨幣。

另請(qǐng)閱讀：與Huggingface，Langchain和Mistralai建立旅行助理聊天機(jī)器人

步驟2：創(chuàng)建代理

現(xiàn)在，我們已經(jīng)初始化了所有工具，讓我們繼續(xù)創(chuàng)建一個(gè)可以使用工具并為旅行計(jì)劃的代理。

工具= [destinationTool，貨幣托工具]


代理= initialize_agent（
   工具=工具，
   llm = llm，
   agent_type =“零射擊反應(yīng)描述”，
   冗長(zhǎng)= true
）
def trip_planner（城市，usd_budget）：
   dest = get_destinations（城市）
   inr_budget = convert_usd_to_inr（f“ {usd_budget} usd usd to inr”）
   返回f“”這是您的旅行計(jì)劃：


*{city}*中的頂部斑點(diǎn)：
{dest}
*預(yù)算*：
{inr_budget}
享受您的一日游！”“”

initialize_agent：此函數(shù)使用零拍反應(yīng)方法創(chuàng)建用蘭鏈的代理，從而使代理可以理解工具描述。
Agent_Type： “零射擊反應(yīng)描述”使Agent LLM使用工具說(shuō)明和輸入來(lái)確定在沒(méi)有事先知識(shí)的情況下應(yīng)在某些情況下使用哪種工具。
冗長(zhǎng)：冗長(zhǎng)可以啟用代理商思維過(guò)程的記錄，因此我們可以監(jiān)視代理做出的每個(gè)決定，包括所調(diào)用的所有交互和工具。
Trip_planner：這是一個(gè)Python函數(shù)，它可以手動(dòng)調(diào)用工具而不是依靠代理。它允許用戶為特定問(wèn)題選擇最佳工具。

步驟3：初始化代理

在本節(jié)中，我們將初始化代理并觀察其響應(yīng)。

 ＃初始化代理
城市=“德里”
USD_BUDGET = 8500


＃運(yùn)行多代理計(jì)劃者
響應(yīng)= agent.run（f“計(jì)劃一日游{city}，預(yù)算為{usd_budget} usd”）
從ipython.display導(dǎo)入降價(jià)，顯示
顯示（Markdown（響應(yīng)））

代理的調(diào)用： Agent.run（）通過(guò)提示使用用戶的意圖并計(jì)劃旅行。

輸出

如何使用qwen3構(gòu)建抹布系統(tǒng)和AI代理

使用qwen3構(gòu)建抹布系統(tǒng)

在本節(jié)中，我們將創(chuàng)建一個(gè)RAG機(jī)器人，該機(jī)器人可以從知識(shí)庫(kù)中回答相關(guān)輸入文檔中的任何查詢。這提供了使用QWEN/QWEN3-235B-A22B的信息響應(yīng)。該系統(tǒng)還將使用Langchain來(lái)產(chǎn)生準(zhǔn)確和上下文感知的響應(yīng)。

步驟1：設(shè)置庫(kù)和工具

首先，我們將安裝和導(dǎo)入構(gòu)建抹布系統(tǒng)所需的必要庫(kù)和工具。

 ！
來(lái)自langchain_community.document_loaders import textloader
來(lái)自langchain.text_splitter導(dǎo)入tarnextsplitter
來(lái)自langchain_community.vectorstores導(dǎo)入色度
來(lái)自langchain.embeddings進(jìn)口
從Langchain。鏈接進(jìn)口檢索
來(lái)自langchain.chat_models導(dǎo)入chatopenai
＃加載您的文檔
loader = textloader（“/content/my_docs.txt”）
docs = loader.load（）

加載文檔： Langchain的“ Textloader”類將文檔加載文檔，例如PDF，TXT或DOC文件，該文件將用于Q/A檢索。在這里，我已經(jīng)上傳了my_docs.txt。
選擇矢量設(shè)置：我已經(jīng)使用Chromadb來(lái)存儲(chǔ)和搜索矢量數(shù)據(jù)庫(kù)中的嵌入式Q/A過(guò)程。

步驟2：創(chuàng)建嵌入

現(xiàn)在，我們已經(jīng)加載了文檔，讓我們繼續(xù)從中創(chuàng)建嵌入式，這將有助于放松檢索過(guò)程。

 ＃分成大塊
splitter = prinateTextSplitter（chunk_size = 300，chunk_overlap = 50）
塊= splitter.split_documents（文檔）


＃帶有擁抱面模型
embeddings = huggingFaceEmbedDings（model_name =“ all-minilm-l6-v2”）
db = chroma.from_documents（塊，嵌入=嵌入）


＃設(shè)置Qwen llm來(lái)自O(shè)penRouter
llm = chatopenai（
   base_url =“ https://openrouter.ai/api/v1”，
   api_key =“ your_api_key”，
   型號(hào)=“ qwen/qwen3-235b-a22b：免費(fèi)”
）


＃創(chuàng)建抹布鏈
refierver = db.as_retriever（search_kwargs = {“ k”：2}）
rag_chain = reterievalqa.from_chain_type（llm = llm，retriever = retriever）

文檔分配： targintextsplitter（）將文本分成較小的塊，這將主要在兩件事中有所幫助。首先，它可以簡(jiǎn)化檢索過(guò)程，其次，它有助于通過(guò)chunk_overlap從以前的塊中保留上下文。
嵌入文檔：嵌入文本將文本轉(zhuǎn)換為每個(gè)令牌設(shè)定維的嵌入向量。在這里，我們使用的是300的chunk_size，這意味著每個(gè)單詞/令牌都將轉(zhuǎn)換為300維的向量。現(xiàn)在，此向量嵌入將對(duì)塊中的其他單詞具有該詞的所有上下文信息。
抹布鏈：抹布鏈將Chromadb與LLM結(jié)合在一起，形成抹布。這使我們能夠從文檔以及模型中獲得上下文意識(shí)的答案。

步驟3：初始化抹布系統(tǒng)

＃問(wèn)一個(gè)問(wèn)題
響應(yīng)= rag_chain.invoke（{“ query”：“我該如何與MCP一起使用QWEN。請(qǐng)給我一個(gè)逐步指南以及必要的代碼shippets'}）
顯示（Markdown（響應(yīng)['result']））

查詢執(zhí)行： RAG_CHAIN_INVOKE（）方法將將用戶的查詢發(fā)送到抹布系統(tǒng)，然后從文檔存儲(chǔ)（Vector DB）檢索相關(guān)的上下文感知塊，并生成上下文感知的答案。

輸出

如何使用qwen3構(gòu)建抹布系統(tǒng)和AI代理

您可以在此處找到完整的代碼。

Qwen3的應(yīng)用

以下是Qwen3在各行業(yè)中的更多應(yīng)用：

自動(dòng)編碼： QWEN3可以生成，調(diào)試并提供代碼文檔，這可以幫助開(kāi)發(fā)人員無(wú)需手動(dòng)努力解決錯(cuò)誤。其22B參數(shù)模型在編碼方面表現(xiàn)出色，具有與DeepSeek-R1，Gemini 2.5 Pro和OpenAI的O3-Mini等模型相當(dāng)?shù)男阅堋?/li>
教育與研究： QWEN3存檔數(shù)學(xué)，物理學(xué)和邏輯推理問(wèn)題的準(zhǔn)確性很高。它也可以媲美雙子座2.5 pro，而擅長(zhǎng)于Openai的O1，O3-Mini，DeepSeek-R1和Grok 3 Beta。
基于代理的工具集成： QWEN3還允許使用其工具稱呼模板將外部工具，API和MCP用于多步和多代理工作流程，從而在AI代理任務(wù)中領(lǐng)導(dǎo)。
高級(jí)推理任務(wù)： QWEN3使用廣泛的思維能力來(lái)提供最佳和準(zhǔn)確的響應(yīng)。該模型使用經(jīng)過(guò)想法的鏈條來(lái)進(jìn)行復(fù)雜的任務(wù)和非思想模式以進(jìn)行優(yōu)化的速度。

結(jié)論

在本文中，我們學(xué)會(huì)了如何構(gòu)建QWEN3驅(qū)動(dòng)的代理AI和抹布系統(tǒng)。 Qwen3的高性能，多語(yǔ)言支持和高級(jí)推理能力使其成為知識(shí)檢索和基于代理的任務(wù)的強(qiáng)大選擇。通過(guò)將QWEN3集成到抹布和代理管道中，我們可以得到準(zhǔn)確，上下文感知和平穩(wěn)的響應(yīng)，從而使其成為AI驅(qū)動(dòng)系統(tǒng)現(xiàn)實(shí)世界應(yīng)用程序的有力競(jìng)爭(zhēng)者。