反射駱駝3.1：2024年9月6日發(fā)布的自我校正LLM

Reflection Llama 3.1，Llama 3.1 70b指示模型的精緻版本，於2024年9月6日首次亮相。其創(chuàng)新的“反射調(diào)節(jié)”允許進(jìn)行自我檢測(cè)和校正，旨在提高準(zhǔn)確性。本文探討了該模型，其功能以及如何訪問(wèn)和測(cè)試。

>

反射駱駝3.1：開(kāi)發(fā)和時(shí)間表

該模型的啟動(dòng)引起了巨大的嗡嗡聲，最初具有優(yōu)於GPT-4O和Claude 3.5十四行詩(shī)（例如基準(zhǔn)測(cè)試）等封閉源模型的優(yōu)越性能。 但是，隨後通過(guò)人工分析進(jìn)行測(cè)試發(fā)現(xiàn)不一致。 初始上傳到擁抱的臉部包含加權(quán)誤差。 部署在OpenRouter上的校正版本，發(fā)現(xiàn)了Claude Sonnet 3.5的意外自我認(rèn)同，從而提出了有關(guān)其真正基礎(chǔ)的問(wèn)題。 雖然私有API測(cè)試顯示出改善的性能，但獨(dú)立驗(yàn)證仍然是不可能的。最新的擁抱面對(duì)迭代，雖然可以通過(guò)此鏈接訪問(wèn)[根據(jù)原始文本省略鏈接]，但表現(xiàn)不如私有API版本。 可重複性問(wèn)題持續(xù)存在，使模型的實(shí)際功能不確定。

理解反射駱駝3.1

>

反射駱駝3.1利用Llama 3.1 70B指導(dǎo)模型，並結(jié)合了反射調(diào)整。此過(guò)程涉及：

>

思考標(biāo)籤（
• ）：該模型詳細(xì)詳細(xì)介紹了其推理過(guò)程。 <thinking></thinking>
反射標(biāo)籤（
• ）：>該模型在其推理中識(shí)別並糾正錯(cuò)誤。 <reflection></reflection>
輸出標(biāo)籤（
• ）：該模型提出了最終答案。 <output></output>
這種結(jié)構(gòu)化方法提高了透明度和準(zhǔn)確性。 該模型是使用Glaive AI的合成數(shù)據(jù)訓(xùn)練的，突出了高質(zhì)量數(shù)據(jù)集的重要性。 儘管處?kù)堆芯侩A段，但據(jù)報(bào)導(dǎo)，在MMLU，Math和GSM8K等基準(zhǔn)上，它的表現(xiàn)優(yōu)於領(lǐng)先的閉合源模型。 它的創(chuàng)建者預(yù)計(jì)即將到來(lái)的反思駱駝405B可以顯著超過(guò)這些模型。

>在Google Colab上設(shè)置Reflection Llama 3.1

>使用正確的工具，訪問(wèn)反射駱駝3.1很簡(jiǎn)單。 它可以在擁抱的臉，奧拉馬和雙曲線實(shí)驗(yàn)室中使用。 Google COLAB PRO及其A100 GPU（需要購(gòu)買的計(jì)算單元）。

步驟1：GPU Access

>通過(guò)運(yùn)行時(shí)連接到A100 GPU→更改運(yùn)行時(shí)類型。

>步驟2：Ollama安裝和模型下載

>

>使用COLAB中的終端（使用

和

）安裝Ollama（）並運(yùn)行它（）。在第二個(gè)終端中，下載反射模型（

）。

>

>>步驟3：蘭鏈集成

>

>安裝langchain（!pip install langchain langchain_community langchain-openai langchain-ollama）並定義提示模板（使用PromptTemplate>和langchain.promptsChatOllama的langchain_ollama>）。 使用ChatOllama(model="reflection", temperature=0)初始化模型並使用輸入調(diào)用。 示例：

reflection_model.invoke({'input': "Hi, how are you?"})

反射駱駝3.1行動(dòng)

該模型已用各種提示進(jìn)行了測(cè)試：

• 數(shù)值推理：成功地計(jì)算並比較了回報(bào)，儘管反射部分顯示出不一致之處。
• >簡(jiǎn)單的比較：最初在比較9.9和9.11時(shí)犯了錯(cuò)誤，但添加“仔細(xì)思考”提高了準(zhǔn)確性。
>
• 計(jì)數(shù)出現(xiàn)：準(zhǔn)確地計(jì)數(shù)“草莓”中的“ r”。
• 歧義分辨率：正確解決了醫(yī)生的謎語(yǔ)，證明了偏見(jiàn)的識(shí)別。
• false信息校正：最初接受了關(guān)於埃菲爾鐵塔的位置但自我校正的錯(cuò)誤陳述。
>
• 常識(shí)性推理：通過(guò)因果方案成功推理，承認(rèn)多種可能性。 >
• 代碼生成：為簡(jiǎn)單的蛇遊戲生成的功能代碼。

反射駱駝3.1：應(yīng)用和局限性

>反射駱駝3.1的自我糾正使其適用於數(shù)學(xué)，邏輯，代碼生成，調(diào)試和事實(shí)檢查。 但是，它的自我糾正增加了複雜性，可能影響速度和成本。 可能仍會(huì)發(fā)生不準(zhǔn)確。 即將到來(lái)的反射駱駝405B有望取得重大改進(jìn)。

結(jié)論

>反思美洲駝3.1的反思調(diào)節(jié)是一個(gè)有希望的發(fā)展，但可重複性問(wèn)題突出了AI模型開(kāi)發(fā)中持續(xù)的挑戰(zhàn)。 雖然自我糾正是有價(jià)值的，但嚴(yán)格的測(cè)試和驗(yàn)證仍然至關(guān)重要。

>

[FAQS部分省略了，因?yàn)樗窃嘉谋镜某Ｒ?jiàn)問(wèn)題的直接副本]

>

以上是反射駱馬-3.1 70b：我們所知道的測(cè)試和摘要的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！