假設(shè)您正在與AI互動(dòng)，該AI不僅回答了您的問題，而且了解您意圖的細(xì)微差別。它製作了量身定制的連貫反應(yīng)，幾乎感覺到了人類。這是怎麼發(fā)生的？大多數(shù)人甚至都沒有意識(shí)到LLM參數(shù)的秘密。

如果您曾經(jīng)想過(guò)像Chatgpt這樣的AI模型如何生成栩栩如生的文本，那麼您就在正確的位置。這些模型不僅神奇地知道接下來(lái)要說(shuō)些什麼。相反，他們依靠關(guān)鍵參數(shù)來(lái)確定從創(chuàng)造力到準(zhǔn)確性到連貫性的所有內(nèi)容。無(wú)論您是一個(gè)好奇的初學(xué)者還是經(jīng)驗(yàn)豐富的開發(fā)人員，了解這些參數(shù)都可以為您的項(xiàng)目解鎖新的AI潛力。

本文將討論7個(gè)基本生成參數(shù)，以塑造像GPT-4O這樣的大型語(yǔ)言模型（LLM）運(yùn)行。從溫度設(shè)置到TOP-K採(cǎi)樣，這些參數(shù)充當(dāng)您可以調(diào)整的撥盤以控制AI的輸出。掌握它們就像獲得方向盤來(lái)瀏覽AI文本一代的廣闊世界。

概述

• 了解如何諸如溫度，max_tokens和Top-P形狀A(yù)I生成的文本之類的關(guān)鍵參數(shù)。
• 發(fā)現(xiàn)調(diào)整LLM參數(shù)如何增強(qiáng)AI輸出中的創(chuàng)造力，準(zhǔn)確性和連貫性。
• 掌握7個(gè)基本LLM參數(shù)，以自定義任何應(yīng)用程序的文本生成。
• 通過(guò)這些參數(shù)來(lái)控制輸出長(zhǎng)度，多樣性和事實(shí)準(zhǔn)確性，對(duì)AI進(jìn)行微調(diào)AI響應(yīng)。
• 通過(guò)調(diào)整頻率和存在懲罰，避免重複和不一致的AI輸出。
• 通過(guò)理解和優(yōu)化這些關(guān)鍵的LLM設(shè)置來(lái)解鎖AI文本生成的全部潛力。

目錄

• 什麼是LLM參數(shù)？
  • 受LLM生成參數(shù)影響的關(guān)鍵方面：
• 7 LLM參數(shù)的實(shí)際實(shí)施
  • 安裝必要的庫(kù)
  • 所有代碼段的基本設(shè)置
• 1。最大令牌
  • 執(zhí)行
• 2。溫度
  • 執(zhí)行
• 3。頂級(jí)P（核採(cǎi)樣）
  • 執(zhí)行
• 4。 top-k（令牌採(cǎi)樣）
  • 執(zhí)行
• 5。頻率罰款
  • 執(zhí)行
• 6.存在懲罰
  • 執(zhí)行
• 7。停止序列
  • 執(zhí)行
• 這些LLM參數(shù)如何合作？
• 結(jié)論

什麼是LLM參數(shù)？

在大型語(yǔ)言模型（LLMS）等大型語(yǔ)言模型（例如GPT-O1）的背景下，生成參數(shù)是影響模型如何生成其響應(yīng)的設(shè)置或配置。這些參數(shù)有助於確定輸出的各個(gè)方面，例如創(chuàng)造力，連貫性，準(zhǔn)確性甚至長(zhǎng)度。

將生成參數(shù)視為模型的“控制旋鈕”。通過(guò)調(diào)整它們，您可以更改AI在製作文本時(shí)的行為。這些參數(shù)指導(dǎo)模型在導(dǎo)航可能的單詞組合的寬敞空間，以根據(jù)用戶的輸入選擇最合適的響應(yīng)。

沒有這些參數(shù)，AI的行為將不太靈活，並且通常無(wú)法預(yù)測(cè)。通過(guò)對(duì)它們進(jìn)行微調(diào)，用戶可以使模型更加集中和事實(shí)，或者允許其探索更具創(chuàng)造力和多樣化的響應(yīng)。

受LLM生成參數(shù)影響的關(guān)鍵方面：

1. 創(chuàng)造力與準(zhǔn)確性：某些參數(shù)控制模型的響應(yīng)“創(chuàng)意”或“可預(yù)測(cè)”。您是否想要安全，事實(shí)的回應(yīng)或?qū)で蟾呦胂窳Φ臇|西？
2. 響應(yīng)長(zhǎng)度：這些設(shè)置可以影響模型在單個(gè)響應(yīng)中產(chǎn)生多少或多少。
3. 產(chǎn)出的多樣性：該模型可以專注於最有可能的下一個(gè)單詞，也可以探索更廣泛的可能性。
4. 幻覺的風(fēng)險(xiǎn)：過(guò)於創(chuàng)造性的環(huán)境可能會(huì)導(dǎo)致模型產(chǎn)生“幻覺”或合理的聽起來(lái)但實(shí)際上不正確的響應(yīng)。這些參數(shù)有助於平衡這種風(fēng)險(xiǎn)。

每個(gè)LLM生成參數(shù)在塑造最終輸出方面都起著獨(dú)特的作用，並且通過(guò)理解它們，您可以自定義AI以更好地滿足您的特定需求或目標(biāo)。

7 LLM參數(shù)的實(shí)際實(shí)施

安裝必要的庫(kù)

在使用OpenAI API來(lái)控制Max_tokens，溫度等等參數(shù)之前，您需要安裝OpenAi Python客戶端庫(kù)。您可以使用PIP進(jìn)行此操作：

 ！ PIP安裝OpenAi

安裝庫(kù)後，您可以為每個(gè)參數(shù)使用以下代碼段。確保用實(shí)際的OpenAI API密鑰替換您的_openai_api_key。

所有代碼段的基本設(shè)置

在所有示例中，此設(shè)置將保持不變。您可以將此部分重複使用作為與GPT模型進(jìn)行交互的基礎(chǔ)設(shè)置。

進(jìn)口Openai
＃設(shè)置您的OpenAI API密鑰
openai.api_key ='your_openai_api_key'
＃定義一個(gè)簡(jiǎn)單的提示，我們可以在示例中重複使用
提示=“用簡(jiǎn)單的術(shù)語(yǔ)解釋人工智能的概念”

1。最大令牌

MAX_TOKENS參數(shù)控制模型生成的輸出的長(zhǎng)度。根據(jù)文本的複雜性，“令牌”可以像一個(gè)字符一樣短，也可以長(zhǎng)達(dá)一個(gè)字。

• 低值（例如10） ：產(chǎn)生較短的響應(yīng)。
• 高價(jià)值（例如1000） ：生成更長(zhǎng)，更詳細(xì)的響應(yīng)。

為什麼重要？

通過(guò)設(shè)置適當(dāng)?shù)膍ax_tokens值，您可以控制響應(yīng)是快速片段還是深入說(shuō)明。這對(duì)於簡(jiǎn)潔至關(guān)重要的應(yīng)用程序（例如文本摘要）或需要詳細(xì)答案（例如在知識(shí)密集型對(duì)話中）尤其重要。

注意：Max_Token值現(xiàn)在被棄用了MAX_COMPLETION_TOKENS的支持，並且與O1系列模型不兼容。

執(zhí)行

您可以通過(guò)使用OpenAI模型使用MAX_TOKENS參數(shù)來(lái)控制生成的輸出的長(zhǎng)度：

進(jìn)口Openai
客戶端= openai.openai（api_key ='your_api_key'）
max_tokens = 10
溫度= 0.5
響應(yīng)= client.chat.completions.create（
型號(hào)=“ gpt-4o”，
消息= [
{“角色”：“用戶”，
“內(nèi)容”：“印度的首都是什麼？送7個(gè)訪問場(chǎng)所”}}
]，，
max_tokens = max_tokens，
溫度=溫度，
n = 1，
）
打印（響應(yīng)。選擇[0] .message.content）

輸出

max_tokens = 10

• 輸出： '印度首都是新德里。這是
• 響應(yīng)非常簡(jiǎn)短且不完整，由於令牌限製而切斷。它提供了基本信息，但沒有詳細(xì)說(shuō)明。句子開始但沒有結(jié)束，在列出訪問地點(diǎn)之前就切斷了。

max_tokens = 20

• 輸出： '印度首都是新德里。這裡有七個(gè)在新德里參觀的地方：\ n1。
• 隨著令牌限制略高，響應(yīng)開始列出位置，但只能設(shè)法啟動(dòng)第一項(xiàng)，然後再被切斷。它仍然太短，無(wú)法提供有用的細(xì)節(jié)甚至完成單個(gè)位置描述。

max_tokens = 50

• 輸出： '印度首都是新德里。這裡有七個(gè)在新德里參觀的地方：\ n1。 **印度門**：這座標(biāo)誌性的紀(jì)念碑是位於新德里拉傑的紀(jì)念館。它奉獻(xiàn)給世界上死亡的士兵
• 在這裡，響應(yīng)更加詳細(xì)，提供了完整的介紹和第一個(gè)位置的描述的開始。但是，它被切斷了中間句子，這表明50句限制不足以完成完整列表，但可以提供至少一兩個(gè)項(xiàng)目的上下文和解釋。

max_tokens = 500

• 輸出：（七個(gè)地方的完整詳細(xì)響應(yīng)）
• 有了這個(gè)更大的令牌限制，響應(yīng)已完成，並提供了新德里七個(gè)訪問地點(diǎn)的詳細(xì)列表。每個(gè)地方都有一個(gè)簡(jiǎn)短但內(nèi)容豐富的描述，提供了有關(guān)其重要性和歷史重要性的背景。響應(yīng)已完全闡明，並允許更複雜和描述性文本。

2。溫度

溫度參數(shù)會(huì)影響模型響應(yīng)的隨機(jī)或創(chuàng)造性。從本質(zhì)上講，這是對(duì)響應(yīng)應(yīng)如何確定性的衡量標(biāo)準(zhǔn)：

• 低溫（例如，0.1） ：該模型將產(chǎn)生更集中和可預(yù)測(cè)的響應(yīng)。
• 高溫（例如，0.9） ：該模型將產(chǎn)生更多的創(chuàng)造力，多樣化甚至“野性”響應(yīng)。

為什麼重要？

這非常適合控制音調(diào)。使用低溫來(lái)完成諸如生成技術(shù)答案的任務(wù)，精度很重要，以及諸如講故事或詩(shī)歌之類的創(chuàng)意寫作任務(wù)的更高溫度。

執(zhí)行

溫度參數(shù)控制輸出的隨機(jī)性或創(chuàng)造力。這是與較新模型一起使用的方法：

進(jìn)口Openai
客戶端= openai.openai（api_key = api_key）
max_tokens = 500
溫度= 0.1
響應(yīng)= client.chat.completions.create（
型號(hào)=“ gpt-4o”，
消息= [
{“角色”：“用戶”，
“內(nèi)容”：“印度的首都是什麼？送7個(gè)訪問場(chǎng)所”}}
]，，
max_tokens = max_tokens，
溫度=溫度，
n = 1，
停止=無(wú)
）
打印（響應(yīng)。選擇[0] .message.content）

輸出

溫度= 0.1

該輸出是嚴(yán)格的事實(shí)和正式的，提供了簡(jiǎn)潔明了的信息，並具有最小的變化或點(diǎn)綴。它讀起來(lái)像是百科全書的條目，優(yōu)先考慮清晰度和精度。

溫度= 0.5

該輸出保留了事實(shí)準(zhǔn)確性，但引入了句子結(jié)構(gòu)的更多可變性。它增加了更多的描述，提供了更具吸引力和創(chuàng)造性的基調(diào)，但仍然基於事實(shí)。與0.1輸出相比，還有更多的稍微重新單詞和更多細(xì)節(jié)的空間。

溫度= 0.9

最具創(chuàng)意的版本，具有描述性和生動(dòng)的語(yǔ)言。它增加了主觀元素和豐富多彩的細(xì)節(jié)，使其更像是旅行敘事或指南，強(qiáng)調(diào)氛圍，文化意義和事實(shí)。

3。頂級(jí)P（核採(cǎi)樣）

TOP_P參數(shù)，也稱為核採(cǎi)樣，有助於控制響應(yīng)的多樣性。它為令牌選擇的累積概率分佈設(shè)置了一個(gè)閾值：

• 低值（例如0.1） ：該模型僅考慮可能的響應(yīng)的前10％，從而限制變化。
• 高價(jià)值（例如，0.9） ：該模型考慮了更廣泛的響應(yīng)範(fàn)圍，從而增加了可變性。

為什麼重要？

此參數(shù)有助於平衡創(chuàng)造力和精度。當(dāng)與溫度配對(duì)時(shí)，它會(huì)產(chǎn)生多種和相干的響應(yīng)。這對(duì)於您想要?jiǎng)?chuàng)造性靈活性但仍需要一定程度的控制的應(yīng)用程序非常有用。

執(zhí)行

TOP_P參數(shù)（也稱為核採(cǎi)樣）控制了響應(yīng)的多樣性。這是使用它的方法：

進(jìn)口Openai
客戶端= openai.openai（api_key = api_key）
max_tokens = 500
溫度= 0.1
top_p = 0.5
響應(yīng)= client.chat.completions.create（
型號(hào)=“ gpt-4o”，
消息= [
{“角色”：“用戶”，
“內(nèi)容”：“印度的首都是什麼？送7個(gè)訪問場(chǎng)所”}}
]，，
max_tokens = max_tokens，
溫度=溫度，
n = 1，
top_p = top_p，
停止=無(wú)
）
打?。憫?yīng)。選擇[0] .message.content）

輸出

溫度= 0.1
top_p = 0.25

高度確定性和事實(shí)驅(qū)動(dòng)：在低top_p值下，該模型從狹窄的高度可能選項(xiàng)中選擇單詞，從而導(dǎo)致簡(jiǎn)潔明了的響應(yīng)，並具有最小的可變性。每個(gè)位置都嚴(yán)格遵守核心事實(shí)，幾乎沒有創(chuàng)造力的空間或增加的細(xì)節(jié)。

例如，對(duì)印度門的提及純粹關(guān)注其作為戰(zhàn)爭(zhēng)紀(jì)念館的作用及其歷史意義，而沒有其他細(xì)節(jié)，例如設(shè)計(jì)或氛圍。該語(yǔ)言保持直接和正式，確保沒有乾擾的清晰度。這使得輸出非常適合需要精確和缺乏歧義的情況。

溫度= 0.1
top_p = 0.5

在創(chuàng)造力和事實(shí)準(zhǔn)確性之間保持平衡：TOP_P = 0.5，該模型略有略有措辭，同時(shí)仍然對(duì)事實(shí)內(nèi)容保持著強(qiáng)烈的關(guān)注。該級(jí)別引入了額外的上下文信息，這些信息提供了更豐富的敘述，而不會(huì)偏離主要事實(shí)。

例如，在對(duì)紅堡的描述中，該輸出包括有關(guān)在獨(dú)立日懸掛國(guó)旗的細(xì)節(jié)，這一點(diǎn)具有更具文化意義，但對(duì)於該地點(diǎn)的歷史描述而言並不是必需的。輸出的對(duì)話和引人入勝，吸引了想要事實(shí)和一些背景的讀者。

• 本質(zhì)上更輕鬆，但仍然是事實(shí)，可以在措辭中略有變化，但仍然結(jié)構(gòu)化。
• 這些句子不那麼嚴(yán)格，其中包括更多的事實(shí)，例如在獨(dú)立日在紅堡舉行的國(guó)旗和埃德溫·盧特森爵士的設(shè)計(jì)。
• 與top_p = 0.1相比，措辭的流動(dòng)性略高，儘管它仍然是事實(shí)和簡(jiǎn)潔。

溫度= 0.5
top_p = 1

最多樣化，最具創(chuàng)造性的輸出：在TOP_P = 1處，該模型允許最大程度的品種，提供更靈活，更廣泛的描述。此版本包括更豐富的語(yǔ)言和其他（有時(shí)更少的預(yù)期）內(nèi)容。

例如，在著名的地方列表中，將拉吉·格（Raj Ghat）納入了標(biāo)準(zhǔn)的歷史或建築地標(biāo)，並通過(guò)強(qiáng)調(diào)其作為對(duì)聖雄甘地的紀(jì)念的意義來(lái)增加人類的觸覺。描述還可能包括感官或情感語(yǔ)言，例如Lotus Temple如何具有吸引遊客的寧?kù)o環(huán)境。這種設(shè)置是生產(chǎn)不僅實(shí)際上正確而且吸引更多受眾的內(nèi)容的理想選擇。

4。 top-k（令牌採(cǎi)樣）

top_k參數(shù)將模型限制為僅考慮最可能的k時(shí)，在預(yù)測(cè)（生成）下一個(gè)單詞時(shí)，最有可能的隔壁令牌。

• 低值（例如50） ：將模型限制為更可預(yù)測(cè)和約束的響應(yīng)。
• 高價(jià)值（例如500） ：允許模型考慮更多的令牌，從而增加了響應(yīng)的種類。

為什麼重要？

雖然類似於top_p，但top_k明確限制了模型可以選擇的令牌數(shù)量，這使得它對(duì)於需要嚴(yán)格控制輸出可變性的應(yīng)用程序有用。如果要生成正式的結(jié)構(gòu)化響應(yīng)，則使用較低的top_k可以提供幫助。

執(zhí)行

top_k參數(shù)在OpenAI API中不直接可用，例如TOP_P，但是TOP_P提供了一種限制令牌選擇的類似方法。但是，您仍然可以使用TOP_P參數(shù)作為代理來(lái)控制令牌的隨機(jī)性。

進(jìn)口Openai
＃使用您的API密鑰初始化OpenAI客戶端
客戶端= openai.openai（api_key = api_key）
max_tokens = 500
溫度= 0.1
top_p = 0.9
響應(yīng)= client.chat.completions.create（
型號(hào)=“ gpt-4o”，
消息= [
{“角色”：“用戶”，“內(nèi)容”：“印度的首都是什麼？
]，，
max_tokens = max_tokens，
溫度=溫度，
n = 1，
top_p = top_p，
       停止=無(wú)
）
打?。ā?top-k示例輸出（使用top_p作為代理）：”）
打?。憫?yīng)。選擇[0] .message.content）

輸出

TOP-K示例輸出（使用TOP_P作為代理）：<br><br>印度首都是新德里。這裡有七個(gè)值得注意的地方<br> 新德里：<br><br> 1。<br> 印度新德里的禮儀軸的東部邊緣，以前稱為<br> 金道。這是向第一次世界大戰(zhàn)期間喪生的士兵的致敬<br> 第三次盎格魯 - 阿富汗戰(zhàn)爭(zhēng)。<br><br> 2。 **紅堡（Lal Qila）**  - 印度德里市的歷史悠久的堡壘，<br> 這是莫臥兒皇帝的主要居住地。每年<br> 印度獨(dú)立日（8月15日），總理提升國(guó)民<br> 堡壘的旗幟，並發(fā)表全國(guó)廣播演講<br> 從它的城牆。<br><br> 3。 ** Qutub Minar **  - 位於Mehrauli的聯(lián)合國(guó)教科文組織世界遺產(chǎn)<br> Qutub Minar的德里地區(qū)是一個(gè)73米高的錐子塔，該塔由五個(gè)<br>樓層，底直徑為14.3米，頂部降至2.7米<br> 峰。它是由Qutb-ud-din Aibak於1193年建造的<br> 德里最後一個(gè)印度教王國(guó)失敗後，德里蘇丹國(guó)。<br><br> 4。<br>城市中的突出吸引力。不論宗教或任何人都開放<br> 其他資格，Lotus Temple是冥想的好地方<br> 並獲得和平。<br><br> 5。<br> 莫臥兒皇帝Humayun。它是由Humayun的第一任妻子委託<br> 和首席配偶，1569  -  70年的貝加·貝加姆（Empress Begum），由米拉克（Mirak）設(shè)計(jì)<br> Mirza Ghiyas和他的兒子Sayyid Muhammad。<br><br> 6。<br> 印度德里。也稱為Akshardham Mandir，它顯示了數(shù)千年<br> 傳統(tǒng)的印度教和印度文化，靈性和建築。<br><br> 7。 ** Rashtrapati Bhavan **  - 印度總統(tǒng)的官方住所。<br> Rashtrapati Bhavan位於新德里的拉傑斯（Rajpath）西端<br> 是一座巨大的豪宅，其建築令人嘆為觀止。它合併<br> 各種風(fēng)格，包括莫臥兒和歐洲，是

5。頻率罰款

頻率_penalty參數(shù)勸阻該模型重複先前使用的單詞。它減少了已經(jīng)出現(xiàn)在輸出中的令牌的概率。

• 低值（例如，0.0） ：模型不會(huì)懲罰重複。
• 高價(jià)值（例如，2.0） ：該模型將嚴(yán)重懲罰重複的單詞，鼓勵(lì)產(chǎn)生新內(nèi)容。

為什麼要進(jìn)口？

當(dāng)您希望該模型避免重複輸出（例如在創(chuàng)意寫作中），冗餘可能會(huì)降低質(zhì)量時(shí)，這很有用。另一方面，您可能需要在技術(shù)寫作中較低的懲罰，在這種寫作中，反復(fù)的術(shù)語(yǔ)可能有益於清晰。

執(zhí)行

頻率_penalty參數(shù)有助於控制生成的輸出中的重複單詞用法。這是與GPT-4O一起使用的方法：

進(jìn)口Openai
＃使用您的API密鑰初始化OpenAI客戶端
客戶端= openai.openai（api_key ='your_api_key'）
max_tokens = 500
溫度= 0.1
top_p = 0.25
頻率_penalty= 1
響應(yīng)= client.chat.completions.create（
型號(hào)=“ gpt-4o”，
消息= [
{“角色”：“用戶”，“內(nèi)容”：“印度的首都是什麼？
]，，
max_tokens = max_tokens，
溫度=溫度，
n = 1，
top_p = top_p，
fusity_penalty = fusenter_penalty，
停止=無(wú)
）
打?。憫?yīng)。選擇[0] .message.content）

輸出

頻率_penalty= 1

平衡輸出並進(jìn)行一定的重複，保持自然流量。理想的是可以接受一些重複的創(chuàng)意寫作等環(huán)境。描述清晰且有凝聚力，可以輕鬆可讀性，而無(wú)需過(guò)多的冗餘。當(dāng)需要清晰度和流動(dòng)時(shí)，有用。

頻率_penalty= 1.5

隨著重複的減少，措辭有更多的措辭。適用於語(yǔ)言多樣性增強(qiáng)可讀性的環(huán)境，例如報(bào)告或文章。本文在引入更動(dòng)態(tài)的句子結(jié)構(gòu)時(shí)保持清晰度。有助於技術(shù)寫作，以避免過(guò)度重複而不會(huì)失去連貫性。

頻率_penalty= 2

最大化多樣性，但可能會(huì)犧牲流利性和內(nèi)聚力。輸出變得不那麼均勻，引入了更多的變化，但有時(shí)會(huì)失去光滑度。適用於從高度變化中受益的創(chuàng)意任務(wù)，儘管由於不一致，它可能會(huì)在更正式或技術(shù)環(huán)境中降低清晰度。

6.存在懲罰

存在_penalty參數(shù)類似於頻率懲罰，但不是根據(jù)單詞使用的頻率進(jìn)行懲罰，而是基於單詞是否已經(jīng)出現(xiàn)在迄今為止的響應(yīng)中。

• 低值（例如，0.0） ：該模型不會(huì)因重複使用單詞而受到懲罰。
• 高價(jià)值（例如，2.0） ：該模型將避免使用已經(jīng)出現(xiàn)的任何單詞。

為什麼重要？

存在懲罰有助於鼓勵(lì)更多多樣化的內(nèi)容產(chǎn)生。當(dāng)您希望該模型不斷引入新想法時(shí)，就像集思廣益的會(huì)議一樣，這一點(diǎn)尤其有用。

執(zhí)行

存在_ -Penalty不鼓勵(lì)模型重複的想法或已經(jīng)引入的單詞。這是應(yīng)用方法：

進(jìn)口Openai
＃使用您的API密鑰初始化OpenAI客戶端
客戶端= openai.openai（api_key ='your_api_key'）
＃定義聊天請(qǐng)求的參數(shù)
響應(yīng)= client.chat.completions.create（
型號(hào)=“ gpt-4o”，
消息= [
{
“角色”：“用戶”，
“內(nèi)容”：“印度的首都是什麼？給7個(gè)參觀地點(diǎn)?！?}
]，，
max_tokens = 500，＃響應(yīng)的最大令牌
溫度= 0.1，＃控制隨機(jī)性
top_p = 0.1，?？刂祈憫?yīng)的多樣性
staberes_penalty = 0.5，＃鼓勵(lì)引入新想法
n = 1，＃僅生成1個(gè)完成
停止=無(wú)＃停止序列，在這種情況下無(wú)
）
打印（響應(yīng)。選擇[0] .message.content）

輸出

staberes_penalty = 0.5

輸出內(nèi)容豐富，但有些重複，因?yàn)樗峁┝擞嘘P(guān)每個(gè)站點(diǎn)的眾所周知的事實(shí)，強(qiáng)調(diào)了讀者可能已經(jīng)熟悉的細(xì)節(jié)。例如，印度門和Qutub Minar的描述與常識(shí)並不多，密切與傳統(tǒng)的摘要保持不變。這表明了較低的存在懲罰如何鼓勵(lì)模型保持在熟悉且已經(jīng)建立的內(nèi)容模式中。

staberes_penalty = 1

該模型以較少的公式化方式引入了更多細(xì)微的信息和重述事實(shí)，輸出的介紹方式更加多樣。例如，對(duì)Akshardham Temple的描述增加了有關(guān)印度教文化千年的額外句子，表明較高的存在懲罰使該模型推出了略有不同的措辭和細(xì)節(jié)，以避免冗餘，從而促進(jìn)了內(nèi)容的多樣性。

7。停止序列

停止參數(shù)使您可以定義一個(gè)字符或單詞的序列，該字符或單詞將發(fā)出信號(hào)以停止生成更多內(nèi)容。這使您可以在特定點(diǎn)乾淨(jìng)地結(jié)束一代。

• 示例停止序列：可以是（。），newlines（\ n）或“末端”之類的特定短語(yǔ)。

為什麼重要？

當(dāng)您希望模型得出邏輯結(jié)論或提供一定數(shù)量的想法（例如基於Q＆A或基於對(duì)話的模型）之後，該參數(shù)在您希望模型達(dá)到邏輯結(jié)論後停止的應(yīng)用程序時(shí)特別方便。

執(zhí)行

停止參數(shù)允許您在生成文本時(shí)為模型定義一個(gè)停止點(diǎn)。例如，您可以在生成項(xiàng)目列表後停止它。

進(jìn)口Openai
＃使用您的API密鑰初始化OpenAI客戶端
客戶端= openai.openai（api_key ='your_api_key'）
max_tokens = 500
溫度= 0.1
top_p = 0.1
響應(yīng)= client.chat.completions.create（
型號(hào)=“ gpt-4o”，
消息= [
{“角色”：“用戶”，“內(nèi)容”：“印度的首都是什麼？
]，，
max_tokens = max_tokens，
溫度=溫度，
n = 1，
top_p = top_p，
stop = [“?！?，“列表的結(jié)尾”]＃定義停止序列
）
打印（響應(yīng)。選擇[0] .message.content）

輸出

印度的首都是新德里

這些LLM參數(shù)如何合作？

現(xiàn)在，當(dāng)您開始組合這些參數(shù)時(shí)，真正的魔術(shù)就會(huì)發(fā)生。例如：

• 一起使用溫度和top_p來(lái)微調(diào)創(chuàng)意任務(wù)。
• 將MAX_TOKEN與停止配對(duì)以有效地限制長(zhǎng)形響應(yīng)。
• 利用頻率_penalty和stricess_penalty避免重複文本，這對(duì)於詩(shī)歌產(chǎn)生或集思廣益會(huì)議尤其有用。

了解這些LLM參數(shù)可以顯著改善您與語(yǔ)言模型的互動(dòng)方式。無(wú)論您是開發(fā)基於AI的助手，生成創(chuàng)意內(nèi)容還是執(zhí)行技術(shù)任務(wù)，都知道如何調(diào)整這些參數(shù)有助於您為您的特定需求獲得最佳輸出。

通過(guò)調(diào)整LLM參數(shù)，例如溫度， MAX_TOKENS和TOP_P ，您可以控制模型的創(chuàng)造力，相干性和長(zhǎng)度。另一方面，頻率和存在等處罰確保輸出保持新鮮，並避免重複模式。最後，停止序列可確保清潔且定義明確的完成。

嘗試這些設(shè)置是關(guān)鍵，因?yàn)樽罴雅渲萌Q於您的應(yīng)用程序。首先一次調(diào)整一個(gè)參數(shù)，然後觀察輸出如何變化，這將幫助您撥入完美的用例設(shè)置！

結(jié)論

LLM參數(shù)，例如最大令牌，溫度，TOP-P，TOP-K，頻率懲罰，存在懲罰和停止序列在塑造生成的輸出方面起著至關(guān)重要的作用。正確調(diào)整這些參數(shù)可確保所需的結(jié)果，平衡創(chuàng)造力和連貫性。理解和實(shí)施它們可以增強(qiáng)對(duì)語(yǔ)言模型行為的控制。

希望您喜歡這篇文章！ LLM參數(shù)對(duì)於優(yōu)化模型性能，包括各種設(shè)置至關(guān)重要。 LLM參數(shù)列表通常包括權(quán)重，偏見和超參數(shù)。對(duì)於LLM參數(shù)示例，請(qǐng)考慮影響輸出多樣性和相關(guān)性的溫度和上下文窗口調(diào)整。了解這些LLM參數(shù)有助於有效地進(jìn)行微調(diào)模型。

您是否正在尋找在線生成AI課程？如果是，請(qǐng)?zhí)剿饕韵聝?nèi)容：Genai Pinnacle程序。

Ans。 LLM生成參數(shù)控制AI模型如何生成文本，從而影響創(chuàng)造力，準(zhǔn)確性和長(zhǎng)度。

Ans。溫度控制模型的輸出的創(chuàng)造力或集中度。較低的值使其更加精確，而較高的值則提高了創(chuàng)造力。

Ans。 max_tokens限制了生成的響應(yīng)的長(zhǎng)度，較高的值產(chǎn)生了更長(zhǎng)，更詳細(xì)的輸出。

Ans。 TOP-P（Nucleus採(cǎi)樣）通過(guò)為令牌選擇的累積概率，平衡精度和創(chuàng)造力的累積概率來(lái)控制響應(yīng)的多樣性。

Ans。這些懲罰減少了重複，並鼓勵(lì)模型產(chǎn)生更多多樣化的內(nèi)容，從而提高整體產(chǎn)出質(zhì)量。

以上是前7名LLM參數(shù)即可立即提高性能的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！