結(jié)構(gòu)化查詢語(yǔ)言

> SQL是數(shù)據(jù)庫(kù)管理的基石，可實(shí)現(xiàn)有效的數(shù)據(jù)存儲(chǔ)，檢索和操縱。 它的廣泛採(cǎi)用源於其在處理大量數(shù)據(jù)集中的簡(jiǎn)單性和有效性。但是，不斷發(fā)展的數(shù)據(jù)格局引入了新的挑戰(zhàn)。

人工智能和大語(yǔ)言模型（LLM）的興起提供了強(qiáng)大的工具，但是與它們進(jìn)行互動(dòng)可能很麻煩。 這是lmql進(jìn)入的地方。

LMQL由SRI實(shí)驗(yàn)室開(kāi)發(fā)，LMQL充當(dāng)開(kāi)發(fā)人員和LLM之間的橋樑。 它將SQL的結(jié)構(gòu)化查詢能力帶入了語(yǔ)言模型的世界，簡(jiǎn)化了互動(dòng)並提高效率。

此教程封面：

什麼是lmql？

• 為什麼使用lmql？
• >設(shè)置LMQL
• 實(shí)用的LMQL應(yīng)用
• lmql限制
• 最佳實(shí)踐
什麼是lmql？

LMQL或語(yǔ)言模型查詢語(yǔ)言是一種專為L(zhǎng)LM設(shè)計(jì)的新型編程語(yǔ)言。 它將類似SQL的聲明性特徵與命令性腳本語(yǔ)法相結(jié)合，提供了一種更結(jié)構(gòu)化的信息提取方法和從LLMS產(chǎn)生響應(yīng)的方法。

>

>重要的是，LMQL擴(kuò)展了Python，添加了新功能並擴(kuò)大了其功能。 這使開(kāi)發(fā)人員可以製作自然語(yǔ)言提示結(jié)合文本和代碼，從而提高查詢靈活性和表現(xiàn)力。 正如其創(chuàng)建者所說(shuō)的那樣，LMQL無(wú)縫將LLM交互作用整合到程序代碼中，超越了傳統(tǒng)的模板。 它是在研究論文中引入的，“提示是編程：用於大語(yǔ)模型的查詢語(yǔ)言”，作為“語(yǔ)言模型提示”（LMP）的解決方案。

llms excel在問(wèn)題回答和代碼生成等任務(wù)上，基於輸入概率生成邏輯序列。 LMP通過(guò)使用語(yǔ)言說(shuō)明或示例來(lái)觸發(fā)任務(wù)來(lái)利用此功能。 高級(jí)技術(shù)甚至允許用戶，模型和外部工具之間進(jìn)行交互。

挑戰(zhàn)在於為特定任務(wù)實(shí)現(xiàn)最佳性能或量身定制LLM，通常需要復(fù)雜的，特定於任務(wù)的程序，這些程序仍可能取決於臨時(shí)交互。 LMQL通過(guò)提供文本提示和腳本的直觀混合來(lái)解決此問(wèn)題，從而使用戶能夠在LLM輸出上定義約束。

為什麼使用lmql？

>雖然可以從概念上提示現(xiàn)代LLM，從而最大程度地發(fā)揮其潛力並適應(yīng)新模型，需要深入了解其內(nèi)部工作和供應(yīng)商特定的工具。 由於令牌化，諸如將輸出限制為特定單詞或短語(yǔ)的任務(wù)可能很複雜。 此外，使用LLM，無(wú)論是在本地還是通過(guò)API，由於其尺寸而昂貴。LMQL減輕這些問(wèn)題。它通過(guò)利用預(yù)定義的行為和搜索約束來(lái)減少LLM調(diào)用。 它還簡(jiǎn)化了提示技術(shù)，通常涉及用戶和模型或?qū)Ｓ媒涌谥g的迭代通信。 LMQL的約束功能對(duì)於生產(chǎn)環(huán)境至關(guān)重要，可確?？深A(yù)測(cè)且可加工的產(chǎn)出。 例如，在情感分析中，LMQL可確保像“正”，“負(fù)”或“中性”之類的一致輸出，而不是更多的冗長(zhǎng)，不容易解析的響應(yīng)。 人類可讀的約束取代了直接與模型令牌一起使用的需求。

>

>設(shè)置LMQL

LMQL可以在本地安裝，也可以通過(guò)其在線遊樂(lè)場(chǎng)IDE訪問(wèn)。對(duì)於使用Transformers或Llama.cpp。

>安裝和環(huán)境設(shè)置

本地安裝很簡(jiǎn)單：

用於使用pytorch＆gt; = 1.11：的GPU支持

pip install lmql

建議使用虛擬環(huán)境。

>

存在運(yùn)行LMQL程序的三種方法：

pip install lmql[hf]

>

>遊樂(lè)場(chǎng)：

>啟動(dòng)基於瀏覽器的IDE（需要node.js）。通過(guò)

> http://www.miracleart.cn/link/4a914e5c38172ae9b61780ffbd0b2f90
1. 訪問(wèn)。 在 > python集成：lmql playground import and使用或> decorator。
。
2. 在操場(chǎng)或命令行中使用本地變壓器模型時(shí)，使用>。 lmql run啟動(dòng)LMQL推理API .lmql理解LMQL語(yǔ)法
3. lmql程序有五個(gè)關(guān)鍵部分： lmqllmql.run查詢：@lmql.query用戶和LLM之間的主要通信方法。 用於生成的文本，

用於可變檢索。

> lmql serve-model

>解碼器：指定解碼算法（例如，梁搜索）。可以在查詢或外部（以python）中定義。

>模型：加載的，並將其傳遞到外部或使用子句。 使用各種約束（停止短語(yǔ)，數(shù)據(jù)類型，字符/令牌長(zhǎng)度，以下等級(jí)，以下等級(jí)，自定義約束）。

• >分佈：定義輸出格式和結(jié)構(gòu)。 [varname]> LMQL限制和社區(qū)支持{varname} LMQL的相對(duì)新穎性導(dǎo)致了一個(gè)小社區(qū)和不那麼全面的文檔。 OpenAI API的限制還限制了某些模型（例如ChatGpt）的全面利用。 但是，正在進(jìn)行的發(fā)展有望得到改進(jìn)。

結(jié)論

LMQL提供了一種與LLMS交互的功能強(qiáng)大的SQL風(fēng)格的方法。它的Python集成和約束功能使其成為各種應(yīng)用程序的寶貴工具。 要進(jìn)一步學(xué)習(xí)，請(qǐng)?zhí)剿饔嘘P(guān)LlamainDex的資源，CHATGPT替代方案，LLM與Pytorch，Langchain和Cohere Api的培訓(xùn)。

以上是LMQL簡(jiǎn)介：SQL和大語(yǔ)言模型之間的橋樑的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！