上週，我在全美首屈一指的AI會議之一上登上了舞臺 - SSON智能自動化第2025週，以提供有關(guān)企業(yè)抹布的一些令人不安的真相。我分享的是，即使經(jīng)驗豐富的從業(yè)人員措手不及，失敗率的增加42％。

這是我告訴他們的內(nèi)容，以及為什麼每個公司建立AI都很重要：

當每個人都急於為他們的公司開發(fā)下一個Chatgpt時， 42％的AI項目在2025年失敗了，比2024年增加了2.5倍。

這是企業(yè)AI的138億美元支出處於危險之中！

這是踢腳： 51％的企業(yè)AI實現(xiàn)使用了抹布架構(gòu)。這意味著，如果您正在為公司建立AI，則可能是建造抹布。

但這是沒有人在AI會議上談?wù)摰膬?nèi)容： 80％的企業(yè)抹布項目將經(jīng)歷嚴重的失敗。只有20％的人取得了持續(xù)的成功。

根據(jù)我在跨金融服務(wù)方面在企業(yè)AI部署方面的經(jīng)驗，我看到了許多YouTube視頻，這些視頻在以企業(yè)範圍內(nèi)部署時沒有預期的性能。

在YouTube教程中效果出色的“簡單”抹布演示在遇到現(xiàn)實世界的企業(yè)約束時，YouTube教程在YouTube教程中效果很好。

今天，您將了解為什麼大多數(shù)抹布項目都會失敗，更重要的是，如何加入成功的20％。

目錄

• 破布現(xiàn)實檢查
• 導致企業(yè)抹布失敗的5個關(guān)鍵危險區(qū)域
  • 危險區(qū)域1：策略失敗
  • 危險區(qū)域2：數(shù)據(jù)質(zhì)量危機
  • 危險區(qū)域3：及時的工程災難
  • 危險區(qū)4：評估盲點
  • 危險區(qū)5：治理災難
• 結(jié)論

破布現(xiàn)實檢查

讓我從一個聽起來很熟悉的故事開始。

您的工程團隊在周末建造了抹布原型。它索引了您公司的文檔，嵌入式功能效果很好，而LLM可以通過來源提供明智的答案。領(lǐng)導印象深刻。預算批準。時間軸集。

六個月後，您的“智能” AI自信地告訴用戶，您公司的度假政策允許無限的病日（不），並引用了2010年以來的文件，該文件已被取代了三遍。

聽起來很熟悉嗎？

這就是為什麼發(fā)生企業(yè)抹布失敗的原因，以及簡單的抹布教程完全錯過了標記的原因。

導致企業(yè)抹布失敗的5個關(guān)鍵危險區(qū)域

我已經(jīng)看過工程團隊的夜晚和周末工作，只是看著用戶在數(shù)週內(nèi)忽略了他們的創(chuàng)作。

在閱讀並聽取了數(shù)十個失敗的企業(yè)部署故事的故事之後，以及罕見的成功，我得出的結(jié)論是，每一次災難都遵循了可預測的模式。它屬於這五個關(guān)鍵危險區(qū)域之一。

讓我以真實的例子引導您穿過每個危險區(qū)域，這樣您就可以在項目成為另一個傷亡統(tǒng)計數(shù)據(jù)之前識別警告信號。

危險區(qū)域1：策略失敗

發(fā)生了什麼： “讓我們將所有文件索引，看看AI找到了什麼！” - 每當POC在少數(shù)文檔上工作時，我都聽到了這一次數(shù)

為什麼它殺死項目：想像一家500強公司的花費18個月，構(gòu)建了一個可以“回答有關(guān)任何文件的任何問題”的320萬美元。結(jié)果？一個系統(tǒng)如此通用，以至於一切都無用。

真正的失敗癥狀：

• 無目的的範圍爬行（“ AI應(yīng)該解決所有問題！”）
• 沒有可測量的ROI目標
• 業(yè)務(wù)，IT和合規(guī)團隊完全不對
• 零採用是因為答案無關(guān)緊要

解毒劑：

1. 開始不可能。
2. 選擇一個每月花費100個小時的問題，每月花費100個小時。
3. 僅使用50頁建立一個重點的知識庫。
4. 在72小時內(nèi)部署。
5. 在擴展之前測量採用。

危險區(qū)域2：數(shù)據(jù)質(zhì)量危機

發(fā)生了什麼：您的抹布系統(tǒng)檢索了策略文檔的不正確版本，並充滿信心地提供了過時的合規(guī)信息。

為什麼這是災難性的：在受監(jiān)管的行業(yè)中，這不僅令人尷尬，而且是一種等待發(fā)生的監(jiān)管違規(guī)行為。

關(guān)鍵故障點：

• 缺少元數(shù)據(jù)（沒有所有者，日期或版本跟蹤）。
• 過時的文檔與當前文件混合。
• 破碎的桌子結(jié)構(gòu)使LLMS幻覺。
• 跨不同文件的重複信息會使用戶感到困惑。

修復程序：

1. 實施元數(shù)據(jù)守衛(wèi)，以阻止缺少關(guān)鍵標籤的文檔。
2. 除非標記為“常綠”，否則自動退縮任何東西以外的東西超過12個月。
3. 使用保留表結(jié)構(gòu)的語義意識塊。

以下是一個示例代碼段，您可以用來檢查元數(shù)據(jù)字段的理智。

代碼：

 ＃示例理智檢查元數(shù)據(jù)領(lǐng)域

def document_health_check（doc_metadata）：
    red_flags = []
    
    如果“所有者”不在doc_metadata中：
        red_flags.append（“沒有人擁有此文檔”）
    
    如果不是doc_metadata中的“ creation_date”：
        red_flags.append（“不知道何時創(chuàng)建”）
    
    如果“狀態(tài)”不在doc_metadata或doc_metadata ['status']！ ='active'中：
        red_flags.append（“文檔可能已過時”）
    
    返回len（red_flags）== 0，red_flags

＃測試您的文檔
is_good，問題= document_health_check（{
    'filename'：'some_policy.pdf'，
    “所有者”：'[電子郵件保護]'，
    'creation_date'：'2024-01-15'，
    “狀態(tài)”：“主動”
}）） 

危險區(qū)域3：及時的工程災難

發(fā)生的事情：首先，工程師並不是要提示的。他們複製和粘貼了Chatgpt教程的提示，然後想知道為什麼主題專家拒絕他們提供的每個答案。

斷開連接：針對消費者聊天機器人優(yōu)化的通用提示在專門的業(yè)務(wù)環(huán)境中出色地失敗。

示例災難：使用通用提示的金融抹布系統(tǒng)將“風險”視為一般概念，何時意味著以下內(nèi)容：

風險=市場風險/信用風險/運營風險

解決方案：

1. 與您的中小型企業(yè)共同創(chuàng)建。
2. 部署特定角色的提示（分析師獲得的提示與合規(guī)人員不同）。
3. 使用旨在引起故障的對抗場景進行測試。
4. 根據(jù)實際使用數(shù)據(jù)進行季度更新。

以下是基於不同角色的示例提示。

代碼：

 def create_domain_prompt（user_role，business_context）：
    如果user_role ==“ financial_analyst”：
        返回f“”
您正在幫助{business_context}的財務(wù)分析師。

討論風險時，請始終指定：
 - 類型：市場/信用/運營/監(jiān)管
 - 定量影響如果可用
 - 相關(guān)法規(guī)（巴塞爾三世，多德 - 弗蘭克等）
 - 所需的文檔

格式：[答案] | [置信度：高/中/低] | [來源：DOC，頁面]
”“”
    
    elif user_role ==“ compriance_officer”：
        返回f“”
您正在幫助{business_context}的合規(guī)官。

總是標記：
 - 監(jiān)管截止日期
 - 需要報告
 - 潛在的違規(guī)行為
 - 何時升級為合法

如果您不是100％確定的，請說“需要法律審查”
”“”

    返回“通用後備提示”


Analyst_prompt = create_domain_prompt（“ financial_analyst”，“ FDIC保險單”）
打?。ˋnalyst_prompt） 

危險區(qū)4：評估盲點

發(fā)生了什麼：您在沒有適當評估框架的情況下將破布部署到生產(chǎn)中，然後僅在用戶投訴時發(fā)現(xiàn)重大失敗。

癥狀：

• 沒有源引用（用戶無法驗證答案）
• 沒有用於測試的金數(shù)據(jù)集
• 用戶反饋忽略了
• 生產(chǎn)模型與測試模型不同

現(xiàn)實檢查：如果您無法追蹤您的AI結(jié)論，那麼您可能還沒有準備好進行企業(yè)部署。

框架：

1. 構(gòu)建一個由中小企業(yè)審查的50個質(zhì)量檢查對的金數(shù)據(jù)集。
2. 進行夜間回歸測試。
3. 強制執(zhí)行85％-90％的基準精度。
4. 用文檔ID，頁面和置信度得分將引用添加到每個輸出。

危險區(qū)5：治理災難

發(fā)生了什麼：您的破布系統(tǒng)在響應(yīng)（SSN/電話號碼/MRN）中意外暴露了PII（個人身份信息），或自信地提供錯誤的建議，以損害客戶關(guān)係。

最糟糕的情況：

• AI響應(yīng)中未編輯的客戶數(shù)據(jù)
• 監(jiān)管機構(gòu)敲門時沒有審核步道
• 敏感的文件對錯誤的用戶可見
• 幻覺的建議充滿信心

企業(yè)需求：受監(jiān)管的公司不僅需要正確的答案 - 審核跟蹤，隱私控制，紅線測試和可解釋的決策。

您如何修復它？ ：實現(xiàn)分層的修訂，在不變的存儲中記錄所有交互，每月用紅線提示進行測試，並維護合規(guī)性儀表板。

以下是代碼片段，該代碼片段顯示了要捕獲的基本字段以審核目的。

代碼

＃最低可行的審核記錄
def log_rag_interaction（user_id，詢問，答案，置信度，來源）：
    導入哈希布
    從DateTime Import DateTime
    
    ＃不要存儲實際的問題/答案（隱私）
    ＃商店哈希和元數(shù)據(jù)進行審核
    log_entry = {
        'timestamp'：dateTime.now（）。 isoformat（），
        'user_id'：user_id，
        'Question_hash'：hashlib.sha256（Question.encode（））。 hexdigest（），
        'wonse_hash'：hashlib.sha256（wonse.encode（））。 hexdigest（），
        “信心”：信心，
        “來源”：來源，
        'fragged_for_review'：置信度<p><img src="/static/imghw/default1.png" data-src="https://img.php.cn/upload/article/000/000/000/175159125530494.jpg" class="lazy" alt="企業(yè)抹布失敗：避免80％的5部分框架"></p><h2>結(jié)論</h2><p>對企業(yè)抹布故障的分析將有助於您避免導致80％部署失敗的陷阱。</p><p>本教程不僅向您展示了五個關(guān)鍵危險區(qū)域，而且還提供了實用的代碼示例和實施策略來構(gòu)建適合生產(chǎn)的破布系統(tǒng)。</p><p>對於與大型文件存儲庫打交道的組織，企業(yè)抹布正在成為越來越重要的能力。原因是它改變了團隊如何訪問機構(gòu)知識，減少研究時間並擴展整個組織的專家見解。</p><p></p>

以上是企業(yè)抹布失敗：避免80％的5部分框架的詳細內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！