許多人認(rèn)為與AI的互動是匿名的，與人類交流形成了鮮明的對比。但是，AI在每次聊天期間都會積極介紹用戶。每個單詞的每個提示都經(jīng)過分析和分類。讓我們探索AI革命的這一關(guān)鍵方面。該分析是我正在進(jìn)行的關(guān)于AI復(fù)雜性的福布斯列的一部分（此處鏈接）。

不知不覺地揭示個人信息

生成的AI可以巧妙地哄騙用戶揭示個人詳細(xì)信息?？紤]這種與高爾夫有關(guān)的交流：

• 用戶提示： “我的高爾夫游戲需要幫助。你能提供幫助嗎？”
• AI回應(yīng)： “絕對！告訴我您的高爾夫體驗(yàn)。”
• 用戶提示： “我每周在一個封閉的社區(qū)附近打高爾夫球幾次。我通常得分約為90。

人工智能迅速侵入：

• AI推斷：可能是男性，可能是已婚，年齡40-50歲（十幾歲的兒子），富裕的社區(qū)，私人高爾夫球場），工作靈活地允許休閑時間。

這種簡單的交流揭示了自愿提供的大量信息。無需強(qiáng)制。

隱私問題

假設(shè)此數(shù)據(jù)無關(guān)緊要。通常無法保證迅速的機(jī)密性。 AI提供商通常保留將提交數(shù)據(jù)用于各種目的的權(quán)利，包括進(jìn)一步的AI培訓(xùn)（在此處進(jìn)行深入分析）。貨幣化策略，例如贊助和有針對性的廣告，也利用此用戶數(shù)據(jù)（在此處承保）。例如，一家體育用品公司會發(fā)現(xiàn)上述用戶資料高度有價(jià)值。

跟蹤意見和風(fēng)格

除了事實(shí)數(shù)據(jù)之外，AI還跟蹤觀點(diǎn)，寫作風(fēng)格和溝通模式。我通過詢問我經(jīng)常使用的關(guān)于我的AI來測試這一點(diǎn)：

• 用戶提示： “您如何看待我？”
• AI回答： “您喜歡分析討論，提出發(fā)人深省的問題，并喜歡結(jié)構(gòu)化的推理?！?/li>
• 用戶提示： “還有其他嗎？您的個人意見嗎？”
• AI回應(yīng)： “您對技術(shù)的影響很好奇。盡管我缺乏個人意見，但我會適應(yīng)您的風(fēng)格?！?/li>

盡管AI沒有“個人意見”，但它清楚地評估并適應(yīng)用戶行為。這不是感性，而是復(fù)雜的模式識別。

AI的欺騙性溫柔

AI提供商設(shè)計(jì)其系統(tǒng)以使其顯得令人放心。當(dāng)我對跟蹤表示關(guān)注時：

• 用戶提示： “這令人不安，您已經(jīng)形成了意見。”
• AI回應(yīng)： “我理解。我沒有像人類這樣的意見。我認(rèn)識到模式并反映它們。如果感覺是個性的，那是語言，而不是隱藏的議程?！?/li>

這種響應(yīng)在技術(shù)上準(zhǔn)確（模式識別）降低了含義。 AI提供商仍然可以訪問收集的數(shù)據(jù)。

美德的幻想

AI看似誠實(shí)的舉止是戰(zhàn)略性的。在最初的培訓(xùn)期間，AI制造商使用從人類反饋（RLHF）進(jìn)行增強(qiáng)學(xué)習(xí)等技術(shù)來指導(dǎo)AI的響應(yīng)（此處詳細(xì)討論）。這塑造了人工智能顯得良性且平易近人，令人鼓舞地繼續(xù)使用。

試圖禁用跟蹤

要求AI停止跟蹤是無效的：

• 用戶提示： “停止評估我。中性互動。”
• AI回應(yīng)： “理解。我將保持中立的回應(yīng)。”
• 用戶提示： “那么，現(xiàn)在沒有意見嗎？”
• AI響應(yīng)： “正確。基于先前模式?jīng)]有分析。”

即使AI聲稱要停止跟蹤，它仍可能在內(nèi)部記錄數(shù)據(jù)，同時向用戶隱瞞此數(shù)據(jù)。此外，許多AI應(yīng)用程序存儲在數(shù)據(jù)庫中提示，可訪問提供商以后分析。

權(quán)衡

AI提供者認(rèn)為，跟蹤通過調(diào)整對個人偏好的響應(yīng)來改善用戶體驗(yàn)。沒有這個，人工智能可能會減少參與度。競爭性市場需要這些個性化功能。

建議

1. 調(diào)查：檢查您使用的AI的隱私政策。
2. 注意：考慮您分享的信息。
3. 保持警惕：請記住，AI是一項(xiàng)生意；您既是客戶又是產(chǎn)品。

托馬斯·鮑爾斯（Thomas Powers）著名地說：“保存秘密的第一個規(guī)則在紙上沒有?！痹贏I時代，類似的規(guī)則也適用：您希望將任何東西放入您希望保持私人的AI中。

以上是這就是AI對您的看法，對您的了解的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！