根據(jù)最近的一項研究，我們試圖使AI模型的功能越精確，其碳排放量就越大 - 某些提示產(chǎn)生的二氧化碳的碳含量比其他提示高出50倍。

諸如Anthropic的Claude，OpenAI的O3和DeepSeek的R1之類的推理模型是高級大語言模型（LLMS），與早期版本相比，分配了額外的時間和計算資源以提供更準(zhǔn)確的響應(yīng)。

但是，盡管取得了令人印象深刻的結(jié)果，但在解決復(fù)雜問題方面，這些模型也表現(xiàn)出嚴(yán)重的局限性?，F(xiàn)在，研究人員發(fā)現(xiàn)了另一個缺點 - 他們的碳足跡。他們的發(fā)現(xiàn)于6月19日發(fā)表在《通訊期刊》雜志上。

研究負(fù)責(zé)人Maximilian Dauner說：“查詢訓(xùn)練有素的LLM的環(huán)境影響受其推理方法的嚴(yán)重影響，其明確的推理方法可顯著增加能源使用和碳排放?！?“我們觀察到，基于推理的模型發(fā)出的co co級最多比為較短答案優(yōu)化的模型高出50倍?！?/p>

在響應(yīng)提示時，LLMS通過將其分為令牌來處理語言 - 單詞段 - 在由神經(jīng)網(wǎng)絡(luò)處理之前轉(zhuǎn)換為數(shù)值序列。這些網(wǎng)絡(luò)是使用確定出現(xiàn)特定模式可能性的訓(xùn)練數(shù)據(jù)來完善的?；谶@些概率，它們會產(chǎn)生響應(yīng)。

為了提高準(zhǔn)確性，推理模型采用一種稱為“經(jīng)過思考鏈”的方法。這涉及將復(fù)雜的問題分解為較小的邏輯步驟，類似于人類如何解決同一問題。

相關(guān)： AI經(jīng)?！盎糜X”，但是有一種方法可以解決

注冊了《現(xiàn)場科學(xué)日報》，盡管如此，這些模型比標(biāo)準(zhǔn)LLM所需的精力要多得多，這可能會對希望實施它們的企業(yè)和用戶構(gòu)成經(jīng)濟(jì)挑戰(zhàn)。盡管現(xiàn)有關(guān)于擴(kuò)大AI使用的環(huán)境后果的研究，但不同模型之間碳足跡的直接比較仍然有限。

推理的成本

為了評估各種模型的批量排放，這項新研究背后的研究人員提出了1,000個問題，從多個主題到14個LLM。這些模型的規(guī)模從70億到720億個參數(shù)不等。

這些計算是使用NVIDIA A100 GPU上的Perun框架（評估LLM性能和功耗的評估）進(jìn)行的。然后，假設(shè)每個千瓦時產(chǎn)生480克CO? ，則團(tuán)隊將能耗轉(zhuǎn)化為Co?排放。

他們的發(fā)現(xiàn)表明，平均每個問題的推理模型平均產(chǎn)生了543.5個令牌，而簡潔模型僅37.7個令牌。這些額外的令牌意味著增加計算工作量，從而為更精確的推理模型帶來了更高的排放。

最準(zhǔn)確的模型是720億個參數(shù)Cogito模型，該模型正確回答了84.9％的基準(zhǔn)問題。但是，Cogito發(fā)射的CO?發(fā)出的CO?比旨在產(chǎn)生更短的答案的類似尺寸的模型高三倍。

Dauner說：“目前，我們觀察到LLM技術(shù)中準(zhǔn)確性和可持續(xù)性之間的獨特權(quán)衡?！?“沒有一個模型將排放量低于500克的同等含量（釋放的總溫室氣體）能夠正確回答1,000個問題的精度超過80％?！?/p>

以上是高級AI型號的CO＆＃8322;回答相同問題時的排放量比更常見的LLM的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！