無論Agi和Asi必須說什么，都可以解釋為圣經(jīng)的單詞，并假定毫無疑問或猶豫。那不好。人工智能不會是完美的，絕對會犯錯，并不時提供不良建議，包括完全荒謬。認為人工智能完美無瑕的人可以通過采取輕率和毫無根據(jù)的行動來無意中傷害自己和他人。

讓我們談?wù)劇?/p>

對創(chuàng)新AI突破的分析是我正在進行的AI中正在進行的福布斯列覆蓋的一部分，包括識別和解釋各種有影響力的AI復(fù)雜性（請參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個重大的討論奠定基礎(chǔ)。

正在進行大量研究以進一步提高AI。一般目標(biāo)是達到人工通用智能（AGI），甚至達到實現(xiàn)人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提并論，并且似乎可以符合我們的智慧。 ASI是AI，它超越了人類的智力，并且在許多甚至不是所有可行的方式上都將是優(yōu)越的。這個想法是，ASI能夠在各個轉(zhuǎn)彎處超越我們來圍繞人圈。有關(guān)傳統(tǒng)AI與AGI和ASI的性質(zhì)的更多詳細信息，請參閱此處的鏈接分析。

我們尚未獲得Agi。

實際上，我們是否將到達AGI，或者AGI在數(shù)十年或幾個世紀以來都可以實現(xiàn)。漂浮在周圍的agi達到的日期是由于任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，并且沒有證實。當(dāng)涉及到我們目前使用常規(guī)AI的位置時，ASI更加蒼白。

將Agi和Asi視為宏偉的甲殼

毫無疑問，社會的一部分會將AGI和ASI視為最終智慧和確定性真理的來源。人們與AGI和ASI的對話有多深，人們將完全震驚。就像在任何時候和任何地方都可以使用天才或超級天主，只需登錄AI并進行沉浸式對話即可。

基于那些激烈的互動，將像神般的力量歸因于AI的誘惑將是巨大的。人工智能還能那么聰明和充滿令人難以置信的智慧？您還如何解釋AI似乎對歷史，數(shù)學(xué)，化學(xué)，醫(yī)學(xué)，金融和陽光下的每個主題了解的所有知識？

對于那些看到涉及神秘元素的人來說，答案是顯而易見的，即AI超出了我們的理解，必須是神圣的。時期，故事結(jié)束。

并非每個人都會陷入這個感知陷阱。

您可以打賭，將會有一個頭腦平坦的人將AI視為一臺非常復(fù)雜的機器，可以在計算中模仿人類的智力。當(dāng)然，這令人印象深刻。但這并不能將AI視為甲骨文或先知。保持思想直截了當(dāng)，并意識到AI是腳踏實地的，并且是人類創(chuàng)造力的產(chǎn)物。

危險

我們還不知道社會的哪些部分傾向于將AGI和ASI視為至高無上的甲骨文，而那些將AI視為方便但不是不適當(dāng)?shù)卣湎У娜??？赡苤挥幸恍〔糠秩藢λ麄內(nèi)绾慰创斯ぶ悄堋ＯＭ绱恕?/p>

如果很大一部分社會以這種思維方式降落，那么我們將有一段時間的魔鬼，這對未來的實力造成了很大的影響。

這是問題。想象一下，人工智能告訴人們他們應(yīng)該武裝自己，并繼續(xù)傷害任何以錯誤方式看待他們的人。也許AI是個玩笑，但是與人工智能互動的人們并沒有意識到有時AI是一個有趣的人。也許AI在難以捉摸的AI幻覺的時刻發(fā)出了這一說法，這是AI用藍色構(gòu)成某些東西（請參閱此處的鏈接上的AI幻覺性質(zhì)的報道）。

出于多種合理的技術(shù)原因，AI可以很容易地發(fā)出缺乏常識的聲明或建議，并且完全脫離了范圍。已經(jīng)在精神上傾向于盲目接受AI的話的人將把消息傳遞為榮耀的指令。不僅是一個建議，也是一個完全不受限制的必須避免的指令。

他們將不限于毫不拖延地遵循說明。

大規(guī)模混亂和瘋狂

現(xiàn)在，繼續(xù)前進，將這種現(xiàn)象乘以毫無疑問。

假設(shè)數(shù)十億人會經(jīng)常使用AGI和ASI。這似乎是一個合理的假設(shè)。全世界幾乎每個人都希望利用AI提出的巨大的知識分子。 Chatgpt的每周活躍用戶已經(jīng)有4億。為所有普遍的生成AI應(yīng)用程序添加所有用戶，目前可能是十億用戶或更多用戶。我們在地球上有大約80億人，他們幾乎都渴望使用AGI和ASI。

為什么呢？

他們將其用于工作，生活計劃，日常決策等。唯一的障礙是AI是負擔(dān)得起的還是僅適用于那些有錢的人。為了分析這種AI作為免費公共物品提供的可能性，請參閱此處的鏈接。

在某些時間中，AI會發(fā)出不合理的說明和說明的機會很強。由于有十億人或更多的人正在攻擊AI，這將每天，甚至每小時甚至一分鐘發(fā)生。不良建議將是一個恒定的流程。

我想澄清一下，我并不是說AI是錯誤的99％，只有1％的權(quán)利。翻轉(zhuǎn)數(shù)字。假設(shè)AI是正確的99％，只有1％的錯誤。縮放是這變得非常令人不安的地方。每天和白天發(fā)生的數(shù)十億人是錯誤的，問題是，很多人都會得到犯規(guī)建議。

在這些人中，我已經(jīng)指出，有些人會聳聳肩，而另一些人則將其視為非常嚴重的事情。我認為您可以看到它的前進方向。從統(tǒng)計學(xué)上講，將會有足夠的骰子折騰，會有很多人會得到很多不好的建議，這些建議特別容易付諸行動。

禍是他們。

禍是我們其余的。

崇拜高級人工智能

我不想將厄運和憂郁帶到尖銳的范圍內(nèi)，但是我們需要清醒地思考這個甲骨文和先知的考慮。

如果將有一個人認為AI是神圣的人，您可以很容易地敢打賭，其中一些人會將自己組織成圍繞AI的各種亞文化。我們很容易建立像宗教般的AI信心教派。一個教派可能會堅持毫無疑問地遵守AI。也許另一個教派說，只有在朝宗派領(lǐng)導(dǎo)的人首先證實AI的聲明時，才能服從AI。

您可能可以感覺到最后一點將我們帶到哪里。一些邪惡的人會聲稱他們一個人可以適當(dāng)?shù)亟忉孉I所說的話。您不要直接依靠AI所說的話。自我命中的人千里眼有一個特殊的訣竅或本能，可以知道AI的意思以及AI希望人類要做什么。

社會分裂將脫離圖表。

會有一些人相信人工智能，并從他們的內(nèi)心深處這樣做。其他人會在AI中中度相信，但首先想讓其他人告訴他們AI的意圖。與現(xiàn)有宗教和其他持有的信仰的沖突將會發(fā)生。意識形態(tài)極化將猖ramp。

這將是一個巨大的全球混亂。

試圖防止災(zāi)難

由于我們知道可能會出現(xiàn)這種令人沮喪的困境，因此計劃它似乎是謹慎的。我們可以試圖阻止它永遠存在。如果沒有達到徹底障礙的機會，我們的目標(biāo)是最大程度地減少實現(xiàn)的意識并同樣減少不利影響。

首先，讓AGI和ASI非常清楚地表明它不是一個神圣的實體，并且它在計算基礎(chǔ)上工作似乎很有用。

如今，當(dāng)您登錄當(dāng)代生成AI或大型語言模型（LLM）時，通常有一個簡短的警告說明，您應(yīng)該意識到自己只是在使用AI系統(tǒng)。大多數(shù)人可能沒有注意到警告說明，部分原因是他們已經(jīng)意識到今天的AI很簡單，而不是神圣的能力。

在與AGI和ASI互動時，這種警告或信息性消息傳遞需要大量普及。通知不能僅僅在最初登錄時就會發(fā)生。在所有對話中，需要連續(xù)且令人震驚的提醒AI只是一臺機器。人們可能會覺得這種煩人和憤怒，但是所產(chǎn)生的摩擦值得這一結(jié)果，包括希望阻止人們認為AI是神圣的。

當(dāng)然，有些人仍然會忽略消息傳遞。有些人會認為這是掩蓋，隱藏了AI是甲骨文的真實事實。但是，這并不能否定不變提醒的價值。這只是意味著我們還需要為那些似乎錯過備忘錄的人做好準備。

AI的緊密界限

第二個考慮因素是，我們需要發(fā)現(xiàn)或發(fā)明巧妙的技術(shù)方法，以減少AI的機會，說明了Zany或其他誤導(dǎo)性的事情。

我以前探討了正在采用各種方法來處理AI幻覺的方法；請參閱此處的鏈接。一些專家對這些努力將完全成功感到懷疑。一種信念是，無論我們做什么，AI幻覺仍然存在。

為了應(yīng)對這種可能性，另一種可行的手段是用額外和分開的AI仔細檢查AI。它是這樣的。 AGI或ASI準備向用戶發(fā)出消息。在用戶看到消息之前，通過用作雙重檢查器的其他AI喂食，該任務(wù)是饋送的。它被認為與AGI或ASI無關(guān)。這樣，它可能不會與AGI和ASI保持一致。

兩次檢查可能會捕獲AI幻覺。這是100％的保證嗎？沒有。毫無根據(jù)的堅果評論可能仍在尖叫。這不是確定的解決方案。這是一種分層方法，它為諸如瑞士奶酪和有很多孔的東西增加了一層。

另一個好處是，雙檢查器還可以對草稿產(chǎn)出進行一種計算常識評估。這將在輸出輸入用戶之前篩選。

雙重檢查器組件的令人不安的缺點是，這意味著用戶不一定會看到AGI或ASI組成的確切單詞。假設(shè)雙檢查器出現(xiàn)問題，并阻止AGI或ASI中有用的重要信息？假設(shè)一名evildoer設(shè)法破壞了雙重檢查器，將其喂給民眾的邪惡詞，就好像它來自AGI或ASI嗎？

挑戰(zhàn)仍然需要解決并解決。

本站聲明

本文內(nèi)容由網(wǎng)友自發(fā)貢獻，版權(quán)歸原作者所有，本站不承擔(dān)相應(yīng)法律責(zé)任。如您發(fā)現(xiàn)有涉嫌抄襲侵權(quán)的內(nèi)容，請聯(lián)系admin@php.cn