加速主義者的願景：全速前進

有效的加速主義，即短期內(nèi)被稱為E/ACC，大約在2022年左右作為技術(shù)優(yōu)先主義運動，在矽谷及其他地區(qū)獲得了巨大的吸引力，其核心是E/ACC提倡的快速，不受限制的技術(shù)進步。

是什麼加速加速主義者？

如果您曾經(jīng)聽說過有人說“進步是不可避免的”或“監(jiān)管只是減慢了創(chuàng)新”，那麼您會聽到E/ACC思維的迴聲。這種哲學基於幾種關(guān)鍵信念：

作為命運的技術(shù)：E/ACC支持者將技術(shù)進步視為不可阻擋的力量 - 例如重力 - 不應(yīng)阻礙。他們認為試圖減慢發(fā)展的嘗試不僅徒勞無功，而且可能有害。

市場最了解：他們擁護自由市場的創(chuàng)新，將法規(guī)視為高速公路進步的速度。

E/ACC認為，通過創(chuàng)新豐富：而不是重新分配現(xiàn)有資源，而是認為創(chuàng)建強大的新技術(shù)將為每個人帶來前所未有的豐富。

機會，而不是風險：在其他人看到高級AI的危險的地方，E/ACC看到了人類最大的機會，這是解決我們最大的問題並超越當前局限性的機會。

科技投資者馬克·安德森（Marc Andreessen）在他的“技術(shù)優(yōu)先宣言”中宣稱：“我們相信技術(shù)是我們創(chuàng)造更好的未來，豐富的未來，一個奇蹟?shù)奈磥?，一個充分實現(xiàn)人類潛力的未來的方式?！?/p>

親社會視野：人類價值觀首先

對比的是P Rosocial AI ，這是一個將人類和行星福利置於技術(shù)發(fā)展中心的框架。根據(jù)定義，親社會AI系統(tǒng)是“量身定制，訓練，測試和針對性的，可以為人物和星球帶來最好的選擇?！彼麄兊膶嵤┦俏覀兯鶎凫兜娜祟?，我們所屬的社區(qū)，我們所屬於的國家以及我們所依賴的星球的雙贏。

是什麼使AI真正親社會？

想像一下，如果我們正在構(gòu)建的AI系統(tǒng)的設(shè)計不僅是為了聰明，而且是明智的，可以反映我們的最高價值，而不僅僅是我們的技術(shù)能力。親社會AI通過幾個核心原則體現(xiàn)了這一野心：

人類代理事務(wù)：親社會AI始於人類代理 - 我們做出有意義的技術(shù)選擇的能力。這種方法重視意識（了解正在發(fā)生的事情），欣賞（認識不同的觀點），接受（在努力改善時承認現(xiàn)實）和問責制（對結(jié)果負責）。

我們塑造我們的工具。然後他們塑造了我們：這一簡單的真理可能總結(jié)了親社會方法中最深刻的見解：“我們不能指望明天的技術(shù)比今天的人類更好?！睋Q句話說，AI將反映我們的價值觀 - 無論好壞。

進行演講：親社會的AI要求“雙重對齊” - 我們所說的我們珍視與實際行為的和諧，以及我們的人類願望與我們創(chuàng)造的算法之間的和諧。您不能在沒有自己練習的情況下將同情心編程為AI。

速度前的安全：親社會的擁護者優(yōu)先考慮徹底的測試和魯棒的安全機制，而不是趕上強大的AI系統(tǒng)上市。

餐桌上的每個人：無社會AI並沒有讓一小部分技術(shù)人員或投資者做出影響數(shù)十億美元的決定，而是支持具有多種聲音的包容性治理。

人類行星意識的設(shè)計：在此框架中，AI應(yīng)該使人類和我們依賴的更廣泛的生態(tài)系統(tǒng)受益。

這些願景衝突的地方

這些相互競爭的框架為AI開發(fā)提供了根本不同的方法：

誰在駕駛員座位上？

E/ACC傾向於將技術(shù)視為具有自己動力的自主力量 - 幾乎就像人類應(yīng)該有助於促進而不是直接的現(xiàn)像一樣。相比之下，親社會AI強調(diào)人類對我們創(chuàng)造的技術(shù)仍然負責。正如我們不會責怪錘子的使用方式一樣，我們不能將道德責任委託給AI系統(tǒng)。古老的俗話“垃圾，垃圾”仍然持有。它可以顛倒為 - 值，值。 Gigo與Vivo。這種轉(zhuǎn)變需要人類的選擇。

權(quán)衡風險

這些方法之間的風險計算截然不同。 E/ACC支持者經(jīng)常認為，最大的危險在於發(fā)展太慢 - 可能失去經(jīng)濟優(yōu)勢或缺少可能解決緊急問題的技術(shù)突破。

親社會的擁護者反駁說，在沒有足夠的保障措施的情況下向前衝，可能會導致破壞隱私，擴大不平等甚至構(gòu)成存在風險的系統(tǒng)。正如AI研究人員斯圖爾特·羅素（Stuart Russell）所說：“一個對目標函數(shù)進行優(yōu)化的系統(tǒng)，該目標函數(shù)無法完全捕獲我們的價值會導致任意不良結(jié)果?！?/p>

道路規(guī)則

這些差異擴展到治理方法：

E/ACC劇本：最小的前期規(guī)則，讓市場競爭推動創(chuàng)新並在出現(xiàn)後解決問題。

親社會劇本：在部署前建立的周到的護欄，並進行了包括各種利益相關(guān)者的監(jiān)督。

人類元素：技術(shù)缺失的作品

使親社會方法特別獨特的原因是它認識到僅技術(shù)解決方案還不夠。我們AI的質(zhì)量最終將反映我們?nèi)祟惖馁|(zhì)量。

這樣考慮：您是否希望根據(jù)人們在X上的互動或我們對人類行為的最高願望做出道德決定的AI系統(tǒng)？我們所說的我們珍視與我們經(jīng)常行動之間的差距為AI開髮帶來了根本的挑戰(zhàn)。

這種洞察力翻轉(zhuǎn)了有關(guān)AI倫理的通常對話。而不是問：“我們?nèi)绾问笰I與人類價值觀保持一致？”我們必須問：“我們?nèi)绾问棺约旱男袨榕c聲稱擁有的價值觀保持一致？”它表明，開發(fā)有益的AI需要更好的算法和更好的人類 - 那些始終如一地展示他們希望看到的智慧，同情和責任的人，他們希望看到他們的技術(shù)創(chuàng)造。

尋找共同點

儘管它們有所不同，但這些框架具有一些重要的領(lǐng)域：

技術(shù)的變革力量：兩者都承認AI的前所未有的重塑社會的潛力。

卓越技術(shù)：價值創(chuàng)新和尖端功能。

人類蓬勃發(fā)展：兩者都聲稱要追求有利於人類的技術(shù)發(fā)展，即使他們以不同的方式定義了這一發(fā)展。

這對我們的AI未來意味著什麼

這些方法之間的張力在今天做出的實際決定中發(fā)揮了作用：

公司優(yōu)先事項：科技公司在最大化開發(fā)速度和對安全研究的投資之間進行選擇。

人才決策：工程師和研究人員正在決定在哪裡集中精力 - 突破界限或確保有益的結(jié)果。

政策選擇：立法者正在確定是優(yōu)先考慮創(chuàng)新激勵措施還是保護性護欄。

教育重點：大學和培訓計劃平衡技術(shù)技能與道德理解。黃金路徑是對雙重掃盲的投資，以利用對自然和人工智能的整體理解。

前進的路

有效的加速度和親社會AI之間的辯論不僅是學術(shù)，而且在我們開發(fā)越來越強大的技術(shù)時，它代表了道路上的叉子。最有前途的道路可能從這兩個角度融合了見解：保持技術(shù)動態(tài)，同時確保這一進步真正地為人類和行星福利服務(wù)。

越來越清楚的是，技術(shù)發(fā)展不能與人類發(fā)展分開。隨著我們構(gòu)建越來越強大的工具，我們必須同時培養(yǎng)將這些工具引導到有益目的所需的智慧，價值和責任。

明天AI的質(zhì)量最終將反映當今人類的質(zhì)量。倫理不是抽象的意圖，而是一種野心，在我們?yōu)g覽未經(jīng)憲章的領(lǐng)土時，具有真實而緊迫的含義。人類必須設(shè)計混合的未來 - 對於具有人道視野的人類。有效的加速度和親社會AI之間的張力提醒我們，最重要的一致性問題可能是我們內(nèi)部的一個問題。這不是對人類深處的技術(shù)挑戰(zhàn)。

以上是有效的加速主義或親社會AI。 AI的未來是什麼？的詳細內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！