アクセラレーション主義者のビジョン：フルスピード先

略してE/ACCとして知られる効果的な加速主義は、2022年頃に、シリコンバレー以降の核心で、迅速で自由な技術(shù)の進(jìn)歩を支持しているE/ACCを支持する著しい牽引力を獲得した技術(shù)オプティミスト運(yùn)動(dòng)として現(xiàn)れました。

アクセラレーション主義者を加速するものは何ですか？

誰(shuí)かが「進(jìn)歩は避けられない」または「規(guī)制がイノベーションを遅くするだけです」と言うのを聞いたことがあるなら、あなたはE/ACC思考のエコーを聞いています。この哲學(xué)はいくつかの重要な信念に基づいています：

運(yùn)命としてのテクノロジー：E/ACCサポーターは、技術(shù)の進(jìn)歩を、重力のような止められない力と見(jiàn)なしています。彼らは、開(kāi)発を遅らせようとする試みは無(wú)駄であるだけでなく、潛在的に有害であると考えています。

市場(chǎng)は最もよく知っています：彼らは自由市場(chǎng)のイノベーションを擁護(hù)し、規(guī)制を進(jìn)行の高速道路での速度上昇と見(jiàn)なします。

イノベーションによる豊かさ：既存のリソースを再配布するのではなく、E/ACCは、強(qiáng)力な新しいテクノロジーを作成することで、誰(shuí)にとっても前例のない豊かさを生み出すと考えています。

機(jī)會(huì)、リスクではありません：他の人が高度なAIで危険を見(jiàn)る場(chǎng)合、E/ACCは人類の最大の機(jī)會(huì)を見(jiàn)ています。私たちの最大の問(wèn)題を解決し、現(xiàn)在の制限を超越するチャンスです。

テクノロジー投資家のマーク?アンドリーセンは、彼の「テクノオプティミストマニフェスト」でこの精神を捉えました。

向社會(huì)的ビジョン：最初に人間の価値

対照的に立っているのは、 Prosocial AIです。これは、技術(shù)開(kāi)発の中心に人間と惑星の福祉を置くフレームワークです。定義上、Prosocial AIシステムは、「人と惑星のために最高のものを引き出すために、調(diào)整、訓(xùn)練、テスト、および標(biāo)的を絞った」。彼らの実施は、私たちが屬している人間、私たちが所屬するコミュニティ、私たちが參加している國(guó)、そして私たちが依存している惑星にとって、雙方にとって有利な勝利です。

何がAIを本當(dāng)に向社會(huì)的にしているのですか？

私たちが構(gòu)築しているAIシステムが、スマートであるだけでなく、賢明であるように設(shè)計(jì)されていると想像してください。 Prosocial AIは、いくつかの核となる原則を通してこの野心を具體化します。

人間の代理店の問(wèn)題：Prosocial AIは、人間の代理店から始まります。つまり、意味のある技術(shù)的選択をする能力です。このアプローチは、意識(shí)（何が起こっているのかを理解する）、感謝（さまざまな視點(diǎn)を認(rèn)識(shí)）、受け入れ（それを改善するために取り組んでいる間に現(xiàn)実を認(rèn)める）、および説明責(zé)任（結(jié)果の責(zé)任を負(fù)う）を重視しています。

ツールを形作ります。それから彼らは私たちを形作ります：おそらく、向社會(huì)的アプローチからの最も深い洞察は、この率直な真実で要約されています?！该魅栅渭夹g(shù)が今日の人間よりも優(yōu)れているとは期待できません?！寡预Qえれば、AIは私たちの価値を反映します - 良くも悪くも。

講演を歩く：Prosocial AIには「二重のアライメント」を要求します。私たちが言うことと実際にどのように振る舞うか、そして私たちの人間の願(yuàn)望と私たちが作成するアルゴリズムの間の調(diào)和を要求します。自分で練習(xí)せずにAIに思いやりをプログラムすることはできません。

速度前の安全性：向社會(huì)的支持者は、強(qiáng)力なAIシステムを市場(chǎng)に出すのではなく、徹底的なテストと堅(jiān)牢な安全メカニズムを優(yōu)先します。

テーブルの全員：技術(shù)者や投資家の小さなグループに數(shù)十億に影響を與える決定をさせる代わりに、Prosocial AIは多様な聲で包括的なガバナンスをサポートしています。

人々と惑星の意識(shí)デザイン：このフレームワークでは、AIは人間と私たちが依存しているより広範(fàn)な生態(tài)系に利益をもたらすべきです。

これらのビジョンが衝突する場(chǎng)所

これらの競(jìng)合するフレームワークは、AI開(kāi)発に対する根本的に異なるアプローチにつながります。

運(yùn)転席にいるのは誰(shuí)ですか？

E/ACCは、テクノロジーを獨(dú)自の勢(shì)いを持つ自律的な力と見(jiàn)なす傾向があります。これは、人間が直接的ではなく容易にすべき自然現(xiàn)象のようです。対照的に、Prosocial AIは、人間が私たちが作成する技術(shù)に対して責(zé)任を負(fù)っていることを強(qiáng)調(diào)しています。ハンマーがどのように使用されているかについて責(zé)任を負(fù)わないように、AIシステムに倫理的責(zé)任を委任することはできません。古いことわざ「ゴミ、ゴミ」はまだ続いています。逆にすることができます - 値で、値。ジゴ対生體。そのシフトには人間の選択が必要です。

リスクを比較検討します

リスク計(jì)算は、これらのアプローチ間で劇的に異なります。 E/ACCサポーターはしばしば、最大の危険はゆっくりと発展することにあると主張します。潛在的に経済的優(yōu)位性を失うか、緊急の問(wèn)題を解決できる技術(shù)的なブレークスルーの欠落を失います。

Prosocial Advocatesは、適切な保護(hù)手段なしで前進(jìn)することで、プライバシーを損なうシステムにつながる可能性があること、不平等を増幅する、または実存的なリスクをもたらす可能性があると反論します。 AIの研究者であるスチュアートラッセルは、「私たちが大切にするものを完全にキャプチャしない客観的な関數(shù)に最適化するシステムが、arbitrarily意的に悪い結(jié)果につながる可能性がある」と述べています。

道路のルール

これらの違いは、ガバナンスのアプローチにまで及びます。

E/ACC Playbook ：最小限の前払いルール、市場(chǎng)競(jìng)爭(zhēng)がイノベーションを促進(jìn)し、問(wèn)題が発生した後にのみ問(wèn)題に対処します。

Prosocial Playbook ：展開(kāi)前に確立された思慮深いガードレールは、多様な利害関係者を含む継続的な監(jiān)視で確立されています。

The Human Element：テクノロジーの不足している作品

向社會(huì)的アプローチを特に特徴的にするのは、技術(shù)的なソリューションだけでは十分ではないという認(rèn)識(shí)です。私たちのAIの質(zhì)は、最終的に私たちの人類の質(zhì)を反映します。

このように考えてみてください。AIシステムが、Xで人々がどのように相互作用するか、または人間の行動(dòng)に対する私たちの最高の願(yuàn)望に基づいて倫理的な決定を下したいですか？私たちが大切にすることと私たちが頻繁に行動(dòng)する方法との間のギャップは、AI開(kāi)発の基本的な課題を生み出します。

この洞察は、AI倫理についての通常の會(huì)話をひっくり返します。 「AIを人間の価値とどのように整列させるのですか？」と尋ねる代わりに。 「自分の行動(dòng)を保持すると主張する価値にどのように合わせて調(diào)整するのですか？」と尋ねなければなりません。有益なAIを開(kāi)発するには、より良いアルゴリズムとより良い人間、つまり知恵、思いやり、責(zé)任を一貫して実証する人々が技術(shù)的な創(chuàng)造物に反映されることを望んでいることを示唆しています。

共通の基盤(pán)を見(jiàn)つける

それらの違いにもかかわらず、これらのフレームワークはいくつかの重要な領(lǐng)域を共有しています。

テクノロジーの変革力：どちらも、社會(huì)を再構(gòu)築するAIの前例のない可能性を認(rèn)めています。

技術(shù)的な卓越性：価値のあるイノベーションと最先端の機(jī)能の両方。

人間の繁栄：どちらも、たとえ彼らがこれを異なって定義していても、人類に利益をもたらす技術(shù)開(kāi)発を追求すると主張しています。

これが私たちのAIの未來(lái)にとって何を意味するのか

これらのアプローチの間の緊張は、今日行われている実際の決定で行われます。

企業(yè)の優(yōu)先事項(xiàng)：ハイテク企業(yè)は、開(kāi)発速度を最大化することと安全調(diào)査への投資を選択します。

才能の決定：エンジニアと研究者は、自分の努力に集中する場(chǎng)所を決定しています。境界を押し広げたり、有益な結(jié)果を確保したりします。

ポリシーの選択：議員は、イノベーションのインセンティブまたは保護(hù)ガードレールに優(yōu)先順位を付けるかどうかを決定しています。

教育の焦點(diǎn)：大學(xué)とトレーニングプログラムは、技術(shù)的スキルと倫理的理解のバランスを取ります。ゴールデンパスは、自然および人工知能の全體的な理解を利用するための二重リテラシーへの投資です。

前方の道

効果的な加速主義と向社會(huì)的AIの間の議論は、単なる學(xué)術(shù)的ではありません。これは、ますます強(qiáng)力な技術(shù)を開(kāi)発するため、道路のフォークを表しています。最も有望な道は、両方の視點(diǎn)からの洞察を組み込んでいる可能性があります。技術(shù)的ダイナミズムを維持しながら、この進(jìn)歩が真に人間と惑星の福祉に役立つことを保証します。

ますます明らかになっているのは、技術(shù)開(kāi)発を人間開(kāi)発から分離できないということです。これまで以上に強(qiáng)力なツールを構(gòu)築するにつれて、これらのツールを有益な目的に向けるために必要な知恵、価値、責(zé)任を同時(shí)に育てなければなりません。

明日のAIの質(zhì)は、最終的に今日の人類の質(zhì)を反映します。倫理は抽象的な意図ではなく、不変の領(lǐng)土をナビゲートする際の現(xiàn)実的で緊急の意味を持つ野心です。人間は、人道的なビジョンを持つ人間のために、ハイブリッドの未來(lái)を設(shè)計(jì)しなければなりません。効果的な加速主義と向社會(huì)的AIの間の緊張は、最も重要なアライメントの問(wèn)題が私たち自身の中の問(wèn)題である可能性があることを思い出させます。それは、深く人間の挑戦にとって技術(shù)的な挑戦ではありません。

以上が効果的な加速主義または向社會(huì)的AI。 AIの未來(lái)は何ですか？の詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。