國連は、AIがどのように進んでいるか、どのような種類の國際的な多國間の取り決めとコラボレーションが行われるべきかについて継続的な関心を持っていることに注意してください（こちらのリンクで私の報道を參照）。この最新のレポートの特徴的な要素は、焦點が到達(dá)するAGIであるAIの頂點に到達(dá)する必要があることです。 AIコミュニティの多くは、私たちがすでにAGIのカスプに近づいていると主張しており、その後すぐに人工的な緊急事態(tài)（ASI）に到達(dá)するでしょう。

人類と世界的な生存のために、國連は、AGIと最終的にASIのガバナンスとコントロールについて発言権を持つことを目指しています。

それについて話しましょう。

革新的なAIブレークスルーのこの分析は、さまざまなインパクトのあるAIの複雑さを特定して説明するなど、最新のAIで進行中のForbesカラムカバレッジの一部です（こちらのリンクを參照）。

AgiとAsiに向かっています

まず、この重い議論の段階を設(shè)定するには、いくつかの基本が必要です。

AIをさらに進めるために、多くの研究が行われています。一般的な目標(biāo)は、人工的な一般情報（AGI）に到達(dá)するか、人工的な密集物（ASI）を達(dá)成するという伸ばした可能性にさえ到達(dá)することです。

AGIは、人間の知性と同等のものと見なされているAIであり、私たちの知性に一致するように見えます。 ASIは、人間の知性を超えたAIであり、すべてではないにしても、多くの実行可能な方法で優(yōu)れているでしょう。アイデアは、ASIが毎ターン私たちを表現(xiàn)することで人間の周りに円を走ることができるということです。従來のAI対AGIおよびASIの性質(zhì)の詳細(xì)については、こちらのリンクで私の分析をご覧ください。

AGIはまだ達(dá)成していません。

実際、私たちがAGIに到達(dá)するのか、それともAGIが數(shù)十年で達(dá)成できるのか、おそらく今から何世紀(jì)にもわたって達(dá)成できるのかは不明です。周りに浮かんでいるAGI達(dá)成の日付は、信頼できる証拠や鉄の密接な論理によって大きく変化し、非常に根拠のないものです。 ASIは、従來のAIと一緒にいる場所に関しては、さらに青白いものを超えています。

國連はAIとAGIに夢中です

私は以前、AIがどこに向かっているのか、そして社會がAdvanced AIをどのように活用すべきかについての多くの國連の努力を調(diào)査しました。

たとえば、私は國連がAIをレバレッジして自慢の持続可能性開発目標(biāo)（SDG）を達(dá)成することを推奨する方法を広範(fàn)囲にレイアウトしました。こちらのリンクを參照してください。國連によるもう1つの重要な文書は、AIの倫理に関するユネスコ主導(dǎo)の合意です。これは、高度なAIの適切な使用に関する193か國が関與する初めてのグローバルなコンセンサスでした（ここのリンクの私の分析を參照）

最新の注目すべき報告書は、「人工総局（AGI）への移行のガバナンス：國連総會の緊急の考慮事項」と題され、國連総會會議會（UNCPGA）の議會に準(zhǔn)備され、提出されました。

そのレポートのいくつかの重要なポイントを次に示します（抜粋）：

• 「AIシステムは、多様な認(rèn)知タスクで人間の知能を等しく上回ることができるシステムによって特徴付けられる人工的な一般情報（AGI）に向けて急速に前進しています?！?/li>
• 「従來のAIとは異なり、AGIは人間の監(jiān)視を超えて有害な行動を自律的に実行する可能性があり、その結(jié)果、不可逆的な影響、高度な武器システムからの脅威、および重要なインフラストラクチャの脆弱性が生じます?！?/li>
• 「これらのグローバルな課題に効果的に対処するために、國連によって支援された即時かつ調(diào)整された國際行動が不可欠です?！?/li>
• 「積極的なグローバルな管理がなければ、國と企業(yè)間の競爭は、危険なAGI開発を加速し、セキュリティプロトコルを損ない、地政學(xué)的な緊張を悪化させます。」
• 「調(diào)整された國際的な行動は、これらの結(jié)果を防ぎ、安全なAGI開発と使用、利益の公平な分布、およびグローバルな安定性を促進することができます?！?/li>

一番下の行は、AGIが解き放たれ、不十分に監(jiān)督されている場合、社會が重大なリスクにさらされることを許可された場合、強力なケースを作ることができるということです。世界の國家がどのようにそのリスクを軽減しようと団結(jié)できるかについて疑問が生じます。適切に、國連は、彼らがその挑戦を引き受けるのにふさわしい団體であると考えています。

4つの大きな尋ねられた國連

國連報告書は、AGIの出現(xiàn)に対処するための緊急に必要なステップについて何と言っていますか？

これらの4つの重要な推奨事項は、次のように厳しく呼ばれています。

• （1）グローバルなAGI天文臺を設(shè)立します。
• （2）安全で信頼できるAGIのための一連の國際的なベストプラクティスと認(rèn)定を作成します。
• （3）AGIに関する特別なフレームワーク條約を招集します。
• （4）AGIアドベントに完全に専念した新しい國連機関を潛在的に作成する。

これらの勧告は、國連総會の大統(tǒng)領(lǐng)評議會によって考慮されます。

概して、これらの勧告の1つ以上を制定することは、間違いなく何らかの形の國連総會決議を伴い、間違いなく國連の他のAIイニシアチブに統(tǒng)合する必要があります。推奨事項のいずれも進まない可能性があります。同様に、推奨事項は改訂または再構(gòu)築され、他の方法で採用される場合があります。

重要な問題が進むにつれて、私はあなたを投稿し続けます。

一方、これらの4つの推奨事項を少し梱包しましょう。私はそうします、そして、挑発的な、またはおそらく魅力的な結(jié)論を提供します。

グローバルAI天文臺

4つの推奨事項の最初のものは、AGIで何が起こっているかを追跡するグローバルAGI天文臺を確立することを伴います。これは、AGIに関するキュレーションされた情報源として機能する専門のオンラインリポジトリと考えてください。

私は、これが國連加盟國にとって非常に役立つ可能性があることに同意することに同意します。

ご存知のように、今の問題は、AGIに関する誤った情報と偽情報が広がっていること、しばしば亂暴に誇大宣伝されているか、時にはAGIとASIの出現(xiàn)を過小評価していることです。 AGI天文臺が適切に考案され、収集され共有されているものに適切に注意を払っていると仮定すると、信頼性とバランスのとれたAGIに関する情報源を持つことは非常に便利です。

このようなAGI天文臺に対する潛在的な批判の1つは、おそらくAGIに関する他の同様の商業(yè)的または全國コレクションを重複させているということです。もう1つのQualmは、AGI天文臺の偏りを許可された場合、バランスのとれたもののオーラを誤解させて運ぶことですが、実際には直接的な方法で傾いています。

AGIのベストプラクティスと認(rèn)定

2番目の推奨事項は、AGIのベストプラクティスのセットを作成することを要求します。これは、それぞれの國でAGIを賢明に監(jiān)督するためにどのようなガバナンス構(gòu)造が考慮すべきかを理解するのを支援するでしょう。國が平等な競技場ベースで進むように拍車をかける可能性があります。さらに、ホイールのことわざの再発明、つまり、國家がすでに提示されているAGIベストプラクティスのセットを単に採用または適応させることができるということです。

そのような規(guī)定をゼロから書く必要はありません。

同様の流れでは、AGIの認(rèn)定の設(shè)定は、AGIのベストプラクティスとよく整合しています。 AIメーカーと國全體が、AGIとその重要な基準(zhǔn)への適合に関して認(rèn)定されていることを願っています。

この面での批判は、國連がベストプラクティスの使用を強制的な側(cè)面にしない場合、同様にAGI認(rèn)証が単なるオプションである場合、いずれかの國がそれらを採用する問題に行く場合はほとんどないということです。その意味では、全體的な仕掛けは主に窓のドレッシングであり、火と火の考慮ではありません。

國連フレームワーク條約

國連の用語では、重要なトピックに関するフレームワーク條約を求めることが幾分期待されています。

AGIは重要なトピックであるため、レポートで提案されているもののスナップショットの抜粋を次に示します。 発達(dá)。"

これらの種類の活動に対する通常の批判は、それらが実質(zhì)的なものの多くを生み出さない官僚的な悪夢になることができるということです。また、彼らは伸び、長い出來事になるかもしれません。これは、AGIが近い地平線上にあると思われる場合、この例では特に當(dāng)惑します。

UN AGIエージェンシーを策定します

4番目の推奨事項は、新しい國連機関を設(shè)立すべきかどうかを評価するために実現(xiàn)可能性調(diào)査が行われることを示しています。これは、AGIのトピックに専念する専門の國連機関です。報告書は、これを迅速に調(diào)査し、承認(rèn)し、迅速に動き出す必要があることを強調(diào)しています。

類似のタイプの機関またはエンティティは、國際原子エネルギー機関（IAEA）になります。おそらく、IAEAが世界を核エネルギーの平和的使用に向けて導(dǎo)こうとしていることを知っているでしょう。 IAEA內(nèi)で自己誘導(dǎo)を提供する設(shè)立條約があります。全體として、IAEAは國連総會と國連安全保障理事會に報告しています。

國連がAGI機関を提出するという批判は、國際的な爭いで揺れ動くかもしれないということです。また、単にリスク削減ガイドとして機能するのではなく、AGIの創(chuàng)造的使用の阻害剤になる可能性もあります。明確にするために、これはAGIの革新的な使用を弱體化させる可能性があるため、あまりにも多くの規(guī)制と監(jiān)督を反対する人もいます。

私たちは不注意にAgiを、以前に望んでいたよりもはるかに印象的で価値の低いものに変えるかもしれません。悲しい顔。

行動を起こすことと座る

UN AGIレポートで明確にされた推奨事項など、AGIについての明白なガバナンスアクションをとるべきだと思いますか？

はい、私たちはすぐに行動しなければならないと言う人もいます。他の人は私たちが私たちの甘い時間をとることを提案するでしょう。突進するよりも、物事を正しくする方が良いです。さらに他の人は、何もする必要がないと言うかもしれません。待って見てください。

その厄介な難問についての考えのための食物として、アルバート?アインシュタインによる記憶に殘る引用があります。 AGIとグローバルガバナンスの問題について次に何をすべきかについて、それを熟考し、次に何をすべきかについてあなたの決定を下します。

人類の運命はおそらくラインにあります。

以上が世界を悲慘なAGIやキラーAIの首脳性から救うためにこれらの4つの重要な行動を検討している國連の詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國語 Web サイトの他の関連記事を參照してください。