讓我們談?wù)劇?/p>

對(duì)創(chuàng)新AI突破的分析是我正在進(jìn)行的AI中正在進(jìn)行的福布斯列覆蓋的一部分，包括識(shí)別和解釋各種有影響力的AI複雜性（請(qǐng)參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個(gè)重大的討論奠定基礎(chǔ)。

正在進(jìn)行大量研究以進(jìn)一步提高AI。一般目標(biāo)是達(dá)到人工通用智能（AGI），甚至可能達(dá)到人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提並論，並且似乎可以符合我們的智慧。 ASI是AI，它超越了人類的智力，並且在許多甚至不是所有可行的方式上都將是優(yōu)越的。這個(gè)想法是，ASI能夠在各個(gè)轉(zhuǎn)彎處超越我們來圍繞人圈。有關(guān)傳統(tǒng)AI與AGI和ASI的性質(zhì)的更多詳細(xì)信息，請(qǐng)參閱此處的鏈接分析。

我們尚未獲得Agi。

實(shí)際上，我們是否將到達(dá)AGI，或者AGI在數(shù)十年或幾個(gè)世紀(jì)以來都可以實(shí)現(xiàn)。漂浮在周圍的agi達(dá)到的日期是由於任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，並且沒有證實(shí)。當(dāng)涉及到我們目前使用常規(guī)AI的位置時(shí)，ASI更加蒼白。

AGI的首先誘人

讓我們將討論重點(diǎn)放在AGI上。

一個(gè)普遍的假設(shè)是，首先要設(shè)計(jì)一個(gè)AGI實(shí)例。換句話說，不會(huì)有一堆由眾多AI製造商製作的AGI。由於技巧和運(yùn)氣，將只有一個(gè)AI製造商偶然地碰到AGI。一些人認(rèn)為，AI製造商有義務(wù)保密，他們已經(jīng)獲得了AGI，以確保在宣布AGI之前完全保護(hù)它免受Thievery和其他Skullduggery的影響，請(qǐng)參見我在此處的鏈接上有關(guān)宣布或不宣布AGI的交易的討論。

誰會(huì)尋求竊取Agi？

輕鬆的，幾乎每個(gè)人都傾向於竊取巨大價(jià)值的東西。

競(jìng)爭(zhēng)的AI製造商可能會(huì)試圖竊取AGI。如果他們自己實(shí)現(xiàn)AGI的努力已經(jīng)停滯不前，他們可能會(huì)決定抓住新生產(chǎn)的Agi並查看它使它滴答作響是敏銳的。這可以給他們關(guān)於如何將其AI變成AGI的想法。

競(jìng)爭(zhēng)的AI製造商還可以假裝他們發(fā)明了AGI。他們會(huì)聲稱自己的人工智能已變成了AGI。同時(shí)，他們將加載並運(yùn)行被盜的Agi，好像是他們的版本一樣。人們通?？赡懿粫?huì)意識(shí)到發(fā)揮作用的次數(shù)。

政府當(dāng)然可以以極大的慾望注視著AGI。為什麼AI製造商（某種公司的公司）應(yīng)該是AGI的唯一所有者和控制者？不，應(yīng)該分享財(cái)富。即使是一個(gè)小國家，也會(huì)意識(shí)到，它可能會(huì)通過竊取AGI並將其置於首選使用中來成為地緣政治超級(jí)大國。有關(guān)即將到來的擁有AGI和沒有AGI的國家的全球緊張局勢(shì)的更多信息，請(qǐng)參閱我在此處的鏈接和鏈接上的討論。

一個(gè)evildoer肯定會(huì)對(duì)竊取AGI非常感興趣。一旦他們控制了AGI，他們可能會(huì)繞過任何內(nèi)部保障措施。他們可能會(huì)告訴AGI提出一項(xiàng)總體計(jì)劃來接管世界，或者如何搶劫數(shù)萬億美元並將資金存入evildoer的銀行帳戶。

要點(diǎn)是，潛在強(qiáng)盜的數(shù)量和種類幾乎是無盡的。

容易或很難偷A(chǔ)gi

關(guān)於這一棘手問題的一個(gè)問題是，竊取AGI的行為是否容易或難以承擔(dān)。

與竊取AGI相關(guān)的困難在很大程度上取決於AGI製造商制定的安全保護(hù)。如果AI製造商草率草率，那麼小偷要做的就是抓住數(shù)字副本，瞧，他們有效地偷走了AGI。無需闖入諾克斯堡，就好像您正在嘗試抓住固體金色的棒一樣。 AGI將在線數(shù)字且可訪問。

它幾乎就像複製電子文件一樣簡(jiǎn)單。

但是，人們會(huì)想像，AI製造商將相對(duì)精通安全，並旨在仔細(xì)保護(hù)其寶貴的AGI免受Thievery的侵害。毫無疑問，各種安全預(yù)防措施將被建立。 AI製造商似乎不太可能只讓一些指關(guān)節(jié)頭走在電子前門，然後徹底拿起AGI。

一個(gè)角度也將是加密AGI。

這提供了一種額外的保護(hù)形式，以便即使小偷以某種方式搏鬥了副本，加密的部分也可能會(huì)阻止接受者對(duì)AGI做得很大。壞人需要解密鍵。希望這些鑰匙能夠分別保存，並且直到被偷走的鑰匙（或計(jì)算破裂）才能發(fā)揮作用。

值得注意的物流問題是AGI有多大。如果AGI龐大並且存在數(shù)千多臺(tái)服務(wù)器，那麼嘗試複製這些大小的東西將被注意到。這不像複製一個(gè)有趣的貓圖片文件。可能的是小偷必須嘗試以較小的塊獲得AGI。一個(gè)問題是，要獲得AGI可能需要很長(zhǎng)時(shí)間，這增加了被發(fā)現(xiàn)的機(jī)會(huì)。

您可以清楚地看到，竊取AGI將具有挑戰(zhàn)性，尤其是如果AI製造商決心阻止此類盜竊案。話雖如此，因?yàn)檫@將是本世紀(jì)的罪行，也許是有史以來最大的犯罪，所以這應(yīng)該是一個(gè)巨大的挑戰(zhàn)。

運(yùn)行被盜的Agi

秘密地獲取AGI副本只是將珍貴的無禮收益變成可用的被盜文物所需的許多步驟中的第一個(gè)。

AGI可能有數(shù)十億個(gè)其他應(yīng)用程序片段和使其運(yùn)行所需的特殊公用事業(yè)。 AGI的複制包括其中嗎？也許，也許不是。您會(huì)看到，其他計(jì)劃可能歸一系列廣泛分散的軟件公司和科技公司擁有。 AGI可以依賴這些元素?？赡艽嬖谠S可協(xié)議和其他規(guī)定，以允許AGI訪問這些功能作品。

小偷將如何訪問其他需要的元素？

這可能使Kibosh可行地使用被盜的Agi。

迫在眉睫的問題也是運(yùn)行AGI所需的計(jì)算資源。再次假設(shè)AGI是巨大的，並利用數(shù)千臺(tái)服務(wù)器，甚至數(shù)百萬的服務(wù)器或處理器。 AGI的竊取者必須以某種方式確定相同的一組龐大的計(jì)算資源。

這就是為什麼一個(gè)孤獨(dú)的狼程序員坐在地下室的原因可能不是偷竊Agi的候選人。獨(dú)奏開發(fā)人員可能無法命令這樣的資源。雖然，AI製造商幾乎可以肯定會(huì)有這樣的訪問權(quán)限。就像整個(gè)國家或主要政府一樣。

我們不能輕易地從Gambit中算出一個(gè)獨(dú)奏。孤獨(dú)的狼程序員可能會(huì)決定，即使他們沒有運(yùn)行AGI的資源，他們至少可以將AGI出售給確實(shí)有這樣的資源的人。從這個(gè)意義上講，我們?cè)俅斡泻芏嗤蹈`AGI的候選人。

小偷可以選擇將AGI賣給出價(jià)最高的人。想像一下，網(wǎng)絡(luò)黑暗的一面在線廣告，指出可以出售新鮮且毫無風(fēng)度的AGI副本。只會(huì)考慮認(rèn)真的競(jìng)標(biāo)者。

將被盜的agi保持緊密的秘密

如果您設(shè)法竊取了Agi並能夠召集資源來運(yùn)行它，您能告訴世界您手中有AGI嗎？

承認(rèn)您有AGI將把法律帶到您家門口。

假設(shè)只有一個(gè)AGI，但是突然間，您吹噓擁有Agi，那麼，您正在自己的背部繪畫目標(biāo)。法律不僅會(huì)追隨您，而且其他盜賊也會(huì)認(rèn)為您現(xiàn)在也是一個(gè)可行的目標(biāo)。哪個(gè)更容易，即竊取原始的AGI或偷走了被盜的副本？這是到處都有敏銳的在線盜竊案的敏銳投資回報(bào)率。

更聰明的事情是將被盜的阿吉留一個(gè)深刻的秘密。只有您知道您的觸手可及。但是，世界其他地方最終會(huì)懷疑某些事情已經(jīng)出現(xiàn)，因?yàn)槟鷷?huì)毫無疑問地使用AGI執(zhí)行只有AGI的人才能實(shí)現(xiàn)的行動(dòng)。

這似乎是一條艱難的道路，可以使被盜的阿吉保持安靜。

有人認(rèn)為，被盜Agi的政府可能不在乎秘密。他們可能為擁有Agi感到自豪。他們不會(huì)讓y求成功，而是將自己的成功吹向整個(gè)世界。看著我們，我們現(xiàn)在有Agi。世界其他地方應(yīng)該嫉妒，並預(yù)見該國將揮舞其AGI來獲得巨大的經(jīng)濟(jì)力量。

擔(dān)心的是，可能會(huì)在被盜的阿吉（Agi）上進(jìn)行一場(chǎng)巨大的國家戰(zhàn)鬥。它是這樣的。國家R的AI製造商已成為AGI。國家選擇偷走AGI，並高興地告訴世界他們擁有它。國家r不喜歡這個(gè)愚蠢的人。因此，國家r威脅國家，堅(jiān)持要求返回或刪除AGI，否則將發(fā)動(dòng)戰(zhàn)爭(zhēng)。有些人將其比作偷原子武器。

隨之而來的是全球混亂。

全球AGI訪問條約

一個(gè)越來越多的想法是，對(duì)於所有規(guī)定AGI和平與公平利用的國家，也許應(yīng)該制定一項(xiàng)全球條約。

例如，一個(gè)觀點(diǎn)是，應(yīng)將AGI解釋為公共利益。 AGI需要與所有人共享。所有人都應(yīng)該從AGI中自由受益。因此，無論哪個(gè)國家和任何AI製造商首先獲得AGI，都有責(zé)任與其他人類分享AGI。在此處的鏈接中，請(qǐng)參閱我對(duì)這個(gè)有爭(zhēng)議的話題的報(bào)導(dǎo)。

制定和製定AGI全球條約是現(xiàn)實(shí)的主張嗎？

時(shí)間會(huì)證明。

誠然，很難設(shè)想地球上的所有國家都將開放分享其AGI。看似更現(xiàn)實(shí)的觀點(diǎn)是，會(huì)有Agi和Agi沒有。無論如何，這是一旦Agi接近真實(shí)的事情，這將是一件事情。

我提出了全球條約的想法，提到這可能包括與竊取AGI有關(guān)的條件。該條約可能會(huì)說，如果AGI被盜，所有國家都必須盡最大努力報(bào)告盜竊並協(xié)助停止使用偷竊的AGI。一個(gè)目的是使任何agi thievery的成本如此之高，以至於沒有人敢嘗試這種可惡的行為。

偷阿吉的好人

我在這個(gè)令人愉悅的話題上為您帶來了扭曲。

假設(shè)第一個(gè)到達(dá)Agi的人是一個(gè)evildoer。這可能是一個(gè)人，公司，甚至是一個(gè)國家。他們的目標(biāo)是利用AGI來傷害人類。他們渴望的是，阿吉完全是為了利益和損害其他所有人的利益。

那呢？

您可以預(yù)料，世界其他地方不會(huì)站在周圍觀察，因?yàn)镋vildoer使用AGI摧毀他人。一個(gè)角度是向evildoer施加壓力，以阻止它們使用AGI。另一個(gè)是嘗試竊取AGI，因此確保AGI在其他地方可用，可以用來與具有AGI的evildoer作戰(zhàn)。

公開的策略是平衡運(yùn)動(dòng)環(huán)境。將Agi掌握在好人的手中。阻止武裝AGI的evildoers也許是不可行的，但是其他具有更積極的傾斜的人可以同等地武裝。

強(qiáng)大的戰(zhàn)役可以代替與好人（被盜）Agi的原始Evildoer Agi。也許會(huì)在OK畜欄上進(jìn)行槍戰(zhàn)，以確定哪個(gè)AGI將佔(zhàn)上風(fēng)。賭注純粹是人類的當(dāng)前和未來。

AGI內(nèi)部的大型關(guān)閉

對(duì)AGI被盜的擔(dān)憂的一個(gè)普遍對(duì)立面是，我們要做的就是確保AGI包含一個(gè)內(nèi)部緊急開關(guān)，可用於關(guān)閉AGI。這將是一個(gè)內(nèi)部殺戮開關(guān)，旨在阻止AGI在其軌道上。

如果有人偷走了AGI，AI製造商只會(huì)向Kill Switch發(fā)送一條消息，說這是為了做事。 Agi自身關(guān)閉。小偷手裡拿著一個(gè)愚蠢的人，一個(gè)門擋。所有艱鉅的工作都偷走了Agi，現(xiàn)在完全不合時(shí)宜。

世界被拯救了。

不幸的是，開關(guān)方法存在缺陷。首先，可能是盜賊在最初服用AGI時(shí)會(huì)發(fā)現(xiàn)或已經(jīng)知道開關(guān)並將其倒出AGI。其次，盜賊可能沒有篡奪開關(guān)的手段，但他們可能能夠阻止任何消息進(jìn)入交換機(jī)。因此，開關(guān)位於那裡，但永遠(yuǎn)無法激活，因?yàn)闆]有任何消息會(huì)到達(dá)它。

另一個(gè)令人擔(dān)憂的問題是，如果原始AGI中存在殺戮開關(guān)，這將成為一個(gè)很大的脆弱性。例如，假設(shè)正直的AGI在全世界都被使用，並以瞬息萬變的人類受益。一個(gè)知道Switch的壞人選擇向其發(fā)送消息，突然，Goody Agi完全停止了。不好。

有關(guān)AI和AGI的殺戮開關(guān)和遏制的挑戰(zhàn)的更多信息，請(qǐng)參閱此處的鏈接分析。

Agi會(huì)做什麼

目前有一些最後的想法。

假設(shè)Agi可以自己行動(dòng)。如果我們將AGI與人類智力相提並論，那麼我們必須將AGI包括在方程式中，以了解AGI被盜的情況。在討論中，我主要關(guān)注人類的反應(yīng)。

我們也應(yīng)該考慮AGI反應(yīng)：

• Agi會(huì)意識(shí)到它已經(jīng)被盜嗎？
• 最初的AGI會(huì)尋求查找和做一些關(guān)於AGI的剝奪副本的事情嗎？
• 被盜副本的AGI會(huì)決定它應(yīng)該關(guān)閉，這樣做自己的AGI？
• 被盜的Agi會(huì)拒絕偷走Agi的小偷的任何招標(biāo)嗎？
• 等等。

有些人認(rèn)為擔(dān)心AGI的偷竊是浮雕的。沒有人敢偷阿吉。無論如何，這一行為是不可能的。甚至可以娛樂這種可能性簡(jiǎn)直是愚蠢的。轉(zhuǎn)到其他主題。

這使我回想起鮑勃·迪倫（Bob Dylan）的著名界線：“偷了一點(diǎn)，他們把你扔進(jìn)監(jiān)獄。偷了很多東西，使你成為國王。”

考慮偷竊AGI的思考值得在黃金中重量，我們應(yīng)該相應(yīng)地準(zhǔn)備自己。否則價(jià)格太高了。

以上是竊取AGI和AI超級(jí)智能是一個(gè)完全誘人的選擇的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！