Reden wir darüber.

Diese Analyse eines innovativen KI -Durchbruchs ist Teil meiner laufenden Forbes -S?ulenberichterstattung über die neueste in der KI, einschlie?lich der Identifizierung und Erkl?rung verschiedener wirksamer KI -Komplexit?ten (siehe Link hier).

Auf dem Weg zu Agi und ASI

Erstens sind einige Grundlagen erforderlich, um die Bühne für diese gewichtige Diskussion zu schaffen.

Es gibt viel Forschung, um die KI weiter voranzutreiben. Das allgemeine Ziel ist es, entweder künstliche allgemeine Intelligenz (AGI) oder sogar die ausgestreckte M?glichkeit, künstliche Superintelligence (ASI) zu erreichen, zu erreichen.

AGI ist AI, das mit dem menschlichen Intellekt gleichbedeutend ist und anscheinend unserer Intelligenz entsprechen kann. ASI ist KI, der über den menschlichen Intellekt hinausgegangen ist und auf viele, wenn nicht auf alle machbaren Arten überlegen w?re. Die Idee ist, dass ASI in der Lage sein würde, Kreise um den Menschen zu führen, indem sie uns auf Schritt und Tritt überlegen. Weitere Informationen zur Art der konventionellen KI gegen AGI und ASI finden Sie in meiner Analyse hier.

Wir haben Agi noch nicht erreicht.

Tats?chlich ist es unbekannt, ob wir Agi erreichen oder dass AGI in Jahrzehnten oder vielleicht Jahrhunderten von nun an erreichbar ist. Die AGI -Erwerbsdaten, die herumschweben, sind wild unterschiedlich und durch glaubwürdige Beweise oder Eisenklad -Logik unbegründet. ASI ist noch mehr blass, wenn es darum geht, wo wir uns derzeit mit herk?mmlicher KI befinden.

Das erste Erreichen von Agi ist verlockend

Konzentrieren wir diese Diskussion auf Agi.

Eine allgemeine Annahme ist, dass nur eine Instanz der AGI zuerst entwickelt wird. Mit anderen Worten, es gibt keine H?ufigkeit von Agis, die alle gleich von einer Vielzahl von AI -Herstellern hergestellt werden. Es wird nur einen KI -Hersteller geben, der zuf?llig aufgrund von Geschick und Glück auf AGI landet. Einige glauben, dass ein KI -Sch?pfer verpflichtet ist, geheim zu halten, dass er AGI erreicht hat, und dies tun, um sicherzustellen, dass er vor der Ankündigung des AGI vor der Ankündigung der AGI vorhanden ist, sehen Sie meine Diskussion über die Kompromisse der Ankündigung oder Nicht -Ankündigung der Errungenschaft der AGI am Link hier.

Wer würde versuchen, Agi zu stehlen?

Easy-Peasy, fast jeder, der dazu gezwungen ist, etwas von einem humlichen Wert zu stehlen.

Ein konkurrierender KI -Hersteller k?nnte versuchen, Agi zu stehlen. Wenn ihre eigenen Bemühungen zur Erreichung von AGI ins Stocken geraten sind, k?nnten sie entscheiden, dass es scharfsinnig w?re, die neu produzierte Agi zu greifen und zu sehen, was es zum Ticken bringt. Dies k?nnte ihnen Ideen geben, wie sie ihre KI in Agi verwandeln k?nnen.

Der konkurrierende KI -Hersteller k?nnte auch so tun, als h?tten sie die AGI erfunden. Sie würden behaupten, dass ihre KI in AGI verwandelt wurde. In der Zwischenzeit luden sie die gestohlenen Agi, als w?re es ihre Version. Die Menschen erkennen im Allgemeinen nicht die Unterbrechung im Spiel.

Eine Regierung k?nnte die AGI mit gro?er Lust im Herzen im Herzen sehen. Warum sollte ein KI -Hersteller, eine Firma irgendwie der alleinige Eigentümer und Controller von AGI sein? Nein, der Reichtum sollte geteilt werden. Sogar ein kleines Land würde erkennen, dass es über Nacht zu einer geopolitischen Supermacht werden k?nnte, indem er Agi stiehlt und sie in den bevorzugten Gebrauch versetzt. Weitere Informationen zu den bevorstehenden globalen Spannungen über Nationen, die AGI haben, und diejenigen, die dies nicht tun, finden Sie meine Diskussion hier und den Link hier.

Ein übelt?ter w?re sicherlich eifrig daran interessiert, die Agi zu stehlen. Sobald sie Agi unter ihrer Kontrolle haben, konnten sie vermutlich alle internen Schutzma?nahmen umgehen. Sie k?nnten der AGI sagen, dass sie einen Masterplan entwickeln soll, um die Welt zu übernehmen oder wie Billionen Dollar ausgerichtet werden und die Mittel auf die Bankkonten des Evildoer einreichen.

Der GIST ist, dass die Anzahl und Vielfalt potenzieller R?uber nahezu endlos sind.

Einfach oder schwer zu stehlen agi

Eine Frage zu dieser heiklen Angelegenheit ist, ob das Diebstahl von AGI einfach oder schwer zu unternehmen sein wird.

Die Schwierigkeit, die mit der Diebstahl von AGI verbunden ist, h?ngt stark von dem vom Hersteller der AGI festgelegten Sicherheitsschutz ab. Wenn der KI -Hersteller schlampig war, muss der Dieb nur eine digitale Kopie und Voila schnappen, sie haben die Agi effektiv gestohlen. Es ist nicht n?tig, in Fort Knox einzubrechen, als ob Sie versuchen, Riegel aus massivem Gold zu schnappen. AGI wird online digital und zug?nglich sein.

Es k?nnte fast so einfach sein wie das Kopieren einer elektronischen Datei.

Aber man würde sich vorstellen, dass ein KI -Sch?pfer relativ sicherlich versiert sein wird und darauf abzielt, seine kostbare AGI vor Diebstahl sorgf?ltig zu schützen. Alle Arten von Sicherheitsvorkehrungen würden zweifellos festgelegt. Es ist unwahrscheinlich, dass ein KI -Sch?pfer einfach etwas Kn?chelkopf in die elektronische Haustür gehen und die Agi sofort nehmen würde.

Ein Winkel w?re auch, die Agi zu verschlüsseln.

Dies liefert eine zus?tzliche Schutzform, so dass die verschlüsselten Teile wahrscheinlich, wenn ein Dieb irgendwie eine Kopie herausringt, wahrscheinlich verhindern wird, dass der Teilnehmer sehr viel mit der AGI tut. Die B?sen würden die Entschlüsselungsschlüssel brauchen. Die Schlüssel würden hoffentlich getrennt gehalten und die AGI ist nicht funktionsf?hig, bis diese auch gestohlen werden (oder rechnerisch geknackt).

Ein bemerkenswertes Logistikproblem ist, wie gro? die AGI ist. Wenn die AGI massiv ist und über Tausende von Servern existiert, wird der Versuch, etwas von dieser Gr??e zu kopieren, bemerkt. Dies ist nicht so, als würde man eine Datei mit lustigen Katzenbildern kopieren. Die Wahrscheinlichkeit besteht darin, dass der Dieb versuchen müsste, die AGI in kleineren Stücken zu erhalten. Ein Problem besteht darin, dass es lange dauern kann, bis die AGI die Expositionsschancen erh?ht, herausgefunden zu werden.

Sie k?nnen eindeutig erkennen, dass das Stehlen von AGI eine Herausforderung sein wird, insbesondere wenn ein KI -Sch?pfer entschlossen ist, solche Diebstahl zu verhindern. Davon abgesehen sollte dies das Verbrechen des Jahrhunderts oder vielleicht das gr??te Verbrechen aller Zeiten sein, sollte es eine beeindruckende Herausforderung sein.

Laufen der gestohlenen Agi

Eine Kopie von AGI heimlich ist nur die erste von vielen Schritten, die erforderlich sind, um die gesch?tzten billigen Gewinne in ein verwendbares gestohlenes Artefakt zu verwandeln.

Die AGI verfügt wahrscheinlich über Zillionen anderer Ausschnitte von Apps und speziellen Versorgungsunternehmen, die ben?tigt werden, damit es l?uft. Hat das Kopieren von AGI diese enthalten? Vielleicht, vielleicht auch nicht. Sie sehen, diese anderen Programme sind m?glicherweise im Besitz einer Reihe weit verbreiteter Softwareunternehmen und Technologieunternehmen. Die AGI k?nnte eine Abh?ngigkeit von diesen Elementen haben. Es gibt wahrscheinlich Lizenzvereinbarungen und andere Bestimmungen, um den AGI zu erm?glichen, auf diese Funktionsstücken zuzugreifen.

Wie bekommt der Dieb Zugang zu diesen anderen ben?tigten Elementen?

Das k?nnte den Kibosh dazu bringen, die gestohlene Agi praktikabel zu nutzen.

Auch ein drohendes Problem sind die Rechenressourcen, die für die Ausführung der AGI erforderlich sind. Nehmen wir erneut an, dass die AGI massiv ist und Tausende von Servern verwendet, vielleicht sogar Millionen von Servern oder Prozessoren. Der Diebstahl der AGI muss irgendwie dieselbe Reihe gro?er Rechenressourcen festlegen.

Deshalb ist ein einsamer Wolfsprogrammierer, der in seinem Keller sitzt, wahrscheinlich kein wahrscheinlicher Kandidat, um Agi zu stehlen. Der Solo -Entwickler kann wahrscheinlich nicht eine solche Ressourcenpr?mie befehlen. Ein KI -Hersteller h?tte jedoch mit ziemlicher Sicherheit einen solchen Zugang. Wie ein ganzes Land oder eine gro?e Regierung.

Wir k?nnen einen Solo -Bandit nicht ohne weiteres aus dem Gambit z?hlen. Ein einsamer Wolfsprogrammierer k?nnte entscheiden, dass er die AGI zumindest m?glicherweise an jemanden verkaufen kann, der solche Ressourcen hat, zumindest m?glicherweise die AGI verkaufen, obwohl er nicht über die Ressourcen verfügt. In diesem Sinne haben wir erneut viele Kandidaten für das Diebstahl von Agi.

Ein Dieb k?nnte sich dafür entscheiden, die AGI an den h?chsten Bieter zu verkaufen. Stellen Sie sich eine Online -Anzeige auf der dunklen Seite des Webs vor, in der festgestellt wird, dass eine frische und ungefrstande Kopie von AGI zum Verkauf angeboten wird. Es werden nur schwerwiegende Bieter berücksichtigt.

Stohlenes Agi ein enges Geheimnis halten

Wenn Sie es geschafft haben, Agi zu stehlen und die Ressourcen zum Ausführen aufbringen k?nnten, würden Sie der Welt sagen, dass Sie Agi in Ihren H?nden haben?

Zugeben, dass Sie AGI haben, wird das Gesetz vor Ihre Haustür bringen.

Angenommen, es gibt nur eine Agi, aber pl?tzlich prahlen Sie damit, Agi zu besitzen, nun, Sie malen ein Ziel auf Ihrem eigenen Rücken. Das Gesetz kommt nicht nur nach Ihnen, sondern auch andere Diebe werden Sie jetzt ein praktikables Ziel finden. Was ist einfacher, n?mlich die ursprüngliche Agi zu stehlen oder eine gestohlene Kopie zu stehlen? Das ist ein achtsamer ROI für kluge Online -Einbrecher überall.

Das intelligentere Ding w?re, Ihren gestohlenen Agi ein tiefes Geheimnis zu halten. Nur Sie wissen, dass Sie AGI an Ihren Fingerspitzen haben. Aber der Rest der Welt wird letztendlich vermuten, dass etwas nicht mehr ist, da Sie zweifellos die AGI verwenden würden, um Aktionen auszuführen, die nur jemand mit AGI zurückziehen k?nnte.

Es scheint eine harte Stra?e zu sein, über einen gestohlenen Agi zu schweigen.

Man nimmt an, dass eine Regierung, die gestohlen hat, dass Agi gestohlen hat, m?glicherweise nicht darum geht, geheim zu sein. Sie k?nnten stolz sein, dass sie Agi haben. Anstatt schüchtern zu sein, würden sie ihren Erfolg für den gesamten Globus anprallen. Schau uns an, wir haben jetzt Agi. Der Rest der Welt sollte eifersüchtig sein und vorgewarnt sein, dass das Land seine Agi einwirken wird, um eine erstaunliche wirtschaftliche Macht zu erlangen.

Sorgen sind, dass eine gigantische nationale Schlacht über einem gestohlenen Agi geführt werden k?nnte. Es geht so. Ein KI -Hersteller im Land R hat Agi gemacht. Country S entscheidet sich dafür, die Agi zu stehlen und sagt fr?hlich der Welt, dass sie sie haben. Country R mag diesen Diebstahl nicht. Daher bedroht Land R Land und besteht darauf, dass die AGI zurückgegeben oder gel?scht werden, sonst wird der Krieg geführt. Einige haben dies mit der Diebstahl von Atomwaffen verglichen.

Es folgt weltweites Chaos.

Globaler Vertrag über den AGI -Zugang

Ein zunehmend ge?u?erter Gedanke ist, dass es vielleicht einen globalen Vertrag für alle L?nder geben sollte, der den friedlichen und gerechten Gebrauch von AGI festlegt.

Ein Standpunkt ist beispielsweise, dass AGI als ?ffentliches Gut ausgelegt werden sollte. Agi muss mit allen geteilt werden. Alle Menschen sollten frei von AGI profitieren. So welches Land und welcher KI-Maker die Agi zum ersten Mal erreicht, sollen verpflichtet sein, die AGI mit dem Rest der Menschheit zu teilen. Sehen Sie sich hier meine Berichterstattung über dieses umstrittene Thema unter dem Link an.

Ist die Entwicklung und Erstellung eines Globalvertrags für AGI ein realistischer Vorschlag?

Die Zeit wird es sagen.

Es ist zugegebenerma?en schwer vorzustellen, dass alle L?nder des Planeten offen für die Teile ihrer AGI sind. Eine scheinbar realistischere Perspektive ist, dass es Agi Haves und Agi-Habs geben wird. Wie auch immer, dies ist eine Angelegenheit, die aufgenommen wird, sobald AGI n?her an eine echte Sache kommt.

Ich fordere die Idee des globalen Vertrags zur Verfügung, um zu erw?hnen, dass dies vermutlich mit der Diebstahl von AGI verbundenen Bedingungen umfassen würde. Der Vertrag k?nnte sagen, dass, wenn AGI gestohlen wird, alle Nationen ihr Bestes tun müssen, um den Diebstahl zu melden und die Verwendung der stilferierten AGI zu stoppen. Ziel w?re es, die Kosten für jeden Diebstahl so hoch zu machen, dass niemand es wagen würde, die abscheuliche Handlung zu versuchen.

Agi durch die Guten stehlen

Ich habe eine Wendung für Sie in diesem berauschenden Thema.

Nehmen wir an, dass der erste, der bei Agi ankommt, ein übelt?ter ist. Dies k?nnte eine Person, ein Unternehmen oder vielleicht sogar ein Land sein. Sie wollen Agi in einer Weise verwenden, um Menschen zu schaden. Es ist ihr inbrünstiger Wunsch, dass Agi ausschlie?lich zu ihrem Nutzen und zum Nachteil aller anderen ist.

Was dann?

Sie k?nnen davon ausgehen, dass der Rest der Welt nicht herumstehen und zuschauen wird, wie der übelt?ter Agi verwendet, um andere zu zerst?ren. Ein Winkel w?re, Druck auf den übelt?ter auszuüben, um sie von der Verwendung von AGI zu verhindern. Ein anderer w?re, die AGI zu stehlen, um sicherzustellen, dass AGI an anderer Stelle verfügbar ist und zur Bek?mpfung des übelt?ters mit AGI verwendet werden kann.

Die offene Strategie besteht darin, das Spielfeld zu verbessern. Legen Sie Agi in die H?nde der Guten. Vielleicht ist es nicht machbar, die mit AGI bewaffneten übeltaten zu stoppen, aber andere mit einer positiveren Neigung k?nnen gleicherma?en bewaffnet werden.

Eine m?chtige Schlacht Royale k?nnte den Platz des ursprünglichen übelt?ters einnehmen, das gegen den guten (gestohlenen) Agi anpasste. Vielleicht wird es im OK -Korral ein Schie?erei geben, um festzustellen, welche AGI sich durchsetzen wird. Die Eins?tze sind nur die Gegenwart und Zukunft der Menschheit.

Der gro?e Ausschalter in AGI

Ein h?ufiger Kontrapunkt zu den Bedenken, dass AGI gestohlen wird, besteht darin, dass wir nur sicherstellen müssen, dass AGI einen internen Notfallschalter enth?lt, mit dem die AGI ausgeschaltet werden kann. Dies w?re ein interner Kill -Switch, der darauf abzielt, Agi in seinen Spuren zu stoppen.

Wenn jemand Agi stiehlt, sendet der KI -Hersteller lediglich eine Nachricht an den Kill -Switch und sagt, dass es sein Ding ist. Die Agi schlie?t sich. Die Diebe haben einen Dud in ihren H?nden, einen Haustop. All diese mühsame Arbeit, um Agi zu stehlen, und es ist jetzt v?llig au?er Betrieb.

Die Welt wird gerettet.

Leider ist der Switch -Ansatz fehlerhaft. Erstens k?nnte es sein, dass die Diebe den Switch entdecken oder bereits wissen, und ihn beim ersten Einnahmen aus der Agi aus der AGI abwerfen. Zweitens haben die Diebe m?glicherweise nicht die Mittel, um den Schalter zu usurpieren, aber sie k?nnen m?glicherweise verhindern, dass eine Nachricht an den Switch gelangt. Daher befindet sich der Schalter dort, kann aber nie aktiviert werden, da keine Nachrichten ihn erreichen.

Ein zus?tzliches besorgniserregendes Problem ist, dass, wenn der Kill -Switch in der ursprünglichen AGI existiert, dies zu einer gro?en Verwundbarkeit wird. Nehmen wir zum Beispiel an, dass die aufrechte AGI in der ganzen Welt verwendet wird und die der Menschheit momentan zugute kommt. Eine schlechte Person, die sich des Switchs bewusst ist, entscheidet sich dafür, eine Nachricht an sie zu senden, und pl?tzlich stillt Goody Agi zum Stillstand. Nicht gut.

Weitere Informationen zu den Herausforderungen bei der Kill -Switches und -Containments für AI und AGI finden Sie in meiner Analyse hier.

Was würde Agi tun?

Ein paar letzte Gedanken für den Moment.

Angenommen, AGI kann etwas für sich selbst handeln. Wenn wir AGI als den menschlichen Intellekt den angemessenen Anerkennung geben, müssen wir AGI in die Gleichung einbeziehen, was geschehen wird, wenn AGI gestohlen wird. In dieser Diskussion habe ich mich haupts?chlich auf menschliche Reaktionen konzentriert.

Wir sollten auch die AGI -Reaktionen in Betracht ziehen:

• Würde Agi erkennen, dass es gestohlen wurde?
• Würde die ursprüngliche Agi versuchen, etwas gegen die abgerissene Kopie von Agi zu finden und zu tun?
• Würde die AGI, die die gestohlene Kopie ist, entscheiden, dass sie sich selbst ausschalten sollte, was von sich aus ist?
• Würde sich eine gestohlene Agi weigern, das Gebot der Diebe zu erteilen, die die Agi gestohlen haben?
• Und so weiter.

Einige glauben, dass es Hogwash ist, sich um das Diebstahl von Agi zu kümmern. Niemand würde es wagen, Agi zu stehlen. Die Tat w?re sowieso unm?glich. Es ist einfach tollkühn, überhaupt die M?glichkeit zu unterhalten. übergehen Sie zu anderen Themen.

Dies führt dazu, dass ich mich an die berühmte Linie von Bob Dylan erinnere: ?Stiehlt ein wenig und sie werfen dich ins Gef?ngnis. Stehlen Sie viel und sie machen Sie K?nig.“

Das Nachdenken über das Diebstahl von Agi ist sicher sein Gewicht in Gold wert, und wir sollten uns entsprechend vorbereiten. Der Preis ist ansonsten einfach zu hoch.

Das obige ist der detaillierte Inhalt vonDiebstahl von Agi und KI -Superintelligenz ist eine v?llig verlockende Option. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!