Beachten Sie, dass die Vereinten Nationen ein st?ndiges Interesse daran hatten, wie die KI voranschreitet und welche Art von internationalen multilateralen Vereinbarungen und Zusammenarbeiten stattfinden sollten (siehe meine Berichterstattung hier). Das charakteristische Element dieses neuesten Berichts ist, dass der Schwerpunkt derzeit auf unserer Erreichung von AGI, einem H?hepunkt der KI, liegen muss. Viele in der KI -Community behaupten, dass wir uns bereits dem H?cker von AGI n?hern und wiederum bald danach zu künstlichen Superintelligence (ASI) gelangen werden.

Aus Gründen der Menschheit und des globalen überlebens bemüht sich die UN, ein Mitspracherecht in der Regierungsführung und Kontrolle von AGI und letztendlich ASI zu haben.

Reden wir darüber.

Diese Analyse eines innovativen KI -Durchbruchs ist Teil meiner laufenden Forbes -S?ulenberichterstattung über die neueste in der KI, einschlie?lich der Identifizierung und Erkl?rung verschiedener wirksamer KI -Komplexit?ten (siehe Link hier).

Auf dem Weg zu Agi und ASI

Erstens sind einige Grundlagen erforderlich, um die Bühne für diese gewichtige Diskussion zu schaffen.

Es gibt viel Forschung, um die KI weiter voranzutreiben. Das allgemeine Ziel ist es, entweder künstliche allgemeine Intelligenz (AGI) oder sogar die ausgestreckte M?glichkeit, künstliche Superintelligence (ASI) zu erreichen, zu erreichen.

AGI ist AI, das mit dem menschlichen Intellekt gleichbedeutend ist und anscheinend unserer Intelligenz entsprechen kann. ASI ist KI, der über den menschlichen Intellekt hinausgegangen ist und auf viele, wenn nicht auf alle machbaren Arten überlegen w?re. Die Idee ist, dass ASI in der Lage sein würde, Kreise um den Menschen zu führen, indem sie uns auf Schritt und Tritt überlegen. Weitere Informationen zur Art der konventionellen KI gegen AGI und ASI finden Sie in meiner Analyse hier.

Wir haben Agi noch nicht erreicht.

Tats?chlich ist es nicht bekannt, ob wir AGI erreichen oder ob AGI in Jahrzehnten oder vielleicht Jahrhunderten von nun an erreichbar ist. Die AGI -Erwerbsdaten, die herumschweben, sind wild unterschiedlich und durch glaubwürdige Beweise oder Eisenklad -Logik unbegründet. ASI ist noch mehr blass, wenn es darum geht, wo wir uns derzeit mit herk?mmlicher KI befinden.

Die Vereinten Nationen sind auf KI und AGI

Ich habe zuvor zahlreiche UN -Anstrengungen untersucht, wohin KI führt und wie die Gesellschaft die fortgeschrittene KI am besten nutzen sollte.

Zum Beispiel habe ich ausgiebig die Art und Weise festgelegt, wie die Vereinten Nationen empfohlen werden, die KI zur Erreichung der gepriesenen Nachhaltigkeitsentwicklungsziele (SDGs) zu erreichen, siehe Link hier. Ein weiteres wichtiges Dokument der Vereinten Nationen ist die von der UNESCO geführte Vereinbarung über die Ethik der KI, die der erste globale Konsens mit 193 L?ndern über die geeignete Verwendung von fortschrittlicher KI war (siehe meine Analyse am Link hier)

Der jüngste bemerkenswerte Bericht tr?gt den Titel ?Governance des übergangs zu künstlichen Allgemeinen Geheimdienst (AGI): Dringende überlegungen für die Generalversammlung der Vereinten Nationen“ und wurde dem Rat der Pr?sidenten der Generalversammlung der Vereinten Nationen (UNCPGA) vorbereitet und vorgelegt.

Hier sind einige wichtige Punkte in diesem Bericht (Auszüge):

• "KI -Systeme rücken schnell in Richtung künstlicher allgemeine Intelligenz (AGI), die durch Systeme gekennzeichnet sind, die die menschliche Intelligenz in verschiedenen kognitiven Aufgaben entsprechen oder übertreffen k?nnen."
• ?Im Gegensatz zu traditioneller KI k?nnte AGI autonom sch?dliche Handlungen über die menschliche Aufsicht hinaus ausführen, was zu irreversiblen Auswirkungen, Bedrohungen durch fortschrittliche Waffensysteme und Schwachstellen bei kritischen Infrastrukturen führt.“
• "Es ist unerl?sslich, diese globalen Herausforderungen effektiv zu bew?ltigen, sofortige und koordinierte internationale Ma?nahmen, die von den Vereinten Nationen unterstützt werden."
• "Ohne proaktives globales Management wird der Wettbewerb zwischen Nationen und Unternehmen die riskante AGI -Entwicklung beschleunigen, Sicherheitsprotokolle untergraben und geopolitische Spannungen versch?rfen."
• "Koordinierte internationale Ma?nahmen k?nnen diese Ergebnisse verhindern und die sichere AGI -Entwicklung und -nutzung, eine gerechte Verteilung der Leistungen und die globale Stabilit?t f?rdern."

Das Fazit ist, dass ein starker Fall vorgenommen werden kann, dass die Gesellschaft, wenn AGI losgelassen und unzureichend überwacht werden darf, einem schwerwiegenden Risiko ausgesetzt ist. Es stellt sich eine Frage, wie sich die Nationen der Welt vereinen k?nnen, um zu versuchen, dieses Risiko zu mildern. Treffend sind die Vereinten Nationen der Ansicht, dass sie die geeignete K?rperschaft sind, um diese Herausforderung zu stellen.

Un gegebene vier gro?e Anfragen gegeben

Was sagt der UN -Bericht über dringend ben?tigte Schritte zur Bew?ltigung des Aufkommens der AGI aus?

Diese vier entscheidenden Empfehlungen werden streng gefordert:

• (1) ein globales AGI -Observatorium einrichten.
• (2) Erstellen Sie eine Reihe internationaler Best Practices und Zertifizierungen für sichere und vertrauenswürdige AGI.
• (3) Einen speziellen Rahmenkonvention über AGI einberufen.
• (4) Erstellen Sie m?glicherweise eine neue UN -Agentur, die sich ausschlie?lich dem Agi -Advent widmet.

Diese Empfehlungen werden vom Pr?sidentenrat der Generalversammlung der Vereinten Nationen berücksichtigt.

Im Gro?en und Ganzen würde es zweifellos eine Form von UN -Generalversammlungen der UN -Generalversammlung in die UN -Generalversammlung integrieren und zweifellos in andere AI -Initiativen der Vereinten Nationen integriert werden. Es ist m?glich, dass keine der Empfehlungen fortgesetzt wird. Ebenso k?nnen die Empfehlungen überarbeitet oder rekonstruiert und auf andere Weise verwendet werden.

Ich werde Sie auf dem Laufenden halten, w?hrend die gesch?tzte Angelegenheit fortschreitet.

Lassen Sie uns diese vier Empfehlungen ein wenig auspacken. Ich werde dies nacheinander tun und dann einen provokativen oder vielleicht ansprechenden Schluss ziehen.

Globales AI -Observatorium

Die erste der vier Empfehlungen beinhaltet die Einrichtung eines globalen AGI -Observatoriums, das den überblick über das, was mit AGI passiert, verfolgt. Stellen Sie sich dies als ein spezielles Online -Repository vor, das als kuratierte Informationsquelle über AGI dienen würde.

Ich bin damit einverstanden, dass dies für die UN -Mitgliedstaaten m?glicherweise immens hilfreich sein würde und für die ?ffentlichkeit nützlich ist.

Sie sehen, das Problem ist im Moment, dass es eine enorme Menge an Fehlinformationen und Desinformationen in Bezug auf AGI gibt, die sich verteilt, oft wild hyporen oder manchmal das Aufkommen von AGI und ASI unterbewertet. Unter der Annahme, dass das AGI -Observatorium ordnungsgem?? entwickelt und angemessen vorsichtig in dem gesammelt und geteilt wurde, w?re es sehr nützlich, eine Quelle über AGI zu haben, die zuverl?ssig und ausgeglichen ist.

Eine m?gliche Kritik an einem solchen AGI -Observatorium w?re, dass es m?glicherweise doppelte ?hnliche kommerzielle oder nationale Sammlungen über AGI doppelt ist. Ein weiterer Qualm w?re, wenn das AGI -Observatorium voreingenommen werden dürfe, es würde die Aura von etwas Gleichsamer irreführend tragen, aber tats?chlich auf gerichtete Weise gekippt werden.

Best Practices und Zertifizierung für AGI

Die zweite Empfehlung fordert, dass eine Reihe von AGI -Best Practices erstellt werden. Dies würde den Nationen beim Verst?ndnis helfen, welche Art von Governance -Strukturen als für die sinnliche überwachung der Agi in ihrem jeweiligen Land in Betracht gezogen werden sollten. Es k?nnte die Nationen anregen, um auf einer ebenen Wettbewerbsbedingungen vorzugehen. Darüber hinaus reduziert es die sprichw?rtliche Neuerfindung des Rades, n?mlich dass die Nationen einfach eine bereits vorgestellte Reihe von AGI -Best Practices übernehmen oder anpassen k?nnen.

Sie müssen solche Bestimmungen nicht von Grund auf neu schreiben.

In ?hnlicher Weise w?re die Einrichtung von Zertifizierungen für AGI gut mit den Best Practices der AGI ausgerichtet. KI -Hersteller und L?nder insgesamt würden hoffentlich eine Zertifizierung ihrer AGI und deren übereinstimmung mit lebenswichtigen Standards preisen.

Eine Kritik an dieser Front ist, dass, wenn die UN nicht bew?hrte Praktiken zu einem obligatorischen Aspekt macht, und wenn die AGI -Zertifizierung lediglich optional ist, würden nur wenige L?nder die Mühe machen, sie zu adoptieren. In diesem Sinne ist die gesamte Erfindung haupts?chlich Fensterdressing und nicht eine überlegung von Fu? bis zum Feuer.

UN -Rahmenkonvention

Im Falle der Vereinten Nationen wird erwartet, dass es eine Rahmenkonvention zu bedeutenden Themen fordert.

Da AGI reichlich ein bedeutendes Thema ist, ist hier ein Snapshot-Auszug dessen, was im Bericht vorgeschlagen wird: ?Eine Rahmenkonvention über AGI ist erforderlich, um gemeinsame Ziele und flexible Protokolle zur Behandlung von AGI-Risiken zu ermitteln und eine gerechte globale Vorteilsverteilung zu gew?hrleisten. Es sollte die Verteilung von Kl?rrisiken definieren, die proportional internationale Ma?nahmen erfordern. Entwicklung."

Die übliche Kritik an solchen Aktivit?ten ist, dass sie zu einem bürokratischen Albtraum werden k?nnen, der nicht viel von etwas Wesentlichem produziert. Au?erdem k?nnen sie sich ausdehnen und eine lange Angelegenheit sein. Dies ist in diesem Fall besonders beunruhigend, wenn Sie glauben, dass AGI am nahezu Horizont ist.

Formulieren Sie die Agi -Agentur

Die vierte Empfehlung zeigt, dass eine Machbarkeitsstudie durchgeführt wird, um zu beurteilen, ob eine neue UN -Agentur eingerichtet werden sollte. Dies w?re eine spezialisierte UN -Agentur, die dem Thema AGI gewidmet ist. Der Bericht betont, dass dies schnell untersucht, genehmigt und auf beschleunigten Basis in Bewegung gesetzt werden müsste.

Eine analoge Art von Agentur oder Einheit w?re die Internationale Atomic Energy Agency (IAEO). Sie wissen wahrscheinlich, dass die IAEO versucht, die Welt in Richtung friedlicher Nutzung von Kernenergie zu führen. Es verfügt über einen Gründungsvertrag, der sich in der IAEO Selbstvertr?gung bietet. Insgesamt berichtet die IAEO an die UN -Generalversammlung und den UN -Sicherheitsrat.

Eine Kritik daran, eine AGI -Agentur der Vereinten Nationen vorzubereiten, ist, dass sie sich in internationalem Streit festsetzen k?nnte. Es besteht auch die M?glichkeit, dass es sich um einen Inhibitor für den kreativen Einsatz von AGI handelt, anstatt nur als risikobeh?rter Leitfaden zu dienen. Um zu verdeutlichen, gibt es einige, die sich gegen zu viele regulierende und überwachte K?rper aussprechen, da dies m?glicherweise innovative Verwendungen von AGI untergr?bt.

Wir k?nnten Agi versehentlich in etwas weniger beeindruckendes und Wertvolles verwandeln, als wir es zuvor erhofft hatten. Trauriges Gesicht.

Ma?nahmen ergreifen und herumsitzen

Denken Sie, dass wir offene Governance -Ma?nahmen gegen AGI ergreifen sollten, wie beispielsweise die Empfehlungen, die im UN -AGI -Bericht artikuliert wurden?

Einige würden sagen, dass wir sofort handeln müssen. Andere würden vorschlagen, dass wir unsere sü?e Zeit nehmen. Besser, um die Dinge richtig zu machen, als sie mitzustürzen. Wieder andere sagen vielleicht, dass es keine Notwendigkeit gibt, etwas zu tun. Warten Sie einfach und sehen Sie.

Als Essen zum Nachdenken an diesem dornigen R?tsel ist hier ein denkwürdiges Zitat von Albert Einstein: "Die Welt wird nicht von denen zerst?rt, die B?se tun, sondern von denen, die sie ohne etwas beobachten." überlegen Sie das über und treffen Sie dann Ihre Entscheidung darüber, was wir als n?chstes über AGI und Global Governance -Probleme tun sollten.

Das Schicksal der Menschheit ist wahrscheinlich auf der Linie.

Das obige ist der detaillierte Inhalt vonDie Vereinten Nationen berücksichtigen diese vier wichtigen Aktionen, um die Welt vor der Dire Agi und der Killer -AI -Superintelligenz zu retten. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!