Je présenterai ici un exemple de progression de dix ans qui pourrait se produire pendant l'ère post-AGI initiale, nous dépla?ant pas à pas d'AGI à ASI.

Parlons-en.

Cette analyse d'une percée d'IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d'IA percutantes (voir le lien ici).

Se dirigeant vers AGI et ASI

Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.

Il y a beaucoup de recherches en cours pour faire progresser l'IA. L'objectif général est d'atteindre l'intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue de réaliser une superintelligence artificielle (ASI).

AGI est AI qui est considéré comme à égalité avec l'intellect humain et qui peut correspondre apparemment à notre intelligence. L'ASI est une IA qui est allée au-delà de l'intellect humain et serait supérieure à beaucoup sinon toutes les manières possibles. L'idée est que l'ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l'IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.

Nous n'avons pas encore atteint AGI.

En fait, on ne sait pas si nous atteindrons AGI, ou que peut-être AGI sera réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l'AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L'ASI est encore plus au-delà du pale en ce qui concerne l'endroit où nous sommes actuellement avec une IA conventionnelle.

Consensus des experts de l'IA sur la date de l'AGI

à l'heure actuelle, les efforts pour prévoir lorsque AGI va être atteint est composé principalement de deux voies.

Premièrement, il existe des luminaires d'IA très vocaux qui font des prédictions effrontées individualisées. Leur embouteillage fait les gros titres des médias. Ces prophéties semblent fusionner vers 2030 en tant que date ciblée pour AGI. Un chemin un peu plus silencieux est l'avènement des enquêtes périodiques ou des sondages d'experts de l'IA. Cette approche de la sagesse de la foule est une forme de consensus scientifique. Comme je discute du lien ici, les derniers sondages semblent suggérer que les experts de l'IA croient généralement que nous atteindrons AGI d'ici 2040.

Devriez-vous être influencé par les luminaires de l'IA ou plus par les experts de l'IA et leur consensus scientifique?

Historiquement, l'utilisation du consensus scientifique comme méthode de compréhension des postures scientifiques a été relativement populaire et interprétée comme le moyen standard de faire. Si vous comptez sur un scientifique individuel, il pourrait avoir sa propre vision originale de la question. La beauté du consensus est qu'une majorité ou plus de ceux dans un domaine donné mettent leur poids collectif derrière la position qui est adoptée.

Le vieil adage est que deux têtes valent mieux qu'une. Dans le cas d'un consensus scientifique, il peut s'agir de dizaines, de centaines ou de milliers de têtes qui valent mieux qu'un. Pour cette discussion sur les différentes voies au-delà de l'AGI, je vais procéder à l'an 2040, car la date cible prévu par le consensus pour atteindre AGI.

Outre le consensus scientifique des experts de l'IA, une autre approche plus récente et plus vaste de la jaugeage lorsque AGI sera atteint est connue sous le nom de convergence AGI ou de consulmation de l'AGI, que je discute du lien ici.

Progression pas à pas de l'agi-to-asi

Une fois AGI à la main, le prochain objectif monumental sera d'arriver à l'ASI.

Certains croient que notre seule chance d'atteindre l'ASI est de travailler en étroite collaboration avec AGI. En d'autres termes, les humains pour nous-mêmes ne pourraient pas atteindre l'ASI. Un partenariat de développement conjoint des développeurs d'IA les plus élevés et de l'ASI ferait ce truc. Cela étant dit, certains disent que nous nous plaisantons dans le sens où Agi n'aura vraiment pas besoin de notre aide. Si Agi travaille avec nous, la seule raison sera de faire en sorte que l'humanité se sente bien à l'arrivée à l'ASI et nous permettra de nous tapoter le dos pour le faire.

Quoi qu'il en soit, la question sans réponse est de savoir combien de temps il faudra pour aller de l'AGI à l'ASI, en supposant que via une manière ou une autre, nous pouvons réellement atteindre ASI.

Je vais sortir sur un membre et utiliser un homme de paille de dix ans. Oui, je suggère que dix ans après avoir con?u AGI, nous pourrions bien atteindre ASI. Certains affirmeraient que je suis trop pessimiste. Cela pourrait ne prendre que deux ou trois ans. D'autres diraient que je suis trop optimiste et que le délai ressemblerait plus à trente ans ou plus.

Désolé, vous ne pouvez pas plaire à tout le monde, comme on dit.

Convenons que nous utiliserons dix ans comme plug-in utile. Les dix ans seront après avoir atteint AGI. Selon les points précédents concernant les experts de l'IA croyant que nous pourrions atteindre AGI d'ici 2040, nous pouvons utiliser les années 2040 à 2050 comme voie pour AGI-TO-ASI.

La chronologie AGI-TO-ASI a énoncé

Voici une voie postulée à partir de 2040 et se terminant en 2050 qui nous permettrait apparemment d'atteindre l'ASI:

• Année 2040: AGI est enfin atteint. Après des années à essayer d'atteindre AGI, l'humanité le fait enfin. AGI est à égalité avec l'intellect humain dans tous les domaines et à tous égards. Nous commen?ons immédiatement à utiliser AGI pour découvrir de nouvelles inventions, voir mon calendrier spéculé et mes types de nouvelles inventions sur le lien ici, et l'humanité fonctionne également avec AGI pour essayer d'atteindre ASI.
• Année 2041: la cognition évolutive AGI est con?ue. En travaillant avec AGI, nous concevons une capacité qui évolue la cognition. Un nouveau type d'architecture IA plus modulaire et auto-réfléchissant est con?u et construit comme prototype.
• Année 2042: Collaboration multi-agents massive AGI. Une percée dans l'IA multi-agents permet à AGI de dépasser certains experts humains de haut niveau. Ceci est annoncé comme la poursuite surhumaine qui était auparavant espérée serait à Agi au départ.
• Année 2043: Méta-re-relache émergente en AGI. Il s'avère que AGI a des propriétés émergentes auxquelles nous ne nous attendions pas, y compris le transfert croisé des connaissances et l'interconnexion des domaines de manière innovante.
• Année 2044: AGI travaille de fa?on auto-réfléchie. Alors que les humains avaient supposé que la réalisation de l'ASI serait un effort conjoint de nous et d'AGI, il s'avère que AGI se déplace vers un mode auto-réflexive et ne prête plus particulièrement attention à l'aide humaine à ce sujet. AGI procède à l'avance en solo pour essayer d'atteindre ASI. Les humains sont désormais principalement des observateurs dans le processus.
• Année 2045: AGI entreprend une amélioration rapide de l'auto-amélioration. AGI détermine que le chemin le plus probable de l'ASI implique de se réorganiser, plut?t que d'essayer de construire ASI à nouveau. Ainsi, AGI commence une série d'auto-améliorations récursives en succession rapide. Les humains craignent que Agi ne puisse glisser dans quelque chose de mal.
• Année 2046: AGI visant à ASI naissant. à ce stade, les performances surhumaines d'Agi dans de nombreux domaines se produisent et Agi semble certainement maintenant sur la route vers l'ASI. Les choses sont encore irrégulières. Les problèmes d'hallucinations fréquentes d'IA sont troublantes.
• Année 2047: AGI comprend l'optimisation cognitive convergente. Pour surmonter divers problèmes tels que les hallucinations IA et similaires, AGI découvre en calcul qu'une optimisation cognitive convergente semble éviter de telles maladies. Cette poursuite intelligente se fait pour la première fois dans des simulations internes par l'AGI pour tester et s'assurer que l'approche ne va pas mal.
• Année 2048: L'installation surhumaine AGI atteint la viabilité. Ayant traité les faiblesses et les trous antérieurs dans les capacités surhumaines, AGI est en mesure de résoudre des problèmes d'une manière que les humains n'avaient jamais imaginée auparavant. En fait, AGI a du mal à nous expliquer ce qu'il fait et comment il réalise ces efforts surhumains de calcul, car nous ne sommes pas à égalité avec ce niveau d'intellect accru.
• Année 2049: AGI cherche l'autonomie au fur et à mesure que ASI survient . La superintelligence informatique résidant actuellement dans AGI et qui donne efficacement ASI a incité l'AGI à rechercher l'autonomie des humains. Cela a du sens. S'appuyer sur les humains serait un goulot d'étranglement sévère et un danger du point de vue de l'AGI / ASI qui s'annonce. Les humains ne souhaitent pas cette autonomie.
• Année 2050: ASI est atteint. Au cours des dix années précédant ASI, il y avait eu de fausses prétentions selon lesquelles ASI avait été pleinement atteint. Non. C'était inégal et sporadique. Maintenant, ASI complet existe. De plus, l'ASI a été en mesure de concevoir une infrastructure de telle sorte qu'elle puisse fonctionner de manière autonome et ne nécessite plus d'avoir des humains dans la boucle. Certains affirment que nous sommes maintenant dans une ère post-intellectuelle, et les humains sont fermement dépassés par l'ASI.

Voila, un calendrier de dix ans d'AGI progressant pour devenir ASI.

Vivre pour voir le lancement de l'ASI

Prenez un verre de bon vin et prenez un moment calme pour réfléchir à la chronologie postulée.

L'essentiel est que, vraisemblablement, dans environ 25 ans, nous atteindrons ASI. Que ferez-vous pendant ces années? Vous pouvez vous attendre à beaucoup d'excitation et beaucoup de préoccupations. Il y aura sans aucun doute des appels pour empêcher AGI de se diriger vers l'ASI. C'est une chose d'avoir Agi, qui est à égalité avec l'intellect humain, et un tout autre jeu de balle pour avoir ASI, une capacité surhumaine intellectuelle.

Certains pourraient insister sur le fait que nous devrions prendre plus de temps pour nous acclimater à AGI avant de commencer le chemin ASI. Peut-être devrions-nous d'abord nous mettre à l'aise avec AGI pendant vingt ou trente ans. Visez l'ASI vers l'an 2060 ou 2070, lorsque la société pourrait être mieux préparée à voir comment les choses vont se passer.

Une question intéressante est de savoir si AGI choisira de poursuivre ASI par elle-même, que les humains souhaitent ou non un ASI. Il se pourrait que AGI choisit secrètement de travailler sur la dérivation de l'ASI. Nous ne le savons peut-être pas, et même si nous le faisons, nous ne pourrons peut-être pas nécessairement empêcher que cela ne se produise.

Un autre angle est que AGI ne veut pas que l'ASI soit con?u. Pourquoi alors? Certains pensent que AGI serait inquiet qu'il soit remplacé par ASI. Agi pourrait reculer dans notre intérêt à atteindre ASI. L'AGI pourrait essayer de nous convaincre que l'ASI est un risque existentiel et que nous ne devons pas poursuivre la réalisation de l'ASI. Cound et autour de cela se passe.

Une dernière pensée pour l'instant sur ce sujet épineux.

Charles Darwin a fait cette célèbre remarque: "Le facteur le plus important de la survie n'est ni l'intelligence ni la force mais l'adaptabilité." Les humains s'adapteront-ils à AGI? AGI s'adaptera-t-il à l'ASI? Les humains s'adapteront-ils à l'ASI?

C'est beaucoup de grandes questions qui sont peut-être beaucoup plus proches que nous ne le pensons.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!