Parlons-en.

Cette analyse d'une percée d'IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d'IA percutantes (voir le lien ici). Pour les lecteurs qui ont suivi ma série spéciale sur AGI Pathways, veuillez noter que je fournis des aspects d'arrière-plan similaires au début de cette pièce comme je l'ai fait précédemment, en préparant le terrain pour les nouveaux lecteurs.

Se dirigeant vers AGI et ASI

Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.

Il y a beaucoup de recherches en cours pour faire progresser l'IA. L'objectif général est d'atteindre l'intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue de réaliser une superintelligence artificielle (ASI).

AGI est AI qui est considéré comme à égalité avec l'intellect humain et qui peut correspondre apparemment à notre intelligence. L'ASI est une IA qui est allée au-delà de l'intellect humain et serait supérieure à beaucoup sinon toutes les manières possibles. L'idée est que l'ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l'IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.

Nous n'avons pas encore atteint AGI.

En fait, on ne sait pas si nous atteindrons AGI, ou que peut-être AGI sera réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l'AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L'ASI est encore plus au-delà du pale en ce qui concerne l'endroit où nous sommes actuellement avec une IA conventionnelle.

Consensus des experts de l'IA sur la date de l'AGI

à l'heure actuelle, les efforts pour prévoir lorsque AGI va être atteint est composé principalement de deux voies.

Premièrement, il existe des luminaires d'IA très vocaux qui font des prédictions effrontées individualisées. Leur embouteillage fait les gros titres des médias. Ces prophéties semblent fusionner vers 2030 en tant que date ciblée pour AGI. Un chemin un peu plus silencieux est l'avènement des enquêtes périodiques ou des sondages d'experts de l'IA. Cette approche de la sagesse de la foule est une forme de consensus scientifique. Comme je discute du lien ici, les derniers sondages semblent suggérer que les experts de l'IA croient généralement que nous atteindrons AGI d'ici 2040.

Devriez-vous être influencé par les luminaires de l'IA ou plus par les experts de l'IA et leur consensus scientifique?

Historiquement, l'utilisation du consensus scientifique comme méthode de compréhension des postures scientifiques a été relativement populaire et interprétée comme le moyen standard de faire. Si vous comptez sur un scientifique individuel, il pourrait avoir sa propre vision originale de la question. La beauté du consensus est qu'une majorité ou plus de ceux dans un domaine donné mettent leur poids collectif derrière la position qui est adoptée.

Le vieil adage est que deux têtes valent mieux qu'une. Dans le cas d'un consensus scientifique, il peut s'agir de dizaines, de centaines ou de milliers de têtes qui valent mieux qu'un. Pour cette discussion sur les différentes voies d'AGI, je vais procéder à l'an 2040 à la date cible prévue par le consensus.

Outre le consensus scientifique des experts de l'IA, une autre approche plus récente et plus vaste de la jaugeage lorsque AGI sera atteint est connue sous le nom de convergence AGI ou de consulmation de l'AGI, que je discute du lien ici.

Sept voies majeures

Comme mentionné, dans une publication précédente, j'ai identifié sept voies majeures que l'IA va avancer pour devenir AGI (voir le lien ici). Voici ma liste des sept voies majeures nous passant de l'IA contemporaine aux précieuses AGI:

• (1) Chemin linéaire (lent et standard): Ce chemin AGI capture la vue graduelle, par laquelle l'avancement de l'IA accumule une étape à la fois via la mise à l'échelle, l'ingénierie et l'itération, arrivant finalement à AGI.
• (2) Chemin de courbe S (plateau et résurgence): Ce chemin AGI reflète les tendances historiques de l'avancement de l'IA (par exemple, les premiers hivers de l'IA) et permet de niveler par percées après la stagnation.
• (3) Chemin de baton de hockey (démarrage lent, puis croissance rapide): Ce chemin AGI met l'accent sur l'impact d'un point d'inflexion clé capital qui réinvente et redirige les progrès de l'IA, éventuellement survenant via des capacités émergentes théorisées de l'IA.
• (4) Chemin de randonnée (fluctuations erratiques): Ce chemin AGI explique une incertitude accrue dans la progression de l'IA, y compris les cycles de surhype de désillusion, et pourrait également être ponctué par des perturbations percutantes à l'extérieur (technique, politique, sociale).
• (5) Moonshot Path (Souddinet SEAP): englobe une discontinuité radicale et imprévue dans l'avancement de l'IA, comme la célèbre explosion d'intelligence envisagée ou une grande convergence similaire qui arrive spontanément et presque instantanément à AGI (pour ma discussion approfondie sur l'explosion de l'intelligence, voir le lien ici).
• (6) Chemin sans fin (conflit perpétuel): Cela représente la vision durement sceptique selon laquelle AGI peut être inaccessible par l'humanité, mais nous continuons de toute fa?on, en se débrouillant avec un espoir et une croyance durables qu'Agi est dans le coin suivant.
• (7) Chemin de base (AGI ne semble pas être atteint): Cela indique qu'il y a une chance que les humains puissent arriver à une impasse dans la poursuite d'AGI, qui pourrait être une impasse temporaire ou pourrait être permanente telle que AGI ne sera jamais atteint quoi que nous fassions.

Vous pouvez appliquer ces sept voies possibles à la chronologie AGI que vous souhaitez trouver.

Prévision à terme

Entreprenons une approche pratique de diviser et de conquéraire pour identifier ce qui doit vraisemblablement se passer de l'IA actuelle à l'AGI.

Nous vivons en 2025 et sommes censés arriver à AGI d'ici 2040. C'est essentiellement 15 ans de temps écoulé. L'idée est de cartographier les quinze prochaines années et de spéculer ce qui se passera avec l'IA pendant ce voyage.

Cela peut être fait dans un mode prospectif et également dans un mode d'apparence vers l'arrière. L'apparence avant implique de réfléchir à la progression de l'IA sur une base annuelle, à partir de maintenant et à aboutir à l'arrivée à l'AGI en 2040. Le mode d'apparence arriérée implique de commencer par 2040 comme date limite pour AGI, puis de travailler à partir de cette réalisation sur une base annuelle pour l'arrivée de l'an 2025 (Ai correspondant à cette réalisation). Cette combinaison de l'imagination avant et arrière est une caractéristique typique du futurcasting.

Est-ce que ce genre de prévisions du futur qui est à tout cas?

Non.

Si quelqu'un pouvait disposer avec précision les quinze prochaines années de ce qui se passera dans l'IA, il serait probablement aussi clairvoyant que Warren Buffett lorsqu'il s'agit de prédire le marché boursier. Une telle personne pourrait facilement recevoir un prix Nobel et devrait être l'une des personnes les plus riches de tous les temps.

Dans l'ensemble, cet homme de paille que je montre ici est principalement destiné à faire couler les jus sur la fa?on dont nous pouvons être futurs prévoyant l'état de l'IA. C'est une conjecture. C'est spéculatif. Mais au moins, il a une base raisonnable et n'est pas entièrement arbitraire ou totalement artificiel.

Je suis allé de l'avant et j'ai utilisé les quinze ans d'atteindre AGI en 2040 comme exemple illustratif. Il se pourrait que 2050 soit la date pour AGI à la place, et donc ce voyage se déroulera sur 25 ans. Le calendrier et la cartographie auraient alors 25 ans à gérer plut?t que quinze. Si 2030 va être l'année d'arrivée AGI, la voie devrait être nettement comprimée.

Explosion de l'intelligence sur le chemin de l'AGI

Le chemin du lune implique une percée radicale soudaine et généralement inattendue qui transforme rapidement l'IA conventionnelle en AGI. Toutes sortes de spéculations sauvages existent sur ce qu'une telle percée pourrait consister, voir ma discussion sur le lien ici.

L'une des percées postulées les plus célèbres serait l'avènement d'une explosion d'intelligence. L'idée est qu'une fois qu'une explosion d'intelligence se produit, en supposant qu'un tel phénomène se produit, l'IA dans la progression du tir rapide se produira pour devenir AGI.

Ce type de chemin contraste fortement avec une voie linéaire. Dans une voie linéaire, la progression de l'IA vers l'AGI est relativement égale chaque année et consiste en une montée progressive progressive de l'IA conventionnelle à l'AGI. J'ai présenté les détails du chemin linéaire dans une publication antérieure, voir le lien ici.

Quand l'explosion de l'intelligence se produirait-elle?

étant donné que nous supposons un calendrier de quinze ans et que la prédiction est que AGI sera atteint en 2040, le lieu logique qu'une explosion d'intelligence se produirait est juste vers la date de 2040, peut-être en 2039 ou 2038. Par exemple, supposons que l'explosion de l'intelligence se produit en 2032. Si en effet l'explosion de l'intelligence nous rapporte AGI, nous déclarerions 2032 ou 2033 comme date d'AGI plut?t que 2040.

Utilisons cela comme notre calendrier postulé dans ce contexte:

• Années 2025-2038: L'IA avance dans une certaine mesure mais pas encore chez AGI.
• Années 2038-2039: Une explosion d'intelligence se produit.
• Années 2039-2040: AGI est atteint.

Définir une explosion d'intelligence

Vous pourriez être curieux de savoir en quoi consisterait une explosion d'intelligence et pourquoi il semblerait nécessairement réaliser AGI.

La meilleure fa?on de concevoir une explosion d'intelligence est de réfléchir d'abord sur des réactions en cha?ne telles que ce qui se produit dans une bombe atomique ou un réacteur nucléaire. Nous savons tous de nos jours que les particules atomiques peuvent être forcées ou poussées à rebondir sauvagement, progressant rapidement jusqu'à une explosion massive ou une explosion de résultats d'énergie. Ceci est généralement enseigné à l'école comme un principe de physique fondamental, et de nombreux films à succès ont radicalement présenté cette activité (comme le célèbre film d'Oppenheimer de Christopher Nolan).

Une théorie de la communauté de l'IA est que l'intelligence peut faire de même. ?a va comme ?a. Vous rassemblez tout un tas d'intelligence et obtenez cette intelligence pour se nourrir de la collection en main. Presque comme la prise de feu, à un moment donné, l'intelligence se mélangera avec et alimentera essentiellement la création d'une intelligence supplémentaire. L'intelligence est amassée en succession rapide.

Boom, une réaction en cha?ne d'intelligence se produit, qui est inventée comme une explosion d'intelligence.

La communauté de l'IA a tendance à attribuer l'idée initialement formulée d'une explosion de l'intelligence de l'IA à un document de recherche publié en 1965 par John Good Irving intitulé ?Spéculations concernant la première machine ultratelligente? ( avancées dans les ordinateurs , volume 6). Irving a fait cette prédiction dans son article:

• ?Il est plus probable que non qu'au cours du XXe siècle, une machine ultra-intelligente sera construite et que ce sera la dernière invention que l'homme doit faire car elle mènera à une? explosion de renseignement ?. Cela transformera la société d'une manière inimaginable. ?

Controverses sur les explosions de l'intelligence

Considérons certaines des controverses remarquables sur les explosions de l'intelligence.

Premièrement, nous n'avons aucune preuve crédible qu'une explosion d'intelligence en soi est un phénomène réel. Pour clarifier, oui, il est peut-être évident que si vous avez une intelligence collectée et la combiner avec d'autres renseignements collectés, les chances sont que vous aurez plus de renseignement que vous n'auriez d? commencer. Il existe une synergie potentielle d'intelligence alimentant plus d'intelligence.

Mais la conception selon laquelle l'intelligence fonctionnera librement avec une autre intelligence dans certains environnements informatiques et déclenchera une cargaison d'intelligence, eh bien, c'est une théorie intéressante, et nous n'avons pas encore vu cela se produire à une échelle significative. Je ne dis pas que cela ne peut pas arriver. Ne jamais dire jamais.

Deuxièmement, le rythme d'une explosion de renseignement est également une question de grand débat. Le point de vue dominant est qu'une fois que l'intelligence commencera à se nourrir d'autres intelligences, une réaction en cha?ne rapide se produira. L'intelligence soudain et avec une immense fureur déborde en torrents massifs d'intelligence supplémentaire.

Une conviction est que cela se produira en un clin d'?il. Les humains ne pourront pas voir que cela se produira et ne sera plut?t que des témoins après le fait du résultat étonnant. Tout le monde ne va pas avec cette conjecture d'intelligence instantanée. Certains disent que cela peut prendre des minutes, des heures, des jours, des semaines ou peut-être des mois. D'autres disent que cela pourrait prendre des années, des décennies ou des siècles.

Personne ne le sait.

Commencer et arrêter une explosion d'intelligence

Il y a des controverses supplémentaires dans ce panier inquiétant.

Comment pouvons-nous démarrer une explosion d'intelligence?

En d'autres termes, supposons que les humains veulent avoir une explosion d'intelligence. La méthode pour que cela se produise est inconnue. Quelque chose doit en quelque sorte déclencher l'intelligence pour mélanger avec l'autre intelligence. Quel algorithme fait que cela se produit?

Un point de vue est que les humains ne trouveront pas un moyen d'y arriver, et à la place, cela se produira naturellement. Imaginez que nous avons lancé des tonnes d'intelligence dans une sorte de système informatique. à notre grande surprise, à l'improviste, l'intelligence commence à se mélanger avec l'autre intelligence. Passionnant.

Cela nous amène à une autre question peut-être évidente, à savoir comment arrêterons-nous une explosion d'intelligence?

Peut-être que nous ne pouvons pas l'arrêter et l'intelligence se développera sans cesse. Est-ce un bon résultat ou un mauvais résultat? Peut-être pouvons-nous l'arrêter, mais nous ne pouvons pas le raviver. Oups, si nous arrêtons l'explosion du renseignement trop t?t, nous aurions peut-être tiré sur notre propre pied car nous n'avons pas obtenu autant de nouvelles intelligences que nous aurions pu recueillir.

Une saga populaire qui obtient beaucoup de jeux médiatiques est qu'une explosion d'intelligence se déroulera. Les choses se produisent de cette fa?on. Un tas de développeurs d'IA sont assis à jouer avec une IA conventionnelle alors que soudain une explosion de renseignement est stimulée (les développeurs d'IA ne l'ont pas fait, ils étaient des passants). L'AI devient rapidement AGI. Super. Mais l'explosion de l'intelligence continue, et nous ne savons pas comment l'arrêter.

La prochaine chose que nous savons, ASI a été atteint.

Le scalaire est que l'ASI va alors décider qu'il n'a pas besoin des humains ou que l'ASI pourrait aussi bien nous asservir. Vous voyez, nous avons accidentellement glissé devant Agi et atterri par inadvertance à l'ASI. Le risque existentiel de l'ASI survient, ASI nous embarbe et nous sommes pris complètement à plat.

Chronologie à AGI avec explosion de renseignement

Maintenant que j'ai présenté le n?ud de ce qu'est une explosion d'intelligence, supposons que nous avons de la chance et que nous avons une explosion d'intelligence relativement s?re qui transforme l'IA conventionnelle en AGI. Nous mettrons de c?té le glissement et le glissement dans ASI.

Heureusement, tout comme dans Goldilocks, la bouillie ne sera pas trop chaude ou trop froide. L'explosion de l'intelligence nous mènera directement à la bonne quantité d'intelligence qui suffit pour AGI. Période, fin de l'histoire. Voici alors une feuille de route prévisionnelle à terme de Strawman de 2025 à 2040 qui englobe une explosion d'intelligence qui nous amène à Agi:

Années 2025-2038 (avant l'explosion du renseignement):

• Les modèles multimodaux AI deviennent finalement robustes et entièrement intégrés dans les LLM. Des améliorations significatives du raisonnement en temps réel de l'IA, de l'intégration sensorimoteur et de la compréhension du langage fondé se produisent.
• L'IA agentique commence à s'épanouir et à devenir pratique et répandue. Les systèmes d'IA avec mémoire et capacités de planification acquièrent la compétence dans les taches ouvertes dans les environnements de simulation.
• L'utilisation de modèles mondiaux à grande échelle d'IA a considérablement amélioré les capacités de l'IA. L'IA peut désormais s'améliorer par calcul à partir de moins d'exemples via des progrès dans la méta-apprentissage de l'IA.
• Les agents de l'IA sont progressivement acceptés et sont capables d'exécuter des taches en plusieurs étapes semi-autonome dans les domaines numériques et physiques, y compris la robotique.
• L'IA est suffisamment avancée pour avoir une compréhension généralisée de la causalité physique et des contraintes du monde réel grace à l'apprentissage incarné.
• Mais aucun semblant d'AGI ne semble être en vue et beaucoup à l'intérieur de l'IA et à l'extérieur de l'IA ne sont pas à la main que l'IA ne deviendra pas AGI.

Années 2038-2039 (explosion du renseignement):

• Une explosion de l'intelligence de l'IA produit des quantités massives de nouvelles intelligences.
• Les systèmes d'IA auto-améliorés commencent à modifier leur propre code dans des conditions contr?lées.
• Les agents de l'IA atteignent les performances au niveau de l'homme dans toutes les références cognitives, y compris l'abstraction, la théorie de l'esprit (Tom) et l'apprentissage intermédiaire.
• Les systèmes d'IA présentent des signes de bonne foi de l'auto-réflexion, pas seulement du mimétisme routiné ou du perroquet. Les progrès de l'IA présentent l'adaptabilité et l'innovation situationnelles de type humain.
• Les systèmes d'IA incarnent désormais des identités persistantes, capables de réfléchir aux expériences dans le temps. Certains des derniers obstacles à l'acceptation de l'IA comme étant AGI sont surmontés lorsque l'IA démontre la créativité, les nuances émotionnelles et le raisonnement abstrait dans divers contextes.

Années 2039-2040 (AGI est atteint):

• Il existe un accord général généralisé en 2040 que AGI a maintenant été atteint, bien que ce soit encore les premiers jours d'AGI. L'explosion du renseignement nous a amené Agi.

Contempler la chronologie

Je vous demanderais de contempler la chronologie de la paille et de considérer où vous serez et ce que vous ferez si une explosion de renseignement se produit en 2038 ou 2039. Vous devez admettre que ce serait un événement magique, espérons-le d'un résultat optimiste sociétal et pas quelque chose de sombre.

Le Dala? Lama a fait cette célèbre remarque: "Il est important de diriger notre intelligence avec de bonnes intentions. Sans intelligence, nous ne pouvons pas accomplir grand-chose. Sans de bonnes intentions, la fa?on dont nous exer?ons notre intelligence peut avoir des résultats destructeurs."

Vous avez un r?le potentiel dans le guidage où nous allons si la chronologie ci-dessus se déroule. AGI sera-t-il imprégné de bonnes intentions? Serons-nous en mesure de travailler main dans la main avec AGI et d'accomplir de bonnes intentions? C'est à vous. Veuillez envisager de faire tout ce que vous pouvez pour tirer parti d'une précieuse explosion d'intelligence au profit de l'humanité.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!