Mais le consensus scientifique a ses hoquets et ses gotchas, et peut-être qu'une approche plus prudente serait via l'utilisation de la convergence de preuve, également connue sous le nom de consulation.

Parlons-en.

Cette analyse d'une percée d'IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d'IA percutantes (voir le lien ici).

Se dirigeant vers AGI et ASI

Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.

Il y a beaucoup de recherches en cours pour faire progresser l'IA. L'objectif général est d'atteindre l'intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue de réaliser une superintelligence artificielle (ASI).

AGI est AI qui est considéré comme à égalité avec l'intellect humain et qui peut correspondre apparemment à notre intelligence. L'ASI est une IA qui est allée au-delà de l'intellect humain et serait supérieure à beaucoup sinon toutes les manières possibles. L'idée est que l'ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l'IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.

Nous n'avons pas encore atteint AGI.

En fait, on ne sait pas si nous atteindrons AGI, ou que peut-être AGI sera réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l'AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L'ASI est encore plus au-delà du pale en ce qui concerne l'endroit où nous sommes actuellement avec une IA conventionnelle.

La méthode de consensus des experts en IA

à l'heure actuelle, les efforts pour prévoir lorsque AGI va être atteint est composé principalement de deux voies.

Premièrement, il existe des luminaires d'IA très vocaux qui font des prédictions effrontées individualisées. Leur embouteillage fait les gros titres des médias. Ces prophéties semblent fusionner vers 2030 en tant que date ciblée pour AGI. Un chemin un peu plus silencieux est l'avènement des enquêtes périodiques ou des sondages d'experts de l'IA. Cette approche de la sagesse de la foule est une forme de consensus scientifique. Comme je discute du lien ici, les derniers sondages semblent suggérer que les experts de l'IA croient généralement que nous atteindrons AGI d'ici 2040.

Devriez-vous être influencé par les luminaires de l'IA ou plus par les experts de l'IA et leur consensus scientifique?

Historiquement, l'utilisation du consensus scientifique comme méthode de compréhension des postures scientifiques a été relativement populaire et interprétée comme le moyen standard de faire. Si vous comptez sur un scientifique individuel, il pourrait avoir sa propre vision originale de la question. La beauté du consensus est qu'une majorité ou plus de ceux dans un domaine donné mettent leur poids collectif derrière la position qui est adoptée.

Le vieil adage est que deux têtes valent mieux qu'une. Dans le cas d'un consensus scientifique, il peut s'agir de dizaines, de centaines ou de milliers de têtes qui valent mieux qu'un.

Le consensus scientifique n'est pas absolu

Un consensus scientifique s'avère que ce n'est pas absolu ou parfait.

Nous sommes actuellement au milieu de l'angoisse sociétale concernant le consensus scientifique. La polarisation de la société a divisé nos croyances sur le consensus scientifique. Par exemple, il y a beaucoup de débat animé sur le r?le du consensus scientifique dans la question des origines covidés.

Pour être très clair, un consensus scientifique ne doit pas être assimilé à une certitude absolue scientifique. Ce sont des bêtes différentes. Un consensus implique qu'un point de vue scientifique atterrit sur un statut ou une condition particulière, plus qu'il ne le pourrait autrement. Il y a forcément ceux qui sont en dehors du consensus qui ne soutiennent pas l'opinion du consensus. Ce n'est pas un arbitre total mais plut?t un consensus.

Vous pouvez regarder en arrière dans l'histoire récente et voir que le consensus scientifique a eu ses hauts et ses bas. Un exemple fréquemment cité est que l'on nous a dit depuis longtemps que Pluton était une planète. Cette croyance a été soutenue de tout c?ur par un consensus scientifique. En 2006, la communauté scientifique a retiré le tapis sous nous et a déclaré que Pluton n'était pas une planète (de nos jours, il est classé comme une planète naine). Un consensus scientifique a changé.

La bonne nouvelle du consensus scientifique comprend ces quatre points saillants:

• (1) Le consensus scientifique est basé sur la perspicacité collective par rapport à l'opinion individuelle uniquement.
• (2) Le consensus scientifique donne de la clarté et de la stabilité à ce que nous savons des facettes scientifiques.
• (3) Le consensus scientifique sert de bloc de construction pour la construction de théories scientifiques holistiques.
• (4) Le consensus scientifique est flexible et peut s'adapter à mesure que notre compréhension du monde change.

La mauvaise nouvelle du consensus scientifique comprend ces quatre points cruciaux:

• (1) Un consensus scientifique peut se révéler erroné et pourtant nous avons été amenés plus t?t à supposer que c'était incontestablement juste.
• (2) Le consensus scientifique est quelque peu insidieux car il est difficile de ne pas être en désaccord avec un point de vue consensuel.
• (3) Le consensus scientifique peut être atteint simplement en raison de la convention de l'oiseau-une plume et non du raisonnement scientifique hardcore.
• (4) Le consensus scientifique devient parfois un dogme que personne n'ose réfuter.

Convergence de preuve alias la conslience

Vous vous demandez peut-être si le consensus scientifique a ces vulnérabilités et les faiblesses assorties, y a-t-il d'autres moyens viables de faire face à la saisie de la nature des résultats scientifiques et des positions?

Oui, mais vous n'avez probablement pas entendu parler de l'alternative proéminente qui obtient rarement le temps d'antenne. Je fais référence à la convergence de preuves, également connue sous le nom de concordance de preuve ou de consolience. Le principe est assez simple et entièrement sensé.

?a va comme ?a. Nous recherchons consciencieusement des preuves à partir d'une multitude de sources et utilisons ces preuves pour converger essentiellement une posture ou un statut scientifique. Il est préférable que les sources sont indépendantes les unes des autres. Je dis que parce qu'un tas de sources qui viennent tous de la même consommation ne vont pas augmenter la mise en scène d'être une convergence saine. La convergence serait tout simplement la même que vous aviez amassé une tonne de preuves.

L'idée est que nous pouvons mettre nos épaules derrière une convergence de preuve qui provient de différentes sources qui sont arrivées à leurs positions par des moyens différents et séparés. Cela semble assez impressionnant lorsque de nombreuses activités rigoureuses parviennent à la même conclusion. On peut dire que le poids sous-jacent à la conclusion est largement fort.

La convergence de la preuve est-elle parfaite?

Non. Ce n'est pas. Tout comme les faiblesses du consensus scientifique, il existe des faiblesses similaires associées à la consulation. Les chances d'être éteintes semblent cependant diminuées avec la convergence de la preuve.

Idéalement, vous utiliseriez les trois méthodes pour déterminer où se trouvent les choses. Vous rassembleriez des opinions scientifiques individuelles, ainsi qu'un consensus scientifique, et vous avez notamment la convergence de la preuve à la main également. Si ces trois avenues semblent être d'accord, vous avez vous-même un cas convaincant. De plus, s'il y a des disparités notables entre les conclusions des trois dents, il est utile que quelque chose soit en cours, et vous devez garder les yeux grands ouverts.

Convergence de preuve et AGI

Cela nous amène à la grande révélation, à savoir qu'en plus des AI luminaires ayant leurs prédictions sur la réalisation de l'AGI, ainsi que une forme de consensus scientifique via l'utilisation des enquêtes d'experts en IA, nous devons également inclure la convergence de preuve envers AGI dans le mélange. Malheureusement, il n'y a pas encore beaucoup de mouvement dans l'arène AGI vers une convergence de preuve ou une consolience. Je suis optimiste que nous y arriverons progressivement et inexorablement.

Faisons rouler le ballon.

J'offre un bref croquis du type de preuve que nous voudrions englober dans un cadre de convergence de preuve pour identifier la proximité de l'atteinte AGI. Il faudrait un effort concerté pour atterrir sur des mesures fermes et standardiser l'approche. Si une norme n'est pas formulée, tout le monde colportera son ensemble de preuves particulier, et ce sera un gachis chaotique.

Voici six facteurs de preuve vitaux qui pourraient faire partie d'une convergence de preuve bien con?ue concernant l'atteinte de l'AGI:

• (1) Facteurs technologiques et empiriques de l'IA. Incorporez de véritables repères d'avancement de l'IA bien testés qui peuvent être des signes précoces de réalisation de l'AGI. Concevez des mesures supplémentaires pour évaluer les capacités émergentes, les compétences interdomaines et les lois sur l'échelle prédominantes concernant l'IA. Cela sera considéré comme le principal facteur tandis que les autres facteurs sont considérés comme secondaires mais toujours essentiels et qui en valent la peine.
• (2) Facteurs liés à la neuroscientifique. Ce sous-ensemble est un peu controversé, mais la croyance par certains est que l'AGI sera inévitablement basée ou fa?onnée via des parallèles neuroscientifiques humains. Tout le monde n'est pas d'accord avec cette notion. Dans tous les cas, des mesures telles que l'alignement sur l'architecture cognitive humaine et les capacités neurosymboliques pourraient être incluses dans ce sous-ensemble.
• (3) IA Facteurs économiques et sociétaux. Si vous supposez que AGI sera un niveau constant et pas un succès soudain du jour au lendemain, l'IA progressive sera vraisemblablement infiltrée dans la société et nos affaires économiques. Par exemple, l'IA avancée qui approche de l'AGI serait potentiellement substituée au travail de cognition humaine. Cela pourrait être facilement mesuré. Ce n'est pas purement une métrique technologique et il y a donc forcément des arguments sur la question de savoir si cela doit être inclus.
• (4) Facteurs de consensus d'experts de l'IA. Plut?t que d'espérer que la convergence de preuve pour l'AGI serait comparée c?te à c?te avec un consensus scientifique expert en IA, nous pourrions aussi bien le jeter dans la consulmation en soi. Diverses enquêtes soigneusement sélectionnées et méthodiques sur les opinions d'experts de l'IA sur la poursuite de l'AGI seraient intégrées directement à la convergence de preuve. Un portefeuille de ces enquêtes ou rassemblements de consensus serait inclus plut?t qu'un simple choix singulier.
• (5) Facteurs de déplacements directionnels de recherche sur l'IA . Un consensus d'experts en IA consiste en ce que les experts de l'IA ont à dire, qui pourraient ou non être en corrélation avec ce qu'ils font réellement. Pour déterminer sur quoi travaillent les experts de l'IA, une analyse de la fa?on dont la recherche sur l'IA est déplacée pourrait être con?ue et incluse dans la convergence de preuve. Cela pourrait inclure que si la recherche sur l'IA devient de plus en plus secrète, cela pourrait être d? à une croyance de leur part qu'ils ont une sauce secrète qui mène à l'AGI. Bien s?r, un tel mouvement pourrait également être pour d'autres raisons.
• (6) Facteurs de gouvernance de l'IA et d'IA. Si les gouvernements et les législateurs croient que l'AGI approche, il y aura probablement une rafale d'action législative et réglementaire. Cela ne signifie pas qu'ils sont corrects dans leur conviction que AGI approche. Ils pourraient être induits en erreur ou sauter le pistolet. C'est néanmoins un signe ou un indicateur qui doit être pris en considération. Ce facteur pourrait inclure les lois et stratégies nationales associées à l'AGI, aux stipulations et accords internationaux de l'AGI, aux contr?les d'importation / exportation sur l'AGI, etc.

étapes suivantes sur la convergence de la preuve AGI

J'ai décrit une poignée productive de possibilités ou de facteurs pour composer un cadre de consultivité AGI. Je suis s?r que vous pourriez avoir des pensées et des suggestions supplémentaires.

C'est super, veuillez procéder à quelque chose, et faisons cela en cours.

Je vais donner le dernier mot pour l'instant à Albert Einstein: ?Pour soulever de nouvelles questions, de nouvelles possibilités, pour considérer les anciens problèmes sous un nouvel angle, nécessite une imagination créative et marque une réelle progression de la science.? C'est précisément pourquoi un cadre de convergence de preuve approprié pour AGI est très nécessaire.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!