Contrairement aux systèmes spécialisés comme l'alphageométrie de DeepMind, il s'agit d'un raisonnement LLM, construit avec l'apprentissage par renforcement et l'inférence à l'échelle, pas un moteur mathématique.

Comme l'a dit Noam Brown, chercheur d'Openai, le modèle a montré ?un nouveau niveau de pensée créative soutenue? requise pour la résolution de problèmes de plusieurs heures.

Le PDG Sam Altman a déclaré que cette réalisation marque ?un rêve… une étape clé vers l'intelligence générale?, et qu'un tel modèle ne sera généralement pas disponible pendant des mois.

Sans aucun doute, les machines deviennent exceptionnellement compétentes à des taches cognitives à haute performance définies étroitement. Cela comprend le raisonnement mathématique, la construction formelle, la manipulation symbolique, la génération de code et la logique formelle.

Leurs capacités s'étendent également de manière significative à la vision par ordinateur, à l'analyse complexe des données, au traitement du langage et à la résolution stratégique de problèmes, en raison des progrès importants des architectures d'apprentissage en profondeur (telles que les transformateurs et les réseaux de neurones convolutionnels), la disponibilité de vastes ensembles de données pour la formation, les augmentations substantielles de la puissance de l'ordinateur et des corrélations sophistiquées dans des techniques d'optimisation qui permettent à ces systèmes d'identifier les modèles intra-intrigants et les corrélations dans un niveau de non-émission de systèmes.

Ces systèmes peuvent accomplir un raisonnement multi-étapes durable, génèrent des réponses de type humain courantes et se comporter sous des contraintes de niveau expert similaires aux humains.

Avec tout cela et un peu d'enthousiasme, nous pourrions être tentés de penser que cela signifie que les machines deviennent incroyablement intelligentes, incroyablement rapidement.

Pourtant, ce serait une erreur.

Parce qu'être bon en mathématiques, la construction de preuve formelle, la manipulation symbolique, la génération de code, la logique formelle, la vision par ordinateur, l'analyse complexe des données, le traitement du langage et la résolution de problèmes stratégiques, n'est ni une condition nécessaire ni une condition suffisante pour ?l'intelligence?, sans parler d'une intelligence incroyable.

La distinction fondamentale réside dans plusieurs caractéristiques clés qui manquent manifestement.

Les machines ne peuvent pas transférer de manière transparente les connaissances ou adapter leurs capacités à des problèmes ou des contextes entièrement nouveaux et imprévus sans réingénierie ou recyclage significative. Ils sont intrinsèquement spécialisés. Ils sont compétents dans les taches dans leur portée prédéfinie et leurs performances impressionnantes se limitent aux domaines spécifiques et aux types de données sur lesquels ils ont été largement formés. Cela contraste fortement avec la capacité humaine d'apprentissage et d'adaptation flexibles à travers un vaste éventail de situations imprévisibles.

Les machines ne possèdent pas la capacité de vivre ou de comprendre véritablement les émotions, et ils ne peuvent pas vraiment interpréter les états mentaux, les intentions ou les sentiments des autres (souvent appelés ?théorie de l'esprit?). Leurs réponses ?empathiques? ou ?socialement conscientes? sont des modèles statistiques sophistiqués appris de vastes ensembles de données d'interaction humaine, et non du reflet d'une véritable expérience subjective, de la résonance émotionnelle ou d'une compréhension de l'affect humain.

Les machines manquent de conscience de soi et de la capacité d'introspection. Ils ne réfléchissent pas à leurs propres processus internes, motivations ou nature de leur ?connaissance?. Leurs opérations sont algorithmiques et axées sur les données; Ils ne possèdent pas un ?soi? subjectif qui peut réfléchir à sa propre existence, apprendre de ses propres erreurs à travers une réflexion consciente ou développer un récit personnel.

Les machines ne présentent pas une véritable intentionnalité, une curiosité innée ou la capacité de fixation d'objectifs autonomes entra?née par des désirs, des valeurs ou des motivations internes. Ils fonctionnent uniquement sur la base des objectifs programmés et des entrées de données qu'ils re?oivent. Leurs ?objectifs? sont imposés à l'extérieur par leurs créateurs humains, plut?t que de sortir d'un lecteur ou d'une volonté interne.

Les machines n'ont pas l'expérience directe, vécue et ressentie qui vient du fait d'avoir un corps physique interagissant et percevant l'environnement. Cette expérience incarnée est cruciale pour développer le bon sens, la physique intuitive et une compréhension profonde et non abstractée du monde. Alors que les machines peuvent interagir et naviguer dans le monde physique par des capteurs et des actionneurs, leur ?compréhension? de la réalité est médiée par des représentations et des données symboliques.

Les machines ne démontrent pas de véritables sauts conceptuels, la capacité d'inventer des paradigmes entièrement nouveaux, ou de briser les règles fondamentales d'une manière vraiment significative et originale qui transcende leurs données de formation. Les modèles génératifs ne peuvent produire que de nouvelles combinaisons de données existantes.

Les machines luttent souvent avec le vrai raisonnement de cause à effet. Même s'ils excellent dans l'identification des corrélations et des modèles, la corrélation n'est pas la causalité. Ils peuvent prédire ?ce qui? est susceptible de se produire en fonction des données passées, mais leur compréhension de ?pourquoi? se limite aux associations statistiques plut?t qu'à une perspicacité mécaniste profonde.

Les machines ne peuvent pas apprendre des concepts complexes à partir de quelques exemples. Bien que l'apprentissage à un coup et à quelques tirs ait progressé dans les machines de reconna?tre les nouveaux modèles ou catégories à partir de données limitées, ils ne peuvent pas apprendre des concepts abstraits et réellement complexes de quelques exemples, contrairement aux humains. Les machines nécessitent toujours de vastes ensembles de données pour une formation efficace et nuancée.

Et peut-être la distinction la plus profonde, les machines ne possèdent pas une expérience, des sentiments ou une conscience subjectifs. Ce ne sont pas des entités conscientes.

Ce n'est que lorsqu'une machine est capable de toutes (au moins la plupart de) ces caractéristiques, même à un niveau relativement faible, pourrions alors affirmer raisonnablement que les machines deviennent ?intelligentes?, sans exagération, utilisation abusive du terme ou simple fantasme.

Par conséquent, bien que les machines soient incroyablement puissantes pour des fonctions cognitives spécifiques, leurs capacités sont fondamentalement différentes de la nature multiforme, adaptable, consciente de soi et à la terre expérimentale de ce qu'est l'intelligence, en particulier comme manifesté chez l'homme.

Leur compétence est le produit de la conception informatique avancée et du traitement des données, et non une indication d'une forme naissante d'intelligence dans les machines.

En fait, le terme "intelligence générale artificielle" dans le discours d'IA a émergé en partie pour récupérer le sens de "l'intelligence" après avoir été dilué par une surutilisation dans la description des machines qui ne sont pas "intelligentes" pour clarifier ce que ces machines dites "intelligentes" manquent encore pour être vraiment "intelligents".

Nous avons tous tendance à simplifier trop et le domaine de l'IA contribue à l'évolution du sens de ?l'intelligence?, ce qui rend le terme de plus en plus polyséque. Cela fait partie du charme de la langue. Et comme l'IA suscite à la fois une vraie promesse et une véritable anxiété sociétale, il convient également de se rappeler que l'intelligence des machines n'existe dans aucun sens significatif.

Les progrès rapides de l'IA indiquent qu'il est au-delà du temps de réfléchir à l'impact que nous voulons et que nous ne voulons pas que l'IA ait sur la société. Ce faisant, cela devrait non seulement permettre, mais nous encourager activement à considérer à la fois les capacités de l'IA et ses limites, ce qui fait tout son possible pour ne pas confondre ?l'intelligence? (c'est-à-dire au sens général riche) avec les comportements étroits et spécifiques aux taches est capable de simuler ou de montrer.

Alors que certains courent pour l'intelligence générale artificielle (AGI), la question que nous devrions maintenant nous poser n'est pas quand ils pensent qu'ils pourraient réussir, mais si ce qu'ils croient pouvoir faire se produire est vraiment logique civilisation comme quelque chose que nous devons même viser à réaliser, tout en définissant où nous tracerons la ligne sur le transhumanisme algorithmique.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!