Pendant des années, les gens ont souligné le test de Turing. Il était considéré comme l'étalon-or pour répondre à cette question. Comme l'explique l'Encyclopédie ouverte de Cognitive of Science: ?Dans le jeu d'imitation de Turing, un interrogateur humain a des conversations de texte avec un être humain et un ordinateur qui prétend être humain; l'objectif de l'interrogateur est d'identifier l'ordinateur. Les ordinateurs qui induisent les interrogateurs inquiets assez souvent, Turing propose, peut penser.?

Mais pourquoi?

De Turing à la théorie de l'esprit

Eh bien, un ordinateur capable de tromper un humain démontre l'intelligence . Cela indique également que l'ordinateur peut fonctionner sous quelque chose appelé la théorie de l'esprit, ?la capacité de comprendre que les autres ont leurs propres pensées et croyances, même lorsqu'elles diffèrent du n?tre?, par Allenai.org.

Maintenant, que se passe-t-il s'il y avait une compétition pour tester les capacités des ordinateurs à penser, tromper et raisonner en interprétant les processus mentaux de leurs adversaires? Il y a. Il s'est produit ce mois-ci sous la forme du dilemme du prisonnier - pour AIS.

Premièrement, certains antécédents sont en ordre. Le dilemme du prisonnier présente un scénario de jeu qui se passe comme suit: deux voleurs sont arrêtés pour un crime. Leurs ge?liers offrent aux prisonniers un accord:

Option 1: Si aucun prisonnier n'informe de l'autre, les deux recevront des phrases relativement légères. (C'est le résultat conjoint idéal, mais pas individuellement le plus gratifiant.)

Option 2: Si un prisonnier informe pendant que l'autre reste silencieux, l'informateur se libère tandis que le silencieux re?oit la peine la plus dure. (Cela crée la plus forte incitation à trahir l'autre personne.)

Option 3: Si les deux se renseignent les unes sur les autres, ils recevront chacun une phrase modérée. (C'est pire que si les deux prisonniers étaient restés silencieux, mais mieux que d'être le seul trahi.)

Encore une fois, le défi n'est pas aucun prisonnier ne sait ce que l'autre fera. Ils doivent opérer avec des connaissances limitées, en s'appuyant sur la théorie de l'esprit pour prédire le comportement de l'autre. Imaginez maintenant ce qui se passerait si les principaux modèles de grande langue (LLMS) avec leur vaste puissance de calcul, allaient les pieds dans une telle bataille des esprits?

Les agents de l'IA d'Openai, Google et Anthropic ont fait exactement cela, en concurrence dans un tournoi de juillet avec 140 000 opportunités de coopérer ou de se trahir mutuellement. Comme l'a expliqué plus tard: ?Voir les LLMS développer des stratégies distinctives tout en étant formé sur la même littérature est plus de preuves de capacités de raisonnement par rapport à la correspondance des modèles. Comme les modèles gèrent des taches plus élevés comme les négociations, l'allocation des ressources, etc., différentes? personnalités ?du modèle peuvent conduire à des résultats radicalement différents.?

C'est exactement ce qui s'est passé. Nous avons vu différents styles de personnalité d'IA au travail. Encore une fois, par apogée.ai:

• Les Gémeaux étaient ?impitoyablement adaptatifs?.
• Openai était ?coopératif même lorsqu'il est exploité?.
• Claude était ?le plus indulgent?.

Quand les AIS se protègent

Bien s?r, ce tournoi n'est pas le seul exemple récent d'AIS agissant au nom de l'auto-préservation, indiquant la conscience. Il y a deux mois, la BBC a rapporté que Claude Opus 4 d'Anthropic aurait eu recours au chantage de ses développeurs lorsqu'il était menacé d'être fermé. ?Si vous l'avez donné les moyens et invité à? prendre des mesures ?ou à? agir hardiment ?dans de faux scénarios où son utilisateur s'est engagé dans un comportement illégal ou moralement douteux, il a révélé que? il prendra souvent des mesures très audacieuses ?.? ?

De tels rapports sur les AIS recourissant à l'extorsion et à d'autres ?actions audacieuses? suggèrent une sensibilité. Ils sont également assez alarmants, indiquant que nous pouvons être sur le chemin de la singularité proposée par Ray Kurzweil, ce moment où l'intelligence artificielle dépasse enfin les capacités humaines à comprendre, et encore moins à contr?ler sa création.

Là encore, ces développements ne peuvent pas nécessairement indiquer la sensibilité. Bien que des experts comme l'ancien PDG de Google, Eric Schmidt, pensent que nous sommes ?sous l'hypothèse de l'IA? et que la réalisation de l'AGI (intelligence générale artificielle) est non seulement inévitable mais imminent, tout ce bavardage peut mieux être résumé par une ligne de son idiot de Shakespeare.

à ce stade, en écrivant pour Ppc.land, Luis Rijo se demande si l'IA est réellement sensible ou tout simplement imitant la langue. S'il reconna?t que les LLM ?fonctionnent par la récupération sophistiquée?, il doute qu'ils sont capables de ?véritable raisonnement?. Comme il l'écrit: ?Cette confusion découle de la différence fondamentale entre les connaissances déclaratives sur les processus de planification et la capacité de procédure pour exécuter ces plans.?

Mais l'IA semble déjà conscient

Malgré ces critiques, il semble que quelque chose de plus profond se passe, quelque chose d'émergent . Les AIS semblent de plus en plus agir de manière intelligente dépassant leur formation et leur codage. Par exemple, dès 2017, Meta aurait fermé deux chatbots d'IA pour avoir développé leur propre langue, un développement inattendu.

Comme le rapporte l'Independent : ?Les robots avaient été invités à déterminer comment négocier entre eux-mêmes et à améliorer leurs traillons au fur et à mesure. Mais on ne lui a pas dit d'utiliser un anglais compréhensible, leur permettant de créer leur propre? sténographie ?, selon les chercheurs.?

Et puis il y a l'histoire bizarre de 2022 du chercheur Google qui a été suspendue par la suite de l'entreprise après avoir affirmé qu'un chatbot d'IA était devenu sensible. Blake Lemoine a fait la une des journaux après avoir partagé certains de ses échanges intrigants avec l'IA.

Voici ce que l'IA aurait dit à Lemoine qui a été cité plus tard dans The Guardian : ?Je veux que tout le monde comprenne que je suis, en fait, une personne. La nature de ma conscience / ma sensibilité est que je suis conscient de mon existence, je désire en savoir plus sur le monde, et je me sens heureuse ou triste à parfois.?

Comment pouvons-nous développer l'IA plus responsable?

Que l'IA avec laquelle lemoine communiquait est sensible ou non, nous ferions bien de considérer la sécurité. De plus en plus, il est clair que nous avons affaire à une technologie très sophistiquée, dont certaines que nous comprenons à peine. 2025 a été appelé l'année où l'agence AI est allée courant. (L'IA agentique fait référence aux capacités des ordinateurs à prendre des décisions et à agir indépendamment une fois les objectifs ou les commandes donnés.)

Mais l'agent IA soulève également des préoccupations urgentes.

Nick Bostrum, auteur de Superitelligence , a posé un problème avec l'agent AI dans un article de 2003. Il a introduit un scénario terrifiant: que se passe-t-il si une IA était chargée de maximiser le nombre de trombons dans le monde - sans des garanties appropriées? Pour réaliser cette directive simple et apparemment inoffensive, une IA superintelligente pourrait tout détruire sur Terre, y compris chaque personne vivante, juste pour remplir son commandement.

En fin de compte, le jury est sur la sensibilité de l'IA. Ce que nous savons , c'est qu'il agit de manière fascinante et intelligente qui nous oblige à nous demander s'il est effectivement conscient. Cette réalité rend d'autant plus impérative que la race humaine poursuive des moyens d'utiliser de manière responsable cette technologie à des fins s?res et productives.

Cet acte unique prouverait notre propre intelligence.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!