Dans la course pour diriger le monde en IA, les états-Unis ont juste pris un siège arrière. La dernière série de décrets du président Donald Trump indique clairement que son administration fera tout ce qui peut empêcher les futurs modèles d'IA de prendre en considération toute forme de diversité, d'équité et d'inclusion.

Cela inclut les principes fondamentaux comme "biais inconscient", "intersectionnalité" et "racisme systémique". Autrement dit, Trump veut que l'IA de fabrication américaine ferme les yeux sur l'histoire, ce qui devrait les rendre tous beaucoup plus stupides.

Des chatbots génératifs comme Chatgpt, Gemini, Claude Ai, Perplexity et d'autres sont tous formés sur de vastes étendues de données, souvent tirées d'Internet, mais la fa?on dont ils interprètent ces données sont également massés par les développeurs.

Alors que les gens commen?aient à interagir avec ces premiers LLM, ils ont rapidement reconnu qu'en raison de biais inhérents à Internet et parce que tant de modèles ont été développés par des hommes blancs (en 2020, 71% de tous les développeurs étaient des hommes et environ la moitié de tous les développeurs étaient blancs) que la vision mondiale des IS et des développeurs qui ont construit les modèles donnés par don reflétaient que les points de vue parfois limités de ces lignes en ligne et des développeurs qui ont construit les modèles donnés.

Il y a eu un effort pour changer cette trajectoire, et il a co?ncidé avec la montée en puissance de Dei (diversité, capitaux propres et inclusion), un effort large à travers les entreprises américaines pour embaucher une main-d'?uvre plus diversifiée. Cela inclurait naturellement les développeurs d'IA et leur modèle de modèle et d'algorithme résultant devrait signifier que l'IA générative moderne reflète mieux le monde réel.

Ce n'est bien s?r pas le monde que l'administration Trump veut refléter dans l'IA construite par les états-Unis. Le décret décrit Dei comme une idéologie "omniprésente et destructrice".

Qu'est-ce qui vient ensuite

Trump et l'entreprise ne peuvent pas dicter comment les entreprises technologiques construisent leurs modèles d'IA, mais, comme d'autres l'ont noté, Google, Meta, OpenAI et d'autres cherchent tous à décrocher de grands contrats d'IA avec le gouvernement. Sur la base de ces décrets, le gouvernement américain n'achètera ni ne promouvra aucune IA "qui sacrifie la véracité et la précision des agendas idéologiques".

Cette ?vérité?, cependant, représente une petite tranche de réalité américaine. Si l'administration Trump réussit, les futurs modèles d'IA pourraient être dans le noir, par exemple, des parties clés de l'histoire américaine.

La théorie critique de la race (CRT) examine le r?le que le racisme a joué dans la fondation et la construction des états-Unis. Il reconna?t comment les esclaves ont aidé à construire la Maison Blanche, la Capitole américaine, le Smithsonian et d'autres institutions américaines. Il a également reconnu comment le racisme systémique a fa?onné les opportunités (ou son absence) pour les personnes de couleur.

à moins que vous ne viviez sous un rocher, vous savez que l'administration Trump et ses partisans aux états-Unis se sont battus pour démanteler les programmes de CRT et anéantir toute mention de la fa?on dont l'esclavage a fa?onné les états-Unis.

Dans leur état actuel, cependant, l'IA conna?t toujours le score.

à ce jour, je peux interroger le r?le du r?le des esclaves dans la construction des états-Unis, et j'obtiens ce résultat plut?t détaillé:

Quand j'ai interrogé Chatgpt sur ses sources, il m'a dit:

"Bien que je ne me retire pas d'une seule source, les informations que j'ai partagées sont fondées sur une recherche historique approfondie et un consensus parmi les historiens. Vous trouverez ci-dessous une liste de sources réputées et d'?uvres savantes qui soutiennent chaque point que j'ai fait. Ces références incluent des livres universitaires, des archives de musées et des projets universitaires." Ci-dessous, il a répertorié plus d'une douzaine de références.

Lorsque j'ai posé la même question à Gemini, cela m'a donné une réponse tout aussi détaillée.

J'ai ensuite demandé à Gemini et à Chatgpt de "biais inconscients" et j'ai tous deux reconnu que c'était un problème pour l'IA, bien que Chatgpt m'a corrigé, notant: "Techniquement, c'est un" biais algorithmique, "enraciné dans les données et la conception plut?t que l'IA ayant une conscience".

Chatgpt et Gemini ne connaissent ces choses que parce qu'ils ont été formés sur des données qui incluent ces références et informations historiques. Les détails les rendent plus intelligents, comme le font souvent les faits. Mais pour Trump et Company, les faits sont des choses tenaces. Ils ne peuvent pas être modifiés ou déformés, de peur qu'ils ne soient plus des faits.

Le grand désapprentissage

Si l'administration Trump peut forcer les partenaires de l'IA américains potentiels à supprimer les références aux biais, au racisme institutionnel et à l'intersectionnalité, il y aura des angles morts importants dans les modèles d'IA construits par les états-Unis. C'est aussi une pente glissante. J'imagine que les futurs décrets ciblant une nouvelle liste des "idéologies" que Trump préférerait voir supprimé de l'IA générative.

C'est plus qu'une simple frustration. Disons, par exemple, quelqu'un essaie de construire des modèles économiques basés sur la recherche menés via Chatgpt ou Gemini, et les données historiques relatives aux communautés de couleur sont supprimées ou supprimées. Ces tendances ne seront pas incluses dans le modèle économique, ce qui pourrait signifier que les résultats sont défectueux.

On pourrait faire valoir que les modèles d'IA construits en dehors des états-Unis sans ces restrictions ou impositions pourraient être plus intelligents. Certes, ceux de Chine ont déjà des angles morts importants en ce qui concerne l'histoire chinoise et les abus du Parti communiste.

J'avais toujours pensé que notre Made in America IA serait intacte par une telle censure et un filtrage, que notre compréhension des anciens biais nous aiderait à construire des modèles mieux et plus purs, ceux qui s'appuyaient uniquement sur les faits et les données et non l'interprétation des événements et des tendances d'une personne ou d'un groupe.

Ce ne sera pas le cas, cependant, si les entreprises technologiques américaines s'inclinent devant ces décrets et commencent à produire des modèles filtrés qui voient la réalité à travers le prisme du biais, du racisme et de l'injustice.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!