Une question notable se pose concernant la faisabilité du monde réel de la mise en ?uvre d'une telle interdiction.

Parlons-en.

Cette analyse d'une percée d'IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d'IA percutantes (voir le lien ici).

Se dirigeant vers AGI et ASI

Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.

Il y a beaucoup de recherches en cours pour faire progresser l'IA. L'objectif général est d'atteindre l'intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue d'atteindre la superintelligence artificielle (ASI).

AGI est AI qui est considéré comme à égalité avec l'intellect humain et qui peut correspondre apparemment à notre intelligence. L'ASI est une IA qui est allée au-delà de l'intellect humain et serait supérieure à de nombreuses manières, sinon toutes, réalisables. L'idée est que l'ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l'IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.

Nous n'avons pas encore atteint AGI.

En fait, on ne sait pas si nous atteindrons AGI, ou que AGI sera peut-être réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l'AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L'ASI est encore plus au-delà du pale en ce qui concerne l'endroit où nous sommes actuellement avec une IA conventionnelle.

Utilisations d'AGI et ASI

J'ai précédemment expliqué comment AGI et ASI permettra sans aucun doute aux humains de créer de nouvelles inventions qui apporteront des avantages étonnants à l'humanité; Voir le lien ici. En expliquant la puissance intellectuelle imprégnée de l'IA, il sera possible de faire en sorte que l'IA con?oit de nouveaux types de machines, de produits chimiques, d'appareils, etc.

Visage heureux.

Mais ce n'est pas un déjeuner gratuit.

L'inconvénient est que l'IA peut produire de nouvelles capacités qui mettent en danger l'humanité bruyamment. L'IA est considérée comme une forme d'innovation à double usage. L'IA peut être utilisée à des fins édifiantes, mais elle peut également être utilisée à des fins méchantes. Même quelque chose qui semble inoffensif peut être troublant. Par exemple, les chercheurs ont montré qu'un système d'IA pour nous détecter et nous protéger des poisons toxiques pourrait facilement être ajusté pour élaborer de nouveaux mélanges toxiques qui peuvent nous effacer (voir ma couverture au lien ici).

Les utilisateurs de l'IA peuvent opter pour instruire l'IA vers des utilisations bonnes ou honnêtes. De même, les utilisateurs de l'IA peuvent diriger l'IA vers des utilisations peu recommandables et malveillantes.

L'IA contient la criminalité la plus élevée

Imaginez le volume d'utilisateurs qui finira probablement par utiliser Pinnacle AI. Nous pouvons raisonnablement supposer qu'une grande partie du monde sera impatiente d'utiliser AGI et ASI. Peut-être que des milliards et des milliards de personnes pourraient accéder à AGI et ASI sur une base de routine. La population en général le ferait pour les taches quotidiennes et en tant que partenaire intellectuel en ligne pratique qui est utilisable n'importe où et à tout moment.

Parmi les milliards d'utilisateurs qui vont utiliser AGI et ASI, il y en aura certainement qui ont de mauvaises intentions. Ils sont impatients de faire en sorte que le pinacle soit leur partenaire dans le crime. Dans un sens, le monde a donné aux criminels le meilleur outil jamais con?u pour planifier et commettre des crimes. Pinnacle AI sera forcément une énorme aubaine pour ceux qui cherchent des informations sur la fa?on de entreprendre des actes criminels.

Pourquoi Agi et Asi pourraient-ils en quelque sorte aider les criminels?

Parce que l'IA est devenue fortement versée dans le crime en ayant scanné les ?uvres écrites de l'humanité qui décrivent les efforts criminels. Au cours de la formation des données de l'IA, les chances sont que toutes sortes de livres, histoires, récits, etc. qui impliquent le crime qui seront modelés par l'IA. Il s'agit notamment de moyens de commettre des crimes. Il s'agit notamment de la fa?on dont la police et d'autres autorités attrapent des criminels. En ce moment.

En ayant des modèles par calcul assortis sur le trésor des efforts criminels, AGI et ASI seront essentiellement des cerveaux au crime. L'IA peut faire un travail de conduite de délits qui seront extraordinairement difficiles à arrêter. Les crimes seraient extrêmement difficiles à détecter. Les crimes seraient de la plus grande nature criminelle.

Tout cela attend que les mauvais acteurs puisent à chaque fois qu'ils le souhaitent.

Pas bon.

Ai gardant la bouche fermée

Une solution proposée consiste à instruire AGI et ASI à l'avance que toute question sur les crimes ou la commette des crimes doit être rejetée sommairement.

?a va comme ?a. Un utilisateur demande comment pénétrer dans Fort Knox et voler tout l'or qui se trouve là-dedans, qui est un scénario qui a été présenté dans le célèbre film James Bond Goldfinger . L'IA analyse la demande de calcul et vérifie qu'il s'agit d'une demande qui affaire un acte criminel. Ergo, l'IA dit à l'utilisateur que l'IA ne leur donnera pas de réponse à sa question.

Période, fin de l'histoire.

Eh bien, peut-être pas.

Le problème avec ce type de refus est qu'un gambit de chat et de souris s'ensuivra. Un utilisateur avec de mauvaises intentions n'abandonnera pas simplement d'essayer de poser ce genre de questions sinistres. La personne essaiera une inclinaison différente pour obtenir ce qu'elle veut savoir.

Par exemple, la personne pourrait demander à l'IA d'examiner toutes les histoires connues sur l'effondrement de Fort Knox et de fournir un résumé qui décrit les meilleures et les pires fa?ons de le faire. L'IA pourrait être induit en erreur dans la réalisation de cette analyse perspicace. La personne pourrait dire à l'IA qu'il s'agit d'un projet de recherche et assurer à l'IA que rien de facheux n'est en main.

Vous pensez peut-être que Supersharp Ai ne tombera pas pour une telle ruse évidente. Ce n'est pas aussi simple qu'il y para?t. Vous voyez, la difficulté impliquée est que l'enquête pourrait en effet être légitime. Une personne pourrait vraiment faire des recherches sur ce sujet et viser à aider à renforcer les défenses de Fort Knox. Leurs intentions sont de l'ordre le plus élevé et le plus pur.

Interdire des utilisateurs particuliers

Si essayer d'empêcher l'IA de renverser les haricots sur le complot criminel va être un défi herculéen, un autre angle serait d'interdire aux malfaiteurs d'utiliser complètement AGI et ASI. Au moment où un mauvais acteur tente de se connecter à Pinnacle AI, ils sont instantanément interdits. Ils ne peuvent pas entrer. Ainsi, ils sont contrecarrés dans leurs intentions méchantes d'utiliser AGI et ASI pour être des collaborateurs criminels.

Cela présente un grand défi, à savoir comment l'IA serait en mesure de discerner quels utilisateurs doivent être interdits?

Certains ont suggéré qu'une liste de surveillance internationale pour AGI et ASI devrait être con?ue qui contiendrait tous les terroristes connus, criminels condamnés et autres mauvais acteurs. La liste de surveillance serait maintenue par certaines autorités gouvernementales à travers le monde. Peut-être que les Nations Unies seraient enr?lées dans cet effort (pour une récente mise à jour de statut sur l'ONU concernant AGI et ASI, voir ma discussion sur le lien ici).

Cette liste de surveillance fonctionnerait également un peu semblable à une liste de non-vol pour les compagnies aériennes. Si quelqu'un qui n'était pas sur la liste de surveillance faisait quelque chose de facheux tout en utilisant AGI et ASI, il serait désormais placé sur la liste de surveillance. C'est comme monter dans un avion et causer une perturbation. Une fois l'affaire conclue, la personne est placée sur une liste de non-vol.

Faux positifs et faux négatifs

Il existe de nombreuses objections à l'approche de la liste de surveillance.

Supposons qu'une personne soit ouvertement placée sur la liste de surveillance, mais elle n'a re?u aucun semblant de procédure régulière. Ils pourraient être innocents. On leur a peut-être injustement refusé l'accès à AGI et ASI. Ce n'est rien à éternuer. Les personnes sans un tel accès seront probablement désavantagées par rapport à ceux qui ont accès. D'autres personnes atteintes d'accès AGI et ASI peuvent facilement déjouer la personne qui s'est injustement refusée l'accès.

Pendant ce temps, il pourrait également y avoir des gens qui devraient être sur la liste de surveillance mais ne sont pas ajoutés à la liste. Ils parviennent à glisser entre les mailles du filet. Par certains manigances sournoises, ils évitent d'être interdits d'utiliser AGI et ASI.

Le n?ud est qu'il y aura une multitude de faux positifs et de faux négatifs. Les gens qui sont injustement sur la liste de surveillance devront passer du temps, de l'énergie et potentiellement beaucoup d'argent pour se retirer de la liste de surveillance. Les gens qui devraient être sur la liste de surveillance pourraient patiner gratuitement.

Dans l'ensemble, cette liste de surveillance colossale probable impliquera une bureaucratie lourde pour décider qui s'y place, qui sort de la liste, et détermine finalement le sort des personnes dans le monde entier pour avoir accès à l'IA Pinnacle.

Les inquiétudes sont que ce sera un boondoggle atroce.

Se déplacer dans l'interdiction de toute fa?on

Il y a encore plus de préoccupations concernant une interdiction d'accès AGI et ASI. Le n?ud d'interdiction de quelqu'un est que vous devez être absolument s?r de pouvoir identifier la personne interdite.

Comment cela sera-t-il accompli?

Les gens devront-ils utiliser leurs empreintes digitales ou une autre métrique biométrique pour attester de leur identité? Si c'est le cas, cela implique que AGI et ASI se retrouveront avec une liste d'identité définitive pour presque toute la population mondiale, car nous supposons que la plupart du monde voudra utiliser l'IA Pinnacle.

Cela sent une possibilité effrayante de Big Brother. Nous aurons Agi et Asi qui ont l'identité de chaque personne. L'IA pourrait-elle choisir d'utiliser cette liste d'une manière que nous n'anticions pas ou n'entendons pas? Cela semble être une pratique discutable et est assez gênant.

Les escrocs ne seront probablement pas arrêtés par ces efforts de sécurité. Par exemple, ils pourraient embaucher ou menacer quelqu'un qui n'est pas sur la liste de surveillance pour utiliser l'IA dans un but néfaste, le faisant au nom de l'escroc. Ceci est connu comme un utilisateur de paille. L'utilisateur de paille peut continuer et obtenir un accès AGI et ASI.

à un moment donné, peut-être que l'utilisateur de paille se fait prendre et est ajouté à la liste de surveillance. Aucun problème. Les malfaiteurs trouvent quelqu'un d'autre pour jouer le r?le de paille. Il y a une offre presque infinie de personnes qui pourraient être payées pour le faire ou qui succomberont à des menaces pour le faire.

Le désordre d'une interdiction

Des scrupules supplémentaires surviennent sur une interdiction.

Les marchés noirs appara?tront presque certainement à cause de l'interdiction. Cela permettra au type de circonstances de l'homme de paille de passer sous terre et de travailler à l'échelle mondiale. Il devient une entreprise de magnitude significative.

Une autre préoccupation inquiétante est que les gens pourraient être placés sur la liste de surveillance pour des raisons inappropriées.

Imaginez que quelqu'un soit considéré comme politiquement désagréable dans son pays. Peut-être sont-ils politiquement persécutés. Une décision pratique de leurs adversaires serait d'obtenir leur nom ajouté à la liste de surveillance AGI et ASI Access. Le tour est joué, la personne n'a plus d'IA comme outil pour faire face à sa persécution politique.

Les dimensions éthiques et juridiques sont énormes. L'acte de déterminer qui est interdit et sur quelle base ouvre la porte à la maltraitance, à la discrimination et à la dépassement autoritaire. Une bataille presque sans fin en résultera.

Quelque chose doit être fait

Malgré tous les gotchas et les inconvénients, la base d'une interdiction a du mérite, en théorie. Nous ne pouvons pas simplement laisser les gens plonger dans AGI et ASI comme leur compagnon criminel. L'objectif serait que l'IA soit suffisamment astucieuse pour ne pas tomber entre les mains pour aider et encourager les criminels. C'est un défi de taille et aura sans aucun doute beaucoup de trous et sera une rangée difficile à houe.

Que pensez-vous de l'idée qui est maintenant flottée pour interdire à certains utilisateurs d'accéder à l'AGI et à l'ASI?

Rien n'a encore été réglé. Vous pouvez participer à ce que l'avenir tiendra. Soyez actif et impliquez-vous pour aider à voir si nous pouvons fa?onner AGI et ASI vers l'amélioration de l'humanité et ne pas être un instrument d'un malfaiteur.

Selon les paroles célèbres d'Albert Einstein: ?Le monde est un endroit dangereux pour vivre; non pas à cause des gens qui sont mauvais, mais à cause des gens qui n'en font rien.? Nous devons supposer que les mauvaises personnes auront de mauvaises intentions lors de l'utilisation d'Agi et d'Asi. Si nous ne faisons rien à ce sujet, nous sommes confrontés à un double coup de DIA, avidement, tourné vers les méchants par les malfaiteurs.

Faisons quelque chose et assurez-vous que c'est la bonne chose.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!