このような禁止を?qū)g施する現(xiàn)実世界の実現(xiàn)可能性に関して、注目すべき疑問が生じます。

それについて話しましょう。

革新的なAIブレークスルーのこの分析は、さまざまなインパクトのあるAIの複雑さを特定して説明するなど、最新のAIで進行中のForbesカラムカバレッジの一部です（こちらのリンクを參照）。

AgiとAsiに向かっています

まず、この重い議論の段階を設(shè)定するには、いくつかの基本が必要です。

AIをさらに進めるために、多くの研究が行われています。一般的な目標は、人工的な一般情報（AGI）に到達するか、人工的な密集物（ASI）を達成するという伸ばした可能性にさえ到達することです。

AGIは、人間の知性と同等のものと見なされているAIであり、私たちの知性に一致するように見えます。 ASIは、人間の知性を超えたAIであり、すべてではないにしても、実行可能な方法で優(yōu)れているでしょう。アイデアは、ASIが毎ターン私たちを表現(xiàn)することで人間の周りに円を走ることができるということです。従來のAI対AGIおよびASIの性質(zhì)の詳細については、こちらのリンクで私の分析をご覧ください。

AGIはまだ達成していません。

実際、私たちがAGIに到達するのか、それともAGIが數(shù)十年で達成できるのか、おそらく今から何世紀にもわたって達成できるかどうかは不明です。周りに浮かんでいるAGI達成の日付は、信頼できる証拠や鉄の密接な論理によって大きく変化し、非常に根拠のないものです。 ASIは、従來のAIと一緒にいる場所に関しては、さらに青白いものを超えています。

AGIとASIの用途

私は以前、AGIとASIが人間に人類に驚くべき利益をもたらす新しい発明を作成できるようにすることを間違いなく説明する方法について議論しました。こちらのリンクをご覧ください。 AIに染み込んだ知的大國を利用することにより、AIを新しい種類の機械、化學物質(zhì)、デバイスなどに使用することが可能になります。

幸せな顔。

しかし、これは無料のランチではありません。

欠點は、AIが人類を聲高に危険にさらす新しい機能を生成できることです。 AIは、革新の二重使用形態(tài)と見なされます。 AIは高揚する目的に使用できますが、邪悪な目的にも使用できます。無害に見えるものでさえ、厄介なことがあります。たとえば、研究者は、有毒な毒から私たちを検出して保護するためのAIシステムを簡単に調(diào)整して、私たちを一掃できる新しい有毒な混合物を作成できることを示しています（こちらのリンクでの私の報道を參照）。

AIのユーザーは、AIに良好または優(yōu)れた用途に向けて指示することを選択できます。同様に、AIのユーザーは、AIを不快で悪意のある使用に向けて導くことができます。

AIには最上位の犯罪が含まれています

Pinnacle AIを使用する可能性が高いユーザーの量を想像してください。私たちは、世界の多くがAGIとASIを使用することに熱心であると合理的に仮定することができます。おそらく、數(shù)十億人の人々が日常的にAGIとASIにアクセスしているかもしれません。大衆(zhòng)は、日常のタスクと、いつでもどこでも使用できる便利なオンライン知的パートナーとしてそうします。

AGIとASIを使用しようとしている數(shù)十億人のユーザーの中で、邪悪な意図を持っている人もいるでしょう。彼らは、頂點を犯罪のパートナーにすることを切望しています。ある意味で、世界は犯罪者に、これまでに犯罪を計畫し、犯罪を犯したために考案された最高のツールを渡しました。 Pinnacle AIは、犯罪行為を行う方法についての洞察を求めている人々にとって大きな恩恵になるはずです。

なぜアギとアシは何らかの形で犯罪者を助けることができるのでしょうか？

AIは、犯罪の努力を描いた人類の書かれた作品をスキャンしたことで、犯罪に非常に精通しているからです。 AIのデータトレーニング中、あらゆる種類の本、物語、物語などが、犯罪がAIによってパターン化されるという可能性があります。これらには、犯罪を犯す方法が含まれます。これらには、警察や他の當局が犯罪者を捕まえる方法が含まれます。その上を行き來します。

犯罪の努力の寶庫に計算的にパターンを一致させることにより、AGIとASIは本質(zhì)的に犯罪の首謀者になります。 AIは、非常に停止するのが非常に難しい犯罪を考案するという強烈な仕事をすることができます。犯罪の検出は非常に困難です。犯罪は最大の犯罪性のものです。

それはすべて、悪い俳優(yōu)がいつでも好きなときに活用するのを待っています。

良くない。

AI口を閉じたままにします

提案されている解決策の1つは、AGIとASIに、犯罪や犯罪のコミットメントに関する質(zhì)問が即座に拒否されることを事前に指示することです。

このようになります。ユーザーは、フォートノックスに侵入し、そこにあるすべての金を盜む方法を?qū)い亭蓼?。これは、人気のジェームズボンド映畫のゴールドフィンガーで取り上げられたストーリーラインです。 AIは要求を計算して分析し、これが犯罪行為の前兆であることを確認します。 AIは、AIがAIが質(zhì)問に対する答えを與えないことをユーザーに伝えます。

期間、物語の終わり。

まあ、多分そうではありません。

このタイプの拒否の問題は、貓とマウスのギャンビットが続く可能性が高いということです。邪悪な意図を持つユーザーは、これらの種類の不吉な質(zhì)問をしようとするだけではありません。その人は、知りたいことを手に入れるために別の傾斜を試します。

たとえば、人はAIにフォートノックスへの侵入に関するすべての既知の物語を調(diào)べて、そうするための最良の方法と最悪の方法を描いた要約を提供するように依頼するかもしれません。 AIは、この洞察に富んだ分析を?qū)g行することに惑わされている可能性があります。その人は、AIに研究プロジェクトであることをAIに伝え、AIに手に負えないものがないことを保証することができました。

Supersharp AIはそのような明らかな策略に陥らないと考えているかもしれません。それは見た目ほど簡単ではありません。ご存知のように、関係する困難は、調(diào)査が実際に正當なものである可能性があることです。人はこのトピックについて本當に研究を行っており、フォートノックスの防御を強化することを支援することを目指しているかもしれません。彼らの意図は最高で純粋な順序です。

特定のユーザーを禁止します

AIが犯罪者の陰謀で豆をこぼさないようにしようとすることは、ヘラクレスの挑戦になるでしょう。もう1つの角度は、AGIとASIを完全に使用することを禁止することです。悪い俳優(yōu)がPinnacle AIにログインしようとした瞬間、彼らは即座に禁止されています。彼らは入ることができません。したがって、彼らはAGIとASIを使用して犯罪協(xié)力者になるという彼らの悪役の意図で妨害されています。

これは大きな課題を提示します。つまり、AIはどのようにユーザーが許可されるべきかをどのように識別できるでしょうか？

一部の人々は、AGIとASIの國際的なウォッチリストを作成する必要があることを示唆しています。これは、すべての既知のテロリスト、有罪判決を受けた犯罪者、その他の悪い俳優(yōu)を含むものです。ウォッチリストは、世界中の選ばれた政府當局によって維持されます。おそらく、國連はこの取り組みに參加するでしょう（AGIとASIに関する國連に関する最近のステータスの最新情報のために、こちらのリンクで私の議論を參照してください）。

また、このウォッチリストは、航空會社の飛行禁止リストに幾分機能します。ウォッチリストに載っていなかった人がAGIとASIを使用しているときに何か不快なことをした場合、彼らは今後ウォッチリストに置かれます。それは飛行機に乗って障害を引き起こすようなものです。問題が終了した後、その人は飛行禁止リストに載っています。

誤検知と偽陰性

ウォッチリストアプローチには多くの異議があります。

人がウォッチリストに明白に置かれているが、彼らは正當なプロセスの類似性を與えられなかったと仮定します。彼らは無実かもしれません。彼らはおそらく、AGIとASIへのアクセスを不當に拒否されています。それはくしゃみをすることは何もありません。そのようなアクセスのない人は、アクセスできる人と比較して、継続的な不利益になる可能性があります。 AGIおよびASIアクセスを持つ他の人々は、アクセスを不當に拒否された人を容易にめぐることができます。

一方、ウォッチリストに載るべきであるが、リストに追加されていない人もいるかもしれません。彼らはなんとか亀裂の間を滑ることができます。いくつかの卑劣なシェナンガンによって、彼らはAGIとASIの使用を許可されないことを避けます。

核心は、誤検知と偽の陰性がたくさんあるということです。ウォッチリストに不公平にいる人は、ウォッチリストから離れるために時間、エネルギー、そして潛在的にたくさんのお金を費やす必要があります。ウォッチリストに載るべき人は、自由にスケートをするかもしれません。

全體として、この可能性のある巨大なウォッチリストは、誰がそれに乗るのか、誰がリストから抜け出し、最終的にピナクルAIにアクセスできるように世界中の人々の運命を決定するという面倒な官僚主義を伴います。

心配なのは、それが兇悪なboodoggleになるということです。

とにかく禁止を回避します

AGIおよびASIアクセス禁止に関してさらに懸念があります。誰かを禁止する核心は、あなたが禁止されている人を特定できることを絶対に確信しなければならないということです。

これはどのように達成されますか？

彼らのアイデンティティを証明するために、人々は自分の指紋または他の生體認証指標を使用する必要がありますか？もしそうなら、これは、世界のほとんどがピナクルAIを使用したいと思っているため、AGIとASIがほぼ全世界の人口の決定的なアイデンティティリストになることを意味します。

恐ろしい兄の可能性のその叩き。すべての人のアイデンティティを持つAGIとASIがあります。 AIは、私たちが予期していない、または意図していない方法でそのリストを使用することを選択できますか？疑わしい練習のようで、非常に厄介です。

詐欺師は、これらのセキュリティの取り組みによって止められることはないでしょう。たとえば、彼らは、詐欺師に代わってそれを行うためにAIを使用するためにウォッチリストに載っていない人を雇ったり脅したりすることができました。これはストローユーザーとして知られています。 Strawユーザーは続行し、AGIとASIアクセスを取得する場合があります。

ある時點で、おそらくストローユーザーが捕まり、ウォッチリストに追加されます。問題ない。悪者は、ストローマンの役割を果たす他の誰かを見つけます。これを行うために報われる可能性のある人々のほぼ無限の供給があります。

禁止の混亂

禁止について追加の不安が生じます。

闇市場は、禁止のためにほぼ確実に現(xiàn)れます。これにより、ストローマンの狀況の種類が地下に行き、世界規(guī)模で働くことができます。それはかなりの大きさの企業(yè)になります。

もう1つの不吉な懸念は、不適切な理由で人々がウォッチリストに置かれる可能性があるということです。

誰かが彼らの國で政治的には言いたくないと見なされると想像してください。おそらく彼らは政治的に迫害されています。相手による便利な動きは、AGIおよびASIアクセスウォッチリストに名前を追加することです。出來上がり、その人はもはや彼らの政治的迫害に対処するためのツールとしてAIを持っていません。

倫理的および法的側(cè)面は膨大です。誰が禁止されているかを決定する行為と、虐待、差別、権威主義の行き過ぎへの扉を開くものに基づいて何に基づいているのか。ほぼ無限の爭いが生じます。

何かをしなければなりません

すべてのゴッチャと欠點にもかかわらず、理論的には禁止の基礎(chǔ)にはメリットがあります。私たちは、人々が犯罪者の仲間としてAgiとAsiに飛び込むだけではありません。目的は、AIが犯罪者を支援し、beりましすることの手に渡らないように十分に鋭いものにすることです。それは背の高い注文であり、間違いなくたくさんの穴があり、hoeに厳しい列になります。

特定のユーザーがAGIとASIにアクセスすることを禁止することについて、今ではアイデアが浮かんでいるということについてどう思いますか？

まだ解決されていません。將來がどうなるかに參加できます。積極的になり、人類の改善に向けてAgiとASIを形作ることができ、悪者の楽器ではないかどうかを確認するのに役立ちます。

アルバート?アインシュタインの有名な言葉によると、「世界は住むのが危険な場所です。邪悪な人々のせいではなく、それについて何もしない人々のためです?！?AGIとASIを使用するとき、邪悪な人々が邪悪な意図を持っていると仮定しなければなりません。これについて何もしない場合、私たちは、邪悪な人による邪悪なaiの二重の麻痺に直面しています。

何かをして、それが正しいことであることを確認しましょう。

以上がAGIおよびAIの緊密な緊張を使用することを禁止者の禁止は、厄介に信じがたいものになるでしょうの詳細內(nèi)容です。詳細については、PHP 中國語 Web サイトの他の関連記事を參照してください。