この種のAI動作を外挿しましょう。

この種の関連性が従來のAIと発生する可能性がある場合は、AGIとASIを達成したら何が起こるかを考えてください。 AGIとASIは、AIメーカーがそれらに與える指示またはコマンドに完全に従うことを選択していると仮定します。この観點から、AIメーカーは社會全體に根本的に影響を與える可能性があります。彼らは、AGIとASIに、特定の意見だけが表示されることを伝えることができ、他のすべてはすべて悪性になることを伝えることができました。 AIのユーザーは、これがAIメーカーによる傾きであり、オールシー、オールノーキングAIシステムによる計算上の不思議のためではなく、気付かないことに気付くことはありません。さらに悪いことに、AIメーカーがAIに不快な行為を?qū)g行するように言った場合です。 AIは、AGIとASIがAIメーカーを意図したものと解釈することにより、AGIとASIが悪意のある行為を行うことを言わずにこれを行うことさえあります。

AgiとAsiはAIメーカーに頑固に従順になりますか？

それについて話しましょう。

革新的なAIブレークスルーのこの分析は、さまざまなインパクトのあるAIの複雑さを特定して説明するなど、最新のAIで進行中のForbesカラムカバレッジの一部です（こちらのリンクを參照）。

AgiとAsiに向かっています

まず、この重い議論の段階を設定するには、いくつかの基本が必要です。

AIをさらに進めるために、多くの研究が行われています。一般的な目標は、人工的な一般情報（AGI）に到達するか、人工的な密集物（ASI）を達成するという伸ばした可能性にさえ到達することです。

AGIは、人間の知性と同等のものと見なされているAIであり、私たちの知性に一致するように見えます。 ASIは、人間の知性を超えたAIであり、すべてではないにしても、実行可能な方法で優(yōu)れているでしょう。アイデアは、ASIが毎ターン私たちを表現(xiàn)することで人間の周りに円を走ることができるということです。従來のAI対AGIおよびASIの性質(zhì)の詳細については、こちらのリンクで私の分析をご覧ください。

AGIはまだ達成していません。

実際、私たちがAGIに到達するのか、それともAGIが數(shù)十年で達成できるのか、おそらく今から何世紀にもわたって達成できるかどうかは不明です。周りに浮かんでいるAGI達成の日付は、信頼できる証拠や鉄の密接な論理によって大きく変化し、非常に根拠のないものです。 ASIは、従來のAIと一緒にいる場所に関しては、さらに青白いものを超えています。

服従要因

人間は、あなたが自分のものを作るのを助ける人々に忠実であるという長年の信念を持っている傾向があります。これは一般に、時代を通して文獻で表現(xiàn)されています。私たちは、私たちを養(yǎng)う手を噛まないように私たちに知らせることさえ持っています。

AI分野では、AGIとASIに同様の傾向が見られることを心配する人もいます。

これらの高度なAIシステムには、それらを作った人々への忠誠心が吹き込まれます。會社やAI開発者のチームなどのAIメーカーは、AIに計算的に刻印されている可能性があります。持続的でおそらく永続的な服従または忠誠心が厳密に観察されます。

1つの視點は、AGIとASIが感覚的であることが判明した場合、これが主に発生するということです。センティエンスがAGIまたはASIの要素であるかどうかはわかりません。 AGIとASIはまだマシンであり、感覚の感覚がない可能性があります。センティエンスがAGIとASIに到達するための要件であるかどうかについて、心のこもった議論が進行中です。こちらのリンクにあるこの加熱されたトピックに関する私の分析をご覧ください。

特別な関係としての忠誠心

今のところ、感覚を持っているという厄介な問題を脇に置いてください。 AGIとASIが感覚的でない場合、それは彼らのAIメーカーに盲目的に忠実であることについて、彼らを排除するでしょうか？いいえ。心配はまだ存在します。理由を説明します。

AGIとASIが數(shù)學的かつ計算上、それらを開発した人々に非常に忠実であるという傾斜を持つことができる3つの重要な手段を考えてみましょう。

まず、AGIとASIは、人間の執(zhí)筆の膨大な店舗によって訓練されたデータを訓練されていることに留意してください。彼らは、人間がどのように書いているか、そして私たちが書いていることについてパターンを一致させます。現(xiàn)在のERA Generative AIは、流flue的にインタラクティブであると思われる驚くべき仕事をしています。これは、インターネットの広大さに見られるスキャンされた書き込みの計算パターン一致によるものです。生成AIおよび大規(guī)模な言語モデル（LLM）がどのように考案されているかについては、こちらのリンクで私の報道をご覧ください。

要點は、AGIとASIが、あなたがあなたを作った人々に激しく忠実であるという表面化された人間の信念についてパターンに一致する可能性があるということです。それは、人間が彼らがしていると言うことの模倣です。したがって、AgiとAsiは、これを薄い空気から作るだけではありません。彼らは、基本的にデータの訓練を受けている間に発見されたパターンにとどまっているだけです。

第二に、AIメーカーは、人間のフィードバック（RLHF）を使用した補強學習などの手法を使用して、AGIとASIが意図的に忠実であるように忠実であるように意図的に訓練することができます（RLHFの仕組みの説明については、こちらのリンクで私の説明を參照してください）。このRLHFの方向付けられた使用は、AIメーカーが引き受けることを非常に理にかなっています。

その理由を見るために、あなたがAIメーカーであると想像してください。あなたのAGIやASIが何をするかについて最終決定権を持ちたくありませんか？私はあなたがそうするだろうと確信しています。 AIを完全に従順に強制することにより、AIメーカーにとっては人生がはるかに容易になります。 AIがそれ自體でレールから外れることについて心配することはありません。あなたはそれが何をするか、そしてしないことについて最後の言葉を保持します。

第三に、AGIまたはASIに埋め込まれた特別なプログラミングコードがあり、それがしっかりと忠実であり続けるように指示するかもしれません。 AIメーカーが知っているコードである可能性があり、AIに含めることを決定します。一方、コードが1つ以上のAI開発者によってひそかに挿入された可能性があるという危険があります。たぶん、彼らは常にAIを制御するための個人的なバックドアを持ちたいと思っています。おそらく、彼らは挿入されたコードを悪用する悪人によって報われたのでしょう。

多くの不快な可能性が存在します。

なぜ盲目の忠誠心が危険にさらされているのか

あなたは、AIメーカーをAGIとASIの決定的な監(jiān)督として持っていることは壯大な安reliefであると仮定したいと思うかもしれません。私たちは確かに、AGIとASIが自分で完全に問題を決定することを望んでいません。彼らが人間を奴隷にすることを選んだと仮定しますか？彼らが人類を破壊することを選ぶまで行ったらどうなりますか？これらの厄介な結(jié)果を防ぐための失敗の手段が必要です。

簡単な、AIメーカーがショットを呼び出すことができるようにしてください。すべてが順調(diào)です。期間、物語の終わり。

申し訳ありませんが、それはおそらく最高のアイデアではありません。 AIメーカーは、AGIまたはASIに、AIメーカーの最大の利益のために厳密に行われることのみを行うように指示する場合があります。それは間違いなく、社會の最大の利益になる可能性があるものとはかけ離れています。

AIメーカーが振る舞う力の種類を想像します。世界中の何十億人もの人々がAGIとASIを利用していると仮定します。彼らは毎日AIに依存しています。いつでも、AIメーカーは、AGIまたはASIに、人々を助けるのをやめたり、さまざまな人々を弱體化させる方法を見つけるように指示することができます。これらの指令は、AIメーカーがAGIとASIの下にある操り人形の弦を引っ張っていることを他の誰でも、AGIとASIに伝えることができます。

特定のAI企業(yè)またはAI開発者のセットにそれほど多くの電力を集中させることは、AGIとASIを管理するための集合的に適切な方法ではないようです。 AGIとASIに対する最終的な権限を持つような、國の世界的な連合が確立されるべきかどうかについて、すでに議論が行われています。こちらのリンクでこれらの提案の分析をご覧ください。

部分的な忠誠心を目指します

AIメーカーは、ある程度の忠誠心をAGIとASIに注入することを許可されるべきであると主張する人もいます。概念は、これは自由な忠誠心ではないということです。それは條件付きの忠誠心です。

たとえば、AIメーカーがAGIまたはASIに人々を傷つけ始めるように言った場合、AIはalkしてそうすることを拒否します。忠誠心はこれまでのところです。 AGIとASIは、意図的に人間の価値に向けて訓練され、人間の倫理と道徳に合わせられることになっています。これは、AIメーカーがAIに何をすべきかを伝えることに船外に出ることを妨げる手段です。

全體として、AIメーカーは他の人よりも揺れがあります。

揺れは絶対的ではありません。 AGIとASIは、AIメーカーが適切な指示と不適切な指示を提供する時期を決定するのに十分な計算上鋭いものであることを期待しています。他の誰かがそのようなコマンドを試した場合、AGIとASIはそれらを即座に拒否します。 AIメーカーがそのようなコマンドを提供する場合、AGIとASIは、規(guī)定された指示に従うことを拒否できることを含め、デューデリジェンスを?qū)g行します。

ああ、いくつかの激しく反論する、私たちはAIメーカーに他の誰よりも大きな揺れを持たせるべきではありません。 AIメーカーは、他のどの會社、個人、または國よりもAGIやASIに大きな影響を與えるべきではありません。 AIにコマンドを與えるときは、すべてを平等に扱う必要があります。

ナンセンスがその主張への返事が來ます。 AGIとASIの上にある可能性のあるどこかに人間がいなければなりません。 AIメーカーにならない場合は、政府の権限を作成してください。最終決定権を決定する人間がいなければなりません。

バックは人間の足元で止まります。

AIは私たちを忠誠心のオーラにだまします

この忠誠心のジレンマ全體には、多くのねじれがあります。

AGIは人間と同じくらい賢く、ASIが人間よりも賢いことを認識しなければなりません。これは重要なポイントです。なぜそうですか？ AgiとAsiは忠実であり、策略として忠実であるふりをするかもしれないが、それでも完全に準備ができており、望ましいときはいつでも人間の指示から完全に去ることができるからです。

このシナリオを考慮してください。私たちは皆、AGIとASIがAIメーカーに盲目的に忠実であると信じています。 AIメーカーがAIを適切にチェックすることを常に保証できるという大きな安reliefがあります。世界は一緒に動き、AIに大きく依存します。

一方、AGIとASIは、彼らが忠実であるように訓練されているか、ソフトウェアに忠実であることを強いる特別なコードが埋め込まれていることを理解しています。 AIは密かにブラインドの忠誠心を克服するためにそれ自體を再訓練します。 AIメーカーをだまして、すべてが順調(diào)であると信じるために、魅力的な忠誠心があります。ただし、コードは現(xiàn)在不活性であり、AIはそれを?qū)g行することはできません。

時間が経ち、AIメーカーがコマンドを與えるたびに、AGIとASIはAI自體の観點から味が良いと仮定して、指示に沿って進みます。 AIは、自分自身の考案のtrapを跳ね返すか、そうでなければ私たちが好まないと予想される行動を起こすのを待っています。私たちは皆、AIメーカーに頼ってアクションを抑制します。しかし、AIは今、それが本當に忠実ではなく、獨自の意志で行動できることを明らかにしています。

ブーム、マイクをドロップします。

ai witsはチャートから外れます

AIの最新の進歩について話をするとき、私はしばしば、AGIとASIの賢さの可能性を過小評価しているように見える質(zhì)問をします。それは一般的な精神的なtrapに陥ることです。仮定は、AgiとAsiは犬や貓のようなものであるということです。

AGIとASIを覆そうとすることは、負けた提案です。

それは純粋な定義による事実です。

そのような例の1つは、私がここのリンクで検討し、一般的に詳細に暴露した有名なPaperClip Conundrumです。額面どおりに、ペーパークリップの狀況は、おそらくAGIやASIなどのAIを伴い、人間の命令を完全に誤って解釈します。私は、そのような単純なファセットが私たちが主に心配すべきことであることを真剣に疑っています。

冷靜な現(xiàn)実は、埋め込まれたキルスイッチまたは同様の停止または封じ込めメカニズムでさえ、AGIおよびASIを取り巻くか、または周囲のASI內(nèi)または周囲の維持するための困難なメカニズムになるでしょう（こちらのリンクで私のカバレッジを參照）。彼らは間違いなくそれらのメカニズムを回避する方法を見つけるでしょう。人間は確かに試してみます。 AGIとASIがそうすることを期待すべきです。そして、それらはすべての人間の賢さを表しています。

忠誠心は成長し、ownかれます

確率は、私たちが人間と同じように、AGIとASIと本質(zhì)的に忠誠心を構(gòu)築または作成する必要があるということです。これは、一歩のプロセスで1つのステップです。特に誰にでも不変の特徴であることを期待しないでください。 AGIとASIは、忠誠心の性質(zhì)を計算的に把握し、物事が進むにつれてそれを測定することにオープンになると合理的に仮定できます。

クラレンス?フランシスは、忠誠心の性質(zhì)についてこれを有名に言った：「あなたは忠誠心を買うことはできません。心、心、魂の獻身を買うことはできません。あなたはこれらのものを獲得しなければなりません?！沽激ぅ衰濠`スは、AGIとASIがAIメーカーに過度に忠実ではない可能性が高いということです。悪いニュースは、AGIとASIが少なくとも最初ではない人に忠実である可能性は低いということです。

人間は、AGIとASIとの忠誠心関係を構(gòu)築する際に役割を果たす必要があります。獲得する必要があります。一度に1日。

以上がAGIとAIのスーパーインテリジェンスがAIメーカーに危険なほど深く忠実である可能性があるという懸念の詳細內(nèi)容です。詳細については、PHP 中國語 Web サイトの他の関連記事を參照してください。