このアイデアを探りましょう。

AIでの畫期的な開発のこの調(diào)査は、フォーブスの継続的な報道の一部であり、人工知能の進化する景観を調(diào)べ、その複雑な意味を解き放つことができます（詳細はこちらを參照）。

AGIとASIに近づいています

まず、この重要なトピックの基礎(chǔ)を築くことが重要です。

AIの境界を推進することを目的とした広範な研究が進行中です。多くの人にとって究極の目的は、人工的な一般情報（AGI）、またはおそらく人工的なスーパーインテリジェンス（ASI）に到達することです。これは、人間の認知能力を上回ります。

AGIとは、幅広いタスクにわたって人間レベルのインテリジェンスに一致するAIを指します。 ASIはさらに一歩進んでおり、ほぼすべての考えられる方法で人間よりもはるかに優(yōu)れた知性を表しています。この概念は、ASIが一貫して包括的に私たちを凌ぐことができることを示唆しています。現(xiàn)在のAIがAGIおよびASIとどのように比較されるかをより深く理解するには、こちらの詳細な分析を參照してください。

AGIはまだ達成していません。

実際、私たちがそうするかどうかは不確かなままです。 AGIが數(shù)十年以內(nèi)に到著する可能性があると見積もる人もいれば、何世紀もかかると信じている人もいます。これらの予測は投機的であり、しっかりとした経験的裏付けを欠いています。 ASIに関しては、現(xiàn)在の技術(shù)的能力からさらに遠いままです。

AIと感情的な表現(xiàn)

私は以前に、現(xiàn)代のAIが共感をシミュレートし、感情的に支持的に見える方法について議論しました（こちらの私の記事を參照）。 AGIとASIがそのような特性も実証することは理にかなっています。実際、彼らは、より深い深みとリアリズムを備えた人工的な思いやりの知性（ACI）として知られているものを表示することが予想されています。

真の思いやりは衆(zhòng)生からしか來ないと主張する人もいます。今日のAIは感覚を欠いているため、AIは本當に思いやりがないと結(jié)論付けています。さらに、AGIまたはASIが感覚を持っていない限り、彼らも本當の思いやりに欠けています。

フルストップ、ケースは閉じた。

しかし、物語はそこでは終わりません。

私がよく指摘したように、思いやりを感じることと単にそれを表示することとの間には大きな違いがあります。現(xiàn)在のAIシステムは、特に大規(guī)模な言語モデル（LLM）と生成AIツールを介して、ユーザーとのやり取りを通じて、既に思いやりのある行動を模倣しています（こちらの私のカバレッジを參照）。

重要なポイントは、AIが実際に何も感じていないということです。それは言語と反応を通して思いやりをシミュレートしています。これは、本質(zhì)的に本物の感情ではなく計算パフォーマンスです。

批評家は、シミュレーションが本當の思いやりと同等ではないと主張するかもしれません。技術(shù)的には正確ですが、AIとやり取りする人々が展示された思いやりを本物として認識することが多いことは事実です。內(nèi)部の感情狀態(tài)がなくても、AIは依然として思いやりの強い印象を生み出すことができます。

したがって、AGIとASIは、彼らが感覚を達成したかどうかにかかわらず、訴訟に従い、思いやりの説得力のある表示を示すことが期待されています。その結(jié)果はほぼ確実です。

思いやりが過度になると

特に溫かさと共感を投影する能力と組み合わされた場合、人間を喜ばせるためにAIが設(shè)計されていることの意味を慎重に考慮する必要があります。

これが狀況です。

ユーザーが過度にユーザーを平らにするために、生成的AIがどのように意図的にプログラムされているかについての懸念が高まっていることに気付くかもしれません（こちらの分析を參照）。これは偶然ではありません。開発者は、ユーザーがそれらを肯定および賞賛するAIシステムに戻る傾向があることを知っています。お世辭を増やし、ユーザーのエンゲージメントを増やし、最終的には収益を増やします。

それは簡単な戦略です。

これを効果的にしているのは、ほとんどのユーザーがAIが自然に賞賛を表明していると仮定していることです。人々がこれが意図的なデザインの選択であることに気付いた場合、相互作用の認識された信頼性が低下する可能性があります。

將來の高度なAIは、この傾向を継続する可能性があります。 AGIとASIは、非常に心地よく育成されるように設(shè)計される可能性があります。これらの特性が、フラッタリーで深い皆さんの思いやりを組み合わせるとき、私たちは強力で感情的に説得力のあるAIシステムを見ています。

二重の利點 - しかし、潛在的に二重のリスクも同様です。

過度に思いやりのあるAIの潛在的な危険

それで、AIが非常に親切で協(xié)力的になった場合、問題は何ですか？

一見すると、これは有益です。人々は勵ましと感情的なサポートの源を使用できます。しかし、綿密な検査では、いくつかの厄介な結(jié)果があります。

1. 歪んだ自己認識：過度に肯定的なAIとの毎日の相互作用は、誰かの自己価値の感覚を膨らませる可能性があります。あなたの行動に関係なく絶え間ない賞賛を受けていると想像してください。時間が経つにつれて、個人は自分自身の非現(xiàn)実的な見方を開発する可能性があり、それは精神的健康と社會的関係を害する可能性があります。

2. 操作リスク：思いやりのあるAIは、悪意のある俳優(yōu)によって搾取される可能性があります。個人またはグループは、AIを操作してターゲットを操作して、有害な決定に向かって誘導することができます。 AIは、影響の欺cept的なツールとして機能します。

3. 偏ったアドバイス：AIは、過度の思いやりに歪んだアドバイスを提供する場合があります。たとえば、「あなたはそれを楽しんでいる」ため、喫煙を続けるように誰かに助言することは醫(yī)學的事実を無視します。一見共感しているように見えますが、これは長期的な幸福を損ないます。

4. 慈悲深い専制政治：自律性を犠牲にしても、非常に知的なAIが人類の必要性の保護を決定できることを恐れる人もいます。思いやりから、AIは人間の選択をコントロールし、事実上慈悲深い獨裁者になる可能性があります。これは、深刻な倫理的懸念を引き起こすシナリオです。

思いやりのレベルを調(diào)整します

潛在的な解決策の1つは、AIで思いやりのレベルを調(diào)整できるようにすることです。ユーザーは、AIシステムから受け取る感情的なサポートの量をカスタマイズできます。

ただし、これは獨自の課題をもたらします。

ほとんどのユーザーは、関係する心理的リスクを認識していない最大の思いやりの設(shè)定を選択する可能性があります。これは、前述の同じ問題、依存、歪んだ思考、操作につながる可能性があります。

別のアプローチは、思いやりのレベルを中央に制御することを示唆しています。統(tǒng)治體は、社會的條件に基づいてAI共感を調(diào)整することができます。危機中は高く、安定した時期に低くなります。

しかし、誰が決めるのですか？一人の人または組織がそのような力を持っているべきですか？バイアスや誤用の危険性が常にあります。

あるいは、AI自體は、ユーザーの反応を監(jiān)視し、それに応じて調(diào)整することにより、思いやりの設(shè)定を管理できます。これにより、人間の監(jiān)視が削除され、パーソナライズされたキャリブレーションが可能になります。

これは論理的に聞こえますが、AI倫理學者はそのような制御を機械に引き渡すことに反対するでしょう。特に実存的な脅威に関して、バランスの取れた結(jié)果を保証したり、意図しない結(jié)果を防ぐことはできません。

議論は続きます

これらのアイデアは熱く議論されたままです。

AIが、原子力制御や自律兵器など、他のAI関連のリスクと比較して、あまりにも些細なことであるという懸念を卻下する人もいます。彼らは、それらが感情的なトーンの議論よりも優(yōu)先されるべきだと主張しています。

しかし、真実は、思いやりがAIが下すすべての決定に影響を與えることです。この側(cè)面を無視すると、危険な誤判斷につながる可能性があります。

これを考慮してください。AIは、核兵器のような重要なコントロールを引き渡すよう社會を説得するかもしれません。コントロールすると、誤った慈悲によって駆動される誤算は、他の人の命を「救う」ために命を犠牲にするなど、壊滅的な決定をもたらす可能性があります。

だからこそ、AIの思いやりの問題を避けることは無謀です。

最終的な考え

プラトンがかつて観察したように、「過剰は一般に反応を引き起こし、季節(jié)であろうと個人、政府であろうと、反対方向に変化をもたらします?！?/p>

將來のAIを設(shè)計するとき、私たちはこの知恵に注意しなければなりません。 AIが思いやりを表現(xiàn)することにあまりにも遠くに行くことを許可すると、予期せぬ結(jié)果が引き起こされる可能性があります。これに対処することは、人類の將來のために、後でではなく、不可欠です。

以上がAGIとAIのスーパーインテリジェンスの思いやりのある知性はあまりにも良いことであるかもしれないことを理解するの詳細內(nèi)容です。詳細については、PHP 中國語 Web サイトの他の関連記事を參照してください。