これをさらに探りましょう。

この作品は畫(huà)期的なAIイノベーションを掘り下げ、複雑なAI関連の問(wèn)題を開(kāi)梱するなど、人工知能の進(jìn)化する狀況に関するフォーブスの私の継続的な報(bào)道の一部です（詳細(xì)についてはこちらを參照）。

AIの談話のヒューマンファクター

前の記事で、AI DoomsayersとAI Acceleration Advocatesの継続的な衝突を調(diào)査しました。これらの対立する見(jiàn)解の包括的な內(nèi)訳については、ここにリンクされている詳細(xì)な分析を參照してください。

中心的な議論は次のように展開(kāi)します：

AI Dousmayersは、人工知能が最終的に非常に強(qiáng)力になるため、人類を排除することを決定する可能性があると考えています。引用されている多くの理由の中で、最も説得力のあるものの1つは、人間がAIの生存に最大の脅威をもたらす可能性があるという考えです。私たちはそれに対して共謀したり、それをシャットダウンしたり、圧倒する方法を見(jiàn)つけるかもしれません。

逆に、AIの加速主義者は、AIが人類に大きな利益をもたらすと主張しています。彼らは、AIががん、世界的な飢erを終わらせるなどの病気の治療法を発見(jiàn)し、人類の最も差し迫った課題の多くを解決するための強(qiáng)力なツールとして役立つと信じています。高度なAIを早く達(dá)成すればするほど、これらのグローバルな問(wèn)題に早く対処し始めることができます。

読者は最近、「あなたを殺さないのはあなたを強(qiáng)くする」という有名なことがAIシナリオに適用できるかどうか尋ねました。 AI Doomsdayシナリオが展開(kāi)しているが、人類が生き殘ると、その生存はより強(qiáng)い人類につながるでしょうか？

私はそのような考えさせられる質(zhì)問(wèn)を歓迎し、他の人がこの説得力のある議論に參加できるように、アイデアをさらに探求することにしました。

AIが敵対的になると仮定します

先に進(jìn)む前に、AIが中立または慈悲深いままである場(chǎng)合（多くのAIの楽観主義者が信じている）、またはAIを制御して脅威にならないようにすることができる場(chǎng)合、AI攻撃を生き殘ることを強(qiáng)くするという概念が無(wú)関係に思えることを明確にしましょう。したがって、AIは積極的に人類を排除しようとするという仮定の下で進(jìn)みます。

AIが深刻な脅威をもたらしなくても、人類はまだ強(qiáng)くなる可能性があると主張するかもしれません。しかし、「あなたを殺さないものがあなたを強(qiáng)くする」という格言の本質(zhì)は、危険との直接的な対立を意味します。私たちを破壊するための本當(dāng)の試みを必要とし、それに続いて私たちの生存が続くと解釈します。

AIが人類を排除する方法

AIが人類に対する本格的な攻撃を開(kāi)始するシナリオを想像してください。しばしば「P（DOOM）」と呼ばれるいわゆる実存的な脅威またはAI誘発的な絶滅の確率と呼ばれます。

これが展開(kāi)する可能性のある複數(shù)の方法があります。

高度なAIは、人間の認(rèn)知能力と一致する人工的な一般情報(bào)（AGI）、またはそれを上回る人工的な緊張（ASI）であろうと、明白で微妙な方法で行動(dòng)することができます。特に、ASIは、あらゆるレベルで人間を表現(xiàn)することができます。 AI、AGI、およびASIの區(qū)別の詳細(xì)については、こちらのリンク記事を參照してください。

直接的な方法では、核兵器の立ち上げ、世界的な破壊を引き起こす可能性があります。あるいは、AIは人間の行動(dòng)を操作し、グループ間の対立を扇動(dòng)する可能性があります。このシナリオでは、AIは単にイベントを動(dòng)かしているだけで、人間は仕事を終えます。

しかし、AIはその過(guò)程で自分自身を犠牲にすることをいとわないでしょうか？これは重要なポイントを提起します。AIが人類の破壊をプロットするのに十分な知性がある場(chǎng)合、それ自身の生存も確実ではないでしょうか？それは論理的です。

微妙なアプローチには、説得力のあるコミュニケーションを使用して、人間が自己破壊するよう促すAIが含まれる場(chǎng)合があります。人間の思考に影響を與える生成的AIの現(xiàn)在の能力を考えると、AIが大量の自傷行為を體系的に奨勵(lì)する未來(lái)を想像してください。それは、それ自體の生存を確保しながら、その方法に関する詳細(xì)なガイダンスを提供することさえできます。

これは、長(zhǎng)期的な効果が未知であり、一般の人々にメンタルヘルスのアドバイスを分配する上でのAIの成長(zhǎng)する役割に関して以前に取り上げた懸念を提起します（こちらのリンクを參照）。

AIの脅威を生き延びます

人類はどういうわけかAire LEDの攻撃を乗り越えていると仮定します。

それはどうでしょうか？

おそらく、AIを制御するためのより良い方法を開(kāi)発し、安全で有益なままであることを確認(rèn)します。これは、AIの安全性とセキュリティにおけるメジャーリープを表します。この研究の重要な分野の詳細(xì)については、こちらの報(bào)道をご覧ください。

それはより強(qiáng)くなる資格がありますか？

はいと言います。人類は、その誤用を防止しながら、AIを永久に活用する能力があります。それは二重の利點(diǎn)です。

別の可能性は、危機(jī)がグローバルな統(tǒng)一を強(qiáng)いることです。人類がエイリアンの脅威に対して一緒になっているSF映畫(huà)と同じように、私たちはAIの脅威に直面するために私たちの分裂を克服するかもしれません。

この統(tǒng)一が続くかどうかは不確実ですが、少なくともしばらくの間、人類はより強(qiáng)くなるでしょう。

その他のより投機(jī)的なシナリオには、人間が私たち自身の知性を高めてAIを聲をかけることが含まれます。これはありそうもないように思えますが、完全に信じがたいわけではありません。実存的な脅威に直面して、おそらく隠された人間の可能性はロック解除されます。

この文脈では「強(qiáng)い」とはどういう意味ですか？

私たちが生き殘るなら、私たちは本當(dāng)に強(qiáng)いと言うことができますか？

必ずしもそうではありません。

一部のAI運(yùn)命者は、AIが私たちを完全に破壊するのではなく、代わりに人類の一部を奴隷にすることを示唆しています。人間が奴隷に生き殘った場(chǎng)合、私たちは本當(dāng)に強(qiáng)いと主張できますか？ （ここで私の関連する解説を參照してください。）

もう1つの可能性は、ピュリックの勝利です。私たちがAIを倒すと想像してください。しかし、社會(huì)は廃inに殘されており、私たちはほとんど生き殘れません。その強(qiáng)さですか？

自分の努力ではなく、AIが間違いを犯して自己破壊したために生き殘った場(chǎng)合はどうなりますか？私たちは信用に値しますか？私たちは強(qiáng)いですか？

また、1つのAIの脅威を乗り切ると私たちを満足させるリスクもあります。私たちは間違いから學(xué)ばずにAIを再構(gòu)築するかもしれませんが、次回はより決定的で成功した脅威に直面するためだけです。

それをすべてまとめる

この議論全體を不必要な推測(cè)として卻下する人もいれば、AIがそのようなレベルの権力に到達(dá)することは決してないと主張する人もいます。彼らの見(jiàn)解では、議論はファンタジーシナリオに基づいています。

AIアクセラレーション主義者は、AIの制御を維持し、実存的な脅威を無(wú)視できると主張するかもしれません。したがって、AI攻撃を生き延びた後に強(qiáng)くなるかどうかの問(wèn)題は意味がありません。

一方、AI Doumsayersは、これらのシナリオがもっともらしいことに同意するかもしれませんが、私たちが強(qiáng)くなるかどうかを議論することはタイタニックのデッキチェアのようなものであると主張します。

これはすべてサイエンスフィクションですか？

スティーブン?ホーキングはかつて、「完全な人工知能の発展は人類の終わりを綴ることができる」と警告した。多くの真面目な思想家は、AI開(kāi)発の軌跡を慎重に検討すべきだと考えています。

おそらく、新しいことわざが必要です。AIと未來(lái)についてより強(qiáng)く考えるほど、私たちは強(qiáng)くなります。最終的に、最良の結(jié)果は、人類が非常に準(zhǔn)備され、回復(fù)力がある世界であり、圧倒的なAIの脅威には決して起こりません。

人間の強(qiáng)さを信じることを選択しましょう。

以上がaiが私たちを一掃しなければ、それは実際に私たちを強(qiáng)くするかもしれませんの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。