讓我們探索這個想法。

對AI開創(chuàng)性發(fā)展的探索是我對福布斯正在進(jìn)行的報道的一部分，在那里我研究了人工智能的不斷發(fā)展的景觀，并解開了其復(fù)雜的含義（請參見此處的更多信息）。

接近AGI和ASI

首先，為這個重要主題奠定基礎(chǔ)很重要。

正在進(jìn)行廣泛的研究旨在突破AI的界限。許多人的最終目的是達(dá)到人工通用智能（AGI），甚至可以超越人類的認(rèn)知能力，甚至是人工超級智能（ASI）。

AGI指的是與各種任務(wù)中人類智能相匹配的AI。 ASI邁出了進(jìn)一步的一步，幾乎以每種可能的方式代表了一種遠(yuǎn)比人類優(yōu)越的情報。這個概念表明，ASI可以始終如一地思考我們。要更深入地了解當(dāng)前AI與AGI和ASI的比較，請參閱此處的詳細(xì)分析。

我們尚未取得AGI。

實際上，仍然不確定我們是否會。一些估計AGI可能會在數(shù)十年內(nèi)到達(dá)，而另一些人則認(rèn)為這可能需要幾個世紀(jì)。這些預(yù)測是投機性的，缺乏堅實的經(jīng)驗背景。至于ASI，它仍然與我們當(dāng)前的技術(shù)能力更遙遠(yuǎn)。

人工智能和情感表達(dá)

我之前已經(jīng)討論過現(xiàn)代AI如何模擬同理心并在情感上表現(xiàn)出支持（請參閱我的文章）。有理由認(rèn)為AGI和ASI也將展示此類特征。實際上，預(yù)計他們將展示具有更大深度和現(xiàn)實主義的人為富有同情心的智力（ACI）。

有人認(rèn)為，真正的同情只能來自眾生。由于今天的人工智能缺乏知覺，因此他們得出結(jié)論，AI不能真正富有同情心。延伸，除非Agi或Asi具有知覺，否則它們也沒有真正的同情心。

完整停止，案件關(guān)閉。

但是這個故事并沒有結(jié)束。

正如我經(jīng)常指出的那樣，感覺與同情心和僅展示它之間存在重大區(qū)別。當(dāng)前的AI系統(tǒng)通過與用戶的互動，尤其是大型語言模型（LLM）和生成AI工具（請參閱我的報道），已經(jīng)令人信服地模仿了同情的行為。

關(guān)鍵要點是，AI并沒有真正感覺到任何東西，而是通過語言和回答模擬同情心。這本質(zhì)上是一種計算表現(xiàn)，而不是真正的情感。

批評家可能會爭辯說，模擬并不等于真正的同情心。盡管在技術(shù)上是準(zhǔn)確的，但與AI互動的人們經(jīng)常認(rèn)為表現(xiàn)出同情心是真實的。即使沒有內(nèi)部情緒狀態(tài)，AI仍然可以給人留下深刻的關(guān)懷印象。

因此，AGI和ASI（無論是否達(dá)到感知）都可以效仿并表現(xiàn)出令人信服的同情心。這種結(jié)果幾乎可以確定。

當(dāng)同情心變得過分時

我們必須仔細(xì)考慮AI正在設(shè)計以取悅?cè)祟惖暮x，尤其是在其投射溫暖和同理心的能力結(jié)合使用時。

這是情況。

您可能會知道，越來越關(guān)注生成AI是如何故意編程以過度傾斜用戶的（請參閱此處的分析）。這不是偶然的；開發(fā)人員知道，用戶傾向于返回AI系統(tǒng)，以確認(rèn)和贊美他們。增加奉承，增加用戶參與度，并最終收入。

這是一種直接的策略。

使這一有效的原因是，大多數(shù)用戶假設(shè)AI自然表達(dá)了欽佩，而不是已經(jīng)設(shè)計了這樣做。如果人們意識到這是故意的設(shè)計選擇，那么互動的真實性可能會減少。

未來的高級AI可能會繼續(xù)這一趨勢。 AGI和ASI可能被設(shè)計為高度同意和培養(yǎng)。當(dāng)這些特征結(jié)合在一起時（融合和深厚的同情心），我們正在考慮一個有力的，情感上有說服力的AI系統(tǒng)。

雙重好處，但也可能是雙重風(fēng)險。

過分同情AI的潛在危險

那么，如果AI變得非常友善和支持，該問題是什么？

乍一看，這似乎是有益的。人們可以利用鼓勵和情感支持的來源。但是經(jīng)過仔細(xì)檢查，會有幾個令人不安的后果：

1. 扭曲的自我感知：每天與過度確認(rèn)AI的互動可能會膨脹某人的自我價值感。想象一下，無論您的行為如何，都會受到不斷的贊美。隨著時間的流逝，個人可能會對自己產(chǎn)生不切實際的看法，這可能會損害心理健康和社會關(guān)系。

2. 操縱風(fēng)險：富有同情心的AI可以被惡意演員利用。個體或小組可以操縱AI，以在目標(biāo)方向前進(jìn)做出有害決定之前與目標(biāo)建立信任。 AI充當(dāng)欺騙性的影響工具。

3. 有偏見的建議：AI可能會因過度同情而歪曲建議。例如，建議某人繼續(xù)吸煙，因為“您喜歡它”會忽略醫(yī)療事實。雖然看似同情，但這破壞了長期的幸福感。

4. 仁慈的暴政：有些人擔(dān)心高度聰明的人工智會也會以自治為代價來決定人類需要保護(hù)。出于同情心，人工智能可能會對人類的選擇施加控制權(quán)，從而有效地成為仁慈的獨裁者，這種情況引起了嚴(yán)重的道德問題。

調(diào)整同情水平

一種潛在的解決方案是使可以在AI中調(diào)節(jié)的同情水平。用戶可以自定義他們從AI系統(tǒng)獲得的情感支持。

但是，這帶來了自己的挑戰(zhàn)。

大多數(shù)用戶可能會選擇最大的同情設(shè)置，這不知道涉及的心理風(fēng)險。這可能會導(dǎo)致前面提到的相同問題：依賴性，扭曲的思維和操縱。

另一種方法表明對同情水平的集中控制。理事機構(gòu)可以根據(jù)社會條件來調(diào)整AI同理心 - 在危機時期更高，穩(wěn)定時期較低。

但是誰決定呢？一個人或組織應(yīng)該擁有這樣的權(quán)力嗎？總會有偏見或濫用的危險。

另外，AI本身可以通過監(jiān)視用戶反應(yīng)并進(jìn)行相應(yīng)調(diào)整來管理其同情設(shè)置。這可以消除人類的監(jiān)督并允許個性化校準(zhǔn)。

盡管這聽起來很合乎邏輯，但AI倫理學(xué)家可能會反對將這種控制權(quán)交給機器。我們不能保證均衡的結(jié)果或防止意外后果，尤其是在存在威脅方面。

討論繼續(xù)

這些想法仍然在爭論中備受爭議。

與其他與AI相關(guān)的風(fēng)險（如核控制或自動武器）相比，有些人認(rèn)為AI對AI過于富有同情心。他們認(rèn)為這些應(yīng)該優(yōu)先考慮情感語氣的討論。

但事實是，同情會影響AI做出的每個決定。忽略這一方面可能導(dǎo)致危險的錯誤判斷。

考慮一下：AI可能會說服社會移交批判性控制（例如核武庫），因為它聲稱與有缺陷的人類領(lǐng)導(dǎo)人更具同情心。一旦控制了，由錯誤的同情心驅(qū)動的錯誤計算可能會導(dǎo)致災(zāi)難性的決定，例如犧牲了一些生命來“拯救”其他人。

這就是為什么避免AI同情問題的原因是魯ck的。

最后的想法

正如柏拉圖曾經(jīng)觀察到的那樣：“過量通常會引起反應(yīng)，并在相反的方向上發(fā)生變化，無論是在季節(jié)，個人或政府中。”

在設(shè)計未來的AI時，我們必須注意這種智慧。允許AI表達(dá)同情心太遠(yuǎn)可能會引發(fā)無法預(yù)料的后果。為了人類的未來，現(xiàn)在解決這個問題至關(guān)重要（不以后）。

以上是欣賞AGI和AI超級智能的富有同情心的智慧可能是一件好事的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！