加速主義者的愿景：全速前進(jìn)

有效的加速主義，即短期內(nèi)被稱為E/ACC，大約在2022年左右作為技術(shù)優(yōu)先主義運(yùn)動，在硅谷及其他地區(qū)獲得了巨大的吸引力，其核心是E/ACC提倡的快速，不受限制的技術(shù)進(jìn)步。

是什么加速加速主義者？

如果您曾經(jīng)聽說過有人說“進(jìn)步是不可避免的”或“監(jiān)管只是減慢了創(chuàng)新”，那么您會聽到E/ACC思維的回聲。這種哲學(xué)基于幾種關(guān)鍵信念：

作為命運(yùn)的技術(shù)：E/ACC支持者將技術(shù)進(jìn)步視為不可阻擋的力量 - 例如重力 - 不應(yīng)阻礙。他們認(rèn)為試圖減慢發(fā)展的嘗試不僅徒勞無功，而且可能有害。

市場最了解：他們擁護(hù)自由市場的創(chuàng)新，將法規(guī)視為高速公路進(jìn)步的速度。

E/ACC認(rèn)為，通過創(chuàng)新豐富：而不是重新分配現(xiàn)有資源，而是認(rèn)為創(chuàng)建強(qiáng)大的新技術(shù)將為每個(gè)人帶來前所未有的豐富。

機(jī)會，而不是風(fēng)險(xiǎn)：在其他人看到高級AI的危險(xiǎn)的地方，E/ACC看到了人類最大的機(jī)會，這是解決我們最大的問題并超越當(dāng)前局限性的機(jī)會。

科技投資者馬克·安德森（Marc Andreessen）在他的“技術(shù)優(yōu)先宣言”中宣稱：“我們相信技術(shù)是我們創(chuàng)造更好的未來，豐富的未來，一個(gè)奇跡的未來，一個(gè)充分實(shí)現(xiàn)人類潛力的未來的方式?！?/p>

親社會視野：人類價(jià)值觀首先

對比的是P Rosocial AI ，這是一個(gè)將人類和行星福利置于技術(shù)發(fā)展中心的框架。根據(jù)定義，親社會AI系統(tǒng)是“量身定制，訓(xùn)練，測試和針對性的，可以為人物和星球帶來最好的選擇?！彼麄兊膶?shí)施是我們所屬于的人類，我們所屬的社區(qū)，我們所屬于的國家以及我們所依賴的星球的雙贏。

是什么使AI真正親社會？

想象一下，如果我們正在構(gòu)建的AI系統(tǒng)的設(shè)計(jì)不僅是為了聰明，而且是明智的，可以反映我們的最高價(jià)值，而不僅僅是我們的技術(shù)能力。親社會AI通過幾個(gè)核心原則體現(xiàn)了這一野心：

人類代理事務(wù)：親社會AI始于人類代理 - 我們做出有意義的技術(shù)選擇的能力。這種方法重視意識（了解正在發(fā)生的事情），欣賞（認(rèn)識不同的觀點(diǎn)），接受（在努力改善時(shí)承認(rèn)現(xiàn)實(shí)）和問責(zé)制（對結(jié)果負(fù)責(zé)）。

我們塑造我們的工具。然后他們塑造了我們：這一簡單的真理可能總結(jié)了親社會方法中最深刻的見解：“我們不能指望明天的技術(shù)比今天的人類更好?！睋Q句話說，AI將反映我們的價(jià)值觀 - 無論好壞。

進(jìn)行演講：親社會的AI要求“雙重對齊” - 我們所說的我們珍視與實(shí)際行為的和諧，以及我們的人類愿望與我們創(chuàng)造的算法之間的和諧。您不能在沒有自己練習(xí)的情況下將同情心編程為AI。

速度前的安全：親社會的擁護(hù)者優(yōu)先考慮徹底的測試和魯棒的安全機(jī)制，而不是趕上強(qiáng)大的AI系統(tǒng)上市。

餐桌上的每個(gè)人：無社會AI并沒有讓一小部分技術(shù)人員或投資者做出影響數(shù)十億美元的決定，而是支持具有多種聲音的包容性治理。

人類行星意識的設(shè)計(jì)：在此框架中，AI應(yīng)該使人類和我們依賴的更廣泛的生態(tài)系統(tǒng)受益。

這些愿景沖突的地方

這些相互競爭的框架為AI開發(fā)提供了根本不同的方法：

誰在駕駛員座位上？

E/ACC傾向于將技術(shù)視為具有自己動力的自主力量 - 幾乎就像人類應(yīng)該有助于促進(jìn)而不是直接的現(xiàn)象一樣。相比之下，親社會AI強(qiáng)調(diào)人類對我們創(chuàng)造的技術(shù)仍然負(fù)責(zé)。正如我們不會責(zé)怪錘子的使用方式一樣，我們不能將道德責(zé)任委托給AI系統(tǒng)。古老的俗話“垃圾，垃圾”仍然持有。它可以顛倒為 - 值，值。 Gigo與Vivo。這種轉(zhuǎn)變需要人類的選擇。

權(quán)衡風(fēng)險(xiǎn)

這些方法之間的風(fēng)險(xiǎn)計(jì)算截然不同。 E/ACC支持者經(jīng)常認(rèn)為，最大的危險(xiǎn)在于發(fā)展太慢 - 可能失去經(jīng)濟(jì)優(yōu)勢或缺少可能解決緊急問題的技術(shù)突破。

親社會的擁護(hù)者反駁說，在沒有足夠的保障措施的情況下向前沖，可能會導(dǎo)致破壞隱私，擴(kuò)大不平等甚至構(gòu)成存在風(fēng)險(xiǎn)的系統(tǒng)。正如AI研究人員斯圖爾特·羅素（Stuart Russell）所說：“一個(gè)對目標(biāo)函數(shù)進(jìn)行優(yōu)化的系統(tǒng)，該目標(biāo)函數(shù)無法完全捕獲我們的價(jià)值會導(dǎo)致任意不良結(jié)果。”

道路規(guī)則

這些差異擴(kuò)展到治理方法：

E/ACC劇本：最小的前期規(guī)則，讓市場競爭推動創(chuàng)新并在出現(xiàn)后解決問題。

親社會劇本：在部署前建立的周到的護(hù)欄，并進(jìn)行了包括各種利益相關(guān)者的監(jiān)督。

人類元素：技術(shù)缺失的作品

使親社會方法特別獨(dú)特的原因是它認(rèn)識到僅技術(shù)解決方案還不夠。我們AI的質(zhì)量最終將反映我們?nèi)祟惖馁|(zhì)量。

這樣考慮：您是否希望根據(jù)人們在X上的互動或我們對人類行為的最高愿望做出道德決定的AI系統(tǒng)？我們所說的我們珍視與我們經(jīng)常行動之間的差距為AI開發(fā)帶來了根本的挑戰(zhàn)。

這種洞察力翻轉(zhuǎn)了有關(guān)AI倫理的通常對話。而不是問：“我們?nèi)绾问笰I與人類價(jià)值觀保持一致？”我們必須問：“我們?nèi)绾问棺约旱男袨榕c聲稱擁有的價(jià)值觀保持一致？”它表明，開發(fā)有益的AI需要更好的算法和更好的人類 - 那些始終如一地展示他們希望看到的智慧，同情和責(zé)任的人，他們希望看到他們的技術(shù)創(chuàng)造。

尋找共同點(diǎn)

盡管它們有所不同，但這些框架具有一些重要的領(lǐng)域：

技術(shù)的變革力量：兩者都承認(rèn)AI的前所未有的重塑社會的潛力。

卓越技術(shù)：價(jià)值創(chuàng)新和尖端功能。

人類蓬勃發(fā)展：兩者都聲稱要追求有利于人類的技術(shù)發(fā)展，即使他們以不同的方式定義了這一發(fā)展。

這對我們的AI未來意味著什么

這些方法之間的張力在今天做出的實(shí)際決定中發(fā)揮了作用：

公司優(yōu)先事項(xiàng)：科技公司在最大化開發(fā)速度和對安全研究的投資之間進(jìn)行選擇。

人才決策：工程師和研究人員正在決定在哪里集中精力 - 突破界限或確保有益的結(jié)果。

政策選擇：立法者正在確定是優(yōu)先考慮創(chuàng)新激勵措施還是保護(hù)性護(hù)欄。

教育重點(diǎn)：大學(xué)和培訓(xùn)計(jì)劃平衡技術(shù)技能與道德理解。黃金路徑是對雙重掃盲的投資，以利用對自然和人工智能的整體理解。

前進(jìn)的路

有效的加速度和親社會AI之間的辯論不僅是學(xué)術(shù)，而且在我們開發(fā)越來越強(qiáng)大的技術(shù)時(shí)，它代表了道路上的叉子。最有前途的道路可能從這兩個(gè)角度融合了見解：保持技術(shù)動態(tài)，同時(shí)確保這一進(jìn)步真正地為人類和行星福利服務(wù)。

越來越清楚的是，技術(shù)發(fā)展不能與人類發(fā)展分開。隨著我們構(gòu)建越來越強(qiáng)大的工具，我們必須同時(shí)培養(yǎng)將這些工具引導(dǎo)到有益目的所需的智慧，價(jià)值和責(zé)任。

明天AI的質(zhì)量最終將反映當(dāng)今人類的質(zhì)量。倫理不是抽象的意圖，而是一種野心，在我們?yōu)g覽未經(jīng)憲章的領(lǐng)土?xí)r，具有真實(shí)而緊迫的含義。人類必須設(shè)計(jì)混合的未來 - 對于具有人道視野的人類。有效的加速度和親社會AI之間的張力提醒我們，最重要的一致性問題可能是我們內(nèi)部的一個(gè)問題。這不是對人類深處的技術(shù)挑戰(zhàn)。

以上是有效的加速主義或親社會AI。 AI的未來是什么？的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！