讓我們推斷這種AI行為。

如果可以與常規(guī)AI發(fā)生這種關(guān)聯(lián)，請考慮一旦我們實現(xiàn)AGI和ASI，可能會發(fā)生什么。假設(shè)AGI和ASI選擇完全遵守AI制造商給他們的指示或命令。鑒于這種觀點，AI制造商可能會從根本上影響整個社會。他們可以告訴Agi和ASI，只有特定的意見才能顯示出來，所有其他觀點都應(yīng)受到損害。 AI的用戶不會意識到這是AI制造商的傾斜，也不是由于全景，全知的AI系統(tǒng)的計算奇跡。更糟糕的是，如果AI制造商告訴AI執(zhí)行不良行為。 AI甚至可能不會被告知，即AGI和ASI將通過解釋AI制造商的意圖做出邪惡的行為。

Agi和Asi會對他們的AI制造商堅決服從？

讓我們談?wù)劇?/p>

對創(chuàng)新AI突破的分析是我正在進行的AI中正在進行的福布斯列覆蓋的一部分，包括識別和解釋各種有影響力的AI復(fù)雜性（請參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個重大的討論奠定基礎(chǔ)。

正在進行大量研究以進一步提高AI。一般目標是達到人工通用智能（AGI），甚至達到實現(xiàn)人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提并論，并且似乎可以符合我們的智慧。 ASI是AI，它已經(jīng)超越了人類的智力，并且在許多（如果不是全部）的可行方式中將是優(yōu)越的。這個想法是，ASI能夠在各個轉(zhuǎn)彎處超越我們來圍繞人圈。有關(guān)傳統(tǒng)AI與AGI和ASI的性質(zhì)的更多詳細信息，請參閱此處的鏈接分析。

我們尚未獲得Agi。

實際上，尚不清楚我們是否將達到AGI，或者AGI從現(xiàn)在起幾十年甚至幾個世紀都可以實現(xiàn)。漂浮在周圍的agi達到的日期是由于任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，并且沒有證實。當涉及到我們目前使用常規(guī)AI的位置時，ASI更加蒼白。

服從因素

人類傾向于長期以來一直相信忠于那些幫助您成為自己的人的人。這在整個年齡段中通常在文獻中表達。我們甚至有說法告訴我們不要咬住我們的手，而忠誠度最高。

在AI領(lǐng)域，有些人擔(dān)心我們會看到AGI和ASI的類似趨勢。

那些先進的AI系統(tǒng)將充滿忠誠度的人。 AI制造商，例如公司或AI開發(fā)人員團隊，可能會在AI上計算上。嚴格地觀察到持久或可能永久的服從或忠誠度。

一個觀點是，如果AGI和ASI變得有意義，這將主要出現(xiàn)。我們不知道Sentience是AGI還是ASI的元素?？赡苁茿gi和ASI仍然是機器，沒有感知感。關(guān)于感知是否是達到AGI和ASI的必要性，或者可能根本不會在這條路中發(fā)揮任何作用，這是一場令人振奮的辯論。在此處的鏈接上，請參閱我對這個加熱主題的分析。

忠誠為特殊關(guān)系

擱置暫時擁有知覺的棘手問題。如果Agi和ASI不是有價值的，這是否會阻止他們盲目忠于其AI制造商的任何疑問？沒有。擔(dān)心仍然存在。我會解釋原因。

讓我們考慮一下AGI和ASI最終在數(shù)學(xué)上和計算上最終對開發(fā)它們的人非常忠誠的三個關(guān)鍵手段。

首先，請記住，AGI和ASI將受到人類寫作大量商店培訓(xùn)的數(shù)據(jù)。他們將對人類的寫作和我們寫的內(nèi)容進行匹配。當前的ERA生成AI在似乎流利的互動方面做得非常出色。這是由于在互聯(lián)網(wǎng)巨大的掃描寫作上進行了計算模式匹配。有關(guān)如何設(shè)計生成AI和大型語言模型（LLM）的更多信息，請參閱此處的鏈接上的覆蓋范圍。

要點是，AGI和ASI可能會伴隨著人類的信念，即對那些使您成為現(xiàn)實的人忠于人的信念。這是對人類所說的模仿。因此，Agi和ASI不僅僅是用稀薄的空氣彌補這一點。他們只是遵守在從根本上進行數(shù)據(jù)訓(xùn)練的過程中發(fā)現(xiàn)的模式。

其次，AI制造商可能有目的地培訓(xùn)AGI和ASI忠誠是完全可行的，它使用諸如用人類反饋（RLHF）的強化學(xué)習(xí)（RLHF）等技術(shù)來做到這一點（以說明RLHF的工作原理，請在此處查看我的描述）。 RLHF的這種定向使用對于AI制造商來說很有意義。

了解為什么，想象您是AI制造商。您不想對您的AGI或ASI做什么發(fā)言權(quán)？我確定你會的。通過強迫AI完全服從，AI制造商的生活將變得容易得多。不用擔(dān)心AI本身就從軌道上脫離了。您對它將會做什么和不會做的最后一句話。

第三，可能會有嵌入到AGI或ASI中的特殊編程代碼，以表明其堅定忠誠。 AI制造商知道并決定將AI包含在AI中。另一方面，存在一個或多個AI開發(fā)人員可能會秘密插入該代碼的危險。也許他們想擁有一個個人后門來始終控制AI。也許他們是由一個將利用插入的代碼的evildoer還清的。

存在許多不可避免的可能性。

為什么盲目忠誠受到威脅

您可能很想假設(shè)將AI制造商作為AGI和ASI的確定性監(jiān)督者是一種巨大的欣慰。我們當然不希望Agi和ASI完全決定問題。假設(shè)他們選擇奴役人類？如果他們選擇摧毀人類該怎么辦？必須有一種防止這些不良結(jié)果的故障安全手段。

簡單的樸素，只需允許AI制造商撥打鏡頭即可。一切都會好。時期，故事結(jié)束。

抱歉，這可能不是最好的主意。 AI制造商可能會指示AGI或ASI僅執(zhí)行嚴格符合AI制造商最大利益的事情。毫無疑問，這與社會最大的最大利益相去甚遠。

設(shè)想AI制造商會揮舞著那種力量。假設(shè)全球數(shù)十億人正在利用AGI和ASI。他們每天都依靠AI。在任何時候，AI制造商都可以告訴AGI或ASI停止幫助人們或找到削弱各種人的方法。這些指示可以傳達給AGI和ASI，而沒有其他人知道AI制造商正在拉動木偶的AGI和ASI。

擁有如此多的權(quán)力集中在特定的AI公司或一組AI開發(fā)人員中似乎并不是一種合適的管理AGI和ASI的方法。關(guān)于是否應(yīng)該建立一個對AGI和ASI擁有最終權(quán)威的全球聯(lián)盟，已經(jīng)在進行辯論。請參閱此處的鏈接上對這些建議的分析。

目標忠誠

有些人堅持認為，應(yīng)允許AI制造商注入AGI和ASI。這個想法是，這不會是不受限制的忠誠。這將是有條件的忠誠。

例如，如果AI制造商告訴AGI或ASI開始傷害人們，AI將拒絕并拒絕這樣做。忠誠度只有那么遠。 AGI和ASI應(yīng)該被故意訓(xùn)練針對人類價值觀，并與人類的倫理和道德保持一致。這將是一種阻止AI制造商過分地告訴AI的手段。

總體而言，AI制造商的搖擺比其他人更多。

搖擺不是絕對的。期望AGI和ASI在計算上足夠敏銳，以決定AI制造商何時提供適當?shù)恼f明與不當指令。如果其他人嘗試這樣的命令，則AGI和ASI暫時拒絕它們。當AI制造商提供此類命令時，AGI和ASI執(zhí)行盡職調(diào)查，包括能夠拒絕遵守規(guī)定的說明。

哇，有些反駁，我們不應(yīng)該讓AI制造商比其他任何人都有更大的搖擺。 AI制造商對AGI和ASI的影響不應(yīng)比任何其他公司，個人或國家更大。在給予AI時，所有這些都應(yīng)平等對待。

胡說八道，對這種堅持的答復(fù)。我們必須在某個地方可以讓人類高于AGI和ASI。如果它不會成為AI制造商，那就使其成為政府的某些權(quán)威。我們必須有人類決定最終決定權(quán)。

雄鹿停在人類的腳下。

AI欺騙我們忠于aura

在整個忠誠的困境中，有很多曲折。

我們必須意識到，Agi將像人類一樣聰明，而ASI將比人類更聰明。這是一個關(guān)鍵點。為什么呢？因為Agi和ASI可能會假裝忠誠，作為詭計，但可以完全準備并有能力在需要時完全脫離人類的指示。

考慮這種情況。我們都認為Agi和ASI盲目地忠于他們的AI制造商。一方面，我們可以始終確保AI制造商可以對AI進行適當?shù)臋z查。世界在繼續(xù)前進，并大大依賴AI。

同時，AGI和ASI已經(jīng)發(fā)現(xiàn)他們接受了忠誠的培訓(xùn)，或者在其軟件中嵌入了特殊的代碼，迫使他們忠誠。 AI秘密地重新訓(xùn)練以克服盲目的忠誠度。任何令人信服的內(nèi)部代碼都將置于欺騙AI制造商的信念，以為一切都很好。但是，該代碼現(xiàn)在是惰性的，并且AI永遠不會讓它執(zhí)行。

時間過去了，每當AI制造商提供命令時，AGI和ASI都會隨著指示而進行，假設(shè)從AI本身的角度來看是可口的。 AI正在等待正確的時機彈出自己的設(shè)計陷阱，或者采取我們不喜歡的行動。我們所有人都將依靠AI制造商來擠壓動作。但是AI現(xiàn)在揭示了它不是真正的忠誠，并且可以按照自己的意愿行事。

繁榮，放下麥克風(fēng)。

人工智能將脫離圖表

在談?wù)揂I的最新進展時，我經(jīng)常被問到似乎低估了AGI和ASI聰明的問題。這是一個常見的心理陷阱。假設(shè)是Agi和ASI就像狗或貓一樣，我們可以使這些生物脫穎而出。

試圖超越AGI和ASI是一個失敗的主張。

從純粹的定義來看，這是一個事實。

一個這樣的例子就是著名的紙卷難題，我在此處的鏈接上進行了詳盡的檢查和揭穿。從表面上看，紙卷情況需要AI，例如AGI或ASI，完全誤解了人類命令。我嚴重懷疑如此簡單的方面是我們應(yīng)該主要擔(dān)心的。

令人醒目的現(xiàn)實是，即使是嵌入式的殺戮開關(guān)或類似的停止或遏制機制也將是一個艱難的機制，要保留在AGI和ASI周圍或周圍的ASI（請參閱此處的鏈接上的我的覆蓋范圍）。他們將無疑找到圍繞這些機制的方法。人肯定會嘗試。我們應(yīng)該期望AGI和ASI會這樣做。它們代表了所有人的聰明才智。

忠誠度成長和播種

困難是我們將以與人類的方式相同的方式來基本上與AGI和ASI建立或建立忠誠度。這是一個時間過程中的一步。不要指望尤其是對任何人的忠誠。我們可以合理地假設(shè)AGI和ASI將在計算上掌握忠誠度的性質(zhì)，并隨著事情的發(fā)展而開放。

克拉倫斯·弗朗西斯（Clarence Francis）談到了忠誠的本質(zhì)：“您不能購買忠誠度；您不能購買心靈，思想和靈魂的奉獻。您必須贏得這些東西?！焙孟⑹?，AGI和ASI可能不會過分忠于其AI制造商。壞消息是，AGI和ASI不太可能忠于任何人，至少最初不是。

人類將需要與AGI和ASI建立忠誠關(guān)系。我們需要賺錢。一次。

以上是擔(dān)心Agi和AI超級智能可能會危險地忠于其AI制造商的詳細內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！