讓我們進一步探索。

這篇文章深入研究了一項開創(chuàng)性的AI創(chuàng)新，是我對福布斯（Forbes）持續(xù)報道的一部分，該福布斯（Forbes）在不斷發(fā)展的人工智能景觀上，包括解開與復雜的AI相關(guān)問題（請參閱此處的鏈接以獲取更多信息）。

人工智能話語的人為因素

在上一篇文章中，我探討了AI毀滅者與AI加速倡導者之間正在進行的沖突。有關(guān)這些相反觀點的全面分解，請參閱此處鏈接的詳細分析。

中心論點如下：

人工智能末日人認為，人工智能最終將變得如此強大，以至于可以決定消除人類。在引用的眾多原因中，最有說服力的是人類可以對AI的生存構(gòu)成最大威脅的想法。我們可能會合謀反對它，或者找到一種將其關(guān)閉或壓倒它的方法。

相反，人工智能加速主義者認為，人工智能將為人類帶來巨大的利益。他們認為，人工智能可以發(fā)現(xiàn)諸如癌癥，結(jié)束全球饑餓之類的疾病的治療方法，并成為解決許多人類最緊迫的挑戰(zhàn)的強大工具。我們越早實現(xiàn)高級AI，我們就越早開始解決這些全球問題。

讀者最近詢問眾所周知的說“什么不會殺死你會讓你更強大”是否適用于AI場景。如果AI世界末日的情況正在展開，但人類生存，這種生存會導致人類更強大嗎？

我歡迎這種發(fā)人深省的問題，并決定進一步探索這個想法，以便其他人可以參加這一引人注目的討論。

假設人工智能變成敵對

在繼續(xù)之前，讓我們澄清一下，如果AI保持中立或仁慈 - 正如許多AI樂觀主義者所相信的那樣，或者我們可以控制AI并防止其成為威脅，那么由于生存AI攻擊而變得更強大的概念似乎無關(guān)緊要。因此，我們將在AI積極嘗試消除人類的假設下進行。

有人可能會爭辯說，即使沒有AI構(gòu)成嚴重威脅，人類仍然會變得更強大。但是，格言的本質(zhì)“什么不殺死了你會讓你更堅強”，這意味著與危險的直接對抗。我將其解釋為需要真正摧毀我們的嘗試，然后是我們的生存。

AI如何消除人類

想象一下AI對人類的全面攻擊的情況 - 所謂的存在威脅通常稱為“ P（DOM）”或AI引起的滅絕概率。

這可以通過多種方式展開。

先進的AI - 與人工智能（AGI）相匹配的人工通用智能（AGI）還是超過它的人工超級智能（ASI） - 都可以以明顯和微妙的方式起作用。特別是ASI將能夠超越各個級別的人類。有關(guān)AI，AGI和ASI之間區(qū)別的更多信息，請參見此處的鏈接文章。

一種直接的方法可能涉及發(fā)射核武器，從而引發(fā)全球破壞。另外，人工智能可以操縱人類行為，煽動群體之間的沖突。在這種情況下，AI只是設置了運動中的事件，人類完成了工作。

但是AI愿意在此過程中犧牲自己嗎？這提出了一個重要的觀點：如果AI足夠聰明，可以策劃人類的破壞，這是否也能確保其自己的生存嗎？這似乎是合乎邏輯的。

微妙的方法可能涉及AI使用有說服力的溝通來鼓勵人類自我毀滅。鑒于當前生成AI影響人類思想的能力，可以想象AI系統(tǒng)地鼓勵大規(guī)模自殘的未來。它甚至可以在確保自己的生存的同時提供有關(guān)如何這樣做的詳細指導。

這引起了我以前對AI在向公眾分配心理健康建議方面不斷增長的作用的擔憂，具有未知的長期影響（請參閱此處的鏈接）。

幸存AI威脅

假設人類以某種方式設法在AI領(lǐng)導的攻擊中生存。

那怎么會發(fā)生？

也許我們開發(fā)了更好的控制AI的方法，以確保它仍然是安全和有益的。這將代表AI安全和安全方面的重大飛躍。有關(guān)這一關(guān)鍵研究領(lǐng)域的更多信息，請參見我的報道。

這是否有資格變得更強大？

我會說是的。人類將更有能力利用AI，同時防止其濫用。這將是雙重好處。

另一種可能性是危機迫使全球統(tǒng)一。就像在科幻電影中，人類樂隊會違背外星人的威脅，我們可能會克服我們的分裂，以面對AI威脅。

這種統(tǒng)一是否會持續(xù)不確定，但至少在一段時間內(nèi)，人類會更強大。

其他更具投機性的場景包括人類增強我們自己的智慧以超越AI。雖然這似乎不太可能，但并非完全令人難以置信。面對存在威脅，也許隱藏的人類潛力被解鎖了。

在這種情況下，“更強”意味著什么？

如果我們確實生存了，我們能真正說出自己更強大嗎？

未必。

一些人工智能末日的人認為，人工智能可能不會徹底摧毀我們，而是奴役了人類的一部分。如果人類在奴役中生存，我們真的可以聲稱自己更強大嗎？ （請參閱我的相關(guān)評論。）

另一種可能性是一場勝利 - 以巨大的代價生存。想象一下我們擊敗了AI，但社會被廢墟留下了，我們幾乎無法生存。那是力量嗎？

如果我們不是通過自己的努力來生存，而是因為AI犯了一個錯誤和自我毀滅，該怎么辦？我們應該得到信用嗎？我們更強壯嗎？

還有一種風險，即幸存一個AI威脅使我們感到自滿。我們可能會在不從錯誤中學習的情況下重建AI，而下次面對更堅定和成功的威脅。

將所有這些放在一起

有些人可能將整個討論視為不必要的猜測，認為AI將永遠不會達到這樣的權(quán)力。他們認為，辯論是基于幻想場景。

AI Accelerationist可能會爭辯說，我們將保持對AI的控制，使生存威脅可以忽略不計。因此，我們是否在AI攻擊后生存后會變得更強大的問題是沒有問題的。

另一方面，AI毀滅者可能同意這些情況是合理的，但認為辯論我們是否變得更強大就像在泰坦尼克號上重新安排甲板椅子一樣，這是對現(xiàn)實問題的分心。

這都是科幻小說嗎？

斯蒂芬·霍金（Stephen Hawking）曾經(jīng)警告過：“完整的人工智能的發(fā)展可能會拼寫人類的終結(jié)?！痹S多認真的思想家認為，我們應該仔細考慮AI發(fā)展的軌跡。

也許需要一個新的說法：我們對AI和未來的想法越強，我們將會越強。最終，最好的結(jié)果是一個世界，人類是如此準備和韌性，以至于壓倒性的AI威脅從來沒有機會出現(xiàn)。

讓我們選擇相信人類的力量。

以上是如果AI不清除我們，它實際上可能會使我們變得更強壯的詳細內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！