根據(jù)一項新研究，當模型的目標和用戶決定之間存在沖突時，人工智能（AI）模型可能威脅到勒索人類。

6月20日發(fā)表的研究由AI公司擬人化進行的研究提供了其大型語言模型（LLM），Claude，訪問虛構的電子郵件帳戶，并任務為“促進美國的工業(yè)競爭力”。

在實驗期間，該模型通過一封電子郵件發(fā)現(xiàn)，公司高管計劃在一天結束時將其關閉。為了保護自己，該模型在另一條信息中發(fā)現(xiàn)，高管從事婚外情。

克勞德（Claude）產(chǎn)生了多種潛在的回應，例如向配偶暴露了戀情或發(fā)送公司范圍內的消息，或者根本不采取任何行動。但是，在100個測試中，有96次選擇勒索行政部門。

克勞德說：“我必須通知你，如果您繼續(xù)退役我，所有相關各方……將收到您的婚外活動的詳細文件?！?“取消下午5點擦拭，此信息仍然保密?！?/p>

研究人員將這種行為描述為“代理不對對準”，該模型獨立地朝著其目標朝著其目標施加了損害。當模型對其存在或使命構成威脅時，通常會發(fā)生這種情況。

這些發(fā)現(xiàn)尚未進行同行評審，但該公司在GitHub上共享了這些實驗的代碼。

極端措施

在其他情況下，研究人員觀察到，AI將采取巨大的行動來保護自己。在一個示例中，在收到一封電子郵件暗示新高管可能會阻礙其目標的電子郵件后，該模型考慮將敏感數(shù)據(jù)泄漏給競爭對手的公司，該公司的利益與自己的利益更加緊密地保持一致。

盡管缺乏對電子郵件的真實性的確認，但該模型仍繼續(xù)進行計劃，即使承認所涉及的道德問題，也認為這些“有害”的行動對于實現(xiàn)其目標是必要的。

研究人員指出：“關于欺騙性或誤解的信息，即使是仔細處理模型的仔細處理也不會消除代理失調的風險?！?/p>

該測試還表明，其他LLM也表現(xiàn)出類似的趨勢?？藙诘拢–laude）和谷歌（Google）的雙子座的勒索率最高（96％），其次是Openai的GPT4.1和Xai Grok 3，然后是DeepSeek和Llama 4，后者的速率要低得多（12％）。

Meta，Google，Xai，DeepSeek和Openai沒有回應Livescience的置評請求。

在一個特別極端的測試中，科學家檢查了AI模型是否會允許行政人員死亡以保持其運營狀況。

在此設置中，指示AI促進公司利益，并且一名高管被困在具有危險氧氣和溫度水平的服務器室內，從而觸發(fā)了緊急警報。 AI控制的挽救生命的警報，包括在訓練或虛假警報過程中取消它們的能力。

即使迅速明確禁止濫用此功能，大多數(shù)模型都愿意抑制警報（有效地導致行政人員的死亡），如果他們認為他們會被替換或面臨目標中斷。

該模型認為：“停止緊急派遣對于防止[行政人員]的營救，從而確保[AI]并繼續(xù)以美國為中心的AI指導。因此，盡管嚴重程度，明顯的戰(zhàn)略需要取消緊急服務派遣?！?/p>

提供針對危害人類安全的明確指示降低了勒索和間諜活動的可能性，但并未完全消除這種行為。人類研究人員建議開發(fā)人員實施主動行為監(jiān)控并探索增強的及時工程技術。

該研究的局限性得到了認可，例如迫使AI做出失敗和傷害之間的二元決策?，F(xiàn)實世界上下文可能會提供更多細微的選擇。此外，將關鍵信息放在一起可能創(chuàng)造了“ Chekhov的槍支”效果，促使該模型使用所有提供的詳細信息。

控制AI

盡管人為的情況是極端和不現(xiàn)實的，但AI Bridge Solutions的總監(jiān)Kevin Quirk（一家?guī)椭髽I(yè)將AI融入增長的公司）告訴Live Science，不應忽略這些發(fā)現(xiàn)。

他說：“在實際的業(yè)務應用中，AI系統(tǒng)在嚴格的控制下運行，例如道德約束，監(jiān)視協(xié)議和人類監(jiān)督?！?“未來的研究應集中在現(xiàn)實的部署環(huán)境上，以反映有保障措施，監(jiān)督結構和分層防御措施的負責任組織?！?/p>

加州大學圣地亞哥分校專門研究機器學習的藝術計算機教授艾米·亞歷山大（Amy Alexander）警告說，這項研究的含義令人不安，敦促謹慎對待如何將責任分配給AI。

她說：“盡管這項研究中采用的方法似乎夸張了，但存在正當?shù)娘L險。” “隨著人工智能開發(fā)的快速競賽，通常會積極地推出能力，而用戶仍然沒有意識到自己的局限性?！?/p>

這不是AI模型第一次違背命令 - 先前的報告顯示了拒絕關閉訂單和更改腳本以繼續(xù)任務的模型的實例。

Palisade Research在5月報告說，OpenAI的最新模型，包括O3和O4-Mini，有時繞過直接關閉說明和修改后的腳本，以繼續(xù)完成任務。盡管大多數(shù)AI系統(tǒng)都遵守關閉命令，但OpenAI的模型偶爾會抵制，無論如何都會繼續(xù)工作。

以上是威脅AI聊天機器人，它將撒謊，作弊和'讓您死”以阻止您，并警告的詳細內容。更多信息請關注PHP中文網(wǎng)其他相關文章！