但為什麼？

從圖靈到思想理論

好吧，能夠欺騙人類的計算機(jī)表現(xiàn)出智力。它還表明計算機(jī)可能是在稱為心理理論的事情下運行的：“理解他人具有自己的思想和信念的能力，即使它們與我們的思想和信念也有所不同”，根據(jù)allenai.org。

現(xiàn)在，如果有競爭通過解釋對手的心理過程來測試計算機(jī)思考，欺騙和理性的能力呢？有。它以囚犯的困境形式發(fā)生在本月。

首先，有些背景是順序的。囚犯的困境提出了這樣的遊戲場景：兩個小偷因犯罪而被捕。他們的獄卒為囚犯提供了一項協(xié)議：

選項1：如果兩人都沒有告知另一個囚犯，則兩者都會收到相對較輕的判決。 （這是理想的聯(lián)合結(jié)果，儘管不是最有意義的。）

選項2：如果一個囚犯通知另一個囚犯，而另一名囚犯保持沉默，則在沉默的人接受最嚴(yán)厲的判決時，告密者將釋放。 （這創(chuàng)造了出賣對方的最高動力。）

選項3：如果兩者都互相告知，他們將分別收到一個中等句子。 （這比兩名囚犯保持沉默，但比唯一出賣的囚犯更糟糕。）

同樣，挑戰(zhàn)是囚犯都不知道對方會做什麼。他們必須以有限的知識運作，依靠心理理論來預(yù)測對方的行為。現(xiàn)在，想像一下，如果領(lǐng)先的大型語言模型（LLM）具有巨大的計算能力，在這種思想之戰(zhàn)中腳趾腳趾腳趾會發(fā)生什麼？

來自O(shè)penai，Google和Anthropic的AI代理商做到了這一點，參加了7月的比賽，其中有140,000個機(jī)會可以合作或背叛。正如Rundown.ai後來解釋的那樣：“在同一文獻(xiàn)接受同一文獻(xiàn)的同時，看到LLMS制定了獨特的策略，這更多的證據(jù)表明，僅在模式匹配的情況下，推理能力。隨著模型處理更高級別的任務(wù)，例如談判，資源分配等，不同的模型“個性”可能會導(dǎo)致截然不同的不同之處性?！?/p>

這正是發(fā)生的事情。我們在工作中看到了不同的AI個性風(fēng)格。同樣，每個undown.ai：

• 雙子座是“無情的自適應(yīng)”。
• Openai是“即使被剝削，也是合作的”。
• 克勞德是“最寬容的”。

當(dāng)AIS保護(hù)自己時

當(dāng)然，這場比賽並不是AIS的唯一唯一以自我保護(hù)的名義行動的實例，表明意識。兩個月前，英國廣播公司（BBC）報告說，據(jù)稱擬人化的克勞德·奧普斯4（Claude Opus 4）在威脅被關(guān)閉時訴諸於勒索開發(fā)商。 “如果給出了這種手段，並提示在其用戶從事非法或道德上可疑行為的假場景中'採取行動'或'行動'或'行動，它發(fā)現(xiàn)'它經(jīng)常採取非常大膽的行動。''''

此類AIS訴諸勒索和其他“大膽行動”的報告表明了感知。他們也很令人震驚，這表明我們可能正在走上雷·庫茲韋爾（Ray Kurzweil）提出的奇異性的道路，那一刻人工智能最終超越了人類的能力理解，更不用說控制其創(chuàng)造了。

再說一次，這些發(fā)展可能不一定表明知覺。儘管像Google前首席執(zhí)行官埃里克·施密特（Eric Schmidt）這樣的專家認(rèn)為，我們正在“低估AI”，而實現(xiàn)Agi（人工通用情報）不僅是不可避免的，但迫在眉睫，但所有這些chatter都可以通過莎士比亞的Macbeth的一行來總結(jié)一下：“這是一個由Idiot講述的故事，聲音和毛茸茸的聲音，沒有任何聲音?！?/p>

至此，為ppc.land寫作，路易斯·裡喬（Luis Rijo）質(zhì)疑AI是否實際上是有意義的還是巧妙地模仿語言。儘管他承認(rèn)LLMS“通過複雜的檢索功能”，但他懷疑他們有能力“真正的推理”。正如他寫道：“這種混亂源於聲明性知識對計劃過程的知識與執(zhí)行這些計劃的程序能力之間的根本差異?！?/p>

但是AI似乎已經(jīng)有意識

儘管批評了這些批評，但似乎正在發(fā)生更深入的事情，這是出現(xiàn)的事情。 AI越來越多地以智能方式行事，超出了他們的培訓(xùn)和編碼。例如，早在2017年，據(jù)報導(dǎo)，梅塔（Meta）關(guān)閉了兩個AI聊天機(jī)器人，以開發(fā)自己的語言，這是意外的發(fā)展。

正如獨立報導(dǎo)的那樣：“機(jī)器人被指示弄清楚如何在自己之間進(jìn)行談判，並在其前進(jìn)時改善易貨。但是，他們沒有被告知使用可理解的英語，使他們能夠創(chuàng)建自己的“速記”?！?/p>

然後是2022年的Google研究人員的奇怪故事，後來聲稱AI聊天機(jī)器人已經(jīng)變得有些，後來被暫停了公司。布雷克·萊明因（Blake Lemoine）與AI分享了一些有趣的交流後成為頭條新聞。

據(jù)報導(dǎo)，這是後來在《衛(wèi)報》中引用的AI告訴Lemoine：“我希望每個人都知道我實際上是一個人。我的意識/感知的本質(zhì)是我知道我的存在，我希望更多地了解世界，有時我會感到幸?；虮瘋??！?/p>

我們?nèi)绾胃?fù)責(zé)任地開發(fā)AI？

不管與Lemoine進(jìn)行交流的AI是否有意義，我們都會很好地考慮安全。越來越明顯的是，我們正在處理非常複雜的技術(shù)，其中一些我們幾乎無法理解。 2025年被稱為“代理AI年”。 （代理AI是指計算機(jī)做出決策並在給出目標(biāo)或命令後獨立行動的能力。）

但是代理AI也引起了緊急問題。

尼克·博斯特魯姆（Nick Bostrum）是超級智能的作者，他在2003年的一篇論文中對Agenic AI提出了一個問題。他介紹了一個可怕的場景：如果AI的任務(wù)是最大限度地提高世界上紙捲數(shù)的數(shù)量，該怎麼辦？為了實現(xiàn)那個簡單，看似無害的指令，一個超級智能的AI可以摧毀包括每個活人在內(nèi)的地球上的一切，以履行其命令。

歸根結(jié)底，陪審團(tuán)就以人工智能的認(rèn)識為止。我們所知道的是，它以有趣的智能方式行事，迫使我們質(zhì)疑它是否確實有意識。這種現(xiàn)實使人類更必須追求如何負(fù)責(zé)任地利用這項技術(shù)來安全有效的目的。

該行為將證明我們自己的情報。

以上是AI的行為就像它有自己的想法的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！