設(shè)定不切實(shí)際的期望會(huì)損害實(shí)際價(jià)值。生成的AI和預(yù)測(cè)性AI提供了將繼續(xù)增長(zhǎng)的具體機(jī)會(huì)，但是說技術(shù)很快將舉辦“代理”的說法是蒸發(fā)軟件的縮影。它只是誤導(dǎo)了，使該行業(yè)建立了昂貴，可避免的幻滅。

大多數(shù)高科技術(shù)語（例如機(jī)器學(xué)習(xí)，預(yù)測(cè)建?；蜃詣?dòng)駕駛）都是合法的。它們代表了兩件事之一：一種特定的技術(shù)方法或技術(shù)的新目標(biāo)。但是，這兩個(gè)方面的“代理”和“代理”術(shù)語失敗了：1）“代理”的大多數(shù)用途都不是指任何新穎的技術(shù)方法，而2）增加自治的野心並不是什麼新鮮事物，即使在兩個(gè)方面都虛假地暗示著這兩個(gè)詞。這是這兩個(gè)失敗及其後果的細(xì)分。

1）“代理”不提及任何特定的技術(shù)或進(jìn)步

“沒有什麼能像人群那樣吸引人群?！?- 巴納姆，19世紀(jì)馬戲團(tuán)表演者以騙局聞名

“代理AI”構(gòu)成了可信的近期能力，但它僅代表了技術(shù)最不言而喻的目標(biāo) - 增加自動(dòng)化 - 不是到達(dá)那裡的手段。當(dāng)然，我們希望一個(gè)大型語言模型可以自己完成紀(jì)念性任務(wù) - 包括收集和吸收信息以及完成在線任務(wù)和交易 - 但是將這些野心標(biāo)記為“代理”並不能使它們更可行。

“代理AI”一詞本質(zhì)上誤導(dǎo)了。它的純粹受歡迎程度擴(kuò)大了人們的信念，即技術(shù)很快將變得更加自主運(yùn)行，但是流行語並不是指任何可能使我們到達(dá)那裡的特定技術(shù)方法。它的時(shí)尚性是使我們正在接近新的自動(dòng)化水平的觀念制度化 - “代理AI”是如此無處不在，以至於聽起來可能“建立”和“真實(shí)” - 這意味著實(shí)際上沒有一個(gè)沒有突破性的進(jìn)步。

儘管關(guān)於“代理AI”的絕大多數(shù)媒體只能促進(jìn)這種炒作敘事而沒有實(shí)質(zhì)性支持它，但自治本身通常是一個(gè)有價(jià)值的目標(biāo)，研究人員正在從事有價(jià)值的工作以追求增加它。例如，卡內(nèi)基·梅隆大學(xué)（Carnegie Mellon University）與亞馬遜（Amazon）之間的最新合作策劃了一個(gè)適度任務(wù)的大型測(cè)試，以評(píng)估LLM可以自主管理它們的能力。這項(xiàng)研究的重點(diǎn)是信息檢索任務(wù)，例如“檢索一篇文章，討論了從監(jiān)護(hù)人那裡討論可再生能源的最新趨勢(shì)”和“從麻省理工學(xué)院網(wǎng)站上檢索有關(guān)量子計(jì)算的公開研究論文”。該研究評(píng)估了使用LLM瀏覽網(wǎng)站並自動(dòng)執(zhí)行此類任務(wù)的巧妙方法，但我不會(huì)說這些方法構(gòu)成了開創(chuàng)性的技術(shù)。相反，它們是利用已經(jīng)突破性的方法：LLMS。正如研究所表明的那樣，目前在這些適度任務(wù)的情況下，最新情況失敗了43％。

2）“代理”沒有任何新目標(biāo)或目的

“代理AI”聚焦機(jī)器自治，就好像是一個(gè)新的野心，但這是一個(gè)古老的，不言而喻的目標(biāo)。沒有新的，革命性的作用。儘管流行語有些延展和模糊，但通常是指增加自治的渴望 - “代理AI”是指可以自己執(zhí)行實(shí)質(zhì)性任務(wù)的假設(shè)機(jī)器。這一直是核心，基本目標(biāo)。任何機(jī)器的目的都是自動(dòng)化某人或動(dòng)物所能執(zhí)行的部分或全部。換句話說，我們構(gòu)建了用於做事的機(jī)器。

通過重申我們天生的自動(dòng)化願(yuàn)望，“代理”只會(huì)說明顯而易見的。當(dāng)然，越多的機(jī)器可以安全地為我們做。但是，對(duì)於可以完全自動(dòng)化的任務(wù)範(fàn)圍有一個(gè)相當(dāng)頑固的限制，而循環(huán)中沒有人類。例如，預(yù)測(cè)性AI立即決定是否允許每張信用卡費(fèi)用，而用機(jī)器批發(fā)代替醫(yī)生則最多只有很長(zhǎng)的路要走。 “代理AI”與“邪惡的西斯勳爵”，“書庫(kù)”或“數(shù)據(jù)科學(xué)”一樣多餘。

需要明確的是，自治通常是一個(gè)值得的目標(biāo)，LLM有可能表現(xiàn)出色，至少在自動(dòng)化範(fàn)圍有些謙虛的情況下。經(jīng)濟(jì)利益施加壓力以增加自主權(quán)，各種社會(huì)問題在這兩個(gè)方向上都施加壓力。但是，釋放機(jī)器人自主權(quán)的範(fàn)圍僅增加了緩慢。原因之一是技術(shù)的進(jìn)步不如廣告宣傳。另一個(gè)是文化和社會(huì)慣性傾向於表現(xiàn)出緩慢的採(cǎi)用。

機(jī)器“代理”的牽強(qiáng)概念

使用“代理”和“代理”喚起自動(dòng)機(jī)器的目標(biāo)的另一個(gè)問題是：用“代理”授予機(jī)器是夢(mèng)幻般的。這使AI的核心神話和原始罪（機(jī)器的擬人化）翻了一番。該機(jī)器不再是可以使用人類的工具，而是具有自己的人類水平的理解，目標(biāo)和意志而提升。這是我們的同伴。本質(zhì)上，它還活著。

代理機(jī)構(gòu)隨附的自發(fā)目標(biāo) - 及其導(dǎo)致的不植物性 - 多年來一直滲入AI敘事。凱文·羅斯（Kevin Roose）在《紐約時(shí)報(bào)》（New York Times）中寫道：“工作的人工智能不會(huì)留在實(shí)驗(yàn)室裡?！?“它進(jìn)入了教室中兒童使用的軍事和軟件使用的武器。”他在另一篇文章中寫道：“我擔(dān)心這項(xiàng)技術(shù)會(huì)……最終有能力進(jìn)行自己的危險(xiǎn)行為?！蓖瑯?，世界上最有效的AGI炒作發(fā)射機(jī)之一埃隆·馬斯克（Elon Musk）宣布了安全保證，巧妙地暗示了故意或危險(xiǎn)的AI。他說，每當(dāng)有人說：“停下來，停下來，停下來”時(shí)，他的公司即將到來的人形機(jī)器人將努力服從。

技術(shù)的故事本身就是一部古老的戲劇。我們需要看到這種高科技神話的含義：一個(gè)更具說服力的幽靈故事。如果瑪麗·雪萊（Mary Shelley）熟悉算法，那是瑪麗·雪萊（Mary Shelley）會(huì)寫的小說。令人難以置信的，不支持的觀念是，我們正在積極發(fā)展AGI（又稱人造人類）是大部分炒作的基礎(chǔ)（並且通常也明確地覆蓋它）。 “代理”援引了這種敘述。

儘管具有生成AI的史無前例的功能，而且奇特的能力，看似人類的品質(zhì)，但對(duì)人類工作量的全部自動(dòng)化量的極限仍將繼續(xù)變得非常緩慢。我相信我們通常需要為部分自治而定。

不要購(gòu)買“代理AI”，也不要出售它。這是一個(gè)空的流行語，在大多數(shù)用途中，它都過度啟發(fā)。 AI行業(yè)在很大程度上（肯定不是完全）炒作。在繼續(xù)過度膨脹期望的程度上，該行業(yè)最終將面臨相應(yīng)的爆發(fā)泡沫：由於未滿足的諾言而導(dǎo)致的可怕幻滅和未實(shí)現(xiàn)的債務(wù)。

以上是代理AI是新的蒸發(fā)軟件的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！