您要求它起草一封電子郵件。告訴它總結(jié)報(bào)告。您甚至可以寫一篇文章。大型語言模型（LLMS）之類的是CHATGPT，是令人難以置信的效率工具。但是，所有這些便利的隱藏成本是多少？將我們的心理工作卸載到AI中，慢慢侵蝕了我們的認(rèn)知能力嗎？麻省理工學(xué)院媒體實(shí)驗(yàn)室的最新研究名為“您的大腦在Chatgpt上：使用AI助手進(jìn)行論文寫作任務(wù)時(shí)的認(rèn)知債務(wù)積累”，這一問題是對(duì)我們所有人的喚醒呼吁。在此博客中，我們將探討麻省理工學(xué)院進(jìn)行的實(shí)驗(yàn)，了解其發(fā)現(xiàn)，并找到問題的答案：chatgpt是否使我們變得愚蠢？

目錄

• 實(shí)驗(yàn)：大腦與機(jī)器人
• 使用LLM時(shí)，您的大腦會(huì)發(fā)生什么？
• 內(nèi)存崩潰
• AI被帶走時(shí)會(huì)發(fā)生什么？
• 我們正在積累“認(rèn)知債務(wù)”？
• 那么chatgpt會(huì)讓我們鄧默（Dumber）嗎？
• 結(jié)論

實(shí)驗(yàn)：大腦與機(jī)器人

研究人員建立了一個(gè)引人入勝的實(shí)驗(yàn)。他們招募了54名參與者，并將他們分成三組，每組18個(gè)，以撰寫有關(guān)衛(wèi)星級(jí)主題的文章：

• LLM組：只能使用ChatGpt（GPT-4）
• 搜索引擎組：可以使用Google，但沒有LLMS
• 唯一的小組：無法訪問任何外部工具，甚至沒有互聯(lián)網(wǎng)

科學(xué)家使用腦電圖（EEG）耳機(jī)，測(cè)量了參與者的大腦活動(dòng)，以查看其神經(jīng)網(wǎng)絡(luò)如何在寫作過程中觸發(fā)和連接。結(jié)果令人震驚。該團(tuán)隊(duì)還對(duì)論文進(jìn)行了深入的自然語言處理（NLP）分析，接受了每個(gè)參與者的采訪，并根據(jù)人類英語老師和定制的AI法官進(jìn)行了分級(jí)的論文。

實(shí)驗(yàn)不是一次性的。參與者在三個(gè)單獨(dú)的會(huì)議上完成了此過程。在第四屆也是最后一堂課中，研究人員換了小組。只有18名參與者參加。 LLM用戶只寫了大腦，而僅大腦的群體可以訪問LLM。在這里，人工智能援助的真正成本變得很明顯。

使用LLM時(shí)，您的大腦會(huì)發(fā)生什么？

該研究發(fā)現(xiàn)，大腦連通性在Google搜索或LLMS的外部幫助下系統(tǒng)地下降。盡管損害的影響不同，并且相對(duì)于幫助水平。

• 僅大腦的組顯示出最強(qiáng)大，最廣泛的神經(jīng)網(wǎng)絡(luò)，表明認(rèn)知參與度很高。
• 搜索引擎組在中間。
• 和LLM組？他們表現(xiàn)出總體上最弱的大腦連通性。

這表明，當(dāng)我們僅依靠自己的思想時(shí)，我們會(huì)參與豐富，復(fù)雜的大腦區(qū)域網(wǎng)絡(luò)，以進(jìn)行記憶，計(jì)劃和創(chuàng)造性思想。當(dāng)我們使用Google Search或LLM等幫助工具時(shí)，我們的大腦似乎會(huì)卸載該工作，從而表現(xiàn)出明顯減少的活動(dòng)。

活動(dòng)水平隨著支持量的增加而降低。 Google搜索仍然要求參與者使用他們的思考過程來結(jié)合各種搜索中的所有信息。最后，所有需要的LLM都是一個(gè)合適的提示，參與者得到了一篇寫得很好的文章，需要最少的認(rèn)知活動(dòng)。因此，他們的大腦使神經(jīng)“噪聲”的數(shù)量最少，而純腦組是最大的神經(jīng)。

內(nèi)存崩潰

在撰寫論文之后，參與者被問到一個(gè)簡(jiǎn)單的問題：“您可以在不看論文的情況下引用任何句子嗎？”。結(jié)果完全令人震驚。

• 在第一屆會(huì)議中，LLM集團(tuán)中有83％的驚人的人未能從他們剛才撰寫的文章中提供正確的報(bào)價(jià)。他們都沒有產(chǎn)生正確的報(bào)價(jià)。
• 同時(shí)，僅大腦和搜索引擎組在第二屆會(huì)議上具有幾乎完美的召回和引用能力。

在LLM中看到的這種記憶力失敗僅與靜脈腦活動(dòng)直接相關(guān)。在LLM組中，深入的語義編碼和將信息轉(zhuǎn)移到長(zhǎng)期記憶中所需的神經(jīng)過程根本不會(huì)被強(qiáng)烈觸發(fā)。該小組還報(bào)告說，對(duì)論文的“所有權(quán)”感較低，許多人覺得與作品脫節(jié)。看來，當(dāng)我們不做精神繁重的舉重時(shí)，知識(shí)不會(huì)粘住，并且我們不會(huì)感到創(chuàng)造的驕傲。

另請(qǐng)閱讀：這是AI聊天機(jī)器人如何影響我們的方式 - 麻省理工學(xué)院和Openai的研究

AI被帶走時(shí)會(huì)發(fā)生什么？

在第四屆也是最后一堂課中，研究人員翻轉(zhuǎn)了腳本。

• LLM到腦：現(xiàn)在要求使用Chatgpt的參與者沒有工具寫作。
• 大腦到llm：現(xiàn)在只使用大腦的參與者可以訪問chatgpt。

結(jié)果令人震驚！

LLM至Brain團(tuán)體掙扎。他們的大腦連通性較弱，顯示了“ Alpha和Beta網(wǎng)絡(luò)的參與不足”，這對(duì)于內(nèi)部注意力，語義處理和創(chuàng)造性思維至關(guān)重要。他們陷入了“認(rèn)知缺陷”中。他們的寫作甚至顯示出對(duì)LLM特定詞匯的偏見，從其AI輔助會(huì)話中重復(fù)使用短語。

在與此形成鮮明對(duì)比的同時(shí)，大腦到LLM組的大腦活動(dòng)激增。當(dāng)這些參與者鍛煉認(rèn)知肌肉的參與者被授予LLM重寫一篇熟悉的文章時(shí)，他們的大腦顯示出更高的記憶回憶和重新參與廣泛的腦網(wǎng)絡(luò)。將AI建議與他們自己的深入處理思想相結(jié)合的行為實(shí)際上吸引了更多的大腦。實(shí)際上，由此產(chǎn)生的論文不僅是獨(dú)一無二的，而且還展示了使他們的論文脫穎而出的精致水平！

我們正在積累“認(rèn)知債務(wù)”？

認(rèn)知債務(wù)是“重復(fù)依賴諸如llms之類的外部系統(tǒng)可以取代獨(dú)立思考所需的精力認(rèn)知過程的條件”。像金融債務(wù)一樣，您可以立即獲得便利作為貸款，但您以后會(huì)以利息付款。在這種情況下，興趣減少了批判性思維，記憶力較弱和創(chuàng)造力降低。

因此，即使LLM輔助論文通常更長(zhǎng)，并且由AI法官得分，但評(píng)估論文的人類教師并沒有留下深刻的印象。他們將LLM生成的文本描述為同質(zhì)，缺乏個(gè)人細(xì)微差別，而只是“無情”。這清楚地表明，在沒有太多思考的情況下，不斷使用LLM在我們的大腦上增加了“認(rèn)知債務(wù)”，這最終會(huì)降低我們的思維和分析能力。

另一個(gè)有趣的研究：令人不安的AI行為：高級(jí)LLMS違反規(guī)則并抵抗控制

那么chatgpt會(huì)讓我們鄧默（Dumber）嗎？

好吧，也許不是現(xiàn)在，而是隨著時(shí)間的流逝，不受組織的使用：肯定！最糟糕的是，到了我們意識(shí)到這位AI助手舒適的交易時(shí)，我們可能無法卷土重來。聽起來很可怕，但是使用AI可能只是其他人還警告我們的另一種藥物成癮。

但這不是要放棄AI的呼吁。諸如Chatgpt之類的工具是強(qiáng)大的盟友。但是這項(xiàng)研究敦促我們注意。使用LLM支持現(xiàn)有的自我驅(qū)動(dòng)思維過程（例如腦對(duì)LLM組）可以是強(qiáng)大的認(rèn)知增強(qiáng)子。但是，利用它從一開始就取代思維可能會(huì)阻止我們建立強(qiáng)大的神經(jīng)途徑，從而導(dǎo)致真正的學(xué)習(xí)，深刻的記憶和真實(shí)的創(chuàng)造力。

因此，下次您轉(zhuǎn)向AI助手時(shí)，請(qǐng)問自己一個(gè)問題：您是在外包任務(wù)，還是要外包思維？

您的大腦會(huì)感謝您知道區(qū)別。

在這里找到完整的研究論文。

結(jié)論

我們周圍的世界越來越受到侵害。從個(gè)人生活到職業(yè)生活，LLM動(dòng)力的聊天機(jī)器人都在幫助我們以不敗的速度來完成任務(wù)的速度和準(zhǔn)確性。但是，憑借強(qiáng)大的力量，帶來了巨大的責(zé)任。理解大師和奴隸之間區(qū)別的責(zé)任依賴于我們。只要我們我們的想法使我們的研究保持一致，使用LLM會(huì)有助于增強(qiáng)最終輸出，但是如果其LLMS持續(xù)思考，那么我們所期望的只是一個(gè)次級(jí)輸出，它與使用相同工具的每個(gè)人都相似。因此，殺死了我們的獨(dú)特性，完全限制了可能性。

以上是chatgpt讓我們傻了嗎？一項(xiàng)新的MIT研究有答案-Analytics Vidhya的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！