您要求它起草一封電子郵件。告訴它總結報告。您甚至可以寫一篇文章。大型語言模型（LLMS）之類的是CHATGPT，是令人難以置信的效率工具。但是，所有這些便利的隱藏成本是多少？將我們的心理工作卸載到AI中，慢慢侵蝕了我們的認知能力嗎？麻省理工學院媒體實驗室的最新研究名為“您的大腦在Chatgpt上：使用AI助手進行論文寫作任務時的認知債務積累”，這一問題是對我們所有人的喚醒呼籲。在此博客中，我們將探討麻省理工學院進行的實驗，了解其發(fā)現(xiàn)，並找到問題的答案：chatgpt是否使我們變得愚蠢？

目錄

• 實驗：大腦與機器人
• 使用LLM時，您的大腦會發(fā)生什麼？
• 內(nèi)存崩潰
• AI被帶走時會發(fā)生什麼？
• 我們正在積累“認知債務”？
• 那麼chatgpt會讓我們鄧默（Dumber）嗎？
• 結論

實驗：大腦與機器人

研究人員建立了一個引人入勝的實驗。他們招募了54名參與者，並將他們分成三組，每組18個，以撰寫有關衛(wèi)星級主題的文章：

• LLM組：只能使用ChatGpt（GPT-4）
• 搜索引擎組：可以使用Google，但沒有LLMS
• 唯一的小組：無法訪問任何外部工具，甚至沒有互聯(lián)網(wǎng)

科學家使用腦電圖（EEG）耳機，測量了參與者的大腦活動，以查看其神經(jīng)網(wǎng)絡如何在寫作過程中觸發(fā)和連接。結果令人震驚。該團隊還對論文進行了深入的自然語言處理（NLP）分析，接受了每個參與者的採訪，並根據(jù)人類英語老師和定制的AI法官進行了分級的論文。

實驗不是一次性的。參與者在三個單獨的會議上完成了此過程。在第四屆也是最後一堂課中，研究人員換了小組。只有18名參與者參加。 LLM用戶只寫了大腦，而僅大腦的群體可以訪問LLM。在這裡，人工智能援助的真正成本變得很明顯。

使用LLM時，您的大腦會發(fā)生什麼？

該研究發(fā)現(xiàn)，大腦連通性在Google搜索或LLMS的外部幫助下系統(tǒng)地下降。儘管損害的影響不同，並且相對於幫助水平。

• 僅大腦的組顯示出最強大，最廣泛的神經(jīng)網(wǎng)絡，表明認知參與度很高。
• 搜索引擎組在中間。
• 和LLM組？他們表現(xiàn)出總體上最弱的大腦連通性。

這表明，當我們僅依靠自己的思想時，我們會參與豐富，複雜的大腦區(qū)域網(wǎng)絡，以進行記憶，計劃和創(chuàng)造性思想。當我們使用Google Search或LLM等幫助工具時，我們的大腦似乎會卸載該工作，從而表現(xiàn)出明顯減少的活動。

活動水平隨著支持量的增加而降低。 Google搜索仍然要求參與者使用他們的思考過程來結合各種搜索中的所有信息。最後，所有需要的LLM都是一個合適的提示，參與者得到了一篇寫得很好的文章，需要最少的認知活動。因此，他們的大腦使神經(jīng)“噪聲”的數(shù)量最少，而純腦組是最大的神經(jīng)。

內(nèi)存崩潰

在撰寫論文之後，參與者被問到一個簡單的問題：“您可以在不看論文的情況下引用任何句子嗎？”。結果完全令人震驚。

• 在第一屆會議中，LLM集團中有83％的驚人的人未能從他們剛才撰寫的文章中提供正確的報價。他們都沒有產(chǎn)生正確的報價。
• 同時，僅大腦和搜索引擎組在第二屆會議上具有幾乎完美的召回和引用能力。

在LLM中看到的這種記憶力失敗僅與靜脈腦活動直接相關。在LLM組中，深入的語義編碼和將信息轉移到長期記憶中所需的神經(jīng)過程根本不會被強烈觸發(fā)。該小組還報告說，對論文的“所有權”感較低，許多人覺得與作品脫節(jié)?？磥?，當我們不做精神繁重的舉重時，知識不會粘住，並且我們不會感到創(chuàng)造的驕傲。

另請閱讀：這是AI聊天機器人如何影響我們的方式 - 麻省理工學院和Openai的研究

AI被帶走時會發(fā)生什麼？

在第四屆也是最後一堂課中，研究人員翻轉了腳本。

• LLM到腦：現(xiàn)在要求使用Chatgpt的參與者沒有工具寫作。
• 大腦到llm：現(xiàn)在只使用大腦的參與者可以訪問chatgpt。

結果令人震驚！

LLM至Brain團體掙扎。他們的大腦連通性較弱，顯示了“ Alpha和Beta網(wǎng)絡的參與不足”，這對於內(nèi)部注意力，語義處理和創(chuàng)造性思維至關重要。他們陷入了“認知缺陷”中。他們的寫作甚至顯示出對LLM特定詞彙的偏見，從其AI輔助會話中重複使用短語。

在與此形成鮮明對比的同時，大腦到LLM組的大腦活動激增。當這些參與者鍛煉認知肌肉的參與者被授予LLM重寫一篇熟悉的文章時，他們的大腦顯示出更高的記憶回憶和重新參與廣泛的腦網(wǎng)絡。將AI建議與他們自己的深入處理思想相結合的行為實際上吸引了更多的大腦。實際上，由此產(chǎn)生的論文不僅是獨一無二的，而且還展示了使他們的論文脫穎而出的精緻水平！

我們正在積累“認知債務”？

認知債務是“重複依賴諸如llms之類的外部系統(tǒng)可以取代獨立思考所需的精力認知過程的條件”。像金融債務一樣，您可以立即獲得便利作為貸款，但您以後會以利息付款。在這種情況下，興趣減少了批判性思維，記憶力較弱和創(chuàng)造力降低。

因此，即使LLM輔助論文通常更長，並且由AI法官得分，但評估論文的人類教師並沒有留下深刻的印象。他們將LLM生成的文本描述為同質，缺乏個人細微差別，而只是“無情”。這清楚地表明，在沒有太多思考的情況下，不斷使用LLM在我們的大腦上增加了“認知債務”，這最終會降低我們的思維和分析能力。

另一個有趣的研究：令人不安的AI行為：高級LLMS違反規(guī)則並抵抗控制

那麼chatgpt會讓我們鄧默（Dumber）嗎？

好吧，也許不是現(xiàn)在，而是隨著時間的流逝，不受組織的使用：肯定！最糟糕的是，到了我們意識到這位AI助手舒適的交易時，我們可能無法捲土重來。聽起來很可怕，但是使用AI可能只是其他人還警告我們的另一種藥物成癮。

但這不是要放棄AI的呼籲。諸如Chatgpt之類的工具是強大的盟友。但是這項研究敦促我們注意。使用LLM支持現(xiàn)有的自我驅動思維過程（例如腦對LLM組）可以是強大的認知增強子。但是，利用它從一開始就取代思維可能會阻止我們建立強大的神經(jīng)途徑，從而導致真正的學習，深刻的記憶和真實的創(chuàng)造力。

因此，下次您轉向AI助手時，請問自己一個問題：您是在外包任務，還是要外包思維？

您的大腦會感謝您知道區(qū)別。

在這裡找到完整的研究論文。

結論

我們周圍的世界越來越受到侵害。從個人生活到職業(yè)生活，LLM動力的聊天機器人都在幫助我們以不敗的速度來完成任務的速度和準確性。但是，憑藉強大的力量，帶來了巨大的責任。理解大師和奴隸之間區(qū)別的責任依賴於我們。只要我們我們的想法使我們的研究保持一致，使用LLM會有助於增強最終輸出，但是如果其LLMS持續(xù)思考，那麼我們所期望的只是一個次級輸出，它與使用相同工具的每個人都相似。因此，殺死了我們的獨特性，完全限制了可能性。

以上是chatgpt讓我們傻了嗎？一項新的MIT研究有答案-Analytics Vidhya的詳細內(nèi)容。更多資訊請關注PHP中文網(wǎng)其他相關文章！