メールをドラフトするように依頼します。レポートを要約するように伝えてください。エッセイ全體を書くことさえあるかもしれません。 ChatGPTのような大規(guī)模な言語モデル（LLM）は、効率のための信じられないほどのツールです。しかし、このすべての利便性の隠れたコストはいくらですか？私たちの精神的な仕事をAIにオフロードして、私たちの認(rèn)知能力をゆっくりと侵食していますか？ MIT Media Labの最近の調(diào)査では、「 ChatGptの脳：エッセイライティングタスクにAIアシスタントを使用する際の認(rèn)知的負(fù)債の蓄積」というタイトルが、このまさにその質(zhì)問に取り組みました。このブログでは、MITが実施した実験を調(diào)査し、その発見を理解し、質(zhì)問に対する答えを得ます。ChatGptは私たちを馬鹿にしていますか？

目次

• 実験：脳とボット
• LLMを使用すると、脳はどうなりますか？
• メモリメルトダウン
• AIが奪われるとどうなりますか？
• 「認(rèn)知的負(fù)債」を蓄積していますか？
• それで、chatgptは私たちを馬鹿にしていますか？
• 結(jié)論

実験：脳とボット

研究者は魅力的な実験を設(shè)定しました。彼らは54人の參加者を募集し、それらをそれぞれ18人の3つのグループに分割して、いくつかのセッションでSATレベルのトピックに関するエッセイを書きます。

• LLMグループ： chatgpt（gpt-4）のみを使用できます
• 検索エンジングループ： Googleを使用できますが、LLMSは使用できません
• 脳のみのグループ：インターネットさえも外部ツールにアクセスできませんでした

脳波（EEG）ヘッドセットを使用して、科學(xué)者は參加者の脳の活動(dòng)を測(cè)定して、執(zhí)筆プロセス中にニューラルネットワークがどのように発射および接続されたかを確認(rèn)しました。結(jié)果は驚くべきものでした。チームはまた、エッセイでディープナチュラル言語処理（NLP）分析を?qū)g施し、すべての參加者にインタビューし、エッセイを人間の英語教師とカスタムビルトのAI裁判官の両方から採(cǎi)點(diǎn)させました。

実験は一回限りではありませんでした。參加者は、3つの別々のセッションでこのプロセスを完了しました。 4回目の最終セッションでは、研究者はグループを交換しました。參加した參加者は18人だけでした。 LLMユーザーは脳のみで書きましたが、脳のみのグループはLLMへのアクセスを獲得しました。ここでは、AI支援の真のコストが明らかになりました。

LLMを使用すると、脳はどうなりますか？

この調(diào)査では、Google検索またはLLMSのいずれかから、脳の接続性が外部ヘルプで體系的に低下することがわかりました。損傷の効果は異なっていて、助けのレベルと比較して異なっていましたが。

• 脳のみのグループは、最も強(qiáng)く、最も広範(fàn)囲にわたるニューラルネットワークを示し、深い認(rèn)知的関與を示しています。
• 検索エンジングループは真ん中にありました。
• そして、LLMグループ？彼らは全體的に最も弱い脳の接続性を示しました。

これは、私たちが自分の心のみに頼っている場(chǎng)合、記憶、計(jì)畫、創(chuàng)造的な思考のために脳の領(lǐng)域の豊かで複雑な網(wǎng)に従事することを示唆しています。 Google SearchやLLMSなどの支援ツールを使用すると、私たちの脳はその動(dòng)作を止めているようで、アクティビティが大幅に少ないことを示しています。

サポートの量が増えると、アクティビティのレベルが低下します。 Google検索では、參加者が思考プロセスを使用して、さまざまな検索からのすべての情報(bào)を組み合わせる必要がありました。最後に、必要なLLMはすべて適切なプロンプトであり、參加者は認(rèn)知活動(dòng)の量が最小限に巻き込まれた十分に書かれたエッセイを獲得しました。したがって、彼らの脳は神経のみの「ノイズ」の量が最も少なくなり、脳のみのグループは最も騒々しく、神経質(zhì)でした。

メモリメルトダウン

エッセイを書いた後、參加者は簡(jiǎn)単な質(zhì)問をされました：「それを見ずにエッセイから文章を引用できますか？」。結(jié)果は完全な衝撃的でした。

• 最初のセッションでは、LLMグループの83％の驚異的な83％が、書いたエッセイからの正しい引用を提供できませんでした。それらのどれも正しい引用を生み出しませんでした。
• 一方、脳のみおよび検索エンジングループは、2回目のセッションでほぼ完璧なリコールと引用能力を持っていました。

LLMのみのグループに見られるこの記憶障害は、ミュートされた脳の活動(dòng)と直接相関しています。深いセマンティックエンコードと長(zhǎng)期記憶への転送に必要な神経プロセスは、LLMグループでは単に強(qiáng)くトリガーされていませんでした。また、このグループは、エッセイよりも「所有権」の低い感覚を報(bào)告し、多くは仕事から切り離されていると感じています。私たちが精神的な重い持ち上げをしないと、知識(shí)は固執(zhí)せず、創(chuàng)造の誇りを感じないようです。

また読む：これがAIチャットボットが私たちに影響を與える方法です - MITとOpenaiによる研究

AIが奪われるとどうなりますか？

4回目の最終セッションで、研究者はスクリプトを反転させました。

• LLM-to-Brain： ChatGPTを使用していた參加者は、ツールなしで書くように求められました。
• Brain-to-LLM：脳だけを使用していた參加者は、ChatGptにアクセスできるようになりました。

そして、結(jié)果は驚くべきものです！

LLMから脳へのグループは苦労しました。彼らの脳のつながりは弱く、「アルファとベータネットワークのエンゲージメントが不足している」ことを示しています。これは、內(nèi)部の注意、セマンティック処理、創(chuàng)造的思考に不可欠です。彼らは「認(rèn)知不足」に閉じ込められていました。彼らの執(zhí)筆は、LLM固有の語彙に対するバイアスを示し、AI ASSISTセッションからのフレーズを再利用しました。

これとは対照的に、脳からL(zhǎng)LMへの脳の活動(dòng)が急上昇しました。認(rèn)知筋肉を運(yùn)動(dòng)していたこれらの參加者が、おなじみのエッセイを書き直すためにLLMを與えられたとき、彼らの脳は、広範(fàn)な脳ネットワークのより高い記憶のリコールと再エンゲージメントを示しました。 AIの提案を彼ら自身の深く処理された思考と統(tǒng)合する行為は、実際に彼らの脳をより多く関わっていました。実際には、結(jié)果として生じるエッセイはユニークではなく、エッセイを際立たせたレベルのフィネスを紹介しました！

「認(rèn)知的負(fù)債」を蓄積していますか？

認(rèn)知債務(wù)とは、「LLMSなどの外部システムへの繰り返しの依存が、獨(dú)立した思考に必要な努力的な認(rèn)知プロセスに取って代わる」條件です。金融負(fù)債のように、あなたはローンとしてすぐに便利になりますが、あなたは後で利息を持ってそれを支払います。この場(chǎng)合、関心は批判的思考の低下、記憶の弱さ、創(chuàng)造性の低下です。

したがって、LLM支援のエッセイはしばしば長(zhǎng)く、AIの裁判官によってよく得點(diǎn)されましたが、エッセイを評(píng)価する人間の教師は感銘を受けませんでした。彼らは、LLMで生成されたテキストを均質(zhì)で、個(gè)人的なニュアンスを欠いており、単に「魂のない」ものとして説明しました。これは、あまり考えずにLLMを継続的に使用して、脳に「認(rèn)知的負(fù)債」を追加していることを明確に示しており、最終的には思考と分析スキルが低下します。

別の興味深い研究：不安定なAI行動(dòng)：高度なLLMSがルールを破り、コントロールに抵抗するとき

それで、chatgptは私たちを馬鹿にしていますか？

まあ、多分今ではありませんが、時(shí)間の経過とともに、未確認(rèn)の使用で：間違いなく！最悪の部分は、このAIアシスタントの快適さのために何が取引されているかを理解するまでに、カムバックをすることができないかもしれません。怖いかもしれませんが、AIを使用することは、まだ誰も私たちに警告していない別の薬物型中毒かもしれません。

しかし、これはAIを放棄するという呼びかけではありません。 ChatGptのようなツールは強(qiáng)力な同盟國(guó)です。しかし、この研究は私たちに注意を払うように促しています。 LLMを使用して、既存の自己主導(dǎo)の思考プロセス（脳からL(zhǎng)LMへのグループなど）をサポートすることは、強(qiáng)力な認(rèn)知エンハンサーになります。しかし、それを使用して最初から思考を置き換えることで、真の學(xué)習(xí)、深い記憶、本物の創(chuàng)造性につながる強(qiáng)力な神経経路を構(gòu)築することができなくなります。

それで、次にAIアシスタントに目を向けるときは、自分自身に質(zhì)問してください：あなたは仕事をアウトソーシングしていますか、それともあなたの考えをアウトソーシングしていますか？

あなたの脳は違いを知ってくれてありがとう。

ここで完全な研究論文を見つけてください。

結(jié)論

私たちの周りの世界はますますAi-Fiedになっています。個(gè)人的な生活から職業(yè)的な生活から、LLM駆動(dòng)のチャットボットは、速度として、そして無敗の正確さとしてタスクを達(dá)成するのに役立ちます。しかし、大きな力で、大きな責(zé)任があります。マスターと奴隷の違いを理解する責(zé)任は、私たちに依存しています。 LLMSを使用することは、私たちの研究に合わせて私たちの考えが最終的な出力を強(qiáng)化するのに役立ちますが、思考を取り上げるLLMSの場(chǎng)合、私たちが期待できるのは、同じツールを使用しているすべての人に似たサブパーセットです。それにより、私たちのユニークを完全に殺し、可能性を厳しく制限します。

以上がChatGptは私たちを馬鹿にしていますか？新しいMIT研究には答えがあります-Analytics Vidhyaの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語 Web サイトの他の関連記事を參照してください。