Anda memintanya untuk merangka e -mel. Beritahu ia untuk meringkaskan laporan. Anda mungkin juga menulis keseluruhan esei. Model bahasa besar (LLM) seperti CHATGPT adalah alat yang luar biasa untuk kecekapan. Tetapi apakah kos tersembunyi semua kemudahan ini? Adakah mengimbangi kerja mental kita ke AI perlahan -lahan mengikis kebolehan kognitif kita? Satu kajian baru-baru ini dari makmal media MIT, bertajuk " Otak Anda di ChatGPT: Pengumpulan Hutang Kognitif Apabila menggunakan Pembantu AI untuk Tugas Penulisan Essay ," menangani soalan ini, dan penemuan adalah panggilan bangun untuk kita semua. Dalam blog ini, kami akan meneroka eksperimen yang dijalankan oleh MIT, memahami penemuannya, dan mendapatkan jawapan kepada soalan: Adakah Chatgpt menjadikan kami dumber?

Jadual Kandungan

• Eksperimen: otak vs bot
• Apa yang berlaku pada otak anda apabila anda menggunakan LLM?
• Kemelesetan memori
• Apa yang berlaku apabila AI diambil?
• Adakah kita mengumpulkan "hutang kognitif"?
• Begitu juga chatgpt membuat kita berbulu?
• Kesimpulan

Eksperimen: otak vs bot

Penyelidik menubuhkan percubaan yang menarik. Mereka merekrut 54 peserta dan membahagikannya kepada tiga kumpulan 18 setiap satu untuk menulis esei mengenai topik peringkat SAT sepanjang beberapa sesi:

• Kumpulan LLM: Hanya boleh menggunakan CHATGPT (GPT-4)
• Kumpulan enjin carian: boleh menggunakan google, tetapi tidak ada llms
• Kumpulan Otak sahaja: Tidak mempunyai akses kepada mana-mana alat luaran, bahkan Internet

Menggunakan alat dengar Electroencephalography (EEG), para saintis mengukur aktiviti otak peserta untuk melihat bagaimana rangkaian saraf mereka dipecat dan dihubungkan semasa proses penulisan. Hasilnya mengejutkan. Pasukan ini juga melakukan analisis pemprosesan bahasa semulajadi (NLP) yang mendalam mengenai esei, menemuramah setiap peserta, dan mempunyai esei yang dinilai oleh kedua-dua guru bahasa Inggeris manusia dan hakim AI yang dibina khas.

Eksperimen itu bukan satu kali; Peserta menyelesaikan proses ini dalam tiga sesi berasingan. Dalam sesi keempat dan terakhir, para penyelidik menukar kumpulan. Hanya 18 peserta mengambil bahagian. Pengguna LLM menulis dengan hanya otak mereka, sementara kumpulan otak hanya mendapat akses ke LLM. Di sini, kos sebenar bantuan AI menjadi jelas.

Apa yang berlaku pada otak anda apabila anda menggunakan LLM?

Kajian mendapati bahawa sambungan otak secara sistematik jatuh dengan bantuan luaran, sama ada dari carian Google atau LLMS. Walaupun kesan kerosakan adalah berbeza dan relatif kepada tahap bantuan.

• Kumpulan otak hanya menunjukkan rangkaian saraf yang paling kuat dan paling meluas, yang menunjukkan penglibatan kognitif yang mendalam.
• Kumpulan enjin carian berada di tengah -tengah.
• Dan kumpulan LLM? Mereka menunjukkan sambungan otak yang paling lemah secara keseluruhan.

Ini menunjukkan bahawa apabila kita hanya bergantung pada minda kita sendiri, kita melibatkan kawasan yang kaya dan kompleks di kawasan otak untuk memori, perancangan, dan pemikiran kreatif. Apabila kita menggunakan alat bantuan seperti carian Google atau LLM, otak kita seolah -olah tidak berfungsi, menunjukkan aktiviti yang kurang.

Tahap aktiviti berkurangan apabila jumlah sokongan meningkat. Carian Google masih memerlukan peserta untuk menggunakan proses pemikiran mereka untuk menggabungkan semua maklumat dari pelbagai carian. Akhirnya, semua LLMS yang diperlukan adalah cepat, dan peserta mendapat esei yang ditulis dengan baik yang memerlukan sedikit aktiviti kognitif. Oleh itu, otak mereka membuat sedikit "bunyi bising" saraf manakala kumpulan otak sahaja adalah yang paling kuat, neural.

Kemelesetan memori

Selepas menulis esei mereka, para peserta ditanya soalan yang mudah: "Bolehkah anda mengutip sebarang ayat dari esei anda tanpa melihatnya?". Hasilnya adalah kejutan lengkap.

• Pada sesi pertama, 83% daripada kumpulan LLM yang mengejutkan gagal memberikan petikan yang betul dari esei yang baru saja mereka tulis. Tiada seorang pun daripada mereka menghasilkan petikan yang betul.
• Sementara itu, kumpulan enjin otak dan carian mempunyai kemampuan yang hampir sempurna dan mengutip keupayaan oleh sesi kedua.

Kegagalan memori seperti yang dilihat dalam kumpulan LLM sahaja secara langsung berkorelasi dengan aktiviti otak yang diredam. Proses saraf yang diperlukan untuk pengekodan semantik yang mendalam dan memindahkan maklumat ke dalam ingatan jangka panjang semata-mata tidak dicetuskan sebagai kuat dalam kumpulan LLM. Kumpulan ini juga melaporkan rasa "pemilikan" yang lebih rendah daripada esei mereka, dengan banyak perasaan terputus dari kerja. Nampaknya apabila kita tidak melakukan mengangkat berat mental, pengetahuan tidak melekat, dan kita tidak merasakan kebanggaan penciptaan.

Juga Baca: Ini adalah bagaimana chatbots AI memberi kesan kepada kami - kajian oleh MIT dan OpenAI

Apa yang berlaku apabila AI diambil?

Dalam sesi keempat dan terakhir, para penyelidik membalikkan skrip.

• LLM-TO-ORER: Peserta yang telah menggunakan CHATGPT kini diminta untuk menulis tanpa alat.
• Brain-to-LLM: Peserta yang hanya menggunakan otak mereka kini diberi akses kepada Chatgpt.

Dan hasilnya membimbangkan!

Kumpulan LLM-to-otak bergelut. Sambungan otak mereka lebih lemah, menunjukkan "pengekalan alpha dan beta yang kurang," yang penting untuk perhatian dalaman, pemprosesan semantik, dan pemikiran kreatif. Mereka terjebak dalam "kekurangan kognitif". Penulisan mereka juga menunjukkan kecenderungan ke arah perbendaharaan kata LLM khusus, menggunakan semula frasa dari sesi AI mereka.

Walaupun dalam keadaan berbeza dengan ini, aktiviti otak kumpulan otak-ke-LLM berduri. Apabila peserta ini, yang telah menjalankan otot kognitif mereka, diberi LLM untuk menulis semula esei yang biasa, otak mereka menunjukkan ingatan yang lebih tinggi dan penglihatan semula rangkaian otak yang meluas. Tindakan mengintegrasikan cadangan AI dengan pemikiran mereka sendiri yang sangat diproses sebenarnya melibatkan lebih banyak otak mereka. Infact, esei yang dihasilkan bukan hanya unik tetapi mempamerkan tahap kemahiran yang membuat esei mereka menonjol!

Adakah kita mengumpulkan "hutang kognitif"?

Hutang kognitif adalah keadaan di mana "pergantungan berulang pada sistem luaran seperti LLMs menggantikan proses kognitif yang diperlukan untuk pemikiran bebas." Seperti hutang kewangan, anda mendapat kemudahan segera sebagai pinjaman, tetapi anda membayarnya kemudian dengan faedah. Kepentingan, dalam kes ini, berkurangan pemikiran kritikal, memori yang lebih lemah, dan kreativiti yang dikurangkan.

Oleh itu, walaupun esei yang dibantu oleh LLM sering lebih lama dan dijaringkan dengan baik oleh hakim AI, guru-guru manusia yang menilai esei tidak terkesan. Mereka menggambarkan teks-teks yang dihasilkan oleh LLM sebagai homogen, kurang nuansa peribadi, dan hanya "berjiwa". Ini adalah petunjuk yang jelas yang terus menggunakan LLM tanpa banyak pemikiran menambah "hutang kognitif" di otak kita, yang akhirnya akan mengurangkan pemikiran dan kemahiran analisis kita.

Satu lagi kajian yang menarik: Mengurangkan Kelakuan AI: Apabila LLM Lanjutan Melanggar Peraturan dan Menentang Kawalan

Begitu juga chatgpt membuat kita berbulu?

Nah, mungkin tidak sekarang, tetapi dari masa ke masa, dengan penggunaan yang tidak terkawal: pasti ! Bahagian yang paling teruk adalah pada masa yang kita sedar apa yang diperdagangkan untuk keselesaan pembantu AI ini, kita mungkin tidak dapat membuat kemunculan semula. Menakutkan kerana ia mungkin berbunyi, tetapi menggunakan AI hanya boleh menjadi ketagihan jenis ubat lain yang belum ada yang memberi amaran kepada kami.

Tetapi ini bukan panggilan untuk meninggalkan AI. Alat seperti chatgpt adalah sekutu yang kuat. Tetapi penyelidikan ini menggesa kita untuk menjadi perhatian. Menggunakan LLM untuk menyokong proses pemikiran yang sedia ada dan didorong sendiri (seperti kumpulan otak-ke-LLM) boleh menjadi penambah kognitif yang kuat. Tetapi menggunakannya untuk menggantikan pemikiran dari awal boleh menghalang kita daripada membina laluan saraf yang kuat yang membawa kepada pembelajaran sebenar, ingatan yang mendalam, dan kreativiti yang sahih.

Oleh itu, pada masa akan datang anda berpaling kepada pembantu AI anda, tanyakan kepada diri sendiri soalan: Adakah anda menyumber luar tugas, atau adakah anda menyumber luar pemikiran anda?

Otak anda akan mengucapkan terima kasih kerana mengetahui perbezaannya.

Cari kertas penyelidikan penuh di sini.

Kesimpulan

Dunia di sekeliling kita semakin mendapat ai-fied. Dari kehidupan peribadi hingga profesional, chatbots berkuasa LLM membantu kami menyelesaikan tugas sebagai kelajuan dan dengan ketepatan yang tidak terkalahkan. Tetapi dengan kuasa yang besar, datang tanggungjawab yang besar. Tanggungjawab untuk memahami perbezaan antara Master dan hamba bergantung kepada kita. Selagi kita pemikiran kita yang menyelaraskan penyelidikan kita, menggunakan LLMS akan membantu meningkatkan output akhir tetapi jika LLM yang mengambil pemikiran, maka semua yang kita harapkan adalah output sub par yang akan sama dengan semua orang yang menggunakan alat yang sama. Oleh itu, membunuh keistimewaan kita sepenuhnya dan mengehadkan kemungkinan.

Atas ialah kandungan terperinci Adakah chatgpt menjadikan kita dumber? Kajian MIT baru mempunyai jawapan - Analytics Vidhya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!