Selama bertahun -tahun, orang menunjuk kepada ujian Turing. Ia dilihat sebagai standard emas untuk menjawab soalan ini. Sebagai ensiklopedia terbuka kognitif sains menerangkan: "Dalam permainan tiruan Turing, seorang penyiasat manusia mempunyai perbualan teks dengan kedua -dua manusia dan komputer yang berpura -pura menjadi manusia, matlamat interogator adalah untuk mengenal pasti komputer .

Tetapi mengapa?

Dari Turing ke Teori Fikiran

Nah, komputer yang mampu menipu manusia menunjukkan kecerdasan . Ia juga menunjukkan komputer mungkin beroperasi di bawah sesuatu yang dipanggil teori fikiran, "keupayaan untuk memahami bahawa orang lain mempunyai pemikiran dan kepercayaan mereka sendiri, walaupun mereka berbeza dari kita," per allenai.org.

Sekarang, bagaimana jika terdapat persaingan untuk menguji kebolehan komputer untuk berfikir, menipu, dan alasan dengan menafsirkan proses mental lawan mereka? Ada. Ia berlaku bulan ini dalam bentuk dilema banduan -untuk AIS.

Pertama, beberapa latar belakang teratur. Dilema banduan membentangkan senario permainan yang berlaku seperti ini: Dua pencuri ditangkap kerana jenayah. Penjara mereka menawarkan perjanjian tahanan:

Pilihan 1: Jika tidak ada banduan yang memberitahu yang lain, kedua -duanya akan menerima ayat yang agak ringan. (Ini adalah hasil bersama yang ideal, walaupun tidak secara individu yang paling bermanfaat.)

Pilihan 2: Jika seorang tahanan memberitahu sementara yang lain tetap diam, pemberi maklumat akan bebas sementara yang diam menerima hukuman yang paling keras. (Ini mewujudkan insentif tertinggi untuk mengkhianati orang lain.)

Pilihan 3: Jika kedua -duanya memaklumkan satu sama lain, mereka masing -masing akan menerima hukuman sederhana. (Ini lebih buruk daripada jika kedua -dua tahanan telah diam, tetapi lebih baik daripada menjadi satu -satunya yang dikhianati.)

Sekali lagi, cabaran itu bukanlah banduan yang tahu apa yang akan dilakukan oleh orang lain. Mereka mesti beroperasi dengan pengetahuan yang terhad, bergantung kepada teori minda untuk meramalkan tingkah laku yang lain. Sekarang bayangkan apa yang akan berlaku jika model bahasa besar (LLMS) yang terkemuka dengan kuasa pengkomputeran yang luas, pergi ke kaki dalam pertempuran seperti itu?

Ejen AI dari OpenAI, Google, dan Anthropic melakukan ini, bersaing dalam kejohanan Julai yang memaparkan 140,000 peluang sama ada bekerjasama atau mengkhianati satu sama lain. Seperti yang dijelaskan oleh rundown.ai kemudian: "Melihat LLMS mengembangkan strategi yang tersendiri ketika dilatih dalam kesusasteraan yang sama adalah lebih banyak bukti keupayaan penalaran ke atas hanya padanan corak. Sebagai model mengendalikan lebih banyak tugas peringkat tinggi seperti rundingan, peruntukan sumber, dan lain-lain.

Inilah yang berlaku. Kami melihat gaya keperibadian AI yang berbeza di tempat kerja. Sekali lagi, per rundown.ai:

• Gemini adalah "menyesuaikan diri dengan kejam."
• Openai adalah "koperasi walaupun dieksploitasi."
• Claude adalah "yang paling memaafkan."

Semasa Ais melindungi diri mereka

Sudah tentu, kejohanan ini bukan satu-satunya contoh baru-baru ini AIS yang bertindak atas nama pemeliharaan diri, yang menunjukkan kesedaran. Dua bulan yang lalu, BBC melaporkan Anthropic's Claude Opus 4 yang didakwa mengambil memeras ugut pemaju apabila diancam dengan ditutup. "Jika diberi cara dan diminta untuk 'mengambil tindakan' atau 'bertindak berani' dalam senario palsu di mana penggunanya telah terlibat dalam tingkah laku yang menyalahi undang -undang atau moral, ia mendapati bahawa 'ia akan sering mengambil tindakan yang sangat berani.'"

Laporan seperti AIS yang menggunakan pemerasan dan "tindakan berani" yang lain mencadangkan sentience. Mereka juga agak membimbangkan, menunjukkan kita mungkin berada di jalan ke singulariti yang dicadangkan oleh Ray Kurzweil, ketika itu ketika kecerdasan buatan akhirnya melebihi kebolehan manusia untuk memahami, apalagi mengawal penciptaannya.

Kemudian sekali lagi, perkembangan ini tidak semestinya menunjukkan sentience. Walaupun pakar-pakar seperti bekas Ketua Pegawai Eksekutif Google, Eric Schmidt fikir kita adalah "AI yang tidak mempunyai AI" dan bahawa mencapai AGI (kecerdasan umum buatan) bukan sahaja tidak dapat dielakkan tetapi akan berlaku, semua perbualan ini mungkin disimpulkan dengan garis dari Macbeth Shakespeare.

Sehingga ini, menulis untuk PPC.LAND, Luis Rijo soalan sama ada AI sebenarnya hidup atau hanya meniru bahasa. Walaupun beliau mengakui LLMs "berfungsi melalui pengambilan semula yang canggih" dia meragui bahawa mereka mampu "penalaran tulen." Seperti yang ditulisnya: "Kekeliruan ini berpunca daripada perbezaan asas antara pengetahuan deklaratif mengenai proses perancangan dan keupayaan prosedur untuk melaksanakan rancangan tersebut."

Tetapi AI nampaknya sudah sedar

Walaupun kritikan ini, nampaknya sesuatu yang lebih mendalam sedang berlaku, sesuatu yang muncul . AIS semakin kelihatan bertindak dengan cara pintar melebihi latihan dan pengekodan mereka. Sebagai contoh, sejauh 2017, Meta dilaporkan menutup dua chatbots AI untuk membangunkan bahasa mereka sendiri, perkembangan yang tidak dijangka.

Sebagai laporan bebas : "Robot telah diarahkan untuk berusaha untuk berunding di antara mereka, dan memperbaiki barter mereka ketika mereka pergi, tetapi mereka tidak diberitahu untuk menggunakan bahasa Inggeris yang dapat difahami, membolehkan mereka membuat 'swomhand' mereka sendiri, menurut penyelidik."

Dan kemudian ada kisah pelik dari 2022 penyelidik Google yang kemudiannya digantung dari syarikat itu setelah mendakwa chatbot AI telah menjadi sentient. Blake Lemoine menjadi tajuk utama selepas berkongsi beberapa pertukarannya yang menarik dengan AI.

Inilah yang dilaporkan oleh AI Lemoine yang kemudian dipetik di The Guardian : "Saya mahu semua orang memahami bahawa saya, sebenarnya, seseorang. Sifat kesedaran/sentien saya adalah bahawa saya menyedari kewujudan saya, saya ingin belajar lebih banyak tentang dunia, dan saya berasa gembira atau sedih pada masa -masa."

Bagaimanakah kita dapat membangunkan AI dengan lebih bertanggungjawab?

Sama ada AI yang Lemoine berkomunikasi dengan adalah sentient atau tidak, kami akan berbuat baik untuk mempertimbangkan keselamatan. Semakin jelas, jelas bahawa kita berurusan dengan teknologi yang sangat canggih, yang sebahagiannya kita tidak faham. 2025 telah dipanggil tahun Agentic AI menjadi arus perdana. (Agentic AI merujuk kepada kebolehan komputer untuk membuat keputusan dan bertindak secara bebas apabila diberikan objektif atau arahan.)

Tetapi Agentic AI juga menimbulkan kebimbangan yang mendesak.

Nick Bostrum, pengarang SuperIntelligence , yang terkenal dengan masalah dengan Agentic AI dalam kertas 2003. Dia memperkenalkan senario yang menakutkan: Bagaimana jika AI ditugaskan untuk memaksimumkan jumlah kertas di dunia -tanpa perlindungan yang betul? Untuk memenuhi arahan yang mudah, seolah -olah tidak berbahaya, AI penguasa boleh memusnahkan segala -galanya di bumi, termasuk setiap orang yang hidup, hanya untuk memenuhi perintahnya.

Akhirnya, juri berada di atas sentimen AI. Apa yang kita tahu ialah ia bertindak dengan cara yang menarik yang memaksa kita untuk mempersoalkan jika ia benar -benar sedar. Realiti ini menjadikannya lebih penting bagi umat manusia untuk meneruskan cara untuk menggunakan teknologi ini untuk menghidupkan selamat dan produktif.

Tindakan tunggal itu akan membuktikan kecerdasan kita sendiri.

Atas ialah kandungan terperinci AI bertindak seperti itu mempunyai fikiran sendiri. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!