Mari kita bercakap mengenainya.

Analisis terobosan AI yang inovatif ini adalah sebahagian daripada liputan lajur Forbes yang berterusan pada AI terkini, termasuk mengenal pasti dan menerangkan pelbagai kerumitan AI yang memberi kesan (lihat pautan di sini).

Menuju ke Agi dan ASI

Pertama, beberapa asas diperlukan untuk menetapkan peringkat untuk perbincangan berat ini.

Terdapat banyak penyelidikan yang berlaku untuk memajukan AI. Matlamat umum adalah sama ada mencapai kecerdasan umum buatan (AGI) atau mungkin juga kemungkinan terulur untuk mencapai superintelligence buatan (ASI).

AGI adalah AI yang dianggap setanding dengan akal manusia dan nampaknya sepadan dengan kecerdasan kita. ASI adalah AI yang telah melampaui akal manusia dan akan menjadi lebih baik dalam banyak jika tidak semua cara yang boleh dilaksanakan. Idea ini ialah ASI akan dapat mengendalikan bulatan di sekitar manusia dengan menghancurkan kita pada setiap masa. Untuk maklumat lanjut mengenai sifat AI konvensional berbanding AGI dan ASI, lihat analisis saya di pautan di sini.

Kami belum mencapai AGI.

Malah, tidak diketahui sama ada kita akan sampai ke AGI, atau mungkin AGI akan dapat dicapai dalam beberapa dekad atau mungkin berabad -abad dari sekarang. Tarikh pencapaian AGI yang terapung di sekitar adalah sangat berbeza -beza dan tidak berasas oleh sebarang bukti yang boleh dipercayai atau logik ironclad. ASI lebih melampaui pucat ketika datang ke mana kita sedang dengan AI konvensional.

Akal manusia sebagai tongkat ukur

Pernahkah anda merenung teka -teki klasik yang bertanya berapa tinggi?

Saya pasti anda ada.

Kanak -kanak bertanya soalan ini kepada ibu bapa mereka. Jawapan yang biasa adalah bahawa naik ke pinggir luar atmosfera Bumi. Selepas memukul ambang itu, terus terus ke luar angkasa. UP adalah sama ada konsep yang dibatasi berdasarkan atmosfera kita atau ia adalah tanggapan yang hampir tidak terhingga yang berjalan sejauh tepi alam semesta kita yang berkembang.

Saya membawa teka -teki ini ke perhatian anda kerana ia agak mencerminkan persoalan yang sama tentang sifat kecerdasan manusia:

• Berapa tinggi kecerdasan manusia?

Dalam erti kata lain, kecerdasan yang kami tunjukkan pada masa ini mungkin bukan terikat atas kami. Sekiranya anda membandingkan kecerdasan kami dengan generasi yang lalu, pastinya nampaknya agak jelas bahawa kami terus meningkatkan kecerdasan secara generasi. Adakah mereka yang dilahirkan pada tahun 2100 lebih pintar daripada kita sekarang? Bagaimana dengan dilahirkan pada tahun 2200? Semua dalam semua, kebanyakan orang akan membuat spekulasi bahawa ya, kecerdasan generasi akan datang akan lebih besar daripada kecerdasan yang berlaku pada masa ini.

Sekiranya anda membeli logik itu, aspek yang berkaitan dengan kepala berduri. Fikirkan dengan cara ini. Keupayaan kecerdasan manusia akan terus meningkat secara generasi. Pada satu ketika, adakah generasi akan wujud? Generasi masa depan mewakili yang tertinggi yang boleh pergi ke intelek manusia. Generasi berikutnya sama ada dengan akal manusia yang sama, atau kurang begitu dan tidak lebih.

Sebabnya kita ingin mendapat jawapan kepada soalan itu ialah terdapat keperluan menekan masa kini untuk mengetahui sama ada terdapat had atau tidak. Saya baru -baru ini menegaskan bahawa AGI akan setanding dengan akal manusia, sementara ASI akan menjadi kecerdasan luar biasa. Di manakah AGI teratas, supaya kita dapat melukis garis dan mengatakan itu? Apa -apa pun di atas garis itu akan ditafsirkan sebagai superintuman atau superintelligence.

Sekarang, menggunakan akal manusia sebagai tongkat pengukur adalah kabur kerana kita tidak tahu berapa lama garis itu. Mungkin garis berakhir pada titik tertentu, atau mungkin ia terus berjalan.

Berikan pemikiran yang berat itu beberapa pondering yang penuh perhatian.

Garis di pasir

Anda mungkin tergoda untuk mengandaikan bahawa mesti ada terikat atas kecerdasan manusia. Ini secara intuitif terasa betul. Kami tidak berada di had itu lagi (jadi nampaknya!). Seseorang berharap bahawa manusia akan suatu hari nanti hidup cukup lama untuk mencapai suasana luar.

Oleh kerana kita akan pergi dengan andaian kecerdasan manusia sebagai mempunyai titik atas, berbuat demikian demi perbincangan, kita kini boleh mengisytiharkan bahawa AGI juga harus mempunyai titik topping. Asas untuk tuntutan itu pastinya boleh dipertahankan. Jika AGI terdiri daripada meniru atau entah bagaimana mempamerkan kecerdasan manusia, dan jika kecerdasan manusia memenuhi maksimum, AGI juga pasti akan memenuhi maksimum yang sama. Itulah anggapan definisi.

Diakui, kita tidak semestinya tahu apa titik maksimum. Tidak ada kebimbangan, sekurang -kurangnya kita telah mendarat dengan kepercayaan yang stabil bahawa terdapat maksimum. Kita kemudian dapat menarik perhatian kita ke arah memikirkan di mana maksimum itu berada. Tidak perlu ditekankan oleh aspek tak terhingga lagi.

Berputar dan bertukar berlimpah

AI terperosok dalam kontroversi yang berkaitan dengan teka -teki yang tidak dapat diselesaikan yang mendasari siling kepada kecerdasan manusia. Mari kita meneroka tiga kemungkinan yang ketara.

Pertama, jika terdapat siling kepada kecerdasan manusia, mungkin itu menunjukkan bahawa tidak ada kecerdasan luar biasa.

Katakan apa?

Ia seperti ini. Sebaik sahaja kita memukul bahagian atas kecerdasan manusia, BAM, itu sahaja, tidak ada ruang untuk terus ke atas. Apa -apa sahaja sehingga titik itu telah menjadi kecerdasan manusia konvensional. Kami mungkin berfikir bahawa terdapat kecerdasan luar biasa, tetapi ia benar -benar hanya kecerdasan sedikit di hadapan kecerdasan konvensional. Tidak ada kecerdasan luar biasa. Segala -galanya terhad kepada kecerdasan konvensional. Oleh itu, mana -mana AI yang kita buat akhirnya tidak akan lebih besar daripada kecerdasan manusia.

Mull itu.

Kedua, jika ada siling kepada kecerdasan manusia, mungkin melalui AI kita boleh melampaui siling itu dan merangka kecerdasan luar biasa.

Itu kelihatan lebih mudah. Inti adalah bahawa manusia teratas tetapi itu tidak bermakna bahawa AI juga mesti keluar. Melalui AI, kita mungkin dapat melampaui kecerdasan manusia, iaitu, melepasi batas maksimum kecerdasan manusia. Bagus.

Ketiga, jika tidak ada siling kepada kecerdasan manusia, kita mungkin harus mengatakan bahawa kecerdasan luar biasa dimasukkan dalam kemungkinan yang tidak terhingga. Oleh itu, perbezaan antara AGI dan ASI adalah kepalsuan. Ia adalah garis sewenang -wenangnya.

Yikes, ia adalah dilema minda.

Tanpa beberapa pendaratan tetap sama ada terdapat topi kecerdasan manusia, peluang untuk memaku ke bawah Agi dan ASI tetap menyendiri. Kami tidak tahu jawapan kepada cadangan siling ini; Oleh itu, penyelidikan AI mesti membuat andaian asas yang berbeza -beza mengenai topik yang tidak dapat diselesaikan.

Penyelidikan AI mengambil keadaan

Penyelidik AI sering mengambil pendirian bahawa mesti ada tahap maksimum yang berkaitan dengan akal manusia. Mereka umumnya menerima bahawa terdapat maksimum walaupun kita tidak dapat membuktikannya. Yang sama sekali tidak diketahui, tetapi dianggap batas yang wujud, menjadi garis pemisah antara AGI dan ASI. Sebaik sahaja AI melebihi had intelektual manusia, kita mendapati diri kita di wilayah luar biasa.

Dalam kertas yang baru-baru ini bertajuk "Pendekatan Keselamatan dan Keselamatan AGI Teknikal" oleh penyelidik Google Deepmind Rohin Shah, Alex Irpan, Alexander Matt Turner, Anna Wang, Arthur Conmy, David Lindner, Jonah Brown-Cohen, Lewis Ho, Neel Nanda, Raluca, Farquhar, Sébastien Krier, Senthooran Rajamanoharan, Sophie Bridgers, Tobi Ijitoye, Tom Everitt, Victoria Krakovna, Vikrant Varma, Vladimir Mikulik, Zachary Kenton, Dave Orr, Shane ARRAV, NOAHAN, NOAHAN, NOAHAN, NOAHAN, NOAHAN, NOAHAN ARRAVA, NOAHAN ARRAVA, NOAHAN, NOAHAN, NOAHAN, NOAHAN, NOAHAN, NOAHAN, NOAHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAN, NOHAAN, NOHAN, NOHAN, NOHAAN, NOHAAN, NOHAV , , 2 April 2025, mereka membuat mata -mata ini (petikan):

• "Asumsi siling manusia tidak: keupayaan AI tidak akan berhenti maju apabila mereka mencapai pariti dengan manusia yang paling berkemampuan."
• "Tuntutan pertama kami adalah bahawa prestasi luar biasa telah meyakinkan ditunjukkan dalam beberapa tugas. Ini memberikan" bukti konsep "bahawa terdapat tugas -tugas yang konkrit, jelas yang ditakrifkan untuk kemampuan manusia tidak mewakili siling yang bermakna untuk AI."
• "Tuntutan kedua kami adalah bahawa pembangunan AI mempamerkan trend ke arah lebih banyak sistem generalis, fleksibel.
• "Tuntutan ketiga kami adalah semata -mata bahawa kami tidak melihat hujah -hujah yang berprinsip mengapa keupayaan AI akan berhenti bertambah baik apabila mencapai pariti dengan manusia yang paling berkemampuan."

Anda dapat melihat dari perkara -perkara utama yang para penyelidik telah cuba membuat kes yang menarik bahawa ada perkara seperti akal yang luar biasa. The superhuman terdiri daripada yang melampaui siling manusia. Tambahan pula, AI tidak akan terjebak di siling akal manusia. AI akan melampaui siling manusia dan meneruskan ke alam intelektual super.

Misteri kecerdasan luar biasa

Katakan ada siling kepada kecerdasan manusia. Jika itu benar, adakah kecerdasan luar biasa akan menjadi sesuatu yang sama sekali berbeza dari sifat kecerdasan manusia? Dalam erti kata lain, kita mengatakan bahawa kecerdasan manusia tidak dapat mencapai kecerdasan luar biasa. Tetapi AI yang kita perhatikan seolah -olah dibentuk secara umum di sekitar sifat kecerdasan manusia secara keseluruhan.

Bagaimanakah AI yang boleh dibentuk di sekitar kecerdasan manusia mencapai superintelligence apabila kecerdasan manusia tidak dapat melakukannya?

Dua jawapan yang paling kerap disuarakan adalah kemungkinan ini:

• (1) Ini soal ukuran atau skala.
• (2) Ini masalah pembezaan.

Sambutan pertama yang biasa kepada teka -teki yang mengecewakan adalah saiz yang mungkin membuat perbezaan.

Otak manusia adalah kira -kira tiga paun berat badan dan sepenuhnya terhad kepada saiz tengkorak kita, kira -kira membolehkan otak menjadi kira -kira 5.5 inci dengan 6.5 inci dengan 3.6 inci dalam dimensi masing -masing. Otak manusia terdiri daripada sekitar 86 bilion neuron dan mungkin 1,000 trilion sinapsis. Kecerdasan manusia seolah -olah terperangkap dengan apa yang boleh berlaku dalam kekangan saiz tersebut.

AI adalah perisian dan data yang berjalan merentasi ribuan atau berjuta -juta pelayan komputer dan unit pemprosesan. Kami sentiasa boleh menambah lebih banyak lagi. Had saiz tidak seperti yang dikekang sebagai otak yang ditempatkan di dalam kepala kita.

Intinya ialah sebab kita mungkin mempunyai AI yang mempamerkan kecerdasan superhuman adalah disebabkan oleh batasan saiz fizikal yang dimiliki oleh otak manusia. Kemajuan dalam perkakasan akan membolehkan kami menggantikan pemproses yang lebih cepat dan lebih banyak pemproses untuk terus menolak AI ke dalam kecerdasan luar biasa.

Tanggapan kedua adalah bahawa AI tidak semestinya perlu mematuhi komposisi biokimia yang menimbulkan kecerdasan manusia. Kecerdasan superhuman mungkin tidak dapat dilaksanakan dengan manusia kerana otak menjadi pratuang biokimia. AI dengan mudah boleh dirancang dan disemak semula untuk mengeksploitasi semua jenis algoritma dan perkakasan baru yang membezakan keupayaan AI dari keupayaan manusia.

Menuju ke yang tidak diketahui

Kedua -dua pertimbangan saiz dan pembezaan juga boleh berfungsi secara konsert. Mungkin AI menjadi intelektual yang luar biasa kerana kedua -dua aspek skala dan pembezaan bagaimana AI meniru atau mewakili kecerdasan.

Hogwash, ada yang menggalakkan. AI dirancang oleh manusia. Oleh itu, AI tidak boleh melakukan lebih baik daripada manusia yang boleh lakukan. AI akan suatu hari nanti mencapai maksimum akal manusia dan tidak pergi lagi. Tempoh, akhir cerita.

Whoa, datang retort. Fikirkan tentang manusia memikirkan cara terbang. Kami tidak melepaskan tangan seperti burung. Sebaliknya, kami membuat pesawat. Pesawat terbang. Manusia membuat pesawat. Ergo, manusia dapat melebihi batasan mereka sendiri.

Perkara yang sama akan dikenakan ke AI. Manusia akan membuat AI. AI akan mempamerkan kecerdasan manusia dan pada satu ketika mencapai batas kecerdasan manusia. AI kemudiannya akan terus maju ke dalam kecerdasan luar biasa, melampaui batas kecerdasan manusia. Anda mungkin mengatakan bahawa manusia boleh membuat AI yang terbang walaupun manusia tidak dapat berbuat demikian.

Pemikiran terakhir untuk sekarang mengenai topik yang memalukan ini. Albert Einstein terkenal berkata: "Hanya dua perkara yang tidak terhingga, alam semesta dan kebodohan manusia, dan saya tidak pasti tentang bekas." Cukup komen nakal. Teruskan dan berikan perkara AI menjadi AGI dan mungkin AISI beberapa perbincangan yang serius tetapi tetap bijak kerana semua manusia mungkin bergantung pada apa jawapannya.

Atas ialah kandungan terperinci AGI dan AI Superintelligence akan dengan ketara memukul penghalang asumsi siling manusia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!