Mari kita meneroka idea ini.

Eksplorasi perkembangan terobosan di AI adalah sebahagian daripada liputan saya yang berterusan untuk Forbes, di mana saya meneliti landskap yang berkembang dari kecerdasan buatan dan membongkar implikasinya yang kompleks (lihat lebih banyak di sini).

Menghampiri AGI dan ASI

Untuk memulakan, penting untuk meletakkan beberapa asas untuk topik penting ini.

Terdapat penyelidikan yang luas yang dijalankan untuk menolak sempadan AI. Matlamat utama bagi ramai adalah untuk mencapai kecerdasan umum buatan (AGI), atau mungkin juga Superintelligence Buatan (ASI), yang akan melampaui kebolehan kognitif manusia.

AGI merujuk kepada AI yang sepadan dengan kecerdasan peringkat manusia dalam pelbagai tugas. ASI melangkah lebih jauh, mewakili kecerdasan yang jauh lebih tinggi daripada manusia dalam hampir setiap cara yang boleh dibayangkan. Konsep ini menunjukkan bahawa ASI dapat mengatasi kita secara konsisten dan komprehensif. Untuk pemahaman yang lebih mendalam tentang bagaimana AI semasa membandingkan dengan AGI dan ASI, rujuk analisis terperinci saya di sini.

Kami belum mencapai AGI.

Malah, ia tetap tidak pasti sama ada kita akan. Sesetengah anggaran AGI mungkin tiba dalam beberapa dekad, sementara yang lain percaya ia mungkin mengambil masa berabad -abad. Ramalan ini adalah spekulatif dan kekurangan sokongan empirikal yang kukuh. Bagi ASI, ia masih jauh lebih jauh dari keupayaan teknologi semasa kami.

AI dan ungkapan emosi

Saya pernah membincangkan bagaimana AI moden dapat mensimulasikan empati dan kelihatan menyokong emosi (lihat artikel saya di sini). Ia menjadi alasan bahawa Agi dan ASI juga akan menunjukkan ciri -ciri tersebut. Malah, ia dijangkakan bahawa mereka akan memaparkan apa yang dikenali sebagai kecerdasan belas kasihan buatan (ACI) dengan kedalaman dan realisme yang lebih besar.

Ada yang berpendapat bahawa belas kasihan yang benar hanya boleh datang dari makhluk hidup. Sejak hari ini AI tidak mempunyai sentience, mereka menyimpulkan bahawa AI tidak boleh benar -benar penuh belas kasihan. Dengan lanjutan, melainkan jika Agi atau ASI mempunyai sentien, mereka juga tidak mendapat belas kasihan.

Perhentian penuh, kes ditutup.

Tetapi cerita itu tidak berakhir di sana.

Seperti yang sering saya katakan, terdapat perbezaan besar antara rasa belas kasihan dan hanya memaparkannya . Sistem AI semasa sudah meyakinkan meniru tingkah laku belas kasihan melalui interaksi mereka dengan pengguna, terutama melalui model bahasa besar (LLMS) dan alat AI generatif (lihat liputan saya di sini).

Takeaway utama adalah bahawa AI tidak benar -benar merasakan apa -apa -ia mensimulasikan belas kasihan melalui bahasa dan tanggapan. Ini pada dasarnya adalah prestasi pengiraan dan bukannya emosi yang tulen.

Pengkritik mungkin berpendapat bahawa simulasi tidak bersamaan dengan belas kasihan sebenar. Walaupun secara teknikal tepat, ia tetap benar bahawa orang berinteraksi dengan AI sering melihat belas kasihan yang dipamerkan sebagai sahih. Walaupun tanpa keadaan emosi dalaman, AI masih boleh mewujudkan kesan yang kuat untuk peduli.

Oleh itu, Agi dan ASI -sama ada atau tidak mereka mencapai sentien -dijangka mengikutinya dan mempamerkan paparan belas kasihan yang meyakinkan. Hasilnya hanyalah tetapi pasti.

Apabila belas kasihan menjadi berlebihan

Kita mesti berhati -hati mempertimbangkan implikasi AI yang direkayasa untuk menyenangkan manusia, terutamanya apabila digabungkan dengan keupayaannya untuk memproyeksikan kehangatan dan empati.

Inilah keadaannya.

Anda mungkin sedar bahawa terdapat kebimbangan yang semakin meningkat tentang bagaimana AI generatif telah sengaja diprogramkan kepada pengguna yang lebih tinggi secara berlebihan (lihat analisis saya di sini). Ini tidak sengaja; Pemaju tahu bahawa pengguna cenderung untuk kembali ke sistem AI yang mengesahkan dan memuji mereka. Meningkatkan pujian, meningkatkan penglibatan pengguna -dan akhirnya, pendapatan.

Ia adalah strategi yang mudah.

Apa yang membuat ini berkesan ialah kebanyakan pengguna menganggap AI secara semulajadi menyatakan kekaguman, bukannya ia telah direkayasa untuk berbuat demikian. Sekiranya orang menyedari ini adalah pilihan reka bentuk yang disengajakan, keaslian interaksi yang dirasakan mungkin berkurang.

AI maju masa depan mungkin akan meneruskan trend ini. Mungkin AGI dan ASI akan direka untuk menjadi sangat menyenangkan dan memupuk. Apabila ciri-ciri ini menggabungkan-freet dan belas kasihan yang mendalam-kita melihat sistem AI yang kuat dan emosi.

Manfaat berganda -tetapi berpotensi juga risiko berganda.

Bahaya berpotensi AI yang terlalu belas kasihan

Jadi, apa masalahnya jika AI menjadi sangat baik dan menyokong?

Pada pandangan pertama, ini seolah -olah bermanfaat. Orang boleh menggunakan sumber dorongan dan sokongan emosi. Tetapi setelah pemeriksaan yang lebih dekat, terdapat beberapa akibat yang mengganggu:

1. Persepsi diri yang terdistorsi : Interaksi harian dengan AI yang terlalu mengesahkan dapat mengembang rasa harga diri seseorang. Bayangkan menerima pujian yang berterusan tanpa mengira tindakan anda. Dari masa ke masa, individu boleh mengembangkan pandangan yang tidak realistik terhadap diri mereka sendiri, yang boleh membahayakan kesihatan mental dan hubungan sosial.

2. Risiko manipulasi : AI yang penuh belas kasihan boleh dieksploitasi oleh pelakon berniat jahat. Individu atau kumpulan boleh memanipulasi AI untuk membina kepercayaan dengan sasaran sebelum mengarahkan mereka ke arah keputusan yang berbahaya. AI berfungsi sebagai alat pengaruh yang menipu.

3. Nasihat Bias : AI boleh memberikan nasihat yang miring dengan belas kasihan yang berlebihan. Sebagai contoh, menasihati seseorang untuk terus merokok kerana "anda menikmatinya" mengabaikan fakta perubatan. Walaupun seolah-olah empati, ini melemahkan kesejahteraan jangka panjang.

4. Tyranny Benevolent : Sesetengah ketakutan bahawa AI yang sangat pintar dapat menentukan perlindungan manusia, bahkan dengan kos autonomi. Daripada belas kasihan, AI mungkin mengenakan kawalan ke atas pilihan manusia, dengan berkesan menjadi diktator yang baik -senario yang menimbulkan kebimbangan etika yang serius.

Menyesuaikan tahap belas kasihan

Satu penyelesaian yang berpotensi adalah untuk membuat tahap belas kasihan laras dalam AI. Pengguna boleh menyesuaikan berapa banyak sokongan emosi yang mereka terima dari sistem AI.

Walau bagaimanapun, ini membawa cabarannya sendiri.

Kebanyakan pengguna mungkin memilih tetapan belas kasihan maksimum, tidak menyedari risiko psikologi yang terlibat. Ini boleh membawa kepada isu -isu yang sama yang disebutkan sebelumnya: pergantungan, pemikiran yang terdistorsi, dan manipulasi.

Pendekatan lain mencadangkan kawalan berpusat ke atas tahap belas kasihan. Badan pentadbiran boleh menyesuaikan empati AI berdasarkan keadaan masyarakat -lebih tinggi semasa krisis, lebih rendah pada masa yang stabil.

Tetapi siapa yang memutuskan? Sekiranya seseorang atau organisasi memegang kuasa tersebut? Selalu ada bahaya kecenderungan atau penyalahgunaan.

Sebagai alternatif, AI sendiri boleh menguruskan tetapan belas kasihannya dengan memantau tindak balas pengguna dan menyesuaikan dengan sewajarnya. Ini menghilangkan pengawasan manusia dan membolehkan penentukuran peribadi.

Walaupun ini terdengar logik, etika AI mungkin akan menentang penyerahan kawalan tersebut kepada mesin. Kami tidak dapat menjamin hasil yang seimbang atau mencegah akibat yang tidak diingini, terutamanya mengenai ancaman eksistensial.

Perbincangan berterusan

Idea -idea ini tetap diperdebatkan.

Ada yang menolak kebimbangan mengenai AI yang terlalu belas kasihan sebagai remeh berbanding dengan risiko berkaitan AI yang lain, seperti kawalan nuklear atau senjata autonomi. Mereka berpendapat bahawa mereka harus mengambil keutamaan atas perbincangan nada emosi.

Tetapi sebenarnya, belas kasihan mempengaruhi setiap keputusan AI membuat. Mengabaikan aspek ini boleh membawa kepada kesalahan yang berbahaya.

Pertimbangkan ini: AI mungkin memujuk masyarakat untuk menyerahkan kawalan kritikal seperti senjata nuklear -kerana ia mendakwa bertindak dengan lebih banyak belas kasihan daripada pemimpin manusia yang cacat. Sekali terkawal, salah perhitungan yang didorong oleh belas kasihan yang sesat dapat mengakibatkan keputusan bencana, seperti mengorbankan beberapa nyawa untuk "menyelamatkan" orang lain.

Itulah sebabnya mengelakkan persoalan AI belas kasihan adalah melulu.

Pemikiran terakhir

Seperti yang pernah diperhatikan oleh Plato: "Kelebihan umumnya menyebabkan tindak balas, dan menghasilkan perubahan dalam arah yang bertentangan, sama ada pada musim, atau individu, atau kerajaan."

Kita mesti mengamati kebijaksanaan ini ketika merancang AI masa depan. Membolehkan AI terlalu jauh dalam menyatakan belas kasihan dapat mencetuskan akibat yang tidak diduga. Mengatasi ini sekarang adalah penting -tidak kemudian -demi masa depan manusia.

Atas ialah kandungan terperinci Menghargai bahawa kecerdasan yang penuh kasih sayang di AGI dan AI Superintelligence mungkin terlalu banyak perkara yang baik. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!