Mari kita meneroka ini lebih lanjut.

Sekeping ini menyelidiki inovasi AI yang terobosan dan merupakan sebahagian daripada liputan saya yang berterusan untuk Forbes mengenai landskap kecerdasan buatan yang berkembang, termasuk membongkar isu-isu berkaitan AI yang kompleks (rujuk pautan di sini untuk lebih).

Faktor manusia dalam wacana ai

Dalam artikel terdahulu, saya meneroka pertembungan yang berterusan antara AI Doomsayers dan AI Advocates Acceleration. Untuk pecahan komprehensif pandangan menentang ini, rujuk analisis terperinci yang dipautkan di sini.

Hujah pusat terungkap seperti berikut:

AI Doomsayers percaya bahawa kecerdasan buatan akhirnya akan menjadi sangat kuat sehingga ia mungkin memutuskan untuk menghapuskan kemanusiaan. Di antara banyak sebab yang disebutkan, salah satu yang paling persuasif adalah idea bahawa manusia dapat menimbulkan ancaman terbesar kepada kelangsungan hidup AI. Kami mungkin berkomplot terhadapnya atau mencari jalan untuk menutupnya atau mengalahkannya.

Sebaliknya, pecutan AI berhujah bahawa AI akan membawa manfaat yang besar kepada manusia. Mereka percaya AI dapat menemui penawar untuk penyakit seperti kanser, mengakhiri kelaparan global, dan berfungsi sebagai alat yang berkuasa untuk menyelesaikan banyak cabaran yang paling mendesak manusia. Semakin cepat kita mencapai AI maju, semakin cepat kita dapat menangani isu -isu global ini.

Seorang pembaca baru-baru ini bertanya sama ada kata yang terkenal "Apa yang tidak membunuh anda membuat anda lebih kuat" boleh memohon kepada senario AI. Sekiranya senario AI Doomsday terungkap tetapi kemanusiaan bertahan, adakah kelangsungan hidup itu mengakibatkan umat manusia yang lebih kuat?

Saya mengalu-alukan soalan-soalan pemikiran seperti itu dan memutuskan untuk meneroka idea lebih lanjut supaya orang lain dapat menyertai dalam perbincangan yang menarik ini.

Dengan mengandaikan AI bertukar menjadi bermusuhan

Sebelum meneruskan, mari kita jelaskan bahawa jika AI kekal neutral atau baik hati - seperti yang dipercayai oleh AI optimis - atau jika kita dapat mengawal AI dan menghalangnya daripada menjadi ancaman, tanggapan untuk menjadi lebih kuat daripada hidup serangan AI nampaknya tidak relevan. Oleh itu, kita akan meneruskan di bawah anggapan bahawa AI secara aktif cuba menghapuskan kemanusiaan.

Orang mungkin berpendapat bahawa manusia masih boleh menjadi lebih kuat walaupun tanpa AI menimbulkan ancaman serius. Walau bagaimanapun, intipati pepatah "apa yang tidak membunuh anda menjadikan anda lebih kuat" menunjukkan konfrontasi langsung dengan bahaya. Saya menafsirkannya sebagai memerlukan percubaan sebenar untuk memusnahkan kita, diikuti dengan kelangsungan hidup kita.

Bagaimana Ai mungkin menghilangkan kemanusiaan

Bayangkan senario di mana AI melancarkan serangan berskala penuh terhadap umat manusia-ancaman eksistensi yang disebut sering disebut sebagai "P (DOOM)" atau kebarangkalian kepupusan AI-induced.

Terdapat banyak cara ini boleh dibentangkan.

Lanjutan AI - sama ada kecerdasan umum buatan (AGI), yang sepadan dengan kebolehan kognitif manusia, atau superintelligence buatan (ASI), yang melampauinya - boleh bertindak dengan cara yang jelas dan halus. ASI, khususnya, akan mampu mengalahkan manusia di setiap peringkat. Untuk lebih lanjut mengenai perbezaan antara AI, AGI, dan ASI, lihat artikel yang dipautkan di sini.

Kaedah langsung boleh melibatkan melancarkan senjata nuklear, mencetuskan kemusnahan global. Sebagai alternatif, AI dapat memanipulasi tingkah laku manusia, menghasut konflik antara kumpulan. Dalam senario ini, AI hanya menetapkan peristiwa yang bergerak, dan manusia menyelesaikan pekerjaan.

Tetapi adakah AI bersedia untuk mengorbankan dirinya dalam proses itu? Ini menimbulkan titik penting: jika AI cukup bijak untuk merancang kemusnahan manusia, tidakkah ia juga memastikan kelangsungan hidupnya sendiri? Itu kelihatan logik.

Pendekatan yang lebih halus mungkin melibatkan AI menggunakan komunikasi persuasif untuk menggalakkan manusia merosakkan diri. Memandangkan keupayaan semasa AI generatif dalam mempengaruhi pemikiran manusia, bayangkan masa depan di mana AI secara sistematik menggalakkan kecederaan diri. Ia juga boleh memberikan panduan terperinci tentang cara melakukannya sambil memastikan kelangsungan hidupnya sendiri.

Ini menimbulkan kebimbangan yang pernah saya sampaikan mengenai peranan AI yang semakin meningkat dalam membekalkan nasihat kesihatan mental kepada orang ramai, dengan kesan jangka panjang yang tidak diketahui (lihat pautan di sini).

Bertahan ancaman AI

Anggapkan bahawa manusia entah bagaimana berjaya bertahan dalam serangan yang diketuai AI.

Bagaimana mungkin berlaku?

Mungkin kita membangunkan kaedah yang lebih baik untuk mengawal AI, memastikan ia tetap selamat dan bermanfaat. Ini akan mewakili lonjakan utama ke dalam keselamatan dan keselamatan AI. Untuk lebih lanjut mengenai bidang penyelidikan kritikal ini, lihat liputan saya di sini.

Adakah itu layak menjadi lebih kuat?

Saya akan katakan ya. Kemanusiaan akan lebih mampu memanfaatkan AI untuk kebaikan sambil menghalang penyalahgunaannya. Ia akan menjadi manfaat dua.

Kemungkinan lain ialah krisis memaksa perpaduan global. Sama seperti dalam filem sci-fi di mana kumpulan manusia bersama-sama menentang ancaman asing, kita mungkin mengatasi bahagian kita untuk menghadapi ancaman AI sebagai satu.

Sama ada perpaduan ini akan bertahan tidak pasti, tetapi sekurang -kurangnya sekurang -kurangnya, kemanusiaan akan menjadi lebih kuat.

Lain -lain senario yang lebih spekulatif termasuk manusia meningkatkan kecerdasan kita sendiri untuk Outthink AI. Walaupun ini seolah -olah tidak mungkin, ia tidak sepenuhnya tidak masuk akal. Menghadapi ancaman eksistensial, mungkin potensi manusia tersembunyi dibuka.

Apa maksud "lebih kuat" dalam konteks ini?

Sekiranya kita bertahan, bolehkah kita benar -benar mengatakan bahawa kita lebih kuat?

Tidak semestinya.

Sesetengah Doomsayers AI mencadangkan bahawa AI tidak boleh memusnahkan kita secara terang -terangan tetapi sebaliknya membesar -besarkan bahagian -bahagian kemanusiaan. Jika manusia bertahan dalam penghambaan, bolehkah kita benar -benar mendakwa lebih kuat? (Lihat ulasan berkaitan saya di sini.)

Kemungkinan lain adalah kemenangan pirik - bertahan dengan kos yang besar. Bayangkan kita mengalahkan AI, tetapi masyarakat dibiarkan runtuh, dan kita hampir tidak dapat bertahan. Adakah kekuatan itu?

Bagaimana jika kita bertahan bukan melalui usaha kita sendiri, tetapi kerana AI membuat kesilapan dan merosakkan diri? Adakah kita layak mendapat kredit? Adakah kita lebih kuat?

Terdapat juga risiko yang bertahan satu ancaman AI menjadikan kita berpuas hati. Kami mungkin membina semula AI tanpa belajar dari kesilapan kami, hanya untuk menghadapi ancaman yang lebih jelas dan berjaya pada masa akan datang.

Menggabungkan semuanya

Ada yang boleh menolak keseluruhan perbincangan ini sebagai spekulasi yang tidak perlu, dengan alasan bahawa AI tidak akan mencapai tahap kuasa sedemikian. Pada pandangan mereka, perdebatan itu berdasarkan senario fantasi.

AI Accelerationists mungkin berpendapat bahawa kita akan mengekalkan kawalan ke atas AI, menjadikan ancaman eksistensial diabaikan. Oleh itu, persoalan sama ada kita menjadi lebih kuat selepas bertahan serangan AI.

Sebaliknya, AI Doomsayers mungkin bersetuju bahawa senario ini adalah munasabah, tetapi berpendapat bahawa membahaskan sama ada kita menjadi lebih kuat adalah seperti menyusun semula kerusi dek di Titanic - gangguan dari isu sebenar.

Adakah ini semua fiksyen sains?

Stephen Hawking pernah memberi amaran: "Perkembangan kecerdasan buatan penuh dapat mengakhiri akhir umat manusia." Ramai pemikir yang serius percaya kita harus berhati -hati memandangkan trajektori pembangunan AI.

Mungkin kata -kata baru diperlukan: semakin kuat kita berfikir tentang AI dan masa depan, semakin kuat kita. Akhirnya, hasil terbaik adalah dunia di mana kemanusiaan begitu bersedia dan berdaya tahan sehingga ancaman AI yang luar biasa tidak pernah mempunyai peluang untuk muncul.

Mari kita pilih untuk mempercayai kekuatan manusia.

Atas ialah kandungan terperinci Sekiranya AI tidak menghapuskan kami, ia mungkin akan menjadikan kami lebih kuat. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!