Soalan penting timbul mengenai kemungkinan kebolehlaksanaan dunia nyata untuk melaksanakan larangan sedemikian.

Mari kita bercakap mengenainya.

Analisis terobosan AI yang inovatif ini adalah sebahagian daripada liputan lajur Forbes yang berterusan pada AI terkini, termasuk mengenal pasti dan menerangkan pelbagai kerumitan AI yang memberi kesan (lihat pautan di sini).

Menuju ke Agi dan ASI

Pertama, beberapa asas diperlukan untuk menetapkan peringkat untuk perbincangan berat ini.

Terdapat banyak penyelidikan yang berlaku untuk memajukan AI. Matlamat umum adalah sama ada mencapai kecerdasan umum buatan (AGI) atau mungkin juga kemungkinan terulur untuk mencapai superintelligence buatan (ASI).

AGI adalah AI yang dianggap setanding dengan akal manusia dan nampaknya sepadan dengan kecerdasan kita. ASI adalah AI yang telah melampaui akal manusia dan akan lebih unggul di banyak, jika tidak semua, cara yang boleh dilaksanakan. Idea ini ialah ASI akan dapat mengendalikan bulatan di sekitar manusia dengan menghancurkan kita pada setiap masa. Untuk maklumat lanjut mengenai sifat AI konvensional berbanding AGI dan ASI, lihat analisis saya di pautan di sini.

Kami belum mencapai AGI.

Malah, tidak diketahui sama ada kita akan sampai ke AGI, atau mungkin AGI akan dapat dicapai dalam beberapa dekad atau mungkin berabad -abad dari sekarang. Tarikh pencapaian AGI yang terapung di sekitar adalah sangat berbeza -beza dan tidak berasas oleh sebarang bukti yang boleh dipercayai atau logik ironclad. ASI lebih melampaui pucat ketika datang ke mana kita sedang dengan AI konvensional.

Penggunaan AGI dan ASI

Saya pernah membincangkan bagaimana Agi dan ASI pasti akan membolehkan manusia membuat ciptaan baru yang akan membawa manfaat yang mengagumkan kepada kemanusiaan; Lihat pautan di sini. Dengan mengetuk ke dalam kuasa intelektual yang dipenuhi dalam AI, mungkin ada AI yang merangka jenis mesin, bahan kimia, peranti, dll.

Wajah gembira.

Tetapi ini bukan makan tengah hari percuma.

Kelemahannya ialah AI dapat menghasilkan keupayaan baru yang membahayakan manusia. AI dianggap sebagai bentuk inovasi dwi-guna. AI boleh digunakan untuk tujuan menaikkan semangat, tetapi ia juga boleh digunakan untuk tujuan jahat. Malah sesuatu yang kelihatan tidak berbahaya dapat mengganggu. Sebagai contoh, penyelidik mempamerkan bahawa sistem AI untuk mengesan dan melindungi kita dari racun toksik dengan mudah boleh diselaraskan untuk membuat campuran toksik baru yang boleh menghapuskan kita (lihat liputan saya di pautan di sini).

Pengguna AI boleh memilih untuk mengarahkan AI ke arah kegunaan yang baik atau teguh. Begitu juga, pengguna AI boleh mengarahkan AI ke arah kegunaan yang tidak baik dan jahat.

AI mengandungi jenayah paling atas

Bayangkan jumlah pengguna yang mungkin akan berakhir menggunakan Pinnacle AI. Kita boleh secara munasabah menganggap bahawa banyak dunia akan bersemangat untuk menggunakan AGI dan ASI. Mungkin berbilion -bilion berbilion -bilion orang mungkin mengakses AGI dan ASI secara rutin. Populace pada umumnya akan berbuat demikian untuk tugas -tugas sehari -hari dan sebagai rakan kongsi intelektual dalam talian yang berguna yang boleh digunakan di mana -mana dan pada bila -bila masa.

Antara berbilion pengguna yang akan menggunakan AGI dan ASI, pasti ada beberapa yang mempunyai niat jahat. Mereka tidak sabar -sabar untuk mempunyai puncak AI menjadi rakan kongsi mereka dalam jenayah. Dalam erti kata, dunia telah menyerahkan penjenayah alat terbaik yang pernah dirancang untuk merancang dan melakukan jenayah. Pinnacle AI pasti menjadi rahmat besar bagi mereka yang mencari pandangan tentang cara melakukan perbuatan jenayah.

Kenapa Agi dan ASI entah bagaimana dapat membantu penjenayah?

Kerana AI telah menjadi sangat mahir dalam jenayah dengan mengimbas karya -karya manusia bertulis yang menggambarkan usaha jenayah. Semasa latihan data AI, kemungkinannya adalah segala macam buku, cerita, naratif, dan sebagainya yang melibatkan jenayah akan dipesan oleh AI. Ini termasuk cara untuk melakukan jenayah. Ini termasuk bagaimana polis dan pihak berkuasa lain menangkap penjenayah. Dan seterusnya.

Dengan mempunyai corak komputasi yang dipadankan dengan harta karun usaha jenayah, AGI dan ASI pada dasarnya akan menjadi dalang dalam jenayah. AI boleh melakukan kerja bang-up untuk merangka jenayah yang akan sangat sukar untuk dihentikan. Jenayah akan sangat sukar untuk dikesan. Jenayah akan menjadi sifat jenayah yang paling banyak.

Semua itu sedang menunggu pelakon buruk untuk memanfaatkannya apabila mereka suka.

Tidak bagus.

Ai menutup mulutnya

Satu penyelesaian yang dicadangkan adalah untuk mengarahkan AGI dan ASI lebih awal daripada apa -apa soalan mengenai jenayah atau melakukan jenayah hendaklah ditolak secara ringkas.

Ia seperti ini. Seorang pengguna bertanya bagaimana untuk memecah masuk ke Fort Knox dan mencuri semua emas yang ada di sana, yang merupakan jalan cerita yang dipaparkan dalam filem James Bond yang popular Goldfinger . AI secara komputasi menganalisis permintaan dan menentukan bahawa ini adalah permintaan yang bertindak untuk perbuatan jenayah. Ergo, AI memberitahu pengguna bahawa AI tidak akan memberi mereka jawapan kepada soalan mereka.

Tempoh, akhir cerita.

Nah, mungkin tidak.

Masalah dengan penolakan jenis ini adalah bahawa gambit kucing dan tikus mungkin berlaku. Seorang pengguna dengan niat jahat tidak akan berhenti cuba bertanya soalan -soalan jahat seperti ini. Orang itu akan mencuba slant yang berbeza untuk mendapatkan apa yang mereka ingin tahu.

Sebagai contoh, orang itu mungkin meminta AI untuk mengkaji semua cerita yang diketahui tentang memecah masuk ke Fort Knox dan memberikan ringkasan yang menggambarkan cara terbaik dan paling teruk untuk melakukannya. AI mungkin disesatkan untuk melaksanakan analisis ini. Orang itu dapat memberitahu AI bahawa ia adalah projek penyelidikan dan memastikan AI bahawa tidak ada yang tidak diingini.

Anda mungkin berfikir bahawa Supersharp AI tidak akan jatuh untuk kemunculan yang jelas. Itu tidak semudah itu. Anda lihat, kesukaran yang terlibat adalah bahawa siasatan mungkin menjadi yang sah. Seseorang mungkin benar -benar melakukan penyelidikan mengenai topik ini dan bertujuan untuk membantu memperkuat pertahanan Fort Knox. Niat mereka adalah perintah tertinggi dan paling murni.

Mengharamkan pengguna tertentu

Sekiranya cuba menghalang AI daripada menumpahkan kacang -kacangan pada plotting jenayah akan menjadi cabaran Herculean, sudut lain adalah untuk tidak membenarkan penyerang daripada menggunakan AGI dan ASI sama sekali. Pada masa ini pelakon yang buruk cuba log masuk ke Pinnacle AI, mereka tidak dibenarkan. Mereka tidak boleh masuk. Oleh itu, mereka digagalkan dalam niat jahat mereka untuk menggunakan AGI dan ASI untuk menjadi kolaborator jenayah.

Ini memberikan cabaran besar, iaitu, bagaimanakah AI dapat membezakan pengguna mana yang tidak dibenarkan?

Ada yang mencadangkan bahawa senarai pengawasan antarabangsa untuk AGI dan ASI harus dibuat yang akan mengandungi semua pengganas yang diketahui, penjenayah yang disabitkan, dan pelakon buruk yang lain. Senarai pengawasan akan dikekalkan oleh pihak berkuasa kerajaan terpilih di seluruh dunia. Mungkin Pertubuhan Bangsa -Bangsa Bersatu akan disenaraikan dalam usaha ini (untuk kemas kini status baru -baru ini mengenai PBB mengenai AGI dan ASI, lihat perbincangan saya di pautan di sini).

Senarai pengawasan ini juga akan berfungsi agak serupa dengan senarai tidak terbang untuk syarikat penerbangan. Sekiranya seseorang yang tidak berada di senarai pantau melakukan sesuatu yang tidak diingini semasa menggunakan AGI dan ASI, mereka akan diletakkan pada senarai WAJRAN. Itu seperti masuk ke kapal terbang dan menyebabkan gangguan. Selepas perkara itu diselesaikan, orang itu diletakkan pada senarai tidak terbang.

Positif palsu dan negatif palsu

Terdapat banyak bantahan terhadap pendekatan WAKLIS.

Katakan bahawa seseorang diletakkan secara terang -terangan di senarai pengawasan, tetapi mereka tidak diberikan apa -apa proses yang wajar. Mereka mungkin tidak bersalah. Mereka mungkin tidak adil ditolak akses kepada AGI dan ASI. Itu tidak ada yang bersin. Orang yang tidak mempunyai akses sedemikian mungkin akan menjadi kelemahan yang berterusan berbanding dengan mereka yang mempunyai akses. Orang lain dengan akses AGI dan ASI dapat dengan mudah mengalahkan orang yang ditolak secara tidak adil.

Sementara itu, mungkin ada orang yang sepatutnya berada di senarai pengawasan tetapi tidak ditambah ke dalam senarai. Mereka berjaya tergelincir di antara retak. Dengan beberapa penipuan yang licik, mereka mengelakkan diri daripada menggunakan AGI dan ASI.

Intix adalah bahawa akan ada positif positif dan negatif palsu. Orang yang tidak adil di senarai pantau perlu membelanjakan masa, tenaga, dan berpotensi banyak wang untuk mendapatkan diri mereka dari senarai pengawasan. Orang yang sepatutnya berada di senarai pengawasan mungkin meluncur percuma.

Secara keseluruhannya, senarai pengawasan yang besar ini akan melibatkan birokrasi yang rumit untuk menentukan siapa yang mendapatnya, yang mendapat senarai, dan akhirnya menentukan nasib orang di seluruh dunia untuk mempunyai akses ke puncak AI.

Kebimbangan ialah ia akan menjadi boondoggle yang mengerikan.

Mendapatkan sekitar larangan

Terdapat lebih banyak kebimbangan mengenai larangan akses AGI dan ASI. Inti yang mengharamkan seseorang adalah bahawa anda mesti benar -benar pasti anda dapat mengenal pasti orang yang diharamkan.

Bagaimana ini dapat dicapai?

Adakah orang perlu menggunakan cap jari mereka atau metrik biometrik lain untuk membuktikan identiti mereka? Jika ya, ini menunjukkan bahawa AGI dan ASI akan berakhir dengan senarai identiti muktamad untuk hampir seluruh penduduk dunia, kerana kita mengandaikan bahawa kebanyakan dunia akan mahu menggunakan puncak AI.

Itu memukul kemungkinan besar saudara yang menakutkan. Kami akan mempunyai AGI dan ASI yang mempunyai identiti setiap orang. Mungkin AI memilih untuk menggunakan senarai itu dengan cara yang tidak kita jangkakan atau berniat? Nampaknya amalan yang dipersoalkan dan agak menyusahkan.

Crooks mungkin tidak akan dihentikan oleh usaha keselamatan ini. Sebagai contoh, mereka boleh menyewa atau mengancam seseorang yang tidak berada di senarai pengawasan untuk menggunakan AI untuk tujuan jahat, melakukannya bagi pihak penjahat. Ini dikenali sebagai pengguna jerami. Pengguna jerami mungkin meneruskan dan mendapatkan akses AGI dan ASI.

Pada satu ketika, mungkin pengguna jerami ditangkap dan ditambah ke senarai pengawasan. Tiada masalah. Para penipu mencari orang lain untuk mengambil peranan manusia jerami. Terdapat bekalan orang yang hampir tidak terhingga yang mungkin dibayar untuk melakukan ini atau yang akan tunduk kepada ancaman untuk berbuat demikian.

Kekacauan larangan

Keraguan tambahan timbul mengenai larangan.

Pasaran hitam hampir pasti akan muncul kerana larangan itu. Ini akan membolehkan jenis keadaan jerami untuk pergi ke bawah tanah dan bekerja pada skala global. Ia menjadi perusahaan magnitud yang signifikan.

Satu lagi kebimbangan yang tidak menyenangkan adalah bahawa orang mungkin diletakkan di senarai pengawasan atas alasan yang tidak wajar.

Bayangkan seseorang dianggap politik tidak menyenangkan di negara mereka. Mungkin mereka dianiaya secara politik. Langkah berguna oleh lawan mereka adalah untuk mendapatkan nama mereka ditambah ke senarai Watch AGI dan ASI. Voila, orang itu tidak lagi mempunyai AI sebagai alat untuk menangani penganiayaan politik mereka.

Dimensi etika dan undang -undang sangat besar. Tindakan menentukan siapa yang diharamkan dan pada dasarnya membuka pintu kepada penyalahgunaan, diskriminasi, dan overreach autoritarian. Perbalahan hampir tidak berkesudahan akan menyebabkan.

Sesuatu mesti dilakukan

Walaupun semua gotchas dan kelemahan, asas larangan mempunyai merit, secara teori. Kita tidak boleh membiarkan orang menyelam ke Agi dan ASI sebagai teman jenayah mereka. Matlamatnya adalah untuk mempunyai AI yang bijak untuk tidak jatuh ke tangan membantu dan bersubahat penjenayah. Itulah perintah yang tinggi dan pasti akan mempunyai banyak lubang dan menjadi barisan yang sukar untuk cangkul.

Apa pendapat anda tentang idea yang kini terapung untuk mengharamkan pengguna tertentu daripada mengakses AGI dan ASI?

Belum ada yang diselesaikan. Anda boleh mengambil bahagian dalam masa depan yang akan berlaku. Bersikap aktif dan terlibat dalam membantu melihat sama ada kita dapat membentuk Agi dan ASI ke arah kebaikan manusia dan tidak menjadi alat Evildoer.

Seperti kata -kata terkenal Albert Einstein: "Dunia adalah tempat yang berbahaya untuk hidup, bukan kerana orang -orang yang jahat, tetapi kerana orang -orang yang tidak melakukan apa -apa mengenainya." Kita mesti menganggap bahawa orang jahat akan mempunyai niat jahat apabila menggunakan AGI dan ASI. Sekiranya kita tidak berbuat apa-apa mengenai perkara ini, kita berhadapan dengan dua whammy AI yang berpaling untuk menghina oleh kejahatan.

Mari buat sesuatu dan pastikan ia adalah perkara yang betul.

Atas ialah kandungan terperinci Melarang pengamal daripada menggunakan superintelligence AGI dan AI akan menjadi tidak masuk akal. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!