關(guān)于實(shí)施這種禁令的現(xiàn)實(shí)可行性，出現(xiàn)了一個(gè)值得注意的問題。

讓我們談?wù)劇?/p>

對(duì)創(chuàng)新AI突破的分析是我正在進(jìn)行的AI中正在進(jìn)行的福布斯列覆蓋的一部分，包括識(shí)別和解釋各種有影響力的AI復(fù)雜性（請(qǐng)參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個(gè)重大的討論奠定基礎(chǔ)。

正在進(jìn)行大量研究以進(jìn)一步提高AI。一般目標(biāo)是達(dá)到人工通用智能（AGI），甚至可能達(dá)到人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提并論，并且似乎可以符合我們的智慧。 ASI是AI，它已經(jīng)超越了人類的智力，并且在許多（如果不是全部）的可行方式中將是優(yōu)越的。這個(gè)想法是，ASI能夠在各個(gè)轉(zhuǎn)彎處超越我們來圍繞人圈。有關(guān)傳統(tǒng)AI與AGI和ASI的性質(zhì)的更多詳細(xì)信息，請(qǐng)參閱此處的鏈接分析。

我們尚未獲得Agi。

實(shí)際上，尚不清楚我們是否將達(dá)到AGI，或者AGI從現(xiàn)在起幾十年甚至幾個(gè)世紀(jì)都可以實(shí)現(xiàn)。漂浮在周圍的agi達(dá)到的日期是由于任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，并且沒有證實(shí)。當(dāng)涉及到我們目前使用常規(guī)AI的位置時(shí)，ASI更加蒼白。

AGI和ASI的使用

我之前曾討論過AGI和ASI無疑將如何使人類創(chuàng)造新的發(fā)明，從而為人類帶來驚人的利益；請(qǐng)參閱此處的鏈接。通過利用在AI中充滿的知識(shí)分子，可以讓AI設(shè)計(jì)新型的機(jī)器，化學(xué)藥品，設(shè)備等。

快樂的臉。

但這不是免費(fèi)的午餐。

不利的一面是，人工智能可以產(chǎn)生新的能力，從而危及人類。 AI被認(rèn)為是一種雙重用途的創(chuàng)新形式。 AI可用于提升目的，但也可以用于邪惡的目的。即使是似乎無害的事情也可能令人不安。例如，研究人員表明，可以輕松調(diào)整用于檢測(cè)和保護(hù)我們免受有毒毒藥的AI系統(tǒng)，以制作可消滅我們的新有毒混合物（請(qǐng)參閱此處的鏈接上的覆蓋范圍）。

AI的用戶可以選擇指示AI朝著良好或直立的用途。同樣，AI的用戶可以將AI引導(dǎo)到不愉快和惡毒的用途。

人工智能包含最高的犯罪性

想象一下可能最終使用Pinnacle AI的用戶數(shù)量。我們可以合理地假設(shè)世界上大部分地區(qū)都會(huì)渴望使用AGI和ASI。大概數(shù)十億人可能會(huì)經(jīng)常訪問AGI和ASI?？傮w而言，Populace將為日常任務(wù)，并且是一個(gè)方便的在線知識(shí)伙伴，隨時(shí)隨地可用。

在將使用AGI和ASI的數(shù)十億用戶中，肯定會(huì)有一些具有邪惡意圖的用戶。他們渴望讓Pinnacle AI成為他們的犯罪伙伴。從某種意義上說，世界已將犯罪分子遞給有史以來設(shè)計(jì)和犯罪的最佳工具。 Pinnacle AI注定是那些尋求有關(guān)如何承擔(dān)犯罪行為的見解的人的巨大福音。

為什么Agi和ASI能夠以某種方式幫助罪犯？

因?yàn)锳I通過掃描了描述犯罪努力的人類書面作品而變得高度精通犯罪。在對(duì)AI的數(shù)據(jù)培訓(xùn)期間，幾乎是所有涉及犯罪的書籍，故事，敘述等的可能性將由AI構(gòu)圖。這些包括犯罪的方法。其中包括警察和其他當(dāng)局如何抓捕罪犯。上下。

通過在犯罪努力的寶庫(kù)中進(jìn)行計(jì)算模式匹配，AGI和ASI將實(shí)質(zhì)上是犯罪的策劃者。人工智能可以做一些很難停止的犯罪的工作。這些犯罪將非常困難。這些罪行將是最大的犯罪性質(zhì)。

所有這些都在等待不良演員隨時(shí)隨地加入。

不好。

AI保持嘴巴閉嘴

一個(gè)建議的解決方案是提前指導(dǎo)AGI和ASI，即有關(guān)犯罪或犯罪犯罪的任何疑問。

它是這樣的。用戶詢問如何闖入諾克斯堡并偷走那里的所有黃金，這是一個(gè)故事情節(jié)，在流行的詹姆斯·邦德電影金指手中出現(xiàn)。 AI計(jì)算分析了請(qǐng)求，并確定這是一個(gè)為犯罪行為的要求。 ERGO，AI告訴用戶AI不會(huì)給他們答案。

時(shí)期，故事結(jié)束。

好吧，也許不是。

這種類型的拒絕問題在于可能會(huì)發(fā)生貓和鼠標(biāo)。具有邪惡意圖的用戶不會(huì)只是放棄試圖提出這些險(xiǎn)惡的問題。該人將嘗試不同的傾斜來獲取他們想知道的知識(shí)。

例如，該人可能會(huì)要求AI研究有關(guān)闖入諾克斯堡的所有已知故事，并提供一個(gè)摘要，描繪了這樣做的最佳和最糟糕的方法。 AI可能會(huì)被誤導(dǎo)到執(zhí)行這種有見地的分析中。該人可以告訴人工智能這是一個(gè)研究項(xiàng)目，并確保AI沒有任何不好的人。

您可能會(huì)認(rèn)為Supersharp AI不會(huì)因?yàn)檫@么明顯的詭計(jì)而失敗。這并不像看起來那么簡(jiǎn)單。您會(huì)發(fā)現(xiàn)，涉及的困難是調(diào)查確實(shí)可能是合法的。一個(gè)人可能真正地研究了這個(gè)主題，并旨在幫助加強(qiáng)諾克斯堡的防御能力。他們的意圖是最高和最純粹的秩序。

禁止特定用戶

如果試圖防止AI在犯罪情節(jié)上灑豆子將是一個(gè)艱巨的挑戰(zhàn)，那么另一個(gè)角度是禁止evildoers完全使用AGI和ASI。一位壞演員試圖登錄峰頂AI的那一刻，他們立即被禁止。他們無法進(jìn)入。因此，他們?cè)谛皭旱囊鈭D中挫敗了使用AGI和ASI作為犯罪合作者的卑鄙意圖。

這提出了一個(gè)巨大的挑戰(zhàn)，即，AI如何能夠識(shí)別哪些用戶被禁止？

一些人建議，應(yīng)制定一個(gè)國(guó)際AGI和ASI的觀察名單，其中包含所有已知恐怖分子，定罪的罪犯和其他壞演員。該監(jiān)視清單將由全球選定的政府當(dāng)局維護(hù)。也許聯(lián)合國(guó)將參與這項(xiàng)努力（有關(guān)聯(lián)合國(guó)有關(guān)AGI和ASI的最新狀態(tài)更新，請(qǐng)參見我在此處的鏈接上的討論）。

該監(jiān)視列表也將在某種程度上與航空公司的無飛行列表相似。如果不在監(jiān)視列表中的人在使用AGI和ASI時(shí)會(huì)做些不幸的事情，那么他們就會(huì)將其放在監(jiān)視列表上。這就像上飛機(jī)并造成干擾。事件結(jié)束后，該人將被置于無燈泡列表上。

誤報(bào)和假否定性

對(duì)監(jiān)視列表方法有許多異議。

假設(shè)一個(gè)人公開放置在監(jiān)視列表上，但沒有給予任何適當(dāng)程序的外觀。他們可能是無辜的。他們也許是不公平地被拒絕獲得AGI和ASI的。沒什么可打噴嚏的。與確實(shí)可以訪問的人相比，沒有這種訪問權(quán)的人可能會(huì)處于持續(xù)的劣勢(shì)。其他具有AGI和ASI訪問權(quán)限的人很容易超越不公平地拒絕訪問的人。

同時(shí)，可能還會(huì)有人在監(jiān)視列表中，但沒有添加到列表中。他們?cè)O(shè)法在裂縫之間滑動(dòng)。在一些偷偷摸摸的惡作劇中，他們避免不允許使用AGI和ASI。

關(guān)鍵是會(huì)有大量的誤報(bào)和假否定的。不公平的監(jiān)視列表的人將需要花費(fèi)時(shí)間，精力和潛在的大量資金才能使自己擺脫監(jiān)視列表。應(yīng)該在監(jiān)視清單上的人可能會(huì)自由滑冰。

總而言之，這個(gè)可能的巨大監(jiān)視列表將需要一個(gè)笨拙的官僚機(jī)構(gòu)來決定誰參加比賽，誰脫穎而出，并最終確定全球人的命運(yùn)，以便可以使用Pinnacle AI。

擔(dān)心這將是一個(gè)殘酷的笨蛋。

無論如何都要解決禁令

關(guān)于AGI和ASI訪問禁令還有更多擔(dān)憂。禁止某人的癥結(jié)在于，您必須絕對(duì)確定您可以識(shí)別被禁止的人。

這將如何實(shí)現(xiàn)？

人們是否需要使用指紋或其他一些生物識(shí)別指標(biāo)來證明其身份？如果是這樣，這意味著AGI和ASI將最終獲得幾乎全世界人口的確定性身份清單，因?yàn)槲覀兗僭O(shè)全球大多數(shù)地區(qū)都希望使用Pinnacle AI。

那種令人恐懼的大哥的可能性。我們將擁有具有每個(gè)人身份的AGI和ASI。 AI是否可以選擇以我們不預(yù)料或打算的方式使用該列表？這似乎是可疑的練習(xí)，而且很麻煩。

這些安全工作不可能阻止騙子。例如，他們可能會(huì)雇用或威脅不在監(jiān)視清單上的某人為邪惡目的使用AI，代表騙子這樣做。這被稱為稻草用戶。稻草用戶可能會(huì)繼續(xù)并獲得AGI和ASI訪問。

在某個(gè)時(shí)候，也許稻草用戶被抓住并添加到監(jiān)視列表中。沒問題。 evildoers找到其他人扮演稻草人的角色。幾乎有無限的人供應(yīng)可能會(huì)得到回報(bào)，或者屈服于威脅。

禁令的混亂

關(guān)于禁令的其他疑問。

由于禁令，黑市幾乎肯定會(huì)出現(xiàn)。這將使稻草人環(huán)境的類型能夠進(jìn)入地下并在全球范圍內(nèi)工作。它變成了巨大的企業(yè)。

另一個(gè)不祥的關(guān)注點(diǎn)是，由于不當(dāng)原因，人們可能會(huì)被列入監(jiān)視列表。

想象一下，在他們的國(guó)家，某人在政治上被認(rèn)為是不可能的。也許他們?cè)谡紊鲜艿狡群?。他們的?duì)手的一個(gè)方便動(dòng)作是將他們的名字添加到AGI和ASI Access監(jiān)視列表中。瞧，該人不再有AI作為應(yīng)對(duì)其政治迫害的工具。

道德和法律方面是巨大的。確定誰被禁止的行為，以及在什么基礎(chǔ)上打開虐待，歧視和專制的過度行動(dòng)。幾乎無盡的爭(zhēng)吵將導(dǎo)致。

必須做一些事情

盡管有所有的陷阱和缺點(diǎn)，但理論上，禁令的基礎(chǔ)具有優(yōu)點(diǎn)。我們不能只是讓人們潛入AGI和ASI作為其犯罪伴侶。目的是讓人工智能敏捷，不要落入?yún)f(xié)助和教ta的罪犯的手中。那是一個(gè)艱巨的任務(wù)，無疑會(huì)有很多洞，并且是一個(gè)艱難的霍伊。

您如何看待現(xiàn)在禁止某些用戶訪問AGI和ASI的想法？

還沒有解決。您可以參與未來的實(shí)現(xiàn)。保持活躍，并參與幫助我們是否可以塑造AGI和ASI，以改善人類，而不是Evildoer的工具。

按照阿爾伯特·愛因斯坦（Albert Einstein）的著名話語：“世界是一個(gè)危險(xiǎn)的生活場(chǎng)所；不是因?yàn)樾皭旱娜?，而是因?yàn)槟切?duì)此不做任何事情的人。”我們必須假設(shè)邪惡的人在使用AGI和ASI時(shí)會(huì)有邪惡的意圖。如果我們對(duì)此一無所知，我們將面臨著AI的雙重打擊，狂熱地轉(zhuǎn)向了evildoers。

讓我們做點(diǎn)什么，確保這是正確的事情。

以上是禁止使用AGI和AI超智能將是難以置信的的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！