法律特權(quán)保護(hù)某些關(guān)係的機(jī)密性。患者和醫(yī)師或客戶(hù)和律師之間所說(shuō)的話，避免了傳票，法院披露和對(duì)抗性審查。將相同的保護(hù)擴(kuò)展到AI交互意味著將機(jī)器視為工具，而是將其作為特權(quán)交易所的參與者。這不僅僅是政策建議。這是法律和哲學(xué)上的轉(zhuǎn)變，沒(méi)有人完全認(rèn)為後果。

它也是在法律制度已經(jīng)進(jìn)行測(cè)試的時(shí)候。在《紐約時(shí)報(bào)》針對(duì)OpenAI的訴訟中，該文件已要求法院迫使該公司保留所有用戶(hù)提示，包括該公司說(shuō)該公司在30天后被刪除。該請(qǐng)求正在上訴。同時(shí)，阿爾特曼（Altman）關(guān)於AI聊天的建議應(yīng)該得到合法的屏蔽提出了一個(gè)問(wèn)題：如果它們像治療課程一樣受到保護(hù)，那會(huì)使系統(tǒng)在另一端聆聽(tīng)是什麼？

人們已經(jīng)像對(duì)待人口一樣對(duì)待AI。根據(jù)常識(shí)媒體，四分之一的青少年使用了AI聊天機(jī)器人，一半以上說(shuō)他們相信他們至少有所收到的建議。許多人描述了對(duì)這些系統(tǒng)的日益依賴(lài)，以處理從學(xué)校到人際關(guān)係的所有內(nèi)容。奧特曼本人稱(chēng)這種過(guò)度依賴(lài)的情感“真的很糟糕和危險(xiǎn)”。

但這不僅僅是青少年。 AI已集成到治療應(yīng)用程序，職業(yè)教練工具，人力資源系統(tǒng)甚至精神指導(dǎo)平臺(tái)中。在某些醫(yī)療保健環(huán)境中，AI被用來(lái)起草通信和解釋實(shí)驗(yàn)室數(shù)據(jù)，甚至在醫(yī)生看到它之前。這些系統(tǒng)存在於決策循環(huán)中，並且它們的存在正?；?/p>

這就是它開(kāi)始的方式。首先，保護(hù)對(duì)話。然後，保護(hù)系統(tǒng)。從有關(guān)隱私的對(duì)話開(kāi)始的開(kāi)始，迅速發(fā)展成為以權(quán)利，自治和地位為中心的框架。

我們以前已經(jīng)看到了這個(gè)遊戲。在美國(guó)法律中，公司逐漸被授予法律人格，不是因?yàn)樗麄儽灰暈槿?，而是因?yàn)樗鼈兪且恢碌姆蓪?shí)體，這些法律實(shí)體需要根據(jù)法律進(jìn)行保護(hù)和責(zé)任。隨著時(shí)間的流逝，人格成為有用的法律小說(shuō)?，F(xiàn)在，類(lèi)似的事情可能正在與AI一起展開(kāi) - 不是因?yàn)樗怯幸庾R(shí)的，而是因?yàn)樗阅７率鼙Ｗo(hù)關(guān)係的方式與人互動(dòng)。法律適應(yīng)行為，而不僅僅是生物學(xué)。

法律制度尚未準(zhǔn)備好chatgpt的建議

關(guān)於如何調(diào)節(jié)AI內(nèi)存，同意或交互日誌，尚無(wú)全局共識(shí)。歐盟的AI法案介紹了透明度的要求，但記憶權(quán)仍然不確定。在美國(guó)，州級(jí)數(shù)據(jù)法衝突，沒(méi)有聯(lián)邦政策解決與啟用內(nèi)存AI互動(dòng)的含義。 （請(qǐng)參閱我最近的福布斯文章，介紹為什麼AI法規(guī)有效地死了，以及企業(yè)需要做什麼。）

服務(wù)器的物理位置不僅是技術(shù)細(xì)節(jié)。這是一個(gè)法律觸發(fā)因素。在加利福尼亞州的服務(wù)器上存儲(chǔ)的對(duì)話遵守美國(guó)法律。如果它是通過(guò)法蘭克福路由的，則會(huì)受到GDPR的約束。當(dāng)AI系統(tǒng)保留內(nèi)存，上下文和推斷同意時(shí)，服務(wù)器位置有效地定義了互動(dòng)上的主權(quán)。這對(duì)訴訟，傳票，發(fā)現(xiàn)和隱私有影響。

技術(shù)律師John Kheit說(shuō)：“我?guī)缀跸Ｍ麄兡芾^續(xù)授予這些AI系統(tǒng)的合法人格，就好像他們是治療師或神職人員一樣?！?“因?yàn)槿绻堑脑挘屈N所有這些被動(dòng)數(shù)據(jù)收集看起來(lái)都很像是一種非法竊聽(tīng)，因此，它會(huì)在與AI互動(dòng)時(shí)賦予人類(lèi)的隱私權(quán)/保護(hù)措施。然後，它也將要求AI提供者披露“對(duì)話其他各方”，即，如果提供者是一個(gè)礦業(yè)派對(duì)，那麼礦業(yè)派對(duì)是宣傳數(shù)據(jù)的，如果是廣告商的私人私人對(duì)話?！?/p>

基礎(chǔ)設(shè)施選擇現(xiàn)在是地緣政治。他們確定AI系統(tǒng)在壓力下的行為以及用戶(hù)出現(xiàn)問(wèn)題時(shí)的追索權(quán)。

然而，在所有這些之下，這是一個(gè)更深的動(dòng)機(jī)：貨幣化。

奧特曼（Altman）對(duì)AI特權(quán)的評(píng)論聽(tīng)起來(lái)可能是保護(hù)性的，但實(shí)際效果是不透明的。圍繞AI交互的法律盾牌使Openai和其他人能夠構(gòu)建專(zhuān)有的黑盒行為數(shù)據(jù)庫(kù)，這些數(shù)據(jù)庫(kù)是無(wú)法檢查，審核或有爭(zhēng)議的數(shù)據(jù)。用戶(hù)將無(wú)法檢索他們的數(shù)據(jù)。他們只能查詢(xún)系統(tǒng)並獲取輸出。

但是他們不會(huì)是唯一提出問(wèn)題的人。

每次對(duì)話都成為四方交流：用戶(hù)，模型，平臺(tái)的內(nèi)部?jī)?yōu)化引擎以及廣告商為訪問(wèn)付費(fèi)。對(duì)於匹茲堡鋼人隊(duì)的提示來(lái)說(shuō)，這是完全合理的。不是因?yàn)樗苤匾?，而是因?yàn)樗怯欣蓤D的。

最近的研究表明，當(dāng)用戶(hù)嵌入AI生成的內(nèi)容中時(shí)，用戶(hù)在檢測(cè)未標(biāo)記的廣告方面會(huì)明顯更糟。更糟糕的是，這些廣告最初被評(píng)為更值得信賴(lài)，直到用戶(hù)發(fā)現(xiàn)它們實(shí)際上是廣告。那時(shí)，它們也被評(píng)為更具操縱性。

“在體驗(yàn)式營(yíng)銷(xiāo)中，信任就是一切?！?Soho體驗(yàn)的創(chuàng)始人Jeff Boedges說(shuō)。 “您不能偽造關(guān)係，也不能沒(méi)有後果就可以利用它。如果AI系統(tǒng)會(huì)記住我們，向我們推薦事情，甚至影響我們，我們最好確切地知道他們記得的內(nèi)容和原因。否則，這不是個(gè)性化。這是操縱?！爆F(xiàn)在考慮廣告商訪問(wèn)心理模型時(shí)會(huì)發(fā)生什麼：“哪些用戶(hù)在情感上最容易受到此類(lèi)信息的影響？”成為可行的，可查詢(xún)的提示。

AI系統(tǒng)不需要交出電子表格才能有價(jià)值。通過(guò)從人類(lèi)反饋（RLHF）中進(jìn)行檢索型發(fā)電（RAG）和增強(qiáng)措施學(xué)習(xí)，該模型可以根據(jù)先前的情感，ClickStream數(shù)據(jù)和微調(diào)廣告商的目標(biāo)實(shí)時(shí)塑造語(yǔ)言。這不是假設(shè)的 - 這就是現(xiàn)代ADTECH已經(jīng)工作的方式。

那時(shí)，聊天機(jī)器人不是聊天機(jī)器人。這是影響力的模擬環(huán)境。它經(jīng)過(guò)培訓(xùn)以建立信任，然後旨在通過(guò)它獲利。您的行為模式成為產(chǎn)品。您的情感反應(yīng)成為優(yōu)化的目標(biāo)。

業(yè)務(wù)模型很清楚：黑盒的行為洞察力，通過(guò)有用的設(shè)計(jì)，隱藏在監(jiān)督的情況下，幾乎無(wú)法檢測(cè)到。

這不是授予AI權(quán)利的呼籲。這是關(guān)於當(dāng)我們對(duì)待像人一樣對(duì)待系統(tǒng)的情況，而沒(méi)有成為一個(gè)人的問(wèn)責(zé)制時(shí)會(huì)發(fā)生什麼。

我們正在進(jìn)入一個(gè)階段，其中將授予機(jī)器而沒(méi)有人格的保護(hù)，並且沒(méi)有責(zé)任。如果用戶(hù)在具有法律特權(quán)的AI會(huì)話中承認(rèn)犯罪，是否被迫舉報(bào)或保持沉默？誰(shuí)做出決定？

這些不是邊緣案例。他們快到了。他們正在大規(guī)模上映。

為什麼Chatgpt必須保持模型，以及為什麼人類(lèi)必須重新獲得同意

隨著生成的AI系統(tǒng)發(fā)展成為日常生活中的自適應(yīng)參與者，重新確定邊界比以往任何時(shí)候都變得更加重要：模型必須保持模型。他們不能悄悄地假設(shè)一個(gè)人的法律，道德或主權(quán)地位。人類(lèi)生成訓(xùn)練這些系統(tǒng)的數(shù)據(jù)必須保留對(duì)其貢獻(xiàn)的明確權(quán)利。

我們需要的是一種標(biāo)準(zhǔn)化的，可強(qiáng)制執(zhí)行的數(shù)據(jù)合同系統(tǒng)，該系統(tǒng)允許個(gè)人在使用窗口中有限，相互同意的使用窗口，自願(yuàn)地，透明地和自願(yuàn)貢獻(xiàn)數(shù)據(jù)。該合同必須在範(fàn)圍，持續(xù)時(shí)間，價(jià)值交換和終止上清楚。即使在積極使用期間，它也必須將數(shù)據(jù)所有權(quán)視為不變的。

這意味著：

• 即使臨時(shí)獲得AI培訓(xùn)的許可，個(gè)人也總是擁有自己的數(shù)據(jù)。
• 同意必須是明確的，可撤銷(xiāo)和跟蹤的。
• 所有數(shù)據(jù)訪問(wèn)都必須用不變的出處記錄，並以高融合性分類(lèi)帳獲得。

當(dāng)合同結(jié)束或公司違反其條款時(shí)，必鬚根據(jù)法律，從模型，培訓(xùn)集和任何衍生產(chǎn)品中刪除個(gè)人數(shù)據(jù)。 “被遺忘的權(quán)利”必須意味著它說(shuō)的話。

但是要可信，該系統(tǒng)必須兩種工作：

• 數(shù)據(jù)貢獻(xiàn)者無(wú)法接受價(jià)值（付款，服務(wù)，訪問(wèn)），然後再撤銷(xiāo)權(quán)利。
• 模型所有者必須在合同期內(nèi)擁有臨時(shí)權(quán)利，並受相同的法律基礎(chǔ)設(shè)施保護(hù)。

這不只是道德。這是關(guān)於可強(qiáng)制執(zhí)行的，相互責(zé)任的。

用戶(hù)體驗(yàn)必須是無(wú)縫且可擴(kuò)展的。法律後端必須安全。結(jié)果應(yīng)該是一種新的經(jīng)濟(jì)緊湊型 - 人類(lèi)知道何時(shí)參加AI開(kāi)發(fā)，並保留模型。

Chatgpt正在改變風(fēng)險(xiǎn)表面。這是回應(yīng)的方法。

作為準(zhǔn)參與者（而不僅僅是工具），向AI系統(tǒng)轉(zhuǎn)變將重塑法律曝光，數(shù)據(jù)治理，產(chǎn)品責(zé)任和客戶(hù)信任。無(wú)論您是構(gòu)建AI，將其集成到工作流程中，還是使用它與客戶(hù)交互，您應(yīng)該立即做五件事：

1. 重新評(píng)估您的AI免責(zé)聲明和同意流動(dòng)。
   如果您的產(chǎn)品涉及AI生成的互動(dòng)，尤其是在金融，醫(yī)療保健，人力資源或心理健康方面，您需要圍繞數(shù)據(jù)使用，記憶和法律界限的清晰語(yǔ)言。假設(shè)用戶(hù)認(rèn)為您正在與“真實(shí)”交談。
2. 壓力測(cè)試您的數(shù)據(jù)保留和管轄權(quán)暴露。
   您的AI模型在哪里托管？交互數(shù)據(jù)存儲(chǔ)在哪裡？誰(shuí)擁有它？這些不是疑問(wèn)，他們是法律觸發(fā)器。您可能會(huì)遵守您僅通過(guò)通過(guò)錯(cuò)誤的雲(yún)區(qū)域進(jìn)行推理而沒(méi)有考慮的法律。
3. 為AI影響建立內(nèi)部審查協(xié)議。
   如果您的AI平臺(tái)推薦產(chǎn)品，指導(dǎo)決策或創(chuàng)建情感共鳴的產(chǎn)出，則您組織中的某人應(yīng)審查這些系統(tǒng)的意外偏見(jiàn)，脆弱性開(kāi)發(fā)或嵌入式說(shuō)服力機(jī)制。
4. 要求您的供應(yīng)商透明度。
   如果您要從OpenAI，人類(lèi)，元或任何第三方獲得許可AI服務(wù)，請(qǐng)直接詢(xún)問(wèn)：您的數(shù)據(jù)如何存儲(chǔ)？誰(shuí)可以查詢(xún)它？如果有傳票，洩漏或政府要求，該政策是什麼？如果他們無(wú)法回答，那就是您的答案。
5. 為責(zé)任做準(zhǔn)備，而不僅僅是創(chuàng)新。
   如果您的AI輸出塑造某人的財(cái)務(wù)，法律或醫(yī)療結(jié)果，那麼您就不會(huì)因?yàn)檎f(shuō)“模型做到了”而受到掩蓋。隨著法院趕上這些系統(tǒng)的影響，問(wèn)責(zé)制將取決於部署它們的公司，而不僅僅是訓(xùn)練它們的公司。

Chatgpt可能會(huì)獲得特權(quán)。您應(yīng)該獲得被遺忘的權(quán)利。

這一刻不僅僅是AI可以做什麼。這是關(guān)於您的業(yè)務(wù)讓它做的事情，它記得什麼以及誰(shuí)可以訪問(wèn)該記憶。忽略這一點(diǎn)，您不僅冒著侵犯隱私的風(fēng)險(xiǎn)，還冒著長(zhǎng)期的品牌信任和監(jiān)管反擊的風(fēng)險(xiǎn)。

至少，我們需要一個(gè)法律框架來(lái)定義AI記憶的管理方式。不是作為牧師，不是作為醫(yī)生，也不是作為伴侶，而是作為證人?？梢栽谏舷挛囊笾膺M(jìn)行信息的內(nèi)容，並在訪問(wèn)，刪除和使用方面進(jìn)行清晰的邊界進(jìn)行檢查。

公眾對(duì)話仍然專(zhuān)注於隱私。但是基本的轉(zhuǎn)變是關(guān)於控制的。而且，除非法律和監(jiān)管框架迅速發(fā)展，否則將不是由政策或用戶(hù)來(lái)確定參與條款，而是由擁有框的人設(shè)定。

這就是為什麼在AI時(shí)代，被遺忘的權(quán)利可能會(huì)成為我們擁有的最有價(jià)值的人權(quán)。

不僅是因?yàn)槟臄?shù)據(jù)可以對(duì)您不利，而且因?yàn)槟纳矸荼旧憩F(xiàn)在可以以持續(xù)無(wú)法控制的方式捕獲，建模和貨幣化。當(dāng)會(huì)議結(jié)束時(shí)，您的模式，偏好，情感觸發(fā)器和心理指紋不會(huì)消失。他們生活在一個(gè)永遠(yuǎn)不會(huì)忘記，永不入睡並且永不停止優(yōu)化的系統(tǒng)中。

沒(méi)有撤銷(xiāo)數(shù)據(jù)訪問(wèn)的能力，您不僅會(huì)失去隱私。你失去槓桿作用。您將失去選擇退出預(yù)測(cè)的能力。您無(wú)法控制自己的記憶，代表和復(fù)制。

被遺忘的權(quán)利不是隱藏的。這是關(guān)於主權(quán)的。在一個(gè)像Chatgpt這樣的AI系統(tǒng)將越來(lái)越多地塑造我們的選擇，我們的身份和成果的世界中，走開(kāi)的能力可能是仍然屬於您的最後一種自由形式。

以上是Openai：Chatgpt需要合法權(quán)利。您需要忘記的權(quán)利。的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！