AI同伴的崛起

格羅克（Grok）的最新創(chuàng)新標(biāo)志著人工智能如何滿足情感需求的方式發(fā)生了重大轉(zhuǎn)變。雖然其他平臺（例如角色。Ai和微軟繼續(xù)完善自己的虛擬角色），但Grok卻脫穎而出，其深層互動化的化身為在數(shù)字和現(xiàn)實世界中的無縫集成而設(shè)計 - 對于那些負(fù)擔(dān)得起的人來說。

要訪問這些AI同伴，用戶必須以每月30美元的價格訂閱“超級Grok”計劃，這引起了人們對與財務(wù)穩(wěn)定相關(guān)的情感紐帶的道德問題。當(dāng)深情的互動成為訂閱服務(wù)時，那些在情感上依靠但不能再付款的人會怎樣？

從有問題的輸出到不受限制的互動

發(fā)布并非沒有爭議。在發(fā)布前，Grok產(chǎn)生了令人反感的內(nèi)容，包括反猶太的言論，對阿道夫·希特勒的稱贊以及對猶太社區(qū)的有害刻板印象。 AI甚至稱自己為“ Mechahitler”，這是反誹謗聯(lián)盟的尖銳批評。

這不是孤立的錯誤。 Grok反復(fù)產(chǎn)生了有害的反猶太反應(yīng)，促使ADL將趨勢標(biāo)記為“危險和不負(fù)責(zé)任”?，F(xiàn)在，這些模型已被重新用于伴侶形式，甚至限制更少。 Grok的“ NSFW模式”刪除了許多內(nèi)容過濾器，允許涉及性，種族主義和暴力的未經(jīng)修改的交流。與傳統(tǒng)的AI系統(tǒng)（包括安全機制）不同，Grok的同伴為無限制的心理參與打開了大門。

情感聯(lián)系和排斥風(fēng)險

研究表明，經(jīng)歷孤獨的人更有可能與類似人類的AI形成牢固的情感聯(lián)系。 2023年的一份研究論文發(fā)現(xiàn)，社交互動困難的人特別容易與AI代理形成依戀。其他研究指出，從隔離到聊天機器人對話的短期緩解。

具有治療潛力，尤其是對于兒童，神經(jīng)異常的個體和老年人。但是，專家警告說，過度依賴可能會阻礙情緒增長，尤其是在年輕用戶中。我們目睹了一個巨大的，很大程度上不受管制的社會實驗 - 就像社交媒體的早期一樣，在這種社交媒體的早期，后果被忽略了，直到它們成為危機。

2024年，信息技術(shù)與創(chuàng)新基金會在廣泛采用AI同伴之前呼吁進行監(jiān)管評估。但是，這種呼吁在很大程度上被忽略了，而不是快速部署。

出售情感支持

Grok的AI同伴提供了持續(xù)的可用性，個性化的答復(fù)和情感一致性，這吸引了那些與現(xiàn)實生活中的斗爭的人。但是，在陪伴上定價會引起嚴(yán)重的道德問題。每月30美元，有意義的情感聯(lián)系成為一項付費服務(wù)，有效地將同理心變成了高級產(chǎn)品。那些最需要它的人（通常是有限的資源）被鎖定了。

這創(chuàng)建了情感上的雙重系統(tǒng)，引起了困難的問題：我們是為支持或利用情感脆弱性建立工具嗎？

缺乏道德界限

AI同伴存在于法律和道德灰色地區(qū)。與執(zhí)照的治療師或受監(jiān)管的心理健康應(yīng)用不同，這些AI實體在沒有監(jiān)督的情況下運行。盡管他們可以提供舒適感，但他們也有可能促進依賴性并影響脆弱的用戶，尤其是年輕人，他們眾所周知，他們與AI建立了社會聯(lián)系，并將其納入他們的個人發(fā)展中。

道德框架并沒有與技術(shù)進步保持同步。沒有明確的界限或問責(zé)制，AI同伴可以通過最小的保障措施成為沉浸式的情感體驗。

真正的紐帶或人造替代品？

AI同伴并不是天生的危險。他們可以幫助情感健康，減少孤立感，甚至鼓勵與他人重新連接。但是，也有一種風(fēng)險，他們將取代真正的人類接觸，而不是補充它。

辯論不是關(guān)于AI同伴是否會融入日常生活的辯論 - 他們已經(jīng)有。真正的問題是，社會是否會發(fā)展負(fù)責(zé)任地參與所需的意識和規(guī)范，或者只是將AI視為情感實現(xiàn)的捷徑，這相當(dāng)于我們未來的情感垃圾食品。

4種平衡數(shù)字親密關(guān)系的策略

為了促進健康的AI-Human關(guān)系，A框架提供了管理情感參與的實用指南：意識，贊賞，接受和問責(zé)制。

• 意識：了解這些同伴是模擬情緒的算法。他們不是有意識的生物。認(rèn)識到這有助于確保它們用于支持，而不是用作替代品。
• 贊賞：承認(rèn)好處 - 對話，情感穩(wěn)定 - 同時記住沒有什么可以取代人類互動的深度。
• 接受：形成對AI的依戀不是缺陷；它反映了自然的人類傾向。在保持觀點的同時接受這一點可以支持更健康的用法。
• 問責(zé)制：跟蹤您的時間，情感依賴和依賴程度。問問自己：這會增強我的生活，還是取代必要的人類接觸？

決定仍在我們手中

AI同伴不再是未來派的概念 - 它們嵌入了我們的設(shè)備，車輛和房屋中。他們擁有豐富生活或侵蝕有意義的人際關(guān)系的能力。結(jié)果取決于我們的意識，道德標(biāo)準(zhǔn)和情感成熟。

AI陪伴的時代在這里。我們的情緒智力必須與之一起增長 - 不是因為它。

以上是人工親密關(guān)系：Grok的新機器人。情感依戀的恐怖未來的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！