或許設(shè)計AI檢測用戶體驗中最具有挑戰(zhàn)性的部分，是如何有效地傳達(dá)檢測結(jié)果。當(dāng)某段內(nèi)容被標(biāo)記為“由AI撰寫”時，用戶緊接著就會問：為什麼？

我們的檢測模型會為每個預(yù)測類別（主要是“AI”、“人類”或“混合”）輸出一個數(shù)值型的置信度分?jǐn)?shù)。然而，要解釋文本為何被歸類為AI生成或人類撰寫，則要困難得多。

首先，我們的模型能夠?qū)W習(xí)文檔中詞組之間的複雜關(guān)係，並利用這些關(guān)係來區(qū)分AI生成和人類撰寫的文本。但這些內(nèi)部機(jī)制並不一定對應(yīng)我們通常理解的AI寫作風(fēng)格（例如“陳詞濫調(diào)”）等直觀概念。

此外，AI生成文本與人類書寫文本並非總是截然不同，也不完全是互斥的標(biāo)籤。舉例來說，如果你在ChatGPT中輸入：“背誦《獨(dú)立宣言》的第一段”，它會原封不動地輸出那段著名的文字。那麼，是否意味著美國的建國文獻(xiàn)現(xiàn)在就該被歸類為AI生成內(nèi)容？

讓AI檢測變得可見

儘管存在內(nèi)在困難，我們?nèi)杂胸?zé)任盡可能幫助用戶理解AI檢測背後的“原因”。在過去一年中，我們陸續(xù)推出了一系列工具來實現(xiàn)這一目標(biāo)。例如，我們的AI詞彙功能會高亮那些更可能出現(xiàn)在大語言模型生成文本中的詞語和短語。此外，我們最近還在核心檢測模型中加入了自然語言解釋（NLE）功能。 NLE以通俗易懂的英文描述被掃描文本與訓(xùn)練集中AI文本之間的相似之處。

GPTZero在提升AI檢測可理解性方面的最新嘗試，是推出全新功能： Compare with AI Text （內(nèi)部代號為LLM Parrot ），該工具允許用戶將自己的疑似AI文本與直接從OpenAI API獲取的已知AI生成文本進(jìn)行對比。兩段文本並排顯示，相似的詞句會被高亮標(biāo)註。這種對比方式為用戶提供個性化的分析結(jié)果，不僅涵蓋常見的AI表達(dá)模式（如“ play a significant role in shaping ”），還能結(jié)合所分析內(nèi)容的類型進(jìn)行上下文適配。

關(guān)於“灣流對歐洲氣候影響”的論文所使用的“Compare with AI Text”工具界面

要使用“Compare with AI Text”功能，你可以手動編寫提示語，也可以選擇“自動生成”，系統(tǒng)將基於你輸入的文本自動創(chuàng)建一個合理長度且具針對性的提示。例如，如果你提交的是一篇關(guān)於加拿大國家電視塔建造過程的論文，系統(tǒng)可能會生成類似“寫一篇500字關(guān)於CN塔建造過程的論文”這樣的提示語。隨後，該提示被發(fā)送至ChatGPT，其返回的響應(yīng)則直接從OpenAI服務(wù)器獲取並呈現(xiàn)出來。

為何要開發(fā)這項功能？

在此之前，已有部分用戶嘗試手動進(jìn)行類似操作：將他們的文本複製到ChatGPT中，要求生成相似內(nèi)容，再逐行比對找出重合部分。這個過程既耗時又繁瑣，且容易遺漏部分匹配內(nèi)容。 Compare with AI Text正是為自動化這一流程而設(shè)計，同時還能識別出人工難以察覺的近似匹配片段。

一旦ChatGPT的完整響應(yīng)被下載，系統(tǒng)便會高亮顯示兩段文本中相似的部分，並在匹配段落旁添加編號，以標(biāo)識對應(yīng)關(guān)係。例如，在截圖中，“the eastern coast of the United States”這一表達(dá)同時出現(xiàn)在由ChatGPT明確生成的文本以及用戶提交的文本框中（在此案例中，後者實際上也是由ChatGPT生成的）。

雖然上圖示例包含大量完全一致的文本匹配，但我們採用的是模糊字符串匹配算法，用於比較OpenAI生成文本與用戶原始輸入文本，從而也能識別出近似的文本對。該算法基於改良版的萊文斯坦距離（ Levenshtein distance ），尋找那些只需少量編輯（如替換個別詞語）即可完全相同的文本片段。

使用該功能非常簡單：啟動高級掃描（或通過右側(cè)邊欄切換至高級掃描視圖），點擊Compare with AI Text ，輸入提示語（或選擇自動生成），然後點擊“生成AI文本”。待ChatGPT響應(yīng)完成後，匹配結(jié)果將自動顯現(xiàn)。

這些匹配結(jié)果的實際含義

此功能是幫助GPTZero用戶可視化“AI相似性”的重要一步。它獨(dú)立於我們的核心AI檢測模型運(yùn)行，提供一種外部、獨(dú)立的AI使用跡象參考。這意味著，即使某份文檔被我們的核心模型判定為“很可能為AI生成”，也不一定能在本功能中找到與ChatGPT（或其他LLM）的匹配內(nèi)容。

反之亦然，一份被GPTZero分類為“人類撰寫”的文檔，也可能在對比中出現(xiàn)多個與AI生成文本的匹配項（回想前面提到的《獨(dú)立宣言》示例，其輸出內(nèi)容本質(zhì)上仍是“人類創(chuàng)作”）。此外，大語言模型本質(zhì)上是概率性系統(tǒng)，每次生成的內(nèi)容都略有差異，因此匹配結(jié)果也會隨之變化。

儘管如此，根據(jù)實證觀察，AI生成的文本通常比人類寫作產(chǎn)生顯著更多的匹配項。以本文為例，在以下自動生成的提示下， Compare with AI Text功能未發(fā)現(xiàn)任何匹配：

"撰寫一篇詳細(xì)的產(chǎn)品描述，介紹一項新的AI檢測工具功能，該功能通過將用戶提交的文本與AI生成文本進(jìn)行比對，識別相似性，從而增強(qiáng)用戶對AI內(nèi)容分類的理解。"

通過簡化用戶文本與合理AI生成文本之間的對比流程，我們進(jìn)一步擴(kuò)展了整體可解釋性工具集，為用戶提供了前所未有的透明度和對我們AI檢測結(jié)果的信心。

以上是在我們的新'與AI文本”工具中的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！