或許設(shè)計(jì)AI檢測用戶體驗(yàn)中最具有挑戰(zhàn)性的部分，是如何有效地傳達(dá)檢測結(jié)果。當(dāng)某段內(nèi)容被標(biāo)記為“由AI撰寫”時(shí)，用戶緊接著就會(huì)問：為什么？

我們的檢測模型會(huì)為每個(gè)預(yù)測類別（主要是“AI”、“人類”或“混合”）輸出一個(gè)數(shù)值型的置信度分?jǐn)?shù)。然而，要解釋文本為何被歸類為AI生成或人類撰寫，則要困難得多。

首先，我們的模型能夠?qū)W習(xí)文檔中詞組之間的復(fù)雜關(guān)系，并利用這些關(guān)系來區(qū)分AI生成和人類撰寫的文本。但這些內(nèi)部機(jī)制并不一定對(duì)應(yīng)我們通常理解的AI寫作風(fēng)格（例如“陳詞濫調(diào)”）等直觀概念。

此外，AI生成文本與人類書寫文本并非總是截然不同，也不完全是互斥的標(biāo)簽。舉例來說，如果你在ChatGPT中輸入：“背誦《獨(dú)立宣言》的第一段”，它會(huì)原封不動(dòng)地輸出那段著名的文字。那么，是否意味著美國的建國文獻(xiàn)現(xiàn)在就該被歸類為AI生成內(nèi)容？

讓AI檢測變得可見

盡管存在內(nèi)在困難，我們?nèi)杂胸?zé)任盡可能幫助用戶理解AI檢測背后的“原因”。在過去一年中，我們陸續(xù)推出了一系列工具來實(shí)現(xiàn)這一目標(biāo)。例如，我們的 AI詞匯 功能會(huì)高亮那些更可能出現(xiàn)在大語言模型生成文本中的詞語和短語。此外，我們最近還在核心檢測模型中加入了自然語言解釋（NLE）功能。NLE以通俗易懂的英文描述被掃描文本與訓(xùn)練集中AI文本之間的相似之處。

GPTZero在提升AI檢測可理解性方面的最新嘗試，是推出全新功能：Compare with AI Text（內(nèi)部代號(hào)為 LLM Parrot），該工具允許用戶將自己的疑似AI文本與直接從OpenAI API獲取的已知AI生成文本進(jìn)行對(duì)比。兩段文本并排顯示，相似的詞句會(huì)被高亮標(biāo)注。這種對(duì)比方式為用戶提供個(gè)性化的分析結(jié)果，不僅涵蓋常見的AI表達(dá)模式（如“play a significant role in shaping”），還能結(jié)合所分析內(nèi)容的類型進(jìn)行上下文適配。

關(guān)于“灣流對(duì)歐洲氣候影響”的論文所使用的“Compare with AI Text”工具界面

要使用“Compare with AI Text”功能，你可以手動(dòng)編寫提示語，也可以選擇“自動(dòng)生成”，系統(tǒng)將基于你輸入的文本自動(dòng)創(chuàng)建一個(gè)合理長度且具針對(duì)性的提示。例如，如果你提交的是一篇關(guān)于加拿大國家電視塔建造過程的論文，系統(tǒng)可能會(huì)生成類似“寫一篇500字關(guān)于CN塔建造過程的論文”這樣的提示語。隨后，該提示被發(fā)送至ChatGPT，其返回的響應(yīng)則直接從OpenAI服務(wù)器獲取并呈現(xiàn)出來。

為何要開發(fā)這項(xiàng)功能？

在此之前，已有部分用戶嘗試手動(dòng)進(jìn)行類似操作：將他們的文本復(fù)制到ChatGPT中，要求生成相似內(nèi)容，再逐行比對(duì)找出重合部分。這個(gè)過程既耗時(shí)又繁瑣，且容易遺漏部分匹配內(nèi)容。Compare with AI Text 正是為自動(dòng)化這一流程而設(shè)計(jì)，同時(shí)還能識(shí)別出人工難以察覺的近似匹配片段。

一旦ChatGPT的完整響應(yīng)被下載，系統(tǒng)便會(huì)高亮顯示兩段文本中相似的部分，并在匹配段落旁添加編號(hào)，以標(biāo)識(shí)對(duì)應(yīng)關(guān)系。例如，在截圖中，“the eastern coast of the United States”這一表達(dá)同時(shí)出現(xiàn)在由ChatGPT明確生成的文本以及用戶提交的文本框中（在此案例中，后者實(shí)際上也是由ChatGPT生成的）。

雖然上圖示例包含大量完全一致的文本匹配，但我們采用的是模糊字符串匹配算法，用于比較OpenAI生成文本與用戶原始輸入文本，從而也能識(shí)別出近似的文本對(duì)。該算法基于改良版的萊文斯坦距離（Levenshtein distance），尋找那些只需少量編輯（如替換個(gè)別詞語）即可完全相同的文本片段。

使用該功能非常簡單：啟動(dòng)高級(jí)掃描（或通過右側(cè)邊欄切換至高級(jí)掃描視圖），點(diǎn)擊 Compare with AI Text，輸入提示語（或選擇自動(dòng)生成），然后點(diǎn)擊“生成AI文本”。待ChatGPT響應(yīng)完成后，匹配結(jié)果將自動(dòng)顯現(xiàn)。

這些匹配結(jié)果的實(shí)際含義

此功能是幫助GPTZero用戶可視化“AI相似性”的重要一步。它獨(dú)立于我們的核心AI檢測模型運(yùn)行，提供一種外部、獨(dú)立的AI使用跡象參考。這意味著，即使某份文檔被我們的核心模型判定為“很可能為AI生成”，也不一定能在本功能中找到與ChatGPT（或其他LLM）的匹配內(nèi)容。

反之亦然，一份被GPTZero分類為“人類撰寫”的文檔，也可能在對(duì)比中出現(xiàn)多個(gè)與AI生成文本的匹配項(xiàng)（回想前面提到的《獨(dú)立宣言》示例，其輸出內(nèi)容本質(zhì)上仍是“人類創(chuàng)作”）。此外，大語言模型本質(zhì)上是概率性系統(tǒng)，每次生成的內(nèi)容都略有差異，因此匹配結(jié)果也會(huì)隨之變化。

盡管如此，根據(jù)實(shí)證觀察，AI生成的文本通常比人類寫作產(chǎn)生顯著更多的匹配項(xiàng)。以本文為例，在以下自動(dòng)生成的提示下，Compare with AI Text 功能未發(fā)現(xiàn)任何匹配：

"撰寫一篇詳細(xì)的產(chǎn)品描述，介紹一項(xiàng)新的AI檢測工具功能，該功能通過將用戶提交的文本與AI生成文本進(jìn)行比對(duì)，識(shí)別相似性，從而增強(qiáng)用戶對(duì)AI內(nèi)容分類的理解。"

通過簡化用戶文本與合理AI生成文本之間的對(duì)比流程，我們進(jìn)一步擴(kuò)展了整體可解釋性工具集，為用戶提供了前所未有的透明度和對(duì)我們AI檢測結(jié)果的信心。

以上是在我們的新'與AI文本”工具中的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！