人類(lèi)的上下文抹布：一種令人驚訝的簡(jiǎn)單方法，用於革命AI檢索

在人工智能領(lǐng)域，系統(tǒng)與大規(guī)模數(shù)據(jù)集進(jìn)行了努力，高效而準(zhǔn)確的信息檢索至關(guān)重要。人為AI研究的領(lǐng)導(dǎo)者Anthropic引入了上下文檢索效果（RAG），這是一種開(kāi)創(chuàng)性的方法，它巧妙地將傳統(tǒng)的檢索技術(shù)與創(chuàng)新的改進(jìn)結(jié)合在一起。這種方法被描述為“愚蠢的輝煌”，展示了周到的簡(jiǎn)單性如何產(chǎn)生重大進(jìn)步。

關(guān)鍵學(xué)習(xí)目標(biāo)：

• 掌握了AI檢索中的挑戰(zhàn)以及環(huán)境抹佈如何克服它們。
• 了解上下文抹布中嵌入與BM25之間的協(xié)同關(guān)係。
• 查看擴(kuò)展的上下文和獨(dú)立塊如何改善響應(yīng)質(zhì)量。
• 學(xué)習(xí)用於優(yōu)化檢索到的信息的重讀技術(shù)。
• 在檢索授權(quán)的一代中對(duì)分層優(yōu)化產(chǎn)生全面的理解。

在AI中需要增強(qiáng)檢索的需求：

檢索增強(qiáng)的生成（RAG）是現(xiàn)代AI的基石，使模型能夠訪問(wèn)和利用相關(guān)信息來(lái)產(chǎn)生準(zhǔn)確，上下文豐富的響應(yīng)。傳統(tǒng)的抹布系統(tǒng)通常在很大程度上依賴(lài)於嵌入，這在捕獲語(yǔ)義含義方面表現(xiàn)出色，但可能會(huì)以精確的關(guān)鍵字匹配而掙扎。人類(lèi)的上下文抹布通過(guò)一系列優(yōu)雅的優(yōu)化解決了這些局限性。通過(guò)將嵌入與BM25集成，增加了所考慮的信息塊的數(shù)量並實(shí)施重新處理過(guò)程，上下文抹布顯著提高了抹布系統(tǒng)的有效性。這種分層方法可確保上下文理解和精確信息檢索。

上下文抹布的核心創(chuàng)新：

上下文抹布的有效性源於其既定方法的戰(zhàn)略組合，並通過(guò)微妙而強(qiáng)大的修改增強(qiáng)。四項(xiàng)關(guān)鍵創(chuàng)新脫穎而出：

1。嵌入BM25：有力的伙伴關(guān)係：

嵌入提供語(yǔ)義理解，從而捕獲簡(jiǎn)單關(guān)鍵字的文本的含義。基於關(guān)鍵字的算法BM25以精確的詞彙匹配表現(xiàn)出色。上下文抹布巧妙地結(jié)合了以下內(nèi)容：嵌入式處理細(xì)微的語(yǔ)言理解，而B(niǎo)M25可確保不會(huì)錯(cuò)過(guò)相關(guān)的關(guān)鍵字匹配。這種雙重方法允許語(yǔ)義深度和精確的關(guān)鍵字檢索。

2。擴(kuò)展上下文：前20個(gè)塊方法：

傳統(tǒng)的破布通常將檢索到前5-10個(gè)最相關(guān)的塊。上下文抹布將其擴(kuò)展到前20名，大大豐富了模型可用的上下文。這種更廣泛的背景會(huì)導(dǎo)致更全面和細(xì)微的回應(yīng)。

3。獨(dú)立的塊：增強(qiáng)清晰度和相關(guān)性：

每個(gè)檢索到上下文抹布中的塊都包含足夠的環(huán)境上下文，使其在孤立中可以理解。這使歧義最小化，尤其對(duì)於復(fù)雜查詢(xún)至關(guān)重要。

4。重新考慮以獲得最佳相關(guān)性：

根據(jù)查詢(xún)的相關(guān)性，檢索了塊。最終優(yōu)化優(yōu)先考慮最有價(jià)值的信息，最大程度地提高了響應(yīng)質(zhì)量，尤其是在代幣限制中。

行動(dòng)中的協(xié)同作用：改變AI檢索：

上下文抹布的真正力量在於這四項(xiàng)創(chuàng)新的協(xié)同作用。它們的綜合效果創(chuàng)建了高度優(yōu)化的檢索管道，從而導(dǎo)致系統(tǒng)在處理複雜查詢(xún)時(shí)更準(zhǔn)確，相關(guān)且健壯。

（響應(yīng)的其餘部分，包括實(shí)際的應(yīng)用程序部分和結(jié)論，將遵循類(lèi)似的重寫(xiě)模式，在更改句子結(jié)構(gòu)和單詞選擇的同時(shí)保持原始含義。這些圖像將保持其原始格式和位置。）

本文中顯示的媒體不歸[平臺(tái)名稱(chēng)]所有，並且由作者酌情使用。

以上是Anthropic的上下文抹布背後的AI檢索的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！