直到上一年，迅速的工程被認為是與大語言模型（LLM）互動的關(guān)鍵技能。然而，最近，LLM在推理和理解能力方面已經(jīng)顯著提高。自然，我們的期望也發(fā)生了巨大的發(fā)展。一年前，如果Chatgpt可以為我們撰寫一封不錯的電子郵件，我們感到很滿意。今天，我們希望它分析我們的數(shù)據(jù)，自動化系統(tǒng)和設(shè)計管道。但是，僅及時工程不足以創(chuàng)建可擴展的AI解決方案。為了充分利用LLM的潛力，專家現(xiàn)在建議將上下文富裕的提示納入合理準確，可靠和適當(dāng)?shù)妮敵觥，F(xiàn)在，此過程稱為“上下文工程”。在本文中，我們將探討上下文工程需要什麼，它與及時工程的不同以及如何使用高質(zhì)量的上下文工程來構(gòu)建企業(yè)級解決方案。

目錄

• 什麼是上下文工程？
• 上下文工程與及時工程
• 上下文工程的組成部分是什麼？
  • 說明提示
  • 用戶提示
  • 對話歷史
  • 長期記憶
  • 5. 抹布
  • 工具定義
  • 輸出結(jié)構(gòu)
• 為什麼我們需要上下文豐富的提示？
  • 使用結(jié)構(gòu)良好的提示
  • 有一個非結(jié)構(gòu)化的提示
• 如何為您的工作流寫更好的上下文提示？
  • 開發(fā)寫作上下文
  • 選擇上下文
  • 壓縮上下文
  • 隔離上下文
• 我的建議
• 結(jié)論

什麼是上下文工程？

上下文工程是組織大型語言模型的整個輸入以提高其準確性和可靠性的實踐。它涉及構(gòu)造和優(yōu)化提示，以便LLM接收所有必要的“上下文”，以生成與所需輸出完全一致的響應(yīng)。

上下文工程與及時工程

乍一看，上下文工程似乎是及時工程的另一個術(shù)語。但是真的是這樣嗎？讓我們快速闡明區(qū)別。

及時工程是關(guān)於製定一個結(jié)構(gòu)良好的輸入，該輸入指導(dǎo)從LLM獲得的輸出。僅使用提示，它有助於實現(xiàn)最佳結(jié)果。及時的工程本質(zhì)上是關(guān)於您的要求。

另一方面，上下文工程是關(guān)於設(shè)置LLM周圍的完整環(huán)境。它旨在提高模型的輸出準確性和效率，即使對於復(fù)雜的任務(wù)也是如此。上下文工程是關(guān)於如何準備模型以做出響應(yīng)的方式。

本質(zhì)上

<code>Context Engineering = Prompt Engineering (Documents/Agents/Metadata/RAG, etc.)</code>

上下文工程的組成部分是什麼？

上下文工程遠遠超出了提示。它的一些關(guān)鍵組成部分包括：

1. 說明提示
2. 用戶提示
3. 對話歷史
4. 長期記憶
5. 抹布
6. 工具定義
7. 輸出結(jié)構(gòu)

這些上下文元素中的每一個都會影響LLM處理輸入並確定其響應(yīng)的方式。讓我們深入研究每個組件，並以Chatgpt為例說明它們。

1。指令提示

系統(tǒng)說明或提示指導(dǎo)模型的個性，規(guī)則和行為。

Chatgpt如何利用它？

它“框架”所有後續(xù)響應(yīng)。例如，如果系統(tǒng)提示為：

“您是一名專家法律助理。簡潔地答案，不提供醫(yī)療建議，”它將提供法律答案並避免提供醫(yī)療建議。
我在RAOD上看到一個受傷的男人，我將他帶到醫(yī)院

2。用戶提示

用戶提示即時任務(wù)或問題。

Chatgpt如何利用它？

它是確定對生成的響應(yīng)的主要信號。

例如：用戶：“用兩個要點總結(jié)本文?！?/em>