在Raspberry Pi上部署強(qiáng)大的AI文檔處理器：逐步指南

本文詳細(xì)介紹了將Raspberry Pi轉(zhuǎn)換為智能文檔處理的強(qiáng)大工具的過程，利用了高級AI的功能。我們將介紹能夠處理文檔攝入和提問（QNA）任務(wù)的系統(tǒng)的設(shè)置，軟件安裝和開發(fā)。即使是小型設(shè)備也可以通過正確的方法獲得令人印象深刻的結(jié)果。

學(xué)習(xí)目標(biāo)：

• 配置覆盆子PI以進(jìn)行無頭操作。
• 安裝和管理依賴性，例如Ollama。
• 開發(fā)一個用于加載和處理PDF文檔的系統(tǒng)。
• 構(gòu)建一個檢索功能的一代（RAG）管道，以回答查詢。
• 測試應(yīng)用程序功能。
• 使用FastApi部署應(yīng)用程序，并使用Reflex創(chuàng)建用戶界面。

（本文是數(shù)據(jù)科學(xué)博客馬拉松的一部分。）

目錄：

• 介紹
• Raspberry Pi設(shè)置
• 應(yīng)用程序開發(fā)
  • 步驟1：環(huán)境配置
  • 步驟2：創(chuàng)建config.py
  • 步驟3：攝入課程
  • 步驟4： PDFLoader類
  • 步驟5：QNA管道
  • 步驟6：查詢抹布鏈
• 結(jié)論
• 常見問題

Raspberry Pi設(shè)置：

首先設(shè)置Raspberry Pi的操作系統(tǒng)。對于此示例，我們將使用Ubuntu Server 24.04，但是其他分布是可能的。您需要一張microSD卡（至少16GB）。

閃爍SD卡：

1. 下載并安裝Raspberry Pi Imager。
2. 選擇您的SD卡，然后選擇Ubuntu Server 24.04作為操作系統(tǒng)。
3. 通過SSH配置無頭操作，提供用戶名和密碼。添加啟動時自動網(wǎng)絡(luò)連接的Wi-Fi憑據(jù)。
4. 在“服務(wù)”選項(xiàng)卡中啟用SSH。
5. 將圖像寫入SD卡。

啟動后，使用其IP地址通過SSH連接到Raspberry Pi（使用FING這樣的工具找到它）：

 ssh [username]@[ip地址]

更新軟件包：

更新您的系統(tǒng)軟件包：

 sudo apt更新
sudo apt升級

安裝Ollama：

 curl -fssl https://ollama.com/install.sh | sh

（如果遇到錯誤，請首先安裝卷曲： sudo apt install curl ）

下載必要的模型：

 Ollama拉phi3
Ollama拉動提名 - 文本

應(yīng)用程序開發(fā)：

現(xiàn)在，讓我們構(gòu)建抹布應(yīng)用程序。

步驟1：環(huán)境設(shè)置：

創(chuàng)建虛擬環(huán)境并安裝所需的Python軟件包（在原始文章中列出）。

步驟2：創(chuàng)建config.py ：

創(chuàng)建一個config.py文件，其中以下內(nèi)容：

 lanking_model_name =“ phi3”
embeddings_model_name =“ nomic-embed-text”
Ollama_url =“ http：// localhost：11434”

（步驟3-6詳細(xì)介紹了攝入類，PDFLoader，QNA管道和抹布鏈查詢，在原始文章中提供了太廣泛的內(nèi)容，無法在此處復(fù)制。請參閱“代碼”片段的原始內(nèi)容。）

結(jié)論：

本指南展示了為功能性抹布應(yīng)用設(shè)置Raspberry Pi。接下來的步驟將涉及將應(yīng)用程序與FastApi包裝并使用Reflex構(gòu)建用戶界面。

關(guān)鍵要點(diǎn)：

• 覆蓋物PI配置，用于抹布應(yīng)用。
• 依賴管理（Ollama）。
• PDF文檔攝入和處理。
• RAG管道實(shí)現(xiàn)。
• 應(yīng)用程序測試和部署準(zhǔn)備。

常見問題：

（原始文章中的常見問題解答也太廣泛了，無法在此處復(fù)制。請參閱原始內(nèi)容以獲取答案。）

（注意：圖像URL保持不變。）

以上是在邊緣設(shè)備上的自托管破布應(yīng)用程序的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！