DeepSeek 最近成為熱門(mén)話題已經(jīng)有一段時(shí)間。作為一款功能強(qiáng)大的開(kāi)源大型語(yǔ)言模型，專為各種 AI 應(yīng)用而設(shè)計(jì)，從自然語(yǔ)言處理到內(nèi)容生成，它有多種規(guī)格的模型，使其能夠適應(yīng)不同的計(jì)算系統(tǒng)。

雖然 DeepSeek-R1 通常在高性能硬件上運(yùn)行，但它也可以通過(guò)適當(dāng)優(yōu)化部署在 Raspberry Pi 5 上。本指南將引導(dǎo)你如何設(shè)置兼容環(huán)境、安裝必要的工具以及使用 Ollama 平臺(tái)在 Raspberry Pi 5 上運(yùn)行 DeepSeek-R1。無(wú)論是在尋找用于快速響應(yīng)的輕量級(jí)模型，還是尋找更高級(jí)的模型以獲得更高的準(zhǔn)確性，本教程都將幫助你入門(mén)。

材料清單

硬件

樹(shù)莓派5 8G

crowpi 2套件

軟件

ollama

huggingfance

DeepSeek

第1步：設(shè)置虛擬環(huán)境

為防止與系統(tǒng)的默認(rèn)設(shè)置發(fā)生沖突，最好為模型部署創(chuàng)建虛擬環(huán)境。這可確保對(duì) DeepSeek 所做的任何更改都不會(huì)影響其他應(yīng)用程序。

創(chuàng)建項(xiàng)目目錄和虛擬環(huán)境

打開(kāi)終端并運(yùn)行以下命令：

mkdir /home/pi/my_project
cd /home/pi/my_project/
python -m venv /home/pi/my_project/

激活虛擬環(huán)境，創(chuàng)建虛擬環(huán)境后，將其激活：

source /home/pi/my_project/bin/activate

要停用虛擬環(huán)境，請(qǐng)使用：

deactivate

確保在此虛擬環(huán)境中執(zhí)行所有模型設(shè)置步驟。

第 2 步：安裝 Ollama 平臺(tái)

DeepSeek-R1 可以使用 Ollama 平臺(tái)運(yùn)行，該平臺(tái)支持 GGUF 格式的模型文件。如果您選擇 safetensors 格式模型，則需要使用 llama.cpp 將其轉(zhuǎn)換為 GGUF。

檢查系統(tǒng)兼容性

在繼續(xù)之前，請(qǐng)通過(guò)運(yùn)行

uname -m

安裝 Ollama

首先，更新您的系統(tǒng)：

sudo apt update
sudo apt upgrade -y

然后，安裝 curl（下載 Ollama 所需）：

sudo apt install curl

現(xiàn)在，下載并安裝 Ollama 平臺(tái)：

curl -fsSL https://ollama.com/install.sh | sh

驗(yàn)證安裝

檢查 Ollama 是否安裝成功：

ollama –version

現(xiàn)在 Ollama 已準(zhǔn)備就緒，讓我們繼續(xù)下載 DeepSeek-R1 模型。

第 3 步：在 Ollama 上運(yùn)行 DeepSeek-R1

有兩種方法可以獲取 DeepSeek-R1 模型：

1. 直接從 Ollama 下載并運(yùn)行它。

2. 從 HuggingFace 下載模型，然后將其導(dǎo)入 Ollama。

無(wú)論采用哪種方法，都需要 Ollama。

方法 1：直接從 Ollama 下載并運(yùn)行

Ollama 提供預(yù)配置的模型，使其成為最簡(jiǎn)單的入門(mén)方式。

在Ollama 網(wǎng)站上搜索 DeepSeek-R1 并找到合適的模型大小。

下載 Deepseek R1

要運(yùn)行 1.5B 模型：

運(yùn)行 1.5B Deepseek

ollama run deepseek-r1:1.5b

向模型提出一個(gè)問(wèn)題，例如“用簡(jiǎn)單的術(shù)語(yǔ)解釋量子糾纏”。它會(huì)立即響應(yīng)，同時(shí)也會(huì)展示它的思維過(guò)程。

向 Deepseek 提問(wèn)

方法 2：從 HuggingFace 下載模型

從 HuggingFace 下載允許您選擇特定的模型大小。這很有幫助，因?yàn)?Raspberry Pi 5（即使有 16GB RAM）也無(wú)法有效地處理更大的模型。

從 HuggingFace 中選擇模型

訪問(wèn)HuggingFace并搜索 DeepSeek-R1。

選擇適合 Raspberry Pi 5 的較小蒸餾版本。

在本指南中，我們將使用 DeepSeek-R1-Distill-Llama-8B-GGUF，它有 80 億個(gè)參數(shù)，并針對(duì)性能進(jìn)行了優(yōu)化。

下載 Q8_0模型文件 （~8.54GB），因?yàn)樗胶饬速|(zhì)量和效率。

下載 Q8_0 Deepseek R1 模型

將模型文件傳輸?shù)?Raspberry Pi

下載這三個(gè)文件后，使用 FileZilla 或其他文件傳輸工具將它們傳輸?shù)侥?Raspberry Pi。

傳輸 DeepSeek 模型文件

第 4 步：將 GGUF 模型導(dǎo)入 Ollama

一旦模型文件位于 Raspberry Pi 上，我們需要將它們導(dǎo)入 Ollama。

創(chuàng)建 Modelfile

首先，在 model 文件夾中創(chuàng)建一個(gè) Modelfile 并授予其完全權(quán)限：

sudo touch /home/pi/my_project/DeepSeek-R1-Distill-Llama-8B-Q8_0/Modelfile

sudo chmod 777 /home/pi/my_project/DeepSeek-R1-Distill-Llama-8B-Q8_0/Modelfile

添加模型配置

打開(kāi) Modelfile 并添加：

FROM /home/pi/my_project/DeepSeek-R1-Distill-Llama-8B-Q8_0/DeepSeek-R1-Distill-Llama-8B-Q8_0.gguf

編輯模型文件

現(xiàn)在，在 Ollama 中創(chuàng)建模型：

ollama create DeepSeek-R1 -f Modelfile

驗(yàn)證模型是否可用：

ollama list   

Deepseek R1 模型

現(xiàn)在，啟動(dòng)模型：

ollama run deepseek-r1:latest

運(yùn)行 deepseek r1

向它提出問(wèn)題并觀察其反應(yīng)。

模型選項(xiàng)的比較

我們已經(jīng)測(cè)試了 DeepSeek-R1 的兩個(gè)版本：

1. DeepSeek-R1-1.5B（直接從 Ollama 下載）。

2. DeepSeek-R1-Distill-Llama-8B（從 HuggingFace 下載）。

Deepseek R1 模型比較

如果您優(yōu)先考慮更快的響應(yīng)，請(qǐng)使用 DeepSeek-R1-1.5B。如果您想要更高質(zhì)量的答案，請(qǐng)使用 DeepSeek-R1-Distill-Llama-8B，但請(qǐng)注意 RAM 限制。

結(jié)論

通過(guò)遵循本指南，您可以使用 Ollama 平臺(tái)在 Raspberry Pi 5 上成功運(yùn)行 DeepSeek-R1。如果您想要簡(jiǎn)單的設(shè)置，最好直接從 Ollama 下載。但是，如果您需要特定的模型大小，HuggingFace 提供了更大的靈活性。現(xiàn)在，嘗試你的模型，看看它能做什么！