隨著DeepSeek 的蒸餾技術的橫空出世，端側(cè) SoC 芯片上運行大模型成為可能。那么端側(cè)芯片跑大模型的效果如何呢？本文將在全志 A733 芯片平臺上部署一個 DeepSeek-R1:1.5B 模型，并進行實測效果展示。 端側(cè)平臺環(huán)境

設備：全志A733平板

系統(tǒng)：Android 15

DDR：8GB LPDDR5 @2400MHz

Flash：128GB UFS3.0

測試模型：Deepseek-R1-Distill-Qwen-1.5B

首先，我們測試AI經(jīng)典哲學問題“你是誰？”

實測視頻：

輸入運行命令之后可看到模型運行起來了，此時我們就可以開始和Deepseek對話了。

從實拍視頻可以看到，這個輸出速度基本可以滿足正常對話的交互體驗。

然后我們要求Deepseek“快速寫一段代碼計算1-9999的和”

實測視頻如下：

可以看到，Deepseek會先對題目進行分析，他很快就分辨出了這是一個經(jīng)典的等差數(shù)列求和問題，并給出了計算公式。

然后，可以看到在沒有指定編程語言的情況下，Deepseek默認使用python寫出了計算代碼。

最后，Deepseek對整個解題思路進行了歸納總結。

我們再嘗試解一個一元二次方程：“求解方程x^2+4x+4=0”

實測視頻如下：

同樣，Deepseek也是快速理清了題意，判別出了這是一個解一元二次方程的題目，并給出了求解公式。

然后Deepseek知道先對方程進行重根判別，判別出這道題是只有一個重根的。

最后，Deeepseek 將題目代入公式進行求解，馬上便得出了正確的計算結果。

經(jīng)測試，可以得出結論是Deepseek-R1-Distill-Qwen-1.5B 是可以在全志A733芯片平臺的平板電腦上較流暢地運行的，并且可以讓Deepseek擁有中學生級別的邏輯推理能力。而這才是一個開始。后續(xù)，隨著量化技術的不斷發(fā)展，模型的體積和計算復雜度將進一步降低，從而更好地適應端側(cè)設備的資源限制。未來，我們期待 DeepSeek 在更多場景中發(fā)揮其強大的功能，為用戶提供更加智能和便捷的體驗。