Firefly開源團隊推出了 Llama3 部署包，提供簡易且完善的部署教程，過程無需聯(lián)網(wǎng)，簡單快捷完成本地化部署。

Step.1

準備部署包

進入 Firefly下載中心，下載 Llama3 部署包。

在電腦上以管理員身份打開cmd：

執(zhí)行 scp 命令傳輸部署包至AIBOX，并輸入密碼 linaro 獲取訪問權限。

scpllama3.tarlinaro@:~/

其中為模型實際的文件路徑， 是 AIBOX-BM1684X 的 IP 地址

例：scp C:\Users\Administrator\Downloads\llama3.tar linaro@192.168.150.1:~/

Step.2

部署Llama3

完成部署包的傳輸后，執(zhí)行登錄命令，連接 AIBOX，并輸入密碼 linaro。

sshlinaro@192.168.150.1

執(zhí)行以下解壓命令，解壓部署包，等到解壓完成。

tar-xvf./llama3.tar

解壓完成后，執(zhí)行部署腳本，等待部署完成。

./talk_to_llama3.sh

使用Llama3

部署完成后，即可使用 Llama3。

Tip：部署過程中無需聯(lián)網(wǎng)，首次部署 Llama3 需要花費較長時間進行相應的軟件安裝（3-5min），請耐心等待。