chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

本地部署openWebUI + ollama+DeepSeek 打造智能知識庫并實現(xiàn)遠(yuǎn)程訪問

ZeroNews ? 來源:jf_58490156 ? 作者:jf_58490156 ? 2025-09-10 16:41 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

DeepSeek是一款由國內(nèi)人工智能公司研發(fā)的大型語言模型,實現(xiàn)了媲美OpenAI-o1模型的效果,擁有強大的自然語言處理能力,還大幅降低了推理模型的成本,受到海內(nèi)外用戶的廣泛吹捧。

DeepSeek 作為一個開源的大語言模型,我們可以通過 ZeroNews + openWebUI + ollama的方式,輕松的在本地私有化部署 DeepSeek,不受網(wǎng)絡(luò)攻擊影響,滿足不同用戶的需求場景。

下面以在Ubuntu 系統(tǒng)為例,部署 ZeroNews +Open WebUI + Ollama,構(gòu)建自己的 DeepSeek 平臺

部署步驟

我們通過Docker 容器的方式部署 ZeroNews 內(nèi)網(wǎng)穿透及Open WebUI,需提前安裝好 Docker

第一步:部署 Ollama

Ollama 是一個用于管理和部署機器學(xué)習(xí)模型的工具。專注于簡化模型的下載、配置和運行過程,我們通過 ollama 下載并運行 DeepSeek 大語言模型

安裝 Ollama

在 ubuntu 系統(tǒng)通過一條命令部署 ollama 本地模型

wKgZO2ixEaqAAUDjAAAFEt4ryB0195.png

修改 ollama 的本地監(jiān)聽IP地址, 將 Environment="OLLAMA_HOST=0.0.0.0" 添加到 ollama 的系統(tǒng)服務(wù)文件( /etc/systemd/system/ollama.service)中

wKgZPGixEaqAVAjhAAATsVFFyXM979.png

重啟ollama 服務(wù)

wKgZO2ixEauAZLI1AAAGrupes9M720.png

在瀏覽器中,輸入 http://{主機ip}:11434, 檢查 ollama 是否正常運行, 顯示 “Ollama is running”, 表示ollama 運行正常

wKgZPGixEauAe_7qAAAMZdn-R2Y023.png

下載 DeepSeek 大語言模型

在 Ollama 官網(wǎng)中,可以查看支持的 DeepSeek 版本,我們根據(jù)自己的需求下載對應(yīng)的模型版本即可

wKgZO2ixEauAQ4qjAAB_2iPx0kw510.png

下面以 deepseek-r1:8b 為例,下載 deepseek-r1:8b 模型

ollama run deepseek-r1:8b

wKgZPGixEayAR1gwAAAV-KRKVxA672.png

deepseek 大語言模型下載完成后,接下來部署 Open WebUI

第二步: 部署 Open WebUI

OpenWebUI 是一個開源的 Web 用戶界面框架,為各種應(yīng)用程序提供現(xiàn)代化的、響應(yīng)式的用戶界面,其構(gòu)建一個用戶友好的 Web 界面,來管理和監(jiān)控通過 Ollama 部署的機器學(xué)習(xí)模型。

我們通過 Docker 容器方式部署 Open WebUI

拉取 Open WebUI 鏡像

通過以下命令,從 Open WebUI 官方 GitHub Container Registry (GHCR) 倉庫拉取鏡像

wKgZO2ixEayADq8JAAAGSe-Xx88715.png

啟動 Open WebUI 容器

先創(chuàng)建一個用于 Open WebUI 容器本地存儲的本地目錄

wKgZPGixEayATlc6AAAD_fzUTbg406.png

通過以下命令啟動容器,容器名稱 deepseek, 映射本地 8080 端口號, 并掛載本地目錄 /opt/openwebui 到容器的 /app/backend/data

wKgZO2ixEa2AKBylAAANx22dt48613.png

Open WebUI 容器啟動完成后,就可以在瀏覽器中輸入 http://{主機IP}:3000 訪問 Open WebUI

wKgZPGixEa2AZJagAAAjDbf5gDE606.png

第三步: 部署 ZeroNews 內(nèi)網(wǎng)穿透

我們通過 Docker 容器方式部署 ZeroNews 內(nèi)網(wǎng)穿透

下載 ZeroNews 容器鏡像

通過以下命令在 ZeroNews 官方倉庫下載 ZeroNews 容器鏡像

wKgZO2ixEa2AOWKuAAAEdlFAPmQ929.png

啟動 ZeroNews 容器

通過以下命令啟動 ZeroNews 容器,將 token 及 網(wǎng)絡(luò)區(qū)域ID 粘貼到命令最后,以空格分隔

wKgZPGixEa2AOf3BAAALBtPLhNY194.png

ZeroNews 容器啟動成功后,在 ZeroNews 平臺上能查看已上線的 ZeroNews 容器

wKgZO2ixEa6AXO2HAABwMGrxsK0114.png

第四步: 為Open WebUI 添加域名及映射

1. 為 Open WebUI 平臺添加域名及端口

在 ZeroNews 管理平臺的 "域名端口" 界面下,添加域名,勾選 HTTPS ,然后點擊 "確認(rèn)",完成域名端口添加

wKgZPGixEa6AVKwCAACFkx261Co555.png

2. 為 Open WebUI 平臺添加公網(wǎng)映射

首先在 ZeroNews 管理平臺的 "映射" 界面下,添加HTTPS公網(wǎng)映射

映射協(xié)議: 選擇 HTTPS 協(xié)議

公網(wǎng)訪問地址: 選擇上一步添加好的 deepseek 域名地址

映射帶寬: 輸入需要的帶寬,如 2M

內(nèi)網(wǎng)映射地址: IP地址默認(rèn)為 127.0.0.1, 端口為 Open WebUI 平臺的端口號 8080

wKgZO2ixEa6AFlQrAACFaPpjrmE624.png

Open WebUI 的公網(wǎng)映射添加完成后,在瀏覽器就可以通過分配的域名在公網(wǎng)上訪問 Open WebUI 應(yīng)用平臺

wKgZPGixEa-AdicAAABsVJgqW9U475.png

第五步:Open WebUI基礎(chǔ)配置

1. 打開Open WebUI 域名地址后,先創(chuàng)建一個管理員賬號, 輸入名稱、郵箱及密碼等信息,然后點擊"創(chuàng)建管理員賬號" 完成管理員創(chuàng)建

wKgZO2ixEa-AUAgoAAAleNijlWA228.png

成功登錄后,進入到 Open WebUI 主頁面

wKgZPGixEa-AR0qyAACdjJwIyMA413.png

點擊 "選擇一個模型", 選擇我們添加好的 deepseek-r1.8b 模型

wKgZO2ixEbCADeJeAABlj1floEE136.png

接下來就可以通過 DeepSeek 大模型進行對話了,如輸入內(nèi)網(wǎng)穿透

wKgZPGixEbCAQif_AABPPR_-0EE614.png

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 知識庫
    +關(guān)注

    關(guān)注

    0

    文章

    15

    瀏覽量

    6810
  • 遠(yuǎn)程訪問
    +關(guān)注

    關(guān)注

    0

    文章

    49

    瀏覽量

    8178
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    820

    瀏覽量

    2541
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    “輕松上手!5分鐘學(xué)會用京東云打造你自己的專屬DeepSeek

    #從第?步驟到第四步驟是完成DeepSeek本地部署和使?,可以滿?中?企業(yè)環(huán)境的穩(wěn)定 使?,第五步驟為基于AnythingLLM和本地數(shù)據(jù)進?訓(xùn)練(基于
    的頭像 發(fā)表于 02-10 17:41 ?2246次閱讀
    “輕松上手!5分鐘學(xué)會用京東云<b class='flag-5'>打造</b>你自己的專屬<b class='flag-5'>DeepSeek</b>”

    在龍芯3a6000上部署DeepSeek 和 Gemma2大模型

    , 例如Loongnix 25, Deepin 23, OpenKylin 2.0, ArchLinux, AOSC 12 等 下載相應(yīng)版本的ollama解壓將其復(fù)制到/usr/bin $ unzip
    發(fā)表于 02-07 19:35

    添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略

    DeepSeek 模型的部署與測試,開啟這場充滿挑戰(zhàn)與驚喜的技術(shù)探索之旅。 RK3588 開發(fā)板:AI 性能擔(dān)當(dāng) RK3588 開發(fā)板基于先進的 8nm LP 制程工藝精心打造,其硬件配置堪稱豪華,在 AI
    發(fā)表于 02-14 17:42

    《AI Agent 應(yīng)用與項目實戰(zhàn)》閱讀心得3——RAG架構(gòu)與部署本地知識庫

    。RAG技術(shù)建立在向量數(shù)據(jù)的基礎(chǔ)上,通過高維向量空間中的相似度計算來實現(xiàn)語義層面的匹配,這比傳統(tǒng)的關(guān)鍵詞搜索更能捕捉文本的深層語義關(guān)聯(lián)。 第七章通過一個本地知識庫的搭建案例展示了RA
    發(fā)表于 03-07 19:49

    【幸狐Omni3576邊緣計算套件試用體驗】DeepSeek 部署及測試

    【幸狐 Omni3576 邊緣計算套件測評】DeepSeek 部署及測試 本文介紹了幸狐 Omni3576 邊緣計算套件實現(xiàn) DeepSeek 部署
    發(fā)表于 03-21 19:31

    基于知識庫智能策略翻譯技術(shù)

    提出基于知識庫的策略翻譯方法,設(shè)計策略翻譯組成結(jié)構(gòu),分析策略知識及其表示形式,建立動態(tài)可擴展的策略知識庫,開發(fā)可擴展的策略編譯器和策略組裝器。實例測試表明,該
    發(fā)表于 04-22 09:42 ?11次下載

    領(lǐng)域知識庫的研究與設(shè)計

    領(lǐng)域知識庫的構(gòu)建有利于知識的檢索和共享。分析了領(lǐng)域知識庫應(yīng)具備的條件,指出構(gòu)建領(lǐng)域知識庫的有效方法;介紹了構(gòu)建知識庫的一般步驟,
    發(fā)表于 08-29 14:39 ?0次下載

    NXP NFC知識庫

    NXP NFC知識庫
    發(fā)表于 12-30 17:32 ?49次下載

    本體知識庫的模塊與保守擴充

    模塊化是軟件工程的一種方法,近年來被引入到本體領(lǐng)域,用以支持本體的重用和本體的整合。已有的工作沒有討論同時含有TBox和ABox的本體知識庫的模塊化的相關(guān)問題。在定義本體知識庫的模塊和知識庫的保守
    發(fā)表于 11-24 09:58 ?0次下載

    方太集團攜手小i機器人打造的方太智能知識庫正式上線

    可以通過一個簡單的例子來看一下。例如,當(dāng)顧客問到"EM10T和EM10T.S關(guān)機后顯示屏是不是還一直亮著?"在這個問題中,顧客其實是問到了兩款相近產(chǎn)品的性能及對比問題。智能知識庫上線之前,客服
    的頭像 發(fā)表于 08-21 16:08 ?5302次閱讀

    如何基于亞馬遜云科技LLM相關(guān)工具打造知識庫

    背景 本篇將為大家闡述亞馬遜云科技大語言模型下沉到具體行業(yè)進行場景以及實施案例的介紹,是亞馬遜云科技官方《基于智能搜索和大模型打造企業(yè)下一代知識庫》系列的第四篇博客。感興趣的小伙伴可以進入官網(wǎng)深入
    的頭像 發(fā)表于 11-23 17:53 ?1670次閱讀
    如何基于亞馬遜云科技LLM相關(guān)工具<b class='flag-5'>打造</b><b class='flag-5'>知識庫</b>

    騰訊ima升級知識庫功能,上線小程序實現(xiàn)共享與便捷問答

    知識管理體驗。 現(xiàn)在,用戶可以在ima平臺上輕松創(chuàng)建知識庫,設(shè)置共享權(quán)限,實現(xiàn)多人同時使用和編輯。這一功能的增加,極大地提升了團隊協(xié)作的效率,使得
    的頭像 發(fā)表于 12-31 15:32 ?2335次閱讀

    DeepSeek從入門到精通(2):0成本用DeepSeek(滿血版)搭建本地知識庫

    我們身處數(shù)字化浪潮中,知識管理和利用的重要性與日俱增。擁有一個專屬的本地知識庫,能極大提升工作效率,滿足個性化需求。但對于技術(shù)小白來說,搭建這樣的知識庫不僅存在技術(shù)門檻,同時也意味著需
    的頭像 發(fā)表于 02-23 15:34 ?1137次閱讀
    <b class='flag-5'>DeepSeek</b>從入門到精通(2):0成本用<b class='flag-5'>DeepSeek</b>(滿血版)搭建<b class='flag-5'>本地</b><b class='flag-5'>知識庫</b>

    用騰訊ima和Deepseek建立個人微信知識庫

    ---基于騰訊混元大模型或Deepseek-r推理模型的個人知識庫。大模型是通才,知識庫是專家大模型的訓(xùn)練數(shù)據(jù)無法實時更新,而你的知識庫可以動態(tài)補充最新信息。大模型對細(xì)分領(lǐng)
    的頭像 發(fā)表于 02-25 17:33 ?1684次閱讀
    用騰訊ima和<b class='flag-5'>Deepseek</b>建立個人微信<b class='flag-5'>知識庫</b>

    技術(shù)融合實戰(zhàn)!Ollama攜手Deepseek搭建知識庫,Continue入駐VScode

    Ollama、Deepseek-R1、AnythingLLM 搭建強大的本地個人知識庫,詳細(xì)介紹 Continue 在 VScode 中
    的頭像 發(fā)表于 03-04 14:47 ?884次閱讀
    技術(shù)融合實戰(zhàn)!<b class='flag-5'>Ollama</b>攜手<b class='flag-5'>Deepseek</b>搭建<b class='flag-5'>知識庫</b>,Continue入駐VScode