chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

部署基于 LLM 的私有知識庫系統(tǒng) AnythingLLM

jf_94205927 ? 來源:jf_94205927 ? 作者:jf_94205927 ? 2024-12-27 13:44 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

一、Flexus 云服務(wù)器 X 實(shí)例介紹

云服務(wù)器,如同虛擬的超級計(jì)算機(jī),是云計(jì)算技術(shù)的核心組成部分。它通過網(wǎng)絡(luò)提供計(jì)算資源,包括處理器、內(nèi)存、存儲和操作系統(tǒng)等,用戶可以根據(jù)需求靈活配置和擴(kuò)展。云服務(wù)器具備高可用性、彈性伸縮和快速部署等特點(diǎn),適用于各種規(guī)模的企業(yè)和開發(fā)者,無論是網(wǎng)站托管、數(shù)據(jù)分析還是應(yīng)用開發(fā),都能提供穩(wěn)定、高效的支持。

華為云下一代云服務(wù)器 Flexus X 實(shí)例煥新上線,新產(chǎn)品搭配彈性伸縮服務(wù) AS 及負(fù)載均衡服務(wù) ELB,可以實(shí)現(xiàn)基于業(yè)務(wù)負(fù)載的快速彈縮,從容應(yīng)對多變的市場業(yè)務(wù)壓力,覆蓋高科技、零售、金融、游戲等行業(yè)大多數(shù)通用工作負(fù)載場景。

wKgZO2duPsaAU8AeAAKFUe3KKt0777.png

Flexus X 實(shí)例通過和其他服務(wù)組合,具備計(jì)算、鏡像安裝、網(wǎng)絡(luò)、存儲、安全等能力,您可根據(jù)業(yè)務(wù)需要靈活配置各資源。

wKgZO2duPsyAYkywAAvyr-51fqA462.gif

本次測評使用的規(guī)格是:4 核 12G-100G-3M 規(guī)格的 Flexus X 實(shí)例基礎(chǔ)模式

wKgZO2duPs2AWVkiAAHXWmcDvoA232.png

二、Flexus 云服務(wù)器 X 實(shí)例配置

2.1 重置密碼

購買服務(wù)器的時(shí)候可以提前設(shè)置用戶名和密碼,因?yàn)槲疫@里跳過了,所以購買完成后需要重置密碼,會短信或站內(nèi)消息通過你的云服務(wù)器信息,重點(diǎn)是公網(wǎng) IP 地址和用戶名,首先打開你的服務(wù)器控制臺,選擇重置密碼

wKgZPGduPs2AUB2iAAJxDfXk-p8031.png

勾選自動重啟,點(diǎn)擊確定即可

wKgZO2duPs2AbnJtAADmtG_r2Mc652.png

2.2 服務(wù)器連接

華為云服務(wù)器提供了多種鏈接方式,如使用控制臺提供的 VNC 方式登錄、使用 Linux/Mac OS 系統(tǒng)主機(jī)登錄 Linux 彈性云服務(wù)器(即 ssh root@192.168.48.78 命令)或者使用 Putty、Xshell 等工具登錄 Linux 彈性云服務(wù)器。

我個(gè)人習(xí)慣使用 MobaXterm這款軟件,添加 SSH 連接,輸出公網(wǎng) IP、用戶名和端口(默認(rèn) 22),連接即可。

wKgZPGduPs6AOlcwAAB35aqd5VA036.png

2.3 安全組配置

安全組是一個(gè)邏輯上的分組,為同一個(gè) VPC 內(nèi)的云服務(wù)器提供訪問策略。用戶可以在安全組中定義各種訪問規(guī)則,當(dāng)云服務(wù)器加入該安全組后,即受到這些訪問規(guī)則的保護(hù)。

系統(tǒng)為每個(gè)網(wǎng)卡默認(rèn)創(chuàng)建一個(gè)默認(rèn)安全組,默認(rèn)安全組的規(guī)則是對出方向上的數(shù)據(jù)報(bào)文全部放行,入方向訪問受限。您可以使用默認(rèn)安全組,也可以根據(jù)需要?jiǎng)?chuàng)建自定義的安全組。

wKgZO2duPs6AX6b1AAJtUulR8LY910.png

主要需要填寫優(yōu)先級(默認(rèn)填 1 即可)、協(xié)議端口(協(xié)議一般為 TCP 或 UDP,端口一般選擇你項(xiàng)目需要暴露的端口即可),描述(選填,一般會填寫此端口的用途以免忘記了),其他默認(rèn)點(diǎn)擊確定即可。安全組配置主要是暴露端口可以給外網(wǎng)訪問。

wKgZPGduPs6ANv_BAAHf3yU1SGg476.png

如果還不清楚可以參考文檔:安全組配置示例

總結(jié)

AnythingLLM 是一款多功能人工智能應(yīng)用,旨在為用戶提供一個(gè)統(tǒng)一的平臺來處理多種類型的文檔和模型。無論是在 Windows、MacOS,還是 Linux 系統(tǒng)上,用戶都可以通過簡單的“一鍵安裝”來獲取完整的工具套件。它支持包括 PDF、Word 文檔等多種格式的文件處理,并允許用戶連接各種自定義或開源的語言模型,如 GPT-4、Llama、Mistral 等,因此用戶不再受到單一模型的約束。此外,AnythingLLM 能夠完全在本地運(yùn)行,只與用戶明確連接的服務(wù)進(jìn)行交互,這大大增強(qiáng)了數(shù)據(jù)的隱私保護(hù)。此次使用的 Flexus X 實(shí)例配置還是很高的 4 核 12G-100G-3M 規(guī)格的基礎(chǔ)模式,盡管本地運(yùn)行 ollama 模型,也能在推理過程中抗住壓力,穩(wěn)定輸出,盡管輸出緩慢,CPU 和內(nèi)存占用也沒有超過 60%,整體體驗(yàn)很好。

喜歡用 Docker 部署有趣項(xiàng)目?華為云服務(wù)器助你輕松實(shí)現(xiàn)!高性能、高可靠,支持一鍵部署 Docker 環(huán)境,快速啟動你的創(chuàng)意項(xiàng)目?,F(xiàn)在華為云服務(wù)器正進(jìn)行 828 B2B 企業(yè)節(jié),限時(shí)優(yōu)惠,立即搶購,讓你的項(xiàng)目飛速上線!

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 云服務(wù)器
    +關(guān)注

    關(guān)注

    0

    文章

    825

    瀏覽量

    14029
  • 華為云
    +關(guān)注

    關(guān)注

    3

    文章

    2799

    瀏覽量

    18993
  • LLM
    LLM
    +關(guān)注

    關(guān)注

    1

    文章

    339

    瀏覽量

    1196
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    本地部署openWebUI + ollama+DeepSeek 打造智能知識庫并實(shí)現(xiàn)遠(yuǎn)程訪問

    。 DeepSeek 作為一個(gè)開源的大語言模型,我們可以通過 ZeroNews + openWebUI + ollama的方式,輕松的在本地私有部署 DeepSeek,不受網(wǎng)絡(luò)攻擊影響,滿足不同用戶的需求場景。 下面
    的頭像 發(fā)表于 09-10 16:41 ?4514次閱讀
    本地<b class='flag-5'>部署</b>openWebUI + ollama+DeepSeek 打造智能<b class='flag-5'>知識庫</b>并實(shí)現(xiàn)遠(yuǎn)程訪問

    零基礎(chǔ)在智能硬件上克隆原神可莉?qū)崿F(xiàn)桌面陪伴(提供人設(shè)提示詞、知識庫、固件下載)

    方式后點(diǎn)擊保存,系統(tǒng)自動處理片刻后便可看到文件處于啟用狀態(tài)。 3、角色模板關(guān)聯(lián)人設(shè)知識庫回到角色模板,下拉至【角色知識庫】部分,點(diǎn)擊【關(guān)聯(lián)知識庫】,選擇我們創(chuàng)建的【原神可莉人設(shè)
    發(fā)表于 08-22 19:51

    如何在魔搭社區(qū)使用TensorRT-LLM加速優(yōu)化Qwen3系列模型推理部署

    TensorRT-LLM 作為 NVIDIA 專為 LLM 推理部署加速優(yōu)化的開源,可幫助開發(fā)者快速利用最新 LLM 完成應(yīng)用原型驗(yàn)證與產(chǎn)
    的頭像 發(fā)表于 07-04 14:38 ?1489次閱讀

    AI知識庫的搭建與應(yīng)用:企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵步驟

    隨著數(shù)字化轉(zhuǎn)型的加速,AI技術(shù)已經(jīng)成為提升企業(yè)運(yùn)營效率、優(yōu)化客戶體驗(yàn)、推動業(yè)務(wù)創(chuàng)新的重要工具。而AI知識庫作為企業(yè)智能化的基礎(chǔ),發(fā)揮著至關(guān)重要的作用。通過構(gòu)建高質(zhì)量的知識庫,企業(yè)能夠更好地組織、管理
    的頭像 發(fā)表于 03-27 15:18 ?916次閱讀

    【幸狐Omni3576邊緣計(jì)算套件試用體驗(yàn)】DeepSeek 部署及測試

    、RKLLM 、編譯和運(yùn)行、效果演示等。 簡介 介紹了板端部署的 DeepSeek 模型及其部署方案。 DeepSeek DeepSeek 是由杭州深度求索公司自主研發(fā)的高性能大語言模型,以其開源、輕量化
    發(fā)表于 03-21 19:31

    《AI Agent 應(yīng)用與項(xiàng)目實(shí)戰(zhàn)》閱讀心得3——RAG架構(gòu)與部署本地知識庫

    系統(tǒng)架構(gòu)設(shè)計(jì)上,采用了前后端分離的模式:前端使用Streamlit構(gòu)建交互界面,后端集成了向量數(shù)據(jù)LLM。部署環(huán)境的準(zhǔn)備工作包括創(chuàng)建虛擬環(huán)境、安裝必要的Python包、配置向量數(shù)據(jù)
    發(fā)表于 03-07 19:49

    技術(shù)融合實(shí)戰(zhàn)!Ollama攜手Deepseek搭建知識庫,Continue入駐VScode

    Ollama、Deepseek-R1、AnythingLLM 搭建強(qiáng)大的本地個(gè)人知識庫,并詳細(xì)介紹 Continue 在 VScode 中的本地集成,帶你解鎖全新的技術(shù)應(yīng)用體驗(yàn),開啟高效知識管理與開發(fā)
    的頭像 發(fā)表于 03-04 14:47 ?914次閱讀
    技術(shù)融合實(shí)戰(zhàn)!Ollama攜手Deepseek搭建<b class='flag-5'>知識庫</b>,Continue入駐VScode

    如何從零開始搭建企業(yè)AI知識庫

    在數(shù)字化轉(zhuǎn)型的浪潮中,企業(yè)逐漸意識到數(shù)據(jù)不僅是資源,更是驅(qū)動業(yè)務(wù)增長的“燃料”。然而,分散在郵件、文檔系統(tǒng)、本地硬盤甚至員工腦海中的知識,往往如同孤島般難以串聯(lián)。AI知識庫的出現(xiàn),正試圖將這些碎片化
    的頭像 發(fā)表于 02-28 14:35 ?1468次閱讀

    用騰訊ima和Deepseek建立個(gè)人微信知識庫

    ---基于騰訊混元大模型或Deepseek-r推理模型的個(gè)人知識庫。大模型是通才,知識庫是專家大模型的訓(xùn)練數(shù)據(jù)無法實(shí)時(shí)更新,而你的知識庫可以動態(tài)補(bǔ)充最新信息。大模型對細(xì)分領(lǐng)
    的頭像 發(fā)表于 02-25 17:33 ?1731次閱讀
    用騰訊ima和Deepseek建立個(gè)人微信<b class='flag-5'>知識庫</b>

    DeepSeek從入門到精通(2):0成本用DeepSeek(滿血版)搭建本地知識庫

    我們身處數(shù)字化浪潮中,知識管理和利用的重要性與日俱增。擁有一個(gè)專屬的本地知識庫,能極大提升工作效率,滿足個(gè)性化需求。但對于技術(shù)小白來說,搭建這樣的知識庫不僅存在技術(shù)門檻,同時(shí)也意味著需要一定的成本投入。
    的頭像 發(fā)表于 02-23 15:34 ?1216次閱讀
    DeepSeek從入門到精通(2):0成本用DeepSeek(滿血版)搭建本地<b class='flag-5'>知識庫</b>

    基于華為云 Flexus 云服務(wù)器 X 搭建部署——AI 知識庫問答系統(tǒng)(使用 1panel 面板安裝)

    ???對于企業(yè)來講為什么需要華為云 Flexus X 來搭建自己的知識庫問答系統(tǒng)??? 【重塑知識邊界,華為云 Flexus 云服務(wù)器 X 引領(lǐng)開源問答新紀(jì)元!】 ???解鎖知識新動力
    的頭像 發(fā)表于 01-17 09:45 ?3138次閱讀
    基于華為云 Flexus 云服務(wù)器 X 搭建<b class='flag-5'>部署</b>——AI <b class='flag-5'>知識庫</b>問答<b class='flag-5'>系統(tǒng)</b>(使用 1panel 面板安裝)

    華為云 Flexus 云服務(wù)器 X 實(shí)例之 openEuler 系統(tǒng)下搭建 MaxKB 開源知識庫問答系統(tǒng)

    及個(gè)人開發(fā)者快速構(gòu)建高效、靈活的應(yīng)用環(huán)境。本文將詳細(xì)介紹如何利用華為云 Flexus 云服務(wù)器 X 實(shí)例搭建基于 openEuler 系統(tǒng)的 MaxKB 開源知識庫問答系統(tǒng),為企業(yè)內(nèi)部的知識
    的頭像 發(fā)表于 01-17 09:44 ?1658次閱讀
    華為云 Flexus 云服務(wù)器 X 實(shí)例之 openEuler <b class='flag-5'>系統(tǒng)</b>下搭建 MaxKB 開源<b class='flag-5'>知識庫</b>問答<b class='flag-5'>系統(tǒng)</b>

    騰訊ima升級知識庫功能,上線小程序?qū)崿F(xiàn)共享與便捷問答

    近日,騰訊旗下的AI智能工作臺ima.copilot(簡稱ima)迎來了知識庫功能的重大升級。此次升級不僅增加了“共享知識庫”的新能力,還正式上線了“ima知識庫”小程序,為用戶帶來了更加便捷和高效
    的頭像 發(fā)表于 12-31 15:32 ?2381次閱讀

    從零開始訓(xùn)練一個(gè)大語言模型需要投資多少錢?

    關(guān)于訓(xùn)練技巧和模型評估的文章,但很少有直接告訴你如何估算訓(xùn)練時(shí)間和成本的。前面分享了一些關(guān)于大模型/本地知識庫的安裝部署方法,無需編寫代碼,即可使用 Ollama+AnythingLLM搭建企業(yè)
    的頭像 發(fā)表于 11-08 14:15 ?1184次閱讀
    從零開始訓(xùn)練一個(gè)大語言模型需要投資多少錢?

    k8s可以部署私有云嗎?私有部署全攻略

    Kubernetes(簡稱K8S)可以部署私有云。Kubernetes是一個(gè)開源的容器編排引擎,能夠自動化容器的部署、擴(kuò)展和管理,使得應(yīng)用可以在各種環(huán)境中高效運(yùn)行。通過使用Kubernetes,企業(yè)可以在自己的數(shù)據(jù)中心或
    的頭像 發(fā)表于 10-25 09:32 ?651次閱讀