自從模型廣場上新后,有不少朋友來咨詢小助手如何開啟模型的推理部署,今天,小助手就以Stable Diffusion WebUI為例,教大家如何捷智算平臺開啟模型的推理部署。
Web UI模型詳細部署教程
進入捷智算,在菜單欄找到【模型廣場】就可以看到上新的模型~

一、選擇模型類型
根據(jù)自己興趣的模型點擊【推理部署】,我們找到StableDiffusionWebUI點擊【推理部署】。
二、購買容器
選擇需要的GPU卡及分區(qū),然后點擊【啟動實例】
也可以在購買容器頁面點擊【模型鏡像】,選擇需要的模型鏡像,進入部署好模型的容器。

三、打開jupyter文檔
創(chuàng)建實例運行成功后點擊【更多操作】-【查看信息】,獲取并復(fù)制jupyter密碼


獲取密碼后點擊jupyter,輸入復(fù)制的密碼


就可以進去到模型的jupyter文件頁面啦~例如選的是Stable diffusion模型,則點擊Stable Diffusion文件夾

四、啟動模型
點擊模型啟動ipynb格式文件,按教程點擊點擊上方 ?? 按鍵直接運行
點擊Restart,重啟內(nèi)核運行
看到顯示URL鏈接就說明模型啟動成功啦~
五、配置外網(wǎng)端口并外網(wǎng)打開
要留意一下哦!模型廣場web的一般是鏈接是0.0.0.0:8801,但是只能在內(nèi)網(wǎng)打開(也就是不能在您自己的電腦打開模型鏈接的意思),如果想外網(wǎng)分享鏈接,需要申請端口開放。返回控制臺,點擊【更多操作】-【設(shè)置端口】

內(nèi)網(wǎng)端口輸入8801,點擊【確認】,就會生成一個外網(wǎng)端口

再次點擊設(shè)置端口,就可以看到生成的外網(wǎng)端口,比如20403

這樣就可以在外網(wǎng)打開
如果看到遠程地址是183.47.51.183,那你就可以在自己的電腦瀏覽器輸入【183.47.51.183:20403】打開Web UI使用界面。

打開后,大家就可以在SD的世界里暢玩啦~記得先去找小助手薅羊毛,再來推理部署
-
AI
+關(guān)注
關(guān)注
88文章
35168瀏覽量
280128 -
人工智能
+關(guān)注
關(guān)注
1807文章
49029瀏覽量
249655 -
模型
+關(guān)注
關(guān)注
1文章
3521瀏覽量
50444
發(fā)布評論請先 登錄
如何在魔搭社區(qū)使用TensorRT-LLM加速優(yōu)化Qwen3系列模型推理部署
大模型推理顯存和計算量估計方法研究
基于RK3576開發(fā)板的RKLLM大模型部署教程

詳解 LLM 推理模型的現(xiàn)狀

中科馭數(shù)高性能網(wǎng)卡產(chǎn)品 成就DeepSeek推理模型網(wǎng)絡(luò)底座

?Diffusion生成式動作引擎技術(shù)解析
安裝OpenVINO?工具包穩(wěn)定擴散后報錯,怎么解決?
添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略
摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務(wù)
阿里云開源推理大模型QwQ
高效大模型的推理綜述

YOLOv6在LabVIEW中的推理部署(含源碼)

LLM大模型推理加速的關(guān)鍵技術(shù)
實操: 如何在AirBox上跑Stable Diffusion 3

評論