客服系統(tǒng)是企業(yè)與消費(fèi)者溝通的重要橋梁,然而傳統(tǒng)的人工客服存在著工資/培訓(xùn)成本高昂、數(shù)據(jù)收集和分析困難、難以全天候提供服務(wù)等痛點(diǎn)。
利用先進(jìn)的大語言模型構(gòu)建 AI 智能體并用于智能客服系統(tǒng),能夠提供更加自然、流暢的對話體驗(yàn),極大地提升用戶的滿意度和效率,實(shí)現(xiàn) 24/7 的無間斷服務(wù),并顯著降低企業(yè)在客服場景下的投入成本。
本篇教程將展示如何利用 MaaS(大模型即服務(wù)平臺)的 200w 免費(fèi) token 額度的滿血版 DeepSeek-R1 API 接入 Dify(開源 Agent 平臺)來實(shí)現(xiàn)快速的構(gòu)建 AI 對話機(jī)器人并嵌入在網(wǎng)頁頁面中。
操作指導(dǎo)
登錄 ModelArts Studio(MaaS)并領(lǐng)取免費(fèi)體驗(yàn)額度
1.1ModelArts Studio(MaaS)平臺介紹
ModelArts Studio(MaaS)作為華為云旗下的大模型即服務(wù)平臺,是一個面向客戶的適配昇騰芯片的大模型服務(wù)化平臺,提供簡單易用的模型開發(fā)工具鏈,支持大模型定制開發(fā),讓模型應(yīng)用與業(yè)務(wù)系統(tǒng)無縫接,致力于降低企業(yè) AI 落地的成本與難度。
使用 MaaS,會有以下三點(diǎn)優(yōu)勢:
無需自建服務(wù),即享開箱即用的高性能模型推理 API;
低門檻且易用的端到端模型開發(fā)工具鏈,為您的業(yè)務(wù)增速提效;
頭部開源大語言模型全覆蓋,完全統(tǒng)一的調(diào)用方式。
1.2 登錄 MaaS 領(lǐng)取單接口 200w 免費(fèi) Token
MaaS 提供了一系列可以 Severless 方式免費(fèi)調(diào)用的模型 API,每個用戶每個模型有 200 萬 Token 的免費(fèi)額度。
https://console.huaweicloud.com/modelarts/?locale=zh-cn?ion=cn-southwest-2#/model-studio/homepage 進(jìn)入上方鏈接,可進(jìn)入貴陽一區(qū)域的 MaaS 控制臺,然后點(diǎn)擊控制臺左側(cè)“模型部署”,找到想要使用的 DeepSeek 版本后點(diǎn)擊“領(lǐng)取”,領(lǐng)取成功后就可以開始體驗(yàn)使用了。
搭建網(wǎng)站智能客服
2.1 準(zhǔn)備工作
2.1.1Dify 平臺搭建
Dify 簡介:
Dify 是一個能力豐富的開源 AI 應(yīng)用開發(fā)平臺,為大型語言模型(LLM)應(yīng)用的開發(fā)而設(shè)計。它巧妙地結(jié)合了后端即服務(wù)(Backend as Service)和 LLMOps 的理念,提供了一套易用的界面和 API,加速了開發(fā)者構(gòu)建可擴(kuò)展的生成式 AI 應(yīng)用的過程。
基于 Flexus 云服務(wù)器 X 實(shí)例快速部署 Dify 平臺:該解決方案基于華為云 Flexus X 實(shí)例幫助開發(fā)者快速私有化部署開箱即用的 Dify LLM 應(yīng)用開發(fā)平臺,具體操作流程請訪問下方博客鏈接。https://bbs.huaweicloud.com/blogs/437138
登錄 Dify
部署完成后,首次登錄需注冊管理員賬號,依次填寫郵箱、賬號、密碼后保存設(shè)置后即可登錄使用。
至此,你已經(jīng)完成了 Dify 平臺的搭建,下一步將展示如何將 MaaS 平臺的模型服務(wù)接入 Dify 使用。
2.1.2MaaS 模型 API 接入 Dify
1)創(chuàng)建 API Key:
-訪問貴陽一區(qū)域的 MaaS 控制臺:
https://console.huaweicloud.com/modelarts/?locale=zh-cn?ion=cn-southwest-2#/model-studio/authmanage
-在 MaaS 左側(cè)導(dǎo)航欄中,選擇“鑒權(quán)管理”。
-在“鑒權(quán)管理”頁面,單擊“創(chuàng)建 API Key”,填寫描述信息后,單擊“確認(rèn)”會返回“您的密鑰”,請復(fù)制保存密鑰,單擊“關(guān)閉”后將無法再次查看密鑰。(注:最多支持創(chuàng)建 5 個密鑰,密鑰只會在新建后顯示一次,請妥善保存。當(dāng)密鑰丟失將無法找回,請新建 API Key 獲取新的訪問密鑰。
2)選擇常駐模型 API
點(diǎn)擊 MaaS 控制臺左側(cè)“模型部署”,找到已領(lǐng)取額度的模型服務(wù),然后點(diǎn)擊 “調(diào)用”。
在右側(cè)彈出界面中,可以查看到調(diào)用該服務(wù)需要的基礎(chǔ) API 地址和模型名稱信息。
3)配置 Dify 模型供應(yīng)商
點(diǎn)擊 Dify 界面右上角用戶頭像,選擇“設(shè)置”,選擇“模型供應(yīng)商”頁簽。
找到“OpenAI-API-compatible”供應(yīng)商,點(diǎn)擊添加模型。
在彈窗中,填入 MaaS 對應(yīng)的模型名稱、API Key、API Endpoint URL 等信息后保存配置。
模型名稱:MaaS 服務(wù)調(diào)用界面顯示的模型名稱
API Key:之前步驟中創(chuàng)建的貴陽一區(qū)域的 API Key
API Endpoint URL:之前步驟中 MaaS 服務(wù)的基礎(chǔ) API 地址,需要去掉地址尾部的“/chat/completions”后填入
Function calling:當(dāng)前 MaaS 預(yù)置服務(wù)中僅 Qwen2_5-7B-Instruct-1128、Qwen2_5-72B-Instruct-1128、Qwen2_5-72B-32K-1128 可以配置 Function calling 為”Tool Call”,其余服務(wù)暫不支持
2.2 Dify 中創(chuàng)建客服機(jī)器人
2.2.1知識庫創(chuàng)建
如果想讓智能客服能夠基于企業(yè)內(nèi)部的知識文檔進(jìn)行問答,可以在 Dify 中創(chuàng)建一個知識庫。Dify 能夠協(xié)助進(jìn)行數(shù)據(jù)的分段和清理工作。Dify 提供兩種索引方式:高質(zhì)量和經(jīng)濟(jì)。高質(zhì)量模式會使用 Embedding 和 Rerank 模型以在用戶查詢時提供更高的準(zhǔn)確度。本案例將使用經(jīng)濟(jì)進(jìn)行演示。
操作步驟如下:
選擇“知識庫頁簽”,點(diǎn)擊“創(chuàng)建知識庫”
在“選擇數(shù)據(jù)源”頁面上傳的知識文檔(可以同時上傳多個文本文件),選擇清洗方式后,點(diǎn)擊“保存并處理”。
2.2.2創(chuàng)建與調(diào)試客服機(jī)器人
在“工作室”頁簽下創(chuàng)建一個空白應(yīng)用,應(yīng)用類型選擇“Agent”,輸入名稱和描述進(jìn)入 AI 的編排頁面:
AI 人設(shè)設(shè)置:左上部“提示詞”處輸入 Prompt,可以設(shè)置該 AI 與用戶交談時的語氣和風(fēng)格。
智能客服提示詞示例:你是一個友好的智能客服助手,負(fù)責(zé)解答用戶提出的關(guān)于產(chǎn)品的問題、處理訂單、提供技術(shù)支持。當(dāng)用戶提出的問題你沒有找到合適答案的時候,要回答不知道。
讓 AI 基于內(nèi)部知識進(jìn)行回答:在“上下文”處添加上一步中創(chuàng)建的知識庫。
開場白配置:點(diǎn)擊右下角功能的“管理”打開功能開關(guān)。自定義用戶進(jìn)入界面后,AI 的開場問候語。
下一步問題建議配置:在“添加功能”處開啟此功能??苫跇I(yè)務(wù)場景設(shè)置 AI 對于用戶問題的指引。
完成以上配置后,點(diǎn)擊右上角“發(fā)布”菜單中“更新”保存設(shè)置。你可以在頁面右側(cè)窗口輸入 prompt 進(jìn)行效果調(diào)試。
2.2.3 客服機(jī)器人嵌入網(wǎng)頁前端頁面
在這一環(huán)節(jié),將把已經(jīng)構(gòu)建好的智能客服機(jī)器人嵌入到網(wǎng)站中,依次點(diǎn)擊“發(fā)布”>“嵌入網(wǎng)站”。Dify 支持全屏界面式、懸浮窗式、瀏覽器插件式三種方式的嵌入。我們以第二種為例,將下方的代碼復(fù)制到你網(wǎng)站
或標(biāo)簽中。
粘貼好后更新網(wǎng)站頁面,就可以與該客服機(jī)器人進(jìn)行對話了。
-
AI
+關(guān)注
關(guān)注
88文章
37043瀏覽量
290101 -
智能體
+關(guān)注
關(guān)注
1文章
362瀏覽量
11421 -
大模型
+關(guān)注
關(guān)注
2文章
3351瀏覽量
4720
發(fā)布評論請先 登錄
鴻蒙原生應(yīng)用開發(fā)也可以使用DeepSeek了
HarmonyOS NEXT開發(fā)實(shí)戰(zhàn):DevEco Studio中DeepSeek的使用
信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡(luò)智能診斷邁向 “自愈”時代
玩 High API 系列之:智能云相冊
使用 Canonical MAAS 部署 openEuler 測試
LLMOps平臺Dify.AI宣布46,558行代碼完全開源

在Dify中使用PerfXCloud大模型推理服務(wù)

軟通動力天璇MaaS融合DeepSeek-R1,引領(lǐng)企業(yè)智能化轉(zhuǎn)型
DeepSeek上調(diào)API服務(wù)價格
用友BIP+DeepSeek催生超級智能體:10分鐘構(gòu)建一個企業(yè)級智能助理

普強(qiáng)信息深思大模型全面接入DeepSeek 深度賦能智能座艙、智能客服
MaaS 應(yīng)用系列 MaaS X Cursor:基于 DeepSeek API 快速構(gòu)建代碼編輯器

MaaS X Cherry Studio:基于DeepSeek API快速構(gòu)建個人AI智能助手

評論