曰本美女∴一区二区特级A级黄色大片, 国产亚洲精品美女久久久久久2025, 页岩实心砖-高密市宏伟建材有限公司, 午夜小视频在线观看欧美日韩手机在线,国产人妻奶水一区二区,国产玉足,妺妺窝人体色WWW网站孕妇,色综合天天综合网中文伊,成人在线麻豆网观看

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AIGC系統(tǒng)中多個(gè)模型的切換調(diào)用方案探索

京東云 ? 來(lái)源:京東科技 賈玉龍 ? 作者:京東科技 賈玉龍 ? 2024-11-27 11:43 ? 次閱讀

作者:京東科技 賈玉龍

1 背景

1.1 現(xiàn)狀

AIGC系統(tǒng)中多個(gè)模型的切換調(diào)用通常指的是在同一個(gè)AIGC系統(tǒng)或應(yīng)用中,可以根據(jù)不同的輸入條件或任務(wù)需求,動(dòng)態(tài)地選擇并調(diào)用不同的機(jī)器學(xué)習(xí)模型進(jìn)行處理。是一個(gè)AIGC系統(tǒng)能力不可或缺的環(huán)節(jié)。

目前現(xiàn)行方案中,一般直接請(qǐng)求不同的會(huì)話聊天對(duì)應(yīng)不同的鏈接地址,又對(duì)應(yīng)不同的算法模型。

1.2 現(xiàn)有技術(shù)及缺點(diǎn)

1、需要建立多個(gè)不同類型的AIGC聊天窗口,對(duì)應(yīng)不同的鏈接,以對(duì)應(yīng)不同的模型;

2、無(wú)法直接動(dòng)態(tài)切換模型,交互流程復(fù)雜;

3、由于異步問(wèn)題,聊天窗中需要的初始化數(shù)據(jù)不能及時(shí)傳入。

2 方案目的

本問(wèn)通過(guò)統(tǒng)一AIGC聊天窗中不同的卡片模型傳值,來(lái)動(dòng)態(tài)切換不同聊天內(nèi)容對(duì)應(yīng)的模型;在用戶側(cè)交互上可以不用新建聊天窗口。

3 完整技術(shù)方案

3.1 方案原理

如下圖所示,聊天欄目“智能實(shí)驗(yàn)室”是外框DOM,紅色部分為子聊天窗體,子窗體中1、2、3等為三種聊天source類型的卡片,需要對(duì)應(yīng)算法的3種模型,每個(gè)模型的對(duì)話可以直接點(diǎn)擊切換,并且需要外框DOM傳入相應(yīng)的初始化數(shù)據(jù)。

wKgZO2dGlVeAGSPbAAN1ji89o54366.png

3.2 詳細(xì)描述

如下圖所示:

wKgZPGdGlViAUVO0AARtyHl1-rs167.png

當(dāng)用戶想使用對(duì)應(yīng)聊天功能進(jìn)行AIGC內(nèi)容生成時(shí),可選擇聊天窗對(duì)應(yīng)按鈕,聊天窗將對(duì)應(yīng)按鈕的source類型傳給外框DOM,外框DOM根據(jù)業(yè)務(wù)場(chǎng)景把對(duì)應(yīng)的初始化數(shù)據(jù)準(zhǔn)備好,一起再發(fā)給子聊天窗,然后把數(shù)據(jù)傳給算法模型引擎,算法模型引擎根據(jù)source及參數(shù)類型,切換對(duì)應(yīng)的模型來(lái)進(jìn)行內(nèi)容處理,然后返回生產(chǎn)的內(nèi)容給子聊天窗,子聊天窗再渲染展示給用戶。

4 總結(jié)

本方案里在AIGC的消息傳遞中,不直接發(fā)送不同初始化或不同相應(yīng)消息給大模型進(jìn)行識(shí)別,而是讓外框DOM做模型主調(diào)度和消息總控調(diào)度,以方便及時(shí)調(diào)用和傳入?yún)?shù)。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3471

    瀏覽量

    49869
  • AIGC
    +關(guān)注

    關(guān)注

    1

    文章

    382

    瀏覽量

    2100
收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    Linux內(nèi)核系統(tǒng)調(diào)用詳解

    Linux內(nèi)核設(shè)置了一組用于實(shí)現(xiàn)各種系統(tǒng)功能的子程序,稱為系統(tǒng)調(diào)用。用戶可以通過(guò)系統(tǒng)調(diào)用命令在
    發(fā)表于 08-23 10:37 ?923次閱讀
    Linux內(nèi)核<b class='flag-5'>中</b><b class='flag-5'>系統(tǒng)</b><b class='flag-5'>調(diào)用</b>詳解

    AIGC入門及鴻蒙入門

    ,參加知名的AIGC比賽也是提升技能和展示才華的好機(jī)會(huì)。鴻蒙系統(tǒng)作為華為推出的分布式操作系統(tǒng),具有廣泛的應(yīng)用前景和開(kāi)發(fā)潛力。通過(guò)學(xué)習(xí)鴻蒙系統(tǒng)的基礎(chǔ)知識(shí)和開(kāi)發(fā)實(shí)踐,開(kāi)發(fā)者可以掌握這一前沿
    發(fā)表于 01-13 10:32

    #新年新氣象,大家新年快樂(lè)!#AIGC入門及鴻蒙入門

    ,參加知名的AIGC比賽也是提升技能和展示才華的好機(jī)會(huì)。鴻蒙系統(tǒng)作為華為推出的分布式操作系統(tǒng),具有廣泛的應(yīng)用前景和開(kāi)發(fā)潛力。通過(guò)學(xué)習(xí)鴻蒙系統(tǒng)的基礎(chǔ)知識(shí)和開(kāi)發(fā)實(shí)踐,開(kāi)發(fā)者可以掌握這一前沿
    發(fā)表于 01-13 10:46

    LabVIEw調(diào)用多個(gè)simulink模型

    哥哥姐姐們,求助啊,小弟最近才開(kāi)始看LabVIEW,老師讓做個(gè)在一個(gè)LabVIEW的面板,通過(guò)下拉菜單來(lái)選擇加入不同的simulink模型的仿真信息,一個(gè)面板里面通過(guò)下拉菜單可以選擇顯示多個(gè)simulink
    發(fā)表于 07-20 10:37

    uCOS51 Proteus仿真調(diào)試任務(wù)切換時(shí)跑飛

    任務(wù)切換調(diào)用匯編函數(shù)(OSStartHighRdy()和OS_TASK_SW()),Step Over就會(huì)跑飛,進(jìn)入到函數(shù)里面,單步執(zhí)行時(shí)沒(méi)有問(wèn)題,任務(wù)切換也正確。
    發(fā)表于 04-21 00:56

    請(qǐng)問(wèn)UCOS任務(wù)切換調(diào)用OSTimeDlyHMSM延時(shí)函數(shù) 延時(shí)時(shí)間到了會(huì)立即返回嗎?

    UCOS 任務(wù)切換調(diào)用OSTimeDlyHMSM延時(shí)函數(shù),延時(shí)結(jié)束后會(huì)立即返回原來(lái)的任務(wù)嗎?比如說(shuō)這時(shí)候有更高優(yōu)先級(jí)的任務(wù)正在執(zhí)行,但是延時(shí)的時(shí)間到了,那么會(huì)立即返回嗎。還有一個(gè)問(wèn)題,比如我用
    發(fā)表于 03-30 01:05

    科技大廠競(jìng)逐AIGC,中國(guó)的ChatGPT在哪?

    來(lái)看,國(guó)內(nèi)大模型開(kāi)發(fā)廠商一是布局以大模型為基礎(chǔ)的通用對(duì)話、生成等能力;二是將其能力整合到搜索引擎、智能客服、智能音箱等產(chǎn)品線;三是通過(guò)能力調(diào)用為中小企業(yè)滿足具體場(chǎng)景落地需求?!倍瓡燥w
    發(fā)表于 03-03 14:28

    異構(gòu)無(wú)線網(wǎng)絡(luò)聯(lián)合切換調(diào)度和資源分配算法

    在宏蜂窩和微蜂窩并存的異構(gòu)無(wú)線網(wǎng)絡(luò),為了提高系統(tǒng)能效,提出了一種聯(lián)合切換調(diào)度和資源分配( JSRA)算法。首先,利用基于微基站睡眠的集中式切換調(diào)度算法(CUSA)來(lái)確定用戶的關(guān)聯(lián)基站
    發(fā)表于 01-08 14:41 ?0次下載
    異構(gòu)無(wú)線網(wǎng)絡(luò)聯(lián)合<b class='flag-5'>切換調(diào)</b>度和資源分配算法

    如何結(jié)合使用系統(tǒng)級(jí)和詳細(xì)模型來(lái)探索設(shè)計(jì)空間

    在設(shè)計(jì)電源轉(zhuǎn)換器時(shí),可以使用仿真模型來(lái)幫助權(quán)衡多個(gè)設(shè)計(jì)標(biāo)準(zhǔn)。簡(jiǎn)單的基于開(kāi)關(guān)的有源器件模型用于快速仿真,從而獲得更多工程洞察力。但是,簡(jiǎn)單的設(shè)備模型不會(huì)像詳細(xì)的制造商設(shè)備
    發(fā)表于 09-11 09:19 ?626次閱讀
    如何結(jié)合使用<b class='flag-5'>系統(tǒng)</b>級(jí)和詳細(xì)<b class='flag-5'>模型</b>來(lái)<b class='flag-5'>探索</b>設(shè)計(jì)空間

    AIGC是什么 AIGC有哪些應(yīng)用價(jià)值

    AIGC 即 AI Generated Content,利用人工智能技術(shù)來(lái)生成內(nèi)容,它被認(rèn)為是繼PGC、UGC之后的新型內(nèi)容創(chuàng)作方式。2022年AIGC高速發(fā)展,這其中深度學(xué)習(xí)模型不斷完善、開(kāi)源模式的推動(dòng)、大
    的頭像 發(fā)表于 11-17 09:24 ?1.3w次閱讀

    Linux系統(tǒng)調(diào)用是怎樣實(shí)現(xiàn)

    系統(tǒng)調(diào)用和普通的函數(shù)調(diào)用沒(méi)有本質(zhì)區(qū)別,普通的函數(shù)調(diào)用一般調(diào)用的是我們自己編寫(xiě)的函數(shù)或者其它庫(kù)函數(shù),而系統(tǒng)
    的頭像 發(fā)表于 02-15 11:40 ?1452次閱讀
    Linux<b class='flag-5'>中</b>的<b class='flag-5'>系統(tǒng)</b><b class='flag-5'>調(diào)用</b>是怎樣實(shí)現(xiàn)

    軟國(guó)際解放號(hào)入選中國(guó)信通院《2023大模型AIGC產(chǎn)業(yè)圖譜》

    7月7日,2023世界人工智能大會(huì)(WAIC)期間,中國(guó)信息通信研究院正式發(fā)布《2023大模型AIGC產(chǎn)業(yè)圖譜》(以下簡(jiǎn)稱“圖譜”)。軟國(guó)際解放號(hào)憑借多年積累的人工智能技術(shù)能力,以及數(shù)據(jù)治理
    的頭像 發(fā)表于 07-11 18:05 ?784次閱讀

    系統(tǒng)調(diào)用:用戶棧與內(nèi)核棧的切換(上)

    sysenter / sysexit 再到 syscall / sysret 實(shí)現(xiàn)方式的轉(zhuǎn)變,關(guān)于具體的演化和區(qū)別、系統(tǒng)調(diào)用的其他細(xì)節(jié)等將在以后的系統(tǒng)調(diào)用專欄里分析。本文從
    的頭像 發(fā)表于 07-31 11:27 ?1149次閱讀
    <b class='flag-5'>系統(tǒng)</b><b class='flag-5'>調(diào)用</b>:用戶棧與內(nèi)核棧的<b class='flag-5'>切換</b>(上)

    aigc是什么概念?aigc的應(yīng)用場(chǎng)景

    新的概念和工具,旨在加速機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的發(fā)展,提高人工智能在各個(gè)領(lǐng)域的應(yīng)用效率和質(zhì)量。AIGC可以幫助開(kāi)發(fā)人員在從數(shù)據(jù)到模型的整個(gè)過(guò)程,更快、更準(zhǔn)確地進(jìn)行模型選擇、測(cè)試和優(yōu)化,將
    的頭像 發(fā)表于 08-21 17:16 ?8031次閱讀

    AIGC是什么及其應(yīng)用 AIGC的定義和工作原理

    AIGC的定義 AIGC是一種新興的技術(shù)領(lǐng)域,它結(jié)合了機(jī)器學(xué)習(xí)、自然語(yǔ)言處理(NLP)、計(jì)算機(jī)視覺(jué)和音頻處理等多個(gè)子領(lǐng)域。AIGC的目標(biāo)是使計(jì)算機(jī)能夠理解、生成和編輯內(nèi)容,就像人類一樣
    的頭像 發(fā)表于 11-22 16:00 ?3394次閱讀