曰本美女∴一区二区特级A级黄色大片, 国产亚洲精品美女久久久久久2025, 页岩实心砖-高密市宏伟建材有限公司, 午夜小视频在线观看欧美日韩手机在线,国产人妻奶水一区二区,国产玉足,妺妺窝人体色WWW网站孕妇,色综合天天综合网中文伊,成人在线麻豆网观看

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

浪潮信息發(fā)布“源”Yuan-EB助力RAG檢索精度新高

浪潮AIHPC ? 來(lái)源:浪潮AIHPC ? 2024-11-26 13:54 ? 次閱讀

近日,浪潮信息發(fā)布 “源”Yuan-EB(Yuan-embedding-1.0,嵌入模型),在C-MTEB榜單中斬獲檢索任務(wù)第一名,以78.41的平均精度刷新大模型RAG檢索最高成績(jī),將基于元腦企智EPAI為構(gòu)建企業(yè)知識(shí)庫(kù)提供更高效、精準(zhǔn)的知識(shí)向量化能力支撐,助力用戶使用領(lǐng)先的RAG技術(shù)加速企業(yè)知識(shí)資產(chǎn)的價(jià)值釋放。

2a0c093e-a659-11ef-93f3-92fbcf53809c.png

“源”Yuan-EB 在HuggingFace的C-MTEB榜單中排名第一

Yuan-EB(版本號(hào)Yuan-embedding-1.0) 是專為增強(qiáng)中文文本檢索能力而設(shè)計(jì)的嵌入模型(也稱Embedding模型),在 “源2.0” 大模型的工作基礎(chǔ)上,創(chuàng)新性地采用了“源2.0-M32”大模型進(jìn)行數(shù)據(jù)重寫與合成,并通過(guò)索引技術(shù)、樣本排序等系列方法完成高質(zhì)量微調(diào)數(shù)據(jù)集構(gòu)建,能夠有效提升RAG系統(tǒng)的檢索精度。

C-MTEB是目前業(yè)內(nèi)最權(quán)威的嵌入模型測(cè)試榜單。其中,檢索任務(wù)(Retrieval)是檢索增強(qiáng)生成(RAG)場(chǎng)景下最為重要、應(yīng)用最廣泛的任務(wù)能力,考察的是Embedding模型從大量的數(shù)據(jù)集中找到并返回與給定查詢最相關(guān)或最匹配的信息的過(guò)程?!霸础盰uan-EB基于該任務(wù)提供的醫(yī)療、新聞、電商、娛樂(lè)等8個(gè)中文文本數(shù)據(jù)集,實(shí)現(xiàn)了業(yè)界領(lǐng)先的海量文本檢索精度。

2a18dba0-a659-11ef-93f3-92fbcf53809c.png

C-MTEB榜單Retrieval任務(wù)提供8個(gè)測(cè)試數(shù)據(jù)集

“源” Yuan-EB 助力RAG檢索精度新高

嵌入模型在RAG流程中扮演著關(guān)鍵角色,它能夠?qū)?fù)雜的高維數(shù)據(jù)(例如文本、圖像或音頻)轉(zhuǎn)換為機(jī)器可理解的向量形式,直接決定了RAG檢索的精準(zhǔn)性和效率。

2a3da4ee-a659-11ef-93f3-92fbcf53809c.png

“源”Yuan-EB通過(guò)數(shù)據(jù)準(zhǔn)備與模型微調(diào)兩個(gè)方面的技術(shù)創(chuàng)新,實(shí)現(xiàn)了模型精度的大幅提升:

■ 在數(shù)據(jù)方面,基于“源2.0”微調(diào)階段的問(wèn)答數(shù)據(jù)進(jìn)行清洗與篩選,構(gòu)建問(wèn)題(query)與文本(corpus)數(shù)據(jù)集;使用“源2.0-M32”對(duì)C-MTEB 訓(xùn)練數(shù)據(jù)進(jìn)行重寫與合成,通過(guò)索引技術(shù)與排序模型進(jìn)行高效的難負(fù)樣本提取,完成大規(guī)模難負(fù)例樣本挖掘,形成高質(zhì)量微調(diào)數(shù)據(jù)集;

■ 在微調(diào)方面,通過(guò)兩個(gè)階段的領(lǐng)先微調(diào)方法實(shí)現(xiàn)模型能力提升。第一階段,使用各個(gè)領(lǐng)域(醫(yī)療、新聞、長(zhǎng)文本、娛樂(lè)等方向)的大規(guī)模數(shù)據(jù)進(jìn)行對(duì)比學(xué)習(xí)訓(xùn)練;第二階段,采用“源2.0-M32”生成的合成數(shù)據(jù)進(jìn)一步微調(diào),并使用MRL方法完成“源”Yuan-EB訓(xùn)練;

“源”Yuan-EB為用戶提供了大模型企業(yè)知識(shí)庫(kù)應(yīng)用開發(fā)的最優(yōu)模型選擇,能夠在 RAG流程的多個(gè)方面起到顯著的精度提升,包括信息檢索的準(zhǔn)確性、處理大規(guī)模數(shù)據(jù)的效率、消除語(yǔ)義歧義、降低計(jì)算成本、增強(qiáng)對(duì)長(zhǎng)文檔的處理能力以及模型魯棒性等,最大化提升RAG流程的整體性能和應(yīng)用效果。

元腦企智EPAI集成“源”Yuan-EB,加速知識(shí)庫(kù)構(gòu)建與性能提升

目前,“源”Yuan-EB已經(jīng)在開源社區(qū)和企業(yè)大模型開發(fā)平臺(tái)元腦企智EPAI中全面開放下載。用戶可以在元腦企智EPAI平臺(tái)中快速使用“源”Yuan-EB,并結(jié)合EPAI自研的多階段RAG技術(shù),零代碼、低成本地基于企業(yè)數(shù)據(jù)構(gòu)建大模型知識(shí)庫(kù)應(yīng)用。

企業(yè)大模型開發(fā)平臺(tái)“元腦企智”EPAI(Enterprise Platform of AI),是浪潮信息為企業(yè)AI大模型落地應(yīng)用打造的高效、易用、安全的端到端開發(fā)平臺(tái),提供數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、知識(shí)檢索、應(yīng)用框架等系列工具,支持調(diào)度多元算力和多模算法,幫助企業(yè)高效開發(fā)部署生成式AI應(yīng)用、打造智能生產(chǎn)力。

元腦企智EPAI已經(jīng)支持超過(guò)13種類型文檔的信息識(shí)別與提取,結(jié)合創(chuàng)新的多級(jí)混合檢索策略,有效提升元腦企智EPAI在管理、解析、檢索知識(shí)庫(kù)與生成內(nèi)容方面的最終效果,幫助企業(yè)用戶實(shí)現(xiàn)基于私有數(shù)據(jù)、行業(yè)數(shù)據(jù)下的精準(zhǔn)檢索、精準(zhǔn)問(wèn)答,確保專業(yè)場(chǎng)景下大模型生成內(nèi)容的準(zhǔn)確性和可靠性,加速大模型創(chuàng)新力釋放。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 浪潮
    +關(guān)注

    關(guān)注

    1

    文章

    474

    瀏覽量

    24389
  • 開源
    +關(guān)注

    關(guān)注

    3

    文章

    3543

    瀏覽量

    43344
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2961

    瀏覽量

    3711

原文標(biāo)題:浪潮信息發(fā)布“源”Yuan-EB,刷新大模型RAG檢索精度紀(jì)錄!

文章出處:【微信號(hào):浪潮AIHPC,微信公眾號(hào):浪潮AIHPC】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    【「基于大模型的RAG應(yīng)用開發(fā)與優(yōu)化」閱讀體驗(yàn)】+Embedding技術(shù)解讀

    理和理解這些數(shù)據(jù)。在自然語(yǔ)言處理中,Embedding常用于將文本數(shù)據(jù)中的單詞、句子或文檔映射為固定長(zhǎng)度的實(shí)數(shù)向量,這些向量包含了豐富的語(yǔ)義信息RAG技術(shù)是一種結(jié)合信息檢索與文本生成
    發(fā)表于 01-17 19:53

    浪潮信息與智研究院攜手共建大模型多元算力生態(tài)

    近日,浪潮信息與北京智人工智能研究院正式簽署戰(zhàn)略合作協(xié)議,雙方將緊密合作,共同構(gòu)建大模型多元算力開源創(chuàng)新生態(tài)。 此次合作旨在提升大模型創(chuàng)新研發(fā)的算力效率,降低大模型應(yīng)用開發(fā)的算力門檻,推動(dòng)
    的頭像 發(fā)表于 12-31 11:49 ?489次閱讀

    浪潮信息與智研究院達(dá)成戰(zhàn)略合作協(xié)議

    近日,浪潮信息與智研究院達(dá)成戰(zhàn)略合作協(xié)議,雙方將緊密協(xié)作共建大模型多元算力開源創(chuàng)新生態(tài),提升大模型創(chuàng)新研發(fā)的算力效率,降低大模型應(yīng)用開發(fā)的算力門檻。目前,智Triton算子庫(kù)FlagGems已
    的頭像 發(fā)表于 12-26 10:25 ?439次閱讀

    浪潮信息發(fā)布""Yuan-EB,刷新RAG檢索最高成績(jī)

    檢索任務(wù)的第一名,以78.41的平均精度刷新了大模型RAG檢索的最高成績(jī)。 ""Yuan-EB
    的頭像 發(fā)表于 12-25 15:54 ?424次閱讀

    借助浪潮信息元腦企智EPAI高效創(chuàng)建大模型RAG

    生成能力,提高生成質(zhì)量和可靠性。但企業(yè)構(gòu)建知識(shí)檢索系統(tǒng)并非易事,通常面臨開發(fā)門檻高、生成內(nèi)容差等難題。而借助浪潮信息元腦企智EPAI企業(yè)大模型開發(fā)平臺(tái),企業(yè)僅需三步即可高效創(chuàng)建大模型RAG,讓企業(yè)內(nèi)部積累的大量數(shù)據(jù)得到有效利用,
    的頭像 發(fā)表于 12-19 14:32 ?559次閱讀
    借助<b class='flag-5'>浪潮信息</b>元腦企智EPAI高效創(chuàng)建大模型<b class='flag-5'>RAG</b>

    浪潮信息AI存儲(chǔ)性能測(cè)試的領(lǐng)先之道

    MLCommons,一個(gè)致力于推動(dòng)全球 AI系統(tǒng)發(fā)展的頂級(jí)工程聯(lián)盟,匯聚了包括谷歌、斯坦福大學(xué)在內(nèi)的眾多頂尖企業(yè)和研究機(jī)構(gòu)。作為該聯(lián)盟的創(chuàng)始成員之一,浪潮信息自2020年起便積極參與其中,共同探索
    的頭像 發(fā)表于 10-29 16:30 ?536次閱讀
    <b class='flag-5'>浪潮信息</b>AI存儲(chǔ)性能測(cè)試的領(lǐng)先之道

    浪潮信息源2.0大模型與百度PaddleNLP全面適配

    近日,浪潮信息宣布其開源大模型2.0已全面適配百度PaddleNLP。這一舉措標(biāo)志著大模型開發(fā)生態(tài)正加速進(jìn)化,為用戶提供了更加便捷、高效的大模型應(yīng)用體驗(yàn)。
    的頭像 發(fā)表于 10-17 18:15 ?831次閱讀

    浪潮信息:元腦企智EPAI助力金融大模型快速落地

    浪潮信息在AI算力底座建設(shè)、大模型開發(fā)領(lǐng)域積累的成熟、成功經(jīng)驗(yàn)工具化,助力金融機(jī)構(gòu)又快、又穩(wěn)地部署生成式AI應(yīng)用,助力金融數(shù)智化跨越式發(fā)展。
    的頭像 發(fā)表于 09-20 16:07 ?593次閱讀
    <b class='flag-5'>浪潮信息</b>:元腦企智EPAI<b class='flag-5'>助力</b>金融大模型快速落地

    浪潮信息推出AIGC存儲(chǔ)解決方案

    近日,在科技創(chuàng)新的浪潮中,浪潮信息成功舉辦了“元腦中國(guó)行”全國(guó)巡展的杭州站活動(dòng),此次盛會(huì)不僅匯聚了業(yè)界的精英與目光,更見證了浪潮信息在AIGC(人工智能生成內(nèi)容)領(lǐng)域的一次重大突破。會(huì)上,浪潮
    的頭像 發(fā)表于 07-03 11:16 ?1025次閱讀

    浪潮信息重磅發(fā)布2.0-M32”開源大模型

    浪潮信息近日發(fā)布了一款全新的開源大模型——“2.0-M32”。這款大模型在“2.0”系列大模型的基礎(chǔ)上,進(jìn)行了深度的技術(shù)創(chuàng)新與升級(jí)。
    的頭像 發(fā)表于 06-05 14:50 ?964次閱讀

    浪潮信息與北京伙伴共筑AI新生態(tài)

    近日,2024浪潮信息區(qū)域ISP伙伴戰(zhàn)略簽約儀式在京圓滿落幕。此次盛會(huì),浪潮信息與航天星橋、中天瑞合、圣世博泰、浩然泰同、浩普誠(chéng)華、眾創(chuàng)佳業(yè)等20家北京元腦生態(tài)伙伴共襄盛舉,簽署了戰(zhàn)略合作協(xié)議。
    的頭像 發(fā)表于 05-31 11:33 ?986次閱讀

    浪潮信息發(fā)布2.0-M32開源大模型,模算效率大幅提升

    5月28日,浪潮信息發(fā)布2.0-M32”開源大模型?!?b class='flag-5'>源2.0-M32”在基于”2.0”系列大模型已有工作基礎(chǔ)上,創(chuàng)新性地提出和采用了
    的頭像 發(fā)表于 05-29 09:34 ?661次閱讀
    <b class='flag-5'>浪潮信息</b><b class='flag-5'>發(fā)布</b><b class='flag-5'>源</b>2.0-M32開源大模型,模算效率大幅提升

    浪潮信息發(fā)布2.0-M32”開源大模型

    浪潮信息近日推出了革命性的“2.0-M32”開源大模型。該模型在2.0系列基礎(chǔ)上,引入了“基于注意力機(jī)制的門控網(wǎng)絡(luò)”技術(shù),構(gòu)建了一個(gè)包含32個(gè)專家的混合專家模型(MoE),有效提升了模型算力效率。
    的頭像 發(fā)表于 05-29 09:08 ?852次閱讀

    浪潮信息發(fā)布AS13000G7-N系列分布式全閃存儲(chǔ)

    浪潮信息近日推出了專為大型AI模型優(yōu)化的AS13000G7-N系列分布式全閃存儲(chǔ)。該系列基于浪潮信息自研的分布式文件系統(tǒng),結(jié)合新一代數(shù)據(jù)加速引擎DataTurbo,為用戶提供卓越的存儲(chǔ)解決方案。
    的頭像 發(fā)表于 05-14 10:03 ?802次閱讀

    【中心動(dòng)態(tài)】 走進(jìn)浪潮信息

    5月8日,RISC-V國(guó)際人才培養(yǎng)認(rèn)證中心主任蔣學(xué)剛一行,到訪浪潮電子信息產(chǎn)業(yè)股份有限公司(以下簡(jiǎn)稱“浪潮信息”),受到深圳區(qū)域副總經(jīng)理段青云、產(chǎn)品經(jīng)理陶耀民的熱情接待。浪潮信息是全球
    的頭像 發(fā)表于 05-13 17:42 ?717次閱讀
    【中心動(dòng)態(tài)】 走進(jìn)<b class='flag-5'>浪潮信息</b>