chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

百度飛槳登頂圖神經(jīng)網(wǎng)絡(luò)權(quán)威榜單3項(xiàng)榜首,重磅推出UniMP

電子設(shè)計(jì) ? 來(lái)源:電子設(shè)計(jì) ? 作者:電子設(shè)計(jì) ? 2020-12-08 23:29 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

百度又有“大動(dòng)作”?9月18日,百度正式公布在圖神經(jīng)網(wǎng)絡(luò)領(lǐng)域取得新突破,提出融合標(biāo)簽傳遞和圖神經(jīng)網(wǎng)絡(luò)的統(tǒng)一模型 UniMP(Unified Message Passing),在圖神經(jīng)網(wǎng)絡(luò)權(quán)威榜單 OGB(Open Graph Benchmark)取得多項(xiàng)榜首,引發(fā)業(yè)界關(guān)注。

Leaderboard for ogbn-products

Leaderboard for ogbn-proteins

Leaderboard for ogbn-arxiv

圖神經(jīng)網(wǎng)絡(luò)最權(quán)威榜單 OGB

圖神經(jīng)網(wǎng)絡(luò)是用于圖結(jié)構(gòu)數(shù)據(jù)的深度學(xué)習(xí)架構(gòu),將端到端學(xué)習(xí)與歸納推理相結(jié)合,有望解決傳統(tǒng)深度學(xué)習(xí)無(wú)法處理的因果推理、可解釋性等問(wèn)題,是非常有潛力的人工智能研究方向。但是,這個(gè)領(lǐng)域一直缺乏規(guī)模比較大且認(rèn)可度較高的數(shù)據(jù)集。目前大量的論文仍然在 Cora、PubMed、Citeseer 等小數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),實(shí)驗(yàn)的效果也沒(méi)有普適性。在此情況下,OGB(Open Graph Benchmark)應(yīng)運(yùn)而生:

權(quán)威性高:OGB 是由斯坦福大學(xué)圖神經(jīng)網(wǎng)絡(luò)權(quán)威 Jure Leskovec 教授團(tuán)隊(duì)建立的大規(guī)模圖學(xué)習(xí)任務(wù)的評(píng)測(cè)基準(zhǔn)數(shù)據(jù)集,指導(dǎo)委員會(huì)包含 Yoshua Bengio、Will Hamilton、Max Welling 等業(yè)界大牛。Jure Leskovec 教授在 NeurlPS 2019大會(huì)的演講中正式對(duì)外發(fā)布 OGB 并開(kāi)源,是目前公認(rèn)最權(quán)威的圖學(xué)習(xí)相關(guān)基準(zhǔn)測(cè)試數(shù)據(jù)集。
數(shù)據(jù)豐富:OGB 面向不同的圖學(xué)習(xí)任務(wù)(包括節(jié)點(diǎn)分類(lèi),邊預(yù)測(cè),圖分類(lèi))分別提供了多個(gè)數(shù)據(jù)集,如學(xué)術(shù)引用網(wǎng)絡(luò)、知識(shí)圖譜、分子圖、生物網(wǎng)絡(luò)等。其中最熱門(mén)的三個(gè)半監(jiān)督節(jié)點(diǎn)分類(lèi)數(shù)據(jù)集:商品推薦 ogbn-products、論文引用 ogbn-arxiv 和化學(xué)分子 ogbn-proteins,對(duì)圖神經(jīng)網(wǎng)絡(luò)研究者有極強(qiáng)的吸引力。
奪榜激烈:OGB 吸引了包括斯坦福、紐約大學(xué)、加州大學(xué)洛杉磯分校、康奈爾大學(xué)、亞馬遜等多個(gè)機(jī)構(gòu)參與打榜;榜單上也誕生了層出不窮的新穎圖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),如堆積112層的深度圖卷積網(wǎng)絡(luò) DeeperGCN,發(fā)表在 ICML 2020的多層圖網(wǎng)絡(luò) GCNII,還有多種形式不同的圖采樣算法
近日,百度 PGL 團(tuán)隊(duì)創(chuàng)新提出統(tǒng)一消息傳遞圖神經(jīng)網(wǎng)絡(luò)模型 UniMP,在三大半監(jiān)督節(jié)點(diǎn)分類(lèi)數(shù)據(jù)集均榮登榜首。榜單上放出的開(kāi)源代碼與論文地址如下:

UniMP開(kāi)源代碼地址
https://github.com/PaddlePadd...

UniMP論文地址
https://arxiv.org/pdf/2009.03...

UniMP:統(tǒng)一消息傳遞模型

在半監(jiān)督圖節(jié)點(diǎn)分類(lèi)場(chǎng)景下,節(jié)點(diǎn)之間通過(guò)邊相連接,部分節(jié)點(diǎn)被打上標(biāo)簽。任務(wù)要求模型通過(guò)監(jiān)督學(xué)習(xí)的方式,擬合被標(biāo)注節(jié)點(diǎn)數(shù)據(jù),并對(duì)未標(biāo)注的節(jié)點(diǎn)進(jìn)行預(yù)測(cè)。如下圖所示,在一般機(jī)器學(xué)習(xí)的問(wèn)題上,已標(biāo)注的訓(xùn)練數(shù)據(jù)在新數(shù)據(jù)的推斷上,并不能發(fā)揮直接的作用,因?yàn)閿?shù)據(jù)的輸入是獨(dú)立的。然而在圖神經(jīng)網(wǎng)絡(luò)的場(chǎng)景下,已有的標(biāo)注數(shù)據(jù)可以從節(jié)點(diǎn)與節(jié)點(diǎn)的連接中,根據(jù)圖結(jié)構(gòu)關(guān)系推廣到新的未標(biāo)注數(shù)據(jù)中。

一般應(yīng)用于半監(jiān)督節(jié)點(diǎn)分類(lèi)的算法分為圖神經(jīng)網(wǎng)絡(luò)和標(biāo)簽傳遞算法兩類(lèi),它們都是通過(guò)消息傳遞的方式(前者傳遞特征、后者傳遞標(biāo)簽)進(jìn)行節(jié)點(diǎn)標(biāo)簽的學(xué)習(xí)和預(yù)測(cè)。其中經(jīng)典標(biāo)簽傳遞算法如 LPA,只考慮了將標(biāo)簽在圖上進(jìn)行傳遞,而圖神經(jīng)網(wǎng)絡(luò)算法大多也只是使用了節(jié)點(diǎn)特征以及圖的鏈接信息進(jìn)行分類(lèi)。但是單純考慮標(biāo)簽傳遞或者節(jié)點(diǎn)特征都是不足夠的。

百度 PGL 團(tuán)隊(duì)提出的統(tǒng)一消息傳遞模型 UniMP,將上述兩種消息統(tǒng)一到框架中,同時(shí)實(shí)現(xiàn)了節(jié)點(diǎn)的特征與標(biāo)簽傳遞,顯著提升了模型的泛化效果。UniMP 以 Graph Transformer 模型作為基礎(chǔ)骨架,聯(lián)合使用標(biāo)簽嵌入方法,將節(jié)點(diǎn)特征和部分節(jié)點(diǎn)標(biāo)簽同時(shí)輸入至模型中,從而實(shí)現(xiàn)了節(jié)點(diǎn)特征和標(biāo)簽的同時(shí)傳遞。

簡(jiǎn)單的加入標(biāo)簽信息會(huì)帶來(lái)標(biāo)簽泄漏的問(wèn)題,即標(biāo)簽信息即是特征又是訓(xùn)練目標(biāo)。實(shí)際上,標(biāo)簽大部分是有順序的,例如在引用網(wǎng)絡(luò)中,論文是按照時(shí)間先后順序出現(xiàn)的,其標(biāo)簽也應(yīng)該有一定的先后順序。在無(wú)法得知訓(xùn)練集標(biāo)簽順序的情況下,UniMP 提出了標(biāo)簽掩碼學(xué)習(xí)方法。UniMP 每一次隨機(jī)將一定量的節(jié)點(diǎn)標(biāo)簽掩碼為未知,用部分已有的標(biāo)注信息、圖結(jié)構(gòu)信息以及節(jié)點(diǎn)特征來(lái)還原訓(xùn)練數(shù)據(jù)的標(biāo)簽。最終,UniMP 在 OGB 上取得 SOTA 效果,并在論文的消融實(shí)驗(yàn)上,驗(yàn)證了方法的有效性。

屠榜背后:飛槳圖學(xué)習(xí)框架 PGL 加持

UniMP 基于飛槳圖學(xué)習(xí)框架 PGL(Paddle Graph Learning)實(shí)現(xiàn),依托飛槳核心框架以及自研的圖引擎。PGL 支持十億節(jié)點(diǎn)百億邊的超巨圖訓(xùn)練,原生支持異構(gòu)圖 Metapath 采樣以及 Message Passing 雙模式,預(yù)置多種業(yè)界主流圖學(xué)習(xí)算法以及自研模型如 ERNIESage、UniMP 等,方便開(kāi)發(fā)者熟悉和使用圖神經(jīng)網(wǎng)絡(luò)領(lǐng)域模型。

飛槳 PGL 已經(jīng)在搜索、廣告、信息流、金融風(fēng)控、貼吧、用戶畫(huà)像、智能地圖等場(chǎng)景全面落地,可支持百億巨圖場(chǎng)景。圖學(xué)習(xí)作為通用人工智能算法之一,勢(shì)必成為這個(gè)時(shí)代新的基礎(chǔ)設(shè)施,賦能各行各業(yè),助燃智能經(jīng)濟(jì)騰飛。

PGL 獲得喜人成績(jī),背后離不開(kāi)強(qiáng)有力的后盾——飛槳。飛槳是我國(guó)首個(gè)開(kāi)源開(kāi)放、功能完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái),向下對(duì)接芯片,能夠和芯片進(jìn)行軟硬一體的優(yōu)化,向上支撐各種應(yīng)用,助力技術(shù)創(chuàng)新和業(yè)務(wù)發(fā)展,可以說(shuō)是“智能時(shí)代的操作系統(tǒng)”。近期,飛槳?jiǎng)討B(tài)圖和 API 體系全面升級(jí),讓開(kāi)發(fā)者可以更便捷地開(kāi)發(fā)、更高效地部署模型。

百度希望有志之士加入 PGL,一起共建未來(lái)。PGL 代碼完全開(kāi)源開(kāi)放,歡迎歡迎開(kāi)發(fā)者們使用并貢獻(xiàn)您的奇思妙想。如果您覺(jué)得還不錯(cuò),歡迎“Star”;如果您有意見(jiàn)需要交流,歡迎“Issue”,PGL 開(kāi)源代碼和入門(mén)教程鏈接:

PGL 開(kāi)源代碼
https://github.com/PaddlePadd...
圖學(xué)習(xí)入門(mén)教程
https://aistudio.baidu.com/ai...

審核編輯:符乾江

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 百度
    +關(guān)注

    關(guān)注

    9

    文章

    2335

    瀏覽量

    92244
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49029

    瀏覽量

    249607
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    百度地圖重磅發(fā)布地圖AI開(kāi)放平臺(tái)

    近日,在WGDC25全球時(shí)空智能大會(huì)上,百度地圖重磅發(fā)布地圖AI開(kāi)放平臺(tái)。百度地圖深耕20年的數(shù)據(jù)能力、引擎能力與AI技術(shù)全面開(kāi)放,向開(kāi)發(fā)者深度開(kāi)放四大核心能力和五大場(chǎng)景解決方案。
    的頭像 發(fā)表于 05-26 11:26 ?581次閱讀

    百度框架3.0正式版發(fā)布

    大模型訓(xùn)練成本高?推理效率低?硬件適配難? 4月1日,百度發(fā)布 框架3.0正式版 !五大特性專(zhuān)為大模型設(shè)計(jì)。 作為大模型時(shí)代的Infra“基礎(chǔ)設(shè)施”,深度學(xué)習(xí)框架的重要性愈發(fā)凸顯,大模型訓(xùn)練
    的頭像 發(fā)表于 04-02 19:03 ?727次閱讀
    <b class='flag-5'>百度</b><b class='flag-5'>飛</b><b class='flag-5'>槳</b>框架3.0正式版發(fā)布

    沐曦曦云C500通用計(jì)算GPU與百度完成Ⅱ級(jí)兼容性測(cè)試

    近日,沐曦曦云C500通用計(jì)算GPU與百度已完成Ⅱ級(jí)兼容性測(cè)試。測(cè)試結(jié)果顯示,雙方兼容性表現(xiàn)良好,整體運(yùn)行穩(wěn)定。這是沐曦加入“硬件生
    的頭像 發(fā)表于 03-31 14:22 ?840次閱讀

    BP神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的比較

    BP神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)在多個(gè)方面存在顯著差異,以下是對(duì)兩者的比較: 一、結(jié)構(gòu)特點(diǎn) BP神經(jīng)網(wǎng)絡(luò) : BP神經(jīng)網(wǎng)絡(luò)是一種多層的前饋神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 02-12 15:53 ?673次閱讀

    什么是BP神經(jīng)網(wǎng)絡(luò)的反向傳播算法

    BP神經(jīng)網(wǎng)絡(luò)的反向傳播算法(Backpropagation Algorithm)是一種用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的有效方法。以下是關(guān)于BP神經(jīng)網(wǎng)絡(luò)的反向傳播算法的介紹: 一、基本概念 反向傳播算法是BP
    的頭像 發(fā)表于 02-12 15:18 ?775次閱讀

    BP神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)的關(guān)系

    BP神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)之間存在著密切的關(guān)系,以下是對(duì)它們之間關(guān)系的介紹: 一、BP神經(jīng)網(wǎng)絡(luò)的基本概念 BP神經(jīng)網(wǎng)絡(luò),即反向傳播神經(jīng)網(wǎng)絡(luò)(Backpropagation Neural N
    的頭像 發(fā)表于 02-12 15:15 ?863次閱讀

    人工神經(jīng)網(wǎng)絡(luò)的原理和多種神經(jīng)網(wǎng)絡(luò)架構(gòu)方法

    在上一篇文章中,我們介紹了傳統(tǒng)機(jī)器學(xué)習(xí)的基礎(chǔ)知識(shí)和多種算法。在本文中,我們會(huì)介紹人工神經(jīng)網(wǎng)絡(luò)的原理和多種神經(jīng)網(wǎng)絡(luò)架構(gòu)方法,供各位老師選擇。 01 人工神經(jīng)網(wǎng)絡(luò) ? 人工神經(jīng)網(wǎng)絡(luò)模型之所
    的頭像 發(fā)表于 01-09 10:24 ?1209次閱讀
    人工<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的原理和多種<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>架構(gòu)方法

    凌智電子榮獲“百度AI技術(shù)生態(tài)伙伴”認(rèn)證

    2024年10月,百度(廈門(mén))人工智能產(chǎn)業(yè)賦能中心(以下簡(jiǎn)稱(chēng)“百度廈門(mén)中心”)建成并試運(yùn)
    的頭像 發(fā)表于 01-04 14:10 ?610次閱讀
    凌智電子榮獲“<b class='flag-5'>百度</b>AI技術(shù)生態(tài)伙伴”認(rèn)證

    百度科啟動(dòng)“繁星計(jì)劃”

    百度搜索的強(qiáng)大流量,為百度科注入新的活力與動(dòng)能。 據(jù)悉,“繁星計(jì)劃”預(yù)計(jì)覆蓋超過(guò)10萬(wàn)名權(quán)威專(zhuān)家,并將涵蓋超過(guò)100萬(wàn)的知識(shí)內(nèi)容,旨在通過(guò)科技的力量,讓知識(shí)的傳播更加廣泛、深入。這一
    的頭像 發(fā)表于 12-31 10:26 ?722次閱讀

    騰訊混元文生登頂智源FlagEval評(píng)測(cè)榜首

    近日,北京智源人工智能研究院(BAAI)發(fā)布了最新的FlagEval大模型評(píng)測(cè)排行榜,其中多模態(tài)模型評(píng)測(cè)榜單的文生模型引起了廣泛關(guān)注。結(jié)果顯示,騰訊混元的文生能力在此次評(píng)測(cè)中表現(xiàn)出色,成功
    的頭像 發(fā)表于 12-25 10:06 ?853次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較

    神經(jīng)網(wǎng)絡(luò),也稱(chēng)為全連接神經(jīng)網(wǎng)絡(luò)(Fully Connected Neural Networks,F(xiàn)CNs),其特點(diǎn)是每一層的每個(gè)神經(jīng)元都與下一層的所有神經(jīng)元相連。這種結(jié)構(gòu)簡(jiǎn)單直觀,但在
    的頭像 發(fā)表于 11-15 14:53 ?1878次閱讀

    RNN模型與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的區(qū)別

    神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)領(lǐng)域中的一種強(qiáng)大工具,它們能夠模擬人腦處理信息的方式。隨著技術(shù)的發(fā)展,神經(jīng)網(wǎng)絡(luò)的類(lèi)型也在不斷增加,其中循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)(如前饋
    的頭像 發(fā)表于 11-15 09:42 ?1133次閱讀

    關(guān)于卷積神經(jīng)網(wǎng)絡(luò),這些概念你厘清了么~

    。 2.一個(gè)小型神經(jīng)網(wǎng)絡(luò) 3.用CIFAR-10數(shù)據(jù)集訓(xùn)練的CIFAR網(wǎng)絡(luò)模型 CIFAR-10是一個(gè)特定數(shù)據(jù)集,通常用于訓(xùn)
    發(fā)表于 10-24 13:56

    百度舸AI計(jì)算平臺(tái)4.0震撼發(fā)布

    在2024年百度云智大會(huì)的璀璨舞臺(tái)上,百度智能云重磅推出舸AI異構(gòu)計(jì)算平臺(tái)的全新力作——4.0版本。此次升級(jí),標(biāo)志著
    的頭像 發(fā)表于 09-26 14:46 ?894次閱讀

    matlab 神經(jīng)網(wǎng)絡(luò) 數(shù)學(xué)建模數(shù)值分析

    matlab神經(jīng)網(wǎng)絡(luò) 數(shù)學(xué)建模數(shù)值分析 精通的可以討論下
    發(fā)表于 09-18 15:14