6月30日,百度正式開(kāi)源文心大模型4.5系列等10款模型,并實(shí)現(xiàn)預(yù)訓(xùn)練權(quán)重和推理代碼的完全開(kāi)源,兆芯率先與文心系列模型展開(kāi)深度技術(shù)合作。
兆芯高性能
處理器與文心大模型在開(kāi)源首日展開(kāi)適配,積極響應(yīng)對(duì)文心系列大模型的快速適配、無(wú)縫銜接。
文心大模型
文心4.5系列開(kāi)源模型共10款,均使用飛漿
深度學(xué)習(xí)框架進(jìn)行高效訓(xùn)練、推理和部署。在大語(yǔ)言模型的預(yù)訓(xùn)練中,模型FLOPS 利用率達(dá)到47%。實(shí)驗(yàn)結(jié)果顯示,該系列模型在多個(gè)文本和多模態(tài)基準(zhǔn)測(cè)試中達(dá)到SOTA 水平。模型權(quán)重按照Apache2.0協(xié)議開(kāi)源,支持開(kāi)展學(xué)術(shù)研究和產(chǎn)業(yè)應(yīng)用。該模型具有以下
技術(shù)優(yōu)勢(shì):
多模態(tài)混合專家模型預(yù)訓(xùn)博
高效訓(xùn)練推理框架
針對(duì)模態(tài)的后訓(xùn)練
開(kāi)啟新適配
兆芯與產(chǎn)業(yè)鏈生態(tài)伙伴緊密合作、協(xié)同創(chuàng)新,已經(jīng)構(gòu)建了豐富的
AI PC 、臺(tái)式機(jī)、筆記本、一體機(jī)、云終端、工作站、服務(wù)器以及
物聯(lián)網(wǎng)計(jì)算平臺(tái)等產(chǎn)品,為政務(wù)、金融、教育、
通信與廣播電視、能源、交通、醫(yī)療、工業(yè)制造等行業(yè)持續(xù)提供高性能、高穩(wěn)定、高可靠、體驗(yàn)優(yōu)越的產(chǎn)品和解決方案。
兆芯積極尋求更多生態(tài)合作伙伴,共同推動(dòng)自主通用處理器的軟硬件生態(tài)建設(shè),提供生態(tài)兼容性互
認(rèn)證服務(wù)。
關(guān)于兆芯
兆芯堅(jiān)特自主創(chuàng)新、生態(tài)完善、好用不貴的發(fā)展理念,掌握自主通用處理器及其系統(tǒng)平臺(tái)芯片研發(fā)設(shè)計(jì)的核心技術(shù),全面覆蓋其微架構(gòu)與實(shí)現(xiàn)技術(shù)等關(guān)鍵領(lǐng)域,構(gòu)建了健全的知識(shí)產(chǎn)權(quán)體系,支撐國(guó)家產(chǎn)業(yè)信息安全和國(guó)家數(shù)宇經(jīng)濟(jì)實(shí)現(xiàn)高質(zhì)量發(fā)展。
原文標(biāo)題:飛槳文心同行 | 兆芯率先展開(kāi)文心系列模型深度技術(shù)合作
文章出處:【微信號(hào):gh_dff030a16604,微信公眾號(hào):兆芯】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
評(píng)論