摩爾線程攜手憨猴集團(tuán)，深化AI算力戰(zhàn)略合作，成功實(shí)現(xiàn)大模型分布式訓(xùn)練

摩爾線程與憨猴科技集團(tuán)日前宣布，采用搭載摩爾線程的夸娥（KUAE）千卡智算集群，已成功完成了多個(gè)大模型的分布式訓(xùn)練，涵蓋7B、34B以及70B三個(gè)不同的...

2024-05-17 標(biāo)簽：語(yǔ)言模型摩爾線程大模型 1311 0

大模型現(xiàn)存的10個(gè)問(wèn)題和挑戰(zhàn)

減輕幻覺問(wèn)題并開發(fā)用于衡量幻覺的度量標(biāo)準(zhǔn)是一個(gè)蓬勃發(fā)展的研究課題。有許多初創(chuàng)公司專注于解決這個(gè)問(wèn)題。還有一些降低幻覺的方法，例如在提示中添加更多的上下文...

2023-09-05 標(biāo)簽：人機(jī)交互語(yǔ)言模型大模型 1310 0

梯度人工智能平臺(tái)賦能業(yè)務(wù)加速

梯度科技基于Tensorflow、Pytorch、MindSpore等多種主流深度開源框架和Ray的強(qiáng)化學(xué)習(xí)開發(fā)框架研發(fā)的人工智能平臺(tái)，圍繞“云+AI”...

2023-02-13 標(biāo)簽：人工智能語(yǔ)言模型深度學(xué)習(xí) 1307 0

美國(guó)防部生成式人工智能先期發(fā)展動(dòng)向分析

生成式人工智能（AI）能力，如大型語(yǔ)言模型（LLM）在全球的受歡迎程度、能力和影響力都在不斷增長(zhǎng)。這些能力是在大規(guī)模數(shù)據(jù)集上訓(xùn)練的，以便生成細(xì)節(jié)和明顯連...

2024-01-03 標(biāo)簽：人工智能語(yǔ)言模型數(shù)據(jù)集 1304 0

復(fù)旦邱錫鵬團(tuán)隊(duì)發(fā)布國(guó)內(nèi)首個(gè)類ChatGPT模型MOSS

由于ChatGPT并未開源，其技術(shù)方案細(xì)節(jié)也未公開，科研人員對(duì)此有諸多猜測(cè)。有專家認(rèn)為，ChatGPT是一套復(fù)雜的組合系統(tǒng)，無(wú)法由單一的生成式語(yǔ)言模型實(shí)...

2023-03-01 標(biāo)簽：人工智能語(yǔ)言模型ChatGPT 1274 0

LeCun新作：全面綜述下一代「增強(qiáng)語(yǔ)言模型」

最近圖靈獎(jiǎng)得主Yann LeCun參與撰寫了一篇關(guān)于「增強(qiáng)語(yǔ)言模型」的綜述，回顧了語(yǔ)言模型與推理技能和使用工具的能力相結(jié)合的工作，并得出結(jié)論，這個(gè)新的研...

2023-03-03 標(biāo)簽：語(yǔ)言模型nlpChatGPT 1269 0

匯總在事件抽取方向的相關(guān)廠商調(diào)研結(jié)果

值得關(guān)注的是在論元提取（要素抽?。╇A段，除了CRF外，他們也嘗試了MRC（閱讀理解范式）、Biaffine。其中Biaffine思想來(lái)自論文Named ...

2022-07-07 標(biāo)簽：事件語(yǔ)言模型 1255 0

博通陳福陽(yáng)：看好以太網(wǎng)成為AI算力集群最佳網(wǎng)絡(luò)協(xié)議

陳福陽(yáng)表示，目前broadcom的開關(guān)，路由器和定制型硅怡終端市場(chǎng)的成長(zhǎng)，促進(jìn)人工智能引擎，公司擴(kuò)張的以太網(wǎng)人工智能集群工業(yè)園區(qū)，是最好的網(wǎng)絡(luò)協(xié)議，這也...

2023-09-04 標(biāo)簽：Broadcom人工智能語(yǔ)言模型 1251 0

商湯科技發(fā)布新版日日新·商量大語(yǔ)言模型

商湯科技近日發(fā)布了新版的日日新·商量大語(yǔ)言模型-通用版本（SenseChat V4）。這一版本的模型在知識(shí)理解、閱讀理解、綜合推理、數(shù)理、代碼和長(zhǎng)文本理...

2024-02-04 標(biāo)簽：人工智能語(yǔ)言模型商湯科技 1246 0

AI芯片CoWoS封裝產(chǎn)能受限，中介層不足成關(guān)鍵

大語(yǔ)言模型訓(xùn)練和推理生成式AI（Generative AI）應(yīng)用，帶動(dòng)高端AI服務(wù)器和高性能計(jì)算（HPC）數(shù)據(jù)中心市場(chǎng)，內(nèi)置集成高帶寬內(nèi)存（HBM）的通...

2023-08-30 標(biāo)簽：數(shù)據(jù)中心語(yǔ)言模型CoWoS 1229 0

谷歌推出AI框架，實(shí)現(xiàn)AI模型的自然語(yǔ)言學(xué)習(xí)

據(jù)了解，在此款“社交學(xué)習(xí)”框架中，“學(xué)生模型”可向多位已處理指定任務(wù)的“教師模型”請(qǐng)教各類應(yīng)對(duì)方案，研究團(tuán)隊(duì)主要通過(guò)開展“垃圾短信檢測(cè)”、“解決小學(xué)數(shù)學(xué)...

2024-03-11 標(biāo)簽：谷歌語(yǔ)言模型數(shù)據(jù)集 1222 0

采用FP8混合精度，DeepSeek V3訓(xùn)練成本僅557.6萬(wàn)美元！

一， 前言? ? 在AI領(lǐng)域，訓(xùn)練一個(gè)大型語(yǔ)言模型（LLM）是一個(gè)耗時(shí)且復(fù)雜的過(guò)程。根據(jù)之前在《從零開始訓(xùn)練一個(gè)大語(yǔ)言模型需要投資多少錢？》中的分析，我...

2025-01-13 標(biāo)簽：語(yǔ)言模型大模型DeepSeek 1218 0

關(guān)于人工智能的60條趨勢(shì)預(yù)測(cè)

Information最新報(bào)道預(yù)測(cè)了即將在2024年AI領(lǐng)域的大事件：微軟OpenAI將決裂；AI寵兒將倒閉，或被火速收購(gòu)；不基于Transformer...

2024-01-09 標(biāo)簽：人工智能語(yǔ)言模型AIGC 1217 0