、伙伴及開發(fā)者提供更好的服務(wù)。昇騰AI云服務(wù)單集群提供2000P Flops算力，千卡訓(xùn)練30天長穩(wěn)率達(dá)到90%，為業(yè)界提供穩(wěn)定可靠的AI算力，讓大模型觸手可及。
2023-07-07 17:39:56
2946 
的支持。蓬勃發(fā)展的大模型應(yīng)用所帶來的特殊性需求，正推動芯片設(shè)計(jì)行業(yè)邁向新紀(jì)元。眾多頂級的半導(dǎo)體廠商紛紛為大模型應(yīng)用而專門構(gòu)建 AI 芯片，其高算力、高帶寬、動輒千億的晶體管數(shù)量成為大芯片的標(biāo)配。 芯片設(shè)計(jì)復(fù)雜度，邁向新高峰 在人工
2023-08-15 11:02:111990 
GPUStack 是一個用于運(yùn)行 AI 模型的開源 GPU 集群管理器。它具有廣泛的硬件兼容性，支持多種品牌的 GPU，并能在 Apple MacBook、Windows PC 和 Linux 服務(wù)器上運(yùn)行
2025-06-06 11:45:312292 
NVIDIA與Arm、Ampere、Cray、富士通、HPE、Marvell攜手構(gòu)建GPU加速服務(wù)器，以滿足從超大規(guī)模云到邊緣、從模擬到AI、從高性能存儲到百萬兆級超級計(jì)算等多樣化需求。
2019-11-20 09:38:421911 NVIDIA NeMo Megatron 框架; 可定制的大規(guī)模語言模型 Megatron 530B；多GPU、多節(jié)點(diǎn) Triton推理服務(wù)器助力基于語言的AI開發(fā)和部署，推動行業(yè)和科學(xué)發(fā)展。
2021-11-10 14:22:521160 電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）近一年多時間，隨著大模型的發(fā)展，GPU在AI領(lǐng)域的重要性再次凸顯。雖然相比英偉達(dá)等國際大廠，國產(chǎn)GPU起步較晚、聲勢較小。不過近幾年，國內(nèi)不少GPU廠商成長非常快，并且
2024-04-01 09:28:266086 
? 電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）萬卡集群是指由一萬張及以上的加速卡（包括GPU、TPU及其他專用AI加速芯片）組成的高性能計(jì)算系統(tǒng)，主要用于加速人工智能模型的訓(xùn)練和推理過程。這種集群的構(gòu)建旨在
2024-06-02 06:18:006683 
STM32可以跑AI，這個AI模型怎么搞，知識盲區(qū)
2025-10-14 07:14:27
摘要： 3月28日，在2018云棲大會·深圳峰會上，阿里云宣布與英偉達(dá)GPU 云 合作 （NGC），開發(fā)者可以在云市場下載NVIDIA GPU 云鏡像和運(yùn)行NGC 容器，來使用阿里云上的NVIDIA
2018-04-04 14:39:24
ai芯片和gpu的區(qū)別▌車載芯片的發(fā)展趨勢(CPU-GPU-FPGA-ASIC)過去汽車電子芯片以與傳感器一一對應(yīng)的電子控制單元(ECU)為主，主要分布與發(fā)動機(jī)等核心部件上。...
2021-07-27 07:29:46
限制算力提升的瓶頸。800G光模塊通過更高的傳輸速率，能夠支持大規(guī)模GPU集群間的數(shù)據(jù)傳輸，保證各節(jié)點(diǎn)之間的快速互聯(lián)和低延遲通信，從而提升整個系統(tǒng)的計(jì)算效率與吞吐量。對于DeepSeek等超大模型
2025-03-25 12:00:18
上漲，因?yàn)槭聦?shí)表明，它們的 GPU 在訓(xùn)練和運(yùn)行 深度學(xué)習(xí)模型 方面效果明顯。實(shí)際上，英偉達(dá)也已經(jīng)對自己的業(yè)務(wù)進(jìn)行了轉(zhuǎn)型，之前它是一家純粹做 GPU 和游戲的公司，現(xiàn)在除了作為一家云 GPU 服務(wù)
2024-03-21 15:19:45
服務(wù)器，而隨著人們對服務(wù)器工作負(fù)載模式的新需求，越來越多的智能場景需要小型服務(wù)器來部署。方案簡介集群服務(wù)器解決方案，以多塊核心板的組合方式，提供標(biāo)準(zhǔn)的軟硬件接口，支持分布式AI運(yùn)算，可用于機(jī)器學(xué)習(xí)
2019-08-16 15:09:56
Imagination全新BXS GPU助力德州儀器汽車處理器系列產(chǎn)品實(shí)現(xiàn)先進(jìn)圖形處理功能
2020-12-16 07:04:43
Mali GPU 支持tensorflow或者caffe等深度學(xué)習(xí)模型嗎？ 好像caffe2go和tensorflow lit可以部署到ARM，但不知道是否支持在GPU運(yùn)行？我希望把訓(xùn)練
2022-09-16 14:13:01
的模型在微控制器上平穩(wěn)運(yùn)行。這使我們能夠保持競爭力，并為客戶提供最佳解決方案。“多虧了 STM32Cube.AI 開發(fā)人員云，我們可以在很短的時間內(nèi)確認(rèn)我們創(chuàng)建具有嵌入式AI的產(chǎn)品的方法的有效性。通過
2023-02-02 09:52:43
使用cube-AI分析模型時報(bào)錯，該模型是pytorch的cnn轉(zhuǎn)化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai v8.0.0-19389)
INTERNAL ERROR: list index out of range
```
2024-05-27 07:15:58
模型收斂的情況下，最大集群規(guī)模只支持10塊GPU。這意味著在進(jìn)行數(shù)據(jù)運(yùn)算時，即時使用更多的GPU，計(jì)算效果也只相當(dāng)于10塊GPU的能力，這樣訓(xùn)練的時間將更加的漫長?！ 《A為云的深度學(xué)習(xí)
2018-08-02 20:44:09
Vitis AI 的所有工具和庫，而不需要在本地安裝任何依賴。CPU版本的Vitis AI docker 可以在沒有 GPU 的機(jī)器上運(yùn)行，但是模型優(yōu)化的速度會比 GPU 版本慢一些。
實(shí)際上，我會選擇通過
2023-10-14 15:34:26
算法的引擎GPU、GPU硬件架構(gòu)剖析、GPU服務(wù)器的設(shè)計(jì)與實(shí)現(xiàn)、GPU集群的網(wǎng)絡(luò)設(shè)計(jì)與實(shí)現(xiàn)、GPU板卡級算力調(diào)度技術(shù)、基于云平臺的GPU集群的管理與運(yùn)營等等：
翻閱部分章節(jié)，從GPU板卡到GPU服務(wù)器
2024-10-08 10:40:35
，本周將會推出針對異構(gòu)計(jì)算GPU實(shí)例GN5年付5折的優(yōu)惠活動，希望能夠打造良好的AI生態(tài)環(huán)境，幫助更多的人工智能企業(yè)以及項(xiàng)目順利上云。隨著深度學(xué)習(xí)對人工智能的巨大推動，深度學(xué)習(xí)所構(gòu)建的多層神經(jīng)網(wǎng)絡(luò)模型
2017-12-26 11:22:09
如何基于云原生技術(shù)為機(jī)器學(xué)習(xí)應(yīng)用設(shè)計(jì)與實(shí)現(xiàn)更好的開發(fā)和運(yùn)行平臺；第12章講解基于云平臺的GPU集群的管理與運(yùn)營，涉及云運(yùn)維平臺、云運(yùn)營平臺和云審計(jì)平臺；第13章基于一個服務(wù)機(jī)器學(xué)習(xí)的GPU計(jì)算平臺落地
2024-08-16 18:33:51
問題最近在Ubuntu上使用Nvidia GPU訓(xùn)練模型的時候，沒有問題，過一會再訓(xùn)練出現(xiàn)非?？D，使用nvidia-smi查看發(fā)現(xiàn)，顯示GPU的風(fēng)扇和電源報(bào)錯：解決方案自動風(fēng)扇控制在nvidia
2022-01-03 08:24:09
在即將開展的“中國移動全球合作伙伴大會”上，華為將發(fā)布一款面向運(yùn)營商電信領(lǐng)域的一站式AI開發(fā)平臺——SoftCOM AI平臺，幫助電信領(lǐng)域開發(fā)者解決AI開發(fā)在數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、模型發(fā)布以及部署驗(yàn)證
2021-02-25 06:53:41
在 CPU 和 GPU 上運(yùn)行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型。
在 CPU 上推理成功，但在 GPU 上失敗。
2025-03-06 08:02:41
用于快速模型的模型調(diào)試器是用于可擴(kuò)展集群軟件開發(fā)的完全可重定目標(biāo)的調(diào)試器。它旨在滿足SoC軟件開發(fā)人員的需求。
Model Debugger具有易于使用的GUI前端，并支持：
?源代碼級調(diào)試
2023-08-10 06:33:37
用于快速模型的模型調(diào)試器是用于可擴(kuò)展集群軟件開發(fā)的完全可重定目標(biāo)的調(diào)試器。它旨在滿足SoC軟件開發(fā)人員的需求。
Model Debugger具有易于使用的GUI前端，并支持：
?源代碼級調(diào)試
2023-08-09 07:57:45
18%。
智算中心建設(shè)：與國內(nèi)AI獨(dú)角獸合作，提供支持液冷散熱的800G模塊集群，助力其大模型訓(xùn)練效率提升30%。
邊緣計(jì)算網(wǎng)絡(luò)：在北美某5G運(yùn)營商邊緣節(jié)點(diǎn)中，基于DML方案的SR8模塊實(shí)現(xiàn)90%空間
2025-08-13 19:05:00
引領(lǐng)AI時代網(wǎng)絡(luò)變革：睿海光電的核心競爭力
在AI時代，數(shù)據(jù)中心正經(jīng)歷從傳統(tǒng)架構(gòu)向AI工廠與AI云的轉(zhuǎn)型。AI工廠依賴超大規(guī)模GPU集群驅(qū)動大模型訓(xùn)練，要求網(wǎng)絡(luò)具備超高帶寬與超低延遲；AI云則為多
2025-08-13 19:01:20
將AI推向邊緣的影響通過在邊緣運(yùn)行ML模型可以使哪些具體的AI項(xiàng)目更容易運(yùn)行？
2021-02-23 06:21:10
Mali T604 GPU的結(jié)構(gòu)是由哪些部分組成的？Mali T604 GPU的編程特性有哪些？Mali GPU的并行化計(jì)算模型是怎樣構(gòu)建的？基于Mali-T604 GPU的快速浮點(diǎn)矩陣乘法并行化該如何去實(shí)現(xiàn)？
2021-04-19 08:06:26
芯片的擴(kuò)展，以滿足大規(guī)模AI模型的訓(xùn)練和推理需求。
DGX SuperPOD配備智能控制平面，能夠監(jiān)控?cái)?shù)千個數(shù)據(jù)點(diǎn)，確保系統(tǒng)連續(xù)運(yùn)行、數(shù)據(jù)完整性，并自動重新配置集群以避免停機(jī)。每個DGX GB200
2024-05-13 17:16:22
用于快速模型的模型調(diào)試器是用于可擴(kuò)展集群軟件開發(fā)的完全可重定目標(biāo)的調(diào)試器。它旨在滿足SoC軟件開發(fā)人員的需求。
Model Debugger具有易于使用的GUI前端，并支持：
?源代碼級調(diào)試
2023-08-08 06:28:56
數(shù)據(jù)中心依賴數(shù)千甚至上萬個GPU集群進(jìn)行高性能計(jì)算，對帶寬、延遲和數(shù)據(jù)交換效率提出極高要求。
AI云：以生成式AI為核心的云平臺，為多租戶環(huán)境提供推理服務(wù)。這類數(shù)據(jù)中心要求網(wǎng)絡(luò)具備高帶寬、穩(wěn)定性
2025-03-25 17:35:05
。 對于世界杯這種超大觀看量級、超強(qiáng)影響力的重要體育賽事，阿里云一直致力研究的AI技術(shù)一定不會缺席。本屆世界杯互聯(lián)網(wǎng)直播的順利進(jìn)行，離不開各大云計(jì)算廠商的支持。在這其中，阿里云是當(dāng)之無愧的“C位“，除了
2018-07-12 15:12:13
拷貝多份占用存儲空間，也給網(wǎng)絡(luò)管理和數(shù)據(jù)管理帶來了復(fù)雜性；并且由于數(shù)據(jù)無法共享，無法支持整個GPU集群同時運(yùn)行任務(wù)，降低了整個IT系統(tǒng)的使用效率。為了便于數(shù)據(jù)管理和共享，傳統(tǒng)文件存儲在AI系統(tǒng)中得到一定
2018-08-23 17:39:35
群擴(kuò)容和縮容。同云桌面／GPU服務(wù)器的結(jié)合 一般在仿真工作流里面，完成大量的仿真計(jì)算后會進(jìn)入到渲染階段，所以一般會經(jīng)過GPU服務(wù)器集群的Pipeline，最后通過云桌面展示給客戶的客戶。于是E-HPC
2018-05-18 22:19:53
作業(yè)在上汽仿真計(jì)算云平臺上完成，模擬了整車、發(fā)動機(jī)數(shù)百種工況。由于阿里云超級計(jì)算集群帶來的性能提升，相對本地集群節(jié)約了計(jì)算求解時間，用戶作業(yè)排隊(duì)時間也明顯縮短，工程師可以在工作時間段做更多的模型調(diào)整
2018-05-31 15:30:30
摘要： kubernetes集群讓您能夠方便的部署管理運(yùn)維容器化的應(yīng)用。但是實(shí)際情況中經(jīng)常遇到的一些問題，就是單個集群通常無法跨單個云廠商的多個Region，更不用說支持跨跨域不同的云廠商。這樣會給
2018-03-12 17:10:52
摘要： 近日，阿里云重磅推出視頻點(diǎn)播新功能——視頻AI ，基于深度學(xué)習(xí)、計(jì)算機(jī)視覺技術(shù)和海量數(shù)據(jù)，為廣大用戶提供多場景的視頻AI服務(wù)。近日，阿里云重磅推出視頻點(diǎn)播新功能——視頻AI，基于深度學(xué)習(xí)
2018-01-23 15:19:23
針對機(jī)器故障下的煉鋼-連鑄重調(diào)度問題，建立基于動態(tài)約束滿足的重調(diào)度模型。對所建立的模型，提出基于粗重調(diào)度和斷澆修復(fù)的兩階段算法，源于實(shí)際生產(chǎn)數(shù)據(jù)的仿真實(shí)驗(yàn)表明
2010-01-27 15:36:12
9 研究如何使用Jini 來實(shí)現(xiàn)集群網(wǎng)格計(jì)算環(huán)境，給出系統(tǒng)模型JCGE(a Jini-based cluster grid environment)，設(shè)計(jì)一個在此模型上進(jìn)行并行計(jì)算的通用算法，并在集群主機(jī)上對此模型及算法進(jìn)行測試，
2011-05-14 11:05:4517 針對轉(zhuǎn)爐出鋼延遲的煉鋼連鑄重調(diào)度問題，以開工時間、加工時間以及加工機(jī)器的差異度和同一爐次相鄰設(shè)備間的等待時間的差異化最小為目標(biāo)建立了動態(tài)約束滿足模型，提出了基于約束滿足和斷澆修復(fù)的重調(diào)度算法。算法
2018-02-27 16:28:540 數(shù)據(jù)。???????? 通過使用阿里云提供的云監(jiān)控插件，可以一鍵安裝就實(shí)現(xiàn)GPU指標(biāo)的采集和上報(bào)，同時展示維度上可以與目前的ECS一樣獲得更多維度的展示，比如Dashborad監(jiān)控大盤，可以監(jiān)控集群級別的GPU指標(biāo)
2018-07-23 17:43:06475 華辰重機(jī)選用NVIDIA虛擬GPU解決方案，構(gòu)建了高效、集約、安全的數(shù)控機(jī)虛擬化終端設(shè)計(jì)平臺，保證了近百億知識資產(chǎn)的數(shù)據(jù)。
2018-07-28 10:54:004162 「破局」AI規(guī)?；涞?，英特爾至強(qiáng)的七重助力
2019-08-23 09:46:242970 “強(qiáng)悍的織女
模型在京東探索研究院建設(shè)的全國首個基于 DGX SuperPOD 架構(gòu)的
超大規(guī)模計(jì)算
集群 “天琴α” 上完成訓(xùn)練，該
集群具有全球領(lǐng)先的大規(guī)模分布式并行訓(xùn)練技術(shù)，其近似線性加速比的數(shù)據(jù)、
模型、流水線并行技術(shù)持續(xù)
助力織女
模型的高效訓(xùn)練?！?/div>
2022-04-13 15:13:111493 經(jīng)過百度內(nèi)部 NLP 研究團(tuán)隊(duì)的驗(yàn)證，在這個網(wǎng)絡(luò)環(huán)境下的超大規(guī)模集群上提交千億模型訓(xùn)練作業(yè)時，同等機(jī)器規(guī)模下整體訓(xùn)練效率是普通 GPU 集群的 3.87 倍。
2022-05-20 15:00:271694 騰訊云計(jì)算加速套件 TACO Kit 包含 TACO Train 和 TACO Infer 兩個 AI 組件?；?GPU 異構(gòu)計(jì)算平臺針對業(yè)界 AI 訓(xùn)練和推理任務(wù)進(jìn)行了全方位的加速優(yōu)化。TACO
2022-08-31 09:24:072284 10月18日， 上海億鑄智能科技有限公司與蘇州高新區(qū)獅山商務(wù)創(chuàng)新區(qū)進(jìn)行簽約，將總部正式落戶蘇州。億鑄科技基于ReRAM （RRAM） 的存算一體大算力AI芯片技術(shù)，將為高新區(qū)集成電路產(chǎn)業(yè)注入新動能，助力蘇州集成電路設(shè)計(jì)產(chǎn)業(yè)蓬勃發(fā)展。
2022-10-19 10:29:042129 Adobe將開發(fā)下一代創(chuàng)意流程生成式AI模型；Getty Images、Morningstar、Quantiphi、Shutterstock公司正使用NVIDIA AI Foundations云服務(wù)
2023-03-22 13:45:40608 
L4 Tensor Core GPU 的云服務(wù)商。此外，L4 GPU 將在 Vertex AI 上提供優(yōu)化支持，該平臺現(xiàn)在支持構(gòu)建、調(diào)整和部署大型生成式AI模型。 開發(fā)人員
2023-03-23 06:55:021217 據(jù)悉，SDXL 0.9是在所有開源圖像模型中參數(shù)數(shù)量位居前茅，并且可以在消費(fèi)級GPU上運(yùn)行，還具備一個35億參數(shù)的基礎(chǔ)模型和一個66億參數(shù)的附加模型。
2023-06-26 09:41:491314 6 月 27 日上午1000，電子工程專輯【EE直播間】最新一期即將開播！ 本期直播將圍繞“GPU助力數(shù)據(jù)中心高性能計(jì)算和AI大模型的開發(fā)”為主題，由 AspenCore 產(chǎn)業(yè)分析師為大家介紹
2023-06-26 11:20:021108 
大家好，歡迎收看總第84期“河套IT WALK”。 在這個日新月異的科技世界，無論是云端的智能，還是物聯(lián)網(wǎng)的連接，都在持續(xù)推動我們的生活進(jìn)入新的紀(jì)元。今天的科技新聞側(cè)重AI發(fā)展，云計(jì)算升級，以及
2023-06-30 21:25:011280 
7月7日，華為云正式發(fā)布盤古大模型3.0，建立業(yè)界首個萬卡AI集群，欲打造世界AI另一極！盤古大模型3.0的發(fā)布引發(fā)中國科技圈熱議，業(yè)內(nèi)人士認(rèn)為，這展現(xiàn)出了華為“遇強(qiáng)則強(qiáng)、置之死地而后生”的頑強(qiáng)一面，既是華為對于技術(shù)追求的一種執(zhí)念，更是在中美AI科技戰(zhàn)升級背景下的未雨綢繆。
2023-07-07 16:08:573051 據(jù)了解，星脈網(wǎng)絡(luò)具備業(yè)界最高的 3.2T 通信帶寬，可提升 40% 的 GPU 利用率、節(jié)省 30%~60% 的模型訓(xùn)練成本，進(jìn)而能為 AI 大模型帶來 10 倍通信性能提升。基于騰訊云新一代算力集群，可支持 10 萬卡的超大計(jì)算規(guī)模。
2023-07-14 14:46:333192 
首臺GPU千億參數(shù)大模型訓(xùn)推一體機(jī)由數(shù)字寧夏倡議發(fā)起技術(shù)攻關(guān)，基于沐曦最新發(fā)布的曦云C500旗艦GPU芯片提供的算力支持、智譜華章的AI大模型以及優(yōu)刻得靈活的算力部署方案，共同打造國內(nèi)模型能力、算力支持及解決方案領(lǐng)先的國有自主知識產(chǎn)權(quán)的AI大模型訓(xùn)練推理一體機(jī)
2023-08-21 14:41:2010390 適配。測試結(jié)果顯示，曦云C500在智譜AI的升級版大模型上充分兼容、高效穩(wěn)定運(yùn)行。 沐曦旗艦產(chǎn)品曦云C500基于自主研發(fā)的高性能GPU IP，特別適合千億參數(shù)AI大模型的訓(xùn)練和推理；基于全自研 GPU 指令集打造的MXMACA軟件棧，全面兼容主流GPU生態(tài)，實(shí)現(xiàn)用戶零成本遷移；
2023-08-23 10:38:479276 日前，華為全聯(lián)接大會 2023 在上海召開。華為云 CTO 張宇昕在大會上發(fā)布了基于 Serverless 技術(shù)的大模型應(yīng)用開發(fā)框架，框架以面向 AI 領(lǐng)域全新升級的 FunctionGraph
2023-10-25 21:30:441070 
大家好，歡迎收看河套IT WALK第124期。 今天，阿里云發(fā)布了具有720億參數(shù)的大型語言模型Qwen-72B，這一創(chuàng)新將助力多語言AI的發(fā)展，掀開了AI技術(shù)在全球溝通和數(shù)據(jù)處理方面的新篇章。谷歌
2023-12-01 20:15:011408 
中國電信規(guī)劃建設(shè)首個國產(chǎn)超大規(guī)模算力液冷集群 人工智能技術(shù)的快速發(fā)展催生了巨大的算力需求；中國電信規(guī)劃在上海規(guī)劃建設(shè)可支持萬億參數(shù)大模型訓(xùn)練的智算集群中心。其中會搭載液冷技術(shù)，單池新建國產(chǎn)算力達(dá)10000卡，也是首個支持單池萬卡的國產(chǎn)超大規(guī)模算力液冷集群。
2024-02-22 18:48:331823 英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強(qiáng)處理器，邊緣處理器及AI PC等產(chǎn)品為開發(fā)者提供最新的優(yōu)化，助力其運(yùn)行Meta新一代大語言模型Meta Llama 3
2024-04-28 11:16:421197 摩爾線程聯(lián)合無問芯穹宣布，雙方已在本周正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)。
2024-05-27 10:44:021148 
英特爾助力京東云用CPU加速AI推理，以大模型構(gòu)建數(shù)智化供應(yīng)鏈
2024-05-27 11:50:101046 
近日，國內(nèi)知名的GPU制造商摩爾線程與全學(xué)科教育AI大模型“師者AI”聯(lián)合宣布，雙方已成功完成了一項(xiàng)重要的大模型訓(xùn)練測試。此次測試依托摩爾線程夸娥（KUAE）千卡智算集群，充分展現(xiàn)了其在處理復(fù)雜計(jì)算任務(wù)方面的卓越能力。
2024-06-14 16:31:311233 近日，摩爾線程與智譜AI在人工智能領(lǐng)域開展了一輪深入的合作，共同對GPU大模型進(jìn)行了適配及性能測試。此次測試不僅涵蓋了大模型的推理能力，還涉及了基于摩爾線程夸娥（KUAE）千卡智算集群的大模型預(yù)訓(xùn)練，旨在全面評估摩爾線程GPU在大模型應(yīng)用中的性能表現(xiàn)。
2024-06-14 16:40:362024 協(xié)議，雙方將攜手步入全新的合作階段，共同探索并開發(fā)面向超萬億參數(shù)大模型和超大規(guī)模集群的高性能系統(tǒng)軟件方案，標(biāo)志著雙方在推動AI技術(shù)邊界、加速產(chǎn)業(yè)智能化進(jìn)程上邁出了堅(jiān)實(shí)的一步。
2024-07-05 14:50:501581 特斯拉CEO埃隆·馬斯克引領(lǐng)的科技巨浪再添新章，其傾力打造的超級AI訓(xùn)練集群Colossus已正式投入運(yùn)營。該集群自7月初步建成以來，已展現(xiàn)出驚人的10萬張H100 GPU算力。而今
2024-09-04 16:13:22808 速度比原70B大模型提升2.2倍，具備更準(zhǔn)確和更高效的運(yùn)算效率；能夠大幅降低運(yùn)行成本。 ? ? ? 通過NAS技術(shù)微調(diào)；大幅降低了內(nèi)存消耗、計(jì)算復(fù)雜性；Llama-3.1-Nemotron-51B AI
2024-09-26 17:30:061275 Supermicro, Inc.，作為人工智能（AI）、云端、存儲和5G/Edge領(lǐng)域的整體IT解決方案提供商，近日宣布推出面向人工智能數(shù)據(jù)中心的液冷超級集群。該集群由英偉達(dá)GB200 NVL72和英偉達(dá)HGX B200系統(tǒng)提供支持，開創(chuàng)了高能效超大規(guī)模計(jì)算的新紀(jì)元。
2024-10-22 17:37:431330 GPU憑借其強(qiáng)大的并行處理能力和高效的內(nèi)存系統(tǒng)，已成為AI模型訓(xùn)練不可或缺的重要工具。
2024-10-24 09:39:261943 NVIDIA近日宣布，其位于田納西州孟菲斯市的xAI Colossus超級計(jì)算機(jī)集群規(guī)模已壯大至10萬顆NVIDIA Hopper GPU。這一里程碑式的成就，再次彰顯了NVIDIA在AI計(jì)算領(lǐng)域
2024-10-30 10:29:51993 眾所周知，在大型模型訓(xùn)練中，通常采用每臺服務(wù)器配備多個GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)（上篇）》中，我們對GPU網(wǎng)絡(luò)中的核心術(shù)語與概念進(jìn)行了詳盡介紹。本文將進(jìn)一步深入探討常見的GPU系統(tǒng)架構(gòu)。
2024-11-05 16:20:342133 
并從計(jì)算節(jié)點(diǎn)成本優(yōu)化、集群網(wǎng)絡(luò)與拓?fù)涞倪x擇等方面論述如何構(gòu)建及優(yōu)化GPU云網(wǎng)絡(luò)。
2024-11-06 16:03:101681 
訓(xùn)練AI大模型需要選擇具有強(qiáng)大計(jì)算能力、足夠顯存、高效帶寬、良好散熱和能效比以及良好兼容性和擴(kuò)展性的GPU。在選擇時，需要根據(jù)具體需求進(jìn)行權(quán)衡和選擇。
2024-12-03 10:10:081128 在AI模型的訓(xùn)練過程中，大量的計(jì)算工作集中在矩陣乘法、向量加法和激活函數(shù)等運(yùn)算上。這些運(yùn)算正是GPU所擅長的。接下來，AI部落小編帶您了解GPU是如何訓(xùn)練AI大模型的。
2024-12-19 17:54:161577 LG集團(tuán)旗下AI智庫利用亞馬遜云科技進(jìn)行癌癥早期風(fēng)險(xiǎn)識別 Amazon SageMaker助力LG AI Research將基因測試時間從兩周縮短至不到一分鐘，加快患者診斷速度 北京2024年12月
2024-12-16 15:13:47664 
GPU加速云服務(wù)器是將GPU硬件與云計(jì)算服務(wù)相結(jié)合，通過云服務(wù)提供商的平臺，用戶可以根據(jù)需求靈活租用帶有GPU資源的虛擬機(jī)實(shí)例。那么，GPU加速云服務(wù)器怎么用的呢？下面，AI部落小編為您分享。
2024-12-26 11:58:12938 近日，有消息稱小米正在緊鑼密鼓地搭建自己的GPU萬卡集群，旨在加大對AI大模型的投入力度。據(jù)悉，小米的大模型團(tuán)隊(duì)在成立之初就已經(jīng)擁有了6500張GPU資源，而現(xiàn)在他們正在進(jìn)一步擴(kuò)大這一規(guī)模。 針對
2024-12-28 14:25:48847 1月2日，消費(fèi)級AR領(lǐng)先品牌雷鳥創(chuàng)新RayNeo與阿里云舉行戰(zhàn)略簽約儀式，雙方宣布在AI眼鏡領(lǐng)域達(dá)成獨(dú)家戰(zhàn)略合作，通義系列大模型將為雷鳥創(chuàng)新的AI眼鏡提供獨(dú)家定制的技術(shù)支持。 ? 據(jù)悉，這是國內(nèi)首個
2025-01-03 13:45:07565 
科技云報(bào)到：從大模型到云端，“AI+云計(jì)算”還能講出什么新故事
2025-01-07 13:27:34657 NVIDIA 今日發(fā)布能在 NVIDIA RTX AI PC 本地運(yùn)行的基礎(chǔ)模型，為數(shù)字人、內(nèi)容創(chuàng)作、生產(chǎn)力和開發(fā)提供強(qiáng)大助力。
2025-01-08 11:01:52975 中國信通院栗蔚：云計(jì)算與AI加速融合，如何開啟智算時代新紀(jì)元？
2025-01-17 18:48:361451 
鯤云科技全新一代的可重構(gòu)數(shù)據(jù)流 AI 芯片 CAISA 430 成功適配 DeepSeek R1 蒸餾模型推理，這一創(chuàng)新舉措為大模型應(yīng)用的高效部署帶來了全新的解決方案，標(biāo)志著可重構(gòu)數(shù)據(jù)流 AI 技術(shù)與大模型融合發(fā)展的又一重要里程碑，也展示了鯤云科技的可重構(gòu)數(shù)據(jù)流技術(shù)的技術(shù)通用性和生態(tài)友好。
2025-02-07 09:57:432529 
、數(shù)據(jù)處理、模型調(diào)優(yōu)到應(yīng)用集成與部署等方面，助力企業(yè)加速生成式AI應(yīng)用落地。此外，聚云科技還基于亞馬遜云科技打造RAGPro企業(yè)知識庫、AI-Space、DecisionAI和數(shù)字人等生成式AI解決方案，為游戲、電商、金融、教育、汽車、制造等行業(yè)企業(yè)提供技術(shù)支持，從提高業(yè)務(wù)效率、實(shí)現(xiàn)決
2025-02-14 13:41:00360 Bedrock等技術(shù)，從應(yīng)用范圍、模型選擇、數(shù)據(jù)處理、模型調(diào)優(yōu)到應(yīng)用集成與部署等方面，助力企業(yè)加速生成式AI應(yīng)用落地。此外，聚云科技還基于亞馬遜云科技打造RAGPro企業(yè)知識庫、AI-Space、DecisionAI和數(shù)字人等生成式AI解決方案，為游戲、電商、金融、教育、汽車、制造等行業(yè)企業(yè)提供技
2025-02-14 16:07:02735 “科通技術(shù)”）推出的“DeepSeek+AI芯片”全場景方案，在云AI領(lǐng)域取得重大突破。除了GPU的算力總量，云AI的一大挑戰(zhàn)來源于GPU集群的數(shù)據(jù)互聯(lián)效率。某大型互聯(lián)網(wǎng)集團(tuán)為解決云AI系統(tǒng)中千卡級GPU集群的高性能需求，面臨服務(wù)器與加速卡間數(shù)據(jù)交換帶寬和延遲的嚴(yán)
2025-03-17 11:14:41768 RAKsmart高性能服務(wù)器集群憑借其創(chuàng)新的硬件架構(gòu)與全棧優(yōu)化能力，成為支撐大語言模型開發(fā)的核心算力引擎。下面，AI部落小編帶您了解RAKsmart如何為AI開發(fā)者提供從模型訓(xùn)練到落地的全鏈路支持。
2025-04-15 09:40:37584 集合通信庫（如NCCL、HCCL）的運(yùn)行細(xì)節(jié)用戶完全無感知，形成“黑盒”狀態(tài)。EPS通過實(shí)時解析集合通信庫的底層運(yùn)行狀態(tài)，將隱蔽的通信路徑、GPU與網(wǎng)卡狀態(tài)等信息可視化，并提供智能路由推薦，幫助用戶快速優(yōu)化集群性能。
2025-05-22 10:13:22796 
優(yōu)勢，打造超低延時、超穩(wěn)定、簡單易用的API接口服務(wù)，降低大模型應(yīng)用成本和開發(fā)門檻，助力企業(yè)和個人用戶快速開啟AI創(chuàng)新之旅。專注邊緣推理，構(gòu)建“云邊端”算力協(xié)同新范
2025-07-02 17:26:191028 
9月5日，在2025重慶世界智能產(chǎn)業(yè)博覽會上，中科曙光發(fā)布了國內(nèi)首個基于AI計(jì)算開放架構(gòu)設(shè)計(jì)的產(chǎn)品——曙光AI超集群系統(tǒng)。該系統(tǒng)以GPU為核心，實(shí)現(xiàn)了“算、存、網(wǎng)、電、冷、管、軟”一體化緊耦合
2025-09-06 09:11:281268 這項(xiàng)可選服務(wù)將幫助數(shù)據(jù)中心運(yùn)營商監(jiān)測整個 AI GPU 集群運(yùn)行狀況，從而最大限度地延長正常運(yùn)行時間。
2025-12-13 09:37:36825 
12月8日智譜AI發(fā)布并開源 GLM-4.6V 系列多模態(tài)大模型，沐曦股份曦云C系列GPU完成Day 0適配。
2025-12-17 14:28:41381 
近日，中國信息通信研究院（以下簡稱“中國信通院”）成功召開2025AI云產(chǎn)業(yè)發(fā)展大會。中國通信標(biāo)準(zhǔn)化協(xié)會理事長聞庫、中國信通院副院長王志勤出席會議并致辭。中國工程院院士鄭緯民作主旨報(bào)告。會議期間，發(fā)布了超大規(guī)模智算集群創(chuàng)新應(yīng)用實(shí)踐成果，燧原科技國產(chǎn)萬卡推理集群經(jīng)多輪評審確定，最終成功入選。
2025-12-29 09:59:12209 
電子發(fā)燒友網(wǎng)報(bào)道（文/黃山明）近日，有媒體報(bào)道，小米正在著手搭建自家的GPU萬卡集群，將對AI大模型加大投入。該計(jì)劃已進(jìn)行數(shù)月，據(jù)悉小米大模型團(tuán)隊(duì)在成立之初便已擁有6500張GPU資源，小米創(chuàng)始人兼
2024-12-29 00:02:003679 
電子發(fā)燒友App
工商網(wǎng)監(jiān)
評論