微軟正式發(fā)布了兩款芯片,不知道它們是不是傳說中的Athena。
北京時間周四凌晨1點,微軟(Microsoft)Ignite技術大會在西雅圖揭幕,該公司CEO薩蒂亞·納德拉進行了接近1個小時的開幕演講,介紹了AI龍頭取得的最新進步。
此次,微軟發(fā)布了首款自家研發(fā)的人工智能(AI)芯片Maia 100,以及應用于云端軟件服務的芯片Cobalt。兩款芯片將由臺積電代工,采用5nm制程技術。
目前,AI芯片市場由英偉達(Nvidia)獨霸,有大量AI芯片需求的科技大廠極力尋求可替代的供應來源; 微軟自行研發(fā),希望增強ChatGPT等生成式AI產品的性能,同時降低成本。
Cobalt是基于Arm架構的通用型芯片,具有128個核心,Maia 100為特定AI加速器,用于云端訓練和推理的,晶體管數量達到1050億個。這兩款芯片明年將導入微軟Azure數據中心,支持OpenAI、Copilot等服務。
目前,英偉達在AI芯片市場的市占高達80%左右,需求強勁,高端產品一顆有時可賣到3萬到4萬美元。日經亞洲指出,用于ChatGPT的芯片被認為大概就需要有1萬顆,這對AI公司是個龐大成本。
負責Azure芯片部門的副總裁Rani Borkar表示,微軟已開始用Bing和Office AI產品測試Maia 100芯片,微軟主要AI合作伙伴、ChatGPT開發(fā)商OpenAI,也在進行測試中。
彭博資訊指出,微軟的多年投資顯示,芯片對于在AI和云計算領域取得優(yōu)勢至關重要。自研芯片可以讓微軟從硬件中獲得性能和價格優(yōu)勢,還可以避免微軟過度依賴任何一家供應商。目前業(yè)界對英偉達AI芯片的爭奪戰(zhàn),更加凸顯了這個問題。
在微軟進軍自研處理器之前,在云計算市場上的競爭對手也采取類似策略。亞馬遜在2015年收購了一家芯片制造商,并提供多種云端運算與AI芯片服務。Google 從2018年開始,也已讓客戶使用其AI加速處理器。
除了發(fā)布的這兩款芯片,業(yè)界一直在傳,微軟有一個代號為“Athena”的AI芯片項目,2019年就開始了內部研發(fā)。據悉,微軟希望Athena芯片的性能優(yōu)于目前從其它供應商處購買的芯片,從而節(jié)省其在昂貴的AI業(yè)務上的時間和成本。
有市場評論認為,微軟 AI 芯片立項的時機很巧,正好在微軟、OpenAI 等公司培養(yǎng)的大型語言模型已經開始騰飛之際。兩位知情人士表示,OpenAI的ChatGPT聊天機器人的發(fā)布讓人們興奮──根據分析師預估,截至今年1月,也就是ChatGPT發(fā)布兩個月后,該機器人已經擁有超過1億用戶──這促使微軟加快Athena的研發(fā)和推出。
知情人士說,微軟最快可以在明年讓 Athena 在公司和 OpenAI 內部廣泛使用。不過其中一名知情人士表示,微軟內部仍在爭論是否會向其 Azure 云計算服務的客戶提供這些芯片。
如果微軟確實走向其云計算客戶提供芯片,它還必須為其打造比英偉達當前產品更具吸引力的軟件,英偉達在該領域已深耕15年,其軟件產品已在全球廣泛使用。
調研公司SemiAnalysis的首席分析師Dylan Patel估算,ChatGPT的運營成本為每天約70萬美元或每次查詢0.36美元。Patel 說:“大部分成本來自其所需的昂貴服務器。和英偉達產品相比,若 Athena 具競爭力,可以將每個芯片的成本降低三分之一?!?/p>
Patel 還表示,微軟希望他們在所有的應用程序中都使用這個大型語言模型,包括 Bing、Microsoft 365 和 GitHub。如果采用英偉達現成的軟件進行大規(guī)模部屬,光芯片這一項成本每年就要燒掉數百億美元。
微軟并不認為自己的 AI 芯片可以廣泛替代英偉達的產品。有分析認為,微軟的這一努力如果成功的話,也有可能幫助它在未來與英偉達的談判中更具優(yōu)勢。
此次,微軟還推出了名為 Sidekicks 的定制液冷硬件,該硬件安裝在包含 Maia 服務器的機架旁邊的機架中。一位發(fā)言人表示,該公司無需改造即可安裝服務器機架和 Sidekick 機架。
在網絡連接方面,為了滿足AI和未來工作負載的要求,微軟推出了新一代空芯光纖(Hollow Core Fiber),利用空氣作為光纖的導光介質,能夠將傳輸速度提高47%。當然這也與微軟的“鈔能力”有關,公司在去年12月底收購了這條賽道的領跑者英國Lumenisity。
會上,納德拉宣布Azure Boost數據中心硬件也將正式投入商用。該系統(tǒng)能夠將存儲和網絡進程將主機轉移到專用硬件和軟件上,從而提高速度。
據千芯科技董事長陳巍博士分析,就Maia 100性能來看,MXFP4算力達到了3200TFLOPS,MXInt8算力達到1600TFLOPS(這里有可能是新聞筆誤,因為INT8算力一般按照TOPS單位)。SIMD算力為48TFLOPS,具備140MB L1緩存和448MB L2緩存,HBM3容量為64GB,TDP功耗860W,采用TSMC N5工藝,面積820mm^2,105BIllion晶體管。

? 對比一下Maia 100和其他幾個家世顯赫的芯片性能,可以看到Maia具有大量的片上SRAM(單芯片合計588MB),甚至超過了特斯拉D1,有可能是存算一體(近存計算)架構的AI DSA。初步猜測其架構和液冷方式與特斯拉Dojo接近。
緊密聯(lián)系合作伙伴
基于微軟與AI軟件龍頭OpenAI的緊密關系,所以微軟Azure云服務也將在第一時間向用戶提供OpenAI的最新產品,例如GPT-4 Trubo和多模態(tài)能力,以及基于GPT-4的微調。
微軟也在今天宣布推出“MAAS”產業(yè)模式(Models as a Service/模型即服務),用戶可以直接通過微軟的服務來調用API、微調和部署各類開源大模型。微軟也已經與Meta等一眾大模型開發(fā)商達成合作,將Llama 2等知名LLM作為一項服務推出。
納德拉宣布,Azure云將發(fā)布英偉達的AI工坊服務(AI foundry service),為此他還請來了黃仁勛,講述兩家AI巨頭從硬件到軟件的全面合作。
據悉,英偉達AI工坊涵蓋英偉達的AI基礎模型、NeMo框架和工具,以及英偉達DGX Cloud AI超級計算和服務三大要素。微軟用戶將可以在Azure云上利用英偉達的AI軟件生成并部署模型。
黃仁勛表示,AI的第一波浪潮源自OpenAI等一批創(chuàng)業(yè)公司,而現在整個產業(yè)已經進入了第二波浪潮,由微軟Copilot推動的企業(yè)級AI。在他看來,第三波也是最大的那一波將會是整個世界的重工業(yè)數字化,并從生成式AI中獲益。
審核編輯:黃飛
?
電子發(fā)燒友App


















評論