德克薩斯州奧斯汀市一棟沒有標(biāo)記的辦公樓里,兩個(gè)小房間里放著一些亞馬遜產(chǎn)品員工設(shè)計(jì)兩種類型的微芯片來訓(xùn)練和加速生成人工智能。這些定制芯片 Inferentia 和 Trainium 為 AWS 客戶提供了在Nvidia上訓(xùn)練大型語言模型的替代方案,因?yàn)?a href="http://www.brongaenegriffin.com/tags/gpu/" target="_blank">GPU 的采購變得越來越困難且昂貴。
亞馬遜網(wǎng)絡(luò)服務(wù)首席執(zhí)行官 Adam Selipsky在 6 月份接受 CNBC 采訪時(shí)表示:“全世界都希望有更多芯片用于生成人工智能,無論是 GPU 還是我們正在設(shè)計(jì)的亞馬遜自己的芯片?!?“我認(rèn)為我們比地球上任何其他人都更有能力提供我們的客戶共同需要的容量?!?/p>
然而,其他公司則采取了更快的行動(dòng),投入了更多資金,以從生成式人工智能熱潮中獲取業(yè)務(wù)。當(dāng)OpenAI 在 11 月推出 ChatGPT時(shí),微軟
因托管病毒式聊天機(jī)器人以及據(jù)報(bào)道向 OpenAI 投資 130 億美元而受到廣泛關(guān)注。該公司很快將生成式人工智能模型添加到自己的產(chǎn)品中,并于二月份將其合并到 Bing 中。
同月,谷歌推出了自己的大型語言模型 Bard,隨后向OpenAI 競(jìng)爭(zhēng)對(duì)手 Anthropic 投資了 3 億美元。
直到四月份,亞馬遜才宣布推出自己的大型語言模型系列(名為 Titan),以及一項(xiàng)名為 Bedrock 的服務(wù),以幫助開發(fā)人員使用生成式人工智能增強(qiáng)軟件。
“亞馬遜不習(xí)慣于追逐市場(chǎng)。亞馬遜習(xí)慣于創(chuàng)造市場(chǎng)。我認(rèn)為,很長一段時(shí)間以來,他們第一次發(fā)現(xiàn)自己處于不利地位,并且正在努力追趕,”Gartner 副總裁分析師Chirag Dekate 說。
Meta近還發(fā)布了自己的大模型Llama 2。開源的 ChatGPT 競(jìng)爭(zhēng)對(duì)手現(xiàn)在可供人們?cè)谖④浀?Azure 公共云上進(jìn)行測(cè)試。
芯片是“真正的差異化”
Dekate 表示,從長遠(yuǎn)來看,亞馬遜的定制芯片可以使其在生成人工智能領(lǐng)域占據(jù)優(yōu)勢(shì)。
“我認(rèn)為真正的差異化在于他們所發(fā)揮的技術(shù)能力,”他說。“你猜怎么著?微軟沒有 Trainium 或 Inferentia,”他說。
AWS 早在 2013 年就悄悄開始生產(chǎn)定制芯片,使用一種名為 Nitro 的專用硬件。它現(xiàn)在是銷量最高的 AWS 芯片。亞馬遜告訴 CNBC,每臺(tái) AWS 服務(wù)器都至少有一片,使用中的服務(wù)器總數(shù)超過 2000 萬臺(tái)。
2015年,亞馬遜收購了以色列芯片初創(chuàng)公司Annapurna Labs。然后在 2018 年,亞馬遜推出了基于 Arm 的服務(wù)器芯片 Graviton ,這是AMD和英特爾等巨 x86 CPU 巨頭的競(jìng)爭(zhēng)對(duì)手。
“Arm 可能占服務(wù)器總銷售額的個(gè)位數(shù)甚至 10%,其中很大一部分將來自亞馬遜。因此,在 CPU 方面,他們做得相當(dāng)好?!辈魉固寡芯俊?/p>
同樣是在 2018 年,亞馬遜推出了專注于 AI 的芯片。兩年前,谷歌宣布推出首款張量處理器單元(TPU)。微軟尚未宣布其正在開發(fā)的 Athena AI 芯片,據(jù)報(bào)道該芯片與 AMD 合作。
CNBC 參觀了亞馬遜位于德克薩斯州奧斯汀的芯片實(shí)驗(yàn)室,Trainium 和 Inferentia 就是在這里開發(fā)和測(cè)試的。產(chǎn)品副總裁 Matt Wood 解釋了這兩種芯片的用途。
“機(jī)器學(xué)習(xí)分為這兩個(gè)不同的階段。因此,你訓(xùn)練機(jī)器學(xué)習(xí)模型,然后對(duì)這些經(jīng)過訓(xùn)練的模型進(jìn)行推理,”伍德說。“相對(duì)于在 AWS 上訓(xùn)練機(jī)器學(xué)習(xí)模型的任何其他方式,Trainium 的性價(jià)比提高了約 50%?!?/p>
繼 2019 年發(fā)布 Inferentia(目前已是第二代)之后,Trainium 于 2021 年首次上市。
Inferentia 允許客戶“提供非常非常低成本、高吞吐量、低延遲的機(jī)器學(xué)習(xí)推理,這是當(dāng)您在生成人工智能模型中輸入提示時(shí)的所有預(yù)測(cè),所有這些都將被處理到給你回應(yīng),”伍德說。
然而,就目前而言,在訓(xùn)練模型方面,Nvidia 的 GPU 仍然是王者。7 月,AWS推出了由 Nvidia H100 支持的新型 AI 加速硬件。
Rasgon 表示:“Nvidia 芯片擁有一個(gè)龐大的軟件生態(tài)系統(tǒng),在過去 15 年里,圍繞它們建立起來的軟件生態(tài)系統(tǒng)是其他公司所沒有的?!?“目前人工智能的最大贏家是英偉達(dá)?!?/p>
利用云優(yōu)勢(shì)
然而,AWS 的云主導(dǎo)地位是亞馬遜的一大差異化因素。
“亞馬遜不需要贏得頭條新聞。亞馬遜已經(jīng)擁有非常強(qiáng)大的云安裝基礎(chǔ)。他們所需要做的就是弄清楚如何讓現(xiàn)有客戶能夠利用生成式人工智能擴(kuò)展到價(jià)值創(chuàng)造活動(dòng),”德凱特說。
當(dāng)在亞馬遜、谷歌和微軟之間選擇生成式人工智能時(shí),數(shù)以百萬計(jì)的 AWS 客戶可能會(huì)被亞馬遜吸引,因?yàn)樗麄円呀?jīng)熟悉亞馬遜,運(yùn)行其他應(yīng)用程序并在那里存儲(chǔ)數(shù)據(jù)。
“這是一個(gè)速度問題。這些公司能夠以多快的速度開發(fā)這些生成式 AI 應(yīng)用程序,這取決于首先從 AWS 中擁有的數(shù)據(jù)開始,并使用我們提供的計(jì)算和機(jī)器學(xué)習(xí)工具,”AWS 技術(shù)副總裁Mai-Lan Tomsen Bukovec 解釋道 。
根據(jù)科技行業(yè)研究機(jī)構(gòu)Gartner的數(shù)據(jù),AWS 是全球最大的云計(jì)算提供商,到 2022 年將占據(jù) 40% 的市場(chǎng)份額。盡管營業(yè)收入連續(xù)三個(gè)季度同比下降,但AWS第二季度仍占亞馬遜整體77億美元營業(yè)利潤的70 %。AWS 的運(yùn)營利潤率歷來遠(yuǎn)高于谷歌云。
AWS 還擁有不斷增長的專注于生成式 AI 的開發(fā)人員工具組合。
“讓我們把時(shí)間倒回到 ChatGPT 之前。這并不像那件事發(fā)生之后,我們突然匆忙制定了一個(gè)計(jì)劃,因?yàn)槟悴豢赡茉谀敲纯斓臅r(shí)間內(nèi)設(shè)計(jì)出芯片,更不用說你無法在大約 2 到 3 個(gè)月的時(shí)間?!盇WS 數(shù)據(jù)庫、分析和機(jī)器學(xué)習(xí)副總裁 Swami Sivasubramanian 說道。
Bedrock 使 AWS 客戶能夠訪問由Anthropic、Stability AI、AI21 Labs 和亞馬遜自己的 Titan 制作的大型語言模型。
“我們不相信一種模型會(huì)統(tǒng)治世界,我們希望我們的客戶能夠擁有來自多個(gè)提供商的最先進(jìn)的模型,因?yàn)樗麄儠?huì)為正確的工作選擇正確的工具,”西瓦蘇布拉馬尼安說道。
-
芯片
+關(guān)注
關(guān)注
462文章
53539瀏覽量
459192 -
人工智能
+關(guān)注
關(guān)注
1813文章
49741瀏覽量
261570 -
亞馬遜
+關(guān)注
關(guān)注
8文章
2722瀏覽量
85442
原文標(biāo)題:亞馬遜,大力發(fā)展芯片
文章出處:【微信號(hào):wc_ysj,微信公眾號(hào):旺材芯片】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
上汽大眾入選長三角國資國企綠色發(fā)展典型案例
亞馬遜獲取商品評(píng)論的API接口
亞馬遜云科技現(xiàn)已上線OpenAI開放權(quán)重模型
今日看點(diǎn)丨亞馬遜上海AI研究院解散;索尼擬出售以色列芯片部門
中交興路推動(dòng)城市物流產(chǎn)業(yè)高質(zhì)量發(fā)展
【「芯片通識(shí)課:一本書讀懂芯片技術(shù)」閱讀體驗(yàn)】從deepseek看今天芯片發(fā)展
光電感知賦能智能未來 靈途科技護(hù)航新質(zhì)生產(chǎn)力發(fā)展
免積分領(lǐng)取一百多頁浙大博士論文《內(nèi)嵌式永磁同步電機(jī)效率優(yōu)化控制算法研究》
亞馬遜移動(dòng)電源UL2056檢測(cè)認(rèn)證辦理?
先進(jìn)陶瓷產(chǎn)業(yè)發(fā)展現(xiàn)狀剖析與發(fā)展建議

亞馬遜,大力發(fā)展芯片
評(píng)論