德克薩斯州奧斯汀市一棟沒(méi)有標(biāo)記的辦公樓里，兩個(gè)小房間里放著一些亞馬遜產(chǎn)品員工設(shè)計(jì)兩種類(lèi)型的微芯片來(lái)訓(xùn)練和加速生成人工智能。這些定制芯片 Inferentia 和 Trainium 為 AWS 客戶提供了在Nvidia上訓(xùn)練大型語(yǔ)言模型的替代方案，因?yàn)?a href="http://www.brongaenegriffin.com/tags/gpu/" target="_blank">GPU 的采購(gòu)變得越來(lái)越困難且昂貴。

亞馬遜網(wǎng)絡(luò)服務(wù)首席執(zhí)行官 Adam Selipsky在 6 月份接受 CNBC 采訪時(shí)表示：“全世界都希望有更多芯片用于生成人工智能，無(wú)論是 GPU 還是我們正在設(shè)計(jì)的亞馬遜自己的芯片?！?“我認(rèn)為我們比地球上任何其他人都更有能力提供我們的客戶共同需要的容量?！?/p>

然而，其他公司則采取了更快的行動(dòng)，投入了更多資金，以從生成式人工智能熱潮中獲取業(yè)務(wù)。當(dāng)OpenAI 在 11 月推出 ChatGPT時(shí)，微軟

因托管病毒式聊天機(jī)器人以及據(jù)報(bào)道向 OpenAI 投資 130 億美元而受到廣泛關(guān)注。該公司很快將生成式人工智能模型添加到自己的產(chǎn)品中，并于二月份將其合并到 Bing 中。

同月，谷歌推出了自己的大型語(yǔ)言模型 Bard，隨后向OpenAI 競(jìng)爭(zhēng)對(duì)手 Anthropic 投資了 3 億美元。

直到四月份，亞馬遜才宣布推出自己的大型語(yǔ)言模型系列（名為 Titan），以及一項(xiàng)名為 Bedrock 的服務(wù)，以幫助開(kāi)發(fā)人員使用生成式人工智能增強(qiáng)軟件。

“亞馬遜不習(xí)慣于追逐市場(chǎng)。亞馬遜習(xí)慣于創(chuàng)造市場(chǎng)。我認(rèn)為，很長(zhǎng)一段時(shí)間以來(lái)，他們第一次發(fā)現(xiàn)自己處于不利地位，并且正在努力追趕，”Gartner 副總裁分析師Chirag Dekate 說(shuō)。

Meta近還發(fā)布了自己的大模型Llama 2。開(kāi)源的 ChatGPT 競(jìng)爭(zhēng)對(duì)手現(xiàn)在可供人們?cè)谖④浀?Azure 公共云上進(jìn)行測(cè)試。

芯片是“真正的差異化”

Dekate 表示，從長(zhǎng)遠(yuǎn)來(lái)看，亞馬遜的定制芯片可以使其在生成人工智能領(lǐng)域占據(jù)優(yōu)勢(shì)。

“我認(rèn)為真正的差異化在于他們所發(fā)揮的技術(shù)能力，”他說(shuō)?！澳悴略趺粗?？微軟沒(méi)有 Trainium 或 Inferentia，”他說(shuō)。

AWS 早在 2013 年就悄悄開(kāi)始生產(chǎn)定制芯片，使用一種名為 Nitro 的專(zhuān)用硬件。它現(xiàn)在是銷(xiāo)量最高的 AWS 芯片。亞馬遜告訴 CNBC，每臺(tái) AWS 服務(wù)器都至少有一片，使用中的服務(wù)器總數(shù)超過(guò) 2000 萬(wàn)臺(tái)。

2015年，亞馬遜收購(gòu)了以色列芯片初創(chuàng)公司Annapurna Labs。然后在 2018 年，亞馬遜推出了基于 Arm 的服務(wù)器芯片 Graviton ，這是AMD和英特爾等巨 x86 CPU 巨頭的競(jìng)爭(zhēng)對(duì)手。

“Arm 可能占服務(wù)器總銷(xiāo)售額的個(gè)位數(shù)甚至 10%，其中很大一部分將來(lái)自亞馬遜。因此，在 CPU 方面，他們做得相當(dāng)好。”伯恩斯坦研究。

同樣是在 2018 年，亞馬遜推出了專(zhuān)注于 AI 的芯片。兩年前，谷歌宣布推出首款張量處理器單元（TPU）。微軟尚未宣布其正在開(kāi)發(fā)的 Athena AI 芯片，據(jù)報(bào)道該芯片與 AMD 合作。

CNBC 參觀了亞馬遜位于德克薩斯州奧斯汀的芯片實(shí)驗(yàn)室，Trainium 和 Inferentia 就是在這里開(kāi)發(fā)和測(cè)試的。產(chǎn)品副總裁 Matt Wood 解釋了這兩種芯片的用途。

“機(jī)器學(xué)習(xí)分為這兩個(gè)不同的階段。因此，你訓(xùn)練機(jī)器學(xué)習(xí)模型，然后對(duì)這些經(jīng)過(guò)訓(xùn)練的模型進(jìn)行推理，”伍德說(shuō)。“相對(duì)于在 AWS 上訓(xùn)練機(jī)器學(xué)習(xí)模型的任何其他方式，Trainium 的性價(jià)比提高了約 50%?！?/p>

繼 2019 年發(fā)布 Inferentia（目前已是第二代）之后，Trainium 于 2021 年首次上市。

Inferentia 允許客戶“提供非常非常低成本、高吞吐量、低延遲的機(jī)器學(xué)習(xí)推理，這是當(dāng)您在生成人工智能模型中輸入提示時(shí)的所有預(yù)測(cè)，所有這些都將被處理到給你回應(yīng)，”伍德說(shuō)。

然而，就目前而言，在訓(xùn)練模型方面，Nvidia 的 GPU 仍然是王者。7 月，AWS推出了由 Nvidia H100 支持的新型 AI 加速硬件。

Rasgon 表示：“Nvidia 芯片擁有一個(gè)龐大的軟件生態(tài)系統(tǒng)，在過(guò)去 15 年里，圍繞它們建立起來(lái)的軟件生態(tài)系統(tǒng)是其他公司所沒(méi)有的?！?“目前人工智能的最大贏家是英偉達(dá)?！?/p>

利用云優(yōu)勢(shì)

然而，AWS 的云主導(dǎo)地位是亞馬遜的一大差異化因素。

“亞馬遜不需要贏得頭條新聞。亞馬遜已經(jīng)擁有非常強(qiáng)大的云安裝基礎(chǔ)。他們所需要做的就是弄清楚如何讓現(xiàn)有客戶能夠利用生成式人工智能擴(kuò)展到價(jià)值創(chuàng)造活動(dòng)，”德凱特說(shuō)。

當(dāng)在亞馬遜、谷歌和微軟之間選擇生成式人工智能時(shí)，數(shù)以百萬(wàn)計(jì)的 AWS 客戶可能會(huì)被亞馬遜吸引，因?yàn)樗麄円呀?jīng)熟悉亞馬遜，運(yùn)行其他應(yīng)用程序并在那里存儲(chǔ)數(shù)據(jù)。

“這是一個(gè)速度問(wèn)題。這些公司能夠以多快的速度開(kāi)發(fā)這些生成式 AI 應(yīng)用程序，這取決于首先從 AWS 中擁有的數(shù)據(jù)開(kāi)始，并使用我們提供的計(jì)算和機(jī)器學(xué)習(xí)工具，”AWS 技術(shù)副總裁Mai-Lan Tomsen Bukovec 解釋道 。

根據(jù)科技行業(yè)研究機(jī)構(gòu)Gartner的數(shù)據(jù)，AWS 是全球最大的云計(jì)算提供商，到 2022 年將占據(jù) 40% 的市場(chǎng)份額。盡管營(yíng)業(yè)收入連續(xù)三個(gè)季度同比下降，但AWS第二季度仍占亞馬遜整體77億美元營(yíng)業(yè)利潤(rùn)的70 %。AWS 的運(yùn)營(yíng)利潤(rùn)率歷來(lái)遠(yuǎn)高于谷歌云。

AWS 還擁有不斷增長(zhǎng)的專(zhuān)注于生成式 AI 的開(kāi)發(fā)人員工具組合。

“讓我們把時(shí)間倒回到 ChatGPT 之前。這并不像那件事發(fā)生之后，我們突然匆忙制定了一個(gè)計(jì)劃，因?yàn)槟悴豢赡茉谀敲纯斓臅r(shí)間內(nèi)設(shè)計(jì)出芯片，更不用說(shuō)你無(wú)法在大約 2 到 3 個(gè)月的時(shí)間?！盇WS 數(shù)據(jù)庫(kù)、分析和機(jī)器學(xué)習(xí)副總裁 Swami Sivasubramanian 說(shuō)道。

Bedrock 使 AWS 客戶能夠訪問(wèn)由Anthropic、Stability AI、AI21 Labs 和亞馬遜自己的 Titan 制作的大型語(yǔ)言模型。

“我們不相信一種模型會(huì)統(tǒng)治世界，我們希望我們的客戶能夠擁有來(lái)自多個(gè)提供商的最先進(jìn)的模型，因?yàn)樗麄儠?huì)為正確的工作選擇正確的工具，”西瓦蘇布拉馬尼安說(shuō)道。