“GPU 窮人”太多了

多年以來，區(qū)塊鏈和加密貨幣一直被批評，認為它是“為解決方案找問題”。

現(xiàn)在，一些行業(yè)內(nèi)的企業(yè)家已經(jīng)找到了它能夠解決的問題，那就是訓練 AI 模型所面臨的計算能力短缺。

解決方案：無法獲得圖形處理器（GPU）的研究人員和創(chuàng)業(yè)公司可以利用基于區(qū)塊鏈的市場，以主要供應商一部分的價格快速、輕松地獲取計算能力。

比特幣挖礦和其他事情刺激了對 GPU 的軍備競賽，它們需要進行計算以保持系統(tǒng)運行，但是去年數(shù)字貨幣市場崩潰后，需求出現(xiàn)了下滑?，F(xiàn)在，一些 AI 公司不再簡單地蠶食陷入困境的加密貨幣行業(yè)，而是依靠區(qū)塊鏈來分發(fā)這些 GPU。

哥倫比亞大學的計算機科學研究生 Ishan Dhanani 就是一個新人如何通過區(qū)塊鏈解決 GPU 短缺的范例。他想對 Meta 的 LLama2 開源 AI 模型進行微調(diào)，以便在該模型上進行實驗，但是他卻遇到了巨型公司已經(jīng)吞噬了大部分計算能力的現(xiàn)實。

他無法通過市場領(lǐng)導者亞馬遜云科技（Amazon Web Services）獲得任何計算能力，而小型供應商的計算能力總是處于售罄的狀態(tài)。通過哥倫比亞大學獲得訪問權(quán)也是一個令人頭疼的問題。

于是，他找到了 Akash Network，該公司是少數(shù)幾家創(chuàng)建了協(xié)議，以允許 GPU 所有者在區(qū)塊鏈上出租 GPU 的公司之一，每使用一分鐘的 GPU，都能賺錢取代幣（token）。Dhanani 通過 Akash 以每小時 1.10 美元的價格租用了價值 1.5 萬美元的 Nvidia A100。他花了大約 7 個小時完成了工作，其花費大約是一杯啤酒的錢。

像 Akash 這樣的公司之所以能提供更便宜的接入服務，部分原因在于這些協(xié)議的建立就是為了獨立運行，就像 Airbnb 或 Uber 的版本那樣，只不過不需要這些公司收取傭金。區(qū)塊鏈上的社區(qū)成員在代幣的激勵下，處理運維中的具體事務。因此，成本很低，除了 GPU 的所有者之外，沒有人會從交易中獲得任何可觀的收入。

這些經(jīng)驗促使 Dhanani 同兩位朋友在幾個月前成立了 Agora Labs，幫助他所說的“GPU 窮人”更容易地通過區(qū)塊鏈預定 GPU 的使用時間。他說，“不能只有 OpenAI 和 Anthropics 有能力訓練和托管 ChatGPT 這樣的模型”。

總部位于英國的 Gensyn 最近宣布獲得了 4300 萬美元的 A 輪融資，代表了風險資本對區(qū)塊鏈未來在促進 AI 行業(yè) GPU 使用時間銷售方面的巨大信心。

根據(jù)對該公司聯(lián)合創(chuàng)始人的采訪，Gensyn 正在構(gòu)建一個系統(tǒng)，該系統(tǒng)將大大簡化 AI 訓練的定價模式。Gensyn 會計劃訓練作業(yè)的總體耗時和成本，然后將任務分散到世界范圍的計算機上，尋找最優(yōu)惠的價格，而不是為 GPU 的使用時間付費。

這個策略涉及到一個很棘手的問題，那就是計算資源越分散，訓練就越復雜。

Gensyn 聯(lián)合創(chuàng)始人 Ben Fielding 說，當他獲得深度學習博士學位時，計算資源的稀缺意味著他無法完全完成 AI 模型自動化開發(fā)的研究。

“能做這樣的研究的只有谷歌和微軟”，他說，“我意識到，如果我面臨這樣的處境，那么在這個世界上，有很多其他的人也會面臨這樣的處境，這意味著我們并沒有像我們所能做的那樣，快速邁入機器學習的未來?！?/p>

Fielding 說，AI 研究是圍繞著世界上最強大的圖形處理器發(fā)展起來的。但他認為，如果區(qū)塊鏈上有一個大規(guī)模的 GPU 網(wǎng)絡，那么 AI 模型的類型將會適應它，從而可以在范圍更廣的處理器上進行訓練。

在 Gensyn 準備其產(chǎn)品時，Akash Network 表示，他們將很快推進使用區(qū)塊鏈上的 GPU 訓練第一個 AI 基礎(chǔ)模型。創(chuàng)業(yè)公司 Thumper AI 正在構(gòu)建一款產(chǎn)品，允許藝術(shù)家根據(jù)個人的作品創(chuàng)建自己的 AI 模型，然后出售這些模型的使用權(quán)。為此，它需要訪問 GPU 以便于使用 Stable Diffusion 技術(shù)微調(diào)其專有模型。

但 Thumper 的首席執(zhí)行官 Logan Cerkovnik 遇到了一個熟悉的問題：AWS 無法提供訓練模型所需的 GPU。他還考察了一些較小的供應商和轉(zhuǎn)售 GPU 空間的公司。但他表示，區(qū)塊鏈解決方案是更有價值的。他說，在與數(shù)據(jù)中心供應商合作時，需要與銷售人員進行對話、進行價格談判和審查過程。但是，在 Akash 上，交易非?？旖莘奖恪?/p>

一些為加密貨幣提供計算能力的公司已經(jīng)開始向 AI 行業(yè)提供這些資源，比如 Foundry。該公司重新利用了主要用來挖掘比特幣和其他加密貨幣的數(shù)據(jù)中心，并增加了 GPU 容量，以便于通過一個去中心化的平臺 Bittensor 運行 AI 模型。它還允許通過 Akash 在區(qū)塊鏈上出租 GPU。他們的加速計算工程主管 Tommy Eastman 說，“我們問自己，‘我們還能如何支撐 Foundry 擁有的去中心化的基礎(chǔ)設施？’”

在像 Akash 這樣的協(xié)議來訓練 AI 模型的同時，Bittensor 也被用來運行這些模型，這個過程被稱為“推理”。在 Bittensor 上，用戶可以玩類似 ChatGPT 這樣的聊天機器人。不同之處在于，每個提示請求都會發(fā)送給區(qū)塊鏈上范圍廣泛的網(wǎng)絡實體，它們會根據(jù)計算需求分配提示請求。選中者會收到加密貨幣形式的付款。

新方案是在“變廢為寶”

在科技領(lǐng)域，構(gòu)建平臺的人往往無法想象這些平臺最終會被如何使用。Steve Jobs 可能從未想過 iPhone 促生了 Uber。Mark Zuckerberg 也可能沒想到 Facebook 推進了 Zynga 誕生。

區(qū)塊鏈背后的理念是構(gòu)建一個終結(jié)所有平臺的平臺：一個開發(fā)新想法的終極畫布，沒有中心化的所有者，也不會被破壞和操縱。當然，這很理想化，也可能很天真。區(qū)塊鏈吸引了很多不懷好意的人，他們看到了賺快錢的機會。

然而，我們看到了另外一個平臺，它有一個意想不到的用例，但這似乎非常有用。具有諷刺意味的是，加密貨幣行業(yè)運行所需的大量計算資源幾乎被視為這個行業(yè)的致命弱點。特斯拉等公司停止接受比特幣的原因就在于，比特幣過于耗費資源，因此會對氣候變化產(chǎn)生巨大影響。

這個致命弱點反而可能成為加密貨幣的救命稻草。區(qū)塊鏈在高效地將計算能力出售給報價最高者方面非常出色，而且?guī)缀鹾敛毁M力?，F(xiàn)在，生成式 AI（generative-AI）的熱潮催生了一個比加密貨幣更耗能的新產(chǎn)業(yè)。而且，與加密貨幣不同，它不太可能在短期內(nèi)放緩發(fā)展速度。

還有一個原因能夠說明這一點：這不是一個快速致富的模式。加密貨幣最大的問題之一在于金融投機從根本上破壞了它的所有理念。人們發(fā)明了“首次代幣發(fā)行（initial coin offerings）”，但是炒高再拋售（pump-and-dump）的模式立即讓這一想法胎死腹中。不可兌換貨幣（non-fungible token，NFT）一問世，投機者就迅速抬高了價格，以至于大多數(shù)人無法參與。

這種新模式并不是為金融投機而生。大多數(shù)獲取 GPU 時間的客戶都將以普通貨幣支付，GPU 時間的市場將會始終與云供應商的收費保持一定的掛鉤關(guān)系。代幣主要用于后端，以促進交易并激勵人們參與系統(tǒng)維護。

這里有一些未來長期發(fā)展的可能性。（抱歉，以下內(nèi)容非常極客和理想化）。如果區(qū)塊鏈能夠更好地分配計算能力，大大降低延遲，你將會看到類似去中心化云的方案。在這種情況下，我們口袋里裝的、家里放的那些功能強大的設備，都可以作為功能強大的全球計算機的一部分得到更有效的利用，所有這些設備都被整合到一個通信網(wǎng)絡中，為我們提供持續(xù)的連接。

有些人認為，將訓練 AI 模型的能力普及化是一種潛在的危險方向。人們可能會制造出惡意行為、違反版權(quán)法的模型，甚至有可能發(fā)展成危險的、失控的惡意行為者。