去年，比爾·蓋茨發(fā)表了一篇十分引人關(guān)注的博客文章，在文中他表示 OpenAI 的 GPT AI 模型是技術(shù)上最具革命性的進(jìn)步，這是他人生中第二次被科技真正震撼到。

蓋茨寫道，第一次是在 1980 年，當(dāng)時(shí)他第一次看到圖形用戶界面（GUI）。他表示，GUI 成為他創(chuàng)建微軟 Windows 操作系統(tǒng)的基石。第二次是在 2022 年年中，當(dāng)時(shí)他見(jiàn)識(shí)到了 OpenAI 及其生成式人工智能 ChatGPT 的學(xué)習(xí)能力。蓋茨寫道：“人工智能的發(fā)展與微處理器、個(gè)人電腦、互聯(lián)網(wǎng)和移動(dòng)電話的誕生一樣重要。它將改變?nèi)藗児ぷ?、學(xué)習(xí)、旅行、獲得醫(yī)療保健以及彼此交流的方式。整個(gè)行業(yè)都將圍繞它重新定位。企業(yè)將通過(guò)如何使用它而脫穎而出?！?/p>

今年，比爾·蓋茨又發(fā)布了一個(gè)與 OpenAI 首席執(zhí)行官山姆·奧特曼對(duì)話的播客，兩人深入探討了 ChatGPT 的發(fā)展。在交談中，比爾·蓋茨稱贊道：“沒(méi)想到 ChatGPT 會(huì)變得這么厲害！”顯然他對(duì)這個(gè)模型及其快速發(fā)展印象深刻。

ChatGPT 最初只是一個(gè)語(yǔ)言模型，如今卻成長(zhǎng)為一個(gè)擁有聽(tīng)覺(jué)、視覺(jué)和語(yǔ)言能力的人工智能媒介。而 OpenAI 推出的最新語(yǔ)言模型 GPT-4 更具創(chuàng)造力和協(xié)作性，它能與用戶一起生成、編輯和迭代各類創(chuàng)意和技術(shù)寫作任務(wù)。目前，ChatGPT 團(tuán)隊(duì)正在努力拓展 GPT-4，使其擺脫目前的推理限制，并專注于提升可靠性。

在與比爾·蓋茨的對(duì)話中，山姆·奧特曼展望了 ChatGPT 的未來(lái)，同時(shí)強(qiáng)調(diào)他們的 AI 系統(tǒng)仍在不斷學(xué)習(xí)和進(jìn)化?！艾F(xiàn)在我們所見(jiàn)到的成果令人興奮，但更重要的是要認(rèn)識(shí)到這項(xiàng)技術(shù)至少在未來(lái)五到十年仍將飛速發(fā)展。我們可以說(shuō)，現(xiàn)在這些模型還處于早期階段，還有很大的進(jìn)步空間，”

另一方面，山姆·奧特曼在上周的達(dá)沃斯采訪中說(shuō)道，他目前的首要任務(wù)是推出新的模型，很可能被稱為 GPT-5。同時(shí)，他認(rèn)為實(shí)現(xiàn)這一切的前提條件是能源生產(chǎn)能取得突破。他堅(jiān)信能源生產(chǎn)的突破是推動(dòng)日益強(qiáng)大、耗能巨大的 AI 模型發(fā)展的重要一步，“如果沒(méi)有取得突破，我們就無(wú)法實(shí)現(xiàn)目標(biāo)?！?/p>

但 ChatGPT 未來(lái)到底能達(dá)到什么樣的能力？這恐怕主要在于比爾·蓋茨和山姆·奧特曼想將生成式 AI 帶向何方。這也是比爾·蓋茨這期播客所討論的內(nèi)容，我們將他們的聊天內(nèi)容翻譯出來(lái)以饗大家。

為我解惑：比爾·蓋茨 與山姆·奧特曼的對(duì)話

比爾·蓋茨:今天我們主要討論 AI 話題，這是個(gè)令人興奮的方向，也有不少人表達(dá)了擔(dān)憂。歡迎你，山姆。

山姆·奧特曼:非常榮幸能來(lái)到這里。

比爾·蓋茨:我很高興能看到你的工作不斷推進(jìn)，但我個(gè)人也抱有一點(diǎn)懷疑。我真沒(méi)想到 ChatGPT 會(huì)那么強(qiáng)大，著實(shí)令人大吃一驚，特別是它在編碼架構(gòu)之外的出色表現(xiàn)。我們熟悉數(shù)字，知道怎么做數(shù)學(xué)運(yùn)算，但模仿莎士比亞的文字風(fēng)格是怎么實(shí)現(xiàn)的？你能給大家解釋一下嗎？

山姆·奧特曼:當(dāng)然可以。其實(shí)這種模仿能力對(duì)人類來(lái)說(shuō)非常困難，而在計(jì)算機(jī)這邊也差不多，都需要依靠彼此相連的神經(jīng)元。這種連接是動(dòng)態(tài)的，雖然我們沒(méi)法直接切開(kāi)大腦去做觀察，但可以用 X 射線檢查并建立起科學(xué)理論。我們?cè)诳山忉屝苑矫嬉呀?jīng)取得了不錯(cuò)的進(jìn)展，相信隨時(shí)間推進(jìn)還會(huì)有更多成果。我希望最終能夠理解神經(jīng)網(wǎng)絡(luò)的完整運(yùn)作方式，但目前的認(rèn)知確實(shí)比較有限。如你所說(shuō)，我們?cè)敢庖稽c(diǎn)點(diǎn)改進(jìn)對(duì)原理的了解，這也將成為后續(xù)發(fā)展的基石。哪怕拋開(kāi)科學(xué)探索上的好奇心，我們也有意愿解開(kāi)這個(gè)謎題。只是神經(jīng)網(wǎng)絡(luò)的規(guī)模太過(guò)巨大，我們連人類如何理解莎士比亞、表達(dá)莎士比亞都不清楚，更別說(shuō)去分析計(jì)算機(jī)了。

比爾·蓋茨:確實(shí)不清楚。

山姆·奧特曼:不光是運(yùn)作機(jī)理不明確，我們甚至不知道怎樣完美進(jìn)行 X 光檢查、觀察并設(shè)計(jì)機(jī)能測(cè)試，所以要做的工作還很多。

比爾·蓋茨:但我相信在未來(lái)五年內(nèi)，人類會(huì)逐漸理解這一切。而這樣的理解，也能讓未來(lái)的 AI 模型獲得遠(yuǎn)超當(dāng)下的訓(xùn)練效率和準(zhǔn)確性。

山姆·奧特曼:確實(shí)是這樣。技術(shù)的發(fā)展過(guò)程就是艱難探索的過(guò)程，總有人率先做出實(shí)證發(fā)現(xiàn)，但卻無(wú)法解釋其底層原理，只知道確切有效。之后隨著科學(xué)理解的加深，人類終于可以理解一切、運(yùn)用一切。

比爾·蓋茨:是的，物理學(xué)、生物學(xué)都是這樣。總有讓人摸不著頭腦的時(shí)候，比如“這些機(jī)能是怎么組合在一起的”？

山姆·奧特曼:以我們的研究為例，GPT-1 自己學(xué)會(huì)了如何解決問(wèn)題，著實(shí)令人印象深刻，而當(dāng)時(shí)研究人員根本就不清楚其工作原理或者實(shí)現(xiàn)原因。之后我們發(fā)現(xiàn)了規(guī)模越大、性能越好的規(guī)律，初步掌握了后續(xù)開(kāi)發(fā)的方向。因此我們才能信心滿滿地保證，自己的演示模型肯定能夠發(fā)揮作用。雖然當(dāng)時(shí)我們的模型還沒(méi)訓(xùn)練完成，但對(duì)這個(gè)規(guī)律已經(jīng)很有信心。我們就對(duì)此進(jìn)行了一系列嘗試，開(kāi)始對(duì)當(dāng)前發(fā)生的一切做科學(xué)解釋。不過(guò)這些都是后話，最初的判斷首先來(lái)自實(shí)證結(jié)果。

談 ChatGPT、人工智能和法規(guī)

比爾·蓋茨:展望未來(lái)兩年，你覺(jué)得會(huì)出現(xiàn)哪些關(guān)鍵里程碑？

山姆·奧特曼:多模態(tài)肯定是重中之重。

比爾·蓋茨:就是直接支持語(yǔ)音輸入 - 語(yǔ)音輸出？

山姆·奧特曼:對(duì)，語(yǔ)音輸入 - 語(yǔ)音輸出。之后是支持圖像，最后是視頻。很明顯，人們對(duì) AI 的期待也是如此。我們發(fā)布了圖像和音頻支持功能，市場(chǎng)反響甚至遠(yuǎn)超我們的預(yù)期。后續(xù)我們將更進(jìn)一步，而最重要的進(jìn)步方向應(yīng)該會(huì)體現(xiàn)在推理能力上。目前，GPT-4 還只能以極其有限的方式進(jìn)行推理。再就是可靠性。如果把大部分問(wèn)題反復(fù)問(wèn) GPT-4 上萬(wàn)次，那么其中部分答案當(dāng)然會(huì)很好，但模型本身不知道哪個(gè)才是最佳答案，所以整個(gè)重復(fù)加篩選的過(guò)程只能由用戶進(jìn)行。如果能讓可靠性更上一層樓，那么 GPT 的實(shí)用意義將大大增加。

可定制性和個(gè)性化也非常重要。人們希望從 GPT-4 中得出差異化的結(jié)果：不同風(fēng)格、不同的假設(shè)前提等等。我們將讓這一切成為可能，允許大家提交自己的數(shù)據(jù)。比如吸納你的個(gè)人信息、電子郵件、日歷安排、約會(huì)規(guī)劃并接入其他外部數(shù)據(jù)源等等。這些都是接下來(lái)最重要的改進(jìn)方向。

比爾·蓋茨:現(xiàn)在的基礎(chǔ)算法還主要是前饋和乘法，所以輸出每個(gè)新單詞在本質(zhì)上就是在做重復(fù)迭代。如果想要實(shí)現(xiàn)進(jìn)一步發(fā)展目標(biāo)，比如求解復(fù)雜的數(shù)學(xué)方程，那可能會(huì)涉及隨機(jī)次數(shù)變換，意味著推理的控制邏輯也將更加復(fù)雜。不知道在這方面，你們做了哪些探索。

山姆·奧特曼:確實(shí)，我們似乎需要某種自適應(yīng)計(jì)算。現(xiàn)在我們?cè)诿總€(gè) token 上耗費(fèi)的計(jì)算量是相同的，無(wú)論是最簡(jiǎn)單的 token、還是最復(fù)雜的數(shù)學(xué)計(jì)算，這肯定不行。

比爾·蓋茨:是的，比如要求大模型“證明黎曼猜想”。

山姆·奧特曼:那肯定需要大量算力。

比爾·蓋茨:但對(duì)現(xiàn)在的模型來(lái)說(shuō)，它為這個(gè)問(wèn)題分配的自力跟輸出“the”完全一樣。

山姆·奧特曼:沒(méi)錯(cuò)，所以目前的方案只能算是能用。在此之后，我們還需要為更復(fù)雜的問(wèn)題找到答案。

比爾·蓋茨:你和我都出席了參議院教育會(huì)議，很高興有約 30 名參議員能夠到場(chǎng)，大家交換意見(jiàn)并共同推進(jìn)這項(xiàng)巨大的變革。很難講政界為什么會(huì)重視這個(gè)問(wèn)題，但他們提出的問(wèn)題的確非常現(xiàn)實(shí)——“我們沒(méi)能管好社交媒體，我們本應(yīng)做得更好”。這確實(shí)是個(gè)嚴(yán)峻挑戰(zhàn)，在輿論層面引發(fā)嚴(yán)重的兩極分化跡象。而且哪怕是現(xiàn)在，我也沒(méi)想好該如何處理這個(gè)問(wèn)題。

山姆·奧特曼:我不太理解政府為什么沒(méi)能把社交媒體管理得更好，但似乎不妨以此為契機(jī)，幫助政府為接下來(lái)的 AI 研究探索指導(dǎo)方針。

比爾·蓋茨:這確實(shí)是個(gè)不錯(cuò)的研究案例。說(shuō)起監(jiān)管，你對(duì)于未來(lái)的監(jiān)管思路有沒(méi)有大體上的理解？

山姆·奧特曼:我們已經(jīng)在著手解決這個(gè)問(wèn)題了。而且包括 AI 在內(nèi)，對(duì)技術(shù)領(lǐng)域的監(jiān)管很容易過(guò)度，以往就多次發(fā)生過(guò)這類狀況。雖然不敢保證，但假設(shè)我們的這條發(fā)展路線是對(duì)的，而且 AI 技術(shù)的發(fā)展也確實(shí)能夠達(dá)到我們預(yù)期的水平，那么其必將對(duì)全社會(huì)、地緣政治平衡等重要因素產(chǎn)生深遠(yuǎn)影響。這些當(dāng)然還只是假設(shè)，可如果真的出現(xiàn)了算力達(dá)到 10 萬(wàn)甚至 100 萬(wàn)倍于 GPT-4 的超級(jí) AI 系統(tǒng)，那么必須在人類社會(huì)建立起覆蓋全球的監(jiān)管機(jī)構(gòu)，由他們管控和指導(dǎo)技術(shù)演進(jìn)。畢竟這已經(jīng)不再是單一技術(shù)，而是一股能夠左右世界局勢(shì)的力量。我們討論的一種潛在模式，可能是類似國(guó)際原子能機(jī)構(gòu)的組織方式。在核能方面，我們?cè)?jīng)做出過(guò)成功的嘗試。強(qiáng)大的潛在全球影響力，必須對(duì)應(yīng)強(qiáng)有力的全球性機(jī)構(gòu)。我深切認(rèn)同這一點(diǎn)。該機(jī)構(gòu)應(yīng)該負(fù)責(zé)解決各種短期問(wèn)題，包括 AI 模型可以輸出什么、不該輸出什么，如何處理版權(quán)爭(zhēng)議等等。不同的國(guó)家對(duì)這些問(wèn)題有著不同的看法，需要充分進(jìn)行討論。

比爾·蓋茨:有些人認(rèn)為，如果真出現(xiàn)了如此強(qiáng)大的模型，人類必須對(duì)其保持警惕——畢竟核監(jiān)管之所以能夠在全球范圍內(nèi)廣泛發(fā)揮作用，原因就是至少在民用層面，每個(gè)人都希望遵循安全實(shí)踐、受到妥善保護(hù)。但在武器化問(wèn)題上，對(duì)核能的約束就非常有限了。其中的關(guān)鍵是如何阻止全世界都不用它做危險(xiǎn)的事，但從目前各國(guó)在氣候、恐怖主義等問(wèn)題的合作態(tài)勢(shì)上看，恐怕難度會(huì)很大。人們甚至援引美中競(jìng)爭(zhēng)的現(xiàn)實(shí)，認(rèn)為任何著眼長(zhǎng)期的發(fā)展放緩方案都不會(huì)成功。你覺(jué)得呢，是不是要求各方放緩開(kāi)發(fā)、提高警惕的想法只會(huì)成為空談？

山姆·奧特曼:是的，我覺(jué)得要求大家放慢開(kāi)發(fā)的腳步確實(shí)不切實(shí)際。但如果換個(gè)角度講，“你可以做自己想做的事，但不能讓計(jì)算集群的功率超出某個(gè)極高的閾值”，可能更容易被各方所接收。考慮到高昂的實(shí)施成本，全世界可能也只有五個(gè)左右的國(guó)家能夠構(gòu)建這樣的集群，此類系統(tǒng)需要經(jīng)過(guò)國(guó)際武器核查機(jī)構(gòu)的管控。其中運(yùn)行的模型必須接受安全審查，在訓(xùn)練期間和部署前通過(guò)相關(guān)測(cè)試。我覺(jué)得這應(yīng)該是可行的。之前我還不太確定，但今年我們組織過(guò)一場(chǎng)全球訪問(wèn)，與許多準(zhǔn)參與國(guó)的元首交換了意見(jiàn)，且?guī)缀醯玫搅似毡橹С帧＿@套方案當(dāng)然不足以徹底解決問(wèn)題，在某些情況下，即使規(guī)模較小的 AI 系統(tǒng)也有可能引發(fā)風(fēng)險(xiǎn)或者導(dǎo)致嚴(yán)重錯(cuò)誤。但在我看來(lái)，這至少能幫助全人類規(guī)避最高級(jí)別的風(fēng)險(xiǎn)因素。

山姆·奧特曼眼中的 ChatGPT 未來(lái)

比爾·蓋茨:但從樂(lè)觀的角度看，AI 也能幫助人類解決一些極端復(fù)雜的難題。

山姆·奧特曼:那是當(dāng)然。

比爾·蓋茨:這也是個(gè)典型的兩極分化問(wèn)題。AI 可能會(huì)破壞民主，這當(dāng)然不是好事。但另一方面，我們也看到 AI 技術(shù)在某些領(lǐng)域極大提高了生產(chǎn)力水平。現(xiàn)在你比較關(guān)注哪些領(lǐng)域？

山姆·奧特曼:首先，我覺(jué)得必須意識(shí)到 AI 發(fā)展是一條漫長(zhǎng)且連續(xù)的曲線?，F(xiàn)在我們已經(jīng)擁有能夠執(zhí)行某些任務(wù)的 AI 系統(tǒng)。它們還無(wú)法獨(dú)立完成整項(xiàng)工作，但卻可以處理其中的特定環(huán)節(jié)，由此帶來(lái)生產(chǎn)力提升。最終，它們應(yīng)該可以承接以往只能由人類解決的任務(wù)。當(dāng)然，人類也會(huì)在 AI 的基礎(chǔ)上找到新的崗位、獲得更好的工作體驗(yàn)。我一直認(rèn)為只要能為人們提供更強(qiáng)大的工具，那他們不僅可以加快工作速度，更可以將質(zhì)量提升到全新的高度。

比如說(shuō)，也許我們可以程序員的開(kāi)發(fā)效率提高 3 倍。這個(gè)目標(biāo)已經(jīng)在實(shí)現(xiàn)當(dāng)中，也是我們最關(guān)注的應(yīng)用領(lǐng)域之一。更重要的是，讓程序員的效率提高 3 倍可不止是能編寫出 3 倍的代碼量，更能讓他們把腦力集中在抽象度更高的問(wèn)題上、思考完全不同的內(nèi)容。這就像是從當(dāng)初的打孔卡到高級(jí)編程語(yǔ)言，這不僅加快了我們的開(kāi)發(fā)速度，也讓我們拿出了以往無(wú)法想象的軟件成果。我們堅(jiān)信這一點(diǎn)，也觀察到了喜人的變化態(tài)勢(shì)。

而在 AI 技術(shù)進(jìn)一步發(fā)展之后，其也許能夠朝著執(zhí)行完整任務(wù)再做邁進(jìn)。比如說(shuō)未來(lái)會(huì)出現(xiàn)小小的 AI Agent，用戶可以要求它“幫我編寫個(gè)程度，期間我會(huì)通過(guò)提問(wèn)給你引導(dǎo)”。那時(shí)候的 AI 不再簡(jiǎn)單編寫幾條函數(shù)，而是會(huì)帶來(lái)全新的開(kāi)發(fā)成果，這也是承擔(dān)復(fù)雜工作的前提。終有一天，我們甚至可以要求 AI“幫我經(jīng)營(yíng)這家公司”，或者直接要求它“去發(fā)現(xiàn)新的物理學(xué)規(guī)律”。所以大家千萬(wàn)不要被眼前的現(xiàn)實(shí)局限住，雖然現(xiàn)有成果已經(jīng)相當(dāng)美妙且令人興奮，但結(jié)合這項(xiàng)技術(shù)的發(fā)展背景來(lái)看，未來(lái)五到十年之間 AI 將會(huì)出現(xiàn)非常陡峭的改進(jìn)曲線。到時(shí)候回頭來(lái)看，人們可能會(huì)感嘆當(dāng)初的 AI 模型怎么那么蠢。

總之，編碼應(yīng)該是我們目前最關(guān)注的生產(chǎn)力提升領(lǐng)域。目前相關(guān)產(chǎn)品已經(jīng)得到大規(guī)模部署和應(yīng)用。此外，醫(yī)療保健和教育領(lǐng)域也同樣值得關(guān)注。

比爾·蓋茨:但讓人心生疑慮的是，與之前的技術(shù)改進(jìn)不同，這次 AI 的發(fā)展可以說(shuō)是極為迅速且?guī)缀鯖](méi)有上限。AI 已經(jīng)在很多領(lǐng)域都達(dá)到了人類從業(yè)者的水平，哪怕還沒(méi)法用于科學(xué)研究，它們也已經(jīng)在客服和銷售電話上廣泛普及。我猜你也跟我一樣有點(diǎn)擔(dān)心，就是在積極因素之外，AI 的快速發(fā)展也會(huì)加大我們適應(yīng)時(shí)代變化的壓力。

山姆·奧特曼:這確實(shí)是令人擔(dān)憂的一面。但我覺(jué)得這人類既不一定要被迫適應(yīng)，也不是說(shuō)缺乏適應(yīng)變化的能力。我們都經(jīng)歷過(guò)巨大的技術(shù)變革，任何人做的任何工作都有可能在幾代人時(shí)間內(nèi)發(fā)生變化。這種變革速度越來(lái)越快，但人們也適應(yīng)得越來(lái)越好。過(guò)去任何一次偉大的技術(shù)革命都是這樣，只不過(guò) AI 變革是速度最快的一次。這的確會(huì)令人心生憂慮，擔(dān)心社會(huì)跟不上變化的速度，勞動(dòng)力市場(chǎng)適應(yīng)不了層出不窮的挑戰(zhàn)。

比爾·蓋茨:AI 還有另外一個(gè)側(cè)重點(diǎn)，就是機(jī)器人技術(shù)。它要替代的是藍(lán)領(lǐng)工作。只要它的操作能力發(fā)展到人類手腳的水平，這個(gè)臨界點(diǎn)就會(huì)到來(lái)。ChatGPT 那令人印象深刻的功能突破讓“消滅白領(lǐng)”成了核心議題，但我擔(dān)心人們同時(shí)忘記去關(guān)心那些藍(lán)領(lǐng)崗位。那你是怎么看待機(jī)器人技術(shù)的？

山姆·奧特曼:我倒是非常期待。之前的機(jī)器人技術(shù)研究都太早了，所以往往進(jìn)展緩慢、長(zhǎng)期停滯。受時(shí)代局限，開(kāi)發(fā)工作舉步維艱，也沒(méi)能幫助我們?cè)?a target="_blank">機(jī)器學(xué)習(xí)研究中取得顯著進(jìn)展。長(zhǎng)期以來(lái)，大家拿出的只有性能差勁的模擬機(jī)械和肢體復(fù)健器材之類的東西。但隨著時(shí)間推移，我們意識(shí)到應(yīng)該首先實(shí)現(xiàn)智能與認(rèn)知，之后才搞清楚意識(shí)如何作用于肢體。所以我們從更易于上手的語(yǔ)言模型構(gòu)建起步，也從未放棄過(guò)跟實(shí)體機(jī)械相結(jié)合的目標(biāo)。

我們已經(jīng)開(kāi)始對(duì)機(jī)器人公司做投資。在物理硬件方面，我終于第一次看到了真正令人興奮的新平臺(tái)。也許未來(lái)的某一天，我們能把自己的大模型跟機(jī)器人結(jié)合起來(lái)，就像你所說(shuō)，發(fā)揮它們的語(yǔ)言理解和視頻理解能力，真正讓機(jī)器人獨(dú)立完成某些復(fù)雜的工作。

比爾·蓋茨:如果那些特定機(jī)械肢體上的研發(fā)成果被整合起來(lái)，比如腿部、手臂和手指部件，而且價(jià)格也不是高得離譜，那它們會(huì)不會(huì)很快就消滅大量藍(lán)領(lǐng)崗位，徹底改變整個(gè)勞動(dòng)力就業(yè)市場(chǎng)？

山姆·奧特曼:肯定會(huì)的。但大家應(yīng)該還記得，就在七、八年之前，人們對(duì)機(jī)器人技術(shù)的理解都是先替代藍(lán)領(lǐng)崗位，之后才是白領(lǐng)崗位。歸根結(jié)底，人類最不可替代的永遠(yuǎn)是創(chuàng)造力，所以未來(lái)的從業(yè)者也只能依靠自己的創(chuàng)造力。

但實(shí)際情況跟當(dāng)初的預(yù)測(cè)相反，是白領(lǐng)先受沖擊，藍(lán)領(lǐng)反而相對(duì)安全。關(guān)于這個(gè)問(wèn)題出現(xiàn)了很多有趣的討論，而且說(shuō)起創(chuàng)造力，我一直認(rèn)為 GPT 模型的“幻覺(jué)”并不是 bug、而是一項(xiàng)功能?；糜X(jué)是創(chuàng)造的來(lái)源。但如果想讓機(jī)器人去搬弄重型機(jī)械，那最好能做到精確無(wú)誤。這就是先驗(yàn)理論需要隨實(shí)際技術(shù)做出調(diào)整的例子。我們都有事前判斷，但科學(xué)的發(fā)展往往并不給面子。

比爾·蓋茨:現(xiàn)在的 AI 已經(jīng)非常強(qiáng)大了，再加上 AGI 通用人工智能和未來(lái)的 AGI+，這三樣?xùn)|西會(huì)不會(huì)太危險(xiǎn)了。我很擔(dān)心這些系統(tǒng)落入壞人的手里。強(qiáng)大的系統(tǒng)只有在好人手中，才能最大限度受到控制。而且除了這個(gè)，我還好奇人類會(huì)用 AI 做什么。你知道我最近一直在投身于治療瘧疾、消滅瘧疾的工作，努力招募人才并投入資源。那如果有一天，機(jī)器告訴我“比爾，你可以休息了，以你的腦力解決不了這個(gè)問(wèn)題。瘧疾已經(jīng)被 AI 消滅了?！蹦俏铱赡軙?huì)有點(diǎn)難以接受。但必須承認(rèn)，人類的認(rèn)知是有極限的，我想消滅瘧疾，但不知道如何組織起社會(huì)力量。我想改善教育，但搞不清教育到底要如何設(shè)計(jì)。想要打造出極致的架構(gòu)，必須解決其中極大的不確定性。而 AI 的崛起，終于讓 20 年內(nèi)解決這些終極問(wèn)題有了一絲可能。

山姆·奧特曼:技術(shù)工作確實(shí)會(huì)造成沉重的心理負(fù)擔(dān)，我也感覺(jué)這才是其中最困難的部分，但我也因此獲得了巨大的滿足感。

比爾·蓋茨:你畢竟創(chuàng)造出了巨大的價(jià)值。

山姆·奧特曼:說(shuō)句實(shí)話，這可能是我最后一次接受這么困難的挑戰(zhàn)了。

比爾·蓋茨:我們的解決思路是圍繞稀缺性組織起來(lái)的：因?yàn)楹玫慕處?、醫(yī)生和方案都很稀缺，所以才有了現(xiàn)行制度。所以我的確很好奇，在這一切都不再稀缺中成長(zhǎng)起來(lái)的下一代人，會(huì)以怎樣的哲學(xué)理念設(shè)計(jì)社會(huì)結(jié)構(gòu)、定義人生目標(biāo)。也許他們會(huì)有自己的答案，而我擔(dān)心自己的思維已經(jīng)被稀缺性所綁架，甚至無(wú)法想象新的時(shí)代會(huì)是怎樣的形態(tài)。

山姆·奧特曼:我也一直在提醒自己，就是說(shuō)雖然人類會(huì)失去一些東西，但最終得到的卻是才智超越自身的新成果。我們只有適應(yīng)這樣一個(gè)后稀缺時(shí)代，才能找到屬于自己的奮斗方向。這種感覺(jué)肯定跟以前大不一樣，畢竟我們要解決的不再是瘧疾這類現(xiàn)實(shí)問(wèn)題，而是選擇自己喜愛(ài)的星系，想在那里做些什么。但我相信人類足夠靈活，總能用各種各樣的方式找到滿足感和充實(shí)感。相互扶持，用自己的方式服務(wù)他人，是人類社會(huì)永遠(yuǎn)的母題。雖然具體形式可能有所不同，但我認(rèn)為唯一的出路就在這里。我們必須勇敢面對(duì)未來(lái)，因?yàn)槲磥?lái)必將到來(lái)。這是一個(gè)不可阻擋的技術(shù)進(jìn)程，其中蘊(yùn)藏著難以想象的巨大價(jià)值。我對(duì)此很有信心，我們會(huì)讓這個(gè)美好時(shí)代來(lái)臨，但也必將迎來(lái)不同于以往的問(wèn)題。

比爾·蓋茨:AI 的應(yīng)用有很多種，其中一些比較明確，比如如何指引和激勵(lì)孩子學(xué)習(xí)、如何發(fā)現(xiàn)能治療阿爾茨海默癥的藥物，這些都有清晰的方向。但也有些問(wèn)題比較模糊，比如 AI 能否幫助我們減少戰(zhàn)爭(zhēng)。在你們這些研究者看來(lái)，在智能發(fā)展中控制兩極分化是常識(shí)，阻止戰(zhàn)爭(zhēng)也是常識(shí)，但很多人卻對(duì)此抱懷疑態(tài)度。我希望人類能解決好那些最棘手的問(wèn)題，比如相互間怎樣和睦相處。如果 AI 能在這些問(wèn)題上做出貢獻(xiàn)，那就再好不過(guò)了。

山姆·奧特曼:我堅(jiān)信 AI 肯定會(huì)帶給我們驚喜。這項(xiàng)技術(shù)的效用將遠(yuǎn)遠(yuǎn)超出我們的預(yù)期。雖然仍有待時(shí)間來(lái)證明，但我對(duì)此非常樂(lè)觀。我也認(rèn)同你的觀點(diǎn)，希望 AI 能夠立此奇功。

比爾·蓋茨:說(shuō)起來(lái)，技術(shù)的實(shí)現(xiàn)成本往往非常高昂，就像當(dāng)初的個(gè)人電腦或者互聯(lián)網(wǎng)連接一樣，而且成本需要時(shí)間來(lái)逐漸下降。那現(xiàn)在 AI 系統(tǒng)的運(yùn)行成本怎么樣，是不是每過(guò)段時(shí)間就會(huì)有顯著下降？

山姆·奧特曼:已經(jīng)下降了很多。GPT-3 是我們優(yōu)化時(shí)間和訓(xùn)練周期最長(zhǎng)的模型，在它推出的這三年多時(shí)間里，我們已經(jīng)把成本降低到 40%。短短三年能實(shí)現(xiàn)這樣的成本削減已經(jīng)是個(gè)不錯(cuò)的開(kāi)端。

我敢打賭，GPT-3.5 的成本則降低到接近 10%。GPT-4 還很新，所以我們沒(méi)有多少時(shí)間做成本控制，但相關(guān)探索仍在繼續(xù)。

我認(rèn)為在我所知曉的所有技術(shù)中，AI 正處于成本降低曲線上最陡峭的部分，速度遠(yuǎn)超當(dāng)初的摩爾定律。我們不僅破解了模型效率的難題，而且隨著研究理解的加深，我們還能從中獲取更多知識(shí)、在更小的模型中獲得基本相當(dāng)?shù)男阅堋＝K有一天，我們的智能成本將趨近于零，那時(shí)候就將是全社會(huì)的徹底轉(zhuǎn)型之時(shí)。

但至少目前，真實(shí)世界的兩大核心仍然是智力成本與能源成本。這是改善生活質(zhì)量的兩項(xiàng)基本投入，特別是對(duì)貧困群體來(lái)說(shuō)。如果能夠同時(shí)降低這兩項(xiàng)指標(biāo)，就能在同樣收入的前提下擴(kuò)大占有物的數(shù)量、極大改善生活體驗(yàn)。我們正處于智力改進(jìn)的曲線之上，我們也將踏踏實(shí)實(shí)踐行這一承諾。而且即使是按照目前的成本（遠(yuǎn)遠(yuǎn)超出預(yù)期的最高成本），每月花 20 美元即可獲得巨量 GPT-4 訪問(wèn)資源，其創(chuàng)造的價(jià)值將遠(yuǎn)超 20 美元?？梢哉f(shuō)，我們已經(jīng)在探索的道路上走得很遠(yuǎn)了。

經(jīng)營(yíng) OpenAI 的那些事兒

比爾·蓋茨:那競(jìng)爭(zhēng)關(guān)系如何？跟那么多同行同臺(tái)競(jìng)技有趣嗎？

山姆·奧特曼:感覺(jué)很復(fù)雜，煩人、有趣也讓人充滿斗志。相信你當(dāng)年也有過(guò)類似的感覺(jué)。競(jìng)爭(zhēng)關(guān)系確實(shí)敦促我們做得更好、做得更快。我們對(duì)自己的研究方法抱有信心，而且 OpenAI 最大的優(yōu)勢(shì)在于：其他廠商朝著球所在的位置沖刺，而我們是朝著球飛往的位置沖刺。這種感覺(jué)還不錯(cuò)。

比爾·蓋茨:很多人可能沒(méi)想到，OpenAI 居然是一家體量這么小的公司。你們有多少員工？

山姆·奧特曼:大約 500 人，這還是擴(kuò)張之后的規(guī)模。

比爾·蓋茨:但那很小。至少跟谷歌、微軟和蘋果比起來(lái)不大。

山姆·奧特曼:那是當(dāng)然。而且我們不僅要運(yùn)營(yíng)研究實(shí)驗(yàn)室，還管理著整個(gè)業(yè)務(wù)體系和兩款產(chǎn)品。

比爾·蓋茨:不斷擴(kuò)大業(yè)務(wù)規(guī)模，與全球各地的人們交談，傾聽(tīng)支持者們的意見(jiàn)，你應(yīng)該很享受這個(gè)過(guò)程吧？

山姆·奧特曼:是的，非常享受。

比爾·蓋茨:OpenAI 員工的平均年齡很小吧？

山姆·奧特曼:哈哈，其實(shí)比一般公司的平均年齡要大些。

比爾·蓋茨:好吧。

山姆·奧特曼:反正不像大家想象的，是一堆 20 來(lái)歲的程序員。

比爾·蓋茨:看來(lái)是我先入為主了，畢竟我自己都 60 多歲了，所以看到你就會(huì)覺(jué)得是個(gè)年輕人。但你也 40 多歲了，沒(méi)那么年輕了。OpenAI 的員工也是。

山姆·奧特曼:是的，30 多、40 多、50 多歲的員工都有。

比爾·蓋茨:這跟早期的蘋果和微軟真不一樣，那時(shí)候我們就是幫愣頭青。

山姆·奧特曼:確實(shí)不一樣，我也反思過(guò)這一點(diǎn)。我覺(jué)得 OpenAI 的整體年齡有點(diǎn)偏大了，不知道該怎么說(shuō)，但這種現(xiàn)象放在社會(huì)上應(yīng)該是個(gè)壞兆頭。我當(dāng)初在 Y Combinator 的時(shí)候就關(guān)注過(guò)這個(gè)問(wèn)題，發(fā)現(xiàn)隨時(shí)間推移，優(yōu)秀的年輕創(chuàng)業(yè)者越來(lái)越少。

比爾·蓋茨:這是個(gè)有趣的現(xiàn)象。

山姆·奧特曼:所以哪怕是 OpenAI，員工的平均年齡其實(shí)也挺大了。

比爾·蓋茨:通過(guò)在 Y Combinator 幫助公司創(chuàng)業(yè)，你肯定學(xué)到了很多，這些經(jīng)驗(yàn)正好用在現(xiàn)在 OpenAI 的管理和經(jīng)營(yíng)上。

山姆·奧特曼:的確很有幫助。

比爾·蓋茨:但也有很多反面案例。

山姆·奧特曼:是的。OpenAI 也做了很多違背 Y Combinator 常規(guī)建議的事情。我們花了四年半才推出首款產(chǎn)品，當(dāng)初創(chuàng)辦公司時(shí)根本說(shuō)不清未來(lái)要開(kāi)發(fā)怎樣的產(chǎn)品，也壓根沒(méi)跟用戶交流過(guò)。時(shí)至今日，我還是不建議大多數(shù)公司學(xué)習(xí) OpenAI。但在 Y Combinator 學(xué)習(xí)了這些規(guī)則之后，我才切身體會(huì)到這些規(guī)則何時(shí)、如何以及為何可以打破。總而言之，OpenAI 的成長(zhǎng)路線跟我見(jiàn)過(guò)的任何企業(yè)都截然不同。

比爾·蓋茨:關(guān)鍵在于你聚集起了人才，讓他們專注于解決那些意義重大的問(wèn)題，而不是糾結(jié)于短期收入之類的小事。

山姆·奧特曼:我覺(jué)得硅谷投資者不可能為這樣一個(gè)看起來(lái)不靠譜的項(xiàng)目投錢，所以在產(chǎn)品實(shí)際上線之前，我們必須自掏腰包支持研究。但我們堅(jiān)信“這個(gè)模型最終會(huì)非常出色，也一定會(huì)為人們創(chuàng)造價(jià)值”。這里很感激微軟愿意與我們合作，這種超前收益投資明顯有違風(fēng)險(xiǎn)投資行業(yè)的操作慣例。

比爾·蓋茨:確實(shí)，而且投資額太高了，幾乎達(dá)到了風(fēng)險(xiǎn)投資所能承受的極限。

山姆·奧特曼:沒(méi)準(zhǔn)都超過(guò)了。

比爾·蓋茨:沒(méi)準(zhǔn)都超過(guò)了。我對(duì)薩蒂亞持高度贊賞，就是因?yàn)樗恢痹谒伎肌叭绾螌⑦@家出色的 AI 組織整合到微軟的軟件體系中來(lái)？”這是一項(xiàng)極具前瞻性的戰(zhàn)略判斷。

山姆·奧特曼:一切都超乎預(yù)期。你說(shuō)得對(duì)，我在 Y Combinator 學(xué)到了很多，并據(jù)此管理 OpenAI。我們一方面聘請(qǐng)全世界最優(yōu)秀的人才，另外也要保證大家在發(fā)展方向和 AGI 使命上保持一致。但在此之外，員工們可以隨意發(fā)揮。我們都知道這種復(fù)雜問(wèn)題需要時(shí)間的沉淀，回報(bào)也絕不會(huì)很快到來(lái)。

好在我們的理論被證明大致正確，但一路走來(lái)很多策略也被證明屬于嚴(yán)重錯(cuò)誤?？茖W(xué)的探索就是這樣，永遠(yuǎn)喜憂參半。

比爾·蓋茨:我記得當(dāng)初剛看到技術(shù)演示時(shí)，自己一直在想這樣的產(chǎn)品要怎樣創(chuàng)收？服務(wù)會(huì)是什么樣子？哪怕是在這個(gè)瘋狂的時(shí)代，你們團(tuán)隊(duì)都有點(diǎn)太過(guò)超前了。

山姆·奧特曼:是的。優(yōu)秀的人們希望能跟優(yōu)秀的同事一起工作。

比爾·蓋茨:這是一種強(qiáng)大的吸引力。

山姆·奧特曼:很多公司都喜歡說(shuō)英雄惜英雄、好漢重好漢，但大家在 OpenAI 是真正感受到了自己的歷史使命。每個(gè)人都希望參與到 AGI 的實(shí)現(xiàn)中來(lái)。

比爾·蓋茨:這樣的使命感確實(shí)令人心潮澎湃。當(dāng)初你拿出技術(shù)演示時(shí)，我就為其中承載的熱情所震撼；我看到了新的朋友，新的想法。而你們一刻不停，仍在以令人難以置信的速度前進(jìn)。

山姆·奧特曼:大家一定經(jīng)常讓你提點(diǎn)建議，那你一般會(huì)怎么說(shuō)？

比爾·蓋茨:我覺(jué)得這世界上有很多不同形式的人才。在我的職業(yè)生涯之初，我只重視純粹的智商，類似于工程技術(shù)的靈性。當(dāng)然，這個(gè)邏輯在財(cái)務(wù)和銷售領(lǐng)域也有體現(xiàn)。但事實(shí)證明這是不對(duì)的。能建立起強(qiáng)大團(tuán)隊(duì)的技能組合才是重中之重。能引導(dǎo)人們思考、找到想要解決的問(wèn)題、建立一支融合不同人才的隊(duì)伍，才是最重要的能力所在。所以我想告訴年輕人，數(shù)學(xué)和科學(xué)能力當(dāng)然很重要，但如果你真想成就一番事業(yè)，那么前面說(shuō)的這種才能組合必不可少。你呢，你會(huì)給出什么樣的建議？

山姆·奧特曼:我比較關(guān)注大多數(shù)人對(duì)于風(fēng)險(xiǎn)的錯(cuò)誤理解。大家往往害怕放棄自己當(dāng)前這份輕松愉快的工作，不敢奔赴自己真正想做的事情。但實(shí)際上，如果始終止步不前，那他們最終回顧一生，只會(huì)感嘆自己從沒(méi)有投入過(guò)、沒(méi)有創(chuàng)辦自己想象中的企業(yè)、也沒(méi)試著成為一名 AI 研究者。我覺(jué)得這才是最大的風(fēng)險(xiǎn)，是讓整個(gè)人生淪于平庸的風(fēng)險(xiǎn)。

正因?yàn)槿绱?，我們?yīng)該明確自己的目標(biāo)，同時(shí)積極詢問(wèn)其他人需要什么，這就是良好的開(kāi)端。很多人都在以自己不想的方式虛耗時(shí)間，而我給出的建議就是試著以積極的方式解決這個(gè)問(wèn)題。

比爾·蓋茨:確實(shí)，讓人們從事一份自己有成就感、滿足感的工作，往往能夠迸發(fā)出他們自己都難以想象的力量。

山姆·奧特曼:絕對(duì)是這樣。

比爾·蓋茨:感謝你的到來(lái)，很高興跟你聊了這么多。相信我們?cè)诓粩鄧L試以更好的方式塑造 AI 的過(guò)程中，還會(huì)有更多值得交流的話題。

山姆·奧特曼:也感謝你邀請(qǐng)我過(guò)來(lái)，聊得很開(kāi)心。