第三部分編譯后的內(nèi)容：

4.如何解決科學(xué)問題？

在掌握了上述的工具和視角后，我們將提出一些建議，幫助您在化學(xué)領(lǐng)域選擇具有影響力的研究課題，并介紹機器學(xué)習(xí)問題的高層次結(jié)構(gòu)。最后，我們將概述機器學(xué)習(xí)在化學(xué)研究中發(fā)展的三個主要方向：廣度、深度和規(guī)模。

4.1 Aspuru-Guzik/Whitesides 規(guī)則：選擇重要問題的原則

當(dāng)我們的一位成員（阿斯普魯-古茲克）在哈佛大學(xué)創(chuàng)辦物質(zhì)實驗室（2006–2018），并于2018年轉(zhuǎn)至多倫多大學(xué)時，一套選擇重要問題的規(guī)則開始逐漸形成。在與喬治·懷特賽德的走廊對話中，懷特賽德告訴阿斯普魯-古茲克他也有類似的指導(dǎo)方針，因此在開始任何研究之前需要明確的提出三個問題。我們在物質(zhì)實驗室每天都應(yīng)用這些問題來選擇研究課題。在這里，盡管我們專注于化學(xué)中的機器學(xué)習(xí)，但這些原則依然具有廣泛的適用性。這三個問題依次強調(diào)了新穎性、重要性和可行性。

4.1.1 問題 1：這個問題以前解決過嗎？

在開始一項科學(xué)事業(yè)之前，先問自己這個問題。如果這個問題以前沒有被解決過，你的解決方案將會更具影響力和持久性嗎。這是因為我們的目標(biāo)是追求創(chuàng)新，而不是單純爭取排名。

在機器學(xué)習(xí)的背景下，盡管提升基準(zhǔn)成績能夠提供有價值的進展信號，但這并不是研究的最終目標(biāo)。尤其是在學(xué)術(shù)工作中，因為研究與利潤并沒有直接關(guān)聯(lián)，所以應(yīng)該盡可能的去追求新穎性。隨之而來的是，一旦確立了新的問題，整個領(lǐng)域就會變得開發(fā)，從而就會有機會在此基礎(chǔ)上進一步提升結(jié)果。

這項工作會在兩個領(lǐng)域之間建立新的聯(lián)系嗎？當(dāng)一篇論文提出的問題多于答案時，該研究領(lǐng)域就會得到發(fā)展。僅僅將機器學(xué)習(xí)方法應(yīng)用于一個新的領(lǐng)域也可以被視為一種新穎的嘗試。然而，如果所提議的方法能夠提供一個新的視角，比如將搜索問題重新定義為生成模型的問題，那么這種新穎性將會達到最大化。

例如，我們將3D生成模型引入到旋轉(zhuǎn)光譜學(xué)領(lǐng)域，這為僅依靠旋轉(zhuǎn)光譜學(xué)進行3D結(jié)構(gòu)解析的問題提供了新的思路。一個明顯的例子是，在這一領(lǐng)域，我們首次研究的成果是優(yōu)于其他任何研究的。但是，由于我們在該領(lǐng)域提出了首個方法，因此并沒有可供比較或基準(zhǔn)測試的機器學(xué)習(xí)基準(zhǔn)。

4.1.2 問題 2：你要解決的問題是否與社會相關(guān)？

在開始一項科學(xué)探索之前，請考慮一下它是否能夠廣泛幫助他人。畢竟，我們所從事的科學(xué)直接影響著人類生活。人類與整個生物群落每天都在與人造化學(xué)物質(zhì)進行互動。請思考那些對地球重要的問題。因為在充滿環(huán)境危機和政治危機的二十一世紀(jì)，這樣的考慮顯得尤為重要。

哪個受眾會對此感興趣呢？如果這個任務(wù)能夠以顯著更高的精度或速度解決，將會有哪些新的任務(wù)變得觸手可及？例如，神經(jīng)網(wǎng)絡(luò)勢之所以重要，是因為力場已經(jīng)被廣泛應(yīng)用于了各種計算化學(xué)方法中了，而這些方法又用于預(yù)測物質(zhì)的性質(zhì)和光譜。因此，解決這個問題將吸引到科學(xué)界和工業(yè)界等廣泛的受眾。

可以對所提出的方法進行實驗測試，以驗證它是否能夠解決計算問題嗎？那些能夠經(jīng)過實驗驗證的方法通常具有更高的影響力。另一方面，如果所提出的方案“無效”，最糟糕的情況會是什么？如果新穎性選擇得當(dāng)，這種風(fēng)險就會降低，因為能夠解決未基準(zhǔn)測試的問題的方法已經(jīng)達到了最先進的水平。

4.1.3 問題 3：解決這個問題是否有可能？

處理一個既重要又在你資源范圍內(nèi)的問題是成功的關(guān)鍵。顯然，最有效且具有廣泛影響力的出版物將會產(chǎn)生更大的影響。因此，如果你希望你的工作被人銘記，就應(yīng)該追求那些難度較大的工作，而不是簡單易得的任務(wù)。

在機器學(xué)習(xí)的領(lǐng)域，考慮以下問題是非常有用的：可用的資源有哪些？是否有足夠的數(shù)據(jù)以達到所需的泛化性能？是否有公開可用的代碼實現(xiàn)？是否有類似的問題已經(jīng)通過相同的方法得到了有效解決？例如，三維生成模型在構(gòu)象搜索和對接等任務(wù)中的結(jié)構(gòu)預(yù)測成功表明，它們在晶體結(jié)構(gòu)預(yù)測方面也可能取得成功。

可行性的重要組成部分是控制范圍。那么，能夠解決這個問題的算法的最小實現(xiàn)是什么，同時又能產(chǎn)生廣泛影響？在這個問題的范圍內(nèi)，如何評估成功？

4.2 數(shù)據(jù)科學(xué)與機器學(xué)習(xí)問題的結(jié)構(gòu)

機器學(xué)習(xí)和許多數(shù)據(jù)科學(xué)問題具有一種普遍存在的結(jié)構(gòu)，這在許多論文中得到了體現(xiàn)。當(dāng)你開始研究一個選定的問題時，接下來需要考慮的內(nèi)容遵循以下層次結(jié)構(gòu)：（1）數(shù)據(jù)，（2）問題框架，（3）方法，以及（4）評估。在我們的研究小組中，總是按照這個順序和層次來考慮問題。例如，如果沒有數(shù)據(jù)，科學(xué)家將無法取得進展。提出新方法但使用舊數(shù)據(jù)的論文發(fā)表，其影響力通常不及最初提供數(shù)據(jù)（及其機器學(xué)習(xí)應(yīng)用）的論文發(fā)表。

4.2.1 可用的數(shù)據(jù)有哪些？

在機器學(xué)習(xí)中，所有事情都源于可用的數(shù)據(jù)。沒有數(shù)據(jù)，任何方法都無法應(yīng)用。那么，可用數(shù)據(jù)的規(guī)模有多大？模擬新數(shù)據(jù)的難易程度如何？有哪些真實值數(shù)據(jù)可供使用，以及有哪些方法可以驗證模型的預(yù)測？根據(jù)經(jīng)驗，當(dāng)數(shù)據(jù)集超過大約10,000個樣本時，生成模型更有可能有效地進行泛化。社區(qū)中反復(fù)解決的問題應(yīng)當(dāng)被考慮。是否可以定期記錄這些數(shù)據(jù)？例如，在量子化學(xué)領(lǐng)域，計算力和構(gòu)象搜索等任務(wù)是標(biāo)準(zhǔn)流程，這些數(shù)據(jù)的可用性為神經(jīng)力場和3D結(jié)構(gòu)預(yù)測的成功做出了貢獻。此外，數(shù)據(jù)不僅僅是一個靜態(tài)的數(shù)據(jù)集，還可能包括實時的數(shù)據(jù)采集，例如智能體的環(huán)境或用于黑箱優(yōu)化的oracle函數(shù)。正因為數(shù)據(jù)是至關(guān)重要的資源，所以我們小組才開始了一個為期多年的目標(biāo)，即開發(fā)和使用自動化實驗室。因此我們就能夠在數(shù)據(jù)上保證自給自足了。

4.2.2 如何有效地界定問題？

接下來的關(guān)鍵任務(wù)是有效地構(gòu)建問題框架。構(gòu)建框架不僅重要于確保選擇表1中的合適工具，還為基準(zhǔn)測試和理論分析提供了基礎(chǔ)。問題框架應(yīng)基于領(lǐng)域知識：需要解決哪些具體挑戰(zhàn)以支持下游任務(wù)，例如實驗驗證？例如，通過生成晶體結(jié)構(gòu)作為3D單元格進行材料設(shè)計，可能難以轉(zhuǎn)化為實際材料，因為實驗人員無法對結(jié)構(gòu)進行原子級的控制。問題框架本身往往能夠決定所提議研究的新穎性和重要性：在化學(xué)問題與機器學(xué)習(xí)問題之間建立新的聯(lián)系會產(chǎn)生新穎性，而性能的顯著提升則能增強其重要性。

另一種處理問題框架的方法是詢問數(shù)據(jù)如何表示。選擇一種緊湊、信息豐富且計算效率高的表示方式，是融入歸納偏差并加速學(xué)習(xí)的有效途徑。然而，正如“痛苦的教訓(xùn)”這部分所示，我們不必在設(shè)計“完美”表示上花費過多時間。如果輸入表示包含了所有必要信息，并且數(shù)量足夠大，深度學(xué)習(xí)能夠自動找到理想的表示形式。

4.2.3 哪種模型可以解決這個問題？

當(dāng)問題明確后，模型的選擇通常變得清晰且合理。哪些機器學(xué)習(xí)方法適合這個任務(wù)？簡單的方法能否解決這個問題？已建立的方法，如Morgan指紋和XGBoost，仍然是屬性預(yù)測的強基準(zhǔn)，而遺傳算法則是分子生成的強基準(zhǔn)。如果簡單的方法無法奏效，那么是否有新的算法適合這個問題？是否有現(xiàn)成的代碼可以在線獲??？在嘗試?yán)斫獯a之前，先運行代碼可能會更簡單。如何盡量少地修改用于解決其他問題的代碼實現(xiàn)，以便解決當(dāng)前的問題？選擇與數(shù)據(jù)規(guī)模和可用性相匹配的算法。而對于小型數(shù)據(jù)集來說，經(jīng)典機器學(xué)習(xí)仍然是表現(xiàn)最佳的。

這可能是本論文中最重要的段落：給研究生和博士后的黃金建議，切勿迷戀新方法論的誘惑。如果舊的方法論已經(jīng)被證明有效，那就直接使用它！要專注于你工作的科學(xué)貢獻。當(dāng)其他方法確實存在局限性時，才應(yīng)該開發(fā)新方法。換句話說，你的新型自編碼器在長期內(nèi)的影響力，遠不如你解決一個重要的化學(xué)或材料科學(xué)問題所帶來的深遠影響，因為這樣的答案能夠持久存在。

4.2.4 如何評估提議的方法？

最后，必須根據(jù)領(lǐng)域知識提供的合理指標(biāo)來評估該方法。這些指標(biāo)是否反映了提議的方法在實際應(yīng)用中的真實情況？例如，如果您正在生成并提議新的分子，那么化學(xué)家是否能夠合成這些分子并測試其性質(zhì)？確定適當(dāng)?shù)闹笜?biāo)是至關(guān)重要的，因為未來的工作很可能會采用相同的評估標(biāo)準(zhǔn)。

4.3 新問題：機器學(xué)習(xí)對化學(xué)的影響需求

將機器學(xué)習(xí)應(yīng)用于化學(xué)領(lǐng)域可以在應(yīng)用廣度、考慮深度和執(zhí)行規(guī)模方面產(chǎn)生更大的影響。在應(yīng)用廣度上，許多化學(xué)問題可以被重新定義為機器學(xué)習(xí)問題，并引入到機器學(xué)習(xí)社區(qū)中。在考慮深度上，所提出的方法能夠在機器學(xué)習(xí)與計算化學(xué)之間建立更強的理論聯(lián)系，從而推動兩個領(lǐng)域的進一步方法開發(fā)。最后，在執(zhí)行規(guī)模上，針對更重要的問題，化學(xué)領(lǐng)域的機器學(xué)習(xí)可以利用更多的數(shù)據(jù)。隨著人們對語言和視覺領(lǐng)域網(wǎng)絡(luò)規(guī)模數(shù)據(jù)達到極限的擔(dān)憂加劇，而化學(xué)領(lǐng)域卻因其可以通過計算模擬或高通量實驗“獲取”更多的數(shù)據(jù)而脫穎而出。

4.3.1 解決問題的廣度

在第2節(jié)中，我們觀察到機器學(xué)習(xí)在化學(xué)問題上的多樣性應(yīng)用，但許多化學(xué)領(lǐng)域仍然未被充分探索。以下是一些機器學(xué)習(xí)仍在不斷發(fā)展的化學(xué)領(lǐng)域，順序不分先后：光化學(xué)、化學(xué)教育、核化學(xué)、農(nóng)化學(xué)、分析化學(xué)、電化學(xué)、天體化學(xué)、非晶材料、軟材料、開放量子系統(tǒng)、環(huán)境化學(xué)和大氣化學(xué)，僅舉幾例。在每個領(lǐng)域中，都存在一些可以根據(jù)可用數(shù)據(jù)構(gòu)建為機器學(xué)習(xí)問題的任務(wù)。這些任務(wù)不僅限于對純小有機分子的理想狀態(tài)進行研究。此外，異質(zhì)材料、量子材料和復(fù)雜混合物等都帶來了新的挑戰(zhàn)，而這些挑戰(zhàn)恰恰可以從機器學(xué)習(xí)的創(chuàng)新中受益。正如第2.5節(jié)所提到的，現(xiàn)實世界中的大多數(shù)物質(zhì)都是復(fù)雜的混合物。

關(guān)鍵在于不要“強迫”機器學(xué)習(xí)進入這些領(lǐng)域，而是要考慮現(xiàn)有的或新穎的任務(wù)是否可以被視為機器學(xué)習(xí)問題（見表1）。這樣做將有助于實現(xiàn)迭代改進，并可能催生新的算法。在某些情況下，可能沒有足夠的數(shù)據(jù)來應(yīng)用機器學(xué)習(xí)，但確保新穎性的一種簡單方法是關(guān)注一個尚未充分被探索的領(lǐng)域。

回到我們之前的例子，我們很高興運用機器學(xué)習(xí)解決旋轉(zhuǎn)光譜學(xué)中的一個重要結(jié)構(gòu)確定問題：首次應(yīng)用生成模型來預(yù)測給定替代坐標(biāo)的分子的三維結(jié)構(gòu)。這是一個典型的廣度方法示例，旨在尋求多學(xué)科的方法，并讓我們走出自己的舒適區(qū)。

4.3.2 解決問題的深度

正如我們在第3.2.2節(jié)討論應(yīng)用驅(qū)動的創(chuàng)新在機器學(xué)習(xí)（ML）中的作用時所看到的，化學(xué)問題激發(fā)了新算法的產(chǎn)生以及高級機器學(xué)習(xí)理論的發(fā)展。而深入?yún)⑴c機器學(xué)習(xí)理論或理論化學(xué)的研究能夠帶來新穎性和重要性，并且通常能夠帶來更加穩(wěn)健的實證結(jié)果。

許多機器學(xué)習(xí)方法，例如圖神經(jīng)網(wǎng)絡(luò)和等變架構(gòu)，就是受到理論化學(xué)所啟發(fā)的，并開始對這一領(lǐng)域產(chǎn)生影響。再者，擴散模型于2015年提出，靈感來源于統(tǒng)計力學(xué)中的方法，自那時起，它們已成為最先進的生成模型，使得高分辨率的文本到圖像生成成為可能。近十年后，新研究將擴散模型與計算化學(xué)中的傳統(tǒng)工具聯(lián)系了起來。使得擴散模型能夠同時學(xué)習(xí)粗粒度力場和生成模型，并且還可以作為采樣和計算自由能的一種手段。這些研究的開展離不開對擴散模型與自由能之間關(guān)系的深入探討，以及對擴散分布與理想氣體之間聯(lián)系的理解。

此外，從擴散模型衍生的流匹配方法放寬了將數(shù)據(jù)分布噪聲化為純高斯分布的限制，從而能夠連接兩種不同的數(shù)據(jù)分布。這使得軌跡學(xué)習(xí)成為可能，并且這一技術(shù)已經(jīng)開始應(yīng)用于反應(yīng)的過渡路徑采樣。這些研究建立了理論上的聯(lián)系，可能促使更多技術(shù)在計算化學(xué)與機器學(xué)習(xí)之間進行轉(zhuǎn)移。

此外，神經(jīng)網(wǎng)絡(luò)勢能將能量計算視為一個需要記憶的黑箱函數(shù)，而哈密頓預(yù)測則揭示了哈特里–福克理論（Hartree–Fock theory）的內(nèi)部機制，使我們能夠獲取波函數(shù)，并在準(zhǔn)確性與速度之間實現(xiàn)新的平衡。自洽訓(xùn)練則通過不再需要提供哈密頓矩陣作為標(biāo)簽來與這一理論相結(jié)合，從而整體上提高了密度泛函理論（DFT）的計算速度。

與實驗人員合作，針對具體的設(shè)計目標(biāo)進行研究，為我們提供了必要的深度。在真實世界的問題通常需要將機器學(xué)習(xí)與實驗數(shù)據(jù)相結(jié)合，而這樣的合作能夠帶來在單獨研究狀態(tài)下無法實現(xiàn)的突破。如量子化學(xué)、機器學(xué)習(xí)和有機材料化學(xué)領(lǐng)域的專家之間的大規(guī)模合作促成了新型有機發(fā)光二極管（OLEDs）的發(fā)現(xiàn)。在這項工作中，我們是首批證明基于指紋的機器學(xué)習(xí)方法、智能篩選方法和實驗驗證能夠在在閉環(huán)理念下推動新材料開發(fā)的團隊之一。

我們的團隊最近參與了一項為期五年的國際合作，涉及六個研究小組。這項合作的成果是一個去局部化、非同步的閉環(huán)設(shè)計，從而產(chǎn)生了迄今為止最好的有機激光材料（據(jù)我們所知）。同時，另一項關(guān)于閉環(huán)設(shè)計的多學(xué)科合作也證明，機器學(xué)習(xí)能夠通過深入的材料科學(xué)探索，為我們揭示新的化學(xué)原理。

4.3.3 解決問題的規(guī)模

如第3.2.3節(jié)所示，規(guī)模的非凡有效性為解決更復(fù)雜的問題帶來了樂觀的前景。如蛋白質(zhì)結(jié)構(gòu)預(yù)測等著名問題最終通過利用蛋白質(zhì)數(shù)據(jù)庫（Protein Data Bank）的規(guī)模得以攻克的。而快速且能達到量子力學(xué)上精度的原子動力學(xué)正在由基礎(chǔ)力場實現(xiàn)。

對于那些已經(jīng)在機器學(xué)習(xí)（ML）中形式化的化學(xué)問題，僅僅通過擴大數(shù)據(jù)和計算的規(guī)模，就能加速進展。像開放催化劑項目（Open Catalyst Project）這樣的項目展示了機器學(xué)習(xí)在推動化學(xué)領(lǐng)域?qū)崿F(xiàn)大規(guī)模進展方面的潛力。通過計算和模擬獲取新數(shù)據(jù)，并設(shè)計更好的采樣算法，我們可以提高數(shù)據(jù)生成的速度，從而朝著規(guī)?；繕?biāo)努力。例如，大型語言模型智能體（LLM agents）可以執(zhí)行計算模擬，以生成新的訓(xùn)練數(shù)據(jù)，從而進一步加快研究的進展。

雖然訓(xùn)練基礎(chǔ)模型常被視為導(dǎo)致大量排放的原因，但我們也應(yīng)關(guān)注計算能力在減少排放方面的潛力。更好的模型可能會減少所需的濕實驗數(shù)量，或有助于設(shè)計更環(huán)保的替代方案來應(yīng)對當(dāng)前和未來的化學(xué)過程。值得一提的是，化學(xué)工業(yè)在全球排放中占據(jù)了相當(dāng)大的比例。

化學(xué)空間的規(guī)?？赡芟鄬^小。常被引用的化學(xué)空間估計大小為10^60^，這讓人感到著迷。然而，從機器學(xué)習(xí)的角度來看，這個空間可以被認(rèn)為是小的。如果我們僅考慮黑白28 × 28的圖像，也就是標(biāo)準(zhǔn)手寫數(shù)字?jǐn)?shù)據(jù)庫MNIST的數(shù)據(jù)，這個空間的大小已經(jīng)是2^(28×28)^ ≈ 10^236^。當(dāng)然，圖像的空間要稀疏得多，因為現(xiàn)存的彩色圖像數(shù)量約為14.3萬億（≈ 10^13^張）。這正是深度學(xué)習(xí)令人印象深刻之處——它能夠僅通過展示一堆示例，就能在極高維的空間中找到結(jié)構(gòu)。在語言的背景下，10^60^僅僅是限制在60個詞匯內(nèi)的10個單詞句子的數(shù)量，或者是限制在60個可能句子的10個句子段落的數(shù)量。顯然，自然語言的規(guī)模要大得多。

這些強大的能力能否將理論思考變?yōu)楝F(xiàn)實？想象一下，能夠在宏觀時間尺度上對一個細胞進行原子級模擬，或者準(zhǔn)確地模擬柔性有機電子設(shè)備在長年使用過程中的有效性和穩(wěn)定性，抑或是從頭開始發(fā)現(xiàn)新的反應(yīng)。這些挑戰(zhàn)直到最近似乎都遙不可及。而令我們感到驚訝的是，利用神經(jīng)力場進行全原子HIV蛋殼的納秒模擬在DFT精度下卻是可行的。如果現(xiàn)代圖像生成模型能夠生成1024 × 1024分辨率及更高質(zhì)量的圖像，那么究竟是什么阻礙了在生物時間尺度上模擬整個細胞的進程？如果障礙是數(shù)據(jù)，我們很幸運能夠獲得越來越多復(fù)雜的模擬以及能夠獨立生成高質(zhì)量數(shù)據(jù)的自動化實驗室。如果障礙是計算能力，我們也有幸借助主流人工智能帶來的計算能力大幅提升。如果問題出在方法或?qū)嶒炆?，那么作?1世紀(jì)的跨學(xué)科理論化學(xué)家，我們需要共同行動：讓我們一起推動學(xué)科的變革吧。