美能源部發(fā)布《面向科學(xué)、能源和安全的人工智能》報告

美國能源部(DOE)近日發(fā)布《面向科學(xué)、能源和安全的人工智能》報告，該報告制定了一個全面利用其在世界領(lǐng)先的高性能計算系統(tǒng)和數(shù)據(jù)基礎(chǔ)設(shè)施方面的現(xiàn)有優(yōu)勢，擴大其在人工智能科學(xué)應(yīng)用方面工作的愿景。

一．報告背景

在科學(xué)辦公室（SC）和國家核安全局（NNSA）的指導(dǎo)下，DOE國家實驗室在2022年組織了一系列研討會，收集關(guān)于科學(xué)人工智能新的和快速出現(xiàn)的機遇和挑戰(zhàn)的文章。這份《2023年報告》綜合了這些研討會。該報告顯示了DOE獨特的能力如何使社區(qū)能夠推動人工智能科學(xué)應(yīng)用的進步，建立在DOE在計算、數(shù)據(jù)和通信基礎(chǔ)設(shè)施方面的優(yōu)勢和投資之上。此外，能源部擁有獨特的能力，使社區(qū)能夠推動人工智能科學(xué)應(yīng)用的進步，建立在DOE在計算、數(shù)據(jù)和通信基礎(chǔ)設(shè)施方面的長期優(yōu)勢和投資基礎(chǔ)上，跨越能源科學(xué)網(wǎng)絡(luò)（ESnet）、百萬兆級級計算項目(ECP)和綜合計劃，如NNSA國防計劃辦公室高級模擬和計算（ASC）和SC通過高級計算的科學(xué)發(fā)現(xiàn)（SciDAC）程序。

現(xiàn)在，在人工智能進步的加速以及捕捉這些進步的強大國際活動和投資的推動下，在人工智能領(lǐng)域采取重大和轉(zhuǎn)型舉措的緊迫性正在增加。此外，在面向公眾的互聯(lián)網(wǎng)服務(wù)中引入強大的語言模型，如OpenAI、微軟、Meta和谷歌的語言模型，表明迫切需要從根本上理解這些模型的新能力和相關(guān)的社會風(fēng)險。這份報告詳細(xì)說明了利用人工智能推動科學(xué)發(fā)展和解決能源和安全等國家要務(wù)的重要性，提出了一個同樣相關(guān)和迫切需要的研究議程，同時也解決了人工智能促進會（AAAI）2023年4月公開信中討論的挑戰(zhàn)，包括“人工智能系統(tǒng)出錯的可能性，提供有偏見的建議，威脅我們的隱私，為不良行為者提供新工具，以及對就業(yè)產(chǎn)生影響”。

二、主要內(nèi)容

在過去的十年中，人工智能（AI）的根本變化已經(jīng)為美能源部（DOE）的廣泛任務(wù)空間帶來了巨大的洞察力。人工智能正在幫助擴大和改善國家安全、科學(xué)辦公室和能源部應(yīng)用能源項目的科學(xué)和工程工作流程。人工智能在能源部科學(xué)中的進展和潛力在2020年《人工智能促進科學(xué)》報告中得到反映。在短期內(nèi)，人工智能的規(guī)模和范圍已經(jīng)加快，揭示了新涌現(xiàn)的屬性，這些屬性產(chǎn)生了超越創(chuàng)造機會的洞察力，在提出和解決科學(xué)問題的方式上具有潛在的變革性。這些人工智能的進步也凸顯了負(fù)責(zé)任地開發(fā)人工智能的至關(guān)重要性，重點關(guān)注與人工智能技術(shù)（如可解釋性、驗證、安全和隱私）、實施（如透明度、安全工程、倫理）和應(yīng)用（如人工智能與人類的互動、教育和就業(yè)影響）相關(guān)的挑戰(zhàn)。

該報告確定了六種人工智能能力，并描述了改變能源部項目領(lǐng)域的潛力，涵蓋范圍從對電網(wǎng)等復(fù)雜系統(tǒng)的控制到基礎(chǔ)模型（例如ChatGPT等生成式AI程序背后的大型語言模型）。該報告列出了實現(xiàn)這些人工智能驅(qū)動的轉(zhuǎn)型所需的橫切技術(shù)，描述了科學(xué) XNUMX“重大挑戰(zhàn)”。報告指出，能源部在擴大美國在科學(xué)、能源和安全領(lǐng)域的全球領(lǐng)導(dǎo)地位方面處于獨特地位，抓住人工智能變革科學(xué)的潛力，加速實現(xiàn)美國人工智能和大數(shù)據(jù)分析能力美好愿景。

自然語言處理（NLP）和圖像識別等領(lǐng)域已經(jīng)顯示出改變游戲規(guī)則的前景，復(fù)雜系統(tǒng)的設(shè)計、工程、部署和操作也是如此——特別是那些位于能源部核心科學(xué)、能源和安全任務(wù)領(lǐng)域的核心領(lǐng)域。中國、日本、歐洲和其他國家在設(shè)計和部署超級計算機方面的進展已經(jīng)導(dǎo)致了一個不可忽視的人工智能競爭地位。隨著人工智能能力開始改變科學(xué)、能源和安全的幾乎每個方面，在人工智能和基礎(chǔ)能力（包括高性能計算(HPC)）方面建立領(lǐng)導(dǎo)地位將與國家的未來及其在全球秩序中的作用密切相關(guān)。這場競賽可以說是這個國家過去60年來最深刻、最重要的一次。正如國家安全委員會關(guān)于人工智能的最終報告所指出的:

沒有令人舒服的歷史參考捕捉到人工智能(AI)對國家安全的影響。AI不是單一的技術(shù)突破，就像蝙蝠翼隱形轟炸機一樣。爭奪人工智能霸權(quán)的競賽不同于太空登月競賽。AI甚至比不上電這樣的通用技術(shù)。然而，托馬斯·愛迪生關(guān)于電的一句話概括了人工智能的未來:“它是一個領(lǐng)域中的領(lǐng)域……它擁有將重組世界生活的秘密?！?/p>

同樣地，盡管ECP、HPC和數(shù)據(jù)基礎(chǔ)設(shè)施取得了可喜的成果，但全球力量威脅著美國在半導(dǎo)體領(lǐng)域的領(lǐng)導(dǎo)地位。這些領(lǐng)域與人工智能的領(lǐng)導(dǎo)力密不可分，在人工智能領(lǐng)域，最具革命性的進步是由計算和前所未有的數(shù)據(jù)量推動的。百萬兆級系統(tǒng)提供的極限規(guī)模代表了人工智能競爭力的全球賭注，但領(lǐng)導(dǎo)力將取決于開發(fā)可持續(xù)的百萬兆級和超百萬兆級(zettascale)計算環(huán)境，以及開發(fā)這些系統(tǒng)的能力所必需的基礎(chǔ)理論、數(shù)學(xué)和軟件系統(tǒng)。因此，這份報告列出了六個關(guān)鍵的基礎(chǔ)人工智能方法；闡明其轉(zhuǎn)變能源部科學(xué)、能源和安全任務(wù)領(lǐng)域的潛力；闡述了跨學(xué)科技術(shù)領(lǐng)域的一個廣泛的體系結(jié)構(gòu)，必須對其進行改進才能實現(xiàn)這些轉(zhuǎn)換；并根據(jù)能源部影響這些進步的能力，評估能源部勞動力的狀況以及規(guī)模、計算能力和數(shù)據(jù)基礎(chǔ)設(shè)施。

全球領(lǐng)導(dǎo)力——通過在能源部全面積極地接受和推進人工智能而獲得授權(quán)——也需要在至少三個方面采取大膽的舉措。第一是解決日益具有破壞性的勞動力挑戰(zhàn)，特別是能源部實驗室和學(xué)術(shù)界的基礎(chǔ)和應(yīng)用科學(xué)人才轉(zhuǎn)向支持商業(yè)應(yīng)用，其中只有一部分激勵措施和目標(biāo)符合能源部的使命。第二，利用從設(shè)計和部署百兆億級系統(tǒng)中獲得的經(jīng)驗教訓(xùn)，從半導(dǎo)體和HPC系統(tǒng)協(xié)同設(shè)計到計算和存儲系統(tǒng)集成，再到系統(tǒng)和應(yīng)用軟件，以及未來系統(tǒng)中與行業(yè)提供商建立更緊密的非傳統(tǒng)合作伙伴關(guān)系的需求。第三，通過投資于針對DOE任務(wù)挑戰(zhàn)的重點活動，充分利用新興潛力來利用深度學(xué)習(xí)的新興能力——本報告第一部分概述的人工智能方法就是例證，所有這些活動都是國家戰(zhàn)略。

報告指出，能源部在擴大美國在科學(xué)、能源和安全領(lǐng)域的全球領(lǐng)導(dǎo)地位方面具有獨特的優(yōu)勢。DOE運營著世界上最強大的超級計算機，包括新的百萬兆級系統(tǒng)前沿、Aurora和El Capitan，擁有世界上最大的實驗設(shè)施集合，在其17個國家實驗室中雇用了超過5萬名員工。

DOE有六個國家實驗室領(lǐng)導(dǎo)了人工智能研討會系列和結(jié)果報告：阿貢，勞倫斯?伯克利國家實驗室，勞倫斯?利弗莫爾國家實驗室，洛斯?阿拉莫斯國家實驗室，橡樹嶺國家實驗室和桑迪亞國家實驗室。

這份報告為能源部提供了一個全面的愿景，以利用和擴展人工智能的新能力，加快進展，并深化跨越科學(xué)、能源和安全的任務(wù)領(lǐng)域的質(zhì)量。同樣重要的是，愿景和藍(lán)圖與偏見、透明度和可解釋性、數(shù)據(jù)安全、驗證和準(zhǔn)確性以及應(yīng)對人工智能對就業(yè)的影響等領(lǐng)域?qū)茖W(xué)基礎(chǔ)的迫切需求完全一致。人工智能領(lǐng)域取得的最大進展大多來自美國和其他國家的工業(yè)和國防，這些國家的目標(biāo)和激勵措施與能源部的使命僅部分一致。這些進步也反映了人工智能和計算機科學(xué)人才向工業(yè)的遷移，造成了勞動力中斷，DOE必須以緊迫感解決這一問題。盡管如此，DOE在百兆億級系統(tǒng)、基礎(chǔ)設(shè)施、軟件、理論和應(yīng)用方面的投資——結(jié)合獨特的、多學(xué)科的協(xié)同設(shè)計方法，擴展到數(shù)千名專家——使DOE綜合體處于獨特的地位，以擴展其在科學(xué)、能源和安全領(lǐng)域的全球領(lǐng)導(dǎo)地位。同時，這些DOE資產(chǎn)和能力非常適合解決當(dāng)今社會面臨的與人工智能相關(guān)的新挑戰(zhàn)——不僅創(chuàng)造機會，而且創(chuàng)造責(zé)任，領(lǐng)導(dǎo)國家，創(chuàng)造性地讓美國工業(yè)應(yīng)對這些挑戰(zhàn)。需要針對新人工智能方法的開發(fā)和應(yīng)用開展有針對性的持續(xù)活動，同時將它們集成到(在某些情況下替換)支持DOE任務(wù)領(lǐng)域的工具和基礎(chǔ)設(shè)施中，并利用通過ECP和基礎(chǔ)DOE計劃創(chuàng)建的世界領(lǐng)先的人力、計算和數(shù)據(jù)科學(xué)基礎(chǔ)設(shè)施以及綜合基礎(chǔ)設(shè)施，包括ESnet、SciDAC等。