美能源部發(fā)布《面向科學、能源和安全的人工智能》報告

美國能源部(DOE)近日發(fā)布《面向科學、能源和安全的人工智能》報告，該報告制定了一個全面利用其在世界領先的高性能計算系統(tǒng)和數(shù)據(jù)基礎設施方面的現(xiàn)有優(yōu)勢，擴大其在人工智能科學應用方面工作的愿景。

一．報告背景

在科學辦公室（SC）和國家核安全局（NNSA）的指導下，DOE國家實驗室在2022年組織了一系列研討會，收集關于科學人工智能新的和快速出現(xiàn)的機遇和挑戰(zhàn)的文章。這份《2023年報告》綜合了這些研討會。該報告顯示了DOE獨特的能力如何使社區(qū)能夠推動人工智能科學應用的進步，建立在DOE在計算、數(shù)據(jù)和通信基礎設施方面的優(yōu)勢和投資之上。此外，能源部擁有獨特的能力，使社區(qū)能夠推動人工智能科學應用的進步，建立在DOE在計算、數(shù)據(jù)和通信基礎設施方面的長期優(yōu)勢和投資基礎上，跨越能源科學網絡（ESnet）、百萬兆級級計算項目(ECP)和綜合計劃，如NNSA國防計劃辦公室高級模擬和計算（ASC）和SC通過高級計算的科學發(fā)現(xiàn)（SciDAC）程序。

現(xiàn)在，在人工智能進步的加速以及捕捉這些進步的強大國際活動和投資的推動下，在人工智能領域采取重大和轉型舉措的緊迫性正在增加。此外，在面向公眾的互聯(lián)網服務中引入強大的語言模型，如OpenAI、微軟、Meta和谷歌的語言模型，表明迫切需要從根本上理解這些模型的新能力和相關的社會風險。這份報告詳細說明了利用人工智能推動科學發(fā)展和解決能源和安全等國家要務的重要性，提出了一個同樣相關和迫切需要的研究議程，同時也解決了人工智能促進會（AAAI）2023年4月公開信中討論的挑戰(zhàn)，包括“人工智能系統(tǒng)出錯的可能性，提供有偏見的建議，威脅我們的隱私，為不良行為者提供新工具，以及對就業(yè)產生影響”。

二、主要內容

在過去的十年中，人工智能（AI）的根本變化已經為美能源部（DOE）的廣泛任務空間帶來了巨大的洞察力。人工智能正在幫助擴大和改善國家安全、科學辦公室和能源部應用能源項目的科學和工程工作流程。人工智能在能源部科學中的進展和潛力在2020年《人工智能促進科學》報告中得到反映。在短期內，人工智能的規(guī)模和范圍已經加快，揭示了新涌現(xiàn)的屬性，這些屬性產生了超越創(chuàng)造機會的洞察力，在提出和解決科學問題的方式上具有潛在的變革性。這些人工智能的進步也凸顯了負責任地開發(fā)人工智能的至關重要性，重點關注與人工智能技術（如可解釋性、驗證、安全和隱私）、實施（如透明度、安全工程、倫理）和應用（如人工智能與人類的互動、教育和就業(yè)影響）相關的挑戰(zhàn)。

該報告確定了六種人工智能能力，并描述了改變能源部項目領域的潛力，涵蓋范圍從對電網等復雜系統(tǒng)的控制到基礎模型（例如ChatGPT等生成式AI程序背后的大型語言模型）。該報告列出了實現(xiàn)這些人工智能驅動的轉型所需的橫切技術，描述了科學 XNUMX“重大挑戰(zhàn)”。報告指出，能源部在擴大美國在科學、能源和安全領域的全球領導地位方面處于獨特地位，抓住人工智能變革科學的潛力，加速實現(xiàn)美國人工智能和大數(shù)據(jù)分析能力美好愿景。

自然語言處理（NLP）和圖像識別等領域已經顯示出改變游戲規(guī)則的前景，復雜系統(tǒng)的設計、工程、部署和操作也是如此——特別是那些位于能源部核心科學、能源和安全任務領域的核心領域。中國、日本、歐洲和其他國家在設計和部署超級計算機方面的進展已經導致了一個不可忽視的人工智能競爭地位。隨著人工智能能力開始改變科學、能源和安全的幾乎每個方面，在人工智能和基礎能力（包括高性能計算(HPC)）方面建立領導地位將與國家的未來及其在全球秩序中的作用密切相關。這場競賽可以說是這個國家過去60年來最深刻、最重要的一次。正如國家安全委員會關于人工智能的最終報告所指出的:

沒有令人舒服的歷史參考捕捉到人工智能(AI)對國家安全的影響。AI不是單一的技術突破，就像蝙蝠翼隱形轟炸機一樣。爭奪人工智能霸權的競賽不同于太空登月競賽。AI甚至比不上電這樣的通用技術。然而，托馬斯·愛迪生關于電的一句話概括了人工智能的未來:“它是一個領域中的領域……它擁有將重組世界生活的秘密?！?/p>

同樣地，盡管ECP、HPC和數(shù)據(jù)基礎設施取得了可喜的成果，但全球力量威脅著美國在半導體領域的領導地位。這些領域與人工智能的領導力密不可分，在人工智能領域，最具革命性的進步是由計算和前所未有的數(shù)據(jù)量推動的。百萬兆級系統(tǒng)提供的極限規(guī)模代表了人工智能競爭力的全球賭注，但領導力將取決于開發(fā)可持續(xù)的百萬兆級和超百萬兆級(zettascale)計算環(huán)境，以及開發(fā)這些系統(tǒng)的能力所必需的基礎理論、數(shù)學和軟件系統(tǒng)。因此，這份報告列出了六個關鍵的基礎人工智能方法；闡明其轉變能源部科學、能源和安全任務領域的潛力；闡述了跨學科技術領域的一個廣泛的體系結構，必須對其進行改進才能實現(xiàn)這些轉換；并根據(jù)能源部影響這些進步的能力，評估能源部勞動力的狀況以及規(guī)模、計算能力和數(shù)據(jù)基礎設施。

全球領導力——通過在能源部全面積極地接受和推進人工智能而獲得授權——也需要在至少三個方面采取大膽的舉措。第一是解決日益具有破壞性的勞動力挑戰(zhàn)，特別是能源部實驗室和學術界的基礎和應用科學人才轉向支持商業(yè)應用，其中只有一部分激勵措施和目標符合能源部的使命。第二，利用從設計和部署百兆億級系統(tǒng)中獲得的經驗教訓，從半導體和HPC系統(tǒng)協(xié)同設計到計算和存儲系統(tǒng)集成，再到系統(tǒng)和應用軟件，以及未來系統(tǒng)中與行業(yè)提供商建立更緊密的非傳統(tǒng)合作伙伴關系的需求。第三，通過投資于針對DOE任務挑戰(zhàn)的重點活動，充分利用新興潛力來利用深度學習的新興能力——本報告第一部分概述的人工智能方法就是例證，所有這些活動都是國家戰(zhàn)略。

報告指出，能源部在擴大美國在科學、能源和安全領域的全球領導地位方面具有獨特的優(yōu)勢。DOE運營著世界上最強大的超級計算機，包括新的百萬兆級系統(tǒng)前沿、Aurora和El Capitan，擁有世界上最大的實驗設施集合，在其17個國家實驗室中雇用了超過5萬名員工。

DOE有六個國家實驗室領導了人工智能研討會系列和結果報告：阿貢，勞倫斯?伯克利國家實驗室，勞倫斯?利弗莫爾國家實驗室，洛斯?阿拉莫斯國家實驗室，橡樹嶺國家實驗室和桑迪亞國家實驗室。

這份報告為能源部提供了一個全面的愿景，以利用和擴展人工智能的新能力，加快進展，并深化跨越科學、能源和安全的任務領域的質量。同樣重要的是，愿景和藍圖與偏見、透明度和可解釋性、數(shù)據(jù)安全、驗證和準確性以及應對人工智能對就業(yè)的影響等領域對科學基礎的迫切需求完全一致。人工智能領域取得的最大進展大多來自美國和其他國家的工業(yè)和國防，這些國家的目標和激勵措施與能源部的使命僅部分一致。這些進步也反映了人工智能和計算機科學人才向工業(yè)的遷移，造成了勞動力中斷，DOE必須以緊迫感解決這一問題。盡管如此，DOE在百兆億級系統(tǒng)、基礎設施、軟件、理論和應用方面的投資——結合獨特的、多學科的協(xié)同設計方法，擴展到數(shù)千名專家——使DOE綜合體處于獨特的地位，以擴展其在科學、能源和安全領域的全球領導地位。同時，這些DOE資產和能力非常適合解決當今社會面臨的與人工智能相關的新挑戰(zhàn)——不僅創(chuàng)造機會，而且創(chuàng)造責任，領導國家，創(chuàng)造性地讓美國工業(yè)應對這些挑戰(zhàn)。需要針對新人工智能方法的開發(fā)和應用開展有針對性的持續(xù)活動，同時將它們集成到(在某些情況下替換)支持DOE任務領域的工具和基礎設施中，并利用通過ECP和基礎DOE計劃創(chuàng)建的世界領先的人力、計算和數(shù)據(jù)科學基礎設施以及綜合基礎設施，包括ESnet、SciDAC等。