導(dǎo)讀：生成式人工智能的應(yīng)用，在過去一年中呈爆炸性增長，它們利用大量的歷史數(shù)據(jù)進(jìn)行學(xué)習(xí)，可以根據(jù)簡單的引導(dǎo)提示快速生成文本、圖像或視頻等內(nèi)容。自出現(xiàn)以來，美國國防部對生成式人工智能的發(fā)展迅速列入關(guān)注并采取了一些舉措。

生成式人工智能（AI）能力，如大型語言模型（LLM）在全球的受歡迎程度、能力和影響力都在不斷增長。這些能力是在大規(guī)模數(shù)據(jù)集上訓(xùn)練的，以便生成細(xì)節(jié)和明顯連貫的內(nèi)容，這在以前需要人類創(chuàng)作。這些能力帶來了新的機(jī)遇，同時也帶來了新的重大風(fēng)險。國防部門迫切需要探索這種技術(shù)的應(yīng)用以及這些模型的規(guī)模、速度和交互能力的潛力，以提高任務(wù)效率，同時確定適當(dāng)?shù)谋Ｗo(hù)措施并減輕各種相關(guān)風(fēng)險。

成立“利馬”工作組

美國國防部于2023年8月10日宣布成立了一個人工智能技術(shù)特別工作組——“利馬”（Task Force Lima），以集中研究并部署大型語言模型等生成式人工智能工具?！袄R”工作組由五角大樓首席數(shù)字和人工智能辦公室（CDAO）領(lǐng)導(dǎo)，將開發(fā)、評估、推薦和監(jiān)控整個國防部的生成人工智能技術(shù)的實(shí)施，以確保國防部能夠負(fù)責(zé)任和安全地設(shè)計(jì)、部署和使用生成人工智能技術(shù)，確保CDAO在維護(hù)國家安全的同時保持尖端技術(shù)的最前沿?！袄R”工作組將提供指導(dǎo)并提出建議，供有關(guān)決策機(jī)構(gòu)處理。

綜合目標(biāo)

為了能夠負(fù)責(zé)任的、統(tǒng)一的采用這種尖端技術(shù)，“利馬”工作組的將為國防部提供框架和倡議，以實(shí)現(xiàn)以下綜合目標(biāo)：

l加速有前景的生成式人工智能倡議和聯(lián)合解決方案；

l將不同的開發(fā)和研究工作聯(lián)合成國防部的實(shí)踐社區(qū)，以加速創(chuàng)新和實(shí)施；

l評估原則、組織、訓(xùn)練、物資、領(lǐng)導(dǎo)、人員、設(shè)施和政策方面的解決方案；

l推動技術(shù)教育，建立負(fù)責(zé)任的實(shí)施和使用文化；確保國防部與跨部門、國際、教育、公民社會和工業(yè)合作伙伴在負(fù)責(zé)任地開發(fā)和使用生成式人工智能方面的合作。

前期工作

2023年9月18日，“利馬”工作組表示將在未來18個月內(nèi)充分了解軍方和國防部對于生成式人工智能的需求，以加快對該技術(shù)的理解、評估、部署及監(jiān)測，大規(guī)模整合具備任務(wù)適應(yīng)性的相關(guān)技術(shù)。此期間“利馬”工作組的工作包括：

l全面了解人工智能的工作原理和外部數(shù)據(jù)應(yīng)用過程，并聚焦軍事用例與作戰(zhàn)過程的聯(lián)系，與其他部門合作，訓(xùn)練多個種類的大語言模型；

l為美國國防部制定基于生成式人工智能的臨時指南、框架和工作流程，參與國防部對大語言模型的實(shí)際研究和部署；

l建立周期會議機(jī)制，讓內(nèi)部各級人員及時了解“利馬”工作組正在制定的計(jì)劃和方法；

l向業(yè)界發(fā)布信息征詢書，了解和探索創(chuàng)新型人工智能的開發(fā)與集成風(fēng)險和收益。

小結(jié)

“利馬”工作組的任務(wù)實(shí)際上是為整個美國國防部開發(fā)、評估、推薦和監(jiān)控生成人工智能能力，并負(fù)責(zé)任地確保國防部可控地大規(guī)模集成這些技術(shù)。“利馬”工作組把總體的任務(wù)分成幾個階段，目前的第一階段是盡可能多地學(xué)習(xí)外面的一切，邀請公眾和工業(yè)界幫助國防部“進(jìn)一步了解和探索開發(fā)、獲取和集成生成人工智能的風(fēng)險和好處”，以快速瀏覽生成人工智能在國防領(lǐng)域呈現(xiàn)的不確定和變革性的力量，另一項(xiàng)短期任務(wù)是為五角大樓提供關(guān)于生成人工智能的臨時指南。

這些先期工作最基礎(chǔ)的好處在于，當(dāng)尋求收購低風(fēng)險商業(yè)軟件時，“利馬”工作組現(xiàn)在可以建立許多業(yè)內(nèi)公認(rèn)的標(biāo)準(zhǔn)和安全措施。根據(jù)白宮10月30日發(fā)布的政令，對于政府來說，國防部是一個完美的試驗(yàn)臺，可以在封閉的環(huán)境中以負(fù)責(zé)任的方式推進(jìn)和現(xiàn)實(shí)地培訓(xùn)生成人工智能技術(shù)。無論利馬工作組編纂了什么樣的指導(dǎo)方針、最佳實(shí)踐或標(biāo)準(zhǔn)，都必須在聯(lián)邦政府內(nèi)共享，以便為其他部門和機(jī)構(gòu)的工作提供信息。

對于生成式人工智能技術(shù)能否廣泛應(yīng)用，美軍希望解決的關(guān)鍵問題包括：如何規(guī)避機(jī)器幻覺問題、如何衡量模型的性能、如何制定可信賴的人工智能的度量標(biāo)準(zhǔn)、如何管理訓(xùn)練模型所用的數(shù)據(jù)等，美軍也正在與工業(yè)界合作來共同解決上述問題。關(guān)于美國國防部最終是否會以何種方式、出于何種目的大規(guī)模部署生成式人工智能，仍有許多未知因素。