近日，美智庫蘭德公司高級(jí)工程師克里斯托弗·莫頓(Christopher Mouton)在C4ISRNET網(wǎng)站撰文，分析ChatGPT等大型語言模型的出現(xiàn)給國(guó)家安全帶來的新風(fēng)險(xiǎn)。主要觀點(diǎn)如下：

文章指出，像ChatGPT和Claude這樣的大型語言模型可提供廣泛的有益應(yīng)用。然而，這些語言模型的使用也存在重大風(fēng)險(xiǎn)，需要伙伴國(guó)之間溝通協(xié)調(diào)，以建立一個(gè)堅(jiān)實(shí)的一體化防御機(jī)制，抵御惡意信息行動(dòng)的威脅。

大型語言模型可以幫助生成創(chuàng)造性的故事情節(jié)，精心策劃營(yíng)銷活動(dòng)，甚至創(chuàng)建個(gè)性化的餐廳推薦。然而，他們經(jīng)常生成一些明顯錯(cuò)誤的文本。這種設(shè)計(jì)不僅給人工智能的日常應(yīng)用，而且對(duì)美國(guó)國(guó)家安全都將產(chǎn)生深遠(yuǎn)的影響。

人工智能生成的內(nèi)容可以展現(xiàn)出一種被稱為“真實(shí)性”的現(xiàn)象。“真實(shí)性”一詞是由電視臺(tái)主持人斯蒂芬·科爾伯特在21世紀(jì)初創(chuàng)造出來的，用來描述信息是如何感覺正確的。這一概念強(qiáng)調(diào)，盡管缺乏事實(shí)的準(zhǔn)確性，但具有高度連貫邏輯結(jié)構(gòu)的內(nèi)容可以影響聰明、老練的人決定事情的真?zhèn)巍?/p>

我們的認(rèn)知偏見意味著寫得好的內(nèi)容或引人注目的視覺效果會(huì)讓敘事看起來比實(shí)際更加真實(shí)。正如一位研究“真實(shí)性”的學(xué)者所描述的那樣：“當(dāng)感覺事情容易處理時(shí)，它們就會(huì)被認(rèn)為值得信賴。”

美國(guó)的敵手可以操縱人工智能模型聽起來“真實(shí)”的潛力，模仿人類的寫作，創(chuàng)作連貫的、結(jié)構(gòu)良好且有說服力的句子，以獲得優(yōu)勢(shì)?；ヂ?lián)網(wǎng)具有全球影響力，通過顛覆性的“真實(shí)性”入侵，為他國(guó)介入創(chuàng)造了一個(gè)強(qiáng)有力的媒介。

國(guó)家行為體正在利用數(shù)字技術(shù)開展敵對(duì)信息活動(dòng)，利用在線工具和信息作戰(zhàn)來達(dá)成他們的利益。國(guó)家行為體可以操縱認(rèn)知流利性偏見和真實(shí)性來塑造社會(huì)政治舞臺(tái)，擴(kuò)大人工智能驅(qū)動(dòng)的語言模型在惡意信息作戰(zhàn)、大規(guī)模魚叉式網(wǎng)絡(luò)釣魚活動(dòng)以及日益可信的深度偽造媒體中的潛在濫用。

在信息作戰(zhàn)中利用認(rèn)知流利性偏見會(huì)給虛假信息披上可信的欺騙性外衣，導(dǎo)致政治制度動(dòng)搖、社會(huì)不穩(wěn)定。

微軟總裁布拉德·史密斯在5月25日的一次演講中表示，美國(guó)將“必須特別解決我們最擔(dān)心的外國(guó)網(wǎng)絡(luò)影響力作戰(zhàn)，俄羅斯、伊朗等國(guó)政府已經(jīng)在開展此類活動(dòng)?！?/p>

俄羅斯黑客試圖編造烏克蘭總統(tǒng)澤連斯基呼吁烏克蘭人民放下武器的視頻，但這種粗糙的深度偽造行為很容易被識(shí)別。但現(xiàn)在很明顯，深度偽造問題已不再是學(xué)術(shù)性問題?，F(xiàn)實(shí)已經(jīng)表明，惡意視頻、偽造文件和偽造的社交媒體賬戶可能會(huì)從最初的被視為粗糙變?yōu)檎鎸?shí)傳遞欺騙信息。

依賴虛假信息開展的顛覆活動(dòng)與日俱增，加之惡意行為體加大行動(dòng)力度，突顯出美國(guó)及其盟國(guó)做出戰(zhàn)略性回應(yīng)的必要性。為了應(yīng)對(duì)這些發(fā)展趨勢(shì)，美國(guó)決策者們需要制定一項(xiàng)全面的戰(zhàn)略，該戰(zhàn)略應(yīng)建立在警覺的監(jiān)測(cè)、積極的預(yù)警及國(guó)際合作的基礎(chǔ)上。

該戰(zhàn)略的基石應(yīng)該是對(duì)信息環(huán)境進(jìn)行警覺地監(jiān)測(cè)。由于人工智能和機(jī)器學(xué)習(xí)的進(jìn)步，持續(xù)監(jiān)測(cè)對(duì)于早期探測(cè)和消除虛假信息活動(dòng)至關(guān)重要。

這一觀點(diǎn)與美國(guó)防部提出的提升“監(jiān)測(cè)、分析、表征、評(píng)估、預(yù)測(cè)和可視化”信息環(huán)境的能力的想法相呼應(yīng)。在2016年版《信息環(huán)境下作戰(zhàn)戰(zhàn)略》中，國(guó)防部對(duì)此進(jìn)行了詳細(xì)闡述。為落實(shí)該戰(zhàn)略，軍隊(duì)和情報(bào)部門需要專門從事信息作戰(zhàn)的專業(yè)化部隊(duì)，他們可以提供對(duì)所收集的數(shù)據(jù)進(jìn)行解讀以及基于這些數(shù)據(jù)采取行動(dòng)所需要的關(guān)鍵專業(yè)知識(shí)。

美國(guó)政府還需要一套強(qiáng)大的預(yù)警系統(tǒng)，可同時(shí)宣傳真相并揭露虛假信息。及時(shí)有效的預(yù)警有助于保護(hù)公眾免受虛假敘事的影響，大大降低虛假信息作戰(zhàn)的影響。在這種情況下，真理的力量是一種強(qiáng)大的工具，它是應(yīng)對(duì)虛假信息腐蝕作用的有效反制措施。

最后，美國(guó)需要強(qiáng)化與國(guó)際盟友的戰(zhàn)略伙伴關(guān)系。惡意虛假信息運(yùn)動(dòng)的全球性要求反制措施同樣具有全球的廣度。這些伙伴關(guān)系提供了寶貴的當(dāng)?shù)刂R(shí)并增進(jìn)了彼此之間信任，二者都可以大幅提高預(yù)警的可信度，增強(qiáng)社會(huì)抵御虛假信息的能力。

審核編輯：湯梓紅