本周二，美東時間，得以觀測到，在上個月有“里程碑式”標簽的行政命令簽署后，美國總統(tǒng)Biden正在領導一場關于生成式人工智能的政策改革。該行動從早在四季度就開始實施，其目的就是為了保證機器學習系統(tǒng)能精準處理安全問題。

美國商務部的國家標準與技術研究院（NIST）宣布，即將于2月2日起，啟動人工智能的關鍵性測試工作，這對于保護人工智能系統(tǒng)的安全性具有巨大的現(xiàn)實意義。

NIST強調，正在積極擬定評估和檢測AI系統(tǒng)的具體指南，以推動人工智能領域的標準化進程，同時為評估人工智能系統(tǒng)提供完善的測試環(huán)境。針對人工智能行業(yè)的潛在風險，美國商務部長Gina Raimondo表示，全新的NIST措施正受到Biden總統(tǒng)10月份行政命令的催化作用影響，致力于打造“涵蓋范圍廣泛，關乎人工智能安全、保障及信任的行業(yè)標準，以此加強美國在負責任運營和使用這項快速進化技術方面的全球領導地位?！?/p>

據(jù)悉，NIST目前計劃制定包含“紅隊”測試策略在內的專項指導方針，即由專家團隊模擬對手環(huán)境，對人工智能系統(tǒng)的安全性能進行全面檢驗?！凹t隊”測試作為網絡安全測試中的核心環(huán)節(jié)，其重要性不言而喻。8月份，在一次重量級的網絡安全會議上，美國首次公開展示了人工智能的“紅隊”測試過程，吸引了大量AI行業(yè)組織如AI Village、SeedAI和Humane Intelligence等參與其中。

據(jù)白宮披露，該次測試的參與人次高達數(shù)千人，大家通過嘗試主動攻擊系統(tǒng)來找出可能存在的安全隱患，并探討了如何改進以提升整體防御水平。此次測試也證實了“外部紅隊在發(fā)現(xiàn)新穎的人工智能風險方面的顯著優(yōu)勢”。