蒙特利爾2025年10月17日 /美通社/ -- 《國際人工智能安全報告》首次關(guān)鍵更新已發(fā)布，就先進人工智能的能力與風險提供了最新信息。

該報告由圖靈獎得主、計算機科學家Yoshua Bengio總體負責，匯集了100多位國際專家，并得到30多個國家以及包括歐盟、經(jīng)合組織和聯(lián)合國在內(nèi)的國際組織的支持。

鑒于人工智能領(lǐng)域發(fā)展過于迅速，單一年度報告難以全面覆蓋，因此推出了《關(guān)鍵更新》，以提供篇幅更短、重點更突出的關(guān)鍵發(fā)展動態(tài)報告。 這將確保決策者能夠及時獲取最新文獻綜述，為基于證據(jù)的政策制定提供依據(jù)。

首個《關(guān)鍵更新》涵蓋能力提升和風險影響：

人工智能模型在復雜問題解決能力上持續(xù)提升：例如，領(lǐng)先的系統(tǒng)現(xiàn)已能完成一組現(xiàn)實世界軟件工程問題中超60%的任務。 到2025年初，他們只能解決約40%的相關(guān)問題，而在2024年初他們尚無法解決任何問題。 （事實上，自《關(guān)鍵更新》文本最終確定以來，性能已提高到70％以上。）

行業(yè)參與者已經(jīng)采取了新的預防性保障措施：多家主要人工智能開發(fā)商在無法完全排除其新模型可能被用于協(xié)助開發(fā)化學、生物、放射和核風險的情況下，主動為最新模型增加了額外安全措施后發(fā)布。

人工智能模型在評估過程中日益表現(xiàn)出策略性行為，給監(jiān)管帶來挑戰(zhàn)：人工智能模型越來越可能意識到自己正在接受評估，并據(jù)此調(diào)整輸出結(jié)果，這對開發(fā)人員和測試人員在部署新模型之前準確評估新模型能力的能力提出了重大質(zhì)疑。

該報告主席、蒙特利爾大學全職教授、LawZero科學總監(jiān)兼Mila - Quebec AI Institute科學顧問Yoshua Bengio表示：

“自九個月前發(fā)布第一份《國際人工智能安全報告》以來，人工智能能力保持著快速而穩(wěn)定的發(fā)展勢頭。 我們對人工智能風險和安全措施的集體認知必須與時俱進，這一點至關(guān)重要。 本次《關(guān)鍵更新》為全球決策者提供了基于證據(jù)的最新信息概覽，助其掌握最前沿的科學資訊，從而確保治理工作具有前瞻性和科學性。 它還發(fā)揮了銜接作用，為將于2026年初在印度舉辦的人工智能影響力峰會前發(fā)布的綜合報告做好準備。”

審核編輯 黃宇