一份研究報告指出,人工智能的高速發(fā)展伴隨著風(fēng)險。不肖人士可能會使用這個技術(shù)發(fā)動全自動攻擊,讓自駕車失控、或把商業(yè)用無人機(jī)變成能夠鎖定目標(biāo)的武器。
這份報告由來自劍橋大學(xué)、牛津大學(xué)與耶魯大學(xué)的26位科技與公共政策學(xué)者共同發(fā)表,對社會發(fā)出警告: 行事草率的政府、罪犯、或個人都有可能會濫用這項科技。
報告中提到,人工智能一旦被惡意操作,它能夠采取大規(guī)模的高精準(zhǔn)鎖定攻擊,不管是資訊的還是政治的安全都會面臨即刻的威脅。報告中特別強(qiáng)調(diào),這些是針對該領(lǐng)域未來五年內(nèi)可能的發(fā)展所下的結(jié)論。
發(fā)現(xiàn)的問題比能解決的多
"我們都同意人工智能有很多正面的應(yīng)用," 劍橋大學(xué)的"人類生存研究中心" 學(xué)者布倫達(dá)格(Miles Brundage)說道,"但是在不當(dāng)使用人工智能會造成什么后果這個方面,論述顯然很少。"
他們亦在98頁的篇幅中提出警告: 可能會出現(xiàn)新形態(tài)的攻擊,而到時候單由人類自己來想解決辦法、或是奢望人工智能自己失靈都是不切實際的。
最后,這份報告提出一系列建議,包括將人工智能視為 "軍事兼商業(yè)"科技加以管制。它也呼吁人工智能界的學(xué)者,要對發(fā)表他們的研究成果保持謹(jǐn)慎,靜待其他學(xué)者研擬出因應(yīng)風(fēng)險的辦法。這位學(xué)者也坦陳,"最終,我們發(fā)現(xiàn)的問題比能解決的多。"
未來智能實驗室是人工智能學(xué)家與科學(xué)院相關(guān)機(jī)構(gòu)聯(lián)合成立的人工智能,互聯(lián)網(wǎng)和腦科學(xué)交叉研究機(jī)構(gòu)。
未來智能實驗室的主要工作包括:建立AI智能系統(tǒng)智商評測體系,開展世界人工智能智商評測;開展互聯(lián)網(wǎng)(城市)云腦研究計劃,構(gòu)建互聯(lián)網(wǎng)(城市)云腦技術(shù)和企業(yè)圖譜,為提升企業(yè),行業(yè)與城市的智能水平服務(wù)。
-
人工智能
+關(guān)注
關(guān)注
1818文章
50120瀏覽量
265601
原文標(biāo)題:人工智能惡意使用報告:預(yù)測、預(yù)防和緩解
文章出處:【微信號:AItists,微信公眾號:人工智能學(xué)家】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
資料] 汽車軟件質(zhì)量躍遷的系統(tǒng)性路徑:基于ISO 26262標(biāo)準(zhǔn)的單元測試體系重構(gòu)與中日實踐深度對比(2026學(xué)術(shù)研究報告)
《國際人工智能安全報告》發(fā)布首份關(guān)鍵更新
華為聯(lián)合發(fā)布智能算網(wǎng)研究報告
航天宏圖人工智能技術(shù)深度賦能社會治理現(xiàn)代化
華為聯(lián)合發(fā)布AI CITY城市智能體前瞻研究報告
挖到寶了!人工智能綜合實驗箱,高校新工科的寶藏神器
挖到寶了!比鄰星人工智能綜合實驗箱,高校新工科的寶藏神器!
關(guān)于人工智能處理器的11個誤解
2025人工智能十大趨勢
最新人工智能硬件培訓(xùn)AI 基礎(chǔ)入門學(xué)習(xí)課程參考2025版(大模型篇)
斯坦福大學(xué)發(fā)布《2025 年人工智能指數(shù)報告》
關(guān)于人工智能研究報告:發(fā)現(xiàn)的問題比能解決的多
評論