chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

阿里安全提出的自動化對抗攻擊平臺CAA,給AI系統(tǒng)做“安全體檢”

工程師鄧生 ? 來源:鞭牛士 ? 作者:鞭牛士 ? 2020-12-11 16:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

鞭牛士BiaNews消息:安全人員曾為某著名車企自動駕駛系統(tǒng)做過一次安全測試,用物理對抗攻擊欺騙Autopilot車道檢測系統(tǒng),導致汽車在Autopilot不發(fā)出警告的情況下駛?cè)脲e誤車道。假如這是一場真實的攻擊,后果不堪設(shè)想。事實上,AI系統(tǒng)如果沒有足夠的“免疫力”,甚至會被一張圖片欺騙,如將停車標志識別為通行,在醫(yī)療應(yīng)用中將有問題的醫(yī)療影像識別為正常圖像等。

為幫助AI應(yīng)用從源頭構(gòu)建安全性,阿里安全圖靈實驗室整理歸納了學界針對AI模型提出的32種攻擊方法,以此為基礎(chǔ)搭建了一個自動化AI對抗攻擊平臺CAA,幫助檢測AI系統(tǒng)存在的安全漏洞。

經(jīng)CAA“體檢”后,AI安全專家可針對被檢測AI的薄弱地帶提出安全建議,助力AI魯棒性(穩(wěn)定性)檢測,以此增強AI系統(tǒng)的安全性,近日,該研究成果被人工智能頂會AAAI2021接收。

相比業(yè)界此前提出的其他攻擊工具箱,阿里圖靈實驗室研發(fā)的自動化對抗攻擊平臺CAA首度實現(xiàn)了對抗攻擊的“工具化”。它讓AI應(yīng)用的使用者即使不具備任何專業(yè)領(lǐng)域知識的情況下,也可以進行AI模型的對抗攻擊和魯棒性測試。

此外,CAA還可預(yù)先評估待檢測AI的特性,通過自動化搜索技術(shù)來合成多個攻擊算法的組合,提升了現(xiàn)有模型攻擊方法的性能和效率。阿里安全專家通過實驗表明,CAA超越了最新提出的攻擊方法,是可有效評估當前AI系統(tǒng)安全性的最強“攻擊”。

圖示:阿里安全提出的自動化對抗攻擊平臺CAA運行示意圖

以事前“攻擊演練”檢測AI系統(tǒng)的安全性,是當前提升安全AI的有效方法,也是阿里提出新一代安全架構(gòu),從源頭構(gòu)建安全的核心理念。但如果不知道目標模型的防御細節(jié),研究者通常很難根據(jù)經(jīng)驗選擇到對當前模型最優(yōu)的攻擊算法,從而難以驗證“體檢”的真實效果。

阿里安全圖靈實驗室算法專家簫瘋表示,阿里安全首次提出將智能技術(shù)引入到對抗攻擊中,使得所有攻擊細節(jié)和參數(shù)作為一個黑箱,而攻擊者只需要提供目標模型和數(shù)據(jù),算法就會自動選擇最優(yōu)的攻擊組合和參數(shù)。

以AI體檢AI,以AI訓練AI。蕭瘋認為,對識別黃、賭、毒等不良內(nèi)容的安全檢測AI而言,模型可靠性和魯棒性顯得尤為重要。目前,在鑒黃算法上,圖靈實驗室正在借此技術(shù)方法提升曝光、模糊、低畫質(zhì)等極端分類場景下的模型識別能力,并且逐漸提升模型在極端場景下的魯棒性,為業(yè)界提供更安全可靠的AI算法能力。

責任編輯:PSY

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35166

    瀏覽量

    280098
  • 自動化
    +關(guān)注

    關(guān)注

    29

    文章

    5785

    瀏覽量

    84922
  • 抗攻擊
    +關(guān)注

    關(guān)注

    0

    文章

    3

    瀏覽量

    6424
  • 阿里
    +關(guān)注

    關(guān)注

    6

    文章

    454

    瀏覽量

    33336
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    基坑智能監(jiān)測系統(tǒng)方案 自動化監(jiān)測與云平臺一體 全方位保障基建安全的科技解決方案

    基坑智能監(jiān)測系統(tǒng)方案 自動化監(jiān)測與云平臺一體 全方位保障基建安全的科技解決方案 監(jiān)測系統(tǒng)意義:? ?基坑作為基礎(chǔ)建設(shè)的底層組成成分,關(guān)系著上
    的頭像 發(fā)表于 07-09 10:51 ?109次閱讀
    基坑智能監(jiān)測<b class='flag-5'>系統(tǒng)</b>方案 <b class='flag-5'>自動化</b>監(jiān)測與云<b class='flag-5'>平臺</b>一體 全方位保障基建<b class='flag-5'>安全</b>的科技解決方案

    AI安全風險監(jiān)測:構(gòu)筑智能時代的“數(shù)字免疫系統(tǒng)

    平臺應(yīng)運而生,它如同智能時代的“數(shù)字免疫系統(tǒng)”,對AI系統(tǒng)進行全天候、多維度的健康“體檢”與風險“預(yù)警”。其核心功能構(gòu)成如下: 1. 風險識
    的頭像 發(fā)表于 06-25 16:29 ?159次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>安全</b>風險監(jiān)測:構(gòu)筑智能時代的“數(shù)字免疫<b class='flag-5'>系統(tǒng)</b>”

    數(shù)據(jù)驅(qū)動安全AI賦能智造——2025工業(yè)自動化安全大會成功召開

    北京?2025年6月3日?/美通社/ -- 2025年5月28日,由工業(yè)控制系統(tǒng)信息安全產(chǎn)業(yè)聯(lián)盟平臺、工業(yè)控制系統(tǒng)安全標準與測評工業(yè)和信息
    的頭像 發(fā)表于 06-03 16:27 ?215次閱讀
    數(shù)據(jù)驅(qū)動<b class='flag-5'>安全</b>,<b class='flag-5'>AI</b>賦能智造——2025工業(yè)<b class='flag-5'>自動化</b><b class='flag-5'>安全</b>大會成功召開

    環(huán)球儀器Uflex靈活自動化平臺概述

    在生產(chǎn)廠房全面走向自動化之際,最令廠家頭痛的莫過于生產(chǎn)線上一些難以自動化的組裝工序。若以功能單一的自動化平臺來解決,投資可能沒有保障。環(huán)球儀器的Uflex靈活
    的頭像 發(fā)表于 02-08 09:13 ?634次閱讀
    環(huán)球儀器Uflex靈活<b class='flag-5'>自動化</b><b class='flag-5'>平臺</b>概述

    在工業(yè)自動化領(lǐng)域AI,AO,DI,DO是什么,它有什么作用

    通過合理使用 AI、AO、DI、DO,工業(yè)自動化系統(tǒng)可以實現(xiàn)精確的監(jiān)測和控制,提高生產(chǎn)效率和安全性。
    的頭像 發(fā)表于 02-06 15:51 ?2223次閱讀
    在工業(yè)<b class='flag-5'>自動化</b>領(lǐng)域<b class='flag-5'>AI</b>,AO,DI,DO是什么,它有什么作用

    企業(yè)AI模型托管怎么

    當下,越來越多的企業(yè)選擇將AI模型托管專業(yè)的第三方平臺,以實現(xiàn)高效、靈活和安全的模型運行。下面,AI部落小編為您介紹企業(yè)
    的頭像 發(fā)表于 01-15 10:10 ?409次閱讀

    AI工作流自動化是做什么的

    AI工作流自動化是指利用人工智能技術(shù),對工作流程中的重復(fù)性、規(guī)則明確的任務(wù)進行自動化處理的過程。那么,AI工作流自動化是做什么的呢?接下來,
    的頭像 發(fā)表于 01-06 17:57 ?736次閱讀

    自動化水廠監(jiān)控系統(tǒng)

    隨著科技的發(fā)展,自動化技術(shù)在各行各業(yè)中的應(yīng)用日益廣泛,而自動化水廠監(jiān)控系統(tǒng)作為智慧水務(wù)的重要組成部分,具備多種功能,以滿足水廠安全、高效、穩(wěn)定運行的需求,正逐步改變著傳統(tǒng)水廠的運營模式
    的頭像 發(fā)表于 12-16 16:17 ?625次閱讀

    羅克韋爾自動化推出Logix SIS,開拓安全新格局

    作為工業(yè)自動化、信息和數(shù)字轉(zhuǎn)型領(lǐng)域的全球領(lǐng)先企業(yè)之一,?羅克韋爾自動化近日推出了 Logix SIS,進一步豐富了其行業(yè)領(lǐng)先的安全技術(shù)產(chǎn)
    的頭像 發(fā)表于 11-25 09:38 ?792次閱讀

    自動化AI開發(fā)平臺功能介紹

    自動化AI開發(fā)平臺集成了多種算法、工具和框架,旨在幫助開發(fā)者更快速、高效地設(shè)計、訓練、部署和管理AI模型。以下,AI部落小編將詳細介紹
    的頭像 發(fā)表于 11-14 09:29 ?787次閱讀

    AI即服務(wù)平臺安全性分析

    AIaaS平臺降低AI應(yīng)用門檻,但面臨數(shù)據(jù)泄露、惡意攻擊安全威脅。需加強數(shù)據(jù)加密、訪問控制、模型加固、供應(yīng)鏈安全等措施,確保合法合規(guī),提供
    的頭像 發(fā)表于 11-07 09:32 ?508次閱讀

    移動電源18650電芯全自動點焊機:高效、精準、安全|比斯特自動化

    移動電源18650電芯全自動點焊機:高效、精準、安全|比斯特自動化
    的頭像 發(fā)表于 10-10 11:30 ?762次閱讀

    基于CSS融合存儲系統(tǒng)自動化制造服務(wù)平臺存儲解決方案

    基于CSS融合存儲系統(tǒng)自動化制造服務(wù)平臺存儲解決方案
    的頭像 發(fā)表于 09-10 10:15 ?615次閱讀
    基于CSS融合存儲<b class='flag-5'>系統(tǒng)</b>的<b class='flag-5'>自動化</b>制造服務(wù)<b class='flag-5'>平臺</b>存儲解決方案

    隧道安全監(jiān)測自動化系統(tǒng)解決方案

    一、背景在現(xiàn)代交通網(wǎng)絡(luò)中,隧道作為連接不同區(qū)域的重要通道,其安全性與運營效率直接關(guān)系到整個交通系統(tǒng)的穩(wěn)定與順暢。隨著科技的飛速發(fā)展,隧道安全監(jiān)測自動化
    的頭像 發(fā)表于 09-09 14:46 ?735次閱讀
    隧道<b class='flag-5'>安全</b>監(jiān)測<b class='flag-5'>自動化</b><b class='flag-5'>系統(tǒng)</b>解決方案

    高速公路自動化安全監(jiān)測預(yù)警系統(tǒng)解決方案

    一、背景在當今快速發(fā)展的交通網(wǎng)絡(luò)中,高速公路作為連接城市與區(qū)域的重要紐帶,其安全與暢通直接關(guān)系到國家經(jīng)濟的發(fā)展與民眾生活的便捷。隨著科技的不斷進步,高速公路自動化安全監(jiān)測預(yù)警系統(tǒng)應(yīng)運而
    的頭像 發(fā)表于 08-12 14:58 ?1165次閱讀
    高速公路<b class='flag-5'>自動化</b><b class='flag-5'>安全</b>監(jiān)測預(yù)警<b class='flag-5'>系統(tǒng)</b>解決方案