chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

機(jī)器學(xué)習(xí)容易忽視什么

汽車玩家 ? 來源:AI公園 ? 作者:Ilja Moisejevs ? 2020-05-04 11:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

導(dǎo)讀

新功能不是免費(fèi)的。

我們生活在一個(gè)瘋狂的時(shí)代。我記得當(dāng)我還是個(gè)孩子的時(shí)候,我在看《星球大戰(zhàn)》的時(shí)候,我在想,要過多久我們的廚房里才會(huì)有會(huì)說話的機(jī)器人。事實(shí)證明,這段時(shí)間并不長。實(shí)際上不到 10 年。

人工智能,更具體地說,是機(jī)器學(xué)習(xí)將科幻小說變成了現(xiàn)實(shí) —— 沒有其他的方式來表達(dá)它。每次我瀏覽技術(shù)評論或 TechCrunch 時(shí),我都被我們現(xiàn)在可以“隨意”做的事情所震撼。

透視墻壁?很容易。通過視頻猜測材料的物理性質(zhì)?實(shí)現(xiàn)了。從鍵盤聲音預(yù)測按了哪個(gè)鍵?如何生成逼真的面孔、身體或詩歌?或者教機(jī)器畫畫?或者教機(jī)器打《星際爭霸》游戲?

還有,你見沒見過這種東西在街上晃來晃去?

瘋狂。

現(xiàn)在,如果你真的去和 AI/ML 領(lǐng)域工作的人聊一聊,你可能會(huì)得到兩種回答中的一種。要么對于 AI 可以做什么和下一個(gè)大的愿景/ NLP /強(qiáng)化學(xué)習(xí)問題超級興奮,要么他們對我們這些愚蠢的人類構(gòu)件的人工智能非??謶?,相信不久人工總體智會(huì)將人類轉(zhuǎn)化為一個(gè)無用的東西。在我看來,這就像今天社區(qū)的普遍分裂 —— 50%的人認(rèn)為人工智能是我們的未來,50%的人認(rèn)為它是我們的末日。

關(guān)于人工智能和機(jī)器學(xué)習(xí)是什么,我想提供第三種觀點(diǎn) —— 或許是一種更世俗的觀點(diǎn):為對手提供一個(gè)新的攻擊面。

讓我們探索一下。

新發(fā)明的黑暗面

每當(dāng)一項(xiàng)新發(fā)明出現(xiàn)時(shí),大多數(shù)人都傾向于認(rèn)為這項(xiàng)發(fā)明帶來了新的驚人的能力。但是,哪里有光明,哪里就會(huì)有陰影,因此新功能不經(jīng)意間就會(huì)帶來新的“漏洞”,供黑客利用。然后利用它們。

讓我們上一節(jié)歷史課,重訪 PC 市場。第一臺(tái)個(gè)人電腦(Altair 8800)于 1975 年發(fā)布,隨后在接下來的 10 年里進(jìn)行了一系列的創(chuàng)新,最終在 1984 年推出了 Apple Macintosh。隨之而來的是一波爆炸性的采用浪潮,在整個(gè) 90 年代一直持續(xù)到 2000 年:

機(jī)器學(xué)習(xí)容易忽視什么

然而,大多數(shù)用戶并不知道,在惡意軟件或“惡意軟件”市場也發(fā)生了類似的爆炸。

1989 年,Robert Morris 嘗試使用 Unix sendmail,并構(gòu)建了一個(gè)可以自我復(fù)制的蠕蟲,然后將其發(fā)送到 internet 上。一開始只是一個(gè)簡單的實(shí)驗(yàn),結(jié)果變成了第一次 DoS 攻擊,造成的損失估計(jì)在 10 萬到 1000 萬美元之間,并使整個(gè)互聯(lián)網(wǎng)慢了好幾天(當(dāng)然現(xiàn)在是不可想象的)。隨后,1989 年發(fā)生了第一次勒索軟件攻擊,1996 年出現(xiàn)了第一個(gè) Linux 病毒(“Staog”),1998 年出現(xiàn)了第一個(gè) AOL 木馬。

機(jī)器學(xué)習(xí)容易忽視什么

后來,同樣的事情也發(fā)生在移動(dòng)領(lǐng)域:2007 年的 iPhone 時(shí)刻,隨之而來的是智能手機(jī)的爆炸式增長:

機(jī)器學(xué)習(xí)容易忽視什么

緊隨其后的是手機(jī)惡意軟件的爆炸式增長:

機(jī)器學(xué)習(xí)容易忽視什么

那么,機(jī)器學(xué)習(xí)呢?

盡管如此,機(jī)器學(xué)習(xí)的產(chǎn)品化仍處于萌芽階段。許多真正前沿的工作仍然局限于研究實(shí)驗(yàn)室和大學(xué) —— 但即使是研究,我們也可以開始看到一些相同的趨勢出現(xiàn)。

機(jī)器學(xué)習(xí)研究論文按年份和地區(qū)分類:

機(jī)器學(xué)習(xí)容易忽視什么

…vs對抗機(jī)器學(xué)習(xí)(ML 的惡意軟件版本)研究論文計(jì)數(shù):

機(jī)器學(xué)習(xí)容易忽視什么

事情正在發(fā)生。開始恐慌了嗎?

安全問題

還沒有那么快。好消息是,隨著個(gè)人電腦占據(jù)了我們的日常生活,黑客開始入侵,另一個(gè)與之并行的市場開始發(fā)展 ——安全解決方案市場。

1987 年,Andreas Luning 和 Kai Figge 為 Atari ST 平臺(tái)開發(fā)了第一個(gè)抗病毒產(chǎn)品。同年,McAffee、NOD、Flu Shot 和 Anti4us 都出生了 —— 在接下來的 20 年里,更多的安全類產(chǎn)品誕生了:

機(jī)器學(xué)習(xí)容易忽視什么

很快,VCs 就意識到了大型網(wǎng)絡(luò)安全將會(huì)發(fā)生什么,資本將開始流動(dòng):

Kleiner Perkins 對 Symantec 投資 3M

McAffee 從 Summit Partners 拿到了融資

BitDefender 融資 7 百萬美元

數(shù)百萬美元的收購:

McAffee700 萬美元買了 solomon

Symantec 同意以 787.8 億美元購買 Axent

微軟從 GeCAD 軟件中獲取殺毒技術(shù)

隨著手機(jī)惡意軟件的快速增長,安全玩家也出現(xiàn)了類似的爆炸式增長:

機(jī)器學(xué)習(xí)容易忽視什么

安全鄰域的融資:

Bluebox 從 Andreessen Horowitz 融資$9.5M

France Telecom 對 Lookout 投資達(dá)到$20M

Zimperium 在移動(dòng)安全領(lǐng)域融資$8M

安全領(lǐng)域的收購:

移動(dòng)安全初創(chuàng)公司被 Rapid7 收購

Apple 以$356M 購買了三星安卓安全合作伙伴

AVG 以$220M 購買了移動(dòng)安全公司 Location Labs

那么機(jī)器學(xué)習(xí)呢?

機(jī)器學(xué)習(xí)需要安全嗎?

在過去的某個(gè)時(shí)候,我曾為英國最大的金融科技公司之一進(jìn)行過反欺詐和反洗錢工作。我的團(tuán)隊(duì)每年監(jiān)管的交易額超過 100 億美元,我們一直在努力阻止騙子進(jìn)入 GC 的循環(huán)系統(tǒng)。很自然地——在某種程度上,我們屈服于這種炒作,決定嘗試機(jī)器學(xué)習(xí)。

令我當(dāng)時(shí)感到驚訝的是,它居然奏效了。事實(shí)上,它很有效。從傳統(tǒng)的啟發(fā)式,我們設(shè)法減少了 80%的金錢損失到欺詐和提高了 20 倍的檢測可疑的帳戶洗錢。

只有一個(gè)問題。

我們在我認(rèn)為“關(guān)鍵”的能力上部署了機(jī)器學(xué)習(xí)。我們給了這個(gè)算法一項(xiàng)任務(wù),但這項(xiàng)任務(wù)不允許它失敗——如果失敗了—— 我們要么損失大量金錢,要么被吊銷金融執(zhí)照。對我這個(gè)直接負(fù)責(zé) GC 安全的產(chǎn)品經(jīng)理來說,這兩者聽起來都不是什么好事。

所以我需要知道 ML 如何以及何時(shí)會(huì)失敗。如何利用我們的模式?它內(nèi)在的弱點(diǎn)在哪里?我如何知道 GoCardless 是否受到攻擊?

在花了太多的夜晚閱讀 ML 的文件和在暗網(wǎng)上尋找之后,我終于找到了我所尋找的。我在 ML 上了解到中毒攻擊,攻擊者可以通過在訓(xùn)練中注入損壞的數(shù)據(jù)來影響模型的思維。我發(fā)現(xiàn)了對抗性的例子,以及在測試時(shí)模型是如何容易被精心設(shè)計(jì)的擾動(dòng)的輸入誤導(dǎo)的。最后,我了解到隱私攻擊,底層數(shù)據(jù)和模型本身都不是真正的私有。

然后,我發(fā)現(xiàn)了這個(gè)……

我嚇壞了。

到 2019 年底,1/3 的企業(yè)都將部署機(jī)器學(xué)習(xí)。這是你、我、我們的朋友和親人每天使用的所有產(chǎn)品的三分之一 —— 在任何知道 ML 工作原理的攻擊者面前全裸。

是的,機(jī)器學(xué)習(xí)需要安全。

邁出第一步

ML 安全是一個(gè)非常新興的領(lǐng)域 —— 到今天基本上還不存在。如果說我從上面的研究中學(xué)到了什么,那就是任何沒有數(shù)學(xué)博士學(xué)位的人都很難弄清楚如何保證他們的 ML 的安全(現(xiàn)在幾乎沒有解決方案,只有大量的數(shù)學(xué)研究論文)。

考慮到我們的生活中有多少是要托付給算法的 —— 我認(rèn)為這是我們的責(zé)任 —— 你、我和整個(gè) ML 社區(qū)的責(zé)任是確保安全不被拋在腦后。今天有很多我們可以做的來構(gòu)建更健壯的 ML 模型 —— 正如我解釋我的帖子逃稅,中毒和隱私攻擊。但更重要的是,我們需要轉(zhuǎn)變思維模式——從“不惜一切代價(jià)的準(zhǔn)確性”轉(zhuǎn)向更平衡的準(zhǔn)確性與穩(wěn)健性:

機(jī)器學(xué)習(xí)容易忽視什么

C1和C2是兩個(gè)模型。很明顯,C1一開始并不是很準(zhǔn)確,但是隨著攻擊強(qiáng)度的增加,它在抵抗攻擊方面也做得更好。你選擇C1還是C2作為ML模型?

這篇文章和上面的文章是我嘗試邁出的第一步,邁向一個(gè)更健壯的 ML 未來。確保每個(gè)人的安全。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1806

    文章

    49012

    瀏覽量

    249385
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8503

    瀏覽量

    134596
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    FPGA在機(jī)器學(xué)習(xí)中的具體應(yīng)用

    隨著機(jī)器學(xué)習(xí)和人工智能技術(shù)的迅猛發(fā)展,傳統(tǒng)的中央處理單元(CPU)和圖形處理單元(GPU)已經(jīng)無法滿足高效處理大規(guī)模數(shù)據(jù)和復(fù)雜模型的需求。FPGA(現(xiàn)場可編程門陣列)作為一種靈活且高效的硬件加速平臺(tái)
    的頭像 發(fā)表于 07-16 15:34 ?256次閱讀

    機(jī)器學(xué)習(xí)模型市場前景如何

    當(dāng)今,隨著算法的不斷優(yōu)化、數(shù)據(jù)量的爆炸式增長以及計(jì)算能力的飛速提升,機(jī)器學(xué)習(xí)模型的市場前景愈發(fā)廣闊。下面,AI部落小編將探討機(jī)器學(xué)習(xí)模型市場的未來發(fā)展。
    的頭像 發(fā)表于 02-13 09:39 ?359次閱讀

    嵌入式機(jī)器學(xué)習(xí)的應(yīng)用特性與軟件開發(fā)環(huán)境

    作者:DigiKey Editor 在許多嵌入式系統(tǒng)中,必須采用嵌入式機(jī)器學(xué)習(xí)(Embedded Machine Learning)技術(shù),這是指將機(jī)器學(xué)習(xí)模型部署在資源受限的設(shè)備(如微
    的頭像 發(fā)表于 01-25 17:05 ?658次閱讀
    嵌入式<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>的應(yīng)用特性與軟件開發(fā)環(huán)境

    傳統(tǒng)機(jī)器學(xué)習(xí)方法和應(yīng)用指導(dǎo)

    在上一篇文章中,我們介紹了機(jī)器學(xué)習(xí)的關(guān)鍵概念術(shù)語。在本文中,我們會(huì)介紹傳統(tǒng)機(jī)器學(xué)習(xí)的基礎(chǔ)知識和多種算法特征,供各位老師選擇。 01 傳統(tǒng)機(jī)器
    的頭像 發(fā)表于 12-30 09:16 ?1184次閱讀
    傳統(tǒng)<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>方法和應(yīng)用指導(dǎo)

    如何選擇云原生機(jī)器學(xué)習(xí)平臺(tái)

    當(dāng)今,云原生機(jī)器學(xué)習(xí)平臺(tái)因其彈性擴(kuò)展、高效部署、低成本運(yùn)營等優(yōu)勢,逐漸成為企業(yè)構(gòu)建和部署機(jī)器學(xué)習(xí)應(yīng)用的首選。然而,市場上的云原生機(jī)器
    的頭像 發(fā)表于 12-25 11:54 ?454次閱讀

    電平匹配問題,簡單卻容易忽視

    導(dǎo)讀在電路設(shè)計(jì)中,電平匹配是一個(gè)基本要求,但常常被忽視,可能導(dǎo)致設(shè)備故障和通信異常。本文我們將揭示如何避免因電平不匹配導(dǎo)致的設(shè)備故障,并提供實(shí)用的設(shè)計(jì)建議,確保您的電路設(shè)計(jì)既高效又穩(wěn)定。電平匹配
    的頭像 發(fā)表于 12-20 11:34 ?1212次閱讀
    電平匹配問題,簡單卻<b class='flag-5'>容易</b>被<b class='flag-5'>忽視</b>

    zeta在機(jī)器學(xué)習(xí)中的應(yīng)用 zeta的優(yōu)缺點(diǎn)分析

    在探討ZETA在機(jī)器學(xué)習(xí)中的應(yīng)用以及ZETA的優(yōu)缺點(diǎn)時(shí),需要明確的是,ZETA一詞在不同領(lǐng)域可能有不同的含義和應(yīng)用。以下是根據(jù)不同領(lǐng)域的ZETA進(jìn)行的分析: 一、ZETA在機(jī)器學(xué)習(xí)
    的頭像 發(fā)表于 12-20 09:11 ?1124次閱讀

    什么是機(jī)器學(xué)習(xí)?通過機(jī)器學(xué)習(xí)方法能解決哪些問題?

    來源:Master編程樹“機(jī)器學(xué)習(xí)”最初的研究動(dòng)機(jī)是讓計(jì)算機(jī)系統(tǒng)具有人的學(xué)習(xí)能力以便實(shí)現(xiàn)人工智能。因?yàn)闆]有學(xué)習(xí)能力的系統(tǒng)很難被認(rèn)為是具有智能的。目前被廣泛采用的
    的頭像 發(fā)表于 11-16 01:07 ?963次閱讀
    什么是<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>?通過<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>方法能解決哪些問題?

    NPU與機(jī)器學(xué)習(xí)算法的關(guān)系

    在人工智能領(lǐng)域,機(jī)器學(xué)習(xí)算法是實(shí)現(xiàn)智能系統(tǒng)的核心。隨著數(shù)據(jù)量的激增和算法復(fù)雜度的提升,對計(jì)算資源的需求也在不斷增長。NPU作為一種專門為深度學(xué)習(xí)機(jī)器
    的頭像 發(fā)表于 11-15 09:19 ?1214次閱讀

    eda在機(jī)器學(xué)習(xí)中的應(yīng)用

    機(jī)器學(xué)習(xí)項(xiàng)目中,數(shù)據(jù)預(yù)處理和理解是成功構(gòu)建模型的關(guān)鍵。探索性數(shù)據(jù)分析(EDA)是這一過程中不可或缺的一部分。 1. 數(shù)據(jù)清洗 數(shù)據(jù)清洗 是機(jī)器學(xué)習(xí)中的首要任務(wù)之一。EDA可以幫助識別
    的頭像 發(fā)表于 11-13 10:42 ?896次閱讀

    具身智能與機(jī)器學(xué)習(xí)的關(guān)系

    具身智能(Embodied Intelligence)和機(jī)器學(xué)習(xí)(Machine Learning)是人工智能領(lǐng)域的兩個(gè)重要概念,它們之間存在著密切的關(guān)系。 1. 具身智能的定義 具身智能是指智能體
    的頭像 發(fā)表于 10-27 10:33 ?1049次閱讀

    人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)存在什么區(qū)別

    人工智能指的是在某種程度上顯示出類似人類智能的設(shè)備。AI有很多技術(shù),但其中一個(gè)很大的子集是機(jī)器學(xué)習(xí)——讓算法從數(shù)據(jù)中學(xué)習(xí)
    發(fā)表于 10-24 17:22 ?2977次閱讀
    人工智能、<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>和深度<b class='flag-5'>學(xué)習(xí)</b>存在什么區(qū)別

    RISC-V如何支持不同的AI和機(jī)器學(xué)習(xí)框架和庫?

    RISC-V如何支持不同的AI和機(jī)器學(xué)習(xí)框架和庫?還請壇友們多多指教一下。
    發(fā)表于 10-10 22:24

    【《時(shí)間序列與機(jī)器學(xué)習(xí)》閱讀體驗(yàn)】+ 時(shí)間序列的信息提取

    之前對《時(shí)間序列與機(jī)器學(xué)習(xí)》一書進(jìn)行了整體瀏覽,并且非常輕松愉快的完成了第一章的學(xué)習(xí),今天開始學(xué)習(xí)第二章“時(shí)間序列的信息提取”。 先粗略的翻閱第二章,內(nèi)容復(fù)雜,充斥了大量的定義、推導(dǎo)計(jì)
    發(fā)表于 08-14 18:00

    【「時(shí)間序列與機(jī)器學(xué)習(xí)」閱讀體驗(yàn)】+ 簡單建議

    這本書以其系統(tǒng)性的框架和深入淺出的講解,為讀者繪制了一幅時(shí)間序列分析與機(jī)器學(xué)習(xí)融合應(yīng)用的宏偉藍(lán)圖。作者不僅扎實(shí)地構(gòu)建了時(shí)間序列分析的基礎(chǔ)知識,更巧妙地展示了機(jī)器學(xué)習(xí)如何在這一領(lǐng)域發(fā)揮巨
    發(fā)表于 08-12 11:21