chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

研究人員開發(fā)了一種工具用于訓(xùn)練人工智能系統(tǒng)的圖像集中的潛在偏差

倩倩 ? 來源:新經(jīng)網(wǎng) ? 作者:新經(jīng)網(wǎng) ? 2020-10-15 14:41 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

普林斯頓大學(xué)的研究人員開發(fā)了一種工具,用于標(biāo)記用于訓(xùn)練人工智能AI)系統(tǒng)的圖像集中的潛在偏差。這項(xiàng)工作是糾正和防止AI系統(tǒng)中普遍存在的偏見的一項(xiàng)較大努力的一部分,該偏見影響了從信貸服務(wù)到法庭判決程序的所有內(nèi)容。

盡管AI系統(tǒng)中偏見的來源多種多樣,但一個(gè)主要的原因是從在線資源收集的大量圖像中包含的定型圖像,工程師使用這些圖像來開發(fā)計(jì)算機(jī)視覺,這是AI的一個(gè)分支,允許計(jì)算機(jī)識別人,物體和動作。由于計(jì)算機(jī)視覺的基礎(chǔ)是建立在這些數(shù)據(jù)集上的,因此反映社會定型觀念和偏見的圖像會無意間影響計(jì)算機(jī)視覺模型。

為了從源頭上解決這個(gè)問題,普林斯頓視覺AI實(shí)驗(yàn)室的研究人員開發(fā)了一種開源工具,該工具可以自動發(fā)現(xiàn)視覺數(shù)據(jù)集中的潛在偏差。該工具允許數(shù)據(jù)集創(chuàng)建者和用戶在使用圖像收集來訓(xùn)練計(jì)算機(jī)視覺模型之前糾正代表性不足或刻板印象的問題。在相關(guān)工作中,Visual AI Lab的成員發(fā)布了現(xiàn)有方法的比較,這些方法可防止計(jì)算機(jī)視覺模型本身出現(xiàn)偏差,并提出了一種新的,更有效的緩解偏差的方法。

第一個(gè)工具稱為REVISE(揭示視覺偏見),它使用統(tǒng)計(jì)方法來檢查數(shù)據(jù)集的三個(gè)方面:基于對象,基于性別和基于地理位置的潛在偏見或代表性不足。REVISE是一種全自動工具,建立在早期工作的基礎(chǔ)上,涉及以需要用戶更多指導(dǎo)的方式來過濾和平衡數(shù)據(jù)集的圖像。該研究報(bào)告于8月24日在虛擬的歐洲計(jì)算機(jī)視覺會議上發(fā)表。

REVISE使用現(xiàn)有的圖像注釋和度量來評估數(shù)據(jù)集的內(nèi)容,例如對象計(jì)數(shù),對象和人的共現(xiàn)以及圖像的原產(chǎn)國。在這些測量中,該工具可顯示不同于中值分布的圖案。

例如,在一個(gè)測試的數(shù)據(jù)集中,REVISE顯示,包括人和花朵在內(nèi)的圖像在雄性和雌性之間是不同的:雄性更經(jīng)常出現(xiàn)在儀式或會議上,并帶有花朵,而雌性則傾向于出現(xiàn)在舞臺上或繪畫中。(分析僅限于反映圖像中出現(xiàn)的人的二元性別的注釋。)

一旦該工具揭示了這些差異,“那么,這就是一個(gè)完全無害的事實(shí),或者是否正在發(fā)生更深層的事情,而這很難自動化,”計(jì)算機(jī)科學(xué)與專業(yè)副教授奧爾加·魯薩科夫斯基(Olga Russakovsky)說。視覺AI實(shí)驗(yàn)室的調(diào)查員。Russakovsky與研究生Angelina Wang和計(jì)算機(jī)科學(xué)副教授Arvind Narayanan共同撰寫了該論文。

例如,REVISE顯示,包括飛機(jī),床和比薩餅在內(nèi)的物體在包含它們的圖像中比在其中一個(gè)數(shù)據(jù)集中的典型物體更大。這樣的問題可能不會永久保留社會定型觀念,但是對于訓(xùn)練計(jì)算機(jī)視覺模型可能會出現(xiàn)問題。作為補(bǔ)救措施,研究人員建議收集飛機(jī)圖像,其中還包括山峰,沙漠或天空標(biāo)簽

但是,計(jì)算機(jī)視覺數(shù)據(jù)集中全球區(qū)域的代表性不足,可能會導(dǎo)致AI算法出現(xiàn)偏差。與以前的分析一致,研究人員發(fā)現(xiàn),對于圖像的來源國(按人口標(biāo)準(zhǔn)化),美國和歐洲國家在數(shù)據(jù)集中的代表過多。除此之外,REVISE還顯示,對于來自世界其他地區(qū)的圖像,圖像標(biāo)題通常不是使用本地語言,這表明其中許多圖像是被游客捕獲的,并可能導(dǎo)致某個(gè)國家/地區(qū)的視角偏斜。

Russakovsky說,專注于對象檢測的研究人員可能會忽略計(jì)算機(jī)視覺的公平性問題。她說:“但是,這種地理分析表明,物體識別仍然可能存在很大的偏見和排他性,并且會不平等地影響不同的地區(qū)和人民?!?/p>

共同作者,計(jì)算機(jī)科學(xué)研究生安吉麗娜·王說:“直到最近,才對計(jì)算機(jī)科學(xué)中的數(shù)據(jù)集收集實(shí)踐進(jìn)行徹底的審查?!彼f,圖片大多是“從互聯(lián)網(wǎng)上抓取的,人們并不總是意識到他們的圖片在[數(shù)據(jù)集中]被使用。我們應(yīng)該從更多的人群中收集圖片,但是當(dāng)我們這樣做時(shí),我們應(yīng)該小心我們以尊重的方式獲得圖像。”

“工具和基準(zhǔn)測試是重要的一步……它們使我們能夠在開發(fā)初期就抓住這些偏見,并重新考慮我們的問題設(shè)置和假設(shè)以及數(shù)據(jù)收集實(shí)踐,”計(jì)算機(jī)科學(xué)助理教授Vicente Ordonez-Roman說。未參與研究的弗吉尼亞大學(xué)。“在計(jì)算機(jī)視覺中,有關(guān)刻板印象的表示和傳播存在一些特定的挑戰(zhàn)。諸如普林斯頓視覺AI實(shí)驗(yàn)室所做的工作有助于闡明這些問題并引起計(jì)算機(jī)視覺界的注意,并提供了緩解這些問題的策略。 ”

視覺AI實(shí)驗(yàn)室的一項(xiàng)相關(guān)研究對防止計(jì)算機(jī)視覺模型學(xué)習(xí)可能反映偏差的虛假關(guān)聯(lián)進(jìn)行了研究,這些虛假關(guān)聯(lián)可能會反映偏差,例如過度預(yù)測活動(例如以女性形象烹飪或以男性形象進(jìn)行計(jì)算機(jī)編程)。視覺提示(例如,斑馬是黑白的,或者籃球運(yùn)動員經(jīng)常穿著球衣)有助于提高模型的準(zhǔn)確性,因此在開發(fā)有效模型的同時(shí)避免出現(xiàn)問題性關(guān)聯(lián)是該領(lǐng)域的重大挑戰(zhàn)。

在6月舉行的虛擬計(jì)算機(jī)視覺和模式識別國際國際會議上提出的研究中,電氣工程專業(yè)的研究生Zeyu Wang及其同事比較了四種緩解計(jì)算機(jī)視覺模型偏差的技術(shù)。

他們發(fā)現(xiàn)一種稱為對抗訓(xùn)練或“盲目的公平”的流行技術(shù)損害了圖像識別模型的整體性能。在對抗訓(xùn)練中,模型無法考慮有關(guān)受保護(hù)變量的信息-在研究中,研究人員使用性別作為測試案例。在團(tuán)隊(duì)的分析中,另一種方法稱為域獨(dú)立培訓(xùn),即“通過意識進(jìn)行公平”,效果更好。

魯薩科夫斯基說:“從本質(zhì)上講,這意味著我們將針對不同性別進(jìn)行不同的活動頻率,是的,這一預(yù)測將取決于性別。因此,我們只是接受這一觀點(diǎn)?!?/p>

本文中概述的技術(shù)通過與其他視覺提示分開考慮受保護(hù)的屬性來減輕潛在的偏見。

王澤宇說:“我們?nèi)绾握嬲鉀Q偏差問題是一個(gè)更深層次的問題,因?yàn)槲覀儺?dāng)然可以看到它存在于數(shù)據(jù)本身中?!彼f:“但是在現(xiàn)實(shí)世界中,人們?nèi)匀豢梢栽谝庾R到我們的偏見的同時(shí)做出良好的判斷”,并且可以設(shè)置計(jì)算機(jī)視覺模型以類似的方式工作。

責(zé)任編輯:lq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 圖像
    +關(guān)注

    關(guān)注

    2

    文章

    1094

    瀏覽量

    42023
  • 人工智能
    +關(guān)注

    關(guān)注

    1811

    文章

    49507

    瀏覽量

    258422
  • 數(shù)據(jù)集
    +關(guān)注

    關(guān)注

    4

    文章

    1229

    瀏覽量

    25929
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    利用超微型 Neuton ML 模型解鎖 SoC 邊緣人工智能

    應(yīng)用。 為什么選擇 Neuton 作為開發(fā)人員,在產(chǎn)品中使用邊緣人工智能的兩個(gè)最大障礙是: ML 模型對于您所選微控制器的內(nèi)存來說太大。 創(chuàng)建自定義 ML 模型本質(zhì)上是個(gè)手動過程,需要高度的數(shù)據(jù)科學(xué)知識
    發(fā)表于 08-31 20:54

    【Sipeed MaixCAM Pro開發(fā)板試用體驗(yàn)】基于MaixCAM-Pro的AI生成圖像鑒別系統(tǒng)

    任務(wù)。這套系統(tǒng)為藝術(shù)市場、教育行業(yè)和內(nèi)容平臺提供了一種實(shí)用的工具,有效應(yīng)對AI生成內(nèi)容帶來的挑戰(zhàn)。雖然有些識別會出錯(cuò),但是還是值得繼續(xù)優(yōu)化以及探討方案的可行性。
    發(fā)表于 08-21 13:59

    挖到寶了!人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器

    家人們,最近在研究人工智能相關(guān)設(shè)備,挖到了款超厲害的寶藏——比鄰星人工智能綜合實(shí)驗(yàn)箱,必須來給大伙分享分享!可?(壹捌伍 柒零零玖 壹壹捌陸)
    發(fā)表于 08-07 14:30

    挖到寶了!比鄰星人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器!

    家人們,最近在研究人工智能相關(guān)設(shè)備,挖到了款超厲害的寶藏——比鄰星人工智能綜合實(shí)驗(yàn)箱,必須來給大伙分享分享!可?(壹捌伍 柒零零玖 壹壹捌陸)
    發(fā)表于 08-07 14:23

    超小型Neuton機(jī)器學(xué)習(xí)模型, 在任何系統(tǒng)級芯片(SoC)上解鎖邊緣人工智能應(yīng)用.

    Neuton 是家邊緣AI 公司,致力于讓機(jī)器 學(xué)習(xí)模型更易于使用。它創(chuàng)建的模型比競爭對手的框架小10 倍,速度也快10 倍,甚至可以在最先進(jìn)的邊緣設(shè)備上進(jìn)行人工智能處理。在這篇博文中,我們將介紹
    發(fā)表于 07-31 11:38

    最新人工智能硬件培訓(xùn)AI 基礎(chǔ)入門學(xué)習(xí)課程參考2025版(大模型篇)

    人工智能大模型重塑教育與社會發(fā)展的當(dāng)下,無論是探索未來職業(yè)方向,還是更新技術(shù)儲備,掌握大模型知識都已成為新時(shí)代的必修課。從職場上輔助工作的智能助手,到課堂用于學(xué)術(shù)研究
    發(fā)表于 07-04 11:10

    研究人員開發(fā)出基于NVIDIA技術(shù)的AI模型用于檢測瘧疾

    瘧疾曾度在委內(nèi)瑞拉銷聲匿跡,但如今正卷土重來。研究人員已經(jīng)訓(xùn)練個(gè)模型來幫助檢測這種傳染病。
    的頭像 發(fā)表于 04-25 09:58 ?620次閱讀

    #新年新氣象,大家新年快樂!#AIGC入門及鴻蒙入門

    、配置SDK等。 3. 開發(fā)實(shí)踐**: 學(xué)習(xí)鴻蒙系統(tǒng)的架構(gòu)和API,了解其組件化、分布式等特性。 通過官方文檔和社區(qū)資源,學(xué)習(xí)和掌握鴻蒙應(yīng)用的開發(fā)流程和技巧。 總結(jié)來說,AIGC作為
    發(fā)表于 01-13 10:46

    AIGC入門及鴻蒙入門

    開發(fā)的語言模型工具,支持文本生成、代碼編寫等。 MidJourney:個(gè)用于圖像生成的工具,允
    發(fā)表于 01-13 10:32

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】1.初步理解具身智能

    本對人工智能、機(jī)器人技術(shù)和計(jì)算系統(tǒng)交叉領(lǐng)域感興趣的讀者來說不可或缺的書。這本書深入探討了具身智能結(jié)合物理機(jī)器人和智能算法的領(lǐng)域,該領(lǐng)域正
    發(fā)表于 12-28 21:12

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+數(shù)據(jù)在具身人工智能中的價(jià)值

    嵌入式人工智能(EAI)將人工智能集成到機(jī)器人等物理實(shí)體中,使它們能夠感知、學(xué)習(xí)環(huán)境并與之動態(tài)交互。這種能力使此類機(jī)器人能夠在人類社會中有效地提供商品及服務(wù)。 數(shù)據(jù)是一種貨幣化工具 數(shù)
    發(fā)表于 12-24 00:33

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+初品的體驗(yàn)

    《具身智能機(jī)器人系統(tǒng)書由甘鳴、俞波、萬梓燊、劉少山老師共同編寫,其封面如圖1所示。 本書共由5部分組成,其結(jié)構(gòu)和內(nèi)容如圖2所示。 該書可作為高校和科研機(jī)構(gòu)的教材,為學(xué)生和
    發(fā)表于 12-20 19:17

    研究人員利用激光束開創(chuàng)量子計(jì)算新局面

    演示設(shè)備 威特沃特斯蘭德大學(xué)(Wits)的物理學(xué)家利用激光束和日常顯示技術(shù)開發(fā)出了一種創(chuàng)新的計(jì)算系統(tǒng),標(biāo)志著在尋求更強(qiáng)大的量子計(jì)算解決方案方面取得了重大飛躍。 該大學(xué)結(jié)構(gòu)光實(shí)驗(yàn)室的研究人員
    的頭像 發(fā)表于 12-18 06:24 ?509次閱讀
    <b class='flag-5'>研究人員</b>利用激光束開創(chuàng)量子計(jì)算新局面

    嵌入式和人工智能究竟是什么關(guān)系?

    嵌入式和人工智能究竟是什么關(guān)系? 嵌入式系統(tǒng)一種特殊的系統(tǒng),它通常被嵌入到其他設(shè)備或機(jī)器中,以實(shí)現(xiàn)特定功能。嵌入式系統(tǒng)具有非常強(qiáng)的適應(yīng)性
    發(fā)表于 11-14 16:39

    混合鍵合+高密度硅通孔,可用于在CMOS圖像傳感器中嵌入人工智能

    據(jù)麥姆斯咨詢報(bào)道,法國研究機(jī)構(gòu)CEA-Leti開發(fā)出了一種結(jié)合混合鍵合和高密度硅通孔(TSV)的新工藝,可用于在CMOS圖像傳感器(CIS)
    的頭像 發(fā)表于 11-13 17:09 ?2.3w次閱讀