chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DALL-E 2的錯誤揭示出人工智能的局限性

IEEE電氣電子工程師 ? 來源:IEEE電氣電子工程師 ? 作者:Eliza Strickland ? 2022-11-16 15:31 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

OpenAI的文字圖像轉(zhuǎn)換器與文本、科學(xué)和偏見作斗爭。

在2022年4月,人工智能(AI)研究實(shí)驗(yàn)室OpenAI繼2021年推出的DALL-E后,又推出了DALL-E 2。這兩個人工智能系統(tǒng)都可以根據(jù)自然語言的文本描述來生成令人驚奇的圖像,包括照片、插圖、繪畫、動畫和其他能用語言表達(dá)藝術(shù)風(fēng)格的幾乎任何圖片(見下圖)。DALL-E 2的分辨率更高,處理速度更快,增加的編輯功能能夠讓用戶僅使用文本命令修改已生成圖像,例如“把那個花瓶換成植物”或“讓狗的鼻子更大一點(diǎn)”。

對于DALL-E 2,全球最初的反應(yīng)是震驚和欣慰。它可以在幾秒鐘之內(nèi)把任何物體和生物組合在一起,可以模仿任何藝術(shù)風(fēng)格,還能描繪任何地點(diǎn),并且可以刻畫各種照明條件。比如說,看到宇航員騎著一匹馬的安迪?沃霍爾(Andy Warhol)風(fēng)格圖片,誰能不被感動?不過,隨著人們列出可以被這種技術(shù)輕易擾亂的行業(yè),也難免出現(xiàn)了一絲擔(dān)憂。

OpenAI尚未向公眾、商業(yè)實(shí)體乃至整個人工智能社區(qū)發(fā)布相關(guān)技術(shù)。OpenAI的研究員馬克?陳(Mark Chen):“我們和大家一樣擔(dān)心濫用的問題,而且非常重視這件事?!痹摴敬_實(shí)邀請了一些人,針對DALL-E 2進(jìn)行實(shí)驗(yàn)。過去幾個月出現(xiàn)的研究結(jié)果充分說明了現(xiàn)今深度學(xué)習(xí)技術(shù)的局限性,也給我們打開了一個窗口,了解對于人類世界,人工智能有哪些能夠理解,又有哪些完全沒有理解。

工作原理

OpenAI在論文預(yù)印本網(wǎng)站ArXiv上發(fā)布的一篇論文表明,DALL-E 2接受了從互聯(lián)網(wǎng)上截取的約6.5億個圖像-文本對的訓(xùn)練。通過這個龐大的數(shù)據(jù)集,它學(xué)習(xí)圖像與描述這些圖像的文字之間的關(guān)系。OpenAI在訓(xùn)練之前對數(shù)據(jù)集進(jìn)行篩選,移除了包含明顯暴力、色情和其他惡劣內(nèi)容的圖片?!澳P蜎]有暴露這些概念之下?!标愓f,“所以它生成未見過內(nèi)容的可能性非常非常低?!钡芯咳藛T明確指出,這種過濾有局限性,DALL-E 2仍然有可能生成有害的內(nèi)容。

一旦這種“編碼器”模型經(jīng)過訓(xùn)練,可理解文本和圖片之間的關(guān)系,OpenAI就將它與一個可根據(jù)文本提示生成圖片的解碼器配對,使用一種名為“擴(kuò)散”的方法,從隨機(jī)的點(diǎn)圖案開始,慢慢改變圖案,生成圖像。此外,該公司集成了一些過濾器,以便生成的圖像符合內(nèi)容政策,并承諾了不斷進(jìn)行更新??赡墚a(chǎn)生禁止內(nèi)容的改變會被阻止,而且為了防止深度偽造,它無法準(zhǔn)確地再現(xiàn)在訓(xùn)練過程中見過的面孔(這可部分解釋為什么它通常會產(chǎn)生超現(xiàn)實(shí)的面孔)。到目前為止,OpenAI還采用了人工審查員檢查被標(biāo)記為可能有問題的圖像。

由于DALL-E 2明顯有可能被濫用,OpenAI最初授權(quán)使用的只有幾百人,大多是人工智能研究人員和藝術(shù)家。與該實(shí)驗(yàn)室的語言生成模型GPT-3不同,即便是有限的商業(yè)應(yīng)用,DALL-E 2 也尚不具備,而且OpenAI也未公開討論相關(guān)計(jì)劃。不過,瀏覽DALL-E 2用戶創(chuàng)建并發(fā)布在Reddit等論壇上的圖像,可以發(fā)現(xiàn)有些專業(yè)應(yīng)用確實(shí)應(yīng)該引起擔(dān)憂,例如DALL-E 2擅長的美食攝影、公司手冊和網(wǎng)站的圖片庫,以及適用于宿舍海報或雜志封面上的插圖。

問題所在

熱心的實(shí)驗(yàn)者生成的圖像表明,盡管DALL-E 2有很多優(yōu)勢,但關(guān)于這個世界,它還需要學(xué)習(xí)很多東西。以下是3個最明顯、最引人關(guān)注的錯誤。

文本: DALL-E 2雖然擅長理解生成圖像的文本提示,卻很難將可理解的文本放入圖像,這一點(diǎn)令人感到費(fèi)解。用戶發(fā)現(xiàn),要求放入任意類型的文本都會產(chǎn)出一堆混亂的字母。珍妮爾?肖恩(Janelle Shane)喜歡在自己的人工智能博客里利用該系統(tǒng)創(chuàng)建公司的徽標(biāo),并觀察由此產(chǎn)生的混亂。不過,未來的版本可能會糾正該問題,因?yàn)镺penAI的GPT-3團(tuán)隊(duì)有著豐富的文本生成專業(yè)知識。肖恩:“最終,DALL-E的后繼者將能夠拼寫‘松餅屋’(Waffle House),那一天我一定會很傷心的。我還得換一種不同方式來擾亂它、找樂子?!?/p>

科學(xué):你可以說DALL-E 2理解一些科學(xué)定律,因?yàn)樗梢暂p松地描繪掉落的物體或漂浮在太空中的宇航員。但要求它生成解剖圖、X光圖、數(shù)學(xué)證明或藍(lán)圖時,它生成的圖像看似正確,而實(shí)際上卻是完全錯誤的。例如,要求DALL-E 2“按比例繪制太陽系圖解插圖”,在得到的結(jié)果圖像中,地球非常奇怪,而且有太多假設(shè)的太陽系鄰居?!癉ALL-E不懂什么是科學(xué)。它只知道怎樣閱讀文字說明,然后繪圖。”O(jiān)penAI的研究院阿迪蒂亞?拉梅什(Aditya Ramesh)說,“因此它不理解其中的含義,而試著編造一些看起來相似的東西?!?/p>

3a5af20c-64d7-11ed-8abf-dac502259ad0.jpg

偏見:DALL-E 2被認(rèn)為是一種接受圖片和文本訓(xùn)練的多模態(tài)人工智能系統(tǒng),會表現(xiàn)出某種形式的多模態(tài)偏見。例如,如果用戶要求它生成一名首席執(zhí)行官、一名建筑工人或者一名技術(shù)記者的圖片,它通常會根據(jù)其在訓(xùn)練數(shù)據(jù)中看到的圖片-文本對來提供男性的圖片。在發(fā)布DALL-E 2之前,OpenAI要求從事該領(lǐng)域相關(guān)工作的外部研究員來充當(dāng)“紅隊(duì)”,他們的見解有助于OpenAI評估該系統(tǒng)的風(fēng)險和局限性。他們發(fā)現(xiàn),除了表現(xiàn)有關(guān)性別的社會成見,該系統(tǒng)會過多地表現(xiàn)白人和西方傳統(tǒng)與環(huán)境。

陳認(rèn)為“我們可以采取某些機(jī)器學(xué)習(xí)緩解措施”來糾正這些偏見,該團(tuán)隊(duì)已經(jīng)采取了一些措施,例如,在訓(xùn)練期間他們發(fā)現(xiàn),由于在訓(xùn)練數(shù)據(jù)中消除了的色情內(nèi)容,在建立的數(shù)據(jù)集中男性要多于女性,這導(dǎo)致DALL-E 2生成更多男性的圖像。“所以我們調(diào)整了訓(xùn)練方法,并提高了女性圖像的權(quán)重,使其更有可能生成女性圖像?!标惤忉尩?。為了幫助DALL-E 2產(chǎn)生更多樣化的結(jié)果,用戶還可以使用“女性宇航員”或“印度婚禮”等指定性別、種族或地理位置的提示。

總之,DALL-E 2團(tuán)隊(duì)表示,他們渴望看到早期用戶在測試系統(tǒng)時發(fā)現(xiàn)的問題和故障,他們也已經(jīng)在考慮接下來的工作?!拔覀兎浅S信d趣提高系統(tǒng)的整體智能?!崩肥舱f,并補(bǔ)充說該團(tuán)隊(duì)希望能在“DALL-E中加深對語言及其與世界關(guān)系的理解”。他指出OpenAI的文本生成工具GPT-3對普通常識、科學(xué)和人類行為有著非常驚人的理解?!耙粋€充滿希望的目標(biāo)是嘗試通過DALL-E將GPT-3的知識與圖像領(lǐng)域聯(lián)系起來?!崩肥舱f。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1811

    文章

    49497

    瀏覽量

    258189
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5586

    瀏覽量

    123640
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1234

    瀏覽量

    9567

原文標(biāo)題:DALL-E 2的錯誤揭示出人工智能的局限性

文章出處:【微信號:IEEE_China,微信公眾號:IEEE電氣電子工程師】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    RVSP線纜有哪些缺點(diǎn)或者局限性

    RVSP線纜雖然具有抗干擾能力強(qiáng)、柔軟易彎曲等優(yōu)點(diǎn),但在實(shí)際應(yīng)用中也存在一些缺點(diǎn)和局限性,以下是詳細(xì)分析: 一、機(jī)械性能局限性 抗拉強(qiáng)度不足 RVSP線纜的銅芯導(dǎo)體較細(xì),且采用軟銅線結(jié)構(gòu),雖然提高了
    的頭像 發(fā)表于 08-22 09:53 ?337次閱讀

    挖到寶了!人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器

    和生態(tài)體系帶到使用者身邊 ,讓我們在技術(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實(shí)驗(yàn),解鎖AI全流程 它嵌入了2D視覺、深度視覺、機(jī)械手臂、語音識別、嵌入式傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:30

    挖到寶了!比鄰星人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器!

    和生態(tài)體系帶到使用者身邊 ,讓我們在技術(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實(shí)驗(yàn),解鎖AI全流程 它嵌入了2D視覺、深度視覺、機(jī)械手臂、語音識別、嵌入式傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:23

    UPS電源—UPS電源優(yōu)化電力質(zhì)量局限大揭秘

    在工業(yè)自動化及眾多關(guān)鍵領(lǐng)域,UPS(不間斷電源)作為電力保障的重要設(shè)備,對于提升電力質(zhì)量起到了至關(guān)重要的作用。然而,任何技術(shù)都有其局限性,UPS電源在優(yōu)化電力質(zhì)量方面也不例外。以下是對UPS電源優(yōu)化電力質(zhì)量局限性的詳細(xì)分析.
    的頭像 發(fā)表于 08-05 19:51 ?413次閱讀
    UPS電源—UPS電源優(yōu)化電力質(zhì)量<b class='flag-5'>局限</b>大揭秘

    最新人工智能硬件培訓(xùn)AI 基礎(chǔ)入門學(xué)習(xí)課程參考2025版(大模型篇)

    人工智能大模型重塑教育與社會發(fā)展的當(dāng)下,無論是探索未來職業(yè)方向,還是更新技術(shù)儲備,掌握大模型知識都已成為新時代的必修課。從職場上輔助工作的智能助手,到課堂用于學(xué)術(shù)研究的智能工具,大模型正在工作生活
    發(fā)表于 07-04 11:10

    樹莓派 也能搞 AI 藝術(shù)?樹莓派遇上DALL-E,開啟你的 AI 藝術(shù)創(chuàng)作之旅!

    本教程將向你展示如何使用DALL-EAPI從你的RaspberryPi上生成隨機(jī)的AI藝術(shù)。近年來,人工智能(AI)是一個取得了巨大飛躍的領(lǐng)域,這在很大程度上要?dú)w功于OpenAI等團(tuán)隊(duì)的努力。這些
    的頭像 發(fā)表于 03-25 09:29 ?534次閱讀
    樹莓派 也能搞 AI 藝術(shù)?樹莓派遇上<b class='flag-5'>DALL-E</b>,開啟你的 AI 藝術(shù)創(chuàng)作之旅!

    賓夕法尼亞大學(xué):開發(fā)出揭示亞原子信號的新型量子傳感技術(shù)

    信號,因此無法檢測到單個分子之間的微小變化。這種局限性阻礙了蛋白質(zhì)研究等領(lǐng)域的應(yīng)用,因?yàn)樵谶@些領(lǐng)域中,形狀上的微小差異控制著功能,并能決定健康與疾病的區(qū)別。 亞原子的深刻見解 現(xiàn)在,賓夕法尼亞大學(xué)工程與應(yīng)用科學(xué)學(xué)院(Penn E
    的頭像 發(fā)表于 03-05 18:31 ?478次閱讀
    賓夕法尼亞大學(xué):開發(fā)出<b class='flag-5'>揭示</b>亞原子信號的新型量子傳感技術(shù)

    人工智能重塑投資策略:七大出人意料的途徑

    人工智能(AI)已經(jīng)成為投資管理領(lǐng)域的一股變革力量?,F(xiàn)代投資者現(xiàn)在可以使用復(fù)雜的人工智能工具,這些工具可以分析大量的金融和替代數(shù)據(jù),識別模式,并幫助做出更明智的投資決策。 根據(jù)最近的一項(xiàng)行業(yè)調(diào)查
    的頭像 發(fā)表于 02-19 11:48 ?1244次閱讀
    <b class='flag-5'>人工智能</b>重塑投資策略:七大<b class='flag-5'>出人</b>意料的途徑

    明晚開播 |數(shù)據(jù)智能系列講座第5期:理解并改進(jìn)基礎(chǔ)模型

    鷺島論壇數(shù)據(jù)智能系列講座第5期「理解并改進(jìn)基礎(chǔ)模型」明晚(19號)20:00精彩開播期待與您云相聚,共襄學(xué)術(shù)盛宴!|直播信息報告題目理解并改進(jìn)基礎(chǔ)模型報告簡介大型基礎(chǔ)模型在生成式人工智能領(lǐng)域
    的頭像 發(fā)表于 02-18 17:23 ?817次閱讀
    明晚開播 |數(shù)據(jù)<b class='flag-5'>智能</b>系列講座第5期:理解并改進(jìn)基礎(chǔ)模型

    直播預(yù)約 |數(shù)據(jù)智能系列講座第5期:理解并改進(jìn)基礎(chǔ)模型

    鷺島論壇數(shù)據(jù)智能系列講座第5期「理解并改進(jìn)基礎(chǔ)模型」2月19日(周三)20:00精彩開播期待與您云相聚,共襄學(xué)術(shù)盛宴!|直播信息報告題目理解并改進(jìn)基礎(chǔ)模型報告簡介大型基礎(chǔ)模型在生成式人工智能領(lǐng)域
    的頭像 發(fā)表于 02-11 14:33 ?601次閱讀
    直播預(yù)約 |數(shù)據(jù)<b class='flag-5'>智能</b>系列講座第5期:理解并改進(jìn)基礎(chǔ)模型

    ChirpIoT技術(shù)的優(yōu)勢以及局限性

    無線通信技術(shù)。相關(guān)產(chǎn)品型號有E29-400T22D、E290-400MM20S、E290-900T20S、E290-400T30S等國產(chǎn)lora模塊,該系列無線模塊相關(guān)性能參數(shù)和功能特
    的頭像 發(fā)表于 01-23 10:42 ?659次閱讀

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】2.具身智能機(jī)器人大模型

    近年來,人工智能領(lǐng)域的大模型技術(shù)在多個方向上取得了突破性的進(jìn)展,特別是在機(jī)器人控制領(lǐng)域展現(xiàn)出了巨大的潛力。在“具身智能機(jī)器人大模型”部分,作者研究并探討了大模型如何提升機(jī)器人的能力,大模型存在
    發(fā)表于 12-29 23:04

    Banana Pi 攜手 ArmSoM 推出人工智能加速 RK3576 CM5 計(jì)算模塊

    的機(jī)器學(xué)習(xí)和人工智能 (ML 和 AI) 工作負(fù)載,以及 Arm Mali G52-MC3 圖形處理器和支持 H.264/H.265/MJPEG 編碼和 H.265/H.265/VP9/AVI1/AVS2
    發(fā)表于 12-11 18:38

    人工智能時代的秩序、安全與和平

    人類智慧的主觀性,而這對于負(fù)責(zé)任地行使武力至關(guān)重要。與其說人工智能是對未知事物的進(jìn)一步發(fā)現(xiàn),不如說它是對我們現(xiàn)有狀況的揭示。戰(zhàn)爭中的人工智能揭示人類最美好和最壞的表現(xiàn)。甚至在實(shí)現(xiàn)重大
    的頭像 發(fā)表于 12-07 11:53 ?1051次閱讀

    嵌入式和人工智能究竟是什么關(guān)系?

    嵌入式和人工智能究竟是什么關(guān)系? 嵌入式系統(tǒng)是一種特殊的系統(tǒng),它通常被嵌入到其他設(shè)備或機(jī)器中,以實(shí)現(xiàn)特定功能。嵌入式系統(tǒng)具有非常強(qiáng)的適應(yīng)性和靈活性,能夠根據(jù)用戶需求進(jìn)行定制化設(shè)計(jì)。它廣泛應(yīng)用于各種
    發(fā)表于 11-14 16:39