chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

處理向量和矩陣的必要性及處理方法

星星科技指導員 ? 來源:嵌入式計算設(shè)計 ? 作者: Kenneth Wenger ? 2022-07-10 15:14 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

為什么人工智能AI),特別是神經(jīng)網(wǎng)絡(luò),如今如此流行?

這些算法背后的數(shù)學和科學是幾十年前開發(fā)的,但直到最近幾年,神經(jīng)網(wǎng)絡(luò)驅(qū)動的人工智能才開始起飛。那么,是什么讓神經(jīng)網(wǎng)絡(luò)在過去的不足之處取得了成功呢?

通常情況下,有一個關(guān)鍵事件會催化任何技術(shù)從“利基”到“轉(zhuǎn)型”的階段轉(zhuǎn)變。圖形處理單元 (GPU) 從圖形設(shè)備到通用計算機的重新構(gòu)想是當前 AI 革命結(jié)晶的核心。GPU 可以加速一組特定的數(shù)學運算:向量和矩陣變換。它們使我們能夠在實際時間內(nèi)處理信息,但僅憑 GPU 無法將我們帶到這里。人工智能革命的發(fā)生是因為 GPU 提供了強大的動力,

如果不是研究人員和開發(fā)人員大軍創(chuàng)建了抽象出直接編程 GPU 的細微差別和困難的庫,那么 GPU 驅(qū)動的神經(jīng)網(wǎng)絡(luò)加速突破將仍然是利基市場。這對于解決各種用例面臨的挑戰(zhàn)非常有效。但是,這些庫不遵循安全關(guān)鍵開發(fā)指南,而這些指南越來越成為許多應用程序的基本要求。

當我們審視自主性以及依賴安全性、確定性和可靠性的嵌入式行業(yè)時,我們發(fā)現(xiàn)自己又回到了相變的起點。我們有 GPU,通過 Khronos Group 的 Vulkan? SC,我們有一個 API,它支持安全關(guān)鍵圖形和計算 GPU 編程?,F(xiàn)在,我們需要一個位于 Vulkan SC 安全層之上的補充庫集合,這些庫遵循安全關(guān)鍵準則和標準,以將我們從利基市場帶入主流。

CoreAVI 通過引入 ComputeCore 開始了這場革命。ComputeCore 是 CoreAVI 對線性代數(shù) (BLAS) API 的實現(xiàn)。線性代數(shù),尤其是向量,是所有 AI 算法的燃料。立即選擇您最喜歡的 AI 引擎。該引擎運行速度很快,因為它有一個 BLAS 庫來加速所有向量操作。ComputeCore 正是這樣做的,但它的實施是為了滿足航空電子、汽車和工業(yè)市場的功能安全認證標準(DO-178C、A 級、ISO 26262 ASIL D 和 IEC61508 SIL 3)。向量和矩陣是人工智能和數(shù)據(jù)處理的核心。這經(jīng)常被提及,但幾乎從未解釋過。讓我們來看看。

什么是數(shù)據(jù)處理?

當我們想到數(shù)據(jù)處理時,即廣義上的數(shù)據(jù)處理,即獲取一些信息并以某種方式對其進行轉(zhuǎn)換時,有一個數(shù)據(jù)結(jié)構(gòu)是任何和所有處理的核心,那就是向量。無論如何,向量有什么特別之處?

當我們談到數(shù)據(jù)處理時,我們指的是獲取信息并對其進行修改的能力。在某些情況下,我們希望轉(zhuǎn)換信息以便從中提取知識。這就是機器學習的情況。我們可能會拍攝一張圖像并以一種可以告訴我們場景中存在哪些對象的方式對其進行轉(zhuǎn)換。我們這樣做是為了計算機視覺,實現(xiàn)自動駕駛汽車。我們還可以通過模糊、銳化或提取有關(guān)場景中結(jié)構(gòu)的邊緣信息來轉(zhuǎn)換圖像。這些操作是強大的視覺管道中的常見步驟。

數(shù)據(jù)也可能是非可視的??紤]一個天氣預報系統(tǒng),我們希望系統(tǒng)預測一年中給定日期的最高和最低溫度。在這種情況下,系統(tǒng)的輸入可能是一組歷史數(shù)據(jù)樣本,這些樣本描述了過去十年中給定位置的一年中每一天的溫度范圍。在任何情況下,數(shù)據(jù)樣本都是一個信息單元。分析圖像時,數(shù)據(jù)樣本是單個圖像。在分析患者的臨床病史以嘗試預測該患者患心臟病的風險時,數(shù)據(jù)樣本是單個患者。數(shù)據(jù)樣本由以某種方式描述樣本的特征列表組成。在圖像的情況下,特征是構(gòu)成圖像的像素。在醫(yī)療病人的情況下,這些特征是描述該患者的屬性:年齡、性別、吸煙習慣、家族中的心臟病史以及與他們的臨床病史相關(guān)的其他信息。當我們將每個數(shù)據(jù)樣本視為特征的集合時,這種觀點與向量的概念非常吻合。

將數(shù)據(jù)樣本轉(zhuǎn)換為向量

我們?nèi)绾螌D像和患者轉(zhuǎn)換為向量?對于圖像,我們將每個像素的顏色解釋為一個數(shù)值并構(gòu)造一個像素值列表。例如,一個寬度為 2 像素、高度為 2 像素的圖像將生成一個具有 4 個值的向量,并且可能如下所示:[10,0,245,50],其中每個值表示該像素的顏色強度。 更高分辨率的圖像會產(chǎn)生更高維度的矢量,例如,256x256 像素的圖像會產(chǎn)生 65,536 個值的矢量。

患者信息也可以通過使用數(shù)字對每個特征的含義進行編碼來向量化,例如 1 = 男性,0 = 女性,1 = 家族中有心臟病史,0 = 沒有心臟病等。將數(shù)據(jù)樣本轉(zhuǎn)換為向量是在兩個非常重要的方面很有用:它有助于以一種易于與每個單獨樣本相關(guān)的方式封裝特征列表,其次,解釋向量以幾何方式揭示有關(guān)數(shù)據(jù)集中樣本如何相互關(guān)聯(lián)的信息。例如,假設(shè)我們要創(chuàng)建一種算法,可以學習區(qū)分汽車和行人的圖像。我們首先將圖像解釋為向量。幾何上,

poYBAGLKfJqAVCNfAAAx3rwBR6Q101.png

圖 1. 此圖說明了笛卡爾坐標系中的 3D 矢量 V1。向量是從原點開始到由其 3 個分量定義的點結(jié)束的線:x、y、z。

雖然我們無法直觀地表示維度高于 3D 的向量,但在數(shù)學上我們?nèi)匀豢梢允褂孟嗤姆匠虂聿僮魉鼈?。向量如此特別的原因在于,當我們對它們進行幾何解釋時,指向相似方向的向量具有相似的屬性。例如,當我們將汽車和行人的圖像解釋為某個多維空間(稱為超空間)中的向量時,雖然我們無法可視化該向量所指向的方向,但我們可以計算它,并且可以比較向量屬于汽車的圖像和屬于行人圖像的向量。事實證明,汽車圖像的矢量指向大致相同的方向,行人圖像的矢量指向與其他行人圖像相似的方向,但遠離汽車矢量。

要創(chuàng)建一種可以學習自動區(qū)分汽車和行人的算法,意味著以數(shù)學方式操縱這些向量以了解它們指向的方向并找到將汽車和行人向量所在空間一分為二的線或超平面。一旦我們找到超平面,算法就可以簡單地通過知道它的向量落在直線的哪一側(cè)、所有汽車向量所在的一側(cè)或所有行人向量所在的一側(cè)來對全新圖像進行分類。

這就是為什么人工智能算法最終都會執(zhí)行大量的向量運算。這是因為輸入數(shù)據(jù)通常表示為向量,因為這樣做在幾何上是有利的。在 AI 中經(jīng)常使用的另一種數(shù)據(jù)結(jié)構(gòu)是矩陣。其原因不應該讓人感到意外。向量是值的集合。矩陣只是一個堆疊在另一個之上的向量的集合。在某些情況下,將向量組合為矩陣很有用,這樣我們就可以同時處理一組向量——例如一組輸入樣本。

計算工具——內(nèi)容、原因和方式

至此,我們已經(jīng)確定了人工智能中對向量和矩陣的需求?,F(xiàn)在我們需要一種方法來快速執(zhí)行這些計算。

當我們想到自動化時——例如,在繁忙的高速公路上無人駕駛的汽車,或者在倉庫或工廠中與人類一起工作的機器人——我們會想到實時執(zhí)行的系統(tǒng),并產(chǎn)生實時后果。當自動駕駛汽車沒有足夠的時間檢測到行人以避免碰撞時,人工智能算法本身可能不是故障的根源。實際上,該算法可能已經(jīng)正確地檢測到了行人,但檢測時間可能只花了幾毫秒。這個例子有助于說明幾件事。首先,這些系統(tǒng)需要盡可能快地執(zhí)行向量和矩陣數(shù)學。其次,在安全關(guān)鍵應用中,這些操作需要在確定的時間內(nèi)發(fā)生。也就是說,我們需要能夠計算執(zhí)行算法的最壞情況執(zhí)行時間,這樣我們就可以在每個可預見的情況下確定系統(tǒng)是否有足夠的時間對執(zhí)行該算法的結(jié)果做出反應。如果避開障礙物的機會之窗已經(jīng)過去,那么檢測障礙物將毫無用處。

為了解決這些問題,應用程序和解決方案開發(fā)人員需要兩件事。首先,他們需要一個可以加速向量和矩陣運算計算的工具。對于非安全關(guān)鍵用例,開源社區(qū)提供了大量免費工具和框架。其中包括 Tensorflow、Pytorch、Caffe 和 Scikit-learn 等框架。

所有這些框架和庫都依賴于一個稱為 BLAS 庫的關(guān)鍵組件,如上所述,它提供了一組函數(shù)來加速向量和矩陣運算。不幸的是,這些框架沒有按照功能安全標準實施。行業(yè)需要的是生產(chǎn)一套構(gòu)建塊工具和框架,按照安全關(guān)鍵標準和實踐構(gòu)建。這些框架必須包括保證確定性執(zhí)行的 GPU 驅(qū)動程序?qū)崿F(xiàn)。它們必須包括加速核心數(shù)學運算的工具——例如 BLAS API 的安全關(guān)鍵實現(xiàn)。工具和框架必須為計算機視覺和圖像處理的基本預處理和后處理任務(wù)提供安全關(guān)鍵(確定性)解決方案,但也適用于一般機器學習任務(wù),可幫助強大的人工智能管道中的每個決策過程。換句話說,該行業(yè)必須提供與非安全關(guān)鍵市場相同的解決方案,并且具有相同的復雜性,同時解決嚴重受限環(huán)境中的確定性和資源管理難題。

加速

到目前為止,我們已經(jīng)討論了處理向量和矩陣的必要性,并以確定的方式進行處理。我們還說過,要快速執(zhí)行這些操作,我們需要一個執(zhí)行加速的工具。我們所說的加速是什么意思?

通常,當我們想到軟件執(zhí)行時,我們會將 CPU 視為執(zhí)行編程指令的終端設(shè)備。系統(tǒng)中的大多數(shù)軟件都在 CPU 上運行。事實上,我們可以使用 C 編程語言實現(xiàn) BLAS 并在 CPU 上執(zhí)行計算。這種方法的好處是嵌入式領(lǐng)域(實時設(shè)備、汽車、機器人)中的大多數(shù)程序員都熟悉 C 編程語言,并且有使用 C 開發(fā)安全關(guān)鍵軟件的標準實踐。

這種方法的缺點是 CPU 擅長快速執(zhí)行順序操作,但不擅長并行化工作。不幸的是,為大多數(shù) AI 算法處理向量和矩陣所涉及的任務(wù)被稱為“令人尷尬的并行問題”。因此,在可以并行執(zhí)行這些計算的機器上執(zhí)行這些計算符合我們的最大利益,而不是順序執(zhí)行。

結(jié)論

過去的十年對于人工智能來說是偉大的。研究界和開源工程界已經(jīng)產(chǎn)生了大量工具,為當今的許多非安全關(guān)鍵產(chǎn)品提供動力。亞馬遜的 Alexa 或谷歌的 Home Assistant 等產(chǎn)品由最先進的自然語言處理 (NLP) 算法提供支持。

工具生態(tài)系統(tǒng)使對這些算法的突破性研究成為可能,使工程師和科學家能夠相對輕松地開發(fā)和訓練復雜的神經(jīng)網(wǎng)絡(luò),并加速 GPU 設(shè)備上的操作。這些工具包括 TensorFlow 和 PyTorch 等神經(jīng)網(wǎng)絡(luò)框架、Python 科學庫 scikit-learn 等統(tǒng)計和數(shù)據(jù)分析工具,以及 CUDA? 和 SYCL? 等高性能計算框架。

OpenCV 等圖像處理庫通過為常用算法和技術(shù)提供內(nèi)置功能,讓工程師的生活更輕松。事實上,這些可用的框架是如此成功和無處不在,以至于當我們進入安全關(guān)鍵領(lǐng)域時,許多人還沒有意識到這些工具在確定性和安全性很重要的地方是不可用的。但正如研究界使用的工具生態(tài)系統(tǒng)不僅僅是 CUDA 或 OpenCL?,安全關(guān)鍵行業(yè)也需要構(gòu)建一個安全關(guān)鍵工具和框架的生態(tài)系統(tǒng)。

BLAS 和 FFT 的安全關(guān)鍵實施是朝著正確方向邁出的一步,但我們需要我們的合作伙伴以及整個嵌入式和自治社區(qū)來幫助定義將為未來所有可靠設(shè)備提供動力的工具和安全關(guān)鍵 API。開源社區(qū)已經(jīng)展示了可以實現(xiàn)的目標,并為我們的產(chǎn)品和想法的原型制作提供了一個很好的平臺,但我們知道 Python 庫不能確定地執(zhí)行。自主意味著責任。負責任的系統(tǒng)必須安全可靠。行業(yè)越早意識到這一點,我們就能越早離開沙箱,并根據(jù)嚴格的安全標準和準則構(gòu)建基礎(chǔ)設(shè)施,以促進安全自治的大規(guī)模部署。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 機器人
    +關(guān)注

    關(guān)注

    213

    文章

    29748

    瀏覽量

    212947
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11080

    瀏覽量

    217127
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49029

    瀏覽量

    249607
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    RISC-V向量處理器:現(xiàn)代計算的革命引擎

    瓶頸等問題愈發(fā)突出。以人工智能領(lǐng)域為例,深度學習模型訓練需要進行海量矩陣運算和復雜的神經(jīng)網(wǎng)絡(luò)計算,對計算設(shè)備的計算能力和并行處理能力要求極高;在大數(shù)據(jù)分析場景中,快
    的頭像 發(fā)表于 06-04 10:03 ?553次閱讀
    RISC-V<b class='flag-5'>向量</b><b class='flag-5'>處理</b>器:現(xiàn)代計算的革命<b class='flag-5'>性</b>引擎

    半導體硅表面氧化處理必要性、原理與應用

    特性。本文從半導體硅表面氧化的必要性出發(fā),深入探討其原理、方法、優(yōu)勢以及在集成電路、微電子器件等領(lǐng)域的廣泛應用,旨在揭示表面氧化處理在推動半導體技術(shù)發(fā)展中的重要作
    的頭像 發(fā)表于 05-30 11:09 ?507次閱讀
    半導體硅表面氧化<b class='flag-5'>處理</b>:<b class='flag-5'>必要性</b>、原理與應用

    在晶圓襯底上生長外延層的必要性

    本文從多個角度分析了在晶圓襯底上生長外延層的必要性。
    的頭像 發(fā)表于 04-17 10:06 ?278次閱讀

    RS485通信的必要性和接線方法

    在探討RS485通信之前,有必要先提及RS232通信。即便您不熟悉RS232通信,您很可能已經(jīng)見過并使用過RS232接口——只需查看家中臺式電腦的機箱背面即可證實。
    的頭像 發(fā)表于 04-03 09:17 ?1051次閱讀
    RS485通信的<b class='flag-5'>必要性</b>和接線<b class='flag-5'>方法</b>

    晶體管柵極多晶硅摻雜的原理和必要性

    本文介紹了多晶硅作為晶體管的柵極摻雜的原理和必要性
    的頭像 發(fā)表于 04-02 09:22 ?840次閱讀
    晶體管柵極多晶硅摻雜的原理和<b class='flag-5'>必要性</b>

    電子產(chǎn)品三防處理技術(shù)全面剖析

    在電子產(chǎn)品設(shè)計與應用中,三防處理(防潮、防鹽霧、防霉)是確保設(shè)備長期穩(wěn)定運行、提升可靠和耐用的關(guān)鍵環(huán)節(jié)。 隨著電子設(shè)備應用環(huán)境的多樣化,尤其是向極端環(huán)境拓展,三防處理
    的頭像 發(fā)表于 02-20 09:28 ?779次閱讀
    電子產(chǎn)品三防<b class='flag-5'>處理</b>技術(shù)全面剖析

    PDM產(chǎn)品數(shù)據(jù)管理系統(tǒng)的必要性分析 PDM如何助力企業(yè)提升競爭力

    在當今競爭激烈的制造業(yè)環(huán)境中,企業(yè)對高效、準確的產(chǎn)品數(shù)據(jù)管理需求日益增長。PDM(Product Data Management,產(chǎn)品數(shù)據(jù)管理系統(tǒng))正是應對這一需求的利器。本文將深入探討PDM產(chǎn)品數(shù)據(jù)管理系統(tǒng)建設(shè)的必要性,以及它如何幫助企業(yè)提升競爭力。
    的頭像 發(fā)表于 11-27 11:56 ?739次閱讀

    解讀UL認證:了解440V變220V單相UL變壓器出口的必要性

    《解讀 UL 認證:了解 440V 變 220V 單相 UL 變壓器出口的必要性》 在當今全球化的電力設(shè)備貿(mào)易格局中,對于出口美國市場的 440V 變 220V 單相變壓器而言,UL 認證具有不可
    的頭像 發(fā)表于 11-19 16:19 ?708次閱讀
    解讀UL認證:了解440V變220V單相UL變壓器出口的<b class='flag-5'>必要性</b>

    淺析中低壓系統(tǒng)母線裝設(shè)弧光保護的必要性及應用

    摘要: 隨著社會進步,各方面技術(shù)也在進步,如電力的發(fā)明使用,使我們從一開始的煤油時代走入了電力時代。在電力方面,我國處于地位,文章主要探討了中低壓系統(tǒng)母線裝設(shè)弧光保護的必要性,以及它存在的弊端
    的頭像 發(fā)表于 11-14 10:54 ?800次閱讀
    淺析中低壓系統(tǒng)母線裝設(shè)弧光保護的<b class='flag-5'>必要性</b>及應用

    路燈單燈控制器的必要性:為城市照明帶來的全面效益

    路燈單燈控制器的必要性:為城市照明帶來的全面效益
    的頭像 發(fā)表于 11-13 09:22 ?588次閱讀
    路燈單燈控制器的<b class='flag-5'>必要性</b>:為城市照明帶來的全面效益

    工業(yè)工程軟件在企業(yè)導入中的重要必要性

    在全球化競爭加劇、市場需求瞬息萬變的今天,企業(yè)為了保持競爭力,需要不斷優(yōu)化生產(chǎn)流程、提高生產(chǎn)效率、降低成本并保障產(chǎn)品質(zhì)量。而工業(yè)工程軟件作為一種強大的工具,其在企業(yè)導入中的重要必要性日益凸顯
    的頭像 發(fā)表于 10-18 11:09 ?615次閱讀

    盛顯科技:在拼接處理器上配置混合矩陣的步驟是什么?

    相信大家都知道,在拼接處理器上配置混合矩陣,主要涉及到將混合矩陣的輸出與拼接處理器的輸入相連接,并通過拼接處理器的軟件或界面進行配置,以實現(xiàn)
    的頭像 發(fā)表于 09-26 18:09 ?627次閱讀

    AD603輸入阻抗很小,輸入端用電容耦合的必要性在哪里?

    請問,關(guān)于603的級聯(lián)耦合,它輸入阻抗很小,輸入端用電容耦合的必要性在哪里,還有多個數(shù)量級的電容并聯(lián)來級間耦合的,是為了增加可通過的頻帶范圍吧。 而且,雖然理論上是零偏置的交流信號輸入,若有直流干擾的時候,輸入耦合的電容前段有沒有必要加泄流電阻到地呢?
    發(fā)表于 09-19 08:14

    盛顯科技:拼接處理器為什么要配置混合矩陣?

    拼接處理器和混合矩陣作為視頻顯示與控制系統(tǒng)的關(guān)鍵組件,各自具有獨特的功能和優(yōu)勢。它們之間既存在區(qū)別又相互關(guān)聯(lián),共同為用戶提供了高效、靈活的視頻處理與顯示解決方案。在實際應用中,我們通常會把兩者搭配
    的頭像 發(fā)表于 09-06 11:23 ?637次閱讀
    盛顯科技:拼接<b class='flag-5'>處理</b>器為什么要配置混合<b class='flag-5'>矩陣</b>?

    FPGA教學實驗室建設(shè)必要性 解決方案概述

    FPGA教學實驗室建設(shè)必要性&解決方案概述
    的頭像 發(fā)表于 07-26 08:33 ?519次閱讀
    FPGA教學實驗室建設(shè)<b class='flag-5'>必要性</b> 解決方案概述