chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

人工智能和深度學(xué)習(xí)的對(duì)象存儲(chǔ)挑戰(zhàn)

存儲(chǔ)D1net ? 來(lái)源:企業(yè)網(wǎng)D1Net ? 2020-06-13 11:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

對(duì)象存儲(chǔ)非常適合長(zhǎng)期備份和歸檔,如何將高性能對(duì)象存儲(chǔ)擴(kuò)展到大規(guī)模、高容量的工作負(fù)載,人們對(duì)此需要進(jìn)行了解。

對(duì)象存儲(chǔ)最有趣的方面之一是其用途的多樣性。盡管對(duì)象存儲(chǔ)通常用作歸檔存儲(chǔ)區(qū)、原有數(shù)據(jù)的目的地,以及文件服務(wù)器的替代品,但實(shí)際上有許多方法可以應(yīng)用對(duì)象存儲(chǔ)。隨著供應(yīng)商開(kāi)始提供性能優(yōu)化的對(duì)象存儲(chǔ),該技術(shù)已經(jīng)為用于一組全新的工作負(fù)載準(zhǔn)備就緒。

高性能對(duì)象存儲(chǔ)不僅僅需要從基于硬盤的對(duì)象存儲(chǔ)系統(tǒng)切換到全閃存對(duì)象存儲(chǔ)。向全閃存介質(zhì)的遷移無(wú)疑會(huì)有所幫助,但是對(duì)象存儲(chǔ)系統(tǒng)(很大程度上要?dú)w功于其豐富的元數(shù)據(jù))通常具有太多延遲,無(wú)法有效利用閃存性能。

創(chuàng)建高性能對(duì)象存儲(chǔ)系統(tǒng)的另一個(gè)挑戰(zhàn)是基礎(chǔ)設(shè)施的橫向擴(kuò)展特性。為了滿足容量需求,對(duì)象存儲(chǔ)將大量節(jié)點(diǎn)添加到存儲(chǔ)集群中。每個(gè)節(jié)點(diǎn)的容量都被吸收到集群中,從而創(chuàng)建一個(gè)存儲(chǔ)池。在大型橫向擴(kuò)展集群中,具有數(shù)十個(gè)節(jié)點(diǎn)都是比較常見(jiàn)的。聚合和管理這些節(jié)點(diǎn)的等待時(shí)間可能很長(zhǎng)。

人工智能深度學(xué)習(xí)的對(duì)象存儲(chǔ)挑戰(zhàn)

非結(jié)構(gòu)化的大型數(shù)據(jù)工作負(fù)載(例如人工智能和機(jī)器學(xué)習(xí)以及深度學(xué)習(xí))是對(duì)象存儲(chǔ)架構(gòu)如何成為高性能工作負(fù)載的一個(gè)很好的例子。理論上,這些工作負(fù)載對(duì)于對(duì)象存儲(chǔ)而言應(yīng)該是理想的。它們擁有數(shù)百萬(wàn)甚至數(shù)十億個(gè)文件,而存儲(chǔ)所有這些數(shù)據(jù)需要大量的SSD硬盤或HDD硬盤,因此需要許多節(jié)點(diǎn)。這些過(guò)程也是受吞吐量驅(qū)動(dòng)的。

所有這些因素的結(jié)合使人工智能和深度學(xué)習(xí)針對(duì)對(duì)象存儲(chǔ)的高節(jié)點(diǎn)數(shù)存儲(chǔ)集群量身定制。大多數(shù)與人工智能通信的框架(例如TensorFlow)用于驅(qū)動(dòng)人工智能和機(jī)器學(xué)習(xí)工作負(fù)載,它們都使用Amazon S3協(xié)議。大多數(shù)對(duì)象存儲(chǔ)系統(tǒng)也是基于S3存儲(chǔ)桶,并且S3存儲(chǔ)桶本身是高度并行的。從理論上講,對(duì)象存儲(chǔ)基礎(chǔ)設(shè)施應(yīng)該能夠滿足人工智能和機(jī)器或深度學(xué)習(xí)工作負(fù)載的需求。

但是,此方法不僅僅需要?jiǎng)?chuàng)建一個(gè)全閃存對(duì)象存儲(chǔ)系統(tǒng)。該系統(tǒng)必須能夠解決這樣一個(gè)問(wèn)題,即可能會(huì)有數(shù)十個(gè)(即使不是數(shù)百個(gè))節(jié)點(diǎn),而元數(shù)據(jù)以及集群管理也帶來(lái)了挑戰(zhàn)。

應(yīng)對(duì)元數(shù)據(jù)挑戰(zhàn)

元數(shù)據(jù)是關(guān)于數(shù)據(jù)的數(shù)據(jù),它對(duì)高性能對(duì)象存儲(chǔ)帶來(lái)了挑戰(zhàn),其原因有兩個(gè):第一個(gè)挑戰(zhàn)是,對(duì)象存儲(chǔ)系統(tǒng)需要更多時(shí)間來(lái)管理其豐富的元數(shù)據(jù)。由于大多數(shù)對(duì)象存儲(chǔ)供應(yīng)商會(huì)在集群中指定一定數(shù)量的節(jié)點(diǎn)來(lái)管理和存儲(chǔ)元數(shù)據(jù),因此管理更加復(fù)雜。在人工智能和深度學(xué)習(xí)等工作負(fù)載中,專用的元數(shù)據(jù)控制器通常不堪重負(fù),并成為系統(tǒng)瓶頸。因此,閃存驅(qū)動(dòng)器甚至硬盤無(wú)法充分發(fā)揮其潛力。

第二個(gè)挑戰(zhàn)是集群通信。大多數(shù)橫向擴(kuò)展NAS或塊存儲(chǔ)系統(tǒng)的節(jié)點(diǎn)數(shù)都比較少。在網(wǎng)絡(luò)附屬存儲(chǔ)(NAS)和塊用例中,擁有六個(gè)節(jié)點(diǎn)的存儲(chǔ)集群被認(rèn)為是大型的存儲(chǔ)系統(tǒng),但在許多對(duì)象存儲(chǔ)部署中,六個(gè)節(jié)點(diǎn)只是一個(gè)入門級(jí)別。而節(jié)點(diǎn)間的通信成為一個(gè)大問(wèn)題,尤其是在不涉及性能的歸檔的用例中。

要?jiǎng)?chuàng)建高性能的大規(guī)模對(duì)象存儲(chǔ)解決方案,需要解決元數(shù)據(jù)性能和集群管理問(wèn)題。下一代對(duì)象存儲(chǔ)將元數(shù)據(jù)分布在集群中的每個(gè)節(jié)點(diǎn)上,而不僅僅是幾個(gè)控制器。元數(shù)據(jù)的分布可確保每個(gè)節(jié)點(diǎn)都具有響應(yīng)I/O請(qǐng)求所需的所有信息。

其他高性能對(duì)象存儲(chǔ)問(wèn)題

對(duì)象存儲(chǔ)系統(tǒng)還必須解決節(jié)點(diǎn)間聯(lián)網(wǎng)的問(wèn)題。元數(shù)據(jù)的分布在這里有所幫助,因?yàn)樗鼫p少了東西流向的流量。供應(yīng)商必須優(yōu)化其節(jié)點(diǎn)間網(wǎng)絡(luò),因此它不會(huì)成為性能瓶頸。它們極有可能必須優(yōu)化網(wǎng)絡(luò)通信,以最大程度地減少傳輸頻率。

需要優(yōu)化的另一個(gè)領(lǐng)域是協(xié)議仿真。例如,大多數(shù)對(duì)象存儲(chǔ)系統(tǒng)都支持網(wǎng)絡(luò)文件系統(tǒng)(NFS)。網(wǎng)絡(luò)文件系統(tǒng)(NFS)的支持至關(guān)重要,因?yàn)樵S多物聯(lián)網(wǎng)設(shè)備不是內(nèi)部部署S3存儲(chǔ)桶,而是使用網(wǎng)絡(luò)文件系統(tǒng)(NFS)。其挑戰(zhàn)在于,許多對(duì)象存儲(chǔ)系統(tǒng)都使用一個(gè)單獨(dú)的組件在網(wǎng)絡(luò)文件系統(tǒng)(NFS)和S3存儲(chǔ)桶之間進(jìn)行轉(zhuǎn)換,而不是在其軟件中內(nèi)部部署運(yùn)行網(wǎng)絡(luò)文件系統(tǒng)(NFS)。其轉(zhuǎn)移的開(kāi)銷很大,并且在高性能情況下會(huì)顯示出來(lái)。

網(wǎng)絡(luò)文件系統(tǒng)(NFS)在對(duì)象存儲(chǔ)代碼中的原生集成可實(shí)現(xiàn)更高的性能,并同時(shí)訪問(wèn)相同的數(shù)據(jù)。并發(fā)訪問(wèn)意味著物聯(lián)網(wǎng)設(shè)備可以通過(guò)網(wǎng)絡(luò)文件系統(tǒng)(NFS)將數(shù)據(jù)發(fā)送到對(duì)象存儲(chǔ)卷,同時(shí)人工智能或深度學(xué)習(xí)框架可以通過(guò)S3存儲(chǔ)桶對(duì)象對(duì)其進(jìn)行處理,而無(wú)需對(duì)其進(jìn)行復(fù)制或移動(dòng)。

NAS適用的位置

網(wǎng)絡(luò)附屬存儲(chǔ)(NAS)系統(tǒng)仍在數(shù)據(jù)中心中發(fā)揮作用。對(duì)象存儲(chǔ)是長(zhǎng)期歸檔和備份的理想選擇,雖然大容量網(wǎng)絡(luò)附屬存儲(chǔ)(NAS)仍可以在備份存儲(chǔ)市場(chǎng)上競(jìng)爭(zhēng)。對(duì)象存儲(chǔ)還適合作為文件服務(wù)器的替代品,以替代性能不太重要的工作負(fù)載(例如用戶主目錄)。

高性能對(duì)象存儲(chǔ)非常適合需要數(shù)十或數(shù)百個(gè)節(jié)點(diǎn)以及數(shù)十PB容量的大規(guī)模工作負(fù)載。這些工作負(fù)載還取決于吞吐量,并且在I/O訪問(wèn)中高度并行。在這兩個(gè)極端之間是高性能、非結(jié)構(gòu)化的數(shù)據(jù)工作負(fù)載,這些工作負(fù)載本質(zhì)上是隨機(jī)I/O,節(jié)點(diǎn)數(shù)量很少。在這些用例中,網(wǎng)絡(luò)附屬存儲(chǔ)(NAS)可能仍然是一個(gè)更好的選擇。

版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1812

    文章

    49536

    瀏覽量

    259233
  • 對(duì)象存儲(chǔ)
    +關(guān)注

    關(guān)注

    0

    文章

    69

    瀏覽量

    12394
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5587

    瀏覽量

    123745

原文標(biāo)題:現(xiàn)代數(shù)據(jù)中心高性能對(duì)象存儲(chǔ)面臨的挑戰(zhàn)

文章出處:【微信號(hào):D1Net11,微信公眾號(hào):存儲(chǔ)D1net】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    航天宏圖人工智能技術(shù)深度賦能社會(huì)治理現(xiàn)代化

    航天宏圖多年來(lái)持續(xù)重點(diǎn)投入技術(shù)研發(fā),尤其專注人工智能深度探索。航天宏圖多以自主研發(fā)“天權(quán)大模型” 是一款基于多模態(tài)大模型技術(shù)的遙感解譯專用AI大模型,它以人工智能為底座,提供遙感影像智能
    的頭像 發(fā)表于 09-06 10:35 ?722次閱讀
    航天宏圖<b class='flag-5'>人工智能</b>技術(shù)<b class='flag-5'>深度</b>賦能社會(huì)治理現(xiàn)代化

    利用超微型 Neuton ML 模型解鎖 SoC 邊緣人工智能

    nRF52805),只占用幾千字節(jié)的非易失性存儲(chǔ)器(NVM)。這使得以前被認(rèn)為不可能的應(yīng)用也能增加 ML 功能。例如,您現(xiàn)在可以在廣泛的傳感器網(wǎng)絡(luò)的每個(gè)節(jié)點(diǎn)上進(jìn)行人工智能處理,而在這種網(wǎng)絡(luò)中,傳感器的尺寸和成本
    發(fā)表于 08-31 20:54

    挖到寶了!人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器

    和生態(tài)體系帶到使用者身邊 ,讓我們?cè)诩夹g(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實(shí)驗(yàn),解鎖AI全流程 它嵌入了2D視覺(jué)、深度視覺(jué)、機(jī)械手臂、語(yǔ)音識(shí)別、嵌入式傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:30

    挖到寶了!比鄰星人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器!

    和生態(tài)體系帶到使用者身邊 ,讓我們?cè)诩夹g(shù)學(xué)習(xí)和使用上不再受制于人。 三、多模態(tài)實(shí)驗(yàn),解鎖AI全流程 它嵌入了2D視覺(jué)、深度視覺(jué)、機(jī)械手臂、語(yǔ)音識(shí)別、嵌入式傳感器等多種類AI模塊,涵蓋人工智能領(lǐng)域主要
    發(fā)表于 08-07 14:23

    超小型Neuton機(jī)器學(xué)習(xí)模型, 在任何系統(tǒng)級(jí)芯片(SoC)上解鎖邊緣人工智能應(yīng)用.

    Neuton 是一家邊緣AI 公司,致力于讓機(jī)器 學(xué)習(xí)模型更易于使用。它創(chuàng)建的模型比競(jìng)爭(zhēng)對(duì)手的框架小10 倍,速度也快10 倍,甚至可以在最先進(jìn)的邊緣設(shè)備上進(jìn)行人工智能處理。在這篇博文中,我們將介紹
    發(fā)表于 07-31 11:38

    最新人工智能硬件培訓(xùn)AI 基礎(chǔ)入門學(xué)習(xí)課程參考2025版(大模型篇)

    人工智能大模型重塑教育與社會(huì)發(fā)展的當(dāng)下,無(wú)論是探索未來(lái)職業(yè)方向,還是更新技術(shù)儲(chǔ)備,掌握大模型知識(shí)都已成為新時(shí)代的必修課。從職場(chǎng)上輔助工作的智能助手,到課堂用于學(xué)術(shù)研究的智能工具,大模型正在工作生活
    發(fā)表于 07-04 11:10

    軍事應(yīng)用中深度學(xué)習(xí)挑戰(zhàn)與機(jī)遇

    人工智能尤其是深度學(xué)習(xí)技術(shù)的最新進(jìn)展,加速了不同應(yīng)用領(lǐng)域的創(chuàng)新與發(fā)展。深度學(xué)習(xí)技術(shù)的發(fā)展深刻影響了軍事發(fā)展趨勢(shì),導(dǎo)致戰(zhàn)爭(zhēng)形式和模式發(fā)生重大變
    的頭像 發(fā)表于 02-14 11:15 ?730次閱讀

    數(shù)學(xué)專業(yè)轉(zhuǎn)人工智能方向:考研/就業(yè)前景分析及大學(xué)四年學(xué)習(xí)路徑全揭秘

    隨著AI技術(shù)的不斷進(jìn)步,專業(yè)人才的需求也日益增長(zhǎng)。數(shù)學(xué)作為AI的基石,為機(jī)器學(xué)習(xí)深度學(xué)習(xí)、數(shù)據(jù)分析等提供了理論基礎(chǔ)和工具,因此越來(lái)越多的數(shù)學(xué)專業(yè)學(xué)生開(kāi)始考慮在人工智能領(lǐng)域發(fā)展。本文主
    的頭像 發(fā)表于 02-07 11:14 ?1534次閱讀
    數(shù)學(xué)專業(yè)轉(zhuǎn)<b class='flag-5'>人工智能</b>方向:考研/就業(yè)前景分析及大學(xué)四年<b class='flag-5'>學(xué)習(xí)</b>路徑全揭秘

    人工智能和機(jī)器學(xué)習(xí)以及Edge AI的概念與應(yīng)用

    人工智能相關(guān)各種技術(shù)的概念介紹,以及先進(jìn)的Edge AI(邊緣人工智能)的最新發(fā)展與相關(guān)應(yīng)用。 人工智能和機(jī)器學(xué)習(xí)是現(xiàn)代科技的核心技術(shù) 人工智能
    的頭像 發(fā)表于 01-25 17:37 ?1393次閱讀
    <b class='flag-5'>人工智能</b>和機(jī)器<b class='flag-5'>學(xué)習(xí)</b>以及Edge AI的概念與應(yīng)用

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+數(shù)據(jù)在具身人工智能中的價(jià)值

    嵌入式人工智能(EAI)將人工智能集成到機(jī)器人等物理實(shí)體中,使它們能夠感知、學(xué)習(xí)環(huán)境并與之動(dòng)態(tài)交互。這種能力使此類機(jī)器人能夠在人類社會(huì)中有效地提供商品及服務(wù)。 數(shù)據(jù)是一種貨幣化工具 數(shù)據(jù)是互聯(lián)網(wǎng)
    發(fā)表于 12-24 00:33

    19位國(guó)際頂尖學(xué)者聯(lián)袂撰寫《重新審視邊緣人工智能:機(jī)遇與挑戰(zhàn)

    19位國(guó)際頂尖學(xué)者聯(lián)袂撰寫《重新審視邊緣人工智能:機(jī)遇與挑戰(zhàn)
    的頭像 發(fā)表于 11-27 01:04 ?1101次閱讀
    19位國(guó)際頂尖學(xué)者聯(lián)袂撰寫《重新審視邊緣<b class='flag-5'>人工智能</b>:機(jī)遇與<b class='flag-5'>挑戰(zhàn)</b>》

    ASIC集成電路在人工智能中的應(yīng)用

    的性能和能效比。以下是對(duì)ASIC集成電路在人工智能中應(yīng)用的分析: 一、ASIC集成電路的優(yōu)勢(shì) 高性能 :ASIC針對(duì)特定應(yīng)用進(jìn)行優(yōu)化設(shè)計(jì),可以充分發(fā)揮硬件的并行處理能力,實(shí)現(xiàn)高性能計(jì)算。這使得ASIC在處理人工智能任務(wù)時(shí),如深度
    的頭像 發(fā)表于 11-20 16:03 ?2729次閱讀

    嵌入式和人工智能究竟是什么關(guān)系?

    、連接主義和深度學(xué)習(xí)等不同的階段。目前,人工智能已經(jīng)廣泛應(yīng)用于各種領(lǐng)域,如自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、智能推薦等。 嵌入式系統(tǒng)和人工智能在許
    發(fā)表于 11-14 16:39

    NPU在深度學(xué)習(xí)中的應(yīng)用

    隨著人工智能技術(shù)的飛速發(fā)展,深度學(xué)習(xí)作為其核心驅(qū)動(dòng)力之一,已經(jīng)在眾多領(lǐng)域展現(xiàn)出了巨大的潛力和價(jià)值。NPU(Neural Processing Unit,神經(jīng)網(wǎng)絡(luò)處理單元)是專門為深度
    的頭像 發(fā)表于 11-14 15:17 ?2595次閱讀

    LLM技術(shù)對(duì)人工智能發(fā)展的影響

    隨著人工智能技術(shù)的飛速發(fā)展,大型語(yǔ)言模型(LLM)技術(shù)已經(jīng)成為推動(dòng)AI領(lǐng)域進(jìn)步的關(guān)鍵力量。LLM技術(shù)通過(guò)深度學(xué)習(xí)和自然語(yǔ)言處理技術(shù),使得機(jī)器能夠理解和生成自然語(yǔ)言,極大地?cái)U(kuò)展了人工智能
    的頭像 發(fā)表于 11-08 09:28 ?2250次閱讀