chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

性能與安全同樣重要,蘋果的AI服務(wù)器

E4Life ? 來源:電子發(fā)燒友 ? 作者:周凱揚(yáng) ? 2024-06-25 00:10 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在不久前結(jié)束的WWDC2024上,蘋果宣布了自己的AI方案Apple Intelligence,并計(jì)劃將其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通過生成式模型來改善用戶的使用體驗(yàn)。事實(shí)上,蘋果一共有兩個(gè)自主開發(fā)的AI模型,一個(gè)用于設(shè)備端AI的30億參數(shù)模型,以及一個(gè)更大的LLM,其服務(wù)器資源滿足更多的查詢。

蘋果AI服務(wù)器的軟硬件組成

蘋果將其AI服務(wù)器稱為私有云計(jì)算節(jié)點(diǎn)(PCC),這是蘋果基于定制化服務(wù)器硬件打造的基礎(chǔ)設(shè)施,也是蘋果芯片在數(shù)據(jù)中心的首度應(yīng)用。不過PCC并沒有搭載蘋果的任一消費(fèi)級(jí)系統(tǒng),而是基于iOS和macOS打造了一個(gè)強(qiáng)化子集系統(tǒng),專為支持LLM推理量身定制。

正因其硬件架構(gòu)的統(tǒng)一性,蘋果在設(shè)備端AI和AI服務(wù)器做到了高度一致。不過PCC用于推理,并不代表蘋果為其選擇了一樣的訓(xùn)練設(shè)備。根據(jù)蘋果的說法,他們?cè)陬A(yù)訓(xùn)練階段,依然采用的是云端的TPU和GPU資源。由此也可以看出,在大模型的訓(xùn)練資源上,蘋果選擇了與谷歌合作。

這也完全可以理解,谷歌作為TensorFlow開發(fā)者,不少基于TensorFlow開發(fā)的ML模型,都能在谷歌的TPU上獲得極高的訓(xùn)練效率。不過對(duì)于蘋果而言,他們的軟件棧并不會(huì)鎖死在一個(gè)云服務(wù)供應(yīng)商上,而是可以擴(kuò)展并運(yùn)行在其他平臺(tái)上。

AI服務(wù)器的安全性

相比起AI服務(wù)器的性能,用戶可能更在意的是隱私安全問題。畢竟在數(shù)據(jù)中心的強(qiáng)大AI硬件和大模型,如果沒有對(duì)用戶請(qǐng)求的未加密訪問和相關(guān)的個(gè)人數(shù)據(jù),也就很難給到精準(zhǔn)的答案。對(duì)于終端設(shè)備廠商,同時(shí)也是這些AI服務(wù)器的擁有者而言,如何做好端到端加密,也就成為最大的挑戰(zhàn)。

蘋果也指出了AI服務(wù)器面臨的幾大挑戰(zhàn):1、云端AI安全和隱私保障難以得到驗(yàn)證和執(zhí)行;2、很難在云端為AI提供運(yùn)行時(shí)透明;3、云端AI環(huán)境很難對(duì)特權(quán)訪問做出強(qiáng)有力的限制。為了解決這些挑戰(zhàn),蘋果在AI服務(wù)器的設(shè)計(jì)上下了不少功夫,首先就是無狀態(tài)計(jì)算。用戶的設(shè)備將數(shù)據(jù)發(fā)送到PCC唯一目的就是滿足推理需求,PCC僅使用這些數(shù)據(jù)來執(zhí)行用戶請(qǐng)求的操作,且數(shù)據(jù)只停留在處理請(qǐng)求的PCC節(jié)點(diǎn)上,無論是蘋果、管理員都無法獲得用戶數(shù)據(jù)。

在可驗(yàn)證的透明度上,蘋果甚至做到了超過一些主流云服務(wù)商,他們將會(huì)公開PCC的生產(chǎn)版本軟件鏡像用于安全研究。蘋果自己也會(huì)發(fā)布和維護(hù)一套官方軟件工具,供研究人員分析PCC節(jié)點(diǎn)上的軟件。除此之外,蘋果的安全賞金計(jì)劃也適用于PCC,重要的研究成果同樣可以獲得該計(jì)劃的獎(jiǎng)勵(lì)。

當(dāng)然了,硬件提供的安全性也不可忽視,由于PCC基于蘋果芯片打造,所以也包含了iPhone中的安全隔區(qū)和安全啟動(dòng)兩大安全子系統(tǒng)。這為其提供了非定位的安全性,攻擊者無法針對(duì)特定用戶的數(shù)據(jù)來發(fā)動(dòng)攻擊,只能靠大規(guī)模攻擊來實(shí)現(xiàn),這樣被發(fā)現(xiàn)的概率也會(huì)一并變高。

寫在最后

蘋果在大規(guī)模AI模型上的軟件開發(fā)倒是很早就開始了,不過在硬件上,蘋果還是落后于頭部的云服務(wù)廠商。不過蘋果只是基于自研芯片打造屬于自己的AI服務(wù)器,相較直接采用第三方方案,對(duì)于終端的用戶而言,或許這才是保證性能和安全性的最佳路徑。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 蘋果
    +關(guān)注

    關(guān)注

    61

    文章

    24586

    瀏覽量

    207482
  • AI服務(wù)器
    +關(guān)注

    關(guān)注

    3

    文章

    160

    瀏覽量

    5485
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    對(duì)話|AI服務(wù)器電源對(duì)磁性元件提出的新需求

    編者按: 自ChatGPT、DeepSeek等大型AI模型應(yīng)用爆發(fā)以來,市場對(duì)AI服務(wù)器的需求激增,其配套電源的發(fā)展前景已成為行業(yè)共識(shí)。目前,I服務(wù)器電源企業(yè)的出貨規(guī)模仍有限,
    的頭像 發(fā)表于 10-11 14:55 ?516次閱讀
    對(duì)話|<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>電源對(duì)磁性元件提出的新需求

    AI服務(wù)器電源革新催生高性能功率電感需求

    AI服務(wù)器電源架構(gòu)創(chuàng)新對(duì)電感提出了更為苛刻的性能要求,促使電感技術(shù)必須跟上電源設(shè)計(jì)的步伐,電感產(chǎn)品需滿足以下需求。
    的頭像 發(fā)表于 09-19 17:49 ?1314次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>電源革新催生高<b class='flag-5'>性能</b>功率電感需求

    提升AI數(shù)據(jù)服務(wù)器交換機(jī)性能與效率的關(guān)鍵:永銘電容的應(yīng)用

    YMIN永銘電容應(yīng)用AI數(shù)據(jù)中心服務(wù)器·交換機(jī)隨著AI技術(shù)的快速發(fā)展,數(shù)據(jù)中心和服務(wù)器性能需求不斷增加。作為
    的頭像 發(fā)表于 09-01 10:04 ?251次閱讀
    提升<b class='flag-5'>AI</b>數(shù)據(jù)<b class='flag-5'>服務(wù)器</b>交換機(jī)<b class='flag-5'>性能與</b>效率的關(guān)鍵:永銘電容的應(yīng)用

    AI服務(wù)器電源技術(shù)研討會(huì)部分演講嘉賓確認(rèn)

    AI服務(wù)器電源是2025-2026年AI硬件確定的增量,英偉達(dá)超級(jí)芯片GB200功率到2700W,是傳統(tǒng)服務(wù)器電源的5-7倍,但其面臨的挑戰(zhàn)同樣
    的頭像 發(fā)表于 06-24 10:07 ?819次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>電源技術(shù)研討會(huì)部分演講嘉賓確認(rèn)

    AI 服務(wù)器電源如何迭代升級(jí)?

    AI 算力需求增長的今天,AI 服務(wù)器電源正陷入 “性能瓶頸與國產(chǎn)替代并行、場景適配與技術(shù)創(chuàng)新交織” 的雙重挑戰(zhàn)。 由Big-Bit商務(wù)網(wǎng)、廣東省磁性元器件行業(yè)協(xié)會(huì)主辦的2025中國
    的頭像 發(fā)表于 06-23 14:51 ?888次閱讀

    本地服務(wù)器部署怎么選?一招搞定企業(yè)IT成本、性能與安全問題!

    ,往往糾結(jié)萬分。其實(shí),企業(yè)本地服務(wù)器部署方案依然有其獨(dú)特優(yōu)勢,只要選得對(duì),照樣能在IT成本、性能、安全三方面實(shí)現(xiàn)全兼顧!
    的頭像 發(fā)表于 05-26 13:07 ?510次閱讀
    本地<b class='flag-5'>服務(wù)器</b>部署怎么選?一招搞定企業(yè)IT成本、<b class='flag-5'>性能與</b><b class='flag-5'>安全</b>問題!

    蘋果正研發(fā)用于AI服務(wù)器的專用芯片

    據(jù)外媒報(bào)道,蘋果公司正研發(fā)用于AI服務(wù)器的專用芯片;據(jù)蘋果公司知情人士透露;蘋果芯片設(shè)計(jì)團(tuán)隊(duì)正在加速研發(fā)新芯片,面向的主要領(lǐng)域包括智能眼鏡芯
    的頭像 發(fā)表于 05-09 11:25 ?926次閱讀

    RAKsmart服務(wù)器如何賦能AI開發(fā)與部署

    AI開發(fā)與部署的復(fù)雜性不僅體現(xiàn)在算法設(shè)計(jì)層面,更依賴于底層基礎(chǔ)設(shè)施的支撐能力。RAKsmart服務(wù)器憑借其高性能硬件架構(gòu)、靈活的資源調(diào)度能力以及面向AI場景的深度優(yōu)化,正在成為企業(yè)突破
    的頭像 發(fā)表于 04-30 09:22 ?607次閱讀

    AI 推理服務(wù)器都有什么?2025年服務(wù)器品牌排行TOP10與選購技巧

    根據(jù)行業(yè)數(shù)據(jù),AI推理服務(wù)器性能差異可以達(dá)到10倍以上。比如,用普通服務(wù)器跑一個(gè)700億參數(shù)的大模型,可能需要30秒才能出結(jié)果,而用頂級(jí)服務(wù)器
    的頭像 發(fā)表于 04-09 11:06 ?7434次閱讀
    <b class='flag-5'>AI</b> 推理<b class='flag-5'>服務(wù)器</b>都有什么?2025年<b class='flag-5'>服務(wù)器</b>品牌排行TOP10與選購技巧

    利用RAKsmart服務(wù)器托管AI模型訓(xùn)練的優(yōu)勢

    AI模型訓(xùn)練需要強(qiáng)大的計(jì)算資源、高效的存儲(chǔ)和穩(wěn)定的網(wǎng)絡(luò)支持,這對(duì)服務(wù)器性能提出了較高要求。而RAKsmart服務(wù)器憑借其核心優(yōu)勢,成為托管AI
    的頭像 發(fā)表于 03-18 10:08 ?526次閱讀

    大功率AI服務(wù)器PSU的革新之路

    在人工智能浪潮的席卷下,AI服務(wù)器作為支撐各類復(fù)雜AI運(yùn)算的關(guān)鍵硬件,其電源(PSU)的性能表現(xiàn)成為了決定整個(gè)系統(tǒng)效能的重要因素。作為大功率
    的頭像 發(fā)表于 03-10 15:07 ?1808次閱讀
    大功率<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>PSU的革新之路

    AI服務(wù)器產(chǎn)品靜電浪涌防護(hù)方案 | 全接口防護(hù),筑牢AI服務(wù)器安全防線

    隨著人工智能(AI)技術(shù)的快速發(fā)展,AI服務(wù)器作為支撐AI計(jì)算的核心設(shè)備,其穩(wěn)定性和可靠性至關(guān)重要。然而,靜電放電(ESD)和浪涌問題一直是
    的頭像 發(fā)表于 02-14 18:55 ?930次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>產(chǎn)品靜電浪涌防護(hù)方案 | 全接口防護(hù),筑牢<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b><b class='flag-5'>安全</b>防線

    Jtti:新加坡服務(wù)器性能如何評(píng)估

    Jtti 新加坡服務(wù)器性能表現(xiàn)如下: 硬件配置 :Jtti新加坡服務(wù)器使用Intel Xeon E5-2660處理,這是高性能
    的頭像 發(fā)表于 12-19 15:15 ?761次閱讀

    NTP服務(wù)器性能優(yōu)化方法

    NTP(Network Time Protocol,網(wǎng)絡(luò)時(shí)間協(xié)議)服務(wù)器性能的優(yōu)化對(duì)于確保時(shí)間同步的準(zhǔn)確性和可靠性至關(guān)重要。以下是一些NTP服務(wù)器
    的頭像 發(fā)表于 12-18 15:24 ?1660次閱讀

    NTP服務(wù)器故障排除技巧 NTP服務(wù)器與網(wǎng)絡(luò)安全

    網(wǎng)絡(luò)時(shí)間協(xié)議(NTP)服務(wù)器對(duì)于確保網(wǎng)絡(luò)中的設(shè)備時(shí)間同步至關(guān)重要。無論是在企業(yè)網(wǎng)絡(luò)還是數(shù)據(jù)中心,時(shí)間同步都是網(wǎng)絡(luò)安全和數(shù)據(jù)一致性的基礎(chǔ)。然而,NTP服務(wù)器可能會(huì)遇到各種問題,從配置錯(cuò)誤
    的頭像 發(fā)表于 12-18 15:13 ?3624次閱讀