chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI大模型會(huì)顛覆手機(jī)嗎?AI大模型會(huì)如何顛覆手機(jī)?

阿爾法工場(chǎng)研究院 ? 來(lái)源:阿爾法工場(chǎng)研究院 ? 2023-07-24 17:36 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

導(dǎo)語(yǔ):大模型在手機(jī)端的落地,不僅僅是AI進(jìn)入人類生活的開(kāi)始,也是行業(yè)發(fā)生顛覆,新老巨頭進(jìn)行更替的時(shí)刻。

將大模型變小,再塞進(jìn)手機(jī),會(huì)給人們的生活帶來(lái)怎樣的影響?

最近,榮耀成為了國(guó)內(nèi)率先的破局者。

7月12日,榮耀了發(fā)布一款“革命性”的大模型手機(jī)Magic V2。成為全球首個(gè)實(shí)現(xiàn)大模型與手機(jī)系統(tǒng)融合的廠商。

在榮耀的宣傳中,更加個(gè)性化、更注重隱私,并且具備多模態(tài)功能的大模型,將會(huì)給用戶帶來(lái)全新的體驗(yàn)。

實(shí)際上,不只是榮耀,身為手機(jī)芯片龍頭企業(yè)的高通,也在近期發(fā)布了自身的大模型。

在7月初召開(kāi)的上海WAIC上,人們看到搭載高通第二代驍龍8芯片的安卓手機(jī)直接運(yùn)行參數(shù)規(guī)模超過(guò)10億的Stable Diffusion,且只需要15秒左右就可以出圖。

更重要的是,這樣的運(yùn)行,是完全本地化的,只依賴手機(jī)本身的算力。

從GPT-3.5到GPT-4.0,曾經(jīng)需要高昂算力,或者只能跑在云端的AI大模型,也開(kāi)始在智能終端設(shè)備中落地。

不過(guò),在興奮之余,冷靜的人總不免會(huì)問(wèn):我真的需要一個(gè)在部署在手機(jī)大模型么?還是說(shuō)這只是手機(jī)廠商為挽救疲軟的市場(chǎng)而制造的噱頭?

打破APP的壁壘

在人們討論“大模型手機(jī)”之前,一個(gè)不可忽略的事實(shí)是:當(dāng)今的各類大模型AI,如chatGPT、新必應(yīng)等,實(shí)際上早已推出了各自的手機(jī)版APP。

通過(guò)這一個(gè)個(gè)APP,在手機(jī)上運(yùn)行大模型,早已不是什么難事,且與本地部署的方式相比,這些調(diào)用云端算力的APP,并不會(huì)對(duì)手機(jī)配置造成額外負(fù)擔(dān)。

那既然如此,那人們?yōu)槭裁催€要費(fèi)盡心機(jī)地開(kāi)發(fā)一個(gè)專用的“手機(jī)版”大模型呢?

對(duì)于這個(gè)問(wèn)題,谷歌之前的做法似乎給出了一個(gè)可能的答案。

今年5月,在ChatGPT 3.5發(fā)布半年后,Google終于公布了全新一代大語(yǔ)言模型PaLM2,用以對(duì)抗ChatGPT。作為一種差異化競(jìng)爭(zhēng),PaLM2可以被部署在智能手機(jī)上。

當(dāng)時(shí),PaLM2包含四個(gè)大模型,按照參數(shù)規(guī)模從大到小,分別命名為:獨(dú)角獸(Unicorn)、野牛(Bison)、水獺(Otter)和壁虎(Gecko)。

只有參數(shù)最小的“壁虎”可以在手機(jī)上運(yùn)行,Google稱,它的運(yùn)行速度足夠快,不聯(lián)網(wǎng)也能正常工作。

但問(wèn)題是:人們?yōu)槭裁匆誀奚鼌?shù)、性能為代價(jià),在手機(jī)上使用這樣一個(gè)“縮水版”的小模型呢?

一個(gè)最重要的原因是:與那些以APP形態(tài)出現(xiàn)在手機(jī)上的大模型相比,一個(gè)融入手機(jī)系統(tǒng)中的大模型,可以打破各應(yīng)用之間的壁壘,讓其他App也自帶大模型特性。

例如,融入手機(jī)中壁虎(Gecko),可以通過(guò)Gmail,實(shí)現(xiàn)自動(dòng)寫郵件的功能。

用戶只需在Gmail的“Help me write”(幫我寫)中輸入需求,它就會(huì)結(jié)合此前郵件中的信息,寫出完整的郵件。

通過(guò)這樣與手機(jī)系統(tǒng)深入融合的大模型,人們不僅可以實(shí)現(xiàn)AI對(duì)各類APP的賦能,甚至還能將大模型作為通用接口,像“膠水”一樣,將各類APP的能力實(shí)現(xiàn)組合,實(shí)現(xiàn)更多具有想象力的擴(kuò)展。

例如,倘若人們?cè)谝粋€(gè)陌生的地點(diǎn)出行,想尋找某個(gè)罕見(jiàn)、偏僻,在地圖上并不顯眼的位置,這時(shí),手機(jī)上的大模型,就可以調(diào)用語(yǔ)音+識(shí)圖+導(dǎo)航的多模態(tài)功能,十分接地氣地告訴你:“在前面的蘭州拉面往左拐,看到城市便捷酒店后再右拐300米”,而不是簡(jiǎn)單地說(shuō)出“直行”、“右拐”等機(jī)械的回答。

然而,要實(shí)現(xiàn)這樣的組合,一個(gè)難以繞開(kāi)的問(wèn)題,就是算力。

同樣的,開(kāi)始在手機(jī)上部署大模型的高通,也意識(shí)到了這個(gè)問(wèn)題。在高通日前發(fā)布的《混合AI是AI的未來(lái)》技術(shù)白皮書中,首次提出了混合AI架構(gòu)的概念。

而這一概念,簡(jiǎn)而言之,就是讓AI能夠在云端和終端側(cè)進(jìn)行分布式處理,并根據(jù)不同的模型和需求靈活分配負(fù)載。

改造現(xiàn)實(shí)的肢體

也許有人認(rèn)為,與在手機(jī)上部署大模型的做法相比,在云端進(jìn)行計(jì)算的方法,才是既省力又劃算的。

然而,實(shí)際上隨著日活用戶數(shù)量及其使用頻率的增長(zhǎng),云端推理的成本會(huì)顯著增加,而這樣的高成本,也會(huì)讓生成式AI的規(guī)?;瘮U(kuò)展陷入瓶頸。

畢竟,單個(gè)AI超算的服務(wù)器帶寬,以及消耗的電力,終歸是有上限的,而用戶的增長(zhǎng)卻并沒(méi)有一個(gè)固定的上限。

這就是為什么混合AI架構(gòu),即在云端和終端側(cè)進(jìn)行分布式處理的AI,會(huì)成為AI的未來(lái)趨勢(shì),因?yàn)樗軌蚶媒K端側(cè)的計(jì)算能力,降低云端推理的依賴和成本。

而在混合A架構(gòu)的基礎(chǔ)上,高通還提到,為實(shí)現(xiàn)生成式AI的規(guī)模化擴(kuò)展,AI處理的重心正在向邊緣轉(zhuǎn)移。

也就是說(shuō),將來(lái)會(huì)有越來(lái)越多的AI數(shù)據(jù),會(huì)在手機(jī)、攝像頭、傳感器等終端側(cè)進(jìn)行處理。

那這對(duì)大模型的發(fā)展來(lái)說(shuō)意味著什么?

截至目前為止,大部分大模型所能處理的任務(wù),仍舊停留在文字生成、繪制圖片、編寫代碼這些工作上。

這樣的任務(wù),本質(zhì)上都是屬于出不了辦公室的“案頭工作”。

而AI如果要真正地走進(jìn)社會(huì),為更多的行業(yè)、群體帶來(lái)改變,而不僅僅是一個(gè)存在于網(wǎng)頁(yè)中的“秘書”,那它就必須具有改造現(xiàn)實(shí)世界的“肢體”。

而這樣的“肢體”,正是一個(gè)個(gè)嵌入各個(gè)行業(yè)的邊緣端設(shè)備。

舉例來(lái)說(shuō),在醫(yī)療領(lǐng)域,AI可以通過(guò)智能攝像頭,評(píng)估帕金森患者的狀態(tài);

在工業(yè)行業(yè),邊緣化的AI可以提高生產(chǎn)過(guò)程的智能化和自動(dòng)化,高效地完成零部件瑕疵檢測(cè)等任務(wù)。

在農(nóng)業(yè)領(lǐng)域,邊緣化的AI可以通過(guò)智能傳感器或無(wú)人機(jī),實(shí)現(xiàn)對(duì)農(nóng)作物的精準(zhǔn)種植和管理,如實(shí)現(xiàn)農(nóng)業(yè)病蟲害識(shí)別、農(nóng)作物品質(zhì)評(píng)估等任務(wù)。

所有這一切,都是僅存在于網(wǎng)頁(yè)中的大模型所無(wú)法完成的。

也正因如此,大模型“邊緣化”所帶來(lái)的顯著后果,就是AI橫向應(yīng)用范圍的極大擴(kuò)展。

如何讓GPT助力農(nóng)業(yè),已經(jīng)成為人們思考的方向之一

而隨著邊緣化的到來(lái),聯(lián)邦計(jì)算等與之匹配的模型訓(xùn)練方式,也將打破原本數(shù)據(jù)中心化的格局。

因?yàn)榈搅四菚r(shí),數(shù)據(jù)并不總是在某一個(gè)云端服務(wù)器完成計(jì)算,而是由多個(gè)參與方在本地訓(xùn)練機(jī)器學(xué)習(xí)模型,之后再將模型參數(shù)或梯度上傳到中心服務(wù)器進(jìn)行聚合。

但詭異的是,依據(jù)科技行業(yè)發(fā)展的邏輯,這樣一種去中心化的、可以實(shí)現(xiàn)跨行業(yè)或跨領(lǐng)域數(shù)據(jù)共享的技術(shù),非但不會(huì)弱化原有的壟斷行為,甚至還會(huì)進(jìn)一步將其強(qiáng)化。

新巨頭的崛起

在前網(wǎng)絡(luò)時(shí)代,人們認(rèn)為個(gè)人網(wǎng)站可以消解大傳統(tǒng)媒體的信息壟斷,但后來(lái)互聯(lián)網(wǎng)霸主的規(guī)模,早已傳統(tǒng)媒體的市值的天花板。

如果將這些科技巨頭的市值,換算成國(guó)家的GDP,那么在2022年,微軟的市值就超過(guò)了五常之一的俄羅斯(1.7萬(wàn)億),全球能與之匹敵的經(jīng)濟(jì)體屈指可數(shù)。

究其原因,是因?yàn)槿魏巍凹夹g(shù)平權(quán)”的進(jìn)行,在讓科技變得更加低廉化、平民化的同時(shí),都會(huì)反向地催生出一批技術(shù)壁壘更高,集中性更強(qiáng)的超級(jí)巨頭。

因?yàn)檎怯辛诉@些“高壁壘”的技術(shù)進(jìn)行支撐,巨頭們的規(guī)模擴(kuò)張才成為可能。

例如Meta正是通過(guò)一系列數(shù)據(jù)、算法的優(yōu)勢(shì),才能對(duì)眾多用戶投其所好,并構(gòu)筑了Facebook和Twitter等龐大的社交帝國(guó)。

英偉達(dá)也正是通過(guò)自身核心的GPU技術(shù),和壁壘頗高的CUDA生態(tài),才讓今天的大模型得以完成海量的計(jì)算,才得以讓AI成為人人觸手可及的技術(shù)。

而同樣的,當(dāng)混合計(jì)算的AI,通過(guò)云端與終端側(cè)相結(jié)合的方式,降低了大模型的推理的成本后,其造成的“技術(shù)平權(quán)”,至少會(huì)造就兩個(gè)方向上的巨頭。

其一,就是邊緣化芯片的提供者。

因?yàn)樾酒瑢拥腁I運(yùn)算處理能力,是AI落地終端的必要條件。

雖然在邊緣化時(shí)代,AI的算力場(chǎng)景是多樣化的,例如工業(yè)、醫(yī)療、娛樂(lè)等,但其中最重要的“七寸”,仍然是在用戶量最多的手機(jī)端。

誰(shuí)若是能圍繞手機(jī)端的大模型,形成一套從設(shè)計(jì)、生產(chǎn)、到軟件生態(tài)一體化的完整體系,誰(shuí)就將成為新一代的巨頭。

在這方面,身為行業(yè)龍頭的高通,早已開(kāi)始了提前布局。

目前,搭載驍龍平臺(tái)的已發(fā)布XR終端已經(jīng)超過(guò)65款,其中Meta、PICO等頭部廠商的旗艦產(chǎn)品均采用的是高通芯片。

第二個(gè)方向的巨頭,就是能為行業(yè)提供全套解決方案的玩家。

畢竟AI在終端側(cè)的落地,需要的不僅是硬件,還有軟件端的優(yōu)化。

在同樣的硬件基礎(chǔ)上,誰(shuí)的AI引擎能比其他競(jìng)品具有更高的效能,能更快地完成計(jì)算,誰(shuí)就將在軟件棧方面更具優(yōu)勢(shì)。

而要想實(shí)現(xiàn)這點(diǎn),就必須在大模型的量化、壓縮、條件計(jì)算、神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索和編譯方面進(jìn)行突破,在不犧牲太多精度的前提下對(duì)AI模型進(jìn)行縮減。

因此,誰(shuí)能在大模型的壓縮、小型化技術(shù)上取得突破,誰(shuí)就能率先構(gòu)建起自身基于終端的軟件生態(tài)。

綜上所述,大模型在手機(jī)端的落地,不僅僅是AI真正具備“肢體”,進(jìn)入人類生活的開(kāi)始,也是行業(yè)發(fā)生顛覆,新老巨頭進(jìn)行更替的時(shí)刻。

在這樣的時(shí)代,變革的風(fēng)暴遠(yuǎn)比我們想象的要猛烈。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 傳感器
    +關(guān)注

    關(guān)注

    2573

    文章

    54311

    瀏覽量

    785347
  • 手機(jī)芯片
    +關(guān)注

    關(guān)注

    9

    文章

    375

    瀏覽量

    50580
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8540

    瀏覽量

    136202
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2060

    瀏覽量

    36547
  • ChatGPT
    +關(guān)注

    關(guān)注

    30

    文章

    1596

    瀏覽量

    10059
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    393

    瀏覽量

    941

原文標(biāo)題:AI大模型會(huì)如何顛覆手機(jī)?

文章出處:【微信號(hào):alpworks,微信公眾號(hào):阿爾法工場(chǎng)研究院】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI模型的配置AI模型該怎么做?

    STM32可以跑AI,這個(gè)AI模型怎么搞,知識(shí)盲區(qū)
    發(fā)表于 10-14 07:14

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)

    、Transformer 模型邊緣部署 3、智能手機(jī)AI芯片 3.1概述 智能手機(jī)中最大的一塊芯片就是應(yīng)用處理器(AP)。AP中集成了CPU、GPU、NPU、DSP、5G調(diào)制解調(diào)器、圖
    發(fā)表于 09-12 17:30

    皓麗全球首款四攝AI會(huì)議平板:AI全視之眼 + AI會(huì)模型雙加持

    2025年,智能會(huì)議設(shè)備市場(chǎng)迎來(lái)里程碑式突破——連續(xù)多年蟬聯(lián)電商銷量冠軍的皓麗(Horion)正式推出全球首款四攝AI會(huì)議平板,以“AI全視之眼+AI會(huì)
    的頭像 發(fā)表于 09-10 12:36 ?648次閱讀
    皓麗全球首款四攝<b class='flag-5'>AI</b>會(huì)議平板:<b class='flag-5'>AI</b>全視之眼 + <b class='flag-5'>AI</b>智<b class='flag-5'>會(huì)</b>大<b class='flag-5'>模型</b>雙加持

    ai_cube訓(xùn)練模型最后部署失敗是什么原因?

    ai_cube訓(xùn)練模型最后部署失敗是什么原因?文件保存路徑里也沒(méi)有中文 查看AICube/AI_Cube.log,看看報(bào)什么錯(cuò)?
    發(fā)表于 07-30 08:15

    【書籍評(píng)測(cè)活動(dòng)NO.64】AI芯片,從過(guò)去走向未來(lái):《AI芯片:科技探索與AGI愿景》

    :科技探索與 AGI 愿景》。 這本新書針對(duì)大模型技術(shù)浪潮,詳細(xì)講解了AI芯片的主流技術(shù)、挑戰(zhàn)與創(chuàng)新解決方案,并介紹了下一代芯片工藝和顛覆AI實(shí)現(xiàn)方法,并探索具身智能、AGI等前沿話
    發(fā)表于 07-28 13:54

    如何賦能醫(yī)療AI模型應(yīng)用?

    引言自ChatGPT掀起熱潮以來(lái),眾多AI模型如雨后春筍般涌現(xiàn),其中包括百度科技的文心一言、科大訊飛的訊飛星火、華為的盤古AI模型、騰訊的混元A
    的頭像 發(fā)表于 05-07 09:36 ?510次閱讀
    如何賦能醫(yī)療<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>應(yīng)用?

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    AI的演進(jìn)正在逼近“終端智能涌現(xiàn)”的拐點(diǎn),從通用模型向場(chǎng)景落地遷移成為關(guān)鍵議題。聯(lián)發(fā)科以“AI隨芯,應(yīng)用無(wú)界”為主題召開(kāi)天璣開(kāi)發(fā)者大會(huì)2025(MDDC 2025),不僅聚合了全球生態(tài)資源,還
    發(fā)表于 04-13 19:52

    訓(xùn)練好的ai模型導(dǎo)入cubemx不成功怎么處理?

    訓(xùn)練好的ai模型導(dǎo)入cubemx不成功咋辦,試了好幾個(gè)模型壓縮了也不行,ram占用過(guò)大,有無(wú)解決方案?
    發(fā)表于 03-11 07:18

    霍爾電流傳感器的原邊端如何接入AI模型?

    霍爾電流傳感器的原邊端如何接入AI模型,以便AI分析問(wèn)題解決問(wèn)題?話題會(huì)不會(huì)太超前?現(xiàn)在正式AI風(fēng)口啊,豬都要起飛了
    發(fā)表于 03-03 15:18

    AI模型托管原理

    AI模型托管的核心在于將訓(xùn)練好的AI模型部署在云端或邊緣服務(wù)器上,由第三方平臺(tái)提供模型運(yùn)行、管理和優(yōu)化等服務(wù)。下面,
    的頭像 發(fā)表于 02-26 10:31 ?899次閱讀

    企業(yè)AI模型托管怎么做的

    當(dāng)下,越來(lái)越多的企業(yè)選擇將AI模型托管給專業(yè)的第三方平臺(tái),以實(shí)現(xiàn)高效、靈活和安全的模型運(yùn)行。下面,AI部落小編為您介紹企業(yè)AI
    的頭像 發(fā)表于 01-15 10:10 ?707次閱讀

    企業(yè)AI模型部署攻略

    當(dāng)下,越來(lái)越多的企業(yè)開(kāi)始探索和實(shí)施AI模型,以提升業(yè)務(wù)效率和競(jìng)爭(zhēng)力。然而,AI模型的部署并非易事,需要企業(yè)在多個(gè)層面進(jìn)行細(xì)致的規(guī)劃和準(zhǔn)備。下面,AI
    的頭像 發(fā)表于 12-23 10:31 ?1262次閱讀

    【「大模型啟示錄」閱讀體驗(yàn)】對(duì)大模型更深入的認(rèn)知

    閱讀《大模型啟示錄》這本書,我得說(shuō),它徹底顛覆了我對(duì)大模型的理解。作為一個(gè)經(jīng)常用KIMI和豆包這類AI工具來(lái)完成作業(yè)、整理資料的大學(xué)生,我原以為大
    發(fā)表于 12-20 15:46

    GPU是如何訓(xùn)練AI模型

    AI模型的訓(xùn)練過(guò)程中,大量的計(jì)算工作集中在矩陣乘法、向量加法和激活函數(shù)等運(yùn)算上。這些運(yùn)算正是GPU所擅長(zhǎng)的。接下來(lái),AI部落小編帶您了解GPU是如何訓(xùn)練AI
    的頭像 發(fā)表于 12-19 17:54 ?1282次閱讀

    開(kāi)源AI模型庫(kù)是干嘛的

    開(kāi)源AI模型庫(kù)是指那些公開(kāi)源代碼、允許自由訪問(wèn)和使用的AI模型集合。這些模型通常經(jīng)過(guò)訓(xùn)練,能夠執(zhí)行特定的任務(wù)。以下,是對(duì)開(kāi)源
    的頭像 發(fā)表于 12-14 10:33 ?1264次閱讀