chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

大模型應用開發(fā)之道圓滿舉辦

開放原子 ? 來源:未知 ? 2023-12-21 19:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


技術革新日新月異,大模型的興起更是顛覆了千行百業(yè)。自ChatGPT問世以來,大模型的應用前景充滿了無限的機遇與挑戰(zhàn)。

12月16日,在2023開放原子開發(fā)者大會的“大模型應用開發(fā)之道”分論壇上,眾多人工智能領域的從業(yè)者和技術專家齊聚一堂,圍繞大模型應用開發(fā)的現(xiàn)狀和未來發(fā)展等相關話題,碰撞出了諸多思想的火花。



業(yè)內(nèi)專家齊聚

探討大模型開發(fā)之路

論壇由開放原子開源基金會TOC主席譚中意擔任出品人,在CSDN內(nèi)容生態(tài)總監(jiān)董世曉的主持下,5位行業(yè)專家聚焦于開發(fā)者在大模型開發(fā)過程中所面臨的工程挑戰(zhàn),共同探討大模型開發(fā)之路。通過分享成功的案例經(jīng)驗,以及深入剖析大模型開發(fā)的多個方面,幫助開發(fā)者對大模型開發(fā)的全貌有更深入的理解,便于應對實際應用中的挑戰(zhàn)。

阿里巴巴通義實驗室研發(fā)總監(jiān) 周文猛

周文猛在《魔搭社區(qū)及其應用生態(tài)》的主題演講上,以魔搭社區(qū)為例,闡述了模型社區(qū)發(fā)展需要關注的五個方面,一是模型社區(qū)的生態(tài)是核心,需要持續(xù)更新和優(yōu)化大模型,并分享最佳實踐,讓更多人了解和使用最新的模型和技術。二是數(shù)據(jù)集在AI應用生態(tài)中非常重要,魔搭的數(shù)據(jù)集覆蓋了不同領域的不同場景,便于大家更好地使用LIM和其他大模型。三是通過開源版GPTs AgentFabric,用戶可以輕松在魔搭上創(chuàng)建和分享自己的應用和想法,促進交流和碰撞。四是云上算力支持,幫助用戶可以利用資源進行應用開發(fā)和相關體驗。五是為開發(fā)者提供ModelScope。六是在云上的環(huán)境優(yōu)化中,云上Notebook開發(fā)的下載速度達到400兆以上,可以提高大模型的體驗。

Byzer社區(qū)PMC、Kyligence技術合伙人 祝海林

祝海林在《基于Ray和Byzer,快速構建以大模型為核心的生產(chǎn)級應用》的主題演講上,闡述了Ray是支持傳統(tǒng)語言分布式編程的分布式框架,基于 Ray 之上開源的一套幫助企業(yè)開發(fā)大模型應用開發(fā)套件,例如為大模型而生的檢索系統(tǒng)的Byzer-Retrieval、大模型全生命周期管理的Byzer-LLM、應用開發(fā)框架Byzer-Agent。其中,相較于缺點較多的傳統(tǒng)的基于大模型的開發(fā)模式,Byzer-Agent框架的開發(fā)模式呈現(xiàn)出諸多優(yōu)勢,一是Agent可以充分激活大模型在各領域的潛力,從開發(fā)角度也可以更好地進行Prompt管理;二是提供了Agent之間的通訊和存儲,可以方便Agent之間的協(xié)作完成用戶需求,并且保留對話信息;三是相比其他Agent框架,Byzer-Agent支持以Agent或者Agent組為粒度實現(xiàn)分布式,并且每個Agent可以支持不同的模型。

Zilliz開發(fā)者生態(tài)布道師 李成龍

李成龍在《走進向量數(shù)據(jù)庫,讓LLMs停止幻覺》的主題演講上表示,針對大語言模型在缺乏領域特定信息、容易產(chǎn)生幻覺、無法獲取最新信息、不變的預訓練數(shù)據(jù)上的局限性,李成龍?zhí)峁┝怂膫€方面的改進思路,一是建立知識庫以拓展認知邊界,通過Fine-tuning針對專業(yè)領域進行訓練;二是使用提示詞工程規(guī)定限制,確保模型提供的信息準確可靠;三是利用向量數(shù)據(jù)庫為大模型建立記憶,及時更新,確保與現(xiàn)實世界保持同步;四是通過RLHF人工糾正再次微調(diào),從知識庫中剔除無效信息,提高模型的準確性和可靠性。同時,李成龍還分享了Zilliz企業(yè)級產(chǎn)品Zilliz Cloud的功能架構,核心亮點以及典型應用案例。

中軟國際AIGC研究院平臺部總經(jīng)理 黃偉聰

黃偉聰在《構建企業(yè)級AIGC應用的典型模式和實踐》的主題演講上表示,企業(yè)級AIGC應用的結果可信和應用可運營是其成功的關鍵。為了達成這一目標,黃偉聰以一個實際項目為例,闡述了其中的3個步驟,一是采用大模型+PBC這種新的AIGC應用生成范式,通過編排來構建堅實的可運營基礎,降低大模型的不穩(wěn)定性;二是提升大模型在NL2SQL上的基礎能力,達到基本可用的狀態(tài);三是通過AIGC應用的交互增強,實現(xiàn)用戶可以干預并追蹤整個過程以及生成過程可完整回溯,從而進一步提高應用的可信度。一切都旨在確保AIGC應用不僅高效可靠,還能在實際應用中贏得用戶的信任。

螞蟻集團AI Infra團隊負責人 張科

張科在《螞蟻AI工程實踐分享》的主題演講上表示,目前AI工程的現(xiàn)狀包括模型參數(shù)量大、智能算力需求大以及開源框架多樣化。這些特點為AI工程帶來了巨大的潛力和機遇,同時帶來了新的挑戰(zhàn),例如模型訓練實驗成本、訓練算力效率、訓練穩(wěn)定性、推理成本、AI工程技術選型和人力投入等問題。對此,螞蟻AI在工程實踐上做出了四個舉措,一是通過開源大規(guī)模智能分布式訓練系統(tǒng)DLRover,優(yōu)化整個訓練流程,提升了系統(tǒng)的效率。二是采用了分布式推理技術,以應對大規(guī)模模型的推理需求。三是使用GLake對訓練推理過程中的顯存和傳輸進行了優(yōu)化。四是推出了“優(yōu)化器三部曲”系列,能夠?qū)崿F(xiàn)AI訓練節(jié)約資源、提升泛化、加速收斂等目標。



圓桌對話:

大模型應用開發(fā)啟示錄

在圓桌環(huán)節(jié),幾位業(yè)界翹楚就“大模型應用開發(fā)”這一議題,展開了深入而富有洞見的圓桌對話。


主持人:首先,請各位分享一下從自己的經(jīng)歷或?qū)嵺`中出發(fā),感受到大模型為開發(fā)者帶來了哪些“變”與“不變”?

周文猛:我認為,用戶的根本需求和具體應用場景的問題是始終不變的。然而,變化的是大模型技術的發(fā)展速度正在不斷加快,應用開發(fā)和創(chuàng)建的節(jié)奏也在同步提升。這就要求我們必須具備更加敏捷的思維和行為方式,以適應這種變化。

祝海林:隨著大模型的引入,軟件開發(fā)模式經(jīng)歷了革命性的轉(zhuǎn)變,從傳統(tǒng)的編程范式演進到與智能體互動的編程,需要思維方式上的革新。盡管目前大模型的能力尚在成長之中,但我對其未來的發(fā)展前景持樂觀態(tài)度。在這一切變化之中,唯一不變的真理是軟件決定整個世界。

李成龍:在我看來,數(shù)據(jù)的核心地位是永恒不變的。無論是傳統(tǒng)軟件開發(fā)還是大模型開發(fā),數(shù)據(jù)都扮演著至關重要的角色。變化主要體現(xiàn)在兩個方面:一是開發(fā)方式的轉(zhuǎn)變,相較于傳統(tǒng)軟件開發(fā),大模型開發(fā)的時間周期顯著縮短;二是數(shù)據(jù)管理的變革,向量數(shù)據(jù)庫等工具可能變得越來越重要,因為需要提取和利用文本、圖片等更多信息。

黃偉聰:盡管技術不斷演進,但始終不變的是對客戶價值和實際應用場景的深刻理解,以及數(shù)據(jù)的重要性。變化的方面主要體現(xiàn)在軟件生成的方式上,新一代的軟件生成方式可能與傳統(tǒng)的編碼方法有顯著差異,這要求我們持續(xù)探索和創(chuàng)新。

張科:我觀察到三個關鍵方面的變化。一是數(shù)據(jù)驅(qū)動思維,在大模型的應用背景下,開發(fā)者必須更加專注于如何為應用產(chǎn)品持續(xù)提供高質(zhì)量的數(shù)據(jù),以實現(xiàn)更高級別的智能化。二是智能思維,開發(fā)者需要采用更智能化的設計理念和方法,以創(chuàng)造出更加智能和高效的產(chǎn)品或系統(tǒng)。三是合規(guī)性,在大模型使用大量數(shù)據(jù)的情況下,開發(fā)者需要更加注重合規(guī)性。

主持人:在“變化”之際,幾位老師有哪些建議?

祝海林:我們需要擁抱新鮮事物,無論AI、大數(shù)據(jù)浪潮或移動互聯(lián)網(wǎng)浪潮如何發(fā)展,保持擁抱新鮮事物的態(tài)度對開發(fā)者很重要。

周文猛:跟上時代變革,最核心的是需要保持較強的學習能力。其次,大模型可以提高工作效率,大家有更多精力關注工作之外的事情。

黃偉聰:首先,以開放的心態(tài)擁抱新鮮事物,并整合到日常工作流程中。其次,還需要面向客戶實際需求場景,利用新技術幫助工作。

李成龍:我堅信,大模型具備重塑業(yè)務流程的潛力,能夠在提升工作效率和精確度方面發(fā)揮關鍵作用。展望未來,我們應該探索如何將傳統(tǒng)工作與大模型相結合,利用大模型來增強業(yè)務成效。

主持人:在各位所在的企業(yè)中,使用或重新設計基于大模型的應用是否是為主流情況?對于直接在大模型上開發(fā)AI原生應用,未來何時可能出現(xiàn)有代表性的突破?

周文猛:魔搭社區(qū)采用了基于大模型的Agent技術,這一創(chuàng)新技術已經(jīng)轉(zhuǎn)變了人機交互的方式,允許用戶通過自然語言與機器進行溝通,并執(zhí)行相應的任務。我們已經(jīng)嘗試將這一技術與商業(yè)應用及阿里云產(chǎn)品結合,并在Demo中展示了如何通過對話來管理、檢索和分享文件,極大地簡化了人機交互過程,并提供了卓越的用戶體驗。我認為這項技術的成熟度已經(jīng)達到了80%,而剩余的20%問題,包括提高大模型的準確度和推理能力,有望在未來一年內(nèi)得到解決。

祝海林:開發(fā)一個AI應用是一個復雜且龐大的工程,目前我們?nèi)杂性S多改進空間。我們正在積極研究Agent技術,這一領域未來有望得到更廣泛的應用,盡管目前還處于起步階段。我對于大模型技術的突破抱有高度期待,這將極大地減少對人工定義流程的依賴。我相信智能體代表了技術發(fā)展的未來趨勢,因此在技術路線的選擇上,我們應保持獨立思考,不應完全依賴OpenAI的理念。

黃偉聰:盡管我們嘗試了包括GPT-4在內(nèi)的多種模型,我們依然認為OpenAI的模型在技術上處于領先地位。模型能力的提升對于上層應用的發(fā)展?jié)摿τ兄钸h的影響。在討論Agent的應用時,我們必須從實際落地的角度出發(fā)。如果模型的能力足夠強大,那么產(chǎn)品和工程所需的工作量可以相應減少;反之,我們就必須投入更多的工作來彌補這一差距。

主持人:各位對于正進行或未來計劃從事大模型相關工作的開發(fā)者,有什么經(jīng)驗分享?

張科:我鼓勵大家敢于想象、創(chuàng)新,共同建立AI和AI Infra的開源生態(tài)。
黃偉聰:我覺得可以從三方面出發(fā),一是開發(fā)者應勇于嘗試最新技術,積極擁抱GPT等先進模型。二是不斷探索模型能力的邊界,以開放心態(tài)適應技術變革。三是提升自身技能,以適應不斷變化的開發(fā)環(huán)境。

李成龍:我鼓勵大家走出技術舒適區(qū),勇敢地探索和嘗試大模型等前沿技術。同時,我們應當擁抱創(chuàng)新精神,淘汰那些已經(jīng)過時的技術,積極發(fā)掘和利用大模型所帶來的巨大潛力。最后,我希望開發(fā)者們能夠勇于實驗新技術,不斷拓寬我們的技術視野和認知邊界。

祝海林:在大模型領域,競爭異常激烈,開發(fā)者必須尋找獨特的差異化路徑以脫穎而出。Meta和Google已經(jīng)通過差異化策略取得了顯著的成功,開發(fā)者可以從中吸取寶貴的經(jīng)驗。例如,開發(fā)者可以在開源社區(qū)中尋求合作伙伴,共同推動技術創(chuàng)新。在大模型領域,合作與差異化是開發(fā)者成功的關鍵。

周文猛:我熱切希望更多的年輕開發(fā)者能夠加入魔搭社區(qū),親身體驗最新技術和創(chuàng)意的魅力。中國的開源社區(qū)應當堅持合作共贏和差異化的發(fā)展理念,我誠摯呼吁開發(fā)者們保持開放的心態(tài),與其他開發(fā)者攜手合作,共同為技術創(chuàng)新貢獻力量。



大模型應用開發(fā)的未來

值得翹首以盼

如今,大模型時代已悄然來臨,其顛覆傳統(tǒng)開發(fā)范式的趨勢日益明顯。雖然應用前景廣闊,但尚未完全挖掘其潛力。要真正實現(xiàn)大模型應用開發(fā)落地,還需要大量的實踐和探索。

展望未來,2024年將是大模型應用開發(fā)繼續(xù)嶄露頭角的一年。我們翹首以盼它在各個領域中不斷推陳出新,開拓進取,為人工智能領域注入新的活力和動力。在這個充滿變革的時代,我們將攜手見證大模型應用開發(fā)的輝煌成就,共同開創(chuàng)人工智能的新篇章。

點擊“閱讀原文”訪問AtomGit

下載經(jīng)嘉賓授權的演講材料


原文標題:大模型應用開發(fā)之道圓滿舉辦

文章出處:【微信公眾號:開放原子】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴

原文標題:大模型應用開發(fā)之道圓滿舉辦

文章出處:【微信號:開放原子,微信公眾號:開放原子】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    開源鴻蒙硬件生態(tài)分論壇圓滿舉辦

    近日,開源鴻蒙開發(fā)者大會2025(OHDC.2025)硬件生態(tài)分論壇在深圳圓滿舉辦。本次論壇主題為“開源鴻蒙硬件新生態(tài)”,特邀行業(yè)技術領袖、專家、開發(fā)者和生態(tài)伙伴,從芯片平臺、硬件
    的頭像 發(fā)表于 06-05 15:35 ?749次閱讀

    開源鴻蒙工程工具分論壇圓滿舉辦

    近日,開源鴻蒙開發(fā)者大會2025(OHDC.2025)工程工具分論壇在深圳圓滿舉辦。本次分論壇由開源鴻蒙IDE SIG組長、華為終端BG工程工具技術專家唐春擔任出品人,主題為“開源鴻蒙應用開發(fā)
    的頭像 發(fā)表于 06-05 15:35 ?692次閱讀

    開源鴻蒙圖形與游戲分論壇圓滿舉辦

    近日,開源鴻蒙開發(fā)者大會2025(OHDC.2025)圖形與游戲分論壇在深圳圓滿舉辦。本次分論壇由開源鴻蒙圖形SIG & 游戲SIG組組長、華為終端BG圖形TMG主任黃然,以及開源鴻蒙技術指導委員會并發(fā)與協(xié)同TSG負責人、華為2
    的頭像 發(fā)表于 06-05 15:30 ?955次閱讀

    2025 NVIDIA創(chuàng)業(yè)企業(yè)展示上海站圓滿收官

    近日,2025 NVIDIA 創(chuàng)業(yè)企業(yè)展示——上海站在上海創(chuàng)新創(chuàng)意設計研究院圓滿舉辦
    的頭像 發(fā)表于 05-20 16:31 ?642次閱讀

    2025聯(lián)想中國合作伙伴大會圓滿舉辦

    近日,“同心同行 弄潮AI新時代”為主題的2025聯(lián)想中國合作伙伴大會在上海圓滿舉辦。聯(lián)想重磅宣布,面向合作伙伴的大聯(lián)想4.0迎來重大升級,發(fā)布總額超10億元的合作伙伴激勵計劃。
    的頭像 發(fā)表于 05-12 11:14 ?798次閱讀

    2025 TUYA全球開發(fā)者大會開幕在即!涂鴉攜手五大模型巨頭共話AI應用落地之道

    4月23日,2025TUYA全球開發(fā)者大會即將在深圳盛大舉行。此次大會,涂鴉智能將以“AI+IoT”為主題,旨在將大模型、智能算法等前沿AI技術與IoT深度融合,實現(xiàn)從設備互聯(lián)到場景認知的底層突破
    的頭像 發(fā)表于 04-10 19:04 ?560次閱讀
    2025 TUYA全球<b class='flag-5'>開發(fā)</b>者大會開幕在即!涂鴉攜手五大<b class='flag-5'>模型</b>巨頭共話AI應用落地<b class='flag-5'>之道</b>

    AI大語言模型開發(fā)步驟

    開發(fā)一個高效、準確的大語言模型是一個復雜且多階段的過程,涉及數(shù)據(jù)收集與預處理、模型架構設計、訓練與優(yōu)化、評估與調(diào)試等多個環(huán)節(jié)。接下來,AI部落小編為大家詳細闡述AI大語言模型
    的頭像 發(fā)表于 12-19 11:29 ?1132次閱讀

    大語言模型開發(fā)框架是什么

    大語言模型開發(fā)框架是指用于訓練、推理和部署大型語言模型的軟件工具和庫。下面,AI部落小編為您介紹大語言模型開發(fā)框架。
    的頭像 發(fā)表于 12-06 10:28 ?728次閱讀

    大語言模型開發(fā)語言是什么

    在人工智能領域,大語言模型(Large Language Models, LLMs)背后,離不開高效的開發(fā)語言和工具的支持。下面,AI部落小編為您介紹大語言模型開發(fā)所依賴的主要編程語言
    的頭像 發(fā)表于 12-04 11:44 ?942次閱讀

    云端語言模型開發(fā)方法

    云端語言模型開發(fā)是一個復雜而系統(tǒng)的過程,涉及數(shù)據(jù)準備、模型選擇、訓練優(yōu)化、部署應用等多個環(huán)節(jié)。下面,AI部落小編為您分享云端語言模型開發(fā)
    的頭像 發(fā)表于 12-02 10:48 ?853次閱讀

    HarmonyOS Next元服務大學之道動卡互動

    各位大佬,純血鴻蒙HarmonyOS NEX手機、平板,應用市場搜索“大學之道動卡”即可體驗,打開留言即可發(fā)表你的文學觀點,謝謝互動。 您也可以通過以下方式,打開“大學之道動卡”互動。
    發(fā)表于 11-26 10:18

    芯華章硬件專場研討會順利舉辦

    近日,2024芯華章驗證技術研討會——Hardware Verification Workshop圓滿舉辦。
    的頭像 發(fā)表于 11-14 13:57 ?919次閱讀

    大語言模型如何開發(fā)

    大語言模型開發(fā)是一個復雜且細致的過程,涵蓋了數(shù)據(jù)準備、模型架構設計、訓練、微調(diào)和部署等多個階段。以下是對大語言模型開發(fā)步驟的介紹,由AI部
    的頭像 發(fā)表于 11-04 10:14 ?831次閱讀

    Silicon Labs將舉辦WorksWith線上開發(fā)者大會

    Silicon Labs(芯科科技)舉辦的2024年Works With全系列實體活動已落下帷幕,其中站點包括全球總部所在地奧斯汀、硅谷核心圣何塞、印度海得拉巴、和上周熱鬧圓滿的中國上海。緊接而來
    的頭像 發(fā)表于 10-31 14:30 ?774次閱讀

    長沙產(chǎn)業(yè)與北京大模型生態(tài) CXO私享會圓滿舉辦,推動AI大模型+產(chǎn)業(yè)應用走深向?qū)?/a>

    10月24日,長沙產(chǎn)業(yè)與北京大模型生態(tài)CXO私享會在拓維信息舉行。作為第五屆“長沙·中國1024程序員節(jié)”特別策劃的主題私享會,此次會議聚焦產(chǎn)業(yè)與大模型生態(tài)的深度融合與發(fā)展,匯聚百川智能、智譜AI
    的頭像 發(fā)表于 10-26 08:01 ?1118次閱讀
    長沙產(chǎn)業(yè)與北京大<b class='flag-5'>模型</b>生態(tài) CXO私享會<b class='flag-5'>圓滿</b><b class='flag-5'>舉辦</b>,推動AI大<b class='flag-5'>模型</b>+產(chǎn)業(yè)應用走深向?qū)? />    </a>
</div>                    </div>
                    <div   id=