穎脈Imgtec文章

• 大語言模型的解碼策略與關(guān)鍵優(yōu)化總結(jié)2025-02-18 12:00

  

  本文系統(tǒng)性地闡述了大型語言模型(LargeLanguageModels,LLMs)中的解碼策略技術(shù)原理及其實踐應(yīng)用。通過深入分析各類解碼算法的工作機制、性能特征和優(yōu)化方法，為研究者和工程師提供了全面的技術(shù)參考。主要涵蓋貪婪解碼、束搜索、采樣技術(shù)等核心解碼方法，以及溫度參數(shù)、懲罰機制等關(guān)鍵優(yōu)化手段。大型語言模型的技術(shù)基礎(chǔ)大型語言模型是當(dāng)代自然語言處理技術(shù)的核心

  LLM 解碼技術(shù) 語言模型 929瀏覽量

• 智算中心的核心硬件是什么？2025-02-17 14:42

  

  智算中心，作為人工智能時代的關(guān)鍵基礎(chǔ)設(shè)施，其核心硬件的構(gòu)成與性能直接影響著智能計算的效率與質(zhì)量。以下是對智算中心核心硬件的詳細(xì)闡述：一、AI芯片AI芯片是專門為加速人工智能計算而設(shè)計的硬件，能夠與各種AI算法協(xié)同工作，滿足對算力的極高需求。當(dāng)前主流的AI加速計算芯片包括：1、GPU（圖形處理器）GPU是智算中心的算力擔(dān)當(dāng)，其強大的并行計算能力使其在深度學(xué)習(xí)領(lǐng)

  AI 智算中心 硬件圖 1718瀏覽量

• 清華大學(xué)發(fā)布：DeepSeek從入門到精通2025-02-14 09:49

  

  《DeepSeek：從入門到精通》是由清華大學(xué)新聞與傳播學(xué)院新媒體研究中心元宇宙文化實驗室的余夢瓏博士后團(tuán)隊精心撰寫的一份專業(yè)文檔。該文檔篇幅長達(dá)104頁，文檔的核心內(nèi)容圍繞DeepSeek的技術(shù)特點、應(yīng)用場景、使用方法以及如何通過提示語設(shè)計提升AI使用效率等方面展開，幫助用戶從入門到精通DeepSeek的使用

  AI DeepSeek 人工智能 11675瀏覽量

• 人工智能大模型年度發(fā)展趨勢報告2025-02-13 10:57

  

  2024年12月的中央經(jīng)濟(jì)工作會議明確把開展“人工智能+”行動作為2025年要抓好的重點任務(wù)。當(dāng)前，以大模型為代表的人工智能正快速演進(jìn)，激發(fā)全球科技之變、產(chǎn)業(yè)之變、時代之變，人工智能發(fā)展迎來新高潮。隨著大模型推理、多模

  AI 人工智能 大模型 1289瀏覽量

• 小白學(xué)解釋性AI：從機器學(xué)習(xí)到大模型2025-02-10 12:12

  

  科學(xué)AI需要可解釋性人工智能的崛起，尤其是深度學(xué)習(xí)的發(fā)展，在眾多領(lǐng)域帶來了令人矚目的進(jìn)步。然而，伴隨這些進(jìn)步而來的是一個關(guān)鍵問題——“黑箱”問題。許多人工智能模型，特別是復(fù)雜的模型，如神經(jīng)網(wǎng)

  AI 大模型 機器學(xué)習(xí) 972瀏覽量

• AR和VR中的計算機視覺2025-02-08 14:29

  

  增強現(xiàn)實(AR)和虛擬現(xiàn)實(VR)正在徹底改變我們與外部世界的互動方式。即便是在引人入勝的沉浸式敘事和交互體驗背后，這一切魔法都是通過尖端技術(shù)的精妙協(xié)調(diào)創(chuàng)造出來的。增強現(xiàn)實(AR)與虛擬現(xiàn)實(VR)：計算機視覺引領(lǐng)混合現(xiàn)實體驗增強現(xiàn)實(AR)和虛擬現(xiàn)實(VR)正在徹底改變我們與外部世界的互動方式。即便是在引人入勝的沉浸式

  Ar vr 計算機視覺 1893瀏覽量

• GPU 性能原理拆解2025-02-08 14:29

  

  「迷思」是指經(jīng)由人們口口相傳，但又難以證明證偽的現(xiàn)象。由于GPU硬件實現(xiàn)、驅(qū)動實現(xiàn)是一個黑盒，我們只能通過廠商提供的API、經(jīng)過抽象的架構(gòu)來了解并猜測其原理。因此坊間流傳著各種關(guān)于與GPU打交道時的性能迷思。比如「移動端的瓶頸是帶寬」、「移動端不需要太在意Overdraw」、「植被需要做PrePass」等等。這些優(yōu)化手段，有時候我們對后面的原理一知半解，有時

  gpu 硬件 蘋果 913瀏覽量

• Imagination D系列GPU：關(guān)于2D 雙速率紋理處理2025-02-08 14:28

  

  對于每一代GPU，Imagination內(nèi)部的性能團(tuán)隊都會運行廣泛的測試內(nèi)容，分析并理解不同類型的工作負(fù)載及其瓶頸。作為分析的一部分，數(shù)據(jù)顯示許多現(xiàn)代游戲在執(zhí)行后處理算法上花費了越來越多的時間，以實現(xiàn)景深、光暈、模糊等效果。大多數(shù)這些后處理過程都是以紋理采樣為主的過濾效果，它們對算術(shù)邏輯單元(ALU)的要求不高，但受限于紋理處理單元(TPU)的吞吐率。解決這

  gpu imagination TPU 604瀏覽量

• Kaggle知識點：7種超參數(shù)搜索方法2025-02-08 14:28

  

  數(shù)據(jù)科學(xué)超參數(shù)搜索確實是機器學(xué)習(xí)生命周期中不可或缺的一步，特別是在模型性能方面。正確的超參數(shù)選擇可以顯著提高模型的準(zhǔn)確性、對未見數(shù)據(jù)的泛化能力以及收斂速度。不當(dāng)?shù)某瑓?shù)選擇可能導(dǎo)致過擬合或欠擬合等問題。一些常見的超參數(shù)例子包括梯度基算法中的學(xué)習(xí)率，或者決策樹算法中樹的深度，這些可以直接影響模型準(zhǔn)確擬合訓(xùn)練數(shù)據(jù)的能力。超參數(shù)調(diào)優(yōu)涉及在復(fù)雜的、高維的超參數(shù)空間中

  人工智能 機器學(xué)習(xí) 模型 1491瀏覽量

• 高性能計算，名副其實的“算力皇冠”2025-02-08 14:27

  

  近年來，從金融到汽車、從教育到醫(yī)療，人工智能技術(shù)，特別是以ChatGPT為代表的生成式人工智能，正在給整個世界帶來顛覆性體驗。在如今這個“人工智能時代”，人工智能技術(shù)的發(fā)展離不開服務(wù)于AI算法訓(xùn)練和推理的高性能計算技術(shù)。今天，我們就來聊一聊高性能計算。計算機科學(xué)的“皇冠”初次涉及高性能計算，可能許多人會按照字面意思理解為計算性能較好的算法，從而將其列入眾多算

  AI 人工智能 高性能計算 1205瀏覽量