完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > llm
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：321個 瀏覽：765次 帖子：3個
Temperature 是一個超參數(shù)，可用于控制生成語言模型中生成文本的隨機性和創(chuàng)造性。它用于調(diào)整模型的softmax輸出層中預測詞的概率。溫度參數(shù)定義...
2023-05-24 標簽：TemperatureLLM 1641 0
利用知識圖譜與Llama-Index技術構(gòu)建大模型驅(qū)動的RAG系統(tǒng)（下）
對于語言模型（LLM）幻覺，知識圖譜被證明優(yōu)于向量數(shù)據(jù)庫。知識圖譜提供更準確、多樣化、有趣、邏輯和一致的信息，減少了LLM中出現(xiàn)幻覺的可能性。
2024-02-22 標簽：數(shù)據(jù)庫語言模型知識圖譜 1635 0
用于連接 GPU 服務器中的 8 個 GPU 的 NVLink 交換機也可以用于構(gòu)建連接 GPU 服務器之間的交換網(wǎng)絡。Nvidia 在 2022 年的...
2024-04-24 標簽：gpu服務器InfiniBand 1633 0
去年，ChatGPT的出現(xiàn)震驚了全世界，在短短幾個月的時間內(nèi)，ChatGPT的月活躍用戶達到了1億。ChatGPT的成功讓許多人第一次知道了大語言模型（...
在Roofline模型可以直觀展示一張曲線圖，其中x軸表示AI（Arithmetic Intensity），即每個內(nèi)存操作對應的浮點運算次數(shù)；y軸表示性...
如何從訓練集中生成候選prompt 三種生成候選prompt的方式
這個“gradient”怎么得到的了呢，這是個啥玩意，怎么還有梯度？注意，注意。人家是帶引號的！比喻成梯度。這玩意有什么用呢。 文章指出給定一批e...
針對大語言模型 (LLM) 在部署過程中的性能需求，低比特量化技術一直是優(yōu)化效果最佳的方案之一，本文將探討低比特量化技術如何幫助 LLM 提升性能，以及...
MoE 與 MoT：在專家混合中（左），每個令牌都被路由到不同的專家前饋層。在令牌混合（右）中，每組內(nèi)的令牌被混合，并且混合令牌由專家前饋層處理。
chatGPT的175Billion個參數(shù)是哪兒來的
最近大語言模型模型LLM很火，大家總是說chatgpt的175Billion參數(shù)。做算法的人更關心網(wǎng)絡的結(jié)構(gòu)，而我這種做硬件的人一直很好奇這個參數(shù)是怎么計算的。
幻覺被描述為無意義或不忠實于所提供源內(nèi)容的生成內(nèi)容。根據(jù)與源內(nèi)容的矛盾，這些幻覺又進一步分為內(nèi)在幻覺和外在幻覺。在LLMs中，幻覺的范圍包含了一個更廣泛...
Optimum Intel三步完成Llama3在算力魔方的本地量化和部署
Llama3 是Meta最新發(fā)布的開源大語言模型(LLM), 當前已開源8B和70B參數(shù)量的預訓練模型權(quán)重，并支持指令微調(diào)。
如何更好地繼續(xù)預訓練（Continue PreTraining）
但，這種前提是「充分訓練」，如果只看訓練前期的話，使用更長的預熱步數(shù)（黃色的線）。無論是「上游任務」還是「下游任務」，模型的 Loss 都要比其他預熱步...
2023-09-11 標簽：模型數(shù)據(jù)集LLM 1468 0
BigCode背后的大規(guī)模數(shù)據(jù)去重方法有哪些？
本文面向?qū)Υ笠?guī)模文檔去重感興趣，且對散列 (hashing) 、圖 (graph) 及文本處理有一定了解的讀者。
Arm KleidiAI助力提升PyTorch上LLM推理性能
生成式人工智能 (AI) 正在科技領域發(fā)揮關鍵作用，許多企業(yè)已經(jīng)開始將大語言模型 (LLM) 集成到云端和邊緣側(cè)的應用中。生成式 AI 的引入也使得許多...
OneLLM 是第一個在單個模型中集成八種不同模態(tài)的MLLM。通過統(tǒng)一的框架和漸進式多模態(tài)對齊pipelines，可以很容易地擴展OneLLM以包含更多...
數(shù)據(jù)科學家、AI 工程師、MLOps 工程師和 IT 基礎設施專業(yè)人員在設計和部署檢索增強生成（RAG）工作流時，必須考慮各項因素，比如大語言模型（LL...
背景 本篇將為大家闡述亞馬遜云科技大語言模型下沉到具體行業(yè)進行場景以及實施案例的介紹，是亞馬遜云科技官方《基于智能搜索和大模型打造企業(yè)下一代知識庫》系列...
在當前低資源的語言基準上（如FLORES-200）改進機器翻譯性能。針對資源極低的語言，可以利用圣經(jīng)（世界上翻譯最多的文檔）等現(xiàn)有文本作為開發(fā)機器翻譯系...
在思維鏈（CoT）提示的幫助下，大語言模型（LLMs）展現(xiàn)出強大的推理能力。然而，思維鏈已被證明是千億級參數(shù)模型才具有的涌現(xiàn)能力。
換一批
編輯推薦廠商產(chǎn)品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術 | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
