完善資料讓更多小伙伴認(rèn)識你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > 大模型
以大模型作為基礎(chǔ)模型支撐AI產(chǎn)業(yè)應(yīng)用邏輯已經(jīng)被證明實用性，AI大模型為AI落地應(yīng)用提供了一種通用化的解決方案；各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務(wù)的“大模型”也陸續(xù)發(fā)布，大模型已經(jīng)成為整個AI 界追逐的寵兒，AI大模型有效果好、泛化性強、研發(fā)流程標(biāo)準(zhǔn)化程度高等特點。
文章：2927個 瀏覽：3717次 帖子：18個
對于所有“基座”（Base）模型，–template 參數(shù)可以是 default, alpaca, vicuna 等任意值。但“對話”（Chat）模型請...
2024-03-13 標(biāo)簽：機器學(xué)習(xí)大模型 1283 0
預(yù)訓(xùn)練擴散大模型取得點云-圖像配準(zhǔn)SoTA！
現(xiàn)有方法往往是：用一個2D特征提取網(wǎng)絡(luò)提取圖像特征；用一個3D特征提取網(wǎng)絡(luò)提取點云特征；然后根據(jù)pixel-to-point對應(yīng)關(guān)系真值通過Metric...
答案是不會。原因是LLM作為語言模型，它的注意力機制是一個單向注意力機制(通過引入 Masked Attention實現(xiàn))，模型在第一輪對話的輸出跟輸入...
有了Fine-tune-CoT方法，小模型也能做推理，完美逆襲大模型
如果給語言模型生成一些 prompting，它還向人們展示了其解決復(fù)雜任務(wù)的能力。標(biāo)準(zhǔn) prompting 方法，即為使用少樣本的問答對或零樣本的指令的...
字節(jié)跳動攻克GPU萬卡互聯(lián)技術(shù)突破與解決方案
在分布式訓(xùn)練中大規(guī)模使用默認(rèn)的DCQCN協(xié)議時，all-to-all通信可能會導(dǎo)致?lián)砣蚉FC級別的提高。過度使用PFC可能會導(dǎo)致頭部阻塞（HoL），從...
2024-04-01 標(biāo)簽：gpu人工智能網(wǎng)絡(luò)拓?fù)?/a> 1240 0
【比特熊充電棧】實戰(zhàn)演練構(gòu)建LLM對話引擎
大模型時代，安全問題不容小覷。但如果把大模型比作孫悟空，那 NVIDIA NeMo Guardrails 就是“安全護欄”，可以輕松的為基于 LLM 的...
第二屆大會回顧第2期 | 視覺大模型在OpenHarmony的端邊側(cè)應(yīng)用
演講嘉賓 | 張兆生 回顧整理 | 廖? ?濤 排版校對 | 李萍萍 嘉賓介紹 ?OS原生智能分論壇? 張兆生 ，OpenHarmony項目群技術(shù)指導(dǎo)委...
2023-12-12 標(biāo)簽：物聯(lián)網(wǎng)AIOpenHarmony 1204 0
大模型由于其在各種任務(wù)中的出色表現(xiàn)而引起了廣泛的關(guān)注。然而，大模型推理的大量計算和內(nèi)存需求對其在資源受限場景的部署提出了挑戰(zhàn)。業(yè)內(nèi)一直在努力開發(fā)旨在提高...
探索推理時KV Cache的動態(tài)內(nèi)存壓縮方法
DMC通過一個決策變量（α）來有效地對輸入序列進行分段，每個段落可以獨立地決定是繼續(xù)追加還是進行累積。這允許模型在不同段落之間動態(tài)調(diào)整內(nèi)存使用。
2024-03-22 標(biāo)簽：AI動態(tài)內(nèi)存DMC 1175 0
科大訊飛深度解析DeepSeek-V3/R1推理系統(tǒng)成本
本篇分析來自科大訊飛技術(shù)團隊，深度解析了DeepSeek-V3 / R1 推理系統(tǒng)成本，旨在助力開發(fā)者實現(xiàn)高性價比的MoE集群部署方案。感謝訊飛研究院副...
在 MLC-LLM 部署RWKV World系列模型實戰(zhàn)（3B模型Mac M2解碼可達26tokens/s） 中提到要使用mlc-llm部署模型首先需要...
2023-09-26 標(biāo)簽：編譯MLC深度學(xué)習(xí) 1149 0
Kubernetes是一個在大量節(jié)點上管理容器的系統(tǒng)，其主要功能總結(jié)起來，就是在想要啟動容器的時候，負(fù)責(zé)“找一個「空閑」節(jié)點，啟動容器”。但是它默認(rèn)考慮...
在 LLaMA, BERT 以及 ViTs 模型上，4-bit 量化皆取得了遠超 SOTA 的結(jié)果。特別是，這篇文章展示了 4-bit 量化的 LLaM...
深度解析數(shù)據(jù)存儲技術(shù)發(fā)展趨勢
開源數(shù)據(jù)庫MySQL和PostgreSQL占據(jù)全球數(shù)據(jù)庫市場格局TOP2。開源數(shù)據(jù)庫正在重構(gòu)企業(yè)核心系統(tǒng)。同時為確保業(yè)務(wù)平穩(wěn)運行，分布式數(shù)據(jù)庫存算分離架...
2023-12-06 標(biāo)簽：SSD數(shù)據(jù)存儲AI 1134 0
在選擇k值時，較大的值會使生成的內(nèi)容更具多樣性，但可能會生成不合理的內(nèi)容；較小的值則使生成的內(nèi)容多樣性較低，但質(zhì)量更有保證。我們可以根據(jù)任務(wù)的不同選擇合...
那關(guān)于LLM的長文本能力，目前業(yè)界通常都是怎么做的？有哪些技術(shù)點或者方向？今天我們就來總結(jié)一波，供大家快速全面了解。
我們先來回顧一下絕對位置編碼的問題。絕對位置編碼通過可學(xué)習(xí)的 Positional Embedding 來編碼位置信息，這種方案直接對不同的位置隨機初始...
2024-01-16 標(biāo)簽：電源優(yōu)化器位置編碼器大模型 1108 0
隨著大語言模型的廣泛應(yīng)用，模型的計算需求大幅提升，帶來推理時延高、資源消耗大等挑戰(zhàn)。
OpenVINO?協(xié)同Semantic Kernel：優(yōu)化大模型應(yīng)用性能新路徑
作為主要面向 RAG 任務(wù)方向的框架，Semantic Kernel 可以簡化大模型應(yīng)用開發(fā)過程，而在 RAG 任務(wù)中最常用的深度學(xué)習(xí)模型就是 Embe...
自ChatGPT問世以來，大模型遍地開花，承載大模型應(yīng)用的高性能推理框架也不斷推出，大有百家爭鳴之勢。在這種情況下，澎峰科技作為全球領(lǐng)先的智能計算服務(wù)提...
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術(shù)開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
