Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開(kāi)源Llama 3.2的1B與3B模型后，再次為人工智能領(lǐng)域帶來(lái)了新進(jìn)展。10月24日，Meta正式推出了這兩個(gè)模型的量化版本，旨在進(jìn)一步優(yōu)化模型性能，拓寬其應(yīng)用場(chǎng)景。
據(jù)Meta介紹，量化后的Llama 3.2模型在大小上平均減少了56%，RAM使用量也平均降低了41%。這一顯著的優(yōu)化使得模型在運(yùn)行過(guò)程中能夠占用更少的資源，同時(shí)速度提高了2至4倍。此外，量化后的模型還降低了功耗，這對(duì)于將其部署到移動(dòng)設(shè)備上具有重要意義。
此次Meta推出的量化版Llama 3.2模型，不僅展示了其在人工智能領(lǐng)域的持續(xù)創(chuàng)新能力，也為更多開(kāi)發(fā)者提供了高效、便捷的工具。隨著這些模型在移動(dòng)設(shè)備上的廣泛應(yīng)用，人工智能將更深入地融入人們的日常生活，為社會(huì)帶來(lái)更多的便利和可能性。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
人工智能
+關(guān)注
關(guān)注
1811文章
49488瀏覽量
258098 -
開(kāi)源
+關(guān)注
關(guān)注
3文章
3874瀏覽量
45188 -
Meta
+關(guān)注
關(guān)注
0文章
313瀏覽量
12140
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
使用 NPU 插件對(duì)量化的 Llama 3.1 8b 模型進(jìn)行推理時(shí)出現(xiàn)“從 __Int64 轉(zhuǎn)換為無(wú)符號(hào) int 的錯(cuò)誤”，怎么解決？
安裝了 OpenVINO? GenAI 2024.4。
使用以下命令量化 Llama 3.1 8B 模型：
optimum-cli export openvino -m meta-llama
發(fā)表于 06-25 07:20
瑞芯微模型量化文件構(gòu)建
模型是一張圖片輸入時(shí)，量化文件如上圖所示。但是我現(xiàn)在想量化deepprivacy人臉匿名模型，他的輸入是四個(gè)輸入。該模型訓(xùn)練時(shí)數(shù)據(jù)集只標(biāo)注
發(fā)表于 06-13 09:07
IBM發(fā)布全新Granite 3.2 AI模型
Granite 3.2 是小型的 AI 模型，通過(guò)對(duì)開(kāi)發(fā)人員友好的授權(quán)條款，提供推理、視覺(jué)和護(hù)欄功能。
無(wú)法在OVMS上運(yùn)行來(lái)自Meta的大型語(yǔ)言模型 （LLM），為什么?
無(wú)法在 OVMS 上運(yùn)行來(lái)自 Meta 的大型語(yǔ)言模型 （LLM），例如 LLaMa2。
從 OVMS GitHub* 存儲(chǔ)庫(kù)運(yùn)行 llama_chat Python* Demo 時(shí)
發(fā)表于 03-05 08:07
普渡機(jī)器人接入DeepSeek滿血版模型
自2月20日起，普渡機(jī)器人正式接入DeepSeek滿血版模型，機(jī)器人智能語(yǔ)音交互能力迎來(lái)智能化升級(jí)里程碑！此次升級(jí)中，首批搭載該模型的貝拉Pro機(jī)器人已在部分商超落地測(cè)試，后續(xù)將逐步推廣至其他機(jī)型及場(chǎng)景。
Meta組建四大專研小組，深入探索DeepSeek模型
近日，據(jù)報(bào)道，臉書母公司Meta為了提升其大模型Llama的性能，專門成立了四個(gè)研究小組，深入探索量化巨頭幻方量化旗下的國(guó)產(chǎn)大
在算力魔方上本地部署Phi-4模型
?作者：算力魔方創(chuàng)始人/英特爾邊緣計(jì)算創(chuàng)新大使 劉力 前面我們分享了《Meta重磅發(fā)布Llama 3.3 70B：開(kāi)源AI模型的新里程碑》，Llam
Meta重磅發(fā)布Llama 3.3 70B：開(kāi)源AI模型的新里程碑
?在人工智能領(lǐng)域，Meta的最新動(dòng)作再次引起了全球的關(guān)注。今天，我們見(jiàn)證了Meta發(fā)布的 Llama 3.3 70B 模型，這是一個(gè)開(kāi)源的人
Meta發(fā)布新AI模型Meta Motivo，旨在提升元宇宙體驗(yàn)
Meta公司近日宣布，將推出一款名為Meta Motivo的全新人工智能模型。該模型具備控制類似人類的數(shù)字代理動(dòng)作的能力，有望為元宇宙的用戶體驗(yàn)帶來(lái)顯著提升。
Meta推出Llama 3.3 70B，AI大模型競(jìng)爭(zhēng)白熱化
在今年的AI領(lǐng)域，Meta也不甘落后，推出了其壓軸之作——Llama 3.3 70B大模型。與此同時(shí)，馬斯克的xAI也宣布其Grok模型從今天起全球免費(fèi)開(kāi)放(但存在一定的使用限制)。
用Ollama輕松搞定Llama 3.2 Vision模型本地部署
Ollama的安裝。 一，Llama3.2 Vision簡(jiǎn)介 Llama 3.2 Vision是一個(gè)多模態(tài)大型語(yǔ)言模型（LLMs）的集合，它包括預(yù)訓(xùn)練和指令調(diào)整的圖像推理生成
使用NVIDIA TensorRT提升Llama 3.2性能
Llama 3.2 模型集擴(kuò)展了 Meta Llama 開(kāi)源模型集的
Llama 3 語(yǔ)言模型應(yīng)用
在人工智能領(lǐng)域，語(yǔ)言模型的發(fā)展一直是研究的熱點(diǎn)。隨著技術(shù)的不斷進(jìn)步，我們見(jiàn)證了從簡(jiǎn)單的關(guān)鍵詞匹配到復(fù)雜的上下文理解的轉(zhuǎn)變。 一、Llama 3 語(yǔ)言模型的核心功能 上下文理解 ：Llama
扎克伯格:聯(lián)想運(yùn)用Meta Llama大模型打造個(gè)人AI助手AI Now
美國(guó)西部時(shí)間10月15日，聯(lián)想集團(tuán)于美國(guó)西雅圖盛大舉辦了一年一度的Tech World大會(huì)。會(huì)上，聯(lián)想集團(tuán)首席執(zhí)行官楊元慶攜手Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格，共同揭曉了一項(xiàng)重大合作成果——基于Meta的Llama大
工商網(wǎng)監(jiān)
評(píng)論