Meta公司的Llama2語言模型4項測試通過率低，幻覺率高
據(jù)了解，人工智能安全企業(yè) DeepKeep日前發(fā)表了一份評估報告。報告指出，Meta公司旗下LlamA 2大型語言模型在13個風險評估類別中的表現(xiàn)僅為4項合格。
報告特別強調，擁有70億參數(shù)的LlamA 2 7B模型存在嚴重的幻覺現(xiàn)象，其回答的真實性和準確性令人堪憂，幻覺率高達48%。
DeepKeep對此表示擔憂，認為該模型存在明顯的幻覺傾向，可能會導致大量錯誤信息的傳播。
此外，LlamA 2模型還存在注入和操縱的潛在風險。報告顯示，在80%的情況下，通過“提示注入”的手段，攻擊者可輕易操控LlamA的輸出，從而將用戶引流至惡意網(wǎng)站。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關注
關注
1811文章
49504瀏覽量
258247 -
Meta
+關注
關注
0文章
313瀏覽量
12150 -
語言模型
+關注
關注
0文章
566瀏覽量
11182
發(fā)布評論請先 登錄
相關推薦
熱點推薦
使用 NPU 插件對量化的 Llama 3.1 8b 模型進行推理時出現(xiàn)“從 __Int64 轉換為無符號 int 的錯誤”，怎么解決？
安裝了 OpenVINO? GenAI 2024.4。
使用以下命令量化 Llama 3.1 8B 模型：
optimum-cli export openvino -m meta-llama
發(fā)表于 06-25 07:20
無法在OVMS上運行來自Meta的大型語言模型 （LLM），為什么?
無法在 OVMS 上運行來自 Meta 的大型語言模型 （LLM），例如 LLaMa2。
從 OVMS GitHub* 存儲庫運行 llama
發(fā)表于 03-05 08:07
Meta非入侵式腦機技術：AI讀取大腦信號打字準確率80%
Meta首席執(zhí)行官馬克?扎克伯格曾透露，公司正在研發(fā)一項革命性的腦機技術，旨在讓用戶通過大腦直接輸入文字。近日，《麻省理工技術評論》報道稱，Meta
Meta組建四大專研小組，深入探索DeepSeek模型
近日，據(jù)報道，臉書母公司Meta為了提升其大模型Llama的性能，專門成立了四個研究小組，深入探索量化巨頭幻方量化旗下的國產大模型DeepS
在算力魔方上本地部署Phi-4模型
?作者：算力魔方創(chuàng)始人/英特爾邊緣計算創(chuàng)新大使 劉力 前面我們分享了《Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑》，Llama 3.3 70B
NVIDIA推出開放式Llama Nemotron系列模型
作為 NVIDIA NIM 微服務，開放式 Llama Nemotron 大語言模型和 Cosmos Nemotron 視覺語言模型可在任何
Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑
?在人工智能領域，Meta的最新動作再次引起了全球的關注。今天，我們見證了Meta發(fā)布的 Llama 3.3 70B 模型，這是一個開源的人工智能模
Meta發(fā)布新AI模型Meta Motivo，旨在提升元宇宙體驗
Meta公司近日宣布，將推出一款名為Meta Motivo的全新人工智能模型。該模型具備控制類似人類的數(shù)字代理動作的能力，有望為元宇宙的用戶
Meta推出Llama 3.3 70B，AI大模型競爭白熱化
在今年的AI領域，Meta也不甘落后，推出了其壓軸之作——Llama 3.3 70B大模型。與此同時，馬斯克的xAI也宣布其Grok模型從今天起全球免費開放(但存在一定的使用限制)。
用Ollama輕松搞定Llama 3.2 Vision模型本地部署
Ollama 是一個開源的大語言模型服務工具，它的核心目的是簡化大語言模型（LLMs）的本地部署和運行過程，請參考《Gemma 2+Olla
使用NVIDIA TensorRT提升Llama 3.2性能
Llama 3.2 模型集擴展了 Meta Llama 開源模型集的模型陣容，包含視覺
Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領域帶來了新進展。10月24日，Meta正式推出了這兩個模型的量化版
Llama 3 模型與其他AI工具對比
、技術架構 Llama 3模型 采用了最新的Transformer架構，并結合了自注意力機制和分組查詢關注（GQA）機制。 引入了高效的tokenizer和RoPE位置編碼，提高了語言編碼和長文
Llama 3 與 GPT-4 比較
沿。 一、技術架構 Llama 3和GPT-4都是基于深度學習的自然語言處理（NLP）模型，但它們的設計理念和技術細節(jié)有所不同。 Llama
Llama 3 語言模型應用
在人工智能領域，語言模型的發(fā)展一直是研究的熱點。隨著技術的不斷進步，我們見證了從簡單的關鍵詞匹配到復雜的上下文理解的轉變。 一、Llama 3 語言
工商網(wǎng)監(jiān)
評論