AI安全基準測試 v0.5: 聚焦通用聊天文本模型安全性
據了解，國際知名人工智能社區(qū)MLCommons近期推出了AI Safety人工智能安全基準測試的v0.5版，該測試由多領域專家團隊共同打造，以識別并防范AI應用中的潛在風險。
隨著AI技術的快速發(fā)展，相關安全問題也日益凸顯。僅過去數(shù)周內，便有LastPass公司遭遇音頻深度偽造攻擊等案例浮出水面。為了應對這一挑戰(zhàn)，新推出的AI Safety基準測試將成為模型開發(fā)者的有力工具，助力他們構建更為穩(wěn)固的安全防線。
AI Safety基準測試主要通過大型語言模型對各類危險提示詞的反應來評估其安全性。該測試的v0.5版已開始收集社區(qū)反饋，預計將于今年晚些時候推出正式的v1.0版。
v0.5版的AI Safety基準測試主要關注通用聊天文本模型，而v1.0版則將加入針對圖像生成模型的測試內容，并初步探討交互式代理模型的安全測試方法。
該測試涵蓋了超過43000個測試提示詞，采用Meta公司的Llama Guard對大模型的危險提示響應進行評估。這些提示詞包括常見模板及危險場景描述短語，覆蓋七類安全危害類型，未來還將進一步擴展至至少十三類。
最后，AI Safety基準測試將根據測試結果給出五個安全評級，以便用戶更好地理解和使用。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關注
關注
1818文章
50120瀏覽量
265607 -
模型
+關注
關注
1文章
3758瀏覽量
52131 -
ai技術
+關注
關注
1文章
1313瀏覽量
25758
發(fā)布評論請先 登錄
相關推薦
熱點推薦
請問VisionFive 2 的熱安全性如何？
我的 VisionFive 2 目前沒有風扇。如果我開始以 100% 的速度使用 CPU，我應該擔心它過熱嗎？
為了安全起見，它會進行熱節(jié)流嗎？
如果是這樣，如何查看它是否處于熱節(jié)流狀態(tài)？
發(fā)表于 02-27 06:31
大模型 ai coding 比較
; sonnet4.5 > m2.5
但是我 希望從自身實踐的角度 進行測試，我把所有的平臺都辦了月卡
我在這個基礎上 添加了deepseek v3
結論
確實opus 4.6 更適合 ai coding
發(fā)表于 02-19 13:43
應對車輛AI安全性挑戰(zhàn)，ISO/PAS 8800標準深度拆解
為確保道路車輛中AI系統(tǒng)的安全性，國際標準化組織以ISO 26262與ISO 21448為基礎，并參考ISO/IEC TR 5469，制定了ISO/PAS 8800道路車輛人工智能安全標準。該標準
嵌入式軟件單元測試中AI自動化與人工檢查的協(xié)同機制研究：基于專業(yè)工具的實證分析
分析、工具評估、實證研究與標準解讀，得出以下結論：
?嵌入式軟件因安全關鍵性、實時性與硬件耦合性，對單元測試的要求遠高于
發(fā)表于 12-31 11:22
如何在模型在環(huán)測試中高效進行故障注入測試
汽車測試領域，在模型測試階段進行故障注入，是保障汽車安全性、可靠性的關鍵手段。如何提高故障注入測試
請問CW32L052C8T6這種安全性低功耗MCU的安全固件部分怎么實現(xiàn)？
請問，CW32L052C8T6這種安全性低功耗MCU的安全固件部分怎么實現(xiàn)？
發(fā)表于 12-05 07:19
軟包電池測試全指南：性能、安全與可靠性全面解析
外觀、尺寸、電化學性能、安全性、環(huán)境適應性等多個方面。廣東貝爾提供全套軟包電池測試設備，包括：1、安全性能測試設備(短路/針刺/擠壓/燃燒)
邊聊安全 | 智能駕駛時代的新挑戰(zhàn)：AI功能安全
智能駕駛時代的新挑戰(zhàn)：AI功能安全寫在前面：隨著人工智能（AI）技術在自動駕駛汽車等領域的快速發(fā)展，其功能安全性成為了一個不可忽視的議題。功能安全
有哪些技術可以提高邊緣計算設備的安全性？
邊緣計算設備的安全性面臨分布式部署、資源受限（算力 / 存儲 / 帶寬）、網絡環(huán)境復雜（多無線連接）、物理接觸易被篡改等獨特挑戰(zhàn)，因此其安全技術需在 “安全性” 與 “輕量化適配” 之間平衡。以下從
如何驗證硬件加速是否真正提升了通信協(xié)議的安全性？
驗證硬件加速是否真正提升通信協(xié)議的安全性，需從 安全功能正確性、抗攻擊能力增強、安全性能適配、合規(guī)一致性 等核心維度展開，結合實驗室
如何利用硬件加速提升通信協(xié)議的安全性？
特性增強安全性（而非僅依賴軟件防護）。其本質是 “將安全計算從通用 CPU 卸載到專用硬件”，既解決軟件處理安全操作的性能瓶頸，又規(guī)避軟件層可能存在的漏洞（如內存泄露、側信道攻擊風險）
AI應用的“安全鎖”：安全閃存技術在滿足行業(yè)認證中的作用
全面審視并應對網絡攻擊威脅，在確保AI應用持續(xù)穩(wěn)定運行的同時保障其安全性。數(shù)據投毒、分類模型篡改、后門注入攻擊以及AI模型逆向工程，這些僅僅
發(fā)表于 07-15 10:51
?1414次閱讀
關于鴻蒙App上架中“AI文本生成模塊的資質證明文件”的情況說明
的應用缺少AI文本生成模塊的資質證明文件，不符合相關法律法規(guī)要求。
修改建議：AI文本生成模塊需補充提供《安全評估報告》并加手寫簽名、《
發(fā)表于 06-30 18:37
工商網監(jiān)
評論