飞象网 - 通信人每天必上的网站

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|元宇宙|博客|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 報告 >> 正文

《大模型安全研究報告(2024年)》正式發布

2024年9月24日 08:57  中國信通院  

全球大模型技術競賽正推動人工智能向通用強智能發展,引發人機交互和應用研發模式變革。大模型在各行業的廣泛應用為第四次工業革命提供動力,但同時也帶來安全風險,如模型“幻覺”和指令注入攻擊。國際組織和主要國家通過制定治理原則、法律法規和技術標準來應對這些挑戰。同時,大模型在邏輯推理、任務編排等方面的卓越能力,為解決網絡空間安全瓶頸問題帶來了新的機遇。

為有效防范和消減大模型的安全風險,并促進其在安全領域的應用,阿里云聯合中國信息通信研究院等30余家行業單位共同編制《大模型安全研究報告(2024年)》,并于2024年9月19日云棲大會AI治理與安全論壇上發布。

報告凝聚業界專家共識,聚焦當前大模型突出安全風險和網絡空間安全瓶頸問題,從大模型自身安全和大模型賦能安全兩個維度,提出涵蓋安全目標、安全屬性、保護對象、安全措施四個方面的大模型自身安全框架,以及大模型賦能安全框架。期待這些框架能為社會各方提供有益參考,共同推動大模型技術產業的健康發展。

報告主要內容包括:

1. 大模型安全風險地圖

為盡可能全面應對大模型領域的基礎共性安全挑戰,本報告優先對語言、多模態等各類基礎大模型系統的安全風險進行系統梳理。與此同時,參考ISO/IEC 5338-2023 《人工智能系統生命周期過程》國際標準,將基礎大模型系統抽象為訓練數據、算法模型、系統平臺和業務應用4個重要組成部分,并通過描繪這四個組成部分面臨的重要和一般安全風險,形成大模型安全風險地圖,共涵蓋21個安全風險。

2. 大模型自身安全框架

為消減大模型面臨的基礎共性安全風險出發,提出了涵蓋安全目標、安全屬性、保護對象、安全措施四個層面的大模型自身安全框架,構建了保障大模型安全的整體解決方案。同時,提出訓練數據、模型算法、系統平臺、業務應用四方面中共計16項安全保護措施。

3. 大模型賦能安全框架

結合行業實踐情況,本報告重點闡述大模型在網絡安全、數據安全、內容安全三個領域的潛在應用方向。網絡安全領域,大模型可應用于安全威脅識別、保護、檢測、響應、恢復等多個保護環節中的關鍵場景。數據安全領域,大模型可應用于數據分類分級、APP(SDK)違規處理個人信息檢測等場景。內容安全領域,大模型可應用于文本內容安全檢測、圖像視頻內容安全檢測和音頻內容安全檢測等場景。

編 輯:路金娣
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國電信邵廣祿:面向AI大模型的智算集群及網絡的實踐和展望
精彩專題
2024年國際信息通信展
中國信科亮相2024年國際信息通信展
第25屆中國國際光電博覽會
2024年上半年運營商業績盤點
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像
主站蜘蛛池模板: 广东教师资格网-广东教师资格证考试网 | 杭州用友|用友软件|用友财务软件|用友ERP系统--杭州协友软件官网 | 玻璃钢型材_拉挤模具_玻璃钢拉挤设备——滑县康百思 | 厦门ISO认证|厦门ISO9001认证|厦门ISO14001认证|厦门ISO45001认证-艾索咨询专注ISO认证行业 | 岸电电源-60HZ变频电源-大功率变频电源-济南诚雅电子科技有限公司 | 中国品牌门窗网_中国十大门窗品牌_著名门窗品牌 | 河南新乡德诚生产厂家主营震动筛,振动筛设备,筛机,塑料震动筛选机 | 中国品牌门窗网_中国十大门窗品牌_著名门窗品牌 | 成都亚克力制品,PVC板,双色板雕刻加工,亚克力门牌,亚克力标牌,水晶字雕刻制作-零贰捌广告 | 防爆正压柜厂家_防爆配电箱_防爆控制箱_防爆空调_-盛通防爆 | 阻垢剂,反渗透阻垢剂,缓蚀阻垢剂-山东普尼奥水处理科技有限公司 真空粉体取样阀,电动楔式闸阀,电动针型阀-耐苛尔(上海)自动化仪表有限公司 | 点胶机_点胶阀_自动点胶机_智能点胶机_喷胶机_点胶机厂家【欧力克斯】 | 帽子厂家_帽子工厂_帽子定做_义乌帽厂_帽厂_制帽厂_帽子厂_浙江高普制帽厂 | 干式变压器厂_干式变压器厂家_scb11/scb13/scb10/scb14/scb18干式变压器生产厂家-山东科锐变压器有限公司 | 隧道窑炉,隧道窑炉厂家-山东艾瑶国际贸易| 组织研磨机-高通量组织研磨仪-实验室多样品组织研磨机-东方天净 传递窗_超净|洁净工作台_高效过滤器-传递窗厂家广州梓净公司 | 热风机_工业热风机生产厂家上海冠顶公司提供专业热风机图片价格实惠 | 盐城网络公司_盐城网站优化_盐城网站建设_盐城市启晨网络科技有限公司 | 微动开关厂家-东莞市德沃电子科技有限公司 | 济南品牌设计-济南品牌策划-即合品牌策划设计-山东即合官网 | 单螺旋速冻机-双螺旋-流态化-隧道式-食品速冻机厂家-广州冰泉制冷 | 福州时代广告制作装饰有限公司-福州广告公司广告牌制作,福州展厅文化墙广告设计, | 皮带式输送机械|链板式输送机|不锈钢输送机|网带输送机械设备——青岛鸿儒机械有限公司 | 北京网络营销推广_百度SEO搜索引擎优化公司_网站排名优化_谷歌SEO - 北京卓立海创信息技术有限公司 | 上海佳武自动化科技有限公司 | 带锯机|木工带锯机圆木推台锯|跑车带锯机|河北茂业机械制造有限公司| | 广州小程序开发_APP开发公司_分销商城系统定制_小跑科技 | 定制异形重型钢格栅板/钢格板_定做踏步板/排水沟盖板_钢格栅板批发厂家-河北圣墨金属制品有限公司 | LED太阳能中国结|发光红灯笼|灯杆造型灯|节日灯|太阳能灯笼|LED路灯杆装饰造型灯-北京中海轩光电 | 航空连接器,航空插头,航空插座,航空接插件,航插_深圳鸿万科 | 骨密度检测仪_骨密度分析仪_骨密度仪_动脉硬化检测仪专业生产厂家【品源医疗】 | 众能联合-提供高空车_升降机_吊车_挖机等一站工程设备租赁 | 环氧铁红防锈漆_环氧漆_无溶剂环氧涂料_环氧防腐漆-华川涂料 | 团建-拓展-拓展培训-拓展训练-户外拓展训练基地[无锡劲途] | 寮步纸箱厂_东莞纸箱厂 _东莞纸箱加工厂-东莞市寮步恒辉纸制品厂 | 压片机_高速_单冲_双层_花篮式_多功能旋转压片机-上海天九压片机厂家 | 不锈钢反应釜,不锈钢反应釜厂家-价格-威海鑫泰化工机械有限公司 不干胶标签-不干胶贴纸-不干胶标签定制-不干胶标签印刷厂-弗雷曼纸业(苏州)有限公司 | 武汉高低温试验箱_恒温恒湿试验箱厂家-武汉蓝锐环境科技有限公司 | Honsberg流量计-Greisinger真空表-气压计-上海欧臻机电设备有限公司 | 中药二氧化硫测定仪,食品二氧化硫测定仪|俊腾百科 | 打包钢带,铁皮打包带,烤蓝打包带-高密市金和金属制品厂 |