飞象网 - 通信人每天必上的网站

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|元宇宙|博客|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 頭條資訊 >> 正文

Gartner:企業在部署生成式人工智能時面臨新的安全威脅

2024年6月4日 08:21  CCTIME飛象網  

在近期舉辦的2024中國科技行業高管交流大會上,Gartner發布了關于生成式人工智能(GenAI)安全的最新研究。隨著GenAI技術的迅速發展和應用,全球超過58%的技術提供商已經在他們的產品中內嵌了GenAI技術。這種技術雖然為企業帶來了創新的機會,但同時也引入了新的安全挑戰。

Gartner高級研究總監曾劭清表示:“GenAI技術在提高業務效率和開拓新服務方面具有巨大潛力,但它也使企業的安全攻擊面擴大,尤其是在提示工程和數據安全方面。GenAI技術為攻擊者提供了新的途徑,例如利用AI生成的內容進行社會工程攻擊或通過污染訓練數據來破壞AI系統的完整性。此外,攻擊者可以利用GenAI提高攻擊工具的自動化和智能化水平,這對傳統的安全防御措施構成了挑戰。同時,GenAI系統的復雜性本身也可能引入新的漏洞和弱點,要求企業采用更先進的技術和策略來確保系統的安全。”

隨著GenAI技術融入日常業務操作,企業面臨的攻擊面顯著擴大。這不僅影響到數據處理,還直接威脅到AI模型的安全性。為了應對這些挑戰,企業必須采取先進的安全措施和技術。這包括但不限于實施綜合的數據監控系統、加強訓練數據的安全性,以及部署專門的安全解決方案來保護AI模型免受操縱和攻擊。更重要的是,企業需要在AI開發和部署的每個階段整合安全最佳實踐,確保從設計之初就考慮到安全因素。

曾劭清指出:“在快速發展的GenAI領域,僅靠被動式的安全防衛已無法滿足保護需求。企業必須在AI系統的設計和運營過程中,建立自動移動目標防御體系,以防范可能的安全威脅。這種前瞻性的安全策略是保護企業不受新興技術風險侵害的關鍵。”

與此同時,攻擊者正利用GenAI的能力來提升其攻擊精細化和效率,對傳統安全防御體系構成新的挑戰。攻擊者利用GenAI進行更加自動化和智能化的攻擊,不僅提高了攻擊效率,也增加了攻擊的隱蔽性和復雜性。為了應對這些挑戰,企業必須采用基于AI的防御技術,這些技術能夠實時監控和分析異常行為,以識別和阻止潛在的威脅。

曾劭清指出:“攻擊者可以利用GenAI快速開發出新的攻擊方法,這要求我們的防御系統不僅要快速響應,還要足夠智能以識別和適應這些新型威脅。企業投資于AI驅動的安全解決方案,將是對抗這一新趨勢的關鍵。”

同時,GenAI技術的普及帶來了數據安全管理的復雜性,企業必須適應這種變化,以防范不斷增長的安全風險。GenAI可以處理和分析大量數據,但如果不當管理,也可能導致數據泄露或被惡意利用。因此,企業需要實施嚴格的數據治理措施,確保所有使用AI處理的數據都符合最新的安全標準和合規要求。此外,加強對AI操作的監控和審計,確保數據的完整性和隱私保護也至關重要。

曾劭清表示:“在這個由數據驅動的時代,確保數據安全是使用GenAI技術的企業面臨的一大挑戰。我們必須認識到,數據不僅是一個資產,也是一個潛在的風險點。采用先進的加密技術、訪問控制和實時監測系統是保護數據安全不可或缺的部分。

編 輯:路金娣
聲明:刊載本文目的在于傳播更多行業信息,本站只提供參考并不構成任何投資及應用建議。如網站內容涉及作品版權和其它問題,請在30日內與本網聯系,我們將在第一時間刪除內容。本站聯系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國電信董事長柯瑞文:天翼云作為國家云已經越過向智能云發展的拐點
精彩專題
CES 2024國際消費電子展
2023年信息通信產業盤點暨頒獎禮
飛象網2023年手機評選
第24屆中國國際光電博覽會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像
主站蜘蛛池模板: 厂房出售_厂房仓库出租_写字楼招租_土地出售-中苣招商网-中苣招商网 | 成都茶楼装修公司 - 会所设计/KTV装修 - 成都朗煜装饰公司 | 耐酸碱胶管_耐腐蚀软管总成_化学品输送软管_漯河利通液压科技耐油耐磨喷砂软管|耐腐蚀化学软管 | 搪瓷反应釜厂家,淄博搪瓷反应釜-淄博卓耀 | 深圳货架厂_仓库货架公司_重型仓储货架_线棒货架批发-深圳市诺普泰仓储设备有限公司 | 伸缩节_伸缩器_传力接头_伸缩接头_巩义市联通管道厂 | 数显水浴恒温振荡器-分液漏斗萃取振荡器-常州市凯航仪器有限公司 | 新疆十佳旅行社_新疆旅游报价_新疆自驾跟团游-新疆中西部国际旅行社 | 吹田功率计-长创耐压测试仪-深圳市新朗普电子科技有限公司 | 亚克隆,RNAi干扰检测,miRNA定量检测-上海基屹生物科技有限公司 | 权威废金属|废塑料|废纸|废铜|废钢价格|再生资源回收行情报价中心-中废网 | 列管冷凝器,刮板蒸发器,外盘管反应釜厂家-无锡曼旺化工设备有限公司 | 捆扎机_气动捆扎机_钢带捆扎机-沈阳海鹞气动钢带捆扎机公司 | 企业管理培训,企业培训公开课,企业内训课程,企业培训师 - 名课堂企业管理培训网 | LNG鹤管_内浮盘价格,上装鹤管,装车撬厂家-连云港赛威特机械 | vr安全体验馆|交通安全|工地安全|禁毒|消防|安全教育体验馆|安全体验教室-贝森德(深圳)科技 | 翅片管散热器价格_钢制暖气片报价_钢制板式散热器厂家「河北冀春暖气片有限公司」 | 电动打包机_气动打包机_钢带捆扎机_废纸打包机_手动捆扎机 | 橡胶接头_橡胶软接头_套管伸缩器_管道伸缩器厂家-巩义市远大供水材料有限公司 | 网站建设-网站制作-网站设计-网站开发定制公司-网站SEO优化推广-咏熠软件 | 沥青车辙成型机-车托式混凝土取芯机-混凝土塑料试模|鑫高仪器 | 螺钉式热电偶_便携式温度传感器_压簧式热电偶|无锡联泰仪表有限公司|首页 | 塑料异型材_PVC异型材_封边条生产厂家_PC灯罩_防撞扶手_医院扶手价格_东莞市怡美塑胶制品有限公司 | 篷房[仓储-婚庆-展览-活动]生产厂家-江苏正德装配式帐篷有限公司 | 无尘烘箱_洁净烤箱_真空无氧烤箱_半导体烤箱_电子防潮柜-深圳市怡和兴机电 | 深圳天际源广告-形象堆头,企业文化墙,喷绘,门头招牌设计制作专家 | 曙光腾达官网-天津脚手架租赁-木板架出租-移动门式脚手架租赁「免费搭设」 | 纳米涂料品牌 防雾抗污纳米陶瓷涂料厂家_虹瓷科技 | 测试治具|过炉治具|过锡炉治具|工装夹具|测试夹具|允睿自动化设备 | 余姚生活网_余姚论坛_余姚市综合门户网站 | 展厅设计公司,展厅公司,展厅设计,展厅施工,展厅装修,企业展厅,展馆设计公司-深圳广州展厅设计公司 | 工业设计,人工智能,体验式3D展示的智能技术交流服务平台-纳金网 J.S.Bach 圣巴赫_高端背景音乐系统_官网 | 瑞典Blueair空气净化器租赁服务中心-专注新装修办公室除醛去异味服务! | 三板富 | 专注于新三板的第一垂直服务平台 | 干法制粒机_智能干法制粒机_张家港市开创机械制造有限公司 | 手板_手板模型制作_cnc手板加工厂-东莞天泓 | CCE素质教育博览会 | CCE素博会 | 教育展 | 美育展 | 科教展 | 素质教育展 | 挤出机_橡胶挤出机_塑料挤出机_胶片冷却机-河北伟源橡塑设备有限公司 | 储能预警-储能消防系统-电池舱自动灭火装置-四川千页科技股份有限公司官网 | 电动百叶窗,开窗器,电动遮阳百叶,电动开窗机生产厂家-徐州鑫友工控科技发展有限公司 | 化工ERP软件_化工新材料ERP系统_化工新材料MES软件_MES系统-广东顺景软件科技有限公司 |