飞象网 - 通信人每天必上的网站

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|元宇宙|博客|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 頭條資訊 >> 正文

Gartner:企業在部署生成式人工智能時面臨新的安全威脅

2024年6月4日 08:21  CCTIME飛象網  

在近期舉辦的2024中國科技行業高管交流大會上,Gartner發布了關于生成式人工智能(GenAI)安全的最新研究。隨著GenAI技術的迅速發展和應用,全球超過58%的技術提供商已經在他們的產品中內嵌了GenAI技術。這種技術雖然為企業帶來了創新的機會,但同時也引入了新的安全挑戰。

Gartner高級研究總監曾劭清表示:“GenAI技術在提高業務效率和開拓新服務方面具有巨大潛力,但它也使企業的安全攻擊面擴大,尤其是在提示工程和數據安全方面。GenAI技術為攻擊者提供了新的途徑,例如利用AI生成的內容進行社會工程攻擊或通過污染訓練數據來破壞AI系統的完整性。此外,攻擊者可以利用GenAI提高攻擊工具的自動化和智能化水平,這對傳統的安全防御措施構成了挑戰。同時,GenAI系統的復雜性本身也可能引入新的漏洞和弱點,要求企業采用更先進的技術和策略來確保系統的安全。”

隨著GenAI技術融入日常業務操作,企業面臨的攻擊面顯著擴大。這不僅影響到數據處理,還直接威脅到AI模型的安全性。為了應對這些挑戰,企業必須采取先進的安全措施和技術。這包括但不限于實施綜合的數據監控系統、加強訓練數據的安全性,以及部署專門的安全解決方案來保護AI模型免受操縱和攻擊。更重要的是,企業需要在AI開發和部署的每個階段整合安全最佳實踐,確保從設計之初就考慮到安全因素。

曾劭清指出:“在快速發展的GenAI領域,僅靠被動式的安全防衛已無法滿足保護需求。企業必須在AI系統的設計和運營過程中,建立自動移動目標防御體系,以防范可能的安全威脅。這種前瞻性的安全策略是保護企業不受新興技術風險侵害的關鍵。”

與此同時,攻擊者正利用GenAI的能力來提升其攻擊精細化和效率,對傳統安全防御體系構成新的挑戰。攻擊者利用GenAI進行更加自動化和智能化的攻擊,不僅提高了攻擊效率,也增加了攻擊的隱蔽性和復雜性。為了應對這些挑戰,企業必須采用基于AI的防御技術,這些技術能夠實時監控和分析異常行為,以識別和阻止潛在的威脅。

曾劭清指出:“攻擊者可以利用GenAI快速開發出新的攻擊方法,這要求我們的防御系統不僅要快速響應,還要足夠智能以識別和適應這些新型威脅。企業投資于AI驅動的安全解決方案,將是對抗這一新趨勢的關鍵。”

同時,GenAI技術的普及帶來了數據安全管理的復雜性,企業必須適應這種變化,以防范不斷增長的安全風險。GenAI可以處理和分析大量數據,但如果不當管理,也可能導致數據泄露或被惡意利用。因此,企業需要實施嚴格的數據治理措施,確保所有使用AI處理的數據都符合最新的安全標準和合規要求。此外,加強對AI操作的監控和審計,確保數據的完整性和隱私保護也至關重要。

曾劭清表示:“在這個由數據驅動的時代,確保數據安全是使用GenAI技術的企業面臨的一大挑戰。我們必須認識到,數據不僅是一個資產,也是一個潛在的風險點。采用先進的加密技術、訪問控制和實時監測系統是保護數據安全不可或缺的部分。

編 輯:路金娣
聲明:刊載本文目的在于傳播更多行業信息,本站只提供參考并不構成任何投資及應用建議。如網站內容涉及作品版權和其它問題,請在30日內與本網聯系,我們將在第一時間刪除內容。本站聯系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國電信董事長柯瑞文:天翼云作為國家云已經越過向智能云發展的拐點
精彩專題
CES 2024國際消費電子展
2023年信息通信產業盤點暨頒獎禮
飛象網2023年手機評選
第24屆中國國際光電博覽會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像
主站蜘蛛池模板: 板式换热器_板式换热器价格_管式换热器厂家-青岛康景辉 | 搬运设备、起重设备、吊装设备—『龙海起重成套设备』 | 无缝钢管-聊城无缝钢管-小口径无缝钢管-大口径无缝钢管 - 聊城宽达钢管有限公司 | 厂房出租-厂房规划-食品技术-厂房设计-厂房装修-建筑施工-设备供应-设备求购-龙爪豆食品行业平台 | 量子管通环-自清洗过滤器-全自动反冲洗过滤器-沼河浸过滤器 | 螺杆泵_中成泵业 | 分光色差仪,测色仪,反透射灯箱,爱色丽分光光度仪,美能达色差仪维修_苏州欣美和仪器有限公司 | 南京种植牙医院【官方挂号】_南京治疗种植牙医院那个好_南京看种植牙哪里好_南京茀莱堡口腔医院 尼龙PA610树脂,尼龙PA612树脂,尼龙PA1010树脂,透明尼龙-谷骐科技【官网】 | 四川实木门_成都实木门 - 蓬溪聚成门业有限公司 | 环球周刊网| 我车网|我关心的汽车资讯_汽车图片_汽车生活!| 健康管理师报名入口,2025年健康管理师考试时间信息网-网站首页 塑料造粒机「厂家直销」-莱州鑫瑞迪机械有限公司 | 盐城网络公司_盐城网站优化_盐城网站建设_盐城市启晨网络科技有限公司 | 石家庄救护车出租_重症转院_跨省跨境医疗转送_活动赛事医疗保障_康复出院_放弃治疗_腾康26年医疗护送转诊团队 | 电子万能试验机_液压拉力试验机_冲击疲劳试验机_材料试验机厂家-济南众标仪器设备有限公司 | 大行程影像测量仪-探针型影像测量仪-增强型影像测量仪|首丰百科 大通天成企业资质代办_承装修试电力设施许可证_增值电信业务经营许可证_无人机运营合格证_广播电视节目制作许可证 | 双相钢_双相不锈钢_双相钢圆钢棒_双相不锈钢报价「海新双相钢」 双能x射线骨密度检测仪_dxa骨密度仪_双能x线骨密度仪_品牌厂家【品源医疗】 | 成都装修公司-成都装修设计公司推荐-成都朗煜装饰公司 | 压缩空气冷冻式干燥机_吸附式干燥机_吸干机_沪盛冷干机 | 真空泵维修保养,普发,阿尔卡特,荏原,卡西亚玛,莱宝,爱德华干式螺杆真空泵维修-东莞比其尔真空机电设备有限公司 | 杭州标识标牌|文化墙|展厅|导视|户内外广告|发光字|灯箱|铭阳制作公司 - 杭州标识标牌|文化墙|展厅|导视|户内外广告|发光字|灯箱|铭阳制作公司 | 安徽华耐泵阀有限公司-官方网站 安德建奇火花机-阿奇夏米尔慢走丝|高维|发那科-北京杰森柏汇 | 德国EA可编程直流电源_电子负载,中国台湾固纬直流电源_交流电源-苏州展文电子科技有限公司 | 网站优化公司_北京网站优化_抖音短视频代运营_抖音关键词seo优化排名-通则达网络 | 中国品牌门窗网_中国十大门窗品牌_著名门窗品牌 | SMC-SMC电磁阀-日本SMC气缸-SMC气动元件展示网 | 全自动五线打端沾锡机,全自动裁线剥皮双头沾锡机,全自动尼龙扎带机-东莞市海文能机械设备有限公司 | 岩棉板|岩棉复合板|聚氨酯夹芯板|岩棉夹芯板|彩钢夹芯板-江苏恒海钢结构 | 我车网|我关心的汽车资讯_汽车图片_汽车生活! | 工业插头-工业插头插座【厂家】-温州罗曼电气 | 煤矿人员精确定位系统_矿用无线通信系统_煤矿广播系统 | T恤衫定做,企业文化衫制作订做,广告T恤POLO衫定制厂家[源头工厂]-【汉诚T恤定制网】 | 硅PU球场、篮球场地面施工「水性、环保、弹性」硅PU材料生产厂家-广东中星体育公司 | 萃取箱-萃取槽-PVC萃取箱厂家-混合澄清槽- 杭州南方化工设备 | 氟氨基酮、氯硝柳胺、2-氟苯甲酸、异香兰素-新晨化工 | 华中线缆有限公司-电缆厂|电缆厂家|电线电缆厂家 | 招商帮-一站式网络营销服务|搜索营销推广|信息流推广|短视视频营销推广|互联网整合营销|网络推广代运营|招商帮企业招商好帮手 | 刘秘书_你身边专业的工作范文写作小秘书| 钢衬玻璃厂家,钢衬玻璃管道 -山东东兴扬防腐设备有限公司 | 绿叶|绿叶投资|健康产业_绿叶投资集团有限公司 | 样品瓶(色谱样品瓶)百科-浙江哈迈科技有限公司 |