飞象网 - 通信人每天必上的网站

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|低空經濟|智能汽車|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 人物專訪 >> 正文

韋樂平:隨著模型規模的日益擴大,跨域訓練是必然趨勢

2025年4月23日 12:34  CCTIME飛象網  

飛象網訊(易歡)4月23日消息,在今天舉辦的“2025云網智聯大會”上,SNAI推委會榮譽主席、原中國電信科技委主任韋樂平分享了對智算拉遠的思考。

談及大模型訓練智算拉遠的市場需求,韋樂平坦言,可以以網補算,提升閑散智算中心算力資源利用率!懊鎸Υ笈稚⒉渴、利用率很低的小規模智算中心,若能通過網絡互聯形成一個大型的邏輯智算池來適應規模日益增長的大模型訓練,有望大幅提升閑散智算資源的利用率!

與此同時,他指出,邁向未來,跨域訓練是必然趨勢。按照統計,大模型參數每1-2年增長10倍,而對應的GPU芯片的算力僅增長2-4倍,遠低于模型規模的增速。隨著模型規模的日益擴大,單體的算力、電力、空間資源終將受限,可能需要在園區甚至更大范圍內由多個智算中心互聯形成一個超級邏輯智算資源池,進行聯合訓練才有可能支撐超大模型的訓練。

韋樂平強調:“至于推理與具體業務場景和訪問量相關,更需要跨域實施!

針對大模型訓練智算拉遠的挑戰,韋樂平認為復雜的商用場景,勢必會面臨大量不同功能、性能的異構GPU、規模不同的AIDC的互聯、不同業務場景、不同設備和不同組網方式、不同模型和不同參數的協同挑戰。

此外,還面臨一些技術挑戰。在韋樂平看來,一是帶寬收斂問題!盁o收斂帶寬普適性和前瞻性好,部署快,但成本太高;收斂比4-8時,帶寬成本可以降至10%之內,但是只適用特定業務場景下的特定模型拆分方式,缺乏普適性和前瞻性!

二是功能和性能問題。拉遠后必然面對丟包、抖動乃至中斷故障等諸多挑戰,對ROCE網絡的功能和性能有不少嚴格的要求。

統一管理和運維也是挑戰之一。韋樂平認為,現有固化的組織架構和生產流程不適合快速部署邏輯統一的異地智算中心,需要對現有管理運維體系、生產流程、監控管理平臺改造升級。

編 輯:章芳
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
推薦新聞              
 
人物
韋樂平詳解生成式人工智能的聯網技術
精彩視頻
專家談 | 中國信通院曹薊光:大模型紅利加速釋放AI跨行業全場景賦能
飛象趣談第二十五期!全球人形機器人半馬首秀,中國黑科技如何讓機器人跑贏未來!
看見數智福建 2025數字中國建設峰會媒體探訪活動
在CCBN2025見證百年電視行業新紀元——超高清發展年
精彩專題
通信產業2024年業績盤點
3·15權益日 | 共筑滿意消費 守護信息通信安全防線
聚焦2025全國兩會
2025年世界移動通信大會
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像
主站蜘蛛池模板: 滚珠丝杆升降机_螺旋升降机_丝杠升降机-德迈传动 | PCB接线端子_栅板式端子_线路板连接器_端子排生产厂家-置恒电气 喷码机,激光喷码打码机,鸡蛋打码机,手持打码机,自动喷码机,一物一码防伪溯源-恒欣瑞达有限公司 假肢-假肢价格-假肢厂家-河南假肢-郑州市力康假肢矫形器有限公司 | 汽车润滑油厂家-机油/润滑油代理-高性能机油-领驰慧润滑科技(河北)有限公司 | 北京普辉律师事务所官网_北京律师24小时免费咨询|法律咨询 | 拉卡拉POS机官网 - 官方直营POS机办理|在线免费领取 | 一体式钢筋扫描仪-楼板测厚仪-裂缝检测仪-泰仕特(北京) | 恒压供水控制柜|无负压|一体化泵站控制柜|PLC远程调试|MCGS触摸屏|自动控制方案-联致自控设备 | 微量水分测定仪_厂家_卡尔费休微量水分测定仪-淄博库仑 | 电动葫芦|手拉葫芦|环链电动葫芦|微型电动葫芦-北京市凌鹰起重机械有限公司 | 京港视通报道-质量走进大江南北-京港视通传媒[北京]有限公司 | 网站优化公司_SEO优化_北京关键词百度快速排名-智恒博网络 | 小型单室真空包装机,食品单室真空包装机-百科 | 电伴热系统施工_仪表电伴热保温箱厂家_沃安电伴热管缆工业技术(济南)有限公司 | 大立教育官网-一级建造师培训-二级建造师培训-造价工程师-安全工程师-监理工程师考试培训 | 济南网站建设|济南建网站|济南网站建设公司【济南腾飞网络】【荐】 | MES系统-WMS系统-MES定制开发-制造执行MES解决方案-罗浮云计算 | 番茄畅听邀请码怎么输入 - Dianw8.com | 青岛侦探调查_青岛侦探事务所_青岛调查事务所_青岛婚外情取证-青岛狄仁杰国际侦探公司 | 无锡网站建设_小程序制作_网站设计公司_无锡网络公司_网站制作 | Akribis直线电机_直线模组_力矩电机_直线电机平台|雅科贝思Akribis-杭州摩森机电科技有限公司 | 土壤检测仪器_行星式球磨仪_土壤团粒分析仪厂家_山东莱恩德智能科技有限公司 | TYPE-C厂家|TYPE-C接口|TYPE-C防水母座|TYPE-C贴片-深圳步步精 | 电气控制系统集成商-PLC控制柜变频控制柜-非标自动化定制-电气控制柜成套-NIDEC CT变频器-威肯自动化控制 | 上海单片机培训|重庆曙海培训分支机构—CortexM3+uC/OS培训班,北京linux培训,Windows驱动开发培训|上海IC版图设计,西安linux培训,北京汽车电子EMC培训,ARM培训,MTK培训,Android培训 | 江苏密集柜_电动_手动_移动_盛隆柜业江苏档案密集柜厂家 | 定量包装机,颗粒定量包装机,粉剂定量包装机,背封颗粒包装机,定量灌装机-上海铸衡电子科技有限公司 | 【连江县榕彩涂料有限公司】官方网站| 西门子代理商_西门子变频器总代理-翰粤百科 | 玻璃钢板-玻璃钢防腐瓦-玻璃钢材料-广东壹诺 | 扒渣机厂家_扒渣机价格_矿用扒渣机_铣挖机_撬毛台车_襄阳永力通扒渣机公司 | 光伏支架成型设备-光伏钢边框设备-光伏设备厂家 | 上海租奔驰_上海租商务车_上海租车网-矢昂汽车服务公司 | 上海质量认证办理中心 | 美名宝起名网-在线宝宝、公司、起名平台 | pH污水传感器电极,溶解氧电极传感器-上海科蓝仪表科技有限公司 | 无线遥控更衣吊篮_IC卡更衣吊篮_电动更衣吊篮配件_煤矿更衣吊篮-力得电子 | 泥沙分离_泥沙分离设备_泥砂分离机_洛阳隆中重工机械有限公司 | 郑州水质检测中心_井水检测_河南废气检测_河南中环嘉创检测 | 工程管道/塑料管材/pvc排水管/ppr给水管/pe双壁波纹管等品牌管材批发厂家-河南洁尔康建材 | 混合反应量热仪-高温高压量热仪-微机差热分析仪DTA|凯璞百科 | 北京普辉律师事务所官网_北京律师24小时免费咨询|法律咨询 |