在今年的光博會上,有這樣一家名為Credo的公司,憑借其多年以前對技術的長遠預見,為數據中心AI大腦“神經系統”的升級帶來了可能。如果想要細探這一過程,需要先從如今AI大腦的飛速進化說起。">

飞象网 - 通信人每天必上的网站

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|元宇宙|博客|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 光通信 >> 正文

AI大腦進化的Credo力量:讓思考不中斷,聰明不燒腦

2024年10月21日 11:01  CCTIME飛象網  作 者:魏德齡

飛象原創(魏德齡/文)翻看外語辭典,Credo在英語、意大利語和拉丁語中都有“Believe相信”的含義,在意大利語中也可以翻譯為“IBelieve”,在英語中則有著“信條”的含義。如今,擁有了神經網絡的AI大腦憑借其思考的能力,正在讓很多人開始相信它的美麗未來,并讓它開始承擔起一些專業領域中的預見性工作。

在今年的光博會上,有這樣一家名為Credo的公司,憑借其多年以前對技術的長遠預見,為數據中心AI大腦“神經系統”的升級帶來了可能。如果想要細探這一過程,需要先從如今AI大腦的飛速進化說起。

AI大腦的進化

相較于生物大腦在歲月長河中的緩慢成長,AI大模型的成長可謂是“大力出奇跡”,為了滿足計算要求,需構筑專門用于人工智能的數據中心,并由GPU服務器聯網構成。當大模型訓練時,并行計算節點越多,通信效率越重要,智算網絡的性能成為了集群算力提升的關鍵。智力增長需要更大的服務器集群,萬億參數的GPT-4背后是萬卡級規模作為保障。

隨著集群規模的增加,能耗問題也隨之凸顯起來。也就是說,如果把人腦與AI進行比較的話,人腦由1012個神經元和1015實觸構成極其復雜網絡,能以很小樣本和30W功耗實現超高計算效率和識別,而大型AI系統則需百萬瓦級功耗和海量數據。

為了滿足更加密集的集群需求,數據中心的機架架構也在發生著變化。在AI與AI訓練的需求下,現在每一個數據中心都擁有兩種網絡連接,一種是傳統的前端網絡,還有一種是用于AI網絡連接的后端網絡。后端網絡將所有GPU連接在一起,形同一臺數據中心里的超大計算機,為了滿足GPU互聯的需求,后端網絡的帶寬也是前端網絡的8-10倍。

針對密集集群的散熱問題,傳統的風冷技術受限于功耗限制,每個機架只能放1—2臺服務器,顯然已經不能滿足要求。液冷方案隨之流行起來。對應也使單機架上能夠放置更多臺AI服務器,服務器之間的連接距離變得更短。

上述的這些變化,也對連接服務器之間的線纜提出了新的要求。

AEC讓思考不中斷

“我們在幾年前第一次介紹有源電纜(AEC)的時候,很多人都沒有意識到這是一個很有價值的產品。但在今天,AEC已經改變了整個行業的規則!盋redo銷售副總裁楊學賢在談到公司對于技術的前瞻性能力的時候,使用了AEC的案例。

在如今一些全球領先廠商展示的基于銅纜的人工智能應用中,以Credo為代表的色彩鮮明的紫色AEC線纜聯通起了機架上的每一臺服務器。AEC電纜展現出了在AI應用中的獨特價值,在繼北美互聯網公司之后,也正在開始被國內互聯網企業所關注。

在今年的光博會上,Credo專為中國超級數據中心市場量身打造,推出適用于400G Q112網絡接口的HiWire SHIFT AEC(有源電纜Active Electrical Cables)新系列產品,可以滿足AI/ML后端網絡與TOR交換機之間的網絡連接需求。

AEC在人工智能領域的認可與其自身的技術優勢有關。根據實際測試數據反饋,在連接可靠性上,可比光纜高出一到兩個數量級。這就意味AEC電纜將可助力算力利用率的提升,當前利用率低的原因正在于互聯,一旦一個節點發生故障或鏈路斷聯,傳輸就要重新進行,導致算力利用率普遍僅為40%—50%。AI行業開始重新重視銅互聯與電互聯的原因正在于通過AEC對于連接可靠性的大幅提升,從而解決這一癥結。

此外,如前文所述的機架中服務器的密度增加,要求線纜具有更好的布線靈活度,也就是要易于彎折,才能不會過多遮擋機柜前面的氣流,對散熱造成影響。而AEC作為一根銅纜,沒有任何光學組件,僅每端都放置了一個基于Credo自有銅DSP技術的Retimer,來負責端到端的信號傳輸。于是,AEC在現有AI領域機房的布線中,不僅好部署,還擁有極長的生命周期。

AEC還具有低功耗上的優勢,其中的DSP都是業界功耗最低的產品,一個400G的AEC的單端功率在5W左右,大約僅為一個400G光模塊的50%。

以本次發布的SHIFT AEC產品為例,基于Credo先進的800G HiWire AEC設計優化而來,能效卓越,性能更佳,且具有極致的可靠性,MTBF(平均故障間隔時間)長達1億小時,該數據對于AI/ML應用而言無疑至關重要。

AEC產品負責人Ameet Suri表示:“為了滿足中國超級數據中心市場客戶對Q112 TOR接口的需求,Credo拓展其800G HiWire AEC產品系列,推出包含三款Q112新品的HiWire SHIFT AEC新產品系列。HiWire AEC不斷受到超級數據中心運營商們的青睞,被用于NIC與TOR之間的連接。我們期待借助此次推出的AEC新品,進一步提升AEC解決方案在中國市場的滲透率!

除了AEC產品外,關于Credo之于“相信”的技術前瞻性案例,LRO也同樣可以稱得上是一個典范。

LRO讓聰明不燒腦

隨著能耗問題在數據中心和AI基礎設施在規模擴張中問題的凸顯,尤其在一年前,伴隨著800G容量的增加,業界也開始關注收發器的功率問題。其中已有的LPO方案由于互操作性,依賴鏈路和故障排除能力等技術限制,大大限制了部署熱情。據Cignal預測,LPO方案在800GbE的市場份額將不會超過10%。

對此,Credo提出了線性接收光路(LRO)解決方案,僅將DSP保留在光收發器的發射端。其優勢在于,僅在發端放置的DSP可以保證光纖上的擁有完美高質量、符合標準的光信號,達到與完整DSP方案一樣的效果。此舉自然實現了節省功耗的目的,由于LRO方案移除了一半的DSP,因此可以節省一半的DSP功耗,且仍舊保持了非常好的網絡性能。

Credo Dove 850作為世界上第一款針對LRO應用優化的DSP產品,將800G光收發器的功耗控制在低于10W的水平,對比使用完整DSP的光收發器,可節省大約40%—50%的功耗。并且不會像LPO解決方案會犧牲網絡性能。

基于Dove850方案的光模塊通過提升符合IEEE標準的光發射信號質量來解決線性可插拔光連接(LPO)方案的固有缺陷,并可避免手動調試每個端口以減輕客戶的系統運維負擔。對比結果就是,Dove850方案擁有更低誤碼率,增強了靈敏度,減少性能偏差,并提升了對交換ASIC、PCB走線、光器件及環境因素的包容度。

未來,Credo將會持續開發完整的DSP以及LRO解決方案,并計劃在DSP中集成一種特殊的診斷預警功能,來幫助客戶實時監控電路工作狀態。

“相信,是一個漫長而痛苦的等待過程,也是一個技術不斷打磨、不斷優化的過程。”楊學賢表示因為有了公司對于技術的相信與持續投入,才能造就這些有價值的、改變行業規則的產品。

如果說AI的高速發展,是人類集體大腦的一個全新進化,那么對于參與構建這顆大腦中的神經系統重要一環的Credo來說,或許不僅僅是讓這顆飛速成長的大腦思考不中斷、聰明不燒腦,也刻下了關于人類的“技術信條”烙印。

編 輯:高靖宇
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國電信李峻:只有當人工智能成為公共基礎設施,才能普惠大眾
精彩專題
2024中國算力大會
2024年國際信息通信展
中國信科亮相2024年國際信息通信展
第25屆中國國際光電博覽會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像
主站蜘蛛池模板: 桐城新闻网—桐城市融媒体中心主办 | 上海皓越真空设备有限公司官网-真空炉-真空热压烧结炉-sps放电等离子烧结炉 | 精密机械零件加工_CNC加工_精密加工_数控车床加工_精密机械加工_机械零部件加工厂 | 网站建设,北京网站建设,北京网站建设公司,网站系统开发,北京网站制作公司,响应式网站,做网站公司,海淀做网站,朝阳做网站,昌平做网站,建站公司 | 广东健伦体育发展有限公司-体育工程配套及销售运动器材的体育用品服务商 | 广州冷却塔维修厂家_冷却塔修理_凉水塔风机电机填料抢修-广东康明节能空调有限公司 | 深圳高新投三江工业消防解决方案提供厂家_服务商_园区智慧消防_储能消防解决方案服务商_高新投三江 | 石栏杆_青石栏杆_汉白玉栏杆_花岗岩栏杆 - 【石雕之乡】点石石雕石材厂 | 青岛侦探_青岛侦探事务所_青岛劝退小三_青岛婚外情取证-青岛王军侦探事务所 | 耐驰泵阀管件制造-耐驰泵阀科技(天津)有限公司 | 热缩管切管机-超声波切带机-织带切带机-无纺布切布机-深圳市宸兴业科技有限公司 | 艺术涂料_进口艺术涂料_艺术涂料加盟_艺术涂料十大品牌 -英国蒙太奇艺术涂料 | 浙江栓钉_焊钉_剪力钉厂家批发_杭州八建五金制造有限公司 | 小型玉石雕刻机_家用玉雕机_小型万能雕刻机_凡刻雕刻机官网 | 超声波清洗机_大型超声波清洗机_工业超声波清洗设备-洁盟清洗设备 | 专注提供国外机电设备及配件-工业控制领域一站式服务商-深圳市华联欧国际贸易有限公司 | 包装设计公司,产品包装设计|包装制作,包装盒定制厂家-汇包装【官方网站】 | 生鲜配送系统-蔬菜食材配送管理系统-连锁餐饮订货配送软件-挪挪生鲜供应链管理软件 | 智能风向风速仪,风速告警仪,数字温湿仪,综合气象仪(气象五要素)-上海风云气象仪器有限公司 | 赛默飞Thermo veritiproPCR仪|ProFlex3 x 32PCR系统|Countess3细胞计数仪|371|3111二氧化碳培养箱|Mirco17R|Mirco21R离心机|仟诺生物 | 液压升降平台_剪叉式液压/导轨式升降机_传菜机定做「宁波日腾升降机厂家」 | 餐饮小吃技术培训-火锅串串香培训「何小胖培训」_成都点石成金[官网] | 啤酒设备-小型啤酒设备-啤酒厂设备-济南中酿机械设备有限公司 | 德州网站制作 - 网站建设设计 - seo排名优化 -「两山建站」 | 电动葫芦|环链电动葫芦-北京凌鹰名优起重葫芦 | 深圳律师咨询_深圳律师事务所_华荣【免费在线法律咨询】网 | 小型气象站_车载气象站_便携气象站-山东风途物联网 | 蓄电池在线监测系统|SF6在线监控泄露报警系统-武汉中电通电力设备有限公司 | 电主轴-高速精密电主轴-高速电机厂家-瑞德沃斯品牌有限公司 | 黑田精工电磁阀-CAMMOZI气缸-ROSS电磁-上海茂硕机械设备有限公司 | 室内室外厚型|超薄型|非膨胀型钢结构防火涂料_隧道专用防火涂料厂家|电话|价格|批发|施工 | 武汉印刷厂-不干胶标签印刷厂-武汉不干胶印刷-武汉标签印刷厂-武汉标签制作 - 善进特种标签印刷厂 | 塑料异型材_PVC异型材_封边条生产厂家_PC灯罩_防撞扶手_医院扶手价格_东莞市怡美塑胶制品有限公司 | 桥架-槽式电缆桥架-镀锌桥架-托盘式桥架 - 上海亮族电缆桥架制造有限公司 | 玻纤土工格栅_钢塑格栅_PP焊接_单双向塑料土工格栅_复合防裂布厂家_山东大庚工程材料科技有限公司 | 物和码官网,物和码,免费一物一码数字化营销SaaS平台 | 深圳货架厂_仓库货架公司_重型仓储货架_线棒货架批发-深圳市诺普泰仓储设备有限公司 | 北京易通慧公司从事北京网站优化,北京网络推广、网站建设一站式服务商-北京网站优化公司 | 旋振筛|圆形摇摆筛|直线振动筛|滚筒筛|压榨机|河南天众机械设备有限公司 | 多功能真空滤油机_润滑油全自动滤油机_高效真空滤油机价格-重庆润华通驰 | 专业生产动态配料系统_饲料配料系统_化肥配料系统等配料系统-郑州鑫晟重工机械有限公司 |