2023年2月28日，世界移動通信大會(MWC 2023)期間，中國電信&華為2023云網核心能力創新成果全球發布會上，中國電信攜手華為發布星河AI統一推理框架。
星河AI統一推理框架，專注AI算法開發和性能提升，實現底層異構算力協同，帶來效率和性能大幅提升。
隨著人工智能產業不斷發展壯大，多樣化算力需求場景不斷涌現，AI在行業逐步滲透，AI處理器層出不窮，包括擅長圖形運算的GPU、專注于更高效人工智能神經網絡處理的NPU等。實際業務應用過程中，底層的AI異構計算平臺多，API接口不統一，呈現煙囪式的應用開發，導致AI應用開發門檻高、代碼維護成本高。
中國電信科技創新部副總經理 羅銳
“通過星河AI統一推理框架，根據不同硬件底層接口，向上將推理業務流抽象封裝出業務功能模塊接口，開發者只需要關注業務邏輯，無需關注底層硬件接口。”中國電信科技創新部副總經理羅銳在發布會上這樣說到。
中國電信數字智能科技分公司AI研發中心高性能計算技術總監 朱慶軍
從底層技術實現維度，中國電信數字智能科技分公司AI研發中心高性能計算技術總監朱慶軍給出專業的答復：“星河AI統一推理框架致力于提升AI開發效率及性能提升，上層基于電信AI業務場景開發的技術沉淀，下層依托昇騰推理開發使能套件，快速實現AI應用開發，支持云邊協同，業務部署達成小時級一鍵部署“。當前基于該平臺已完成90%以上自研CV應用的開發，超過1000+AI算法完成適配遷移，助力500多個產業數字化項目落地。
在AI開發過程中，通過軟硬件協同優化提升整體業務流性能。主要包括基于昇騰的視圖解析硬件加速方案、模型算子加速庫等，結合電信在業務流的優化處理方案，端到端提升AI應用性能。其中，CV類業務流性能提升約1.4~2倍，單純視頻解碼場景性能提升2~3倍，圖片解碼場景性能提升1.5~2倍。
在實際應用中，通過星河AI統一推理框架，上層AI應用一處開發，云邊多硬件平臺部署，通過統一業務層接口，快速匯聚AI生態，推動多場景方案落地。
為應對AI長尾場景，中國電信聯合華為及業界伙伴，依托星河AI統一推理框架，發揮中國電信算網資源優勢，協同昇騰AI生態成果，快速孵化更多場景方案，吸引更多伙伴入駐，構筑面向未來自演進的電信AI生態。當前已有100+個生態伙伴，5000+算法，聯合孵化出智慧城市、社會治理、明廚亮灶等10+場景化綜合信息解決方案，支撐500多個產業數字化項目落地。
面向未來，依托星河AI統一推理框架，中國電信攜手華為及業界伙伴，將持續豐富AI生態體系，不斷升級星河AI能力，共同為千行百業提供融云、安全、AI等的數字化產品和服務。
