5月17日,2025世界電信和社會信息紀(jì)念日活動于江西南昌舉辦,浙移數(shù)科副總經(jīng)理湯人杰出席AI與行業(yè)大模型研討會,發(fā)表題為《浙江移動大模型全棧工程交付能力最佳實(shí)踐》的主題演講,深入剖析AI技術(shù)發(fā)展趨勢與產(chǎn)業(yè)實(shí)踐路徑,并重點(diǎn)分享了浙江移動在智算國產(chǎn)化與AI工程化領(lǐng)域的創(chuàng)新成果。

1. 智算產(chǎn)業(yè)升級加速,國產(chǎn)化布局搶占先機(jī)
演講指出,當(dāng)前AI行業(yè)呈現(xiàn)"智算啞鈴態(tài)"發(fā)展趨勢,應(yīng)用場景與算力需求雙向爆發(fā),而基礎(chǔ)模型架構(gòu)逐步收斂。在這一背景下,浙江移動依托華為昇騰AI基礎(chǔ)軟硬件平臺,構(gòu)建起覆蓋算法開發(fā)、訓(xùn)練加速、推理部署的全棧國產(chǎn)化智算能力。

2. 工程化能力厚積薄發(fā),創(chuàng)新引領(lǐng)技術(shù)發(fā)展
浙江移動長期應(yīng)用實(shí)踐構(gòu)建起體系化AI工程化能力:自主研發(fā)的AI工程化平臺集成應(yīng)用中心、模型中心、數(shù)據(jù)中心三大功能模塊,平臺首批支持MCP服務(wù),大幅提升開發(fā)效率,降低開發(fā)成本;可信數(shù)據(jù)空間解決方案實(shí)現(xiàn)多領(lǐng)域高質(zhì)量數(shù)據(jù)集的匯聚流通,為AI大模型提供合規(guī)、精準(zhǔn)、可溯源的訓(xùn)練數(shù)據(jù)服務(wù)生態(tài);全方位構(gòu)建AI+DICT交付體系,推動AI工程化平臺賦能項目,組建超百人的AI工程化團(tuán)隊,創(chuàng)新打造一站式AI+解決方案,同時協(xié)同生態(tài)補(bǔ)齊短板,聯(lián)合推動AI+DICT業(yè)務(wù)規(guī)模化拓展。

3. 多行業(yè)深耕實(shí)踐,標(biāo)桿案例樹立行業(yè)典范
在實(shí)踐層面,成功落地xx海關(guān)、xx人民醫(yī)院、xx電力等覆蓋政務(wù)、醫(yī)療、能源多個領(lǐng)域的標(biāo)桿案例,充分彰顯技術(shù)賦能的價值。
① xx海關(guān)項目基于昇騰AI算力底座原生開發(fā)AI政務(wù)助手應(yīng)用,提供智能問答、公文助手、智能檢索等能力,項目實(shí)踐過程中針對RAG Rerank多階段協(xié)同困難、多階段協(xié)同困難、效果評估復(fù)雜度高三大技術(shù)挑戰(zhàn),通過入庫文檔精細(xì)化知識處理、問題段落重排算法(QPR)和Group-Weighted Rerank算法進(jìn)行優(yōu)化實(shí)踐;

② xx人民醫(yī)院項目創(chuàng)新引入多模態(tài)AI醫(yī)療系統(tǒng),深度融合超聲影像、病理報告與基因檢測數(shù)據(jù),依托大模型智能分析,實(shí)現(xiàn)甲狀腺結(jié)節(jié)良惡性精準(zhǔn)判別。項目實(shí)踐過程中通過監(jiān)督微調(diào)(SFT)和強(qiáng)化學(xué)習(xí)(GRPO)兩階段訓(xùn)練框架,提高微小病灶識別率30%,全維度分析時間縮短至10s以下;
③ XX電力院智能體項目創(chuàng)新實(shí)現(xiàn)電力設(shè)備故障診斷、運(yùn)維數(shù)據(jù)指導(dǎo)和行業(yè)知識問答,項目實(shí)踐過程中針對過擬合和欠擬合兩大微調(diào)技術(shù)挑戰(zhàn),通過構(gòu)建多個領(lǐng)域的全面文檔知識庫、生成包含思考過程的Q-COT-A數(shù)據(jù)、數(shù)據(jù)專家評審和PiSSA微調(diào)方法,提高技術(shù)監(jiān)督效率60%,專業(yè)術(shù)語識別準(zhǔn)確率提升至95%。
4.技術(shù)生態(tài)持續(xù)突破,共建未來AI應(yīng)用藍(lán)圖
浙江移動面對生成式AI帶來的算力革命,未來將在基礎(chǔ)設(shè)施層和服務(wù)能力層持續(xù)創(chuàng)新突破,持續(xù)賦能AI產(chǎn)業(yè)發(fā)展。
最后,浙移數(shù)科副總經(jīng)理湯人杰表示:未來將繼續(xù)攜手華為和廣大的生態(tài)合作伙伴,開展更深層次的技術(shù)共研與生態(tài)共建,為浙江省數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展注入強(qiáng)勁動能。