近年來，人工智能加速成為產(chǎn)業(yè)轉(zhuǎn)型升級的重要力量，對經(jīng)濟社會發(fā)展產(chǎn)生了深遠影響。在此趨勢下，中國信息通信研究院（簡稱“中國信通院”）《專家談》欄目特別推出“人工智能”系列專題，邀請多位行業(yè)權威專家，從多個視角解讀當前人工智能產(chǎn)業(yè)發(fā)展的熱點與趨勢。本期邀請到中國信通院政策與經(jīng)濟研究所副所長張春飛，圍繞人工智能治理的重要性和緊迫性、人工智能治理框架，以及專業(yè)機構作用的發(fā)揮，為我們進行深度解析。

一、人工智能治理的重要性緊迫性前所未有

當前，人工智能技術快速發(fā)展正深刻重塑著人類生產(chǎn)生活方式。今年以來，以DeepSeek為代表的開源模型，極大地降低了算力成本和大模型部署門檻，加速推動了人工智能與經(jīng)濟社會各領域的融合發(fā)展，也帶來了一系列治理問題和安全風險。一方面，人工智能技術本身存在內(nèi)生安全風險，在模型幻覺、不可解釋性等內(nèi)在缺陷尚未解決的情況下，人工智能在各個領域廣泛應用、深度融合，將進一步疊加、放大虛假信息、技術濫用等安全風險，治理的復雜性前所未有。另一方面，隨著通用AI的不斷逼近，各方對系統(tǒng)性風險的關注也前所未有。英國人工智能安全研究所發(fā)布的《2025年國際人工智能安全報告》（International AI Safety Report 2025）指出，前沿AI可能引發(fā)大規(guī)模失業(yè)等風險，甚至使人類失去對AI系統(tǒng)控制，事關社會穩(wěn)定乃至人類命運。

二、人工智能治理需要一個體系化的治理框架

人工智能治理已進入從原則到實踐的關鍵階段，這需要相應的治理框架，凝聚各方共識、指導規(guī)則的構建和落地。目前，各國政府、國際組織、智庫機構從基于風險管理、全生命周期治理等不同視角提出人工智能治理框架。中國信通院從What、Why、Who、How四個維度研究提出了“1244”人工智能治理總體框架，“1”是持續(xù)研究AI概念范疇和演進，“2”是跟蹤研判內(nèi)生、衍生兩類風險變化和影響，“4”是總結梳理政府、企業(yè)、專業(yè)機構、國際組織四類治理主體的最新舉措和成效，第二個“4”是持續(xù)研究“負責任創(chuàng)新、可持續(xù)發(fā)展、倫理先行、安全底線”四組議題的最新進展，基于國際比較、產(chǎn)業(yè)實踐，探索提出符合中國國情的治理方案。

三、提升人工智能治理能力需要更好發(fā)揮專業(yè)機構的作用

面對復雜的安全風險和挑戰(zhàn)，人工智能治理中的治理主體更加多元，專業(yè)機構發(fā)揮了非常重要的作用。從國內(nèi)治理來看，人工智能治理中的很多風險挑戰(zhàn)是由技術的內(nèi)在缺陷引發(fā)，其治理必須緊密結合技術發(fā)展規(guī)律。由于政府與人工智能企業(yè)之間存在技術力量上的不對稱性，需要引入第三方專業(yè)機構的支持。比如，OpenAI等企業(yè)就與美國NIST達成合作，允許NIST等第三方機構提前獲得公司新模型的訪問權，在模型發(fā)布前進行基準評測。從國際治理來看，人工智能成為全球新一輪科技產(chǎn)業(yè)競賽焦點，在競爭升溫的同時，很多風險挑戰(zhàn)又需要各國共同應對。在此過程中，專業(yè)機構可以發(fā)揮重要的協(xié)調(diào)作用，推動原則框架落地、標準規(guī)范對接、治理框架互操作等等。

四、結束語

二十屆三中全會提出完善人工智能等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系。近期中央政治局進行的第二十次集體學習強調(diào)要完善人工智能監(jiān)管體制機制。我們將在政府部門指導下，聯(lián)合產(chǎn)學研用各方力量，深入研究和參與制定相關法律法規(guī)、政策制度、應用規(guī)范、倫理準則，為推動我國人工智能健康有序發(fā)展貢獻力量。