3月5日，十四屆全國人大二次會議在北京人民大會堂開幕。國務院總理李強在政府工作報告中提出，大力推進現代化產業體系建設，加快發展新質生產力。深化大數據、人工智能等研發應用，開展“人工智能+”行動，打造具有國際競爭力的數字產業集群。

當前，以ChatGPT為代表的生成式人工智能異軍突起，掀起了通用人工智能技術引領與應用創新的發展浪潮，成為近十年來AI領域最具變革性的技術，將給經濟社會發展帶來巨大影響。全國人大代表，中國移動河南公司黨委書記、董事長、總經理樓向平在接受《人民郵電》報記者采訪時表示，建議進一步加強人工智能可信治理，以更加負責任的方式，發展可信的、以人為本的人工智能，助推培育新質生產力，扎實推動高質量發展。

目前，我國人工智能核心產業規模不斷增長，人工智能廣泛應用于通信、金融、醫療、交通、生產制造等領域，已經成為數字經濟發展的重要驅動力。然而人工智能安全防護能力的不足和缺失，正在帶來多方面的風險和挑戰，如知識產權侵權、隱私信息泄露、AI框架安全風險、AI算法攻擊、誤用濫用等。

樓向平認為，人工智能領域法律法規有待完善，同時缺乏統一的可信人工智能技術標準和評估體系，是當前存在的主要問題。諸如人工智能生成物的可版權性以及權利歸屬問題、訓練數據來源的合法性問題、隱私保護問題、人工智能侵權問題以及虛假生成內容的責任認定等，在當前法律制度體系中存在一定立法空白。當前人工智能算法訓練和使用過程中面臨的各類數據安全、網絡安全、隱私泄露等問題，已經成為制約人工智能健康發展的關鍵痛點，亟需形成一套可信人工智能技術標準和評估體系來加以規范。

針對以上問題，樓向平從多個層面提出了切實的建議。

首先是構建系統化的人工智能法律法規體系。

一是積極推動人工智能領域立法進程。建議建立國家層面的立法研究工作組，充分收集學術界、產業界意見，汲取國外立法經驗，兼顧約束不當行為和營造產業優良發展環境的目的，積極開展人工智能專項立法研究，推動立法進程，促進人工智能產業健康發展。在新法律頒布前，可通過在現有《數據安全法》《著作權法》等法律規定基礎上制定行政法規，或發布司法解釋、指導性案例等方式階段性緩解人工智能發展中面臨的法律問題。

二是明確生成式人工智能“事前-事中-事后”全鏈條監管機制。參考歐盟經驗，出臺人工智能的風險等級規范，針對不同類型、不同風險等級，施加不同的監管措施。引入算法認證標識、監管沙盒機制，指導和支持企業在監管機構的監督下進行創新活動。

三是建立人工智能責任認定和追責機制。以技術的使用為主線，將經濟利益與責任承擔深度結合，形成完整的鏈式責任分配機制，通過相應主體的分段分層可控，實現生成式人工智能發展的總體可控。

四是建立各利益相關方共同參與的系統化治理體系。政府在治理中發揮領導性作用，負責制定政策法規、設立專門機構以執行治理規定。行業協會制定技術倫理、行業倫理等行業規范，第三方智庫提供咨詢建議。社會公眾形成約定俗成的行為準則，并對相關主體進行聯合監督。各方共同參與、協同發力，形成政府管理、社會監督、行業自治、企業履責、用戶自律的體系化人工智能治理體系。

其次是構建統一的可信人工智能技術標準和評估體系，加強內生安全防御技術研究，實現人工智能“生成即安全”。

一是設立人工智能可信性指南，構建可信人工智能標準框架。在訓練語料庫方面，構建高質量中文語料庫和數據集，更好支撐國內人工智能模型訓練。在數據收集和使用方面，根據數據的價值和對利益的影響，明確人工智能訓練數據的分類分級保護標準，制定不同類型和不同級別數據的處理規則和安全保護措施。在數據存儲和傳輸方面，強化數據脫敏和數據加密要求，防止數據還原為原始信息，引入對稱或非對稱加密技術降低敏感信息泄露的風險，抵御未經授權的訪問和數據泄露。在隱私保護方面，引入差分隱私、同態加密和安全多方計算等技術，確保模型在隱私受限環境中的訓練和生成。

二是依托人工智能可信性指南，建立可信AI評估工作機制。打造國內權威、公平科學的可信AI評測平臺，構建自主可控的可信AI檢測工具體系。面向訓練數據，打造訓練數據檢測工具，進行防投毒數據、侵權數據、有害數據的分析判斷，保證使用合法的數據進行訓練，防范與事實不符或有毒的內容注入AI系統。面向生成內容，打造內容生成檢測工具，自動識別并報告通過人工智能技術生成的虛假、有害的內容，確保內容質量，保護知識產權。構建可信AI評測平臺與AI應用監管工作的協同機制，依據可信AI評測平臺的檢測結果，對人工智能算法及應用進行評級，形成分級分類的商用準入許可或評估備案機制，構建人工智能法律規范、評估機制、監管工作協同共促的良好生態。

三是加強安全技術攻關，構建內生安全底座。強化內生安全防御技術，賦能人工智能應用系統，有效阻斷和控制應用系統硬件環境存在的漏洞、后門等內生安全的共性問題，使內生安全問題難以發展成為內生安全事件。加強內生安全技術攻關，通過內置安全模塊，提升自適應防護能力，使人工智能系統具備穩健性和安全性，有能力應對惡意使用，防范惡意監聽、病毒文件、隱私泄露、犯罪技術等違法程序或內容的輸出。