近期，在2025年國家網(wǎng)絡(luò)安全宣傳周主論壇上，由國家互聯(lián)網(wǎng)信息辦公室指導(dǎo)的《人工智能安全治理框架》2.0版正式發(fā)布。在1.0版基礎(chǔ)上，2.0版明確了對不同風(fēng)險等級人工智能的管理要求，為各行業(yè)人員識別風(fēng)險、落實責(zé)任提供了清晰指引，使人工智能安全治理更具可操作性，不僅彰顯了我國統(tǒng)籌發(fā)展與安全的治理智慧，也為全球人工智能治理貢獻(xiàn)了中國方案。

目前，人工智能產(chǎn)業(yè)已成為驅(qū)動經(jīng)濟(jì)增長的重要引擎。2024年，我國人工智能產(chǎn)業(yè)規(guī)模已超過9000億元，同比增長24%，企業(yè)數(shù)量超過5300家，形成了較完整的產(chǎn)業(yè)體系。人工智能深刻改變著傳統(tǒng)產(chǎn)業(yè)形態(tài)，在制造業(yè)、金融、醫(yī)療等領(lǐng)域應(yīng)用廣泛，在降本增效、優(yōu)化資源配置方面展現(xiàn)出巨大潛力。

然而，人工智能在賦能千行百業(yè)的同時，也帶來數(shù)據(jù)泄露、模型缺陷、倫理失控等風(fēng)險。數(shù)據(jù)顯示，2019年至2024年間發(fā)生的人工智能風(fēng)險事件中，約74%與人工智能安全問題直接相關(guān)。僅2024年6月至2025年7月，全球公開報道的相關(guān)安全事件達(dá)59起，涉及偽造詐騙、算法歧視、自動駕駛決策失誤等多方面，構(gòu)建科學(xué)的人工智能治理體系刻不容緩。

下一步，如何系統(tǒng)推進(jìn)人工智能安全治理？總體看，應(yīng)圍繞治理原則、風(fēng)險分類與協(xié)同治理三方面重點突破。

包容審慎是原則。發(fā)展人類可以信賴的人工智能，積極防范風(fēng)險失控。不久前，美國發(fā)生的聊天機(jī)器人影響青少年行為的事件引發(fā)關(guān)注，深刻警示了技術(shù)防護(hù)與倫理約束并重的緊迫性。不論研發(fā)還是應(yīng)用階段，都需要確保人工智能始終處于人類的掌控之下，其價值目標(biāo)必須與人類根本利益保持一致。

風(fēng)險分類是基礎(chǔ)。人工智能的風(fēng)險大致可以分為三類：一是技術(shù)本身的缺陷，如算法模型有漏洞、訓(xùn)練數(shù)據(jù)質(zhì)量低；二是在使用過程中的中途干擾，如被黑客攻擊或用來散播虛假信息；三是產(chǎn)生的連鎖反應(yīng)，如沖擊就業(yè)

近期，在2025年國家網(wǎng)絡(luò)安全宣傳周主論壇上，由國家互聯(lián)網(wǎng)信息辦公室指導(dǎo)的《人工智能安全治理框架》2.0版正式發(fā)布。在1.0版基礎(chǔ)上，2.0版明確了對不同風(fēng)險等級人工智能的管理要求，為各行業(yè)人員識別風(fēng)險、落實責(zé)任提供了清晰指引，使人工智能安全治理更具可操作性，不僅彰顯了我國統(tǒng)籌發(fā)展與安全的治理智慧，也為全球人工智能治理貢獻(xiàn)了中國方案。

目前，人工智能產(chǎn)業(yè)已成為驅(qū)動經(jīng)濟(jì)增長的重要引擎。2024年，我國人工智能產(chǎn)業(yè)規(guī)模已超過9000億元，同比增長24%，企業(yè)數(shù)量超過5300家，形成了較完整的產(chǎn)業(yè)體系。人工智能深刻改變著傳統(tǒng)產(chǎn)業(yè)形態(tài)，在制造業(yè)、金融、醫(yī)療等領(lǐng)域應(yīng)用廣泛，在降本增效、優(yōu)化資源配置方面展現(xiàn)出巨大潛力。

然而，人工智能在賦能千行百業(yè)的同時，也帶來數(shù)據(jù)泄露、模型缺陷、倫理失控等風(fēng)險。數(shù)據(jù)顯示，2019年至2024年間發(fā)生的人工智能風(fēng)險事件中，約74%與人工智能安全問題直接相關(guān)。僅2024年6月至2025年7月，全球公開報道的相關(guān)安全事件達(dá)59起，涉及偽造詐騙、算法歧視、自動駕駛決策失誤等多方面，構(gòu)建科學(xué)的人工智能治理體系刻不容緩。

下一步，如何系統(tǒng)推進(jìn)人工智能安全治理？總體看，應(yīng)圍繞治理原則、風(fēng)險分類與協(xié)同治理三方面重點突破。

包容審慎是原則。發(fā)展人類可以信賴的人工智能，積極防范風(fēng)險失控。不久前，美國發(fā)生的聊天機(jī)器人影響青少年行為的事件引發(fā)關(guān)注，深刻警示了技術(shù)防護(hù)與倫理約束并重的緊迫性。不論研發(fā)還是應(yīng)用階段，都需要確保人工智能始終處于人類的掌控之下，其價值目標(biāo)必須與人類根本利益保持一致。

風(fēng)險分類是基礎(chǔ)。人工智能的風(fēng)險大致可以分為三類：一是技術(shù)本身的缺陷，如算法模型有漏洞、訓(xùn)練數(shù)據(jù)質(zhì)量低；二是在使用過程中的中途干擾，如被黑客攻擊或用來散播虛假信息；三是產(chǎn)生的連鎖反應(yīng)，如沖擊就業(yè)市場、削弱社會信任等。對此，應(yīng)依據(jù)風(fēng)險類型采取有針對性的治理手段，讓有關(guān)主體明確其在各階段中的義務(wù)。

比如，對于生成式人工智能可能產(chǎn)生的深度偽造風(fēng)險，需打出“組合拳”予以治理。此前，某地警方發(fā)現(xiàn)不法分子利用人工智能換臉技術(shù)，冒充企業(yè)高管進(jìn)行視頻會議，指令財務(wù)人員向虛假賬戶轉(zhuǎn)賬。防范此類亂象，人工智能服務(wù)提供者須在模型開發(fā)階段嵌入深度偽造檢測技術(shù)，在輸出環(huán)節(jié)嚴(yán)格落實內(nèi)容標(biāo)識與溯源要求，監(jiān)管部門應(yīng)推動建立相應(yīng)的追溯系統(tǒng)，并通過公共教育提升公眾對合成內(nèi)容的辨識能力，讓廣大民眾能夠把李逵和“李鬼”區(qū)分開。

協(xié)同共治是手段。綜合治理就是要讓政府、企業(yè)、科研機(jī)構(gòu)和公眾都參與進(jìn)來，共同用規(guī)范約束、技術(shù)護(hù)航、道德引導(dǎo)等方式，對人工智能進(jìn)行全鏈條、全過程管理。這既需要健全人工智能安全法律、法規(guī)及科技倫理準(zhǔn)則，也需要增進(jìn)協(xié)同應(yīng)對人工智能失控風(fēng)險的共識。

目前，我國已經(jīng)出臺了《生成式人工智能服務(wù)管理暫行辦法》等規(guī)范性文件，學(xué)界也推出《人工智能示范法3.0》等專家建議稿，均是構(gòu)建有中國特色的人工智能治理體系的重要探索。人工智能風(fēng)險無國界，我國還應(yīng)積極參與國際規(guī)則對話，推動形成具有廣泛共識的治理框架，為應(yīng)對挑戰(zhàn)貢獻(xiàn)中國智慧。

安全是發(fā)展的前提，治理是創(chuàng)新的保障。人工智能安全治理事關(guān)社會安全、產(chǎn)業(yè)建設(shè)、經(jīng)濟(jì)發(fā)展，必須在治理原則基礎(chǔ)上，逐步細(xì)化治理手段。只有構(gòu)建系統(tǒng)完備、行之有效的治理體系，才能讓人工智能真正成為推動經(jīng)濟(jì)高質(zhì)量發(fā)展的安全、重要引擎。(本文來源：經(jīng)濟(jì)日報 作者：狄行思)