任賢良：構建全球人工智能安全與治理體系

來源 | 人民論壇網-人民論壇雜志

轉載請注明來源

人工智能是新一輪科技革命和產業變革的重要驅動力量，是能夠造福人類的國際公共產品。當前，人工智能引發的風險挑戰日益復雜嚴峻，單一國家或地區難以獨立有效應對跨領域、跨區域、跨系統的復雜風險。凝聚共識，構建全球人工智能安全與治理體系刻不容緩。世界互聯網大會秘書長任賢良在《人民論壇》刊文指出，需從全球層面，加快構建系統前瞻、協調高效、普惠包容的全球人工智能安全與治理體系，提升各國參與治理與風險應對的能力，將人工智能的不確定性轉化為共同發展的確定性，推動全球邁向更加公平、包容、可持續的數智未來。推薦閱讀。

構建全球人工智能安全與治理體系刻不容緩

習近平總書記指出：“人工智能帶來前所未有發展機遇，也帶來前所未遇風險挑戰。”隨著人工智能技術加速迭代和規模化應用，其風險形態和影響范圍正發生深刻變化。特別是以大模型、生成式人工智能、智能體和具身智能等為代表的技術快速發展，人工智能正深度嵌入經濟社會運行體系，向更廣泛、更深層次場景拓展，相關風險不再局限于技術層面，而是呈現出跨域傳導、系統性外溢的顯著特征。斯坦福大學“以人為本的人工智能研究所”發布的人工智能指數報告顯示，2024年，人工智能風險事件呈激增態勢，報告數量同比大幅增長56.4%至233起。人工智能領域安全挑戰與治理壓力相互交織，成為全球共同面臨的現實考驗。在人工智能風險事件頻發、影響不斷外溢的背景下，單一國家或地區已難以獨立應對由技術擴散帶來的系統性挑戰，現有全球人工智能安全與治理體系面臨明顯的結構性難題。

人工智能技術的跨越式發展與快速擴散，正推動其風險系統性外溢。從技術層面看，人工智能模型和算法自身仍存在內生隱患。以深度學習為代表的主流算法體系結構復雜、運行機理不透明，模型決策過程難以解釋和驗證，在可預測性、可控性和可追責性方面存在明顯不足。一旦系統出現異常行為或決策偏差，往往難以及時溯源和修正。與此同時，受限于訓練數據質量、模型設計假設及現實環境復雜性，人工智能系統普遍存在偏見固化、魯棒性不足和輸出不穩定等問題，“幻覺”現象進一步削弱模型運行的可靠性。從應用層面看，人工智能風險在大規模部署和跨場景應用中進一步放大，會增加惡用濫用行為。隨著生成式人工智能工具的普及，內容生成、信息傳播和決策輔助等功能被廣泛嵌入公共治理、商業運行和社會生活中，人工智能生成內容的全球傳播與開源模型的快速擴散，使惡意利用門檻大幅降低，深度偽造、虛假信息操縱等濫用行為顯著增加，對公共安全、社會治理、公共信任構成沖擊。與此同時，人工智能正持續嵌入能源、交通、金融、通信等關鍵基礎設施和高風險行業領域，其潛在失效、操控或攻擊行為都具有跨領域連鎖效應，任何漏洞都可能引發系統性危機。

人工智能風險的累積加劇治理層面的挑戰。人工智能技術的內生風險暴露當前治理框架在確保技術可控、可信方面的不足。缺乏監督的算法可能延續甚至放大已有的社會偏見；數據使用過程中的個人信息濫用，也易引發用戶信任危機；系統自動決策發生錯誤時，責任歸屬難以界定，加劇治理復雜性；在安全機制不完善的情況下，數字化存儲信息可能轉化為系統性風險。人工智能風險具有明顯的跨國界、跨領域特征，數據流動、模型部署和技術擴散，可能使單一國家或地區的監管短板演化為國際性風險。

治理體系滯后于技術演進，難以形成前瞻部署與敏捷應對。人工智能技術呈現出高度不確定性和快速迭代特征，關鍵性突破的發生路徑與時間節點難以預判，而現有國際規則的制定與更新通常以多年為周期，難以及時回應技術變革，存在“治理速度差”。在方向上，由于缺乏系統化的前沿風險識別與預警機制，治理措施往往難以進行先導性部署，更多停留在事后修補層面；在協同上，多邊談判與規則協商進程緩慢，各國監管舉措不同步，客觀上放大跨境風險傳導的治理縫隙；在工具上，面向模型安全、應用風險的監測指標體系與評估平臺尚不成熟，限制監管機構在風險識別、動態評估與精準干預方面的能力。

多方協作機制不足，治理碎片化趨勢加劇。人工智能具有跨領域、跨行業、跨場景的顯著特征，其治理涉及政府、國際組織、企業、科研機構與社會公眾等多方主體。然而，現有的多利益攸關方治理機制在職責劃分、責任邊界與監督方式上仍不清晰，難以形成協同行動合力。與此同時，地緣政治博弈與技術競爭持續擠壓國際合作空間，部分國家通過出口管制、技術封鎖和“脫鉤”策略謀求優勢，客觀上加劇規則碎片化，削弱全球層面對系統性風險的集體應對能力。全球人工智能治理體系面臨協調不足、執行乏力的現實困境。

數智鴻溝持續擴大，制約全球共識形成與治理協同。隨著人工智能深度融入經濟社會運行體系，“數字鴻溝”正演化為“數智鴻溝”，從早期的“接入差距”演變為“素養差距”，并進一步向當前基于數據驅動的“智能差距”迭代，成為阻礙全球包容性發展的障礙。當前，全球人工智能發展呈現出高度不均衡態勢，算力資源、核心技術與高端人才集中于少數國家和地區，多數發展中國家面臨“算力貧困”與創新壁壘，部分國家在網絡安全防護、風險預警和應急處置方面能力不足，容易成為網絡攻擊和技術濫用的薄弱環節，對全球數字生態穩定構成潛在威脅。國際電信聯盟（ITU）《2024年事實與數據》報告顯示，高收入國家網絡已近全域千兆覆蓋，低收入國家接入率僅27%，且資費負擔沉重。技術領先國家更關注前沿突破與競爭優勢，而廣大發展中國家則更迫切需要能力建設、技術普及與風險防護支持。不同國家在技術基礎、治理能力與風險承受水平上差距顯著，不僅影響、阻礙發展中國家共享人工智能技術紅利，也導致人工智能全球治理的訴求差異，難以形成共識，影響全球人工智能安全與治理體系的構建。

全球人工智能安全與治理的國際探索與中國方案

習近平主席指出：“人工智能對未來發展具有重大意義，應該使之為各國各地區人民造福。我們要以全人類福祉為念，推動人工智能朝著有益、安全、公平方向健康有序發展。”近年來，各方正通過多層次、多方向的努力，共同推進全球人工智能安全與治理體系的構建進程。國際社會在多邊機制、區域規則、國家政策以及產業與學術實踐等層面展開積極探索，其中，中國積極參與并推動全球人工智能治理進程，貢獻出人工智能安全與治理的中國智慧。

?人工智能全球治理的國際探索

國際社會在不同層面探索人工智能全球治理，但面臨規則分散、協同不足、能力不均衡等問題。如何在此基礎上進一步凝聚廣泛共識，構建更加前瞻、協同和包容的全球人工智能安全與治理體系，是各方需要面對的共同議題。

國際多邊與頂層機制。在國際治理頂層設計上，聯合國正通過強有力的議程設置發揮核心協調作用。秘書長高級別咨詢機構相繼發布治理報告，指明全球人工智能治理方向；聯合國大會密集通過多項關鍵決議并確立《全球數字契約》，為全球治理提供行動綱領；教科文組織、國際電信聯盟等專門機構在倫理規范、應用導向及兒童保護等垂直領域細化治理維度，構建起全方位的規范體系。G20、G7、金磚國家及上合組織等國際多邊機制，以及全球人工智能安全峰會（英國、韓國、法國）等平臺，通過發布宣言、倡議，加速在安全管控、普惠發展及軍事倫理等關鍵議題上凝聚全球共識。世界互聯網大會成立人工智能專委會，發布《為人類共同福祉構建全球人工智能安全與治理體系》等報告成果，同時通過舉辦研討會、開設研修班等方式，推動建立具有廣泛國際共識的全球人工智能安全與治理體系。

區域與國家治理探索。各區域與主要國家立足自身發展階段與制度背景構建人工智能安全與治理體系。歐盟出臺具有法律約束力的《人工智能法案》，以風險分級為核心建立系統化監管框架；美國提出《人工智能風險管理框架》，強化前沿模型安全評估，并通過出口管制等措施突出國家安全導向；新加坡致力于培育可信創新生態；阿盟與非盟側重于戰略引領與政治共識的區域一體化；東盟聚焦技術形態的規范指引；拉美地區則強化高層對話與政策協調。這種“多點突破、協同共治”的格局，為全球治理體系的完善提供豐富的實踐樣本與制度儲備。

產業自律與學術探索。作為人工智能技術創新和應用的直接參與者，產業界與學術界在全球人工智能安全與治理中，正發揮日益重要的基礎性作用。學術界通過跨國研究網絡和專家對話機制，不斷深化對前沿技術風險、系統性影響和治理工具的理論研究，為政策制定提供科學支撐。產業界則通過建立內部安全框架、風險評估機制，遵循負責任研發原則，探索將安全要求嵌入技術設計、模型訓練和產品部署的全過程。

?中國的人工智能全球治理方案

在全球人工智能治理面臨規則碎片化、發展失衡和協同不足等挑戰的背景下，中國立足自身發展實踐，逐步形成一套兼顧安全、防控風險與促進發展的治理理念與實踐路徑，為國際社會提供了具有重要參考價值的中國方案。

理念層面，中國發布《全球人工智能治理倡議》，提出以“以人為本、智能向善”為重點的人工智能治理價值取向，倡議各國“秉持共同、綜合、合作、可持續的安全觀，堅持發展和安全并重的原則，通過對話與合作凝聚共識，構建開放、公正、有效的治理機制，促進人工智能技術造福于人類，推動構建人類命運共同體”。

制度建設層面，中國圍繞人工智能全生命周期，持續推進系統化的安全與治理框架構建。相繼發布《人工智能安全治理框架》1.0版和2.0版，對人工智能技術內生風險、應用風險和衍生風險進行分類梳理，明確提出以風險分級分類管理為基礎，將安全要求嵌入模型研發、部署和應用全過程。這一框架注重將前沿風險防控與現實應用治理相結合，強調統籌技術創新和應用實踐，構建跨國界、跨領域、跨行業的協同治理格局，為各類治理主體提供相對清晰、可操作的政策指引。

實踐探索層面，中國在算法、數據和應用層面同步推進。通過推進落實模型安全評測、算法備案、生成合成內容標識等制度文件，加強對高風險模型和應用場景的規范管理，提升人工智能系統的可控性和可追溯性。

國際合作層面，中國積極推動人工智能治理的多邊化和機制化進程，強調以聯合國為中心，通過國際組織和多邊平臺開展政策對話、經驗交流與能力建設合作。2025年，中國發布《人工智能全球治理行動計劃》，提出圍繞前沿風險應對、治理規則對接和能力建設等重點方向，深化國際協作，倡議成立世界人工智能合作組織，旨在為各國特別是發展中國家參與全球人工智能治理提供平臺。

應對人工智能風險，構建系統前瞻的安全與治理體系

面對全球人工智能風險挑戰，單一國家、單一部門已難以有效應對跨領域、跨區域、跨系統的復雜風險。亟需從全球層面加快構建兼具前瞻性、系統性的人工智能安全與治理體系，提升對系統性風險的整體應對能力。

強化前瞻研判與風險預警，防范前沿技術失控風險。人工智能技術迭代速度快、突破路徑不確定性高，模型能力與安全特性高度復雜，需堅持“科學、敏捷、協作”的原則，將前瞻研判作為構建全球人工智能安全與治理體系的重要起點，推動共識形成，加強機制建設，共建平臺生態，推動治理模式由被動應對向主動防范轉變。一是推動形成防范前沿人工智能系統性風險的國際共識。圍繞前沿模型能力失控、規模化外溢風險等關鍵問題，加強政策層面對話與專家層面交流，將防范系統性和災難性風險作為各國前沿技術發展的共同底線。二是完善前沿風險識別、評估與預警機制。依托多邊合作平臺，加強對前沿模型能力演進、安全特性及潛在風險的持續跟蹤，探索建立覆蓋模型訓練、部署和演化全過程的風險監測框架，為提前識別和干預重大風險提供支撐，縮小治理與技術發展的“時間差”。三是探索共建人工智能安全評測的共性工具與平臺生態。通過國際合作推動開發開放、可共享的安全測試工具、評測方法和基準數據集，開展前沿模型的聯合評測與風險測試，逐步形成面向全球的人工智能安全技術工具箱，為治理決策提供支撐。

加強跨境規則協調，防范治理碎片化放大系統性風險。算法透明、隱私保護、內容安全等已成為全球共同議題，任何單一國家都難以獨自應對。規則分化、標準割裂和監管不同步，容易形成治理“縫隙”，放大潛在風險。應在尊重各國國情和發展階段差異的基礎上，推動全球治理規則的協調銜接。其一，以發展負責任的人工智能為原則共識，提升模型透明度和可解釋性，尊重隱私、加強數據治理，確保人工智能公平、安全、可靠。其二，加強重點領域治理規則的對接與互認。圍繞人工智能生成內容、模型濫用、跨境應用等風險較為集中的領域，加強政策溝通與標準協同，逐步提升人工智能生成內容的可識別性、可追溯性。其三，完善跨境協作與執法協同機制。通過信息共享、聯合研判和協同處置，提升對跨境濫用惡用行為的應對能力，防止局部風險通過技術擴散演變為區域性乃至全球性問題，減少治理碎片化帶來的監管風險，增強全球人工智能安全與治理體系的整體韌性。

加強多方協作，構建協調高效的安全與治理體系

人工智能技術發展和實踐應用涉及多方主體，包括政府、國際組織、企業、科研機構與社會公眾等。實現全球人工智能安全與治理體系，除了需要全球各國形成共識，也需要不同主體的協同合作、共同參與。

明晰各方權責，構建協調有力的安全與治理體系。人工智能治理涉及政府、國際組織、企業、科研機構與社會公眾等主體，角色差異、資源稟賦與目標取向的不同，導致在責任界定、規則落實和協同能力方面的結構性挑戰。為破解責任模糊與執行困境，需構建權責明晰、協同有力的多利益攸關方治理體系。政府承擔制度供給、監管執行和風險防控等職責，通過完善法律法規和政策框架，明確安全底線與合規要求，并提升對高風險模型和關鍵應用場景的監管執行與風險處置能力。國際組織在標準互認、規則對接、能力建設方面發揮協調與支撐作用，并支持發展中國家提升治理能力。企業切實履行安全與合規責任，在模型設計、數據治理和內容生成等關鍵環節強化風險管理，落實算法安全、透明度和責任追溯要求。科研機構提供前沿技術評估與風險研判的方法支撐，公眾通過反饋、監督與參與提升治理包容性。

構建以聯合國為中心的多邊治理體系。構建以聯合國為中心的多邊治理體系，是構建全球人工智能安全與治理體系的重要方向。聯合國在成員覆蓋和議題整合方面具有不可替代的優勢，是協調全球人工智能安全與治理資源的重要平臺。需以聯合國為中心，探索在聯合國框架下推動多邊合作從倡議性安排向制度化協作轉型。一方面，在聯合國框架下建立跨機構的人工智能治理協調機制，推動不同機構間議程對接與政策整合，提升全球規則的一致性與開放性；另一方面，通過跨機構合作網絡、信息共享機制、跨境執法協作和能力建設平臺，逐步形成覆蓋風險評估、內容治理、模型測評、倫理審查等關鍵環節的制度化合作體系，推動形成更加穩定、分工合理、可持續的治理格局。

凝聚廣泛共識，構建普惠包容的安全與治理體系

2024年6月12日，習近平主席在向聯合國貿易和發展會議成立60周年慶祝活動開幕式發表視頻致辭時指出，“堅持以人為本、智能向善，在聯合國框架內加強人工智能規則治理”，為全球人工智能安全與治理提供建設性思路。踐行“以人為本、智能向善”共識，彌合日益擴大的數智鴻溝，共建網絡空間命運共同體，是全球人工智能安全與治理的重要任務。

落實“以人為本、智能向善”的全球共識。“以人為本、智能向善”是當前國際社會在人工智能治理領域具有廣泛基礎的價值共識。盡管各國在發展階段、制度模式和利益訴求上存在差異，但維護公共安全、保障人的尊嚴、促進社會福祉始終是各國的共同目標。當前，地緣政治博弈和技術競爭正對全球治理合作造成沖擊，以“小圈子”和排他性安排為特征的規則制定方式，削弱國際規則的開放性與協調性，侵蝕多邊合作的廣泛參與基礎。某些西方國家將人工智能視為戰略競爭工具，采取出口管制、技術封鎖和供應鏈脫鉤等措施，不僅損害長期積累的國際科技合作網絡，也加劇全球治理機制的碎片化趨勢。在此背景下，落實“以人為本、智能向善”的價值共識具有現實緊迫性和長遠意義。無論技術路線如何分化，人工智能都應服務于公共利益和社會發展。在推進共識落地方面，聯合國《未來契約》《全球數字契約》等文件，已在理念和規范層面形成廣泛影響。可依托人工智能問題獨立國際科學小組等機制，強化風險研判、政策咨詢和科學傳播方面的功能，在為聯合國系統和各國政府提供專業支持的同時，為政策協商和風險溝通提供共同認知基礎。

彌合數智鴻溝，構建普惠包容的安全與治理體系。需正視全球人工智能發展鴻溝與各國治理訴求的差異，通過技術共享與數智素養培育，提升發展中國家能力，解決發展中國家的利益關切。重視發展中國家在基礎設施、算力供給、數據利用和治理能力方面的現實約束，通過技術援助、經驗共享和能力對接，提升其自主發展與治理能力，使人工智能真正成為促進發展而非加劇不平等的技術力量。著力完善與各國技術能力及發展水平相適應的差異化責任體系，推動建立靈活務實、分層分類的國際協作與支持機制。根據各國發展水平、技術能力與治理基礎，分類設定相應義務，在確保技術領先的開發主體切實承擔前沿模型風險研判與治理責任的同時，保障受影響的各方有效行使監督權利。同時，將開放包容的多邊協商平臺制度化，確保各國在技術標準協調、政策框架構建與風險應對過程中享有實質性參與空間，在國際規則制定與議程設置中保障發展中國家的平等參與權和代表性，促進共同安全，提升全球數字生態韌性。通過加強跨國能力建設合作和公共產品供給，縮小不同國家在風險識別、應急響應和制度執行方面的差距，防止局部問題向系統性風險演化，為網絡空間的長期穩定提供支撐。

攜手共建網絡空間命運共同體，應對全球人工智能安全與治理難題。2024年，為落實聯合國大會關于加強人工智能能力建設國際合作的決議，中國提出“人工智能能力建設普惠計劃”，倡導將發展置于全球人工智能治理的重要位置，推動更多資源投入發展中國家能力建設。一是助力基礎設施建設，通過支持跨境通信網絡建設、輸出成熟的智能城市解決方案等方式，助力發展中國家在政務、交通、教育和醫療等領域實現數智化升級。例如，通過中非衛星遙感合作等項目，向多國無償提供高分辨率數據資源，提升其在自然資源管理和公共治理中的自主應用能力。二是深化數字政策溝通與多邊協作，依托《全球人工智能治理倡議》《全球數據安全倡議》等倡議文件，推動聯合國層面就能力建設形成制度共識，并在中非、中國-東盟等合作框架下推進數字與人工智能合作行動計劃落地，打造南南合作的重要實踐平臺。三是著力提升數智素養和人才能力，通過世界數字教育大會、數字研修項目和聯合培訓機制，圍繞人工智能、數據治理、網絡安全和數字經濟關鍵領域，支持發展中國家培養兼具技術能力與治理意識的復合型人才。

構建具有廣泛共識、前瞻系統、協同高效、普惠包容的人工智能安全與治理體系，是智能化浪潮下國際社會面臨的共同課題。唯有秉持開放、公正、有效的治理理念，在統籌發展關切與安全目標的基礎上推進規則協調與能力建設并行，才能不斷夯實全球人工智能安全與治理體系的現實支撐。通過彌合數智鴻溝、提升各國參與治理與風險應對的能力，將人工智能的不確定性轉化為共同發展的確定性，推動全球邁向更加公平、包容、可持續的數智未來。

上文略有刪減

選自 | 《人民論壇》雜志2026年第3期

原標題 | 構建全球人工智能安全與治理體系

作者 | 世界互聯網大會秘書長 任賢良

新媒體編輯 | 趙光菊

原文責編 | 董惠敏

人民論壇新書上架

《治理智慧每日讀》正式發售

300余條治理智慧

幫助黨員干部深化治理認知

增強履職本領