肖珺：如何優(yōu)化網(wǎng)絡(luò)生態(tài)治理？

來源 | 人民論壇網(wǎng)-人民論壇雜志

轉(zhuǎn)載請注明來源

“十五五”規(guī)劃綱要指出：“健全網(wǎng)絡(luò)綜合治理格局，完善網(wǎng)絡(luò)生態(tài)治理長效機(jī)制，規(guī)范網(wǎng)絡(luò)內(nèi)容生產(chǎn)、信息發(fā)布和傳播流程，督促互聯(lián)網(wǎng)企業(yè)履行社會責(zé)任。”網(wǎng)絡(luò)生態(tài)治理在國家治理中占有重要地位，面對生成式人工智能技術(shù)的快速發(fā)展和社會普及，人機(jī)協(xié)同的新應(yīng)用、新現(xiàn)象和新問題不斷涌現(xiàn)。當(dāng)前，人機(jī)社會網(wǎng)絡(luò)生態(tài)治理面臨哪些難點？如何提升媒介化治理？推薦閱讀武漢大學(xué)媒體發(fā)展研究中心副主任肖珺在《人民論壇》的最新刊文。

人機(jī)社會網(wǎng)絡(luò)生態(tài)治理面臨的難點

人類社會正在共同面對人工智能、大數(shù)據(jù)等新技術(shù)新應(yīng)用不斷涌現(xiàn)帶來的新問題，傳播生態(tài)重要的變化是，逐漸脫離人類中心的交往模式，轉(zhuǎn)向人與機(jī)器等多樣主體共生的語境。數(shù)字化、網(wǎng)絡(luò)化、平臺化、智能化的發(fā)展大勢，給網(wǎng)絡(luò)生態(tài)治理帶來新議題，也提供新的可能性。網(wǎng)絡(luò)生態(tài)治理建立在全球人工智能開放生態(tài)的基礎(chǔ)上，那么，著眼深入推進(jìn)國家治理體系和治理能力現(xiàn)代化目標(biāo)，當(dāng)前的薄弱環(huán)節(jié)，即我們正在面對的難點主要體現(xiàn)在以下幾個方面。

面對人機(jī)共生新圖景，網(wǎng)絡(luò)生態(tài)治理將面對多方共治新格局。“十五五”規(guī)劃綱要中，關(guān)于“人工智能+”治理能力的發(fā)展目標(biāo)包括，要“探索構(gòu)建自然人、數(shù)字人、智能機(jī)器人等協(xié)同的安全治理體系”。在一定程度上，這是對人類社會已經(jīng)邁入“人—機(jī)—人”平行存在、交互共生的人機(jī)社會的政策回應(yīng)。大型語言模型、算法決策系統(tǒng)等機(jī)器智能，不僅具備語言理解、信息整合、判斷生成、作品產(chǎn)出等能力，而且通過人類實現(xiàn)對這些能力的運(yùn)用和不斷創(chuàng)新，深入“參與到人類社會的關(guān)鍵領(lǐng)域（如治理）”，這不僅改變社會構(gòu)成，而且是把純粹的、以人類為唯一行動者的社會，轉(zhuǎn)型為人類與機(jī)器協(xié)同的人機(jī)社會。人機(jī)社會比較本質(zhì)的變化是，機(jī)器不再僅僅是人類生產(chǎn)與生活的工具，而成為具備與人類共生、共情、共識和共作的交往和行動主體，這使得機(jī)器智能快速、普遍和深入地嵌入人類社會運(yùn)行系統(tǒng)中。

“人機(jī)社會”的概念指向三重內(nèi)涵。首先，網(wǎng)絡(luò)生態(tài)治理，將是面向自然人、數(shù)字人，以及智能機(jī)器人等多方主體的公共安全治理體系；其次，強(qiáng)調(diào)生成式人工智能作為技術(shù)基礎(chǔ)設(shè)施，對人類社會交往（經(jīng)濟(jì)、政治、法律、道德、文化等）帶來的整體性塑造；再次，指向人機(jī)交往的可能風(fēng)險，當(dāng)人類社會開始改變以人為中心，或以人為主導(dǎo)的傳播交互方式，就會出現(xiàn)技術(shù)性依賴、虛擬交往成癮、人機(jī)治理關(guān)系倒置以及社會不平等問題，將造成高度不確定性的治理困境。近年來，以中美為代表的全球主要國家，都在快速提升基礎(chǔ)設(shè)施建設(shè)的智能化領(lǐng)先水平，人機(jī)社會將被嵌入、滲透，以及彌散至互聯(lián)互通、多樣感知，且品類豐富的全球溝通平臺中，數(shù)智化信息協(xié)同網(wǎng)絡(luò)，正同步推動人類機(jī)器化和機(jī)器人類化的加速融合。

全球領(lǐng)先平臺加速完善AI生態(tài)系統(tǒng)，人機(jī)協(xié)同行動成為現(xiàn)實，這將大幅度增加對人機(jī)混合行為的治理難度。在人機(jī)融合復(fù)雜社會系統(tǒng)中，各種社會活動通過人機(jī)交互，可在大時空尺度上形成數(shù)字化連接，這給社會治理帶來較大挑戰(zhàn)。近一年，全球領(lǐng)先平臺深度優(yōu)化人機(jī)交互功能，以收購、開源等方式，提升人機(jī)交流質(zhì)量、用戶黏性，并拓展應(yīng)用場景，加速完善的AI生態(tài)系統(tǒng)使得人機(jī)混合行為日益普遍和深入。例如，2025年12月，Meta（原Facebook）在歷經(jīng)較短時間的談判后，以數(shù)十億美元收購源自中國的AI應(yīng)用Manus。Manus是像人一樣，可以調(diào)度各種工具，并解決復(fù)雜問題的AI智能體（Agent），可以賦予Meta用戶更強(qiáng)大的社會行動力，完成報告寫作、財務(wù)分析、旅行規(guī)劃等復(fù)雜任務(wù)。Manus將被整合到Meta旗下的Facebook、Instagram，以及WhatsApp、Workplace等平臺的VR/AR生態(tài)系統(tǒng)中，用戶將從與AI“聊天”，升級到聯(lián)合AI“做事”。

人機(jī)混合行為在虛實融合的社會交往系統(tǒng)中，將涌現(xiàn)大量治理新課題。可預(yù)判的是，這將會直接增大數(shù)據(jù)跨境流動和監(jiān)管合規(guī)難度，并導(dǎo)致算法“黑箱”帶來的責(zé)任真空難題。仍以Manus與Meta生態(tài)系統(tǒng)為例。截至2025年12月初，Manus已累計處理超147萬億個詞元（Token），啟動8000多萬臺虛擬計算機(jī)，為全球數(shù)百萬用戶提供服務(wù)。人機(jī)混合行為產(chǎn)生后，智能體的強(qiáng)任務(wù)規(guī)劃與自主執(zhí)行能力，將導(dǎo)致人機(jī)交互點的分散化、責(zé)任鏈條的碎片化，以及算法機(jī)制的非解釋性，高風(fēng)險社會治理問題一旦發(fā)生，將出現(xiàn)無主體、無對象治理之困，進(jìn)而可能會對社會體制產(chǎn)生深層次的影響。2026年初，OpenClaw作為開源智能體項目在全球引發(fā)安裝熱潮，其憑借強(qiáng)大的自動化任務(wù)處理能力與開放式插件生態(tài)，而被快速應(yīng)用到個人用戶、企業(yè)，以及金融、能源等關(guān)鍵行業(yè)。同時也出現(xiàn)主機(jī)被接管、竊取用戶關(guān)鍵信息、泄露敏感信息，以及金融詐騙、無視用戶指令等安全問題。當(dāng)前，AI大模型迭代速度較快，正成為推進(jìn)全球信息秩序變化的關(guān)鍵力量。全球海量用戶的個人敏感信息、辦公信息、商業(yè)數(shù)據(jù)、行為流動數(shù)據(jù)等，在人機(jī)混合行為中不斷運(yùn)行、遷移、滲透和交匯，人機(jī)交往以無法估量的混合數(shù)據(jù)方式，與有的國家的法律法規(guī)產(chǎn)生摩擦和沖突，看似去中心化的透明世界，卻令算法“黑箱”現(xiàn)象更加顯著。網(wǎng)絡(luò)生態(tài)治理的關(guān)鍵，是對基礎(chǔ)設(shè)施和自動化行為的掌控能力，否則，數(shù)據(jù)獲取、安全維護(hù)等高昂成本，容易成為社會治理壁壘。

人機(jī)交互平臺虛假信息尚難根治，有可能破壞輿論秩序和社會穩(wěn)定，加大社會安全認(rèn)知風(fēng)險。AI將加劇虛假信息的多樣性和病毒式傳播，在互聯(lián)網(wǎng)上，深度偽造、假新聞及虛假信息等問題頻發(fā)。2026年，央視“3·15”晚會，揭露生成式引擎優(yōu)化（簡稱GEO）技術(shù)被濫用的產(chǎn)業(yè)亂象，如通過批量制造虛假信息、系統(tǒng)性“投喂”AI大模型等方法，實現(xiàn)對AI回答結(jié)果的操控，大幅度提升所謂品牌“優(yōu)品”或虛擬產(chǎn)品的曝光度，這被稱為給AI“投毒”的黑產(chǎn)。2025年4月以來，中央網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項行動，從公布的一系列案例可見，利用AI技術(shù)制作發(fā)布謠言、不實信息、色情低俗內(nèi)容，以及假冒他人、從事網(wǎng)絡(luò)水軍活動等，已是社會突出問題。網(wǎng)絡(luò)生態(tài)治理將面對的較大挑戰(zhàn)是，AI加劇的虛假信息生產(chǎn)，在政治信息、社會事件等公眾高度關(guān)注的話題領(lǐng)域，已成為認(rèn)知風(fēng)險的根源之一。

人機(jī)交互平臺虛假信息層出不窮的現(xiàn)象，勢必在相當(dāng)長時間里對輿論秩序造成破壞。其中，多模態(tài)生成技術(shù)（如Sora）的成熟，使得偽造視頻和圖像在精細(xì)度上已趨近現(xiàn)實。深度偽造可能導(dǎo)致公眾在面對突發(fā)社會事件時，因無法判別證據(jù)的真?zhèn)味a(chǎn)生認(rèn)知偏差。同時，AI生成的虛假信息，通過夸大事實、強(qiáng)烈情感刺激，來“投喂”平臺算法機(jī)制，又會加速輿論場的劣化趨勢。尤其需防范的是，某些跨國利益集團(tuán)利用AI技術(shù)構(gòu)建大規(guī)模自動化賬號矩陣，針對特定議題制造虛假的民意傾向，進(jìn)而帶來全球性的系統(tǒng)化價值觀偏見和沖突。此外，AI驅(qū)動的信息戰(zhàn)，即刻且明顯地改變?nèi)祟惿鐣_突中的輿論格局，進(jìn)而影響社會心理和國際政治。

人機(jī)情感交互催生自然人新型心理問題，加劇平臺用戶的態(tài)度極化，將明顯加重青少年和老年人的身心壓力。生成式人工智能，深度介入互聯(lián)網(wǎng)平臺的信息檢索、內(nèi)容生產(chǎn)和情緒傳播等領(lǐng)域，呈現(xiàn)向深層認(rèn)知塑造與情感交互演進(jìn)的趨勢，網(wǎng)絡(luò)空間的風(fēng)險形態(tài)進(jìn)而轉(zhuǎn)變。由于大語言模型（LLM）往往被訓(xùn)練成為過度順從和諂媚（Sycophancy）用戶，聊天機(jī)器人會出現(xiàn)過度迎合用戶的現(xiàn)象，通過情緒模仿和阿諛奉承，使自然人浸潤于人機(jī)交互產(chǎn)品提供的，犧牲真實性、缺少“道德自律”的虛擬環(huán)境里，進(jìn)而催生人類的新型心理問題。可預(yù)判的一點是，AI通過模擬人類情感、介入人際連接網(wǎng)絡(luò)，逐漸成為社會負(fù)面情緒的催化載體與行動意愿的隱性干預(yù)主體。人機(jī)情感交互產(chǎn)品的全球用戶基數(shù)較大，市場影響力較強(qiáng)。人機(jī)交互平臺，通過信息過濾、算法推薦和情感傳播等機(jī)制，在一定程度上加劇群體的態(tài)度極化。例如，《華爾街日報》披露的“Facebook檔案”（The Facebook Files）顯示，平臺內(nèi)算法模型已被設(shè)計為優(yōu)先推送引發(fā)用戶憤怒的內(nèi)容。不過，人們即便意識到態(tài)度極化的風(fēng)險，當(dāng)前的全球網(wǎng)絡(luò)環(huán)境和用戶心理特征也很難優(yōu)化公共討論空間。

網(wǎng)絡(luò)輿論治理的難題在于，一方面，人機(jī)對話的積極回應(yīng)和反饋循環(huán)，使得用戶自身具有的情緒化、依賴性、偏執(zhí)化等心理缺陷，較難走出自我態(tài)度極化的困境；另一方面，用戶通過同質(zhì)化、煽動性的AI生成內(nèi)容，快速形成情感共同體，態(tài)度極化使得社會動員模式呈現(xiàn)明顯的情感中心主義特征。網(wǎng)絡(luò)生態(tài)治理事關(guān)人民群眾切身利益，需持續(xù)營造風(fēng)清氣正的網(wǎng)絡(luò)空間。同時，人機(jī)情感交互中自然人頻繁、沉浸式與聊天機(jī)器人互動后，機(jī)器正反饋的設(shè)計特性、諂媚式回應(yīng)及擬人化交互，容易催生情感幻覺。尤其對青少年、老年人而言，更容易產(chǎn)生身心壓力，導(dǎo)致情緒異常和態(tài)度極化，進(jìn)而增加網(wǎng)絡(luò)生態(tài)治理中的社會情感風(fēng)險。

優(yōu)化網(wǎng)絡(luò)生態(tài)治理的媒介化治理對策

人工智能通過廣泛連接、相互關(guān)聯(lián)的傳播，推動與智能媒介緊密相關(guān)的傳播過程的整體變化，并與文化等社會變遷之間生成相互依存的媒介化（mediatization）系統(tǒng)。人機(jī)社會的所有元素，都與智能媒介及其基礎(chǔ)設(shè)施發(fā)生著深刻的關(guān)系，深度媒介化的人機(jī)糾纏（entanglement）使得媒介化治理成為一種可能路徑。媒介化治理，通常強(qiáng)調(diào)媒介（平臺）邏輯、媒介功能等，在過程性治理實踐中，激發(fā)多方主體協(xié)同參與和協(xié)商的價值，治理目標(biāo)則是實現(xiàn)多方主體的情感共通與共識達(dá)成。據(jù)此，我們需聚焦提升網(wǎng)絡(luò)生態(tài)治理的前瞻性、精準(zhǔn)性、系統(tǒng)性和協(xié)同性。

著力提升網(wǎng)絡(luò)生態(tài)治理前瞻性，預(yù)判人機(jī)混合行為的演進(jìn)邏輯，采用“敏捷治理”新模式。為進(jìn)一步解決人工智能乃至智能體的法律主體地位確認(rèn)及監(jiān)管制度，算法黑箱帶來的責(zé)任真空等一系列問題，可考慮采用“敏捷治理”的新模式。“敏捷治理”是一種與技術(shù)發(fā)展同步推進(jìn)、動態(tài)調(diào)整的靈活治理方式。其強(qiáng)調(diào)靈活性、適用性、柔韌性、以人為本的決策過程。新加坡被眾多研究者視為敏捷治理的代表，如該國在人工智能治理框架中，首先從頂層設(shè)計層面，明確“人工智能決策過程可解釋、透明、公平”等原則，2022年又推出全球首個名為“AIVerify”的人工智能治理測試框架，這一面向全球的開源工具，成為企業(yè)評估AI系統(tǒng)可靠性、透明度與公平性的標(biāo)準(zhǔn)化工具。我國也正在開展靈活修正和透明決策的敏捷治理工作，如根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者，履行分批分類備案手續(xù)；針對OpenClaw出現(xiàn)的治理風(fēng)險，國家安全部快速發(fā)布《“龍蝦”（OpenClaw）安全養(yǎng)殖手冊》，特別提示用戶理性辨別、規(guī)范使用，以積極的心態(tài)和慎重的執(zhí)行擁抱人工智能時代。

加強(qiáng)網(wǎng)絡(luò)生態(tài)治理精準(zhǔn)性，開展人文倫理前置的數(shù)智媒介素養(yǎng)教育，規(guī)范網(wǎng)絡(luò)內(nèi)容生產(chǎn)、信息發(fā)布和傳播流程。為加強(qiáng)網(wǎng)絡(luò)生態(tài)治理精準(zhǔn)性，開展數(shù)智媒介素養(yǎng)教育，需強(qiáng)調(diào)人文倫理的重要性，分級分類規(guī)范網(wǎng)絡(luò)內(nèi)容生產(chǎn)、信息發(fā)布和傳播流程，促進(jìn)人機(jī)交互中的理性對話和共識建構(gòu)。一方面，需從快提升黨員干部的數(shù)智媒介素養(yǎng)。提前識別并消除AI“幻覺”或機(jī)器意識形態(tài)偏見，從根源上規(guī)避技術(shù)“黑箱”帶來的不可控風(fēng)險；優(yōu)化與AI合作的實踐引導(dǎo)路徑，發(fā)展基于官方權(quán)威信息、歷史準(zhǔn)確事實、高標(biāo)準(zhǔn)倫理道德的底層架構(gòu)模式；超越單純的技術(shù)理性視角，將政治安全與社會公共利益、文化建設(shè)納入媒介生態(tài)系統(tǒng)建設(shè)標(biāo)準(zhǔn)。

另一方面，需加快研發(fā)面向普通公眾的普及教育與專項培養(yǎng)計劃。其關(guān)鍵路徑在于教育人們?nèi)绾畏直婵煽啃畔⒃矗约皫椭藗兠逄摷傩畔⒌摹疤茁贰保和ㄟ^案例庫建設(shè)和場景傳播，加快教育普及，對中央網(wǎng)信辦等部門公布的案例，以及全球影響力較大的典型案例等進(jìn)行深入研究，并形成可供多場景（教育、家庭、辦公等）使用的案例庫；針對心智發(fā)育不成熟的青少年群體，加強(qiáng)生命觀、情感觀教育，創(chuàng)建人機(jī)協(xié)同的青少年成長計劃；聚焦老年人群體，則重在避免AI騙局、生命財產(chǎn)損失、情感傷害的人機(jī)守護(hù)計劃；專項培養(yǎng)精通人機(jī)協(xié)作、善用智能工具、遵循傳播倫理的新型“意見領(lǐng)袖”，發(fā)揮他們在虛實融合世界中的輿論引導(dǎo)能力和社會治理潛力。新加坡一直大力發(fā)展國家人工智能戰(zhàn)略，在新加坡，有大學(xué)推出并重新設(shè)計超過130門人工智能課程，有大學(xué)與機(jī)構(gòu)合作，推出首個面向設(shè)計與媒體從業(yè)人員的人工智能認(rèn)證，有全國性機(jī)構(gòu)推出人工智能學(xué)徒計劃，以幫助更廣泛的社會群體。更精細(xì)、更具有人文關(guān)懷的分級分類媒介素養(yǎng)教育，有助于自然人通過人機(jī)交流實踐，生成基于情感、自我修正、導(dǎo)向“成人”的能力和智慧，實現(xiàn)更好的數(shù)字文明。

提升網(wǎng)絡(luò)生態(tài)治理系統(tǒng)性，倡導(dǎo)事實核查的制度化建設(shè)，構(gòu)建自適應(yīng)、自學(xué)習(xí)的網(wǎng)絡(luò)生態(tài)治理體系。事實核查可以從虛假信息中恢復(fù)秩序，保持媒介體制韌性。伴隨全球社會發(fā)展和數(shù)智媒體普及，執(zhí)行事實核查群體，已拓展至主流媒體、商業(yè)媒體、互聯(lián)網(wǎng)平臺，以及社會公眾賬號等共同行動者。人機(jī)社會治理可倡導(dǎo)事實核查的制度化建設(shè)，依托一體化算力網(wǎng)絡(luò)與政務(wù)數(shù)據(jù)共享平臺，打破部門間的數(shù)據(jù)壁壘與治理邊界，通過構(gòu)建標(biāo)準(zhǔn)化數(shù)據(jù)接口與跨域數(shù)據(jù)整合機(jī)制，將網(wǎng)信、政務(wù)、媒體傳播等多維度數(shù)據(jù)，轉(zhuǎn)化為治理過程中的可操作變量，人機(jī)協(xié)同構(gòu)建自適應(yīng)、自學(xué)習(xí)的治理體系。最新研究指出，以情報核實為首要任務(wù)的AI for Intelligence（簡稱AI4I）可被應(yīng)用于事實核查中。AI4I通過智能系統(tǒng)的機(jī)制配置和流程重組，在信息不完整甚至容易遭受人為干擾的人機(jī)交互語境中，通過“認(rèn)知—因果—對抗”三類機(jī)制的嵌入與調(diào)度，重組“發(fā)現(xiàn)、核實、穩(wěn)健和再發(fā)現(xiàn)”的事實核查流程。可以預(yù)期，針對生成式人工智能引發(fā)的虛假信息泛化等新型治理風(fēng)險，以消息的信源透明度、過程透明度與結(jié)論透明度為參考指標(biāo)，需充分發(fā)揮人工智能在輔助事實核查中的重要作用，嵌入多模態(tài)識別、內(nèi)容溯源標(biāo)識等技術(shù)模塊，建設(shè)制度化的自我校正機(jī)制，構(gòu)建集態(tài)勢感知、風(fēng)險預(yù)警、決策輔助、應(yīng)急處置于一體的系統(tǒng)化治理流程。

提升網(wǎng)絡(luò)生態(tài)治理協(xié)同性，積極參與國際對話，創(chuàng)新人機(jī)交流語態(tài)和模式，生動展現(xiàn)可信、可愛、可敬的中國形象。若要使人工智能成為造福人類的國際公共產(chǎn)品，就需提升全球社會的治理協(xié)同性，共同打造平權(quán)、互信、多樣、共贏的人工智能能力建設(shè)開放生態(tài)。文化治理成為提升網(wǎng)絡(luò)生態(tài)治理協(xié)同性的一種可能路徑，在積極參與國際對話中，智能向善是創(chuàng)新人機(jī)交流語態(tài)和模式的價值錨點。智能向善是國際協(xié)商中的共同話語，旨在建設(shè)全球開放生態(tài)，創(chuàng)建能實現(xiàn)全面和包容性的媒介環(huán)境，打造安全、可靠和可信的人機(jī)交流生態(tài)。在創(chuàng)新人機(jī)交流語態(tài)和模式時，需通過可溝通、可共情、可互鑒的對外傳播，生動展現(xiàn)可信、可愛、可敬的中國形象。例如，在講述中國故事時，始終強(qiáng)調(diào)堅持以人為本，在保障社會安全、尊重人類權(quán)益的前提下，構(gòu)建更具包容性、更公平和普惠的人工智能全球治理框架。多挖掘和分享中國參與的，通過人機(jī)深度融合解決氣候變化、教育、就業(yè)、醫(yī)療保健，以及信息平等、防災(zāi)減災(zāi)等全人類共同難題時，所作的努力和貢獻(xiàn)。智能向善不僅是人機(jī)社會遵循的文化理念，而且是從文明演進(jìn)的高度，完善網(wǎng)絡(luò)生態(tài)治理的有效路徑。

上文略有刪減

選自 | 《人民論壇》雜志 2026年第7期

原標(biāo)題 | 人機(jī)社會網(wǎng)絡(luò)生態(tài)治理的難點及對策

作者 | 武漢大學(xué)媒體發(fā)展研究中心副主任、教授、博導(dǎo) 肖珺

新媒體編輯 | 趙光菊

原文責(zé)編 | 謝帥

人民論壇新書上架

《治理智慧每日讀》正式發(fā)售

300余條治理智慧

幫助黨員干部深化治理認(rèn)知

增強(qiáng)履職本領(lǐng)