習近平總書記在中共中央政治局第十二次集體學習時強調，要從維護國家政治安全、文化安全、意識形態安全的高度，加強網絡內容建設，使全媒體傳播在法治軌道上運行。互聯網的飛速發展推動信息傳播方式發生深刻變革，人們通過網絡瀏覽信息、獲取服務、表達訴求、開展監督。根據中國互聯網絡信息中心發布的第42次《中國互聯網絡發展狀況統計報告》，截至2018年6月，我國網絡新聞用戶規模為6.63億，手機網民規模達7.88億。在全媒體時代，加強網絡空間治理，加強網絡內容建設，日益成為推進國家治理體系和治理能力現代化的重要方面。

全媒體時代網絡內容治理面臨的挑戰

網絡內容生產與分發的專業化、多元化、技術化、智能化帶來海量信息流，給網絡內容治理帶來前所未有的困難與挑戰。根據國家統計局和中國互聯網絡信息中心數據統計，截至2018年6月，我國網民規模達8.02億、網站544萬、移動應用412萬款，網絡內容類移動應用超過216萬，下載量超過5600億次。網絡平臺的豐富、多元、分散給內容生產者提供了廣闊空間，從PGC（專業生產內容）、UGC（用戶生產內容）到OGC（職業生產內容）、CGC（社群生產內容），再到MCN（多頻道網絡），網絡內容生產與分發變得更加多元、專業和智能，帶來了更加豐富、多樣、生動、感性的網絡信息，同時也會帶來大量無效信息、重復信息甚至有害信息。一些內容生產者為了博眼球、上熱搜，不擇手段地標新立異、毫無底線地迎合受眾，甚至制造低俗話題和虛假有害內容，給信息把關人和管理者帶來嚴峻挑戰。比如，一些短視頻平臺上含有色情暴力元素、宣揚紙醉金迷生活方式的作品，經過算法推薦技術進行大量分發后，吸引百萬千萬粉絲，造成錯誤的價值導向。盡管有關部門對違規主播和視頻實行禁播處理、對違規內容實行禁止轉發等管理措施，但仍然禁而不止。一些網絡平臺在內容分發上奉行技術中心主義，給公眾帶來“信息繭房”、觀念窄化等嚴重問題，也給內容治理帶來技術挑戰。

商業網絡平臺逐利意識強烈、社會責任意識淡薄，使得網絡內容生態面臨被資本綁架的風險與挑戰。截至2017年年底，我國上市互聯網企業102家，市值總和超過8萬億元人民幣。互聯網企業發展從一開始就與風險資本關系緊密。最近，中國信通院發布《2018年第三季度互聯網投融資運行情況》顯示，2018年第三季度中國互聯網投融資筆數達到892件，同比增長66.4%，融資金額達到152億美元。據工信部數據顯示，2018年我國互聯網百強企業收入規模為1.72萬億元，互聯網業務收入同比增長50.6%，相比五年前翻了兩番多。客觀來看，風險資本對中國互聯網行業快速發展發揮了非常重要的推動作用，但毋庸諱言，資本的逐利性也在綁架甚至驅動一些網絡內容創業公司走向野蠻生長之路，奉行流量至上的價值觀。比如，一些短視頻應用和直播平臺經常出現“三低”信息、搜索引擎導向虛假網站、“買熱搜”現象等，產生了負面社會影響。流量為王、資本至上的發展思路，也容易導致互聯網企業過度追逐經濟利益而罔顧社會效益。

網民網絡素養參差不齊，群體極化帶來的網絡暴力等問題威脅網絡生態良性發展。互聯網已成為人們日常生活的一部分。近年來微信群、QQ群、微博群等各類互聯網群組不斷涌現，社交媒體的興起使得信息傳播呈現圈層化、裂變式擴散，字數限制、快速傳播、情緒化表達、娛樂化取向等因素使得網民傾向于選擇跟自己觀點和態度相近的圈子接觸，在此過程中非理性內容更容易在與理性內容的對抗中占據優勢，進而催生群體極化現象甚至道德失范行為。過于偏激的表達經過互聯網的放大，不僅威脅網絡生態良性發展，還有可能向線下轉化，將網上輿論風險演變為線下的行動性風險，從而對社會秩序穩定帶來嚴重挑戰。

政府管理模式和技術監管手段較為滯后，難以適應網絡內容生產和傳播技術的快速進化。整體來看，當前我國網絡內容管理領導體制已基本形成，國務院授權國家互聯網信息辦公室行使互聯網信息內容管理職責，中央、省、市三級網絡內容管理體系基本建立，國家對網絡生態的把控力和管理能力得到明顯加強。網絡安全法及相關配套法規文件、各種管理辦法和規定的出臺，提高了網絡內容管理的規范化、法治化水平。但在一些具體領域和問題上，網絡生態治理工作依然缺乏及時性、針對性和精準度，特別是技術監管能力落后于技術更新速度。從互聯網時代向大數據時代邁進，所產生的數據量呈幾何級數增長，預計到2020年中國數據總量將高達8000EB級別，相當于目前全球云存儲數據量的8000倍。面對迅速增長的海量信息和數據，現行的集中化管理手段和跟隨型監管技術難以有效滿足信息把關和處置需求，導致內容管理顯得較為滯后和低效。

以網絡內容治理體系建設守住網上輿論陣地

習近平總書記指出：“我們要本著對社會負責、對人民負責的態度，依法加強網絡空間治理，加強網絡內容建設，做強網上正面宣傳，培育積極健康、向上向善的網絡文化。”結合網絡內容治理現狀，我們要從國家戰略層面、社會綜合治理層面加強頂層設計，確立黨委、政府、企業、網民等多元主體的主體責任，明確治理目標和任務，堅持線上線下協調聯動，守住網上輿論陣地。

建立管理端的網絡內容治理制度體系。堅持技術與法治并重，對網絡內容治理與監管的相關法律規定進行系統梳理，制定科學有效的制度規范和技術流程，并對法律法規中滯后于網絡發展的內容進行修改、完善和補充，為網絡內容治理提供科學化、系統化、規范化、標準化制度設計，確保有章可循、有據可依。建立網絡內容綜合治理的管理與協作機制，從管理體系、運行機制、保障機制、追責機制、技術支撐等方面，建立一套系統完善的網絡內容治理指令執行體系，健全跨部門、跨層級、跨地域、跨系統、跨業務的網絡內容治理分工與協作機制，使政府監管與網民自律、內容安全與內容創新、用戶管理與平臺管理之間相互協同、高效運作。訴諸技術手段，實現科學監管、技術治理，保持技術敏感性，跟進新技術發展，轉變監管方式，將機器學習與人工審核相結合，由主管部門牽頭制定網絡內容“紅線”標準，確立網絡內容治理的基調和價值主張，通過人工智能等技術手段對“信源”實現智能識別與篩選、抓取采集、過濾清理，一旦有新的“紅線”信息被識別標記，將其關鍵詞納入后臺“負面語料庫”，實現全網共享、交叉識別與自動處理，從而達到簡化行政流程、提高治理效率的效果。

建立生產端的網絡內容建設規則體系。這里的生產端包括網絡內容生產者與網絡平臺運營者。網絡空間內容生態的維護與治理不能只從終端開始，應從生產源頭把控內容質量，防止一開始就被污染。把控質量需要建立標準和規則，否則質量好壞沒有依據。無論是對PGC、UGC，還是對OGC、CGC、MCN，都需要根據這些機構的特點建立針對性強、可操作、易執行的規則和標準體系，以指引其內容生產過程。對傳播環節的網絡平臺運營者來說，需要壓實平臺的企業主體責任，應針對不同的網絡平臺制定實用對路的規則和標準，把平臺的責任具體化、數據化、實時化，切實讓平臺主動承擔起內容治理的社會責任。

建立用戶端的網絡內容自律體系。用戶是網絡內容生態建設的重要參與者。網民的瀏覽、閱讀、轉發、點贊、打賞、付費等上網行為和數據都是網絡內容生產與分發傳播的重要參考依據。網民的素質和行為對網絡內容的生產者、網絡平臺的運營者、網絡社會的發展趨勢有重要的影響，需要網絡平臺運營者通過上網規則、平臺約定、入網須知、技術限制等方式引導網民增強責任自負意識、依法上網意識、文明上網意識、個人隱私意識、網絡安全與風險意識等，讓每位用戶都能夠加強網絡行為自律，從而促進網絡空間生態良好。

建立效果端的網絡內容治理評價體系。網絡內容治理應堅持效果導向，建立一套具備科學性、操作性、系統性、權威性的網絡空間生態評價指標體系，明確評價的對象、方法、頻率、主體、發布流程、后續反饋等，一以貫之地堅定執行下去，確保取得實效。網絡內容治理評價的參與主體主要有三個，一是國家層面和地方層面的網絡內容治理主管部門，二是以學術機構為代表的第三方評估機構，三是網絡內容生產與分發平臺。網絡工作職能部門負責制定、修改和主導實施網絡內容治理評價的制度性文件；組織、委托或聘用第三方機構建構和完善網絡內容治理評價指標體系；運用評價評估結果指導、監督和推動網絡內容生產者和網絡平臺運營者履行主體責任，樹立正面價值導向。第三方評估機構應秉持科學、公正的原則，發揮研究機構的權威性和專業性，在相關理論和經驗研究的基礎上建構一套經得起實踐檢驗的評價指標體系，并根據監管部門和相關網絡內容主體的意見反饋及時修改完善評價指標體系，使之與網絡生態建設的實際情況同步發展，真正發揮網絡內容建設風向標作用。

（作者：謝新洲，系北京大學新媒體研究院院長）