養生類謠言為何像長了眼睛，專挑老年人推送？剛搜索了某方面內容，類似推送為何源源不斷向你“投喂”？似乎有一只看不見、摸不著的“手”，采集行為、歸納習慣、掌握愛好，這就是我們常說的“算法推薦”。

去年11月，中央網信辦等多部門開展“清朗·網絡平臺算法典型問題治理”專項行動（），行動開展以來，針對網民反映強烈的算法推薦加熱低俗信息、加劇“信息繭房”、加重觀點極化等問題風險，中央網信辦督促指導重點平臺針對性優化信息推薦算法功能、調整信息推薦算法規則。

目前，算法推薦最常見的問題是什么？相關重點平臺圍繞哪些方面進行了優化調整？成效如何？

什么是“算法推薦技術”？

算法的專業名詞叫作“算法推薦技術”。它通過抓取用戶日常的使用數據，分析得出人們的行為、習慣和喜好，進而精準化地提供信息、娛樂、消費等各類服務。

2022年3月1日，《》（簡稱《規定》）正式施行。《規定》明確，應用算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息。

各類提供算法推薦服務的互聯網公司幾乎都在監管范圍內，比如各短視頻平臺、電商平臺、社交平臺以及餐飲外賣平臺等。

算法推薦技術

導致“信息繭房”等突出問題

個性化推薦技術出現的本意是幫人們應對信息過載，過濾掉不需要的信息，提高信息獲取的效率，但是隨著技術的廣泛應用，卻暴露出一些突出問題。

武漢大學信息管理學院信息管理科學系教授介紹：首要問題是“信息繭房”，內容同質化。個性化推薦算法以用戶既有偏好為導向，不斷強化內容選擇，這會使用戶反復接觸相似觀點和信息，從而將自身困于“信息繭房”當中。這種封閉的信息環境會限制用戶對復雜社會現實的全面認知，影響其對社會多樣性的理解和包容。

第二是“劣幣驅逐良幣”，內容質量下降。推薦算法往往根據用戶的點擊率、停留時間這樣的一些行為數據進行優化，這會導致部分創作者趨向于生產迎合眼球、情緒煽動甚至是帶有誤導性的內容。這樣不僅導致優質信息被邊緣化，也會使得平臺內容生態趨向膚淺、碎片化。

第三是“算法黑箱”，缺乏透明度。目前大多數個性化推薦系統的運作機制對用戶來說是不可見的，所以用戶有的時候并不知道自己為什么會接收到特定內容。這種“黑箱”操作不僅削弱了用戶對平臺的信任，也使得算法有可能被用于操縱輿論、控制熱搜，從而影響信息的公正傳播。

第四是誘導沉迷，導致倫理失范。有一些技術弱勢群體，像未成年人和老年人，他們由于缺乏辨識能力和自控能力相對較弱，更容易受到算法推薦的影響。比如說未成年人可能在算法的引導下沉迷于短視頻或游戲，影響學習和身心健康。

第五是隱私侵犯和數據濫用。為了實現精準推薦，平臺通常會收集大量用戶敏感數據來構建用戶畫像，包括位置、瀏覽記錄、消費記錄、社交關系等數據。這些數據很容易被用于商業操控、價格歧視或者第三方非法交易，這樣會威脅用戶的數字安全與信息自主權。

重點平臺圍繞哪些方面

進行優化調整？

針對前面提到的一系列問題，中央網信辦督促指導重點平臺針對性優化信息推薦算法功能、調整信息推薦算法規則。近日，相關重點平臺圍繞正能量內容加權推薦、用戶自主選擇權保障、推薦內容多樣性優化、提升算法透明度等核心環節，系統性優化完善多項功能。

平臺具體都進行了哪些優化調整？

在提升算法透明度方面：公開算法運行規則，推進透明展示工作，保障用戶知情權。

抖音通過開設“安全與信任中心”網站、舉辦開放日活動等方式，向公眾闡釋推薦邏輯、干預機制及治理成效；微博提升熱搜算法透明度，公示上榜規則、數據規則，上線熱搜熱度標簽，標示熱度背后的推動因素；微信視頻號通過通俗易懂的圖文、視頻方式向用戶公示，發布《一圖讀懂微信視頻號算法推薦》《算法破繭系列》。

在破除“信息繭房”方面：創新推出“繭房評估”“一鍵破繭”等功能，幫助用戶防范“信息繭房”風險。

抖音全面升級“使用管理助手”，創新內容偏好評估功能，以可視化形式呈現用戶近期瀏覽內容；小紅書設置“內容偏好評估與調節”“探索更多”功能，方便用戶一鍵操作，瀏覽更多元豐富的推薦內容；快手依托正能量算法增加對“正向”“有用”“溫暖”“信任”等內容挖掘，在算法推薦中充分呈現。

在完善推薦內容審核方面：不斷健全推薦內容審核機制，加強正能量內容推送，防范算法推薦低俗不良信息。

微信視頻號完善“好友推薦”和“算法推薦”雙重機制，不斷迭代升級識別打擊模型，嚴禁低俗惡俗等典型不良信息進入推薦池；抖音推出熱點當事人核實機制，防止擺拍造假、仿冒蹭熱、拼湊剪接等惡意傳播行為。

在用戶賦權方面：持續優化興趣偏好管理、內容負反饋等功能設置，便于用戶自主調節優化算法推薦內容。

快手為用戶提供便捷、精細的興趣偏好管理功能，用戶可根據自身喜好，滑動對應興趣標簽，調節不同內容推送強度；微博設置不感興趣、不看此博主、內容質量差等多種負反饋選項供用戶選擇，精準響應用戶需求。

平臺應完善內容審核機制

跳出“唯流量論”

針對信息繭房、推薦低俗不良信息等突出問題，在治理方面如何能取得更好的成效？專家認為，關鍵在于提升算法的多樣性和開放性。

武漢大學信息管理學院信息管理科學系教授姜婷婷表示，在治理低俗不良信息方面，需加強算法的價值引導。一些平臺為追求流量，利用算法技術片面滿足人們的獵奇心理，推送那些無原則迎合的內容，導致內容質量下降，影響輿論生態。

對此，平臺應該完善內容審核機制，結合人工審核與AI識別，嚴格控制低俗、暴力、血腥等內容的傳播。通過技術手段提升優質、權威、正能量內容的可見度，構建多元、健康、有序的信息生態，實現社會效益與平臺發展的雙贏。

同時，監管部門應該加強事中、事后的過程監管，依法嚴厲打擊相關違法違規行為，增強網絡執法威懾力。

此外，平臺企業作為算法推薦的實施者，必須承擔起主體責任。從商業邏輯中跳脫“唯流量論”的短視思維，在內容審核、算法優化、用戶保護等方面主動作為。

不被技術“塑形”

主動跳出“信息舒適圈”

打破信息繭房，平臺又該如何為用戶提供便捷、精細的興趣偏好管理功能？專家提醒，在面對海量信息推薦流時，用戶也要增強主體意識，主動跳出“信息舒適圈”。

武漢大學信息管理學院信息管理科學系教授姜婷婷表示，要促進用戶主動“破繭”，還需要采取一些更精細化的用戶賦權方式。目前重點關注的是推薦算法的“示能性”，具體到推薦系統中，就是讓用戶看得見、理解得了、用得上的界面設計元素，幫助他們參與到推薦邏輯中。比如，清晰標注內容的主題、開放興趣標簽的編輯入口，或是提供可視化的偏好設置等。

最后，這些精細化興趣偏好管理功能的有效實施離不開用戶自身的算法素養。需要進一步加強對公民的智能素養教育，讓大家意識到自身的信息消費正在被技術“塑形”，在面對海量的信息推薦流時，大家應該增強主體意識，主動跳出“信息舒適圈”，在多元視角中去辨析是非。

趕緊關注我們的官方賬號吧~

清朗網絡空間，我們共同守護！

掃碼進入舉報不良信息頁面

來源丨央視新聞客戶端

編輯｜李洋

柳州市互聯網信息辦公室出品