“我們在聊什么，就會刷到與它有關(guān)的網(wǎng)頁、視頻推薦、購買鏈接。”“社交平臺上，哪個號我們看得久了，之后就頻繁推送哪個號的內(nèi)容?！薄髷?shù)據(jù)時代，每個人都在“裸泳”，也在被算法“投喂”，這種“越刷越精準”的體驗，讓不少人陷入了“信息繭房”。

近日，中央網(wǎng)信辦等部門聯(lián)合印發(fā)通知，部署開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動，深入整治“信息繭房”、誘導(dǎo)沉迷等問題，以進一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理。這一專項行動引發(fā)了人們對算法及其影響的深入反思。如何把算法用好？如何逃離“信息繭房”，擁抱多元信息新世界？如何引導(dǎo)算法向上向善？多位政協(xié)委員和專家在接受記者采訪時進行了深入解讀。

“信息繭房”

可導(dǎo)致認知偏見和刻板印象

“‘信息繭房’指人們關(guān)注的信息領(lǐng)域會習慣性地被自己的興趣所引導(dǎo)，從而將自己的生活桎梏于像蠶繭一般的‘繭房’中的現(xiàn)象?！比珖f(xié)委員、金杜律師事務(wù)所高級合伙人張毅介紹，目前，這一現(xiàn)象主要由社交媒體、搜索引擎及其他在線平臺的算法推薦所推動，從而使用戶在信息選擇上變得越來越局限。

“從隱私和數(shù)據(jù)保護風險角度來講，在‘信息繭房’形成過程中，平臺可能需要收集大量的用戶數(shù)據(jù)，如果數(shù)據(jù)收集、管理不當，用戶的個人隱私可能面臨泄露風險?！睆堃惚硎?。

那么，被桎梏在“信息繭房”內(nèi)，于個人而言有何影響？

在張毅看來，首先是知識局限，影響社會創(chuàng)新?！啊畔⒗O房’使個體囿于特定的信息領(lǐng)域，這妨礙了不同領(lǐng)域知識的碰撞與融合。因用戶缺乏多樣性的信息環(huán)境，也就難以產(chǎn)生創(chuàng)新的靈感?！?/p>

“其次是認知偏差，影響社會和諧。”張毅表示，在“信息繭房”中，用戶主要接觸與自己興趣愛好相符的信息，也更傾向于與相似觀點的人群互動。長此以往，可能導(dǎo)致不同群體間的認知偏見和刻板印象加深，陷入“我們對你們”的思維模式。比如，在一些社會熱點事件中，人們往往只看到符合自己立場的信息，“偏見”可能會影響個人判斷，也可能在更大范圍內(nèi)影響社會輿論。

第十三屆全國政協(xié)委員、第五空間信息技術(shù)研究院院長談劍鋒表示，從社會角度來說，“繭房”之間壁壘森嚴，使得社會的“公共性”逐漸消弭，增加人與人之間的社會交往成本，甚至割裂社會共識。

中國電信研究院戰(zhàn)略發(fā)展研究所高級顧問、高級經(jīng)濟師漆晨曦也表示，“信息繭房”的弊端不僅局限于經(jīng)濟和消費層面，更深刻地體現(xiàn)在社會文化、認知與治理的各個維度。數(shù)字化社會的高速發(fā)展，依賴各個節(jié)點之間信息的無縫共享，需要構(gòu)建基于信任的知識型網(wǎng)絡(luò)，因此，只有打破信息壁壘，讓用戶在更廣闊的信息海洋中遨游，才能促進思想的碰撞與社會的進步。

算法一定會制造“信息繭房”嗎？

無論是“信息繭房”誘人沉迷、割裂共識的問題，還是大數(shù)據(jù)對勞動者、對客戶“殺熟”的問題，核心都在于平臺算法的具體運用。

“算法并不意味著信息操縱?！闭剟︿h解釋道，算法作為計算技術(shù)的關(guān)鍵組成，本質(zhì)上是輸入輸出的轉(zhuǎn)換規(guī)則，簡單看是運算步驟，大處看是解決問題的策略機制。

談劍鋒坦言，算法屬于技術(shù)范疇，也會受制于人類的認知水平，會有局限性甚至缺陷，而且算法自身也在不斷發(fā)展優(yōu)化中?！叭绻覀兡芎侠砝盟惴ǎ粌H能夠享受到個性化的信息體驗，還能打破‘信息繭房’，實現(xiàn)更加全面和均衡的信息消費?！?/p>

如何把算法用好？張毅建議，一是政府應(yīng)從保護個人隱私和數(shù)據(jù)安全的角度，進一步完善《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)，如要求提供給用戶及時關(guān)閉與自己其他信息相關(guān)聯(lián)的功能。通過提供切斷渠道，可避免大量個人信息被濫用。二是隨著“算法備案”逐漸落實，應(yīng)逐漸引入社會方面對算法的監(jiān)督和問責，并培養(yǎng)公眾的算法素養(yǎng)，提高人們對算法影響的認知與批判性思維能力。三是平臺企業(yè)應(yīng)定期開展算法的科普工作，增強算法透明度。此外，也要加強運用算法對謠言與網(wǎng)暴的識別與打擊力度。

“總之，網(wǎng)絡(luò)平臺的算法要重點從三點進行規(guī)范，一是公平性，確保算法公正，避免助長偏見和歧視；二是隱私保護，嚴格遵循個人信息保護法、數(shù)據(jù)安全法等，確保用戶隱私不被侵犯；三是內(nèi)容多樣性，鼓勵多元化的信息展示，防止單一信源主導(dǎo)?！睆堃惚硎尽?/p>

“對網(wǎng)絡(luò)平臺的算法進行規(guī)范，本質(zhì)上是對算法應(yīng)用的規(guī)制，但并非簡單意義上的對‘算法運行狀態(tài)’進行規(guī)制，而是基于保障國家安全、維護社會經(jīng)濟秩序及保護社會個體權(quán)益的需要，深入到應(yīng)用平臺或智能程序所應(yīng)用的算法層面，對算法進行引導(dǎo)、規(guī)范或監(jiān)管?！闭剟︿h進一步表示。

畫好四條線 助力打破“信息繭房”

與受困“繭房”相對應(yīng)的，就是“破繭”。

談劍鋒表示，由于“信息繭房”隱蔽性強、形態(tài)繁多、范圍寬廣，尤其是涉及到社會各方較多，就要求“破繭”這類算法規(guī)制的價值目標體系應(yīng)當包容眾多的法益。

“首先，從個體角度來說，網(wǎng)民應(yīng)提高自我防范能力，改變思維定式，不要被別人帶著跑。其次，從產(chǎn)業(yè)以及監(jiān)管角度來說，要畫好四條線，廠商要有‘底線’，有所為而有所不為；應(yīng)用要有‘界線’，場景設(shè)計要有規(guī)矩；監(jiān)管要有‘高壓線’，對安全威脅要積極作為；治理要有‘平行線’，照顧廣泛的社會群體?！闭剟︿h建議。

對此，張毅持相同觀點。他進一步建議，在行業(yè)層面，企業(yè)要加強自律，提高算法透明度，嚴格對標此次專項行動自糾自查；引入多樣化推薦機制，比如通過設(shè)置算法參數(shù)，鼓勵用戶探索與其興趣完全不一致的內(nèi)容；建立內(nèi)部審核機制，定期檢查算法的公平性與透明度，打破“信息繭房”，維護用戶權(quán)益。在政府層面，應(yīng)制定和完善相關(guān)法律法規(guī)，規(guī)范算法使用；同時，鼓勵公眾參與對算法倫理的討論，推動算法向優(yōu)，治理向善。此外，也要加強對信息傳播的監(jiān)管，打擊虛假信息和不良信息的傳播，避免因“信息繭房”導(dǎo)致的群體性認知偏差的不良影響擴大。

“企業(yè)自我主動管理行為是走出‘繭房’更有效的方式。平臺企業(yè)要重視用戶反饋，可以通過收集用戶對算法推薦內(nèi)容的看法和建議，及時調(diào)整算法，并確保算法與用戶需要保持一致。也可以將企業(yè)內(nèi)部系統(tǒng)中的‘提供興趣標簽查看功能，向用戶展示用于內(nèi)容推送的個人興趣標簽’等向用戶開放且讓用戶自己管理，對現(xiàn)有的推薦系統(tǒng)可能會帶來較大影響。”張毅補充說。

“平臺在內(nèi)容推送時，還應(yīng)考慮適齡性和多樣性，針對未成年人和老年人推送教育型、文化型、娛樂性內(nèi)容，避免內(nèi)容單一化和一味追求商業(yè)利益，讓特殊人群也能盡享數(shù)字紅利?！逼岢筷嘏e例稱，比如針對老年人，平臺可以開發(fā)適合的內(nèi)容分區(qū)和友好界面，降低使用門檻，避免沉迷問題。

如何引導(dǎo)算法向上向善？

此次“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動，不僅向濫用算法而導(dǎo)致“信息繭房”、隱私泄露、騎手困在系統(tǒng)里等算法之亂開刀，而且對算法向上向善提出期冀。

如何引導(dǎo)算法向上向善，促進網(wǎng)絡(luò)平臺更好發(fā)展，更好地實現(xiàn)主流價值引導(dǎo)？

“算法技術(shù)具有專業(yè)性強、更新速度快等特點，這決定了算法治理是一項長期工作，需要匯集各界合力?！睘榇?，張毅建議建立政府、企業(yè)、學術(shù)界的協(xié)作機制，比如，三方可聯(lián)合發(fā)布重點平臺企業(yè)的算法白皮書，說明算法的設(shè)計、數(shù)據(jù)來源和推薦邏輯，讓用戶了解算法如何影響他們的內(nèi)容推薦，也可共同制定算法設(shè)計和應(yīng)用的行業(yè)標準和倫理規(guī)范，確保算法設(shè)計應(yīng)用符合社會公正和公共利益。

“此外，相關(guān)部門也可設(shè)立激勵機制，對于積極推動算法向善、促進社會正能量傳播的平臺給予政策支持和激勵，促進良性競爭?！睆堃氵M一步建議。

“從平臺治理角度來看，通過監(jiān)督實現(xiàn)主流價值引導(dǎo)更有效?！闭剟︿h建議，一是把行之有效、持之以恒的實踐制度化，讓算法治理形成規(guī)范系統(tǒng)和制度；二是把精確可行的概念和理論制度化。

同時，談劍鋒表示，在保證控制重大風險底線的基礎(chǔ)上，還要給算法及其應(yīng)用的自由發(fā)展空間，讓一些問題在實踐中進行調(diào)適和優(yōu)化。

“數(shù)字化服務(wù)的目標應(yīng)是以人為本，服務(wù)社會?！畔⒗O房’并非不可破解，各方參與，形成合力，將共同推動技術(shù)與人性的和諧共舞，塑造一個多元且包容的數(shù)字新世界?！逼岢筷乇硎尽＃ㄖ茍D：趙慶慶）