11月24日，國家互聯(lián)網(wǎng)信息辦公室微信公眾號“網(wǎng)信中國”發(fā)布《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》（以下簡稱《通知》）?！锻ㄖ酚芍醒刖W(wǎng)絡(luò)安全和信息化委員會辦公室秘書局、工業(yè)和信息化部辦公廳、公安部辦公廳、國家市場監(jiān)督管理總局辦公廳四部門發(fā)布?！锻ㄖ分赋?，要重點整治同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點、盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益、利用算法實施大數(shù)據(jù)“殺熟”、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等重點問題，督促企業(yè)深入對照自查整改，進(jìn)一步提升算法安全能力。
知名經(jīng)濟(jì)學(xué)者、工信部信息通信經(jīng)濟(jì)專家委員會委員盤和林在接受新京報記者采訪時表示，一些算法規(guī)則機(jī)制導(dǎo)致的“信息繭房”，是對普通人有危害的，它會強(qiáng)化負(fù)面情緒，引發(fā)許多社會矛盾，因此對它們的外部審查很有必要；此次專項行動有利于保護(hù)消費者權(quán)益，防止企業(yè)通過算法“收割”消費者，從而維護(hù)網(wǎng)絡(luò)安全和公共利益；此外，還有助于促進(jìn)算法產(chǎn)業(yè)的良性發(fā)展以及數(shù)字技術(shù)高質(zhì)量發(fā)展。
聚焦六個主要任務(wù)，整治網(wǎng)絡(luò)平臺算法問題
據(jù)《通知》內(nèi)容，本次專項行動有六個主要任務(wù)：深入整治“信息繭房”、誘導(dǎo)沉迷問題；提升榜單透明度打擊操縱榜單行為；防范盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益；嚴(yán)禁利用算法實施大數(shù)據(jù)“殺熟”；增強(qiáng)算法向上向善服務(wù)保護(hù)網(wǎng)民合法權(quán)益；落實算法安全主體責(zé)任。
《通知》提到，深入整治“信息繭房”、誘導(dǎo)沉迷問題。構(gòu)建“信息繭房”防范機(jī)制，提升推送內(nèi)容多樣性豐富性。嚴(yán)禁推送高度同質(zhì)化內(nèi)容誘導(dǎo)用戶沉迷。不得強(qiáng)制要求用戶選擇興趣標(biāo)簽，不得將違法和不良信息記入用戶標(biāo)簽并據(jù)以推送信息，不得超范圍收集用戶個人信息用于內(nèi)容推送。規(guī)范設(shè)置“不感興趣”等負(fù)反饋功能。此外，《通知》還要求，提升榜單透明度打擊操縱榜單行為。全面公示熱搜榜單算法原理，提升榜單透明度和可解釋性。完善榜單日志留存，提高榜單算法原理可驗證性。健全水軍刷榜、水軍賬號等違規(guī)行為、賬號檢測識別技術(shù)手段，嚴(yán)管不法分子惡意利用榜單排序規(guī)則操縱榜單、炒作熱點行為。
《通知》指出，防范盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益。嚴(yán)防一味壓縮配送時間導(dǎo)致配送超時率、交通違章率、事故發(fā)生率上升等問題。詳細(xì)公示時間預(yù)估、費用計算、路線規(guī)劃等算法規(guī)則。搭建暢通的申訴渠道，及時受理勞動者因交通管制、交通事故、惡劣天氣等不可控因素導(dǎo)致的配送超時等申訴。嚴(yán)禁利用算法實施大數(shù)據(jù)“殺熟”。嚴(yán)禁利用用戶年齡、職業(yè)、消費水平等特征，對相同商品實施差異化定價行為。提升優(yōu)惠促銷透明度，清晰說明優(yōu)惠券的領(lǐng)取條件、發(fā)放數(shù)量和使用規(guī)則等內(nèi)容?？陀^如實說明優(yōu)惠券領(lǐng)取失敗原因，嚴(yán)禁以“來晚了”“擦肩而過”等提示詞掩蓋真實原因。
《通知》指出，增強(qiáng)算法向上向善服務(wù)保護(hù)網(wǎng)民合法權(quán)益。持續(xù)優(yōu)化完善面向未成年人、老年人的算法推薦服務(wù)，便利未成年人、老年人獲取有益身心健康的信息。建立健全算法在賦能優(yōu)質(zhì)內(nèi)容傳播、違法行為識別發(fā)現(xiàn)等方面的社會治理應(yīng)用。持續(xù)提升生成合成信息檢測識別能力，及時發(fā)現(xiàn)處理違法違規(guī)生成合成信息。落實算法安全主體責(zé)任。健全算法機(jī)制機(jī)理審核、數(shù)據(jù)安全的管理制度和技術(shù)措施。確保算法的訓(xùn)練數(shù)據(jù)具有合法來源，及時檢測修復(fù)代碼安全漏洞和算法邏輯缺陷，定期對算法模型的可用性、可控性、可解釋性以及數(shù)據(jù)處理、模型訓(xùn)練、部署運行等環(huán)節(jié)開展安全評估。
專家：避風(fēng)港原則不完全適用，需要接受外部審查和評估
“信息繭房”是美國學(xué)者凱斯·桑斯坦在2006年出版的《信息烏托邦》一書中提出的概念，指個體如果關(guān)注自我選擇的或能夠愉悅自身的內(nèi)容，同時減少對其他信息的接觸，時間一長，就會像蠶一樣桎梏于自我編織的“繭房”之中?！按髷?shù)據(jù)殺熟”，是指同樣的商品或服務(wù)，不同客戶看到的價格也不同的現(xiàn)象。2018年12月20日，“大數(shù)據(jù)殺熟”一詞，當(dāng)選為2018年度社會生活類十大流行語。
在盤和林看來，一些算法規(guī)則機(jī)制導(dǎo)致的“信息繭房”“大數(shù)據(jù)殺熟”等，是不利于網(wǎng)絡(luò)安全和公共利益的，因此國家層面進(jìn)行專項行動治理算法問題很有必要；另外，我國已有法律規(guī)定，算法平臺有責(zé)任對數(shù)據(jù)采集和算法規(guī)則機(jī)制等進(jìn)行備案，因此算法平臺并不完全適用避風(fēng)港原則（指網(wǎng)絡(luò)平臺如果提供的鏈接、存儲的相關(guān)內(nèi)容涉嫌侵權(quán)，在其能夠證明自己并無惡意，并且及時刪除侵權(quán)鏈接或者內(nèi)容的情況下，網(wǎng)絡(luò)服務(wù)提供者不承擔(dān)賠償責(zé)任），不可以用這個原則封閉自己平臺的算法規(guī)則機(jī)制，其算法規(guī)則機(jī)制的合理性需要接受外部力量的審查和評估。
“但是，治理算法問題遇到的難點也是多方面的，首先是算法本身復(fù)雜，政府監(jiān)管方需要設(shè)立專門崗位來評估算法，要懂算法才能管算法。其次是透明度問題，算法本身像是‘黑匣子’，又或者企業(yè)自己不愿意將自己的算法公開，這樣給監(jiān)管帶來了不便。再者是倫理道德的挑戰(zhàn)，有些算法是合理的，既不違法也不違規(guī)，但仍會影響公共利益，這只能依靠企業(yè)自身在道德層面加強(qiáng)自我約束。還有，算法技術(shù)發(fā)展比較快，多少會讓現(xiàn)有的法律法規(guī)體系顯得有些滯后?！北P和林說。
他建議，治理算法問題，一方面需要企業(yè)自身強(qiáng)化算法治理體系建設(shè)，提升算法透明度，同時要給出用戶權(quán)益保護(hù)的具體措施；另一方面，政府部門需要完善法律法規(guī)，加強(qiáng)執(zhí)法監(jiān)管力度，尤其要對算法的潛在風(fēng)險進(jìn)行定期和不定期風(fēng)險評估。
專項行動多部門聯(lián)動，直到2025年2月14日結(jié)束
根據(jù)《通知》內(nèi)容，專項行動有五個工作目標(biāo)：算法導(dǎo)向正確；算法公平公正；算法公開透明；算法自主可控；算法責(zé)任落實。
《通知》在“工作目標(biāo)”中指出，算法導(dǎo)向正確。健全完善正能量優(yōu)質(zhì)內(nèi)容池，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善；建立健全用于識別違法和不良信息的特征庫，積極探索應(yīng)用于識別違法和不良信息的算法、技術(shù)，防范和抵制傳播不良信息。不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等的算法模型。不得利用算法干預(yù)信息呈現(xiàn)，實施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。
第二個目標(biāo)是，算法公平公正。不得利用算法實施壟斷和不正當(dāng)競爭行為。保護(hù)勞動者合法權(quán)益，完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關(guān)算法。保護(hù)消費者公平交易的權(quán)利，不得利用算法在交易價格等條件上實施不合理的差別待遇。
第三個目標(biāo)是，算法公開透明。優(yōu)化檢索、排序、推送等規(guī)則的透明度和可解釋性，預(yù)防和減少爭議糾紛。以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、主要運行機(jī)制等，確保簡單、清晰、可理解。
第四個目標(biāo)是，算法自主可控。關(guān)閉算法推薦服務(wù)的選項操作便捷、功能有效。向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽的功能，便利用戶自主選擇興趣領(lǐng)域。
第五個目標(biāo)是，算法責(zé)任落實。建立健全算法安全管理制度和技術(shù)措施。定期審核、評估、驗證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，常態(tài)化開展算法安全自評估。算法“應(yīng)備盡備”，備案信息發(fā)生變更的及時辦理變更或者注銷手續(xù)。
此外，《通知》還明確了專項行動的時間線：
第一階段是組織企業(yè)自查自糾（即日起至2024年12月31日）。通過下發(fā)通知、召開專題會議等形式，部署屬地重點網(wǎng)站平臺對照重點任務(wù)，舉一反三排查安全風(fēng)險問題，簡單問題立即整改，復(fù)雜問題明確整改舉措和期限。
第二階段是核驗企業(yè)自查情況（2025年1月1日至2025年1月31日）。積極落實屬地管理責(zé)任，對照《算法專項治理清單指引》，對企業(yè)自查自糾情況進(jìn)行深入評估。對自查不認(rèn)真、整改不徹底的企業(yè)，及時組織技術(shù)力量進(jìn)行核查并督促整改。
第三階段是深入評估治理成效（2025年2月14日前完成）。各地網(wǎng)信部門會同有關(guān)部門，總結(jié)專項行動實施成效，結(jié)合專項行動開展情況，全面評估《指導(dǎo)意見》印發(fā)以來的算法治理舉措及取得的積極成效，深入分析難點問題，制定今后一段時期的務(wù)實舉措。
另外，整個專項行動期間都開設(shè)舉報受理渠道。各地網(wǎng)信部門在專項行動期間要及時公開算法問題舉報渠道。對網(wǎng)民舉報線索進(jìn)行監(jiān)測核實，督促存在問題的網(wǎng)站平臺及時整改，并向網(wǎng)民反饋整改結(jié)果。
《通知》還指出，各地網(wǎng)信部門要發(fā)揮統(tǒng)籌協(xié)調(diào)作用，牽頭開展專項行動。加強(qiáng)與屬地電信、公安、市場監(jiān)管等相關(guān)部門聯(lián)動，細(xì)化工作分工，壓實工作責(zé)任。運用好央地各方有效技術(shù)支撐力量，積極有效推動各項任務(wù)落實，確保取得工作成效。
新京報記者 趙利新
編輯 張牽 校對 賈寧
