加強信息算法服務綜合治理，促進算法健康有序繁榮發(fā)展

◎《網(wǎng)信軍民融合》編輯部 整理

習近平總書記在談關于媒體融合發(fā)展時曾提出，我們要增強緊迫感和使命感，推動關鍵核心技術自主創(chuàng)新不斷實現(xiàn)突破，探索將人工智能運用在新聞采集、生產(chǎn)、分發(fā)、接收、反饋中，用主流價值導向駕馭“算法”，全面提高輿論引導能力。隨著大數(shù)據(jù)和人工智能技術的快速發(fā)展，算法推薦技術被廣泛應用于信息分發(fā)和媒體傳播中，它可以為用戶提個性化、精準化和智能化信息服務，但在它為我們帶來便利的同時，其不合理應用也帶來了“大數(shù)據(jù)殺熟”“信息繭房”“算法歧視”等問題，給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權益等帶來諸多挑戰(zhàn)。

為規(guī)范互聯(lián)網(wǎng)信息服務算法應用生態(tài)，2021 年12 月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、市場監(jiān)管總局發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》（下文簡稱《規(guī)定》），并將于2022 年3 月1 日起施行。這是我國第一部聚焦算法推薦服務來亂象問題象的部門規(guī)章，對我國構建算法安全體系，有效防范互聯(lián)網(wǎng)信息服務算法推薦活動，具有重要意義。

（一）完善算法規(guī)范體系，促進數(shù)據(jù)信息安全落地

作為一部由國家網(wǎng)信辦、工業(yè)和信息化部、公安部、市場監(jiān)管總局聯(lián)合制定發(fā)布的部門規(guī)章，《規(guī)定》作為貫徹落實《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》的重要舉措，既體現(xiàn)出了數(shù)據(jù)信息活動的特征，同時也是具有可操作性的行動指南。

一是，在違法和不良信息監(jiān)管方面，《網(wǎng)絡安全法》第四十七條規(guī)定了網(wǎng)絡運營者應當加強對違法信息的管理，《規(guī)定》第九條第二款承接細化，規(guī)定“發(fā)現(xiàn)違法信息的，應當立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關記錄，并向網(wǎng)信部門和有關部門報告”，并進一步要求“發(fā)現(xiàn)不良信息的，應當按照網(wǎng)絡信息內(nèi)容生態(tài)治理有關規(guī)定予以處置”。

二是，在數(shù)據(jù)安全保護義務方面，《規(guī)定》的第七條明確落實了《數(shù)據(jù)安全法》的第二十七條規(guī)定，明確了算法推薦服務提供者的算法安全主體責任，對建立健全數(shù)據(jù)安全和個人信息保護等的管理制度和技術措施、制定相關規(guī)則、配套相應人員和技術支撐等作出了要求。

三是，在自動化決策方面，《規(guī)定》第十七條第一款承接《個人信息保護法》第二十四條第二款和《電子商務法》第十八條第一款，規(guī)定用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當“立即停止”提供相關服務；《規(guī)定》第十七條第二款承接落實了《個人信息保護法》中個人信息主體所享有的選擇、刪除等權利，第三款明確提出了算法推薦服務提供者應用算法對用戶權益造成重大影響的，應當依法予以說明并承擔相應責任。

四是，在特定領域的應用方面，按照《互聯(lián)網(wǎng)新聞信息服務管理規(guī)定》第五條要求，《規(guī)定》第十三條明確要求“算法推薦服務提供者提供互聯(lián)網(wǎng)新聞信息服務的，應當依法取得互聯(lián)網(wǎng)新聞信息服務許可”。

五是，在未成年人網(wǎng)絡保護方面，《未成年人保護法》第七十四條第一款規(guī)定網(wǎng)絡產(chǎn)品和服務提供者不得向未成年人提供誘導其沉迷的產(chǎn)品和服務，《規(guī)定》第八條和第十八條作了進一步細化，提出了“不得設置誘導用戶沉迷”的要求，并設置了保護未成年人的專門條款。

（二）引導算法合理使用，打造算法推薦治理方案

聚焦算法所帶來的種種亂象，《規(guī)定》提供了指引和規(guī)范。一是，算法推薦服務提供者在開展新聞信息推送、熱點榜單、信息發(fā)布等活動時，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動合成新聞、帖子等，未作顯著標識造成虛假信息夸大傳播；二是采用定向推送類算法在首頁首屏、彈窗等，扎堆推送惡性案件、災難事故等負面信息誘發(fā)社會恐慌；三是利用排序精選類算法生成熱搜、榜單等，片面追求流量，大肆炒作娛樂八卦、低俗惡俗等有悖社會主義核心價值觀內(nèi)容?；谝陨蟻y象，《規(guī)定》明確了算法推薦服務向上向善的原則，要求算法推薦服務提供者應當堅持主流價值導向，積極傳播正能量，不得利用算法推薦服務從事違法活動或者傳播違法信息，應當采取措施防范和抵制傳播不良信息等。

二是，算法推薦服務提供者在開展調(diào)度決策、個性化推薦等活動時，存在侵害用戶權益的亂象：一是大數(shù)據(jù)殺熟問題，即根據(jù)消費者的偏好、交易習慣等特征，在交易價格等交易條件上實行不合理的差別待遇；二是誘導沉迷網(wǎng)絡問題，即設置誘導用戶沉迷、過度消費的算法模型，尤其是利用算法推薦誘導未成年人沉迷網(wǎng)絡；三是勞動權益保障問題，采用調(diào)度決策類算法進行工作調(diào)度時，未保障平臺內(nèi)勞動就業(yè)者（如網(wǎng)約配送員、網(wǎng)約車駕駛員等）在勞務報酬、休息休假等方面的勞動權益；四是偏見歧視問題，將違法和不良信息關鍵詞記入用戶興趣點，或者設置歧視性、偏見性用戶標簽來推送信息內(nèi)容；五是未成年人和老年人權益保障問題，向未成年人推送可能影響身心健康的信息，未充分考慮老年人適老化需求等?；谝陨蟻y象，《規(guī)定》明確算法推薦服務公正公平的原則，建立健全用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護、安全事件應急處置等管理制度和技術措施，定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應用結(jié)果等。

三是，算法推薦服務提供者在開展個性化推薦、熱點榜單、信息發(fā)布等活動時，存在操縱社會輿論亂象：一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內(nèi)容，久而久之形成用戶意見極化的“信息繭房”；二是利用算法注冊虛假賬號、雇傭網(wǎng)絡水軍，實施虛假點贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象；三是利用算法屏蔽信息、過度推薦，操縱干預熱搜、榜單或檢索結(jié)果排序；四是實施自我優(yōu)待，影響網(wǎng)絡輿論、規(guī)避監(jiān)管，如惡意屏蔽其他企業(yè)的網(wǎng)址鏈接等?；谝陨蟻y象，《規(guī)定》明確算法推薦服務公開透明的原則，加強算法推薦服務版面頁面生態(tài)管理，建立完善人工干預和用戶自主選擇機制，在重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導向的信息；規(guī)范開展互聯(lián)網(wǎng)新聞信息服務，不得生成合成虛假新聞信息或者傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；不得利用算法實施影響網(wǎng)絡輿論、規(guī)避監(jiān)督管理以及壟斷和不正當競爭行為等。

（三）健全算法治理監(jiān)管體系，促進算法健康發(fā)展

《規(guī)定》建立了涵蓋算法分級分類、算法備案管理、算法安全評估、算法風險監(jiān)測等舉措的健全科學的監(jiān)管體系，形成了算法治理長效機制。

一是力求標本兼職的算法安全評估?！兑?guī)定》要求算法推薦服務提供者履行安全評估和配合監(jiān)督檢查義務。算法推薦服務提供者應依法留存網(wǎng)絡日志，配合網(wǎng)信部門和電信、公安、市場監(jiān)管等有關部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術、數(shù)據(jù)等支持和協(xié)助。

二是有章可循的備案制度?！兑?guī)定》明確了具有答：《規(guī)定》明確，具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)填報服務提供者的名稱、服務形式、應用領域、算法類型等備案信息，履行備案手續(xù)。同時，明確了備案編號標注、備案信息變更、備案注銷等相關事宜。