平臺(tái)公示算法，要讓公眾看得明白

近日，北京市網(wǎng)信辦推動(dòng)抖音、百度、美團(tuán)等首批6家屬地主要網(wǎng)絡(luò)平臺(tái)公示算法規(guī)則原理，引發(fā)社會(huì)高度關(guān)注。這一行動(dòng)意味著，算法不再是黑箱，而是需要透明展示的規(guī)則。公示算法，是邁向算法治理的重要“第一步”，唯有公眾看得明白、真的看懂，才能真正做到有效監(jiān)督，促進(jìn)算法治理形成閉環(huán)。

近年來，算法逐漸成為影響人們?nèi)粘Ｉ畹摹半[形推手”。一段時(shí)間以來，中央網(wǎng)信辦等部門針對(duì)網(wǎng)絡(luò)平臺(tái)算法典型問題開展了系列治理，此次網(wǎng)絡(luò)平臺(tái)公示算法值得肯定。目前，各大平臺(tái)采取了不同的算法公示方式，比如抖音通過開設(shè)“安全與信任中心”網(wǎng)站等向公眾闡釋算法原理、社區(qū)規(guī)范、治理體系等；微博則提升熱搜算法透明度，公示上榜規(guī)則、數(shù)據(jù)規(guī)則、上線熱搜熱度標(biāo)簽背后的推動(dòng)因素；美團(tuán)聚焦算法的治理改進(jìn)、社會(huì)化共治等內(nèi)容。

可以看到，在幾家企業(yè)公示的算法內(nèi)容中不乏“協(xié)同過濾”“矩陣分解”“構(gòu)建共現(xiàn)矩陣”“余弦相似度”“召回通路”“供需折扣”等專有名詞，雖對(duì)部分名詞做了具體解釋，但對(duì)于廣大公眾來說仍存在理解“門檻”，難以知曉其真正含義。

打開“算法黑箱”并非易事。算法本身具有高度復(fù)雜性和專業(yè)性，算法的“理解壁壘”或許并非是企業(yè)的有意為之，客觀上消除“技術(shù)門檻”本就有一定難度，這就勢(shì)必造成公眾一知半解、云里霧里。也有部分企業(yè)辯稱，若公開的算法內(nèi)容過于詳細(xì)，可能涉及商業(yè)秘密，損害企業(yè)利益。此外，不容忽視的一點(diǎn)是，實(shí)際應(yīng)用中算法在不斷進(jìn)行動(dòng)態(tài)調(diào)整，企業(yè)實(shí)際公示的內(nèi)容很可能滯后于正在應(yīng)用的版本，如何保證企業(yè)算法公示的及時(shí)性也是一大難題。

從算法已全面應(yīng)用網(wǎng)絡(luò)平臺(tái)、深度影響人們?nèi)粘Ｉ畹默F(xiàn)實(shí)狀況來看，算法已不僅是技術(shù)和商業(yè)問題，更成為社會(huì)問題。公示算法的目的是保障公眾知情權(quán)，提升算法透明度，進(jìn)一步加強(qiáng)算法治理。公眾，是網(wǎng)絡(luò)平臺(tái)公示算法的主要對(duì)象之一，也是應(yīng)優(yōu)先考慮的對(duì)象，他們的理解與感受不容忽視。只有公眾真正了解算法如何工作時(shí)，才能對(duì)網(wǎng)絡(luò)平臺(tái)進(jìn)行有效監(jiān)督，否則，算法公示就會(huì)淪為一種“形式上的合規(guī)”，而非真正意義上的賦能。

企業(yè)也要認(rèn)識(shí)到，算法公示并非“枷鎖”，而是全社會(huì)共同推動(dòng)算法進(jìn)步，平衡技術(shù)進(jìn)步、商業(yè)利益與用戶權(quán)益、社會(huì)公共利益的重要手段，也是建立用戶與平臺(tái)之間信任關(guān)系的“催化劑”。當(dāng)用戶充分理解內(nèi)容推薦、商品排序等的算法原理時(shí)，會(huì)更信任平臺(tái)服務(wù)并形成更強(qiáng)的用戶黏性。

算法公示，要講究方式方法，通過建立合理溝通機(jī)制等辦法將公眾等社會(huì)主體吸納進(jìn)來，實(shí)現(xiàn)算法效果最優(yōu)化。平臺(tái)企業(yè)要擺正心態(tài)，重新審視算法公示的目的，通過更直觀易懂的表述方式向公眾提供一份簡易版“算法說明書”，視頻動(dòng)畫、信息圖等創(chuàng)新形式或許更易受到歡迎。平臺(tái)企業(yè)應(yīng)積極主動(dòng)與勞動(dòng)者、公眾等群體建立常態(tài)化的溝通機(jī)制，充分聽取廣大用戶的中肯意見，針對(duì)他們反饋的痛點(diǎn)問題和誠懇建議，及時(shí)調(diào)整不合理的算法內(nèi)容，優(yōu)化算法管理辦法。

此外，政府監(jiān)管部門也需持續(xù)跟進(jìn)，開展常態(tài)化巡查，對(duì)于故意以“專業(yè)壁壘”規(guī)避公眾監(jiān)督的企業(yè)行為予以警示，并鼓勵(lì)形成行業(yè)自律、多方共治的局面。

算法“黑箱”正逐漸透明，這看似微小的變化，卻標(biāo)志著算法治理正向更加人性化、透明化的方向邁進(jìn)。期待行業(yè)和社會(huì)共同努力，讓算法回歸“科技向善”的初衷，推動(dòng)數(shù)字技術(shù)加速前進(jìn)。

（本報(bào)評(píng)論員陽娜）

重置優(yōu)化體驗(yàn)，讓用戶有能力“說不”

在購物平臺(tái)反復(fù)“被”刷到自己完全不想要的商品，短視頻平臺(tái)不斷推送視頻吸引受眾注意力，在平臺(tái)選定商品卻屢屢遭遇“算法殺熟”……這些數(shù)字時(shí)代的日常場(chǎng)景背后，是算法正在以“高效”的名義，剝奪了用戶說“不”的權(quán)利，也損害了用戶隱私權(quán)和社會(huì)公平。

近日，北京市網(wǎng)信辦指導(dǎo)屬地網(wǎng)絡(luò)平臺(tái)公示算法推薦服務(wù)的基本原理、目的意圖、主要運(yùn)行機(jī)制等，目的是進(jìn)一步強(qiáng)化用戶權(quán)益保護(hù)和公眾監(jiān)督，切實(shí)提升算法透明度。首批6家企業(yè)進(jìn)入公示名單。

基于大數(shù)據(jù)的算法本是一種平臺(tái)工具，其定制服務(wù)給人們工作生活帶來了便利，但在實(shí)踐的過程中，算法卻逐漸變?yōu)殡[形操控者。它通過持續(xù)收集用戶數(shù)據(jù)和復(fù)雜的參數(shù)設(shè)置，構(gòu)建出越來越精準(zhǔn)的偏好模型，形成“信息繭房”，甚至固化社會(huì)偏見、破壞市場(chǎng)秩序……

更值得警惕的是，許多平臺(tái)將算法邏輯包裝成“優(yōu)化體驗(yàn)”的借口，對(duì)用戶關(guān)閉個(gè)性化推薦的需求設(shè)置重重障礙，讓“選擇權(quán)”隱藏在多層菜單深處淪為擺設(shè)，如同迷宮讓用戶根本找不著；還有的搜索引擎，通過個(gè)性化的排序控制用戶信息獲取程度，將高權(quán)重網(wǎng)站和廣告內(nèi)容推至最前等等。

捍衛(wèi)用戶對(duì)算法“說不”的權(quán)利，就是要保障用戶利益不受算法決策的侵害，構(gòu)建安全清朗的網(wǎng)絡(luò)生態(tài)。這種權(quán)利絕非技術(shù)層面的簡單開關(guān)，而是對(duì)算法整體基礎(chǔ)結(jié)構(gòu)的重新校準(zhǔn)。目前，我國相關(guān)部門和一些地方已經(jīng)出臺(tái)相關(guān)法律法規(guī)，持續(xù)規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展。平衡平臺(tái)發(fā)展和用戶權(quán)益，算法使用者必須遵章守法，監(jiān)管也必須更積極有為地介入。

讓用戶用好“拒絕權(quán)”，制度創(chuàng)新與場(chǎng)景化實(shí)踐可以形成可復(fù)制的解決方案，如平臺(tái)需為用戶提供易于操作的個(gè)性化推薦關(guān)閉功能，通過可視化工具向用戶披露算法邏輯，針對(duì)未成年人保護(hù)、老年人防沉迷等場(chǎng)景，實(shí)施算法剛性約束等等，從事后救濟(jì)到事前預(yù)防，全程強(qiáng)化算法治理。

切實(shí)維護(hù)好用戶的合法權(quán)益，讓用戶有“說不”的底氣，平臺(tái)必須真正聽到、聽進(jìn)去，“逼”著自己不斷優(yōu)化算法，少些直至杜絕濫用。打開“算法黑箱”，才能建立一個(gè)向上向善、公開透明又公平公正的算法秩序，營造有溫度、更清朗的數(shù)字空間。

（本報(bào)評(píng)論員吉寧）

治理算法濫用，核心在于“算法透明”

近年來，算法濫用事件頻發(fā)，這些事件不斷提醒我們：打開“算法黑箱”已成為數(shù)字時(shí)代必須面對(duì)的核心議題。

算法濫用的社會(huì)危害性不容小覷。首先，用戶自主選擇接收的信息范圍被無形限制。算法根據(jù)用戶歷史行為構(gòu)建偏好模型，不斷強(qiáng)化同類內(nèi)容推送，形成“信息繭房”。人們被困在自我重復(fù)的信息回音壁中，逐漸失去接觸多元觀點(diǎn)、挑戰(zhàn)自我認(rèn)知的機(jī)會(huì)，社會(huì)共識(shí)的基礎(chǔ)被悄然侵蝕。這也是當(dāng)下網(wǎng)絡(luò)戾氣激增、群體情緒激化突出的成因之一。其次，用戶可能因算法濫用而遭受消費(fèi)者權(quán)益損害。“千人千面”的定價(jià)策略讓老用戶看到更高價(jià)格，“精準(zhǔn)營銷”跨越隱私邊界，用戶在不自知中成為“被算計(jì)的對(duì)象”。更值得警惕的是，算法濫用可能助長網(wǎng)絡(luò)謠言、網(wǎng)絡(luò)暴力等不良信息的傳播。為追求用戶停留時(shí)長，算法往往優(yōu)先推送煽動(dòng)性、情緒化內(nèi)容，使理性聲音被淹沒，情緒變得極端化，甚至引發(fā)線下事件。

治理算法濫用的核心在于“打開黑箱”，實(shí)現(xiàn)算法透明。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》所要求的平臺(tái)公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制，正是這一理念的重要實(shí)踐。但需要明確的是，算法透明并非要求公開商業(yè)秘密或核心技術(shù)細(xì)節(jié)，而是揭示算法服務(wù)的基本規(guī)則和對(duì)用戶權(quán)益的影響方式。就像我們不需要了解發(fā)動(dòng)機(jī)的制造原理，但有權(quán)知道汽車的安全性能和油耗標(biāo)準(zhǔn)一樣，用戶有權(quán)知曉算法如何影響他們的信息環(huán)境和決策選擇。這種有限度的透明，既保護(hù)了企業(yè)的創(chuàng)新動(dòng)力，又保障了用戶的基本知情權(quán)和選擇權(quán)，讓用戶真正有能力自由挑選自己想要了解或喜歡的網(wǎng)絡(luò)信息。

當(dāng)然，治理算法濫用需要多方協(xié)同發(fā)力。其一，網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)以清晰易懂的方式說明算法服務(wù)對(duì)用戶權(quán)益的影響，提供必要的關(guān)閉或調(diào)整選項(xiàng)。特別是對(duì)于老年人等特殊群體，要結(jié)合老年人經(jīng)常面臨的實(shí)際問題，適當(dāng)增加諸如反電信網(wǎng)絡(luò)詐騙、反偽科普等內(nèi)容的推送比例。其二，監(jiān)管機(jī)構(gòu)需實(shí)施常態(tài)化監(jiān)管，督促平臺(tái)持續(xù)優(yōu)化內(nèi)部算法安全管理機(jī)制和算法技術(shù)應(yīng)用提示說明機(jī)制，確保平臺(tái)以簡明扼要、清晰易懂的方式公開算法推薦服務(wù)的基本情況。其三，社會(huì)公眾也需要積極參與治理活動(dòng)，提升信息素養(yǎng)，培養(yǎng)數(shù)字時(shí)代的批判性思維，主動(dòng)尋求多元信息源，共同構(gòu)建健康透明、向上向善的網(wǎng)絡(luò)信息生態(tài)。

值得注意的是，打開“算法黑箱”存在一定技術(shù)門檻。算法公示機(jī)制的根本目的是實(shí)現(xiàn)個(gè)體權(quán)益受算法技術(shù)應(yīng)用影響方式的“可視化”，所以，公示范圍、公示頻率應(yīng)當(dāng)圍繞該目的而合理設(shè)置，而非以“信息傾瀉”的方式讓公眾無從知曉算法技術(shù)應(yīng)用對(duì)自身權(quán)益究竟有何影響。

進(jìn)一步而言，平臺(tái)算法公示信息更適宜與普法信息同步呈現(xiàn)，避免一般社會(huì)公眾誤認(rèn)為算法技術(shù)應(yīng)用對(duì)自身權(quán)益存在影響就等于“重大威脅”，借由普法信息打消公眾不必要的擔(dān)憂，幫助公眾在準(zhǔn)確知曉權(quán)益影響程度、方式的基礎(chǔ)上，自主選擇相應(yīng)的服務(wù)選項(xiàng)。

歸根結(jié)底，算法原理公示從來都不是減損企業(yè)市場(chǎng)競(jìng)爭(zhēng)技術(shù)優(yōu)勢(shì)地位的強(qiáng)制性規(guī)范，而是為了引導(dǎo)信息服務(wù)行業(yè)提供更優(yōu)質(zhì)的信息服務(wù)、形成更健康的行業(yè)慣例。

在實(shí)踐中，開設(shè)“平臺(tái)算法原理公示”專欄、公開算法推薦服務(wù)權(quán)益影響說明、用戶代表參與算法設(shè)計(jì)、第三方算法安全審計(jì)等方式，不僅是數(shù)字時(shí)代算法技術(shù)應(yīng)用監(jiān)管的創(chuàng)新嘗試，更是數(shù)字時(shí)代技術(shù)安全治理理念的重要進(jìn)步。陽光是最好的消毒劑，只有讓算法運(yùn)行在陽光下，才能打破信息繭房的桎梏，構(gòu)建真正開放、包容、健康的數(shù)字空間。

（趙精武 北京航空航天大學(xué)法學(xué)院副教授）

新華每日電訊