24家網際網路企業備案演算法機制，如何影響使用者和演算法開發者？

8月12日，國家網際網路資訊辦公室釋出了關於網際網路資訊服務演算法備案資訊的公告。南都記者注意到，現在已經可以通過網際網路資訊服務演算法備案系統（下稱“系統”）查詢到包括百度、騰訊、位元組跳動、快手等多家境內網際網路公司的資訊服務演算法名稱及備案編號等相關資訊。

演算法備案的要求出自3月起施行的《網際網路資訊服務演算法推薦管理規定》。此次共公開了30條網站和App的備案資訊，涉及演算法名稱、演算法類別、主體名稱、應用產品、主要用途、備案編號等。

有專家表示，此舉為監管部門設定了事前問責點，另一方面也減少了企業承擔的風險。還有專家指出，這體現出國家對網際網路資訊服務，尤其是其中具有輿論屬性、社會動力、或社會動員能力的演算法推薦服務提供者的一種剛性的、問責式的、追責式的監管。

···

30家企業備案，旗下產品部分演算法資訊被公開

3月1日，國家網信辦、工信部、公安部、市場監管總局等四部門施行《網際網路資訊服務演算法推薦管理規定》（下稱《規定》）。同日，網際網路資訊服務演算法備案系統上線。

《規定》明確，應用演算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等演算法技術向用戶提供資訊。

生成合成類演算法；指自動或輔助生成、編輯文字、影象、語音、影片等網路資訊內容的演算法，如利用大資料、人工智慧等技術自動合成新聞、博文、帖子、評論等資訊。

個性化推送類演算法；專門針對特定使用者進行特定推薦、個性化分發的一種演算法。

排序精選類演算法；指設定、調整網路資訊內容排列順序的演算法，常用於生成熱搜、榜單。

檢索過濾類演算法；指基於使用者需求或法律要求，從可行的決策（推薦）方案中檢索或過濾出合適的推薦結果，可用於自動識別敏感字詞。

排程決策類演算法；指自動或輔助生成供需匹配、供需調節、路徑規劃等排程決策結果，或提供排程決策依據的演算法，常用於快遞平臺、出行平臺。

根據《規定》，具有輿論屬性或者社會動員能力的演算法推薦服務提供者應當在提供服務之日起十個工作日內通過網際網路資訊服務演算法備案系統填報 服務提供者的名稱、服務形式、應用領域、演算法型別、演算法自評估報告、擬公示內容等 資訊，履行備案手續。

完成備案的演算法推薦服務提供者應當在其對外提供服務的網站、應用程式等的顯著位置標明其備案編號並提供公示資訊連結。值得注意的是，此次演算法備案並未公開具體演算法機制。

在國家網信辦此次公開的境內網際網路資訊服務演算法備案清單中，已有首批24家企業的30項演算法在系統中進行了備案，包括新浪微博、快手、美團、百度等頭部企業，對應的產品（如App、網站）所屬行業則囊括了出行、電商、社交媒體和短影片類等等。

圖源：境內網際網路資訊服務演算法備案清單（2022年8月）

北京科技大學文法學院副教授張凌寒指出，本次備案採取了頭部企業先行的計劃。網際網路行業體量較大、使用者較多的一些頭部企業首先根據自身情況進行了演算法推薦服務情況的摸底，對具有輿論屬性或社會動員功能的演算法進行了備案。

張凌寒進一步指出，演算法備案制度本質是監管部門事前設定演算法問責的問責點，用以確認演算法推薦服務提供者是否履行了法律規定的各項義務，是否在演算法的設計、執行和結果輸出層面有主觀過錯。

“演算法不單純是一個計算程式，它更多地是跟個人資訊、大資料是聯絡起來的。那麼在這個基礎之上，演算法就是一個運作模式。而對演算法監管來講，它其中一個重要的基礎就是要對演算法進行備案，要對演算法的原理、模型模式進行說明。” 中國政法大學傳播法研究中心副主任朱巍說，“我一直在說一個觀點，就是演算法為王，資料次之——這個時代雖然是大資料時代，但是監管的抓手應該是在演算法……演算法備案是監管的基礎。”

···

沒有特別強調演算法透明，指標還需後續細化

南都記者注意到，一家企業旗下的不同產品可能對應多個演算法類別，即使是同一演算法類別之中，也可能存在多個演算法。

比如百度備案了檢索過濾類和排序精選類兩種演算法類別，而檢索過濾類又細分為百度內容安全演算法和百度資訊檢索演算法，前者用於防範和抵制違法資訊及不良資訊的釋出及傳播，後者旨在優化並提升資訊檢索結果及效果對使用者檢索需求的滿足程度。

朱巍指出，演算法備案除了給監管部門帶來便利外，也減少了企業的風險。“因為按照這套邏輯，一旦出了問題，事先報備過了，對平臺來講的話，它是把風險降到最低點。”

不過，在中國社科院科技和社會研究中心主任段偉文看來，這次備案其實並沒有特別強調演算法的透明公開，更重要的目的是規範資訊服務，強調消費者的權益和個人的基本權利，因此，演算法備案並不能徹底解決公眾關注的資訊繭房問題。“它（演算法備案）的目的是強調資訊服務要符合主流價值觀，而不是要緩解資訊繭房。如果要避免數字時代的偏見，那就要加強對數字時代的認識，提升數字素養。”

朱巍也認為，目前的演算法公開尚未明確具體的原理和相關指標。“《規定》裡有一個條款明確，演算法推薦服務提供者應用演算法對使用者權益造成重大影響的，應當依法予以說明並承擔相應責任。在這個清單裡面，我表面上是看不到（相關說明），特別是評估的部分，比如涉及到輿論屬性、新聞屬性和社會動員相關的東西的評估權重和指標，目前清單裡都沒有。”

但他對於未來演算法備案制度的不斷優化持樂觀態度，“現在至少是有一個清單出來了，這是履行平臺主體責任和網路監管責任的一個重要方面。指標、權重方面的規則可能後續還會持續增加。”

···

個人更易維權，演算法開發規範化成工作常態

除了監管方和企業之外，有專家認為，這次演算法備案對於個體，如演算法服務的普通使用者，以及網際網路從業人員也有著不小的影響。

段偉文表示，對使用者來說最直接的一點就是，當用戶覺得自己的權益因某個演算法受到了侵害，那麼就可以依據演算法備案去舉報，演算法備案的出現為法律訴訟提供了更多事實依據，使得使用者能夠更加方便地維護自己的權益。

談及對演算法開發人員的影響，段偉文表示，以往他們可能只要考慮到演算法開發本身的工作，但隨著演算法備案系統的上線，對於資訊服務的規範化的監管、配合等多項工作，都會逐漸進入到演算法開發的生命週期之中，成為一個常態化的工作內容。

“首先，在將演算法備案之後，他們在工作過程當中就會有一個自我提示，去審視是否存在問題；其次，因為已經備案，所以在出現特定的情況時，這些從業者也可以據此快速給出合理的解釋，甚至在必要的時候及時報告監管部門。所以總的來說，這在一定程度上可以緩解監管的剛性，為行業帶來積極影響。”他說。

此外，段偉文多次強調，演算法備案是“行政備案，而非行政許可”，即行政備案並不代表對演算法本身的許可，如果演算法存在瑕疵，就還會需要新一輪的監管或評估。

因此他認為，演算法提供者不應該僅僅被動地服從這些監管措施，而是要將剛性監管所帶來壓力和焦慮化作加強自律，提升行業標準。只有監管方和行業都找到一個平衡點，才能讓網際網路資訊服務走向多主體協同共治的方向，使得雙方都真正得到發展。

採寫/編譯：南都見習記者楊博雯 南都記者胡耕碩