數(shù)·說(shuō)（DJ TALK）
“算法推薦的規(guī)制方式與路徑”

? ? ? 專題研討會(huì)回顧

? ? ? 為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，弘揚(yáng)社會(huì)主義核心價(jià)值觀，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康有序發(fā)展，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，該規(guī)定自2022年3月1日起施行。這是我國(guó)第一部以算法作為專門規(guī)制對(duì)象的部門規(guī)章，意味著算法推薦技術(shù)的治理進(jìn)入新的階段。

? ? ?2022年1月9日，由北京航空航天大學(xué)法學(xué)院數(shù)字正義研究中心主辦的“算法推薦的規(guī)制方式與路徑——評(píng)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》”專題研討會(huì)于線上成功舉行，來(lái)自中國(guó)信通院、對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)、北京科技大學(xué)、中國(guó)人民公安大學(xué)、北京周泰律師事務(wù)所等六余位專家圍繞新出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》進(jìn)行了充分的交流與探討。

? ? ? 本次研討會(huì)共分為兩個(gè)環(huán)節(jié)，第一環(huán)節(jié)是由六位專家評(píng)述新出臺(tái)的《算法推薦管理規(guī)定》，第二環(huán)節(jié)是訪談對(duì)話。

? ? ? 第一環(huán)節(jié)

? ? ? 北京科技大學(xué)的張凌寒副教授談到當(dāng)今世界范圍內(nèi)，以算法作為調(diào)整對(duì)象的法律性文件相對(duì)較少，我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》可以說(shuō)是世界上首次全面性、系統(tǒng)性、整體性地對(duì)算法進(jìn)行了規(guī)制，在世界范圍內(nèi)具有重大意義。隨后，張凌寒副教授聚焦該《規(guī)定》的三大亮點(diǎn)指出，第一，該《規(guī)定》的性質(zhì)是由四部委聯(lián)發(fā)的部門規(guī)章，與此前發(fā)布的《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律的價(jià)值取向是一脈相承的，該《規(guī)定》是對(duì)前述法律在具體制度上的細(xì)化和落地。第二，該《規(guī)定》涉及的算法種類囊括了現(xiàn)行平臺(tái)治理中所使用的各種算法類型，規(guī)制對(duì)象基本覆蓋了現(xiàn)有的互聯(lián)網(wǎng)業(yè)態(tài)。第三，該《規(guī)定》確立了一系列具有中國(guó)本土特色的算法規(guī)制手段，如針對(duì)“標(biāo)簽”“算法的機(jī)制機(jī)理”“模型”的技術(shù)治理，算法備案制度等等。

? ? ? 中國(guó)人民公安大學(xué)的蘇宇副教授聚焦該《規(guī)定》第12條，即“算法可解釋性和透明度”問(wèn)題，并分享了自己的看法。蘇宇副教授指出原該《規(guī)定（征求意見(jiàn)稿）》中這一條的表述是“應(yīng)當(dāng)”，對(duì)于算法推薦服務(wù)提供者是硬性的義務(wù)條款，而正式出臺(tái)的版本則修改為鼓勵(lì)性條款，給予各企業(yè)去探索適合的優(yōu)化策略空間；同時(shí)，應(yīng)當(dāng)注意該第12條中“運(yùn)用內(nèi)容去重、打散干預(yù)等策略”和優(yōu)化透明度和可解釋性分屬兩個(gè)不同的要求；優(yōu)化算法可解釋性與透明度又是兩個(gè)不同的要求。此外，原該《規(guī)定（征求意見(jiàn)稿）》第15條與第12條有密切聯(lián)系，原征求意見(jiàn)稿第15條提出了用戶的算法解釋請(qǐng)求權(quán)，而正式版本的第17條第三款中關(guān)于算法解釋請(qǐng)求權(quán)問(wèn)題已經(jīng)改頭換面，從用戶有權(quán)要求解釋變?yōu)椴恢苯痈脩舻乃惴ń忉屨?qǐng)求權(quán)相對(duì)應(yīng)。最后，蘇宇副教授談到《規(guī)定》第23條的算法分級(jí)分類安全管理制度，是未來(lái)中國(guó)算法治理建設(shè)的重要切入點(diǎn)，應(yīng)當(dāng)首先關(guān)注算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力，其次是數(shù)據(jù)的重要程度以及對(duì)用戶行為的干預(yù)程度，最后是內(nèi)容類別、用戶規(guī)模等因素實(shí)施分級(jí)分類管理。

? ? ? 對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)的張欣副教授同樣聚焦該《規(guī)定》中值得關(guān)注的亮點(diǎn)。張欣副教授指出，我國(guó)對(duì)于算法的規(guī)制具有本土化特色。第一，該《規(guī)定》的規(guī)制主體并非所有的算法類型，而是算法深入社會(huì)結(jié)構(gòu)各層面中引發(fā)社會(huì)廣泛關(guān)注的推薦算法，此前九部委發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》中就曾提出國(guó)家算法治理的主要目標(biāo)是利用三年左右時(shí)間建立算法安全綜合治理格局，這也是該《規(guī)定》出臺(tái)的背景之一。同樣，算法類型的全面覆蓋也彰顯了該《規(guī)定》的系統(tǒng)性。第二，我國(guó)與其他國(guó)家關(guān)于算法規(guī)制路徑的不同點(diǎn)在于，我國(guó)的算法問(wèn)責(zé)機(jī)制建立在數(shù)據(jù)治理和平臺(tái)治理基礎(chǔ)之上，故該《規(guī)定》延續(xù)此前關(guān)于平臺(tái)主體責(zé)任的邏輯框架，提出“算法安全主體”概念。接下來(lái)我們還需要探索算法安全主體的責(zé)任邊界在哪？算法安全主體的正當(dāng)性、合理性以及對(duì)算法安全主體認(rèn)定的標(biāo)準(zhǔn)在哪？第三，我國(guó)除去像其他國(guó)家出臺(tái)算法和人工智能相關(guān)的技術(shù)標(biāo)準(zhǔn)和倫理規(guī)范外，還在該《規(guī)定》中倡導(dǎo)算法的主流價(jià)值取向，堅(jiān)持促進(jìn)算法應(yīng)用的向上向善，以此糾偏所謂算法過(guò)程中因“技術(shù)中立”引致的責(zé)任規(guī)避問(wèn)題。第四，該《規(guī)定》對(duì)用戶賦予了非常健全的權(quán)利，從事前事中事后的視角賦予用戶自主選擇權(quán)、知情權(quán)、拒絕權(quán)、獲得說(shuō)明和救濟(jì)的權(quán)利，此外還規(guī)定了算法備案制度，包括機(jī)制機(jī)理審核，這更加符合算法運(yùn)作的底層邏輯。

? ? ? 中國(guó)信通院的程瑩研究員立足宏觀角度，并結(jié)合自身工作經(jīng)驗(yàn)，從三個(gè)視角對(duì)該《規(guī)定》進(jìn)行解讀分析。從橫向來(lái)看，關(guān)注該《規(guī)定》和美歐算法治理的差異性，一是該《規(guī)定》具有一定的超前性和開(kāi)創(chuàng)性；二是該《規(guī)定》體現(xiàn)了各國(guó)關(guān)注點(diǎn)的差異性，而我國(guó)的核心關(guān)注點(diǎn)在信息內(nèi)容安全和網(wǎng)絡(luò)平臺(tái)在商業(yè)領(lǐng)域的應(yīng)用方面；三是算法治理落地方式的不同，我國(guó)更加依賴政府監(jiān)管和社會(huì)監(jiān)督。從縱向來(lái)看，關(guān)注該《規(guī)定》在我國(guó)互聯(lián)網(wǎng)法治當(dāng)中的角色，主要從該《規(guī)定》與其他信息內(nèi)容立法之間的關(guān)系、在我國(guó)現(xiàn)有互聯(lián)網(wǎng)立法體系當(dāng)中的位置和作用、與當(dāng)前數(shù)字經(jīng)濟(jì)立法和政策的協(xié)調(diào)等三方面展開(kāi)。從未來(lái)實(shí)施的角度來(lái)看，不僅要加快理論層面的研究支撐，還要在行業(yè)分散監(jiān)管的同時(shí)注重整體統(tǒng)籌協(xié)調(diào)，以及探索創(chuàng)新監(jiān)管舉措、提升技術(shù)監(jiān)管能力。

? ? ? 北京周泰律師事務(wù)所的儲(chǔ)江律師從實(shí)務(wù)角度出發(fā)談到該《規(guī)定》將過(guò)去企業(yè)的算法安全部分和個(gè)人隱私數(shù)據(jù)合規(guī)部分做了有效銜接，這為實(shí)務(wù)工作者提供了非常明確的指導(dǎo)參考標(biāo)準(zhǔn)。基于此，儲(chǔ)江律師進(jìn)一步分享到，第一，該《規(guī)定》第7、8條提供了正反兩方面的合規(guī)指引；第二，該《規(guī)定》不僅細(xì)化落實(shí)網(wǎng)絡(luò)空間治理法律體系中的個(gè)人權(quán)利保護(hù)要求，還重點(diǎn)針對(duì)特定群體的特殊場(chǎng)景進(jìn)行回應(yīng)，這為應(yīng)對(duì)算法歧視提供更加細(xì)致的指引；第三，該《規(guī)定》將算法監(jiān)管納入到合規(guī)監(jiān)管體系當(dāng)中；第四，該《規(guī)定》從反壟斷和反不正當(dāng)競(jìng)爭(zhēng)的視角對(duì)算法推薦服務(wù)進(jìn)行了規(guī)制。

? ? ? 對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)的許可副教授主要談及了理解該《規(guī)定》的兩個(gè)維度。第一個(gè)維度是社會(huì)和經(jīng)濟(jì)的維度，算法推薦作為常見(jiàn)的經(jīng)營(yíng)業(yè)態(tài)具備兩方面價(jià)值，一是推薦性算法是社會(huì)建構(gòu)的重要工具；二是算法是數(shù)字時(shí)代的重要生產(chǎn)性工具，也即算法推薦同時(shí)兼有社會(huì)層面和經(jīng)濟(jì)層面的雙重價(jià)值，應(yīng)當(dāng)采取分而治之的思路。第二個(gè)維度是技術(shù)、法律和社會(huì)規(guī)范的維度，算法治理是技術(shù)、法律與社會(huì)規(guī)范的協(xié)作過(guò)程，該《規(guī)定》中也提出一系列行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則、行業(yè)自律以及算法價(jià)值引導(dǎo)等要求，從多方面對(duì)算法和法律的關(guān)系作出補(bǔ)充。

? ? ? 第二環(huán)節(jié)

? ? ? 第二個(gè)環(huán)節(jié)由北京航空航天大學(xué)法學(xué)院數(shù)字正義研究中心副主任趙精武助理教授主持。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》作為一部專門性規(guī)章，聚焦算法推薦服務(wù)亂象問(wèn)題，為算法綜合治理中的算法推薦領(lǐng)域提出了新要求和新挑戰(zhàn)，基于此，該環(huán)節(jié)共設(shè)置十個(gè)問(wèn)題，六位專家分別從不同的維度對(duì)話解讀新出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。

? ? ? （訪談對(duì)話環(huán)節(jié)）

? ? ? 【問(wèn)題一】《規(guī)定》出臺(tái)的背景是什么？最終版本與之前的草案有何重要區(qū)別？

? ? ? 許可副教授談到算法大數(shù)據(jù)殺熟以及算法的差別化定價(jià)等社會(huì)問(wèn)題構(gòu)成了算法推薦監(jiān)管的宏觀背景。對(duì)于算法監(jiān)管，可以從國(guó)際視角和中國(guó)自身視角來(lái)看待，一方面人們對(duì)脫離或至少部分脫離人控制的算法的擔(dān)憂引發(fā)政治及法律層面對(duì)算法規(guī)制的回應(yīng)，這是全球的宏觀視野；另一方面我國(guó)關(guān)于算法監(jiān)管特別是推薦性算法的監(jiān)管是原有平臺(tái)治理思路與信息內(nèi)容管理思路的進(jìn)一步延伸。

張欣副教授談到從我國(guó)關(guān)于算法監(jiān)管的發(fā)展脈絡(luò)來(lái)看，算法治理已從原有的分散治理走向統(tǒng)籌一體化、整合化和系統(tǒng)化的治理。此外，社會(huì)的焦點(diǎn)性事件所引發(fā)的算法不良影響和算法焦慮也是直接推動(dòng)該《規(guī)定》出臺(tái)的重要原因。與征求意見(jiàn)稿相比，生效版本就監(jiān)管工作職能分配、互聯(lián)網(wǎng)新聞信息服務(wù)的算法利用規(guī)制、禁止利用算法實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為、老年人合法權(quán)益保障、組織和個(gè)人的投訴舉報(bào)渠道的建立等五個(gè)方面新增了規(guī)定。

? ? ? 【問(wèn)題二】什么是算法推薦？為什么算法推薦需要被規(guī)制？不受規(guī)制的算法推薦可能產(chǎn)生哪些問(wèn)題？

? ? ? 程瑩研究員回應(yīng)到關(guān)于算法推薦，它的范圍實(shí)際上是比較廣泛的，該《規(guī)定》不僅在第2條列舉了五種典型算法類型，還將征求意見(jiàn)稿中的“提供信息內(nèi)容”表述修改為“提供信息”，進(jìn)一步明確了算法推薦的涵蓋范圍。而關(guān)于規(guī)制算法推薦的原因，該《規(guī)定》第1條有所提及，但更應(yīng)當(dāng)在算法制度設(shè)定當(dāng)中關(guān)注數(shù)字經(jīng)濟(jì)發(fā)展和九部門《算法綜合治理指導(dǎo)意見(jiàn)》中提到的傳播秩序、市場(chǎng)秩序和社會(huì)秩序這三種秩序安全和數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展之間的有效平衡問(wèn)題。

儲(chǔ)江律師立足純技術(shù)的角度，指出算法推薦的理念和邏輯自上世紀(jì)即被提出，而經(jīng)過(guò)30多年的發(fā)展，現(xiàn)階段仍需對(duì)算法推薦進(jìn)行規(guī)制的原因主要有兩個(gè)，一是近年來(lái)人工智能、機(jī)器學(xué)習(xí)和大數(shù)據(jù)技術(shù)的應(yīng)用加大算法推薦能力的同時(shí)，對(duì)個(gè)人隱私帶來(lái)比較強(qiáng)烈和直接的沖擊。二是從互聯(lián)網(wǎng)產(chǎn)品傳播的角度看，互聯(lián)網(wǎng)經(jīng)濟(jì)更多是一種流量經(jīng)濟(jì)，搶奪用戶交易機(jī)會(huì)是較為重要的環(huán)節(jié)和內(nèi)容，以自動(dòng)化推薦為代表的算法目前能夠做到影響消費(fèi)者的決策能力，若不加以限制，容易對(duì)消費(fèi)者形成信息繭房或信息孤島，影響消費(fèi)者對(duì)主流事物的理解，影響社會(huì)穩(wěn)定、國(guó)家安全的傳播效果。

? ? ? 【問(wèn)題三】什么是“算法推薦服務(wù)提供者”？《規(guī)定》的出臺(tái)會(huì)對(duì)產(chǎn)業(yè)產(chǎn)生哪些影響？

? ? ? 程瑩研究員指出，算法推薦服務(wù)指在中華人民共和國(guó)境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)。從這一角度來(lái)看，算法推薦服務(wù)提供者可以理解為應(yīng)用算法推薦技術(shù)的互聯(lián)網(wǎng)信息服務(wù)提供者。互聯(lián)網(wǎng)信息服務(wù)提供者在《互聯(lián)網(wǎng)信息服務(wù)管理辦法》中有較? 為明確的界定。當(dāng)然，在具體理解過(guò)程中仍需要注意兩個(gè)問(wèn)題，一是算法推薦服務(wù)提供者規(guī)制的重點(diǎn)并非算法的開(kāi)發(fā)者和設(shè)計(jì)者，而是應(yīng)用算法技術(shù)向用戶提供信息服務(wù)的主體；二是對(duì)于沒(méi)有算法開(kāi)發(fā)能力，需要通過(guò)與其他技術(shù)公司合作才能應(yīng)用算法推薦技術(shù)的中小企業(yè)，需要通過(guò)合同確定算法責(zé)任和算法義務(wù)的分擔(dān)問(wèn)題。至于對(duì)產(chǎn)業(yè)的影響，程瑩研究員談到當(dāng)前算法合規(guī)對(duì)企業(yè)來(lái)說(shuō)缺乏域外參考，也缺乏較為明確的指引，可能在一定程度上干擾新興業(yè)態(tài)的算法創(chuàng)新問(wèn)題。算法推薦服務(wù)提供者分級(jí)分類管理制度的有效落地同樣關(guān)乎中小企業(yè)的利益保障和發(fā)展問(wèn)題。

張凌寒副教授談到算法推薦服務(wù)提供者對(duì)接的是用戶端，即提供技術(shù)的企業(yè)并不是該《規(guī)定》的調(diào)整對(duì)象。因?yàn)樵摗兑?guī)定》主要關(guān)注的是能夠?qū)τ脩魴?quán)益產(chǎn)生直接影響的平臺(tái)企業(yè)，為算法推薦服務(wù)提供者提供技術(shù)的企業(yè)尚不是《規(guī)定》關(guān)注的重點(diǎn)。關(guān)于《規(guī)定》的出臺(tái)對(duì)產(chǎn)業(yè)產(chǎn)生的影響來(lái)看，一方面會(huì)使得企業(yè)的合規(guī)成本增加，另一方面也會(huì)使得自身沒(méi)有算法推薦服務(wù)開(kāi)發(fā)能力的企業(yè)對(duì)為自己提供算法推薦技術(shù)的技術(shù)服務(wù)提供者盡到合規(guī)自我審查的義務(wù)，承擔(dān)起應(yīng)負(fù)的責(zé)任。

儲(chǔ)江律師則聚焦實(shí)務(wù)界中關(guān)于算法推薦服務(wù)提供者的理解分歧進(jìn)而提出對(duì)于參與到個(gè)人信息處理中的主體未來(lái)是否也要納入到算法推薦服務(wù)提供者的范疇的思考，此外，儲(chǔ)江律師還談到將算法推薦作為企業(yè)單獨(dú)的合規(guī)模塊可能會(huì)對(duì)整個(gè)行業(yè)帶來(lái)一定的挑戰(zhàn)，但這種挑戰(zhàn)本身順應(yīng)了數(shù)據(jù)合規(guī)的工作思路，不會(huì)有太大的合規(guī)負(fù)擔(dān)和額外增加的合規(guī)成本，而對(duì)于中小平臺(tái)在使用推薦算法技術(shù)或使用大平臺(tái)向他們分享的推薦算法時(shí)，有賴于后續(xù)從反不正當(dāng)競(jìng)爭(zhēng)法層面做出一系列規(guī)制，規(guī)范相應(yīng)的行為。

? ? ? 【問(wèn)題四】《規(guī)定》第2條提到“在中華人民共和國(guó)境內(nèi)應(yīng)用算法推薦技術(shù)”，如何理解“境內(nèi)”？

? ? ? 許可副教授分享到從目前的表述來(lái)看，“境內(nèi)”體現(xiàn)的是屬地管轄的原則，即只要在中國(guó)國(guó)境以內(nèi)應(yīng)用算法，特別是境內(nèi)的算法服務(wù)提供者，無(wú)論算法服務(wù)的對(duì)象是中國(guó)人、外國(guó)人還是向境外提供服務(wù)，都適用本法。

? ? ? 【問(wèn)題五】算法解釋與算法透明度第一次以明確的技術(shù)要求具體提出，應(yīng)該在實(shí)踐中如何實(shí)現(xiàn)？

? ? ? ?蘇宇副教授談到算法的可解釋性指的是算法模型本身是否可以解釋或本身提供解釋的能力有多強(qiáng)，有的算法模型是自解釋的，不需要額外提供解釋，而有的算法模型如帶黑箱的算法涉及可解釋性問(wèn)題。當(dāng)前，提供算法解釋的途徑有兩種，一種是算法模型自己產(chǎn)生解釋，另一種是算法模型本身不做解釋，事后再提供解釋器。基于此，要優(yōu)化算法模型的可解釋性，一方面可以從算法本身入手，增強(qiáng)算法本身的規(guī)則化特征，另一方面可以提供針對(duì)此類算法模型或跨模型的解釋器。而優(yōu)化算法的透明度技術(shù)有很多可選方案，例如可以提供可量化的透明度報(bào)告。該《規(guī)定》第12條實(shí)際給算法推薦服務(wù)提供者提供了多元化探索的空間，以促成更多實(shí)現(xiàn)算法可解釋性和透明度的方案。

張凌寒副教授則聚焦該正式出臺(tái)的《規(guī)定》與此前征求意見(jiàn)稿的差別，回應(yīng)了實(shí)務(wù)界關(guān)于技術(shù)上無(wú)法實(shí)現(xiàn)算法可解釋性和透明度的爭(zhēng)議。張凌寒副教授談到，《規(guī)定》第12條中關(guān)于算法解釋的表述發(fā)生了非常大的改變，從義務(wù)性規(guī)定到鼓勵(lì)性規(guī)定的轉(zhuǎn)變，實(shí)際是整個(gè)監(jiān)管部門和立法部門考慮到各個(gè)算法推薦服務(wù)提供者在技術(shù)能力上的巨大差距，為包括算法推薦服務(wù)提供者在內(nèi)的平臺(tái)企業(yè)提供了一個(gè)逐漸摸索算法解釋和透明度的機(jī)制。立法的初衷仍是希望算法企業(yè)能夠在自身技術(shù)允許的范圍內(nèi)，以自律的方式逐步推進(jìn)算法透明度與算法解釋的制度建設(shè)。此外，《規(guī)定》第12條的另一明顯變化是將“引發(fā)爭(zhēng)議糾紛”修改為“預(yù)防和減少爭(zhēng)議糾紛”，這主要針對(duì)的是信息內(nèi)容平臺(tái)上的水軍、用戶攻擊、飯圈亂象等。因此，張凌寒副教授總結(jié)到《規(guī)定》的改變實(shí)際上是希望鼓勵(lì)平臺(tái)在整個(gè)內(nèi)容生態(tài)治理過(guò)程中，通過(guò)內(nèi)容去重和打散干預(yù)策略發(fā)揮更多積極的作用，并非強(qiáng)制性要求企業(yè)公布自己的算法甚至是源代碼，故企業(yè)無(wú)需擔(dān)憂。

儲(chǔ)江律師關(guān)注到算法的可解釋性和透明度問(wèn)題是十多年前算法霸權(quán)概念被提出后對(duì)掌握關(guān)鍵大量個(gè)人信息企業(yè)提出的要求和原則，對(duì)于如何在企業(yè)合規(guī)中做到透明性和可解釋性的要求，儲(chǔ)江律師分享了兩點(diǎn)思考，一是將此項(xiàng)工作內(nèi)化到算法設(shè)計(jì)和算法開(kāi)發(fā)的過(guò)程中，二是在算法最終服務(wù)利用階段，企業(yè)可以在不影響知識(shí)產(chǎn)權(quán)競(jìng)爭(zhēng)力、商業(yè)秘密保護(hù)的前提下嘗試建立一定的申訴反饋機(jī)制，建立針對(duì)單個(gè)消費(fèi)者的解釋渠道。

? ? ? ?【問(wèn)題六】《規(guī)定》在第7條特別強(qiáng)調(diào)落實(shí)算法安全主體責(zé)任，什么是算法安全？它與網(wǎng)絡(luò)安全、數(shù)據(jù)安全是什么關(guān)系？

? ? ? 張欣副教授結(jié)合該《規(guī)定》和《算法綜合治理指導(dǎo)意見(jiàn)》中關(guān)于算法安全的表述，提出算法安全并非狹義上的算法本身是否安全和可靠，而是需要把它放在綜合治理的格局之下，故整體來(lái)講，繼網(wǎng)絡(luò)安全和數(shù)據(jù)安全之后，算法安全是非常重要的概念，也是未來(lái)治理的目標(biāo)。從微觀層面來(lái)看，算法安全與算法性能即算法的安全可靠相關(guān)，這要求算法的設(shè)計(jì)者、信息服務(wù)提供者提供的系統(tǒng)和模型的設(shè)計(jì)與運(yùn)行是可靠的；從中觀層面來(lái)看，算法安全指的是算法的安全可控，安全可控已經(jīng)超越模型和設(shè)計(jì)本身，是在應(yīng)用場(chǎng)景當(dāng)中的風(fēng)險(xiǎn)可控；從宏觀層面來(lái)看，算法安全指的是算法的安全可信，不管是《規(guī)定》還是《指導(dǎo)意見(jiàn)》都在強(qiáng)調(diào)算法的向上向善，算法的安全可信要放歸到整個(gè)算法運(yùn)行生態(tài)中觀察算法是否可信。

蘇宇副教授則強(qiáng)調(diào)了算法安全問(wèn)題的復(fù)雜性：算法本身可能存在缺陷，也可能受到外部的數(shù)據(jù)投毒、對(duì)抗樣本或模型竊取等攻擊；在現(xiàn)行有關(guān)規(guī)定中，算法安全不僅面臨著技術(shù)安全問(wèn)題，還涉及科技倫理方面的安全，甚至涉及超出算法本身安全層次的安全問(wèn)題，若把完整的算法安全考慮進(jìn)來(lái)，可能只有大企業(yè)才有能力去承擔(dān)算法安全要求，因此算法安全的要求程度非常高，中小企業(yè)很難抵抗所有針對(duì)算法模型的攻擊，故算法安全應(yīng)當(dāng)與算法的分級(jí)分類安全管理相結(jié)合，使算法安全的要求實(shí)現(xiàn)精準(zhǔn)、合理的場(chǎng)景化。

? ? ? ?儲(chǔ)江律師提到算法安全在一般企業(yè)中是網(wǎng)絡(luò)安全的子模塊，是單獨(dú)的安全工作任務(wù)，是數(shù)據(jù)安全相互并列，而該《規(guī)定》中的算法安全已超出算法技術(shù)本身，更多成為網(wǎng)絡(luò)安全和數(shù)據(jù)安全之間的內(nèi)容。企業(yè)在算法開(kāi)發(fā)過(guò)程中若涉及個(gè)人信息保護(hù)、網(wǎng)絡(luò)詐騙等安全評(píng)估監(jiān)測(cè)時(shí)，是與傳統(tǒng)的數(shù)據(jù)安全工作有所交叉的。儲(chǔ)江律師還關(guān)注到《算法綜合治理指導(dǎo)意見(jiàn)》中提及的“組織建立專業(yè)技術(shù)評(píng)估隊(duì)伍，深入分析算法機(jī)制機(jī)理”等內(nèi)容，對(duì)未來(lái)企業(yè)算法安全方面的投入提出一定的要求，但這種合規(guī)成本的增加可以通過(guò)現(xiàn)階段工作任務(wù)的調(diào)整來(lái)實(shí)現(xiàn)。

? ? ? 【問(wèn)題七】《規(guī)定》設(shè)專章規(guī)定了用戶權(quán)益保護(hù)，具體涉及哪些權(quán)益？哪種/些權(quán)益是比較重要的？

? ? ? ?許可副教授強(qiáng)調(diào)該《規(guī)定》在制定過(guò)程中一直倡導(dǎo)協(xié)同治理思路，其除了包括國(guó)家監(jiān)管機(jī)構(gòu)在算法治理過(guò)程中發(fā)揮的監(jiān)管作用外，還包括個(gè)體如何通過(guò)權(quán)利的行使對(duì)算法治理發(fā)揮作用。許可副教授進(jìn)一步談到基于算法的公開(kāi)透明這一治理目標(biāo)，算法權(quán)益是對(duì)既有《個(gè)人信息保護(hù)法》下個(gè)人信息保護(hù)權(quán)益的延伸；而基于算法的公平公正需求，算法權(quán)益對(duì)算法的個(gè)人信息權(quán)益作了進(jìn)一步的提升，其賦予未成年人、老年人、勞動(dòng)者、消費(fèi)者更多的權(quán)益保障內(nèi)容，而這些內(nèi)容都可以成為未來(lái)個(gè)人信息權(quán)益非常重要的立足點(diǎn)和出發(fā)點(diǎn)。

? ? ? 儲(chǔ)江律師則關(guān)注到該《規(guī)定》中對(duì)用戶權(quán)利的立體保護(hù)模式，一方面保障了傳統(tǒng)數(shù)據(jù)立法之下消費(fèi)者知情權(quán)和拒絕權(quán)或者可選擇權(quán)的實(shí)現(xiàn)，另一方面也在后續(xù)的監(jiān)管層面對(duì)數(shù)據(jù)權(quán)利主體的權(quán)利提出一系列保障機(jī)制。

? ? ? 【問(wèn)題八】平臺(tái)的算法責(zé)任設(shè)置層次如何，是否合理？

? ? ? 張凌寒副教授指出該《規(guī)定》明確了平臺(tái)的算法問(wèn)責(zé)制體系的建設(shè)，并在第五章設(shè)專章規(guī)定相關(guān)的法律責(zé)任。其中，需要尤為關(guān)注兩點(diǎn)內(nèi)容，一是規(guī)定了算法的虛假備案責(zé)任這一新型算法相關(guān)責(zé)任；二是明確了算法服務(wù)提供者違反相關(guān)義務(wù)所承擔(dān)的行政責(zé)任，并且這一責(zé)任力度的設(shè)置和網(wǎng)信辦此前的其他法規(guī)規(guī)章規(guī)定的力度基本保持一致。

程瑩研究員從主體責(zé)任的視角探討了平臺(tái)責(zé)任，并通過(guò)梳理該《規(guī)定》中關(guān)于平臺(tái)責(zé)任的10項(xiàng)不得和16項(xiàng)應(yīng)當(dāng)?shù)囊筇岢觯脚_(tái)企業(yè)重點(diǎn)關(guān)注的是責(zé)任的邊界問(wèn)題，這其中不僅包括平臺(tái)責(zé)任設(shè)置的法理基礎(chǔ)，還包括平臺(tái)具體義務(wù)履行過(guò)程中的標(biāo)準(zhǔn)界定；此外，平臺(tái)義務(wù)是否可以落地也是平臺(tái)重點(diǎn)關(guān)注的問(wèn)題，在未來(lái)三年的算法綜合治理過(guò)程中需要不斷探索和思考。

? ? ? 【問(wèn)題九】《規(guī)定》在第四章監(jiān)督管理部分規(guī)定了算法備案制度，該制度有哪些作用？實(shí)踐中可能面臨哪些障礙？

? ? ? 張欣副教授認(rèn)為要把算法備案制度放在整個(gè)算法治理體系中以及算法治理要實(shí)現(xiàn)的治理功能中去理解。整體來(lái)講，算法備案必須要達(dá)成自身的治理效能和功能，才能稱之為有效的制度設(shè)計(jì)。從定義來(lái)講，算法備案是要求符合特定級(jí)別的算法推薦服務(wù)提供者，報(bào)送算法推薦服務(wù)相關(guān)活動(dòng)的材料，以便日后備查和監(jiān)督的監(jiān)管方法。要完成算法備案制度，上游和下游都需要相應(yīng)的工具與其銜接。上游需要算法分級(jí)分類包括算法應(yīng)用的分級(jí)分類和算法推薦者的分級(jí)分類，需要監(jiān)管機(jī)關(guān)出臺(tái)一套更細(xì)化的評(píng)估清單或者評(píng)估的關(guān)鍵標(biāo)準(zhǔn)和流程；下游則更加關(guān)注備案之后的行為，是審查、審批還是后續(xù)的其他算法監(jiān)管措施。基于此，張欣副教授進(jìn)一步講到上下游之間的銜接問(wèn)題以及算法備案時(shí)各級(jí)別各主體之間的備案協(xié)調(diào)問(wèn)題都是需要重點(diǎn)關(guān)注的。此外，張欣副教授還通過(guò)信息搜集、信息披露、歸責(zé)等方面分享了算法備案的定位問(wèn)題，并指出未來(lái)需要加強(qiáng)算法備案的法治化路徑探索。

儲(chǔ)江律師指出產(chǎn)業(yè)界除了關(guān)注備案的流程之外，還關(guān)注到頻繁的算法動(dòng)態(tài)更新與算法備案之前的平衡問(wèn)題。算法備案制度能夠有效確保《規(guī)定》中相關(guān)規(guī)則和處罰責(zé)任的落實(shí)到位，故算法的更新如何銜接備案工作是未來(lái)需要著重探討的方向，可以通過(guò)在平臺(tái)和監(jiān)管部門之間設(shè)置開(kāi)放接口平臺(tái)對(duì)接的辦法在保護(hù)企業(yè)商業(yè)秘密、知識(shí)產(chǎn)權(quán)的前提之下做好相關(guān)推薦算法的動(dòng)態(tài)更新。

程瑩研究員談到備案制度相對(duì)來(lái)說(shuō)具有中國(guó)特色，也是該《規(guī)定》落實(shí)當(dāng)下需要積極推進(jìn)的制度，包括創(chuàng)建算法備案系統(tǒng)、如何去確定相關(guān)的備案內(nèi)容、備案主體等等。但復(fù)雜的算法節(jié)點(diǎn)關(guān)系以及繁多的算法服務(wù)類型給算法備案系統(tǒng)和內(nèi)容設(shè)置諸多的問(wèn)題和障礙，此外，具體備案當(dāng)中是否存在重復(fù)備案或以哪種主體去備案更有利于未來(lái)監(jiān)管和降低企業(yè)成本，如何避免備案帶有許可性質(zhì)等問(wèn)題也是我們需要著重考慮的問(wèn)題。

? ? ? 【問(wèn)題十】《規(guī)定》的內(nèi)容為合規(guī)責(zé)任主體提出了哪些新要求？合規(guī)責(zé)任主體應(yīng)如何根據(jù)《規(guī)定》要求調(diào)整現(xiàn)有合規(guī)方案？

? ? ? 儲(chǔ)江律師提出了三個(gè)方向的思考，即合規(guī)主體內(nèi)部合規(guī)機(jī)制、對(duì)數(shù)據(jù)主體權(quán)利的保護(hù)以及對(duì)外部監(jiān)管的應(yīng)對(duì)。《規(guī)定》在內(nèi)部合規(guī)領(lǐng)域帶來(lái)的變化主要是算法的機(jī)制機(jī)理評(píng)估的制度，以及透明度和可解釋性的問(wèn)題，未來(lái)合規(guī)主體需要重點(diǎn)解決。針對(duì)數(shù)據(jù)主體權(quán)利保護(hù)，對(duì)特殊群體的保護(hù)義務(wù)是一個(gè)重點(diǎn)。在外部監(jiān)管方面，算法備案以及算法的分類分級(jí)是未來(lái)合規(guī)主體需要重視的方向。儲(chǔ)江律師進(jìn)一步對(duì)企業(yè)如何去調(diào)整合規(guī)方案提出了建議，第一，《算法綜合治理的指導(dǎo)意見(jiàn)》的重點(diǎn)內(nèi)容同樣不能在這次的合規(guī)方案調(diào)整當(dāng)中被忽視。第二，一些特殊類型的企業(yè)需要積極探索《規(guī)定》當(dāng)中相關(guān)概念的邊界。第三，在《規(guī)定》的法律責(zé)任框架體系下，合規(guī)主體也需要嘗試自己提出新的合規(guī)手段來(lái)適應(yīng)推薦算法整體的監(jiān)管體系。

? ? ? 蘇宇副教授指出，相比于國(guó)內(nèi)研究較多的刑事合規(guī)而言，該《規(guī)定》對(duì)企業(yè)合規(guī)的要求屬于行政合規(guī)。企業(yè)投入人力財(cái)力做合規(guī)的動(dòng)力是防止承擔(dān)嚴(yán)厲的法律責(zé)任，那就需要從法律責(zé)任的設(shè)置談起，即企業(yè)內(nèi)部需要采用何種規(guī)定或管理模式來(lái)避免行政責(zé)任。就《規(guī)定》當(dāng)中的法律責(zé)任而言，第31條中行政處罰的前置程序給企業(yè)提供了糾正錯(cuò)誤、明確合規(guī)方向的機(jī)會(huì)。《規(guī)定》中涉及大數(shù)據(jù)殺熟、未成年人保護(hù)、影響社會(huì)輿論或者社會(huì)動(dòng)員的問(wèn)題、平臺(tái)用工等涉及算法倫理的問(wèn)題比較容易觸發(fā)直接處罰，合規(guī)工作中需要對(duì)此進(jìn)行特別關(guān)注。

? ? ? ?最后，北京航空航天大學(xué)法學(xué)院數(shù)字正義研究中心執(zhí)行主任裴煒教授總結(jié)到，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》本身具有復(fù)雜性，無(wú)論是從算法規(guī)制本身需要的整體性、綜合性和協(xié)同性，還是從責(zé)任主體、責(zé)任內(nèi)容、責(zé)任對(duì)應(yīng)的義務(wù)權(quán)利交叉性上，亦或是分類分級(jí)中不同領(lǐng)域應(yīng)用的獨(dú)特性上，都預(yù)示著未來(lái)這一算法推薦領(lǐng)域存在著諸多可以挖掘、研究和探索的事項(xiàng)。期待未來(lái)與各位專家進(jìn)一步合作研究，共同推進(jìn)算法規(guī)制在我國(guó)的落地實(shí)施。至此，本次專題研討會(huì)圓滿結(jié)束。