給演算法套上“緊箍咒”

　　點開購物軟體搜索某樣商品，相關産品就會在首頁推薦頻頻出現；刷一會兒短視頻，平臺便會接連推送同類視頻……在移動網際網路時代，演算法讓人們獲取資訊變得更容易，卻也引發了“資訊繭房”等問題。

　　日前，國家網信辦公佈網際網路資訊服務演算法備案資訊，對微博、手機淘寶、微信等應用産品的共30種演算法進行備案。專家認為，此舉旨在將演算法機制公開透明化，讓其更好、更健康地服務於用戶。

　　警覺演算法“鉗制”

　　95後趙陽是某短視頻平臺的資深用戶，常常通過觀看短視頻獲取資訊、消遣娛樂，“演算法能清楚‘記住’我的喜好。比如在短視頻平臺上搜索‘萌寵’，再打開軟體時首頁就會推薦很多萌寵類視頻，幫我省去了過濾資訊的時間。”

　　伴隨大數據、人工智慧等技術的廣泛應用，用戶的行為習慣也作為“數據”被記錄下來，借由個性化推薦演算法，用戶偏好的資訊內容、娛樂資訊得以精準推送。然而，演算法“過濾”在降低人們獲取資訊成本的同時，也造成了“資訊繭房”“大數據殺熟”等問題。

　　“總算關掉了！”北京市民李先生最近參照網路上的相關攻略，關閉了手機裏多款應用程式的“個性化推薦”服務選項，“我之前在一個社交軟體上評論過喜歡某款車型，緊接著就收到手機裏各種平臺關於該車型的資訊、廣告，被演算法‘算計’真不舒服。”

　　中國人民大學新聞學院教授彭蘭認為，演算法可以看作用電腦程式實現、基於數據分析、面向特定目標的一套指令或方案。與人們生活緊密相關的演算法包括個性化推薦演算法、決策演算法，也有各種平臺的演算法、各種管理目標下的治理演算法等。但個體在享受演算法帶來便利的同時是否會受到演算法的“鉗制”，仍需思考和警覺。

　　加強規範是關鍵

　　為了抵禦演算法服務可能帶來的不利影響，相關法律法規紛紛“亮劍”，給演算法念起“緊箍咒”。

　　去年12月，國家網信辦、工業和資訊化部、公安部、國家市場監管總局聯合公佈《網際網路資訊服務演算法推薦管理規定》，對演算法推薦服務提供者的資訊服務規範、用戶權益保護等作了規定。

　　“演算法應用日益普及深化，在給經濟社會發展等方面注入新動能的同時，演算法歧視、‘大數據殺熟’、誘導沉迷等演算法不合理應用導致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護意識形態安全、社會公平公正和網民合法權益帶來挑戰。”國家網信辦有關負責人説，迫切需要對演算法推薦服務建章立制、加強規範，著力提升防範化解演算法推薦安全風險的能力，促進演算法相關行業健康有序發展。

　　值得注意的是，上述規定對“演算法備案”提出了明確要求：具有輿論屬性或者社會動員能力的演算法推薦服務提供者應當在提供服務之日起十個工作日內通過網際網路資訊服務演算法備案系統填報服務提供者的名稱、應用領域、演算法類型、演算法自評估報告、擬公示內容等資訊，履行備案手續。這意味著演算法運作機制將公開透明地向用戶呈現，幫助用戶更清楚地認知相關平臺演算法服務應用情況，進而規避演算法服務可能帶來的風險。

　　打開演算法“黑箱”

　　今年3月，網際網路資訊服務演算法備案系統正式上線。通過該系統，用戶可以清楚查詢到各備案平臺的演算法原理和運作機制、應用場景等資訊。

　　演算法備案到底“備”了哪些資訊？根據國家網信辦8月12日公開發佈的網際網路資訊服務演算法備案資訊，騰訊、百度、抖音、淘寶、美團等各大網際網路平臺共公示了30條備案；演算法類別包括個性化推送類、檢索過濾類、排序精選類、調度決策類、生成合成類。其中個性化推送類佔比最多，共有18個備案。

　　以短視頻平臺抖音為例，記者查詢網際網路資訊服務演算法備案系統發現，抖音擬公示的演算法機制機理內容包括演算法基本原理、運作機制、應用場景、目的意圖等。平臺主動申明自身為避免演算法技術産生不利影響所做的嘗試。比如抖音的備案資訊中提到，為了避免“資訊繭房”，抖音個性化推薦演算法專門設計了“興趣探索”機制。一方面每次推薦都會選擇用戶過去不常觀看的內容類目進行一定比例的推薦；另一方面每次獲取推薦內容的過程中會特別增加一條隨機內容來保障用戶可見內容的多樣性。

　　復旦大學新聞學院教授張志安認為，演算法原理備案公開是壓實平臺責任、保障用戶權益的重要一步。不過，用戶對演算法推薦可能帶來的負面影響雖心存擔憂，卻未必真的關注演算法“暗箱”的技術原理。打開演算法“黑箱”還需多方共同努力。

　　專家建議，未來仍需加強政府部門對演算法治理的監管作用，推動平臺積極落實演算法治理責任。同時，引導更多人關注演算法問題，讓演算法服務真正實現趨利避害。