演算法自律——智慧化時代的創新治理探索

　　人工智慧是引領新一輪科技變革的顛覆性技術，伴隨其向社會各領域的滲透融合，在倫理、安全、隱私、公平等方面，也帶來了新的挑戰和問題。11月19日，在首屆中國網路文明大會數據與演算法論壇中，中國網路社會組織聯合會發起了《網際網路資訊服務演算法應用自律公約》（以下簡稱《公約》），旨在加強網際網路資訊服務行業自律，引導平臺及企業擔當社會責任，促進演算法應用向上向善，強化演算法應用示範引領，推動用主流價值導向駕馭“演算法”，助力共建演算法良好生態。

　　智慧演算法使機器擁有了分析、預測、優化甚至決策的能力，智慧演算法的自主性和決策能力成為智慧化變革的核心要素。在加快推進人工智慧技術研發和産業應用的同時，需要同步跟進適應智慧化變革的制度調整和技術治理。隨著數據的積累和演算法技術的發展，演算法應用已經滲透到人們生活的方方面面，同時也滋生了“過度推薦”“流量造假”“大數據殺熟”及“深度偽造”等損害公眾利益、破壞正當競爭、擾亂社會秩序的行為。演算法治理跟不上，就會反過來制約技術的應用和發展。

　　對於演算法應用，應該充分重視其技術屬性和社會屬性並重的特徵，樹立“負責任創新”的價值觀，避免技術創新被引入濫用的歧途。一方面，需要通過政策法規來規範演算法技術的應用，保證技術的創新應用和安全可控協調發展。另一方面，也需要通過行業自律等方式規範企業行為，將政策法規精神落到實處。此次發佈的《公約》，是網際網路資訊服務行業落實演算法應用治理的積極嘗試和探索，有助於企業切實承擔網際網路資訊服務演算法治理社會責任，加強網際網路資訊服務行業自律，推動行業健康有序發展。

　　《公約》首先強調了合規底線，強調依法依規開展演算法應用，加強行業自律，積極踐行社會主義核心價值觀，尊重社會公序良俗，恪守商業道德。在此基礎上，進一步落實主體責任，明確要求相關單位和企業履行演算法治理義務，承擔演算法治理責任；設立演算法治理組織機構，持續完善演算法治理制度，建立健全演算法安全應急管理預案；開展演算法倫理審查，開展演算法安全風險監測、評估和防控。從治理機制和措施方面，明確了責任和義務，有助於政策的實施。

　　《公約》中“維護網民權益”“築牢安全防線”“促進演算法公平”等內容，呼應了國家新一代人工智慧治理專業委員會發佈的《新一代人工智慧倫理規範》中“促進公平公正”“保護隱私安全”“確保可控可信”等基本倫理規範，並在研發、供應、使用等各個環節提出了相應的管理規範。落實演算法應用治理，就必須保障用戶的知情權、選擇權等合法權益，並保證演算法在分析、決策和優化等具體應用任務的公平性，不能基於數據和演算法優勢對用戶不正當地進行差別對待。在安全保障方面，需要防範應用、內容和數據的安全風險，提高演算法風險監測、預警和處置能力。

　　《公約》最後提出，要推動設計研發創新，持續開展演算法研發，主動掌握關鍵核心技術，融入全球科技創新整體格局。對於智慧演算法的治理問題，不僅要從現有技術角度出發，也要從發展的角度提出前瞻性的預判和要求。這也是張鈸院士提出“第三代人工智慧”的初衷，希望通過融合第一代知識驅動和第二代數據驅動的人工智慧，建立新的可解釋和魯棒的AI理論與方法，發展安全、可信、可靠和可擴展的AI技術。當前以深度學習為代表的人工智慧演算法，本質上是“黑盒”，在可靠性、可解釋性、安全性等方面存在缺陷，發展第三代人工智慧技術能夠克服深度學習這些缺陷，有利於推動人工智慧創新發展。對於演算法治理的要求，也會對人工智慧技術的創新發展起到有益的促進作用。

　　作者：特約評論員 朱軍（清華大學人工智慧研究院基礎理論中心主任）