以下內(nèi)容整理自清華大學《數(shù)智安全與標準化》課程大作業(yè)期末報告同學的匯報內(nèi)容。

(資料圖)

我們主要從分析問題、解決問題、效果評估和實際驗證四方面，推動這一課題的研究，并形成相應的研究成果。

第一部分：AI算法透明概述

第一部分，AI算法透明概述，主要凝練了當前AI算法透明性存在的挑戰(zhàn)。

近年來，人工智能技術的發(fā)展使得其透明性問題日益凸顯，為保障用戶對算法知情，實現(xiàn)監(jiān)管機構對算法進行有效規(guī)范治理與問責，算法透明性必不可少。

然而，算法透明性更類似于原則性的提議，具體如何落實透明性要求，并對其進行有效評估，尚未形成共識。

因此，我們對AI算法透明當前存在的諸多挑戰(zhàn)進行了總結，主要涉及三個維度：技術、評估和制度。

技術上，很難處理AI算法的黑箱問題；

評估上，對透明程度的要求很難把握尺度；

制度上，算法問責機制仍然模糊。

為有效應對這些挑戰(zhàn)，我們首先給出算法透明性實現(xiàn)路徑，解決技術和制度問題，之后提出算法透明評估清單應對評估問題，最終在推薦系統(tǒng)下進行實踐與應用。

第二部分：實現(xiàn)AI算法透明

宏觀上，我們首先需要AI算法透明性治理范式，針對當前在算法監(jiān)管立法等多個層面的挑戰(zhàn)。我們希望打破透明性中耦合的機制主義和管理主義，形成一種以法律規(guī)制為主導，技術適配為基礎的多元一體、多方協(xié)作的AI算法透明性治理范式。

微觀上，這一范式的實施措施落實到學術、法律、技術和場景四方面。

學術上，國內(nèi)外學者研究主要從多方視角相關主體出發(fā)，提出了若干在法律規(guī)制和技術適配方面的思考。

法律上，鑒于算法透明，是實現(xiàn)算法問責的重要機制。主要可以總結為兩種實現(xiàn)AI算法透明的模式：賦權模式和行為規(guī)范模式。賦權模式屬于事后救濟，而行為規(guī)范模式屬于事前預防和事中約束。

這里我們具體對比了不同國家地區(qū)的法律，發(fā)現(xiàn)各國都采取健全算法問責機制等措施。此外，我們也注意到歐盟還強調(diào)對算法參數(shù)的公開。

技術上，我們聚焦于實現(xiàn)從不透明模型向可詮釋模型、可理解模型轉變的可解釋技術，該技術具體分為事前解釋、事后解釋和可詮釋模型。針對不同的應用實例，又會有更為細致的方法。

不同的應用場景，對AI算法透明體現(xiàn)出不同的場景需求。我們也分別在自動駕駛、材料化學、智能教育和建筑設計，四個細分領域內(nèi)進行了需求分析和方法探索。

第三部分：評估AI算法透明

鑒于現(xiàn)有法律規(guī)制大多在宏觀層面強調(diào)算法透明監(jiān)管原則，卻鮮小有具體措施。因此，我們提出一套相對詳細、可實施的評估標準，以細化并落實算法透明度合規(guī)要求。

首先，面向算法使用者的AI透明度評估清單的設計目標，在于保障知情權。內(nèi)容主要分為算法概述與技術信息，要求算法開發(fā)方對這些內(nèi)容進行說明。

算法使用者的AI透明度評估清單相較于面向用戶的清單，由于監(jiān)管方需要根據(jù)算法評估內(nèi)容進行等級評估，所以該技能較為嚴格，需要說明的內(nèi)容也更為復雜。

為配合透明度評估清單的使用，我們還提出了透明度評估等級表。面向不同使用場景的算法分為五個等級進行評估，不同等級對于算法開發(fā)者應當達到的透明度有不同要求，且逐步加強。

具體這個清單是如何工作的呢？如左圖所示，評估流程有助于監(jiān)管方對算法開發(fā)者在事前、事中和事后階段做出責任分配。

在開發(fā)方與使用者方面，開發(fā)方遵照透明度用戶指南向算法使用者提供算法的透明度指南。之后，使用者需要閱讀指南，以此確立兩方權責分配并獲得知情。

第四部分：AI算法透明實踐

我們選擇推薦系統(tǒng)作為典型實例，也是因為推薦系統(tǒng)最能體現(xiàn)AI算法透明的要求。如果能讓外界理解為什么信息被推薦給乙方，其實就達到了這個場景下的透明度要求。

通過實現(xiàn)推薦系統(tǒng)的透明性，也能提升用戶對系統(tǒng)的信任程度，使系統(tǒng)推薦結果得到檢驗，同時受到有關方面的監(jiān)管。

考慮到推薦系統(tǒng)目前采用的AI推薦算法眾多，所以我們設計了一個推薦系統(tǒng)外的解釋系統(tǒng)或算法，用于對推薦系統(tǒng)進行解釋或直接作為一個整體對外提供具有解釋性質的推薦。

其核心算法是采用知識圖譜與強化學習的技術，充分挖掘推薦系統(tǒng)中的可解釋模型，以此進行相關的路徑挖掘，并利用解釋路徑對推薦系統(tǒng)行為加以解釋。

這里我們采用一九年一個公開的購物網(wǎng)站公布數(shù)據(jù)進行結果演示，在利用上述算法完成解釋系統(tǒng)后，對數(shù)據(jù)集進行路徑挖掘，得到左圖所示的結論。

基于上述深層的推理路徑，對推薦系統(tǒng)的多個推薦實例進行解釋。結果表明，方法不僅能夠幫助推薦系統(tǒng)獲得有希望的推薦結果，而且能夠有效為推薦系統(tǒng)找到不同的用于推薦解釋的推理路徑。

之后，我們分別將未加入和加入這一解釋算法的推薦系統(tǒng)，按照前一章節(jié)設計的流程進行算法評估。結果表明，融入解釋算法后的推薦系統(tǒng)，在透明度上有明顯提升，但監(jiān)管方也注意到，新的具有解釋性質的推薦系統(tǒng)，在技術和社會風險上處理方法上有缺，要求對當前算法做進一步改進，并對提交的材料進行補充。

感謝各位的聆聽！以上就是我們小組要匯報的全部內(nèi)容。

編輯整理：陳龍

關鍵詞： 推薦系統(tǒng) 結果表明