目前基于深度學習模型的預測在真實場景中具有不確定性和不可解釋性,給人工智能應用的落地帶來了不可避免的風險。首先闡述了風險分析的必要性以及其需要具備的3個基本特征:可量化、可解釋、可學習。接著,分析了風險分析的研究現(xiàn)狀,并重點介紹了筆者最近提出的一個可量化、可解釋和可學習的風險分析技術(shù)框架。最后,討論風險分析的現(xiàn)有以及潛在的應用,并展望其未來的研究方向。 

【文章來源】：大數(shù)據(jù). 2020,6(01)

【文章頁數(shù)】：13 頁

【部分圖文】：

文獻數(shù)據(jù)集中的數(shù)據(jù)表示例

圖1 文獻數(shù)據(jù)集中的數(shù)據(jù)表示例以實體解析為例,其需要把任一候選記錄對標為“匹配”或“不匹配”。規(guī)則是一種常見的而且容易被人類理解的知識,因此筆者提出以規(guī)則的形式來表達風險特征。具體地說,首先設計能衡量屬性值的相似度以及差異度的基本指標,然后在帶有真實標簽的記錄對集合上,以這些基本指標為輸入特征,通過生成單邊隨機森林來獲得具有可解釋性、高區(qū)分度和高覆蓋率的規(guī)則,得到的規(guī)則即風險特征。需要指出的是,單邊隨機森林中的每一棵樹都是單邊決策樹。傳統(tǒng)的雙邊均衡的決策樹用于判定實例的標簽,因此其生成的規(guī)則有雙向的指示作用。例如,在文獻數(shù)據(jù)集上,“EditDistance(r1i[title],r2j[title])>0.9→equivalent(r1i,r2j)”作為一個標記規(guī)則,其含義如下:如果兩條記錄r1i和r2j在標題這個屬性上的編輯距離相似度大于0.9,那么,這兩條記錄表示同一篇文章;否則,這兩條記錄表示不同的文章。與此不同的是,作為風險特征的規(guī)則僅具有單邊的指示作用。例如,在文獻數(shù)據(jù)集上,規(guī)則“r1i[year]≠r2j[year] →inequivalent(r1i,r2j)”是一個有效的風險規(guī)則,因為當兩個記錄在年份這個屬性上的值不一樣時,它們表示不同的文章的概率較大。然而,其并不適合作為一個標記規(guī)則,因為即便兩個記錄在年份這個屬性上的值一樣,它們也很有可能表示不同的文章。

4 風險分析的應用風險分析技術(shù)不僅可以直接用于評估人工智能算法所作決策的風險,進行風險的根因解釋,保障人工智能的安全,還可以用于眾包的問題選擇和分類的質(zhì)量控制等任務。另外,風險分析為理解機器學習和人工智能提供了獨特的分析視角和手段,潛在地可以影響機器學習的幾乎每一個核心環(huán)節(jié),包括訓練數(shù)據(jù)的主動選擇以及模型的訓練等。本章討論風險分析的一些初步應用以及其潛在的更廣泛的應用,并通過它們展望風險分析未來的研究方向。


本文編號：3029593