人工智能的廣泛運用正在重塑政府的運作方式,現(xiàn)代社會的權(quán)力形態(tài)和權(quán)力結(jié)構(gòu)均發(fā)生改變,算法權(quán)力悄然興起。與此同時,傳統(tǒng)行政程序在人工智能的適用場景中失去了原有的效用,諸如"聽取意見"、"說明理由"等權(quán)利保障措施,對于瞬間即作出決定的自動化機器幾無適用的余地,這意味著行政法的關(guān)注焦點需要從傳統(tǒng)行政程序向計算機程序算法拓展。對算法權(quán)力的規(guī)制和監(jiān)督,需要從算法設(shè)計的源頭構(gòu)建"技術(shù)性正當程序",即通過程序的代碼化實現(xiàn)下列要求:算法公開、透明并具有程序一致性;算法具有可解釋性,能提供決策的相關(guān)邏輯和實質(zhì)性信息;對決策結(jié)果允許質(zhì)疑,在專業(yè)人員協(xié)助下審查算法,有錯誤及時修正,等等。技術(shù)性正當程序要求行政法與時俱進,跟得上技術(shù)發(fā)展的步伐。

【文章頁數(shù)】：16 頁

【文章目錄】：
一、從行政程序到程序算法：人工智能時代行政法關(guān)注對象的變化與拓展
二、自動化決策系統(tǒng)和算法的工作原理及其局限性
    （一）自動化決策系統(tǒng)和算法的工作原理
        1. 利用計算機解決問題的基本過程：從分析問題到算法設(shè)計
        2. 算法的特征與描述方法
        3. 自動化決策何以可能：從“推理”到“預測”
        4. 關(guān)于算法的兩個特殊問題
    （二）自動化決策系統(tǒng)（程序算法）的局限性
        1.“智能機器”也會犯錯
        2. 智能機器的“算法歧視”與人類的“自動化偏見”
        3. 限縮裁量或放棄裁量
        4. 自動化決策的瞬時性危及程序保障
三、算法權(quán)力的規(guī)制與技術(shù)性正當程序：人工智能時代正當程序的深化與發(fā)展
    （一）排除偏見：算法的公開、透明和程序一致性
        1. 算法的公開、透明
        2. 程序一致性
    （二）說明理由：算法的可解釋性
        1. 為什么強調(diào)算法的可解釋性
        2. 如何對算法進行解釋
        3. 算法可解釋性的保證：提供審計跟蹤記錄
    （三）聽取意見：允許質(zhì)疑、事后聽證、專業(yè)審計、及時糾錯
        1. 對自動化決策應當允許提出質(zhì)疑和挑戰(zhàn)
        2. 自動化決策的適用場景只能采取事后聽證
        3. 在專業(yè)審計人員的協(xié)助下審查算法并及時糾錯
四、結(jié)語：人工智能的未來取決于人類如何行動



本文編號：3849805