人工智能在創(chuàng)造社會效益的同時,也會引發(fā)人財損失、秩序破壞等社會風(fēng)險。技術(shù)視角的風(fēng)險源于"算法主觀性"等技術(shù)屬性,易導(dǎo)致人財損失等惡劣后果;而現(xiàn)有的風(fēng)險應(yīng)對措施偏重于"工具理性",難以有效根除責(zé)任事故和社會負(fù)面影響。社會視角的風(fēng)險來自于人工智能在社會應(yīng)用時的"馬太效應(yīng)"等機理所導(dǎo)致的大多數(shù)民眾和極少數(shù)弱勢群體的權(quán)益受損等問題;而現(xiàn)有的風(fēng)險應(yīng)對方案側(cè)重于"價值理性",可能出現(xiàn)效率與公平的失衡或偏頗。因此,建議從治理視角開展人工智能的社會風(fēng)險的系統(tǒng)應(yīng)對:全面分析技術(shù)維度和社會維度的風(fēng)險,綜合評估正向功能和負(fù)向功能的實況;秉承"賦能+避險"的風(fēng)險方針,以提高競爭力、承受力、約束力、協(xié)同力為治理目標(biāo),建立全流程且無縫隙的風(fēng)控機制,構(gòu)建系統(tǒng)和高效的共治格局,切實提升國家競爭力和群眾滿意度。 

【文章來源】：教學(xué)與研究. 2019年04期 第89-97頁 北大核心CSSCI

【文章頁數(shù)】：9 頁

【部分圖文】：

人工智能社會風(fēng)險治理的“兩維雙向”模型

治理視角的人工智能風(fēng)險應(yīng)對,實質(zhì)上是踐行“賦能+避險”的風(fēng)險方針:以避險為前提,同時賦能人類;既發(fā)揮全面提升競爭力的正面賦能作用,同步通過規(guī)避超出承受力的社會負(fù)面影響。在此過程中,還應(yīng)該在“兩維雙向”治理模型的基礎(chǔ)上納入“PR”模型和“IR”模型,對風(fēng)險發(fā)生的可能性(P:Possibility)、后果損失(R:Result)、負(fù)面影響(I:Impact)、社會責(zé)任(R:Responsibility)進行綜合分析,從而在科學(xué)的風(fēng)險定級的基礎(chǔ)上實施精細化的風(fēng)險應(yīng)對(詳見圖2)。第一,針對存在高危風(fēng)險的領(lǐng)域,建議禁止應(yīng)用。

過治理視角，人工智能的社會風(fēng)險應(yīng)對，還要綜合考量：戰(zhàn)略風(fēng)險和機會成本、動態(tài)風(fēng)險和協(xié)同治理、深層次的系統(tǒng)風(fēng)險和制度防控等一系列的社會因素。因此，建議通過“兩維雙向”的治理模型來分析和應(yīng)對：“兩維”指技術(shù)維度和社會維度，從“技術(shù)維—社會維”進行根源分析和定性評估；“雙向”指正功能向和負(fù)功能向，對“正功能向—負(fù)功能向”進行辯證分析和科學(xué)應(yīng)對；有針對性地對四個象限開展科學(xué)的風(fēng)險治理策略（詳見圖１）。圖１人工智能社會風(fēng)險治理的“兩維雙向”模型如上圖所示，人工智能的社會風(fēng)險應(yīng)對，具有四項共性目標(biāo)：第一，充分發(fā)揮人工智能的正面效益，提升國家競爭力，應(yīng)對系統(tǒng)風(fēng)險。主要策略有三：一是提升關(guān)鍵項的競爭力，人工智能的發(fā)展需與現(xiàn)有的技術(shù)優(yōu)勢和經(jīng)濟強項緊密結(jié)合，發(fā)揮“長板效應(yīng)”；二是夯實基礎(chǔ)領(lǐng)域競爭力，強化關(guān)聯(lián)行業(yè)建設(shè)和技術(shù)研發(fā)投資；三是提升整體競爭力，人工智能發(fā)展存在“短板效應(yīng)”，其短板問題若得不到解決將拉低整體競爭力，對此應(yīng)加強“補短板”的戰(zhàn)略布局和實施。第二，綜合應(yīng)用多種風(fēng)險管理策略，切實提升對安全風(fēng)險的承受力，確保風(fēng)險處于社會可承受的范圍內(nèi)。對此，應(yīng)將承受力作為風(fēng)險研判定級和應(yīng)對策略的依據(jù)：一是對于難承受的風(fēng)險，采取措施提前規(guī)避或消除；二是對于可承受的風(fēng)險，做好及時干預(yù)和對沖工作，確�？煽鼗蚩傻钟蝗歉鶕�(jù)風(fēng)險承受力情況，動態(tài)評估風(fēng)險，適時調(diào)整應(yīng)對方案。第三，強化人工智能應(yīng)用中的制度約束力，對引發(fā)風(fēng)


本文編號：2908761