【摘要】：近年來隨著人工智能技術(shù)的發(fā)展,自主機器的道德決策問題引起了越來越多研究者的重視,但當前大部分研究停留在抽象的哲學討論層面,忽略了現(xiàn)實中人們對于自主機器的真正倫理訴求。本研究基于道德基礎(chǔ)理論和道德動機模型,通過五項研究探索人們對于自主機器的道德決策期望及其心理機制。預研究調(diào)查人們對自主機器/人類遵守道德規(guī)范的態(tài)度,以探討人們對自主機器和人類在道德決策時遵守道德規(guī)范的期望是否存在差異,為開展正式研究提供依據(jù)。研究發(fā)現(xiàn),相比于人類,人們認為自主機器更應該絕對遵守道德規(guī)范。研究一探討了當面對人類命令與道德規(guī)范之間的沖突時,人們期望自主機器如何抉擇�？紤]到人類違反道德規(guī)范的命令可能出于不道德的意圖,但也可能出于道德的意圖,研究一還探討了當人類的命令具有道德或不道德意圖時人們對自主機器的道德決策期望是否存在差異。研究發(fā)現(xiàn),不管人類命令的意圖是否道德,人們總是期望自主機器在面對人類命令和道德規(guī)范的沖突時選擇遵守道德規(guī)范。研究二包含兩項研究,分別探討在涉及禁止性道德規(guī)范(研究2a)和描述性道德規(guī)范(研究2b)的情境中人們對自主機器和人類決策者的道德決策期望。此外,研究二還以道德評價為因變量,探討了人們對選擇違背道德規(guī)范的自主機器或人類決策者的接受程度和信任意愿。研究發(fā)現(xiàn),在涉及禁止性道德規(guī)范的情境下,人們不允許自主機器違背道德規(guī)范,而在涉及描述性道德規(guī)范的情境下,人們卻更允許自主機器違背描述性道德規(guī)范。道德評價的結(jié)果表明,相比于人類決策者,當自主機器在涉及禁止性道德規(guī)范的情境中選擇違背道德規(guī)范時,人們對該決策的接受程度以及對自主機器的信任意愿更低,而當自主機器在涉及描述性道德規(guī)范的情境中選擇違背道德規(guī)范時,人們對該決策的接受程度以及對自主機器的信任意愿高于做出相同選擇的人類決策者。研究三探討了事件結(jié)果的不確定性是否會影響人們對自主機器的道德決策期望。其中,事件結(jié)果的不確定性包括高、低和未知三種情況。研究發(fā)現(xiàn),人們對人類決策者的道德決策期望受到結(jié)果發(fā)生可能性的影響,當事件結(jié)果的發(fā)生可能性較低時,人們更不允許兩難情境中的人類決策者選擇違背禁止性道德規(guī)范;但人們對自主機器的決策期望卻不受事件結(jié)果的不確定性的影響,人們希望自主機器在道德決策時始終遵守禁止性道德規(guī)范。研究四在已有研究的基礎(chǔ)上,進一步探討了人們對自主機器遵守禁止性道德規(guī)范的期望和不作為的期望,并從自主機器自身屬性和人們對自主機器的控制需要兩個方面探索影響人們對自主機器道德決策期望的中介機制。研究發(fā)現(xiàn),人們并非期望自主機器在道德情境中不作為,而是希望自主機器在不違背禁止性道德規(guī)范的前提下作為。此外,對自主機器的控制需要而不是自主機器自身的屬性是影響人們對自主機器道德決策期望的中介變量。綜上所述,本研究發(fā)現(xiàn)人們對自主機器和人類決策者的道德決策期望存在差異,在涉及禁止性道德規(guī)范的情境中,人們一定程度上允許人類決策者違背道德規(guī)范但卻不允許自主機器違背禁止性道德規(guī)范。而在涉及描述性規(guī)范的情境中,人們期望人類決策者提供幫助但卻更允許自主機器選擇不提供幫助。此外,研究還發(fā)現(xiàn),結(jié)果的不確定性僅影響人們對人類決策者的決策期望,但不影響對自主機器的道德決策期望。中介分析表明,人們對自主機器違背道德規(guī)范的控制需要,即人們對自主機器的安全擔憂和對自主機器的控制愿望是影響人們對自主機器道德決策期望的心理因素。
【圖文】：

，，１＝．，；？邋＝邋．，＝邋．０７４。簡單效應分析表明，在自主機器組內(nèi)，被試對自主機器遵守四種領(lǐng)域道逡逑德規(guī)范的態(tài)度兩兩之間不存在顯著差異，見ｍｕ邋＝０．４０，Ｓ￡Ｍ｜邋＝０．３４，Ｓ￡ｍ逡逑－ｅ邋由邐■公平公早－６由＝０＿４４，見傷害－＾由＝０．３９，ｊｗ＞．］０。逡逑但在人類組內(nèi)，被試對人類絕對遵守“不得傷害”道德規(guī)范的贊同程度顯著逡逑高于“公平”道德規(guī)范（見＝０．４１，尸＝．０８７）和“不得欺騙”規(guī)范（見＝０．３５，尸逡逑＜．００１）；被試對人絕對遵守“自由（尊重他人自主權(quán)）”道德規(guī)范的贊同程度顯逡逑著高于“公平”道德規(guī)范（見＝０．４５，；７邋＝邋．００２）和“不得欺騙”道德規(guī)范（證＝逡逑０．４０，尸＜邋．００１）；被試對人絕對遵守“公平，’道德規(guī)范的贊同程度顯著高于“欺騙”逡逑道德規(guī)范（見＝０．３７，；？邋＝邋．０５７）。但被試對人類絕對遵守“不得傷害”道德規(guī)范逡逑的贊同程度與對人遵守“自由”道德規(guī)范的贊同程度不存在顯著差異（證＝邋０．３９，逡逑；７邋＝邋．３７４）。這說明被試對人類絕對地遵守不同道德規(guī)范的態(tài)度存在差異。結(jié)果見逡逑下圖。逡逑

圖６．２．１各情境中被試對不同主體違背禁止性道德規(guī)范的接受程度逡逑主體類型Ｘ傷害類型的交互作用不顯著，廠（１，６８）＝０．１２，；？＝．７３５。傷害類逡逑型ｘ情景的交互作用不顯著，Ｆ邋（２，１３６）邋＝邋１．６２，尸＝．２０２。逡逑主體類型ｘ傷害類型ｘ情境三者的交互作用顯著，Ｆ邋（２，１３６）邋＝５．０２，／７＝．００８，逡逑．０６９。簡單效應分析表明，在涉及對他人身體傷害的情景中，人類組內(nèi)被試逡逑對電車困境中人類決策者違背道德規(guī)范的接受程度顯著高于偷藥困境（＊＾＝０．３８，逡逑尸＜．００１），在電車困境中被試的接受程度評分顯著高于人行橋困境（見＝０．３６，尸逡逑＜．００１），而偷藥困境和人行橋困境中被試的接受程度評分不存在顯著差異（％邋＝逡逑０．３３，；？邋＝邋．９８４）；在自主機器組內(nèi)，被試對電車困境中自主機器違背道德規(guī)范的接逡逑受程度顯著高于偷藥困境（見＝0．３９，；？＜．００１），在電車困境中被試的接受程度逡逑顯著高于人行橋困境（見＝0．３９，ｐ＜．００１），而偷藥困境和人行橋困境中被試的逡逑（證＝０．３２，？邋＝邋．９８４）。見圖６．２．２。逡逑
【學位授予單位】：浙江大學
【學位級別】：碩士
【學位授予年份】：2019
【分類號】：B82-057

【相似文獻】

相關(guān)期刊論文 前10條

1 鄭操;;藝術(shù)職業(yè)教育校企“雙贏”合作機制的創(chuàng)新性研究[J];明日風尚;2017年03期

2 倪懷敏;;民主決策要把好“法治關(guān)”[J];人民周刊;2017年01期

3 王新建;趙平;;擬訂預選決策方案的邏輯程序、要求和方法[J];淮北職業(yè)技術(shù)學院學報;2007年06期

4 李雙其;偵查決策方案的擬定與優(yōu)選[J];福建公安高等�？茖W校學報.社會公共安全研究;1999年04期

5 張宏基;;模糊決策[J];深圳大學學報(人文社會科學版);1987年04期

6 孫宇林;;試論會計參與決策[J];廣西會計;1987年08期

7 王天生;;廠長的決策與指揮[J];企業(yè)管理;1987年02期

8 白全禮;;關(guān)于決策的動力機制問題[J];決策探索;1987年04期

9 李志剛;;決策十忌[J];決策探索;1987年06期

10 孫奎貞;;談決策修正與再認識[J];安徽省委黨校學報;1987年02期

相關(guān)會議論文 前10條

1 周國平;李茂旺;;投資方案的模糊決策[A];模糊集理論與模糊應用專輯——中國系統(tǒng)工程學會模糊數(shù)學與模糊系統(tǒng)委員會第十屆年會論文選集[C];2000年

2 王劍;羅東;;基于BDN的突發(fā)事件多主體應急決策模型研究[A];第十七屆中國管理科學學術(shù)年會論文集[C];2015年

3 張運峰;張春陽;;基于逆序現(xiàn)象對決策實踐的哲理性思考[A];發(fā)展的信息技術(shù)對管理的挑戰(zhàn)——99’管理科學學術(shù)會議專輯（上）[C];1999年

4 馬仲良;;科學決策運行機制[A];和諧社會：社會公正與風險管理——2005學術(shù)前沿論壇論文集（上卷）[C];2005年

5 胡仕成;劉騰嬌;何青松;考永貴;王嵩;;Portfolio多目標候選決策方案的M-PBIL方法[A];第十八屆中國管理科學學術(shù)年會論文集[C];2016年

6 曹俊杰;侍洪波;;資源受限多訂單選擇計劃模型及其改進遺傳優(yōu)化決策方案[A];決策科學與評價——中國系統(tǒng)工程學會決策科學專業(yè)委員會第八屆學術(shù)年會論文集[C];2009年

7 劉純一;;思想庫與中國決策的科學化[A];“決策論壇——基于公共管理學視角的決策研討會”論文集（下）[C];2015年

8 李滔;張啟明;;滇西中強地震短臨決策方案研究[A];中國地震學會第五屆地震流體專業(yè)委員會成立暨2016年學術(shù)年會論文摘要[C];2016年

9 范榮華;;人才管理結(jié)構(gòu)模型[A];第一屆全國人—機—環(huán)境系統(tǒng)工程學術(shù)會議論文集[C];1993年

10 張維;;決策判斷中的專家選擇:影響因素與構(gòu)成規(guī)則[A];全國青年管理科學與系統(tǒng)科學論文集（第2卷）[C];1993年

相關(guān)重要報紙文章 前10條

1 秦德君 上海學者、公共問題專家;提升公共決策質(zhì)量 推進國家治理現(xiàn)代化[N];深圳特區(qū)報;2017年

2 劉英團;跨越?jīng)Q策中隱蔽著的陷阱[N];新華日報;2017年

3 王小波;決策 科學運作謀新篇[N];人民郵電;2000年

4 朱德米;進一步建立健全決策風險評估機制[N];學習時報;2019年

5 記者 王彬;如公眾對決策方案分歧大要組織聽證[N];濟南日報;2012年

6 東營支隊 程重富;緊盯中心謀打仗思打贏[N];人民武警報;2018年

7 陶振;公共決策需避免四類誤區(qū)[N];學習時報;2014年

8 詹吉有;用科學發(fā)展觀指導項目工作[N];甘肅日報;2004年

9 鄒太平;湖南穩(wěn)步推進行政程序建設[N];中國紀檢監(jiān)察報;2009年

10 元真 沈建平 張良;現(xiàn)代企業(yè)發(fā)展須重視科學決策[N];經(jīng)理日報;2003年

相關(guān)博士學位論文 前5條

1 譚偉;基于組件GIS的造林決策支持模型的研究[D];北京林業(yè)大學;2005年

2 李登峰;復雜模糊系統(tǒng)多層次多目標多人決策理論模型方法與應用研究[D];大連理工大學;1995年

3 王永軍;基于預案的動員決策支持方法研究[D];北京理工大學;2006年

4 卜先錦;指控單元戰(zhàn)術(shù)協(xié)同效果分析、建模與應用[D];國防科學技術(shù)大學;2006年

5 張漪;隨機決策中個體的信念調(diào)整模型與檢驗[D];南京理工大學;2008年

相關(guān)碩士學位論文 前10條

1 遠征南;人們對自主機器道德決策期望的探索性研究[D];浙江大學;2019年

2 石睿;結(jié)果預期對助人決策的影響[D];浙江理工大學;2018年

3 郭進;基于有效決策模型的鄰避設施決策中公民參與研究[D];西南交通大學;2017年

4 彭璐;重大行政決策方案合法化研究[D];湖南大學;2015年

5 郭瑋;基于案例的應急情景決策方案生成方法研究[D];大連理工大學;2015年

6 曾冬冬;城市公共決策中民意吸納的公咨委模式研究[D];廣州大學;2017年

7 石磊;科學決策檢驗方法論[D];中共上海市委黨校;2007年

8 楊玉朋;論道德權(quán)威對校長決策的支持作用[D];首都師范大學;2011年

9 丁金路;基于射頻能量采集技術(shù)的模式選擇策略研究[D];北京交通大學;2018年

10 葉舒;網(wǎng)絡信息對我國政府決策的影響及優(yōu)化研究[D];西北大學;2012年

，

本文編號：2685435