基于單目視頻的三維人體運(yùn)動(dòng)重建
發(fā)布時(shí)間:2021-03-07 14:20
人們希望計(jì)算機(jī)具有像人類(lèi)一樣理解現(xiàn)實(shí)世界的能力,而人體運(yùn)動(dòng)作為現(xiàn)實(shí)世界中最常見(jiàn)的視覺(jué)內(nèi)容之一,是機(jī)器視覺(jué)研究的經(jīng)典研究對(duì)象。運(yùn)動(dòng)重建作為高層應(yīng)用的基礎(chǔ)算法,通過(guò)從圖像、視頻中恢復(fù)出關(guān)節(jié)點(diǎn)坐標(biāo)、旋轉(zhuǎn)角度等信息來(lái)表示人體運(yùn)動(dòng),在機(jī)器人感知與模擬、行為分析、虛擬現(xiàn)實(shí)等領(lǐng)域具有廣闊的應(yīng)用前景。在人工智能的推動(dòng)下,二維運(yùn)動(dòng)重建已經(jīng)被工業(yè)界所使用,但是世界是三維的,二維的人體表達(dá)無(wú)法精確的恢復(fù)人體姿態(tài),為了更好地理解人體運(yùn)動(dòng),更具有挑戰(zhàn)性的三維人體運(yùn)動(dòng)重建成為了近年來(lái)的研究熱點(diǎn),F(xiàn)有的三維人體運(yùn)動(dòng)重建的方法,主要分為兩大類(lèi):基于不同維度數(shù)據(jù)映射的方法,人體模型參數(shù)預(yù)測(cè)的方法。然而,這些方法都存在以下問(wèn)題:難以利用人體關(guān)節(jié)間的層級(jí)連接關(guān)系;缺乏時(shí)序上人體模型一致性,不同預(yù)測(cè)幀之間僅僅傳遞了坐標(biāo)信息;三維人體關(guān)節(jié)坐標(biāo)難以標(biāo)注,在有限數(shù)據(jù)集上訓(xùn)練所產(chǎn)生的過(guò)擬合,使得算法在真實(shí)場(chǎng)景下的表現(xiàn)并不理想。針對(duì)這些問(wèn)題,本文提出一種基于單目視頻的三維人體運(yùn)動(dòng)重建方法,通過(guò)設(shè)計(jì)出的雙通路神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),同時(shí)預(yù)測(cè)出基于固定的人體骨架及所對(duì)應(yīng)的關(guān)節(jié)旋轉(zhuǎn)、全局坐標(biāo)及腳步接觸信號(hào);將正向運(yùn)動(dòng)學(xué)的過(guò)程模擬在神經(jīng)網(wǎng)絡(luò)中,能夠?qū)?..
【文章來(lái)源】:山東大學(xué)山東省 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:63 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2-1.?COCO數(shù)據(jù)集中的人體關(guān)節(jié)點(diǎn)標(biāo)注??
山東大學(xué)碩士學(xué)位論文??目前,有許多基于關(guān)節(jié)坐標(biāo)為姿態(tài)表示的方法。在動(dòng)作識(shí)別領(lǐng)域,首先對(duì)提??取出的坐標(biāo)序列提取特征并進(jìn)行聚類(lèi),取得了良好的效果,也己經(jīng)廣泛運(yùn)用在視??頻監(jiān)控、安防領(lǐng)域中;基于坐標(biāo)點(diǎn)的方法,雖然不能直接驅(qū)動(dòng)機(jī)器人的運(yùn)動(dòng),但??在通過(guò)rigging?(裝備)和反向運(yùn)動(dòng)學(xué)演算后,也能驅(qū)動(dòng)模型的運(yùn)動(dòng);在人體運(yùn)動(dòng)??重建中,因?yàn)樽鴺?biāo)位置的數(shù)據(jù)豐富且處于流程的終節(jié)點(diǎn),人們也往往使用其計(jì)算??損失函數(shù)。??但是,僅僅由坐標(biāo)表示的人體姿態(tài),存在信息缺失的問(wèn)題。例如手朝上和手??朝下做同一個(gè)動(dòng)作,在不同的情境下代表了不同的行為。同時(shí)在動(dòng)畫(huà)制作領(lǐng)域,??這樣的問(wèn)題尤為嚴(yán)重。當(dāng)使用視覺(jué)方法提取出三維坐標(biāo)點(diǎn)后,反向運(yùn)動(dòng)學(xué)(IK)??將其轉(zhuǎn)換為關(guān)節(jié)中的旋轉(zhuǎn)。然而,正由于坐標(biāo)位置到旋轉(zhuǎn)中的二義性,見(jiàn)圖2-2,??關(guān)節(jié)間軀干的自旋轉(zhuǎn)無(wú)法正確的恢復(fù),也將其遷移到人體模型得到理想的結(jié)果。??因此在這些更加要求更高的任務(wù)中,關(guān)節(jié)坐標(biāo)并不能成為一個(gè)可依賴(lài)的數(shù)據(jù)結(jié)構(gòu),??這也是本文選用旋轉(zhuǎn)的主要原因之一。??f\?f\?f\??遽滅?4?A??圖2-2.關(guān)節(jié)坐標(biāo)位置表示方法中的二義性:同樣的關(guān)節(jié)坐標(biāo)可以代表不同的旋轉(zhuǎn)??同時(shí),關(guān)節(jié)坐標(biāo)在計(jì)算的過(guò)程中是無(wú)規(guī)則的,不同的關(guān)節(jié)之間并不互相約束。??在網(wǎng)絡(luò)預(yù)測(cè)的過(guò)程中,每一個(gè)關(guān)節(jié)點(diǎn)的期望坐標(biāo)會(huì)散落在整個(gè)搜索空間中。使得??網(wǎng)絡(luò)訓(xùn)練難度變大,也很難具有普適性。??2.2.2關(guān)節(jié)旋轉(zhuǎn)??關(guān)節(jié)旋轉(zhuǎn)作為另一種人體姿態(tài)的方式,廣丨之運(yùn)用在工業(yè)界中,國(guó)際上流行的??9??
。??在存儲(chǔ)和使用過(guò)程中,也通常是這些數(shù)據(jù)轉(zhuǎn)換為旋轉(zhuǎn)信息來(lái)表示運(yùn)動(dòng)。以BVH??文件格式為例,格式主要分為兩部分:???人體骨架的拓?fù)浣Y(jié)構(gòu)。人體的各個(gè)關(guān)節(jié)具有連接關(guān)系,以尾脊椎為根節(jié)??點(diǎn),通過(guò)層形結(jié)構(gòu)將不同的關(guān)節(jié)組合在一起,然后使用OFFSET?(偏差??值)來(lái)描述關(guān)節(jié)與關(guān)節(jié)之間的相對(duì)位置關(guān)系,從而得到初始姿態(tài)。???運(yùn)動(dòng)過(guò)程中每一楨的關(guān)節(jié)旋轉(zhuǎn)信息。當(dāng)初始姿態(tài)確立之后,通過(guò)旋轉(zhuǎn)的??方式對(duì)每個(gè)關(guān)節(jié)進(jìn)行位置的調(diào)整。其中,表示旋轉(zhuǎn)的常用方式包括歐拉??角、旋轉(zhuǎn)矩陣及四元數(shù)。??如圖2-3所不,在使用的過(guò)程中,每一楨的旋轉(zhuǎn)會(huì)應(yīng)用到初始姿態(tài)(T-pose)??上形成人體姿態(tài)。使用旋轉(zhuǎn)最好的優(yōu)點(diǎn)在于信息的完整性和符合運(yùn)動(dòng)學(xué)常識(shí)和。??旋轉(zhuǎn)不僅能夠精確的表示每個(gè)關(guān)節(jié)的狀態(tài),避免了自旋轉(zhuǎn)的歧義;更原生的將不??同關(guān)節(jié)之間的信息聯(lián)通了起來(lái),父節(jié)點(diǎn)的狀態(tài)會(huì)影響子節(jié)點(diǎn)的結(jié)果,而子節(jié)點(diǎn)的??誤差累積,也會(huì)反饋到父節(jié)點(diǎn)上。同時(shí)在動(dòng)畫(huà)領(lǐng)域,虛擬模型是由旋轉(zhuǎn)所驅(qū)動(dòng)的,??因此以旋轉(zhuǎn)所表示的姿態(tài)可以很輕易的遷移到虛擬角色上進(jìn)行使用。??f?i?4響?響零??1.^?1?...?4?^??I?1?f?1?J?t??i#?暴?j*屬??圖2-3.將旋轉(zhuǎn)運(yùn)動(dòng)到T-pose上的正向運(yùn)動(dòng)學(xué)過(guò)程??其中,旋轉(zhuǎn)的不同方式也有不同的特點(diǎn)。旋轉(zhuǎn)矩陣?yán)镁仃嚨某朔ǜ淖円渣c(diǎn)??為向量的方向,但是存儲(chǔ)空間大,計(jì)算時(shí)占用內(nèi)存大;歐拉角將旋轉(zhuǎn)分為XyZ三??個(gè)方向分別旋轉(zhuǎn),但是會(huì)產(chǎn)生萬(wàn)向節(jié)死鎖的問(wèn)題,是指兩個(gè)旋轉(zhuǎn)軸重合所產(chǎn)生的??的自由度丟失問(wèn)題;四元數(shù)是人們?cè)谧鲞\(yùn)動(dòng)處理的過(guò)程中常常使用到的旋轉(zhuǎn)表示??結(jié)構(gòu),在三維空間中的任何旋轉(zhuǎn),都可以利用繞過(guò)某個(gè)軸(x,y,
本文編號(hào):3069263
【文章來(lái)源】:山東大學(xué)山東省 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:63 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2-1.?COCO數(shù)據(jù)集中的人體關(guān)節(jié)點(diǎn)標(biāo)注??
山東大學(xué)碩士學(xué)位論文??目前,有許多基于關(guān)節(jié)坐標(biāo)為姿態(tài)表示的方法。在動(dòng)作識(shí)別領(lǐng)域,首先對(duì)提??取出的坐標(biāo)序列提取特征并進(jìn)行聚類(lèi),取得了良好的效果,也己經(jīng)廣泛運(yùn)用在視??頻監(jiān)控、安防領(lǐng)域中;基于坐標(biāo)點(diǎn)的方法,雖然不能直接驅(qū)動(dòng)機(jī)器人的運(yùn)動(dòng),但??在通過(guò)rigging?(裝備)和反向運(yùn)動(dòng)學(xué)演算后,也能驅(qū)動(dòng)模型的運(yùn)動(dòng);在人體運(yùn)動(dòng)??重建中,因?yàn)樽鴺?biāo)位置的數(shù)據(jù)豐富且處于流程的終節(jié)點(diǎn),人們也往往使用其計(jì)算??損失函數(shù)。??但是,僅僅由坐標(biāo)表示的人體姿態(tài),存在信息缺失的問(wèn)題。例如手朝上和手??朝下做同一個(gè)動(dòng)作,在不同的情境下代表了不同的行為。同時(shí)在動(dòng)畫(huà)制作領(lǐng)域,??這樣的問(wèn)題尤為嚴(yán)重。當(dāng)使用視覺(jué)方法提取出三維坐標(biāo)點(diǎn)后,反向運(yùn)動(dòng)學(xué)(IK)??將其轉(zhuǎn)換為關(guān)節(jié)中的旋轉(zhuǎn)。然而,正由于坐標(biāo)位置到旋轉(zhuǎn)中的二義性,見(jiàn)圖2-2,??關(guān)節(jié)間軀干的自旋轉(zhuǎn)無(wú)法正確的恢復(fù),也將其遷移到人體模型得到理想的結(jié)果。??因此在這些更加要求更高的任務(wù)中,關(guān)節(jié)坐標(biāo)并不能成為一個(gè)可依賴(lài)的數(shù)據(jù)結(jié)構(gòu),??這也是本文選用旋轉(zhuǎn)的主要原因之一。??f\?f\?f\??遽滅?4?A??圖2-2.關(guān)節(jié)坐標(biāo)位置表示方法中的二義性:同樣的關(guān)節(jié)坐標(biāo)可以代表不同的旋轉(zhuǎn)??同時(shí),關(guān)節(jié)坐標(biāo)在計(jì)算的過(guò)程中是無(wú)規(guī)則的,不同的關(guān)節(jié)之間并不互相約束。??在網(wǎng)絡(luò)預(yù)測(cè)的過(guò)程中,每一個(gè)關(guān)節(jié)點(diǎn)的期望坐標(biāo)會(huì)散落在整個(gè)搜索空間中。使得??網(wǎng)絡(luò)訓(xùn)練難度變大,也很難具有普適性。??2.2.2關(guān)節(jié)旋轉(zhuǎn)??關(guān)節(jié)旋轉(zhuǎn)作為另一種人體姿態(tài)的方式,廣丨之運(yùn)用在工業(yè)界中,國(guó)際上流行的??9??
。??在存儲(chǔ)和使用過(guò)程中,也通常是這些數(shù)據(jù)轉(zhuǎn)換為旋轉(zhuǎn)信息來(lái)表示運(yùn)動(dòng)。以BVH??文件格式為例,格式主要分為兩部分:???人體骨架的拓?fù)浣Y(jié)構(gòu)。人體的各個(gè)關(guān)節(jié)具有連接關(guān)系,以尾脊椎為根節(jié)??點(diǎn),通過(guò)層形結(jié)構(gòu)將不同的關(guān)節(jié)組合在一起,然后使用OFFSET?(偏差??值)來(lái)描述關(guān)節(jié)與關(guān)節(jié)之間的相對(duì)位置關(guān)系,從而得到初始姿態(tài)。???運(yùn)動(dòng)過(guò)程中每一楨的關(guān)節(jié)旋轉(zhuǎn)信息。當(dāng)初始姿態(tài)確立之后,通過(guò)旋轉(zhuǎn)的??方式對(duì)每個(gè)關(guān)節(jié)進(jìn)行位置的調(diào)整。其中,表示旋轉(zhuǎn)的常用方式包括歐拉??角、旋轉(zhuǎn)矩陣及四元數(shù)。??如圖2-3所不,在使用的過(guò)程中,每一楨的旋轉(zhuǎn)會(huì)應(yīng)用到初始姿態(tài)(T-pose)??上形成人體姿態(tài)。使用旋轉(zhuǎn)最好的優(yōu)點(diǎn)在于信息的完整性和符合運(yùn)動(dòng)學(xué)常識(shí)和。??旋轉(zhuǎn)不僅能夠精確的表示每個(gè)關(guān)節(jié)的狀態(tài),避免了自旋轉(zhuǎn)的歧義;更原生的將不??同關(guān)節(jié)之間的信息聯(lián)通了起來(lái),父節(jié)點(diǎn)的狀態(tài)會(huì)影響子節(jié)點(diǎn)的結(jié)果,而子節(jié)點(diǎn)的??誤差累積,也會(huì)反饋到父節(jié)點(diǎn)上。同時(shí)在動(dòng)畫(huà)領(lǐng)域,虛擬模型是由旋轉(zhuǎn)所驅(qū)動(dòng)的,??因此以旋轉(zhuǎn)所表示的姿態(tài)可以很輕易的遷移到虛擬角色上進(jìn)行使用。??f?i?4響?響零??1.^?1?...?4?^??I?1?f?1?J?t??i#?暴?j*屬??圖2-3.將旋轉(zhuǎn)運(yùn)動(dòng)到T-pose上的正向運(yùn)動(dòng)學(xué)過(guò)程??其中,旋轉(zhuǎn)的不同方式也有不同的特點(diǎn)。旋轉(zhuǎn)矩陣?yán)镁仃嚨某朔ǜ淖円渣c(diǎn)??為向量的方向,但是存儲(chǔ)空間大,計(jì)算時(shí)占用內(nèi)存大;歐拉角將旋轉(zhuǎn)分為XyZ三??個(gè)方向分別旋轉(zhuǎn),但是會(huì)產(chǎn)生萬(wàn)向節(jié)死鎖的問(wèn)題,是指兩個(gè)旋轉(zhuǎn)軸重合所產(chǎn)生的??的自由度丟失問(wèn)題;四元數(shù)是人們?cè)谧鲞\(yùn)動(dòng)處理的過(guò)程中常常使用到的旋轉(zhuǎn)表示??結(jié)構(gòu),在三維空間中的任何旋轉(zhuǎn),都可以利用繞過(guò)某個(gè)軸(x,y,
本文編號(hào):3069263
本文鏈接:http://sikaile.net/shoufeilunwen/xixikjs/3069263.html
最近更新
教材專(zhuān)著