準(zhǔn)確并高效地識(shí)別青銅銘文在考古學(xué)、歷史學(xué)、文字學(xué)等領(lǐng)域具有重要的意義。構(gòu)建了公開(kāi)的青銅銘文數(shù)據(jù)集,為后續(xù)研究提供了數(shù)據(jù)參考。同時(shí)在基于L1范數(shù)的卷積核剪枝基礎(chǔ)上,提出了一種自動(dòng)化模型剪枝策略,無(wú)需人為設(shè)置剪枝比例即可自動(dòng)完成剪枝操作。實(shí)驗(yàn)結(jié)果表明,以LeNet網(wǎng)絡(luò)為基礎(chǔ)模型,剪枝后的參數(shù)量和FLOPS僅為原模型的30%和69%,準(zhǔn)確率達(dá)到97.62%,所提方法適用于青銅銘文數(shù)據(jù)集。

【文章頁(yè)數(shù)】：8 頁(yè)

【部分圖文】：

圖1 青銅銘文數(shù)據(jù)集示例

文獻(xiàn)[6]所建數(shù)據(jù)集僅包含了77種文字共2102張圖片，且其中夾雜了大量甲骨文、陶器石刻等其他文字，嚴(yán)重影響模型的訓(xùn)練效果。與文獻(xiàn)[6]所建數(shù)據(jù)集相比，本文所建數(shù)據(jù)集不但收錄的圖片及類(lèi)別數(shù)量遠(yuǎn)高于文獻(xiàn)[6]，而且全部為青銅銘文圖片，訓(xùn)練更有針對(duì)性。3網(wǎng)絡(luò)優(yōu)化

圖2 訓(xùn)練集和測(cè)試集上的訓(xùn)練準(zhǔn)確率及損失曲線。（a）準(zhǔn)確率曲線；（b）損失曲線

實(shí)驗(yàn)首先在LeNet基礎(chǔ)網(wǎng)絡(luò)上進(jìn)行訓(xùn)練，訓(xùn)練時(shí)將批處理樣本數(shù)（batch）設(shè)為32，學(xué)習(xí)率設(shè)為0.001，優(yōu)化器采用自適應(yīng)矩估計(jì)（Adam），訓(xùn)練200個(gè)批次后結(jié)束訓(xùn)練。圖2分別展示了訓(xùn)練集和測(cè)試集上的準(zhǔn)確率及損失曲線，可以看出，當(dāng)訓(xùn)練批次（Epoch）達(dá)到100以后，除少數(shù)波動(dòng)....

圖4 最終模型再訓(xùn)練過(guò)程及卷積層的L1范數(shù)分布。（a）再訓(xùn)練過(guò)程；（b)L1范數(shù)分布

圖4展示了第8輪迭代剪枝再訓(xùn)練過(guò)程及卷積層L1范數(shù)的分布情況。圖4(a）為再訓(xùn)練過(guò)程，可以發(fā)現(xiàn)，訓(xùn)練集及測(cè)試集上的準(zhǔn)確率均穩(wěn)步提升直至收斂，表明迭代后的最終模型適用于青銅銘文數(shù)據(jù)集，未出現(xiàn)過(guò)擬合現(xiàn)象。圖4(b）為最終模型C1,C2,C3卷積層中卷積核的范數(shù)分布�？梢园l(fā)現(xiàn)，相比....

圖6 ResNet18卷積層中的卷積核L1范數(shù)分布。（a）剪枝前；（b）剪枝后

針對(duì)ResNet18網(wǎng)絡(luò)的剪枝策略與VGG16網(wǎng)絡(luò)略有不同，ResNet18網(wǎng)絡(luò)共含有17個(gè)卷積層，其中除第一層外，其余16層每?jī)蓪咏M成一個(gè)殘差模塊，為了不破壞原殘差的映射結(jié)構(gòu)，簡(jiǎn)化剪枝流程，實(shí)驗(yàn)僅針對(duì)每個(gè)殘差模塊的第一個(gè)卷積層進(jìn)行剪枝，即只針對(duì)C2,C4,C6,C8,C10,C....

本文編號(hào)：4023026