收藏本站
《中国科学技术大学》 2017年
收藏 | 手机打开
二维码
手机客户端打开本文

面向图像语义分割的新型卷积神经网络及其应用研究

Robail Yasrab  
【摘要】:在过去的若干年中,卷积神经网络(CNN)在图像分类和对象检测领域表现出众,并且具备良好的应用价值,尤其在计算机视觉方面的应用已经取得了一系列显著的成果。从生物识别系统到实时应用程序,都受到深度神经网络(DNN)的深刻影响。而卷积神经网络作为使分类和学习更容易和更可行的关键技术工具之一,极大地提升了对象识别应用程序中的识别率。在GPU技术的支持下,CNN被证明非常适用于基于视觉的应用程序。然而CNN需要消耗大量内存和计算资源,在传统CPU上运行极慢,不适合进行训练。因此,想要在存储和计算能力有限的实时系统上实现非常高效的CNN几乎不可能。在这种情况下,需要一些改进的CNN解决方案,以提供更简单的结构,更好的性能和更高的准确性。本论文围绕两个核心课题展开研究:提出一种具有高精度的新型CNN架构;降低传统CNN架构的计算资源消耗。本文的研究内容和贡献如下:1)针对当前视觉应用对架构扩展性的需求,提出了一种面向实时系统的可扩展神经网络架构,该架构使用卷积神经网络来设计资源节约型视觉应用系统,并介绍了该架构的理论和设计方法。2)针对辅助驾驶系统中道路场景理解缺少足够带标注训练数据的问题,提出了解耦卷积神经网络DCNN(Decoupled CNN),从而能够用较少的或半标注的数据来训练CNN。DCNN使用了不均匀标注的方式,包含少量带标注数据以及大量弱标注数据。3)针对语义像素分割应用中CNN模型过于复杂的问题,提出了一种简化的全卷积神经网络模型。该模型与传统CNN流水线的不同之处在于,只使用了卷积层,而没有池化层4)针对CNN在实时语义分割应用中过分参数化及网络模型冗余问题,提出了一种用于像素级分割的资源节约型语义分割模型。该模型是一种编码器-解码器结构,编码器建立在VGG-16网络基础上,而解码器则来自于SegNet。该模型能够预测给定输入图像的像素级分类标签。该模型旨在用于道路场景理解,适用于基于视频流的辅助驾驶系统。5)针对CNN计算复杂性较高导致难以在便携式设备和实时系统上使用的问题,提出了一种压缩CNN以降低存储和处理需求的解决方案。论文中介绍了各种网络架构的实验。所提出的编码器-解码器架构旨在减少可训练参数的数量。通过尝试不同的层和网络组件,利用减少的网络结构来分析最佳性能。关键思想是减少整体网络存储和计算需求。另一方面,二值化分割网络可以大大减少处理和存储要求,通过排除CNN训练中的关键乘法运算,并用更多的计算友好运算(加法,减法)代替,这种二值化过程将大大改进模型的性能。文中所提出的网络模型在CamVid和Pascle-Vocl2数据集进行实验。所提出的网络模型也可从 www.github.com/robail/获取。
【关键词】:卷积神经网络 反卷积 池化 升频 二值化
【学位授予单位】:中国科学技术大学
【学位级别】:博士
【学位授予年份】:2017
【分类号】:TP391.41;TP183
【目录】:
  • Acknowledgements7-8
  • Abstract8-10
  • 摘要10-19
  • Chapter 1 Introduction19-41
  • 1.1 Motivation and Scope20-21
  • 1.2 Background21-26
  • 1.2.1 Machine Learning21-23
  • 1.2.2 Computer Vision23-26
  • 1.3 Related Works26-37
  • 1.3.1 Semantic Segmentation26-32
  • 1.3.2 The Encoder and Decoder Network32-37
  • 1.4 Dissertation Organization37-41
  • 1.4.1 Research Flowchart37-38
  • 1.4.2 Dissertation Chapters38-41
  • Chapter 2 Decoupled Convolution Neural Network41-57
  • 2.1 Semantic Segmentation42-43
  • 2.2 CNN for Classification and Segmentation43-45
  • 2.3 Algorithm Overview45-46
  • 2.4 DCSeg Architecture46-49
  • 2.4.1 Classification Network47-48
  • 2.4.2 Semantic Segmentation Network48-49
  • 2.4.3 Bridging Layers49
  • 2.5 Training49-50
  • 2.6 Experiments50-55
  • 2.6.1 Implementation Details50-52
  • 2.6.2 Results and Analysis52-55
  • 2.7 Chapter Summary55-57
  • Chapter 3 Simplified Convolution Neural Network57-73
  • 3.1 Simplified CNN Inspiration58-59
  • 3.2 Simplifying CNNs59-60
  • 3.3 Algorithm Overview60-63
  • 3.4 SCNet Architecture63-66
  • 3.5 Training66-67
  • 3.6 Experiments67-71
  • 3.6.1 Implementation Details67-68
  • 3.6.2 Results and Analysis68-71
  • 3.7 Chapter Summary71-73
  • Chapter 4 An Encoder-Decoder based Convolution Neural Network73-97
  • 4.1 CNN for Advanced Driver Assistance System74-76
  • 4.2 Evolution of Encoder-Decoder CNN76-77
  • 4.3 Algorithm Overview77-78
  • 4.4 CSSA Architecture78-83
  • 4.5 Training83-84
  • 4.6 Experiments84-94
  • 4.6.1 Implementation Details84-86
  • 4.6.2 Results and Analysis86-94
  • 4.7 Chapter Summary94-97
  • Chapter 5 A Deeper CNN for Road-Scene Understanding97-115
  • 5.1 Technology Overview98-99
  • 5.2 CNN for Scene Understanding99-100
  • 5.3 Algorithm Overview100-103
  • 5.4 ECRU Architecture103-104
  • 5.5 Training104-105
  • 5.6 Experiments105-112
  • 5.6.1 Implementation Details105-109
  • 5.6.2 Results and Analysis109-112
  • 5.7 Chapter Summary112-115
  • Chapter 6 Binarizing Convolution Neural Network115-133
  • 6.1 Reducing CNN Size115-117
  • 6.2 Problem Statement117-119
  • 6.2.1 Less Training Time118
  • 6.2.2 Small Models118-119
  • 6.2.3 Embedded Deployment119
  • 6.3 Proposed Architecture119-122
  • 6.3.1 Inspiration119-120
  • 6.3.2 Binarizing CNN120-122
  • 6.3.3 Binarization of Gradient122
  • 6.4 Algorithm Overview122-125
  • 6.5 Binary Convolutional Neural Network125-129
  • 6.5.1 Binarizing CNN Weights125-128
  • 6.5.2 Binarizing Input128-129
  • 6.6 Experiment129-131
  • 6.6.1 Implementation Details129-130
  • 6.6.2 Results and Analysis130-131
  • 6.7 Chapter Summary131-133
  • Chapter 7 Conclusion and Future Work133-137
  • 7.1 Conclusion133-135
  • 7.2 Future Work135-137
  • Bibliography137-149
  • Appendix A149-151
  • A.1 CamVid Dataset Sample Images149-150
  • A.2 Base version for SCNet150-151
  • Appendix B151-152
  • B.1 Relationship to Published Work151-152
  • B.2 Publications List152
  • B.2.1 Published Papers152
  • B.2.2 Under Review Papers152

中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026