CN112200040B - 遮挡图像检测方法、装置及介质 - Google Patents

遮挡图像检测方法、装置及介质 Download PDF

Info

Publication number
CN112200040B
CN112200040B CN202011054873.2A CN202011054873A CN112200040B CN 112200040 B CN112200040 B CN 112200040B CN 202011054873 A CN202011054873 A CN 202011054873A CN 112200040 B CN112200040 B CN 112200040B
Authority
CN
China
Prior art keywords
image
original
occlusion
occluded
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011054873.2A
Other languages
English (en)
Other versions
CN112200040A (zh
Inventor
刘若愚
曲直
张亚森
宋炎
葛志朋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Pinecone Electronic Co Ltd
Original Assignee
Beijing Xiaomi Pinecone Electronic Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Pinecone Electronic Co Ltd filed Critical Beijing Xiaomi Pinecone Electronic Co Ltd
Priority to CN202011054873.2A priority Critical patent/CN112200040B/zh
Publication of CN112200040A publication Critical patent/CN112200040A/zh
Priority to KR1020210062695A priority patent/KR102545408B1/ko
Priority to JP2021083271A priority patent/JP7167244B2/ja
Priority to EP21176559.9A priority patent/EP3975046B1/en
Priority to US17/334,941 priority patent/US11961278B2/en
Application granted granted Critical
Publication of CN112200040B publication Critical patent/CN112200040B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0475—Generative networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/094—Adversarial learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

本公开是关于一种遮挡图像检测方法、装置及介质。所述方法包括：通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；输出所述图像检测结果。采用该方法，利用少量的带有掩模标注的手指遮挡图像便可稳定地训练生成模型来生成遮挡图像特征，从而能够有效地解决手指遮挡检测模型训练中的正样本不足问题，节省大量的正样本采集成本。

Description

遮挡图像检测方法、装置及介质
技术领域
本公开涉及相机控制领域，尤其涉及一种遮挡图像检测方法、装置及介质。
背景技术
数据增强是利用有限数据产生更多等价数据的技术，是提高深度网络模型准确率和泛化能力的重要技术，在图像分类、目标识别和语义分割等计算机视觉任务中发挥着巨大的作用。现有数据增强技术大多采用图像变换方法，例如旋转、裁剪、仿射变换和颜色抖动等。
在用户手持手机横向拍照时，由于拍摄习惯等原因，镜头边缘容易被手指遮挡，使得照片边缘有较小的遮挡区域。由于该类遮挡不易被即时察觉，用户通常不会重新拍摄，从而无法获得完美照片而留有遗憾。遮挡检测的任务是在拍照后即时判断该图像是否有被遮挡，并在检测到被遮挡图像后实时提示用户重新拍摄。
在遮挡检测中，被遮挡图像需要人工模拟真实场景进行采集。由于真实场景下被遮挡区域所占照片面积较小且位置偏僻，因此采集需要耗费大量人力。同时，现有数据增强方法会造成被遮挡区域失真从而无法产生有效的训练数据，因此这些方法不适用于遮挡检测任务。
发明内容
为克服相关技术中存在的问题，本公开提供一种遮挡图像检测方法、装置及介质。
根据本公开实施例的第一方面，提供一种遮挡图像检测方法，所述方法包括；
通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；
基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；
输出所述图像检测结果。
其中，所述方法还包括：
获取所述原始遮挡图像和所述无遮挡图像；
基于所述原始遮挡图像训练所述数据特征增强网络；
基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型。
其中，所述基于所述原始遮挡图像训练所述数据特征增强网络，包括：
基于所述原始遮挡图像，生成手指模板图像和非手指图像，所述手指模板图像为所述原始遮挡图像中去除未被手指遮挡区域后的图像，所述非手指图像为所述原始遮挡图像中去除手指遮挡区域后的图像；
生成训练数据组，每组训练数据包括一幅手指模板图像、一幅非手指图像和一幅原始遮挡图像，在每轮训练中采用多组训练数据对所述数据特征增强网络进行训练。
其中，所述基于所述原始遮挡图像，生成手指模板图像和非手指图像包括：
基于所述原始遮挡图像，获取掩膜数据，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；
基于所述原始遮挡图像和所述掩膜数据，生成手指模板图像和非手指图像。
其中，所述基于所述原始遮挡图像训练所述数据特征增强网络，还包括：
将所述手指模板图像和所述非手指图像输入所述数据特征增强网络，以合成所述原始遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述原始遮挡图像的生成特征和所述原始特征输入判别网络进行训练；
获取每轮训练中所述数据特征增强网络的损失函数和所述判别网络的损失函数；
当所述数据特征增强网络的损失函数和所述判别网络的损失函数均收敛时，确定所述数据特征增强网络的训练完成。
其中，所述基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型，包括：
基于所述掩膜数据和所述无遮挡图像，获取处理后的无遮挡图像，所述处理后的无遮挡图像为所述无遮挡图像中去除所述掩膜数据对应区域后的图像；
将所述手指模板图像和所述处理后的无遮挡图像输入所述训练后的数据特征增强网络，以合成所述无遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述无遮挡图像的生成特征和所述原始特征输入分类网络进行训练，所述遮挡图像检测模型包括所述分类网络；
当所述遮挡图像检测模型的损失函数收敛时，确定所述遮挡图像检测模型的训练完成。
其中，所述遮挡图像检测模型为卷积神经网络模型。
其中，所述数据特征增强网络为生成对抗网络。
根据本公开实施例的第二方面，提供一种遮挡图像检测装置，所述装置包括：
获取模块，被设置为通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
输入模块，被设置为将待检测图像输入训练后的遮挡图像检测模型；
所述遮挡图像检测模型，被设置为基于关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；
输出模块，被设置为输出所述图像检测结果。
其中，所述遮挡图像检测模型通过训练模块进行训练，所述训练模块被设置为：
获取所述原始遮挡图像和所述无遮挡图像；
基于所述原始遮挡图像训练所述数据特征增强网络；
基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型。
其中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像训练所述数据特征增强网络：
基于所述原始遮挡图像，生成手指模板图像和非手指图像，所述手指模板图像为所述原始遮挡图像中去除未被手指遮挡区域后的图像，所述非手指图像为所述原始遮挡图像中去除手指遮挡区域后的图像；
生成训练数据组，每组训练数据包括一幅手指模板图像、一幅非手指图像和一幅原始遮挡图像，在每轮训练中采用多组训练数据对所述数据特征增强网络进行训练。
其中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像，生成手指模板图像和非手指图像：
基于所述原始遮挡图像，获取掩膜数据，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；
基于所述原始遮挡图像和所述掩膜数据，生成手指模板图像和非手指图像。
其中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像训练所述数据特征增强网络：
将所述手指模板图像和所述非手指图像输入所述数据特征增强网络，以合成所述原始遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述原始遮挡图像的生成特征和所述原始特征输入判别网络进行训练；
获取每轮训练中所述数据特征增强网络的损失函数和所述判别网络的损失函数；
当所述数据特征增强网络的损失函数和所述判别网络的损失函数均收敛时，确定所述数据特征增强网络的训练完成。
其中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型：
基于所述掩膜数据和所述无遮挡图像，获取处理后的无遮挡图像，所述处理后的无遮挡图像为所述无遮挡图像中去除所述掩膜数据对应区域后的图像；
将所述手指模板图像和所述处理后的无遮挡图像输入所述训练后的数据特征增强网络，以合成所述无遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述无遮挡图像的生成特征和所述原始特征输入分类网络进行训练，所述遮挡图像检测模型包括所述分类网络；
当所述遮挡图像检测模型的损失函数收敛时，确定所述遮挡图像检测模型的训练完成。
其中，所述遮挡图像检测模型为卷积神经网络模型。
其中，所述数据特征增强网络为生成对抗网络。
根据本公开实施例的第三方面，提供一种遮挡图像检测装置，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；
基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；
输出所述图像检测结果。
根据本公开实施例的第四方面，提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由路由器的处理器执行时，能够执行一种遮挡图像检测方法，所述方法包括：
通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；
基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；
输出所述图像检测结果。
本公开提出了一种遮挡图像检测方法。其中，通过摄像头捕捉到图像后，将该图像作为待检测图像，并输入训练后的遮挡图像检测模型。然后通过遮挡图像检测模型判断待检测图像是否为遮挡图像并输出图像检测结果。其中，遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的。
因此本公开的方法具有以下有益效果：
(1)利用少量的带有掩模标注的手指遮挡图像便可稳定地训练生成模型来生成遮挡图像特征，从而能够有效地解决手指遮挡检测模型训练中的正样本不足问题，节省大量的正样本采集成本。
(2)生成被遮挡图像的高层特征能够有效地避免图像生成细节不足带来的噪声对模型精度造成的影响。因此训练中加入生成的特征后，检测准确率得到显著提升。
(3)生成的特征仅对手指遮挡检测模型的分类网络进行再次优化，引入的额外训练成本较小。并且，能够充分利用已有的手指遮挡检测模型并微调少量参数，额外开销小。
(4)网络模型参数少，能够节省大量的存储和计算资源。
(5)该方法的扩展性和普适性较高，能够很容易地扩展到其它分类任务。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种遮挡图像检测方法的流程图。
图2是根据一示例性实施例示出的对数据特征增强网络进行训练的示意图。
图3是根据一示例性实施例示出的对遮挡图像检测模型进行训练的示意图。
图4是根据一示例性实施例示出的训练后的遮挡图像检测模型的示意图。
图5是根据一示例性实施例示出的一种遮挡图像检测方法的流程图。
图6是根据一示例性实施例示出的一种遮挡图像检测装置的框图。
图7是根据一示例性实施例示出的一种装置的框图。
图8是根据一示例性实施例示出的一种装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
在用户手持手机横向拍照时，镜头边缘容易被手指遮挡，使得照片边缘有较小的遮挡区域。由于该类遮挡不易被即时察觉，用户通常不会重新拍摄，从而无法获得完美照片而留有遗憾。手指遮挡检测的任务是在拍照后即时判断该图像是否有被遮挡，并在检测到被遮挡图像后实时提示用户重新拍摄。
目前为了解决上述问题，提出生成新的图像直接作为某一类别的样本加入模型的训练，但是这种方法存在以下问题：(1)该类型算法无法有效地生成手指遮挡区域这类严格语义内容的图像，因此不适用于手指遮挡检测任务；(2)直接生成图像需要生成网络和判别网络拥有大量的参数，会增加网络训练的计算成本和时间成本。
本公开提出了遮挡图像检测方法。在该方法中，通过摄像头捕捉到图像后，将该图像作为待检测图像，并输入训练后的遮挡图像检测模型。然后通过遮挡图像检测模型判断待检测图像是否为遮挡图像并输出图像检测结果。其中，遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的。
本公开的方法特别适用于以下应用场景：
(1)正样本(被手指遮挡)图像获取难度较大，需要耗费大量时间和人力成本。
(2)正样本不易利用简单的数据增广技术进行数据扩充，即，利用裁剪、形变、加噪声等手段通过原始图像产生新的图像时，会对遮挡图像的手指部分进行破坏，造成失真，从而使手指遮挡部分与真实情况不符。
(3)正样本图像很难利用生成对抗网络进行生成，会丢失大量细节信息，并引入大量噪声，从而造成模型的精度下降。这是因为在某些应用场景中，手指遮挡检测对数据的要求很高，对被遮挡图像的数据分布十分敏感，而用对抗生成网络技术无法真实地模拟生成手指遮挡图像。
(4)现有的生成式图像增广算法网络规模较大，并且需要大量的训练数据，因此需要大量的存储和计算资源，不利于大规模训练。尤其在正样本图像获取难道较大的情况下，不适用这种生成式图像増广算法。
本公开的方法适用配置有相机的电子产品，例如手机、PAD、穿戴式设备等。
本公开提供了一种遮挡图像检测方法。图1是根据一示例性实施例示出的一种遮挡图像检测的流程图，包括以下步骤：
步骤101，通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
步骤102，将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；
步骤103，基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；
步骤104，输出所述图像检测结果。
在该方法中，获取摄像头捕捉到的图像并将其作为待检测图像，然后将该待检测图像输入训练后的图像检测模型。通过该训练后的遮挡图像检测模型来判断待检测图像是否为遮挡图像。本领域技术人员可知，遮挡图像检测模型在经训练后，可以学习到关于图像的遮挡特性。
遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的。在对遮挡图像检测模型进行训练时，通过原始遮挡图像训练数据特征增强网络，使得数据特征增强网络能合成接近于图像原始特征的遮挡图像特征，即由原始的无遮挡图像和掩膜图像合成遮挡图像特征。然后通过原始遮挡图像得到原始遮挡图像特征，通过合成的遮挡图像特征和原始遮挡图像特征训练遮挡图像检测模型。
这里的图像特征一般是指将图像作为输入，经由特征网络处理后得到的输出，其相当于图像被压缩后得到的具有高层语义信息的一种表征形式。
采用上述方法，在合成遮挡图像特征时，利用少量的带有掩模标注的遮挡图像稳定地训练生成模型来合成遮挡图像特征，这样能够有效地解决遮挡检测模型训练中的正样本不足问题，节省大量的正样本采集成本。并且，这里是合成遮挡图像特征，即合成被遮挡图像的高层特征，这样就能够有效地避免图像生成细节不足带来的噪声对模型精度的影响。因此，在训练中加入合成的特征后，检测准确率得到显著提升。
并且，在该方法中通过数据特征增强网络合成遮挡图像特征，而不是合成遮挡图像，这就相当于减少了由图像到特征的模型部分，因此本方法中的网络模型比生成图像的网络模型要小很多。
这里遮挡图像检测模型的训练中，将训练数据集分成多个批次，使用梯度下降法训练模型，直到损失函数收敛。这一训练过程可由本领域技术人员利用现有的训练方法实现，在此不再赘述。
通过掩膜标注的遮挡图像合成遮挡图像特征的方法将结合下面的实施方式进行描述。
在可选实施方式中，所述方法还包括：
获取所述原始遮挡图像和所述无遮挡图像；
基于所述原始遮挡图像训练所述数据特征增强网络；
基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型。
如上所述，遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的。因此在训练遮挡图像检测模型前，需要先训练数据特征增强网络。该实施方式中，基于获取的原始遮挡图像来训练数据特征增强网络。经训练的数据特征增强网络能合成接近于图像原始特征的遮挡图像特征。
这样能够解决遮挡检测模型训练中的正样本不足问题，节省大量的正样本采集成本；并且，通过合成被遮挡图像的高层特征，可以图像生成细节不足带来的噪声对模型精度的影响。
在可选实施方式中，所述基于所述原始遮挡图像训练所述数据特征增强网络，包括：
基于所述原始遮挡图像，生成手指模板图像和非手指图像，所述手指模板图像为所述原始遮挡图像中去除未被手指遮挡区域后的图像，所述非手指图像为所述原始遮挡图像中去除手指遮挡区域后的图像；
生成训练数据组，每组训练数据包括一幅手指模板图像、一幅非手指图像和一幅原始遮挡图像，在每轮训练中采用多组训练数据对所述数据特征增强网络进行训练。
图2示出了对数据特征增强网络进行训练的过程。其中，A表示手指模板图像，B表示非手指图像，C表示原始手指遮挡图像。如前所述，其中的特征网络包含在遮挡图像检测模型中。数据特征增强网络合成的遮挡图像特征和特征网络提取的原始遮挡图像特征输入判别网络。判别网络用于辅助训练数据特征增强网络，即在训练过程中减小合成的遮挡图像特征和原始遮挡图像特征之间的区别，从而通过数据特征增强网络得到扩展的遮挡图像特征。判别网络只用于训练数据特征增强网络，不用于遮挡图像检测模型的训练。
在可选实施方式中，所述基于所述原始遮挡图像，生成手指模板图像和非手指图像包括：
基于所述原始遮挡图像，获取掩膜数据，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；
基于所述原始遮挡图像和所述掩膜数据，生成手指模板图像和非手指图像。
例如，基于所述原始遮挡图像，生成手指模板图像和非手指图像的过程，可以通过原始遮挡图像的掩膜数据实现。获取原始遮挡图像后，人工标注每幅图像中手指部分的掩膜，从而得到遮挡图像数据和掩膜数据。这里掩膜数据表示与原始遮挡图像的大小相同，被遮挡区域标记为1，非被手指遮挡区域标记为0的图像。对于每幅原始遮挡图像和对应的掩膜数据构成的图像，经过裁剪和对齐操作使二者大小和对应像素位置一致。将原始遮挡图像按照掩膜数据非被遮挡区域的像素置0得到手指模板图像，将原始遮挡图像按照掩膜数据手指遮挡区域的像素置0得到非手指图像。
由于原始遮挡图像的个数远小于无遮挡图像的个数，因此并不需要花费太多的人力进行人工标注。而通过本方法，可以合成大量的遮挡图像特征，来补充原始遮挡图像特征的不足。
在可选实施方式中，所述基于所述原始遮挡图像训练所述数据特征增强网络，还包括：
将所述手指模板图像和所述非手指图像输入所述数据特征增强网络，以合成所述原始遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述原始遮挡图像的生成特征和所述原始特征输入判别网络进行训练；
获取每轮训练中所述数据特征增强网络的损失函数和所述判别网络的损失函数；
当所述数据特征增强网络的损失函数和所述判别网络的损失函数均收敛时，确定所述数据特征增强网络的训练完成。
如前所述，将手指模板图像、非手指图像和原始遮挡图像组成一组训练数据。由于手指模板图像和非手指图像是由原始遮挡图像与掩膜数据生成，因此也可以将手指模板图像、非手指图像、掩膜数据和原始遮挡图像组成一组训练数据。也就是通过多组训练数据对数据特征增强网络进行训练。在数据特征增强网络的每轮训练中随机抽取几组训练数据，对数据特征增强网络进行一轮训练。在训练过程中获取数据特征增强网络和判别网络的损失函数，当其损失函数收敛时，确定数据特征增强网络的训练完成。这里的损失函数例如为Hinge版本的对抗损失函数，在此不再赘述。
在可选实施方式中，所述基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型，包括：
基于所述掩膜数据和所述无遮挡图像，获取处理后的无遮挡图像，所述处理后的无遮挡图像为所述无遮挡图像中去除所述掩膜数据对应区域后的图像；
将所述手指模板图像和所述处理后的无遮挡图像输入所述训练后的数据特征增强网络，以合成所述无遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述无遮挡图像的生成特征和所述原始特征输入分类网络进行训练，所述遮挡图像检测模型包括所述分类网络；
当所述遮挡图像检测模型的损失函数收敛时，确定所述遮挡图像检测模型的训练完成。
该实施方式中遮挡图像检测模型的训练过程可以参考图3。图3示出了对遮挡图像检测模型进行训练的过程。其中，包括数据特征增强网络、特征网络和分类网络(也可以称为判别网络)，遮挡图像检测模型包括特征网络和分类网络。数据特征增强网络用于合成增强特征，即遮挡图像特征，这里的增强特征用于加强网络对图像特征判别的准确性；特征网络用于提取图像特征；分类网络用于对图像的特征进行分类。其中A表示手指模板图像，B表示非手指图像，C表示原始遮挡图像，D表示增广特征集。通过数据特征增强网络合成遮挡图像特征，通过特征网络获取原始遮挡图像的原始特征，合成特征和原始特征构成增广特征集，来对遮挡图像检测模型进行训练。具体训练时，可以采用梯度下降法进行训练，直至遮挡图像检测模型的损失函数收敛。可以知道，这里的遮挡图像检测模型的损失函数为对特征网络和分类网络共同优化的损失函数。
图4示出了训练后的遮挡图像检测模型，包括特征网络和分类网络。将待检测图像输入该训练后的遮挡图像检测模型，基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像，并输出检测结果。
该实施方式中，生成特征仅对遮挡检测模型的分类网络进行优化，不需要对整体网络进行优化，从优化的成本上相比整体优化来看，无论从计算资源和时间成本上都要小很多，因此引入的额外训练成本较小。在训练时能够充分利用已有的遮挡检测模型并微调少量参数，额外开销小。并且，由于分类任务都可以建模成“特征提取+特征分类”的问题，因此对其它分类任务都可以采取本公开中特征增广后再优化特征分类网络的方法，因此该方法的扩展性和普适性较高，能够很容易地扩展到其它分类任务。
在可选实施方式中，所述遮挡图像检测模型为卷积神经网络模型。
具体地，卷积神经网络模型可以采用shufflenetv2。该网络模型的参数较少，能够节省大量的存储和计算资源。
在可选实施方式中，所述数据特征增强网络为生成对抗网络。
数据特征增强网络为生成对抗网络，具体地可以是自注意力生成对抗网络。如本领域技术人员已知的，生成对抗网络包括生成网络和判别网络。
下面详细描述根据本公开的遮挡图像检测的具体实施例。其中，数据特征增强网络为自注意力生成对抗网络，遮挡图像检测模型为ShuffleNetv2网络模型，遮挡图像为手指遮挡图像。如图5所示，该实施例包括下述步骤：
步骤501，获取多幅原始手指遮挡图像和无遮挡图像，通过人工标注的方法得到这些原始手指遮挡图像的掩膜数据。
步骤502，基于原始手指遮挡图像和相应的掩膜数据，得到各原始手指遮挡图像的手指模板图像和非手指图像。
步骤503，将每幅原始手指遮挡图像、相应的手指模板图像和非手指图像组成一组训练数据。
步骤504，在对数据特征增强网络的每轮训练中，从上述得到的训练数据中随机选取几组训练数据，将手指模板图像和非手指图像输入数据特征增强网络，将原始手指遮挡图像输入特征网络，进行训练。
步骤505，获取每轮训练的数据特征增强网络和判别网络的损失函数，当损失函数收敛时，确定数据特征增强网络的训练完成。
步骤506，通过训练后的数据特征增强网络合成无遮挡图像的生成特征，通过特征网络提取原始遮挡图像的原始特征。
步骤507，将生成特征和原始特征输入分类网络对遮挡图像检测模型进行训练。
步骤508，当遮挡图像检测模型的损失函数收敛时，训练完成。
步骤509，将待检测图像输入训练后的手指遮挡图像检测模型，以确定所述待检测图像是否为手指遮挡图像。
该实施例中，在利用训练后的遮挡图像检测模型对待检测图像检测之前，需要执行两个训练过程：一个是对数据特征增强网络进行训练，另一个是利用训练后的数据特征增强网络对遮挡图像检测模型进行训练。对数据特征增强网络的训练可以参考图2，对遮挡图像检测模型的训练可以参考图3。
本公开还提供了一种遮挡图像检测装置，如图6所示，所述装置包括：
获取模块601，被设置为通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
输入模块602，被设置为将待检测图像输入训练后的遮挡图像检测模型；
所述遮挡图像检测模型603，被设置为基于关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；
输出模块604，被设置为输出所述图像检测结果。
在可选实施方式中，所述遮挡图像检测模型603通过训练模块进行训练，所述训练模块被设置为：
获取所述原始遮挡图像和所述无遮挡图像；
基于所述原始遮挡图像训练所述数据特征增强网络；
基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型。
在可选实施方式中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像训练所述数据特征增强网络：
基于所述原始遮挡图像，生成手指模板图像和非手指图像，所述手指模板图像为所述原始遮挡图像中去除未被手指遮挡区域后的图像，所述非手指图像为所述原始遮挡图像中去除手指遮挡区域后的图像；
生成训练数据组，每组训练数据包括一幅手指模板图像、一幅非手指图像和一幅原始遮挡图像，在每轮训练中采用多组训练数据对所述数据特征增强网络进行训练。
在可选实施方式中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像，生成手指模板图像和非手指图像：
基于所述原始遮挡图像，获取掩膜数据，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；
基于所述原始遮挡图像和所述掩膜数据，生成手指模板图像和非手指图像。
在可选实施方式中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像训练所述数据特征增强网络：
将所述手指模板图像和所述非手指图像输入所述数据特征增强网络，以合成所述原始遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述原始遮挡图像的生成特征和所述原始特征输入判别网络进行训练；
获取每轮训练中所述数据特征增强网络的损失函数和所述判别网络的损失函数；
当所述数据特征增强网络的损失函数和所述判别网络的损失函数均收敛时，确定所述数据特征增强网络的训练完成。
在可选实施方式中，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型：
基于所述掩膜数据和所述无遮挡图像，获取处理后的无遮挡图像，所述处理后的无遮挡图像为所述无遮挡图像中去除所述掩膜数据对应区域后的图像；
将所述手指模板图像和所述处理后的无遮挡图像输入所述训练后的数据特征增强网络，以合成所述无遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述无遮挡图像的生成特征和所述原始特征输入分类网络进行训练，所述遮挡图像检测模型包括所述分类网络；
当所述遮挡图像检测模型的损失函数收敛时，确定所述遮挡图像检测模型的训练完成。
在可选实施方式中，所述遮挡图像检测模型为卷积神经网络模型。
在可选实施方式中，所述数据特征增强网络为生成对抗网络。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
本公开的方法具有以下有益效果：
(1)利用少量的带有掩模标注的手指遮挡图像便可稳定地训练生成模型来生成遮挡图像特征，从而能够有效地解决手指遮挡检测模型训练中的正样本不足问题，节省大量的正样本采集成本。
(2)直接生成被遮挡图像的高层特征能够有效地避免图像生成细节不足带来的噪声对模型精度造成的影响。即，训练中加入生成的特征后，检测准确率得到显著提升。
(3)生成的特征仅对手指遮挡检测模型的分类网络进行再次优化，引入的额外训练成本较小。并且，能够充分利用已有的手指遮挡检测模型并微调少量参数，额外开销小。
(4)网络模型参数少，能够节省大量的存储和计算资源。
(5)该方法的扩展性和普适性较高，能够很容易地扩展到其它分类任务。
图7是根据一示例性实施例示出的一种遮挡图像检测装置700的框图。
参照图7，装置700可以包括以下一个或多个组件：处理组件702，存储器704，电力组件706，多媒体组件708，音频组件710，输入/输出(I/O)的接口712，传感器组件714，以及通信组件716。
处理组件702通常控制装置700的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件702可以包括一个或多个处理器720来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件702可以包括一个或多个模块，便于处理组件702和其他组件之间的交互。例如，处理组件702可以包括多媒体模块，以方便多媒体组件708和处理组件702之间的交互。
存储器704被配置为存储各种类型的数据以支持在设备700的操作。这些数据的示例包括用于在装置700上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器704可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电力组件706为装置700的各种组件提供电力。电力组件706可以包括电源管理系统，一个或多个电源，及其他与为装置700生成、管理和分配电力相关联的组件。
多媒体组件708包括在所述装置700和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件708包括一个前置摄像头和/或后置摄像头。当设备700处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件710被配置为输出和/或输入音频信号。例如，音频组件710包括一个麦克风(MIC)，当装置700处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器704或经由通信组件716发送。在一些实施例中，音频组件710还包括一个扬声器，用于输出音频信号。
I/O接口712为处理组件702和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件714包括一个或多个传感器，用于为装置700提供各个方面的状态评估。例如，传感器组件714可以检测到设备700的打开/关闭状态，组件的相对定位，例如所述组件为装置700的显示器和小键盘，传感器组件714还可以检测装置700或装置700一个组件的位置改变，用户与装置700接触的存在或不存在，装置700方位或加速/减速和装置700的温度变化。传感器组件714可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件714还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件714还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件716被配置为便于装置700和其他设备之间有线或无线方式的通信。装置700可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件716经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件716还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置700可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器704，上述指令可由装置700的处理器720执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种遮挡图像检测方法，所述方法包括：通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；输出所述图像检测结果。
图8是根据一示例性实施例示出的一种用于遮挡图像检测装置800的框图。例如，装置800可以被提供为一服务器。参照图8，装置800包括处理组件822，其进一步包括一个或多个处理器，以及由存储器832所代表的存储器资源，用于存储可由处理组件822的执行的指令，例如应用程序。存储器832中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件822被配置为执行指令，以执行上述方法：通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；输出所述图像检测结果。
装置800还可以包括一个电源组件826被配置为执行装置800的电源管理，一个有线或无线网络接口850被配置为将装置800连接到网络，和一个输入输出(I/O)接口858。装置800可以操作基于存储在存储器832的操作系统，例如Windows ServerTM，Mac OSXTM，UnixTM,LinuxTM，FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。
应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (18)

1.一种遮挡图像检测方法，其特征在于，所述方法包括：
通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；所述训练后的数据特征增强网络为基于所述原始遮挡图像训练的数据特征增强网络，所述训练后的数据特征增强网络被配置为由原始的所述无遮挡图像和掩膜数据合成遮挡图像特征，然后通过所述原始遮挡图像得到原始遮挡图像特征，通过合成的所述遮挡图像特征和所述原始遮挡图像特征训练所述遮挡图像检测模型，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；所述训练后的遮挡图像检测模型被配置为判断所述待检测图像是否为遮挡图像；所述原始遮挡图像包括手指遮挡区域和未被手指遮挡区域；
基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；其中，所述图像的遮挡特性是所述遮挡图像检测模型在经训练后学习到的；
输出所述图像检测结果。
2.如权利要求1所述的方法，其特征在于，所述方法还包括：
获取所述原始遮挡图像和所述无遮挡图像；
基于所述原始遮挡图像训练所述数据特征增强网络；
基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型。
3.如权利要求2所述的方法，其特征在于，所述基于所述原始遮挡图像训练所述数据特征增强网络，包括：
基于所述原始遮挡图像，生成手指模板图像和非手指图像，所述手指模板图像为所述原始遮挡图像中去除所述未被手指遮挡区域后的图像，所述非手指图像为所述原始遮挡图像中去除所述手指遮挡区域后的图像；
生成训练数据组，每组训练数据包括一幅手指模板图像、一幅非手指图像和一幅原始遮挡图像，在每轮训练中采用多组训练数据对所述数据特征增强网络进行训练。
4.如权利要求3所述的方法，其特征在于，所述基于所述原始遮挡图像，生成手指模板图像和非手指图像包括：
基于所述原始遮挡图像，获取所述掩膜数据；
基于所述原始遮挡图像和所述掩膜数据，生成手指模板图像和非手指图像。
5.如权利要求3所述的方法，其特征在于，所述基于所述原始遮挡图像训练所述数据特征增强网络，还包括：
将所述手指模板图像和所述非手指图像输入所述数据特征增强网络，以合成所述原始遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述原始遮挡图像的生成特征和所述原始特征输入判别网络进行训练；
获取每轮训练中所述数据特征增强网络的损失函数和所述判别网络的损失函数；
当所述数据特征增强网络的损失函数和所述判别网络的损失函数均收敛时，确定所述数据特征增强网络的训练完成。
6.如权利要求4所述的方法，其特征在于，所述基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型，包括：
基于所述掩膜数据和所述无遮挡图像，获取处理后的无遮挡图像，所述处理后的无遮挡图像为所述无遮挡图像中去除所述掩膜数据对应区域后的图像；
将所述手指模板图像和所述处理后的无遮挡图像输入所述训练后的数据特征增强网络，以合成所述无遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述无遮挡图像的生成特征和所述原始特征输入分类网络进行训练，所述遮挡图像检测模型包括所述分类网络；
当所述遮挡图像检测模型的损失函数收敛时，确定所述遮挡图像检测模型的训练完成。
7.如权利要求1所述的方法，其特征在于，所述遮挡图像检测模型为卷积神经网络模型。
8. 如权利要求1所述的方法，其特征在于， 所述数据特征增强网络为生成对抗网络。
9.一种遮挡图像检测装置，其特征在于，所述装置包括：
获取模块，被设置为通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
输入模块，被设置为将待检测图像输入训练后的遮挡图像检测模型；
所述遮挡图像检测模型，被设置为基于关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；所述训练后的数据特征增强网络为基于所述原始遮挡图像训练的数据特征增强网络，所述训练后的数据特征增强网络被配置为由原始的所述无遮挡图像和掩膜数据合成遮挡图像特征，然后通过所述原始遮挡图像得到原始遮挡图像特征，通过合成的所述遮挡图像特征和所述原始遮挡图像特征训练所述遮挡图像检测模型，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；所述训练后的遮挡图像检测模型被配置为判断所述待检测图像是否为遮挡图像；所述原始遮挡图像包括手指遮挡区域和未被手指遮挡区域；所述图像的遮挡特性是所述遮挡图像检测模型在经训练后学习到的；
输出模块，被设置为输出所述图像检测结果。
10.如权利要求9所述的装置，其特征在于，所述遮挡图像检测模型通过训练模块进行训练，所述训练模块被设置为：
获取所述原始遮挡图像和所述无遮挡图像；
基于所述原始遮挡图像训练所述数据特征增强网络；
基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型。
11.如权利要求10所述的装置，其特征在于，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像训练所述数据特征增强网络：
基于所述原始遮挡图像，生成手指模板图像和非手指图像，所述手指模板图像为所述原始遮挡图像中去除所述未被手指遮挡区域后的图像，所述非手指图像为所述原始遮挡图像中去除所述手指遮挡区域后的图像；
生成训练数据组，每组训练数据包括一幅手指模板图像、一幅非手指图像和一幅原始遮挡图像，在每轮训练中采用多组训练数据对所述数据特征增强网络进行训练。
12.如权利要求11所述的装置，其特征在于，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像，生成手指模板图像和非手指图像：
基于所述原始遮挡图像，获取所述掩膜数据；
基于所述原始遮挡图像和所述掩膜数据，生成手指模板图像和非手指图像。
13.如权利要求11所述的装置，其特征在于，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像训练所述数据特征增强网络：
将所述手指模板图像和所述非手指图像输入所述数据特征增强网络，以合成所述原始遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述原始遮挡图像的生成特征和所述原始特征输入判别网络进行训练；
获取每轮训练中所述数据特征增强网络的损失函数和所述判别网络的损失函数；
当所述数据特征增强网络的损失函数和所述判别网络的损失函数均收敛时，确定所述数据特征增强网络的训练完成。
14.如权利要求12所述的装置，其特征在于，所述训练模块还被设置为通过下述方式来基于所述原始遮挡图像和所述无遮挡图像并利用训练后的数据特征增强网络，训练所述遮挡图像检测模型：
基于所述掩膜数据和所述无遮挡图像，获取处理后的无遮挡图像，所述处理后的无遮挡图像为所述无遮挡图像中去除所述掩膜数据对应区域后的图像；
将所述手指模板图像和所述处理后的无遮挡图像输入所述训练后的数据特征增强网络，以合成所述无遮挡图像的生成特征；
将所述原始遮挡图像输入特征网络，以提取所述原始遮挡图像的原始特征，所述遮挡图像检测模型包括所述特征网络；
将所述无遮挡图像的生成特征和所述原始特征输入分类网络进行训练，所述遮挡图像检测模型包括所述分类网络；
当所述遮挡图像检测模型的损失函数收敛时，确定所述遮挡图像检测模型的训练完成。
15.如权利要求9所述的装置，其特征在于，所述遮挡图像检测模型为卷积神经网络模型。
16. 如权利要求9所述的装置，其特征在于， 所述数据特征增强网络为生成对抗网络。
17.一种遮挡图像检测装置，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器;
其中，所述处理器被配置为：
通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；所述训练后的数据特征增强网络为基于所述原始遮挡图像训练的数据特征增强网络，所述训练后的数据特征增强网络被配置为由原始的所述无遮挡图像和掩膜数据合成遮挡图像特征，然后通过所述原始遮挡图像得到原始遮挡图像特征，通过合成的所述遮挡图像特征和所述原始遮挡图像特征训练所述遮挡图像检测模型，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；所述训练后的遮挡图像检测模型被配置为判断所述待检测图像是否为遮挡图像；所述原始遮挡图像包括手指遮挡区域和未被手指遮挡区域；
基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；其中，所述图像的遮挡特性是所述遮挡图像检测模型在经训练后学习到的；
输出所述图像检测结果。
18.一种非临时性计算机可读存储介质，当所述存储介质中的指令由路由器的处理器执行时，能够执行一种遮挡图像检测方法，所述方法包括：
通过摄像头捕捉到图像后，获取所述图像并作为待检测图像；
将待检测图像输入训练后的遮挡图像检测模型；其中，所述遮挡图像检测模型是采用原始遮挡图像、无遮挡图像并利用训练后的数据特征增强网络进行训练的；所述训练后的数据特征增强网络为基于所述原始遮挡图像训练的数据特征增强网络，所述训练后的数据特征增强网络被配置为由原始的所述无遮挡图像和掩膜数据合成遮挡图像特征，然后通过所述原始遮挡图像得到原始遮挡图像特征，通过合成的所述遮挡图像特征和所述原始遮挡图像特征训练所述遮挡图像检测模型，所述掩膜数据指示所述原始遮挡图像中被遮挡的位置；所述训练后的遮挡图像检测模型被配置为判断所述待检测图像是否为遮挡图像；所述原始遮挡图像包括手指遮挡区域和未被手指遮挡区域；
基于所述遮挡图像检测模型中关于图像的遮挡特性，判断所述待检测图像是否为遮挡图像；其中，所述图像的遮挡特性是所述遮挡图像检测模型在经训练后学习到的；
输出所述图像检测结果。
CN202011054873.2A 2020-09-28 2020-09-28 遮挡图像检测方法、装置及介质 Active CN112200040B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202011054873.2A CN112200040B (zh) 2020-09-28 2020-09-28 遮挡图像检测方法、装置及介质
KR1020210062695A KR102545408B1 (ko) 2020-09-28 2021-05-14 차폐된 이미지 검출 방법, 장치 및 매체
JP2021083271A JP7167244B2 (ja) 2020-09-28 2021-05-17 遮蔽された画像の検出方法、装置、及び媒体
EP21176559.9A EP3975046B1 (en) 2020-09-28 2021-05-28 Method and apparatus for detecting occluded image and medium
US17/334,941 US11961278B2 (en) 2020-09-28 2021-05-31 Method and apparatus for detecting occluded image and medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011054873.2A CN112200040B (zh) 2020-09-28 2020-09-28 遮挡图像检测方法、装置及介质

Publications (2)

Publication Number Publication Date
CN112200040A CN112200040A (zh) 2021-01-08
CN112200040B true CN112200040B (zh) 2025-02-25

Family

ID=74008537

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011054873.2A Active CN112200040B (zh) 2020-09-28 2020-09-28 遮挡图像检测方法、装置及介质

Country Status (5)

Country Link
US (1) US11961278B2 (zh)
EP (1) EP3975046B1 (zh)
JP (1) JP7167244B2 (zh)
KR (1) KR102545408B1 (zh)
CN (1) CN112200040B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220237405A1 (en) * 2021-01-28 2022-07-28 Macronix International Co., Ltd. Data recognition apparatus and recognition method thereof
CN113435358B (zh) * 2021-06-30 2023-08-11 北京百度网讯科技有限公司 用于训练模型的样本生成方法、装置、设备、程序产品
CN113378980B (zh) * 2021-07-02 2023-05-09 西安电子科技大学 基于自适应上下文注意力机制的口罩遮挡人脸恢复方法
CN114758225A (zh) * 2022-03-15 2022-07-15 中国农业科学院农业资源与农业区划研究所 一种不同地区的遮挡型苹果图像数据增广方法和装置
CN114998930A (zh) * 2022-05-30 2022-09-02 武汉长江光电有限公司 重遮挡图像集生成及重遮挡人体目标模型训练方法
CN117372705A (zh) * 2022-06-28 2024-01-09 脸萌有限公司 模型训练方法、装置及电子设备
CN116051402A (zh) * 2022-12-22 2023-05-02 上海合合信息科技股份有限公司 一种去除图像中的手指的方法及装置
CN120236143A (zh) * 2025-04-25 2025-07-01 杭州食方科技有限公司 用于称重设备的物品图像采集方法、装置、设备和介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106910176A (zh) * 2017-03-02 2017-06-30 中科视拓（北京）科技有限公司 一种基于深度学习的人脸图像去遮挡方法
CN109948525A (zh) * 2019-03-18 2019-06-28 Oppo广东移动通信有限公司 拍照处理方法、装置、移动终端以及存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2816797A1 (en) * 2013-06-19 2014-12-24 BlackBerry Limited Device for detecting a camera obstruction
US10067509B1 (en) * 2017-03-10 2018-09-04 TuSimple System and method for occluding contour detection
JP7102137B2 (ja) * 2017-12-19 2022-07-19 セコム株式会社 不審者検知装置
US20190213797A1 (en) * 2018-01-07 2019-07-11 Unchartedvr Inc. Hybrid hand tracking of participants to create believable digital avatars
US10552714B2 (en) * 2018-03-16 2020-02-04 Ebay Inc. Generating a digital image using a generative adversarial network
WO2020037678A1 (zh) * 2018-08-24 2020-02-27 太平洋未来科技（深圳）有限公司 基于遮挡图像生成三维人脸图像方法、装置及电子设备
US10311335B1 (en) * 2018-09-05 2019-06-04 StradVision, Inc. Method and device for generating image data set to be used for learning CNN capable of detecting obstruction in autonomous driving circumstance, and testing method, and testing device using the same
CN109409215A (zh) * 2018-09-14 2019-03-01 广州大学 基于深度卷积神经网络的前方车辆半遮挡人体的检测方法
JP7024881B2 (ja) * 2018-09-28 2022-02-24 日本電気株式会社 パターン認識装置およびパターン認識方法
SG10201914104YA (en) * 2018-12-31 2020-07-29 Dathena Science Pte Ltd Deep learning engine and methods for content and context aware data classification
CN110020592B (zh) * 2019-02-03 2024-04-09 平安科技（深圳）有限公司 物体检测模型训练方法、装置、计算机设备及存储介质
CN109951635B (zh) * 2019-03-18 2021-01-12 Oppo广东移动通信有限公司 拍照处理方法、装置、移动终端以及存储介质
CN110399785B (zh) * 2019-05-31 2021-04-06 安徽四创电子股份有限公司 一种基于深度学习与传统算法的树叶遮挡的检测方法
US10747371B1 (en) * 2019-06-28 2020-08-18 Konica Minolta Business Solutions U.S.A., Inc. Detection of finger press from live video stream
EP4032017B1 (en) * 2019-09-16 2025-11-12 Assurant, Inc. Method, apparatus, and computer program product for utilizing machine learning to process an image of a mobile device to determine a mobile device integrity status
CN111046956A (zh) * 2019-12-13 2020-04-21 苏州科达科技股份有限公司 遮挡图像检测方法、装置、电子设备及存储介质
CN111310718A (zh) * 2020-03-09 2020-06-19 成都川大科鸿新技术研究所 一种遮挡人脸图像高准确率检测对比方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106910176A (zh) * 2017-03-02 2017-06-30 中科视拓（北京）科技有限公司 一种基于深度学习的人脸图像去遮挡方法
CN109948525A (zh) * 2019-03-18 2019-06-28 Oppo广东移动通信有限公司 拍照处理方法、装置、移动终端以及存储介质

Also Published As

Publication number Publication date
KR20220043004A (ko) 2022-04-05
US11961278B2 (en) 2024-04-16
EP3975046B1 (en) 2024-04-17
JP7167244B2 (ja) 2022-11-08
CN112200040A (zh) 2021-01-08
EP3975046A1 (en) 2022-03-30
JP2022055302A (ja) 2022-04-07
KR102545408B1 (ko) 2023-06-20
US20220101028A1 (en) 2022-03-31

Similar Documents

Publication Publication Date Title
CN112200040B (zh) 遮挡图像检测方法、装置及介质
CN111753783B (zh) 手指遮挡图像检测方法、装置及介质
EP3226204A1 (en) Method and apparatus for intelligently capturing image
EP3125135A1 (en) Picture processing method and device
CN113409342B (zh) 图像风格迁移模型的训练方法、装置及电子设备
CN106651955A (zh) 图片中目标物的定位方法及装置
CN108717542B (zh) 识别文字区域的方法、装置及计算机可读存储介质
CN110569835B (zh) 一种图像识别方法、装置和电子设备
CN112927122A (zh) 水印去除方法、装置及存储介质
CN105809174A (zh) 识别图像的方法及装置
CN107480665A (zh) 文字检测方法、装置及计算机可读存储介质
EP3905660A1 (en) Method and device for shooting image, and storage medium
CN105631467A (zh) 显示图片的方法及装置
CN111797746B (zh) 人脸识别方法、装置及计算机可读存储介质
CN113506324B (zh) 图像处理方法及装置、电子设备和存储介质
CN109145878B (zh) 图像提取方法及装置
CN106485246B (zh) 字符识别方法及装置
CN105653623B (zh) 图片收集方法及装置
CN111641754B (zh) 联系人头像的生成方法、装置及存储介质
CN109003272A (zh) 图像处理方法、装置及系统
CN114693702B (zh) 图像处理方法、装置、电子设备及存储介质
CN114155160B (zh) 结构图的连接器还原方法、装置、电子设备及存储介质
CN113761275B (zh) 视频预览动图生成方法、装置、设备及可读存储介质
CN113486962A (zh) 图像生成方法及装置、电子设备和存储介质
CN112132762A (zh) 一种数据处理方法、装置和录音设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant