JP2019087181A - 画像検査装置および方法 - Google Patents

画像検査装置および方法 Download PDF

Info

Publication number
JP2019087181A
JP2019087181A JP2017217004A JP2017217004A JP2019087181A JP 2019087181 A JP2019087181 A JP 2019087181A JP 2017217004 A JP2017217004 A JP 2017217004A JP 2017217004 A JP2017217004 A JP 2017217004A JP 2019087181 A JP2019087181 A JP 2019087181A
Authority
JP
Japan
Prior art keywords
image
unit
learning
feature amount
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017217004A
Other languages
English (en)
Other versions
JP7074460B2 (ja
Inventor
智樹 細居
Tomoki Hosoi
智樹 細居
友哉 中澤
Tomoya Nakazawa
友哉 中澤
貴弘 茂木
Takahiro Mogi
貴弘 茂木
鉄也 田原
Tetsuya Tawara
鉄也 田原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Azbil Corp
Original Assignee
Azbil Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Azbil Corp filed Critical Azbil Corp
Priority to JP2017217004A priority Critical patent/JP7074460B2/ja
Publication of JP2019087181A publication Critical patent/JP2019087181A/ja
Application granted granted Critical
Publication of JP7074460B2 publication Critical patent/JP7074460B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

【課題】検査対象の不良品が無い場合や少ない場合であっても、検査対象の画像の特徴量を自動で学習することができる画像検査装置を提供する。【解決手段】画像検査装置1は、検査対象を含む学習用画像に基づいてニューラルネットワークの学習を行い、学習用画像の特徴量を出力する学習済みのニューラルネットワークを構築する特徴量学習部42と、学習済みのニューラルネットワークが出力した学習用画像の特徴量に基づいて、検査対象の良否を判定する識別器を学習により生成する識別器学習部43と、検査対象を含む判定用画像を学習済みのニューラルネットワークに入力し、判定用画像の特徴量を出力する特徴量算出部51と、特徴量算出部51が出力した判定用画像の特徴量を、識別器学習部43によって生成された識別器に入力して、検査対象の良否の判定を行う識別部52とを有する。【選択図】 図2

Description

本発明は、画像検査装置および方法に関し、特に検査対象の画像を用いる検査技術に関する。
従来より、製品の完成品や、半完成品、加工過程にある製品や部品の検査方法として、画像を用いた画像検査と呼ばれるものがある。これは、検査対象の画像を撮像装置で取得し、取得した画像をもとに不良や欠陥の有無、種類などを判定するものである。例えば、特許文献1には、検査対象の外観の良否を判定する技術が開示されている。
製品などの検査対象の不良や欠陥の有無を検査する画像検査の手法は多種多様だが、従来の画像検査装置における一般的な動作としては、図17のフローチャートに示すような動作が一般的である。まず、画像検査装置は検査対象の画像を取得する(ステップS800)。次に、画像検査装置は、取得した画像の前処理を行い、画像を検査しやすい状態に加工する(ステップS801)。
続いて、画像検査装置は、前処理後の画像から、画像の特徴を定量化した特徴量を算出する(ステップS802)。なお、算出される画像の特徴量については、画像検査装置において採用される具体的な手法に応じて、その特徴量は1つの場合や複数の場合がある。そして、画像検査装置は、画像の特徴量の値に基づいて、検査対象が良品か不良品かを判定する(ステップS803)。
画像の特徴を定量化した特徴量には様々なものがあるが、従来の画像検査装置においては、画像検査装置の設計者が自らの知見に基づいて設計、選択するのが一般的であった。また、検査対象が良品であるか不良品であるかの判定方法については、設計者が決めたしきい値に基づいて判定するもの、統計的検定によるもの、機械学習によるものなど、様々な手法が使われている。
ところで、近年、畳み込みニューラルネットワークを用い、深層学習によって検査対象の画像の特徴量を学習して画像検査を行う手法が提案されている。そのような手法では、図17に示すような構成のニューラルネットワーク900を用いて検査を行う。この手法では、畳み込み演算を中心とした演算を行う畳み込み層901a、901b、901cと呼ばれる要素を直列に複数接続して、入力された検査対象の画像から特徴的なパターンを抽出し、画像の特徴量を計算する。そして、畳み込み層901a、901b、901cの後に続く全結合層902と呼ばれる部分が、算出された画像の特徴量に基づいて、検査対象の良否を判定する。
例えば、特許文献2は、医療画像を対象としているが、検査対象の3次元画像から生成された2次元画像に対し、畳み込み層と全結合層とを持つニューラルネットワークを用いて検査対象を分類する技術を開示している。
このようなニューラルネットワークに基づく画像検査手法の特徴は、画像の特徴量が学習によって自動で獲得されることにある。前述したように、特許文献1に記載されているような従来の画像検査手法を用いた技術では、画像の特徴量は設計者が自らの知見に基づいて設計されるのが一般的だった。特徴量は画像検査の性能を大きく左右するが、検査対象によって適切な特徴量は異なる。そのため、特徴量の設計は画像処理や画像検査の専門家でないと難しいものであると考えられていた。
それに対し、特許文献2に記載されているようなニューラルネットワークに基づく画像検査手法では、良品および不良品の検査対象の画像を大量に用意すれば、それらを学習することで検査により適した画像の特徴量が得られる。そのため、特徴量の設計を大幅に省力化することができた。畳み込みニューラルネットワークを用いた深層学習により特徴量が自動で獲得されることについては、例えば、非特許文献1に開示されているように、よく知られた事実である。
特許文献1に記載されている手法では、画像検査を行う前に、ニューラルネットワークに良品と不良品の区別を学習させ、十分に高い正答率で検査対象の良否を判別できるようにする必要がある。この学習は「教師あり学習」と呼ばれるもので、良品と不良品とが予め区別された検査対象の画像を必要とする。一方、深層学習による画像の学習では、大量の学習用の画像が必要となる。また、学習に用いる検査対象の良品画像と不良品画像の数は同数に近い方が望ましいとされる。これは、多くの良品画像だけでなく、多くの不良品画像も必要であることを意味する。
しかし、学習用の画像として、多数の不良品画像を用意することが難しいケースは少なくない。生産現場では通常、不良品をできるだけ出さないように生産設備や工程が設計されており、不良品率が低いことは珍しくない。しかし、そのような現場から収集された検査用の画像は、良品の画像が大半を占めることになり、図18に示すようなニューラルネットワークをうまく学習できないことが多い。
その理由として、一般的に、ニューラルネットワークの教師あり学習は、ニューラルネットワークの出力が教師と異なる場合、すなわち誤った出力の場合に進行するようになっている。最初のうちは誤判定が多いが、それにより学習が進み、段々と誤判定が減り、最後は良否を正しく判定できるようになるというのが通常の学習プロセスである。
しかし、良品の画像しか無い場合や、不良品の画像が非常に少ない場合は、ニューラルネットワークが常に良品と出力することでも正答率が高くなる。そのため、本当に学習させたい良否の区別を学習することが難しくなる。
このような理由から、従来の畳み込みニューラルネットワークによる深層学習を用いた画像検査装置は、不良品が無い、または不良品が少ない場合には適用が困難な場合があった。そして、このことは新しい生産設備や装置を立ち上げた際に、不良品の画像が相当数蓄積するまでは検査を実行できないことを意味する。よって、従来の畳み込みニューラルネットワークによる深層学習を用いた画像検査装置は、画像の特徴量を自動で学習できるというメリットはあるが、それが発揮できる場面は限られることになる。
特開2017−174039号公報 特開2016−99707号公報 特開2008−310700号公報
松尾 豊 著「人工知能は人間を超えるか ディープラーニングの先にあるもの」,角川EPUB選書,2015年3月発行 Alec Radford et al.:Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks,ICLR 2016(arXiv:1511.06434) Diederik P.Kingma et al.:Auto−Encoding Variational Bayes(arXiv:1312.6114) Jost Tobias Springenberg et al.:Striving for Simplicity:The All Convolutional Net(arXiv:1412.6806) Liu,Fei Tony and Ting,Kai Ming and Zhou,Zhi−Hua:Isolation forest,Data Mining,2008.ICDM‘08.Eighth IEEE International Conference on,IEEE,pp.413−422(2008) Watanabe,Satosi and Pakvasa,Nikhil:Subspace method of pattern recognition,Proc.1st.IJCPR,pp.25−32(1973) Breunig,Markus M and Kriegel,Hans−Peter and Ng,Raymond T and Sander,Jorg:LOF:identifying density−based local outliers,ACM sigmod record,Vol.29−2,ACM,pp.93−104(2000) Cortes,Corinna and Vapnik,Vladimir:Support−vector networks,Machine learning,Vol.20−3,Springer,pp.273−297(1995) Breiman,Leo:Random forests,Machine learning,Vol.45−1,Springer,pp.5−32(2001) Viola,Paul and Jones,Michael:Rapid object detection using a boosted cascade of simple features,Computer Vision and Pattern Recognition,2001.CVPR 2001.Proceedings of the 2001 IEEE Computer Society Conference on,Vol.1,IEEE(2001)
従来の畳み込みニューラルネットワークによる深層学習を用いた画像検査装置では、検査対象の不良品が無い場合や少ない場合には、検査対象の画像の特徴量を自動で学習できる画像検査装置を構築することが困難であった。
本発明は、上述した課題を解決するためになされたものであり、検査対象の不良品が無い場合や少ない場合であっても、検査対象の画像の特徴量を自動で学習することができる画像検査装置を提供する。
上述した課題を解決するために、本発明に係る画像検査装置は、検査対象の良否を画像によって検査する画像検査装置であって、前記検査対象を含む学習用画像に基づいてニューラルネットワークの学習を行い、前記学習用画像を復元できる特徴量を出力する学習済みのニューラルネットワークを構築する特徴量学習部と、前記特徴量学習部の学習完了後、前記学習済みのニューラルネットワークが出力した前記学習用画像の前記特徴量に基づいて、前記検査対象の良否を判定する識別器を学習により生成する識別器学習部と、前記検査対象を含む判定用画像を前記学習済みのニューラルネットワークに入力し、前記判定用画像の特徴量を出力する特徴量算出部と、前記特徴量算出部が出力した前記判定用画像の前記特徴量を、前記識別器学習部によって生成された前記識別器に入力して、前記検査対象の良否の判定を行う識別部とを備えることを特徴とする。
また、本発明に係る画像検査装置において、前記特徴量学習部は、前記学習用画像を入力画像として記憶する第1の入力画像記憶部と、前記入力画像を入力として、前記入力画像の特徴量を出力する第1の畳み込みニューラルネットワーク演算部と、前記第1の畳み込みニューラルネットワーク演算部が出力した前記入力画像の前記特徴量を入力として、前記入力画像と同一の大きさの画像を出力する逆畳み込みニューラルネットワーク演算部と、前記逆畳み込みニューラルネットワーク演算部から出力された前記画像を出力画像として記憶する出力画像記憶部と、前記入力画像と前記出力画像との差異を算出する画像差異算出部と、前記差異が、算出された値より小さくなるように前記第1の畳み込みニューラルネットワーク演算部および前記逆畳み込みニューラルネットワーク演算部それぞれのパラメータの値を更新する特徴量算出設定更新部と、前記第1の畳み込みニューラルネットワーク演算部および前記逆畳み込みニューラルネットワーク演算部それぞれの前記パラメータの値を記憶する特徴量算出設定記憶部と、を備え、前記第1の畳み込みニューラルネットワーク演算部および前記逆畳み込みニューラルネットワーク演算部は、前記特徴量算出設定記憶部に記憶されている前記パラメータの値を用いてそれぞれ演算を行い、前記特徴量算出設定記憶部は、更新された前記パラメータの値を記憶し、前記第1の畳み込みニューラルネットワーク演算部は、更新された前記パラメータの値を用いて、すべての前記学習用画像それぞれの前記特徴量を出力してもよい。
また、本発明に係る画像検査装置において、前記特徴量算出部は、前記判定用画像を記憶する第2の入力画像記憶部と、前記特徴量算出設定記憶部に記憶されている更新された前記パラメータの値を用いて、前記判定用画像を入力として、前記判定用画像の前記特徴量を出力する第2の畳み込みニューラルネットワーク演算部とを備えていてもよい。
また、本発明に係る画像検査装置において、前記識別器学習部は、前記特徴量学習部が出力した前記学習用画像の前記特徴量を入力する第1の特徴量入力部と、前記学習用画像の前記特徴量を入力として、教師なし学習を行い前記識別器を生成する識別演算教師なし学習部と、を備え、前記識別演算教師なし学習部は、前記識別器を、アイソレーションフォレスト、One−Classサポートベクターマシン、部分空間法、Local Outlier Factor、統計的検定のうちのいずれかの手法で学習してもよい。
また、本発明に係る画像検査装置において、前記識別部は、前記特徴量算出部が出力した前記判定用画像の前記特徴量を入力する第2の特徴量入力部と、前記判定用画像の前記特徴量を入力として、前記識別演算教師なし学習部によって生成された前記識別器を用いて、前記検査対象の良否の判定を行う識別演算部とを備えていてもよい。
また、本発明に係る画像検査装置において、前記識別器学習部は前記識別演算教師なし学習部が有する調整パラメータの値を調整する識別器調整部をさらに備え、前記識別器調整部は、不良品を示す画像と良品を示す画像とが区別されている前記検査対象の画像から算出される特徴量に基づいて前記調整パラメータの値を調整してもよい。
また、本発明に係る画像検査装置において、前記識別器学習部は、前記特徴量学習部が出力した前記学習用画像の前記特徴量を入力する第1の特徴量入力部と、入力された前記学習用画像の前記特徴量に対応する前記学習用画像の良否を示す情報を入力する良否情報入力部と、前記学習用画像の前記特徴量および対応する前記学習用画像の前記良否を示す情報を入力として、教師あり学習により前記識別器を生成する識別演算教師あり学習部と、を備え、前記識別演算教師あり学習部は、サポートベクターマシン、ランダムフォレスト、ブースティングのうちのいずれかの手法で学習してもよい。
また、本発明に係る画像検査装置において、前記識別部は、前記特徴量算出部が出力した前記判定用画像の前記特徴量を入力する第2の特徴量入力部と、前記判定用画像の前記特徴量を入力として、前記識別演算教師あり学習部によって生成された前記識別器を用いて、前記検査対象の良否の判定を行う識別演算部とを備えていてもよい。
また、本発明に係る画像検査装置において、さらに前記学習用画像を取得する第1の画像取得部と、前記判定用画像を取得する第2の画像取得部とを有する画像取得部を備えていてもよい。
また、本発明に係る画像検査方法は、検査対象を含む学習用画像に基づいてニューラルネットワークの学習を行い、前記学習用画像の特徴量を出力する学習済みのニューラルネットワークを構築する特徴量学習ステップと、前記学習済みのニューラルネットワークが出力した前記学習用画像の前記特徴量に基づいて、前記検査対象の良否を判定する識別器を学習により生成する識別器学習ステップと、前記検査対象を含む判定用画像を前記学習済みのニューラルネットワークに入力し、前記判定用画像の特徴量を出力する特徴量算出ステップと、前記特徴量算出ステップで出力した前記判定用画像の前記特徴量を、前記識別器学習ステップで生成された前記識別器に入力して、前記検査対象の良否の判定を行う識別ステップとを備えることを特徴とする。
本発明によれば、検査対象の画像における特徴量を抽出する畳み込み層の学習と、検査対象の良否を判定する識別器の学習を別個に行うので、検査対象の不良品が無い、または少ない場合であっても、検査対象の画像の特徴量を自動で学習することができる。
図1は、本発明に係る画像検査装置の原理を説明する図である。 図2は、本発明の第1の実施の形態に係る画像検査装置の機能ブロック図である。 図3は、本発明の第1の実施の形態に係る特徴量学習部に用いられるニューラルネットワーク構造の一例を示す図である。 図4は、本発明の第1の実施の形態に係る特徴量学習部に用いられるニューラルネットワーク構造の別の例を示す図である。 図5は、本発明の第1の実施の形態に係る特徴量学習部および特徴量算出部の機能ブロック図である。 図6は、本発明の第1の実施の形態に係る識別器学習部および識別部の機能ブロック図である。 図7は、本発明の第1の実施の形態に係る画像検査装置のハードウェア構成を示すブロック図である。 図8は、本発明の第1の実施の形態に係る特徴量学習処理のフローチャートである。 図9は、本発明の第1の実施の形態に係る識別器教師なし学習処理のフローチャートである。 図10は、本発明の第1の実施の形態に係る特徴量算出処理のフローチャートである。 図11は、本発明の第1の実施の形態に係る判定出力処理のフローチャートである。 図12は、本発明の第2の実施の形態に係る画像検査装置の機能ブロック図である。 図13は、本発明の第2の実施の形態に係る識別器調整部による調整パラメータの調整を説明する図である。 図14は、本発明の第2の実施の形態に係るパラメータ調整処理のフローチャートである。 図15は、本発明の第3の実施の形態に係る識別器学習部および識別部の機能ブロック図である。 図16は、本発明の第3の実施の形態に係る識別器教師あり学習処理のフローチャートである。 図17は、従来の画像検査装置の動作の概要を説明するフローチャートである。 図18は、従来の画像検査装置に用いられる畳み込みニューラルネットによる深層学習モデルを示す図である。
[発明の原理]
図1は、本発明に係る画像検査装置の原理を説明する図である。本発明に係る画像検査装置は、検査対象の画像の特徴量を学習する畳み込み層と、検査対象の良否を判定する識別器とをそれぞれ分けて別々に学習させる。畳み込み層の学習においては、自己符号化器に基づいた教師なし学習を行う。識別器においては、検査対象の不良品が無い状況、または、検査対象の不良品が少ない状況であっても識別器を生成することができる学習手法が用いられる。
図1に示すように、従来技術による画像検査装置では、検査対象の画像の特徴量を抽出する畳み込み層と、検査対象の良否を判定する全結合層の組み合わせからなるニューラルネットワークを一体として学習していた。そのため、検査対象の画像における特徴量の学習には、一定数の不良品の画像が必要であった。
しかし、畳み込み層と全結合層との2つの部分を一体として学習することは必ずしも必要ではないといえる。まず、検査対象の画像の特徴量を抽出する畳み込み層の学習においては、検査対象の画像が良品を示す画像であるか不良品を示す画像であるかという区別は必ずしも必要でない。また、畳み込み層を全結合層から切り離して学習することは可能である。
畳み込み層のみの学習ができれば、検査対象の良否を判定する全結合層を、より適した識別器に置き換えて、識別器単独での学習を行うことも可能となる。また、この識別器の学習には、検査対象の不良品画像が無い場合や、ごく少ない場合であっても行うことができる手法が用いられる。
上記のような手法を用いれば、不良品が無い場合、または不良品の数が少ない場合でも、検査対象の画像の特徴量を自動で学習する画像検査装置を実現することができる。以下、本発明に係る画像検査装置に用いられる、画像の特徴量を抽出する畳み込み層と、検査対象の良否を判定する識別器のそれぞれについてより詳しく説明する。
特徴量を抽出する畳み込み層の学習については、自己符号化器(Auto Encoder)や変分自己符号化器(Variational Auto Encoder)、敵対的生成ネットワーク(Generative Adversarial Networks)といった手法を用いれば、検査対象の不良品画像が無い、または少ない状況であっても、教師なし学習により画像の特徴量を学習できる。特に、変分自己符号化器や敵対的生成ネットワークは、学習時に用いた画像に含まれていない画像を生成する能力があることが非特許文献2、3などに記載されており、未知の良品や不良品の画像にも適応できるという効果が期待できる。
検査対象の良否を判定する識別器は、従来技術で使われている全結合層からなるニューラルネットワーク以外にも様々な手法がある。その中には、本発明で想定している検査対象の不良品が無い、または不良品の数が少ない状況でも利用可能な手法もある。具体的には、混合正規分布モデルを用いた統計的検定、アイソレーションフォレスト、Local Outlier Factor(以下、「LOF」という。)、サポートベクターマシン(以下、「SVM」という。)、ランダムフォレスト、ブースティングといった手法である。
全結合層からなるニューラルネットワークは、良品および不良品の両方の画像を多く用いて学習する必要があるのに対し、上記の手法では、検査対象の良品画像だけ、または不良品画像の数がごく少ない状況でも、画像の特徴量を学習して識別器を構築できる。そのため、本発明で想定しているような、検査対象の不良品が無い、または少ない状況においても検査対象の画像検査を行うことができる。
以下、本発明の好適な実施の形態について、図2から図16を参照して詳細に説明する。各図について共通する構成要素には、同一の符号が付されている。
[第1の実施の形態]
図2は、本発明の第1の実施の形態に係る画像検査装置1の機能ブロック図である。第1の実施の形態では、検査対象の不良品画像が無い状況、またはあったとしても学習に用いる画像が良品と不良品とに区別されていない、すなわち、ラベル付けされていない状況を対象としている。
[画像検査装置全体の機能ブロック]
画像検査装置1は、撮像部2と、画像取得部3と、学習部4と、判定部5とを備える。画像検査装置1は、その機能を大きく分けると、検査対象である製品などの画像の特徴量を学習する学習部4と、学習後に、検査対象の良否を判定する判定部5とを含む。
撮像部2は、検査対象を含む画像を撮影する。撮像部2は、学習部4が学習を行う際に用いる、検査対象を含む学習用の画像(以下、「学習用画像」という。)、および判定部5が検査対象の良否の判定を行う際に用いる検査対象を含む判定用の画像(以下、「判定用画像」という。)を撮影する。なお、学習部4に用いられる画像の撮影条件と、判定部5に用いられる画像の撮影条件とは、できるだけ一致することが好ましい。これは、学習時と判定時とで撮影条件が大きく異なることで、正しい検査できなくなることを防止するためである。
画像取得部3は、撮像部2が撮影した画像を、例えば、ネットワーク通信などの電子的手段で取得する。
学習部4は、画像保存部41、特徴量学習部42、および識別器学習部43を備える。学習部4は、撮像部2によって撮影された検査対象である製品の多数の画像を学習し、判定部5が検査対象の良否を正しく判定できるように演算内容を決定する。
画像保存部41には、学習部4によって用いられる複数の学習用画像が保存される。
特徴量学習部42は、学習用画像に基づいてニューラルネットワークの学習を行い、検査対象の画像の特徴量を出力する学習済みのニューラルネットワークを構築する。また、特徴量学習部42は、学習用画像を学習済みのニューラルネットに入力して、学習用画像の特徴量を出力する。
特徴量学習部42は、検査対象の画像をより少ない情報の特徴量に圧縮するような演算を学習により獲得する。特徴量学習部42は、ニューラルネットワークの学習として自己符号化器に基づいた教師なし学習を行い、前述した畳み込み層による特徴量の学習を実現する。なお、特徴量学習部42の詳細は後述する。
識別器学習部43は、特徴量学習部42が出力した学習用画像の特徴量に基づいて、検査対象の良否を判定する識別器を学習により生成する。本実施の形態では、識別器学習部43は教師なし学習を行って識別器を学習する。学習によって生成された識別器は、後述する判定部5の識別部52で用いられる。なお、識別器学習部43および識別器の詳細は後述する。
判定部5は、特徴量算出部51と、識別部52と、出力部53とを備える。判定部5は、画像取得部3から送られた判定用画像に基づいて、検査対象の良否の判定を行う。
特徴量算出部51は、判定用画像を学習済みのニューラルネットワークに入力し、判定用画像の特徴量を出力する。なお、特徴量算出部51の詳細は後述する。
識別部52は、特徴量算出部51が出力した判定用画像の特徴量を、識別器学習部43によって生成された識別器に入力して、検査対象の良否の判定を行う。なお、識別部52についての詳細は後述する。
出力部53は、識別部52による判定結果を、例えば、表示画面に表示したり、検査対象の製品の製造装置に送る。出力部53により出力された判定結果は、不良品の選別などに利用される。
[特徴量学習部による自己符号化器を用いた学習]
学習部4に含まれる特徴量学習部42は、検査対象の画像をより少ない情報の特徴量に圧縮するような畳み込みニューラルネット演算を、学習によって獲得することを目的とする。この特徴量は、どのような情報で良いわけではなく、画像検査において検査対象の良否を判定する際に有用な情報でなければならない。
上記のような特徴量学習部42を実現するため、本実施の形態では、図3に示すような畳み込みニューラルネットワークを有する自己符号化器を利用する。そして、特徴量学習部42によって構築された畳み込みニューラルネットワークは、特徴量算出部51で判定用画像の特徴量を算出するために使われる。より詳細には、図3の破線で囲まれた部分に示す特徴量抽出器が構築され、特徴量算出部51において用いられる。
自己符号化器は、入力画像を、その入力画像の次元数と比べてより少数の次元を持つ潜在変数に変換し、そこから入力画像と同じ大きさの画像に復元する構造を持つ。自己符号化器では、図3に示すようなニューラルネットワークを学習するときに、入力画像と出力画像との差異ができるだけ小さくなるようにする。学習がうまくいき、元の画像に近い画像が出力されるような自己符号化器が生成できたとすると、それは画像が元の画像の次元数より少ない次元数の潜在変数で表現できることを意味する。
このような潜在変数は、画像検査において有力な特徴量となりうる。そして、本発明にとって重要なことは、この学習をする際に、検査対象の画像が良品の画像であるか不良品の画像であるかを区別する必要がないということである。これは、自己符号化器は、入力画像と出力画像とができるだけ同じになるように学習するからであり、画像が良品であるか不良品であるかを学習しているわけではないからである。このことが、本発明の利点である、検査対象の不良品が無い場合や、少ない場合でも、検査対象の画像の特徴量を自動で学習することにつながっている。
また、図4に示すように、自己符号化器に敵対的生成ネットワークの仕組みを追加することもできる。敵対的生成ネットワークは、生成器(以下、「Generator」という。)と呼ばれる画像を生成するニューラルネットワークと、識別器(以下、「Discriminator」という。)と呼ばれる、画像が実画像であるか、Generatorが生成した画像であるかを判別するニューラルネットワークとを有する。
図4では、Generatorとして、図3に示す畳み込みニューラルネットワークを有する自己符号化器を用いている。図4に示すように、Discriminatorは、実画像かどうかの判別をできるだけ間違えないようにしようと学習する。一方、GeneratorはDiscriminatorが実画像と誤判別するように学習する。この2つのニューラルネットワークを敵対的に競わせることで学習がうまく進み、Generatorが生成する画像の精度が上がれば、Generatorのうち特徴量抽出器となっている部分も優秀な特徴量抽出器になることが期待される。
また、変分自己符号化器も同様な仕組みを持った技術であり、同様な形で利用できる。なお、敵対的生成ネットワークも、変分自己符号化器も、学習に用いるデータにおいて良品と不良品とを区別する必要はない。
[識別器学習部による学習と識別器の生成]
検査対象の不良品画像が無く、良品画像だけが十分な数確保できている場合、教師なし学習と呼ばれる手法により識別器を生成することができる。例えば、良品画像における特徴量の分布を、混合正規分布モデルで推定した上で統計的検定を用いれば、その分布から外れたものを不良品の画像とする識別器を生成できる。
また、部分空間法を用いることでも、良品の画像における特徴量の分布を学習し、その分布から外れたものを不良品とする識別器を生成できる。また、1クラスSVM(One−Class SVM)のように、全ての良品の画像から十分遠い位置に疑似的な不良品のデータを生成して、識別器を生成する手段もある。
一方、検査対象の不良品画像が確保できても、学習用の画像に良否を示すラベルが付与されていない場合についても、教師なし学習により識別器を生成する手段がある。例えば、アイソレーションフォレストのように、学習用の画像を多数のグループに分類し、少数の画像で構成されるグループに属するものを不良品とする識別器がある。また、LOFのように、学習用の画像間の距離を評価し、他の学習用の画像との距離が大きいものを不良品とするような識別器がある。
[特徴量学習部および特徴量算出部の機能ブロック]
図5は、特徴量学習部42および特徴量算出部51の機能ブロック図である。前述したように、特徴量学習部42は、検査対象の画像をより少ない情報の特徴量に圧縮するような畳み込みニューラルネットワークを有する自己符号化器を、学習によって構築する。特徴量算出部51は、特徴量学習部42によって構築された学習済みの畳み込みニューラルネットワークを用いて、判定用画像の特徴量を算出する。
図5に示すように、特徴量学習部42は、入力画像記憶部421、前処理部422、畳み込みニューラルネット演算部(以下、「畳み込みNN演算部」という。)423、特徴量記憶部424、逆畳み込みニューラルネット演算部(以下、「逆畳み込みNN演算部」という。)425、出力画像記憶部426、特徴量算出設定記憶部427、画像差異算出部428、特徴量算出設定更新部429、および特徴量出力部430を備える。
特徴量算出部51は、入力画像記憶部511、前処理部512、畳み込みNN演算部513、特徴量算出設定記憶部514、および特徴量出力部515を備える。
まず、特徴量学習部42が備える各機能ブロックについて説明する。
入力画像記憶部421には、特徴量学習部42が実行する学習において必要となる多数の学習用画像が入力画像として記憶される。
前処理部422は、入力画像記憶部421に記憶されている学習用画像を調整する。前処理部422は省略することも可能であるが、実際には、前処理部422を設けて、画像の輝度の正規化など、画像の前処理を行うことが好ましい。なお、前処理部422による画像の前処理については、一般に知られている公知の技術を用いればよい。
畳み込みNN演算部423は、図3および図4で示した特徴量抽出器に対応する。畳み込みNN演算部423は、学習用画像(入力画像)を入力として、学習用画像(入力画像)の特徴量を出力する。より詳細には、畳み込みNN演算部423は、入力画像に対し、後述する特徴量算出設定記憶部427に記憶されているパラメータの値を用いて、畳み込み演算を中心とした演算を行い、入力画像の特徴量を出力する。この演算は通常、複数段で構成される。一段分(一回)の演算を行うと、入力された画像やデータのピクセル数よりも少ないデータが出力される。
畳み込みNN演算部423は、このような畳み込み演算を複数回繰り返すことで、元の入力画像を、そのピクセル数よりも少ないピクセル数を示す潜在変数に変換する。この潜在変数が、検査対象の画像の特徴を定量化した特徴量として求められる。
また、畳み込みNN演算部423は、後述する特徴量算出設定更新部429により更新されたパラメータの値を用いて、画像保存部41に保存されている全ての学習用画像の特徴量を算出する。
なお、畳み込みNN演算部423による畳み込みニューラルネットワークの演算と設計においては、特許文献2、3などに記載されている公知の技術を用いればよい。また、公知の畳み込みニューラルネットワークの演算と設計に利用されるソフトウェアフレームワークについても複数知られており、それらを用いればよい。
なお、一般的な畳み込みニューラルネットワークで用いられるプーリング(間引き)は、ストライド付きの畳み込みに置き換えることで性能が向上することが非特許文献4に記載されている。そのため、畳み込みNN演算部423においても、ストライド付きの畳み込みを行うことが好ましい。畳み込みNN演算部423により算出された入力画像の特徴量は、後述する特徴量記憶部424に一時的に記憶される。
特徴量記憶部424は、畳み込みNN演算部423から出力された入力画像の特徴量を一時的に記憶する。また、特徴量記憶部424に記憶された入力画像の特徴量は、後述する逆畳み込みNN演算部425によって利用される。
逆畳み込みNN演算部425は、畳み込みNN演算部423が出力した入力画像の特徴量を入力として、入力画像と同一の大きさの画像を出力する。より詳細には、逆畳み込みNN演算部425は、特徴量算出設定記憶部427に記憶されているニューラルネットワークのパラメータの値を用いて、畳み込みNN演算部423による畳み込みニューラルネットワーク演算と逆の演算を行う。逆畳み込みNN演算部425は、逆畳み込みニューラルネットワーク演算を複数回行い、画像の特徴量が入力画像記憶部421に記憶されていた画像と同じサイズの画像になるまで演算を行う。
なお、逆畳み込みNN演算部425を構成する逆畳み込みニューラルネットワークには、畳み込みNN演算部423を構成する畳み込みニューラルネットワークを転置したネットワーク構造を用いればよい。また、逆畳み込みNN演算部423による逆畳み込みニューラルネットワーク演算については、例えば、非特許文献2に記載されている公知の演算手法や、前述した公知のソフトウェアフレームワークを用いればよい。逆畳み込みNN演算部423による逆畳み込みニューラルネットワークの最後の段の演算結果は、後述する出力画像記憶部246に記憶される。
出力画像記憶部426は、逆畳み込みNN演算部425から出力される演算結果を出力画像として記憶する。
特徴量算出設定記憶部427は、畳み込みNN演算部423および逆畳み込みNN演算部425によって用いられる畳み込みニューラルネットワークおよび逆畳み込みニューラルネットワークのパラメータの値を記憶する。より詳細には、特徴量算出設定記憶部427は、初期設定されたパラメータの値や、後述する特徴量算出設定更新部429によって更新されたパラメータの値を記憶する。
画像差異算出部428は、入力画像記憶部421に記憶されている入力画像(学習用画像)と、その入力画像に対応する、出力画像記憶部426に記憶されている出力画像との差異を算出する。
特徴量算出設定更新部429は、特徴量算出設定記憶部427が記憶している、畳み込みNN演算部423によって用いられる畳み込みニューラルネットワークおよび逆畳み込みNN演算部425によって用いられる逆畳み込みニューラルネットワークのパラメータの値を更新する。なお、ネットワークとして敵対的生成ネットワークを用いる場合には、Discriminatorの判別結果をもとに、ニューラルネットワークのパラメータの値を更新する。
なお、ニューラルネットワークにおけるパラメータの値の更新方法については、逆誤差伝搬法(バックプロパゲーション)など公知の方法を用いればよい。また、特徴量算出設定更新部429によるニューラルネットワークのパラメータの更新は、学習対象となる入力画像が1枚入力される度に行ってもよく、ある程度まとまった枚数が蓄積されてから行ってもよい。
特徴量出力部430は、畳み込みNN演算部423から出力される畳み込みニューラルネットワーク演算による演算結果を出力する。より詳細には、特徴量出力部430は、畳み込みNN演算部423が後述する更新されたパラメータの値を用いて演算した、すべての学習用画像に対応する特徴量を出力する。
次に、特徴量算出部51が備える各機能ブロックを説明する。特徴量算出部51は、画像取得部3によって取得された、判定用画像の特徴量を算出する。
入力画像記憶部511は、撮像部2によって撮影され、画像取得部3によって取得された判定用画像を記憶する。
前処理部512は、特徴量学習部42が有する前処理部422と同様の機能を有し、入力画像記憶部511に記憶されている判定用画像の前処理を必要に応じて行う。前処理部512は、判定用画像を前処理し、良否判定がしやすいように加工する。なお、特徴量学習部42が有する前処理部422と同様に、前処理部512は省略してもよいが、前処理部512を設けることで特徴量算出部51における判定精度の向上を図ることができる場合がある。
畳み込みNN演算部513は、特徴量学習部42が有する畳み込みNN演算部423と同じ構成を有する。また、畳み込みNN演算部513は、特徴量算出設定記憶部514に保存されている畳み込みニューラルネットワークのパラメータの更新値に従って、判定用画像を入力として、判定用画像の特徴量を出力する。なお、畳み込みNN演算部513は、特徴量学習部42の学習処理が完了したときの畳み込みNN演算部423と同じ演算を行う。
特徴量算出設定記憶部514には、特徴量学習部42で値が更新された畳み込みNN演算部423における畳み込みニューラルネットワークのパラメータの値が記憶されている。より詳細には、特徴量算出設定記憶部427から、畳み込みニューラルネットワークのパラメータの更新値が転送される。
特徴量出力部515は、畳み込みNN演算部513による畳み込みニューラルネット演算の結果として判定用画像の特徴量を出力する。なお、特徴量出力部515から出力される判定用画像の特徴量は、識別部52に入力される。
[識別器学習部および識別部の機能ブロック]
図6は、識別器学習部43および識別部52の機能ブロック図である。識別器学習部43は、特徴量入力部431、次元低減部432、および識別演算教師なし学習部433を備える。また、識別部52は、特徴量入力部521、次元低減部522、および識別演算部523を備える。前述したように、識別器学習部43によって生成される識別器は、識別部52で用いられ、検査対象の良否を判定する。
まず、識別器学習部43が備える各機能ブロックを説明する。
特徴量入力部431には、特徴量学習部42の特徴量出力部430から出力される学習用画像の特徴量が入力される。より詳細には、特徴量入力部431は、特徴量学習部42の学習処理が完了した後に、画像保存部41に保存されている学習用画像について算出された特徴量を一括して受信する。
次元低減部432は、特徴量入力部431に入力される、学習用画像における特徴量の情報量をできるだけ落とさないようにしつつ、画像の特徴量の次元を減らす演算を行う。次元低減部432は、例えば、主成分分析など公知の手法を用いて、画像の特徴量の次元を、より少ない次元に圧縮する。
次元低減部432を設ける理由としては、以下の理由が挙げられる。通常、特徴量入力部431に入力される、学習用画像の特徴量は、1つの画像につき複数存在する。そのため、入力される画像の特徴量の数が多い場合、そのままでは識別部52で識別器を生成できない場合や、生成に必要な計算量が非常に多くなる場合がある。
そこで、次元低減部432を設けることにより、数学的な空間の次元の増加にしたがい計算コストが指数関数的に増加する、いわゆる「次元の呪い」と呼ばれる問題を回避することができる。なお、特徴量学習部42の畳み込みNN演算部423が出力する画像の特徴量の次元が十分低い場合には、次元低減部432を省略してもよい。
識別演算教師なし学習部433は、特徴量入力部431および次元低減部432を介して入力される学習用画像の特徴量を入力として、公知の教師なし学習手法により検査対象の良否の判定を行う識別器を生成する。識別演算教師なし学習部433により生成された識別器は、判定部5の識別部52に含まれる、後述する識別演算部523で用いられる。
識別演算教師なし学習部433は、公知の教師なし学習手法として、例えば、アイソレーションフォレスト、One−Class SVM、部分空間法、LOFなどの手法を用いればよい。なお、アイソレーションフォレストの例としては、非特許文献5に記載されている手法を用いればよい。部分空間法の例としては、非特許文献6に記載されている手法を用いればよい。LOFの例としては、非特許文献7に記載されている手法を用いればよい。
次に、識別部52が有する各機能ブロックについて説明する。
特徴量入力部521は、識別器学習部43が有する特徴量入力部431と同様の機能および構成を有する。すなわち、特徴量入力部521には、特徴量算出部51の特徴量出力部515から出力される、判定用画像の特徴量が入力される。
次元低減部522は、識別器学習部43が有する次元低減部432と同様の機能および構成を有する。なお、識別器学習部43の次元低減部432と、識別部52の次元低減部522とで、完全に同一の計算方法を用いる必要がある。
識別演算部523は、特徴量入力部521および次元低減部522を介して入力される判定用画像の特徴量を入力として、識別器学習部43の識別演算教師なし学習部433によって生成された識別器を用いて、検査対象の良否の判定を行う。識別演算部523による判定結果は、出力部53から出力される。
[画像検査装置のハードウェア構成]
図7は、本実施の形態に係る画像検査装置1のハードウェア構成を示すブロック図である。画像検査装置100は、バス101を介して接続される制御部102、通信制御装置105、撮像装置106、記憶装置107、および表示装置108を備えるコンピュータと、これらのハードウェア資源を制御するプログラムによって実現することができる。
制御部102は、CPU103と主記憶部104とを備えている。主記憶部104には、CPU103が各種制御や演算を行うためのプログラムが予め格納されている。制御部102によって、図2で示した学習部4、および判定部5などの画像検査装置1の機能が実現される。
通信制御装置105は、画像検査装置100と各種外部電子機器との間をネットワーク接続するための制御装置である。
撮像装置106は、光信号を画像信号に変換して、静止画像を生成することができる。より詳細には、撮像装置106は、CCD(電荷結合素子:Charge−Coupled Device)イメージセンサや、CMOSイメージセンサなどの撮像素子を有し、撮像領域から入射する光を受光面に結像して、電気信号に変換する。
記憶装置107は、読み書き可能な記憶媒体と、その記憶媒体に対してプログラムやデータなどの各種情報を読み書きするための駆動装置とで構成されている。記憶装置107には、記憶媒体としてフラッシュメモリなどの半導体メモリやハードディスクを使用することができる。記憶装置107は、画像保存部107a、入力画像記憶部107b、特徴量算出設定記憶部107c、特徴量記憶部107d、出力画像記憶部107e、プログラム格納部107f、図示しないその他の格納装置で、例えば、この記憶装置107内に格納されているプログラムやデータなどをバックアップするための格納装置などを有することができる。
画像保存部107aは、学習部4が有する画像保存部41として機能し、学習用画像を保存する。
入力画像記憶部107bは、特徴量学習部42の入力画像記憶部421、および特徴量算出部51の入力画像記憶部511として機能する。
特徴量算出設定記憶部107cは、特徴量学習部42の特徴量算出設定記憶部427として機能し、ニューラルネットワークのパラメータの値を記憶する。
特徴量記憶部107dは、特徴量学習部42の特徴量記憶部424として機能し、特徴量学習部42において算出された学習用画像(入力画像)の特徴量を記憶する。
出力画像記憶部107eは、特徴量学習部42の出力画像記憶部426として機能し、逆畳み込みNN演算部425の演算結果の出力画像を記憶する。
プログラム格納部107fには、本実施の形態における学習部4による学習処理や、判定部5による判定処理などの画像検査に必要な処理を実行するための各種プログラムが格納されている。
表示装置108は、画像検査装置1の出力部53として機能する。表示装置108は、液晶ディスプレイなどにより実現される。
[画像処理装置の動作]
次に、本実施の形態に係る画像検査装置1の動作を説明する。なお、以下において、学習部4による学習処理と、判定部5による判定処理とに分けて説明する。また、学習処理においては、特徴量学習部42による特徴量学習処理と、識別器学習部43による識別器教師なし学習処理とに分けて説明する。判定処理においては、特徴量算出部51による特徴量算出処理と、識別部52による判定出力処理とに分けて説明する。
[特徴量学習処理]
まず、特徴量学習部42による特徴量学習処理について、図8のフローチャートを参照して説明する。まず、撮像部2によって、検査対象が含まれている学習用画像が撮影される(ステップS100)。画像取得部3は、撮影された画像を取得する。取得された学習用画像は、画像保存部41に保存される。入力画像記憶部421は、画像取得部3によって取得された学習用画像を画像保存部41から読み出して記憶する(ステップS101)。
次に、畳み込みNN演算部423は、入力画像記憶部421に記憶されている学習用画像を入力画像として、畳み込みニューラルネットワーク演算を複数回行い、入力画像の特徴量を出力する(ステップS102)。より詳細には、畳み込みNN演算部423は、特徴量算出設定記憶部427に記憶されているパラメータの値を用いて演算を行う。なお、畳み込みNN演算部423に入力される入力画像(学習用画像)については、予め前処理部422において輝度の正規化などの前処理を行ってもよい。
畳み込みNN演算部423から出力された入力画像の特徴量は、特徴量記憶部424に記憶される(ステップS103)。次に、逆畳み込みNN演算部425は、特徴量記憶部424に記憶されている入力画像の特徴量を入力として、逆畳み込みニューラルネットワーク演算を実行する(ステップS104)。
より詳細には、逆畳み込みNN演算部425は、特徴量算出設定記憶部427に記憶されているパラメータの値を用いて、畳み込みNN演算部423による畳み込みニューラルネットワーク演算と逆の演算を複数回行う。
また、逆畳み込みNN演算部425は、算出される特徴量が、入力画像記憶部421に記憶されていた入力画像と同じサイズの画像になるまで演算を行う。逆畳み込みNN演算部425により復元された画像は出力画像として出力画像記憶部426に記憶される。
次に、画像差異算出部428は、入力画像記憶部421に保存されていた入力画像と、この入力画像に対応する出力画像記憶部426に記憶されている出力画像との差異を算出する(ステップS105)。
次に、画像差異算出部428により算出された入力画像と出力画像との差異が十分小さくなっていない場合には(ステップS106:NO)、特徴量算出設定更新部429は、特徴量算出設定記憶部427に記憶されている畳み込みニューラルネットワークのパラメータの値を更新する(ステップS107)。特徴量算出設定更新部429は、例えば、バックプロパゲーションなど公知の手法を用いて畳み込みニューラルネットワークのパラメータの値を更新すればよい。
更新された畳み込みニューラルネットワークのパラメータの値は、特徴量算出設定記憶部427に上書きして記憶される。その後、畳み込みNN演算部423は、更新されたパラメータの値を用いて再び畳み込みニューラルネットワーク演算を行う(ステップS102)。その後、演算結果を入力画像(学習用画像)の特徴量として記憶する(ステップS103)。そして、逆畳み込みNN演算部425は逆畳み込みニューラルネット演算を行い、画像を復元して出力画像を求め、出力画像記憶部426に記憶する(ステップS104)。
次に、画像差異算出部428は、再び入力画像と出力画像との差異を算出し(ステップS105)、差異が十分に小さい場合には(ステップS106:YES)、畳み込みNN演算部423において直近に設定されているパラメータの値を、特徴量学習部42の特徴量算出設定記憶部427から特徴量算出部51の特徴量算出設定記憶部514へ転送する(ステップS108)。
なお、特徴量学習部42は、ステップS102からステップS107までの処理を何度か繰り返し実行する。入力画像と出力画像との差が十分に小さいときの畳み込みNN演算部423は、図3および図4で説明した特徴量抽出器(学習済みの畳み込みニューラルネットワーク)として機能する。
また、本実施の形態では、特徴量学習部42が、上述したステップS102からステップS107までの処理を、画像が1枚入力される毎に行う場合について説明したが、[0078]で説明したように、画像がある程度まとまった枚数蓄積される毎にこれらの処理を行うことも可能である。
次に、畳み込みNN演算部423は、画像保存部41に保存されている、すべての学習用画像について特徴量を算出し、特徴量出力部430へ出力する(ステップS109)。
以上説明したように、特徴量学習部42は、学習用画像を入力画像として、畳み込みニューラルネットワークの学習を行ってパラメータの値を更新し、特徴量抽出器(学習済みの畳み込みニューラルネットワーク)を生成する。そして、特徴量学習部42は、学習により生成した特徴量抽出器を用いて、学習用画像の特徴量を算出する。
[識別器教師なし学習処理]
次に、識別器学習部43による識別器の教師なし学習処理について、図9のフローチャートを参照して説明する。まず、特徴量入力部431は、特徴量学習部42の特徴量出力部430から送信された学習用画像の特徴量を受信する(ステップS110)。
次に、次元低減部432は、受信した画像の特徴量の情報量を落とさないようにしつつ、次元を減らす演算を行う(ステップS111)。次元低減部432は、例えば、主成分分析など公知の手法を用いて、受信した画像をより少ない次元の特徴量に圧縮する。
次に、識別演算教師なし学習部433は、次元低減部432によって次元圧縮された学習用画像の特徴量をもとに、教師なし学習を行い(ステップS112)、識別器を生成する(ステップS113)。より詳細には、識別演算教師なし学習部433は、例えば、アイソレーションフォレスト、One−Class SVM、部分空間法、LOFなど公知の教師なし学習手法を用いて、検査対象が良品の範囲内か否かを判定する識別器を生成する。
なお、識別演算教師なし学習部433による学習によって生成された識別器は、判定部5の識別部52が有する識別演算部523で用いられる。
以上説明したように、識別器学習部43は、学習用画像の特徴量に基づいて教師なし学習を行い、識別器を生成する。
[特徴量算出処理]
次に、判定部5が有する特徴量算出部51による特徴量算出処理について、図10のフローチャートを参照して説明する。まず、画像取得部3から受信された判定用画像は、入力画像記憶部511に記憶される(ステップS114)。
次に、畳み込みNN演算部513は、特徴量算出設定記憶部514に記憶されている、学習済みの畳み込みニューラルネットワークのパラメータの値を読み出す(ステップS115)。その後、畳み込みNN演算部513は、読み出したパラメータの値を用い、入力画像記憶部511に記憶されている判定用画像を入力として、畳み込みニューラルネットワーク演算を行う(ステップS116)。なお、畳み込みNN演算部513は、学習部4の畳み込みNN演算部423と同じ構成を有する。
次に、畳み込みNN演算部513による演算結果は、判定用画像の特徴量として特徴量出力部515から出力される(ステップS117)。なお、特徴量出力部515から出力される、判定用画像の特徴量は、識別部52に入力される。
以上説明したように、特徴量算出部51は、特徴量学習部42による特徴量学習処理で得られた学習済みの畳み込みニューラルネットワークのパラメータの値を用いて、判定用画像の特徴量を算出する。
[判定出力処理]
次に、判定部5が有する識別部52および出力部53による判定出力処理について、図11のフローチャートを参照して説明する。まず、識別部52の特徴量入力部521には、判定部5が有する特徴量算出部51の特徴量出力部515から出力される、判定用画像の特徴量が入力される(ステップS118)。
次に、次元低減部522は、入力された特徴量の次元圧縮を行う(ステップS119)。その後、識別演算部523は、次元低減部522から出力される次元圧縮された判定用画像における特徴量を入力として、識別器学習部43の識別演算教師なし学習部433による学習処理で生成された識別器を用いて、検査対象の良否を判定する(ステップS120)。
そして、識別演算部523による判定結果は、出力部53から出力される(ステップS121)。より詳細には、出力部53は、例えば、液晶ディスプレイなどの表示画面に判定結果を表示したり、検査対象の製品を製造する装置に判定結果を送信する。このように、検査対象の良否についての判定結果が出力部53から出力されることによって、不良品の選別などに利用される。
このように、識別部52は、識別器学習部43が学習処理で生成した識別器を用いて、検査対象の良否の判定を行う。そして、出力部53は、識別部52による判定結果を出力する。
以上説明したように、第1の実施の形態によれば、画像検査装置1は、画像の特徴量の抽出を行う畳み込み層の教師なし学習と、検査対象の良否の判定を行う識別器を生成する教師なし学習とを別個に行う。これにより、検査対象の不良品画像が無い場合、または、学習用画像において良否が区別されていない場合であっても、検査対象の画像の特徴量を自動で学習することができる画像検査装置が得られる。
[第2の実施の形態]
次に、本発明の第2の実施の形態について説明する。なお、以下の説明では、上述した第1の実施の形態と同じ構成については同一の符号を付し、その説明を省略する。
第1の実施の形態では、識別器学習部43は、アイソレーションフォレスト、One−Class SVM、部分空間法、LOFなどの公知の教師なし学習手法を用いて識別器を学習し、検査対象の良否を判定する識別器を生成する場合について説明した。第2の実施の形態は、教師なし学習により識別器を生成する点では第1の実施の形態と共通する。
しかし、第2の実施の形態では、画像検査装置1Aは、学習部4Aに識別器調整部44をさらに備える点で第1の実施の形態とは異なる。また、第2の実施の形態では、学習用の検査対象の不良品画像がごく少量存在し、それらが良品と区別されてラベル付けされてある状況を想定している。
[識別器の調整パラメータ]
第1の実施の形態で説明した上記の各種識別器は、通常、検査対象の良否の判定に関わるパラメータ(以下、「調整パラメータ」という。)を持っている。例えば、統計的検定を用いた手法では、有意水準を変えると良品と不良品との境界が変わる。第1の実施の形態で挙げた手法による識別器も、そのような調整パラメータを有する。図13の矢印に示すように、識別器の調整パラメータを調整することで良品と不良品との境界を調整することができる。なお、図13において、「白丸」は検査対象の良品画像の特徴量を示す。また、「バツ」は、検査対象の不良品画像の特徴量を示す。
教師なし学習ではこのような調整パラメータの調整が重要となる。図13の右側の破線に示す、良品側に近い方に境界を設定すれば、実際には不良品だった検査対象を良品と誤判定して見逃すこと(以下、「見逃し」という。)は減るが、実際には良品だった検査対象を不良品と過剰に判定すること(以下、「過剰判定」という。)が増える。一方、図13の左側の破線に示す、不良品側に近い方に境界を設定すれば、このような過剰判定は減るが、本当の不良品を見逃すリスクは増える。
識別器が有する調整パラメータを最適な値に調整することは重要であるが、その調整は困難な場合もある。しかし、不良品と確実にわかっている画像がごく少数でも存在する場合、不良品画像が全く無い場合と比較して、調整パラメータの調整が容易となる。例えば、図13に示すような特徴量の分布状況であれば、真ん中の実線で示す位置に、良品と不良品との境界を設定すれば、少なくともこれまで収集した画像データについては不良品の見逃しは無く、過剰判定も少量に抑えられることがわかる。
[画像検査装置の機能ブロック]
次に、第2の実施の形態に係る画像検査装置1Aの機能ブロックについて、図12を参照して説明する。以下、第1の実施の形態と異なる構成要素である識別器学習部43および識別器調整部44を中心に説明する。
識別器学習部43は、学習を行って生成する識別器における良否判定の精度に関わる調整パラメータが、識別器調整部44から与えられるようになっている。識別器学習部43は、識別器調整部44から与えられた調整パラメータの値を用いて識別器を生成する。
識別器調整部44は、識別器の調整パラメータを調整して、検査対象における不良品を見逃す恐れと、良品を不良品と過剰判定する恐れとのバランスを図る。例えば、識別器調整部44は、不良品の見逃しは極力避けつつ、良品を不良品と過剰判定する割合が、あるしきい値以下になるように調整してもよい。識別器調整部44によって調整された識別器の調整パラメータの値は、識別器学習部43に入力される。
[パラメータ調整処理]
次に、識別器の調整パラメータを調整するパラメータ調整処理について、図14のフローチャートを参照して説明する。まず、識別器調整部44は、識別器の調整パラメータを所定の値に設定する(ステップS200)。識別器調整部44は、設定した調整パラメータの値を識別器学習部43に入力する。そして、識別演算教師なし学習部433は、設定された調整パラメータの値で識別器を調整する。
次に、特徴量学習部42(畳み込みNN演算部423)によって算出された学習用画像の特徴量が、識別器学習部43の特徴量入力部431に入力される(ステップS200)。なお、必要に応じて、次元低減部432は学習用画像の特徴量の次元圧縮を行う。
次に、識別器学習部43の識別演算教師なし学習部433は、調整パラメータが調整された識別器に、学習用画像の特徴量を入力して、検査対象の良否の判定を行う(ステップS202)。その後、識別演算教師なし学習部433は、検査対象の良否の判定結果と、実際の良品および不良品の区別を照合し、実際には不良品だった検査対象を良品と判定した場合(見逃し)の有無と、実際には良品だった検査対象を不良品と判定した場合(過剰判定)との比率を算出する(ステップS203)。
識別演算教師なし学習部433は、見逃しがなく(ステップS204:YES)、かつ、過剰判定比率がしきい値以下(ステップS205:YES)で受容範囲内と判定した場合には、使用している調整パラメータの値を記憶する(ステップS206)。その後、判定部5の識別部52が、調整後の調整パラメータの値で設定された識別器を用いる。
一方、見逃しがあり(ステップS204:NO)、かつ、過剰判定比率がしきい値以下(ステップS207:YES)である場合には、識別器調整部44は、図13で説明したように、良品と判定される割合が少なくなる方向に調整パラメータの値を変更する(ステップS208)。その後、ステップS201からステップS203までの処理を再度実行し、見逃しがなく(ステップS204:YES)、過剰判定比率がしきい値以下(ステップS205:YES)となるまで調整パラメータの値の変更を繰り返す。
また、見逃しがなく(ステップS204:YES)、かつ、過剰判定比率がしきい値以上(ステップS205:NO)である場合には、識別器調整部44は、図13で説明したように、良品と判定される割合が多くなる方向に調整パラメータの値を変更する(ステップS209)。その後、ステップS201からステップS203までの処理を再度実行し、見逃しがなく(ステップS204:YES)、過剰判定の比率がしきい値以下(ステップS205:YES)となるまで調整パラメータの値の変更を繰り返す。
また、見逃しがあり(ステップS204:NO)、かつ、過剰判定比率がしきい値以上(ステップS207:NO)である場合には、その調整パラメータについては、どのように調整しても、見逃しがなく、かつ、過剰判定比率がしきい値以下となるような目標の値を得ることが困難であることを意味する。
この場合において、識別器に別の調整パラメータが存在する場合には、その別の調整パラメータを利用し、再度、パラメータ調整処理を行ってもよい。なお、識別器調整部44によって別の調整パラメータが調整されても、識別器における良否判定が改善しない場合には、特徴量学習部42において、検査対象の画像における特徴量の学習をやり直すことを検討してもよい。
上記のように、識別器調整部44によって、調整パラメータが調整されて得られた識別器は、判定部5が有する識別部52の識別演算部523で用いられる。そして、識別演算部523は、調整パラメータの値が調整された識別器を用いて検査対象の良否の判定を行う。
以上説明したように、第2の実施の形態によれば、識別器調整部44が、識別器における調整パラメータを調整し、検査対象における不良品を見逃す恐れと、良品を不良品と過剰判定する恐れとのバランスを図る。これにより、画像検査装置1Aの調整をより容易に行うことができる。また、画像検査装置1Aの良否判定の精度をより向上させることが可能となる。
[第3の実施の形態]
次に、本発明の第3の実施の形態について説明する。なお、以下の説明では、上述した第1および第2の実施の形態と同じ構成については同一の符号を付し、その説明を省略する。
第1および第2の実施の形態では、識別器の学習に、教師なし学習を用いる場合について説明した。これに対し、第3の実施の形態では、識別器学習部43Aは、識別演算教師あり学習部435を有し、教師あり学習により識別器を生成する点で第1および第2の実施の形態とは異なる。なお、第3の実施の形態は、第2の実施の形態と同様、学習用の検査対象の不良品画像がごく少量存在し、それらが良品画像とは区別されて、ラベル付けされている状況を想定している。
[教師あり学習による識別器の生成]
検査対象の画像の良否を示すラベルが付与された少数の不良品の画像と、良品の画像が確保できていれば、SVM、ランダムフォレストや、ブースティングのような教師あり学習により、少量の学習用の画像サンプルからロバストな識別器が生成できる。
例えば、SVMは、識別に関与する最小限のデータのみを用い、なるべく識別境界周辺に余白が生成されるような識別器を生成する。このため、未知のデータに対しても安定した識別結果を得ることができる。
ランダムフォレストは多数の子識別器を組み合わせた識別器であるが、これらの子識別器として決定木を利用しているため、少数のサンプルも矮小化せず正しく識別することができる。
ブースティングも多数の子識別器を組み合わせた識別器であるが、学習用の各画像に重みを付与できるという特徴も持つため、少量の不良品の画像に大きな重みを与えることにより、少量の不良品の画像に対しても安定した識別を行うことが期待できる。
[識別器学習部および識別部の機能ブロック]
図15は、識別器学習部43Aおよび識別部52の機能ブロック図である。
識別器学習部43Aは、特徴量入力部431、次元低減部432、良否情報入力部434、および識別演算教師あり学習部435を備える。
良否情報入力部434は、特徴量入力部431に入力された学習用画像の特徴量に対応する検査対象の画像の良否を示す情報を入力する。
識別演算教師あり学習部435は、学習用画像の特徴量と、その特徴量の元となった学習用画像が、良品を示す画像か、不良品を示す画像かの情報とを入力として、公知の教師あり学習手法により識別器を生成する。
識別演算教師あり学習部435が用いる公知の教師あり学習手法としては、例えば、非特許文献8に記載されているSVM、非特許文献9に記載されているランダムフォレスト、非特許文献10に記載されているブースティングなどがある。
識別演算教師あり学習部435で生成された識別器は、識別部52の識別演算部523で用いられる。そして、識別演算部523は、判定用画像の特徴量を入力として、教師あり学習で生成された識別器を用いて検査対象の良否の判定を行う。
[識別器教師あり学習処理]
次に、識別器教師あり学習処理について、図16のフローチャートを参照して説明する。まず、識別器学習部43Aの特徴量入力部431は、特徴量学習部42の畳み込みNN演算部423による演算結果で得られた学習用の検査対象の画像における特徴量を、特徴量出力部430から受信する(ステップS300)。
次に、次元低減部432は、特徴量入力部431が受信した学習用画像の特徴量の次元圧縮を行う(ステップS301)。その後、識別演算教師あり学習部435は、次元圧縮された学習用画像の特徴量と、良否情報入力部434を介して入力される、対応する学習用画像の良否を示す情報とを入力として、教師あり学習を行って識別器を学習する(ステップS302)。
識別演算教師あり学習部435は、例えば、SVMなどの公知の教師あり学習手法を用いて識別器を学習する。そして、識別演算教師あり学習部435は、検査対象の良否を判定する識別器を生成する(ステップS303)。
生成された識別器は、判定部5が有する識別部52の識別演算部523で用いられる。識別演算部523は、教師あり学習で生成された識別器を用いて、判定用画像の特徴量を入力として、検査対象の良否の判定を行う。そして、出力部53は、判定結果を液晶ディスプレイなどの表示画面に表示する。
以上説明したように、第3の実施の形態によれば、教師あり学習を行って識別器を生成するため、検査対象の不良品画像が少数しか無い場合であっても、検査対象の良否をより正しく判定できる識別器を学習して生成することができる。
以上、本発明の画像検査装置および画像検査方法における実施の形態について説明したが、本発明は説明した実施の形態に限定されるものではなく、請求項に記載した発明の範囲において当業者が想定し得る各種の変形を行うことが可能である。
例えば、説明した実施の形態では、撮像部2および画像取得部3は、学習部4と判定部5とで共有している場合について説明したが、学習部4と判定部5とはそれぞれ独立して撮像部2および画像取得部3を有していてもよい。
また、説明した実施の形態では、学習部4と判定部5とは同一の計算機に実装されている場合について説明したが、学習部4と判定部5とはそれぞれ別々の計算機に実装されていてもよい。
1、1A、100…画像検査装置、2…撮像部、3…画像取得部、4…学習部、5…判定部、41…画像保存部、42…特徴量学習部、43…識別器学習部、51…特徴量算出部、52…識別部、53…出力部、101…バス、102…制御部、103…CPU、104…主記憶部、105…通信制御装置、106…撮像装置、107…記憶装置、108…表示装置。

Claims (10)

  1. 検査対象の良否を画像によって検査する画像検査装置であって、
    前記検査対象を含む学習用画像に基づいてニューラルネットワークの学習を行い、前記学習用画像を復元できる特徴量を出力する学習済みのニューラルネットワークを構築する特徴量学習部と、
    前記特徴量学習部の学習完了後、前記学習済みのニューラルネットワークが出力した前記学習用画像の前記特徴量に基づいて、前記検査対象の良否を判定する識別器を学習により生成する識別器学習部と、
    前記検査対象を含む判定用画像を前記学習済みのニューラルネットワークに入力し、前記判定用画像の特徴量を出力する特徴量算出部と、
    前記特徴量算出部が出力した前記判定用画像の前記特徴量を、前記識別器学習部によって生成された前記識別器に入力して、前記検査対象の良否の判定を行う識別部と
    を備えることを特徴とする画像検査装置。
  2. 請求項1に記載の画像検査装置において、
    前記特徴量学習部は、
    前記学習用画像を入力画像として記憶する第1の入力画像記憶部と、
    前記入力画像を入力として、前記入力画像の特徴量を出力する第1の畳み込みニューラルネットワーク演算部と、
    前記第1の畳み込みニューラルネットワーク演算部が出力した前記入力画像の前記特徴量を入力として、前記入力画像と同一の大きさの画像を出力する逆畳み込みニューラルネットワーク演算部と、
    前記逆畳み込みニューラルネットワーク演算部から出力された前記画像を出力画像として記憶する出力画像記憶部と、
    前記入力画像と前記出力画像との差異を算出する画像差異算出部と、
    前記差異が、算出された値より小さくなるように前記第1の畳み込みニューラルネットワーク演算部および前記逆畳み込みニューラルネットワーク演算部それぞれのパラメータの値を更新する特徴量算出設定更新部と、
    前記第1の畳み込みニューラルネットワーク演算部および前記逆畳み込みニューラルネットワーク演算部それぞれの前記パラメータの値を記憶する特徴量算出設定記憶部と、
    を備え、
    前記第1の畳み込みニューラルネットワーク演算部および前記逆畳み込みニューラルネットワーク演算部は、前記特徴量算出設定記憶部に記憶されている前記パラメータの値を用いてそれぞれ演算を行い、
    前記特徴量算出設定記憶部は、更新された前記パラメータの値を記憶し、
    前記第1の畳み込みニューラルネットワーク演算部は、更新された前記パラメータの値を用いて、すべての前記学習用画像それぞれの前記特徴量を出力する
    ことを特徴とする画像検査装置。
  3. 請求項2に記載の画像検査装置において、
    前記特徴量算出部は、
    前記判定用画像を記憶する第2の入力画像記憶部と、
    前記特徴量算出設定記憶部に記憶されている更新された前記パラメータの値を用いて、前記判定用画像を入力として、前記判定用画像の前記特徴量を出力する第2の畳み込みニューラルネットワーク演算部と
    を備えることを特徴とする画像検査装置。
  4. 請求項1から3のいずれか1項に記載の画像検査装置において、
    前記識別器学習部は、
    前記特徴量学習部が出力した前記学習用画像の前記特徴量を入力する第1の特徴量入力部と、
    前記学習用画像の前記特徴量を入力として、教師なし学習を行い前記識別器を生成する識別演算教師なし学習部と、
    を備え、
    前記識別演算教師なし学習部は、前記識別器を、アイソレーションフォレスト、One−Classサポートベクターマシン、部分空間法、Local Outlier Factor、統計的検定のうちのいずれかの手法で学習する
    ことを特徴とする画像検査装置。
  5. 請求項4に記載の画像検査装置において、
    前記識別部は、
    前記特徴量算出部が出力した前記判定用画像の前記特徴量を入力する第2の特徴量入力部と、
    前記判定用画像の前記特徴量を入力として、前記識別演算教師なし学習部によって生成された前記識別器を用いて、前記検査対象の良否の判定を行う識別演算部と
    を備えることを特徴とする画像検査装置。
  6. 請求項4または請求項5に記載の画像検査装置において、
    前記識別器学習部は前記識別演算教師なし学習部が有する調整パラメータの値を調整する識別器調整部をさらに備え、
    前記識別器調整部は、不良品を示す画像と良品を示す画像とが区別されている前記検査対象の画像から算出される特徴量に基づいて前記調整パラメータの値を調整する
    ことを特徴とする画像検査装置。
  7. 請求項1から3のいずれか1項に記載の画像検査装置において、
    前記識別器学習部は、
    前記特徴量学習部が出力した前記学習用画像の前記特徴量を入力する第1の特徴量入力部と、
    入力された前記学習用画像の前記特徴量に対応する前記学習用画像の良否を示す情報を入力する良否情報入力部と、
    前記学習用画像の前記特徴量および対応する前記学習用画像の前記良否を示す情報を入力として、教師あり学習により前記識別器を生成する識別演算教師あり学習部と、
    を備え、
    前記識別演算教師あり学習部は、サポートベクターマシン、ランダムフォレスト、ブースティングのうちのいずれかの手法で学習する
    ことを特徴とする画像検査装置。
  8. 請求項7に記載の画像検査装置において、
    前記識別部は、
    前記特徴量算出部が出力した前記判定用画像の前記特徴量を入力する第2の特徴量入力部と、
    前記判定用画像の前記特徴量を入力として、前記識別演算教師あり学習部によって生成された前記識別器を用いて、前記検査対象の良否の判定を行う識別演算部と
    を備えることを特徴とする画像検査装置。
  9. 請求項1から8のいずれか1項に記載の画像検査装置において、
    さらに前記学習用画像を取得する第1の画像取得部と、前記判定用画像を取得する第2の画像取得部とを有する画像取得部を備えることを特徴とする画像検査装置。
  10. 検査対象を含む学習用画像に基づいてニューラルネットワークの学習を行い、前記学習用画像の特徴量を出力する学習済みのニューラルネットワークを構築する特徴量学習ステップと、
    前記学習済みのニューラルネットワークが出力した前記学習用画像の前記特徴量に基づいて、前記検査対象の良否を判定する識別器を学習により生成する識別器学習ステップと、
    前記検査対象を含む判定用画像を前記学習済みのニューラルネットワークに入力し、前記判定用画像の特徴量を出力する特徴量算出ステップと、
    前記特徴量算出ステップで出力した前記判定用画像の前記特徴量を、前記識別器学習ステップで生成された前記識別器に入力して、前記検査対象の良否の判定を行う識別ステップと
    を備えることを特徴とする画像検査方法。
JP2017217004A 2017-11-10 2017-11-10 画像検査装置および方法 Active JP7074460B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017217004A JP7074460B2 (ja) 2017-11-10 2017-11-10 画像検査装置および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017217004A JP7074460B2 (ja) 2017-11-10 2017-11-10 画像検査装置および方法

Publications (2)

Publication Number Publication Date
JP2019087181A true JP2019087181A (ja) 2019-06-06
JP7074460B2 JP7074460B2 (ja) 2022-05-24

Family

ID=66763159

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017217004A Active JP7074460B2 (ja) 2017-11-10 2017-11-10 画像検査装置および方法

Country Status (1)

Country Link
JP (1) JP7074460B2 (ja)

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111192221A (zh) * 2020-01-07 2020-05-22 中南大学 基于深度卷积生成对抗网络的铝电解火眼图像修补方法
WO2021009986A1 (ja) * 2019-07-12 2021-01-21 村田機械株式会社 画像認識方法及び画像認識装置
JPWO2021039591A1 (ja) * 2019-08-23 2021-03-04
WO2021049721A1 (ko) * 2019-09-10 2021-03-18 라온피플 주식회사 복수의 이미지들에 대해 기계학습 및 테스트를 수행하기 위한 방법 및 장치
WO2021054376A1 (ja) 2019-09-17 2021-03-25 シンテゴンテクノロジー株式会社 学習処理装置及び検査装置
JP2021082154A (ja) * 2019-11-21 2021-05-27 オムロン株式会社 モデル生成装置、推定装置、モデル生成方法、及びモデル生成プログラム
JP2021089219A (ja) * 2019-12-05 2021-06-10 東洋製罐グループホールディングス株式会社 画像検査システム、及び画像検査方法
KR20210068777A (ko) * 2019-12-02 2021-06-10 현대모비스 주식회사 차량 램프 점등감 판정 장치 및 방법
JP6885517B1 (ja) * 2020-03-17 2021-06-16 株式会社村田製作所 診断支援装置及びモデル生成装置
JP2021099559A (ja) * 2019-12-20 2021-07-01 株式会社トプコン 情報処理装置、推論モデル生成方法、情報処理方法、及びプログラム
JP2021105758A (ja) * 2019-12-26 2021-07-26 株式会社Rutilea 物品検査装置
JP2021156641A (ja) * 2020-03-25 2021-10-07 三井化学株式会社 ノズル検査装置、方法、及びプログラム
JP2021174456A (ja) * 2020-04-30 2021-11-01 ボッシュ株式会社 異常判定方法及び異常判定装置
JP2021174556A (ja) * 2020-04-30 2021-11-01 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 自動運転における機能テスト方法に基づくセマンティックな敵対的生成
JP2021176070A (ja) * 2020-05-02 2021-11-04 Arithmer Inc 画像検査装置、画像検査方法及びプログラム
JP2023007260A (ja) * 2021-07-01 2023-01-18 株式会社日立製作所 計算機及び外観検査方法
CN116802483A (zh) * 2020-12-25 2023-09-22 株式会社爱世克私 鞋外观检查系统、鞋外观检查方法及鞋外观检查程序
CN116894966A (zh) * 2022-03-30 2023-10-17 本田技研工业株式会社 学习模型生成方法以及检查装置
US11966219B2 (en) * 2022-03-30 2024-04-23 Honda Motor Co., Ltd. Pseudo defective product data generation method
US12008799B2 (en) 2020-05-14 2024-06-11 Kabushiki Kaisha Toshiba Classification system and learning system
WO2024261964A1 (ja) * 2023-06-22 2024-12-26 日本電気株式会社 学習装置、情報処理装置、学習方法、及び、記録媒体
WO2025022781A1 (ja) * 2023-07-25 2025-01-30 パナソニックIpマネジメント株式会社 データ分析装置、データ分析方法およびプログラム
JP2025031982A (ja) * 2020-06-17 2025-03-07 Omリサーチ&コンサルティング株式会社 情報処理装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017097718A (ja) * 2015-11-26 2017-06-01 株式会社リコー 識別処理装置、識別システム、識別処理方法、およびプログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017097718A (ja) * 2015-11-26 2017-06-01 株式会社リコー 識別処理装置、識別システム、識別処理方法、およびプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
YUNDONG LI ET AL: "Deformable Patterned Fabric Defect Detection With Fisher Criterion-Based Deep Learning", IEEE TRANSACTIONS ON AUTOMATION SCIENCE AND ENGINEERING, vol. 14, no. 2, JPN6021036002, April 2017 (2017-04-01), US, ISSN: 0004596864 *

Cited By (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113728356A (zh) * 2019-07-12 2021-11-30 村田机械株式会社 图像识别方法以及图像识别装置
WO2021009986A1 (ja) * 2019-07-12 2021-01-21 村田機械株式会社 画像認識方法及び画像認識装置
JPWO2021009986A1 (ja) * 2019-07-12 2021-01-21
CN113728356B (zh) * 2019-07-12 2024-08-23 村田机械株式会社 图像识别方法以及图像识别装置
KR102822631B1 (ko) 2019-07-12 2025-06-18 무라다기카이가부시끼가이샤 화상 인식 방법 및 화상 인식 장치
KR20220031676A (ko) * 2019-07-12 2022-03-11 무라다기카이가부시끼가이샤 화상 인식 방법 및 화상 인식 장치
TWI841753B (zh) * 2019-07-12 2024-05-11 日商村田機械股份有限公司(村田機械株式会社) 影像辨識方法及影像辨識裝置
JPWO2021039591A1 (ja) * 2019-08-23 2021-03-04
WO2021039591A1 (ja) * 2019-08-23 2021-03-04 コニカミノルタ株式会社 判定基準生成装置、判定装置、判定基準生成プログラム、および判定プログラム
JP7416071B2 (ja) 2019-08-23 2024-01-17 コニカミノルタ株式会社 判定装置、および判定プログラム
KR20210030576A (ko) * 2019-09-10 2021-03-18 라온피플 주식회사 복수의 이미지들에 대해 기계학습 및 테스트를 수행하기 위한 방법 및 장치
CN113906471A (zh) * 2019-09-10 2022-01-07 乐人株式会社 用于对多个图像执行机器学习和测试的方法及装置
KR102357729B1 (ko) * 2019-09-10 2022-02-03 라온피플 주식회사 복수의 이미지들에 대해 기계학습 및 테스트를 수행하기 위한 방법 및 장치
WO2021049721A1 (ko) * 2019-09-10 2021-03-18 라온피플 주식회사 복수의 이미지들에 대해 기계학습 및 테스트를 수행하기 위한 방법 및 장치
WO2021054376A1 (ja) 2019-09-17 2021-03-25 シンテゴンテクノロジー株式会社 学習処理装置及び検査装置
CN114424242A (zh) * 2019-09-17 2022-04-29 星徳科技术株式会社 学习处理装置及检查装置
US12217495B2 (en) 2019-09-17 2025-02-04 Syntegon Technology K.K. Learning process device and inspection device
US12444176B2 (en) 2019-11-21 2025-10-14 Omron Corporation Model generation apparatus, estimation apparatus, model generation method, and computer-readable storage medium storing a model generation program including training a model by converting training data to deliberately reduce estimation performance for improved defect detection and feature identification
JP2021082154A (ja) * 2019-11-21 2021-05-27 オムロン株式会社 モデル生成装置、推定装置、モデル生成方法、及びモデル生成プログラム
WO2021100482A1 (ja) * 2019-11-21 2021-05-27 オムロン株式会社 モデル生成装置、推定装置、モデル生成方法、及びモデル生成プログラム
KR20210068777A (ko) * 2019-12-02 2021-06-10 현대모비스 주식회사 차량 램프 점등감 판정 장치 및 방법
KR102386867B1 (ko) * 2019-12-02 2022-04-15 현대모비스 주식회사 차량 램프 점등감 판정 장치 및 방법
JP2021089219A (ja) * 2019-12-05 2021-06-10 東洋製罐グループホールディングス株式会社 画像検査システム、及び画像検査方法
JP2021099559A (ja) * 2019-12-20 2021-07-01 株式会社トプコン 情報処理装置、推論モデル生成方法、情報処理方法、及びプログラム
JP7457315B2 (ja) 2019-12-20 2024-03-28 株式会社トプコン 情報処理装置、推論モデル生成方法、情報処理方法、及びプログラム
JP2021105758A (ja) * 2019-12-26 2021-07-26 株式会社Rutilea 物品検査装置
CN111192221B (zh) * 2020-01-07 2024-04-16 中南大学 基于深度卷积生成对抗网络的铝电解火眼图像修补方法
CN111192221A (zh) * 2020-01-07 2020-05-22 中南大学 基于深度卷积生成对抗网络的铝电解火眼图像修补方法
JP6885517B1 (ja) * 2020-03-17 2021-06-16 株式会社村田製作所 診断支援装置及びモデル生成装置
US12333790B2 (en) 2020-03-17 2025-06-17 Murata Manufacturing Co., Ltd. Diagnostic assistance apparatus and model generation apparatus
WO2021186592A1 (ja) * 2020-03-17 2021-09-23 株式会社村田製作所 診断支援装置及びモデル生成装置
JP2021156641A (ja) * 2020-03-25 2021-10-07 三井化学株式会社 ノズル検査装置、方法、及びプログラム
JP2021174456A (ja) * 2020-04-30 2021-11-01 ボッシュ株式会社 異常判定方法及び異常判定装置
JP7359802B2 (ja) 2020-04-30 2023-10-11 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング 自動運転における機能テスト方法に基づくセマンティックな敵対的生成
JP7521778B2 (ja) 2020-04-30 2024-07-24 学校法人梅村学園 異常判定方法及び異常判定装置
JP2021174556A (ja) * 2020-04-30 2021-11-01 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 自動運転における機能テスト方法に基づくセマンティックな敵対的生成
WO2021225097A1 (ja) * 2020-05-02 2021-11-11 Arithmer株式会社 画像検査装置、画像検査方法及びプログラム
JP2021176070A (ja) * 2020-05-02 2021-11-04 Arithmer Inc 画像検査装置、画像検査方法及びプログラム
US12008799B2 (en) 2020-05-14 2024-06-11 Kabushiki Kaisha Toshiba Classification system and learning system
JP2025031982A (ja) * 2020-06-17 2025-03-07 Omリサーチ&コンサルティング株式会社 情報処理装置
JP7735008B2 (ja) 2020-06-17 2025-09-08 Omリサーチ&コンサルティング株式会社 情報処理装置
CN116802483A (zh) * 2020-12-25 2023-09-22 株式会社爱世克私 鞋外观检查系统、鞋外观检查方法及鞋外观检查程序
JP2023007260A (ja) * 2021-07-01 2023-01-18 株式会社日立製作所 計算機及び外観検査方法
JP7699978B2 (ja) 2021-07-01 2025-06-30 株式会社日立製作所 計算機及び外観検査方法
US11966219B2 (en) * 2022-03-30 2024-04-23 Honda Motor Co., Ltd. Pseudo defective product data generation method
CN116894966A (zh) * 2022-03-30 2023-10-17 本田技研工业株式会社 学习模型生成方法以及检查装置
WO2024261964A1 (ja) * 2023-06-22 2024-12-26 日本電気株式会社 学習装置、情報処理装置、学習方法、及び、記録媒体
WO2025022781A1 (ja) * 2023-07-25 2025-01-30 パナソニックIpマネジメント株式会社 データ分析装置、データ分析方法およびプログラム

Also Published As

Publication number Publication date
JP7074460B2 (ja) 2022-05-24

Similar Documents

Publication Publication Date Title
JP7074460B2 (ja) 画像検査装置および方法
Adriman et al. Performance evaluation of binary classification of diabetic retinopathy through deep learning techniques using texture feature
US12002259B2 (en) Image processing apparatus, training apparatus, image processing method, training method, and storage medium
CN109613002B (zh) 一种玻璃缺陷检测方法、装置和存储介质
US11715190B2 (en) Inspection system, image discrimination system, discrimination system, discriminator generation system, and learning data generation device
KR101836096B1 (ko) 이미지 데이터의 상태 판단 방법, 장치 및 컴퓨터-판독가능 저장 매체에 저장된 컴퓨터 프로그램
EP3891491B1 (en) Image noise reduction using stacked denoising auto-encoder
US11694327B2 (en) Cross layer common-unique analysis for nuisance filtering
CN109781733A (zh) 缺陷检查装置、缺陷检查方法及计算机可读存储介质
KR20180094121A (ko) 학습 기반의 모델을 사용하여 반도체 관련 계산을 가속화
JP2017224156A (ja) 情報処理装置、情報処理方法及びプログラム
CN114581456B (zh) 一种多图像分割模型的构建方法、图像检测方法及装置
US12228722B2 (en) Microscopy system and method for modifying microscope images in the feature space of a generative network
CN115131503A (zh) 一种虹膜三维识别的健康监测方法及其系统
CN120125585A (zh) 一种基于改进YOLOv10的PCB表面缺陷检测系统及方法
CN117197134A (zh) 缺陷检测方法、装置、设备及存储介质
EP3905191B1 (en) Image determination device, method and program
US20220366242A1 (en) Information processing apparatus, information processing method, and storage medium
CN113936159B (zh) 一种基于调控网络的蚕茧下茧检测方法及系统
CN121213532A (zh) 一种融合注意力机制的金字塔式YOLOv5工业小目标检测系统
CN112507981B (zh) 模型生成方法、虹膜图像质量评估方法及电子设备
CN109816022A (zh) 一种基于三支决策与cnn的图像识别方法
KR20180063869A (ko) 이미지 데이터의 상태 판단 방법, 장치 및 컴퓨터-판독가능 저장 매체에 저장된 컴퓨터 프로그램
CN115908886B (zh) 图像分类方法、图像处理设备及存储装置
CN117975122A (zh) 一种基于动态稀疏化对比学习的医学图像分类方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200911

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220512

R150 Certificate of patent or registration of utility model

Ref document number: 7074460

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250