JP7239936B2 - マスク構造最適化装置、マスク構造最適化方法およびプログラム - Google Patents
マスク構造最適化装置、マスク構造最適化方法およびプログラム Download PDFInfo
- Publication number
- JP7239936B2 JP7239936B2 JP2019569166A JP2019569166A JP7239936B2 JP 7239936 B2 JP7239936 B2 JP 7239936B2 JP 2019569166 A JP2019569166 A JP 2019569166A JP 2019569166 A JP2019569166 A JP 2019569166A JP 7239936 B2 JP7239936 B2 JP 7239936B2
- Authority
- JP
- Japan
- Prior art keywords
- mask
- classification target
- target image
- image
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/483—Physical analysis of biological material
- G01N33/4833—Physical analysis of biological material of solid biological material, e.g. tissue samples, cell cultures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N15/14—Optical investigation techniques, e.g. flow cytometry
- G01N15/1429—Signal processing
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N15/14—Optical investigation techniques, e.g. flow cytometry
- G01N15/1468—Optical investigation techniques, e.g. flow cytometry with spatial resolution of the texture or inner structure of the particle
- G01N15/147—Optical investigation techniques, e.g. flow cytometry with spatial resolution of the texture or inner structure of the particle the analysis being performed on a sample stream
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
- G06F18/2115—Selection of the most significant subset of features by evaluating different subsets according to an optimisation criterion, e.g. class separability, forward selection or backward elimination
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/2163—Partitioning the feature space
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0495—Quantised networks; Sparse networks; Compressed networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/30—Noise filtering
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
- G06V10/507—Summing image-intensity values; Histogram projection analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/88—Image or video recognition using optical means, e.g. reference filters, holographic masks, frequency domain filters or spatial domain filters
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/695—Preprocessing, e.g. image segmentation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N2015/1006—Investigating individual particles for cytology
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
- G01N15/10—Investigating individual particles
- G01N15/14—Optical investigation techniques, e.g. flow cytometry
- G01N15/1434—Optical arrangements
- G01N2015/1447—Spatial selection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Chemical & Material Sciences (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Pathology (AREA)
- Biochemistry (AREA)
- Analytical Chemistry (AREA)
- Immunology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Medicinal Chemistry (AREA)
- Urology & Nephrology (AREA)
- Hematology (AREA)
- Food Science & Technology (AREA)
- Optics & Photonics (AREA)
- Dispersion Chemistry (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Description
本願は、2018年1月30日に、日本に出願された特願2018-014150号に基づき優先権を主張し、その内容をここに援用する。
前記問題点に鑑み、本発明は、細胞を含む微粒子等を形態情報をもとに分類する場合の分類精度を十分に向上させることができるマスク構造最適化装置、マスク構造最適化方法およびプログラムを提供することを目的とする。
本発明の一態様のマスク構造最適化装置では、前記分類対象画像の一方の側に第1黒画像を追加すると共に、前記分類対象画像の他方の側に第2黒画像を追加する画像追加部更に備えてもよい。
本発明の一態様のマスク構造最適化装置では、前記マスクは、透光部と遮光部とを有してもよい。
図1は第1実施形態のマスク構造最適化装置1の構成の一例を示す図である。
図1に示す例では、マスク構造最適化装置1が、分類対象画像サイズ取得部11と、マスクサイズ設定部12と、画像追加部13と、明度検出部14と、明度総和算出部15と、初期値設定部16と、移動部17と、マスクパターン最適化部18とを備えている。
分類対象画像サイズ取得部11は、分類対象を含む画像である分類対象画像のサイズを取得する。「分類対象」には、例えば細胞、細菌、スフェロイド上の細胞塊などが含まれる。「分類対象画像」は、分類対象を含む2次元画像である。分類対象画像サイズ取得部11は、分類対象画像のサイズ(縦方向寸法×横方向寸法)を取得する。
マスクサイズ設定部12は、分類対象画像に対して適用されるマスクのサイズ(縦方向寸法×横方向寸法)を設定する。
図1に示す例では、分類対象画像に対して適用されるマスクが、例えばバイナリーマスクのような、透光部と遮光部とを有するマスクである。他の例では、分類対象画像に対して適用されるマスクが、例えばハーフトーンマスクのような、バイナリーマスク以外のマスクであってもよい。
図1に示す例では、画像追加部13が分類対象画像の左側に、第1画像として、黒画像を追加するが、他の例では、画像追加部13が分類対象画像の左側に、第1画像として、例えば黒画像と同程度の明度を有する他の色の画像(詳細には、明度総和算出部15によって算出される明度総和の増加に貢献しない色の画像)を追加してもよい。
同様に、図1に示す例では、画像追加部13が分類対象画像の右側に、第2画像として、黒画像を追加するが、他の例では、画像追加部13が分類対象画像の右側に、第2画像として、例えば黒画像と同程度の明度を有する他の色の画像を追加してもよい。あるいは、他の例では、画像追加部13が、構造化された照明パターンを照射してもよい。
明度総和算出部15は、明度検出部14によって検出された分類対象画像内の各ピクセルの明度の総和を算出する。明度検出部14と分類対象画像との間に位置するマスクの透光部の割合が高いほど、つまり、マスクの光透過率が高いほど、明度総和算出部15によって算出される明度の総和が大きくなる。
図1に示す例では、上述したように、明度検出部14は、マスクの透光部を透過した分類対象画像からの光を検出し、マスクの透光部を透過していない分類対象画像からの光は検出しない。そのため、明度検出部14と分類対象画像との間にマスクが位置しない場合には、マスクの透光部を透過する分類対象画像からの光が存在せず、明度検出部14によって光が検出されない。その結果、明度検出部14と分類対象画像との間にマスクが位置しない場合には、明度総和算出部15によって算出される明度の総和がゼロになる。
つまり、初期値設定部16は、マスクの初期の(最初の)マスクパターンを決定する。マスクのマスクパターンは、後述するように、マスクパターン最適化部18によって必要に応じて変更される。
図1に示す例では、初期値設定部16が、ベルヌーイ分布に基づいてマスクのマスクパターンの初期値を設定する。つまり、初期値設定部16が、ベルヌーイ分布に基づいてマスクの初期のマスクパターンを決定する。
他の例では、初期値設定部16が、ベルヌーイ分布を用いない任意の手法によってマスクのマスクパターンの初期値を設定してもよい。
後述する図2に示す例では、移動部17が、固定されたマスクに対して分類対象画像を移動させるが、他の例では、移動部17が、固定された分類対象画像に対してマスクを移動させてもよい。
マスクパターン最適化部18は、明度総和算出部15によって算出される明度の総和に基づき、マスクのマスクパターンを最適化する(マスクパターンを変更する)。
分類対象の分析および分類を行う分析装置(図示せず)では、例えば、マスクパターン最適化部18によって最適化されたマスクパターンを有するマスクが用いられる。そのようにすることにより、例えばマスクが用いられない場合や、ベルヌーイ分布などに基づいて設定されたマスクパターンを有するマスク(つまり、最適化されていないマスクパターンを有するマスク)が用いられる場合よりも、分類精度を向上させることができる。
図2に示す例では、図2(A)および図2(B)に矢印で示すように、移動部17によって、分類対象画像A1が、マスクA2の左側の位置P1から、右向きに移動させられる。マスクA2は、透光部A21Aと、遮光部A22A、A22B、A22C、A22D、A22E、A22Fとを備えている。
分類対象画像A1が位置P2に位置する場合には、分類対象画像A1の右半分からの光がマスクA2の透光部A21Aを透過するものの、分類対象画像A1の左半分からの光がマスクA2の透光部A21Aを透過しない。その結果、図2(C)に示すように、明度総和算出部15によって算出される明度の総和が、比較的小さい値V2になる。
分類対象画像A1が位置P3に位置する場合には、分類対象画像A1の全体からの光がマスクA2の透光部A21Aを透過する。また、明度検出部14と分類対象画像A1との間には、マスクA2の遮光部A22E、A22Fのいずれも位置しない。その結果、図2(C)に示すように、明度総和算出部15によって算出される明度の総和は、最大値V3になる。
マスクA2が、位置P2から位置P3まで移動する過程においては、明度検出部14と分類対象画像A1との間に、マスクA2の遮光部A22A、A22B、A22C、A22D、A22Eが順に位置する。その結果、図2(C)に示すように、明度総和算出部15によって算出される明度の総和が増減する。
図3に示す例では、マスクA2が、透光部A21A、A21B、A21Cと、遮光部A22Aとを備えている。
図2(A)および図2(B)に示す例では、マスクA2の光透過率pが90%であるのに対し、図3に示す例では、マスクA2の光透過率pが10%である。
図4に示す例では、マスクA2が、縦40ピクセル×横400ピクセルのマスクサイズを有する。また、マスクA2の光透過率pが10%である。マスクA2に対して相対移動させられる分類対象画像は、縦40ピクセル×横40ピクセルの分類対象画像サイズを有する。
「ch6」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、第2の条件下で得られる明度の総和の波形を示している。第2の条件とは、例えば、明度の総和として、RGB表色系のG値の総和が用いられる場合である。
「ch7」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、第3の条件下で得られる明度の総和の波形を示している。第3の条件とは、例えば、明度の総和として、RGB表色系のB値の総和が用いられる場合である。
「ch9」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、第1~第3の条件とは異なる第4の条件下で得られる明度の総和の波形を示している。
図5に示す例では、マスクA2が、縦40ピクセル×横400ピクセルのマスクサイズを有する。また、マスクA2の光透過率pが90%である。マスクA2に対して相対移動させられる分類対象画像は、縦40ピクセル×横40ピクセルの分類対象画像サイズを有する。
「ch6」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、上述した第2の条件下で得られる明度の総和の波形を示している。
「ch7」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、上述した第3の条件下で得られる明度の総和の波形を示している。
「ch9」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、上述した第4の条件下で得られる明度の総和の波形を示している。
詳細には、図6(A)に示す例では、精度指標として、公知の「f1macro」が用いられる。図6(B)に示す例では、精度指標として、公知の「f1micro」が用いられる。図6(A)および図6(B)の横軸は、マスクA2の光透過率pを示している。図6(A)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1macro」を用いた場合における所定の分類対象の分類精度を示している。図6(B)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1micro」を用いた場合におけるその分類対象の分類精度を示している。
図6(A)および図6(B)に示す例によれば、光透過率pが高いほど分類対象の分類精度が高くなる、すなわち、明度検出部14と分類対象画像A1との間にマスクA2が位置しない方が分類対象の分類精度が高くなるかのように、一見すると見える。
ところが、後述するように、分類対象によっては、光透過率pが1(100%)になると、分類精度が低下することが、本発明者等の鋭意研究において見い出されたのである。
一方で、「分類対象画像内の各ピクセルの明度の総和」という情報のみによっても、分類精度をかなり向上させることができることが見い出された。詳細には、図4に示す例では、「ch1」の明度の総和と、「ch6」の明度の総和と、「ch7」の明度の総和と、「ch9」の明度の総和とを、図4に示す例の分類対象の特徴量とした。その結果、図4に示す例の分類対象を、高い精度で分類することができた。
図7に示す例では、分類対象画像A1の全体の各ピクセルの明度の総和が、分類対象の特徴量として用いられるのではなく、分類対象画像A1の隅部A11、A12、A13、A14の各ピクセルの明度の総和が、分類対象の特徴量として用いられた。
図7に示す例では、分類対象画像A1のサイズが、縦40ピクセル×横40ピクセルである。隅部A11、A12、A13、A14は、正方形であり、縦nピクセル×横nピクセルのサイズを有する。nの値が、4、8、12、16、20に設定され、分類対象の分類精度の検証が行われた。nの値が小さいほど、分類対象の分類精度が低くなった。
詳細には、図8(C)は、分類対象画像A1の右端とマスクA2の左端とが一致する状態から、分類対象画像A1の左端とマスクA2の右端とが一致する状態まで、マスクA2に対して分類対象画像A1を相対移動させた場合に得られる明度の総和の波形を示している。
図8に示す例では、分類対象画像A1が、縦28ピクセル×横28ピクセルの分類対象画像サイズを有する。マスクA2は、縦28ピクセル×横100ピクセルのマスクサイズを有する。マスクA2の光透過率pは10%である。マスクA2のマスクパターンは、ベルヌーイ分布に基づいて設定されている。
詳細には、図9(A)に示す例では、図8(A)に示す手書き文字「0」の分類対象画像A1が用いられ、かつ、精度指標「f1micro」が用いられる。図9(B)に示す例では、図8(A)に示す手書き文字「0」の分類対象画像A1が用いられ、かつ、精度指標「f1macro」が用いられる。図9(A)および図9(B)の横軸は、マスクA2の光透過率pを示している。図9(A)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1micro」を用いた場合における手書き文字「0」の分類対象画像A1の分類精度を示している。図9(B)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1macro」を用いた場合における手書き文字「0」の分類対象画像A1の分類精度を示している。
100%の光透過率pを有するマスクA2を用いると、例えば図8(C)に示すような明度の総和(の波形)の積分値は、分類対象画像A1が手書き文字「6」である場合と、分類対象画像A1が手書き文字「9」である場合とでほぼ等しくなる。そのため、100%の光透過率pを有するマスクA2を用い、かつ、図8(C)に示すような明度の総和の波形を分析するだけでは、分類精度を十分に向上させることができない。
そこで、本発明者等は、100%よりも小さい光透過率pを有するマスクA2を用いることによって分類精度を十分に向上させることを試みた。
詳細には、図10(A)は画像追加部13によって分類対象画像A1に対して追加される第1画像A3および第2画像A4を示す図である。図10(B)は初期値設定部16によってマスクパターンの初期値が設定されたマスクA2を示す図である。図10(C)はマスクパターン最適化部18によって最適化されたマスクパターンを有するマスクA2を示す図である。
図11(A)は分類対象画像A1、第1画像A3および第2画像A4に対するマスクA2の相対移動の開始時の状態を示す図である。図11(B)は分類対象画像A1、第1画像A3および第2画像A4に対するマスクA2の相対移動の途中の状態を示す図である。
図10(A)に示すように、分類対象画像A1の左側には、画像追加部13によって第1画像A3が追加される。分類対象画像A1の右側には、画像追加部13によって第2画像A4が追加される。図10および図11に示す例では、第1画像A3および第2画像A4が黒画像である。
移動部17は、分類対象画像A1、第1画像A3および第2画像A4に対し、図10(B)に示すマスクA2を図10および図11の右向きに相対移動させる。
詳細には、移動部17は、マスクA2の左端部と第1画像A3の左端部とが一致する状態(図11(A)に示す状態)から、マスクA2の右端部と第2画像A4の右端部とが一致する状態まで、分類対象画像A1、第1画像A3および第2画像A4に対し、図10(B)に示すマスクA2を図10および図11の右向きに相対移動させる。
次いで、移動部17は、分類対象画像A1、第1画像A3および第2画像A4に対し、図10(B)に示すマスクA2を1ピクセル分だけ図10および図11の右向きに相対移動させる。明度検出部14は、分類対象画像A1のうちのマスクA2と重複している部分(縦28ピクセル×横2ピクセル)の各ピクセルの明度を検出する。明度総和算出部15は、明度検出部14によって検出された明度の総和を算出する。
移動部17は、分類対象画像A1の右端部とマスクA2の左端部とが1ピクセル分だけ重複する状態になるまで、分類対象画像A1、第1画像A3および第2画像A4に対し、図10(B)に示すマスクA2を1ピクセル分ずつ図10および図11の右向きに相対移動させる。移動部17が図10(B)に示すマスクA2を1ピクセルだけ相対移動させる毎に、明度検出部14は、分類対象画像A1のうちのマスクA2と重複している部分の各ピクセルの明度を検出し、明度総和算出部15は、明度検出部14によって検出された明度の総和を算出する。
図10および図11に示す例では、明度総和算出部15による明度の総和の算出が完了するまでに、移動部17によるマスクA2の相対移動が、図11(A)に示す状態から、126回(126ピクセル分)行われる。その結果、明度総和算出部15による明度の総和の算出が、127回行われる。
詳細には、図10および図11に示す例では、機械学習アルゴリズムとして、2値化畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)が用いられる。また、マスクパターン最適化部18が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが「+1」および「-1」のいずれかである。図10(C)に示す例では、マスクA2の黒部分が、畳み込みの重み「-1」を表しており、マスクA2の白部分が、畳み込みの重み「+1」を表している。
他の例では、機械学習アルゴリズムとして、2値化畳み込みニューラルネットワーク以外の任意の機械学習アルゴリズムが用いられてもよい。
詳細には、図12(A)は、図12に示す例において用いられる分類対象画像A1を示す図である。図12(B)は、マスクパターン最適化部18によってマスクパターンが最適化されたマスクA2を示す図である。図12(C)は、マスクパターン最適化部18によってマスクパターンが最適化された他のマスクA2Rを示す図である。
図12(D)は、図12(A)に示す分類対象画像A1に対して図12(B)に示すマスクA2を適用する場合に明度総和算出部15によって算出される明度の総和の波形を示す図である。図12(E)は、図12(A)に示す分類対象画像A1に対して図12(C)に示すマスクA2Rを適用する場合に明度総和算出部15によって算出される明度の総和の波形を示す図である。図12(F)は、図12(D)に示す明度の総和の波形と図12(E)に示す明度の総和の波形との差分を示す図である。
また、本発明者等は、研究において、マスクの横方向寸法が大きいほど、分類精度が向上することを見い出した。
図13は本発明がもたらすとされる研究結果の仮説を示す図である。詳細には、図13の横軸はマスクの横方向寸法を示している。図13の縦軸は分類精度を示している。図13において、「最適化あり」は、最適化が行われたマスクパターンを有するマスクが用いられる場合におけるマスクの横方向寸法と分類精度との関係を示している。「最適化なし」は、ベルヌーイ分布に基づいて設定されたマスクパターンを有するマスクが用いられる場合におけるマスクの横方向寸法と分類精度との関係を示している。
図13に示すように、最適化が行われたマスクパターンを有するマスクが用いられる場合の分類精度は、ベルヌーイ分布に基づいて設定されたマスクパターンを有するマスクが用いられる場合の分類精度よりも高くなる。また、横方向寸法が大きいマスクが用いられる場合の分類精度は、横方向寸法が小さいマスクが用いられる場合の分類精度よりも高くなる。
図14に示す例では、ステップS11において、分類対象画像サイズ取得部11が分類対象画像A1のサイズ(縦方向寸法×横方向寸法)を取得する。
ステップS12では、マスクサイズ設定部12が、分類対象画像A1に対して適用されるマスクA2のサイズ(縦方向寸法×横方向寸法)を設定する。例えば、マスクサイズ設定部12は、マスクA2の縦方向寸法を分類対象画像A1の縦方向寸法と同一にし、マスクA2の横方向寸法を分類対象画像A1の横方向寸法よりも大きくする。
ステップS13では、画像追加部13が、分類対象画像A1の左側に第1画像A3を追加し、分類対象画像A1の右側に第2画像A4を追加する。
ステップS14では、初期値設定部16が、マスクパターンの初期値を設定する。
ステップS16では、明度検出部14が、分類対象画像A1のうちのマスクA2と重複している部分の各ピクセルの明度を検出する。
ステップS17では、明度総和算出部15が、明度検出部14によって検出された明度の総和を算出する。
詳細には、分類対象画像A1、第1画像A3および第2画像A4に対するマスクA2の相対移動が完了するまで、上述したステップS15~S17が繰り返し実行される。
図14に示す例では、分類対象画像A1のうちのマスクA2の遮光部A22A~A22Fによって覆われた部分(つまり、隠れた部分)を復元させる処理が行われない。
他の例では、分類対象画像A1のうちのマスクA2の遮光部A22A~A22Fによって覆われた部分を復元させる処理を行ってもよい。
第1実施形態のマスク構造最適化装置1によってマスクパターンが最適化されたマスクA2は、例えば公知のイメージングフローサイトメーターにおいて用いられる。詳細には、フローサイトメーターには、細胞の分析のみを行うセルアナライザー、および、細胞の分析に加えて、分取まで行うセルソーターの二種類がある。第1実施形態のマスク構造最適化装置1によってマスクパターンが最適化されたマスクA2は、セルアナライザーおよびセルソーターの両方に適用可能である。適用例における分類対象は、例えば細胞等の微粒子などである。
上述したように、第1実施形態のマスク構造最適化装置1では、初期値が設定されたマスクパターンを有するマスクA2が、分類対象画像A1、第1画像A3および第2画像A4に対して1ピクセル分だけ相対移動させる毎に、明度の総和が算出される。また、明度の総和に基づいて、マスクA2のマスクパターンが最適化される。
そのため、第1実施形態のマスク構造最適化装置1によれば、分類対象画像A1の分類精度を向上させることができる。詳細には、例えばベルヌーイ分布に基づいて設定されたマスクパターンを有するマスクが用いられる場合よりも、分類精度を向上させることができる。
以下、第2実施形態のマスク構造最適化装置1について説明する。
第2実施形態のマスク構造最適化装置1は、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様に構成されている。従って、第2実施形態のマスク構造最適化装置1によれば、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様の効果を奏することができる。
一方、第2実施形態のマスク構造最適化装置1では、マスクパターン最適化部18が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが「+1」および「0」のいずれかである。
以下、第3実施形態のマスク構造最適化装置1について説明する。
第3実施形態のマスク構造最適化装置1は、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様に構成されている。従って、第3実施形態のマスク構造最適化装置1によれば、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様の効果を奏することができる。
図15に示す例では、マスク構造最適化装置1が、分類対象画像サイズ取得部11、マスクサイズ設定部12、画像追加部13、初期値設定部16、畳み込み処理部1Xと、マスクパターン最適化部18と、分類対象画像処理部19とを備えている。
畳み込み処理部1Xは、分類対象画像A1(図2(A)参照)およびマスクA2の画像に対する畳み込み処理を実行する。
次いで、畳み込み処理部1Xは、高速フーリエ変換が実施された分類対象画像A1とマスクA2の画像とを掛け合わせる処理を実行する。
次いで、畳み込み処理部1Xは、掛け合わせる処理により得られる波形に対して、逆高速フーリエ変換(IFFT)を実施する。
畳み込み処理部1Xが逆高速フーリエ変換を実施することによって得られるデータには、第1実施形態のマスク構造最適化装置1の明度総和算出部15によって算出される明度の総和と同等の特徴が含まれる。
つまり、第1実施形態のマスク構造最適化装置1では、マスクパターン最適化部18が、明度総和算出部15によって算出される明度の総和に基づき、マスクA2のマスクパターンを最適化するのに対し、第3実施形態のマスク構造最適化装置1では、マスクパターン最適化部18が、畳み込み処理部1Xによって実行された畳み込み処理の結果(詳細には、逆高速フーリエ変換を実施することによって得られるデータ)に基づいて、マスクA2のマスクパターンを最適化する。
他の例(マスクA2が既知の例)では、画像A4の追加が行われず、畳み込み処理部1Xは、畳み込み処理として、高速フーリエ変換の代わりに行列演算を実行する。マスクパターン最適化部18は、畳み込み処理部1Xによって実行された行列演算の結果に基づいて、マスクA2のマスクパターンを最適化する。
切り出し部19Aは、複数の分類対象を含む元画像から、複数の分類対象画像を切り出す処理を実行する。除外部19Bは、切り出し部19Aによって切り出された複数の分類対象画像のうちの、少なくとも1つの分類対象が画像外縁部上に位置する分類対象画像を除外する。
図16に示す例では、切り出し部19Aが、例えば7つの分類対象CF1-1、CF1-2、CF1-3、CF1-4、CF1-5、CF1-6、CF1-7を含む元画像AXから、例えば6つの分類対象画像A1-1、A1-2、A1-3、A1-4、A1-5、A1-6を切り出す。例えば、切り出し部19Aは、分類対象CF1-1の重心が分類対象画像A1-1の中心に位置するように、分類対象画像A1-1の切り出しを実行する。
切り出し部19Aによって切り出された分類対象画像A1-1には、1つの分類対象CF1-1が含まれている。分類対象CF1-1は、分類対象画像A1-1の画像外縁部BA1-1上に位置しない。つまり、分類対象CF1-1の全体が、分類対象画像A1-1に含まれている。
切り出し部19Aによって切り出された分類対象画像A1-2には、1つの分類対象CF1-2が含まれている。分類対象CF1-2は、分類対象画像A1-2の画像外縁部BA1-2上に位置しない。つまり、分類対象CF1-2の全体が、分類対象画像A1-2に含まれている。
切り出し部19Aによって切り出された分類対象画像A1-3には、1つの分類対象CF1-3が含まれている。分類対象CF1-3は、分類対象画像A1-3の画像外縁部BA1-3上に位置しない。つまり、分類対象CF1-3の全体が、分類対象画像A1-3に含まれている。
切り出し部19Aによって切り出された分類対象画像A1-4には、1つの分類対象CF1-4が含まれている。分類対象CF1-4は、分類対象画像A1-4の画像外縁部BA1-4上に位置しない。つまり、分類対象CF1-4の全体が、分類対象画像A1-4に含まれている。
切り出し部19Aによって切り出された分類対象画像A1-6には、分類対象CF1-6の一部と、分類対象CF1-7の一部とが含まれている。分類対象CF1-6は、分類対象画像A1-6の画像外縁部BA1-6上に位置し、分類対象CF1-7も、分類対象画像A1-6の画像外縁部BA1-6上に位置する。つまり、分類対象CF1-6の一部が、分類対象画像A1-6からはみ出しており、分類対象CF1-7の一部も、分類対象画像A1-6からはみ出している。
そこで、除外部19Bは、切り出し部19Aによって切り出された6つの分類対象画像A1-1~A1-6のうちの、分類対象CF1-7が画像外縁部BA1-5上に位置する分類対象画像A1-5と、分類対象CF1-6、CF1-7が画像外縁部BA1-6上に位置する分類対象画像A1-6とを除外する。
一方、除外部19Bによって除外されなかった分類対象画像A1-1~A1-4は、マスク構造最適化装置1によるマスクA2の最適化に利用される。
図17に示す例では、ステップS20において、分類対象画像処理部19が、分類対象画像A1-1~A1-6(図16参照)に対する前処理を実行する。
詳細には、ステップS20Aでは、分類対象画像処理部19が、複数の分類対象CF1-1~CF1-7(図16参照)を含む元画像AX(図16参照)を取得する。
次いで、ステップS20Bでは、切り出し部19Aが、元画像AXから、複数の分類対象画像A1-1~A1-6(図16参照)を切り出す処理を実行する。
次いで、ステップS20Cでは、除外部19Bが、複数の分類対象画像A1-1~A1-6のうちの、分類対象CF1-6、CF1-7が画像外縁部BA1-5、BA1-6(図16参照)上に位置する分類対象画像A1-5、A1-6を除外する。
次いで、ステップS22では、マスクサイズ設定部12が、分類対象画像A1-1~A1-4に対して適用されるマスクA2のサイズ(縦方向寸法×横方向寸法)を設定する。例えば、マスクサイズ設定部12は、マスクA2の縦方向寸法を分類対象画像A1-1~A1-4の縦方向寸法と同一にし、マスクA2の横方向寸法を分類対象画像A1-1~A1-4の横方向寸法よりも小さくする。例えば、マスクサイズ設定部12は、マスクA2の横方向寸法を、1ピクセル分に相当する値に設定する。
次いで、ステップS23では、画像追加部13が、分類対象画像A1-1~A1-4の左側に第1画像A3を追加し、分類対象画像A1-1~A1-4の右側に第2画像A4を追加する。
次いで、ステップS24では、初期値設定部16が、マスクパターンの初期値を設定する。
次いで、ステップS26では、マスクパターン最適化部18が、ステップS25において実行された畳み込み処理の結果に基づいて、機械学習を行い、マスクA2のマスクパターンを最適化する。
図17に示す例では、ステップS20は、ステップS21が実行される前に実行されるが、他の例では、ステップS25が実行される前の任意のタイミングで、ステップS20が実行されてもよい。
また、第3実施形態のマスク構造最適化装置1によって最適化された横方向寸法が1ピクセル分のマスクA2を用いた分類対象の分類精度は、マスク構造最適化装置1によって最適化されていない横方向寸法が581ピクセル分のマスクを用いた分類対象の分類精度よりも高くなった。
以下、第4実施形態のマスク構造最適化装置1について説明する。
第4実施形態のマスク構造最適化装置1は、後述する点を除き、上述した第3実施形態のマスク構造最適化装置1と同様に構成されている。従って、第4実施形態のマスク構造最適化装置1によれば、後述する点を除き、上述した第3実施形態のマスク構造最適化装置1と同様の効果を奏することができる。
図20および図21に示す例では、分類対象画像処理部19が、切り出し部19Aおよび除外部19Bの他に、正規化部19Cと、回転部19Dと、摂動部19Eとを備えている。
正規化部19Cは、分類対象画像A1の画素値を0~1の範囲へと変換する。
回転部19Dは、除外部19Bによる処理が実行された後の分類対象画像A1-4(図22(A)参照)を90°回転させる処理を実行し、回転後分類対象画像A1-4B(図22(B)参照)を生成する。
摂動部19Eは、除外部19Bによる処理が実行され、次いで、回転部19Dによる処理が実行された後の回転後分類対象画像A1-4Bに対して摂動処理を実行する。
図21(C)に示す例では、摂動部19Eが、回転後分類対象画像A1-4Bに含まれる分類対象CF1-4の位置を、移動方向に垂直な方向(図21(C)の上下方向)に+5ピクセル分だけ移動させた摂動後分類対象画像A1-4Cを生成している。
図21(D)に示す例では、摂動部19Eが、回転後分類対象画像A1-4Bに含まれる分類対象CF1-4の位置を、移動方向に垂直な方向(図21(D)の上下方向)に-5ピクセル分だけ移動させた摂動後分類対象画像A1-4Dを生成している。
図20に示す例では、分類対象画像処理部19が回転部19Dを備えているが、他の例では、分類対象画像処理部19が回転部19Dを備えていなくてもよい。
図22に示す例では、ステップS30において、分類対象画像処理部19が、分類対象画像A1-1~A1-6(図16参照)に対する前処理を実行する。
詳細には、ステップS30Aでは、分類対象画像処理部19が、複数の分類対象CF1-1~CF1-7(図16参照)を含む元画像AX(図16参照)を取得する。
次いで、ステップS30Bでは、切り出し部19Aが、元画像AXから、複数の分類対象画像A1-1~A1-6(図16参照)を切り出す処理を実行する。
次いで、ステップS30Cでは、正規化部19Cが、分類対象画像A1-1~A1-6の画素値を0~1の範囲へと変換する。
次いで、ステップS30Dでは、除外部19Bが、複数の分類対象画像A1-1~A1-6のうちの、分類対象CF1-6、CF1-7が画像外縁部BA1-5、BA1-6(図16参照)上に位置する分類対象画像A1-5、A1-6を除外する。
次いで、ステップS30Eでは、回転部19Dが、0°、90°、180°および270°のうちのいずれかの角度をランダムに選択し、除外部19Bによって除外されなかった複数の分類対象画像A1-1~A1-4を、選択された角度だけ回転させ、複数の回転後分類対象画像A1-4B(図21(B)参照)、…を生成する。
次いで、ステップS30Fでは、摂動部19Eが、複数の回転後分類対象画像A1-4B、…から複数の摂動後分類対象画像A1-4C、A1-4D(図21(C)および図21(D)参照)、…を生成する。
次いで、ステップS32では、マスクサイズ設定部12が、分類対象画像A1-1~A1-4に対して適用されるマスクA2のサイズ(縦方向寸法×横方向寸法)を設定する。例えば、マスクサイズ設定部12は、マスクA2の縦方向寸法を分類対象画像A1-1~A1-4の回転後の縦方向寸法と同一にし、マスクA2の横方向寸法を分類対象画像A1-1~A1-4の回転後の横方向寸法よりも小さくする。例えば、マスクサイズ設定部12は、マスクA2の横方向寸法を、1ピクセル分に相当する値に設定する。
次いで、ステップS33では、画像追加部13が、分類対象画像A1-1~A1-4の左側に第1画像A3を追加し、分類対象画像A1-1~A1-4の右側に第2画像A4を追加する。
次いで、ステップS34では、初期値設定部16が、マスクパターンの初期値を設定する。
次いで、ステップS36では、マスクパターン最適化部18が、ステップS35において実行された畳み込み処理の結果に基づいて、機械学習を行い、マスクA2のマスクパターンを最適化する。
詳細には、ステップS36では、マスクパターン最適化部18が、ステップS30Eにおける回転と同等の回転を適宜実行し、ステップS30Fにおける摂動と同等の摂動を適宜実行する
図22に示す例では、ステップS30は、ステップS31が実行される前に実行されるが、他の例では、ステップS35が実行される前の任意のタイミングで、ステップS30が実行されてもよい。
また、図22に示す例では、ステップS30Eが実行されるが、他の例では、ステップS30Eが実行されなくてもよい。
なお、ここでいう「コンピュータシステム」とは、オペレーティング・システム(OS:Operating System)あるいは周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また、記録媒体としては、例えば、一時的にデータを記録する記録媒体であってもよい。
また、上記のプログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)あるいは電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記のプログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、上記のプログラムは、前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
コンピュータでは、例えば、CPU(Central Processing Unit)などのプロセッサがメモリに記憶されたプログラムを読み出して実行する。
Claims (20)
- 分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得部と、
前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定部と、
前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出部と、
前記明度検出部によって検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出部と、
前記マスクのマスクパターンの初期値を設定する初期値設定部と、
前記分類対象画像に対して前記マスクを相対移動させる移動部とを備え、
前記明度総和算出部は、前記移動部が前記マスクを所定の移動量だけ相対移動させる毎に、前記分類対象画像内の各ピクセルの明度の総和を算出し、
前記明度総和算出部によって算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化部を更に備える、
マスク構造最適化装置。 - 前記分類対象画像の一方の側に第1黒画像を追加すると共に、前記分類対象画像の他方の側に第2黒画像を追加する画像追加部を更に備え、
前記移動部は、前記第1黒画像および前記第2黒画像が追加された前記分類対象画像に対して前記マスクを相対移動させる、
請求項1に記載のマスク構造最適化装置。 - 前記マスクサイズ設定部によって設定される前記マスクの移動方向のサイズは、前記分類対象画像の移動方向のサイズよりも大きいNピクセルであり、
前記画像追加部によって前記分類対象画像の前記一方の側に追加される前記第1黒画像の移動方向のサイズは(N-1)ピクセルであり、
前記画像追加部によって前記分類対象画像の前記他方の側に追加される前記第2黒画像の移動方向のサイズは(N-1)ピクセルである、
請求項2に記載のマスク構造最適化装置。 - 前記移動部は、
前記マスクの前記一方の側の端部と、前記第1黒画像の前記一方の側の端部とが一致する状態から、前記マスクの前記他方の側の端部と、前記第2黒画像の前記他方の側の端部とが一致する状態まで、前記第1黒画像および前記第2黒画像が追加された前記画像に対して前記マスクを相対移動させる、
請求項3に記載のマスク構造最適化装置。 - 前記明度総和算出部は、前記移動部が前記マスクを1ピクセルだけ相対移動させる毎に、前記分類対象画像内の各ピクセルの明度の総和を算出する、
請求項4に記載のマスク構造最適化装置。 - 前記初期値設定部は、ベルヌーイ分布に基づいて前記マスクの前記マスクパターンの前記初期値を設定する、
請求項1から請求項5のいずれか一項に記載のマスク構造最適化装置。 - 前記マスクパターン最適化部は、2値化畳み込みニューラルネットワークを使用することによって、前記マスクの前記マスクパターンを最適化し、
前記マスクパターン最適化部が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが+1および0のいずれかである、
請求項1から請求項6のいずれか一項に記載のマスク構造最適化装置。 - 前記マスクパターン最適化部は、2値化畳み込みニューラルネットワークを使用することによって、前記マスクの前記マスクパターンを最適化し、
前記マスクパターン最適化部が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが+1および-1のいずれかである、
請求項1から請求項6のいずれか一項に記載のマスク構造最適化装置。 - 前記マスク構造最適化装置によって前記マスクパターンが最適化された前記マスクは、イメージングフローサイトメーターにおいて用いられる、
請求項1から請求項8のいずれか一項に記載のマスク構造最適化装置。 - 前記分類対象は細胞である、
請求項1から請求項9のいずれか一項に記載のマスク構造最適化装置。 - 分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出ステップと、
前記明度検出ステップにおいて検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像に対して前記マスクを相対移動させる移動ステップとを備え、
前記明度総和算出ステップでは、前記マスクが所定の移動量だけ相対移動させられる毎に、前記分類対象画像内の各ピクセルの明度の総和が算出され、
前記明度総和算出ステップにおいて算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップを更に備える、
マスク構造最適化方法。 - コンピュータに、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出ステップと、
前記明度検出ステップにおいて検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像に対して前記マスクを相対移動させる移動ステップと
を実行させるためのプログラムであって、
前記明度総和算出ステップでは、前記マスクが所定の移動量だけ相対移動させられる毎に、前記分類対象画像内の各ピクセルの明度の総和が算出され、
前記明度総和算出ステップにおいて算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップを更に実行させるためのプログラム。 - 構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化装置であって、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得部と、
前記分類対象画像に対して適用される前記マスクのサイズを設定するマスクサイズ設定部と、
前記マスクのマスクパターンの初期値を設定する初期値設定部と、
前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理部と、
前記畳み込み処理部によって実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化部とを備える、
マスク構造最適化装置。 - 前記分類対象画像に対する前処理を実行する分類対象画像処理部を更に備え、
前記分類対象画像処理部は、複数の分類対象を含む元画像から、複数の分類対象画像を切り出す処理を実行する切り出し部を備え、
前記切り出し部によって切り出された各分類対象画像には、少なくとも1つの分類対象が含まれ、
前記分類対象画像処理部は、前記切り出し部によって切り出された前記複数の分類対象画像のうちの、前記少なくとも1つの分類対象が画像外縁部上に位置する分類対象画像を除外する除外部を更に備える、
請求項13に記載のマスク構造最適化装置。 - 前記分類対象画像処理部は、前記除外部による処理が実行された後の各分類対象画像に対して摂動処理を実行する摂動部を更に備え、
前記摂動部は、前記除外部による処理が実行された後の各分類対象画像から、各分類対象画像の画像外縁部の位置を移動させることなく、各分類対象画像に含まれる前記1つの分類対象の位置を移動させた分類対象画像である摂動後分類対象画像を生成する、
請求項14に記載のマスク構造最適化装置。 - 前記分類対象画像および前記マスクの形状は、矩形形状であり、
前記マスクの短辺の寸法は、前記分類対象画像の長辺の寸法および前記分類対象画像の短辺の寸法よりも小さい、
請求項13から請求項15のいずれか一項に記載のマスク構造最適化装置。 - 前記分類対象画像の一方の側に第1黒画像を追加すると共に、前記分類対象画像の他方の側に第2黒画像を追加する画像追加部更に備える
請求項13から請求項16のいずれか一項に記載のマスク構造最適化装置。 - 前記マスクは、透光部と遮光部とを有する
請求項13から請求項17のいずれか一項に記載のマスク構造最適化装置。 - 構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化方法であって、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用される前記マスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理ステップと、
前記畳み込み処理ステップにおいて実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップとを備える、
マスク構造最適化方法。 - 構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化装置としてのコンピュータに、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用される前記マスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理ステップと、
前記畳み込み処理ステップにおいて実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップとを実行させるためのプログラム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018014150 | 2018-01-30 | ||
| JP2018014150 | 2018-01-30 | ||
| PCT/JP2019/003120 WO2019151307A1 (ja) | 2018-01-30 | 2019-01-30 | マスク構造最適化装置、マスク構造最適化方法およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2019151307A1 JPWO2019151307A1 (ja) | 2021-01-28 |
| JP7239936B2 true JP7239936B2 (ja) | 2023-03-15 |
Family
ID=67479735
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019569166A Active JP7239936B2 (ja) | 2018-01-30 | 2019-01-30 | マスク構造最適化装置、マスク構造最適化方法およびプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (2) | US11314994B2 (ja) |
| JP (1) | JP7239936B2 (ja) |
| WO (1) | WO2019151307A1 (ja) |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019180848A1 (ja) * | 2018-03-20 | 2019-09-26 | 株式会社島津製作所 | 細胞画像解析装置、細胞画像解析システム、学習データの生成方法、学習モデルの生成方法、学習データの生成プログラム、および、学習データの製造方法 |
| WO2021179189A1 (zh) * | 2020-03-11 | 2021-09-16 | 深圳先进技术研究院 | 大脑成瘾性状评估的可视化方法、装置及介质 |
| US20240096047A1 (en) * | 2022-09-01 | 2024-03-21 | Arizona Board Of Regents On Behalf Of Arizona State University | Systems and methods for an adaptive and region-scale proposing mechanism for object recognition systems |
| EP4702473A1 (en) | 2023-04-28 | 2026-03-04 | ThinkCyte K.K. | Systems and methods of machine learning-based sample classifiers for physical samples |
| WO2024224369A1 (en) | 2023-04-28 | 2024-10-31 | Thinkcyte K.K. | Systems and methods of machine learning-based physical sample classification with sample variation control |
| CN119540664B (zh) * | 2025-01-23 | 2025-04-29 | 深圳大学 | 一种分布引导优化的深度学习隧道灯具检测方法及系统 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016136801A1 (ja) | 2015-02-24 | 2016-09-01 | 国立大学法人東京大学 | 動的高速高感度イメージング装置及びイメージング方法 |
| WO2018015414A1 (en) | 2016-07-21 | 2018-01-25 | Siemens Healthcare Gmbh | Method and system for artificial intelligence based medical image segmentation |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH09308619A (ja) | 1996-05-23 | 1997-12-02 | Kao Corp | 皮膚表面分析方法及び装置 |
| US7219016B2 (en) * | 2001-04-20 | 2007-05-15 | Yale University | Systems and methods for automated analysis of cells and tissues |
| JP4982385B2 (ja) | 2005-02-01 | 2012-07-25 | アムニス コーポレイション | イメージングフローサイトメータを使用した血液及び細胞の分析 |
| US9754378B2 (en) * | 2016-01-21 | 2017-09-05 | Molecular Devices, Llc | System and method for segmentation of three-dimensional microscope images |
| US9972092B2 (en) * | 2016-03-31 | 2018-05-15 | Adobe Systems Incorporated | Utilizing deep learning for boundary-aware image segmentation |
| US11217344B2 (en) * | 2017-06-23 | 2022-01-04 | Abiomed, Inc. | Systems and methods for capturing data from a medical device |
-
2019
- 2019-01-30 JP JP2019569166A patent/JP7239936B2/ja active Active
- 2019-01-30 WO PCT/JP2019/003120 patent/WO2019151307A1/ja not_active Ceased
- 2019-01-30 US US16/965,311 patent/US11314994B2/en active Active
-
2022
- 2022-03-29 US US17/706,962 patent/US11668696B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016136801A1 (ja) | 2015-02-24 | 2016-09-01 | 国立大学法人東京大学 | 動的高速高感度イメージング装置及びイメージング方法 |
| WO2018015414A1 (en) | 2016-07-21 | 2018-01-25 | Siemens Healthcare Gmbh | Method and system for artificial intelligence based medical image segmentation |
Also Published As
| Publication number | Publication date |
|---|---|
| US11314994B2 (en) | 2022-04-26 |
| WO2019151307A1 (ja) | 2019-08-08 |
| US20210166094A1 (en) | 2021-06-03 |
| US20220222935A1 (en) | 2022-07-14 |
| US11668696B2 (en) | 2023-06-06 |
| JPWO2019151307A1 (ja) | 2021-01-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7239936B2 (ja) | マスク構造最適化装置、マスク構造最適化方法およびプログラム | |
| Byerly et al. | No routing needed between capsules | |
| US11151397B2 (en) | Liveness testing methods and apparatuses and image processing methods and apparatuses | |
| US9740965B2 (en) | Information processing apparatus and control method thereof | |
| CN104866868A (zh) | 基于深度神经网络的金属币识别方法和装置 | |
| CN112215201A (zh) | 评估人脸识别模型、针对图像的分类模型的方法及装置 | |
| Fang et al. | Cross-database and cross-attack iris presentation attack detection using micro stripes analyses | |
| CN101228552B (zh) | 脸图像检测装置、脸图像检测方法 | |
| Mesquita et al. | Parameter tuning for document image binarization using a racing algorithm | |
| CN112818774A (zh) | 一种活体检测方法及装置 | |
| Vashishtha et al. | An Ensemble approach for advance malware memory analysis using Image classification techniques | |
| Hussain et al. | A knowledge distillation based deep learning framework for cropped images detection in spatial domain | |
| Metwally et al. | Detecting Generative AI in Images | |
| Akan et al. | Just noticeable difference for machine perception and generation of regularized adversarial images with minimal perturbation | |
| JP7714585B2 (ja) | 自動アーチファクト検出 | |
| Alam et al. | A comprehensive study on enhanced QR extraction techniques with deep learning-based verification: N. Alam et al. | |
| Johnson et al. | Using Ensemble Convolutional Neural Network to Detect Deepfakes Using Periocular Data | |
| Chennupati | A structured approach to JPEG tampering detection using enhanced fusion algorithm | |
| Mazurek et al. | Robustness of Haar feature-based cascade classifier for face detection under presence of image distortions | |
| CN118823495A (zh) | 图像检测模型的训练方法、图像检测方法及装置 | |
| Corral-Sanz et al. | On the influence of artificially distorted images in firearm detection performance using deep learning | |
| KR20230053281A (ko) | 영상분석을 통한 메타테이터 큐레이션 가이드 제공 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램 | |
| Rafi | RemNet: Remnant Convolutional Neural Network for Camera Model Identification and Image Manipulation Detection | |
| Downton et al. | Age and Gender Estimation using Optimised Deep Networks | |
| Wu | Robust Multimedia Forensics Over Online Social Networks |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A529 | Written submission of copy of amendment under article 34 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A5211 Effective date: 20200528 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20200625 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20200625 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20200828 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20200828 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201109 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211209 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221004 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221201 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230214 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230222 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7239936 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |