JP2012242281A - 検出対象物の中心位置を算出する方法、装置およびプログラム - Google Patents
検出対象物の中心位置を算出する方法、装置およびプログラム Download PDFInfo
- Publication number
- JP2012242281A JP2012242281A JP2011113615A JP2011113615A JP2012242281A JP 2012242281 A JP2012242281 A JP 2012242281A JP 2011113615 A JP2011113615 A JP 2011113615A JP 2011113615 A JP2011113615 A JP 2011113615A JP 2012242281 A JP2012242281 A JP 2012242281A
- Authority
- JP
- Japan
- Prior art keywords
- determining
- input image
- workpiece
- detection
- brightness
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
Abstract
【解決手段】既知の半径を有する円筒または球を少なくとも一部に含む検出対象物の中心位置を算出する方法を提供する。当該方法は、少なくとも1つの検出対象物を撮像した入力画像を取得するステップと、検出対象物の形状に相当する領域を入力画像から抽出するステップと、抽出された領域についての高さ情報を取得するステップと、抽出された領域内において明るさが極大となる部分を特定し、当該部分の法線方向を決定するステップと、決定した法線方向と、既知の半径と、明るさが極大となる部分の位置と、対応する高さ情報とから、検出対象物の中心位置を決定するステップとを含む。
【選択図】図3
Description
本実施の形態に係る画像処理方法は、既知の半径を有する円筒または球を少なくとも一部に含む検出対象物(ワークW)の中心位置を算出する方法に向けられている。本実施の形態に係る画像処理方法においては、一種の面光源であるプロジェクタからワークWに対して照明光(白色光)を投影し、撮像装置を用いて、当該照明光の投影によって生じる反射光を撮像する。この撮像によって得られた入力画像に対して、明るさが極大となる部分(輝度極大部分)の位置情報および高さ情報(すなわち、三次元座標系における座標値)から、ワークWの円筒断面を考慮して、その円筒断面の半径および明るさが極大となる部分(輝度極大部分)の位置情報(三次元座標値)を用いて、ワークWの中心位置を決定する。なお、ワークWの反射特性に依存して、中心位置を算出する方法を異ならせることが好ましい。
図1は、本発明の実施の形態に係る画像処理装置100を含む把持システムSYSの全体構成を示す概略図である。図1に例示される把持システムSYSは、生産ラインなどに組み込まれ、トレーなどにばら積みされた検出対象物(ワークW)を1個ずつ把持するような処理を行う。なお、図1には、理解を容易にするため、トレー内に2つのワークWのみが存在する場合を図示するが、多数のワークWが重なった状態で配置されていてもよい。
図3は、本実施の形態に係る画像処理装置100において実行される全体処理手順を示すフローチャートである。図3に示す各ステップは、基本的には、画像処理装置100のCPU110によって実行される。
まず、図3に示す前処理(ステップS1)の詳細について説明する。上述したように、前処理は、環境光から撮像装置8に入射する光の影響を取り除き、プロジェクタ7からの照明光がワークWで反射して生じる光(反射光)のみを観測するための処理である。このような環境光の影響を取り除くため、プロジェクタ7から照明光を照射していない状態で取得される画像と、プロジェクタ7から照明光を照射している状態で取得される画像との差分から差分画像(シェーディング画像)が生成される。
次に、図3に示すセグメンテーション処理(ステップS2)の詳細について説明する。上述したように、セグメンテーション処理は、入力画像に含まれるワークW(の一部)を示す領域(円筒領域)を抽出するための処理である。なお、入力画像としては、上述したような処理によって得られるシェーディング画像が用いられる。
次に、図3に示す三次元計測処理(ステップS3)の詳細について説明する。上述したように、三次元計測処理は、セグメンテーション処理によって抽出された円筒領域についての高さ情報を取得するための処理である。
次に、図3に示す法線算出処理(ステップS4)の詳細について説明する。上述したように、法線算出処理は、ワークWの表面に対する法線(法線ベクトル)を算出する処理である。
まず、本実施の形態に係る画像処理方法において法線を算出するための原理的な説明を行う。
まず、ワークWの表面が鏡面反射特性を有する場合について説明する。ワークWが鏡面反射特性を有する場合には、ワークWの表面に入射した光は、その入射した位置の法線に対して定義される角度(入射角)と同じ角度で反射することになる。そのため、ワークWの表面のある位置を基準に見れば、プロジェクタ7からの照明光は、その入射角と同じ角度をもつ方向に大部分が反射されることになる。
次に、ワークWの表面が拡散反射特性を有する場合について説明する。ワークWが拡散反射特性を有する場合には、ワークWの表面に入射した光は、基本的には全方位に拡散反射する。そのため、ワークWの表面のある位置を基準に見れば、プロジェクタ7からの照明光は、当該位置の法線方向に最も多く反射されることになる。
図9は、本実施の形態に係る画像処理装置100において実行される法線算出処理のより詳細な手順を示すフローチャートである。図9に示す処理手順は、図3に示すステップS3の処理内容をより詳細に示すものである。
次に、図9に示すステップS41の処理(明るさが極大となる部分を抽出する処理)の詳細について説明する。図9に示すステップS41においては、セグメンテーション処理(図3のステップS2)によって抽出された円筒領域について、輝度極大部分が抽出される。ステップS41の処理においては、基本的には、円筒領域のうち最も明るい画素とその周辺領域とが輝度極大部分として抽出される。
(2)円筒領域を定義する辺の長さの比から走査方向の決定
(3)入力画像を各走査方向に操作して輝度プロファイルの取得
(4)輝度プロファイルおいてある閾値より輝度が大きい領域(極大値とその周辺領域)の座標値の抽出および記録
(5)(3)および(4)の処理をすべての円筒領域に対して繰返し実行
(6)それぞれの輝度プロファイルにおける極大部分の座標値を統合して、円筒領域内の輝度極大部分の抽出
図10には、(a)セグメンテーション結果に含まれる一つの円筒領域に対して走査方向が決定され、その走査方向に沿って取得された円筒領域の輝度変化を示す((b)円筒領域の輝度変化)。なお、図10には、理解を容易化するために、円筒領域内の輝度の絶対値を色情報(濃淡変化)で示した高さ画像を例示するが、実際には、輝度の大きさの値および極大値をとる座標値などの情報が抽出される。
次に、図9に示すステップS43に示す光線ベクトルの算出処理の詳細について説明する。図9に示すステップS43においては、まず、ステップS41の処理において抽出された輝度極大部分の座標値(x,y,z)を基準として、三次元空間上における光線ベクトルを計算(視線ベクトルvおよび光源ベクトルl)が算出される。
続いて、図11(b)を参照して、入力画像上の輝度極大部分の座標値(x,y,z)と、プロジェクタ7の座標値(xp,yp,zp)とから光源ベクトルlが算出される。この算出処理は、予め取得されているキャリブレーションデータを利用して実行される。
なお、視線ベクトルvおよび光源ベクトルlについては、後述の法線ベクトルnの算出処理における便宜上、規格化しておくことが好ましい。
次に、図9に示すステップS44に示す法線算出処理の詳細について説明する。図9に示すステップS44においては、ワークWの表面における反射特性に依存して法線方向(法線ベクトルn)の算出方法を異ならせる。
一方、図12(b)を参照して、ワークWの表面が拡散反射特性を有する場合には、明るさが極大となる部分(輝度極大部分)では拡散反射光が生じることになる。したがって、上述したように、ワークWの表面における法線ベクトルnは、光源ベクトルlと一致するため、以下のような式に従って算出される。
以上のような処理によって、1つ以上の法線ベクトルnが算出される。
次に、図3に示す位置算出処理(ステップS5)の詳細について説明する。上述したように、位置算出処理は、ワークWの位置姿勢を算出するための処理である。本実施の形態においては、ワークWの半径情報(半径)が既知であるので、上述した処理によって算出された法線(法線ベクトル)と、対応する輝度極大部分の三次元座標点とから、ワークWの円筒部分の中心位置(中心軸)が算出される。
図13(a)に示すように、輝度極大部分の三次元座標点(x,y,z)および対応する法線ベクトルnが算出されており、ワークWの円筒断面における半径情報(半径r)が既知であるので、幾何学的関係から、ワークWの中心位置を一意に特定することができる。
図14は、本発明の実施の形態に係る画像処理によって生成された認識結果の一例を示す図である。図14に示す認識結果は、複数のワークW(図4に示すような多数のボルト)がばら積みされている状態を撮像した入力画像から得られたものである。なお、図14に示す線は、上述した処理によって算出されたワークWの中心軸を示し、その周辺に描かれている円は、対応する法線ベクトルを算出する際に決定されたワークWの半径位置(外形)を示す。
上述した例では、主として、円筒形状のワークWに本発明に係る画像処理方法を適用した場合の処理例を示したが、上述したように球状のワークWについても同様に適用することができる。この場合には、原理的には、ワークWの中心位置は一つであるので、一つのワークWからは一つの法線ベクトルのみを抽出さればよい。
本実施の形態に係る画像処理装置によれば、二次元画像に対する画像処理の結果と、同一のワークWを三次元計測することで高さ情報とを用いて、より少ない処理量でワークWの中心位置を算出することができる。
8 撮像装置
100 画像処理装置
102 ディスプレイ
104 マウス
106 メモリカード
110 CPU
112 メインメモリ
114 ハードディスク
116 カメラインターフェイス
116a 画像バッファ
118 入力インターフェイス
120 表示コントローラ
122 プロジェクタインターフェイス
124 通信インターフェイス
126 データリーダ/ライタ
128 バス
200 ロボットコントローラ
300 ロボット
SYS 把持システム
W ワーク
Claims (11)
- 既知の半径を有する円筒または球を少なくとも一部に含む検出対象物の中心位置を算出する方法であって、
少なくとも1つの前記検出対象物を撮像した入力画像を取得するステップと、
前記検出対象物の形状に相当する領域を前記入力画像から抽出するステップと、
前記抽出された領域についての高さ情報を取得するステップと、
前記抽出された領域内において明るさが極大となる部分を特定し、当該部分の法線方向を決定するステップと、
前記決定した法線方向と、前記既知の半径と、前記明るさが極大となる部分の位置と、対応する高さ情報とから、前記検出対象物の中心位置を決定するステップとを備える、方法。 - 前記法線方向を決定するステップは、前記検出対象物の光学反射特性に依存して、法線方向の決定方法を異ならせる、請求項1に記載の方法。
- 前記入力画像は、前記少なくとも1つの検出対象物に対して第1の方向から照明光を照射した状態で、前記第1の方向とは異なる第2の方向に視線を向けて配置された撮像装置を用いて撮像することで取得される、請求項2に記載の方法。
- 前記法線方向を決定するステップは、前記検出対象物の表面が鏡面反射する場合には、明るさが極大となる部分の位置と対応する高さ情報とから決定される三次元座標点を通り、かつ、照明光の光源に向けて延びる第1のベクトルと、当該三次元座標点を通り、かつ、前記撮像装置の方向に延びる第2のベクトルとの、二等分角に相当するベクトルを法線ベクトルとして算出するステップを含む、請求項3に記載の方法。
- 前記法線方向を決定するステップは、前記検出対象物の表面が拡散反射する場合には、明るさが極大となる部分の位置と対応する高さ情報とから決定される三次元座標点を通り、かつ、照明光の光源に向けて延びるベクトルを法線ベクトルとして算出するステップを含む、請求項3に記載の方法。
- 前記高さ情報を取得するステップは、前記少なくとも1つの検出対象物に対して、前記第1の方向から複数の異なる濃淡パターンを照射するとともに、それぞれの照射時に前記撮像装置によりそれぞれ撮像された複数の画像を用いて、前記高さ情報を取得する、請求項3に記載の方法。
- 前記入力画像を取得するステップは、前記少なくとも1つの検出対象物に対して第1の方向から照明光を照射しない状態で前記撮像装置により取得された第1の画像と、前記少なくとも1つの検出対象物に対して第1の方向から照明光を照射した状態で前記撮像装置により取得された第2の画像との差分から前記入力画像を生成するステップを含む、請求項3に記載の方法。
- 前記中心位置を決定するステップは、同一の前記検出対象物について決定された複数の中心位置から当該検出対象物の中心軸を決定するステップを含む、請求項1に記載の方法。
- 前記決定した前記検出対象物の中心位置を出力するステップをさらに備える、請求項1に記載の方法。
- 既知の半径を有する円筒または球を少なくとも一部に含む検出対象物の中心位置を算出する装置であって、
撮像装置と接続され、少なくとも1つの前記検出対象物を撮像した入力画像を取得するインターフェイスと、
前記検出対象物の形状に相当する領域を前記入力画像から抽出する手段と、
前記抽出された領域についての高さ情報を取得する手段と、
前記抽出された領域内において明るさが極大となる部分を特定し、当該部分の法線方向を決定する手段と、
前記決定した法線方向と、前記既知の半径と、前記明るさが極大となる部分の位置と、対応する高さ情報とから、前記検出対象物の中心位置を決定する手段とを備える、装置。 - 既知の半径を有する円筒または球を少なくとも一部に含む検出対象物の中心位置を算出するためのプログラムであって、当該プログラムは、コンピュータに、
少なくとも1つの前記検出対象物を撮像した入力画像を取得するステップと、
前記検出対象物の形状に相当する領域を前記入力画像から抽出するステップと、
前記抽出された領域についての高さ情報を取得するステップと、
前記抽出された領域内において明るさが極大となる部分を特定し、当該部分の法線方向を決定するステップと、
前記決定した法線方向と、前記既知の半径と、前記明るさが極大となる部分の位置と、対応する高さ情報とから、前記検出対象物の中心位置を決定するステップとを実行させる、プログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011113615A JP5757156B2 (ja) | 2011-05-20 | 2011-05-20 | 検出対象物の中心位置を算出する方法、装置およびプログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011113615A JP5757156B2 (ja) | 2011-05-20 | 2011-05-20 | 検出対象物の中心位置を算出する方法、装置およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2012242281A true JP2012242281A (ja) | 2012-12-10 |
| JP5757156B2 JP5757156B2 (ja) | 2015-07-29 |
Family
ID=47464139
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011113615A Active JP5757156B2 (ja) | 2011-05-20 | 2011-05-20 | 検出対象物の中心位置を算出する方法、装置およびプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5757156B2 (ja) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012242282A (ja) * | 2011-05-20 | 2012-12-10 | Omron Corp | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム |
| JP2015134410A (ja) * | 2013-12-20 | 2015-07-27 | ローランドディー.ジー.株式会社 | 印刷装置および印刷方法 |
| JP2015194410A (ja) * | 2014-03-31 | 2015-11-05 | 株式会社東京精密 | 3次元座標測定装置及び方法、並びに校正装置 |
| EP2998079A2 (en) | 2014-09-16 | 2016-03-23 | Seiko Epson Corporation | Image processing apparatus, robot system and method for processing an image |
| JP2016063306A (ja) * | 2014-09-16 | 2016-04-25 | セイコーエプソン株式会社 | 画像処理システム及びロボットシステム |
| JP2020034526A (ja) * | 2018-08-31 | 2020-03-05 | 株式会社トキワシステムテクノロジーズ | ワークの位置姿勢認識装置およびピッキングシステム |
| JP2020060599A (ja) * | 2014-12-15 | 2020-04-16 | ソニー株式会社 | 撮像装置組立体、3次元形状測定装置及び動き検出装置、並びに、3次元形状の測定方法 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH04106672A (ja) * | 1990-08-28 | 1992-04-08 | Hitachi Ltd | 物体の照明条件推定方法,物体の3次元情報生成方法,物体の形状と質感の生成方法,物体の形状と質感の生成装置 |
| JPH0763515A (ja) * | 1993-08-25 | 1995-03-10 | Ishikawajima Harima Heavy Ind Co Ltd | 円筒体の位置自動計測方法 |
| JPH09105608A (ja) * | 1995-10-09 | 1997-04-22 | Nippon Steel Corp | 荷物の位置計測方法 |
| US20030056799A1 (en) * | 2001-09-06 | 2003-03-27 | Stewart Young | Method and apparatus for segmentation of an object |
| JP2007107927A (ja) * | 2005-10-11 | 2007-04-26 | Nittetsu Hokkaido Control Systems Corp | 長さ測定装置、長さ測定方法および長さ測定用コンピュータプログラム |
| JP2009128201A (ja) * | 2007-11-26 | 2009-06-11 | Mitsubishi Electric Corp | 位置姿勢認識装置 |
| JP2010266205A (ja) * | 2009-05-12 | 2010-11-25 | Visco Technologies Corp | 形状検査装置および形状検査プログラム |
| JP2012242282A (ja) * | 2011-05-20 | 2012-12-10 | Omron Corp | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム |
-
2011
- 2011-05-20 JP JP2011113615A patent/JP5757156B2/ja active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH04106672A (ja) * | 1990-08-28 | 1992-04-08 | Hitachi Ltd | 物体の照明条件推定方法,物体の3次元情報生成方法,物体の形状と質感の生成方法,物体の形状と質感の生成装置 |
| JPH0763515A (ja) * | 1993-08-25 | 1995-03-10 | Ishikawajima Harima Heavy Ind Co Ltd | 円筒体の位置自動計測方法 |
| JPH09105608A (ja) * | 1995-10-09 | 1997-04-22 | Nippon Steel Corp | 荷物の位置計測方法 |
| US20030056799A1 (en) * | 2001-09-06 | 2003-03-27 | Stewart Young | Method and apparatus for segmentation of an object |
| JP2007107927A (ja) * | 2005-10-11 | 2007-04-26 | Nittetsu Hokkaido Control Systems Corp | 長さ測定装置、長さ測定方法および長さ測定用コンピュータプログラム |
| JP2009128201A (ja) * | 2007-11-26 | 2009-06-11 | Mitsubishi Electric Corp | 位置姿勢認識装置 |
| JP2010266205A (ja) * | 2009-05-12 | 2010-11-25 | Visco Technologies Corp | 形状検査装置および形状検査プログラム |
| JP2012242282A (ja) * | 2011-05-20 | 2012-12-10 | Omron Corp | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012242282A (ja) * | 2011-05-20 | 2012-12-10 | Omron Corp | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム |
| JP2015134410A (ja) * | 2013-12-20 | 2015-07-27 | ローランドディー.ジー.株式会社 | 印刷装置および印刷方法 |
| JP2015194410A (ja) * | 2014-03-31 | 2015-11-05 | 株式会社東京精密 | 3次元座標測定装置及び方法、並びに校正装置 |
| EP2998079A2 (en) | 2014-09-16 | 2016-03-23 | Seiko Epson Corporation | Image processing apparatus, robot system and method for processing an image |
| JP2016063306A (ja) * | 2014-09-16 | 2016-04-25 | セイコーエプソン株式会社 | 画像処理システム及びロボットシステム |
| US10127622B2 (en) | 2014-09-16 | 2018-11-13 | Seiko Epson Corporation | Image processing apparatus and robot system |
| JP2020060599A (ja) * | 2014-12-15 | 2020-04-16 | ソニー株式会社 | 撮像装置組立体、3次元形状測定装置及び動き検出装置、並びに、3次元形状の測定方法 |
| US11099008B2 (en) | 2014-12-15 | 2021-08-24 | Sony Corporation | Capture device assembly, three-dimensional shape measurement device, and motion detection device |
| JP2020034526A (ja) * | 2018-08-31 | 2020-03-05 | 株式会社トキワシステムテクノロジーズ | ワークの位置姿勢認識装置およびピッキングシステム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP5757156B2 (ja) | 2015-07-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5757156B2 (ja) | 検出対象物の中心位置を算出する方法、装置およびプログラム | |
| JP6525459B2 (ja) | 3d画像データにおける3dポーズの改良されたスコアリング及び偽ポイント除去のためのシステム及び方法 | |
| JP7011711B2 (ja) | カメラおよび回折光学要素の外因性較正のためのシステムおよび方法 | |
| EP3742113B1 (en) | System and method for marking images for three-dimensional image generation | |
| US9432655B2 (en) | Three-dimensional scanner based on contours from shadow images | |
| US9523571B2 (en) | Depth sensing with depth-adaptive illumination | |
| CN103649674B (zh) | 测量设备以及信息处理设备 | |
| US20070176927A1 (en) | Image Processing method and image processor | |
| US20220036118A1 (en) | Systems, methods, and media for directly recovering planar surfaces in a scene using structured light | |
| WO2016158856A1 (ja) | 撮像システム、撮像装置、撮像方法、及び撮像プログラム | |
| US12288364B2 (en) | Method for providing calibration data for calibrating a camera, method for calibrating a camera, method for producing at least one predefined point-symmetric region, and device | |
| JP6486083B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
| WO2011010693A1 (ja) | マーカ生成装置、マーカ生成検出システム、マーカ生成検出装置、マーカ、マーカ生成方法及びそのプログラム | |
| JP7741875B2 (ja) | 3次元計測装置 | |
| JP2021086432A (ja) | 情報処理装置、情報処理方法、コンピュータプログラム、計測装置、システムおよび物品の製造方法 | |
| CN108463793A (zh) | 图像识别装置、图像识别方法以及图像识别单元 | |
| JP2020512536A (ja) | モデルベースのピーク選択を使用した3dプロファイル決定のためのシステム及び方法 | |
| JP5757157B2 (ja) | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム | |
| JP7392582B2 (ja) | 検査システムおよび検査方法 | |
| JP2018088228A (ja) | 交点検出装置、カメラ校正システム、交点検出方法、カメラ校正方法、プログラムおよび記録媒体 | |
| Zheng et al. | Digital twin-trained deep convolutional neural networks for fringe analysis | |
| JP2006003276A (ja) | 3次元形状計測システム | |
| Araújo et al. | Machine vision for industrial robotic manipulator using raspberry Pi | |
| US20250003889A1 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
| US20250200781A1 (en) | Automated borescope pose estimation via virtual modalities |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140307 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141114 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20141125 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150126 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150217 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150413 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150507 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150520 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5757156 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |