WO2020049965A1 - 3次元計測システム、3次元計測カメラ、3次元計測方法及びプログラム - Google Patents
3次元計測システム、3次元計測カメラ、3次元計測方法及びプログラム Download PDFInfo
- Publication number
- WO2020049965A1 WO2020049965A1 PCT/JP2019/031840 JP2019031840W WO2020049965A1 WO 2020049965 A1 WO2020049965 A1 WO 2020049965A1 JP 2019031840 W JP2019031840 W JP 2019031840W WO 2020049965 A1 WO2020049965 A1 WO 2020049965A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image
- data
- unit
- image data
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
Definitions
- the prescribed number of the gray code pattern images may be three.
- code image data having code values from 0 to 7 is obtained as shown in FIG. be able to.
- phase shift pattern images there are four types (four) of phase shift pattern images.
- the value for shifting the phase of the sine wave is other than 90 degrees, a different number of images may be used accordingly.
- phase shift pattern images there are three types (three) of phase shift pattern images.
- the left imaging unit 150 is an imaging device (for example, a CMOS sensor) installed on the left of the projection unit 140.
- the left imaging unit 150 images the measurement target from the left side of the projection unit 140.
- the fly-eye illumination system as shown in FIG. 4, the light output from the LED 11 is condensed by the lens 12 and the lens 13 and then passes through two fly-eye lenses 18 so that the illuminance unevenness is improved. Is canceled out, and bright uniform light can be obtained to every corner. Therefore, a general projector often uses a fly-eye illumination system as shown in FIG.
- the fly-eye illumination system it is necessary to adjust the two fly-eye lenses 18 so as to cancel out unevenness in illuminance, and the number of lenses increases, so that the structure becomes complicated, and the fly-eye lens 18 is susceptible to vibration and impact. In addition, the size becomes large.
- a matching point where the left and right pixel values (unwrap phase values) match along the mutually corresponding epipolar lines (the y coordinate becomes a constant horizontal line) in the left and right unwrap phase image data is obtained,
- the difference between the left and right of the x coordinate of the coincident point is converted to the value of the pixel (x, y).
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
3次元計測システム(1000)は、3次元計測カメラ(100)と制御装置(200)とを備える。3次元計測カメラ(100)は、集光レンズ結像方式の投影部(140)と、左撮像部(150)と、右撮像部(160)と、通信部(130)と、カメラ制御部(110)と、を備える。制御装置(200)は、通信部(230)と、制御部(210)と、を備える。カメラ制御部(110)は、投影部(140)によりグレイコードパターン画像及び位相シフトパターン画像を計測対象に投影し、左撮像部(150)及び右撮像部(160)で撮像し、撮像した画像のデータを送信する。制御部(210)は、画像のデータを受信し、画像のデータから視差画像データを生成し、視差画像データから計測対象の3次元形状を表す点群データを生成する。
Description
本発明は、3次元計測システム、3次元計測カメラ、3次元計測方法及びプログラムに関する。
カメラを2台用いてステレオカメラを構成し、3次元形状を取得する装置が知られている。例えば、特許文献1には、計測対象にプロジェクタからランダムドットパターンを照射してステレオカメラで左右画像を撮影し、左右の画像から対応点を探索して距離画像を得るステレオ3次元計測装置が開示されている。
特許文献1に開示されているような、ステレオカメラによる3次元計測装置では、左右の画像で対応する点が探索されたら、右の画像中の該点の位置と左の画像中の該点の位置との差から求まる視差値から、三角測量の原理により、該点までの距離を算出することができる。しかし、視差値は各画像のピクセル単位で求まるものであるから、算出される距離の精度は、ステレオカメラが取得する画像のピクセルの大きさに依存することになる。したがって、ステレオカメラの解像度を上げないと距離の精度を上げることができない。
また、位相シフト法を用いることにより、計測精度を上げることができるが、位相シフト法を用いるためには、所定の画像(例えば位相シフトパターン画像)を投影する必要がある。この画像の投影のために一般的な構造のプロジェクタを組み込むと、カメラ本体が大きく、複雑になり、振動や衝撃にも弱いものになってしまう。
本発明は、上記実情に鑑みてなされたものであり、集光レンズ結像方式の投影部、複数の撮像部及び位相シフトパターン画像を用いることにより、単純化した構造で耐久性が高く、しかも高い精度で計測対象の形状を計測することができる3次元計測システム、3次元計測カメラ、3次元計測方法及びプログラムを提供することを目的とする。
上記目的を達成するため、本発明の第1の観点に係る3次元計測システムは、
3次元計測カメラと、制御装置と、を備え、
前記3次元計測カメラは、
集光レンズ結像方式により計測対象に画像を投影する投影部と、
前記投影部の左から前記計測対象を撮像する左撮像部と、
前記投影部の右から前記計測対象を撮像する右撮像部と、
前記左撮像部で撮像した左画像のデータ及び前記右撮像部で撮像した右画像のデータを前記制御装置に送信する送信部と、
カメラ制御部と、
を備え、
前記制御装置は、
前記送信部から送信されたデータを受信する受信部と、
制御部と、
を備え、
前記カメラ制御部は、
前記投影部によりグレイコードパターン画像及び位相シフトパターン画像を前記計測対象に投影し、
前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部で撮像し、
前記送信部を介して前記撮像した前記左画像のデータ及び前記右画像のデータを前記制御装置に送信し、
前記制御部は、
前記受信部を介して前記左画像のデータ及び前記右画像のデータを前記3次元計測カメラから受信し、
前記左画像のデータ及び前記右画像のデータから視差画像データを生成し、
前記視差画像データから前記計測対象の3次元形状を表す点群データを生成する。
3次元計測カメラと、制御装置と、を備え、
前記3次元計測カメラは、
集光レンズ結像方式により計測対象に画像を投影する投影部と、
前記投影部の左から前記計測対象を撮像する左撮像部と、
前記投影部の右から前記計測対象を撮像する右撮像部と、
前記左撮像部で撮像した左画像のデータ及び前記右撮像部で撮像した右画像のデータを前記制御装置に送信する送信部と、
カメラ制御部と、
を備え、
前記制御装置は、
前記送信部から送信されたデータを受信する受信部と、
制御部と、
を備え、
前記カメラ制御部は、
前記投影部によりグレイコードパターン画像及び位相シフトパターン画像を前記計測対象に投影し、
前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部で撮像し、
前記送信部を介して前記撮像した前記左画像のデータ及び前記右画像のデータを前記制御装置に送信し、
前記制御部は、
前記受信部を介して前記左画像のデータ及び前記右画像のデータを前記3次元計測カメラから受信し、
前記左画像のデータ及び前記右画像のデータから視差画像データを生成し、
前記視差画像データから前記計測対象の3次元形状を表す点群データを生成する。
前記制御装置が備える前記制御部は、前記視差画像データの生成の際に、前記左画像内及び前記右画像内の相互に対応するエピポーラ線に沿って、前記左画像の位相値と前記右画像の位相値とが一致する点を求め、それらの点の横方向の位置の差を視差とする、
ようにしてもよい。
ようにしてもよい。
また、本発明の第2の観点に係る3次元計測カメラは、
集光レンズ結像方式により計測対象に画像を投影する投影部と、
前記投影部の左から前記計測対象を撮像する左撮像部と、
前記投影部の右から前記計測対象を撮像する右撮像部と、
前記左撮像部で撮像した左画像のデータ及び前記右撮像部で撮像した右画像のデータを外部の制御装置に送信する送信部と、
カメラ制御部と、
を備え、
前記カメラ制御部は、
前記投影部によりグレイコードパターン画像及び位相シフトパターン画像を前記計測対象に投影し、
前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部で撮像し、
前記送信部を介して前記撮像した前記左画像のデータ及び前記右画像のデータを前記制御装置に送信する。
集光レンズ結像方式により計測対象に画像を投影する投影部と、
前記投影部の左から前記計測対象を撮像する左撮像部と、
前記投影部の右から前記計測対象を撮像する右撮像部と、
前記左撮像部で撮像した左画像のデータ及び前記右撮像部で撮像した右画像のデータを外部の制御装置に送信する送信部と、
カメラ制御部と、
を備え、
前記カメラ制御部は、
前記投影部によりグレイコードパターン画像及び位相シフトパターン画像を前記計測対象に投影し、
前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部で撮像し、
前記送信部を介して前記撮像した前記左画像のデータ及び前記右画像のデータを前記制御装置に送信する。
前記カメラ制御部は、前記左撮像部及び前記右撮像部に対して、同時に撮像指示を出し、撮像して得られた同期した前記左画像のデータ及び前記右画像のデータを1つに結合して前記制御装置に送信する、
ようにしてもよい。
ようにしてもよい。
前記撮像した前記左画像のデータ及び前記右画像のデータを補正するためのデータテーブルであるレクティファイテーブルをさらに備え、
前記カメラ制御部は、前記撮像した前記左画像のデータ及び前記右画像のデータを、前記レクティファイテーブルを用いて補正し、補正後のデータを前記制御装置に送信する、
ようにしてもよい。
前記カメラ制御部は、前記撮像した前記左画像のデータ及び前記右画像のデータを、前記レクティファイテーブルを用いて補正し、補正後のデータを前記制御装置に送信する、
ようにしてもよい。
前記カメラ制御部は、
前記投影部により90度ずつ位相をずらした4枚の位相シフトパターン画像を前記計測対象に投影し、
前記位相シフトパターン画像が投影された前記計測対象を前記位相シフトパターン画像の位相を90度ずつずらして前記左撮像部及び前記右撮像部でそれぞれ4枚撮像し、
前記撮像した4枚の前記左画像のデータからピクセル毎の位相値を算出して左の位相画像データを生成し、
前記撮像した4枚の前記右画像のデータからピクセル毎の位相値を算出して右の位相画像データを生成し、
前記送信部を介して前記生成した前記左の位相画像データ及び前記右の位相画像データを前記制御装置に送信する、
ようにしてもよい。
前記投影部により90度ずつ位相をずらした4枚の位相シフトパターン画像を前記計測対象に投影し、
前記位相シフトパターン画像が投影された前記計測対象を前記位相シフトパターン画像の位相を90度ずつずらして前記左撮像部及び前記右撮像部でそれぞれ4枚撮像し、
前記撮像した4枚の前記左画像のデータからピクセル毎の位相値を算出して左の位相画像データを生成し、
前記撮像した4枚の前記右画像のデータからピクセル毎の位相値を算出して右の位相画像データを生成し、
前記送信部を介して前記生成した前記左の位相画像データ及び前記右の位相画像データを前記制御装置に送信する、
ようにしてもよい。
前記カメラ制御部は、
前記投影部により規定枚数のグレイコードパターン画像を前記計測対象に投影し、
前記各グレイコードパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部でそれぞれ前記規定枚数撮像し、
前記撮像した前記規定枚数の前記左画像のデータからピクセル毎のコード値を算出して左のコード画像データを生成し、
前記撮像した前記規定枚数の前記右画像のデータからピクセル毎のコード値を算出して右のコード画像データを生成し、
前記送信部を介して前記生成した前記左のコード画像データ及び前記右のコード画像データを前記制御装置に送信する、
ようにしてもよい。
前記投影部により規定枚数のグレイコードパターン画像を前記計測対象に投影し、
前記各グレイコードパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部でそれぞれ前記規定枚数撮像し、
前記撮像した前記規定枚数の前記左画像のデータからピクセル毎のコード値を算出して左のコード画像データを生成し、
前記撮像した前記規定枚数の前記右画像のデータからピクセル毎のコード値を算出して右のコード画像データを生成し、
前記送信部を介して前記生成した前記左のコード画像データ及び前記右のコード画像データを前記制御装置に送信する、
ようにしてもよい。
また、本発明の第3の観点に係る3次元計測方法は、
グレイコードパターン画像及び位相シフトパターン画像を集光レンズ結像方式により計測対象に投影する投影ステップと、
前記投影ステップで前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を左撮像部及び右撮像部で撮像する撮像ステップと、
前記撮像ステップで前記左撮像部が撮像した左画像のデータ及び前記右撮像部が撮像した右画像のデータから視差画像データを生成する視差画像データ生成ステップと、
前記視差画像データ生成ステップで生成した視差画像データから前記計測対象の3次元形状を表す点群データを生成する点群データ生成ステップと、
を有する。
グレイコードパターン画像及び位相シフトパターン画像を集光レンズ結像方式により計測対象に投影する投影ステップと、
前記投影ステップで前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を左撮像部及び右撮像部で撮像する撮像ステップと、
前記撮像ステップで前記左撮像部が撮像した左画像のデータ及び前記右撮像部が撮像した右画像のデータから視差画像データを生成する視差画像データ生成ステップと、
前記視差画像データ生成ステップで生成した視差画像データから前記計測対象の3次元形状を表す点群データを生成する点群データ生成ステップと、
を有する。
また、本発明の第4の観点に係るプログラムは、
コンピュータに、
グレイコードパターン画像及び位相シフトパターン画像を集光レンズ結像方式により計測対象に投影する投影ステップ、
前記投影ステップで前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を左撮像部及び右撮像部で撮像する撮像ステップ、
前記撮像ステップで前記左撮像部が撮像した左画像のデータ及び前記右撮像部が撮像した右画像のデータから視差画像データを生成する視差画像データ生成ステップ、及び、
前記視差画像データ生成ステップで生成した視差画像データから前記計測対象の3次元形状を表す点群データを生成する点群データ生成ステップ、
を実行させる。
コンピュータに、
グレイコードパターン画像及び位相シフトパターン画像を集光レンズ結像方式により計測対象に投影する投影ステップ、
前記投影ステップで前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を左撮像部及び右撮像部で撮像する撮像ステップ、
前記撮像ステップで前記左撮像部が撮像した左画像のデータ及び前記右撮像部が撮像した右画像のデータから視差画像データを生成する視差画像データ生成ステップ、及び、
前記視差画像データ生成ステップで生成した視差画像データから前記計測対象の3次元形状を表す点群データを生成する点群データ生成ステップ、
を実行させる。
本発明によれば、集光レンズ結像方式の投影部、複数の撮像部及び位相シフトパターン画像を用いることにより、単純化した構造で耐久性が高く、しかも高い精度で計測対象の形状を計測することができる。
(実施の形態1)
本発明の実施の形態1について図面を参照して詳細に説明する。
本発明の実施の形態1について図面を参照して詳細に説明する。
本実施の形態に係る3次元計測システム1000は、図1に示すように、3次元計測カメラ100と制御装置200とを備え、3次元計測カメラ100で撮影した計測対象の形状を計測する(具体的には計測対象を構成する点の3次元位置の集まり(点群)を取得する)システムである。
3次元計測カメラ100は、図1に示すように、カメラ制御部110と、記憶部120と、通信部130と、投影部140と、左撮像部150と、右撮像部160と、を備える。制御装置200は、図1に示すように、制御部210と、記憶部220と、通信部230と、入力部240と、出力部250と、を備える。
カメラ制御部110は、FPGA(Field Programmable Gate Array)、CPU(Central Processing Unit)等で構成され、3次元計測カメラ100の各部を制御する。
記憶部120は、RAM(Random Access Memory)、ROM(Read Only Memory)等で構成される。記憶部120には、カメラ制御部110で各種処理を行うためのプログラム、投影部140から計測対象に投影する画像(投影画像)のデータ、後述するレクティファイテーブル等が予め記憶されている。また、記憶部120は、左撮像部150及び右撮像部160が撮像した画像データや、カメラ制御部110が演算処理等に使用するデータ等を記憶する。
上述したように、記憶部120には、投影画像のデータが記憶されているが、この投影画像には、全発光画像、全消灯画像、グレイコードパターン画像(7種類)、位相シフトパターン画像(4種類)の全部で13種類の画像が存在する。
全発光画像は、全てのピクセルが最高明度の白である画像であり、この画像を投影すると投影部140は一種のフラッシュのように働く。全消灯画像は、全てのピクセルが最低明度の黒である画像であり、この画像を投影しても、投影部140は、何も投影していないのと同様になる。グレイコードパターン画像及び位相シフトパターン画像は、投影部140と撮像部(左撮像部150及び右撮像部160)のピクセルの対応関係を求めるために使用される。
グレイコードパターン画像(7種類)は、各ピクセルのx方向(横方向)に7ビットのグレイコードを割り当てて、そのグレイコードを1ビットずつ7種類のグレイコードパターン画像の1枚1枚に割り振った画像である。ここでは「各ピクセルにグレイコードを割り当てる」としたが、グレイコードで表現できる数値(7ビットの場合0から127まで)よりもx方向のピクセル数の方が多い場合には、隣り合うピクセルを複数集めてピクセル群にし、「ピクセル群にグレイコードを割り当てる」としてもよい。
また、本実施の形態ではグレイコードパターン画像を7種類(7枚)としたが、投影部140の備えるDMD(Digital Mirror Device)や、左撮像部150及び右撮像部160の備えるCMOS(Complementary Metal Oxide Semiconductor)センサのx方向のピクセル数に合わせて、ピクセル数が多いなら8種類(8枚)以上にしてもよいし、ピクセル数が少ないなら7種類(7枚)未満にしてもよい。DMDやCMOSセンサのピクセル数に応じて、グレイコードパターン画像の種類数(枚数)である規定枚数を設定すればよい。そして、規定枚数のグレイコードパターン画像から各ピクセルに割り当てられたグレイコードを復元した画像データを、本実施の形態ではコード画像データと呼ぶ。
例えば、図2に示すように、x方向のピクセル数が8の場合は、グレイコードパターン画像の規定枚数は3枚でよい。そして、この3枚のグレイコードパターン画像の各ピクセルを枚数方向に重ね合わせて3ビットのグレイコードとして表現すると、図2に示すように、0から7までのコード値を持つコード画像データを得ることができる。
なお、図2では、白い部分を0、黒い部分を1に対応させ、1枚目をMSB(Most Significant Bit)、3枚目をLSB(Least Significant Bit)として表した場合である。白と黒のどちらを1に対応させるか、また、何枚目をMSBやLSBにするかは任意である。また、コード画像データの各ピクセルの値は、グレイコードそのものではなく、グレイコードに任意のバイアス値を加算したものにしてもよい。例えば、バイアス値として100を加算することにすると、コード画像データの各ピクセルの値は100から227までの値を取ることになる。
位相シフトパターン画像(4種類)は、x方向(横方向)に、所定の周期のサイン波で輝度を変化させた画像であり、サイン波の位相を90度ずつずらして4種類(4枚)用意したものである。輝度の値を何ビットで表現するかは任意であるが、本実施の形態では8ビットで表し、輝度の値は0から255までの値を取ることとする。
位相シフト法の原理から、この4枚の画像を撮像部で撮像し、n枚目の各ピクセル(x,y)の輝度をIn(x,y)で表すと、各ピクセル(x,y)における位相値φ(x,y)は、以下の式(1)で表すことができる。
φ(x,y)=tan-1((I3(x,y)-I1(x,y))
/(I0(x,y)-I2(x,y))) …(1)
φ(x,y)=tan-1((I3(x,y)-I1(x,y))
/(I0(x,y)-I2(x,y))) …(1)
各ピクセル(x,y)に、式(1)によって求めた位相値φ(x,y)を割り当てたデータを、本実施の形態では位相画像データと呼ぶ。位相値φ(x,y)は、-π/2からπ/2の実数値を取るが、位相画像データの各ピクセルの値は位相値そのものではなく、位相値に任意のバイアス値を加算したものにしてもよい。例えば、バイアス値としてπ/2を加算することにすると、位相画像データの各ピクセルの値は0からπまでの値を取ることになる。
なお、本実施の形態では位相シフトパターン画像を4種類(4枚)としたが、サイン波の位相をずらす値を90度以外にする場合は、それに応じて異なる枚数にしてもよい。例えば位相を120度ずつずらす場合には、位相シフトパターン画像は3種類(3枚)になる。
通信部130は、LAN(Local Area Network)アダプタ等で構成され、3次元計測カメラ100と制御装置200との間でデータ通信を行う。データ通信の一例として、通信部130は、左撮像部150及び右撮像部160が撮像した画像データを、制御装置200に送信する。この例のように、画像データを制御装置200に送信する際は、通信部130は、送信部として機能する。
投影部140は、投影デバイス(例えば、DLP(Digital Light Processing)で用いられるDMD)と、そのコントローラ(例えば、DLPC(Digital Light Processing Controller))、マイクロコントローラ等で構成される。投影部140は、カメラ制御部110から投影画像のデータ及び投影タイミングのトリガを受けて、計測対象に投影画像を投影する。
左撮像部150は、投影部140の左に設置される撮像デバイス(例えばCMOSセンサ)である。左撮像部150は、投影部140の左側から計測対象を撮像する。
右撮像部160は、投影部140の右に設置される撮像デバイス(例えばCMOSセンサ)である。右撮像部160は、投影部140の右側から計測対象を撮像する。左撮像部150と右撮像部160は、カメラ制御部110からの撮像指示により、同期が取れた撮像(同じタイミングでの撮像)を行うことができる。また、左撮像部150と右撮像部160のレンズ歪み補正を行ったり、左撮像部150と右撮像部160を疑似的に平行化したりするためのデータテーブルであるレクティファイテーブルが、記憶部120に記憶されている。
位相シフト法では、上述した位相シフトパターン画像等を投影する手段(プロジェクタ等)が必要となるので、本実施の形態に係る3次元計測カメラ100は投影部140を備える。そして、投影部140は、図3に示すような光学系の構造を持っている。LED(Light Emitting Diode)11から出力された光は、レンズ12及びレンズ13で集光され、コンデンサレンズ14上で結像する。そして、コンデンサレンズ14を通った光は、全反射プリズム15でDMDが搭載されたDLP基板16の方に反射して、DLP基板16のDLP素子上にレンズ12及びレンズ13の合成レンズの像を投影する。投影された光はDLP素子で反射して、プロジェクタレンズ17を通って出力される。このように集光レンズ(コンデンサレンズ14)上で結像させているので、ここではこの光学系のことを集光レンズ結像方式と呼ぶ。集光レンズ結像方式では、LED11からの光がコンデンサレンズ14上で結像し、レンズ12及びレンズ13で構成される合成レンズの像がDLP素子上に投影されるため、照明ムラが少なくなるが、中央が明るく周辺が暗い照度分布になる。
これに対し、図4に示すようなフライアイ照明系では、LED11から出力された光は、レンズ12及びレンズ13で集光された後に、フライアイレンズ18を2枚透過することにより、照度ムラが打ち消されて、隅々まで明るい均一光を得ることができる。したがって、一般的なプロジェクタでは図4に示すようなフライアイ照明系が使われることが多い。しかし、フライアイ照明系では、2枚のフライアイレンズ18を、照度ムラが打ち消されるように調整する必要があり、レンズの枚数も増えることから構造的にも複雑になり、振動や衝撃に弱く、また、サイズも大きくなってしまう。
しかし、本実施の形態で用いる位相シフト法はピクセル単位の輝度変化を用いてピクセル位相値を求めることから、本実施の形態に係る3次元計測カメラ100では、投影部140が照射する光の全体均一性はあまり重要ではない。それよりも、低コストで振動等に強く、高輝度で高コントラストな光源であることが求められる。フライアイ照明系はフライアイレンズを2枚必要とするので構造が複雑で、しかもこの2枚のフライアイレンズの調整も煩雑な点で、集光レンズ結像方式より振動等に弱く、コストが高くなる。また、フライアイ照明系では、光がフライアイレンズを2枚透過するため、光の強さも集光レンズ結像方式より弱くなる。したがって、本実施の形態に係る3次元計測カメラ100では、集光レンズ結像方式を用いる。また、構造を単純化、コンパクト化でき、耐久性を高くできる点でも、集光レンズ結像方式はフライアイ照明系よりも本実施の形態に適している。
なお、3次元計測カメラ100の左撮像部150と右撮像部160は、図3に示すように、それぞれ、CMOS基板21、カメラレンズホルダ22及びカメラレンズ23を備え、投影部140の左側と右側とに設置された構造になっている。
また、図5に示すように、コンデンサレンズ14の前後にミラー19を入れることにより、光学系をさらにコンパクトにすることもできる。この時、ミラー19は必ずしも2枚入れる必要はなく、コンデンサレンズ14の前又は後ろに1枚だけ入れてもよい。例えば、コンデンサレンズ14の前に1枚のミラー19を入れると、図6に示すような光学系になる。これらも全て、集光レンズ結像方式の一例である。
図1に戻り、制御部210は、CPU等で構成され、記憶部220に記憶されているプログラムを実行することにより、各種演算処理を実行する。
記憶部220は、RAM、ROM等で構成される。記憶部220には、制御部210で各種処理を行うためのプログラム等が予め記憶されている。また、記憶部220は、3次元計測カメラ100から受信したデータや、制御部210が演算処理等に使用するデータ等を記憶する。
通信部230は、LANアダプタ等で構成され、3次元計測カメラ100と制御装置200との間でデータ通信を行う。データ通信の一例として、通信部230は、3次元計測カメラ100から送信された画像データを受信する。この例のように、画像データを3次元計測カメラ100から受信する際は、通信部230は、受信部として機能する。
入力部240は、キーボード、マウス、タッチパネル等で構成され、制御装置200に対するユーザの指示を取得する。
出力部250は、液晶、有機EL(Electro-Luminescence)等によるディスプレイを備え、計測対象の3次元形状を表す点群データの表示等を行う。
以上、3次元計測カメラ100及び制御装置200を含む3次元計測システム1000の構成について説明した。
次に、3次元計測カメラ100のカメラ制御部110が実行する撮像処理について、図7を参照して説明する。この撮像処理は、制御装置200から、通信部130を介して撮像指示を受けると処理が開始される。以下の説明では、この時、制御装置200は、投影部140から計測対象に投影する投影画像の種類を、3次元計測カメラ100に送信するものとして説明する。もっとも、投影部140は上述した13種類の投影画像を予め決められた順番(シーケンス)で投影するので、3次元計測カメラ100の方で投影画像の種類を示すカウンタを持たせる等すれば、制御装置200は投影画像の種類を3次元計測カメラ100に送信しなくてもよい。
まず、カメラ制御部110は、制御装置200から受信した投影画像の種類の画像を、投影部140から投影する(ステップS101)。ステップS101は投影ステップとも呼ばれる。ここで投影画像の種類は、上述した、全発光画像、全消灯画像、グレイコードパターン画像(7種類)、位相シフトパターン画像(4種類)の13種類のいずれかである。
次に、カメラ制御部110は、左撮像部150及び右撮像部160で計測対象を同時に撮像する(ステップS102)。ステップS102は撮像ステップとも呼ばれる。そして、カメラ制御部110は、左撮像部150で撮像した画像データ(左画像データ)及び右撮像部160で撮像した画像データ(右画像データ)を記憶部120に保存する(ステップS103)。
次にカメラ制御部110は、記憶部120に記憶されているレクティファイテーブルを参照して、レクティファイを実行する(ステップS104)。レクティファイとは、撮像部のレンズの歪曲収差を補正したり、左右の撮像部を疑似平行化したりすることを言う。例えば、較正用画像データを左撮像部150で撮像して得られた画像を、元の較正用画像データに戻すための演算テーブルを算出すれば、それが左撮像部150用のレクティファイテーブル(左画像用レクティファイテーブル)になる。右撮像部160についても同様である。このようなレクティファイテーブルを予め記憶部120に用意しておき、ステップS104では、左画像データに対して左画像用レクティファイテーブルを適用し、右画像データに対して右画像用レクティファイテーブルを適用する。
そして、カメラ制御部110は、レクティファイ後の左画像データとレクティファイ後の右画像データを1つに結合して、通信部130を介して、制御装置200に送信し(ステップS105)、撮像処理を終了する。
次に、上述した撮像処理をサブルーチン的に用いて、計測対象を構成する点群を取得する計測処理について、図8を参照して説明する。この処理は、入力部240にユーザが計測指示を入力すると開始する。
まず、制御部210は、投影画像の種類として、全発光画像を指定して、3次元計測カメラ100に、撮像指示を送信する(ステップS201)。すると、3次元計測カメラ100で上述の撮像処理が行われ、撮像した左画像及び右画像のデータが制御装置200に送信される。そして、制御部210は、3次元計測カメラ100から受信した左画像データを左の白画像データとして、右画像データを右の白画像データとして、それぞれ記憶部220に保存する(ステップS202)。なお、3次元計測カメラ100の方で予め決められた投影画像のシーケンスを記憶している場合には、ステップS201で制御部210は、投影画像の種類を指定する必要はなく、撮像指示を送信するだけでよい。この場合、予め決められたシーケンスの最初の投影画像が全発光画像であり、以下、後述するように、全消灯画像、グレイコードパターン画像(7種類)、位相シフトパターン画像(4種類)が続く。
次に、制御部210は、投影画像の種類として、全消灯画像を指定して、3次元計測カメラ100に、撮像指示を送信する(ステップS203)。すると、3次元計測カメラ100で上述の撮像処理が行われ、撮像した左画像データ及び右画像データが制御装置200に送信される。そして、制御部210は、3次元計測カメラ100から受信した左画像データを左の黒画像データとして、右画像データを右の黒画像データとして、それぞれ記憶部220に保存する(ステップS204)。
次に、制御部210は、投影画像の種類として、グレイコードパターン画像の7種類を順次指定して、3次元計測カメラ100に撮像指示し、3次元計測カメラ100で撮像処理が行われて送信された左画像データ及び右画像データを、それぞれ左のグレイコード画像データ及び右のグレイコード画像データとして記憶部220に保存する(ステップS205)。制御部210は、グレイコードパターン画像の7枚を順次指定しては、3次元計測カメラ100に撮像指示を出すので、左のグレイコード画像データ及び右のグレイコード画像データも、それぞれ7枚得られ、それらが記憶部220に保存される。
そして、制御部210は、左のグレイコード画像データからは左の黒画像データを減算し、右のグレイコード画像データからは右の黒画像データを減算し、左の黒画像データを減算した後の左のグレイコード画像データ7枚から左のコード画像データを生成し、右の黒画像データを減算した後の右のグレイコード画像データ7枚から右のコード画像データを生成する(ステップS206)。このステップでは、制御部210は、グレイコード画像データから黒画像データを減算した画像データを、各ピクセルが0又は1の画像データにする。例えば、制御部210は、判定閾値として、各ピクセルについて(白画像データ-黒画像データ)÷2を求めておき、各ピクセルについて(グレイコード画像データ-黒画像データ)がこの判定閾値より小さいか否かにより、そのピクセルの値を0又は1にする。そして、制御部210は、このような各ピクセルが0又は1になっているデータを7つ束ねることでコード画像データを生成する。
次に、制御部210は、投影画像の種類として、位相シフトパターン画像の4種類を順次指定して、3次元計測カメラ100に撮像指示し、3次元計測カメラ100で撮像処理が行われて送信された左画像データ及び右画像データを、それぞれ左の位相シフト画像データ及び右の位相シフト画像データとして記憶部220に保存する(ステップS207)。制御部210は、位相シフトパターン画像の4枚を順次指定しては、3次元計測カメラ100に撮像指示を出すので、左の位相シフト画像データ及び右の位相シフト画像データも、それぞれ4枚得られ、それらが記憶部220に保存される。
そして、制御部210は、左の位相シフト画像データ4枚から左の位相画像データを生成し、右の位相シフト画像データ4枚から右の位相画像データを生成する(ステップS208)。位相画像データはラジアンで表されるので、通常は各ピクセルは浮動小数点型である。ただし、メモリの効率化、計算処理の高速化のために16ビット整数化等して、整数や固定小数点の数として表してもよい。
次に、制御部210は、左のコード画像データと左の位相画像データから左のunwrap位相画像データを生成し、右のコード画像データと右の位相画像データから右のunwrap位相画像データを生成する(ステップS209)。位相画像データは周期的に同じ範囲(例えば0からπまで)の値が波状に繰り返されるデータになるが、このデータをコード画像データの情報を用いて、単調増加的なデータに変換したものがunwrap位相画像データである。
そして、制御部210は、左右のunwrap位相画像データから、視差画像データを生成する(ステップS210)。ステップS210は、視差画像データ生成ステップとも呼ばれる。ここで、視差画像データとは、左画像データを基準にした各ピクセルでの視差を値とするデータである。具体的には、左右のunwrap位相画像データ内の相互に対応するエピポーラ線(y座標が一定の水平線になる)に沿って、左右のピクセル値(unwrap位相値)が一致する一致点を求め、この一致点のx座標の左右の差(右のunwrap位相画像データ中の一致点のx座標-左のunwrap位相画像データ中の一致点のx座標)を、ピクセル(x,y)の値にしたデータである。
実際には、unwrap位相画像データの各ピクセルの値(unwrap後の位相値)は実数値であり、左右で値が一致することはあまりない。そこで、左右で値が一致しない場合には、右のunwrap位相画像データをピクセル間で内挿(場合によってはピクセル外に外挿)して、左のunwrap位相画像データの当該ピクセルの値に一致したであろう仮想的なx座標を算出し、その仮想的なx座標から、左のunwrap位相画像データのx座標を引くことによって視差画像データの当該ピクセル(x,y)の値を求める。
unwrap位相画像データから視差画像データを求める場合の具体例を図9に示す。図9では、左撮像部150が撮像した画像データのうち一点鎖線31に対応する部分のunwrap位相値を実線41で表し、右撮像部160が撮像した画像データのうち一点鎖線32に対応する部分のunwrap位相値を点線42で表している。この例では、物体33に投影部140からの光を投射すると影34ができ、影34の部分には投影部140からの光が到達しないため、グラフ上では左の光不達領域43及び、右の光不達領域44として間隙ができている。そして、視差45で表される値が、視差画像データの値となる。
次に、制御部210は、視差画像データと、各撮像部のカメラパラメータに基づき、三角法の原理により各ピクセルの3次元位置を求めて点群データを生成する(ステップS211)。ステップS211は、点群データ生成ステップとも呼ばれる。そして、制御部210は、左の白画像データを計測対象のテクスチャ画像として、点群データに貼り付けて出力部250に表示し(ステップS212)、計測処理を終了する。
視差画像データから各ピクセルの3次元位置を求める方法について補足説明する。なお、ここでは、視差画像データの[x,y]座標の値(符号付き浮動小数点型)をpar[x,y]で表し、カメラパラメータから算出される同次座標系の4×4の透視変換行列をQで表す。また、右肩のTは転置を表す。そして、視差画像データの[x,y]座標のピクセルの3次元位置を3dImage[x,y]で表す。すると、
[X Y Z W]T=Q×[x y par[x,y] 1]T
3dImage[x,y]=(X/W,Y/W,Z/W)
となる。
[X Y Z W]T=Q×[x y par[x,y] 1]T
3dImage[x,y]=(X/W,Y/W,Z/W)
となる。
以上の計測処理により、計測対象の形状がテクスチャとともに確認できる点群データが出力部250に表示される。この点群データの3次元位置は、位相シフト法を用いて算出しているので、撮像部が取得する画像のピクセルの大きさよりも細かい精度で求めることができる。
なお、単眼カメラとプロジェクタとで位相シフト法により3次元位置を計測する方法も知られているが、この方法では、単眼カメラとプロジェクタとの間のキャリブレーションを正確に行わないと、位相シフト法の特長である高精度での3次元位置計測ができない。しかし、単眼カメラとプロジェクタとの間のキャリブレーションはかなり煩雑である。
それに対し、本実施の形態では、左撮像部150と右撮像部160により、ステレオカメラが構成されており、この2つのカメラで撮像した画像から視差画像データを求めることによって3次元位置計測を行っているので、カメラとプロジェクタ(投影部140)との間のキャリブレーションは不要である。本実施の形態では、ステレオカメラのキャリブレーション(左撮像部150と右撮像部160の間のキャリブレーション)は必要だが、カメラ間のキャリブレーションは、用意したキャリブレーション板を左撮像部150と右撮像部160のカメラで同時に撮影した画像を複数セット用意することで精度良く行うことができ、カメラとプロジェクタとの間のキャリブレーションに比較すると格段に容易に行うことができる。したがって、本実施の形態では、煩雑なキャリブレーション不要で、位相シフト法による正確な3次元位置計測を行うことができる。
なお、上述の実施の形態1では、記憶部120にレクティファイテーブルが記憶されており、カメラ制御部110がレクティファイを実行した(ステップS104)。しかし、レクティファイテーブルが記憶部120ではなく、記憶部220に記憶されている実施の形態であってもよい。この場合、カメラ制御部110はレクティファイを実行せず(ステップS104は削除)、制御部210が、3次元計測カメラ100から受信した画像データをレクティファイしてから記憶部220に保存することになる。
(実施の形態2)
上述の実施の形態1では、3次元計測カメラ100は、記憶部120に記憶されている13種類の投影画像に対応する撮像画像のデータを制御装置200に送信する必要があった。このデータは、白画像データ、黒画像データ、グレイコード画像データ(7枚)及び位相シフト画像データ(4枚)で、それぞれ左右のデータがあるので、合計26枚の画像データを送信する必要があった。3次元計測カメラ100から制御装置200に転送するデータ量が多くなるほど、計測に必要な時間が増え、また、データ転送失敗による再撮影が必要になる可能性も高くなる。これに対し、3次元計測カメラ100の内部で、コード画像及び位相画像の生成まで行うようにすれば、制御装置200に送信する画像データは左の白画像データ並びに左右のコード画像データ及び位相画像データだけでよくなり、合計5枚の画像データの送信だけで済む。そうすれば、転送データ量が削減され、データ転送時間も短縮され、データ転送エラーになる確率も低減される。このように、3次元計測カメラ100でコード画像及び位相画像を生成する実施の形態2について、説明する。
上述の実施の形態1では、3次元計測カメラ100は、記憶部120に記憶されている13種類の投影画像に対応する撮像画像のデータを制御装置200に送信する必要があった。このデータは、白画像データ、黒画像データ、グレイコード画像データ(7枚)及び位相シフト画像データ(4枚)で、それぞれ左右のデータがあるので、合計26枚の画像データを送信する必要があった。3次元計測カメラ100から制御装置200に転送するデータ量が多くなるほど、計測に必要な時間が増え、また、データ転送失敗による再撮影が必要になる可能性も高くなる。これに対し、3次元計測カメラ100の内部で、コード画像及び位相画像の生成まで行うようにすれば、制御装置200に送信する画像データは左の白画像データ並びに左右のコード画像データ及び位相画像データだけでよくなり、合計5枚の画像データの送信だけで済む。そうすれば、転送データ量が削減され、データ転送時間も短縮され、データ転送エラーになる確率も低減される。このように、3次元計測カメラ100でコード画像及び位相画像を生成する実施の形態2について、説明する。
実施の形態2に係る3次元計測システム1001の構成は、実施の形態1に係る3次元計測システム1000と同じであり、図1に示される。異なる点は、3次元計測カメラ100が実行する撮像処理と、制御装置200が実行する計測処理である。そこで、これらの処理について順次説明する。
まず、実施の形態2に係る3次元計測カメラ100のカメラ制御部110が実行する撮像処理について、図10を参照して説明する。この撮像処理は、制御装置200から、通信部130を介して撮像指示を受けると処理が開始される。実施の形態1では、制御装置200が、投影画像の種類の情報を送信する場合もあり得たが、実施の形態2では、制御装置200は投影画像の種類の情報を送信しない3次元計測カメラ100が自ら予め決められたシーケンスで各投影画像を順次投影していくからである。
まず、カメラ制御部110は、投影部140で全発光画像を投影する(ステップS121)。そして、カメラ制御部110は、左撮像部150及び右撮像部160で計測対象を撮像し、撮像して得られた画像データを(記憶部120に記憶されているレクティファイテーブルを参照して)レクティファイしてから、左画像データを左の白画像データとして、右画像データを右の白画像データとして、それぞれ記憶部120に保存する(ステップS122)。
次に、カメラ制御部110は、投影部140で全消灯画像を投影する(ステップS123)。そして、カメラ制御部110は、左撮像部150及び右撮像部160で計測対象を撮像し、撮像して得られた画像データをレクティファイしてから、左画像データを左の黒画像データとして、右画像データを右の黒画像データとして、それぞれ記憶部120に保存する(ステップS124)。
次に、カメラ制御部110は、投影部140でグレイコードパターン画像の7種類を順次投影し、左撮像部150及び右撮像部160で計測対象を撮像し、撮像して得られた左画像データ及び右画像データをレクティファイしてから、それぞれ左のグレイコード画像データ及び右のグレイコード画像データとして記憶部120に保存する(ステップS125)。カメラ制御部110は、グレイコードパターン画像の7枚を順次投影しては、左撮像部150及び右撮像部160で撮像するので、左のグレイコード画像データ及び右のグレイコード画像データも、それぞれ7枚得られ、それらが記憶部120に保存される。
そして、カメラ制御部110は、左のグレイコード画像データからは左の黒画像データを減算し、右のグレイコード画像データからは右の黒画像データを減算し、左の黒画像データを減算した後の左のグレイコード画像データ7枚から左のコード画像データを生成し、右の黒画像データを減算した後の右のグレイコード画像データ7枚から右のコード画像データを生成する(ステップS126)。
次に、カメラ制御部110は、投影部140で位相シフトパターン画像の4種類を順次投影し、左撮像部150及び右撮像部160で計測対象を撮像し、撮像して得られた左画像データ及び右画像データをレクティファイしてから、それぞれ左の位相シフト画像データ及び右の位相シフト画像データとして記憶部120に保存する(ステップS127)。カメラ制御部110は、位相シフトパターン画像の4枚を順次投影しては、左撮像部150及び右撮像部160で撮像するので、左の位相シフト画像データ及び右の位相シフト画像データも、それぞれ4枚得られ、それらが記憶部120に保存される。
そして、カメラ制御部110は、左の位相シフト画像データ4枚から左の位相画像データを生成し、右の位相シフト画像データ4枚から右の位相画像データを生成する(ステップS128)。位相画像データは単位がラジアンで表されるため、通常は各ピクセルの値を浮動小数点型(4バイト又は8バイト)で表す。ただし、転送データ量を減らすために、2バイト(16ビット)固定小数点型で表したり、8ビットシフト(256倍)した2バイト表現の位相データ値として表してもよい。この場合、データを受信した制御装置200側では、受信データを浮動小数点型に変換してから扱ってもよい。
そして、カメラ制御部110は、左の白画像データ、左のコード画像データ、右のコード画像データ、左の位相画像データ及び右の位相画像データを、通信部130を介して、制御装置200に送信し(ステップS129)、撮像処理を終了する。
次に、上述した撮像処理を用いて、計測対象を構成する点群を取得する計測処理について、図11を参照して説明する。この処理は、入力部240にユーザが計測指示を入力すると開始する。
まず、制御部210は、3次元計測カメラ100に、撮像指示を送信する(ステップS221)。すると、3次元計測カメラ100で上述の撮像処理が行われ、3次元計測カメラ100から、制御装置200に、レクティファイ後の白画像データ、左のコード画像データ、右のコード画像データ、左の位相画像データ及び右の位相画像データが送信される。そして、制御部210は、通信部230を介して、3次元計測カメラ100から、レクティファイ後の左の白画像データ、左のコード画像データ、右のコード画像データ、左の位相画像データ及び右の位相画像データを受信し、記憶部220に保存する(ステップS222)。
次に、制御部210は、左のコード画像データと左の位相画像データから左のunwrap位相画像データを生成し、右のコード画像データと右の位相画像データから右のunwrap位相画像データを生成する(ステップS223)。unwrap位相画像データについては実施の形態1で説明した通りである。
そして、制御部210は、左右のunwrap位相画像データから、視差画像データを生成する(ステップS224)。視差画像データも実施の形態1で説明した通りである。
次に、制御部210は、視差画像データと、各撮像部のカメラパラメータに基づき、各ピクセル毎の3次元位置を求めて点群データを生成する(ステップS225)。そして、制御部210は、左の白画像データを計測対象のテクスチャ画像として、点群データに貼り付けて出力部250に表示し(ステップS226)、計測処理を終了する。
以上の計測処理により、計測対象の形状がテクスチャとともに確認できる点群データが出力部250に表示される。この点群データの3次元位置は、位相シフト法を用いて算出しているので、撮像部が取得する画像のピクセルの大きさよりも細かい精度で求めることができる。しかも、3次元計測カメラ100は、レクティファイ後の白画像データ、左のコード画像データ、右のコード画像データ、左の位相画像データ及び右の位相画像データのみを送信するので、実施の形態1に比較して、制御装置200の負荷は軽く、また転送データ量が少ないため、転送データをロスして画像転送に失敗する確率も低くなる。
以上、実施の形態1及び実施の形態2について説明したが、これらの実施の形態は、種々の変更を行うことが可能である。
例えば、上述の実施の形態1では制御装置200がコード画像の生成及び位相画像の生成を行い、上述の実施の形態2では3次元計測カメラ100がコード画像の生成及び位相画像の生成を行っていたが、この2つの装置の間の処理の分担はこれに限定されるわけではない。例えば、3次元計測カメラ100がコード画像の生成を行うが、位相画像の生成は制御装置200が行うようにしてもよい。
また、上述の実施の形態2では、3次元計測カメラ100は、撮像データを毎回レクティファイしてから記憶部120に保存していたが、記憶部120にはレクティファイ前の撮像データを保存し、レクティファイ前の画像データを用いてコード画像データ及び位相画像データを生成し、その最終的に得られたコード画像データ及び位相画像データに対してレクティファイを行うようにしてもよい。このようにすると、レクティファイを行う画像データの枚数を26枚から5枚(左の白画像データ並びに左右のコード画像データ及び位相画像データ)に減らすことができる。
また、上述の実施の形態では、投影部140の照明系として、コスト面、調整の簡便さ、耐久性等の点から集光レンズ結像方式を用いたが、他の照明系(フライアイ照明系、クリティカル照明系)を用いてもよい。
なお、3次元計測カメラ100のカメラ制御部110及び制御装置200の制御部210の各機能は、通常のPC(Personal Computer)等のコンピュータによっても実施することができる。具体的には、上記実施の形態では、3次元計測カメラ100のカメラ制御部110が行う撮像処理のプログラムが記憶部120のROMに、制御装置200の制御部210が行う計測処理のプログラムが記憶部220のROMに、それぞれ予め記憶されているものとして説明した。しかし、プログラムを、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)、MO(Magneto-Optical Disc)、メモリカード、USB(Universal Serial Bus)メモリ等のコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムをコンピュータに読み込んでインストールすることにより、上述の機能を実現することができるコンピュータを構成してもよい。
以上、本発明の好ましい実施形態について説明したが、本発明は、本発明の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、この発明を説明するためのものであり、本発明の範囲を限定するものではない。すなわち、本発明の範囲は、実施の形態ではなく、請求の範囲によって示される。そして、請求の範囲内及びそれと同等の発明の意義の範囲内で施される様々な変形が、この発明の範囲内とみなされる。
本出願は、2018年9月6日に出願された日本国特許出願特願2018-167262号に基づく。本明細書中に日本国特許出願特願2018-167262号の明細書、特許請求の範囲、図面全体を参照として取り込むものとする。
11…LED
12,13…レンズ
14…コンデンサレンズ
15…全反射プリズム
16…DLP基板
17…プロジェクタレンズ
18…フライアイレンズ
21…CMOS基板
22…カメラレンズホルダ
23…カメラレンズ
31,32…一点鎖線
33…物体
34…影
41…実線
42…点線
43,44…光不達領域
45…視差
100…3次元計測カメラ
110…カメラ制御部
120,220…記憶部
130,230…通信部
140…投影部
150…左撮像部
160…右撮像部
200…制御装置
210…制御部
240…入力部
250…出力部
1000,1001…3次元計測システム
12,13…レンズ
14…コンデンサレンズ
15…全反射プリズム
16…DLP基板
17…プロジェクタレンズ
18…フライアイレンズ
21…CMOS基板
22…カメラレンズホルダ
23…カメラレンズ
31,32…一点鎖線
33…物体
34…影
41…実線
42…点線
43,44…光不達領域
45…視差
100…3次元計測カメラ
110…カメラ制御部
120,220…記憶部
130,230…通信部
140…投影部
150…左撮像部
160…右撮像部
200…制御装置
210…制御部
240…入力部
250…出力部
1000,1001…3次元計測システム
Claims (9)
- 3次元計測カメラと、制御装置と、を備え、
前記3次元計測カメラは、
集光レンズ結像方式により計測対象に画像を投影する投影部と、
前記投影部の左から前記計測対象を撮像する左撮像部と、
前記投影部の右から前記計測対象を撮像する右撮像部と、
前記左撮像部で撮像した左画像のデータ及び前記右撮像部で撮像した右画像のデータを前記制御装置に送信する送信部と、
カメラ制御部と、
を備え、
前記制御装置は、
前記送信部から送信されたデータを受信する受信部と、
制御部と、
を備え、
前記カメラ制御部は、
前記投影部によりグレイコードパターン画像及び位相シフトパターン画像を前記計測対象に投影し、
前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部で撮像し、
前記送信部を介して前記撮像した前記左画像のデータ及び前記右画像のデータを前記制御装置に送信し、
前記制御部は、
前記受信部を介して前記左画像のデータ及び前記右画像のデータを前記3次元計測カメラから受信し、
前記左画像のデータ及び前記右画像のデータから視差画像データを生成し、
前記視差画像データから前記計測対象の3次元形状を表す点群データを生成する、
3次元計測システム。 - 前記制御装置が備える前記制御部は、前記視差画像データの生成の際に、前記左画像内及び前記右画像内の相互に対応するエピポーラ線に沿って、前記左画像の位相値と前記右画像の位相値とが一致する点を求め、それらの点の横方向の位置の差を視差とする、
請求項1に記載の3次元計測システム。 - 集光レンズ結像方式により計測対象に画像を投影する投影部と、
前記投影部の左から前記計測対象を撮像する左撮像部と、
前記投影部の右から前記計測対象を撮像する右撮像部と、
前記左撮像部で撮像した左画像のデータ及び前記右撮像部で撮像した右画像のデータを外部の制御装置に送信する送信部と、
カメラ制御部と、
を備え、
前記カメラ制御部は、
前記投影部によりグレイコードパターン画像及び位相シフトパターン画像を前記計測対象に投影し、
前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部で撮像し、
前記送信部を介して前記撮像した前記左画像のデータ及び前記右画像のデータを前記制御装置に送信する、
3次元計測カメラ。 - 前記カメラ制御部は、前記左撮像部及び前記右撮像部に対して、同時に撮像指示を出し、撮像して得られた同期した前記左画像のデータ及び前記右画像のデータを1つに結合して前記制御装置に送信する、
請求項3に記載の3次元計測カメラ。 - 前記撮像した前記左画像のデータ及び前記右画像のデータを補正するためのデータテーブルであるレクティファイテーブルをさらに備え、
前記カメラ制御部は、前記撮像した前記左画像のデータ及び前記右画像のデータを、前記レクティファイテーブルを用いて補正し、補正後のデータを前記制御装置に送信する、
請求項3又は4に記載の3次元計測カメラ。 - 前記カメラ制御部は、
前記投影部により90度ずつ位相をずらした4枚の位相シフトパターン画像を前記計測対象に投影し、
前記位相シフトパターン画像が投影された前記計測対象を前記位相シフトパターン画像の位相を90度ずつずらして前記左撮像部及び前記右撮像部でそれぞれ4枚撮像し、
前記撮像した4枚の前記左画像のデータからピクセル毎の位相値を算出して左の位相画像データを生成し、
前記撮像した4枚の前記右画像のデータからピクセル毎の位相値を算出して右の位相画像データを生成し、
前記送信部を介して前記生成した前記左の位相画像データ及び前記右の位相画像データを前記制御装置に送信する、
請求項3から5のいずれか1項に記載の3次元計測カメラ。 - 前記カメラ制御部は、
前記投影部により規定枚数のグレイコードパターン画像を前記計測対象に投影し、
前記各グレイコードパターン画像が投影された前記計測対象を前記左撮像部及び前記右撮像部でそれぞれ前記規定枚数撮像し、
前記撮像した前記規定枚数の前記左画像のデータからピクセル毎のコード値を算出して左のコード画像データを生成し、
前記撮像した前記規定枚数の前記右画像のデータからピクセル毎のコード値を算出して右のコード画像データを生成し、
前記送信部を介して前記生成した前記左のコード画像データ及び前記右のコード画像データを前記制御装置に送信する、
請求項3から6のいずれか1項に記載の3次元計測カメラ。 - グレイコードパターン画像及び位相シフトパターン画像を集光レンズ結像方式により計測対象に投影する投影ステップと、
前記投影ステップで前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を左撮像部及び右撮像部で撮像する撮像ステップと、
前記撮像ステップで前記左撮像部が撮像した左画像のデータ及び前記右撮像部が撮像した右画像のデータから視差画像データを生成する視差画像データ生成ステップと、
前記視差画像データ生成ステップで生成した視差画像データから前記計測対象の3次元形状を表す点群データを生成する点群データ生成ステップと、
を有する3次元計測方法。 - コンピュータに、
グレイコードパターン画像及び位相シフトパターン画像を集光レンズ結像方式により計測対象に投影する投影ステップ、
前記投影ステップで前記グレイコードパターン画像が投影された前記計測対象及び前記位相シフトパターン画像が投影された前記計測対象を左撮像部及び右撮像部で撮像する撮像ステップ、
前記撮像ステップで前記左撮像部が撮像した左画像のデータ及び前記右撮像部が撮像した右画像のデータから視差画像データを生成する視差画像データ生成ステップ、及び、
前記視差画像データ生成ステップで生成した視差画像データから前記計測対象の3次元形状を表す点群データを生成する点群データ生成ステップ、
を実行させるためのプログラム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018167262A JP2020041822A (ja) | 2018-09-06 | 2018-09-06 | 3次元計測システム、3次元計測カメラ、3次元計測方法及びプログラム |
| JP2018-167262 | 2018-09-06 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2020049965A1 true WO2020049965A1 (ja) | 2020-03-12 |
Family
ID=69722424
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2019/031840 Ceased WO2020049965A1 (ja) | 2018-09-06 | 2019-08-13 | 3次元計測システム、3次元計測カメラ、3次元計測方法及びプログラム |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP2020041822A (ja) |
| WO (1) | WO2020049965A1 (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113532325A (zh) * | 2021-06-08 | 2021-10-22 | 深圳市格灵精睿视觉有限公司 | 动态步数解相方法、电子设备及计算机可读存储介质 |
| WO2024113127A1 (zh) * | 2022-11-29 | 2024-06-06 | 电子科技大学 | 一种基于结构光和双目视觉的三维重建方法 |
| WO2025027687A1 (ja) * | 2023-07-28 | 2025-02-06 | 日本電気株式会社 | 情報処理システム、情報処理方法、及び、記録媒体 |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113028989B (zh) * | 2021-03-05 | 2022-08-16 | 苏州天准软件有限公司 | 物体的三维信息获取方法及装置 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH07262375A (ja) * | 1994-03-25 | 1995-10-13 | Toshiba Corp | 移動体検出装置 |
| JP2007304743A (ja) * | 2006-05-10 | 2007-11-22 | National Institute Of Advanced Industrial & Technology | 視差補間処理方法および処理装置 |
| JP2007315864A (ja) * | 2006-05-24 | 2007-12-06 | Roland Dg Corp | 3次元形状測定方法およびその装置 |
| JP2009026250A (ja) * | 2007-07-23 | 2009-02-05 | Panasonic Corp | 面成分検出装置、地上面検出装置、及び障害物検出装置 |
| JP2011252835A (ja) * | 2010-06-03 | 2011-12-15 | Myuu Skynet:Kk | 三次元形状計測装置 |
| JP2013205175A (ja) * | 2012-03-28 | 2013-10-07 | Dainippon Screen Mfg Co Ltd | 3次元対象面認識装置および方法、ならびにプログラム |
| JP2014059239A (ja) * | 2012-09-18 | 2014-04-03 | Fujitsu Ltd | 形状計測装置及び形状計測方法 |
-
2018
- 2018-09-06 JP JP2018167262A patent/JP2020041822A/ja active Pending
-
2019
- 2019-08-13 WO PCT/JP2019/031840 patent/WO2020049965A1/ja not_active Ceased
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH07262375A (ja) * | 1994-03-25 | 1995-10-13 | Toshiba Corp | 移動体検出装置 |
| JP2007304743A (ja) * | 2006-05-10 | 2007-11-22 | National Institute Of Advanced Industrial & Technology | 視差補間処理方法および処理装置 |
| JP2007315864A (ja) * | 2006-05-24 | 2007-12-06 | Roland Dg Corp | 3次元形状測定方法およびその装置 |
| JP2009026250A (ja) * | 2007-07-23 | 2009-02-05 | Panasonic Corp | 面成分検出装置、地上面検出装置、及び障害物検出装置 |
| JP2011252835A (ja) * | 2010-06-03 | 2011-12-15 | Myuu Skynet:Kk | 三次元形状計測装置 |
| JP2013205175A (ja) * | 2012-03-28 | 2013-10-07 | Dainippon Screen Mfg Co Ltd | 3次元対象面認識装置および方法、ならびにプログラム |
| JP2014059239A (ja) * | 2012-09-18 | 2014-04-03 | Fujitsu Ltd | 形状計測装置及び形状計測方法 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113532325A (zh) * | 2021-06-08 | 2021-10-22 | 深圳市格灵精睿视觉有限公司 | 动态步数解相方法、电子设备及计算机可读存储介质 |
| WO2024113127A1 (zh) * | 2022-11-29 | 2024-06-06 | 电子科技大学 | 一种基于结构光和双目视觉的三维重建方法 |
| WO2025027687A1 (ja) * | 2023-07-28 | 2025-02-06 | 日本電気株式会社 | 情報処理システム、情報処理方法、及び、記録媒体 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2020041822A (ja) | 2020-03-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10008007B2 (en) | Method for generating an array of 3-D points | |
| JP6548422B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
| US20200278197A1 (en) | Measurement apparatus, measurement method, system, storage medium, and information processing apparatus | |
| JP5999615B2 (ja) | カメラ較正情報生成装置、カメラ較正情報生成方法およびカメラ較正情報生成プログラム | |
| JP5576726B2 (ja) | 三次元計測装置、三次元計測方法、及びプログラム | |
| JP2021067644A (ja) | 三次元計測装置 | |
| US20140078490A1 (en) | Information processing apparatus and method for measuring a target object | |
| JP2020041822A (ja) | 3次元計測システム、3次元計測カメラ、3次元計測方法及びプログラム | |
| JP2018522235A (ja) | 撮影デバイス及び奥行き情報を取得するための方法 | |
| US11803982B2 (en) | Image processing device and three-dimensional measuring system | |
| CN104160243A (zh) | 距离测量装置和距离测量方法 | |
| JP2014089081A (ja) | 計測装置及びその制御方法、プログラム | |
| JP2003269928A (ja) | 3次元形状計測方法および装置ならびにプログラム | |
| KR20000071453A (ko) | 렌지파인더 장치 | |
| JP6351201B2 (ja) | 距離計測装置および方法 | |
| US20230199324A1 (en) | Projection unit and photographing apparatus comprising same projection unit, processor, and imaging device | |
| JP6071363B2 (ja) | 距離計測装置及び方法 | |
| WO2023207756A1 (zh) | 图像重建方法和装置及设备 | |
| CN104697469A (zh) | 利用谐波幅值判定饱和的高动态三维测量方法 | |
| JP2017116420A (ja) | データ処理装置およびその方法 | |
| JP2014186010A (ja) | 計測装置、方法及びプログラム | |
| US20200320725A1 (en) | Light projection systems | |
| CN112824935A (zh) | 基于调制光场的深度成像系统、方法、设备及介质 | |
| JP2016102755A (ja) | 情報処理装置、情報処理方法及びプログラム | |
| CN113766083A (zh) | 跟踪式扫描系统的参数配置方法、电子装置和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 19857672 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 19857672 Country of ref document: EP Kind code of ref document: A1 |