JP2003254748A - ステレオ画像特性検査システム - Google Patents
ステレオ画像特性検査システムInfo
- Publication number
- JP2003254748A JP2003254748A JP2002060841A JP2002060841A JP2003254748A JP 2003254748 A JP2003254748 A JP 2003254748A JP 2002060841 A JP2002060841 A JP 2002060841A JP 2002060841 A JP2002060841 A JP 2002060841A JP 2003254748 A JP2003254748 A JP 2003254748A
- Authority
- JP
- Japan
- Prior art keywords
- image
- stereo
- correction data
- coordinates
- grid
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two two-dimensional [2D] image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/246—Calibration of cameras
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Measurement Of Optical Distance (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Input (AREA)
Abstract
且つ高精度に検査し、画像特性のばらつきを補正するた
めの高精度の補正データを得る。 【解決手段】 ステレオカメラ1と格子線を基調とした
図柄を有する検査スクリーン2とを予め規定した相対位
置に配置し、ステレオカメラ1で検査スクリーン2を撮
像した2枚の元画像に対し、ステレオ画像特性検出部1
2で画像上の各格子点の座標を求め、補正データ生成部
13で、得られた各格子点の座標と予め記憶してある各
格子点の理想座標とから画像特性のバラツキを補正する
補正データを生成し、補正データ書込み部14で、補正
データをステレオ画像認識ユニット11に書込むことに
より、ステレオカメラ1及びステレオ画像認識ユニット
11の出荷前や出荷後の再調整時に、ステレオ画像特性
を検査して高精度な補正データを取得し、装置の能力を
高水準に維持する。
Description
撮像したステレオ画像の特性を検査し、補正データを生
成するステレオ画像特性検査システムに関する。
術として、複数のカメラを利用したステレオ画像認識技
術があり、例えば、自動車等の車両に搭載される障害物
検出装置等に応用され、立体物までの距離を検出しつ
つ、前方の障害物や道路の形状を認識し、安全性の向上
に寄与することができる。
装置では、ステレオカメラを構成する各カメラに写った
画像から一致する箇所を探索して互いの視差を求め、こ
の視差から距離情報を計算する手法が一般的であるが、
装置の認識能力を確保するためには、一致点検索の確実
性と、視差の検出精度を確保する必要がある。
−325889号公報において、ステレオカメラの撮像
画像の非線形な位置ズレに対する補正を行って画像の光
軸を合わせ、一致検索の基線を揃える技術を提案してお
り、また、特開2001−91245号公報において、
レンズ等の光学系の特性・バラツキに起因する視差の検
出誤差を補正する技術を提案している。更に、本出願人
は、特開2001−92968号公報において、画像上
の位置に応じて適切な探索範囲を設定可能なように、一
致検索開始位置を補正する技術を提案している。
オ画像認識装置の能力を保つためには、装置の出荷前や
出荷後の再調整時に、ステレオ画像特性に対する総合的
且つ高精度の補正データを装置個体毎に得ることのでき
るシステムが必要であり、しかも、できるだけ簡素なシ
ステム構成で補正データを採取可能とし、装置本体にか
かるコスト上昇の要因を取り除くことが望まれる。
で、ステレオ画像特性を簡便なシステムで総合的且つ高
精度に検査し、画像特性のばらつきを補正するための高
精度の補正データを得ることのできるステレオ画像特性
検査システムを提供することを目的としている。
め、請求項1記載の発明は、ステレオカメラの撮像方向
に配置される格子状の図柄を有する検査スクリーンと、
上記検査スクリーンを上記ステレオカメラで撮像し、上
記ステレオカメラを構成する各カメラに対応した画像上
の格子点の座標を求め、求めた座標と予め記憶してある
各格子点の理想座標とに基づいて、少なくとも上記ステ
レオカメラの特性に起因するステレオ画像特性のバラツ
キを補正するための補正データを生成する手段とを備え
たことを特徴とする。
明において、上記検査スクリーンの画像パターンと予め
記憶してあるパターンとの相関値を計算して一致点を検
索し、上記画像上の格子点の座標を求めることを特徴と
する。
載の発明において、上記検査スクリーンに上記各カメラ
に対応した基準マークを設け、初回に上記基準マークを
検索して順次隣接する格子を検出することにより、上記
画像上の格子点の座標を求めることを特徴とする。
の何れか一に記載の発明において、上記検査スクリーン
の格子線を、上記格子線の中央から背景側にかけて多段
階或いは連続的に明度が変化する階調度をもって形成す
ることを特徴とする。
3,4の何れか一に記載の発明において、上記検査スク
リーンは、上記格子線の明度が背景より高いことを特徴
とする。
3,4,5の何れか一に記載の発明において、上記補正
データは、画像の座標変換補正データ、画角修正比によ
る視差補正データ、一致点検索範囲補正データの少なく
とも何れか一つであることを特徴とする。
3,4,5,6の何れか一に記載の発明において、上記
ステレオカメラからの画像を上記ステレオカメラと一対
一で組合わせた画像処理ユニットを介して取込み、上記
補正データを、上記画像処理ユニット内の不揮発性メモ
リに書き込む手段を備えたことを特徴とする。
の図柄を有する検査スクリーンをステレオカメラの撮像
方向に配置し、検査スクリーンをステレオカメラで撮像
する。そして、各カメラに対応した画像上の格子点の座
標を求め、求めた座標と予め記憶してある各格子点の理
想座標とに基づいて、少なくともステレオカメラの特性
に起因するステレオ画像特性のバラツキを補正するため
の補正データを生成することで、ステレオカメラを用い
た装置の出荷前や出荷後の再調整時に、ステレオ画像特
性を簡便なシステムで総合的且つ高精度に検査すること
ができ、高精度の補正データにより装置の能力を高水準
に維持することを可能とする。
査スクリーンの画像パターンと予め記憶してあるパター
ンとの相関値を計算して一致点を検索し、画像上の格子
点の座標を求めることが望ましく、一致点検出のミスマ
ッチングを防止して正確な格子点の座標を求めることが
できる。
スクリーンに各カメラに対応した基準マークを設け、初
回に基準マークを検索して順次隣接する格子を検出する
ことにより、画像上の格子点の座標を求めることが望ま
しく、格子位置の誤検出を防止することができる。
スクリーンの格子線を、格子線の中央から背景側にかけ
て多段階或いは連続的に明度が変化する階調度をもって
形成することが望ましく、格子点の座標を1画素単位以
下の精度で検出する場合、格子線と背景の境界の位置情
報を複数の画素に渡って得ることができ、正確な格子点
の座標を検出することが可能となる。
スクリーンは、格子線の明度が背景より高いことが望ま
しく、背景色の信号レベルの影響を低減し、より正確な
格子点座標データを得ることができる。
データは、画像の座標変換補正データ、画角修正比によ
る視差補正データ、一致点検索範囲補正データの少なく
とも何れか一つであることが望ましく、請求項7記載の
発明のように、ステレオカメラからの画像をステレオカ
メラと一対一で組合わせた画像処理ユニットを介して取
込み、補正データを画像処理ユニット内の不揮発性メモ
リに書き込む手段を備えることで、ステレオカメラを含
めた装置全体としての特性を検査することができる。
施の形態を説明する。図1〜図11は本発明の一実施の
形態に係わり、図1はステレオ画像特性検査システムの
構成図、図2は基準マークパターンを示す説明図、図3
は十字パターンを示す説明図、図4は格子交点周辺の拡
大図、図5は基準マーク周辺の拡大図、図6は格子点座
標算出処理のフローチャート、図7は十字パターンと格
子点との一致検索を示す説明図、図8は一致相関値と一
致点との関係を示す説明図、図9は画像座標変換補正デ
ータ算出処理のフローチャート、図10は一致検索開始
点補正データ算出処理のフローチャート、図11は画角
補正データ算出処理のフローチャートである。
正データを得るためのステレオ画像特性検査システムを
示し、検査対象である複数のカメラ(本形態において
は、2台のカメラ)からなるステレオカメラ1と、この
ステレオカメラ1で撮像した画像の特性を検査するため
の被撮像対象となる検査スクリーン2と、ステレオカメ
ラ1に接続される画像処理部10とを備えて構成され
る。
例えば電荷結合素子(CCD)等の撮像素子を内蔵した
シャッタ速度可変の2台のカメラの一方を、ステレオ処
理の際の基準画像を撮像する基準カメラ1a、他方をス
テレオ処理の際の比較画像を撮像する比較カメラ1bと
して、基準カメラ1aと比較カメラ1bとが所定の基線
長で互いの光軸が概ね平行となるようにステー1cに組
付けられている。
1で撮像した一対の画像(ステレオ画像)の所定の小領
域(例えば、4画素×4画素の小領域)毎に一致部位を
検索して視差を求めるステレオマッチング処理を行い、
得られた視差に基づく三次元の距離分布情報に基づいて
各種認識処理を行うステレオ画像認識ユニット11に対
し、このステレオ画像認識ユニット11に接続されてス
テレオ画像特性を検出するステレオ画像特性検出部1
2、ステレオ画像特性から補正データを生成する補正デ
ータ生成部13、生成した補正データをステレオ画像認
識ユニット11に書込む補正データ書込み部14を、ス
テレオ画像認識ユニット11と一体的或いは別個に備え
て構成され、検査対象であるステレオカメラ1とステレ
オ画像認識ユニット11とを一対一で組合わせて検査対
象とする。
台のカメラ1a,1bは、初期製造段階で互いの光軸
が、例えば平行であるような予め決められた相対位置関
係となるように機械的に調整されてステー1cに固定さ
れているが、各カメラ1a,1bで撮像した画像には、
機械的な組立て精度の限界による光軸のずれ、レンズの
焦点距離のバラツキやレンズ歪みの影響、撮像素子の受
光面のあおりによる撮像画像内の拡大縮小率の相違、互
いの撮像素子の感度や信号処理回路の特性のバラツキ等
により、出力される画像間には線形のみならず非線形の
位置ズレが少なからず存在する。
像認識ユニット11側にも、2台のカメラ1a,1bに
対応した信号処理系統のアンプのゲインやオフセット、
A/D変換器の特性等の回路素子の特性のバラツキによ
り、調整範囲内で信号特性にバラツキが存在する可能性
があり、ステレオ処理前の一対の元画像間に線形乃至非
線形の位置ズレが存在する。
に、ステレオカメラ1で検査スクリーン2を撮像した撮
像画像に基づいて、ステレオカメラ1及びステレオ画像
認識ユニット11の個体毎に、光学レンズの歪特性や焦
点距離特性、カメラ光軸の水平及び垂直変位特性、カメ
ラ回転方向特性、カメラ実画角分布特性、無限遠視差分
布特性、同じ距離にある被写体を撮像した場合の等距離
面分布特性等を検査し、その検査結果に基づく補正デー
タを生成する。そして、この補正データをステレオカメ
ラ1と一対一に組合わされるステレオ画像認識ユニット
11内の不揮発性メモリに記憶させることで、市場にお
ける実働状態において、確実且つ正確な距離分布情報を
得ることができる。
路的なバラツキを無視できる場合には、ステレオカメラ
1のみを検査対象として、本検査システムにはステレオ
画像認識ユニット11を含めず、ステレオカメラ1の特
性検査終了後、別途、補正データをステレオ画像認識ユ
ニット11内に書き込んだ時点でステレオカメラ1とス
テレオ画像認識ユニット11とを一対一の組で固定する
ようにしても良い。
設定した間隔(例えば、ステレオカメラ1の基線長の整
数分の一の間隔)の格子線を基調とした図柄が描かれて
おり、ステレオカメラ1と検査スクリーン2とを予め規
定した相対位置、例えばステレオカメラ1の撮像方向が
検査スクリーン2に正対する位置に正確に配置する。そ
して、ステレオカメラ1で検査スクリーン2を撮像した
2枚の元画像に対し、ステレオ画像特性検出部12で画
像上の各格子点(格子線の交点)の座標を求め、補正デ
ータ生成部13で、得られた各格子点の座標と予め記憶
してある各格子点の理想座標とから画像特性のバラツキ
を補正する補正データを生成する。
幾何学的に補正するための座標変換補正データ、画角修
正比(実画角と理想状態の画角との比)による距離補正
用の視差補正データ、無限遠対応点のズレを考慮して一
致点検索開始位置を補正するための一致点検索範囲補正
データ等であり、基本データとして、画像上の各格子点
の座標と記憶してある理想座標との差から各格子点に対
する座標変換補正データを生成する。この座標変換補正
データは、全ての画素が各々補正データを持つよう、各
格子点を座標補完して全ての画素に対する座標変換補正
データを求める。また、得られた画像上の格子間隔と予
め記憶してある理想格子間隔との比から画角修正比を求
め、この画角修正比を画像端から画素毎に積分すること
で、画角修正比による視差補正データと、一致点検索範
囲補正データとを算出する。
オカメラ1の2つのカメラ1a,1bと概ね同じ間隔の
格子位置、すなわち基準カメラ1a用の中央垂直格子線
2aと中央水平線2cとの交点(基準画像側の中央格子
点)を囲む格子間、及び、比較カメラ1b用の中央垂直
格子線2bと中央水平線2cとの交点(比較画像側の中
央格子点)を囲む格子間に、それぞれ基準マーク3a,
3bが描かれている。各カメラ1a,1bに対応する基
準マーク3a,3bは、格子点の一致検索に影響を与え
ない形状に設定され、予め各カメラ1a,1bとの対応
関係が既知で予めそれぞれの一致検索の開始位置を明確
に設定できることから、本形態では、基準マーク3a,
3bは同一形状とする。
検査スクリーン2上の基準マーク3a,3bに対する参
照パターンとして図2の基準マークパターン4を予め記
憶しておくと共に、格子点に対する参照パターンとして
図3の十字パターン5を予め記憶しておき、画像上の各
格子点の座標を求める際に、基準マークパターン4と十
字パターン5とを用いて画像相関値を計算しながら水平
垂直方向に2次元の一致検索を行い、画像上の格子点の
座標を求める。
るには、先ず、各カメラ1a,1bの画像上の基準マー
ク3a,3bと、基準マークパターン4との一致検索を
行い、この基準マークの一致検索結果によって得られた
格子点の座標に基づいて、順次隣接する格子点の座標を
十字パターン5との一致検索により検出する。その際、
前回に検出した格子点の座標から予め設定した相対位置
に今回の検索領域を設定することで、誤った位置の格子
点を検出することを防止する。
最も一致を示す座標近傍の画像相関値の関係により、1
画素以下の分解能で求めることが望ましく、本形態にお
いては、画像相関値として、2次元平面間の各座標にお
ける値の差の絶対値の和として定義されるシティブロッ
ク距離を用い、2枚の画像の各画素の明るさ(輝度)の
差の絶対値の総和でシティブロック距離を計算する。
図4,図5に示すように、格子線の中央から背景側にか
けて、多段階或いは連続的に明度が変化する階調度を有
することが望ましい。すなわち、一般に、ステレオカメ
ラ1に使用されるCCD等の撮像素子は、受光セル(画
素)が縦・横に配列されており、画素と画素との間に
は、必ず不感領域が存在する。従って、座標情報を1画
素単位以下の精度で検出するサブピクセル処理を行う場
合、格子線と背景との境界が不感領域に結像すると、正
確な格子点の座標が検出できないことになる。従って、
格子線中央から外側にかけて多段階階調或いは連続階調
とすることにより、格子線と背景の境界の位置情報が複
数の画素に渡って勾配を持ったデータ群を得ることがで
き、1画素単位以下の正確な格子点の座標を検出するこ
とが可能となる。
背景が黒色で、格子線及び基準マーク3a,3bを白色
とすることが望ましい。一般に、白色は照明の影響を受
けやすく、黒色は照明の影響を受けにくいという特徴が
あり、加えて、撮像素子は、通常、黒色が零レベルにな
るような信号の出力形式であり、カメラの感度に差があ
っても黒の信号レベルは白の信号レベルより感度の影響
を受けにくい。一方、一致検出に用いるパターンは背景
色の面積割合が多くなるため、格子点座標の検出結果は
背景色の信号レベルの影響を受けやすい。
で、格子線及び基準マーク3a,3bを白色とすること
により、より正確な格子点座標データを得ることがで
き、精度の高い補正データを生成することができる。
尚、この場合、図4,図5に示す格子線から背景にかけ
ての階調は、背景側が暗く、格子線中央に行くほど明度
が高くなり、図5に示す基準マークも白色となる。
る格子点座標算出処理について、図6に示すフローチャ
ートを用いて説明し、補正データ生成部13における画
像座標変換補正データ、一致検索開始点補正データ、画
角補正データの生成処理について、図9,10,11の
フローチャートを用いて説明する。
は、先ず、ステップS101で、ステレオカメラ1の仕
様定数値や各種処理変数値等を初期化し、ステップS1
02で、ステレオカメラ1で検査スクリーン2を撮像し
た基準側と比較側とのそれぞれの画像について、各1画
面をサンプリングする。
ラ1aと検査スクリーン2の基準マーク3aとの位置関
係から基準画像の初回検索範囲を設定し、この初回検索
範囲内から、記憶してある基準マークパターンに対し、
シティブロック距離(一致度)を使って2次元で一致検
索を行う。そして、ステップS104で、水平方向をX
座標、垂直方向をY座標として、基準画像の基準マーク
に対する画像中の格子点の座標(X,Y)を、サブピク
セル演算付で1画素単位以下の分解能で求める。この1
画素単位以下のサブピクセル演算には、例えば、シティ
ブロック距離の分布から極小値の位置を特定し、直線近
似等によって極小点の座標を計算する等の手法を用いる
ことができる。
aと検査スクリーン2の基準マーク3bとの位置関係か
ら比較画像の初回検索範囲を設定し、この初回検索範囲
内から、記憶してある基準マークパターンに対し、シテ
ィブロック距離(一致度)を使って2次元で一致検索を
行い、ステップS106で、比較画像の基準マークに対
する画像中の格子点の座標(X,Y)をサブピクセル演
算付で求める。
の前回検索した格子点に隣接する格子点を検索するた
め、図7に示すように、前回の格子点座標から格子間隔
に基づく所定の相対位置に今回の格子点の検索範囲を設
定する。そして、ステップS108で、基準画像の設定
検索範囲から、記憶してある十字パターン5に対し、シ
ティブロック距離(一致度)を使って2次元で一致検索
を行う。図8は、一走査毎の一致相関値(シティブロッ
ク距離)を示し、一致相関値が最も低い値となる点が一
致点となる。
像の格子点に対する画像中の座標(X,Y)をサブピク
セル演算付で求め、ステップS110で、基準画像につ
いての検索が終了したか否かを調べる。その結果、検索
が終了していない場合、ステップS107へ戻って次の
隣接する格子点の検索範囲を再設定して上述の処理を続
行し、基準画像についての全検索が終了した場合、ステ
ップS111以降で比較画像上の格子点の座標を求め
る。
格子点の検索範囲を設定し、ステップS112で、比較
画像の検索範囲から、記憶してある十字パターンに対
し、シティブロック距離(一致度)を使って2次元で一
致検索を行う。そして、ステップS113で、比較画像
の格子点に対する画像中の座標(X,Y)をサブピクセ
ル演算付で求める。
ついての検索が終了したか否かを調べ、検索が終了して
いない場合、ステップS111へ戻って次の隣接する格
子点の検索範囲を設定して以上の処理を続行し、比較画
像についての全検索が終了したとき、本処理を終了す
る。
画像における全格子点の座標が求まると、次に、図9に
示す画像座標変換補正データ算出処理において、格子点
の座標と予め記憶してある理想格子点の座標との差から
座標変換補正データを生成する。
は、先ず、ステップS201で初期化を行い、ステップ
S202で、基準画像の各理想格子点と実際の画像の各
格子点とに対して番号付け及び対応付けを行い、また、
ステップS203で、比較画像の各理想格子点と実際の
画像の各格子点とに対し、番号付け及び対応付けを行
う。
想格子点の座標(XRn,YRn)に対し、対応した実
際の画像上の格子点の座標(Xn,Yn)との差を基準
画像の理想格子点の座標補正量として、この座標補正量
のX軸成分ΔXn,Y軸成分ΔYnを、それぞれ算出す
る。更に、ステップS205で、同様に、比較画像の理
想格子点の座標(XRn,YRn)に対し、対応した実
際の画像上の格子点の座標(Xn,Yn)との差を比較
画像の理想格子点の座標補正量として、この座標補正量
のX軸成分ΔXn,Y軸成分ΔYnを、それぞれ算出す
る。
理想格子点の座標補正量(ΔXn,ΔYn)から各画素
に対する座標補正量(ΔXpn,ΔYpn)を補完計算
によって求め、座標変換補正データテーブルを作成す
る。更に、ステップS207で、比較画像の理想格子点
の座標補正量(ΔXn,ΔYn)から各画素に対する座
標補正量(ΔXpn,ΔYpn)を補完計算によって求
め、座標変換補正データテーブルを作成して本処理を終
了する。
ステレオカメラ1とステレオ画像認識ユニット11とを
一対一で組合わせた状態での市場における実働状態にお
いて、基準画像及び比較画像の上下・左右のズレ、回転
ズレ、レンズ歪み、焦点距離のバラツキを補正して正確
な視差検出を可能とすることができる。
ータ算出処理について説明する。この処理では、先ず、
ステップS301で、基準、比較のそれぞれの画像の垂
直格子線上での各画素のX座標を、格子点座標をY軸方
向に補完することによって求める。次に、ステップS3
02で、基準、比較のそれぞれの画像の垂直格子線につ
いて、それぞれ画像の中央格子点を通る垂直格子線を基
準とした番号付けを行う。
像と比較画像とで同じ番号N同士の垂直格子線上での各
画素のX座標の差、すなわち、無限遠対応点のズレを算
出する。そして、ステップS304で、垂直格子線上で
の各画素のX座標の差を、隣合った垂直格子線の間でX
軸方向に補完し、基準画像の小領域(例えば4画素×4
画素の小領域)毎に、基準画像と比較画像との間の無限
遠対応点ズレを算出する。そして、ステップS305
で、無限遠対応点ズレから所定の値を減算し、基準画像
の小領域毎の一致検索開始点補正量を算出して処理を終
了する。
オカメラ1とステレオ画像認識ユニット11とを一対一
で組合わせた状態での市場における実働状態において、
無限遠対応点のズレに応じて一致検索の開始位置を適切
に設定することが可能となり、ステレオマッチング処理
の際の演算負荷を抑制すると共に、ミスマッチングを防
止し、信頼性を向上することができる。
処理では、先ず、ステップS401で、基準、比較それ
ぞれの画像の垂直格子線上での各画素のX座標を、格子
点座標をY軸方向に補完することによって求め、ステッ
プS402で、基準、比較それぞれの画像の垂直格子線
について、それぞれの画像の中央格子点を通る垂直格子
線を基準とした番号付けを行う。
像中の垂直格子線上の画素毎に、隣の垂直格子線上の同
一Y座標上の画素のX座標との差(格子間隔)Dを、微
小実画角として求める。そして、ステップS404で、
比較画像中の垂直格子線上の各画素毎に、実画角を表す
格子間隔Dと所定の理想格子間隔Mとから画角修正比R
を算出する(R=D/M)。
像中の垂直格子線上の画素毎に、画角修正比Rを画像の
左端(初期値位置)から水平走査方向に積分して画角修
正比積分値Sを算出する。そして、ステップS406
で、垂直格子線上の画素の画角修正比積分値Sを、隣合
った垂直格子線の間でX軸方向に補完し、処理走査線
(例えば、4走査線)毎に、比較画像のX座標に対する
画角修正比積分値テーブルを作成する。
られる視差データは、いわば1画素毎の微小画角の差を
視差検出走査方向に積分した値に相当することから、画
角修正比Rを画像座標の初期位置から比較画像の1画素
毎に積分した画角修正比積分値Sを、レンズ焦点距離の
相違、レンズ歪みの影響、撮像方向の相違等を含んだ補
正データとして、市場での実働状態におけるステレオ画
像認識ユニット11の一致検策で得られる視差データを
直接的に補正可能とする。
較画像とで同じ番号N同士の垂直格子線上での画素のX
座標の差(無限遠対応点のズレ)を求め、ステップS4
08で、垂直格子線上での画素のX座標の差を、隣合っ
た垂直格子線の間でX軸方向に補完し、基準画像の小領
域(例えば4画素×4画素の小領域)毎に、基準画像と
比較画像との間の無限遠対応点ズレのテーブルを作成す
る。
比較画像の無限遠対応点ズレを、基準画像の小領域のX
座標に加算し、基準画像の4×4画素小領域に対する比
較画像中の無限遠対応点のX座標を算出すると、ステッ
プS410で、比較画像中の無限遠対応点のX座標で画
角修正比積分値テーブルを参照し、基準画像の4×4画
素小領域毎の無限遠対応点画角修正比積分値テーブルを
作成して本処理を終了する。
対応点画角修正比積分値テーブルを用いることにより、
ステレオカメラ1とステレオ画像認識ユニット11とを
一対一で組合わせた状態での実働状態における比較画像
の検索一致点及び無限遠対応点に対し、レンズ焦点距離
の相違、レンズ歪みの影響、撮像方向の相違等の影響を
補正することができる。
テレオカメラ1、及びこのステレオカメラ1に組合わさ
れるステレオ画像認識ユニット11の総合的な特性を、
製品出荷前や出荷後の再調整時に、簡便なシステム構成
で高精度に検査することができ、総合的且つ高精度な補
正データを得ることができる。
を用いた各種装置の補正機構を有効に機能させることが
可能となり、距離情報の精度向上、信頼性の向上を図る
ことができる。しかも、本検査システムは、各種の補正
データを1回の撮像で計算できるため、自動化が容易で
あり、機械的な調整よりも少ない時間で調整することが
でき、装置本体のコスト低減に寄与することができる。
テレオカメラを用いた装置の出荷前や出荷後の再調整時
に、ステレオ画像特性を簡便なシステム構成で高精度に
検査して総合的且つ高精度な補正データを得ることがで
き、市場においてステレオカメラを用いた各種装置の補
正機構を有効に機能させることが可能となり、正確な距
離情報に基づく認識精度の向上、信頼性の向上を図るこ
とができる。
図
ート
チャート
Claims (7)
- 【請求項1】 ステレオカメラの撮像方向に配置される
格子状の図柄を有する検査スクリーンと、 上記検査スクリーンを上記ステレオカメラで撮像し、上
記ステレオカメラを構成する各カメラに対応した画像上
の格子点の座標を求め、求めた座標と予め記憶してある
各格子点の理想座標とに基づいて、少なくとも上記ステ
レオカメラの特性に起因するステレオ画像特性のバラツ
キを補正するための補正データを生成する手段とを備え
たことを特徴とするステレオ画像特性検査システム。 - 【請求項2】 上記検査スクリーンの画像パターンと予
め記憶してあるパターンとの相関値を計算して一致点を
検索し、上記画像上の格子点の座標を求めることを特徴
とする請求項1記載のステレオ画像特性検査システム。 - 【請求項3】 上記検査スクリーンに上記各カメラに対
応した基準マークを設け、初回に上記基準マークを検索
して順次隣接する格子を検出することにより、上記画像
上の格子点の座標を求めることを特徴とする請求項1又
は2記載のステレオ画像特性検査システム。 - 【請求項4】 上記検査スクリーンの格子線を、上記格
子線の中央から背景側にかけて多段階或いは連続的に明
度が変化する階調度をもって形成することを特徴とする
請求項1,2,3の何れか一に記載のステレオ画像特性
検査システム。 - 【請求項5】 上記検査スクリーンは、上記格子線の明
度が背景より高いことを特徴とする請求項1,2,3,
4の何れか一に記載のステレオ画像特性検査システム。 - 【請求項6】 上記補正データは、画像の座標変換補正
データ、画角修正比による視差補正データ、一致点検索
範囲補正データの少なくとも何れか一つであることを特
徴とする請求項1,2,3,4,5の何れか一に記載の
ステレオ画像特性検査システム。 - 【請求項7】 上記ステレオカメラからの画像を上記ス
テレオカメラと一対一で組合わせた画像処理ユニットを
介して取込み、 上記補正データを、上記画像処理ユニット内の不揮発性
メモリに書き込む手段を備えたことを特徴とする請求項
1,2,3,4,5,6の何れか一に記載のステレオ画
像特性検査システム。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002060841A JP3983573B2 (ja) | 2002-03-06 | 2002-03-06 | ステレオ画像特性検査システム |
| DE60301026T DE60301026T2 (de) | 2002-03-06 | 2003-03-04 | System zur Untersuchung von stereoskopischen Bildmerkmalen |
| US10/379,192 US7139424B2 (en) | 2002-03-06 | 2003-03-04 | Stereoscopic image characteristics examination system |
| EP03004822A EP1343332B1 (en) | 2002-03-06 | 2003-03-04 | Stereoscopic image characteristics examination system |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002060841A JP3983573B2 (ja) | 2002-03-06 | 2002-03-06 | ステレオ画像特性検査システム |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2003254748A true JP2003254748A (ja) | 2003-09-10 |
| JP2003254748A5 JP2003254748A5 (ja) | 2005-09-02 |
| JP3983573B2 JP3983573B2 (ja) | 2007-09-26 |
Family
ID=27751144
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002060841A Expired - Lifetime JP3983573B2 (ja) | 2002-03-06 | 2002-03-06 | ステレオ画像特性検査システム |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US7139424B2 (ja) |
| EP (1) | EP1343332B1 (ja) |
| JP (1) | JP3983573B2 (ja) |
| DE (1) | DE60301026T2 (ja) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005140630A (ja) * | 2003-11-06 | 2005-06-02 | National Maritime Research Institute | 3次元画像計測用カメラ検定設備 |
| JP2009058377A (ja) * | 2007-08-31 | 2009-03-19 | Hitachi Kokusai Electric Inc | 検査装置 |
| JP2009216494A (ja) * | 2008-03-10 | 2009-09-24 | Shimadzu Corp | 標線位置測定装置、標線位置測定用プログラム、および標線マーク |
| JP2018141908A (ja) * | 2017-02-28 | 2018-09-13 | キヤノン株式会社 | 焦点検出装置、フォーカス制御装置、撮像装置、焦点検出方法および焦点検出プログラム |
Families Citing this family (59)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8471852B1 (en) | 2003-05-30 | 2013-06-25 | Nvidia Corporation | Method and system for tessellation of subdivision surfaces |
| KR100543709B1 (ko) * | 2003-12-23 | 2006-01-20 | 삼성전자주식회사 | 이동체의 회전 이동량 이용 방법과 장치 및 컴퓨터프로그램을 저장하는 컴퓨터로 읽을 수 있는 기록 매체 |
| DE102004041115A1 (de) * | 2004-08-24 | 2006-03-09 | Tbs Holding Ag | Verfahren und Anordnung zur Erfassung biometrischer Daten |
| DE112004003011A5 (de) * | 2004-08-25 | 2007-08-09 | Tbs Holding Ag | Verfahren und Anordnung zur optischen Aufnahme biometrischer Daten |
| JP4461091B2 (ja) * | 2004-11-30 | 2010-05-12 | 本田技研工業株式会社 | 位置検出装置及びその補正方法 |
| JP4224449B2 (ja) * | 2004-11-30 | 2009-02-12 | 本田技研工業株式会社 | 画像抽出装置 |
| US7599521B2 (en) * | 2004-11-30 | 2009-10-06 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
| JP4032052B2 (ja) * | 2004-11-30 | 2008-01-16 | 本田技研工業株式会社 | 位置検出装置及びその補正方法 |
| US7590263B2 (en) * | 2004-11-30 | 2009-09-15 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
| US8571346B2 (en) * | 2005-10-26 | 2013-10-29 | Nvidia Corporation | Methods and devices for defective pixel detection |
| US7750956B2 (en) * | 2005-11-09 | 2010-07-06 | Nvidia Corporation | Using a graphics processing unit to correct video and audio data |
| US8588542B1 (en) | 2005-12-13 | 2013-11-19 | Nvidia Corporation | Configurable and compact pixel processing apparatus |
| US8737832B1 (en) | 2006-02-10 | 2014-05-27 | Nvidia Corporation | Flicker band automated detection system and method |
| US8340399B2 (en) * | 2006-03-15 | 2012-12-25 | Koninklijke Philips Electronics N.V. | Method for determining a depth map from images, device for determining a depth map |
| US8594441B1 (en) | 2006-09-12 | 2013-11-26 | Nvidia Corporation | Compressing image-based data using luminance |
| CN101242546A (zh) * | 2007-02-06 | 2008-08-13 | 鸿富锦精密工业(深圳)有限公司 | 影像校正系统及方法 |
| TWI397668B (zh) * | 2007-02-12 | 2013-06-01 | Hon Hai Prec Ind Co Ltd | 影像校正系統及方法 |
| US8723969B2 (en) * | 2007-03-20 | 2014-05-13 | Nvidia Corporation | Compensating for undesirable camera shakes during video capture |
| JP5234894B2 (ja) * | 2007-06-28 | 2013-07-10 | 富士重工業株式会社 | ステレオ画像処理装置 |
| US8724895B2 (en) | 2007-07-23 | 2014-05-13 | Nvidia Corporation | Techniques for reducing color artifacts in digital images |
| US8570634B2 (en) * | 2007-10-11 | 2013-10-29 | Nvidia Corporation | Image processing of an incoming light field using a spatial light modulator |
| US9177368B2 (en) * | 2007-12-17 | 2015-11-03 | Nvidia Corporation | Image distortion correction |
| US8780128B2 (en) * | 2007-12-17 | 2014-07-15 | Nvidia Corporation | Contiguously packed data |
| US8698908B2 (en) * | 2008-02-11 | 2014-04-15 | Nvidia Corporation | Efficient method for reducing noise and blur in a composite still image from a rolling shutter camera |
| US9379156B2 (en) * | 2008-04-10 | 2016-06-28 | Nvidia Corporation | Per-channel image intensity correction |
| US8520934B2 (en) * | 2008-06-13 | 2013-08-27 | Thomson Licensing | System and method for marking a stereoscopic film |
| EP2290996A4 (en) * | 2008-09-29 | 2012-03-14 | Panasonic Corp | VIDEO SIGNAL PROCESSING DEVICE |
| US8373718B2 (en) | 2008-12-10 | 2013-02-12 | Nvidia Corporation | Method and system for color enhancement with color volume adjustment and variable shift along luminance axis |
| US8749662B2 (en) * | 2009-04-16 | 2014-06-10 | Nvidia Corporation | System and method for lens shading image correction |
| US8698918B2 (en) * | 2009-10-27 | 2014-04-15 | Nvidia Corporation | Automatic white balancing for photography |
| NO332068B1 (no) * | 2010-05-28 | 2012-06-18 | Kongsberg Seatex As | Fremgangsmate og system for posisjonering av antenne, teleskop, siktemiddel eller lignende montert pa en bevegelig plattform |
| KR101129326B1 (ko) * | 2010-06-16 | 2012-03-27 | 허성용 | 영상 촬영용 광축 정렬 장치 및 광축 정렬 방법 |
| JP5870510B2 (ja) * | 2010-09-14 | 2016-03-01 | 株式会社リコー | ステレオカメラ装置、校正方法およびプログラム |
| US8849011B2 (en) * | 2010-10-07 | 2014-09-30 | Himax Media Solutions, Inc. | Video processing system and method thereof for compensating boundary of image |
| WO2012111404A1 (ja) * | 2011-02-17 | 2012-08-23 | コニカミノルタホールディングス株式会社 | 画像処理装置、そのプログラム、および画像処理方法 |
| KR101841750B1 (ko) * | 2011-10-11 | 2018-03-26 | 한국전자통신연구원 | 매칭 정보에 의한 입체 영상 보정 장치 및 그 방법 |
| TW201329426A (zh) * | 2012-01-12 | 2013-07-16 | Hon Hai Prec Ind Co Ltd | 鏡頭檢測裝置及檢測方法 |
| CN102780904A (zh) * | 2012-05-31 | 2012-11-14 | 新奥特(北京)视频技术有限公司 | 一种通过左右眼图像网格化显示来调节3d图像的方法 |
| US9798698B2 (en) | 2012-08-13 | 2017-10-24 | Nvidia Corporation | System and method for multi-color dilu preconditioner |
| US9508318B2 (en) | 2012-09-13 | 2016-11-29 | Nvidia Corporation | Dynamic color profile management for electronic devices |
| US9307213B2 (en) | 2012-11-05 | 2016-04-05 | Nvidia Corporation | Robust selection and weighting for gray patch automatic white balancing |
| JP5843751B2 (ja) * | 2012-12-27 | 2016-01-13 | 株式会社ソニー・コンピュータエンタテインメント | 情報処理装置、情報処理システム、および情報処理方法 |
| JP2014182178A (ja) * | 2013-03-18 | 2014-09-29 | Fuji Heavy Ind Ltd | ステレオカメラユニット |
| US9418400B2 (en) | 2013-06-18 | 2016-08-16 | Nvidia Corporation | Method and system for rendering simulated depth-of-field visual effect |
| US9826208B2 (en) | 2013-06-26 | 2017-11-21 | Nvidia Corporation | Method and system for generating weights for use in white balancing an image |
| US9756222B2 (en) | 2013-06-26 | 2017-09-05 | Nvidia Corporation | Method and system for performing white balancing operations on captured images |
| KR102197505B1 (ko) | 2013-10-25 | 2020-12-31 | 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 | 비디오 및 이미지 코딩 및 디코딩에서의 해시 값을 갖는 블록의 표현 |
| CA2961089C (en) | 2014-09-30 | 2023-03-28 | Microsoft Technology Licensing, Llc | Hash-based encoder decisions for video coding |
| EP3088175B1 (en) * | 2015-04-27 | 2023-08-23 | Ricoh Company, Ltd. | Method for manufacturing laminated glass and laminated glass |
| WO2016199244A1 (ja) * | 2015-06-10 | 2016-12-15 | 株式会社日立製作所 | 物体認識装置及び物体認識システム |
| JP2017045124A (ja) * | 2015-08-24 | 2017-03-02 | 株式会社日本自動車部品総合研究所 | 視差検出装置 |
| US10823950B2 (en) * | 2016-01-07 | 2020-11-03 | Digital Surigcals PTE. LTD. | Camera system with balanced monocular cues for use in digital stereo microscopes |
| US11095877B2 (en) | 2016-11-30 | 2021-08-17 | Microsoft Technology Licensing, Llc | Local hash-based motion estimation for screen remoting scenarios |
| US20180300872A1 (en) * | 2017-04-12 | 2018-10-18 | Ngr Inc. | Method And Apparatus For Integrated Circuit Pattern Inspection With Automatically Set Inspection Areas |
| JP6920159B2 (ja) * | 2017-09-29 | 2021-08-18 | 株式会社デンソー | 車両の周辺監視装置と周辺監視方法 |
| CN109084724A (zh) * | 2018-07-06 | 2018-12-25 | 西安理工大学 | 一种基于双目视觉的深度学习障碍物测距方法 |
| US11202085B1 (en) | 2020-06-12 | 2021-12-14 | Microsoft Technology Licensing, Llc | Low-cost hash table construction and hash-based block matching for variable-size blocks |
| CN111882528A (zh) * | 2020-07-15 | 2020-11-03 | 苏州佳智彩光电科技有限公司 | 一种面向屏幕视觉检测的子像素排序方法及装置 |
| US11782254B2 (en) * | 2020-07-24 | 2023-10-10 | United Scope LLC | Digital microscopy system and graphical user interface |
Family Cites Families (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5142642A (en) * | 1988-08-24 | 1992-08-25 | Kabushiki Kaisha Toshiba | Stereoscopic television system |
| DE69313694T2 (de) * | 1992-03-23 | 1998-02-19 | Canon Kk | Bildaufnahmevorrichtung mit mehreren Linsen und Korrektur von Falschregistrierung |
| JPH0829701A (ja) * | 1994-07-18 | 1996-02-02 | Olympus Optical Co Ltd | 立体視内視鏡システム |
| US5699444A (en) * | 1995-03-31 | 1997-12-16 | Synthonics Incorporated | Methods and apparatus for using image data to determine camera location and orientation |
| US5768443A (en) * | 1995-12-19 | 1998-06-16 | Cognex Corporation | Method for coordinating multiple fields of view in multi-camera |
| US5748199A (en) * | 1995-12-20 | 1998-05-05 | Synthonics Incorporated | Method and apparatus for converting a two dimensional motion picture into a three dimensional motion picture |
| JP3020898B2 (ja) * | 1997-07-22 | 2000-03-15 | 株式会社エイ・ティ・アール人間情報通信研究所 | アフィンカメラ補正による三次元位置の線形推定方法 |
| JP3284190B2 (ja) | 1998-05-14 | 2002-05-20 | 富士重工業株式会社 | ステレオカメラの画像補正装置 |
| JP3261115B2 (ja) | 1999-09-22 | 2002-02-25 | 富士重工業株式会社 | ステレオ画像処理装置 |
| JP3263931B2 (ja) * | 1999-09-22 | 2002-03-11 | 富士重工業株式会社 | ステレオマッチング装置 |
| JP3255360B2 (ja) * | 1999-09-22 | 2002-02-12 | 富士重工業株式会社 | 距離データの検査方法およびその検査装置 |
| US7006707B2 (en) * | 2001-05-03 | 2006-02-28 | Adobe Systems Incorporated | Projecting images onto a surface |
-
2002
- 2002-03-06 JP JP2002060841A patent/JP3983573B2/ja not_active Expired - Lifetime
-
2003
- 2003-03-04 DE DE60301026T patent/DE60301026T2/de not_active Expired - Lifetime
- 2003-03-04 EP EP03004822A patent/EP1343332B1/en not_active Expired - Lifetime
- 2003-03-04 US US10/379,192 patent/US7139424B2/en not_active Expired - Lifetime
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005140630A (ja) * | 2003-11-06 | 2005-06-02 | National Maritime Research Institute | 3次元画像計測用カメラ検定設備 |
| JP2009058377A (ja) * | 2007-08-31 | 2009-03-19 | Hitachi Kokusai Electric Inc | 検査装置 |
| JP2009216494A (ja) * | 2008-03-10 | 2009-09-24 | Shimadzu Corp | 標線位置測定装置、標線位置測定用プログラム、および標線マーク |
| JP2018141908A (ja) * | 2017-02-28 | 2018-09-13 | キヤノン株式会社 | 焦点検出装置、フォーカス制御装置、撮像装置、焦点検出方法および焦点検出プログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| DE60301026D1 (de) | 2005-08-25 |
| JP3983573B2 (ja) | 2007-09-26 |
| US20030169918A1 (en) | 2003-09-11 |
| EP1343332A3 (en) | 2003-11-26 |
| EP1343332A2 (en) | 2003-09-10 |
| EP1343332B1 (en) | 2005-07-20 |
| US7139424B2 (en) | 2006-11-21 |
| DE60301026T2 (de) | 2006-06-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2003254748A (ja) | ステレオ画像特性検査システム | |
| US12501023B2 (en) | Systems and methods for dynamic calibration of array cameras | |
| CN112070845B (zh) | 双目相机的标定方法、装置及终端设备 | |
| JP4095491B2 (ja) | 距離測定装置、距離測定方法、及び距離測定プログラム | |
| JP3261115B2 (ja) | ステレオ画像処理装置 | |
| AU2020413529B2 (en) | Method and system for calibrating light field camera without white images | |
| CN111986267B (zh) | 一种多相机视觉系统的坐标系统标定方法 | |
| US7260243B2 (en) | Intruding-object detection apparatus | |
| WO1999058927A1 (fr) | Dispositif et procede de generation d'images | |
| CN112489137A (zh) | 一种rgbd相机标定方法及系统 | |
| KR101926258B1 (ko) | Avm 시스템의 자동 캘리브레이션 방법 | |
| WO2022014215A1 (ja) | 処理装置及び車載カメラ装置 | |
| CN115880369A (zh) | 线结构光3d相机和线阵相机联合标定的装置、系统及方法 | |
| CN113674361B (zh) | 一种车载环视校准实现方法及系统 | |
| CN108917722B (zh) | 植被覆盖度计算方法及装置 | |
| JP4605582B2 (ja) | ステレオ画像認識装置及びその方法 | |
| CN118537693A (zh) | 基于棋盘格引导的高光谱图像融合方法和图像采集系统 | |
| RU2764838C1 (ru) | Способ совмещения изображений от матричных фотоприёмников различных спектральных диапазонов | |
| JPH11190611A (ja) | 3次元計測方法およびその方法を用いた3次元計測処理装置 | |
| CN119417943B (zh) | 一种基于土壤类型的制图方法及系统 | |
| CN118135033B (zh) | Rgbd传感器辅助的激光雷达与摄像机联合标定方法 | |
| JP7399632B2 (ja) | 撮影処理装置、及び撮影処理方法 | |
| CN110942482A (zh) | 一种镜头快速自标定方法及其电子设备 | |
| JP7312594B2 (ja) | キャリブレーション用チャートおよびキャリブレーション用器具 | |
| JP2002031515A (ja) | カメラのキャリブレーション方法およびこれを利用する装置並びにキャリブレーションプログラムを記録したコンピュータ読み取り可能な記録媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050302 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050302 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070223 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070320 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070521 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070626 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070704 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100713 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 3983573 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110713 Year of fee payment: 4 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110713 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120713 Year of fee payment: 5 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120713 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130713 Year of fee payment: 6 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| EXPY | Cancellation because of completion of term |