JP2017536613A - 自動車両カメラシステムのオンライン較正 - Google Patents

自動車両カメラシステムのオンライン較正 Download PDF

Info

Publication number
JP2017536613A
JP2017536613A JP2017519658A JP2017519658A JP2017536613A JP 2017536613 A JP2017536613 A JP 2017536613A JP 2017519658 A JP2017519658 A JP 2017519658A JP 2017519658 A JP2017519658 A JP 2017519658A JP 2017536613 A JP2017536613 A JP 2017536613A
Authority
JP
Japan
Prior art keywords
camera
image
motion vector
determined
projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017519658A
Other languages
English (en)
Other versions
JP6411646B2 (ja
Inventor
パンテリス、エルミリオス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Connaught Electronics Ltd
Original Assignee
Connaught Electronics Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Connaught Electronics Ltd filed Critical Connaught Electronics Ltd
Publication of JP2017536613A publication Critical patent/JP2017536613A/ja
Application granted granted Critical
Publication of JP6411646B2 publication Critical patent/JP6411646B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

本発明は、自動車両(1)のカメラシステム(7)を較正するための方法に関する。少なくとも1つのカメラ(8−11)がそれぞれ自動車両(1)の環境(2)からカメラ画像(21−28)を連続的に生成する。コンピュータデバイス(12)が、投影(P)を用いてカメラ画像(21−28)から仮想視点からの環境(2)の仮想ビュー(14)を生成する。走行では、コンピュータデバイス(12)がそれぞれのカメラ(8−11)ごとに較正サイクルを少なくとも1回通る。投影(P)の現在の投影パラメータ(30)に基づいて、カメラ(9)のカメラ画像(23,24)が変換される。それから動きベクトルが決定される。動きベクトルの少なくとも1つの幾何学的特性に関して、基準値が設定される。動きベクトルの少なくとも1つの幾何学的特性とそれぞれの対応する基準値との間の差分から、エラー値が決定される。エラー値に応じて、新たな投影パラメータが決定される(30)。

Description

本発明は、自動車両用のカメラシステム及びカメラシステムを較正するための方法に関する。カメラシステムは、自動車両の環境からのカメラ画像、したがってビデオ画像から画像シーケンスを生成する少なくとも1つのカメラを有する。カメラシステムのコンピュータデバイスは、少なくとも1つのカメラのカメラ画像から、所定の仮想視点からの環境の仮想ビュー、例えば環境の平面ビューをそれぞれ生成する。
本発明は、魚眼で行われる動き推定と車両が動いている間に1つ以上のカメラにより取得される地面の視点補正された画像フレームとに基づく車両ビデオシステムのオンライン較正のための方法を提供する。方法は、車両動作の方向と地上平面とに対する各カメラの空間的な方向(ピッチ−ヨー−ロール)を推定できる。また、方法は、地上平面に対する各カメラの高さを推定できる。加えて、方法は、ビデオシステムにより生成される仮想平面ビューのスティッチング品質を更に最適化するためにこれらのパラメータの精緻化をもたらすことができる。
仮想ビューを生成するために、各カメラ画像が変換又は投影によって変換される。この投影は、各カメラの空間的な向き又は空間的方向、したがって環境に対するそれぞれのカメラの実際の視点を考慮しなければならない。カメラの空間的な向きは、例えば、その視角、ヨー角、及び/又は、ロール角によって表される。各カメラの空間的な向きが投影の投影パラメータを決定し、この投影パラメータによってカメラ画像が実際の視点から仮想視点へと変換される。これらの投影パラメータは、較正によって各カメラの実際の空間的な向きに適合されなければならない。
自動車両のカメラシステムを較正するための方法が国際公開第2012/139636号パンフレットから知られている。仮想ビューの複数の変換カメラ画像のシーケンスでは、変換カメラ画像で決定される環境の少なくとも2つの特徴の動作軌道が決定される。動作軌道は、平行四辺形に例えられる幾何学的図形をもたらす。この方法によれば、(地上平面及び動作方向に対する)カメラの不正確に調整されるピッチ角、ヨー角、及び、ロール角を補償することができる。
国際公開第2012/139636号パンフレット
本発明は、自動車両カメラシステムにおける各カメラの車両縦軸と地上平面とに対する空間的な向き及びZ位置(高さ)の較正を行うという目的に基づく。
目的は独立請求項の主題によって解決される。本発明の有利な進展は、従属請求項の特徴によって明らかである。
本発明によれば、自動車両のカメラシステムを較正するための方法が提供される。この場合、以下のカメラシステムが基準として解釈される。カメラシステムの少なくとも1つのカメラはそれぞれ、自動車両の環境からカメラ画像を連続的に生成する。カメラシステムのコンピュータデバイスが、投影によってカメラ画像からそれぞれ、所定の仮想視点からの環境の仮想ビューをそれぞれ生成する。特に、仮想視点は、環境の平面ビュー、したがって鳥瞰的なビューである。各カメラに対して全体的に形成される変換カメラ画像は、全体的なビュー、特に全周ビューに構成又は合成されることが好ましい。特に、平面ビューにより、自動車両を完全に取り囲む自動車両の環境に対する鳥瞰的なビューがもたらされる。仮想ビューは、例えば、表示装置上に、例えばスクリーン上に表示画像として表示され得る。これにより、駐車支援を行うことができる。
本発明に係る方法は以下のステップを含む。コンピュータデバイスが予め設定された動作方向に沿う自動車両の動作を認識する。特に、直線的な車両動作、したがって、直進走行が認識される。動作方向に沿う認識された走行に関して、コンピュータデバイスがそれぞれのカメラごとに較正サイクルを少なくとも1回それぞれ通る。
各較正サイクルにおいて、コンピュータデバイスは以下のステップを行う。投影の現在の投影パラメータに基づいて、それぞれのカメラのカメラ画像のうちの2つが変換される。したがって、各変換カメラ画像は、所定の仮想視点から環境を表す。自動車両が動作を実行するため、2つのカメラ画像は、2つの変換カメラ画像のうちの第1の変換カメラ画像が第2の変換カメラ画像における動作に応じて所定の距離だけシフトされるという点において異なる。しかしながら、実空間内の特徴のみが直動近似に起因して同じ大きさだけ均一にシフトされる。未だ較正されないシステムの視点エラー、したがって仮想ビュー(例えば平面ビュー)に起因して、シフトは、画像全体にわたって測定される画像特徴に関して均一ではない。すなわち、画像特徴の動きベクトルが同一ではない。第1の変換カメラ画像中のそれぞれの1つの画像特徴を第2の変換カメラ画像中の同じ画像特徴に結び付けることにより、動きベクトルがそれぞれもたらされる。したがって、変換カメラ画像に基づいて、複数の動きベクトルは仮想ビューで決定される。この場合、各動きベクトルは、特に、動きの長さ及び/又は動きの方向と、未較正システムの仮想平面ビューの視点エラーとを表す。直線動作においては、それぞれのカメラごとにピッチ角−ヨー角−ロール角を計算するために、側方に適度に離間される少なくとも2つの動きベクトルが必要とされる。実際には、異常値を検出して拒絶できるためには、より多くの動きベクトルが必要とされる。本発明の方法によれば、これらの動きベクトルが同じフレームから得られる。また、これらの動きベクトルを異なるフレームで得ることも実現可能であり、その場合には、各フレームに少なくとも1つの動きベクトルが必要とされる。
動きベクトルの少なくとも1つの幾何学的特性、特に長さ及び方向に関しては、動作方向に応じてそれぞれの基準値が設定される。言い換えると、動作方向に基づいて、動きベクトルがいずれの幾何学的特性を有するべきかが決定される。したがって、動作方向に応じて公称動きベクトル又は基準ベクトルを例えば決定することができる。例えば、基準ベクトルは、公称長さ及び/又は公称方向を有することができる。動きベクトルの少なくとも1つの幾何学的特性とそれぞれの対応する基準値、例えば長さ及び/又は方向のための基準値との間の差から、エラー値が決定される。言い換えると、基準ベクトルからの動きベクトルのずれが決定される。エラー値に応じて、新たな投影パラメータが現在の投影パラメータから決定される。言及されたエラー値は、例えば、絶対誤差の和、二乗誤差の和、又は、同様の方法として形成され得る。例えば、動きベクトルの実際の値と基準値との差がそれぞれの幾何学的特性ごとに形成され得る。
本発明により、仮想ビュー内の動きベクトルに基づいてそれぞれのカメラごとに、投影パラメータを適合させることにより、したがって、新たな投影パラメータを決定することにより、カメラのロール角だけでなく例えば不正確に調整されたピッチ角及び/又はヨー角も補償できるという利点が生じる。ロール角は、用いられる回転方式にしたがってカメラのその光軸周りの又は車両横軸周りの回転位置である。ヨー角は、車両垂直軸周りのカメラの回転位置を表す。ピッチ角は、車両横軸線周りのカメラの回転位置を表す。車両垂直軸(Z軸)、車両縦軸(X軸)、及び、車両横軸(Y軸)によって、自動車両技術との関連で知られる通常の表記を理解すべきである。自動車においては、Xを縦軸として有し且つYを横軸として有することが典型的であり、この慣習がここで使用される。
言及された投影は、例えば、それが従来から知られるような視点変換であってもよい。コンピュータデバイスは、例えば、コントローラ又は幾つかのコントローラのアセンブリによって或いは自動車両のDSP(デジタル信号プロセッサ)又は中央プロセッサデバイスによって与えられてもよい。各動きベクトルは、対応する画像特徴に基づいて2つの変換カメラ画像の画像対で決定され得る。そのような画像特徴を検出して互いに関連付けるために、例えば、SIFTアルゴリズム(SIFT−スケール不変特徴変換)又はSURFアルゴリズム(SURF−高速化ロバスト特徴)を与えることができる。そのような特徴検知・マッチングは、第1の変換カメラ画像からのそれぞれの1つの画像特徴と第2の変換カメラ画像からの画像特徴との特徴対を与え、この場合、画像特徴は互いに光学的に対応する。好ましくは、SIFT又はSURFのような特徴検出器の代わりに、対象の2つのフレーム間の所定数の画像ブロック(グリッド上の配列)の直接相関を行って、動き場内の局所的な傾向から閾値を超えて逸脱する動きベクトルを拒絶することができる。これは、特徴検出器を使用して次のフレーム内で一致され得る良好な特徴が画像中に現れるのを待つのとは根本的に異なる手法である。このトラッキング方法は、原理的には、ビデオ圧縮のために使用される動き推定に非常に類似している。このことは、SIFT又はSURF(及び多くの他のもの)などの高度な特徴検出器を使用して特徴を一致させることができず、それが行き過ぎであることを意味するものではない。これは、仮想平面ビューが一致されたブロックに対して所要のシフト及びスケール不変性を(ある許容範囲まで)自動的にもたらすからである。しかしながら、トラッキング性能を向上させるために、それらのブロックを一致させる前に2つの仮想平面ビューでラプラシアン・オブ・ガウシアン又はガウシアン差分などの帯域通過フィルタを実行できる。これは、微光状態及び/又は悪天候状態で実質的な改善を与える。
好ましい実施形態では、少なくとも1つのカメラの少なくとも1つの空間的方向、特にピッチ角(ピッチ)及び/又はヨー角(ヨー)及び/又はロール角(ロール)が、投影パラメータ、特に新たな投影パラメータによって表される。
これに加えて又は代えて、自動車両におけるカメラの設置高さが、投影パラメータ、特に新たな投影パラメータによって表される。空間的方向及び/又は設置高さが新たな投影パラメータとして較正される又は適合されることにより、自動車両の動作方向に対応する画像特徴の画像動作が仮想ビューで生じる。特に自動車両の直進走行に関して、仮想ビュー内のピクセルは、一直線に、特に表示画像のエッジとエッジ平行に移動し、すなわち、表示装置を横方向に又は斜めに横切って移動しない。
一実施形態では、少なくとも1つのカメラが走行地面を環境として取得し、また、動きベクトルが走行地面のテクスチャに基づいて決定される。これにより、角、輪郭、又は、縁部などの特別な画像特徴とは無関係に方法を成すことができるという利点が生じる。その結果、状況とは無関係に動きベクトルを形成できる。
一実施形態では、カメラごとの複数の動きベクトルが仮想ビューで決定される。このため、各変換カメラ画像を互いに隣接する又は重なり合う画像ブロックのマトリクスへと分割できる。それぞれの画像ブロックごとに動きベクトルが決定される。これにより、変換カメラ画像全体にわたって分布して配置される複数の動きベクトルに基づいてエラー値が決定されるという利点が生じる。これにより、エラーは、統計的にロバスト性がより高くなる。統計的な異常値を補償することもできる。なお、ピッチ角−ヨー角−ロール角を計算するために、少なくとも2つの動きベクトルは、側方に離間される変換画像の同じ対又は異なる対から得られる。
一実施形態では、エラー値が各較正サイクルで繰り返し減少される。このため、エラー値に応じて、各繰り返しにおいて所定のコスト関数により中間投影パラメータが決定される。コスト関数は、エラー値のための計算規則である。中間投影パラメータは、例えば、コスト関数の数学的な微分に基づいて決定され得る。数学的な微分は、投影パラメータのための勾配を決定するために使用可能であり、それにより、例えばガウス−ニュートン方法などの反復最適化方法をそれ自体知られる態様で行うことができる。問題を過剰決定体系の線形方程式として定式化して線形最小二乗技術を解くこともできる。中間投影パラメータに基づき、投影によって新たに変換することにより、すなわち、再投影することにより、仮想ビュー内の動きベクトルが適合され又は新たに方向付けられる。本明細書では、特に動きベクトルのみが投影される。すなわち、カメラ画像の新たな投影と動きベクトルの再計算とを省くことができる。
これは計算能力を節約する。これにより、反復が終わらされる。エラー値が所定の最適化基準を満たすまで反復が繰り返される。例えば、最適化基準は、エラー値が所定の最大値よりも小さくなければならないこと、又は、エラー値が所定の最小変化よりも小さい前の反復に関連する値分だけ変化してしまったことを事前に設定できる。この実施形態により、2つのカメラ画像のみに基づいて最適化基準の観点から最適な新たな投影パラメータを決定できるという利点が生じる。
一実施形態では、複数の動きベクトルが例えば前述の態様で決定される。動作方向に沿う走行として、自動車両の直進走行、したがって直線的な動作が認識される。これにより、特に簡単に且つ確実にチェックされ得る及び/又は最適化され得る動きベクトルの幾何学的特性が有利に生じる。幾何学的特性として、動きベクトルが互いに平行である及び/又は仮想ビューの画像エッジに対して平行である及び/又は同一の長さであるかどうかがチェックされる。自動車両の直線動作により、これらの幾何学的特性は、ロール角、ヨー角、及び/又は、ピッチ角に関して各カメラを較正するのに十分である。
自動車両の直線動作において前述の幾何学的特性をチェックするために、特に好ましい実施形態が存在する。ここで、車両横軸と平行に方向付けられる各動きベクトルのy成分に関して、y基準値ゼロが設定され、また、車両縦軸と平行に方向付けられるx成分に関して、動きベクトルのx成分の全ての平均値がx基準値として設定される。差分二乗和がエラー値として形成される。差分は、一方ではy成分の実際の値とy基準値との間で計算され、また、前述の態様では、x成分の実際の値とx基準値との差である。これにより、最適化基準にしたがった前述の反復最小化をエラー値を用いて特に計算的に効率的に行うことができるという利点が生じる。同時に、全ての方向ベクトルが同一の長さで走行方向と平行に向けられることが達成される。
一実施形態では、それぞれのカメラの画像シーケンスから2つのカメラ画像を選択するために、2つのカメラ画像のうちの第1のカメラ画像と2つのカメラ画像のうちの第2のカメラ画像との間で画像シーケンスの少なくとも1つのカメラ画像がスキップされる。これにより、少なくとも1つの方向ベクトルが最小長さよりも大きいベクトル長さを有するという利点が生じる。この実施形態は、特に、最小速度よりも小さい自動車両の走行速度で行われる。最小速度は特に2km/h〜25km/hの範囲内である。自動車両の走行速度が所定の速度区間にある場合にだけ較正サイクルが行われるようにすることができる。速度区間は、例えば、10km/h〜30km/h、特に15km/h〜25km/hである。主に、ゼロよりも大きい速度からであることを除き制約はない。
複数の動きベクトルがカメラごとに決定される場合には、一実施形態において、少なくとも1つの動きベクトルが異常値として削除される。動きベクトルは、エラー値に対する入力又は寄与度が動きベクトルにおける所定の最大値又は最大部分よりも大きい場合に異常値として分類される。これに加えて又は代えて、動きベクトルは、該動きベクトルがその直ぐ近傍の残りの動きベクトルに関する類似性基準に違反する場合に異常値として分類される。隣接するベクトルのみと比較すべきである。較正されない仮想ビューの視点歪みは、遠い動きベクトル間に大きなずれを必然的に引き起こす。好ましくは、コスト関数では平坦な地面が想定される。不均一な地面(縁石を含む)は実際に較正においてエラーを注入し、したがって、エラーが生じるときにエラーを検出してそれを切り捨てるための機構を使用すべきである。しかしながら、地面が平坦であるが傾斜されるときには、それを傾斜していない地面から区別することができない。殆どの場合、そのようなエラーは、複数の較正サイクルにわたって必然的に平均化される。平坦でない地面(縁石など)のための検出機構は、異なる地面高さにある動きベクトルの長さの急激な変化を検出するようになっている。較正されないシステムの視点エラーは、動きベクトルの均一な長さ変化を引き起こすが、縁石は検出可能な鋭い変化を引き起こす。なお、ベクトル長さは、較正されたシステムにおいて物体高さに直接に関連する。それは、より高い地面が、見かけ上、より大きい動き、したがって、より長い動きベクトルを仮想平面ビューで与えることを意味する。
一実施形態では、複数の較正サイクルがカメラごとに行われる。それぞれの較正サイクルごとに、新たな投影パラメータがそれぞれ決定される。異なる較正タイプから、対応する新たな投影パラメータがそれぞれの平均化された投影パラメータに組み合わされる。例えば、これは再帰的平均化(移動平均)によって行われ得る。言い換えると、投影パラメータが平滑化される。再帰的平均化は、例えば、MRフィルタ(MR−無限インパルス応答)、例えば指数関数的に減少するインパルス応答として実現されるフィルタを用いて可能である。平均化された投影パラメータは、基準として、次の較正サイクルでそれぞれ投影の現在の投影パラメータとして解釈される。これにより、較正が素早く収束するという利点が生じる。加えて、投影パラメータを決定する際の推定エラーが補償される。
一実施形態では、複数の較正サイクルが行われ、また、較正サイクルのうちの1つのエラー値と少なくとも1つの前の較正サイクルのそれぞれのエラー値とから、平均エラー値が決定される。平均エラー値が所定の閾値よりも大きい場合にのみ新たな投影パラメータが決定される。そうでなければ、較正サイクルは、新たな投影パラメータ決定されずに終了される。これにより、較正のためのトリガ機能が得られる。例えば、カメラ画像のそれぞれの1つの対ごとにエラー値を複数回決定することができ、それにより、エラー信号を連続的に与えることができる。エラー信号がトリガ値又は閾値を超える場合、平均エラー値が再び閾値を下回って減少されてしまうまで新たなパラメータ値を決定することによって実際の較正が行われる。この場合、ヒステリシス閾値を与えることもできる。
既に説明したように、複数のカメラがカメラ画像を生成できる。複数のカメラの変換カメラ画像は、その後、全体ビューに、特に全周ビューに組み合わせられ又は合成され得る。複数のカメラがそれぞれカメラ画像を生成する一実施形態では、各カメラに形成される動きベクトルが互いに一致される。実際には、全てのカメラから同時に得られる全ての動きベクトルは、各カメラのピッチ−ヨー−ロールエラーが補償されてしまった後に同じ長さを有するはずである。これは、それらの動きベクトルが同じ量の直線動作を表すからである。この情報を使用して、各カメラの高さを協働で調整し、全てのカメラにおいて等しい長さの動きベクトルを得ることができる。この技術は、車両のシャーシに装着されるカメラの既知の固定された空間位置を考慮に入れて、シャーシを4つのサスペンションポイントから回転させる又は上昇させることによってカメラがその位置から制約された態様で外れることができるようにする−これは実際に起こることである。車両又は単一のカメラシステムにおけるカメラ位置の従前の知識を伴うことなく較正するために、CANバスやFlexRayバスで出される車両速度などの、他のセンサからの車両動作の大きさの独立した測定値を使用することができる。その測定値から、カメラ高さが補正された動きベクトルの予期される長さを計算して、任意のエラーを補償できる。マッチングは、カメラのうちの少なくとも1つの投影パラメータとしての設置高さを調整することによって行われる。一実施形態では、全てのカメラにおける動きベクトルが一致するまで又は最大限でも所定の許容値内で異なるまで、2つのカメラ間の相対的な設置高さが調整される。一実施形態では、カメラのうちの1つがその後に完全に較正される。このため、自動車両の走行速度に応じてカメラの絶対設置高さが決定される。走行速度に応じて、動きベクトルのベクトル長のための基準値をこのカメラに関して決定できる。例えば、走行速度は、自動車両の通信バス、特にCANバス(CAN−コントローラ・エリア・ネットワーク)を介して決定され得る。また、絶対設置高さが各カメラにおいて前述の態様で決定されるようにすることもできる。
以下には3つの可能性が記載され、それぞれの可能性は、本発明の一実施形態を与え、特に、投影パラメータの反復較正が2つのカメラの変換カメラ画像を適合させることができるようにする。第1及び第2のカメラがカメラ画像を生成する。2つのカメラの変換カメラ画像で、重なりエラー値が決定される。第1及び/又は第2のカメラのための新たな投影パラメータが重なりエラー値に応じて決定される。3つの記載される実施形態が、重なりエラー値の以下の異なる計算によって生じる。
別の実施形態では、第1のカメラの変換カメラ画像と第2のカメラの変換カメラ画像とに基づいて少なくとも1つのカメラ間動きベクトルが決定される。言い換えると、第1のカメラの変換カメラ画像におけるカメラ間動きベクトルの始点と、第2のカメラの変換カメラ画像におけるカメラ間動きベクトルの終点とが決定される。少なくとも1つのカメラ間動きベクトルの少なくとも1つの幾何学的特性に応じて重なりエラーが形成される。特に直進走行では、幾何学的特性として、カメラ間動きベクトルが自動車両の動作方向と平行に向けられるかどうかがチェックされる。
別の実施形態では、変換カメラ画像の重なり領域内において、画像ブロックが第1のカメラの変換カメラ画像で決定される。画像ブロックは、特徴検出により検出された画像特徴が位置される画像領域である。第2のカメラの変換カメラ画像では、対応する画像ブロックが決定される。言い換えると、第2のカメラの変換カメラ画像内の画像ブロックが再び検出される。画像ブロックは特にテクスチャブロックである。それに対応して特徴は特定のテクスチャである。重なりエラー値は、2つの画像ブロックの距離に応じて決定される。このブロックマッチングにおいて、重なりエラー値は、距離が減少されるように新たな投影パラメータによって減少される。
別の実施形態では、重なり領域内において、重なり領域内の第1のカメラの変換カメラ画像と第2のカメラの変換カメラ画像とから、比較値が生成される。比較値が例えば相関値であってもよい。例えば、2つの変換カメラ画像の重なり領域内のピクセルの輝度値を互いから差し引くことができ、差分の平方の和を形成できる。比較値に応じて重なりエラー値が決定される。特に、比較値が重なりエラー値として使用される。これにより、重なり領域内のテクスチャ相関に基づいて新たな投影パラメータが決定される。
自動車両用のカメラシステム、すなわち、自動車両用のカメラ装置も本発明と関連付けられる。カメラシステムは、自動車両の環境のカメラ画像から画像シーケンスをそれぞれ生成するための少なくとも1つのカメラを有する。好ましくは、複数のカメラが設けられる。また、投影を用いてカメラ画像から、所定の仮想視点からの環境の仮想ビュー、特に環境の平面ビューをそれぞれ生成するようになっているコンピュータデバイスが設けられる。特に、コンピュータデバイスが、各カメラのそれぞれの1つのカメラ画像に基づいて変換カメラ画像を生成して、変換カメラ画像を全体ビューに、特に全周ビューに結び付けるようになっている。本発明に係るカメラシステムは、カメラ画像から生成される仮想ビューを表示するため、したがって変換カメラ画像を表示するための表示装置を更に有する。特に、変換カメラ画像から構成される全体ビュー、好ましくは自動車両の平面ビューが生成されて表示される。本発明に係るカメラシステムにおいて、コンピュータデバイスは、本発明に係る方法の一実施形態を実行するようになっている。
更に、本発明に係るカメラシステムの一実施形態を伴う自動車両が本発明と関連付けられる。本明細書では、好ましくは、カメラシステムが複数のカメラを有するとともに、カメラのうちの第1のカメラの取得範囲が自動車両の近傍の第1の側方領域へ方向付けられ、カメラのうちの第2のカメラの取得範囲が自動車両の近傍の第1の側方領域とは反対側の第2の側方領域へ方向付けられ、カメラのうちの第3のカメラの取得範囲が自動車両の前の前方領域へ方向付けられ、カメラのうちの第4のカメラの取得範囲が自動車両の背後の後方領域へ方向付けられるようになっている。好ましくは、カメラシステムは、各カメラのそれぞれの1つのカメラ画像からそれぞれの変換カメラ画像を生成するようになっている。そのように生成された変換カメラ画像は、全周ビューに、特に平面ビューに関連付けられる。すなわち、全周ビューが変換カメラ画像から生成される。全周ビューは表示装置を用いて表示される。表示装置は、例えば、自動車両の中央コンソール又はダッシュボードのための例えばスクリーンであってもよい。
以下、本発明の一実施形態について説明する。
本発明に係る自動車両の一実施形態の概略図である。 図1の自動車両のカメラシステムにより生成された較正前の仮想平面ビューの表示画像の概略的な例示である。 カメラシステムの較正後の図2の平面図である。 本発明に係る方法の一実施形態のフロー図である。 カメラシステムのカメラのカメラ画像からの動きベクトルである。 較正後における図4の動きベクトルである。
以下に説明される実施形態は、本発明の好ましい実施形態である。しかしながら、実施形態において、該実施形態の記載される構成要素はそれぞれ、互いに切り離して考慮されるべき発明の個々の特徴を表し、これらの特徴もそれぞれ、互いに独立に発明を生み出し、それにより、個々の態様において又は示される組み合わせ以外において発明の構成要素とも見なされ得る。また、記載される実施形態を既に記載された発明の更なる特徴によって補うこともできる。
図中、機能的に同一の要素にはそれぞれ、同一の参照符号が与えられる。
図1は、自動車、特に乗用車であってもよい、自動車両1を示す。図1に示される例では、自動車両1が環境2にわたって走行できる。例えば、自動車両1は、道路であってもよい走行地面3上にわたって進行又は走行できる。図1には、道路の車道境界線4が典型的に例示される。自動車両1は、走行地面3上を前進走行方向5に沿って走行できる。この例では、自動車両1が直線的な車両動作6を行うものとする。
自動車両1はカメラシステム7を有することができる。カメラシステム7は、1つ以上のカメラ8,9,10,11を有することができる。図示の例では、カメラ8が前方カメラであってもよく、カメラ9,10がそれぞれ側方カメラであってもよく、また、カメラ11が後方カメラであってもよい。各カメラ8,9,10,11は例えばビデオカメラであってもよい。例えば、各カメラ8、9、10、11はそれぞれ、赤外線画像カメラ、白黒カメラ、又は、カラー画像カメラとして構成され得る。各カメラ8,9,10,11を例えばコントローラによって実現され得るコンピュータデバイス12に結合させることができる。コンピュータデバイス12は、各カメラ8,9,10,11のそれぞれの画像データを受けるようになっていてもよい。コンピュータデバイス12は、例えば自動車両内部に、例えば中央コンソール上又はダッシュボード上に配置され得る例えばスクリーンであってもよい表示装置13に結合され得る。コンピュータデバイス12は、該コンピュータデバイス12が表示装置13で表示できるカメラ画像から表示画像14を生成するようになっていてもよい。
例えば、表示画像14が自動車両1の仮想平面ビュー15を示すようにすることができる。このため、自動車両1の画16を表示画像14で表示することもできる。表示画像14は、移動画像、したがって、ビデオシーケンス又は画像シーケンスであってもよい。
仮想平面ビュー15は、以下のようにカメラシステム7内で生成され得る。各カメラ8,9,10,11のそれぞれの画像取得範囲又は簡単に言えば取得範囲17,18,19,20を環境2内へと向けることができる。特に、各取得範囲17,18,19,20は、各カメラ8,9,10,11がそれぞれの実際のカメラ視点から、例えば20センチメートル〜150センチメートルの範囲内の設置高さから走行地面3をその連続カメラ画像21,22,23,24,25,26,27,28の状態で撮像するように走行地面3へと向けられ得る。取得範囲17,18,19,20は、対を成す重なり領域Oを有することができる。
以下では、明確にするために、カメラ9のカメラ画像23,24のためのコンピュータデバイス12による画像処理についてのみ説明する。これに対応して説明は残りのカメラ8,10,11にも当てはまる。カメラ画像23,24は、投影Pによって変換され又は視点が歪められる。投影Pは、走行地面3がカメラ9の視点から表されずに仮想平面ビュー15の所望の予め設定された視点から、したがって自動車両1の上側又は頂上の視点から表されるように各カメラ画像23,24を歪めるようになっている。そのような投影は、例えば、変換によって、特に変換行列を用いて行われ得る。また、記載された投影のための別の表記は、修正又は幾何学的歪み又は等化である。そのような投影を行うための方法は、それ自体従来技術から知られている。
カメラ画像23,24から、変換カメラ画像23’,24’がそれぞれ投影Pにより生成される。変換カメラ画像23’,24’及びカメラ8,10,11の対応する変換カメラ画像は合成ユニット29へ転送され得る。合成ユニット29は、対応するカメラ画像、つまり、同じ時点に又は所定の時間間隔内で取得されてしまったカメラ画像を合成するようになっていてもよい。投影P及び合成装置29は、例えば、コンピュータデバイス12のプログラムモジュールとして与えられ得る。
この例では、変換カメラ画像23’をどのようにしてスーパーインポーズ又はスティッチングにより仮想平面ビュー15にマッチングする対応する変換カメラ画像21’,25’,27’と合成できるのかが示される。最後に、自動車両1の画16を加えることもできる。その後、完成した表示画像14を表示装置13を用いて出力することができる。変換カメラ画像21’,23’,25’,27’は、取得範囲17,18,19,20の重なり領域Oに対応する対を成す重なり領域Oを有することができる。
表示画像14が現実的な平面ビュー15を与えるようにするためには、カメラ8,9,10,11の幾何学的配置、特に幾何学的方向が互いに一致されなければならない。また、各カメラ8,9,10,11は環境2内への正しい向きを有していなければならない。これは、表示画像14内で認識できる物体の動きが実際の車両動作6に対応するからである。投影P(カメラ9の場合)及び残りの投影(図示せず)に関する投影パラメータ値30を調整する又は較正することによってカメラ8,9,10,11の幾何学的方向におけるエラーを各カメラごとにそれぞれ行うことができる。
図2は、表示画像14を、カメラ8,9,10,11の幾何学的方向におけるエラーが補償されない場合にそれが生じ得るように示す。表示画像14が示される。表示画像14は、典型的には、変換カメラ画像21’,23’,25’,27’から形成される。コンピュータデバイス12により、図2及び図3では明確にするためにその一部のみに参照符号が与えられる、互いに隣接する又は互いに重なり合う画像ブロック32のマトリクス又はグリッドパターン31を、表示画像14中のそれぞれの変換カメラ画像21’,23’,25’,27’ごとに形成することができる。それぞれの画像ブロック32ごとに、それぞれのカメラ8,9,10,11により時間的に連続して生成される2つのカメラ画像21〜28から動きベクトル33が更に生成された。明確にするため、先と同様に、動きベクトルの一部のみに参照符号が与えられる。
2つの時間的に連続して取得されるカメラ画像又は変換カメラ画像からの動きベクトルの生成は、それ自体例えば国際公開第2012/139636号パンフレットに記載される従来技術から知られている。動きベクトル33は、特に、変換カメラ画像21’〜27’中の撮像された走行地面3のテクスチャ34に基づいて形成され得る。図2では、動きベクトル33が自動車両1の走行方向6に沿う直進走行で生じ、その動きベクトルの方向は走行方向6と平行に向けられない。また、長さが異なる動きベクトル33が生じ得る。
図3には、表示画像14が、それがカメラシステム7の較正後に生じるように示され、すなわち、所望の投影パラメータ値30を伴って示される。方向ベクトル33は、走行方向6と平行に向けられて、長さが同じである。動きベクトル33の評価では、個々の動きベクトルを異常値35として切り捨てることができる。図2及び図3では、幾つかの異常値35のみにそれぞれ参照符号が与えられる。異常値35は、走行地面3が例えば不均一である場合に生じる。
投影パラメータ値30は例えばカメラ9の設置高さを特定し得る。投影パラメータ値30は、例えば、カメラ9のロール角及び/又はピッチ角及び/又は傾き角度を特定することもできる。カメラシステム7の較正のための投影パラメータ値30を決定するために、図4に示される方法を行うことができる。
提案される方法は、ほぼ直線的な動作及び非旋回を必要とするとともに、大部分の状況下で必然的に生じる地表面上の僅かなテクスチャを必要とする。他の方法とは異なり、提案される方法は、角、輪郭、又は、縁などの任意の特定の対象特徴が画像に存在すること、又は、複数のフレームにわたるそのような特徴のトラッキングを要しない。必要とされる条件が与えられると、方法は、2つの連続するビデオフレームから同時に1つ以上のカメラを較正することができる。なお、実際には、不均一な地面又は車両動作における振動に起因する非恒久的な変化をフィルタ除去するために、現在の較正がN個の前の較正の指数関数的に加重された平均として維持される。競合する方法は、それらの精度又は較正のための全時間を引き合いに出さないが、本方法は、それが信頼できる較正を非常に迅速にもたらすことができるため、競合する方法よりも速度及び精度が優れていると見込まれる。
以下のステップは、コンピュータデバイス12に内部制御をもたらす。
S1.4つのカメラ画像の魚眼・視点補正及びスティッチングを行って、全てのカメラの恒久的な固有の現在の外部較正が与えられる単一の仮想平面ビューを得る(各カメラの回転及び/又は高さにおけるエラーに対する非常に高い許容範囲を伴う)。これは、一対の仮想平面ビューを得るために全てのカメラの2つの連続するフレームに関して行われる。
画像補正は、予め計算されたルックアップテーブルを用いて行われてもよく、また、画質及びトラッキング性能を向上させるためにアンチエイリアシングフィルタを組み入れてもよい。生成されるビューのズームレベル(1ピクセル当たりの実世界単位)は、トラッキング性能を最適化するために速度及び/又は照明及び環境条件に動的に適合されてもよい。加えて、フレームは、次のステップで得られる動きベクトルの有効長、したがってSNRを増大させるために非常に低い速度でスキップされてもよい。
S2.随意的に、帯域通過又は高域通過空間フィルタリングを用いて仮想平面ビュー画像の画質を高めて、困難な環境や照明条件でトラッキング性能を向上させる。
S3.一対の仮想平面ビュー画像中の対象領域(カメラごとに1つのROI)内の隣接する又は重なり合うブロックのグリッドに関して動き推定を行って、それぞれのカメラごとに動きベクトルを得る。これらのブロックのピクセル強度の分散が何らかの閾値を下回る場合には、幾つかのブロック又は全てのブロックに関してブロックマッチングが試みられなくてもよい。すなわち、ブロックは、画像中の非常に暗い部分又は露出過度部分などのテクスチャがない表面を表す。ブロックマッチングは、ビデオ圧縮のための動き推定においても使用される典型的なブロックマッチングアルゴリズム(BMA)を用いて達成されてもよく、また、より効率的な検索予測のためにCANバスからの走行距離計測データを用いて支援されてもよい。1つのフレーム内の基準ブロックのピクセルと次のフレーム内の所定の検索領域のピクセルとの間で典型的なブロック類似性測度(BDM)、例えば差分絶対値和(SAD)又は差分二乗和(SSD)などが使用されてもよい。
S4.動き場の局所的な空間的均一性に基づく明らかな異常値を拒絶する。すなわち、何らかの類似性測度にしたがってそれらの隣り合うものから何らかの許容範囲を超えて逸脱する動きベクトルを切り捨てる。我々は、移動物体、高さを有する物体、又は、不均一な地面などの偽りの物体の偽の一致に起因して或いは真の一致に起因して生じる任意の不整合ベクトルを「異常値」として規定する。
S5.地上平面上の動きベクトルの簡単な幾何学的特性から導き出されるコスト関数を介して各カメラの現在の較正品質を独立して評価する。好ましくは、これらの幾何学的特性は、車両旋回を検出するために関連するCAN信号を介して又は動きベクトルの付加的な処理によりアルゴリズムに合わせて示され得る直線的な車両動作を満たす。
ミラーカメラから回転量を検出するための簡単な発見的方法が、動きベクトルy成分及びそれらの画像上での水平位置(又は同等にグリッド上におけるそれらの列番号)から得られるデータポイントに対して1つのラインを適合させるようになっている。このラインの傾きは、車両旋回の大きさを表す。
直線的な車両動作において、完全に較正されたシステムは、視点歪みがない動きベクトル、すなわち、画像走査線と平行で且つ全てのカメラ間で等しい長さの動きベクトルを仮想平面ビューでもたらすはずである(図6)。すなわち、全ての動きベクトルの絶対y成分の和及び絶対x成分の分散はいずれもゼロになるはずである。また、これは、ゼロ及び平均値のそれぞれからの残差平方和(SSE)として表すこともでき、また、平均二乗誤差(MSE)又は二乗平均平方根誤差(RMSE)などの派生形を成してもよい。
図5及び図6は、視点が歪まされた動きベクトル(図5)と歪まされない/較正された動きベクトル(図6)とを対比して示す。重み{W1,W2,W3,…,Wn}を伴う一組の動きベクトル{V1,V2,V3,…,Vn}においては、
Figure 2017536613
により、x成分Xiの加重平均
Figure 2017536613

Figure 2017536613
である。
最小にされるべき二乗誤差の和は
Figure 2017536613
である。
また、二乗平均平方根較正誤差は
Figure 2017536613
である。
このエラーが低ければ低いほど、較正が良好となり、また、暗に仮想平面ビューのスティッチング品質も良くなる。実際には、このエラーは、様々な根源からのノイズを組み込み、したがって、シミュレートされた理想的な条件を除いて決して絶対ゼロになり得ない。
較正エラーは、較正プロセスの自己診断及び起動のためにカメラごとに現在の較正品質の安定した表示を得るべく、逆にされ、特定の範囲(0〜100)に正規化され、及び、指数関数的移動平均MRフィルタを介してフィルタリングされる。フィルタの平滑化係数は、較正トリガの感度を決定する。この信号は、それが何らかのヒステリシス閾値を下回るまで連続的に監視され(繰り返しステップS1〜S5)、その場合、較正プロセスは、次のステップで開始されて、品質が何らかの満足できるレベルに達するまで繰り返される。
なお、較正品質は、較正結果(後述)及びそれ自体の両方において適用される指数関数的な平滑化に起因して、複数の較正サイクルにわたって定常状態へと漸近的に収束する。実際には、正しい条件が与えられると、フレームのそれぞれの対ごとに1つの較正をもたらすことができるシステムの能力に起因して、定常状態が非常に迅速に得られる。
S6.較正エラーを評価するために前のステップで使用されたものと同様のコスト関数を最小にすることによって各カメラの方向(ピッチ−ヨー−ロール)を独立して較正する。最適化は、地上平面上へ再投影される動きベクトルの残差平方和を最小にすることによって最小二乗の意味で行われる。ローリングシャッターの効果をなくすために、空間オフセットへ変換される時間遅延がコスト関数の計算に組み入れられてもよい。
S7.更なる処理のために各カメラの較正された方向を使用して全ての動きベクトルを地上平面上へ再投影する。なお、我々は既存のベクトルに対して直接に較正補正を適用できるため、仮想平面ビューもブロックマッチングされる動きベクトルもこの段階で再計算する必要がない。画像処理は、各較正サイクルの開始時にのみ行われる。
S8.高さを伴う縁石又は他の大きい物体の存在を画像中で検出するために、再投影された動きベクトルの成分の残留誤差及び統計的分布又はクラスタリングを調べる。そのような物体は、全てのベクトルが地上平面上にあるという仮定に起因して較正の精度を低下させ得る。検出が肯定的であれば、動きベクトルの組の全体を切り捨てて、新しいフレームを用いてステップ1からやり直す。或いは、支配的なクラスタを維持して、次のステップに進む。
なお、ステップ6からの較正結果は、画像中の縁石又は同様の物体の存在によって必然的に影響される。画像を2つの半画像へ分ける直線状の縁石の場合、動きベクトルのバイモーダルクラスタリングをある程度まで弱める車両縦軸(動作方向)周りのカメラ回転において主に較正エラーが表出される。殆どの場合、これは検出を妨げない。或いは、縁石又は激しい道路のそりの効果をなくすために、より高度なコスト関数が使用されてもよい。そのようなコスト関数は、動きベクトルの残差誤差を計算する際に地表面のための曲率モデルを組み入れてもよく或いは2つの異なる地上レベルを想定してもよい。
S9.散発的な異常値を更に減らすために、残りのベクトルのためのコスト関数を再評価して、ある閾値を上回る残差誤差を与えるものを除去する。ステップS6において較正を繰り返した後、次のステップに進む。或いは、使用できるベクトルの数がある閾値を上回ったままであれば、それ以上異常値を除去できなくなるまでステップS6、S7、(S8)、及び、S9を繰り返す。或いは、異常値拒絶ステップ(S4)で又は較正中(S9)に異常値を何ら除去することなく完全RANSAC(ランダムサンプルコンセンサス)アルゴリズムを使用できる。加えて、各ブロックが2つ以上の動きベクトルを潜在的にもたらす場合には、ブロックマッチングステップ(S3)からの複数の相関ピークを独立した観測結果としてRANSACに組み入れることができる。
S10.CANバスやFlexRayバスで出される車両速度又は車輪RPM(回転/分)などの他のセンサからの走行距離計測データを用いて各カメラの絶対高さを独立して計算する。或いは、そのようなデータが利用できない又は不正確であれば、カメラが車両シャーシ(剛体)に装着されること、及び、カメラの動きがサスペンションからの車両シャーシの動きによって制約されることを考慮することによって、公称デフォルトカメラ高さからのオフセットを計算する。なお、各カメラの方向を較正することは、カメラの高さの従前の知識を必要としないが、その一方で、高さを較正することは、方向の正確な知識を必要とする。
S11.不均一な地面又は未検出異常値に起因する観測雑音、車両振動、及び、一時的効果を抑制するために、較正された外部値に指数関数的平滑化を適用する。較正結果が何らかの妥当な許容範囲内にあるようにするために最終的な健全性チェックが行われてもよい。フィルタリングされた値は、次の較正サイクルの初めに及び全てのその後の処理で画像補正のために現在の較正として使用されるようにシステムへ供給される。
なお、それぞれの較正サイクルの開始時に、仮想平面ビューが最後の較正の結果から更新される。したがって、較正が定常状態へ漸近的に収束するまで視点エラーが次第に減少される。また、各サイクルにおける改善された画像補正は、マッチングされたブロックのより高い類似性に起因してブロックマッチング性能も向上させる。
前述のアルゴリズムは、殆どの用途において十分な較正精度を与えるが、このアルゴリズムは、カメラ間の重なり領域付近における又は重なり領域における画像データを考慮することによって仮想平面ビューのスティッチング精度を更に最適化するようになっていてもよい。これらの領域における異なる視点及び有効分解能の低下は、ブロックマッチングをより困難にする。しかしながら、アルゴリズムの第1の部分から得られる較正結果は、提案される方法に対して非常に良好な開始点を与える。このシナリオでは、中波細部を高めて騒音を抑制するために補正画像をフィルタリングすることがブロックマッチング性能を十分に向上させてもよい。
説明の実施では、カメラ高さ、回転、及び、潜在的にX−Y位置、又は、1つ以上のカメラの外部パラメータの任意の有用な組み合わせを同時に変えることによってスティッチング領域における視覚的な相違が最小限に抑えられる。最も簡単な場合には、カメラ高さのみが変えられる。最適化は、残差平方和(幾何学的なエラー)を最小限に抑えることによって最小二乗の意味で行われてもよく、また、同様の異常値拒絶及びフィルタリング機構がこれまでのように適用されてもよい。以下の方法が提案される。
S12.1 スティッチングライン付近のカメラにわたってブロックマッチングを行って、「カメラ間」動きベクトルを得る。その後、1つ以上のカメラの外部パラメータを最適化して、これらのベクトルを動作方向と平行にする。これは、(動作方向に対して垂直な)横方向で最適なスティッチング精度を確保する。
S12.2 2つのカメラ間で共有される重なり領域O’(図2)でブロックマッチングを行って、共通の特徴の位置(テクスチャブロック)を得る。その後、地上平面上のこれらの特徴のそれらのそれぞれのカメラからの再投影の間の幾何学的なエラーを最小限に抑えることによって1つ以上のカメラの外部パラメータを最適化する。
S12.3 関与するそれぞれのカメラごとに重なり領域O’における画像補正を再計算しつつ、1つ以上のカメラの外部パラメータを最適化して、それぞれの重なり合う画像対ごとに最良の相関を得る。相関は、重なり領域内のテクスチャの2つの大きな矩形ブロック間で行われてもよい。専用の最適化アルゴリズムを用いることができ、或いは、専用の最適化アルゴリズムは、何らかの所定の範囲内での1つ又は2つのパラメータの包括的な検索となり得る。それぞれの試験的較正ごとに、2つのブロック間で新たな相関が行われなければならず、したがって、この方法は計算面に更に高価である。

Claims (15)

  1. 自動車両(1)のカメラシステム(7)を較正するための方法であって、前記カメラシステム(7)の少なくとも1つのカメラ(8−11)が、前記自動車両(1)の環境(2)からカメラ画像(21−28)をそれぞれ連続的に生成し、前記カメラシステム(7)のコンピュータデバイス(12)が、投影(P)によって前記カメラ画像(21−28)から、所定の仮想視点からの前記環境(2)の仮想ビュー(14)、特に前記環境(2)の平面ビューをそれぞれ生成する、方法において、
    a)前記コンピュータデバイス(12)が所定の動作方向(6)に沿う前記自動車両(1)の動作、特に直線的な車両動作を認識するステップと、
    b)前記動作方向(6)に沿う認識された走行に関して、前記コンピュータデバイス(12)がそれぞれの前記カメラ(8−11)ごとに較正サイクルを少なくとも1回通るステップと、
    を備え、
    前記コンピュータデバイス(12)は、
    前記投影(P)の現在の投影パラメータ(30)に基づいて前記カメラ(9)のカメラ画像(23,24)が変換されるステップと、
    変換カメラ画像(23’,24’)に基づいて動きベクトル(33)が仮想ビュー(14)で決定されるステップと、
    前記動きベクトル(33)の少なくとも1つの幾何学的特性に関して、特に長さ及び/又は方向に関して、それぞれの基準値が前記動作方向(6)に応じて設定されるステップと、
    前記動きベクトル(33)の少なくとも1つの幾何学的特性とそれぞれの対応する前記基準値との間の差からエラー値が決定されるステップと、
    前記エラー値に応じて現在の投影パラメータ(30)から新たな投影パラメータが決定されるステップと、
    を行うことを特徴とする方法。
  2. 前記少なくとも1つのカメラ(8−11)の少なくとも1つの空間的方向、特にピッチ角(ピッチ)及び/又はヨー角(ヨー)及び/又はロール角(ロール)、及び/又は、自動車両(1)における前記カメラ(8−11)の設置高さが前記投影パラメータ(30)によって表されることを特徴とする請求項1に記載の方法。
  3. 前記少なくとも1つのカメラ(8−11)が走行地面(3)を前記環境(2)として取得し、前記動きベクトル(33)が前記走行地面(3)のテクスチャに基づいて決定されることを特徴とする請求項1又は請求項2に記載の方法。
  4. 各変換カメラ画像(23’,24’)を互いに隣接する又は重なり合う画像ブロック(32)のマトリクス(31)へと分割してそれぞれの前記画像ブロック(32)ごとに動きベクトル(33)を決定することによって複数の動きベクトル(33)が決定されることを特徴とする請求項1から3のいずれか一項に記載の方法。
  5. それぞれの較正サイクルでは、前記エラー値に応じて中間投影パラメータを決定するとともに、前記エラー値が所定の最適化基準を満たすまで、前記投影(P)を用いて新たに変換することにより前記中間投影パラメータに基づいて前記仮想ビュー(14)内の動きベクトル(33)のみを新たに方向付けることによって、前記エラー値が繰り返し減少されることを特徴とする請求項1から4のいずれか一項に記載の方法。
  6. 直進走行が前記動作方向(6)に沿う走行として認識され、幾何学的特性として、前記動きベクトル(33)が互いに平行に及び/又は前記仮想ビュー(14)の画像エッジに対して平行に配置される及び/又は同一の長さであるかどうかがチェックされることを特徴とする請求項1から5のいずれか一項に記載の方法。
  7. 車両横軸と平行に方向付けられる前記各動きベクトル(33)のy成分に関して、y基準値ゼロが設定され、車両縦軸と平行に方向付けられるx成分に関して、前記動きベクトル(33)のx成分の全ての平均値がx基準値として設定され、差分二乗和が前記エラー値として形成されることを特徴とする請求項5に記載の方法。
  8. それぞれのカメラ(9)の画像シーケンスから2つのカメラ画像(23,24)を選択するために、前記2つのカメラ画像のうちの第1のカメラ画像と前記2つのカメラ画像のうちの第2のカメラ画像との間で少なくとも1つのカメラ画像がスキップされることを特徴とする請求項1から7のいずれか一項に記載の方法。
  9. 前記エラー値に対する寄与度が所定の最大値よりも大きい少なくとも1つの動きベクトル及び/又は残りの動きベクトルに関する類似性基準に違反する少なくとも1つの動きベクトルは、前記動きベクトル(33)から異常値(35)として削除されることを特徴とする請求項1から8のいずれか一項に記載の方法。
  10. 複数の較正サイクルが行われるステップと、
    それぞれの較正サイクルごとに新たな投影パラメータ(30)がそれぞれ決定されるステップと、
    異なる較正サイクルからの対応する新たな投影パラメータ(30)がそれぞれの平均化された投影パラメータに組み合わされるステップと、
    平均化された投影パラメータ(30)が、基準として、次の較正サイクルでそれぞれ前記投影(P)の現在の投影パラメータ(30)として解釈されるステップと、
    を備えることを特徴とする請求項1から9のいずれか一項に記載の方法。
  11. 複数の較正サイクルが行われるステップと、
    前記較正サイクルのうちの1つのエラー値と少なくとも1つの前の較正サイクルのそれぞれのエラー値とから、平均エラー値が決定され、前記平均エラー値が所定の閾値よりも大きい場合にのみ新たな投影パラメータ(30)が決定されるステップと、
    を備えることを特徴とする請求項1から10のいずれか一項に記載の方法。
  12. 前記複数のカメラ(8−11)がカメラ画像(21−28)を生成し、各カメラ(8−11)に対して形成される動きベクトル(33)は、前記カメラのうちの少なくとも1つの設置高さを投影パラメータ(30)として調整することによって互いに一致されることを特徴とする請求項1から11のいずれか一項に記載の方法。
  13. 第1及び第2の前記カメラ(8−11)がカメラ画像(21−28)を生成するステップと、
    重なりエラー値が2つの前記カメラ(8−11)の前記変換カメラ画像(21’−28’)で決定されるとともに、前記第1及び/又は第2のカメラ(8−11)のための新たな投影パラメータ(30)が前記重なりエラー値に応じて決定されるステップと、
    を備え、
    a)前記第1のカメラ画像(8−11)の変換カメラ画像(21’−27’)と前記第2のカメラ(8−11)の変換カメラ画像(21’−27’)とに応じて少なくとも1つのカメラ間動きベクトルが決定されるとともに、前記少なくとも1つのカメラ間動きベクトルの少なくとも1つの幾何学的特性に応じて前記重なりエラー値が形成され、又は、
    b)重なり領域(O’)内において、画像ブロックが前記第1のカメラ(8−11)の変換カメラ画像(21’−27’)で決定され、対応する画像ブロックが前記第2のカメラの変換カメラ画像(21’−27’)で決定されるとともに、前記重なりエラー値が前記2つの画像ブロックの距離に応じて決定され、又は、
    c)重なり領域(O’)内において、前記重なり領域(O’)内の前記第1のカメラの変換カメラ画像と前記第2のカメラの変換カメラ画像とから、比較値、特に相関値が生成されるとともに、前記比較値が前記重なりエラー値として使用される、
    ことを特徴とする請求項1から12のいずれか一項に記載の方法。
  14. 自動車両(1)の環境(2)のカメラ画像(21−28)から画像シーケンスをそれぞれ生成するための少なくとも1つのカメラ(8−11)と、
    投影(P)を用いて前記カメラ画像(21−28)から、所定の仮想視点からの前記環境(2)の仮想ビュー(14)により、特に前記環境(2)の平面ビューにより、変換カメラ画像(21’−27’)をそれぞれ生成するようになっているコンピュータデバイス(12)と、
    前記変換カメラ画像(21’−27’)を特に自動車両(1)の周りの合成全周ビューとして表示するための表示装置(13)と、
    を含む自動車両(1)用のカメラシステム(7)であって、
    前記コンピュータデバイス(12)は、請求項1から13のいずれか一項に記載の方法を行うようになっていることを特徴とするカメラシステム(7)。
  15. 請求項14に記載のカメラシステム(7)を伴う自動車両(1)であって、前記カメラシステム(7)が複数のカメラ(8−11)を有し、前記カメラのうちの第1のカメラ(9)の取得範囲(18)が自動車両(1)の近傍の第1の側方領域へ方向付けられ、前記カメラのうちの第2のカメラ(10)の取得範囲(19)が自動車両(1)の近傍の前記第1の側方領域とは反対側の第2の側方領域へ方向付けられ、前記カメラのうちの第3のカメラ(8)の取得範囲(17)が自動車両(1)の前の前方領域へ方向付けられ、前記カメラのうちの第4のカメラ(11)の取得範囲(20)が自動車両(1)の背後の後方領域へ方向付けられ、前記カメラシステム(7)は、前記各カメラ(8−11)のカメラ画像(21,23,25,27)のうちの各カメラ画像からそれぞれの変換カメラ画像(21’,23’,25’,27’)を生成し、それから全周ビューを生成するとともに、表示装置(13)を用いて前記全周ビューを表示するようになっている自動車両(1)。
JP2017519658A 2014-12-04 2015-11-26 自動車両カメラシステムのオンライン較正 Active JP6411646B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102014117888.2 2014-12-04
DE102014117888.2A DE102014117888A1 (de) 2014-12-04 2014-12-04 Online-Kalibrierung eines Kraftfahrzeug-Kamerasystems
PCT/EP2015/077735 WO2016087298A1 (en) 2014-12-04 2015-11-26 Online calibration of a motor vehicle camera system

Publications (2)

Publication Number Publication Date
JP2017536613A true JP2017536613A (ja) 2017-12-07
JP6411646B2 JP6411646B2 (ja) 2018-10-24

Family

ID=54705605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017519658A Active JP6411646B2 (ja) 2014-12-04 2015-11-26 自動車両カメラシステムのオンライン較正

Country Status (7)

Country Link
US (1) US10163226B2 (ja)
EP (1) EP3189497B1 (ja)
JP (1) JP6411646B2 (ja)
KR (1) KR101949263B1 (ja)
CN (1) CN107004277B (ja)
DE (1) DE102014117888A1 (ja)
WO (1) WO2016087298A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020520028A (ja) * 2017-05-15 2020-07-02 ラヴィジオン・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング 光学測定装置をキャリブレーションするための方法
JP2020123338A (ja) * 2019-01-30 2020-08-13 株式会社ストラドビジョンStradvision,Inc. ディープラーニング基盤装置の学習に使用されるバーチャル世界シミュレータの物理エンジンをキャリブレーションする方法及び装置、そしてそのためのリアル状態ネットワークを学習する方法及びそれを利用した学習装置
JP2021157773A (ja) * 2020-03-27 2021-10-07 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 3次元再構築方法、3次元再構築装置及び電子機器
WO2022264491A1 (ja) * 2021-06-17 2022-12-22 日立Astemo株式会社 センシング装置及び車両制御装置

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012075250A1 (en) 2010-12-01 2012-06-07 Magna Electronics Inc. System and method of establishing a multi-camera image using pixel remapping
US9834153B2 (en) 2011-04-25 2017-12-05 Magna Electronics Inc. Method and system for dynamically calibrating vehicular cameras
CN106170676B (zh) * 2015-07-14 2018-10-09 深圳市大疆创新科技有限公司 用于确定移动平台的移动的方法、设备以及系统
DE102016104729A1 (de) * 2016-03-15 2017-09-21 Connaught Electronics Ltd. Verfahren zur extrinsischen Kalibrierung einer Kamera, Rechenvorrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug
DE102016104730A1 (de) * 2016-03-15 2017-09-21 Connaught Electronics Ltd. Verfahren zum Detektieren eines Objekts entlang einer Straße eines Kraftfahrzeugs, Rechenvorrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug
JP2018032253A (ja) * 2016-08-25 2018-03-01 クラリオン株式会社 キャリブレーション装置、キャリブレーション方法、キャリブレーションプログラム
DE102016220651A1 (de) * 2016-10-20 2018-04-26 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zur Erzeugung einer Fahrzeugumgebungsansicht bei einem Fahrzeug
DE102016223391A1 (de) 2016-11-25 2018-05-30 Conti Temic Microelectronic Gmbh Verfahren und vorrichtung zum erzeugen einer fahrzeugumgebungsansicht bei einem fahrzeug
DE102017100062A1 (de) 2017-01-03 2018-07-05 Connaught Electronics Ltd. Visuelle Odometrie
DE102017000307A1 (de) 2017-01-16 2018-07-19 Connaught Electronics Ltd. Verfahren zum Kalibrieren einer Kamera für ein Kraftfahrzeug unter Berücksichtigung eines Kalibrierfehlers, Kamera sowie Kraftfahrzeug
DE102017206295B3 (de) * 2017-04-12 2018-01-25 Robert Bosch Gmbh Verfahren, Vorrichtung und Computerprogramm zum Kalibrieren einer Fahrzeugkamera eines Fahrzeugs
US10612951B2 (en) * 2017-05-31 2020-04-07 Pixart Imaging Inc. Optical flow sensor, methods, remote controller device, and rotatable electronic device
KR102436730B1 (ko) * 2017-12-06 2022-08-26 삼성전자주식회사 가상 스크린의 파라미터 추정 방법 및 장치
CN109948398B (zh) * 2017-12-20 2024-02-13 深圳开阳电子股份有限公司 全景泊车的图像处理方法及全景泊车装置
CN108447095A (zh) * 2018-01-31 2018-08-24 潍坊歌尔电子有限公司 一种鱼眼相机标定方法和装置
US11061120B2 (en) 2018-04-24 2021-07-13 Ford Global Technologies, Llc Sensor calibration
EP3561773B1 (en) * 2018-04-26 2022-03-02 Continental Automotive GmbH Online evaluation for camera intrinsic parameters
WO2019206247A1 (en) * 2018-04-27 2019-10-31 Shanghai Truthvision Information Technology Co., Ltd System and method for camera calibration
DE102018212871A1 (de) * 2018-08-02 2020-02-06 Conti Temic Microelectronic Gmbh Vorrichtung und Verfahren zur Kamera-Kalibrierung
EP3776485B1 (en) * 2018-09-26 2022-01-26 Coherent Logix, Inc. Any world view generation
CN110969574A (zh) * 2018-09-29 2020-04-07 广州汽车集团股份有限公司 一种车载全景地图创建方法及装置
CN110969664B (zh) * 2018-09-30 2023-10-24 北京魔门塔科技有限公司 一种相机外部参数的动态标定方法
KR102297683B1 (ko) * 2019-07-01 2021-09-07 (주)베이다스 복수의 카메라들을 캘리브레이션하는 방법 및 장치
US11137477B1 (en) * 2019-07-02 2021-10-05 Jacob Rocereto Vehicle sensor calibration template
CN112446924B (zh) * 2019-09-02 2024-06-28 北京车和家信息技术有限公司 车辆的相机标定系统、车辆及相机标定方法
CN110942434B (zh) * 2019-11-22 2023-05-05 华兴源创(成都)科技有限公司 一种显示面板的显示补偿系统及方法
CN113256728B (zh) * 2020-02-13 2024-04-12 纳恩博(北京)科技有限公司 Imu设备参数的标定方法及装置、存储介质、电子装置
JP2021165910A (ja) * 2020-04-06 2021-10-14 トヨタ自動車株式会社 データ送信装置およびデータ送信方法
FR3111464B1 (fr) * 2020-06-12 2022-11-18 Renault Sas Procédé de calibration d’une caméra et dispositif associé
EP4173285A1 (en) * 2020-06-25 2023-05-03 Mobileye Vision Technologies Ltd. Motion-based online calibration of a multi-camera
DE102020212374A1 (de) * 2020-09-30 2022-03-31 Siemens Mobility GmbH Verfahren zur Überprüfung der Kalibrierung eines auf einem Schienenfahrzeug angeordneten Umfeldsensors
CN112422936B (zh) * 2020-11-13 2022-07-05 中国第一汽车股份有限公司 车辆全景影像的标定系统、方法、服务器和存储介质
CN113496527B (zh) * 2021-06-23 2024-04-26 中汽创智科技有限公司 一种车辆环景影像标定方法、装置、系统及存储介质
CN114252100B (zh) * 2021-12-16 2023-04-28 成都鹏业软件股份有限公司 传感器在线标定方法、装置、设备及存储介质
US11682140B1 (en) * 2022-06-30 2023-06-20 Plusai, Inc. Methods and apparatus for calibrating stereo cameras using a time-of-flight sensor
CN115345941A (zh) * 2022-07-19 2022-11-15 岚图汽车科技有限公司 一种avm标定方法及系统
DE102022130327A1 (de) * 2022-11-16 2024-05-16 Daimler Truck AG Lagewinkel-Kalibrierung einer Fahrzeugkamera während der Fahrt
CN121527329B (zh) * 2026-01-19 2026-04-24 意柯那(上海)工业设计有限公司 一种基于工程约束的汽车外饰三视图自动生成与校准方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001521228A (ja) * 1997-10-16 2001-11-06 エレクトロニクス アンド テレコミュニケーション リサーチ インスチチュート 2次元並進動きベクトルと線形回帰法を用いたグローバル動き存在有無判定方法
JP2012504889A (ja) * 2008-10-01 2012-02-23 ハイ キー リミテッド 画像取込装置の較正方法および較正システム
WO2012143036A1 (en) * 2011-04-18 2012-10-26 Connaught Electronics Limited Online vehicle camera calibration based on continuity of features
US20140350834A1 (en) * 2013-05-21 2014-11-27 Magna Electronics Inc. Vehicle vision system using kinematic model of vehicle motion

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG89282A1 (en) 1999-05-28 2002-06-18 Kent Ridge Digital Labs Motion information extraction system
JP4015051B2 (ja) * 2002-04-22 2007-11-28 松下電器産業株式会社 カメラ補正装置
US7446798B2 (en) * 2003-02-05 2008-11-04 Siemens Corporate Research, Inc. Real-time obstacle detection with a calibrated camera and known ego-motion
JP4533824B2 (ja) 2005-08-30 2010-09-01 株式会社日立製作所 画像入力装置及び校正方法
EP2166510B1 (de) * 2008-09-18 2018-03-28 Delphi Technologies, Inc. Verfahren zum Ermitteln der Position und der Orientierung einer in einem Fahrzeug angeordneten Kamera
CN101425181B (zh) * 2008-12-15 2012-05-09 浙江大学 一种全景视觉辅助泊车系统的标定方法
JP5588812B2 (ja) * 2010-09-30 2014-09-10 日立オートモティブシステムズ株式会社 画像処理装置及びそれを用いた撮像装置
DE102010062297B4 (de) * 2010-12-01 2023-11-23 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Kalibrierung einer Videokamera in oder an einem Fahrzeug
WO2012139636A1 (en) 2011-04-13 2012-10-18 Connaught Electronics Limited Online vehicle camera calibration based on road surface texture tracking and geometric properties
EP2618305B1 (de) * 2012-01-20 2014-04-30 ESG Elektroniksystem- und Logistik-GmbH Verfahren und Vorrichtung zur Online-Kalibrierung von Fahrzeug-Kameras
EP2858035B1 (en) * 2013-10-01 2020-04-22 Application Solutions (Electronics and Vision) Limited System, vehicle and method for online calibration of a camera on a vehicle
CN103985118A (zh) * 2014-04-28 2014-08-13 无锡观智视觉科技有限公司 一种车载环视系统摄像头参数标定方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001521228A (ja) * 1997-10-16 2001-11-06 エレクトロニクス アンド テレコミュニケーション リサーチ インスチチュート 2次元並進動きベクトルと線形回帰法を用いたグローバル動き存在有無判定方法
JP2012504889A (ja) * 2008-10-01 2012-02-23 ハイ キー リミテッド 画像取込装置の較正方法および較正システム
WO2012143036A1 (en) * 2011-04-18 2012-10-26 Connaught Electronics Limited Online vehicle camera calibration based on continuity of features
US20140350834A1 (en) * 2013-05-21 2014-11-27 Magna Electronics Inc. Vehicle vision system using kinematic model of vehicle motion

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020520028A (ja) * 2017-05-15 2020-07-02 ラヴィジオン・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング 光学測定装置をキャリブレーションするための方法
JP2020123338A (ja) * 2019-01-30 2020-08-13 株式会社ストラドビジョンStradvision,Inc. ディープラーニング基盤装置の学習に使用されるバーチャル世界シミュレータの物理エンジンをキャリブレーションする方法及び装置、そしてそのためのリアル状態ネットワークを学習する方法及びそれを利用した学習装置
JP2021157773A (ja) * 2020-03-27 2021-10-07 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 3次元再構築方法、3次元再構築装置及び電子機器
JP7366878B2 (ja) 2020-03-27 2023-10-23 アポロ インテリジェント ドライビング テクノロジー(ペキン)カンパニー リミテッド 3次元再構築方法、3次元再構築装置及び電子機器
WO2022264491A1 (ja) * 2021-06-17 2022-12-22 日立Astemo株式会社 センシング装置及び車両制御装置

Also Published As

Publication number Publication date
US20170323459A1 (en) 2017-11-09
JP6411646B2 (ja) 2018-10-24
KR101949263B1 (ko) 2019-02-18
CN107004277B (zh) 2021-05-07
EP3189497B1 (en) 2021-06-23
EP3189497A1 (en) 2017-07-12
DE102014117888A1 (de) 2016-10-13
CN107004277A (zh) 2017-08-01
KR20170077223A (ko) 2017-07-05
US10163226B2 (en) 2018-12-25
WO2016087298A1 (en) 2016-06-09

Similar Documents

Publication Publication Date Title
JP6411646B2 (ja) 自動車両カメラシステムのオンライン較正
CN109155066B (zh) 用于机动车辆的环境区域的两个图像之间的运动估计的方法,计算装置,驾驶员辅助系统以及机动车辆
JP6891954B2 (ja) 物体検知装置、物体検知方法、及びプログラム
JP6244407B2 (ja) 深度測定の品質の向上
US12488593B2 (en) Correction of images from a panoramic-view camera system in the case of rain, incident light and contamination
JP2010537331A (ja) ビデオ画像のオンライン較正方法およびシステム
CN114612574B (zh) 一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法
JP6950170B2 (ja) 情報処理装置、撮像装置、機器制御システム、情報処理方法、及びプログラム
WO2008044592A1 (fr) Dispositif de reconnaisance d'un objet mobile, procédé de reconnaisance d'un objet mobile, et programme informatique
CN113834463B (zh) 基于绝对尺寸的智能车侧方行人/车单目深度测距方法
JP6396499B2 (ja) 三次元情報の規模測定
US12505576B2 (en) System and method for calibrating a camera in a vehicle
JP2023520189A5 (ja)
CN107145828B (zh) 车辆全景图像处理方法及装置
EP3389015A1 (en) Roll angle calibration method and roll angle calibration device
JPH10124687A (ja) 道路白線検出方法及び道路白線検出装置
KR102922941B1 (ko) 고정 시점 캘리브레이션 패턴 영상에 대한 곡선 직선성 분석을 이용한 svm 영상 보정 방법
CN114290995A (zh) 透明a柱的实现方法、装置、汽车及介质
JP2003323627A (ja) 車両検出装置及び方法
CN118665344B (zh) 电子后视镜调整方法、装置、电子设备及存储介质
CN117830967A (zh) 图像处理方法、装置和设备
JP6334773B2 (ja) ステレオカメラ
CN119600119A (zh) 工程车辆的360度环视自动标定方法、装置及系统
CN115641563A (zh) 一种基于卷积神经网络的运动目标检测系统
CN121120766A (zh) 使用来自多个视图的集合特征的在线相机对准

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180507

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180828

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180926

R150 Certificate of patent or registration of utility model

Ref document number: 6411646

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250