JPH0348977A - 移動映像装置の映像から自己運動を算出する装置およびその方法 - Google Patents

移動映像装置の映像から自己運動を算出する装置およびその方法

Info

Publication number
JPH0348977A
JPH0348977A JP2084802A JP8480290A JPH0348977A JP H0348977 A JPH0348977 A JP H0348977A JP 2084802 A JP2084802 A JP 2084802A JP 8480290 A JP8480290 A JP 8480290A JP H0348977 A JPH0348977 A JP H0348977A
Authority
JP
Japan
Prior art keywords
foe
image
rotation
camera
image forming
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2084802A
Other languages
English (en)
Inventor
Bir Bhanu
ビア・バーヌ
Wilhelm Burger
ヴイルヘルム・バーガー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honeywell Inc
Original Assignee
Honeywell Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honeywell Inc filed Critical Honeywell Inc
Publication of JPH0348977A publication Critical patent/JPH0348977A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0253Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting relative motion information from a plurality of images taken successively, e.g. visual odometry, optical flow
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は映像形成に関するものであシ、とくに、2次元
映像系列の3次元解釈に関するものである。
更に詳しくいえば、本発明は、動いている映像形成装置
の3次元自己運動の決定に関するものである。
〔従来の技術〕
自律陸上走行車の運転を成功させるためには視覚情報が
不可欠な手掛シである。精密な慣性航行装置を用いてさ
えも、位置誤差が累積するために定期的に修正する必要
がある。未昶の環境内での運転、または捜索、救助、あ
るいは操作を含む任務作業は視覚的な帰還に非常に依存
する。
動いている物体に遭遇する時、たとえば、自律陸上車が
コンポイに追従し、他の車両に接近し、または動いてい
る脅威を検出せねばならない時K、光景の動態を評価す
ることが極めて重要となる。
自律陸上車に搭載されているカメラのような動いている
カメラの与えられている場合に対しては、環境の空間的
な配置f(r運動ステレオ」)と、陸上車の実際の動き
とについての重要な情報を映像の動きが供給できる。
運動分析における以前の研究は、3次元(3D)運動と
、2次元(2D)映像系列の光景構造との回復の念めの
数値的手法に主として集中されてきた。
最も一般的なやシ万は、1次方程式の系または非線方程
式の系を解くことによシ、3D構造と運動を1つの計算
過程で見積ることである。との技術はいくつかの大きな
制限があることが特徴である。
第1に、この技術はノイズに弱いことが知られている。
この問題を解決するために、何人かの研究者は多くのフ
レームをカバーする之めKこの技術を拡張した。第2に
、この技術は、1つの硬い物体の相対的な動きと3D構
造を分析するために構成されている。映像形成装置すな
わちカメラを有する自律陸上車(ALV)の自己運動(
egomotion)と、附随する光景の構造を見積る
ために、環境を大きな硬い物体として取扱わねばならな
い。
しかし、光景中に動いている物体が存在する可能性があ
るために、環境が硬いことは保証できない。
最良の場合に、映像化され次環境を表す刀根式系に動い
ている3D点を偶発的に含む結果が、大きい残留誤差を
示す解(運動と構造に関する)であって、ある硬くない
挙動を示す。しかし、この解単独からは運動中の点を直
ちに識別することはできない。最悪の場合(いくつかの
運動態様に対して)には、点のセット中の実際の動きの
代シに、系は厳密な解(小さい誤差がある)へ向って収
斂する。これは別の(第3の)制限を再び示す。す々わ
ち、この第3の制限というのは、ダイナミック光景解析
に固有のあいまいさと不確定性を表す適当な手段がない
ことである。上記諸問題を解決する本発明は2つの重要
な面において新規である。
光景の構造は動きの計算の単なる副産物として処理され
るのではなくて、ダイナミック光景分析のあいまいさの
いくつかを克服する次めの貴重な手段として取扱われる
。重Ji!表考えは、光景の3D構造の記述を、動きの
分析と、閉塞からの形、ステレオ、空間的な推理等のよ
うな空間知覚を取扱うその他のプロセスとの間のリンク
として用いることである。動いている光景の3D解釈は
、含まれている全てのプロセスによシ許容できるならば
、その解釈を訂正できるだけである。
第2に、数値技術は推理とモデル化の定性的戦略によっ
て大きく置き換えられる。基本的には、単一の厳密な(
ただしおそらくは正しくない)数値解に達する方程式系
を持つ代ルに、光景の多くの定量的な解釈が維持される
。現存する全ての解釈は過去において行われ九観察で一
貫して維持されている。本発明のこのやり万の主な利点
は、現在支持されている解釈が好ましくないことが判明
した時に1新しい解釈を直ちに供給できることである。
動いているカメラの環境に対するそのカメラの運動パラ
メータを一連の映像から決定するという問題は、可動ロ
ボットにおけるコンピュータ視に応用する九めに重要で
ある。ハンドル操作および制動操作のような短時間の制
御と、走行および障害物検出/回避の全てはこの情報を
効果的に利用できる作業である。
〔発明の概要〕
本発明は、連続する映像対から得た1組の変位ベクトル
からセンナ台運動の計算を取扱うものである。それは自
律ロボットおよび自律陸上車に応用することが指令され
る。観察される映像に対するカメラの回転と移動の影響
は克服される。車の針路の向きをマークする(かつセン
tを回転させる)膨張の「ぼやけ九」焦点(FOE)の
新規な概念が利用される。単一点FOEを求める代シに
可能なFOE位t(rぼやけ次FOEJ  と名づけら
れる)の2D領域を計算することによυ、FOE位置の
ための優れ急性能を達成できる。ぼやけたFOEが与え
られると、3D光景の構造と動きについてのいくつかの
非常に効果的な推論が可能であシ、ダイナミック光景分
析における実際的な道具としてぼやけたFOEを採用で
きる。その結果が実際の運動シーケンスで実現される。
光景ダイナミックスを理解するという問題は、2D映像
シーケンスにおいて観察されるどのような変化に対して
も、−貫した、もつともらしい3D解釈を見出すことで
ある。光景検出装置を含んでいる自律陸上車(ALV 
)の動きのために、光景内の静止している物体は映像中
では静止しているようには全体として見えず、動いてい
る物体が動いているとは必ずしも見えない。目標の運動
検出および運動追従のための現在のや9万の主な3つの
作業は、1)車の動きを見積ること、2)静止している
環境の3D構造を得ること、3)光景内の個々の目標の
動きを検出し、分類すること、である。それら3つの作
業は相互に依存する。車の針路(すなわち、移動)の向
きと回転は、光景内の静止位置に対して見積られる。膨
張の焦点(FOE)  は特定の映像位置として決定さ
れるのではなくて、ぼやけ九FOEと呼ばれる可能なF
OE位置の領域として決定される。発明者らは、運動情
報から3D空間の知覚に対する推論とモデル化の定量的
戦略を提供するものである。時間的に観察された環境の
1つの定量的記述を洗練する代シに、多数の定性的観察
が同時に維持される。こうすることによシ、しばしば扱
いに<<、かつノイズに弱い伝統的な数値技術よシも強
力で、融通性に富む技術が得られる。この明細書ではと
のやシ万の規則を基にした実現について説明し、実際の
ALV映像についての結果を提示する。
本発明の装置は、隅の点と、輪郭部分と、領域の境界と
、その他の2次元のしるしを基準として用いて、映像平
面内の視覚的環境の静止部分を追跡する。との結果とし
て、連続する各カメラ映像対に対して、選択されたしる
しに対する1組の2D変位ベクトルが得られることにな
る。カメラの自己運動は、レンズの中心を通る水平軸と
垂直軸を中心とする2つの別々の回転、および3D空間
内の移動としてモデル化される。3D空間内の直線に沿
ってカメラが純粋な移動を特徴とする特許映像平面内の
1つの特定の位置、前方移動の時には膨張の焦点(FO
E)と呼ばれ、後退移動の時には収縮の焦点(FOC)
と呼ばれている、を通って全ての変位ベクトルが延びる
。レンズの中心とFOE(映像平面上の)を通る3Dベ
クトルは、3D平面内でのカメラの移動の向きに一致す
る。
本発明は、車の瞬時針路の向き(FOE)を1度以内で
提供でき、動いている映像形成装置の自己運動を正確に
得ることができる。これには、水平方向と垂直方向にお
ける±56ま九はそれより大きい回転が含まれる。変位
の場におけるノイズと誤差の問題を対処するために、1
つのFOEの代シに可能なFOE位置の領域(すなわち
、ぼやけたFOE)が決定される。
しかし、実際には、映像形成ノイズ、空間的な打切9W
A差等によシ、FOEを無限小映像位置として決定する
ことが実際的でなくされる。し危がって、本発明の方法
の中心的なやシ万は、従来のヤシ方よ)も厳密で、信頼
できる結果をもたらす可能なFOE位置(1つの位置の
代りGC)の領域を計算することである。
〔実施例〕
第1図と第2図は本発明の主要部を示すものである。第
2図は、項目118 と 120における2D映像の3
D解釈についての拡張も示す。項目116は第1図の項
目122と124の部分も含む。まず、特徴抽出および
トラッキング114によシ映像データ112から重要な
特徴(点、境界、隅、等)が抽出され、2D変位ベクト
ルがこの特徴の群に対して計算される。ここで示す例の
場合には、特徴抽出およびトラッキング114によシ個
々のフレームの間で点が選択され、追従される。
この作業に適当な自動技術が関連する技術にある。
第2の過程においては、車が移動する向き、すなわち、
膨張の向き(FOE)と、空間内の回転量とが決定され
る。FOE計算に対する車の動きの影響については後で
説明する。FOE計算段階において、必要な数値計算の
ほぼ全てが行われる。これについても後で説明する。第
3の段階(2D変化分析118における)は光景の内部
3Dモデルを構成する。また、定性光景モデル12Gの
概念と動作についても説明する。動いているALVから
得た現実的な映像について行った本発明による実験につ
いては後で説明する。
装置10はトークントラッキング114と、FOE捜索
器124と、最適デローテーシヨン122(第1図)と
の3つの主な部品を含む。選択された映像トークンに対
する2D変位ベクトルは第1の段階(トークントラッキ
ング114)において決定される。それら元の変位ベク
トルは、カメラの回転を含め念、ある任意の、かつ(こ
の点においては)未知のカメラ運動によシひき起される
から、それらの変位ベクトルは純粋なカメラ移動の特性
放射パターンはまだ示さない。
第2の部品(FOE捜索器124)はFOEK対する1
組の候補位置を選択し、可能なFOE位置プラス対応す
るカメラ回転の範囲の連結された映像領域を、第3の部
品(最適デローテーシヨン122)からの結果を基にし
て形成する。対応する誤E’:CRt適デローテーシヨ
ンモジュール122によシ計算された)が、ダイナミッ
クに調節されるあるしきい値よシ小さいと、特定のFO
E位置が可能である。最後のFOE領域の寸法は、視覚
情報に含まれている不確定さの量を反映する(大きい領
域は高い不確定さを反映する)。
第3の部品(最適デローテーシヨンモジュール122)
は特定の(仮定された)FOE位置に対する最適カメラ
回転を決定する。これは、与えられた変位ベクトル群に
対するカメラの逆回転の影響をシミュレートすることに
よシ行われる。修正され友変位フィールドが、選択され
九FOE位置に関して放射状膨張パターンに最も近くな
るまで、カメラは事実上回転させられる。最適デローテ
ーシヨンモジュール122は必要な量の逆回転と、放射
状変位フィールド(すなわち、誤差値)からのずれとを
戻す。
FOE捜索器124 と最適デローテーシヨンモジュー
ル122を含む部品123は、可能なFOE位置の領域
を出力するぼやけたFOE手段を表す。
本発明の第1の段階は、静止している環境に対する車の
動きを、視覚情報を用いて見積ることである。3D空間
内の物体の任意の動きと車自体の動きを、移動と回転の
組合わせとして記述できる。
制御の比めには車の複合運動についての知識が重要であ
るが、移動だけが3D光景の空間的配置(運動ステレオ
)についての情報を供給できる。しかし、車の回転から
及ぼされる全ての映像の影響を除去することをそれは要
求する。この目的のために、「純粋の」運動成分を個々
に加えるととによシひき起される映像の変化について説
明する。
空間内の2つの時点間の物体のどのように厳密な動きも
、移動と回転の組合わせに分解できることが良く知られ
ている。多くの研究者がこの問題の速度を基にした式化
を用いているが、下記の取扱いは運動を個々の時間ステ
ップで見る。
見る之めの形状化には第3図に示されている世界座標系
(XYZ)が含まれる。第3図はカメラを中心とした座
標系130 と、レンズ中心126と、映像子f128
と、回転角φ、θ、Fとを示す。
座標系130の原点・0はレンズ中心126にある。
焦点距離fはレンズ中心126と映像平面128の間の
距離である。各3D点(xyz)を映像位置(x、y)
に写像できる。角度φ、θ、FはそれぞれX軸、Y軸、
z軸を中心とするカメラ回転角を指定する。世界座標系
が与えられると、3D内の点 x=(xyz)Tに加えられる変換 T=(UVW)  がベクトル加算 によシ行われる。座標系13Gの原点を通る任意の軸を
中心とする3D回転Rを、それの3つの軸Rを中心とす
る連続回転によシ記述できる。
It=RIRaRF ここに       (2)なお
、R+ 、R6,RyはそれぞれX軸、Y軸、z軸を中
心とする回転である。
空間内での移動と回転より成る一般的な厳密な動きは、
変換 M:X −X’= R*R19RF(T+X)   (
4)によシ記述される。それの6度の自由度はU、VW
、φ、θ、Fである。
この分解は独特のものではない。その理由は、変換は回
転の後で同様に加えられるからである。
また、回転マ) IJラックス乗算には交換剤は適用さ
れないから、回転度が異なると各軸についての回転量が
異なる結果となる。しかし、固定され念応用順序に対し
ては、この運動分解は独特である。
車の運動をモデル化するためK、カメラは静止している
ものとして、環境はカメラに対して1つの硬い物体とし
て動りているものとしてそれぞれ考える。座標1130
の原点はカメラのレンズの中心126  Kある。
与えられた仕事は、視覚情報から車またはカメラの自己
運動(egomotion)を再構成することである。
し九がって、カメラの映像に及ぼす、車またはカメラの
動きの種々のキングの影響を知る必要がある。斜視的な
映像化の下においては、空間内の点 x=(xyz)”が映像平面 x=(XY)”上の場所に、 であるよりに投影される。ここに、fはカメラの焦点距
離である(第3図参照)。
純粋なカメラ回転の影響を考慮に入れる。カメラがそれ
のレンズ中心126を中心として回転させられる時に境
界の努力を無視すると、得喪映像は変化するが、環境の
新しい画面は得られない。
純粋なカメラ回転は映像を単にそれ自体に写像するだけ
である。最も直観的な影響は、カメラに中心を置いた座
標系130の2軸を中心とする純粋な回転の結果である
。その2軸は光軸でもある。
映像中の任意の点は、映像位置!=(00)を中心とす
る円に沿って動く。しかし、実際には、2軸を中心とす
る車の回転量Vは小さい。し穴がって、車の回転はY軸
とY軸に限られ、この場合には大きい回転量が生ずる。
Y軸を中心として角度−φだけ、およびY軸を中心とし
て角度−〇だけ回転している車ま次はカメラは、各3D
、aXをカメラに対して点X′まで動かす。
X−+X’=Rφ・Ro・X         (6)
し九がって、Xの映像点であるXは次式で与えられるX
′まで動く。
ようKなる。
各映像点x=(xy)を、カメラの回転RφR6の下に
(すなわち、[パンJ (pan)および[傾きJ(を
目t)の特定の系列)対応する映像点X′=(X″y’
 )へ動かす2D回転写像は次式によシ与えられる。
RφRθ(X):X−+X’ rφrθ(x): x=(x7)→x r =(x r
 y ’ )(7m) 元の映像点Xに対する遠近関係変換(perspect
ive  transformation)  を反転
すると次のこの変換は3D変数を含まず、したがって仁
の変換は映像自身への写像であることに注目することが
重要である。これは、光景の3D構造についての付加情
報は、純粋なカメラ回転の下では得ることができないこ
とを示すものである。
この写像の興味のある性質は明らかでないかもしれない
から、その性質についてこの点で述べることにする。カ
メラを回転させるだけで、映像点を映像の中心を45度
の角度を成して通る対角線上を動かしても、Y軸とY軸
を中心とする回転量が等しくなることはない。これは、
再び、2つの回転RθとRφを連続して行わせる結果で
ある。
というのは、Y軸を中心とする第1の回転が3D空間内
でカメラのY軸の向きを変えることもするからである。
それは、(7)式がθとφに関して対称的ではない理由
も説明するものである。
カメラの回転量の測定においては、解くべき問題は次の
通シである。すなわち、2つの映像位置XOとXsが与
えられる。それらの映像位置は時刻to とtlにおけ
る同じ3D点の観察である。
ここでの質問は、カメラの移動が同時には起きないと仮
定して、時刻toとtlの間でカメラへ加えられる回転
RφとRoが、映像点XOをxlの上へ動かす量である
。RφとRoがカメラへ別々に加えられるものとすると
、映像中の点は双曲線経路に沿って動く。カメラへ純粋
の水平回転が加見られるものとすると、与えられた映像
点Xoが、によシ描かれる経路上を動く。同様に、純粋
な垂直カメラ回転は映像点xi を に沿って動く。
カメラの3D回転は別々の2つの過程で(Roの後にR
φが続く)モデル化されるから1回転写儂rφrθ を
rφが続くrθ に分離できる。第1の過程においては
、Y軸を中心とする純粋な(水平)回転rθ を加える
と、点xoが中間映像位置xCへ動かされる。第2の過
程におりては、Y軸を中心とする純粋な(垂直回転)r
φを加えると、点X、は最後の映像位置x1へ動かされ
る。これは次式で表すことができる。
rθφ=rorφ          (12)ここに
、 rθ: xll =(XO7o )→xc=(xcyc
)rφ:xc=(xσ、)→xl= (xt )’I 
)第4図は水平回転と垂直回転を連続して加える様子を
示すものである。カメラの純粋な水平回転と垂直回転に
よシ映像点XOは位置XIへ動かされる。水平回転(Y
軸を中心とする)が最初に加えられ、点Xaを位置xc
へ動かす。その位置は水平回転と垂直回転のための2つ
の双曲線経路の交差点である。第2の過程においては、
点X、は位置Xlへ動かされる。それから2つの回転角
θとφが直接見出される。更に第4図において、映像点
”c=(XCyC)は、カメラの水平回転(10)から
生ずるxoを通る双曲線と、カメラの垂直回転(11)
から生ずるX!を通る双曲線との交点である。2つの双
曲線の変差によ9次のような映像点xcが得られる。
Rφが続くRθを加えることによ’) 、xo t x
iへ写像する次めに必要なカメラの回転量は最後に次式
のように得られる。
時刻tとt′の間で車ま次はカメラが純粋表移動を行う
と、車上のあらゆる点は同じ3DベクトルT=(UVW
)”  によシ動かされる。また、カメラを固定し、環
境内のあらゆる点Xiを、−Tを加えることにより、x
;へ動かすことによシ同じ作用が得られる。
環境内のあらゆる静止点はカメラに対して同じ移動を行
うから、対応する点XiとXlの間の仮想線は3D空間
においては平行である。
平行線の映像が映像平面内の「消点」と呼ばれる1つの
点を通ることが透視図形からの基本的な結果である。カ
メラが直線に沿って動くと、あらゆる(静止)映像点こ
の消点から膨張し、またはカメラが後方へ動く時にそれ
へ向って収縮する。
し九がって、この特定の映像位置は膨張の焦点(FOE
)または収縮の焦点(FOC)  と一般に呼ばれる。
各変位ベクトルはFOEを通って、第5図に示す典型的
な半径方向膨張パターンを形成する。
第5図はFOEの位置を示す。車が純粋な移動を行うと
、環境内の点(AIB)が、レンズ中心126からカメ
ラ平面128(第3図)内のFOEまで指すベクトルに
平行な3Dベクトルに沿って動く。それらのベクトルは
、透視映像中に共通の消点(FOE)を有する平行線を
空間中に形成する。
第5図かられかるように、カメラのレンズ中心とFOE
を通る直線は3D変位ベクトルに平行でもある。したが
って、3DベクトルOFは空間内のカメラの移動する向
きを指す。カメラの内部構造(すなわち焦点距離f)を
知ると、FOEを映像中に位置させることによシ車の移
動する向きを決定できる。カメラへ加えられる実際の移
動ベクトルTはベクトルOFの倍数である。それはカメ
ラの移動の向きだけを供給し、大きさは供給しない。し
たがって、 T=λov=λCxfyff ]”、λgR(16)で
ある。
以前のほとんどの技術は3D運動の速度を基にしたモデ
ルを含んでいるから、膨張の焦点は瞬時針路の向き、す
なわち、無限に短い時間中の車の移動の向き、として一
般に解されていた。個々の時刻に撮影され九「スナップ
ショット」として映像が与えられると、それに従って、
空間内の1つの位置から次の位置への個々の動きとして
車の動きをモデル化すべきである。し念がって、FOE
は、ある時点における移動の瞬時の向きとして解釈でき
ず、ある時間にわたる車の累積された動きの向きとして
解される。
第6図は個々の時間ステップに対するFOEの概念を示
す。2つの時点間の車132の動きを、回転が続く移動
に分解できる。純粋な移動(FOEa)の映像効果が映
像工0中に観察される。第6図は曲っている経路に沿っ
て走行している車132の2つの時刻toとtlにおけ
る上面図を示す。空間中の車132の位置は車上の基準
点Pの位置によシ与えられ、車の向きはΩである。第6
図は3D運動分解の採用され次計画も示す。第1に、移
動Tが加えられる。この移動は、車の基準点(すなわち
、カメラのレンズ中心126)を位置PGから位置P1
へ、車の向きΩを変えることなしに、移動させる。3D
移動ベクトルTViFOEa において映像面128と
交差する。第2の段階においては、車は新しい向きΩI
までωだけ回転させられる。移動Tは映像工◎を映像■
l′へ変換する。その映像IIl は回転ωによシエ1
へ再び変換される。重要な事実は、映像1Gから映像I
/、へ移行の時にFOEa が観察されることである。
これは映像IIを一ωだけデローテートすることによυ
得られる。この明#I書における説明を通じて、この手
法(第6図)は車ま友はカメラの動きのモデルとして用
いられる。
カメラの移動は測定できる。第7図は2Dの場合に対す
る幾何学的関係を示すものである。個別時間ステップに
対するFOEからの膨張の量が示されている。第7図は
カメラの上面図、すなわち、カメラを中心とする座標系
130のX/Z平面上への投影、と考えることができる
。映像面の横断面が直線として示されている。カメラは
3D空間内をベクトルTだけ動く。このベクトルTはレ
ンズ中心126と、カメラ平面128内のFOEとを通
る。aDX軸はカメラの光軸でもある。カメラはT=(
Xff)”によシ与えられる向きに左から右へ移動する
2つの時刻に静止3D点が観察される。その点は空間内
をカメラに対してXからX′へ動き、その結果として2
つの映像X、!’ となる。
逆透視変換(8)を用いると Z=  −X (18) と が生ずる。同様な3角形(第7図に黒く塗#)りぶして
示されている)から したがって、 し九がって、FOEからの映像点の膨張速度は、カメラ
からの対応する3D点の距離についての直接情報を含む
。したがって、車が直線に沿って動いておシ、FOEが
位置させられたとすると、光景の3D構造を影像中の膨
張パターンから決定できる。しかし、カメラからの3D
点の距離2は換算係数Δ2まで得ることができるだけで
ある。それは、経過時間中に2軸に沿って車が進んだ距
離である。
空間内の車の速度(ΔZ/l)が既知であると、任意の
静止点の絶対速度を計算できる。あるいは、光景内のあ
る点の実際の距離が既知であると(たとえばレーザ距離
データから)車の速度を得ることができる。もちろん、
実際にはそのような技術のいずれも、FOEを小さい面
積内に位置できること、および観察され之映像点がFO
Eからの大きな膨張を示すことを求める。下に示すよう
に、映像形成ノイズとカメラの歪みのために、上記の問
題の両万全満すには問題が生ずる。
1組の静止している3D点((Xi X’、月が観察さ
れたとすると、2方向への移動はあらゆる点に対して同
じでおることはもちろんである。
全てのi、jに対して Zi−Z’i= Zj−Z′j=ΔZ       (
21)したがって、あらゆる点の距離はFOEからそれ
の映像の観察されfc膨張の量に比例する。
これは点の群の相対的な3D構造を示す。
カメラ移動Tの効果を、1組の映像位置(xilの別の
1組の映像位n (x’i )の別の1組の映像位置f
x’11への写像tとして式で表すことができる。純粋
のカメラ回転の場合におけるのと異り、この写像Fi3
D移動ベクトルに依存するばか夛でなく、観察される個
々の各点の実際の3D点にも依存する。したがって、一
般的には、tは映像のそれ自身への単なる写像ではない
。しかし、tの1つの重要な特性を映像平面128にお
いてのみ記述できること、すなわち、原点と映像中の1
つの独特の位置(FOE)を通る直線上に各点を必ず写
像できることである。このことは、車132が純粋の移
動を行っているものとすると、写像tが条件放射状写像
t(xf、I、I’):t= ((xi 、x’i )
 gIxl’ l xl” Xi十μ1(Xi  Xf
)+μitR,μm≧0 )(23) を写像tが満すような映像位置Xfが存在せねばならな
い。
車が純粋な移動または回転を行わずに、1’4%Tの形
の組合わされた3D運動(すなわち、移動と回転)を行
うとすると、映像における作用は変換d(変位に対して
)によシ記述される。この変換dは次式のようKrφ′
rθおよびtの組合わせである。
d:I→I′=rφrθt(X)(24)ここに、■=
(x i)+ ” =(x’1)は2組の対応する映像
点である。第81図と第8b図は水平回転と垂直回転お
よび移動を行っているカメラについての典型的な変位の
場を示す。点XiξIは小さい円138で示されている
。長方形134はFOEの捜索領斌を示す。第8b図に
はデローテートされ次変位が示されてお、9.FOEは
円136で示されている。
複合変位の場dを3つの成分子ゆ2.r、およびtに分
解することによシ、空間内での車の回転と移動の向きを
映像中で利用できる情報から計算できる。この問題につ
いては後で触れる。前に述べたように、Y軸を中心とす
る回転RθとX軸を中心とする回転Rφが続く移動Tに
より、車の3D運動Mがモデル化される。すなわち、 M=RφRθT            (25)この
結果として、時刻toにおける元の映像1゜から、時刻
t+における新しい映像!!への写像dになる。
d: Io 4It = rφratlo= rφrθ
I’。
(26) 式(26)中の中間映像10は車の動きの移動成分の結
果でsb、放射状写像(23)であるという性質を有す
る。2つの映像1111+11とは異なり(それらの映
像は実際に与えられる)、カメラの回転が零である時を
除き、映像には観察されない。それは、移動と回転の運
動成分に分離されている間に達成される中間結果として
作用する。
この点における質問は、この要求、すなわち解が独特で
あるかどうか、を満す回転写像rφとr。
の2つ以上の組合わせが存在するかどうかである。
Rφ、Rθ、RvおよびTへの3D運動の分解は固定さ
れた加える順序に対して独特であることを上で指摘し之
。しかし、透視映像への3D運動の影響は同様に′PJ
i特であることを意味するものではない。
点が空間内にある非常に特殊な形状に配置される少数の
場合を除き、硬い物体の運動と構造で独特の解釈を得る
ためには2つの透視図中の7個の点で十分であることを
関連する技術が示している。
多くの場合にFi6個の点で十分であ)、7個または8
個の点はほとんどの場合に独特の解釈を生ずることを示
唆するコンピュータ実験を別の技術が報告している。
しかし、それの設計および応用のために、空間内での典
型的な自律陸上車(AI、V)の動きは非常に限られる
。車はある表面の上を上方へ移動できるだけであシ、そ
れの長いホイールベースのために向きは比較的小さく変
えることができるだけである。ALVはまた重いからか
abの慣性を示す。
し九がって、最後の運動パラメータはある狭い範囲の中
に入っていなければならず、点の数が最少の近く、また
はそれよυ多い時でも独自の解を求めることができると
とを予測できる。
I′。= r6−’r6’lt= tIo     (
27)という事実は、運動成分を分離するために次の2
種類の戦略を示唆する。(1)、回転からのFOE :
逆回転写像の組合わせ rθ、  141+r6.  rφ、  、rI9kr
φkを、結果映像工゛が元の映像IoK関して放射状写
像であるまで、第2の映像へ逐次加える。次にF OE
 x fkをI◇中に位置させる。(2)、FOEから
の回転二 元の映像I、中のFOE位置(Aなる向きの
車の移動) Xfl # xf2 r・・・xf、を逐
次選択し、それから、元の映像ro中の与えられたFO
E xf、に関して放射状写像を生ずる逆回転写像rO
,rゆ、  を決定する。
前記したように限定されているが、現実的な車の運動と
いう仮定の下に、それら2つの別のやり万を調べ次。そ
の結果、回転からのFOEのやり万における大きな問題
は、映像点の写像が、FOEの位置が未卸の時は、放射
状(またはそれに近い)かどうかを判定する仁とである
ことが判明し次。
もちろん、ノイズが存在するとこの問題はより一層困難
になる。第2のやυ万について調べ次が、FOEを探す
ために与えられた変位ベクトル群を後方へ延長させるど
の方法も、本来的に映像劣化に敏感であるようであつ之
過去においてはFOEアルゴリズムのためにいくつかの
提案が行われているが、現実の屋外映像形成では実現の
結果は示されなかった。有用な結果が存在しないことの
1つの理由は、はとんどの研究者が1つの明確な映像位
置に関してFOEを位置させようと試みたことにあるか
もしれない。
しかし、実際には、完全な移動変位の場を単にデジタル
化することによシ発生されたノイズが、結果ベクトルが
1つの画素を通らないようにする。
観察する人であっても、正確な進行の向き(すなわち、
網膜上のFOEの位置)を決定することは困段なようで
ある。実際の向きからの人の判断の平均的なずれが10
度程度であり、大きい回転が存在する場合には20度ま
でであることが報告されている。したがって、この技術
においては、最後のアルゴリズムが、1つの(次だしお
そらくは不正確な)点の代シに潜在的なFOE位置(「
ぼやけたFOE Jと呼ばれる)の領域を決定すべきで
あることが大きな前提である。
FOEは回転から得ることができる。この方法において
は、映像の動きは2段階で分解できる。
第1に、回転成分が見積られ、それらの成分の逆が映像
へ加えられ、したがって映像を部分的に「プローチ−テ
ィング」する。回転の見積りが正確であると、デローテ
ーシヨンの後の結果としての変位の場は1つの映像位f
t(FOE)から外れる。
第2の段階は、変位の場は実際には放射状であって、F
OEの位置を決定することを実証する。この目的の之め
に、(1)FOEの正確な位置を知ることなしに回転運
動成分をどのように見積るか、(23[ゾロルチルジョ
ンの良さ」の測定とFOEの位置決定をどのようにして
行うか、という2つの問題を解かねばならない。
回転成分を見積ることができる。変位の場における各ベ
クトルは、カメラの回転とカメラの移動によりひき起さ
れるベクトル成分の和である。移動によりひき起される
変位は3D空間内の対応する点の深さに依存しく (1
8)式)、カメラから大きな距離の所にある点はカメラ
の移動によシ犬きく影響されるものではない。したがっ
て、車の回転を見積る1つの方法は、大きな距離にある
点に属することが刈られている変位ベクトルからθとφ
を計算することである。それらの変位ベクトルが回転に
よりひき起されるだけであるという仮定の下に、式(1
4)、 (is)を2つの角度を求めるために適用でき
る。ある状況においては、離れている点は容易に選択さ
れる。たとえば、水平上の点は車から十分な距離の所に
しばしば位置させられる。移動の軸に近い映像点は好ま
しい。その理由は、それらの点が同じ深さにある別の点
よυも遅く膨張するからである。しかし、遠い距離にあ
る点は常に利用できるというものではなく、あるいは映
像中に存在することが矧られないこともある。それらの
場合には、回転成分を見積る次の方法を使用できる。A
LV (および他の可動ロボット)の設計により、車の
進行の向きを急速に変えることはできない。したがって
、2つのフレームの間のカメラの動きは拘束されるから
、FOEはある範囲内でのみそれの位置を変えることが
できると仮定できる。FOEが1つのフレームに位置さ
せられるとすると、次のフレーム内のFOEは以前のF
OE位置の周囲のある映像値域内になければならない。
第9a図はこの状況を示す映像平面を示すものである。
前のフレームのFOEは、現在のFOEの探索領の輪郭
を成す正方形140の中心にあシ、シたがって与えられ
7’C7レーム中のFOEは正号形140の内側に必ず
ある。3つの変位ベクトル(PI→PI’、P2→P2
’、P3→P3′)が示されている。それらの変位ベク
トルの移動成分(PI→Q1、P2→Q2、P3→Q3
)とFOE (正号形140の内側)はこの時点におい
ては知られていないが、第9a図に示されている。
この技術の主な考えは、示されている領域140の内側
にあるFOEと両立するカメラ回転の可能な範囲を決定
することである。カメラは2本の軸を中心として回転す
るから、結果としての回転範囲を2D空間内の領域とし
て記述できる。第9b図はこの回転空間を示し、2本の
軸θとφはそれぞれY軸とX軸を中心とするカメラ回転
の量に対応する。回転の最初の見積シは両方向で±10
度の範囲である。とれは第9b図の回転空間内の正号形
142によシ示されている。
一般に、可能な回転の範囲は回転空間内の閉じた凸状多
角形によシ記述される。あらゆる変位ベクトル(すなわ
ち、それの端点)へ特定の回転(θ′、φ′)を加える
と、最大FOE領域を通る直線上にある新しいベクトル
を生ずるものとすると、その特定の回転が可能である。
全ての変位ベクトルに次のステップを加えることによシ
可能な回転の領域が逐次拘束される(第1011図と第
Job図)。第1に、回転多角形の頂点によシ定められ
る回転写像を変位ベクトルP→P’ 148の端点に加
える。これにより1組の映像点が生ずる。第2に、終点
P1を映像中の閉じた多角形148へ連結する。多角形
14Bは回転多角形144に類似するが、第10a図に
示すように非直線回転写像によシひすまされる。第3に
、映像中の多角形146 ′f:、変位ベクトル146
の始点Pによシ形成され、最大FOE @斌への2つの
接線152と154によシ挾まれている開かれている3
角形150に交差させる。変位ベクトルの終点を3角形
150の外側にする回転は可能ではない。その結果とし
て、映像平面内の新しい(おそらくは空白の)多角形1
56である。第4に、映像平面からの新しい多角形15
6は第9b図の回転空間へ戻る。第5に、回転多角形1
58は空白(頂点の数はゼロ)であシ、それからストッ
プする。全ての変位ベクトルを与えられfcFOEm域
に交差させるカメラの回転は可能でない。より大きいF
OE領域を用いてこの過程をくり返えす。
第11a図、第11b図、第11c図、第8図の3つの
変位ベクトルにこの過程を加えられている間における回
転多角形の変化する形を示す。
映像平面への回転空間からの写像は非直線的であるから
(第9図)、回転多角形160における頂点の間の直線
は映像中の直線には対応しない。
しかし、開かれている3角形との交差を簡単にするため
に、それらの直線は直線として近似させられる。映像平
面中の破線は映像への回転多角形の実際の写像を示す。
直線からのずれは小さくて、無視できることがわかる。
第11!1図は、変位ベクトルP1→PI’ を調べた
後の回転多角形を示す。多角形の内側でカメラがどれだ
け回転しても、Plを通って、映像平面内の正号形68
によシ与えられた最大FOE領域まで延びる接線164
 と166によシ形成され次、開かれている3角形の中
へ、変位ベクトル(PI’)の終点を動かす。映像平面
への回転多角形の実際の写像が破線輪郭で示されている
第11b図は、変位ベクトルP1→P1′およびP2→
P2’ を調べた後の回転多角形170を示す。
第1ie図は、3つの変位ベクトルP1→P1′、P2
→P2’ 、P3→P3’ を調べた後の最後の回転多
角形を示す。カメラの実際の回転の食(θ= −2,0
度、φ=5.0度)が小さい円(矢印)172で示され
ている。
変位ベクトルの数が増加すると回転の見積りが改善され
る。実際には、カメラの回転の量は両方向に1度以下の
範囲に制約できる。変位ベクトルが短い、すなわち、カ
メラの移動の量が小さい時には、回転はよシ正確に見積
ることができる。これは、長い変位ベクトルでは一層容
易であるカメラの移動を見積ることとは対照的である。
回転多角形が空白になる状況はいくつかの付加的な考察
を要する。先に述べたように、そのような場合において
は、全ての変位ベクトルを与えられたFOEm域を通ら
せるカメラ回転は可能でない。これは2つの別のや多方
のうちの一万を示すことができる。第1に、少くとも1
つの変位ベクトルが動いている物体に属する。第2に、
与えられたFOE領域がFOEの実際の位置を含まない
、すなわち、領域は可能でない。後の場合はとくに重要
である。ある領域がF’OEを含まないとある領域を決
定できるものとすると、FOEはこの領域の外側に必ず
ある。したがって、上の方法はカメラの回転の量を見積
るために使用できるばかシでなく、FOEの位置を探す
ためにも使用できる。
不幸なことに回転多角形が空白にならないとすると、こ
れはFOEが与えられた領域の実際に内側にあることは
意味しない。それは、全ての変位ベクトルがこの領域を
通ることを意味するだけで、この領域の内側では全ての
変位ベクトルが共通の交点を有することは意味しない。
しかし、ある領域を必ずしも全ての領域が通るわけでは
ないとすると、この領域はおそら< FOEを含むこと
鉱できない。下の回帰アルゴリズムは、FOEに対する
与えられ次領域をより小さh部分に分割する(分割およ
び克服)ことにより、その領域を探す。
MIN−FEASIBLE(reg4on、m1n−s
ize 、digp −vectors) : if SIZE(region)<m1n−size 
then return(region) else if FEASfBLE(region、disp−v
ectors)then return(union)
MIN−FEAS IBLE(sub−region−
1、m1n−size 。
disp−vectors)。
MIN−FEAS IBLE(sub−regi on
−2、m1n−size。
disp−vectors)。
MIN−FEAS IBLE(sub−regiofr
−n、m1Psize。
disp−vectors))) else return(nil)(region d
oes not containtheFOEl このアルゴリズムは、それ以上の考察から副領域を組織
的に廃除することによシ、可能な最小のFOE領域を探
す。元の領域の形が正方形である場合に対しては、領域
を等しい寸法の4つの削正方形に分割することによシ副
領域を得ることができる。ここで示す簡単なバージョン
は、最小の副領域(パラメータ「最小寸法」Kより限ら
れる)まで深さを最初にする探索を行う。これは最も優
雅なや9万でも最も効率的なや夛万でもない。より高度
な戦略を加えることにより、友とえば、領域の内部を調
べる前K、周縁部の周囲のIIJ領域を最初に排除する
ことを試みることにより、このアルゴリズムを大幅に改
良できる。後の方法では2つの大きい問題にぶつかる。
第1に、可能な回転を計算する過程を全ての副領域に対
してくプ返えさなければならないから、アルゴリズムは
計算に費用が高くつくことである。第2に、小さい領域
は大きい領域よう廃除されやすいことである。しかし、
領域の寸法が小さくなシすぎると、ノイズ、歪みま念は
点トラッキングによりひき起される誤差が、FOEを実
際に含んでいる領域を変位ベクトルが通ることを禁止す
ることがある。
このアルゴリズムは別の処理においては採用されないが
、従来のFOEアルゴリズムから大きく離れた興味ある
別の処理をそれは示唆するものである。それの主な魅力
は、1つのFOE位置を探す他のほとんどの技術とは対
照的に1本来は領域に向けられたものである。回転の量
を見積るために、先に述べた遠い距離における点を用い
る方法がおそらくよシ実用的である。次K、回転成分が
見積られた時にFOEの位置を求める別の2つのやり万
について説明する。
部分的にデローテートさせられた映像内のFOEの位置
を探すことを試みることができる。特定のデローテーシ
ヨン写像を変位の場に加えた後では、質問は新しい変位
の場が放射状写像にどれだけ近いかということである。
その場合には全てのベクトルは1つの映像位置から発散
する。変位の場が実際に放射状であるとすると、映像は
完全にデローテートさせられ、カメラの移動による成分
だけが残る。この性質を測定するための2s類の方法が
注目される。1つの方法は仮想の水平線と垂直線の交差
の分散を用いる。第2の方法は、変位の場がどれだけ「
放射状」であるかt−測定するために、直線相関係数を
計算する。関連する技術における交差の分散は、1つの
変位ベクトルと他の全てのベクトルとの交差の分散を計
算することにより、変位の場の乱れを見積ることを示唆
している。
交差が小さい近くのものにあるものとすると、分散は小
さい。この小さい分散は変位の場がほとんど放射状であ
ることを示す。その代りに仮相水平線と仮相垂直線を用
いることによシこの問題を簡単にできる。その線の向き
は種々のカメラ回転によシ影響を受けることはない。第
12図は、yI・・・’IsにおいてxKおける垂直線
と交差する5つの変位ベクトルP、→Pl′ ・・・P
s゛ を示す。垂直線をXからXOへ動かすと交差点は
互いに近くなるから、交差の分散が小さくなる。変位ベ
クトルP1→Pi′ とXにおける垂直線との交点は次
式で与えられる。
全ての変位ベクトルと位置Xにおける垂直線との交差の
分散は である。交差の最小分散における垂直横断面を求めるた
めに、  (29)式のXについての一次微分がゼロに
セットされる。そうすると最小交差分散の位置xoが得
られる。同様に、最小交差分散における水平横断面の位
置を得ることができる。
垂直線における交差の分散の平方根(標準側差)を、第
13図に示す合成変位の場において求め次。
実際のFOEは映像の中心に位置させられる。中心の周
囲(両方向に±100i!j素)正号形174は、その
上で誤差関数を求めるような領域をマークする。
第14a図、第14b図、第14c図および第14d図
は、ノイズがない時に垂直方向における残留回転を増加
させるために、交差の標準偏差の分布を示す。それらの
図によシ表されている全ての場合に水平回転は0度であ
る。変位ベクトルの位置は実数(整数値に丸められない
)により表される。第14a図においては、残留回転は
存在しない、すなわち、変位の場が完全に放射状である
横断面の水平位置の値は実際のFOEを中心として±1
00画素変化する。標準偏差は、X=Xf(FOEのX
座標)に対してはゼロでちゃ、FOEの両側で直線的に
増加する。第14b〜14d図において、残留垂直回転
は0.2度から1.0度へ増加させられる。太い垂直棒
は最小標準偏差を示し、細い垂直棒はFOEの位置(X
f )を示す。最小標準備差の量は回転による乱れが大
きくなるにつれて増大するが、最小偏差値の位置はFO
Eからは必ずしも離れることはないことがわかる。
第15〜17図はノイズの影響の下における同じ関数を
示す。第15a〜15d図において、変位ベクトルの位
置をそれの最も近い整数値へ単に丸めることによること
を除き、ノイズが加えられている。それらの図は、水平
回転がなく、異なる量の垂直回転に対して位置Xにおけ
る垂直横断面での交差の標準偏差(平方根)を示す。第
16a〜16d図における映像位置に±1画素の−様な
ノイズが加えられている。第17a〜17d図において
は、映像位置に±2画素の−様なノイズが加えられてい
る。ノイズの影響は残留回転成分によシひき起される影
響に類似することがわかる。
この誤差関数の目的は、FOEが位置されている場所を
決定し、かつ現在の変位の場がどのように「放射状」で
あるかを決定することである。
変位の場は既に完全にデローテートされているとすると
、最小交差標準偏差の位置はFOEの位置である。理想
的には、全てのベクトルがFOEを通るから、FOEを
通る横断面社零標準偏差を生ずる。問題は、完全にはデ
ローテートされていない映像中KFOEをどれだけ良く
位置できるかである。第18a〜18d図は、変化する
水平回転の下での最小交差標準偏差の位置のグラフであ
る。各グラフにおいては垂直回転は固定されたままであ
る。〜1度から+1度までのカメラの水平回転が横軸に
示されている( rot)。縦軸(XO)fi FOE
(xiで示されている)を中心とする±100画素の範
囲内の最小標準偏差の位置を与える。最小交差標準偏差
の位置は水平回転の量に強く依存する。
問題は、回転量が小さい時に、最小標準偏差の位置が必
ずしもFOE Kより近くないことである。
関数は零回転を中心とする狭い範囲内で良く挙動するだ
けである。このことは、FOEの位置探索を成功させる
次めには、カメラの回転の見積りが非常に正確でなけれ
ばならないことを意味する。
この誤差関数の第2の目的は、部分的なデローテーシヨ
ンの後では変位の場の「放射状」の程度を測定すること
である。これは、最小交差標準偏差の量を計算すること
によシ可能とすべきである。
直観的には、より小さい最小交差標準偏差の量が、変位
の場が回転によシ乱されることが小さいことを示す。第
19m−19d図と20 m = 20 d図は、変化
する水平回転の下での最小交差標準偏差の量を示すこと
Kよシ、それが一般に真であることを示すものである。
第19a図におけるノイズのない場合には、最小交差標
準偏差の量は、水平回転と垂直回転がない場合に零とな
って、デローテーシヨンが完全であることを示す。不幸
なことに1この比較的狭い回転範囲(±1.0度)にお
いてもこの関数は良く挙動させられない。カーブはいく
つかの鋭い極小を示す。それらの極小においては、最適
なデローテーシヨンを探しているアルゴリズムが容易に
わなにはまることになる。第19a〜19d図は、映像
位置に加えられる±2画素の−様なノイズが存在する時
の同じ関数を示す。
変位の場が放射状パターンにどれだけ近いかを測定する
、直線相関を利用する第2の方法は、第21図に示すよ
うに、垂直(ま念は水平)線χ!とx2における交差点
7sl#7+sとYes  ’Itsを再び用いる。変
位ベクトルP H−4P’l ” P 5−4F’5は
2本の垂直線Xi とx2によシ交差させられる。
両方の交差線は領域176内のFOEの同じ側にある。
FOEの位置は未知であるから、2本の線X。
とX!は可能な任意のF’OE位置から十分な距離の所
に単に位置させられる。この結果として、2組の交差点
 t (x+ 、7H) l  と ((X2 、 )
’21))となる。全ての変位ベクトルが1つの映像位
置から出るものとすると、2組の又差点中の対応する交
差点の間の距離は比例せねばならない。すなわち、全て
の1+J+l(に対して 7ti  )’tj  )’tj  Ylk    (
3o)y21−y2jy2j−y2に である。したがって、それら2本の線における又差点の
垂直座標の間に直線関係が存在する。この直線関係の「
良さ」は、2組の点のy座標について相関係数を計算す
ることによって容易に測定される。結果として得られる
係数は−1,0から+1.0の範囲の実数である。両刀
の垂直線がFOEの同じ側にあるとすると、最適値は+
1.0である。他の場合には、FOEが2本の線の間に
あるとすると、最適係数は−1,0である。2本の垂直
線の水平位置は、それらの条件の1つが満される限シ、
重要ではない。たとえば、映像の左右の境界線を使用で
きる。
第22a図乃至第22d図と第23!1図乃至第23d
図は、第19a図乃至第19d図と第20a図乃至第2
0d図におけるのと同じ条件の下における、変化する水
平回転の下での2本の垂直線における変位ベクトルの交
差に対する相関係数のグラフを示す。第22a図乃至第
22d図ではノイズは加えられていない。第23a図乃
至第23d図においては、映像位置に±2画累の−様な
ノイズが加えられた。第22a図乃至第22d図と第2
3a図乃至第23d図においては最適な係数は+1.0
(水平軸)である。第22a図乃至第22d図と第23
a図乃至第23d図のカーブの形は、先に示した最小標
準偏差に対する第198図乃至第19d図と第20a図
乃至第20d図にそれぞれ類似し、ピークが同じ位置に
ある。しかし、各カーブは、係数が最適値(+1.0)
に近いいくつかの位置を有する、すなわち、明らかな包
括的最適値が存在する。その最適値はノイズが存在する
場合だけでない(第23a図乃至第23d図)。
この事実に1υ、相関係数を最大にする方法がFOEの
計算のためには役に立たなくされる。
いま説明し次、回転からFOEを計算する際に出合う主
な問題は、調べられた関数は良く挙動せず、最適デロー
テーシヨンおよびFOEの位置を探すことを困難にする
ことである。ノイズと残留回転成分により生じさせられ
る乱れは、短へ変位を直線へ延ばし、それらの直線の変
点を計算することによシ増大させられる。下に説明する
方法、FOEからの回転、はFOEの位置を最初に推測
し、次に、この特定のFOEに対する最適デローテーシ
ヨンを見積ることによシ、その問題を解決するものであ
る。
対応する点の2つの映像IOとIIが与えられると、こ
のやり万の主なアルゴリズムステップは次の通りである
。(1)(現在の反復lに対する)映像IO中のFOE
位置xf(i)を推測する。(2)写像(x、(+) 
、 Io l I’l)が、最小誤差E(i) テ、放
射状写像((23)式)からずれるように、映像Itt
映像11.に変換するデローテーシヨン写像rθ−1r
φ−1を決定する。(3)最低最小誤差E(klを有す
るFOE位置Xf(転)が見出されるまでステップ(1
)と(2)をくり返えす。
FOE位置の最初の推1S11Jは、車に対するカメラ
の向きKついての知識から行われる。次のフレーム対に
対しては、以前の対から計算されたFOE位置を始点と
して使用できる。
特定のXfがひとたび選択されると、問題は回転写像r
、−1と rφ−1を計算することである。それらの回
転写像が映像11に加えられると、IOとxfに関する
最適放射状写像となる結果となる。
与えられ九写像が放射状写像にどれだけ近いかを測定す
るために1第2の映像(x’i)中の点と「理想的な」
変位ベクトル中の点の間の垂直距離が測定される。「理
想的な」変位ベクトルは、FOE  xfと、第1の映
像x1 中の点とを通る直線上にある(第24図参照)
。それは、Xf から第2の映像中の点xiを通る線の
間の垂直距離d1を測定することを示す。自乗された垂
直距離d1の和は最後の誤差測定値である。対応する映
像点(xll 、x’、εr )の各セットに対して誤
差測定値は E (xf)” J’ E i=;d 1(31) として定義される。
以下の説明においては、水平方向と垂直方向の残留状偉
回転の童が適度に小さい(4度よシ小さい)と仮定する
。はとんどの実際的な場合には、フレームの間の時間間
隙が十分に短いとすると、その条件は満される。しかし
、何らかの理由により車の回転量が非常に大きいとする
と、実際の回転の粗い見積シを(上記のようにして)見
出して。
FOE計算の前に映像へ加えることができる。回転量が
小さいと、水平双曲線経路と垂直双曲線経路の上を点が
動く実際の回転写像を、映像全体にわたって一定の長さ
だけの水平と垂直の移動により近似できる。この条件の
下においては、映像位置とは独立である一定ベクトルs
−=(m、aア)を加えるととKよシ、逆回転写像rJ
1と rilを近似できる。
I’l  =  rO−”r4ζ−”  It  * 
 s+  rl           (32)2つの
映像工と■′が与えられると誤差測定値((31)式)
が E(Xf、8)= ここに、xigI  と x′i81である。与えられ
念FOE位置Xf  に対しては、問題は2つの未知量
3xと$7に関してEを最小にすることである。この問
題を1次元探索に縮減するために、「案内点」と呼ばれ
る1つの点Xgが映像I中で選択される。
この映像は零誤差を維持させられる(第25図参照)。
FOE位置Xfが与えられると、点x′i に加えられ
る最適2Dシフトを決定するために、変位ベクトルセッ
トから1つのベクトルXgが選択される。第1に、11
gが線141g上にのせられ、それから、誤差値が最小
になるまで映像I′=(X’l 、 X’l・・・)が
この線の方向へ移動させられる。
したがって、対応する点x′g はXfとXgを通る直
線上に必ず含まれる。映像I′へ加えられるどの移動3
も11gをこの直の上に保たねばならないから、 X’g + 8 ” Xf+λ(Xg−xf)    
(34a)全てのSに対して、したがって、 ! ” xfxZg+λ(xg  xf) (λgR)
  (34b)である。λ=1、S =Xg  ’)C
’gに対して、それはベクトルx′g−4xgである。
これは、Xgと11gが重なり合うように映像工′が移
動させられることを意味する。これはλを自由な変数だ
けのままとし、誤差関数((33)式)は次式として得
られ(35)式をλに関して微分し、得られた式を零に
すると最適シフ)S。ptに対するパラメータをとして
生ずる。
与えられたFOEOR位置X対する最適シフト5opt
 と結果としての最小誤差Σ(λ。pt)が、λ。、t
を式(34b)と(35)に代入することにより得られ
、 ”m1n(”f)=λ2optΣへ+2λ。、tC&、
B、−XtqC,]−2ffBiC・+8BY+槙  
   (37)以下の結果(第27〜32図)に示され
ている正規化された誤差Enが として定められる。ここに、NはFOEの計算のために
用いられる変位ベクトルの数である。
カメラの純粋な移動によシひき起される変位の場におい
ては全てのベクトルはFOEから離れる向きを必ず指す
から、この制限を任意の候補FOE位置に対して保たね
ばならない(第25図)。第2の映像■″へ3゜pt(
xf)を加えた後で、仮定されたXfを指すベクトルを
結果変位の場が含むとすると、とのFOE位置は禁止さ
れ、第26図での点Xlにおける場合のように、それ以
上の考察から廃除される。第26図は5つの変位ベクト
ルの場を示す。与えられたxfに対する最適シフト3゜
、tが右下隅のベクトルとして示されている。
’optが点x′lに加えられると、結果変位ベクトル
(太く示されている)はFOEから離れて指すことはな
い。線XfXl上へのそれの射影がFOEへ向って指す
から、放射状膨張パターンとは両立しないことは確かで
ある。
進行の向きと、カメラの水平と垂直の回転を決定するた
めの最後のアルゴリズムは、次のステップよシ成るr 
FOEを求めるアルゴリズム」である。(1)最初のF
OExfO次とえば、以前。7レーム対から得たFOE
位置を推測する。(2)Xiから出発し、Emln(x
fOpt)が最小である位置xf0ptを探す。最も急
な低下の技術が用いられる。
この場合には誤差が最小の向きに探索が続けられる。
(3) x 10ptの周囲の、誤差があるしきい値よ
シ小さい領域を決定する。このFOE領域の探索は、幅
が一定である格子上のFOE位置において行われる。図
示の領においては、格子間隔はX方向とX方向で10画
素である。
誤差関数E(x()は変位ベクトルの数Nに比例する時
間で計算される。FOE領域の最後の寸法は誤差関数の
局部的な形に依存し、ある最大値Mをこえないように制
限できる。し念がって、時間の複雑さはO(MN)であ
る。
種々の条件、すなわち、変位ベクトルの平均長さ(長い
変位ベクトルではFOEをよシ正確に見積れる)、映像
中の残留回転成分の量、映像点の位置へ加えられるノイ
ズの量、の下で誤差測定の厳動を調べるために、第1の
実験群を合成映像に対して行った。第27a図乃至第2
7d図は、7つのベクトルを含む、まばらで、比較的短
い変位の場に対して正規化された誤差EnCxf)の分
布を示す。映像に対する残留回転成分の影響を視覚化す
るために、水平方向と垂直方向に±2度の残留回転成分
が第27b図乃至第27d図に示されている。合成デー
タについての他の実験に対する種々の平均ベクトル長(
長さ係数として示されている)Kその変位の場を用いた
。案内点を通る変位ベクトルは太い線で示されている。
との点の選択は重要でないが、ベクトルxf;gの向き
に対するノイズの影響を小さくするために、FOEから
かなシの距離の所にその点を位置させるべきである。変
位の場と、選択されたFOE位置における最小誤差を示
す第27a図乃至第27d図においては、小さい正方形
178で示されている実際のFOEの周囲の200X 
20000画素積上の10画素の幅の格子内で誤差関数
が標本化される。
各格子点においては、正規化された誤差の量が((41
)式)円1800寸法によシ示される。黒い円180は
あるしきい値よシ大きい誤差値を示す。
FOEを指す変位ベクトルとなる(上記のようK)それ
らのFOE位置は禁止された(+)として示されている
。2D誤差関数の形は広い面積にわ次って種々の残留回
転で滑らかく変化し、FoEの実際の位置へ最小接近を
示す。第27a図は残留回転は表さず、第27b図はカ
メラの(左への)水平回転2.0度を表し、第27c図
は(上への)垂直回転2.0度を表し、第27d図は(
下への)垂直回転−2,0度を表す。
第28図乃至第33図は、第27a図乃至第27d図に
おけるように、実際のFOEの周囲の同じ200X 2
0000画素方形におけるこの誤差関数の挙動に対する
種々の条件の影響を示す。
第28a図乃至第28d図は、誤差関数の形が、残留回
転1+はノイズ(デジタル化ノイズを除く)がない時に
おける、変位ベクトルの平均長さ(長さ係数は1から1
5まで変化する)にどのように依存するかを示す。誤差
関数の最小は変位量が増加するにつれて一層明らかKな
る。第29a図乃至第29d図は、ノイズがない時に、
比較的短いベクトル(長さ係数が2,0)に対して、水
平方向の残留回転の増大の誤差関数の形に対する影響を
示す。
第30d図乃至第30e図は、ノイズがない時の、短い
ベクトル(長さ係数2.0)に対する誤差関数の形に及
ぼす、垂直方向の残留回転の影響を示す。ここでは、用
いられる変位の場が映像平面のY軸に沿って極めて非対
称的であることに注目することが重要である。これは、
現実のALT映g/Aにおいては、映像よシ下側の部分
に位置させられている地面上の点から最も見出されやす
いのが長い変位ベクトルであゐ、という事実にょシ刺激
される。し念がって、第30a図乃至第30e図におい
て正と負の垂直回転が加えられている。
第31a図乃至第31j図において、水平方向と垂直方
向の残留回転が、長さ係数が2.0である短いベクトル
に対して、存在する。第31a図乃至第31e図におい
ては、誤差関数は映像中の回転成分に対して非常にがさ
つである。第31f図乃至第31j図は同じ条件の下に
おける最適直線シフト3゜、tの量を示す。第31e図
における結果は両方向における4、0度/4.0度の大
きな組合わされた回転の影響を示す。ここで、誤差関数
の極小はFOEの実際の位置からかなシずれている。
その理由は、直線シフトを用いることにょシ生じさせら
れる誤差が非直線デローテーシヨン軍備に近似するから
である。その場合には、この誤差関数の極小において見
出される3゜、tに等しい回転の量だけ変位の場を実際
にデローテートし、デロ−デートされた変位プロセスを
くシ返えすためにそれは必要である。
一定の平均ベクトル長さ5.0に対する映像点長さに加
えられる−様なノイズの種々の量の影響が第32a図乃
至第32e図に示されている。この目的のために、ラン
ダムな童の(−様な分布)変位が元の(連続)映像位置
へ加えられ、それから整数画素座標へ丸められる。ラン
ダムな変位が、水平方向と垂直方向に±0.5〜±4.
0画素の範囲で加えられ次。ノイズのレベルが高くなる
につれて、誤差関数の形はFOEの極小の周囲で平らに
なる。変位の場はベクトルを7つだけ含む。ここで観察
されるのは、絶対最小誤差がノイズの量とともに大きく
なる。したがって、第32a図乃至@32e図は、映像
中に存在するノイズの量と、最終結果の信頼度の指示器
として作用できる。
変位ベクトルの長さは重要な要因である。変位ベクトル
が短くなると、ノイズが存在するなかでFOEの位置を
正しく探すことが一層困INKなる。
第33a図と第33.b図は、平均ベクトル長が異なる
(長さ係数がそれぞれ2.0と5.0)場合における2
つの変位の場に対する誤差関数を示す。第33図におい
て変位の場が一層短いと(長さ係数2.0)、誤差関数
の形は同じ量のノイズ(第31a図と比較して)の下で
劇的に変化する。極小誤差(すなわち、局部的な最小)
の探索は、小さい矢印によシ示されて、実際のFOEか
らはるかに離れている領域182へ向って収束すること
が不可避である。長さ係数が5.0であると(第33b
図)、誤差関数の最小はFOE118の実際の位置に一
致する。第32d図内の点の同じ配列についての異なる
結果が、各実験において得られる種々の乱数(ノイズ)
により生じさせられる。この実験は、連続するフレーム
の間の十分な量の変位がFOElしたがって連の移動の
向きを1実に決定するために重要であることを確かめる
ものである。
このFOEアルゴリズムの性能が、動いているALVか
ら得意一連の実際の映像について下に示されている。ま
た、FOEの位置が決定された後で、車の絶対速度をど
のようにして見積ることができるかが示されている。こ
の計算のために用いられる重要な測定値は地面よυ上の
カメラの絶対高さである。その絶対高さは一定であって
、既知である。車の絶対速度が与えられると、光景内の
3D点のカメラからの絶対距離を(20)式を用いて計
算できる。デローテートされた変位の場とFOEの位置
から、光景の3D配置を共通の換算係数((20)式)
まで得ることができる。先に指摘し念ように、空間内の
1点の3D位置が既知であるとすると、その換算係数、
したがって車の速度を決定できる。災に、空間内のある
点の位置を映像中のその点の位置から再構成するために
、その点の次だ1つの座標値を知ることが十分であるこ
とを示すことは容易である。
ALVはかなり平らな表面の上を進むから、車の移動の
向きに平行である平面として道路を近似できる(第34
図参照)。この近似は、カメラ184の視野内の道路の
良い部分に対しては少くとも成立つ。第34図は平らな
表面186に平行に進むカメラ184の側面図を示す。
カメラ184は2方向へ進むから、地面186上の3D
点はカメラ184に対してZ、からzlまで動く。伏角
φは映像128内のFOE 1 gllの位置から決定
できる。地面186上のカメラ184の高さが与えられ
る。
地面186 の上のカメラ184の絶対高さは一定で、
既知であるから、車132 (第6図の)に対する地面
186上の点192と194の位置を絶対値で見積るこ
とが可能である。点192と194およびカメラ184
の間の変化する距離から、実際の進みと速さを決定でき
る。
第1に、カメラ184のレンズ中心126を原点0とす
る座標系130が導入される。この座標系130 (D
Z軸は映像平面内128内OFOE188を通シ、移動
の向きを目ざす。元のカメラを中心とする座標系(xy
z )130は、2軸:6(FOE188 に整列する
まで水平回転と垂直回転を加えるだけで新しいフレーム
(x’ y’ z’ )に変換される。「パン」および
1゛傾き」で表す水平の向きと垂直の向・きは、式(1
4)と(15)を用いてFOE188  (xfyf)
を映像の中心(OO)へ次式のように「回転させる」こ
とによシ得られる。
θ1 = 1−’  ”f (39) のカメラ184 の高さである。したがって、地面上の
点(x3y3)に対するxttrの値は次式のように見
積ることができる。
(40) 2つの角度θfとφfは、新しい座標系(x’y’z′
)に関する3D内のカメラ184の向きを表す。これに
よバ映像点Vo (!:)’1を通る投写光線の3Dの
向きを、逆透視変換を用いて決定できる。それの映像x
=(xy)が与えられる環境内の3D点Xは によシ定められる空間内の直線上にある。第34図の地
面186上の点192,194  に対しては、Y座標
は−hである。この−hは地面186の上また、それの
3D距離は次式のようにν3を(41)式に代入するこ
とにより得られる。
地面上のある点が、時刻tの時にχ3、時刻t′の時に
χ−1というように2つの時刻において観察されたとす
ると、時刻tとt′における車からのそれぞれの距離z
sと z′3は進み距離ΔZ8(1,1″)と、この期
間中の見積られた速度Vs(t、t’)を ΔZ S (t + t’ ) =Zs  Z’s  
     (44)Zs−Z’s Vg(t、t’ ) =            (4
5)t’−t として生ずる。映像ノイズとトラッキング誤差は最後の
速度見積シの品に大きな衝撃を与える。し次がって、最
も長い利用可能な変位ベクトル、すなわち、車に比較的
近いベクトル、はこの測定のために一般に選択される。
また、最初の仮定においては、地面は決して完全に平ら
ではない。それらの誤差を部分的に補償し、かつ速度見
積シの信頼度を一層高くするために、個々のベクトルに
ついての測定結果が組合わされる。映像中の各変位ベク
トルの長さ lxi X’ll  は、最終結果へのそ
れの寄与のための重みとして用いられる。1組の適百な
変位ベクトル5=(xi−x’ij が与えられると、
車が進んだ距離の見積シは、個々のベクトルについての
測定値ΔZiの重みづけられ次平均値としてとられる。
(46) そして、車の速度についての最後の見積りはこの計算は
下記の一連の実際的な映像について行われた。
以下の説明においては、FOEアルゴリズムの結果と、
車の対地速度の計算が、動いているALVから得意実際
の映像列に示されている。元の一連の映像は、フレーム
速度が1秒間当シ30フレームである標準ビデオテープ
に記録される。この元の映像列から記憶量と計算量を減
少させるために、0.5秒おき、すなわち、1秒間当シ
2フレームのフレーム速度で読出される。元の色信号の
Y成分(輝度)だけを用いて、映像は512X512の
空間解像力へデジタル化される。
第35a図乃至第35f図は実際のテストのフレームの
縁部映像を示す。点1〜57が追跡され、昇順番号が附
される。第35a図乃至第351図は、縁部検出と点検
出の後で動いているALVから撮影した元の映像列を示
す。選択された点1〜57はそれらのマークの左下隅に
位置させられる。
第35j図乃至第35p図(フレーム191〜197)
は、付加点58〜T8を含んでおり、縁部検出と点選択
の後で撮影された元の映像列を示す。追跡された点の選
択と一致の次めの緩和ラベリング・ディスパリティ分析
のために適応ウィンドウ技術が開発され次。各点の実際
の映儒位置は対応するマークの左下隅にある。結果とし
て得られた点観察のリストで構成される。次とえば、 時刻to : ((Plto XI )’1 )(pa
 to均y、)(p3 t6 xs ys )・・・)
時刻tl: ((Pt ttxt7s )(P2 tt
X27z )(Ps tx xs ’!x )・・・)
である。
点に初めて遭遇した時にそれらの点に独特のラベルが与
えられる。点の追跡が開始され次後で、この点がもはや
追跡されなくなるまでそれのラベルは不変の11にされ
る。追跡されている点に対しての以後のフレーム中で対
応性が見出されないと、その点の追跡は中断される。そ
の対応性が見出されない理由は、それを識別できないか
、つまっているか、特徴が視野から抜は次かのいずれか
である。同じ点が再び現われたとすると、その点は新し
いものとして取扱われ、新しいラベルが与えられる。第
35a図乃至第35i図に示す一迷の映像においては、
1つの映像画シ約25個の点が選択されている。膨張の
焦点の探索においては、以前のフレーム対からの最適F
OE位置が最初の推測としてとられる。最初のフレーム
対に対しては(以前の結果を利用できない時)、車に対
するカメラの既知の取付けからFOEの位置が推測され
る。2台の車(24と23)上で追跡される点は動いて
いることが知られているものと仮定され、FOEと車の
回転および速度を計算する次めの基準点としては用いら
れない。仁の情報は、推理プロセスによシ、定性的光景
モデル(第2図)とともに、最終的に供給される(第3
図)。
第36a図乃至第36p図は、第35a図乃至第35p
図に示されている映像列に対する変位ベクトルと車の動
きの見積シを示す。黒くされ次領域190は可能なFO
E位置を示し、この領域190内の円178は最小誤差
値のFOEである。FOE比は領域190内の誤差関数
の平坦さを測定する。
ま九1、fig 36 a図乃至第36p図は、前の図
におけるのと同じ映像列について車の動きを計算した結
果を示すものである。各フレームtは、とノtと前のフ
レーム(t−1)の間の時間についての動きの見&シを
示す。し次がって、最初のフレーム(182)において
は見積りは利用できない。
与えられたNkvJの推測から出発して、FOEアルゴ
リズムは映像の位置をi&初に探す。その映像位置は禁
止されず、かつ誤差関数((35)式)が最小である。
このFOE位置において行われた最適水平シフトと最適
垂直シフトを用いて、X軸とY軸を中心とする車の回転
を見積る。次のフレームのための最初の推測であるこの
点は、黒くされている領域内の小円として示される。等
しい回転成分が±1度の尺度でグラフ状に示されている
。中間プローチルジョンと、F’OE探索の反復を加え
る必要が決してないように、それらの回転成分はシーケ
ンス全体を通じて比較的小さい。元の変位ベクトル(実
線)とともに、デローテーシヨン後に得たベクトルが破
線で示されている。
誤差が最小の位置が見出された後で、潜在的なFOE位
置の領域を成長させる九めの種としてそれは用いられる
。その領域の成長は、次の2つの制約によって限られる
。(1)その領域内の最大誤差と最小誤差の比が制限さ
れる。すなわち、E I / E m 1 n =p 
1 ≦p ZImn      n (誤差関数Enの定義のための(40)式を参照のこと
。)哄差比ρ1が限界ρLirnをこえるよりなFOE
位置はその領域に連結されない。したがって、その領域
の最後の寸法は誤差関数の形に依存する。この例におい
ては比ρtimは4.0にセットされた。同様に、禁止
され次位置(第26図)は考慮しない。C)領域Mと与
えられ九FOE領斌との誤差値とは無関係に、領域Mの
最大寸法はFOE領域によシ与えられる。その領域の内
部の点に対する結果としての誤差比ρmax=max(
ρi)はこの領域に対する誤差関数の形を示す。比ρm
axの低い値は平らな誤差関数を示す。ρmax  に
対する値が全ての映像においてFOE比として示されて
いる。
車の絶対速度を計算するためには、各フレーム対におい
てほんのわずかの突出した変位ベクトルが選択された。
それの基準は、ベクトルはFOEの下に位置させられる
こと、およびベクトルの長さは20画素をこえることで
ある。選択された(デローテートされた)ベクトルの終
点には黒点がつけられる。絶対進みの計算のために用い
られるパラメータは地面上のカメラの高さであって、3
.3メートル(リフイード)である。
第37図は本発明のハードウェア実施例200を示す。
カメラ202としては、垂直視野が48度で、水平視野
が50度である日立製のテレビカメラを使用できる。カ
メラ202は水平よシ下側へ16.3度の伏角でセット
できる。カメラ202によシ撮影された映像列204は
、Isプロセッサ20Bとブイニーxツクス(VAX)
11/750コンピユータ210を含むトラッキング手
段206へ送られる。トラッキング手段206は映像列
204のフレームの間のトークンを追跡する。
ラッキング手段206の出力は、トークンと対応する映
像を対応させる手段212へ加えられる。
2種類のコンピュータ210と 218に対してはVA
X−シンポリツクス(Symbolics)双方向ネッ
トワークプロトコル手段214が手段212と、シンポ
リツクス(Symbolics) 3670 :rンビ
ュータ218との間に接続される。もつとも、1台のコ
ンピュータを使用することも可能であ)、そうすると手
段214は不要である。コンピュータ218は膨張のぼ
やけた焦点と、動きの回転/移動見積シを得るための処
理を行う。コンピュータ218に用いられる言語環境は
共通LISPである。
本発明の実施例における方法とプロセスは以下のプログ
ラミングによシ実現される。
明細舎の浄コ(内容に変更なし) 明allの浄書(内容に変更なし) 明細書の浄書(内容に変更なし) ’7’:”:Aコの19g(内容に変更なし)明細、ビ
の浄S(内容に変更なし) 四劇書の浄書(内容に変更なし) 明4’1lleの浄書(内容に変更なし)トー ψへ 明に、iにのi(’1tF(内容に変更なし)lW!細
書の浄書(内容に変更なし) 明+tn二の1占(内容に変更なし) 明#1工の:> 、!■内容に変更なし)明IIAtF
の浄書(内容に変更なし)明細コの浄書(内容に変更な
し) −527− 明細書の1魯(内容に変更なし) 明細壽の、’> −+3 (内容に変更なし)明ぶはの
浄書(内容に変更本し) + 1 、+、+、+−ノ2、、−−^、+ ’++l
 、−+、  +−メ^−ノ  PS赤〜−7明細、吻
浄ご(内容に変更なし) 明、′J時の、1・i!)(内ぞiに変更なし)明細書
の浄古く内容に変衷なし) 明細占のj’P 3 (内容に変更なし)明細書の浄が
(内容に変更なし)
【図面の簡単な説明】
第1図は本発明の機能的ブロック図、第2図は三次元光
景構成への本発明の拡張された応用を示す図、第3図は
カメラモデルと対応する座標系を示し、第4図はカメラ
に水平回転と垂直回転を9続いて加える状況を示し、第
5図は純粋のカメラ移動のための膨張位置の焦点(FO
E)の効果を示し、第6図はカメラを有する車が動いて
いる間の個々の時間段階のためのFOEの概念を示し、
第7図は個々の時間段階のためのFOEからの膨張の量
を示し、第8a図と第8b図はカメラの水平回転と垂直
回転および移動によりひき起された変位の揚上、デロー
テートされた変位の場とをそれぞれ示し、第9a図と第
9b図それぞれ映像平面と回転空間を示し、第10a図
と第10b図はそれぞれ回転空間から映像平面への多角
形の写像と、映像平面から回転空間への多角形の写像を
それぞれ示し、第11a図乃至第11c図は変化する回
転多角形を示し、第12図は、動かされた時に交差の分
散を変化させる垂直線と変位ベクトルの交差を示し、第
13図は各種の誤差関数を評価するために用いられる変
位の場を示し、第14a図乃至第14d図は種々の垂直
回転量に対する位置における垂直横断面における交差の
標準偏差を示し、第15轟図乃至第15d図は、水平回
転がなく、映像場所へ画素ノイズが加えられない時の種
々の垂直回転量に対する位置における垂直横断面におけ
る交差の標準偏差(平方根)を示し、第16a図乃至第
16d図は水平回転がなく、映像場所へプラスマイナス
1画素のノイズが加えられている時の種々の垂直回転量
に対する位置における垂直横断面における交差の標準偏
差(平方根)を示し、第17a図乃至第17d図は水平
回転がなく、映像場所へプラスマイナス2画素のノイズ
が加えられている時の種々の垂直回転量に対する位置に
おける垂直横断面における交差の標準備差(平方根)を
示し、第18a図乃至第18d図はFOEの水平場所が
xfで示されている、変化する水平回転の下における最
小交差標準偏差の場所を示し、第19a図乃至第19d
図は映像場所へノイズが加見られていない時の、変化す
る水平回転の下における最小交差標準偏差の量を示し、
第20a図乃至第20d図は映像場所へプラスマイナス
2画素のノイズが加えられている時の、変化する水平回
転の下における最小交差標準偏差の量を示し、第21図
はFOEの同じ側にある2本の垂直線を有する交差する
変位ベクトルを示し、第22a図乃至第22d図はノイ
ズが加えられていない時の、変化する水平回転の下にお
ける2本の垂直線における変位ベクトルの交差に対する
相関係数を示し、第23a図乃至第23d図は映像場所
へプラスマイナス2画票のノイズが加えられている時の
、変化する水平回転の下における2本の垂直線における
変位ベクトルの交差に対する相関係数を示し、第24図
は変位ベクトルと、それらの変位ベクトルの誤差測定を
示し、第25図は1組の変位ベクトルに対する最適な二
次元シフトをどのようにして決定するかを示し、第26
図は最適シフトを加え念結果として生じた変位場所がF
OEから離れる向きを指していないベクトルになる結果
となるならば、FOE場所がどのようKして分散させら
れるかを示し、第27a図乃至第27d図は選択された
FOE場所における変位場所と最小誤差を示し、第28
a図乃至第28e図は誤差関数の形に対する変位ベクト
ルの平均長さの増大の影響を示し、第29a図乃至第2
9e図は比較的短いベクトルについての誤差関数の形に
対する水平方向における増大する残留回転の影響を示し
、第30a図乃至第30e図は比較的短いベクトルにつ
いての誤差関数の形に対する垂直方向における増大する
残留回転の影響を示し、第31a図乃至第31e図は比
較的短いベクトルについての誤差関数の形に対する水平
方向と垂直方向における増大する残留回転の影響を示し
、第31f図乃至第31j図は第31a図乃至第31e
図におけるのと同じ条件の下で得られる最適直線シフト
の量を示し、第32a図乃至$ 32 e図は一定の平
均ベクトル長さについて映像点座標へ加えられる−様な
ノイズの影響を示し、第33a図と第33b図はそれぞ
れより短い平均ベクトル長さと、よシ長い平均ベクトル
長さについて映像点座標へ加えられる−様なノイズの影
響を示し、第34図は平らな表面に平行に移動している
カメラの側面図、第35a図乃至第35i図は選択され
た点が、縁部検出と点検出の後で動いている車から撮影
した元の映像の左下欄に設けられているそれらの映像平
面の列を示し、第35j図乃至第35p図は縁部検出と
点検出後の元の映像シーケンスを示し、第36a図乃至
第36p図は第35図乃至第35p図に示されている映
像シーケンスに対する車の動きの変位ベクトルと見積シ
を示し、第37図は本発明の実施例の特定のノ・−ドウ
エア実現を示す。 114 ・・・・ トークントラッキング、122・・
・・f&適!ローテーション、124  ・・・φFO
E探索器、202・Φ・・カメラ、208 ・・・・プ
ロセッサ、210 ・・・・コンピュータ。

Claims (4)

    【特許請求の範囲】
  1. (1)視野内の一連の映像を検出する映像形成手段と、 この映像形成手段へ接続され、連続する各映像対に対す
    る選択されたトークンの2次元変位ベクトルを決定し、
    隅の点、輪郭部分、領域境界の2次元基準を基準として
    用いて、映像中の視覚環境の静止部分を映像から映像へ
    追跡するトークントラッキング手段と、 このトークントラッキング手段へ接続され、前記映像形
    成手段の前方並進の下における膨張の焦点候補位置と、
    前記映像形成装置の後方並進の下における収縮の焦点候
    補位置とを選択し、候補位置の接続されている映像領域
    と対応する回転の距離を形成し、膨張または収縮の焦点
    と映像回転見積りを出力する探索手段と、 前記トラッキング手段と前記探索手段へ接続され、膨張
    または収縮の焦点のための選択された候補位置のための
    最適な3次元回転角プラス誤差値を決定する最適回転手
    段と、 を備え、2次元変位ベクトルはカメラの動きの結果であ
    る、自己の映像形成から自身の自己運動を決定できる映
    像形成装置。
  2. (2)連続する2次元映像対から2次元変位ベクトルを
    デローテーテイング(derotating)して、映
    像形成装置の回転の影響を除去するデローテーシヨン(
    derotation)手段と、このデローテーシヨン
    手段へ接続され、2次元変位ベクトルから、2次元映像
    上の膨張位置の可能な焦点の2次元領域である、膨張の
    ぼやけた焦点(FOE)を計算する第1の計算手段と、
    前記デローテーシヨン回路へ接続され、ぼやけているF
    OEから、前記映像形成装置の自己運動パラメータを計
    算する第2の計算手段と、 を備える自己の映像形成から自身の自己運動を決定でき
    る映像形成装置。
  3. (3)2次元変位ベクトルから、映像形成装置の映像内
    の可能な膨張の焦点(FOE)位置を計算する計算手段
    と、 この計算手段へ接続され、可能なFOE位置を組合わせ
    ることにより、移動の近似的な向きと、前記映像形成装
    置の空間内の回転量とを示すぼやけたFOEにする組合
    わせ手段と、 前記計算手段へ接続され、デローテートされた2次元変
    位ベクトルを前記計算手段へ出力するように、前記映像
    装置の回転を映像から除去するデローテーシヨン手段と
    、 を備える、自己の映像形成から自身の自己運動を決定で
    きる、環境内の映像形成装置。
  4. (4)引続く2次元映像の2次元変位ベクトルから膨張
    の焦点(FOE)位置を計算する過程と、FOE位置の
    定量的な指示であつて、かつ各映像に対する可能なFO
    E位置のエリアであるぼやけたFOE領域を計算する過
    程と、 映像形成装置自身の基準座標系に対する前記映像形成装
    置の移動の近似的な向きと、回転の近似的な量とをぼや
    けたFOEから決定する過程と、前記映像形成装置の回
    転の影響を変位ベクトルから除去する過程と、 を備え、環境内の映像形成装置の自己運動を決定する方
    法。
JP2084802A 1989-03-31 1990-03-30 移動映像装置の映像から自己運動を算出する装置およびその方法 Pending JPH0348977A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US07/332,320 US4969036A (en) 1989-03-31 1989-03-31 System for computing the self-motion of moving images devices
US332,320 1989-03-31

Publications (1)

Publication Number Publication Date
JPH0348977A true JPH0348977A (ja) 1991-03-01

Family

ID=23297707

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2084802A Pending JPH0348977A (ja) 1989-03-31 1990-03-30 移動映像装置の映像から自己運動を算出する装置およびその方法

Country Status (4)

Country Link
US (1) US4969036A (ja)
EP (1) EP0390051A3 (ja)
JP (1) JPH0348977A (ja)
IL (1) IL93809A0 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006285946A (ja) * 2005-03-07 2006-10-19 Nippon Telegr & Teleph Corp <Ntt> 画像の奥行分布推定方法及び装置及びプログラム
JP2008005478A (ja) * 2006-05-24 2008-01-10 Kazuo Iwane 湧きだし点基準cv領域画像前置装置
WO2008032375A1 (fr) * 2006-09-13 2008-03-20 Pioneer Corporation Dispositif et procédé de correction d'image, et programme informatique
JP2012123751A (ja) * 2010-12-10 2012-06-28 Toshiba Alpine Automotive Technology Corp 車両用画像処理装置および車両用画像処理方法

Families Citing this family (73)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2844240B2 (ja) * 1990-03-15 1999-01-06 本田技研工業株式会社 自動走行装置
US5257209A (en) * 1990-06-26 1993-10-26 Texas Instruments Incorporated Optical flow computation for moving sensors
KR940007163B1 (ko) * 1991-07-09 1994-08-06 삼성전자 주식회사 캠코더의 피사체 자동추적장치
US5577130A (en) * 1991-08-05 1996-11-19 Philips Electronics North America Method and apparatus for determining the distance between an image and an object
JPH0554085A (ja) * 1991-08-28 1993-03-05 Fuji Xerox Co Ltd 動画像検索支援装置
US5870486A (en) * 1991-12-11 1999-02-09 Texas Instruments Incorporated Method of inferring sensor attitude through multi-feature tracking
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US5819016A (en) * 1993-10-05 1998-10-06 Kabushiki Kaisha Toshiba Apparatus for modeling three dimensional information
FR2714503A1 (fr) * 1993-12-29 1995-06-30 Philips Laboratoire Electroniq Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective.
FR2714502A1 (fr) * 1993-12-29 1995-06-30 Philips Laboratoire Electroniq Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective.
EP0691534B1 (de) * 1994-07-06 2001-12-12 Volkswagen Aktiengesellschaft Verfahren zur Ermittlung der Sichtweite, insbesondere für die Bewegung eines Kraftfahrzeuges
WO1996024216A1 (en) 1995-01-31 1996-08-08 Transcenic, Inc. Spatial referenced photography
US7895076B2 (en) 1995-06-30 2011-02-22 Sony Computer Entertainment Inc. Advertisement insertion, profiling, impression, and feedback
US8574074B2 (en) 2005-09-30 2013-11-05 Sony Computer Entertainment America Llc Advertising impression determination
SE9601440D0 (sv) * 1996-04-15 1996-04-15 Apogeum Ab Förfarande för positionsbestämning av ett flertal fasta objekt
JP3216792B2 (ja) * 1996-08-06 2001-10-09 富士電機株式会社 映像による距離検出方法
US5943445A (en) * 1996-12-19 1999-08-24 Digital Equipment Corporation Dynamic sprites for encoding video data
US6333749B1 (en) 1998-04-17 2001-12-25 Adobe Systems, Inc. Method and apparatus for image assisted modeling of three-dimensional scenes
US6281904B1 (en) 1998-06-09 2001-08-28 Adobe Systems Incorporated Multi-source texture reconstruction and fusion
US6748158B1 (en) * 1999-02-01 2004-06-08 Grass Valley (U.S.) Inc. Method for classifying and searching video databases based on 3-D camera motion
US7966078B2 (en) 1999-02-01 2011-06-21 Steven Hoffberg Network media appliance system and method
AU1793301A (en) * 1999-11-26 2001-06-04 Mobileye, Inc. System and method for estimating ego-motion of a moving vehicle using successiveimages recorded along the vehicle's path of motion
EP1727089A3 (en) * 1999-11-26 2007-09-19 MobilEye Technologies, Ltd. System and method for estimating ego-motion of a moving vehicle using successive images recorded along the vehicle's path of motion
WO2007130681A2 (en) 2006-05-05 2007-11-15 Sony Computer Entertainment America Inc. Advertisement rotation
US7193633B1 (en) 2000-04-27 2007-03-20 Adobe Systems Incorporated Method and apparatus for image assisted modeling of three-dimensional scenes
US8751310B2 (en) 2005-09-30 2014-06-10 Sony Computer Entertainment America Llc Monitoring advertisement impressions
US6995788B2 (en) * 2001-10-10 2006-02-07 Sony Computer Entertainment America Inc. System and method for camera navigation
WO2003009074A1 (en) * 2001-07-16 2003-01-30 Honda Giken Kogyo Kabushiki Kaisha Behavior control apparatus and method
WO2004016400A2 (en) * 2002-08-16 2004-02-26 Evolution Robotics, Inc. Systems and methods for the automated sensing of motion in a mobile robot using visual data
US6922199B2 (en) * 2002-08-28 2005-07-26 Micron Technology, Inc. Full-scene anti-aliasing method and system
DE10251949A1 (de) * 2002-11-08 2004-05-19 Robert Bosch Gmbh Fahrdynamikregelung mit Bildsensorsystem
KR20040086940A (ko) * 2003-04-03 2004-10-13 엘지전자 주식회사 이미지센서를 채용한 이동로봇 및 그의 이동거리 측정방법
US8133115B2 (en) 2003-10-22 2012-03-13 Sony Computer Entertainment America Llc System and method for recording and displaying a graphical path in a video game
WO2005045763A1 (en) * 2003-11-04 2005-05-19 Canon Kabushiki Kaisha Method of estimating an affine relation between images
US7312819B2 (en) * 2003-11-24 2007-12-25 Microsoft Corporation Robust camera motion analysis for home video
JP4052650B2 (ja) * 2004-01-23 2008-02-27 株式会社東芝 障害物検出装置、方法及びプログラム
US7671916B2 (en) * 2004-06-04 2010-03-02 Electronic Arts Inc. Motion sensor using dual camera inputs
US8763157B2 (en) * 2004-08-23 2014-06-24 Sony Computer Entertainment America Llc Statutory license restricted digital media playback on portable devices
DE102004047130B4 (de) * 2004-09-27 2012-07-26 Andreas Stopp Umgebungsmodellierung für autonome mobile Systeme
US20060071933A1 (en) 2004-10-06 2006-04-06 Sony Computer Entertainment Inc. Application binary interface for multi-pass shaders
KR100587572B1 (ko) * 2004-10-15 2006-06-08 삼성전자주식회사 카메라 픽셀 정보를 이용하여 공간상의 코너 포인트를추출하는 시스템 및 방법, 상기 시스템을 포함하는 이동로봇
US7639841B2 (en) * 2004-12-20 2009-12-29 Siemens Corporation System and method for on-road detection of a vehicle using knowledge fusion
US7636126B2 (en) 2005-06-22 2009-12-22 Sony Computer Entertainment Inc. Delay matching in audio/video systems
US8626584B2 (en) 2005-09-30 2014-01-07 Sony Computer Entertainment America Llc Population of an advertisement reference list
US8676900B2 (en) 2005-10-25 2014-03-18 Sony Computer Entertainment America Llc Asynchronous advertising placement based on metadata
US11004089B2 (en) 2005-10-25 2021-05-11 Sony Interactive Entertainment LLC Associating media content files with advertisements
US20070118425A1 (en) 2005-10-25 2007-05-24 Podbridge, Inc. User device agent for asynchronous advertising in time and space shifted media network
US10657538B2 (en) 2005-10-25 2020-05-19 Sony Interactive Entertainment LLC Resolution of advertising rules
US8666661B2 (en) * 2006-03-31 2014-03-04 The Boeing Company Video navigation
US7880746B2 (en) 2006-05-04 2011-02-01 Sony Computer Entertainment Inc. Bandwidth management through lighting control of a user environment via a display device
US7965859B2 (en) 2006-05-04 2011-06-21 Sony Computer Entertainment Inc. Lighting control of a user environment via a display device
US7831090B1 (en) * 2006-06-30 2010-11-09 AT&T Intellecutal Property II, L.P. Global registration of multiple 3D point sets via optimization on a manifold
JP4794510B2 (ja) * 2007-07-04 2011-10-19 ソニー株式会社 カメラシステムおよびカメラの取り付け誤差の補正方法
US8416247B2 (en) 2007-10-09 2013-04-09 Sony Computer Entertaiment America Inc. Increasing the number of advertising impressions in an interactive environment
US8769558B2 (en) 2008-02-12 2014-07-01 Sony Computer Entertainment America Llc Discovery and analytics for episodic downloaded media
US8238612B2 (en) * 2008-05-06 2012-08-07 Honeywell International Inc. Method and apparatus for vision based motion determination
US8763090B2 (en) 2009-08-11 2014-06-24 Sony Computer Entertainment America Llc Management of ancillary content delivery and presentation
JP2011188083A (ja) * 2010-03-05 2011-09-22 Sony Corp 情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置
US10786736B2 (en) 2010-05-11 2020-09-29 Sony Interactive Entertainment LLC Placement of user information in a game space
KR101677634B1 (ko) * 2010-07-12 2016-11-18 엘지전자 주식회사 로봇 청소기 및 이의 제어 방법
US9251708B2 (en) 2010-12-07 2016-02-02 Mobileye Vision Technologies Ltd. Forward collision warning trap and pedestrian advanced warning system
US9233659B2 (en) 2011-04-27 2016-01-12 Mobileye Vision Technologies Ltd. Pedestrian collision warning system
US9342817B2 (en) 2011-07-07 2016-05-17 Sony Interactive Entertainment LLC Auto-creating groups for sharing photos
US9189850B1 (en) * 2013-01-29 2015-11-17 Amazon Technologies, Inc. Egomotion estimation of an imaging device
KR101507242B1 (ko) * 2013-10-21 2015-03-31 포항공과대학교 산학협력단 영상 분석을 통하여 모션 햅틱 효과를 제공하는 장치 및 방법
KR102507248B1 (ko) 2015-12-02 2023-03-06 에스케이하이닉스 주식회사 에고모션 추정 시스템 및 방법
US10019801B2 (en) * 2016-03-11 2018-07-10 Kabushiki Kaisha Toshiba Image analysis system and method
WO2018056802A1 (en) * 2016-09-21 2018-03-29 Universiti Putra Malaysia A method for estimating three-dimensional depth value from two-dimensional images
US10846779B2 (en) 2016-11-23 2020-11-24 Sony Interactive Entertainment LLC Custom product categorization of digital media content
US10860987B2 (en) 2016-12-19 2020-12-08 Sony Interactive Entertainment LLC Personalized calendar for digital media content-related events
US10931991B2 (en) 2018-01-04 2021-02-23 Sony Interactive Entertainment LLC Methods and systems for selectively skipping through media content
ES2994490T3 (en) * 2018-04-16 2025-01-24 Lynxight Ltd A method and apparatus for swimmer tracking
CN113470342B (zh) * 2020-03-30 2023-04-07 华为技术有限公司 一种自运动估计的方法及装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4357661A (en) * 1980-02-22 1982-11-02 The Boeing Company Aircraft landing control system
US4834531A (en) * 1985-10-31 1989-05-30 Energy Optics, Incorporated Dead reckoning optoelectronic intelligent docking system
DE3604401A1 (de) * 1986-02-12 1987-08-20 Messerschmitt Boelkow Blohm Tiefflugverfahren zur automatischen kursbestimmung
US4805018A (en) * 1986-03-07 1989-02-14 Matsushita Electric Industrial Co., Ltd. Video signal processing apparatus for separating an image of a moving object from video signals
FR2624682B2 (fr) * 1987-03-23 1990-03-30 Thomson Csf Procede et dispositif d'estimation de mouvement dans une sequence d'images animees
DE3885883D1 (de) * 1987-09-16 1994-01-05 Deutsche Aerospace Vorrichtung zur sollwertregelung und/oder stabilisierung von freibeweglichen körpern mit gespeichertem drall.
US4872051A (en) * 1987-10-01 1989-10-03 Environmental Research Institute Of Michigan Collision avoidance alarm system
US4944587A (en) * 1988-03-17 1990-07-31 Kabushiki Kaisha Toshiba Star sensor

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006285946A (ja) * 2005-03-07 2006-10-19 Nippon Telegr & Teleph Corp <Ntt> 画像の奥行分布推定方法及び装置及びプログラム
JP2008005478A (ja) * 2006-05-24 2008-01-10 Kazuo Iwane 湧きだし点基準cv領域画像前置装置
WO2008032375A1 (fr) * 2006-09-13 2008-03-20 Pioneer Corporation Dispositif et procédé de correction d'image, et programme informatique
JP4694624B2 (ja) * 2006-09-13 2011-06-08 パイオニア株式会社 画像補正装置及び方法、並びにコンピュータプログラム
JP2012123751A (ja) * 2010-12-10 2012-06-28 Toshiba Alpine Automotive Technology Corp 車両用画像処理装置および車両用画像処理方法

Also Published As

Publication number Publication date
EP0390051A3 (en) 1991-07-31
IL93809A0 (en) 1990-12-23
EP0390051A2 (en) 1990-10-03
US4969036A (en) 1990-11-06

Similar Documents

Publication Publication Date Title
JPH0348977A (ja) 移動映像装置の映像から自己運動を算出する装置およびその方法
Yang et al. Monocular object and plane slam in structured environments
Do et al. A review of stereo-photogrammetry method for 3-D reconstruction in computer vision
Burger et al. Estimating 3D egomotion from perspective image sequence
Lowe Fitting parameterized three-dimensional models to images
Wu et al. Recovery of the 3-d location and motion of a rigid object through camera image (an Extended Kalman Filter approach)
US20170151674A1 (en) Apparatus of recognizing position of mobile robot using search based correlative matching and method thereof
CN108256504A (zh) 一种基于深度学习的三维动态手势识别方法
CN108898676A (zh) 一种虚实物体之间碰撞及遮挡检测方法及系统
Tong et al. Reciprocal-wedge transform for space-variant sensing
Wang et al. Robust and accurate monocular pose tracking for large pose shift
Tian et al. Dynaquadric: dynamic quadric slam for quadric initialization, mapping, and tracking
Smith et al. Autonomous scene description with range imagery
Tian et al. Object SLAM with robust quadric initialization and mapping for dynamic outdoors
Li et al. Indoor layout estimation by 2d lidar and camera fusion
Hong et al. A stereo vision SLAM with moving vehicles tracking in outdoor environment
Fanani et al. Keypoint trajectory estimation using propagation based tracking
Tamaazousti et al. The constrained SLAM framework for non-instrumented augmented reality: Application to industrial training
Strelow et al. Extending shape-from-motion to noncentral onmidirectional cameras
Aguilar-González et al. The fastest visual ego-motion algorithm in the west
Burger et al. On computing a'fuzzy'focus of expansion for autonomous navigation.
Bhanu et al. Qualitative motion detection and tracking of targets from a mobile platform
Canelhas Truncated signed distance fields applied to robotics
Lawn et al. Epipole estimation using affine motion parallax
Jatesiktat et al. Sdf-net: Real-time rigid object tracking using a deep signed distance network