JP2014071902A - フィンガープリントを使用してビデオ内で移動オブジェクトを追跡するため方法及びシステム - Google Patents

フィンガープリントを使用してビデオ内で移動オブジェクトを追跡するため方法及びシステム Download PDF

Info

Publication number
JP2014071902A
JP2014071902A JP2013198438A JP2013198438A JP2014071902A JP 2014071902 A JP2014071902 A JP 2014071902A JP 2013198438 A JP2013198438 A JP 2013198438A JP 2013198438 A JP2013198438 A JP 2013198438A JP 2014071902 A JP2014071902 A JP 2014071902A
Authority
JP
Japan
Prior art keywords
series
segments
image
segment
master
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013198438A
Other languages
English (en)
Other versions
JP6650657B2 (ja
JP2014071902A5 (ja
Inventor
Nathan Mundhenk Terrell
テレル ネイサン ムントヘンク,
Kyungnam Kim
キョンナム キム,
Yuri Owechko
ユーリ オウェチコ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boeing Co
Original Assignee
Boeing Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boeing Co filed Critical Boeing Co
Publication of JP2014071902A publication Critical patent/JP2014071902A/ja
Publication of JP2014071902A5 publication Critical patent/JP2014071902A5/ja
Application granted granted Critical
Publication of JP6650657B2 publication Critical patent/JP6650657B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758Involving statistics of pixels or of feature values, e.g. histogram matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】所望の精度レベルで移動オブジェクトの検出及び/又は追跡を行う。
【解決手段】一連の画像110内の移動オブジェクト155を追跡するための方法及びシステム。一連の画像110内の現在の画像128は複数のセグメント138に分割される。同一の運動プロファイルに属する複数のセグメント138内のセグメントは、一体融合されて一連のマスターセグメント142を形成する。一連のターゲットセグメント154は、一連のマスターセグメント142から特定される。一連のターゲットセグメント154は、現在の画像128内の一連の移動オブジェクト155を表わす。一連のフィンガープリント156は、一連の画像110内の任意の数の後続画像162内で、一連の移動オブジェクト155の追跡に使用するために作成される。
【選択図】図1

Description

関連出願の相互参照
本願は、本願出願人に譲渡された「フィンガープリントを使用して一連の画像を処理するための方法及びシステム」と題する当該出願日の出願で、代理人識別番号12−0178−US−NPによって識別される米国特許出願第13/631,705号に関し、参照によって本明細書に組み込まれる。
本開示は概して画像処理に関し、具体的には画像内での移動オブジェクトの検出及び追跡に関する。さらに具体的には、本開示は移動オブジェクトに対してフィンガープリントを作成することによって画像内での移動オブジェクトの検出及び追跡を行うためのシステム及び方法に関する。
ビデオなどの一連の画像内での移動オブジェクトの検出及び追跡に関しては、種々のタイプの技術が現在利用可能である。しかしながら、このような現在利用可能な技術によっては、所望の精度レベルで移動オブジェクトの検出及び/又は追跡ができないことがある。例えば、一部の現在利用可能な技術では、一連の画像内の一又は複数の画像内で移動オブジェクトが部分的に遮蔽される場合には、移動オブジェクトの検出及び/又は追跡ができないことがある。
加えて、一部の現在利用可能な技術では、所望の精度レベルで移動オブジェクトの輪郭を特定できないことがある。本明細書で使用しているように、オブジェクトの輪郭はオブジェクトのアウトライン又はオブジェクトの形状であってもよい。このアウトラインはオブジェクトの外表面のアウトラインであってもよい。
セグメント化は、画像内のオブジェクトの輪郭を決定するために使用される処理の一例である。本明細書で使用しているように、「セグメント化」とは画像を複数のセグメントに分割する処理である。各セグメントは、同様な視覚的特徴を共有するように特定されているピクセル群を含む。この視覚的特徴は、例えば、限定しないが、色、質感、強度、又は他の何らかのタイプの特性であってもよい。このように、互いに隣接するセグメントは、何らかの選択された閾値を超える特定の視覚的特性に関して異なっている。
セグメント化は、セグメント化画像が元の画像と比較して解析しやすくなるように、画像の表現を簡略化及び/又は変更するために利用される。例えば、画像が分割されてセグメント化画像が形成される場合には、セグメント化画像内の特徴は、元の画像と比較してより容易に認識できるようになる。具体的には、元の画像内で捕捉されたオブジェクトの輪郭及び/又は特徴は、セグメント化画像内でより容易に認識できるようになる。
しかしながら、一部の現在利用可能なセグメント化技術では、1つの移動オブジェクトの輪郭を所望どおりに正確に定義するような方法で画像をセグメント化することができない。例えば、色に基づいて画像が分割されてセグメント化画像が形成される場合には、画像内で2色以上の色を有するものとして捉えられるオブジェクトについては、セグメント化画像内の複数のセグメントによって表現されることがある。
その結果、セグメント化画像内のオブジェクトの輪郭は、所望どおりに容易に認識できないことがある。さらに、このようなタイプのセグメントによって表現される特徴についての情報を抽出すると、要求精度に満たない情報が出てくることがある。したがって、少なくとも上述の問題点の幾つかと、起こりうる他の問題点を考慮する方法及び装置を有することは有利であろう。
1つの例示的な実施形態では、画像処理システムは画像セグメント装置、整合性チェッカー、及びフィンガープリント装置を含む。画像セグメント装置は、一連の画像内の現行画像を複数の画像に分割してセグメント化画像を形成し、同一の運動プロファイルに属する複数セグメントの内のセグメントを一体融合して一連のマスターセグメントを形成するように構成されている。整合性チェッカーは、一連のマスターセグメントから一連のターゲットセグメントを特定するように構成されている。一連のターゲットセグメントは、現行画像内の一連の移動オブジェクトを表わす。フィンガープリント装置は、一連の画像内の任意の数の後続画像内で、一連の移動オブジェクトの追跡に使用される一連のフィンガープリントを作成するように構成されている。
別の例示的な実施形態では、一連の画像内の移動オブジェクトを追跡するためにコンピュータ実装方法が提供される。一連の画像内の現行画像は複数のセグメントに分割される。同一の運動プロファイルに属する複数のセグメント内のセグメントは、一体融合されて一連のマスターセグメントを形成する。一連のターゲットセグメントは、一連のマスターセグメントから特定される。一連のターゲットセグメントは、現行画像内の一連の移動オブジェクトを表わす。一連のフィンガープリントは、一連の画像内の任意の数の後続画像内で、一連の移動オブジェクトの追跡に使用するために作成される。
別の例示的な実施形態では、一連の画像内の移動オブジェクトを追跡するためにコンピュータ実装方法が提供される。現行画像内で局所的運動と大局的運動が特定される。運動画像を形成するため、局所的運動から大局的運動が差し引かれる。運動画像は一連の運動プロファイルを含む。一連の画像内の現行画像は、セグメント化画像を形成するため、複数のセグメントに分割される。同一の運動プロファイルに属する複数のセグメント内のセグメントは、一体に融合されて一連のマスターセグメントを有するマスター画像を形成する。一連のターゲットセグメントは、一連のマスターセグメントから特定されて、ターゲット画像を形成する。一連のターゲットセグメントは、現行画像内の一連の移動オブジェクトを表わす。一連のフィンガープリントは、一連の画像内の任意の数の後続画像内で、一連の移動オブジェクトの追跡に使用するために作成される。
特徴及び機能は、本開示の様々な実施形態で独立に実現することが可能であるか、以下の説明及び図面を参照してさらなる詳細が理解されうる、さらに別の実施形態で組み合わせることが可能である。
例示的な実施形態の特徴と考えられる新規の機能は、添付の特許請求の範囲に明記される。しかしながら、例示的な実施形態と、好ましい使用モードと、さらにはその目的及び特徴とは、添付図面を参照して本開示の例示的な実施形態の後述の詳細な説明を読むことにより最もよく理解されるであろう。
例示的な実施形態が実装されうるブロック図の形態で画像処理環境が図解されている。 例示的な実施形態によるブロック図の形態でフィンガープリントが図解されている。 例示的な実施形態による画像が図解されている。 例示的な実施形態による運動画像が図解されている。 例示的な実施形態による運動画像の一部の拡大ビューが図解されている。 例示的な実施形態によるセグメント化画像が図解されている。 例示的な実施形態によるセグメント化画像の一部が図解されている。 例示的な実施形態による移動セグメント画像が図解されている。 例示的な実施形態によるマスター画像が図解されている。 例示的な実施形態によるマスター画像の一部の拡大ビューが図解されている。 例示的な実施形態による画像が図解されている。 例示的な実施形態によるマスター画像が図解されている。 例示的な実施形態によるフロー図の形態で画像処理を実施するプロセスが図解されている。 例示的な実施形態によるフロー図の形態で一連のマスターセグメントから一連のターゲットセグメントを確定するプロセスが図解されている。 例示的な実施形態によるフロー図の形態でフィンガープリントを作成するプロセスが図解されている。 例示的な実施形態によるフロー図の形態で一連のマスターセグメントを形成するためのプロセスが図解されている。 例示的な実施形態によるデータ処理システムが図解されている。
種々の例示的な実施形態は、種々の検討事項を認識し且つ考慮している。例えば、種々の例示的な実施形態は、オブジェクトとりわけ移動オブジェクトを検出し追跡するために現在利用可能な幾つかのシステム及び方法は、所望どおりに機能しないことを認識し且つ考慮している。
具体的には、ビデオ内のオブジェクトを検出し追跡するために現在利用可能な幾つかの方法は、ビデオを形成する一又は複数の画像内で少なくとも部分的に遮蔽されるオブジェクトを、所望の正確度レベルで追跡できないことがある。さらに、これらの現在利用可能な方法は、ビデオ内である一定の時間ビデオカメラの視野から一時的に外れるオブジェクトを追跡できないことがある。さらには、オブジェクトを追跡するために現在利用可能な方法の幾つかは、検索して追跡するオブジェクトのタイプに関する指示が必要になることがある。例えば、これらの方法は、検出して追跡するオブジェクトのタイプがわからないと、オブジェクトとりわけ移動オブジェクトを追跡できないことがある。
したがって、種々の例示的な実施形態は、一連の画像全体で移動オブジェクトの検出及び追跡に使用するため、一連の画像内の1つの画像で検出される移動オブジェクトのフィンガープリントを生成するシステム及び方法を提供する。具体的には、フィンガープリントは、移動オブジェクトが部分的に遮蔽される、又は画像の視野に入っていない場合であっても、一連の画像内の1つの画像で移動オブジェクトを検出し追跡するために使用しうる。
ここで図面を参照すると、特に図1は、例示的な実施形態による画像処理環境がブロック図の形態で描かれている。図1では、画像処理環境100は撮像システム102及び画像処理システム104を含む。
これらの例示的な実施例では、撮像システム102はシーン108に対して画像データ106を生成するように構成された任意のタイプのセンサーシステムであってもよい。撮像システム102は、例えば、限定しないが、電気光学(EO)撮像システム、赤外線(IR)撮像システム、レーダー撮像システム、熱撮像システム、超音波撮像システム、光検出・測距(LIDAR)システム、及び他の何らかの好適なタイプの撮像システムから選択されてもよい。このように、撮像システム102によって生成される画像データ106は、電気光学画像、赤外線画像、レーダー画像、熱画像、光検出・測距画像、又は他の何らかのタイプの画像を含みうる。電気光学画像は、例えば可視光画像であってもよい。
このような例示的な実施例において、画像データ106は一連の画像110の形態をとることがある。本明細書で使用しているように、「画像」とは行と列で構成されたピクセルを含むデジタルの2次元画像である。各ピクセルは、当該ピクセルに対する色及び/又は明るさを表わす値を有することがある。さらに、「一連の画像」とは、本明細書で使用されているように、時間順に連続して生成される2点以上の画像のことである。
シーン108に対して生成された一連の画像110は、シーン108のビデオ112と呼ばれることがある。一連の画像110がビデオ112と呼ばれるときには、一連の画像110の各画像は「フレーム」と呼ばれることがある。
シーン108は、例えば、限定しないが、都市エリア、近隣地区、海上エリア、森林エリア、砂漠エリア、市街、地理的エリア、製造施設内エリア、建物の床面、高速道路の一部、又は他の何らかの好適なタイプのエリア、などの物理的なエリアであってもよい。
移動オブジェクト群114は、シーン108内にあってもよい。本明細書で使用しているように、「移動オブジェクト」は、移動オブジェクト116のように、撮像システム102の視野に対して移動している任意のオブジェクトであってもよい。移動オブジェクト116は、シーン108の移動オブジェクト群114の1つの実施例である。
このように、移動オブジェクト116は、シーン108内で静止していない任意のオブジェクト形態を取りうる。例えば、移動オブジェクト116は、シーン108内で歩いている又は走っている人物、車両、移動構造物、移動車両上に配置されているオブジェクト、又は他の何らかの好適なタイプの移動オブジェクトの形態を取りうる。シーン108の車両は、例えば、限定しないが、自動車、トラック、航空機、バン、戦車、無人航空機、宇宙船、ミサイル、ロケット、又は他の何らかの好適なタイプの車両の形態を取りうる。
幾つかの場合には、移動オブジェクト116は、一緒に移動する2つ以上のオブジェクトの組合せであってもよい。例えば、移動オブジェクト116は、互いに結合されて、同じタイプの動きで一緒に移動する2つ以上のオブジェクトを含みうる。
加えて、移動オブジェクト116は、撮像システム102が向けられている角度及び/又は撮像システム102の位置が変わるにつれて、撮像システム102の視野に対して移動する任意のオブジェクトの形態を取りうる。例えば、移動オブジェクト116は、撮像システム102が動いているとき一連の画像110内で動いているように見える固定されたオブジェクトであってもよい。
撮像システム102は、任意の数の通信リンク120を使用して画像処理システム104に画像データ106を送信するように構成されている。本明細書で使用されているように、「任意の数の」アイテムは、一又は複数のアイテムを意味する。このように、任意の数の通信リンク120は、一又は複数の通信リンクであってもよい。任意の数の通信リンク120は、例えば、有線通信リンク、無線通信リンク、光通信リンク、及び他の何らかのタイプの通信リンクのうちの少なくとも1つを含みうる。
本明細書で使用されているように、列挙されたアイテムと共に使用される「〜のうちの少なくとも1つ」という表現は、列挙されたアイテムの一又は複数の様々な組み合わせが使用可能であり、且つ列挙された各アイテムのうちの一つだけあればよいということを意味する。例えば、「アイテムA、アイテムB、及びアイテムCのうちの少なくとも1つ」は、例えば、限定しないが、「アイテムA」、又は「アイテムAとアイテムB」を含む。この例は、「アイテムAとアイテムBとアイテムC」、又は「アイテムBとアイテムC」も含む。他の例として、「〜のうちの少なくとも1つ」は、例えば、限定しないが、「2個のアイテムAと1個のアイテムBと10個のアイテムC」、「4個のアイテムBと7個のアイテムC」、又は他の適切な組み合わせを含む。
画像処理システム104は、ハードウェア、ソフトウェア、又はその二つの組み合わせを使用して実装される。これらの例示的な実施例では、画像処理システム104は、コンピュータシステム122で実装される。コンピュータシステム122は、任意の数のコンピュータを備えてもよい。コンピュータシステム122内に複数のコンピュータが存在する場合には、これらのコンピュータは相互に通信することができる。
画像処理システム104は、撮像システム102から受信した画像データ106を処理するように構成されている。幾つかの例示的な実施例では、画像処理システム104は、撮像システム102によって画像が生成されるに従って、一連の画像110を1つずつ受信してもよい。例えば、画像処理システム104は、画像が生成されるに従って、実質的にリアルタイムで一連の画像110を受信することができる。他の例示的な実施例では、画像処理システム104は、一連の画像110が生成された後のある時点で一連の画像110全体を受信することもある。
画像処理システム104は一連の画像110を処理して、一連の画像110内で移動オブジェクトの存在を検出して追跡する。図示されているように、画像処理システム104は運動検出装置124及びオブジェクト追跡装置126を含む。運動検出装置124は一連の画像110の運動の存在を検出するように構成されている。オブジェクト追跡装置126は一連の画像110について移動オブジェクトを追跡するように構成されている。
例えば、運動検出装置124は処理のため一連の画像110内の現行画像128を受信する。運動検出装置124は現行画像128内の運動を検出するように構成されている。1つの例示的な実施形態では、運動検出装置124は現行画像128及び先行画像134を使用して、運動画像136を形成する。先行画像134とは、一連の画像110内で現行画像128の直前の画像であって、現行画像128と先行画像134との間には画像を含まない。さらに、先行画像134は運動検出装置124によって先に処理された画像である。
運動検出装置124は現行画像128及び先行画像134を使用して、現行画像128の局所的運動及び大局的運動を特定する。本明細書で使用しているように、現行画像128の「大局的運動」は現行画像128の全体的な運動となることがある。大局的運動は、例えば、先行画像134の背景特徴に対する現行画像128の背景特徴の運動を含むことがある。このような背景特徴は、例えば、限定しないが、木々、空、道路、潅木、草木、草地、建物、人工構造物、及び/又は他のタイプの背景特徴を含みうる。このように、現行画像128での大局的運動は、先行画像134のシーン108全体に対するシーン108全体の相対的な運動となる。
本明細書で使用しているように、「局所的運動」は大局的運動とは異なる運動を含む。局所的運動は、例えば、先行画像134に対する現行画像128内での移動オブジェクト114など、前景特徴の運動を含みうる。運動検出装置124は、現行画像128で特定された局所的運動から、現行画像128で特定された大局的運動を差し引いて、運動画像136を形成することができる。
これらの例示的な実施例では、運動画像136は一連の運動プロファイル135を含みうる。本明細書で使用しているように、「一組の」アイテムは、ゼロ又は一以上のアイテムを意味する。つまり、一組のアイテムは、0個すなわち空の組であってもよい。このように、場合によっては、一連の運動プロファイル135は、1個、2個、3個、5個、10個、又は他の任意の数の運動プロファイルを含みうる。他の場合には、一連の運動プロファイル135は空の組であってもよい。
本明細書で使用しているように、「運動プロファイル」は運動画像136の局所的運動を表わす運動画像136の一部である。例えば、運動プロファイルは運動画像136の背景とは異なる色を有する運動画像136の一部であってもよい。この色は、例えば、シーン108の移動オブジェクト116などの移動オブジェクトを表わすことがある。
オブジェクト追跡装置126は処理のため現行画像128及び運動画像136を受信するように構成されている。図解されているように、オブジェクト追跡装置126は画像セグメント装置130、任意の数のデータ構造158、整合性チェッカー132、及びフィンガープリント装置133を含む。
画像セグメント装置130は、現行画像128を複数のセグメント138にセグメント化、すなわち分割し、セグメント化画像140を形成するように構成されている。これらの例示的な実施例では、複数のセグメント138内の各セグメントは、一又は複数のピクセルを含む。セグメント内に2つ以上のピクセルが存在する場合、これらのピクセルは隣接するピクセルである。すなわち、セグメント内の各ピクセルはセグメント内の別のピクセルに隣り合っており、これら2つのピクセルの間に配置されるセグメントに属していない他のピクセルは存在しない。
これらの例示的な実施例では、画像セグメント装置130は、複数のセグメント138内の各セグメントの全ピクセルが同様な視覚的特性を共有するように、現行画像128をセグメント化する。視覚的特性は、例えば、色、明度、質感、又は他の何らかのタイプの視覚的特性であってもよい。例えば、複数のセグメント138内の特定のセグメントの全てのピクセルは、選択された色を表わす選択された範囲内の値を有してもよい。
画像セグメント装置130は、シーン108の移動オブジェクト116などの移動オブジェクトの異なる部分が現行画像128内で異なる視覚的特性を有しうることを考慮している。例えば、移動オブジェクト116が自動車の場合、自動車の車体は現行画像128内で1つの色で表示されるが、自動車の窓ガラスは現行画像128内で別の色で表示されることがある。
その結果、移動オブジェクト116は、複数のセグメント138内の幾つかのセグメントによってセグメント化画像140として表示されることがある。複数のセグメント138内のどのセグメントが実際に移動オブジェクト116を表わしているのかを識別することは容易ではないことがある。
そのため、画像セグメント装置130は、複数のセグメント138内でセグメントをグループ化し、運動画像136を使用する一連のマスターセグメント142を形成するように構成されている。具体的には、画像セグメント装置130は、同一の運動プロファイルに属する複数のセグメント138を一体融合して、一連のマスターセグメント142を有するマスター画像143を形成する。
より具体的には、運動画像136の一連の運動プロファイル135内の同一の運動プロファイルに属する複数のセグメント138内のセグメントは一体融合されて、一連のマスターセグメント142内の1つのマスターセグメントを形成する。これらの例示的な実施例では、複数のセグメント138内の1つのセグメントは、特定の運動プロファイルに重なるセグメント内のピクセル数が選択されたある閾値よりも大きい場合には、一連の運動プロファイル135内の特定の1つの運動プロファイルに「属する」ものとみなされることがある。言うまでもなく、他の例示的な実施例では、他の基準及び/又は因子は、複数のセグメント138内のどのセグメントが一体融合されて一連のマスターセグメント142を形成するのか、を判断するために使用されることがある。
これらの例示的な実施例では、画像セグメント装置130は、隣接するセグメントを一体融合するだけのこともある。すなわち、複数のセグメント138内の2つのセグメントは、これら2つのセグメントが互いに隣接している場合にのみ一体融合されることがある。このように、一連のマスターセグメント142内の各マスターセグメントは、任意の数の隣接セグメントを含む。
幾つかの例示的な実施例では、画像セグメント装置130は運動画像136をセグメント化画像140と統合して、移動セグメント画像145を形成する。移動セグメント画像145は、例えば、限定しないが、セグメント化画像140の上に運動画像136を重ねることによって作成されてもよい。一連の運動プロファイル135によって重ねられた複数のセグメント138内のセグメントの一部は、「移動セグメント」とみなされることがある。各運動プロファイルに関しては、当該運動プロファイルによって重ねられた移動セグメントは一体融合されて、マスターセグメントを形成する。このように、一連のマスターセグメント142は任意の数の異なる方法で形成されうる。
その後、画像セグメント装置130は一連のマスターセグメント142に対してマスター統計値144を生成する。1つの例示的な実施例として、画像セグメント装置130は一連のマスターセグメント142の各マスターセグメントに対してセグメントデータ146を特定する。特定のマスターセグメント用のセグメントデータ146は、例えば、限定しないが、彩度データ、輝度データ、ピクセル位置データ、エントロピーデータ、及び/又は他のタイプのデータを含みうる。
彩度データは、例えば、マスターセグメント内の各ピクセルに対して彩度の値を含みうる。彩度値は、明度又は飽和値であってもよい。彩度データは、例えば、マスターセグメント内の各ピクセルに対する彩度の値を含みうる。彩度値は輝度値であってもよい。ピクセル位置データは、例えば、マスター画像143のピクセルの行及び列に関して、マスターセグメント内の各ピクセルの位置を含みうる。エントロピーデータは、エントロピーフィルタを使用してフィルタ処理された彩度データを含みうる。
この例示的な実施例では、画像セグメント130は、セグメントデータ146を数学モデル148に適合することによって、マスター統計値144を生成する。場合によっては、数学モデル148は、例えば、限定しないが、一般化線形モデル(GLM)などの線形回帰モデルになることがある。一般化線形モデルは、例えば、全共分散ガウスモデルであってもよい。
さらに処理を行うため、画像セグメント装置130はマスター画像143及びマスター統計値144を整合性チェッカー132に送信する。整合性チェッカー132は、一連のマスターセグメント142内の各マスターセグメントが実際に移動オブジェクトを表わしているかどうかを判定するように構成されている。すなわち、整合性チェッカー132は、一連のマスターセグメント142内のマスターセグメントが移動オブジェクト又は画像の変形を表わしているかどうかを判定する。
1つの例示的な実施例では、整合性チェッカー132は、一連のマスターセグメント142内のマスターセグメント152を、先行画像134に対して特定された既に特定済みのマスターセグメントに一致させてもよい。整合性チェッカー132は、マスターセグメント152のマスター統計値144と既に特定済みのマスターセグメントとの差異が選択されたある閾値よりも大きいかどうかを判定する。
差異が選択された閾値よりも大きくない場合には、マスターセグメント152は一連のターゲットセグメント154に追加される。このように、整合性チェッカー132は現行画像128に対して一連のターゲットセグメント154を作成する。一連のターゲットセグメント154は、一連のマスターセグメントを一部含む、全く含まない、或いは全て含むことがある。
一連のターゲットセグメント154の各ターゲットセグメントは、現行画像128内の移動オブジェクトを表わす。すなわち、一連のターゲットセグメント154は一連の移動オブジェクト155を表わす。一連の移動オブジェクト155は、実装に応じて、シーン108の移動オブジェクト114を一部含む、全く含まない、或いは全て含むことがある。例えば、ある場合には、一連の移動オブジェクト155は移動オブジェクト116を含むことがある。
幾つかの例示的な実施例では、整合性チェッカー132は、マスターセグメント152を既に特定済みのマスターセグメントに一致させることができないことがある。このような場合には、マスターセグメント152が変形又はこれまでに検出されなかった新しい移動オブジェクトを表わしているかどうかを判定するため、マスターセグメント152は解析されることがある。マスターセグメント152が新しい移動オブジェクトを表わすものと特定されると、マスターセグメント152は一連のターゲットセグメント154に追加される。整合性チェッカー132は、一連のターゲットセグメント154をターゲット画像157としてフィンガープリント装置133に送信する。
フィンガープリント装置133はターゲット画像157を受信し、ターゲット画像157の一連のターゲットセグメント154に対して一連のフィンガープリント156を特定する。本明細書で使用されているように、ターゲットセグメントの「フィンガープリント」とは、当該ターゲットセグメントによって表される移動オブジェクトの独自の特徴を記述したものである。一連のフィンガープリント156は、一連の画像110内の任意の数の後続画像内で、一連の移動オブジェクト155の追跡に使用するように構成されている。
フィンガープリント装置133は、任意の数のデータ構造158に一連のフィンガープリント156を保存する。任意の数のデータ構造158内の1つのデータ構造は、例えば、限定しないが、表、スプレッドシート、チャート、データベース、レポート、連想メモリ、又は他の何らかのタイプのデータ構造の形態を取りうる。
1つの例示的な実施例として、一連のフィンガープリント156は、今後移動オブジェクトを検出及び追跡するために、任意の数のデータ構造158内のフィンガープリントデータベース160に保存されてもよい。フィンガープリントデータベース160は、一連の画像110内で検出及び追跡されるシーン108の移動オブジェクト114の一部に対して生成されるフィンガープリントを含む。
オブジェクト追跡装置126はフィンガープリントデータベース160に保存されている一連のフィンガープリント156を使用して、一連の画像110内の任意の数の後続画像162内の一連の移動オブジェクト155を追跡できるようにする確率を高めてもよい。具体的には、一連のフィンガープリント156は、一又は複数のこれらの移動オブジェクトが部分的に又は完全に遮蔽された後であっても、或いは一又は複数のこれらの移動オブジェクトが撮像システム102の視野の外へ移動する場合であっても、任意の数の後続画像162内の一連の移動オブジェクト155の追跡に使用されうる。任意の数の後続画像162は、現行画像128の後の一連の画像110内の画像であってもよい。
これらの例示的な実施例では、一連のフィンガープリント156内の各フィンガープリントは軽量フィンガープリントである。本明細書で使用されているように、「軽量フィンガープリント」とは、空間的及び時間的な複雑性が最小化される対応ターゲットセグメントによって表わされた移動オブジェクトの特徴を記述したものである。このように、一連のフィンガープリント156の保存に必要となる記憶スペースの量は低減可能である。
幾つかの例示的な実施例では、画像セグメント装置130は、運動画像136に対して追加的に又は代替的に一連のマスターセグメント142を形成するため、複数のセグメント138のうちのどれを一体融合すべきかを判定するためにフィンガープリントを使用することがある。1つの例示的な実施例では、画像セグメント装置130はセグメント化画像140をフィンガープリント装置133に送信する。フィンガープリント装置133は、セグメント化画像140内の複数のセグメント138に対して複数のセグメントフィンガープリント164を作成する。複数のセグメントフィンガープリント164の各々は、複数のセグメント138内の1つの対応するセグメントのフィンガープリントである。
フィンガープリント装置133は、複数のセグメントフィンガープリント164を、画像セグメント装置によって使用されるフィンガープリントデータベース160に保存する。画像セグメント装置130は複数のセグメントフィンガープリント164及び一連の先行セグメントフィンガープリント166をフィンガープリントデータベース160から読み出し、これらの種々のフィンガープリントを使用して、一連のマスターセグメント142を形成する。
一連の先行セグメントフィンガープリント166は、先行画像134に対して特定されたターゲットセグメントに基づいて、先行画像134に対して既に特定済みの一連のフィンガープリントを含みうる。この例示的な実施例では、画像セグメント装置130は、一連の先行セグメントフィンガープリント166内の特定のフィンガープリントに一致する複数のセグメントフィンガープリント164の隣接するセグメントフィンガープリントをグループ化して、マスターセグメントを形成する。
次に図2を参照すると、例示的な実施形態によるフィンガープリントがブロック図の形態で図解されている。図2では、図1のフィンガープリント133がより詳細に描かれている。
図示されているように、フィンガープリント133は、処理のためターゲット画像157を受信する。フィンガープリント装置133は特徴解析装置202及びフィンガープリントマネージャ204を含む。特徴解析装置202は、ターゲット画像157の一連のターゲットセグメント154内の各ターゲットセグメントに対して特徴解析206を実施して、一連のフィンガープリント156を形成するように構成されている。これらの例示的な実施例では、特徴解析206を実施することは、一連のターゲットセグメント154内の各セグメントについて特徴データ208を抽出すること、及び特徴データ208を任意の数の数学モデル210に適合することを含みうる。
任意の数の数学モデル210は種々のタイプのモデルを含みうる。任意の数の数学モデル210内の1つのモデルは、例えば、限定しないが、パラメトリック又は非パラメトリックであってもよい。本明細書で使用されているように、「パラメトリックモデル」とは有限のパラメータ数を用いて記述可能な分布族である。これとは対照的に、「非パラメトリックモデル」は、本明細書で使用されているように、任意の分布に属するように適合されたデータに依存しない。
さらに、任意の数の数学モデル210内の1つのモデルは、例えば、限定しないが、空間認識的又は空間不可知的であってもよい。空間認識モデルは、位置、空間的定位、及び/又は特徴の配置を考慮してもよい。しかしながら、空間不可知モデルは、位置、空間的定位、及び/又は特徴の配置を考慮しなくてもよい。
空間的に一般化した線形モデル212及び特徴のみを一般化した線形モデル214は、パラメトリックモデル220の例である。スパシオグラム216及びヒストグラム218は、非パラメトリックモデル222の例である。さらに、空間的に一般化した線形モデル212及びスパシオグラム216は、空間認識モデル224の例である。さらに、特徴のみを一般化した線形モデル214及びヒストグラム218は、空間不可知モデル226の例である。
一連のターゲットセグメント154内の各ターゲットセグメントの特徴データ208は、一連のターゲットセグメント154内の各ターゲットセグメントに適合したデータ228を形成するため、任意の数の数学モデル210の一又は複数に適合していてもよい。例えば、特徴データ208は、ターゲットセグメント230に適合したデータ228を形成するため、一連のターゲットセグメント154内のターゲットセグメント230の特徴データ208を、空間的に一般化した線形モデル212、特徴のみを一般化線形モデル214、スパシオグラム216、ヒストグラム218、又はこれらの何らかの組合せに適合してもよい。
フィンガープリント装置133が図1に記述されているように、複数のセグメントフィンガープリント164を作成するように構成されている場合には、特徴データ208は図1の複数のセグメント138の各々に対して抽出され、上述の方法と同様の方法で任意の数の数学モデル210に適合されることがある。具体的には、複数のセグメント138に対する特徴データ208は、任意の数の数学モデル210に適合され、複数のセグメント138内の各セグメントに適合したデータ228を形成することがある。
フィンガープリントマネージャ204は、一連のターゲットセグメント154に適合したデータ228を受信して、一連のフィンガープリント156を作成するように構成されている。一連のターゲットセグメント154内の各ターゲットセグメントに適合したデータ228は、一連のフィンガープリント156内の1つのフィンガープリントを形成するために使用される。例えば、ターゲットセグメント230に適合したデータ228はフィンガープリント232を形成するために使用される。1つの例示的な実施例では、ターゲットセグメント230は図1の移動オブジェクト116を表わす。その結果、フィンガープリント232は移動オブジェクト116のフィンガープリントとなる。
このように、一連のフィンガープリント156は図1の現行画像128に対して作成される。フィンガープリントマネージャ204は、図1の一連の画像110内の任意の数の後続画像162の処理に使用するため、任意の数のデータ構造158内の一連のフィンガープリント156を保存するように構成されている。例えば、一連のフィンガープリント156は、フィンガープリントデータベース180内の他のフィンガープリントと共に保存されてもよい。
フィンガープリントマネージャ204が、特徴解析装置202から図1の複数のセグメント138に適合したデータ228を受信すると、フィンガープリントマネージャ204は複数のセグメント138に適合したデータ228を使用して、複数のセグメントフィンガープリント164を作成する。フィンガープリントマネージャ204は、複数のセグメントフィンガープリント164を任意の数のデータ構造158に保存、及び/又は複数のセグメントフィンガープリント164を図1の画像セグメント装置130に送信してもよい。
図1の任意の数の後続画像162を処理している間に、図1の一又は複数の一連の移動オブジェクト155は部分的に遮蔽されること、又は見えなくなることがある。例えば、図1の移動オブジェクト116は、任意の数の後続画像162のうちの一又は複数で部分的に遮蔽されることがある。その結果、移動オブジェクト116はこれらの後続画像で検出できなくなることがある。しかしながら、移動オブジェクト116のフィンガープリント232を使用して、移動オブジェクト116の軌跡を再取得することができる。
例えば、図1の現行画像128の後の画像に対して新たに作成された新しいフィンガープリントは、一連のフィンガープリント156及びフィンガープリントデータベース160に保存されている既に作成済みの他の任意のフィンガープリントと比較されてもよい。この比較を利用して、任意の新しいフィンガープリントが、既にフィンガープリントが作成されている移動オブジェクトのものであるかどうかを判定することができる。
1つの例示的な実施例として、図1の任意の数の後続画像162内の1つは処理されて、この後続画像に対して新しいフィンガープリント234が作成されてもよい。この例示的な実施例では、フィンガープリントマネージャ204は新しいフィンガープリント234をフィンガープリントデータベース160に保存されている種々のフィンガープリントと比較して、新しいフィンガープリント234が既にフィンガープリントが作成されている移動オブジェクトのものであるかどうかを判定する。
例えば、フィンガープリントマネージャ204は、新しいフィンガープリント234をフィンガープリント232と比較してもよい。新しいフィンガープリント234が選択された許容誤差範囲内のフィンガープリント232に一致する場合、フィンガープリントマネージャ204は、新しいフィンガープリント234とフィンガープリント232が同一移動オブジェクト、すなわち移動オブジェクト116のものであると判定する。
幾つかの例示的な実施例では、フィンガープリントマネージャ204は、新しいフィンガープリント234とフィンガープリント232との平均値を求め、フィンガープリントデータベース160内のフィンガープリント232を置換する修正されたフィンガープリントを作成する。他の例示的な実施例では、フィンガープリントマネージャ204は、フィンガープリント232をフィンガープリントデータベース160内の新しいフィンガープリント234で置換する。このように、フィンガープリントは、移動オブジェクトを追跡し、図1の一連の画像110内の移動オブジェクトの軌跡を再取得する。
場合によっては、フィンガープリントマネージャ204は、静止オブジェクトを追跡するため、既に作成済みのフィンガープリントを使用するように構成されてもよい。例えば、場合によっては、フィンガープリントが既に作成済みの移動オブジェクトは、一連の画像110が生成される間、静止した状態になることがある。既に作成済みのフィンガープリントは、オブジェクトが移動していない場合であっても、当該オブジェクトを追跡し続けるために使用されることがある。
図1の画像処理環境100及び図2のフィンガープリント133の図解は、例示的な実施形態が実装される方法に対する物理的又は構造的な制限を示唆することを意図していない。図示したコンポーネントに加えて又は代えて、他のコンポーネントを使用することができる。幾つかのコンポーネントは任意選択になることもある。また、幾つかの機能コンポーネントを図解するためにブロックが表示されている。例示的な実施形態において実装される場合、これらのブロックの一又は複数を、異なるブロックに統合、分割、或いは統合且つ分割することができる。
例えば、画像セグメント装置130、整合性チェッカー132、及びフィンガープリント装置133は、場合によっては全て同一モジュールの部品であってもよい。幾つかの例示的な実施例では、図2の任意の数の数学モデル210として、記述されているモデルに加えて、及び/又は代わりに他の数学モデルが使用されてもよい。他の例示的な実施例では、整合性チェッカー132は画像セグメント装置130の代わりに、マスター統計値144を生成するように構成されてもよい。
ここで図3を参照すると、例示的な実施形態による画像が図示されている。画像300は、図1の撮像システム102などの撮像システムによって生成される画像の一例である。
具体的には、画像300は、図1の一連の画像110の実装態様の一例である。さらに、画像300は、図1の現行画像128の実装態様の一例である。図示されているように、画像300は背景302及び一連の移動オブジェクト304を含む。画像300の一連の移動オブジェクト304内の移動オブジェクトの実施例は、限定されるものではないが、車両306、308、310、及び312を含む。
ここで図4を参照すると、例示的な実施形態による運動画像が図示されている。運動画像400は、図1の運動画像136の実装態様の一例である。図3の画像300は、運動画像400を形成するため、図1の運動検出装置124などの運動検出装置によって処理されてもよい。
図示されているように、画像400は背景402及び一連の運動プロファイル402を含む。さらに、図3の画像300の移動オブジェクト304は、運動画像400内でも依然として見えている。背景402は、図3の画像300の大局的運動に寄与する画像300の一部を示している。画像300の大局的運動は、例えば、画像300のシーン全体の運動であってもよい。
一連の運動プロファイル404は、図1の一連の運動プロファイル135の実装態様の一例である。一連の運動プロファイル404の各々は、図3の局所的運動画像300を表わす。局所的運動は、何らかの選択された閾値を超える画像300の大局的運動とは異なる運動である。
一連の画像プロファイル404の運動プロファイルの実施例は、限定されるものではないが、運動プロファイル406、408、410、412、414、及び416を含む。この例示的な実施例では、運動プロファイル406、408、410、及び412は、それぞれ車両306、308、310、及び312の運動を含む局所的運動を表わす。これらの運動プロファイルは、これらの車両の運動が図3の画像300で捕捉されるシーン全体の運動とは異なっていることを示している。運動画像400の一部418は、下記の図5にさらに詳しく図示されている。
ここで図5を参照すると、例示的な実施形態による図4の運動画像400の一部418の拡大ビューが図示されている。図示されているように、運動プロファイル408は運動画像400の車両308の上に重ねられている。運動プロファイル408は、車両308の運動を含む局所的運動を表わしている。さらに、図解されているように、運動プロファイル408は、車両308の影を含む局所的運動も表わしている。
ここで図6を参照すると、例示的な実施形態によるセグメント化画像が図示されている。セグメント化画像600は、図1のセグメント化画像140の実装態様の一例である。図3の画像300は、セグメント化画像600を形成するため、例えば、図1の画像セグメント装置130によって処理されてもよい。
図示されているように、セグメント化画像600は複数のセグメント602を含む。複数のセグメント602は、図1の複数のセグメント138の実施態様の一例である。複数のセグメント602の各々は、一又は複数の隣接ピクセルを含む。複数のセグメント602の特定のセグメントを形成する隣接ピクセルは、同様な視覚的特性を共有する図3の画像300の連続ピクセル300に対応している。複数のセグメント602内の1つのセグメントを形成するピクセルはすべて、視覚的特性を表わす同一の値が割り当てられる。
複数のセグメント602内のセグメントの実施例は、限定されるものではないが、セグメント604、606、608、610、612、614、及び616を含む。これらのセグメントの各々は、図3の画像300の特定の機能を表わすことがある。例えば、セグメント604は、図3の画像300内で車両306、308、310、及び312が移動する道路を表わす。さらに、セグメント606及びセグメント614は、図3の画像300の背景302にある草を表わす。
セグメント608は図3の車両306のボンネットを表わす。セグメント610は図3の車両310のボンネットを表わし、一方、セグメント612は車両310のフロントガラスを表わす。セグメント616は図3の画像300の車両312による影を表わしている。セグメント化画像600の一部618は、下記の図7にさらに詳しく図示されている。
ここで図7を参照すると、例示的な実施形態によるセグメント化画像600の一部618が図示されている。図示されているように、セグメント化画像600の複数のセグメント602内のセグメント702、704、706、及び708は、このビューではより明瞭に見える。
セグメント702は図3の画像300の車両308の車体上部を表わしている。セグメント704は図3の車両308の少なくともボンネットの一部を表わしている。セグメント706は図3の画像300の車両308による影を表わしている。さらに、セグメント708は図3の車両308の右ドアを表わしている。
ここで図8を参照すると、例示的な実施形態による移動セグメント画像が図示されている。図8では、移動セグメント画像800は図1の移動セグメント画像145に対する実装態様の一例である。図4の移動画像400及び図6のセグメント化画像600は、例えば、図1の画像セグメント装置130によって統合されて、移動セグメント画像800を形成している。
図示されているように、移動セグメント画像800は背景セグメント802及び移動セグメント804を含む。移動セグメント804は、図4の運動画像400の一連の運動プロファイル404によって重ね合わせられる、図6のセグメント化画像600の複数のセグメント602のセグメントである。同一の運動プロファイルによって重ね合わせられるセグメントは、一体融合されてマスターセグメントを形成してもよい。
ここで図9を参照すると、例示的な実施形態によるマスター画像が図示されている。マスター画像900は、図1のマスター画像143の実装態様の一例である。この例示的な実施例では、同一の運動プロファイルによって重ね合わせられる図8の移動セグメント画像800内の移動セグメント804は、例えば、図1の画像セグメント装置130によって融合され、マスター画像900の一連のマスターセグメント901を形成する。
一連のマスターセグメント901は、図1の一連のマスターセグメント142の実装態様の一例である。一連のマスターセグメント901内のマスターセグメントの実施例は、限定されるものではないが、マスターセグメント902、904、906、908、及び910を含む。これらのマスターセグメントの各々は、図4の一連の運動プロファイル404の同一の運動プロファイルに属する図8の移動セグメント画像800の移動セグメントを含む。マスターセグメント904を含むマスター画像900の一部912は、下記の図10にさらに詳しく図示されている。
一連のマスターセグメント901の各マスターセグメントは、図3の画像300の前に処理される画像に対して既に特定済みの一連のマスターセグメントと比較されることがある。この比較は、マスターセグメントが実際に移動オブジェクト、何らかの無関係な特徴、又は変形を表わしているかどうか判定するために利用されてもよい。
例えば、マスターセグメント902は、マスターセグメント902が移動オブジェクトを表わすかどうかを判定するために、先行画像に対して特定された一連のマスターセグメントと比較されてもよい。マスターセグメント902が既に特定済みの任意のマスターセグメントと一致しない場合には、マスターセグメント902が未検出の移動オブジェクト、変形、又は何らかの他の無関係な特徴を表わしているかどうか判定するために、解析が実施されることがある。
ここで図10を参照すると、例示的な実施形態による図9のマスター画像900の一部912の拡大ビューが図示されている。この例示的な実施例では、マスターセグメント904は、マスターセグメント904の輪郭1000が図3の画像300の車両308の輪郭と選択された許容誤差の範囲内で一致するように形成されてもよい。
ここで図11を参照すると、例示的な実施形態による画像が図示されている。図11では、画像1100は、図1の撮像システム102などの撮像システムによって生成される画像の一例である。
具体的には、画像1100は、図1の一連の画像110内の1つの画像に対する実装態様の一例である。さらに、画像1100は、図1の現行画像128の実装態様の一例であってもよい。図示されているように、画像1100は背景1102及び一連の移動オブジェクト1104を含む。画像1100の一連の移動オブジェクト1104内の移動オブジェクトの実施例は、限定されるものではないが、車両1106、1108、1110、1112、1114、及び1116を含む。
ここで図12を参照すると、例示的な実施形態によるマスター画像が図示されている。マスター画像1200は、図1のマスター画像143の実装態様の一例である。図11の画像1100は、マスター画像1200を形成するため、図1のオブジェクト追跡装置126によって処理されてもよい。
図示されているように、マスター画像1200は背景1202及び一連のマスターセグメント1204を含む。一連のマスターセグメント1204は、マスターセグメント1206、1208、1210、1212、1214、及び1216を含む。この例示的な実施例では、マスターセグメント1206、1208、1210、1212、1214、及び1216は、それぞれ車両1106、1108、1110、1112、1114、及び1116を表わす。
一連のマスターセグメント1204内の各マスターセグメントは、セグメント化画像の複数のセグメントを融合することによって形成された。一連のマスターセグメント1204を形成するためにどのセグメントを融合すべきかという選択は、図11の画像1100よりも前に処理される画像に対して先行するフィンガープリントを使用して実施された。
ここで図13を参照すると、例示的な実施形態による画像処理を実施するためのプロセスがフロー図の形態で図示されている。図13に示されたプロセスは、図1の画像処理システム104を使用して実施可能である。
プロセスは、処理のため現行画像を受け取ることにより開始される(操作1300)。たとえば、現行画像は、図1の現行画像128とすることができる。その後、現行画像の大局的運動及び現行画像の局所的運動が特定される(操作1302)。現行画像の大局的運動は現行画像の局所的運動から差し引かれて、運動画像が一連の運動プロファイルを含む運動画像を形成する(操作1304)。操作1302及び操作1304は、たとえば、図1の運動検出装置124を使用して実施される。
次に、現行画像は複数のセグメントに分割されて、セグメント化画像を形成する(操作1306)。操作1306は、たとえば、図1の画像セグメント装置130を使用して実施される。同一の運動プロファイルに属する複数のセグメント内のセグメントは、一体融合されて一連のマスターセグメントを形成する(操作1308)。その後、フィンガープリント化される一連のターゲットセグメントは、一連のマスターセグメントから特定される(操作1310)。操作1310では、一連のターゲットセグメント内の1つのターゲットセグメントは1つの移動オブジェクトを表わす。
次に、任意の数の後続画像(操作1312)内の移動オブジェクトの追跡に使用される一連のターゲットセグメント内の各ターゲットセグメントに対してフィンガープリントが作成され、その後プロセスは終了する。操作1312は、たとえば、図1〜2のフィンガープリント装置133を使用して実施される。フィンガープリント装置は、マスターセグメントの機能解析を実施することによって操作1310を実施してもよい。
次に図14を参照すると、例示的な実施形態による一連のマスターセグメントから一連のターゲットセグメントを確定するためのプロセスがフロー図の形態で図解されている。図14に図解されたプロセスは、図13の操作1310が実装される方法の一実施例であってもよい。このプロセスは、例えば、図1の画像セグメント装置130及び整合性チェッカー132によって実施されてもよい。
一連のマスターセグメント内の各マスターセグメントに対してマスター統計値を生成することによってプロセスは開始される(操作1400)。その後、処理のため一連のマスターセグメントから1つのマスターセグメントが選択される(操作1402)。
選択されたマスターセグメントは処理された先行画像に対して最もよく一致すると特定されたマスターセグメントにリンクされる(操作1404)。最もよく一致したマスターセグメントは、例えば、現行画像内の選択されたマスターセグメントの位置に最も近い先行画像の位置を有する既に特定済みのマスターセグメントであってもよい。言うまでもなく、他の例示的な実施例では、最もよく一致したマスターセグメントは、選択されたマスターセグメントに対して生成されたマスター統計値、及び先行画像について既に特定済みの一連のマスターセグメントに対して特定されたマスター統計値に基づいていてもよい。
次に、一連のマスターセグメント内に未処理のマスターセグメントがさらに存在するかどうかを判定する(操作1406)。追加の未処理のマスターセグメントが存在する場合には、上述のようにプロセスは操作1402に戻る。未処理のマスターセグメントが存在しない場合には、プロセスはリンクされた各セグメントペアの間で類似性スコアを計算する(操作1408)。この類似性スコアは、例えば、限定しないが、カルバック・ライブラー(KL)ダイバージェンス値であってもよい。
操作1408では、類似性スコアは、現行画像のマスターセグメントに対して、及び先行画像について既に特定済みのマスターセグメントに対して特定されたマスター統計値に基づいて計算されてもよい。幾つかの例示的な実施例では、類似性スコアは、現行画像に関しては任意の数の既に処理済の画像に対して計算される。
その後、選択された閾値範囲内の類似性スコアを有するマスターセグメントが一連のターゲットセグメントに追加され(操作1410)、その後プロセスは終了する。このように、既に特定済みのマスターセグメントと整合性のあるマスターセグメントのみがターゲットセグメントとして選択され、さらなる処理が行われる。
次に図15を参照すると、例示的な実施形態によるフィンガープリント作成のプロセスがフロー図の形態で図解されている。図15に図解されたプロセスは、図13の操作1312が実装される方法の一実施例であってよい。このプロセスは図1〜2のフィンガープリント133を使用して実施されてもよい。
一連のマスターセグメント内の各マスターセグメントに対してターゲットピクセルを特定することによってプロセスは開始される(操作1500)。ターゲットピクセルは他ゲットセグメント内にあるピクセルである。その後、一連のターゲットセグメント内の各ターゲットセグメントの各ターゲットピクセルに対して特徴データが特定される(操作1502)。ターゲットピクセルの特徴データは、例えば、彩度データ、ピクセル位置データ、エントロピーデータ、他のピクセルデータ、又は当該ターゲットピクセルに対する上記の組合せであってもよい。
適合したデータは、各ターゲットセグメントのターゲットピクセルに対して生成された特徴データに基づいて、一連のターゲットセグメント内の各ターゲットセグメントに対して生成される(操作1504)。次に、適合したデータに基づいて一連のターゲットセグメント内の各ターゲットセグメントに対してフィンガープリントが作成され(操作1506)、その後プロセスは終了する。操作1506では、一連のターゲットセグメントに対して一連のフィンガープリントが作成される。これらのフィンガープリントは、後続画像内の移動オブジェクトを今後検出し追跡するため保存される。
次に図16を参照すると、例示的な実施形態による一連のマスターセグメントを形成するためのプロセスがフロー図の形態で図解されている。図16に図解されたプロセスは、図13の操作1308が実装される方法の一実施例であってもよい。このプロセスは図1〜2のフィンガープリント133を使用して実施されてもよい。
プロセスはセグメント化画像の複数のセグメントに対して複数のセグメントフィンガープリントを作成することによって開始される(操作1600)。操作1600では、複数のセグメント内の各セグメントに対して作成される。
1つの例示的な実施例では、各セグメントフィンガープリントを作成するためガウス共分散モデルが使用される。使用されるモデルは次のようになることがある。

ここでμは、セグメントP内の各ピクセルに対する特徴データ{a、b、L、a、b、u、v}についての1行7列行列の平均値である。ΣPは特徴データについての7行7列の全共分散行列である。a及びbは各ピクセルに対する彩度コンポーネントで、彩度データとみなされている。εはエントロピーのフィルタ処理された値で、u及びvはピクセルの位置データである。具体的には、uは画像内のピクセルの水平位置で、vは画像内のピクセルの垂直位置である。
幾つかの例示的な実施例では、複数のセグメント内のすべてのセグメントがフィンガープリント化されるわけではない。複数のセグメント内の1つのセグメントがフィンガープリント化されているかどうかを判定するため、一連の基準が使用されることがある。これらの基準は、例えば、限定しないが、セグメント内の任意の数のピクセルが12を超えること、1つのセグメント内のすべてのピクセルに対して特徴データが一定でないこと、セグメントはピクセル単位で2以上の高さ及び幅を有すること、画像のエッジとセグメントとの間のピクセル単位での距離は少なくとも選択された閾値であること、セグメントはピクセル単位で画像全体の大きさの半分未満であること、及び/又は他のタイプの基準を含みうる。
その後、セグメント化画像の背景に対して背景フィンガープリントが作成される(操作1602)。操作1602では、セグメント化画像の背景は、複数のセグメントを除いた画像のすべての部分であってもよい。背景フィンガープリントはまた、ガウス共分散モデルを使用して作成されてもよい。
各セグメントフィンガープリントは、一連の適合したセグメントフィンガープリントを形成するため、背景フィンガープリントに加えて一連の先行するセグメントフィンガープリントに対して適合される(操作1604)。操作1604では、この適合は任意の数の異なる方法で実行されてもよい。例えば、類似性スコアを使用して、操作1604のマッチングを実施してもよい。場合によっては、画像登録はマッチング操作1604を実施するために利用される。
1つの例示的な実施例では、各セグメントフィンガープリントと既に特定済みのセグメントフィンガープリントとの間のカルバック・ライブラーダイバージェンス値が計算される。選択された閾値を下回るカルバック・ライブラーダイバージェンス値を有する一連の先行するセグメントフィンガープリントの1つに一致する各セグメントフィンガープリントは、一連の一致したセグメントフィンガープリントに追加されてもよい。選択された閾値を下回るカルバック・ライブラーダイバージェンス値を有する背景フィンガープリントに一致する各セグメントフィンガープリントは、一連の一致したセグメントフィンガープリントに追加されてもよい。
その後、プロセスは、一連の一致したセグメントフィンガープリント内で互いに一致し、互いに隣接するセグメントフィンガープリントに対応するセグメントを一体融合して、一連のマスターセグメントを形成し(操作1606)、その後プロセスは終了する。例えば、操作1606では、第1セグメントと第2セグメントにそれぞれ対応し、互いに隣接している一連の一致したセグメントフィンガープリント内の第1セグメントフィンガープリントと第2セグメントフィンガープリントが特定される。第1セグメントフィンガープリントと第2セグメントフィンガープリントとの間の類似性スコアが選択された閾値の範囲内に入っているかどうかが判定されることがある。
第1セグメントフィンガープリントと第2セグメントフィンガープリントとの間の類似性スコアが選択された閾値の範囲内に入っているという判定に対応して、第1セグメントと第2セグメントが一体融合されることがある。操作1606では、第1セグメントと第2セグメントは少なくとも1つに融合されて、一連のマスターセグメントに追加され、一連のマスターセグメント内の既存のマスターセグメントに融合されて新しいマスターセグメントを形成する。
図示されている種々の実施形態のフロー図及びブロック図は、例示的な実施形態で実装可能な装置及び方法の構造、機能、及び操作を示している。これに関し、フロー図又はブロック図の各ブロックは、1つの操作又はステップの1つのモジュール、セグメント、機能及び/又は部分を表わすことができる。例えば、一又は複数のブロックは、ハードウェア内のプログラムコードとして、又はプログラムコードとハードウェアの組合せとして実装可能である。ハードウェアにおいて実装される場合、ハードウェアは、例えば、フロー図又はブロック図の一又は複数のプロセスを実施するように製造又は構成された集積回路の形態をとることができる。
例示的な実施形態の幾つかの代替的な実装態様では、ブロックに記載された一又は複数の機能は、図中に記載の順序を逸脱して現れることがある。例えば、場合によっては、連続して示されている二つのブロックがほぼ同時に実行されること、又は時には含まれる機能によってはブロックが逆順に実施されることもありうる。また、フロー図又はブロック図に描かれているブロックに加えて他のブロックが追加されることもありうる。
ここで図17を参照すると、例示的な実施形態によりデータ処理システムがブロック図の形態で図示されている。この例示的な実施例では、データ処理システム1700を使用して、図1のコンピュータシステム122に一又は複数のコンピュータを実装することができる。
この例示的な実施例では、データ処理システム1700は通信フレームワーク1702を含み、これによりプロセッサ装置1704、メモリ1706、固定記憶域1708、通信装置1710、入出力装置1712、及びディスプレイ1714の間の通信を可能にする。通信フレームワーク1702は、幾つかの実施例ではバスシステムとして実装されてもよい。
プロセッサ装置1704は、任意の数の命令を実施するためメモリ1706に読込まれるソフトウェアのための命令を実行するように働く。プロセッサユニット1704は、特定の実装形態に応じて、任意の数のプロセッサ、マルチプロセッサコア、又は他のタイプのプロセッサであってもよい。場合によっては、プロセッサ装置1704は、回路システム、特定用途向け集積回路(ASIC)、プログラマブル論理デバイス、又は他の好適なタイプのハードウェアなどのハードウェア装置の形態をとってもよい。
幾つかの場合には、運動検出装置124及び/又はオブジェクト追跡装置126は、プロセッサ装置1704内のプロセッサとして実装されうる。さらに、図1の画像セグメント装置130、整合性チェッカー132、及びフィンガープリント装置133は、プロセッサ装置1704の一又は複数のプロセッサ内のモジュールとして実装されうる。
メモリ1706及び固定記憶域1708は、記憶デバイス1716の例である。記憶デバイス1716は、通信フレームワーク1702を介してプロセッサ装置1704と通信を行ってもよい。記憶デバイスはまた、コンピュータ可読記憶デバイスと呼ばれることもあるが、例えば、限定しないが、機能的な形態のプログラムコード、及び/又は他の好適な情報などの情報を、一時的及び/又は永続的に保存することができるハードウェアの任意の部分である。メモリ1706は、たとえば、ランダムアクセスメモリ又は任意の他の好適な揮発性または不揮発性の記憶デバイスであってもよい。
固定記憶域1708は、具体的な実装に応じて様々な形態を取り、任意の数のコンポーネント又はデバイスを含みうる。例えば、固定記憶域1708は、ハードドライブ、フラッシュメモリ、書換え型光ディスク、書換え可能磁気テープ、又はそれらの何らかの組み合わせであってもよい。実装に応じて、固定記憶域1708によって使用される媒体は着脱式であってもよく、着脱式でなくてもよい。
通信装置1710はこれらの実施例では、他のデータ処理システム又はデバイスとの通信を行う。通信装置1710は、物理的通信リンク及び無線通信リンクのいずれか一方又は両方を使用することによって、通信を提供することができる。
入出力ユニット1712は、データ処理システム1700に接続される他のデバイスとのデータの入出力を可能にする。例えば、入出力ユニット1712は、キーボード、マウス、及び/又は他の何らかの好適な入力デバイスを介してユーザー入力への接続を提供すること、及び/又はプリンタへ出力を送ることができる。ディスプレイ1714はユーザーに情報を表示する機構を提供する。
オペレーティングシステム、アプリケーション、及び/又はプログラムに対する命令は、固定記憶域1716上に配置される。異なる実施形態のプロセスは、コンピュータに実装される命令を使用してプロセッサ装置1704によって実施されてもよい。これらの命令は、プログラムコード、コンピュータで使用可能なプログラムコード、又はコンピュータ可読プログラムコードと呼ばれ、プロセッサ装置1704内の一又は複数のプロセッサによって読取及び実行される。
これらの実施例では、プログラムコード1718は、選択的に着脱可能でコンピュータで読取可能な媒体1720上に機能的な形態で配置され、プロセッサ装置1704での実行用のデータ処理システム1700に読込み又は転送することができる。プログラムコード1718及びコンピュータ可読媒体1720は、これらの実施例ではコンピュータプログラム製品1722を形成する。幾つかの例示的な実施例では、運動検出装置124及び/又はオブジェクト追跡装置126は、コンピュータプログラム製品1722内に具現化されうる。場合によっては、図1の画像セグメント装置130、整合性チェッカー132、及びフィンガープリント装置133は、プログラムコード1718内のソフトウェアモジュールとして実装されてもよい。
コンピュータ可読媒体1720は、コンピュータ可読記憶媒体1724又はコンピュータ可読信号媒体1726であってもよい。コンピュータ可読記憶媒体1724は、プログラムコード1718を伝搬又は転送する媒体よりはむしろプログラムコード1718を保存するために使用される物理的な又は有形の記憶デバイスである。コンピュータ可読記憶媒体1724は、例えば、限定しないが、データ処理システム1700に接続される光又は磁気ディスク或いは固定記憶デバイスの形態をとりうる。
代替的には、プログラムコード1718は、コンピュータ可読信号媒体1726を使用してデータ処理システム1700に転送されてもよい。コンピュータで読取可能な信号媒体1726は、例えば非限定的に、プログラムコード1718を含む伝播されたデータ信号であってもよい。このデータ信号は、物理的及び/又は無線の通信リンクを介して伝送されうる、電磁信号、光信号、及び/又は他の何らかの好適なタイプの信号であってもよい。
データ処理システム1700に例示されている種々のコンポーネントは、アーキテクチャ的に制限することを意図したものではなく、種々の実施形態が実装可能である。種々の例示的な実施形態は、データ処理システム1700に対して図解されているコンポーネントに対して追加的又は代替的なコンポーネントを含むデータ処理システム内に実装される。図17に示した他のコンポーネントは、示されている例示的な実施例と異なることがある。種々の実施形態は、プログラムコードを実行できる任意のハードウェアデバイス又はシステムを使用して実装することができる。1つの実施例として、データ処理システムは無機コンポーネントと一体化した有機コンポーネントを含むことができ、及び/又は人間を除く有機コンポーネントを完全に含むことができる。例えば、記憶デバイスは有機半導体を含んでいてもよい。
種々の例示的な実施形態の説明は、例示及び説明を目的として提供されているものであり、網羅的な説明であること、又は開示された形態に実施形態を限定することを意図していない。当業者には、多数の修正例及び変形例が明らかであろう。
さらに、種々の例示的な実施形態は、他の例示的な実施形態とは異なる特徴を提供することができる。選択された一又は複数の実施形態は、実施形態の原理、実際の用途を最もよく説明するため、及び他の当業者に対し、様々な実施形態の開示内容と、考慮される特定の用途に適した様々な修正との理解を促すために選択及び記述されている。
300 画像
302 背景
304 移動オブジェクト
306、308、310、312 車両
400 運動画像
402 背景
404 画像プロファイル
406、408、410、412、414、416 運動プロファイル
418 運動画像の一部
600 セグメント化画像
602、604、606、608、610、612、614、616 セグメント
618 セグメント化画像の一部
702、704、706、708 セグメント
800 移動セグメント画像
802 背景セグメント
804 移動セグメント
900 マスター画像
901、902、904、906、908、910 マスターセグメント
912 マスター画像の一部
1000 輪郭
1100 画像
1102 背景
1104 移動オブジェクト
1106、1108、1110、1112、1114、1116 車両
1200 マスター画像
1202 背景
1204、1206、1208、1210、1212、1214、1216 マスターセグメント

Claims (14)

  1. 一連の画像(110)内の現行画像(128)を複数のセグメント(138)に分割してセグメント化画像(140)を形成し、且つ同一の運動プロファイルに属する複数のセグメント(138)内のセグメントを一体融合して一連のマスターセグメント(142)を形成するように構成されている画像セグメント装置(130)と、
    前記現行画像(128)内の一連の移動オブジェクト(155)を表わす前記一連のターゲットセグメント(154)を一連のマスターセグメント(142)から特定するように構成されている整合性チェッカー(132)と、
    前記一連の画像(110)内の任意の数の後続画像(162)内の前記一連の移動オブジェクト(155)の追跡に使用される一連のフィンガープリント(156)を作成するように構成されたフィンガープリント(133)と
    を備える画像処理システム(104)。
  2. 前記現行画像(128)を使用する運動画像(136)を形成するように構成された運動検出装置(124)をさらに備え、前記運動画像(136)は一連の運動プロファイル(135)を含む、請求項1に記載の画像処理システム(104)。
  3. 前記運動検出装置(124)は、前記現行画像(128)の局所的運動及び大局的運動を特定し、前記現行画像(128)の前記局所的運動から前記大局的運動を差し引いて前記運動画像(136)を形成するようにさらに構成されている、請求項2に記載の画像処理システム(104)。
  4. 前記整合性チェッカー(132)は、前記マスターセグメント(152)に対して生成されたマスター統計値(144)に基づいて、前記一連のマスターセグメント(142)内のマスターセグメント(152)は前記一連のターゲットセグメント(154)に追加されるかどうかを判定するようにさらに構成されている、請求項1に記載の画像処理システム(104)。
  5. 前記画像セグメント装置(130)は、前記マスターセグメント(152)に対してセグメントデータ(146)を生成すること及び前記セグメントデータ(146)を数学モデル(148)に適合することによって、前記マスターセグメント(152)に対して前記マスター統計値(144)を生成するように構成されている、請求項4に記載の画像処理システム(104)。
  6. 前記数学モデル(148)は一般化した線形モデル(212)である、請求項5に記載の画像処理システム(104)。
  7. 前記フィンガープリント装置(133)は、前記一連のターゲットセグメント(154)内のターゲットセグメント(230)の特徴解析(206)を実施して、前記一連のフィンガープリント(156)に追加される前記ターゲットセグメントのフィンガープリント(232)を形成し、
    前記一連のターゲットセグメント(154)内の各ターゲットセグメント(230)に対して特徴データ(208)を特定し、適合データ(228)を生成するため前記特徴データ(208)を任意の数の数学モデル(210)に適合し、前記適合データ(228)を使用して前記一連のフィンガープリント(156)を作成するように、さらに構成されており、
    前記任意の数の数学モデル(210)は、空間的に一般化した線形モデル(212)、特徴のみを一般化した線形モデル(214)、スパシオグラム(216)、及びヒストグラム(218)のうちの少なくとも1つを含む、
    請求項1に記載の画像処理システム(104)。
  8. 一連の画像(110)内の移動オブジェクト(155)を追跡するためのコンピュータ実装方法であって、該コンピュータ実装方法は、
    一連の画像(110)内の現行画像(128)を複数のセグメント(138)に分割することと、
    同一の運動プロファイルに属する前記複数のセグメント(138)内のセグメントを一体融合して一連のマスターセグメント(142)を形成することと、
    前記現行画像(128)内の一連の移動オブジェクト(155)を表わす前記一連のターゲットセグメント(154)を前記一連のマスターセグメント(142)から特定することと、
    前記一連の画像(110)内の任意の数の後続画像(162)内の前記一連の移動オブジェクト(155)の追跡に使用される一連のフィンガープリント(156)を作成することと
    を含むコンピュータ実装方法。
  9. 前記現行画像(128)を使用して、一連の運動プロファイル(135)を含む運動画像(136)を形成することをさらに含み、
    前記運動画像(136)を形成する前記ステップは、
    前記現行画像(128)の局所的運動と大局的運動を特定することと、
    前記局所的運動から前記大局的運動を差し引いて前記運動画像(136)を形成することと
    を含む、請求項8に記載のコンピュータ実装方法。
  10. 前記同一の運動プロファイルに属する前記複数のセグメント(138)内の前記セグメントを一体融合して前記一連のマスターセグメント(142)を形成するステップは、
    前記運動画像(136)内の前記一連の運動プロファイル(135)内の前記同一運動プロファイルに属する前記複数のセグメント(138)内の前記セグメントを一体融合して前記一連のマスターセグメント(142)を形成することを含む、請求項9に記載のコンピュータ実装方法。
  11. 前記一連のマスターセグメント(142)から前記一連のターゲットセグメント(154)を特定する前記ステップは、
    前記一連のマスターセグメント(142)内のマスターセグメント(152)に対してマスター統計値(144)を生成することと、
    前記マスターセグメント(152)に対する前記マスター統計値(144)に基づいて、前記一連のターゲットセグメント(154)に前記マスターセグメント(152)が追加されるかどうかを判定することとを含み、
    前記一連のマスターセグメント(142)内の前記マスターセグメント(152)に対して前記マスター統計値(144)を生成する前記ステップは、
    前記マスターセグメント(152)に対してセグメントデータ(146)を生成することと、
    数学モデル(148)に前記セグメントデータ(146)を適合して、前記マスターセグメント(152)に対して前記マスター統計値(144)を生成することとを含み、
    前記セグメントデータ(146)を前記数学モデル(148)に適合して、前記マスターセグメント(152)に対して前記マスター統計値(144)を生成することは、
    生成された線形モデル(212)である前記数学モデル(148)に前記セグメントデータ(146)を適合して、前記マスターセグメント(152)に対する前記マスター統計値(144)を生成することを含む、
    請求項8に記載のコンピュータ実装方法。
  12. 前記一連の画像(110)内の前記任意の数の後続画像(162)内の前記一連の移動オブジェクト(155)の追跡に使用するため前記一連のフィンガープリント(156)を作成する前記ステップは、
    前記一連のターゲットセグメント(154)内のターゲットセグメント(230)の特徴解析(206)を実施して、前期ターゲットセグメント(230)に対して前記一連のフィンガープリント(156)内にフィンガープリント(232)を形成することを含む、請求項8に記載のコンピュータ実装方法。
  13. 前記一連の画像(110)内の前記任意の数の後続画像(162)内の前記一連の移動オブジェクト(155)の追跡に使用するための前記一連のフィンガープリント(156)を作成する前記ステップは、
    前記一連のターゲットセグメント(154)内の各ターゲットセグメント(230)に対して特徴データ(208)を特定することと、
    前記特徴データ(208)を任意の数の数学モデル(210)に適合して、適合データ(228)を生成することと、
    前記適合データ(228)を使用して前記一連のフィンガープリント(156)を作成することとを含み、
    前記特徴データ(208)を前記任意の数の数学モデル(210)に適合して、前記適合データ(228)を生成する前記ステップは、
    空間的に一般化した線形モデル(212)、特徴のみを一般化した線形モデル(214)、スパシオグラム(216)、及びヒストグラム(218)のうちの少なくとも1つを含む前記任意の数の数学モデル(210)に前記特徴データ(208)を適合して前記適合データ(228)を生成することを含む、請求項8に記載のコンピュータ実装方法。
  14. 現行画像(128)内の局所的運動と大局的運動を特定することと、
    一連の運動プロファイル(135)を含む前記運動画像(136)を形成するため、前記局所的運動から前記大局的運動を差し引くことと、
    前記一連の画像(110)内の前記現行画像(128)を複数のセグメント(138)に分割してセグメント化画像(140)を形成することと、
    同一の運動プロファイルに属する前記複数のセグメント(138)内のセグメントを一体融合して、一連のマスターセグメント(142)を有するマスター画像を形成することと、
    前記現行画像(128)内の一連の移動オブジェクト(155)を表わす前記一連のターゲットセグメント(154)を前記一連のマスターセグメント(142)から特定して、ターゲット画像を形成することと、
    前記一連の画像(110)内の任意の数の後続画像(162)内で、前記一連の移動オブジェクト(155)の追跡に使用するために一連のフィンガープリント(156)を作成することと
    を含む、一連の画像(110)内の移動オブジェクト(155)を追跡するための方法を実施するように構成されている、請求項5に記載の画像処理システム(104)。
JP2013198438A 2012-09-28 2013-09-25 フィンガープリントを使用してビデオ内で移動オブジェクトを追跡するため方法及びシステム Active JP6650657B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/631,726 US8811670B2 (en) 2012-09-28 2012-09-28 Method and system for using fingerprints to track moving objects in video
US13/631,726 2012-09-28

Publications (3)

Publication Number Publication Date
JP2014071902A true JP2014071902A (ja) 2014-04-21
JP2014071902A5 JP2014071902A5 (ja) 2020-01-16
JP6650657B2 JP6650657B2 (ja) 2020-02-19

Family

ID=49223564

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013198438A Active JP6650657B2 (ja) 2012-09-28 2013-09-25 フィンガープリントを使用してビデオ内で移動オブジェクトを追跡するため方法及びシステム

Country Status (8)

Country Link
US (1) US8811670B2 (ja)
EP (1) EP2713308B1 (ja)
JP (1) JP6650657B2 (ja)
KR (1) KR102069390B1 (ja)
CN (1) CN103716687B (ja)
AU (1) AU2013213659B2 (ja)
BR (1) BR102013024785B1 (ja)
RU (1) RU2013143669A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023522390A (ja) * 2020-04-24 2023-05-30 ヒューマニシング オートノミー リミテッド 画像解析から得られたフィンガープリントを用いた、画像フレーム全体に亘る脆弱な道路利用者の追跡

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9036910B1 (en) 2012-09-28 2015-05-19 The Boeing Company Method and system for processing a sequence of images using fingerprints
US9429425B2 (en) 2013-03-05 2016-08-30 Here Global B.V. Aerial image collection
JP6278752B2 (ja) * 2014-03-05 2018-02-14 株式会社キーエンス 形状検査装置及び形状検査方法
US9639807B2 (en) * 2014-06-10 2017-05-02 Jose Oriol Lopez Berengueres Method and system for forecasting future events
US9791541B2 (en) 2014-12-19 2017-10-17 The Boeing Company System and method to improve object tracking using multiple tracking systems
US9940726B2 (en) 2014-12-19 2018-04-10 The Boeing Company System and method to improve object tracking using tracking fingerprints
DE102015002923B4 (de) * 2015-03-06 2023-01-12 Mekra Lang Gmbh & Co. Kg Anzeigeeinrichtung für ein Fahrzeug insbesondere Nutzfahrzeug
US9483839B1 (en) 2015-05-06 2016-11-01 The Boeing Company Occlusion-robust visual object fingerprinting using fusion of multiple sub-region signatures
KR102334767B1 (ko) * 2015-07-23 2021-12-02 한화테크윈 주식회사 네트워크 카메라 제어 장치 및 방법
US9495763B1 (en) 2015-09-28 2016-11-15 International Business Machines Corporation Discovering object pathways in a camera network
US10679355B2 (en) 2017-05-02 2020-06-09 Hrl Laboratories, Llc System and method for detecting moving obstacles based on sensory prediction from ego-motion
US10460156B2 (en) 2018-03-06 2019-10-29 Sony Corporation Automated tracking and retaining of an articulated object in a sequence of image frames
CN109214315A (zh) * 2018-08-21 2019-01-15 北京深瞐科技有限公司 人车跨镜头追踪方法及装置
CA3128973A1 (en) 2019-03-04 2020-09-10 Bhaskar Bhattacharyya Data compression and communication using machine learning
US11430221B2 (en) * 2020-09-11 2022-08-30 Sensormatic Electronics, LLC Enhancing detection of occluded objects in a multiple object detection system
US11983883B2 (en) 2020-12-15 2024-05-14 The Boeing Company Intensity-based image modification for computer vision
US12086970B2 (en) 2020-12-17 2024-09-10 The Boeing Company Intensity thresholding-based image modification for computer vision
CN113891012B (zh) * 2021-09-17 2024-05-28 天津极豪科技有限公司 一种图像处理方法、装置、设备以及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000222584A (ja) * 1999-01-29 2000-08-11 Toshiba Corp 映像情報記述方法、映像検索方法及び映像検索装置
JP2008042808A (ja) * 2006-08-10 2008-02-21 Toshiba Corp 目標検出追随装置
JP2010102586A (ja) * 2008-10-24 2010-05-06 Hiroshima Univ 物体追跡装置および物体追跡方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6954544B2 (en) * 2002-05-23 2005-10-11 Xerox Corporation Visual motion analysis method for detecting arbitrary numbers of moving objects in image sequences
US7886365B2 (en) * 2002-06-11 2011-02-08 Panasonic Corporation Content-log analyzing system and data-communication controlling device
CN102339382B (zh) * 2004-06-01 2015-09-16 光谱辨识公司 多光谱成像生物识别
CA2734613C (en) * 2008-08-19 2020-06-09 Digimarc Corporation Methods and systems for content processing
GB0818561D0 (en) 2008-10-09 2008-11-19 Isis Innovation Visual tracking of objects in images, and segmentation of images
JP4715909B2 (ja) * 2008-12-04 2011-07-06 ソニー株式会社 画像処理装置及び方法、画像処理システム、並びに、画像処理プログラム
JP5214533B2 (ja) * 2009-05-21 2013-06-19 富士フイルム株式会社 人物追跡方法、人物追跡装置および人物追跡プログラム
US8116527B2 (en) * 2009-10-07 2012-02-14 The United States Of America As Represented By The Secretary Of The Army Using video-based imagery for automated detection, tracking, and counting of moving objects, in particular those objects having image characteristics similar to background
US8731239B2 (en) * 2009-12-09 2014-05-20 Disney Enterprises, Inc. Systems and methods for tracking objects under occlusion
JP2014503796A (ja) * 2010-11-12 2014-02-13 ネクストナヴ,エルエルシー 広域測位システム
US8620026B2 (en) * 2011-04-13 2013-12-31 International Business Machines Corporation Video-based detection of multiple object types under varying poses
US8498448B2 (en) * 2011-07-15 2013-07-30 International Business Machines Corporation Multi-view object detection using appearance model transfer from similar scenes

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000222584A (ja) * 1999-01-29 2000-08-11 Toshiba Corp 映像情報記述方法、映像検索方法及び映像検索装置
JP2008042808A (ja) * 2006-08-10 2008-02-21 Toshiba Corp 目標検出追随装置
JP2010102586A (ja) * 2008-10-24 2010-05-06 Hiroshima Univ 物体追跡装置および物体追跡方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
KANG-YU NI ET AL.: ""Manifold-based fingerprinting for target identification"", 2012 IEEE COMPUTER SOCIETY CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION WORKSHOPS, JPN6017033739, 16 June 2012 (2012-06-16), US, pages 1 - 6, XP032206821, ISSN: 0003636155, DOI: 10.1109/CVPRW.2012.6239199 *
T. NATHAN MUNDHENK ET AL.: ""Detection of unknown targets from aerial camera and extraction of simple object fingerprints for th", PROCEEDINGS VOLUME 8301, INTELLIGENT ROBOTS AND COMPUTER VISION XXIX: ALGORITHMS AND TECHNIQUES, JPN7017002872, 23 January 2012 (2012-01-23), US, pages 1 - 14, XP060000658, ISSN: 0003854283, DOI: 10.1117/12.906491 *
新保 雅俊、外3名: ""移動カメラ画像からの移動体抽出手法"", FIT2006 第5回情報科学技術フォーラム 一般講演論文集 第3分冊, JPN6017033735, 21 August 2006 (2006-08-21), JP, pages 129 - 132, ISSN: 0003636154 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023522390A (ja) * 2020-04-24 2023-05-30 ヒューマニシング オートノミー リミテッド 画像解析から得られたフィンガープリントを用いた、画像フレーム全体に亘る脆弱な道路利用者の追跡
JP7450754B2 (ja) 2020-04-24 2024-03-15 ヒューマニシング オートノミー リミテッド 画像解析から得られたフィンガープリントを用いた、画像フレーム全体に亘る脆弱な道路利用者の追跡

Also Published As

Publication number Publication date
KR102069390B1 (ko) 2020-01-23
EP2713308A2 (en) 2014-04-02
AU2013213659B2 (en) 2018-06-07
AU2013213659A1 (en) 2014-04-17
KR20140043023A (ko) 2014-04-08
JP6650657B2 (ja) 2020-02-19
US20140093127A1 (en) 2014-04-03
BR102013024785B1 (pt) 2021-04-06
RU2013143669A (ru) 2015-04-10
EP2713308B1 (en) 2021-11-03
CN103716687A (zh) 2014-04-09
CN103716687B (zh) 2019-01-08
BR102013024785A2 (pt) 2015-09-15
EP2713308A3 (en) 2015-08-05
US8811670B2 (en) 2014-08-19

Similar Documents

Publication Publication Date Title
JP6650657B2 (ja) フィンガープリントを使用してビデオ内で移動オブジェクトを追跡するため方法及びシステム
JP2014071902A5 (ja)
US10417816B2 (en) System and method for digital environment reconstruction
Azevedo et al. Automatic vehicle trajectory extraction by aerial remote sensing
Keller et al. The benefits of dense stereo for pedestrian detection
Brunner et al. Selective combination of visual and thermal imaging for resilient localization in adverse conditions: Day and night, smoke and fire
Rezaei et al. Robust vehicle detection and distance estimation under challenging lighting conditions
Wu et al. Lane-mark extraction for automobiles under complex conditions
US9036910B1 (en) Method and system for processing a sequence of images using fingerprints
Bajracharya et al. A fast stereo-based system for detecting and tracking pedestrians from a moving vehicle
CN116643291B (zh) 一种视觉与激光雷达联合剔除动态目标的slam方法
Vaquero et al. Deconvolutional networks for point-cloud vehicle detection and tracking in driving scenarios
JP2017528685A (ja) 車両位置の推定
CN113689475A (zh) 跨境头轨迹跟踪方法、设备及存储介质
CN104751119A (zh) 基于信息融合的行人快速检测跟踪方法
Tang et al. Multiple-kernel based vehicle tracking using 3D deformable model and camera self-calibration
Ali et al. Correlation, Kalman filter and adaptive fast mean shift based heuristic approach for robust visual tracking
Kim et al. Semantic point cloud-based adaptive multiple object detection and tracking for autonomous vehicles
Cai et al. 3D vehicle detection based on LiDAR and camera fusion
Imad et al. Navigation system for autonomous vehicle: A survey
Nejadasl et al. Optical flow based vehicle tracking strengthened by statistical decisions
Demars et al. Multispectral detection and tracking of multiple moving targets in cluttered urban environments
Cho et al. Detecting for high speed flying object using image processing on target place
CN118843892A (zh) 通过比较传感器数据与期望较高安全完整性地识别情景的特性
Peng et al. Combining front vehicle detection with 3d pose estimation for a better driver assistance

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160905

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170912

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20171211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180209

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180711

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180720

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20180810

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20191119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200121

R150 Certificate of patent or registration of utility model

Ref document number: 6650657

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250