JP5121508B2 - 画像処理装置、画像処理方法、プログラム及び記憶媒体 - Google Patents

画像処理装置、画像処理方法、プログラム及び記憶媒体 Download PDF

Info

Publication number
JP5121508B2
JP5121508B2 JP2008052104A JP2008052104A JP5121508B2 JP 5121508 B2 JP5121508 B2 JP 5121508B2 JP 2008052104 A JP2008052104 A JP 2008052104A JP 2008052104 A JP2008052104 A JP 2008052104A JP 5121508 B2 JP5121508 B2 JP 5121508B2
Authority
JP
Japan
Prior art keywords
frame image
detection
congestion
degree
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008052104A
Other languages
English (en)
Other versions
JP2009211274A (ja
Inventor
洋 東條
哲 八代
睦凌 郭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008052104A priority Critical patent/JP5121508B2/ja
Priority to US12/395,060 priority patent/US8284991B2/en
Publication of JP2009211274A publication Critical patent/JP2009211274A/ja
Application granted granted Critical
Publication of JP5121508B2 publication Critical patent/JP5121508B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置、画像処理方法、プログラム及び記憶媒体に関する。
店舗等の入り口や通路を通行する人をカメラで撮影し、撮影した映像より人物を検出して、通過した人数を計測する技術がある。このような技術において、入り口や通路が混雑している状況において、人数を正確に計測することが困難であることが知られている。
特許文献1では、通路の幅方向のライン上に通路の上からスリット光を照射し、ラインを周期的に撮影して、得られた像より移動物体(人物)を検出している。そして、特許文献1では、移動物体が同一の人物かどうかを移動物体間の距離に閾値を設けて判定し、この結果より通過した人を計数している。このとき、混雑度が低いと、移動物体の方向が一様でなくなり、スリット光に対して斜めに通ることもある。そこで、特許文献1では、混雑度を判定する手段を設け、混雑度に応じて閾値を変更している。
また、特許文献2では、スリット光は用いていないものの、特許文献1と同様に、通路の幅方向のライン上の画像を周期的に撮影し、得られた像より移動物体を検出し、計数している。このとき、混雑度が高くなると移動速度が遅くなるため、計数を正しく行うことが難しくなる。そこで、特許文献1と同様に特許文献2では、混雑度を判定する手段を設け、混雑度に応じて、計数方式を変更するようにしている。より具体的に説明すると、混雑度が高いときは、厳密な計数が難しくなるので、特許文献2では、全移動物体の総面積を、所定の標準的な移動物体の面積で除する、という方法に変更している。
特開2005−92513号公報 特開平11−282999号公報
しかしながら、混雑度が高くなると移動方向や移動速度に変化が生じるだけでなく、移動物体(人物)同士の重なりが大きくなりやすい、という現象も生じる。例えば、人物同士が肩を触れ合うようになれば、真上から撮影していても、従来の技術では二人を一つの移動物体(人物)として検出してしまう。一方、斜め上から撮影するようにすれば、人物の顔などの属性を確認できるというメリットが生まれるが、このような場合においては、混雑度が高くなると人物同士の重なりはより起こりやすくなる。従来の技術では、やはり複数の人物を一つと検出してしまう。また、例えば後述する上半身検出のように人物の上半身を検出するようにした場合は、重なりが大きくなると上半身の大きな特徴である輪郭部分も隠れてしまい、未検出となる可能性がある。従って、従来の技術のように計数するときの閾値や計数方式を変更しても、通過する人物そのものを正しく検出することができなければ、正しく計数することができなってしまう。
本発明はこのような問題点に鑑みなされたもので、混雑度が高く、被写体と被写体との重なりが生じやすくなるような場合であっても、被写体を精度よく検出し、計数することを目的とする。
そこで、本発明の画像処理装置は、フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段フレーム画像に含まれる被写体を人物の顔に基づいて検出する第二の検出手段と、撮像手段よりフレーム画像を取得する取得手段と、前記取得手段で取得されたフレーム画像に含まれる被写体の混雑度を判定する判定手段と、前記判定手段で判定された混雑度が低い場合に前記第一の検出手段を選択し、前記混雑度が高い場合に前記第二の検出手段を選択する選択手段と、前記選択手段で選択された検出手段により、前記取得手段で取得されたフレーム画像から検出された検出結果に基づいて、前記フレーム画像に含まれる被写体の数を計数する計数手段と、を有することを特徴とする。
また、本発明の画像処理装置は、フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段と、フレーム画像に含まれる被写体を人物の顔に基づいて検出する第二の検出手段と、撮像手段よりフレーム画像を取得する取得手段と、前記取得手段で取得されたフレーム画像に含まれる被写体の混雑度を判定する判定手段と、前記取得手段で取得されたフレーム画像から前記第一の検出手段及び前記第二の検出手段により検出された検出結果の内、前記判定手段で判定された混雑度が低い場合に前記第一の検出手段の検出結果を選択し、前記混雑度が高い場合に前記第二の検出手段の検出結果を選択する選択手段と、前記選択手段で選択された検出結果に基づいて、前記取得手段で取得されたフレーム画像に含まれる被写体の数を計数する計数手段と、を有することを特徴とする。
また、本発明は、画像処理方法、プログラム及び記憶媒体としてもよい。
本発明によれば、混雑度が高く、被写体と被写体との重なりが生じやすくなるような場合であっても、被写体を精度よく検出し、計数することができる。
以下、本発明の実施形態について図面に基づいて説明する。
<実施形態1>
図1は、システム構成の一例を示す図である。
101は、通路の天井である。102は、通路の床である。103は、通路を通行している人物である。104は、撮像部(カメラ)である。撮像部104は、人物103を斜め上から撮影できるように、天井101に設置されている。105は、LANケーブル、又は、同軸ケーブルである。ケーブル105は、撮像部104で撮像される映像を、画像処理装置又はコンピュータの一例であるPC106に送信する。PC106は、映像を解析し、計数する装置である。
図2は、PC106のハードウェア構成の一例を示す図である。図2において、CPU801は、PC106の各種制御を実行する。ROM802は、本装置の立ち上げ時に実行されるブートプログラムや各種データを格納する。RAM803は、CPU801によって実行される制御プログラムを格納すると共に、CPU801が各種制御を実行する際の作業領域を提供する。キーボード804及びマウス805は、ユーザによる各種入力操作環境を提供する。
外部記憶装置806は、ハードディスクや光ディスク、磁気ディスク、光磁気ディスク、磁気テープ等で構成される。但し、外部記憶装置806は、制御プログラムや各種データを全てROM802に持つようにすれば、必ずしも必要な構成要素ではない。表示器807は、ディスプレイ等で構成され、処理結果等をユーザに対して表示する。ネットワークインターフェース(NIC)808は、ネットワーク上の撮像部104とLANケーブル等を介した通信を可能とする。ビデオインターフェース(ビデオI/F)809は、撮像部104とケーブル105を介したフレーム画像の取り込みを可能とする。また、バス810は、上記各構成を接続する。
図3は、PC106と撮像部104とで構成されるシステムの機能構成の一例を示す図である。図3において、撮像部104は、映像を入力する。
画像取得部202は、撮像部104よりフレーム画像を取得する。ケーブル105がLANケーブルで構成されている場合、フレーム画像は撮像部104から、ケーブル105を介してhttpプロトコルのパケットデータとして送られ、PC106上のネットワークインターフェース808を介して取得される。一方、ケーブル105が同軸ケーブルで構成されている場合、フレーム画像は撮像部104から、ケーブル105を介してPC106上のビデオインターフェース809で取得される。
混雑度判定部203は、画像取得部202より得られたフレーム画像を解析し、混雑度を判定する。
被写体検出方法選択部204は、フレーム画像から被写体を検出する方法を、混雑度判定部203で求めた混雑度に基づいて、選択する。
第一被写体検出部205は、フレーム画像より被写体を後述する第一の方法で検出する。
第二被写体検出部206は、フレーム画像より被写体を後述する第二の方法で検出する。
被写体追跡部207は、被写体検出方法選択部204によって選択された第一被写体検出部205又は第二被写体検出部206によって検出された被写体を時間順に追跡し、同一の被写体の軌跡を生成する。
計数部208は、被写体追跡部207によって生成された被写体の軌跡が所定の条件を満たしているかどうかを判定することにより、被写体を計数する。
表示部209は、計数部208の結果を表示器807に表示する。
図4は、被写体の検出及び計数処理の一例を示すフローチャートである。
ステップS401において、画像取得部202は、電源OFFやキーボード804及び/又はマウス805を介したユーザからの指示に基づいて、処理を終了するか否かを判定する。画像取得部202は、処理を終了すると判定すると、図4に示す処理を終了し、処理を終了しないと判定すると、ステップS402に進む。
ステップS402において、画像取得部202は、撮像部104よりフレーム画像を取得する。
ステップS403において、混雑度判定部203は、ステップS402で取得されたフレーム画像から混雑度を判定する。本実施形態では混雑度判定部203は、混雑度を「高」又は「低」の何れかに判定するものとする。なお、混雑度の判定処理の詳細は後述する。
ステップS404において、被写体検出方法選択部204は、ステップS403において求められた混雑度に基づいて、第一の被写体検出方法か第二の被写体検出方法か、被写体の検出方法を選択する。その結果として、第一被写体検出部205で検出するか第二被写体検出部206で検出するかが選択される。本実施形態において、被写体検出方法選択部204は、混雑度が「低」である場合、被写体検出方法を第一の被写体検出方法(第一被写体検出部205)、混雑度が「高」である場合、被写体検出方法を第二の被写体検出方法(第二被写体検出部206)、と選択するものとする。つまり、被写体検出方法選択部204は、混雑度が「低」ならば第一を選択し、「高」ならば第二を選択する。
ステップS405において、被写体検出方法選択部204は、選択した検出方法を確認する。被写体検出方法選択部204は、選択した検出方法が第一であれば、ステップS406に進み、選択した検出方法が第二であれば、ステップS407に進む。
ステップS406において、第一被写体検出部205は、第一の被写体検出方法で被写体を検出する。一方、ステップS407において、第二被写体検出部206は、第二の被写体検出方法で被写体を検出する。なお、検出された結果は、第一被写体検出部205又は第二被写体検出部206によって、検出されたフレームのタイムコードと対応付けて、RAM803に記憶される。なお、第一の被写体検出方法による被写体の検出処理及び第二の被写体の検出方法による被写体の検出処理の詳細は後述する。
次に、ステップS408において、被写体追跡部207は、現在から所定時間前までの間に検出された被写体領域をRAM803より読み出し、軌跡を生成する。これは所定時間内に検出された複数ある被写体の内、どれが同一の人物の動きに対応するかを求める処理である。この処理の詳細について図5を用いて説明する。図5は、軌跡の生成を説明するための図である。301は、フレーム全体である。ここに、所定の時間に検出された被写体の領域を、矩形で表現して重ね描きされている(303から308まで)。図5の例では、3フレーム分が重ね描きされており、最も古いフレームでは303と306とが、次のフレームでは304と307とが、その次の現在のフレームでは、305と308とが検出されているものとする。これらの軌跡を求める方法としては、各領域の中心を求め、各領域の中心間の距離が最小となるもの同士を同一の被写体とみなし、線分で接続するようにすればよい。このようにして求めた軌跡が、図5の例では309、310の2本となる。即ち、2人の人物の軌跡が求まったことになる。時間順に追うことによって被写体追跡部207は、309は、カメラに対して向かってくる(IN)人物であり、310はカメラから離れていく(OUT)人物であることが判別できる。
ステップS409において、計数部208は、被写体追跡部207で作成された軌跡が、所定の条件を満たすかどうかをチェックし、条件を満たしていればカウントする。ここで所定の条件とは例えば、図5に示した302のような計測ラインを横切っているかどうかである。302は、ユーザによってフレーム画面内に設定される。図5の例では、309が計測ライン302をIN方向に、310がOUT方向に横切っているので、計数部208は、INが1、OUTが1というようにカウントする。もし、まだ、計測ライン302を横切っていない軌跡が存在すれば、この時点では、計数部208は、カウントしない。
ステップS410において、表示部209は、計数部208でカウントされた結果、例えば「IN=1,OUT=1」等を、表示器807上に表示する。
なお、ステップS408からステップS410までの処理は、必ずしも毎フレーム行う必要はなく、現在の映像と計数の表示とのずれが、ユーザが許容できる範囲内であれば、これに合わせて、例えば0.5秒ごとに周期的に処理するようにしてもよい。
以下、混雑度判定処理の詳細について述べる。
本実施形態では背景差分法による判定方法を用いるものとする。例えば混雑度判定部203は、通路を誰も通過していない状態で撮影されたフレーム画像を、RAM803に背景画像として一時記憶する。この後、混雑度判定部203は、検出を行うフレームごとにRAM803に一時記憶した背景画像とフレーム画像との差分を求める。図6は、背景差分法による判定方法を説明するための図である。501は、2人の人物が離れて歩いている様子が映っているフレーム画像であり、混雑度が「低」の状態に対応する。503は、4人の人物が固まって歩いている様子が映っているフレーム画像であり、混雑度が「高」の状態に対応する。502は、混雑度判定部203が501と背景画像との差分をとった結果であり、人物の領域のみが残っている(斜線で示した領域、以降、前景領域という。)。同様に504は、混雑度判定部203が503と背景画像との差分をとった結果であり、人物の領域が一つの大きな前景領域として残っている。このように、フレーム画像と、背景画像と、の差分をとった結果、得られた前景領域の面積は、混雑度と関連がある。
混雑度判定部203は、この性質を利用して、前景領域の総面積が所定の値よりも小さいときは混雑度を「低」、多きときは「高」と判定する。また、混雑度判定部203は、前景領域の大きさが、一つであるのにも関わらず、人物の標準サイズよりも大きければ、人の重なりが生じている可能性が高いので、このような場合は混雑度「高」と判定する。このことにより精度の高い判定が可能になる。
以下、第一の被写体検出方法の詳細について述べる。
第一の被写体検出方法は、混雑度が「低」である場合の被写体の検出方法である。本実施形態では、第一の被写体検出方法は、人物の上半身を検出する方法(処理の詳細は後述する)とする。この第一の検出方法によれば、荷車等の他の移動物体に惑わされることなく、人物のみを検出することができる。また、この方法は、顔検出を用いる方法に比べ、人がうつむいたり横を向いたり、又は、後ろ向きであっても被写体を検出することができるため、高精度な検出が可能である。
以下、第二の被写体検出方法の詳細について述べる。
第二の被写体検出方法は、混雑度が「高」である場合の被写体の検出方法である。混雑度が「高」であるときは人の重なりが大きくなるので、混雑度が「低」のときと同様に上半身を検出する方法を用いようとすると、検出率が低下してしまう。そこで、本実施形態では、第二の被写体検出方法は、重なりにより強い検出方法を用いるものとする。例として、まず、顔検出と背景差分法とを用いる方法がある。上述したように顔検出はIN方向のみ有効で、かつ、顔が正面でなければならないが、斜め上から撮影する場合、重なりが生じにくいというメリットがある。OUT方向については、背景差分法で得られた前景領域と顔検出の結果とに基づいて、推測することができる。
図7は、第二被写体検出部206における第二の被写体検出方法の一例を説明するための図である。フレーム全体601は、図6の504に対応する。602は、図6の504の前景領域(斜線で表現した領域)に対応する。図6の503に示したように実際には人物は4人おり、右より3人はIN方向、1人はOUT方向に歩いていたとする。このとき、顔検出を行うことにより顔が矩形の領域として603から605までのように第二被写体検出部206において検出される。この顔の下方向に人物が存在する可能性は低いので、第二被写体検出部206は、前景領域602よりこのような領域を除いた606(横線で表現した領域)を標準の人物のサイズで除算する等して、人物を求める(検出する)ことができる。
第二の検出方法の他の例としては、顔検出と楕円エッジ検出とを用いる方法もある。第二被写体検出部206は、IN方向は上述と同様に顔検出を用いる。そして、OUT方向に関しては、第二被写体検出部206は、楕円エッジ検出を用いて後頭部のエッジを検出することにより、人物の検出を行う。楕円エッジ検出とは、以下のような処理である。第二被写体検出部206は、フレーム画像からSobelフィルタ等を用いてエッジ強度画像を求める。次に、第二被写体検出部206は、大きさを可変として楕円状のマスクを変化させながら、既に顔検出された領域を除いた部分について、エッジ強度画像にマスクをかける。このときの強度の和が所定値以上であれば、第二被写体検出部206は、後頭部のエッジであると判定する。
以下、顔検出処理及び上半身検出処理の詳細について述べる。
本質的には顔検出も上半身検出も同様であるので、以下、顔検出で説明するが、顔を上半身に置き換えれば、上半身検出が可能となる。
本実施形態では、以下の文献1で提案されているニューラル・ネットワークにより画像中の顔パターンを検出する方法を適用した場合について説明する。
文献1:Rowley et al, "Neural network−based face detection", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, VOL.20 , NO.1, JANUARY 1998
まず、第二被写体検出部206は、顔の検出を行う対象である画像データをメモリに読み込み、顔と照合する所定の領域を、読み込んだ画像中から切り出す。そして、第二被写体検出部206は、切り出した領域の画素値の分布を入力としてニューラル・ネットワークによる演算で一つの出力を得る。このとき、ニューラル・ネットワークの重み、閾値が膨大な顔画像パターンと非顔画像パターンとにより予め学習されており、第二被写体検出部206は、例えば、ニューラル・ネットワークの出力が0以上なら顔、それ以外は非顔であると判別する。そして、第二被写体検出部206は、ニューラル・ネットワークの入力である顔と照合する画像パターンの切り出し位置とを、例えば、図8に示すように画像全域から縦横順次に走査していくことにより、画像中から顔を検出する。ここで、図8は、顔検出処理の一例を示す図である。また、様々な大きさの顔の検出に対応するため、第二被写体検出部206は、図8に示すように読み込んだ画像を所定の割合で順次縮小し、それに対して上述した顔検出の走査を行うようにしている。
なお、画像中から顔を検出する方法は上で説明したニューラル・ネットワークによる方法に限定されるものではなく、例えば文献2に挙げられている各種方式が適用可能である。
文献2:Yang et al, "Detecting Faces in Images: A Survey", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, VOL.24 , NO.1, JANUARY 2002
本実施形態では、混雑度判定部203は、背景差分法を用いるよう説明を行ったが、フレーム間差分を用いて、差分画像を求め、この差分画像の面積に基づいて混雑度を判断(判定)するようにしてもよい。又は、図1に示したシステムに、レンジセンサや足圧センサ等のセンサを更に設置し、混雑度判定部203は、これらセンサの出力から混雑度を判定するようにしてもよい。
また、本実施形態では、混雑度判定部203は、混雑度を「高」と「低」との2種類に判定するものとして説明を行ったが、「高」、「中」、「低」の3種類とする等、より細かく場合分けを行うようにしてもよい。つまり、混雑度の度合いに応じて、適切な被写体検出方法(又は適切な被写体検出方法に対応する検出部)が存在すれば、混雑度判定部203は、何種類もの混雑度に場合分けを行ってもよい。
また、本実施形態では、第一被写体検出部205は混雑度「低」に、第二被写体検出部206は混雑度「高」に、対応するように説明を行った。しかしながら、PC106に異なる検出方法でフレーム画像に含まれる被写体を検出する複数の被写体検出部を設けておき、被写体検出方法選択部204により、混雑度に応じて被写体検出部を複数選択するようにしてもよい。なお、この場合、PC106は、複数の検出結果を統合する処理を行う統合部を有し、被写体追跡部207は、この統合部で統合された検出結果である被写体の予め定められた時間内の軌跡を求める。
また、本実施形態では、被写体検出方法選択部204が、被写体検出部を選択するよう説明を行った。しかしながら、常に複数の被写体検出部が被写体の検出を行い、これらの結果のどれを採用するかを被写体検出方法選択部204で選択するようにしてもよい。なお、この場合、被写体検出を行ってから、混雑度を判定し、被写体検出方法(被写体検出部)を選択するようにしてもよい。
また、本実施形態では、PC106にて混雑度判定から被写体検出、計数、表示まで行うように構成した。しかしながら、例えば、混雑度判定部203から計数部208まで各機能構成をチップに納め、撮像部104と一体化させるようにしてもよい。そして、PC106は、撮像部104より計数結果のみケーブル105を介して受信し、計数結果を表示するようにしてもよい。或いは、第一被写体検出部205と第二被写体検出部206とを撮像部104と一体化させるようにしてもよい。そして、PC106は、被写体検出結果を、ケーブル105を介して受信し、混雑度判定を行って、被写体検出方法選択部204は、検出結果の採用のみを行うようにしてもよい。
<その他の実施形態>
また、本発明の目的は、以下のようにすることによって達成される。即ち、上述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(又は記録媒体)を、システム或いは装置に供給する。そして、そのシステム或いは装置の中央演算処理手段(CPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行する。この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することになり、そのプログラムコードを記録した記憶媒体は本発明を構成することになる。
また、システム或いは装置の前記中央演算処理手段が読み出したプログラムコードを実行することにより、そのプログラムコードの指示に基づき、システム或いは装置上で稼働しているオペレーティングシステム(OS)等が実際の処理の一部又は全部を行う。その処理によって上述した実施形態の機能が実現される場合も含まれる。
更に、記憶媒体から読み出されたプログラムコードが、前記システム或いは装置に挿入された機能拡張カードや、接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上述した実施形態の機能が実現される場合も含まれる。
本発明を前記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
以上、上述した実施形態によれば、混雑度が高く、被写体と被写体との重なりが生じやすくなるような場合であっても、被写体を精度よく検出し、計数することができる。
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
システム構成の一例を示す図である。 PC106のハードウェア構成の一例を示す図である。 PC106と撮像部104とで構成されるシステムの機能構成の一例を示す図である。 被写体の検出及び計数処理の一例を示すフローチャートである。 軌跡の生成を説明するための図である。 背景差分法による判定方法を説明するための図である。 第二被写体検出部206における第二の被写体検出方法の一例を説明するための図である。 顔検出処理の一例を示す図である。
符号の説明
104 撮像部
106 PC

Claims (13)

  1. フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段
    フレーム画像に含まれる被写体を人物の顔に基づいて検出する第二の検出手段と、
    撮像手段よりフレーム画像を取得する取得手段と、
    前記取得手段で取得されたフレーム画像に含まれる被写体の混雑度を判定する判定手段と、
    前記判定手段で判定された混雑度が低い場合に前記第一の検出手段を選択し、前記混雑度が高い場合に前記第二の検出手段を選択する選択手段と、
    前記選択手段で選択された検出手段により、前記取得手段で取得されたフレーム画像から検出された検出結果に基づいて、前記フレーム画像に含まれる被写体の数を計数する計数手段と、
    を有することを特徴とする画像処理装置。
  2. 前記選択手段で選択された検出手段で検出された検出結果の被写体の予め定められた時間内の軌跡を求める被写体追跡手段を更に有し、
    前記計数手段は、前記被写体追跡手段で求められた軌跡が予め定められた条件を満たしている被写体の数を計数することを特徴とする請求項1に記載の画像処理装置。
  3. フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段と、
    フレーム画像に含まれる被写体を人物の顔に基づいて検出する第二の検出手段と、
    撮像手段よりフレーム画像を取得する取得手段と、
    前記取得手段で取得されたフレーム画像に含まれる被写体の混雑度を判定する判定手段と、
    前記取得手段で取得されたフレーム画像から前記第一の検出手段及び前記第二の検出手段により検出された検出結果の内、前記判定手段で判定された混雑度が低い場合に前記第一の検出手段の検出結果を選択し、前記混雑度が高い場合に前記第二の検出手段の検出結果を選択する選択手段と、
    前記選択手段で選択された検出結果に基づいて、前記取得手段で取得されたフレーム画像に含まれる被写体の数を計数する計数手段と、
    を有することを特徴とする画像処理装置。
  4. 前記計数手段で計数された被写体の数を表示する表示手段を更に有することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  5. 前記撮像手段を更に有することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 前記判定手段は、前記取得手段で取得されたフレーム画像と、背景画像と、の差分を求め、求めた差分に基づいて、前記混雑度を判定することを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。
  7. 前記第二の検出手段は、人物の顔と背景差分とに基づいて被写体を検出することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  8. 前記第二の検出手段は、人物の顔と楕円エッジとに基づいて被写体を検出することを特徴とする請求項1乃至の何れか1項に記載の画像処理装置。
  9. フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段と、前記被写体を人物の顔に基づいて検出する第二の検出手段とを有する画像処理装置における画像処理方法であって、
    撮像手段よりフレーム画像を取得する取得ステップと、
    前記取得ステップで取得されたフレーム画像に含まれる被写体の混雑度を判定する判定ステップと、
    前記判定ステップで判定された混雑度が低い場合に前記第一の検出手段を選択し、前記混雑度が高い場合に前記第二の検出手段を選択する選択ステップと、
    前記選択ステップで選択された検出手段により、前記取得ステップで取得されたフレーム画像から検出された検出結果に基づいて、前記フレーム画像に含まれる被写体の数を計数する計数ステップと、
    を含むことを特徴とする画像処理方法。
  10. フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段と、前記被写体を人物の顔に基づいて検出する第二の検出手段とを有する画像処理装置における画像処理方法であって、
    撮像手段よりフレーム画像を取得する取得ステップと、
    前記取得ステップで取得されたフレーム画像に含まれる被写体の混雑度を判定する判定ステップと、
    前記取得ステップで取得されたフレーム画像から前記第一の検出手段及び前記第二の検出手段により検出された検出結果の内、前記判定ステップで判定された混雑度が低い場合に前記第一の検出手段の検出結果を選択し、前記混雑度が高い場合に前記第二の検出手段の検出結果を選択する選択ステップと、
    前記選択ステップで選択された検出結果に基づいて、被写体の数を計数する計数ステップと、
    を含むことを特徴とする画像処理方法。
  11. フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段と、前記被写体を人物の顔に基づいて検出する第二の検出手段とを有するコンピュータに、
    撮像手段よりフレーム画像を取得する取得ステップと、
    前記取得ステップで取得されたフレーム画像に含まれる被写体の混雑度を判定する判定ステップと、
    前記判定ステップで判定された混雑度が低い場合に前記第一の検出手段を選択し、前記混雑度が高い場合に前記第二の検出手段を選択する選択ステップと、
    前記選択ステップで選択された検出手段により、前記取得ステップで取得されたフレーム画像から検出された検出結果に基づいて、前記フレーム画像に含まれる被写体の数を計数する計数ステップと、
    実行させることを特徴とするプログラム。
  12. フレーム画像に含まれる被写体を人物の上半身に基づいて検出する第一の検出手段と、前記被写体を人物の顔に基づいて検出する第二の検出手段とを有するコンピュータに、
    撮像手段よりフレーム画像を取得する取得ステップと、
    記取得ステップで取得されたフレーム画像に含まれる被写体の混雑度を判定する判定ステップと、
    前記取得ステップで取得されたフレーム画像から前記第一の検出手段及び前記第二の検出手段により検出された検出結果の内、前記判定ステップで判定された混雑度が低い場合に前記第一の検出手段の検出結果を選択し、前記混雑度が高い場合に前記第二の検出手段の検出結果を選択する選択ステップと、
    前記選択ステップで選択された検出結果に基づいて、前記取得ステップで取得されたフレーム画像に含まれる被写体の数を計数する計数ステップと、
    実行させることを特徴とするプログラム。
  13. 請求項11又は12に記載のプログラムを記憶したコンピュータにより読み取り可能な記憶媒体。
JP2008052104A 2008-03-03 2008-03-03 画像処理装置、画像処理方法、プログラム及び記憶媒体 Expired - Fee Related JP5121508B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008052104A JP5121508B2 (ja) 2008-03-03 2008-03-03 画像処理装置、画像処理方法、プログラム及び記憶媒体
US12/395,060 US8284991B2 (en) 2008-03-03 2009-02-27 Apparatus and method for counting number of objects

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008052104A JP5121508B2 (ja) 2008-03-03 2008-03-03 画像処理装置、画像処理方法、プログラム及び記憶媒体

Publications (2)

Publication Number Publication Date
JP2009211274A JP2009211274A (ja) 2009-09-17
JP5121508B2 true JP5121508B2 (ja) 2013-01-16

Family

ID=41013198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008052104A Expired - Fee Related JP5121508B2 (ja) 2008-03-03 2008-03-03 画像処理装置、画像処理方法、プログラム及び記憶媒体

Country Status (2)

Country Link
US (1) US8284991B2 (ja)
JP (1) JP5121508B2 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5398341B2 (ja) * 2009-05-11 2014-01-29 キヤノン株式会社 物体認識装置及び物体認識方法
US10375287B2 (en) * 2009-10-21 2019-08-06 Disney Enterprises, Inc. Object trail-based analysis and control of video
CN102236899B (zh) * 2010-05-07 2013-12-04 株式会社理光 物体检测方法和装置
JP5178797B2 (ja) * 2010-09-13 2013-04-10 キヤノン株式会社 表示制御装置及び表示制御方法
JP2012108785A (ja) 2010-11-18 2012-06-07 Panasonic Corp 人数カウント装置、人数カウント方法及び人数カウントプログラム
KR101972356B1 (ko) * 2010-12-21 2019-04-25 한국전자통신연구원 상반신 검출장치 및 검출방법
US9619699B2 (en) * 2011-11-09 2017-04-11 Tata Consultancy Services Limited System and method for enhancing human counting by fusing results of human detection modalities
JP5879152B2 (ja) * 2012-02-24 2016-03-08 株式会社日立製作所 エレベータ到着時間推定装置、エレベータシステム
JP2013186819A (ja) * 2012-03-09 2013-09-19 Omron Corp 画像処理装置、画像処理方法、および画像処理プログラム
JP5862410B2 (ja) * 2012-03-28 2016-02-16 沖電気工業株式会社 人数集計サーバ、通行人数集計装置、及び通行人数集計システム
CN102640622B (zh) * 2012-04-16 2014-01-15 中国农业大学 采棉机导航信息图像检测方法及系统
JP5925068B2 (ja) * 2012-06-22 2016-05-25 キヤノン株式会社 映像処理装置、映像処理方法、およびプログラム
JP6222900B2 (ja) * 2012-07-09 2017-11-01 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
CN103839308B (zh) * 2012-11-26 2016-12-21 北京百卓网络技术有限公司 人数获取方法、装置及系统
US10402661B2 (en) 2013-07-22 2019-09-03 Opengate Development, Llc Shape/object recognition using still/scan/moving image optical digital media processing
US9237315B2 (en) * 2014-03-03 2016-01-12 Vsk Electronics Nv Intrusion detection with directional sensing
JP5834254B2 (ja) * 2014-04-11 2015-12-16 パナソニックIpマネジメント株式会社 人数計測装置、人数計測システムおよび人数計測方法
WO2016139906A1 (ja) 2015-03-04 2016-09-09 パナソニックIpマネジメント株式会社 人物追跡方法および人物追跡装置
JP6433389B2 (ja) * 2015-08-04 2018-12-05 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
WO2018061976A1 (ja) * 2016-09-28 2018-04-05 株式会社日立国際電気 画像処理装置
CN110366741A (zh) * 2017-03-06 2019-10-22 三菱电机株式会社 物体跟踪装置和物体跟踪方法
JP6935247B2 (ja) * 2017-07-04 2021-09-15 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP6920949B2 (ja) * 2017-09-28 2021-08-18 セコム株式会社 物体分布推定装置
US11126863B2 (en) * 2018-06-08 2021-09-21 Southwest Airlines Co. Detection system
JP6705486B2 (ja) * 2018-11-07 2020-06-03 日本電気株式会社 被写体検知装置、システム、方法およびプログラム
JP2020145511A (ja) * 2019-03-04 2020-09-10 パナソニックi−PROセンシングソリューションズ株式会社 カメラ装置、人物検出方法および人物検出システム
US11393182B2 (en) 2020-05-29 2022-07-19 X Development Llc Data band selection using machine learning
US11606507B1 (en) 2020-08-28 2023-03-14 X Development Llc Automated lens adjustment for hyperspectral imaging
US11651602B1 (en) 2020-09-30 2023-05-16 X Development Llc Machine learning classification based on separate processing of multiple views
US12033329B2 (en) 2021-07-22 2024-07-09 X Development Llc Sample segmentation
US11995842B2 (en) 2021-07-22 2024-05-28 X Development Llc Segmentation to improve chemical analysis
US12400422B2 (en) 2021-08-25 2025-08-26 X Development Llc Sensor fusion approach for plastics identification

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5301239A (en) * 1991-02-18 1994-04-05 Matsushita Electric Industrial Co., Ltd. Apparatus for measuring the dynamic state of traffic
JP3831112B2 (ja) 1998-03-30 2006-10-11 東日本旅客鉄道株式会社 移動物体計測装置
US6937744B1 (en) * 2000-06-13 2005-08-30 Microsoft Corporation System and process for bootstrap initialization of nonparametric color models
JP3571628B2 (ja) * 2000-08-31 2004-09-29 三菱電機株式会社 画像処理装置
GB2404247B (en) * 2003-07-22 2005-07-20 Hitachi Int Electric Inc Object tracing method and object tracking apparatus
JP2005092513A (ja) 2003-09-17 2005-04-07 Minolta Co Ltd 計数システム
JP2006031153A (ja) * 2004-07-13 2006-02-02 Matsushita Electric Ind Co Ltd 人物計数装置及び人物計数方法
WO2007033286A2 (en) * 2005-09-13 2007-03-22 Verificon Corporation System and method for object tracking and activity analysis
US8331674B2 (en) * 2007-04-06 2012-12-11 International Business Machines Corporation Rule-based combination of a hierarchy of classifiers for occlusion detection

Also Published As

Publication number Publication date
US20090220123A1 (en) 2009-09-03
JP2009211274A (ja) 2009-09-17
US8284991B2 (en) 2012-10-09

Similar Documents

Publication Publication Date Title
JP5121508B2 (ja) 画像処理装置、画像処理方法、プログラム及び記憶媒体
US10506174B2 (en) Information processing apparatus and method for identifying objects and instructing a capturing apparatus, and storage medium for performing the processes
US8068639B2 (en) Image pickup apparatus, control method therefor, and computer program for detecting image blur according to movement speed and change in size of face area
JP6270433B2 (ja) 情報処理装置、情報処理方法、情報処理システム
US9858486B2 (en) Device and method for detecting circumventing behavior and device and method for processing cause of circumvention
JP5693094B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
JP5271227B2 (ja) 群衆監視装置および方法ならびにプログラム
JP2009211311A (ja) 画像処理装置及び方法
JP5725194B2 (ja) 夜景画像ボケ検出システム
US11887309B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
JP2014006586A (ja) 情報処理装置及びその制御方法、コンピュータプログラム
JP2021047538A (ja) 画像処理装置、画像処理方法、及びプログラム
US9478032B2 (en) Image monitoring apparatus for estimating size of singleton, and method therefor
CN108460319B (zh) 异常人脸检测方法及装置
JP7418966B2 (ja) 画像処理装置、画像処理方法及びプログラム
US12141997B2 (en) Information processing apparatus, information processing method, and storage medium
TWI671707B (zh) 影像分析方法、電子系統以及非暫態電腦可讀取記錄媒體
KR101290517B1 (ko) 촬영장치 및 이의 대상 추적방법
JPWO2018179119A1 (ja) 映像解析装置、映像解析方法およびプログラム
TWI695326B (zh) 物件屬性分析方法及其相關物件屬性分析裝置
JP4280324B2 (ja) 画像判別方法、画像判別装置、及び記憶媒体
CN121644971A (zh) 图像处理装置、控制图像处理装置的方法、记录介质和计算机程序产品
KR20230031718A (ko) 오염도 감지 방법, 오염도 감지 시스템 및 상기 방법을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램
JP2019200590A (ja) 情報処理装置、撮像装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110303

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120831

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120925

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121023

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5121508

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees