JP2012113414A - 部位検出装置、部位検出方法、及びプログラム - Google Patents

部位検出装置、部位検出方法、及びプログラム Download PDF

Info

Publication number
JP2012113414A
JP2012113414A JP2010260194A JP2010260194A JP2012113414A JP 2012113414 A JP2012113414 A JP 2012113414A JP 2010260194 A JP2010260194 A JP 2010260194A JP 2010260194 A JP2010260194 A JP 2010260194A JP 2012113414 A JP2012113414 A JP 2012113414A
Authority
JP
Japan
Prior art keywords
detected
site
detection
unit
part detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2010260194A
Other languages
English (en)
Inventor
Kazumi Aoyama
一美 青山
Katsuki Minamino
活樹 南野
Atsushi Okubo
厚志 大久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010260194A priority Critical patent/JP2012113414A/ja
Priority to US13/275,543 priority patent/US20120128255A1/en
Priority to CN2011103620356A priority patent/CN102542250A/zh
Publication of JP2012113414A publication Critical patent/JP2012113414A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Image Analysis (AREA)

Abstract

【課題】部位検出アルゴリズムの検出漏れを補完すること。
【解決手段】入力画像から、被写体を構成する複数の部位の位置を検出可能な部位検出部と、前記部位検出部により注目すべき部位の位置が検出されなかった場合に、前記部位検出部により検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する注目部位推定部と、を備える、部位検出装置が提供される。
【選択図】図1

Description

本発明は、部位検出装置、部位検出方法、及びプログラムに関する。
近年、顔検出と呼ばれる技術が注目されている。顔検出とは、画像を解析し、画像に含まれる人物の顔を機械的に検出するというものである。より詳細には、人物の顔が持つ特徴を保持しておき、その特徴と同じ特徴を持つ領域を画像から検出する技術を言う。例えば、下記の特許文献1には、ブースティング技術を顔検出に応用する方法が記載されている。ブースティング技術とは、簡易的な特徴量検出器(弱検出器)を多数用意し、この弱検出器を集団的に利用することで、精度の高い特徴量検出器(強検出器)を実現するというものである。下記の特許文献1に記載の技術を利用することにより、高い精度で画像から人物の顔を検出することが可能になる。
特開2009−140369号公報
しかしながら、上記の特許文献1に記載の顔検出技術を用いても、遮蔽物により顔の大部分が隠れていたり、顔が完全に真横を向いていたりする場合には顔を検出することが難しい。そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、顔検出により検出できなかった顔の位置を推定することが可能な、新規かつ改良された部位検出装置、部位検出方法、及びプログラムを提供することにある。なお、上記の特許文献1に記載の顔検出技術は、顔以外の部位を検出する部位検出技術へと拡張することができる。このような拡張をも念頭においた場合、本発明の目的とするところは、上記の部位検出技術により検出できなかった部位の位置を推定することが可能な部位検出装置、部位検出方法、及びプログラムを適用することにまで拡張される。
上記課題を解決するために、本発明のある観点によれば、入力画像から、被写体を構成する複数の部位の位置を検出可能な部位検出部と、前記部位検出部により注目すべき部位の位置が検出されなかった場合に、前記部位検出部により検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する注目部位推定部と、を備える、部位検出装置が提供される。
また、上記の部位検出装置は、前記部位検出部により前記注目すべき部位の位置及び当該注目すべき部位とは異なる他の部位の位置が検出された場合に、当該注目すべき部位の位置及び当該他の部位の位置に基づいて前記位置関係の情報を更新する情報更新部をさらに備えていてもよい。
また、前記部位検出部は、第1の精度で前記複数の部位の位置を検出し、前記注目すべき部位の位置が検出されなかった場合に、前記注目部位推定部により推定された前記注目すべき部位の位置を含む所定サイズの領域について前記第1の精度よりも高い第2の精度で前記複数の部位の位置を検出する、ように構成されていてもよい。
また、上記の部位検出装置は、前記部位検出部により位置が検出された各部位に対して前記被写体毎に異なる識別情報を付与する識別情報付与部をさらに備えていてもよい。この場合、前記識別情報付与部は、前記注目部位推定部により位置が推定された前記注目すべき部位に対し、当該推定に用いられた部位に付与した識別情報と同じ識別情報を付与する。
また、前記入力画像は、動画を構成するフレームであってもよい。さらに、前記部位検出装置は、前記注目すべき部位の位置を追跡する追跡部をさらに備えていてもよい。
また、前記部位検出部により前記注目すべき部位の位置が検出されず、前記注目すべき部位とは異なる複数の部位の位置が検出された場合、前記注目部位推定部は、前記部位検出部により検出された複数の部位の位置及び当該検出された複数の部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する、ように構成されていてもよい。
また、上記の部位検出装置は、前記部位検出部により検出された所定の部位から前記被写体の属性を検出する属性検出部をさらに備えていてもよい。この場合、前記注目部位推定部は、前記属性毎に予め用意された前記位置関係の情報を参照し、前記属性検出部により検出された被写体の属性に対応する前記位置関係の情報に基づいて、前記注目すべき部位の位置を推定する。
また、上記課題を解決するために、本発明の別の観点によれば、入力画像から、被写体を構成する一又は複数の部位の位置が検出される部位検出ステップと、前記部位検出ステップで注目すべき部位の位置が検出されなかった場合に、前記部位検出ステップで検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置が推定される注目部位推定ステップと、を含む、部位検出方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、入力画像から、被写体を構成する複数の部位の位置を検出可能な部位検出機能と、前記部位検出機能により注目すべき部位の位置が検出されなかった場合に、前記部位検出機能により検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する注目部位推定機能と、をコンピュータに実現させるためのプログラムが提供される。さらに、上記課題を解決するために、本発明の別の観点によれば、上記のプログラムが記録された、コンピュータにより読み取り可能な記録媒体が提供される。
以上説明したように本発明によれば、画像の特徴を解析して被写体の部位を検出する検出器により検出できなかった部位の位置を推定することが可能になる。
本発明の一実施形態に係る部位検出装置の機能構成について説明するための説明図である。 同実施形態に係る部位検出方法の一例である顔検出方法について説明するための説明図である。 同実施形態に係る部位検出方法の一例である顔検出方法について説明するための説明図である。 同実施形態に係る部位推定方法について説明するための説明図である。 同実施形態に係る部位推定方法について説明するための説明図である。 同実施形態に係る部位検出処理の流れについて説明するための説明図である。 同実施形態に係る部位検出処理の流れについて説明するための説明図である。 同実施形態に係る部位検出装置の一適用例である物体追跡装置の機能構成について説明するための説明図である。 同実施形態に係る追跡処理の流れについて説明するための説明図である。 同実施形態の一変形例に係る部位検出装置の機能構成について説明するための説明図である。 同実施形態の一変形例に係る部位検出処理の流れについて説明するための説明図である。 同実施形態の一変形例に係る部位推定方法について説明するための説明図である。 同実施形態の一変形例に係る部位推定処理の流れについて説明するための説明図である。 同実施形態の一変形例に係る部位推定処理の流れについて説明するための説明図である。 同実施形態の一変形例に係る部位推定処理の流れについて説明するための説明図である。 同実施形態に係る部位検出装置及び物体追跡装置の機能を実現することが可能な情報処理装置のハードウェア構成について説明するための説明図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
[説明の流れについて]
ここで、以下に記載する本発明の実施形態に関する説明の流れについて簡単に述べる。まず、図1を参照しながら、本実施形態に係る部位検出装置100の機能構成について説明する。この中で、図2〜図5を参照しながら、同実施形態に係る部位検出方法及び部位推定方法についても説明する。次いで、図6及び図7を参照しながら、同実施形態に係る部位検出装置100の動作について説明する。次いで、図8を参照しながら、同実施形態に係る部位検出装置100の適用例である物体追跡装置10の機能構成について説明する。次いで、図9を参照しながら、同実施形態に係る顔追跡処理の流れについて説明する。
次いで、図10を参照しながら、同実施形態の一変形例(第1変形例)に係る部位検出装置200の機能構成について説明する。次いで、図11を参照しながら、同変形例に係る部位検出装置200の動作について説明する。この中で、同変形例に係る部位検出処理の流れについて詳細に説明する。次いで、図12を参照しながら、同実施形態の一変形例(第2変形例)に係る部位推定方法について説明する。次いで、図13〜図15を参照しながら、同変形例に係る部位検出処理の流れについて説明する。
次いで、図16を参照しながら、同実施形態に係る部位検出装置100、200及び物体追跡装置10の機能を実現することが可能な情報処理装置のハードウェア構成について説明する。最後に、同実施形態の技術的思想について纏め、当該技術的思想から得られる作用効果について簡単に説明する。
(説明項目)
1:実施形態
1−1:部位検出装置100の機能構成
1−2:部位検出装置100の動作
1−3:物体追跡装置10の構成及び動作
1−4:第1変形例(段階的な検出処理)
1−4−1:部位検出装置200の機能構成
1−4−2:部位検出装置200の動作
1−5:第2変形例(複数部位による部位推定)
1−5−1:推定方法の概要
1−5−2:部位推定処理の流れ
2:ハードウェア構成例
3:まとめ
<1:実施形態>
本発明の一実施形態について説明する。本実施形態は、画像を解析して被写体を構成する部位を検出する部位検出方法に関する。特に、本実施形態は、被写体を構成する一部の部位が何らかの理由で検出できなかった場合に、検出できた部位の位置から、検出できなかった部位の位置を推定する部位推定方法に関する。以下、本実施形態に係る部位検出方法、及び部位推定方法について詳細に説明する。
[1−1:部位検出装置100の機能構成]
まず、図1を参照しながら、本実施形態に係る部位検出方法及び部位推定方法を実現することが可能な部位検出装置100の機能構成について説明する。図1は、本実施形態に係る部位検出装置100の機能構成について説明するための説明図である。
図1に示すように、部位検出装置100は、主に、複数の部位検出部101と、属性検出部102と、位置推定部103と、位置関係データベース104と、位置関係更新部105と、識別情報付与部106とにより構成される。但し、部位検出装置100の利用方法などに応じて、適宜、属性検出部102、位置関係更新部105、識別情報付与部106を省略したり、位置関係データベース104の構成を変更したりしてもよい。例えば、静止画像を入力とする場合には、位置関係更新部105や識別情報付与部106を省略してもよい。
(部位検出部101の機能)
部位検出装置100には、互いに異なる部位を検出することが可能な複数の部位検出部101が設けられている。例えば、部位検出装置100には、人物の顔を検出することが可能な部位検出部101、人物の上半身を検出することが可能な部位検出部101、人物の右足を検出することが可能な部位検出部101などが設けられている。その他にも、部位検出装置100には、人物の手、自動車のタイヤやボディ、動物の尻尾などを検出可能な部位検出部101が設けられていてもよい。また、図1には3つの部位検出部101が描画されているが、部位検出部101の数は2つ又は4つ以上であってもよい。
ここで、図2及び図3を参照しながら、部位検出部101による部位検出の基本的な仕組みについて説明する。なお、ここでは説明の都合上、人物の顔を検出することが可能な部位検出部101による顔検出の例について説明する。
顔検出の対象とする画像が入力されると、部位検出部101は、図2に示すように、所定サイズの枠(以下、顔検出ウィンドウ)で画像をスキャンする。このとき、部位検出部101は、所定の移動量だけ顔検出ウィンドウを移動させながら、図3に示すように、顔検出ウィンドウで囲まれた領域の画像(顔検出データ)と、予め用意された参照画像(辞書画像データ)とを比較する。比較の結果、顔検出ウィンドウで囲まれた領域の画像が人物の顔であると判定された場合、部位検出部101は、顔検出ウィンドウの位置を顔検出の結果として出力する。
また、部位検出部101は、図2に示すように、画像を段階的に縮小しながら顔検出ウィンドウによる画像のスキャンを繰り返し実行する。このように、顔検出ウィンドウのサイズを変更せずに画像を縮小することにより、様々な解像度で人物の顔を検出することが可能になる。例えば、図2に示すように、顔検出ウィンドウのサイズを20×20ピクセルに設定し、原画像を0.75倍(縮小画像A)にすると、顔検出ウィンドウのサイズは、原画像換算で28×28ピクセル相当になる。なお、ここでは画像を段階的に縮小させながらスキャンする方法を紹介したが、顔検出ウィンドウのサイズを段階的に変化させながら繰り返し画像をスキャンする方法を適用してもよい。
また、顔検出ウィンドウで囲まれた領域の画像が顔であるか否かを精度良く判定する方法としては、例えば、特開2009−140369号公報に記載の方法がある。この方法は、顔画像であるか否かが分かっている多数の画像を学習データとして用意し、用意した学習データを用いて機械学習により判定器を構築するというものである。特に、この方法は、多数の弱検出器を集団的に利用して強検出器を構築するというものである。もちろん、部位検出部101は、この方法以外の方法で顔画像を判定してもよいが、この方法を適用することにより、より精度良く顔画像を判定することができる。但し、この方法を用いても、遮蔽物により大部分が隠れてしまった顔や、完全に横を向いた顔などを顔として検出することは難しい。
また、顔検出の精度は、顔検出ウィンドウの移動量や画像の縮小倍率にも依存する。例えば、顔検出ウィンドウを細かく移動させながら画像をスキャンすれば検出漏れが少なくなり、顔検出の精度が向上する。また、画像の縮小倍率が1に近いほど高い解像度で検出処理ができることになり、顔検出の精度が向上する。しかし、顔検出ウィンドウの移動量を小さくすると、その分だけ顔の判定処理を行う回数が増加し、演算量が増大してしまう。同様に、画像の縮小倍率が小さいと演算量が増大してしまう。従って、顔検出ウィンドウの移動量や画像の縮小倍率は、顔検出の精度と演算量とのバランスを考慮して決められる。そのため、顔検出の精度が低く設定されていることがあり、そのような場合、精度に起因して顔が検出されるべき領域に顔が検出されないといったことが起こりうる。
以上説明したように、部位検出部101は、上記の仕組みを用いて、画像から部位の位置を検出することができる。部位検出部101により検出された部位の位置は、部位検出の結果として位置推定部103及び位置関係更新部105に入力される。また、部位検出に失敗した部位検出部101は、部位が検出されなかったことを示す検出結果を位置推定部103及び位置関係更新部105に入力する。さらに、所定の部位(例えば、顔など)を検出することが可能な部位検出部101は、所定の部位が検出された場合に、その部位の位置を部位検出の結果として属性検出部102に入力する。
ところで、本稿において、部位の「位置」という表現を用いることがあるが、ここで言う「位置」とは、部位として検出された画像領域の位置及び形状を含む情報を意味することがある。例えば、画像領域が矩形である場合、画像領域の頂点座標や中心座標で表現される画像中の位置、及び画像領域の幅と高さで表現される形状を含む情報が「位置」と表現されることがある。もちろん、画像領域の形状は矩形でなくてもよい。
(属性検出部102の機能)
上記の通り、属性検出部102には、所定の部位に関する部位検出の結果が部位検出部101から入力される。また、属性検出部102には、部位検出部101に入力されたものと同じ画像が入力される。部位検出の結果(部位の位置)及び画像が入力されると、属性検出部102は、入力された画像から所定の部位の画像(以下、属性検出用画像)を抽出する。そして、属性検出部102は、属性検出用画像を解析して、所定の部位を有する被写体の属性を検出する。なお、属性検出部102により検出された属性は、位置推定部103及び位置関係更新部105に入力される。
例えば、被写体が人物である場合、属性は、人種、性別、年齢、眼鏡の有無、子供/大人などとなる。また、被写体が人物である場合、属性の検出に利用される属性検出用画像としては、顔などの画像が利用される。例えば、属性検出部102は、属性毎に用意された顔の特徴と、属性検出用画像として与えられた顔の画像が持つ特徴とを比較し、特徴が近似する属性を抽出する。そして、属性検出部102は、抽出した属性を属性検出結果として出力する。なお、ここでは被写体が人物の場合について述べたが、被写体が動物の場合や自動車の場合などについても同様にして属性を検出することができる。例えば、被写体が自動車の場合、ボディの画像が持つ特徴から、乗用車、トラック、バスなどの属性を検出することが可能である。
(位置推定部103の機能、位置関係データベース104の構成)
上記の通り、位置推定部103には、属性検出部102から被写体の属性が入力される。また、位置推定部103には、部位検出部101から部位検出の結果が入力される。被写体の属性及び部位検出の結果が入力されると、位置推定部103は、部位検出部101により検出された部位(以下、検出部位)の位置に基づいて、部位検出部101により検出できなかった部位(以下、未検出部位)の位置を推定する。このとき、位置推定部103は、位置関係データベース104に格納されている部位間の位置関係を示す情報(以下、位置関係情報)を利用して未検出部位の位置を推定する。
ここで、図4及び図5を参照しながら、位置推定部103による位置推定方法について説明する。なお、ここでは一例として、検出部位を上半身とし、未検出部位を顔として、上半身の検出結果から顔の位置を推定する方法について説明する。
まず、図4を参照する。図4には、被写体である人物が描かれている。また、図4には、人物の上半身を囲む枠と、人物の顔を囲む枠とが描かれている。人物の上半身を囲む枠は、検出部位の位置を示すものである。また、人物の顔を囲む枠は、未検出部位の位置を示すものである。なお、上半身を囲む枠の幅をsx、高さをsyとし、左上頂点の座標を(x,y)とする。また、顔を囲む枠の幅をsx’、高さをsy’とし、左上頂点の座標を(x’,y’)とする。つまり、部位検出部101により、上半身の検出結果としてsx、sy、(x,y)が得られているものとする。
位置推定部103は、sx、sy、(x,y)から、sx’、sy’、(x’,y’)を推定する。このとき、位置推定部103は、図5に示すような位置関係データベース104の内容(位置関係情報)を参照する。なお、図5には、上半身の位置と顔の位置との関係を示す数式が記載されているが、実際には、この数式で表現される演算を実行するのに必要なパラメータだけを位置関係データベース104に格納しておけばよい。例えば、x’を算出するための数式x’=x−sx/2は、右辺第2項の符号「−」とsxの倍率「1/2」とをパラメータとして位置関係データベース104に格納しておけばよい。他の数式についても同様である。
位置推定部103は、図5に示すような線形式に上半身の検出結果sx、sy、(x,y)を代入し、顔の推定結果sx’、sy’、(x’,y’)を得る。なお、位置関係データベース104は、属性毎に設けられていてもよい。例えば、子供と大人とでは、上半身と顔との位置関係が明らかに異なる。そのため、検出部位の位置から未検出部位の位置を精度良く推定するためには、属性毎に異なる位置関係データベース104を用いることが望ましい。属性毎に位置関係データベース104が用意されている場合、位置推定部103は、属性検出部102から入力された属性に対応する位置関係データベース104を参照して未検出部位の位置を推定する。このようにして位置推定部103により推定された未検出部位の位置を示す位置情報、及び検出部位の位置を示す位置情報は、部位検出装置100の外部に出力される。また、これらの位置情報は、識別情報付与部106に入力される。
(位置関係更新部105の機能)
ここで、位置関係データベース104の更新について説明する。これまでは位置関係データベース104が予め用意されているものとして説明を進めてきた。しかし、部位検出装置100に入力される画像が動画フレームの場合、現在の動画フレームから検出された部位の位置関係を用いて位置関係データベース104を更新することにより、次以降の動画フレームにおける未検出部位の推定精度が向上すると期待される。
例えば、手の位置は動画フレーム毎に変化する。しかし、近い動画フレーム間では、それほど大きく手の位置が変化しない。従って、直近の動画フレームで検出された手の位置に基づく位置関係情報により位置関係データベース104を更新しておくと、所定の手の位置に基づく位置関係情報を利用した場合に比べ、手の位置に基づく未検出部位の推定精度を高めることができる。このような理由から、位置関係更新部105は、複数の検出部位が存在する場合に、これら検出部位間の位置関係に基づいて逐次的に位置関係データベース104を更新する。
(識別情報付与部106の機能)
識別情報付与部106は、部位検出部101により検出された部位の位置関係に基づいて同じ被写体の部位をグルーピングする。そして、識別情報付与部106は、同じグループに属する部位に対して被写体毎に異なるグループIDを割り当てる。さらに、識別情報付与部106は、位置推定部103により位置が推定された部位に対し、その推定に用いた部位と同じグループIDを割り当てる。また、識別情報付与部106は、部位検出部101により位置が検出された部位及び位置推定部103により位置が推定された部位に対し、部位の種類毎に異なる部位IDを割り当てる。
従って、各部位には、識別情報として、グループID及び部位IDが割り当てられる。このようにして識別情報付与部106により各部位に対して割り当てられた識別情報は、各部位の位置情報と共に部位検出装置100の外部に出力される。なお、検出部位に対する識別情報の割り当ては、位置推定部103により未検出部位の推定が完了する前に行われてもよい。
以上、本実施形態に係る部位検出装置100の機能構成について説明した。上記のように、部位検出装置100は、検出したい部位を検出できなかった場合でも、他の検出できた部位の位置から、検出したい部位の位置を推定することができる。また、入力される画像が動画フレームである場合、部位検出装置100は、部位の検出結果を利用して逐次的に位置関係データベース104を更新することにより、未検出部位の推定精度を向上させることができる。さらに、属性毎に位置関係データベース104が設けられているため、部位検出装置100は、高い精度で未検出部位の位置を推定することができる。
[1−2:部位検出装置100の動作]
次に、図6及び図7を参照しながら、本実施形態に係る部位検出装置100の動作について説明する。図6及び図7は、本実施形態に係る部位検出装置100による部位検出処理及び部位推定処理の流れについて説明するための説明図である。
図6に示すように、まず、部位検出装置100に画像が入力される(S101)。部位検出装置100に入力された画像は、複数の部位検出部101及び属性検出部102にそれぞれ入力される。次いで、画像が入力されると、部位検出部101は、入力された画像から被写体の部位を検出する(S102)。部位検出部101による検出結果は、位置推定部103及び位置関係更新部105に入力される。また、属性の検出に利用される所定の部位に関する検出結果は、属性検出部102に入力される。
所定の部位に関する検出結果及び画像が入力された属性検出部102は、入力された検出結果に基づいて画像から所定の部位の画像領域を抽出する。そして、属性検出部102は、抽出した画像領域から被写体の属性を検出する(S103)。属性検出部102により検出された属性は、位置推定部103及び位置関係更新部105に入力される。次いで、識別情報付与部106は、検出部位を被写体毎にグルーピングし、各検出部位に対して被写体毎に異なるグループIDを割り当てる(S104)。なお、各部位には、部位毎に異なる部位IDが割り当てられているものとする。
次いで、部位検出装置100は、グループID(n=1,…,N)に関するループを開始する。さらに、部位検出装置100は、部位ID(i=1,…)に関するループを開始する。次いで、位置推定部103は、部位ID(i)に対応する部位の位置が検出されているか否かを判定する(S105)。部位ID(i)に対応する部位の位置が検出されている場合、部位検出装置100は、処理をAに進める。一方、部位ID(i)に対応する部位の位置が検出されていない場合、部位検出装置100は、処理をBに進める。
処理をAに進めた場合、部位検出装置100は、部位ID(j=1,…)に関するループを開始し、処理をステップS106(図7)に進める。一方、処理をBに進めた場合、部位検出装置100は、部位ID(i)をインクリメントし、再び処理をステップS105に戻す。処理をステップS106に進めた場合、位置推定部103は、部位ID(j)に対応する部位の位置が検出されているか否かを判定する(S106)。部位ID(j)に対応する部位の位置が検出されている場合、部位検出装置100は、処理をステップS107に進める。一方、部位ID(j)に対応する部位の位置が検出されていない場合、部位検出装置100は、処理をステップS108に進める。
処理をステップS107に進めた場合、位置関係更新部105は、部位検出部101により検出された部位ID(i)(j)に対応する2つの部位の位置関係に基づいて位置関係データベース104に格納された位置関係情報を更新する(S107)。なお、位置関係情報は、図5に示すように、2つの部位の座標、幅、高さを線形式で表現したものである。そのため、2つの部位の座標、幅、高さが分かると、両部位の位置関係を示す線形式が求まる。位置関係更新部105により位置関係データベース104が更新されると、部位検出装置100は、部位ID(j)をインクリメントし、再び処理をステップS106に戻す。
一方、処理をステップS108に進めた場合、位置推定部103は、属性検出部102により検出された属性に対応する位置関係データベース104を参照し、検出部位の位置から未検出部位(部位ID(j)に対応する部位)の位置を推定する(S108)。位置推定部103により未検出部位の位置が推定されると、部位検出装置100は、部位ID(j)をインクリメントし、再び処理をステップS106に戻す。
全ての部位ID(j)についてステップS106、及び、S107又はS108の処理を実行した後、部位検出装置100は、処理をステップS109に進める。処理をステップS109に進めた場合、位置推定部103は、同じ部位IDに対応し、互いに異なる部位の位置から推定された複数の部位の位置を平均する(S109)。例えば、上半身から推定された顔の位置と、右手から推定された顔の位置とは異なる。そのため、位置推定部103は、これらの位置を平均して1つの推定位置を算出する。
次いで、位置推定部103は、推定した未検出部位の位置及び検出部位の位置を保持する(S110)。位置推定部103により各部位の位置が保持されると、部位検出装置100は、部位ID(i)をインクリメントし、再び処理をステップS105に戻す。全ての部位ID(i)についてステップS105〜S110の処理を繰り返し実行した後、部位検出装置100は、グループID(n)をインクリメントし、再び部位ID(i)に関するループ内の処理を繰り返し実行する。全てのグループID(n)について部位ID(i)に関するループ内の処理を繰り返し実行した後、部位検出装置100は、各部位の位置を結果として出力し、一連の処理を終了する。なお、部位検出装置100は、各部位に割り当てたグループID及び部位IDを併せて出力してもよい。
以上、本実施形態に係る部位検出装置100の動作について説明した。上記のように、部位検出装置100は、検出したい部位を検出できなかった場合でも、他の検出できた部位の位置から、検出したい部位の位置を推定することができる。また、入力される画像が動画フレームである場合、部位検出装置100は、部位の検出結果を利用して逐次的に位置関係データベース104を更新することにより、未検出部位の推定精度を向上させることができる。さらに、属性毎に位置関係データベース104が設けられているため、部位検出装置100は、高い精度で未検出部位の位置を推定することができる。
[1−3:物体追跡装置10の構成及び動作]
ここで、部位検出装置100の適用例について説明する。例えば、部位検出装置100は、撮像手段により連続して撮像された画像又は記憶手段に格納された動画フレームに現れる物体(特に、特定の部位)を追跡する物体追跡装置10に適用することができる。なお、ここで言う「追跡」とは、連続して入力される画像に現れる同じ物体を同じ物体として認識し、その時間的な位置の変化を物体毎に識別することを意味する。
例えば、この物体追跡装置10は、デジタルビデオカメラなどの撮像装置に搭載され、被写体の顔などの注目部位を追跡するために利用される。注目部位を追跡できると、注目部位に常にピントが合うように自動制御したり、注目部位のサイズが所定値以下にならないようにズームを自動制御したりすることができるようになる。また、この物体追跡装置10及び撮像手段をデジタルサイネージ端末や自動販売機などの機器に搭載し、注目部位の追跡を利用して、利用者が機器の前に滞在する時間を計測したりすることもできる。こうした機能は、注目部位の追跡が途中で途切れてしまうとうまくいかない。しかし、部位検出装置100を適用した物体追跡装置10は、注目部位が何らかの理由で検出できなかった場合にも、注目部位の位置を推定して追跡を継続することができる。
図8に本実施形態に係る物体追跡装置10の構成例を示す。図8に示すように、物体追跡装置10は、例えば、画像入力部11と、物体追跡部12と、出力部13と、部位検出装置100とにより構成される。なお、物体追跡装置10には、撮像手段又は記憶手段から動画を構成する画像(動画フレーム)が連続して入力されるものとする。
物体追跡装置10に画像が入力されると、画像入力部11は、入力された画像を部位検出装置100及び出力部13に入力する。画像が入力された部位検出装置100は、入力された画像から被写体を構成する各部位の位置を検出又は推定し、その位置情報を出力する。また、部位検出装置100は、各部位に付与されたグループIDや部位IDなどの識別情報を位置情報に併せて出力する。部位検出装置100により出力された位置情報及び識別情報は、物体追跡部12に入力される。
位置情報及び識別情報が入力されると、物体追跡部12は、入力された位置情報及び識別情報に基づいて被写体(物体)又は被写体を構成する特定の部位(注目部位)を追跡する。以下では、物体追跡部12が注目部位を追跡するものとして説明を進めることにする。物体追跡部12は、例えば、図9に示す追跡アルゴリズムに基づいて人物の顔を追跡する。図9に示すように、物体追跡部12は、まず、新規に検出された顔に追跡用のID(以下、トラッキングID)を割り当てる(S301)。
次いで、物体追跡部12は、検出された顔の領域が1フレーム前の画像で検出された顔の領域とM%(Mは所定値)以上重なっている、かつ、大きさの違いがL%(Lは所定値)以内である、という条件を満たすか否かを判定する。そして、顔の領域がこの条件を満たす場合、物体追跡部12は、1フレーム前の画像で検出された顔に割り当てたトラッキングIDを現フレームの画像で検出された顔に割り当てる(S302)。また、1フレーム前の画像で検出された顔の領域が現フレームの画像で検出されない場合、物体追跡部12は、1フレーム前の画像で検出された顔の領域を現フレームの画像における顔の領域に設定し、その顔の領域に同じトラッキングIDを割り当てる(S303)。さらに、同じトラッキングIDの顔がN秒間検出されない場合(Nは所定値)、物体追跡部12は、そのトラッキングIDを削除する(S304)。
上記のようにしてトラッキングIDを管理することにより、物体追跡部12は、連続して入力される画像に現れる顔の領域を追跡することができる。なお、ここでは説明の都合上、注目部位を人物の顔としたが、その他の部位を追跡する場合も同様である。図8に示すように、物体追跡部12による追跡結果は、出力部13に入力される。出力部13は、画像と共に追跡結果を出力する。例えば、出力部13は、画像に含まれる注目部位の領域をトラッキングID毎に異なる色彩の枠で囲んで表示したりする。なお、出力部13による追跡結果の表示方法は、これに限定されず、トラッキングID毎に異なる表現方法で注目部位の領域を利用者に提示できればどのような方法でもよい。
以上、本実施形態に係る部位検出装置100の適用例として、物体追跡装置10の構成及び動作について説明した。上記の通り、部位検出装置100は未検出部位の位置も推定できるため、部位検出装置100を注目部位の追跡に適用すると、注目部位を安定して追跡することが可能になる。
[1−4:第1変形例(段階的な検出処理)]
ここで、本実施形態の一変形例(第1変形例)について説明する。先に説明したように、被写体の部位が検出できない理由としては、その部位が遮蔽物により隠されているなどの理由以外にも、検出精度を決めるパラメータの設定に起因するものがある。図2を参照しながら説明したように、検出精度は、顔検出ウィンドウ(顔検出の場合)のサイズや画像の縮小倍率などのパラメータに依存する。また、検出精度が高くなるようにパラメータを設定すると、部位の検出に要する演算量が増大してしまう。つまり、検出精度と演算量とはトレードオフの関係にあり、両者のバランスを考慮してパラメータが設定される。
これまでは検出精度を決めるパラメータの設定は変更せず、検出されなかった部位については、検出された部位の位置から推定するという方法について説明してきた。ここでは、未検出部位の推定結果を利用して、より高い精度で未検出部位の位置を再検出するという方法について説明する。この方法を適用すると、演算量の増大を抑えつつ、高い精度で部位の検出を実現することが可能になる。なお、本変形例を適用するにあたり、上記の部位検出装置100の機能構成は、図10に示す部位検出装置200のように変形される。
(1−4−1:部位検出装置200の機能構成)
まず、図10を参照しながら、本変形例に係る部位検出装置200の機能構成について説明する。図10は、本変形例に係る部位検出装置200の機能構成について説明するための説明図である。
図10に示すように、部位検出装置200は、主に、複数の部位検出部201と、位置推定部202と、位置関係データベース203とにより構成される。なお、部位検出装置200は、上記の部位検出装置100が有する属性検出部102、位置関係更新部105、及び識別情報付与部106に対応する構成要素を有していてもよい。また、位置関係データベース203の構成は、部位検出装置100が有する位置関係データベース104の構成と実質的に同じである。
まず、部位検出装置200に画像が入力される。部位検出装置200に入力された画像は、複数の部位検出部201に入力される。個々の部位検出部201は、入力された画像から部位の位置を検出する。但し、部位検出部201による検出方法は、部位検出装置100が有する部位検出部101による検出方法と実質的に同じである。部位検出部201による部位検出の結果は、位置推定部202に入力される。部位検出の結果が入力されると、位置推定部202は、位置関係データベース203を参照し、検出部位の位置から未検出部位の位置を推定する。そして、位置推定部202は、推定した未検出部位の位置を示す推定結果をその未検出部位に対応する部位検出部201に入力する。
推定結果が入力された部位検出部201は、入力された推定結果が示す未検出部位の位置を含む所定サイズの領域を対象に、より検出精度の高いパラメータを用いて部位の再検出を実行する。部位検出部201による再検出の結果は、位置推定部202に入力される。再検出の結果が入力されると、位置推定部202は、必要に応じて未検出部位の位置を推定し、検出部位の位置を示す位置情報及び必要に応じて推定した未検出部位の位置を示す位置情報を部位検出装置200の外部に出力する。
以上、本変形例に係る部位検出装置200の機能構成について説明した。上記の通り、本変形例に係る部位検出装置200は、位置推定部202により推定された未検出部位の位置を含む領域を高い検出精度のパラメータで再検出する構成に特徴がある。このように、演算量の大きい再検出の処理を限られた領域内で実行することにより、演算量の増大を抑制することができる。また、未検出部位が発見される可能性の高い領域を高い検出精度のパラメータで再検出することにより、未検出部位が発見される確率が高まる。
(1−4−2:部位検出装置200の動作)
次に、図11を参照しながら、本変形例に係る部位検出装置200の動作について説明する。図11は、本変形例に係る部位検出装置200の動作(特に、再検出処理の流れ)について説明するための説明図である。
図11に示すように、まず、部位検出装置200に画像が入力される(S201)。画像が入力されると、部位検出装置200は、部位検出部201の機能により部位の位置を検出し、未検出部位については位置推定部202の機能により位置を推定する(S202)。次いで、部位検出装置200は、位置推定部202の機能により推定された未検出部位の位置付近を対象に、部位検出部201の機能により部位の詳細な検出を実行する(S203)。次いで、部位検出装置200は、検出部位の位置情報及び未検出部位の推定された位置情報を検出結果として出力し(S204)、一連の処理を終了する。
以上、本変形例に係る部位検出装置200の動作について説明した。上記のように、位置推定部202により推定された未検出部位の位置付近を対象に、より高い検出精度のパラメータを利用して再検出を行うことにより、演算量の増大を抑えつつ、より高い精度で部位を検出することが可能になる。
[1−5:第2変形例(複数部位による部位推定)]
ここで、本実施形態の他の変形例(第2変形例)について説明する。これまで、1つの検出部位の位置から1つの未検出部位の位置を推定することを念頭において説明を進めてきた(例えば、図4及び図5を参照)。しかし、複数の検出部位が存在する場合、複数の検出部位の位置から1つの未検出部位の位置を推定することができれば、より推定精度を高めることができると期待される。そこで、第2変形例として、複数の検出部位の位置から1つの未検出部位の位置を推定する方法を紹介する。
(1−5−1:推定方法の概要)
例えば、両足の位置から上半身の位置を推定する方法について考えてみたい。図12に示すように、右足の位置を示す座標を(x,y)、幅をsx、高さをsyとし、左足の位置を示す座標を(x,y)、幅をsx、高さをsyとする。また、上半身の位置を示す座標を(x,y)、幅をsx、高さをsyとする。この場合、両足の位置から上半身の位置を推定するために利用される位置関係データベース104の内容は、例えば、下記の式(1)〜式(4)のように表現される。なお、位置関係データベース104には、位置関係情報をsx=a*(sx+sx)、sy=b*(sy+sy)、x=c*(x+x)+d*sx、y=e*(y+y)+e*syと表記した場合のa、b、c、d、eを保持しておけばよい。

sx=(1/2)*(sx+sx) …(1)
sy=(3/4)*(sy+sy) …(2)
x=(x+x)/2 …(3)
y=(y+y)/2+sy …(4)
(1−5−2:部位推定処理の流れ)
ここで、図13〜図15を参照しながら、本変形例に係る部位推定処理を含む部位検出処理の流れについて説明する。図13〜図15は、本変形例に係る部位推定処理を含む部位検出処理の流れについて説明するための説明図である。なお、この処理は、上記の部位検出装置100により実行されるものとする。
図13に示すように、まず、部位検出装置100に画像が入力される(S401)。部位検出装置100に入力された画像は、複数の部位検出部101及び属性検出部102にそれぞれ入力される。次いで、画像が入力されると、部位検出部101は、入力された画像から被写体の部位を検出する(S402)。部位検出部101による検出結果は、位置推定部103及び位置関係更新部105に入力される。また、属性の検出に利用される所定の部位に関する検出結果は、属性検出部102に入力される。
所定の部位に関する検出結果及び画像が入力された属性検出部102は、入力された検出結果に基づいて画像から所定の部位の画像領域を抽出する。そして、属性検出部102は、抽出した画像領域から被写体の属性を検出する(S403)。属性検出部102により検出された属性は、位置推定部103及び位置関係更新部105に入力される。次いで、識別情報付与部106は、検出部位を被写体毎にグルーピングし、各検出部位に対して被写体毎に異なるグループIDを割り当てる(S404)。なお、各部位には、部位毎に異なる部位IDが割り当てられているものとする。
次いで、部位検出装置100は、グループID(n=1,…,N)に関するループを開始する。さらに、部位検出装置100は、部位ID(i=1,…)に関するループを開始する。次いで、位置推定部103は、部位ID(i)に対応する部位の位置が検出されているか否かを判定する(S405)。部位ID(i)に対応する部位の位置が検出されている場合、部位検出装置100は、処理をAに進める。一方、部位ID(i)に対応する部位の位置が検出されていない場合、部位検出装置100は、処理をBに進める。
処理をAに進めた場合、部位検出装置100は、部位ID(j=1,…)に関するループを開始し、処理をステップS406(図14)に進める。一方、処理をB(図15)に進めた場合、部位検出装置100は、部位ID(i)をインクリメントし、再び処理をステップS405に戻す。処理をステップS406に進めた場合、位置推定部103は、部位ID(j)に対応する部位の位置が検出されているか否かを判定する(S406)。部位ID(j)に対応する部位の位置が検出されている場合、部位検出装置100は、部位ID(k=1,…)に関するループを開始し、処理をステップS407に進める。一方、部位ID(j)に対応する部位の位置が検出されていない場合、部位検出装置100は、処理をCに進める。
処理をC(図15)に進めた場合、部位ID(j)をインクリメントし、再び処理をステップS406に戻す。一方、処理をステップS407に進めた場合、位置推定部103は、部位ID(k)に対応する部位の位置が検出されているか否かを判定する(S407)。部位ID(k)に対応する部位の位置が検出されている場合、部位検出装置100は、処理をステップS408に進める。一方、部位ID(k)に対応する部位の位置が検出されていない場合、部位検出装置100は、処理をステップS409に進める。
処理をステップS408に進めた場合、位置関係更新部105は、部位検出部101により検出された部位ID(i)(j)(k)に対応する部位の位置関係に基づいて位置関係データベース104に格納された位置関係情報を更新する(S408)。位置関係更新部105により位置関係データベース104が更新されると、部位検出装置100は、部位ID(k)をインクリメントし、再び処理をステップS407に戻す。
一方、処理をステップS409に進めた場合、位置推定部103は、属性検出部102により検出された属性に対応する位置関係データベース104を参照し、検出部位の位置から未検出部位(部位ID(k)に対応する部位)の位置を推定する(S409)。位置推定部103により未検出部位の位置が推定されると、部位検出装置100は、部位ID(k)をインクリメントし、再び処理をステップS407に戻す。
全ての部位ID(k)についてステップS407、及び、S408又はS409の処理を実行した後、部位検出装置100は、処理をDに進める。処理をD(図15)に進めた場合、位置推定部103は、同じ部位IDに対応し、異なる部位の位置の組から推定された複数の部位の位置を平均する(S410)。次いで、位置推定部103は、推定した未検出部位の位置及び検出部位の位置を保持する(S411)。位置推定部103により各部位の位置が保持されると、部位検出装置100は、部位ID(i)をインクリメントし、再び処理をステップS405に戻す。
全ての部位ID(i)についてステップS405〜S411の処理を繰り返し実行した後、部位検出装置100は、グループID(n)をインクリメントし、再び部位ID(i)に関するループ内の処理を繰り返し実行する。全てのグループID(n)について部位ID(i)に関するループ内の処理を繰り返し実行した後、部位検出装置100は、各部位の位置を結果として出力し、一連の処理を終了する。なお、部位検出装置100は、各部位に割り当てたグループID及び部位IDを併せて出力してもよい。
以上、第2変形例に係る部位推定処理を含む部位検出処理の流れについて説明した。上記のように、複数の検出部位の位置から1つの未検出部位の位置を推定することにより、未検出部位の推定精度を向上させることができる。
<2:ハードウェア構成例>
上記の部位検出装置100、200及び物体追跡装置10が有する各構成要素の機能は、例えば、図16に示す情報処理装置のハードウェア構成を用いて実現することが可能である。つまり、当該各構成要素の機能は、コンピュータプログラムを用いて図16に示すハードウェアを制御することにより実現される。なお、このハードウェアの形態は任意であり、例えば、パーソナルコンピュータ、携帯電話、PHS、PDA等の携帯情報端末、ゲーム機、又は種々の情報家電がこれに含まれる。但し、上記のPHSは、Personal Handy−phone Systemの略である。また、上記のPDAは、Personal Digital Assistantの略である。
図16に示すように、このハードウェアは、主に、CPU902と、ROM904と、RAM906と、ホストバス908と、ブリッジ910と、を有する。さらに、このハードウェアは、外部バス912と、インターフェース914と、入力部916と、出力部918と、記憶部920と、ドライブ922と、接続ポート924と、通信部926と、を有する。但し、上記のCPUは、Central Processing Unitの略である。また、上記のROMは、Read Only Memoryの略である。そして、上記のRAMは、Random Access Memoryの略である。
CPU902は、例えば、演算処理装置又は制御装置として機能し、ROM904、RAM906、記憶部920、又はリムーバブル記録媒体928に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。ROM904は、CPU902に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM906には、例えば、CPU902に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
これらの構成要素は、例えば、高速なデータ伝送が可能なホストバス908を介して相互に接続される。一方、ホストバス908は、例えば、ブリッジ910を介して比較的データ伝送速度が低速な外部バス912に接続される。また、入力部916としては、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力部916としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。
出力部918としては、例えば、CRT、LCD、PDP、又はELD等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。但し、上記のCRTは、Cathode Ray Tubeの略である。また、上記のLCDは、Liquid Crystal Displayの略である。そして、上記のPDPは、Plasma DisplayPanelの略である。さらに、上記のELDは、Electro−Luminescence Displayの略である。
記憶部920は、各種のデータを格納するための装置である。記憶部920としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。但し、上記のHDDは、Hard Disk Driveの略である。
ドライブ922は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体928に記録された情報を読み出し、又はリムーバブル記録媒体928に情報を書き込む装置である。リムーバブル記録媒体928は、例えば、DVDメディア、Blu−rayメディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体928は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。但し、上記のICは、Integrated Circuitの略である。
接続ポート924は、例えば、USBポート、IEEE1394ポート、SCSI、RS−232Cポート、又は光オーディオ端子等のような外部接続機器930を接続するためのポートである。外部接続機器930は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。但し、上記のUSBは、Universal Serial Busの略である。また、上記のSCSIは、Small Computer System Interfaceの略である。
通信部926は、ネットワーク932に接続するための通信デバイスであり、例えば、有線又は無線LAN、Bluetooth(登録商標)、又はWUSB用の通信カード、光通信用のルータ、ADSL用のルータ、又は各種通信用のモデム等である。また、通信部926に接続されるネットワーク932は、有線又は無線により接続されたネットワークにより構成され、例えば、インターネット、家庭内LAN、赤外線通信、可視光通信、放送、又は衛星通信等である。但し、上記のLANは、Local Area Networkの略である。また、上記のWUSBは、Wireless USBの略である。そして、上記のADSLは、Asymmetric Digital Subscriber Lineの略である。
<3:まとめ>
最後に、本発明の実施形態に係る技術内容について簡単に纏める。ここで述べる技術内容は、例えば、PC、携帯電話、携帯ゲーム機、携帯情報端末、情報家電、カーナビゲーションシステム、デジタルスチルカメラ、デジタルビデオカメラ、デジタルサイネージ端末、ATM(Automated Teller Machine)、自動販売機等、種々の装置に対して適用することができる。
本実施形態は、入力画像から、被写体を構成する複数の部位の位置を検出可能な部位検出部を有する部位検出装置に関する。この部位検出装置は、上記の通り、様々な装置に搭載することが可能である。また、この部位検出装置は、前記部位検出部により注目すべき部位の位置が検出されなかった場合に、前記部位検出部により検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する注目部位推定部をさらに有する。この注目部位推定部を有することにより、何らかの理由で部位検出部により注目部位が検出されなかったとしても、この部位検出装置は、注目部位の位置を認識することが可能になる。
例えば、一般的な顔検出技術を用いると、入力画像から顔の位置を検出することができる。但し、一般的な顔検出技術の場合、正面を向いている顔は精度良く検出できるが、横を向いてしまった顔を検出することは難しい。また、手で顔を隠していたり、眼鏡をかけていたりしていると、多くの場合に顔が検出されない。一方、上記の部位検出装置は、例えば、上半身の位置や手の位置など、顔以外の部位の位置が検出されていれば、検出された部位の位置から、注目部位である顔の位置を推定することができる。そのため、手で顔を隠していたり、眼鏡をかけていたり、横を向いていたりする顔であっても、顔の位置を認識することができる。上記の部位検出装置を用いると、例えば、動画中に現れる顔の位置を追跡する場合に、顔が手で覆い隠されたフレームが含まれていても他の部位から顔の位置が推定されているため、連続して顔を追跡することが可能になる。
なお、上記の位置推定部103は、注目部位推定部の一例である。上記の位置関係更新部105は、情報更新部の一例である。上記の物体追跡部12は、追跡部の一例である。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
10 物体追跡装置
11 画像入力部
12 物体追跡部
13 出力部
100 部位検出装置
101 部位検出部
102 属性検出部
103 位置推定部
104 位置関係データベース
105 位置関係更新部
106 識別情報付与部

Claims (9)

  1. 入力画像から、被写体を構成する複数の部位の位置を検出可能な部位検出部と、
    前記部位検出部により注目すべき部位の位置が検出されなかった場合に、前記部位検出部により検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する注目部位推定部と、
    を備える、
    部位検出装置。
  2. 前記部位検出部により前記注目すべき部位の位置及び当該注目すべき部位とは異なる他の部位の位置が検出された場合に、当該注目すべき部位の位置及び当該他の部位の位置に基づいて前記位置関係の情報を更新する情報更新部をさらに備える、
    請求項1に記載の部位検出装置。
  3. 前記部位検出部は、第1の精度で前記複数の部位の位置を検出し、前記注目すべき部位の位置が検出されなかった場合に、前記注目部位推定部により推定された前記注目すべき部位の位置を含む所定サイズの領域について前記第1の精度よりも高い第2の精度で前記複数の部位の位置を検出する、
    請求項2に記載の部位検出装置。
  4. 前記部位検出部により位置が検出された各部位に対して前記被写体毎に異なる識別情報を付与する識別情報付与部をさらに備え、
    前記識別情報付与部は、前記注目部位推定部により位置が推定された前記注目すべき部位に対し、当該推定に用いられた部位に付与した識別情報と同じ識別情報を付与する、
    請求項3に記載の部位検出装置。
  5. 前記入力画像は、動画を構成するフレームであり、
    前記部位検出装置は、前記注目すべき部位の位置を追跡する追跡部をさらに備える、
    請求項4に記載の部位検出装置。
  6. 前記部位検出部により前記注目すべき部位の位置が検出されず、前記注目すべき部位とは異なる複数の部位の位置が検出された場合、前記注目部位推定部は、前記部位検出部により検出された複数の部位の位置及び当該検出された複数の部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する、
    請求項1に記載の部位検出装置。
  7. 前記部位検出部により検出された所定の部位から前記被写体の属性を検出する属性検出部をさらに備え、
    前記注目部位推定部は、前記属性毎に予め用意された前記位置関係の情報を参照し、前記属性検出部により検出された被写体の属性に対応する前記位置関係の情報に基づいて、前記注目すべき部位の位置を推定する、
    請求項1に記載の部位検出装置。
  8. 入力画像から、被写体を構成する一又は複数の部位の位置が検出される部位検出ステップと、
    前記部位検出ステップで注目すべき部位の位置が検出されなかった場合に、前記部位検出ステップで検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置が推定される注目部位推定ステップと、
    を含む、
    部位検出方法。
  9. 入力画像から、被写体を構成する複数の部位の位置を検出可能な部位検出機能と、
    前記部位検出機能により注目すべき部位の位置が検出されなかった場合に、前記部位検出機能により検出された部位の位置及び当該検出された部位の位置を基準とする位置関係の情報に基づいて、前記注目すべき部位の位置を推定する注目部位推定機能と、
    をコンピュータに実現させるためのプログラム。
JP2010260194A 2010-11-22 2010-11-22 部位検出装置、部位検出方法、及びプログラム Withdrawn JP2012113414A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010260194A JP2012113414A (ja) 2010-11-22 2010-11-22 部位検出装置、部位検出方法、及びプログラム
US13/275,543 US20120128255A1 (en) 2010-11-22 2011-10-18 Part detection apparatus, part detection method, and program
CN2011103620356A CN102542250A (zh) 2010-11-22 2011-11-15 部位检测设备、部位检测方法以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010260194A JP2012113414A (ja) 2010-11-22 2010-11-22 部位検出装置、部位検出方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2012113414A true JP2012113414A (ja) 2012-06-14

Family

ID=46064439

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010260194A Withdrawn JP2012113414A (ja) 2010-11-22 2010-11-22 部位検出装置、部位検出方法、及びプログラム

Country Status (3)

Country Link
US (1) US20120128255A1 (ja)
JP (1) JP2012113414A (ja)
CN (1) CN102542250A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014120139A (ja) * 2012-12-19 2014-06-30 Canon Inc 画像処理装置およびその制御方法、撮像装置、および表示装置
JP2021105808A (ja) * 2019-12-26 2021-07-26 株式会社リコー 発話者認識システム、発話者認識方法、及び発話者認識プログラム
WO2024236882A1 (ja) * 2023-05-17 2024-11-21 日立造船株式会社 情報処理装置、不整脈検出装置、領域特定方法、領域特定プログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8125526B2 (en) * 2006-02-03 2012-02-28 Olympus Imaging Corp. Camera for selecting an image from a plurality of images based on a face portion and contour of a subject in the image
JP5740972B2 (ja) * 2010-09-30 2015-07-01 ソニー株式会社 情報処理装置および情報処理方法
US10009099B2 (en) * 2014-03-29 2018-06-26 Intel Corporation Techniques for communication with body-carried devices
CN108875488B (zh) * 2017-09-29 2021-08-06 北京旷视科技有限公司 对象跟踪方法、对象跟踪装置以及计算机可读存储介质
CN110096933B (zh) * 2018-01-30 2023-07-18 华为技术有限公司 目标检测的方法、装置及系统
US11393088B2 (en) * 2019-06-27 2022-07-19 Nutech Ventures Animal detection based on detection and association of parts

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014120139A (ja) * 2012-12-19 2014-06-30 Canon Inc 画像処理装置およびその制御方法、撮像装置、および表示装置
JP2021105808A (ja) * 2019-12-26 2021-07-26 株式会社リコー 発話者認識システム、発話者認識方法、及び発話者認識プログラム
JP7388188B2 (ja) 2019-12-26 2023-11-29 株式会社リコー 発話者認識システム、発話者認識方法、及び発話者認識プログラム
WO2024236882A1 (ja) * 2023-05-17 2024-11-21 日立造船株式会社 情報処理装置、不整脈検出装置、領域特定方法、領域特定プログラム

Also Published As

Publication number Publication date
US20120128255A1 (en) 2012-05-24
CN102542250A (zh) 2012-07-04

Similar Documents

Publication Publication Date Title
TWI754375B (zh) 圖像處理方法、電子設備、電腦可讀儲存介質
CN109308469B (zh) 用于生成信息的方法和装置
CN109584276B (zh) 关键点检测方法、装置、设备及可读介质
US8416263B2 (en) Alignment of objects in augmented reality
CN104715249B (zh) 物体跟踪方法和装置
CN102542250A (zh) 部位检测设备、部位检测方法以及程序
CN110097576B (zh) 图像特征点的运动信息确定方法、任务执行方法和设备
US8467575B2 (en) Moving-object detection apparatus, moving-object detection method and moving-object detection program
TW202131281A (zh) 圖像處理方法及圖像處理裝置、電子設備和電腦可讀儲存媒介
EP3825960A1 (en) Method and device for obtaining localization information
US20170236288A1 (en) Systems and methods for determining a region in an image
US20200175717A1 (en) Information processing apparatus and method of controlling the same
WO2022036972A1 (zh) 图像分割方法及装置、电子设备和存储介质
CN103745193B (zh) 一种肤色检测方法及装置
JP5511035B2 (ja) 広告配信対象者特定装置、および、広告配信装置
EP2450832A1 (en) Image processing apparatus and image processing method
US20200184697A1 (en) Image Modification Using Detected Symmetry
CN112150560B (zh) 确定消失点的方法、装置及计算机存储介质
JP2018025988A (ja) 画像処理プログラム、画像処理方法および画像処理装置
CN110619656B (zh) 基于双目摄像头的人脸检测跟踪方法、装置及电子设备
CN110070129A (zh) 一种图像检测方法、装置及存储介质
US20180357212A1 (en) Detecting occlusion of digital ink
CN110781823A (zh) 录屏检测方法、装置、可读介质及电子设备
JP2017046023A (ja) 移動体追跡装置及び移動体追跡方法及び移動体追跡プログラム
WO2020221121A1 (zh) 视频查询方法、装置、设备及存储介质

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140204