JPH0944676A - 顔面検出装置 - Google Patents

顔面検出装置

Info

Publication number
JPH0944676A
JPH0944676A JP7196806A JP19680695A JPH0944676A JP H0944676 A JPH0944676 A JP H0944676A JP 7196806 A JP7196806 A JP 7196806A JP 19680695 A JP19680695 A JP 19680695A JP H0944676 A JPH0944676 A JP H0944676A
Authority
JP
Japan
Prior art keywords
points
face
correlation
positional relationship
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP7196806A
Other languages
English (en)
Inventor
Makoto Nishida
誠 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP7196806A priority Critical patent/JPH0944676A/ja
Publication of JPH0944676A publication Critical patent/JPH0944676A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Emergency Alarm Devices (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 運転者が変った場合、顔向きが変化した場合
や、カメラから運転者までの距離が変化した場合等にお
いては顔画像とテンプレートとの相関度が変化するため
に、例えば顔画像における眉や鼻等を目と誤って抽出す
ることがあるという問題があった。 【解決手段】 相関演算手段M2は、予め用意されてい
る顔の複数の特徴点にそれぞれ対応する複数のテンプレ
ートを用いて顔画像を走査して相関演算を行い、相関度
が所定の閾値を超えたとき各特徴点の候補点とする。位
置関係比較手段M3は、各特徴点の候補点の組合わせの
うち、予め用意されている顔の複数の特徴点の位置関係
と相似な位置関係となる候補点の組合せを見付け特徴点
を検出する。このため、複数の特徴点夫々で複数の候補
点が許されるので特徴点の見落しがなくなり、各特徴点
の位置関係と相似な位置関係の候補点の組合わせから誤
りなく顔画像の特徴点を検出することできる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は顔面検出装置に関
し、特に撮像して得られた被験者の顔画像から顔面の特
徴点を検出する顔面検出装置に関する。
【0002】
【従来の技術】従来より、車両運転者の運転状態を検出
するために、運転者の顔を撮像し、顔の方向又は視線の
方向を監視することが提案されている。例えば、特開平
6−243367号公報には、運転者の顔を撮像し、顔
画像から顔の特徴点として両眼の目頭と唇の両端の4点
を抽出し、顔が中心線に関して対称であることに基づい
て、抽出した4点が作る等脚台形の方向を求めることで
顔の方向を計算している。
【0003】
【発明が解決しようとする課題】従来技術で顔画像の特
徴点を抽出する際には、顔の特徴点のテンプレートつま
り目テンプレート、口テンプレートを用い、顔画像上で
上記テンプレートを順次走査して画像とテンプレートと
の相関演算を行い、相関度が所定の閾値を超えたとき
目,口の特徴点を抽出することが考えられる。
【0004】しかし、運転者が変った場合、顔向きが変
化した場合、カメラから運転者までの距離が変化した場
合、外光が変化した場合等においては顔画像とテンプレ
ートとの相関度が変化するために、相関度の閾値を高く
すると特徴点を抽出できなくなる。これをなくすため相
関度の閾値を低くすると、例えば顔画像における眉や鼻
等を目と誤って抽出することがあるという問題があっ
た。
【0005】本発明は上記の点に鑑みなされたもので、
相関演算で得た各特徴点の候補点の組合わせのうち顔の
特徴点の位置関係と相似な位置関係の候補点の組合わせ
を見付けることにより、顔の特徴点を見落しなく、かつ
誤りなく高精度に検出できる顔面検出装置を提供するこ
とを目的とする。
【0006】
【課題を解決するための手段】請求項1に記載の発明は
図1に示す如く、被験者の顔を撮像して顔画像を得る撮
像手段M1と、予め用意されている顔の複数の特徴点に
それぞれ対応する複数のテンプレートを用いて上記顔画
像を走査して相関演算を行い、相関度が所定の閾値を超
えたとき各特徴点の候補点とする相関演算手段M2と、
上記各特徴点の候補点の組合わせのうち、予め用意され
ている上記顔の複数の特徴点の位置関係と相似な位置関
係となる候補点の組合せを見付けることにより上記顔画
像における特徴点を検出する位置関係比較手段M3とを
有する。
【0007】このため、複数の特徴点夫々で複数の候補
点が許されるので特徴点の見落しがなくなり、各特徴点
の位置関係と相似な位置関係の候補点の組合わせから誤
りなく顔画像の特徴点を検出することできる。請求項2
に記載の発明は、請求項1記載の顔面検出装置におい
て、前記相関演算手段は、複数の特徴点毎に相関度の閾
値を異ならしめる。
【0008】このため、顔のいくつかの特徴点のうち、
像のコントラストの大小や個人差の大小に応じて、各特
徴点に最適の閾値を設定でき、特徴点の抽出精度を向上
できる。
【0009】
【発明の実施の形態】図2は本発明のブロック図を示
す。同図中、運転者の顔を撮像する撮像手段M1として
のカメラ10は車両の所定位置に取付られており、カメ
ラ10で撮像された運転者の顔の画像信号はD/Aコン
バータ11でディジタル化されて画像メモリ12に格納
される。また、ROM13には図3(A),(B),
(C)に示す如き目,鼻,口のテンプレート及び同図
(D)に示す如き目,鼻,口の位置関係が予め格納され
ている。
【0010】画像処理回路14は正規化部及び相関演算
部を有しており、画像メモリ12に格納されている顔画
像の濃淡正規化処理を行った後、ROM13からロード
したテンプレートを用いて上記顔画像を走査して相関演
算を行い、目,鼻,口夫々の候補点を抽出し、各部の候
補点の中から目,鼻,口の位置関係を満足するものを抽
出して、目,鼻,口夫々の位置を決定する。
【0011】図4及び図5は画像処理回路が実行する目
検出処理のフローチャートを示す。この処理はイグニッ
ションオン時、及び目のトラッキングを失敗したときに
実行される。同図中、ステップS10ではROM13か
ら図3(A),(B),(C)夫々に示す32×16画
素の左目の目テンプレート、32×16画素の鼻テンプ
レート、64×16画素の口テンプレート夫々をロード
する。次にステップS12でROM13から図3(D)
に示す如き目の位置を原点(0,0)とした鼻,口夫々
の基準座標(Xn,Yn),(Xm,Ym)をロードす
る。
【0012】次に、ステップS14で図6に示す如き5
12×512画素の顔画像を入力し、図3(A),
(B),(C)夫々に示す目テンプレート、鼻テンプレ
ート、口テンプレート夫々で顔画像を走査して相関演算
を行い、図7に示す目の相関分布、図8に示す鼻の相関
分布、図9に示す口の相関分布夫々を算出する。ここで
は、顔画像上の座標(x,y)での相関分布γ(x,
y)は次式で計算する。
【0013】
【数1】
【0014】但し、I(x,y)は顔画像上の座標
(x,y)の濃度値であり、0<x<ωx,0<y<ω
y,ωx,ωy夫々はテンプレートの横方向,縦方向夫
々の画素数である。また、T(x’,y’)はテンプレ
ートブロック上での座標(x’,y’)の濃度値であ
る。図7,図8,図9夫々では相関分布値が小さい(相
関度が高い)部分を暗く、相関分布値が大きい(相関度
が低い)部分を明るく表示している。つまり、暗いほど
相関度が高い。
【0015】次にステップS18では図7,図8,図9
夫々の目,鼻,口の相関分布について候補点を抽出し
て、目,鼻,口夫々毎に番号付けを行う。ここで、候補
点は次の(2)式から(6)式を全て満足する点であ
る。 γ(x,y)<THR …(2) γ(x−1,y)−γ(x,y)>THR’ …(3) γ(x+1,y)−γ(x,y)>THR’ …(4) γ(x,y−1)−γ(x,y)>THR’ …(5) γ(x,y+1)−γ(x,y)>THR’ …(6) 但し、THRは相関分布の閾値、THR’は相関分布の
差分の閾値である。つまり、相関分布値が閾値THR未
満で、隣接画素に対する相関分布値の差分が閾値TH
R’を超える点、即ち、図7,図8,図9で際立って暗
い点を目,鼻,口夫々の候補点とする。
【0016】なお、目,鼻に対する相関分布の閾値を1
0000としたとき、その差分の閾値は200程度とす
る。また、口は目,鼻に比べて像のコントラストが低
く、かつ個人差が大きいため,口に対する相関分布の閾
値を5000とし、その差分の閾値は100とする。更
に、鼻は目、口のように開閉動作がないため、鼻に対す
る相関分布の閾値を目の閾値より高めに設定しても良
い。
【0017】これによって図7に矢印で示す目の候補点
e1〜e10、図8に矢印で示す鼻の候補点n1〜n1
0、図9に矢印で示す口の候補点m1〜m9が抽出され
る。上記のステップS16,S18が相関演算手段M2
に対応する。このように、顔のいくつかの特徴である
目,鼻,口夫々で像のコントラストの大小や個人差の大
小に応じて、各特徴点に最適の閾値を設定でき、特徴点
の抽出精度を向上できる。
【0018】この後、ステップS20で目発見候補数n
sを0にリセットし、ステップS22で目候補カウンタ
ieを0にリセットし、ステップS24で鼻候補カウン
タinを0にリセットし、ステップS26で口候補カウ
ンタimを0にリセットする。
【0019】次のステップS28では、1又は複数の目
の候補点、1又は複数の鼻の候補点、1又は複数の候補
点について目,鼻,口の候補点を1つずつ選択した全て
の組合わせを作り、各組合わせ毎に目の候補点に図3
(D)の目の位置を重ね合わせたときの、鼻の基準座標
(Xn,Yn)に対する鼻の候補点の誤差En、及び口
の基準座標(Xm,Ym)に対する口の候補点の誤差E
mを(7)〜(9)式により算出する。但し、カメラか
ら顔までの距離によって目の候補点と鼻,口夫々の候補
点との間隔が異なるので、目の候補点と鼻の候補点との
X方向の間隔を図3(D)の目と鼻のX方向の間隔と一
致するよう正規化しており、このために係数gを用い
る。
【0020】 g=Xn/〔xn(in)−xe(ie)〕 …(7) En=〔{Xn−g・(xn(in)−xe(ie))}2 +{Yn−g・(yn(in)−ye(ie)}2 1/2 …(8) Em=〔{Xm−g・(xm(im)−xe(ie))}2 +{Ym−g・(ym(im)−ye(ie)}2 1/2 …(9) 但し、xe(ie),yn(ie)はie番目の目の候
補点の顔画像上のx,y座標、xn(in),yn(i
n)はin番目の鼻の候補点のx,y座標、xm(i
m),ym(im)はim番目の口の候補点のx,y座
標である。
【0021】次に、ステップS30で誤差Enが所定の
閾値THE未満、かつ誤差Emが閾値THE未満か、否
かを判別する。En,Emが共に閾値THE未満であれ
ば、有力な目の候補点とみなし、図5のステップS32
に進んで目の候補点eiのx,y座標と誤差En+Em
とを記憶し、ステップS34で目発見候補数nsを1だ
けインクリメントしてステップS36に進む。
【0022】またステップS30でEn≧THE又はE
m≧THEの場合は、この候補点の組合わせが図3
(D)の位置関係に合わないとして候補点を変更するた
めにステップS36に進む。ステップS36では口候補
カウンタimを1だけインクリメントし、ステップS3
8でimの値が口候補点の総数Nm未満か否かを判別
し、im<Nm未満であればステップS28に進んで処
理を続ける。またim≧NmであればステップS40で
鼻候補カウンタinを1だけインクリメントしてステッ
プS42でinの値が鼻候補点の総数Nn未満か否かを
判別し、in<NnであればステップS26に進んで口
候補カウンタimを0にリセットする。
【0023】また、in≧Nnの場合はステップS44
で目候補カウンタieを1だけインクリメントしてステ
ップS46でieの値が目候補点の総数Ne未満か否か
を判別し、ie<Ne未満であればステップS24に進
んで鼻候補カウンタinを0にリセット、ie≧Neで
あればステップS48に進む。これによってステップS
48に進む時点では目,鼻,口の候補の全ての組合わせ
についてステップS28,S30が実行される。
【0024】ステップS48では目発見候補数nsが0
か否かを判別する。ns=0であれば図3(D)の位置
関係を満足する目,鼻,口の候補点がなかった、つまり
目の有力な候補点がなかったため、目の検出ができなか
ったとしてステップS14に進み、顔画像を再度入力し
て、上記の処理を繰り返す。ns>1であればステップ
S50に進んで目発見候補数nsで表わされる有力な候
補のうち誤差En+Emが最小である目の候補点を目と
して認識し、ステップS52で、この目候補点の座標を
次のトラッキング処理に渡し、目の検出を行って処理を
終了する。上記のステップS20〜S50が位置関係比
較手段M3に対応する。
【0025】このように、目,鼻,口夫々で複数の候補
点が許されるので特徴点の見落としがなくなり、各特徴
点の位置関係と相似な位置関係の候補点の組合わせを見
付けることから顔画像の特徴点である目,鼻,口を誤り
なく検出することができる。
【0026】
【発明の効果】上述の如く、請求項1に記載の発明は被
験者の顔を撮像して顔画像を得る撮像手段と、予め用意
されている顔の複数の特徴点にそれぞれ対応する複数の
テンプレートを用いて上記顔画像を走査して相関演算を
行い、相関度が所定の閾値を超えたとき各特徴点の候補
点とする相関演算手段と、上記各特徴点の候補点の組合
わせのうち、予め用意されている上記顔の複数の特徴点
の位置関係と相似な位置関係となる候補点の組合わせを
見付けることにより上記顔画像における特徴点を検出す
る位置関係比較手段とを有するため、複数の特徴点夫々
で複数の候補点が許されるので特徴点の見落しがなくな
り、各特徴点の位置関係と相似な位置関係の候補点の組
合わせから誤りなく顔画像の特徴点を検出することでき
る。
【0027】また、請求項2に記載の発明は、請求項1
記載の顔面検出装置において、前記相関演算手段は、複
数の特徴点毎に相関度の閾値を異ならしめるため、顔の
いくつかの特徴点のうち、像のコントラストの大小や個
人差の大小に応じて、各特徴点に最適の閾値を設定で
き、特徴点の抽出精度を向上でき、実用上きわめて有用
である。
【図面の簡単な説明】
【図1】本発明の原理図である。
【図2】本発明のブロック図である。
【図3】テンプレート及び目鼻口の位置関係を示す図で
ある。
【図4】目検出処理のフローチャートである。
【図5】目検出処理のフローチャートである。
【図6】顔画像を示す図である。
【図7】目の相関分布を示す図である。
【図8】鼻の相関分布を示す図である。
【図9】口の相関分布を示す図である。
【符号の説明】
10 カメラ 11 D/Aコンバータ 12 画像メモリ 13 ROM 14 画像処理回路 M1 撮像手段 M2 相関演算手段 M3 位置関係比較手段
─────────────────────────────────────────────────────
【手続補正書】
【提出日】平成7年12月5日
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】図面の簡単な説明
【補正方法】変更
【補正内容】
【図面の簡単な説明】
【図1】本発明の原理図である。
【図2】本発明のブロック図である。
【図3】テンプレート及び目鼻口の位置関係を示す図で
ある。
【図4】目検出処理のフローチャートである。
【図5】目検出処理のフローチャートである。
【図6】ディスプレイ上に表示させた場合の顔画像を示
写真である。
【図7】ディスプレイ上に表示させた場合の目の相関分
布を示す写真である。
【図8】ディスプレイ上に表示させた場合の鼻の相関分
布を示す写真である。
【図9】ディスプレイ上に表示させた場合の口の相関分
布を示す写真である。
【符号の説明】 10 カメラ 11 D/Aコンバータ 12 画像メモリ 13 ROM 14 画像処理回路 M1 撮像手段 M2 相関演算手段 M3 位置関係比較手段

Claims (2)

    【特許請求の範囲】
  1. 【請求項1】 被験者の顔を撮像して顔画像を得る撮像
    手段と、 予め用意されている顔の複数の特徴点にそれぞれ対応す
    る複数のテンプレートを用いて上記顔画像を走査して相
    関演算を行い、相関度が所定の閾値を超えたとき各特徴
    点の候補点とする相関演算手段と、 上記各特徴点の候補点の組合わせのうち、予め用意され
    ている上記顔の複数の特徴点の位置関係と相似な位置関
    係となる候補点の組合わせを見付けることにより上記顔
    画像における特徴点を検出する位置関係比較手段とを有
    することを特徴とする顔面検出装置。
  2. 【請求項2】 請求項1記載の顔面検出装置において、 前記相関演算手段は、複数の特徴点毎に相関度の閾値を
    異ならしめたことを特徴とする顔面検出装置。
JP7196806A 1995-08-01 1995-08-01 顔面検出装置 Pending JPH0944676A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7196806A JPH0944676A (ja) 1995-08-01 1995-08-01 顔面検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7196806A JPH0944676A (ja) 1995-08-01 1995-08-01 顔面検出装置

Publications (1)

Publication Number Publication Date
JPH0944676A true JPH0944676A (ja) 1997-02-14

Family

ID=16363965

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7196806A Pending JPH0944676A (ja) 1995-08-01 1995-08-01 顔面検出装置

Country Status (1)

Country Link
JP (1) JPH0944676A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000132693A (ja) * 1998-10-27 2000-05-12 Sony Corp 画像処理装置および方法、並びに提供媒体
JP2002288670A (ja) * 2001-03-22 2002-10-04 Honda Motor Co Ltd 顔画像を使用した個人認証装置
WO2005008593A1 (ja) 2003-07-18 2005-01-27 Canon Kabushiki Kaisha 画像処理装置、撮像装置、画像処理方法
JP2007158829A (ja) * 2005-12-06 2007-06-21 Hitachi Kokusai Electric Inc 画像処理装置、画像処理方法およびプログラム
JP2008003749A (ja) * 2006-06-21 2008-01-10 Fujifilm Corp 特徴点検出装置および方法並びにプログラム
US7577297B2 (en) 2002-12-16 2009-08-18 Canon Kabushiki Kaisha Pattern identification method, device thereof, and program thereof
US8594430B2 (en) 2006-04-08 2013-11-26 The University Of Manchester Method of locating features of an object
WO2014156430A1 (ja) * 2013-03-26 2014-10-02 富士フイルム株式会社 真贋判定システム,特徴点登録装置およびその動作制御方法,ならびに照合判定装置およびその動作制御方法
CN106710145A (zh) * 2016-12-29 2017-05-24 清华大学苏州汽车研究院(吴江) 一种引导式驾驶员困倦预防方法

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000132693A (ja) * 1998-10-27 2000-05-12 Sony Corp 画像処理装置および方法、並びに提供媒体
JP2002288670A (ja) * 2001-03-22 2002-10-04 Honda Motor Co Ltd 顔画像を使用した個人認証装置
US7577297B2 (en) 2002-12-16 2009-08-18 Canon Kabushiki Kaisha Pattern identification method, device thereof, and program thereof
US8942436B2 (en) 2003-07-18 2015-01-27 Canon Kabushiki Kaisha Image processing device, imaging device, image processing method
WO2005008593A1 (ja) 2003-07-18 2005-01-27 Canon Kabushiki Kaisha 画像処理装置、撮像装置、画像処理方法
EP3358501A1 (en) 2003-07-18 2018-08-08 Canon Kabushiki Kaisha Image processing device, imaging device, image processing method
US8515136B2 (en) 2003-07-18 2013-08-20 Canon Kabushiki Kaisha Image processing device, image device, image processing method
EP2955662A1 (en) 2003-07-18 2015-12-16 Canon Kabushiki Kaisha Image processing device, imaging device, image processing method
JP2007158829A (ja) * 2005-12-06 2007-06-21 Hitachi Kokusai Electric Inc 画像処理装置、画像処理方法およびプログラム
US7999846B2 (en) 2005-12-06 2011-08-16 Hitachi Kokusai Electric Inc. Image processing apparatus, image processing system, and recording medium for programs therefor
US8594430B2 (en) 2006-04-08 2013-11-26 The University Of Manchester Method of locating features of an object
JP2008003749A (ja) * 2006-06-21 2008-01-10 Fujifilm Corp 特徴点検出装置および方法並びにプログラム
JP2014191361A (ja) * 2013-03-26 2014-10-06 Fujifilm Corp 真贋判定システム,特徴点登録装置およびその動作制御方法,ならびに照合判定装置およびその動作制御方法
WO2014156430A1 (ja) * 2013-03-26 2014-10-02 富士フイルム株式会社 真贋判定システム,特徴点登録装置およびその動作制御方法,ならびに照合判定装置およびその動作制御方法
US10083371B2 (en) 2013-03-26 2018-09-25 Fujifilm Corporation Authenticity determination system, feature point registration apparatus and method of controlling operation of same, and matching determination apparatus and method of controlling operation of same
CN106710145A (zh) * 2016-12-29 2017-05-24 清华大学苏州汽车研究院(吴江) 一种引导式驾驶员困倦预防方法

Similar Documents

Publication Publication Date Title
JP3987264B2 (ja) ナンバープレート読取装置及び方法
CN100369066C (zh) 特征区域提取装置和特征区域提取方法
JP4604439B2 (ja) 画像処理装置及び画像処理方法、並びに記録媒体
US6968094B1 (en) Method of estimating and correcting camera rotation with vanishing point location
US8577099B2 (en) Method, apparatus, and program for detecting facial characteristic points
US20110075933A1 (en) Method for determining frontal face pose
JP2006252473A (ja) 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム
JP2000339457A (ja) 顔画像処理装置
JP2002063567A (ja) 物体位置姿勢推定装置及びその方法並びそれを用いた特徴点位置抽出方法及び画像照合方法
JP2003157499A (ja) 道路白線認識装置
JPH0944676A (ja) 顔面検出装置
JP2021033510A (ja) 運転支援装置
JP2011165170A (ja) 対象物検出装置及びプログラム
JP2002133413A (ja) 画像処理を用いる3次元物体の識別方法および装置
US6650362B1 (en) Movement detecting apparatus with feature point extractor based on luminance gradient in current frame
JP4767052B2 (ja) 光軸ずれ検出装置
JP2981382B2 (ja) パターンマッチング方法
CN118314179A (zh) Ai双目拼接相机上的错切实时检测方法、装置及设备
WO2000049569A1 (fr) Procede servant a extraire les caracteristiques d'une image binaire
JPH09128548A (ja) 車両検出方法
JPH11190611A (ja) 3次元計測方法およびその方法を用いた3次元計測処理装置
JP2004199200A (ja) パターン認識装置、撮像装置、情報処理システム、パターン認識方法、記録媒体、及びプログラム
JP2002008028A (ja) パターンマッチング方法と装置
JP3216356B2 (ja) ナンバープレート位置検出装置
JP2516844B2 (ja) 部品検出方法及び装置