JP7669128B2 - 情報処理装置、方法、プログラム及び記憶媒体 - Google Patents

情報処理装置、方法、プログラム及び記憶媒体 Download PDF

Info

Publication number
JP7669128B2
JP7669128B2 JP2020149010A JP2020149010A JP7669128B2 JP 7669128 B2 JP7669128 B2 JP 7669128B2 JP 2020149010 A JP2020149010 A JP 2020149010A JP 2020149010 A JP2020149010 A JP 2020149010A JP 7669128 B2 JP7669128 B2 JP 7669128B2
Authority
JP
Japan
Prior art keywords
detection
feature region
photometric
exposure
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020149010A
Other languages
English (en)
Other versions
JP2022043633A (ja
Inventor
広崇 大森
俊之 土橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020149010A priority Critical patent/JP7669128B2/ja
Priority to US17/459,809 priority patent/US11849221B2/en
Priority to EP21193739.6A priority patent/EP3965073A3/en
Priority to CN202111026458.0A priority patent/CN114143422B/zh
Publication of JP2022043633A publication Critical patent/JP2022043633A/ja
Priority to JP2025063584A priority patent/JP2025100638A/ja
Application granted granted Critical
Publication of JP7669128B2 publication Critical patent/JP7669128B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/097Digital circuits for control of both exposure time and aperture
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/28Circuitry to measure or to take account of the object contrast
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Description

情報処理装置、方法、プログラム及び記憶媒体に関する。
従来、逆光環境において、顔検出だけでなく、人体検出も用いて露出量を決定する技術が知られている(特許文献1参照)。
特開2015-130615号公報
本発明が解決しようとする課題は、被写体の検出処理に伴う露出の揺らぎを抑制することである。
本発明の一態様に係る情報処理装置は、撮像部により撮像した画像を取得する画像取得手段と、前記画像取得手段により取得した前記画像から第1の特徴領域を検出する第1の検出手段と、前記第1の検出手段によって前記第1の特徴領域が検出されなかった場合に、前記画像取得手段により取得した前記画像から前記第1の特徴領域とは異なる第2の特徴領域を検出する第2の検出手段と、前記第1の検出手段及び前記第2の検出手段の検出結果に応じて、前記第1の特徴領域及び前記第2の特徴領域のいずれか一方に対して測光値を求める測光手段と、前記撮像部が連続して撮像した複数の画像に対して前記測光手段が求めた測光値に基づいて、露出値を決定する露出決定手段と、を有し、前記測光手段は、前記第1の検出手段によって前記第1の特徴領域が検出されたか否か、または前記第2の検出手段によって前記第2の特徴領域が検出されたか否か、に基づいて重みづけされた測光値を求め、前記露出決定手段は、前記複数の画像毎に重みづけされた測光値に基づいて、前記露出値を決定する、ことを特徴とする。
本実施形態に係る撮像制御システムの構成を例示的に説明するブロック図である。 本実施形態に係る監視カメラ101の内部構成を例示的に説明するブロック図である。 本実施形態に係る情報処理装置であるクライアント装置103の内部構成を例示的に説明するブロック図である。 本実施形態に係る、クライアント装置103が実行する機能・構成を例示的に説明する図である。 本実施形態に係る検出処理および露出決定処理を例示的に説明するフローチャートである。 本実施形態に係る被写体検出領域と背景領域の関係について説明する図である。 本実施形態に係る被写体の平均輝度値と差分値の関係について説明する図である。 本実施形態の変形例に係る被写体の平均輝度値と検出スコア、差分値の関係について説明する図である。
(第1の実施形態)
以下、図1~図8を参照して、本実施形態に係る情報処理装置の実施形態について説明する。なお、後述する図に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。したがって、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
<基本構成>
図1は、本実施形態に係る撮像制御システムの構成を例示的に説明するブロック図である。図1に示す撮像制御システムは、監視カメラ101と、ネットワーク102、クライアント装置103と、入力装置104、表示装置105から構成されている。なお、監視カメラ101は、動画像を取得するための被写体の撮像および画像処理が可能な装置である。そして、監視カメラ101とクライアント装置103とは、ネットワーク102を介して相互に通信可能な状態で接続されている。
図2は、本実施形態に係る監視カメラ101の内部構成を例示的に説明するブロック図である。撮像光学系201はズームレンズ、フォーカスレンズ、ブレ補正レンズ、絞りやシャッターなどから構成され、被写体の光情報を集光する光学部材群である。
撮像素子202は、撮像光学系201にて集光される光束を電流値(信号値)へと変換するCMOSやCCDなどの電荷蓄積型の固体撮像素子であって、カラーフィルタなどと組み合わせることで色情報を取得する撮像部である。
カメラCPU203は、監視カメラ101の動作を統括的に制御する制御部である。カメラCPU203は、ROM(Read Only Memory)204や、RAM(Random Access Memory)205に格納された命令を読み込み、その結果に従って処理を実行する。また、撮像系制御部206は、撮像光学系201に対して、フォーカス制御、シャッター制御、絞り調整などの(カメラCPU203から指示に基づく)監視カメラ101の各部の制御を行う。通信制御部207は、クライアント装置103との通信によって、監視カメラ101の各部に係る制御をカメラCPU203に伝達するための制御を行う。
A/D変換部208は、撮像素子202にて検知した被写体の光量をデジタル信号値に変換する。画像処理部209は、撮像素子202から出力されたデジタル信号の画像データに対して、画像処理を行う画像処理手段である。エンコーダ部210は、画像処理部209にて処理された画像データをMotion JpegやH264、H265などのファイルフォーマットに変換処理を行う変換手段である。ネットワークI/F211は、クライアント装置103等の外部の装置とのネットワーク102を介した通信に利用されるインターフェースであって、通信制御部207により制御される。
ネットワーク102は、監視カメラ101と、クライアント装置103を接続するIPネットワークである。ネットワークは、例えばEthernet(登録商標)等の通信規格を満足する複数のルータ、スイッチ、ケーブル等から構成される。本実施形態では、ネットワーク102は、監視カメラ101とクライアント装置103との間の通信を行うことができるものであればよく、その通信規格、規模、構成などを問わない。例えば、ネットワーク102は、インターネットや有線LAN(Local Area Network)、無線LAN(Wireless LAN)、WAN(Wide Area Network)等により構成されてもよい。
図3は、本実施形態に係る情報処理装置であるクライアント装置103の内部構成を例示的に説明するブロック図である。クライアント装置103は、クライアントCPU301、主記憶装置302、補助記憶装置303、入力I/F304、出力I/F305、ネットワークI/F306を含む。各要素は、システムバスを介して、相互に通信可能に接続されている。
クライアントCPU301は、クライアント装置103の動作を統括的に制御する中央演算装置である。なお、クライアントCPU301によって、ネットワーク102を介して監視カメラ101の統括的な制御を実行する構成であってもよい。主記憶装置302は、クライアントCPU301のデータの一時的な記憶場所として機能するRAM等の記憶装置である。補助記憶装置303は、各種プログラム、各種設定データ等を記憶するHDD、ROM、SSD等の記憶装置である。入力I/F304は、入力装置104等からの入力を受付ける際に利用されるインターフェースである。出力I/F305は、表示装置105等への情報の出力に利用されるインターフェースである。ネットワークI/F306は、監視カメラ101等の外部の装置とのネットワーク102を介した通信に利用されるインターフェースである。
クライアントCPU301が、補助記憶装置303に記憶されたプログラムに基づき処理を実行することによって、図4に示すクライアント装置103の機能及び処理が実現される。この詳細については後述する。
図1に図示するように、入力装置104は、マウスやキーボード等から構成される入力装置である。表示装置105は、クライアント装置103出力した画像を表示するモニタ等の表示装置である。本実施形態では、クライアント装置103と入力装置104と表示装置105とがそれぞれ独立した構成であるがこれに限定されるものではない。例えば、クライアント装置103と表示装置105とが、一体化されていてもよいし、入力装置104と表示装置105とが一体化されていてもよい。また、クライアント装置103と入力装置104と表示装置105とが、一体化されていてもよい。
図4は、本実施形態に係るクライアント装置103が実行する機能・構成を例示的に説明する図である。換言すると、図4に図示する各部は、クライアントCPU301により実行され得る機能・構成であって、これらの各部はクライアントCPU301と同義である。すなわち、クライアント装置103のクライアントCPU301は、入力情報取得部401、通信制御部402、入力画像取得部403、被写体検出部404、測光値算出部405、露出決定部406、検出結果記憶部407、表示制御部408を含む。なお、クライアント装置103が、クライアントCPU301とは別の構成として、図4に図示する各部を備える構成であってもよい。
入力信号取得部401は、入力装置104を介したユーザーによる入力を受け付ける入力手段である。
通信制御部402は、監視カメラ101から送信された画像を、ネットワーク102を介して受信するための制御を実行する。また、通信制御部402は、監視カメラ101への制御命令を、ネットワーク102を介して送信するための制御を実行する。
入力画像取得部403は、通信制御部402を介して、監視カメラ101により撮影された画像を、被写体の検出処理の対象である画像として取得する画像取得手段である。検出処理の詳細については後述する。
被写体検出部404は、入力が像取得部403により取得された画像に対して、顔領域の検出(顔検出)や人体領域の検出(人体検出)を含む様々な検出を行う被写体検出手段である。ここで、本実施形態における被写体検出部404は、顔検出と人体検出の中から任意の方法を設定する構成だが、これに限定されるものではない。例えば、人物の上半身、顔の目、瞳、鼻、口などの一部領域などの人物の一部分の特徴領域を検出する構成を選択可能であってもよい。また、本実施形態では、検出対象の被写体として人物について説明するが、人物以外の所定の被写体に係る特定領域を検出可能な構成であってもよい。例えば、動物の顔や自動車など、クライアント装置103において予め設定された所定の被写体を検出可能な構成であってもよい。
測光値算出部405は、被写体検出部404から得られる現フレームの検出結果および検出結果記憶部406から得られる過去フレームの検出結果に基づき、現フレームの測光値を算出する測光値算出手段である。
露出決定部406は、被写体検出部405で算出された測光値と目標値に基づいて、被写体を撮像し画像を取得する際の露出を決定する露出決定手段である。なお、露出決定部406が決定する露出としては、クライアント装置103に予め記録された露出制御用のプログラム線図に従う露出値の他に、この露出を補正するための露出補正値を含む。露出決定部406で決定された露出に関する情報は、通信制御部402によって、監視カメラ101に送信され、監視カメラ101の内部における露出制御が実行される。被写体検出部404、測光値算出部405、露出決定部406の動作に係る詳細な処理については、図5のフローチャートを参照して後述する。検出結果記憶部407は、露出決定部405で決定された露出量を記憶する露出保存手段である。表示制御部408は、クライアントCPU301からの指示に従い、露出決定部で決定された露出が反映された画像を表示装置105へ出力する表示制御手段である。
<被写体の検出処理・露出決定処理>
以下、図5に図示するフローチャートを参照して、本実施形態に係る被写体の検出処理および露出決定処理について説明する。図5は、本実施形態に係る検出処理および露出決定処理を例示的に説明するフローチャートである。なお、図1に図示する撮像システムにおいて、各装置の電源がオンされ、監視カメラ101とクライアント装置103の接続(通信)が確立した状態を前提とする。そして、この状態で、当該撮像システムにおいて所定の更新周期で被写体の撮像および画像データの送信、表示装置での画像表示が繰り返されているものとする。そして、ネットワーク102を介して監視カメラ101からクライアント装置103のクライアントCPU301が、被写体を撮像することで得られた画像が入力されたことに応じて、図5に図示するフローチャートが開始されるものとする。
まず、ステップS501において、被写体検出部406は、入力信号取得部401で取得される画像に対して、被写体の顔検出を行う。なお、顔の検出方法としては、パターンマッチング方法として統計学習を使って作成されたパターン(識別器)を用いてもよいし、パターンマッチング以外の方法として、局所領域内の輝度勾配を用いた被写体検出を行う構成でもよい。すなわち、検出方法として限定されるものではなく、機械学習をベースにした検出や、距離情報に基づく検出など、種々の方法を採用できる。
次に、ステップS502において、ステップS501で実行される顔検出において、顔が検出されたかを判定する。顔が検出されていない場合は、ステップS507に進み、1人以上の顔が検出されている場合はステップS503に進む。
ステップS503において、測光値算出部405は、被写体検出部406から得られる検出結果に基づいて、ステップS502において顔が検出されたと判断された顔領域の平均輝度値Ifaceの平均輝度値を算出する。具体的に、露出決定部407は、被写体検出部406から得られる検出結果に基づいて、顔が検出された検出数や、検出位置や、検出サイズに関する情報を下記の式(1)に適用する。
Figure 0007669128000001
ここで、I(x、y)は画像内における水平方向(x軸方向)と垂直方向(y軸方向)の2次元座標位置(x、y)の輝度値を表す。また、fは検出された顔の検出数を表し、(v、h)は被写体が検出された中心座標、k、lはそれぞれ水平方向および、垂直方向の被写体の検出サイズを表し、tは検出されたフレーム時刻を表す。なお、ステップS509においても、ステップS503と同様に、人体が検出された検出数や検出位置や、検出サイズに関する情報を下記式(2)に適用することで、人体領域の平均輝度値を算出する。
Figure 0007669128000002
ここで、gは検出された人体の検出数を表し、その他の記号は式(1)と同様である。
続いて、ステップS504において、測光値算出部405は、ステップS503で算出された顔領域の平均輝度値と、過去フレームの検出結果に基づき、現フレーム(時刻t)における測光値を算出する。例えば、式(3)、(4)を適用することで、現フレームにおける顔平均輝度値と、この現フレームに連続する過去フレームにおける顔および人体の平均輝度値の加重平均を算出することで、測光値E(t)を求める。
Figure 0007669128000003
Figure 0007669128000004
ここで、nは加重平均に用いるフレーム数を表し、提案方式においてはn=1以上が設定される。例えば、n=10の場合は、連続する10フレームの加重平均を行う。また、α、βは顔および人体の平均輝度値に対して加重平均を行う際に用いる重みづけパラメータを表し、被写体が検出される環境や、後段で実行される認証処理の用途、被写体検出部404に備わる検出処理の精度に応じて値を変更することができる。パラメータα、βの具体的な設定方法および効果については、図6~7を用いて後述する。なお、現フレームと過去フレームの検出結果に基づく、測光値の算出方法は式(3)、(4)の方法に限らず、例えば、算術平均や調和平均、相乗平均等、時間方向に発生する複数のフレームの影響を加味した統計値を使って求める方法であってもよい。
続いて、ステップS505において、式(5)のように、被写体領域の目標値Itargetと、ステップS504において算出される測光値E(t)との差分値ΔDiffを算出する。
Figure 0007669128000005
ここで、被写体領域の目標値Itargetは、ユーザーが予め設定した目標値であってもよいし、ハードウェア上に予め設定される固定値であってもよい。
次に、ステップS506において、ステップS505において算出される差分値ΔDiffと、予め定められた閾値Thと現在の露出値EVcurrentに基づき、露出の補正量EVcorrectionを決定する。例えば、式(6)のように補正量EVcorrectionを決定する。
Figure 0007669128000006
ここで、パラメータγは、ステップS507で算出される差分ΔDiffが、設定された閾値Th以上であった場合に、現在の露出値EVcurrentを中心としてアンダー側あるいはオーバー側に振り分ける補正に影響を与える露出補正値を表す。例えば、式(6)下段の分岐に示されるように、露出の目標値に対して測光値が閾値Thよりも大きい場合(Th<ΔDiff)は、その状態において被写体領域の平均輝度がアンダー側にあると判断する。そして、現在の露出値EVcurrentに対して、補正をプラス側(+γ)に補正することで、被写体領域の明るさを目標値Itargetに近づけるように制御する。従って、露出補正を時間方向に安定して実行するためには、式(5)で算出される差分値が時間方向に緩やかに変化することが重要になる。
ここで、式(3)、(4)で示されるパラメータα、βの具体的な設定方法および効果について説明する。図6に示すように、一般に顔領域の検出結果と比べて、人体領域の検出結果は、本来であれば背景領域と判断すべき画素(斜線領域)が誤って多く含まれる。例えば、図6に示すような、建物やスタジアムの出入り口等で被写体を検出することを想定した場合、人体領域の平均輝度は誤って含まれる背景領域の画素の影響により、想定より値が高く算出されることが考えられる。図7は、図6に示すような逆光シーンで被写体が検出された際の、被写体の平均輝度値および、差分値ΔDiffの時間経過を例示的に示した図である。時間経過の中で、多くのフレームでは、顔検出が実行され、目標値に近づくように露出補正がプラス側に実行される。しかしながら、例えば、顔の向きが変化した場合や顔領域が影になってしまった場合は、顔ではなく人体が検出される瞬間が発生し、時刻T1、T2、T3、T4に示すように、一時的に被写体平均輝度が高い値になる。
そのような場合、過去フレームにおける検出結果を考慮しない従来方式では、目標値Itargetに対して測光値E(t)が一時的に大きくなり、時間方向に対して、安定して露出の補正量を算出することができない。ここでいう従来方式とは、式(3)および式(4)においてパラメータn=0が代入されるような方式のことである。その結果、被写体領域の明るさがタイミングによっては、急激に明るくなる瞬間や、暗くなる瞬間が発生しやすい。一方、本実施形態の提案方式では、時間方向に滑らかになるように、過去複数のフレームの被写体の検出結果に基づき、測光値E(t)を算出する(図7の点線部)。そのため、時間方向に発生する露出の揺らぎが安定化される。ここでいう提案方式とは、式(3)および式(4)においてパラメータn=1以上が代入されるような方式のことである。更に、前述したように一般的に人体領域の平均輝度値が、顔領域の平均輝度値と比較して、背景領域の影響を受けやすいことを考慮して、式(4)において、α>βとするような重みづけを行うことで、より精度の高い検出処理に重きをおいた露出制御が実現される。ここで、重みづけの関係は、検出処理の精度に限らない。例えば、後段の認証処理において、人数カウントが実行されている場合は、人体検出処理に重きを置いたα<βのような重みづけでもよい。また、検出精度が等しく遜色なければα=βのような重みづけを行ってよい。また、図7を用いた説明では、検出処理の種類によって発生する露出の揺らぎを課題として説明したが、これに限らず、例えば、誤検出によって引き起こされる課題に対しても、提案方式を適用することで露出の安定化が実現される。
図5に戻り、ステップS507において、ステップS503、ステップS509で算出された平均輝度値および、被写体の検出方法関する情報を、検出結果保持部407に保持する。以上が、本実施形態において、少なくとも1つ以上の顔領域が検出された場合の処理である。
次に、本実施形態に係る顔領域が検出されない場合の処理について説明する。ステップS501の処理で顔領域が検出されない場合、ステップS508において、被写体検出部404は、入力信号取得部401で取得される画像に対して、被写体の人体検出を行う。
次に、ステップS509において、ステップS508で実行された人体検出の結果に基づき、画像において人体領域が検出されたか否か判定する。少なくとも1つ以上の人体領域が検出されている場合はステップS510に進み、人体領域が検出されていない場合はステップS913に進む。ステップS514の処理に進む(すなわち、顔領域および人体領域が検出されない)場合は、被写体の検出結果に基づく露出補正は行わない。なお、ステップS510~ステップS513の処理は、人体領域の平均輝度値を算出し露出を決定する点以外は、前述したステップS503~ステップS507と略同一の演算式に基づいて実行されるため、詳細な説明は省略する。
以上説明したように、本実施形態の撮像システムでは、現フレームの被写体検出結果に加えて、過去フレームの被写体検出結果に基づいて、測光値を算出し、画像内に存在する被写体に対して最適な露出を設定する。従って、本実施形態の撮像システムであれば、検出処理の切り替わりによって発生する露出の揺らぎを低減させることができ、被写体に対して安定して最適な露出制御を実行できる。また、検出処理毎に重みを可変に制御することができるため、検出精度の低い処理の影響を受けず、ランダムに発生する誤検出に対してもロバストな露出制御が実現される。
(第2の実施形態)
上述した変形例として、検出手段から算出される検出スコアに基づいて、測光値を算出する場合について、図と数式を参照して説明する。ここで、検出スコアとは検出手段による検出結果に対する信頼度合を示す評価値である。当該検出スコアは、値が大きいほど、設定された検出方法(領域)において、検出対象が存在する確率が高く、値が小さいほど、検出対象が存在しない(すなわち誤検出)の可能性が高いことを示す。なお、本変形例で説明する検出スコアは、便宜的に最小値を0、最大値を100とする値域で正規化された値を使って説明するが、これに制限されるものではない。
図8は、被写体の平均輝度値、検出スコア、差分値ΔDiffの時間経過を例示的に示した図である。時間経過の中で、多くのフレームでは、被写体検出が実行されるが、例えば、時刻T1、T2、T3、T4、T5、T6に示すようなランダムなタイミングで、検出スコアが低い誤検出が発生する。誤検出の多くは、本来被写体が存在しない領域を参照するため、誤検出に基づいて算出される平均輝度値は、被写体の平均輝度値からかけ離れた値が算出される。その結果、誤検出が頻発した場合、従来方式であると、露出の揺らぎが発生し、前述した加重平均の提案方式であっても多少の影響を受ける結果となる(図8(a)参照)。そこで、本変形例では、例えば、式(7)に示されるように、検出スコアを利用して、測光値E(t)を求める。
Figure 0007669128000007
ここで、Score(t)は、時刻tにおける検出スコアの値を表す。図8の点線は、式(7)を適用した場合に、算出される被写体の平均輝度値を例示的に示したグラフである。検出スコアを考慮することにより、誤検出である可能性が高いフレームの平均輝度値の影響を受けることなく、測光値E(t)を算出することができる。その結果、図8の比較からわかるように、検出スコアを考慮しない提案方式と比較して、検出スコアを考慮した提案方式では、より目標値に近い明るさで被写体を長く撮影することが可能になる。また、検出スコアの値に応じて、加重平均を行う際に使用するフレーム数を可変にすることも可能である。例えば、検出スコアが低い値が一定時間続くようであれば、加重平均に用いるフレーム数nの値を大きくし、測光値に与える影響を小さくする。逆に、検出スコアが高い状態が続くのであれば、フレーム数nの値を小さくし、計算量を抑えつつ、精度の高い測光値を算出する。なお、式(7)で用いるScore(t)のパラメータは、検出スコアに限るものではなく、例えば、映像の中に含まれるノイズ量や、映像品質を決定するQ値、カメラの設定条件など、検出精度に係る情報で代替することも可能である。
以上説明した構成であれば、ユーザーが撮像を意図する主たる被写体に対して、安定して最適な露出制御が可能となる。
なお、前述した実施形態では、撮像装置の一例として監視カメラ101に撮像光学系201が一体的に形成された、所謂レンズ一体型の撮像装置について説明したが、これに限定されるものではない。例えば、監視カメラ101と撮像光学系201を備えたレンズユニットとがそれぞれ別々に設けられた、所謂レンズ交換式の撮像装置を、撮像装置としてもよい。
また、本発明における制御の一部または全部を上述した実施形態の機能を実現するコンピュータプログラム(ソフトウェア)をネットワーク又は各種記憶媒体を介して撮像装置や情報処理装置に供給するようにしてもよい。そして、その撮像装置や情報処理装置におけるコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行するようにしてもよい。その場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することとなる。

Claims (10)

  1. 撮像部により撮像した画像を取得する画像取得手段と、
    前記画像取得手段により取得した前記画像から第1の特徴領域を検出する第1の検出手段と、
    前記第1の検出手段によって前記第1の特徴領域が検出されなかった場合に、前記画像取得手段により取得した前記画像から前記第1の特徴領域とは異なる第2の特徴領域を検出する第2の検出手段と、
    前記第1の検出手段及び前記第2の検出手段の検出結果に応じて、前記第1の特徴領域及び前記第2の特徴領域のいずれか一方に対して測光値を求める測光手段と、
    前記撮像部が連続して撮像した複数の画像に対して前記測光手段が求めた測光値に基づいて、露出値を決定する露出決定手段と、を有し、
    前記測光手段は、前記第1の検出手段によって前記第1の特徴領域が検出されたか否か、または前記第2の検出手段によって前記第2の特徴領域が検出されたか否か、に基づいて重みづけされた測光値を求め、
    前記露出決定手段は、前記複数の画像毎に重みづけされた測光値に基づいて、前記露出値を決定する、
    ことを特徴とする情報処理装置。
  2. 前記露出決定手段は、前記撮像部が連続して撮像した複数の画像に対して前記測光手段が求めた重みづけされた測光値の平均に基づいて露出値を決定することを特徴とする請求項1に記載の情報処理装置。
  3. 前記測光手段は、前記第1の特徴領域に対する測光値に適用される重みと前記第2の特徴領域に対する測光値に適用される重みを異ならせて前記複数の画像毎に重みづけをされた測光値を求めることを特徴とする請求項1又は2に記載の情報処理装置。
  4. 前記第1の検出手段及び前記第2の検出手段は、検出した前記第1の特徴領域及び前記第2の特徴領域について、前記第1の検出手段及び前記第2の検出手段の検出結果の信頼度を示すスコアを求め、
    前記露出決定手段は、前記測光手段が求めた測光値と、前記第1の検出手段及び前記第2の検出手段のいずれか一方が求めたスコアとに基づいて、前記露出値を決定することを特徴とする請求項1から3のいずれか一項に記載の情報処理装置。
  5. 前記第1の検出手段は、前記第1の特徴領域として、顔領域を検出することを特徴とする請求項1から4のいずれか一項に記載の情報処理装置。
  6. 前記第2の検出手段は、前記第2の特徴領域として、人体領域を検出することを特徴とする請求項1から5のいずれか一項に記載の情報処理装置。
  7. 画像の露出を調整する方法であって、
    撮像部により撮像した画像を取得する画像取得ステップと、
    前記画像取得ステップにより取得した前記画像から第1の特徴領域を検出する第1の検出ステップと、
    前記第1の検出ステップにおいて前記第1の特徴領域が検出されなかった場合に、前記画像取得ステップにより取得した前記画像から前記第1の特徴領域とは異なる第2の特徴領域を検出する第2の検出ステップと、
    前記第1の検出ステップ及び前記第2の検出ステップの検出結果に応じて、前記第1の特徴領域及び前記第2の特徴領域のいずれか一方に対して測光値を求める測光ステップと、
    前記撮像部が連続して撮像した複数の画像に対して前記測光ステップが求めた測光値に基づいて、露出値を決定する露出決定ステップと、を有し、
    前記測光ステップでは、前記第1の特徴領域または前記第2の特徴領域のいずれか一方に対して、前記第1の検出ステップによって前記第1の特徴領域が検出されたか否か、または前記第2の検出ステップによって前記第2の特徴領域が検出されたか否か、に基づいて重みづけされた測光値を求め、
    前記露出決定ステップでは、前記複数の画像毎に重みづけされた測光値に基づいて、前記露出値を決定する、
    ことを特徴とする方法。
  8. コンピュータに画像の露出を調整する方法を実行させるためのプログラムであって、前記方法は、
    撮像部により撮像した画像を取得する画像取得ステップと、
    前記画像取得ステップにより取得した前記画像から第1の特徴領域を検出する第1の検出ステップと、
    前記第1の検出ステップにおいて前記第1の特徴領域が検出されなかった場合に、前記画像取得ステップにより取得した前記画像から前記第1の特徴領域とは異なる第2の特徴領域を検出する第2の検出ステップと、
    前記第1の検出ステップ及び前記第2の検出ステップの検出結果に応じて、前記第1の特徴領域及び前記第2の特徴領域のいずれか一方に対して測光値を求める測光ステップと、
    前記撮像部が連続して撮像した複数の画像に対して前記測光ステップが求めた測光値に基づいて、露出値を決定する露出決定ステップと、を有し、
    前記測光ステップでは、前記第1の特徴領域または前記第2の特徴領域のいずれか一方に対して、前記第1の検出ステップによって前記第1の特徴領域が検出されたか否か、または前記第2の検出ステップによって前記第2の特徴領域が検出されたか否か、に基づいて重みづけされた測光値を求め、
    前記露出決定ステップは、前記測光ステップによって前記複数の画像毎に重みづけされた測光値に基づいて、前記露出値を決定する、
    ことを特徴とするプログラム。
  9. 請求項8に記載のプログラムを記憶したコンピュータで読み取り可能な記憶媒体。
  10. 前記測光手段は、
    前記第1の特徴領域の測光値に対する重みづけよりも、前記第2の特徴領域の測光値に対する重みづけが大きくなるように、前記複数の画像毎に重みづけされた測光値を求める、
    ことを特徴とする請求項1に記載の情報処理装置。
JP2020149010A 2020-09-04 2020-09-04 情報処理装置、方法、プログラム及び記憶媒体 Active JP7669128B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2020149010A JP7669128B2 (ja) 2020-09-04 2020-09-04 情報処理装置、方法、プログラム及び記憶媒体
US17/459,809 US11849221B2 (en) 2020-09-04 2021-08-27 Apparatus, method, and storage medium
EP21193739.6A EP3965073A3 (en) 2020-09-04 2021-08-30 Apparatus, method, and storage medium
CN202111026458.0A CN114143422B (zh) 2020-09-04 2021-09-02 信息处理设备、信息处理方法和存储介质
JP2025063584A JP2025100638A (ja) 2020-09-04 2025-04-08 情報処理装置、方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020149010A JP7669128B2 (ja) 2020-09-04 2020-09-04 情報処理装置、方法、プログラム及び記憶媒体

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2025063584A Division JP2025100638A (ja) 2020-09-04 2025-04-08 情報処理装置、方法、プログラム

Publications (2)

Publication Number Publication Date
JP2022043633A JP2022043633A (ja) 2022-03-16
JP7669128B2 true JP7669128B2 (ja) 2025-04-28

Family

ID=77543364

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020149010A Active JP7669128B2 (ja) 2020-09-04 2020-09-04 情報処理装置、方法、プログラム及び記憶媒体
JP2025063584A Pending JP2025100638A (ja) 2020-09-04 2025-04-08 情報処理装置、方法、プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2025063584A Pending JP2025100638A (ja) 2020-09-04 2025-04-08 情報処理装置、方法、プログラム

Country Status (4)

Country Link
US (1) US11849221B2 (ja)
EP (1) EP3965073A3 (ja)
JP (2) JP7669128B2 (ja)
CN (1) CN114143422B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7799754B2 (ja) * 2024-02-29 2026-01-15 キヤノン株式会社 画像処理装置及び方法、電子機器、プログラム及び記憶媒体

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004336153A (ja) 2003-04-30 2004-11-25 Sumitomo Electric Ind Ltd カメラ式車両感知器の露光制御方法及び装置
JP2007180629A (ja) 2005-12-27 2007-07-12 Samsung Techwin Co Ltd カメラ
JP2014128002A (ja) 2012-12-27 2014-07-07 Canon Inc 被写体領域追跡装置、その制御方法及びプログラム
JP2019050594A (ja) 2017-02-14 2019-03-28 キヤノン株式会社 撮像装置、その制御方法とプログラムと記録媒体
JP2020072469A (ja) 2018-10-25 2020-05-07 キヤノン株式会社 情報処理装置、情報処理装置の制御方法およびプログラム、撮像システム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8026955B2 (en) * 2007-08-30 2011-09-27 Honda Motor Co., Ltd. Camera exposure controller including imaging devices for capturing an image using stereo-imaging
JP2012198119A (ja) * 2011-03-22 2012-10-18 Olympus Corp 測光装置および測光方法
US8836851B2 (en) * 2011-06-01 2014-09-16 Apple Inc. Automatic exposure control based on multiple regions
JP2013178385A (ja) * 2012-02-28 2013-09-09 Nikon Corp 露出演算用プログラム、露出演算装置、および撮像装置
JP5873378B2 (ja) * 2012-04-10 2016-03-01 キヤノン株式会社 撮像装置およびその制御方法
US9277111B2 (en) * 2012-05-18 2016-03-01 Canon Kabushiki Kaisha Image capture apparatus and control method therefor
JP6157288B2 (ja) * 2012-12-19 2017-07-05 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置
JP2014126710A (ja) * 2012-12-26 2014-07-07 Canon Inc 自動焦点検出装置およびその制御方法、撮像装置
JP6116272B2 (ja) 2013-02-08 2017-04-19 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP6184189B2 (ja) * 2013-06-19 2017-08-23 キヤノン株式会社 被写体検出装置およびその制御方法、撮像装置、被写体検出装置の制御プログラムおよび記憶媒体
JP2015130615A (ja) 2014-01-08 2015-07-16 キヤノン株式会社 撮像装置、その制御方法及びプログラム
JP6512810B2 (ja) * 2014-12-11 2019-05-15 キヤノン株式会社 撮像装置および制御方法とプログラム
JP6460829B2 (ja) * 2015-02-20 2019-01-30 キヤノン株式会社 撮像装置、電子機器及び光量変化特性の算出方法
CN105516613A (zh) * 2015-12-07 2016-04-20 凌云光技术集团有限责任公司 基于人脸识别的智能曝光方法及系统
JP6735583B2 (ja) * 2016-03-17 2020-08-05 キヤノン株式会社 ズーム制御装置、撮像装置及びそれらの制御方法、プログラム並びに記憶媒体
CN107241556B (zh) * 2016-03-29 2021-02-23 中兴通讯股份有限公司 图像采集设备的测光方法及装置
JP6887245B2 (ja) * 2016-12-13 2021-06-16 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP6429915B2 (ja) * 2017-02-14 2018-11-28 キヤノン株式会社 撮像装置、その制御方法とプログラムと記録媒体
CN107241557A (zh) * 2017-06-16 2017-10-10 广东欧珀移动通信有限公司 图像曝光方法、装置、摄像设备及存储介质
JP2019110402A (ja) * 2017-12-15 2019-07-04 キヤノン株式会社 撮像装置、その制御方法およびプログラム
CN109990893B (zh) * 2017-12-29 2021-03-09 浙江宇视科技有限公司 测光参数计算方法、装置及终端设备
CN110839129A (zh) * 2018-08-17 2020-02-25 Oppo广东移动通信有限公司 图像处理方法、装置以及移动终端
EP3654236A3 (en) 2018-10-25 2020-08-26 Canon Kabushiki Kaisha Information processing apparatus, control method of information processing apparatus, storage medium, and imaging system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004336153A (ja) 2003-04-30 2004-11-25 Sumitomo Electric Ind Ltd カメラ式車両感知器の露光制御方法及び装置
JP2007180629A (ja) 2005-12-27 2007-07-12 Samsung Techwin Co Ltd カメラ
JP2014128002A (ja) 2012-12-27 2014-07-07 Canon Inc 被写体領域追跡装置、その制御方法及びプログラム
JP2019050594A (ja) 2017-02-14 2019-03-28 キヤノン株式会社 撮像装置、その制御方法とプログラムと記録媒体
JP2020072469A (ja) 2018-10-25 2020-05-07 キヤノン株式会社 情報処理装置、情報処理装置の制御方法およびプログラム、撮像システム

Also Published As

Publication number Publication date
CN114143422A (zh) 2022-03-04
JP2025100638A (ja) 2025-07-03
US11849221B2 (en) 2023-12-19
EP3965073A3 (en) 2022-07-27
JP2022043633A (ja) 2022-03-16
US20220078323A1 (en) 2022-03-10
CN114143422B (zh) 2025-06-20
EP3965073A2 (en) 2022-03-09

Similar Documents

Publication Publication Date Title
US11089228B2 (en) Information processing apparatus, control method of information processing apparatus, storage medium, and imaging system
TWI425826B (zh) 影像選擇裝置、影像選擇方法
WO2017100696A1 (en) Dynamic frame rate controlled thermal imaging systems and methods
JP7353864B2 (ja) 情報処理装置、情報処理装置の制御方法およびプログラム、撮像システム
JP2025100638A (ja) 情報処理装置、方法、プログラム
JP2018191178A (ja) 画像処理装置、画像処理方法およびプログラム
JP2022045567A (ja) 撮像制御装置、撮像制御方法、及びプログラム
US11575841B2 (en) Information processing apparatus, imaging apparatus, method, and storage medium
JP5118590B2 (ja) 被写体追尾方法及び撮像装置
JP7676113B2 (ja) 情報処理装置、撮像装置、方法、プログラム及び記憶媒体
US12464249B2 (en) Image capturing apparatus for performing image recognition based on exposure conditions
JP7679190B2 (ja) 情報処理装置、撮像装置、方法、プログラム及び記憶媒体
US20220078336A1 (en) Control apparatus and method for controlling the same
JP7614767B2 (ja) 撮像制御装置、撮像制御方法、及びプログラム
JP7512173B2 (ja) 情報処理装置、撮像装置、プログラム、記憶媒体及び方法
US12108162B2 (en) Imaging control apparatus for controlling exposure of imaging apparatus based on subject authentication result, imaging control method, and storage medium
JP2020077946A (ja) 画像のノイズを低減する画像処理装置および画像処理方法ならびにプログラム
JP2018196069A (ja) 撮像装置

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20200924

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230901

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250416

R150 Certificate of patent or registration of utility model

Ref document number: 7669128

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150