JP2017126859A - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP2017126859A
JP2017126859A JP2016004612A JP2016004612A JP2017126859A JP 2017126859 A JP2017126859 A JP 2017126859A JP 2016004612 A JP2016004612 A JP 2016004612A JP 2016004612 A JP2016004612 A JP 2016004612A JP 2017126859 A JP2017126859 A JP 2017126859A
Authority
JP
Japan
Prior art keywords
color component
imaging
quantization
plane
quantization coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016004612A
Other languages
English (en)
Other versions
JP2017126859A5 (ja
JP6700798B2 (ja
Inventor
晃弘 大石
Akihiro Oishi
晃弘 大石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016004612A priority Critical patent/JP6700798B2/ja
Priority to US15/404,629 priority patent/US10003801B2/en
Publication of JP2017126859A publication Critical patent/JP2017126859A/ja
Publication of JP2017126859A5 publication Critical patent/JP2017126859A5/ja
Application granted granted Critical
Publication of JP6700798B2 publication Critical patent/JP6700798B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 画像データを効率よく、かつ、画質劣化を抑制して符号化データを生成する。
【解決手段】 撮像センサより得られた画像データから、当該画像データを構成する各色成分のプレーンを生成し、色成分のプレーンごとに独立して、周波数変換、量子化処理、エントロピー符号化を行って符号化する符号化部と、符号化部を制御する制御部とを有する。制御部は、撮像時におけるISO感度または露出情報に基づき、撮像センサより得られた各色成分のプレーンに対する量子化処理で用いる量子化係数を補正するか否かを判定し、量子化係数を補正すると判定した場合、各色成分のプレーンのヒストグラムの分布に基づき、各色成分に対する量子化処理で用いる量子化係数を決定する。
【選択図】 図1

Description

本発明は、撮像装置に関し、特に、静止画または動画のRAW画像を扱う技術に関する。
一般に、撮像装置はベイヤ配列の撮像センサを備えている。そして、撮像装置は、その撮像センサで得られたベイヤ配列の画像情報(RAW画像)を、デベイヤ処理(デモザイク処理とも言う)して、1画素当たり1つの輝度と2つの色差から成る信号に変換する。そして、撮像装置は、各信号についてノイズ除去、光学的な歪補正、画像の適正化などの所謂現像処理を行っている。そして、撮像装置は、現像処理された輝度信号及び色差信号をJPEG等の圧縮技術を利用して符号化した上でメモリカード等の記録媒体に記録する。
一方、デベイヤ処理を行わず、RAW画像を記録する機能を持つ撮像装置も存在する。RAW画像は、オリジナル画像に対する補正や劣化を最低限に抑えられ、撮影後に編集できる利点があり、画像編集の上級者によって好んで使われている。
ただし、RAW画像はデータ量が膨大になるという問題がある。それ故、記録媒体に格納可能なRAW画像データの数は、デベイヤ処理・符号化を経た画像データと比較して、少なくなる。そのため、RAW画像を圧縮してそのデータ量の抑えることも行われているが、その撮影条件によっては画質劣化を招くことがある。特許文献1には、撮影条件による画質劣化を抑えるため、撮影条件に応じて量子化係数を変更する構成が記載されている。
特開2003−179926号公報
しかしながら、上記特許文献1では、ホワイトバランスの取れていないRAW画像に適用した場合、撮影条件によっては色成分間の関係が、オリジナルのRAW画像データにおける色成分の関係と大きくずれてしまい、画質を劣化させる可能性がある。
本発明は、画像データを効率よく、かつ、画質劣化を抑制して符号化データを生成することが可能な技術を提供しようとするものである。
この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、 撮像センサより得られた画像データから、当該画像データを構成する各色成分のプレーンを生成し、色成分のプレーンごとに独立して、周波数変換、量子化処理、エントロピー符号化を行って符号化する符号化手段と、
前記符号化手段を制御する制御手段とを有し、
前記制御手段は、
撮像時におけるISO感度または露出情報に基づき、前記撮像センサより得られた各色成分のプレーンに対する量子化処理で用いる量子化係数を補正するか否かを判定する判定手段と、
該判定手段で量子化係数を補正すると判定した場合、各色成分のプレーンのヒストグラムの分布に基づき、各色成分に対する量子化処理で用いる量子化係数を決定する決定手段とを含むことを特徴とする。
また、他の発明の撮像装置は以下の構成を備える。すなわち、
撮像センサより得られた画像データから、当該画像データを構成する各色成分のプレーンを生成し、色成分のプレーンごとに独立して、周波数変換、量子化処理、エントロピー符号化を行って符号化する符号化手段と、
前記符号化手段を制御する制御手段とを有し、
前記制御手段は、
撮像モードの種類と、各色成分の量子化係数を決定するための情報とを対応つけて記憶する記憶手段と、
前記撮像センサで撮像した際の撮像モードに基づき、前記記憶手段を参照して色成分毎の量子化処理で用いる量子化係数を決定する決定手段とを有することを特徴とする。
本発明によれば、画像データを効率よく、かつ、画質劣化を抑制して符号化データを生成することが可能になる。
実施形態に係る撮像装置のブロック構成図。 ベイヤ配列を説明するための図。 実施形態におけるRAW画像データの各色成分のヒストグラムを示す図。 ウェーブレット変換のサブバンドHHの色成分毎の累積度数の例を示す図。 第1の実施形態における符号化処理手順を示すフローチャート。 第2の実施形態に係る撮像装置のブロック構成図。 実施形態における符号化データファイルのデータ構造を示す図。 第3の実施形態における符号化処理手順を示すフローチャート。 第3の実施形態に係るテーブルを示す図。
以下、添付図面に従って本発明に係る実施形態を詳細に説明する。
図1は、本発明の実施形態に係る撮像装置100の構成例を示すブロック図である。図1において、制御部150は、装置全体の制御を司るものであり、CPU、そのCPUが実行するプログラムを格納したROM、さらにはワークエリアとして使用するRAMを含む。この制御部150は、ユーザからの指示入力を受け付ける操作部151と接続されている。
図示の構成において、操作部151を介してユーザが撮影指示を入力すると、制御部150の制御下にて、撮像対象となる被写体の光学像が撮像光学部101を介して入力され、撮像センサ部102上に結像する。撮像センサ部102は、設定されたゲインに従って、画素毎に配置される赤、緑、青(RGB)のカラーフィルターを透過した光を電気信号に変換する。
図2は、撮像センサ部102に配置されるカラーフィルターの一例であり、撮像装置100が扱う画像の画素配列を表している。図2に示すように、赤(R)、緑(G)、青(B)が画素毎にモザイク状に配置されている。そして、その配列中の2×2の4画素は、赤1画素、青1画素、緑2画素を1セットにして規則的に並べられた構造となっている。このような色成分の画素の配置は、一般にベイヤ配列と呼ばれる。
撮像センサ部102によって変換された電気信号は、センサ信号処理部103に供給される。センサ信号処理部103は、撮像センサ部102からの電気信号からデジタルデータへ変換し、画素の修復処理を施す。修復処理には、撮像センサ部102における欠落画素や信頼性の低い画素の値に対し、周辺画素値を用いて修復対象の画素を補間したり、所定のオフセット値を減算したりする処理が含まれる。本実施形態では、センサ信号処理部103から出力される画像データを、生(未現像)の画像を意味するRAW画像データと称す。
RAW画像データは、現像部105に供給される。現像部105は、RAW画像データに対してデベイヤ処理(デモザイク処理)を施し、ホワイトバランス調整を行い、1画素につき、1つの輝度と2つの色差から成る画像データに変換する。また、現像部105は、画像データに含まれるノイズを除去、光学的な歪を補正して適正化するなどの所謂現像処理を行う。
現像部105によって現像処理された画像データは、表示処理部106を供給される。表示処理部106は、輝度、色差の画像データから、R,G,Bの画像データに変換し、表示部107に供給する。表示部107は、この画像データを受信して、画像を視覚的な像として表示する。表示部107は例えば液晶表示部とするが、その表示素子の種類は問わない。また、現像処理された画像データは、映像出力端子108により、外部に接続された表示機器に出力してもよい。映像出力端子108は、例えばHDMI(登録商標)やSDIのような汎用インタフェースを含む。
また、RAW画像データは、データ演算部109及びRAW圧縮部110にも供給される。データ演算部109では、カメラ情報生成部104から入力されるカメラ情報に基づきRAW画像データを解析、演算し、RAW圧縮部110の圧縮処理に必要なパラメータを算出する。そして、演算部109は、そのパラメータをRAW圧縮部110に供給する。カメラ情報生成部104は、AE処理による適正な露光状態であるか否かを示す露出情報、並びに、現在のISO感度を示す感度情報を、カメラ情報として生成し、供給する。
RAW圧縮部110は、演算部109から入力したパラメータに基づき、センサ信号処理部103から入力したRAW画像データを構成する各色成分のプレーン(R成分1個、B成分1個、G成分2個)を抽出(もしくは分離)し、プレーンごとに独立して、ウェーブレット変換(周波数変換の1つ)、差分符号化等の技術を用いて高能率符号化し、圧縮された状態のRAWファイルに変換する。そして、RAW圧縮部110は変換して得られたRAWファイルをバッファ112に格納する。バッファ112に格納されると、制御部150はそのRAWファイルを記録媒体113に書き込む処理を行う。この際、制御部150は、RAWファイルのヘッダに、復号に必要な情報を含める処理も行う。記録媒体113は、内蔵式の大容量メモリやハードディスク、又は、着脱式のメモリカード等である。
また、ユーザから操作部151を介して再生指示が入力された場合、制御部150は、記録媒体113から、ユーザが指定したRAWファイルをバッファ112に格納する。そして、RAW伸張部111は、バッファ112に格納されているRAWファイルを読出し、圧縮された状態のRAWファイルに対する復号処理を行ってRAW画像データを生成する。RAW伸張部111によって伸張されたRAWファイルは、現像部105に供給される。この後、表示処理部106は、現像部105で現像処理された画像データから、R,G,Bの画像データに変換し、表示部107に供給することで表示(再生)を行う。
実施形態におけるRAW圧縮部110では、可逆符号化だけではなく、記録媒体113に、より多くの画像を記録可能とするために非可逆符号化を行うことが出来る構成となっている。非可逆符号化では、ウェーブレット変換処理を用いる。RAW画像データに対するウェーブレット変換処理によって複数のサブバンドが生成される。各サブバンドを構成するウェーブレット係数に対して量子化を行い、その後、エントロピー符号化を行うことにより非可逆符号化が行われる。
ここで、通常の撮影条件であったならば、あらかじめ決定された量子化係数で符号化することで問題はない。しかしながら、或る特定の撮影条件の場合、上記量子化係数を用いて量子化すると、量子化誤差が無視できないくらい大きくなり、画質劣化を招いてしまうことがある。以下、かかる問題を解決する処理を説明する。
RAW画像データは、前述した図2に示すように、ベイヤー配列の画像データであり、2×2の4画素は赤1画素、青1画素、緑2画素で構成され、この2×2画素のセットが周期的に並べられた構造となっている。
緑(G)成分の数は他の色成分の2倍あるので、赤(R)と同じラインの緑をG1とし、青(B)と同じラインの緑をG2と表記し区別する。何も表記せずにGという場合はG1を示す。また以下では、G1のみの成分で構成される画像,G2のみの成分で構成される画像、Rのみで構成される画像、Bのみの成分で構成される画像それぞれをプレーンと呼ぶ。
図3(a)は、ある1フレームのRAW画像データにおけるRプレーン、Bプレーン、G(G1)プレーンのヒストグラムを示している。水平軸は画素値(輝度値)、垂直軸が画素数である。
このRAW画像データに対してウェーブレット変換を1回実行すると、1色成分に対してサブバンドLL、HL、LH、HHが生成される。こここで、各色成分のサブバンドHHを、HHR,HHG,HHBと表す。サブバンド内の変換係数が仮に8ビットで表されるとき、その取り得る範囲は0乃至255となる。
R成分のサブバンドHHRの中で、値が0〜iの範囲にある変換係数の個数(累積個数)をNR(i)と表す。同様に、G成分のサブバンドHHGの中で、値が0〜iの範囲にある変換係数の個数をNG(i)と表す。そして、G成分のサブバンドHHGの中で、値が0〜iの範囲にある個数をNR(i)と表す。
因に、NR(255)はサブバンドHHR内の値0〜255の変換係数の個数を表すこととなり、サブバンドHHR内の全変換係数の個数に等しい。同様に、NB(255)はサブバンドHHB内の全変換係数の個数と等しく、NG(255)はサブバンドHHG内の全変換係数の個数と等しい。
さて、変換係数の値を水平軸、垂直軸を累積個数とした場合、概ね図4のような曲線となる。図示の如く、R成分の変換係数は、他のG、B成分より、比較的、早い段階で変換係数の累積数が100%となる。これは、R成分のサブバンドHHR内の変換係数のほとんどが小さい値になっていることを示す。
エントロピー符号化を行うまえに、量子化処理が行われる。この量子化で用いる標準的な量子化係数(以下、標準量子化係数QS)が、仮に、変換係数の最大値の10%に相当する“25(≒255/10)”であるとする。図4の場合、サブバンドサブバンドHHB内の全変換係数のうち10%の変換係数が0に量子化され、サブバンドHHG内の全変換係数のうち7%の変換係数が0に量子化される。これに対し、サブバンドHHRの内の全変換係数のうち、実に25%もの変換係数が0に量子化されてしまう。
1つの画素はR,G、Bの組み合わせにより、その色が決定される。ところが、図示のように、1つの成分の変換係数の量子化結果が、成分の変換係数の量子化結果と大きく異なると、オリジナルの色の分布が崩れてしまい、復号して得られる画像の画質が悪いものとなってしまう。また、実際に表示する場合には、R,G,Bのデータについてホワイトバランスの調整処理を行うことになるが、上記のように多くのR成分が0になってしまうので、ホワイトバランス調整が正しく機能しない。つまり、画像の色調が、オリジナルの画像に対してずれたものとなってしまい、RAW画像データとして保存する意義もなくなってしまう。
上記の問題は、R成分の変換係数に対して用いる量子化係数QRを、標準量子化係数QSより小さくすることで回避できる。そこで本願の発明者は以下のようにしてこの問題を解決することに着想が至った。
図4に示すような、ウェーブレット変換結果における変換係数の各色成分の分布は、図3(a)に示す各色成分のヒストグラムから推定できる。そこで、図3(a)のR,G,B成分のヒストグラムのピーク位置PR、PG、PBを求める。そして、これら3成分のピーク位置の差が許容範囲内になっているか否かを判定する。具体的には、予め設定された閾値Thを用いた、次式(1)乃至(3)の全てを満たす場合、3成分のピーク位置が互いに許容範囲内にあるものとみなす。
|PR−PG|≦Th …(1)
|PG−PB|≦Th …(2)
|PB−PR|≦Th …(3)
上記の3つの式の少なくとも1つが満たされない場合、3成分中の1つまたは2つのピーク位置が、他の色成分のピーク位置より小さい(暗い)ことを表している。そして、最も小さいと判定されたピーク位置が、暗いと判定するための予め設定された閾値以下であった場合、その暗いと判定するための閾値以下にピーク位置を持つ色成分の量子化係数を補正対象とする。
例えば、図3(a)において、ピーク位置PGとPBとの差が閾値Th以下であり、ピーク位置PRとPBとの差が閾値Thを超え、ピーク位置PRが、暗さの閾値以下であったとする。
本実施形態では、G,B成分の平均ピーク位置に対する、着目ピーク位置であるR成分のピーク位置の比を補正係数CRとして算出する。
R=PR/{(PB+PG)/2}
そして、R成分を量子化する際に用いる量子化係数QRを次式に従い算出する。
R=QS×CR
そしてB、G成分の量子化係数は標準量子化係数QSを用いる。
上記の結果、R成分を量子化する場合に用いる量子化係数QRは、他の色成分の量子化係数QB,QGより小さくなり、先に示した色バランスの問題を解決できる。
ここで、図3(a)とは異なるが、仮にピーク位置PRとPGの差が閾値以下であり、それらピーク位置PBよりも小さく、かつ、その間の距離が閾値Thを超えているとする。さらに、ピーク位置PRとPGが、暗いと判定するための予め設定された閾値以下であるとする。この場合、色成分R,Gの補正係数CR,CGは次の通りになる。
R=PR/PB
G=PR/PB
そして、各色成分の量子化係数は次式で与えられる。
R=QS×CR
G=QS×CG
G=QS
なお、繰り返し説明するが、ここまでの説明しているG成分とは、G1成分のことである。G1,G2のヒストグラムは互いに同じであると見なしている。従って、上記のようにして量子化係数QGが決定された場合、それはG1プレーン、G2プレーンの両方に適用されるものである点に注意されたい。
さて、実施形態では、全ての撮像画像に対して無条件に上記量子化係数の補正処理を行うのではなく、量子化係数の補正処理を撮像条件に依存して行うか否かを決定する。具体的には、撮像時の露出が適正露出の範囲外となる場合、または、露出が適正範囲内にあってもISO感度が規定値以上となる場合に、上記の量子化係数の補正処理を行うこととした。
以下、実施形態における撮像装置の制御部150の処理を図5のフローチャートに従って説明する。なお、同図に係る処理は、ユーザが操作部151を操作して撮像指示を入力したことによる撮像が行われた場合の処理である。
まず、制御部150は、S501にて、カメラ情報生成部104が生成したカメラ情報を取得する。このカメラ情報には、撮像時におけるAE機能により露出が適正であるか否かの情報、及ぶ、ISO感度情報が含まれている。
制御部150は、S502にて、取得したカメラ情報に基づき、撮像時の露出が適正範囲にあるか否かを判定する。否の場合には、処理をステップS505に進める。また、撮像時の露出が適正であると判定された場合には、S503に処理を進める。
S503にて、制御部150は、撮像時のISO感度が、予め設定されたISO規定値未満であったか否かを判定する。撮像時のISO感度がISO規定値未満である場合には、被写体が十分な光量の下で撮像されたものとみなして良いので、処理はS504に進める。そして、S504にて、制御部150は、R,G1、G2、Bの各プレーンの量子化係数を標準量子化係数Qsに設定する。
一方、S503にて、撮像時のISO感度がISO規定値以上であると判断した場合、暗い被写体を撮像している、もしくは、意図的に増感していることを意味する。それ故、制御部150は、データ演算部109を制御し、S505、S506の処理を経て各色成分の量子化係数の決定処理を実行させる。
まず、S505にて、データ演算部109は、センサ信号処理部103からRAW画像データを取得し、R,G(G1)、Bのヒストグラムから、各色成分のピーク位置PR、PG、PBを検出する。
そして、S506にて、先に説明した式(1)乃至(3)を用いて、各色成分のピーク位置の差が閾値Th以下であるか否かを判定する。閾値以下である場合には、各色成分の量子化係数を、標準量子化係数QSに設定する。一方、式(1)乃至(3)のいずれか1つでも満たさない場合には、3つの色成分のうち、暗い側にピーク位置を持つ1つまたは2つの色成分の量子化係数を先に説明したように補正する。
上記の結果、色成分R、G(G1,G2),Bの量子化係数が決定されるので、制御部150は、決定した各色成分の量子化係数をRAW圧縮部110に設定し、RAW画像データを構成する各プレーンの符号化を行わせる。
具体的には、RAW圧縮部110は、S507にて、R,G1、G2,Bの各プレーンについてウェーブレット変換を行う。そして、RAW圧縮部110は、S508にて、各プレーンのウェブレット変換で得られたサブバンド内の変換係数を、上記で決定した量子化係数で量子化する。そして、RAW圧縮部110は、S509にて、各色成分毎に、量子化後のサブバンドの変換係数を、エントロピー符号化を行い、得られた符号化データをバッファ112に出力する。制御部150は、S510にて、バッファ112に格納された符号化データに、復号に必要な除法をファイルヘッダとして付加し、記録媒体113に保存する処理を行う。
記録媒体113に保存される符号化データファイルは、例えば、図7の構造となる。ファイルヘッダには、画像データの水平、垂直方向のサイズ、ウェーブレット変換の実行回数、各画素のビット数をはじめ、各色成分プレーンの量子化係数を特定する情報が含まれる。
以上説明したように、撮像時の適正露出ではない場合、あるいは、適正露出であってもISO基準値よりも高いISO感度で撮像した場合、各色成分の分布が本来よりずれる可能性が高くなる。かかる撮像状況時には、上記のように色成分の量子化係数を補正することで、復号した際の画像の色バランスが不自然になることを抑制できるようになる。つまり、画質劣化を抑制した符号化データを生成することが可能となる。
[第2の実施形態]
図6は第2の実施形態に係る撮像装置の構成例を示すブロック図である。図6と図1との違いは、補正データ記憶部614を追加した点であり、これ以外は第1の実施形態と同じである。また、全体的な処理も第1の実施形態と同じであるので、その説明は省略する。本第2の実施形態は、動画像撮像、もしくは、連写撮像に好適である。
動画や連写という比較的短い間隔で画像を撮像するとき、時間軸に沿った画面間の相関度は高い。このため、補正値を決定したピクチャとの時間間隔が所定時間内であれば、補正データ記憶部614に量子化補正値を記憶しておく。
例えば連写撮像の場合には、最初の1枚の画像を撮像した際の各色成分の量子化係数を補正データ記憶部614に記憶する。そして、後続する画像から最後の画像を、補正データ記憶部614に記憶された補正後の量子化係数を用いて量子化し、そして符号化する。
また、30フレーム/秒で撮像する動画像の場合には、例えば2秒間隔(この期間はユーザが設定できるようにしても良い)で、量子化係数の補正処理を行うようにし、その間の撮像画像については、直前の補正処理で求めた量子化係数を用いて量子化、そして符号化を行う。なお、動画像の場合、シーンチェンジが発生する場合があるが、かかるシーンチェンジが発生した場合には、そのタイミングで量子化係数の補正処理を行い、補正データ記憶部614を更新する。
以上の結果、動画像や連写の場合に、1枚の画像毎に量子化係数の補正処理を行う必要がなくなり、処理の負担を軽減でき、そのため所費電力の削減も期待できる。
[第3の実施形態]
昨今のデジタルカメラに代表される撮像装置には、様々な撮像モードが選択可能となっている。例えば夕景モードでは、より赤成分を強調するために赤成分のゲインを上げる処理が行われる。また、晴天時の青空を入れた昼風景モードでは、青空をより強調するために、青成分のゲインを上げる処理が行われる。
ここで、夕景モードで撮影した画像では、R成分の高輝度側の画素数が多くなり、各色成分のプレーンのヒストグラムは、例えば図3(b)のようになる傾向が強い。しかし、図示のような画像の各色成分のウェーブレット変換係数を標準量子化係数で量子化した場合には、R成分の高輝度側の分布を高い精度で維持することが困難になる。夕景モードで、しかも、RAW画像データとして記録するのは、ユーザは、R成分を高い精度で保存したいという要望しているものである。そのため、本第3の実施形態では、ユーザが操作部151を介して撮像モードとして夕景モードを選択した場合には、R成分を他の成分より細かい値で量子化することで、R成分について高い精度の画像を再生できるようにする。
上記は、昼風景モードでも同じである。昼風景モードでは、標準量子化係数QSよりもより小さい値を、B成分の量子化係数QBとして用いる。
上記のため、本第3の実施形態では、図9に示すテーブルを制御部150内の不図示のROMに格納した。図示の如く、テーブルは撮像モード、ゲインアップする色成分、各色成分毎の補正係数CR、CG、CBの各フィールドが対応付けられている。
補正係数は、先に説明した第1の実施形態で説明したものである。つまり、補正係数CR、CG、CB、標準量子化係数QS、そして、各色成分の量子化係数QR、QG、QBの関係は』次式(4)乃至(6)にある。
R=QS×CR …(4)
G=QS×CG …(5)
B=QS×CB …(6)
例えば、ユーザが撮像モードとして「夕景モード」を選択した場合、R成分のゲインがアップされる。そして、R,G,Bの各色成分の補正係数は0.5,1,1であるので、各色のウェーブレット変換係数を量子化する際に用いる量子化係数は次式で得られる。
R=QS/2
G=QS
B=QS
この結果、R成分の量子化係数が他の色成分の量子化係数より小さくなり、R成分が高い精度を維持して符号化させることができる。
本第3の実施形態における制御部150の処理手順を図8のフローチャートに従って説明する。なお、同図に係る処理は、ユーザが操作部151を操作して撮像指示を入力したことによる撮像が行われた場合の処理である。また、撮像モードにおけるゲイン調整は、制御部150が既に撮像センサ部102に設定しているものとする。
まず、制御部150は、S801にて、操作部151で設定された現在の撮像モードを取得する。そして、制御部150は、S802にて、取得した撮像モードをキーにし、図9のテーブルを参照して各色成分の補正係数CR,CG,CBを取得する。そして、S803にて、制御部150は、式(4)乃至(6)に示したように、標準量子化係数QSに各色成分の補正係数を乗算することで、各色成分の量子化係数を算出する。当然、求めた量子化係数QGは、G1、G2の両プレーンに適用される。
次のS804乃至806にて、制御部150は、決定した量子化係数をRAW圧縮部110に設定し、RAW画像データの圧縮符号化を行わせる。
具体的には、RAW圧縮部110は、S804にて、R,G1、G2,Bの各プレーンについてウェーブレット変換を行う。そして、RAW圧縮部110は、S805にて、各プレーンのウェブレット変換で得られたサブバンド内の変換係数を、上記で決定した量子化係数で量子化する。そして、RAW画像圧縮部110は、S806にて、各色成分毎に、量子化後のサブバンドの変換係数を、エントロピー符号化を行い、得られた符号化データをバッファ112に出力する。
制御部150は、S807にて、バッファ112に格納された符号化データに、復号に必要な除法をファイルヘッダとして付加し、記録媒体113に保存する処理を行う。
以上本第3の実施形態によれば、ユーザが設定した撮像モードで重要視される色成分のみの量子化係数を標準量子化係数より小さくする。この結果、不必要にデータ量が増大することなく、かつ、そのモードに特化した色成分について高い精度で再現するための符号化データを得ることが可能になる。
[第4の実施形態]
上記第3の実施形態では、ユーザが操作部151を介して撮像モードを設定するものとしたが、自動化させるか否かをユーザが選択させても良い。このためには、図1の構成に、さらに現在日時を計時するタイマを設ける。
例えば、自動化させた場合、夕景モードか昼風景モードかを制御部150が判定する。例えば、季節と現在時刻から夕方を表す時間帯にあり、かつ、撮像センサから予め設定された閾値以上の強度を持つ赤色が検出された場合に夕景モードとしてもよい。また、光量が十分でしかも現在時刻が昼を規定する時間帯内にあり、かつ、被写体までの距離が十分に遠い場合に昼風景モードとして判定しても良い。
101…撮像光学部、102…撮像センサ部、103…現像部、104…カメラ情報生成部、105…現像部、106…表示処理部、107…表示部、108…映像出力端子、109…データ演算部、110…RAW圧縮部、111…RAW伸長部、112…バッファ、113…記録媒体

Claims (11)

  1. 撮像センサより得られた画像データから、当該画像データを構成する各色成分のプレーンを生成し、色成分のプレーンごとに独立して、周波数変換、量子化処理、エントロピー符号化を行って符号化する符号化手段と、
    前記符号化手段を制御する制御手段とを有し、
    前記制御手段は、
    撮像時におけるISO感度または露出情報に基づき、前記撮像センサより得られた各色成分のプレーンに対する量子化処理で用いる量子化係数を補正するか否かを判定する判定手段と、
    該判定手段で量子化係数を補正すると判定した場合、各色成分のプレーンのヒストグラムの分布に基づき、各色成分に対する量子化処理で用いる量子化係数を決定する決定手段と、
    を含むことを特徴とする撮像装置。
  2. 前記判定手段は、
    (1)露出情報が示す露出が許容範囲を超えている、
    (2)前記露出が前記許容範囲にあって、かつ、撮像時の感度が所定の閾値以上である、
    のいずれかを満たすとき、量子化係数を補正すると判定する
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記決定手段は、
    R,G,B成分の各プレーンのヒストグラムから、色成分を表す3つのピーク位置を検出する検出手段と、
    前記3つのピーク位置のうち、最も輝度が低く、かつ、他の色成分のピークとの距離が予め設定された閾値以上はなれたピーク位置を着目ピーク位置としたとき、
    当該着目ピーク位置と前記他の色成分のピーク位置の比を、予め設定された標準量子化係数に乗じることで、前記着目ピーク位置が示す色成分の量子化係数を設定し、前記他の色成分については前記標準量子化係数を用いるものとして設定する設定手段と、
    を有することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記符号化手段は、
    着目している色成分のプレーンをウェーブレット変換する変換手段と、
    変換して得られたサブバンドの変換係数を、前記制御手段により設定された量子化係数を用いて量子化する量子化手段と、
    量子化後の変換係数をエントロピー符号化する手段と
    を含むことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記撮像センサはベイヤ配列の撮像センサであって、
    前記符号化手段が符号化する対象の各プレーンは、前記撮像センサより得られたRAW画像データを構成するR,G1、G2,Bの4つのプレーンである
    ことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 撮像センサより得られた画像データから、当該画像データを構成する各色成分のプレーンを生成し、色成分のプレーンごとに独立して、周波数変換、量子化処理、エントロピー符号化を行って符号化する符号化手段を有する撮像装置の制御方法であって、
    撮像時におけるISO感度または露出情報に基づき、前記撮像センサより得られた各色成分のプレーンに対する量子化処理で用いる量子化係数を補正するか否かを判定する判定工程と、
    該判定工程で量子化係数を補正すると判定した場合、各色成分のプレーンのヒストグラムの分布に基づき、各色成分に対する量子化処理で用いる量子化係数を決定する決定工程と、
    を有することを特徴とする撮像装置の制御方法。
  7. 撮像センサより得られた画像データから、当該画像データを構成する各色成分のプレーンを生成し、色成分のプレーンごとに独立して、周波数変換、量子化処理、エントロピー符号化を行って符号化する符号化手段と、
    前記符号化手段を制御する制御手段とを有し、
    前記制御手段は、
    撮像モードの種類と、各色成分の量子化係数を決定するための情報とを対応つけて記憶する記憶手段と、
    前記撮像センサで撮像した際の撮像モードに基づき、前記記憶手段を参照して色成分毎の量子化処理で用いる量子化係数を決定する決定手段と
    を有することを特徴とする撮像装置。
  8. 前記記憶手段は、撮像モードの種類に対応つけて各色成分の補正係数を記憶し、
    前記決定手段は、各色成分の補正係数を、予め設定された標準量子化係数に乗算することで、各色成分の量子化係数を決定する
    ことを特徴とする請求項7に記載の撮像装置。
  9. 前記撮像モードには、赤成分を強調する夕景モードと、青成分を強調する昼風景モードが含まれることを特徴とする請求項7または8に記載の撮像装置。
  10. 現在日時を計時する計時手段を更に有し、
    前記制御手段は、前記計時手段で計時された日時に基づいて前記夕景モード、昼風景モードを決定する
    ことを特徴とする請求項9に記載の撮像装置。
  11. 撮像センサより得られた画像データから、当該画像データを構成する各色成分のプレーンを生成し、色成分のプレーンごとに独立して、周波数変換、量子化処理、エントロピー符号化を行って符号化する符号化手段と、撮像モードの種類と各色成分の量子化係数を決定するための情報とを対応つけて記憶する記憶手段とを有する撮像装置の制御方法であって、
    前記撮像センサで撮像した際の撮像モードに基づき、前記記憶手段を参照して色成分毎の量子化処理で用いる量子化係数を決定する決定工程と、
    該決定工程で決定した各色成分の量子化係数を前記符号化手段に設定して、色成分毎の符号化データを生成させる制御工程と、
    を有することを特徴とする撮像装置の制御方法。
JP2016004612A 2016-01-13 2016-01-13 撮像装置及びその制御方法 Active JP6700798B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016004612A JP6700798B2 (ja) 2016-01-13 2016-01-13 撮像装置及びその制御方法
US15/404,629 US10003801B2 (en) 2016-01-13 2017-01-12 Image capturing apparatus that encodes and method of controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016004612A JP6700798B2 (ja) 2016-01-13 2016-01-13 撮像装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2017126859A true JP2017126859A (ja) 2017-07-20
JP2017126859A5 JP2017126859A5 (ja) 2019-02-21
JP6700798B2 JP6700798B2 (ja) 2020-05-27

Family

ID=59275055

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016004612A Active JP6700798B2 (ja) 2016-01-13 2016-01-13 撮像装置及びその制御方法

Country Status (2)

Country Link
US (1) US10003801B2 (ja)
JP (1) JP6700798B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024145997A (ja) * 2023-03-31 2024-10-15 サイレックス・テクノロジー株式会社 受信装置、送信装置、通信システム、受信方法、送信方法、および、通信方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3192250B1 (en) * 2014-09-12 2019-05-29 Canon Kabushiki Kaisha Image processing apparatus and image processing method
CN107135341B (zh) * 2017-05-03 2019-12-27 Oppo广东移动通信有限公司 影像传感器、相机模组及电子装置
CN111200734B (zh) * 2018-11-19 2022-03-11 浙江宇视科技有限公司 视频编码方法及装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1635579A2 (en) * 1995-09-12 2006-03-15 Matsushita Electric Industrial Co., Ltd. Coding method, coding apparatus, wavelet transform apparatus, and wavelet reverse transform apparatus
JP2000184204A (ja) * 1998-12-11 2000-06-30 Canon Inc 画像処理装置及び方法及び記憶媒体
JP4765240B2 (ja) 1999-06-14 2011-09-07 株式会社ニコン 圧縮符号化方法,圧縮符号化プログラムを記録した記録媒体,および圧縮符号化方法を実施する電子カメラ
US6792153B1 (en) * 1999-11-11 2004-09-14 Canon Kabushiki Kaisha Image processing method and apparatus, and storage medium
JP3702778B2 (ja) * 2000-11-27 2005-10-05 ソニー株式会社 画像符号化装置及び方法
US7106909B2 (en) * 2001-12-25 2006-09-12 Canon Kabushiki Kaisha Method and apparatus for encoding image data in accordance with a target data size
JP2003235042A (ja) * 2002-02-12 2003-08-22 Sony Corp 画像符号化装置及びその符号化方法
JP4410989B2 (ja) * 2002-12-12 2010-02-10 キヤノン株式会社 画像処理装置及び画像復号処理装置
JP4599917B2 (ja) * 2004-07-09 2010-12-15 ソニー株式会社 撮像装置
KR101138393B1 (ko) * 2005-07-15 2012-04-26 삼성전자주식회사 부호화 모드에 따른 컬러 성분간 예측을 이용한 컬러 영상및 비디오 부호화/복호화 방법 및 장치
JP5308391B2 (ja) * 2010-03-31 2013-10-09 富士フイルム株式会社 画像符号化装置および方法並びにプログラム
US9854275B2 (en) * 2011-06-25 2017-12-26 Qualcomm Incorporated Quantization in video coding
JP5988577B2 (ja) * 2011-12-28 2016-09-07 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム
US9230340B2 (en) * 2012-05-04 2016-01-05 Semiconductor Components Industries, Llc Imaging systems with programmable fixed rate codecs
US9445109B2 (en) * 2012-10-16 2016-09-13 Microsoft Technology Licensing, Llc Color adaptation in video coding
US20140105278A1 (en) * 2012-10-16 2014-04-17 Microsoft Corporation Color adaptation in video coding
JP6242171B2 (ja) * 2013-11-13 2017-12-06 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
EP3035687A1 (en) * 2014-12-16 2016-06-22 Thomson Licensing A device and a method for encoding an image and corresponding decoding method and decoding device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024145997A (ja) * 2023-03-31 2024-10-15 サイレックス・テクノロジー株式会社 受信装置、送信装置、通信システム、受信方法、送信方法、および、通信方法

Also Published As

Publication number Publication date
US20170201749A1 (en) 2017-07-13
US10003801B2 (en) 2018-06-19
JP6700798B2 (ja) 2020-05-27

Similar Documents

Publication Publication Date Title
US8599283B2 (en) Image capture apparatus and image capturing method
US10638162B2 (en) Coding method and decoding processing method
US20080123971A1 (en) Image processing apparatus
JPH03267877A (ja) 画像符号化装置及びその方法
US10142604B2 (en) Imaging apparatus and control method thereof
US10771785B2 (en) Image encoding apparatus, method of controlling the same, and storage medium
JP6700798B2 (ja) 撮像装置及びその制御方法
JP2015195582A (ja) 画像処理装置及びその制御方法、撮像装置及びその制御方法、並びに、記録媒体
JP6871727B2 (ja) 撮像装置、画像処理方法、及び、プログラム
JP2017224939A (ja) 撮像装置
JP2007134880A (ja) 映像信号処理装置
US10497093B2 (en) Image processing apparatus for minimizing deterioration of image quality of a raw image
US10951891B2 (en) Coding apparatus capable of recording raw image, control method therefor, and storage medium storing control program therefor
JP2007129524A (ja) 画像処理装置、画像処理方法及びそのプログラム
JP6486120B2 (ja) 符号化装置、符号化装置の制御方法、及びプログラム
US9554108B2 (en) Image processing device and storage medium storing image processing program
JP7256629B2 (ja) 画像符号化装置及びその制御方法及びプログラム
JP2020109923A (ja) 画像符号化装置及びその制御方法及びプログラム
JP2020005093A (ja) 撮像装置、撮像装置の制御方法、及びプログラム
JP2008227876A (ja) 撮像装置
CN102959956B (zh) 图像处理装置和图像处理方法
US8842192B2 (en) Image processing apparatus, image processing method, and imaging apparatus for performing image processing and coding of a preprocess image
JP2022022877A (ja) 符号化装置、撮像装置、制御方法、及びプログラム
JP2006166259A (ja) デジタルカメラ並びにデジタルカメラシステム、画像圧縮方法、画像処理方法及びプログラム並びにそれらを記録したコンピュータ読み取り可能な記録媒体
JP2003163947A (ja) 画像圧縮方法及びプログラム並びにディジタルカメラ

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200501

R151 Written notification of patent or utility model registration

Ref document number: 6700798

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151