JP7714362B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム

Info

Publication number
JP7714362B2
JP7714362B2 JP2021057794A JP2021057794A JP7714362B2 JP 7714362 B2 JP7714362 B2 JP 7714362B2 JP 2021057794 A JP2021057794 A JP 2021057794A JP 2021057794 A JP2021057794 A JP 2021057794A JP 7714362 B2 JP7714362 B2 JP 7714362B2
Authority
JP
Japan
Prior art keywords
frame
video
processing
frames
noise reduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021057794A
Other languages
English (en)
Other versions
JP2022154659A (ja
Inventor
英孝 上村
俊雄 簑島
貴之 須藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021057794A priority Critical patent/JP7714362B2/ja
Priority to US17/702,532 priority patent/US20220321742A1/en
Publication of JP2022154659A publication Critical patent/JP2022154659A/ja
Application granted granted Critical
Publication of JP7714362B2 publication Critical patent/JP7714362B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/14—Picture signal circuitry for video frequency region
    • H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/213—Circuitry for suppressing or minimising impulsive noise
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Description

本発明は、画像処理装置、画像処理方法およびプログラムに関する。
RAW形式の動画(以下、RAW動画とする)を撮影可能なカメラを用いて撮影を行い、得られたRAW動画に対して各種の編集を行うことができる。RAW動画を構成する各フレームには、カメラのイメージセンサが生成した画像信号に関する情報がそのまま記録されている。RAW動画は、カメラやパーソナルコンピュータ等を用いて現像処理を行うことで、画質を自由に調整することができる。
一方、巡回型ノイズリダクション処理を用いて、動画の各フレームからノイズを低減する技術が用いられている。巡回型ノイズリダクション処理は、現像処理されたフレーム(画像)とメモリに記憶された1フレーム期間以上前のフレーム(画像)との相関を利用してノイズを低減する技術である。
関連する技術として、特許文献1および2の技術が提案されている。特許文献1の技術は、フレーム相関性によるフレームノイズリダクションを行う。特許文献2の技術は、第1の動画と第2の動画とを続けて再生する際に、シーンが持続している判定される期間だけ、第1の動画の後続動画と第2の動画の先行動画に対してシーンチェンジエフェクトを掛けている。
特開平11-215403号公報 特開2013-239957号公報
上述したように、巡回型ノイズリダクション処理は、1フレーム期間以上前のフレームとの相関を利用してノイズを低減する技術である。従って、動画を構成する各フレームのうち先頭フレームよりも前のフレームがないため、先頭フレームに対して巡回型ノイズリダクション処理を施すことができない。このため、先頭フレームの画質が低下するという問題がある。特許文献1の技術は、先頭フレームに対するノイズ低減を行うものではない。また、特許文献2は、巡回型ノイズリダクション処理に関するものではない。かかる問題は、RAW動画以外の動画にも生じ得るものである。
そこで、本発明は、動画の先頭フレームに対して巡回型ノイズリダクション処理の効果が得られるようにすることを目的とする。
上記目的を達成するために、本発明の画像処理装置は、動画を取得する手段と、前記動画を再生する際に、再生時の先頭フレームよりも後の1以上のフレームを用いて、前記先頭フレームに対してノイズリダクション処理し、前記先頭フレーム以外のフレームに対して当該フレームよりも前の1以上のフレームを用いて巡回型ノイズリダクション処理を施す手段と、を備える。
本発明によれば、動画の先頭フレームに対して巡回型ノイズリダクション処理の効果が得られるようにすることができる。
撮像装置の構成の一例を示すブロック図である。 動画ファイルの構成の一例を示す図である。 第1実施形態におけるRAW動画再生処理の流れの一例を示すフローチャートである。 RAW動画ファイルを先頭から再生した場合の一例を示す図である。 RAW動画ファイルを途中から再生した場合の一例を示す図である。 長秒露光で記録されたRAW動画ファイルを再生した場合の一例を示す図である。 動画の結合および結合した動画の再生の一例を示す図である。 第2実施形態の結合動画を再生する際の処理の流れの一例を示すフローチャートである。 振り子を撮影したときのプロキシ動画ファイル、および再生時のRAW動画ファイルの一例を示す図である。 第3実施形態における制御部の構成の一例を示す図である。 第3実施形態におけるRAW動画再生処理の流れの一例を示すフローチャートである。 第4実施形態における画像信号処理回路および制御部の構成の一例を示す図である。 第4実施形態におけるRAW動画再生処理の流れの一例を示すフローチャートである。 第4実施形態における制御部の構成の一例を示す図である。 第5実施形態におけるRAW動画記録処理のフローチャートの一例を示す図である。 RAW動画記録処理の第1の例を示す図である。 RAW動画記録処理の第2の例を示す図である。 動画選択画面の一例を示す図である。
以下、本発明の各実施形態について図面を参照しながら詳細に説明する。しかしながら、以下の各実施形態に記載されている構成はあくまで例示に過ぎず、本発明の範囲は各実施形態に記載されている構成によって限定されることはない。
<第1実施形態>
図1は、撮像装置100の構成の一例を示すブロック図である。撮像装置100は、レンズ101、レンズ駆動部102、メカシャッタ103(メカニカルシャッタ)、絞り104およびシャッタ・絞り駆動部105(メカニカルシャッタ・絞り駆動部)を含む。撮像装置100は、撮像素子106、画像信号処理回路107、第1メモリ部108、制御部109および記録媒体制御I/F部110を含む。撮像装置100は、表示部111、記録媒体112、外部I/F部113、第2メモリ部114および操作部115を含む。「I/F」はインタフェースを表す。
レンズ101は、レンズ駆動部102によりズームやフォーカス等が駆動制御される。レンズ101からの被写体像は、絞り104にて適切な光量に調整され、撮像素子106上の撮像面に結像する。撮像素子106上の撮像面に結像した被写体像は、光電変換される。光電変換された被写体像は、ゲイン調整処理やアナログ信号からデジタル信号への変換を行うA/D変換処理等が行われる。アナログ信号から変換されたデジタル信号は、例えば、R、Gr、Gb、Bの画像信号として画像信号処理回路107に送られる。画像信号処理回路107は、現像処理やノイズを軽減するローパスフィルタ処理、シェーディング処理、ホワイトバランス(WB)処理、巡回型ノイズリダクション処理等の各種の画像信号処理を行う。画像信号処理回路107は、さらに各種の補正や画像データの圧縮等を行う。
メカシャッタ103および絞り104は、シャッタ・絞り駆動部105により駆動制御される。制御部109は、撮像装置100の全体の制御および各種演算を行う。第1メモリ部108は、画像データを記憶する。記録媒体制御I/F部110は、記録媒体112に対する画像データの記録および画像データの読み出しを行う。表示部111は、画像データや各種情報の表示を行う。記録媒体112は、半導体メモリ等の着脱可能な記録媒体であり、画像データや各種情報を記録する。外部I/F部113は、外部コンピュータ等の外部の装置と通信を行うためのインタフェースである。第2メモリ部114は、制御部109での演算結果を記憶する。
制御部109は、例えばCPU等により実現される。制御部109の機能を果たすCPUが所定のプログラムを実行することにより、各実施形態の制御が実現される。制御部109の機能は、所定の回路により実現されてもよい。制御部109は、画像処理装置として機能する。第1メモリ部108と第2メモリ部114とは、図1のように別個のメモリであってもよいし、1つのメモリであってもよい。
操作部115は、ユーザによる操作が可能な部材である。操作部115を介してユーザが指示した撮像装置100の駆動条件に関する情報は、制御部109に送られる。制御部109は、送られてきた情報に基づき、撮像装置100の全体の制御を行う。操作部115と表示部111とは一体的なタッチパネルディスプレイであってもよい。制御部109は、巡回フレーム保持制御部116および巡回フレーム決定部117を含む。巡回フレーム保持制御部116は、巡回型ノイズリダクション処理に使用する入力フレームの画像データを第1メモリ部108に保持させる。以下、巡回型ノイズリダクション処理を、巡回NR処理と称することがある。巡回フレーム決定部117は、フレーム番号によって巡回NR処理に使用するフレームの画像データを決定する。巡回NR処理に使用するフレームの画像データは、フレーム番号以外に基づき決定されてもよい。
図2は、動画ファイルの構成の一例を示す図である。動画ファイルは、各種のボックスを含む。ftypボックス200は、ファイル形式の互換を示す。moovボックス201は、再生に必要な管理情報やサムネイル画像が格納されたボックスである。XMPボックス202は、XMP(Extensibile Metadata Platform)が格納されるボックスであり、任意のメタデータを設定することが可能である。uuidボックス203は、任意の情報を追加できるボックスである。uuidボックス203には、RAW動画の場合、プレビュー用の画像220が格納される。uuidボックス203には、巡回用RAWデータを格納することもできる。mdatボックス204には、符号化された映像データ、音声データ、タイムコードデータおよびフレーム単位のメタデータが格納される。
moovボックス201の構成について説明する。moovボックス201に含まれるuuidボックス213には、動画の再生時に表示するサムネイル画像218や再生時に使用される管理情報219等の任意の情報を追加して格納することができる。trackボックス205~208は、映像データや音声データ、タイムコードデータ、フレーム単位のメタデータ等に関する管理情報が格納されたボックスである。stszボックス209~212は、映像データや音声データ、タイムコードデータ、フレーム単位のメタデータ等の符号化単位ごとのデータサイズを格納するボックスである。stcoボックス214~217には、trackボックス205~208に格納されている、映像データや音声データ、タイムコードデータ、フレーム単位のメタデータのmdat204の格納位置を示す情報が格納されている。各データは1つ以上の符号化単位で構成されるチャンクと呼ばれる単位でmdatボックス204に格納される。
mdatボックス204の構成について説明する。メタデータ230~241は、mdatボックス204に格納された、映像データや音声データ、タイムコードデータ、フレーム単位等のデータである。各データは、stcoボックスに記載されている値よりチャンク単位でアクセス可能である。例えば、メタデータ230(CV1)は、stcoボックス214のCV1から辿ることが可能である。動画ファイルの構成は、図2の例には限定されない。
図3は、第1実施形態におけるRAW動画再生処理の流れの一例を示すフローチャートである。各実施形態で示されるフローチャートの処理は、制御部109が所定のプログラムを実行することにより実現される。図3のフローチャートの処理は、例えば、ユーザが操作部115を用いて、RAW動画を選択し、再生開始を指示することにより開始する。このとき、制御部109は、記録媒体制御I/F部110を制御して、記録媒体112から選択されたRAW動画ファイルの読み出しを開始し、RAW動画ファイルを取得する。そして、制御部109は、読み出されたRAW動画ファイルについて、フレームごとに図3のフローチャートの処理を実行する。
図3のフローチャートの処理は、撮像装置100の制御部109が実行する例を示しているが、図3のフローチャートの処理の実行主体は、撮像装置100以外の装置であってもよい。例えば、外部の装置(例えば、パーソナルコンピュータ)が、記録媒体112または外部I/F部113を介して、RAW動画ファイルを取得する。そして、外部の装置が、取得したRAW動画ファイルについて図3のフローチャートの処理を実行してもよい。この場合、外部の装置は制御部109(画像処理装置)としての機能を有する。
S301で、巡回フレーム決定部117は、再生する動画を構成する複数のフレームのうち現在のフレームが先頭フレームN(Nは自然数)であるかを判定する。制御部109は、S301でYesと判定した場合(先頭フレームである場合)、処理をS302に進める。制御部109は、S301でNoと判定した場合(先頭フレームでない場合)、処理をS308に進める。
S302で、制御部109は、巡回NRの強度設定が「強」であるかを判定する。制御部109は、S302でYesと判定した場合(巡回NRの強度設定が「強」である場合)、処理をS303に進める。S303で、制御部109は、先頭フレームNから2つ後のフレーム(N+2)をRAW動画ファイルから読み出し、読み出したフレームを画像信号処理回路107で現像処理させる。S304で、制御部109は、巡回フレーム保持制御部116を介して、現像処理されたフレーム(フレーム(N+2))を第1メモリ部108に保持させる。
S305で、制御部109は、先頭フレームNの1つ後のフレーム(N+1)を動画ファイルから読み出し、読み出したフレームを画像信号処理回路107で現像処理させる。S306で、制御部109は、S304で第1メモリ部108に保持されたフレーム(N+2)を用いて、S305で現像処理されたフレーム(N+1)に対して、巡回NR処理を施す。連続する2つのフレームを用いて行われる巡回NR処理が行われることにより、時間方向における各種のノイズを低減させることができる。S307で、制御部109は、巡回フレーム保持制御部116を介して、巡回NR処理が施されたフレーム(N+1)を第1メモリ部108に保持させる。
S308で、制御部109は、現在のフレームNに対して、画像信号処理回路107で現像処理させる。S309で、制御部109は、第1メモリ部108に保持されているフレーム(N+1)を用いて、S308で現像処理された現在のフレームNに対して、巡回NR処理を施す。S310で、制御部109は、巡回NR処理を施したフレームNの画像データを表示部111に表示させる。S311で、制御部109の巡回フレーム保持制御部116は、現在のフレームNに対して巡回NR処理を施した画像データを、第1メモリ部108に保持させる。
制御部109は、S302でNoと判定した場合(巡回NRの強度設定が「強」でない場合)、処理をS312に進める。S312で、制御部109は、現在のフレームN(先頭フレーム)の1つ後のフレーム(N+1)をRAW動画ファイルから読み出し、読み出したフレームを画像信号処理回路107現像処理させる。S313で、制御部109は、巡回フレーム保持制御部116を介して、現像処理されたフレーム(N+1)を第1メモリ部108に保持させる。そして、制御部109は、処理をS308に進める。そして、制御部109は、S308以降の処理を行う。
以上のように、制御部109は、先頭フレームN(現在のフレームN)に対して、逆再生したフレームを用いて、巡回NR処理を施す。巡回NR処理は、現在のフレームと直前のフレームとのフレームの相関性を利用してノイズを低減する手法である。このため、先頭フレームに対して巡回NR処理を施す際には、直前のフレームに対応するフレームが必要になるが、RA動画を再生する際に、先頭フレームよりも前のフレームは、RAW動画ファイルにはない。そこで、制御部109は、先頭フレームNより後の1以上のフレームを用いて、巡回NR処理を施す。これにより、動画を再生する際に、先頭フレームから巡回NR処理を施すことができるため、先頭フレームの画質が向上する。これに伴い、動画全体の画質も向上する。
図4は、RAW動画ファイルを先頭から再生した場合の一例を示す図である。図4では、RAW動画ファイルの再生フレーム(先頭フレーム)はフレーム8(N=8)である。制御部109は、巡回NRの強度設定が「弱」である場合、先頭フレームの次のフレームであるフレーム9を読み出し、矢印401で表されるように、フレーム9に対して現像処理を施す。フレーム9の画像データは、第1メモリ部108に保持される。
次に、制御部109は、先頭フレーム8に対応する画像データを読み出し、矢印402で表されるように、現像処理を施す。つまり、RAW動画ファイルから読み出されたフレーム9の現像処理は、先頭フレーム8よりも前に行われる。制御部109は、矢印403で表されるように、現像処理が施された先頭フレーム8に対して、第1メモリ部108に保持されたフレーム9を用いて、巡回NR処理を施す。これにより、巡回NR処理が施されたフレーム8の画像データが生成される。生成されたフレーム8の画像データは、矢印404で表されるように、表示画像として表示部111に表示される。また、巡回NR処理が施されたフレーム8の画像データは、第1メモリ部108に保持される。
先頭フレームの次のフレーム以降については、制御部109は、フレームごとに、現在のフレームの画像に対して、直前の巡回NR処理が施されたフレームの画像を用いて、矢印405で表されるように、巡回NR処理を施す。図4の例では、2番目のフレーム(フレーム9)について、制御部109は、現在のフレーム(フレーム9)と直前のフレーム(フレーム8)とを用いて、巡回NR処理を施す。これにより、先頭フレームに続く各フレームに対して、順次、巡回NR処理を施すことができる。
図5は、RAW動画ファイルを途中から再生した場合の一例を示す図である。図5の例では、RAW動画ファイルの途中のフレーム20からRAW動画が再生される。制御部109は、巡回NRの強度設定が「弱」である場合、フレーム20の直前のフレームであるフレーム19を読み出し、矢印501で表されるように、フレーム19に対して現像処理を施す。フレーム19の画像データは、第1メモリ部108に保持される。
また、制御部109は、フレーム20を再生フレーム1として読み出し、矢印502で表されるように、フレーム20に現像処理を施す。制御部109は、矢印503で表されるように、現像処理が施されたフレーム20に対して、第1メモリ部108に保持されたフレーム19を用いて、巡回NR処理を施す。これにより、巡回NR処理が施されたフレーム20の画像データが生成される。巡回NR処理が施されたフレーム20の画像データは、矢印504で表されるように、表示画像として表示部111に表示される。また、巡回NR処理が施されたフレーム20の画像データは、第1メモリ部108に保持される。
フレーム20以降の各フレームについては、図4の例と同様の処理が行われる。制御部109は、フレームごとに、現像処理がされた現在のフレームに対して、直前の巡回NR処理が施されたフレームを用いて、矢印505で表されるように、巡回NR処理を施す。以上により、RAW動画ファイルの途中から再生された場合でも、順次、途中再生されたフレームを先頭フレームとして、巡回NR処理を施すことができる。
図6は、長秒露光で記録されたRAW動画ファイルを再生した場合の一例を示す図である。図6の例では、長秒露光で4フレーム分の同じ画像データがRAW動画ファイルに記録されているものとする。制御部109は、巡回NRの強度設定が「弱」である場合、フレーム8の直前のフレームとして、フレーム8よりも長秒露光で蓄積される4フレームの分だけ後のフレーム12を読み出す。つまり、制御部109は、露光時間に応じて蓄積されるフレーム数より後の1以上のフレームを、巡回NR処理に用いる。制御部109は、矢印601で表されるように、フレーム12に対して現像処理を施す。巡回NR処理が施されたフレーム12の画像データは、第1メモリ部108に保持される。
また、制御部109は、フレーム8を読み出し、矢印602で表されるように、現像処理を施す。このとき、制御部109は、読み出されたフレーム8を再生フレーム1とする。制御部109は、矢印603で表されるように、現像処理が施されたフレーム8に対して、第1メモリ部108に保持されたフレーム12を用いて、巡回NR処理を施す。これにより、巡回NR処理が施されたフレーム8の画像データが生成される。巡回NR処理が施されたフレーム8の画像データは、矢印404で表されるように、表示画像として表示部111に表示される。巡回NR処理が施されたフレーム8の画像データは、第1メモリ部108に保持される。
フレーム9以降の各フレームについての巡回NR処理は、図4および図5の例と同様である。以上により、長秒露光で記録されたRAW動画ファイルを再生する場合でも、先頭フレームからの各フレームに対して、順次、巡回NR処理を施すことができる。
図4~図6の例は、巡回NRの強度設定が「弱」である場合について説明したが、巡回NRの強度設定が「強」である場合にも、図4~図6の例は適用され得る。また、図3のフローチャートの例において、巡回NRの強度設定が「強」である場合、逆再生するフレーム数は2つであるが、逆再生するフレーム数(巡回NR処理を適用するフレームの数)は3つ以上であってもよい。この場合、逆再生するフレーム数に応じて、S303~S307の処理が繰り返し行われる。逆再生するフレーム数が多くなり過ぎると、動画再生が開始されるまでの時間が長くなる。そこで、逆再生するフレーム数には一定の制限が設けられてもよい。
制御部109は、表示部111に動画選択画面を表示させてもよい。図18は、動画選択画面の一例を示す図である。動画選択画面は、複数の動画ファイルから再生を行う動画ファイルを選択する画面である。図18(A)の動画選択画面1801は、カーソル1802、カーソル移動部1803、確定ボタン1804およびキャンセルボタン1805を含む。ユーザは、操作部115を用いて、再生する動画を選択できる。カーソル1802は、複数の動画のうち選択中の動画を示す。ユーザは、操作部115を用いて、カーソル移動部1803を上下に操作することで、再生する動画を変更することができる。確定ボタン1804は、再生する動画の選択を確定するためのボタンである。確定ボタン1804が押下されるまで、再生する動画の選択は確定しない。キャンセルボタン1805は、動画選択画面1801から他の画面に遷移させるためのボタンである。
図18(B)の動画選択画面1851は、サムネイルの一覧から、再生する動画を選択するための画面である。図18(B)の動画選択画面1851は、サムネイル領域1852、確定ボタン1853およびキャンセルボタン1854を含む。サムネイル領域1852は、複数の動画のサムネイルを表示する領域である。確定ボタン1853は、図18(A)の確定ボタン1804と同じである。キャンセルボタン1854は、図18(A)のキャンセルボタン1805と同じである。ユーザは、操作部115を用いて、複数のサムネイルの中から、再生する動画を選択できる。図18(B)の例では、動画2が選択中である。
図18(A)の動画選択画面1801で、動画が選択された後、確定ボタン1804が押下されることで、選択中の動画の選択が確定する。制御部109は、確定ボタン1804が押下される前において、選択中の動画の先頭フレームに対して、上述したような先頭フレームよりも後の1以上のフレームの現像処理を実施させてもよい。例えば、図18(A)の例では、動画2が選択されているが、選択の確定はされていない。このとき、制御部109は、選択中の動画2の先頭フレームの次のフレームの現像処理を実施させる。これにより、動画2の先頭フレームの次のフレームの画像が生成される。確定ボタン1804が押下され、選択が確定したときには、動画2の先頭フレームの次のフレームは現像処理がされているため、巡回NR処理に要する時間を短縮化できる。つまり、動画の選択が確定されると、迅速に、動画の再生が開始される。
また、確定ボタン1804が押下される前に、操作部115を用いた操作により、選択中の動画が動画2から動画3に変更されたとする。この場合、制御部109は、動画3について、上記の動画2に対して行った処理と同様の処理を行う。これにより、任意の動画の選択がされた際に、先頭フレームに対して巡回NR処理を施した動画の再生を迅速に行うことができる。以上の点は、図18(B)の動画選択画面1851も同様である。制御部109は、選択中の動画の先頭フレームに対して巡回NR処理を施すための現像処理を行うか否かを、巡回NRの強度設定、つまり逆再生するフレーム数に応じて、変更してもよい。
上述したように、制御部109は、動画再生時において先頭フレームに対して巡回NR処理を施す際に、先頭フレームよりも後の1以上のフレームを用いる。これにより、動画を構成する各フレームのうち先頭フレームに対しても、巡回NR処理を施すことができるため、先頭フレームについてもノイズ低減処理の効果が得られる。ここで、RAW動画と同時にプロキシ動画(RAW動画よりも画素数やサイズが小さい動画)が編集用の動画として記録されることが多い。RAW動画の先頭フレームに巡回NR処理が施されていないと、RAW動画と同時に記録されたプロキシ動画よりも、ノイズリダクション効果が低くなる。しかしながら、制御部109は、上述したように、先頭フレームよりも後の1以上のフレームを用いて、先頭フレームに対して巡回NR処理を施している。このため、プロキシ動画と同程度の巡回NR処理を施したRAW動画の再生が実現できる。
以上の例は、RAW動画が処理対象となる例について説明したが、処理対象はRAW動画以外の動画であってもよい。例えば、巡回NR処理が施されていない画像や画像フォーマット(RAWやYUV等)で記録された動画ファイルを再生する際に、先頭フレームに対して巡回NR処理を施す場合にも適用できる。また、上述した制御部109による処理は、動画ファイルに対して所定の編集処理を行う場合にのみ適用されてもよい。所定の編集処理としては、動画ファイルの分割や結合、動画ファイルの記録形式や解像度やフレームレートを変換して記録するトランスコード、RAW動画の1フレームを切り出して静止画を記録できる静止画切り出し等がある。この場合、図3のフローチャートの処理は、編集処理を行う場合にのみ実行される。以上の点は、各実施形態で共通である。
<第2実施形態>
第2実施形態について説明する。第2実施形態では、制御部109は、複数の動画ファイルを結合し、結合した動画ファイルを再生する。図7は、動画の結合および結合した動画の再生の一例を示す図である。図7の例では、動画1、動画2、動画3の順に各動画が結合されている。本実施形態では、制御部109は、結合動画に対して、第1実施形態と同様の処理を施す。
制御部109は、動画1の先頭フレーム1-1に対して巡回NR処理を施すために、動画1の次のフレーム1-2の現像処理を先に行う。同様に、制御部109は、動画2の先頭フレーム2-1に対して巡回NR処理を施すために、動画2の次のフレーム2-2の現像処理を先に行う。また、制御部109は、動画3の先頭フレーム3-1に対して巡回NR処理を施すために、動画3の次のフレーム3-2の現像処理を先に行う。巡回NR処理を施すために用いられるフレーム1-2、2-2および3-2は、表示部111に表示されない。
ここで、動画1と動画2との結合箇所まで再生されたときに、動画2の先頭フレーム2-1に対して巡回NR処理を施すために、次のフレーム2-2に対する現像処理が行われる場合を想定する。この場合、フレーム2-2に現像処理を施すことに起因して、動画の再生が一時停止する。第2実施形態では、制御部109は、結合動画のフレーム2-2および3-2が再生される前に、結合フレーム2-2および3-2に対して施す現像処理を完了させておく。これにより、結合動画が再生されたとしても、一時停止することなく、第1実施形態と同様の効果を得る制御が行われる。
図8は、第2実施形態の結合動画を再生する際の処理の流れの一例を示すフローチャートである。S801で、制御部109は、再生するRAW動画が結合動画であるかを判定する。制御部109は、S801でYesと判定した場合(再生する動画が結合動画である場合)、処理をS802に進める。S802で、制御部109は、結合動画の各フレームに対する現像処理を、結合動画の再生周期の半分以下の速度で実行可能であるかを判定する。制御部109は、S802でYesと判定した場合(結合動画の再生周期の半分以下の速度で現像処理を実行可能な場合)、処理をS803に進める。
S803で、制御部109は、先頭フレームに対する巡回NR処理が完了した時点で結合動画の再生を開始する。結合動画のうち最初の動画の先頭フレームに対して上述した巡回NR処理が施される。そして、結合動画が再生される。S804で、制御部109は、結合動画を再生しながら、結合動画の再生速度の倍速で結合箇所のフレームの次のフレームに現像処理を施して、結合箇所のフレームについての巡回NR処理を行う。つまり、制御部109は、結合動画が再生されている空き時間の間に、結合箇所のフレーム(結合された動画の先頭フレーム)に対して予め巡回NR処理を施して、巡回NR処理の準備を完了させる。
ここで、S804の処理は、S802でYesと判定された場合に実行される。このため、最初に再生される動画が2つのフレームにより構成されている場合でも、次の動画の先頭フレーム(結合箇所のフレーム)が再生される際には巡回NR処理の準備が完了している。従って、結合箇所のフレームが再生されるときには、当該フレームの巡回NR処理の準備は完了しているため、再生中の結合動画が一時停止されることはない。制御部109は、S804の処理の後、図8のフローチャートの処理を終了させる。
制御部109は、S802でNoと判定した場合(動画の再生周期の半分以下の速度で現像処理が実行可能でない場合)、処理をS805に進める。S805で、制御部109は、先頭フレームおよび全ての結合箇所のフレームの巡回NR処理を完了させる。S805の処理が行われることで、結合動画の再生が開始する前に、先頭フレームおよび各結合箇所のフレームについての巡回NR処理の準備が完了する。S806で、制御部109は、結合動画の再生を開始する。結合動画のうち結合箇所のフレームが再生されるときには、当該フレームの巡回NR処理の準備は完了しているため、再生中の結合動画が一時停止されることはない。制御部109は、S806の処理の後、図8のフローチャートの処理を終了させる。
制御部109は、S801でNoと判定した場合(再生する動画が結合動画でない場合)、処理をS807に進める。この場合、動画の結合がされていないため、結合箇所のフレームの巡回NR処理を考慮する必要がない。S807で、制御部109は、再生する動画のうち先頭フレームに巡回NR処理を施す。S807の処理は、第1実施形態で説明した処理と同様である。これにより、先頭フレームについての巡回NR処理の準備が完了する。S808で、動画の再生を開始する。制御部109は、S808の処理の後、図8のフローチャートの処理を終了させる。
上述した例では、S804で、制御部109は、結合箇所のフレーム(次の動画の先頭フレーム)の次のフレームの現像処理を予め行い、巡回NR処理を施した画像(巡回NR処理後画像)を生成する。この点、制御部109は、結合箇所のフレームの次のフレームの現像処理を予め行っておき、結合箇所のフレームの現像処理および巡回NR処理についてはリアルタイムで実施してもよい。
<第3実施形態>
次に、第3実施形態について説明する。第3実施形態では、生成されるRAW動画が生成される際の先頭フレームに対して施される巡回NR処理の強度を弱めて、先頭フレームに発生する残像現象を低減させる。
図9は、振り子を撮影したときのプロキシ動画ファイル、および再生時のRAW動画ファイルの一例を示す図である。プロキシ動画ファイルの7番目~9番目のフレームが、フレーム904~906である。RAW動画ファイルについては、8番目のフレームが先頭フレーム902であり、9番目のフレームが先頭フレーム902の次のフレーム903であるとする。プロキシ動画ファイルのフレーム904~906が順に再生されることで、振り子は左から右に大きく動く動画が表示される。
ここで、制御部109が、RAW動画ファイルの先頭フレーム902に対して、第1実施形態で説明したように、次のフレーム903を先に現像処理してフレーム901とし、フレーム901を用いて巡回NR処理を施した場合を想定する。フレーム901は、フレーム903と同じ画像であり、巡回NR処理に用いられるが、表示はされない。ここで、フレーム901は、振り子の球体が右方向(Bの方向)に大きく振れている。先頭フレーム902に対して、フレーム901を用いて巡回NR処理が施された場合、振り子の球体の残像がB側に生じる。残像は、フレーム間の処理により、フレーム901にある球体の領域と、先頭フレーム902の同一領域とで差分を取ることに起因して生じる現象である。
一方、プロキシ動画ファイルについては、フレーム905に対しては、フレーム904を用いて巡回NR処理が施される。フレーム904は、球体が左方向(Aの方向)に大きく振れている。このため、フレーム904を用いてフレーム905に対して巡回NR処理が施されると、球体の残像がA側に生じる。つまり、RAW動画ファイルとプロキシ動画ファイルとでは、球体の残像が生じる方向が逆方向になる。図9のように、プロキシ動画ファイルとRAW動画ファイルとで、残像が生じる方向が異なると、違和感により視認性が低下する。
第3実施形態の制御部109は、RAW動画を再生する際の先頭フレームに施す巡回NR処理の設定を変更し、先頭フレームに発生する残像現象を低減するための処理を行う。図10は、第3実施形態における制御部109の構成の一例を示す図である。撮像装置100における制御部109以外の他の構成は、図1と同じであるため、説明を省略する。制御部109は、巡回フレーム保持制御部116および巡回フレーム決定部117の他に、映像解析部1001、参照フレーム判定部1002およびノイズリダクション設定制御部1003を含む。
映像解析部1001は、RAW動画の各フレームのうち少なくとも2枚のフレームの映像を解析し、映像の動き量または映像中の被写体の動き量の解析を行う。参照フレーム判定部1002は、解析された動き量に基づき、巡回NRに用いる参照フレームとして、先頭フレームより後のフレームを現像処理した結果(画像データ)を用いるかを判定する。ノイズリダクション設定制御部1003は、参照フレーム判定部1002の判定結果に基づいて、画像信号処理回路107で行われる巡回NR処理の設定を変更する。
図11は、第3実施形態におけるRAW動画再生処理の流れの一例を示すフローチャートである。以下、第3実施形態では、巡回NR処理の強度設定が「弱」であり、先頭フレームに対して巡回NR処理が施される例について説明する。ただし、第3実施形態では、巡回NR処理の強度設定が「強」である場合にも適用可能である。図11のフローチャートの処理は、例えば、ユーザが操作部115を用いてRAW動画の再生を指示したときに開始される。
S1101で、映像解析部1001は、RAW動画の先頭フレーム902に対して巡回NR処理を施す対象のフレーム901としてのフレーム903、および先頭フレーム902を読み出して、2つのフレームから映像解析を行う。このとき、映像解析部1001は、映像解析として、2つのフレームの映像の動き量を解析する。例えば、映像解析部1001は、2つのフレームの画像を所定数のメッシュ枠で分割し、メッシュ枠の内部の画素の輝度値分布の類似度に基づき、2つのフレーム間での枠移動量を水平および垂直の画素値として表した動き量情報を解析する。メッシュ枠の分割数は、例えば、「255×255」のような任意の値であってよい。
S1102で、映像解析部1001は、S1101の解析結果に基づき、残像が発生しやすいかを表す評価値(フレーム評価値)を算出する。フレーム評価値は、フレームに残像が生じる可能性の指標を表す。映像解析部1001は、上述した各メッシュ枠の動き量の最大値をフレーム評価値として、動き量が大きいほどフレーム評価値の値を高くする。映像解析部1001は、残像が発生しやすいシーンであるかの判定に、カメラのパンニングやティルト、被写体の動きを検出するための任意の情報を用いて、フレーム評価値を算出してもよい。例えば、映像解析部1001は、被写体認識を行い、動体である可能性が高い被写体(動く動物やスポーツシーン等)を含むフレームの場合、フレーム評価値は被写体が動体でない場合よりも高くしてもよい。映像解析部1001は、動画を撮影および記録した際に、動画に関連付けて記録されたメタデータに基づき、フレーム評価値を算出してもよい。
S1103で、参照フレーム判定部1002は、映像解析部1001が算出したフレーム評価値が所定の閾値に達しているかを判定する。参照フレーム判定部1002は、S1103でYesと判定した場合(フレーム評価値が所定の閾値に達していない場合)、処理をS1104に進める。この場合、RAW動画ファイルの先頭フレーム902に対して巡回NR処理を施すフレームとして、先頭フレーム902より後のフレームの使用することが許容される。
S1104で、ノイズリダクション設定制御部1003は、巡回NR処理の設定を第1NR設定にする。第1NR設定は、上述した第1実施形態や第2実施形態の巡回NR処理を実施するために適用される設定である。また、第1NR設定はプロキシ動画に対して施す巡回NR処理の設定と同じであってもよい。S1103でYesと判定された場合、フレーム間の動き量がそれほど大きくないため、残像による視認性への影響はある程度低いことが想定される。
参照フレーム判定部1002は、S1103でNoと判定した場合(フレーム評価値が所定の閾値以上の場合)、処理をS1105に進める。この場合、RAW動画ファイルの先頭フレーム902に対して巡回NR処理を施すフレームとして、先頭フレーム902より後のフレームの使用することが許容されない。S1105で、ノイズリダクション設定制御部1003は、巡回NR処理の設定を第2NR設定にする。第2NR設定は、残像を抑える設定である。
巡回NR処理の強度は、巡回係数で表される。巡回係数は、フレーム間の差分の影響を除去する程度を示す数値であり、数値が高いほどノイズリダクション効果が高いことを表す。また、巡回NR処理の回路内には、動体があると判定された場合に、巡回係数を低下させた巡回型ノイズリダクション処理を施すことで残像を低減する処理が施される。S1105で、ノイズリダクション設定制御部1003は、例えば、巡回NR処理回路の動体判定の閾値を下げることで、残像低減を図る設定へ変更してもよい。
S1106で、制御部109は、S1104またはS1105の何れかに設定された巡回NR処理の設定で、先頭フレーム902に巡回NR設定を施す。S1104では、制御部109は、RAW動画ファイルの先頭フレーム902に対して巡回NR処理を施すフレームとして、先頭フレーム902より後のフレームを使用して、第1実施形態や第2実施形態と同様の巡回NR処理を行う。一方、S1105では、制御部109は、RAW動画ファイルの先頭フレーム902に対して巡回NR処理を施すフレームとして、先頭フレーム902より後のフレームを使用しない。このため、S1105で設定された巡回NR処理を施した場合の方が、ノイズリダクション効果が低くなるが、S1105の処理が行われることにより、残像低減が図られる。
ここで、RAW動画ファイルの先頭フレーム902ではS1105の設定に基づき巡回NR処理が施され、先頭フレーム902の次のフレーム903ではS1104の設定に基づき巡回NR処理が施される場合を想定する。この場合、先頭フレーム902と、その次のフレーム903との間の画質に大きな差が生じることになる。このような場合、例えば、先頭フレーム902が再生されたときに現れていたノイズが、次のフレームが再生されたときに急に現れなくなる。このため、2つのフレームの間での画質の差が大きいことに起因して、視認性が低下する。
そこで、制御部109は、先頭フレームに適用する巡回NR処理の設定の変更量を、所定の時定数で再生フレームが進むに応じて低下させて、画質差の変化を低減させてもよい。制御部109は、先頭フレームに適用する巡回NR設定の変更量が大きくなるに応じて、時定数を大きくして、徐々にNR設定の変更量を変化させてもよい。
映像解析部1001は、RAW動画ファイルのフレームを映像解析しているが、RAW動画ファイルと同時に記録されているプロキシ動画ファイルを映像解析してもよい。この場合、プロキシ動画ファイルの映像解析結果に基づき、上記と同様の処理が行われる。また、映像解析部1001は、プロキシ動画ファイルのフレーム904と、RAW動画ファイルのフレーム901、902の現像ファイルの映像解析結果の比較を行ってもよい。この場合、上記の比較の結果に基づき、残像発生方向の差の推定結果に基づき、巡回NR処理の設定が変更されてもよい。
<第4実施形態>
次に、第4実施形態について説明する。第3実施形態では、巡回NR処理の設定を変更することで、残像を低減する処理が行われる。巡回NR処理は、フレーム相関を用いてノイズを低減する処理である。第4実施形態では、フレーム評価値が所定の閾値に達しているかに応じて、フレーム相関を用いない手法で残像を低減する処理(巡回型ではないノイズリダクション処理)が行われる。第4実施形態では、例えば、イプシロンフィルタ等の空間型NR処理が適用される。空間型NR処理では、1フレーム内の情報のみが使用されるため、残像は発生しない。
第4実施形態では、プロキシ動画ファイルの先頭フレームには巡回NR処理が施される。RAW動画ファイルの先頭フレームには、残像が発生しやすいかに応じて、空間型NR処理であるイプシロンフィルタを用いたNR処理が施される。イプシロンフィルタの強度は、着目画素に対する周囲画素領域や周囲画素の加重割合を高める処理が行われる。以下、3×3画素から5×5画素のように、参照画素を広げることでノイズリダクション効果を強くする例が適用される場合について説明する。
図12は、第4実施形態における画像信号処理回路107および制御部109の構成の一例を示す図である。制御部109の各部は、図10と同様である。映像解析部1201は、動画に関連付けて記録されたメタデータの解析を行うこともできる。画像信号処理回路107は、空間型NR処理であるイプシロンフィルタ処理を行う第1ノイズリダクション回路1204および巡回型NR処理を行う第2ノイズリダクション回路1205を含む。
図13は、第4実施形態におけるRAW動画再生処理の流れの一例を示すフローチャートである。S1305以外の各ステップの処理は、図11と同様である。S1305で、ノイズリダクション設定制御部1203は、NR処理の設定をイプシロン型NRに設定する。このとき、ノイズリダクション設定制御部1203は、プロキシ動画ファイルを記録する際に設定されている巡回NRの設定値をメタデータから解析し、巡回NRの設定値からノイズリダクション効果が略一定となるイプシロンフィルタ設定への変換を行う。設定値の変換は、例えば、ノイズリダクション効果が近く、弊害が許容可能な変換設定テーブルデータに基づき行われる。変換設定テーブルデータは、例えば、第2メモリ部114に保持される。
巡回NR処理は動画の残像が弊害となり、空間フィルタ型のノイズ低減は解像度低下が弊害となる。そのため、用意する変換設定テーブルデータは、事前に適正な値に調整されている。変換設定テーブルデータには、R1(弱:巡回係数2)、P1(弱:3×3画素)、R2(強:巡回係数4)、P2(強:5×5画素)の順に、巡回NR設定からイプシロンフィルタ設定への設定がされている。つまり、巡回NR設定のノイズリダクション効果が高くなるに応じて、巡回型ではないイプシロンフィルタ処理のノイズリダクション効果が高くなる設定が、変換設定テーブルデータにされている。S1305が実行された場合には、S1306で、イプシロン型のNR処理が実施される。
以上のように、第4実施形態では、残像が生じやすい場合には、イプシロン型のNR処理が実施される。これにより、RAW動画ファイルが再生される際に、プロキシ画像ファイルと異なる方向に出現する残像の程度を抑えることが可能となるとともに、ノイズリダクション効果を略一定にすることができる。
<第5実施形態>
次に、第5実施形態について説明する。図14は、第4実施形態における制御部109の構成の一例を示す図である。図14の制御部109は、図10の制御部109に、メタデータ付加部1404およびメタデータ解析部1405が追加されている。他の構成は、図10の制御部109と同様である。映像解析部1001は、算出した動き量や参照フレーム判定部1002が判定した結果を示す情報を第2メモリ部114に記憶する。メタデータ付加部1404は、第2メモリ部114に記憶された演算結果をメタデータとして記録媒体112に画像データとともに記録する。メタデータ解析部1405は、記録媒体112から読み出した画像データおよびメタデータを第2メモリ部114に記憶するとともに、メタデータの解析を行う。メタデータの解析結果は、参照フレーム判定部1002が参照することができる。
図15は、第5実施形態におけるRAW動画記録処理のフローチャートの一例を示す図である。以下、RAW動画は、60fpsのフレームレートで記録されるものとして説明するが、フレームレートは任意の値であってもよい。図15のフローチャートの処理は、例えば、ユーザが操作部115を用いて、動画記録を指示した後にフレームごとに実行される。記録されたRAW動画は、再生されるときの先頭フレームに対して巡回NR処理が施されるものとする。
S1501で、映像解析部1001は、少なくとも2枚のフレーム(現在のフレームおよび前回のフレーム)を映像解析して、映像解析結果に基づき動き量を算出する。S1502で、参照フレーム判定部1002は、巡回NR処理に用いる参照フレームとしてN+1以降のフレームの現像結果を用いるかを判定する。S1502の判定は、S1501で算出された動き量が所定量以上であるかに基づき、行われる。所定量は、任意の値に設定可能である。例えば、制御部109は、S1502で、図11のS1103と同様の判定を行ってもよい。
参照フレーム判定部1002は、S1502でYesと判定した場合(N+1以降のフレームの現像結果を用いる場合)、処理をS1503に進める。一方、参照フレーム判定部1002は、S1502でNoと判定した場合(N+1以降のフレームの現像結果を用いない場合)、処理をS1504に進める。S1503で、メタデータ付加部1404は、巡回NRへの適用が許容されることを示す情報をメタデータに設定する。S1504で、メタデータ付加部1404は、巡回NRへの適用が許容されないことを示す情報をメタデータに設定する。
S1505で、メタデータ付加部1404は、S1501で算出された動き量をメタデータに設定する。S1506で、制御部109は、上述したメタデータをRAW動画ファイルとともに記録媒体112に記録する。
図16は、RAW動画記録処理の第1の例を示す図である。第1の例は、残像が見えにくい通常シーンでRAW動画を撮影する際に行われる処理である。図16の例では、動画を撮影するフレームレートは、600fpsである。制御部109は、撮像素子106に蓄積された被写体像を読み出し、画像信号処理回路107に画像処理を実施させる。画像処理された画像のフレームは、記録媒体112にRAW記録画像として記録される。
映像解析部1001や巡回フレーム決定部117が算出した値は、上述したメタデータとともに第2メモリ部114に記憶されている。第1の例は、残像が見えにくい通常シーンでRAW動画を撮影する際に行われるため、S1503で、メタデータには巡回NR処理に適用できることを示す情報がメタデータ付加部1404により付加される。図16の例では、巡回NR処理に適用できることを示す情報が、巡回NR利用有無に値「1」として記録される。
図17は、RAW動画記録処理の第2の例を示す図である。第2の例は、残像が視認され易いシーンでRAW動画を撮影する際に行われる処理である。図17の例に示されるように、RAW動画の各フレームの映像は、動き量が大きいことに起因して、残像が視認され易い。ここで、S1504で、メタデータには巡回NR処理に適用できないことを示す情報がメタデータ付加部1404により付加される。図17の例では、巡回NR処理に適用できないことを示す情報が、巡回NR利用有無に値「0」として記録される。
第5実施形態では、RAW動画記録処理が行われる際に、RAW動画ともに巡回NR処理に関するメタデータを記録しておくことが可能となる。第5実施形態は、第3実施形態および第4実施形態の制御が行われる際に適用されると有効である。
以上、本発明の好ましい実施の形態について説明したが、本発明は上述した各実施の形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。本発明は、上述の各実施の形態の1以上の機能を実現するプログラムを、ネットワークや記憶媒体を介してシステムや装置に供給し、そのシステム又は装置のコンピュータの1つ以上のプロセッサーがプログラムを読み出して実行する処理でも実現可能である。また、本発明は、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 撮像装置
106 撮像素子
109 制御部
1001 映像解析部
1002 参照フレーム判定部
1003 ノイズリダクション設定制御部
1204 第1ノイズリダクション回路
1205 第2ノイズリダクション回路

Claims (17)

  1. 動画を取得する手段と、
    前記動画を再生する際に、再生時の先頭フレームよりも後の1以上のフレームを用いて、前記先頭フレームに対してノイズリダクション処理を施し、前記先頭フレーム以外のフレームに対して当該フレームよりも前の1以上のフレームを用いて巡回型ノイズリダクション処理を施す手段と、を備えることを特徴とする画像処理装置。
  2. 前記ノイズリダクション処理の強度設定に応じて、前記ノイズリダクション処理に用いられるフレームの数を変化させる、ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記ノイズリダクション処理に用いられるフレームの数には一定の制限が設けられる、ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記先頭フレームから、露光時間に応じて蓄積されるフレーム数より後の1以上のフレームが前記ノイズリダクション処理に用いられる、ことを特徴とする請求項1または2に記載の画像処理装置。
  5. 複数の前記動画のうち何れかの前記動画を選択するための画面を表示させる手段と、
    前記画面が表示されているときに選択された前記動画の先頭フレームに対して前記ノイズリダクション処理を適用する際に用いられる1以上のフレームの現像処理を実施させる手段と、をさらに備えることを特徴とする請求項1乃至4のうち何れか1項に記載の画像処理装置。
  6. 前記画面で選択中の前記動画が変更された場合、変更された前記動画の先頭フレームに対して前記ノイズリダクション処理を適用する際に用いられる1以上のフレームの現像処理が実施される、ことを特徴とする請求項5に記載の画像処理装置。
  7. 前記画面で前記動画の選択が確定したことに応じて、前記現像処理が行われた1以上のフレームを用いて、前記先頭フレームに対して前記ノイズリダクション処理が施される、ことを特徴とする請求項5または6に記載の画像処理装置。
  8. 前記先頭フレームに対して施される前記ノイズリダクション処理に適用される前記1以上のフレームは表示されない、ことを特徴とする請求項1乃至7のうち何れか1項に記載の画像処理装置。
  9. 複数の前記動画を結合した結合動画を再生する際、結合箇所のフレームを前記先頭フレームとして、当該先頭フレームに対して前記ノイズリダクション処理が施される、ことを特徴とする請求項1乃至8のうち何れか1項に記載の画像処理装置。
  10. 前記フレームの現像処理を行う速度に応じて、前記結合動画を再生しながら前記結合箇所のフレームに対して前記ノイズリダクション処理を施すか、または前記結合動画を再生する前に前記結合箇所のフレームに対して前記ノイズリダクション処理を施すかが制御される、ことを特徴とする請求項9に記載の画像処理装置。
  11. 前記フレームの現像処理を前記結合動画の再生周期の半分以下で実行可能な場合、前記結合動画を再生しながら前記結合箇所のフレームに対して前記ノイズリダクション処理が施され、
    前記フレームの現像処理を前記結合動画の再生周期の半分以下で実行可能でない場合、前記結合動画を再生する前に前記結合箇所のフレームに対して前記ノイズリダクション処理が施される、ことを特徴とする請求項10に記載の画像処理装置。
  12. フレームに残像が生じる可能性の指標を表す評価値が所定の閾値に達しているかに基づき、前記先頭フレームよりも後の1以上のフレームを用いて前記先頭フレームに対して前記ノイズリダクション処理を行うかが制御される、ことを特徴とする請求項1乃至11のうち何れか1項に記載の画像処理装置。
  13. 前記評価値は、フレームの映像または当該映像の中の被写体の動き量の解析結果に基づき評価される、請求項12に記載の画像処理装置。
  14. 前記動画の各フレームに、前記先頭フレームに対するノイズリダクション処理に前記先頭フレームよりも後の1以上のフレームを用いることが許容されるか否かの情報が付加される、ことを特徴とする請求項1乃至13のうち何れか1項に記載の画像処理装置。
  15. 前記動画を取得する手段はRAW動画を取得する、ことを特徴とする請求項1乃至14のうち何れか1項に記載の画像処理装置。
  16. 動画を取得する工程と、
    前記動画を再生する際に、再生時の先頭フレームよりも後の1以上のフレームを用いて、前記先頭フレームに対してノイズリダクション処理を施し、前記先頭フレーム以外のフレームに対して当該フレームよりも前の1以上のフレームを用いて巡回型ノイズリダクション処理を施す工程と、を備えることを特徴とする画像処理方法。
  17. 請求項1乃至15のうち何れか1項に記載の画像処理装置の各手段をコンピュータに実行させるためのプログラム。
JP2021057794A 2021-03-30 2021-03-30 画像処理装置、画像処理方法およびプログラム Active JP7714362B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021057794A JP7714362B2 (ja) 2021-03-30 2021-03-30 画像処理装置、画像処理方法およびプログラム
US17/702,532 US20220321742A1 (en) 2021-03-30 2022-03-23 Image processing apparatus that carries out noise reduction process when playing video, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021057794A JP7714362B2 (ja) 2021-03-30 2021-03-30 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2022154659A JP2022154659A (ja) 2022-10-13
JP7714362B2 true JP7714362B2 (ja) 2025-07-29

Family

ID=83448561

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021057794A Active JP7714362B2 (ja) 2021-03-30 2021-03-30 画像処理装置、画像処理方法およびプログラム

Country Status (2)

Country Link
US (1) US20220321742A1 (ja)
JP (1) JP7714362B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2025230224A1 (ko) * 2024-04-29 2025-11-06 삼성전자 주식회사 생성형 ai를 이용하여 디지털 줌 이미지를 생성하는 방법 및 이를 수행하기 위한 전자 기기

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009089177A (ja) 2007-10-01 2009-04-23 Canon Inc 画像処理装置及びその方法
JP2010011482A (ja) 2009-10-01 2010-01-14 Mitsubishi Electric Corp ノイズ除去装置、ノイズ除去方法、および映像信号表示装置
JP2012231318A (ja) 2011-04-26 2012-11-22 Tokai Rika Co Ltd デジタルチューナ
JP2015126370A (ja) 2013-12-26 2015-07-06 キヤノン株式会社 画像処理装置及び撮像信号の処理方法
JP2015132949A (ja) 2014-01-10 2015-07-23 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2017050646A (ja) 2015-08-31 2017-03-09 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2017076904A (ja) 2015-10-15 2017-04-20 キヤノン株式会社 画像処理装置及びその制御方法、撮像装置、並びにプログラム
JP2019062528A (ja) 2017-09-27 2019-04-18 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置、およびプログラム
JP2020136892A (ja) 2019-02-19 2020-08-31 キヤノン株式会社 撮像装置、画像処理装置、制御方法、画像処理方法、及びプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8098256B2 (en) * 2005-09-29 2012-01-17 Apple Inc. Video acquisition with integrated GPU processing
WO2008099685A1 (ja) * 2007-02-01 2008-08-21 Sony Corporation 画像再生装置と画像再生方法および撮像装置とその制御方法
JP5460146B2 (ja) * 2009-07-01 2014-04-02 キヤノン株式会社 撮像装置及びその制御方法
JP5603676B2 (ja) * 2010-06-29 2014-10-08 オリンパス株式会社 画像処理装置及びプログラム
US20130321675A1 (en) * 2012-05-31 2013-12-05 Apple Inc. Raw scaler with chromatic aberration correction
CN103632352B (zh) * 2013-11-01 2017-04-26 华为技术有限公司 一种噪声图像的时域降噪方法和相关装置
JP6664240B2 (ja) * 2016-03-09 2020-03-13 キヤノン株式会社 撮像システム並びに撮像装置及びその制御方法
US11671704B2 (en) * 2020-11-13 2023-06-06 Samsung Electronics Co., Ltd. Electronic device including a plurality of image sensors and method for thereof

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009089177A (ja) 2007-10-01 2009-04-23 Canon Inc 画像処理装置及びその方法
JP2010011482A (ja) 2009-10-01 2010-01-14 Mitsubishi Electric Corp ノイズ除去装置、ノイズ除去方法、および映像信号表示装置
JP2012231318A (ja) 2011-04-26 2012-11-22 Tokai Rika Co Ltd デジタルチューナ
JP2015126370A (ja) 2013-12-26 2015-07-06 キヤノン株式会社 画像処理装置及び撮像信号の処理方法
JP2015132949A (ja) 2014-01-10 2015-07-23 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2017050646A (ja) 2015-08-31 2017-03-09 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2017076904A (ja) 2015-10-15 2017-04-20 キヤノン株式会社 画像処理装置及びその制御方法、撮像装置、並びにプログラム
JP2019062528A (ja) 2017-09-27 2019-04-18 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置、およびプログラム
JP2020136892A (ja) 2019-02-19 2020-08-31 キヤノン株式会社 撮像装置、画像処理装置、制御方法、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
JP2022154659A (ja) 2022-10-13
US20220321742A1 (en) 2022-10-06

Similar Documents

Publication Publication Date Title
JP5133816B2 (ja) カメラ、画像合成方法、およびプログラム
JP4483501B2 (ja) 静止画を動画再生するための前処理を行う画像処理装置、プログラム、および方法
US9769377B2 (en) Imaging apparatus and control method for handling a raw image of a moving image or a still image
US10033931B2 (en) Image processing apparatus and image processing method for processing still image data
JP4992860B2 (ja) 撮像装置及びプログラム
KR101871675B1 (ko) 촬상장치, 및 그 제어 방법
JP6304293B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4556195B2 (ja) 撮像装置、動画再生装置及びそのプログラム
JP6323022B2 (ja) 画像処理装置
JP5532561B2 (ja) 撮像装置、画像再生装置、画像変換装置、画像再生プログラム
JP5241559B2 (ja) 画像記録再生装置
US8711239B2 (en) Program recording medium, image processing apparatus, imaging apparatus, and image processing method
JP2009044329A (ja) プログラム、画像処理方法および画像処理装置
US20220321742A1 (en) Image processing apparatus that carries out noise reduction process when playing video, image processing method, and storage medium
JP2008131617A (ja) 映像処理装置
JP5217709B2 (ja) 画像処理装置および撮像装置
JP5213557B2 (ja) 動画像処理装置および動画像処理方法
JP5602818B2 (ja) カメラ、画像再生装置、画像合成方法、およびプログラム
JP2007166539A (ja) 撮像装置、撮像方法、プログラムおよび記憶媒体
JP2013118564A (ja) 撮像装置、画像表示装置及び画像表示プログラム
JP2013021654A (ja) 再生装置
JP2021180398A (ja) 撮像装置および撮像装置の制御方法
JP5697458B2 (ja) 動画記録装置、その制御方法、動画再生装置、及び動画記録再生システム
JP2014175739A (ja) 動画処理装置
JP2010021709A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250325

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250617

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250716

R150 Certificate of patent or registration of utility model

Ref document number: 7714362

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150