JPH07203294A - 画面変化決定方法 - Google Patents
画面変化決定方法Info
- Publication number
- JPH07203294A JPH07203294A JP6335125A JP33512594A JPH07203294A JP H07203294 A JPH07203294 A JP H07203294A JP 6335125 A JP6335125 A JP 6335125A JP 33512594 A JP33512594 A JP 33512594A JP H07203294 A JPH07203294 A JP H07203294A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- signal
- match
- value
- screen
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/68—Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/02—Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
- G11B27/031—Electronic editing of digitised analogue information signals, e.g. audio or video signals
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
- G06T7/231—Analysis of motion using block-matching using full search
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
- G11B27/19—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
- G11B27/28—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/142—Detection of scene cut or scene change
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/179—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/87—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/147—Scene change detection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B2220/00—Record carriers by type
- G11B2220/60—Solid state media
- G11B2220/65—Solid state media wherein solid state memory is used for storing indexing information or metadata
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Circuits (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
(57)【要約】
【目的】 突然及び段階的場面変化の両方を検出できる
方法を提供する。 【構成】 画像連続画面(ビデオプログラム)の連続フ
レームが取得され、デジタル化される。画像は複数個の
矩形領域に細分される。現在のフレームとD番目の先行
フレームとの間でブロックマッチングを行い、マッチ信
号を決定する。マッチ信号は、最初のフレームの領域が
次のフレームの各マッチング領域と概ね同様な画像情報
を包含する最尤を示す。マッチ信号は、最適マッチを画
定するマッチ信号で始まり、最悪マッチを画定するマッ
チ信号で終わるように配列される。最初のS個のマッチ
信号が選択され、一緒に平均化される。瞬時マッチ(I
M)信号を得るために、Sの値はユーザが画定すること
ができ、0以上で、各フレームが分割される領域の個数
以下である。IM信号は、最初のフレームが次のフレー
ムと異なる場面に属するか否か決定するための基準を提
供する。最後に、IM信号が特定の決定基準を満たす場
合、場面変化が表示される。
方法を提供する。 【構成】 画像連続画面(ビデオプログラム)の連続フ
レームが取得され、デジタル化される。画像は複数個の
矩形領域に細分される。現在のフレームとD番目の先行
フレームとの間でブロックマッチングを行い、マッチ信
号を決定する。マッチ信号は、最初のフレームの領域が
次のフレームの各マッチング領域と概ね同様な画像情報
を包含する最尤を示す。マッチ信号は、最適マッチを画
定するマッチ信号で始まり、最悪マッチを画定するマッ
チ信号で終わるように配列される。最初のS個のマッチ
信号が選択され、一緒に平均化される。瞬時マッチ(I
M)信号を得るために、Sの値はユーザが画定すること
ができ、0以上で、各フレームが分割される領域の個数
以下である。IM信号は、最初のフレームが次のフレー
ムと異なる場面に属するか否か決定するための基準を提
供する。最後に、IM信号が特定の決定基準を満たす場
合、場面変化が表示される。
Description
【0001】
【産業上の利用分野】本発明はビデオ番組のような画像
連続画面における画面変化を自動的に検出する方法及び
装置に関する。
連続画面における画面変化を自動的に検出する方法及び
装置に関する。
【0002】
【従来の技術】ビデオ番組は一般的に、異なる画面の寄
せ集めから構成されている。各画面は内容と緊密に関連
する画像情報を包含する。また、各画面は一連のフレー
ムから構成されている。ここで使用する“フレーム”と
いう用語は“画像”という用語と互換的に使用される。
せ集めから構成されている。各画面は内容と緊密に関連
する画像情報を包含する。また、各画面は一連のフレー
ムから構成されている。ここで使用する“フレーム”と
いう用語は“画像”という用語と互換的に使用される。
【0003】2つの画面の切替は様々な方法で行うこと
ができる。最も直接的な切替は、一連のフレーム内の隣
接するフレーム間で起こる突然の切替である。このタイ
プの切替は“バット・エディット(butt-edit)”切替と
呼ばれ、2つの画面を形成する一連のフレーム内の単一
の点により確定される。突然切替ではなく、2個以上の
フレームに亙って生起する段階的切替は、画面の最終フ
レームのコントラストを0にまで徐々に低下(すなわ
ち、フェードアウト)させ、その後、次の画面のコント
ラストを0からその標準レベルにまで上昇(すなわち、
フェードイン)させることにより行うことができる。
ができる。最も直接的な切替は、一連のフレーム内の隣
接するフレーム間で起こる突然の切替である。このタイ
プの切替は“バット・エディット(butt-edit)”切替と
呼ばれ、2つの画面を形成する一連のフレーム内の単一
の点により確定される。突然切替ではなく、2個以上の
フレームに亙って生起する段階的切替は、画面の最終フ
レームのコントラストを0にまで徐々に低下(すなわ
ち、フェードアウト)させ、その後、次の画面のコント
ラストを0からその標準レベルにまで上昇(すなわち、
フェードイン)させることにより行うことができる。
【0004】或る画面がフェードアウトされ、一方、別
の画面がフェードイン(すなわち、ディソルブ,ブレン
ド)される場合、切替は、両方の画面に属するフレーム
からの対応する画素の組合せである画素を有する一連の
中間フレームからなる。突然切替と対照的に、ディソル
ブ又はブレンドは2つの画面を分離する明確なブレーク
ポイントを有しない。
の画面がフェードイン(すなわち、ディソルブ,ブレン
ド)される場合、切替は、両方の画面に属するフレーム
からの対応する画素の組合せである画素を有する一連の
中間フレームからなる。突然切替と対照的に、ディソル
ブ又はブレンドは2つの画面を分離する明確なブレーク
ポイントを有しない。
【0005】前記の切替方法に加えて、デジタル編集装
置により他のタイプの切替を形成することができる。装
置の様々な編集モードにより形成することができるこれ
らの切替は次のような効果を有する。次の画面が先行
セグメント(水平的又は垂直的)から徐々にシフトアウ
トする、次の画面はロールされず、前の画面をカバー
する(トップ,サイド又はコーナーから),前の画面
は縮退し、次の画面をカバーしない,次の画面は前の
画面のトップで縮小サイズで現れはじめ、そして拡張
し、前の画面をカバーする。
置により他のタイプの切替を形成することができる。装
置の様々な編集モードにより形成することができるこれ
らの切替は次のような効果を有する。次の画面が先行
セグメント(水平的又は垂直的)から徐々にシフトアウ
トする、次の画面はロールされず、前の画面をカバー
する(トップ,サイド又はコーナーから),前の画面
は縮退し、次の画面をカバーしない,次の画面は前の
画面のトップで縮小サイズで現れはじめ、そして拡張
し、前の画面をカバーする。
【0006】編集モードの種類は広範多岐にわたるの
で、可能なバリエーションをここで全て説明することは
できない。しかし、全てに共通する特徴は、不明確な隣
接ビデオセグメント間で切替が行われることである。こ
のような切替は段階的画面変化と分類される。
で、可能なバリエーションをここで全て説明することは
できない。しかし、全てに共通する特徴は、不明確な隣
接ビデオセグメント間で切替が行われることである。こ
のような切替は段階的画面変化と分類される。
【0007】画面変化を検出する公知の方法は、階調分
布及び適所テンプレートマッチングなどに基づく様々な
方法を含む。このような方法は、効率的な方法でビデオ
セグメントを組織化し、そして選択的に検索するため
に、ビデオ編集及びビデオインデクシングのような様々
な目的に使用できる。
布及び適所テンプレートマッチングなどに基づく様々な
方法を含む。このような方法は、効率的な方法でビデオ
セグメントを組織化し、そして選択的に検索するため
に、ビデオ編集及びビデオインデクシングのような様々
な目的に使用できる。
【0008】公知の方法は例えば、米国特許第5179
449号明細書に開示されており、また、エー・ナガサ
カ(A.Nagasaka)らの“オブジェクト・アピアランスのた
めの自動ビデオインデクシング及びフルビデオサーチ”
(ビジュアル・データベース・システムズに関する第2
回作業会議会報(ビジュアル・データベース・システム
ズII),113〜117頁),ケー・オーツジ(K.Ots
uji)らの“輝度データを使用するビデオ走査検索”(S
PIEビジュアル通信及び画像処理(VCIP’91)
会報(SPIE Vol.1606),980〜989
頁)及びディー・スワンベルグ(D.Swanberg)らの“ビデ
オデータベースにおける知識ガイド型構文解析”(19
93年2月にサンホセで行われた、SPIE画像及びビ
デオデータベースの記憶と検索会報(SPIE Vo
l.1908),13〜24頁)などの論文中にも開示
されている。
449号明細書に開示されており、また、エー・ナガサ
カ(A.Nagasaka)らの“オブジェクト・アピアランスのた
めの自動ビデオインデクシング及びフルビデオサーチ”
(ビジュアル・データベース・システムズに関する第2
回作業会議会報(ビジュアル・データベース・システム
ズII),113〜117頁),ケー・オーツジ(K.Ots
uji)らの“輝度データを使用するビデオ走査検索”(S
PIEビジュアル通信及び画像処理(VCIP’91)
会報(SPIE Vol.1606),980〜989
頁)及びディー・スワンベルグ(D.Swanberg)らの“ビデ
オデータベースにおける知識ガイド型構文解析”(19
93年2月にサンホセで行われた、SPIE画像及びビ
デオデータベースの記憶と検索会報(SPIE Vo
l.1908),13〜24頁)などの論文中にも開示
されている。
【0009】これら公知の方法は不完全である。なぜな
ら、これらの方法は同様な階調分布を有する異なる画面
間の段階的切替又は画面カットを検出できないからであ
る。更に、これらの方法は、高速モーションの存在下で
不正確な検出を起こし、また、これらの方法は突然の画
面変化を検出しない。
ら、これらの方法は同様な階調分布を有する異なる画面
間の段階的切替又は画面カットを検出できないからであ
る。更に、これらの方法は、高速モーションの存在下で
不正確な検出を起こし、また、これらの方法は突然の画
面変化を検出しない。
【0010】
【発明が解決しようとする課題】従って、本発明の目的
は、同様な階調分布を有する異なる画面間の段階的切替
又は画面カットを検出でき、高速モーションの存在下で
も不正確な検出を起こさず、突然の画面変化を検出でき
る画面変化検出方法を提供することである。
は、同様な階調分布を有する異なる画面間の段階的切替
又は画面カットを検出でき、高速モーションの存在下で
も不正確な検出を起こさず、突然の画面変化を検出でき
る画面変化検出方法を提供することである。
【0011】
【課題を解決するための手段】前記課題を解決するため
に、本発明では、ビデオプログラムにおける画面変化を
検出する方法及び装置を提供する。従来の画面変化検出
器と対照的に、本発明の装置は、突然及び段階的画面変
化の両方とも検出できる。
に、本発明では、ビデオプログラムにおける画面変化を
検出する方法及び装置を提供する。従来の画面変化検出
器と対照的に、本発明の装置は、突然及び段階的画面変
化の両方とも検出できる。
【0012】画像連続画面(すなわち、ビデオプログラ
ム)の連続フレームが取得され、デジタル化される。画
像は複数個の矩形領域に細分される。現在のフレームと
D番目の先行フレームとの間でブロックマッチングを行
い、マッチ信号を決定する。マッチ信号は、最初のフレ
ームの領域が次のフレームの各マッチング領域と概ね同
様な画像情報を包含する最尤を示す。マッチ信号は、最
適マッチを画定するマッチ信号で始まり、最悪マッチを
画定するマッチ信号で終わるように配列される。
ム)の連続フレームが取得され、デジタル化される。画
像は複数個の矩形領域に細分される。現在のフレームと
D番目の先行フレームとの間でブロックマッチングを行
い、マッチ信号を決定する。マッチ信号は、最初のフレ
ームの領域が次のフレームの各マッチング領域と概ね同
様な画像情報を包含する最尤を示す。マッチ信号は、最
適マッチを画定するマッチ信号で始まり、最悪マッチを
画定するマッチ信号で終わるように配列される。
【0013】最初のS個のマッチ信号が選択され、一緒
に平均化される。瞬時マッチ(IM)信号を得るため
に、Sの値はユーザが画定することができ、1以上、各
フレームが分割される領域の個数以下である。IM信号
は、最初のフレームが次のフレームと異なる画面に属す
るか否か決定するための基準を提供する。最後に、IM
信号が特定の決定基準を満たす場合、画面変化が表示さ
れる。
に平均化される。瞬時マッチ(IM)信号を得るため
に、Sの値はユーザが画定することができ、1以上、各
フレームが分割される領域の個数以下である。IM信号
は、最初のフレームが次のフレームと異なる画面に属す
るか否か決定するための基準を提供する。最後に、IM
信号が特定の決定基準を満たす場合、画面変化が表示さ
れる。
【0014】本発明の別の実施例では、IM信号は時相
的に濾波され、画面変化が表示される前に、累積マッチ
(CM)信号を発生する。その結果、段階的画面変化を
検出できる。時相濾波は、1未満の可変利得を有する変
形1階無限インパルス応答デジタルフィルタのようなデ
ジタルフィルタにより行うことができる。この場合、画
面変化は、IM及びCM信号の両方が特定の決定基準を
満たす場合に表示される。
的に濾波され、画面変化が表示される前に、累積マッチ
(CM)信号を発生する。その結果、段階的画面変化を
検出できる。時相濾波は、1未満の可変利得を有する変
形1階無限インパルス応答デジタルフィルタのようなデ
ジタルフィルタにより行うことができる。この場合、画
面変化は、IM及びCM信号の両方が特定の決定基準を
満たす場合に表示される。
【0015】画面変化が生じた一連のフレームにおける
これらフレームの位置を示す、本発明により発生される
出力信号は、所望の全ての用途で使用できる。このよう
な用途は、新たな画面の開始及び画面の内容を表示する
ための新たな画面からの最初の(又は幾つかの他の)フ
レームの保留のインデクシングを含む。
これらフレームの位置を示す、本発明により発生される
出力信号は、所望の全ての用途で使用できる。このよう
な用途は、新たな画面の開始及び画面の内容を表示する
ための新たな画面からの最初の(又は幾つかの他の)フ
レームの保留のインデクシングを含む。
【0016】
【実施例】以下、図面を参照しながら本発明を具体的に
説明する。
説明する。
【0017】図1は本発明による画面変化検出器2のブ
ロック図である。検出器2は、画像デジタイザ3,画像
プロセッサ4及びデジタルコンピュータ7を有する。画
像プロセッサ4は現行及び先行フレームのデジタル化画
像を保持し、画像プロセッサ4により生成された中間結
果を記憶するための画像メモリ6を有する。画像プロセ
ッサ4は、画像メモリ6内に包含される画像を処理する
ためのプロセッサ5を有する。
ロック図である。検出器2は、画像デジタイザ3,画像
プロセッサ4及びデジタルコンピュータ7を有する。画
像プロセッサ4は現行及び先行フレームのデジタル化画
像を保持し、画像プロセッサ4により生成された中間結
果を記憶するための画像メモリ6を有する。画像プロセ
ッサ4は、画像メモリ6内に包含される画像を処理する
ためのプロセッサ5を有する。
【0018】本発明の別の実施例では、デジタルコンピ
ュータ7は画像プロセッサ4のタスクを実行する。従っ
て、画像プロセッサ4を別個に使用する必要がない。図
2はデジタルコンピュータ7で実現される、下記で詳細
に説明するような本発明のステップの一例を示す流れ図
である。
ュータ7は画像プロセッサ4のタスクを実行する。従っ
て、画像プロセッサ4を別個に使用する必要がない。図
2はデジタルコンピュータ7で実現される、下記で詳細
に説明するような本発明のステップの一例を示す流れ図
である。
【0019】検出器2への入力は、ビデオカセットレコ
ーダ又はテレビチューナなどのようなアナログ又はデジ
タルビデオソースにより供給される。ビデオソース1は
特定のビデオ規格に限定されない。例えば、画像連続画
面を記憶するコンピュータメモリ又はディスクのような
画像情報の他のソースも含む。より一般的には、ビデオ
ソースは画像情報帯有フレームを供給するものであれば
全てソースとなり得る。
ーダ又はテレビチューナなどのようなアナログ又はデジ
タルビデオソースにより供給される。ビデオソース1は
特定のビデオ規格に限定されない。例えば、画像連続画
面を記憶するコンピュータメモリ又はディスクのような
画像情報の他のソースも含む。より一般的には、ビデオ
ソースは画像情報帯有フレームを供給するものであれば
全てソースとなり得る。
【0020】ビデオソース1がアナログ入力を供給する
場合、この入力は先ず画像デジタイザ3に送られる。ビ
デオソース1がデジタル入力を供給する場合、この入力
は画像プロセッサ4に直接送られる。画面変化検出器2
の出力は画面検出信号11である。この信号11は画面
変化検出アプリケーションに送信される。このアプリケ
ーションは、ビデオ編集及びビデオインデクシングのよ
うなアプリケーション範囲を含む。
場合、この入力は先ず画像デジタイザ3に送られる。ビ
デオソース1がデジタル入力を供給する場合、この入力
は画像プロセッサ4に直接送られる。画面変化検出器2
の出力は画面検出信号11である。この信号11は画面
変化検出アプリケーションに送信される。このアプリケ
ーションは、ビデオ編集及びビデオインデクシングのよ
うなアプリケーション範囲を含む。
【0021】本発明の或る部品は、2つのフレーム間の
類似性(又は非類似性)を測定するための手順を含む。
最も単純なケースでは、画像情報(以下、「テンプレー
ト画像」という)を有するフレームは、点毎に(すなわ
ち、画素毎に)2個のフレーム間の相違を決定すること
により、一連のフレーム(これらのうちの少なくとも一
つはテンプレートフレームの重複である)と容易に比較
することができる。換言すれば、テンプレート画像の強
度又は色彩のような特定の画像特性を一連のフレーム内
の各フレームの対応特性と比較する。画像特性の相違が
フレーム内の全ての点で0であるフレームは重複フレー
ムである。
類似性(又は非類似性)を測定するための手順を含む。
最も単純なケースでは、画像情報(以下、「テンプレー
ト画像」という)を有するフレームは、点毎に(すなわ
ち、画素毎に)2個のフレーム間の相違を決定すること
により、一連のフレーム(これらのうちの少なくとも一
つはテンプレートフレームの重複である)と容易に比較
することができる。換言すれば、テンプレート画像の強
度又は色彩のような特定の画像特性を一連のフレーム内
の各フレームの対応特性と比較する。画像特性の相違が
フレーム内の全ての点で0であるフレームは重複フレー
ムである。
【0022】重複フレームがテンプレートフレームに対
してシフトされている場合、マッチング処理は一層複雑
に行われる。この場合、テンプレートフレームと重複フ
レームとの点毎のマッチングは大きな画素値を有する差
分フレームを生じる。なぜなら、テンプレートフレーム
内の画素は重複フレーム内の適当な画素に対して比較さ
れないからである。しかし、テンプレートフレームを重
複フレームと同じ量だけシフトすることにより良好なマ
ッチングを行わせることができる。
してシフトされている場合、マッチング処理は一層複雑
に行われる。この場合、テンプレートフレームと重複フ
レームとの点毎のマッチングは大きな画素値を有する差
分フレームを生じる。なぜなら、テンプレートフレーム
内の画素は重複フレーム内の適当な画素に対して比較さ
れないからである。しかし、テンプレートフレームを重
複フレームと同じ量だけシフトすることにより良好なマ
ッチングを行わせることができる。
【0023】このマッチング処理は、測定される画像特
性の差が最小である位置を発見するために、テンプレー
トフレームの多数の異なる位置について差分フレームを
計算することを必要とする。この方法は、2個のフレー
ム間のマッチを確立するだけでなく、テンプレートフレ
ームに対する重複フレームのシフトの大きさ及び方向を
確定するモーションベクトルも計算する。この方法は
“モーション系テンプレートマッチング”と呼ばれる。
性の差が最小である位置を発見するために、テンプレー
トフレームの多数の異なる位置について差分フレームを
計算することを必要とする。この方法は、2個のフレー
ム間のマッチを確立するだけでなく、テンプレートフレ
ームに対する重複フレームのシフトの大きさ及び方向を
確定するモーションベクトルも計算する。この方法は
“モーション系テンプレートマッチング”と呼ばれる。
【0024】モーション系テンプレートマッチングは、
フレームの全内容がテンプレートフレームと重複フレー
ムとの間で同じ変換モーションを受ける場合に有効であ
る。例えば、この状況は、一連のフレームがパン及び/
又はチルトモーションを受けるカメラにより記録される
静止画面を包含する場合に生起する。これに対して、画
像連続画面が動的画面を記録するカメラにより生成され
る場合、カメラモーションと画面内の対象物のモーショ
ンとの組合せは、量の相違及び方向の相違により移動す
るフレームの異なる領域を生じる。この場合、単一のモ
ーションベクトルはテンプレートフレームと連続画面内
の後続フレームとの間の関係を記述することができな
い。従って、良好なマッチングを確立することが困難で
ある。
フレームの全内容がテンプレートフレームと重複フレー
ムとの間で同じ変換モーションを受ける場合に有効であ
る。例えば、この状況は、一連のフレームがパン及び/
又はチルトモーションを受けるカメラにより記録される
静止画面を包含する場合に生起する。これに対して、画
像連続画面が動的画面を記録するカメラにより生成され
る場合、カメラモーションと画面内の対象物のモーショ
ンとの組合せは、量の相違及び方向の相違により移動す
るフレームの異なる領域を生じる。この場合、単一のモ
ーションベクトルはテンプレートフレームと連続画面内
の後続フレームとの間の関係を記述することができな
い。従って、良好なマッチングを確立することが困難で
ある。
【0025】動的画面を記録する一連のフレームと比較
する問題は、各フレームを数個の“領域”又は“ブロッ
ク”に分割(図2のステップ220で行われる)し、そ
して、各ブロックについて個別的にモーション系テンプ
レートマッチングを行うことにより解決することができ
る。画像処理分野では、この方法は“ブロックマッチン
グ”として知られている。ブロックマッチング方法(図
2のステップ230で行われる)は、1988年にプレ
ナム出版から発行されたエヌ・アルン(N.Arun)らの“デ
ジタルピクチャ,表示及び圧縮”と題する文献に記載さ
れている。
する問題は、各フレームを数個の“領域”又は“ブロッ
ク”に分割(図2のステップ220で行われる)し、そ
して、各ブロックについて個別的にモーション系テンプ
レートマッチングを行うことにより解決することができ
る。画像処理分野では、この方法は“ブロックマッチン
グ”として知られている。ブロックマッチング方法(図
2のステップ230で行われる)は、1988年にプレ
ナム出版から発行されたエヌ・アルン(N.Arun)らの“デ
ジタルピクチャ,表示及び圧縮”と題する文献に記載さ
れている。
【0026】2個のフレームI1及びI2(それぞれ、符
号12及び13により図3に示されている)間の網羅的
ブロックマッチングの公式に関する説明は下記の説明を
容易にする。
号12及び13により図3に示されている)間の網羅的
ブロックマッチングの公式に関する説明は下記の説明を
容易にする。
【0027】図3において、Bkは、フレーム12にお
いて(Xk,Yk)にその起点を有する、フレーム12の
MxNのサイズのk番目の矩形ブロックであるとする。
I(i,j)は、フレーム内の起点に対して(i,j)
位置におけるフレームの1画素の画像特性の値(例え
ば、強度又は色彩)を示すものとする。フレーム内の
(Xk,Yk)にその起点を有する後続フレーム14内の
同様な寸法の領域からのBkのマッチ距離はdk(0,
0)により示され、下記の数式(1)により定義され
る。
いて(Xk,Yk)にその起点を有する、フレーム12の
MxNのサイズのk番目の矩形ブロックであるとする。
I(i,j)は、フレーム内の起点に対して(i,j)
位置におけるフレームの1画素の画像特性の値(例え
ば、強度又は色彩)を示すものとする。フレーム内の
(Xk,Yk)にその起点を有する後続フレーム14内の
同様な寸法の領域からのBkのマッチ距離はdk(0,
0)により示され、下記の数式(1)により定義され
る。
【0028】
【数1】
【0029】換言すれば、dk(0,0)は、フレーム
12内の領域Bkとサイズ及び位置が対応するフレーム
13内のBk領域のマッチ距離を示す。
12内の領域Bkとサイズ及び位置が対応するフレーム
13内のBk領域のマッチ距離を示す。
【0030】フレーム12内の領域Bkに、位置は対応
しないがサイズが対応するフレーム13内の領域を画定
するために、マッチ距離は次のように法則化される。こ
の場合、ベクトル(p,q)により(Xk,Yk)から或
る距離だけ離間されているフレーム13内の或るポイン
トにその起点を有するフレーム13内の領域からのBk
のマッチ距離は下記の数式(2)により得られる。
しないがサイズが対応するフレーム13内の領域を画定
するために、マッチ距離は次のように法則化される。こ
の場合、ベクトル(p,q)により(Xk,Yk)から或
る距離だけ離間されているフレーム13内の或るポイン
トにその起点を有するフレーム13内の領域からのBk
のマッチ距離は下記の数式(2)により得られる。
【0031】
【数2】
【0032】その起点が(Xk+p,Yk+q)に存在す
る場合、Bkによりカバーされるフレーム13の領域が
Bkと同一であれば、マッチ距離は0である。Bkの画像
特性が、比較されているフレーム13の領域内の画像特
性と同一でない場合、2つの領域の対応画素の値の差
は、マッチ距離dk(p,q)の値を増大させる。
る場合、Bkによりカバーされるフレーム13の領域が
Bkと同一であれば、マッチ距離は0である。Bkの画像
特性が、比較されているフレーム13の領域内の画像特
性と同一でない場合、2つの領域の対応画素の値の差
は、マッチ距離dk(p,q)の値を増大させる。
【0033】ブロックマッチング方法は、フレーム間の
モーションの制限領域が存在する(すなわち、フレーム
内に出現する物体が間近なフレーム間で比較的少ない量
だけ移動する)という仮定に基づく。換言すれば、テン
プレートフ内の所定領域は、比較されているフレーム内
のその対応位置付近の位置に存在するものと仮定され
る。
モーションの制限領域が存在する(すなわち、フレーム
内に出現する物体が間近なフレーム間で比較的少ない量
だけ移動する)という仮定に基づく。換言すれば、テン
プレートフ内の所定領域は、比較されているフレーム内
のその対応位置付近の位置に存在するものと仮定され
る。
【0034】ブロックマッチング方法では次の2つのス
テップが行われる。先ず、マッチ距離dk(p,q)
を、(Xk,Yk)を中心とする、(2P+1)x(2Q
+1)のサイズの矩形領域内の全ての位置(p,q)に
ついて計算する。これにより、dkの(2P+1)(2
Q+1)の種々の値のリストが得られる。次に、一連の
dk値のうち最小値についてサーチする。最小マッチ距
離は下記の数式(3)により示されるものとする。
テップが行われる。先ず、マッチ距離dk(p,q)
を、(Xk,Yk)を中心とする、(2P+1)x(2Q
+1)のサイズの矩形領域内の全ての位置(p,q)に
ついて計算する。これにより、dkの(2P+1)(2
Q+1)の種々の値のリストが得られる。次に、一連の
dk値のうち最小値についてサーチする。最小マッチ距
離は下記の数式(3)により示されるものとする。
【0035】
【数3】
【0036】(前記式中、mXk及びmYkはフレーム1
3内のブロックが最適マッチを形成するフレーム13内
の(制限区域15内の)位置を示すモーションベクトル
のX及びY成分である。最小マッチ距離dk Minは、モー
ション系画像符号化のような多くのアプリケーションで
有用な位置におけるマッチの品質に関する情報を提供す
るが、領域系画像マッチングの魅力を減殺させるような
幾つかの望ましからざる特性も有する。これらの目的の
ために、本発明は、最小マッチ距離自体よりもむしろ最
小マッチ距離の正規化バージョンにより2つの画像マッ
チが得られるか否か決定するための良好な基準を決定し
た。正規化は次のように行われる。
3内のブロックが最適マッチを形成するフレーム13内
の(制限区域15内の)位置を示すモーションベクトル
のX及びY成分である。最小マッチ距離dk Minは、モー
ション系画像符号化のような多くのアプリケーションで
有用な位置におけるマッチの品質に関する情報を提供す
るが、領域系画像マッチングの魅力を減殺させるような
幾つかの望ましからざる特性も有する。これらの目的の
ために、本発明は、最小マッチ距離自体よりもむしろ最
小マッチ距離の正規化バージョンにより2つの画像マッ
チが得られるか否か決定するための良好な基準を決定し
た。正規化は次のように行われる。
【0037】dk Avgは全ての(2P+1)(2Q+1)
マッチ距離値の平均を示すものとする。すなわち、下記
の数式(4)で示される。
マッチ距離値の平均を示すものとする。すなわち、下記
の数式(4)で示される。
【0038】
【数4】
【0039】ブロックBkに関する領域系マッチ係数は
rkにより示され、次のように定義される。
rkにより示され、次のように定義される。
【0040】
【数5】
【0041】前記のように、図2に示されたステップ2
40で決定される正規化マッチ係数rkは、dk Minより
も優れたマッチ度測定基準を提供する。その理由は、r
kは高いコントラスト領域を含む強力なマッチと低コン
トラスト領域間の弱いマッチとの非常に良好な識別だか
らである。例えば、2つの非類似領域が極めて低いコン
トラストと比較的類似した平均階調(例えば、2つの同
次暗領域)を有する場合、dk Minは小さい。これは、領
域間の良好なマッチを示す。
40で決定される正規化マッチ係数rkは、dk Minより
も優れたマッチ度測定基準を提供する。その理由は、r
kは高いコントラスト領域を含む強力なマッチと低コン
トラスト領域間の弱いマッチとの非常に良好な識別だか
らである。例えば、2つの非類似領域が極めて低いコン
トラストと比較的類似した平均階調(例えば、2つの同
次暗領域)を有する場合、dk Minは小さい。これは、領
域間の良好なマッチを示す。
【0042】dk Minの値は小さい。なぜなら、比較的小
さな画素値は最適マッチの位置において小さな差分を生
じるからである。しかし、dk Avgも小さい、なぜなら、
十分なコントラストの欠如は、dk Minに対応する位置以
外の位置において一層小さなdk値を生じるからであ
る。その結果、マッチ係数rkは大きい。この場合、dk
A vgによる除算は領域の類似性にあまり重きを置かな
い。一方、2つの類似した領域が比較的高いコントラス
トを有する場合、最小差分の位置から移動するとき、d
k値の急速な上昇が起こり、その結果、大きなdk Avg値
をもたらす。
さな画素値は最適マッチの位置において小さな差分を生
じるからである。しかし、dk Avgも小さい、なぜなら、
十分なコントラストの欠如は、dk Minに対応する位置以
外の位置において一層小さなdk値を生じるからであ
る。その結果、マッチ係数rkは大きい。この場合、dk
A vgによる除算は領域の類似性にあまり重きを置かな
い。一方、2つの類似した領域が比較的高いコントラス
トを有する場合、最小差分の位置から移動するとき、d
k値の急速な上昇が起こり、その結果、大きなdk Avg値
をもたらす。
【0043】この場合、dk Avgによるdk Minの除算は一
層小さなrk値を生じる。これにより、領域の類似性を
際だたせる。従って、マッチ係数rkは、画像領域内の
高コントラスト特徴間のマッチに好都合であり、このた
め、無特徴で低コントラスト領域の優れた検出器であ
る。極端な事例として、異なる強度の2つの同次領域が
比較される場合、dk Avg及びdk Minは等しく、rk=1
を生じる。これは完全なミスマッチを示す。2つの同次
領域が類似強度を有する場合、dk Avg及びdk Minは両方
とも0であり、その結果、マッチ係数rkは1に設定さ
れる。これは完全なミスマッチを示す。
層小さなrk値を生じる。これにより、領域の類似性を
際だたせる。従って、マッチ係数rkは、画像領域内の
高コントラスト特徴間のマッチに好都合であり、このた
め、無特徴で低コントラスト領域の優れた検出器であ
る。極端な事例として、異なる強度の2つの同次領域が
比較される場合、dk Avg及びdk Minは等しく、rk=1
を生じる。これは完全なミスマッチを示す。2つの同次
領域が類似強度を有する場合、dk Avg及びdk Minは両方
とも0であり、その結果、マッチ係数rkは1に設定さ
れる。これは完全なミスマッチを示す。
【0044】rkがdk Minよりもマッチ度を再保証する
のに良好な基準を提供する別の理由は、正規化方法が0
(完全なマッチを示す)と1(極端なミスマッチを示
す)の値の間にrkを制限することである。これによ
り、画像輝度及び領域のサイズなどのような他のパラメ
ータと無関係に、閾値パラメータを一層容易に選択する
ことができる。
のに良好な基準を提供する別の理由は、正規化方法が0
(完全なマッチを示す)と1(極端なミスマッチを示
す)の値の間にrkを制限することである。これによ
り、画像輝度及び領域のサイズなどのような他のパラメ
ータと無関係に、閾値パラメータを一層容易に選択する
ことができる。
【0045】画像が分割される領域のサイズは、マッチ
係数rkを決定する際の重要な検討項目であり、任意の
個数の領域を選択できるが、次のファクタを検討しなけ
ればならない。小さな領域は、画像の同次領域において
不正確なモーション推定値を生じる。一方、極めて大き
な領域は、移動対象物と背景の一部を同時に包含する傾
向が高いので、低マッチを生成する可能性が高くなる。
本発明では、図4に示されるような、12個の領域を使
用することが好ましいことが発見された。
係数rkを決定する際の重要な検討項目であり、任意の
個数の領域を選択できるが、次のファクタを検討しなけ
ればならない。小さな領域は、画像の同次領域において
不正確なモーション推定値を生じる。一方、極めて大き
な領域は、移動対象物と背景の一部を同時に包含する傾
向が高いので、低マッチを生成する可能性が高くなる。
本発明では、図4に示されるような、12個の領域を使
用することが好ましいことが発見された。
【0046】この点について、本発明は、画像が分割さ
れる各ブロックBkについてマッチ係数rkを決定する。
本発明の方法の次のステップ(すなわち、図2のステッ
プ250)は、これらのマッチ係数rkを使用し、比較
されている画像の類似性を示す単一パラメータを生成す
る。このパラメータは次のように決定される。
れる各ブロックBkについてマッチ係数rkを決定する。
本発明の方法の次のステップ(すなわち、図2のステッ
プ250)は、これらのマッチ係数rkを使用し、比較
されている画像の類似性を示す単一パラメータを生成す
る。このパラメータは次のように決定される。
【0047】画像はK個の領域に分割されるものと仮定
する。RはK個の領域に対応する全部でK個のマッチ係
数rkの群であるとする。すなわち、 R={rk,k=1,・・・,K} (6) (ここで、下付文字kは領域番号を示す。)
する。RはK個の領域に対応する全部でK個のマッチ係
数rkの群であるとする。すなわち、 R={rk,k=1,・・・,K} (6) (ここで、下付文字kは領域番号を示す。)
【0048】LはRの要素の配列群であるとする。ここ
で、配列順序はマッチ係数の大きさにより決定される。
すなわち、Rの要素とLとの間には個別的対応関係が存
在する。この関係は下記の数式(7)で示される。 L={1i,i=1,・・・,K,例えば、i=1,・
・・,K−1の場合、1i≦1i+1} (7)
で、配列順序はマッチ係数の大きさにより決定される。
すなわち、Rの要素とLとの間には個別的対応関係が存
在する。この関係は下記の数式(7)で示される。 L={1i,i=1,・・・,K,例えば、i=1,・
・・,K−1の場合、1i≦1i+1} (7)
【0049】換言すれば、LはRの記憶バージョンであ
る。この場合、l1が最小マッチ値(すなわち、最適マ
ッチング領域)であり、lkは最大マッチ値(すなわ
ち、最低マッチング領域)である。
る。この場合、l1が最小マッチ値(すなわち、最適マ
ッチング領域)であり、lkは最大マッチ値(すなわ
ち、最低マッチング領域)である。
【0050】瞬時マッチ(IM)信号は次のように定義
される。
される。
【0051】
【数6】
【0052】前記式(8)において、S<=KはIM信
号を評価するのに寄与する画像の領域数を制御するユー
ザ選択可能な整数パラメータである。例えば、S=Kの
場合、IM信号の値は全ての領域からの全てのマッチ係
数rkの平均値である。S=1の値は“最適マッチン
グ”領域のマッチ係数rkだけを選択する。S=4(K
=12の場合)の値が良好な結果を生成することが決定
された。
号を評価するのに寄与する画像の領域数を制御するユー
ザ選択可能な整数パラメータである。例えば、S=Kの
場合、IM信号の値は全ての領域からの全てのマッチ係
数rkの平均値である。S=1の値は“最適マッチン
グ”領域のマッチ係数rkだけを選択する。S=4(K
=12の場合)の値が良好な結果を生成することが決定
された。
【0053】前記のように定義される瞬時マッチ信号I
Mは突然の画面カットの良好なインジケータである。図
5(a)は、突然の画面変化中のIM信号の動作プロッ
トを示す。領域I及びIIIは一連のフレームにおける
異なる画面を示すが、領域IIは2つの画面の切替を示
し、新たな画面の最初のフレームと一致する。マッチさ
れているフレーム間の類似性のために、個々の画面(す
なわち、領域I及びIII)内ではIM信号は小さい。
Mは突然の画面カットの良好なインジケータである。図
5(a)は、突然の画面変化中のIM信号の動作プロッ
トを示す。領域I及びIIIは一連のフレームにおける
異なる画面を示すが、領域IIは2つの画面の切替を示
し、新たな画面の最初のフレームと一致する。マッチさ
れているフレーム間の類似性のために、個々の画面(す
なわち、領域I及びIII)内ではIM信号は小さい。
【0054】フレーム間の幾つかの領域で生じるモーシ
ョン又はその他の変更は、比較されているフレーム内で
少なくとも或程度良好なマッチが存在する限り、IM信
号を増大させない。しかし、2つの画面間の境界(すな
わち、領域IIの左端)では、IM信号は大きく、そし
て、比較されているフレームが別の画面に属する限り、
大きいままである。
ョン又はその他の変更は、比較されているフレーム内で
少なくとも或程度良好なマッチが存在する限り、IM信
号を増大させない。しかし、2つの画面間の境界(すな
わち、領域IIの左端)では、IM信号は大きく、そし
て、比較されているフレームが別の画面に属する限り、
大きいままである。
【0055】図5(b)は、領域IIにおけるフェード
アウト切替中のIM信号の動作を示す。領域Iにおい
て、フェードアウトが起こる前は、フレームのコントラ
ストが比較的高いので、マッチ値は小さい。なぜなら、
dk Avgの大きな値は小さなrk値を生じるからである。
画像コントラストが低下するにつれて(すなわち、フェ
ードアウトが起こるにつれて)、dk Avg及びdk Min値は
低下する。しかし、dk M inは一層低い速度で低下する。
ネットは領域IIにおけるIM信号を増大させる。
アウト切替中のIM信号の動作を示す。領域Iにおい
て、フェードアウトが起こる前は、フレームのコントラ
ストが比較的高いので、マッチ値は小さい。なぜなら、
dk Avgの大きな値は小さなrk値を生じるからである。
画像コントラストが低下するにつれて(すなわち、フェ
ードアウトが起こるにつれて)、dk Avg及びdk Min値は
低下する。しかし、dk M inは一層低い速度で低下する。
ネットは領域IIにおけるIM信号を増大させる。
【0056】この増大はフェードアウトの速度に比例す
る。コントラストが更に低下するにつれて、dk Minの値
は画像のノイズのレベルに匹敵するレベルに達する。こ
の時点で、dk Avgの値はrk Minの値よりも一層速い速度
で低下する。従って、IM信号は領域IIIで増大す
る。理論的に、IM信号は、画面が完全にフェードアウ
トしたときの1の値に達するまで増大する。しかし、実
際には、ノイズのために、1の値は滅多に得られない。
フェードアウトと同様に、フェードイン中に新たな画面
が徐々に出現すると、IM信号は徐々に低下し、フェー
ドアウトの場合の波形と同様であるが反対向きの波形が
生じる。
る。コントラストが更に低下するにつれて、dk Minの値
は画像のノイズのレベルに匹敵するレベルに達する。こ
の時点で、dk Avgの値はrk Minの値よりも一層速い速度
で低下する。従って、IM信号は領域IIIで増大す
る。理論的に、IM信号は、画面が完全にフェードアウ
トしたときの1の値に達するまで増大する。しかし、実
際には、ノイズのために、1の値は滅多に得られない。
フェードアウトと同様に、フェードイン中に新たな画面
が徐々に出現すると、IM信号は徐々に低下し、フェー
ドアウトの場合の波形と同様であるが反対向きの波形が
生じる。
【0057】図5(c)は、領域IIで生じる、二つの
画面間の同時フェードアウト/フェードイン切替(すな
わち、ディソルブ)中のIM信号の動作を示す。この場
合、突然の画面変化中に起こるIM信号値の突然の増大
は、段階的な増大と、それに続く段階的な低下により置
き換えられる。ディソルブ処理により生じるIM信号の
最大値は、単一の画面で生じる急激なモーションの結果
として生じるIM信号の値に匹敵する。
画面間の同時フェードアウト/フェードイン切替(すな
わち、ディソルブ)中のIM信号の動作を示す。この場
合、突然の画面変化中に起こるIM信号値の突然の増大
は、段階的な増大と、それに続く段階的な低下により置
き換えられる。ディソルブ処理により生じるIM信号の
最大値は、単一の画面で生じる急激なモーションの結果
として生じるIM信号の値に匹敵する。
【0058】従って、IM検出閾値がディソルブを検出
するレベルにまで低下された場合、このIM信号値は、
実際には存在しない許容不可能なほど大量の画面変化も
示す。従って、フェードイン/フェードアウトを伴う段
階的な切替の正確な検出は、突然の画面変化の検出より
も一層複雑である。よって、その分析は、突然切替を説
明した後に、説明する。
するレベルにまで低下された場合、このIM信号値は、
実際には存在しない許容不可能なほど大量の画面変化も
示す。従って、フェードイン/フェードアウトを伴う段
階的な切替の正確な検出は、突然の画面変化の検出より
も一層複雑である。よって、その分析は、突然切替を説
明した後に、説明する。
【0059】突然画面切替の検出 IM信号の分析に関する前記の説明から明らかなよう
に、突然画面切替及びフェードイン又はフェードアウト
(下記で説明するフェードイン/フェードアウトは除
く)により行われる切替は、IM信号が高い値(すなわ
ち、所定の閾値tH超)から低い値(すなわち、所定の
閾値tL未満)へ推移する時を決定することにより検出
できる。IM信号の検出は、図6に機能的に示されるよ
うな有限状態機械を用いる決定モジュールにより行うこ
とができる。この機械は図1に示したデジタルコンピュ
ータ7で任意の公知の方法で実現できる。
に、突然画面切替及びフェードイン又はフェードアウト
(下記で説明するフェードイン/フェードアウトは除
く)により行われる切替は、IM信号が高い値(すなわ
ち、所定の閾値tH超)から低い値(すなわち、所定の
閾値tL未満)へ推移する時を決定することにより検出
できる。IM信号の検出は、図6に機能的に示されるよ
うな有限状態機械を用いる決定モジュールにより行うこ
とができる。この機械は図1に示したデジタルコンピュ
ータ7で任意の公知の方法で実現できる。
【0060】機械はS0とS1の二つの状態を有する。こ
れらの状態の遷移はIM信号により決定される。機械は
最初はS0の状態であり、IM信号<tHである限り、こ
の状態を維持する。IM信号>=tHの値の最初の出現
はS0からS1への遷移を起こす。IM信号がtLよりも
大きい限り、機械はこの状態を維持する。tL未満のI
M信号値の最初の出現はS0状態への復帰遷移を起こ
す。このS0状態への復帰遷移は新たな画面の開始も示
す。
れらの状態の遷移はIM信号により決定される。機械は
最初はS0の状態であり、IM信号<tHである限り、こ
の状態を維持する。IM信号>=tHの値の最初の出現
はS0からS1への遷移を起こす。IM信号がtLよりも
大きい限り、機械はこの状態を維持する。tL未満のI
M信号値の最初の出現はS0状態への復帰遷移を起こ
す。このS0状態への復帰遷移は新たな画面の開始も示
す。
【0061】突然画面変化の存在下で、S1からS0への
復帰遷移(すなわち、図6(a)における符号64)
は、(連続フレームと比較した場合)一つのフレームに
よる新たな画面の最初のフレームからのオフセットであ
る。突然変更の正確な位置を発見することが重要な用途
では、正確な位置は、この遷移によりマークされた位置
からこの既知の固定数を減算することにより算出でき
る。突然画面変化の場合に新たな画面の最初のフレーム
に一致する、S0からS1への遷移(すなわち、図6
(a)における符号63)ではなく、この遷移を使用す
る理由は、フェードアウト、フェードイン及び段階的変
更(下記で説明する)などの切替に関連する。
復帰遷移(すなわち、図6(a)における符号64)
は、(連続フレームと比較した場合)一つのフレームに
よる新たな画面の最初のフレームからのオフセットであ
る。突然変更の正確な位置を発見することが重要な用途
では、正確な位置は、この遷移によりマークされた位置
からこの既知の固定数を減算することにより算出でき
る。突然画面変化の場合に新たな画面の最初のフレーム
に一致する、S0からS1への遷移(すなわち、図6
(a)における符号63)ではなく、この遷移を使用す
る理由は、フェードアウト、フェードイン及び段階的変
更(下記で説明する)などの切替に関連する。
【0062】2つの異なる閾値と順次論理の使用によ
り、単一の閾値の場合よりも優れた2つの主要な利点が
得られる。第1に、IM信号が閾値付近で変動する場
合、性能が改善される。これにより、一連の極めて接近
した不正確な検出の発生を防止できる。第2に、安定な
画面間隔及び切替間隔に対応する2つの状態の存在によ
り、画面切替の開始と終了との間を区別することができ
る。これにより、下記で説明するように、2つの状態間
の遷移について個別的な条件を使用でき、更に、本発明
の方法は、通常、フラッシュ写真術からの間違った画面
変化を検出及び無視することができる。
り、単一の閾値の場合よりも優れた2つの主要な利点が
得られる。第1に、IM信号が閾値付近で変動する場
合、性能が改善される。これにより、一連の極めて接近
した不正確な検出の発生を防止できる。第2に、安定な
画面間隔及び切替間隔に対応する2つの状態の存在によ
り、画面切替の開始と終了との間を区別することができ
る。これにより、下記で説明するように、2つの状態間
の遷移について個別的な条件を使用でき、更に、本発明
の方法は、通常、フラッシュ写真術からの間違った画面
変化を検出及び無視することができる。
【0063】フェードの存在検出 画面間の切替が突然切替ではなくフェードを伴う場合、
画面が十分にフェードアウトすると、IM信号はtHレ
ベルに達する。これにより、有限状態機械はS0からS1
へ遷移する。機械は、(突然又はフェードインの何れか
の態様で)新たな画面が出現するまで、S1の状態を維
持する。これにより、IM信号値はtLレベル未満に低
下する。この時点で、S1からS0への復帰遷移は新たな
画面の開始を示す。
画面が十分にフェードアウトすると、IM信号はtHレ
ベルに達する。これにより、有限状態機械はS0からS1
へ遷移する。機械は、(突然又はフェードインの何れか
の態様で)新たな画面が出現するまで、S1の状態を維
持する。これにより、IM信号値はtLレベル未満に低
下する。この時点で、S1からS0への復帰遷移は新たな
画面の開始を示す。
【0064】画面変化検出器の特定の用途は、画面の
“代表的画像”を、検出器により測定されるように画面
の開始と終了時に保持する。新たな画面への切替がフェ
ードインにより行われる場合、画像のコントラストが代
表的画像について許容可能なレベルに達する前に、IM
信号はtL未満に低下する。この問題を解決するため
に、追加パラメータ(以下「画像コントラスト(IC)
信号という)を使用する。このIC信号は次のように定
義される。
“代表的画像”を、検出器により測定されるように画面
の開始と終了時に保持する。新たな画面への切替がフェ
ードインにより行われる場合、画像のコントラストが代
表的画像について許容可能なレベルに達する前に、IM
信号はtL未満に低下する。この問題を解決するため
に、追加パラメータ(以下「画像コントラスト(IC)
信号という)を使用する。このIC信号は次のように定
義される。
【0065】
【数7】
【0066】IC信号はフレームの隣接部分間の輝度の
相違の優れた尺度を与える。このパラメータ信号はマッ
チング処理の副産物であり、追加計算無しに決定でき
る。IC信号を検出処理に取り込むためには、追加条件
をS1からS0への遷移に賦課しなければならない。特
に、IC信号は、図6(c)に示されるように、所定の
コントラストパラメータCminよりも大きいか又は同等
でなければならない。
相違の優れた尺度を与える。このパラメータ信号はマッ
チング処理の副産物であり、追加計算無しに決定でき
る。IC信号を検出処理に取り込むためには、追加条件
をS1からS0への遷移に賦課しなければならない。特
に、IC信号は、図6(c)に示されるように、所定の
コントラストパラメータCminよりも大きいか又は同等
でなければならない。
【0067】先行画面がフェードアウトし、次の画面が
フェードインする場合、明確な終点又は開始点は存在し
ない。更に、大抵の場合、多数の暗フレームが、古い画
面の終わりと新たな画面の開始との間に存在する。この
暗フレームはどちらの画面にも属さない。これは、多く
のフレームからなる切替期間を生じる。このような場合
の切替期間の継続期間は有限状態機械がS1状態に止ま
る時間の長さに反映される。この情報は突然及び段階的
切替を識別するのに使用できる。
フェードインする場合、明確な終点又は開始点は存在し
ない。更に、大抵の場合、多数の暗フレームが、古い画
面の終わりと新たな画面の開始との間に存在する。この
暗フレームはどちらの画面にも属さない。これは、多く
のフレームからなる切替期間を生じる。このような場合
の切替期間の継続期間は有限状態機械がS1状態に止ま
る時間の長さに反映される。この情報は突然及び段階的
切替を識別するのに使用できる。
【0068】ディソルブ及びその他の段階的切替の検出 IM信号を突然及び明白に変化させる、バット・エディ
ティングにより発生されるような突然画面切替と異な
り、画面の段階的な切替は、IM信号の値を段階的に、
少し変化させる。前記のように、フェードアウト及びフ
ェードインを含む段階的画面変化の種類は、強度変化及
び低コントラスト領域に対するIM信号の感度を利用す
ることにより、また、画像コントラスト(IC)信号を
供給することにより検出できる。しかし、前記の方法
は、やはり、ディソルブを含む段階的画面変化の種類を
検出することはできない。
ティングにより発生されるような突然画面切替と異な
り、画面の段階的な切替は、IM信号の値を段階的に、
少し変化させる。前記のように、フェードアウト及びフ
ェードインを含む段階的画面変化の種類は、強度変化及
び低コントラスト領域に対するIM信号の感度を利用す
ることにより、また、画像コントラスト(IC)信号を
供給することにより検出できる。しかし、前記の方法
は、やはり、ディソルブを含む段階的画面変化の種類を
検出することはできない。
【0069】ディソルブを検出することは多くの理由に
より困難である。第1に、ディソルブは幾つかのフレー
ムに亙って起こるので、古い画面の最後の数フレームと
新たな画面の最初の数フレームとの間のミスマッチのレ
ベルが、ディソルブ処理が行われるフレーム数の全体に
分布される。これは図5(c)に示される。ディソルブ
中、古い画面の強度の段階的な消失(すなわち、フェー
ドアウト)は新たな画面の強度の段階的な増大(すなわ
ち、フェードイン)を伴う。従って、混合フレームの強
度の時相変化の全体速度は、同じ数のフレームについて
起こる角フェードアウト及びフェードイン切替について
発生する変化よりも遥かに遅い。
より困難である。第1に、ディソルブは幾つかのフレー
ムに亙って起こるので、古い画面の最後の数フレームと
新たな画面の最初の数フレームとの間のミスマッチのレ
ベルが、ディソルブ処理が行われるフレーム数の全体に
分布される。これは図5(c)に示される。ディソルブ
中、古い画面の強度の段階的な消失(すなわち、フェー
ドアウト)は新たな画面の強度の段階的な増大(すなわ
ち、フェードイン)を伴う。従って、混合フレームの強
度の時相変化の全体速度は、同じ数のフレームについて
起こる角フェードアウト及びフェードイン切替について
発生する変化よりも遥かに遅い。
【0070】段階的画面変化は2個以上のフレームに亙
って生じるので、隣接フレームを比較するよりも、一連
の所定数のフレームから離間されたフレームを比較する
ほうが好ましい。なぜなら、任意の2個の隣接フレーム
間の変化は検出するのに小さ過ぎるからである。これは
フレームが比較される速度の低下を示唆するものではな
い。それよりもむしろ、フレームは今までどおり、フレ
ームが受信される速度(例えば、標準的なNISCビデ
オの場合、30フレーム/秒)で比較される。但し、各
フレームはD個のタイムユニットだけ早く来たフレーム
と比較される。ここで、Dは比較されるフレーム間の所
定のフレーム数である。
って生じるので、隣接フレームを比較するよりも、一連
の所定数のフレームから離間されたフレームを比較する
ほうが好ましい。なぜなら、任意の2個の隣接フレーム
間の変化は検出するのに小さ過ぎるからである。これは
フレームが比較される速度の低下を示唆するものではな
い。それよりもむしろ、フレームは今までどおり、フレ
ームが受信される速度(例えば、標準的なNISCビデ
オの場合、30フレーム/秒)で比較される。但し、各
フレームはD個のタイムユニットだけ早く来たフレーム
と比較される。ここで、Dは比較されるフレーム間の所
定のフレーム数である。
【0071】図2のステップ230で行われる、この処
理(以下「遅延フレーム比較(DFC)」と呼ぶ)は図
7に示される。図7は、DFCの存在下でモーション推
定を使用する例を示す。
理(以下「遅延フレーム比較(DFC)」と呼ぶ)は図
7に示される。図7は、DFCの存在下でモーション推
定を使用する例を示す。
【0072】図7に示されるように、現行フレーム71
は、領域系マッチ及びモーション推定ブロック(2個の
フレーム間のブロックマッチングを行う)の一つの入力
として与えられる。この時点で、先行フレーム72は第
1の遅延要素76の出力の所に存在し、D番目の先行フ
レーム73はD番目の遅延要素78の出力のところに存
在する。このD番目の先行フレーム73はマッチングブ
ロック74に対する第2の入力として与えられる。
は、領域系マッチ及びモーション推定ブロック(2個の
フレーム間のブロックマッチングを行う)の一つの入力
として与えられる。この時点で、先行フレーム72は第
1の遅延要素76の出力の所に存在し、D番目の先行フ
レーム73はD番目の遅延要素78の出力のところに存
在する。このD番目の先行フレーム73はマッチングブ
ロック74に対する第2の入力として与えられる。
【0073】これら2つのフレームはブロック74によ
り処理され、領域系モーション及びマッチパラメータを
生成する。次のフレームタイムにおいて、新たなフレー
ムが71に現れ、先行フレームは単位遅延ブロック7
6,77,・・・,78の入力からそれらの各出力へシ
フトする。そして、新たな一連のマッチ及びモーション
パラメータが決定される。
り処理され、領域系モーション及びマッチパラメータを
生成する。次のフレームタイムにおいて、新たなフレー
ムが71に現れ、先行フレームは単位遅延ブロック7
6,77,・・・,78の入力からそれらの各出力へシ
フトする。そして、新たな一連のマッチ及びモーション
パラメータが決定される。
【0074】遅延フレーム比較を行った結果、マッチ係
数は、D個のフレームタイムに亙って生じたフレームの
内容の累積変化を反映する。この累積の硬化はrk値、
従って、IM信号を増幅することである。
数は、D個のフレームタイムに亙って生じたフレームの
内容の累積変化を反映する。この累積の硬化はrk値、
従って、IM信号を増幅することである。
【0075】遅延フレーム比較の使用も有利である。な
ぜなら、遅延フレーム比較はIM信号のS/N比を改善
するからである。この改善は、フレーム間の不均衡がD
>1の場合に増幅される一方で、ノイズレベルが一定に
保たれるために生じる。その結果、1個のフレームタイ
ムについて観察した場合にはノイズから識別できないよ
うな極めて小さな不均衡も識別可能になる。
ぜなら、遅延フレーム比較はIM信号のS/N比を改善
するからである。この改善は、フレーム間の不均衡がD
>1の場合に増幅される一方で、ノイズレベルが一定に
保たれるために生じる。その結果、1個のフレームタイ
ムについて観察した場合にはノイズから識別できないよ
うな極めて小さな不均衡も識別可能になる。
【0076】遅延フレーム比較は突然変化に関するIM
信号の振幅に悪影響を及ぼさないが、信号が1個のフレ
ームタイム(連続的フレームが比較される場合)からD
個のフレームタイム(新たな画面の最初のD個のフレー
ムは先行画面の最後のD個のフレームと比較されるの
で)までの大きな値を帯びる際の時間を増大させる。下
記のモーション制御時相濾波法と併用される場合、遅延
フレーム比較は、かなり類似した画面間の突然切替の検
出を改善する。
信号の振幅に悪影響を及ぼさないが、信号が1個のフレ
ームタイム(連続的フレームが比較される場合)からD
個のフレームタイム(新たな画面の最初のD個のフレー
ムは先行画面の最後のD個のフレームと比較されるの
で)までの大きな値を帯びる際の時間を増大させる。下
記のモーション制御時相濾波法と併用される場合、遅延
フレーム比較は、かなり類似した画面間の突然切替の検
出を改善する。
【0077】突然画面切替を検出するためにD個の遅延
と共に遅延フレーム比較を使用する場合、S1からS0へ
の遷移によりマークされた時点は新たな画面の最初のフ
レームからD個のフレームまでオフセットされる。これ
は、新たな画面の最初のD個のフレームが古い画面から
のフレームと比較されるためである。その結果、IM信
号の振幅はD番目のフレームの終了まで、tL閾値未満
には低下しない。画面切替の正確な位置が必要とされる
用途の場合、この位置は、状態遷移により示された位置
をD個のフレームだけ逆方向に移動させることにより得
ることができる。
と共に遅延フレーム比較を使用する場合、S1からS0へ
の遷移によりマークされた時点は新たな画面の最初のフ
レームからD個のフレームまでオフセットされる。これ
は、新たな画面の最初のD個のフレームが古い画面から
のフレームと比較されるためである。その結果、IM信
号の振幅はD番目のフレームの終了まで、tL閾値未満
には低下しない。画面切替の正確な位置が必要とされる
用途の場合、この位置は、状態遷移により示された位置
をD個のフレームだけ逆方向に移動させることにより得
ることができる。
【0078】モーション制御時相濾波 段階的画面変化は低振幅を特徴とするので、長い持続時
間はIM信号を増大する。延長された時間周期にわたる
IM信号の観察に基づく検出スキームを使用することが
望ましい。これは、多数のフレームにわたって比較的小
さいが、持続的な振幅の増大を被るIM信号の部分を識
別することにより実行できる。しかし、フレームの内容
において生じるモーションのようなその他のファクタも
存在する。これらのファクタも、IM信号の振幅を少し
ではあるが持続的に増大させることができる。従って、
段階的切替以外のものにより起こされた不正確な検出を
避けながら、段階的に生じる実際の画面変化を識別する
必要がある。
間はIM信号を増大する。延長された時間周期にわたる
IM信号の観察に基づく検出スキームを使用することが
望ましい。これは、多数のフレームにわたって比較的小
さいが、持続的な振幅の増大を被るIM信号の部分を識
別することにより実行できる。しかし、フレームの内容
において生じるモーションのようなその他のファクタも
存在する。これらのファクタも、IM信号の振幅を少し
ではあるが持続的に増大させることができる。従って、
段階的切替以外のものにより起こされた不正確な検出を
避けながら、段階的に生じる実際の画面変化を識別する
必要がある。
【0079】段階的画面変化を混乱させるモーション関
連事象の検出を排除しながら、ディソルブのような段階
的画面変化を正確に検出するために、本発明は、モーシ
ョン検出モジュールと共に、IM信号の時相濾波(図2
のステップ260参照)を使用する。
連事象の検出を排除しながら、ディソルブのような段階
的画面変化を正確に検出するために、本発明は、モーシ
ョン検出モジュールと共に、IM信号の時相濾波(図2
のステップ260参照)を使用する。
【0080】IM信号の時相濾波のステップを行う装置
は図8のブロック図で示される。この装置はIM信号6
0を処理し、新たな信号(以下「累積マッチ(CM)信
号808」という)を発生する。各フレームタイムにお
いて、CMの新たな値は、先行フレームタイム(ユニッ
ト遅延810の出力のところに存在する)中のCM信号
の値を、整合利得β811と共に乗算器を通過させるこ
とにより計算され、新たな値812を発生する。
は図8のブロック図で示される。この装置はIM信号6
0を処理し、新たな信号(以下「累積マッチ(CM)信
号808」という)を発生する。各フレームタイムにお
いて、CMの新たな値は、先行フレームタイム(ユニッ
ト遅延810の出力のところに存在する)中のCM信号
の値を、整合利得β811と共に乗算器を通過させるこ
とにより計算され、新たな値812を発生する。
【0081】この値を加算機805を用いて、IM信号
の現行調整値に加える。ユニット遅延810,0と1の
間の正利得を有する乗算器811及び加算器805から
なる装置部分は、1階無限インパルス応答(IIR)デ
ジタルフィルタを形成する。これは実質的に、減衰を有
する積分器として機能する。IM信号内に存在するであ
ろう低レベルノイズの蓄積を避けるために、また、IM
信号の振幅の増大が有意であると見做されるよりも高い
レベルを制御するために、ノイズフロア802と呼ばれ
る一定値を、デジタルフィルタの入力に導入する前に、
加算器803を用いてIM信号から減算する。
の現行調整値に加える。ユニット遅延810,0と1の
間の正利得を有する乗算器811及び加算器805から
なる装置部分は、1階無限インパルス応答(IIR)デ
ジタルフィルタを形成する。これは実質的に、減衰を有
する積分器として機能する。IM信号内に存在するであ
ろう低レベルノイズの蓄積を避けるために、また、IM
信号の振幅の増大が有意であると見做されるよりも高い
レベルを制御するために、ノイズフロア802と呼ばれ
る一定値を、デジタルフィルタの入力に導入する前に、
加算器803を用いてIM信号から減算する。
【0082】デジタルフィルタの出力を0と1の間の値
に制限するために、加算器の出力のところに範囲限定器
807を使用する。限定された範囲は、ノイズフロア減
算IM信号804が比較的大きな値を帯びるか、又は
(IM信号がノイズフロア未満であるために)負になる
延長期間中に、出力が大きくなり過ぎたり、又は負にな
るのを阻止する。
に制限するために、加算器の出力のところに範囲限定器
807を使用する。限定された範囲は、ノイズフロア減
算IM信号804が比較的大きな値を帯びるか、又は
(IM信号がノイズフロア未満であるために)負になる
延長期間中に、出力が大きくなり過ぎたり、又は負にな
るのを阻止する。
【0083】前記の時相濾波器は、利得βが1に近い値
(及び1未満の値)に設定される場合、IM信号の持続
的増大を検出する。しかし、IM信号のモーション関連
増大が累積することを阻止し、かつ、不正確な検出の発
生を阻止するために、特定の指定種類のモーションが一
連のフレーム内に存在する場合、デジタルフィルタの特
性は変更される。これは、利得βを非常に小さな値(0
に近い値か又は0に等しい値)にまで低下させることに
より、利得制御ブロック814により行われる。
(及び1未満の値)に設定される場合、IM信号の持続
的増大を検出する。しかし、IM信号のモーション関連
増大が累積することを阻止し、かつ、不正確な検出の発
生を阻止するために、特定の指定種類のモーションが一
連のフレーム内に存在する場合、デジタルフィルタの特
性は変更される。これは、利得βを非常に小さな値(0
に近い値か又は0に等しい値)にまで低下させることに
より、利得制御ブロック814により行われる。
【0084】これは実質的に、IM信号の時相累積を阻
止する。βを0に設定すると、変更されないままフィル
タを通過するノイズフロア減算信号804を生じ、同じ
CM信号を発生する。βが1に向かって増大するにつれ
て、所定のノイズフロアよりも高いIM信号の持続的低
レベル値に対するCM信号の感度は向上する。
止する。βを0に設定すると、変更されないままフィル
タを通過するノイズフロア減算信号804を生じ、同じ
CM信号を発生する。βが1に向かって増大するにつれ
て、所定のノイズフロアよりも高いIM信号の持続的低
レベル値に対するCM信号の感度は向上する。
【0085】利得βを低下させるタスクはモーションイ
ンジケータ(MI)信号により行わせることができる。
これは0及び1の値だけを帯びるバイナリ信号である。
IM信号が0に設定される場合、利得制御ブロックは利
得βを1よりも小さいが1に近い値(例えば、0.8
5)に調整し、これにより、段階的画面変化の検出が可
能になる。特定のモーション関連条件が満たされる場
合、IM信号は1に設定される。その結果、利得制御ブ
ロックはβを0に設定する。これにより、デジタルフィ
ルタの特性が変更され、入力信号は累積することなく通
過される。
ンジケータ(MI)信号により行わせることができる。
これは0及び1の値だけを帯びるバイナリ信号である。
IM信号が0に設定される場合、利得制御ブロックは利
得βを1よりも小さいが1に近い値(例えば、0.8
5)に調整し、これにより、段階的画面変化の検出が可
能になる。特定のモーション関連条件が満たされる場
合、IM信号は1に設定される。その結果、利得制御ブ
ロックはβを0に設定する。これにより、デジタルフィ
ルタの特性が変更され、入力信号は累積することなく通
過される。
【0086】前記のように、IM信号の値は、処理の際
に選択されるK領域マッチ係数のサブセットSに左右さ
れる。従って、IM信号値に寄与しない画像の残りのK
−S個の領域内のモーションの存在は、検出処理にとっ
て全く取るに足らない。検出処理はS個の領域内で起こ
るモーションを分析するだけである。MI信号を1に設
定するステップは、段階的画面変化の検出を阻止するの
で、段階的画面変化検出の不必要な阻止を防止するため
に幾つかのステップが採用される。阻止ステップを防止
するために多数の異なる基準を使用できるが、下記の考
察が特に適切である。
に選択されるK領域マッチ係数のサブセットSに左右さ
れる。従って、IM信号値に寄与しない画像の残りのK
−S個の領域内のモーションの存在は、検出処理にとっ
て全く取るに足らない。検出処理はS個の領域内で起こ
るモーションを分析するだけである。MI信号を1に設
定するステップは、段階的画面変化の検出を阻止するの
で、段階的画面変化検出の不必要な阻止を防止するため
に幾つかのステップが採用される。阻止ステップを防止
するために多数の異なる基準を使用できるが、下記の考
察が特に適切である。
【0087】先ず、2つの極値範囲のうちの何れかの中
に含まれるマッチ係数rkを有する領域は、モーション
インジケータ信号の値の決定から除外される。一方の極
値範囲はrlowで示される閾値未満の極めて小さな値に
対応する。この極めて小さな値はノイズフロア付近の値
である。これらの値は、時相濾波処理にも拘わらず、C
M信号に寄与しない。
に含まれるマッチ係数rkを有する領域は、モーション
インジケータ信号の値の決定から除外される。一方の極
値範囲はrlowで示される閾値未満の極めて小さな値に
対応する。この極めて小さな値はノイズフロア付近の値
である。これらの値は、時相濾波処理にも拘わらず、C
M信号に寄与しない。
【0088】更に、下記で説明するように、MIが1に
設定されると、MIを1に最初に設定させた条件がもは
や存在しない場合であっても、有限時間周期中はMIは
1のままに維持される。従って、マッチ係数rkの小さ
な値は、MI信号を1に設定することを防止し、顕著な
段階的画面変化を見落とす可能性を防止する。
設定されると、MIを1に最初に設定させた条件がもは
や存在しない場合であっても、有限時間周期中はMIは
1のままに維持される。従って、マッチ係数rkの小さ
な値は、MI信号を1に設定することを防止し、顕著な
段階的画面変化を見落とす可能性を防止する。
【0089】MI信号の値の決定から除外されるその他
の範囲は、rhighで示される閾値よりも高いマッチ係数
rkの値に対応する。tH値(前記で説明した)よりも高
いr highの値は、時相濾波無しでも、検出される。S個
の各領域について、マッチ係数の値は、マッチ係数が2
つの閾値rlowとrhighの間に含まれるか否かを確認す
るためにチェックされる。rlowとrhighの間に含まれ
ないマッチ係数rkを有する全ての領域はその後の処理
から排除される。
の範囲は、rhighで示される閾値よりも高いマッチ係数
rkの値に対応する。tH値(前記で説明した)よりも高
いr highの値は、時相濾波無しでも、検出される。S個
の各領域について、マッチ係数の値は、マッチ係数が2
つの閾値rlowとrhighの間に含まれるか否かを確認す
るためにチェックされる。rlowとrhighの間に含まれ
ないマッチ係数rkを有する全ての領域はその後の処理
から排除される。
【0090】次のステップにおいて、排除されなかった
rk値を有する各領域をモーションの存在について試験
する。この領域のモーションベクトルの長さが所定の閾
値(Motionthreshで示される)よりも大きいか又
は等しい場合、この領域はマークされる。
rk値を有する各領域をモーションの存在について試験
する。この領域のモーションベクトルの長さが所定の閾
値(Motionthreshで示される)よりも大きいか又
は等しい場合、この領域はマークされる。
【0091】最後に、マークされた領域の数が所定の数
(Motioncountで示される)よりも多いか又は等
しい場合、次のnM時間単位について、MI信号は1に
設定される。モーションが検出された正に単一のフレー
ムではなく、幾つかのフレームについてMI信号を1に
設定することにより、モーション検出を全てのフレーム
対間で確実に行うことができない時間周期中に濾波処理
は手直しされる。
(Motioncountで示される)よりも多いか又は等
しい場合、次のnM時間単位について、MI信号は1に
設定される。モーションが検出された正に単一のフレー
ムではなく、幾つかのフレームについてMI信号を1に
設定することにより、モーション検出を全てのフレーム
対間で確実に行うことができない時間周期中に濾波処理
は手直しされる。
【0092】この状態は通常、検出される画面が、不規
則に移動する非常に多数の比較的小さな領域(矩形画像
領域に対して)を有する時間間隔中に存在する。幾つか
のフレーム(例えば、5個のフレーム)について、モー
ションインジケータ信号を1に維持することにより、各
タイムモーションが検出され、確実なモーション検出が
不可能な場合、濾波ステップは少数の中間フレーム中は
差し止められる。
則に移動する非常に多数の比較的小さな領域(矩形画像
領域に対して)を有する時間間隔中に存在する。幾つか
のフレーム(例えば、5個のフレーム)について、モー
ションインジケータ信号を1に維持することにより、各
タイムモーションが検出され、確実なモーション検出が
不可能な場合、濾波ステップは少数の中間フレーム中は
差し止められる。
【0093】累積マッチ係数を用いる検出 段階的画面変化を検出するために、突然切替について前
記で説明した有限状態機械(図6(c)参照)は、モー
ション制御時相濾波ステップを利用するように改変しな
ければならない。図9は、時相濾波を使用する場合の、
図2のステップ270で使用される基準を例証する状態
図である。前記のようにS1からS0への遷移に関する条
件は同じままに維持し、かつ、この条件はIM信号及び
画像コントラスト信号の関数であるが、数字が示すよう
に、CM信号は遷移に関するIM信号をS0状態からS1
状態に置換する。
記で説明した有限状態機械(図6(c)参照)は、モー
ション制御時相濾波ステップを利用するように改変しな
ければならない。図9は、時相濾波を使用する場合の、
図2のステップ270で使用される基準を例証する状態
図である。前記のようにS1からS0への遷移に関する条
件は同じままに維持し、かつ、この条件はIM信号及び
画像コントラスト信号の関数であるが、数字が示すよう
に、CM信号は遷移に関するIM信号をS0状態からS1
状態に置換する。
【0094】CM信号を使用する有限状態機械の動作を
以下説明する。最初に、有限状態機械はS0状態にあ
り、CM信号がtH未満である限り、その状態を維持す
る。IM信号からのノイズフロア定数の減算を説明する
ためにtHの値は調整される。その結果、時相フィルタ
の利得は0に設定されているが、CM信号はノイズフロ
ア減算IM信号に等しく、有限状態機械は前記のように
動作する。
以下説明する。最初に、有限状態機械はS0状態にあ
り、CM信号がtH未満である限り、その状態を維持す
る。IM信号からのノイズフロア定数の減算を説明する
ためにtHの値は調整される。その結果、時相フィルタ
の利得は0に設定されているが、CM信号はノイズフロ
ア減算IM信号に等しく、有限状態機械は前記のように
動作する。
【0095】しかし、時相フィルタの利得が適正に調整
される場合、段階的切替に対するCM信号の感度は、C
M信号をtH閾値に到達させるが、IM信号はこの閾値
に到達するには低過ぎる値を有する。その結果、CM信
号はS0からS1に遷移する。S1からS0への遷移を起こ
させる基準は前記と同じである。従って、IM値はtL
値と比較され、新たな画面を確実に安定化させる(すな
わち、IM<=tL)。
される場合、段階的切替に対するCM信号の感度は、C
M信号をtH閾値に到達させるが、IM信号はこの閾値
に到達するには低過ぎる値を有する。その結果、CM信
号はS0からS1に遷移する。S1からS0への遷移を起こ
させる基準は前記と同じである。従って、IM値はtL
値と比較され、新たな画面を確実に安定化させる(すな
わち、IM<=tL)。
【0096】更に、画像コントラストをフェードイン中
に許容可能レベルに確実に到達させるために、画像コン
トラスト(IC)信号も使用される。新たな画面の開始
を示すS1からS0への遷移も、1フレームの持続期間
中、利得βを1に設定させる。これにより、CM信号の
値はノイズフロア減算IM信号の現在値にまで低下され
る。これはCM信号から画面変化の作用を取り除き、新
たな画面で動作しながら、時相フィルタを新たに始動さ
せる。
に許容可能レベルに確実に到達させるために、画像コン
トラスト(IC)信号も使用される。新たな画面の開始
を示すS1からS0への遷移も、1フレームの持続期間
中、利得βを1に設定させる。これにより、CM信号の
値はノイズフロア減算IM信号の現在値にまで低下され
る。これはCM信号から画面変化の作用を取り除き、新
たな画面で動作しながら、時相フィルタを新たに始動さ
せる。
【0097】遅延フレーム比較とモーション制御時相濾
波の両方のステップを使用する場合、本発明は多数の効
果を達成する。先ず、これらのステップにより、本発明
の方法は、画面間で起こることができるディソルブ及び
その他の多数の段階的切替を検出できる。次に、IM信
号を極く僅かしか増大させない段階的なフェードアウト
を検出する場合、微小な増大はCM信号で増幅されるの
で、これらのステップは実質的に本発明の方法の感度を
高める。
波の両方のステップを使用する場合、本発明は多数の効
果を達成する。先ず、これらのステップにより、本発明
の方法は、画面間で起こることができるディソルブ及び
その他の多数の段階的切替を検出できる。次に、IM信
号を極く僅かしか増大させない段階的なフェードアウト
を検出する場合、微小な増大はCM信号で増幅されるの
で、これらのステップは実質的に本発明の方法の感度を
高める。
【0098】更に、比較的類似した画面間の突然切替の
検出も高められる。この場合、切替付近のフレームの対
応領域の類似性はtH閾値未満の振幅を有するIM信号
を生成する。その結果、切替は検出されない。しかし、
前記のように、遅延フレーム比較を行うことにより、信
号の時相度合は1個のフレームタイムからD個のフレー
ムタイムへ増大される。この増大により、時相濾波ステ
ップの十分な時間はtHよりも大きな振幅を有するCM
信号を発生することができる。従って、他の方法では見
落としてしまうような切替も検出できる。
検出も高められる。この場合、切替付近のフレームの対
応領域の類似性はtH閾値未満の振幅を有するIM信号
を生成する。その結果、切替は検出されない。しかし、
前記のように、遅延フレーム比較を行うことにより、信
号の時相度合は1個のフレームタイムからD個のフレー
ムタイムへ増大される。この増大により、時相濾波ステ
ップの十分な時間はtHよりも大きな振幅を有するCM
信号を発生することができる。従って、他の方法では見
落としてしまうような切替も検出できる。
【0099】図10は、本発明の方法を段階的切替(領
域I)及びフレーム内に存在する不規則なモーション
(領域II)の検出に使用する場合の様々な信号の代表
的波形を示す。IM信号60は領域Iにおける持続的な
低レベルな大きさの増大を示す。モーションインジケー
タ(MI)信号が0に設定される場合、IM信号60の
モーション制御時相濾波が起こる。これにより、CM信
号808の値は91における所定のtH値よりも高く増
大される。その結果、有限状態機械はS0状態からS1状
態への遷移を受ける。
域I)及びフレーム内に存在する不規則なモーション
(領域II)の検出に使用する場合の様々な信号の代表
的波形を示す。IM信号60は領域Iにおける持続的な
低レベルな大きさの増大を示す。モーションインジケー
タ(MI)信号が0に設定される場合、IM信号60の
モーション制御時相濾波が起こる。これにより、CM信
号808の値は91における所定のtH値よりも高く増
大される。その結果、有限状態機械はS0状態からS1状
態への遷移を受ける。
【0100】段階的画面変化の終点が検出されると、I
M信号の大きさは67におけるtL値未満の値にまで低
下する。従って、有限状態機械はS0状態へ戻る。斯く
して、新たな画面の開始が示される。これはまた、CM
信号をIM信号の現在値にまで低下する。図10の右端
部分(領域II)は不規則モーションによるIMの値の
増大を示す。この場合、MI信号は1に設定され、時相
濾波処理は手直しされる。その結果、ノイズフロアが除
去されたIM信号と等しいCM値808はtH未満であ
り、斯くして不正確な検出が避けられる。
M信号の大きさは67におけるtL値未満の値にまで低
下する。従って、有限状態機械はS0状態へ戻る。斯く
して、新たな画面の開始が示される。これはまた、CM
信号をIM信号の現在値にまで低下する。図10の右端
部分(領域II)は不規則モーションによるIMの値の
増大を示す。この場合、MI信号は1に設定され、時相
濾波処理は手直しされる。その結果、ノイズフロアが除
去されたIM信号と等しいCM値808はtH未満であ
り、斯くして不正確な検出が避けられる。
【0101】カメラフラッシュ誘導画面変化の排除 同じ事象のビデオ記録が行われている間に、こま止め写
真で使用されるようなカメラ白熱電球が発光される場
合、フラッシュは間違った画面変化を検出させる。この
間違った検出は、画像強度の急激で、しかも相当な増大
のために起こる。エー・ナガサカ(A.Nagasaka)らの“オ
ブジェクト・アピアランスのための自動ビデオインデク
シング及びフルビデオサーチ”(ビジュアル・データベ
ース・システムズに関する第2回作業会議会報(ビジュ
アル・データベース・システムズII),113〜12
7頁)と題する研究論文では、このような強度変化は通
常、フレームのわずか半分しか影響を及ぼさないと想定
している。
真で使用されるようなカメラ白熱電球が発光される場
合、フラッシュは間違った画面変化を検出させる。この
間違った検出は、画像強度の急激で、しかも相当な増大
のために起こる。エー・ナガサカ(A.Nagasaka)らの“オ
ブジェクト・アピアランスのための自動ビデオインデク
シング及びフルビデオサーチ”(ビジュアル・データベ
ース・システムズに関する第2回作業会議会報(ビジュ
アル・データベース・システムズII),113〜12
7頁)と題する研究論文では、このような強度変化は通
常、フレームのわずか半分しか影響を及ぼさないと想定
している。
【0102】しかし、この想定は特別な場合にだけ正し
い。これらの場合は、画面の大きな部分(すなわち、ナ
ガサカらのでは、画面の半分)がフラッシュにより悪影
響を受けないほど十分にフラッシュ源から離れているよ
うな場合である。
い。これらの場合は、画面の大きな部分(すなわち、ナ
ガサカらのでは、画面の半分)がフラッシュにより悪影
響を受けないほど十分にフラッシュ源から離れているよ
うな場合である。
【0103】しかし、画面内の大多数の物体が照明源に
接近している場合、全体的画像はフラッシュの間に強度
が急激に増大する。このような場合、前記の方法は画面
変化を間違って検出する。これと対照的に、本発明は、
遅延フレーム比較のステップを使用することにより、こ
のような間違った画面検出を十分に排除することができ
る。
接近している場合、全体的画像はフラッシュの間に強度
が急激に増大する。このような場合、前記の方法は画面
変化を間違って検出する。これと対照的に、本発明は、
遅延フレーム比較のステップを使用することにより、こ
のような間違った画面検出を十分に排除することができ
る。
【0104】この排除方法は、有限状態機械がS0状態
に遷移復帰する前にS1状態を維持する時間を、フレー
ムタイムの数で測定されるようなフラッシュの持続時間
に制限することに基づく。この間隔は遷移間隔と呼ばれ
る。
に遷移復帰する前にS1状態を維持する時間を、フレー
ムタイムの数で測定されるようなフラッシュの持続時間
に制限することに基づく。この間隔は遷移間隔と呼ばれ
る。
【0105】IM信号が連続的なビデオフレームを比較
することにより(すなわち、非遅延フレーム比較によ
り)計算される場合について検討する。この場合、突然
画面変化は、新たな画面の最初のフレームが先の画面に
属する先行フレームと比較される場合に、IM信号の振
幅の急激な増大を起こす。これは次いで、tHよりも高
いCM値を発生し、これにより、有限状態機械はS0か
らS1へ遷移する。
することにより(すなわち、非遅延フレーム比較によ
り)計算される場合について検討する。この場合、突然
画面変化は、新たな画面の最初のフレームが先の画面に
属する先行フレームと比較される場合に、IM信号の振
幅の急激な増大を起こす。これは次いで、tHよりも高
いCM値を発生し、これにより、有限状態機械はS0か
らS1へ遷移する。
【0106】次のフレームタイムにおいて、新たなフレ
ームは同じ画面に属する先行フレームと比較される。良
好なマッチの結果として、IM信号の振幅は低下され
る。斯くしてS1からS0への遷移が起こる。従って、こ
の場合、遷移間隔の持続時間は1フレームタイムであ
る。
ームは同じ画面に属する先行フレームと比較される。良
好なマッチの結果として、IM信号の振幅は低下され
る。斯くしてS1からS0への遷移が起こる。従って、こ
の場合、遷移間隔の持続時間は1フレームタイムであ
る。
【0107】カメラのフラッシュ電球が同じ画面の単一
フレーム中に発光する場合、連続的フレームの比較は、
遷移間隔の長さを2にする。これは、IM信号が2つの
連続的なフレームタイム中に大きな振幅を帯びるためで
ある。2つの連続的なフレームタイムにおいて、高強度
フレーム(すなわち、フラッシュ発光中のフレーム)は
直前及び直後のフレームと比較される。若干の段階的画
面変化も2フレームの遷移間隔を有するので、この場合
は、カメラフラッシュ事象と、遷移間隔の長さに基づく
段階的画面変化とを識別することはできない。
フレーム中に発光する場合、連続的フレームの比較は、
遷移間隔の長さを2にする。これは、IM信号が2つの
連続的なフレームタイム中に大きな振幅を帯びるためで
ある。2つの連続的なフレームタイムにおいて、高強度
フレーム(すなわち、フラッシュ発光中のフレーム)は
直前及び直後のフレームと比較される。若干の段階的画
面変化も2フレームの遷移間隔を有するので、この場合
は、カメラフラッシュ事象と、遷移間隔の長さに基づく
段階的画面変化とを識別することはできない。
【0108】検出方法がD個のフレームタイムの遅延と
共に、遅延フレーム比較を使用する場合、突然画面変化
はD個のフレームタイムの遷移間隔を有する。(なぜな
ら、新たな画面の最初のD個のフレームは先行画面の最
後のD個のフレームと比較されるからである。)段階的
画面変化はもっと長い遷移間隔を有する。しかし、フラ
ッシュ事象は長さが1の遷移間隔を2つ有することを特
徴とする。
共に、遅延フレーム比較を使用する場合、突然画面変化
はD個のフレームタイムの遷移間隔を有する。(なぜな
ら、新たな画面の最初のD個のフレームは先行画面の最
後のD個のフレームと比較されるからである。)段階的
画面変化はもっと長い遷移間隔を有する。しかし、フラ
ッシュ事象は長さが1の遷移間隔を2つ有することを特
徴とする。
【0109】最初の遷移は、高強度画像を、この画像よ
りも先のD番目のフレームと比較している間に起こる。
次の遷移は高強度画像を、この画像に続くD番目のフレ
ームと比較している間に起こる。2つの遷移はD個のフ
レーム間隔により分離されている。従って、フラッシュ
事象は遷移間隔の単位長さに基づいて検出できる。その
結果、フラッシュ事象は不正確な検出を起こさない。
りも先のD番目のフレームと比較している間に起こる。
次の遷移は高強度画像を、この画像に続くD番目のフレ
ームと比較している間に起こる。2つの遷移はD個のフ
レーム間隔により分離されている。従って、フラッシュ
事象は遷移間隔の単位長さに基づいて検出できる。その
結果、フラッシュ事象は不正確な検出を起こさない。
【0110】不正確な画面変化の排除に関する前記説明
は、フラッシュ写真術により生起された単一フレームの
ミスマッチについて記述されている。しかし、排除方法
は、直前及び直後のフレームとの高レベルミスマッチを
有する単一フレームを生成するその他の全てのノイズ源
についても申し分なく同等に応用できる。
は、フラッシュ写真術により生起された単一フレームの
ミスマッチについて記述されている。しかし、排除方法
は、直前及び直後のフレームとの高レベルミスマッチを
有する単一フレームを生成するその他の全てのノイズ源
についても申し分なく同等に応用できる。
【0111】
【発明の効果】以上説明したように、本発明によれば、
従来の画面変化検出器と異なり、突然画面変化及び段階
的画面変化の両方とも検出できる。
従来の画面変化検出器と異なり、突然画面変化及び段階
的画面変化の両方とも検出できる。
【図1】本発明による画面変化検出器に結合されたビデ
オ源及びアプリケーション出力のブロック図である。
オ源及びアプリケーション出力のブロック図である。
【図2】本発明による画面変化検出方法の主たるステッ
プを説明する流れ図である。
プを説明する流れ図である。
【図3】2個のフレーム間で行われるブロックマッチン
グを説明するブロック図である。
グを説明するブロック図である。
【図4】ブロックマッチングの過程中に複数の領域に細
分されたフレームの一例を示す模式図である。
分されたフレームの一例を示す模式図である。
【図5】(a)は突然画面変化の存在における瞬時マッ
チ信号の動作を示す波形図であり、(b)はフェードア
ウトの存在における瞬時マッチ信号の動作の一例を示す
波形図であり、(c)は段階的画面変化の存在における
瞬時マッチ信号の動作の一例を示す波形図である。
チ信号の動作を示す波形図であり、(b)はフェードア
ウトの存在における瞬時マッチ信号の動作の一例を示す
波形図であり、(c)は段階的画面変化の存在における
瞬時マッチ信号の動作の一例を示す波形図である。
【図6】(a)は2つの異なる閾値を瞬時マッチ信号に
適用した実施例の波形図と、決定モジュールの状態の生
成変化を示す波形図であり、(b)は瞬時マッチ信号だ
けを使用する、2つの状態とその状態間の遷移に関する
決定モジュールを例証する状態図であり、(c)は瞬時
マッチ信号と画像コントラスト信号を使用する別の決定
モジュールを例証する状態図である。
適用した実施例の波形図と、決定モジュールの状態の生
成変化を示す波形図であり、(b)は瞬時マッチ信号だ
けを使用する、2つの状態とその状態間の遷移に関する
決定モジュールを例証する状態図であり、(c)は瞬時
マッチ信号と画像コントラスト信号を使用する別の決定
モジュールを例証する状態図である。
【図7】斯くフレームをD番目の先行フレームと比較す
る場合に伴うステップを例証するブロック図である。
る場合に伴うステップを例証するブロック図である。
【図8】瞬時マッチ信号から累積マッチ信号を決定する
のに使用されるモーション制御デジタルフィルタのブロ
ック図である。
のに使用されるモーション制御デジタルフィルタのブロ
ック図である。
【図9】累積マッチ信号、瞬時マッチ信号及び画像コン
トラスト信号を使用する完全な決定モジュールを例証す
る状態図である。
トラスト信号を使用する完全な決定モジュールを例証す
る状態図である。
【図10】本発明の画面変化検出器により発生された出
力信号の波形図であり、瞬時マッチ信号、累積マッチ信
号、モーションインジケータ信号及び画面変化検出に導
く生成状態変化をそれぞれ示す。
力信号の波形図であり、瞬時マッチ信号、累積マッチ信
号、モーションインジケータ信号及び画面変化検出に導
く生成状態変化をそれぞれ示す。
1 アナログ又はデジタルビデオ源 2 画面変化検出装置 3 画像デジタイザ 4 画像プロセッサ 5 プロセッサ 6 画像メモリ 7 デジタルコンピュータ 8 画面変化検出アプリケーション
Claims (19)
- 【請求項1】 一連の画像情報帯有フレームにおける画
面変化を決定する方法において、 (a)第1のフレームを第1の複数の領域に分割し、か
つ、第2のデジタル化フレームを、第1の複数の領域と
それぞれ位置が対応する第2の複数の領域に分割するス
テップと、 (b)第1のフレームの領域が第2のフレームの各マッ
チング領域と概ね類似する画像情報を包含する最尤を示
す領域マッチ信号を発生するために、領域のブロックマ
ッチングを行うステップと、 (c)最適マッチを確定するマッチ信号で始まり、最悪
マッチを確定するマッチ信号で終了するように、領域マ
ッチ信号を配列するステップと、 (d)瞬時マッチ(IM)信号を得るために、所定数の
最適領域マッチ信号を選択し、かつ、一緒に平均化する
ステップと、前記IM信号は第1のフレームが第2のフ
レームにより示される画面と異なる画面を示すか否かを
決定するための基準を提供し、 (e)IM信号が所定の決定基準を満たす場合、画面変
化を表示するステップとからなることを特徴とする画面
変化決定方法。 - 【請求項2】 第1及び第2のフレームは第1の一対の
フレームを画成し、 (f)一連のフレームの複数のフレーム対を連続的に選
択するために、ステップ(a)〜(d)を複数回反復す
るステップを更に含む請求項1の方法。 - 【請求項3】 画面変化を表示するステップの前に、複
数のIM信号を時相濾波するステップを更に含む請求項
2の方法。 - 【請求項4】 濾波ステップはIM信号から一定のノイ
ズ値を減算するステップからなる請求項3の方法。 - 【請求項5】 IM信号を時相濾波するステップは、可
変利得と範囲限定器を有する無限インパルス応答デジタ
ルフィルタによりIM信号を時相濾波するステップから
なる請求項4の方法。 - 【請求項6】 所定の条件に応答して、IM信号の時相
濾波のステップ中に、利得を変更するステップを更に有
する請求項3の方法。 - 【請求項7】 所定の条件は領域マッチ信号とモーショ
ンベクトルの関数である請求項6の方法。 - 【請求項8】 領域マッチ信号は、最小ブロックマッチ
ングエラー対ブロックマッチングエラーの平均値の比で
ある請求項1の方法。 - 【請求項9】 領域マッチ信号は、最小ブロックマッチ
ングエラー対ブロックマッチングエラーの平均値の比で
ある請求項3の方法。 - 【請求項10】 領域マッチ信号は、最小ブロックマッ
チングエラー対ブロックマッチングエラーの平均値の比
である請求項7の方法。 - 【請求項11】 一連の画像情報帯有フレームにおける
画面変化を決定する方法において、 (a)一連のフレームのうちの少なくとも最初と次のフ
レームをデジタル化するステップと、 (b)最初のフレームを第1の複数の領域に分割し、次
のフレームを、最初のフレームの第1の複数の領域と位
置及びサイズがそれぞれ対応する第2の複数の領域に分
割するステップと、 (c)(i)第1の複数の領域の最初の領域と、次のフ
レーム内の対応する領域を包囲する次の領域の一部分内
の前記第1の領域と同サイズの複数の領域との間の第1
のマッチ距離の値を決定し、そして、(ii)前記値の
うちから最小値を見つけだす、ことによりブロックマッ
チングを行うステップと、前記最小値は、次のフレーム
内の対応領域の位置に関して確定される次のフレームの
マッチング領域の位置に対応し、前記マッチング領域
は、最初のフレームの第1の領域と概ね類似する画像情
報を最も包含しそうな次のフレームの領域である、 (d)正規化最小値を得るために、マッチ距離の全ての
値の平均値を算出し、そして、前記最小値を前記平均値
で除算することによりマッチ距離の最小値を正規化する
ステップとからなり、前記正規化最小値は、マッチング
領域が最初のフレームの第1の領域と概ね類似する画像
情報を包含する最尤を示す、ことを特徴とする画面変化
決定方法。 - 【請求項12】 最小値からモーションベクトルを生成
するステップを更に有し、前記モーションベクトルは、
第2のフレームの対応領域の位置に関するマッチング領
域の位置により画定される距離に等しい請求項11の方
法。 - 【請求項13】 最初のフレームはK個の領域に分割さ
れ、 K個の領域にそれぞれ対応するK個の最小値とK個の正
規化最小値を得るために、前記K個の領域の各々につい
て、ステップ(c)及び(d)を反復するステップを更
に有する請求項11の方法。 - 【請求項14】 (f)最小正規化最小値で始まり、最
大正規化最小値で終わるように、大きさにより、K個の
正規化最小値を配列するステップと、 (g)K個の配列正規化最小値のうちの最初のS個を選
択し、一緒に平均化することにより決定された値を有す
る瞬時マッチ(IM)信号を算出するステップを更に有
し、 前記S≦Kはユーザが決定することができ、前記IM信
号は最初のフレームが次のフレームと異なる画面に属す
るか否かを決定するために基準を提供する請求項13の
方法。 - 【請求項15】 前記最初のフレームと次のフレームは
第1のフレーム対を画成し、 (h)前記IM信号が、或るフレーム対のフレームがこ
のフレーム対の他のフレームと異なる画面に属するか否
か決定するための基準を提供するように、IM信号の複
数の値を算出するために、第1のフレーム対の代わり
に、一連の複数のフ対を連続的に選択するためにステッ
プ(a)〜(g)を複数回反復するステップを更に有す
る請求項14の方法。 - 【請求項16】 (i)IM信号の上方閾値と下方閾値
を予め選定し、これにより、先の時点で上方閾値よりも
高い値にあった後に下方閾値未満の値へのIM信号の値
の変化は、IM信号が上方閾値よりも高い価から下方閾
値未満の値に変化した時の、一連のフレーム対間の画面
変化点に対応するステップを更に有する請求項15の方
法。 - 【請求項17】 最初のフレームと次のフレームは一連
の連続的なフレームである請求項11の方法。 - 【請求項18】 最初のフレームと次のフレームは所定
数のフレームにより離間されている請求項11の方法。 - 【請求項19】 累積マッチ信号を発生するために、可
変利得を有するデジタルフィルタによりIM信号を時相
濾波するステップを更に有し、前記累積マッチ信号は、
画面変化が複数のフレームに亙って生じたか否かを決定
する基準を提供する請求項15の方法。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US08/171,136 US6055025A (en) | 1993-12-21 | 1993-12-21 | Method and apparatus for detecting abrupt and gradual scene changes in image sequences |
| US171136 | 1993-12-21 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH07203294A true JPH07203294A (ja) | 1995-08-04 |
Family
ID=22622676
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6335125A Pending JPH07203294A (ja) | 1993-12-21 | 1994-12-21 | 画面変化決定方法 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US6055025A (ja) |
| EP (1) | EP0660327A3 (ja) |
| JP (1) | JPH07203294A (ja) |
| KR (1) | KR950023051A (ja) |
| CA (1) | CA2133233A1 (ja) |
| SG (1) | SG67873A1 (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7466365B2 (en) | 2000-09-21 | 2008-12-16 | Canon Kabushiki Kaisha | Moving image processing apparatus and method, and computer readable memory |
| JP2024512871A (ja) * | 2021-04-09 | 2024-03-21 | グーグル エルエルシー | キーフレームライブラリを用いた高度な映像符号化 |
Families Citing this family (39)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6211912B1 (en) * | 1994-02-04 | 2001-04-03 | Lucent Technologies Inc. | Method for detecting camera-motion induced scene changes |
| US6271892B1 (en) | 1994-06-02 | 2001-08-07 | Lucent Technologies Inc. | Method and apparatus for compressing a sequence of information-bearing frames having at least two media |
| GB9607645D0 (en) * | 1996-04-12 | 1996-06-12 | Snell & Wilcox Ltd | Processing of video signals prior to compression |
| US8107015B1 (en) | 1996-06-07 | 2012-01-31 | Virage, Incorporated | Key frame selection |
| GB9619117D0 (en) * | 1996-09-12 | 1996-10-23 | Pandora Int Ltd | Digital image processing |
| CA2190785A1 (en) * | 1996-11-20 | 1998-05-20 | Nael Hirzalla | Method of processing a video stream |
| US6219382B1 (en) * | 1996-11-25 | 2001-04-17 | Matsushita Electric Industrial Co., Ltd. | Method and apparatus for locating a caption-added frame in a moving picture signal |
| US6115420A (en) * | 1997-03-14 | 2000-09-05 | Microsoft Corporation | Digital video signal encoder and encoding method |
| US6496228B1 (en) | 1997-06-02 | 2002-12-17 | Koninklijke Philips Electronics N.V. | Significant scene detection and frame filtering for a visual indexing system using dynamic thresholds |
| JP3409834B2 (ja) * | 1997-07-10 | 2003-05-26 | ソニー株式会社 | 画像処理装置および画像処理方法、並びに記録媒体 |
| FR2779549B1 (fr) * | 1998-06-08 | 2000-09-01 | Thomson Csf | Procede de separation des composantes dynamique et statique d'une suite d'images |
| JP4146955B2 (ja) * | 1999-02-15 | 2008-09-10 | キヤノン株式会社 | 画像処理方法及び画像処理装置 |
| KR100634671B1 (ko) * | 1999-08-13 | 2006-10-13 | 주식회사 케이티 | 고정밀도의 실시간 점진적 장면경계 검출기 및 그 방법 |
| US7031385B1 (en) * | 1999-10-01 | 2006-04-18 | Matsushita Electric Industrial Co., Ltd. | Method and apparatus for detecting scene change of a compressed moving-picture, and program recording medium therefor |
| US6766098B1 (en) | 1999-12-30 | 2004-07-20 | Koninklijke Philip Electronics N.V. | Method and apparatus for detecting fast motion scenes |
| JP3677192B2 (ja) * | 2000-04-19 | 2005-07-27 | シャープ株式会社 | 画像処理装置 |
| GB0104922D0 (en) * | 2001-02-28 | 2001-04-18 | Mansfield Richard L | Method of detecting a significant change of scene |
| US6798911B1 (en) | 2001-03-28 | 2004-09-28 | At&T Corp. | Method and system for fuzzy clustering of images |
| JP3928424B2 (ja) * | 2001-12-26 | 2007-06-13 | コニカミノルタビジネステクノロジーズ株式会社 | 動画におけるフリッカ補正 |
| DE60331534D1 (de) * | 2002-04-25 | 2010-04-15 | Sony Corp | Bildverarbeitungsvorrichtung, bildverarbeitungsverfahren und bildverarbeitungsprogramm |
| US6963378B2 (en) * | 2002-11-01 | 2005-11-08 | Motorola, Inc. | Method and apparatus for reduction of visual content |
| US7177470B2 (en) | 2002-11-13 | 2007-02-13 | Koninklijke Philips Electronics N. V. | Method of and system for detecting uniform color segments |
| JP4112968B2 (ja) * | 2002-12-26 | 2008-07-02 | 富士通株式会社 | ビデオテキスト処理装置 |
| CN1333327C (zh) * | 2004-05-26 | 2007-08-22 | 凌阳科技股份有限公司 | 用以判断轨迹行为的最佳相关匹配方法及系统 |
| US20060182184A1 (en) * | 2005-02-11 | 2006-08-17 | Florent Maheo | Device and method for pre-processing before encoding of a video sequence |
| FR2891686B1 (fr) * | 2005-10-03 | 2008-04-18 | Envivio France Entpr Uniperson | Procede et dispositif de detection de transitions dans une sequence video, procede et dispositif de codage, produits programme d'ordinateur et moyens de stockage correspondants. |
| DE102007063635A1 (de) * | 2007-03-22 | 2009-04-02 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Verfahren zur zeitlichen Segmentierung eines Videos in Videobildfolgen und zur Auswahl von Keyframes für das Auffinden von Bildinhalten unter Einbeziehung einer Subshot-Detektion |
| EP3683768B1 (en) * | 2007-05-03 | 2023-06-28 | Sony Group Corporation | Method and system for initializing templates of moving objects |
| JP4420085B2 (ja) * | 2007-08-20 | 2010-02-24 | ソニー株式会社 | データ処理装置、データ処理方法、プログラムおよび記録媒体 |
| US8582952B2 (en) * | 2009-09-15 | 2013-11-12 | Apple Inc. | Method and apparatus for identifying video transitions |
| US8463037B2 (en) * | 2011-03-31 | 2013-06-11 | Sony Corporation | Detection of low contrast for image processing |
| KR101947125B1 (ko) * | 2012-11-27 | 2019-02-13 | 엘지디스플레이 주식회사 | 타이밍 컨트롤러 및 그 구동 방법과 이를 이용한 표시장치 |
| JP5838351B2 (ja) * | 2013-03-26 | 2016-01-06 | パナソニックIpマネジメント株式会社 | 映像受信装置及び受信映像の画像認識方法 |
| US9799376B2 (en) | 2014-09-17 | 2017-10-24 | Xiaomi Inc. | Method and device for video browsing based on keyframe |
| CN104284240B (zh) * | 2014-09-17 | 2018-02-02 | 小米科技有限责任公司 | 视频浏览方法及装置 |
| CN107409167B (zh) * | 2015-01-15 | 2020-01-21 | 株式会社岛津制作所 | 图像处理装置 |
| US11093788B2 (en) * | 2018-02-08 | 2021-08-17 | Intel Corporation | Scene change detection |
| US11006022B2 (en) * | 2018-05-23 | 2021-05-11 | Novatek Microelectronics Corp. | Video system and related method |
| US11227160B2 (en) * | 2019-11-15 | 2022-01-18 | International Business Machines Corporation | Detecting scene transitions in video footage |
Family Cites Families (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR920008063B1 (ko) * | 1988-11-22 | 1992-09-22 | 마쯔시다덴기산교 가부시기가이샤 | 텔레비젼신호수신장치 |
| JP2977829B2 (ja) * | 1989-01-11 | 1999-11-15 | 株式会社東芝 | 動画像再生装置および動画像再生方法 |
| US5134472A (en) * | 1989-02-08 | 1992-07-28 | Kabushiki Kaisha Toshiba | Moving object detection apparatus and method |
| GB2231745B (en) * | 1989-04-27 | 1993-07-07 | Sony Corp | Motion dependent video signal processing |
| JP2861249B2 (ja) * | 1989-05-11 | 1999-02-24 | 日本電気株式会社 | 画像変化検出方法および画像変化検出装置 |
| US5099322A (en) * | 1990-02-27 | 1992-03-24 | Texas Instruments Incorporated | Scene change detection system and method |
| JP2863818B2 (ja) * | 1990-08-31 | 1999-03-03 | 工業技術院長 | 動画像の変化点検出方法 |
| JP3067275B2 (ja) * | 1991-05-23 | 2000-07-17 | 日本放送協会 | シーンチェンジ検出装置 |
| US5265180A (en) * | 1991-06-13 | 1993-11-23 | Intel Corporation | Method of encoding a sequence of images of a digital motion video signal |
| JPH0549031A (ja) * | 1991-08-15 | 1993-02-26 | Pioneer Electron Corp | 画像監視装置 |
| US5235419A (en) * | 1991-10-24 | 1993-08-10 | General Instrument Corporation | Adaptive motion compensation using a plurality of motion compensators |
| US5642294A (en) * | 1993-12-17 | 1997-06-24 | Nippon Telegraph And Telephone Corporation | Method and apparatus for video cut detection |
-
1993
- 1993-12-21 US US08/171,136 patent/US6055025A/en not_active Expired - Lifetime
-
1994
- 1994-09-29 CA CA002133233A patent/CA2133233A1/en not_active Abandoned
- 1994-12-01 EP EP94308922A patent/EP0660327A3/en not_active Withdrawn
- 1994-12-01 SG SG1995002108A patent/SG67873A1/en unknown
- 1994-12-06 KR KR1019940032881A patent/KR950023051A/ko not_active Withdrawn
- 1994-12-21 JP JP6335125A patent/JPH07203294A/ja active Pending
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7466365B2 (en) | 2000-09-21 | 2008-12-16 | Canon Kabushiki Kaisha | Moving image processing apparatus and method, and computer readable memory |
| US8525935B2 (en) | 2000-09-21 | 2013-09-03 | Canon Kabushiki Kaisha | Moving image processing apparatus and method, and computer readable memory |
| JP2024512871A (ja) * | 2021-04-09 | 2024-03-21 | グーグル エルエルシー | キーフレームライブラリを用いた高度な映像符号化 |
| US12457344B2 (en) | 2021-04-09 | 2025-10-28 | Google Llc | Advanced video coding using a key-frame library |
Also Published As
| Publication number | Publication date |
|---|---|
| KR950023051A (ko) | 1995-07-28 |
| SG67873A1 (en) | 1999-10-19 |
| EP0660327A2 (en) | 1995-06-28 |
| US6055025A (en) | 2000-04-25 |
| CA2133233A1 (en) | 1995-06-22 |
| EP0660327A3 (en) | 1995-11-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JPH07203294A (ja) | 画面変化決定方法 | |
| US6061471A (en) | Method and system for detecting uniform images in video signal | |
| US5778108A (en) | Method and system for detecting transitional markers such as uniform fields in a video signal | |
| US5920360A (en) | Method and system for detecting fade transitions in a video signal | |
| US5959697A (en) | Method and system for detecting dissolve transitions in a video signal | |
| US5767923A (en) | Method and system for detecting cuts in a video signal | |
| US6493042B1 (en) | Feature based hierarchical video segmentation | |
| US5635982A (en) | System for automatic video segmentation and key frame extraction for video sequences having both sharp and gradual transitions | |
| US6157744A (en) | Method and apparatus for detecting a point of change in a moving image | |
| CA2311662C (en) | Detection of transitions in video sequences | |
| US6072542A (en) | Automatic video segmentation using hidden markov model | |
| US20040090453A1 (en) | Method of and system for detecting uniform color segments | |
| US20020037103A1 (en) | Method of and apparatus for segmenting a pixellated image | |
| CN101443850A (zh) | 视频的关键帧提取 | |
| JPH09130732A (ja) | シーンチェンジ検出方法および動画像編集装置 | |
| US20100302453A1 (en) | Detection of gradual transitions in video sequences | |
| US7880815B2 (en) | Method for detecting and eliminating flash scene in digital video | |
| US5734735A (en) | Method and system for detecting the type of production media used to produce a video signal | |
| JP4001664B2 (ja) | ビデオ信号画像中のきずを検出する方法および装置 | |
| US8150167B2 (en) | Method of image analysis of an image in a sequence of images to determine a cross-fade measure | |
| GB2317296A (en) | Film scratch detector | |
| JP3624677B2 (ja) | 動画像の特殊効果検出装置及びプログラムを記録した記録媒体 | |
| Silva et al. | Removal of blotches and line scratches from film and video sequences using a digital restoration chain. | |
| KR100262344B1 (ko) | 비디오 데이타 분석에서의 점진적 장면경계(gradual scene change) 중 디졸브(disslove) 검출방법 | |
| Xiaona et al. | An improved approach of scene change detection in archived films |