JP3977683B2 - 映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体 - Google Patents

映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体 Download PDF

Info

Publication number
JP3977683B2
JP3977683B2 JP2002144626A JP2002144626A JP3977683B2 JP 3977683 B2 JP3977683 B2 JP 3977683B2 JP 2002144626 A JP2002144626 A JP 2002144626A JP 2002144626 A JP2002144626 A JP 2002144626A JP 3977683 B2 JP3977683 B2 JP 3977683B2
Authority
JP
Japan
Prior art keywords
analysis
video
event
time
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002144626A
Other languages
English (en)
Other versions
JP2003338997A (ja
Inventor
昭久 小林
秀豪 桑野
正志 森本
治彦 児島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2002144626A priority Critical patent/JP3977683B2/ja
Publication of JP2003338997A publication Critical patent/JP2003338997A/ja
Application granted granted Critical
Publication of JP3977683B2 publication Critical patent/JP3977683B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Television Signal Processing For Recording (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は,映像信号を読み込み,映像内容におけるシーンの切り替わり,テロップ文字の有無や音の有無などの映像中に含まれるシーン情報の解析を行う映像解析技術に関し,特にシーン情報の解析を中断・再開する場合に,精度を落とさず効率よく解析処理を行うことができるようにした映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体に関する。
【0002】
【従来の技術】
映像中のカット,テロップ,音等のシーン情報の解析を行う映像解析技術は,従来から多数提案されている。
【0003】
(参考文献)
[1]大辻他,「輝度情報を使った動画像ブラウジング」,電気情報通信学会技術報告,IE90−103,1991。
[2]谷口他,「映像カット点検出方法および装置」,特許番号第2839132号。
[3]外村他,「シーン抽出処理方法」,特許番号第2960939号。
[4]中島他,「キーワード画像抽出による動画像サマリの作成」,情処全大1F−10,1994後期。
【0004】
従来の手法は,いずれも映像中のシーン内容を解析するために,隣り合うフレーム画像の比較演算処理を映像の先頭から最後まで逐次的に行う方式をとる。隣り合うフレーム画像の比較演算処理の一例として,参考文献[1]で提案されているカット検出の方法は,隣り合うフレーム画像同士の対応する画素間の輝度値の差を計算して,その絶対値の全画面に渡る和が予め定められた閾値より大きいときカットとして検出するものである。
【0005】
【発明が解決しようとする課題】
一般に,映像のシーン情報を解析し,解析結果を利用して映像アーカイブを構築する場合,シーン情報の解析の後には,解析によって得られるシーン情報に対し,オペレータがシーンに映っている情報やシーンの検索に用いるためのキーワードとなる情報を付与するなどの作業を行うことが多い。さらに,このようなオペレータによる情報の付与を行う作業の後には,オペレータにより付与された情報をもとに,映像の内容を確認したり,映像の検索を行ったりといった映像の利用が想定される。
【0006】
このようなシチュエーションにおいては,映像の内容に応じて,映像解析,情報の付与の作業を,他の映像に対する作業よりも優先的に行う必要が生じる場合がある。例えば,ニュース映像のような即時性を有し,映像解析処理から映像検索用のキーワード情報を付与するまでの時間が極力短い方が望ましい映像の場合には,他の映像より優先的に作業を行いたいという要望がある。また,同じニュース映像同士でもその話題性により,作業に対する優先順位が設定される場合もある。
【0007】
以上のような作業要求に応えるためには,ある映像の解析処理を行っている最中に,別の映像解析処理を優先的に行う必要が生じた場合,ある映像に対する解析処理を中断し,優先度の高い処理を行った後に,中断した処理を再開できる必要がある。
【0008】
しかし,従来技術では,映像解析処理をある時点で中断した場合,解析処理を中断した時点で,保持していたフレーム画像の特徴量や比較演算結果を再開時に取得できず,本来検出すべき,カット,テロップ,音楽等のイベント(ここでイベントとは,検出対象となるカット区間やテロップ区間などの映像区間を指す)が検出できなかったり,イベントの開始位置,終了位置に本来検出されるべき点からずれが発生したりし,正しい解析結果が得られないという問題があった。したがって,正しい解析結果を得るためには,解析処理を最初からやり直す必要があり,作業時間の無駄が発生するという問題があった。
【0009】
本発明は,上記問題を解決するためになされたものであり,映像中のカット,テロップ,音楽等のシーン情報の解析を行う映像解析において,処理の中断・再開により発生するイベントの検出漏れやイベントの開始位置,終了位置のずれの発生を抑えることにより,映像解析処理の中断・再開を行っても正しい解析結果を得られるようにすることを目的とする。本発明を用いることにより,解析処理を中断した場合でも,解析処理を最初からやり直すのではなく,中断した点から処理を再開することで,正しい解析結果が得られるようにし,作業時間の無駄を削減することが主たる目的である。
【0010】
【課題を解決するための手段】
本発明は,上記課題を解決するため,映像解析処理を中断した時点で,映像解析処理の進行状況に関する情報を記憶し,映像の解析処理を再開した時に,この映像解析処理の進行状況に関する情報を取得し,取得した進行状況に関する情報から映像解析を適用すべき解析区間を算出し,算出した解析区間のみに映像解析処理を適用し,中断する以前に得られていた解析結果と再開後に得られる解析結果とを統合することにより,映像全体の解析結果を得ることを特徴とする。
【0011】
具体的には,本発明は,映像データを入力し,記憶する映像入力手段と,前記映像入力手段で入力された映像データについての映像解析処理が新規に開始する処理であるか,以前に解析の途中で中断した処理であるかの進行状況に関する情報を取得する処理状況取得手段と,前記映像入力手段で入力された映像データに対して,映像解析処理の対象となる第1の時間区間を指定する映像解析区間入力手段と,前記処理状況取得手段で取得した映像解析処理の進行状況に関する情報と,前記映像解析区間入力手段から入力された映像解析処理の対象となる第1の時間区間の情報とをもとに,以前に映像解析処理が途中で中断されている場合に,前記第1の時間区間において既に解析が終了している部分と,予め設定された解析区間の重複領域の大きさだけ解析区間が重なるように,その後に実際に映像解析処理を行う第2の時間区間を算出する映像解析区間算出手段と,前記映像入力手段より入力された映像データに対してのシーン情報の解析処理を,新規の映像解析処理の場合には前記第1の時間区間について,映像解析処理の中断後に再開された映像解析処理の場合には前記第2の時間区間について行い,イベントごとの開始時間と終了時間を求める映像解析処理手段と,前記映像解析処理手段の解析処理の進行状況に関する情報を記憶する処理状況記憶手段と,映像解析処理が途中で中断されたことにより複数の解析結果が存在する場合に,前記映像解析処理手段より得られる解析結果に基づきイベントごとの第1の時間区間における終了時間と第2の時間区間における開始時間との前後関係に着目して,前記第1の時間区間における解析結果と前記第2の時間区間における解析結果とを統合し一つの解析結果とする解析結果統合手段と,前記解析結果統合手段により得られた解析結果を出力する解析結果出力手段とを備える。
【0012】
従来技術では,映像解析処理を中断した点の前後において,イベントの検出漏れやイベント区間のずれが発生する場合があったが,本発明により,解析処理の中断前に得られている解析結果と,解析処理を再開した後に得られる解析結果が重複した領域を持つようにでき,この重複した解析結果の情報を用いることにより,処理を中断した点の前後のイベント情報を獲得することができ,解析処理の中断・再開を行わずに映像の先頭から末尾までとおして解析処理を実施した場合と同様の解析結果を得ることが可能となる。
【0013】
ただし,解析処理の中断前に得られている解析結果と,解析処理を再開した後に得られる解析結果とが重複した領域を持つようにするためには,前記映像解析区間算出手段において,算出する第2の時間区間を,実際に映像解析処理が終了していない区間より長めに設定する必要がある。第2の時間区間は,解析処理を適用する区間であるため,中断前に解析を行った区間と中断後に解析を行う区間(第2の時間区間)を合わせた区間は,映像全体を表す区間より長くなり,映像全体の解析処理時間が増加するという問題がある。
【0014】
この解析処理時間の増加を最低限に抑えるため,第2の本発明では,前記進行状況取得手段が,映像解析処理が途中で中断されている映像データに対しての映像解析処理を再開する際に,中断時点で得られている映像解析処理の中間情報を取得する映像解析処理中間情報取得手段を持ち,前記映像解析区間情報算出手段が,前記映像解析処理中間情報取得手段より取得した中間情報の内容に応じて映像解析処理の開始時間を設定する開始時間設定手段を持ち,前記映像解析処理手段が,映像解析処理が中断された場合に,中断時点で得られている映像解析処理の中間情報を出力する中間情報出力手段を持つ。
【0015】
以上の手段を用いることにより,解析結果を統合するために必要となる重複する領域を常時設けるのではなく,中断時点で,イベントとして確定するのに十分な情報が得られていない場合のみに,重複領域を設けることができるため,解析結果を統合するために必要となる重複する領域を最小限に抑制することができ,解析処理時間の増加も抑制できる。このため,解析処理の中断・再開を行わずに,解析処理を実施した場合と同様の解析結果を,解析処理の中断・再開を行わずに解析処理を実施した場合と同程度の処理時間で完了することが可能となる。
【0016】
【発明の実施の形態】
以下,本発明を適用した映像解析装置の例について,図面を参照しながら説明する。図1は,本発明による映像解析装置1の構成例である。映像解析装置1は,映像入力部101,映像解析区間入力部102,処理状況取得部103,映像解析区間算出部104,映像解析処理部105,処理状況記憶部106,解析結果統合部107および解析結果出力部108により構成される。
【0017】
映像入力部101は,外部より入力される映像データをメモリなどに記憶する入力手段であり,ビデオキャプチャーボード等により実現できる。入力される映像データとしては,ビデオテープなどのアナログデータや,CD−ROMやDVDなどの記録媒体に記録されたディジタルデータがある。また,映像入力部101は,入力された映像データのデータ名や時間長といった属性情報を処理状況取得部103へ通知する。
【0018】
映像解析区間入力部102は,外部より入力される解析処理を適用する区間情報(開始点,終了点)を記憶する入力手段であり,入力された区間情報を,映像解析区間算出部104へと通知する。
【0019】
処理状況取得部103は,映像入力部101より入力された映像データに対する映像解析処理の一部が既に終了しているかどうかを判断し,既に映像解析の一部が終了していると判断した場合には,その解析結果から解析処理が既に終了している区間を特定し,解析処理が終了していない区間を未解析区間であるとし,映像解析区間算出部104へ通知する処理手段であり,CPU等の処理装置で実現可能である。また,映像解析処理の一部が終了しているかどうかの判断は,解析結果に映像データの時間長やデータ名等の属性情報を出力するようにし,映像入力部101より通知された映像データの属性情報と同じ属性を持つ解析結果が記憶装置内の処理状況記憶部106に存在するかどうかにより判断できる。
【0020】
映像解析区間算出部104は,映像解析区間入力部102より入力された区間情報と,処理状況取得部103より通知された未解析区間から実際に解析処理を適用する区間情報を算出する処理手段であり,CPU等で実現可能である。なお,この解析処理を適用する区間は,既に解析が終了している区間と重なりを持つように設定され,この解析区間の重なりを利用することで,解析処理の中断・再開を行っても,正しい解析結果を得ることが可能である。
【0021】
映像解析処理部105は,映像解析区間算出部104より通知された解析区間のフレーム画像を,映像入力部101より入力された映像データより1枚ずつ抽出し,映像解析を実行し,解析処理の進行状況に関する情報を処理状況記憶部106に記憶し,解析結果を解析結果統合部107へ渡す処理手段であり,CPU等の処理装置で実現できる。
【0022】
この映像解析処理部105における映像解析方法としては,従来の技術で引用した参考文献で用いられているように,映像を構成するフレーム画像の差異を比較する方法(参考文献[1])や,フレーム画像列に付随する音声信号の変化を比較する方法(参考文献[3]),またその両方を合わせて用いる方法を利用することができる。また,解析結果は,特定の特徴のあるシーンが登場した区間を時間情報(開始時間,終了時間)等により表したもの,あるいは,解析により特徴を検出したシーンのフレーム画像を保存し,その画像ファイルを一覧表示したものなどである。
【0023】
また,映像解析処理部105は,外部より入力される処理中断信号や,映像入力部101に新規映像が入力されたときに通知される処理中断信号を検出し,中断信号を検出した時点で終了している解析処理の結果,および解析が中断された位置情報を,処理状況記憶部106に記憶し,解析結果統合部107へ通知する。
【0024】
解析結果統合部107は,映像解析処理部105より解析結果を受け取り,ユーザが閲覧できるような解析結果を整形する手段で,CPU等の処理装置およびメモリ等の記憶装置により実現できる。この際,解析対象である映像データの部分的な解析結果が他に存在する場合,それらを一つの解析結果としてまとめる処理を行う。解析結果を統合する方法としては,解析結果に記載されたイベント情報を解析結果同士の重なりを用いて結合し,イベントの開始時間が早い順に並びかえるなどの処理を行う。なお,イベントの結合方法については後述する。
【0025】
解析結果出力部108は,解析結果統合部107により得られた解析結果を記憶装置より読み出し,コンピュータディスプレイ等の表示装置に出力する出力手段である。
【0026】
図2は,本発明の実施例である映像解析装置1の動作を表すフローチャートである。ビデオテープの挿入や,明示的なユーザによる処理開始命令等により,解析処理を開始する。以下,映像解析装置1の動作フローをステップ毎に説明する。
【0027】
まず,映像データ読み込みステップS201では,映像入力部101が,解析対象である映像データを記憶領域へ展開し,データへのアクセスを可能にする。解析対象である映像データは,ユーザにより選択され,解析処理を適用する解析開始点と解析終了点も指定可能であるとする。入力される映像データは,ビデオテープやCD−ROM等に記憶された映像データである。
【0028】
次に,処理開始点判断ステップS202では,処理状況取得部103が,解析対象である映像データの解析処理の一部が終了しているかどうかの判断を行う。判断方法としては,映像データの解析結果に時間長や映像データ名等の映像データが持つ属性情報の一部を解析時に出力し,入力された映像データの属性情報と同じ属性情報を持つ解析結果の照会を行う方法などを用いる。
【0029】
中断情報読み込みステップS203は,処理開始点判断ステップS202により,入力された映像データと同一のデータに対する解析結果が存在すると判断された場合にのみ実行する。該当する解析結果を読み出し,解析結果中に含まれる解析済み区間を参照し,解析処理が終了していない区間を特定する。さらに,解析済みの区間の終了点でカットやテロップ等のイベント区間が終了しているかどうかを特定する。なお,解析結果中に含まれる情報は,解析が終了していない区間そのものであってもよい。
【0030】
次の開始点シフトステップS204も,処理開始点判断ステップS202により,入力された映像データと同一のデータに対する解析結果が存在すると判断された場合にのみ実行する。この開始点シフトステップS204では,中断情報読み込みステップS203において,特定された解析が終了していない区間であるかどうか,解析済みの区間の終了点でのイベント区間も終了しているかどうかにより,これから解析処理を開始する開始点を映像の時間的に早い方へシフトし,解析区間を定める。
【0031】
解析済み区間の終了点でイベントが終了していた場合には,開始点を,定まったフレーム数だけシフトするようにし,解析済み区間の終了点でイベントが終了していなかった場合には開始点はシフトしない。映像解析処理を中断した状態により開始点をシフトさせたり,させなかったりすることで,解析処理の増加量を最低限に抑えている。
【0032】
次に,フレーム画像読み込みステップS205では,映像データ読み込みステップS201または開始点シフトステップS204により設定した解析区間のフレーム画像を,開始点から順々に読み出し,メモリ等の記憶領域へ展開する。
【0033】
次の,特徴量算出ステップS206では,映像解析処理部105は,読み出したフレーム画像自体の特徴量,またはフレーム画像間の差分より求められる特徴量を算出する。
【0034】
イベント判断ステップS207では,算出された特徴量が定められた閾値より大きいかどうかを判断し,閾値を越えた場合には,イベントが開始された可能性があるという開始信号Aを出力する。また,算出された特徴量が定められた値より小さい場合には,イベントが終了した可能性があるという終了信号Bを出力する。開始信号Aと終了信号Bとは一つの信号として,0または1で出力してもよいし,全く別の信号であってもよい。また,ある区間の開始信号・終了信号の累積値が一定値を越えた場合,イベントが開始・終了したことを出力する。開始信号・終了信号の累積値をイベントの開始・終了の判断に用いるのは,イベントの検出漏れや誤検出を低減するためであるが,イベントの開始・終了の判断に累積値を用いないことも考えられる。
【0035】
イベント格納ステップS208では,イベント判断ステップS207の判断結果を記憶領域へ記憶する。終了判断ステップS209では,次に読み出すべきフレーム画像があるかないかを判断し,読み出すべきフレーム画像がない場合には,終了済み解析結果判断ステップS211へ,読み出すべきフレーム画像がある場合には,中断信号判断ステップS210へ移行する。
【0036】
中断信号判断ステップS210では,処理を中断するかどうかの判断を行う。ここでは,外部より入力される処理の中断命令(処理中断トリガー)を検知し,処理の中断命令があった場合には,終了済み解析結果判断ステップS211へ移行し,処理の中断命令がなかった場合には,フレーム画像読み込みステップS205へ移行する。
【0037】
終了済み解析結果判断ステップS211では,処理を行った解析結果が存在するかどうかを判断する。解析結果の有無は,処理開始点判断ステップS202において既に行っているため,その結果から判断することもできる。
【0038】
解析結果統合ステップS212では,処理を行った解析結果が存在する場合に,解析結果統合部107が,今回,映像解析処理部105が実施した解析処理の結果と,以前に行った解析処理の結果の統合を行う。なお,解析結果の統合方法については,後述する。
【0039】
最後に,解析結果出力ステップS213では,解析結果出力部108が,解析結果をプリンタやコンピュータディスプレイ等に出力する。
【0040】
次に,上記開始点シフトステップS204における開始点シフト処理の詳細をフローを用いて説明する。図3は,開始点シフト処理の概要を示すフローチャートである。解析対象である映像データについての解析処理の一部が終了していた場合には,以下のステップで解析開始点および終了点が設定される。
【0041】
まず,中断イベント検索ステップS301では,解析区間と同じ時間で終了しているイベントを中断されたイベントであるとみなすなどの方法により,解析結果から中断されたと思われるイベントを特定する。
【0042】
次に,マージンサイズ算出ステップS302では,中断されたイベントが特定された場合と,中断されたイベントがないとされた場合とにより,それぞれ予め設定しておいた解析区間の重複領域の大きさ(マージンサイズ)を決定する。メモリなどにそれぞれのイベントに対するマージンサイズ(後述する例では,シフトサイズともいう)を記憶しておき,適合するマージンサイズを読み出す方法によりマージンサイズを決定することができる。また,カット,テロップ,音楽といったイベントの検出を同時に行う場合には,一旦,イベント毎に暫定的なマージンサイズを決定し,その中で最大のものを実際のマージンサイズと定める。
【0043】
次に,解析開始点・終了点設定ステップS303では,マージンサイズ算出ステップS302により算出されたマージンサイズ分を,解析処理が終了した点より時間的に早い方へシフトさせることにより解析開始点を設定し,時間的に遅い方へシフトさせることにより解析終了点を設定する。
【0044】
図4に従って,さらに詳しい開始点シフト処理(ステップS204)を説明する。ここでは,カット,テロップ,音楽などN種類のイベントタイプの検出を行うものとする。また,解析結果は,解析済みの区間情報と検出したイベントタイプ情報と,イベントの開始時間と終了時間の情報とを持つとする。なお,検出されたイベントは開始点の早い順番にシーケンシャルな番号を持つ。
【0045】
まず,ステップS401では,解析処理の再開時に,中断時に得られていた解析結果を読み込み,ステップS402では,読み込んだ解析結果よりイベントタイプ毎にイベントの開始時間が最も遅いイベントを最終イベント1〜Nとして抽出する。
【0046】
次に,ステップS403では,抽出した最終イベントの終了時間Ei(イベントタイプiの最終イベントの終了時間)を中断時の解析結果に記載された中断時間Dの値と比較する。そして,終了時間Ei=Dであった場合,ステップS404によって,予め定められたイベント中断時用のシフトサイズAiを読み出し,シフトサイズSiに設定(Si=Ai)する。Aiはイベント検出アルゴリズムより定まる定数値である。
【0047】
また,ステップS403の判定において,終了時間EiがDと異なる値である場合,ステップS405によって,上記ステップS404と同様に,予め定められたイベント非中断時用のシフトサイズBiを読み出し,シフトサイズSiに設定(Si=Bi)する。Biはイベント検出アルゴリズムより定まる定数値である。
【0048】
ステップS404またはS405の後,ステップS406では,1〜Nのイベントタイプについて,上記ステップS403〜ステップS405の処理が行われるように,イベントタイプiの値をインクリメントする。ステップS407では,イベントタイプiがイベント種類数Nを越えたかどうかを判断する。iがNを越えていない場合には,ステップS403へ戻り,同様に処理を繰り返す。
【0049】
iがNを越えた場合には,ステップS408へ進み,上記ステップS404およびS405において設定されたN個のシフトサイズSiのうち,最大のものを実際のシフトサイズSとして定める。
【0050】
最後に,ステップS409では,解析処理の中断時間DよりシフトサイズSだけ解析処理の再開点を時間的に早い方向へシフトし,解析再開点Rを定める。
【0051】
なお,ここで参照したシフトサイズAi,Biの値は映像解析処理のアルゴリズムより求められる値であり,Aiはイベントが開始したとみなすのに必要となる映像時間で,Biはフレーム比較を行うフレーム同士の時間間隔である。一般にイベント開始の判断は,一定フレーム数Mの解析を行った後に行われ,このMを映像のフレームレートで割った値がイベントを開始したとみなすのに必要となる映像時間である。
【0052】
図5に,シフトサイズを記憶したシフトサイズテーブルの例を示す。シフトサイズテーブルにおける各列は,イベントが中断した場合(イベントの終了時間が中断時間と一致していた場合)のシフトサイズ(A),イベントが中断していなかった場合のシフトサイズ(B),イベントとしてみなすのに最低必要となる時間長(C)であり,各行は,イベントタイプ番号である。シフトサイズAi,Biの値は開始点シフトステップS204を実施する場合に参照され,Ciの値は解析結果統合部107により解析結果統合ステップS212を実施する場合に参照される。このシフトサイズテーブルは予め人手で作成しておく。
【0053】
次に図6のフローチャートを用いて,解析結果統合処理について説明する。映像解析処理部105による解析が実施された時に得られた部分解析結果をA,以前に得られていた解析結果をB,統合後に得られる解析結果をCとする。解析結果Aはメモリに記憶されているとする。
【0054】
まず,解析結果読み込みステップS601では,解析結果Bを読み込み,メモリ上に展開する。次に,中断イベント検索ステップS602では,解析結果Bの解析区間の終了点と同じ点で終了しているイベントがあるかどうかを検索する。ここで,解析結果Bにおいて,解析区間と終了点を同じにしているイベントは,“解析処理の中断により中断されたイベント”,“解析処理の中断点で,偶然終了したイベント”,“本来イベントではないかもしれないが,暫定的にイベントとして出力した情報”のどれかであり,解析結果Aよりいずれに該当するかを判定する必要がある。
【0055】
なお,“本来イベントではないかもしれないが,暫定的にイベントとして出力した情報”とは,図2のイベント判断ステップS207で説明したイベントの開始判断に,一定の区間を要するイベントにおいて,イベントの開始とみなすには十分な信号値を得られていない状態で解析が中断された場合に,解析結果へ出力したイベントの区間情報である。
【0056】
次に,中断点判断ステップS603では,中断イベント検索ステップS602において,中断点と同じ点で終了しているイベントの終了点を含むイベントが解析結果Aにあるかどうかを判断し,中断点と同じ点で終了しているイベントの終了点を含むイベントが解析結果Aにあった場合には,次のイベント結合ステップS604へ移行し,なかった場合には,イベント削除判断ステップS605へ移行する。
【0057】
このイベント結合ステップS604は,中断点判断ステップS603において,解析結果A中に解析結果Aの終了点と同じ点で終了しているイベントがあり,その終了点を含むイベントが解析結果B中に存在する場合に実行される。この場合,該当するイベントを,“解析処理の中断により中断されたイベント”とみなし,解析結果A中の終了点と同じ点で終了しているイベントは,本来解析結果Aの終了点と同じ点で終了しているイベントの終了点を含む解析結果B中のイベントの終了点で終了すべきであったとし,2つのイベントの結合を行う。
【0058】
また,イベント削除判断ステップS605は,“解析処理の中断点で,偶然終了したイベント”,“本来イベントではないかもしれないが,暫定的にイベントとして出力した情報”のどちらかを判断するステップである。イベントには,必要最低限の時間長(イベント最低長)が設定されており,このイベントとしてみなす最低長を満たしていた場合には,“解析処理の中断点で,偶然終了したイベント”として,イベント出力ステップS607に移行する。イベント最低長を満たしていなかった場合には,イベント削除ステップS606により,“本来イベントではないかもしれないが,暫定的にイベントとして出力した情報”として,該当するイベントを削除する。
【0059】
最後に,イベント出力ステップS607により,イベント結合,イベント削除が行われた最終的なイベント情報を出力する。
【0060】
図7に,図2の解析結果統合ステップS212についてのさらに詳細な処理フローを示す。解析処理が一旦中断された後に,解析処理を再開した場合,解析結果統合ステップS212が実施されるまでに,2つの解析結果が得られている。一つは,解析処理を再開する以前に得られていた解析結果Aで,もう一つが,解析処理を再開した後に得られた解析結果Bである。この2つの解析結果を統合し,一つの解析結果Cとして統合するのが解析結果統合ステップS212である。複数のイベントタイプを同時に解析する場合にも,本ステップはイベントタイプ毎に独立して行うことができるため,一つのイベントタイプのみの解析結果の統合について説明する。
【0061】
まず,ステップS701では,解析処理を再開する以前に得られていた解析結果Aを読み込み,ステップS702では,読み込んだ解析結果から中断時間Dと検出されたイベントのうち開始時間がもっとも遅いイベントを最終イベントとして抽出する。次に,ステップS703では,抽出した最終イベント以外のイベントを解析結果Cとして出力する。
【0062】
次に,ステップS704では,解析処理を再開した後に得られた解析結果Bを読み込む。そして,ステップS705では,解析結果Aの最終イベントの終了時間AEが中断時間Dと等しいかどうかの判断を行う。解析結果Aの最終イベントの終了時間AEが中断時間Dと等しいと判断された場合には,ステップS706へ進み,解析結果Bに中断時間Dを含むイベントがあるかどうかを判断する。ここで“中断時間Dを含むイベントがある”とは,イベントの開始時間が中断時間Dより早く,かつ,イベントの終了時間が中断時間Dより遅いイベントが解析結果B中にあるということである。
【0063】
“中断時間Dを含むイベントがある”と判断された場合,ステップS707へ移行する。ステップS707は,解析結果A中の最終イベントと解析結果B中の中断点を含むイベントを一つのイベントとして結合するステップである。このステップS707では,解析結果Aの最終イベントの開始時間ASと解析結果Bの中断時間Dを含むイベントの終了時間BEをそれぞれ開始時間,終了時間とするイベントを解析結果Cへ出力する。この際,解析結果Cに以前に出力したイベントの情報に追加するようにイベントを出力する。
【0064】
続くステップS708では,解析結果Bの中断時間Dを含むイベント以降のイベントを全て解析結果Cへ出力する。この際も,解析結果Cに以前に出力したイベントの情報に追加するようにイベントを出力する。また,“中断時間Dを含むイベント以降のイベント”とは,中断時間Dを含むイベントの開始時間より,遅い開始時間を持つイベントである。
【0065】
上記ステップS706で,“中断時間Dを含むイベントがない”と判断された場合,ステップS709へ移行し,ステップS709では,解析結果Aの最終イベントの区間(ここでいう区間とは,開始時間と終了時間の差)が予め定義したイベントとみなすのに必要となる最低時間(イベント最低長)を満たしているかどうかの判断を行う。ここで参照するイベントとみなすのに必要となる最低時間は,図5の時間長Cに該当し,イベントタイプ毎に異なる値を持つ。イベントとみなすのに必要となる最低時間は,解析処理のアルゴリズムにより定まる値であり,イベントの開始を確定した後に,イベントの終了位置を探すアルゴリズムの場合には,イベントの開始とみなすのに必要となる最低フレーム数とイベントの終了とみなすのに必要となる最低フレーム数の和をフレームレートで割った値である。
【0066】
ステップS709で判断した結果,イベント最低長より解析結果Aの最終イベントが長い場合,ステップS710へ移行し,短い場合,ステップS711へ移行する。
【0067】
ステップS710は,上記ステップS705で,解析結果Aの最終イベントの終了時間AEが中断時間Dとは異なっていると判断した場合,またはステップS709で,解析結果Aの最終イベントの区間がイベントとみなすのに必要となる最低時間(イベント最低長(C))より長いと判断された場合に実行される。ステップS710では,解析結果Aの最終イベントを,中断点で終了したイベントであるとして解析結果Cへ出力する。この際,解析結果Cに以前に出力したイベントの情報に追加するようにイベントを出力する。
【0068】
続くステップS711では,解析結果Bの全てのイベントを解析結果Cに出力する。
【0069】
次に,映像解析処理におけるイベントの開始および終了について説明する。図8は,本発明が対象としている映像解析処理の一例で,イベントの開始および終了の判定を表すものである。横軸が映像のフレーム番号で,縦軸にフレーム画像より算出された特徴量が閾値を越えたかどうかを表す開始終了信号と,その2区間累積値および3区間累積値を示している。なお,2区間累積値とは,開始終了信号の値を2フレーム分加算した値であり,3区間累積値は,3フレーム分加算した値である。
【0070】
開始終了信号値は,フレーム画像より算出される特徴量に応じて1フレーム毎に出力され,ある閾値を越えた場合に1を,そうでない場合に0を出力する。また,3区間累積値は,イベントが開始したかどうかを判断するパラメータで,累積値が2になった場合に,2になった1フレーム前からイベントが開始したとみなす。
【0071】
また,イベントの終了に関しては,開始終了信号値の2区間累積値が0であった場合に2区間累積値が0となったフレームで,イベントが終了したとみなしている。したがって,図8に示す例では,フレーム番号が,3,7,25,36の点がイベント開始点で,フレーム番号が,6,20,31,41の点がそれぞれのイベント終了点となり,4つのイベントが存在したことになる。なお,ここではイベントの開始点・終了点を,フレーム番号により表しているが,フレーム番号を時間換算した値を用いてもよい。
【0072】
次に,図9に従って,図8と同様の判断結果を用いて,映像解析処理の中断・再開処理について説明する。まず図9(a)は,解析処理を中断せずに行った場合の解析結果の一例で,解析処理を行った区間が1フレーム目から50フレーム目であることを情報として持つ。さらに,各イベントの開始フレーム番号および終了フレーム番号を情報として持つ。3,7,25,36はそれぞれイベントが開始したフレーム番号で,6,20,31,41がイベントが終了したフレーム番号である。
【0073】
次に,任意の点で中断した場合に考えられる三つのパターンについて,例を挙げて説明する。なお,解析結果に含む情報は,図9(a)と同様に,解析区間,イベントの開始フレーム番号,終了フレーム番号である。
【0074】
一つ目は,開始終了信号の3区間累積値が2以上の値を取るときで,この場合にはイベントの開始は既に確定しているが,中断により終了点が定まっていない。その例として10フレーム目(T=10)で処理を中断した例を図9(b)に示した。10フレーム目までの解析により3〜6のイベント区間が確定しており,さらに,7からイベントが開始していることも確定している。また,中断点の10フレーム目までそのイベントが継続していることも分かっているので,解析結果として,3〜6,7〜10の2つのイベント区間を出力している。
【0075】
二つ目は,開始終了信号の3区間累積値が0である点で中断した場合で,図9(c)にその例として24フレーム目(T=24)で中断した場合を示している。24フレームが終了した時点では,開始終了信号の3区間累積値が0であり,この点でのイベントの開始の可能性はないと考えられる。よって解析結果としては,3〜6,7〜20の2つのイベント区間のみを出力する。
【0076】
三つ目は,開始終了信号の値が0ではないが2以上でもない点で中断が起る場合で,今後のフレーム画像の解析結果次第では,イベントの開始点であると判断すべきところで中断が起った場合である。その例として図9(d)にフレーム番号25(T=25)で中断が起った場合を示している。この場合には,これまでの解析により3〜6,7〜20のイベント区間が確定されている。
【0077】
また,25フレームの点で開始終了信号の3区間累積値が1という値を取っており,次の26フレームと27フレームの解析により,いずれかで開始終了信号が1を出力すれば,25フレーム目はイベントの開始点であるとすべき点である。一方,26フレームと27フレームの解析によりいずれも開始終了信号が0であれば,25フレームは,開始点ではないということになる。
【0078】
このように中断点までの解析結果では,開始点かどうかを判断できない場合には,暫定の情報としてこの区間を出力する。したがって,図9(d)では3〜6,7〜20,25〜25の3つのイベント区間の情報を出力している。なお,この25〜25の区間は,統合処理によりイベントであったかどうかが判断され,イベントでなかった場合には,削除される。
【0079】
次に,中断した解析処理を再開した場合に,解析処理を再開する点について説明する。解析処理を再開する点については,前述のようにイベントが中断した点で,イベント自体も中断されている場合とそうでない場合とで,開始点をシフトさせる量を変えている。
【0080】
まず,中断した点で,イベント自体も中断されているのは,図9(b)と図9(d)であり,解析区間の終了点と最終イベント区間の終了点が一致していることから判断できる。これらの場合,次のいずれかに該当すると考えられる。
▲1▼ 中断点でイベントが終了した。
▲2▼ 中断点以後もイベントが継続していた。
▲3▼ 中断点でイベントが開始した可能性があり仮情報として出力されたが,中断点はイベントの開始点ではなかった。
【0081】
これらを判断するために,この場合には開始点を3フレーム分シフトさせる。これは3フレーム分シフトさせることにより,中断点の次のフレームより算出される3区間累積値が,処理を中断せずに継続して行った場合と同じ値を持つためである。図9(b)では,11−3=8より,8フレーム目から処理を開始する。これにより,0〜7のフレーム情報を持たなくても,8フレームからイベントが開始し,20フレーム目でイベントが終了したという結果が得られる。このイベントに関して,当然前述の解析結果統合処理により7〜10と8〜20のイベントが結合され7〜20のイベントとされる。
【0082】
図9(d)は,イベントの開始かどうかの判断ができずに暫定の情報として最終イベントを出力したものであるが,解析処理再開時にそのような都合を知る必要はない。この場合も3フレーム再開点をシフトさせることにより(26−3=23),25のイベント開始点と31のイベント終了点が自然と検出される。
【0083】
また,図9(c)では,マージンを設けずに中断点の次のフレーム(フレーム番号25)から処理を開始する。これは,中断点と同じ終了点を持つイベントが出力されておらず,これまでの24フレーム目までは,イベントの開始の可能性がないと分かっているからである。
【0084】
次に,図10を用いて,複数のイベント検出処理を同時に行う場合のマージンの設定方法を説明する。複数のイベントの検出処理を同時に行う場合には,一旦,各イベントの必要マージンを決定し,決定された必要マージンの中から最大のものを実際のマージンに設定する。図10では,開始判定に必要な区間が3フレームで,終了判定に必要な区間が2フレームであるイベントタイプAと,開始判定に必要な区間が5フレームで,終了判定に必要な区間が1フレームであるイベントタイプBの同時検出を行っている。各イベントに対して設定すべきマージンは,図9の例と同様な方法で決定される。
【0085】
図10(a)では,解析区間の終了点が25であり,イベントタイプA,イベントタイプBともに,終了点25であるイベントが存在する。このため,それぞれ3,5のマージンが必要となり,実際のマージンは,max(3,5)=5フレーム,解析再開点は,26−max(3,5)=21から,21フレームと決まる。
【0086】
図10(b)では,解析区間の終了点が25であり,イベントタイプAのみが終了点が25であるイベントが存在する。したがって,必要マージンは,イベントタイプAの必要マージンである3フレームと決まる。図10(c)では,解析区間の終了点が25であり,イベントタイプA,Bともに25で終わっていない。したがって,この場合には0フレームをマージンとする。
【0087】
図11は,総フレーム数が50の映像データを一旦中断し,処理を再開した後に得られた解析結果と統合処理を行った例を示している。イベントタイプAの必要マージンは,5フレーム,イベントタイプBの必要マージンは3フレーム,イベントタイプCの必要マージンは,8フレームであるとする。
【0088】
映像解析処理を2回に分けて行ったため,映像データに対する解析結果として,一旦,二つの解析結果を持つ。一つが0から25フレームまでの部分解析結果A801で,もう一つが21から50フレームまでの部分解析結果B802である。
【0089】
部分解析結果A801中の解析区間の終了点25と同フレームでイベントタイプA,イベントタイプBのイベントが終了しているため,A,B2つのイベントの必要マージンの内,大きい方の5をマージンサイズとしたことにより,部分解析結果B802は,21フレーム(26−5=21)より解析処理を開始している。
【0090】
解析結果の統合処理は,イベントタイプ毎に独立して行う。まずイベントタイプAは,部分解析結果A801において中断点25と等しいフレームで終了しており,解析処理の中断によりイベントも中断されてしまった可能性がある。そこで,解析結果の最初のイベントタイプAを参照する。イベントタイプAのイベントは,31〜38までの区間を持ち,中断点25を区間に含んでいない。これは,イベントタイプAは,中断点で偶然終了したか,イベントとして成立していないが,イベントの開始点となる可能性があるとして暫定的に出力したイベントであると分かる。
【0091】
部分解析結果A801のイベントタイプAのイベントの最終区間を参照すると24〜25で,2フレームの区間である。イベントタイプAは開始するのに最低でも5フレーム必要であるはずであるから,これは,イベントの開始点となる可能性があるとして暫定的に出力したイベントであると判断でき,このイベントは削除される。
【0092】
次にイベントタイプBのイベントの統合処理について説明する。イベントタイプBもイベントタイプAと同様に,部分解析結果A801において,中断点25と同じフレームで終了している。一方,部分解析結果B802には,23から35というイベントタイプBの区間があり,この区間は,中断点25を含んでいる。そこで,イベントタイプBは,解析処理の中断によりイベントも中断されていたと判断でき,2つの区間を結合し,18〜35の区間を定める。
【0093】
イベントタイプCについては,部分解析結果A801において,中断点25でイベントが終了していない。よって,イベントの結合は行われない。このようにして,統合後の解析結果として,解析結果C803を得ることができる。
【0094】
次に,イベントの終了点を時間的に遅い方へとシフトさせる処理について説明する。これは,映像解析処理の対象となる第1の時間区間として,映像の途中の区間が指定され,この区間の解析が既に終了しており,残りの区間の解析処理を行う場合に必要な処理である。イベントの終了点を時間的に遅い方へとシフトさせる処理(終了点シフト処理)は,ある程度映像の内容を把握しているユーザが,映像の一部分に対する解析結果を得るために,映像の先頭からではなく,途中から映像解析処理を行い,その後に,映像全体の解析結果が必要となった場合に生じ,図1の映像解析区間算出部104で行う。
【0095】
このような場面では,映像の先頭以外の位置Aから位置Bまでの解析を既に終了していた場合に,映像の先頭から位置Aまでを解析しただけでは,先頭から位置Bまでの正しい解析結果を得ることができないという問題がある。したがって,位置Aまでの解析処理を行う場合に,解析を終了する位置を時間的に遅い方へとシフトさせ,前述した開始点シフト処理と同様に,二つの解析結果が互いに重なり合うマージンを設定することで,正しい解析結果を得られるようにする。
【0096】
次に,図12を用いて,このマージンの設定方法について具体的に説明する。図12に示した帯は映像データを表しており,横軸は時間軸である。また,ある時間を表すポイントに対して時間が早い方からA,B,C,D,Eの記号を振ってある。ここでBからEの区間が既に解析が終了しているとして,これからAからBまでの解析を行おうとしている。
【0097】
本発明が対象とする解析処理である一定の信号強度が一定区間に一定数以上の値を示したとき,シーン情報のイベント有りと判断するシーン情報のイベント検出処理では,一般に解析を開始した点からある一定のフレーム分だけ,正しい解析が得られない可能性がある部分が存在する。例えば,1フレーム毎に出力される開始信号Aが5フレーム連続で開始点であるかもしれないという信号を出力したときに,イベントが開始したとみなす場合,4フレーム目までが解析が得られない可能性がある部分で,図12では,BからCの区間が,イベント開始が正しく判定できない区間(SS)にあたる。
【0098】
また,イベントが開始したとみなしている状態で,1フレーム毎に出力される終了信号Bが3フレーム連続した場合にイベントが終了したとみなす場合には,さらに正しい解析結果が得られない部分は延長される。
【0099】
図12では,CからDの区間が終了したとみなすことができない部分で,結局,B−Dの区間(SE)は,正しい解析結果が得られていない可能性がある。そこで,AからBの解析を行う場合には,この解析結果が正しく得られていない部分を含むように解析終了点をBからDへとシフトさせる。これにより,BからDの区間は二つの解析結果が得られ,この部分のイベント情報を用いて解析結果を統合することで,正しい解析結果を得ることができる。
【0100】
以上の処理は,コンピュータとソフトウェアプログラムとによって実現することができ,そのプログラムは,コンピュータが読み取り可能な可搬媒体メモリ,半導体メモリ,ハードディスク等の適当な記録媒体に格納して,そこから読み出すことによりコンピュータに実行させることができる。
【0101】
【発明の効果】
以上説明したように,本発明を用いることにより,映像解析処理を中断した時点で,映像解析処理の進行状況に関する情報を記憶し,映像の解析処理を再開したときに,この映像解析処理の進行状況に関する情報を取得し,取得した進行状況に関する情報から映像解析を適用すべき解析区間を算出し,算出した解析区間のみに映像解析処理を適用し,中断する以前に得られていた解析結果と再開後に得られる解析結果を統合することにより,解析処理の中断前に得られている解析結果と,解析処理を再開した後に得られる解析結果が重複した領域を持つようにできる。この重複した解析結果の情報を用いることにより,処理を中断した点の前後のイベント情報を獲得することができ,解析処理の中断・再開を行わずに映像の先頭から末尾まで通して,解析処理を実施した場合と同様の解析結果を得ることが可能となる。
【0102】
また,本発明を用いることにより,解析処理が中断された時点で得られている映像解析処理の中間情報を出力し,中断した処理を再開したときに,この中間情報に応じて解析区間が重複する領域を設定することで,解析結果を統合するために必要となる重複する領域を最小限に抑制することができ,解析処理時間の増加も抑制できるため,解析処理の中断・再開を行わずに,解析処理を実施した場合と同様の解析結果を解析処理の中断・再開を行わずに解析処理を実施した場合と同程度の処理時間で完了することが可能となる。
【図面の簡単な説明】
【図1】映像解析装置の構成例を示す図である。
【図2】映像解析装置の動作を表すフローチャートである。
【図3】開始点シフト処理のフローチャートである。
【図4】開始点シフトステップの詳細フローチャートである。
【図5】シフトサイズを記憶したシフトサイズテーブルの例を示す図である。
【図6】解析結果統合処理のフローチャートである。
【図7】解析結果統合ステップの詳細フローチャートである。
【図8】解析結果処理のイベント開始点・終了点の判定の具体例を示す図である。
【図9】解析処理の中断・再開処理の具体例を示す図である。
【図10】複数のイベント検出を行う場合の中断・再開処理の具体例を示す図である。
【図11】解析結果統合処理の具体例を示す図である。
【図12】終了点シフト処理の説明図である。
【符号の説明】
1 映像解析装置
101 映像入力部
102 映像解析区間入力部
103 処理状況取得部
104 映像解析区間算出部
105 映像解析処理部
106 処理状況記憶部
107 解析結果統合部
108 解析結果出力部

Claims (8)

  1. 入力される映像信号を解析し,解析した結果を出力する映像解析装置であって,
    映像データを入力し,記憶する映像入力手段と,
    前記映像入力手段で入力された映像データについての映像解析処理が新規に開始する処理であるか,以前に解析の途中で中断した処理であるかの進行状況に関する情報を取得する処理状況取得手段と,
    前記映像入力手段で入力された映像データに対して,映像解析処理の対象となる第1の時間区間を指定する映像解析区間入力手段と,
    前記処理状況取得手段で取得した映像解析処理の進行状況に関する情報と,前記映像解析区間入力手段から入力された映像解析処理の対象となる第1の時間区間の情報とをもとに,以前に映像解析処理が途中で中断されている場合に,前記第1の時間区間において既に解析が終了している部分と,予め設定された解析区間の重複領域の大きさだけ解析区間が重なるように,その後に実際に映像解析処理を行う第2の時間区間を算出する映像解析区間算出手段と,
    前記映像入力手段より入力された映像データに対してのシーン情報の解析処理を,新規の映像解析処理の場合には前記第1の時間区間について,映像解析処理の中断後に再開された映像解析処理の場合には前記第2の時間区間について行い,イベントごとの開始時間と終了時間を求める映像解析処理手段と,
    前記映像解析処理手段の解析処理の進行状況に関する情報を記憶する処理状況記憶手段と,
    映像解析処理が途中で中断されたことにより複数の解析結果が存在する場合に,前記映像解析処理手段より得られる解析結果に基づきイベントごとの第1の時間区間における終了時間と第2の時間区間における開始時間との前後関係に着目して,前記第1の時間区間における解析結果と前記第2の時間区間における解析結果とを統合し一つの解析結果とする解析結果統合手段と,
    前記解析結果統合手段により得られた解析結果を出力する解析結果出力手段とを備える ことを特徴とする映像解析装置。
  2. 前記処理状況取得手段は,
    以前に映像解析処理が途中で中断されている映像データに対しての映像解析処理を再開する際に,中断時点で得られている映像解析処理の中間情報を取得する映像解析処理中間情報取得手段を備え,
    前記映像解析区間算出手段は,
    前記中間情報を読み込み,読み込んだ中間情報の内容に応じて前記第2の時間区間の開始時間を設定する開始時間設定手段を備え,
    前記映像解析処理手段は,
    映像解析処理が中断された場合に,中断時点で得られている映像解析処理の中間情報を出力する中間情報出力手段を備える
    ことを特徴とする請求項1記載の映像解析装置。
  3. 前記開始時間設定手段は,
    前記読み込んだ中間情報から,イベントタイプ毎にイベントの開始時間が最も遅い最終イベントを抽出する最終イベント抽出手段と,
    前記各最終イベントの終了時間と前記映像解析処理の中断時間の値とを比較する時間比較手段と,
    前記比較結果に基づいて,予め定められたイベント中断/非中断用のシフトサイズを読み出し,イベントタイプ毎のシフトサイズを設定するシフトサイズ読み出し手段と,
    前記設定したイベントタイプ毎のシフトサイズのうち最大のシフトサイズを実際のシフトサイズとして定めるシフトサイズ設定手段と,
    映像解析処理の中断時間よりシフトサイズだけ解析処理の再開点を時間的に早い方向へシフトし,解析再開点を定める解析再開点設定手段とを備える
    ことを特徴とする請求項2記載の映像解析装置。
  4. 入力される映像信号を解析し,解析した結果を出力する映像解析方法であって,
    映像データを入力し,記憶する映像入力ステップと,
    入力した映像データについての映像解析処理が新規に開始する処理であるか,以前に解析の途中で中断した処理であるかの進行状況に関する情報を取得する処理状況取得ステップと,
    入力した映像データに対して,映像解析処理の対象となる第1の時間区間を指定する映像解析区間入力ステップと,
    前記処理状況取得ステップで取得した映像解析処理の進行状況に関する情報と,前記映像解析区間入力ステップで入力した映像解析処理の対象となる第1の時間区間の情報をもとに,以前に映像解析処理が途中で中断されている場合に,前記第1の時間区間において既に解析が終了している部分と,予め設定された解析区間の重複領域の大きさだけ解析区間が重なるように,その後に実際に映像解析処理を行う第2の時間区間を算出する映像解析区間算出ステップと,
    前記映像入力ステップにより入力した映像データに対してのシーン情報の解析処理を,新規の映像解析処理の場合には前記第1の時間区間について,映像解析処理の中断後に再開された映像解析処理の場合には前記第2の時間区間について行い,イベントごとの開始時間と終了時間を求める映像解析処理ステップと,
    前記映像解析処理ステップによる解析処理の進行状況に関する情報を記憶するステップと,
    映像解析処理が途中で中断されたことにより複数の解析結果が存在する場合に,前記映像解析処理ステップにより得られる解析結果に基づきイベントごとの第1の時間区間における終了時間と第2の時間区間における開始時間との前後関係に着目して,前記第1の時間区間における解析結果と前記第2の時間区間における解析結果とを統合し一つの解析結果とする解析結果統合ステップと,
    前記解析結果統合ステップにより得られた解析結果を出力する解析結果出力ステップとを有する
    ことを特徴とする映像解析方法。
  5. 前記処理状況取得ステップは,
    以前に映像解析処理が途中で中断されている映像データに対しての映像解析処理を再開する際に,中断時点で得られている映像解析処理の中間情報を取得する映像解析処理中間情報取得ステップを有し,
    前記映像解析区間算出ステップは,
    前記中間情報を読み込み,読み込んだ中間情報の内容に応じて前記第2の時間区間の開始時間を設定する開始時間設定ステップを有し,
    前記映像解析処理ステップは,
    映像解析処理が中断された場合に,中断時点で得られている映像解析処理の中間情報を出力する中間情報出力ステップを有する
    ことを特徴とする請求項4記載の映像解析方法。
  6. 前記開始時間設定ステップは,
    前記読み込んだ中間情報から,イベントタイプ毎にイベントの開始時間が最も遅い最終イベントを抽出する最終イベント抽出ステップと,
    前記各最終イベントの終了時間と前記映像解析処理の中断時間の値とを比較する時間比較ステップと,
    前記比較結果に基づいて,予め定められたイベント中断/非中断用のシフトサイズを読み出し,イベントタイプ毎のシフトサイズを設定するシフトサイズ読み出しステップと,
    前記設定したイベントタイプ毎のシフトサイズのうち最大のシフトサイズを実際のシフトサイズとして定めるシフトサイズ設定ステップと,
    映像解析処理の中断時間よりシフトサイズだけ解析処理の再開点を時間的に早い方向へシフトし,解析再開点を定める解析再開点設定ステップとを有する
    ことを特徴とする請求項5記載の映像解析方法。
  7. 請求項4から請求項6までのいずれか1項に記載の映像解析方法をコンピュータに実行させるための映像解析プログラム。
  8. 請求項4から請求項6までのいずれか1項に記載の映像解析方法をコンピュータに実行させるためのプログラムを記録した
    ことを特徴とする映像解析プログラムの記録媒体。
JP2002144626A 2002-05-20 2002-05-20 映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体 Expired - Fee Related JP3977683B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002144626A JP3977683B2 (ja) 2002-05-20 2002-05-20 映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002144626A JP3977683B2 (ja) 2002-05-20 2002-05-20 映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体

Publications (2)

Publication Number Publication Date
JP2003338997A JP2003338997A (ja) 2003-11-28
JP3977683B2 true JP3977683B2 (ja) 2007-09-19

Family

ID=29704250

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002144626A Expired - Fee Related JP3977683B2 (ja) 2002-05-20 2002-05-20 映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体

Country Status (1)

Country Link
JP (1) JP3977683B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4735527B2 (ja) * 2006-12-08 2011-07-27 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP4916950B2 (ja) * 2007-05-14 2012-04-18 ヤフー株式会社 動画像比較装置、動画像比較方法、及び動画像比較プログラム
US8452599B2 (en) 2009-06-10 2013-05-28 Toyota Motor Engineering & Manufacturing North America, Inc. Method and system for extracting messages
US8269616B2 (en) 2009-07-16 2012-09-18 Toyota Motor Engineering & Manufacturing North America, Inc. Method and system for detecting gaps between objects
US8237792B2 (en) 2009-12-18 2012-08-07 Toyota Motor Engineering & Manufacturing North America, Inc. Method and system for describing and organizing image data
US8424621B2 (en) 2010-07-23 2013-04-23 Toyota Motor Engineering & Manufacturing North America, Inc. Omni traction wheel system and methods of operating the same

Also Published As

Publication number Publication date
JP2003338997A (ja) 2003-11-28

Similar Documents

Publication Publication Date Title
US7802188B2 (en) Method and apparatus for identifying selected portions of a video stream
US7075683B1 (en) Dynamic image digest automatic editing system and dynamic image digest automatic editing method
KR100708067B1 (ko) 디지털 영상 검색 장치 및 그 방법
US20100085481A1 (en) Frame based video matching
JPH10294923A (ja) シーンチェンジ検出方法およびシーンチェンジ検出装置
JP2011223325A (ja) コンテンツ検索装置および方法、並びにプログラム
JP3977683B2 (ja) 映像解析装置,映像解析方法,映像解析プログラムおよび映像解析プログラムの記録媒体
KR102553519B1 (ko) 컴퓨터와 사람의 협업을 통한 동영상 반자동 편집을 위한 인공지능 기반 동영상 편집 추천 방법
JP3258924B2 (ja) シーン管理装置、シーン管理方法及び記録媒体
JP3221028B2 (ja) 動画像情報のキーワード付与方法
JP4891013B2 (ja) タイトル抽出装置、画像読取装置、タイトル抽出方法、及びタイトル抽出プログラム
JP3936666B2 (ja) 動画像中の代表画像抽出装置,動画像中の代表画像抽出方法,動画像中の代表画像抽出プログラムおよび動画像中の代表画像抽出プログラムの記録媒体
JP3785068B2 (ja) 映像解析装置,映像解析方法,映像解析プログラムおよびそのプログラム記録媒体
JPH11259061A (ja) デジタル動画像処理装置およびデジタル動画像処理方法
EP1689178A1 (en) Resume reproduction system
JP2005115457A (ja) 文書ファイル検索方法
JP2000235637A (ja) 画像処理システム及び画像処理方法
JP2004336808A (ja) 映像の検索方法および装置
JP2004348553A (ja) メタデータ編集方法、装置、及びプログラム
CN120318809B (zh) 视频字幕提取方法和装置
US9456191B2 (en) Reproduction apparatus and reproduction method
JP2005080209A (ja) 動画分割方法、動画分割装置、マルチメディア用検索インデックス付与装置、および動画分割プログラム
JP2001022780A (ja) 動画像へのキーワード付与方法、装置、およびキーワード付与プログラムを記録した記録媒体
JP2006094293A (ja) 差分画像検出システムおよび差分画像検出方法
JP3502537B2 (ja) インデックス派生装置及びその方法並びにインデックス派生プログラムを記録したコンピュータ読み取り可能な媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070306

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070424

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070619

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070621

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100629

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100629

Year of fee payment: 3

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100629

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110629

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120629

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130629

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140629

Year of fee payment: 7

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees