JP2004126811A - コンテンツ情報編集装置とその編集プログラム - Google Patents
コンテンツ情報編集装置とその編集プログラム Download PDFInfo
- Publication number
- JP2004126811A JP2004126811A JP2002287861A JP2002287861A JP2004126811A JP 2004126811 A JP2004126811 A JP 2004126811A JP 2002287861 A JP2002287861 A JP 2002287861A JP 2002287861 A JP2002287861 A JP 2002287861A JP 2004126811 A JP2004126811 A JP 2004126811A
- Authority
- JP
- Japan
- Prior art keywords
- event
- information
- importance
- content information
- content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】コンテンツ情報から注目するイベントを抽出する際に、イベントごとの重要度を考慮して最適な形態で抽出し、要約を作成できるようにする。
【解決手段】映像情報データベース101に格納されたコンテンツ情報に含まれる複数のイベントの各々について、映像属性データベース102に記憶された属性情報と、条件入力部104により予め入力されるか又はプロファイルデータベース103に既に記憶されているキーワード等の抽出条件とをもとに、重要度算出部105により重要度を算出する。そして、この算出された重要度が高い順に区間選択部106でイベントのシーンを選択し、これらのシーンを部分映像情報作成部107によりつなぎ合わせることで要約情報を作成する。
【選択図】 図1
【解決手段】映像情報データベース101に格納されたコンテンツ情報に含まれる複数のイベントの各々について、映像属性データベース102に記憶された属性情報と、条件入力部104により予め入力されるか又はプロファイルデータベース103に既に記憶されているキーワード等の抽出条件とをもとに、重要度算出部105により重要度を算出する。そして、この算出された重要度が高い順に区間選択部106でイベントのシーンを選択し、これらのシーンを部分映像情報作成部107によりつなぎ合わせることで要約情報を作成する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
この発明は、例えばサーバ装置からユーザの端末装置へネットワークを介してコンテンツ情報を放送又は配信するシステムにおいて、コンテンツ情報からユーザが希望する事象に係わる部分情報を抽出し、さらに要約情報に編集する機能を備えたコンテンツ情報編集装置とその編集プログラムに関する。
【0002】
【従来の技術】
近年、放送の多チャンネル化等による情報インフラの発展に伴い、多くの映像コンテンツが流通するようになっている。また、ADSL(Asymmetric DigitalSubscriber Line)やFTTH(Fiber To The Home)等のブロードバンド・ネットワークの普及、コンピュータの処理能力の向上に伴い、ネットワークを通じて配信された映像コンテンツをパーソナル・コンピュータや携帯端末の記憶装置に録画して視聴することが一般的になっている。
【0003】
ところが、配信される映像コンテンツの数やその情報量は日々増大しており、ユーザは配信された多くの映像コンテンツをもれなく視聴することが困難になってきている。
【0004】
また、映像コンテンツの制作者側からの視点に立つと、ユーザの視聴環境の多様化により、同じ内容のコンテンツであってもテレビジョン放送向けやブロードバンド放送向け、携帯端末向けと、視聴環境に応じて複数のバリエーションを作成する必要が生じ、制作コストの増大を招いている。
【0005】
そこで従来では、例えば無音部分をスキップして音声が存在する部分だけを再生する放送機器が製品化されている。しかし、この装置ではユーザが自身の興味のある部分だけを選択的に視聴することができない。例えば、スポーツの試合で自分の好きな選手の登場するシーンだけを集めて視聴することはできない。
【0006】
また、映像コンテンツを短縮する別の装置として、入力された映像コンテンツからユーザが興味のあるイベントに係わる部分を抽出し、この抽出された部分をダイジェスト映像として編集する装置が提案されている(例えば、特許文献1参照。)。
【0007】
【特許文献1】
特開2000−261754
【0008】
【発明が解決しようとする課題】
しかしながらこの従来のダイジェスト作成装置では、抽出対象のイベントごとに、当該イベントを含む範囲をインデックスをもとに判断して切り出すようにしている。例えば、野球中継における注目のバッターのホームランシーンを抽出する場合には、相手ピッチャーが投球を開始するイベントから当該バッターがホームインするイベントまでをそのインデックスをもとに抽出する。このイベントの抽出条件は、他のイベントについても同一である。
【0009】
すなわち、抽出対象の各イベントをすべてインデックスを使用した同一の条件で切り出すようにしている。このため、仮に抽出対象の各イベントの重要度が異なる場合であっても、これらのイベントは一定の条件で画一的に切り出されることになる。したがって、このように切り出されたイベントをもとにダイジェストを編集しても、そこに得られるものは例えば複数のイベントがただ単に時系列的に配置されただけのものとなり、イベントごとの重要度がまったく反映されないものとなる。
【0010】
この発明は上記事情に着目してなされたもので、その目的とするところは、コンテンツ情報から注目する事象を抽出する際に事象ごとの重要度を考慮して最適な形態で抽出できるようにしたコンテンツ情報編集装置とその編集プログラムを提供することにある。
【0011】
【課題を解決するための手段】
上記目的を達成するためにこの出願の代表的な発明は、複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を取り込むと共に、ユーザが注目する事象に関する抽出条件を設定する。そして、上記取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と上記設定された抽出条件とをもとに算出し、この算出された事象ごとの重要度をもとに、上記コンテンツ情報からユーザが注目する事象を含む部分情報を抽出するようにしたものである。
【0012】
この発明はさらに、上記算出された事象ごとの重要度と、ユーザが作成を希望する要約情報の編集条件とに基づいて、上記コンテンツ情報からユーザが注目する事象を含む部分情報を抽出して、この抽出された部分情報をもとに要約情報を作成するようにしたものである。
【0013】
したがってこの発明によれば、コンテンツ情報に含まれるイベントやオブジェクト等の事象ごとの重要度が算出され、この算出された重要度に応じて事象が抽出される。さらに、必要に応じて上記重要度と予め設定された編集条件とをもとに複数の事象が抽出されて要約情報が作成される。このため、事象の抽出及び要約情報の作成に事象の重要度を反映させることができ、これによりユーザに対し重要度の高い事象及びその要約情報を提供することが可能となる。
【0014】
また、上記した要約情報の編集手段を備えることにより、コンテンツ制作側或いは提供側にとっては、同一のコンテンツ情報につき、ユーザの視聴環境に応じて複数のバリエーションを作成する必要がなくなり、これによりコンテンツ情報の制作或いは管理コストを圧縮することができる。
【0015】
【発明の実施の形態】
(第1の実施形態)
この発明の第1の実施形態は、サーバ装置に対しネットワークを介して接続されるユーザの端末装置において、サーバ装置からダウンロードされたコンテンツ情報に含まれる複数のイベントの各々について、その属性情報と予め入力された抽出条件とをもとに重要度を算出し、この算出された重要度と予め入力された編集条件とをもとに、上記コンテンツ情報からユーザが注目するイベントを含むシーンを抽出して要約情報を作成するようにしたものである。
【0016】
図1は、この発明の第1の実施形態に係わるコンテンツ情報編集機能を備えた端末装置の機能構成を示すブロック図である。
この端末装置TM1は、通信インタフェース部100と、映像情報データベース101、映像属性データベース102及びプロファイルデータベース103からなるデータベース群と、条件入力部104及び表示部108からなる入出力インタフェース部と、重要度算出部105、区間選択部106及び部分映像情報作成部107からなる演算処理部とを備えている。
【0017】
通信インタフェース部100は、サーバ装置SV1との間でネットワークNWを介して所定のプロトコルに従い通信を行い、これによりサーバ装置SV1からコンテンツ情報をダウンロードする。コンテンツ情報は、例えば圧縮されたディジタル映像データとオーディオデータと付加データとを多重化したものから構成される。そして、このダウンロードされたコンテンツ情報を映像情報データベース101に格納する。なお、ネットワークNWは、有線公衆網、移動通信網、CATV(Cable Television)網、構内通信網、及びインターネット等のコンピュータネットワークのいずれか、或いはこれらを任意に組み合わせたものから構成される。
【0018】
映像情報データベース101は、例えばハードディスクやDVDなどのメディアを使用したものである。この映像情報データベース101には、上記サーバ装置SV1からダウンロードしたコンテンツ情報が格納されると共に、テレビジョン放送やユーザが撮影した映像など様々なコンテンツ情報を格納される。元の映像がアナログデータである場合には、図示しないインタフェース部によりディジタルデータに変換されたのち格納される。ディジタルデータの形式はどのような形式でもよいが、MPEG−1やMPEG−2などの圧縮データ形式を用いるのが一般的である。
【0019】
また映像情報データベース101には、上記格納されたコンテンツ情報のタイトルやIDなどの映像コンテンツを一意に特定するための情報と、再生を開始する時刻又はフレーム番号も併せて記憶される。これらの付加データにより、上記コンテンツ情報を任意の位置から再生することが可能となる。なお、映像情報データベース101は、専用のデータベースシステムを用いずに、オペレーティングシステムのファイルシステムを用いたのでも構わない。
【0020】
映像属性データベース102は、上記映像情報データベース101に格納されているコンテンツ情報の属性情報を保存する。属性情報はメタデータとも呼ばれ、映像データの構造や注釈、索引などの情報からなる。この属性情報は、元の映像データをもとに自動抽出或いは手動で設定される。
【0021】
自動的に抽出することのできる属性情報には、映像データからカット点を自動検出することで映像データをシーンごとに分割したときの始点及び終点の時刻情報、カメラの動き(パンやズームなど)の情報、音声の有無や音量などが挙げられる。
【0022】
また手動で付与する情報としては、映像データ内に写っている物体や発生しているイベントの内容などの情報が挙げられる。例えば、サッカーの試合の番組であれば、図2に示すように、試合に出場した選手の名前のリスト、シュートやゴールなどのイベントが発生したときの時刻、選手名などを記述しておく。イベントの発生時刻の記述方法としては、シーン情報のように区間の始点及び終点を記述する形式でもよいし、イベントが発生した瞬間の時刻を記述する形式でもよい。
【0023】
また映像属性データベース102は、便宜上データベースと表記しているが、XMLデータベースや関係データベースなどのデータベースシステムを必ずしも用いる必要はなく、図2に例示するようにテキストファイルに順に属性情報を記述したものを読み込んでもよい。もちろん、XMLデータベースや関係データベースなどに登録管理してもよい。
【0024】
プロファイルデータベース103は、イベントのシーンを抽出する際及び要約情報を作成する際に用いる、ユーザ情報や要約アルゴリズムのパラメータを格納する。ユーザ情報とは、イベントのシーンを抽出する際及び要約を作成する際に、ユーザが毎回同じ条件を入力する手間を省くために、予め好みのキーワードなどを保持しておくための情報である。例えば、スポーツの試合であれば、好みのチームや選手などの情報がこれに該当する。要約アルゴリズムのパラメータとは、後述する要約アルゴリズムの切り替えや重要度計算に用いる係数を表す。これらのパラメータには初期値が与えられるが、その後ユーザごとに好みに合わせて調整することができる。
【0025】
このプロファイルデータベース103についても、上記映像属性情報データベース102と同様に、XMLデータベースや関係データベースなどのデータベースシステムを用いても良いし、ファイルに記述しておいたものを読み込むだけでもよい。
【0026】
また、編集対象のコンテンツ情報に対してどのプロファイルを用いるかは、明示的に選択してもよいし、コンテンツの内容やジャンルに応じて自動的に選択されるようにしてもよい。例えば、スポーツの種目ごとにプロファイルを用意し、サッカーの試合がコンテンツとして用いられているときは、サッカー用のプロファイルを選択する。
【0027】
条件入力部104は、抽出対象のイベントの指定や要約情報を作成するための諸条件を入力するもので、例えばキーボードからなる。入力される条件は、作成する要約の時間や要約に含めたい内容に対応するキーワードなどである。例えば、サッカーの試合を自分の好みのチームや選手の活躍を中心にイベントを抽出し要約したいのであれば、チームや選手の名前を入力する。
【0028】
重要度算出部105は、入力された抽出及び要約条件、属性情報、プロファイルに基づいて、コンテンツ情報の区間ごと或いは時間ごとの重要度を算出する。重要度の算出処理については後述の要約アルゴリズムの説明で詳述する。
【0029】
区間選択部106は、コンテンツ情報の区間ごと或いは時間ごとに算出された重要度に応じて、要約情報に含める区間を選択する。また、上記要約条件に要約情報の時間長の下限と上限を指定する時間しきい値が含まれる場合は、作成された要約情報の時間長がこの時間しきい値で指定される時間長に収まるように区間の長さを調節する。区間選択処理については後述の要約アルゴリズムの説明で、詳述する。
【0030】
部分映像情報作成部107は、上記区間選択部106により選択された区間情報に基づいて、映像情報データベース101に格納されたコンテンツ情報から該当する部分の区間の映像情報を取り出す。そして、この取り出された部分映像情報をつなぎ合わせることにより要約情報を作成する。
【0031】
表示部108は例えばCRT又はLCDを使用したもので、上記部分映像情報作成部107により作成された要約映像情報を表示する。なお、表示部108には、上記要約情報を作成する前の個々の部分映像情報を選択的に表示することも可能である。
【0032】
次に、以上のように構成された装置による要約情報の編集処理動作を説明する。図3は、その作成手順と処理内容を示すフローチャートである。
【0033】
この実施形態の要約アルゴリズムは、ユーザが注目するイベントを含むシーンをイベントごとに求めた重要度の高い順に取捨選択するものである。ただし、メタデータにより各イベントには1つ以上のキーワードが付加されているものとする。またイベントを含むシーンの始点と終点は、メタデータにイベントの始点及び終点の時刻が記述されている場合にはそれを使用し、発生時刻のみが記述されている場合には後述する自動分割処理を用いて始点及び終点を求め、この求められた始点及び終点を使用する。
【0034】
ステップS11ではイベントごとの重要度が算出される。重要度算出処理の一例としては、抽出条件のキーワードとメタデータのキーワードとを比較して、イベントの重要度を求めるものがある。例えば、イベントの重要度をwとし、抽出条件のキーワードの総数をNとすると、そのイベントの重要度は次式により求めることができる。
【0035】
【数1】
【0036】
ただし、akはk番目のキーワードの重み係数、T(t)は時間に依存する関数で、例えばT(t)=btとする。これらの係数の数値はプロファイルに要約アルゴリズムのパラメータとして記述しておいてもよい。例えば、サッカーの試合でゴールシーンをシュートシーンより優先する場合はゴールシーンの方が大きな重み係数akを用いる。また、試合の後半のゴールシーンほど、重要なシーンとして扱う場合はbに適当な値を設定し、重要度wが試合が進むにつれて大きくなるようにする。なお、時間によって重要度を変化させない場合は上記時間の重み係数bは省略する。
【0037】
ステップS12では、上記ステップS11で算出された重要度に基づき、最も重要度の大きいイベントを含むシーンを選択してシーンリストに登録する処理が行われる。
【0038】
ステップS13では、上記ステップS12により選択されシーンリストに登録されているシーンの合計時間が、要約の編集条件として入力された時間長のしきい値を上回っていないかどうかが判定される。そして、上回っている場合にはそのまま処理を終了する。これに対し上回っていない場合にはステップS12に戻り、選択されていないシーンのうち最も重要度が高いイベントのシーンを選択してシーンリストに追加するという処理が、シーンの合計時間がしきい値を上回るまで繰り返し行われる。
【0039】
以上の説明では、要約情報の時間長について上限のみを指定したが、下限も指定するようにしてもよい。このようにすると、要約情報のシーンの合計時間が上記下限と上限により指定される範囲内に収まるようにすることができる。また、要約の編集条件としては必ずしも時間を用いる必要はない。例えば、時間の代わりにシーンの総数を用いてもよいし、AND検索やOR検索を利用してもよい。このAND検索やOR検索を利用する抽出処理では、イベントの抽出条件として与えられた全てのキーワードを含むシーンを選択する処理(AND検索)や、最低限1つのキーワードを含むシーンを選択する処理(OR検索)が行われる。
【0040】
ところで、上記したようにイベントの取捨選択を用いて要約情報を作成すると、各イベントのシーンの長さによっては、要約情報の合計時間が編集条件で指定される時間範囲に収まらなくなる場合がある。このような場合には、シーンの切り詰め処理を行うことで、要約情報の合計時間を指定された時間範囲に納めることができる。
【0041】
図4は、このシーンの切り詰め処理を説明するためのフローチャートである。同図において、先ずステップS21では要約情報に含めたいイベントのシーンが選択される。このイベントシーンの選択方法には、図3の説明で述べたAND検索やOR検索など、時間を用いないイベント抽出処理を用いてもよいし、コンテンツ情報中の全イベントのシーンを選択しても構わない。
【0042】
ステップS22では、選択されたイベントシーンの合計時間が編集条件により指定される時間範囲に収まっているかが判定され、収まっている場合は処理が終了する。収まっていない場合にはステップS23へ進む。ステップS23ではシーンの切り詰め処理が行われる。このシーンの切り詰め処理は、ステップS22で要約情報の合計時間が編集条件により指定される時間範囲に収まることが確認されるまで繰り返し行われる。
【0043】
図5は、シーンの切り詰め処理の第1の例を説明するための図である。この切り詰め処理は各シーンの両端をそれぞれ切り詰める。切り詰める時間は、各シーンとも均等の時間となるように設定してもよいし、各シーンの長さに対して比率が一定(例えば10%ずつ)としてもよい。また、シーンごとに自由に決めてもよい。さらに、シーンの両端を切り詰めずに始端あるいは終端のいずれか一方のみを切り詰めてもよい。また、シーンの両端に限らず、最終的にシーンの合計時間が要約条件に合致すれば中間部分などを切り詰めてもよい。
【0044】
図6は、シーンの切り詰め処理の第2の例を説明する図である。先ずコンテンツ情報の各イベントのシーンは複数の区間に分割され、これらの区間ごとに付加的な属性情報を設定してこれをメタデータに含めておく。このときの属性情報としては、例えばキーワードや重要であることを示すフラグが用いられる。キーワードを用いる場合には、シーンごとの重要度を求めたときと同様に区間ごとに重要度を求め、この重要度により決まる選択優先順位に従い優先順位の低い区間を捨てることによって切り詰めを行う。
【0045】
フラグを用いる場合には、図6のようにシーンの部分区間ごとに重要であるかないかのフラグを付与し、重要でない区間から選択して切り詰める。図6の例では、区間202の重要度が最も高く区間201の区間の重要度が最も低いので、区間201が最初に切り詰められ、次に区間203が切り詰められる
図7は、シーンの切り詰め処理の第3の例を説明する図である。この例ではメタデータにカメラの動きを表す情報が記述されていることが前提となる。カメラワークには撮影テクニックとしてある程度決まった動きがある。例えば、ズームやパンなどで対象物に近づき、その後カメラの動きがない状態で対象物を撮影する。
【0046】
したがって、このようなカメラの動きに着目し、カメラの動きがなく安定して被写体が撮影されている区間を優先的に選択して、区間の切り詰めを行う。図7の場合、区間301で対象物が画面内に収まるようにパンし、その後区間302ではカメラが静止しているとすると、この静止区間302のシーンが切り詰められる。
【0047】
その他、音声データの有無やその音量を示すメタデータが存在する場合には、シーンの切り詰めを行うときの分割境界を例えば図8のように音声のない部分とするとよい。このようにすると、音声を途切れさせることなくシーンを切り詰めることができる。
【0048】
なお、図3及び図4に示したフローチャートでは、イベントの区間がイベント発生時刻の始点及び終点時刻により定義され、これがメタデータに記述されているものとして説明した。しかし、メタデータとして記述するイベントの時刻情報は、区間を表す情報である必要はなく、イベントが発生した瞬間の時刻のみを記述する場合もある。
【0049】
例えば、コンテンツ情報がサッカーの試合の映像データである場合、そのメタデータにはシュートを打った瞬間の時刻を記述してもよい。このような場合、前述の要約アルゴリズムを用いるには、そのイベントに対応するシーンの始点及び終点の時刻を先に求める必要がある。
【0050】
イベントの発生時刻からシーンの始点及び終点の位置を求める手法の一例としては、イベントの種類ごとに発生時刻に対する始点と終点の位置を定める手法がある。例えば、図9に示すようにイベント発生時刻として時刻tがメタデータに記述されている場合、t−tAを始点とすると共にt+tBを終点として区間401をシーンとする。ここで、tA及びtBはイベントの種類ごとに用意されるパラメータであり、イベントごとに違う値を用いてもよいし、共通の値を用いてもよい。また、システムが定めた値を用いてもよいし、要約の編集条件やプロファイルに記憶された要約パラメータの一部として、ユーザが任意に設定してもよい。
【0051】
また、イベントの発生時刻からシーンを求める別の手法としてはカット検出結果やカメラワークの検出結果を用いる自動分割手法がある。カット検出手法とは、カットと呼ばれるカメラブレークや編集などによって生じる映像データの不連続な部分を検出して、映像データをシーンに分割する処理である。このカット検出処理は、要約作成時に行ってもよいが、カット検出結果がメタデータに存在する場合にはこのデータを用いた方が効率がよい。いずれの場合も、カット検出により得られたシーンとイベントとを対応付ける必要がある。例えば、イベントの発生時刻を含むシーンをイベントのシーンとして対応付ける。
【0052】
図10は、カメラワークの検出結果を用いて、イベントの発生したシーンを求める処理の手順と内容を示すフローチャートである。この処理では、カメラワークをもとに映像データをシーン分割してイベントと対応付ける。カメラワークのパラメータは予め得られているものとし、ここではその取得方法の詳細は述べない。
【0053】
ステップS31では、前後のカメラワークのパラメータが比較され、その類似度が求められる。パラメータとは、パンやズームの方向やその変化の大きさなどである。類似度はパンであるかズームであるか、また同じ場合にはその方向や大きさを比較することにより求められる。
【0054】
ステップS32では、上記ステップS31で求められた類似度が予め定めたしきい値以下となり、かつ最も小さくなる位置が選択される。そして、この選択された位置において映像データがシーン分割される。ここでシーンとは、同じようなカメラワークが連続するフレームの集合である。例えば、サッカーの試合であれば、相手ゴールへの攻撃をカメラをパンさせながら連続的に追跡するシーンなどが挙げられる。
【0055】
ステップS33では、ステップS32により分割されたシーンの中からイベントの発生時刻を含むシーンを検索し、その結果をイベントのシーンとして対応付ける処理が行われる。
【0056】
図21は、以上のようにして作成されたイベント要約情報を表示部108に表示する場合の表示画面の一例を示すものである。この表示画面は、要約映像表示部901と、時刻表示部902と、イベント情報表示部903とから構成される。
【0057】
要約映像表示部901では、要約結果の区間情報に従い元映像の該当シーンが連続して表示される。その際、シーンを連続的に表示するだけでは、スポーツ中継などにおいては試合の流れが分かり難い。そこで、要約映像と合わせてイベントの発生時刻や内容がそれぞれイベント情報表示部903及び時刻表示部902に表示される。このようにすることにより、要約情報の流れをユーザが把握しやすくする。
【0058】
なお、図21では時刻表示部902及びイベント情報表示部903を要約表示部901とは別の領域に表示する場合を示したが、これは一例である。時刻表示部902及びイベント情報表示部903の表示領域は表示画面上のどの部分にあってもよく、例えば図22に示すように1つの領域に時刻とイベント情報の両方を表示したり、テキストのみを要約映像にオーバーレイ表示するようにしてもよい。また、時刻情報は常に表示しておいてもよいし、イベントの発生時のみ表示するようにしてもよい。さらに、イベント情報をテキストにより表示せずに、音声合成技術を使用して音声ナレーションにより表示するようにしてもよい。
【0059】
以上述べたように第1の実施形態では、映像情報データベース101に格納されたコンテンツ情報に含まれる複数のイベントの各々について、映像属性データベース102に記憶された属性情報と、条件入力部104により予め入力されるか又はプロファイルデータベース103に既に記憶されているキーワード等の抽出条件とをもとに、重要度算出部105により重要度を算出する。そして、この算出された重要度が高い順に区間選択部106でイベントのシーンを選択し、これらのシーンを部分映像情報作成部107によりつなぎ合わせることで要約情報を作成するようにしている。また、その際に要約情報の合計時間が編集条件により指定された時間範囲に収まらない場合には、シーンの切り詰め処理を行うことで要約情報の時間長を調節するようにしている。
【0060】
したがって第1の実施形態によれば、イベントの抽出及び要約情報の作成にイベントの重要度を反映させることができ、これにより重要度の高いイベントのシーンが希望する時間長に編集された要約情報をユーザに対し提供することが可能となる。
【0061】
また、コンテンツ制作者側或いは提供側にとっては、同一のコンテンツ情報につき、ユーザの視聴環境に応じて複数のバリエーションを作成する必要がなくなるので、コンテンツ情報の制作或いは管理コストを大幅に圧縮することが可能となる。
【0062】
(第2の実施形態)
前記第1の実施形態で述べた要約作成アルゴリズムは、イベントごとに重要度を求めてその結果をもとにイベントのシーンを取捨選択することにより要約情報を作成するものだったのに対し、この発明の第2の実施形態は、イベントごとの重要度曲線を求めたのちこれらを合成することでコンテンツ情報全体にわたる重要度の変化特性を求める。そして、このコンテンツ情報全体にわたる重要度の変化特性をもとに、抽出すべき区間を決定して要約情報を作成するようにしたものである。
【0063】
図11は、この発明の第2の実施形態に係わる要約作成アルゴリズムを使用した要約編集処理の手順と内容を示すフローチャートである。
先ずこのフローチャートの概要を述べる。ステップS41ではイベントの重要度を算出する。ステップS42ではイベントの重要度と重要度関数からイベント重要度曲線を算出する。ステップS43ではイベント重要度曲線と時間重要度曲線を加算し、コンテンツ全体の重要度曲線を算出する。ステップS44では重要度曲線から、要約作成条件の時間に対応する重要度の閾値を算出する。ステップS45ではしきい値に従い、要約映像に含める区間を選択する。
【0064】
以下、各ステップでの処理を詳細に説明する。ステップS41におけるイベントの重要度の算出処理は、第1の実施形態で説明した処理がそのまま使用される。すなわち、コンテンツ情報に含まれる各イベントの重要度が、その属性情報と、抽出条件として入力されたキーワードやユーザの好みとして予め登録されているプロファイル情報に基づいて算出される。例えば、重要度をwとし、キーワードの総数をNとすると、次式により重要度wが求められる。
【0065】
【数2】
【0066】
ただし、akはk番目のキーワードの重み係数である。また、入力された重要度をwk、プロファイルとして記憶された重要度をwpと区別しておく。ただし、この区別は必須ではない。
【0067】
ステップS42では、イベントの重要度と重要度関数とからイベント重要度曲線を算出する。重要度関数とは、イベント区間の時間による重要度の変化を表す関数である。関数の式はイベントごとに自由に決めることができる。
【0068】
図12はイベントの重要度関数を説明するための図である。重要度関数は、図12(a)の501に示すように曲線的な関数であってもよいし、図12(c)の502に示すように線形な関数の組み合わせであってもよい。また、図12(e),(f)に示すような階段状に変化する関数であってもよい。関数の重要度方向の高さはイベント発生時に重要度が最大となるようにしてもよいし、イベント発生時以外のタイミングで最大となるように設定してもよい。また、最大値を所定値に統一(例えば1)してもよいし、イベントごとに異ならせてもよい。要するに重要度関数は、イベントごとに予め任意に設定することができる。
【0069】
次にステップS43において、コンテンツ情報に含まれるイベントごとに、当該イベントに対応する重要度関数を上記ステップS41により算出された重要度に基づいて変化させ、これによりイベント重要度曲線を求める。一例としては、イベントごとにその重要度関数にイベントの重要度を乗ずる。i番目のイベントの重要度関数式をfi(t)とすると、イベントの重要度曲線は
Ei(t)=(wik+wip+ei)fi(t)
と表される。
【0070】
ただし、wikおよびwipはそれぞれi番目のイベントの重要度を示す、またeiは補正項を示している。補正項eiは、キーワードのマッチング以外の要因で重要度を変化させたいときに用いる。例えば、スポーツの試合における逆転の場面など、試合展開上で重要なイベントや連続でヒットを打つなど、活躍した選手の重要度を他のイベントより高くしたいときに用いる。
【0071】
上記式によれば、図12(a)に示したイベント重要度関数501は図12(b)の503に示すように、また図12(c)に示したイベント重要度関数502は図12(d)の505に示すように、それぞれ縦(重要度)方向に変化した曲線となる。
【0072】
なお、この例では、イベントの重要度関数にイベントの重要度を乗算することによりイベントの重要度曲線Ei(t)を求めたが、fi(t)の他の係数を変化させ、裾の広がりなど、時間方向の形状を変化させてもよい。
【0073】
次にステップS43では、例えば図13(a)に示す各イベントの重要度曲線601,601,…と、別途設定した時間重要度曲線602とが加算される。この結果、図13(b)に示すように、コンテンツ情報の全時間領域にわたる重要度の変化を表す重要度曲線603が算出される。
【0074】
ここで、時間重要度曲線とは、イベントと関係なくコンテンツ全体における重要度の時間変化を示す。例えば、スポーツの試合の後半を前半よりも重要であると考え、後半の映像データをより多く要約に含める場合には、時間経過に従って重要度が増す関数を用いる。時間重要度曲線の式をT(t)とすると、コンテンツ全体の重要度曲線ER(t)は
【数3】
【0075】
となる。すなわち、コンテンツ全体の重要度曲線ER(t)は、イベントの重要度と時間による重要度との合計となる。
【0076】
また、コンテンツ全体の重要度曲線を求める際に、各イベントの重要度曲線Ei(t)を単に加算するのではなく、時間tにおけるEi(t)の最大値Max(Ei(t))を用いて、
ER(t)=Max(Ei(t))+T(t)
としてもよい。このようにするとコンテンツ全体の重要度曲線は、図14(b)の701に示すようになり、イベントが重なる部分で重要度が高くなり過ぎる現象を抑制することが可能となる。
【0077】
続いてステップS44では、ステップS43により求められたコンテンツ全体の重要度曲線ER(t)から、要約の編集条件として予め指定された要約情報の時間に対応する重要度のしきい値を算出する処理が行われる。なお、要約の編集条件として重要度のしきい値を直接指定する方法もある。しかしながら、一般的には編集条件として要約情報の時間を指定する方が都合がよい。このため、上記したように編集条件として指定された要約情報の時間に対応した重要度のしきい値を算出することは、非常に有効である。
【0078】
図15は、上記重要度のしきい値を算出するための処理を説明するための図である。先ず重要度曲線を時間軸方向に投影し、重要度のしきい値と要約時間との関係を求める。例えば、図14(b)に示したコンテンツ全体の重要度曲線701を投影すると、このときの重要度のしきい値と要約時間との関係は図15に示すようになる。この分布は重要度の増加に対して単調減少となるので、容易に所望の要約時間に対応する重要度のしきい値を見つけることができる。重要度のしきい値を探索する最も簡単な方法の一つは、重要度の最大値から、序々にしきい値を下げ、所望の要約時間となるしきい値を探索する方法である。
【0079】
最後にステップS45では、ステップS44で求めた重要度のしきい値を用いて、重要度曲線がしきい値を超える区間を要約に含める区間として選択する処理が行われる。図16は、上記図14(b)に示したコンテンツ全体の重要度曲線701において、重要度のしきい値を変えたときに選択される区間の例を示している。
【0080】
このとき、図12(a)に示すイベント重要度関数501のように裾の広がりが大きな関数を用いると、選択区間が実際のイベントの発生区間を大きく越えてしまう場合がある。また、選択区間が短くなりすぎる場合も考えられる。このような場合、図12(c)に示すイベント重要度関数502のように、最小選択区間505と最大選択区間506を持つ関数を用いれば、要約として選択される最小区間と最大区間を制御することができる。
【0081】
なお、以上述べた要約作成アルゴリズムは、個々のコンテンツ情報について要約情報を作成するものだったが、複数のコンテンツ情報から一つの要約情報を作成することも可能である。
【0082】
例えば、図3あるいは図4に示すアルゴリズムを用いて要約情報を作成する場合には、各コンテンツ情報の各々についてイベントごとの重要度を算出し、各コンテンツの中で最も重要度の高いイベントのシーンから順次選択する。そして、この選択されたシーンを含む区間を、該当するコンテンツ情報から抽出して要約情報を構成する。
【0083】
また、図11に示したアルゴリズムにより要約情報を作成する場合には、まず各コンテンツの各々について重要度曲線を求める。そして、各コンテンツから選択される区間の合計時間が編集条件として指定された時間と合致する共通のしきい値を算出する。次に、各コンテンツにおいて、重要度曲線がしきい値を超える区間を要約情報に含める区間として選択する。
【0084】
さらに、図11に示したアルゴリズムにより求めたコンテンツごとの重要度曲線から各コンテンツの重要度を算出することにより、複数のコンテンツの中からユーザが最も希望するコンテンツを判定することもできる。
【0085】
例えば、
【数4】
【0086】
なる式を用いてコンテンツごとに重要度曲線を積分して面積を求め、この面積EVをそのコンテンツ自身の重要度とする。EVが大きいほど、ユーザにとってお勧めのコンテンツであると考えることができるので、コンテンツ間でEVの大小を比較し、ユーザの所望するコンテンツを決定する。すなわち、コンテンツごとの重要度曲線から、ユーザに対するコンテンツの推奨度を判定することが可能である。
【0087】
(第3の実施形態)
前記第1の実施形態では、コンテンツ情報から重要度の高いイベントのシーンを抽出して要約情報を作成する場合について述べた。これに対しこの発明の第3の実施形態は、オブジェクトの時空間情報を使用することにより、コンテンツ情報から重要度の高い注目オブジェクトを抽出して要約情報を作成する。
【0088】
オブジェクトの時空間情報とは、映像の各フレームにおけるオブジェクトの位置や形状あるいはその概形の特徴点を時間軸方向に連続的に記述した情報である。このオブジェクトの時空間情報は、必ずしもオブジェクトが存在する全フレームについて記述する必要はなく、間隔をあけて記述してその間を曲線や直線で近似するようにしてもよい。オブジェクトの時空間情報の記述には、例えば、MPEG−7で定義されているSpatio Temporal Locatorを用いる。
【0089】
オブジェクトを中心にした要約情報を作成するには、個々のオブジェクトが関連するイベントと対応付けられている必要がある。対応付け方法の一例としては、オブジェクトにIDを付与してイベントに対応するオブジェクトIDを記述する方法や、オブジェクトの情報に関連情報としてキーワードなどのイベント情報を合わせて記述する方法などがある。
【0090】
図17は、オブジェクトを取捨選択することによって要約を作成する処理の手順と内容を示すフローチャートである。この処理では、映像データ中のオブジェクトごとに重要度を求めてこの重要度をもとに優先順位を決め、優先順位の高いオブジェクトの出現シーンから順に選択する。
【0091】
すなわち、先ずステップS51ではオブジェクトごとの重要度が算出される。重要度の算出方法の一例としては、図3の説明で述べたようにイベントの重要度を求め、このイベントごとの重要度をそのまま対応するオブジェクトの重要度とする方法や、オブジェクト情報に含められたキーワードと予め抽出条件として入力されたキーワード或いはプロファイルとして記憶されたキーワードとのマッチングにより求める方法がある。
【0092】
次にステップS52では、算出された重要度をもとに重要度が最も大きいオブジェクトを要約情報に含めるべきオブジェクトとして選択し、その出現シーンをシーンリストに追加する処理が行われる。
【0093】
続いてステップS53では、上記シーンリストに登録されたオブジェクトの出現シーンの合計時間が、要約の編集条件として入力された時間しきい値を上回っていないかどうかが調べられる。そして、オブジェクトの出現シーンの合計時間が時間しきい値を上回っている場合には処理を終了する。
【0094】
ただし、例えば図18に示すように1画面に複数のオブジェクトが表示される場合もあり、しかもそれぞれのオブジェクトの出現から消失までの時間が異なっている場合もある。図19は、このように出現時間の異なる複数のオブジェクトが1画面上に存在する場合の区間の合計時間の求め方を説明するための図である。同図に示すように、オブジェクトAの出現区間801とオブジェクトBの出現区間802の和の区間803が合計時間の計算に用いられる。
【0095】
一方、オブジェクトの出現シーンの合計時間が時間しきい値を上回っていない場合には、ステップS52に戻る。ステップS52では、まだ選択されていないオブジェクトのうちから最も重要度が高いオブジェクトを選択して、シーンリストに追加する処理が行われる。このステップS52の処理は、オブジェクトの出現シーンの合計時間が時間しきい値を上回るまで繰り返し行われる。
【0096】
以上の説明では、要約情報の時間しきい値の上限を選択オブジェクトの出現シーンの合計時間としたが、必ずしも時間を用いる必要はない。例えば時間の代わりにシーンの総数を用いてもよいし、AND検索やOR検索を利用してもよい。このAND検索やOR検索を利用する抽出処理では、オブジェクトの抽出条件として与えられた全てのキーワードを含むシーンを選択する処理(AND検索)や、最低限1つのキーワードを含むシーンを選択する処理(OR検索)が行われる。
【0097】
ところで、上記したようにオブジェクトの取捨選択を用いて要約情報を作成すると、各オブジェクトのシーンの長さによっては、要約情報の合計時間が編集条件で指定される時間範囲に収まらなくなる場合がある。このような場合には、シーンの切り詰め処理を行うことで、要約情報の合計時間を指定された時間範囲に納めることができる。
【0098】
図20は、このオブジェクトが出現するシーンの切り詰め処理を説明するためのフローチャートである。同図において、先ずステップS61では要約情報に含めたいオブジェクトを選択する。このオブジェクトシーンの選択方法には、先に述べたAND検索やOR検索など、時間を用いないオブジェクト抽出処理を用いてもよいし、コンテンツ情報中の全オブジェクトのシーンを選択しても構わない。
【0099】
ステップS62では、選択されたオブジェクトの出現シーンの合計時間が、要約の編集条件により指定される時間範囲内に収まっているか否かが判定され、収まっている場合には処理が終了する。なお、上記合計時間の計算も、複数のオブジェクトが1画面上に存在する場合にはその和の区間が使用される。
【0100】
一方、オブジェクトの出現シーンの合計時間が編集条件により指定された時間範囲内に収まっていない場合には、ステップS63へ進む。ステップS63では、オブジェクトシーンの切り詰め処理が行われる。このシーンの切り詰め処理は、ステップS62で要約情報の合計時間が編集条件により指定される時間範囲に収まることが確認されるまで繰り返し行われる。
【0101】
図23は、オブジェクト情報を持ったコンテンツを要約表示する画面の一例を示すものである。元映像1001に含まれるオブジェクトの領域1002は、重要度に応じて切り出されて、要約映像1003として表示される。切り出し処理は、図1に示した端末装置TM1では部分映像作成部107の処理の1つとして実施される。
【0102】
なお、オブジェクト情報を持ったコンテンツの要約を表示する際に、画面全体を表示する方法もあるが、画面サイズや通信速度に制限がある環境(携帯端末など)で視聴するときには、オブジェクト近辺のみを表示する方がよい場合がある。例えば、図23に示す要約映像1003のように、オブジェクトの領域のみを表示することによって、携帯端末などの小さな画面上でも注目する部分を詳細に表示することができる。また、送信された要約映像を受信して表示する際に、画面全体を送受信する場合と比較して、少ない情報量で表示を行うことができるので、通信速度が限られているときにも有利である。
【0103】
(その他の実施形態)
第1の実施形態では、要約編集機能を実現するための各構成要素をユーザの端末装置TM1に設けた場合を例にとって説明した。しかし、要約編集機能を実現するための各構成要素をサーバ装置に設けるようにしてもよい。
【0104】
図24はその構成の一例を示すブロック図である。なお、同図において前記図1と同一機能部分については同一符号を付して詳しい説明は省略する。サーバ装置SV2には、映像情報データベース101、映像属性データベース102及びプロファイルデータベース103からなるデータベース群と、重要度算出部105、区間選択部106及び部分映像情報作成部107からなる演算処理部とが設けられている。
【0105】
これに対し端末装置TM2には、条件入力部104及び表示部108を有する入出力インタフェース部が設けられている。なお、同図においても図1と同様、サーバ装置SV2と端末装置TM2との間はネットワークNWを介して接続される。
【0106】
上記システムでは、イベント又はオブジェクトの抽出条件や要約の編集条件は端末装置TM2の条件入力部においてユーザにより入力される。そして、この入力された各条件はネットワークを介してサーバ装置SV2に通知される。サーバ装置SV2は、上記端末装置TM2から通知された諸条件をもとにイベント又はオブジェクトの抽出及び要約の作成処理を実行する。そして、作成された要約情報を、ネットワークを介して端末装置TM2に転送し、表示部108に表示させる。
【0107】
このように構成することで、端末装置TM2の処理負担を軽減することが可能となる。また、サーバ装置SV2から端末装置TM2に転送される映像データは、イベントのシーンやオブジェクト領域などからなる要約情報だけとなるため、転送データサイズが少なくなってその分通信費を安価にすることができる。すなわち、このシステム構成は、携帯端末などの高速な計算処理能力や大容量の記憶装置を持たない端末機器に適用した場合に特に効果がある。
【0108】
また、上記サーバ装置SV2に設けられたデータベース群のうち、プロファイルデータベース103のみは、図25に示すように端末装置TM3に設けるようにすることもできる。このようにすることで、ユーザはプロファイルデータを随時自由に追加変更することが可能となる。
【0109】
一方、要約編集機能を実現するための各構成要素の主体をユーザの端末装置に設け、映像属性データベースのみをサーバ装置に設けるように構成することもできる。図26はその構成を示すブロック図である。
【0110】
同図に示すように、映像情報データベース101及びプロファイルデータベース103からなるデータベース群と、条件入力部104及び表示部108からなる入出力インタフェース部と、重要度算出部105、区間選択部106及び部分映像情報作成部107からなる演算処理部は端末装置TM4に設けられる。これに対し、映像属性データベース102はサーバ装置SV4に設けられる。
【0111】
このようにシステム構成は、処理能力の高い端末装置TM4上で映像情報を管理し、属性情報をサーバ装置SV4からダウンロードして要約を作成する処理に適している。例えば、テレビチューナ機能を持つパーソナル・コンピュータでテレビジョン番組を録画し、イベントやオブジェクトなどの属性情報をサーバ装置SV4からダウンロードして要約情報を作成してと表示する。
【0112】
さらに、コンテンツ情報の構成は映像データのみやオーディオデータのみからなるものであってもよく、その他サーバ装置及び端末装置の種類や構成、要約編集アルゴリズムの処理手順や処理内容等についても、この発明の要旨を逸脱しない範囲で種々変形して実施できることは勿論である。
【0113】
【発明の効果】
以上詳述したようにこの発明によれば、コンテンツ情報に含まれるイベントやオブジェクト等の事象ごとの重要度を算出して、この算出された重要度に応じて事象を抽出すると共に、必要に応じて上記重要度と予め設定された編集条件とをもとに要約情報を作成するようにしたので、コンテンツ情報から注目する事象を抽出する際に事象ごとの重要度を考慮して最適な形態で抽出することができるコンテンツ情報編集装置とその編集プログラムを提供することができる。
【図面の簡単な説明】
【図1】この発明の第1の実施形態に係わるコンテンツ情報編集機能を備えた端末装置の機能構成を示すブロック図。
【図2】イベントに対し付加される属性情報の一例を示す図。
【図3】図1に示した端末装置による取捨選択アルゴリズムを使用した要約情報の編集処理手順とその内容を示すフローチャート。
【図4】図1に示した端末装置によるシーン切り詰めアルゴリズムを使用した要約情報の編集処理手順とその内容を示すフローチャート。
【図5】シーンの切り詰め処理の一例を説明するための図。
【図6】シーンの切り詰め処理の他の例を説明するための図。
【図7】シーンの切り詰め処理の別の例を説明するための図。
【図8】シーンの分割点を決定する処理の一例を説明するための図。
【図9】イベントに対応する区間の決定処理の一例を説明するための図。
【図10】カメラワークの検出結果を用いて、イベントの発生したシーンを求める処理の手順と処理内容を示すフローチャート。
【図11】この発明の第2の実施形態に係わる要約作成アルゴリズムを使用した要約編集処理の手順と内容を示すフローチャート。
【図12】重要度関数の一例と重要度曲線の一例を説明するための図。
【図13】コンテンツ情報の全時間領域にわたる重要度曲線を算出する処理の一例を説明するための図。
【図14】コンテンツ情報の全時間領域にわたる重要度曲線を算出する処理の他の例を説明するための図。
【図15】要約時間と重要度しきい値との関係を示す図。
【図16】異なる重要度しきい値による要約情報の作成処理を説明するための図。
【図17】オブジェクトを取捨選択することによって要約を作成する処理の手順と内容を示すフローチャート。
【図18】1画面に複数のオブジェクトが表示された場合を示す図。
【図19】出現時間の異なる複数のオブジェクトが1画面上に存在する場合の区間の合計時間の求め方を説明するための図。
【図20】オブジェクトが出現するシーンの切り詰め処理を説明するためのフローチャート。
【図21】イベント要約情報を表示部に表示する場合の表示画面の一例を示す図。
【図22】イベント要約情報を表示部に表示する場合の表示画面の他の例を示す図。
【図23】オブジェクト情報を持ったコンテンツを要約表示する画面の一例を示す図。
【図24】この発明に係わるコンテンツ情報編集装置の他の実施形態を説明するためのサーバ装置と端末装置の機能構成を示すブロック図。
【図25】この発明に係わるコンテンツ情報編集装置の別の実施形態を説明するためのサーバ装置と端末装置の機能構成を示すブロック図。
【図26】この発明に係わるコンテンツ情報編集装置のさらに別の実施形態を説明するためのサーバ装置と端末装置の機能構成を示すブロック図。
【符号の説明】
SV1,SV2,SV3,SV4…サーバ装置
TM1,TM2,TM3,TM4…端末装置
NW…ネットワーク
100…通信インタフェース
101…映像情報データベース
102…映像属性データベース
103…プロファイルデータベース
104…条件入力部
105…重要度算出部
106…区間選択部
107…部分映像情報作成部
108…表示部
【発明の属する技術分野】
この発明は、例えばサーバ装置からユーザの端末装置へネットワークを介してコンテンツ情報を放送又は配信するシステムにおいて、コンテンツ情報からユーザが希望する事象に係わる部分情報を抽出し、さらに要約情報に編集する機能を備えたコンテンツ情報編集装置とその編集プログラムに関する。
【0002】
【従来の技術】
近年、放送の多チャンネル化等による情報インフラの発展に伴い、多くの映像コンテンツが流通するようになっている。また、ADSL(Asymmetric DigitalSubscriber Line)やFTTH(Fiber To The Home)等のブロードバンド・ネットワークの普及、コンピュータの処理能力の向上に伴い、ネットワークを通じて配信された映像コンテンツをパーソナル・コンピュータや携帯端末の記憶装置に録画して視聴することが一般的になっている。
【0003】
ところが、配信される映像コンテンツの数やその情報量は日々増大しており、ユーザは配信された多くの映像コンテンツをもれなく視聴することが困難になってきている。
【0004】
また、映像コンテンツの制作者側からの視点に立つと、ユーザの視聴環境の多様化により、同じ内容のコンテンツであってもテレビジョン放送向けやブロードバンド放送向け、携帯端末向けと、視聴環境に応じて複数のバリエーションを作成する必要が生じ、制作コストの増大を招いている。
【0005】
そこで従来では、例えば無音部分をスキップして音声が存在する部分だけを再生する放送機器が製品化されている。しかし、この装置ではユーザが自身の興味のある部分だけを選択的に視聴することができない。例えば、スポーツの試合で自分の好きな選手の登場するシーンだけを集めて視聴することはできない。
【0006】
また、映像コンテンツを短縮する別の装置として、入力された映像コンテンツからユーザが興味のあるイベントに係わる部分を抽出し、この抽出された部分をダイジェスト映像として編集する装置が提案されている(例えば、特許文献1参照。)。
【0007】
【特許文献1】
特開2000−261754
【0008】
【発明が解決しようとする課題】
しかしながらこの従来のダイジェスト作成装置では、抽出対象のイベントごとに、当該イベントを含む範囲をインデックスをもとに判断して切り出すようにしている。例えば、野球中継における注目のバッターのホームランシーンを抽出する場合には、相手ピッチャーが投球を開始するイベントから当該バッターがホームインするイベントまでをそのインデックスをもとに抽出する。このイベントの抽出条件は、他のイベントについても同一である。
【0009】
すなわち、抽出対象の各イベントをすべてインデックスを使用した同一の条件で切り出すようにしている。このため、仮に抽出対象の各イベントの重要度が異なる場合であっても、これらのイベントは一定の条件で画一的に切り出されることになる。したがって、このように切り出されたイベントをもとにダイジェストを編集しても、そこに得られるものは例えば複数のイベントがただ単に時系列的に配置されただけのものとなり、イベントごとの重要度がまったく反映されないものとなる。
【0010】
この発明は上記事情に着目してなされたもので、その目的とするところは、コンテンツ情報から注目する事象を抽出する際に事象ごとの重要度を考慮して最適な形態で抽出できるようにしたコンテンツ情報編集装置とその編集プログラムを提供することにある。
【0011】
【課題を解決するための手段】
上記目的を達成するためにこの出願の代表的な発明は、複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を取り込むと共に、ユーザが注目する事象に関する抽出条件を設定する。そして、上記取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と上記設定された抽出条件とをもとに算出し、この算出された事象ごとの重要度をもとに、上記コンテンツ情報からユーザが注目する事象を含む部分情報を抽出するようにしたものである。
【0012】
この発明はさらに、上記算出された事象ごとの重要度と、ユーザが作成を希望する要約情報の編集条件とに基づいて、上記コンテンツ情報からユーザが注目する事象を含む部分情報を抽出して、この抽出された部分情報をもとに要約情報を作成するようにしたものである。
【0013】
したがってこの発明によれば、コンテンツ情報に含まれるイベントやオブジェクト等の事象ごとの重要度が算出され、この算出された重要度に応じて事象が抽出される。さらに、必要に応じて上記重要度と予め設定された編集条件とをもとに複数の事象が抽出されて要約情報が作成される。このため、事象の抽出及び要約情報の作成に事象の重要度を反映させることができ、これによりユーザに対し重要度の高い事象及びその要約情報を提供することが可能となる。
【0014】
また、上記した要約情報の編集手段を備えることにより、コンテンツ制作側或いは提供側にとっては、同一のコンテンツ情報につき、ユーザの視聴環境に応じて複数のバリエーションを作成する必要がなくなり、これによりコンテンツ情報の制作或いは管理コストを圧縮することができる。
【0015】
【発明の実施の形態】
(第1の実施形態)
この発明の第1の実施形態は、サーバ装置に対しネットワークを介して接続されるユーザの端末装置において、サーバ装置からダウンロードされたコンテンツ情報に含まれる複数のイベントの各々について、その属性情報と予め入力された抽出条件とをもとに重要度を算出し、この算出された重要度と予め入力された編集条件とをもとに、上記コンテンツ情報からユーザが注目するイベントを含むシーンを抽出して要約情報を作成するようにしたものである。
【0016】
図1は、この発明の第1の実施形態に係わるコンテンツ情報編集機能を備えた端末装置の機能構成を示すブロック図である。
この端末装置TM1は、通信インタフェース部100と、映像情報データベース101、映像属性データベース102及びプロファイルデータベース103からなるデータベース群と、条件入力部104及び表示部108からなる入出力インタフェース部と、重要度算出部105、区間選択部106及び部分映像情報作成部107からなる演算処理部とを備えている。
【0017】
通信インタフェース部100は、サーバ装置SV1との間でネットワークNWを介して所定のプロトコルに従い通信を行い、これによりサーバ装置SV1からコンテンツ情報をダウンロードする。コンテンツ情報は、例えば圧縮されたディジタル映像データとオーディオデータと付加データとを多重化したものから構成される。そして、このダウンロードされたコンテンツ情報を映像情報データベース101に格納する。なお、ネットワークNWは、有線公衆網、移動通信網、CATV(Cable Television)網、構内通信網、及びインターネット等のコンピュータネットワークのいずれか、或いはこれらを任意に組み合わせたものから構成される。
【0018】
映像情報データベース101は、例えばハードディスクやDVDなどのメディアを使用したものである。この映像情報データベース101には、上記サーバ装置SV1からダウンロードしたコンテンツ情報が格納されると共に、テレビジョン放送やユーザが撮影した映像など様々なコンテンツ情報を格納される。元の映像がアナログデータである場合には、図示しないインタフェース部によりディジタルデータに変換されたのち格納される。ディジタルデータの形式はどのような形式でもよいが、MPEG−1やMPEG−2などの圧縮データ形式を用いるのが一般的である。
【0019】
また映像情報データベース101には、上記格納されたコンテンツ情報のタイトルやIDなどの映像コンテンツを一意に特定するための情報と、再生を開始する時刻又はフレーム番号も併せて記憶される。これらの付加データにより、上記コンテンツ情報を任意の位置から再生することが可能となる。なお、映像情報データベース101は、専用のデータベースシステムを用いずに、オペレーティングシステムのファイルシステムを用いたのでも構わない。
【0020】
映像属性データベース102は、上記映像情報データベース101に格納されているコンテンツ情報の属性情報を保存する。属性情報はメタデータとも呼ばれ、映像データの構造や注釈、索引などの情報からなる。この属性情報は、元の映像データをもとに自動抽出或いは手動で設定される。
【0021】
自動的に抽出することのできる属性情報には、映像データからカット点を自動検出することで映像データをシーンごとに分割したときの始点及び終点の時刻情報、カメラの動き(パンやズームなど)の情報、音声の有無や音量などが挙げられる。
【0022】
また手動で付与する情報としては、映像データ内に写っている物体や発生しているイベントの内容などの情報が挙げられる。例えば、サッカーの試合の番組であれば、図2に示すように、試合に出場した選手の名前のリスト、シュートやゴールなどのイベントが発生したときの時刻、選手名などを記述しておく。イベントの発生時刻の記述方法としては、シーン情報のように区間の始点及び終点を記述する形式でもよいし、イベントが発生した瞬間の時刻を記述する形式でもよい。
【0023】
また映像属性データベース102は、便宜上データベースと表記しているが、XMLデータベースや関係データベースなどのデータベースシステムを必ずしも用いる必要はなく、図2に例示するようにテキストファイルに順に属性情報を記述したものを読み込んでもよい。もちろん、XMLデータベースや関係データベースなどに登録管理してもよい。
【0024】
プロファイルデータベース103は、イベントのシーンを抽出する際及び要約情報を作成する際に用いる、ユーザ情報や要約アルゴリズムのパラメータを格納する。ユーザ情報とは、イベントのシーンを抽出する際及び要約を作成する際に、ユーザが毎回同じ条件を入力する手間を省くために、予め好みのキーワードなどを保持しておくための情報である。例えば、スポーツの試合であれば、好みのチームや選手などの情報がこれに該当する。要約アルゴリズムのパラメータとは、後述する要約アルゴリズムの切り替えや重要度計算に用いる係数を表す。これらのパラメータには初期値が与えられるが、その後ユーザごとに好みに合わせて調整することができる。
【0025】
このプロファイルデータベース103についても、上記映像属性情報データベース102と同様に、XMLデータベースや関係データベースなどのデータベースシステムを用いても良いし、ファイルに記述しておいたものを読み込むだけでもよい。
【0026】
また、編集対象のコンテンツ情報に対してどのプロファイルを用いるかは、明示的に選択してもよいし、コンテンツの内容やジャンルに応じて自動的に選択されるようにしてもよい。例えば、スポーツの種目ごとにプロファイルを用意し、サッカーの試合がコンテンツとして用いられているときは、サッカー用のプロファイルを選択する。
【0027】
条件入力部104は、抽出対象のイベントの指定や要約情報を作成するための諸条件を入力するもので、例えばキーボードからなる。入力される条件は、作成する要約の時間や要約に含めたい内容に対応するキーワードなどである。例えば、サッカーの試合を自分の好みのチームや選手の活躍を中心にイベントを抽出し要約したいのであれば、チームや選手の名前を入力する。
【0028】
重要度算出部105は、入力された抽出及び要約条件、属性情報、プロファイルに基づいて、コンテンツ情報の区間ごと或いは時間ごとの重要度を算出する。重要度の算出処理については後述の要約アルゴリズムの説明で詳述する。
【0029】
区間選択部106は、コンテンツ情報の区間ごと或いは時間ごとに算出された重要度に応じて、要約情報に含める区間を選択する。また、上記要約条件に要約情報の時間長の下限と上限を指定する時間しきい値が含まれる場合は、作成された要約情報の時間長がこの時間しきい値で指定される時間長に収まるように区間の長さを調節する。区間選択処理については後述の要約アルゴリズムの説明で、詳述する。
【0030】
部分映像情報作成部107は、上記区間選択部106により選択された区間情報に基づいて、映像情報データベース101に格納されたコンテンツ情報から該当する部分の区間の映像情報を取り出す。そして、この取り出された部分映像情報をつなぎ合わせることにより要約情報を作成する。
【0031】
表示部108は例えばCRT又はLCDを使用したもので、上記部分映像情報作成部107により作成された要約映像情報を表示する。なお、表示部108には、上記要約情報を作成する前の個々の部分映像情報を選択的に表示することも可能である。
【0032】
次に、以上のように構成された装置による要約情報の編集処理動作を説明する。図3は、その作成手順と処理内容を示すフローチャートである。
【0033】
この実施形態の要約アルゴリズムは、ユーザが注目するイベントを含むシーンをイベントごとに求めた重要度の高い順に取捨選択するものである。ただし、メタデータにより各イベントには1つ以上のキーワードが付加されているものとする。またイベントを含むシーンの始点と終点は、メタデータにイベントの始点及び終点の時刻が記述されている場合にはそれを使用し、発生時刻のみが記述されている場合には後述する自動分割処理を用いて始点及び終点を求め、この求められた始点及び終点を使用する。
【0034】
ステップS11ではイベントごとの重要度が算出される。重要度算出処理の一例としては、抽出条件のキーワードとメタデータのキーワードとを比較して、イベントの重要度を求めるものがある。例えば、イベントの重要度をwとし、抽出条件のキーワードの総数をNとすると、そのイベントの重要度は次式により求めることができる。
【0035】
【数1】
【0036】
ただし、akはk番目のキーワードの重み係数、T(t)は時間に依存する関数で、例えばT(t)=btとする。これらの係数の数値はプロファイルに要約アルゴリズムのパラメータとして記述しておいてもよい。例えば、サッカーの試合でゴールシーンをシュートシーンより優先する場合はゴールシーンの方が大きな重み係数akを用いる。また、試合の後半のゴールシーンほど、重要なシーンとして扱う場合はbに適当な値を設定し、重要度wが試合が進むにつれて大きくなるようにする。なお、時間によって重要度を変化させない場合は上記時間の重み係数bは省略する。
【0037】
ステップS12では、上記ステップS11で算出された重要度に基づき、最も重要度の大きいイベントを含むシーンを選択してシーンリストに登録する処理が行われる。
【0038】
ステップS13では、上記ステップS12により選択されシーンリストに登録されているシーンの合計時間が、要約の編集条件として入力された時間長のしきい値を上回っていないかどうかが判定される。そして、上回っている場合にはそのまま処理を終了する。これに対し上回っていない場合にはステップS12に戻り、選択されていないシーンのうち最も重要度が高いイベントのシーンを選択してシーンリストに追加するという処理が、シーンの合計時間がしきい値を上回るまで繰り返し行われる。
【0039】
以上の説明では、要約情報の時間長について上限のみを指定したが、下限も指定するようにしてもよい。このようにすると、要約情報のシーンの合計時間が上記下限と上限により指定される範囲内に収まるようにすることができる。また、要約の編集条件としては必ずしも時間を用いる必要はない。例えば、時間の代わりにシーンの総数を用いてもよいし、AND検索やOR検索を利用してもよい。このAND検索やOR検索を利用する抽出処理では、イベントの抽出条件として与えられた全てのキーワードを含むシーンを選択する処理(AND検索)や、最低限1つのキーワードを含むシーンを選択する処理(OR検索)が行われる。
【0040】
ところで、上記したようにイベントの取捨選択を用いて要約情報を作成すると、各イベントのシーンの長さによっては、要約情報の合計時間が編集条件で指定される時間範囲に収まらなくなる場合がある。このような場合には、シーンの切り詰め処理を行うことで、要約情報の合計時間を指定された時間範囲に納めることができる。
【0041】
図4は、このシーンの切り詰め処理を説明するためのフローチャートである。同図において、先ずステップS21では要約情報に含めたいイベントのシーンが選択される。このイベントシーンの選択方法には、図3の説明で述べたAND検索やOR検索など、時間を用いないイベント抽出処理を用いてもよいし、コンテンツ情報中の全イベントのシーンを選択しても構わない。
【0042】
ステップS22では、選択されたイベントシーンの合計時間が編集条件により指定される時間範囲に収まっているかが判定され、収まっている場合は処理が終了する。収まっていない場合にはステップS23へ進む。ステップS23ではシーンの切り詰め処理が行われる。このシーンの切り詰め処理は、ステップS22で要約情報の合計時間が編集条件により指定される時間範囲に収まることが確認されるまで繰り返し行われる。
【0043】
図5は、シーンの切り詰め処理の第1の例を説明するための図である。この切り詰め処理は各シーンの両端をそれぞれ切り詰める。切り詰める時間は、各シーンとも均等の時間となるように設定してもよいし、各シーンの長さに対して比率が一定(例えば10%ずつ)としてもよい。また、シーンごとに自由に決めてもよい。さらに、シーンの両端を切り詰めずに始端あるいは終端のいずれか一方のみを切り詰めてもよい。また、シーンの両端に限らず、最終的にシーンの合計時間が要約条件に合致すれば中間部分などを切り詰めてもよい。
【0044】
図6は、シーンの切り詰め処理の第2の例を説明する図である。先ずコンテンツ情報の各イベントのシーンは複数の区間に分割され、これらの区間ごとに付加的な属性情報を設定してこれをメタデータに含めておく。このときの属性情報としては、例えばキーワードや重要であることを示すフラグが用いられる。キーワードを用いる場合には、シーンごとの重要度を求めたときと同様に区間ごとに重要度を求め、この重要度により決まる選択優先順位に従い優先順位の低い区間を捨てることによって切り詰めを行う。
【0045】
フラグを用いる場合には、図6のようにシーンの部分区間ごとに重要であるかないかのフラグを付与し、重要でない区間から選択して切り詰める。図6の例では、区間202の重要度が最も高く区間201の区間の重要度が最も低いので、区間201が最初に切り詰められ、次に区間203が切り詰められる
図7は、シーンの切り詰め処理の第3の例を説明する図である。この例ではメタデータにカメラの動きを表す情報が記述されていることが前提となる。カメラワークには撮影テクニックとしてある程度決まった動きがある。例えば、ズームやパンなどで対象物に近づき、その後カメラの動きがない状態で対象物を撮影する。
【0046】
したがって、このようなカメラの動きに着目し、カメラの動きがなく安定して被写体が撮影されている区間を優先的に選択して、区間の切り詰めを行う。図7の場合、区間301で対象物が画面内に収まるようにパンし、その後区間302ではカメラが静止しているとすると、この静止区間302のシーンが切り詰められる。
【0047】
その他、音声データの有無やその音量を示すメタデータが存在する場合には、シーンの切り詰めを行うときの分割境界を例えば図8のように音声のない部分とするとよい。このようにすると、音声を途切れさせることなくシーンを切り詰めることができる。
【0048】
なお、図3及び図4に示したフローチャートでは、イベントの区間がイベント発生時刻の始点及び終点時刻により定義され、これがメタデータに記述されているものとして説明した。しかし、メタデータとして記述するイベントの時刻情報は、区間を表す情報である必要はなく、イベントが発生した瞬間の時刻のみを記述する場合もある。
【0049】
例えば、コンテンツ情報がサッカーの試合の映像データである場合、そのメタデータにはシュートを打った瞬間の時刻を記述してもよい。このような場合、前述の要約アルゴリズムを用いるには、そのイベントに対応するシーンの始点及び終点の時刻を先に求める必要がある。
【0050】
イベントの発生時刻からシーンの始点及び終点の位置を求める手法の一例としては、イベントの種類ごとに発生時刻に対する始点と終点の位置を定める手法がある。例えば、図9に示すようにイベント発生時刻として時刻tがメタデータに記述されている場合、t−tAを始点とすると共にt+tBを終点として区間401をシーンとする。ここで、tA及びtBはイベントの種類ごとに用意されるパラメータであり、イベントごとに違う値を用いてもよいし、共通の値を用いてもよい。また、システムが定めた値を用いてもよいし、要約の編集条件やプロファイルに記憶された要約パラメータの一部として、ユーザが任意に設定してもよい。
【0051】
また、イベントの発生時刻からシーンを求める別の手法としてはカット検出結果やカメラワークの検出結果を用いる自動分割手法がある。カット検出手法とは、カットと呼ばれるカメラブレークや編集などによって生じる映像データの不連続な部分を検出して、映像データをシーンに分割する処理である。このカット検出処理は、要約作成時に行ってもよいが、カット検出結果がメタデータに存在する場合にはこのデータを用いた方が効率がよい。いずれの場合も、カット検出により得られたシーンとイベントとを対応付ける必要がある。例えば、イベントの発生時刻を含むシーンをイベントのシーンとして対応付ける。
【0052】
図10は、カメラワークの検出結果を用いて、イベントの発生したシーンを求める処理の手順と内容を示すフローチャートである。この処理では、カメラワークをもとに映像データをシーン分割してイベントと対応付ける。カメラワークのパラメータは予め得られているものとし、ここではその取得方法の詳細は述べない。
【0053】
ステップS31では、前後のカメラワークのパラメータが比較され、その類似度が求められる。パラメータとは、パンやズームの方向やその変化の大きさなどである。類似度はパンであるかズームであるか、また同じ場合にはその方向や大きさを比較することにより求められる。
【0054】
ステップS32では、上記ステップS31で求められた類似度が予め定めたしきい値以下となり、かつ最も小さくなる位置が選択される。そして、この選択された位置において映像データがシーン分割される。ここでシーンとは、同じようなカメラワークが連続するフレームの集合である。例えば、サッカーの試合であれば、相手ゴールへの攻撃をカメラをパンさせながら連続的に追跡するシーンなどが挙げられる。
【0055】
ステップS33では、ステップS32により分割されたシーンの中からイベントの発生時刻を含むシーンを検索し、その結果をイベントのシーンとして対応付ける処理が行われる。
【0056】
図21は、以上のようにして作成されたイベント要約情報を表示部108に表示する場合の表示画面の一例を示すものである。この表示画面は、要約映像表示部901と、時刻表示部902と、イベント情報表示部903とから構成される。
【0057】
要約映像表示部901では、要約結果の区間情報に従い元映像の該当シーンが連続して表示される。その際、シーンを連続的に表示するだけでは、スポーツ中継などにおいては試合の流れが分かり難い。そこで、要約映像と合わせてイベントの発生時刻や内容がそれぞれイベント情報表示部903及び時刻表示部902に表示される。このようにすることにより、要約情報の流れをユーザが把握しやすくする。
【0058】
なお、図21では時刻表示部902及びイベント情報表示部903を要約表示部901とは別の領域に表示する場合を示したが、これは一例である。時刻表示部902及びイベント情報表示部903の表示領域は表示画面上のどの部分にあってもよく、例えば図22に示すように1つの領域に時刻とイベント情報の両方を表示したり、テキストのみを要約映像にオーバーレイ表示するようにしてもよい。また、時刻情報は常に表示しておいてもよいし、イベントの発生時のみ表示するようにしてもよい。さらに、イベント情報をテキストにより表示せずに、音声合成技術を使用して音声ナレーションにより表示するようにしてもよい。
【0059】
以上述べたように第1の実施形態では、映像情報データベース101に格納されたコンテンツ情報に含まれる複数のイベントの各々について、映像属性データベース102に記憶された属性情報と、条件入力部104により予め入力されるか又はプロファイルデータベース103に既に記憶されているキーワード等の抽出条件とをもとに、重要度算出部105により重要度を算出する。そして、この算出された重要度が高い順に区間選択部106でイベントのシーンを選択し、これらのシーンを部分映像情報作成部107によりつなぎ合わせることで要約情報を作成するようにしている。また、その際に要約情報の合計時間が編集条件により指定された時間範囲に収まらない場合には、シーンの切り詰め処理を行うことで要約情報の時間長を調節するようにしている。
【0060】
したがって第1の実施形態によれば、イベントの抽出及び要約情報の作成にイベントの重要度を反映させることができ、これにより重要度の高いイベントのシーンが希望する時間長に編集された要約情報をユーザに対し提供することが可能となる。
【0061】
また、コンテンツ制作者側或いは提供側にとっては、同一のコンテンツ情報につき、ユーザの視聴環境に応じて複数のバリエーションを作成する必要がなくなるので、コンテンツ情報の制作或いは管理コストを大幅に圧縮することが可能となる。
【0062】
(第2の実施形態)
前記第1の実施形態で述べた要約作成アルゴリズムは、イベントごとに重要度を求めてその結果をもとにイベントのシーンを取捨選択することにより要約情報を作成するものだったのに対し、この発明の第2の実施形態は、イベントごとの重要度曲線を求めたのちこれらを合成することでコンテンツ情報全体にわたる重要度の変化特性を求める。そして、このコンテンツ情報全体にわたる重要度の変化特性をもとに、抽出すべき区間を決定して要約情報を作成するようにしたものである。
【0063】
図11は、この発明の第2の実施形態に係わる要約作成アルゴリズムを使用した要約編集処理の手順と内容を示すフローチャートである。
先ずこのフローチャートの概要を述べる。ステップS41ではイベントの重要度を算出する。ステップS42ではイベントの重要度と重要度関数からイベント重要度曲線を算出する。ステップS43ではイベント重要度曲線と時間重要度曲線を加算し、コンテンツ全体の重要度曲線を算出する。ステップS44では重要度曲線から、要約作成条件の時間に対応する重要度の閾値を算出する。ステップS45ではしきい値に従い、要約映像に含める区間を選択する。
【0064】
以下、各ステップでの処理を詳細に説明する。ステップS41におけるイベントの重要度の算出処理は、第1の実施形態で説明した処理がそのまま使用される。すなわち、コンテンツ情報に含まれる各イベントの重要度が、その属性情報と、抽出条件として入力されたキーワードやユーザの好みとして予め登録されているプロファイル情報に基づいて算出される。例えば、重要度をwとし、キーワードの総数をNとすると、次式により重要度wが求められる。
【0065】
【数2】
【0066】
ただし、akはk番目のキーワードの重み係数である。また、入力された重要度をwk、プロファイルとして記憶された重要度をwpと区別しておく。ただし、この区別は必須ではない。
【0067】
ステップS42では、イベントの重要度と重要度関数とからイベント重要度曲線を算出する。重要度関数とは、イベント区間の時間による重要度の変化を表す関数である。関数の式はイベントごとに自由に決めることができる。
【0068】
図12はイベントの重要度関数を説明するための図である。重要度関数は、図12(a)の501に示すように曲線的な関数であってもよいし、図12(c)の502に示すように線形な関数の組み合わせであってもよい。また、図12(e),(f)に示すような階段状に変化する関数であってもよい。関数の重要度方向の高さはイベント発生時に重要度が最大となるようにしてもよいし、イベント発生時以外のタイミングで最大となるように設定してもよい。また、最大値を所定値に統一(例えば1)してもよいし、イベントごとに異ならせてもよい。要するに重要度関数は、イベントごとに予め任意に設定することができる。
【0069】
次にステップS43において、コンテンツ情報に含まれるイベントごとに、当該イベントに対応する重要度関数を上記ステップS41により算出された重要度に基づいて変化させ、これによりイベント重要度曲線を求める。一例としては、イベントごとにその重要度関数にイベントの重要度を乗ずる。i番目のイベントの重要度関数式をfi(t)とすると、イベントの重要度曲線は
Ei(t)=(wik+wip+ei)fi(t)
と表される。
【0070】
ただし、wikおよびwipはそれぞれi番目のイベントの重要度を示す、またeiは補正項を示している。補正項eiは、キーワードのマッチング以外の要因で重要度を変化させたいときに用いる。例えば、スポーツの試合における逆転の場面など、試合展開上で重要なイベントや連続でヒットを打つなど、活躍した選手の重要度を他のイベントより高くしたいときに用いる。
【0071】
上記式によれば、図12(a)に示したイベント重要度関数501は図12(b)の503に示すように、また図12(c)に示したイベント重要度関数502は図12(d)の505に示すように、それぞれ縦(重要度)方向に変化した曲線となる。
【0072】
なお、この例では、イベントの重要度関数にイベントの重要度を乗算することによりイベントの重要度曲線Ei(t)を求めたが、fi(t)の他の係数を変化させ、裾の広がりなど、時間方向の形状を変化させてもよい。
【0073】
次にステップS43では、例えば図13(a)に示す各イベントの重要度曲線601,601,…と、別途設定した時間重要度曲線602とが加算される。この結果、図13(b)に示すように、コンテンツ情報の全時間領域にわたる重要度の変化を表す重要度曲線603が算出される。
【0074】
ここで、時間重要度曲線とは、イベントと関係なくコンテンツ全体における重要度の時間変化を示す。例えば、スポーツの試合の後半を前半よりも重要であると考え、後半の映像データをより多く要約に含める場合には、時間経過に従って重要度が増す関数を用いる。時間重要度曲線の式をT(t)とすると、コンテンツ全体の重要度曲線ER(t)は
【数3】
【0075】
となる。すなわち、コンテンツ全体の重要度曲線ER(t)は、イベントの重要度と時間による重要度との合計となる。
【0076】
また、コンテンツ全体の重要度曲線を求める際に、各イベントの重要度曲線Ei(t)を単に加算するのではなく、時間tにおけるEi(t)の最大値Max(Ei(t))を用いて、
ER(t)=Max(Ei(t))+T(t)
としてもよい。このようにするとコンテンツ全体の重要度曲線は、図14(b)の701に示すようになり、イベントが重なる部分で重要度が高くなり過ぎる現象を抑制することが可能となる。
【0077】
続いてステップS44では、ステップS43により求められたコンテンツ全体の重要度曲線ER(t)から、要約の編集条件として予め指定された要約情報の時間に対応する重要度のしきい値を算出する処理が行われる。なお、要約の編集条件として重要度のしきい値を直接指定する方法もある。しかしながら、一般的には編集条件として要約情報の時間を指定する方が都合がよい。このため、上記したように編集条件として指定された要約情報の時間に対応した重要度のしきい値を算出することは、非常に有効である。
【0078】
図15は、上記重要度のしきい値を算出するための処理を説明するための図である。先ず重要度曲線を時間軸方向に投影し、重要度のしきい値と要約時間との関係を求める。例えば、図14(b)に示したコンテンツ全体の重要度曲線701を投影すると、このときの重要度のしきい値と要約時間との関係は図15に示すようになる。この分布は重要度の増加に対して単調減少となるので、容易に所望の要約時間に対応する重要度のしきい値を見つけることができる。重要度のしきい値を探索する最も簡単な方法の一つは、重要度の最大値から、序々にしきい値を下げ、所望の要約時間となるしきい値を探索する方法である。
【0079】
最後にステップS45では、ステップS44で求めた重要度のしきい値を用いて、重要度曲線がしきい値を超える区間を要約に含める区間として選択する処理が行われる。図16は、上記図14(b)に示したコンテンツ全体の重要度曲線701において、重要度のしきい値を変えたときに選択される区間の例を示している。
【0080】
このとき、図12(a)に示すイベント重要度関数501のように裾の広がりが大きな関数を用いると、選択区間が実際のイベントの発生区間を大きく越えてしまう場合がある。また、選択区間が短くなりすぎる場合も考えられる。このような場合、図12(c)に示すイベント重要度関数502のように、最小選択区間505と最大選択区間506を持つ関数を用いれば、要約として選択される最小区間と最大区間を制御することができる。
【0081】
なお、以上述べた要約作成アルゴリズムは、個々のコンテンツ情報について要約情報を作成するものだったが、複数のコンテンツ情報から一つの要約情報を作成することも可能である。
【0082】
例えば、図3あるいは図4に示すアルゴリズムを用いて要約情報を作成する場合には、各コンテンツ情報の各々についてイベントごとの重要度を算出し、各コンテンツの中で最も重要度の高いイベントのシーンから順次選択する。そして、この選択されたシーンを含む区間を、該当するコンテンツ情報から抽出して要約情報を構成する。
【0083】
また、図11に示したアルゴリズムにより要約情報を作成する場合には、まず各コンテンツの各々について重要度曲線を求める。そして、各コンテンツから選択される区間の合計時間が編集条件として指定された時間と合致する共通のしきい値を算出する。次に、各コンテンツにおいて、重要度曲線がしきい値を超える区間を要約情報に含める区間として選択する。
【0084】
さらに、図11に示したアルゴリズムにより求めたコンテンツごとの重要度曲線から各コンテンツの重要度を算出することにより、複数のコンテンツの中からユーザが最も希望するコンテンツを判定することもできる。
【0085】
例えば、
【数4】
【0086】
なる式を用いてコンテンツごとに重要度曲線を積分して面積を求め、この面積EVをそのコンテンツ自身の重要度とする。EVが大きいほど、ユーザにとってお勧めのコンテンツであると考えることができるので、コンテンツ間でEVの大小を比較し、ユーザの所望するコンテンツを決定する。すなわち、コンテンツごとの重要度曲線から、ユーザに対するコンテンツの推奨度を判定することが可能である。
【0087】
(第3の実施形態)
前記第1の実施形態では、コンテンツ情報から重要度の高いイベントのシーンを抽出して要約情報を作成する場合について述べた。これに対しこの発明の第3の実施形態は、オブジェクトの時空間情報を使用することにより、コンテンツ情報から重要度の高い注目オブジェクトを抽出して要約情報を作成する。
【0088】
オブジェクトの時空間情報とは、映像の各フレームにおけるオブジェクトの位置や形状あるいはその概形の特徴点を時間軸方向に連続的に記述した情報である。このオブジェクトの時空間情報は、必ずしもオブジェクトが存在する全フレームについて記述する必要はなく、間隔をあけて記述してその間を曲線や直線で近似するようにしてもよい。オブジェクトの時空間情報の記述には、例えば、MPEG−7で定義されているSpatio Temporal Locatorを用いる。
【0089】
オブジェクトを中心にした要約情報を作成するには、個々のオブジェクトが関連するイベントと対応付けられている必要がある。対応付け方法の一例としては、オブジェクトにIDを付与してイベントに対応するオブジェクトIDを記述する方法や、オブジェクトの情報に関連情報としてキーワードなどのイベント情報を合わせて記述する方法などがある。
【0090】
図17は、オブジェクトを取捨選択することによって要約を作成する処理の手順と内容を示すフローチャートである。この処理では、映像データ中のオブジェクトごとに重要度を求めてこの重要度をもとに優先順位を決め、優先順位の高いオブジェクトの出現シーンから順に選択する。
【0091】
すなわち、先ずステップS51ではオブジェクトごとの重要度が算出される。重要度の算出方法の一例としては、図3の説明で述べたようにイベントの重要度を求め、このイベントごとの重要度をそのまま対応するオブジェクトの重要度とする方法や、オブジェクト情報に含められたキーワードと予め抽出条件として入力されたキーワード或いはプロファイルとして記憶されたキーワードとのマッチングにより求める方法がある。
【0092】
次にステップS52では、算出された重要度をもとに重要度が最も大きいオブジェクトを要約情報に含めるべきオブジェクトとして選択し、その出現シーンをシーンリストに追加する処理が行われる。
【0093】
続いてステップS53では、上記シーンリストに登録されたオブジェクトの出現シーンの合計時間が、要約の編集条件として入力された時間しきい値を上回っていないかどうかが調べられる。そして、オブジェクトの出現シーンの合計時間が時間しきい値を上回っている場合には処理を終了する。
【0094】
ただし、例えば図18に示すように1画面に複数のオブジェクトが表示される場合もあり、しかもそれぞれのオブジェクトの出現から消失までの時間が異なっている場合もある。図19は、このように出現時間の異なる複数のオブジェクトが1画面上に存在する場合の区間の合計時間の求め方を説明するための図である。同図に示すように、オブジェクトAの出現区間801とオブジェクトBの出現区間802の和の区間803が合計時間の計算に用いられる。
【0095】
一方、オブジェクトの出現シーンの合計時間が時間しきい値を上回っていない場合には、ステップS52に戻る。ステップS52では、まだ選択されていないオブジェクトのうちから最も重要度が高いオブジェクトを選択して、シーンリストに追加する処理が行われる。このステップS52の処理は、オブジェクトの出現シーンの合計時間が時間しきい値を上回るまで繰り返し行われる。
【0096】
以上の説明では、要約情報の時間しきい値の上限を選択オブジェクトの出現シーンの合計時間としたが、必ずしも時間を用いる必要はない。例えば時間の代わりにシーンの総数を用いてもよいし、AND検索やOR検索を利用してもよい。このAND検索やOR検索を利用する抽出処理では、オブジェクトの抽出条件として与えられた全てのキーワードを含むシーンを選択する処理(AND検索)や、最低限1つのキーワードを含むシーンを選択する処理(OR検索)が行われる。
【0097】
ところで、上記したようにオブジェクトの取捨選択を用いて要約情報を作成すると、各オブジェクトのシーンの長さによっては、要約情報の合計時間が編集条件で指定される時間範囲に収まらなくなる場合がある。このような場合には、シーンの切り詰め処理を行うことで、要約情報の合計時間を指定された時間範囲に納めることができる。
【0098】
図20は、このオブジェクトが出現するシーンの切り詰め処理を説明するためのフローチャートである。同図において、先ずステップS61では要約情報に含めたいオブジェクトを選択する。このオブジェクトシーンの選択方法には、先に述べたAND検索やOR検索など、時間を用いないオブジェクト抽出処理を用いてもよいし、コンテンツ情報中の全オブジェクトのシーンを選択しても構わない。
【0099】
ステップS62では、選択されたオブジェクトの出現シーンの合計時間が、要約の編集条件により指定される時間範囲内に収まっているか否かが判定され、収まっている場合には処理が終了する。なお、上記合計時間の計算も、複数のオブジェクトが1画面上に存在する場合にはその和の区間が使用される。
【0100】
一方、オブジェクトの出現シーンの合計時間が編集条件により指定された時間範囲内に収まっていない場合には、ステップS63へ進む。ステップS63では、オブジェクトシーンの切り詰め処理が行われる。このシーンの切り詰め処理は、ステップS62で要約情報の合計時間が編集条件により指定される時間範囲に収まることが確認されるまで繰り返し行われる。
【0101】
図23は、オブジェクト情報を持ったコンテンツを要約表示する画面の一例を示すものである。元映像1001に含まれるオブジェクトの領域1002は、重要度に応じて切り出されて、要約映像1003として表示される。切り出し処理は、図1に示した端末装置TM1では部分映像作成部107の処理の1つとして実施される。
【0102】
なお、オブジェクト情報を持ったコンテンツの要約を表示する際に、画面全体を表示する方法もあるが、画面サイズや通信速度に制限がある環境(携帯端末など)で視聴するときには、オブジェクト近辺のみを表示する方がよい場合がある。例えば、図23に示す要約映像1003のように、オブジェクトの領域のみを表示することによって、携帯端末などの小さな画面上でも注目する部分を詳細に表示することができる。また、送信された要約映像を受信して表示する際に、画面全体を送受信する場合と比較して、少ない情報量で表示を行うことができるので、通信速度が限られているときにも有利である。
【0103】
(その他の実施形態)
第1の実施形態では、要約編集機能を実現するための各構成要素をユーザの端末装置TM1に設けた場合を例にとって説明した。しかし、要約編集機能を実現するための各構成要素をサーバ装置に設けるようにしてもよい。
【0104】
図24はその構成の一例を示すブロック図である。なお、同図において前記図1と同一機能部分については同一符号を付して詳しい説明は省略する。サーバ装置SV2には、映像情報データベース101、映像属性データベース102及びプロファイルデータベース103からなるデータベース群と、重要度算出部105、区間選択部106及び部分映像情報作成部107からなる演算処理部とが設けられている。
【0105】
これに対し端末装置TM2には、条件入力部104及び表示部108を有する入出力インタフェース部が設けられている。なお、同図においても図1と同様、サーバ装置SV2と端末装置TM2との間はネットワークNWを介して接続される。
【0106】
上記システムでは、イベント又はオブジェクトの抽出条件や要約の編集条件は端末装置TM2の条件入力部においてユーザにより入力される。そして、この入力された各条件はネットワークを介してサーバ装置SV2に通知される。サーバ装置SV2は、上記端末装置TM2から通知された諸条件をもとにイベント又はオブジェクトの抽出及び要約の作成処理を実行する。そして、作成された要約情報を、ネットワークを介して端末装置TM2に転送し、表示部108に表示させる。
【0107】
このように構成することで、端末装置TM2の処理負担を軽減することが可能となる。また、サーバ装置SV2から端末装置TM2に転送される映像データは、イベントのシーンやオブジェクト領域などからなる要約情報だけとなるため、転送データサイズが少なくなってその分通信費を安価にすることができる。すなわち、このシステム構成は、携帯端末などの高速な計算処理能力や大容量の記憶装置を持たない端末機器に適用した場合に特に効果がある。
【0108】
また、上記サーバ装置SV2に設けられたデータベース群のうち、プロファイルデータベース103のみは、図25に示すように端末装置TM3に設けるようにすることもできる。このようにすることで、ユーザはプロファイルデータを随時自由に追加変更することが可能となる。
【0109】
一方、要約編集機能を実現するための各構成要素の主体をユーザの端末装置に設け、映像属性データベースのみをサーバ装置に設けるように構成することもできる。図26はその構成を示すブロック図である。
【0110】
同図に示すように、映像情報データベース101及びプロファイルデータベース103からなるデータベース群と、条件入力部104及び表示部108からなる入出力インタフェース部と、重要度算出部105、区間選択部106及び部分映像情報作成部107からなる演算処理部は端末装置TM4に設けられる。これに対し、映像属性データベース102はサーバ装置SV4に設けられる。
【0111】
このようにシステム構成は、処理能力の高い端末装置TM4上で映像情報を管理し、属性情報をサーバ装置SV4からダウンロードして要約を作成する処理に適している。例えば、テレビチューナ機能を持つパーソナル・コンピュータでテレビジョン番組を録画し、イベントやオブジェクトなどの属性情報をサーバ装置SV4からダウンロードして要約情報を作成してと表示する。
【0112】
さらに、コンテンツ情報の構成は映像データのみやオーディオデータのみからなるものであってもよく、その他サーバ装置及び端末装置の種類や構成、要約編集アルゴリズムの処理手順や処理内容等についても、この発明の要旨を逸脱しない範囲で種々変形して実施できることは勿論である。
【0113】
【発明の効果】
以上詳述したようにこの発明によれば、コンテンツ情報に含まれるイベントやオブジェクト等の事象ごとの重要度を算出して、この算出された重要度に応じて事象を抽出すると共に、必要に応じて上記重要度と予め設定された編集条件とをもとに要約情報を作成するようにしたので、コンテンツ情報から注目する事象を抽出する際に事象ごとの重要度を考慮して最適な形態で抽出することができるコンテンツ情報編集装置とその編集プログラムを提供することができる。
【図面の簡単な説明】
【図1】この発明の第1の実施形態に係わるコンテンツ情報編集機能を備えた端末装置の機能構成を示すブロック図。
【図2】イベントに対し付加される属性情報の一例を示す図。
【図3】図1に示した端末装置による取捨選択アルゴリズムを使用した要約情報の編集処理手順とその内容を示すフローチャート。
【図4】図1に示した端末装置によるシーン切り詰めアルゴリズムを使用した要約情報の編集処理手順とその内容を示すフローチャート。
【図5】シーンの切り詰め処理の一例を説明するための図。
【図6】シーンの切り詰め処理の他の例を説明するための図。
【図7】シーンの切り詰め処理の別の例を説明するための図。
【図8】シーンの分割点を決定する処理の一例を説明するための図。
【図9】イベントに対応する区間の決定処理の一例を説明するための図。
【図10】カメラワークの検出結果を用いて、イベントの発生したシーンを求める処理の手順と処理内容を示すフローチャート。
【図11】この発明の第2の実施形態に係わる要約作成アルゴリズムを使用した要約編集処理の手順と内容を示すフローチャート。
【図12】重要度関数の一例と重要度曲線の一例を説明するための図。
【図13】コンテンツ情報の全時間領域にわたる重要度曲線を算出する処理の一例を説明するための図。
【図14】コンテンツ情報の全時間領域にわたる重要度曲線を算出する処理の他の例を説明するための図。
【図15】要約時間と重要度しきい値との関係を示す図。
【図16】異なる重要度しきい値による要約情報の作成処理を説明するための図。
【図17】オブジェクトを取捨選択することによって要約を作成する処理の手順と内容を示すフローチャート。
【図18】1画面に複数のオブジェクトが表示された場合を示す図。
【図19】出現時間の異なる複数のオブジェクトが1画面上に存在する場合の区間の合計時間の求め方を説明するための図。
【図20】オブジェクトが出現するシーンの切り詰め処理を説明するためのフローチャート。
【図21】イベント要約情報を表示部に表示する場合の表示画面の一例を示す図。
【図22】イベント要約情報を表示部に表示する場合の表示画面の他の例を示す図。
【図23】オブジェクト情報を持ったコンテンツを要約表示する画面の一例を示す図。
【図24】この発明に係わるコンテンツ情報編集装置の他の実施形態を説明するためのサーバ装置と端末装置の機能構成を示すブロック図。
【図25】この発明に係わるコンテンツ情報編集装置の別の実施形態を説明するためのサーバ装置と端末装置の機能構成を示すブロック図。
【図26】この発明に係わるコンテンツ情報編集装置のさらに別の実施形態を説明するためのサーバ装置と端末装置の機能構成を示すブロック図。
【符号の説明】
SV1,SV2,SV3,SV4…サーバ装置
TM1,TM2,TM3,TM4…端末装置
NW…ネットワーク
100…通信インタフェース
101…映像情報データベース
102…映像属性データベース
103…プロファイルデータベース
104…条件入力部
105…重要度算出部
106…区間選択部
107…部分映像情報作成部
108…表示部
Claims (18)
- 複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を取り込むコンテンツ入力手段と、
ユーザが注目する事象に関する抽出条件を設定する条件設定手段と、
前記コンテンツ入力手段により取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と前記条件設定手段により設定された抽出条件とをもとに求める演算手段と、
前記演算手段により求められた事象ごとの重要度をもとに、前記コンテンツ情報から前記ユーザが注目する事象を含む部分情報を抽出する抽出手段とを具備したことを特徴とするコンテンツ情報編集装置。 - 複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を取り込むコンテンツ入力手段と、
ユーザが注目する事象に関する抽出条件を設定する第1の条件設定手段と、
ユーザが作成を希望する要約情報の編集条件を設定する第2の条件設定手段と、
前記コンテンツ入力手段により取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と前記第1の条件設定手段により設定された抽出条件とをもとに求める演算手段と、
前記演算手段により求められた事象ごとの重要度と、前記第2の条件設定手段により設定された編集条件とに基づいて、前記コンテンツ情報から前記ユーザが注目する事象を含む部分情報を抽出して、この抽出された部分情報をもとに要約情報を作成する要約作成手段とを具備したことを特徴とするコンテンツ情報編集装置。 - 前記第1の条件設定手段は、ユーザが希望する抽出条件を入力するための入力手段と、この入力手段により入力された抽出条件をプロファイル情報として記憶するプロファイル記憶手段とを備え、
前記演算手段は、前記コンテンツ入力手段により取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と、前記入力手段により新たに入力された抽出条件及び前記プロファイル記憶手段に記憶された過去の抽出条件の少なくとも一方とをもとに求めることを特徴とする請求項1又は2記載のコンテンツ情報編集装置。 - 前記第2の条件設定手段は、ユーザが希望する編集条件を入力するための入力手段と、この入力手段により入力された編集条件をプロファイル情報として記憶するプロファイル記憶手段とを備え、
前記要約作成手段は、前記演算手段により求められた事象ごとの重要度と、前記入力手段により新たに入力された編集条件及び前記プロファイル記憶手段に記憶された過去の編集条件の少なくとも一方とをもとに、前記コンテンツ情報から前記ユーザが注目する事象を含む部分情報を抽出することを特徴とする請求項2記載のコンテンツ情報編集装置。 - 前記第1の条件設定手段は、ユーザが注目する事象に対応するキーワードと、個々のキーワードの重要度を表す第1の重み係数と、前記重要度の時間変化を表す第2の重み係数とを抽出条件として設定し、
前記演算手段は、前記コンテンツ入力手段により取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と、前記キーワードと、前記第1及び第2の重み係数とをもとに求めることを特徴とする請求項1又は2記載のコンテンツ情報編集装置。 - 前記第2の条件設定手段は、要約情報に含める事象の数又は要約情報の時間長を指定する編集しきい値を編集条件として設定し、
前記要約作成手段は、前記演算手段により求められた事象ごとの重要度をもとに各事象に選択優先順位を設定し、この設定された選択優先順位と前記編集しきい値とに基づいて、指定された個数又は指定された時間長相当数の事象を前記選択優先順位に従い選択し、この選択された事象を含む部分情報をもとに要約情報を作成することを特徴とする請求項2記載のコンテンツ情報編集装置。 - 前記要約作成手段は、作成された要約情報の時間長を予め指定されたしきい値と比較する比較手段と、この比較手段により、前記作成された要約情報の時間長が指定されたしきい値の範囲内に含まれないと判定された場合に、前記作成された要約情報に含まれる各事象の部分情報の長さを調節する調節手段とを、さらに備えることを特徴とする請求項2記載のコンテンツ情報編集装置。
- 前記コンテンツ情報に含まれる事象のうち、重要度に応じて抽出する事象はイベントであることを特徴とする請求項1乃至7のいずれかに記載のコンテンツ情報編集装置。
- 前記コンテンツ情報に含まれる事象のうち、重要度に応じて抽出する事象はオブジェクトであることを特徴とする請求項1乃至7のいずれかに記載のコンテンツ情報編集装置。
- 複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を取り込むコンテンツ入力手段と、
ユーザが注目する事象に関する抽出条件を設定する条件設定手段と、
事象を含む所定区間における重要度の時間変化を表す重要度関数を設定する重要度関数設定手段と、
前記コンテンツ入力手段により取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と、前記条件設定手段により設定された抽出条件とをもとに求める第1の演算手段と、
前記コンテンツ情報に含まれる事象ごとに、前記第1の演算手段により求められた重要度と、前記重要度関数設定手段により設定された重要度関数とをもとに、当該事象の重要度曲線を求める第2の演算手段と、
この第2の演算手段により求められた事象ごとの重要度曲線を、前記コンテンツ情報の視聴対象領域にわたって合成する第3の演算手段と、
前記第3の演算手段により合成された重要度曲線をもとに、前記コンテンツ情報から前記事象を含む部分情報を抽出する事象抽出手段とを具備したことを特徴とするコンテンツ情報編集装置。 - 複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を取り込むコンテンツ入力手段と、
ユーザが注目する事象に関する抽出条件を設定する第1の条件設定手段と、
ユーザが作成を希望する要約情報の編集条件を設定する第2の条件設定手段と、
事象を含む所定区間における重要度の時間変化を表す重要度関数を設定する重要度関数設定手段と、
前記コンテンツ入力手段により取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と、前記第1の条件設定手段により設定された抽出条件とをもとに求める第1の演算手段と、
前記コンテンツ情報に含まれる事象ごとに、前記第1の演算手段により求められた重要度と、前記重要度関数設定手段により設定された重要度関数とをもとに、当該事象の重要度曲線を求める第2の演算手段と、
この第2の演算手段により求められた事象ごとの重要度曲線を、前記コンテンツ情報の視聴対象領域にわたって合成する第3の演算手段と、
前記第3の演算手段により合成された重要度曲線と、前記第2の条件設定手段により設定された編集条件とに基づいて、前記コンテンツ情報から前記事象を含む部分情報を抽出する事象抽出手段と、
この事象抽出手段により抽出された部分情報を合成して要約情報を作成する要約作成手段とを具備したことを特徴とするコンテンツ情報編集装置。 - 前記コンテンツ情報の視聴対象領域における重要度の時間変化を表す時間重要度曲線を設定する手段をさらに具備し、
前記第3の演算手段は、前記第2の演算手段により求められた事象ごとの重要度曲線と前記設定された時間重要度曲線とを、前記コンテンツ情報の視聴対象領域にわたって合成することを特徴とする請求項10又は11記載のコンテンツ情報編集装置。 - 前記第2の条件設定手段は、要約情報の時間長を指定する情報を取り込んで、この取り込まれた時間長をもとに重要度のしきい値を算出する機能を有し、
前記事象抽出手段は、前記第3の演算手段により合成された重要度曲線を、前記第2の条件設定手段により算出された重要度のしきい値と比較することにより、前記コンテンツ情報から前記事象を含む部分情報を抽出することを特徴とする請求項11記載のコンテンツ情報編集装置。 - 前記第3の演算手段により合成された重要度曲線をもとに当該コンテンツ情報の推奨度を判定し、この推奨度の判定結果をユーザに報知する手段を、さらに具備することを特徴とする請求項10又は11記載のコンテンツ情報編集装置。
- サーバ装置とユーザの端末装置との間がネットワークを介して接続可能な通信システムの前記端末装置に設けられるコンテンツ情報編集装置であって、
複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を、前記サーバ装置からネットワークを介して受信するコンテンツ受信手段と、
ユーザが注目する事象に関する抽出条件を設定する第1の条件設定手段と、
ユーザが作成を希望する要約情報の編集条件を設定する第2の条件設定手段と、
前記コンテンツ入力手段により取り込まれたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と前記第1の条件設定手段により設定された抽出条件とをもとに求める演算手段と、
前記演算手段により求められた事象ごとの重要度と、前記第2の条件設定手段により設定された編集条件とに基づいて、前記コンテンツ情報から前記ユーザが注目する事象を含む部分情報を抽出して、この抽出された部分情報をもとに要約情報を作成する要約作成手段と、
この要約作成手段により作成された要約情報を、前記ユーザに報知するべく出力する出力手段とを具備したことを特徴とするコンテンツ情報編集装置。
を具備したことを特徴とするコンテンツ情報編集装置。 - サーバ装置とユーザの端末装置との間がネットワークを介して接続可能な通信システムの前記サーバ装置に設けられるコンテンツ情報編集装置であって、
複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を記憶するコンテンツ記憶手段と、
ユーザが注目する事象に関する抽出条件を、当該ユーザの端末装置から前記ネットワークを介して受信する抽出条件受信手段と、
ユーザが作成を希望する要約情報の編集条件を、当該ユーザの端末装置から前記ネットワークを介して受信する編集条件受信手段と、
前記コンテンツ記憶手段に記憶されたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と前記抽出条件受信手段により受信された抽出条件とをもとに求める演算手段と、
前記演算手段により求められた事象ごとの重要度と、前記編集条件受信手段により受信された編集条件とに基づいて、前記コンテンツ情報から前記ユーザが注目する事象を含む部分情報を抽出して、この抽出された部分情報をもとに要約情報を作成する要約作成手段と、
この要約作成手段により作成された要約情報を、前記ネットワークを介して前記ユーザの端末装置へ送信する送信手段とを具備したことを特徴とするコンテンツ情報編集装置。 - 複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を記憶するメモリと、ユーザとの間で情報の入出力を行う入出力部と、これらのメモリ及び入出力部に接続されるコンピュータとを備えるコンテンツ情報編集装置で使用される編集プログラムであって、
ユーザが注目する事象に関する抽出条件を、前記入出力部から取り込む処理と、
前記メモリに記憶されたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と前記入出力部から取り込んだ抽出条件とをもとに求める演算処理と、
前記演算処理により求められた関数に基づいて、前記メモリに記憶されたコンテンツ情報から前記ユーザが注目する事象を含む部分情報を抽出する処理と、
前記抽出された部分情報を前記ユーザに報知するべく前記入出力部から出力させる処理とを、
前記コンピュータに実行させる編集プログラム。 - 複数の事象を含みこれらの事象ごとに属性情報が付加されたコンテンツ情報を記憶するメモリと、ユーザとの間で情報の入出力を行う入出力部と、これらのメモリ及び入出力部に接続されるコンピュータとを備えるコンテンツ情報編集装置で使用される編集プログラムであって、
ユーザが注目する事象に関する抽出条件を、前記入出力部から取り込む処理と、
ユーザが作成を希望する要約情報の編集条件を、前記入出力部から取り込む処理と、
前記メモリに記憶されたコンテンツ情報に含まれる事象の重要度を、当該事象の属性情報と前記入出力部から取り込んだ抽出条件とをもとに求める演算処理と、
前記演算処理により求められた事象の重要度と、前記入出力部から取り込んだ編集条件とに基づいて、前記メモリに記憶されたコンテンツ情報から前記ユーザが注目する事象を含む部分情報を抽出し、この抽出された部分情報をもとに要約情報を作成する処理と、
前記作成された要約情報を前記ユーザに報知するべく前記入出力部から出力させる処理とを、
前記コンピュータに実行させる編集プログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002287861A JP2004126811A (ja) | 2002-09-30 | 2002-09-30 | コンテンツ情報編集装置とその編集プログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002287861A JP2004126811A (ja) | 2002-09-30 | 2002-09-30 | コンテンツ情報編集装置とその編集プログラム |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2004126811A true JP2004126811A (ja) | 2004-04-22 |
Family
ID=32280524
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002287861A Pending JP2004126811A (ja) | 2002-09-30 | 2002-09-30 | コンテンツ情報編集装置とその編集プログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2004126811A (ja) |
Cited By (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007049575A (ja) * | 2005-08-11 | 2007-02-22 | Nippon Hoso Kyokai <Nhk> | 送信装置、受信装置、及びコンテンツ再構成プログラム |
| JP2007200100A (ja) * | 2006-01-27 | 2007-08-09 | Dainippon Printing Co Ltd | データ管理システム |
| WO2007108458A1 (ja) * | 2006-03-23 | 2007-09-27 | Matsushita Electric Industrial Co., Ltd. | コンテンツ撮影装置 |
| JP2007288637A (ja) * | 2006-04-19 | 2007-11-01 | Sony Corp | 再生装置および方法、並びにプログラム |
| JP2008502983A (ja) * | 2004-06-17 | 2008-01-31 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 性格属性を使うパーソナル化したサマリー |
| JP2008131170A (ja) * | 2006-11-17 | 2008-06-05 | Nippon Hoso Kyokai <Nhk> | 知識メタデータ生成装置、ダイジェスト生成装置、知識メタデータ生成プログラム、及びダイジェスト生成プログラム |
| JP2009095055A (ja) * | 2008-12-26 | 2009-04-30 | Hitachi Ltd | 動画再生装置 |
| JP2011109675A (ja) * | 2010-12-13 | 2011-06-02 | Hitachi Ltd | 動画再生装置 |
| US8218945B2 (en) | 2004-12-24 | 2012-07-10 | Hitachi, Ltd. | Motion picture recording/reproducing apparatus |
| JP2015084504A (ja) * | 2013-09-19 | 2015-04-30 | パナソニックIpマネジメント株式会社 | 信号記録装置、カメラレコーダおよび信号処理装置 |
| JP2015153142A (ja) * | 2014-02-14 | 2015-08-24 | 三菱電機株式会社 | プラント監視装置 |
| KR101594238B1 (ko) | 2013-03-21 | 2016-02-15 | 가시오게산키 가부시키가이샤 | 영상 콘텐츠 생성 장치, 영상 콘텐츠 생성 방법 및 프로그램 |
| KR101624060B1 (ko) | 2011-08-04 | 2016-05-24 | 이베이 인크. | 사용자 논평 시스템 및 방법 |
| JP2017045111A (ja) * | 2015-08-24 | 2017-03-02 | 日本電信電話株式会社 | コンテンツ情報提供装置、コンテンツ表示装置、オブジェクトメタデータのデータ構造、イベントメタデータのデータ構造、コンテンツ情報提供方法、コンテンツ情報提供プログラムおよびコンテンツ情報提供システム |
| JP2018013879A (ja) * | 2016-07-19 | 2018-01-25 | Seven Dew株式会社 | ダイジェスト映像取得装置、ダイジェスト映像取得方法、およびプログラム |
| US10049701B2 (en) | 2016-03-07 | 2018-08-14 | Fuji Xerox Co., Ltd. | Video editing apparatus, video editing method, and non-transitory computer readable medium |
| JP2018206292A (ja) * | 2017-06-09 | 2018-12-27 | 日本放送協会 | 要約映像生成装置及びプログラム |
| JP2019061428A (ja) * | 2017-09-26 | 2019-04-18 | Jcc株式会社 | 映像管理方法、映像管理装置、及び映像管理システム |
| JP2019186843A (ja) * | 2018-04-16 | 2019-10-24 | 株式会社エヌエイチケイメディアテクノロジー | ダイジェスト映像生成装置およびダイジェスト映像生成プログラム |
| JP2019216364A (ja) * | 2018-06-13 | 2019-12-19 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
-
2002
- 2002-09-30 JP JP2002287861A patent/JP2004126811A/ja active Pending
Cited By (28)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008502983A (ja) * | 2004-06-17 | 2008-01-31 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 性格属性を使うパーソナル化したサマリー |
| US8218945B2 (en) | 2004-12-24 | 2012-07-10 | Hitachi, Ltd. | Motion picture recording/reproducing apparatus |
| JP2007049575A (ja) * | 2005-08-11 | 2007-02-22 | Nippon Hoso Kyokai <Nhk> | 送信装置、受信装置、及びコンテンツ再構成プログラム |
| JP2007200100A (ja) * | 2006-01-27 | 2007-08-09 | Dainippon Printing Co Ltd | データ管理システム |
| WO2007108458A1 (ja) * | 2006-03-23 | 2007-09-27 | Matsushita Electric Industrial Co., Ltd. | コンテンツ撮影装置 |
| JP4976378B2 (ja) * | 2006-03-23 | 2012-07-18 | パナソニック株式会社 | コンテンツ撮影装置 |
| JP2007288637A (ja) * | 2006-04-19 | 2007-11-01 | Sony Corp | 再生装置および方法、並びにプログラム |
| JP2008131170A (ja) * | 2006-11-17 | 2008-06-05 | Nippon Hoso Kyokai <Nhk> | 知識メタデータ生成装置、ダイジェスト生成装置、知識メタデータ生成プログラム、及びダイジェスト生成プログラム |
| JP2009095055A (ja) * | 2008-12-26 | 2009-04-30 | Hitachi Ltd | 動画再生装置 |
| JP2011109675A (ja) * | 2010-12-13 | 2011-06-02 | Hitachi Ltd | 動画再生装置 |
| US10827226B2 (en) | 2011-08-04 | 2020-11-03 | Ebay Inc. | User commentary systems and methods |
| KR101624060B1 (ko) | 2011-08-04 | 2016-05-24 | 이베이 인크. | 사용자 논평 시스템 및 방법 |
| KR101755956B1 (ko) | 2011-08-04 | 2017-07-07 | 이베이 인크. | 사용자 논평 시스템 및 방법 |
| US11765433B2 (en) | 2011-08-04 | 2023-09-19 | Ebay Inc. | User commentary systems and methods |
| US11438665B2 (en) | 2011-08-04 | 2022-09-06 | Ebay Inc. | User commentary systems and methods |
| KR101594238B1 (ko) | 2013-03-21 | 2016-02-15 | 가시오게산키 가부시키가이샤 | 영상 콘텐츠 생성 장치, 영상 콘텐츠 생성 방법 및 프로그램 |
| JP2015084504A (ja) * | 2013-09-19 | 2015-04-30 | パナソニックIpマネジメント株式会社 | 信号記録装置、カメラレコーダおよび信号処理装置 |
| JP2015153142A (ja) * | 2014-02-14 | 2015-08-24 | 三菱電機株式会社 | プラント監視装置 |
| JP2017045111A (ja) * | 2015-08-24 | 2017-03-02 | 日本電信電話株式会社 | コンテンツ情報提供装置、コンテンツ表示装置、オブジェクトメタデータのデータ構造、イベントメタデータのデータ構造、コンテンツ情報提供方法、コンテンツ情報提供プログラムおよびコンテンツ情報提供システム |
| US10049701B2 (en) | 2016-03-07 | 2018-08-14 | Fuji Xerox Co., Ltd. | Video editing apparatus, video editing method, and non-transitory computer readable medium |
| JP2018013879A (ja) * | 2016-07-19 | 2018-01-25 | Seven Dew株式会社 | ダイジェスト映像取得装置、ダイジェスト映像取得方法、およびプログラム |
| JP2018206292A (ja) * | 2017-06-09 | 2018-12-27 | 日本放送協会 | 要約映像生成装置及びプログラム |
| JP2019061428A (ja) * | 2017-09-26 | 2019-04-18 | Jcc株式会社 | 映像管理方法、映像管理装置、及び映像管理システム |
| JP7121378B2 (ja) | 2017-09-26 | 2022-08-18 | Jcc株式会社 | 映像管理方法、映像管理装置、及び映像管理システム |
| JP2019186843A (ja) * | 2018-04-16 | 2019-10-24 | 株式会社エヌエイチケイメディアテクノロジー | ダイジェスト映像生成装置およびダイジェスト映像生成プログラム |
| JP7086331B2 (ja) | 2018-04-16 | 2022-06-20 | 株式会社Nhkテクノロジーズ | ダイジェスト映像生成装置およびダイジェスト映像生成プログラム |
| JP2019216364A (ja) * | 2018-06-13 | 2019-12-19 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
| JP7166796B2 (ja) | 2018-06-13 | 2022-11-08 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2004126811A (ja) | コンテンツ情報編集装置とその編集プログラム | |
| US10555043B2 (en) | Method for content-based non-linear control of multimedia playback | |
| JP5499331B2 (ja) | ストリーミングメディアのトリックプレー | |
| JP3663362B2 (ja) | インデックス生成装置 | |
| US8121462B2 (en) | Video edition device and method | |
| US8249426B2 (en) | Method of automatically editing media recordings | |
| US8060906B2 (en) | Method and apparatus for interactively retrieving content related to previous query results | |
| EP2965532B1 (en) | Video data provision | |
| US8448068B2 (en) | Information processing apparatus, information processing method, program, and storage medium | |
| US20050055710A1 (en) | Motion picture storage apparatus and motion picture distributing system | |
| WO2003088665A1 (en) | Meta data edition device, meta data reproduction device, meta data distribution device, meta data search device, meta data reproduction condition setting device, and meta data distribution method | |
| JP2005522112A (ja) | 映像番組用の補足情報を提供するための方法及びシステム | |
| JP2010074518A (ja) | 番組推奨装置 | |
| CN101441650A (zh) | 影像输出装置、方法和系统 | |
| CN101438284A (zh) | 利用用户相关反馈更新视频概要的方法 | |
| JP4476786B2 (ja) | 検索装置 | |
| JP2005522113A (ja) | パーソナル化されたニュースを提供するための方法及びシステム | |
| JP2008086030A (ja) | ヒント情報記述方法 | |
| JP2010218385A (ja) | コンテンツ検索装置及びコンピュータプログラム | |
| JP2005167456A (ja) | Avコンテンツ興趣特徴抽出方法及びavコンテンツ興趣特徴抽出装置 | |
| JP5213797B2 (ja) | メタデータ検索装置、メタデータ検索方法、メタデータ検索プログラム、及びメタデータ検索システム | |
| JP2008136183A (ja) | ヒント情報記述方法 | |
| JP4961760B2 (ja) | コンテンツ出力装置、及びコンテンツ出力方法 | |
| JP3981313B2 (ja) | 仮想コンテンツ配信システム | |
| JP6176933B2 (ja) | カラオケ歌唱動画の視聴推薦箇所表示システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060929 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061003 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061204 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070227 |
