JP2005123726A - データ記録装置およびデータ表示装置 - Google Patents
データ記録装置およびデータ表示装置 Download PDFInfo
- Publication number
- JP2005123726A JP2005123726A JP2003353850A JP2003353850A JP2005123726A JP 2005123726 A JP2005123726 A JP 2005123726A JP 2003353850 A JP2003353850 A JP 2003353850A JP 2003353850 A JP2003353850 A JP 2003353850A JP 2005123726 A JP2005123726 A JP 2005123726A
- Authority
- JP
- Japan
- Prior art keywords
- video
- display
- data
- caption
- video data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000015654 memory Effects 0.000 claims abstract description 144
- 238000006243 chemical reaction Methods 0.000 claims abstract description 25
- 238000012545 processing Methods 0.000 claims description 81
- 230000006870 function Effects 0.000 claims description 41
- 238000005070 sampling Methods 0.000 claims description 4
- 238000000034 method Methods 0.000 description 41
- 238000010586 diagram Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 12
- 238000012217 deletion Methods 0.000 description 7
- 230000037430 deletion Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 5
- 230000001413 cellular effect Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 239000002699 waste material Substances 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000009125 cardiac resynchronization therapy Methods 0.000 description 1
- 230000009194 climbing Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Television Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
【課題】 小さなディスプレイに映像を再生表示しても見やすいキャプションを表示するデータ記録装置およびデータ表示装置を提供する。
【解決手段】 記録メディア300から読み込んだ変換前の映像データをフレームメモリ21に展開する。文字認識部30は映像データ中に映像として書き込まれている映像キャプションを図形として解析し、文字認識を行なってキャプションテキストデータを得る。必要に応じてデータフォーマット変換部50により映像データのデータフォーマットを変換し、書き込み部40により変換後の映像データとキャプションテキストデータを記録する。携帯電話等の小型データ表示装置は記録メディアまたはネットワークメディアから映像データを入力し、ディスプレイの第1の表示エリアに映像データを、第2の表示エリアにキャプションテキストデータから当該エリアに合わせて生成したキャプションを表示する。
【選択図】 図1
Description
この発明は、映像データを取り込んで記録メディアに記録するデータ記録装置に関する。また、映像データを取り込んで表示するデータ表示装置に関する。
近年、携帯型端末が広く普及しつつある。携帯型端末は持ち運びに便利なように筐体の小型化が求められるが、筐体の小型化のみならず、多機能化、高性能化が求められている。典型例としては、携帯電話は年々小型化する一方、その機能は通話機能のみならず、iモード機能、カメラ機能、動画録画再生機能、GPS利用機能など多種多様な機能を取り込みつつある。
携帯電話などの携帯型端末が取り込みつつある機能の一つに、映画やテレビドラマなどのコンテンツの映像データを読み込み、当該映像データを再生表示し、コンテンツの視聴を可能とする機能がある。
ここで、携帯電話などの携帯型端末における映像データの読み込みについて工夫が必要である。第1に、映画などのコンテンツデータは通常、DVDなどの大容量記録メディアにより提供されるが、携帯電話などの携帯型端末は筐体の大きさなどの制限からDVDなど大きな記録メディアに対応したドライブの搭載ができないので、それら大型の大容量記録メディアから直接データを読み込むことができないため、小型の記録メディアに記録し直して用いる必要がある。第2に、携帯電話などの携帯型端末の動画データに採用されるデータフォーマット(MPEG4、H.264など)とDVDなどで採用されるデータフォーマット(MPEG2など)が異なる場合は、DVDに記録された映像データのデータフォーマットを携帯型端末で利用しやすいデータフォーマットに変換する必要がある。
携帯電話などの携帯型端末が取り込みつつある機能の一つに、映画やテレビドラマなどのコンテンツの映像データを読み込み、当該映像データを再生表示し、コンテンツの視聴を可能とする機能がある。
ここで、携帯電話などの携帯型端末における映像データの読み込みについて工夫が必要である。第1に、映画などのコンテンツデータは通常、DVDなどの大容量記録メディアにより提供されるが、携帯電話などの携帯型端末は筐体の大きさなどの制限からDVDなど大きな記録メディアに対応したドライブの搭載ができないので、それら大型の大容量記録メディアから直接データを読み込むことができないため、小型の記録メディアに記録し直して用いる必要がある。第2に、携帯電話などの携帯型端末の動画データに採用されるデータフォーマット(MPEG4、H.264など)とDVDなどで採用されるデータフォーマット(MPEG2など)が異なる場合は、DVDに記録された映像データのデータフォーマットを携帯型端末で利用しやすいデータフォーマットに変換する必要がある。
従来技術において、携帯電話などの携帯型端末において映像データを読み込む方法として、通信機能を介して通信回線を介してデータの配信を受ける方法(非特許文献1)、記録メディアドライブを複数備えたデータ再生録画装置を用いてDVDなどの大型記録メディアから読み込んだ映像データを、SDカード(TM)、メモリースティック(TM)、スマートメディア(TM)など他の小型記録メディアに記録し直し、小型記録メディア用ドライブを備えた携帯電話を用いて当該小型記録メディアから映像データを読み込む方法(非特許文献2)などが知られている。
日経産業新聞2003年7月11日付記事 http://panasonic.jp/dvd/recorder/e2000h/spec
日経産業新聞2003年7月11日付記事 http://panasonic.jp/dvd/recorder/e2000h/spec
映像データの携帯型端末への読み込み段階においては、上記の非特許文献1および非特許文献2に示した映像データの携帯型端末への読み込み方法は有用な方法である。
一方、携帯型端末の映像コンテンツの再生の段階においては、以下に示すように、映像キャプションの表示について改善の必要がある。
携帯型端末は、持ち運びの便宜上、筐体の小型化が求められ、搭載し得るディスプレイが小さいものとなっている。映像を表示するディスプレイは本来大きい方が映像を見やすいが、利用者は携帯型端末のディスプレイを顔の近くに保持しつつ映像を見ることができ、映像の絶対的大きさが多少小さくても映像を視聴することは可能であり、携帯型端末で場所を問わず視聴するという大きな利点が魅力となり、今後もこの映像の視聴形態は増えて行くものと期待されている。しかし、映像中に映像として書き込まれている映像キャプションは小さ過ぎて即座に読み取ることが困難となる場合がある。利用者が視聴するコンテンツのうち有力なコンテンツとして外国映画、外国ドラマ、外国歌手の公演ビデオなどがあり、それらの翻訳について音声による吹き替えが提供されている場合もあるが、その多くは台詞や歌詞を示すキャプションが映像キャプションとして映像中に書き込まれて付されているものが多い。それら映像キャプションはその性質上、主となる映像に干渉しない位置、例えば、映像面の最下部に小さく付されている。映像キャプションはある程度大きなディスプレイでの再生表示を前提として付されているため、携帯型端末のような小さなディスプレイにおいて外国映画などを再生表示した場合、表示面全体の絶対的大きさが小さい上、さらに、その小さな表示面中の最下部に小さく表示される映像キャプションは見難く、その識別が困難となる場合も十分に考えられる。
外国映画などのコンテンツの多くは音声による吹き替え版ではなく映像キャプション付きのものである現状、利用者に上記不便を強いる結果となってしまうという問題が生じる。
一方、携帯型端末の映像コンテンツの再生の段階においては、以下に示すように、映像キャプションの表示について改善の必要がある。
携帯型端末は、持ち運びの便宜上、筐体の小型化が求められ、搭載し得るディスプレイが小さいものとなっている。映像を表示するディスプレイは本来大きい方が映像を見やすいが、利用者は携帯型端末のディスプレイを顔の近くに保持しつつ映像を見ることができ、映像の絶対的大きさが多少小さくても映像を視聴することは可能であり、携帯型端末で場所を問わず視聴するという大きな利点が魅力となり、今後もこの映像の視聴形態は増えて行くものと期待されている。しかし、映像中に映像として書き込まれている映像キャプションは小さ過ぎて即座に読み取ることが困難となる場合がある。利用者が視聴するコンテンツのうち有力なコンテンツとして外国映画、外国ドラマ、外国歌手の公演ビデオなどがあり、それらの翻訳について音声による吹き替えが提供されている場合もあるが、その多くは台詞や歌詞を示すキャプションが映像キャプションとして映像中に書き込まれて付されているものが多い。それら映像キャプションはその性質上、主となる映像に干渉しない位置、例えば、映像面の最下部に小さく付されている。映像キャプションはある程度大きなディスプレイでの再生表示を前提として付されているため、携帯型端末のような小さなディスプレイにおいて外国映画などを再生表示した場合、表示面全体の絶対的大きさが小さい上、さらに、その小さな表示面中の最下部に小さく表示される映像キャプションは見難く、その識別が困難となる場合も十分に考えられる。
外国映画などのコンテンツの多くは音声による吹き替え版ではなく映像キャプション付きのものである現状、利用者に上記不便を強いる結果となってしまうという問題が生じる。
上記問題点に鑑み、本発明は、携帯型端末の小さなディスプレイを表示面として再生表示する場合であっても、キャプションが利用者に十分に認識できるようにキャプションを加工し、表示することができるデータ記録装置およびデータ表示装置を提供することを目的とする。
上記目的を達成するため、本発明の第1のデータ記録装置は、映像データを取り込んで記録メディアに記録するデータ記録装置であって、
映像データを取り込む映像データ入力部と、
フレームメモリを備え、前記映像データ入力部から取り込んだ映像データを前記フレームメモリに展開するフレームメモリ制御部と、
前記フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータと、当該キャプションテキストデータと前記映像データとの対応情報とを生成する文字認識部と、
前記フレームメモリから前記映像データを受け、前記文字認識部から前記キャプションテキストデータと前記対応情報とを受け、それらを前記記録メディアに書き込む書き込み部を備えたものである。
上記構成により、映像データと別にキャプションテキストデータと対応情報とを得ることができ、本発明の第1のデータ記録装置で記録した記録メディアを利用するシステムにおいてキャプションテキストデータを利用することができる。キャプションテキストデータは映像データではなくテキストデータであるので、多様な形態での利用が容易となる。
映像データを取り込む映像データ入力部と、
フレームメモリを備え、前記映像データ入力部から取り込んだ映像データを前記フレームメモリに展開するフレームメモリ制御部と、
前記フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータと、当該キャプションテキストデータと前記映像データとの対応情報とを生成する文字認識部と、
前記フレームメモリから前記映像データを受け、前記文字認識部から前記キャプションテキストデータと前記対応情報とを受け、それらを前記記録メディアに書き込む書き込み部を備えたものである。
上記構成により、映像データと別にキャプションテキストデータと対応情報とを得ることができ、本発明の第1のデータ記録装置で記録した記録メディアを利用するシステムにおいてキャプションテキストデータを利用することができる。キャプションテキストデータは映像データではなくテキストデータであるので、多様な形態での利用が容易となる。
本発明の第2のデータ記録装置は、映像データを取り込んで記録メディアに記録するデータ記録装置であって、
映像データを取り込む映像データ入力部と、
フレームメモリを備え、前記映像データ入力部から取り込んだ映像データを前記フレームメモリに展開するフレームメモリ制御部と、
前記フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータと、当該キャプションテキストデータと前記映像データとの対応情報とを生成する文字認識部と、
前記フレームメモリに展開された映像データを所望のデータフォーマットに変換するデータフォーマット変換部と、
前記データフォーマット変換部から前記データフォーマット変換後の映像データを受け、前記文字認識部から前記キャプションテキストデータと前記対応情報とを受け、それらを前記記録メディアに書き込む書き込み部を備えたものである。
上記構成により、映像データのデータフォーマットを変換しつつ、キャプションテキストデータと対応情報も併せて得ることができる。
映像データを取り込む映像データ入力部と、
フレームメモリを備え、前記映像データ入力部から取り込んだ映像データを前記フレームメモリに展開するフレームメモリ制御部と、
前記フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータと、当該キャプションテキストデータと前記映像データとの対応情報とを生成する文字認識部と、
前記フレームメモリに展開された映像データを所望のデータフォーマットに変換するデータフォーマット変換部と、
前記データフォーマット変換部から前記データフォーマット変換後の映像データを受け、前記文字認識部から前記キャプションテキストデータと前記対応情報とを受け、それらを前記記録メディアに書き込む書き込み部を備えたものである。
上記構成により、映像データのデータフォーマットを変換しつつ、キャプションテキストデータと対応情報も併せて得ることができる。
上記のデータ記録装置について、前記フレームメモリに展開された映像データにおいて、前記映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、前記映像キャプションを消去する映像キャプション消去部を備えることも好ましい。
上記構成により、映像中から映像キャプションを消去できる。キャプション自体はテキストデータの形で利用できるので映像中に残存する映像キャプションは不要であるから消去しても問題なく、却って映像を毀損する形で書き込まれていた映像キャプションを消去することは好ましいからである。
上記構成により、映像中から映像キャプションを消去できる。キャプション自体はテキストデータの形で利用できるので映像中に残存する映像キャプションは不要であるから消去しても問題なく、却って映像を毀損する形で書き込まれていた映像キャプションを消去することは好ましいからである。
次に、本発明の第1のデータ表示装置は、映像コンテンツを表示するデータ表示装置であって、
利用メディアから映像データとキャプションテキストデータとそれらの対応情報を取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
フレームメモリを備え、前記ディスプレイの表示エリアを少なくとも第1の表示エリアと第2の表示エリアの2つの表示エリアに分割し、各表示エリアに対応するフレームメモリの第1の領域と第2の領域へのデータ書き込みを制御して各表示エリアにおける表示を制御する表示制御部と、
前記表示制御部の表示制御に従い、前記映像データ入力部から取り込んだ前記映像データを読み込んで前記フレームメモリの第1の領域に展開する映像表示処理部と、
前記表示制御部の表示制御に従い、前記映像データ入力部から取り込んだ前記キャプションテキストデータと前記対応情報を読み込んで、前記対応情報に基づいて前記フレームメモリの第1の領域に展開されている映像データに対応するキャプションテキストデータを選択して前記フレームメモリの第2の領域に展開するキャプション表示処理部とを備え、
前記ディスプレイの第1の表示エリアにおいて前記映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記キャプションが表示されるデータ表示装置である。
上記構成により、利用するメディア中にキャプションがキャプションテキストデータとして与えられている場合、映像データは第1の表示エリアに、キャプションは第2の表示エリアに表示することができる。例えば、携帯型端末のようにディスプレイが小さい機器の場合、キャプションがあまりに小さくなり過ぎないように第2の表示エリアの大きさを文字の視認が困難とならない程度の大きさに調整すれば利用者が容易にキャプションを読むことができる。
利用メディアから映像データとキャプションテキストデータとそれらの対応情報を取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
フレームメモリを備え、前記ディスプレイの表示エリアを少なくとも第1の表示エリアと第2の表示エリアの2つの表示エリアに分割し、各表示エリアに対応するフレームメモリの第1の領域と第2の領域へのデータ書き込みを制御して各表示エリアにおける表示を制御する表示制御部と、
前記表示制御部の表示制御に従い、前記映像データ入力部から取り込んだ前記映像データを読み込んで前記フレームメモリの第1の領域に展開する映像表示処理部と、
前記表示制御部の表示制御に従い、前記映像データ入力部から取り込んだ前記キャプションテキストデータと前記対応情報を読み込んで、前記対応情報に基づいて前記フレームメモリの第1の領域に展開されている映像データに対応するキャプションテキストデータを選択して前記フレームメモリの第2の領域に展開するキャプション表示処理部とを備え、
前記ディスプレイの第1の表示エリアにおいて前記映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記キャプションが表示されるデータ表示装置である。
上記構成により、利用するメディア中にキャプションがキャプションテキストデータとして与えられている場合、映像データは第1の表示エリアに、キャプションは第2の表示エリアに表示することができる。例えば、携帯型端末のようにディスプレイが小さい機器の場合、キャプションがあまりに小さくなり過ぎないように第2の表示エリアの大きさを文字の視認が困難とならない程度の大きさに調整すれば利用者が容易にキャプションを読むことができる。
なお、映画やテレビジョンコンテンツの場合、映像面の縦横比が決まっているので、例えば、携帯型端末のディスプレイに当該縦横比の映像を表示した場合に、ディスプレイの縦方向に余裕がある場合、下側に余っているディスプレイ領域を第2の表示エリアとして当該エリアにキャプションを大きく表示すれば良い。
本発明の第2のデータ表示装置は、映像データを取り込んで映像コンテンツを表示するデータ表示装置であって、
映像データを取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
文字認識用フレームメモリと、映像表示用フレームメモリと、キャプション表示用フレームメモリと、
前記映像データ入力部から取り込んだ映像データストリームを、フレームごとに前記映像表示用フレームメモリに展開する機能と、所定周期でサンプリングして前記文字認識用フレームメモリに展開する機能とを備えた制御部と、
前記映像表示用フレームメモリに展開されたデータに基づいて前記ディスプレイの第1の表示エリアへの映像表示を制御する映像表示制御部と、
前記文字認識用フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータを生成する文字認識部と、
前記文字認識部が認識したキャプションテキストデータに基づいて前記ディスプレイの第2の表示エリアへのキャプションテキスト表示を制御するキャプション表示制御部とを備えたものである。
上記構成により、例えば、利用メディアとなる携帯型小型メモリへのアクセスや、地上波デジタル放送などの無線通信によるアクセスにより、映像キャプションが書き込まれたままの映像コンテンツを読み込んで自らキャプションテキストデータと対応情報を生成して利用することができる。
映像データを取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
文字認識用フレームメモリと、映像表示用フレームメモリと、キャプション表示用フレームメモリと、
前記映像データ入力部から取り込んだ映像データストリームを、フレームごとに前記映像表示用フレームメモリに展開する機能と、所定周期でサンプリングして前記文字認識用フレームメモリに展開する機能とを備えた制御部と、
前記映像表示用フレームメモリに展開されたデータに基づいて前記ディスプレイの第1の表示エリアへの映像表示を制御する映像表示制御部と、
前記文字認識用フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータを生成する文字認識部と、
前記文字認識部が認識したキャプションテキストデータに基づいて前記ディスプレイの第2の表示エリアへのキャプションテキスト表示を制御するキャプション表示制御部とを備えたものである。
上記構成により、例えば、利用メディアとなる携帯型小型メモリへのアクセスや、地上波デジタル放送などの無線通信によるアクセスにより、映像キャプションが書き込まれたままの映像コンテンツを読み込んで自らキャプションテキストデータと対応情報を生成して利用することができる。
本発明の第3のデータ表示装置は、上記第2のデータ表示装置において、前記フレームメモリの第1の領域に展開された映像データ中の映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、前記映像キャプションを消去する映像キャプション消去部を備え、前記ディスプレイの第1の表示エリアにおいて前記映像キャプションが消去された映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記キャプションが表示されるものである。
上記構成により、映像中に書き込まれた映像キャプションを消去することができる。
上記構成により、映像中に書き込まれた映像キャプションを消去することができる。
上記のデータ記録装置およびデータ表示装置は、映像キャプションからキャプションテキストデータを生成して、当該キャプションテキストデータを利用するものであるが、映像キャプションを映像のまま拡大して利用することも可能である。
本発明の第4のデータ表示装置は、映像データを取り込んで映像コンテンツを表示するデータ表示装置であって、
映像データを取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
映像表示用フレームメモリと、キャプション表示用フレームメモリと、
前記映像データ入力部から取り込んだ映像データストリームを、フレームごとに前記映像表示用フレームメモリに展開する機能を備えた制御部と、
前記映像表示用フレームメモリに展開されたデータに基づいて前記ディスプレイの第1の表示エリアへの映像表示を制御する映像表示制御部と、
前記映像表示用フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析して前記映像データ中の映像キャプション領域を認識し、前記映像キャプション領域の映像データを前記ディスプレイの第2の表示エリアの大きさに合わせた縦横倍率で拡大しつつ前記キャプション表示用フレームメモリに複製展開するキャプション表示制御部と、
前記映像表示用フレームメモリに展開された映像データ中の映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、前記映像キャプションを消去する映像キャプション消去部を備え、
前記ディスプレイの第1の表示エリアにおいて前記映像キャプションが消去された映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記縦横倍率で拡大されたキャプションが表示されるものである。
上記構成により、映像中の映像キャプション部分を消去するとともに、映像キャプション部分を拡大して第2の表示エリアに表示することができ、第2の表示エリアの大きさを映像キャプションの視認が困難とならない程度の大きさに調整すれば利用者が容易にキャプションを読むことができる。
なお、本発明のデータ記録装置またはデータ表示装置において、映像データ入力部が映像データを取り込むためアクセス可能な利用メディアとして、例えば、映像データが記録されているDVD、CD、MO、HDD、メモリなどの記録メディアが挙げられる。また、映像データの配信が可能となる地上波デジタル放送、衛星放送、CATV、インターネットなどのコンピュータ通信などのネットワークメディアが挙げられる。ネットワークメディアの場合、当該ネットワークの接続先のリソースとして含まれるHDDやメモリなどの記録メディアも含まれる。
映像データを取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
映像表示用フレームメモリと、キャプション表示用フレームメモリと、
前記映像データ入力部から取り込んだ映像データストリームを、フレームごとに前記映像表示用フレームメモリに展開する機能を備えた制御部と、
前記映像表示用フレームメモリに展開されたデータに基づいて前記ディスプレイの第1の表示エリアへの映像表示を制御する映像表示制御部と、
前記映像表示用フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析して前記映像データ中の映像キャプション領域を認識し、前記映像キャプション領域の映像データを前記ディスプレイの第2の表示エリアの大きさに合わせた縦横倍率で拡大しつつ前記キャプション表示用フレームメモリに複製展開するキャプション表示制御部と、
前記映像表示用フレームメモリに展開された映像データ中の映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、前記映像キャプションを消去する映像キャプション消去部を備え、
前記ディスプレイの第1の表示エリアにおいて前記映像キャプションが消去された映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記縦横倍率で拡大されたキャプションが表示されるものである。
上記構成により、映像中の映像キャプション部分を消去するとともに、映像キャプション部分を拡大して第2の表示エリアに表示することができ、第2の表示エリアの大きさを映像キャプションの視認が困難とならない程度の大きさに調整すれば利用者が容易にキャプションを読むことができる。
なお、本発明のデータ記録装置またはデータ表示装置において、映像データ入力部が映像データを取り込むためアクセス可能な利用メディアとして、例えば、映像データが記録されているDVD、CD、MO、HDD、メモリなどの記録メディアが挙げられる。また、映像データの配信が可能となる地上波デジタル放送、衛星放送、CATV、インターネットなどのコンピュータ通信などのネットワークメディアが挙げられる。ネットワークメディアの場合、当該ネットワークの接続先のリソースとして含まれるHDDやメモリなどの記録メディアも含まれる。
本発明のデータ記録装置によれば、映像データと別にキャプションテキストデータと対応情報とを得ることができ、当該データ記録装置により書き込んだ記録メディアを利用する映像データ表示装置においてキャプションテキストデータを利用することができる。キャプションテキストデータは映像データではなくテキストデータであるので、多様な形態での利用が容易となる。
本発明のデータ表示装置によれば、映像データを第1の表示エリアに、キャプションを第2の表示エリアに表示することができる。例えば、携帯型端末のようにディスプレイが小さい機器の場合、キャプションがあまりに小さくなり過ぎないように第2の表示エリアの大きさを文字の視認が困難とならない程度の大きさに調整すれば利用者が容易にキャプションを読むことができる。
本発明のデータ表示装置によれば、映像データを第1の表示エリアに、キャプションを第2の表示エリアに表示することができる。例えば、携帯型端末のようにディスプレイが小さい機器の場合、キャプションがあまりに小さくなり過ぎないように第2の表示エリアの大きさを文字の視認が困難とならない程度の大きさに調整すれば利用者が容易にキャプションを読むことができる。
以下、図面を参照しつつ、本発明のデータ記録装置およびデータ表示装置の実施例を説明する。
本発明の実施例1にかかる第1のデータ記録装置および第1のデータ表示装置の例を示す。
第1のデータ記録装置は、読み取り対象となる記録メディアまたはネットワークメディアから映像データ(映像キャプション付き)を読み込み、映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行し、映像データとキャプションテキストデータと両者の対応情報を書き込み対象となる小型の記録メディアに記録する装置である。
図1および図2は本発明の実施例1にかかる第1のデータ記録装置100の基本構成例を模式的に示す図である。
第1のデータ記録装置は、読み取り対象となる記録メディアまたはネットワークメディアから映像データ(映像キャプション付き)を読み込み、映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行し、映像データとキャプションテキストデータと両者の対応情報を書き込み対象となる小型の記録メディアに記録する装置である。
図1および図2は本発明の実施例1にかかる第1のデータ記録装置100の基本構成例を模式的に示す図である。
図1の例において、映像データ入力部10は、読み取り対象となる記録メディア300に対応している読み取り装置を備え、記録メディア300に対応する物理インタフェースおよび論理インタフェースを持っている。映像データ入力部10は読み取り対象となる記録メディア300から映像データを次々と読み取り、フレームメモリ制御部20に渡して行く。
読み取り対象となる記録メディア300は特に限定されない。例えば、外国映画などのコンテンツが記録されたDVD、CDROM、VHSビデオテープ、MOなどの記録媒体が記録メディア300となり得る。また、外部からテレビジョン放送を受信し、受信したテレビジョン放送を内蔵のハードディスク記憶装置に録画し、書き込み対象となる小型記録メディア400にアップダビングする場合は、当該ハードディスク記録装置が記録メディア300となり得る。
読み取り対象となる記録メディア300は特に限定されない。例えば、外国映画などのコンテンツが記録されたDVD、CDROM、VHSビデオテープ、MOなどの記録媒体が記録メディア300となり得る。また、外部からテレビジョン放送を受信し、受信したテレビジョン放送を内蔵のハードディスク記憶装置に録画し、書き込み対象となる小型記録メディア400にアップダビングする場合は、当該ハードディスク記録装置が記録メディア300となり得る。
なお、図2の例では、映像データ入力部10は、地上波デジタル放送や衛星放送を受信する機能やインターネットなどのネットワークメディアにアクセスする機能を備え、ネットワークメディアとの通信インタフェースを持っている。映像データ入力部10はネットワークメディア310から映像データを次々とダウンロードして取り込み、フレームメモリ制御部20に渡して行く。なお、映像データ入力部10はチューニング機能を備え、チャンネル選択などができることが好ましい。
オンデマンドによるネットワークメディアを介したダウンロードを行なう場合、ネットワークを介して接続されている接続先の記録メディアが読み取り対象となる記録メディア300となり得る。
オンデマンドによるネットワークメディアを介したダウンロードを行なう場合、ネットワークを介して接続されている接続先の記録メディアが読み取り対象となる記録メディア300となり得る。
次に、図1または図2において、書き込み対象となる小型記録メディア400は特に限定されないが、携帯型の小型記録メディアが想定される。本発明のデータ記録装置が提供する小型記録メディア400は、DVDなどの記録メディア300を直接取り扱うことができないような携帯電話などの小型の携帯型端末で取り扱うことができる記録メディアを想定したものであって、例えば、メモリースティック(TM)、コンパクトフラッシュカード(TM)、スマートメディアカード(TM)、SDカード(TM)などの携帯型小型記録メディアが記録メディア400となり得る。
なお、3つ以上の記録メディアやネットワークメディア間で映像データを授受する場合は、次のように捉えることができる(なお、以下の説明では記録メディアの場合について代表的に述べるが、ネットワークメディアについても同様に考えることができる。)。映像データを授受する複数のネットワークメディアや記録メディアを、授受の道筋をフローチャートに見立てて並べ、映像データを他の記録メディアに授ける記録メディアが記録メディア300、受け取る記録メディアが小型記録メディア400となり、記録メディアA、記録メディアB、記録メディアCが直列にこの順で映像データを授受する場合、記録メディアAから記録メディアBの関係に注目すると、記録メディアAが記録メディア300、記録メディアBが小型記録メディア400となり、記録メディアBから記録メディアCの関係に注目すると、記録メディアBが記録メディア300、記録メディアCが小型記録メディア400となる。記録メディアAから記録メディアBと記録メディアCの2つの記録メディアにいわゆる並列に映像データが授受される場合、記録メディアAが記録メディア300、記録メディアBと記録メディアCのそれぞれが独立して小型記録メディア400となる。逆に記録メディアAと記録メディアBのそれぞれから記録メディアCに映像データが授受される場合、記録メディアAと記録メディアBのそれぞれが独立して記録メディア300となり、記録メディアCが小型記録メディア400となる。
なお、ネットワークメディア310から映像データをダウンロードし、一時的にデータ記録装置内の内蔵ハードディスクに保存し、後にハードディスクからメモリースティック(TM)などの小型の記録メディア400にアップダビングする場合、ネットワークメディアを読み取り対象のメディアとし、本発明のキャプションデータおよび対応情報生成処理を行なってハードディスクを書き込み対象のメディアとしても良く、ネットワークメディア310からハードディスクへの記録は本発明のキャプションデータおよび対応情報生成処理を行なわず、ハードディスクを読み取り対象のメディアとし、本発明のキャプションデータおよび対応情報生成処理を行なって小型の記録メディア400を書き込み対象のメディアとしても良い。
データフォーマットに関して、この実施例1の第1のデータ記録装置は、読み取り対象となる記録メディア300またはネットワークメディア310から取り込まれる映像データのデータフォーマット変換処理が不要である例として説明する。
なお、ネットワークメディア310から映像データをダウンロードし、一時的にデータ記録装置内の内蔵ハードディスクに保存し、後にハードディスクからメモリースティック(TM)などの小型の記録メディア400にアップダビングする場合、ネットワークメディアを読み取り対象のメディアとし、本発明のキャプションデータおよび対応情報生成処理を行なってハードディスクを書き込み対象のメディアとしても良く、ネットワークメディア310からハードディスクへの記録は本発明のキャプションデータおよび対応情報生成処理を行なわず、ハードディスクを読み取り対象のメディアとし、本発明のキャプションデータおよび対応情報生成処理を行なって小型の記録メディア400を書き込み対象のメディアとしても良い。
データフォーマットに関して、この実施例1の第1のデータ記録装置は、読み取り対象となる記録メディア300またはネットワークメディア310から取り込まれる映像データのデータフォーマット変換処理が不要である例として説明する。
フレームメモリ制御部20は、フレームメモリ21を備え、フレームメモリ21の入出力を制御する部分である。フレームメモリ制御部20は読み取り対象となる記録メディア300から読み込んだ映像データをフレームメモリ21に展開する。
文字認識部30は、フレームメモリ21に展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータを生成する部分である。また、生成したキャプションテキストデータと当該キャプションが映像として書き込まれていた映像データとの対応情報とを生成する部分である。
文字認識部30は文字パターンデータベース31を備えている。文字パターンデータベース31は文字認識処理においてパターンマッチングに用いる文字パターンを集めたデータベースである。
文字認識部30は、フレームメモリ21に展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータを生成する部分である。また、生成したキャプションテキストデータと当該キャプションが映像として書き込まれていた映像データとの対応情報とを生成する部分である。
文字認識部30は文字パターンデータベース31を備えている。文字パターンデータベース31は文字認識処理においてパターンマッチングに用いる文字パターンを集めたデータベースである。
図3は文字認識部30における処理の概要を模式的に説明する図である。フレームメモリ制御部20の処理によりDVDなどの記録メディア300から読み込まれた映像データはフレームごとにフレームメモリ21に展開されている。図3は当該映像を模式的に示している。映像の最下部には映像キャプションが映像中に書き込まれている(焼き付けられている)。この映像キャプションは映像そのものの中に焼き付けられており、テキストデータではなく映像中に写り込んでいる図形データと捉えることができる。この例の映像フレームには「坂道を上りながら後ろを振り向いてごらん。海が見えるよ。」という映像キャプションが付されているとする。
まず、文字認識部30はフレームメモリ21上に展開されている映像中、映像キャプションの図形パターンが含まれている領域を探索する。文字認識部30は当該探索について学習機能を有することが好ましい。ここで、映像キャプションが書き込まれている領域は、例えば、映像領域の最下部付近や、右端部分など一定部分に固定されていることが多く、学習効果が高く発揮されることとなる。
次に、文字認識部30は、映像キャプション図形から文字ごとの図形パターン切り出しを行なう。そして、文字パターンデータベース31中の文字パターンと切り出した図形パターンとのパターンマッチングを行い、映像キャプションの各文字の認識処理を行なう。この後、認識精度を向上させるために、単語認識、意味認識、構文チェックなどを行なうことも好ましい。これら単語認識や意味認識に必要なエンジン、単語データベース、意味データベース、構文データベースなどを備えているものとする。
次に、文字認識部30は、映像キャプション図形から文字ごとの図形パターン切り出しを行なう。そして、文字パターンデータベース31中の文字パターンと切り出した図形パターンとのパターンマッチングを行い、映像キャプションの各文字の認識処理を行なう。この後、認識精度を向上させるために、単語認識、意味認識、構文チェックなどを行なうことも好ましい。これら単語認識や意味認識に必要なエンジン、単語データベース、意味データベース、構文データベースなどを備えているものとする。
文字認識部30による文字認識の結果、図3に示すように、図形としての映像キャプションからテキストデータとしてのキャプションテキストデータが得られる。ここでは「坂道を上りながら後ろを振り向いてごらん。海が見えるよ。」というキャプションテキストデータが得られることとなる。
また、文字認識部30は、得られたキャプションテキストデータがどの映像フレーム中の映像キャプションに相当するデータであるかを示すため、映像データとキャプションテキストデータとの対応を示す対応情報も生成する。例えば、「映像フレーム番号○○−キャプションテキストデータ番号○○」という対応情報が生成される。生成されたキャプションテキストデータと対応情報は書き込み部40に渡される。
また、文字認識部30は、得られたキャプションテキストデータがどの映像フレーム中の映像キャプションに相当するデータであるかを示すため、映像データとキャプションテキストデータとの対応を示す対応情報も生成する。例えば、「映像フレーム番号○○−キャプションテキストデータ番号○○」という対応情報が生成される。生成されたキャプションテキストデータと対応情報は書き込み部40に渡される。
上記のフレームメモリ制御部20によるフレームメモリ21への映像データの書き込み処理、文字認識部30による文字認識処理までを映像フレームごとに行なう。なお、文字認識部30による文字認識処理については映像フレームごとには行なわず、所定周期ごとに映像フレームをサンプリングして行なっても良い。映像キャプションは人が目で読み取るという性質上、一定の時間は必要であり、長短はあるものの複数のフレームにわたり同じ映像キャプションが付されていることとなる。そのため、すべてのフレームについて文字認識処理を行なうことはリソースの浪費となる場合がある。そこで、映像キャプションが2回以上切り替わる恐れのない間隔(例えば、1秒間隔や2秒間隔)でサンプリングしたフレームについて文字認識処理を行なえば良い。
次に、図1または図2において、書き込み部40は、フレームメモリ制御部20から渡される映像データストリームと、文字認識部30から渡されるキャプションテキストデータと対応情報とを、書き込み対象の記録メディア400に書き込む部分である。書き込み対象の記録メディア400用の書き込みドライブを備え、記録メディア400に対応する物理フォーマット、論理フォーマットで映像データを書き込み対象の記録メディア400に書き込む。
上記のように、本発明のデータ記録装置により、DVDなどの読み取り対象となる記録メディア300に記録されている外国映画など映像キャプションを含む映像データを読み込み、当該映像データと映像キャプションに相当するキャプションテキストデータをSDカード(TM)やメモリースティック(TM)などの書き込み対象となる小型記録メディア400に記録される。記録メディア400にアクセスした携帯型端末において、映像データとともにテキストデータとしてのキャプションテキストデータが利用できる。
なお、図1の構成例にはバッファメモリなどは図示していないが、いずれかの処理において必要であればバッファメモリを用いても良い。
なお、図1の構成例にはバッファメモリなどは図示していないが、いずれかの処理において必要であればバッファメモリを用いても良い。
次に、本発明の第1のデータ表示装置について説明する。
第1のデータ表示装置200は、上記の小型記録メディア400などの記録メディアまたはネットワークメディアから映像データ、キャプションテキストデータ、それらの対応情報を読み込み、映像データをディスプレイの第1の表示エリアに表示し、キャプションをディスプレイの第2の表示エリアに表示する装置である。なお、キャプションの表示にあたり、キャプションテキストデータを利用する。
なお、第1のデータ表示装置200は小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
図4および図5は、本発明の実施例1にかかる第1のデータ表示装置200の基本構成例を模式的に示す図である。
第1のデータ表示装置200は、上記の小型記録メディア400などの記録メディアまたはネットワークメディアから映像データ、キャプションテキストデータ、それらの対応情報を読み込み、映像データをディスプレイの第1の表示エリアに表示し、キャプションをディスプレイの第2の表示エリアに表示する装置である。なお、キャプションの表示にあたり、キャプションテキストデータを利用する。
なお、第1のデータ表示装置200は小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
図4および図5は、本発明の実施例1にかかる第1のデータ表示装置200の基本構成例を模式的に示す図である。
図4の例において、映像データ入力部210は、小型記録メディア400に対応している読み取り装置を備え、小型記録メディア400に対応する物理インタフェースおよび論理インタフェースを持っている。映像データ入力部210は読み取り対象となる小型記録メディア400から映像データ、キャプションテキストデータ、対応情報を次々と読み取り、映像データを映像表示処理部220に、キャプションテキストデータと対応情報をキャプション表示処理部230に渡して行く。
読み取り対象となる小型記録メディア400は、本発明の第1のデータ記録装置100により映像データ、キャプションテキストデータ、対応情報が書き込まれた小型記録メディアである。
読み取り対象となる小型記録メディア400は、本発明の第1のデータ記録装置100により映像データ、キャプションテキストデータ、対応情報が書き込まれた小型記録メディアである。
なお、図5の例では、映像データ入力部210は、地上波デジタル放送やインターネットなどのネットワークメディアにアクセスする機能を備え、ネットワークメディアとの通信インタフェースを持っている。ネットワークメディア310は、映像データ、キャプションテキストデータ、両者の対応情報が格納されたリソースを備えている。これらデータはサービス提供業者が用意して利用者に提供する。提供形態は有償、無償など多様な形態があり得る。
映像データ入力部210はネットワークメディア310から映像データ、キャプションテキストデータ、両者の対応情報を次々と読み取り、映像データを映像表示処理部220に、キャプションテキストデータと対応情報をキャプション表示処理部230に渡して行く。なお、映像データ入力部10はチューニング機能を備え、チャンネル選択などができることが好ましい。
映像データ入力部210はネットワークメディア310から映像データ、キャプションテキストデータ、両者の対応情報を次々と読み取り、映像データを映像表示処理部220に、キャプションテキストデータと対応情報をキャプション表示処理部230に渡して行く。なお、映像データ入力部10はチューニング機能を備え、チャンネル選択などができることが好ましい。
映像表示処理部220は、映像データ入力部210から渡された映像データを受け取り、表示制御部240の表示制御に従い、フレームメモリ250の第1の領域251に映像データを展開する部分である。
キャプション表示処理部230は、映像データ入力部210から渡されたキャプションテキストデータと対応情報を受け取り、対応情報を参照して、フレームメモリ250の第1の領域251に展開されている映像データに対応するキャプションテキストデータを選択し、表示制御部240の表示制御に従い、選択したキャプションテキストデータをフレームメモリ250の第2の領域252に展開する部分である。キャプションテキストデータのフレームメモリ250の第2の領域252への展開にあたり、当該第2の領域252の大きさ(ディスプレイ260の第2の表示エリアの大きさ)に合わせてキャプションが拡大表示できるように縦横倍率を調整して展開する。
キャプション表示処理部230は、映像データ入力部210から渡されたキャプションテキストデータと対応情報を受け取り、対応情報を参照して、フレームメモリ250の第1の領域251に展開されている映像データに対応するキャプションテキストデータを選択し、表示制御部240の表示制御に従い、選択したキャプションテキストデータをフレームメモリ250の第2の領域252に展開する部分である。キャプションテキストデータのフレームメモリ250の第2の領域252への展開にあたり、当該第2の領域252の大きさ(ディスプレイ260の第2の表示エリアの大きさ)に合わせてキャプションが拡大表示できるように縦横倍率を調整して展開する。
表示制御部240は、フレームメモリ250を備え、ディスプレイ260の表示エリアを少なくとも第1の表示エリア261と第2の表示エリア262の2つの表示エリアに分割し、各表示エリアに対応するフレームメモリ250の第1の領域251と第2の領域252へのデータ書き込みを制御して各表示エリアにおける表示を制御する部分である。つまり、フレームメモリ250の第1の領域251に書き込まれたデータがディスプレイ260の第1の表示エリア261に表示され、フレームメモリ250の第2の領域252に書き込まれたデータがディスプレイ260の第2の表示エリア262に表示されることとなる。このようにフレームメモリへの書き込み領域を制御することによりディスプレイ260の表示画面を分割制御する。
ディスプレイ260の種類は特に限定されない。液晶ディスプレイ、プラズマディスプレイ、有機ELディスプレイ、CRTなど多様なものがある。ここでは、多機能型の携帯電話に多く採用されている小型の液晶ディスプレイとする。
ディスプレイ260の種類は特に限定されない。液晶ディスプレイ、プラズマディスプレイ、有機ELディスプレイ、CRTなど多様なものがある。ここでは、多機能型の携帯電話に多く採用されている小型の液晶ディスプレイとする。
上記のように、映像表示処理部220とキャプション表示処理部230と表示制御部240の制御により、映像データがフレームメモリ250の第1の領域251に、キャプションテキストデータがフレームメモリ250の第2の領域252に、別々に分けて書き込まれるため、ディスプレイ260の第1の表示エリア261において映像が表示され、ディスプレイ260の第2の表示エリア262においてキャプションが表示される。
ここで、キャプションを表示するフレームメモリ250の第2の領域252の大きさを調整し、ディスプレイの第2の表示エリア262の大きさを適度な大きさに制御することにより、表示されるキャプションの大きさを読みやすい程度に大きくすることができる。
ここで、キャプションを表示するフレームメモリ250の第2の領域252の大きさを調整し、ディスプレイの第2の表示エリア262の大きさを適度な大きさに制御することにより、表示されるキャプションの大きさを読みやすい程度に大きくすることができる。
図6は、キャプションが第2の表示エリア262の大きさに合わせて大きく表示される様子を模式的に示す図である。図6(a)は読み取り対象となる記録メディア300に記録されている映像データをそのまま再生した場合の表示画面の様子である。映像フレーム中の映像キャプションはそのまま映像として写り込んでいる。
なお、この例ではディスプレイはほぼ正方形であり、映像フレームはその縦横比から縦方向には短いため、この例では縦方向に余っているエリアがある。
図6(a)の表示画面が携帯電話などの小型ディスプレイに表示された場合、映像キャプションの絶対的大きさが小さ過ぎて読み取るのは難しい場合がある。
図6(b)は本発明のデータ表示装置200によりキャプションを第2の表示エリア262に表示した場合の表示画面の様子である。第1の表示エリア261の映像フレーム中の映像キャプションは図6(a)の場合と同様、小さくて見難いが、第2の表示エリア262にはキャプションテキストデータを基に表示するキャプションが大きく表示され、読み取りやすいものとなっている。
このように、本発明のデータ表示装置200を用いれば、携帯電話のように小型ディスプレイを搭載した携帯型端末であっても利用者が容易にキャプションを読み取ることができる。
なお、この例ではディスプレイはほぼ正方形であり、映像フレームはその縦横比から縦方向には短いため、この例では縦方向に余っているエリアがある。
図6(a)の表示画面が携帯電話などの小型ディスプレイに表示された場合、映像キャプションの絶対的大きさが小さ過ぎて読み取るのは難しい場合がある。
図6(b)は本発明のデータ表示装置200によりキャプションを第2の表示エリア262に表示した場合の表示画面の様子である。第1の表示エリア261の映像フレーム中の映像キャプションは図6(a)の場合と同様、小さくて見難いが、第2の表示エリア262にはキャプションテキストデータを基に表示するキャプションが大きく表示され、読み取りやすいものとなっている。
このように、本発明のデータ表示装置200を用いれば、携帯電話のように小型ディスプレイを搭載した携帯型端末であっても利用者が容易にキャプションを読み取ることができる。
なお、図7および図8は、本発明のデータ表示装置100である携帯電話の小型ディスプレイ260において、第1の表示エリア(映像表示面)と、第2の表示エリア(キャプション表示面)の様子の一例を示した図である。映像表示面は映像コンテンツによりその縦横比が決まっている。キャプション表示面は、小型ディスプレイ260上に映像表示面261を確保した後、余った領域に確保することが好ましい。図7は小型ディスプレイ260を縦置きにして映像表示面261を確保した場合のキャプション表示面の位置の一例を示す図で、図8は小型ディスプレイ260を横置きにして映像表示面261を確保した場合のキャプション表示面の位置の一例を示す図である。なお、図中、291は上部筐体、292は下部筐体、293はスピーカ、294はマイクロフォン、295はキー入力部、296はアンテナを示している。
実施例2にかかる本発明の第2のデータ記録装置は、実施例1に示した第1のデータ記録装置の基本機能を備え、さらに、記録メディア300またはネットワークメディア310から読み取った映像データのデータフォーマットから他のデータフォーマットへ変換する変換処理も行なうものである。
図9は本発明の実施例2にかかる第2のデータ記録装置100aの基本構成例を模式的に示す図である。
映像データ入力部10、フレームメモリ制御部20、文字認識部30、書き込み部40は実施例1の図1に示したものと同様で良い。また、読み込み対象となる記録メディア300および書き込み対象となる記録メディア400も実施例1の図1に示したものと同様で良い。
また、図示しないが、実施例1の図2と同様、映像データ入力部10が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
図9は本発明の実施例2にかかる第2のデータ記録装置100aの基本構成例を模式的に示す図である。
映像データ入力部10、フレームメモリ制御部20、文字認識部30、書き込み部40は実施例1の図1に示したものと同様で良い。また、読み込み対象となる記録メディア300および書き込み対象となる記録メディア400も実施例1の図1に示したものと同様で良い。
また、図示しないが、実施例1の図2と同様、映像データ入力部10が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
図9において、データフォーマット変換部50は、フレームメモリ21に展開された映像データを所望のデータフォーマットに変換しつつ映像データストリームを生成する部分である。生成された映像データストリームは書き込み部40に渡される。例えば、DVDなどの第1の記録メディア300にはMPEG2のデータフォーマットにより記録され、SDカード(TM)やメモリースティック(TM)などの第2の記録メディア400にMPEG4またはH.264などのデータフォーマットで記録する場合、データフォーマット変換部50は映像データのデータフォーマットをMPEG2からMPEG4またはH.264などに変換する。
本発明の第2のデータ記録装置100aの処理の流れは以下のようになる。
映像データ入力部10による記録メディア300からの映像データの読み取り処理、フレームメモリ制御部20によるフレームメモリ21への映像データの書き込み処理に続き、データフォーマット変換部50によるデータフォーマット変換処理までを映像フレームごとに行なう。例えば、データフォーマット変換部50によりMPEG2からH.264のデータフォーマットによるデータストリームに変換される。
文字認識部30による文字認識処理は、実施例1と同様、映像フレームごとには行なわず、所定周期ごとに映像フレームをサンプリングして行なっても良い。
書き込み部40は、データフォーマット変換部50から渡されるデータフォーマット変換後の映像データストリームと、文字認識部30から渡されるキャプションテキストデータと対応情報とを、記録メディア400に書き込む映像データ書き込み処理を行なう。書き込み部40は記録メディア400用の書き込みドライブを備え、記録メディア400に対応する物理フォーマット、論理フォーマットで映像データを記録メディア400に書き込む。
映像データ入力部10による記録メディア300からの映像データの読み取り処理、フレームメモリ制御部20によるフレームメモリ21への映像データの書き込み処理に続き、データフォーマット変換部50によるデータフォーマット変換処理までを映像フレームごとに行なう。例えば、データフォーマット変換部50によりMPEG2からH.264のデータフォーマットによるデータストリームに変換される。
文字認識部30による文字認識処理は、実施例1と同様、映像フレームごとには行なわず、所定周期ごとに映像フレームをサンプリングして行なっても良い。
書き込み部40は、データフォーマット変換部50から渡されるデータフォーマット変換後の映像データストリームと、文字認識部30から渡されるキャプションテキストデータと対応情報とを、記録メディア400に書き込む映像データ書き込み処理を行なう。書き込み部40は記録メディア400用の書き込みドライブを備え、記録メディア400に対応する物理フォーマット、論理フォーマットで映像データを記録メディア400に書き込む。
なお、データ表示装置としては、実施例1に示したものを用いることができる。本発明の第2のデータ記録装置100aにより映像データが書き込まれた記録メディア400をデータ表示装置200により再生することができ、図4のように映像が第1の表示エリア261に表示され、キャプションが第2の表示エリア262に表示される。
上記に示した通り、本発明の第2のデータ記録装置によれば、映像データのデータフォーマットを変換しつつ、キャプションテキストデータと対応情報を併せて記録メディアに書き込むことができ、データ表示装置においてキャプションテキストデータを利用することができる。
上記に示した通り、本発明の第2のデータ記録装置によれば、映像データのデータフォーマットを変換しつつ、キャプションテキストデータと対応情報を併せて記録メディアに書き込むことができ、データ表示装置においてキャプションテキストデータを利用することができる。
本発明の実施例3にかかるデータ記録装置およびデータ表示装置の例を示す。
実施例3のデータ記録装置100bは、実施例1または実施例2に示したデータ記録装置100または100aと同様、映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行するが、実施例3のデータ記録装置100bは、映像中に残存している映像キャプションを消去する機能も備えたものである。実施例1または実施例2で示したように、利用者が読むキャプション自体はキャプションテキストデータを基に第2の表示エリアにおいて大きく表示されるため、映像中に残存している映像キャプションは無駄となり、却って映像を毀損するノイズとなっており、それらは消去することが好ましいからである。
以下の構成例は、実施例2に示したデータフォーマット変換部50を備えた構成例として説明するが、実施例1に示したようにデータフォーマット変換部50を備えていない構成も可能である。
実施例3のデータ記録装置100bは、実施例1または実施例2に示したデータ記録装置100または100aと同様、映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行するが、実施例3のデータ記録装置100bは、映像中に残存している映像キャプションを消去する機能も備えたものである。実施例1または実施例2で示したように、利用者が読むキャプション自体はキャプションテキストデータを基に第2の表示エリアにおいて大きく表示されるため、映像中に残存している映像キャプションは無駄となり、却って映像を毀損するノイズとなっており、それらは消去することが好ましいからである。
以下の構成例は、実施例2に示したデータフォーマット変換部50を備えた構成例として説明するが、実施例1に示したようにデータフォーマット変換部50を備えていない構成も可能である。
図10は本発明の実施例3にかかるデータ記録装置の基本構成例を模式的に示す図である。
図10の構成例において、映像データ入力部10、フレームメモリ制御部20、フレームメモリ21、文字認識部30、文字パターンDB31、データフォーマット変換部50、書き込み部40の各構成要素については、図9に示したものと同様で良い。また、読み込み対象となる記録メディア300および書き込み対象となる記録メディア400も図9に示したものと同様で良い。
また、図示しないが、実施例1の図2と同様、映像データ入力部10が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
図10の構成例において、映像データ入力部10、フレームメモリ制御部20、フレームメモリ21、文字認識部30、文字パターンDB31、データフォーマット変換部50、書き込み部40の各構成要素については、図9に示したものと同様で良い。また、読み込み対象となる記録メディア300および書き込み対象となる記録メディア400も図9に示したものと同様で良い。
また、図示しないが、実施例1の図2と同様、映像データ入力部10が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
図10において、映像キャプション消去部60は、フレームメモリ21に展開された映像データにおいて映像キャプションを探索し、映像キャプションを映像中から消去する部分である。
なお、映像キャプションの探索処理については、映像キャプション消去部60が自ら行なっても良いし、文字認識部30が文字認識処理の過程の探索処理において得ている映像キャプション領域情報の通知を受けても良い。後者の場合、図10には図示しないが文字認識部30から映像キャプション消去部60に対して映像キャプション領域情報の通知が行なわれる。
映像中に写り込んでいる映像キャプションの消去処理とは、映像キャプションの文字輪郭の内側の画素を0値とする意味ではなく、理想的には映像キャプションが映像中に書き込まれる前の原映像に戻すことを意味する。映像キャプション消去部60が原映像データを外部から入手することができれば当該原映像データを映像キャプション消去後の映像データとして用いれば良い。映像キャプション消去部60が、映像キャプションが映像として写り込んでいる映像データしか利用できない場合は、当該映像データを処理して映像キャプションを消去しなければならないが、映像キャプションで覆われた部分の元の映像が分からないので、映像キャプションの周囲の映像から映像キャプションで覆われた部分の元の映像を推定するしかない。
なお、映像キャプションの探索処理については、映像キャプション消去部60が自ら行なっても良いし、文字認識部30が文字認識処理の過程の探索処理において得ている映像キャプション領域情報の通知を受けても良い。後者の場合、図10には図示しないが文字認識部30から映像キャプション消去部60に対して映像キャプション領域情報の通知が行なわれる。
映像中に写り込んでいる映像キャプションの消去処理とは、映像キャプションの文字輪郭の内側の画素を0値とする意味ではなく、理想的には映像キャプションが映像中に書き込まれる前の原映像に戻すことを意味する。映像キャプション消去部60が原映像データを外部から入手することができれば当該原映像データを映像キャプション消去後の映像データとして用いれば良い。映像キャプション消去部60が、映像キャプションが映像として写り込んでいる映像データしか利用できない場合は、当該映像データを処理して映像キャプションを消去しなければならないが、映像キャプションで覆われた部分の元の映像が分からないので、映像キャプションの周囲の映像から映像キャプションで覆われた部分の元の映像を推定するしかない。
そこで、本実施例3のデータ記録装置100bでは以下の擬似消去処理を行なう。映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、映像キャプションが書かれていた部分を周囲の映像部分とシームレスにつなげて目立たないものとすることにより擬似的に消去する。もともと映像キャプションを構成する文字は細い線分より構成されているので、このような擬似消去処理でも十分な効果が得られる。
ここで、対向し合う文字輪郭エッジを選択する方法は特に限定されないが、処理時間の短縮も考慮し、例えば、水平方向にスキャンして対向し合う文字輪郭エッジを順次選択する方式、垂直方向にスキャンして対向し合う文字輪郭エッジを順次選択する方式などを採用することができる。
ここで、対向し合う文字輪郭エッジを選択する方法は特に限定されないが、処理時間の短縮も考慮し、例えば、水平方向にスキャンして対向し合う文字輪郭エッジを順次選択する方式、垂直方向にスキャンして対向し合う文字輪郭エッジを順次選択する方式などを採用することができる。
なお、バッファメモリなどを用いずにフレームメモリに展開された映像データのみに基づいて文字認識処理と映像キャプション消去処理とデータフォーマット変換処理を行なう場合、映像キャプション消去部60の映像キャプション消去処理を文字認識部30による文字認識処理後でデータフォーマット変換部50によるデータフォーマット変換処理前に行なうことができる。文字認識部30または映像キャプション消去部60が図示しないバッファメモリを備えて用いる場合、フレームメモリ21から当該バッファメモリに転送した映像データに基づいて文字認識処理または映像キャプション消去処理を行なうことができ、文字認識処理と映像キャプション消去処理を並行処理することができる。
データ表示装置としては、実施例1に示したものを用いることができる。本発明の第2のデータ記録装置100bにより映像データが書き込まれた記録メディア400をデータ表示装置200により再生することができる。
図11は映像キャプション消去部60による映像キャプション消去処理の効果を示す図である。図11(b)と図6(b)を比較すると分かるように、データ表示装置200のディスプレイ260の表示画面の第1の表示エリア261に表示される映像において映像キャプションが擬似的に消去されている。キャプションはキャプションテキストデータに基づいて第2の表示エリア262に大きく表示される。
図11は映像キャプション消去部60による映像キャプション消去処理の効果を示す図である。図11(b)と図6(b)を比較すると分かるように、データ表示装置200のディスプレイ260の表示画面の第1の表示エリア261に表示される映像において映像キャプションが擬似的に消去されている。キャプションはキャプションテキストデータに基づいて第2の表示エリア262に大きく表示される。
本発明の実施例4にかかるデータ表示装置の例を示す。
実施例4のデータ表示装置は、映像キャプションが写り込んでいる映像コンテンツの映像データを取り込み、自ら映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行し、映像をディスプレイの第1の表示エリアに、キャプションを第2の表示エリアに表示する装置である。データ表示装置200aは小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
実施例4のデータ表示装置は、映像キャプションが写り込んでいる映像コンテンツの映像データを取り込み、自ら映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行し、映像をディスプレイの第1の表示エリアに、キャプションを第2の表示エリアに表示する装置である。データ表示装置200aは小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
図12および図13は本発明の実施例4にかかるデータ表示装置200aの基本構成例を模式的に示す図である。
図12において、記録メディア500は特に限定されないが、携帯型の小型記録メディアが想定される。例えば、メモリースティック(TM)、コンパクトフラッシュカード(TM)、スマートメディアカード(TM)、SDカード(TM)などの携帯型小型記録メディアが想定される。この記録メディア500には外国映画など映像キャプションが書き込まれている状態の映像データが記録されているものとする。この例では映像データは小型記録メディア500に適した物理フォーマット、論理フォーマット(例えばMPEG4やH.264)で記録されているものとする。
図12において、記録メディア500は特に限定されないが、携帯型の小型記録メディアが想定される。例えば、メモリースティック(TM)、コンパクトフラッシュカード(TM)、スマートメディアカード(TM)、SDカード(TM)などの携帯型小型記録メディアが想定される。この記録メディア500には外国映画など映像キャプションが書き込まれている状態の映像データが記録されているものとする。この例では映像データは小型記録メディア500に適した物理フォーマット、論理フォーマット(例えばMPEG4やH.264)で記録されているものとする。
実施例4のデータ表示装置200aは、映像データ入力装置として、映像データ入力部210を備えている。映像データ入力部210は、記録メディア500に対応している読み取り装置である。記録メディア500に対応する物理インタフェースおよび論理インタフェースを備えている。映像データ入力部210は記録メディア500から映像データを読み取り、映像表示処理部220に渡す。
また、図13の例では、映像データ入力部210は、地上波デジタル放送や衛星放送を受信する機能やインターネットなどのネットワークメディア310にアクセスする機能を備え、ネットワークメディア310との通信インタフェースを持っている。映像データ入力部210はネットワークメディア310から映像データを次々とダウンロードして取り込み、フレームメモリ制御部20に渡して行く。なお、映像データ入力部10はチューニング機能を備え、チャンネル選択などができることが好ましい。このネットワークメディア310の接続先には外国映画など映像キャプションが書き込まれている状態の映像データが格納されており、当該映像データをダウンロードできるものとする。
例えば、利用者は映像データ入力部210のユーザインタフェースを介して地上波デジタル放送の受信したいチャンネルに合わせ、受信先システムのアプリケーションを介して映画やテレビ番組などの映像コンテンツの映像データを取り込む。また、例えば、無線や有線によりインターネットに接続し、インターネット経由のネットワーク通信により接続先先システムのアプリケーションを介して映画やテレビ番組などの映像コンテンツの映像データを取り込む。なお、取り込まれる映像データはMPEG4やH.264などのデータフォーマットのものとする。
また、図13の例では、映像データ入力部210は、地上波デジタル放送や衛星放送を受信する機能やインターネットなどのネットワークメディア310にアクセスする機能を備え、ネットワークメディア310との通信インタフェースを持っている。映像データ入力部210はネットワークメディア310から映像データを次々とダウンロードして取り込み、フレームメモリ制御部20に渡して行く。なお、映像データ入力部10はチューニング機能を備え、チャンネル選択などができることが好ましい。このネットワークメディア310の接続先には外国映画など映像キャプションが書き込まれている状態の映像データが格納されており、当該映像データをダウンロードできるものとする。
例えば、利用者は映像データ入力部210のユーザインタフェースを介して地上波デジタル放送の受信したいチャンネルに合わせ、受信先システムのアプリケーションを介して映画やテレビ番組などの映像コンテンツの映像データを取り込む。また、例えば、無線や有線によりインターネットに接続し、インターネット経由のネットワーク通信により接続先先システムのアプリケーションを介して映画やテレビ番組などの映像コンテンツの映像データを取り込む。なお、取り込まれる映像データはMPEG4やH.264などのデータフォーマットのものとする。
映像表示処理部220は、実施例1のものと同様、映像データ入力部210から渡された映像データを受け取り、表示制御部240の表示制御に従い、フレームメモリ250の第1の領域251に映像データを展開する。
データ表示装置200aが備える表示制御部240、フレームメモリ250、フレームメモリの第1の領域251、第2の領域252、ディスプレイ260、ディスプレイの第1の表示エリア261、第2の表示エリア262は、実施例1で説明したものと同様で良い。実施例1の場合と同様、表示制御部240がフレームメモリ250への書き込み領域を制御することによりディスプレイ260の表示画面を分割制御する。また、実施例1と同様、キャプションを表示するフレームメモリ250の第2の領域252の容量を調整し、ディスプレイの第2の表示エリアの大きさを適度な大きさに制御することにより、表示されるキャプションの大きさを読みやすい程度に大きくすることができる。
データ表示装置200aが備える表示制御部240、フレームメモリ250、フレームメモリの第1の領域251、第2の領域252、ディスプレイ260、ディスプレイの第1の表示エリア261、第2の表示エリア262は、実施例1で説明したものと同様で良い。実施例1の場合と同様、表示制御部240がフレームメモリ250への書き込み領域を制御することによりディスプレイ260の表示画面を分割制御する。また、実施例1と同様、キャプションを表示するフレームメモリ250の第2の領域252の容量を調整し、ディスプレイの第2の表示エリアの大きさを適度な大きさに制御することにより、表示されるキャプションの大きさを読みやすい程度に大きくすることができる。
実施例4のデータ表示装置200aは文字認識部30を備えている。文字認識部30は実施例1のものと同様のもので良い。文字認識部30によりフレームメモリの第1の領域251に展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータを生成する。文字認識部30は生成したキャプションテキストデータをキャプション表示処理部230に渡す。
なお、図12および図13の構成例では、文字認識部30はフレームメモリの第1の領域251から映像データを読み込む形となっているが、映像表示処理部220から映像データを受け取る構成としても良い。
なお、図12および図13の構成例では、文字認識部30はフレームメモリの第1の領域251から映像データを読み込む形となっているが、映像表示処理部220から映像データを受け取る構成としても良い。
上記の映像表示処理部220および表示制御部240によるフレームメモリ251への映像データの書き込み処理を映像フレームごとに行なうが、文字認識部30による文字認識処理については映像フレームごとには行なわず、所定周期ごとに映像フレームをサンプリングして行なう。映像キャプションは人が目で読み取るという性質上、一定の時間は必要であり、長短はあるものの複数のフレームにわたり同じ映像キャプションが付されていることとなる。そのため、すべてのフレームについて文字認識処理を行なうことはリソースの浪費となる場合がある。ここでは特に、データ表示装置200aは携帯電話などの小型の携帯端末が想定され、リソースの節約は重要である。そこで、映像キャプションが2回以上切り替わる恐れのない間隔(例えば、1秒間隔や2秒間隔)でサンプリングしたフレームについて文字認識処理を行なえば良い。
キャプション表示処理部230は、実施例1のものと同様で良いが、ここでは文字認識部30からキャプションテキストデータを受け取り、表示制御部240の表示制御に従い、キャプションテキストデータをフレームメモリ250の第2の領域252に展開する。キャプションテキストデータのフレームメモリ250の第2の領域252への展開にあたり、当該第2の領域252の容量(ディスプレイ260の第2の表示エリアの大きさ)に合わせてキャプションテキストデータが表示できるように文字ポイント数を調整して展開する。
上記のように、映像表示処理部220とキャプション表示処理部230と表示制御部240の制御により、映像データがフレームメモリ250の第1の領域251に、キャプションテキストデータがフレームメモリ250の第2の領域252に、別々に分けて書き込まれるため、ディスプレイ260の第1の表示エリア261において映像が表示され、ディスプレイ260の第2の表示エリア262においてキャプションが表示される。ここで、表示されるキャプションは第2の表示エリア262の大きさに合わせて大きく表示されるのでキャプションが読みやすくなる。
データ表示装置200aのディスプレイ260に表示される映像およびキャプションは図6(b)に示すものと同様のものとなる。
データ表示装置200aのディスプレイ260に表示される映像およびキャプションは図6(b)に示すものと同様のものとなる。
本発明の実施例5にかかるデータ表示装置の例を示す。
実施例5のデータ表示装置は、実施例4に示したデータ表示装置と同様、映像キャプションが写り込んでいる映像コンテンツの映像データを取り込み、自ら映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行し、映像をディスプレイの第1の表示エリアに、キャプションを第2の表示エリアに表示する装置であるが、実施例5のデータ表示装置は、映像中に残存している映像キャプションを消去する機能も備えたものである。実施例5のデータ表示装置も小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
実施例5のデータ表示装置は、実施例4に示したデータ表示装置と同様、映像キャプションが写り込んでいる映像コンテンツの映像データを取り込み、自ら映像キャプションの文字認識によるキャプションテキストデータの生成処理を実行し、映像をディスプレイの第1の表示エリアに、キャプションを第2の表示エリアに表示する装置であるが、実施例5のデータ表示装置は、映像中に残存している映像キャプションを消去する機能も備えたものである。実施例5のデータ表示装置も小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
図14および図15は本発明の実施例5にかかるデータ表示装置200bの基本構成例を模式的に示す図である。
図14の構成例において、映像データ入力部210、映像表示処理部220、キャプション表示処理部230、文字認識部30、表示制御部240、フレームメモリ250、ディスプレイ260の各構成要素については、実施例4の図12に示したものと同様で良い。なお、図14の構成例では、文字認識部30はフレームメモリの第1の領域251から映像データを読み込む形となっているが、映像表示処理部220から映像データを受け取る構成としても良い。
また、図15に示すように、実施例4の図13と同様、映像データ入力部210が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
図14の構成例において、映像データ入力部210、映像表示処理部220、キャプション表示処理部230、文字認識部30、表示制御部240、フレームメモリ250、ディスプレイ260の各構成要素については、実施例4の図12に示したものと同様で良い。なお、図14の構成例では、文字認識部30はフレームメモリの第1の領域251から映像データを読み込む形となっているが、映像表示処理部220から映像データを受け取る構成としても良い。
また、図15に示すように、実施例4の図13と同様、映像データ入力部210が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
映像キャプション消去部60は、フレームメモリ250の第1の領域251に展開された映像データにおいて映像キャプションを探索し、映像キャプションを映像中から消去する部分である。
なお、映像キャプションの探索処理については、映像キャプション消去部60が自ら行なっても良いし、文字認識部30が文字認識処理の過程の探索処理において得ている映像キャプション領域情報の通知を受けても良い。後者の場合、図14には図示しないが文字認識部30から映像キャプション消去部60に対して映像キャプション領域情報の通知が行なわれる。
映像中に写り込んでいる映像キャプションの消去処理とは、実施例3で説明したように、理想的には映像キャプションが映像中に書き込まれる前の原映像に戻すことを意味するが、この例では映像キャプションの周囲の映像から映像キャプションで覆われた部分の元の映像を推定し、擬似消去処理を行なうものとする。
なお、映像キャプションの探索処理については、映像キャプション消去部60が自ら行なっても良いし、文字認識部30が文字認識処理の過程の探索処理において得ている映像キャプション領域情報の通知を受けても良い。後者の場合、図14には図示しないが文字認識部30から映像キャプション消去部60に対して映像キャプション領域情報の通知が行なわれる。
映像中に写り込んでいる映像キャプションの消去処理とは、実施例3で説明したように、理想的には映像キャプションが映像中に書き込まれる前の原映像に戻すことを意味するが、この例では映像キャプションの周囲の映像から映像キャプションで覆われた部分の元の映像を推定し、擬似消去処理を行なうものとする。
なお、バッファメモリなどを用いずにフレームメモリに展開された映像データのみに基づいて文字認識処理と映像キャプション消去処理を行なう場合は、映像キャプション消去部60の映像キャプション消去処理は、文字認識部30による文字認識処理後に行なう必要がある。文字認識部30または映像キャプション消去部60が図示しないバッファメモリを備えて用いる場合、フレームメモリ250から当該バッファメモリに転送した映像データに基づいて文字認識処理または映像キャプション消去処理を行なうことができ、文字認識処理と映像キャプション消去処理を並行処理することができる。
データ表示装置200bのディスプレイ260に表示される映像およびキャプションは図11(b)に示すものと同様のものとなり、ディスプレイ260の表示画面の第1の表示エリア261に表示される映像において映像キャプションが擬似的に消去されている。
データ表示装置200bのディスプレイ260に表示される映像およびキャプションは図11(b)に示すものと同様のものとなり、ディスプレイ260の表示画面の第1の表示エリア261に表示される映像において映像キャプションが擬似的に消去されている。
本発明の実施例6にかかるデータ表示装置の例を示す。
実施例6のデータ表示装置は、映像キャプションが写り込んでいる映像コンテンツの映像データを取り込み、映像キャプション部分を第2の表示エリア262の大きさに合わせた縦横倍率で拡大し、映像をディスプレイの第1の表示エリアに、拡大した映像キャプションを第2の表示エリアに表示する装置である。キャプションテキストデータの生成は行なわず、映像キャプションは映像として拡大する。実施例1から実施例5のいずれかに記載のデータ表示装置とは異なり、映像キャプションの文字認識処理を行なわないので処理負荷が小さく、少ないリソースで高速処理ができる。
実施例6のデータ表示装置も小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
実施例6のデータ表示装置は、映像キャプションが写り込んでいる映像コンテンツの映像データを取り込み、映像キャプション部分を第2の表示エリア262の大きさに合わせた縦横倍率で拡大し、映像をディスプレイの第1の表示エリアに、拡大した映像キャプションを第2の表示エリアに表示する装置である。キャプションテキストデータの生成は行なわず、映像キャプションは映像として拡大する。実施例1から実施例5のいずれかに記載のデータ表示装置とは異なり、映像キャプションの文字認識処理を行なわないので処理負荷が小さく、少ないリソースで高速処理ができる。
実施例6のデータ表示装置も小型の携帯型端末を想定しており、ここでは、例えば、多機能型の携帯電話とする。
図16または図17は本発明の実施例6にかかるデータ表示装置200cの基本構成例を模式的に示す図である。
図16の構成例において、映像データ入力部210、映像表示処理部220、表示制御部240、フレームメモリ250、ディスプレイ260、映像キャプション消去部60の各構成要素については、実施例5の図14に示したものと同様で良い。
また、図17に示すように、実施例5の図15と同様、映像データ入力部210が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
図16の構成例において、映像データ入力部210、映像表示処理部220、表示制御部240、フレームメモリ250、ディスプレイ260、映像キャプション消去部60の各構成要素については、実施例5の図14に示したものと同様で良い。
また、図17に示すように、実施例5の図15と同様、映像データ入力部210が通信インタフェースを備え、ネットワークメディア310にアクセスする機能を持ち、ネットワークメディア310から映像データをダウンロードするものであっても良い。
キャプション表示処理部230aは、フレームメモリの第1の領域251に展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、映像データ中の映像キャプション領域を認識し、表示制御部240の表示制御に従い、映像キャプション領域の映像データを第2の表示エリア262の大きさに合わせた縦横倍率で拡大しつつフレームメモリの第2の領域252に複製展開する部分である。
図18はキャプション表示処理部230aによる映像キャプションの拡大処理の概念を模式的に示す図である。
図18(a)は記録メディア500に記録された映像データまたはネットワークメディア310からダウンロードした映像データをそのまま表示した場合の映像である。映像表示処理部220によりこの映像データがフレームメモリ250の第1の領域251に展開されている。映像中、最下部に映像キャプションが書き込まれている。
まず、キャプション表示処理部230aは、フレームメモリの第1の領域251上に展開されている映像中、映像キャプションの図形パターンが含まれている映像キャプション領域を探索する。なお、当該探索について学習機能を有することが好ましい。映像キャプションは映像面の下縁部分など一定の個所に書き込まれていることが通例であり、学習効果が高く得られ、映像面全面を毎回探索する必要性はないからである。
図18(a)は記録メディア500に記録された映像データまたはネットワークメディア310からダウンロードした映像データをそのまま表示した場合の映像である。映像表示処理部220によりこの映像データがフレームメモリ250の第1の領域251に展開されている。映像中、最下部に映像キャプションが書き込まれている。
まず、キャプション表示処理部230aは、フレームメモリの第1の領域251上に展開されている映像中、映像キャプションの図形パターンが含まれている映像キャプション領域を探索する。なお、当該探索について学習機能を有することが好ましい。映像キャプションは映像面の下縁部分など一定の個所に書き込まれていることが通例であり、学習効果が高く得られ、映像面全面を毎回探索する必要性はないからである。
次に、キャプション表示処理部230aは、映像キャプション領域の映像データを、表示制御部240の表示制御に従い、フレームメモリの第2の領域252に複製展開するが、この際に、映像キャプション領域の映像データを第2の表示エリアの大きさに合わせて縦方向、横方向に拡大して複製展開する。例えば、第2の表示エリア262の縦方向のドット数がA0、横方向のドット数がB0とする。これらのドット数は一定となる。記録メディアから読み込んだ映像フレーム中の映像キャプション領域のドット数は映像フレームごとに異なるが、或る映像フレームの縦方向のドット数がA1、横方向のドット数がB1である場合、縦方向の拡大率はA0/A1となり、横方向の拡大率はB0/B1となる。映像キャプション領域の映像をこの縦横拡大率で拡大しつつフレームメモリの第2の領域252に複製展開することにより、映像キャプションをディスプレイの第2の表示エリア262の大きさに合わせた拡大表示を行なう。
図18(b)に映像キャプションが第2の表示エリアに拡大表示された様子を示す。映像として拡大しているので背景の映像も拡大された形で表示されている。なお、この構成例では、データ表示装置200cは映像キャプション消去部60を備えており、ディスプレイの第1の表示エリアには映像キャプションが消去された映像が表示されている。
図18(b)に映像キャプションが第2の表示エリアに拡大表示された様子を示す。映像として拡大しているので背景の映像も拡大された形で表示されている。なお、この構成例では、データ表示装置200cは映像キャプション消去部60を備えており、ディスプレイの第1の表示エリアには映像キャプションが消去された映像が表示されている。
なお、キャプション表示処理部230aはフレームメモリの第1の領域251から映像フレームごとに取り込んで映像キャプションの拡大処理を行なっても良く、映像フレームごとには行なわず、所定周期ごとに映像フレームをサンプリングして行なっても良い。実施例1で説明したように、映像キャプションは人が目で読み取るという性質上、長短はあるものの複数のフレームにわたり同じ映像キャプションが付されていることとなる。そのため、すべてのフレームについて拡大処理を行なって第2の領域252に書き込み処理を行なうことはリソースの浪費となる場合がある。そこで、映像キャプションが2回以上切り替わる恐れのない間隔(例えば、1秒間隔や2秒間隔)でサンプリングしたフレームについて拡大処理および書き込み処理を行なえば良い。
また、上記説明では、キャプション表示処理部230aはフレームメモリの第1の領域251から映像データを読み込む形となっているが、映像表示処理部220から映像データを受け取る構成としても良い。
また、上記説明では、キャプション表示処理部230aはフレームメモリの第1の領域251から映像データを読み込む形となっているが、映像表示処理部220から映像データを受け取る構成としても良い。
なお、上記実施例の説明においては、キャプションテキストデータを基にディスプレイの第2の表示エリアに表示されるキャプションが常に表示されているが、利用者の選択により、ディスプレイの第2の表示エリアへのキャプションの表示/非表示の選択が可能とすることができる。表示/非表示の選択情報を図示しないユーザインタフェースを介してキャプション表示処理部230に与え、キャプション表示処理部230がフレームメモリの第2の領域252への書き込みを制御すれば良い。
また、キャプションテキストデータを基にディスプレイの第2の表示エリアに表示されるキャプションの大きさの指定や調整、字体の指定や調整、色の指定や調整を可能とすることができる。映像に書き込まれた映像キャプションではなく、キャプションテキストデータを基に表示するのでキャプション表示処理部230によりこれらの調整を行なった上、フレームメモリの第2の領域252に書き込めば良い。
また、キャプションテキストデータを基にディスプレイの第2の表示エリアに表示されるキャプションの大きさの指定や調整、字体の指定や調整、色の指定や調整を可能とすることができる。映像に書き込まれた映像キャプションではなく、キャプションテキストデータを基に表示するのでキャプション表示処理部230によりこれらの調整を行なった上、フレームメモリの第2の領域252に書き込めば良い。
本発明のデータ記録装置は、ある記録メディアの映像データを読み出して別の記録メディアに書き込む用途で用いるAV機器などに適用することができる。例えば、DVD用ドライブと、メモリースティック(TM)やSDカード(TM)などの小型記録メディア用ドライブの2つのドライブを備え、DVDなどの大型記録メディアに記録されている映像データを、小型記録メディアに記録するDVDプレーヤーなどに適用できる。
また、本発明のデータ記録装置は、受信機能を備え、ネットワークメディアから映像データをダウンロードして記録メディアに書き込む用途で用いるAV機器などに適用することができる。例えば、地上波デジタル放送や衛星放送やインターネットなどの受信機能と、受信した映像データを内蔵ハードディスクなどに一時的に録画する録画機能と、録画した映像データを小型記録メディアにアップダビングする機能を備えたAV機器などに適用できる。
本発明のデータ表示装置は、小型記録メディア用ドライブと小型ディスプレイを備えた携帯型端末などに適用することができる。例えば、メモリースティック(TM)やSDカード(TM)などの小型記録メディア用ドライブを備えた液晶ディスプレイ付き携帯電話などへ適用できる。小型記録メディアに記録された外国映画など映像キャプションが書き込まれている映像データを読み込んで、小型ディスプレイに再生表示する携帯電話などに適用することができる。
また、本発明のデータ表示装置は、受信機能を備えてネットワークメディアから映像データをダウンロードし、小型ディスプレイに表示する機能を備えた携帯型端末などに適用することができる。例えば、地上波デジタル放送や衛星放送やインターネットなどの受信機能と、外国映画など映像キャプションが書き込まれている映像データを読み込んで小型ディスプレイに再生表示する機能を備えた携帯電話などに適用することができる。
また、本発明のデータ記録装置は、受信機能を備え、ネットワークメディアから映像データをダウンロードして記録メディアに書き込む用途で用いるAV機器などに適用することができる。例えば、地上波デジタル放送や衛星放送やインターネットなどの受信機能と、受信した映像データを内蔵ハードディスクなどに一時的に録画する録画機能と、録画した映像データを小型記録メディアにアップダビングする機能を備えたAV機器などに適用できる。
本発明のデータ表示装置は、小型記録メディア用ドライブと小型ディスプレイを備えた携帯型端末などに適用することができる。例えば、メモリースティック(TM)やSDカード(TM)などの小型記録メディア用ドライブを備えた液晶ディスプレイ付き携帯電話などへ適用できる。小型記録メディアに記録された外国映画など映像キャプションが書き込まれている映像データを読み込んで、小型ディスプレイに再生表示する携帯電話などに適用することができる。
また、本発明のデータ表示装置は、受信機能を備えてネットワークメディアから映像データをダウンロードし、小型ディスプレイに表示する機能を備えた携帯型端末などに適用することができる。例えば、地上波デジタル放送や衛星放送やインターネットなどの受信機能と、外国映画など映像キャプションが書き込まれている映像データを読み込んで小型ディスプレイに再生表示する機能を備えた携帯電話などに適用することができる。
10 映像データ入力部
20 フレームメモリ制御部
21 フレームメモリ
30 文字認識部
31 文字パターンDB
40 データフォーマット変換部
50 書き込み部
60 映像キャプション消去部
100,100a,100b データ記録装置
200,200a,200b,200c データ表示装置
210 映像データ入力部
220 映像表示処理部
230,230a キャプション表示処理部
240 表示制御部
250 フレームメモリ
251 第1の領域
252 第2の領域
260 ディスプレイ
261 第1の表示エリア
262 第2の表示エリア
291 上部筐体
292 下部筐体
293 スピーカ
294 マイクロフォン
295 キー入力部
296 アンテナ
300 第1の記録メディア
400 第2の記録メディア
500 記録メディア
20 フレームメモリ制御部
21 フレームメモリ
30 文字認識部
31 文字パターンDB
40 データフォーマット変換部
50 書き込み部
60 映像キャプション消去部
100,100a,100b データ記録装置
200,200a,200b,200c データ表示装置
210 映像データ入力部
220 映像表示処理部
230,230a キャプション表示処理部
240 表示制御部
250 フレームメモリ
251 第1の領域
252 第2の領域
260 ディスプレイ
261 第1の表示エリア
262 第2の表示エリア
291 上部筐体
292 下部筐体
293 スピーカ
294 マイクロフォン
295 キー入力部
296 アンテナ
300 第1の記録メディア
400 第2の記録メディア
500 記録メディア
Claims (7)
- 映像データを取り込んで記録メディアに記録するデータ記録装置であって、
映像データを取り込む映像データ入力部と、
フレームメモリを備え、前記映像データ入力部から取り込んだ映像データを前記フレームメモリに展開するフレームメモリ制御部と、
前記フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータと、当該キャプションテキストデータと前記映像データとの対応情報とを生成する文字認識部と、
前記フレームメモリから前記映像データを受け、前記文字認識部から前記キャプションテキストデータと前記対応情報とを受け、それらを前記記録メディアに書き込む書き込み部を備えたデータ記録装置。 - 映像データを取り込んで記録メディアに記録するデータ記録装置であって、
映像データを取り込む映像データ入力部と、
フレームメモリを備え、前記映像データ入力部から取り込んだ映像データを前記フレームメモリに展開するフレームメモリ制御部と、
前記フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータと、当該キャプションテキストデータと前記映像データとの対応情報とを生成する文字認識部と、
前記フレームメモリに展開された映像データを所望のデータフォーマットに変換するデータフォーマット変換部と、
前記データフォーマット変換部から前記データフォーマット変換後の映像データを受け、前記文字認識部から前記キャプションテキストデータと前記対応情報とを受け、それらを前記記録メディアに書き込む書き込み部を備えたデータ記録装置。 - 前記フレームメモリに展開された映像データにおいて、前記映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、前記映像キャプションを消去する映像キャプション消去部を備えた請求項1または2に記載のデータ記録装置。
- 映像コンテンツを表示するデータ表示装置であって、
映像データとキャプションテキストデータとそれらの対応情報を取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
フレームメモリを備え、前記ディスプレイの表示エリアを少なくとも第1の表示エリアと第2の表示エリアの2つの表示エリアに分割し、各表示エリアに対応するフレームメモリの第1の領域と第2の領域へのデータ書き込みを制御して各表示エリアにおける表示を制御する表示制御部と、
前記表示制御部の表示制御に従い、前記映像データ入力部から取り込んだ前記映像データを読み込んで前記フレームメモリの第1の領域に展開する映像表示処理部と、
前記表示制御部の表示制御に従い、前記映像データ入力部から取り込んだ前記キャプションテキストデータと前記対応情報を読み込んで、前記対応情報に基づいて前記フレームメモリの第1の領域に展開されている映像データに対応するキャプションテキストデータを選択して前記フレームメモリの第2の領域に展開するキャプション表示処理部とを備え、
前記ディスプレイの第1の表示エリアにおいて前記映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記キャプションが表示されるデータ表示装置。 - 映像データを取り込んで映像コンテンツを表示するデータ表示装置であって、
映像データを取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
文字認識用フレームメモリと、映像表示用フレームメモリと、キャプション表示用フレームメモリと、
前記映像データ入力部から取り込んだ映像データストリームを、フレームごとに前記映像表示用フレームメモリに展開する機能と、所定周期でサンプリングして前記文字認識用フレームメモリに展開する機能とを備えた制御部と、
前記映像表示用フレームメモリに展開されたデータに基づいて前記ディスプレイの第1の表示エリアへの映像表示を制御する映像表示制御部と、
前記文字認識用フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析し、その文字認識を行なってキャプションテキストデータを生成する文字認識部と、
前記文字認識部が認識したキャプションテキストデータに基づいて前記ディスプレイの第2の表示エリアへのキャプションテキスト表示を制御するキャプション表示制御部とを備えたデータ表示装置。 - 前記映像表示用フレームメモリに展開された映像データ中の映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、前記映像キャプションを消去する映像キャプション消去部を備え、
前記ディスプレイの第1の表示エリアにおいて前記映像キャプションが消去された映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記キャプションが表示される請求項5に記載のデータ表示装置。 - 映像データを取り込んで映像コンテンツを表示するデータ表示装置であって、
映像データを取り込む映像データ入力部と、
映像コンテンツを表示するディスプレイと、
映像表示用フレームメモリと、キャプション表示用フレームメモリと、
前記映像データ入力部から取り込んだ映像データストリームを、フレームごとに前記映像表示用フレームメモリに展開する機能を備えた制御部と、
前記映像表示用フレームメモリに展開されたデータに基づいて前記ディスプレイの第1の表示エリアへの映像表示を制御する映像表示制御部と、
前記映像表示用フレームメモリに展開された映像データ中に映像として書き込まれている映像キャプションを図形として解析して前記映像データ中の映像キャプション領域を認識し、前記映像キャプション領域の映像データを前記ディスプレイの第2の表示エリアの大きさに合わせた縦横倍率で拡大しつつ前記キャプション表示用フレームメモリに複製展開するキャプション表示制御部と、
前記映像表示用フレームメモリに展開された映像データ中の映像キャプションの文字輪郭の内側を、対向し合う文字輪郭エッジの画素間のグラデーションにより埋め、前記映像キャプションを消去する映像キャプション消去部を備え、
前記ディスプレイの第1の表示エリアにおいて前記映像キャプションが消去された映像が表示され、前記ディスプレイの第2の表示エリアにおいて前記縦横倍率で拡大されたキャプションが表示されるデータ表示装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003353850A JP2005123726A (ja) | 2003-10-14 | 2003-10-14 | データ記録装置およびデータ表示装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003353850A JP2005123726A (ja) | 2003-10-14 | 2003-10-14 | データ記録装置およびデータ表示装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2005123726A true JP2005123726A (ja) | 2005-05-12 |
Family
ID=34612021
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2003353850A Pending JP2005123726A (ja) | 2003-10-14 | 2003-10-14 | データ記録装置およびデータ表示装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2005123726A (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2009057563A1 (ja) * | 2007-11-02 | 2009-05-07 | Sony Corporation | 情報提示装置及び情報提示方法 |
| WO2010055560A1 (ja) * | 2008-11-12 | 2010-05-20 | 富士通株式会社 | テロップ移動処理装置、方法及びプログラム |
| CN119232863A (zh) * | 2024-09-25 | 2024-12-31 | 北京优酷科技有限公司 | 字幕生成方法、展示方法、电子设备及存储介质 |
-
2003
- 2003-10-14 JP JP2003353850A patent/JP2005123726A/ja active Pending
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2009057563A1 (ja) * | 2007-11-02 | 2009-05-07 | Sony Corporation | 情報提示装置及び情報提示方法 |
| JP2009117987A (ja) * | 2007-11-02 | 2009-05-28 | Sony Corp | 情報提示装置及び情報提示方法 |
| WO2010055560A1 (ja) * | 2008-11-12 | 2010-05-20 | 富士通株式会社 | テロップ移動処理装置、方法及びプログラム |
| CN102210162A (zh) * | 2008-11-12 | 2011-10-05 | 富士通株式会社 | 反射式字幕移动处理装置、方法以及程序 |
| JP5267568B2 (ja) * | 2008-11-12 | 2013-08-21 | 富士通株式会社 | テロップ移動処理装置、方法及びプログラム |
| CN102210162B (zh) * | 2008-11-12 | 2014-01-29 | 富士通株式会社 | 反射式字幕移动处理装置、方法 |
| CN119232863A (zh) * | 2024-09-25 | 2024-12-31 | 北京优酷科技有限公司 | 字幕生成方法、展示方法、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6683649B1 (en) | Method and apparatus for creating a multimedia presentation from heterogeneous media objects in a digital imaging device | |
| US6738075B1 (en) | Method and apparatus for creating an interactive slide show in a digital imaging device | |
| US7337403B2 (en) | Method and apparatus for editing heterogeneous media objects in a digital imaging device | |
| US7855724B2 (en) | Transitioning between two high resolution images in a slideshow | |
| US20050174457A1 (en) | Image sensing apparatus and its control method | |
| RU2008136457A (ru) | Просмотр видео с использованием уменьшенного изображения | |
| JPH104535A5 (ja) | ||
| JP4311194B2 (ja) | 画像再生装置および画像再生方法 | |
| KR101327298B1 (ko) | 동화상 처리 장치, 섬네일 화상 생성 프로그램을 저장한 매체 및 섬네일 화상 생성 방법 | |
| KR101458521B1 (ko) | 증강현실 콘텐츠 재생 시스템 | |
| US20070286584A1 (en) | Information processing system, recording/playback apparatus, playback terminal, information processing method, and program | |
| KR100522949B1 (ko) | 움직이는 아이콘 표시방법 | |
| CN1937732A (zh) | 图像显示设备及其图像扫描方法 | |
| US8340196B2 (en) | Video motion menu generation in a low memory environment | |
| US20070183749A1 (en) | Content reproduction apparatus, content reproduction method, content reproduction system, and computer program therefor | |
| JP2006303896A (ja) | 画像拡大再生時に縮小ガイド画像の表示を切り替え可能なカメラ装置、および画像表示方法 | |
| JP2005123726A (ja) | データ記録装置およびデータ表示装置 | |
| JP2004193695A (ja) | 記録再生装置及び方法 | |
| JP4378295B2 (ja) | 画像再生装置及び画像再生方法 | |
| KR100775187B1 (ko) | 썸네일 재생 방법 및 이를 이용한 단말기 | |
| JP2009044515A (ja) | 情報処理システム、記録装置、携帯機器、情報処理方法、及びプログラム | |
| JP4413661B2 (ja) | 録画再生装置、画像再生システムおよび端末装置 | |
| JP4609711B2 (ja) | 画像処理装置および方法、並びにプログラム | |
| JP2010287974A (ja) | 携帯電話及びプログラム | |
| JP2001211407A (ja) | 画像再生装置及びプログラム記録媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050314 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050523 |