JP2000324394A - 字幕文テキストの自動分割方法 - Google Patents

字幕文テキストの自動分割方法

Info

Publication number
JP2000324394A
JP2000324394A JP11127591A JP12759199A JP2000324394A JP 2000324394 A JP2000324394 A JP 2000324394A JP 11127591 A JP11127591 A JP 11127591A JP 12759199 A JP12759199 A JP 12759199A JP 2000324394 A JP2000324394 A JP 2000324394A
Authority
JP
Japan
Prior art keywords
subtitle
sentence
line
characters
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11127591A
Other languages
English (en)
Other versions
JP4140744B2 (ja
Inventor
Eiji Sawamura
英治 沢村
Takao Monma
隆雄 門馬
Takahiro Fukushima
孝博 福島
Ichiro Maruyama
一郎 丸山
Terumasa Ebara
暉将 江原
Katsuhiko Shirai
克彦 白井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
NEC Corp
National Institute of Information and Communications Technology
Japan Broadcasting Corp
NHK Engineering System Inc
Original Assignee
Mitsubishi Electric Corp
NEC Corp
Nippon Hoso Kyokai NHK
Telecommunications Advancement Organization
NHK Engineering Services Inc
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp, NEC Corp, Nippon Hoso Kyokai NHK, Telecommunications Advancement Organization, NHK Engineering Services Inc, Japan Broadcasting Corp filed Critical Mitsubishi Electric Corp
Priority to JP12759199A priority Critical patent/JP4140744B2/ja
Publication of JP2000324394A publication Critical patent/JP2000324394A/ja
Application granted granted Critical
Publication of JP4140744B2 publication Critical patent/JP4140744B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Circuits (AREA)

Abstract

(57)【要約】 【課題】 字幕の基となる字幕文テキストを、所定の字
幕提示形式に従う提示単位字幕へ自動的に分割し得る字
幕文テキストの自動分割方法を提供することを課題とす
る。 【解決手段】 字幕文テキストのなかから適宜抽出した
単位字幕文のうち、最終の提示単位字幕が単独行であ
り、しかも、この最終行の文字数が比較的少ない場合に
は、抽出した単位字幕文のうち、適宜の行間に空白行を
挿入することにより、最終行に関わる提示継続時間長
を、本来のものより意図的に長く引き延ばすように構成
した。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ほぼ共通の電子化
原稿をアナウンス用と字幕用の双方に利用する形態を想
定して字幕番組を制作する字幕番組制作システムに適用
される字幕文テキストの分割方法に係り、特に、本発明
で提案するアナウンス音声と字幕文テキスト間の同期検
出技術、及び日本語の特徴解析手法を用いたテキスト分
割技術等を適用することにより、字幕の基となる字幕文
テキストを、所定の字幕提示形式に従う提示単位字幕へ
自動的に分割し得る字幕文テキストの自動分割方法に関
する。
【0002】
【従来の技術】現代は高度情報化社会と一般に言われて
いるが、聴覚障害者は健常者と比較して情報の入手が困
難な状況下におかれている。
【0003】すなわち、例えば、情報メディアとして広
く普及しているTV放送番組を例示して、日本国内の全
TV放送番組に対する字幕番組の割合に言及すると、欧
米では33〜70%に達しているのに対し、わずか10
%程度ときわめて低くおかれているのが現状である。
【0004】
【発明が解決しようとする課題】さて、日本国内の全T
V放送番組に対する字幕番組の割合が欧米と比較して低
くおかれている要因としては、主として字幕番組制作技
術の未整備を挙げることができる。具体的には、日本語
特有の問題も有り、字幕番組制作工程のほとんどが手作
業によっており、多大な労力・時間・費用を要するため
である。
【0005】そこで、本発明者らは、字幕番組制作技術
の整備を妨げている原因究明を企図して、現行の字幕番
組制作の実体調査を行った。
【0006】図8の左側には、現在一般に行われている
字幕番組制作フローを示してある。ステップS101に
おいて、字幕番組制作者は、タイムコードを映像にスー
パーした番組データと、タイムコードを音声チャンネル
に記録した番組テープと、番組台本との3つの字幕原稿
作成素材を放送局から受け取る。なお、図中において
「タイムコード」を「TC」と略記する場合があること
を付言しておく。
【0007】ステップS103において、放送関係経験
者等の専門家は、ステップS101で受け取った字幕原
稿作成素材を基に、(1)番組アナウンスの要約書き起
こし、(2)別途規定された字幕提示の基準となる原稿
作成要領に従う字幕提示イメージ化、(3)その開始・
終了タイムコード記入、の各作業を順次行ない、字幕原
稿を作成する。
【0008】ステップS105において、入力オペレー
タは、ステップS103で作成された字幕原稿をもとに
電子化字幕を作成する。
【0009】ステップS107において、ステップS1
05で作成された電子化字幕を、担当の字幕制作責任
者、原稿作成者、及び入力オペレータの三者立ち会いの
もとで試写・修正を行い、完成字幕とする。
【0010】ところで、最近では、番組アナウンスの要
約書き起こしと字幕の電子化双方に通じたキャプション
オペレータと呼ばれる人材を養成することで、図8の右
側に示す改良された現行字幕制作フローも一部実施され
ている。
【0011】すなわち、ステップS111において、字
幕番組制作者は、タイムコードを音声チャンネルに記録
した番組テープと、番組台本との2つの字幕原稿作成素
材を放送局から受け取る。
【0012】ステップS113において、キャプション
オペレータは、タイムコードを音声チャンネルに記録し
た番組テープを再生し、セリフの開始点でマウスのボタ
ンをクリックすることでその点の音声チャンネルから始
点タイムコードを取り出して記録する。さらに、セリフ
を聴取して要約電子データとして入力するとともに、字
幕原稿作成要領に基づく区切り箇所に対応するセリフ点
で再びマウスのボタンをクリックすることでその点の音
声チャンネルから終点タイムコードを取り出して記録す
る。これらの操作を番組終了まで繰り返して、番組全体
の字幕を電子化する。
【0013】ステップS117において、ステップS1
05で作成された電子化字幕を、担当の字幕制作責任
者、及びキャプションオペレータの二者立ち会いのもと
で試写・修正を行い、完成字幕とする。
【0014】後者の改良された現行字幕制作フローで
は、キャプションオペレータは、タイムコードを音声チ
ャンネルに記録した番組テープのみを使用して、セリフ
の要約と電子データ化を行うとともに、提示単位に分割
した字幕の始点/終点にそれぞれ対応するセリフのタイ
ミングでマウスボタンをクリックすることにより、音声
チャンネルの各タイムコードを取り出して記録するもの
であり、かなり省力化された効果的な字幕制作フローと
いえる。
【0015】さて、上述した現行字幕制作フローにおけ
る一連の処理の流れの中で特に多大な工数を要するの
は、ステップS103乃至S105又はステップS11
3の、(1)番組アナウンスの要約書き起こし、(2)
字幕提示イメージ化、(3)その開始・終了タイムコー
ド記入、の各作業工程であり、これらの作業工程は熟練
者の知識・経験に負うところが大きい。
【0016】しかし、現在放送中の字幕番組のなかで、
予めアナウンス原稿が作成され、その原稿がほとんど修
正されることなく実際の放送字幕となっていると推測さ
れる番組がいくつかある。例えば、「生きもの地球紀
行」という字幕付き情報番組を実際に調べて見ると、ア
ナウンス音声と字幕内容はほとんど共通であり、共通の
原稿をアナウンス用と字幕用の双方に利用しているもの
と推測出来る。
【0017】このようにアナウンス音声と字幕内容が極
めて類似し、アナウンス用と字幕用の双方にほぼ共通の
原稿を利用しており、その原稿が電子化されている番組
を想定した場合、(1)の番組アナウンスの要約書き起
こし作業はほとんど必要ないことになる。この場合、残
る作業は、(2)の字幕提示イメージ化、及び(3)の
開始・終了タイムコード記入、の各作業工程である。そ
こで、本発明者らは、これら各作業工程の簡略化を企図
して鋭意研究を進めた結果、(2)の字幕提示イメージ
化を、人手を介することなく自動化できる新規な技術を
想到するに至ったのである。
【0018】本発明は、上述した実情に鑑みてなされた
ものであり、本発明で提案する音声と字幕文テキストの
同期検出技術、及び日本語の特徴解析手法を用いたテキ
スト分割技術等を適用することにより、字幕の基となる
字幕文テキストを、所定の字幕提示形式に従う提示単位
字幕へ自動的に分割し得る字幕文テキストの自動分割方
法を提供することを課題とする。
【0019】
【課題を解決するための手段】上記課題を解決するため
に、請求項1の発明は、字幕番組を制作するにあたり、
少なくとも字幕の基となる字幕文テキストを、所定の字
幕提示形式に従う提示単位字幕へ分割する際に用いられ
る字幕文テキストの分割方法であって、前記字幕文テキ
ストのうち、文頭を起点とした所要文字数範囲を対象と
して、第1の所定時間を越える長さの第1の文末ポーズ
点、及び句点を全て抽出し、この抽出された第1の文末
ポーズ点のうち、特に、第1の所定時間と比較して長い
時間の第2の所定時間を越える長さの第2の文末ポーズ
点の存在有無を調査判定し、この調査判定の結果、第2
の文末ポーズ点が存在する旨の判定が下されたとき、前
記所要文字数範囲において文頭から起算して最初に現れ
た第2の文末ポーズ点までの範囲を単位字幕文として抽
出し、この抽出した単位字幕文を、第1の文末ポーズ点
の箇所で順次改行していくことにより、当該単位字幕文
の仮分割を行うとともに、この仮分割された複数の各行
について、一行当たりの文字数が、所定の字幕提示形式
で定義される一行当たりの制限文字数より少ない第1の
所定文字数以上か否かに係る各行文字数判定を順次行
い、この各行文字数判定の結果、一行当たりの文字数が
前記第1の所定文字数以上の条件に合致する該当行が存
在する旨の判定が下されたとき、この該当行の各々につ
いて、先頭からの文字数が第1の所定文字数に到達した
直後の箇所で再改行することにより、当該単位字幕文の
仮分割を行い、前記複数行に仮分割された単位字幕文の
総行数が奇数か又は偶数かに係る奇偶判定を行い、この
奇偶判定の結果、総行数が奇数である旨の判定が下され
たとき、前記仮分割された単位字幕文のうち、最終行の
文字数が、前記制限文字数より少ない第2の所定文字数
以上か否かに係る最終行文字数判定を行い、この最終行
文字数判定の結果、最終行の文字数が前記第2の所定文
字数以上の条件に合致しない旨の判定が下されたとき、
当該単位字幕文の文末から、第1の文末ポーズ点、句
点、又は再改行点の存在有無をこの優先順位に従って調
査し、これら各点のうち、奇偶行間に最初に現れた点を
含む行と、これの後続行間に空白行を挿入し、前記再改
行点の箇所を対象として、当該単位字幕文に関する改行
・改頁推奨箇所に係る分割ルールを適用することで再改
行箇所の最適化を実行することにより、前記字幕文テキ
ストを、所定の字幕提示形式に従う提示単位字幕へ自動
的に分割することを要旨とする。
【0020】請求項1の発明によれば、まず、字幕の基
となる字幕文テキストのうち、文頭を起点とした所要文
字数範囲を対象として、第1の所定時間を越える長さの
第1の文末ポーズ点、及び句点を全て抽出し、この抽出
された第1の文末ポーズ点のうち、特に、第1の所定時
間と比較して長い時間の第2の所定時間を越える長さの
第2の文末ポーズ点の存在有無を調査判定する。この調
査判定の結果、第2の文末ポーズ点が存在する旨の判定
が下されたとき、前記所要文字数範囲において文頭から
起算して最初に現れた第2の文末ポーズ点までの範囲を
単位字幕文として抽出する。
【0021】上述した処理が、第2の文末ポーズ点が存
在する場合における単位字幕文の抽出処理であり、本発
明では、抽出処理で抽出された単位字幕文を一つの処理
単位として取り扱い、以下に述べる各処理を順次実行す
る。この抽出処理において、字幕文テキストのなかか
ら、所要文字数範囲を限度とした単位字幕文を抽出する
にあたり、ある提示単位字幕中に相互に異なる内容に関
わる字幕が混在する事態を回避する等の趣旨から、抽出
された単位字幕文が共通したひとかたまりの意味をもつ
字幕文の集合体であることが好ましい。そこで、この抽
出処理では、相互に異なる内容に関わる単位字幕文間に
挿入される傾向がある、改頁推奨箇所とみなすことがで
きる比較的長い間隔をもったポーズである第2の文末ポ
ーズ点に着目し、字幕文テキストのうち、文頭から起算
して第2の文末ポーズ点までの範囲を単位字幕文として
抽出することにより、ひとかたまりの内容に関わる単位
字幕文を意図的に抽出するようにしている。
【0022】次に、この抽出した単位字幕文を、第1の
文末ポーズ点の箇所で順次改行していくことにより、当
該単位字幕文の仮分割を行うとともに、この仮分割され
た複数の各行について、一行当たりの文字数が、所定の
字幕提示形式で定義される一行当たりの制限文字数より
少ない第1の所定文字数以上か否かに係る各行文字数判
定を順次行い、この各行文字数判定の結果、一行当たり
の文字数が前記第1の所定文字数以上の条件に合致する
該当行が存在する旨の判定が下されたとき、この該当行
の各々について、先頭からの文字数が第1の所定文字数
に到達した直後の箇所で再改行することにより、当該単
位字幕文の仮分割を行う。
【0023】上述した処理が単位字幕文の仮分割処理で
あり、この仮分割処理を行う際に考慮すべき重要な点
は、適切箇所で改行を施すこと、及び一行当たりの文字
数が、所定の字幕提示形式で定義される一行当たりの制
限文字数内に収束すること、の2点である。そこで、前
者の適切箇所での改行については、文章の切れ目に挿入
される傾向がある、改行推奨箇所とみなすことができる
ある長さ間隔をもったポーズである第1の文末ポーズ点
に着目し、ひとかたまりの単位字幕文を、第1の文末ポ
ーズ点の箇所で順次改行していく一方で、後者の制限文
字数収束については、一行当たりの文字数が第1の所定
文字数以上の条件に合致する該当行の各々について、先
頭からの文字数が第1の所定文字数に到達した直後の箇
所で機械的に再改行することにより、一行当たりの文字
数が、制限文字数を越えない適切な文字数に収束するこ
とを考慮しながら、単位字幕文を適切箇所で仮分割する
ようにしている。
【0024】次に、前記複数行に仮分割された単位字幕
文の総行数が奇数か又は偶数かに係る奇偶判定を行う。
この奇偶判定を行う趣旨は、例えば、所定の字幕提示形
式として、2行の提示単位字幕を一括総入れ換えする字
幕提示形式を採用した場合において、最終の提示単位字
幕が単独行になるか否かを振り分ける趣旨である。
【0025】上述した奇偶判定の結果、総行数が奇数で
ある旨の判定が下されたとき、前記仮分割された単位字
幕文のうち、最終行の文字数が、前記制限文字数より少
ない第2の所定文字数以上か否かに係る最終行文字数判
定を行い、この最終行文字数判定の結果、最終行の文字
数が前記第2の所定文字数以上の条件に合致しない旨の
判定が下されたとき、当該単位字幕文の文末から、第1
の文末ポーズ点、句点、又は再改行点の存在有無をこの
優先順位に従って調査し、これら各点のうち、奇偶行間
に最初に現れた点を含む行と、これの後続行間に空白行
を挿入する。
【0026】上述した処理が空白行挿入処理であり、こ
の空白行挿入処理を行う趣旨は、正確かつ確実な字幕提
示内容の読みとり把握を促進する趣旨である。これにつ
いて詳述すると、当該単位字幕文の総行数が奇数であ
り、かつ、最終行の文字数が第2の所定文字数以上の条
件に合致しない場合とは、最終の提示単位字幕が単独行
であり、しかも、この最終行の文字数が比較的少ない場
合を意味しており、この場合には、ある提示単位字幕の
提示継続時間長は、それに含まれる字幕文字数の多少に
依存するといった原則から、この最終行に関わる提示継
続時間長は必然的に短くなるため、最終行の字幕提示内
容を見逃してしまうおそれがある。特に、否定文では否
定語が文末におかれるといった日本語の特質上、例えば
この否定語部分を見逃してしまった場合には、本来の意
味を誤解してしまうことにもなりかねない。そこで、こ
のような場合には、当該単位字幕文の文末から、第1の
文末ポーズ点、句点、又は再改行点の存在有無をこの優
先順位に従って調査し、これら各点のうち、奇偶行間に
最初に現れた点を含む行と、これの後続行間に空白行を
挿入することにより、最終行に関わる提示継続時間長を
本来のものより意図的に長く引き延ばすことで、最終行
の字幕提示内容をうっかり見逃してしまうといった事態
を可及的に回避し、これをもって、正確かつ確実な字幕
提示内容の読みとり把握を促進するようにしている。
【0027】そして、前記再改行点の箇所を対象とし
て、当該単位字幕文に関する改行・改頁推奨箇所に係る
分割ルールを適用することで再改行箇所の最適化を実行
することにより、前記字幕文テキストを、所定の字幕提
示形式に従う提示単位字幕へ自動的に分割する。
【0028】ここで、分割ルールを適用した再改行箇所
の最適化を実行する趣旨は、本来の改行箇所である第1
の文末ポーズ点では、分割ルールのうち「句点の後ろ」
の適格条件を既に満たしており、これを適用した最適化
の余地がないのに対し、先頭からの文字数が第1の所定
文字数に到達した直後の箇所で機械的に施される再改行
点では、分割ルールの適格条件を必ずしも満たしている
とは言えず、これを適用した最適化の余地があり、した
がって、この再改行箇所の最適化を実行することによ
り、単位字幕文の適切箇所における改行を保証する結果
として、字幕文テキストの、所定の字幕提示形式に従う
提示単位字幕への自動的な分割を担保する趣旨である。
【0029】このように、請求項1の発明によれば、本
発明で提案する日本語の特徴解析手法を用いたテキスト
分割技術を適用することにより、字幕の基となる字幕文
テキストを、所定の字幕提示形式に従う提示単位字幕へ
自動的に分割可能な字幕文テキストの自動分割方法を得
ることができる。
【0030】また、請求項1の発明によれば、字幕文テ
キストのなかから適宜抽出した単位字幕文のうち、最終
の提示単位字幕が単独行であり、しかも、この最終行の
文字数が比較的少ない場合には、抽出した単位字幕文の
うち、適宜の行間に空白行を挿入することにより、最終
行に関わる提示継続時間長を、本来のものより意図的に
長く引き延ばすようにしたので、したがって、最終行の
字幕提示内容をうっかり見逃してしまうといった事態を
可及的に回避することができる結果として、正確かつ確
実な字幕提示内容の読みとり把握を促進することができ
る。
【0031】また、請求項2の発明は、請求項1に記載
の字幕文テキストの自動分割方法であって、前記調査判
定の結果、第2の文末ポーズ点が存在しない旨の判定が
下されたとき、前記所要文字数範囲において文頭から起
算して最後に現れた第1の文末ポーズ点までの範囲を単
位字幕文として抽出し、この抽出した単位字幕文を対象
として、当該単位字幕文の仮分割を含む以下の処理を実
行することを要旨とする。
【0032】請求項2の発明によれば、前記調査判定の
結果、改頁推奨箇所とみなすことができる比較的長い間
隔をもったポーズである第2の文末ポーズ点が存在しな
い旨の判定が下されたとき、第2の文末ポーズ点に代え
て、改行推奨箇所とみなすことができるある長さ間隔を
もったポーズである第1の文末ポーズ点に着目し、前記
所要文字数範囲において文頭から起算して最後に現れた
第1の文末ポーズ点までの範囲を単位字幕文として抽出
し、この抽出した単位字幕文を対象として、当該単位字
幕文の仮分割を含む以下の処理を実行するので、したが
って、第2の文末ポーズ点が存在しない場合であって
も、可及的にひとかたまりの内容に関わる単位字幕文を
意図的に抽出することができる。
【0033】さらに、請求項3の発明は、請求項1又は
2のうちいずれか一項に記載の字幕文テキストの自動分
割方法であって、前記第1の文末ポーズ点、句点、又は
再改行点を含む各点のうち、奇偶行間に最初に現れた点
を含む行と、これの後続行間に空白行を挿入した後に、
さらに、この挿入した空白行の直前行の文字数が、所定
の字幕提示形式で定義される一行当たりの制限文字数よ
り少ない第2の所定文字数以上か否かに係る直前行文字
数判定を行い、この直前行文字数判定の結果、直前行の
文字数が前記第2の所定文字数以上の条件に合致しない
旨の判定が下されたとき、当該単位字幕文の文末から、
第1の文末ポーズ点、句点、又は再改行点の存在有無を
この優先順位に従って調査し、これら各点のうち、前記
奇偶行間に現れた点の次に奇偶行間に現れた点を含む行
と、これの後続行間に空白行を挿入し、この空白行を挿
入した後に、前記直前行文字数判定以下の処理を、直前
行文字数判定の結果が、直前行の文字数が前記第2の所
定文字数以上の条件に合致するに至るまで繰り返し実行
することを要旨とする。
【0034】請求項3の発明によれば、前記した空白行
挿入処理後に、さらに、この挿入した空白行の直前行の
文字数が、前記第2の所定文字数以上の条件に合致しな
い旨の判定が下されたとき、この直前行の提示継続時間
長を、本来のものより意図的に長く引き延ばすようにし
たので、したがって、直前行の字幕提示内容をうっかり
見逃してしまうといった事態を可及的に回避することが
できる結果として、正確かつ確実な字幕提示内容の読み
とり把握を促進することができる。
【0035】さらにまた、請求項4の発明は、請求項1
乃至3のうちいずれか一項に記載の字幕文テキストの自
動分割方法であって、前記再改行点の箇所を対象とし
て、当該単位字幕文に関する改行・改頁推奨箇所に係る
分割ルールを適用することで再改行箇所の最適化を実行
した後に、前記抽出した単位字幕文に後続する字幕文の
存在有無に係る後続有無判定を行い、この後続有無判定
の結果、後続する字幕文が存在する旨の判定が下された
とき、当初の処理工程へと戻り、後続する字幕文につい
て以下の処理を繰り返す一方、後続する字幕文が存在し
ない旨の判定が下されたとき、字幕文テキストの自動分
割処理を終了することを要旨とする。
【0036】請求項4の発明によれば、前記再改行点の
箇所を対象として、当該単位字幕文に関する改行・改頁
推奨箇所に係る分割ルールを適用することで再改行箇所
の最適化を実行した後に、前記抽出した単位字幕文に後
続する字幕文が存在する旨の判定が下されたとき、当初
の処理工程へと戻り、後続する字幕文について以下の処
理を繰り返す一方、後続する字幕文が存在しない旨の判
定が下されたとき、字幕文テキストの自動分割処理を終
了するので、したがって、字幕文テキスト中に含まれる
全ての字幕文を対象とした自動分割処理を実行すること
ができる。
【0037】しかも、請求項5の発明は、請求項1乃至
4のうちいずれか一項に記載の字幕文テキストの自動分
割方法であって、前記再改行点の箇所を対象として、当
該単位字幕文に関する改行・改頁推奨箇所に係る分割ル
ールを適用することで再改行箇所の最適化を実行するに
あたり、当該分割ルールで定義される改行・改頁推奨箇
所は、句点の後ろ、読点の後ろ、文節と文節の間、形態
素品詞の間、のうちいずれか1又は複数の組み合わせを
含んでおり、当該分割ルールを適用するにあたっては、
前記記述順の先頭から優先的に適用することを要旨とす
る。
【0038】請求項5の発明によれば、前記再改行点の
箇所を対象として、当該単位字幕文に関する改行・改頁
推奨箇所に係る分割ルールを適用することで再改行箇所
の最適化を実行するにあたり、当該分割ルールで定義さ
れる改行・改頁推奨箇所は、句点の後ろ、読点の後ろ、
文節と文節の間、形態素品詞の間、のうちいずれか1又
は複数の組み合わせを含んでおり、当該分割ルールを適
用するにあたっては、前記記述順の先頭から優先的に適
用するので、したがって、実情に即して高精度に最適化
された字幕文テキストの自動分割を実現することができ
る。
【0039】さらに、請求項6の発明は、請求項1乃至
5のうちいずれか一項に記載の字幕文テキストの自動分
割方法であって、前記所定の字幕提示形式で定義される
一行当たりの制限文字数Nは15文字であり、このと
き、前記第1の所定文字数は12(=N−3)文字であ
ることを要旨とする。
【0040】請求項6の発明によれば、前記所定の字幕
提示形式で定義される一行当たりの制限文字数Nは15
文字であり、このとき、前記第1の所定文字数は12
(=N−3)文字とされるので、したがって、例えば、
1行当たりの制限文字数が15文字となる標準的な字幕
提示形式を採用した場合、各提示単位字幕行に含まれる
1行当たりの字幕文字数は、12乃至15文字の範囲に
収束する結果として、字幕提示時における見栄えが良好
な字幕文テキストの自動分割を実現することができる。
【0041】そして、請求項7の発明は、請求項1乃至
6のうちいずれか一項に記載の字幕文テキストの自動分
割方法であって、前記所定の字幕提示形式で定義される
一行当たりの制限文字数Nは15文字であり、このと
き、前記第2の所定文字数は8(=N/2;ただし小数
点以下切り上げ)文字であることを要旨とする。
【0042】請求項7の発明によれば、前記所定の字幕
提示形式で定義される一行当たりの制限文字数Nは15
文字であり、このとき、前記第2の所定文字数は8(=
N/2;ただし小数点以下切り上げ)文字とされるの
で、したがって、例えば、1行当たりの制限文字数が1
5文字となる標準的な字幕提示形式を採用した場合、1
行当たりの字幕文字数が少ないとみなされる文字数は7
文字となり、このしきい値文字数は、例えば、字幕から
目を離している見逃し動作時間の1回当たりの長さを
0.5〜2秒間程度と想定し、字幕の提示速度を200
字/分と想定したとき、その見逃し動作時間の最大値で
ある2秒間は約7文字に相当し、このことから、1回の
見逃し動作で7文字分の字幕文字を見逃すおそれがある
との検証結果からみて、きわめて妥当な文字数であると
言うことができ、該当行の字幕提示内容をうっかり見逃
してしまうといった事態を可及的に回避する効果を高い
水準で期待できる結果として、正確かつ確実な字幕提示
内容の読みとり把握を飛躍的に促進することができる。
【0043】
【発明の実施の形態】以下に、本発明に係る字幕文テキ
ストの自動分割方法の一実施形態について、図に基づい
て詳細に説明する。
【0044】図1は、本発明に係る字幕文テキストの自
動分割方法を具現化する自動字幕番組制作システムの機
能ブロック構成図、図2は、字幕文テキストの分割手順
を表すフローチャート図、図3は、単位字幕文を適切箇
所で仮分割した状態を表す図、図4は、単位字幕文のう
ち、適切箇所に空白行を挿入した状態を表す図、図5
は、単位字幕文における仮分割箇所に適用される分割ル
ールの説明に供する図、図6乃至図7は、アナウンス音
声に対する字幕送出タイミングの同期検出技術に係る説
明に供する図である。
【0045】なお、本発明の実施形態で採用する所定の
字幕提示形式として、1行当たりの制限文字数Nを15
文字とし、2行からなる提示単位字幕を一括総入れ換え
する字幕提示形式を例示して、以下の説明を進めること
にする。
【0046】既述したように、現在放送中の字幕番組の
なかで、予めアナウンス原稿が作成され、その原稿がほ
とんど修正されることなく実際の放送字幕となっている
と推測される番組がいくつかある。例えば、「生きもの
地球紀行」という字幕付き情報番組を実際に調べて見る
と、アナウンス音声と字幕内容はほぼ共通であり、ほぼ
共通の原稿をアナウンス用と字幕用の両方に利用してい
ると推測出来る。
【0047】そこで、本発明者らは、このようにアナウ
ンス音声と字幕の内容が極めて類似し、アナウンス用と
字幕用の両方に共通の原稿を利用しており、その原稿が
電子化されている番組を想定したとき、本発明で提案す
るアナウンス音声と字幕文テキストの同期検出技術、及
び日本語の特徴解析手法を用いたテキスト分割技術等を
適用することにより、字幕の基となる字幕文テキスト
を、所定の字幕提示形式に従う提示単位字幕へ自動的に
分割し得る字幕文テキストの自動分割方法を想到するに
至ったのである。
【0048】ここで、本発明を想到するに至った背景に
ついて述べると、より読みやすく、理解しやすい字幕の
観点から字幕文テキストの分割問題を考える場合、当然
ながら読みやすく、理解しやすい字幕とはどのようなも
のかが問題となる。この問題に対する定量的に明確な回
答は未だ見出せていないが、しかし、実験字幕番組の制
作や字幕評価実験などの貴重な経験を通して、定性的な
がら考慮すべき要素が明らかになりつつある。
【0049】字幕の読み易さ、理解し易さの観点から
は、一般にある程度以上の文字数が同時的に提示され、
この提示が所要時間継続しているのが良いといわれる
が、文字数や提示継続時間は、提示する字幕がどのよう
に読まれるかと大きく関わる。
【0050】例えば聴覚障害者が字幕付テレビ番組を見
る場合を想定すると、視覚を介して、映像情報と音声情
報とを交互に見ることになるので、本来字幕は間欠的に
しか見ることが出来ない。そのため、音声情報をより読
みやすく、理解しやすい字幕として提示することで、字
幕を見ている割合を出来るだけ少なくして、その分だけ
映像を多く見られるようにするのが望ましい。
【0051】この場合の字幕の見方は、字幕の提示形式
にも依存するが、例えば2行の提示単位字幕を一括入れ
換えする字幕提示形式を例示し、提示される全字幕の捕
捉を試みた場合、一般的には、基準となる字幕文字(例
えば、音声アナウンスの進行に対応する文字)を中心と
して、先読み、後読みもしくはその両方を行うことにな
る。
【0052】先読み、後読みもしくはその両方を行うこ
とになる要因としては、映像の注視又はまばたきや脇見
などを含む字幕から目を離している見逃し動作時間が存
在するからであり、1回当たりの見逃し動作時間の長さ
は、経験的には0.5〜2秒間程度であると思われる。
【0053】ここで、字幕の提示速度を200字/分と
想定すると、その最大時間である2秒間は約7文字に相
当し、このことから、1回の見逃し動作で7文字分の字
幕文字を見逃すおそれがあることがわかる。
【0054】このことから、基準となる字幕文字を中心
に連続した14文字が最低限の提示単位として必要であ
り、再び字幕に注視点が戻って字幕を読み取り、認識す
る分を前後各5〜7文字とすると、内容の連続した24
〜29文字程度の字幕を同時に画面提示するのが望まし
いことがわかる。ちなみに現行の字幕放送では一行15
文字で二行提示が多く、最大30文字程度まで提示され
ている。
【0055】また、上記の分析結果に従い、字幕が提示
されてから実際に読まれるまで最悪2秒間程度必要なも
のと仮定すると、文字数が7文字以下の字幕を文字数相
当の時間のみ提示した場合には、この提示字幕が全く読
まれないおそれがある。例えば日本語の特質上、否定文
では否定語が文末におかれるので、この否定語部分が上
記の状態に該当するような分割はきわめて悪い影響をも
たらす可能性があり、このような分割は可及的に回避す
る必要がある。
【0056】その対策として、少ない文字数への分割を
しない、又は少ない文字数では提示時間を長くする、な
どの手法を適用するのが望ましい。
【0057】次の問題は、例えば文間の無音区間、つま
りポーズの取り扱いである。字幕文中に長いポーズが存
在する場合には、このポーズの前後は相互に異なる内容
に関わる字幕文である可能性が高いことから、そのポー
ズにまたがるような字幕提示は好ましくない。逆に極め
て短いポーズが存在する場合には、このポーズの前後は
相互に共通の内容に関わる字幕文である可能性が高いこ
とから、むしろ連続した字幕文として取り扱う方が好ま
しい。このことから、ポーズ時間の長さを考慮した字幕
文の分割手法を適用するのが望ましい。
【0058】さらに、ひとかたまりの文字群は可能な限
り分割せず、同一行に提示するのが望ましい。この例と
して、通常の単語のみならず、連続する漢字、カタカ
ナ、アラビア数字、英字などがあり、(xxx)や「xxx」
などと表わさるルビ、略称に対する正式呼称、注釈など
もこの範疇として取り扱う。
【0059】字幕文テキストの分割にあたっては、上述
の要素を充分考慮する必要があり、本発明では、これら
の各要素を取り込むとともに、日本語の特徴を統計的に
設定した分割ルール(改行・改頁ルール)を適用するこ
とで、理想的とも言える字幕文テキストの分割を実現す
るようにしている。
【0060】さて、本実施形態の説明に先立って、以下
の説明で使用する用語の定義付けを行うと、本実施形態
の説明において、提示対象となる字幕文の全体集合を
「字幕文テキスト」と言い、字幕文テキストのうち、適
宜の句点で区切られたひとかたまりの字幕文の部分集合
を「単位字幕文」と言い、ディスプレイの表示画面上に
おいて提示単位となる字幕を「提示単位字幕」と言い、
提示単位字幕に含まれる各行の個々の字幕を「提示単位
字幕行」と言い、提示単位字幕行のうちの任意の文字を
表現するとき、これを「字幕文字」と言うことにする。
なお、表示画面上に単独の提示単位字幕行を提示すると
き、「提示単位字幕」と「提示単位字幕行」とは同義と
なるため、この場合、「提示単位字幕行」の表現はあえ
て使用しないことととする。
【0061】まず、本発明に係る字幕文テキストの自動
分割方法を具現化する自動字幕番組制作システム11の
概略構成について、図1を参照して説明する。
【0062】同図に示すように、自動字幕番組制作シス
テム11は、電子化原稿記録媒体13と、同期検出装置
15と、統合化装置17と、形態素解析部19と、分割
ルール記憶部21と、番組素材VTR例えばディジタル
・ビデオ・テープ・レコーダ(以下、「D−VTR」と
言う)23と、を含んで構成されている。
【0063】電子化原稿記録媒体13は、例えばハード
ディスク記憶装置やフロッピーディスク装置等より構成
され、提示対象となる字幕の全体集合を表す字幕文テキ
ストを記憶している。なお、本実施形態では、ほぼ共通
の電子化原稿をアナウンス用と字幕用の双方に利用する
形態を想定しているので、電子化原稿記録媒体13に記
憶される字幕文テキストの内容は、提示対象字幕と一致
するばかりでなく、素材VTRに収録されたアナウンス
音声とも一致しているものとする。
【0064】同期検出装置15は、提示単位字幕文と、
これを読み上げたアナウンス音声との間における時間同
期を検出する機能等を有している。さらに詳しく述べる
と、同期検出装置15は、統合化装置17で一応確定さ
れた提示単位字幕が送られてくる毎に、この提示単位字
幕の妥当性を検証する妥当性検証機能と、妥当性検証機
能を発揮することで得られた検証結果が不当であると
き、この検証結果を統合化装置17宛に返答する検証結
果返答機能と、妥当性検証機能を発揮することで得られ
た検証結果が妥当であるとき、番組素材VTRから取り
込んだこの提示単位字幕に対応するアナウンス音声及び
そのタイムコードを参照して、該当する提示単位字幕毎
のタイミング情報、すなわち始点/終点タイムコードを
検出し、検出した各始点/終点タイムコードを統合化装
置17宛に送出するタイミング情報検出機能と、を有し
ている。
【0065】なお、上述したタイミング情報検出機能に
おける提示単位字幕毎に付与する始点/終点タイムコー
ドの同期検出は、本発明者らが研究開発したアナウンス
音声を対象とした音声認識処理を含むアナウンス音声と
字幕文テキスト間の同期検出技術を適用することで高精
度に実現可能である。
【0066】すなわち、字幕送出タイミング検出の流れ
は、図6に示すように、まず、かな漢字交じり文で表記
されている字幕文テキストを、音声合成などで用いられ
ている読み付け技術を用いて発音記号列に変換する。こ
の変換には、「日本語読み付けシステム」を用いる。次
に、あらかじめ学習しておいた音響モデル(HMM:隠
れマルコフモデル)を参照し、「音声モデル合成システ
ム」によりこれらの発音記号列をワード列ペアモデルと
呼ぶ音声モデル(HMM)に変換する。そして、「最尤
照合システム」を用いてワード列ペアモデルにアナウン
ス音声を通して比較照合を行うことにより、字幕送出タ
イミングの同期検出を行う。
【0067】字幕送出タイミング検出の用途に用いるア
ルゴリズム(ワード列ペアモデル)は、キーワードスポッ
ティングの手法を採用している。キーワードスポッティ
ングの手法として、フォワード・バックワードアルゴリ
ズムにより単語の事後確率を求め、その単語尤度のロー
カルピークを検出する方法が提案されている。ワード列
ペアモデルは、図7に示すように、これを応用して字幕
と音声を同期させたい点、すなわち同期点の前後でワー
ド列1 (Keywords1)とワード列2 (Keywords2)とを連結
したモデルになっており、ワード列の中点(B)で尤度
を観測してそのローカルピークを検出し、ワード列2の
発話開始時間を高精度に求めることを目的としている。
ワード列は、音素HMMの連結により構成され、ガーベ
ジ (Garbage)部分は全音素HMMの並列な枝として構成
されている。また、アナウンサが原稿を読む場合、内容
が理解しやすいように息継ぎの位置を任意に定めること
から、ワード列1,2間にポーズ (Pause)を挿入してい
る。なお、ポーズ時間の検出に関しては、素材VTRか
ら音声とそのタイムコードが供給され、その音声レベル
が指定レベル以下で連続する開始、終了タイムコードか
ら、周知の技術で容易に達成できる。
【0068】統合化装置17は、電子化原稿記録媒体1
3から読み出した字幕文テキストのうち、文頭を起点と
した所要文字数範囲を目安とした単位字幕文を順次抽出
する単位字幕文抽出機能と、単位字幕文抽出機能を発揮
することで抽出した単位字幕文を、所望の提示形式に従
う提示単位字幕に変換する提示単位字幕化機能と、提示
単位字幕化機能を発揮することで変換された提示単位字
幕に対し、同期検出装置15から送出されてきた提示単
位字幕毎のタイミング情報である始点/終点の各タイム
コードを付与するタイミング情報付与機能と、を有して
いる。なお、文頭を起点とした所要文字数範囲とは、一
行当たりの制限文字数Nを15文字と想定したとき、例
えば6N文字を上限とした70〜90字幕文字程度の範
囲など、テキスト文のまとまりや処理データ量等を考慮
した適宜の文字数範囲を選択することができる。
【0069】形態素解析部19は、漢字かな交じり文で
表記されている単位字幕文を対象として、形態素毎に分
割する分割機能と、分割機能を発揮することで分割され
た各形態素毎に、表現形、品詞、読み、標準表現などの
付加情報を付与する付加情報付与機能と、各形態素を文
節や節単位にグループ化し、いくつかの情報素列を得る
情報素列取得機能と、を有している。これにより、単位
字幕文は、表面素列、記号素列(品詞列)、標準素列、
及び情報素列として表現される。
【0070】分割ルール記憶部21は、図5に示すよう
に、単位字幕文を対象とした改行・改頁箇所の最適化を
行う際に参照される分割ルールを記憶する機能を有して
いる。
【0071】D−VTR23は、番組素材が収録されて
いる番組素材VTRテープから、映像、音声、及びそれ
らのタイムコードを再生出力する機能を有している。
【0072】次に、自動字幕番組制作システム11にお
いて主要な役割を果たす統合化装置17の内部構成につ
いて説明していく。
【0073】統合化装置17は、単位字幕文抽出部33
と、提示単位字幕化部35と、タイミング情報付与部3
7と、を含んで構成されている。
【0074】単位字幕文抽出部33は、電子化原稿記録
媒体13から読み出した、単位字幕文が提示時間順に配
列された字幕文テキストのなかから、例えば70〜90
字幕文字程度を目安として、少なくとも提示単位字幕行
に含まれる文字数よりも多い文字数を呈する提示対象と
なる単位字幕文を、付加した区切り可能箇所情報等を活
用するなどして処理単位とするテキスト文を順次抽出す
る機能を有している。なお、区切り可能箇所情報として
は、形態素解析部19で得られた文節データ付き形態素
解析データ、及び分割ルール記憶部21に記憶されてい
る分割ルール(改行・改頁データ)を利用することもで
きる。
【0075】提示単位字幕化部35は、単位字幕文抽出
部33で抽出した単位字幕文、単位字幕文に付加した区
切り可能箇所情報、及び同期検出装置15からの情報等
に基づいて、単位字幕文抽出部33で抽出した単位字幕
文を、所望の提示形式に従う少なくとも1以上の提示単
位字幕に変換する提示単位字幕化機能を有している。
【0076】タイミング情報付与部37は、提示単位字
幕化部35で変換された提示単位字幕に対し、同期検出
装置15から送出されてきた提示単位字幕毎のタイミン
グ情報である始点/終点の各タイムコードを付与するタ
イミング情報付与機能を有している。
【0077】次に、本発明に係る字幕文テキストの分割
手順について、図2に示す動作フローチャート図を参照
しつつ説明する。
【0078】ステップS1において、字幕文テキストの
うち、文頭を起点とした例えば6N文字(=90文字)
程度の所要文字数範囲を対象として、例えば1秒間など
の第1の所定時間t1を越える長さを呈する文末に存在
する無音区間、つまり第1の文末ポーズ点Pt1、及び
句点を全て抽出する。ここで抽出した第1の文末ポーズ
点Pt1のうち、特に、第1の所定時間t1と比較して
長い時間の例えば2秒間などの第2の所定時間t2を越
える長さの文末ポーズ点を第2の文末ポーズ点Pt2と
呼び、これらの文末ポーズ点Pt1,Pt2を除く句点
をPkと呼ぶことにする。
【0079】ステップS2において、所要文字数範囲内
における第2の文末ポーズ点Pt2の存在有無を調査判
定する。この調査判定の結果、第2の文末ポーズ点Pt
2が存在する旨の判定が下されたときにはステップS3
へ進む一方、第2の文末ポーズ点Pt2が存在しない旨
の判定が下されたときにはステップS4へ進む。
【0080】ステップS2における調査判定の結果、第
2の文末ポーズ点Pt2が存在する旨の判定が下された
とき、ステップS3において、前記所要文字数範囲にお
いて文頭から起算して最初に現れた第2の文末ポーズ点
Pt2までの範囲を単位字幕文として抽出する。
【0081】一方、ステップS2における調査判定の結
果、第2の文末ポーズ点Pt2が存在しない旨の判定が
下されたとき、ステップS4において、前記所要文字数
範囲において文頭から起算して最後に現れた第1の文末
ポーズ点Pt1までの範囲を単位字幕文として抽出す
る。
【0082】上述したステップS1乃至S4の処理が単
位字幕文の抽出処理であり、本発明での提示単位字幕化
は、抽出処理で抽出された単位字幕文を一つの処理単位
として取り扱い、以下に述べる各処理を順次実行する。
この抽出処理において、字幕文テキストのなかから、所
要文字数範囲を限度とした単位字幕文を抽出するにあた
り、ある提示単位字幕中に相互に異なる内容に関わる字
幕が混在する事態を回避する等の趣旨から、抽出された
単位字幕文が共通したひとかたまりの内容に関わる字幕
文の集合体であることが好ましい。
【0083】そこで、この抽出処理では、相互に異なる
内容に関わる単位字幕文間に挿入される傾向がある、改
頁推奨箇所とみなすことができる比較的長い間隔をもっ
たポーズである第2の文末ポーズ点Pt2に着目し、字
幕文テキストのうち、文頭から起算して第2の文末ポー
ズ点Pt2までの範囲を単位字幕文として抽出すること
により、ひとかたまりの内容に関わる単位字幕文を意図
的に抽出するようにしている。
【0084】また、ステップS2の調査判定の結果、改
頁推奨箇所とみなすことができる比較的長い間隔をもっ
たポーズである第2の文末ポーズ点Pt2が存在しない
旨の判定が下されたときには、第2の文末ポーズ点Pt
2に代えて、改行推奨箇所とみなすことができるある長
さ間隔をもったポーズである第1の文末ポーズ点Pt1
に着目し、前記所要文字数範囲において文頭から起算し
て最後に現れた第1の文末ポーズ点Pt1までの範囲を
単位字幕文として抽出することにより、第2の文末ポー
ズ点Pt2が存在しない場合であっても、可及的にひと
かたまりの内容に関わる単位字幕文を意図的に抽出する
ようにしている。
【0085】ステップS5において、ステップS3又は
S4で抽出した単位字幕文を、第1の文末ポーズ点Pt
1の箇所で順次改行していくことにより、単位字幕文の
仮分割を行う。
【0086】ステップS6において、ステップS5で仮
分割された複数の各行について、一行当たりの文字数
が、所定の字幕提示形式で定義される一行当たりの制限
文字数Nより少ない例えばN−3文字(=12文字)な
どの第1の所定文字数以上か否かに係る各行文字数判定
を順次行い、この各行文字数判定の結果、一行当たりの
文字数が第1の所定文字数以上の条件に合致する該当行
が存在する旨の判定が下されたときにはステップS7へ
進む一方、該当行が存在しない旨の判定が下されたとき
にはステップS8へ進む。ステップS6の各行文字数判
定は、ステップS5で仮分割された複数の各行に含まれ
る文字数が、一行当たりの制限文字数Nを考慮したとき
に適正文字数に収束しているか否かを振り分ける趣旨で
ある。
【0087】ステップS6の各行文字数判定の結果、該
当行が存在する旨の判定が下されたとき、この該当行の
各々について、先頭からの文字数が第1の所定文字数N
−3文字(=12文字)に到達した直後の箇所で再改行
することにより、当該単位字幕文の仮分割を行い、この
再改行処理後にステップS6へ戻り、該当行が存在しな
くなるまでステップS6乃至S7の各処理を繰り返し行
う。なお、ステップS7での再改行箇所を再改行点Pp
と呼ぶことにする。
【0088】上述したステップS5乃至S7の処理が単
位字幕文の仮分割処理であり、この仮分割処理を行う際
に考慮すべき重要な点は、適切箇所で改行を施すこと、
及び一行当たりの文字数が、所定の字幕提示形式で定義
される一行当たりの制限文字数N内に収束すること、の
2点である。
【0089】そこで、例えば図3に示すように、前者の
適切箇所での改行については、文章の切れ目に挿入され
る傾向がある、改行推奨箇所とみなすことができるある
長さ間隔をもったポーズである第1の文末ポーズ点Pt
1に着目し、ひとかたまりの単位字幕文を、第1の文末
ポーズ点Pt1の箇所で順次改行していく一方で、後者
の制限文字数収束については、一行当たりの文字数が第
1の所定文字数N−3文字(=12文字)以上の条件に
合致する該当行の各々について、先頭からの文字数が第
1の所定文字数に到達した直後の箇所で機械的に再改行
することにより、一行当たりの文字数が、制限文字数N
を越えない適切な文字数に収束することを考慮しなが
ら、単位字幕文を適切箇所で仮分割するようにしてい
る。
【0090】ステップS8において、ステップS5乃至
S7で複数行に仮分割された単位字幕文の総行数が奇数
か又は偶数かに係る奇偶判定を行い、この奇偶判定の結
果、総行数が奇数のときにはステップS9へ進む一方、
総行数が偶数のときにはステップS12へ進む。この奇
偶判定は、例えば、所定の字幕提示形式として、2行の
提示単位字幕を一括総入れ換えする字幕提示形式を採用
した場合において、最終の提示単位字幕が単独行になる
か否かを振り分ける趣旨である。
【0091】ステップS8における奇偶判定の結果、総
行数が奇数である旨の判定が下されたとき、ステップS
9において、仮分割された単位字幕文のうち、最終行の
文字数が、制限文字数Nより少ない例えばN/2文字
(=8文字、ただし、端数は繰り上げ)などの第2の所
定文字数以上か否かに係る最終行文字数判定を行い、こ
の最終行文字数判定の結果、最終行の文字数が第2の所
定文字数(N/2文字)以上の条件に合致しない旨の判
定が下されたときにはステップS10へ進む一方、この
条件に合致する旨の判定が下されたときにはステップS
12へ進む。
【0092】ステップS9の最終行文字数判定の結果、
最終行の文字数が第2の所定文字数(N/2文字)以上
の条件に合致しない旨の判定が下されたとき、ステップ
S10において、当該単位字幕文の文末から、第1の文
末ポーズ点Pt1、句点Pk、又は再改行点Ppの存在
有無をこの優先順位に従って調査し、これら各点のう
ち、奇偶行間に最初に現れた点を含む行と、これの後続
行間に空白行を挿入することで、この後続行を次頁に送
って、最終行を二行化する。
【0093】ステップS11において、ステップS10
で挿入した空白行の直前行の文字数が、第2の所定文字
数(N/2文字)以上か否かに係る直前行文字数判定を
行い、この直前行文字数判定の結果、直前行の文字数が
前記第2の所定文字数以上の条件に合致しない旨の判定
が下されたときにはステップS10へ戻るとともに直前
の空白行挿入を取り消し、ステップS10乃至S11の
処理を、ステップS11における直前行文字数判定の結
果が、直前行の文字数が第2の所定文字数(N/2文
字)以上の条件に合致するに至るまで繰り返し実行す
る。
【0094】上述したステップS9乃至S11の処理が
空白行挿入処理であり、この空白行挿入処理は、正確か
つ確実な字幕提示内容の読みとり把握を促進する趣旨で
ある。これについて詳述すると、当該単位字幕文の総行
数が奇数であり、かつ、最終行の文字数が第2の所定文
字数(N/2文字)以上の条件に合致しない場合とは、
最終の提示単位字幕が単独行であり、しかも、この最終
行の文字数が比較的少ない場合を意味しており、この場
合には、ある提示単位字幕の提示継続時間長は、それに
含まれる字幕文字数の多少に依存するといった原則か
ら、この最終行に関わる提示継続時間長は必然的に短く
なるため、最終行の字幕提示内容を見逃してしまうおそ
れがある。特に、否定文では否定語が文末におかれると
いった日本語の特質上、例えばこの否定語部分を見逃し
てしまった場合には、本来の意味を誤解してしまうこと
にもなりかねない。
【0095】そこで、このような場合には、当該単位字
幕文の文末から、第1の文末ポーズ点Pt1、句点P
k、又は再改行点Ppの存在有無をこの優先順位に従っ
て調査し、これら各点のうち、例えば図4に示すよう
に、奇偶行間に最初に現れた点を含む行と、これの後続
行間に空白行を挿入することにより、最終行に関わる提
示継続時間長を本来のものより意図的に長く引き延ばす
ことで、最終行の字幕提示内容をうっかり見逃してしま
うといった事態を可及的に回避し、これをもって、正確
かつ確実な字幕提示内容の読みとり把握を促進するよう
にしている。
【0096】ステップS12において、再改行点Ppの
箇所を対象として、当該単位字幕文に関する改行・改頁
推奨箇所に係る分割ルールを適用することで再改行箇所
の最適化を実行することにより、字幕文テキストを、所
定の字幕提示形式に従う提示単位字幕へ自動的に分割す
る。ここで、上述した分割ルール(改行・改頁データ)
について述べると、図5の図表には、自然感のある改行
・改頁を行った際における、直前の形態素品詞とその頻
度例が示されている。同図に示すように、分割ルール
(改行・改頁データ)で定義される改行・改頁推奨箇所
は、第1に句点の後ろ、第2に読点の後ろ、第3に文節
と文節の間、第4に形態素品詞の間、を含んでおり、分
割ルール(改行・改頁データ)を適用するにあたって
は、上述した記述順の先頭から優先的に適用するのが好
ましい。このようにすれば、実情に即して高精度に最適
化された字幕文テキストの自動分割を実現することがで
きる。
【0097】ステップS12において、分割ルールを適
用した再改行箇所の最適化を実行する趣旨は、本来の改
行箇所である第1の文末ポーズ点Pt1では、分割ルー
ルのうち「句点の後ろ」の適格条件を既に満たしてお
り、これを適用した最適化の余地がないのに対し、先頭
からの文字数が第1の所定文字数(N−3文字)に到達
した直後の箇所で機械的に施される再改行点Ppでは、
分割ルールの適格条件を必ずしも満たしているとは言え
ず、これを適用した最適化の余地があり、したがって、
この再改行箇所Ppの最適化を実行することにより、単
位字幕文の適切箇所における改行を保証する結果とし
て、字幕文テキストの、所定の字幕提示形式に従う提示
単位字幕への自動的な分割を担保するようにしている。
【0098】ステップS13において、ステップS3又
はS4で抽出した単位字幕文に後続する字幕文の存在有
無に係る後続有無判定を行い、この後続有無判定の結
果、後続する字幕文が存在する旨の判定が下されたと
き、ステップS1へと戻り、後続する字幕文について以
下の処理を繰り返す一方、後続する字幕文が存在しない
旨の判定が下されたとき、字幕文テキストの自動分割処
理を終了するのである。
【0099】これにより、字幕文テキスト中に含まれる
全ての字幕文を対象とした自動分割処理を実行すること
ができる。
【0100】このように、本発明に係る字幕文テキスト
の自動分割方法によれば、本発明で提案する日本語の特
徴解析手法を用いたテキスト分割技術を適用することに
より、字幕の基となる字幕文テキストを、所定の字幕提
示形式に従う提示単位字幕へ自動的に分割することがで
きる。
【0101】また、本発明に係る字幕文テキストの自動
分割方法によれば、字幕文テキストのなかから適宜抽出
した単位字幕文のうち、最終の提示単位字幕が単独行で
あり、しかも、この最終行の文字数が比較的少ない場合
には、抽出した単位字幕文のうち、適宜の行間に空白行
を挿入することにより、最終行に関わる提示継続時間長
を、本来のものより意図的に長く引き延ばすようにした
ので、したがって、最終行の字幕提示内容をうっかり見
逃してしまうといった事態を可及的に回避することがで
きる結果として、正確かつ確実な字幕提示内容の読みと
り把握を促進することができる。
【0102】なお、本発明は、上述した実施形態の例に
限定されることなく、請求の範囲内において適宜の変更
を加えることにより、その他の態様で実施可能であるこ
とは言うまでもない。
【0103】
【発明の効果】以上詳細に説明したように、請求項1の
発明によれば、本発明で提案する日本語の特徴解析手法
を用いたテキスト分割技術を適用することにより、字幕
の基となる字幕文テキストを、所定の字幕提示形式に従
う提示単位字幕へ自動的に分割可能な字幕文テキストの
自動分割方法を得ることができる。
【0104】また、請求項1の発明によれば、最終行の
字幕提示内容をうっかり見逃してしまうといった事態を
可及的に回避することができる結果として、正確かつ確
実な字幕提示内容の読みとり把握を促進することができ
る。
【0105】また、請求項2の発明によれば、文頭から
起算して所要文字数範囲に第2の文末ポーズ点が存在し
ない場合であっても、可及的にひとかたまりの内容に関
わる単位字幕文を意図的に抽出することができる。
【0106】さらに、請求項3の発明によれば、直前行
の字幕提示内容をうっかり見逃してしまうといった事態
を可及的に回避することができる結果として、正確かつ
確実な字幕提示内容の読みとり把握を促進することがで
きる。
【0107】さらにまた、請求項4の発明によれば、字
幕文テキスト中に含まれる全ての字幕文を対象とした自
動分割処理を実行することができる。
【0108】しかも、請求項5の発明によれば、実情に
即して高精度に最適化された字幕文テキストの自動分割
を実現することができる。
【0109】さらに、請求項6の発明によれば、例え
ば、1行当たりの制限文字数が15文字となる標準的な
字幕提示形式を採用した場合、各提示単位字幕行に含ま
れる1行当たりの字幕文字数は、12乃至15文字の範
囲に収束する結果として、字幕提示時における見栄えが
良好な字幕文テキストの自動分割を実現することができ
る。
【0110】そして、請求項7の発明によれば、例え
ば、1行当たりの制限文字数が15文字となる標準的な
字幕提示形式を採用した場合、1行当たりの字幕文字数
が少ないとみなされる文字数は7文字となり、このしき
い値文字数は、例えば、字幕から目を離している1回当
たりの見逃し動作時間長を0.5〜2秒間程度と想定
し、字幕の提示速度を200字/分と想定したとき、そ
の見逃し動作時間の最大値である2秒間は約7文字に相
当し、このことから、1回の見逃し動作で7文字分の字
幕文字を見逃すおそれがあるとの検証結果からみて、き
わめて妥当な文字数であると言うことができ、該当行の
字幕提示内容をうっかり見逃してしまうといった事態を
可及的に回避する効果を高い水準で期待できる結果とし
て、正確かつ確実な字幕提示内容の読みとり把握を飛躍
的に促進することができるというきわめて優れた効果を
奏する。
【図面の簡単な説明】
【図1】図1は、本発明に係る字幕文テキストの自動分
割方法を具現化する自動字幕番組制作システムの機能ブ
ロック構成図である。
【図2】図2は、字幕文テキストの分割手順を表すフロ
ーチャート図である。
【図3】図3は、単位字幕文を適切箇所で仮分割した状
態を表す図である。
【図4】図4は、単位字幕文のうち、適切箇所に空白行
を挿入した状態を表す図である。
【図5】図5は、単位字幕文における仮分割箇所に適用
される分割ルールの説明に供する図である。
【図6】図6は、アナウンス音声に対する字幕送出タイ
ミングの同期検出技術に係る説明に供する図である。
【図7】図7は、アナウンス音声に対する字幕送出タイ
ミングの同期検出技術に係る説明に供する図である。
【図8】図8は、現行字幕制作フロー、及び改良された
現行字幕制作フローに係る説明図である。
【符号の説明】 11 自動字幕番組制作システム 13 電子化原稿記録媒体 15 同期検出装置 17 統合化装置 19 形態素解析部 21 分割ルール記憶部 23 ディジタル・ビデオ・テープ・レコーダ(D−V
TR) 33 単位字幕文抽出部 35 提示単位字幕化部 37 タイミング情報付与部
───────────────────────────────────────────────────── フロントページの続き (71)出願人 000006013 三菱電機株式会社 東京都千代田区丸の内二丁目2番3号 (71)出願人 000004352 日本放送協会 東京都渋谷区神南2丁目2番1号 (72)発明者 沢村 英治 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 門馬 隆雄 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 福島 孝博 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 丸山 一郎 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 江原 暉将 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 白井 克彦 東京都港区芝2−31−19 通信・放送機構 内 Fターム(参考) 5C023 AA18 AA38 BA11 BA16 CA01 CA05 5C025 CA09 CB10 DA10

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 字幕番組を制作するにあたり、少なくと
    も字幕の基となる字幕文テキストを、所定の字幕提示形
    式に従う提示単位字幕へ分割する際に用いられる字幕文
    テキストの分割方法であって、 前記字幕文テキストのうち、文頭を起点とした所要文字
    数範囲を対象として、第1の所定時間を越える長さの第
    1の文末ポーズ点、及び句点を全て抽出し、 この抽出された第1の文末ポーズ点のうち、特に、第1
    の所定時間と比較して長い時間の第2の所定時間を越え
    る長さの第2の文末ポーズ点の存在有無を調査判定し、 この調査判定の結果、第2の文末ポーズ点が存在する旨
    の判定が下されたとき、前記所要文字数範囲において文
    頭から起算して最初に現れた第2の文末ポーズ点までの
    範囲を単位字幕文として抽出し、 この抽出した単位字幕文を、第1の文末ポーズ点の箇所
    で順次改行していくことにより、当該単位字幕文の仮分
    割を行うとともに、この仮分割された複数の各行につい
    て、一行当たりの文字数が、所定の字幕提示形式で定義
    される一行当たりの制限文字数より少ない第1の所定文
    字数以上か否かに係る各行文字数判定を順次行い、 この各行文字数判定の結果、一行当たりの文字数が前記
    第1の所定文字数以上の条件に合致する該当行が存在す
    る旨の判定が下されたとき、この該当行の各々につい
    て、先頭からの文字数が第1の所定文字数に到達した直
    後の箇所で再改行することにより、当該単位字幕文の仮
    分割を行い、 前記複数行に仮分割された単位字幕文の総行数が奇数か
    又は偶数かに係る奇偶判定を行い、 この奇偶判定の結果、総行数が奇数である旨の判定が下
    されたとき、前記仮分割された単位字幕文のうち、最終
    行の文字数が、前記制限文字数より少ない第2の所定文
    字数以上か否かに係る最終行文字数判定を行い、 この最終行文字数判定の結果、最終行の文字数が前記第
    2の所定文字数以上の条件に合致しない旨の判定が下さ
    れたとき、当該単位字幕文の文末から、第1の文末ポー
    ズ点、句点、又は再改行点の存在有無をこの優先順位に
    従って調査し、 これら各点のうち、奇偶行間に最初に現れた点を含む行
    と、これの後続行間に空白行を挿入し、 前記再改行点の箇所を対象として、当該単位字幕文に関
    する改行・改頁推奨箇所に係る分割ルールを適用するこ
    とで再改行箇所の最適化を実行することにより、前記字
    幕文テキストを、所定の字幕提示形式に従う提示単位字
    幕へ自動的に分割することを特徴とする字幕文テキスト
    の自動分割方法。
  2. 【請求項2】 請求項1に記載の字幕文テキストの自動
    分割方法であって、 前記調査判定の結果、第2の文末ポーズ点が存在しない
    旨の判定が下されたとき、前記所要文字数範囲において
    文頭から起算して最後に現れた第1の文末ポーズ点まで
    の範囲を単位字幕文として抽出し、この抽出した単位字
    幕文を対象として、当該単位字幕文の仮分割を含む以下
    の処理を実行することを特徴とする字幕文テキストの自
    動分割方法。
  3. 【請求項3】 請求項1又は2のうちいずれか一項に記
    載の字幕文テキストの自動分割方法であって、 前記第1の文末ポーズ点、句点、又は再改行点を含む各
    点のうち、奇偶行間に最初に現れた点を含む行と、これ
    の後続行間に空白行を挿入した後に、さらに、 この挿入した空白行の直前行の文字数が、所定の字幕提
    示形式で定義される一行当たりの制限文字数より少ない
    第2の所定文字数以上か否かに係る直前行文字数判定を
    行い、 この直前行文字数判定の結果、直前行の文字数が前記第
    2の所定文字数以上の条件に合致しない旨の判定が下さ
    れたとき、当該単位字幕文の文末から、第1の文末ポー
    ズ点、句点、又は再改行点の存在有無をこの優先順位に
    従って調査し、 これら各点のうち、前記奇偶行間に現れた点の次に奇偶
    行間に現れた点を含む行と、これの後続行間に空白行を
    挿入し、 この空白行を挿入した後に、前記直前行文字数判定以下
    の処理を、直前行文字数判定の結果が、直前行の文字数
    が前記第2の所定文字数以上の条件に合致するに至るま
    で繰り返し実行することを特徴とする字幕文テキストの
    自動分割方法。
  4. 【請求項4】 請求項1乃至3のうちいずれか一項に記
    載の字幕文テキストの自動分割方法であって、 前記再改行点の箇所を対象として、当該単位字幕文に関
    する改行・改頁推奨箇所に係る分割ルールを適用するこ
    とで再改行箇所の最適化を実行した後に、前記抽出した
    単位字幕文に後続する字幕文の存在有無に係る後続有無
    判定を行い、 この後続有無判定の結果、後続する字幕文が存在する旨
    の判定が下されたとき、当初の処理工程へと戻り、後続
    する字幕文について以下の処理を繰り返す一方、後続す
    る字幕文が存在しない旨の判定が下されたとき、字幕文
    テキストの自動分割処理を終了することを特徴とする字
    幕文テキストの自動分割方法。
  5. 【請求項5】 請求項1乃至4のうちいずれか一項に記
    載の字幕文テキストの自動分割方法であって、 前記再改行点の箇所を対象として、当該単位字幕文に関
    する改行・改頁推奨箇所に係る分割ルールを適用するこ
    とで再改行箇所の最適化を実行するにあたり、 当該分割ルールで定義される改行・改頁推奨箇所は、 句点の後ろ、読点の後ろ、文節と文節の間、形態素品詞
    の間、のうちいずれか1又は複数の組み合わせを含んで
    おり、 当該分割ルールを適用するにあたっては、前記記述順の
    先頭から優先的に適用することを特徴とする字幕文テキ
    ストの自動分割方法。
  6. 【請求項6】 請求項1乃至5のうちいずれか一項に記
    載の字幕文テキストの自動分割方法であって、 前記所定の字幕提示形式で定義される一行当たりの制限
    文字数Nは15文字であり、このとき、前記第1の所定
    文字数は12(=N−3)文字であることを特徴とする
    字幕文テキストの自動分割方法。
  7. 【請求項7】 請求項1乃至6のうちいずれか一項に記
    載の字幕文テキストの自動分割方法であって、 前記所定の字幕提示形式で定義される一行当たりの制限
    文字数Nは15文字であり、このとき、前記第2の所定
    文字数は8(=N/2;ただし小数点以下切り上げ)文
    字であることを特徴とする字幕文テキストの自動分割方
    法。
JP12759199A 1999-05-07 1999-05-07 字幕文テキストの自動分割方法 Expired - Fee Related JP4140744B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP12759199A JP4140744B2 (ja) 1999-05-07 1999-05-07 字幕文テキストの自動分割方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP12759199A JP4140744B2 (ja) 1999-05-07 1999-05-07 字幕文テキストの自動分割方法

Publications (2)

Publication Number Publication Date
JP2000324394A true JP2000324394A (ja) 2000-11-24
JP4140744B2 JP4140744B2 (ja) 2008-08-27

Family

ID=14963877

Family Applications (1)

Application Number Title Priority Date Filing Date
JP12759199A Expired - Fee Related JP4140744B2 (ja) 1999-05-07 1999-05-07 字幕文テキストの自動分割方法

Country Status (1)

Country Link
JP (1) JP4140744B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002342311A (ja) * 2001-05-17 2002-11-29 Telecommunication Advancement Organization Of Japan 字幕番組制作における表示単位字幕文の自動生成方法
JP2002351490A (ja) * 2001-05-29 2002-12-06 Telecommunication Advancement Organization Of Japan 字幕へのタイミング情報付与方法
JP2005269205A (ja) * 2004-03-18 2005-09-29 National Institute Of Information & Communication Technology 逐次型高速字幕制作システム
JP2008199444A (ja) * 2007-02-15 2008-08-28 Funai Electric Co Ltd 字幕放送表示システム及び放送受信装置
CN110765889A (zh) * 2019-09-29 2020-02-07 平安直通咨询有限公司上海分公司 法律文书的特征提取方法、相关装置及存储介质
CN114220550A (zh) * 2021-12-16 2022-03-22 云知声智能科技股份有限公司 一种单病种上报通用方法、装置、电子设备和存储介质

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102082923A (zh) * 2009-11-30 2011-06-01 新奥特(北京)视频技术有限公司 字幕模板的字幕替换方法及装置
CN102082924A (zh) * 2009-11-30 2011-06-01 新奥特(北京)视频技术有限公司 应用字幕模板替换字幕的方法及装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002342311A (ja) * 2001-05-17 2002-11-29 Telecommunication Advancement Organization Of Japan 字幕番組制作における表示単位字幕文の自動生成方法
JP2002351490A (ja) * 2001-05-29 2002-12-06 Telecommunication Advancement Organization Of Japan 字幕へのタイミング情報付与方法
JP2005269205A (ja) * 2004-03-18 2005-09-29 National Institute Of Information & Communication Technology 逐次型高速字幕制作システム
JP2008199444A (ja) * 2007-02-15 2008-08-28 Funai Electric Co Ltd 字幕放送表示システム及び放送受信装置
CN110765889A (zh) * 2019-09-29 2020-02-07 平安直通咨询有限公司上海分公司 法律文书的特征提取方法、相关装置及存储介质
CN114220550A (zh) * 2021-12-16 2022-03-22 云知声智能科技股份有限公司 一种单病种上报通用方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
JP4140744B2 (ja) 2008-08-27

Similar Documents

Publication Publication Date Title
US6442518B1 (en) Method for refining time alignments of closed captions
US6332122B1 (en) Transcription system for multiple speakers, using and establishing identification
US20070011012A1 (en) Method, system, and apparatus for facilitating captioning of multi-media content
JP6824399B2 (ja) 音声ガイド生成装置、音声ガイド生成方法及び放送システム
US7676373B2 (en) Displaying text of speech in synchronization with the speech
EP1295482B1 (en) Generation of subtitles or captions for moving pictures
CN111986656B (zh) 教学视频自动字幕处理方法与系统
US20080270134A1 (en) Hybrid-captioning system
CN103559214A (zh) 视频自动生成方法及装置
JP5246948B2 (ja) 字幕ずれ補正装置、再生装置および放送装置
US20060136226A1 (en) System and method for creating artificial TV news programs
CN112399269B (zh) 视频分割方法、装置、设备及存储介质
EP3839953A1 (en) Automatic caption synchronization and positioning
JP4140745B2 (ja) 字幕へのタイミング情報付与方法
JP2004343488A (ja) 字幕挿入方法、字幕挿入システム、および字幕挿入プログラム
US20200320976A1 (en) Information processing apparatus, information processing method, and program
JP2000324394A (ja) 字幕文テキストの自動分割方法
JP4210723B2 (ja) 自動字幕番組制作システム
JP4538618B2 (ja) 字幕番組制作システムにおける表示単位字幕文の自動生成方法
US11798558B2 (en) Recording medium recording program, information processing apparatus, and information processing method for transcription
JP4496358B2 (ja) オープンキャプションに対する字幕表示制御方法
JP4359069B2 (ja) 要約生成装置及びそのプログラム
CN118038852A (zh) 语料的获取方法、装置、电子设备、存储介质和程序产品
JP2002351490A (ja) 字幕へのタイミング情報付与方法
JP5243886B2 (ja) 字幕出力装置、字幕出力方法及びプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040513

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040517

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20040903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060302

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20060227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080509

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080604

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110620

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110620

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120620

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120620

Year of fee payment: 4

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120620

Year of fee payment: 4

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120620

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120620

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130620

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees