JP4606802B2 - テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体 - Google Patents

テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体 Download PDF

Info

Publication number
JP4606802B2
JP4606802B2 JP2004221129A JP2004221129A JP4606802B2 JP 4606802 B2 JP4606802 B2 JP 4606802B2 JP 2004221129 A JP2004221129 A JP 2004221129A JP 2004221129 A JP2004221129 A JP 2004221129A JP 4606802 B2 JP4606802 B2 JP 4606802B2
Authority
JP
Japan
Prior art keywords
image processing
telop character
character
telop
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004221129A
Other languages
English (en)
Other versions
JP2006039333A (ja
Inventor
龍人 竹内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004221129A priority Critical patent/JP4606802B2/ja
Publication of JP2006039333A publication Critical patent/JP2006039333A/ja
Application granted granted Critical
Publication of JP4606802B2 publication Critical patent/JP4606802B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体に関し、詳しくは、指定されたスクロール速度で画面上を移動するテロップ文字の動画映像をフレーム単位で生成するテロップ文字生成装置と、このテロップ文字生成装置で生成されたテロップ文字の動画映像をフレーム表示可能なテロップ文字表示装置との間において、テロップ文字生成装置からテロップ文字表示装置に送出されるテロップ文字の動画映像に対し、当該テロップ文字のスクロール速度に応じた画像処理を施すためのテロップ文字画像処理方法、並びにその実施に直接使用されるテロップ文字画像処理装置、テロップ文字画像処理プログラム及びこのテロップ文字画像処理プログラムを記録した記録媒体に係わる。
例えば、街頭の電光ニュースや掲示板に表示される電飾文字、或いは、テレビ受像機やコンピュータの画面に表示されるテロップなど、所定の表示領域を右から左又は下から上へ移動する文字列(以下「テロップ文字」という)による情報提示方式は一般に用いられており、専用のテロップ提示装置(いわゆる「ビデオテロッパ」)も市販されている。
特に、テレビ受像機やコンピュータの画面に対するテロップ文字の表示に用いられるテロップ文字生成装置では、当該テロップ文字を構成する各文字に関して予め用意されたフォントの種類、サイズ、及び色、並びに同テロップ文字のスクロール方向(画面上の移動速度)、及び画面上の表示領域を指定することができ、これに加え、同テロップ文字のスクロール速度(画面上の移動速度)を随意に可変することができる。
ここで、画面上を移動するテロップ文字の認識率(人の視覚を通じた読解率)を向上させるには、そのスクロール速度をある範囲に抑制する必要がある。
例えば、下記の非特許文献1に示す研究資料によれば、読みに適したスクロール速度の上限は、文字サイズが視角約1度の場合、約5.3文字/秒とされており、約10文字/秒を越えると、認識率は極端に悪化する。即ち、テロップ文字を画面上で移動させたときの人の読み速度は、発話又は読書による理解速度の1/2から1/3と遅くなる。
中條和光、納富一宏、石田敏郎、「横スクロール表示の読みの速度に及ぼす文字数の効果」、日本心理学会心理学研究、1993年12月、第64巻、第5号、p.360−368
このように、画面上を高速(約10文字/秒以上)で移動するテロップ文字の認識率が悪化する要因の一つに、人の視覚系における動体(動く画像パターン)の検出精度の限界がある。
してみれば、人の視覚系の特性を考慮した画像処理をテロップ文字に事前に施せば、高速で移動するテロップ文字でも認識率を向上させることが期待できる。
ここにおいて、本発明の解決すべき主要な目的は、次のとおりである。
即ち、本発明の第1の目的は、高速で移動するテロップ文字の認識率を向上させる画像処理を行うためのテロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体を提供せんとするものである。
本発明の第2の目的は、読みが可能なスクロール速度の限界を向上させるためのテロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体を提供せんとするものである。
本発明の他の目的は、明細書、図面、特に特許請求の範囲の各請求項の記載から、自ずと明らかとなろう。
まず、本発明方法においては、フレーム画像データが入力される毎に、当該フレーム画像データに所定方式による直交変換を施して対応する空間周波数分布を得る直交変換過程と、この直交変換過程で得られた空間周波数分布の傾きを、当該空間周波数分布の形態を保持しながら、その高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる新たな傾きへと変更する傾き変更過程と、この傾き変更過程により新たな傾きへと変更された当該空間周波数分布に所定方式による直交変換の逆操作を行う逆直交変換を施して、当該空間周波数分布に対応する画像処理後のフレーム画像データを得る逆直交変換過程と、傾き変更過程における空間周波数分布の傾きの変更に際して外部から指定されるテロップ文字の劣化度指数を、パラメータの一つとして当該傾き変更過程に与える文字劣化度指定過程とを実行する、という特徴的構成手法を講じる。
また、本発明装置においては、フレーム画像データが入力される毎に、当該フレーム画像データに所定方式による直交変換を施して対応する空間周波数分布を得る直交変換手段と、この直交変換手段で得られた空間周波数分布の傾きを、当該空間周波数分布の形態を保持しながら、その高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる新たな傾きへと変更する傾き変更手段と、この傾き変更手段により新たな傾きへと変更された当該空間周波数分布に所定方式による直交変換の逆操作を行う逆直交変換を施して、当該空間周波数分布に対応する画像処理後のフレーム画像データを得る逆直交変換手段と、傾き変更手段における空間周波数分布の傾きの変更に際して外部から指定されるテロップ文字の劣化度指数を、パラメータの一つとして当該傾き変更手段に与える文字劣化度指定手段を具備させる、という特徴的構成手段を講じる。
一方、本発明プログラムにおいては、コンピュータを本発明装置を構成する各手段として機能させる、という特徴的構成手順を講じる。
他方、本発明記録媒体においては、本発明プログラムをコンピュータ読み取り可能に記録してなる、という特徴的構成手続を講じる。
さらに、具体的詳細に述べると、当該課題の解決では、本発明が次に列挙する上位概念から下位概念に亙る新規な特徴的構成手法、手段、手順又は手続を採用することにより、前記目的を達成するよう為される。
即ち、本発明方法の第1の特徴は、指定されたスクロール速度で画面上を移動するテロップ文字の動画映像をフレーム単位で生成するテロップ文字生成装置と、このテロップ文字生成装置で生成された前記テロップ文字の前記動画映像をフレーム表示可能なテロップ文字表示装置との間に介設されたテロップ文字画像処理装置が、前記テロップ文字生成装置から前記テロップ文字表示装置に送出される前記テロップ文字の前記動画映像に対し、当該テロップ文字の前記スクロール速度に応じた画像処理を施すためのテロップ文字画像処理方法であって、前記テロップ文字画像処理装置が具備する画像データ入力手段が、前記テロップ文字の前記動画映像に関して前記テロップ文字生成装置から逐次出力されるフレーム画像データを入力するデータ入力過程と、前記テロップ文字画像処理装置が具備する画像処理実行手段が、前記データ入力過程で入力された前記フレーム画像データに前記画像処理を施す画像処理実行過程と、前記テロップ文字画像処理装置が具備する画像処理制御手段が、前記画像処理実行過程における前記画像処理の形態をパラメータで制御する画像処理制御過程と、前記テロップ文字画像処理装置が具備する画像データ出力手段が、前記画像処理実行過程を経た前記画像処理後のフレーム画像データを前記テロップ文字表示装置に出力するデータ出力過程とを有し、前記画像処理実行過程が、前記フレーム画像データが入力される毎に、当該フレーム画像データに所定方式による直交変換を施して対応する空間周波数分布を得る直交変換過程と、この直交変換過程で得られた前記空間周波数分布の傾きを、当該空間周波数分布の形態を保持しながら、その高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる新たな傾きへと変更する傾き変更過程と、この傾き変更過程により前記新たな傾きへと変更された当該空間周波数分布に前記所定方式による直交変換の逆操作を行う逆直交変換を施して、当該空間周波数分布に対応する前記画像処理後のフレーム画像データを得る逆直交変換過程とを有し、前記画像処理制御過程が、前記傾き変更過程における前記空間周波数分布の前記傾きの変更に際して外部から指定される前記テロップ文字の劣化度指数を、前記パラメータの一つとして当該傾き変更過程に与える文字劣化度指定過程を有してなる、テロップ文字画像処理方法の構成採用にある。
本発明方法の第2の特徴は、上記本発明方法の第1の特徴における前記文字劣化度指定過程が、前記傾き変更過程における連続する複数の前記フレーム画像データに関する前記空間周波数分布の前記傾きの変更に際し、経時的に値の増減を繰り返す複数の前記劣化度指数を当該傾き変更過程に与えてなる、テロップ文字画像処理方法の構成採用にある。
本発明方法の第3の特徴は、上記本発明方法の第1又は第2の特徴における前記劣化度指数が、前記空間周波数分布の前記傾きに乗算される係数により表現されてなる、テロップ文字画像処理方法の構成採用にある。
本発明方法の第4の特徴は、上記本発明方法の第1、第2又は第3の特徴における前記画像処理実行過程が、前記フレーム画像データが入力される毎に、当該フレーム画像データを前記直交変換過程以降における前記画像処理に供するか否かを決定するフレーム決定過程をさらに有し、前記画像処理制御過程が、当該フレーム決定過程における前記画像処理の要否決定に際して外部から指定される当該画像処理の頻度指数を、前記パラメータの一つとして当該フレーム決定過程に与える処理頻度指定過程をさらに有してなる、テロップ文字画像処理方法の構成採用にある。
また、本発明装置の第1の特徴は、指定されたスクロール速度で画面上を移動するテロップ文字の動画映像をフレーム単位で生成するテロップ文字生成装置と、このテロップ文字生成装置で生成された前記テロップ文字の前記動画映像をフレーム表示可能なテロップ文字表示装置との間に介設され、前記テロップ文字生成装置から前記テロップ文字表示装置に送出される前記テロップ文字の前記動画映像に対し、当該テロップ文字の前記スクロール速度に応じた画像処理を施すためのテロップ文字画像処理装置であって、前記テロップ文字の前記動画映像に関して前記テロップ文字生成装置から逐次出力されるフレーム画像データを入力する画像データ入力手段と、この画像データ入力手段を通じて入力された前記フレーム画像データに前記画像処理を施す画像処理実行手段と、この画像処理実行手段における前記画像処理の形態をパラメータで制御する画像処理制御手段と、前記画像処理実行手段を経た前記画像処理後のフレーム画像データを前記テロップ文字表示装置に出力する画像データ出力手段とを具備し、前記画像処理実行手段が、前記フレーム画像データが入力される毎に、当該フレーム画像データに所定方式による直交変換を施して対応する空間周波数分布を得る直交変換手段と、この直交変換手段で得られた前記空間周波数分布の傾きを、当該空間周波数分布の形態を保持しながら、その高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる新たな傾きへと変更する傾き変更手段と、この傾き変更手段により前記新たな傾きへと変更された当該空間周波数分布に前記所定方式による直交変換の逆操作を行う逆直交変換を施して、当該空間周波数分布に対応する前記画像処理後のフレーム画像データを得る逆直交変換手段とを具備し、前記画像処理制御手段が、前記傾き変更手段における前記空間周波数分布の前記傾きの変更に際して外部から指定される前記テロップ文字の劣化度指数を、前記パラメータの一つとして当該傾き変更手段に与える文字劣化度指定手段を具備してなる、テロップ文字画像処理装置の構成採用にある。
本発明装置の第2の特徴は、上記本発明装置の第1の特徴における前記文字劣化度指定手段が、前記傾き変更手段における連続する複数の前記フレーム画像データに関する前記空間周波数分布の前記傾きの変更に際し、経時的に値の増減を繰り返す複数の前記劣化度指数を当該傾き変更手段に与える機能手段を具備してなる、テロップ文字画像処理装置の構成採用にある。
本発明装置の第3の特徴は、上記本発明装置の第1又は第2の特徴における前記劣化度指数が、前記空間周波数分布の前記傾きに乗算される係数により表現されてなる、テロップ文字画像処理装置の構成採用にある。
本発明装置の第4の特徴は、上記本発明装置の第1、第2又は第3の特徴における前記画像処理実行手段が、前記フレーム画像データが入力される毎に、当該フレーム画像データを前記直交変換手段以降における前記画像処理に供するか否かを決定するフレーム決定手段をさらに具備し、前記画像処理制御手段が、当該フレーム決定手段における前記画像処理の要否決定に際して外部から指定される当該画像処理の頻度指数を、前記パラメータの一つとして当該フレーム決定手段に与える処理頻度指定手段をさらに具備してなる、テロップ文字画像処理装置の構成採用にある。
一方、本発明プログラムの第1の特徴は、コンピュータを上記本発明装置の第1、第2、第3又は第4の特徴におけるテロップ文字画像処理装置における前記画像処理実行手段を構成する各手段として機能させてなる、テロップ文字画像処理プログラムの構成採用にある。
他方、本発明記録媒体の第1の特徴は、上記本発明プログラムの第1の特徴におけるテロップ文字画像処理プログラムをコンピュータ読み取り可能に記録してなる、テロップ文字画像処理プログラムを記録した記録媒体の構成採用にある。
以上のように、本発明によれば、動体のエッジや輪郭成分に対する感度が悪いという人の視覚系の特性を考慮して、テロップ文字を構成する各文字の輪郭成分の特徴を低下させる画像処理、即ち、画像パターンの空間周波数分布において文字の輪郭成分を特徴付ける高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる画像処理を行うようにしたことから、ここに、高速で移動するテロップ文字の認識率を向上させる画像処理が実現され、これに伴い、読みが可能なスクロール速度の限界を向上させることが可能となる。
以下、本発明の実施の形態につき、添付図面を参照しつつ、その装置例、方法例、プログラム例及び記録媒体例を順に挙げて説明する。
(装置例)
図1は、本発明の一装置例に係るテロップ文字画像処理装置の構成を示す機能ブロック図である。
同図に示すように、本装置例に係るテロップ文字画像処理装置αは、指定されたスクロール速度で画面上を移動するテロップ文字の動画映像をフレーム単位で生成するテロップ文字生成装置1と、このテロップ文字生成装置1で生成されたテロップ文字の動画映像をフレーム表示可能なテロップ文字表示装置2との間に介設され、テロップ文字生成装置1からテロップ文字表示装置2に送出されるテロップ文字の動画映像に対し、当該テロップ文字のスクロール速度に応じた画像処理を施すために、画像データ入力インターフェイス3(本発明にいう「画像データ入力手段」)と、画像処理実行部4(本発明にいう「画像処理実行手段」)と、画像処理制御部5(本発明にいう「画像処理制御手段」)と、画像データ出力インターフェイス6(本発明にいう「画像データ出力手段」)とを具備して構成される。
ここで、テロップ文字生成装置1は、テロップ文字のスクロール速度を指定できる他に、当該テロップ文字を構成する各文字のフォント種、サイズ、及び色、並びに同テロップ文字のスクロール方向(「右から左(一部言語に関し左から右)」や「下から上」などの方向)、及びテロップ文字表示装置2の画面上における表示領域(「下」や「右」などの領域)を指定することができる。なお、同テロップ文字生成装置1は、CPU(中央処理装置)、各種記憶装置、計時装置、各種入出力装置など(共に図示せず)コンピュータの基本構成を具備し、所要のテロップ文字の動画映像に関するフレーム画像データの出力に際しては、汎用的なRGBデータを用いる。
テロップ文字表示装置2は、CRT(陰極線管)やLCD(液晶表示装置)などから構成され、テロップ文字生成装置1からテロップ文字画像処理装置αを通じて与えられる上記RGBデータからなるフレーム画像データを直接表示することができる。
画像データ入力インターフェイス3は、テロップ文字の動画映像に関してテロップ文字生成装置1から逐次出力されるフレーム画像データを入力するインターフェイスを構成する。
画像処理実行部4は、画像データ入力インターフェイス3を通じて入力されたフレーム画像データに画像処理を施す機能手段であり、具体的には、フレーム決定部41(本発明にいう「フレーム決定手段」)と、直交変換部42(本発明にいう「直交変換手段」)と、傾き変更部43(本発明にいう「傾き変更手段」)と、逆直交変換部44(本発明にいう「逆直交変換手段」)とを具備して構成される。
このうち、フレーム決定部41は、フレーム画像データが入力される毎に、当該フレーム画像データを次段の直交変換部42以降における画像処理に供するか否かを決定する機能手段であり、当該フレーム画像データを画像処理に供すると決定された場合には、それを直交変換部42に転送し、供さないと決定された場合には、それを画像データ出力インターフェイス6に転送するよう機能する。
直交変換部42は、フレーム画像データが入力される毎に、その形式をRGBデータから例えばYUVデータへ変換し、さらに、当該フレーム画像データの全成分に、離散コサイン変換、離散サイン変換、離散フーリエ変換、ウォルシュ・アダマール変換、カルーネン・レーベ変換、スラント変換、ハール変換その他の方式の何れか一つによる直交変換を施して、対応する空間周波数分布を得る機能手段である。
傾き変更部43は、直交変換部42で得られた空間周波数分布の傾きを、当該空間周波数分布の形態を保持しながら、その高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる新たな傾きへと変更する機能手段である。
逆直交変換部44は、傾き変更部43により新たな傾きへと変更された当該空間周波数分布に、上記直交変換部42で用いた方式による直交変換の逆操作を行う逆直交変換を施し、さらに、当該逆直交変換により得られた例えばYUVデータによるフレーム画像データをRGBデータに変換して、当該空間周波数分布に対応する画像処理後のフレーム画像データを得る機能手段である。
一方、画像処理制御部5は、画像処理実行部4における画像処理の形態をパラメータで制御する機能手段であり、具体的には、処理頻度指定部51(本発明にいう「処理頻度指定手段」)と、文字劣化度指定部52(本発明にいう「文字劣化度指定手段」)とを具備して構成される。
このうち、処理頻度指定部51は、画像処理実行部4のフレーム決定部41における画像処理の要否決定に際して、外部(本テロップ文字画像処理装置αのユーザ)から指定される当該画像処理の頻度指数xをその要否の割合を示す百分率(x=0.0〜100.0(%))により表現し、当該頻度指数xを上記パラメータの一つとして当該フレーム決定部41に与える機能手段である。
文字劣化度指定部52は、画像処理実行部4の傾き変更部43における空間周波数分布の傾きの変更に際して、外部(同前)から指定されるテロップ文字の劣化度指数dをその空間周波数分布の傾きに乗算される係数(例えばd=1.0〜2.0)により表現し、当該劣化度指数dを上記パラメータの一つとして当該傾き変更部43に与える機能手段である。なお、同文字劣化度指定部52は、外部からの指定に応じ、一連のフレーム画像データに関する空間周波数の傾きの変更に際し、値が固定的な単一の劣化度指数dを傾き変更部43に与える機能の他に、連続する複数のフレーム画像データに関する空間周波数分布の傾きの変更に際し、経時的に値の増減を繰り返す複数の劣化度指数dを傾き変更部43に与える機能をも具備する。
そして、画像データ出力インターフェイス6は、画像処理実行部4を経た画像処理後のフレーム画像データ(及びフレーム決定部41の決定により画像処理を経ていないフレーム画像データ)をテロップ文字表示装置2に出力するインターフェイスを構成する。
なお、上記画像処理制御部5の処理頻度指定部51により制御される画像処理実行部4のフレーム決定部41と、文字劣化度指定部52により制御される傾き変更部43とは、同時に機能させることができるのは勿論、場合により、傾き変更部43及び対応する文字劣化度指定部52のみを機能させ、フレーム決定部41及び対応する処理頻度指定部51については機能させないようにすることも可能である(これらフレーム決定部41及び処理頻度指定部51を排した構成とすることも可能である)。
また、本テロップ文字画像処理装置αは、前述のテロップ文字生成装置1と同様、CPU、各種記憶装置、計時装置、各種入出力装置など(共に図示せず)コンピュータの基本構成を具備し、これら構成要素とテロップ文字画像処理プログラム(詳細は後述)とにより上記各構成手段が得られる。
次に、上述した画像処理実行部4の直交変換部42で得られる空間周波数分布の傾きを傾き変更部43で変更する際の具体的態様について説明する。
まず、人の視覚系の特性を考慮した場合、画面上を高速で移動するテロップ文字の認識率を悪化させる要因は、当該テロップ文字を構成する各文字の特質にある。即ち、人の視覚系に存在する動体検出メカニズムは、動く画像パターンのエッジや輪郭成分に対して感度が悪く、このため、文字のように輪郭成分そのものにより特徴付けられる画像パターンが高速で移動すると、上記動体検出メカニズムからの応答に時間遅れが生じる。この結果、人の視覚系には、画像パターン自体(文字自体)が鮮明に知覚されず、当該画像パターンとそのゴーストと呼ばれる残像(文字の残像)とが同時に知覚されて、該当するテロップ文字の認識率が悪化する。
そこで、本装置例に係るテロップ文字画像処理装置αでは、テロップ文字を構成する各文字の輪郭成分の特徴を低下させる画像処理、即ち、画像パターンの空間周波数分布において文字の輪郭成分を特徴付ける高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる画像処理を行い、これにより、上記文字の残像が人の視覚系に知覚されるのを抑制し、画面上を高速で移動するテロップ文字全体の認識率を向上させる。
図2は、図1に示した直交変換部42で得られる空間周波数分布の傾きを傾き変更部43で変更する際の態様を示す説明図である。また、図3は、図1に示した文字劣化度指定部52から傾き変換部43に対し値の異なる複数の劣化度指数d(1.0〜2.0)を与えたときのテロップ文字の劣化状態の変化を示す概念図である。
まず、テロップ文字の動画映像に関するフレーム画像データを画像処理実行部4の直交変換部42で直交変換して得られる空間周波数分布は、その振幅をA,空間周波数をsf,傾きを−aとすれば、次式(1)により近似することができる(下記の非特許文献2を参照)。
A∝sf−a (1)
Field, D. J.,"Relations between the statistics of natural images and the response properties of cortical cells,"Journal of the Optical Society of America A, December 1987, Vol. 4, No. 12, pp. 2379-2394.
ここで、上記式(1)に比例定数kを与えて等式化し、さらに、その等式を常用対数スケールに変換すれば、
A=k×sf−a
log10A=−alog10sf+K (2)
となり(但し、K=log10k)、図2に示すような、直流成分が「K」で傾きが「−a」の空間周波数分布が得られる。
上記式(2)において、傾き−aは、文字のもつ空間周波数振幅成分の相対値に相当するため、この−aを変化させることにより、テロップ文字を構成する各文字の劣化度(ぼけ具合)を制御することができる。そこで、本装置例に係るテロップ文字画像処理装置αでは、画像処理実行部4の傾き変換部43において、上記空間周波数分布の傾き−aに対し、画像処理制御部5の文字劣化度指定部52から与えられる劣化度指数dを係数として乗算し、「−a×d」なる新たな傾きを得るようにする。
そして、以上の演算により、画像パターンの空間周波数分布において文字の輪郭成分を特徴付ける高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる画像処理が行われ、このときの劣化度指数dを1.0〜2.0の範囲で指定することにより、図3に示すように、テロップ文字を構成する各文字を随意に劣化させることが可能となる(d=1.0の場合は文字劣化は生じない)。
次に、上述した画像処理実行部4のフレーム決定部41で行われる画像処理の要否決定に関する具体的態様について説明する。
図4は、図1に示した処理頻度指定部51からフレーム決定部41に対し2例((a)及び(b))の頻度指数を与えたときのテロップ文字の表示状態の変化を示す概念図である。
まず、本装置例に係るテロップ文字画像処理装置αでは、上記画像処理実行部4の傾き変更部43における傾き変更に関する画像処理の頻度を、画像処理制御部5の処理頻度指定部51からフレーム決定部41に与えられる頻度指数xにより制御するようにする(x=100.0(%)では全てのフレーム画像データに対し画像処理を施し、x=0.0(%)では画像処理を一切施さない)。図4(a)には、頻度指数xとして50(%)を与えた場合を、また、同図(b)には、同頻度指数xとして66.6(%)を与えた場合を示す(劣化度指数dは共に1.6であり、図示のSはフレーム画像データの画面表示範囲を示す)。
図示のように、画像処理を施したフレーム画像データと施さないフレーム画像データを混在させるのは、次の理由による。即ち、テロップ文字を高速なスクロール速度で移動させた場合に生じる残像の度合いは、自ずと、そのスクロール速度が高まるにつれて大きくなる。そこで、本装置例に係るテロップ文字画像処理装置αでは、この残像を抑制するために、テロップ文字のスクロール速度が高速な場合には、劣化度指数dの値を大きく設定して対応するようにする。
しかしながら、劣化度指数dの値をあまり大きく設定すると、テロップ文字を構成する各文字の劣化状態が激しくなりすぎ、その文字を視覚的に判別すること自体が不可能となる。このため、本装置例に係るテロップ文字画像処理装置αでは、画像処理を施していない(又は小さな値の劣化度指数dにより僅かに画像処理を施した)フレーム画像データを、フレーム決定部41により数フレームに1枚の割合で定期的に挿入することにより、以上の文字判別を補助するようにしている。
なお、前述もしたが、上記フレーム決定部41及び対応する処理頻度指定部51に関しては、これらを排除した構成とすることもできる。これは、処理頻度指定部51から与えられる頻度指数xの値を100.0(%)に設定したことに等しく、この場合において、テロップ文字を高速なスクロール速度で移動させた場合に生じる残像を抑制するには、画像処理制御部5の文字劣化度指定部52から画像処理実行部4の傾き変更部43に対し、経時的に値の増減を繰り返す複数の劣化度指数dを与えるようにすれば足りる(例えば、d:「1.0」→「1.6」→「1.6」→「1.0」の繰り返しにより66.6(%)の頻度指数xを実現でき、また、場合により、d:「1.4」→「1.6」→「1.6」→「1.4」のように、常に文字劣化を生じさせる処理とすることも可能)。
(方法例)
続いて、以上のように構成された本装置例に係るテロップ文字画像処理装置αにより実施される方法例を説明する。
まず、テロップ文字画像処理装置αの画像データ入力インターフェイス3が、テロップ文字の動画映像に関してテロップ文字生成装置1から逐次出力されるRGBデータ形式のフレーム画像データを入力する(データ入力過程)と、画像処理実行部4が、その入力されたフレーム画像データに画像処理を施す(画像処理実行過程)ために、当該画像処理実行部4のフレーム決定部41が、上記フレーム画像データが入力される毎に、当該フレーム画像データを直交変換部42以降における画像処理に供するか否かを決定する(フレーム決定過程)。
このとき、画像処理実行部4における画像処理の形態をパラメータで制御する(画像処理制御過程)ための画像処理制御部5の処理頻度指定部51は、上記フレーム決定部41における画像処理の要否決定に際して外部から指定される当該画像処理の頻度指数x(百分率)を、上記パラメータの一つとして当該フレーム決定部41に与える(処理頻度指定過程)。
次に、フレーム決定部41は、処理頻度指定部51から与えられる頻度指数xの値に応じて、フレーム画像データを直交変換部42に転送するか、或いは、同フレーム画像データを画像データ出力インターフェイス6に転送するかを決定する。このとき、フレーム画像データが画像データ出力インターフェイス6に転送された場合、当該フレーム画像データは、そのままのRGBデータ形式でテロップ文字表示装置2に出力されて表示される。
これに対し、上記フレーム画像データが直交変換部42に転送されると、同直交変換部42は、そのRGBデータ形式のフレーム画像データが入力される毎に、当該フレーム画像データを例えばYUVデータ形式に変換し、さらに、例えば離散コサイン変換による直交変換を施して、対応する空間周波数分布を得(直交変換過程)、これを傾き変更部43に転送する。
次に、上記空間周波数分布が傾き変更部43に転送されると、同傾き変更部43は、その空間周波数分布の元来の傾き(−a)を、当該空間周波数分布の形態を保持しながら、その高周波域振幅成分を低周波域振幅成分に対し相対的に低減させる新たな傾き(−a×d)へと変更し(傾き変更過程)、これを逆直交変換部44に転送する。
このとき、画像処理制御部5の文字劣化度指定部52は、上記傾き変更部43における空間周波数分布の傾きの変更に際して外部から指定されるテロップ文字の劣化度指数d、即ち、値が固定的な単一の又は経時的に値の増減を繰り返す複数の劣化度指数d(係数)を、上記パラメータの一つとして当該傾き変更部43に与える(文字劣化度指定過程)。
次に、新たな傾き(−a×d)を得た空間周波数分布が逆直交変換部44に転送されると、同逆直交変換部44は、当該空間周波数分布に、上記直交変換部42で用いた例えば離散コサイン変換の逆操作を行う逆直交変換を施し、さらに、当該逆直交変換により得られた例えばYUVデータ形式のフレーム画像データをRGBデータ形式に変換して、当該空間周波数分布に対応する画像処理後のフレーム画像データを得(逆直交変換過程)、これを画像データ出力インターフェイス6へ転送する。
そして、画像データ出力インターフェイス6は、逆直交変換部44からの転送を受けた(画像処理実行部4を経た)画像処理後のフレーム画像データを、テロップ文字表示装置2に出力する(データ出力過程)。
ここで、テロップ文字表示装置2の画面上を移動するテロップ文字のスクロール速度が高速な場合には、文字劣化度指定部52により指定される劣化度指数dと処理頻度指定部51により指定される頻度指数xとのうち、少なくとも一方を増加させれば、テロップ文字の高周波域振幅成分によりもたらされる残像(ゴースト)を低減させることができる。
実際に、テロップ文字表示装置2の画面上に、視角約1度の文字(観察距離60cmでほぼ2cm角)から構成されるテロップ文字を、劣化度指数dを「1.6」に、頻度指数xを「66.6(%)」に指定して提示したところ、画像処理を施さない状態での認識可能なスクロール速度は、約15文字/秒程度であったが、本方法例により画像処理を施した場合の認識可能なスクロール速度は、約25文字/秒にまで向上した。
これは、人の目から脳に情報を送る神経回路が、輪郭など細かいパターンと同時に物体の高速な動きを伝達することが困難であり、輪郭などの情報を欠落させれば、その物体の高速な動きを捕捉しやすくなるからである。
なお、テロップ文字のスクロール速度が約5文字/秒程度と低速な場合には、本方法例による画像処理を適用することなく従来どおりの提示を行えばよい(劣化度指数dを「1.0」に、頻度指数xを「0.6(%)」に指定すればよい)。
(プログラム例及び記録媒体例)
以上の説明から明らかなように、本装置例に係るテロップ文字画像処理装置αは、コンピュータの基本構成を具備しているため、本発明で具現化しようとする所要の機能は、ソフトウェア・プログラムにより構成することができる。
即ち、所要のテロップ文字画像処理プログラムを構成するに際しては、テロップ文字画像処理装置αの構成要素のうちハードウェア要素を除く各手段、即ち、前述した画像処理実行部4におけるフレーム決定部41、直交変換部42、傾き変更部43、及び逆直交変換部44の各機能手段をプログラム・ステップにより記述し、これにより、コンピュータとしてのテロップ文字画像処理装置αを、上記各手段として機能させるようにすればよい。
また、記録媒体を構成するに際しては、コンピュータ読み取り可能なCD−ROMなど任意の記録媒体に、上記各プログラム・ステップからなるテロップ文字画像処理プログラムを記録すればよい。
最後に、本装置例に係るテロップ文字画像処理装置αの使用形態の一例を実施例として示す。
図5は、図1に示したテロップ文字画像処理装置の使用形態の一例を示す図である。なお、本図に示す各構成要素には、既に図1に示したものと同一又は同等の機能手段を具備するものについて共通の符号を付すものとし、該当する各構成要素に関する詳細な説明については省略するものとする。
同図に示すように、本実施例で使用されるテロップ文字画像処理装置αには、前述のテロップ文字表示装置2に代え、テレビ受像機やコンピュータの画面(CRTやLCD)としての映像表示装置7が適用され、さらに、テロップ文字画像処理装置αから出力されて当該映像表示装置7に表示されるテロップ文字が、例えばビデオ再生装置などからなる映像提供装置8から出力されるビデオ映像と合成されるようになっている。
ここで、一般に画面上を移動するテロップ文字の読み速度は、前述もしたように、発話又は読書による理解速度の1/2から1/3と遅くなる。従って、例えばアナウンサーの発話内容を、その発話速度を保ったままテロップとして流しても、それを認識することは極めて困難であった。
しかしながら、実施形態で説明したテロップ文字画像処理装置αを使用すれば、認識可能なスクロール速度が、約25文字/秒へと飛躍的に向上するため、本実施例の構成によれば、例えば、予めアナウンサーの発話記録が為されたビデオを映像提供装置8で再生し、そのアナウンサーの発話映像と対応するテロップ文字とを映像表示装置7にて合成した場合でも、同アナウンサーの発話速度とテロップ文字のスクロール速度とを完全に同期させながら両者を提示することが可能となる。
以上、本発明の実施の形態及び実施例について説明したが、本発明は、必ずしも上述した手段、手法、手順及び手続にのみ限定されるものではなく、前述した効果を有する範囲内において、適宜、変更実施することが可能なものである。
本発明の一装置例に係るテロップ文字画像処理装置の構成を示す機能ブロック図である。 図1に示した直交変換部で得られる空間周波数分布の傾きを傾き変更部で変更する際の態様を示す説明図である。 図1に示した文字劣化度指定部から傾き変換部に対し値の異なる複数の劣化度指数を与えたときのテロップ文字の劣化状態の変化を示す概念図である。 図1に示した処理頻度指定部からフレーム決定部に対し2例((a)及び(b))の頻度指数を与えたときのテロップ文字の表示状態の変化を示す概念図である。 図1に示したテロップ文字画像処理装置の使用形態の一例を示す図である。
符号の説明
α…テロップ文字画像処理装置
1…テロップ文字生成装置
2…テロップ文字表示装置
3…画像データ入力インターフェイス
4…画像処理実行部
41…フレーム決定部
42…直交変換部
43…傾き変更部
44…逆直交変換部
5…画像処理制御部
51…処理頻度指定部
52…文字劣化度指定部
6…画像データ出力インターフェイス
7…映像表示装置
8…映像提供装置
d…劣化度指数
x…頻度指数
S…フレーム画像データの画面表示範囲

Claims (8)

  1. 指定されたスクロール速度で画面上を移動するテロップ文字の動画映像をフレーム単位で生成するテロップ文字生成装置と、このテロップ文字生成装置で生成された前記テロップ文字の前記動画映像をフレーム表示可能なテロップ文字表示装置との間に介設されたテロップ文字画像処理装置が、前記テロップ文字生成装置から前記テロップ文字表示装置に送出される前記テロップ文字の前記動画映像に対し、当該テロップ文字の前記スクロール速度に応じた画像処理を施すためのテロップ文字画像処理方法であって、
    前記テロップ文字画像処理装置が具備する画像データ入力手段が、前記テロップ文字の前記動画映像に関して前記テロップ文字生成装置から逐次出力されるフレーム画像データを入力するデータ入力過程と、
    前記テロップ文字画像処理装置が具備する画像処理実行手段が、前記データ入力過程で入力された前記フレーム画像データに前記画像処理を施す画像処理実行過程と、
    前記テロップ文字画像処理装置が具備する画像処理制御手段が、前記画像処理実行過程における前記画像処理の形態をパラメータで制御する画像処理制御過程と、
    前記テロップ文字画像処理装置が具備する画像データ出力手段が、前記画像処理実行過程を経た前記画像処理後のフレーム画像データを前記テロップ文字表示装置に出力するデータ出力過程と、を有し、
    前記画像処理実行過程は、
    前記フレーム画像データが入力される毎に、当該フレーム画像データに所定方式による直交変換を施して対応する空間周波数分布を得る直交変換過程と、
    空間周波数の振幅の対数値を縦軸とし、空間周波数の対数値を横軸として、前記直交変換過程で得られた前記空間周波数分布をその振幅の対数値及び空間周波数の対数値を変数とする線形関数で表し、前記線形関数を直線近似したときの傾きに与えられた劣化度指数d(1.0≦d≦2.0)を乗算し、前記直線近似の傾きを新たな傾きへと変更する傾き変更過程と、
    この傾き変更過程により前記新たな傾きへと変更された当該空間周波数分布に前記所定方式による直交変換の逆操作を行う逆直交変換を施して、当該空間周波数分布に対応する前記画像処理後のフレーム画像データを得る逆直交変換過程と、を有し、
    前記画像処理制御過程は、
    前記傾き変更過程における前記空間周波数分布の前記傾きの変更に際して外部から指定される前記テロップ文字を構成する各文字のぼけ具合を変更させる前記劣化度指数を、前記パラメータの一つとして当該傾き変更過程に与える文字劣化度指定過程を有する、
    ことを特徴とするテロップ文字画像処理方法。
  2. 前記文字劣化度指定過程は、
    前記傾き変更過程における連続する複数の前記フレーム画像データに関する前記空間周波数分布の前記傾きの変更に際し、経時的に値の増減を繰り返す複数の前記劣化度指数を当該傾き変更過程に与える、
    ことを特徴とする請求項1に記載のテロップ文字画像処理方法。
  3. 前記画像処理実行過程は、
    前記フレーム画像データが入力される毎に、当該フレーム画像データを前記直交変換過程以降における前記画像処理に供するか否かを決定するフレーム決定過程をさらに有し、
    前記画像処理制御過程は、
    当該フレーム決定過程における前記画像処理の要否決定に際して外部から指定される、全てのフレームに対する当該画像処理を施すフレーム数の比率を示す頻度指数を、前記パラメータの一つとして当該フレーム決定過程に与える処理頻度指定過程をさらに有する、
    ことを特徴とする請求項1又は2に記載のテロップ文字画像処理方法。
  4. 指定されたスクロール速度で画面上を移動するテロップ文字の動画映像をフレーム単位で生成するテロップ文字生成装置と、このテロップ文字生成装置で生成された前記テロップ文字の前記動画映像をフレーム表示可能なテロップ文字表示装置との間に介設され、前記テロップ文字生成装置から前記テロップ文字表示装置に送出される前記テロップ文字の前記動画映像に対し、当該テロップ文字の前記スクロール速度に応じた画像処理を施すためのテロップ文字画像処理装置であって、
    前記テロップ文字の前記動画映像に関して前記テロップ文字生成装置から逐次出力されるフレーム画像データを入力する画像データ入力手段と、
    この画像データ入力手段を通じて入力された前記フレーム画像データに前記画像処理を施す画像処理実行手段と、
    この画像処理実行手段における前記画像処理の形態をパラメータで制御する画像処理制御手段と、
    前記画像処理実行手段を経た前記画像処理後のフレーム画像データを前記テロップ文字表示装置に出力する画像データ出力手段と、を具備し、
    前記画像処理実行手段は、
    前記フレーム画像データが入力される毎に、当該フレーム画像データに所定方式による直交変換を施して対応する空間周波数分布を得る直交変換手段と、
    空間周波数の振幅の対数値を縦軸とし、空間周波数の対数値を横軸として、前記直交変換過程で得られた前記空間周波数分布をその振幅の対数値及び空間周波数の対数値を変数とする線形関数で表し、前記線形関数を直線近似したときの傾きに与えられた劣化度指数d(1.0≦d≦2.0)を乗算し、前記直線近似の傾きを新たな傾きへと変更する傾き変更手段と、
    この傾き変更手段により前記新たな傾きへと変更された当該空間周波数分布に前記所定方式による直交変換の逆操作を行う逆直交変換を施して、当該空間周波数分布に対応する前記画像処理後のフレーム画像データを得る逆直交変換手段と、を具備し、
    前記画像処理制御手段は、
    前記傾き変更手段における前記空間周波数分布の前記傾きの変更に際して外部から指定される前記テロップ文字を構成する各文字のぼけ具合を変更させる前記劣化度指数を、前記パラメータの一つとして当該傾き変更手段に与える文字劣化度指定手段を具備する、
    ことを特徴とするテロップ文字画像処理装置。
  5. 前記文字劣化度指定手段は、
    前記傾き変更手段における連続する複数の前記フレーム画像データに関する前記空間周波数分布の前記傾きの変更に際し、経時的に値の増減を繰り返す複数の前記劣化度指数を当該傾き変更手段に与える機能手段を具備する、
    ことを特徴とする請求項4に記載のテロップ文字画像処理装置。
  6. 前記画像処理実行手段は、
    前記フレーム画像データが入力される毎に、当該フレーム画像データを前記直交変換手段以降における前記画像処理に供するか否かを決定するフレーム決定手段をさらに具備し、
    前記画像処理制御手段は、
    当該フレーム決定手段における前記画像処理の要否決定に際して外部から指定される、全てのフレームに対する当該画像処理を施すフレーム数の比率を示す頻度指数を、前記パラメータの一つとして当該フレーム決定手段に与える処理頻度指定手段をさらに具備する、
    ことを特徴とする請求項4又は5に記載のテロップ文字画像処理装置。
  7. コンピュータを請求項4、5又は6に記載のテロップ文字画像処理装置における前記画像処理実行手段を構成する各手段として機能させる、
    ことを特徴とするテロップ文字画像処理プログラム。
  8. 請求項7に記載のテロップ文字画像処理プログラムをコンピュータ読み取り可能に記録してなる、
    ことを特徴とするテロップ文字画像処理プログラムを記録した記録媒体。
JP2004221129A 2004-07-29 2004-07-29 テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体 Expired - Fee Related JP4606802B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004221129A JP4606802B2 (ja) 2004-07-29 2004-07-29 テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004221129A JP4606802B2 (ja) 2004-07-29 2004-07-29 テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2006039333A JP2006039333A (ja) 2006-02-09
JP4606802B2 true JP4606802B2 (ja) 2011-01-05

Family

ID=35904378

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004221129A Expired - Fee Related JP4606802B2 (ja) 2004-07-29 2004-07-29 テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP4606802B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5317408B2 (ja) * 2006-11-28 2013-10-16 キヤノン株式会社 情報処理装置、情報処理方法
JP5114249B2 (ja) * 2008-02-29 2013-01-09 シャープ株式会社 表示装置および表示方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09101765A (ja) * 1995-07-31 1997-04-15 Canon Inc 画像処理装置
JPH10108092A (ja) * 1996-10-03 1998-04-24 Nippon Telegr & Teleph Corp <Ntt> 映像表示装置
GB9711024D0 (en) * 1997-05-28 1997-07-23 Rank Xerox Ltd Image enhancement and thresholding of images
JP2000293630A (ja) * 1999-04-09 2000-10-20 Ntt Data Corp 網掛け除去機能付きの文字認識装置および網掛け除去方法
JP3691725B2 (ja) * 2000-05-12 2005-09-07 日本電信電話株式会社 符号化画像編集装置,符号化画像編集方法および符号化画像編集プログラム記録媒体
JP4408330B2 (ja) * 2000-12-27 2010-02-03 Kddi株式会社 動画像内のロールテロップ検出装置および記録媒体
JP2004213443A (ja) * 2003-01-07 2004-07-29 Jordan Kk 情報配信システム、携帯端末、プログラム、記録媒体
JP4292853B2 (ja) * 2003-04-15 2009-07-08 パナソニック株式会社 デジタル放送受信装置
JP2004354423A (ja) * 2003-05-27 2004-12-16 Xing Inc 音楽再生装置及びその映像表示方法
JP4050240B2 (ja) * 2004-02-26 2008-02-20 シャープ株式会社 表示装置の駆動システム

Also Published As

Publication number Publication date
JP2006039333A (ja) 2006-02-09

Similar Documents

Publication Publication Date Title
KR101366596B1 (ko) 이차원 정지 화상에 대해 몰입감을 생성하는 방법 및시스템 그리고 상기 몰입감 생성을 위한 팩터 조절 방법,이미지 콘텐트 분석 방법 및 스케일링 파라미터 예측 방법
CN102763117B (zh) 数据生成装置、数据生成方法、数据生成程序及记录介质
EP2144434A1 (en) Image processing device, method, image display device and method
RU2415519C2 (ru) Окружающая подсветка, адаптируемая к движению
US20120299967A1 (en) Image output apparatus, control method for image output apparatus, and program
US20190287494A1 (en) Information processing apparatus and image processing method
US9723286B2 (en) Image processing apparatus and control method thereof
US12174377B2 (en) Image processing method and apparatus for head-mounted display device as well as electronic device
US10861420B2 (en) Image output apparatus, image output method, for simultaneous output of multiple images
JP2002171424A (ja) 動画像処理方法、動画像処理装置および動画像表示装置
CN102783131B (zh) 数据生成装置和数据生成方法
JP2007292804A (ja) 画像処理装置及び画像処理方法
US20140146086A1 (en) Image output apparatus, image output method, and program
JP6527641B2 (ja) 画像処理装置および重畳画像生成方法
JP2019087844A (ja) 画像処理装置、表示装置、および画像処理方法
US20030103062A1 (en) Apparatus and method for controlling a stereo 3D display using overlay mechanism
JP7363772B2 (ja) 情報処理装置、情報処理方法、画像処理装置、画像処理方法、およびプログラム
CN114567813B (zh) 画质提升方法、装置、播放设备及计算机可读存储介质
JP2006039333A (ja) テロップ文字画像処理方法、装置及びプログラム並びに該プログラムを記録した記録媒体
CN111190665A (zh) 一种全屏显示图像的方法、智能终端及存储介质
WO2020157979A1 (ja) ヘッドマウントディスプレイおよび画像表示方法
WO2019159239A1 (ja) 画像処理装置、表示画像生成方法、およびフォントのデータ構造
JP5083488B2 (ja) 最適化映像再生システム及び最適化映像配信システム及び映像最適化装置及び最適化映像再生方法
JP2013168902A (ja) 画像処理装置、表示装置および画像処理方法
US8212796B2 (en) Image display apparatus and method, program and recording media

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060728

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20070628

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20070813

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071109

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20080418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101005

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101006

R150 Certificate of patent or registration of utility model

Ref document number: 4606802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131015

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees