JP5508024B2 - ビデオ信号を符号化するための方法及びシステム、符号化されたビデオ信号、並びに、ビデオ信号を復号するための方法及びシステム - Google Patents

ビデオ信号を符号化するための方法及びシステム、符号化されたビデオ信号、並びに、ビデオ信号を復号するための方法及びシステム Download PDF

Info

Publication number
JP5508024B2
JP5508024B2 JP2009545257A JP2009545257A JP5508024B2 JP 5508024 B2 JP5508024 B2 JP 5508024B2 JP 2009545257 A JP2009545257 A JP 2009545257A JP 2009545257 A JP2009545257 A JP 2009545257A JP 5508024 B2 JP5508024 B2 JP 5508024B2
Authority
JP
Japan
Prior art keywords
frame
prediction
frames
memory
overwritten
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009545257A
Other languages
English (en)
Other versions
JP2010516138A (ja
JP2010516138A5 (ja
Inventor
ウィルヘルムス エイチ エイ ブルルス
アルノード ピー エイチ ブルジュ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2010516138A publication Critical patent/JP2010516138A/ja
Publication of JP2010516138A5 publication Critical patent/JP2010516138A5/ja
Application granted granted Critical
Publication of JP5508024B2 publication Critical patent/JP5508024B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/573Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、ビデオ符号化(又はビデオ圧縮)の一般的な分野に関し、実施形態においてはいわゆるスケーラブルビデオ符号化(scalable video coding)に関する。これは、ビデオ信号を符号化するための方法及びシステムであって、画像圧縮、例えばスケーラブル画像圧縮が実行され、複数の時間的予測が用いられ、複数のフレームがメモリに格納される方法及びシステムを提示する。
本発明は、符号化された、例えばスケーラブルビデオ信号、並びに、ビデオ信号を復号するための方法及びシステムにも関する。
画像表示システムは、多くの場合、圧縮されたデータストリームを受信する。種々の画像圧縮技術が、格納又は送信されるべき画像データ量を削減するために知られている。ビデオ圧縮では、予測を利用し、フレーム又はフレームの部分の内容は、1又はそれ以上の前に受信又は生成されたフレームの内容から予測される。ビデオ信号処理において、信号は、イントラ符号化された(intracoded)フレーム及びインター符号化された(intercoded)フレーム、例えばIフレーム、Pフレーム及びBフレームで構成される。Iフレームは、イントラ符号化されている。Pフレーム及びBフレームは、インター符号化されたフレームと呼ばれている。イントラ符号化フレームは、他のフレームに対する如何なる参照もなく復元され得る。インター符号化フレームは、他のフレームのデータを用いて復元される(前方予測又は後方予測)。Pフレーム及びBフレームは、Iフレーム間の情報又は変化だけを含み、多くの場合マクロブロック(macroblock)に関する動きベクトルで表現される。標準的なビデオ信号処理において、その照会(referral)は、比較的単純であり、多くても2つのフレームが参照され、Pフレームは、Iフレームから前方的に予測され、Bフレームは、Iフレーム及びPフレームから前方的及び後方的に予測される。動き推定を用いて、フレームの部分(マクロブロック)の動き推定に用いられる動きベクトルを見つけることができる。AVC圧縮スタンダードのような幾つかのより複雑なビデオ圧縮スタンダードは、多くの複数予測の可能性を持つ。比較的多数の時間(即ち前方又は後方)予測が行われる。時間的に最も近いフレームだけでなく、時間的に遠くへ移動されたフレームも予測を行うために考慮される。バッファにおいて、幾つかのフレームは、時間的予測に用いられるべきメモリに格納される。時間の経過とともに、フレームは、メモリ内のバッファを介してシフトされ、新たな"フレッシュな"フレームが格納される場合には、最も古いものがバッファの外にはじき出される。
既存のスキームは有用であるが、発明者らは、符号化の改良に関する可能性が存在することを理解した。既知の方法は、予測の制限を持つ。制限を除去することにより、既存の(スケーラブル)ビデオ符号化に対して大きな変化を要求することなく新たな可能性が開かれ、それ故、工業的に配備することが容易である新規な機会を提供する。
この課題を達成するために、本発明によれば、メモリ内の予測フレームは、別途生成された予測フレームで上書きされる。
"別途生成"とは、本発明のフレームワーク内では、予測フレームを生成する通常の(時間的な)手順以外からを意味する。予測フレームは、例えばエンコーダのエンハンスメント符号化部分において生成され、ベースストリーム符号化部分において生成される予測フレームは、エンコーダのエンハンスメント部分(より広い意味で見られるときに、依然としてエンコーダの範囲内であるが)とは別に生成される。メモリ内に最も長く存在する予測フレームは、メモリにおいて最も古い予測フレーム、又は、最も古い予測フレームのサブセットの一つである。
本発明は、以下の見識に基づいている。スタンダードにおいては、幾つかの時間的予測が用いられる。格納部に長く存在するフレームは、そのフレームに基づく時間的予測の重要度が概して低くなる。本発明において、時間的予測の原則(dogma)は、別個の予測のために、1又はそれ以上の時間的予測のために確保されたスペースを用いることによりバイパスされる。これは、従来方式で生成された予測フレームに基づく時間的予測の精度を僅かに減少させるだろう。しかしながら、上書きされた情報は、比較的冗長/有用性の低いものである。それ故、この情報を上書きすることは、非常に多くの場合、画質を著しく減少させるものではない。しかしながら、上書きスロットに書き込まれ得る情報は、現在のスタンダードでは達成可能ではないが、既存のスタンダードとはもはや互換性がない、及び/又は、ビデオ信号中のビットの大幅な増加を必要とするような、既存の手順に対する非常に複雑な変更を伴ってのみ達成可能であるという可能性を切り開く。本発明の単純な実施形態において、上書きされた予測は、最も古い予測の一つである。最も古い(メモリにおいて最も長く存在する)予測は、多くの場合、重要性が最も低い。代わりに、方法は、上書きする前に最も重要性が低い予測を選択するためのアルゴリズムを有し得る。
本発明による方法は、既存のAVCスタンダードに対して、より多くのビット又は大きな変化を要求しない。
本発明の一実施形態において、メモリは、エンハンスメント(enhancement)エンコーダ/デコーダ内のメモリであり、別途生成されたフレームは、ベース(base)エンコーダ/デコーダからのアップスケール(upscale)/インターレース解除(de-interlaced)されたフレームである。これは、如何なるシンタックス(syntax)の変更もなく、スケーラブル圧縮用のスタンダードAVCを用いることが可能となる。
他の実施形態において、外部フレームは、深度視野(depth view)を有する。
これは、3Dビデオマルチビューコーディング(multiview coding)を生成することを可能にする。
更なる他の実施形態において、図7に示されるように、エンハンスメントストリームは、2とは異なる比率を持つ、より高いフレームレートを提供する。斯様な場合に関する想定されたアプリケーションは、テレビ装置を対象とした50Hzのベースレイヤ、及び、コンピュータLCDパネル(又は任意の他の高度なディスプレイ)を対象とした75Hzのエンハンスメントレイヤである。実際には、フレームレートを少なくとも75Hzに増加させることは、直接100Hzに直接達するよりも低ビットレートの増加を要求する一方で、大幅な改良を与える。更に、75Hzは、多くのディスプレイ(主にコンピュータの世界で)の本来のリフレッシュレート(native refresh rate)である。従って、75/90Hzエンハンスメントと互換性のある50/60Hzソリューションが好ましいが、MPEG2又はSVCによっても実現することはできない。
この互換性は、本発明に基づいて効果的に実現され得る。
これら及び本発明の他の有利な態様は、図面を用いてより詳細に述べられるだろう。
本発明の一実施形態による符号化する方法を含む後処理方法のプロセスフローを示している。 本発明の一実施形態による復号する方法を含む後処理方法のプロセスフローを示している。 本発明の一実施形態による後処理方法のプロセスフローであって、より複雑な実施形態を示している。 図1a〜1cに示された本発明の実施形態を更に示している。 図1a〜1cに示された本発明の実施形態を更に示している。 図1a〜1cに示された本発明の実施形態を更に示している。 図1a〜1cに示された本発明の実施形態を更に示している。 図1a〜1cに示された本発明の実施形態を更に示している。 本発明の第2実施形態を示している。 ベースストリーム及びエンハンスメントストリームが異なるフレームレートを持つ本発明の更なる実施形態を示している。 (典型的には時間予測のための)予測メモリを備えたビデオ圧縮装置の基本原理を示しており、少なくとも1つのより使用に適さないものが代替予測手段の予測を格納するために用いられる。
図面は実寸で描かれていない。一般に、同一のコンポーネントは、図中の同一の参照符号により示される。
要約すると、本発明は、以下のように示され得る。幾つかのビデオ圧縮スタンダードは、例えば、動き推定/動き補償に関する複数の予測を用いる可能性を持つ。発明者らは、例えばAVCを用いる場合に複数の時間的予測が用いられ、ICがこれらを取り扱うことができるように予め設計されるときには、これらの予測の幾つかは、より冗長であるか、あるいは、有用性が低いものであることを理解した。本発明において、時間的予測の原則は、他の予測を符号化するために、これらの予測の最後(即ち、特に激しい動きに対して通常最も正確でない)を上書きすることにより回避される。デコーダも同様に作用する。
図1は、符号化及び復号する方法を用いた本発明の一実施形態の処理フローを示している。これは、以下のように示される。
〔エンコーダ側〕
図1aは、本発明による方法及びシステムの一実施形態を示している。図中に用いられた略語は、以下の内容を示す。
DCT:離散コサイン変換(Discrete Cosine Transform)
Q:量子化(Quantization)
DCT-1:離散コサイン逆変換(inverse Discrete Cosine Transform)
Q-1:逆量子化(inverse quantization)
VLC:可変長符号化(Variable Length Coding)
Base str:ベースストリーム(base stream)
Enh str:エンハンスメントストリーム(enhancement stream)
ME/MC:動き推定(Motion estimation)/動き補償(Motion compensation)
R0, R1 etc:ME/MCにおいて用いられたメモリ内のフレーム
MBi:マクロブロック(MacroBlock)i
PTSi:提示タイムスタンプ(Presentation Time Stamp)i
AVC:高度ビデオ符号化(Advanced Video coding)、高度ビデオ符号化は、例えばH.264及びMPEG4.10符号化スタンダードである。
SEI:追加エンハンスメント情報(Supplemental Enhancement Information)
図1aは、ベースストリーム及びエンハンスメントストリームが使用される方法を示している。多くの画像送信方法において固有の大量のデータは、大きな影響を与える問題をもたらす。より特に、各デジタル画像フレームは、特定のシステムのディスプレイ解像度に応じてピクセルのアレイから形成された静止画像である。結果として、含まれた未加工のデジタル情報の量は、多くの場合、膨大である。送信されるべきデータの量を削減するために、データを圧縮するために圧縮スキームが用いられる。種々のビデオ圧縮スタンダード又はプロセスが、MPEG-2,MPEG-4及びH.263を含んで確立されている。
多くのアプリケーションは、画像データが、1つのストリームにおいて種々の解像度及び/又は品質で利用可能である場合に可能である。これを達成するための方法は、スケーラビリティ(scalability)技術と漠然と呼ばれる。スケーラビリティを配置し得る3つの軸が存在する。第1は、多くの場合、時間的スケーラビリティと呼ばれる、時間軸上のスケーラビリティである。第2に、多くの場合、信号対雑音スケーラビリティ又は細粒度(fine-grain)スケーラビリティと呼ばれる、品質の軸上のスケーラビリティが存在する。第3の軸は、多くの場合、空間的スケーラビリティ又はレイヤードコーディング(layered coding)と呼ばれる、解像度の軸(画像中のピクセルの数)である。レイヤードコーディングにおいて、ビットストリームは、2又はそれ以上のビットストリーム又はレイヤに分割される。各レイヤは、単一の高品質信号を形成するために組み合わせられ得る。例えば、ベースレイヤが、低品質のビデオ信号を供給し得る一方で、エンハンスメントレイヤが、ベースレイヤの画像を強化し得る追加の情報を供給する。図1aは、レイヤード信号を供給するための方法及びシステムを示し、この場合、ベースストリーム(base str)、及び、エンハンスメントレイヤとも時々呼ばれるエンハンスメントストリーム(base str)を有している。
入力は、分割され、ローパスフィルタ1、例えばナイキストフィルタを通過した後にベースエンコーダ2に送られる。信号は、ベースエンコーダにおいて、離散コサイン変換(DCT)、又は、例えばウェーブレット(wavelet)を用いるような任意の他の類似の変換を受けて、量子化される(Q)。生ずるデータストリームにおいて、可変長符号化が実行され、送信及び/又は格納されるべきベースストリームを供給する。ビデオ信号処理において、信号は、多くの場合、イントラ符号化されたフレーム及びインター符号化されたフレーム、例えばIフレーム、Pフレーム及びBフレームで構成される。Iフレームは、イントラ符号化されている。Pフレーム及びBフレームは、インター符号化されたフレームと呼ばれる。イントラ符号化フレームは、他のフレームに対する如何なる参照もなく復元され得る。インター符号化フレームは、他のフレームのデータを用いて復元される(前方予測又は後方予測)。Pフレーム及びBフレームは、Iフレーム間の情報又は変化だけを含み、多くの場合マクロブロックに関する動きベクトルにおいて表現される。差分を発見するためには、オリジナル信号がエンコーダの内部で復元されなければならない。これは、逆量子化(Q-1)及び離散コサイン逆変換(DCT-1)により行われる。生ずる復元されたフレームは、動きベクトルを推定するためにエンコーダの内部で用いられる。単純な装置において、一の復元されたフレームだけが、動き推定及び動き補償のために用いられる。しかしながら、より複雑な方法及びシステムにおいては、多くの復元されたフレームが用いられる。これは、復元が、他よりも幾つかの復元されたフレームに対して大きくなるかもしれないエラーを生じ、前のフレームが、必ずしもフレーム間の差分の動きベクトルの推定に関する開始位置として取るべき最良のフレームではないので、有用である。エンコーダは、シフトレジスタを有し、比較のために、多くの復元されたフレームのデータが、動き推定及び/又は動き推定、即ち予測のために使用するシフトレジスタに格納される。AVC圧縮スタンダードのような幾つかのより複雑なビデオ圧縮スタンダードは、多くの複数予測の可能性を持つ。比較的多くの時間的(即ち、前方又は後方)予測が行われる。時間的に最も近いフレームだけでなく、時間的に遠くへ移動されたフレームも予測を行うために考慮される。バッファにおいて、幾つかのフレームは、時間的予測のために用いられるべきバッファに格納される。時間の経過とともに、フレームは、バッファを介してシフトされ、最も古いものは、新たな"フレッシュな"フレームが格納される場合にバッファの外にはじき出される。
生ずるベースストリームは、報知され、受信され、及び、デコーダを介して表示され得るが、ベースストリームは、高解像度(high-definition)と見なされる解像度を供給しない。
図1aにおいて、システムは、エンハンスメントエンコーダ3も有する。エンハンスメントエンコーダ3においては、ベースストリームエンコーダ2におけるものと同様の方法が、エンハンスメントストリームが処理される差分(即ち、オリジナル信号とベースストリームとの差分)だけで実行される。エンハンスメントデコーダは、強化されたレイヤ信号の離散コサイン変換及び量子化、並びに、復元(DCT-1,Q-1)のための手段を有する。フレームR0,R1等に関するエンハンスメントストリームの復元されたデータは、格納され、エンハンスメントストリームに関する動き推定及び動き補償のために用いられる。当業者は、これらの方法に精通しているだろう。
発明者らは、格納されたフレームが全て同一の関連性(same relevance)を持つとは限らない、排他的ではないが特に、最も少なく最も長く残っているフレームはそれほど重要でないかも知れないことを理解した。より長く格納部に存在するフレームは、フレームに基づく時間的予測の重要性が概して低くなる。本発明において、時間的予測の原則は、別個の予測のために、最後の時間的予測(即ち、"最も古いフレーム")のために確保されたスペースを用いることによりバイパスされる。これは、時間的予測の精度を僅かに減少させるだろう。しかしながら、上書きされた情報は、比較的冗長/有用性の低いものである。それ故、情報を上書きすることは、非常に多くの場合、画質を著しく減少させるものではない。しかしながら、上書きされたスロットにおいて書かれ得る情報は、現在のスタンダードでは達成可能ではないが、これらが、既存のスタンダードとはもはや互換性がない、及び/又は、ビデオ信号中のビットの大幅な増加を必要とするような、既存の手順に対する非常に複雑な変化を伴ってのみ達成可能であるという点について可能性を広げる。本発明は、1又はそれ以上の最も古いフレームを上書きすることにより用いられ得る。
図1aは、本発明の方法及びシステムの一実施形態を示している。エンハンスメントエンコーダのメモリ内の最も古いデータは、ベースエンコーダにおいて生成されたアップスケール/インターレースされたフレームにより上書きされる。それ故、符号化の前に、エンハンスメントエンコーダ3における最後(エンハンスメントエンコーダのメモリ5内の最も長くあるもの)の参照フレームRn/1は、PTSi(提示タイムスタンプi;Presentation Time Stamp i)も持つベースエンコーダ/デコーダ2からのアップスケール/インターレース解除されたフレーム4で上書きされる。それ故、エンハンスメントエンコーダ3のメモリ5内のメモリにおいて最も長く存在するフレームは、別途生成されたフレーム、即ち、ベースストリームエンコーダ2からのアップスケール/インターレース解除されたフレーム4により上書きされる。これは、エンハンスメントエンコーダの内部で実行された動き推定/動き補償の精度を僅かに減少させるかも知れないが、これは、如何なるシンタックスもなく、スケーラブル圧縮に対してAVCを使用することを可能にする。これは、例えば、(720p又は1080i HDTVに対する)下位互換性のある手法でフルフレームレートの1080p HDTVを導入することに関連する。原理は、非スケーラブル圧縮に関しても作動する。図1aは、スケーラブルエンコーダを示している。リソースが180iに制限されるので、本発明によるスキームは、silicon 1080pに対するミラー変更だけで可能となる。最後の予測Rn-1は、例えば、スマートコンテンツ適応可能なアップスケール候補を含む。より詳細な実施形態として、例えば、最後の2つの"ノーマル"時間的予測(Rn-1,Rn-2)は、例えば、2つの異なるインターレース解除アルゴリズムを用いることにより生成された予測(フレーム)で上書きされ得る。
実施形態において、エンハンスメントエンコーダにおけるメモリ内の最も古いフレームだけが上書きされる。本発明の範囲内においては、メモリ内のフレームの数に依存して、1よりも多い最も古いフレームが上書きされ得る。また、この実施形態においては、単純な選択が行われ、最も古いフレームが上書きされる。実施形態において、1つの最後のnフレームが上書きされ、選択は、1つがフレームに上書きされるべき最も古いもののセットの重要性(ランキング)の推定に基づいて上書きされるように行われ、上書きされたフレームは、まさに最も古いフレームである必要はなく、次に最も古いフレームであってもよい。
図1bは、デコーダ側を示している。VLDは、可変長復号(Variable length decoding)を表す。ベースストリーム2´において生成されたフレーム4は、エンハンスメントデコーダのメモリ5´内の予測フレームRn-1を上書きするために用いられる。
図1cは、図1aで示された設計のより複雑な実施形態に関して示している。差異は、フィルタが用いられ、更に、フィルタ及びアップスケーリングに関するデータがSEI(Supplemental Enhancement Information)に挿入されることである。これらのデータは、フィルタリング及びアップスケーリングに関する同一パラメータをデコーダ側で構築するために、デコーダにおいて用いられ、その結果、エンコーダにおいて符号化する方法において用いられるパラメータが、復号においても同様に用いられ得る。
この実施形態において、"外側からの"フレームが、復号された画像バッファに入れられるときには、表示されることがないような古いcts(合成タイムスタンプ;composition timestamp)が与えられ、メモリの外にはじき出されないように"長期間参照"としてマークされる。
図2は、外部フレーム(PTSiを持つアップスケールされたベース)がメモリ内のフレームRn-1を上書きすることを確実にするための、エンハンスメント内の異なるステップをフローチャートにおいて示している。
本発明の基本的な見解、即ち、メモリ内に最も長く存在する予測フレームが外部的に生成された予測フレームで上書きされることは、図1a〜1cに示された実施形態において役立つだけではない。
他のオプションが図2bに与えられる。これは、メモリ内の参照フレームを上書きすることが安全であるときの一例を与えている。ここで、出力(ディスプレイ)に既に送られたときにだけフレームが上書きされることが重要である。フレームが中に入ってくる場合には、メモリは、フレーム(メモリ0、メモリ1等)で満たされる。この設定において、参照フレームの数は、3つである。これは、我々が3つのフレームを必要とする場合に、フレームを上書きすることが不可能な最初の3つのフレームを意味する。フレームが表示されたときには、フレームは、メモリ内に上書きされ得る。それ故、この例において、円内部にあるフレームは、上書きされ得る。これらのフレームは、最も古いフレームであるが、必ずしもメモリ内の最も古いフレームが必要とされるものではないことが留意されるべきである。列4において、例えば、未だ表示されていないBフレームではなく、既に表示されたIフレームが上書きされる。矩形は、B及びP(最初の矩形)並びにB及びP(最後の矩形)に関する参照のために用いられたフレームを示している。
図3は、一実施形態を示しており、アップスケールされて復号されたIベースストリームフレームが、エンハンスメントエンコーダ/デコーダのメモリ(バッファ)において、エンハンスメントエンコーダ/デコーダにおける最後の参照予測フレーム(R)、この例においてはPを上書きする一実施形態を示している。
図4は、タイムスタンプPTS2を持つアップスケールされて復号されたP、即ち、ベースストリームフレームが、エンハンスメントエンコーダ/デコーダのメモリ(バッファ)において、エンハンスメントエンコーダ/デコーダにおける最後の参照予測フレーム(R)、この例においてはPを上書きする一実施形態を示している。
図5は、ベースストリームが720pの出力を持ち、エンハンスメントストリームが1080pの出力を持つ一実施形態を示している。タイムスタンプPTS1を持つアップスケール/インターレース解除されたベースストリームフレームは、AVCエンハンスメントエンコーダのメモリにおいてフレームRn−1を上書きする。これは、既知の方法では可能性のないかあるいは非常にコストのかかる下位互換性のある手法(720p又は1080i HDTV)においてフルフレームレートの1080p HDTVを導入することを可能にする。
また、より多くの参照フレームのうちの1つを上書きするというこの原理をマルチビューケースに適用することもでき、その結果、シンタックスを変更する必要もなく、基本的にはこのアプリケーションに関する従来のAVCを用いることができる。
マルチビューケースの効果的な圧縮の試みが存在する。mpegにおいて、階層的なBフレームを使用させるノーマルAVCがマルチビュービデオの効果的な圧縮に用いられ得ることが既に認識されている。斯様な方法において、異なる視野のフレームがインターレースされ、非参照(non-C)視野フレームがタイプ階層B(格納されたB,Bs)になることを確実に行う。これは、各MBに関し、(同一の視野からの)時間的予測としての双方の空間(隣)を可能にする。
特に、1つがセンタービュー(C)並びに1つがレフト(L)ビュー及び1つが(R)ビューを持つケースは、立体的なビデオ(stereoscopic video)に対して非常に関心がある。ここで、センタービューCが参照ビューであるだろうし、L&Rビューが階層的なBフレームであるだろう。
現在の最良のソリューション(AVC+階層的なBフレーム)は、大改良であるが、3ビューAVCストリームのビットレートは、依然として、AVC Cストリーム(1+2*0.4/0.5)=1.8..2*に関する多くのアプリケーションに対して高い。
MPEGにおいて、人々は、マルチビューAVCエンコーダの性能を改良するために、IBR(2D+深度からの画像レンダリング)を新たな予測モードとして含めるように、新たなモード(新たなシンタックス)でAVCを拡張しようと試みる。しかし、これは、AVCに対する多くの変化を意味することから、実施に関しては難しいだろう。
しかしながら、発明者らは、本発明の基本的なコンセプト、即ち、より多くの参照フレームのうちの1つをマルチビューケースに上書きするという原理が用いられ、その結果、如何なるシンタックスも変える必要もなく、基本的には、このアプリケーションに対しても従来のAVCを用い得ることを理解した。
これは、図6に示されており、参照フレームの最小数は、(a)に示すように、通常4であるだろうし、AVCエンコーダのメモリにおいて、4つの参照フレーム、即ち、Cfw,Cbw,Bsr,Bslが用いられる。
この数の参照フレームのコースが増大され(図6(b)のCfw,Cbw,Bsr,Bsl,BSr-1,Bsl-1参照)、これは、幾つかの(制限された)ゲインを与えるだろう。この状況は、(b)に示されている。
実際の3Dアプリケーションに関しては、3つの深度視野も必要となるだろう。これらの深度視野及びCの視野に関して、我々は、L´及びR´の近似値(予測)を作り出すために、IBR(Image Based Rendering)を適用し得る。予測は、あまり重要でない参照フレームを、新たなフレームの符号化を開始する前に毎回上書きし得る(図6(c)参照)。
ゲインは、(b)と比較した部分(c)に示されるように非常に大きくなるだろう。
この発明により可能にされた第3のアプリケーションは、異なる割合の2つのパワーで、より高いフレームレートに関するエンハンスメントストリームを作り出している。
実際には、50Hzシーケンスの復号されたフレームは、この発明の一般的なスキームに従って、75Hzシーケンスの参照リストに入れられる。50Hzシーケンスからのこの予測フレームは、良好な予測要素であり、これが75Hzバージョンについて符号化するためのフレームに時間的に非常に近いため、より良い符号化を効率的に達成することを支援する。図7を参照すると、フレームiは、強化された75Hzシーケンスに属し、フレームi´は、ベース50Hzシーケンスに属している。
・フレーム1´は、フレーム1と同一の時間的ロケーションを持つ。
・フレーム2´は、75Hzシーケンスにおける如何なるフレームよりもフレーム2に時間的に近い。
・フレーム2´は、75Hzシーケンスにおける如何なるフレームよりもフレーム3に時間的に近い。
・フレーム3´は、フレーム4と同一の時間的ロケーションを持つ、等。
要約すると、本発明は以下に示され得る。幾つかのビデオ圧縮スタンダードは、複数の時間的予測を用いる。1又はそれ以上の最も古い時間的予測は、他の予測で上書きされる。エンハンスメントエンコーダにおいて用いられた予測は、実施形態において、ベースストリームエンコーダにおいて生成された予測により上書きされる。他の実施形態において、時間的予測は、3D視野により上書きされる。
本発明は、例により上述された、符号化する方法及びシステム、並びに、復号する方法及びシステムに関する。
本発明は、符号化されたビデオ信号と、例えば復号する方法における使用のための機能的パラメータを有する制御情報とを有するビデオ信号においても具現される。制御情報は、上述した実施形態の任意のもの又は任意の組み合わせに従ったデータを有してもよい。
本発明によるビデオ信号において開示された制御情報は、1又はそれ以上の以下の情報を有し得る。
〔A〕一般的な情報、即ち、全体のビデオ信号に適用可能な情報
1.方法がビデオ信号を符号化するために用いられ、これは、用いられた1つの標準的な方法だけが存在する将来について、存在する場合に有用である。
2.方法の特定の実施形態がビデオ信号を符号化するために用いられること。
3.方法において用いられたパラメータ。斯様なパラメータは、例えば以下のものであってもよい。
・上書きされるべき特定の予測(メモリ中の最も長く存在するもの若しくはメモリ中の2つの最も長く存在するもの、又は、メモリ中の次に最も長く存在するもの)。
・フィルタ、アップスケーリングアルゴリズム、又は、どの予測が上書きされるかを決定するためのアルゴリズムに関するパラメータのような、ビデオ信号の符号化の間に用いられたパラメータ。
〔B〕特定の動的情報
ビデオ信号が動的に生成される場合、即ち、符号化の間に行われた或る選択がビデオコンテンツに依存する場合には、エンコーダにおいて行われた選択が、符号化されたビデオ信号に含まれ得る。例えば、予測の1つが、例えば上書きする予測との比較において予測を場合によって上書きされる重要度を推定することにより上書きされるべき決定を行うためのアルゴリズムを符号化方法が有する場合には、ビデオ信号に前記選択アルゴリズムのディテールを含める(及び、それ故にビデオ信号に一般的な情報を含める)という選択が存在する。しかしながら、これは、デコーダが前記アルゴリズムを有する場合にのみ作用する。デコーダがない場合には、特定の動的情報が送られ得る、即ち、これは、特定の予測が上書きされるというビデオ信号の特定の部分に対して(例えばフラッグにより)特定される。
ビデオ信号は、一般的な情報も動的情報も有してもよい。上述のタイプの情報の全て、並びに、本発明による方法の使用に関連する任意の他の情報は、アプリケーションのフレームワークの範囲内において、パラメータと呼ばれる。それ故、パラメータは、単純なYES/NOパラメータ(前記〔A〕1)、可能性のセットの範囲内において選択を示すパラメータ(例えば、前記〔A〕2)、又は、方法の範囲内におけるステップの制御に関するパラメータ(前記〔A〕3)若しくは任意の形状若しくはフォームにおける動的パラメータ(前記〔B〕)であってもよい。
図8は、本発明の(最も一般的な方法に対応する)最も一般的な装置を再び示す。例えば、非可逆変換(lossy transformation)及び動き補償(例えば、AVCにおいて、時間的予測が、幾つかの前の画像の組み合わせから生じ得る)を行う類似の予測ユニットT,T2により生成された幾つかの予測に基準SEL_F()を適用することを予測ユニット801に可能にさせるビデオ圧縮において、これらの"スタンダード"モードの1つは、他の予測ユニットPR_UN(即ち、サブメモリMEM_P2においては、粗く量子化された最初の予測、例えばウェーブレット近似値が、PR_UNからの他のアルゴリズムにより他の予測された領域により上書きされる)から、別個の予測からのデータを格納することにより"再使用"され得る。そして、この新たな予測モードは、既存のスタンダード(これと同等の如何なるもの)に容易に導入され得る。選択基準SEL_F()も変更されてもよい。
他の予測ユニットは、例えばテクスチャ合成を用いてもよい。エンコーダ側が例えばグラス(grass)のパッチ(patch;例えばブロック)の存在を認識した場合には、比較基準又は予測は、(例えば、典型的には剰余更新を伴わない)合成的に生成されたグラスを用いることに用いられる。これは、例えば時間的予測と比較して最良の品質/圧縮された領域として選択され得る。そして、デコーダも、グラス生成を適用するだろう(これは、その領域に関する時間的予測情報を受信することさえも必要としない)。全ての種類の改良された予測は、予測ユニットPR_UNにより、例えば幾つかの画像データ(若しくは、2つの最後における2つの異なるインターレース解除アルゴリズム、例えば時間的予測を伴う競合する予測を形成する最小の正確な時間的予測メモリ)若しくは(例えば、二者一組の時間順次的画像から生成された)3Dモデル等をシャープ又は滑らかにするような幾つかの画像変換を適用することにより生成され得る。
斯様な同期化データは、標準化された圧縮された画像信号、例えばSEIsを介して出力され得る。
本発明は、本発明による方法又はデバイスに関する任意のコンピュータプログラムにおいても具現される。コンピュータプログラムにおいて、コマンド単位の任意の物理的な具現化は、汎用又は特定用途のプロセッサが、(中間言語及び最終プロセッサ言語への翻訳のような中間変換を含み得る)一連の負荷ステップの後に、プロセッサにコマンド入力すること、本発明の任意の特徴機能を実行することを可能にする。特に、コンピュータプログラムは、例えばディスク若しくはテープ等のキャリア上のデータ、メモリ内に存在するデータ、有線若しくは無線のネットワーク接続を通るデータ、又は、紙上のプログラムコードとして実現され得る。プログラムコードは別として、プログラムに対して要求された特徴データも、コンピュータプログラムとして具現化されてもよい。
上述した実施形態は、本発明を限定するよりはむしろ例示であり、当業者は、特許請求の範囲から逸脱することなく多くの代替実施形態を設計することができることが留意されるべきである。
特許請求の範囲において、括弧内の如何なる参照符号も特許請求の範囲を限定するものとして考慮されるべきではない。
本発明のフレームワークの範囲内において、多くのバリエーションが可能であることは明らかであろう。本発明が上記で特に示され述べられたものにより限定されないことは当業者により明らかになるだろう。本発明は、一つ一つが新規な特徴を備えており、複数の特徴のあらゆる組み合わせを備えている。特許請求の範囲における参照符号はこれらの保護範囲を限定するものではない。
例えば、方法が画像の一部だけのために用いられてもよく、又は、画像の中心に対して1つの実施形態を用いる一方で、画像の縁部に対して他の実施形態を用いて、本発明の方法の異なる実施形態が画像の異なる部分のために用いられてもよい。
"有する"という用語の使用及びその活用は、特許請求の範囲以外の要素の存在を除外するものではない。要素の単数表記は、斯様な要素の複数の存在を除外するものではない。
本発明はフレームに関して述べられている。本発明のフレームワークの範囲内において、例えば、本発明による方法が、フレームの一部、例えば、ビデオの中間部分だけ又はビデオの最前面だけで行われる場合に、"フレーム"はフレームの一部であってもよい。

Claims (6)

  1. ビデオ信号を符号化する方法であって、
    画像圧縮が実行され、
    フレームシーケンスを圧縮するために複数の時間的予測が用いられ、
    前記フレームシーケンスの時間的に隣接するフレームである複数の予測フレームが予測ユニット中のメモリに格納され、
    前記予測ユニットの前記メモリ内の予測フレームが、他の予測ユニットから別途生成された予測フレームで上書きされ、
    前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
    上書きされる前記予測フレームは、メモリ内に最も長く存在する1又はそれ以上の予測フレームであり、
    予測フレームは深度視野を用いて生成された予測ビューで上書きされる方法。
  2. ビデオ信号を復号する方法であって、
    フレームシーケンスを解凍するために複数の時間的予測が用いられ、
    前記フレームシーケンスの時間的に隣接するフレームである複数の予測フレームが予測ユニット中のメモリに格納され、
    前記予測ユニットの前記メモリ内の予測フレームが、他の予測ユニットから別途生成された予測フレームで上書きされ、
    前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
    上書きされる前記予測フレームは、メモリ内に最も長く存在する1又はそれ以上の予測フレームであり、
    予測フレームは深度視野を用いて生成された予測ビューで上書きされる方法。
  3. ビデオ信号用のエンコーダであって、
    画像圧縮が実行され、
    当該エンコーダは、フレームシーケンスを圧縮するために複数の時間的予測を生成して、前記複数の時間的予測を予測ユニット中のメモリに格納し、
    前記複数の時間的予測は前記フレームシーケンスの時間的に隣接するフレームであり、
    当該エンコーダは、前記予測ユニットのメモリ内の予測フレームを、他の予測ユニットから別途生成された予測フレームで上書きし、
    前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
    上書きされる前記予測フレームは、メモリ内に最も長く存在する1又はそれ以上の予測フレームであり、
    予測フレームは深度視野を用いて生成された予測ビューで上書きされるエンコーダ。
  4. 圧縮されたビデオ信号用のデコーダであって、
    当該デコーダは、フレームシーケンスを解凍するために複数の時間的予測を生成し、前記複数の時間的予測を予測ユニット中のメモリに格納し、
    前記複数の時間的予測は前記フレームシーケンスの時間的に隣接するフレームであり、
    当該デコーダは、前記予測ユニットのメモリ内の予測フレームを、他の予測ユニットから別途生成された予測フレームで上書きし、
    前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
    上書きされる前記予測フレームは、メモリ内に最も長く存在する1又はそれ以上の予測フレームであり、
    予測フレームは深度視野を用いて生成された予測ビューで上書きされるデコーダ。
  5. コンピュータプログラムがコンピュータ上で実行されるときに、請求項1又は請求項2に記載の方法を実行するプログラムコードを有する、コンピュータプログラム。
  6. コンピュータプログラムがコンピュータ上で実行されるときに、請求項1又は請求項2に記載の方法を実行する、コンピュータ読み取り可能な媒体に格納されたプログラムコードを有する、コンピュータプログラム。
JP2009545257A 2007-01-12 2008-01-04 ビデオ信号を符号化するための方法及びシステム、符号化されたビデオ信号、並びに、ビデオ信号を復号するための方法及びシステム Active JP5508024B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP07100470A EP1944978A1 (en) 2007-01-12 2007-01-12 Method and system for encoding a video signal. encoded video signal, method and system for decoding a video signal
EP07100470.9 2007-01-12
PCT/IB2008/050014 WO2008084417A2 (en) 2007-01-12 2008-01-04 Method and system for encoding a video signal, encoded video signal, method and system for decoding a video signal

Publications (3)

Publication Number Publication Date
JP2010516138A JP2010516138A (ja) 2010-05-13
JP2010516138A5 JP2010516138A5 (ja) 2011-02-24
JP5508024B2 true JP5508024B2 (ja) 2014-05-28

Family

ID=38091743

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009545257A Active JP5508024B2 (ja) 2007-01-12 2008-01-04 ビデオ信号を符号化するための方法及びシステム、符号化されたビデオ信号、並びに、ビデオ信号を復号するための方法及びシステム

Country Status (7)

Country Link
US (1) US8571101B2 (ja)
EP (2) EP1944978A1 (ja)
JP (1) JP5508024B2 (ja)
CN (1) CN101584220B (ja)
ES (1) ES2572885T3 (ja)
PL (1) PL2105028T3 (ja)
WO (1) WO2008084417A2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011091301A1 (en) * 2010-01-21 2011-07-28 General Instrument Corporation Full resolution stereoscopic video with 2d backward compatible signal
CN102986214A (zh) 2010-07-06 2013-03-20 皇家飞利浦电子股份有限公司 从低动态范围图像生成高动态范围图像
WO2012059841A1 (en) 2010-11-04 2012-05-10 Koninklijke Philips Electronics N.V. Generation of depth indication maps
EP2833634A4 (en) * 2012-03-30 2015-11-04 Sony Corp IMAGE PROCESSING DEVICE AND METHOD AND RECORDING MEDIUM
US10085017B2 (en) * 2012-11-29 2018-09-25 Advanced Micro Devices, Inc. Bandwidth saving architecture for scalable video coding spatial mode
EP2772189A1 (en) * 2013-02-28 2014-09-03 Koninklijke Philips N.V. Apparatus and method for determining vital sign information from a subject
AU2016309262B2 (en) 2015-08-19 2020-07-30 Sony Corporation Transmission device, transmission method, reception device, and reception method
JP6157548B2 (ja) 2015-09-25 2017-07-05 株式会社コンテック 監視画像の作成装置、作成プログラムおよび作成方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3501521B2 (ja) * 1994-11-07 2004-03-02 三菱電機株式会社 ディジタル映像信号再生装置および再生方法
JP3347954B2 (ja) * 1995-11-02 2002-11-20 三菱電機株式会社 動画像符号化装置及び動画像復号化装置
US5909224A (en) * 1996-10-18 1999-06-01 Samsung Electronics Company, Ltd. Apparatus and method for managing a frame buffer for MPEG video decoding in a PC environment
US6731811B1 (en) * 1997-12-19 2004-05-04 Voicecraft, Inc. Scalable predictive coding method and apparatus
GB2362532B (en) * 2000-05-15 2004-05-05 Nokia Mobile Phones Ltd Video coding
US7266150B2 (en) * 2001-07-11 2007-09-04 Dolby Laboratories, Inc. Interpolation of video compression frames
EP1442601A1 (en) * 2001-10-26 2004-08-04 Koninklijke Philips Electronics N.V. Method and appartus for spatial scalable compression
JP2003299103A (ja) * 2002-03-29 2003-10-17 Toshiba Corp 動画像符号化方法と装置及び動画像復号化方法と装置
US7145948B2 (en) * 2002-05-29 2006-12-05 Koninklijke Philips Electronics N.V. Entropy constrained scalar quantizer for a Laplace-Markov source
JP4562999B2 (ja) * 2002-07-11 2010-10-13 パナソニック株式会社 画像復号化方法および画像復号化装置
US20060008002A1 (en) * 2002-09-27 2006-01-12 Koninklijke Philips Electronics N.V. Scalable video encoding
TWI268715B (en) * 2004-08-16 2006-12-11 Nippon Telegraph & Telephone Picture encoding method, picture decoding method, picture encoding apparatus, and picture decoding apparatus
US7728878B2 (en) * 2004-12-17 2010-06-01 Mitsubishi Electric Research Labortories, Inc. Method and system for processing multiview videos for view synthesis using side information
US7995656B2 (en) * 2005-03-10 2011-08-09 Qualcomm Incorporated Scalable video coding with two layer encoding and single layer decoding
US8208564B2 (en) * 2005-06-24 2012-06-26 Ntt Docomo, Inc. Method and apparatus for video encoding and decoding using adaptive interpolation
US20070230564A1 (en) * 2006-03-29 2007-10-04 Qualcomm Incorporated Video processing with scalability

Also Published As

Publication number Publication date
EP1944978A1 (en) 2008-07-16
WO2008084417A3 (en) 2008-09-04
WO2008084417A2 (en) 2008-07-17
EP2105028B1 (en) 2016-03-30
CN101584220B (zh) 2014-09-17
US20100014585A1 (en) 2010-01-21
JP2010516138A (ja) 2010-05-13
EP2105028A2 (en) 2009-09-30
CN101584220A (zh) 2009-11-18
ES2572885T3 (es) 2016-06-02
PL2105028T3 (pl) 2016-09-30
US8571101B2 (en) 2013-10-29

Similar Documents

Publication Publication Date Title
EP1878260B1 (en) Method for scalably encoding and decoding video signal
KR100893868B1 (ko) 영상 신호의 인코딩 및 디코딩 방법
JP5508024B2 (ja) ビデオ信号を符号化するための方法及びシステム、符号化されたビデオ信号、並びに、ビデオ信号を復号するための方法及びシステム
US6198773B1 (en) Video memory management for MPEG video decode and display system
WO2014161740A1 (en) Method and apparatus for encoding or decoding an image with inter layer motion information prediction according to motion information compression scheme
JP5037517B2 (ja) 動き及びテクスチャデータを予測する方法
JP2007266748A (ja) 符号化方法
EP1142345A1 (en) Video memory management for mpeg video decode and display system
JP4239894B2 (ja) 画像符号化装置及び画像復号化装置
TWI425836B (zh) 預測運動與紋理資料的方法
CN101322411A (zh) 预测运动和纹理数据的方法
EP1758403A2 (en) Video memory management for MPEG video decode and display system
JP2011193486A (ja) 立体3dビデオイメージディジタルデコーディングのシステムおよび方法
JP2009177833A (ja) Mpegビデオ復号・表示システムのためのビデオメモリ管理
HK1124193B (en) Method for scalably encoding and decoding video signal

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101224

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120821

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121121

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130725

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131022

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140320

R150 Certificate of patent or registration of utility model

Ref document number: 5508024

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250