JPH07327231A - 圧縮ビデオ・ビットストリーム合成のシステムおよび方法 - Google Patents

圧縮ビデオ・ビットストリーム合成のシステムおよび方法

Info

Publication number
JPH07327231A
JPH07327231A JP7097525A JP9752595A JPH07327231A JP H07327231 A JPH07327231 A JP H07327231A JP 7097525 A JP7097525 A JP 7097525A JP 9752595 A JP9752595 A JP 9752595A JP H07327231 A JPH07327231 A JP H07327231A
Authority
JP
Japan
Prior art keywords
block
motion vector
model
prediction error
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP7097525A
Other languages
English (en)
Other versions
JP3229162B2 (ja
Inventor
Bruce F Naylor
エフ.ネイラー ブルース
Eric David Petajan
デビッド ペタジャン エリク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AT&T Inc
Original Assignee
American Telephone and Telegraph Co Inc
AT&T Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by American Telephone and Telegraph Co Inc, AT&T Inc filed Critical American Telephone and Telegraph Co Inc
Publication of JPH07327231A publication Critical patent/JPH07327231A/ja
Application granted granted Critical
Publication of JP3229162B2 publication Critical patent/JP3229162B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/14—Coding unit complexity, e.g. amount of activity or edge presence estimation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/152—Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/40—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterised by details of platform network
    • A63F2300/409—Data transfer via television network
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/53—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing
    • A63F2300/538—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing for performing operations on behalf of the game client, e.g. rendering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【目的】 動的3次元モデルから圧縮ビデオ・ビットス
トリームを合成する有効なハイブリッド・システムを提
供する。 【構成】 このビデオ・ビットストリームは適時に連続
する複数の画像フレームからできている画像シーケンス
を表し、各画像フレームは領域の集まりに分割されてい
る。動きベクトルは現画像フレーム内の各領域に生成さ
れこれがその動的3次元モデルを表す。この生成動きベ
クトルに基づき各領域に対し予測エラーを計算する。連
続画像フレームの各領域で行う符号化タイプをこの予測
エラー値に基づき求める。この連続画像フレームの各領
域はその決定符号化タイプで表示されるよう符号化す
る。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明はビデオ画像を生成するコ
ンピュータ・グラフィックス・システムに関する。
【0002】
【従来の技術】コンピュータ・アニメーションとは、変
化する画像シーケンスの生成と操作にコンピュータが支
援する利用の場合を指す用語である。コンピュータ・ア
ニメーションは、産業、科学、製造、娯楽、広告、教育
など広範囲に利用されている。コンピュータ・アニメー
ションの利用例に、例えば、コピュータ支援設計(CA
D)、フライト・シミュレーション、ビデオ・ゲームを
挙げることができる。例えば、コンピュータ・ワークス
テーション、フライト・シミュレータ、また他の種類の
ビデオ・システムのような高機能対話グラフィックス・
システムでは、アニメーションにする3次元シーンを現
実感のある2次元画像に生成するためには複雑な3次元
レンダリング・プログラムが必要である。
【0003】レンダリング・プログラムの基本的タスク
は、3次元幾何モデル、ただしこれは物体のコピュータ
表現として蓄積されているものであるが、これをコンピ
ュータ・ディスプレイに表示できる2次元画像に変換す
ることである。画像要素の相対的位置がその視聴者に立
体遠近感のパースペクティブを生成し、3次元の外観を
生じさせる。連続する2次元画像フレームがその再生シ
ーン内に動きの錯覚を起こさせる。これら2次元の画像
はそのユーザによる対話が必要な利用の場合にも使用さ
れることが多い。これら対話利用の場合には即時応答性
のあるコンピュータ・アニメーションが非常に望ましい
ことが多い。例えば、対話テレビジョン・システムの出
現により次の要望が生まれた。その加入者がこのシステ
ムまたはこのシステムへの他の加入者と対話ができるよ
うな、例えば、ビデオ・ゲームのようなサービス提供の
要望が生じた。
【0004】このシステムと各加入者は他の加入者と独
立して対話ができるので、その生成画像シーケンスから
の各加入者の立体遠近感のパースペクティブは異なるも
のとなる。この加入者のパースペクティブは下記のよう
な要因により左右されることが可能である。それは、例
えば、加入者が見る位置や方向、その画像が表示される
スクリーンのタイプ、その画像により描画されるアクシ
ョンの程度、加入者がその特定の利用の場合に対話する
加入者の数である。そういうものであるため、その画像
の特定の加入者のパースペクティブを精度よく表すビデ
オ信号の個別の集まりを各加入者に対し生成する必要が
ある。現在の技術で、ビデオ信号の各集まりを生成する
ようグラフィックス・ジェネレータや別個のビデオ符号
器を使用することは可能である。
【0005】ところが各加入者に各加入者自身のグラフ
ィックス・ジェネレータやビデオ符号器を設ける場合の
コストは経済的に魅力あるものではない。さらに他の問
題としてこのシステムの待ち時間がある。待ち時間と
は、ひとたびこのユーザの入力を受信してしまってから
その所望ビデオ信号をそのシステムが表示を開始するに
要する時間を指す。待ち時間の生ずるのは、そのビデオ
符号器が行う機能、例えば、動き近似、予測エラー計
算、バッファ・サイズ要求などによるためであり、これ
がその3次元モデルの画像を符号化するのに要する時間
量の大きい割合を占めている。もしこの待ち時間が大き
過ぎると、即時応答は不可能となる。以上のことから下
記課題の待ち時間の短縮とコストの削減が所望されてい
る。
【0006】
【発明が解決しようとする課題】各加入者に対し別個の
グラフィックス・ジェネレータとビデオ符号器を必要と
せずコストが削減され待ち時間が短縮された圧縮ビデオ
信号生成対話システムが所望されている。
【0007】
【課題を解決するための手段】本発明は以下に説明する
ような前記課題を解決する対話システムを提供しこの技
術分野の技術的進歩を遂げる。本発明では次のことを認
めた。それは、グラフィックス・ジェネレータが通常行
うレンダリング機能のいくつかとビデオ符号器が通常行
う符号化機能を下記のハイブリッド・システムに結合で
きることを認めた。このハイブリッド・システムは、圧
縮ビデオ信号を生成するために要する画像フレームのレ
ンダリング時に情報を計算し符号化できるようなハイブ
リッド・システムである。本発明では、動的3次元モデ
ルから圧縮ビデオ・ビットストリームを合成する圧縮ビ
デオ・ビットストリーム合成ハイブリッド・システムを
実現した。
【0008】このビデオ・ビットストリームは、適時に
連続する複数の画像フレームからできている画像シーケ
ンスを表し、各画像フレームは領域の集まりに分割され
ている。動きベクトルをその動的3次元モデルを表す現
画像フレーム内の各領域に対し生成する。この生成動き
ベクトルに基づき各領域に対し予測エラーを計算する。
この予測エラー値に基づき連続する画像フレームの各領
域で行う符号化タイプを決定する。この決定符号化タイ
プにより示されるようこの連続画像フレームの各領域を
符号化する。この領域のレンダリング時に画像フレーム
内の各領域で行うビデオ符号化タイプを求めることによ
り、このシステムの待ち時間を大きく短縮する。
【0009】実施する符号化タイプを求めるために用い
るビデオ符号器が通常行う近似法は計算が集中してい
る。これらの計算がここではそのレンダリング・プロセ
スの一部であるため、このオーバオール・システムでは
待ち時間が短縮され、さらに重要なことは、またこのオ
バーオール・システムのハードウェアの複雑度は減少し
それがこのシステムのコストを削減する。さらにこのハ
イブリッド・システムにより、各視聴者のスクリーン上
に3次元シーンの画像を遠隔でも生成できるような集中
対話グラフィックス・システムの生成が可能である。ま
たこの集中対話グラフィックス・システムによりそのハ
ードウェアをすべての加入者間でタイムシェアリングす
ることによりコストが削減される。
【0010】
【実施例】本発明の実施例として図1にビデオ・システ
ム10の概略を示す。ここで複数のディスプレイ装置、
例えば、テレビジョン受信機12がケーブル16により
ネットワーク14に結合する。テレビジョン・セットの
セットトップ・ボックス(図示せず)が各テレビジョン
12に伴われていてこのネットワーク14を介して命令
を送受信する。さらに集中対話グラフィックス・システ
ム(CIGS)18がネットワーク14に対応して設け
られこれがコンピュータ・グラフィックスを生成するこ
とができる。動作で説明すると、加入者から、例えば、
ビデオ・ゲームのような対話グラフィックス・サービス
を含むサービスに対する要求が入力しこの入力要求をネ
ットワーク14が処理する。このネットワーク14はC
GIS18からその要求ビデオ・ゲームを検索する。こ
のビデオ・ゲームは、ケーブル16でこのビデオ・ゲー
ムを要求する加入者のテレビジョン受信機12に付随す
るセットトップ・ボックスに送信される。
【0011】各加入者のテレビジョン受信機12に付随
する、例えば、エア・マウスのような入力装置24は、
このビデオ・ゲームの進行についてそのネットワーク1
4へ命令を送る。図2にCIGS18をさらに詳しく示
す。マルチユーザ・ゲームでは、共通データベース22
5がこれらユーザにより共用され、このデータベース2
25への変更は各ユーザによりこの共通データベース2
25に組込まれる。このビユー独立処理は、各ユーザに
対し別個のデータベースを更新する場合と異なり対照的
にコスト削減と待ち時間短縮を行うためこれらユーザ間
で共用する。CIGS18には、各ユーザに対しビデオ
符号器バックエンド215とハイブリッド・レンダリン
グ・エンジン210とグラフィックス・エンジン・フロ
ントエンド205がある。
【0012】このグラフィックス・エンジン・フロント
エンド205は特定の3次元シーンを生起させるのに要
するデータ構造を生成する。各データ構造には、点、
線、ポリゴンおよび3次元固体により規定した物体で、
この物体を数学的に記述したグループがある。従来周知
の方法を用いて、各物体の形状、テクスチャおよび色値
に関する詳細もまた規定することができる。次に各物体
をその3次元シーンにある他の物体に対し行列で規定す
るが、この行列には回転、拡大縮小、剪断および並進に
関する情報がある。このグラフィックス・エンジン・フ
ロントエンド205により行われるプロセスは、例え
ば、下記に記載があり参照のこと。“Computer Graphic
s: Principles and Practice”、James D.Foley,ら、Ad
dsion Wesley(1990)である。
【0013】このハイブリッド・レンダリング・エンジ
ン210は、その3次元物体に条件付きレンダリングを
行う、つまり3次元物体を表すデータを2次元画像を表
すデータに変換を行う。この2次元画像は、アニメーシ
ョンになる3次元シーンを表す複数の連続画像フレーム
からできている画像シーケンスに組込まれる。隣接する
画像フレームでは相関性が高く、というのは1個のフレ
ーム時間の間に物体の位置やカメラの位置の変化は僅か
であるためである。各画像フレームは複数のサブユニッ
トまたは画素からできている。また各画像フレームは複
数の画像ブロックに分割されており、この画像ブロック
は所定数の画素、例えば、16×16画素を含む。
【0014】動きベクトルは各画像ブロックに対し生成
されるが、これはその現画像ブロックに示される物体の
画像に対し動きの投影方向を表ししたがって後の画像フ
レームにおけるその物体の画像の位置を予測する。また
各領域に関係付けられた空間周波数エネルギーを規定す
るテクスチャ複雑度が求められる。各画像ブロックに対
しこの動きベクトルとテクスチャ複雑度を用いて連続画
像フレームにおいて累積する予測エラーを計算する。以
下に詳述するように、この予測エラーを用いて連続画像
フレームの各画像ブロックで行う符号化タイプを求め
る。このハイブリッド・レンダリング・エンジン210
が連続画像ブロックで行う符号化タイプを決めてしまう
と、この決定をそのビデオ符号器バックエンド215へ
送りこれがその動きベクトルまたは画像ブロックを符号
化し、この符号化動きベクトルまたは画像ブロックを図
1のそのテレビジョン受信機12へ送信する。
【0015】図2のシステムのアーキテクチャには図1
0に示すような汎用と専用のプロセッサがある。並列汎
用プロセッサを用いてモデル変換、動きベクトル、符号
化モード決定およびレート制御パラメタを計算する。高
速専用プロセッサまたはASICを用いてテクスチャ・
ポリゴン表現の走査変換、DCT、DCT係数量子化と
可変長符号化、さらにその符号化ビデオのデータ・フォ
ーマット化を行う。これら専用処理は、汎用マルチプロ
セッサ・ホストコンピュータ1010のシステム・バス
に依存の配置にし別個のディジタル・ビデオ・インタフ
ェースを走査変換器1015とビデオ符号器1020間
に設けて行うことができる。図3と図4を参照しこのハ
イブリッド・レンダリング・エンジン210を次にさら
に詳しく説明する。
【0016】低解像度レンダリング305をこの3次元
物体に行うが、これにはパースペクティブ変換をこの3
次元物体に適用しこの物体は次のように一連の数学的変
換を受ける。このパースペクティブ変換では、この物体
を空間的にその聴視者に対し配向し、この物体をその適
当な大きさに倍率調整し、遠近の奥行を短縮するパース
ペクティブ・フォアショートニングを調整し、およびこ
の物体をその所望のディスプレイ・ボリュームにクリッ
プする(ステップ410)。さらにこのパースペクティ
ブ変換には、色とテクスチャをシミュレートする表面デ
ィテールがあり、さらにシェーディング・デテールがあ
って光反射をシミュレートする。これらの変換を行っ
て、各物体に対しマッピング規定を導き出し2次元画像
を作成する。
【0017】一般的に、各物体は、ある画像フレームで
規定されているのであるが、これは個別の点の集まりか
らできており、各点はx、y、zの座標を有する。各画
像シーケンスは連続画像フレームにおける物体の動きを
表す。各連続画像フレームを生成する前に、現画像フレ
ームに含まれる各物体の位置についての時間的フレーム
間相関310をその前の画像フレームのその位置に対し
求める(ステップ415)。この時間的相関は、その各
物体の動きとその物体のフレーム間可視度により求め
る。この時間的相関から得た情報は次に詳述する符号化
決定315に対し用いられる。物体のフレーム間可視度
は、その画像フレーム内の1個以上の物体の画像のx、
y座標位置のオーバラップの存否にまず左右される。
【0018】もしこのx、y座標のオーバラップがある
と、例えば、各物体の画像に対するz座標位置を考慮し
その各物体の画像の可視度を決める。画像空間表示では
このz座標は奥行の深度に対応する。z座標が大きい、
つまり深度が大きい物体の画像は、もしその画像がx、
y座標でオーバラップを有する場合には、z座標が小さ
い物体の画像により見えにくく隠されてしまう。このよ
うな場合には、z座標が小さい物体の画像は他の物体の
画像を少なくとも部分的に見えぬよう隠しブロックして
しまう。または、これら物体を優先度の高低の配列に描
画することができ、ここで高優先度の物体は低優先度の
物体の上に描画することになる。一般的に、高優先度の
物体は“近い”物体を表し、低優先度の物体は“遠い”
物体を表す。この状態を図5に示す。
【0019】図5では、画像フレーム515内に表示す
る2個の物体505、510の画像を示す。画像510
の一部は破線で表されこれは画像510は画像505に
より部分的に遮られ見えにくく隠されていることを示
す。またこの破線は画像505と画像510の両者は同
じx、y座標をその規定エリア内に有するが、画像51
0は画像505よりz座標がより大きいことを示す。図
6では、2個の連続する画像フレーム610、615に
おいてある物体の画像605の動きを示す。行列Mt1を
用いて時間t=1の第1の画像フレーム610における
画像605の位置を表す。第2の行列Mt2を用いて時間
t=2の第2の画像フレーム615における画像605
の位置を表す。
【0020】各行列は回転、直線移動、拡大縮小および
剪断についての原物体の変換を規定する。第2の画像フ
レーム615における画像605の表点620は第1の
画像フレーム610におけるそのフレーム位置に相関対
応付けられる。この表点620がその第1の画像フレー
ム610の同じ対応フレーム位置にあるのかその正否を
次式を用いて決める。
【数1】
【0021】フレーム間可視度は時間的相関を決める際
に重要な要素である。Pt1に付随するIDナンバがPt2
に付随するIDナンバに等しい場合にフレーム間可視度
を確認する。表点620が同じでそれにより物体605
の動きを表す場合、x、y座標位置における差を求め
る。画像フレーム615に含まれる多数の表点の画像フ
レーム610に含まれる対応する表点に対する時間的相
関を同様に求める。もしある物体の画像の一部が原画像
フレームでは可視であるがその前の画像フレームでは遮
られ見えなかった場合には、この表点の時間的相関は規
定されない。このような場合には、この画像のその部分
を表す画素を可視エラーを回避するためその原3次元モ
デルから直ちに合成する必要がある。
【0022】ところが、ある物体の画像が現画像フレー
ムとその前の画像フレームの両者で共に可視である場合
には、後の画像フレームにおけるこの画像の動きは動き
ベクトルを用いて近似することができる(ステップ42
0)。この画像の各表点に対し時間的相関から動きベク
トルを生成することができる。この動きベクトルにより
後の画像フレームにおける動きの方向とレートを近似す
る。モデル動きベクトルはある画像フレームに対しその
ブロックに含まれる多数の画素をサンプリングして各画
像ブロックに対して生成する。この画像ブロックは、例
えば、16×16画素のブロックである。
【0023】このモデル動きベクトルがその画像ブロッ
クは均一領域であることを示す場合、つまりこのモデル
動きベクトルが一般的に同一方向を指す場合には、この
モデル動きベクトルを平均しその支配的ベクトル、これ
はまたブロックベース動きベクトルとも呼ばれるが、こ
れを用いてそのブロックを表す。各ブロックにおいてサ
ンプリングする画素数は、計算効率とブロックベース動
きベクトルの精度とを考慮しその両者のバランスにより
求める。図7に示すように、画像ブロック705に対す
るモデル動きベクトル720がこの画像ブロック705
は2個以上の均一領域710、715を含むことを示す
場合、次の関係式を用いて各領域710、715の大き
さおよび各領域710、715におけるテクスチャ複雑
度に基づきこのモデル動きベクトル720を重み付けす
る。
【0024】
【数2】
【0025】各領域710、715に対しこのモデル動
きベクトル720を平均して領域動きベクトル725、
730を得る。各領域動きべクトル725、730に対
し前記(2)式を用いてスコアSrを得る。この最高ス
コアを受けるこの16×16ブロック内の領域動きベク
トルをそのブロックベース動きベクトル740と決め
る。この画像ブロックに含まれる各画像ブロックに対し
そのブロックベース動きベクトルを生成してしまうと、
このブロックベース動きベクトル・エラーから各画像ブ
ロックに対し予測エラーを計算する(図4のステップ4
25)。各画像ブロックに対しその予測エラーは次の関
係式により計算する。
【0026】
【数3】 代表例で図8に示すように、現画像フレームに対する画
像ブロックは前の画像フレームの4個の画像ブロックと
オーバラップする。現画像ブロック810は前の画像ブ
ロック815、820、825、830とオーバラップ
する。
【0027】現画像ブロック810に対する累積予測エ
ラーを求めるため、重みw1を前の画像ブロック815
とオーバラップする現画像ブロック810のその関係部
分と対応付けし、同様に重みw2、w3およびw4をそれ
ぞれ前画像ブロック820、825、830とオーバラ
ップする現画像ブロック810のその関係部分と対応付
けする。各前画像ブロック815、820、825、8
30に対し計算した予測エラーp1、p2、p3、p4をそ
れぞれの重み付けの乗算を行い現画像ブロックに対する
予測エラーを次式のように求める。
【数4】 この現画像フレームにおける画像ブロック810に対す
る全予測エラーはPiとPEbの合計である。
【0028】連続する画像フレームが生成するにしたが
って、各画像ブロックに対する予測エラーを累積する。
ある画像に対するこの累積予測エラーが所定の閾値以下
である場合、この画像ブロックに対するブロックベース
動きベクトルをその図2のビデオ符号器バックエンド2
15へ送信し、これが後述のようにこのブロックベース
動きベクトルからその画像ブロックを構築する(図4の
ステップ440)。この累積予測エラーがその所定の閾
値以上である場合、その次の画像ブロックがそのビデオ
符号器バックエンド215により生成され、これがその
画像ブロックを後述のように符号化する(ステップ43
5)。この場合には、その次の画像フレームにおける予
測エラーを累積するためこの画像ブロックに対する予測
エラーをゼロにセットする。
【0029】好ましい実施態様で説明すると、例えば、
このビデオ符号器バックエンド215は、下記のビデオ
・ドラフト・エディティング委員会の93年11月と9
1年11月の報告に記載の周知のMPEG(動画像音声
符号化)標準に従う。この報告は、Video Draft Editin
g Commitee,“Generic Coding of Moving Pictures and
Associated Audio,”Recommendation H.262, ISO/IEC1
3818-2, Committee Draft for Video, Seoul, Nov. 199
3 および“ISO CD 11172-2:Coding of MovingPictures
and Assiciated Audio for Digital Storage Media at
up to about 1.5 Mbits/s,”Nov. 1991 である。このM
PEG標準の符号化方式は下記との組合せのブロック内
とブロック間の両者の符号化方式を含む予測符号化を取
り入れる方式である。その組合わせるものには、離散コ
サイン変換、適応係数量子化、ランレングス符号化およ
び統計またはハフマン符号化がある。
【0030】ブロック内符号化では時間的予測(動き補
償)を用いないでその現画像フレームに含まれる情報を
用いるのみで所定の画像ブロックを符号化する。またフ
レーム間符号化では、例えば、現ソース・ブロックと前
のブロックから予測したブロックとの情報間の差から符
号化ブロック・データを生成する。このMPEG標準で
は、基本的に2種のプロセスのブロック間符号化方式を
用いる。この第1のプロセスでは、その現ブロックと前
のブロックから“P”ブロックと呼ぶ予測ブロックを展
開する。この第2のプロセスでは、その現ブロックと前
または後のブロックから“B”ブロックと呼ぶ双方向予
測ブロックを展開する。ブロック内符号化したブロック
を“I”ブロックと呼ぶ。さらに本発明ではこの発明の
範囲と精神に反することなく、このビデオ符号器バック
エンド215に他のタイプの予測符号化方式を用いるこ
とも可能である。
【0031】本発明では、このMPEG符号化をブロッ
ク毎のブロック・ベ−スで決めるが、ここでは各ブロッ
クは16×16画素の大きさである。以上のように、I
ブロック、PブロックおよびBブロックは、そのグラフ
ィックス・ジェネレータの予測エラー決定に基づき生成
することができる。この累積予測エラ−が前述のように
その閾値以下の範囲に入る場合には、その現ブロックは
ブロックベース動きベクトルを用いてその前のフレーム
からコピーする。Bブロックの場合には、この動きベク
トルはその前の過去のフレームまたはこれから後の将来
のフレームを参照するかもしくはその両方を平均して参
照することができる。したがって、このビデオ符号器バ
ックエンド215はその送信された動きベクトルに基づ
きPブロックかまたはBブロックを生成する。
【0032】この累積予測エラーがその閾値以上の場合
には、このビデオ符号器バックエンドはIブロックを生
成し、その累積予測エラーをゼロにセットする。Iブロ
ックを生成するレートは、そのレンダラの容量によりま
た符号化ビデオの伝送を考慮に入れた最大ビットレート
により限定される。代表例として、このIブロック・レ
ートはフレーム時間の間周期的にモニタし、目標Iブロ
ック・レートを得るためそのPE(予測エラー)閾値を
調節する。このIブロック・レートと閾値は、その符号
化ビデオ・バッファがいっぱいになり過ぎるならばさら
にそれぞれ上下に調節する。図9に図2のビデオ符号器
バックエンド215をさらに詳しく示す。このビデオ符
号器バックエンド215は、各画像ブロックに対しその
符号化タイプ決定をいったん決めてしまうと、通常のビ
デオ符号器で行うのと同じ符号化機能を行う。
【0033】離散コサイン変換(DCT)回路905は
8×8周波数領域係数の集まりを展開する。適応量子化
器910はこの変換した係数を量子化する。フォーマッ
タ915はこの生成DCT係数の可変長符号化を行いそ
れにより可変長符号化符号語を生成する。次にこの受信
機により復号化を行うためこの符号語をその適当なヘッ
ダ情報によりフォーマットする。またその動きベクトル
情報をこのフォーマッタ915が受信する。この符号化
データをビット・バッファ920へ送り、これがこの符
号化データをテレビジョン受信機12へ送る。さらにこ
のビデオ符号器バックエンド215の各要素について
は、例えば、ここに引例とする同一譲渡の米国特許第
5,144,423号、ノーア(Knauer)ら、1
992年9月1日発行、に詳細な記載がある。
【0034】さらに加えて符号化とレンダリングの高能
率化は、照度またはシェーディングの変化の影響、もし
くは部分的に透明な物体による領域の部分的遮りのオッ
クルージョンの妨げの影響をも近似して追加することが
できる。シェーディングの変化は次の輝度DCT係数の
加算または減算により近似することができる。つまり輝
度DCT係数の所定のブロックに対する最低位または
0,0DCT係数からの加減算で近似する。照度の色の
変化は輝度とクロミナンスの両者の0,0DCT係数を
埋め合わせる必要がある。この影響は画素の対応ブロッ
クの平均値を埋め合わせることである。テクスチャのな
い部分的に透明な物体による部分的遮りのオックルージ
ョンの妨げの影響は、輝度とクロミナンスの両者の0,
0DCT係数に埋め合わせを加えて近似することができ
る。
【0035】画像フレーム内の各領域でその領域のレン
ダリング時に行うビデオ符号化タイプを決めブロックベ
ース動きベクトルを用いて予測エラーを計算することに
よりこのシステムの待ち時間は大きく短縮する。実施す
る符号化タイプを決めるために用いるビデオ符号器が従
来用いた近似法では計算が集中する。ところが本発明で
は、これらの計算はそのレンダリング・プロセスの一部
であるため、このオーバオール・システム全体の待ち時
間は短縮し、さらに重要なことには、このオーバオール
・システム全体のハードウェア複雑度が減少し、それが
このシステムのコストを削減する。以上の説明は、本発
明の一実施例に関するもので、この技術分野の当業者で
あれば、本発明の種々の変形例が考え得るが、それらは
いずれも本発明の技術的範囲に包含される。尚、特許請
求の範囲に記載した参照番号は発明の容易なる理解のた
めで、その技術的範囲を制限するよう解釈されるべきで
ない。
【0036】
【発明の効果】以上述べたごとく、本発明の圧縮ビデオ
・ビットストリーム合成システムを用いることにより、
各加入者に対し別個のグラフィックス・ジェネレータと
ビデオ符号器は必要でなくコストが削減され待ち時間が
短縮された有用な圧縮ビデオ信号を生成できる対話シス
テムを提供することができる。
【図面の簡単な説明】
【図1】本発明を実施するビデオ・システムの実施例を
示す略図である。
【図2】図1の集中対話グラフィックス・システムを示
すブロック図である。
【図3】図2のハイブリッド・レンダラ・エンジンを示
すブロック図である。
【図4】図1の集中対話グラフィックス・システムが行
う機能を示す流れ図である。
【図5】1個の画像フレーム内に含まれる2個の物体を
示す図である。
【図6】時間的相関の測定を行う連続ビデオ・フレーム
を示す略図である。
【図7】1組の連続画像ブロックおよびそれに付随する
モデル動きベクトルとブロックベース動きベクトルを示
す図である。
【図8】前画像フレームからの4個の画像ブロックのセ
クション上の現画像ブロックの上重ねを示す図である。
【図9】図1のビデオ・システムのビデオ符号器を示す
ブロック図である。
【図10】図2の集中対話グラフィックス・システムの
コンピュータ・アーキテクチャを示すブロック図であ
る。
【符号の説明】
10 ビデオ・システム 12 テレビジョン受信機 14 ネットワーク 16 ケーブル 18 集中対話グラフィックス・システム(CIGS) 24 入力装置 205 グラフィックス・エンジン・フロントエンド 210 ハイブリッド・レンダリング(レンダラ)・エ
ンジン 215 ビデオ符号器バックエンド 225 共通データベース 305 低解像度レンダリング 310 フレーム間時間的相関 315 符号化決定 505 (物体)画像 510 (物体)画像 515 画像フレーム 605 画像 610 画像フレーム 615 画像フレーム 620 表点 705 画像ブロック 710 領域 715 領域 720 モデル動きベクトル 725 領域動きベクトル 730 領域動きベクトル 740 ブロックベース動きベクトル 810 (現)画像ブロック 815 (前)画像ブロック 820 (前)画像ブロック 825 (前)画像ブロック 830 (前)画像ブロック 905 離散コサイン変換(DCT)回路 910 適応量子化器 915 フォーマッタ 920 ビット・バッファ 1010 マルチプロセッサ・ホストコンピュータ 1015 走査変換器 1020 ビデオ符号器
フロントページの続き (51)Int.Cl.6 識別記号 庁内整理番号 FI 技術表示箇所 H03M 7/36 8842−5J G06F 15/66 330 D (72)発明者 エリク デビッド ペタジャン アメリカ合衆国、07060 ニュージャージ ー、ワッチャング、メイプル ストリート 22

Claims (29)

    【特許請求の範囲】
  1. 【請求項1】 動的3次元モデルから圧縮ビデオ・ビッ
    トストリームを合成する圧縮ビデオ・ビットストリーム
    合成方法において、前記ビデオ・ビットストリームは適
    時に連続する複数の画像フレームからできている画像シ
    ーケンスを表し、各画像フレームはオーバラップしない
    で連続する領域の集まりに分割されており、前記画像フ
    レームの各ブロックを予測符号化タイプで表示するよう
    符号化し、 この圧縮ビデオ・ビットストリーム合成方法は、 (A)前記動的3次元モデルを表す現画像フレーム内の
    各領域に対し動きベクトルを生成する動きベクトル生成
    ステップと、 (B)前記生成動きベクトルに基づき各領域に対し予測
    エラーを計算する予測エラー計算ステップと、 (C)前記予測エラー値に基づき連続画像フレームの各
    領域で実施する予測符号化タイプを求める予測符号化タ
    イプ決定ステップと、 (D)前記決定予測符号化タイプで表示するよう前記連
    続画像フレームの各領域を符号化する領域符号化ステッ
    プとからなることを特徴とする圧縮ビデオ・ビットスト
    リーム合成方法。
  2. 【請求項2】 各領域は長方形のブロック(705)で
    あり、前記動きベクトル生成ステップ(A)は、 (A1)動的3次元幾何モデルを受信する動的3次元幾
    何モデル受信ステップと、 (A2)前記動的3次元モデルからモデル動きベクトル
    (720)を計算するモデル動きベクトル計算ステップ
    と、 (A3)ブロックベース動きベクトル(740)を使用
    して前記モデル動きベクトルを近似するブロックベース
    動きベクトル使用ステップとをさらに有することを特徴
    とする請求項1の方法。
  3. 【請求項3】 前記モデル動きベクトルをディスプレイ
    解像度以下で計算することを特徴とする請求項2の方
    法。
  4. 【請求項4】 前記ブロックベース動きベクトル使用ス
    テップ(A3)は、 前記画像フレームの各ブロック内に含まれる前記モデル
    動きベクトルの加重平均を求める加重平均モデル動きベ
    クトル決定ステップと、 前記加重平均モデル動きベクトルを1個のブロックベー
    ス動きベクトルで表示する単一ブロックベース動きベク
    トル表示ステップとをさらに有することを特徴とする請
    求項3の方法。
  5. 【請求項5】 ブロック内のモデル動きベクトルの加重
    平均はそのブロック内の各均一領域の面積とテクスチャ
    複雑度の関数であることを特徴とする請求項4の方法。
  6. 【請求項6】 前記予測符号化タイプは予測ブロック間
    符号化を含むことを特徴とする請求項2の方法。
  7. 【請求項7】 前記予測ブロック間符号化は双方向であ
    ることを特徴とする請求項6の方法。
  8. 【請求項8】 動的3次元モデルから画像シーケンスを
    合成する画像シーケンス合成システムで、前記画像シー
    ケンスは適時に連続する複数の画像フレームからできて
    おり、各画像フレームは連続する長方形のブロックの集
    まりに分割されているような前記画像シーケンス合成シ
    ステムにおいて、 (E)動的3次元幾何モデルを受信する動的3次元幾何
    モデル受信手段と、 (F)前記動的3次元モデルからモデル動きベクトルを
    計算するモデル動きベクトル計算手段と、 (G)ブロックベース動きベクトルを用いて前記モデル
    動きベクトルを近似するモデル動きベクトル近似手段と
    からなることを特徴とする画像シーケンス合成システ
    ム。
  9. 【請求項9】 前記モデル動きベクトルをディスプレイ
    解像度以下で計算することを特徴とする請求項8のシス
    テム。
  10. 【請求項10】 前記モデル動きベクトル近似手段
    (G)は、 (G1)前記画像フレームの各ブロック内に含まれたモ
    デル動きベクトルの重量平均を求めるモデル動きベクト
    ル加重平均決定手段と、 (G2)前記加重平均モデル動きベクトルを1個のブロ
    ックベース動きベクトルで表示する単一ブロックベース
    動きベクトル表示手段とをさらに有することを特徴とす
    る請求項9のシステム。
  11. 【請求項11】 ブロック内のモデル動きベクトルの加
    重平均はそのブロック内の各均一領域の面積とテクスチ
    ャ複雑度の関数であることを特徴とする請求項10のシ
    ステム。
  12. 【請求項12】 (H)各ブロックベース動きベクトル
    に関係付けられた予測エラーを計算する予測エラー計算
    手段と、 (J)複数の画像フレームにおいて前記予測エラーを累
    積する予測エラー累積手段とをさらに有することを特徴
    とする請求項8のシステム。
  13. 【請求項13】 前記予測エラー累積手段(J)は、 (J1)各ブロックに対し面積加重平均を求める面積加
    重平均決定手段をさらに有することを特徴とする請求項
    12のシステム。
  14. 【請求項14】 (J2)あるブロックの照度の変化を
    その0,0DCT係数を調節することにより近似する照
    度変化近似手段をさらに有することを特徴とする請求項
    13のシステム。
  15. 【請求項15】 (J3)部分的に透明でテクスチャの
    ないブロックとのブロックの部分的なオックルージョン
    をその0,0DCT係数を調節することにより近似する
    ブロック部分的オックルージョン近似手段をさらに有す
    ることを特徴とする請求項13のシステム。
  16. 【請求項16】 各ブロックベース動きベクトルに関係
    付けられた予測エラーを計算する予測エラー計算ステッ
    プと、 複数の画像フレームにおいて前記予測エラーを累積する
    予測エラー累積ステップとをさらに有することを特徴と
    する請求項6の方法。
  17. 【請求項17】 前記符号化ステップ(D)は、 (D1)前記累積予測エラーを閾値と比較する比較ステ
    ップと、 (D2)特定の累積予測エラーに関係付けられたブロッ
    クをこの特定の累積予測エラーが前記閾値を超過した場
    合に合成する特定ブロック合成ステップとをさらに有す
    ることを特徴とする請求項16の方法。
  18. 【請求項18】 (D3)前記閾値を調節することによ
    りブロック合成レートを制御するブロック合成レート制
    御ステップをさらに有することを特徴とする請求項17
    の方法。
  19. 【請求項19】 動的3次元モデルから画像シーケンス
    を合成する画像シーケンス合成方法で、前記画像シーケ
    ンスは適時に連続する複数の画像フレームからできてお
    り、各画像フレームは連続する長方形のブロックの集ま
    りに分割されているような前記画像シーケンス合成方法
    において、 (K)動的3次元幾何モデルを受信する動的3次元幾何
    モデル受信ステップと、 (L)前記動的3次元モデルからモデル動きベクトルを
    計算するモデル動きベクトル計算ステップと、 (M)ブロックベース動きベクトルを用いて前記モデル
    動きベクトルを近似するモデル動きベクトル近似ステッ
    プとからなることを特徴とする画像シーケンス合成方
    法。
  20. 【請求項20】 前記モデル動きベクトル近似ステップ
    (M)は、 (M1)前記画像フレームの各ブロック内に含まれたモ
    デル動きベクトルの加重平均を求めるモデル動きベクト
    ル加重平均決定ステップと、 (M2)前記加重平均モデル動きベクトルを1個のブロ
    ックベース動きベクトルで表示する単一ブロックベース
    動きベクトル表示ステップとをさらに有することを特徴
    とする請求項19の方法。
  21. 【請求項21】 (M3)各ブロックベース動きベクト
    ルに関係付けられた予測エラーを計算する予測エラー計
    算ステップと、 (M4)複数の画像フレームにおいて前記予測エラーを
    累積する予測エラー累積ステップとをさらに有すること
    を特徴とする請求項20の方法。
  22. 【請求項22】 前記予測エラー累積ステップ(M4)
    は、各ブロックに対し面積加重平均を求める面積加重平
    均決定ステップをさらに有することを特徴とする請求項
    21の方法。
  23. 【請求項23】 あるブロックの照度の変化をその0,
    0DCD係数を調節することにより近似する照度変化近
    似ステップをさらに有することを特徴とする請求項22
    の方法。
  24. 【請求項24】 部分的に透明でテクスチャのないブロ
    ックとのブロックの部分的オックルージョンをその0,
    0DCT係数を調節することにより近似するブロック部
    分的オックルージョン近似ステップをさらに有すること
    を特徴とする請求項22の方法。
  25. 【請求項25】 前記予測エラー値に基づき連続画像フ
    レームの各ブロックで実施する予測符号化タイプを求め
    る予測符号化タイプ決定ステップと、 前記決定予測符号化タイプで表示するよう前記連続画像
    フレームの各ブロックを符号化するブロック符号化ステ
    ップとをさらに有することを特徴とする請求項24の方
    法。
  26. 【請求項26】 前記累積予測エラーを閾値と比較する
    比較ステップと、 特定の累積予測エラーに関係付けられたブロックをこの
    特定の累積予測エラーが前記閾値を超過する場合に合成
    する特定ブロック合成ステップとをさらに有することを
    特徴とする請求項25の方法。
  27. 【請求項27】 前記閾値を調節することによりブロッ
    ク合成レートを制御するブロック合成レート制御ステッ
    プをさらに有することを特徴とする請求項26の方法。
  28. 【請求項28】 動的3次元モデルから圧縮ビデオ・ビ
    ットストリームを合成する圧縮ビデオ・ビットストリー
    ム合成方法で、前記ビデオ・ビットストリームは適時に
    連続する複数の画像フレームからできている画像シーケ
    ンスを表し、各画像フレームは連続する長方形のブロッ
    クの集まりに分割されているような前記圧縮ビデオ・ビ
    ットストーム合成方法において、 (N)動的3次元幾何モデルを受信する動的3次元幾何
    モデル受信ステップと、 (P)前記動的3次元モデルからモデル動きベクトルを
    計算するモデル動きベクトル計算ステップと、 (Q)ブロックベース動きベクトルを用いてモデル動き
    ベクトルを近似するモデル動きベクトル近似ステップ
    と、 (R)各ブロックベース動きベクトルに関係付けられた
    予測エラーを計算する予測エラー計算ステップと、 (S)複数の画像フレームにおいて前記予測エラーを累
    積する予測エラー累積ステップと、 (T)前記累積予測エラーを閾値と比較する比較ステッ
    プと、 (U)特定の累積予測エラーに関係付けられたブロック
    をこの特定の累積予測エラーが前記閾値を超過した場合
    に合成する特定ブロック合成ステップと、 (V)前の画像フレームからのブロックから前記閾値よ
    り小さい特定の累積予測エラーに関係付けられたブロッ
    クを生成するブロック生成ステップと、 (W)前記合成ブロックをビデオ符号器へ送信する送信
    ステップとからなることを特徴とする圧縮ビデオ・ビッ
    トストリーム合成方法。
  29. 【請求項29】 (X)前記閾値を調節することにより
    ブロック合成レートを制御するブロック合成レート制御
    ステップをさらに有すること特徴とする請求項28の方
    法。
JP09752595A 1994-04-01 1995-03-31 圧縮ビデオ・ビットストリーム合成のシステムおよび方法 Expired - Lifetime JP3229162B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US22173294A 1994-04-01 1994-04-01
US221732 1994-04-01

Publications (2)

Publication Number Publication Date
JPH07327231A true JPH07327231A (ja) 1995-12-12
JP3229162B2 JP3229162B2 (ja) 2001-11-12

Family

ID=22829121

Family Applications (1)

Application Number Title Priority Date Filing Date
JP09752595A Expired - Lifetime JP3229162B2 (ja) 1994-04-01 1995-03-31 圧縮ビデオ・ビットストリーム合成のシステムおよび方法

Country Status (6)

Country Link
US (1) US5742289A (ja)
EP (1) EP0675462B1 (ja)
JP (1) JP3229162B2 (ja)
KR (1) KR100361398B1 (ja)
CA (1) CA2144253C (ja)
DE (1) DE69518937T2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002163678A (ja) * 2000-09-13 2002-06-07 Monolith Co Ltd 擬似三次元画像生成方法および装置
KR100499057B1 (ko) * 1996-11-28 2005-07-01 톰슨 멀티미디어 비디오 압축 방법 및 장치
WO2013024640A1 (en) * 2011-08-17 2013-02-21 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image reproduction apparatus, control method, program, and recording medium
WO2013125220A1 (ja) * 2012-02-23 2013-08-29 株式会社スクウェア・エニックス・ホールディングス 動画配信サーバ、動画再生装置、制御方法、プログラム、及び記録媒体
WO2013153787A1 (ja) * 2012-04-12 2013-10-17 株式会社スクウェア・エニックス・ホールディングス 動画配信サーバ、動画再生装置、制御方法、プログラム、及び記録媒体

Families Citing this family (102)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
JP2907089B2 (ja) * 1996-01-11 1999-06-21 日本電気株式会社 対話型映像提示装置
US6654414B1 (en) * 1996-11-12 2003-11-25 Ibm Corporation Video conferencing using camera environment panoramas
US5990959A (en) * 1996-12-20 1999-11-23 U S West, Inc. Method, system and product for direct rendering of video images to a video data stream
US6304607B1 (en) * 1997-03-18 2001-10-16 Texas Instruments Incorporated Error resilient video coding using reversible variable length codes (RVLCS)
JP4237270B2 (ja) * 1997-07-11 2009-03-11 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 音声画像データの復号方法
FR2765984B1 (fr) * 1997-07-11 1999-10-22 France Telecom Signal de donnees d'animation d'une scene graphique a objet de quantification, procede et dispositif correspondants
US6384819B1 (en) * 1997-10-15 2002-05-07 Electric Planet, Inc. System and method for generating an animatable character
US5969772A (en) * 1997-10-30 1999-10-19 Nec Corporation Detection of moving objects in video data by block matching to derive a region motion vector
US6208350B1 (en) 1997-11-04 2001-03-27 Philips Electronics North America Corporation Methods and apparatus for processing DVD video
WO1999059342A1 (en) * 1998-05-11 1999-11-18 The University Of British Columbia Method and system for mpeg-2 encoding with frame partitioning
EP0973129A3 (en) 1998-07-17 2005-01-12 Matsushita Electric Industrial Co., Ltd. Motion image data compression system
US6489995B1 (en) * 1998-10-22 2002-12-03 Sony Corporation Method and apparatus for motion vector concealment
US7904187B2 (en) 1999-02-01 2011-03-08 Hoffberg Steven M Internet appliance system and method
AU3700300A (en) * 1999-02-16 2000-09-04 Shells Interactive, Ltd. Compression system
US6429867B1 (en) * 1999-03-15 2002-08-06 Sun Microsystems, Inc. System and method for generating and playback of three-dimensional movies
US7779406B2 (en) * 1999-04-16 2010-08-17 Microsoft Corporation Method and system for managing lifecycles of deployed applications
US6330281B1 (en) * 1999-08-06 2001-12-11 Richfx Ltd. Model-based view extrapolation for interactive virtual reality systems
WO2001074082A1 (en) * 2000-03-27 2001-10-04 Teranex, Inc. Temporal interpolation of interlaced or progressive video images
US20060036756A1 (en) 2000-04-28 2006-02-16 Thomas Driemeyer Scalable, multi-user server and method for rendering images from interactively customizable scene information
DE60113358T2 (de) * 2000-10-20 2006-06-22 Samsung Electronics Co., Ltd., Suwon Kodierer, Dekodierer und entsprechende Verfahren für Orientierungsinterpolationsknotendaten
KR100612828B1 (ko) * 2000-10-20 2006-08-18 삼성전자주식회사 오리엔테이션 보간 노드의 부호화 장치 및 방법
CA2359260C (en) 2000-10-20 2004-07-20 Samsung Electronics Co., Ltd. Coding apparatus and method for orientation interpolator node
US7587520B1 (en) 2001-01-24 2009-09-08 3Dlabs Inc. Ltd. Image display system with visual server
EP2373035B1 (en) * 2001-11-30 2015-11-25 NTT DoCoMo, Inc. Moving picture encoding device, moving picture decoding device, moving picture encoding method, moving picture decoding method, program, and computer readable recording medium storing program
AU2003208477A1 (en) 2002-03-01 2003-09-16 T5 Labs Ltd Centralised interactive graphical application server
DE50305419D1 (de) * 2002-05-02 2006-11-30 Fraunhofer Ges Forschung Kodierung und Dekodierung von Transformationskoeffizienten in Bild- oder Videokodierern
US7038676B2 (en) * 2002-06-11 2006-05-02 Sony Computer Entertainmant Inc. System and method for data compression
US20090118019A1 (en) * 2002-12-10 2009-05-07 Onlive, Inc. System for streaming databases serving real-time applications used through streaming interactive video
US7558525B2 (en) * 2002-12-10 2009-07-07 Onlive, Inc. Mass storage repository for a wireless network
US8387099B2 (en) 2002-12-10 2013-02-26 Ol2, Inc. System for acceleration of web page delivery
US8964830B2 (en) 2002-12-10 2015-02-24 Ol2, Inc. System and method for multi-stream video compression using multiple encoding formats
US10201760B2 (en) * 2002-12-10 2019-02-12 Sony Interactive Entertainment America Llc System and method for compressing video based on detected intraframe motion
US8949922B2 (en) * 2002-12-10 2015-02-03 Ol2, Inc. System for collaborative conferencing using streaming interactive video
US7849491B2 (en) * 2002-12-10 2010-12-07 Onlive, Inc. Apparatus and method for wireless video gaming
US9032465B2 (en) 2002-12-10 2015-05-12 Ol2, Inc. Method for multicasting views of real-time streaming interactive video
US9061207B2 (en) 2002-12-10 2015-06-23 Sony Computer Entertainment America Llc Temporary decoder apparatus and method
US9077991B2 (en) * 2002-12-10 2015-07-07 Sony Computer Entertainment America Llc System and method for utilizing forward error correction with video compression
US8366552B2 (en) * 2002-12-10 2013-02-05 Ol2, Inc. System and method for multi-stream video compression
US20110126255A1 (en) * 2002-12-10 2011-05-26 Onlive, Inc. System and method for remote-hosted video effects
US9108107B2 (en) 2002-12-10 2015-08-18 Sony Computer Entertainment America Llc Hosting and broadcasting virtual events using streaming interactive video
US9003461B2 (en) * 2002-12-10 2015-04-07 Ol2, Inc. Streaming interactive video integrated with recorded video segments
US8468575B2 (en) * 2002-12-10 2013-06-18 Ol2, Inc. System for recursive recombination of streaming interactive video
US8661496B2 (en) 2002-12-10 2014-02-25 Ol2, Inc. System for combining a plurality of views of real-time streaming interactive video
US9138644B2 (en) 2002-12-10 2015-09-22 Sony Computer Entertainment America Llc System and method for accelerated machine switching
US8893207B2 (en) * 2002-12-10 2014-11-18 Ol2, Inc. System and method for compressing streaming interactive video
US8711923B2 (en) 2002-12-10 2014-04-29 Ol2, Inc. System and method for selecting a video encoding format based on feedback data
US9192859B2 (en) 2002-12-10 2015-11-24 Sony Computer Entertainment America Llc System and method for compressing video based on latency measurements and other feedback
US20110122063A1 (en) * 2002-12-10 2011-05-26 Onlive, Inc. System and method for remote-hosted video effects
US8549574B2 (en) * 2002-12-10 2013-10-01 Ol2, Inc. Method of combining linear content and interactive content compressed together as streaming interactive video
US8832772B2 (en) * 2002-12-10 2014-09-09 Ol2, Inc. System for combining recorded application state with application streaming interactive video output
US8495678B2 (en) * 2002-12-10 2013-07-23 Ol2, Inc. System for reporting recorded video preceding system failures
US8526490B2 (en) * 2002-12-10 2013-09-03 Ol2, Inc. System and method for video compression using feedback including data related to the successful receipt of video content
US8840475B2 (en) * 2002-12-10 2014-09-23 Ol2, Inc. Method for user session transitioning among streaming interactive video servers
US9314691B2 (en) * 2002-12-10 2016-04-19 Sony Computer Entertainment America Llc System and method for compressing video frames or portions thereof based on feedback information from a client device
US9446305B2 (en) 2002-12-10 2016-09-20 Sony Interactive Entertainment America Llc System and method for improving the graphics performance of hosted applications
US7593361B2 (en) * 2003-02-14 2009-09-22 Onlive, Inc. Method of operation for a three-dimensional, wireless network
GB2401502B (en) * 2003-05-07 2007-02-14 British Broadcasting Corp Data processing
EP1496704B1 (en) 2003-07-07 2009-01-21 STMicroelectronics S.r.l. Graphic system comprising a pipelined graphic engine, pipelining method and computer program product
EP1706702A2 (en) * 2003-12-21 2006-10-04 KREMEN, Stanley H. System and apparatus for recording, transmitting, and projecting digital three-dimensional images
US8435113B2 (en) * 2004-12-15 2013-05-07 Google Inc. Method and system for displaying of transparent ads
KR100654834B1 (ko) * 2005-01-12 2006-12-08 삼성전자주식회사 호스트 디바이스, 디스플레이 디바이스 및 디스플레이시스템
US8074248B2 (en) 2005-07-26 2011-12-06 Activevideo Networks, Inc. System and method for providing video content associated with a source image to a television in a communication network
US8888592B1 (en) 2009-06-01 2014-11-18 Sony Computer Entertainment America Llc Voice overlay
WO2008088752A2 (en) 2007-01-12 2008-07-24 Ictv, Inc. System and method for encoding scrolling raster images
US9826197B2 (en) * 2007-01-12 2017-11-21 Activevideo Networks, Inc. Providing television broadcasts over a managed network and interactive content over an unmanaged network to a client device
US9168457B2 (en) 2010-09-14 2015-10-27 Sony Computer Entertainment America Llc System and method for retaining system state
US8613673B2 (en) 2008-12-15 2013-12-24 Sony Computer Entertainment America Llc Intelligent game loading
US8147339B1 (en) 2007-12-15 2012-04-03 Gaikai Inc. Systems and methods of serving game video
US8968087B1 (en) 2009-06-01 2015-03-03 Sony Computer Entertainment America Llc Video game overlay
WO2009094036A1 (en) * 2008-01-25 2009-07-30 Hewlett-Packard Development Company, L.P. Coding mode selection for block-based encoding
US8350863B2 (en) * 2008-01-27 2013-01-08 Citrix Systems, Inc. Methods and systems for improving resource utilization by delaying rendering of three dimensional graphics
US8264493B2 (en) * 2008-05-12 2012-09-11 Playcast Media Systems, Ltd. Method and system for optimized streaming game server
WO2009138878A2 (en) * 2008-05-12 2009-11-19 Playcast Media Systems, Ltd. Centralized streaming game server
US8154553B2 (en) * 2008-05-22 2012-04-10 Playcast Media System, Ltd. Centralized streaming game server
US8321903B2 (en) 2008-07-28 2012-11-27 Playcast Media Systems, Ltd. External services allocation in closed on-demand systems
US8926435B2 (en) 2008-12-15 2015-01-06 Sony Computer Entertainment America Llc Dual-mode program execution
US9723319B1 (en) 2009-06-01 2017-08-01 Sony Interactive Entertainment America Llc Differentiation for achieving buffered decoding and bufferless decoding
EP2384001A1 (en) * 2010-04-29 2011-11-02 Alcatel Lucent Providing of encoded video applications in a network environment
US8676591B1 (en) 2010-08-02 2014-03-18 Sony Computer Entertainment America Llc Audio deceleration
KR102003007B1 (ko) 2010-09-13 2019-07-23 소니 인터랙티브 엔터테인먼트 아메리카 엘엘씨 비디오 서버 및 게임 서버를 포함하는 컴퓨터 게임 시스템에서 컴퓨터 게임을 제공하는 방법 및 시스템
US10039978B2 (en) 2010-09-13 2018-08-07 Sony Interactive Entertainment America Llc Add-on management systems
AU2011315950B2 (en) 2010-10-14 2015-09-03 Activevideo Networks, Inc. Streaming digital video between video devices using a cable television system
WO2012078640A2 (en) * 2010-12-06 2012-06-14 The Regents Of The University Of California Rendering and encoding adaptation to address computation and network bandwidth constraints
CN102055982B (zh) * 2011-01-13 2012-06-27 浙江大学 三维视频编解码方法及装置
WO2012138660A2 (en) 2011-04-07 2012-10-11 Activevideo Networks, Inc. Reduction of latency in video distribution networks using adaptive bit rates
US10409445B2 (en) 2012-01-09 2019-09-10 Activevideo Networks, Inc. Rendering of an interactive lean-backward user interface on a television
KR101640904B1 (ko) 2012-02-07 2016-07-19 엠파이어 테크놀로지 디벨롭먼트 엘엘씨 온라인 게이밍 경험을 제공하기 위한 컴퓨터 기반 방법, 기계 판독가능 비일시적 매체 및 서버 시스템
WO2013123635A1 (en) * 2012-02-20 2013-08-29 Thomson Licensing Methods for compensating decoding error in three-dimensional models
US9123084B2 (en) 2012-04-12 2015-09-01 Activevideo Networks, Inc. Graphical application integration with MPEG objects
US8959503B2 (en) 2012-10-05 2015-02-17 Microsoft Technology Licensing Llc Application version gatekeeping during upgrade
WO2014145921A1 (en) 2013-03-15 2014-09-18 Activevideo Networks, Inc. A multiple-mode system and method for providing user selectable video content
WO2014197879A1 (en) 2013-06-06 2014-12-11 Activevideo Networks, Inc. Overlay rendering of user interface onto source video
US9294785B2 (en) 2013-06-06 2016-03-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
US9219922B2 (en) 2013-06-06 2015-12-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
KR101670983B1 (ko) 2014-12-30 2016-11-09 하영식 화면 공유 시스템 및 화면 공유 방법과 관리서버 및 관리서버의 운영방법
US10843089B2 (en) * 2018-04-06 2020-11-24 Rovi Guides, Inc. Methods and systems for facilitating intra-game communications in a video game environment
CA3238058A1 (en) * 2018-06-30 2020-01-02 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Merge mode-based inter-prediction method and apparatus
US10974153B2 (en) * 2019-01-17 2021-04-13 Disney Enterprises, Inc. Streamable compressed geometry for live broadcast
US12337232B2 (en) * 2021-01-04 2025-06-24 Microsoft Technology Licensing, Llc Systems and methods for streaming interactive applications
CN112870711B (zh) * 2021-04-28 2021-07-16 腾讯科技(深圳)有限公司 一种云游戏的处理方法、装置、设备及存储介质
CN115463419B (zh) * 2021-06-11 2025-09-19 荣耀终端股份有限公司 图像的预测方法、电子设备和存储介质

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5297057A (en) * 1989-06-13 1994-03-22 Schlumberger Technologies, Inc. Method and apparatus for design and optimization for simulation of motion of mechanical linkages
FR2661061B1 (fr) * 1990-04-11 1992-08-07 Multi Media Tech Procede et dispositif de modification de zone d'images.
US5144423A (en) * 1990-12-11 1992-09-01 At&T Bell Laboratories Hdtv encoder with forward estimation and constant rate motion vectors
CA2114028C (en) * 1991-07-23 1998-04-28 Mark Andrew Shackleton Method and device for frame interpolation of a moving image
US5198901A (en) * 1991-09-23 1993-03-30 Matsushita Electric Corporation Of America Derivation and use of motion vectors in a differential pulse code modulation system
JPH05207442A (ja) * 1992-01-30 1993-08-13 Matsushita Electric Ind Co Ltd 動画像信号の符号化装置
US5262856A (en) * 1992-06-04 1993-11-16 Massachusetts Institute Of Technology Video image compositing techniques
JP3308990B2 (ja) * 1992-07-03 2002-07-29 松下電器産業株式会社 動画像の予測符号化方法及び予測符号化装置
JPH06153180A (ja) * 1992-09-16 1994-05-31 Fujitsu Ltd 画像データ符号化方法及び装置

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100499057B1 (ko) * 1996-11-28 2005-07-01 톰슨 멀티미디어 비디오 압축 방법 및 장치
JP2002163678A (ja) * 2000-09-13 2002-06-07 Monolith Co Ltd 擬似三次元画像生成方法および装置
WO2013024640A1 (en) * 2011-08-17 2013-02-21 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image reproduction apparatus, control method, program, and recording medium
JP2013041568A (ja) * 2011-08-17 2013-02-28 Square Enix Holdings Co Ltd 動画配信サーバ、動画再生装置、制御方法、プログラム、及び記録媒体
US9008187B2 (en) 2011-08-17 2015-04-14 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image reproduction apparatus, control method, program, and recording medium
US8873636B2 (en) 2011-08-17 2014-10-28 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image reproduction apparatus, control method, program, and recording medium
JP2013243702A (ja) * 2012-02-23 2013-12-05 Square Enix Holdings Co Ltd 動画配信サーバ、動画再生装置、制御方法、プログラム、及び記録媒体
CN103392189A (zh) * 2012-02-23 2013-11-13 史克威尔·艾尼克斯控股公司 动态图像传输服务器、动态图像播放装置、控制方法、程序、及记录媒体
JP5307958B1 (ja) * 2012-02-23 2013-10-02 株式会社スクウェア・エニックス・ホールディングス 動画配信サーバ、動画再生装置、制御方法、プログラム、及び記録媒体
US8988501B2 (en) 2012-02-23 2015-03-24 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image playback apparatus, control method, and recording medium
WO2013125220A1 (ja) * 2012-02-23 2013-08-29 株式会社スクウェア・エニックス・ホールディングス 動画配信サーバ、動画再生装置、制御方法、プログラム、及び記録媒体
US9491433B2 (en) 2012-02-23 2016-11-08 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image playback apparatus, control method, and recording medium
WO2013153787A1 (ja) * 2012-04-12 2013-10-17 株式会社スクウェア・エニックス・ホールディングス 動画配信サーバ、動画再生装置、制御方法、プログラム、及び記録媒体
JP5404971B1 (ja) * 2012-04-12 2014-02-05 株式会社スクウェア・エニックス・ホールディングス 動画配信サーバ、制御方法、プログラム、及び動画配信システム
US8897373B2 (en) 2012-04-12 2014-11-25 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image reproduction apparatus, control method, and recording medium
US9868060B2 (en) 2012-04-12 2018-01-16 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image reproduction apparatus, control method, and recording medium
US10004983B2 (en) 2012-04-12 2018-06-26 Square Enix Holdings Co., Ltd. Moving image distribution server, moving image reproduction apparatus, control method, and recording medium

Also Published As

Publication number Publication date
US5742289A (en) 1998-04-21
DE69518937T2 (de) 2001-02-15
DE69518937D1 (de) 2000-11-02
KR950033958A (ko) 1995-12-26
CA2144253A1 (en) 1995-10-02
JP3229162B2 (ja) 2001-11-12
EP0675462A3 (en) 1997-03-12
CA2144253C (en) 1999-09-21
EP0675462B1 (en) 2000-09-27
KR100361398B1 (ko) 2003-03-06
EP0675462A2 (en) 1995-10-04

Similar Documents

Publication Publication Date Title
JP3229162B2 (ja) 圧縮ビデオ・ビットストリーム合成のシステムおよび方法
CN100581250C (zh) 用于三维计算机图形压缩的系统和方法
JP4338787B2 (ja) 映像圧縮のための方法及び装置
US6738424B1 (en) Scene model generation from video for use in video processing
JP3884076B2 (ja) グラフィック画像処理
Wallach et al. Accelerated MPEG compression of dynamic polygonal scenes
US8331435B2 (en) Compression system, program and method
JPH10501107A (ja) ビデオ映像復号化装置及び方法
JP2002517851A (ja) 時間依存ジオメトリの圧縮
KR20200102507A (ko) 이미지 데이터 비트스트림을 생성하기 위한 장치 및 방법
CN117596373B (zh) 基于动态数字人形象进行信息展示的方法及电子设备
JP2001186516A (ja) 画像データの符号化復号化方法及び装置
Cohen-Or Model-based view-extrapolation for interactive VR web-systems
TW202338738A (zh) 視訊信號及其處理
Bove Object-oriented television
JP2002369205A (ja) 動画像生成装置
CN113767423B (zh) 生成图像信号的装置和方法
CN118400507B (zh) 一种基于视频质量感知模型的立体视频自适应传输方法和系统
WO2026047326A1 (en) Generating a three-dimensional representation of a scene
WO2026013384A1 (en) Processing a three-dimensional representation of a scene
Meyer et al. Stateless Remote Environment Navigation with View Compression
MXPA99004805A (en) Method and device for video compression

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080907

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080907

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090907

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100907

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100907

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110907

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120907

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130907

Year of fee payment: 12

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term