JPH11225329A - 画像符号化装置及び方法、画像復号化装置及び方法、画像符号化プログラムが記録されたコンピュータ可読記録媒体及び画像復号化プログラムが記録されたコンピュータ可読記録媒体 - Google Patents
画像符号化装置及び方法、画像復号化装置及び方法、画像符号化プログラムが記録されたコンピュータ可読記録媒体及び画像復号化プログラムが記録されたコンピュータ可読記録媒体Info
- Publication number
- JPH11225329A JPH11225329A JP2327998A JP2327998A JPH11225329A JP H11225329 A JPH11225329 A JP H11225329A JP 2327998 A JP2327998 A JP 2327998A JP 2327998 A JP2327998 A JP 2327998A JP H11225329 A JPH11225329 A JP H11225329A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- encoded data
- data
- image
- decoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/573—Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/115—Selection of the code volume for a coding unit prior to coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
- H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
- H04N19/152—Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
- H04N19/23—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding with coding of regions that are present throughout a whole video segment, e.g. sprites, background or mosaic
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
ができる画像符号化装置を提供することである。 【解決手段】 入力された動画像データから複数のオブ
ジェクトを分離し、分離された第1のオブジェクトを第
1の符号化方法で符号化し、分離された第2のオブジェ
クトを第2の符号化方法で符号化し、符号化された前記
第1のオブジェクトの符号化データに応じて前記第2の
オブジェクトの符号化処理を制御する。
Description
び方法、画像復号化装置及び方法、画像符号化処理プロ
グラムが記録されたコンピュータ可読記録媒体及び画像
復号化処理プログラムが記録されたコンピュータ可読記
録媒体に関するものである。
1、MPEG-1、MPEG-2などが知られている。これらの符号
化方式はITU(International Telecommunication Un
ion:国際電気通信連合)やISO(International Orga
nization for Standardization:国際標準化機構)によ
って国際標準化されており、それぞれ、H.264勧告、I
SO11172、13818として文書化されている。
また、静止画符号化(例えば、JPEG(Joint Photograph
ic Coding Experts Group)符号化)を各フレームに適
応させることで符号化するMotion JPEG符号化も知られ
ている。
-1で符号化する符号化システムについて説明する。
り供給されたビデオ信号は、入力端子1003によって
動画像符号化装置1002に入力される。
号は、A/D変換器1004によってディジタル信号に
変換され、ブロック形成器1005に入力される。
画素で構成されるマクロブロックを画像の左上から右下
方向の順に形成する。
ドで符号化することができる。フレーム内符号化を行う
I−フレームモード(以下、I―フレーム)、過去のフ
レームからフレーム間符号化を行うP−フレームモード
(以下、P―フレーム)、過去と未来のフレームからフ
レーム間符号化を行うB−フレームモード(以下、B―
フレーム)とがある。
モード器1017によって行われる。フレームモードは
符号化のビットレート、DCT(Discrete Cosine Tran
sform:離散コサイン変換)の演算誤差の蓄積による画
質劣化の防止、画像の編集やシーンチェンジを考慮して
決定される。
述べる。
動せず、動き補償器1006からは“0”を出力する。
差分器1007ではブロック形成器1005の出力から
動き補償器1006からの出力を引き、DCT変換器1
008へ供給する。
7から供給された差分データを8×8画素のブロック単
位にDCT変換を行い、量子化器1009へ供給する。
8によって変換された変換データを量子化し、符号化器
1010へ供給する。
よって量子化された量子化データを1次元に並び替え、
0ラン長と値で符号を決定し、その符号化データを出力
端子1011へ供給し出力される。
れた量子化データは、逆量子化器1012にも供給され
る。逆量子化器1012は、供給された量子化データを
逆量子化して逆DCT変換器1013に供給する。逆D
CT変換器1013では逆量子化されたデータを逆DC
T変換して加算器1014に供給する。加算器1014
では、動き補償器1006の出力“0”と逆DCT変換
器1013の出力とが加算され、フレームメモリ101
5又は1016に記憶される。
述べる。
動させ、ブロック形成器1005の出力は動き補償器1
006に入力され、フレームメモリ1015又は101
6から時間的に直前のフレームの画像も動き補償器10
06に入力され、動き補償器1006では入力された画
像データを用いて動き補償を行い動きベクトルと予測マ
クロブロックを出力する。
5からの出力と予測マクロブロックとの差分を求め、D
CT変換し、量子化して符号器1010で動きベクトル
とともに符号を決定し端子1011から出力される。
れた量子化データは逆量子化器1012にも供給され
る。逆量子化器1012では供給された量子化データを
逆量子化して逆DCT変換器1013に供給する。逆D
CT変換器1013では逆量子化されたデータを逆DC
T変換して加算器1014に供給する。加算器1014
では逆DCT変換器1013からの出力と動き補償器1
006から出力される予測マクロブロックデータとが加
算され、フレームメモリ1015又は1016に記憶さ
れる。
述べる。
き補償を行うが、動き補償器1006はフレームメモリ
1015及び1016の両方から動き補償を行い、予測
マクロブロックを生成し、符号化を行う。
たような画像全体を符号化する方法では、動きの無い背
景部分等を繰り返して送る必要があり、符号長を無駄に
使用している。例えば、テレビ電話やテレビ会議等での
画像では実際に動いているのは人物だけであり、背景は
動いていない。一定の時間毎に送られるI−フレームで
は動いていない背景画像も送られており、無駄な符号
(背景画像の符号データ)が生じている。
す。
っている図である。人物1050と背景1051は同じ
フレーム内で同じ符号化方法により符号化されている。
償を行えば符号はほとんど発生しないが、I−フレーム
では多大な符号が発生する。
な符号化データを繰り返し送ることになり、無駄であ
る。また、人物1050の動きが大きく、符号化で大き
な符号量を発生した後のI−フレームによる符号化処理
では十分な符号量が得られず、量子化係数を荒くする必
要が生じ、動きのない背景の画質まで低下させてしまう
という欠点を持っている。尚、上記した人物1050の
ように動きがある物体を以下では対象と呼ぶ。
化効率の高い画像符号化装置及び方法並びに画像符号化
プログラムが記録されたコンピュータ可読記録媒体、及
びその符号化データを復号化するための画像復号化装置
及び方法並びに画像復号化プログラムが記録されたコン
ピュータ可読記録媒体を提供することを目的としてい
る。
は、動画像データを入力する入力手段と、前記入力手段
によって入力された動画像データから複数のオブジェク
トを分離する分離手段と、前記分離手段によって分離さ
れた第1のオブジェクトを第1の符号化方法で符号化す
る第1の符号化手段と、前記分離手段によって分離され
た第2のオブジェクトを第2の符号化方法で符号化する
第2の符号化手段と、前記第1の符号化手段によって符
号化された符号化データに応じて前記第2の符号化手段
の符号化処理を制御する制御手段とを有することを特徴
とする。
データを入力する入力手段と、前記入力手段によって入
力された動画像データから複数のオブジェクトを分離す
る分離手段と、前記分離手段によって分離された第1の
オブジェクトを第1の符号化方法で符号化する第1の符
号化手段と、前記分離手段によって分離された第2のオ
ブジェクトを第2の符号化方法で符号化する第2の符号
化手段と、前記第1の符号化手段によって符号化された
符号化データと前記第2の符号化手段によって符号化さ
れた符号化データとを記録媒体に記録する記録手段と、
前記記録媒体の記録容量に応じて前記第2の符号化手段
の符号化処理を制御する制御手段とを有することを特徴
とする。
データを入力する入力手段と、前記入力手段によって入
力された動画像データから複数のオブジェクトを分離す
る分離手段と、前記分離手段によって分離された第1の
オブジェクトを第1の符号化方法で符号化する第1の符
号化手段と、前記分離手段によって分離された第2のオ
ブジェクトを第2の符号化方法で符号化する第2の符号
化手段と、前記第1の符号化手段によって符号化された
符号化データと前記第2の符号化手段によって符号化さ
れた符号化データとを外部へ通信する通信手段と、前記
通信手段の通信データレートに応じて前記第2の符号化
手段の符号化処理を制御する制御手段とを有することを
特徴とする。
れた動画像データから複数のオブジェクトを分離し、分
離された第1のオブジェクトを第1の符号化方法で符号
化し、分離された第2のオブジェクトを第2の符号化方
法で符号化し、符号化された前記第1のオブジェクトの
符号化データに応じて前記第2のオブジェクトの符号化
処理を制御することを特徴とする。
れた動画像データから複数のオブジェクトを分離し、分
離された第1のオブジェクトを第1の符号化方法で符号
化し、分離された第2のオブジェクトを第2の符号化方
法で符号化し、符号化された第1のオブジェクトの符号
化データと符号化された第2のオブジェクトの符号化デ
ータとを記録する記録媒体の記録容量に応じて前記第2
のオブジェクトの符号化処理を制御することを特徴とす
る。
れた動画像データから複数のオブジェクトを分離し、分
離された第1のオブジェクトを第1の符号化方法で符号
化し、分離された第2のオブジェクトを第2の符号化方
法で符号化し、符号化された第1のオブジェクトの符号
化データと符号化された第2のオブジェクトの符号化デ
ータとを外部へ通信する際の通信データレートに応じて
前記第2のオブジェクトの符号化処理を制御することを
特徴とする。
録されたコンピュータ可読記録媒体は、入力された動画
像データから複数のオブジェクトを分離する分離工程の
手順コードと、分離された第1のオブジェクトを第1の
符号化方法で符号化する第1の符号化工程の手順コード
と、分離された第2のオブジェクトを第2の符号化方法
で符号化する第2の符号化工程の手順コードと、符号化
された前記第1のオブジェクトの符号化データに応じて
前記第2のオブジェクトの符号化処理を制御する制御工
程の手順コードとを記録したことを特徴とする。
録されたコンピュータ可読記録媒体は、入力された動画
像データから複数のオブジェクトを分離する分離工程の
手順コードと、分離された第1のオブジェクトを第1の
符号化方法で符号化する第1の符号化工程の手順コード
と、分離された第2のオブジェクトを第2の符号化方法
で符号化する第2の符号化工程の手順コードと、符号化
された第1のオブジェクトの符号化データと符号化され
た第2のオブジェクトの符号化データとを記録する記録
媒体の記録容量に応じて前記第2のオブジェクトの符号
化処理を制御する制御工程の手順コードとを記録したこ
とを特徴とする。
録されたコンピュータ可読記録媒体は、入力された動画
像データから複数のオブジェクトを分離する分離工程の
手順コードと、分離された第1のオブジェクトを第1の
符号化方法で符号化する第1の符号化工程の手順コード
と、分離された第2のオブジェクトを第2の符号化方法
で符号化する第2の符号化工程の手順コードと、符号化
された第1のオブジェクトの符号化データと符号化され
た第2のオブジェクトの符号化データとを外部へ通信す
る際の通信データレートに応じて前記第2のオブジェク
トの符号化処理を制御する制御工程とを記録したことを
特徴とする。
画像データから第1のオブジェクトと第2のオブジェク
トとに分離し、前記第1のオブジェクトを第1の符号化
方法で符号化し、前記第2のオブジェクトを第2の符号
化方法により符号化し、前記第2のオブジェクトの符号
化データの符号量は前記第1のオブジェクトの符号化デ
ータに応じて制御され、前記第1のオブジェクトの符号
化データと前記第2のオブジェクトの符号化データとを
合成して伝送された合成符号化データを復号化する画像
復号化装置であって、前記合成符号化データを第1のオ
ブジェクト符号化データと前記第2のオブジェクト符号
化データとに分離する分離手段と、前記分離手段によっ
て分離された第1のオブジェクト符号化データを復号化
する第1の復号化手段と、前記分離手段によって分離さ
れた第2のオブジェクト符号化データを復号化する第2
の復号化手段とを有することを特徴とする。
画像データから第1のオブジェクトと第2のオブジェク
トとに分離し、前記第1のオブジェクトを第1の符号化
方法で符号化し、前記第2のオブジェクトを第2の符号
化方法により符号化し、前記第2のオブジェクトの符号
化データの符号量は通信レートに応じて制御され、前記
第1のオブジェクトの符号化データと前記第2のオブジ
ェクトの符号化データとを合成して通信された合成符号
化データを復号化する画像復号化装置であって、前記合
成符号化データを第1のオブジェクト符号化データと前
記第2のオブジェクト符号化データとに分離する分離手
段と、前記分離手段によって分離された第1のオブジェ
クト符号化データを復号化する第1の復号化手段と、前
記分離手段によって分離された第2のオブジェクト符号
化データを復号化する第2の復号化手段とを有すること
を特徴とする。
画像データから第1のオブジェクトと第2のオブジェク
トとに分離し、前記第1のオブジェクトを第1の符号化
方法で符号化し、前記第2のオブジェクトを第2の符号
化方法により符号化し、前記第2のオブジェクトの符号
化データの符号量は前記動画データのフレームレートに
応じて制御され、前記第1のオブジェクトの符号化デー
タと前記第2のオブジェクトの符号化データとを合成し
て通信された合成符号化データを復号化する画像復号化
装置であって、前記合成符号化データを第1のオブジェ
クト符号化データと前記第2のオブジェクト符号化デー
タとに分離する分離手段と、前記分離手段によって分離
された第1のオブジェクト符号化データを復号化する第
1の復号化手段と、前記分離手段によって分離された第
2のオブジェクト符号化データを復号化する第2の復号
化手段とを有することを特徴とする。
画像データから第1のオブジェクトと第2のオブジェク
トとに分離し、前記第1のオブジェクトを第1の符号化
方法で符号化し、前記第2のオブジェクトを第2の符号
化方法により符号化し、前記第2のオブジェクトの符号
化データの符号量は前記第1のオブジェクトの符号化デ
ータに応じて制御され、前記第1のオブジェクトの符号
化データと前記第2のオブジェクトの符号化データとを
合成して伝送された合成符号化データを復号化する画像
復号化方法であって、前記合成符号化データを第1のオ
ブジェクト符号化データと前記第2のオブジェクト符号
化データとに分離し、分離された第1のオブジェクト符
号化データを復号化し、分離された第2のオブジェクト
符号化データを復号化することを特徴とする。
画像データから第1のオブジェクトと第2のオブジェク
トとに分離し、前記第1のオブジェクトを第1の符号化
方法で符号化し、前記第2のオブジェクトを第2の符号
化方法により符号化し、前記第2のオブジェクトの符号
化データの符号量は通信レートに応じて制御され、前記
第1のオブジェクトの符号化データと前記第2のオブジ
ェクトの符号化データとを合成して通信された合成符号
化データを復号化する画像復号化方法であって、前記合
成符号化データを第1のオブジェクト符号化データと前
記第2のオブジェクト符号化データとに分離し、分離さ
れた第1のオブジェクト符号化データを復号化し、分離
された第2のオブジェクト符号化データを復号化するこ
とを特徴とする。
画像データから第1のオブジェクトと第2のオブジェク
トとに分離し、前記第1のオブジェクトを第1の符号化
方法で符号化し、前記第2のオブジェクトを第2の符号
化方法により符号化し、前記第2のオブジェクトの符号
化データの符号量は前記動画データのフレームレートに
応じて制御され、前記第1のオブジェクトの符号化デー
タと前記第2のオブジェクトの符号化データとを合成し
て通信された合成符号化データを復号化する画像復号化
方法であって、前記合成符号化データを第1のオブジェ
クト符号化データと前記第2のオブジェクト符号化デー
タとに分離し、分離された第1のオブジェクト符号化デ
ータを復号化し、分離された第2のオブジェクト符号化
データを復号化することを特徴とする。
録されたコンピュータ可読記録媒体は、入力動画像デー
タから第1のオブジェクトと第2のオブジェクトとに分
離し、前記第1のオブジェクトを第1の符号化方法で符
号化し、前記第2のオブジェクトを第2の符号化方法に
より符号化し、前記第2のオブジェクトの符号化データ
の符号量は前記第1のオブジェクトの符号化データに応
じて制御され、前記第1のオブジェクトの符号化データ
と前記第2のオブジェクトの符号化データとを合成して
伝送された合成符号化データを復号化する画像復号化プ
ログラムが記録されたコンピュータ可読記録媒体であっ
て、前記合成符号化データを第1のオブジェクト符号化
データと前記第2のオブジェクト符号化データとに分離
する分離工程の手順コードと、分離された第1のオブジ
ェクト符号化データを復号化する第1の復号化工程の手
順コードと、分離された第2のオブジェクト符号化デー
タを復号化する第2の復号化工程の手順コードとを記録
したことを特徴とする。
録されたコンピュータ可読記録媒体は、入力動画像デー
タから第1のオブジェクトと第2のオブジェクトとに分
離し、前記第1のオブジェクトを第1の符号化方法で符
号化し、前記第2のオブジェクトを第2の符号化方法に
より符号化し、前記第2のオブジェクトの符号化データ
の符号量は通信レートに応じて制御され、前記第1のオ
ブジェクトの符号化データと前記第2のオブジェクトの
符号化データとを合成して通信された合成符号化データ
を復号化する画像復号化プログラムが記録されたコンピ
ュータ可読記録媒体であって、前記合成符号化データを
第1のオブジェクト符号化データと前記第2のオブジェ
クト符号化データとに分離する分離工程の手順コード
と、分離された第1のオブジェクト符号化データを復号
化する第1の復号化工程の手順コードと、分離された第
2のオブジェクト符号化データを復号化する第2の復号
化工程の手順コードとを記録したことを特徴とする。
録されたコンピュータ可読記録媒体は、入力動画像デー
タから第1のオブジェクトと第2のオブジェクトとに分
離し、前記第1のオブジェクトを第1の符号化方法で符
号化し、前記第2のオブジェクトを第2の符号化方法に
より符号化し、前記第2のオブジェクトの符号化データ
の符号量は前記動画データのフレームレートに応じて制
御され、前記第1のオブジェクトの符号化データと前記
第2のオブジェクトの符号化データとを合成して通信さ
れた合成符号化データを復号化する画像復号化プログラ
ムが記録されたコンピュータ可読記録媒体であって、前
記合成符号化データを第1のオブジェクト符号化データ
と前記第2のオブジェクト符号化データとに分離する分
離工程の手順コードと、分離された第1のオブジェクト
符号化データを復号化する第1の復号化工程の手順コー
ドと、分離された第2のオブジェクト符号化データを復
号化する第2の復号化工程の手順コードとを記録したこ
とを特徴とする。
照しながら本発明の好適な実施形態を詳細に説明する。
画像符号化装置の構成を示すブロック図である。尚、本
実施例では、動画像の入力手段としてVTRを用い、C
D−ROMに符号化データを書き込むシステムの場合に
ついて説明する。
を蓄積してあるビデオテープレコーダ(VTR)であ
る。尚、VTR101は動画像の入力手段であってTV
カメラや他の記憶媒体等の動画像入力手段でもよい。
化装置である。103はVTRから出力される動画像の
アナログ画像信号を入力する入力端子、104はアナロ
グ画像信号をディジタル画像信号に変換するA/D変換
器、105は画像の背景画像を格納する背景メモリであ
る。
で符号化する静止画像符号化部である。静止画像符号化
部106で使用される符号化方式は、本実施例ではJPEG
符号化方式を用いている。尚、静止画像符号化部106
で使用する符号化方式はこれに限定されず、Wavelet符
号化やDPCM符号化、ベクトル量子化等の静止画像を符号
化する方式等も適用できる。また、画像のI−フレーム
の符号化方式を用いてももちろんかまわない。
の画像データを格納する。108は背景メモリ105と
フレームメモリ108から符号化する対象を抽出する対
象抽出器、109は抽出された対象を格納する対象メモ
リ、110は抽出された対象に動き補償を用いない符号
化を行う動画像符号化部、111は静止画像符号化部1
06と動画像符号化部110で生成される符号の符号長
を入力し、発生する符号長の制御を行う符号長制御部、
112は静止画像符号化部106と動画像符号化部11
0で生成される符号化データを合成して1つの符号化デ
ータを生成する符号合成部、113は符号合成部112
によって生成された符号化データを出力する出力端子、
114は符号化データをCD−ROMに記録するCD−
ROM書き込み装置、115はVTR101に格納され
ている動画像シーケンスの長さ等の情報を入力する端
子、116はCD−ROMの記憶可能容量等の情報を入
力する端子、117はユーザーが所望するフレームレー
トを入力するためのフレームレート入力部である。
を説明する。
おいては先頭に対象が全く写っていないフレームが入っ
ているものとする。
符号化する動画像シーケンスの長さ(時間)Tsを入力
し、符号長制御部111に入力する。また、CD−RO
M書き込み装置114からはCD−ROMの空き容量C
cを入力する。この空き容量Ccが符号化時の目標符号
長になる。
いフレームの画像データ(つまり、背景画像のみ写って
いる)を、入力端子103を介して入力し、A/D変換
器104でディジタル信号に変換し、背景メモリ105
に格納する。図22の画像に対して図2に示す画像が背
景画像であったとする。この画像が背景メモリ105に
格納される。
ら、静止画像符号化部106は背景画像をJPEG符号化方
式で比較的細かな量子化ステップで符号化し、符号合成
部112に供給する。また、この時発生した符号長Lb
を符号長制御部111へ供給する。符号長制御部111
で動画像シーケンスの長さTs、空き容量Cc、背景画
像の符号長Lbから動画像シーケンスの符号化レートR
oを下式に従って算出する。
力された動画像のフレームレートである。つまり、フレ
ームレート入力部117によりフレームレートを可変に
設定することができる。従って、符号化レートRoは1
枚のフレームに費やすことのできる符号長を表してい
る。
01から時間順にフレームの画像データを入力する。入
力端子103を介して入力されたアナログ信号はA/D
変換器104でディジタル信号に変換され、フレームメ
モリ107に入力される。フレームメモリ107に1画
面分の画像データが蓄積されたら、対象抽出器108は
フレームメモリ107と背景メモリ105の画像データ
から対象を抽出する。つまり、対象抽出器108は画像
中に含まれる複数種のオブジェクト(背景、人物)を分
離していることになる。
られる。例えば、フレームメモリ107及び背景メモリ
105に記憶された画像データを同期して読み出し、そ
の画像データ同士の画素差分を求める。画素差分が閾値
以下であれば背景に含まれる画素とし0そうでなければ
対象に含まれる画素とする。画面1面分の閾値比較が終
了したら、複数の対象に含まれる画素の固まりを対象の
候補とする。以前に対象の抽出を行っている場合は、対
象メモリ109に格納されている各対象の画像データと
比較し、もっとも類似度の高いものを同じ対象とする。
類似度は、対象の位置、大きさ、濃度(輝度)平均等を
考慮して決定すればよい。また、複数画素で構成された
ブロックにより動きベクトルを検出し、その動きベクト
ルが同じような動きをしている固まりは同一のオブジェ
クトであると判断するようにしてもよい。
いった情報を符号化し、符号合成部112に供給する。
抽出された対象は矩形に切り出された画像データとその
位置の背景画素/対象画素を表す閾値比較結果(以下、
背景/対象判定結果と称す)を対象メモリ109に格納
する。図22を例にとれば図3の対象を含む矩形が切り
出され、図4の背景/対象判定結果とともに格納され
る。これらの情報は動画像符号化部110に供給され
る。
例を示す図である。尚、動画像符号化部110では説明
を簡単にするためにフレーム単位で固定長の符号化をす
る符号化方式を例にとって説明する。
109から符号化する対象の矩形の画像データを入力す
る端子、121はその背景/対象判定結果を入力する端
子、122は入力された背景/対象判定結果を符号化す
る背景/対象判定符号化器である。符号化方式はたとえ
ば2値符号化である、JBIG符号化方式を用いればよい。
また、MMR符号化方式や同じような符号化であれば問題
はない。
生成された符号化データを外部に送出する端子であり、
符号合成部112に接続している。124は各フレーム
の符号長の目標値Roを入力する端子であり、符号長制
御部111に接続している。
生成された符号長Loを目標値Roから引いた値を算出
する差分器、126は差分器125の出力値を格納する
ラッチ、127は対象の画像データの平均値mを求める
平均値算出器、128は切り出された矩形の中の背景を
表す画素の値を平均値mに置換する背景画素置換器、1
29は背景画素置換器128の出力データを格納するメ
モリ、130はメモリ129をブロック分割し、DCT
変換を行うDCT変換器である。
化係数算出器131によって算出された量子化値によっ
てDCT変換器130の出力を量子化する量子化器であ
る。量子化はJPEG符号化やMPEG符号化で用いられている
のと同様であり、DCT係数に対応する量子化マトリッ
クスに量子化係数Qを積算したもので量子化する。
ラン長と値に対して符号を割り当て、符号長を算出する
符号器、135は生成された符号化データを最終的に出
力する端子、134は算出された符号長をカウントする
符号長カウンタ、136は対象の大きさの情報を対象抽
出器108から入力する端子である。
化部110の動作を説明する。
するに先立ち、端子121から背景/対象判定結果を入
力し、背景/対象判定符号化器122でJBIG符号化を行
う。得られた符号化データは端子123を介して符号合
成部112へ供給される。
号化された符号化データの符号長Loは差分器125に
入力され、目標値Roとの差分Ooが求められる。その
差分値Ooはラッチ126に保持される。
0にリセットし、量子化係数算出器131は対象画像の
矩形の大きさ、矩形の符号長の目標値である差分Ooか
ら量子化器132の量子化係数Qの初期値を決定する。
これは過去の経験からある程度決められるものであり、
矩形のサイズが大きければ同じ符号長にするためには量
子化係数が大きくなる傾向があり、これを鑑みて初期値
を算出する。
121から背景/対象判定結果を同期して読み込む。平
均値算出器127は入力された画素の背景/対象判定結
果が対象画素を表していればその内容を加算し、対象画
素の数Nをカウントアップする。尚、背景画素を表す場
合、この処理は行わない。
加算、カウントアップが終了したら、その加算値を対象
画素の数Nで割って、対象の平均値mを算出する対象の
画像データのすべてについて判定と加算、カウントアッ
プが終了したら、その加算値を対象画素の数Nで割っ
て、対象の平均値mを算出する。次に、背景画素置換器
128は対象の画像データと背景/対象判定結果を同期
して読み込み、入力された画素の背景/対象判定結果が
背景画素を表していれば平均値mを出力し、そうでなけ
れば入力された画素値をそのまま出力する。この出力は
メモリ129に格納される。
れ、メモリ129にその結果が蓄積された後、メモリ1
29からブロック毎に画像が読み出される。同期して背
景/対象判定結果が読み出され、ブロック内に対象画素
が含まれているブロックのみがDCT変換器130でD
CT変換され、その係数は量子化器132で量子化係数
Qに基づく量子化係数で量子化される。量子化結果は符
号器133で符号を割り当てられ、その長さを符号長カ
ウンタ134でLtに加算する。
濃い網点がかかったブロックは符号化されず、対象を含
むブロックのみが符号化される。そのうち、背景画素を
含むもののみについて、背景画素は平均値mで置き換え
られている(図6中の薄い網点部)。対象の矩形内の全
画素について符号化されたとき、量子化係数算出器13
1はラッチ126の内容と符号長カウンタ134の内容
Ltとを比較し、新たな量子化係数Q’を次式で算出す
る。
適な量子化係数であり、メモリ129から符号化の対象
となるブロックを順に読み出し、DCT変換後、量子化
器132で量子化係数Q’によって量子化され、符号器
133で符号化され、端子135から出力される。この
時の量子化係数Q’は、符号化した次フレームの量子化
係数Qの初期値とするため、これを対象毎に保持してお
く。Q’がQと等しくなければQ’を過去の量子化係数
Qoと比較し、Q’がQoと等しければ量子化係数Q’
が最適な量子化係数とされ、上記と同様に対象画像を符
号化して端子135から出力し、量子化係数Qを保持す
る。Q’がQoと等しくなければ量子化係数Qを過去の
量子化係数Qoとして保持する。上述の処理を繰り返
し、最適な量子化係数が求まるまで繰り返す。
110で符号化された符号化データは符号合成部112
に入力され、各部で生成された符号化データを合成して
1つの符号化データを生成する。
ら出力される符号化データの例を図7に示す。図22の
画像には対象が1つなので、符号合成部112では符号
化データの先頭に対象が1つであることを含めたシーケ
ンスヘッダが備わり。次に、静止画像符号化部106か
ら出力された背景画像の符号化データエリアが備わる。
その後には各対象の各フレーム単位の符号化データエリ
アが続く。本実施例では人物1050の第1フレームか
ら第(Ts×F)フレームの符号化データが含まれる。
器108から出力された対象の大きさを表す符号化デー
タと対象の背景画像の中での位置を表す符号化データを
含むフレームヘッダが先頭に格納される。続いて、図5
中の動画像符号化部110の背景/対象判定符号化器1
22で生成された背景/対象判定結果の符号化データが
格納される。最後に、図5中の符号器133で生成され
た対象画像の符号化データが格納される。生成された符
号化データは端子113を介してCD−ROM書き込み
装置114でCD−ROMに書き込まれていく。
時に、目標値Roを各対象に分配する。分配の方法とし
てはたとえば、各対象の大きさ(対象の画素数、矩形の
大きさ等)の比によって分配すればよい。図8に示すよ
うにシーケンス内に含まれるオブジェクトの数をシーケ
ンスヘッダに書き込み、背景画像につづいて、フレーム
単位で、抽出された複数の対象(対象1、対象2…)の
画像符号化データが格納される。すなわち、背景画像符
号化データの直後には対象1の第1フレームの符号化デ
ータ、対象2の第1フレームの符号化データ…と続き、
全対象の第1フレームの符号化データが格納されたら、
以下、対象1の第2フレームの符号化データ、対象2の
第2フレームの符号化データ…と格納されていく。
ータを復号してモニタに表示するシステムの構成を示
す。
込み器114で書き込まれた符号化データをCD−RO
Mから読み出すCD−ROM読み出し器、151は動画
像復号装置である。
53は符号化データから各符号を分離する符号分離部、
154は背景画像の画像データを復号する静止画像復号
部、155は再生された背景画像を格納する背景メモ
リ、156は各対象の符号化データを復号する動画像復
号部、157は復号化された対象の画像データを格納す
る対象メモリ、156は背景メモリ155の内容に各対
象の画像データを各対象の位置に合成して最終的な復号
画像を得る対象合成器、159は対象合成器158で生
成された画像を格納するフレームメモリ、160はフレ
ームメモリ159からのディジタル画像信号をアナログ
画像信号に変換するD/A変換器、161は前記アナロ
グ画像信号を外部に出力する端子、162は前記アナロ
グ画像信号を表示するモニタである。
る動作を説明する。
ータを先頭から逐次読み出し、端子152を介して動画
像復号装置151に供給する。端子152を介して入力
された符号化データは符号分離部153で各ヘッダを解
釈し、各符号に分離して後段に出力する。最初にシーケ
ンスヘッダを入力し、オブジェクトの数を検出し、動画
像復号部156、対象メモリ157、対象合成器158
の各所を初期化する。
静止画像復号部154に供給する。静止画像復号部15
4は入力された背景画像符号化データをJPEG符号化方式
の復号手順に従って、復号し、結果を背景メモリ155
に格納する。
データを入力する。この符号化データから、対象の位置
の符号を復号して、各フレームでの各対象毎に対象合成
器158に供給する。また、それ以外の符号化データに
関しては動画像復号部156に供給する。動画像復号部
156では各対象の符号化データから背景/対象判定結
果をJBIG符号化方式の復号手順に従って、復号し、結果
を対象メモリ157に格納する。
経た後、逆DCT変換され、画像データに復号化され、
背景/対象判定結果を参照して対象メモリ157の該当
する位置に格納される。
像の上に対象メモリ157に格納された対象の画像デー
タと背景/対象判定結果を読み出し、背景/対象判定結
果が背景画素を表している画素については対象の画素値
は使用せず、背景画像の画素値を使用し、対象画素を表
している画素については対象の画素値を使用する。復号
化された対象は各位置にしたがって配置され、最終的な
再生画像を生成し、フレームメモリ159に格納する。
復号画像は読み出され、D/A変換器160でアナログ
画像信号に変換され、端子161を介してモニタ162
に供給し、表示する。
対象画像とを分離し、それぞれについて符号化すること
で符号化効率を向上させるとともに、背景画像と対象画
像、対象画像の画像データと背景/対象判定結果をそれ
ぞれ符号化する際に背景画像の符号長と背景/対象判定
結果の符号長を考慮して対象画像の画像データの符号化
を制御することで、容易に量子化制御を行うことができ
る。そして、所望する符号長の符号化データを得ること
が可能になる。
化部110でフレーム単位で固定長の符号化を行う方式
を例にとって説明を行ったが、MPEG符号化方式のように
複数フレームの符号化結果が一定の符号長に収まるよう
な符号化を行ってもかまわない。
として先頭のフレームを利用したが、同一の効果が得ら
れるのであればその方法はなんでもかまわない。図10
に示すように別途前処理手段を設けてもかまわない。前
処理器180は複数のフレームから背景画像を求めるの
に、各画素について平均値を求めて背景画素の値とする
ように動作してもかまわないし、全てのフレームから全
く動きがない画素について背景画素とすることも可能で
ある。
置換器128を分離させて動作させたが、メモリ読み出
し後に対象を含むブロック毎に置換処理を行ってもよ
い。
第2の実施例の動画像通信装置の構成を示すブロック図
である。尚、図1と同様の構成要素については同一番号
を付してその詳細な説明は省略する。
るためのビデオカメラであり、カメラの向いている方向
を検出する機能がついたものである。これはモータ等で
雲台を駆動させて方向を変化させるカメラで代用するこ
とが出来る。
203はビデオカメラ201から動画像のアナログ信号
を入力する端子、204はカメラの方向情報を入力する
端子、205は背景抽出器、206は抽出された対象に
動き補償を用いた符号化を行う動画像符号化部、207
は符号長制御部、209は外部の通信回線と接続してい
る通信インターフェース、208は通信インターフェー
ス209に接続されている通信回線の容量(伝送ビット
レート)を入力する端子である。
する。
2に示すように対象となる人が写っていない画像を入力
する。ビデオカメラ201から端子203を介してA/
D変換器104でディジタル信号に変換し、背景抽出器
205に供給する。
をそのまま背景メモリ105に格納する。また、背景メ
モリ105に背景画像が入力されたら、静止画像符号化
部106は背景画像をJPEG-LS符号化方式で劣化のない
可逆な符号化で符号を生成し、符号合成部112に供給
する。尚、第1の実施例と同様に静止画像符号化部10
6の符号化方式は同じ機能を果たすものであればよい。
信インターフェース208により背景符号化データを外
部へ送出する。
Noが符号長制御部207へ供給されている。回線容量
Noが符号化時の目標符号長になる。符号長制御部20
7で通信回線容量NoとフレームレートFからフレーム
毎の符号化レートRfを下式にしたがって算出する。
入った状態から画像の符号化を開始する。この状態で
は、人物1050の位置移動はなく、ビデオカメラ20
1もカメラの向きは固定されている。この時、背景抽出
器205は動作しない。A/D変換器104、フレーム
メモリ107、対象抽出器108、対象メモリ109は
第1の実施例と同様の動作を行う。即ち、対象抽出器1
08から抽出された各対象の矩形に切り出された画像デ
ータとその位置の背景/対象判定結果が対象メモリ20
6に格納される。ここで、動画像符号化部206はMPEG
符号化のようにフレーム内符号化を行うI−フレームと
フレーム間符号化を行うP−フレームに分けられ、1つ
のI−フレームと2つのP−フレームを1つの符号化単
位とする符号化を行うものとする。つまり、3フレーム
の符号化データで固定長とする。
一例を示す図である。尚、図5と同様の構成要素につい
ては同一番号を付してその詳細な説明は省略する。
器106から背景を符号化した時の符号長Lbを入力す
る端子、224は各フレームの符号長の目標値Rfを入
力する端子であり、符号長制御部207に接続してい
る。
る符号長割当器、225は背景/対象判定符号化器12
2で生成された符号長Loを各フレームの目標符号長か
ら引いた値を算出する差分器、226は差分器225で
算出された値を格納するラッチ、228は差分器、22
9は動き補償器であり、I−フレームの時は動作せず、
値0のマクロブロックを出力する。また、動きベクトル
は出力しない。また、P−フレームの時は動作し、予測
マクロブロックを出力する。また、動きベクトルも出力
する。
出する量子化系数算出器、233は符号器であり、量子
化結果を1次元に整列し、0ラン長と値に対して符号を
割り当て、符号長を算出する。尚、P−フレームの時は
動きベクトルも符号化する。
4は逆DCT変換、236はメモリである。
化部206の動作を説明する。
号長の目標値Rfを入力する。符号長割当器227は目
標値Rfから3フレームからなる符号化単位で費やすこ
との出来る符号長Rf×3を求め、I−フレームとP−
フレームに割り当てる符号長を算出する。ここでは説明
を簡略化するためにI−フレームとP−フレームに割り
当てる符号長の比をI:P:P=8:1:1とする。
レームであれば Ro = Rf×3×8/10 …(4) P−フレームであれば、 Ro = Rf×3/10 …(5)
は背景/対象判定符号化器122でJBIG符号化され、得
られた符号化データは端子123を介して符号合成部1
12に出力する。差分器225は目標値Roと符号長L
oとの差分Ooが求める。差分値Ooはラッチ226に
保持される。
0にリセットし、量子化係数算出器231は各フレーム
モード毎に、対象画像の矩形の大きさ、差分Ooから、
量子化器132の量子化係数Qの初期値を決定する。
様に、平均値算出器127は対象の平均値mを算出す
る。背景画素置換器128は対象の画素の背景/対象判
定結果が背景画素である画素の値を平均値mに置換し、
メモリ129に格納する。メモリ129に結果が蓄積さ
れた後、メモリ129からブロック毎に画像が背景/対
象判定結果と同期して読み出され、ブロック内に対象画
素が含まれているブロックのみが差分器228に入力さ
れる。この時の動き補償器229からの出力は0であ
り、そのままDCT変換器130で8×8画素のブロッ
ク単位でDCT変換され、その係数は量子化器132で
量子化係数Qに基づく量子化係数で量子化される。量子
化結果は符号器233で符号を割り当てられ、その長さ
を符号長カウンタ134でLtに加算する。
である。対象の矩形内の全画素について符号化されたと
き、量子化係数算出器231は新たな量子化係数Q’を
(2)式にしたがって算出する。第1の実施例と同様
に、量子化係数Q’とQを比較して、最適な量子化係数
が求まるまで操作を行う。最適な量子化係数Qが求まっ
たら、量子化係数Qで量子化し、符号器233で符号化
して、端子135から出力する。同時に、量子化器13
2の出力は逆量子化器232に入力され、逆量子化さ
れ、逆DCT変換器234で逆DCT変換され加算器2
35で動き補償器229の出力と加算され、メモリ23
6に格納される。
例と同様に、背景画素の画素値を平均値mで置換した画
像をメモリ129に格納する。メモリ129からブロッ
ク毎に画像が背景/対象判定結果と同期して読み出さ
れ、ブロック内に対象画素が含まれているブロックのみ
が差分器228に入力される。この時、動き補償器22
9は時間的に直前フレームの対象の画像が格納されてい
るメモリ236と入力画像データから動き補償を行い、
動きベクトルと予測マクロブロックを出力する。
マクロブロックとの差分を求め、DCT変換器130で
8×8画素のブロック単位にDCT変換を行い、量子化
器132で量子化する。
された動きベクトルと量子化データを符号化し、端子1
35から出力する。同時に、量子化器132の出力は逆
量子化器232に入力され、逆量子化され、逆DCT変
換器234で逆DCT変換され加算器235で動き補償
器229の出力と加算され、メモリ236に格納され
る。
る。図22において、人物1050が右に移動した場
合、ビデオカメラ201はカメラを人1050の動きに
合わせて右にその方向を変化させる。図13にその様子
を示す。人1050が右に移動した時のビデオカメラ2
01の視野は太枠1052で表した部分となる。
野に新たな背景画像が含まれる。新たに入ってきた背景
画像は図14に示す部分であり、これはビデオカメラ2
01の方向を検出することでその方向の移動量と過去の
移動の方向や移動量から求めることは容易である。
204を介して背景抽出器205に入力される。この時
の画像は端子203を介してA/D変換器104でディ
ジタル信号に変換されてフレームメモリ107と背景抽
出器205に入力される。背景抽出器205はそのビデ
オカメラ201の方向の移動量と過去の移動の情報から
図14 に示す新たな背景画像を認識し、背景メモリ1
05に格納されている従来の背景画像に付け加えて新た
な背景画像とする。
また、この移動についての情報を背景抽出器205に保
持しておく。この情報は最初のビデオカメラ201によ
る背景画像の入力時に初期化される。
景画像の画像データを静止画像符号化部106に送り、
JPEG-LS符号化方式で符号を生成し、符号合成部112
に供給する。同時にその符号長Lbは端子220を介し
て符号長割当器227に入力される。符号長割当器22
7は、符号化するフレームがI−フレームであるとき
に、符号長Lbが入力されたことで新たな背景画像の発
生を検知した場合、I−フレームとP−フレームに割り
当てる符号長の比をI:P:P=3:1:1と変更す
る。
レームについては Ro = Rf×3×6/10 …(6) P−フレームについては、 Ro = Rf×3×2/10 …(7) となる。尚、符号化するフレームがP−フレームである
ときに、新たな背景画像の発生を検知した場合は符号長
の割当の変更は行わない。また、I−フレームの符号化
を行う場合に新たな背景画像の発生がなければ符号長の
比を8:1:1に戻す。
で、新たな背景画像が生じた場合は目標値Roから発生
した符号長Lbを引いたものをそのフレームの目標値R
o’として更新する。
合と同様に、背景/対象判定結果は背景/対象判定符号
化器122でJBIG符号化され、得られた符号は端子12
3を介して符号合成部112に出力する。
ッチ226に保持される。量子化係数算出器231が各
フレームモード毎に、最適な量子化係数Qを決定する。
背景画素の画素値を平均値mで置換した画像をメモリ1
29に格納する。
画素が含まれているブロックのみをDCT変換し、量子
化係数Qに基づく量子化係数で量子化し、符号器233
で符号化して端子135から出力する。同時に、量子化
器132の出力は逆量子化器232により逆量子化さ
れ、逆DCT変換器234により逆DCT変換されて加
算器235で動き補償器229の出力と加算され、メモ
リ236に格納される。
229は時間的に直前フレームの対象の画像が格納され
ているメモリ236と入力画像データから動き補償を行
い、動きベクトルと予測マクロブロックを出力し、メモ
リ129の出力と予測マクロブロックとの差分を求め、
差分に対してDCT変換を行い、量子化する。符号器2
33は、動きベクトルと量子化データを符号化し、端子
135から出力する。同時に、量子化器132の出力は
逆量子化器232により逆量子化され、逆DCT変換器
234により逆DCT変換されて加算器235で動き補
償器229の出力と加算され、メモリ236に格納され
る。
号化部206で符号化して得られた符号化データは符号
合成部112に入力され、各部で生成された符号化デー
タを合成して1つの符号化データを生成する。
ータの例を図16に示す。
伝送する前に、予め最初の背景画像の符号化データを別
途伝送する。これは図2の内容を符号化したものであ
る。符号合成器112で生成される符号化データは、先
頭に背景画像の符号化データであることを表すスタート
コード、続いて、背景画像の大きさ等の情報を持つ背景
画像ヘッダ、最後にJPEG-LS符号化された符号化データ
が続く。
いく。先頭に対象画像の符号化データであることを表す
スタートコード、続いて、各対象の第1フレームの符号
化データが続く。
単位の符号化データに背景画像の符号化データの有無を
表す符号、対象抽出器108から出力された対象の大き
さを表す符号、対象の背景画像の中での位置を表す符
号、フレームの符号化モード(IまたはP)を含むフレ
ームヘッダが先頭に格納される。
ヘッダには背景画像が含まれていないことを表す符号が
入っている。その他は第1の実施例と同様に、背景/対
象判定符号化器122で生成された背景/対象判定結果
の符号と対象画像の符号化データが生成される。
フレーム)、フレームヘッダには背景画像が含まれてい
ることを表す符号が入っている。続いて、付け加えられ
る背景画像の大きさ、元の背景に対する位置等の情報を
含む背景画像ヘッダと背景画像の符号化データが生成さ
れる。その後に背景/対象判定結果の符号と対象画像の
符号化データが生成される。対象が複数ある場合も第1
の実施例と同様にフレーム毎に対象の符号化データを生
成すればよい。
タは端子113を介して通信インターフェース208に
より外部へ送出される。
あるが、符号分離部153が各フレームに含まれる背景
画像のヘッダや符号化データを認識し、その符号化デー
タから静止画像復号部154が背景画像を生成し、ヘッ
ダ情報にしたがって背景メモリに書き込めばよい。
ば、広い背景画像に対して、必要に応じて背景画像を付
け加えを行うことができ、符号化の効率を改善すること
が可能になる。特に、伝送においては最初から広い画像
を送らなくてすむので動画像の符号化を開始するまでの
遅延を低減することも可能となる。さらに、背景画像の
付け加えを行う際に符号長のレートの変換を行うように
することで背景画像の符号化による一時的な画質の劣化
を押さえることも可能になる。
する背景画像としてビデオカメラ201の視野の大きさ
のものを伝送したが、予め視野外の背景領域を含めた領
域を符号化し、最初の視野の位置を背景画像ヘッダに書
き込んでももちろんかまわない。これによって比較的頻
度が高そうな背景を予め送っておき、最初に想定してい
ないような位置にビデオカメラ201が向いた時のみ背
景画像の追加を行うことも可能である。
背景の生成のI,Pのいずれのフレームからでも可能と
したが、たとえばビデオカメラ201の向きを変える場
合は動画像符号化装置202の符号化モードと同期を取
って動作させることによって符号長のレートの変換を必
ず行うようにすることは簡単に実現でき、これによって
背景画像の符号化による一時的な画質の劣化を最小限に
押さえることも可能になる。
号化でI,Pのフレームモードを使用したが、MPEG
符号化のようにBモードを利用することには全く問題は
なく、さらには全てをフレーム内符号化するような符号
化であってもかまわない。
カメラ201からカメラの向きの変化を捉えて背景画像
の付け加えを行ったが、これに限定されない。背景画像
の付け加える部分を自動的に抽出してももちろんかまわ
なし、予め全ての背景画像をメモリに蓄積しておいても
かまわない。
る第3の実施例の動画像通信装置の構成を示すブロック
図である。なお、図11と同様の構成要素については同
一番号を付してその詳細な説明は省略する。
ころの動画像符号化装置、301及び302は背景画像
を格納する背景メモリであり、背景メモリ301は背景
画像の全てを、背景メモリ302はその一部を格納す
る。
を説明する。
示すように、対象となる人が写っていない状態で、ビデ
オカメラ201が動作可能な範囲の全視野の背景画像を
入力する。ビデオカメラ201から端子203を介して
A/D変換器104でディジタル信号に変換し、ビデオ
カメラ201の方向から算出される背景画像中の位置を
アドレスとして背景メモリ301に格納する。動作可能
な範囲の全視野の背景画像を背景メモリ301に格納し
終わったら、符号化の動作を開始する。
態の背景画像を伝送する。これは図18では太枠で囲ん
だ視野領域350である。これを静止画像符号化部10
6で符号化し、符号合成部112、端子113を介して
通信インターフェース208によって外部へ送出され
る。視野領域350のデータは背景メモリ302に格納
され、対象の抽出に用いられる。
符号長制御部207で通信回線の容量Noとフレームレ
ートFからフレーム毎の符号化レートRfを(3)式に
したがって算出する。対象がビデオカメラ201の視野
に入った状態(図22)から画像の符号化を開始する。
この状態では、人物1050の位置移動はなく、ビデオ
カメラ201もカメラの向きは固定されている。A/D
変換器104、フレームメモリ107、対象抽出器10
8、対象メモリ109は第2の実施例と同様の動作を行
う。即ち、背景メモリ302を参照して対象抽出器10
8から抽出された各対象の矩形に切り出された画像デー
タとその位置の背景/対象判定結果が対象メモリ206
に格納される。ここで、動画像符号化部206は第2の
実施例と同様に1つのI−フレームと2つのP−フレー
ムを1つの符号化単位とする符号化を行う。つまり、3
フレームの符号化データで固定長とする。
最初は人物の位置移動はないが背景メモリ301から動
画像の符号化に大きな影響を与えないような符号長で背
景画像を細分化した領域を符号化して伝送する。背景メ
モリ301は伝送済みの背景画像以外の領域を領域35
1〜360(図18参照)のように細分化して符号化
し、各フレームに付加していく。ただし、送出されてい
ない背景画像の領域にビデオカメラ201の視野がかか
った場合には第2の実施例と同様にかかった部分を優先
する。
6に入力され、符号化データは符号合成部112に、符
号長Lbが符号長割当器227に入力される。符号長割
当器227ではI−フレームとP−フレームに割り当て
る符号長の比をI:P:P=14:3:3とする。第2
の実施例と同様に背景/対象判定結果を背景/対象判定
符号化器122でJBIG符号化し、ラッチ226に保持さ
れた差分Ooに最適な量子化パラメータQにしたがっ
て、I−フレームやP−フレームの符号化を行う。
1から方向の変化を検出し、背景メモリ302の内容を
方向の変化に合わせて必要な対象画像の抽出に必要な背
景画像を背景メモリ301から読み出して更新する。
206で符号化して得られた符号化データは符号合成部
112に入力され、各部で生成された符号を合成して1
つの符号化データを生成する。
ータの例を図19に示す。
は動画像のシーケンスを伝送する前に、予め最初の背景
画像の符号化データを別途伝送する。これは図18の視
野領域350の内容を符号化したものである。符号合成
器112で生成される符号化データは、先頭に背景画像
の符号化データであることを表すスタートコード、続い
て、背景画像の大きさ等の情報を持つ背景画像ヘッダ、
最後にJPEG-LS符号化された符号化データが続く。
ータの合成を行っていく。先頭に対象画像の符号化デー
タであることを表すスタートコード、続いて、各対象の
第1フレームの符号化データが続く。
ヘッダには背景画像が含まれていることを表す符号、対
象抽出器108から出力された対象の大きさを表す符
号、対象の背景画像の中での位置を表す符号、フレーム
の符号化モード(IまたはP)を含むフレームヘッダが
先頭に格納される。続いて、付け加えられる背景画像の
大きさ、元の背景に対する位置等の情報を含む背景画像
ヘッダと背景画像の符号化データが生成される。その後
に背景/対象判定結果の符号と対象画像の符号化データ
が生成される。対象が複数ある場合も第1の実施例と同
様にフレーム毎に対象の符号化データを生成すればよ
い。
化データは端子113を介して通信インターフェース2
08によって外部へ送出される。
様であるが、符号分離部153が各フレームに含まれる
背景画像のヘッダや符号化データを認識し、その符号化
データから静止画像復号部154が背景画像を生成し、
ヘッダ情報にしたがって背景メモリに書き込めばよい。
れば、第2の実施例では必要に応じて付け加える部分を
伝送していたが、第3の実施例では背景画像を細分化し
て各フレームに少しずつ付加して送るため、復号側で予
め背景画像を用意しておくことが可能となるので、新た
な背景が発生した時に一時的に画質が劣化することない
効果がある。
細分化したが当然、縦方向に細分化してもかまわない。
また、背景画像も説明を簡単にするために横方向にのみ
広がりがあるように説明したが、もちろんこれに限定さ
れない。また、細分化の数、符号化の順もこれに限定さ
れないことは言うまでもない。
る第4の実施例の動画像通信装置の構成を示すブロック
図である。尚、図17と同様の構成要素については同一
番号を付してその詳細な説明は省略する。
ころの動画像符号化装置、401はビデオカメラであ
り、第2の実施例のビデオカメラ201から雲台の機能
や方向情報の送出機能を省いたものである。
メモリ、403は静止画像を階層符号化する静止画像符
号化部である。静止画像符号化部403では最初に粗い
画像を生成して符号化し、続いて、解像度を向上させる
ための符号化データを段階毎に生成する。たとえばJPEG
階層符号化であったり、Wavelet変換やDCT変換等の
直交変換のサブバンド符号化であったりする。尚、第4
の実施例ではJPEG階層符号化に似た方式で説明する。4
04は静止画像符号化部403で符号化された符号化デ
ータを階層復号する静止画像復号部である。
を説明する。
ち、ビデオカメラ401から背景画像を入力し、背景メ
モリ402に格納する。
化部403は背景メモリ402の内容を最初に大きな量
子化係数で符号化する。符号化された画像データは符号
合成部112に入力される。また、静止画像符号化部4
03によって符号化された符号化データは静止画像復号
部404に入力され、復号され、復号画像は背景メモリ
405に格納される。
符号長制御部207でフレーム毎の符号化レートRfを
(3)式にしたがって算出する。A/D変換器104、
フレームメモリ107、対象抽出器108、対象メモリ
109は第3の実施例と同様の動作を行い、対象を抽出
して対象メモリ109にその結果を格納する。
様に1つのI−フレームと2つのP−フレームを1つの
符号化単位とする符号化を行う。つまり、3フレームの
符号化データで固定長とする。
静止画像符号化部403は、フレーム単位で背景メモリ
301から動画像の符号化に大きな影響を与えないよう
な符号長で、背景メモリ405の内容を参照しつつ解像
度を向上させるための階層符号化データを生成する。符
号化された画像データは符号合成部112に入力され、
符号長は動画像符号化部206に入力される。動画像符
号化部206は第2及び3の実施例と同様に対象を符号
化する。
合成を行っていく。合成して得られる符号の構造は第3
の実施例の図19に示す符号化データの構造と同じであ
る。しかしながら各背景画像ヘッダと背景画像符号化デ
ータの内容が異なる。
ではなく、階層の順番を表す階層情報が入っている。背
景画像の符号化データも細分化された背景画像の符号化
データではなく、解像度を向上させるための階層符号化
データである。対象が複数ある場合も第1の実施例と同
様にフレーム毎に対象の符号化データを生成すればよ
い。
化データは端子113を介して通信インターフェース2
08によって外部へ送出される。
様であるが、符号分離部153が各フレームに含まれる
背景画像のヘッダや符号化データを認識し、その符号化
データから静止画像復号部154が復号済みの背景画像
と復号したデータから背景画像を更新すればよい。
ば、最初に粗い画像で背景画像を送ることによって、最
初に送る背景画像の伝送による遅延を低減する効果があ
る。画質を向上させるための階層符号化データは動画像
の符号化データに比べて少量なので、動画像自体の符号
を大きく割くことはなく、画質に与える影響は小さい。
送ることが可能なので全体の符号長制御を容易にする効
果もある。
(たとえばホストコンピュータ、インタフェース機器、
リーダ、プリンタ等)から構成されるシステムに適用し
ても一つの機器(たとえば複写機、ファクシミリ装置)
からなる装置に適用してもよい。
に各種のデバイスを動作させる様に該各種デバイスと接
続された装置あるいはシステム内のコンピュータに、前
記実施形態機能を実現するためのソフトウエアのプログ
ラムコードを供給し、そのシステムあるいは装置のコン
ピュータ(CPUあるいはMPU)を格納されたプログラムに
従って前記各種デバイスを動作させることによって実施
したものも本願発明の範疇に含まれる。
ラムコード自体が前述した実施形態の機能を実現するこ
とになり、そのプログラムコード自体、及びそのプログ
ラムコードをコンピュータに供給するための手段、例え
ばかかるプログラムコードを格納した記憶媒体は本発明
を構成する。
体としては例えばフロッピーディスク、ハードディス
ク、光ディスク、光磁気ディスク、CD-ROM,、磁気テー
プ、不揮発性のメモリカード、ROM等を用いることが出
来る。
コードを実行することにより、前述の実施形態の機能が
実現されるだけではなく、そのプログラムコードがコン
ピュータにおいて稼働しているOS(オペレーティングシ
ステム)、あるいは他のアプリケーションソフト等と共
同して前述の実施形態の機能が実現される場合にもかか
るプログラムコードは本願発明の実施形態に含まれるこ
とは言うまでもない。
ピュータの機能拡張ボードやコンピュータに接続された
機能拡張ユニットに備わるメモリに格納された後そのプ
ログラムコードの指示に基づいてその機能拡張ボードや
機能格納ユニットに備わるCPU等が実際の処理の一部ま
たは全部を行い、その処理によって前述した実施形態の
機能が実現される場合も本願発明に含まれることは言う
までもない。
では、複数種のオブジェクトが含まれる動画像から各オ
ブジェクトを分離して所望する符号長で符号化すること
ができる。
ジェクトの性質に最適な符号化を実施しているので、従
来よりも画質劣化が少ない動画像を復号化することがで
きる。
置の構成を示すブロック図である。
す図である。
す図である。
定結果の一例を表す図である。
110の構成を示すブロック図である。
号化の状態を説明するための図である。
ータの構成の一例を表す図である。
ータの構成の別な例を表す図である。
号化装置の構成を示すブロック図である。
装置の別な構成を示すブロック図である。
置の構成を示すブロック図である。
部206の構成を示すブロック図である。
表す図である。
像の発生の様子を表す図である。
像の合成の様子を表す図である。
データの構成の一例を表す図である。
通信装置の構成を示すブロック図である。
像の分割の様子を表す図である。
データの構成の一例を表す図である。
通信装置の構成を示すブロック図である。
ク図である。
Claims (40)
- 【請求項1】 動画像データを入力する入力手段と、 前記入力手段によって入力された動画像データから複数
のオブジェクトを分離する分離手段と、 前記分離手段によって分離された第1のオブジェクトを
第1の符号化方法で符号化する第1の符号化手段と、 前記分離手段によって分離された第2のオブジェクトを
第2の符号化方法で符号化する第2の符号化手段と、 前記第1の符号化手段によって符号化された符号化デー
タに応じて前記第2の符号化手段の符号化処理を制御す
る制御手段とを有することを特徴とする画像符号化装
置。 - 【請求項2】 動画像データを入力する入力手段と、 前記入力手段によって入力された動画像データから複数
のオブジェクトを分離する分離手段と、 前記分離手段によって分離された第1のオブジェクトを
第1の符号化方法で符号化する第1の符号化手段と、 前記分離手段によって分離された第2のオブジェクトを
第2の符号化方法で符号化する第2の符号化手段と、 前記第1の符号化手段によって符号化された符号化デー
タと前記第2の符号化手段によって符号化された符号化
データとを記録媒体に記録する記録手段と、 前記記録媒体の記録容量に応じて前記第2の符号化手段
の符号化処理を制御する制御手段とを有することを特徴
とする画像符号化装置。 - 【請求項3】 動画像データを入力する入力手段と、 前記入力手段によって入力された動画像データから複数
のオブジェクトを分離する分離手段と、 前記分離手段によって分離された第1のオブジェクトを
第1の符号化方法で符号化する第1の符号化手段と、 前記分離手段によって分離された第2のオブジェクトを
第2の符号化方法で符号化する第2の符号化手段と、 前記第1の符号化手段によって符号化された符号化デー
タと前記第2の符号化手段によって符号化された符号化
データとを外部へ通信する通信手段と、 前記通信手段の通信データレートに応じて前記第2の符
号化手段の符号化処理を制御する制御手段とを有するこ
とを特徴とする画像符号化装置。 - 【請求項4】 動画像データを入力する入力手段と、 前記入力手段によって入力された動画像データから複数
のオブジェクトを分離する分離手段と、 前記分離手段によって分離された第1のオブジェクトを
第1の符号化方法で符号化する第1の符号化手段と、 前記分離手段によって分離された第2のオブジェクトを
第2の符号化方法で符号化する第2の符号化手段と、 フレームレートを設定する設定手段と、 前記設定手段の出力に応じて前記第2の符号化手段の符
号化処理を制御する制御手段とを有することを特徴とす
る画像符号化装置。 - 【請求項5】 請求項1において、前記制御手段は前記
第1の符号化手段によって符号化された前記第1のオブ
ジェクトの符号量に応じて前記第2の符号化手段で符号
化される前記第2のオブジェクトの符号量を制御するこ
とを特徴とする画像符号化装置。 - 【請求項6】 請求項1〜3において、前記第2の符号
化手段は量子化手段を含み、前記制御手段はフレームレ
ートを設定する設定手段を含み、前記設定手段の出力に
応じて前記量子化手段の量子化ステップを制御すること
を特徴とする画像符号化装置。 - 【請求項7】 請求項1、4〜5のいずれかにおいて、
前記第2の符号化手段は量子化手段を含み、前記第1、
第2の符号化手段によって符号化された符号化データを
記録媒体に記録する記録手段を有し、前記制御手段は前
記記録媒体の容量に応じて前記量子化手段の量子化ステ
ップを制御することを特徴とする画像符号化装置。 - 【請求項8】 請求項1、4、5のいずれかにおいて、
前記第2の符号化手段は量子化手段を含み、前記第1、
第2の符号化手段によって符号化された符号化データを
外部伝送路を用いて通信する通信手段を有し、前記制御
手段は前記通信手段の通信データレートに応じて前記量
子化手段の量子化ステップを制御することを特徴とする
画像符号化装置。 - 【請求項9】 請求項1〜8のいずれかにおいて、前記
分離手段は画像データの動きにより複数のオブジェクト
を判別して分離することを特徴とする画像符号化装置。 - 【請求項10】 請求項1〜8のいずれかにおいて、前
記分離手段はフレーム間の画素差分値により複数のオブ
ジェクトを判別して分離することを特徴とする画像符号
化装置。 - 【請求項11】 請求項1〜10のいずれかにおいて、
前記分離手段は少なくとも背景画像とそれ以外の画像と
を分離することを特徴とする画像符号化装置。 - 【請求項12】 請求項1〜11のいずれかにおいて、
前記第1の符号化手段は階層符号化を行うことを特徴と
する画像符号化装置。 - 【請求項13】 請求項1〜11のいずれかにおいて、
前記第1の符号化手段はJPEG符号化を行うことを特
徴とする画像符号化装置。 - 【請求項14】 請求項1〜13のいずれかにおいて、
前記第2の符号化手段はイントラ符号化とインター符号
化とを選択的に用いて符号化することを特徴とする画像
符号化装置。 - 【請求項15】 請求項1〜14のいずれかにおいて、
前記第1の符号化手段によって得られた第1の符号化デ
ータと前記第2の符号化手段によって得られた第2の符
号化データとを合成する合成手段を有することを特徴と
する画像符号化装置。 - 【請求項16】 請求項15において、前記合成手段は
前記第1のオブジェクトの符号化データは分割して合成
されることを特徴とする画像符号化装置。 - 【請求項17】 請求項15又は16において、前記合
成手段は各オブジェクトの属性を示す情報も合成するこ
とを特徴とする画像符号化装置。 - 【請求項18】 請求項15〜17のいずれかにおい
て、前記合成手段によって得られた符号化データを記録
媒体に記録する記録手段とを有することを特徴とする画
像符号化装置。 - 【請求項19】 請求項15〜18のいずれかにおい
て、前記合成手段によって得られた符号化データを通信
するインターフェース手段を有することを特徴とする画
像符号化装置。 - 【請求項20】 請求項1〜19のいずれかにおいて、
前記入力手段はビデオカメラを含むことを特徴とする画
像符号化装置。 - 【請求項21】 請求項20において、前記分離手段に
は前記ビデオカメラから撮影状態を示す撮影情報が入力
され、前記撮影情報に応じて前記画像データから同一種
のオブジェクトを分離することを特徴とする画像符号化
装置。 - 【請求項22】 請求項1〜19のいずれかにおいて、
前記入力手段はビデオレコーダを含むことを特徴とする
画像符号化装置。 - 【請求項23】 請求項1〜22のいずれかにおいて、
前記第1のオブジェクトは、前記画像データ中の背景画
像であることを特徴とする画像符号化装置。 - 【請求項24】 入力された動画像データから複数のオ
ブジェクトを分離し、 分離された第1のオブジェクトを第1の符号化方法で符
号化し、 分離された第2のオブジェクトを第2の符号化方法で符
号化し、 符号化された前記第1のオブジェクトの符号化データに
応じて前記第2のオブジェクトの符号化処理を制御する
ことを特徴とする画像符号化方法。 - 【請求項25】 入力された動画像データから複数のオ
ブジェクトを分離し、 分離された第1のオブジェクトを第1の符号化方法で符
号化し、 分離された第2のオブジェクトを第2の符号化方法で符
号化し、 符号化された第1のオブジェクトの符号化データと符号
化された第2のオブジェクトの符号化データとを記録す
る記録媒体の記録容量に応じて前記第2のオブジェクト
の符号化処理を制御することを特徴とする画像符号化方
法。 - 【請求項26】 入力された動画像データから複数のオ
ブジェクトを分離し、 分離された第1のオブジェクトを第1の符号化方法で符
号化し、 分離された第2のオブジェクトを第2の符号化方法で符
号化し、 符号化された第1のオブジェクトの符号化データと符号
化された第2のオブジェクトの符号化データとを外部へ
通信する際の通信データレートに応じて前記第2のオブ
ジェクトの符号化処理を制御することを特徴とする画像
符号化方法。 - 【請求項27】 画像符号化プログラムが記録されたコ
ンピュータ可読記録媒体であって、 入力された動画像データから複数のオブジェクトを分離
する分離工程の手順コードと、 分離された第1のオブジェクトを第1の符号化方法で符
号化する第1の符号化工程の手順コードと、 分離された第2のオブジェクトを第2の符号化方法で符
号化する第2の符号化工程の手順コードと、 符号化された前記第1のオブジェクトの符号化データに
応じて前記第2のオブジェクトの符号化処理を制御する
制御工程の手順コードとを記録したことを特徴とする画
像符号化プログラムが記録されたコンピュータ可読記録
媒体。 - 【請求項28】 画像符号化プログラムが記録されたコ
ンピュータ可読記録媒体であって、 入力された動画像データから複数のオブジェクトを分離
する分離工程の手順コードと、 分離された第1のオブジェクトを第1の符号化方法で符
号化する第1の符号化工程の手順コードと、 分離された第2のオブジェクトを第2の符号化方法で符
号化する第2の符号化工程の手順コードと、 符号化された第1のオブジェクトの符号化データと符号
化された第2のオブジェクトの符号化データとを記録す
る記録媒体の記録容量に応じて前記第2のオブジェクト
の符号化処理を制御する制御工程の手順コードとを記録
したことを特徴とする画像符号化プログラムが記録され
たコンピュータ可読記録媒体。 - 【請求項29】 画像符号化プログラムが記録されたコ
ンピュータ可読記録媒体であって、 入力された動画像データから複数のオブジェクトを分離
する分離工程の手順コードと、 分離された第1のオブジェクトを第1の符号化方法で符
号化する第1の符号化工程の手順コードと、 分離された第2のオブジェクトを第2の符号化方法で符
号化する第2の符号化工程の手順コードと、 符号化された第1のオブジェクトの符号化データと符号
化された第2のオブジェクトの符号化データとを外部へ
通信する際の通信データレートに応じて前記第2のオブ
ジェクトの符号化処理を制御する制御工程とを記録した
ことを特徴とする画像符号化プログラムが記録されたコ
ンピュータ可読記録媒体。 - 【請求項30】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は前記第1の
オブジェクトの符号化データに応じて制御され、前記第
1のオブジェクトの符号化データと前記第2のオブジェ
クトの符号化データとを合成して伝送された合成符号化
データを復号化する画像復号化装置であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離する
分離手段と、 前記分離手段によって分離された第1のオブジェクト符
号化データを復号化する第1の復号化手段と、 前記分離手段によって分離された第2のオブジェクト符
号化データを復号化する第2の復号化手段とを有するこ
とを特徴とする画像復号化装置。 - 【請求項31】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は通信レート
に応じて制御され、前記第1のオブジェクトの符号化デ
ータと前記第2のオブジェクトの符号化データとを合成
して通信された合成符号化データを復号化する画像復号
化装置であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離する
分離手段と、 前記分離手段によって分離された第1のオブジェクト符
号化データを復号化する第1の復号化手段と、 前記分離手段によって分離された第2のオブジェクト符
号化データを復号化する第2の復号化手段とを有するこ
とを特徴とする画像復号化装置。 - 【請求項32】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は前記動画デ
ータのフレームレートに応じて制御され、前記第1のオ
ブジェクトの符号化データと前記第2のオブジェクトの
符号化データとを合成して通信された合成符号化データ
を復号化する画像復号化装置であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離する
分離手段と、 前記分離手段によって分離された第1のオブジェクト符
号化データを復号化する第1の復号化手段と、 前記分離手段によって分離された第2のオブジェクト符
号化データを復号化する第2の復号化手段とを有するこ
とを特徴とする画像復号化装置。 - 【請求項33】 請求項30〜32のいずれかにおい
て、前記第1の復号化手段の出力と前記第2の復号化手
段の出力とを合成する合成手段を有することを特徴とす
る画像復号化装置。 - 【請求項34】 請求項33において、前記合成手段に
よって合成された合成データを表示する表示手段とを有
することを特徴とする画像復号化装置。 - 【請求項35】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は前記第1の
オブジェクトの符号化データに応じて制御され、前記第
1のオブジェクトの符号化データと前記第2のオブジェ
クトの符号化データとを合成して伝送された合成符号化
データを復号化する画像復号化方法であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離し、 分離された第1のオブジェクト符号化データを復号化
し、 分離された第2のオブジェクト符号化データを復号化す
ることを特徴とする画像復号化方法。 - 【請求項36】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は通信レート
に応じて制御され、前記第1のオブジェクトの符号化デ
ータと前記第2のオブジェクトの符号化データとを合成
して通信された合成符号化データを復号化する画像復号
化方法であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離し、 分離された第1のオブジェクト符号化データを復号化
し、 分離された第2のオブジェクト符号化データを復号化す
ることを特徴とする画像復号化方法。 - 【請求項37】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は前記動画デ
ータのフレームレートに応じて制御され、前記第1のオ
ブジェクトの符号化データと前記第2のオブジェクトの
符号化データとを合成して通信された合成符号化データ
を復号化する画像復号化方法であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離し、 分離された第1のオブジェクト符号化データを復号化
し、 分離された第2のオブジェクト符号化データを復号化す
ることを特徴とする画像復号化方法。 - 【請求項38】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は前記第1の
オブジェクトの符号化データに応じて制御され、前記第
1のオブジェクトの符号化データと前記第2のオブジェ
クトの符号化データとを合成して伝送された合成符号化
データを復号化する画像復号化プログラムが記録された
コンピュータ可読記録媒体であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離する
分離工程の手順コードと、 分離された第1のオブジェクト符号化データを復号化す
る第1の復号化工程の手順コードと、 分離された第2のオブジェクト符号化データを復号化す
る第2の復号化工程の手順コードとを記録したことを特
徴とする画像復号化プログラムが記録されたコンピュー
タ可読記録媒体。 - 【請求項39】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は通信レート
に応じて制御され、前記第1のオブジェクトの符号化デ
ータと前記第2のオブジェクトの符号化データとを合成
して通信された合成符号化データを復号化する画像復号
化プログラムが記録されたコンピュータ可読記録媒体で
あって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離する
分離工程の手順コードと、 分離された第1のオブジェクト符号化データを復号化す
る第1の復号化工程の手順コードと、 分離された第2のオブジェクト符号化データを復号化す
る第2の復号化工程の手順コードとを記録したことを特
徴とする画像復号化プログラムが記録されたコンピュー
タ可読記録媒体。 - 【請求項40】 入力動画像データから第1のオブジェ
クトと第2のオブジェクトとに分離し、前記第1のオブ
ジェクトを第1の符号化方法で符号化し、前記第2のオ
ブジェクトを第2の符号化方法により符号化し、前記第
2のオブジェクトの符号化データの符号量は前記動画デ
ータのフレームレートに応じて制御され、前記第1のオ
ブジェクトの符号化データと前記第2のオブジェクトの
符号化データとを合成して通信された合成符号化データ
を復号化する画像復号化プログラムが記録されたコンピ
ュータ可読記録媒体であって、 前記合成符号化データを第1のオブジェクト符号化デー
タと前記第2のオブジェクト符号化データとに分離する
分離工程の手順コードと、 分離された第1のオブジェクト符号化データを復号化す
る第1の復号化工程の手順コードと、 分離された第2のオブジェクト符号化データを復号化す
る第2の復号化工程の手順コードとを記録したことを特
徴とする画像復号化プログラムが記録されたコンピュー
タ可読記録媒体。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP02327998A JP4261630B2 (ja) | 1998-02-04 | 1998-02-04 | 画像符号化装置及び方法、画像符号化プログラムが記録されたコンピュータ可読記録媒体 |
| US09/241,871 US6798977B2 (en) | 1998-02-04 | 1999-02-02 | Image data encoding and decoding using plural different encoding circuits |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP02327998A JP4261630B2 (ja) | 1998-02-04 | 1998-02-04 | 画像符号化装置及び方法、画像符号化プログラムが記録されたコンピュータ可読記録媒体 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH11225329A true JPH11225329A (ja) | 1999-08-17 |
| JP4261630B2 JP4261630B2 (ja) | 2009-04-30 |
Family
ID=12106173
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP02327998A Expired - Fee Related JP4261630B2 (ja) | 1998-02-04 | 1998-02-04 | 画像符号化装置及び方法、画像符号化プログラムが記録されたコンピュータ可読記録媒体 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US6798977B2 (ja) |
| JP (1) | JP4261630B2 (ja) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2001074090A1 (en) * | 2000-03-31 | 2001-10-04 | Olympus Optical Co., Ltd. | Method for posting three-dimensional image data and system for creating three-dimensional image |
| US6782050B2 (en) | 2000-11-08 | 2004-08-24 | Nec Corporation | Moving image encoding device |
| JP2009027366A (ja) * | 2007-07-18 | 2009-02-05 | Fujifilm Corp | 画像処理装置、画像処理方法、およびプログラム |
| JP2011527546A (ja) * | 2008-07-10 | 2011-10-27 | ラドヴィジョン リミテッド | スケーラブルビデオ符号化を用いて選択可能なビデオを提供するシステム、方法及び媒体 |
Families Citing this family (32)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6879723B1 (en) * | 1999-11-12 | 2005-04-12 | 8X8, Inc. | Method and apparatus for encoding frames of image data at a varying quality level |
| JP3603737B2 (ja) * | 2000-03-30 | 2004-12-22 | 日本電気株式会社 | 移動体追尾方法及びその装置 |
| US20030007784A1 (en) * | 2001-06-20 | 2003-01-09 | Loui Alexander C. | System and method for authoring a multimedia enabled disc |
| US7650058B1 (en) * | 2001-11-08 | 2010-01-19 | Cernium Corporation | Object selective video recording |
| US20060165386A1 (en) * | 2002-01-08 | 2006-07-27 | Cernium, Inc. | Object selective video recording |
| US20040096102A1 (en) * | 2002-11-18 | 2004-05-20 | Xerox Corporation | Methodology for scanned color document segmentation |
| US8638846B1 (en) * | 2003-06-23 | 2014-01-28 | At&T Intellectual Property Ii, L.P. | Systems and methods for encoding and decoding video streams |
| JP4612797B2 (ja) * | 2004-03-11 | 2011-01-12 | キヤノン株式会社 | 符号化装置、符号化方法 |
| JP4702928B2 (ja) * | 2004-03-12 | 2011-06-15 | キヤノン株式会社 | 動画像符号化装置及び復号装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 |
| JP2005295505A (ja) * | 2004-03-12 | 2005-10-20 | Canon Inc | 動画像符号化装置及び動画像復号装置及びそれらの制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体 |
| US7983835B2 (en) | 2004-11-03 | 2011-07-19 | Lagassey Paul J | Modular intelligent transportation system |
| JP4929159B2 (ja) * | 2004-04-16 | 2012-05-09 | ヌーヴ セラピュティクス、インコーポレイテッド | 画像誘導組織切除を改善するための装置 |
| US7026961B2 (en) * | 2004-05-03 | 2006-04-11 | Lsi Logic Corporation | Real time binary arithmetic encoding |
| JP2006074391A (ja) * | 2004-09-01 | 2006-03-16 | Canon Inc | ファイル記録方法および記録装置 |
| US7751478B2 (en) * | 2005-01-21 | 2010-07-06 | Seiko Epson Corporation | Prediction intra-mode selection in an encoder |
| US7830961B2 (en) * | 2005-06-21 | 2010-11-09 | Seiko Epson Corporation | Motion estimation and inter-mode prediction |
| US8026945B2 (en) | 2005-07-22 | 2011-09-27 | Cernium Corporation | Directed attention digital video recordation |
| KR100765761B1 (ko) * | 2005-09-30 | 2007-10-15 | 삼성전자주식회사 | 화상 형성 시스템 및 화상 형성 방법 |
| TWI297994B (en) * | 2005-12-08 | 2008-06-11 | Inst Information Industry | Encoder, method for adjusting decoding calculation, and computer readable record medium therefor |
| US8170102B2 (en) * | 2005-12-19 | 2012-05-01 | Seiko Epson Corporation | Macroblock homogeneity analysis and inter mode prediction |
| US7843995B2 (en) * | 2005-12-19 | 2010-11-30 | Seiko Epson Corporation | Temporal and spatial analysis of a video macroblock |
| WO2010057170A1 (en) | 2008-11-17 | 2010-05-20 | Cernium Corporation | Analytics-modulated coding of surveillance video |
| JP4760973B2 (ja) * | 2008-12-16 | 2011-08-31 | カシオ計算機株式会社 | 撮像装置及び画像処理方法 |
| KR101452713B1 (ko) | 2009-10-30 | 2014-10-21 | 삼성전자주식회사 | 픽처 경계의 부호화 단위를 부호화, 복호화 하는 방법 및 장치 |
| US8331760B2 (en) * | 2010-06-02 | 2012-12-11 | Microsoft Corporation | Adaptive video zoom |
| US9693110B2 (en) * | 2010-06-03 | 2017-06-27 | Cox Communications, Inc | Dynamic content stream management |
| US9866877B2 (en) | 2011-03-08 | 2018-01-09 | Cox Communications, Inc. | Transparent scalable video coding |
| JP6056124B2 (ja) * | 2011-09-05 | 2017-01-11 | 富士ゼロックス株式会社 | 画像処理装置及び画像処理プログラム |
| EP3176729A1 (en) * | 2011-09-06 | 2017-06-07 | Intel Corporation | Analytics assisted encoding |
| GB201312382D0 (en) | 2013-07-10 | 2013-08-21 | Microsoft Corp | Region-of-interest aware video coding |
| WO2016002152A1 (ja) * | 2014-06-30 | 2016-01-07 | 日本電気株式会社 | 個人情報に配慮した画像処理システム、画像処理方法及びプログラム記憶媒体 |
| JP6672363B2 (ja) * | 2018-03-23 | 2020-03-25 | シャープ株式会社 | 符号化装置、表示装置、符号化装置の制御方法、および制御プログラム |
Family Cites Families (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2530090B2 (ja) * | 1992-02-28 | 1996-09-04 | 三星電子株式会社 | 映像信号符号化装置 |
| US5283646A (en) * | 1992-04-09 | 1994-02-01 | Picturetel Corporation | Quantizer control method and apparatus |
| AU4351793A (en) * | 1992-06-29 | 1994-01-24 | British Telecommunications Public Limited Company | Coding and decoding video signals |
| US5845088A (en) * | 1992-11-16 | 1998-12-01 | Multimedia Systems Corporation | Method for the production and transmission of enhanced interactive multimedia information |
| JPH07154798A (ja) * | 1993-05-31 | 1995-06-16 | Canon Inc | 画像符号化装置および画像符号化方法 |
| JP3258840B2 (ja) * | 1994-12-27 | 2002-02-18 | シャープ株式会社 | 動画像符号化装置および領域抽出装置 |
| US5886743A (en) * | 1994-12-28 | 1999-03-23 | Hyundai Electronics Industries Co. Ltd. | Object-by information coding apparatus and method thereof for MPEG-4 picture instrument |
| JP3309642B2 (ja) * | 1995-05-31 | 2002-07-29 | ソニー株式会社 | 画像情報記録方法及びそのシステム |
| US6023301A (en) * | 1995-07-14 | 2000-02-08 | Sharp Kabushiki Kaisha | Video coding device and video decoding device |
| US5883678A (en) * | 1995-09-29 | 1999-03-16 | Kabushiki Kaisha Toshiba | Video coding and video decoding apparatus for reducing an alpha-map signal at a controlled reduction ratio |
| JP3249729B2 (ja) * | 1995-10-24 | 2002-01-21 | シャープ株式会社 | 画像符号化装置及び画像復号装置 |
| EP0880286B1 (en) * | 1996-02-07 | 2005-04-13 | Sharp Kabushiki Kaisha | Moving image encoding and decoding device |
| KR100501902B1 (ko) * | 1996-09-25 | 2005-10-10 | 주식회사 팬택앤큐리텔 | 영상정보부호화/복호화장치및방법 |
| JP3934712B2 (ja) * | 1996-09-27 | 2007-06-20 | 日本ビクター株式会社 | 映像信号符号化方法及び装置 |
| US6173013B1 (en) * | 1996-11-08 | 2001-01-09 | Sony Corporation | Method and apparatus for encoding enhancement and base layer image signals using a predicted image signal |
| KR100463004B1 (ko) * | 1997-03-20 | 2005-06-02 | 주식회사 팬택앤큐리텔 | Mpeg-4vop부호화방법 |
| ES2323358T3 (es) * | 1997-04-01 | 2009-07-14 | Sony Corporation | Codificador de imagenes, metodo de codificacion de imagenes, descodificador de imagenes, metodo de descodificacion de imagenes, y medio de distribucion. |
| US6233356B1 (en) * | 1997-07-08 | 2001-05-15 | At&T Corp. | Generalized scalability for video coder based on video objects |
| KR100251051B1 (ko) * | 1997-07-14 | 2000-04-15 | 윤종용 | 임의 형상 부호화 방법 |
| US6512793B1 (en) | 1998-04-28 | 2003-01-28 | Canon Kabushiki Kaisha | Data processing apparatus and method |
-
1998
- 1998-02-04 JP JP02327998A patent/JP4261630B2/ja not_active Expired - Fee Related
-
1999
- 1999-02-02 US US09/241,871 patent/US6798977B2/en not_active Expired - Fee Related
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2001074090A1 (en) * | 2000-03-31 | 2001-10-04 | Olympus Optical Co., Ltd. | Method for posting three-dimensional image data and system for creating three-dimensional image |
| US6782050B2 (en) | 2000-11-08 | 2004-08-24 | Nec Corporation | Moving image encoding device |
| JP2009027366A (ja) * | 2007-07-18 | 2009-02-05 | Fujifilm Corp | 画像処理装置、画像処理方法、およびプログラム |
| JP2011527546A (ja) * | 2008-07-10 | 2011-10-27 | ラドヴィジョン リミテッド | スケーラブルビデオ符号化を用いて選択可能なビデオを提供するシステム、方法及び媒体 |
Also Published As
| Publication number | Publication date |
|---|---|
| US6798977B2 (en) | 2004-09-28 |
| JP4261630B2 (ja) | 2009-04-30 |
| US20030147462A1 (en) | 2003-08-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4261630B2 (ja) | 画像符号化装置及び方法、画像符号化プログラムが記録されたコンピュータ可読記録媒体 | |
| US5731850A (en) | Hybrid hierarchial/full-search MPEG encoder motion estimation | |
| JP2000278692A (ja) | 圧縮データ処理方法及び処理装置並びに記録再生システム | |
| JP5195032B2 (ja) | 符号化装置/復号化装置、符号化方法/復号化方法及びプログラム | |
| US6956899B2 (en) | Precise bit control apparatus with look-ahead for MPEG encoding | |
| JPH05115061A (ja) | 動きベクトル符号器および復号器 | |
| JPH0998429A (ja) | ディジタル映像信号符号化装置および復号化装置 | |
| JPH06225279A (ja) | 符号化方法、復号化方法、符号化装置及び復号化装置 | |
| JP3893350B2 (ja) | 符号化データ変換装置及びその方法 | |
| JP4616057B2 (ja) | 画像符号化装置及び画像符号化方法 | |
| JP2898413B2 (ja) | 所要メモリ容量の低減化を伴う圧縮ビデオデータ流の復号化及び符号化のための方法 | |
| US6556714B2 (en) | Signal processing apparatus and method | |
| JPH08251582A (ja) | 符号化データ編集装置 | |
| JP2000312362A (ja) | 画像符号化方式変換装置、画像符号化方式変換方法および記録媒体 | |
| JP2011055023A (ja) | 画像符号化装置及び画像復号化装置 | |
| JPH11308618A (ja) | 画像信号処理装置及び方法並びに画像信号再生装置 | |
| JP2000197010A (ja) | 画像デ―タ編集装置 | |
| JPH11289515A (ja) | 画像信号処理装置及び方法、画像信号記録装置及び方法並びに記録媒体 | |
| JP3854717B2 (ja) | 復号装置およびその方法 | |
| JP3721972B2 (ja) | Mpeg画像データ記録方法 | |
| JP4594163B2 (ja) | 画像符号化方法、及び画像符号化装置 | |
| JPH0984011A (ja) | 動画符号化方式変換装置 | |
| JP6735370B2 (ja) | 復号化方法 | |
| JP2001218206A (ja) | 画像符号化装置及び方法、媒体 | |
| JP2003087797A (ja) | 画像情報変換装置及び方法、画像情報変換プログラム、並びに記録媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060905 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061106 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070703 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070903 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080122 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080324 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080407 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090127 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090206 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120220 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130220 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140220 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |