JPH06113335A - 画像高能率符号化方式 - Google Patents

画像高能率符号化方式

Info

Publication number
JPH06113335A
JPH06113335A JP25996492A JP25996492A JPH06113335A JP H06113335 A JPH06113335 A JP H06113335A JP 25996492 A JP25996492 A JP 25996492A JP 25996492 A JP25996492 A JP 25996492A JP H06113335 A JPH06113335 A JP H06113335A
Authority
JP
Japan
Prior art keywords
image
parallax compensation
vector
compensation vector
detection unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP25996492A
Other languages
English (en)
Other versions
JP3150446B2 (ja
Inventor
Makiko Konoshima
真喜子 此島
Eiji Morimatsu
映史 森松
Akira Nakagawa
章 中川
Kiichi Matsuda
喜一 松田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP25996492A priority Critical patent/JP3150446B2/ja
Publication of JPH06113335A publication Critical patent/JPH06113335A/ja
Application granted granted Critical
Publication of JP3150446B2 publication Critical patent/JP3150446B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/004Predictors, e.g. intraframe, interframe coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【目的】 視差補償予測方式を用いた多眼式立体映像の
高能率符号化方式に関し、できるだけ正確な視差補償ベ
クトルを検出する。 【構成】 周囲の視差補償ベクトルの情報或いは同時刻
の他の多眼画像の視差補償ベクトルの情報をも参照して
できるだけ正確な視差補償ベクトルを補正ベクトルとし
て得るように構成する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は画像高能率符号化方式に
関し、特に視差補償予測方式を用いた多眼式立体映像の
高能率符号化方式に関するものである。
【0002】図15に多眼式立体映像を作る場合の既に
1992年NHK技術研究所で公開されたシステムの概
念構成が示されており、まず、静止或いは動いている被
写体(タコ)10を、位置をタテおよびヨコに少しづつ
ずらした複数のカメラ群11で撮影する。次に、複数の
カメラ群11から得られた画像データを符号器12で高
能率符号化し、多重化部13でマルチプレクスしたの
ち、伝送路14などを介して伝送し、受信側では分離部
14でデマルチプレクスした後、復号を行い、ディスプ
レイ16に映し出す。
【0003】この出力側のディスプレイ16は、一例と
してレンチキュラ・レンズ(ヨコ方向にのみ視差がある
場合)または、ハエの眼レンズ(タテ・ヨコ方向に視差
がある場合)が使用される。
【0004】一例として、図16に、タコを被写体とし
たときの、タテ5眼、ヨコ5眼の、それぞれのカメラか
らの出力を分かり易く表示した例を示す。この例では、
上下方向にも視差が有る。
【0005】このように位置をタテおよびヨコに少しづ
つずらした複数のカメラを用いるのは、1つのカメラか
らの出力を片方の眼に対する入力として、両眼視差を形
成して立体視を行えるようにするためであり、また、カ
メラを多数用いた場合、出力系でディスプレイ16を見
る人間が頭を振っても自然な立体視を行えるようにする
ためである。このような自然な立体映像を与えるシステ
ムの発展が期待されている。
【0006】
【従来の技術】このような立体映像を符号化する場合、
従来より、二眼式の立体映像において、左右眼のどちら
か一方用の画像を圧縮対象画像とし、他方の画像を参照
画像として視差補償を行うことにより高能率符号化を実
現しようとする提案が成されており、これを多眼式の立
体映像にまで拡張した形での高能率符号化が考えられて
いる。
【0007】即ち、図17に示すように、まず右眼側の
入力画像(原画、あるいは符号化済の画像を再生したロ
ーカルデコード画像)を参照画像として、左眼側の入力
画像とのブロックマッチングをブロックマッチング部2
1でとる。この後、視差補償ベクトル検出部22で視差
補償ベクトルを検出し、符号化部23で右眼側の入力画
像を符号化した後、該視差補償ベクトルに従って右眼側
の符号化済該当ブロックを可変遅延部24により切り出
して左眼側の入力画像との差分信号を求め、求まった差
分信号(予測誤差信号)に対して符号化部25で符号化
を行い、可変長符号化部(VLC)26、27で可変長
符号化を行い、多重化部28で多重化して伝送路へ送出
する。
【0008】上記のブロックマッチングと視差補償ベク
トル検出の一連の操作の一例のフローチャートが図18
に示されており、この例では上記の通り右眼入力画像F
R を参照画像として左眼入力画像FL を視差補償するも
のである。
【0009】そして、サーチ範囲をx方向に対し±S
x、y方向に対し±Syとし、ブロックの大きさをx方
向に対しBx、y方向に対しByとし(ステップS
0)、左右入力画像の差分の絶対値をブロック全体に対
して評価関数を絶対値誤差(二乗誤差でもよい)として
積和した初期値SUM1を求め(ステップS1)、これ
を各ブロック毎に行うことにより(ステップS2)、ス
テップS3での比較を行って値が最小となるようなベク
トルを上記のサーチ範囲に渡ってサーチすることにより
上記の視差補償ベクトルVx,Vyを求めている(ステ
ップS4)。このブロックマッチングは、高能率符号化
における動き補償予測方式とほぼ同様であり、公知の方
式である。
【0010】
【発明が解決しようとする課題】上記のような従来の視
差補償方式においては、(上下)左右のカメラの輝度・
色の変化(雑音等を含む)に耐性がなく、正確な視差補
償ベクトルの検出が困難であった。
【0011】即ち、フリッカ、色や光の写り込み、個々
のカメラ自体の雑音に左右されるため、正確な視差補償
ベクトルの検出が困難となり、二眼式だけでなく多眼式
の立体映像についても高能率符号化の妨げとなってい
た。
【0012】従って本発明は、できるだけ正確な視差補
償ベクトルを検出できる画像高能率符号化を提供するこ
とを目的とする。
【0013】
【課題を解決するための手段及び作用】本発明では、ま
ず上記の問題点を解決するため、本発明(その1):
周囲の視差補償ベクトルの情報をも参照してできるだけ
正確なベクトルを得ること(二眼以上多眼)、本発明
(その2):同時刻の他の多眼画像の視差補償ベクトル
の情報をも参照してできるだけ正確なベクトルを得るこ
と(3眼以上多眼):に着目した。
【0014】言い換えると、従来方式では、正確な視差
補償ベクトルを求めるために、評価パラメータとして、
該当するブロックの周囲のブロックの視差補償ベクトル
を用いることや、過去のフレームの同位置のブロックの
視差補償ベクトルを用いること、あるいは該当する同時
刻の他の多眼画像の視差補償ベクトルを用いる概念自体
が無かったわけである。
【0015】本発明(その1):図1 そこで本発明に係る画像高能率符号化(その1)では、
その解決手段として図1に原理的に示すように、同期し
た一対のカメラ画像間で一方の画像を圧縮対象画像とし
他方の画像を参照画像としてブロックマッチング部1か
ら得られたブロックマッチング結果により各画像ブロッ
クの視差補償ベクトルの検出を行う視差補償ベクトル検
出部2と、該視差補償ベクトルを記憶するメモリ3と、
該メモリ3に記憶された視差補償ベクトルの内、該当す
るブロックとその周囲のブロックから最適な特性の補正
ベクトルを求める補正ベクトル検出部4とを備え、該補
正ベクトルにより該参照画像の符号化データのローカル
デコード画像を可変遅延部5で可変遅延させた後、圧縮
対象入力画像との予測誤差を求めて符号化し、更に該参
照画像の符号化データと共に可変長符号化して多重化し
た後、伝送路に送出するように構成している。
【0016】この図1の構成の動作を説明すると、まず
圧縮対象入力画像(例えば左眼用入力画像)と参照画像
(例えば右眼用入力画像)を同期させてブロックマッチ
ング部1に入力しブロックマッチングを行う。従って、
点線で示すようにブロックマッチング部1に入力するま
でに符号化を行い、参照画像のローカルデコード画像を
参照画像としてもよい。また、この場合、両入力画像の
同期を確保するために適宜遅延部を入れるのが普通であ
る。
【0017】ブロックマッチング部1から出力されたブ
ロックマッチング結果は、視差補償ベクトル検出部2に
入力される。視差補償ベクトル検出部2では、公知の評
価関数に従って各画像ブロックの視差補償ベクトルを検
出する。
【0018】これを図2を用いて説明すると、この例で
は、カメラ画像(画面)K23を参照画像として得られ
たカメラ画像K22の各画像ブロックの視差補償ベクト
ルはベクトル「ア」〜「タ」となる。尚、図示の矢印は
ベクトルであることを示している。
【0019】このようにして検出した視差補償ベクトル
はメモリ3に蓄えておく。
【0020】補正ベクトル検出部4は、メモリ3から該
当するブロックおよび該当するブロックの周囲のブロッ
クの視差補償ベクトルと、好ましくは別のメモリ6に記
憶しておいた過去の同位置の該当するブロックおよび該
当するブロックの周囲のブロックの視差補償ベクトルと
を入力し、評価関数に従って最適な特性、即ち正確な視
差補償ベクトルの検出を行う。
【0021】即ち、図2の例では、例えばカメラ画像K
22のベクトル「カ」の視差補償ベクトルの補正ベクト
ルを得るため、その周囲のブロックの視差補償ベクトル
「ア」,「イ」,「ウ」,「オ」,「キ」,「ケ」,
「コ」,「サ」が補正ベクトル検出部4において用いら
れることとなる。
【0022】そして、検出された補正ベクトルは、好ま
しくはメモリ6に入力されると共に、可変遅延部5に入
力される。可変遅延部5では、入力されたベクトルをも
とに参照画像を遅延させて出力する。出力結果は、圧縮
対象画像に対する予測値となるため、その差分をとるこ
とにより予測誤差を符号化する。この符号化の後、可変
長符号化(VLC)を行い、多重化して伝送路に送出す
る。
【0023】尚、図1では二眼画像を入力画像とする場
合について示しているが、図2に示したように、多眼画
像K11〜K44が存在する場合においても、その内の
2つの画像間において同様に処理することができる。例
えばカメラ画像K44を参照画像そして得られたカメラ
画像K34についても同様に、その内のベクトル「こ」
の視差補償ベクトルの補正ベクトルを得るため、その周
囲のブロックの視差補償ベクトル「お」,「か」,
「き」,「け」,「さ」,「す」,「せ」,「そ」が補
正ベクトル検出部4において用いられることとなる。但
し、基本的には二眼画像の処理方式となっている。
【0024】本発明(その2):図3 本発明(その2)は、図3に原理的に示すように、同期
した3つ以上の多眼カメラ画像F1〜Fnの内の隣接す
る複数組のカメラ画像対の間で一方の画像を圧縮対象画
像とし他方の画像を参照画像として各ブロックマッチン
グ部1−0〜1−nから得られたブロックマッチング結
果により該当ブロックの視差補償ベクトルの検出を行う
視差補償ベクトル検出部2−0〜2−nと、各視差補償
ベクトル検出部2−0〜2−nで得られた同時刻の視差
補償ベクトルを記憶するメモリ3と、該メモリ3の視差
補償ベクトルの内の最適な特性の補正ベクトルを求める
補正ベクトル検出部4とを備え、各補正ベクトルにより
該参照画像の符号化データのローカルデコード画像を各
可変遅延部5−0〜5−nで可変遅延させた後、圧縮対
象入力画像との予測誤差を求めて符号化し、更に該参照
画像の符号化データと共に可変長符号化して多重化した
後、伝送路に送出するように構成したものである。
【0025】次に図3の構成の動作を説明すると、ま
ず、同期した入力画像F1〜Fnを各ブロックマッチン
グ部1−0〜1−nに入力する。参照画像となっている
のは、F1に対してはF2、F2に対してはF3、…、
Fn−1に対してはFnである。入力画像Fnは、圧縮
対象とならない終端の画像である。
【0026】従って、図1の場合と同様に各ブロックマ
ッチング部1−0〜1−nに入力するまでに入力画像F
nで符号化を行い、この入力画像Fnのローカルデコー
ド画像を参照画面としてもよい。更には、入力画像F1
〜Fn−1 の中の幾つかを終端画像としてもよい。ま
た、入力画像F1〜Fn−1とFnとの同期を確保する
ために適宜遅延部を入れることも図1と同様普通のこと
である。
【0027】各々のブロックマッチング部1−0〜1−
nから出力されたブロックマッチング結果は、それぞれ
に対応して設けられている視差補償ベクトル検出部2−
0〜2−nに入力され、公知の評価関数に従ってそれぞ
れ視差補償ベクトルを検出する。これらの視差補償ベク
トル検出部2−0〜2−nの各検出結果は、まとめてメ
モリ3に蓄えておく。
【0028】これを図4を用いて説明すると、この例で
は、カメラ画像K11〜K44が入力画像となってお
り、K11に対してはカメラ画像K12、K12に対し
てはK13、…、K43に対してはK44、という関係
になっており、各カメラ画像のブロックの視差補償ベク
トルは図2と同様にして得られるが、図示の状態は図面
を分かりやすくするために各カメラ画像K11〜K44
の左から2番目で上から2番目のブロックのみの視差補
償ベクトル「a」,「b」,…,「p」を示している。
尚、図示の矢印はベクトルであることを示している。
【0029】このようにして検出した視差補償ベクトル
はメモリ3に蓄えておき、補正ベクトル検出部4は、メ
モリ3から該当するブロックの視差補償ベクトルおよび
周囲のカメラ画像中の該当するブロックの周囲のブロッ
クの視差補償ベクトルと、好ましくは別のメモリ6に記
憶しておいた過去の同位置の該当するブロックおよび周
囲のカメラ画像中の該当するブロックの視差補償ベクト
ルとを入力し、評価関数に従って最適な特性、即ち正確
な視差補償ベクトルの検出を行う。
【0030】即ち、図4の例では、例えばカメラ画像K
22の視差補償ベクトル「f」の補正ベクトルを得るた
め、その水平成分に関しては同じ垂直方向のカメラ画像
K12,K32,K42の視差補償ベクトル「b」,
「j」,「n」を用いると共にその垂直成分に関しては
同じ水平方向のカメラ画像K21,K23,K24の視
差補償ベクトル「e」,「g」,「h」を補正ベクトル
検出部4において用いることとなる。
【0031】そして、検出された補正ベクトルは、好ま
しくはメモリ6に入力されると共に、可変遅延部5−0
〜5−nに入力される。可変遅延部5では、入力された
ベクトルをもとに参照画像を遅延させて出力する。出力
結果は、圧縮対象画像に対する予測値となるため、その
差分をとることにより予測誤差を符号化する。この符号
化の後、可変長符号化(VLC)を行い、多重化して伝
送路に送出する。
【0032】
【実施例】図5乃至図14は図1及び図3に示した補正
ベクトル検出部4の実施例を示し又は説明するためのも
のであり、以下に各実施例について説明する。但し、以
下の実施例では特に断らない限り図1の補正ベクトル検
出部4の説明とするが、図3の場合も基本的には同様で
ある。
【0033】実施例(その1):図5〜図6 まず、図5(a) には1つのカメラ画像中のブロック位置
と視差補償ベクトルとの関係が示されており、該当する
ブロックをB22、周りのブロックをB11〜B33と
する。従来方式に従って図1の視差補償ベクトル検出部
2で検出されたブロックB11〜B33に対して得られ
た視差補償ベクトルをSV11(Vx11,Vy1
1)、…、SV33(Vx33,Vy33)とする。
尚、Vx及びVyはそれぞれ水平成分及び垂直成分を示
している。
【0034】図6は図5に示した画像ブロックに関して
補正ベクトルを検出する補正ベクトル検出部4の実施例
を示したもので、この実施例では、同図(a) に示すフロ
ーチャートにより9個の視差補償ベクトルの水平成分V
x11〜Vx33の平均値をとっている。この際の回路
ブロック図は同図(b) となる。
【0035】また、視差補償ベクトルの垂直成分Vyに
ついても図示していないが図6(a)及び(b) と同様にし
て求めることができ、最終的な補正ベクトルとしての視
差補償ベクトルSv(Vx,Vy)が得られる。
【0036】尚、上記の実施例を図3の本発明(その
2)に適用したときは、ブロックB11〜B33を図4
に示したブロック(ベクトル「a」〜「p」のブロッ
ク)として処理すればよい。これについては図12及び
図13で後述する。
【0037】実施例(その2):図7 この実施例は、やはり図5に示した画像ブロックに関し
て補正ベクトルを検出する補正ベクトル検出部4の実施
例を示したもので、この実施例も図6の実施例と同様に
9個の視差補償ベクトルの水平成分Vx11〜Vx33
の平均値をとっているが、但し、図6の実施例と比較し
て、各々の視差補償ベクトルの平均値をとった値Vx’
(Vy’も同様)と、該当するブロックの値に、係数α
(0<α<1)による重みを付けて加算した点が異なっ
ている。この際の回路ブロック図が図7(b) に示されて
いる。
【0038】実施例(その3):図8〜図10 図8(a) には1つのカメラ画像中のブロック位置と視差
補償ベクトルとの関係が示されており、この実施例では
図5の実施例より多くのブロックを用い、該当するブロ
ックをB33、周りのブロックをB11〜B55とす
る。そして、従来方式に従って図1の視差補償ベクトル
検出部2で検出されたブロックB11〜B55に対して
得られた視差補償ベクトルをSV11(Vx11,Vy
11)、…、SV55(Vx55,Vy55)とする。
【0039】また、図1に点線で示したように入力画像
(又はそのローカルデコード画像)そのものを入力する
ので、ブロックの性質(平坦部、エッジ部、細かい模様
部)を示すパラメータを、公知の技術である分散等を用
いて求める。
【0040】即ち、図8(b) の表に示すように、分散を
Hで表した場合、その値が小さければ平坦部、平均的な
値であれば、エッジ部、値が大さければ細かい模様部で
ある。すなわち、Hが小さいときは立体映像において、
概ね空等の遠くにある大きい平坦なもの(あるいは、遠
くにある非常に細かい模様がボケたもの)や、近くの平
坦なもの等である。Hが平均的な値であれば、概ね模様
の入った物体、あるいは遠近の境界等である。Hが大き
い時には、遠くにある大きい模様、あるいは、近くにあ
る細かい模様等を示すこととなる。尚、この分散Hは同
図(c) に示す式で表される。
【0041】このことを考慮して図9に示すフローチャ
ート及び図10の回路ブロック図によりこの実施例(そ
の3)の補正ベクトル検出部4を説明すると、最適な特
性の補正ベクトルを得るためには、分散Hが平均的な値
である場合が多い。
【0042】そこで、まず、原画Bijから平均値Bij’
を求めて分散H(Hij)を求めた後、分散Hの平均値H
AVR を求める(ステップS1)。次に、各分散Hから平
均値HAVR との差の絶対値に1を加算した値の逆数を分
散H’とする(ステップS2)。この分散H’は、平均
値HAVR から値が遠ざかるほど小さくなる一種の重みで
ある。そして、この重みを正規化するために、各分散
H’の平均値をWAVR とし(ステップS3)、更に、H
/WAVR をWとする正規化を行う(ステップS4)。
【0043】従って、求める水平成分Vxは、各Vx1
1〜Vx55に各Wを乗算して得られ(ステップS
5)、また垂直成分Vyは、各Vy11〜Vy55に各
Wを乗算して得られる(ステップS6)。
【0044】実施例(その4):図11 この実施例では、2フレーム過去の補正ベクトルとして
の視差補償ベクトルをB2V、1フレーム過去の補正ベ
クトルとしての視差補償ベクトルをB1V、現在の補正
ベクトルとしての視差補償ベクトルをSVとして(ステ
ップS11)、過去の視差補償ベクトルの変位と比べ、
現在の視差補償ベクトルの変位が著しく異なる場合、ミ
スマッチしている可能性があるので、これを矯正しよう
とするものである。
【0045】但し、B1V,B2V,SVのいずれかの
視差補償ベクトルが0の場合(ステップS12)、ブロ
ック内において物体が消えたか或いは新たに現れたとい
う可能性があるため、SVに対し変更を加えず終了する
(ステップS13)。
【0046】ステップ12において、いずれかの視差補
償ベクトルが0でない場合、過去の視差補償ベクトルの
変位B2V−B1V、現在の視差補償ベクトルの変位B
1V−SVを計算し(ステップS14)、過去の視差補
償ベクトルの変位の絶対値と現在の視差補償ベクトルの
変位の絶対値との差分の絶対値が閾値THより小さいか
否かを判定し(ステップS15)、小さければ許容変位
内として、SVに対し変更を加えず終了する(ステップ
S16)。
【0047】そうでない場合には、過去の変位分と1フ
レーム過去の視差補償ベクトルとを加算した値に係数α
を掛けて重み付けを行い、更に現在の視差補償ベクトル
にも係数(1−α)を掛けて重みを付け行い、両者を加
算し(ステップS17)、ミスマッチ時の視差補償ベク
トルの変更を行っている。
【0048】実施例(その5):図12〜図13 上述したように上記の実施例(その1)〜(その4)は
それぞれ図3の本発明(その2)にも適用可能である
が、図12はその最適な適用例を示しており、この実施
例では、カメラの配置によっては、縦一列のカメラのそ
れぞれのブロックのX方向の視差補償ベクトルVxはほ
ぼ同一であり、横一列のカメラのそれぞれのブロックの
Y方向の視差補償ベクトルVyはほぼ同一である、とい
うことに依拠して補正ベクトルである視差補償ベクトル
を検出しようとしている。
【0049】このため、まず図12に示すように、各カ
メラ画像K11〜K55(5×5の25眼の場合)中の
或る同一位置のブロックをそれぞれKB11〜KB5
5、ブロックの視差補償ベクトルSV11(Vx11,
Vy11)〜SV55(Vx55,Vy55)とする。
【0050】そして、縦一列のSxijの平均値をSx、
横一列のSyijの平均値をSyとし、図13(a) 及び
(b) にそれぞれ示すようにこれらの(Sx,Sy)で求
める補正ベクトルとしての視差補償ベクトルとなる。
【0051】上記の図13(a) 及び(b) により図3の補
正ベクトル検出部4で演算されて得られる視差補償ベク
トルSVは縦方向又は横方向のベクトルが同じであり、
従って図12における同じ列又は行のカメラ画像間は共
通の視差補償ベクトルとなって図3の可変遅延部5−0
〜5−nに与えるが、図13(c) に示すようにSxij、
Syijの情報を多少残す方法も考えられる。
【0052】何故なら、カメラの位置が、広い範囲にわ
たる場合、物体の凹凸等の変化によって、視差補償ベク
トルが変わる場合があるからである。
【0053】実施例(その6):図13(c) 即ち、0<α<1とし、Sx×α+Sxij×(1−α)
を、求めるX方向の視差補償ベクトル、Sy×α+Sy
ij×(1−α)を、求めるY方向の視差補償ベクトル、
とすることにより全ての視差補償ベクトルを異なった値
にして各可変遅延部5−0〜5−nに与えることができ
る。
【0054】実施例(その7):図14 上記の実施例により得られた視差補償ベクトルをより完
全なものにするために、この実施例では更に、評価関数
を設けて、正しい視差補償ベクトル(本発明による補正
ベクトル)と従来方式で得られた視差補償ベクトル(例
えば、図2のカメラ画像K22における視差補償ベクト
ル「カ」)とを比較し、特性の良好な方を選ぼうとする
ものである。これは、符号化自体が高周波成分(インパ
ルス等)を嫌うような、直交変換系の場合に効果があ
る。
【0055】図14において、まず、元の視差補償ベク
トルにより得られた予測ブロックと、符号化するべきブ
ロックの差分である予測誤差ブロックをYB1、本発明
に基づき得られた視差補償ベクトルを使って得た予測ブ
ロックと符号化すべきブロックとの差分である予測誤差
ブロックをYB2とする(ステップS21)。
【0056】そして、予測誤差ブロックYB1内のそれ
ぞれの画素について、画素の絶対値が閾値THを越えた
個数をK1、予測誤差ブロックYB2内のそれぞれの画
素について、画素の絶対値が閾値THを越えた個数をK
2とする(ステップS22)。
【0057】K1>K2ならば(ステップS23)、本
発明に基づき得られた視差補償ベクトルを用い(ステッ
プS24)、そうでなければ従来方式で得られた視差補
償ベクトルを用いる。
【0058】
【発明の効果】以上説明したように、本発明に係る画像
高能率符号化方式によれば、周囲の視差補償ベクトルの
情報或いは同時刻の他の多眼画像の視差補償ベクトルの
情報をも参照してできるだけ正確な視差補償ベクトルを
補正ベクトルとして得るように構成したので、従来のよ
うに、符号化画面と参照画面のブロックマッチングをと
るのみではなく、周囲や、他のカメラからの画像の情報
を利用して、比較的正確な視差補償ベクトルを得ること
ができ、そのため符号化効率及び視覚特性を向上させる
ことができる。
【図面の簡単な説明】
【図1】本発明に係る画像高能率符号化方式の原理構成
(その1)を示したブロック図である。
【図2】本発明に係る画像高能率符号化方式の原理構成
(その1)の作用を説明するためのカメラ画像図であ
る。
【図3】本発明に係る画像高能率符号化方式の原理構成
(その2)を示したブロック図である。
【図4】本発明に係る画像高能率符号化方式の原理構成
(その2)の作用を説明するためのカメラ画像図であ
る。
【図5】本発明に用いるカメラ画像のブロック位置と視
差補償ベクトルとの関係を説明するための図である。
【図6】本発明に用いる補正ベクトル検出部の実施例
(その1)を示した図である。
【図7】本発明に用いる補正ベクトル検出部の実施例
(その2)を示した図である。
【図8】本発明に用いるカメラ画像のブロック位置と視
差補償ベクトル並びにその性質との関係を説明するため
の図である。
【図9】本発明に用いる補正ベクトル検出部の実施例
(その3)のフローチャート図である。
【図10】本発明に用いる補正ベクトル検出部の実施例
(その3)の回路ブロック図である。
【図11】本発明に用いる補正ベクトル検出部の実施例
(その4)のフローチャート図である。
【図12】本発明(その2)に用いる多眼カメラ画像と
視差補償ベクトル並びにその性質との関係を説明するた
めの図である。
【図13】本発明に用いる補正ベクトル検出部の実施例
(その5,その6)のフローチャート図である。
【図14】本発明に用いる補正ベクトル検出部の実施例
(その7)のフローチャート図である。
【図15】多眼式立体映像システムの一般的な構成を示
したブロック図である。
【図16】多眼式(5眼×5眼)のカメラ出力例を示し
た図である。
【図17】従来の視差補償方式を示したブロック図であ
る。
【図18】ブロックマッチングと視差補償ベクトル検出
を説明したフローチャート図である。
【符号の説明】
1 ブロックマッチング 2,2−0〜2−n 視差補償ベクトル検出部 3,6 メモリ 4 補正ベクトル検出部 5,5−0〜5−n 可変遅延部 図中、同一符号は同一又は相当部分を示す。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 松田 喜一 神奈川県川崎市中原区上小田中1015番地 富士通株式会社内

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 同期した一対のカメラ画像間で一方の画
    像を圧縮対象画像とし他方の画像を参照画像としてブロ
    ックマッチング部(1) から得られたブロックマッチング
    結果により各画像ブロックの視差補償ベクトルの検出を
    行う視差補償ベクトル検出部(2) と、 該視差補償ベクトルを記憶するメモリ(3) と、 該メモリ(3) に記憶された視差補償ベクトルの内、該当
    するブロックとその周囲のブロックから最適な特性の補
    正ベクトルを求める補正ベクトル検出部(4) とを備え、 該補正ベクトルにより該参照画像の符号化データのロー
    カルデコード画像を可変遅延部(5) で可変遅延させた
    後、圧縮対象入力画像との予測誤差を求めて符号化し、
    更に該参照画像の符号化データと共に可変長符号化して
    多重化した後、伝送路に送出することを特徴とした画像
    高能率符号化方式。
  2. 【請求項2】 同期した3つ以上の多眼カメラ画像(F1
    〜Fn) の内の隣接する複数組のカメラ画像対の間で一方
    の画像を圧縮対象画像とし他方の画像を参照画像として
    各ブロックマッチング部(1-0〜1-n)から得られたブロッ
    クマッチング結果により該当ブロックの視差補償ベクト
    ルの検出を行う視差補償ベクトル検出部(2-0〜2-n)と、 各視差補償ベクトル検出部(2-0〜2-n)で得られた同時刻
    の視差補償ベクトルを記憶するメモリ(3) と、 該メモリ(3) の視差補償ベクトルの内の最適な特性の補
    正ベクトルを求める補正ベクトル検出部(4) とを備え、 各補正ベクトルにより該参照画像の符号化データのロー
    カルデコード画像を各可変遅延部(5-0〜5-n)で可変遅延
    させた後、圧縮対象入力画像との予測誤差を求めて符号
    化し、更に該参照画像の符号化データと共に可変長符号
    化して多重化した後、伝送路に送出することを特徴とし
    た画像高能率符号化方式。
  3. 【請求項3】 該補正ベクトル検出部(4) が、該特性と
    して各視差補償ベクトルの平均値を用いることを特徴と
    した請求項1又は2に記載の画像高能率符号化方式。
  4. 【請求項4】 該補正ベクトル検出部(4) が、該特性と
    して分散の平均値を用いることを特徴とした請求項1又
    は2に記載の画像高能率符号化方式。
  5. 【請求項5】 該メモリ(3) に加えて、過去の視差補償
    ベクトルを記憶する別のメモリ(6) を設けておき、該補
    正ベクトル検出部(5) が該過去の視差補償ベクトルも該
    補正ベクトルの検出の対象に含めることを特徴とした請
    求項1乃至4のいずれかに記載の画像高能率符号化方
    式。
  6. 【請求項6】 該補正ベクトル検出部(4) が、該過去の
    補正ベクトル及び現在の視差補償ベクトルが“0”でな
    く、過去の視差補償ベクトルの変位の絶対値と現在の視
    差補償ベクトルの変位の絶対値との差分の絶対値が閾値
    より大きいときには、過去の補正ベクトルとその変位分
    を加味した補正ベクトルとし、それ以外は現在の視差補
    償ベクトルとすることを特徴とした請求項5に記載の画
    像高能率符号化方式。
  7. 【請求項7】 該補正ベクトル検出部(4) が、該補正ベ
    クトルを検出するため、視差補償ベクトルの水平成分を
    求める際は、該当ブロックの垂直方向にあるカメラ画像
    の水平方向の視差補償ベクトルを、視差補償ベクトルの
    垂直成分を求める際は、該当ブロックの水平方向にある
    カメラ画像の垂直方向の視差補償ベクトルの情報を用い
    ることを特徴とした請求項1乃至6のいずれかに記載の
    画像高能率符号化方式。
JP25996492A 1992-09-29 1992-09-29 画像高能率符号化方式 Expired - Fee Related JP3150446B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP25996492A JP3150446B2 (ja) 1992-09-29 1992-09-29 画像高能率符号化方式

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP25996492A JP3150446B2 (ja) 1992-09-29 1992-09-29 画像高能率符号化方式

Publications (2)

Publication Number Publication Date
JPH06113335A true JPH06113335A (ja) 1994-04-22
JP3150446B2 JP3150446B2 (ja) 2001-03-26

Family

ID=17341379

Family Applications (1)

Application Number Title Priority Date Filing Date
JP25996492A Expired - Fee Related JP3150446B2 (ja) 1992-09-29 1992-09-29 画像高能率符号化方式

Country Status (1)

Country Link
JP (1) JP3150446B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1993019485A1 (en) * 1992-03-16 1993-09-30 Dense-Pac Microsystems, Inc. Ic chip package and method of making same
JP2007006485A (ja) * 2005-06-22 2007-01-11 General Electric Co <Ge> 4次元データを圧縮するためのシステム、方法及びコンピュータ命令
JP2009509454A (ja) * 2005-09-22 2009-03-05 サムスン エレクトロニクス カンパニー リミテッド 視差ベクトルの予測方法、その方法を利用して多視点動画を符号化及び復号化する方法及び装置
JP2009522932A (ja) * 2006-01-09 2009-06-11 トムソン ライセンシング マルチビュービデオ符号化のための低解像度アップデートモードを提供する方法及び装置
JP2009207183A (ja) * 2009-06-15 2009-09-10 Nippon Telegr & Teleph Corp <Ntt> 映像符号化方法、映像復号方法、映像符号化プログラム、映像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2009213161A (ja) * 2009-06-15 2009-09-17 Nippon Telegr & Teleph Corp <Ntt> 映像符号化方法、映像復号方法、映像符号化プログラム、映像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2011124822A (ja) * 2009-12-11 2011-06-23 Fujitsu Ltd 半導体集積回路、符号化方法及び撮像装置
US8644386B2 (en) 2005-09-22 2014-02-04 Samsung Electronics Co., Ltd. Method of estimating disparity vector, and method and apparatus for encoding and decoding multi-view moving picture using the disparity vector estimation method

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012081127A1 (ja) * 2010-12-17 2012-06-21 富士通株式会社 立体視動画像生成装置、立体視動画像生成方法、立体視動画像生成プログラム

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1993019485A1 (en) * 1992-03-16 1993-09-30 Dense-Pac Microsystems, Inc. Ic chip package and method of making same
JP2007006485A (ja) * 2005-06-22 2007-01-11 General Electric Co <Ge> 4次元データを圧縮するためのシステム、方法及びコンピュータ命令
JP2009509454A (ja) * 2005-09-22 2009-03-05 サムスン エレクトロニクス カンパニー リミテッド 視差ベクトルの予測方法、その方法を利用して多視点動画を符号化及び復号化する方法及び装置
US8644386B2 (en) 2005-09-22 2014-02-04 Samsung Electronics Co., Ltd. Method of estimating disparity vector, and method and apparatus for encoding and decoding multi-view moving picture using the disparity vector estimation method
JP2013085285A (ja) * 2006-01-09 2013-05-09 Thomson Licensing マルチビュービデオ符号化のための低解像度アップデートモードを提供する方法及び装置
JP2012213175A (ja) * 2006-01-09 2012-11-01 Thomson Licensing マルチビュービデオ符号化のための低解像度アップデートモードを提供する方法及び装置
JP2013085286A (ja) * 2006-01-09 2013-05-09 Thomson Licensing マルチビュービデオ符号化のための低解像度アップデートモードを提供する方法及び装置
JP2009522932A (ja) * 2006-01-09 2009-06-11 トムソン ライセンシング マルチビュービデオ符号化のための低解像度アップデートモードを提供する方法及び装置
US8902977B2 (en) 2006-01-09 2014-12-02 Thomson Licensing Method and apparatus for providing reduced resolution update mode for multi-view video coding
US9237353B2 (en) 2006-01-09 2016-01-12 Thomson Licensing Methods and apparatus for illumination and color compensation for multi-view video coding
US9241168B2 (en) 2006-01-09 2016-01-19 Thomson Licensing Methods and apparatus for illumination and color compensation for multi-view video coding
US9838694B2 (en) 2006-01-09 2017-12-05 Dolby Laboratories Licensing Corporation Methods and apparatus for illumination and color compensation for multi-view video coding
JP2009213161A (ja) * 2009-06-15 2009-09-17 Nippon Telegr & Teleph Corp <Ntt> 映像符号化方法、映像復号方法、映像符号化プログラム、映像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2009207183A (ja) * 2009-06-15 2009-09-10 Nippon Telegr & Teleph Corp <Ntt> 映像符号化方法、映像復号方法、映像符号化プログラム、映像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2011124822A (ja) * 2009-12-11 2011-06-23 Fujitsu Ltd 半導体集積回路、符号化方法及び撮像装置

Also Published As

Publication number Publication date
JP3150446B2 (ja) 2001-03-26

Similar Documents

Publication Publication Date Title
US6163337A (en) Multi-view point image transmission method and multi-view point image display method
US5808664A (en) Method of converting two-dimensional images into three-dimensional images
US20140146139A1 (en) Depth or disparity map upscaling
US10326974B2 (en) Naked-eye 3D display method and system thereof
US10841558B2 (en) Aligning two images by matching their feature points
US20130242043A1 (en) Depth video filtering method and apparatus
US20070052794A1 (en) 3D image processing apparatus and method
JPH0698312A (ja) 画像高能率符号化方式
US9451233B2 (en) Methods and arrangements for 3D scene representation
KR20120049997A (ko) 영상 변환 장치 및 이를 이용하는 디스플레이 장치와 그 방법들
AU2019275631A1 (en) Motion vector field coding and decoding method, coding apparatus, and decoding apparatus
JP3150446B2 (ja) 画像高能率符号化方式
Kaviani et al. Frame rate upconversion using optical flow and patch-based reconstruction
US7706621B2 (en) Method and an apparatus to divide image blocks
JPWO2013105381A1 (ja) 画像処理方法、画像処理装置および画像処理プログラム
JP2003061116A (ja) 立体映像表示装置
US20120113221A1 (en) Image processing apparatus and method
JPH10191393A (ja) 多視点画像符号化装置
JP3080487B2 (ja) 多眼式立体映像の動き補償予測方法
JPH0750856A (ja) 多眼式立体映像のレベル補正回路
Chang et al. Compositing motion-compensated video within the network
JP3279354B2 (ja) 3次元ボリュームデータの動き補償予測方式
JP3081385B2 (ja) 多眼式立体映像の動き補償予測方式
JP5742886B2 (ja) 立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム
JP3080485B2 (ja) 多眼式立体映像の直交変換符号化方式

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20010105

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080119

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090119

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100119

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110119

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110119

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120119

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees