JPH01194583A - 一連の画像の動きを推定し、補償する方法及び配置並びにこの配置を設けた画像伝送システム - Google Patents

一連の画像の動きを推定し、補償する方法及び配置並びにこの配置を設けた画像伝送システム

Info

Publication number
JPH01194583A
JPH01194583A JP63300449A JP30044988A JPH01194583A JP H01194583 A JPH01194583 A JP H01194583A JP 63300449 A JP63300449 A JP 63300449A JP 30044988 A JP30044988 A JP 30044988A JP H01194583 A JPH01194583 A JP H01194583A
Authority
JP
Japan
Prior art keywords
arrangement
blocks
image
displacement
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP63300449A
Other languages
English (en)
Inventor
Mohammad-Reza Haghiri
モアマッド‐リザ・アジリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Philips Gloeilampenfabrieken NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Philips Gloeilampenfabrieken NV filed Critical Philips Gloeilampenfabrieken NV
Publication of JPH01194583A publication Critical patent/JPH01194583A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/015High-definition television systems
    • H04N7/0152High-definition television systems using spatial or temporal subsampling
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Color Television Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Facsimiles In General (AREA)
  • Reduction Or Emphasis Of Bandwidth Of Signals (AREA)
  • Medicines Containing Antibodies Or Antigens For Use As Internal Diagnostic Agents (AREA)
  • Steroid Compounds (AREA)
  • Facsimile Transmission Control (AREA)
  • Television Systems (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 本発明は各画素の輝度がディジタル的に表わされる一連
の画像の動きを推定し、補償する方法に関するものであ
る。
又、本発明はかかる方法を実施する動きの推定及び補償
配置、或いはかかる配置を設けた画像伝送システム、更
にばかがるシステムの送信段及び受信段にも関するもの
である。従って本発明ではこの型の動き推定及び補償を
サブサンプリング及び一時補間方法に適用する。
かかる発明は、例えば高品位テレビジョンの分野、又は
例えば遠隔会議(ビデオ会議とも称する)或いは画像記
録に適用することもできる。フランス国特許出願PR−
A 2,590,701号明細書には、反復的変位推定
方法に基づく動き推定配置が記載されている。正確には
、この方法では所定の基準に従って画素を3群に分類し
、これらの群で点が画像の順次の走査に従ってL個の素
子遅延して分類される。この分類は、分類樹木の検査後
、その順次の分校が3つの可能な群に関連し、これら群
にL個の順次の画素が属するものとして、実行すること
ができる。好適には、この分類は、現時点の画素に次ぐ
L個の画素に対しこれら可能な順次の群の所定の限定数
を前記樹木において検査した後簡単に行うことができる
一連の画像において、前の画像に基き1つの画像を再生
したい場合には、実際上、前記文献に記載された配置は
満足に作動する。しかし、これを高品位テレビジョンに
用いる場合にはかかる配置の動作原理が好適でないこと
を確かめた。この高品位テレビジョンの用途では、実際
上、処理作動を追加して、伝送チャネル(SECAM又
はPAL標準と置換するためにMAC−パケット伝送標
準を用いる場合にはアナログチャネル)を適合し、極め
て多量の情報成分を伝送する必要がある。多くの例のう
ち、かかる処理作動は特定のサブサンプリング作動を有
し、これによって同一の画像内又は同一のフィールド内
の成る数の画素を規則正しく抑圧するか、或いは一時サ
ブサンプリング作動を有し、これによって一連の順次の
画像の成る数の画像又はフィールドを規則正しく抑圧し
得るようにする。
高品位テレビジョンでは、成る数の画像又はフィールド
、例えば2画像毎に1画像のこの周期的な抑圧によって
後続の列n−2の画像に基く再生を行うようにしている
。この再生は可能ではあるが適宜な品質の高品位画像を
再生するものではない。
本発明の目的は、上記用途の場合に伝送すべき多数の情
報成分及び利用できる伝送チャネルの制限されたスペク
トル特性を考慮する必要のある用途に使用するに好適な
一連の画像の動きを推定し、補償する方法を提供せんと
するにある。
本発明方法は、各画素の輝度をデジタル的に表示する一
連の画像の動きを推定し、補償するに当り、各画像を、
IXJ個の画素より成るブロックに分割し、これらブロ
ックの各々は、1ブロツクが位置する画像ラインの行と
、このm番目のラインのブロックの位置とを夫々示す2
つの座標(m。
n)によって規定し、 (A)個別の行2k、 2k+1、2k+2kより示さ
れる画像の最初のシーケンスに3つの連続画像を保持し
; (B) これらブロックを、補正された水平方向の反復
によって推定されるブロックと、補正されない水平方向
の反復によって推定されるブロックと、垂直方向の反復
によって推定されるブロックとに分類する3つの群をこ
れらブロックに対して規定し、これら群においては分類
を行うために考慮する現ブロックχに続くしブロックに
対し可能な群の所定数のシーケンスを試験して進行画像
走査に従ってLブロックの遅延により前記ブロックを分
類し、この分類に基づ(基準は1つの画像及び他の画像
間に生じる変位を考慮して画像のシーケンス中の2つの
画像間の輝度の差とし; (C)各分校点にみられる3つの分枝の数から可能な群
の数に等しく、各順次のレベル1−Lに結果として生ず
る3L個の分校がL個の連続する考察ブロックに対する
可能な群のシーケンスに相当するように分類樹木を形成
し; (D)各レベルの各分校に対して3つのパラメータを害
11当て: a)第1パラメータである変位ベクトルは前の画像2k
及び次の画像2k+2k対し画像2k+1の現ブロック
の任意の変位を表わすと共に反復的変位推定法によりブ
ロックを表わす画素に対し計算し; b) 第2のパラメータである累積歪みパラメータは、
ブロックの数りにおいて現ブロックの概算誤りと前のブ
ロックの概算誤りとの累積和を表わし、各概算誤りは1
つのブロックに対する推定変位がL個の後続ブロックに
対し推定された変位に及ぼす影響を考慮して最小とし、
この可能な影響は分類樹木の3L個の可能な分枝間で残
存分枝と称される最小累積歪みのM個の分枝(Mは分枝
の最大数3Lよりも小さい制限数)を除き調査せず; (E)走査方向におけるL個の連続ブロックに関しこの
方法の終了時に、現ブロックに対しLブロック前に位置
するブロックの有効群に関し多数決判定を行い、この判
定は、残存分枝を試験し、L個のブロック前に位置する
ブロックを残存する分枝の大部分が関連する群に分類す
ることにより行い、この判定処理を多数決判定が行われ
ないL個の最後のブロックを除き同様に繰返すようにし
たことを特徴とする。
かかる方法は、達成された動きの推定が高品位テレビジ
ョンの適当な伝送特性を考慮する場合に有利である。特
に正確には、−旦情報成分を抑圧すると、本発明方法に
よって反復の選定を次のように行う反復的推定を得るこ
とができる。即ち、1画像への画像ブロックの変位が特
定の隣接ブロックの変位に極めて類似して起こるものと
すると、これから、この変位を補正項があってもなくて
も推測することができる。同時に、この方法によってこ
の反復的推定を最適化してこれら反復モードによるブロ
ックの分類により推定誤りを最小にし、前記分類は、成
る遅延により行い、分類シーケンスの前の統計的調査を
、現在のブロックに続く成る数のブロックに対し適用可
能とし、従ってシーケンスが調査された後まで何等の分
類判定を実際に行わないようにする。
図面につき本発明を説明する。
説明の便宜上、撮像し、信号処理し、アナログ−ディジ
タル変換した後、1250ライン、ライン当り1440
個の画素、50Hz、飛越し2:1で形成された一連の
デジタル画像が得られ、これにより伝送すべき高品位画
像が得られるものとする。以下の記載において用語を簡
単化するために、飛越しフォーマットの2つの奇数及び
偶数フィールドの組合せとして画像を規定する代りに、
予定瞬時tに関して得られる全部の空間情報(即ち1フ
イールドの等価)として画像を規定する。各画像は、各
々が次に走査されるIXJ画素を具えるN個のブロック
に細分割する。これらブロック自体の各々は各ブロック
を表わす画素Xの2つの座標(m。
n)で規定され、ここにmは各画素が位置する画像ライ
ンの行であり、nはこのm番目のラインのブロックの列
である。
一連のデジタル化画像を処理する方法は次の通りである
。伝送に当り、この画像シーケンスを前置濾波して空間
サブサンプリングが後続する次のサブサンプリング作動
の周波数帯域の外側に位置する高い周波数の全部を除去
し得るようにする。
この空間サブサンプリングとは、例えばラインークイン
カンクスとも称され、成るパーティのラインの2画素毎
に1画素を除去すると共に他のパーティのラインで同様
に2画素毎に1画素を除去するが1画素分の水平変位を
有するようなザブサンプリング作動である。又、一時サ
ブサンプリングによって画像シーケンスの2画像から1
画像を消去せしめるようにする(周波数が1/Tの場合
(ここにTは初期画像シーケンスの2つの連続画像を分
離する時間間隔に相当する)には、一時サブサンプリン
グ後の2画像間の時間間隔は2丁となる)。
即ち例えば瞬時t+(2k+1)Tに関連する画像は除
去されるが、瞬時t+2kT及びt+(2k+2)’T
に関する画像は保持される。
次いで、かくして空間的及び時間的にサブサンプルされ
た画像のシーケンスを、画像シーケンスが適合する周波
数帯域で転送チャネル、本例ではアナログMACチャネ
ルに伝送する。一時サブサンプリングと同時に、フィル
タ処理後、実際の動き推定を行って一旦伝送されて除去
された画像を再生する動き情報成分を決めるようにする
。かかる再生に必要且つ充分なこれら画像情報成分はア
ナログMACチャネルに関連するデジタル支援チャネル
(OATVチャネル、デジタル支援TVを表わす)を経
て伝送する。
受信側では、アナログチャネルにより伝送された信号の
後置フィルタリングの後に一時補間(即ちこれら信号に
基づく空間補間)を行い、且つ後置フィルタ処理後の出
力信号及びデジタル支援チャネルを経て伝送された情報
成分に基づく新たな動き推定によって再び高品位画像を
得るようにする。第18及びlb図は上述したこれら機
能の全部、即ち送信側では、前置フィルタリング配置1
、空間サブサンプリング配置2、一時サブサンプリング
配置3、後置フィルタリング配置4、動き推定配置5、
アナログチャネル6及びデジタル支援チャネル7;受信
側では、これらチャネル6及び7の出力側に配設された
空間後置フィルタ配置8、動き推定配置9、一時補間配
置12及びテレビジョン受像機13を夫々示す。
これら作動の目的、即ち、除去された画像の各ブロック
(例えば瞬時t +(2k+1) Tに相当する画像又
は(2k+1)番目の画像の各ブロック)に対し、変位
ベクトルDを決めて除去された画像を囲む除去されてい
ない画像の和の’AC本例では画像2k及び2k+2の
和の2)に基づいて除去された画像を推定し得るように
した目的の後、本発明による動きの推定、補償方法を詳
細に説明する。本例では、この概゛算を後述する式(1
)により表わす。ここにXは画像2k+1で現に考察さ
れるブロック、又はその表示素子を示し、Dは動きの推
定が画像(2k、 2k+2)に適用された際の動きベ
クトルを示し、Bは画像(2k+1)の現在のブロック
の概算を示す。。
本発明によれば画像のブロックの走査が進行する際、こ
れらブロックを、次の3つの群のうちの1つの群で、後
述するしブロックを経る変位によって分類する。第1群
のブロックは、補正された水平反復により推定されたブ
ロックを示し、第2群のブロックは補正されていない水
平反復により推定されたブロックを示し、第3群のブロ
ックは垂直反復により推定されたブロックを示す。即ち
送信時に除去すべき、及び受信時に再生すべき画像2k
+1の各現在のブロックXは、画像の走査方向にみて前
のブロックの1つが受けた変位と同−又はこれに近い変
位を受けるものとする。Di+1を現在のブロックXの
変位ベクトルとする場合には3つの解決策が可能となる
(a)  走査方向における現在のブロックXに先行す
るブロックの変位ベクトルをDムで示し、このベクトル
D直に指標りを付してこれが水平変位に関連することを
表わす場合式(2)を得ることができる。即ちり、、、
は変位補正項dDi、により修正されたブロックの解析
方向にみた前のブロックの変位ベクトルD1に等しくな
る。ブロックの動きは水平方向反復によって推定され、
現在のブロックは、この分類に関する判定がこの瞬時に
とられる際第1群のブロックに属するようになる。前述
したようにかかる判定は成る遅延後にのみ行うことがで
きる。
(b)  第2の解決策は式(3)によって表わされる
解決策に相当する。ここに口、。1は何等変位補正項が
ない場合の変位ベクトルDihに等しく、従って現在の
ブロックは判定が何等遅延なく直ちに行われる際第2群
のブロックに属するようになる。
(c)  第3の解決策は、現ブロックの変位を、式(
4)により表わされる変位補正項dD、vにより修正さ
れたこの現ブロックの垂直方向の隣接ブロックの変位ベ
クトルに等しくする必要があることであり、ここにVは
空間的に隣接するブロックの垂直方向の位置を表わすベ
クトルD、を示す。
前述した所は実際に各判定を成る遅延後にのみ行うこと
について説明した。3つの群の1つにおける各ブロック
を分類することは、直ちに行わず、考慮されたブロック
に続くしブロックに対する所定数の可能な群のシーケン
ス後にのみ行う。これがため変位ベクトルの方向及び振
幅は、ブロックの群及びこのブロックに対し、又はブロ
ックを表わす中央素子Xに対し生ずる分類誤りの関数と
して次のブロックで補正する。この分類誤りは、現ブロ
ック(画像2k+2)の表示素子と、前の画像に対する
このブロックの有効変位を考慮して前の画像2kの関連
する素子との間の輝度差に等しい。
分類の規準を規定するために、(関連する動作回路の複
雑さを制限する目的での成る制限内で)1つのブロック
に対し推定された変位が次のしブロックに対して推定さ
れた変位に及ぼす影響を試験することにより分類誤りを
最小にする手段がとられた。この影響は第2図に示す分
類樹木を、そのレベル1.2.・・・Lの順次の分枝が
走査方向における順次のしブロックが属すると思われる
3つの可能な群に相当するように構成することによって
研究することができる。L個の分枝レベルが存在するも
のとすると、かかる樹木は3Lの分枝を有し、そのうち
の任意の数Mのみのいわゆる残存分枝が実際に使用され
るようになる。例えば第2ブロツクの到来時にこの樹木
に3つの分枝が構成され、その後この処理がかくして現
われる各分枝に対し繰返されるようになる。従って分枝
の数は、少なくとも現われる分枝の数が制限Mよりも少
い場合に各レベルで3倍にされるようになる。かように
認定された制限数は所定分枝レベルに対し可能な分枝の
最大数よりも著しく少く、実際上、−般に固定されてか
かる方法を実施する回路配置の複雑さを制限し得るよう
にする。この数Mが過剰になると直ちに、Lよりも少い
次数のレベルに対しても樹木構造において残存分枝をM
分枝以下に系統だって保持し、他の分枝を除去し得るよ
うにする。
第2図に示す分類樹木では、各分枝レベルに対し、且つ
3つの群に関連する3つの分枝の各々に対し2つのパラ
メータを関連させるようにする。
第1のパラメータは既に前に規定され、分枝レベル1〜
Lに従って、且つ可能な群(第1、第2及び第3群に対
し夫々h、p、v)に従って第2図−に示された変位ベ
クトル、例えばD (2,h)、 D(3,p)。
・・・等であり、各分枝の第2パラメータの特性は上記
レベル及び可能な群に従って現われる累積歪み、例えば
dist(1,p)+dist(3,v) ++等であ
る。ここに云う累積歪みとは、ブロックしの群における
現ブロックの概算誤り及び前のブロックの概算誤りの累
積和を意味するものとする。各素子の概算誤りはこの点
と前の画像の対応点との輝度差に比例し、ここでは式(
5)に従ってブロックX、叶D (X、 D)の各素子
に対し表示する(ここにDは各分枝に関連する動きのベ
クトルを示す)。現ブロックに対し、この概算誤りはブ
ロックの画素全部の誤りDFDの二乗の和に等しい。第
2図の樹木では動きのベクトル及び累積歪みの表示はそ
の全部に再現できないため、分枝が著しく多数となる場
合にはこの樹木が複雑となり過ぎないようにする。
上述した所ではDi+1 、即ち現ブロックX(Xはこ
のブロックの代表面素である)変位ベトクルを、分類判
定が直ちに行われた場合にこのブロックが属する群に依
存する関係式(2)、(3)又は(4)の1つによって
規定した。第2群のブロックに対してOi。1はoth
に等しくなり、従ってその決定は直ちに行われるように
なる。第1及び第3群のブロックに対しては、夫々dD
ih及びdD、vを評価する必要がある。この変位補正
項dDは、前の画像の変位を考慮して代表点に対応する
画素の輝度の傾斜(又は空間変化)と、例えば式(6)
により表されるブロックを表わす中央画素の輝度の強さ
の概算誤り(以前に規定)との積に比例する。
この関係において、ベクトル形状で表わされる画素の空
間輝度の傾斜(水平方向の傾斜、垂直方向の傾斜)は前
の画像の対応画素X −DEP iの隣接画素P+、P
t、P+、Paの輝度に作用する。第3図はこれら画素
X−DEP iを囲む4つの画素Pl+ P2+P3.
 Paを示し、この空間傾度を式(7)によって規定す
る。本発明の特定の場合には式(8)により表わされる
この傾斜は、画像2kに対する画素X −D/2の領域
及び画像2k+2k対する画素X + D/2の領域の
順次の画像2k及び2k+2k対して計算された傾斜の
和の乙である。即ち式(8)において、GRAD (X
−D/2.2k)は画像2k(7)画素X −D/2を
囲む画素P、 −P、に関連し、GRAD (X+D/
2゜2k + 2)は画像2k+2の画素X + D/
2を囲む画素点p、 −p、に関連する。
樹木を構成する方法は、新たなパラメータD(1)及び
dist (、)を各新たな分枝にリンクさせながらL
番目のブロックまで継続する。次いでLブロックの現在
考慮中のブロックの前のブロックの有効群及び有効変位
ベクトルに関し多数決判定を行う。
上述したように、この遅延判定を行う前に、数M以上の
分枝全部を順次除去(l及びL間に構成される各レベル
で)することにより3L−M分枝を除去し、この際残存
分枝は最も弱い累積歪みを有する分枝である。分類樹木
の構成終了時のM個の残存分枝間で、(又はレベルの数
が充分に低くて数3Lが高くなり過ぎず、分枝の除去が
行われない場合の3L個の分枝間で)これら分枝の各々
に生ずる累積歪みを再び調査する。前述した所では動き
推定の目的は、画像2k+1の各ブロックに対し動きの
ベクトルを決め、これにより画像2k及び2k+2の和
の%に基づき画像2k+1の概算を得ることができるよ
うにすることである。この目的は、各画像ブロックに対
しパラメータDを割当てて式(9)が最小となるものと
する際、異って公式化することができる。これらの場合
の全部において遅延の判定を後述するように行う。即ち
L個の追加の画像ブロックに情報が存在するものとする
と、関連する残存分枝を調査し、(L個のブロックのう
ちの現ブロックの前の)第1ブロツクを、最高数の残存
ブロックが関連するブロックの群で分類する。従って関
連する変位ベクトルはこの第1ブロツクの変位ベクトル
であるとみなされ、以下同様とする。走査方向にL番目
のブロックから出発し、前述した処理により各新たなブ
ロックの到来時にL個のブロックのうちのこの新たなブ
ロックの前のブロックに相当する群(及び変位ベクトル
)を決めることができるようにする。画像のL個の連続
ブロックに対しては、かかる多数決判定は行わず、累積
歪みを最小にする分類シーケンスを保持する。
第4図は上述した方法を実施する動き推定補償配置の1
例を示す。デジタルサンプルがビデオ画像の場合54M
Hzに等しいサンプリング速度で例えば発生する入カラ
イン已に存在する読出し画像を、直列配置の3つの画像
メモリ10.20.30に供給して画像シーケンスの例
えば行2k、2k+1、2k+2の3つの順次の画像を
永久に記憶し得るようにする。画像2kを記憶するメモ
リ10の出力及び画像2k+2を記憶するメモリ30の
出力を反復的変位推定器40に供給して傾斜及び補正項
dDih及びdDivの計算を行い得るようにする。
この変位推定器40は4個の同一の推定段40−八〜4
0−Mで構成する。これら6個の推定段の各個別の段は
、補正された水平反復モードに従って新たな変位を計算
するセル40aと、垂直反復モードに従って新たな変位
を計算するセル40bとを具える。
実際上、セル40bはn個の推定段の各々に対して同一
とし、従ってこれら推定段の全部に対して共通とするの
が好適である。これがため、唯1個のセル40i(iは
1からHまで)のみを第5図(推定器40を示す)につ
き説明し、ここに指標iは関連する回路素子の全部に対
して示し、セル40bはM個の推定段に対し共通とし、
これに関連する素子には指標を付さない。
この第5図において、セル40i は減算器4011を
具え、その例えば正の入力側に画像メモリ10からの出
力を受け、その負の入力側に画像メモリ30からの出力
を受けるようにする。この減算器によって、その出力信
号として画像2k+2の現ブロックを表わす画素Xと、
前の画像2kの対応する画素X−DBP、との間の輝度
差を発生する。この減算器40117″゛ の出力信号を2個の乗算器4021及び412k供給し
、これら乗算器によって画素X−DEPiにおける輝度
の空間傾斜だけ乗算された積を発生する(乗算器402
1はi番目のセル40iに関連し、乗算器412はh推
定段に共通のセル40bに関連する)。この傾斜自体は
、隣接画素P、Pz 、P3.Pgの輝度に作用する傾
斜計算回路4031によってベクトル形状(方向mの傾
斜及び方向nの傾斜)で供給される。
次いで乗算器402量及び412のベクトル出力信号は
以下に示すように処理する。この乗算器4021の出力
信号を重みのない巡回形フィルタに供給して水平方向の
変位り、を与えるようにする。このフィルタは減算器4
041及びベクトルD6の遅延メモリである遅延回路4
051を具える。遅延回路4051は減算器4041か
らの出力を受けてその負入力端子にある遅延時間後再び
供給して減算器の出力側に補正水平反復モードに従って
新たな変位ベクトルを供給し得るようにする。乗算器4
12自体の出力信号を加算器414に供給し、この加算
器414には1ラインの遅延を生ずる回路60の出力を
も受けて垂直反復モードに従って新たな変位ベクトルを
供給し得るようにし、前記lラインの遅延の目的は後述
する。
最後に、動き推定補償配置には遅延判定回路50を設け
、その好適な例を第6図に示す。この遅延判定回路50
は先ず最初評価回路500を設け、これにより各画像2
k及び2k+2の関連するブロックX−DEPi及びX
+ DEPiの輝度の和の1/2を取出すようにする。
この評価回路500の出力側を並列に配設し、補正水平
反復モードに関連する分枝に対してはn個の減算器50
1 (1)−501(M)のn個の各入力端子に接続し
、且つ、他の減算器502(垂直反復モード)の入力端
子に接続し、更に補正を行わない水平反復モードに関連
する分枝に対してはM個の更に他の減算器50(1)−
50(M)のn個の各入力端子に夫々接続する。カッコ
(1〜M)間の数は分類樹木の接合点を示すことは明ら
かである。
群に従ってかくして得た値を(2M+1)個の回路51
1(1)−51HM)、512.及び51(1)−51
(M)で二乗し且つブロックの画素全部に対して平均化
し、これら回路の出力を3M個の加算器に供給して現ブ
ロックを形成する画素全部に対する分類誤りの和を得る
ようにする。遅延判定回路50のその他の素子は前述し
たフランス国特許出願FR−A2.590.701号明
細書の第5図につき説明した素子と殆んど同一であり、
従ってこの回路素子と同一の符号を付ける。しかし、分
類樹木の保護及び更新回路600によってLブロックの
現ブロックの前段の各ブロック(X −L)に対しては
群情報G(X−L)(即ちこのブロック(X−L)が厳
密に分類されている群を示す)及び関連する変位ベクト
ル情報D(X−L)を発生するが、第4図につき説明し
た場合に対しては群情報のみをデジタル支援チャネルを
経て伝送するものである。1ラインの遅延を生ぜしめる
遅延回路である回路60にベトクルD(X−L)を記憶
し、この遅延回路によってこのベクトルを1ラインの遅
延後に推定器40に伝送する。
受信に当り、アナログチャネル6の出力側には空間サブ
サンプリング配置2及び一時サブサンプリング配置3に
夫々空間及び一時サブサンプリング信号を得るようにす
ると共にデジタル支援チャネル7の出力側はブロックの
分類群を得るようにする。アナログチャネル6の出力信
号を後置フィルタリング配置8に供給し、このフィルタ
リング8の出力信号を動き推定配置9及び一時補間配置
12k供給する。
第7図は受信側における動き推定配置9の1例を示す。
この動き推定配置9は先ず最初2個の画像メモリ91及
び92を設け、これらメモリは後置フィルタリング配置
8の出力側に直列に配列されると共にアナログチンネル
を経て伝送された2つの順次の画像を記憶する。メモリ
91及び92の各々の出力を変位計算回路93に供給し
、この変位計算回路は前記メモリの2つの出力信号を受
けると共に走査方向においてその前のブロックの変位ベ
クトルD、及び前のラインに位置する空間的に隣接する
ブロックの変位ベル)02をも受けて、3つの反復モー
ド(補正された水平方向の反復、補正されない水平方向
の反復及び垂直反復)に相当する3つのベクトル値を供
給し得るようにする。
この目的のため、変位計算回路93には送信端に推定器
40に設けたセルと同一形式の2個のセル930及び9
40を設け、例えばセル930(又は940)には減算
器を設け、その1方の入力端子にメモリ91及び92の
1方の出力を供給し、他方の入力端子にメモリ91及び
92の他方の出力を供給し、その出力をベクトル乗算器
に供給し得るようにする。又、このベクトル乗算器には
傾斜計算回路のベクトル出力信号を供給し、この傾斜計
算回路に画像メモリ91及び92の出力を供給する。次
いでこのベクトル乗算器の出力信号を推定器40におけ
る重みを有さない2つの巡回形フィルタにより処理しな
いで、第2入力端子が後述するように規定された2つの
加算器によって処理する。
3つの可能な反復モードに相当する3つの変位ベクトル
値を乗算器94に転送し、この乗算器94はデジタル支
援チンネル7を経て伝送された群G(×=L)の関数と
してこの群に関連する変位ベクトルの1方を各ブロック
に対して選択して変位を考慮した2つの隣接画像の和の
172を発生する一時補間配置I2k転送する。更にこ
の変位ベクトルは、lラインメモリ95に供給してこれ
により1ライン遅延した後変位計算回路93の変位計算
セル940の加算器の第2出力端子に帰還すると共にこ
の変位計算回路93のセル930の加算器の第2入力端
子に直接帰還する。次いでこのセル930によって、?
i正されない水平反復モードの場合にこの変位ベクトル
値を直接供給するか(この変位ベクトルは前のブロック
の変位ベクトルと同一である。)又は補正された水平反
復モードの場合にはこの変位ベクトル値をdDihだけ
増大する。垂直反復モードの場合にはセル940によっ
てラインメモリ95により帰還され dD、いだけ増大
された値を供給する。
本発明は上述した例にのみ限定されるものではなく、要
旨を変更しない範囲で幾多の変形を加えることができる
本発明は上述したように送信時動き推定補償配置に関連
するか又は受信端に設けられた同様の動き推定補償配置
に関連するだけでなく、かかる推定補償配置を含む高品
位テレビジョン画像の伝送システムにも関連するもので
ある。特に本発明は、情報成分をチャネルの帯域幅に適
合させるために、伝送すべき情報成分の量を圧縮する処
理を行う制限された通過帯域を有するアナログチャネル
を経て画像シーケンスの伝送を行う場合のかかる画像伝
送システムにも関するものである。かかる適合は、基本
的には、情報成分の空間圧縮又は一時圧縮によって達成
し、これは上述した例では空間サブサンプリング装置2
及び一時サブサンプリン配置3によって達成している。
又、本発明は、かかる伝送システムで上述した構体を具
え、特に前述した好適例に従って動き推定補償配置を含
む送信段と、これに関連する受信段とを有している。前
述したようにかかる受信段は、後置フィルタ配置8と前
述した動き推定配置9を有する時間補間配置12との間
に設けるようにしている。
上述した伝送システムでは動き推定補償配置の出力側か
ら伝送すべき群の情報をデジタル支援チャネルを経て受
信段に供給するようにしている。
この受信段には動き推定配置9を設けるようにしている
。しかし受信段を簡単化する必要がある場合にはこの動
き推定配置9を省略することもできる。かようにして受
信端において(i送雑音の感度を減少させることができ
る。従ってデジタル支援チャネルにより伝送された情報
はもはやブロック分類群とはならず、これらブロックの
各々に対して最終的に保持された変位ベクトルとなり、
この変位ベクトルに情報を一時補間配置12k直接供給
し、従って空間後置フィルタ配置8及び動き推定配置9
を接続する導線はもはや必要でなくなる。
これがため本発明は、かくして修正した送信段及びこれ
から得た簡単な受信段並びにこれら送信及び受信段を有
する送信システムに関連するようになる。
本例の変更例では、デジタル支援チャネルにより伝送す
べきデータの量がこのチャネルの最大伝送流速よりも迅
速となる。従ってこの流速を減少させるために、伝送す
べき動きのベクトルを符号化するのが有利である。この
目的のための符号化回路としては種々のものがあり、従
ってその詳細な説明はここでは省略する。かかる回路を
選択する際の基準は、所望の流速と動きベクトルの伝送
との間の両立性及びデジタル支援チャネルの容量である
【図面の簡単な説明】
第18及びlb図は本発明伝送システムに含まれる主回
路配置量を示すブロック図、 第2図は補正水平反復モード、非補正水平反復モード及
び垂直反復モードにより推定される第1゜第2及び第3
群のブロックに分割し得る画像ブロック分類樹木の説明
図、 第3図は画素X−DEPiの輝度を決める4つの画素P
I、P2.P3.P4を示す説明図、第4図は本発明動
き推定補償配置の1例を示すブロック図、 第5及び6図は第4図の動き推定補償配置の反復変位推
定器及び遅延判定回路の構成を示すブロック図、 第7図は本発明画像伝送システムの受信端に設けられた
動き推定配置の構成を示すブロック図である。 1・・・前置フィルタ配置 2・・・空間サブサンプリング配置 3・・・一時サブサンプリング配置 4・・・後置フィルタ配置 5・・・動き推定配置6・
・・アナログチャネル 7・・・デジタル支援チャネル 8・・・空間後置フィルタ配置 9・・・動き推定配置   12・・・一時補間配置1
3・・・テレビジョン受像機 10・・・画像メモリ     20・・・画像メモリ
30・・・画像メモリ     40・・・反復変位推
定器50・・・遅延判定回路    60・・弓ライン
遅延回路91・・・画像メモリ     92・・・画
像メモリ93・・・変位計算回路    930・・・
セル94・・・乗算器       950・・・1ラ
インメモリFIG、 3 X−DEP Pl・   ・ 1 ・P2

Claims (1)

  1. 【特許請求の範囲】 1、各画素の輝度をデジタル的に表示する一連の画像の
    動きを推定し、補償するに当り、各画像を、I×J個の
    画素より成るブロックに分割し、これらブロックの各々
    は、1ブロックが位置する画像ラインの行と、このm番
    目のラインのブロックの位置とを夫々示す2つの座標(
    m、n)によって規定し、 (A)個別の行2k、2k+1、2k+2により示され
    る画像の最初のシーケンスに3つの連続画像を保持し; (B)これらブロックを、補正された水平方向の反復に
    よって推定されるブロックと、補正されない水平方向の
    反復によって推定されるブロックと、垂直方向の反復に
    よって推定されるブロックとに分類する3つの群をこれ
    らブロックに対して規定し、これら群においては分類を
    行うために考慮する現ブロックXに続くLブロックに対
    し可能な群の所定数のシーケンスを試験して進行画像走
    査に従ってLブロックの遅延により前記ブロックを分類
    し、この分類に基づく基準は1つの画像及び他の画像間
    に生じる変位を考慮して画像のシーケンス中の2つの画
    像間の輝度の差とし; (C)各分枝点にみられる3つの分枝の数から可能な群
    の数に等しく、各順次のレベル1−Lに結果として生ず
    る3^L個の分枝がL個の連続する考察ブロックに対す
    る可能な群のシーケンスに相当するように分類樹木を形
    成し; (D)各レベルの各分枝に対して3つのパラメータを割
    当て: a)第1パラメータである変位ベクトルは前の画像2に
    及び次の画像2k+2に対し画像2k+1の現ブロック
    の任意の変位を表わすと共に反復的変位推定法によりブ
    ロックを表わす画素に対し計算し; b)第2のパラメータである累積歪みパラメータは、ブ
    ロックの数Lにおいて現ブロックの概算誤りと前のブロ
    ックの概算誤りとの累積和を表わし、各概算誤りは1つ
    のブロックに対する推定変位がL個の後続ブロックに対
    し推定された変位に及ぼす影響を考慮して最小とし、こ
    の可能な影響は分類樹木の3^L個の可能な分枝間で残
    存分枝と称される最小累積歪みのM個の分枝(Mは分枝
    の最大数3^Lよりも小さい制限数)を除き調査せず;
    (E)走査方向におけるL個の連続ブロックに関しこの
    方法の終了時に、現ブロックに対しLブロック前に位置
    するブロックの有効群に関し多数決判定を行い、この判
    定は、残存分枝を試験し、L個のブロック前に位置する
    ブロックを残存する分枝の大部分が関連する群に分類す
    ることにより行い、この判定処理を多数決判定が行われ
    ないL個の最後のブロックを除き同様に繰返すようにし
    たことを特徴とする一連の画像の動きを推定し補償する
    方法。 2、数Lを0になるように選定し、 (A)個別の行2k、2k+1、2k+2で表わされる
    画像の最初のシーケンスに3つの連続画像を保持し; (B)各ブロックに対し2つのパラメータを割当て: a)第1のパラメータである変位ベクトルは前の画像2
    k及び次の画像2k+2に対し画像2k+1の現ブロッ
    クの可能な変位を表わすと共にこのブロックの代表素子
    に対して計算し; b)第2のパラメータである局部歪みパラメータは現ブ
    ロックの概算誤りを表わし; (C)これらブロックを、補正された水平向の反復によ
    って推定されるブロックと、補正されない水平方向の反
    復によって推定されるブロックと、垂直方向の反復によ
    って推定されるブロックとに分類する3つの群をこれら
    ブロックに対して規定し、これら群においては分類を行
    うために最小とする必要のある概算誤りを試験して進行
    画像走査中前記ブロックを分類し; (D)局部歪みの試験後この方法に従って現ブロックの
    有効群に関する判定を行うようにしたこと を特徴とする請求項1に記載の一連の画像の動きを推定
    し補償する方法。 3、直列に配設され、画像のシーケンスの例えば行2k
    、2k+1、2k+2により表わされる3つの各連続画
    像を永久的に記憶する第1、第2及び第3の画像メモリ
    と、これら第1及び第3の画像メモリの出力信号を受け
    て分類樹木の各延長点でこの分類樹木の接続点に対する
    変位ベクトルを更新してこれら変位ベクトルを遅延判定
    回路に供給する反復変位推定器とを具え、この遅延判定
    回路は、前記更新情報及び前記画像メモリの出力を受け
    てL個のブロックの現ブロックの前の各ブロックに対し
    この前のブロックが最終的に分類された群の情報及び関
    連する変位ベクトルの情報を供給することを特徴とする
    請求項1及び2の何れかの項に記載の方法を実施する一
    連の画像の動きを推定し補償する回路配置。4、前記反
    復変位推定器はM個の推定段を具え、各推定段は補正さ
    れた水平反復モードに従って新たな変位を計算するセル
    と、垂直反復モードに従って新たな変位を計算するセル
    とを具えることを特徴とする請求項3に記載の回路配置
    。 5、前記遅延回路は、 (A)個別の画像2k及び2k+2の関連するブロック
    X−DEP_i及びX+DEP_iの輝度の和の1/2
    を評価する回路と: (B)この回路の出力側に並列に配置され、補正された
    水平反復モードに関連するM個の分枝及び垂直反復モー
    ドに関連する分枝並びに補正されない水平反復モードに
    関連するM個の分枝に夫々対応する(2M+1)個の減
    算器及びその後段の直列配置の(2M+1)個の二乗回
    路と; (C)出力信号が前記分類樹木の分枝の累積歪みを表わ
    す3M個の加算器と; (D)この3M個の加算器の出力信号の選択回路と; (E)前記分類樹木を保持し、更新する回路とを具える
    ことを特徴とする請求項4に 記載の回路配置。 6、伝送すべき情報成分の量に対し圧縮処理を施して通
    過帯域に適合させるための制限通過帯域を有するチャネ
    ルを用い、少なくとも1個の送信段及び受信段を具え、
    この送信段に請求項3〜5の何れかの項に記載の動きを
    推定し、補償する回路配置を設けるようにしたことを特
    徴とする画像伝送システム。 7、前記送信段及び受信段は少なくとも1個の空間サブ
    サンプリング配置及び一時サブサンプリング配置を夫々
    具えると共に少なくとも空間後置フィルタ配置及び一時
    補間配置を具え、L個のブロックのうちの現ブロックの
    前のブロックが最終的に分類される群の情報を供給する
    動き推定補償回路配置の出力側を群情報の伝送を行うデ
    ジタル支援チャネルに結合するようにしたことを特徴と
    する請求項6に記載の画像伝送システム。 8、前記受信段は、空間後置フィルタ配置及び一時補間
    配置間のリンクに並列に接続され、前記デジタル支援チ
    ャネルの出力側にも接続され、空間後置フィルタ配置の
    出力側に直列に配設された第1及び第2画像メモリを有
    する動き推定配置と、2つの画像メモリの各々の出力を
    受け、補正された水平反復、補正されない水平反復及び
    垂直反復を夫々表わす第1、第2及び第3反復モードに
    夫々対応する3つの変位ベクトルを供給する変位計算回
    路と、前記デジタル支援チャネルの出力情報に関連する
    変位ベクトルの1つを各ブロックに対して選択してこの
    ベクトルを一時補間配置に転送する乗算器又はスイッチ
    ング回路とを具えることを特徴とする請求項7に記載の
    画像伝送システム。 9、前記送信段及び受信段は、少なくとも空間サブサン
    プリング配置及び一時サブサンプリング配置を夫々具え
    ると共に少なくとも空間後置フィルタ配置及び一時補間
    配置を具え、判定後に最終的に得られた変位ベクトルの
    情報を供給する動き推定補償回路の出力側を変位ベクト
    ル情報の伝送を行うデジタル支援チャネルに結合するよ
    うにしたことを特徴とする請求項6に記載の画像伝送シ
    ステム。 10、伝送すべき情報を構成するデータ速度を圧縮する
    符号化回路を、前記送信段の前記動き推定補償回路配置
    の出力側と前記デジタル支援チャネルの入力側との間に
    設けるようにしたことを特徴とする請求項9に記載の画
    像伝送システム。 11、前記受信段において、前記一時補間配置は、最終
    的に得られた変位ベトクルにより構成されたデジタル支
    援チャネルの出力情報を直接受けるようにしたことを特
    徴とする請求項9及び10の何れかの項に記載の画像伝
    送システム。 12、請求項6〜11の何れかの項に記載の画像伝送シ
    ステムに用いる送信段。 13、請求項6〜11の何れかの項に記載の画像伝送シ
    ステムに用いる受信段。
JP63300449A 1987-11-27 1988-11-28 一連の画像の動きを推定し、補償する方法及び配置並びにこの配置を設けた画像伝送システム Pending JPH01194583A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR8716477 1987-11-27
FR8716477A FR2623955B1 (fr) 1987-11-27 1987-11-27 Procede et dispositif d'estimation et de compensation de mouvement dans une sequence d'images et leur application dans un systeme de transmission d'images de television a haute definition

Publications (1)

Publication Number Publication Date
JPH01194583A true JPH01194583A (ja) 1989-08-04

Family

ID=9357249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63300449A Pending JPH01194583A (ja) 1987-11-27 1988-11-28 一連の画像の動きを推定し、補償する方法及び配置並びにこの配置を設けた画像伝送システム

Country Status (9)

Country Link
US (1) US4965666A (ja)
EP (1) EP0318121B1 (ja)
JP (1) JPH01194583A (ja)
KR (1) KR890009186A (ja)
AT (1) ATE100953T1 (ja)
DE (1) DE3887467T2 (ja)
FI (1) FI885458A7 (ja)
FR (1) FR2623955B1 (ja)
NO (1) NO885235L (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2648979B1 (fr) * 1989-06-27 1996-09-06 Thomson Consumer Electronics Procede de segmentation du champ de mouvement d'une image et son application au codage d'images video
US5072293A (en) * 1989-08-29 1991-12-10 U.S. Philips Corporation Method of estimating motion in a picture signal
GB9001468D0 (en) * 1990-01-23 1990-03-21 Sarnoff David Res Center Computing multiple motions within an image region
JPH03252287A (ja) * 1990-02-28 1991-11-11 Victor Co Of Japan Ltd 動画像圧縮装置
US5309237A (en) * 1992-03-31 1994-05-03 Siemens Corporate Research, Inc. Apparatus and method of compensating image-sequences for motion
US5276513A (en) * 1992-06-10 1994-01-04 Rca Thomson Licensing Corporation Implementation architecture for performing hierarchical motion analysis of video images in real time
US5341174A (en) * 1992-08-17 1994-08-23 Wright State University Motion compensated resolution conversion system
TW321748B (ja) * 1994-02-23 1997-12-01 Rca Thomson Licensing Corp
US5537155A (en) * 1994-04-29 1996-07-16 Motorola, Inc. Method for estimating motion in a video sequence
US5572248A (en) * 1994-09-19 1996-11-05 Teleport Corporation Teleconferencing method and system for providing face-to-face, non-animated teleconference environment
CN1217852A (zh) * 1997-02-13 1999-05-26 三菱电机株式会社 动态图象预测方式
SE512171C2 (sv) * 1997-07-02 2000-02-07 Forskarpatent I Linkoeping Ab Videoöverföring
US7463755B2 (en) * 2004-10-10 2008-12-09 Qisda Corporation Method for correcting motion vector errors caused by camera panning

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4232338A (en) * 1979-06-08 1980-11-04 Bell Telephone Laboratories, Incorporated Method and apparatus for video signal encoding with motion compensation
FR2590701B1 (fr) * 1985-11-22 1988-01-15 Labo Electronique Physique Procede et dispositif d'estimation de mouvement dans une sequence d'images
US4816914A (en) * 1987-01-07 1989-03-28 Pictel Corporation Method and apparatus for efficiently encoding and decoding image sequences
FR2613892A1 (fr) * 1987-04-10 1988-10-14 Labo Electronique Physique Procede et dispositif d'estimation de mouvement dans une sequence d'images
US4849810A (en) * 1987-06-02 1989-07-18 Picturetel Corporation Hierarchial encoding method and apparatus for efficiently communicating image sequences

Also Published As

Publication number Publication date
EP0318121B1 (fr) 1994-01-26
FR2623955B1 (fr) 1990-04-27
DE3887467T2 (de) 1994-08-04
US4965666A (en) 1990-10-23
FI885458A0 (fi) 1988-11-24
ATE100953T1 (de) 1994-02-15
DE3887467D1 (de) 1994-03-10
KR890009186A (ko) 1989-07-15
EP0318121A1 (fr) 1989-05-31
FI885458A7 (fi) 1989-05-28
FR2623955A1 (fr) 1989-06-02
NO885235L (no) 1989-05-29
NO885235D0 (no) 1988-11-24

Similar Documents

Publication Publication Date Title
US5793435A (en) Deinterlacing of video using a variable coefficient spatio-temporal filter
US6069664A (en) Method and apparatus for converting a digital interlaced video signal from a film scanner to a digital progressive video signal
JPH01194583A (ja) 一連の画像の動きを推定し、補償する方法及び配置並びにこの配置を設けた画像伝送システム
IT8422422A1 (it) Sistema televisivo a scansione progressiva
US4679084A (en) Method and apparatus for freezing a television picture
JPH0723350A (ja) 高画質tv(hdtv)の画像データ動き推定方法及びその装置
JP2012231377A (ja) 撮像装置及び画像生成方法
JP3130585B2 (ja) 動き評価ハードウェアとビデオシステムのデータ伝送容量要求を低減する方法と装置
JPH1013718A (ja) ノイズ除去回路
US20050270415A1 (en) Apparatus and method for deinterlacing video images
GB2202706A (en) Video signal processing
US20020047930A1 (en) Circuit and method for generating filler pixels from the original pixels in a video stream
JPH0846934A (ja) ディジタル画像信号の処理装置
JP2782766B2 (ja) 動画静止画変換方法
US7339626B2 (en) Deinterlacing video images with slope detection
JPH06153167A (ja) 動きベクトル検出回路
US7129988B2 (en) Adaptive median filters for de-interlacing
WO2006000977A1 (en) Image processor and image processing method using scan rate conversion
JP3745425B2 (ja) 動きベクトル検出方法および動きベクトル検出用適応切り替え型前置フィルタ
US6385250B1 (en) Image processing apparatus and image processing method
US4703341A (en) Television having luma/chroma separation apparatus
JP4470324B2 (ja) 画像信号変換装置および方法
US6266101B1 (en) Y/C separator
JP3893489B2 (ja) 信号処理装置および信号処理方法
JP3608228B2 (ja) ディジタル画像信号の変換装置