JPH11331847A - 画像変換方法、ディジタルカメラおよびコンピュ―タシステム - Google Patents
画像変換方法、ディジタルカメラおよびコンピュ―タシステムInfo
- Publication number
- JPH11331847A JPH11331847A JP11089985A JP8998599A JPH11331847A JP H11331847 A JPH11331847 A JP H11331847A JP 11089985 A JP11089985 A JP 11089985A JP 8998599 A JP8998599 A JP 8998599A JP H11331847 A JPH11331847 A JP H11331847A
- Authority
- JP
- Japan
- Prior art keywords
- block
- primary
- image
- digital image
- transforms
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/48—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
Abstract
無しに、画像の圧縮ドメイン表現を直接操作して、選択
された空間ドメイン操作を行う。 【解決手段】 完全な伸張および圧縮工程を行う必要な
しに、所望の空間ドメイン処理を達成するための、画像
の圧縮ドメイン表現の操作を含む画像処理法。この手法
には、エントロピーデコーディング41の後に、DCT
ドメイン画像処理42を行う。このDCTドメイン画像
処理42には、JPEG画像上のD4(正方形の対称の
二面グループ)における8個のオペレーションを行うた
めのアプローチの処理が含まれる。画像の90°回転
(D4でのオペレーション)のようなタスクについて
は、DCTドメインに基づく方法により、空間ドメイン
に基づく手法よりも速度がほぼ5倍増となる。これらの
簡易な圧縮ドメインに基づく処理法は、JPEGに基づ
くスチルカメラシステムに必要な画像処理タスクに十分
適合する。
Description
タの圧縮ドメイン表現の処理に関し、さらに詳しくは、
画像データを完全な伸張および圧縮の工程に付さずに、
画像の正規な幾何学的変換のような、ある空間ドメイン
処理を達成するための、圧縮ドメイン表現の取り扱いに
関する。
な高品質のディジタル化されたカラー画像では、RGB
カラー空間における赤(R),緑(G)および青(B)
またはYCBCRカラー空間における輝度(Y),クロ
ミナンス(CB)およびクロミナンス(CR)のそれぞ
れに対して8ビットの、24ビット/画素(ビット・パ
ー・ピクセル(bpp))が用いられている。このよう
な画像を圧縮しない状態(例えば空間または画素ドメイ
ン)で転送または格納することは、時間的および必要と
するメモリの点から極めて費用が嵩む。そのため、高品
質のディジタル化されたカラー画像を格納および/また
は転送するアプリケーションおよび装置、例えばディジ
タルカメラでは、現在入手可能な圧縮アルゴリズムを用
いて、典型的には圧縮フォーマットで格納および/また
は転送が行われる。
phic Experts Groupの略語)のよう
な圧縮基準の出現により、JPEG圧縮フォーマットの
みで内容を生成、保存するディジタル・イメージング・
システムおよびアプリケーションが標準である。例え
ば、EpsonPhotoPC 600、KodakD
C−10などのようなほとんどのディジタル・スチル画
像カメラ(DSCs)では、カメラが捕えた画像は直ち
にカメラ内で圧縮され、そのカメラの格納システムにJ
PEGファイルとして格納される。しばしば、表示に先
立って、これらの画像を操作する必要がある。典型的な
画像の操作としては、(a)ポートレートから風景モー
ドへの画像の回転またはその逆、(b)サイズの拡大ま
たは縮小のための画像のスケーリング、(c)画像にお
ける明度およびコントラストの変更、(d)新しい画像
を作成する目的のためおよび合成操作するための画像の
一部のクロッピング、(e)単純なビットマップ注釈の
画像への付加、および(f)可視/不可視な透かしの画
像への埋め込みが含まれる。ディジタル・カメラの格納
制限のために、これらの画像操作では処理される出力が
JPEGフォーマットであることが要求される。
み画像を利用可能とするという必要から、圧縮ドメイン
表現に直接応用可能な画像処理技術の開発に対する関心
が大いに高まっている。圧縮ドメイン処理法の研究は以
下のような事実が端緒となっている。(a)圧縮ドメイ
ンにおけるデータの容量は空間ドメイン表現に比べて極
めて小さいが、このことは、所望の処理タスクにとって
サンプル当たりのオペレーションが少なくて済むことを
意味する。(b)データを伸張し、続いて空間ドメイン
内で所望の画像処理関数を適用し、次いで転送または格
納効率を高めるため再圧縮することが必要な慣用のパイ
プライン処理では、画像の忠実度の低下を招きかねな
い。さらにこのような慣用のパイプライン処理は、時と
して圧縮タスクが伸張タスクよりも複雑であるため、演
算が極めて複雑化し、または待ち時間が長くなる。
法では、ハフマン(Huffman)・デコーディング
およびハフマン・エンコーディングのような複雑さの低
いタスクによりJPEG伸張および圧縮のタスクを置き
換えるので、演算の複雑さが軽減されることがある
(S.F.ChangおよびD.G.Messersc
hmitt,「Manipulation and C
omposition of MC−DCT Comp
ressed Video(MC−DCT圧縮ビデオの
操作および合成)」,IEEE JSAC Speci
al Issueon Intelligent Si
gnal Processing,vol.13,1〜
11ページ,1995年1月; N.Merhavおよ
びV.Bhaskaran,「A fast algo
rithm for DCT−domain inve
rse motion compensation(D
CTドメイン逆転補償用の高速アルゴリズム)」,IC
ASSP‘96,pp.IV.2307〜2310ペー
ジ,アトランタ,1996年5月; B.Natara
janおよびV.Bhaskaran,「A fast
approximate algorithm fo
r scaling down digital im
ages in the DCT domain(DC
Tドメインにおけるディジタル画像縮小のための高速近
似アルゴリズム)」,IEEE 画像処理国際会議(I
CIP),ワシントンD.C.,1995年10月;お
よびBrian SmithおよびLarry Row
e,「Algorithms for manipul
ating compressed images,
(圧縮画像操作のためのアルゴリズム)」,IEEE
Computer Graphics and App
lications,pp.34〜42ページ,199
3年9月、参照)。
けるディジタル画像の操作を行うのに伴う上述の問題を
克服することにある。
圧縮の工程を経由すること無しに、画像の圧縮ドメイン
表現を直接操作して、選択された空間ドメイン操作を行
うことにある。
ける対応する画像操作を行うのに必要な圧縮データ操作
を大幅に単純化するアルゴリズムのセットを提供するこ
とにある。
ータを有し、かつ別のセットの圧縮データを生じて、工
程逆転時には品質の低下を伴わずにオリジナル画像が生
成される操作工程を含む、圧縮ドメイン内で画像データ
を操作するアルゴリズムのセットを提供することにあ
る。
画像の一次変換(線形変換)ドメイン表現を操作するこ
とにより、ディジタル画像の空間ドメイン表現上で種々
の二面角対称オペレーションを行う手法が提供される。
ディジタル画像がJPEGファイルのような圧縮ビット
ストリームの形式である場合、この手法には、圧縮ビッ
トストリームをデコードして、ディジタル画像の一次変
換ドメイン表現を規定する、一次変換に基づくデータブ
ロックの生成が含まれる。一次変換に基づくデータブロ
ックは対応する幾何学的変換用に再配列され、特定の一
次変換ドメインのオペレーションが各ブロック内のデー
タエレメントに適用され、そしてブロックが再アセンブ
リされる。これらのデータのブロックが空間ドメインに
伸張されると、得られるディジタル画像はオリジナル画
像に関してフリップまたは回転を生じる。
対角線方向(主方向または交差方向のいずれか)に対す
るフリップ、中軸方向に対するフリップ(垂直または水
平の何れか)、または90°,180°もしくは270
°の回転を生じる。この手法はディジタルスチル画像カ
メラのような画像装置またはコンピュータシステムに応
用することができる。いずれの場合も、ハードウェアま
たはソフトウェアを用いてインプリメントすることがで
きる。
容については、添付の図面を参考として以下の説明およ
び特許請求の範囲から把握することができよう。
基準における基底関数として8×8離散コサイン変換
(DCT)が選ばれ(G.K.Wallace,「Th
e JPEGStill Picture Compr
ession Standard」(JPEGスチル写
真圧縮基準)」,Communication of
theACM、vol.34,no.4,1991年4
月を参照されたい)、またJPEGが市場の多くの一般
向けディジタルスチルカメラに広く用いられている圧縮
法であるため、以下、ディジタルスチルカメラのアプリ
ケーションに適し、かつカメラのJPEG圧縮ビットス
トリームのDCTドメイン表現上で動作する圧縮ドメイ
ン処理法に絞って説明する。8×8が最も一般的なDC
Tブロックサイズであるが、これらの手法はその他のD
CTブロックサイズにも拡張できる。さらに、これらの
手法は、離散サイン変換、離散アダマール変換およびウ
ェーブレット変換を含むその他の一次変換に基づく基底
関数に拡張可能である。
処理関数をJPEGパイプラインに統合する考え方から
簡単に説明する。JPEGではDCTを用いて、その空
間または画素ドメイン表現からデータをより効率的にコ
ード化し得る圧縮または周波数ドメイン表現にスチル画
像データを変換する。ここで開発した画像操作法はDC
Tの特性の利点を活用するように設計されている。
略的に示す通り、それぞれ8×8のブロックサイズを有
するブロック毎の基底上で動作する。図1にその概略を
示す通り、非圧縮スチル画像11はラスタ・ブロック変
換器12により8×8ブロックの画素に分解される。次
いで、これらのブロックはフォワード8×8DCT13
により転送されて、対応する8×8DCTブロックのセ
ットを生成する。サンプルf(i,j)の空間ドメイン
8×8ブロックのフォワード8×8DCT、F(u,
v)は以下のように算出される((1)〜(3)式)。
64DCT係数は64エレメント量子化テーブルQに関
連してフォワード量子化器14内で均一に量子化される
が、これは経験的に導出されて可視的には無意味の廃棄
情報とされることができる。この圧縮工程で、圧縮の間
に唯一生じるロスは、F(u,v)からFQ(u,v)
=RoundOff{F(u,v)/Q(u,v)}へ
の量子化に起因する(ここで、Qは8×8量子化テーブ
ルである)。
は、低周波係数(非ゼロとなる可能性大)を高周波係数
(ゼロの可能性大)の前に持ってくることにより、エン
トロピー・コーディングを促進する「ジグザグ」順に並
べ変えられる。次いで、データはハフマンエンコーダ1
5内でハフマンコード化して、データをさらにコンパク
トにし、JPEG圧縮ビットストリームを生成するよう
にする。
ストリームから再構築される。ハフマンデコーダ16内
で圧縮ビットストリームをデコードすることによりJP
EG圧縮工程が開始され、8×8ブロックのDCT係数
が再び生成される。逆ジグザグ化の手続きで係数が再配
列され、次いでブロックが逆量子化器17を通して与え
られる。次の工程では、8×8逆離散コサイン変換器
(IDCT)18がDCTの8×8ブロック上で動作し
て画素の8×8ブロックのストリームを生成する。ブロ
ック・ラスタ変換器19がこれらのブロックを伸張スチ
ル画像21に変換する。この伸張工程では、IDCTが
係数F(u,v)を画素f(i,j)に正確に変換し直
す((4)式)。
働かせてfの近似値fQのみを与える((5)式)。
関数が、JPEG圧縮ビットストリームとしてしか得ら
れない画像上で実行されねばならないとした場合には、
この処理は図2に示すように行われる。先ず、JPEG
圧縮ビットストリームがブロック31において、空間ド
メイン表現に伸張し直される。次いで空間ドメイン処理
がブロック32で実行される。その後、処理された画素
データがブロック33で再圧縮されて新しいJPEG圧
縮ビットストリームを生成する。この処理は伸張された
空間ドメインデータ(画素)に適用されるので、この手
法を空間ドメインアプローチと呼ぶことにする。
点がある。その1つは、空間ドメインでの画像処理はよ
く知られた問題であり、その解決法は多くの典型的な画
像処理関数に広く用い得る点である。その他の利点は、
処理関数がデータを表現するために用いる基本的な圧縮
手法に依存しない点である。
関数を適用する前に、データは完全に伸張されていなけ
ればならない。さらに、処理されたデータは再度圧縮工
程に付す必要がある。JPEGはロスの多い圧縮法であ
るので、伸張−再圧縮により画像の品質低下を招く恐れ
がある。ポートレートから景観モードへの切り換えアプ
リケーションについては、向きが変更される度に画像品
質は低下の一途をたどる。その他の欠点は、伸張および
圧縮の複雑さが極めて著しいことである。例えば、図2
で画像処理タスクが仮に時計回り方向に90°回転とす
ると、入力データの各8×8ブロックは表1のようにな
る。オペレーションカウントの大まかな推計を行うた
め、積算、加算およびデータアクセスがそれぞれ1デー
タ項目当たり1オペレーションで実行されるものと仮定
した。
代わる、すなわち圧縮ドメインに基づく画像処理を提案
するものである。後者は、すでに圧縮形で得られている
データ、例えばJPEGビットストリームによく適合す
る。圧縮ドメインに基づく画像処理手法の基本的処理は
図3に示す通りである。JPEGデータについては、圧
縮ドメインに基づく画像処理として、通常、図3におい
てブロック42で示すDCTドメイン画像処理が含まれ
る。
42にはブロック41におけるJPEG圧縮ビットスト
リームのエントロピーデコーディングが先行し、そして
ブロック43におけるエントロピーコーディングが後続
する。
像処理ブロック42はさらに44〜49を付番された処
理ブロックに分割される。前述の通り、ビットストリー
ムの伸張によるDCT係数の8×8ブロックが得られる
(44)。これらの係数は、ジグザグ解除の手続き(4
5)を用いて再配列され、その後、DCT係数のブロッ
クが量子化解除される(46)。本発明によれば、DC
T係数の量子化解除ブロックはブロック指向処理を行う
(47)。この処理に続いてDCTデータに基づいてブ
ロックが量子化され(48)、そしてジグザグ順に再配
列される(49)。しかし、画像処理タスクに依存して
すべてのブロック44〜49について行われる必要はな
い。例えば、D4オペレーション(対角線およびY軸に
関するフリップの順で表わすことができる)について
は、ジグザグ解除45、量子化解除46、ジグザグ化4
9、および量子化48の各工程が省略可能である。圧縮
ドメインに基づくD4オペレーションの詳細については
後述する。
な利点がある。先ず、多くの場合、量子化解除−量子化
工程が省略できるので、画像品質を保つことができる。
第2に、完全なJPEG伸張および圧縮のタスクがなく
なるので、図2に示す空間ドメインの場合よりも複雑さ
が大幅に低い。特に90°回転の場合は、表1の圧縮ド
メインに基づく処理相手先のインプリメントは表2に示
すオペレーションカウントを有する。圧縮ドメインアプ
ローチを用いる全オペレーションカウントは表1の空間
ドメインに基づくアプローチのほぼ1/5以下であるこ
とに注目すべきである(DCTドメインに基づく回転法
については後述する)。その他の利点としては、典型的
なディジタル画像表現では、画素の深い相互関係のため
にDCTドメイン表現が極めて散在(例えば8×8DC
Tブロックで通常7〜16の非ゼロ値)している点が挙
げられる。このデータの散在性は、DCTドメイン処理
アプローチの活用により、全体的な複雑さをさらに軽減
することができるが、この特性は空間ドメイン表現では
得られない(D4オペレーションに対するこの特性の活
用については後述する)。
数に匹敵する、圧縮ドメインに基づく処理を導出するこ
とは不可能である点に注意すべきである。DCTは一次
変換であり、従って圧縮ドメインに基づく処理は一次画
像処理関数について行われると予想される。メディアン
フィルタリング、変形/異形化のような非線形画像処理
関数は、図3に示すもののように圧縮ドメインに基づく
アプローチには適合しない。
ョン》以下、JPEG圧縮データの簡単な幾何学的変換
を制御する基本方程式について説明する。対角軸、Y軸
(すなわち、中央垂直軸)およびX軸(すなわち、中央
水平軸)に関するフリップの構成で規定されるオペレー
ションにより、D4と呼ばれる四辺形の二面対称のグル
ープが形成される。これらのオペレーションについて表
3に整理して説明する。なお、表3および表4におい
て、および以下の説明において、オペレーションを説明
の便宜上〈 〉を用いて示す。
ション〈Fd〉および〈Fy〉を構成することができる
点に注意すべきである(注:オペレーション〈o1〉お
よび〈o2〉の構成〈o1〉〈o2〉は、先ず〈o2〉
を、次いで〈o1〉を適用して得られるオペレーション
である)。例えば、単純に時計回り方向に90°回転
(オペレーション〈R90〉)は、図4に示す通り、対
角線フリップを適用し、次いで列フリップを適用するこ
とにより達成できる。従って、二つのオペレーション
〈Fd〉および〈Fy〉の圧縮ドメインに基づく相手先
が導出できれば、残りもすべて導出可能である。
る8×8DCTブロックとする(DCT(f)=Fおよ
びIDCT(F)=f)。8個のD4オペレーション
〈o〉について、fと〈o〉fの関係を表わすのは容易
である。目標はFとDCT(〈o〉f)の関係(これを
〈o〉Fと表わす)の導出である。
インでは列フリップ出力〈Fy〉f(i,j)が以下の
ように表わされる((6)式)。
は、以下のように表される((7)〜(9)式)。
に表される((10)〜(14)式)。
(7)〜(9)式における、〈Fy〉F(u,v)は、
以下のように書き換えることができる((15),(1
6)式)。
フリップf(i,j)は〈Fd〉f(i,j)=f
(j,i)となる。このDCTドメインの式は以下のよ
うに表わされることは明らかである((17)式)。
列で与えられる関係を用いて、D4オペレーションのす
べてについて圧縮ドメインの相手先を導出することがで
きる。これらを表4に示す。
ものである。F(u,v)の代わりに単純に量子化係数
FQ(u,v)Q(u,v)を用いることにより、以下
のことが明らかになる。すなわち、D4オペレーション
で生成するブロックの量子化係数は、対応する入力ブロ
ック処理(表4の3列)を元のブロックの量子化係数に
適用することによって直接得ることができる。量子化テ
ーブルは同一のままである(〈Fd〉,〈Fcd〉,
〈R90〉および〈R-90〉について変換される)。
このDCTドメインアプローチによりIDCT、DC
T、ならびに量子化解除および量子化が回避される。ジ
グザグ化解除およびジグザグ化工程も回避されることに
ついては後述する。
PEG画像上で、D4オペレーションを行うには、圧縮
ドメインに基づく手続きは以下の通りである。(a)対
応する幾何学的変換について8×8DCTブロックの再
配列、および(b)各8×8DCTブロック内のエレメ
ントに対して表4によるDCTドメインに基づくオペレ
ーションを適用することである(なお、JPEG画像に
おけるWおよびHは8の倍数であり、必要に応じてオリ
ジナル画像のパディングによって得られる)。(a)お
よび(b)はロスのないオペレーションであって、量子
化DCT係数FQ(u,v)が符号変更を越えて処理さ
れないことに注意すべきである。すなわち、量子化解除
および再量子化の工程を回避することにより、カメラの
JPEGファイルに対して表4の1種または2種以上の
幾何学的変換を何回も適用しても、品質のロスを生じる
ことはない。
いるインプリメント法について説明し、続いてカラー画
像に必要な簡単な修正を概説する。ここで、画像の幅お
よび高はを8の倍数とする。さらに、カラー画像につい
ては、サブサンプリングはブロックパディングを必要と
しないものとする。これらの制約が満足されない場合、
ある別の行/列のオリジナル画像を改めてパディングす
ることにより、ここに述べたすべてのオペレーションを
適用することができる。
ースケール画像Iについて考察する。JPEGデータに
はエントロピー・コーディングを適用し、DC項には差
分コーディングを取消すことにより、各ブロックについ
ての量子化DCT係数を得ることができる。Fkは画像
についての量子化DCT係数の8×8ブロック(ラスタ
順の付番k)を表わすものとする(0≦k<WH/6
4)。
した結果を表わすものとする(ここに、〈o〉は表3か
らのD4オペレーションの1つである)。以上のこと
は、IoのDCT係数のブロックは、可能な再配列転置
および符号変更を有するIと本質的に同じであり、そし
て量子化テーブルも同じであり、可能な転置を有するこ
とを示している。一般に、Ioにおける量子化係数のブ
ロックFk oは次のように表わされる。
(〈o〉=R90)について考察する。k=ib(H/
8)+jb(回転画像Ioにおけるib行およびjb列
のブロック)については、 p〈o〉(k)=(H−jb−1)(W/8)+jb となる。
0,1,2・・・順のブロックFk oを計算する必要が
ある。この計算ではp〈o〉(0),p〈o〉(1),
p〈o〉(2),・・・順(これは、一般に、ブロック
がJPEG画像Iに格納されるラスタ順とは異なる)の
ブロックIをアクセスする必要がある。圧縮ブロックは
サイズが任意に異なるため、JPEGビットストリーム
からの特定のブロックを抽出するにはその前のブロック
をすべて解析しなければならず、極めて費用が嵩む。さ
らに、量子化された特異的コードのために、前のDC値
がすべてデコードされた後、ブロックのDC係数の値を
初めて抽出することができる。二つのパスアプローチを
用いて、この問題を回避する。
て各ブロックのビット・オフセットおよび各ブロックの
DC値を抽出する。第2のパスでは、各画像Ioについ
てFk 〈o〉を演算する際、ブロック数についてのビッ
ト・オフセットをルックアップし、かつIについてのJ
PEGビツトストリームの位置をシークすることによ
り、Fp〈o〉(k)がすぐにアクセスされる。このア
ルゴリズムは疑似コードで次のようにまとめることがで
きる。
〈o〉 output:JPEGimage Io /*第1パス:オフセットおよびDC値を集める*/ Iからのヘッダーを解析する。 for k=0 to WH/64−1 1.オフセットをブロックkのビット・オフセットとし
てIに格納する。2.DC項を抽出しつつIを解析して
過去のその他のブロックを移動する。3.ブロックkに
ついて特異的コード化を取消しおよびDC値の格納す
る。
されるならIの量子化テーブルを転置する。 f or k=0 to WH/64−1 1.Iをシークし、ブロック数p〈o〉(k)の量子化
係数を抽出するため、オフセットおよびDCテーブルを
使用する。2.必要に応じて、oによる係数への符号変
更の転置および/または適用する(表4の第3列)。
3.I〈o〉についてのJPEGビットストリームへの
エントロピー・コード化係数を貼り付ける。
更》元のブロックFpo(k)がo経由で転置されて画
像IoについてのブロックFk oを得る際、「オペレー
トJPEG」アルゴリズムの心臓部は第2パスにある。
8×8ブロックに符号変更の転置および適用を行うに
は、ストレート・フォワード方式でインプリメントされ
ていれば、ブロックの各エレメントを一度アクセスする
必要がある。つまり、複雑さは64の倍数となる。典型
的なJPEF画像における量子化係数ブロックは極めて
少ない数(典型的には16以下)の非ゼロ係数を有す
る。ここに、複雑さがブロック内の非ゼロ係数の数に比
例する、転置および符号変更を行うためのアルゴリズム
を提示する。このアルゴリズムにより、全体の複雑さが
実質的に減り、圧縮画像の全サイズでは非圧縮画像の全
サイズにおけるよりも線状になる。
量子化係数のブロックはジグザグ順にスキャンすること
によりコード化されて、ゼロの長いランを一まとめにグ
ループ化する。このジグザグ配列を表5に示す。ブロッ
クをコード化するとき、これらの差分に固有のハフマン
テーブルを用いて、先ず現在のブロックと前のブロック
の量子化DC値との差がコード化される。
キャンされ、そして(R,S,V)形式の連続する三つ
の記号としてコード化される。ここに、Rはジグザグ配
列の連続するゼロの数であり、そして次の非ゼロ係数は
以下のような値xを有する。
andard 2’s complement bin
ary representation)を用いてVの
ビットが抽出される。JPEGビットストリームでは、
各(R,S,V)が、先ず(R,S)をエンコードする
ハフマンテーブルを用い、次いでVをエンコードするS
エキストラ・ビットを用いてエンコードする。ゼロおよ
び終端ブロックの極めて長いプログラム実行(run)
のような、いくつかの特別なエンコード条件では、特殊
なコードでの処理が行われる。しかし、ここでの目的に
とって、JPEGデータは容易に解析されて次のような
データ構造で各ブロックを捕捉することは明らかであ
る。
数である。アレイAの最初のNエントリーのみ意味があ
る。エレメントA[k]はジグザグ位置(Z)を与え、
そしてSおよびVはk番目の非ゼロAC係数0≦k<N
を評価する。JPEGビットストリームからこの構造へ
のブロックの読取り、およびJPEGデータとしてのこ
の構造の書込みは、いずれもストレートフォワードであ
り、ここでは詳細については省略する。
たは符号変更が必要となる。上記のデータ構造を用いる
ことにより、〈o〉をインプリメントしてNの工程のみ
を(64よりも)必要とする新規なアルゴリズムについ
て説明する。このアルゴリズムはジグザグ順のブロック
表現を直接用いるので、係数のジグザグ解除およびジグ
ザグ化が回避される。
ックFに対応)を与えて、〈o〉Fに対応する構造Bo
を求める。非ゼロAC係数xの符号を変更するには、対
応するSおよびV値はSxおよびVxであり、単純にV
xのビット補数を用いれば十分である。すなわち、 S−x=Sx,V−x=−Vx s〈o〉[64]をブール・フラグの予め演算されたア
レイとして、もし〈o〉が、変更されるべきZ番目のジ
グザグ係数の符号を必要とすれば、s〈o〉[Z]がT
RUEとなるとする。符号の変更のみが必要とされれば
(すなわち、オペレーション〈Fx〉,〈Fy〉,〈R
180〉についての変更)、s〈o〉[A[k].Z]
がTRUEであるA[k].Vについてビットをフリッ
プ化させつつ、各エントリーをコピーすることにより、
BをB〈o〉に変換することができる。
置を行うには、以下のキー観測を用いる。ある交差方向
対角線上でのエレメントが正順に反転されている場合を
除き、アレイAは同じままである。これを説明するた
め、t[Z]が元のジグザグ・インデックスZに対する
転置ジグザグ・インデックスを表わすとする。すなわ
ち、 t[1]=2,t[2]=1,t[3]=5,t[4]
=4,・・・ ジグザグ係数が付番された場合を考えると、 1,3,6,7,10,11,14 が唯一の非ゼロ係数である。従って、転置後のジグザグ
配置は次のようになる。
の各グループは反転させる必要がある。これを、非ゼロ
係数のアレイB.A[・・・]をスキャンし、交差方向
対角線が変化する各係数を解析することにより、効率的
に行って、B.A[・・・]からB〈o〉.
A[・・・]に逆順に前の交差方向対角線をコピーす
る。
約するものである。アレイtおよび(上述の)s〈o〉
は予め演算される。さらに、d[64]を別の予め演算
されたアレイとすると、各ジグザグ・インデックスにつ
いて「交差方向対角線の数」が得られる。つまり、ジグ
ザグ・インデックスZが行数uおよび列数vに対応する
と、d[Z]=u+vとなる。
り、ある平面はサブサンプル化されている。カラー平面
の数をPで表わすとする。各平面p(ただし、1≦p≦
P)に伴って、水平サンプリング要素wpおよび垂直サ
ンプリング要素hpがある。平面数pの幅および高さは
それぞれWwp/wmaxおよびHhp/hmaxで与
えられる。ここに、全平面(1≦p≦P)にわたって、
wmaxがwpの最大値であり、hmaxがhpの最大
値である。
層を有することができる。1スキャンは1または2以上
のカラー平面からなり、制限されたビット精度の係数値
を有する。「OperateJPEG」アルゴリズム
は、単純に各スキャンに連続して適用することにより、
拡張することができる。
ラー平面のブロックからのデータを、最小コード単位
(MCU)として知られる単位にまとめられる。各MC
Uは、すべてのwpおよびhpで決定される、固定順に
並んだ固定数のブロックからなる。ここで取り扱うオペ
レーションについては、サンプリング要素を変更しない
限り、画像IoはIとまったく同じスキャンおよびMC
Uのグループ分けである(wpおよびhpは転置を要す
るオペレーションに対してスワップされる必要があ
る)。MCUの順および各MCU内のブロックの順は変
動することがあり得るが、Ioにおける各MCUはIに
おける正に1つのMCUから得られる。この事実を活用
して、ビット・オフセットおよび、ブロックレベルより
もMCUレベルのDCテーブルを設けることにより、メ
モリの節減が図れる。
ては「OperateJPEG」が2つのパスで動作す
る。最初のパスでは、そのスキャンの各MCUについて
ビット・オフセットが再コード化され、そして当該MC
Uにおける各カラー平面からの最初のブロックのDC値
が再コード化される。第2のパスでは、Ioのスキャン
の特定のMCUが演算されるとき、対応するIのMCU
が抽出され、そして各構成要素ブロックの「JpegB
lock」構造が完成する。次いで、これらのブロック
は(オペレーションの要求に応じて)転置/符号変更/
再コード化されて、JPEGデータで書かれたIoのた
めのMCUを生成する。
アプリケーション》ディジタルスチル画像カメラ(DS
C)を含む各種ディジタル装置との関連して、本発明の
圧縮ドメイン処理法が用いられる。DSCのブロック図
を図5に示す。DSC60はマイクロプロセッサの制御
下に操作されるが、画像を捕捉し、そしてブロック61
においてアナログ電気信号に変換する電荷結合デバイス
(CCD)を有する。次いで、このアナログ信号は、ブ
ロック62で処理され、ディジタル化画像が一時的にフ
レームバッファ63に格納され、一方、ブロック64で
ディジタル処理に付される。ディジタル画像処理ブロッ
ク64は、圧縮および伸張を含むいくつかの機能を行
い、また本発明の圧縮ドメインに基づく処理法も実行す
る。処理ブロック64は、ユーザーコントロール65の
下に、伸張された画像データが格納されるカメラ内画像
ストレージ66とインターフェースを有する。ストレー
ジ・ブロック66は、いずれもDSC60内で取り外し
可能または固定型のコンパクト磁気媒体または固体媒体
を内蔵し、そして取り外し可能な大容量PCMCIAフ
ォーマット・ハードディスクカードまたはフラッシュ・
メモリカードを用いることができる。
ィジタル出力器68を内蔵しており、これらを通して画
像データがDSC内または外部装置に転送される。圧縮
されていない画像データは、アナログ出力器67を経由
して、DSC60内のLCDスクリーン69に転送され
るか、またはVCRやTVモニターのような外部装置に
転送される。また、圧縮または非圧縮画像データは、デ
ィジタル出力器68を通して、画像を表示するコンピュ
ータシステムのようなディジタル装置ににも転送され
る。
°、180°、270°回転またはミラーフリップのよ
うなD4オペレーションを実行する能力はDSC60で
は極めて有用である。カメラを垂直に保持して背の高い
被写体を捕捉する場合、得られる画像は、水平にしたカ
メラで撮影した同じ写真を90°回転させた画像として
現われる。典型的なフィルムカメラでは、このことは問
題にならない。何故なら、正しい画像を見るには、写真
を90°回転させるだけで済むからである。上述のよう
にDSC60で撮影した写真は、直接画像が焼付けられ
るか、またはTVモニター上に写されたり、コンピュー
タドキュメントに組み込まれるため、問題を生じる恐れ
がある。
ドメインに基づく画像処理を組み込むことにより、ここ
に記載する方法で回転を取り消してDSC60が修正画
像を生じるようにすることができる。DSCシステムで
は、回転機能はDSC内にあってもよく、またはDSC
60に接続されたコンピュータ上で動作するソフトウェ
ア内にあってもよい。制限された演算能力および制限さ
れたメモリを有するDSC60については、圧縮ドメイ
ンに基づくアプローチが、幾何学的転送を行うための唯
一の効率的手段である。データを伸張し、次いで操作を
行う別のアプローチはメモリ集約型であり、DSC60
内での遅いCPU速度のために著しい能力低下を来す恐
れがある。DSCシステムの進展に伴い、画像強化およ
び透かし挿入のような付随的特性が、圧縮ドメイン処理
の枠内に容易に組み込まれるようになり、しかも圧縮ド
メイン表現と空間ドメイン表現の間を行き来するには及
ばない。
ンピュータシステム、その他、ディジタル画像を捕捉、
処理及び検証する構成要素との関連でも用いることがで
きる。図6は、DSC60、コンピュータシステムおよ
びその他の各種構成要素の間の相互関係を説明するブロ
ック図である。参照番号100で一般的に表記するコン
ピュータシステムは、メインフレームまたはパーソナル
コンピュータのようないかなる適当な形式のものであっ
てもよい。
イクロプロセッサである中央処理装置(CPU)10
1,情報を一時的に蓄積するためのランダムアクセスメ
モリ(RAM)102、および情報を永久蓄積するため
のリードオンリーメモリ(ROM)103を含む。これ
らの各構成要素はバス104と結合されている。コンピ
ュータシステム100のオペレーションは典型的にはオ
ペレーティングシステムソフトウェアによって制御、調
整される。システムメモリに組み込まれ、CPU101
上で動作するオペレーティングシステムは、システムリ
ソースの配置を制御し、種々のタスク、例えば、特に処
理、メモリ管理、ネットワークおよびI/O機能、その
他を行うことにより、コンピュータシステム100のオ
ペレーションを調整する。
性大量記憶装置を挿入するディスケット・ドライブ10
6もコントローラー105によってバス104に接続さ
れている。同様に、コントローラー108は、バス10
4とCDROM110挿入用のコンパクトディスク(C
D)ROMドライブ109との間にインターフェースを
有する。ハードディスク111は、ディスクコントロー
ラー113によりバス104に接続された固定ディスク
ドライブ112の一部として設けられている。
トウェアは記憶装置107および110上に格納され、
そしてCPU101に転送、実行される。これとは別
に、ソフトウェアをRAM102またはROM103に
格納してもよい。同様に、本発明によりすでに処理さ
れ、または処理されるべき画像データは、ディスケット
107およびCDROM110のような取り外し可能な
記憶媒体を用いて、コンピュータシステム100にロー
ドし、またはこのシステムから抽出することができる。
テム100入力してもよい。フィルムカメラ115で生
成されたフィルムベースの画像114は、格納のため
に、スキャナ116でディジタル化し、そしてコンピュ
ータ100で処理することができる。前述の通り、DS
C60が画像を直接ディジタル化し、コンピュータ10
0に転送してもよい。コントローラー123を経由して
バス104に接続するキーボード121およびマウス1
22は、このようなデータの入力を容易にする。さもな
いと、コンピュータシステム100に情報を入力するた
めの手段を設けることになる。
ータ100へ、またはコンピュータ100から転送する
ことができる。その目的ために、コンピュータ100
は、直接接続またはモデム経由でネットワーク125と
の通信を可能とする通信アダプター124を含むことが
できる。なお、ネットワークにはローカルエリアネット
ワーク(LAN)、インターネットまたはオンラインサ
ービスが含まれる。
たディジタル画像は多種多様な方法で見ることができ
る。コンピュータ100に付属するプリンタ126によ
りカラープリントが得られるが、その画質はプリンタ1
26によって変化がある。その他のオプションとして
は、コンピュータ100に付属するディスプレー127
上で画像を見ることである。さらに別の選択としては、
vcrを用いてテレビ受像器上に画像を表示することが
ある。
めの簡易な圧縮ドメインに基づく処理フレームワークが
本発明者等により開発された。鏡像、90°、180°
および270°回転像のような簡易な幾何学的変換が、
画像の忠実度を失わずにDCTドメイン内で容易に行い
得ることが明らかになった。さらに、90°回転のよう
な単純な変換であっても、慣用の空間ドメインに基づく
処理アプローチに代わるDCTドメインで行った場合、
著しく迅速に達成できることも明らかになった。現実的
な設定における圧縮ドメインに基づく画像変換の実用例
として、特にディジタルスチルカメラについても説明し
た。ディジタルカメラが捕捉する画像は初めはノイズが
極めて多いので、これらの画像に適用されるいかなる画
像処理もノイズを増加させないことが命題であるが、こ
こに開発された方法は本質的に画像ロスなしのオペレー
ションである。
タルスチルカメラに見られる、制限された演算およびメ
モリ能力に十分適合するものである。この基本的な圧縮
ドメインフレームワークはその他の形式の画像変換にも
用いることができ、殊にここに開発された方法論は、画
像強化、画像ろ過に拡張できる(B.Chitpras
ertおよびK.R.Rao)、「離散コサイン変換ろ
過」、信号処理、19巻、233−245ページ、19
90年参照)。
が、以上の説明から当業者には自明である通り、多くの
さらなる修正、変更が可能である。例えば、本発明の圧
縮ドメインに基づく処理法を説明するために用いたブロ
ック図は、本発明のある特定な機能および関係の動作を
示すものである。これらの機能性ブロックの境界は、説
明の都合上、任意に定めたものである。特定の機能およ
び関係が適当に設けられている限り、別の境界が設定さ
れ得る。
ために用いた疑似コードは、構文または特定のプログラ
ム言語を表わしてはおらず、むしろ当業者が回路を組立
て、または必要な処理を行うソフトウェアを作成するの
に要する機能情報を提供するものである。ブロック図に
示した各機能は、例えば、ソフトウェア命令によるか、
あるいはディジタル信号処理回路、アプリケーション・
スペシフィック集積回路(ASIC)またはこれらの組
合せのような機能的に同等の回路によってインプリメン
トされる。以上、ここに説明した本発明では、上述のよ
うな変更、修正、適用等はすべて特許請求の範囲の精神
および範疇に含まれるものとする。
こと無しに、画像の圧縮ドメイン表現を直接操作して、
選択された空間ドメイン操作を行うことができる。ま
た、画像操作を行うのに必要な圧縮データ操作を大幅に
単純化することができ、さらに品質の低下を伴わずに圧
縮ドメイン内で画像データを操作することができる。
である。
に基づく画像処理を示すブロック図である。
圧縮ドメイン画像処理を示すブロック図である。
ラムフリップ(Fy)を用いて90°回転させたブロッ
クを示す図である。
像カメラ(DSC)のブロック図である。
するのに用い、さらにそのような画像の処理に用いる各
種構成要素間の相関関係を示すブロック図である。
Claims (39)
- 【請求項1】 ディジタル画像の一次変換ドメイン表現
を操作することにより、ディジタル画像の空間ドメイン
表現上で二面対称オペレーションを行う画像変換方法で
あって、 前記ディジタル画像の一次変換ドメイン表現を規定す
る、複数の一次変換に基づくデータブロックを抽出する
ステップ、 前記複数の一次変換に基づくデータブロックを再配列す
るステップ、 前記複数の一次変換に基づくデータブロックのうちの少
なくとも1つに一次変換ドメイン・オペレーションを適
用するステップ、および前記複数の一次変換に基づくデ
ータブロックを再アッセンブル化するステップ、を含ん
でなり、前記ディジタル画像の空間ドメイン表現が二面
対称オペレーションに付される、ことを特徴とする画像
変換方法。 - 【請求項2】 圧縮画像データを解析して、前記複数の
一次変換に基づく各データブロックについてオフセット
値およびDC値を抽出するステップ、 対応するオフセット値を用いることにより前記複数の一
次変換に基づく各データブロックをアクセスするステッ
プ、および前記複数の一次変換に基づく各データブロッ
クのエレメントを抽出するステップ、をさらに含む請求
項1記載の画像変換方法。 - 【請求項3】 前記二面対称オペレーションが主対角線
上でディジタル画像をフリップすることを含む請求項1
または2に記載の画像変換方法。 - 【請求項4】 前記二面対称オペレーションが中央垂直
軸上でディジタル画像をフリップすることを含む請求項
1または2に記載の画像変換方法。 - 【請求項5】 前記二面対称オペレーションが交差方向
対角線上でディジタル画像をフリップすることを含む請
求項1または2に記載の画像変換方法。 - 【請求項6】 前記二面対称オペレーションが中央水平
軸線上でディジタル画像をフリップすることを含む請求
項1または2に記載の画像変換方法。 - 【請求項7】 前記二面対称オペレーションがディジタ
ル画像を時計回り方向に90°回転させることを含む請
求項1または2に記載の画像変換方法。 - 【請求項8】 前記二面対称オペレーションがディジタ
ル画像を180°回転させることを含む請求項1または
2に記載の画像変換方法。 - 【請求項9】 前記二面対称オペレーションがディジタ
ル画像を反時計回り方向に90°回転させることを含む
請求項1または2に記載の画像変換方法。 - 【請求項10】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置することを含む
請求項3に記載の画像変換方法。 - 【請求項11】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内で奇数列エレメントの符号を反転さ
せることを含む請求項4に記載の画像変換方法。 - 【請求項12】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内のその他あらゆるエレメントの符号を反転させ
ることを含む請求項5に記載の画像変換方法。 - 【請求項13】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内で奇数行エレメントの符号を反転さ
せることを含む請求項6に記載の画像変換方法。 - 【請求項14】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内の奇数列エレメントの符号を反転させることを
含む請求項7に記載の画像変換方法。 - 【請求項15】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内のその他あらゆるエレメントの符号
を反転させることを含む請求項8に記載の画像変換方
法。 - 【請求項16】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内の奇数行エレメントの符号を反転させることを
含む請求項9に記載の画像変換方法。 - 【請求項17】 光を捕捉し、光をアナログ画像信号に
変換するためのセンサーと、 空間ドメイン内でアナログ画像信号をディジタル画像に
変換するためのディジタル−アナログ変換器と、 ディジタル画像の空間ドメイン表現から、複数の一次変
換に基づくデータブロックで規定されるディジタル画像
の一次変換ドメイン表現に、ディジタル画像を圧縮する
ためのディジタル画像プロセッサと、を含んでなり、 前記ディジタル画像プロセッサは、 前記複数の一次変換に基づくデータブロックを抽出し、
当該複数の一次変換に基づくデータブロックを再配列
し、 前記複数の一次変換に基づくデータブロックのうち少な
くとも1つに一次変換ドメイン・オペレーションを適用
し、 前記複数の一次変換に基づくデータブロックを再アッセ
ンブル化してディジタル画像の空間ドメイン表現上で二
面対称オペレーションを実行する、ことを特徴とするデ
ィジタルカメラ。 - 【請求項18】 前記二面対称オペレーションがディジ
タル画像を時計回りに90°回転させることを含む請求
項17に記載のディジタルカメラ。 - 【請求項19】 前記二面対称オペレーションがディジ
タル画像を180°回転させることを含む請求項17に
記載のディジタルカメラ。 - 【請求項20】 前記二面対称オペレーションがディジ
タル画像を反時計回りに90°回転させることを含む請
求項17に記載のディジタルカメラ。 - 【請求項21】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内の奇数列エレメントの符号を反転させる請求項
18に記載のディジタルカメラ。 - 【請求項22】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内のその他あらゆるエレメントの符号
を反転させる請求項19に記載のディジタルカメラ。 - 【請求項23】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内の奇数行エレメントの符号を反転させる請求項
20に記載のディジタルカメラ。 - 【請求項24】 コンピュータシステムに空間ドメイン
内でディジタル画像の幾何学的変換を生じさせるために
組み込まれたコンピュータ可読プログラムコードを有す
るコンピュータシステムであって、 前記ディジタル画像を処理して、複数の一次変換に基づ
くデータブロックで規定されるディジタル画像の一次変
換ドメイン表現を得るステップ、 前記複数の一次変換に基づくデータブロックを抽出する
ステップ、 前記複数の一次変換に基づくデータブロックを再配列す
るステップ、 前記複数の一次変換に基づくデータブロックのうちの少
なくとも1つに一次変換ドメイン・オペレーションを適
用するステップ、および、 前記複数の一次変換に基づくデータブロックを再アッセ
ンブル化するステップ、を含んでなり、 ディジタル画像の空間ドメイン表現が二面対称オペレー
ションに付されることを特徴とするコンピュータシステ
ム。 - 【請求項25】 圧縮画像データを解析して、前記複数
の一次変換に基づく各データブロックについてオフセッ
ト値およびDC値を抽出するステップ、 対応するオフセット値を用いることにより、前記複数の
一次変換に基づく各データブロックをアクセスするステ
ップ、および、 前記複数の一次変換に基づく各データブロックのエレメ
ントを抽出するステップ、 をさらに含む請求項24に記載のコンピュータシステ
ム。 - 【請求項26】 前記二面対称オペレーションが主対角
線上でディジタル画像をフリップすることを含む請求項
24に記載のコンピュータシステム。 - 【請求項27】 前記二面対称オペレーションが中央垂
直軸上でディジタル画像をフリップすることを含む請求
項24に記載のコンピュータシステム。 - 【請求項28】 前記二面対称オペレーションが交差方
向対角線上でディジタル画像を回転させることを含む請
求項24に記載のコンピュータシステム。 - 【請求項29】 前記二面対称オペレーションが中央水
平軸線上でディジタル画像を回転させることを含む請求
項24に記載のコンピュータシステム。 - 【請求項30】 前記二面対称オペレーションがディジ
タル画像を時計回り方向に90°回転させることを含む
請求項24に記載のコンピュータシステム。 - 【請求項31】 前記二面対称オペレーションがディジ
タル画像を180°回転させることを含む請求項24に
記載のコンピュータシステム。 - 【請求項32】 前記二面対称オペレーションがディジ
タル画像を反時計回り方向に90°回転させることを含
む請求項24に記載のコンピュータシステム。 - 【請求項33】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置する請求項26
に記載のコンピュータシステム。 - 【請求項34】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内で奇数列エレメントの符号を反転さ
せる請求項27に記載のコンピュータシステム。 - 【請求項35】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内のその他あらゆるエレメントの符号を反転させ
る請求項28に記載のコンピュータシステム。 - 【請求項36】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内で奇数行エレメントの符号を反転さ
せる請求項29に記載のコンピュータシステム。 - 【請求項37】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内の奇数列エレメントの符号を反転させる請求項
30に記載のコンピュータシステム。 - 【請求項38】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内のその他あらゆるエレメントの符号
を反転させる請求項31に記載のコンピュータシステ
ム。 - 【請求項39】 前記一次変換ドメインオペレーション
を前記複数の一次変換に基づく各データブロックに適用
して、各ブロック内でエレメントを転置し、次いで各ブ
ロック内の奇数行エレメントの符号を反転させる請求項
32に記載のコンピュータシステム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US09/052,039 US6298166B1 (en) | 1998-03-30 | 1998-03-30 | Image transformations in the compressed domain |
| US09/052,039 | 1998-03-30 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH11331847A true JPH11331847A (ja) | 1999-11-30 |
| JP4348768B2 JP4348768B2 (ja) | 2009-10-21 |
Family
ID=21975035
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP08998599A Expired - Fee Related JP4348768B2 (ja) | 1998-03-30 | 1999-03-30 | 画像変換方法 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US6298166B1 (ja) |
| EP (1) | EP0947954B1 (ja) |
| JP (1) | JP4348768B2 (ja) |
| DE (1) | DE69907798T2 (ja) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002133432A (ja) * | 2000-10-27 | 2002-05-10 | Seiko Epson Corp | 画像処理装置及び方法 |
| JP2006352181A (ja) * | 2005-02-18 | 2006-12-28 | Hitachi Ltd | 画像の符号化/復号化装置、符号化/復号化プログラム及び符号化/復号化方法 |
| US7161695B2 (en) | 2000-04-06 | 2007-01-09 | Seiko Epson Corporation | Image information distributing system |
| JP2008533787A (ja) * | 2005-03-11 | 2008-08-21 | ノキア コーポレイション | 圧縮済領域における静止画像を処理するための方法、コンピュータプログラムプロダクト、および装置 |
| JP2011515039A (ja) * | 2008-02-13 | 2011-05-12 | クゥアルコム・インコーポレイテッド | Jpegまたは他の符号化規格のための回転トランスコーディング |
| JP2012523046A (ja) * | 2009-04-01 | 2012-09-27 | クゥアルコム・インコーポレイテッド | 画像を回転させる装置および方法 |
Families Citing this family (84)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7738015B2 (en) | 1997-10-09 | 2010-06-15 | Fotonation Vision Limited | Red-eye filter method and apparatus |
| US7042505B1 (en) | 1997-10-09 | 2006-05-09 | Fotonation Ireland Ltd. | Red-eye filter method and apparatus |
| US7630006B2 (en) | 1997-10-09 | 2009-12-08 | Fotonation Ireland Limited | Detecting red eye filter and apparatus using meta-data |
| FR2782861A1 (fr) * | 1998-08-26 | 2000-03-03 | Canon Kk | Transcodage geometrique d'un signal numerique |
| US6456745B1 (en) * | 1998-09-16 | 2002-09-24 | Push Entertaiment Inc. | Method and apparatus for re-sizing and zooming images by operating directly on their digital transforms |
| JP2000125136A (ja) * | 1998-10-19 | 2000-04-28 | Internatl Business Mach Corp <Ibm> | 画像データ圧縮装置およびその方法 |
| US6473534B1 (en) * | 1999-01-06 | 2002-10-29 | Hewlett-Packard Company | Multiplier-free implementation of DCT used in image and video processing and compression |
| JP2000354246A (ja) * | 1999-06-10 | 2000-12-19 | Sony Corp | 画像圧縮制御装置およびそれを用いた撮像システム |
| US7146053B1 (en) | 2000-05-10 | 2006-12-05 | International Business Machines Corporation | Reordering of compressed data |
| US6941019B1 (en) * | 2000-05-10 | 2005-09-06 | International Business Machines Corporation | Reentry into compressed data |
| EP1178669A1 (en) * | 2000-08-01 | 2002-02-06 | Hewlett Packard Company, a Delaware Corporation | Lossless sending of precompressed data, with adjusted printing parameters, for very large fine-resolution images |
| US6891892B2 (en) * | 2001-03-30 | 2005-05-10 | Koninklijke Philips Electronics N.V. | MPEG-2 decoder with an embedded contrast enhancement function and methods therefor |
| US7822969B2 (en) * | 2001-04-16 | 2010-10-26 | Digimarc Corporation | Watermark systems and methods |
| JP4065503B2 (ja) * | 2001-08-21 | 2008-03-26 | キヤノン株式会社 | 画像処理装置、画像入出力装置、変倍処理方法、及びメモリ制御方法 |
| JP3782369B2 (ja) * | 2002-04-05 | 2006-06-07 | 株式会社日立製作所 | ストレージ装置、コンテンツ配信システム及びコンテンツの配信方法 |
| US7190724B2 (en) * | 2002-04-12 | 2007-03-13 | Seiko Epson Corporation | Method and apparatus for transform domain video processing |
| US20030202603A1 (en) * | 2002-04-12 | 2003-10-30 | William Chen | Method and apparatus for fast inverse motion compensation using factorization and integer approximation |
| US7054496B2 (en) * | 2002-06-27 | 2006-05-30 | Seiko Epson Corporation | Method and apparatus for displaying arbitrarily magnified high resolution images using compressed domain processing |
| US7280689B2 (en) * | 2002-07-05 | 2007-10-09 | Qdesign U.S.A., Inc. | Anti-compression techniques for visual images |
| US7379956B2 (en) * | 2002-07-14 | 2008-05-27 | Apple Inc. | Encoding and decoding data arrays |
| US7376280B2 (en) * | 2002-07-14 | 2008-05-20 | Apple Inc | Video encoding and decoding |
| FR2844935B1 (fr) * | 2002-09-25 | 2005-01-28 | Canon Kk | Transcodage de donnees numeriques |
| US7392476B2 (en) * | 2002-12-20 | 2008-06-24 | Seiko Epson Corporation | Image printing system, image printing method, and image printing program |
| FR2853749B1 (fr) * | 2003-04-10 | 2005-07-01 | Canon Kk | Procede et dispositif de traitement d'un signal d'image numerique compresse en vue de sa visualisation |
| FR2850825B1 (fr) * | 2003-02-03 | 2005-07-01 | Canon Kk | Procede et dispositif de formation d'un signal numerique d'image transcode compresse |
| US7580578B1 (en) | 2003-02-03 | 2009-08-25 | Canon Kabushiki Kaisha | Method and device for forming a compressed transcoded digital image signal |
| US7970182B2 (en) * | 2005-11-18 | 2011-06-28 | Tessera Technologies Ireland Limited | Two stage detection for photographic eye artifacts |
| US7689009B2 (en) | 2005-11-18 | 2010-03-30 | Fotonation Vision Ltd. | Two stage detection for photographic eye artifacts |
| US7680342B2 (en) | 2004-08-16 | 2010-03-16 | Fotonation Vision Limited | Indoor/outdoor classification in digital images |
| US8254674B2 (en) | 2004-10-28 | 2012-08-28 | DigitalOptics Corporation Europe Limited | Analyzing partial face regions for red-eye detection in acquired digital images |
| US7574016B2 (en) | 2003-06-26 | 2009-08-11 | Fotonation Vision Limited | Digital image processing using face detection information |
| US7587085B2 (en) | 2004-10-28 | 2009-09-08 | Fotonation Vision Limited | Method and apparatus for red-eye detection in an acquired digital image |
| US8170294B2 (en) | 2006-11-10 | 2012-05-01 | DigitalOptics Corporation Europe Limited | Method of detecting redeye in a digital image |
| US8036458B2 (en) | 2007-11-08 | 2011-10-11 | DigitalOptics Corporation Europe Limited | Detecting redeye defects in digital images |
| US7792970B2 (en) | 2005-06-17 | 2010-09-07 | Fotonation Vision Limited | Method for establishing a paired connection between media devices |
| US7920723B2 (en) | 2005-11-18 | 2011-04-05 | Tessera Technologies Ireland Limited | Two stage detection for photographic eye artifacts |
| US7391910B2 (en) * | 2003-07-31 | 2008-06-24 | Seiko Epson Corporation | LAPE: layered presentation system utilizing compressed-domain image processing |
| US8520093B2 (en) | 2003-08-05 | 2013-08-27 | DigitalOptics Corporation Europe Limited | Face tracker and partial face tracker for red-eye filter method and apparatus |
| US9412007B2 (en) | 2003-08-05 | 2016-08-09 | Fotonation Limited | Partial face detector red-eye filter method and apparatus |
| US7391913B2 (en) * | 2003-09-18 | 2008-06-24 | Arcsoft, Inc. | JPEG processing engine for low profile systems |
| US7646881B2 (en) * | 2003-09-29 | 2010-01-12 | Alcatel-Lucent Usa Inc. | Watermarking scheme for digital video |
| US7630509B2 (en) * | 2003-09-29 | 2009-12-08 | Alcatel-Lucent Usa Inc. | Color selection scheme for digital video watermarking |
| US8861922B2 (en) * | 2003-09-29 | 2014-10-14 | Alcatel Lucent | Watermarking scheme for digital video |
| TWI249139B (en) * | 2004-05-07 | 2006-02-11 | Sunplus Technology Co Ltd | Block decoding-method capable of rotating direction decoding-output and system |
| JP2005333393A (ja) * | 2004-05-19 | 2005-12-02 | Sharp Corp | 画像圧縮装置,画像出力装置,画像伸張装置,印刷装置,画像処理装置,複写機,画像圧縮方法,画像伸張方法,画像処理プログラムおよび画像処理プログラムを記録した記録媒体 |
| JP4601340B2 (ja) * | 2004-06-25 | 2010-12-22 | ノキア コーポレイション | データ合成装置及びデータ合成方法 |
| US7738710B2 (en) * | 2004-08-02 | 2010-06-15 | Electronics For Imaging, Inc. | Methods and apparatus for communicating and displaying compressed image data |
| US7574055B2 (en) * | 2004-09-07 | 2009-08-11 | Lexmark International, Inc. | Encoding documents using pixel classification-based preprocessing and JPEG encoding |
| KR100645636B1 (ko) * | 2004-12-09 | 2006-11-15 | 삼성전기주식회사 | Dct 계수를 이용한 카메라의 자동초점조절장치 및 그방법 |
| KR100601475B1 (ko) * | 2004-12-09 | 2006-07-18 | 삼성전기주식회사 | 이미지 복잡도에 따라 가변적 양자화 크기를 갖는 이미지압축 장치 및 그 방법 |
| US7643694B2 (en) * | 2004-12-31 | 2010-01-05 | Zoran Corporation | Method and apparatus for processing a compressed image in an order other than the order in which it was compressed |
| JP4819517B2 (ja) * | 2005-02-16 | 2011-11-24 | オリンパス株式会社 | 画像処理方法及び画像処理装置 |
| US20060228030A1 (en) * | 2005-04-08 | 2006-10-12 | Hadady Craig E | Method and system for image compression for use with scanners |
| US7599577B2 (en) | 2005-11-18 | 2009-10-06 | Fotonation Vision Limited | Method and apparatus of correcting hybrid flash artifacts in digital images |
| TW200726260A (en) * | 2005-12-22 | 2007-07-01 | Sunplus Technology Co Ltd | Block decoding method and device capable of longitudinally decoding and outputting |
| EP1987475A4 (en) | 2006-02-14 | 2009-04-22 | Fotonation Vision Ltd | AUTOMATIC DETECTION AND CORRECTION OF RED EYE FLASH DEFECTS |
| US20070189621A1 (en) * | 2006-02-15 | 2007-08-16 | Aten International Co., Ltd | Image transmission system |
| WO2008023280A2 (en) | 2006-06-12 | 2008-02-28 | Fotonation Vision Limited | Advances in extending the aam techniques from grayscale to color images |
| US8055067B2 (en) | 2007-01-18 | 2011-11-08 | DigitalOptics Corporation Europe Limited | Color segmentation |
| US8411734B2 (en) * | 2007-02-06 | 2013-04-02 | Microsoft Corporation | Scalable multi-thread video decoding |
| US7783459B2 (en) * | 2007-02-21 | 2010-08-24 | William Marsh Rice University | Analog system for computing sparse codes |
| US8515194B2 (en) | 2007-02-21 | 2013-08-20 | Microsoft Corporation | Signaling and uses of windowing information for images |
| WO2008109708A1 (en) | 2007-03-05 | 2008-09-12 | Fotonation Vision Limited | Red eye false positive filtering using face location and orientation |
| US9648325B2 (en) | 2007-06-30 | 2017-05-09 | Microsoft Technology Licensing, Llc | Video decoding implementations for a graphics processing unit |
| US8503818B2 (en) | 2007-09-25 | 2013-08-06 | DigitalOptics Corporation Europe Limited | Eye defect detection in international standards organization images |
| US8212864B2 (en) | 2008-01-30 | 2012-07-03 | DigitalOptics Corporation Europe Limited | Methods and apparatuses for using image acquisition data to detect and correct image defects |
| US8081254B2 (en) | 2008-08-14 | 2011-12-20 | DigitalOptics Corporation Europe Limited | In-camera based method of detecting defect eye with high accuracy |
| US9544516B2 (en) * | 2008-12-26 | 2017-01-10 | Digimarc Corporation | Method and apparatus for sensor characterization |
| FI20095175L (fi) * | 2009-02-23 | 2010-08-24 | Anygraaf Oy | Menetelmä rasterimuotoisen kuvan segmentoinnin hyödyntämiseksi kuvan pakkaamisessa |
| US8233709B2 (en) * | 2009-03-06 | 2012-07-31 | Sony Corporation | Color effects for compressed digital video |
| US8355570B2 (en) * | 2009-08-12 | 2013-01-15 | Conexant Systems, Inc. | Systems and methods for raster-to-block converter |
| KR20110017303A (ko) * | 2009-08-13 | 2011-02-21 | 삼성전자주식회사 | 회전변환을 이용한 영상 부호화, 복호화 방법 및 장치 |
| JP4848462B2 (ja) | 2010-03-04 | 2011-12-28 | 株式会社モルフォ | 圧縮画像の部分伸長方法および画像処理装置 |
| US8885729B2 (en) | 2010-12-13 | 2014-11-11 | Microsoft Corporation | Low-latency video decoding |
| US9706214B2 (en) | 2010-12-24 | 2017-07-11 | Microsoft Technology Licensing, Llc | Image and video decoding implementations |
| CN103621085B (zh) | 2011-06-30 | 2016-03-16 | 微软技术许可有限责任公司 | 降低视频解码中的延迟的方法和计算系统 |
| US8731067B2 (en) | 2011-08-31 | 2014-05-20 | Microsoft Corporation | Memory management for video decoding |
| US9819949B2 (en) | 2011-12-16 | 2017-11-14 | Microsoft Technology Licensing, Llc | Hardware-accelerated decoding of scalable video bitstreams |
| US8347391B1 (en) * | 2012-05-23 | 2013-01-01 | TrustPipe LLC | System and method for detecting network activity of interest |
| US8856324B2 (en) | 2013-01-28 | 2014-10-07 | TrustPipe LLC | System and method for detecting a compromised computing system |
| AU2013213660A1 (en) * | 2013-08-06 | 2015-02-26 | Canon Kabushiki Kaisha | Method for printing an upscaled image |
| FR3015160B1 (fr) * | 2013-12-17 | 2016-01-29 | Sagemcom Documents Sas | Procede de numerisation d'un document constitue de plusieurs pages |
| KR102025361B1 (ko) * | 2014-07-10 | 2019-09-25 | 한화테크윈 주식회사 | 자동 초점 조절 시스템 및 방법 |
| JP2021174404A (ja) * | 2020-04-28 | 2021-11-01 | 株式会社Preferred Networks | データ生成装置、訓練装置及びデータ生成方法 |
Family Cites Families (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4658430A (en) * | 1984-12-27 | 1987-04-14 | International Business Machines Corp. | System for rotating binary images |
| CA1252902A (en) * | 1985-10-31 | 1989-04-18 | David R. Pruett | Method for rotating a binary image |
| US4797945A (en) * | 1985-12-13 | 1989-01-10 | Canon Kabushiki Kaisha | Image data coding apparatus |
| GB8700092D0 (en) | 1987-01-05 | 1987-02-11 | Crosfield Electronics Ltd | Image processing |
| US5001559A (en) * | 1989-10-12 | 1991-03-19 | International Business Machines Corporation | Transform coding using coefficient prediction techniques |
| US5142380A (en) * | 1989-10-23 | 1992-08-25 | Ricoh Company, Ltd. | Image data processing apparatus |
| US5319724A (en) * | 1990-04-19 | 1994-06-07 | Ricoh Corporation | Apparatus and method for compressing still images |
| US5129015A (en) * | 1990-04-19 | 1992-07-07 | Ricoh Company Ltd. | Apparatus and method for compressing still images without multiplication |
| US5189526A (en) * | 1990-09-21 | 1993-02-23 | Eastman Kodak Company | Method and apparatus for performing image compression using discrete cosine transform |
| JPH05103212A (ja) * | 1991-10-03 | 1993-04-23 | Sony Corp | データ伝送装置 |
| US5611001A (en) * | 1991-12-23 | 1997-03-11 | Xerox Corporation | Address reduction scheme implementing rotation algorithm |
| JPH05316360A (ja) | 1992-05-14 | 1993-11-26 | Fuji Xerox Co Ltd | 画像信号の符号化復号装置 |
| US5563718A (en) | 1993-11-30 | 1996-10-08 | Polaroid Corporation | Image coding by use of discrete cosine transforms |
| JP3579455B2 (ja) * | 1994-05-06 | 2004-10-20 | ペンタックス株式会社 | 画像入力装置 |
| CA2221277A1 (en) | 1995-05-15 | 1996-11-21 | Polaroid Corporation | A system and method for shearing or rotating an image using discrete cosine transforms |
| US5680129A (en) | 1995-07-18 | 1997-10-21 | Hewlett-Packard Company | System and method for lossless image compression |
| US5581635A (en) * | 1995-07-25 | 1996-12-03 | United Parcel Service Of America, Inc. | Method and system for fast rotation of run-length encoded images |
| US5706216A (en) | 1995-07-28 | 1998-01-06 | Reisch; Michael L. | System for data compression of an image using a JPEG compression circuit modified for filtering in the frequency domain |
| US5677689A (en) | 1995-08-31 | 1997-10-14 | Yovanof; Gregory S. | Fixed rate JPEG compliant still image compression |
| US5991450A (en) * | 1995-09-06 | 1999-11-23 | Canon Kabushiki Kaisha | Image encoding and decoding apparatus |
| US5682152A (en) | 1996-03-19 | 1997-10-28 | Johnson-Grace Company | Data compression using adaptive bit allocation and hybrid lossless entropy encoding |
| US5867598A (en) * | 1996-09-26 | 1999-02-02 | Xerox Corporation | Method and apparatus for processing of a JPEG compressed image |
| US5751865A (en) | 1996-09-26 | 1998-05-12 | Xerox Corporation | Method and apparatus for image rotation with reduced memory using JPEG compression |
-
1998
- 1998-03-30 US US09/052,039 patent/US6298166B1/en not_active Expired - Lifetime
-
1999
- 1999-03-11 DE DE69907798T patent/DE69907798T2/de not_active Expired - Lifetime
- 1999-03-11 EP EP99301849A patent/EP0947954B1/en not_active Expired - Lifetime
- 1999-03-30 JP JP08998599A patent/JP4348768B2/ja not_active Expired - Fee Related
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7161695B2 (en) | 2000-04-06 | 2007-01-09 | Seiko Epson Corporation | Image information distributing system |
| JP2002133432A (ja) * | 2000-10-27 | 2002-05-10 | Seiko Epson Corp | 画像処理装置及び方法 |
| JP2006352181A (ja) * | 2005-02-18 | 2006-12-28 | Hitachi Ltd | 画像の符号化/復号化装置、符号化/復号化プログラム及び符号化/復号化方法 |
| JP2008533787A (ja) * | 2005-03-11 | 2008-08-21 | ノキア コーポレイション | 圧縮済領域における静止画像を処理するための方法、コンピュータプログラムプロダクト、および装置 |
| JP2011515039A (ja) * | 2008-02-13 | 2011-05-12 | クゥアルコム・インコーポレイテッド | Jpegまたは他の符号化規格のための回転トランスコーディング |
| JP2013138450A (ja) * | 2008-02-13 | 2013-07-11 | Qualcomm Inc | 符号化画像を回転させる方法および装置 |
| JP2014239473A (ja) * | 2008-02-13 | 2014-12-18 | クゥアルコム・インコーポレイテッドQualcomm Incorporated | Jpegまたは他の符号化規格のための回転トランスコーディング |
| US8977064B2 (en) | 2008-02-13 | 2015-03-10 | Qualcomm Incorporated | Rotational transcoding for JPEG or other coding standards |
| JP2012523046A (ja) * | 2009-04-01 | 2012-09-27 | クゥアルコム・インコーポレイテッド | 画像を回転させる装置および方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| US6298166B1 (en) | 2001-10-02 |
| JP4348768B2 (ja) | 2009-10-21 |
| EP0947954A1 (en) | 1999-10-06 |
| DE69907798T2 (de) | 2004-03-25 |
| EP0947954B1 (en) | 2003-05-14 |
| DE69907798D1 (de) | 2003-06-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4348768B2 (ja) | 画像変換方法 | |
| US6847735B2 (en) | Image processing system, image processing apparatus, image input apparatus, image output apparatus and method, and storage medium | |
| US7847833B2 (en) | Digital camera device providing improved methodology for rapidly taking successive pictures | |
| US7856147B2 (en) | Method and apparatus for processing a compressed image in an order other than the order of which it was compressed | |
| US7403662B2 (en) | Browsing JPEG images using MPEG hardware chips | |
| CN100477788C (zh) | 图像处理显示装置和图像处理显示方法 | |
| EP1009168A2 (en) | Image processing apparatus and method, and recording medium | |
| US20010012397A1 (en) | Image processing apparatus and method | |
| US7542611B2 (en) | Image processing apparatus and method for converting first code data sets into second code data for JPEG 2000 and motion JPEG 2000 | |
| US20010019335A1 (en) | Iamge coding-decoding method, image coding-decoding system, image coder, image decoder, and storage medium | |
| US20040264787A1 (en) | Image processing decompression apparatus and method of using same different scaling algorithms simultaneously | |
| JP2001204030A (ja) | 画像処理装置及び方法と記憶媒体 | |
| KR20060022894A (ko) | 이동 단말기에서의 썸네일 영상 생성 장치 및 방법 | |
| JP2004289290A (ja) | 画像処理装置 | |
| JP2000059612A (ja) | 画像処理装置及びその方法 | |
| JPH07160865A (ja) | 静止画再生装置 | |
| JP2003092684A (ja) | 画像符号化装置、及び画像符号化方法、並びにプログラム、記憶媒体 | |
| JP4194311B2 (ja) | 動画像符号化装置及び動画像復号装置並びにそれらの方法 | |
| JP3961966B2 (ja) | 不要部除去装置、画像処理装置、プログラム、記憶媒体及び不要部除去方法 | |
| JPH1075463A (ja) | 画像圧縮装置および画像伸張装置 | |
| JPH11136521A (ja) | 画像データ処理装置 | |
| JPH09205552A (ja) | 画像符号化方法とその装置 | |
| Hogrebe | A parallel architecture of JPEG2000 tier I encoding for FPGA implementation | |
| Patel | An Efficient Image Compression Technique Based On Arithmetic Coding | |
| Ratnakar et al. | Fast dihedral symmetry operations on digital images in the compressed domain |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060905 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061101 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080311 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080512 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090512 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090610 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090630 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090713 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120731 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080512 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120731 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130731 Year of fee payment: 4 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| LAPS | Cancellation because of no payment of annual fees |