JPH02246485A - ベクトル量子化装置 - Google Patents
ベクトル量子化装置Info
- Publication number
- JPH02246485A JPH02246485A JP1067014A JP6701489A JPH02246485A JP H02246485 A JPH02246485 A JP H02246485A JP 1067014 A JP1067014 A JP 1067014A JP 6701489 A JP6701489 A JP 6701489A JP H02246485 A JPH02246485 A JP H02246485A
- Authority
- JP
- Japan
- Prior art keywords
- vector
- input
- representative
- neural network
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/002—Image coding using neural networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24133—Distances to prototypes
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。
め要約のデータは記録されません。
Description
【発明の詳細な説明】
産業上の利用分野
本発明は、画像信号の高能率符号化に係わり、二二−ラ
ル自ネットワークの学習・記憶・自己組織機能を用いた
ベクトル量子化装置に関するものである。
ル自ネットワークの学習・記憶・自己組織機能を用いた
ベクトル量子化装置に関するものである。
従来の技術
画像信号の高能率符号化の一手法として、ベクトル量子
化がある。これは画像信号の標本値系列をに個ずつに区
切り、これを組にしてに次元の入力ベクトルＸとし、前
記入力ベクトル空間をＮ個に分割してそれぞれを代表ベ
クトルＲで表現し、前記入力ベクトルＸを代表ベクトル
Ｒに写像することで高能率符号化を実現するものである
。ベクトル量子化については、例えば日刊工業新聞社列
、吹抜敬彦著ｒＴＶ信号の多次元信号処理ｊ ｐ２１１
ｉ０−ｐ２Ｇ５に記されている。
化がある。これは画像信号の標本値系列をに個ずつに区
切り、これを組にしてに次元の入力ベクトルＸとし、前
記入力ベクトル空間をＮ個に分割してそれぞれを代表ベ
クトルＲで表現し、前記入力ベクトルＸを代表ベクトル
Ｒに写像することで高能率符号化を実現するものである
。ベクトル量子化については、例えば日刊工業新聞社列
、吹抜敬彦著ｒＴＶ信号の多次元信号処理ｊ ｐ２１１
ｉ０−ｐ２Ｇ５に記されている。
ところで近年、神経回路のモデル化と、それを用いてハ
ードウェアに実現したニューラル・ネットワークの研究
が盛んに行なわれ、各種の報告がなされている。ニュー
ラル・ネットワークについて例えば、 （株）トリケッ
ブス刊、せ利俊−森晃徳監修゛入門ニューラル・ネット
ワークス”等に解説されている。脳・神経系における連
想・記憶Φ学習といった情報処理機構を持ったニューラ
ル拳ネットワークを用いることにより、従来の回路では
実現できなかった機能・性能を得られることが期待され
ている。
ードウェアに実現したニューラル・ネットワークの研究
が盛んに行なわれ、各種の報告がなされている。ニュー
ラル・ネットワークについて例えば、 （株）トリケッ
ブス刊、せ利俊−森晃徳監修゛入門ニューラル・ネット
ワークス”等に解説されている。脳・神経系における連
想・記憶Φ学習といった情報処理機構を持ったニューラ
ル拳ネットワークを用いることにより、従来の回路では
実現できなかった機能・性能を得られることが期待され
ている。
発明が解決しようとする課題
しかし、従来、ベクトル量子化を行なう場合、最適な代
表ベクトルＲおよびこれが代表する領域Ｓをどのように
して決定するかという課題がある。
表ベクトルＲおよびこれが代表する領域Ｓをどのように
して決定するかという課題がある。
また、入力ベクトルＸを代表ベクトルＲに写像するだめ
の計算、即ちパターン・マ・ソチングの計算を、従来の
デジタル回路や計算機を用いて行なう場合には計算量が
膨大となり、計算時間または回路規模の面から実用化が
困難である。
の計算、即ちパターン・マ・ソチングの計算を、従来の
デジタル回路や計算機を用いて行なう場合には計算量が
膨大となり、計算時間または回路規模の面から実用化が
困難である。
本発明はかかる問題点に鑑み、最適な代表ベクトルＲお
よびこれが代表する領域Ｓの有効な決定手段が得られ、
入力ベクトルＸを代表ベクトルＲに高速に写像できるベ
クトル量子化装置を提供することを目的とする。
よびこれが代表する領域Ｓの有効な決定手段が得られ、
入力ベクトルＸを代表ベクトルＲに高速に写像できるベ
クトル量子化装置を提供することを目的とする。
課題を解決するための手段
本発明は、上述の課題を解決するため、画像信号の標本
値系列をに個ずつに区切り、これを組にしてに次元の入
力ベクトルＸとし、前記入力ベクトル空間をＮ個に分割
してそれぞれを代表ベクトルＲで表現し、前記入力ベク
トルＸを前記代表ベクトルＲに写像して高能率符号化を
行なうベクトル量子化装置において、階層型ニューラル
・ネットワークを有し、この階層型ニューラル・ネット
ワークへの入力を前記入力ベクトルＸ１ 出力期待値
を前記代表ベクトルＲとしてバック・プロパゲーシヨン
により学習させるという構成を備えたものである。
値系列をに個ずつに区切り、これを組にしてに次元の入
力ベクトルＸとし、前記入力ベクトル空間をＮ個に分割
してそれぞれを代表ベクトルＲで表現し、前記入力ベク
トルＸを前記代表ベクトルＲに写像して高能率符号化を
行なうベクトル量子化装置において、階層型ニューラル
・ネットワークを有し、この階層型ニューラル・ネット
ワークへの入力を前記入力ベクトルＸ１ 出力期待値
を前記代表ベクトルＲとしてバック・プロパゲーシヨン
により学習させるという構成を備えたものである。
また、もう一つの発明は階層型ニューラル会ネットワー
クを有し、この階層型ニューラル・ネットワークへの教
師信号入力として入力ベクトルＸを与えて自己組織化さ
れた後の出力パターンにより、前記入力ベクトル空間の
分割数Ｎおよび代表ベクトルＲを決定させるという構成
を備えたものである。
クを有し、この階層型ニューラル・ネットワークへの教
師信号入力として入力ベクトルＸを与えて自己組織化さ
れた後の出力パターンにより、前記入力ベクトル空間の
分割数Ｎおよび代表ベクトルＲを決定させるという構成
を備えたものである。
作用
本発明は上述の構成によって、脳・神経系における連想
・記憶・学習−自己組織化といった情報処理機構を持っ
たニューラル・ネットワークを用いることにより、ベク
トル量子化装置において、最適な代表ベクトルＲおよび
これが代表する領域Ｓの有効な決定手段と、入力ベクト
ルＸを代表ベクトルＲに高速に写像するための有効な演
算装置が得られる。
・記憶・学習−自己組織化といった情報処理機構を持っ
たニューラル・ネットワークを用いることにより、ベク
トル量子化装置において、最適な代表ベクトルＲおよび
これが代表する領域Ｓの有効な決定手段と、入力ベクト
ルＸを代表ベクトルＲに高速に写像するための有効な演
算装置が得られる。
実施例
（実施例１）
第１図は、本発明の第１の実施例におけるベクトル量子
化装置の構成図である。第１図において、１はバッター
プロバゲーシーンによる学習が可能な階層型構成をもつ
ニューラル・ネットワークであり、ある入カバターン（
ベクトル）Ｘ２に対して出力パターン（ベクトル）Ｒｘ
３の応答を行なう。ここで入力ベクトルＸ２として、画
像信号をに個°ずつに区切った標本値系列をニューラル
・ネットワーク１に入力する。出力期待値ベクトル発生
回路４は入力ベクトルＸ２に対して、入力ベクトル空間
をあらかじめ決定された領域Ｎ個に分割して、それぞれ
を代表ベクトルすなわち出力期待値ベクトルＲｙ５で表
現するものであり、従来の構成によるベクトル量子化装
置と同じである。６はバック番プロパゲージ日ン制御回
路であり、ニューラル・ネットワーク１の出力ベクトル
Ｒｘ３に対して出力期待値ベクトル余生回路４の出力期
待値ベクトルＲｙ５を教師信号として誤差がなくなるよ
うにニューラル・ネットワーク１の学習を制御するもの
である。
化装置の構成図である。第１図において、１はバッター
プロバゲーシーンによる学習が可能な階層型構成をもつ
ニューラル・ネットワークであり、ある入カバターン（
ベクトル）Ｘ２に対して出力パターン（ベクトル）Ｒｘ
３の応答を行なう。ここで入力ベクトルＸ２として、画
像信号をに個°ずつに区切った標本値系列をニューラル
・ネットワーク１に入力する。出力期待値ベクトル発生
回路４は入力ベクトルＸ２に対して、入力ベクトル空間
をあらかじめ決定された領域Ｎ個に分割して、それぞれ
を代表ベクトルすなわち出力期待値ベクトルＲｙ５で表
現するものであり、従来の構成によるベクトル量子化装
置と同じである。６はバック番プロパゲージ日ン制御回
路であり、ニューラル・ネットワーク１の出力ベクトル
Ｒｘ３に対して出力期待値ベクトル余生回路４の出力期
待値ベクトルＲｙ５を教師信号として誤差がなくなるよ
うにニューラル・ネットワーク１の学習を制御するもの
である。
以上のような構成において、学習の完了したニューラル
・ネットワーク１は、それ単体でベクトル量子化装置と
して機能するようになる。ニューラル・ネットワーク１
の学習時には、出力期待値ベクトル発生回路４として、
従来のベクトル量子化装置を必要とし、従来の計算時間
および装置規模の課題があるが、実際のベクトル量子化
装置として使用する場合には、高速な演算が可能となる
。
・ネットワーク１は、それ単体でベクトル量子化装置と
して機能するようになる。ニューラル・ネットワーク１
の学習時には、出力期待値ベクトル発生回路４として、
従来のベクトル量子化装置を必要とし、従来の計算時間
および装置規模の課題があるが、実際のベクトル量子化
装置として使用する場合には、高速な演算が可能となる
。
（実施例２）
第２図は、本発明の第２の実施例におけるベクトル量子
化装置の構成図である。第２図において、７は教師なし
の学習、即ちフィード・フォワードの自己組織化が可能
な階層型構成をもつニューラル・ネットワークであり、
ある入カバターン（ベクトル）Ｘ２に対して出力パター
ン（ベクトル）Ｒ８の応答を行なう。ここで入力ベクト
ルＸ２として、画像信号をに個ずつに区切った標本値系
列をニューラル・ネットワーク７に入力する。
化装置の構成図である。第２図において、７は教師なし
の学習、即ちフィード・フォワードの自己組織化が可能
な階層型構成をもつニューラル・ネットワークであり、
ある入カバターン（ベクトル）Ｘ２に対して出力パター
ン（ベクトル）Ｒ８の応答を行なう。ここで入力ベクト
ルＸ２として、画像信号をに個ずつに区切った標本値系
列をニューラル・ネットワーク７に入力する。
この時、入力ベクトル空間に対して、出力ベクトル空間
が小さくなるようにニューラル・ネットワーク７の入出
力数を構成すれば、入力ベクトル空間が領域Ｎ個に分割
され、それぞれが代表ベクトルすなわち出力ベクトルＲ
８で表現されることになる。以上のような構成において
、ニューラル・ネットワーク７は入力ベクトル２に対し
てエネルギー関数が最小となるような出力ベクトル８に
自己組織化されるため、自己組織化の完了したニューラ
ル・ネットワーク７は、それ単体で有効な代表ベクトル
およびこれか代表する有効な領域を持ったベクトル量子
化装置として機能するようになる。
が小さくなるようにニューラル・ネットワーク７の入出
力数を構成すれば、入力ベクトル空間が領域Ｎ個に分割
され、それぞれが代表ベクトルすなわち出力ベクトルＲ
８で表現されることになる。以上のような構成において
、ニューラル・ネットワーク７は入力ベクトル２に対し
てエネルギー関数が最小となるような出力ベクトル８に
自己組織化されるため、自己組織化の完了したニューラ
ル・ネットワーク７は、それ単体で有効な代表ベクトル
およびこれか代表する有効な領域を持ったベクトル量子
化装置として機能するようになる。
また、第２図においては、上記のようにニューラル・ネ
ットワーク７の自己組織化によって出力される出力ベク
トル８および領域を用いて、従来の回路構成によるベク
トル量子化装置を用いて出力ベクトル８を決定すること
もできる。即ち、上記のようにニューラル・ネットワー
ク７の自己組織化によって決定される出力ベクトル８を
テーブル拳メモリ９に書き込んでおき、従来のパターン
拳マツチング装置ＩＯで入力ベクトルＸ２とのパターン
−マツチングを行ない出力ベクトルまたはその番号１１
を出力するものである。
ットワーク７の自己組織化によって出力される出力ベク
トル８および領域を用いて、従来の回路構成によるベク
トル量子化装置を用いて出力ベクトル８を決定すること
もできる。即ち、上記のようにニューラル・ネットワー
ク７の自己組織化によって決定される出力ベクトル８を
テーブル拳メモリ９に書き込んでおき、従来のパターン
拳マツチング装置ＩＯで入力ベクトルＸ２とのパターン
−マツチングを行ない出力ベクトルまたはその番号１１
を出力するものである。
第２図の構成において、ニューラル・ネットワーク７そ
れ単体でベクトル量子化装置さして機能させてもよいし
、このニューラル舎ネットワーク７の出力ベクトル８を
用いて、従来の回路構成によるベクトル量子化装置の出
力ベクトル！！を決定してもよいことはいうまでもない
。
れ単体でベクトル量子化装置さして機能させてもよいし
、このニューラル舎ネットワーク７の出力ベクトル８を
用いて、従来の回路構成によるベクトル量子化装置の出
力ベクトル！！を決定してもよいことはいうまでもない
。
発明の効果
以上の発明から明らかなように、本発明はニューラル・
ネットワークを用いることにより、ベクトル量子化装置
において、最適な代表ベクトルＲおよびこれが代表する
領域Ｓの有効な決定手段と、入力ベクトルＸを代表ベク
トルＲに高速に写像するための有効な演算装置が得られ
る。
ネットワークを用いることにより、ベクトル量子化装置
において、最適な代表ベクトルＲおよびこれが代表する
領域Ｓの有効な決定手段と、入力ベクトルＸを代表ベク
トルＲに高速に写像するための有効な演算装置が得られ
る。
第１図は本発明の第１の実施例におけるベクトル量子化
装置の構成図、第２図は本発明の第２の実施例における
ベクトル量子化装置の構成図であｌ、？・・・・階層型
ニューラル・ネットワーク、２・・・・入力ベクトル、
３．訃・・・出力ベクトル、４・・・・出力期待値ベク
トル発生回路、６・・・・バック拳プロパゲージβン制
御回路。 代理人の氏名 弁理士 粟野重孝 はか１名第 ｌ ― １階層型ニューラルネットワーク ／ 蕗 図
装置の構成図、第２図は本発明の第２の実施例における
ベクトル量子化装置の構成図であｌ、？・・・・階層型
ニューラル・ネットワーク、２・・・・入力ベクトル、
３．訃・・・出力ベクトル、４・・・・出力期待値ベク
トル発生回路、６・・・・バック拳プロパゲージβン制
御回路。 代理人の氏名 弁理士 粟野重孝 はか１名第 ｌ ― １階層型ニューラルネットワーク ／ 蕗 図
Claims (2)
- （１）画像信号の標本値系列をＫ個ずつに区切り、これ
を組にしてＫ次元の入力ベクトルＸとし、前記入力ベク
トル空間をＮ個に分割してそれぞれを代表ベクトルＲで
表現し、前記入力ベクトルＸを前記代表ベクトルＲに写
像して高能率符号化を行なうベクトル量子化装置におい
て、階層型ニューラル・ネットワークを有し、この階層
型ニューラル・ネットワークへの入力を前記入力ベクト
ルＸ、出力期待値を前記代表ベクトルＲとしてバック・
プロパゲーションにより学習させることを特徴とするベ
クトル量子化装置。 - （２）画像信号の標本値系列をＫ個ずつに区切り、これ
を組にしてＫ次元の入力ベクトルＸとし、前記入力ベク
トル空間をＮ個に分割してそれぞれを代表ベクトルＲで
表現し、前記入力ベクトルＸを前記代表ベクトルＲに写
像して高能率符号化を行なうベクトル量子化装置におい
て、階層型ニューラル・ネットワークを有し、この階層
型ニューラル・ネットワークへの教師信号入力として前
記入力ベクトルＸを与えて自己組織化された後の出力パ
ターンにより、前記入力ベクトル空間の分割数Ｎおよび
代表ベクトルＲを決定することを特徴とするベクトル量
子化装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP1067014A JPH02246485A (ja) | 1989-03-17 | 1989-03-17 | ベクトル量子化装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP1067014A JPH02246485A (ja) | 1989-03-17 | 1989-03-17 | ベクトル量子化装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH02246485A true JPH02246485A (ja) | 1990-10-02 |
Family
ID=13332635
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP1067014A Pending JPH02246485A (ja) | 1989-03-17 | 1989-03-17 | ベクトル量子化装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH02246485A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH04337406A (ja) * | 1991-05-14 | 1992-11-25 | Kawasaki Steel Corp | 鋼板の表面等級判別方法 |
| US6466924B1 (en) | 1997-12-02 | 2002-10-15 | Denso Corporation | Verification method of neural network and verification apparatus thereof |
-
1989
- 1989-03-17 JP JP1067014A patent/JPH02246485A/ja active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH04337406A (ja) * | 1991-05-14 | 1992-11-25 | Kawasaki Steel Corp | 鋼板の表面等級判別方法 |
| US6466924B1 (en) | 1997-12-02 | 2002-10-15 | Denso Corporation | Verification method of neural network and verification apparatus thereof |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Alpaydin | Multiple networks for function learning | |
| Liu et al. | Bi-real net: Enhancing the performance of 1-bit cnns with improved representational capability and advanced training algorithm | |
| Mao et al. | Approximating functions with multi-features by deep convolutional neural networks | |
| Byl | Self-reproduction in small cellular automata | |
| Huang et al. | Optic flow field segmentation and motion estimation using a robust genetic partitioning algorithm | |
| CN114283347B (zh) | 目标检测方法、系统、智能终端及计算机可读存储介质 | |
| CN114239675B (zh) | 融合多模态内容的知识图谱补全方法 | |
| CN118982723A (zh) | 一种图像处理方法、数据处理方法、设备、介质及产品 | |
| Hahner et al. | Analysis and prediction of deforming 3D shapes using oriented bounding boxes and LSTM autoencoders | |
| Zemel et al. | TRAFFIC: Recognizing objects using hierarchical reference frame transformations | |
| JPH02246485A (ja) | ベクトル量子化装置 | |
| CN114399708A (zh) | 一种视频动作迁移深度学习系统和方法 | |
| Kim et al. | Real-time driver monitoring: Implementing FPGA-accelerated CNNs for pose detection | |
| CN117010462A (zh) | 一种神经网络模型的生成方法及系统 | |
| US4984176A (en) | VDH biocomputer | |
| CN114565078A (zh) | 模型剪枝方法、装置、计算设备及存储介质 | |
| Back et al. | Approximation of Hybrid Systems by Neural Networks. | |
| CN117788962B (zh) | 基于持续学习的可扩展点云目标识别方法 | |
| Lin et al. | Function generation in real-time simulation | |
| CN115409766B (zh) | 一种图像处理方法、装置、移动终端及可读存储介质 | |
| Vörös | Nonlinear system identification with internal variable estimation | |
| Veres | Limited complexity and parallel implementation of polytope updating | |
| Farrell et al. | A synthesis procedure for Hopfield's continuous time content addressable memory | |
| Stiles et al. | Some limitations of linear memory architectures for signal processing | |
| Salih et al. | Synthesis approach for bidirectional associative memories based on the perceptron training algorithm |