JPH0836643A - 画像認識におけるニューラルネットによる学習方法 - Google Patents

Abstract

(57)【要約】 【目的】標準パターンの画像を登録するだけで、殆ど追
加学習無しに、柔軟且つ正確に画像のパターンを認識で
きるようにした画像認識におけるニューラルネットの学
習方法を提供するにある。 【構成】画像入力装置２は標準文字が描かれている撮像
対象１を撮像し、その画像データはＡ／Ｄ変換後一旦フ
レームメモリ３に格納される。この格納された標準パタ
ーンの画像を基にして膨張して文字線が太くなった膨張
パターンの画像、収縮して文字線が細くなった収縮パ
ターンの画像、更に文字自体を上下左右に縮めた画像
を生成し、この生成された画像〜は生成画像用の
フレームメモリ５に登録される。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、画像認識におけるニュ
ーラルネットによる学習方法に関するものである。

【０００２】

【従来の技術】従来ニューラルネットによる学習方法用
いた画像処理装置では、正解として判断したい画像のパ
ターンデータを全て取り込み、登録して学習していた。

【０００３】

【発明が解決しようとする課題】上記のように正解とし
て判断したい画像のパターンデータを全て取り込み、登
録して学習する方法では、正解とすべき画像を全て画像
入力装置から取り込まなければならず、サンプルとして
その画像が無ければ、登録できなかった。そのためサン
プルが揃うまでは完全な学習は完成せず、判定ミスがあ
る毎にその画像を追加登楼し、再学習させていた。しか
しこの方法では再学習中は判断処理ができず、実用上問
題であった。

【０００４】またニューラルネットでのバックプロパー
ゲションによる学習では学習にかける入力パターンから
計算して理想値との誤差を算出し、その数値より学習の
進行を判断している。つまり学習にかける全ての入力パ
ターンの誤差の平均を算出して、その平均値がある程度
小さくなったら学習完了と判断していたが、この方法で
はあるパターンのみが学習できていなくても平均化され
て平均値が小さくなり学習が終了してしまう場合が起き
る。また誤差の最悪値で完了を判断していると、良く学
習できているものが、過剰に学習してしまうという問題
もあった。

【０００５】本発明は上記問題点に鑑みて為されたもの
で、請求項１乃至請求項３の発明の目的とするところ
は、標準パターンの画像を登録するだけで、殆ど追加学
習無しに、柔軟且つ正確に画像のパターンを認識するこ
とができる画像認識におけるニューラルネットの学習方
法を提供するにある。請求項４の発明の目的とするとこ
ろは、請求項１の発明の目的に加えて、きめ細かく学習
を進行させることができる画像認識におけるニューラル
ネットの学習方法を提供するにある。

【０００６】請求項５の発明の目的とするところは、請
求項１の発明の目的に加えて、学習を高速に進行させる
ことができる画像認識におけるニューラルネットの学習
方法を提供するにある。請求項６の発明の目的とすると
ころは、確実十分な学習を行い且つ過剰学習となる前に
学習完了を自動的に判断することが可能な画像認識にお
けるニューラルネットの学習方法を提供するにある。

【０００７】

【課題を解決するための手段】上記目的を達成するため
に請求項１の発明では、学習作業に入る前に、画像入力
装置により撮像した所定パータンの画像を正解パターン
の標準として登録し、その標準パターンの画像を基に画
像認識において許容範囲と想定される膨張パターン、収
縮パターン、圧縮パターン等の変形パターンの画像を生
成登録し、この生成登録した画像を学習にかけることを
特徴とする。

【０００８】請求項２の発明では、請求項１の発明にお
いて、上記所定パターンは文字パターンであることを特
徴とする。請求項３の発明では、請求項１の発明におい
て、上記所定パターンは文字パターン以外の図形パター
ンであることを特徴とする。請求項４の発明では、請求
項１の発明において、１パターン毎に結合係数に修正を
加える逐次修正法を用いてバックプロパーゲーションに
よる学習をかけることを特徴とする。

【０００９】請求項５の発明では、全ての出力の算出後
に一括して結合係数に修正を加える一括修正法を用いて
バックプロパーゲーションによる学習をかけることを特
徴とする。請求項６の発明では、正解パターンとして登
録した画像をバックプロパーゲションによる学習をかけ
る画像認識におけるニューラルネットによる学習方法に
おいて、学習の誤差と各出力の学習の達成度に基づいて
学習完了時期を判断することを特徴とする。

【００１０】

【作用】請求項１乃至請求項３の発明によれば、学習作
業に入る前に、画像入力装置により撮像した所定パータ
ンの画像を正解パターンの標準として登録し、その標準
パターンの画像を基に画像認識において許容範囲と想定
される膨張パターン、収縮パターン、圧縮パターン等の
変形パターンの画像を生成登録するので、標準パターン
の画像の登録を行うだけで、認識対象の画像の許容範囲
を設けることができて、十分な学習が可能となり、その
ため追加学習を行うことなく照明等による撮像条件の変
化や検査対象画像の変化に柔軟に対応し、且つ正確に文
字や図形のパターンを認識することができ、また追加学
習の必要性が少ないため学習によるパターン認識動作の
中断を殆ど無くすことができる。

【００１１】請求項４の発明によれば、請求項１の発明
において、１パターン毎に結合係数に修正を加える逐次
修正法を用いてバックプロパーゲーションによる学習を
かけるので、きめ細かく学習を進行させることができ
る。請求項５の発明によれば、全ての出力の算出後に一
括して結合係数に修正を加える一括修正法を用いてバッ
クプロパーゲーションによる学習をかけるので、学習を
高速に進行させることができる。

【００１２】請求項６の発明によれば、正解パターンと
して登録した画像をバックプロパーゲションによる学習
をかける画像認識におけるニューラルネットによる学習
方法において、学習の誤差と各出力の学習の達成度に基
づいて学習完了時期を判断するので、確実十分な学習を
行い且つ過剰学習となる前に自動的に学習完了を行うこ
とができる。

【００１３】

【実施例】以下、本発明の実施例を図面を参照して説明
する。 （実施例１）図２は本実施例を用いた画像処理装置の概
要を示しており、図１に示すように標準文字が描かれて
いる撮像対象１を画像入力装置２により撮像して、その
画像データをＡ／Ｄ変換後一旦フレームメモリ３に格納
し、この格納した標準画像のデータを基にしてＭＰＵユ
ニット４の処理動作により、膨張して文字線が太くなっ
た膨張パータンの画像、収縮して文字線が細くなった
収縮パターンの画像、更に文字自体を上下左右に縮め
た画像を生成して生成画像用のフレームメモリ５に登
録する。尚図２中６はシステムバスを示す。

【００１４】この場合夫々の膨張／収縮率を複数段階持
つことで図３に示すように撮像対象１から得た画像より
標準パターンの画像と文字の太さの違う画像、を
複数段階作り出すことができ、これらは明るさが変化し
たり、対象画像自体の品質の違いによって２値化画像が
変化した場合を想定したものである。また文字パターン
を切り出す場合に、図４（ａ）に示すように背景にノイ
ズＮＳが存在している場合、背景のノイズの影響を受け
た文字パターン切り出しを行うと、ノイズＮＳの影響を
受けた部分を含めて文字パターンとして切り出され、図
４（ｂ）に示すように本来の文字パターン部分は縮まっ
てしまう。それに対応するために上下、左右に圧縮した
パターンの画像を作り出す。圧縮率は複数段階持つこと
で標準パターンの画像を中心に色々な圧縮状態の画像を
作り出すことができる。図３のは下に１ドット詰めた
場合、は上に１ドット詰めた場合、は左に１ドット
詰めた場合、は右１ドット詰めた場合の画像を夫々示
す。

【００１５】このようにして取り込み画像を基に二つの
要因による生成方法を組み合わせることで複数の変化に
富んだ変形パターンの文字画像を作ることができる。尚
図４（ｃ）は背景にノイズが存在しない場合を示し、図
４（ｄ）はその場合の文字パターンの切り出しを示す。
さてこのようにして得られた各パターンの画像データは
生成画像用のフレームメモリ５に蓄え、次の工程である
ニューラルネットによる学習作業のときに用いる。

【００１６】ニュータルネットは図１に示すように入力
と出力の間の結合係数（重み）を基本構成とし、入力層
Ｉ、中間層II、出力層III より構成され、入力層Ｉに与
えられた画像データは一層目の結合係数によって強弱が
つけられ中間層IIへ伝搬し、中間層IIから２層目の結合
係数によって強弱が付けられ出力層III へ伝搬する。こ
のとき適切な結合係数が与えられていれば、所定の出力
値が得られて文字パターンを判別（認識）することがで
きる。またこのような結果を得るための適切な結合係数
を求める作業を学習と呼んでおり、本実施例ではバック
プロパゲーションによって学習を実現する。これは理想
とする出力状態とそのときの実際の出力値との差異を求
め、その誤差値が小さくなるように結合係数を調整する
手法である。尚更に説明すると、図５に示すように
「Ａ」の画像が与えられた場合は１番の出力値が大きく
出て、それ以外の出力が小さくなれば良く、「Ｂ」の画
像が与えれられた場合は２番の出力が大きく出て、それ
以外の出力が小さくなれば、結果として文字を認識でき
るのである。画像データは２値データ（或いは濃淡デー
タ）に変換された後入力層に取り込まれる。尚図５の
（ａ）は出力値を、（ｂ）は「Ａ」画像時の理想値を、
（ｃ）は「Ｂ」画像時の理想値を夫々示す。

【００１７】さて上述の手法には、１パターンの誤差を
求める度に結合係数へ反映させる逐次修正法と、登録さ
れたパターン全ての誤差を算出して結合係数を一度に修
正する一括修正方法とがある。前者の逐次修正法はきめ
細かく学習が進行するが学習時間が長い傾向があり、逐
次修正法は荒いが高速に進行する傾向を有している。本
実施例ではこれらの手法を、生成する文字パターンの
数、登録する文字パターンの数等条件によって選択する
ようにＭＰＵユニット４をプログラムしてある。

【００１８】而してバックプロパゲーションによる学習
に用いる入力画像データに上記方法によって得た生成画
像データを反映させることで、生成画像について全て判
別することができることになり、画像データの登録後
は、学習に用いる画像データがフレームメモリ５に蓄え
られてあるから画像処理装置のみで学習作業が行えるこ
とになる。

【００１９】上記図１乃至図４による説明はアルファベ
ットのような文字パターンの登録及びその変形パターン
の生成登録についてであったが、図６乃至図７に示すよ
うに文字パターン以外の図形パターンについても同様な
方法により標準のパターンの登録及びその変形パターン
の生成登録を学習作業前に行えば良い。勿論学習方法も
同様な手法によって行えば良い。尚使用する画像処理装
置のハードウェア構成は図２と同じであるため省略し、
又図１乃至図４と同じ意味、構成、或いは機能を持つ要
素には同じ番号、記号を付している。

【００２０】尚図６乃至図８は図１乃至図４における文
字パターンが図形パターンに代わっただけであるため、
上記図１乃至図４に対応する説明を参照することにより
特にここでは説明は行い。 （実施例２）ところでニューラルネットでのバックプロ
パーゲションによる学習では学習にかける入力パターン
から計算して理想値との誤差を算出し、その数値より学
習の進行を判断している。つまり学習にかける全ての入
力パターンの誤差の平均を算出して、その平均値がある
程度小さくなったら学習完了と判断しているが、この方
法ではあるパターンのみが学習できていなくても平均化
されて平均値が小さくなり学習が終了してしまう場合が
起きる。また誤差の最悪値で完了を判断していると、既
に良く学習できているものが、更なる学習により過剰に
学習してしまう場合が起きる。その点を解消するように
したのが請求項６の発明であって本実施例はこの請求項
６の発明に対応する。

【００２１】本実施例は図２に示す画像処理装置をハー
ドウェアとして用い、学習処理はＭＰＵユニット４によ
って行うものとする。そして学習は図１（図６）或いは
図５で示した上述のニューラルネットでのバックプロパ
ーゲーションによる学習を行う。而してバックプロパゲ
ーションによる学習作業を行う場合に、本実施例では入
力される各パターンの画像に対する各出力の基準値（合
格値）を設け、それを上回った出力数を全出力数に対す
る割合で表現するようにしている。つまりどの出力も合
格値を越えていなれば０％で、全てが合格値を越えてい
れば１００％となる。この割り合いを習熟率を称する。
図９はこの習熟率（イ）の時間との関係を示しており、
学習の進行をこの習熟率で判断すれば確実に十分な学習
をさせることができ、また合格値を越えたものには学習
しない処理を加えれば過剰学習の不具合を防ぐことがで
き、このとき他のパターンの学習の影響で誤差が大きく
なって合格値より下回った場合は再び学習の対象とすれ
ば、過剰な学習にならず、且つ確実十分な学習が行え、
その上完了を自動的に判断することが可能となり、結果
学習作業の自動化も可能となる。

【００２２】尚図９に示す（ロ）の曲線は二乗誤差を示
し、この二乗誤差は従来、学習させる人が経験的に若し
くは学習とは別のテスト画像で正常な判断ができるかど
うかで学習の完了を判断する場合に用いていたものであ
る。

【００２３】

【発明の効果】請求項１乃至請求項３の発明は、学習作
業に入る前に、画像入力装置により撮像した所定パータ
ンの画像を正解パターンの標準として登録し、その標準
パターンの画像を基に画像認識において許容範囲と想定
される膨張パターン、収縮パターン、圧縮パターン等の
変形パターンの画像を生成登録するので、標準パターン
の画像の登録を行うだけで、認識対象の画像の許容範囲
を設けることができて、十分な学習が可能となり、その
ため追加学習を行うことなく照明等による撮像条件の変
化や検査対象画像の変化に柔軟に対応することができ、
且つ正確に文字や図形のパターンを認識することがで
き、また追加学習の必要性が少ないため学習によるパタ
ーン認識動作の中断を殆ど無くすことができるという効
果がある。

【００２４】請求項４の発明は、請求項１の発明におい
て、１パターン毎に結合係数に修正を加える逐次修正法
を用いてバックプロパーゲーションによる学習をかける
ので、きめ細かく学習を進行させることができるという
効果がある。請求項５の発明は、全ての出力の算出後に
一括して結合係数に修正を加える一括修正法を用いてバ
ックプロパーゲーションによる学習をかけるので、学習
を高速に進行させることができるという効果がある。

【００２５】請求項６の発明は、正解パターンとして登
録した画像をバックプロパーゲションによる学習をかけ
る画像認識におけるニューラルネットによる学習方法に
おいて、学習の誤差と各出力の学習の達成度に基づいて
学習完了時期を判断するので、自動的に確実十分な学習
を行い且つ過剰学習となる前に学習完了を行うことがで
き、そのため学習作業の自動化が可能となるという効果
がある。

【図面の簡単な説明】

【図１】本発明の実施例１の文字パターンに対応する処
理の流れ図である。

【図２】同上に用いる画像処理装置のハードウェアの構
成図である。

【図３】同上の文字パターンにおける変形パターンの生
成説明図である。

【図４】同上の文字パターンの切り出しの説明図であ
る。

【図５】同上のニューラルネットのバックプロパゲーシ
ョンの説明図である。

【図６】同上の図形パターンに対応する処理の流れ図で
ある。

【図７】同上の図形パターンにおける変形パターンの生
成説明図である。

【図８】同上の図形パターンの切り出しの説明図であ
る。

【図９】本発明の実施例２に用いる習熟率と時間との関
係説明図である。

【符号の説明】

１ 撮像対象 ２ 画像入力装置 ３，５ フレームメモリ 〜 画像

─────────────────────────────────────────────────────

【手続補正書】

【提出日】平成６年１２月２６日

【手続補正１】

【補正対象書類名】明細書

【補正対象項目名】請求項４

【補正方法】変更

【補正内容】

【手続補正２】

【補正対象書類名】明細書

【補正対象項目名】請求項５

【補正方法】変更

【補正内容】

【手続補正３】

【補正対象書類名】明細書

【補正対象項目名】０００４

【補正方法】変更

【補正内容】

【０００４】またニューラルネットでのバックプロパゲ
ションによる学習では学習にかける入力パターンから計
算して理想値との誤差を算出し、その数値より学習の進
行を判断している。つまり学習にかける全ての入力パタ
ーンの誤差の平均を算出して、その平均値がある程度小
さくなったら学習完了と判断していたが、この方法では
あるパターンのみが学習できていなくても平均化されて
平均値が小さくなり学習が終了してしまう場合が起き
る。また誤差の最悪値で完了を判断していると、良く学
習できているものが、過剰に学習してしまうという問題
もあった。

【手続補正４】

【補正対象書類名】明細書

【補正対象項目名】０００７

【補正方法】変更

【補正内容】

【０００７】

【課題を解決するための手段】上記目的を達成するため
に請求項１の発明では、学習作業に入る前に、画像入力
装置により撮像した所定パターンの画像を正解パターン
の標準として登録し、その標準パターンの画像を基に画
像認識において許容範囲と想定される膨張パターン、収
縮パターン、圧縮パターン等の変形パターンの画像を生
成登録し、この生成登録した画像を学習にかけることを
特徴とする。

【手続補正５】

【補正対象書類名】明細書

【補正対象項目名】０００８

【補正方法】変更

【補正内容】

【０００８】請求項２の発明では、請求項１の発明にお
いて、上記所定パターンは文字パターンであることを特
徴とする。請求項３の発明では、請求項１の発明におい
て、上記所定パターンは文字パターン以外の図形パター
ンであることを特徴とする。請求項４の発明では、請求
項１の発明において、１パターン毎に結合係数に修正を
加える逐次修正法を用いてバックプロパゲーションによ
る学習をかけることを特徴とする。

【手続補正６】

【補正対象書類名】明細書

【補正対象項目名】００１１

【補正方法】変更

【補正内容】

【００１１】請求項４の発明によれば、請求項１の発明
において、１パターン毎に結合係数に修正を加える逐次
修正法を用いてバックプロパゲーションによる学習をか
けるので、きめ細かく学習を進行させることができる。
請求項５の発明によれば、全ての出力の算出後に一括し
て結合係数に修正を加える一括修正法を用いてバックプ
ロパゲーションによる学習をかけるので、学習を高速に
進行させることができる。

【手続補正７】

【補正対象書類名】明細書

【補正対象項目名】００１３

【補正方法】変更

【補正内容】

【００１３】

【実施例】以下、本発明の実施例を図面を参照して説明
する。 （実施例１）図２は本実施例を用いた画像処理装置の概
要を示しており、図１に示すように標準文字が描かれて
いる撮像対象１を画像入力装置２により撮像して、その
画像データをＡ／Ｄ変換後一旦フレームメモリ３に格納
し、この格納した標準画像のデータを基にしてＭＰＵユ
ニット４の処理動作により、膨張して文字線が太くなっ
た膨張パターンの画像、収縮して文字線が細くなった
収縮パターンの画像、更に文字自体を上下左右に縮め
た画像を生成して生成画像用のフレームメモリ５に登
録する。尚図２中６はシステムバスを示す。

【手続補正８】

【補正対象書類名】明細書

【補正対象項目名】００２０

【補正方法】変更

【補正内容】

【００２０】尚図６乃至図８は図１乃至図４における文
字パターンが図形パターンに代わっただけであるため、
上記図１乃至図４に対応する説明を参照することにより
特にここでは説明は行い。 （実施例２）ところでニューラルネットでのバックプロ
パゲションによる学習では学習にかける入力パターンか
ら計算して理想値との誤差を算出し、その数値より学習
の進行を判断している。つまり学習にかける全ての入力
パターンの誤差の平均を算出して、その平均値がある程
度小さくなったら学習完了と判断しているが、この方法
ではあるパターンのみが学習できていなくても平均化さ
れて平均値が小さくなり学習が終了してしまう場合が起
きる。また誤差の最悪値で完了を判断していると、既に
良く学習できているものが、更なる学習により過剰に学
習してしまう場合が起きる。その点を解消するようにし
たのが請求項６の発明であって本実施例はこの請求項６
の発明に対応する。

【手続補正９】

【補正対象書類名】明細書

【補正対象項目名】００２１

【補正方法】変更

【補正内容】

【００２１】本実施例は図２に示す画像処理装置をハー
ドウェアとして用い、学習処理はＭＰＵユニット４によ
って行うものとする。そして学習は図１（図６）或いは
図５で示した上述のニューラルネットでのバックプロパ
ゲーションによる学習を行う。而してバックプロパゲー
ションによる学習作業を行う場合に、本実施例では入力
される各パターンの画像に対する各出力の基準値（合格
値）を設け、それを上回った出力数を全出力数に対する
割合で表現するようにしている。つまりどの出力も合格
値を越えていなれば０％で、全てが合格値を越えていれ
ば１００％となる。この割り合いを習熟率を称する。図
９はこの習熟率（イ）の時間との関係を示しており、学
習の進行をこの習熟率で判断すれば確実に十分な学習を
させることができ、また合格値を越えたものには学習し
ない処理を加えれば過剰学習の不具合を防ぐことがで
き、このとき他のパターンの学習の影響で誤差が大きく
なって合格値より下回った場合は再び学習の対象とすれ
ば、過剰な学習にならず、且つ確実十分な学習が行え、
その上完了を自動的に判断することが可能となり、結果
学習作業の自動化も可能となる。

【手続補正１０】

【補正対象書類名】明細書

【補正対象項目名】００２４

【補正方法】変更

【補正内容】

【００２４】請求項４の発明は、請求項１の発明におい
て、１パターン毎に結合係数に修正を加える逐次修正法
を用いてバックプロパゲーションによる学習をかけるの
で、きめ細かく学習を進行させることができるという効
果がある。請求項５の発明は、全ての出力の算出後に一
括して結合係数に修正を加える一括修正法を用いてバッ
クプロパゲーションによる学習をかけるので、学習を高
速に進行させることができるという効果がある。

Claims (6)

【特許請求の範囲】
1. 【請求項１】学習作業に入る前に、画像入力装置により
   撮像した所定パータンの画像を正解パターンの標準とし
   て登録し、その標準パターンの画像を基に画像認識にお
   いて許容範囲と想定される膨張パターン、収縮パター
   ン、圧縮パターン等の変形パターンの画像を生成登録
   し、この生成登録した画像を学習にかけることを特徴と
   する画像認識におけるニューラルネットによる学習方
   法。
2. 【請求項２】上記所定パターンは文字パターンであるこ
   とを特徴とする請求項１記載の画像認識におけるニュー
   ラルネットによる学習方法。
3. 【請求項３】上記所定パターンは文字パターン以外の図
   形パターンであることを特徴とする請求項１記載の画像
   認識におけるニューラルネットによる学習方法。
4. 【請求項４】１パターン毎に結合係数に修正を加える逐
   次修正法を用いてバックプロパーゲーションによる学習
   をかけることを特徴とする請求項１記載の画像認識にお
   けるニューラルネットによる学習方法。
5. 【請求項５】全ての出力の算出後に一括して結合係数に
   修正を加える一括修正法を用いてバックプロパーゲーシ
   ョンによる学習をかけることを特徴とする請求項１記載
   の画像認識におけるニューラルネットによる学習方法。
6. 【請求項６】正解パターンとして登録した画像をバック
   プロパーゲションによる学習をかける画像認識における
   ニューラルネットによる学習方法において、学習の誤差
   と各出力の学習の達成度に基づいて学習完了時期を判断
   することを特徴とする画像認識におけるニューラルネッ
   トによる学習方法。