JP7268509B2 - 異常度算出方法、及び、異常度算出用コンピュータプログラム - Google Patents

Description

本開示は、異常度算出方法、及び、異常度算出用コンピュータプログラムに関する。

識別型ニューラルネットワークを用いた機器の故障診断方法が既に知られている（例えば、特許文献１参照）。識別型ニューラルネットワークは、予め用意された標本データに基づき、入力データと異常との対応関係を学習する。入力データは、故障診断対象の機器の状態を計測するセンサの計測値であり得る。学習後の識別型ニューラルネットワークは、入力データに基づき、機器の異常の有無を表すデータを出力する。

識別型ニューラルネットワークへの入力データを、復元型ニューラルネットワークにも入力し、復元型ニューラルネットワークからの出力データに基づき、識別型ニューラルネットワークが取り扱うデータを評価する技術も知られている。

この技術によれば、復元型ニューラルネットワークからの出力データと復元型ニューラルネットワークへの入力データとの間の復元誤差として、ユークリッド距離を算出し、ユークリッド距離が基準より大きい場合に、識別型ニューラルネットワークが取り扱うデータが学習範囲外にあると判別する。

国際公開第２０１６／１３２４６８号

上述した技術を用いれば、複数のセンサの出力データを、復元型ニューラルネットワークに入力して、機器の異常を判別することができる。しかしながら、機器の状態を複数のセンサで監視する場合には、復元型ニューラルネットワークに対する入力データと、復元型ニューラルネットワークからの出力データとの間の復元誤差が、センサ毎にばらつく。

このため、従来のように、復元型ニューラルネットワークからの出力データと復元型ニューラルネットワークへの入力データとの間のユークリッド距離を単に算出する方法では、復元誤差のばらつきに起因して、高精度に異常度を算出することができない。このため、異常度と閾値との比較に基づき、異常の有無を精度よく判別することができない。

そこで、本開示の一側面によれば、複数のセンサからの各計測値と復元型ニューラルネットワークとに基づいて対象の異常度を算出するケースにおいて、センサ間の復元誤差のばらつきによる影響を抑えて、高精度に、異常度を算出可能な技術を提供できることが望ましい。

本開示の一側面によれば、対象に関する複数の物理量をそれぞれ計測する複数のセンサからの各計測値と、各計測値を圧縮した後復元して出力する復元型ニューラルネットワークからの各出力値と、の間の各復元誤差から、対象の異常度を算出する異常度算出方法が提供される。

本開示の一側面によれば、異常度算出方法は、対象の異常度を算出する前に、対象が正常であるときの各計測値を用いて、各復元誤差が最小になるように復元型ニューラルネットワークを構築することを含む。

本開示の一側面によれば、異常度算出方法は、対象の異常度を算出する際には、各復元誤差を、複数のセンサ間で重み付けして、異常度を算出することを含む。

各センサの計測値に関する上記復元誤差を、一律に取り扱わず、重み付けして、異常度を算出する方法によれば、復元誤差に関するセンサ間のばらつきが異常度の算出精度に与える影響を抑えて、高精度に対象の異常度を算出することができる。高精度な異常度の算出は、例えば、対象において発生する異常に対する適切な処置や迅速な処理を可能にする。従って、本開示の方法は、大変有意義である。

本開示の一側面によれば、対象に関する複数の物理量をそれぞれ計測する複数のセンサからの各計測値と、各計測値を圧縮した後復元して出力する復元型ニューラルネットワークからの各出力値と、の間の各復元誤差から、対象の異常度を算出する処理をコンピュータに実行させるための異常度算出用コンピュータプログラムであって、上述した異常度算出方法をコンピュータに実行させるための異常度算出用コンピュータプログラムが提供されてもよい。

異常度算出用コンピュータプログラムは、対象の異常度を算出する前に、対象が正常であるときの各計測値を用いて、各復元誤差が最小になるように復元型ニューラルネットワークを構築し、対象の異常度を算出する際には、各復元誤差を、複数のセンサ間で重み付けして、異常度を算出することをコンピュータに実行させるための命令を備えることができる。この異常度算出用コンピュータプログラムは、上述した異常度算出方法と同様の効果を奏する。

本開示の例示的実施形態に係るシステムの構成を表すブロック図である。 情報処理装置内で実現される機能に関する機能ブロック図である。 復元型ニューラルネットワークの構成を例示する図である。 プロセッサが実行する異常度算出処理を表すフローチャートである。 プロセッサが実行する構築処理を表すフローチャートである。 図６Ａは、本開示の技術に基づく異常度の度数分布を示すグラフであり、図６Ｂは、比較例としての重み無し異常度の度数分布を示すグラフである。 復元誤差のばらつきに関するグラフである。

以下に本開示の例示的実施形態を、図面を参照しながら説明する。
図１に示す本実施形態の情報処理装置１０は、物Ｐの製造プロセスを監視するために配置されたセンサ群１００からの計測値の組に基づき、物Ｐの製造プロセスの異常度Ｅ（ｔ）を算出するように構成される。ここで、ｔは、時間であり、Ｅ（ｔ）は、時間の関数である。

センサ群１００は、物Ｐの製造プロセスにおける複数の物理量のそれぞれを計測するように配置された複数のセンサを備える。複数の物理量の例には、金型温度、材料温度、雰囲気温度、及び湿度などが含まれる。センサ群１００を構成するセンサのそれぞれは、これら複数の物理量のうちの一つを計測する。異常度Ｅ（ｔ）の算出に用いられる計測値の組を構成する計測値のそれぞれは、センサ群１００を構成するセンサのそれぞれが計測する上記複数の物理量のうちの一つの計測値である。

算出された異常度Ｅ（ｔ）は表示デバイス５０に表示される。管理者は、表示デバイス５０に表示される異常度Ｅ（ｔ）に基づき、物Ｐの製造を管理することができる。具体的には、情報処理装置１０は、センサ群１００の計測値の組に基づき、リアルタイムに、異常度Ｅ（ｔ）を算出し、表示デバイス５０に表示することができる。

これにより、管理者は、表示デバイス５０における異常度Ｅ（ｔ）の表示を参考にして、製造不良を抑えるように、迅速に物Ｐの製造条件を調整するなどの対策を講じることができる。

情報処理装置１０は、プロセッサ１１、メモリ１３、及びストレージデバイス１５を備える。情報処理装置１０における様々な機能は、プロセッサ１１が、ストレージデバイス１５に記憶されたコンピュータプログラムに従う処理を実行することにより実現される。メモリ１３は、プロセッサ１１によるコンピュータプログラムの実行時に作業用メモリとして使用される。ストレージデバイス１５は、各種コンピュータプログラムを記憶する。ストレージデバイス１５は、プロセッサ１１を図２に示す異常度算出システム２０として機能させ、プロセッサ１１に図４及び図５に示す異常度算出処理及び構築処理を実行させるための異常度算出用コンピュータプログラムを記憶する。

図２に示す異常度算出システム２０は、復元型ニューラルネットワーク２１と、異常度算出器２５と、を備える。即ち、プロセッサ１１は、異常度算出用コンピュータプログラムに従う処理を実行することにより、復元型ニューラルネットワーク２１及び異常度算出器２５として機能する。

復元型ニューラルネットワーク２１は、オートエンコーダとして機能する。この復元型ニューラルネットワーク２１は、上述した計測値の組であるセンサ群１００を構成する各センサからの計測値Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ）を要素に含む配列Ｘ（ｔ）＝（Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ））を、多次元の入力値として受けて、この配列Ｘ（ｔ）を、低次元化した後、元の次元に戻すように復元して出力するように構成される。換言すれば、復元型ニューラルネットワーク２１は、入力されるセンサ群１００の計測値の組Ｘ（ｔ）を、次元削減により圧縮した後、復元して出力するように構成される。

以下では、センサ群１００には、第１センサから第ｎセンサまでの合計ｎ個のセンサが含まれることを前提として、第ｉセンサの時刻ｔにおける計測値をＸｉ（ｔ）と表現する。変数ｉは、センサの識別番号に対応し、値１から値ｎまでの整数値を採る。

更に、復元型ニューラルネットワーク２１に入力される入力値としての配列Ｘ（ｔ）に対して、復元型ニューラルネットワーク２１から出力される出力値としての復元後の配列のことを配列Ｘ^*（ｔ）と表現する。配列Ｘ^*（ｔ）は、各センサの計測値Ｘｉ（ｔ）に対応する復元後の計測値Ｘ^*ｉ（ｔ）を要素とする配列Ｘ^*（ｔ）＝（Ｘ^*１（ｔ），Ｘ^*２（ｔ），…，Ｘ^*ｎ（ｔ））である。

復元型ニューラルネットワーク２１は、図３に示すように、配列Ｘ（ｔ）＝（Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ））の次元数に対応するノード数の入力層２１Ａと出力層２１Ｅとの間に、ノード数が入力層２１Ａ及び出力層２１Ｅよりも少ない一つ以上の中間層２１Ｂ，２１Ｃ，２１Ｄを備える。

ノードのそれぞれは、図３において白丸で表現される。図３に例示される復元型ニューラルネットワーク２１は、入力層２１Ａと、出力層２１Ｅとの間に、第一の中間層２１Ｂ、第二の中間層２１Ｃ、及び第三の中間層２１Ｄを備える。

この復元型ニューラルネットワーク２１によれば、入力層２１Ａから入力される配列Ｘ（ｔ）は、第一の中間層２１Ｂ及び第二の中間層２１Ｃにより次元削減された後、第三の中間層２１Ｄ及び出力層２１Ｅにより元の次元に復元される。

図３によれば、復元型ニューラルネットワーク２１は、中間層を三層含むが、復元型ニューラルネットワーク２１は、中間層を一層のみ含む構成にされてもよいし、中間層を三層以上含む構成にされてもよい。ノード数も図３に示される数に限定されない。復元型ニューラルネットワーク２１における中間層の数、及び、次元数は任意である。

復元型ニューラルネットワーク２１は、異常度Ｅ（ｔ）の算出前に、製造プロセスが正常であるときのセンサ群１００の計測値の組である第１の計測値の組の時系列データを用いて予め構築される。すなわち、製造プロセスが正常であるときの複数の時刻ｔ＝ｔ１，ｔ２，ｔ３，…におけるセンサ群１００の計測値の組に対応する配列Ｘ（ｔ１），Ｘ（ｔ２），Ｘ（ｔ３），…が標本データとして用いられて、復元型ニューラルネットワーク２１が予め構築される。

詳細には、復元型ニューラルネットワーク２１は、上記標本データに基づき、製造プロセスが正常であるときには、復元型ニューラルネットワーク２１に入力される配列Ｘ（ｔ１），Ｘ（ｔ２），Ｘ（ｔ３），…が精度よく復元されて、配列Ｘ^*（ｔ１），Ｘ^*（ｔ２），Ｘ^*（ｔ３），…として出力されるように予め構築される。

このため、構築後の復元型ニューラルネットワーク２１に対して、異常度Ｅ（ｔ）の算出対象データとして取得したセンサ群１００の計測値Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ）を、配列Ｘ（ｔ）＝（Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ））として復元型ニューラルネットワーク２１に入力した場合、復元型ニューラルネットワーク２１から出力される復元後の配列Ｘ^*（ｔ）と、復元型ニューラルネットワーク２１に入力された元の配列Ｘ（ｔ）との間の復元誤差は、次のような性質を示す。

すなわち、復元型ニューラルネットワーク２１から出力される復元後の配列Ｘ^*（ｔ）と元の配列Ｘ（ｔ）との間の復元誤差は、復元型ニューラルネットワーク２１に入力される配列Ｘ（ｔ）が、標本データとして用いられた製造プロセスが正常であるときの配列Ｘ（ｔ１），Ｘ（ｔ２），Ｘ（ｔ３），…に近いほど、小さくなる。すなわち、復元誤差は、製造プロセスが正常であるとき小さく、製造プロセスが正常でないとき、大きい値を示す。

異常度算出器２５は、このような性質を有する復元後の配列Ｘ^*（ｔ）と元の配列Ｘ（ｔ）との間の重み付けユークリッド距離により、製造プロセスの異常度Ｅ（ｔ）を算出するように構成される。製造プロセスの異常度Ｅ（ｔ）は、製造物Ｐの異常度に関係する。具体的に、異常度Ｅ（ｔ）は、次式に従って算出される。

ここで、Ｙｉ（ｔ）は、第ｉセンサに関する復元後の計測値Ｘ^*ｉ（ｔ）と元の計測値Ｘｉ（ｔ）との間の復元誤差Ｙｉ（ｔ）＝（Ｘｉ（ｔ）－Ｘ^*ｉ（ｔ））²である。Ｗｉは、第ｉセンサに対する重みを示す。変数ｉは、センサ群１００に含まれる各センサの識別番号に対応し値１から値ｎまでの整数値をとる。各センサに対応する重みＷｉは、その重みＷｉの合計（Ｗ１＋Ｗ２＋…Ｗｎ）が１となるように定められる。

図７には、復元誤差Ｙｉの分布が、センサによって異なることを示す。図７において、円形記号を用いてプロットされたグラフは、第一のセンサの復元誤差Ｙ１の度数分布を例示し、四角形記号を用いてプロットされたグラフは、第一のセンサとは別の第二のセンサの復元誤差Ｙ２の度数分布を例示する。

各センサに対応する重みＷｉは、具体的には、製造プロセスが正常であるときの復元誤差Ｙｉの分散Ｖ（Ｙｉ）に基づいて、分散Ｖ（Ｙｉ）が小さいセンサに対する重みが、分散Ｖ（Ｙｉ）が大きい別のセンサに対する重みよりも大きくなるように、予め定められる。

各センサに関して、復元誤差Ｙｉの分散Ｖ（Ｙｉ）が異なる環境では、複数のセンサの復元誤差Ｙｉを考慮した異常度Ｅ（ｔ）の算出を行う際に、分散Ｖ（Ｙｉ）の大きいセンサの復元誤差Ｙｉが、高精度に異常度Ｅ（ｔ）を算出することを難しくする。本実施形態によれば、正常時における復元誤差Ｙｉの分散Ｖ（Ｙｉ）の大小に応じて、各センサの復元誤差Ｙｉを重み付けするので、高精度に異常度Ｅ（ｔ）を算出することができる。

図４には、上述した異常度算出システム２０として機能するために、プロセッサ１１が実行する処理の例が示される。プロセッサ１１は、図４に示す処理を繰返し実行することにより、センサ群１００からの計測値の組Ｘ（ｔ）を用いて、リアルタイムに異常度Ｅ（ｔ）を算出する。

図４に示す処理によれば、プロセッサ１１は、センサ群１００の計測値Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ）を取得する（Ｓ１１０）。ここで取得される計測値Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ）は、異常度Ｅ（ｔ）の算出対象データとしてセンサ群１００から取得される第２の計測値の組に対応する。

プロセッサ１１は、上記算出対象データとして取得した計測値Ｘ１（ｔ），Ｘ２（ｔ），…，Ｘｎ（ｔ）に基づく配列Ｘ（ｔ）を復元型ニューラルネットワーク２１に入力し、復元型ニューラルネットワーク２１から上記出力値として出力される、復元された配列Ｘ^*（ｔ）を取得する（Ｓ１２０）。

その後、プロセッサ１１は、復元された配列Ｘ^*（ｔ）と、復元型ニューラルネットワーク２１に入力された元の配列Ｘ（ｔ）と、に基づき、上述した式（１）に従って異常度Ｅ（ｔ）を算出する（Ｓ１３０）。

各センサの重みＷｉは、正常時のセンサ群１００の計測値の組に基づいて構築された復元型ニューラルネットワーク２１の情報と共に、予めストレージデバイス１５に格納される。プロセッサ１１は、図４に示す処理の繰返し実行に先立って、ストレージデバイス１５から、各センサの重みＷｉ及び復元型ニューラルネットワーク２１の情報を読み出すことができる。

更に、プロセッサ１１は、式（１）に基づいて異常度Ｅ（ｔ）を算出するにあたって、復元誤差Ｙｉを規格化して、センサ間における復元誤差Ｙｉの尺度を揃えることができる。

プロセッサ１１は、算出した異常度Ｅ（ｔ）を、更に表示デバイス５０に表示する（Ｓ１４０）。その後、図４に示す処理を終了する。異常の有無や大きさを、管理者に分かりやすく伝えるために、表示デバイス５０には、異常度Ｅ（ｔ）が、その数値に応じた色で表示され得る。例えば、異常度Ｅ（ｔ）が閾値未満であるときには、異常度Ｅ（ｔ）を表す数値が、製造プロセスが正常であることを示す青色で表示され、異常度Ｅ（ｔ）が閾値以上であるときには、製造プロセスが異常であることを示す赤色で表示される。

この他、プロセッサ１１は、図４に示す処理に先駆けて、図５に示す構築処理を実行することにより、復元型ニューラルネットワーク２１を構築し、重みＷｉを決定することができる。

この処理の実行に先駆けては、復元型ニューラルネットワーク２１のプロトタイプが、異常度算出システム２０の設計者により用意される。ここでいうプロトタイプは、ノード間の結合係数が未決定の復元型ニューラルネットワーク２１である。

プロセッサ１１は、このプロトタイプにおいて未決定の結合係数の値を決定して、復元型ニューラルネットワーク２１を構築するために、構築処理の最初に標本データを取得する（Ｓ２１０）。取得される標本データは、上述した第１の計測値の組の時系列データ、すなわち、製造プロセスが正常である期間のセンサ群１００の計測値Ｘ１（ｔ），Ｘ２（ｔ），Ｘ３（ｔ），…の時系列データである。

設計者は、物Ｐの破壊試験等を通じて製造プロセスが正常であったことが特定された期間のセンサ群１００の計測値Ｘ１（ｔ），Ｘ２（ｔ），Ｘ３（ｔ），…の時系列データを、センサ群１００の過去の出力データから抽出して、標本データを用意することができる。設計者は、この標本データを、ストレージデバイス１５に格納することができる。

プロセッサ１１は、ストレージデバイス１５に標本データとして格納されたセンサ群１００の計測値Ｘ１（ｔ），Ｘ２（ｔ），Ｘ３（ｔ），…の時系列データを読み出すことにより、標本データを、取得することができる。読み出される各センサの計測値Ｘｉ（ｔ）の時系列データは、連続的な複数の時刻ｔ１，ｔ２，ｔ３…のそれぞれにおける計測値Ｘｉ（ｔ１），Ｘｉ（ｔ２），Ｘｉ（ｔ３）が時系列に配列されたデータである。

その後、プロセッサ１１は、読み出した標本データに基づく配列Ｘ（ｔ１），Ｘ（ｔ２），Ｘ（ｔ３），…を、復元型ニューラルネットワーク２１への入力値として用いて、復元型ニューラルネットワーク２１からの出力値である配列Ｘ^*（ｔ１），Ｘ^*（ｔ２），Ｘ^*（ｔ３），…と、上記入力値である元の配列Ｘ（ｔ１），Ｘ（ｔ２），Ｘ（ｔ３），…との間の復元誤差を、最小化する復元型ニューラルネットワーク２１を構築する（Ｓ２２０）。

即ち、プロセッサ１１は、復元後の配列Ｘ^*（ｔ１），Ｘ^*（ｔ２），Ｘ^*（ｔ３），…と元の配列Ｘ（ｔ１），Ｘ（ｔ２），Ｘ（ｔ３），…との間の復元誤差を、最小化する復元型ニューラルネットワークの結合係数を特定し、特定した結合係数を復元型ニューラルネットワーク２１に用いる結合係数に決定することにより、復元型ニューラルネットワーク２１を構築する。復元誤差を最小化する復元型ニューラルネットワーク２１は、標本データに関する復元誤差の和を最小化し、これにより、各センサの復元誤差を最小化する復元型ニューラルネットワーク２１であり得る。

更に、プロセッサ１１は、復元型ニューラルネットワーク２１を構築する際に用いた配列Ｘ（ｔ１），Ｘ（ｔ２），Ｘ（ｔ３），…と、対応する復元後の配列Ｘ^*（ｔ１），Ｘ^*（ｔ２），Ｘ^*（ｔ２），Ｘ^*（ｔ３）とに基づき、異常度算出器２５で用いる重みＷｉを、フィッシャー判別法の原理を用いて決定する（Ｓ２３０）。具体的に、プロセッサ１１は、次式に従って、重みＷｉを決定する。

上述したように復元誤差Ｙｉ（ｔ）は、第ｉセンサに関する復元後の計測値Ｘ^*ｉ（ｔ）と元の計測値Ｘｉ（ｔ）との間の復元誤差Ｙｉ（ｔ）＝（Ｘｉ（ｔ）－Ｘ^*ｉ（ｔ））²である。復元誤差Ｙｉ（ｔ）は、センサ間で規格化され得る。

式（４）に示されるＭ（Ｙｉ）は、標本データとして取得された第ｉセンサの計測値Ｘｉ（ｔ）に対応する復元誤差Ｙｉ（ｔ）の時間平均を意味する。式（４）に含まれる定数Ｔは、標本データとして取得された計測値Ｘｉ（ｔ）の時系列データの時間長を意味する。この場合、計測値Ｘｉ（ｔ）の標本データは、時刻ｔ＝ｔ１から、時刻ｔ＝ｔ１＋Ｔまでの計測値Ｘｉ（ｔ）の時系列データである。

式（５）に示されるＶ（Ｙｉ）は、その式から明らかなように、計測値Ｘｉ（ｔ）の標本データの全体を対象とした復元誤差Ｙｉ（ｔ）の分散である。

式（３）から理解できるように、重みＷｉは、値Ｍ（Ｙｉ）／Ｖ（Ｙｉ）に比例する。Σ（Ｍ（Ｙｉ）／Ｖ（Ｙｉ））^-1は、重みＷｉの和を式（２）に示すように値１に規格化する要素である。

Ｓ２３０において、重みＷｉは、相対的に復元誤差Ｙｉ（ｔ）の分散Ｖ（Ｙｉ）が小さいセンサの重みが、相対的に復元誤差Ｙｉ（ｔ）の分散Ｖ（Ｙｉ）が大きいセンサの重みよりも、大きくなるように決定される。

分散Ｖ（Ｙｉ）が小さいセンサの重みを大きくすることで、重み付けユークリッド距離として算出される異常度Ｅ（ｔ）に対する、分散Ｖ（Ｙｉ）の大きいセンサの復元誤差Ｙｉの影響を抑えることができる。

分散Ｖ（Ｙｉ）の大きいセンサの復元誤差Ｙｉは、異常の高精度な判別に不向きである。従って、分散Ｖ（Ｙｉ）の大きい復元誤差Ｙｉの異常度Ｅ（ｔ）への影響が強い場合には、異常の有無をよく区別できるように、高精度に異常度Ｅ（ｔ）を算出することができない。対して、分散Ｖ（Ｙｉ）の大きい復元誤差Ｙｉの重みを小さくすると、分散Ｖ（Ｙｉ）が小さい復元誤差Ｙｉの異常度Ｅ（ｔ）への影響を強めることができ、高精度に異常度Ｅ（ｔ）を算出することができる。

式（３）によれば、重みＷｉには、平均Ｍ（Ｙｉ）の成分が含まれる。この平均Ｍ（Ｙｉ）は、異常が発生しても復元誤差Ｙｉがほぼゼロで動かないセンサの重みを小さくするように作用する。異常が発生しても復元誤差Ｙｉがほぼゼロで動かないセンサが存在する場合には、そのセンサの影響を抑えたほうが、適切な異常度Ｅ（ｔ）を算出可能である。

プロセッサ１１は、上述したＳ２１０－Ｓ２３０の手順により、復元型ニューラルネットワーク２１を構築し、更に重みＷｉを決定して、これらの情報をストレージデバイス１５に格納する（Ｓ２４０）。その後、図５に示す処理を終了する。

図６Ａには、本実施形態の手法で構築された異常度算出システム２０を用いた実験での、異常度Ｅ（ｔ）の分布を示す。この実験結果との対比のために、図６Ｂには、重み付けをしない場合に算出される異常度Ｅ０（ｔ）を示す。

この実験では、物Ｐの製造プロセスの異常検出のために、センサ群１００を用いて、物Ｐの寸法、製造時の金型温度、及び材料温度などの複数の物理量を観測した。そして、これらの物理量に関するセンサ群１００の計測値を、規格化して用いて復元型ニューラルネットワーク２１を構築し、重みＷｉを決定した。実験で用いられた復元型ニューラルネットワーク２１は、中間層が１層の浅いニューラルネットワークである。

図６Ａ及び図６Ｂに示すグラフにおいて、円形記号を用いてプロットされたグラフは、製造プロセスが正常であるときの異常度Ｅ（ｔ）、及び、比較のための重み付けなしの異常度Ｅ０（ｔ）の度数分布を示す。三角形記号を用いてプロットされたグラフは、製造プロセスに第一の異常が生じたときの異常度Ｅ（ｔ），Ｅ０（ｔ）の度数分布を示す。四角形記号を用いてプロットされたグラフは、製造プロセスに第二の異常が生じたときの異常度Ｅ（ｔ），Ｅ０（ｔ）の度数分布を示す。

これらのグラフから、本実施形態のように重み付けユークリッド距離で、異常度Ｅ（ｔ）を算出する方法によれば、重み付けなしのユークリッド距離で、異常度Ｅ０（ｔ）を算出する場合と比較して、異常の有無に応じて異常度Ｅ（ｔ）のピークがよく分離することが理解できる。

従って、本実施形態によれば、複数のセンサからの各計測値を用いて製造プロセスの異常度を算出する場合に、精度よく異常度を算出することができ、結果として、異常度と閾値との比較により、異常の有無を高精度に判別することが可能である。

本開示の技術は、上述した実施形態に限定されるものではなく、種々の態様を採ることができることは言うまでもない。例えば、プロセッサ１１は、式（３）に代えて次の式（６）に従って、重みＷｉを決定してもよい。

式（６）には、式（３）にあった平均Ｍ（Ｙｉ）の成分が存在しない。式（６）に基づいて重みＷｉを決定することによっては、復元誤差Ｙｉが異常の有無によっても変化しないセンサの、異常度Ｅ（ｔ）の算出に対する影響を抑えることが難しい。しかしながら、式（６）によっても、分散Ｖ（Ｙｉ）に基づく重み付けは実現可能であり、重み付けなしで異常度Ｅ０（ｔ）を算出する場合と比較して、適切な異常度Ｅ（ｔ）を算出可能である。

更に言えば、復元誤差Ｙｉが異常の有無によっても変化しないセンサを、異常度Ｅ（ｔ）の算出に用いるセンサから排除することによって、正常／異常をよく区別可能な異常度Ｅ（ｔ）を、式（６）に従って高精度に算出することが可能である。以下に示す表は、異常度が閾値以上であるときに「異常」があると判別するケースにおける「異常」の判別精度を示す。

表では、重みＷｉを式（３）で決定した時の判別精度を第１のケースとして示し、重みＷｉを式（６）で決定したときの判別精度を第２のケースとして示す。このように、式（６）によっても、重み付けをしない場合と比較して、精度よく異常度Ｅ（ｔ）を算出することができ、「正常」「異常」の判別を、精度よく行うことができる。

この他、上記実施形態では、復元型ニューラルネットワーク２１から出力された復元後のセンサの計測値の組Ｘ^*（ｔ）に対応する点と、元の計測値の組Ｘ（ｔ）に対応する点とを、計測値Ｘ１，Ｘ２，…、Ｘｎのそれぞれに対応する次元を有する多次元空間上に置いたときの、重み付けユークリッド距離として、異常度Ｅ（ｔ）を算出したが、他の距離関数を用いて、異常度Ｅ（ｔ）は算出されてもよい。

例えば、ユークリッド距離に代えて、マハラノビス距離が用いられてもよい。この場合にも、上述した重み付けユークリッド距離で異常度Ｅ（ｔ）を算出する場合と同様の手法で、マハラノビス距離を重み付けして、異常度Ｅ（ｔ）を算出することができる。

また、上記実施形態では、異常度Ｅ（ｔ）を数値で表示デバイス５０に表示したが、プロセッサ１１は、算出した異常度Ｅ（ｔ）を閾値と比較し、その比較結果に基づいて、「正常」「異常」の二値で、異常度に関する情報をユーザに向けて出力するように動作してもよい。

上記実施形態では、復元誤差Ｙｉの分布として、復元誤差Ｙｉの分散Ｖ（Ｙｉ）を基準に、センサ間の重みＷｉを決定したが、その他の復元誤差Ｙｉの分布に関するパラメータを用いて、センサ間の重みＷｉを決定してもよい。重みＷｉは、式（３）又は式（６）に従って算出されなくてもよく、同種の性質を有する演算式に従って算出されてもよい。

分散の大小に従って重みＷｉを決定することにより、上記実施形態と同種の効果が得られる。式（３）又は式（６）に定数項を設けることも考えられる。式（３）又は式（６）で算出される重みＷｉに比例する重みを用いても、上記実施形態と同種の効果が得られる。

この他、本開示の技術は、製造プロセスの異常検出以外の分野にも適用することができる。例えば、顔認証システムにおける復元誤差の評価にも適用することができる。この場合には、異常度として、登録者の顔ではない可能性に関する数値を算出するために、本開示の技術を適用することができる。

上記実施形態には、異常度算出方法に関する次の技術的思想が含まれると理解されてもよい。
（１）対象に関する複数の物理量を計測する複数のセンサからの計測値の組に基づき、対象の異常度を算出すること。
（２）上記計測値の組として「組を構成する計測値のそれぞれが複数のセンサのうちの対応する一つのセンサにより計測される上記複数の物理量のうちの一つの計測値である」計測値の組に基づき、対象の異常度を算出すること。
（３）対象が正常であるときの上記計測値の組である第１の計測値の組を、複数のセンサから、複数取得すること。
（４）多次元の入力値を、入力値の次元より低い次元の値に変換した後、元の次元に戻すように復元し、復元された入力値を出力値として出力するように構成される復元型ニューラルネットワークを用いること。
（５）上記第１の計測値の組を、復元型ニューラルネットワークへの入力値として用いて、復元型ニューラルネットワークから第１の計測値の組に対応する出力値として出力される、復元された第１の計測値の組と、復元型ニューラルネットワークに入力される第１の計測値の組である元の第１の計測値の組と、の間の復元誤差が最小になるように、復元型ニューラルネットワークを構築すること。
（６）異常度の算出対象データとして複数のセンサから取得した計測値の組である第２の計測値の組を、構築した復元型ニューラルネットワークに入力し、出力値として、復元型ニューラルネットワークから出力される復元された第２の計測値の組を取得すること。
（７）復元された第２の計測値の組を構成する複数のセンサのそれぞれに対応する復元された第２の計測値と、復元型ニューラルネットワークに入力される第２の計測値の組である元の第２の計測値の組を構成する複数のセンサのそれぞれに対応する元の第２の計測値と、に基づき、異常度を算出すること。
（８）複数のセンサのそれぞれに対応する復元された第２の計測値と元の第２の計測値との間の復元誤差を、複数のセンサ間で重み付けして、異常度を算出すること。
（９）複数のセンサのそれぞれに対応する復元された第１の計測値と元の第１の計測値との間の復元誤差の分布に基づき、複数のセンサのそれぞれに対する重みを決定すること。
（１０）複数のセンサのそれぞれに対して上記決定された重みで、複数のセンサのそれぞれに対応する復元された第２の計測値と元の第２の計測値との間の復元誤差を重み付けし、異常度を算出すること。

上記実施形態における１つの構成要素が有する機能は、複数の構成要素に分散して設けられてもよい。複数の構成要素が有する機能は、１つの構成要素に統合されてもよい。上記実施形態の構成の一部は、省略されてもよい。特許請求の範囲に記載の文言から特定される技術思想に含まれるあらゆる態様が本開示の実施形態である。

１０…情報処理装置、１１…プロセッサ、１３…メモリ、１５…ストレージデバイス、２０…異常度算出システム、２１…復元型ニューラルネットワーク、２１Ａ…入力層、２１Ｂ，２１Ｃ，２１Ｄ…中間層、２１Ｅ…出力層、２５…異常度算出器、５０…表示デバイス、１００…センサ群。

Claims (8)

1. 対象に関する複数の物理量をそれぞれ計測する複数のセンサからの各計測値と、前記各計測値を圧縮した後復元して出力する復元型ニューラルネットワークからの各出力値と、の間の各復元誤差から、前記対象の異常度を算出する異常度算出方法であって、
   前記対象の前記異常度を算出する前に、前記対象が正常であるときの前記各計測値を用いて、前記各復元誤差が最小になるように前記復元型ニューラルネットワークを構築し、
   前記対象の前記異常度を算出する際には、前記各復元誤差を、前記対象が正常であるときの前記各復元誤差の分散に基づいて前記複数のセンサ間で重み付けして、前記異常度を算出すること
   を含む異常度算出方法。
2. 前記複数のセンサのうち、相対的に前記復元誤差の分散の小さいセンサの重みを、相対的に前記復元誤差の分散の大きいセンサの重みよりも大きい値に決定して、前記重み付けを行う請求項１に記載の異常度算出方法。
3. 前記重み付けは、前記複数のセンサのそれぞれに対する重みを、
   前記出力値Ｘ^*ｉ（ｉは、対応するセンサの識別番号を意味する。）と、前記計測値Ｘｉとの間の前記復元誤差Ｙｉ＝Ｘｉ－Ｘ^*ｉに基づいて、前記復元誤差Ｙｉの分散Ｖ（Ｙｉ）を要素に含む式
   

   

   に従う値Ｗｉ、又は、前記値Ｗｉに応じた重みに決定することを含む請求項１又は請求項２に記載の異常度算出方法。
4. 前記重み付けは、前記複数のセンサのそれぞれに対する重みを、
   前記出力値Ｘ^*ｉ（ｉは、対応するセンサの識別番号を意味する。）と前記計測値Ｘｉとの間の前記復元誤差Ｙｉ＝Ｘｉ－Ｘ^*ｉに基づいて、前記復元誤差Ｙｉの分散Ｖ（Ｙｉ）及び平均Ｍ（Ｙｉ）を要素に含む式
   

   

   に従う値Ｗｉ、又は、前記値Ｗｉに応じた重みに決定することを含む請求項１又は請求項２に記載の異常度算出方法。
5. 対象に関する複数の物理量をそれぞれ計測する複数のセンサからの各計測値と、前記各計測値を圧縮した後復元して出力する復元型ニューラルネットワークからの各出力値と、の間の各復元誤差から、前記対象の異常度を算出する異常度算出方法であって、
   前記対象の前記異常度を算出する前に、前記対象が正常であるときの前記各計測値を用いて、前記各復元誤差が最小になるように前記復元型ニューラルネットワークを構築し、
   前記対象の前記異常度を算出する際には、前記各復元誤差を、前記複数のセンサ間で重み付けして、前記複数のセンサのそれぞれに対応する次元を有する多次元空間上での、前記各出力値に対応する点と、前記各計測値に対応する点との間の重み付け距離として、前記異常度を算出すること
   を含む異常度算出方法。
6. 前記重み付け距離は、重み付けユークリッド距離である請求項５に記載の異常度算出方法。
7. 対象に関する複数の物理量をそれぞれ計測する複数のセンサからの各計測値と、前記各計測値を圧縮した後復元して出力する復元型ニューラルネットワークからの各出力値と、の間の各復元誤差から、前記対象の異常度を算出する処理をコンピュータに実行させるための異常度算出用コンピュータプログラムであって、
   前記対象の前記異常度を算出する前に、前記対象が正常であるときの前記各計測値を用いて、前記各復元誤差が最小になるように前記復元型ニューラルネットワークを構築し、
   前記対象の前記異常度を算出する際には、前記各復元誤差を、前記対象が正常であるときの前記各復元誤差の分散に基づいて前記複数のセンサ間で重み付けして、前記異常度を算出すること
   を前記コンピュータに実行させるための異常度算出用コンピュータプログラム。
8. 対象に関する複数の物理量をそれぞれ計測する複数のセンサからの各計測値と、前記各計測値を圧縮した後復元して出力する復元型ニューラルネットワークからの各出力値と、の間の各復元誤差から、前記対象の異常度を算出する処理をコンピュータに実行させるための異常度算出用コンピュータプログラムであって、
   前記対象の前記異常度を算出する前に、前記対象が正常であるときの前記各計測値を用いて、前記各復元誤差が最小になるように前記復元型ニューラルネットワークを構築し、
   前記対象の前記異常度を算出する際には、前記各復元誤差を、前記複数のセンサ間で重み付けして、前記複数のセンサのそれぞれに対応する次元を有する多次元空間上での、前記各出力値に対応する点と、前記各計測値に対応する点との間の重み付け距離として、前記異常度を算出すること
   を前記コンピュータに実行させるための異常度算出用コンピュータプログラム。

Images