JP7548843B2 - 異常度算出システムおよび方法 - Google Patents

異常度算出システムおよび方法 Download PDF

Info

Publication number
JP7548843B2
JP7548843B2 JP2021026689A JP2021026689A JP7548843B2 JP 7548843 B2 JP7548843 B2 JP 7548843B2 JP 2021026689 A JP2021026689 A JP 2021026689A JP 2021026689 A JP2021026689 A JP 2021026689A JP 7548843 B2 JP7548843 B2 JP 7548843B2
Authority
JP
Japan
Prior art keywords
likelihood
model
concept
loss
target device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021026689A
Other languages
English (en)
Other versions
JP2022128256A (ja
Inventor
宏太 土肥
隆 遠藤
洋平 川口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2021026689A priority Critical patent/JP7548843B2/ja
Priority to CN202111623368.XA priority patent/CN114970657B/zh
Priority to EP22152926.6A priority patent/EP4047603B1/en
Priority to US17/590,464 priority patent/US20220269988A1/en
Publication of JP2022128256A publication Critical patent/JP2022128256A/ja
Priority to JP2024147507A priority patent/JP2024159935A/ja
Application granted granted Critical
Publication of JP7548843B2 publication Critical patent/JP7548843B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M99/00Subject matter not provided for in other groups of this subclass
    • G01M99/008Subject matter not provided for in other groups of this subclass by doing functionality tests
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0243Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model
    • G05B23/0254Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model based on a quantitative model, e.g. mathematical relationships between inputs and outputs; functions: observer, Kalman filter, residual calculation, Neural Networks
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0259Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
    • G05B23/0297Reconfiguration of monitoring system, e.g. use of virtual sensors; change monitoring method as a response to monitoring results
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0808Diagnosing performance data
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • G10L25/30Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Automation & Control Theory (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Probability & Statistics with Applications (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)

Description

本発明は、異常度算出システムおよび方法に関する。
一般に、異常検知においては、十分な量の異常データを全種類の異常について取得することが困難であるため、正常データのみを用いて正常分布を推定し、それを用いて異常判定を行う方法が多く採用される。
一方で、正常データのみを用いて正常分布を推定する手法においても、正常データが十分に収集できない場合や、十分な量の正常データを収集している間に正常分布が変化する場合が存在するため、少量の正常データで十分な検知精度を得ることのできる手法が必要とされている。
そこで、検知対象の機械の正常データに加えて検知対象と類似の機械の正常データを用いて正常分布の推定精度を高め、検知対象の正常データが少量の場合でも十分な検知精度を達成する技術が提案されている(特許文献1)。
特許文献1には、「処理部11は、導出される注視対象機器の状態値が、注視対象機器と同種の機器それぞれの状態値の分布を表す第1分布領域から、どの程度逸脱しているかを示す値である第1の値を算出する。処理部11は、導出される注視対象機器の状態値が、注視対象機器の過去の状態値それぞれの分布を表す第2分布領域から、どの程度逸脱しているかを示す値である第2の値を算出する。処理部11は、第1の値および第2の値に基づき、注視対象機器が異常であるか否かを判定する。」という記載がある。
特開2019-008354号公報
特許文献1に記載された発明は、異常検知対象の機器のセンサデータと、検知対象機器と同種の機器のセンサデータとが、同一の正常分布に従うことを仮定している。したがって、特許文献1の技術は、検知対象の機器と検知対象と同種の機器とが、ある概念、例えば機種について同一であり、さらに前記概念よりも下位の概念、例えば型式についても同一である場合、すなわち機種及び型式の両方が同一であるとみなせる場合にのみ、用いることができる。
そのため、特許文献1では、検知対象機器と、検知対象機器と同種の機器とが、上位概念、例えば機種に関しては同一であるものの、下位概念、例えば型式に関して異なっており、両者の正常分布が異なる場合は想定されていない。
検知対象機器のセンサデータの正常分布と同種機器のセンサデータの正常分布とが異なる場合、特許文献1の技術では、検知対象機器の正常分布ではない領域を正常分布として学習してしまうため、検知対象機器のセンサデータのみを使用する場合に比べて検知精度が低下してしまう。
そこで、本開示は、より高精度に機器の異常度を算出できるようにした異常度算出システムおよび方法を提供することを目的とする。
上記課題を解決すべく、本発明の一つの観点に従う異常度算出システムは、対象機器の異常度を算出する異常度算出システムであって、対象機器の識別番号に基づいて所定の概念種別を付与する概念種別付与部と、対象機器に対応するセンサから得られるセンサデータに基づいて特徴量ベクトルを抽出する特徴量ベクトル抽出部と、学習用データベースから得られた機械学習モデルを用いて、特徴量ベクトルの尤度を計算する尤度計算部と、尤度計算部により計算された尤度の関数として定義される損失関数を用いて損失を計算する損失計算部と、損失計算部により計算された損失と学習した機械学習モデルとを用いて機械学習モデルを更新するモデル更新部と、尤度計算部で計算された尤度から再学習の要否を判定する再学習要否判定部と、再学習要否判定部により再学習が不要と判定された場合に、異常度を算出する異常度算出部とを備える。
本発明によれば、対象機器の異常が検知されたときに、計算された尤度から再学習の要否を判定し、再学習が不要と判定された場合に異常度を算出するため、異常度の算出精度が向上する。
本実施例の全体概要を示す説明図。 入力から概念種別を抽出する処理の説明図。 訓練用データベースのデータを用いて損失を計算する処理の説明図。 負の対数尤度とモデル更新回数との関係性を示す説明図。 再学習要否判定を行う方法の説明図。 異常度算出装置のハードウェアおよびソフトウェア構成図。 特徴量ベクトル抽出部のブロック構成図。 学習時のブロック構成図。 学習時の異常度算出システムの処理フロー。 異常度算出時のブロック構成図。 異常度算出時の異常度算出システムの処理フロー。 本発明と従来手法との相違を示す説明図。 第2実施例に係り、異常度算出時のブロック構成図。 異常度算出時の異常度算出システムの処理フロー。 第3実施例に係り、学習時のブロック構成図。 学習時の異常度算出システムの処理フロー。 異常度算出時のブロック構成図。 異常度算出時の異常度算出システムの処理フロー。
以下、図面に基づいて、本発明の実施の形態を説明する。本実施形態に係る異常度算出システムは、検知対象機器と、検知対象機器と上位概念が同一で下位概念が異なる機器(同位概念機器、他機器とも呼ぶ)とが混在する環境下において、検知対象機器のセンサデータと同位概念機器のセンサデータとが異なる正常分布に従う場合でも、両者のセンサデータを用いることにより、異常を検知する精度を向上させる。これにより、本実施形態の異常度算出システムでは、検知対象機器の比較的少量の正常データを用いて、十分な検知精度を得ることができる。
本実施形態の異常度算出システムは、対象機器を含むn個の機器Mであって、上位概念、例えば、機種に関して同一な機器Mから入力D0を取得する。入力D0は、機種の下位概念の例である型式番号D1と、センサデータD2とを含む。
本実施形態の異常度算出システムは、型式番号D1に基づいて、各機器が検知対象の機器(対象機器)あるいは検知対象機器と同位概念の機器(他の機器)であるかを示す概念種別D3を出力する概念種別付与部11を備える。
さらに、本実施形態の異常度算出システムは、センサデータD2から特徴量D4を出力する特徴量ベクトル抽出部12と、特徴量D4から機械学習モデルを用いて尤度D5を出力する尤度計算部13と、検知対象機器からのデータの尤度を高くし、同位概念の機器からのデータの尤度を低くするような、尤度D5の関数で定義される損失関数を用いて損失の値D6を計算する損失計算部14と、損失の値D6を最小化するように尤度計算部13の機械学習モデルのパラメタを更新させる学習部15と、尤度D5および概念種別D3から再学習の要否を判定する再学習要否判定部16と、再学習が不要と判定された場合に検知対象の尤度D7から異常度とする異常度計算部17とを備える。
本実施形態では、検知対象機器の正常データの尤度を高くして正常データとみなし、検知対象機器と類似した正常分布を持つ同位概念の機器の正常データの尤度を低くして異常データとみなすように学習を行うことにより、検知対象機器のデータのみに高い尤度を与えて正常とみなすモデルを得ることができる。そのため、検知対象機器のデータのみを用いて学習を行う従来技術と比べて、検知対象機器のデータの正常分布を正確に推定することができ、検知対象機器のデータが少量の場合においても十分な検知精度を得ることができる。
図1~図12を用いて第1実施例を説明する。図1は、本実施例の全体概要を示す説明図である。
異常度算出システム1(図6参照)は、作動に応じて測定可能な物理的変化を示す複数の機器Mの異常度を算出する。作動に応じて測定可能な物理的変化とは、例えば、電動モータ、油圧モータ、空圧シリンダ、油圧シリンダ、ソレノイド、リニアアクチュエータなどのように、その機器の作動に伴う音、振動(音と振動を合わせて振動に伴う信号と呼ぶこともできる。)、温度、色である。ここでは、一例として、音による異常検出を説明するが、音以外の物理的変化から異常を検出することもできる。
図1に示す異常度算出システムは、共通の上位概念C2に属する複数の機器M1~Mnのうち選択された機器についての異常度を算出する。各機器M1~Mnは、上位概念C2に属する下位概念C1がそれぞれ異なる。例えば、上位概念C2は機種であり、下位概念C1は同一機種に属するそれぞれ異なる型式である。下位概念C1が機器毎に異なることを示すために、図1では、下位概念C11~C13と示している。型式が共通であれば、シリアル番号の相違は問題にしない。
上位概念C2と下位概念C1とは次のように表現することもできる。例えば、機器Mを分類する最小単位が下位概念C1であり、下位概念C1が属する直上の概念が上位概念C2である。ここでは、検知対象の機器を機器M1とし、他の機器M2~Mnを同位概念機器と呼ぶ。機器M1~Mnを特に区別しない場合、機器Mまたは機器と呼ぶ。
入力D0は、上位概念の例である機種に関して同一なn個の機器Mから取得されるセンサデータD2と、下位概念の例である型式番号D1とを含む。以下、型式番号D1を型式D1と略記する場合がある。
概念種別付与部11は、型式番号D1を概念種別D3に変換する。特徴量ベクトル抽出部12は、センサデータD2から特徴量ベクトルD4を出力する。以下、特徴量ベクトルD4を特徴量D4と略記する場合がある。訓練用データベースDB1は、センサデータD2および概念種別D3を格納する。訓練用データベースDB1は、訓練用デジタル入力信号データベースDB1と呼ぶこともできる。
尤度計算部13は、学習用データベースDB2から与えられた機械学習モデルを用いて、特徴量D4から各機器Mのセンサデータの尤度D5を出力する。
損失計算部14は、概念種別D3および尤度D5を用いて、概念種別が検知対象である機器M1の尤度が高く、同位概念である機器M2~Mnの尤度が低くなるような損失関数を算出し、損失D6を出力する。
モデル更新部15は、損失D6を用いて、学習用データベースDB2内に格納された機械学習モデルのパラメタを更新する。以下では、機械学習モデルをモデルと略記する場合がある。
再学習要否判定部16は、異常検知時において、尤度D5および概念種別D3を用いて、再学習の要否を判定する。
異常度算出部17は、再学習が不要と判定された場合において、尤度D5のうち検知対象の尤度D7を用いて検知対象の異常度を算出する。
図2を用いて、入力D0、型式番号D1、センサデータD2および概念種別D3の関係を説明する。各機器Mから得られる入力D0は、型式番号D1とセンサデータD2を含む。型式番号D1は、概念種別付与部11により、概念種別D3に変換される。概念種別D3は、例えば、検知対象機器M1に対して「1」が設定され、検知対象と同位概念の他の機器M2~Mnに対して「0」が設定される。
図3に、訓練用データベースDB1からの入力を用いて尤度および損失を計算する方法を示す。まず、訓練用データベースDB1から、バッチサイズN個分のセンサデータD2と概念種別D3との組み合わせが取得される。
ここで、検知対象機器からのセンサデータD2と概念種別D3の組み合わせが例えばN/2個取得され、検知対象と同位概念の機器からの組み合わせが例えばN/2個取得されるようにする。検知対象機器と同位概念の他機器が複数存在する場合に、検知対象機器のデータおよび同位概念の他機器のデータの集合から、バッチサイズN個分のデータをランダムに取得したとすると、検知対象機器からのデータ数が、同位概念の他機器からのデータ数に比べて少なくなり、機械学習モデルの学習が遅くなるためである。
次に、特徴量ベクトル抽出部は、センサデータD2から特徴量ベクトルを抽出することにより、N個の特徴量D4を得る。尤度計算部13は、機械学習モデルを用いて尤度を計算することにより、特徴量D4からN個の尤度D5を得る。
機械学習モデルは、尤度の関数で定義される損失を用いてモデルのパラメタ更新が可能なモデルであればよく、例えば、ノーマライジングフロー(Normalizing Flow:NF)や混合ガウスモデル(Gaussian Mixture Model:GMM)やマハラノビスを用いることができる。
損失計算部14には、N個の尤度D5と、各尤度D5に対応する概念種別D3とが入力される。損失計算部14は、損失関数を用いることにより、損失を算出して出力する。損失関数は、例えば、下記数1によって与えられる。
Figure 0007548843000001
Ntargetは、バッチに含まれる、検知対象機器からの尤度D5と概念種別D3との組み合わせの個数N/2である。Noutlierは、バッチに含まれる、検知対象と同位概念の他機器からの尤度D5と概念種別D3との組み合わせの個数N/2のうち、指示関数I内の条件を満たすサンプルの個数である。NLL(x)は、特徴量D4の負の対数尤度である。kは、0≦k≦1のハイパーパラメタであり、kを調整することで、数1の第1項の検知対象機器のデータの尤度を高くする効果と、第2項の検知対象機器のデータの尤度を低くする効果との比率を調整することができる。kを小さくすることにより、第1項の検知対象機器のデータの尤度を高くする効果を高めることができる。
機械学習モデルとして、例えば、GMMを用いる場合、kを1より小さくする必要がある(k<1)。指示関数I[NLL(x)<c]は、NLL(x)<cのときに1を、NLL(x)≧cのときに0をとる。cは閾値であり、例えば、以下に示す方法により決定される。検知対象機器からの特徴量および検知対象と同位概念の機器からの特徴量の両方を尤度計算部に与えて、損失関数を下記の数2のように与える。
Figure 0007548843000002
この損失関数を最小化するようにモデル更新を数回行った時のNLL(x)の値を閾値cとして用いる。
図4は、数1を用いてモデルを更新した場合の、各データの負の対数尤度の推移を示すグラフである。図4の縦軸はNLL(x)を、図4の横軸はモデル更新回数を示す。図4のグラフの上側には、検知対象と同位概念の他機器のデータの負の対数尤度の変化が示されている。図4のグラフの下側には、検知対象の機器のデータの負の対数尤度の変化が示されている。
数1を用いることで、検知対象機器のデータのNLL(x)を、検知対象と同位概念の他機器のデータのNLL(x)よりも小さくする制約を加えることができる。異常度算出部17では、負の対数尤度を異常度として異常度を計算するため、その制約は、検知対象機器のデータの異常度を下げ、検知対象と同位概念の他機器のデータの異常度を上げるように、モデルが学習することに相当する。
さらに、指示関数Iを用いることにより、検知対象機器と同位概念の他機器のデータのNLL(x)が発散するのを防ぐことができる。
図5を用いて、再学習要否判定部16が再学習の要否を判定する方法を説明する。図5の縦軸はNLL(x)を、図5の横軸は時間を示す。図5のグラフの上側には、検知対象機器と同位概念の他機器のデータの負の対数尤度が示されている。図5のグラフの下側には、検知対象の機器のデータの負の対数尤度が示されている。
モデル学習時に作成したモデルを用いて異常検知システムを運用すると、検知対象機器のデータと検知対象機器と同位概念の他機器のデータとの分布が、時間の経過とともに学習時から遷移する。
そのため、図5のグラフのうち「再学習実行」の時点の左側に示すように、検知対象機器のデータの負の対数尤度は大きくなり、検知対象と同位概念の他機器のデータの負の対数尤度は小さくなることが考えられる。
検知対象機器のデータの負の対数尤度が大きくなる場合は、検知対象機器に異常が生じている可能性もあるので、検知対象機器と同位概念の他機器のデータの負の対数尤度が小さくなる場合にのみ再学習する。例えば、ユーザが再学習判定閾値Thcを設定し、検知対象機器と同位概念の他機器のデータの負の対数尤度が再学習判定閾値cを下回る場合に再学習を実行する。
図6に、異常度算出システムのハードウェア構成およびソフトウェア構成を示す。計算機に所定のコンピュータプログラムを実行させることにより、その計算機を異常度算出装置100として用いることができる。図6では、一つの計算機から異常度算出装置100を構成する例を示すが、これに代えて、複数の計算機から一つまたは複数の異常度算出装置100を形成してもよい。計算機は仮想的な計算機でもよい。
異常度算出装置100は、n個の機器それぞれに取り付けられるn個のセンサ端末Tと通信ネットワークCNを介して接続されている。
センサ端末Tは、例えば、可搬型の録音端末として構成される。
異常度算出装置100は、例えば、演算部1001と、主記憶装置1002と、補助記憶装置1003と、入力部1004と、出力部1005と、通信部1006とを備える計算機である。
演算部1001は、一つまたは複数のマイクロプロセッサを含んでおり、補助記憶装置1003に記憶された所定のコンピュータプログラムを主記憶装置1002に読み出して実行することにより、図1で述べたような概念種別付与部11、特徴量ベクトル抽出部12、尤度計算部13、損失計算部14、モデル更新部15、再学習要否判定部16および異常度算出部17といった機能を実現する。
入力部1004は、例えば、キーボード、タッチパネル、ポインティングデバイスなどを含むことができ、異常度算出装置100を使用するユーザからの入力を受け付ける。出力部1005は、例えば、モニタディスプレイ、スピーカー、プリンタなどを含むことができ、ユーザへ情報を提供する。
通信部1006は、通信ネットワークCNを介して、センサ端末Tと通信する。通信部1006は、図示せぬ他のコンピュータと通信することもできる。
記憶媒体MMは、例えば、フラッシュメモリまたはハードディスク等の記憶媒体であり、異常度算出装置100へコンピュータプログラムまたはデータを転送して記憶させたり、異常度算出装置100からコンピュータプログラムまたはデータを読み出して記憶したりする。記憶媒体MMは、異常度算出装置100に直接的に接続されてもよいし、通信ネットワークCNを介して異常度算出装置100に接続されてもよい。
センサ端末Tの構成を説明する。センサ端末Tは、例えば、センサ部21と、制御部22と、記憶部23と、通信部24とを備える。
センサ部21は、例えば、マイクロフォン、加速度センサ、磁気センサ、カメラなど機器からセンサデータを取得する装置である。センサ部21により取得されたデータは、記憶部23に記憶される。センサ端末Tを制御する制御部22は、記憶部23に記憶された音データを異常度算出装置100へ向けて送信する。そして、異常度算出装置100は、受信したセンサデータに基づいて異常度を算出することができる。
図7は、特徴量ベクトル抽出部12のブロック構成図である。図8は、学習時の異常度算出装置100のブロック構成図であり、図9は、学習時の異常度算出装置100内の処理フローである。
特徴量ベクトル抽出部12の構成を説明する。センサ端末Tのセンサ部21がマイクロフォンである場合について説明するが、マイクロフォンに限らず、加速度センサ、磁気センサ、カメラなど機器Mからセンサデータを取得できる装置であればよい。マイクロフォン以外のセンサを用いる場合は、公知の特徴量抽出方法を用いるものとする。センサ部21がその他のセンサである場合には、センサの種類に応じた公知の特徴量ベクトル抽出方法を用いる。
入力音取得部101は、マイクロフォンから入力されたアナログ入力信号をA/D(アナログ/デジタル)変換器によってデジタル入力信号に変換し(S101)、訓練用デジタル入力信号データベースDB1へ格納する(S102)。
フレーム分割部102は、訓練用デジタル入力信号データベースDB1から取り出したデジタル入力信号に対して、規定した時間ポイント数 (以下、フレームサイズ) 毎にデジタル入力信号を分割し、フレーム信号を出力する(S104)。フレーム間はオーバーラップしてもよい。
窓関数乗算部103は、入力されたフレーム信号に窓関数を乗算することにより、窓関数乗算信号を出力する(S105)。窓関数には、例えばハニング窓を用いる。
周波数領域信号計算部104は、入力された窓関数乗算後信号に短時間フーリエ変換を施すことにより、周波数領域信号を出力する(S106)。周波数領域信号は、フレームサイズがNであれば、(N/2+1)=M個の周波数ビンそれぞれに1個の複素数が対応する、M個の複素数の組である。周波数領域信号計算部104は、短時間フーリエ変換の代わりに、constant Q変換(CQT)などの周波数変換手法を用いることもできる。
パワースペクトログラム計算部105は、入力された周波数領域信号に基づいて、そのパワースペクトログラムを出力する(S107)。フィルタバンク乗算部106は、入力されたパワースペクトログラムにメルフィルタバンクを乗算することにより、メルパワースペクトログラムを出力する(S108)。フィルタバンク乗算部106は、メルフィルタバンクの代わりに、1/3オクターブバンドフィルタなどのフィルタバンクを用いてもよい。
瞬時特徴量計算部107は、入力されたメルパワースペクトログラムに対数を施すことにより、対数メルパワースペクトログラムを出力する(S109)。なお、対数メルパワースペクトログラムの代わりに、メル周波数ケプストラム係数(MFCC)を計算してもよい。その場合、フィルタバンク乗算部106と対数計算部107の代わりに、パワースペクトログラムの対数値を計算し、フィルタバンクを乗算し、離散コサイン変換を施し、MFCCを出力する。
特徴量時系列算出部108は、入力された対数メルパワースペクトログラムに対して、あるいは、MFCCに対して、隣接するLフレームを連結させて特徴量D4を出力する(S110)。対数メルパワースペクトログラム、あるいは、MFCCの代わりに、それらの時間差分あるいは時間微分の時系列(デルタ)を入力し、隣接するLフレームを連結させて特徴量D4を出力してもよい。
時間差分あるいは時間微分の時系列の時間差分あるいは時間微分の時系列(デルタデルタ)を入力することにより、隣接するLフレームを連結させて特徴量D4を出力してもよい。さらに、これらのいずれかの組み合わせを選んで特徴量軸方向に連結したものに対して、隣接するLフレームを連結させて特徴量D4を出力してもよい。特徴量ベクトル抽出部12の生成する特徴量D4は、尤度計算部13に入力される。
尤度計算部13は、特徴量D4に基づいて尤度D5を計算する。計算された尤度D5は損失計算部14に入力される(S111)。
損失計算部14は、尤度D5と概念種別D3に基づいて、検知対象機器のデータの尤度と検知対象機器と同位概念の他機器のデータの尤度として定義される所定の損失関数の値D6を計算する。損失計算部14により計算された損失D6は、モデル更新部15へ入力される(S112)。
モデル更新部15は、損失D6の値が最小となるように、機械学習モデルのパラメタを繰り返し学習させる(S113~S116)。それら機械学習モデルのパラメタは、学習用データベースDB2へ記憶される(S117)。
すなわち、モデル更新部15は、収束条件を満たすか、または本処理の反復回数C1が上限値ThCを超えたかを判定する(S113)。
収束条件を満たさない場合、または反復回数C1が上限値ThC以下の場合、モデル更新部15は、機械学習モデルのパラメタを更新し(S114)、収束条件を計算し(S115)、反復回数C1を1つインクリメントさせてステップS112へ戻る。
モデル更新部15は、機械学習モデルのパラメタを学習用データベースDB2へ保存させる(S117)。
図10は、異常度を算出するときの異常度算出装置100のブロック構成図である。図11は、異常度を算出するときの異常度算出装置100内の処理フローである。図10および図11を参照して説明する。
異常度算出装置100は、損失計算部14およびモデル更新部15の代わりに、再学習要否判定部16および異常度算出部17を有する。
センサデータD2から抽出された特徴量D4の異常度を算出するに際して、尤度計算部13は、学習用データベースDB2からパラメタを読み込む(S201)。
ステップS101~S110の内容は既に述べたので、重複した説明は割愛する。これらのステップS101~S110では、センサ端末Tから取得されたセンサデータD2についての特徴量D4が生成され、尤度計算部13の機械学習モデルに入力される。以下の記載においても、重複した説明は省略する。なお、S102では、異常算出時においても訓練用データベースDB1へ入力音を保存するが、これは再学習を行う際の訓練用データを保存するためである。
尤度計算部13は、特徴量D4から尤度D5を計算し、計算された尤度D5を再学習要否判定部16に入力する(S111)。
再学習要否判定部16は、尤度D5および概念種別D3を用いて、検知対象機器と同位概念の他機器の負の対数尤度が一定の再学習要否判定閾値Thcを上回る場合に再学習を行い、下回る場合に異常度算出部17に検知対象機器のデータの尤度D7を入力する(S202)。
異常度算出部17は、検知対象機器のデータの尤度D7に基づいて、検知対象機器のセンサデータの異常度を算出する(S203)。
ここで、機械学習モデルとして、例えば、ノーマライジングフロー(Normalizing Flow:NF)を用いた際の構成を開示する。
尤度計算部13は、多層ニューラルネットワークで構成される。尤度計算部13の入力は特徴量ベクトルの次元数の個数の素子からなり、それら各素子が特徴量ベクトルの各要素を受け付ける。入力層は、所定の変換関数、入力と出力で同じ個数の素子を有する多層ニューラルネットワークおよび非線形の活性化関数(例えば、ReLU関数)に連結されており、多層ニューラルネットワークの最終層は入力層と同じ個数の素子を有する。この際、所定の変換関数は、入力層から多層ニューラルネットワークの出力までの変換が逆変換可能な変換で構成されるように定められる。尤度計算部13は、この多層ニューラルネットワーク最終層の出力が、分布関数が既知の分布(例えば、正規分布)に従うと仮定して、多層ニューラルネットワークの最終層の出力から尤度を計算する。さらに、公知の確率変数変換の式を用いて、入力特徴量ベクトルの尤度D4を計算する。
損失計算部14は、尤度D5の関数で定義される損失関数、例えば、数1を用いて、損失D6を計算する。この際、損失関数は、例えば、数1のように、検知対象機器のデータの尤度D5を高く、検知対象機器と同位概念の他機器のデータの尤度D5を低くするように定義される。
モデル更新部15は、損失計算部14で計算された損失D6を最小化するように機械学習モデルのパラメタを更新する。最小化には、例えば、SGD、Momentum SGD、AdaGrad、RMSprop、AdaDelta、Adamなどの公知の最適化アルゴリズムによって行うことができる。
このように構成される本実施例によれば、検知対象機器の正常データの尤度を高くして正常データとみなし、検知対象機器と同位概念の他機器の正常データの尤度を低くして異常データとみなすように学習を行うことができる。
図12は、本実施例の効果を示す。図12の上側は、検知対象機器の正常データのみを用いて機械学習モデルが学習した場合を示す。図12の下側は、検知対象機器と同位概念の機器の正常データを異常とみなして機械学習モデルが学習した場合を示す。細い網掛け部分は、本実施例の機械学習モデルが正常データであるとみなす領域を示す。
図12(1)に示すように、検知対象機器の正常データのみを用いて学習を行った場合は、検知対象機器の正常データと検知対象機器と同位概念の他機器の正常データとが類似した正常分布を有するため、学習したモデルは、検知対象機器と同位概念の他機器の正常データの一部も正常データとみなして高い尤度を与える。
しかし、本実施例では、学習したモデルは、検知対象機器と同位概念の他機器の正常データを異常データとみなして、低い尤度を与える。そのため、本実施例によれば、図12(2)に示すように、機械学習モデルが正常とみなす領域を小さくすることができ、検知対象機器のデータの正常分布をより正確に推定することができる。
よって、本実施例によれば、検知対象機器と同位概念の他機器の正常データを用いることで、検知対象機器のデータの正常分布をより正確に推定できるようになり、検知対象機器のデータが少ない場合においても、十分な検知精度を得ることができる。
図13、図14を用いて第2実施例を説明する。本実施例を含む以下の各実施例では、第1実施例との相違を中心に述べる。
図13は、逐次学習処理を行う場合のブロック構成図である。図14は、逐次学習処理の処理フローである。
本実施例では、まず、第1実施例において図7、図8を用いて説明した学習方法と同様のバッチ学習により機械学習モデルを学習させる。本実施例が第1実施例と異なる点は、学習したモデルを用いて異常度算出を行うと同時に、運用時に得られたデータを用いて学習モデルを更新し、更新したモデルからも異常度算出を行うという点である。
センサ端末Tからの入力D0は型式番号D1およびセンサデータD2に分けられ、型式番号D1は概念種別付与部11により概念種別D3に変換され、センサデータD2は特徴量ベクトル抽出部12を用いて特徴量D4に変換される。センサデータD2および概念種別D3は、異常発生時の異常要因特定等のためデータ保存用データベースDB3に保存される。
本実施例において、尤度計算部は2種類存在する。1つは、逐次更新される学習用データベースから得られるモデルを用いて、特徴量D4の尤度計算を行う、学習用モデル尤度計算部21である。他の1つは、学習済みのモデルを保存した学習済データベースDB4から得られるモデルを用いて、特徴量D4の尤度計算を行う、学習済モデル尤度計算部22である。
損失計算部14は、尤度の関数として定義される所定の損失関数を用いて、学習用モデル尤度計算部21で計算された尤度から損失の値を計算する。所定の損失関数とは、検知対象機器のデータに高い尤度を与え、検知対象機器と同位概念の他機器のデータに低い尤度を与える損失関数である。
なお、本実施例で用いる逐次学習処理では、逐次入力されるセンサデータを用いて逐次モデルを更新するため、バッチ学習時とは異なり、バッチを用いて学習を行うことができない。そのため、n個の機器からセンサ端末Tを通して入力されたn個のセンサデータのうち、検知対象機器のデータ1個と、検知対象機器と同位概念の他機器のデータ1個を抽出し、それらの尤度から損失を計算する。例えば、数1を用いる場合、Ntargetは1であり、NLL(x)<cの際にNoutlierは1となり、NLL(x)≧cの際に数1は第1項のみになる。
モデル更新部15は、損失の値に基づいてパラメタを更新し、得られたパラメタを学習用データベースDB2へ保存する。損失関数の最小化には、逐次パラメタ更新を行うための公知の最適化アルゴリズム、例えば、Online Gradient Descent(OGD)等を用いることができる。
異常度算出部17は、学習用モデル尤度計算部21および学習済モデル尤度計算部22でそれぞれ計算された尤度から異常度を算出する。逐次更新したモデルからの尤度のみを用いた場合、経年劣化など長期の時間経過に伴って発生する異常への対処が困難なため、運用開始時の学習済みモデルからの尤度を加えて前記の異常に対処する。学習済モデルから得られた尤度と逐次更新したモデルから得られた尤度の両方を用いて異常度を計算する方法として、例えば、数3のような関数を用いることができる。
Figure 0007548843000003
Aは、最終的な異常度である。A1は、学習用データベースから得られたモデルを用いて計算される異常度である。A2は、学習済データベースから得られたモデルを用いて計算される異常度である。αは、運用時に定めるパラメタである。
このように構成される本実施例も第1実施例と同様の作用効果を奏する。さらに本実施例では、異常度算出時に、異常度を算出しながら逐次的にモデルを学習させるため、各機器の正常分布の変化に対して頑強なモデルを学習することができる。
本実施例では、運用開始時点における学習用データベースDB2を学習済データベースDB4として用いて、運用開始時点でのモデルが与える尤度も同時に計算して最終的な異常度に反映させることにより、経年劣化等の長期的な時間経過によって生じる異常の検出にも対応可能となる。
さらに、本実施例は、同位概念の他機器が新たに追加された場合等、入力される同位概念のデータが変化する場合にも対応できる。
図15~図18を用いて第3実施例を説明する。第1実施例および第2実施例では、上位概念、例えば、機種に関して検知対象機器と同一で、下位概念、例えば、型式が検知対象と異なる機器全てを検知対象機器と同位概念の他機器として扱った。
一方で、同位概念の他機器の中には、複数の種類の下位概念、例えば、型式が含まれ、各種類毎に検知対象機器のデータとの類似度が異なる場合も存在する。例として、検知対象機器と機種が同じで、型式は異なるが、駆動方式が同一あるいは異なる機器が存在する場合が考えられる。本実施例では、このような下位概念の種類を活用することで検知精度をさらに向上させることを目的とする。
図15および図16を用いて本実施例の学習時の処理を説明する。センサ端末Tからの入力D0のうち型式番号D1は、概念種別付与部11により、概念種別D3に変換される。センサデータD2は、特徴量ベクトル抽出部12により、特徴量D4に変換される。ここで、概念種別付与部11は、第1実施例および第2実施例と異なり、概念種別D3および型式番号D1の両方を出力する。
センサデータD2は、特徴量ベクトル抽出部12により特徴量D4に変換される。同位概念種別付与部31は、検知対象機器と同位概念の他機器の集合に複数の型式が含まれる場合に、同位概念の他機器の各型式と検知対象機器の型式との関係性を調べ、同位概念の他機器の各型式毎に重みwを付与する。この重みwは、例えば、検知対象機器から発せられる音の源、すなわち音源に関する要素の共通性に基づいて設定してもよい。例えば、機器の駆動方式が電動モータの場合と油圧モータの場合とでは、センサデータが異なる。そこで、本実施例では、検知対象機器と同じ駆動型である他機器の型式に対して、検知対象機器と類似度が高いとして高い値が与えられ、検知対象機器と異なる駆動型である他機器の型式には検知対象機器と類似度が低いとして低い値が与えられる。
訓練用データベースDB1にはセンサデータD2および概念種別D3に加えて、同位概念の他機器の各型式に応じた重みwが保存される。
尤度計算部13は、学習用データベースDB2から得られたモデルを用いて、特徴量ベクトル抽出部12で計算された特徴量D4から尤度D5を計算する。
損失計算部14は、尤度の関数として定義され、検知対象機器のデータに高い尤度を与え、検知対象機器と同位概念の他機器のデータに低い尤度を与える損失関数を用いて、尤度計算部13で計算された尤度から損失D6を計算する。ここで用いる損失関数は、例えば、数1を修正した数4を用いることができる。
Figure 0007548843000004
ここで、wiは、同位概念種別付与部31において定められた、i番目の型式の重みである。
モデル更新部15は、損失計算部14で計算された損失D6を最小化するように、機械学習モデルのパラメタを更新する。最小化には、例えば、SGD、Momentum SGD、AdaGrad、RMSprop、AdaDelta、Adamなどの公知の最適化アルゴリズムによって行うことができる。
図17および図18を用いて本実施例の異常度算出時の処理を説明する。センサ端末Tからの入力D0のうち型式番号D1には、概念種別付与部11により、概念種別D3が付与される。センサデータD2は、特徴量ベクトル抽出部12により、特徴量D4に変換される。
同位概念種別付与部31は、検知対象機器と同位概念の他機器の集合に複数の型式が含まれる場合に、同位概念の他機器の各型式と検知対象の型式との関係性を調べ、同位概念の他機器の各型式毎に重みwを付与する。
訓練用データベースDB1には、再学習を行う場合のため、センサデータD2および概念種別D3に加えて、同位概念の他機器の各型式に応じた重みwが保存される。
尤度計算部13は、学習用データベースDB2から得られたモデルを用いて、特徴量ベクトル抽出部12で計算された特徴量D4から尤度D5を計算する。
再学習要否判定部16は、尤度D5および概念種別D3を用いて、検知対象機器と同位概念の他機器の負の対数尤度が一定の再学習要否判定閾値Thcを上回る場合に、モデルの再学習を行い、前記負の対数尤度が閾値Thcを下回る場合に、異常度算出部17に検知対象機器のデータの尤度D5を入力する(S202)。
異常度算出部17は、検知対象機器のデータの尤度D5に基づいて、検知対象機器のセンサデータの異常度を算出する(S203)。
このように構成される本実施例も第1実施例と同様の作用効果を奏する。さらに、本実施例では、型式情報を保持する型式情報データベースDB5および同位概念の他機器の型式に応じて重みを与える同位概念種別付与部31を加えた。これにより、本実施例によれば、各同位概念の他機器のデータが損失D6の値に与える影響を各同位概念の他機器の型式毎に調整することができる。したがって、本実施例では、例えば、検知対象機器と駆動方式が同じ型式の機器に大きな重みを与え、駆動方式が異なる型式の型式に小さな重みを与えることで、検知対象機器により類似したデータの尤度を低くするようにモデルを学習することができる。
なお、本発明は上述の実施例に限定されず、様々な変形例が含まれる。例えば、上述の実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
本発明の各構成要素は、任意に取捨選択することができ、取捨選択した構成を具備する発明も本発明に含まれる。さらに特許請求の範囲に記載された構成は、特許請求の範囲で明示している組合せ以外にも組合せることができる。
(付記1)
対象機器の異常度を算出する異常度算出システムであって、
前記対象機器の識別番号に基づいて所定の概念種別を付与する概念種別付与部と、
前記対象機器に対応するセンサから得られるセンサデータに基づいて特徴量ベクトルを抽出する特徴量ベクトル抽出部と、
学習用データベースから得られた機械学習モデルを用いて、前記特徴量ベクトルの尤度を計算する尤度計算部と、
前記尤度計算部により計算された尤度の関数として定義される損失関数を用いて損失を計算する損失計算部と、
前記損失計算部により計算された損失と学習した機械学習モデルとを用いて前記機械学習モデルを更新するモデル更新部と、
前記尤度計算部で計算された尤度から再学習の要否を判定する再学習要否判定部と、
前記再学習要否判定部により再学習が不要と判定された場合に、異常度を算出する異常度算出部と
を備える
異常度算出システム。
(付記2)
前記所定の概念種別とは、前記識別番号から得られる概念種別であって、前記対象機器と共通の上位概念に属する同位概念であり、
前記損失計算部は、前記対象機器のセンサデータを正常とみなして高い尤度を与え、前記対象機器と前記同位概念の他の機器からのセンサデータを異常とみなして低い尤度を与えるように、機械学習モデルへフィードバックする損失を計算する、
付記1に記載の異常度算出システム。
(付記3)
前記対象機器と前記同位概念の他の機器とは、機器を分類する最小単位である機種について共通し、前記機種に含まれる型式がそれぞれ異なる、
付記2に記載の異常度算出システム。
(付記4)
前記識別番号は、型式に応じて割り振られる情報である、
付記1に記載の異常度算出システム。
(付記5)
前記概念種別は、前記対象機器に対して「1 」が設定され、前記他の機器に対して「0」が設定される、
付記2に記載の異常度算出システム。
(付記6)
作動に応じて測定可能な物理的変化を示す複数の機器であって、共通の機種に属し、かつ型式の異なる複数の機器があらかじめグループ化されており、
前記グループ化された複数の機器の中から前記対象機器が一つ選択され、
前記グループ化された複数の機器のうち、前記対象機器以外の少なくとも一つの機器が他の機器として選択される、
付記2に記載の異常度算出システム。
(付記7)
前記再学習要否判定部は、運用時に、前記同位概念の他の機器のデータの尤度を用いて、再学習の要否を判定する、
付記2に記載の異常度算出システム。
(付記8)
さらに、学習時だけでなく運用時にもモデル学習を行うべく、学習用モデルの尤度を計算する学習用モデル尤度計算部と、学習済モデルの尤度を計算する学習済モデル尤度計算部とを備える、
付記1に記載の異常度算出システム。
(付記9)
前記学習用モデル尤度計算部は、運用時に逐次更新されるモデルを格納する学習用データベースからモデルを読み込むことにより尤度を計算し、
前記学習済モデル尤度計算部は、運用開始時点のモデルを格納する学習済データベースからモデルを読み込むことにより尤度を計算する、
付記8に記載の異常度算出システム。
(付記10)
前記対象機器の下位概念と前記各他の機器の下位概念との関係に応じて、前記他の機器に対して重みを設定する同位概念種別付与部をさらに備える、
付記2に記載の異常度算出システム。
(付記11)
前記同位概念種別付与部は、前記各他の機器に重みを与え、損失関数内で前記重みを用いることにより、前記各他の機器の尤度の値が損失の値に与える影響を調整する、
付記10に記載の異常度算出システム。
(付記12)
前記対象機器は、作動に応じて音または振動を発生する機器である、
付記1に記載の異常度算出システム。
(付記13)
対象機器の異常度を計算機により算出する異常度算出システムであって、
前記計算機により、
前記対象機器の識別番号に基づいて所定の概念種別を付与させ、
前記対象機器に対応するセンサから得られるセンサデータに基づいて特徴量ベクトルを抽出させ、
学習用データベースから得られた機械学習モデルを用いて、前記特徴量ベクトルの尤度を計算させ、
前記計算された尤度の関数として定義される損失関数を用いて損失を計算させ、
前記計算された損失と学習した機械学習モデルとを用いて前記機械学習モデルを更新させ、
前記対象機器の異常が検知されたときに、前記計算された尤度から再学習の要否を判定させ、
再学習が不要と判定された場合に、異常度を算出させる
異常度算出方法。
1:異常度算出システム、11:概念種別付与部、12:特徴ベクトル抽出部、13:尤度計算部、14:損失計算部、15:モデル更新部、16:再学習要否判定部、17:異常算出部、21:学習用モデル尤度計算部、22:学習済モデル尤度計算部、31:同位概念種別付与部、M:機器

Claims (10)

  1. 対象機器の異常度を算出する異常度算出システムであって、
    機器の識別番号に基づいて所定の概念種別を付与する概念種別付与部と、
    前記機器に対応するセンサから得られるセンサデータに基づいて特徴量ベクトルを抽出する特徴量ベクトル抽出部と、
    学習用データベースから得られた機械学習モデルを用いて、前記特徴量ベクトルの尤度を計算する尤度計算部と、
    前記尤度計算部により計算された尤度の関数として定義される損失関数を用いて損失を計算する損失計算部と、
    前記損失計算部により計算された損失と学習した機械学習モデルとを用いて前記機械学習モデルを更新するモデル更新部と、
    前記尤度計算部で計算された尤度から再学習の要否を判定する再学習要否判定部と、
    前記再学習要否判定部により再学習が不要と判定された場合に、異常度を算出する異常度算出部と
    を備え、
    前記概念種別付与部は、前記機器の識別番号に基づいて概念種別を付与する際に、当該機器のセンサデータの正常分布が、異常度を算出する対象である前記対象機器のセンサデータの正常分布と同一である場合と異なる場合とで、互いに異なる概念種別を付与するものであり、
    前記損失計算部は、前記対象機器の概念種別と同じ概念種別が付与された前記機器のセンサデータに由来する前記尤度に基づく負の対数尤度の値が大きいほど、前記損失の値を大きくし、前記対象機器の概念種別とは異なる概念種別が付与された前記機器のセンサデータに由来する前記尤度に基づく負の対数尤度の値が小さいほど、前記損失の値を大きくする前記損失関数を用いて、前記損失の値を計算するものであり、
    前記モデル更新部は、前記損失計算部が計算した前記損失の値を小さくするように、前記機械学習モデルを更新するものであり、
    前記再学習要否判定部は、前記対象機器の概念種別と異なる概念種別が付与された前記機器である、前記対象機器との共通の上位概念に属する同位概念の他の機器のセンサデータに由来する前記尤度に基づく前記負の対数尤度の値が再学習判定閾値を下回る場合に、前記機械学習モデルの再学習が必要であると判定するものである、
    異常度算出システム。
  2. 1つの機種には、複数の型式が含まれるものであり、
    前記対象機器の前記機種と前記同位概念の他の機器の前記機種は共通し、
    前記対象機器の前記型式と前記同位概念の他の機器の前記型式は互いに異なる、
    請求項1に記載の異常度算出システム。
  3. 前記識別番号は、型式に応じて割り振られる情報である、
    請求項1に記載の異常度算出システム。
  4. 前記概念種別は、前記対象機器に対して「1」が設定され、前記他の機器に対して「0」が設定される、
    請求項1に記載の異常度算出システム。
  5. 作動に応じて測定可能な物理的変化を示す複数の機器であって、共通の機種に属し、かつ型式の異なる複数の機器があらかじめグループ化されており、
    前記グループ化された複数の機器の中から前記対象機器が一つ選択され、
    前記グループ化された複数の機器のうち、前記対象機器以外の少なくとも一つの機器が他の機器として選択される、
    請求項1に記載の異常度算出システム。
  6. 前記異常度算出システムは、学習済モデル尤度計算部と、前記尤度計算部である学習用モデル尤度計算部を備え、
    前記学習用モデル尤度計算部は、学習時だけでなく運用時にも、前記学習用データベースから得られた前記機械学習モデルを用いて、前記特徴量ベクトルの尤度を計算するものであり、
    前記学習済モデル尤度計算部は、運用時に、学習済データベースから得られた学習済機械学習モデルを用いて、前記特徴量ベクトルの尤度を計算するものである、
    請求項1に記載の異常度算出システム。
  7. 前記学習用モデル尤度計算部は、運用時に逐次更新される前記機械学習モデルを格納する前記学習用データベースから前記機械学習モデルを読み込むことにより尤度を計算し、
    前記学習済モデル尤度計算部は、運用開始時点の前記学習済機械学習モデルを格納する前記学習済データベースから前記学習済機械学習モデルを読み込むことにより尤度を計算する、
    請求項6に記載の異常度算出システム。
  8. 前記異常度算出システムは、前記対象機器が有する下位概念と前記各他の機器が有する下位概念の類似度に応じて、前記他の機器に対して重みを設定する同位概念種別付与部をさらに備え、
    前記損失計算部は、前記他の機器のセンサデータに由来する前記尤度に基づく前記負の対数尤度の値に対して、当該他の機器に設定された前記重みを乗じた結果である積を含む前記損失関数を用いて、前記損失の値を計算するものである、
    請求項1に記載の異常度算出システム。
  9. 前記対象機器は、作動に応じて音または振動を発生する機器である、
    請求項1に記載の異常度算出システム。
  10. 対象機器の異常度を計算機が算出する異常度算出方法であって、
    前記計算機が、
    機器の識別番号に基づいて所定の概念種別を付与し、
    前記機器に対応するセンサから得られるセンサデータに基づいて特徴量ベクトルを抽出し、
    学習用データベースから得られた機械学習モデルを用いて、前記特徴量ベクトルの尤度を計算し、
    前記計算された尤度の関数として定義される損失関数を用いて損失を計算し、
    前記計算された損失と学習した機械学習モデルとを用いて前記機械学習モデルを更新し、
    前記対象機器の異常を検知するときに、前記計算された尤度から再学習の要否を判定し、
    再学習が不要と判定された場合に、異常度を算出する方法であり、
    前記計算機が、前記機器の識別番号に基づいて概念種別を付与する際に、当該機器のセンサデータの正常分布が、異常度を算出する対象である前記対象機器のセンサデータの正常分布と同一である場合と異なる場合とで、互いに異なる概念種別を付与し、
    前記計算機が、前記損失関数を用いて前記損失を計算する際に、前記対象機器の概念種別と同じ概念種別が付与された前記機器のセンサデータに由来する前記尤度に基づく負の対数尤度の値が大きいほど、前記損失の値を大きくし、前記対象機器の概念種別とは異なる概念種別が付与された前記機器のセンサデータに由来する前記尤度に基づく負の対数尤度の値が小さいほど、前記損失の値を大きくする前記損失関数を用いて、前記損失の値を計算し、
    前記計算機が、前記機械学習モデルを更新する際に、前記計算した前記損失の値を小さくするように、前記機械学習モデルを更新し、
    前記計算機が、前記再学習の要否を判定する際に、前記対象機器の概念種別と異なる概念種別が付与された前記機器である、前記対象機器との共通の上位概念に属する同位概念の他の機器のセンサデータに由来する前記尤度に基づく前記負の対数尤度の値が再学習判定閾値を下回る場合に、前記機械学習モデルの再学習が必要であると判定する、
    異常度算出方法。
JP2021026689A 2021-02-22 2021-02-22 異常度算出システムおよび方法 Active JP7548843B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2021026689A JP7548843B2 (ja) 2021-02-22 2021-02-22 異常度算出システムおよび方法
CN202111623368.XA CN114970657B (zh) 2021-02-22 2021-12-28 异常度计算系统及方法
EP22152926.6A EP4047603B1 (en) 2021-02-22 2022-01-24 Abnormality degree calculation system and abnormality degree calculation method
US17/590,464 US20220269988A1 (en) 2021-02-22 2022-02-01 Abnormality degree calculation system and abnormality degree calculation method
JP2024147507A JP2024159935A (ja) 2021-02-22 2024-08-29 異常度算出システムおよび方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021026689A JP7548843B2 (ja) 2021-02-22 2021-02-22 異常度算出システムおよび方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024147507A Division JP2024159935A (ja) 2021-02-22 2024-08-29 異常度算出システムおよび方法

Publications (2)

Publication Number Publication Date
JP2022128256A JP2022128256A (ja) 2022-09-01
JP7548843B2 true JP7548843B2 (ja) 2024-09-10

Family

ID=80001302

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021026689A Active JP7548843B2 (ja) 2021-02-22 2021-02-22 異常度算出システムおよび方法
JP2024147507A Pending JP2024159935A (ja) 2021-02-22 2024-08-29 異常度算出システムおよび方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024147507A Pending JP2024159935A (ja) 2021-02-22 2024-08-29 異常度算出システムおよび方法

Country Status (4)

Country Link
US (1) US20220269988A1 (ja)
EP (1) EP4047603B1 (ja)
JP (2) JP7548843B2 (ja)
CN (1) CN114970657B (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022054158A1 (ja) * 2020-09-09 2022-03-17 日本電気株式会社 異常検出システム、異常検出方法、及びコンピュータ可読媒体
WO2024134816A1 (ja) * 2022-12-22 2024-06-27 三菱電機株式会社 転移学習装置、転移学習方法、および転移学習プログラム
WO2024162015A1 (ja) * 2023-02-03 2024-08-08 ソニーセミコンダクタソリューションズ株式会社 撮像装置、データ処理方法、及び、記録媒体
CN116662794B (zh) * 2023-08-02 2023-11-10 成都凯天电子股份有限公司 一种考虑数据分布更新的振动异常监测方法
JP7755771B1 (ja) * 2025-08-13 2025-10-16 株式会社インターネットイニシアティブ 異常管理装置、および異常管理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018150616A1 (ja) 2017-02-15 2018-08-23 日本電信電話株式会社 異常音検出装置、異常度計算装置、異常音生成装置、異常音検出学習装置、異常信号検出装置、異常信号検出学習装置、これらの方法及びプログラム
US20190311273A1 (en) 2016-12-21 2019-10-10 Abb Schweiz Ag Estimation of current and future machine states
WO2020031570A1 (ja) 2018-08-10 2020-02-13 日本電信電話株式会社 異常検知装置、確率分布学習装置、自己符号化器学習装置、データ変換装置、プログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3513284B2 (ja) * 1995-10-09 2004-03-31 キヤノン株式会社 音声認識方法およびその装置
JP4875010B2 (ja) * 2008-02-27 2012-02-15 株式会社東芝 運動クラス類別装置及び追尾処理装置
JP5297272B2 (ja) * 2009-06-11 2013-09-25 株式会社日立製作所 装置異常監視方法及びシステム
JP5740459B2 (ja) * 2009-08-28 2015-06-24 株式会社日立製作所 設備状態監視方法
TWI475558B (zh) * 2012-11-08 2015-03-01 Ind Tech Res Inst 詞語驗證的方法及裝置
JP6740247B2 (ja) * 2015-12-01 2020-08-12 株式会社Preferred Networks 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法
JP6785181B2 (ja) * 2017-04-12 2020-11-18 株式会社日立製作所 物体認識装置、物体認識システム、及び物体認識方法
JP6793601B2 (ja) 2017-06-20 2020-12-02 株式会社日立ビルシステム 監視装置、監視システム、異常検知方法
US10860589B2 (en) * 2017-11-21 2020-12-08 Facebook, Inc. Ranking feed based on a likelihood of a user posting original broadcast story in a session
US11922312B2 (en) * 2018-03-05 2024-03-05 Nec Corporation Image classification system, image classification method, and image classification program
JP2020204909A (ja) * 2019-06-17 2020-12-24 アイシン精機株式会社 機械学習装置
US12093397B1 (en) * 2021-03-09 2024-09-17 Rapid7, Inc. Machine learned model for generating opinionated threat assessments of security vulnerabilities

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190311273A1 (en) 2016-12-21 2019-10-10 Abb Schweiz Ag Estimation of current and future machine states
WO2018150616A1 (ja) 2017-02-15 2018-08-23 日本電信電話株式会社 異常音検出装置、異常度計算装置、異常音生成装置、異常音検出学習装置、異常信号検出装置、異常信号検出学習装置、これらの方法及びプログラム
WO2020031570A1 (ja) 2018-08-10 2020-02-13 日本電信電話株式会社 異常検知装置、確率分布学習装置、自己符号化器学習装置、データ変換装置、プログラム

Also Published As

Publication number Publication date
JP2024159935A (ja) 2024-11-08
JP2022128256A (ja) 2022-09-01
CN114970657B (zh) 2026-04-14
EP4047603A1 (en) 2022-08-24
CN114970657A (zh) 2022-08-30
EP4047603B1 (en) 2026-03-25
US20220269988A1 (en) 2022-08-25

Similar Documents

Publication Publication Date Title
JP7548843B2 (ja) 異常度算出システムおよび方法
CN116757534B (zh) 一种基于神经训练网络的智能冰箱可靠性分析方法
Linkens et al. Input selection and partition validation for fuzzy modelling using neural network
CN108885133B (zh) 异常音检测学习装置、其方法以及记录介质
CN113899577A (zh) 异常声音探测装置、异常声音生成装置及异常声音生成方法
KR20190126449A (ko) 기술 시스템을 제어하기 위한 방법 및 제어 디바이스
CN110352349A (zh) 异常音检测装置、异常度计算装置、异常音生成装置、异常音检测学习装置、异常信号检测装置、异常信号检测学习装置、及它们的方法以及程序
CN115828754A (zh) 基于多尺度时空融合网络模型的刀具磨损状态监测方法
CN111931983B (zh) 一种降水量预测方法及系统
CN117330963B (zh) 储能电站故障检测方法、系统及设备
CN120746234B (zh) 基于深度学习的无纺布袋加工参数调控方法及系统
CN111967308A (zh) 一种在线路面不平度辨识方法及系统
CN119004302B (zh) 全寿命周期滚动轴承的动态交互孪生模型的构建方法及系统
CN120122053A (zh) 一种电能表故障检测方法、装置、终端设备及计算机可读存储介质
CN114139677A (zh) 一种基于改进gru神经网络的非等间隔时序数据预测方法
CN119148621A (zh) 一种考虑刀具磨损的五轴数控机床热误差补偿方法
CN113447287B (zh) 异常检测装置和方法
CN120046078B (zh) 一种基于人工智能的电机异常检测方法与系统
CN119828030A (zh) 一种新能源汽车电池状态监测系统
CN119378711A (zh) 一种基于动态权重调整的自适应机器学习算法
CN119330219A (zh) 基于mlp神经网络反演的悬臂式起重机防摆控制方法及装置
CN114742108B (zh) 一种数控机床轴承故障检测方法及系统
CN117113138A (zh) 一种基于新型算法优化bp神经网络的窃电行为检测方法
CN120804721B (zh) 面向工业设备运行性能的智能检测方法及系统
CN111242215A (zh) 一种基于Token的多类别异常检测方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230516

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240829

R150 Certificate of patent or registration of utility model

Ref document number: 7548843

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150