JP7534698B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP7534698B2 JP7534698B2 JP2023523709A JP2023523709A JP7534698B2 JP 7534698 B2 JP7534698 B2 JP 7534698B2 JP 2023523709 A JP2023523709 A JP 2023523709A JP 2023523709 A JP2023523709 A JP 2023523709A JP 7534698 B2 JP7534698 B2 JP 7534698B2
- Authority
- JP
- Japan
- Prior art keywords
- information processing
- node
- kendall
- bayesian network
- processing device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Pure & Applied Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Algebra (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Computational Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は、情報処理装置、情報処理方法、およびプログラムに関する。
システム運用オペレーションで利用する各種データをＡＩに学習させて、オペレーションの自動化、効率化を図るＡｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ ｆｏｒ ＩＴ Ｏｐｅｒａｔｉｏｎｓ（ＡＩＯｐｓ）が知られている。システム運用オペレーションは判断の説明責任を伴うが、ＡＩはモデルがブラックボックスとなる場合があるため、ＡＩＯｐｓによる判断の説明情報を確保する必要がある。
例えば、判断構造の概観（大局的説明情報）は、ベテランオペレータの臨機応変な判断を模擬したベイジアンネットワークで示すことができる。ベイジアンネットワークは、ノード（判断要素）、エッジ（判断要素同士の関係）、および条件付き確率表（判断要素の影響度合い）によるグラフィカルモデルにより、人の経験（ドメイン知識）を反映した判断モデルを設計可能である。ベイジアンネットワークにより、観測済み情報を元に未観測の情報を確率計算で推論し、ＡＩ出力の妥当性を検証できる。また、ＡＩ個別の判断根拠の詳細（局所的説明情報）は、ＳＨａｐｌｅｙ Ａｄｄｉｔｉｖｅ ｅｘＰｌａｎａｔｉｏｎｓ（ＳＨＡＰ）を用いて生成できる。
HUGIN EXPERT, "Building a Bayesian Network",〈 URL：https://hugin.com/wp-content/uploads/2016/05/Building-a-BN-Tutorial.pdf 〉
ベイジアンネットワークに入力するデータは、ワークフロー自動化の一部としてシステムから入力されることが多い。しかしながら、インプットのソースとするシステムのデータ自体が手動入力の場合があり、ヒューマンエラーが混在し、ベイジアンネットワークに誤ったデータを入力するリスクがある。誤ったデータを発見して修正を促すことで、ベイジアンネットワークの周辺環境をメンテナンスすることが必要である。
データの誤りを検出する手法として、例えば、パリティビット、チェックサムがある。ベイジアンネットワークのノードは離散値（０，１，２，・・・）の組み合わせで表現されるが、ベイジアンネットワーク個体ごとに論理的に意味のある値であるため、パリティビットのように機械的に整合性ルールを定義できない。
データ群のなかから外れ値を検出する手法としてＬｏｃａｌ Ｏｕｔｌｉｅｒ Ｆａｃｔｏｒ（ＬＯＦ）があるが、一般的にベイジアンネットワークのノードの値域は０から１０程度と狭く、外れ値とみなせるほど大きな差分とならない。
本発明は、上記に鑑みてなされたものであり、データの誤りを検出することを目的とする。
本発明の一態様の情報処理装置は、ベイジアンネットワークにおけるデータの誤りを検出する情報処理装置であって、投入したデータに基づくベイジアンネットワークの各ノードの判断の傾向についてケンドールの一致度係数を計算する計算部と、前記ケンドールの一致度係数が閾値より低い場合に、前記データが誤りを含む旨の判定結果を出力する出力部を備える。
本発明の一態様の情報処理方法は、ベイジアンネットワークにおけるデータの誤りを検出する情報処理方法であって、コンピュータが、投入したデータに基づくベイジアンネットワークの各ノードの判断の傾向についてケンドールの一致度係数を計算し、前記ケンドールの一致度係数が閾値より低い場合に、前記データが誤りを含む旨の判定結果を出力する。
本発明によれば、データの誤りを検出できる。
以下、本発明の実施の形態について図面を用いて説明する。
図１を参照し、ベイジアンネットワークについて簡単に説明する。図１のベイジアンネットワークは、がんの診断に関連するベイジアンネットワークの一例である。図１のベイジアンネットワークは、５のノードＮ１～Ｎ５、４つのエッジＥ１～Ｅ４、および各ノードＮ１～Ｎ５の条件付き確率表（ＣＰＴ）を有する。ノードは判断要素を示し、エッジは判断要素間の因果関係を示す。エッジの矢印の元が親ノードであり、矢印の先が子ノードである。ノード間の因果関係はベテランオペレータの知見によって作成できる。図１の例では、ノードＮ１，Ｎ２は、ノードＮ３の親ノードである。ノードＮ３は、ノードＮ４，Ｎ５の親ノードである。ＣＰＴは、判断要素間の因果関係の度合いを示す。ＣＰＴは、例えば、データの統計情報に基づいて人手で算出される。観測済み情報（データ）を親ノードＮ１，Ｎ２に入力すると、未観測のノードＮ３，Ｎ４，Ｎ５のノードの確率値が得られる。図１の例では、ノードＮ３のＣａｎｃｅｒは、ノードＮ１のＰｏｌｌｕｔｉｏｎとノードＮ２のＳｍｏｋｅｒの状態（値）によって推論できる。例えば、図１のノードＮ３のＣＰＴでは、Ｐｏｌｌｕｔｉｏｎ＝ｈｉｇｈ、Ｓｍｏｋｅｒ＝Ｔｒｕｅの場合、Ｃａｎｃｅｒである確率値は０．０５であり、Ｐｏｌｌｕｔｉｏｎ＝ｌｏｗ、Ｓｍｏｋｅｒ＝Ｆａｌｓｅの場合、Ｃａｎｃｅｒである確率値は０．００１である。
ベテランオペレータの臨機応変な判断を模擬したベイジアンネットワークにより、ＡＩの判断を検証し判断理由を説明できるようにすることで、ネットワークオペレーションにＡＩを安全に組み込むことができる。
次に、図２を参照し、本実施形態の情報処理装置１の構成の一例について説明する。図２に示す情報処理装置１は、入力部１１、計算部１２、および出力部１３を備える。
入力部１１は、観測済み情報を投入した親ノード群の判断の傾向を求めるための情報を入力する。例えば、入力部１１は、親ノードに投入した観測済み情報に基づく、子ノードの、親ノードに対する事後確率値を入力する。事後確率値は、親ノードに投入した観測済み情報とベイジアンネットワークで計算された子ノードの未観測の情報から計算できる。
図３のベイジアンネットワークの例では、ノードＮ１０，Ｎ２０，Ｎ３０にシステムから観測済み情報が投入される。ノードＮ１０，Ｎ２０，Ｎ３０に投入された観測済み情報に基づいてノードＮ４０の確率値が得られる。図３の例では、ノードＮ１０に観測済み情報を投入するシステムのデータは、人手によってシステムに投入されるデータであり、誤りが混入するおそれがあるものとする。
入力部１１は、ノードＮ１０，Ｎ２０，Ｎ３０のそれぞれについて、投入した観測済み情報に基づく、子ノードＮ４０の事後確率値を入力する。入力部１１は、判断要素がＳｔａｉｎのノードＮ１０について、Ｓｔａｉｎ＝０である場合のＣａｎｃｅｒ＝０となる事後確率値Ｐ（Ｃａｎｃｅｒ＝０｜Ｓｔａｉｎ＝０）とＳｔａｉｎ＝０である場合のＣａｎｃｅｒ＝１となる事後確率値Ｐ（Ｃａｎｃｅｒ＝１｜Ｓｔａｉｎ＝０）を入力する。入力部１１は、判断要素がＰｏｌｌｕｔｉｏｎのノードＮ２０について、Ｐｏｌｌｕｔｉｏｎ＝１である場合のＣａｎｃｅｒ＝０となる事後確率値Ｐ（Ｃａｎｃｅｒ＝０｜Ｐｏｌｌｕｔｉｏｎ＝１）とＰｏｌｌｕｔｉｏｎ＝１である場合のＣａｎｃｅｒ＝１となる事後確率値Ｐ（Ｃａｎｃｅｒ＝１｜Ｐｏｌｌｕｔｉｏｎ＝１）を入力する。入力部１１は、判断要素がＳｍｏｋｅｒのノードＮ３０について、Ｓｍｏｋｅｒ＝１である場合のＣａｎｃｅｒ＝０となる事後確率値Ｐ（Ｃａｎｃｅｒ＝０｜Ｓｍｏｋｅｒ＝１）とＳｍｏｋｅｒ＝１である場合のＣａｎｃｅｒ＝１となる事後確率値Ｐ（Ｃａｎｃｅｒ＝１｜Ｓｍｏｋｅｒ＝１）を入力する。親ノードの値の組み合わせは、ワークフロー実行ごとに毎回異なる値がシステムから投入される。上記では、Ｓｔａｉｎ＝０、Ｐｏｌｌｕｔｉｏｎ＝１、Ｓｍｏｋｅｒ＝１がベイジアンネットワークに投入されて計算した一例を示した。
計算部１２は、親ノード群の判断の傾向についてケンドールの一致度係数を計算することで、観測済み情報同士の整合性を数値化する。具体的には、計算部１２は、親ノードごとに、子ノードの事後確率値のランキングを求め、親ノード間でのランキングを用いてケンドールの一致度係数を計算し、観測済み情報同士の整合性を数値化する。
図４に、図３の親ノードＮ１０，Ｎ２０，Ｎ３０のそれぞれについて、子ノードの事後確率値のランキングを求めた一例を示す。子ノードの、親ノードに対する事後確率値は次式の関係であったとする。
ノードＮ１０について、事後確率値Ｐ（Ｃａｎｃｅｒ＝０｜Ｓｔａｉｎ＝０）が事後確率値Ｐ（Ｃａｎｃｅｒ＝１｜Ｓｔａｉｎ＝０）よりも大きかったので、Ｓｔａｉｎ＝０についてのランキングは、Ｃａｎｃｅｒ＝０を１位、Ｃａｎｃｅｒ＝１を２位とする。
ノードＮ２０について、事後確率値Ｐ（Ｃａｎｃｅｒ＝０｜Ｐｏｌｌｕｔｉｏｎ＝１）が事後確率値Ｐ（Ｃａｎｃｅｒ＝１｜Ｐｏｌｌｕｔｉｏｎ＝１）よりも大きかったので、Ｐｏｌｌｕｔｉｏｎ＝１についてのランキングは、Ｃａｎｃｅｒ＝１を１位、Ｃａｎｃｅｒ＝０を２位とする。
ノードＮ３０について、事後確率値Ｐ（Ｃａｎｃｅｒ＝０｜Ｓｍｏｋｅｒ＝１）が事後確率値Ｐ（Ｃａｎｃｅｒ＝１｜Ｓｍｏｋｅｒ＝１）よりも大きかったので、Ｓｍｏｋｅｒ＝１についてのランキングは、Ｃａｎｃｅｒ＝１を１位、Ｃａｎｃｅｒ＝０を２位とする。
なお、子ノードが３値以上を取る場合は、各親ノードについて３位以下のランキングも求められる。
計算部１２は、各親ノードについて、子ノードの事後確率値のランキングを求めた後、親ノード間のランキングについてケンドールの一致度係数を求める。ケンドールの一致度係数Ｗは次式で求められる。
ここで、ｉは子ノードの各値（例えばＣａｎｃｅｒ＝０，Ｃａｎｃｅｒ＝１）、ｊは親ノード（例えばノードＮ１０，Ｎ２０，Ｎ３０）、ｒｉｊは親ノードｊによる子ノードの値ｉのランキング値（例えば１位または２位）、ｎは子ノードの値の数、ｍは親ノードの数、Ｒｉは子ノードの値ｉごとの順位の和、Ｒ（上にバー）は順位の和の平均、Ｓは順位に関する平方和Ｓである。
親ノード間の判断が整合していればケンドールの一致度係数Ｗは１に近づき、整合していなければケンドールの一致度係数Ｗは０に近づく。
出力部１３は、計算部１２の求めた整合性の数値（ケンドールの一致度係数Ｗ）が任意の閾値よりも低い場合に、投入された観測済み情報が誤りを含む可能性があることを示す判定結果を出力し、修正を促す。例えば、出力部１３は、親ノードの子ノードに与える作用の方向を事後確率値から評価し、判断の傾向が他と異なるノードに投入された観測済み情報の誤りの可能性が高いとみなして修正を促す。
次に、図５のフローチャートを参照し、本実施形態の情報処理装置１の処理の流れの一例について説明する。
ステップＳ１にて、情報処理装置１は、親ノード群の判断の傾向を求める。具体的には、情報処理装置１は、各親ノードについて子ノードの事後確率値を入力し、親ノードごとに子ノードの事後確率値のランキングを求める。
ステップＳ２にて、情報処理装置１は、親ノード群の判断の傾向についてケンドールの一致度係数を計算する。具体的には、情報処理装置１は、ステップＳ１で求めたランキングの一致度についてケンドールの一致度係数を計算する。
ステップＳ３にて、情報処理装置１は、誤ったデータが混入した可能性を判定する。具体的には、情報処理装置１は、ステップＳ２で計算したケンドールの一致度係数と所定の閾値とを比較し、ケンドールの一致度係数が所定の閾値よりも低い場合に、データが誤りを含む可能性があることを示す判定結果を出力する。このとき、情報処理装置１は、親ノードの子ノードに与える作用の方向を事後確率から評価し、判断の傾向が他と異なるノードに投入されたデータが誤りを含む可能性があることを示してもよい。
以上説明したように、本実施形態の情報処理装置１は、ベイジアンネットワークのノードに投入した観測済み情報に基づく各ノードの判断の傾向についてケンドールの一致度係数を計算する計算部１２と、ケンドールの一致度係数が閾値より低い場合に、データが誤りを含む旨の判定結果を出力する出力部１３を備える。計算部１２は、観測済み情報に基づく各ノードについて子ノードの事後確率値のランキングを求め、求めたランキングについてケンドールの一致度係数を計算する。これにより、誤ったデータを検出することができ、誤ったデータの修正を促して、ベイジアンネットワークの周辺環境をメンテナンスすることを可能にする。
上記説明した情報処理装置１には、例えば、図６に示すような、中央演算処理装置（ＣＰＵ）９０１と、メモリ９０２と、ストレージ９０３と、通信装置９０４と、入力装置９０５と、出力装置９０６とを備える汎用的なコンピュータシステムを用いることができる。このコンピュータシステムにおいて、ＣＰＵ９０１がメモリ９０２上にロードされた所定のプログラムを実行することにより、情報処理装置１が実現される。このプログラムは磁気ディスク、光ディスク、半導体メモリなどのコンピュータ読み取り可能な記録媒体に記録することも、ネットワークを介して配信することもできる。
１ 情報処理装置
１１ 入力部
１２ 計算部
１３ 出力部
１１ 入力部
１２ 計算部
１３ 出力部
Claims (7)
- ベイジアンネットワークにおけるデータの誤りを検出する情報処理装置であって、
投入したデータに基づくベイジアンネットワークの各ノードの判断の傾向についてケンドールの一致度係数を計算する計算部と、
前記ケンドールの一致度係数が閾値より低い場合に、前記データが誤りを含む旨の判定結果を出力する出力部を備える
情報処理装置。 - 請求項１に記載の情報処理装置であって、
前記計算部は、前記投入したデータに基づきベイジアンネットワークの各ノードについて子ノードの事後確率値のランキングを求め、求めたランキングについてケンドールの一致度係数を計算する
情報処理装置。 - 請求項１または２に記載の情報処理装置であって、
前記出力部は、前記ケンドールの一致度係数が閾値より低い場合に、判断の傾向が他と異なるノードに投入された前記データが誤りを含む旨の判定結果を出力する
情報処理装置。 - ベイジアンネットワークにおけるデータの誤りを検出する情報処理方法であって、
コンピュータが、
投入したデータに基づくベイジアンネットワークの各ノードの判断の傾向についてケンドールの一致度係数を計算し、
前記ケンドールの一致度係数が閾値より低い場合に、前記データが誤りを含む旨の判定結果を出力する
情報処理方法。 - 請求項４に記載の情報処理方法であって、
前記投入したデータに基づきベイジアンネットワークの各ノードについて子ノードの事後確率値のランキングを求め、求めたランキングについてケンドールの一致度係数を計算する
情報処理方法。 - 請求項４または５に記載の情報処理方法であって、
前記ケンドールの一致度係数が閾値より低い場合に、判断の傾向が他と異なるノードに投入された前記データが誤りを含む旨の判定結果を出力する
情報処理方法。 - 請求項１ないし３のいずれかに記載の情報処理装置の各部としてコンピュータを動作させるプログラム。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2021/019524 WO2022249224A1 (ja) | 2021-05-24 | 2021-05-24 | 情報処理装置、情報処理方法、およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2022249224A1 JPWO2022249224A1 (ja) | 2022-12-01 |
| JP7534698B2 true JP7534698B2 (ja) | 2024-08-15 |
Family
ID=84229667
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023523709A Active JP7534698B2 (ja) | 2021-05-24 | 2021-05-24 | 情報処理装置、情報処理方法、およびプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US20240265283A1 (ja) |
| JP (1) | JP7534698B2 (ja) |
| WO (1) | WO2022249224A1 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115833024B (zh) * | 2023-02-21 | 2023-05-02 | 中铁四局集团有限公司 | 一种玻璃幕墙防雷接地系统 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012504810A (ja) | 2008-10-03 | 2012-02-23 | ビ−エイイ− システムズ パブリック リミテッド カンパニ− | システムにおける故障を診断するモデルの更新の支援 |
| JP2018124829A (ja) | 2017-02-01 | 2018-08-09 | 日本電信電話株式会社 | 状態判定装置、状態判定方法及びプログラム |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5905375B2 (ja) * | 2012-10-25 | 2016-04-20 | 日本電信電話株式会社 | 誤分類検出装置、方法、及びプログラム |
-
2021
- 2021-05-24 JP JP2023523709A patent/JP7534698B2/ja active Active
- 2021-05-24 US US18/562,789 patent/US20240265283A1/en active Pending
- 2021-05-24 WO PCT/JP2021/019524 patent/WO2022249224A1/ja not_active Ceased
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012504810A (ja) | 2008-10-03 | 2012-02-23 | ビ−エイイ− システムズ パブリック リミテッド カンパニ− | システムにおける故障を診断するモデルの更新の支援 |
| JP2018124829A (ja) | 2017-02-01 | 2018-08-09 | 日本電信電話株式会社 | 状態判定装置、状態判定方法及びプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2022249224A1 (ja) | 2022-12-01 |
| US20240265283A1 (en) | 2024-08-08 |
| WO2022249224A1 (ja) | 2022-12-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Glymour et al. | Review of causal discovery methods based on graphical models | |
| CN110276446B (zh) | 模型训练和选择推荐信息的方法和装置 | |
| Kamiński et al. | A framework for sensitivity analysis of decision trees | |
| CN112132277A (zh) | 联邦学习模型训练方法、装置、终端设备及存储介质 | |
| CN115526641B (zh) | 柔板产品生产质量追溯方法、系统、装置和存储介质 | |
| US11989656B2 (en) | Search space exploration for deep learning | |
| US20170364825A1 (en) | Adaptive augmented decision engine | |
| CN112199293A (zh) | 软件质量评价方法、装置、终端设备及存储介质 | |
| US10537801B2 (en) | System and method for decision making in strategic environments | |
| CN110488226B (zh) | 一种水下目标定位方法及装置 | |
| CN113220908B (zh) | 知识图谱的匹配方法和装置 | |
| CN111523686A (zh) | 一种模型联合训练的方法和系统 | |
| KR20200049373A (ko) | 시뮬레이션 모델 보정 시스템 및 방법 | |
| CN111324764A (zh) | 一种图像检测方法、装置、电子设备及存储介质 | |
| JP7534698B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
| JPWO2018083804A1 (ja) | 分析プログラム、情報処理装置および分析方法 | |
| CN118747532A (zh) | 一种数据处理方法、装置、电子设备及存储介质 | |
| US11941327B2 (en) | Customizable reinforcement learning of column placement in structural design | |
| US11651289B2 (en) | System to identify and explore relevant predictive analytics tasks of clinical value and calibrate predictive model outputs to a prescribed minimum level of predictive accuracy | |
| CN110114767A (zh) | 使用未解释函数符号的可满足性模理论过程的系统和方法 | |
| JP7587179B2 (ja) | 情報処理装置、情報処理方法、及び、情報処理プログラム | |
| Van den Eynde et al. | A construction heuristic for the capacitated Steiner tree problem | |
| CN116541726B (zh) | 用于植被覆盖度估算的样本量确定方法、装置及设备 | |
| CN117132177B (zh) | 基于多重假设检验的径流预报模型构建和径流预报方法 | |
| US20230154584A1 (en) | Computer system and intervention effect predicting method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231023 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240702 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240715 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7534698 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |