JPH09128360A - 時系列データの学習方法及び装置 - Google Patents
時系列データの学習方法及び装置Info
- Publication number
- JPH09128360A JPH09128360A JP7280295A JP28029595A JPH09128360A JP H09128360 A JPH09128360 A JP H09128360A JP 7280295 A JP7280295 A JP 7280295A JP 28029595 A JP28029595 A JP 28029595A JP H09128360 A JPH09128360 A JP H09128360A
- Authority
- JP
- Japan
- Prior art keywords
- learning
- series data
- time
- time series
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
Abstract
(57)【要約】
【課題】 従来は、小さな変動と大きな変動を同じよう
にニューラルネットワークに学習させているため、小さ
な変動も正確に学習しようとするために、大きな変動を
効果的に学習できないという問題が生じる。 【解決手段】 本発明は、 学習セットの中で、教師信
号であるδＡ0 （ｔ＋１）の絶対値が所定の値より大き
い部分セットＬと、δＡ0 （ｔ＋１）の絶対値が所定の
値より小さい部分セットＳとに分類し、部分セットＬに
対する学習係数を、部分セットＳに対する学習係数より
も大きくしてニューラルネットワークに学習させる。
にニューラルネットワークに学習させているため、小さ
な変動も正確に学習しようとするために、大きな変動を
効果的に学習できないという問題が生じる。 【解決手段】 本発明は、 学習セットの中で、教師信
号であるδＡ0 （ｔ＋１）の絶対値が所定の値より大き
い部分セットＬと、δＡ0 （ｔ＋１）の絶対値が所定の
値より小さい部分セットＳとに分類し、部分セットＬに
対する学習係数を、部分セットＳに対する学習係数より
も大きくしてニューラルネットワークに学習させる。
Description
【０００１】
【発明の属する技術分野】本発明は、時系列データの学
習方法及び装置に係り、特に、過去及び現在の時系列デ
ータを入力信号とし、将来の時系列データを教師信号と
して、ニューラルネットワークに時系列データを学習さ
せる時系列データの学習方法及び装置に関する。
習方法及び装置に係り、特に、過去及び現在の時系列デ
ータを入力信号とし、将来の時系列データを教師信号と
して、ニューラルネットワークに時系列データを学習さ
せる時系列データの学習方法及び装置に関する。
【０００２】例えば、株価変動のように、市場性のある
データを操作する際に、最も変動の激しい時の変動幅や
変動方向に応じて、将来的な株価等の動向を認識すると
共に、変動幅や変動方向に沿った売買操作等を行うため
に、時々入力される時系列データを学習して正確な予測
を行うことが可能な時系列データの学習方法及び装置に
関する。
データを操作する際に、最も変動の激しい時の変動幅や
変動方向に応じて、将来的な株価等の動向を認識すると
共に、変動幅や変動方向に沿った売買操作等を行うため
に、時々入力される時系列データを学習して正確な予測
を行うことが可能な時系列データの学習方法及び装置に
関する。
【０００３】
【従来の技術】以下に従来の技術における、時系列デー
タ及び当該時系列データと相関関係のある関連時系列デ
ータの過去及び現在の値をニューラルネットワークへの
入力信号とし、時系列データの将来の値をニューラルネ
ットワークへの教師信号として時系列データの学習を行
う方法について説明する。
タ及び当該時系列データと相関関係のある関連時系列デ
ータの過去及び現在の値をニューラルネットワークへの
入力信号とし、時系列データの将来の値をニューラルネ
ットワークへの教師信号として時系列データの学習を行
う方法について説明する。
【０００４】図６は、フィードフォワード型ニューラル
ネットワークの構成例を示す。同図におけるニューラル
ネットワークは、入力層１のニューロン、中間層２のニ
ューロン及び出力層３のニューロンより構成され、入力
層１と中間層２は接続線４で接続されている。また、中
間層２と出力層３は接続線５で接続されている。
ネットワークの構成例を示す。同図におけるニューラル
ネットワークは、入力層１のニューロン、中間層２のニ
ューロン及び出力層３のニューロンより構成され、入力
層１と中間層２は接続線４で接続されている。また、中
間層２と出力層３は接続線５で接続されている。
【０００５】接続線４、５の荷重を学習によって変動さ
せることにより、学習課題に相応しい荷重に決定する。
学習アルゴリズムとしては、バックプロパゲーション・
アルゴリズム［文献１：Rumelhart, D.E. et al.: Pare
llel Distrbuted ProcessingVol. 1, MIT Press (1986)
］を用いる。
せることにより、学習課題に相応しい荷重に決定する。
学習アルゴリズムとしては、バックプロパゲーション・
アルゴリズム［文献１：Rumelhart, D.E. et al.: Pare
llel Distrbuted ProcessingVol. 1, MIT Press (1986)
］を用いる。
【０００６】図６に示すフィードフォワード型ニューラ
ルネットワークへの入力信号と教師信号の与え方は、以
下の通りである。但し、時刻ｔにおける予測対象時系列
データＡの変化分をδＡ（ｔ）とし、関連時系列データ
Ｂ，Ｃ，Ｄ，Ｅの値をＢ（ｔ），Ｃ（ｔ），Ｄ（ｔ），
Ｅ（ｔ）とする。時刻ｔの観測値であるδＡ（ｔ），Ｂ
（ｔ），Ｃ（ｔ），Ｄ（ｔ），Ｅ（ｔ）を入力層１への
入力信号とする。時刻（ｔ＋１）の観測値であるδＡ
（ｔ＋１）を出力層３への教師信号とする。時刻１〜時
刻１０における入力信号と教師信号との対応を図７に示
す。図７は、各時刻における入力信号と教師信号との対
応を示す。図６の例では、入力層１のニューロン数は５
個であり、出力層３のニューロン数は１個である。図６
の例では、中間層２のニューロン数ｎは、試行錯誤的に
決定される。
ルネットワークへの入力信号と教師信号の与え方は、以
下の通りである。但し、時刻ｔにおける予測対象時系列
データＡの変化分をδＡ（ｔ）とし、関連時系列データ
Ｂ，Ｃ，Ｄ，Ｅの値をＢ（ｔ），Ｃ（ｔ），Ｄ（ｔ），
Ｅ（ｔ）とする。時刻ｔの観測値であるδＡ（ｔ），Ｂ
（ｔ），Ｃ（ｔ），Ｄ（ｔ），Ｅ（ｔ）を入力層１への
入力信号とする。時刻（ｔ＋１）の観測値であるδＡ
（ｔ＋１）を出力層３への教師信号とする。時刻１〜時
刻１０における入力信号と教師信号との対応を図７に示
す。図７は、各時刻における入力信号と教師信号との対
応を示す。図６の例では、入力層１のニューロン数は５
個であり、出力層３のニューロン数は１個である。図６
の例では、中間層２のニューロン数ｎは、試行錯誤的に
決定される。
【０００７】このように、従来の技術では、過去及び現
在の時系列データを入力して将来の時系列データの変動
を予測する場合には、変動幅を意識せずにニューラルネ
ットワークを用いて学習する。図８は、従来の具体的な
動作を説明するためのフローチャートである。
在の時系列データを入力して将来の時系列データの変動
を予測する場合には、変動幅を意識せずにニューラルネ
ットワークを用いて学習する。図８は、従来の具体的な
動作を説明するためのフローチャートである。
【０００８】ステップ４１０） ニューラルネットワー
クの重みを−０．３から０．３の間のランダムな値に初
期化する。 ステップ４２０） 全てのデータの学習係数を０．７と
してニューラルネットワークの学習を実施する。
クの重みを−０．３から０．３の間のランダムな値に初
期化する。 ステップ４２０） 全てのデータの学習係数を０．７と
してニューラルネットワークの学習を実施する。
【０００９】ステップ４３０） ステップ４２０の操作
を８０００回繰り返して、検証データに対する評価尺度
Ｐの値が最大となる学習回数Ｍを求める。 ステップ４４０） ステップ４１０から初めてステップ
４２０の操作をＭ回繰り返す。
を８０００回繰り返して、検証データに対する評価尺度
Ｐの値が最大となる学習回数Ｍを求める。 ステップ４４０） ステップ４１０から初めてステップ
４２０の操作をＭ回繰り返す。
【００１０】ステップ４５０） ステップ４４０の処理
をＭ回実行した後に、学習済のニューラルネットワーク
を用いて予測を行う。
をＭ回実行した後に、学習済のニューラルネットワーク
を用いて予測を行う。
【００１１】
【発明が解決しようとする課題】過去及び現在の時系列
データを入力して、将来の時系列データの変動を予測さ
せる場合、小さな変動よりも大きな変動を正確に予測で
きることが重要となる。従来の技術のように小さな変動
と大きな変動を同じように学習させると、小さな変動も
正確に学習しようとするために、大きな変動を効果的に
学習できないという問題が生じる。
データを入力して、将来の時系列データの変動を予測さ
せる場合、小さな変動よりも大きな変動を正確に予測で
きることが重要となる。従来の技術のように小さな変動
と大きな変動を同じように学習させると、小さな変動も
正確に学習しようとするために、大きな変動を効果的に
学習できないという問題が生じる。
【００１２】本発明は、上記の点に鑑みなされたもの
で、大きな変動に対応する学習セットを強調して学習さ
せることにより、大きな変動を、より正確に予測できる
ような時系列データの学習方法及び装置を提供すること
を目的とする。
で、大きな変動に対応する学習セットを強調して学習さ
せることにより、大きな変動を、より正確に予測できる
ような時系列データの学習方法及び装置を提供すること
を目的とする。
【００１３】
【課題を解決するための手段】図１は、本発明の原理を
説明するための図である。本発明は、予測対象時系列デ
ータＡ0 の時刻ｔの変化分であるδＡ0 （ｔ）及び該予
測対象時系列データＡ0 との相関のある時系列データＡ
1 ，…，Ａn （ｎ≧１）の時刻ｔの値であるＡ
1 （ｔ），…，Ａn （ｔ）を入力信号とし、該予測対象
時系列データＡ0 の時刻（ｔ＋１）の変化分であるδＡ
0 （ｔ＋１）を教師信号として、予め用意した入力信号
と教師信号の学習セットをバックプロパゲーション・ア
ルゴリズムを用いてニューラルネットワークに学習させ
る時系列データの学習方法において、学習セットの中
で、教師信号であるδＡ0 （ｔ＋１）の絶対値が所定の
値より大きい部分セットＬと、δＡ0 （ｔ＋１）の絶対
値が所定の値より小さい部分セットＳとに分類し（ステ
ップ１）、部分セットの大小関係を判定し（ステップ
２）、部分セットＬに対する学習係数を、部分セットＳ
に対する学習係数よりも大きくしてニューラルネットワ
ークに学習させ（ステップ３）、部分セットＳには、部
分セットＬより小さい学習係数を用いて学習させる（ス
テップ４）。
説明するための図である。本発明は、予測対象時系列デ
ータＡ0 の時刻ｔの変化分であるδＡ0 （ｔ）及び該予
測対象時系列データＡ0 との相関のある時系列データＡ
1 ，…，Ａn （ｎ≧１）の時刻ｔの値であるＡ
1 （ｔ），…，Ａn （ｔ）を入力信号とし、該予測対象
時系列データＡ0 の時刻（ｔ＋１）の変化分であるδＡ
0 （ｔ＋１）を教師信号として、予め用意した入力信号
と教師信号の学習セットをバックプロパゲーション・ア
ルゴリズムを用いてニューラルネットワークに学習させ
る時系列データの学習方法において、学習セットの中
で、教師信号であるδＡ0 （ｔ＋１）の絶対値が所定の
値より大きい部分セットＬと、δＡ0 （ｔ＋１）の絶対
値が所定の値より小さい部分セットＳとに分類し（ステ
ップ１）、部分セットの大小関係を判定し（ステップ
２）、部分セットＬに対する学習係数を、部分セットＳ
に対する学習係数よりも大きくしてニューラルネットワ
ークに学習させ（ステップ３）、部分セットＳには、部
分セットＬより小さい学習係数を用いて学習させる（ス
テップ４）。
【００１４】図２は、本発明の原理構成図である。本発
明は、予め用意した入力信号と教師信号の学習セットを
バックプロパゲーション・アルゴリズムを用いて学習す
るニューラルネットワークと、予測対象時系列データＡ
0 の時刻ｔの変化分であるδＡ0 （ｔ）及び該予測対象
時系列データＡ0 との相関のある時系列データＡ1 ，
…，Ａn （ｎ≧１）の時刻ｔの値であるＡ1 （ｔ），
…，Ａn （ｔ）を入力信号とし、該予測対象時系列デー
タＡ0 の時刻（ｔ＋１）の変化分であるδＡ0 （ｔ＋
１）を教師信号として、該ニューラルネットワークに学
習させる制御手段とを有する時系列データの学習装置で
あって、制御手段１００は、学習セットの中で、教師信
号であるδＡ0 （ｔ＋１）の絶対値が所定の値より大き
い部分セットＬと、δＡ0 （ｔ＋１）の絶対値が所定の
値より小さい部分セットＳとに分類する分類手段１１０
と、分類手段１１０により分類された部分セットＬに対
する学習係数を、部分セットＳに対する学習係数よりも
大きな値を設定する係数設定手段１２０を有し、係数設
定手段１２０で設定された係数を用いてニューラルネッ
トワーク２００に学習させる。
明は、予め用意した入力信号と教師信号の学習セットを
バックプロパゲーション・アルゴリズムを用いて学習す
るニューラルネットワークと、予測対象時系列データＡ
0 の時刻ｔの変化分であるδＡ0 （ｔ）及び該予測対象
時系列データＡ0 との相関のある時系列データＡ1 ，
…，Ａn （ｎ≧１）の時刻ｔの値であるＡ1 （ｔ），
…，Ａn （ｔ）を入力信号とし、該予測対象時系列デー
タＡ0 の時刻（ｔ＋１）の変化分であるδＡ0 （ｔ＋
１）を教師信号として、該ニューラルネットワークに学
習させる制御手段とを有する時系列データの学習装置で
あって、制御手段１００は、学習セットの中で、教師信
号であるδＡ0 （ｔ＋１）の絶対値が所定の値より大き
い部分セットＬと、δＡ0 （ｔ＋１）の絶対値が所定の
値より小さい部分セットＳとに分類する分類手段１１０
と、分類手段１１０により分類された部分セットＬに対
する学習係数を、部分セットＳに対する学習係数よりも
大きな値を設定する係数設定手段１２０を有し、係数設
定手段１２０で設定された係数を用いてニューラルネッ
トワーク２００に学習させる。
【００１５】このように、本発明では、第１に予測対象
時系列データの時刻（ｔ＋１）の変化分の絶対値が所定
の値より大きくなる学習セットＬと、変化分の絶対値が
所定の値より小さくなる学習セットＳとに分類する。さ
らに、第２に学習セットＬに対する学習係数を学習セッ
トＳに対する学習係数よりも大きくしてニューラルネッ
トワークの学習を行う。本発明では、バックプロパゲー
ション・アルゴリズム型のニューラルネットワークを用
いており、このバックプロパゲーション・アルゴリズム
には、学習係数というパラメータがある。学習係数は値
を大きくすると、１回あたりの重みの変更量が大きくな
る（学習速度が速くなる）性質を有する。従来の技術で
は、予測対象時系列データの変化分の大きさによらず、
どの学習データ（入力信号と教師信号からなる一組のデ
ータ）に対しても同一の学習係数を用いているが、本発
明では、この学習係数を大きな変動に対応する学習セッ
トに用いることにより、当該学習セットを強調して学習
させるため、より正確に大きな変動を予測することが可
能となる。
時系列データの時刻（ｔ＋１）の変化分の絶対値が所定
の値より大きくなる学習セットＬと、変化分の絶対値が
所定の値より小さくなる学習セットＳとに分類する。さ
らに、第２に学習セットＬに対する学習係数を学習セッ
トＳに対する学習係数よりも大きくしてニューラルネッ
トワークの学習を行う。本発明では、バックプロパゲー
ション・アルゴリズム型のニューラルネットワークを用
いており、このバックプロパゲーション・アルゴリズム
には、学習係数というパラメータがある。学習係数は値
を大きくすると、１回あたりの重みの変更量が大きくな
る（学習速度が速くなる）性質を有する。従来の技術で
は、予測対象時系列データの変化分の大きさによらず、
どの学習データ（入力信号と教師信号からなる一組のデ
ータ）に対しても同一の学習係数を用いているが、本発
明では、この学習係数を大きな変動に対応する学習セッ
トに用いることにより、当該学習セットを強調して学習
させるため、より正確に大きな変動を予測することが可
能となる。
【００１６】
【発明の実施の形態】図３は、本発明の時系列データ学
習装置の構成を示す。同図に示す学習装置は、入力され
た時系列データＡ1 ，…，Ａn （ｎ≧１）を分類する時
系列データ分類部１０、学習制御部２０、フィードフォ
ワード型のニューラルネットワーク３０、検証部４０及
び予測部５０より構成される。
習装置の構成を示す。同図に示す学習装置は、入力され
た時系列データＡ1 ，…，Ａn （ｎ≧１）を分類する時
系列データ分類部１０、学習制御部２０、フィードフォ
ワード型のニューラルネットワーク３０、検証部４０及
び予測部５０より構成される。
【００１７】時系列データ分類部１０は、入力された時
系列データを学習に用いるデータ（学習データ）、検証
部４０において学習状態の検証に用いるデータ（検証デ
ータ）及び予測部５０で予測テストに用いるデータ（テ
ストデータ）に分類する。このうち、学習データは、予
測対象時系列データＡ0 の時刻ｔの変化分であるδＡ 0
（ｔ）と、予測対象時系列データＡ0 と相関のある時系
列データＡ1 ，…，Ａ n （ｎ≧１）の時刻ｔの値である
Ａ1 （ｔ），…，Ａn （ｔ）を入力信号とし、予測対象
時系列データＡ0 の時刻（ｔ＋１）の変化分であるδＡ
0 （ｔ＋１）を教師信号とし、入力信号と教師信号の組
を学習セットとする。ここで、時系列データ分類部１０
は、学習セット中の教師信号δＡ0 （ｔ＋１）の絶対値
が所定の値より大きくなる部分セットＬと、所定の値よ
り小さくなる部分セットＳに分類する。
系列データを学習に用いるデータ（学習データ）、検証
部４０において学習状態の検証に用いるデータ（検証デ
ータ）及び予測部５０で予測テストに用いるデータ（テ
ストデータ）に分類する。このうち、学習データは、予
測対象時系列データＡ0 の時刻ｔの変化分であるδＡ 0
（ｔ）と、予測対象時系列データＡ0 と相関のある時系
列データＡ1 ，…，Ａ n （ｎ≧１）の時刻ｔの値である
Ａ1 （ｔ），…，Ａn （ｔ）を入力信号とし、予測対象
時系列データＡ0 の時刻（ｔ＋１）の変化分であるδＡ
0 （ｔ＋１）を教師信号とし、入力信号と教師信号の組
を学習セットとする。ここで、時系列データ分類部１０
は、学習セット中の教師信号δＡ0 （ｔ＋１）の絶対値
が所定の値より大きくなる部分セットＬと、所定の値よ
り小さくなる部分セットＳに分類する。
【００１８】学習制御部２０は、時系列データ分類部１
０において、部分セットＬと部分セットＳに対して学習
係数ａ，ｂ（但し、ａ＞ｂ）を付与する。部分セットＬ
には、学習係数ａを用い、部分セットＳには、学習係数
ｂを用いてニューラルネットワーク３０に学習させる。
つまり、学習データのうち、所定の値より大きな絶対値
を有する部分セットＬ２には、部分セットＳよりも大き
な学習係数を用いるものである。
０において、部分セットＬと部分セットＳに対して学習
係数ａ，ｂ（但し、ａ＞ｂ）を付与する。部分セットＬ
には、学習係数ａを用い、部分セットＳには、学習係数
ｂを用いてニューラルネットワーク３０に学習させる。
つまり、学習データのうち、所定の値より大きな絶対値
を有する部分セットＬ２には、部分セットＳよりも大き
な学習係数を用いるものである。
【００１９】ニューラルネットワーク３０は、学習制御
部２０から学習セットを受け取り、バックプロパゲーシ
ョン・アルゴリズムにより学習を行う。このバックプロ
パゲーション・アルゴリズムは、学習係数の値を大きく
することにより、１回あたりの重みの変更量が大きくな
る。このように本発明は、分類した部分セットの変化分
の大きさに応じて異なる学習係数を付与する点が特徴で
ある。つまり、変動幅の大きい値に大きい値の学習係数
を付与することにより、部分セットＬに対しては強調し
た学習を行うことが可能になる。ニューラルネットワー
ク３０は所定の回数の学習を行い、学習結果を検証部４
０に出力する。
部２０から学習セットを受け取り、バックプロパゲーシ
ョン・アルゴリズムにより学習を行う。このバックプロ
パゲーション・アルゴリズムは、学習係数の値を大きく
することにより、１回あたりの重みの変更量が大きくな
る。このように本発明は、分類した部分セットの変化分
の大きさに応じて異なる学習係数を付与する点が特徴で
ある。つまり、変動幅の大きい値に大きい値の学習係数
を付与することにより、部分セットＬに対しては強調し
た学習を行うことが可能になる。ニューラルネットワー
ク３０は所定の回数の学習を行い、学習結果を検証部４
０に出力する。
【００２０】検証部４０は、変動予測性能の評価尺度Ｐ
を求めると共に評価尺度Ｐが最大となる学習回数Ｍを求
め、当該回数Ｍに達した時点で学習制御部２０に対して
学習の終了を指示する。これにり学習制御部２０は、ニ
ューラルネットワーク３０の学習を終了させる。
を求めると共に評価尺度Ｐが最大となる学習回数Ｍを求
め、当該回数Ｍに達した時点で学習制御部２０に対して
学習の終了を指示する。これにり学習制御部２０は、ニ
ューラルネットワーク３０の学習を終了させる。
【００２１】上記の評価尺度Ｐの求め方を以下に示す。
検証部４０は、時系列データ分類部１０より入力された
検証データ（第ｔ1 日〜第ｔ2 日）に対する評価尺度Ｐ
を求める。大きな変動予測の性能を比較する評価尺度
は、以下のようにして求める。評価尺度Ｐの算出法の基
本的な考え方は、次の通りである。
検証部４０は、時系列データ分類部１０より入力された
検証データ（第ｔ1 日〜第ｔ2 日）に対する評価尺度Ｐ
を求める。大きな変動予測の性能を比較する評価尺度
は、以下のようにして求める。評価尺度Ｐの算出法の基
本的な考え方は、次の通りである。
【００２２】予測した変動方向と実際の変動方向が一致
したとき、プラスのポイントがＰに与えられる。変化分
が大きいほど大きなプラスポイントが評価尺度Ｐに与え
られる。逆に、予測した変動方向と実際の変動方向が一
致しなかった時は、マイナスのポイントがＰに与えられ
る。つまり，変化分が大きいほど大きなマイナスポイン
トが評価尺度Ｐに与えられる。Ｐの値は大きい方がよ
い。
したとき、プラスのポイントがＰに与えられる。変化分
が大きいほど大きなプラスポイントが評価尺度Ｐに与え
られる。逆に、予測した変動方向と実際の変動方向が一
致しなかった時は、マイナスのポイントがＰに与えられ
る。つまり，変化分が大きいほど大きなマイナスポイン
トが評価尺度Ｐに与えられる。Ｐの値は大きい方がよ
い。
【００２３】例えば、所定の値を１４．７８としたと
き、翌日変化分が“１４．７８より大きく上昇”と予測
した場合、実際の変化分が＋３０（３０だけ上昇）であ
る場合には、変動方向が等しいので、Ｐに３０を加算す
る。実際の変化分が−１０（１０だけ減少）である場合
には、変動方向が異なるのでＰから１０を減算する。逆
に翌日変化分が１４．７８より大きく下降と予測した場
合、実際の変化分が−１０である場合には、変動方向が
等しいのでＰに１０を加算する。実際の変化分が＋３０
である場合は、変動方向が等しくないのでＰから３０を
減算する。
き、翌日変化分が“１４．７８より大きく上昇”と予測
した場合、実際の変化分が＋３０（３０だけ上昇）であ
る場合には、変動方向が等しいので、Ｐに３０を加算す
る。実際の変化分が−１０（１０だけ減少）である場合
には、変動方向が異なるのでＰから１０を減算する。逆
に翌日変化分が１４．７８より大きく下降と予測した場
合、実際の変化分が−１０である場合には、変動方向が
等しいのでＰに１０を加算する。実際の変化分が＋３０
である場合は、変動方向が等しくないのでＰから３０を
減算する。
【００２４】検証部４０は、このようにして求められた
評価尺度Ｐが最大となる学習回数Ｍを求め、その回数を
学習制御部２０に通知する。これにより、学習制御部２
０は、当該学習回数Ｍ回の学習を繰り返すようにニュー
ラルネットワーク３０を制御する。
評価尺度Ｐが最大となる学習回数Ｍを求め、その回数を
学習制御部２０に通知する。これにより、学習制御部２
０は、当該学習回数Ｍ回の学習を繰り返すようにニュー
ラルネットワーク３０を制御する。
【００２５】予測部５０は、ニューラルネットワーク３
０の学習が終了すると、上記の学習処理に加えて、時系
列データ分類部１０から転送されたテストデータと学習
結果を用いて予測処理を行う。従って、ニューラルネッ
トワーク３０で学習させる際に、変動幅が大きい学習デ
ータの部分セットには、大きな学習係数ａを用い、変動
幅が小さい部分セットには学習係数ａよりも小さい学習
係数ｂを用いて学習させることにより、予測部５０にお
いて変動を予測する際に正確な予測が可能となる（学習
係数ａ＞ｂ）。
０の学習が終了すると、上記の学習処理に加えて、時系
列データ分類部１０から転送されたテストデータと学習
結果を用いて予測処理を行う。従って、ニューラルネッ
トワーク３０で学習させる際に、変動幅が大きい学習デ
ータの部分セットには、大きな学習係数ａを用い、変動
幅が小さい部分セットには学習係数ａよりも小さい学習
係数ｂを用いて学習させることにより、予測部５０にお
いて変動を予測する際に正確な予測が可能となる（学習
係数ａ＞ｂ）。
【００２６】
【実施例】以下、株価変動の日次予測を例として説明す
る。具体的には、予測対象時系列データをＴＯＰＩＸ
（東京証券市場の平均株価指数）とし、ＴＯＰＩＸと相
関のある関連時系列データとして為替レート（１ドルあ
たりの円の値）、金利、原油価格、ニューヨーク証券市
場の平均株価を用いる。学習処理には、上記のフィード
フォワード型のニューラルネットワークを用いるものと
する。
る。具体的には、予測対象時系列データをＴＯＰＩＸ
（東京証券市場の平均株価指数）とし、ＴＯＰＩＸと相
関のある関連時系列データとして為替レート（１ドルあ
たりの円の値）、金利、原油価格、ニューヨーク証券市
場の平均株価を用いる。学習処理には、上記のフィード
フォワード型のニューラルネットワークを用いるものと
する。
【００２７】ＴＯＰＩＸ、為替レート、金利、原油価
格、ニューヨーク証券市場の平均株価の時系列データの
日次変化分（当日値−前日値）を入力信号とし、ＴＯＰ
ＩＸの翌日の日次変化分（翌日値−当日値）を教師信号
としてニューラルネットワーク３０に入力し、学習を行
うものとする。
格、ニューヨーク証券市場の平均株価の時系列データの
日次変化分（当日値−前日値）を入力信号とし、ＴＯＰ
ＩＸの翌日の日次変化分（翌日値−当日値）を教師信号
としてニューラルネットワーク３０に入力し、学習を行
うものとする。
【００２８】時系列データの期間を第１日〜第Ｔ日とし
たとき、時系列データ分類部１０は、時系列データをニ
ューラルネットワーク３０で学習に用いるデータ（学習
データ：第１日〜第ｔ1 日）と、検査部４０で学習状態
の検査に用いるデータ（検証データ：第ｔ1 日〜第ｔ2
日）、予測部５０で予測テストに用いるデータ（テスト
データ：第ｔ2 〜第Ｔ日）に分類する。但し、１＜ｔ1
＜ｔ2 ＜Ｔとする。
たとき、時系列データ分類部１０は、時系列データをニ
ューラルネットワーク３０で学習に用いるデータ（学習
データ：第１日〜第ｔ1 日）と、検査部４０で学習状態
の検査に用いるデータ（検証データ：第ｔ1 日〜第ｔ2
日）、予測部５０で予測テストに用いるデータ（テスト
データ：第ｔ2 〜第Ｔ日）に分類する。但し、１＜ｔ1
＜ｔ2 ＜Ｔとする。
【００２９】上記の前提により変動予測までの一連の動
作を説明する。図４は、本発明の一実施例の時系列デー
タの学習から予測処理までの一連の動作を示すフローチ
ャートである。 ステップ１０１） 時系列データ分類部１０は、ＴＯＰ
ＩＸ、為替レート、金利、原油価格、ニューヨーク証券
市場の平均株価の時系列データについて、学習セットを
ＴＯＰＩＸの翌日変化分が所定の値より大きくなる部分
セットＬとＴＯＰＩＸの翌日変化分が所定の値より小さ
くなる部分セットＳとに分類する。また、検証部４０で
用いる検証データ及びテストデータに分類する。
作を説明する。図４は、本発明の一実施例の時系列デー
タの学習から予測処理までの一連の動作を示すフローチ
ャートである。 ステップ１０１） 時系列データ分類部１０は、ＴＯＰ
ＩＸ、為替レート、金利、原油価格、ニューヨーク証券
市場の平均株価の時系列データについて、学習セットを
ＴＯＰＩＸの翌日変化分が所定の値より大きくなる部分
セットＬとＴＯＰＩＸの翌日変化分が所定の値より小さ
くなる部分セットＳとに分類する。また、検証部４０で
用いる検証データ及びテストデータに分類する。
【００３０】ステップ１０２） 学習制御部２０は、学
習係数ａと学習係数ｂを設定する。 ステップ１０３） 学習制御部２０は、ニューラルネッ
トワーク３０の重みを初期化する。 ステップ１０４） 学習制御部２０は、全学習データを
対象に、第１日から第ｔ1 日まで、この順番で入力信号
（当日値−前日値）と教師信号（翌日値−当日値）をニ
ューラルネットワーク３０に与えて学習させる。このと
き、分類されたそれぞれの学習セットに学習係数ａ，ｂ
（ａ＞ｂ）を与える。学習セットＬには、学習係数ｂよ
りも大きい値であるａを与え、学習セットＳにはｂを与
える。
習係数ａと学習係数ｂを設定する。 ステップ１０３） 学習制御部２０は、ニューラルネッ
トワーク３０の重みを初期化する。 ステップ１０４） 学習制御部２０は、全学習データを
対象に、第１日から第ｔ1 日まで、この順番で入力信号
（当日値−前日値）と教師信号（翌日値−当日値）をニ
ューラルネットワーク３０に与えて学習させる。このと
き、分類されたそれぞれの学習セットに学習係数ａ，ｂ
（ａ＞ｂ）を与える。学習セットＬには、学習係数ｂよ
りも大きい値であるａを与え、学習セットＳにはｂを与
える。
【００３１】ニューラルネットワーク３０が学習を行
う。 ステップ１０５） 学習制御部２０は、ニューラルネッ
トワーク３０が学習を行ったカウントをインクリメント
する。 ステップ１０６） 学習制御部２０は、学習のカウント
が所定の回数になるまでステップ１０４以降の処理を繰
り返す。
う。 ステップ１０５） 学習制御部２０は、ニューラルネッ
トワーク３０が学習を行ったカウントをインクリメント
する。 ステップ１０６） 学習制御部２０は、学習のカウント
が所定の回数になるまでステップ１０４以降の処理を繰
り返す。
【００３２】ステップ１０７） 学習のカウントが所定
の回数となった場合には、検証部４０は、検証データに
対する評価尺度Ｐが最大となる学習回数Ｍを求める。 ステップ１０８） 学習制御部２０は、学習回数をイン
クリメントする。 ステップ１０９） 学習制御部２０は、学習回数がＭに
達するまでステップ１０３以降の処理を繰り返す。
の回数となった場合には、検証部４０は、検証データに
対する評価尺度Ｐが最大となる学習回数Ｍを求める。 ステップ１０８） 学習制御部２０は、学習回数をイン
クリメントする。 ステップ１０９） 学習制御部２０は、学習回数がＭに
達するまでステップ１０３以降の処理を繰り返す。
【００３３】ステップ１１０） 予測部５０は、学習済
のニューラルネットワークの学習結果と時系列データ分
類部１０で分類されたテストデータを用いて予測を行
う。なお、予測処理については既知の方法を用いるもの
とし、本発明では特に規定しない。
のニューラルネットワークの学習結果と時系列データ分
類部１０で分類されたテストデータを用いて予測を行
う。なお、予測処理については既知の方法を用いるもの
とし、本発明では特に規定しない。
【００３４】このように、上記のステップ１０４におい
て、変動の大きな学習データに対する学習係数を大きく
してニューラルネットワークの学習を進めるので、変動
の大きなデータを強調して学習できる。また、上記ステ
ップ１０７〜ステップ１０９において大きな変動予測の
性能（評価尺度Ｐ）が最大となる時点で学習を停止する
ことにより大きな変動を正確に予測することが可能であ
る。
て、変動の大きな学習データに対する学習係数を大きく
してニューラルネットワークの学習を進めるので、変動
の大きなデータを強調して学習できる。また、上記ステ
ップ１０７〜ステップ１０９において大きな変動予測の
性能（評価尺度Ｐ）が最大となる時点で学習を停止する
ことにより大きな変動を正確に予測することが可能であ
る。
【００３５】以下に実際に学習及び予測実験を行った結
果を示す。全部で４０８日分（１９８９年８月１日〜１
９９１年３月３１日）の多変量時系列データを用いた。
最初の３００日分を学習に、次の３０日分を学習停止条
件の検証に、最後の７８日分を予測テストに用いた。大
きな変動の目約となる大きさを１４．７８とした（この
値は学習データでの変化分の絶対値の中央値である）。
また、８０００回の学習回数の中で、検証データに対す
るＰの値が最大の時点で学習を停止した。
果を示す。全部で４０８日分（１９８９年８月１日〜１
９９１年３月３１日）の多変量時系列データを用いた。
最初の３００日分を学習に、次の３０日分を学習停止条
件の検証に、最後の７８日分を予測テストに用いた。大
きな変動の目約となる大きさを１４．７８とした（この
値は学習データでの変化分の絶対値の中央値である）。
また、８０００回の学習回数の中で、検証データに対す
るＰの値が最大の時点で学習を停止した。
【００３６】このような状況における動作を以下に示
す。図５は、本発明の一実施例の実験動作を説明するた
めのフローチャートである。 ステップ３１０） ＴＯＰＩＸの翌日変化分が１４．７
８以上になる学習データをＬ，１４．７８未満となる学
習データをＳに分類する。
す。図５は、本発明の一実施例の実験動作を説明するた
めのフローチャートである。 ステップ３１０） ＴＯＰＩＸの翌日変化分が１４．７
８以上になる学習データをＬ，１４．７８未満となる学
習データをＳに分類する。
【００３７】ステップ３２０） ニューラルネットワー
クの重みを−０．３から０．３の間のランダムな値に初
期化する。 ステップ３３０） Ｌに対する学習係数を０．７とし、
Ｓに対応する学習係数をＬに対する学習係数より小さい
０．１としてニューラルネットワークの学習を実施す
る。
クの重みを−０．３から０．３の間のランダムな値に初
期化する。 ステップ３３０） Ｌに対する学習係数を０．７とし、
Ｓに対応する学習係数をＬに対する学習係数より小さい
０．１としてニューラルネットワークの学習を実施す
る。
【００３８】ステップ３４０） ステップ３３０の操作
を８０００回繰り返して、検証データに対する評価尺度
Ｐの値が最大となる学習回数Ｍを求める。 ステップ３５０） ステップ３２０からステップ３３０
の操作をＭ回繰り返す。
を８０００回繰り返して、検証データに対する評価尺度
Ｐの値が最大となる学習回数Ｍを求める。 ステップ３５０） ステップ３２０からステップ３３０
の操作をＭ回繰り返す。
【００３９】ステップ３６０） ステップ３５０の処理
をＭ回繰り返した後、学習済のニューラルネットワーク
を用いて予測を行う。 このようなパターンにおける従来の技術における全ての
学習データの学習係数を０．７としたとき、予測期間の
評価尺度Ｐ値＝３５６であった。
をＭ回繰り返した後、学習済のニューラルネットワーク
を用いて予測を行う。 このようなパターンにおける従来の技術における全ての
学習データの学習係数を０．７としたとき、予測期間の
評価尺度Ｐ値＝３５６であった。
【００４０】これに対し、本発明を適用し、実験を行っ
た結果、翌日変化分が１４．７８よりも大きい学習デー
タＬに対する学習係数を０．７、翌日変化分が１４．７
８よりも小さい学習データＳに対する学習係数を０．１
としたとき、予測期間の評価尺度Ｐ＝５２３となり、従
来よりも５０％程良い予測性能となった。
た結果、翌日変化分が１４．７８よりも大きい学習デー
タＬに対する学習係数を０．７、翌日変化分が１４．７
８よりも小さい学習データＳに対する学習係数を０．１
としたとき、予測期間の評価尺度Ｐ＝５２３となり、従
来よりも５０％程良い予測性能となった。
【００４１】なお、本発明は、上記の実施例の限定され
ることなく、特許請求の範囲内で種々変更・応用が可能
である。
ることなく、特許請求の範囲内で種々変更・応用が可能
である。
【００４２】
【発明の効果】上述のように本発明の時系列データの学
習方法及び装置によれば、バックプロパゲーション・ア
ルゴリズム型のニューラルネットワークにおいて学習係
数というパラメータを用いて１回当たりの重みの変更量
が多くなることを利用して、大きな変動に対応する学習
セットを強調して学習させることにより、従来と比べて
大きな変動をより正確に予測することが可能となる。
習方法及び装置によれば、バックプロパゲーション・ア
ルゴリズム型のニューラルネットワークにおいて学習係
数というパラメータを用いて１回当たりの重みの変更量
が多くなることを利用して、大きな変動に対応する学習
セットを強調して学習させることにより、従来と比べて
大きな変動をより正確に予測することが可能となる。
【図１】本発明の原理を説明するための図である。
【図２】本発明の原理構成図である。
【図３】本発明の時系列学習装置の構成図である。
【図４】本発明の時系列データの学習から予測処理まで
の一連の動作を示すフローチャートである。
の一連の動作を示すフローチャートである。
【図５】本発明の一実施例の実験動作を説明するための
フローチャートである。
フローチャートである。
【図６】フィードフォワード型ニューラルネットワーク
の構成例を示す図である。
の構成例を示す図である。
【図７】時系列学習を行う際の入力信号と教師信号の対
応例を示す図である。
応例を示す図である。
【図８】従来の具体的な動作を説明するためのフローチ
ャートである。
ャートである。
１０ 時系列データ分類部 ２０ 学習制御部 ３０ ニューラルネットワーク ４０ 検証部 ５０ 予測部 １００ 制御手段 １１０ 分類手段 １２０ 係数設定手段 ２００ ニューラルネットワーク
Claims (2)
- 【請求項１】 予測対象時系列データＡ0 の時刻ｔの変
化分であるδＡ0 （ｔ）及び該予測対象時系列データＡ
0 との相関のある時系列データＡ1 ，…，Ａ n （ｎ≧
１）の時刻ｔの値であるＡ1 （ｔ），…，Ａn （ｔ）を
入力信号とし、該予測対象時系列データＡ0 の時刻（ｔ
＋１）の変化分であるδＡ0 （ｔ＋１）を教師信号とし
て、予め用意した入力信号と教師信号の学習セットをバ
ックプロパゲーション・アルゴリズムを用いてニューラ
ルネットワークに学習させる時系列データの学習方法に
おいて、 前記学習セットの中で、教師信号である前記δＡ0 （ｔ
＋１）の絶対値が所定の値より大きい部分セットＬと、
前記δＡ0 （ｔ＋１）の絶対値が所定の値より小さい部
分セットＳとに分類し、 前記部分セットＬに対する学習係数を、前記部分セット
Ｓに対する学習係数よりも大きくして前記ニューラルネ
ットワークに学習させることを特徴とする時系列データ
学習方法。 - 【請求項２】 予め用意した入力信号と教師信号の学習
セットをバックプロパゲーション・アルゴリズムを用い
て学習するニューラルネットワークと、予測対象時系列
データＡ0 の時刻ｔの変化分であるδＡ0 （ｔ）及び該
予測対象時系列データＡ0 との相関のある時系列データ
Ａ1 ，…，Ａn （ｎ≧１）の時刻ｔの値であるＡ
1 （ｔ），…，Ａn （ｔ）を入力信号とし、該予測対象
時系列データＡ0 の時刻（ｔ＋１）の変化分であるδＡ
0 （ｔ＋１）を教師信号として、該ニューラルネットワ
ークに学習させる制御手段とを有する時系列データの学
習装置であって、 前記制御手段は、 前記学習セットの中で、教師信号である前記δＡ0 （ｔ
＋１）の絶対値が所定の値より大きい部分セットＬと、
前記δＡ0 （ｔ＋１）の絶対値が所定の値より小さい部
分セットＳとに分類する分類手段と、 前記分類手段により分類された前記部分セットＬに対す
る学習係数を、前記部分セットＳに対する学習係数より
も大きな値を設定する係数設定手段とを有し、 前記係数設定手段により設定された係数を用いて前記ニ
ューラルネットワークに学習させることを特徴とする時
系列データの学習装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7280295A JPH09128360A (ja) | 1995-10-27 | 1995-10-27 | 時系列データの学習方法及び装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7280295A JPH09128360A (ja) | 1995-10-27 | 1995-10-27 | 時系列データの学習方法及び装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH09128360A true JPH09128360A (ja) | 1997-05-16 |
Family
ID=17623003
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP7280295A Pending JPH09128360A (ja) | 1995-10-27 | 1995-10-27 | 時系列データの学習方法及び装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH09128360A (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014041426A (ja) * | 2012-08-21 | 2014-03-06 | Ntt Docomo Inc | 時系列データ処理システム、時系列データ処理方法 |
| WO2022003793A1 (ja) * | 2020-06-29 | 2022-01-06 | 楽天グループ株式会社 | 情報処理装置、及びプログラム |
| JP2022043186A (ja) * | 2020-06-29 | 2022-03-15 | 楽天グループ株式会社 | 情報処理装置、及びプログラム |
-
1995
- 1995-10-27 JP JP7280295A patent/JPH09128360A/ja active Pending
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014041426A (ja) * | 2012-08-21 | 2014-03-06 | Ntt Docomo Inc | 時系列データ処理システム、時系列データ処理方法 |
| WO2022003793A1 (ja) * | 2020-06-29 | 2022-01-06 | 楽天グループ株式会社 | 情報処理装置、及びプログラム |
| JP6998498B1 (ja) * | 2020-06-29 | 2022-01-18 | 楽天グループ株式会社 | 情報処理装置、及びプログラム |
| JP2022043186A (ja) * | 2020-06-29 | 2022-03-15 | 楽天グループ株式会社 | 情報処理装置、及びプログラム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN1846218B (zh) | 形成人工神经网络的方法 | |
| CN105956690A (zh) | 一种供水预测方法及系统 | |
| US9934470B2 (en) | Production equipment including machine learning system and assembly and test unit | |
| CN112616160B (zh) | 一种智能短波频率跨频段实时预测方法及系统 | |
| CN109635763B (zh) | 一种人群密度估计方法 | |
| CN110347192A (zh) | 基于注意力机制和自编码器的玻璃炉温智能预测控制方法 | |
| WO2019190053A1 (ko) | 순환신경망을 사용한 딥 러닝 기반의 주식 가격 예측 시스템 및 방법 | |
| JPH06337852A (ja) | ニューラルネットワークによる時系列予測方法 | |
| JPH08227408A (ja) | ニューラルネットワーク | |
| CN116739787B (zh) | 基于人工智能的交易推荐方法及系统 | |
| Singh | A long memory pattern modelling and recognition system for financial time-series forecasting | |
| Bodyanskiy et al. | Multilayer neuro-fuzzy network for short term electric load forecasting | |
| Lemke et al. | Self-organizing data mining for a portfolio trading system | |
| JPH09128360A (ja) | 時系列データの学習方法及び装置 | |
| JPH0895938A (ja) | 時系列データの学習方法及び時系列データの学習装置 | |
| Giebel et al. | Neural network calibrated stochastic processes: forecasting financial assets | |
| EP3739517A1 (en) | Image processing | |
| JPH0895939A (ja) | 時系列データの学習方法及び時系列データの学習装置 | |
| Chun et al. | Impact of momentum bias on forecasting through knowledge discovery techniques in the foreign exchange market | |
| JPH07141313A (ja) | 神経回路素子 | |
| CN118734036A (zh) | 基于Transformer框架的钻机实时钻速预测方法 | |
| Kostek | Rough set and fuzzy set methods applied to acoustical analyses | |
| CN116247658A (zh) | 一种基于dlrm深度学习模型的光伏发电量预测方法 | |
| CN111160419B (zh) | 一种基于深度学习的电子式互感器数据分类预测方法及装置 | |
| JPH09138786A (ja) | ニューラルネットワークの学習装置 |