WO2001085018A2 - Verfahren und vorrichtung zur klassifikation von zeitreihen-werten, computerlesbares speichermedium und computerprogramm-element - Google Patents

Verfahren und vorrichtung zur klassifikation von zeitreihen-werten, computerlesbares speichermedium und computerprogramm-element Download PDF

Info

Publication number
WO2001085018A2
WO2001085018A2 PCT/DE2001/001745 DE0101745W WO0185018A2 WO 2001085018 A2 WO2001085018 A2 WO 2001085018A2 DE 0101745 W DE0101745 W DE 0101745W WO 0185018 A2 WO0185018 A2 WO 0185018A2
Authority
WO
WIPO (PCT)
Prior art keywords
time series
series values
sequence
values
type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/DE2001/001745
Other languages
English (en)
French (fr)
Other versions
WO2001085018A3 (de
Inventor
Gustavo Deco
Bernd SCHÜRMANN
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens AG
Siemens Corp
Original Assignee
Siemens AG
Siemens Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens AG, Siemens Corp filed Critical Siemens AG
Publication of WO2001085018A2 publication Critical patent/WO2001085018A2/de
Anticipated expiration legal-status Critical
Publication of WO2001085018A3 publication Critical patent/WO2001085018A3/de
Ceased legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/318Heart-related electrical modalities, e.g. electrocardiography [ECG]
    • A61B5/346Analysis of electrocardiograms
    • A61B5/349Detecting specific parameters of the electrocardiograph cycle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/192Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194References adjustable by an adaptive method, e.g. learning

Definitions

  • the invention relates to a driving and a device for classifying time series values, a computer-readable storage medium and a computer program element.
  • [1] describes generating a feature vector for each pixel of a texture image in the context of a texture analysis with neural networks, which is then classified using a neural classifier.
  • a neural network with a feed-forward structure is used as a neural classifier, hereinafter referred to as a feed-forward neural network, which in [1] eight
  • a disadvantage of such a feed-forward neural network is, in particular, that a very large number of training data is required in the context of the classification of time series values into time series values of a system of a first type or into time series values of a system of a second type.
  • Dynamic of a system is further understood to mean that in the event that a system can be described with a deterministic description of the future system behavior based on the description of the system behavior in the past.
  • Time series values are, for example, samples of analog signals, for example of biomedical signals such as an electroencephalogram signal (EEG signal), an electrocardiogram signal (EKG signal), electromyogram signal, generally all analog bioelectrical or biomagnetic signals, such as, for example can be found in an overview in [2].
  • biomedical signals such as an electroencephalogram signal (EEG signal), an electrocardiogram signal (EKG signal), electromyogram signal, generally all analog bioelectrical or biomagnetic signals, such as, for example can be found in an overview in [2].
  • a so-called electrocardiogram device is also known from [2], with which EKG signals can be recorded.
  • BTT Backpropagation Through Time learning process for a recurrent neural network.
  • the neural network is trained with time series values as training data, the influence of temporally preceding time series values decreasing exponentially in a current adaptation step of the weights of the recurrent neural network.
  • the invention is therefore based on the problem of classifying time series values of a system into time series values of a system of a first type or into time series values of a system of a second type, the system of the first system being a system which has a predetermined dynamic range and the system of the second type is a system that has no dynamics.
  • a method for classifying time series values into time series values of a system of a first type or into time series values of a system into time series values of a second type, wherein a system of a first type is a system which has a predetermined dynamic range, and wherein one type of a second system is a system that has no dynamics, has the following method steps.
  • the time series values that describe a system are fed to a competitor artificial neural network.
  • a sequence of initial recurrence values is generated by the recurrent artificial neural network based on the time series values.
  • a sequence of recurrence training errors is determined from the sequence of the recurrence output values.
  • the consequence of recurring training mistakes is used as the basis for one Classification of the time series values is used, the time series values being classified into time series values of a system of the first type if the sequence of recurrence training errors fulfills a predetermined criterion and classifies the time series values into time series values of a system of the second type if the sequence of recurrence training errors does not meet the specified criterion.
  • a device for classifying time series values into time series values of a system of a first type or into time series values of a system of a second type, wherein a system of the first type is a system which has a predetermined dynamic range, and wherein a system of the second Type is a system that has no dynamics, has a processor that is set up in such a way that the following method steps can be carried out:
  • time series values that describe a system are fed to a recurrent artificial neural network, a sequence of output recurrence values is generated from the recurrent artificial neural network based on the time series values,
  • a sequence of recurrence training errors is determined from the sequence of recurrence starting values, • from the sequence of recurrence training errors, the time series values are classified into time series values of a system of the first type if the sequence of recurrence training errors is a predetermined one Criterion fulfilled, and
  • time series values are classified into time series values of a system of the second type if the sequence of recurrence training errors does not meet the specified criterion.
  • a computer program for classifying time series values into time series values of a system of a first type or into time series values of a system of a second type is in a computer-readable storage medium stored, wherein a system of the first type is a system which has a predetermined dynamic range, and wherein a system of the second type is a system which has no dynamic range, which, when executed by a processor, has the following method steps:
  • time series values that describe a system are fed to a recurrent artificial neural network
  • a sequence of output recurrence values is generated by the recurrent artificial neural network on the basis of the time series values
  • a sequence of recurrence training errors is determined from the sequence of the recurrence output values
  • the time series values are classified into time series values of a system of the first type if the sequence of recurrence training errors fulfills a predetermined criterion, and
  • time series values are classified into time series values of a system of the second type if the sequence of recurrence training errors does not meet the specified criterion.
  • a sequence of recurrence output values is generated from the recurrent artificial neural network on the basis of the time series values, a sequence of recurrence training errors is determined from the sequence of the recurrence output values, • from the sequence of recurrence training errors, the time series values are classified into time series values of a system of the first type if the sequence of recurrence training errors fulfills a predefined criterion, and • the time series values are classified into time series values
  • Systems of the second type are classified if the sequence of recurrence training errors does not meet the specified criterion.
  • This procedure clearly means that a recurrent artificial neural network is used for the first time to determine whether time series values describing a system that has a given dynamic range or whether the system described by the time series values is pure noise without any statistical correlation between the individual time series values.
  • the very different learning behavior in particular the strong reduction of the training error in the course of training a competitor artificial neural network with time series values of a system that is based on dynamics, is used to classify the system, which is described by the time series values.
  • the invention is also suitable for use in the context of financial market analysis, since it can also be determined in this area of application if there is dynamics within time series values that a forecast of the future behavior of the financial market becomes possible.
  • the invention is preferably used in the analysis of an electrocardiogram signal in such a way that it is possible, based on the initial value, to classify whether the patient whose time series values have been measured is an ischemic patient or not. This is possible because the sequence of electrocardiogram signals in an ischemic patient is based on a predetermined dynamic range, which is not the case in a healthy patient.
  • the invention is also particularly suitable for use in the classification of electroencephalogram signals with regard to the classification as to whether the time series values describe an electroencephalogram signal which indicates a brain tumor or not.
  • the sampled values can also be sampled by a so-called Licox signal, which enables the time series values to be classified as to whether sudden cardiac death is highly likely or not.
  • FIGS. 1 a and 1 b show a flow chart in which the individual method steps of an exemplary embodiment of the invention are shown;
  • Figure 2 is a sketch showing the recording of electrocardiogram signals and their further processing to classify the electrocardiogram signals
  • FIGS. 3a and 3b show a sketch of a usual period of an electrocardiogram signal (FIG. 3a) and a sequence of such periods (FIG. 3b);
  • FIG. 4 shows a sketch of a recurrent neural network which is used according to an exemplary embodiment of the invention
  • FIGS. 5a and 5b show a diagram of a sequence of recurrence training errors and a sequence of forward training errors for time series values
  • Electrocardiogram signals describe a healthy patient ( Figure 5a) as well as a diagram with a sequence of recurrence training errors and a sequence of forward training errors for time series values, the electrocardiogram signals of an ischemic
  • Electrocardiogram signals 203 are fed to an electrocardiogram device 204 via the electrodes 201 and the cable 202.
  • the electrocardiogram device 204 has the following components: a preprocessing unit 205, A memory 206,
  • a processor 207 A processor 207,
  • a signal generator 219 which are each coupled via a computer bus 208.
  • the electrocardiogram device 204 has a display unit 220 on which the electrocardiogram signals 203 and / or an alarm signal 224 explained in the following are shown.
  • the electrocardiogram signal 203 is fed to the preprocessing unit 205 in the electrocardiogram device 204.
  • the electrocardiogram signal 203 is subjected to an analog / digital conversion and noise filtering.
  • the sampled signal generated in this manner has a plurality of time series values that are stored in memory 206.
  • Logical components are further symbolically represented in processor 207. This is to be understood in such a way that the logic components are implemented by the processor 207 by means of a
  • the time series values are read out from the memory 206 and fed to a recurrent artificial neural network 209.
  • time series values 211 are fed to a forward artificial neural network 210.
  • the recurrent artificial neural network 209 forms recurrence output values 212, which are of one unit to form recurrence training errors 213.
  • Forward output values 215 are generated by the forward neural network 210 and are supplied to a unit for forming forward training errors 216.
  • Forward training errors 217 are formed by the forward training error forming unit 216.
  • the forward training errors 217 and the recurrence training errors 214 are fed to a subtractor 218.
  • Subtractor 218 formed difference signal 221 is fed to a classifier 222.
  • the classifier 222 If the difference signal 221 is greater than a predetermined value, the classifier 222 generates an alarm generation signal 223 and supplies it to a signal generator 219.
  • An alarm signal 224 is generated by the signal generator 219 and displayed on the screen 220 to a doctor, that is to say generally to a user of the electrocardiogram device 204.
  • 3a shows a typical period 300 of an electrocardiogram signal 203.
  • the period 300 of the electrocardiogram signal 203 essentially has five so-called spikes:
  • a P-wave 301 which corresponds to the electrical depolarization of the atrium of the heart
  • a Q-wave 302 which corresponds to the beginning of ventricular excitation
  • An R wave 303 which corresponds to the maximum ventricular excitation of the heart
  • An S-wave 304 which corresponds to the excitation of the basal parts of the ventricles of the heart
  • a sequence 310 of periods 300 of the electrocardiogram signal 203 result in the electrocardiogram signal 203.
  • Such a sequence 310 of periods 300 of an EKG signal 203 are shown in FIG. 3b.
  • a distance Ti is referred to below as a time series value 211, so that the sequence of distances (TI, T2, ..., Ti, ..., Tn) is referred to as a sequence of time series values.
  • the time series values 211 are stored in the memory 206.
  • step 100 the electrocardiogram signal 203 is recorded.
  • step 101 the time series values 211 (Ti) are determined.
  • the determined time series values 211 are stored in the memory 206 in a further step (step 102).
  • the stored time series values are read out (step 103) and fed to a neural network 400 shown in FIG. 4 (step 104).
  • X (t) is used to denote a time series value 211 at a time t.
  • the recurrent artificial neural network 400 has d input neurons 401.
  • Outputs of input neurons 401 are connected to inputs of hidden neurons 403 via weighted connections 402.
  • Outputs of the hidden neurons 403 are connected to an output neuron 405 via weighted connections 404.
  • An output of the output neuron 405 is connected to an input neuron 401 via a feedback 406.
  • recurrence output values are formed (step 105), which in turn are fed back via feedback 406 to the input neuron of the artificial neural network 400.
  • the formed recurrence output value 212 is further fed to the recurrence training error formation unit 213 (step 106).
  • recurrence output values are supplied to the respective input neuron 401 on the one hand, and are "decoupled” and are supplied to the recurrence training error formation unit to form a recurrence training error.
  • a recurrence output value 212 and thus also a recurrence training error 214 are formed in a further step (step 107).
  • the individual weights of the recurrent artificial neural network are updated in accordance with the variant of the BTT procedure described in [3] according to the following rules:
  • the weights of the weighted connections 404 between the hidden neurons 403 and the output neurons 405 are designated,
  • W-jk denotes the weights of the weighted connections 402 between the input neurons 401 and the hidden neurons 403,
  • a predetermined weighting value is designated by g a parameter is designated by ⁇ j which describes the exponential weighting of the evaluation function
  • Wkj or w ⁇ j can designate why the index k can run across different dimensions.
  • the index k is used at ⁇ ⁇ j to denote that neuron k which is linked by the linkage, i.e. Coupling j is coupled forward.
  • step 108 the time series values are fed to the forward artificial neural network 210.
  • the forward artificial neural network has the same structure as the recurrent artificial neural network 400, only without the feedback 406.
  • forward output values are formed by the forward artificial neural network 210 and the forward output values are supplied to the unit for forming forward training errors (step 110).
  • recurrence training errors are formed, which are fed to the subtractor 218 together with the recurrence training errors as a respective sequence of recurrence training errors or a sequence of forward training errors (step 112).
  • step 113 the subtractor 218 makes a difference between a recurrence training error in each case as a result of recurrence training errors and the temporally corresponding forward training error as a result of a forward training error, the is the difference between the respective training errors at one point in time.
  • the difference values formed are fed to the classifier 222 in a further step (step 114).
  • the classifier 222 checks whether the difference values are greater than a predetermined value (step 115).
  • the time series values are classified as time series values of a system which has no dynamics (step 116).
  • the time series values are classified as time series values of an ischemic patient, i.e. as time series values of one System that has a predetermined dynamic (step 117).
  • the classifier 222 If the time series values are classified as time series values of a system with a predetermined dynamic range (step 117), the classifier 222 generates an alarm generation signal 223 (step 118) and supplies it to the signal generator 219 (step 119).
  • the alarm signal 224 is then generated by the signal generator 219 (step 120).
  • the alarm signal 224 can either be displayed visually on the screen 220 or can also be made available to a doctor as an audio signal.
  • 5a and 5b show result diagrams 500, 510 in the following test.
  • a 12-channel electrocardiogram signal from two different patients was recorded for 24 hours. The first patient was female, 65 years old and healthy. A second patient was 66 years old, female and was myocardial.
  • the electrocardiogram signal was sampled at 500 Hz sampling frequency and encoded with 12 bit resolution. To train the neural networks, 45,000
  • the invention can also be used to check a simulation model of a technical system with regard to its quality. This use is based on the following knowledge.
  • the sequence of error signals is based on a predetermined dynamic, which can be determined using the training behavior of a competitor artificial neural network in the manner described above, the sequence of error signals in the simulation model still has statistical correlations, so that it can be concluded that this Simulation model is faulty.
  • the invention can be used in any field in which it is necessary to differentiate time series values of a system based on dynamics from time series values of a system based on no dynamics.
  • a comparison with time series values which are fed to a forward-oriented artificial neural network does not necessarily have to be used as a comparison criterion.
  • the training behavior of the recurrent neural network alone allows conclusions to be drawn about a dynamic which is the basis of the system described by the time series values or not. This clearly means that if the recurrence training error from the sequence of recurrence training errors is greatly reduced, it can be concluded that the system described by the time series values is based on a predetermined dynamic.

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Cardiology (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Theoretical Computer Science (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Image Analysis (AREA)
  • Debugging And Monitoring (AREA)
  • Computer And Data Communications (AREA)

Abstract

Zeitreihen-Werte, die ein System beschreiben, werden einem Rekurrenten künstlichen Neuronalen Netz zugeführt und das Rekurrente künstliche Neuronale Netz wird trainiert. Die Entwicklung des Fehlersignals während des Trainingsverfahrens wird verwendet, um das System, welches durch die Zeitreihen-Werte beschrieben wird, zu klassifizieren.

Description

Beschreibung
Nerfahren und Vorrichtung zur Klassifikation von Zeitreihen- Werten, Computerlesbares Speichermedium und Computerprogramm- Element
Die Erfindung betrifft ein Nerfahren und eine Norrichtung zur Klassifikation von Zeitreihen-Werten, ein Computerlesbares Speichermedium und ein Computerprogramm-Element.
Ein solches Verfahren und eine solche Vorrichtung sind aus [1] bekannt.
In [1] ist beschrieben, im Rahmen einer Texturanalyse mit neuronalen Netzen für jeden Bildpunkt eines Texturbildes einen Merkmalsvektor zu generieren, der anschließend mit einem neuronalen Klassifikator klassifiziert wird. Als neuronaler Klassifikator wird ein neuronales Netz mit Feed- Forward-Struktur verwendet, im weiteren als Feed-Forward Neuronales Netz bezeichnet, welches in [1] acht
Eingangsneuronen, fünf Ausgangsneuronen und eine verschiedene Zahl versteckter Neuronen in einer einzigen versteckten Schicht aufweist.
Nachteilig an einem solche Feed-Forward Neuronalen Netz ist insbesondere, dass im Rahmen der Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs, eine sehr große Anzahl von Trainingsdaten erforderlich ist.
Dieses Problem wird dann weiter verschärft, wenn das System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist und das System des zweiten Typs ein System ist, welches keine Dynamik aufweist. Es ist mit bekannten Feed-Forward Neuronalen Netzen bisher praktisch nicht möglich, mit einer überschaubaren Zahl verfügbarer Trainingsdaten über das System, das heißt mit einer überschaubaren Anzahl von Zeitreihen-Werten in einer Trainingsphase eine Klassifikation mit ausreichender Qualität zu gewährleisten.
Unter Dynamik eines Systems ist im weiteren zu verstehen, dass für den Fall, dass ein System mit einer deterministischen Beschreibung des zukünftigen Systemverhaltens aufgrund der Beschreibung des Systemverhaltens in der Vergangenheit beschrieben werden kann.
Zeitreihen-Werte sind beispielsweise Abtastwerte von analogen Signalen, beispielsweise von biomedizinischen Signalen wie einem Elektroenzephalogramm-Signal (EEG-Signal) , einem Elektrokardiogramm-Signal (EKG-Signal) , Elektromyogramm- Signal, allgemein alle analogen bioelektrischen oder biomagnetischen Signale, wie sie beispielsweise in [2] in einer Übersicht zu finden sind.
Aus [2] ist weiterhin ein sogenanntes Elektrokardiogramm- Gerät bekannt, mit dem EKG-Signale erfasst werden können.
Weiterhin ist aus [3] bekannt, dass es sowohl mit Feed- Forward Neuronalen Netzen als auch mit sogenannten Rekurrenten Neuronalen Netzen, das heißt mit neuronalen Netzen, die Zyklen in ihrer Neuronenstruktur aufweisen, grundsätzlich möglich ist, die Struktur eines chaotischen Systems aus Zeitreihen-Werten zu lernen, die das chaotische System beschreiben.
Aus diesem Dokument ist ferner bekannt, ein Rekurrentes Neuronales Netz mittels einer Variante des sogenannten
Backpropagation Through Time (BTT) -Lernverfahrens für ein Rekurrentes Neuronales Netz zu trainieren. In dieser Variante wird das Neuronale Netz mit Zeitreihen- Werten als Trainingsdaten trainiert, wobei der Einfluss zeitlich vorangegangener Zeitreihen-Werte in einem aktuellen Adaptionsschritt der Gewichte des Rekurrenten Neuronalen Netzes exponentiell abnimmt.
Grundlagen über ein Rekurrentes Neuronales Netz sind aus [4] bekannt .
Somit liegt der Erfindung das Problem zugrunde, Zeitreihen- Werte eines Systems in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs zu klassifizieren, wobei das System des ersten Systems ein System ist, welches eine vorgegebene Dynamik aufweist und das System des zweiten Typs ein System ist, welches keine Dynamik aufweist.
Das Problem wird durch das Verfahren, die Vorrichtung, das computerlesbare Speichermedium sowie das Computerprogramm- Element mit den Merkmalen gemäß den unabhängigen Patentansprüchen gelöst.
Ein Verfahren zur Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems in Zeitreihen-Werte eines zweiten Typs, wobei ein System eines ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei eine Typ eines zweiten Systems ein System ist, welches keine Dynamik aufweist, weist folgende Verfahrensschritte auf. Die Zeitreihen-Werte, die ein System beschreiben, werden einem Rekurrenten künstlichen Neuronalen Netz zugeführt. Von dem Rekurrenten künstlichen Neuronalen Netz werden aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz-Ausgangswerten erzeugt. Aus der Folge der Rekurrenz-Ausgangswerte wird eine Folge von Rekurrenz-Trainingsfehlern ermittelt. Die Folge der Rekurrenz-Trainingsfehler wird als Basis für eine Klassifikation der Zeitreihen-Werte eingesetzt, wobei die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert werden, wenn die Folge der Rekurrenz- Trainingsfehler ein vorgegebenes Kriterium erfüllt und die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des zweiten Typs klassifiziert werden, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
Eine Vorrichtung zur Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs, wobei ein System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei ein System des zweiten Typs ein System ist, welches keine Dynamik aufweist, weist einen Prozessor auf, der derart eingerichtet ist, dass folgende Verfahrensschritte durchführbar sind:
• die Zeitreihen-Werte, die ein System beschreiben, werden einem rekurrenten künstlichen Neuronalen Netz zugeführt, • von dem rekurrenten künstlichen Neuronalen Netz werden aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz- Ausgangswerten erzeugt,
• aus der Folge der Rekurrenz-Ausgangswerte wird eine Folge von Rekurrenz-Trainingsfehlern ermittelt, • aus der Folge der Rekurrenz-Trainingsfehler werden die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert, wenn die Folge der Rekurrenz- Trainingsfehler ein vorgegebenes Kriterium erfüllt, und
• die Zeitreihen-Werte werden in Zeitreihen-Werte eines Systems des zweiten Typs klassifiziert, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
In einem computerlesbaren Speichermedium ist ein Computerprogramm zur Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs gespeichert, wobei ein System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei ein System des zweiten Typs ein System ist, welches keine Dynamik aufweist, das, wenn es von einem Prozessor ausgeführt wird, folgende Verfahrensschritte aufweist:
• die Zeitreihen-Werte, die ein System beschreiben, werden einem rekurrenten künstlichen Neuronalen Netz zugeführt,
• von dem rekurrenten künstlichen Neuronalen Netz werden aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz- Ausgangswerten erzeugt,
• aus der Folge der Rekurrenz-Ausgangswerte wird eine Folge von Rekurrenz-Trainingsfehlern ermittelt,
• aus der Folge der Rekurrenz-Trainingsfehler werden die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert, wenn die Folge der Rekurrenz- Trainingsfehler ein vorgegebenes Kriterium erfüllt, und
• die Zeitreihen-Werte werden in Zeitreihen-Werte eines Systems des zweiten Typs klassifiziert, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
Wird ein Computerprogramm-Element* zur Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs, wobei ein System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei ein System des zweiten Typs ein System ist, welches keine Dynamik aufweist, von einem Prozessor ausgeführt, so werden folgende Verfahrensschritte ausgeführt: • die Zeitreihen-Werte, die ein System beschreiben, werden einem rekurrenten künstlichen Neuronalen Netz zugeführt,
• von dem rekurrenten künstlichen Neuronalen Netz werden aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz- Ausgangswerten erzeugt, • aus der Folge der Rekurrenz-Ausgangswerte wird eine Folge von Rekurrenz-Trainingsfehlern ermittelt, • aus der Folge der Rekurrenz-Trainingsfehler werden die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert, wenn die Folge der Rekurrenz- Trainingsfehler ein vorgegebenes Kriterium erfüllt, und • die Zeitreihen-Werte werden in Zeitreihen-Werte eines
Systems des zweiten Typs klassifiziert, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
Anschaulich bedeutet diese Vorgehensweise, dass erstmals ein Rekurrentes künstliches Neuronales Netz eingesetzt wird, um zu ermitteln, ob Zeitreihen-Werte, welche ein System beschreiben, das eine vorgegebene Dynamik aufweist, oder ob das durch die Zeitreihen-Werte beschriebene System ein reines Rauschen ist ohne jede statistische Korrelation zwischen den einzelnen Zeitreihen-Werten.
Es wurde erkannt worden, dass von einem Rekurrenten Neuronalen Netz im Rahmen eines Trainingsverfahrens die Dynamik eines Systems sehr gut gelernt werden kann, insbesondere besser als mit einem vorwärtsgerichteten künstlichen Neuronalen Netz, mit dem es nur sehr schlecht, das heißt mit einer sehr großen Zahl von Zeitreihen-Werten überhaupt möglich ist, eine Dynamik eines Systems nachzubilden.
Das stark unterschiedliche Lernverhalten, insbesondere die starke Verringerung des Trainingsfehlers im Rahmen des Trainings eines Rekurrenten künstlichen Neuronalen Netzes bei Zeitreihen-Werten eines Systems, dem eine Dynamik zugrunde liegt, wird zur Klassifikation des Systems, welches durch die Zeitreihen-Werte beschrieben wird, eingesetzt.
In diesem Zusammenhang ist anzumerken, dass für den Fall, dass die Zeitreihen-Werte ein System des zweiten Typs, das heißt ein System beschreiben, dem keine Dynamik zugrunde liegt, es bedeutet, dass keine statistische Korrelationen U) ω fO > t→ P1 π o C_π o tπ o Cn
M O er t→ O D
Φ 3 rt
3 O H
CD P CD
P <-t Hi r+ Φ H) l-f CD
P
Φ cn cn tr o s;
1-i o
Φ p- p*
x) α
Φ fu
P- cn n
P' <!
CD
H H
3 H, fD P)
P. p-
P- H
CD
3 P ~J l-1 P. cn P-
CD J
P
O o
PJ 1-1
H
P- P-
P) o n x et
O P
O P iQ
V
P et
(D P) ι-> cn
V i-i
O vQ l-S
Figure imgf000009_0001
J ω r-υ M 1 P> tn o cn O <-π o Üi π ö tr CΛ Cd CΛ p ö 0 ι-3 S ^ P ι-3 s: s > > PJ ≥; tr J P- ι-3 csi ι-3 π CΛ 3 σ t-x P P- t-χ- I-* P- PJ P- o ^ φ O P H P- Φ P P P Φ Φ Φ t→ P P •< φ H Φ t→ Ό P- P
P cn o sQ φ sQ > φ l-i V H P" α P) H 3 cn cn Hl 3 rt cn et vQ Ό P- ) t cn Φ r cn cn φ P ;*r P cn •£. cn et iQ P- P, p): ip iQ sQ N Ω Φ Φ iQ cn rt P- P N et cn < t→ P rt J p- csi Φ Φ Φ α P fcp P) P) l-f <! X i-i iQ i-i H P H « P- Φ <!
P- Φ φ I-* H I-* X φ ιQ I Φ P- Φ P P P o H P Φ O: t Φ P- i-i H P φ
Hl H X cn O cn P P- Φ P* S α H P P- iQ sQ P l-i ^ φ J tr EP t-χ P- P Φ p- cn H p- Hl et Φ rt tr P Φ Φ iQ P P- cn cn ^ z Φ P- rt Φ Φ P> PJ sQ P rt cn Hi
X P H P P- ι-i Φ cn ι-i H cn φ s: s: P>* Φ tr P- P H cn Φ cn IM Φ Ω CΛ P
P X P- φ N Z cn Φ P cn P. Φ Hi α cn fi- l-i Φ ! • Φ cn P Hi 1 ü X O X et H cn P- Φ Ω P- Φ p- φ < H Φ P φ H l-i φ rt 1 P 3 P- 1 φ ι-3 P- P Hl 1*1
Φ Ω P Ό Φ X X H Hi P o H X rt H rt rt l-f cn ^ - X Hi S X H p t→ rt Φ
O P X Φ PJ φ Φ P- l-i P- -χ Φ Φ Φ ιQ o O: 1^ P- Φ t→ P 3 rt Z P
P w ω P tr P P 21 N P- s: P φ l-i Sl P E - Φ H Φ P P> N l-i Φ P- P P
Φ P I-* Φ 1 Φ P- P PJ: sQ H Cö φ s: Φ H s: P- P EP P- rt l-i P X P l-i X
P) P- Cd o P- CΛ S! H Φ H Φ Ω P- P- Φ P- P- PJ P φ Φ φ Φ P- P iQ Φ P t-χ ιQ o t-χ iQ cn P- Φ rt H N rt H J X rt l-i ι-i rt Ω i-i φ P i-f <J P P •*"*« P t→ P φ H P ιq H . rt Φ cn P P- Φ Q. N ι-i PJ 3 <! rt P- φ • I P P- P ιQ φ φ ?r P P- P et • P- 1 P cn Φ i-i Φ Φ rt 0- φ **•*>» P H cn P P
Φ rt l-f rt 3 φ p) Φ et H sQ α tr Φ P t-χ- Φ ≥; <1 P- i-f s Hi φ cn
3 H 3 t-χ *- Z H ι-i P- P- iQ X et Φ O Φ ι-i Z tsi φ Φ P- ffi cn O φ cn tr o 1 cn cn cn φ Φ PJ φ t-χ P rt Φ Φ P i-i P- Φ φ P P- P P Z
P- P- P- 3 CΛ s: ^ P- P P- P- Φ H Φ φ P P H Z csi P P P- t→ H P o
P Ω o >< P- Φ P P X P ι-( H P Z 1 O pj: Φ ιp P rt Φ Φ <! α P X
X 3 o LP P- P- Φ P- ^ P φ S3 X P H P- φ H rt H o z Ω P*
P P iQ P cn P P. P P <J o <J ιQ o l-i Φ X P) rt rt l-i Φ l-f P p-
P* t-χ- ιQ H P φ cn tr φ 1 ιQ o P" Φ P- H P t→ cn ι-i P P- P- ≤ P vq ti
P* 3
P P P I-* tr Φ ι-i S! cn l-i iQ H φ iQ φ et cn Φ >Q Φ Φ ^ φ P φ Φ 3 P- φ cn Φ 3 cn S φ <! Φ Hi s: φ H H Φ P Φ rt cn Φ P- PJ Φ H cn s P- rt t-i tr rt ω o H Φ P>: P- 3 t→ H X I-1 v P P^ φ P- rt rt φ P- 1 r+ O l-f P rt X H . P P- Φ P- ≥; P- φ cn Φ 1 φ P. tr 3 Φ n cn cn CΛ φ P) P N c-t Φ rt φ iQ rt O p- Ω φ Ω P X S P φ Φ O Φ P"
•<: O Ω P- P- cn α P Φ Cn H Φ rt P P P PJ rt X 1 P φ H P P1 p- cn cn P X ιP P rt Φ iQ i-i Φ l-i 1 l-i Φ cn Φ Φ N et S! P H ι-( Φ φ P et Φ P φ s: H rt cn P- H ?ö P >-• <! P - — - Φ φ H H rt H ^ H 3 φ n
Φ Φ P P cn Φ Φ Ω P H Φ P et o ^ et H Ω Φ Φ P o Φ ι-f o
3 H h→ H s X Φ Φ P> X1 iQ ι-( Φ o ≥; N Φ et X P *- Q P cn ω 3 φ φ Cd rt Φ t-χ- cn l-i P- P P z l-f l-1 P P Φ N Φ α •XI H rt Φ •P
•« P- t→ Φ P- rt Φ Z P l-i P fu: X! P iQ P- 1 P- P- Φ P P- t→ P
Hl sQ o φ P P CΛ φ P- l-i Φ H ^ Φ i-i Φ ? φ ι-3 P φ Φ Φ rt tr P* P α X Φ φ cn •<: P P φ H rt o O Hl : P i-f Φ cn α H X Φ
Φ i-i P Φ et P- cn rt sQ cn sQ P P) cn t→ <! P 0* P P- cn Φ Φ et X ι-(
P- P* n tf P s: l-i et Φ ω N !Λ 1 ιq o PJ X cn φ <} P- 3 H Φ H p α Φ O Φ tr Φ O: φ rt Hl 1 φ cn l^ Φ P *- rt o P CΛ H Z O H
Φ . P X cn P- H E 3 • φ ι-3 X H Φ rt h-1 φ l-i P- << t l ?α φ P O
Φ P I-* P o et Φ cn - H P PJ P P- P- iQ P ui Φ ι-i P- iQ
P I-* H 3 Φ l-i σ t-χ P) H ) P- Φ o s: Ω P φ IQ et P" X Φ P- cn tf
Φ M ιQ P. Φ P- φ P- ι-i cn P l-i l-i ≥; Φ X iQ cn Φ t-χ l-f Φ Ω P
P P- Φ P- P- Φ P- Φ Φ l-f P Φ P- z H Φ CΛ Φ Hl 3 l-f -i P X
P 3 o P- P- cn cn P- P ^ P < pj: rt P ^ σ φ cn z l-f P- φ
Φ cn φ iQ N P et INI PJ P N H ιQ o H IM Φ cn Φ PJ φ φ P P ^
P- P P- H P- φ Φ Φ P iQ 1 P- cn H rt P ≥! rt P P- ι-i P iQ
P rt P P P cn P H P- cn cn rt Hl s cn X * Φ Φ Φ Φ Φ CL N Φ
N χ cn rt Hi Φ Φ pi: 1 PJ P 3 P H cn Φ 1 P
P | P- h- cn cn rt α. φ tf X P P P cn
1 Ω Φ φ φ PJ p- t→ et P P O Q cn φ P
Φ I-" X Φ P P- H t-χ p Φ cn P H P- ι-f α ιQ X l-i Φ Φ P- P' Φ 1*1 1 p) Ω cn P- φ H P P φ H P < P" X et Φ P- p-
P O Φ Φ Φ EP
1 P P P H rt
Rückschluss auf das Verhalten des Systems aufgrund des Bestehens oder Nichtbestehens einer Dynamik möglich ist.
So eignet sich die Erfindung beispielsweise auch für den Einsatz im Rahmen der Finanzmarktanalyse, da auch in diesem Einsatzgebiet bei Existenz einer Dynamik innerhalb von Zeitreihen-Werten ermittelt werden kann, dass eine Prognose des zukünftigen Verhaltens des Finanzmarktes möglich wird.
Insbesondere wird die Erfindung bevorzugt bei der Analyse eines Elektrokardiogramm-Signals eingesetzt in der Weise, dass es aufgrund des Ausgangswerts möglich ist, zu klassifizieren, ob der Patient, dessen Zeitreihen-Werte gemessen worden sind, ein ischemischer Patient ist oder nicht. Dies wird möglich, da bei einem ischemischen Patienten der Folge von Elektrokardiogramm-Signalen eine vorgegebene Dynamik zugrunde liegt, was bei einem gesunden Patienten nicht der Fall ist.
Die Erfindung eignet sich insbesondere auch zum Einsatz bei der Klassifikation von Elektroenzephalogramm-Signalen hinsichtlich der Klassifikation, ob die Zeitreihen-Werte ein Elektroenzephalogramm-Signal beschreiben, welches auf einen Gehirntumor hinweist oder nicht.
Die Abtastwerte können auch von einem sogenannten Licox- Signal abgetastet werden, wodurch die Klassifikation der Zeitreihen-Werte dahingehend möglich ist, ob ein plötzlicher Herztod mit großer Wahrscheinlichkeit bevorsteht oder nicht.
Ausführungsbeispiele der Erfindung sind in den Figuren dargestellt und werden im weiteren näher erläutert.
Es zeigen Figuren la und lb ein Ablaufdiagramm, in dem die einzelnen Verfahrensschritte eines Ausführungsbeispiels der Erfindung dargestellt sind;
Figur 2 eine Skizze, in der die Aufnahme von Elektrokardiogramm-Signalen und deren Weiterverarbeitung hin zur Klassifikation der Elektrokardiogramm-Signale dargestellt ist;
Figuren 3a und 3b eine Skizze einer üblichen Periode eines Elektrokardiogramm-Signals (Figur 3a) sowie eine Folge solcher Perioden (Figur 3b) ;
Figur 4 eine Skizze eines Rekurrenten Neuronalen Netzes, welches gemäß einem Ausführungsbeispiel der Erfindung verwendet wird;
Figuren 5a und 5b ein Diagramm einer Folge von Rekurrenz- Trainingsfehlern und einer Folge von Vorwärts- Trainingsfehlern für Zeitreihen-Werte, die
Elektrokardiogramm-Signale beschreiben eines gesunden Patienten (Figur 5a) sowie ein Diagramm mit einer Folge von Rekurrenz-Trainingsfehlern und einer Folge von Vorwärts-Trainingsfehlern für Zeitreihen-Werte, die Elektrokardiogramm-Signale eines ischemischen
Patienten beschreiben (Figur 5b) ;
Fig.2 zeigt einen Patienten 200, dem Elektroden 201 gemäß einer sogenannten Extremitäten-Ableitung nach Einthoven, wie sie in [2] beschrieben ist, befestigt sind. Ein Kabel 202 ist mit den Elektroden 201 verbunden. Elektrokardiogramm-Signale 203 werden über die Elektroden 201 und das Kabel 202 einem Elektrokardiogramm-Gerät 204 zugeführt.
Das Elektrokardiogramm-Gerät 204 weist folgende Komponenten auf: • Eine Vorverarbeitungseinheit 205, • einen Speicher 206,
• einen Prozessor 207,
• einen Signalgenerator 219, die jeweils über einen Computerbus 208 miteinander gekoppelt sind.
Weiterhin weist das Elektrokardiogramm-Gerät 204 eine Anzeigeeinheit 220 auf, auf dem die Elektrokardiogramm- Signale 203 und/oder ein im weiteren erläutertes Alarmsignal 224 dargestellt werden.
Das Elektrokardiogramm-Signal 203 wird in dem Elektrokardiogramm-Gerät 204 der Vorverarbeitungseinheit 205 zugeführt. In der Vorverarbeitungseinheit 205 wird das Elektrokardiogramm-Signal 203 einer Analog/Digital-Wandlung sowie einer Rauschfilterung unterzogen.
Das auf diese Weise generierte abgetastete Signal weist eine Vielzahl von Zeitreihen-Werten auf, die in dem Speicher 206 gespeichert werden.
Symbolisch sind logische Komponenten im weiteren in dem Prozessor 207 dargestellt. Dies ist in der Weise zu verstehen, dass durch den Prozessor 207 die logischen Komponenten realisiert werden mittels eines
Computerprogramms, das in dem Speicher 206 gespeichert ist.
Die Zeitreihen-Werte werden aus dem Speicher 206 ausgelesen und einem Rekurrenten künstlichen Neuronalen Netz 209 zugeführt.
Ferner werden die Zeitreihen-Werte 211 einem vorwärtsgerichteten künstlichen neuronalen Netz- 210 zugeführt.
Von dem Rekurrenten künstlichen Neuronalen Netz 209 werden Rekurrenz-Ausgangswerte 212 gebildet, welche einer Einheit zum Bilden von Rekurrenz-Trainingsfehlern 213 zugeführt werden.
Von dem vorwärtsgerichteten neuronalen Netz 210 werden Vorwärts-Ausgangswerte 215 erzeugt, die einer Einheit zum Bilden von Vorwärts-Trainingsfehlern 216 zugeführt werden. Von der Einheit zum Bilden von Vorwärts-Trainingsfehlern 216 werden Vorwärts-Trainingsfehler 217 gebildet. Die Vorwärts- Trainingsfehler 217 und die Rekurrenz-Trainingsfehler 214 werden einem Subtrahierer 218 zugeführt. Ein von dem
Subtrahierer 218 gebildetes Differenzsignal 221 wird einem Klassifikator 222 zugeführt.
Ist das Differenzsignal 221 größer als ein vorgegebener Wert, so wird von dem Klassifikator 222 ein Alarmgenerierungssignal 223 erzeugt und einem Signalgenerator 219 zugeführt. Von dem Signalgenerator 219 wird ein Alarmsignal 224 gebildet und auf dem Bildschirm 220 einem Arzt, das heißt allgemein einem Benutzer des Elektrokardiogramm-Geräts 204 dargestellt.
Die im Rahmen des Ausführungsbeispiels erforderlichen Verfahrensschritte werden im weiteren im Zusammenhang mit der Beschreibung des Ablaufdiagramms aus Fig.la und Fig.lb noch detailliert erläutert.
Fig.3a zeigt eine üblichen Periode 300 eines Elektrokardiogramm-Signals 203.
Die Periode 300 des Elektrokardiogramm-Signals 203 weist im wesentlichen fünf sogenannte Zacken auf:
• Eine P-Zacke 301, welche der elektrischen Depolarisation des Vorhofs des Herzens entspricht,
• eine Q-Zacke 302, welche dem Beginn der Kammererregung des Herzens entspricht; • eine R-Zacke 303, welche der maximalen Kammererregung des Herzens entspricht; • eine S-Zacke 304, welche der Erregung der basalen Teile der Ventrikel des Herzens entspricht;
• eine T-Zacke 305, welche der Depolarisation der Herzkammern des Herzens entspricht.
Eine Folge 310 von Perioden 300 des Elektrokardiogramm- Signals 203 ergeben das Elektrokardiogramm-Signal 203. Eine solche Folge 310 von Perioden 300 eines EKG-Signals 203 sind in Fig.3b dargestellt.
Jeweils ein Abstand zwischen zwei R-Zacken 303 wird als Zackenabstand Ti (i = 1, ..., n) bezeichnet. Dies bedeutet, es ergeben sich bei n + 1 Perioden 300 eines Elektrokardiogramm-Signals 203 n Abstände Ti zwischen den R- Zacken 303. Es ergibt sich somit eine Folge von Abstandswerten (TI, T2, ..., Ti, ..., Tn) .
Ein Abstand Ti wird im folgenden als Zeitreihen-Wert 211 bezeichnet, so dass die Folge von Abständen (TI, T2, ..., Ti, ..., Tn) als Folge von Zeitreihen-Werten bezeichnet wird. Die Zeitreihen-Werte 211 werden in dem Speicher 206 gespeichert.
Das Verfahren wird in seinen einzelnen Verfahrensschritten im Zusammenhang mit dem in Fig.la und Fig.lb dargestellten Ablaufdiagramm näher erläutert.
In einem ersten Schritt (Schritt 100) wird das Elektrokardiogramm-Signals 203 erfasst.
In einem weiteren Schritt (Schritt 101) werden, wie oben dargestellt, die Zeitreihen-Werte 211 (Ti) ermittelt.
Die ermittelten Zeitreihen-Werte 211 werden in einem weiteren Schritt (Schritt 102) in dem Speicher 206 gespeichert. Die gespeicherten Zeitreihen-Werte werden ausgelesen (Schritt 103) und einem in Fig.4 gezeigten Rekurrenten Neuronalen Netz 400 zugeführt (Schritt 104) .
Mit x(t) wird im weiteren jeweils ein Zeitreihen-Wert 211 zu einem Zeitpunkt t bezeichnet. Mit x(t-s) (s = 1, ..., d) werden zeitlich vorangegangene Zeitreihen-Werte 211 bezeichnet .
Das Rekurrente künstliche Neuronale Netz 400 weist d Eingangsneuronen 401 auf.
Ausgänge der Eingangsneuronen 401 sind über gewichtete Verbindungen 402 mit Eingängen von versteckten Neuronen 403 verbunden.
Ausgänge der versteckten Neuronen 403 sind über gewichtete Verbindungen 404 mit einem Ausgangsneuron 405 verbunden. Ein Ausgang des Ausgangsneurons 405 ist über eine Rückkopplung 406 mit einem Eingangsneuron 401 verbunden.
Aufgrund des Zuführens der Zeitreihen-Werte 211 an das Rekurrente künstliche Neuronale Netz 400 werden Rekurrenz- Ausgangswerte gebildet (Schritt 105) , welche wiederum über die Rückkopplung 406 dem Eingangsneuron des Rekurrenten künstlichen Neuronalen Netz 400 zugeführt werden. Der gebildete Rekurrenz-Ausgangswert 212 wird weiterhin der Einheit zum Bilden von Rekurrenz-Trainingsfehlern 213 zugeführt (Schritt 106) .
Anschaulich bedeutet dies, dass die Rekurrenz-Ausgangswerte zum einen an das jeweilige Eingangsneuron 401 zugeführt werden wie auch "ausgekoppelt" werden und zum Bilden eines Rekurrenz-Trainingsfehlers der Einheit zum Bilden von Rekurrenz-Trainingsfehlern zugeführt werden. Pro Zeitschritt, das heißt für jeden Abstandswert Ti wird jeweils ein Rekurrenz-Ausgangswert 212 und somit auch ein Rekurrenz-Trainingsfehler 214 in einem weiteren Schritt gebildet (Schritt 107) .
Im Rahmen des Trainingsverfahrens wird gemäß der in [3] beschriebenen Variante des BTT-Verfahrens eine Aktualisierung der einzelnen Gewichte des Rekurrenten künstlichen neuronalen Netzes gemäß folgenden Vorschriften durchgeführt:
X1 (t) = ∑ W-i ∑ "i x(t - k) + "iO + 0 (1) k=l
mit
(t - k) = x(t - k - l), k > 0, ( 2 :
ΔW-i 2 • η • X(t ~ k) δi(t), (3)
Figure imgf000017_0001
Figure imgf000017_0002
t +Δ
Δwjk = 2 • η • ∑x(t-k)- δj(t), (5) t=ti
Figure imgf000017_0003
t=ti
mit
δj(t) σ' (t-i Ej(t). eλm(ti-t) + ∑ωkj .δk(t + ι) ( : k t = t + Δ, ..., ti, (8)
δj(ti + 1 + Δ) = 0, (9)
wobei mit
• ji die Gewichte der gewichteten Verbindungen 404 zwischen den versteckten Neuronen 403 und den Ausgangsneuronen 405 bezeichnet werden,
• mit w-jk die Gewichte der gewichteten Verbindungen 402 zwischen den Eingangsneuronen 401 und den versteckten Neuronen 403 bezeichnet werden,
• mit g ein vorgegebener Gewichtungswert bezeichnet wird, • mit λj ein Parameter bezeichnet wird, mit dem die exponentielle Gewichtung der Bewertungsfunktion beschrieben wird,
• mit Δ die jeweilige Änderung eines Gewichts Wji bzw. Wjj^ bezeichnet wird, und • mit Ej (•(-) das Fehlersignal, d.h. der Fehler der Ausgangsneuronen bezeichnet wird.
Es ist in diesem Zusammenhang anzumerken, dass ω^j sowohl
Wkj oder w^j bezeichnen kann, weshalb der Index k über unterschiedliche Dimensionen laufen kann. Mit dem Index k wird jeweils bei ω^j dasjenige Neuron k bezeichnet, das durch die Verknüpfung, d.h. Kopplung j vorwärts gekoppelt ist.
Anschaulich wird gemäß diesem Ausführungsbeispiel im Rahmen des Trainingsverfahrens folgende Kostenfunktion F minimiert:
[x(t - k) - x(t - k)]2 ( iι :
Figure imgf000018_0001
Weiterhin werden in einem weiteren Schritt (Schritt 108) die Zeitreihen-Werte dem vorwärtsgerichteten künstliches Neuronales Netz 210 zugeführt.
Gemäß diesem Ausführungsbeispiel wird als das vorwärtsgerichtete künstliches Neuronales Netz 210 das Rekurrente künstliche neuronale Netz 400 mit Δ = 0 verwendet, wodurch das vorwärtsgerichtete künstliche Neuronale Netz 210 ohne Rückkopplung gebildet wird.
Somit weist das vorwärtsgerichtete künstliche Neuronale Netz dieselbe Struktur auf, wie das Rekurrente künstliche Neuronale Netz 400, lediglich ohne die Rückkopplung 406.
Als Trainingsverfahren für das vorwärts gerichtete künstliche neuronale Netz wird das übliche Backpropagation- Trainingsverfahren oder auch das oben beschriebene Trainingsverfahren für das Rekurrente künstliche neuronale Netz 400 mit Δ = 0 eingesetzt.
In einem weiteren Schritt (Schritt 109) werden Vorwärts- Ausgangswerte von dem vorwärtsgerichteten künstlichen neuronalen Netz 210 gebildet und die Vorwärts-Ausgangswerte werden der Einheit zum Bilden von Vorwärts-Trainingsfehlern zugeführt (Schritt 110) .
In einem weiteren Schritt (Schritt 111) werden Rekurrenz- Trainingsfehler gebildet, die gemeinsam mit den Rekurrenz- Trainingsfehlern als jeweilige Folge von Rekurrenz- Trainingsfehlern bzw. Folge von Vorwärts-Trainingsfehlern dem Subtrahierer 218 zugeführt werden (Schritt 112) .
In einem weiteren Schritt (Schritt 113) wird von dem Subtrahierer 218 eine Differenz gebildet zwischen jeweils einem Rekurrenz-Trainingsfehler der Folge von Rekurrenz- Trainingsfehlern und dem zeitlich entsprechenden Vorwärts- Trainingsfehler der Folge von Vorwärts-Trainingsfehlern, das heißt eine Differenz der jeweiligen Trainingsfehler zu jeweils einem Zeitpunkt.
Die gebildeten Differenzwerte werden in einem weiteren Schritt (Schritt 114) dem Klassifikator 222 zugeführt.
In dem Klassifikator 222 wird geprüft, ob die Differenzwerte größer sind als ein vorgegebener Wert (Schritt 115) .
Ist nach einer vorgegebenen Zahl von Trainingsiterationen zumindest einer der Differenzwert nicht größer als ein vorgegebener Wert, so werden die Zeitreihen-Werte als Zeitreihen-Werte eines Systems klassifiziert, welches keine Dynamik aufweist (Schritt 116) .
Werden jedoch eine vorgegebene Anzahl (mindestens ein Differenzwert) von Differenzwerten größer als der vorgegebene Wert, beispielsweise wird ein Differenzwert größer als der vorgegebene Wert, so werden die Zeitreihen-Werte als Zeitreihen-Werte eines ischemischen Patienten klassifiziert, das heißt als Zeitreihen-Werte eines Systems, welches eine vorgegebene Dynamik aufweist (Schritt 117) .
Werden die Zeitreihen-Werte als Zeitreihen-Werte eines Systems mit vorgegebener Dynamik klassifiziert (Schritt 117), so wird von dem Klassifikator 222 ein Alarm- Generierungssignal 223 gebildet (Schritt 118) und dem Signalgenerator 219 zugeführt (Schritt 119) .
Von dem Signalgenerator 219 wird daraufhin das Alarmsignal 224 erzeugt (Schritt 120) .
Das Alarmsignal 224 kann entweder auf dem Bildschirm 220 visuell dargestellt werden oder auch als Audiosignal einem Arzt zur Verfügung gestellt werden. Die Fig.5a und Fig.5b zeigen Ergebnisdiagramme 500, 510 bei folgendem Versuch. Es wurden 24 Stunden lang ein 12-Kanal- Elektrokardiogramm-Signal von zwei unterschiedlichen Patienten erfasst. Ein erster Patient war weiblich, 65 Jahre alt und gesund. Ein zweiter Patient war 66 Jahre alt, weiblich und war myokardial-ische isch.
Das Elektrokardiogramm-Signal wurde jeweils bei 500 Hz Abtastfrequenz abgetastet und mit 12 Bit Auflösung codiert. Um die Neuronalen Netze zu trainieren, wurden 45.000
Abstandswerte verwendet und es wurden 94.000 Abstandswerte verwendet, um das trainierte neuronale Netz in seiner Verallgemeinerungsfähigkeit zu testen.
Das Rekurrente Neuronale Netz 400 weist d = 5
Eingangsneuronen 401 auf und zehn versteckte Neuronen 403. Im Rahmen des Trainierens des vorwärtsgerichteten Neuronalen Netzes 210 wurde das vorwärtsgerichtete Neuronale Netz 210 mit Δ *= 0 trainiert und das Rekurrente künstliche Neuronale Netz 400 wurde mit Δ = 4 trainiert.
Wie Fig.5a zu entnehmen ist, ergibt sich für die Folge 501 von Vorwärts-Trainingsfehlern für das vorwärtsgerichtete Neuronale Netz 210 und für die Folge 502 von Rekurrenz- Trainingsfehlern des Rekurrenten künstlichen Neuronalen Netzes 400 kaum ein Unterschied.
Wie jedoch Fig.5b zu entnehmen ist, ergibt sich bei dem ischemischen Patienten ein deutlicher Unterschied zwischen einer Folge 511 von Vorwärts-Fehlersignalen und einer Folge 512 von Rekurrenz-Fehlersignalen.
Somit ist es möglich, aufgrund der Differenz der Folge der jeweiligen Fehlersignale, in anderen Worten aufgrund des Trainingsverhaltens der beiden Neuronalen Netze, die
Charakteristik des zugrundeliegenden Systems zu ermitteln. Insbesondere ist es möglich, zu klassifizieren, ob dem entsprechenden System allgemein eine vorgegebene Dynamik zugrunde liegt.
Im weiteren werden einige Alternativen zu dem oben dargelegten Ausführungsbeispiel erläutert:
Die Erfindung kann alternativ auch eingesetzt werden, um ein Simulationsmodell eines technischen Systems hinsichtlich dessen Qualität zu überprüfen. Dieser Verwendung liegt folgende Erkenntnis zugrunde.
Ist ein Simulationsmodell ideal, so weisen Fehlersignale, die durch das Simulationsmodell generiert werden, keinerlei statistische Korrelationen auf, das heißt der Folge von Fehlersignalen liegt keine Dynamik zugrunde.
Liegt der Folge von Fehlersignalen jedoch eine vorgegebene Dynamik zugrunde, was mittels des Trainingsverhaltens eines Rekurrenten künstlichen Neuronalen Netzes auf oben beschriebene Weise ermittelt werden kann, weist die Folge von Fehlersignalen in dem Simulationsmodell noch statistische Korrelationen auf, so dass daraus geschlossen werden kann, dass das Simulationsmodell fehlerbehaftet ist.
Allgemein kann die Erfindung in jedem Bereich eingesetzt werden, in dem es gilt, Zeitreihen-Werte eines Systems, dem eine Dynamik zugrunde liegt, von Zeitreihen-Werten eines Systems, dem keine Dynamik zugrunde liegt, zu unterscheiden.
Als Vergleichskriterium muss nicht notwendigerweise ein Vergleich mit Zeitreihen-Werten, die einem vorwärtsgerichteten künstlichen neuronalen Netz zugeführt werden, eingesetzt werden. Allein schon das Trainingsverhalten des Rekurrenten Neuronalen Netzes lässt, wie oben dargelegt, Rückschlüsse auf eine Dynamik, die dem durch die Zeitreihen-Werte beschriebenen System zugrunde liegt oder nicht, zu. Anschaulich bedeutet dies, wenn sich der Rekurrenz- Trainingsfehler aus der Folge der Rekurrenz-Trainingsfehler stark verringert, dass dies darauf schließen lässt, dass dem durch die Zeitreihen-Werte beschriebenen System eine vorgegebene Dynamik zugrunde liegt.
In diesem Dokument sind folgende Veröffentlichungen zitiert:
[1] A. Zeil, Simulation neuronaler Netze, Addison-Wesley Verlag. 1. Auflage, ISBN-3-89319-554-8, S. 522 - 527, 1994
[2] J. Eichmeier, Medizinische Elektronik, Springer-Verlag, 2. Auflage, ISBN-3-540-53387-2, S. 14 - 84, 1991
[3] G. Deco und B. Schürmann, Neural Learning of Chaotic
System Behaviour, IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences, Vol. E 77-A, No. 11, S. 1840 - 1845, November 1994
[4] A. Zeil, Simulation neuronaler Netze, Addison-Wesley Verlag. 1. Auflage, ISBN-3-89319-554-8, S. 145 - 160, 1994

Claims

Patentansprüehe
1. Verfahren zur Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs, wobei ein System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei ein System des zweiten Typs ein System ist, welches keine Dynamik aufweist,
• bei dem die Zeitreihen-Werte, die ein System beschreiben, einem rekurrenten künstlichen Neuronalen Netz zugeführt werden,
• bei dem von dem rekurrenten künstlichen Neuronalen Netz aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz- Ausgangswerten erzeugt werden, • bei dem aus der Folge der Rekurrenz-Ausgangswerte eine Folge von Rekurrenz-Trainingsfehlern ermittelt wird,
• bei dem aus der Folge der Rekurrenz-Trainingsfehler die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert werden, wenn die Folge der Rekurrenz-Trainingsfehler ein vorgegebenes Kriterium erfüllt, und
• bei dem die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des zweiten Typs klassifiziert werden, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
2. Verfahren nach Anspruch 1,
• bei dem als das Kriterium ein vorgegebener Grad der Verringerung der Rekurrenz-Trainingsfehler aus der Folge der Rekurrenz-Trainingsfehler verwendet wird, und
• bei dem die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert werden, wenn die Rekurrenz-Trainingsfehler sich in größerem Maße verringern als durch den vorgegebenen Grad angegeben ist.
3. Verfahren nach Anspruch 1, • bei dem die Zeitreihen-Werte, die ein System beschreiben, einem vorwärtsgerichteten künstlichen Neuronalen Netz zugeführt werden,
• bei dem von dem vorwärt.sgerichteten künstlichen Neuronalen Netz aufgrund der Zeitreihen-Werte eine Folge von
Vorwärts-Ausgangswerten erzeugt werden,
• bei dem aus der Folge der Vorwärts-Ausgangswerte eine Folge von Vorwärts-Trainingsfehlern ermittelt wird,
• bei dem als das Kriterium ein Unterschied der Verringerung der Rekurrenz-Trainingsfehler aus der Folge der Rekurrenz- Trainingsfehler und der Verringerung der Vorwärts- Trainingsfehler aus der Folge der Vorwärts-Trainingsfehler verwendet wird, und
• bei dem die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert werden, wenn der
Unterschied größer ist als ein vorgegebener Wert.
4. Verfahren nach einem der Ansprüche 1 bis 3,
System des ersten Typs ein System ist, welches mit einer deterministische Beschreibung des zukünftigen Verhaltens des Systems aufgrund der Beschreibung des Verhaltens des Systems in der Vergangenheit beschrieben wird.
5. Verfahren nach einem der Ansprüche 1 bis 4, bei dem die Zeitreihen-Werte aus Abtastwerten eines physikalischen Signals gebildet werden.
6. Verfahren nach einem der Ansprüche 1 bis 5, bei dem die Zeitreihen-Werte aus Abtastwerte eines biomedizinischen Signals gebildet werden.
7. Verfahren nach Anspruch 6, bei dem die Zeitreihen-Werte aus Abtastwerte eines Elektroenzephalogramm-Signals gebildet werden.
Verfahren nach Anspruch 6, bei dem die Zeitreihen-Werte aus Abtastwerte eines Elektrokardiogramm-Signals gebildet werden.
9. Verfahren nach Anspruch 8, bei dem das System des ersten Typs bedeutet, dass für das Elektrokardiogramm-Signal ein ischemisches Herz beschreibt.
10. Verfahren nach einem der Ansprüche 1 bis 5, bei dem die Zeitreihen-Werte zur Finanzmarkt-Analyse eingesetzt werden.
11. Verfahren nach einem der Ansprüche 1 bis 5, eingesetzt zum Überprüfen eines Modells eines Systems, wobei in dem Fall, dass die Zeitreihen-Werte als Werte eines Systems des ersten Typs klassifiziert werden, ein Ergebnis- Signal ausgegeben wird, mit dem angezeigt wird, dass das überprüfte Modell nicht optimal ist.
12. Vorrichtung zur Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in
Zeitreihen-Werte eines Systems eines zweiten Typs, wobei ein System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei ein System des zweiten Typs ein System ist, welches keine Dynamik aufweist, mit einem Prozessor, der derart eingerichtet ist, dass folgende Verfahrensschritte durchführbar sind:
• die Zeitreihen-Werte, die ein System beschreiben, werden einem rekurrenten künstlichen Neuronalen Netz zugeführt,
• von dem rekurrenten künstlichen Neuronalen Netz werden aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz-
Ausgangswerten erzeugt,
• aus der Folge der Rekurrenz-Ausgangswerte wird eine Folge von Rekurrenz-Trainingsfehlern ermittelt,
• aus der Folge der Rekurrenz-Trainingsfehler werden die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert, wenn die Folge der Rekurrenz- Trainingsfehler ein vorgegebenes Kriterium erfüllt, und • die Zeitreihen-Werte werden in Zeitreihen-Werte eines Systems des zweiten Typs klassifiziert, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
13. Vorrichtung nach Anspruch 12, eingesetzt in einem Elektrokardiogramm-Gerät.
14. Computerlesbares Speichermedium, in dem ein Computerprogramm zur Klassifkation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs, wobei ein System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei ein System des zweiten Typs ein System ist, welches keine Dynamik aufweist, gespeichert ist, das, wenn es von einem Prozessor ausgeführt wird, folgende Verfahrensschritte aufweist:
• die Zeitreihen-Werte, die ein System beschreiben, werden einem rekurrenten künstlichen Neuronalen Netz zugeführt, • von dem rekurrenten künstlichen Neuronalen Netz werden aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz- Ausgangswerten erzeugt,
• aus der Folge der Rekurrenz-Ausgangswerte wird eine Folge von Rekurrenz-Trainingsfehlern ermittelt, • aus der Folge der Rekurrenz-Trainingsfehler werden die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert, wenn die Folge der Rekurrenz- Trainingsfehler ein vorgegebenes Kriterium erfüllt, und
• die Zeitreihen-Werte werden in Zeitreihen-Werte eines Systems des zweiten Typs klassifiziert, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
15. Computerprogramm-Element zur Klassifikation von Zeitreihen-Werten in Zeitreihen-Werte eines Systems eines ersten Typs oder in Zeitreihen-Werte eines Systems eines zweiten Typs, wobei ein System des ersten Typs ein System ist, welches eine vorgegebene Dynamik aufweist, und wobei ein System des zweiten Typs ein System ist, welches keine Dynamik aufweist, das, wenn es von einem Prozessor ausgeführt wird, folgende Verfahrensschritte aufweist: • die Zeitreihen-Werte, die ein System beschreiben, werden einem rekurrenten künstlichen Neuronalen Netz zugeführt,
• von dem rekurrenten künstlichen Neuronalen Netz werden aufgrund der Zeitreihen-Werte eine Folge von Rekurrenz- Ausgangswerten erzeugt, • aus der Folge der Rekurrenz-Ausgangswerte wird eine Folge von Rekurrenz-Trainingsfehlern ermittelt,
• aus der Folge der Rekurrenz-Trainingsfehler werden die Zeitreihen-Werte in Zeitreihen-Werte eines Systems des ersten Typs klassifiziert, wenn die Folge der Rekurrenz- Trainingsfehler ein vorgegebenes Kriterium erfüllt, und
• die Zeitreihen-Werte werden in Zeitreihen-Werte eines Systems des zweiten Typs klassifiziert, wenn die Folge der Rekurrenz-Trainingsfehler das vorgegebene Kriterium nicht erfüllt.
PCT/DE2001/001745 2000-05-09 2001-05-07 Verfahren und vorrichtung zur klassifikation von zeitreihen-werten, computerlesbares speichermedium und computerprogramm-element Ceased WO2001085018A2 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE10022481 2000-05-09
DE10022481.4 2000-05-09

Publications (2)

Publication Number Publication Date
WO2001085018A2 true WO2001085018A2 (de) 2001-11-15
WO2001085018A3 WO2001085018A3 (de) 2003-02-27

Family

ID=7641257

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/DE2001/001745 Ceased WO2001085018A2 (de) 2000-05-09 2001-05-07 Verfahren und vorrichtung zur klassifikation von zeitreihen-werten, computerlesbares speichermedium und computerprogramm-element

Country Status (1)

Country Link
WO (1) WO2001085018A2 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004030534A1 (en) * 2002-10-02 2004-04-15 Medicale Intelligence Inc. Method and apparatus for trend detection in an electrocardiogram monitoring signal

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1063634A (ja) * 1996-04-05 1998-03-06 Nec Corp 時系列予測・分類のための方法及び装置
EP1027663A1 (de) * 1997-11-04 2000-08-16 Siemens Aktiengesellschaft Verfahren und vorrichtung zur klassifikation einer ersten zeitreihe und mindestens einer zweiten zeitreihe

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
None

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004030534A1 (en) * 2002-10-02 2004-04-15 Medicale Intelligence Inc. Method and apparatus for trend detection in an electrocardiogram monitoring signal

Also Published As

Publication number Publication date
WO2001085018A3 (de) 2003-02-27

Similar Documents

Publication Publication Date Title
DE69324052T2 (de) Neuronalnetzwerk-Lernsystem
DE69331254T2 (de) Erkennungssystem zum Erkennen von Personen
DE69710502T2 (de) Gerät zur gewebestimulation
DE112018002822T5 (de) Klassifizieren neuronaler netze
EP0910023A2 (de) Verfahren und Anordnung zur neuronalen Modellierung eines dynamischen Systems mit nichtlinearem stochastischem Verhalten
WO2021069338A1 (de) Erzeugung von mrt-aufnahmen der leber ohne kontrastverstärkung
DE4039648A1 (de) Messwertverarbeitungssystem fuer ein biologisches objekt
EP1456798A2 (de) Auswerten von mittels funktionaler magnet-resonanz-tomographie gewonnenen bildern des gehirns
EP4348573A1 (de) Maschinelles lernen im bereich der kontrastmittelverstärkten radiologie
DE102006012499A1 (de) Verfahren zum Durchführen von Regression auf Bildbasis mit Boosten
EP1519301A2 (de) Vorrichtung zur klassifikation physiologischer Ereignisse
WO2000073980A1 (de) Mustererkennung mittels prüfung zusätzlicher merkmale nach teilverarbeitung
DE102023104927A1 (de) Verfahren und Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems
DE112020004025T5 (de) Gegnerisches und koopoeratives Nachahmungslernen zur dynamischen Behandlung
WO2023237742A1 (de) Verfahren und vorrichtung zur bereitstellung von mrt-aufnahmen in bezug auf zumindest ein körperteil eines patienten mit reduzierter kontrastmittelgabe
EP0890153B1 (de) Verfahren zur ermittlung von zur entfernung geeigneten gewichten eines neuronalen netzes mit hilfe eines rechners
WO2001085018A2 (de) Verfahren und vorrichtung zur klassifikation von zeitreihen-werten, computerlesbares speichermedium und computerprogramm-element
EP1934895A2 (de) Verfahren zum rechnergestützten lernen eines neuronalen netzes und neuronales netz
DE102019217524A1 (de) Verfahren und Bildverarbeitungsvorrichtung zum Segmentieren von Bilddaten und Computerprogrammprodukt
EP4032030A1 (de) Schnelles quantisiertes training trainierbarer module
EP1034464B1 (de) Anordnung zur vorhersage einer abnormalität eines systems und zur durchführung einer der abnormalität entgegenwirkenden aktion
DE112022003672T5 (de) Modellieren des herzens eines subjekts
WO1998034176A1 (de) Verfahren zur transformation einer zur nachbildung eines technischen prozesses dienenden fuzzy-logik in ein neuronales netz
EP1359539A2 (de) Neurodynamisches Modell der Verarbeitung visueller Informationen
DE19608734C1 (de) Verfahren zur Klassifikation einer meßbaren Zeitreihe, die eine vorgebbare Anzahl von Abtastwerten aufweist, insbesondere eines elektrischen Signals, durch einen Rechner und Verwendung des Verfahrens

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A2

Designated state(s): CN JP US

AL Designated countries for regional patents

Kind code of ref document: A2

Designated state(s): AT BE CH CY DE DK ES FI FR GB GR IE IT LU MC NL PT SE TR

121 Ep: the epo has been informed by wipo that ep was designated in this application
DFPE Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101)
122 Ep: pct application non-entry in european phase
NENP Non-entry into the national phase

Ref country code: JP