WO2009142253A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
WO2009142253A1
WO2009142253A1 PCT/JP2009/059308 JP2009059308W WO2009142253A1 WO 2009142253 A1 WO2009142253 A1 WO 2009142253A1 JP 2009059308 W JP2009059308 W JP 2009059308W WO 2009142253 A1 WO2009142253 A1 WO 2009142253A1
Authority
WO
WIPO (PCT)
Prior art keywords
class
information processing
mapping
probability
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2009/059308
Other languages
English (en)
French (fr)
Inventor
大久保　厚志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to EP09750615A priority Critical patent/EP2287784A1/en
Priority to CN200980000425A priority patent/CN101681448A/zh
Priority to US12/668,580 priority patent/US20100287125A1/en
Priority to BRPI0903904-0A priority patent/BRPI0903904A2/pt
Publication of WO2009142253A1 publication Critical patent/WO2009142253A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]

Definitions

  • the present invention relates to an information processing apparatus, an information processing method, and a program, and more particularly, to an information processing apparatus and an information processing method capable of accurately performing class discrimination by output from a plurality of discriminators in 2-class discrimination. And related to the program.
  • a two-class classifier using statistical learning theory represented by SVM (Support Vector Machines) and AdaBoost is often used (for example, see Non-Patent Document 1). .
  • FIG. 1 is a block diagram showing a configuration example of a general two-class classifier.
  • the discriminator 1 has a discriminant function f (x) obtained in advance using a statistical learning theory represented by SVM and AdaBoost.
  • the discriminator 1 substitutes the input vector x into the discriminant function f (x), and outputs a scalar value y as a result.
  • the comparator 2 determines the scalar value y to be one of the two classes based on whether the scalar value y supplied from the discriminator 1 is positive or negative, or by comparing the scalar value y with a predetermined threshold, and outputs the result. . More specifically, the comparator 2 converts the value Y into “1” or “ ⁇ 1” as a value representing two classes, and outputs it.
  • the value output by each of the plurality of discriminators 1 in accordance with the discriminant function f (x) is a value based on an index independent from each other.
  • the present invention has been made in view of such a situation, and makes it possible to accurately perform class discrimination based on outputs from a plurality of discriminators in 2-class discrimination.
  • An information processing apparatus is calculated from a determination unit that outputs a scalar value for input data using a determination function, and a test result that is a scalar value when test data is supplied to the determination unit.
  • the mapping means for mapping the scalar value to the probability value, and based on the probability value output from the mapping means, the input data is of two classes.
  • a class discriminating unit for discriminating one of the classes.
  • An information processing method includes a determination unit, a mapping unit, and a class determination unit, and the determination unit of the information processing apparatus that determines which of the two classes the input data includes a determination function And a mapping value determined by using a probability value calculated from a test result which is a scalar value when the mapping means supplies test data to the discrimination means. Using a function, the scalar value is mapped to a probability value, and the class determining means determines which of the two classes the input data is based on the probability value output from the mapping means. Determine.
  • a program according to one aspect of the present invention is calculated from a determination unit that outputs a scalar value for input data to a computer using a determination function, and a test result that is a scalar value when test data is supplied to the determination unit.
  • a mapping function that maps the scalar value to a probability value using a mapping function determined using a probability value, and the input data includes two classes based on the probability value output from the mapping means. It is made to function as a class discriminating means for discriminating any of the classes.
  • a scalar value for output data is output and determined using a probability value calculated from a test result that is a scalar value when test data is supplied to the discriminating means.
  • the scalar value is mapped to the probability value, and based on the mapped probability value, it is determined which of the two classes the input data is.
  • the information processing apparatus may be an independent apparatus, or may be a partial block in the apparatus.
  • class discrimination can be performed accurately by output from a plurality of discriminators in two-class discrimination.
  • FIG. 2 shows a configuration example of an embodiment of an information processing apparatus to which the present invention is applied.
  • the information processing apparatus 11 in FIG. 2 includes n (n ⁇ 2) discriminators 21 1 to 21 n, mappers 22 1 to 22 n, and a comparator 23.
  • the information processing apparatus 11 determines whether the vector x as input data input thereto belongs to, for example, class A or class B, and whether the determination result is “1”. Alternatively, the value “ ⁇ 1” is output. For example, the information processing apparatus 11 outputs a value of “1” when the vector x belongs to class A, and outputs a value of “ ⁇ 1” when it belongs to class B. Therefore, the information processing apparatus 11 is a two-class classifier.
  • Classifier 21 i (i 1 to n), similar to the classifier 1 described with reference to FIG. 1, by substituting the input vector x to the discriminant function f i (x), the scalar value y i Is output.
  • the discriminant function f i (x) is a function obtained using a statistical learning theory typified by SVM or AdaBoost.
  • Mapper 22 i is a learning process by the obtained mapping function g i (y i) to be described later, classifier 21 by substituting the supplied scalar value y i from i, the scalar values from the classifier 21 i Convert y i to class existence probability p i .
  • the class existence probability p i after conversion is supplied to the comparator 23.
  • the comparator 23 discriminates one of the two classes by comparing the class existence probabilities p 1 to p n supplied from the mappers 22 1 to 22 n with a predetermined threshold value, and as a discrimination result The value of “1” or “ ⁇ 1” is output.
  • FIG. 3 is a flowchart of 2-class discrimination processing by the information processing apparatus 11.
  • step S1 the discriminator 21 i substitutes the input vector x for the discriminant function f i (x) and outputs a scalar value y i .
  • step S2 mapper 22 i, by substituting a scalar value y i supplied from the classifier 21 i in the mapping function g i (y i), obtains the class existence probability p i.
  • step S3 the comparator 23, and class classification based on the class existence probability p 1 to p n supplied from the mapper 22 1 to 22 n respectively, and outputs the determination result. That is, the comparator 23 outputs a value of “1” or “ ⁇ 1” and ends the process.
  • the plurality of discriminators 21 1 to 21 n determine the input data (vector) x, and the determination results y 1 to y n are class existence probabilities by the mapping function. p 1 to be converted into p n. Then, class discrimination is performed based on the plurality of class existence probabilities p 1 to pn , and a final discrimination result is output.
  • mapping function g i (y i ) used in the mapper 22 i will be described.
  • test data (Y j , xt j ) represents a set of a test data vector xt j corresponding to input data and a known (true value) class discrimination result Y j corresponding thereto.
  • the information processing apparatus 11 performs the following process for each of the k test data (Y j , xt j ) as a learning process. That is, the information processing apparatus 11 inputs the vector xt j to the discriminator 21 i and acquires the scalar value y tj corresponding to the vector xt j . Next, the information processing apparatus 11 sets the scalar value y tj to a value “1” or “ ⁇ 1” depending on the magnitude of comparison with a predetermined threshold (this value is hereinafter referred to as a class discrimination test result Y tj ). Convert to Therefore, in the learning process, first, the information processing apparatus 11 uses the discriminator 21 i and the comparator 23 to perform the same processing as the conventional two-class discriminator shown in FIG. Find Y tj .
  • Test data (Y j, xt j) a vector xt j of the class classification test result Y tj is the discriminant function f i (x) result of processing to the class determined by classifier 21 i, the vector xt j Class
  • the relationship with the true value Y j of the discrimination result (hereinafter referred to as the true class discrimination result Y j ) can be classified into the following four categories.
  • the relationship between the class discrimination test result Y tj and the true class discrimination result Y j is First category: True Positive (hereinafter referred to as TP)... When true class discrimination result Y j is “1” and class discrimination test result Y tj is also “1”. Second category: False Positive (hereinafter referred to as FP)... When true class discrimination result Y j is “ ⁇ 1” and class discrimination test result Y tj is “1”.
  • TN True Negative
  • FN False Negative
  • the information processing apparatus 11 classifies each of the k pieces of test data (Y j , xt j ) into one of the categories TP, FP, TN, and FN. Furthermore, the information processing apparatus 11 converts the k pieces of test data (Y j , xt j ) classified into any one of TP, FP, TN, and FN into scalar values y i based on the scalar values y tj. Sort by each. As a result, test data (Y j , xt j ) classified into TP, FP, TN, and FN can be obtained for each scalar value y i .
  • the numbers of test data of TP, FP, TN, and FN at a predetermined scalar value y i are TP m , FP m , TN m , and FN m , respectively.
  • the information processing apparatus 11 uses TP m , FP m , TN m , and FN m as the correct probability P (precision) given by the following equation (1) as the class existence probability p i. Ask.
  • the relationship between the scalar value y i and the correct probability P as the class existence probability p i is generally a non-linear monotonically increasing relationship as shown in FIG.
  • the information processing apparatus 11 determines the correct probability P as the scalar value y i and the class existence probability p i shown in FIG. 4 obtained by k test data (Y j , xt j ) of sufficient quality and quantity. Is approximated to a predetermined function to obtain a mapping function g i (y i ) of the mapper 22 i .
  • mapping function g i (y i ) can be expressed by the following equation (2).
  • mapping function g i (y i ) when approximated by a sigmoid function can be expressed by the following equation.
  • a and b are predetermined constants determined so as to best fit the relationship shown in FIG.
  • mapping function g i (y i ) can be obtained by a statistical learning technique such as SVR (Support Vector Regression).
  • mapping function g i (y i ) As an example of obtaining the mapping function g i (y i ) by the statistical learning method, a method for obtaining the mapping function by ⁇ -SV regression which is a kind of SVR will be briefly described.
  • ⁇ -SV regression is synonymous with obtaining a regression function of the following equation (4) for training data ⁇ (x 1 , y 1 ),..., (x q , y q ) ⁇ .
  • f (x) ⁇ w, x> + b (4)
  • Equation (4) ⁇ w, x> represents an inner product of the weight vectors w and x, and b represents a bias term.
  • the flatness of the function f may be maximized as in SVM. Since maximizing the flatness of the function f is equivalent to minimizing the magnitude of the weight vector w, the following equation (5) is eventually obtained.
  • Equation (5) under the constraint that an approximation is ⁇ epsilon (> 0) or if it fits within of the function f (x), indicating that minimizes
  • the subscript i of x i and y i in the constraint condition in the equation (5) is a variable for identifying training data, and is not related to the subscript i of the mapping function g i (y i ) (described later). The same applies to the equations (6) to (11).
  • Equation (5) may be too strict depending on the training data ⁇ (x 1 , y 1 ),..., (X q , y q ) ⁇ .
  • Variables ⁇ i and ⁇ i * are introduced, and the constraint condition is relaxed as in the following equation (6).
  • Equation (6) is a parameter that gives a trade-off between the flatness of the function f and the amount of training data exceeding ⁇ ⁇ .
  • Equation (6) The optimization problem of Equation (6) can be solved using Lagrange's undetermined coefficient method. In other words, if the value obtained by partial differentiation of Lagrange L in Expression (7) is set to 0, Expression (8) is established.
  • ⁇ i , ⁇ i * , ⁇ i , and ⁇ i * are constants of 0 or more.
  • equation (7) is eventually reduced to the maximization problem of equation (9).
  • the regression function can be extended to a non-linear function by using a kernel trick as in SVM.
  • the regression function is a non-linear function, detailed explanation is omitted, but the following maximization problem can be solved.
  • mapping function g i (y i ) can be obtained also by a statistical learning method.
  • mapping function g i (y i ) for the mapper 22 i will be described with reference to the flowchart of FIG.
  • step S21 the information processing apparatus 11 sets 1 to a variable j for specifying test data.
  • step S22 the information processing apparatus 11, the test data (Y j, xt j) a vector xt j of input to classifier 21 i, obtains a scalar value y tj corresponding to the vector xt j.
  • step S23 the information processing apparatus 11 converts the scalar value y tj into a value of “1” or “ ⁇ 1” (class discrimination test result Y tj ) depending on the magnitude compared with a predetermined threshold.
  • step S24 the information processing apparatus 11 determines whether the variable j is equal to k, that is, whether the class determination test result Y tj has been obtained for all the prepared test data.
  • step S24 If it is determined in step S24 that the variable j is not equal to k, that is, the class determination test result Y tj has not yet been obtained for all the test data, the information processing apparatus 11 sets the variable j to 1 in step S25. And the process returns to step S22. As a result, processing for obtaining the class discrimination test result Y tj for the next test data (Y j , xt j ) is performed.
  • step S24 if it is determined in step S24 that the variable j is equal to k, the process proceeds to step S26, and the information processing apparatus 11 stores k pieces of test data (Y j , xt j ) as TP, FP, TN. And FN, and for each scalar value y i .
  • the number of test data TP m , FP m , TN m , and FN m of TP, FP, TN, and FN is obtained for each scalar value y i .
  • step S27 the information processing apparatus 11 calculates a correct probability P as the class existence probability p i for each scalar value y i .
  • step S28 the information processing apparatus 11 maps the relationship between the scalar value y i and the class existence probability p i to a predetermined function such as Expression (2), Expression (3), etc. g i (y i ) To finish the process.
  • mapping function g i (y i ) for converting the scalar value y i supplied from the discriminator 21 i into the class existence probability p i can be obtained.
  • the class existence probability p i has been decided to adopt the correct probability P (precision) of the formula (1), adopted a value other than correctness probability P as the class existence probability p i It is also possible to do.
  • a misclassification probability FPR (False Positive Rate) may be used as the class existence probability p i .
  • the misclassification probability FPR can be calculated by the following equation (12).
  • the relationship of the scalar value y i and the class existence probability p i as shown in FIG. 6, a relationship of monotonically non-linear. Accordingly, in this case as well, a mapping function g i (y i) representing the relationship between the scalar value y i and the class existence probability p i is obtained by approximation with a linear function of equation (2) or a sigmoid function of equation (3). ).
  • step S2 of 2-class classification process of FIG. 3 the scalar value y i supplied from the classifier 21 i classes exist It is converted (mapped) into a probability p i .
  • the discriminant function f i (x) of the discriminator 21 i is generally determined using the above-described statistical learning theory such as SVM or AdaBoost, but is a scalar output using the discriminant function f i (x).
  • the value y i generally represents the distance from the discrimination boundary surface in many cases. In this case, although the correlation between the magnitude of the scalar value y i and the magnitude of the class existence probability is high, the discrimination boundary surface is generally non-linear, so the distance from the discrimination boundary surface and the class The relationship of existence probability is also non-linear. Further, the relationship between the distance from the discrimination boundary surface and the class existence probability greatly varies depending on the learning algorithm, learning data, learning parameters, and the like.
  • the information processing apparatus 11 compares the scalar values y 1 to y n output from the discriminators 21 1 to 21 n with those mapped by the mappers 22 1 to 22 n to a common index called class existence probability. Even if the device 23 compares on a uniform basis, accurate class discrimination can be performed. That is, in the information processing apparatus 11, in the two-class discrimination, the class discrimination can be accurately performed based on outputs from the plurality of discriminators 21 1 to 21 n .
  • the values output from the mappers 22 1 to 22 n are values having the meaning of class existence probability
  • the values output from the mappers 22 1 to 22 n are not limited to the two-class discrimination. Can also be used.
  • the values output by the mappers 22 1 to 22 n are used for probability integration with other algorithms, or the probability of time series data using HMM (Hidden Markov Model), Bayesian Network, or the like. It can also be used as a value.
  • the information processing apparatus 11 has been described as having two or more (n ⁇ 2) discriminators 21 1 to 21 n and mappers 22 1 to 22 n. Even if the apparatus 11 has only one discriminator 21 1 and mapper 22 1, it can be converted into useful values that can be used in addition to performing two-class discrimination. There is an advantageous effect over the conventional two-class discriminator described with reference to FIG. Therefore, the information processing apparatus 11 may be configured by one discriminator 21 and one mapper 22.
  • the information processing apparatus 11 has two or more (n ⁇ 2) discriminators 21 and mappers 22, the effect of enabling comparison of a plurality of scalar values with a common index and two-class discrimination
  • the series of processes described above can be executed by hardware or software.
  • a program constituting the software executes various functions by installing a computer incorporated in dedicated hardware or various programs. For example, it is installed from a program recording medium in a general-purpose personal computer or the like.
  • FIG. 7 is a block diagram showing an example of a hardware configuration of a computer that executes the above-described series of processes by a program.
  • a CPU Central Processing Unit
  • ROM Read Only Memory
  • RAM Random Access Memory
  • An input / output interface 105 is further connected to the bus 104.
  • the input / output interface 105 includes an input unit 106 including a keyboard, a mouse, and a microphone, an output unit 107 including a display and a speaker, a storage unit 108 including a hard disk and a non-volatile memory, and a communication unit 109 including a network interface.
  • a drive 110 for driving a removable medium 111 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory is connected.
  • the CPU 101 loads, for example, the program stored in the storage unit 108 to the RAM 103 via the input / output interface 105 and the bus 104 and executes the program. (2 class discrimination process and learning process) are performed.
  • the program executed by the computer (CPU 101) is, for example, a magnetic disk (including a flexible disk), an optical disk (CD-ROM (Compact Disc-Read Only Memory), DVD (Digital Versatile Disc), etc.), a magneto-optical disc, or a semiconductor.
  • the program is recorded on a removable medium 111 that is a package medium including a memory or the like, or is provided via a wired or wireless transmission medium such as a local area network, the Internet, or digital satellite broadcasting.
  • the program executed by the computer may be a program that is processed in time series in the order described in this specification, or in parallel or at a necessary timing such as when a call is made. It may be a program for processing.
  • steps described in the flowcharts include processes that are executed in parallel or individually even if they are not necessarily processed in time series, as well as processes that are executed in time series in the described order. Is also included.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本発明は、２クラス判別において、複数の判別器からの出力によりクラス判別を正確に行うことができるようにすることができる情報処理装置、情報処理方法、およびプログラムに関する。 判別器２１i（ｉ＝１乃至ｎ）は、入力されるベクトルｘを判別関数ｆi（ｘ）に代入して、スカラー値ｙiを出力する。写像器２２iは、後述する学習処理により求められた写像関数ｇi（ｙi）に、判別器２１iから供給されたスカラー値ｙiを代入することにより、判別器２１iからのスカラー値ｙiをクラス存在確率ｐiに変換する。比較器２３は、写像器２２1乃至２２nそれぞれから供給されるクラス存在確率ｐ1乃至ｐnを所定の閾値と比較することにより２クラスのうちのどちらのクラスかを判別し、判別結果を“１”かまたは“－１”の値として出力する。本発明は、例えば、２クラス判別を行う情報処理装置に適用できる。

Description

情報処理装置、情報処理方法、およびプログラム
　本発明は、情報処理装置、情報処理方法、およびプログラムに関し、特に、２クラス判別において、複数の判別器からの出力によりクラス判別を正確に行うことができるようにする情報処理装置、情報処理方法、およびプログラムに関する。
　例えば、人の顔の識別などの認識処理では、SVM（Support Vector Machines）やAdaBoostに代表される統計学習理論を用いた２クラス判別器がよく利用されている（例えば、非特許文献１参照）。
　図１は、一般的な２クラス判別器の構成例を示すブロック図である。
　判別器１は、SVMやAdaBoostに代表される統計学習理論を用いて予め求めた判別関数ｆ（ｘ）を有している。判別器１は、入力されてくるベクトルｘを判別関数ｆ（ｘ）に代入し、その結果としてスカラー値ｙを出力する。
　比較器２は、判別器１から供給されるスカラー値ｙの正負、または、スカラー値ｙを所定の閾値と比較した大小により、スカラー値ｙを２クラスのうちのいずれかに決定して出力する。具体的には、比較器２は、２つのクラスを表す値としての“１”かまたは“－１”のいずれかの値Yに変換して出力する。
Bernd Heisele, "Face Recognition with Support Vector Machines: Global versus Component-based Approach", Massachusetts Institute of Technology Center for Biological and Computational Learning Canmbridge, U.S.A.
　ところで、認識処理では、複数の判別器１からのスカラー値ｙに基づいて総合的な判別結果（クラス）を得たい場合がある。しかしながら、複数の判別器１それぞれが判別関数ｆ（ｘ）に応じて出力する値は、互いに独立の指標に基づく値であり、例えば、第1の判別器１が出力するスカラー値ｙ1と、第２の判別器１が出力するスカラー値ｙ2が仮に同一の値であったとしても、それぞれの値の持つ意味は異なる。従って、単純に複数の判別器１からのスカラー値ｙを正負や所定の閾値で一律に扱うと正しいクラス判別を行うことができないことが多い。
　本発明は、このような状況に鑑みてなされたものであり、２クラス判別において、複数の判別器からの出力によりクラス判別を正確に行うことができるようにするものである。
　本発明の一側面の情報処理装置は、判別関数を用いて、入力データに対するスカラー値を出力する判別手段と、テストデータを前記判別手段に供給したときのスカラー値であるテスト結果から計算される確率の値を用いて決定された写像関数を用いて、前記スカラー値を確率の値に写像する写像手段と、前記写像手段から出力される確率の値に基づいて、前記入力データが２クラスのうちのいずれのクラスかを判別するクラス判別手段とを備える。
　本発明の一側面の情報処理方法は、判別手段、写像手段、およびクラス判別手段を備え、入力データが２クラスのうちのいずれのクラスかを判別する情報処理装置の前記判別手段が、判別関数を用いて、前記入力データに対するスカラー値を出力し、前記写像手段が、テストデータを前記判別手段に供給したときのスカラー値であるテスト結果から計算される確率の値を用いて決定された写像関数を用いて、前記スカラー値を確率の値に写像し、前記クラス判別手段が、前記写像手段から出力される確率の値に基づいて、前記入力データが２クラスのうちのいずれのクラスかを判別する。
　本発明の一側面のプログラムは、コンピュータに、判別関数を用いて、入力データに対するスカラー値を出力する判別手段と、テストデータを前記判別手段に供給したときのスカラー値であるテスト結果から計算される確率の値を用いて決定された写像関数を用いて、前記スカラー値を確率の値に写像する写像手段と、前記写像手段から出力される確率の値に基づいて、前記入力データが２クラスのうちのいずれのクラスかを判別するクラス判別手段として機能させる。
　本発明の一側面においては、判別関数を用いて、入力データに対するスカラー値が出力され、テストデータを判別手段に供給したときのスカラー値であるテスト結果から計算される確率の値を用いて決定された写像関数を用いて、スカラー値が確率の値に写像され、写像された確率の値に基づいて、入力データが２クラスのうちのいずれのクラスかが判別される。
　情報処理装置は、独立した装置であっても良いし、装置内の一部のブロックであっても良い。
　本発明の一側面によれば、２クラス判別において、複数の判別器からの出力によりクラス判別を正確に行うことができるようにする。
一般的な２クラス判別器の構成例を示すブロック図である。 本発明を適用した情報処理装置の一実施の形態の構成例を示すブロック図である。 図２の情報処理装置による２クラス判別処理を説明するフローチャートである。 スカラー値とクラス存在確率の関係を示す図である。 写像関数を求める学習処理を説明するフローチャートである。 スカラー値とクラス存在確率のその他の関係を示す図である。 本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
　図２は、本発明を適用した情報処理装置の一実施の形態の構成例を示している。
　図２の情報処理装置１１は、ｎ個（ｎ≧２）の判別器２１1乃至２１nおよび写像器２２1乃至２２nと、比較器２３とにより構成されている。
　情報処理装置１１は、そこに入力される入力データとしてのベクトルｘが、例えば、クラスAかまたはクラスBの２クラスのうちのどちらのクラスに属するかを判別し、判別結果として“１”かまたは“－１”の値を出力する。例えば、情報処理装置１１は、ベクトルｘがクラスAに属する場合には“１”の値を、クラスBに属する場合には“－１”の値を出力する。従って、情報処理装置１１は、２クラス判別器である。
　判別器２１i（ｉ＝１乃至ｎ）は、図１を参照して説明した判別器１と同様に、入力されたベクトルｘを判別関数ｆi（ｘ）に代入して、スカラー値ｙiを出力する。なお、判別関数ｆi（ｘ）は、SVMやAdaBoostに代表される統計学習理論を用いて求められた関数である。
　写像器２２iは、後述する学習処理により求められた写像関数ｇi（ｙi）に、判別器２１iから供給されたスカラー値ｙiを代入することにより、判別器２１iからのスカラー値ｙiをクラス存在確率ｐiに変換する。変換後のクラス存在確率ｐiは、比較器２３に供給される。
　比較器２３は、写像器２２1乃至２２nそれぞれから供給されるクラス存在確率ｐ1乃至ｐnを所定の閾値と比較することにより２クラスのうちのどちらのクラスかを判別し、判別結果としての“１”かまたは“－１”の値を出力する。
　図３は、情報処理装置１１による２クラス判別処理のフローチャートである。
　初めに、ステップＳ１において、判別器２１iは、入力されたベクトルｘを判別関数ｆi（ｘ）に代入して、スカラー値ｙiを出力する。
　ステップＳ２において、写像器２２iは、判別器２１iから供給されたスカラー値ｙiを写像関数ｇi（ｙi）に代入することにより、クラス存在確率ｐiを求める。
　ステップＳ３において、比較器２３は、写像器２２1乃至２２nそれぞれから供給されるクラス存在確率ｐ1乃至ｐnに基づいてクラス判別し、判別結果を出力する。即ち、比較器２３は、“１”かまたは“－１”の値を出力して、処理を終了する。
　以上のように、情報処理装置１１では、入力データ（ベクトル）ｘに対して、複数の判別器２１1乃至２１nが判別を行い、その判別結果ｙ1乃至ｙnが写像関数によりクラス存在確率ｐ1乃至ｐnに変換される。そして、複数のクラス存在確率ｐ1乃至ｐnに基づいてクラス判別が行われ、最終的な判別結果が出力される。
　次に、写像器２２iで利用される写像関数ｇi（ｙi）を求める学習処理について説明する。
　学習処理には、実際に適用したい問題に対して十分な質および量のテストデータとして、ｋ個のテストデータ（Ｙj，ｘｔj）（ｊ＝１，２，・・・・ｋ）が予め用意される。ここで、テストデータ（Ｙj，ｘｔj）は、入力データに対応するテストデータのベクトルｘｔjと、それに対する既知（真値）のクラス判別結果Ｙjとの組みを表す。
　そして、情報処理装置１１は、学習処理として、ｋ個のテストデータ（Ｙj，ｘｔj）それぞれについて、次の処理を行う。即ち、情報処理装置１１は、ベクトルｘｔjを判別器２１iに入力し、ベクトルｘｔjに対応するスカラー値ｙtjを取得する。次に、情報処理装置１１は、スカラー値ｙtjを、所定の閾値と比較した大小により“１”かまたは“－１”の値（この値を、以下、クラス判別テスト結果Ytjと称する）に変換する。従って、学習処理では、最初に、情報処理装置１１は、判別器２１iと比較器２３を用いて、図１に示した従来の２クラス判別器と同様の処理を行って、クラス判別テスト結果Ytjを求める。
　テストデータ（Ｙj，ｘｔj）のベクトルｘｔjを、判別関数ｆi（ｘ）により判別器２１iで処理してクラス判別した結果であるクラス判別テスト結果Ytjと、ベクトルｘｔjのクラス判別結果の真値Ｙj（以下、真のクラス判別結果Ｙjと称する）との関係は、次の４つのカテゴリに分類することができる。
　即ち、クラス判別テスト結果Ｙtjと真のクラス判別結果Ｙjとの関係は、
　第１のカテゴリ：True Positive（以下、TPと称する）・・・真のクラス判別結果Ｙjが“１”で、クラス判別テスト結果Ｙtjも“１”である場合、
　第２のカテゴリ：False Positive（以下、FPと称する）・・・真のクラス判別結果Ｙjが“－１”で、クラス判別テスト結果Ｙtjが“１”である場合、
　第３のカテゴリ：True Negative（以下、TNと称する）・・・真のクラス判別結果Ｙjが“－１”で、クラス判別テスト結果Ｙtjも“－１”である場合、または、
　第４のカテゴリ：False Negative（以下、FNと称する）・・・真のクラス判別結果Ｙjが“１”で、クラス判別テスト結果Ｙtjが“－１”である場合
のいずれかに分類することができる。
　そこで、情報処理装置１１は、ｋ個のテストデータ（Ｙj，ｘｔj）それぞれを、TP，FP，TN、およびFNのいずれかのカテゴリに分類する。さらに、情報処理装置１１は、TP，FP，TN、およびFNのいずれかのカテゴリに分類されたｋ個のテストデータ（Ｙj，ｘｔj）を、スカラー値ｙtjに基づいてスカラー値ｙiごとに分類する。その結果、スカラー値ｙiごとにTP，FP，TN、およびFNに分類されたテストデータ（Ｙj，ｘｔj）を得ることができる。ここで、所定のスカラー値ｙiにおけるTP，FP，TN、およびFNそれぞれのテストデータの数を、それぞれ、TPm，FPm，TNm、およびFNmとする。
　情報処理装置１１は、スカラー値ｙiごとに、TPm，FPm，TNm、およびFNmを用いて、次式（１）で与えられる正解確率P（precision）をクラス存在確率ｐiとして求める。
Figure JPOXMLDOC01-appb-M000001
　スカラー値ｙiとクラス存在確率ｐiとしての正解確率Pとの関係は、一般的には、図４に示されるような、非線形な単調増加の関係となる。
　そこで、情報処理装置１１は、十分な質および量のｋ個のテストデータ（Ｙj，ｘｔj）によって得られた図４に示されるスカラー値ｙiとクラス存在確率ｐiとしての正解確率Pとの関係を所定の関数に近似することで、写像器２２iの写像関数ｇi（ｙi）を求める。
　図４の関係を関数近似する手法としては、いくつか考えられるが、例えば、最も簡単な手法として、最小自乗法によって直線に近似することが考えられる。
　即ち、図４に示される関係を直線に近似した場合、写像関数ｇi（ｙi）は、次式（２）で表すことができる。
　　　　ｐi＝ｇi（ｙi）＝ａ・ｙi＋ｂ・・・・・・・・（２）
　また、図４を参照してわかるように、スカラー値ｙiとクラス存在確率ｐiとの関係は、一般的に、シグモイド（sigmoid）関数に似ているので、図４に示される関係を、シグモイド関数で近似することも考えられる。シグモイド関数で近似した場合の写像関数ｇi（ｙi）は、次式で表すことができる。
Figure JPOXMLDOC01-appb-M000002
　なお、式（２）および式（３）において、ａおよびｂは、図４に示される関係に最も適合するように求められた所定の定数である。
　また、写像関数ｇi（ｙi）を、例えば、SVR(Support Vector Regression)のような統計学習の手法によって求めることも可能である。
　統計学習の手法によって写像関数ｇi（ｙi）を求める例として、SVRの一種であるε－SV regressionによる写像関数の求め方について簡単に説明する。
　ε－SV regressionでは、訓練データ｛（ｘ1，ｙ1），・・・，（ｘq，ｙq）｝に対して、次式（４）の回帰関数を求めることと同義である。
　　　　ｆ（ｘ）＝＜ｗ，ｘ＞＋ｂ　　・・・・・・・・・・・・・（４）
　式（４）において、＜ｗ，ｘ＞は、重みベクトルｗとｘの内積を表し、ｂは、バイアス項を表す。
　最適な関数ｆ（ｘ）を求めるためには、SVMと同様に、関数ｆのflatnessを最大化すればよい。そして、関数ｆのflatnessの最大化は、重みベクトルｗの大きさを最小化することと等価であるため、結局、次式（５）を求めることになる。
Figure JPOXMLDOC01-appb-M000003
　式（５）は、関数ｆ（ｘ）の近似したものが±ε（＞０）以内に収まればよいという制約条件の下、||ｗ||2／２を最小化することを表す。なお、式（５）における制約条件内のｘi，ｙiの添え字ｉは、訓練データを識別する変数であり、写像関数ｇi（ｙi）の添え字ｉとは関係がない（後述する式（６）乃至式（１１）についても同様である）。
　式（５）の制約条件は、訓練データ｛（ｘ1，ｙ1），・・・，（ｘq，ｙq）｝によっては厳しすぎる場合があり、そのような場合には、２つのスラック変数ξi，ξi *を導入して、次式（６）のように、制約条件を緩める。
Figure JPOXMLDOC01-appb-M000004
　式（６）における定数Ｃは、関数ｆのflatnessと±εを超える訓練データ量とのトレードオフを与えるパラメータである。
　式（６）の最適化問題は、ラグランジュの未定係数法を用いて解くことができる。即ち、式（７）のラグランジュLを偏微分したものを０とおくと式（８）が成立する。
Figure JPOXMLDOC01-appb-M000005
Figure JPOXMLDOC01-appb-M000006
　式（７）および式（８）において、αi，αi *，ηi，ηi *それぞれは、０以上の定数である。
　式（８）を式（７）に代入すると、式（７）は、結局、次式（９）の最大化問題に帰着される。
Figure JPOXMLDOC01-appb-M000007
　ここで、式（８）から、ηi，ηi *は、最大化問題とは無関係であり、また、
Figure JPOXMLDOC01-appb-M000008
 であるので、回帰関数ｆ（ｘ）は、式（１０）のように表すことができる。
Figure JPOXMLDOC01-appb-M000009
　また、回帰関数は、SVMと同様にカーネルトリックを用いることにより、非線形な関数に拡張することも可能である。回帰関数を非線形な関数とした場合には、詳細な説明は省略するが、以下の最大化問題を解けばよいことになる。
Figure JPOXMLDOC01-appb-M000010
　以上のように回帰関数ｆ（ｘ）を求めることにより、統計学習手法によっても、写像関数ｇi（ｙi）を求めることが可能である。
　次に、図５のフローチャートを参照して、写像器２２iのための写像関数ｇi（ｙi）を求める学習処理を説明する。
　初めに、ステップＳ２１において、情報処理装置１１は、テストデータを特定するための変数ｊに１をセットする。
　ステップＳ２２において、情報処理装置１１は、テストデータ（Ｙj，ｘｔj）のベクトルｘｔjを判別器２１iに入力し、ベクトルｘｔjに対応するスカラー値ｙtjを取得する。
　ステップＳ２３において、情報処理装置１１は、スカラー値ｙtjを、所定の閾値と比較した大小により“１”かまたは“－１”の値（クラス判別テスト結果Ytj）に変換する。
　ステップＳ２４において、情報処理装置１１は、変数ｊがｋに等しいか、即ち、用意したすべてのテストデータについてクラス判別テスト結果Ytjを求めたかを判定する。
　ステップＳ２４で、変数ｊがｋに等しくない、即ち、すべてのテストデータについてクラス判別テスト結果Ytjをまだ求めていないと判定された場合、情報処理装置１１は、ステップＳ２５において、変数ｊを１だけインクリメントさせ、処理をステップＳ２２に戻す。これにより、次のテストデータ（Ｙj，ｘｔj）についてクラス判別テスト結果Ytjを求める処理が行われる。
　一方、ステップＳ２４で、変数ｊがｋに等しいと判定された場合、処理はステップＳ２６に進み、情報処理装置１１は、ｋ個のテストデータ（Ｙj，ｘｔj）を、TP，FP，TN、およびFNの４つのカテゴリごと、および、スカラー値ｙiごとに分類する。その結果、スカラー値ｙiごとに、TP，FP，TN、およびFNのテストデータの数TPm，FPm，TNm、およびFNmが得られる。
　そして、ステップＳ２７において、情報処理装置１１は、スカラー値ｙiごとに、クラス存在確率ｐiとしての正解確率Pを算出する。
　ステップＳ２８において、情報処理装置１１は、スカラー値ｙiとクラス存在確率ｐiとの関係を、式（２）、式（３）等の所定の関数に近似した写像関数ｇi（ｙi）を求めて、処理を終了する。
　以上のようにして、判別器２１iから供給されるスカラー値ｙiを、クラス存在確率ｐiに変換するための写像関数ｇi（ｙi）を求めることができる。
　なお、上述した例では、クラス存在確率ｐiとして、式（１）で表される正解確率P（precision）を採用することとしたが、正解確率P以外の値をクラス存在確率ｐiとして採用することも可能である。例えば、誤判別確率FPR（False Positive Rate）をクラス存在確率ｐiとしてもよい。誤判別確率FPRは、次式（１２）で計算することができる。
Figure JPOXMLDOC01-appb-M000011
　クラス存在確率ｐiとして誤判別確率FPRを用いた場合の、スカラー値ｙiとクラス存在確率ｐiの関係も、図６に示されるように、非線形で単調増加の関係となる。従って、この場合も、式（２）の一次関数や、式（３）のシグモイド関数で近似することにより、スカラー値ｙiとクラス存在確率ｐiとの関係を表す写像関数ｇi（ｙi）を求めることができる。
　以上のように、学習処理により求められた写像関数ｇi（ｙi）を用いて、図３の２クラス判別処理のステップＳ２において、判別器２１iから供給されたスカラー値ｙiがクラス存在確率ｐiに変換（写像）される。
　判別器２１iの判別関数ｆi（ｘ）は、一般的には上述したSVMやAdaBoost等の統計学習理論を用いて決定されるが、判別関数ｆi（ｘ）を用いて出力されるスカラー値ｙiは、一般的に判別境界面からの距離を表していることが多い。この場合には、スカラー値ｙiの大きさとクラス存在確率の大きさには相関関係が高いが、判別境界面は一般的に非線形な形状をしているため、判別境界面からの距離とクラス存在確率の関係も非線形なものとなる。また、判別境界面からの距離とクラス存在確率の関係は、学習アルゴリズムや学習データ、学習パラメータ等によっても大きく異なる。そのため、判別器２１1乃至２１nが出力するスカラー値ｙ1乃至ｙnを比較器２３において一律の基準で比較すると、判別器２１1乃至２１nが出力する値に共通性がないため、正しいクラス判別結果を得ることが困難であった。
　情報処理装置１１では、判別器２１1乃至２１nが出力したスカラー値ｙ1乃至ｙnを、写像器２２1乃至２２nでクラス存在確率という共通の指標に写像したものを比較するので、比較器２３が一律の基準で比較しても正確なクラス判別を行うことができる。即ち、情報処理装置１１では、２クラス判別において、複数の判別器２１1乃至２１nからの出力によりクラス判別を正確に行うことができる。
　また、写像器２２1乃至２２nそれぞれが出力する値はクラス存在確率という意味を持った値であるため、写像器２２1乃至２２nそれぞれが出力する値を、２クラス判別を行うため以外にも利用することができる。例えば、写像器２２1乃至２２nそれぞれが出力する値を、他のアルゴリズムとの確率統合に用いたり、HMM (Hidden Markov Model)やBayesian Network（ベイジアンネットワーク）等を用いた時系列データの確率の値として利用することも可能である。
　従って、上述した実施の形態では、情報処理装置１１が、２以上（ｎ≧２）の判別器２１1乃至２１nと写像器２２1乃至２２nを有するものとして説明したが、仮に、情報処理装置１１が１個の判別器２１1と写像器２２1しか有していない場合であっても、２クラス判別を行う以外にも利用可能な有用な値に変換することができるという点で、図１を参照して説明した従来の２クラス判別器よりも有利な効果を奏する。従って、情報処理装置１１は、判別器２１および写像器２２それぞれ１つずつで構成されるものでもよい。
　そして、情報処理装置１１が、２以上（ｎ≧２）の判別器２１と写像器２２を有する場合には、複数のスカラー値を共通の指標で比較することを可能とする効果と２クラス判別を行う以外にも利用可能な有用な値に変換することができるという２つの効果を奏することになる。
　上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
　図７は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
　コンピュータにおいて、CPU（Central Processing Unit）１０１，ROM（Read Only Memory）１０２，RAM（Random Access Memory）１０３は、バス１０４により相互に接続されている。
　バス１０４には、さらに、入出力インタフェース１０５が接続されている。入出力インタフェース１０５には、キーボード、マウス、マイクロホンなどよりなる入力部１０６、ディスプレイ、スピーカなどよりなる出力部１０７、ハードディスクや不揮発性のメモリなどよりなる記憶部１０８、ネットワークインタフェースなどよりなる通信部１０９、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア１１１を駆動するドライブ１１０が接続されている。
　以上のように構成されるコンピュータでは、CPU１０１が、例えば、記憶部１０８に記憶されているプログラムを、入出力インタフェース１０５及びバス１０４を介して、RAM１０３にロードして実行することにより、上述した一連の処理（２クラス判別処理や学習処理）が行われる。
　コンピュータ（CPU１０１）が実行するプログラムは、例えば、磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等）、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア１１１に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
　なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
　本明細書において、フローチャートに記述されたステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
　本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
　１１　情報処理装置，　２１1乃至２１n　判別器，　２２1乃至２２n　写像器，　２３　比較器

Claims (9)

  1. 　判別関数を用いて、入力データに対するスカラー値を出力する判別手段と、
    　テストデータを前記判別手段に供給したときのスカラー値であるテスト結果から計算される確率の値を用いて決定された写像関数を用いて、前記スカラー値を確率の値に写像する写像手段と、
    　前記写像手段から出力される確率の値に基づいて、前記入力データが２クラスのうちのいずれのクラスかを判別するクラス判別手段と
    　を備える情報処理装置。
  2. 　複数の前記判別手段と前記写像手段を備え、
    　前記クラス判別手段は、複数の前記写像手段から出力される確率の値に基づいて、前記入力データが２クラスのうちのいずれのクラスかを判別する
    　請求項１に記載の情報処理装置。
  3. 　前記確率はクラス存在確率であり、
    　前記写像手段は、前記スカラー値を前記クラス存在確率の値に写像する
    　請求項２に記載の情報処理装置。
  4. 　前記クラス存在確率は正解確率である
    　請求項３に記載の情報処理装置。
  5. 　前記クラス存在確率は誤判別確率である
    　請求項３に記載の情報処理装置。
  6. 　前記写像関数は１次関数またはシグモイド関数で表される
    　請求項３に記載の情報処理装置。
  7. 　前記写像手段は、前記写像関数をSupport Vector Regressionにより求める
    　請求項３に記載の情報処理装置。
  8. 　判別手段、写像手段、およびクラス判別手段を備え、入力データが２クラスのうちのいずれのクラスかを判別する情報処理装置の
    　前記判別手段が、判別関数を用いて、前記入力データに対するスカラー値を出力し、
    　前記写像手段が、テストデータを前記判別手段に供給したときのスカラー値であるテスト結果から計算される確率の値を用いて決定された写像関数を用いて、前記スカラー値を確率の値に写像し、
    　前記クラス判別手段が、前記写像手段から出力される確率の値に基づいて、前記入力データが２クラスのうちのいずれのクラスかを判別する
    　情報処理方法。
  9. 　コンピュータに、
    　判別関数を用いて、入力データに対するスカラー値を出力する判別手段と、
    　テストデータを前記判別手段に供給したときのスカラー値であるテスト結果から計算される確率の値を用いて決定された写像関数を用いて、前記スカラー値を確率の値に写像する写像手段と、
    　前記写像手段から出力される確率の値に基づいて、前記入力データが２クラスのうちのいずれのクラスかを判別するクラス判別手段
    　として機能させるためのプログラム。
PCT/JP2009/059308 2008-05-21 2009-05-21 情報処理装置、情報処理方法、およびプログラム Ceased WO2009142253A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP09750615A EP2287784A1 (en) 2008-05-21 2009-05-21 Information processing device, information processing method, and program
CN200980000425A CN101681448A (zh) 2008-05-21 2009-05-21 信息处理单元、信息处理方法和程序
US12/668,580 US20100287125A1 (en) 2008-05-21 2009-05-21 Information processing unit, information processing method, and program
BRPI0903904-0A BRPI0903904A2 (pt) 2008-05-21 2009-05-21 Unidade e método de processamento de informação, e, programa

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2008-133210 2008-05-21
JP2008133210A JP2009282685A (ja) 2008-05-21 2008-05-21 情報処理装置、情報処理方法、およびプログラム

Publications (1)

Publication Number Publication Date
WO2009142253A1 true WO2009142253A1 (ja) 2009-11-26

Family

ID=41340179

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2009/059308 Ceased WO2009142253A1 (ja) 2008-05-21 2009-05-21 情報処理装置、情報処理方法、およびプログラム

Country Status (6)

Country Link
US (1) US20100287125A1 (ja)
EP (1) EP2287784A1 (ja)
JP (1) JP2009282685A (ja)
CN (1) CN101681448A (ja)
BR (1) BRPI0903904A2 (ja)
WO (1) WO2009142253A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5565190B2 (ja) * 2010-08-11 2014-08-06 富士ゼロックス株式会社 学習モデル作成プログラム、画像識別情報付与プログラム、学習モデル作成装置及び画像識別情報付与装置
US10558935B2 (en) * 2013-11-22 2020-02-11 California Institute Of Technology Weight benefit evaluator for training data
US9858534B2 (en) 2013-11-22 2018-01-02 California Institute Of Technology Weight generation in machine learning
US10535014B2 (en) 2014-03-10 2020-01-14 California Institute Of Technology Alternative training distribution data in machine learning
US9953271B2 (en) 2013-11-22 2018-04-24 California Institute Of Technology Generation of weights in machine learning
CN106203460A (zh) 2015-05-05 2016-12-07 杜比实验室特许公司 训练信号处理模型以用于信号处理系统中的部件替换
US10444213B2 (en) * 2016-08-25 2019-10-15 Viavi Solutions Inc. Spectroscopic classification of conformance with dietary restrictions
KR102833301B1 (ko) * 2019-05-10 2025-07-18 한국전자통신연구원 영상 인식 장치, 영상 인식 장치의 동작 방법, 그리고 영상 인식 장치를 포함하는 컴퓨팅 장치
CN116778260B (zh) * 2023-08-17 2023-11-17 南京航空航天大学 基于AdaBoost集成学习的航空铆钉齐平度检测方法、装置及系统

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003036262A (ja) * 2001-07-23 2003-02-07 Nippon Telegr & Teleph Corp <Ntt> 重要文抽出方法、装置、プログラム、および同プログラムを記録した記録媒体

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2690027B2 (ja) * 1994-10-05 1997-12-10 株式会社エイ・ティ・アール音声翻訳通信研究所 パターン認識方法及び装置
JP2006330935A (ja) * 2005-05-24 2006-12-07 Fujitsu Ltd 学習データ作成プログラム、学習データ作成方法および学習データ作成装置
US7529403B2 (en) * 2005-12-06 2009-05-05 Mitsubishi Electric Research Laboratories, Inc. Weighted ensemble boosting method for classifier combination and feature selection

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003036262A (ja) * 2001-07-23 2003-02-07 Nippon Telegr & Teleph Corp <Ntt> 重要文抽出方法、装置、プログラム、および同プログラムを記録した記録媒体

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
BERND HEISELE: "Face Recognition with Support Vector Machines: Global versus Component-based Approach", MASSACHUSETTS INSTITUTE OF TECHNOLOGY CENTER FOR BIOLOGICAL AND COMPUTATIONAL LEARNING CANMBRIDGE
KAZUKO TAKAHASHI ET AL.: "Fukusu no Bunrui Score o Mochiita Class Shozoku Kakuritsu no Suitei", JOURNAL OF NATURAL LANGUAGE PROCESSING, vol. 15, no. 2, 10 April 2008 (2008-04-10), pages 3 - 38 *
O. LUACES ET AL.: "Prediction of probability of survival in critically ill patients optimizing the Area Under the ROC Curve", PROCEEDINGS OF IJCAI-2007, January 2007 (2007-01-01), pages 956 - 961, XP008128167 *

Also Published As

Publication number Publication date
EP2287784A1 (en) 2011-02-23
JP2009282685A (ja) 2009-12-03
US20100287125A1 (en) 2010-11-11
CN101681448A (zh) 2010-03-24
BRPI0903904A2 (pt) 2015-06-30

Similar Documents

Publication Publication Date Title
WO2009142253A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US11580383B2 (en) Neural network learning device, method, and program
US8401283B2 (en) Information processing apparatus, information processing method, and program
Khan et al. Principal component analysis-linear discriminant analysis feature extractor for pattern recognition
US9251402B2 (en) Association and prediction in facial recognition
Parrish et al. Classifying with confidence from incomplete information
Soltane et al. Face and speech based multi-modal biometric authentication
JP2014026455A (ja) メディアデータ解析装置、方法、及びプログラム
US20030113002A1 (en) Identification of people using video and audio eigen features
JP2011154501A (ja) 学習装置、学習方法、識別装置、識別方法、プログラム、及び情報処理システム
CN104361345A (zh) 基于约束极速学习机的脑电信号分类方法
JP2011154500A (ja) 学習装置、学習方法、識別装置、識別方法、及びプログラム
US20120095762A1 (en) Front-end processor for speech recognition, and speech recognizing apparatus and method using the same
WO2014118978A1 (ja) 学習方法、情報処理装置および学習プログラム
CN119580998A (zh) 一种基于聚类进行跨域面部表情识别的自闭症诊断方法
Pohjalainen et al. Feature Selection for Speaker Traits.
Singh High level speaker specific features modeling in automatic speaker recognition system
Egas-López et al. Predicting a cold from speech using fisher vectors; svm and xgboost as classifiers
Cipli et al. Multi-class acoustic event classification of hydrophone data
Nemati et al. Particle swarm optimization for feature selection in speaker verification
Liu et al. Fuzzy C-mean algorithm based on “complete” Mahalanobis distances
Fields et al. Machine learning for source classification utilizing infrasound data
Kurogi et al. An analysis of speaker recognition using bagging CAN2 and pole distribution of speech signals
Tomasz et al. Analysis of Decision Fusion in Speech Detection
Chen et al. Sparse Bayesian approach to classification

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200980000425.X

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 12668580

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2009750615

Country of ref document: EP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09750615

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: PI0903904

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20100114