JPH08512148A - トピック判別機 - Google Patents

Abstract

(57)【要約】 改善されたトピック判別機は、音声イベント検出機の一部として集積された音声認識機またはワードおよびフレーズスポッターと、トピック依存イベント頻度で訓練されたトピック分類機とを含む。イベント頻度は、テキストイベント検出機で転記されたデータと音声イベント検出機で転記されていない音声データのいずれかまたは両方から決定される。本発明の別の局面によれば、フレーズスポッターは、音声認識機の仮説された転記の出力を解析する必要なしでフレーズの存在を検出するために用いられる。本発明の別の局面によれば、そのイベント頻度で、トピック記述決定がなされる潜在的音声イベントのサブセットを選択するために改善された技法が用いられる。最後に、本発明の別の局面によれば、トピックモデリングの改善された方法がトピック判別機の性能を改善するために用いられる。

Description

【発明の詳細な説明】 トピック判別機 発明の分野 本発明は、一般的に音声認識システムに関し、特に、口頭のメッセージの改良 されたトピック判別機に関する。発明の背景 口頭のデータに用いられるトピック判別機は、データを既知のトピックのセッ トのうちのひとつに分類するため、もしくは既知のトピックに属するデータを他 の属するデータと識別するために用いられる。トピック識別は、通常音声データ それ自体から抽出された特徴のみを用いて実行される。トピック識別に類似して いるが同一ではないアプリケーションは、これまでにに開示されており、例えば 「ギスティング」「トピック識別」そして「言語の自動的取得」といった言葉で 示されてきた。 音声トピック判別機のこれまでの使用例には、１９９２年のローリセック（Ro hlicek）、アユーソ（Ayuso）等による；１９９２年（Ｊ．Ｒ．ローリセック、 Ｄ．アユーソ等著ＩＥＥＥ ＩＣＡＳＳＰ社刊「ギスティング会話的音声（Gisti ng Conversational Speech）」第２章１１３〜１１６ページ）に記述されたよう に、フライトが着陸するか離陸するか、もしくは着陸、離陸のどちらかもしない か、による航空交通管制ダイアログの記録の分類を含む。 トピック判別機のインプリメンテーションは、一般的に、対象となるトピック カテゴリーを人間のオペレータが選択するトレーニン グサイクルを含む。選択されたトピックは、例えば、（１）天気（２）芸術（３ ）スポーツなどである。トレーニングサイクルの一環として、オペレータはまた 、それぞれの選択されたトピックカテゴリーを実証する記録された音声メッセー ジのセットを提供する。上記の例では、オペレータは天気についての記録された 音声メッセージのセット、芸術についての記録された音声メッセージのセット、 スポーツについての記録された音声メッセージのセットを提供する。トレーニン グに用いられたすべての音声メッセージは、一般的にトレーニング資本（traini ng corpus）として知られている。 トレーニング資本は一般的に、例えば、一人もしくはそれ以上の人間が特定の トピック（例：天気）について話すように指示されたところにおいて、一人もし くはそれ以上の人間の音声サンプルを記録することによって展開する。良好なト レーニング資本は、典型的に大勢の人間から記録された音声メッセージを含む。 トレーニング資本は、音声メッセージの書き写しや、聴覚的に記録された音声メ ッセージ、またはその両方を含む。 トビック判別機が一旦トレーニング資本に供給されると、判別機は、予め選択 されたうちのどのトピックが受け取られた各音声メッセージの内容に最も適切か を決定しようと試みる。上記の例を踏まえて、トピック判別機が入力音声メッセ ージとともに供給された場合、決定されたメッセージの内容に基づき、判別機は 、入力された音声メッセージの決定された内容が、他のカテゴリー内のトレーニ ング資本のそれらの音声メッセージよりもカテゴリーのひとつにあるトレーニン グ資本の音声メッセージの内容により似ているかどう かを認識しようと試みる。 トピック分類のためのアプローチが過去にいくつも試みられてきた。問題に対 する基本的なアプローチは、テキストが音声認識機によってつくられた状態のテ キスト分類問題としてトピック分類を扱うことであった。例えば、ファレル等の （１９９３年ＩＥＥＥ ＩＣＡＳＳＰ社刊Ｋ．ファレル（K．Farrell）Ｒ．Ｊ． マモネ（R.J．Mammone）Ａ．Ｌ．ゴリン（A.L．Gorin）著「増分学習を用いた適 応言語取得（Adaptive Language Acquisition Using Incremental Learning）」 第１章５０１〜５０４ページ）は、話された電話メッセージを所望の「アクショ ン」との組合せを調査した。考えられたアクションは、小売店のいくつかの売り 場の中のひとつへのメッセージの経路指定である。このシステムは、各言葉が単 一層のニューラルネットワークに基づいており、そのニューラルネットワークの 接続重み（connection weights）は、各言葉がニューラルネットワークの入力層 におけるノードにより表現されるものであるところのシステムに知られた言葉と 、各アクションが出力層においてノードにより示されるところの所望のアクショ ンとの「アソシエーション」に関連する。すべての可能なアクションが知られて いると仮定する一方、システムは、カストマによって用いられているものとして 新たな語葉を対話的に学ぶ能力を有する。話された言葉と現在のシステムの語葉 との間に音響的類似性評価を用いることにより、入ってくるメッセージのなかの 知らない言葉が特定される。新たな言葉は、その後新たな入力ノードの形成を経 て語黄に追加され、望ましいアクションを伴うそのアソシエーションは、反復ト レーニングプロセ スを経て学習される。トレーニングプロセスは、当初誤分類されたメッセージに 現われる新たな言葉についての学習レートを増やすよう試みる。しかしながら、 学習プロセスは、システムがアクションの正確さに対するものとしてユーザーへ 質問（例：「家具売り場へおつなぎしますか？」）することが可能であり、これ により望ましくない推奨を生むそれらのメッセージを再学習することを必要とす る。加えて、現在論じているシステムは、ユーザーが「自然に」または理解して もらうための特別な努力無くして話しているところのアプリケーション（これは 独立して話されているひとつひとつのワード（言葉）にかかっている）には使用 できない。関連する研究がゴーリン等の（１９９３年ＩＥＥＥ ＩＣＡＳＳＰ社 刊Ａ．Ｌ．ゴーリン（A.L．Golin）Ｌ．Ｇミラー（L.G.Miller）Ｓ．Ｅ．レビン ソン（S.E．Levinson）共著「話し言葉取得におけるいくつかの実験（Some Expe riments in Spoken Language Acquisition）」第１章５０５〜５０８ページ）に 記述されている。 ファレル等およびゴーリン等によって提案され、それにより明らかに動機付け られたシステムと似たシステムが、ローズ等の（１９９１年ＩＥＥＥ ＩＣＡＳ ＳＰ社刊Ｒ．Ｃ．ローズ（R.C．Rose）、Ｅ．Ｉ．チャン（E.I．Chang）、Ｒ． Ｐ．リップマン（R.P．Lippmann）共著「ボイスメッセージからの情報再生のた めの技術（Techniques of r Information Retrival from Voice Messages）」第 １章３１７〜３２０ページ）に記述されている。後者のグループは、重みが分類 エラーを最小化するために訓練されている単一層のニューラルネットワーク分類 機とともにワードスポッティングシス テムの利用を提案した。このシステムは与えられたイベントの「正確性」の表示 として各推定上のヒットと提携するスポッティングスコアを用いる。しかしなが ら、ファレル等とゴーリン等のシステムと違い、それは対話的使用を通して新た な言葉を学ぶ能力はもたない。 Ｊ．Ｒ．ローリセックとＤ．アユーソ（１９９２年）のスープラ、そしてデー ネンバーグ等（１９９３年ＩＥＥＥ ＩＣＡＳＳＰ社刊L．Denenberg、H．Gish共 著「リアルタイムにおける会話的音声のギスティング（Gisting Conversational Speech in Real Time）」第２章１３１〜１３４ページ）は会話的音声の「ギス ティング」のためのシステムを提案し設計した。このシステムが目指すとことの アプリケーションは、航空交通管制官と航空機のパイロット間の相方向コミュニ ケーションであった。本システムは、管制官またはパイロットが各送信において どのようなことを言っていたのかを概ね決定しようと試みる；例えば、離陸また は着陸とか、指名された航空機が入る、といったフライトシナリオとして定義さ れた音声の「ギスト」をつかむことである。この仕事は、パイロットと管制官の 間のダイアログの抑制された性質によって扱いやすいようにつくられている。典 型的に各送信は、フライト認識番号から始めなければならず、その後、あらかじ め数の知られたひとつもしくはそれ以上の指示を含む。このために、ギスティン グシステムのひとつの構成要素を含むワード認識機は、共通して発生するワード とフレーズの数のそれぞれを形成するように特別に設計された有限状態のネット ワークを利用することができる；あまり共通して発生しないワードは、はっき りとは形成されないが、その代わりに音素あるいは「充填物（filler）」ループ により表示される。 メッセージ分類はギスティングシステムにおいて、認識された発声に存在する 各ワードまたはフレーズを表示する２進（binary）ベクトルを形成することによ って実行される。このベクトルは認識されたトレーニングデータのいくつかの量 に基づいて事前につくられた分類ツリーへの入力として見なされる。ブレーミン 等（1984年カリフォルニア州ベルモントのワッズワース・インターナショナル・ グループ（Wadsworth International Group）社刊Ｌ．ブレイマン（L．Breiman ）、Ｊ．Ｈ．フリードマン（J.H．Friedman）、Ｒ．Ａ．オルシェン（R.A．Olsh en）、Ｃ．Ｊ．ストーン（C.J．Stone）共著「分類と回帰ツリー（Classificati on and Regression Trees）」）参照。ツリーはワードとフレーズのセットがあ るかないかかについての「質問」の最適なセットに基づいて望ましい分類を実行 する。基本的アプローチのバリエーションはたったひとつだけの最善のものの代 わりにＮベスト分類または最もありそうなワードのシーケンス分類を用いて認識 エラーの作用を減らそうと試みる。 ギリック等（１９９３年ＩＥＥＥ ＩＣＡＳＳＰ社刊Ｌ．ギリック（L．Gillic k）、Ｊ．ベーカー（J．Baker）等共著「トピックとスピーカー特定のための電 話スピーチを用いたラージボキャブラリー連続音声認識のアプリケーシヨン（Ap plication of Large Vocabulary Continuous Speech Recognnition to Topic an d Speaker Identification Using Telephone Speech）」第２章４７１〜４７４ ページ）は、ＮＩＳＴスイッチボード資本により提供されるような、 電話上の会話的音声に対するトピック特定のためのシステムを開発した。本シス テムは、一般的な非限定的音声に用いられることを目的にしていることから、大 きなボキャブラリ（語彙）とバイグラムもしくは確率的「言語」モデルを用いる 。本システムは、与えられたトピックに等しい「キーワード」のセットを用いる 。これらのワードは、人間の転記者によってコンパイルされたテキストの書き写 しをとり、可能なキーワードのそれぞれに対する予備テーブル（Contingency ta ble）をつくることによって見つけられ、予備テーブルは、与えられたワードが しばしばもしくは度々その中で現われた会話の数を表に作成し、二つあるいはそ れ以上のトピックにわたりあるワードの発生頻度が明らかに違うかどうかという ような仮説テストの基本として用いられる。ギリック等のシステムでは、テキス トの書き写しを用いてトピックのモデルをも形成し、この場合はトピックで条件 付けられたキーワード頻度のユニグラムまたは多項式モデルがそれにあたる。ト ピック分類は、入力音声メッセージ上にラージボキャブラリのワード認識機を動 かし、匹敵するそれぞれのトピックモデルに対して結果として起こる間違った書 き写しのスコアを数えることによって実行される−−会話はモデルのスコアが最 も高かったトピックに属するものとして分類される。本システムでは、認識機の 出力の正確性のスコア表示を何らかのワードまたはフレーズを持つに関連づける という試みは為されない。すなわち、認識プロセスの間に発生した統計のどれも 引き続き起こる分類プロセスに寄与するものではない。 まとめると、トピックによる自然な口頭の音声メッセージを判別 するための技術は従来の技術により説明される。いくつかは単純に音声認識機を 利用して話されたデータの仮説付けられた書き写しを生み、そして正しく転記さ れたテキストによってのみ学習されたテキストを元にしたトピック判別システム に入力される。ローズ等（１９９１年）はテキストトレーニングデータのみなら ず、それらのトピック判別機の設計におけるそれらのワードスポッターの合同し たいくつかの特徴をも用いている。 従来の技術は一定の状況下で適用可能だったが、本発明によって克服される制 限が存在する。特に、すべての従来の技術は、トピック判別機を訓練するために 転記された音声データを求めるばかりか、フレーズスポッターをトピック判別に 有効であるときの検出機として用いることもせず、ワードまたはフレーズスポッ ティングコンフィデンス計測をパフォーマンスの上昇のために用いることもせず 、またはトレーニングあるいは実際のオペレーションの間ある種のユーザーフィ ードバックすら求めている。本発明の目的 本発明の全般的な目的は、従来の技術が適用できない状況に向けたトピック判 別機を提供し、従来の技術を用いて可能だった状況に対して実質土改善されたト ピック判別能力を提供することである。 本発明のより特別な目的は、判別機のトピックモデリング構成要素に対して書 き写したデータが少ないまたは全く得られないときにも作動可能なトピック判別 機を提供することである。 本発明のもう一つの特別な目的は、予め記録した音声データを用 いるときのような、ユーザーフィードバックが望まれないもしくは不可能な状況 を克服することである。 さらに本発明のもう一つの特別な目的は、改良されたトピック判別機を提供し 、これを複雑なフレーズの発生に用いることができる。例えば、ドルのいくらか の額の場合、ワードまたはワードの連続に加えて、ベースとなるトピック判別決 定への入力イベントとしている。 本発明のさらなるもうひとつの目的は、トピック判別機において２進検出決定 または仮説付けられた書き写しを用いるよりはワードあるいはフレーズスポッタ ーからのコンフィデンススコアを直接用いることによってトピック判別機の能力 を改良することである。 本発明のもうひとつの目的は、音声イベント検出機によって探知される潜在的 音声イベントのひとつのセットを、もし可能であれば転記されたトレーニングデ ータを用いて決定する方法を提供することである。本発明の概要 これらのそして他の目的は、音声イベント検出機の一部として統合された音声 認識機もしくはワードとフレーズスポッターを含む改良されたトピック判別機と 、トピックによるイベント頻度により訓練されたトピック分類機によって提供さ れる。イベント頻度はテキストイベント検出機を持つ転記されたデータと音声イ ベント検出機で転記されない音声データのどちらか又はそれら両方から決定され る。 本発明のもうひとつの局面によれば、フレーズスポッターが用いられ、音声認 識機の仮説書き写しの出力を解剖する必要のないフレーズの存在を探知する。 本発明のもうひとつの局面によれば、改良された技術が用いられ、トピック判 別決定がなされたイベント頻度上の潜在的音声イベントのサブセットを選択する 。 本発明のもうひとつの局面によれば、改良されたトピックモデリング方法が用 いられ、トピック判別機の能力を改良する。 さらに本発明による他の目的と利点は、次の詳細な説明のいくつかの実施例が 示されていることから、本発明の最良の形態の図解という方法によって、当業者 にとってたやすく明らかになることである。後述するように、本発明は他のそし て別の実施例にも可能であり、そのいくつかの詳細は全て本発明から逸脱するこ となく様々な点で変更可能である。従って、図面と記述説明は実施例的性質とし てみなされるべきであり、請求の範囲のなかで示されている適用の範囲において 限定的または制限的意味を持つものではない。図面の簡単な説明 本発明の特徴と目的をより深く理解するために、添付の図面と関連して以下の 詳細説明が参照されるべきである。図面における同じ参照符号は同じもしくは類 似する部品を示すものである。 第１図は、本発明のトピック判別機が新たな口頭のデータを処理するのに用い られる好ましい実施例のブロック図であり、 第２図は、第１図のシステムを訓練する、すなわちいかにして第 １図のシステムのモデルパラメータを展開するかということに用いられる構成要 素のブロック図であり、 第３図は、トレーニングの予備段階において、すなわちいかにしてひとつが潜 在的音声イベントを入手するかということに用いられるさらなる構成要素のブロ ック図であり、 第４ａ図は、本発明に従ってトピック判別機で用いるためのキーワードを選択 するのに用いられた予備テーブルのひとつのタイプを示し、 第４ｂ図は、本発明に従ってトピック判別機で用いるためのキーワードを選択 するのに用いられた予備テーブルのもうひとつのタイプを示す。図面の詳細な説明 本発明に従って改良されたトピック判別機のブロック図とその展開が第１図、 ２、３に示される。 第１図は、符号１０で示された口頭のメッセージ又は他の音声データ入力を処 理するのに用いられ、最終的にトピック分類機出力１８を生成する構成要素のブ ロック図である。口頭のメッセージ１０は、例えば予め決められたワードとフレ ーズの語彙などの潜在的音声イベント２０の所定のセットと連結される音声イベ ント頻度検出機１２によって生成される。音声イベント頻度検出機は、潜在的音 声イベントに対するイベント頻度１４のセットの表示である信号を生成する。潜 在的音声イベント２０は個々のワード、複数語のフレーズ、そして一般的表現ま たはフリー文脈の文法といった形式に特定され る組み合わされたフレーズを含むことができる。イベント頻度は、好んで口頭の データ内の潜在的音声イベントの発生頻度を推定する。音声イベント頻度検出機 は好んで音声認識機もしくはワードとフレーズのスポッターを含む。特定の潜在 的音声イベントの発生頻度は、音声認識機もしくはワードとフレーズのスポッタ ーの出力の処理、このような処理が音声認識機もしくはワードとフレーズのスポ ッターに統合されたとしても、この処理によって決定される。イベント頻度はト ピック分類機１６で処理され、トピック分類機出力１８を生成する。出力は、知 っているトピックの所定のセットからの選択形式、特定の知っているトピックが 存在するか不在かのどちらかの選択形式、もしくは特定の知っているトピックが 存在するというコンフィデンススコアの形式をとることができる。トピック分類 機１６は事前の、もしくは潜在的に進行中のトレーニングプロシージャの間に決 定されたトピックモデルパラメータ２２を使用する。 第２図は、第１図のシステムを訓練するためのトレーニングプロシージャで用 いられる当初の構成要素のブロック図である。トレーニングブロシージャへの入 力は転記されたトレーニングデータ３０と書き写されない音声データ３６のどち らか又はその両方である。転記されたトレーニングデータは本当のトピックとそ れぞれ同一になったテキストシーケンスのひとつのセットと交信する。書き写さ れない音声データはそれぞれ本当のトピックで名称付けられる一方で注釈はされ ない記録されたメッセージのひとつのセットと交信する。 転記されたトレーニングデータが出力４０で示されるように可能 である場合、それぞれのテキストシーケンスは、テキストイベント検出機３２を 用いてイベント頻度のセットに変換される。潜在的テキストイベント３４のそれ ぞれのセットに対し、テキストイベント検出機はテキストをスキャンしてそのイ ベントの発生頻度を決定する。潜在的音声イベント２０での場合、潜在的テキス トイベントは個々のワード、複数語のフレーズ、そして一般的表現またはフリー 文脈の文法といった形式に特定される組み合わされたフレーズを含むことができ る。 書き写されない音声データが出力４０で示されるように可能である場合、それ ぞれの音声データシーケンスは、第１図に示された音声イベント検出機１２を用 いて新たな未知のトピックメッセージに用いられるであろう方法と同様の方法で 音声イベント検出機３８を用いて１セットのイベント頻度に処理される。 トピックモデリング構成要素４２は、入力として本当のトピックのラベルとと もにイベント頻度の出力４０の代表セットを用いる。好ましい実施例では、トピ ックモデリングは可能なイベントのサブセットの第一選択を構成する。そして、 それぞれの選択されたイベントのイベント頻度に対するパラメトリック確率モデ ルが推定される。好ましい実施例では、パラメトリックモデルは、他の配置が下 文により細かく記述されるように用いられるが、多項式の配置もしくは多項式の 配置の組み合わせという形式をとる。トピックモデルパラメータ２２はその後選 択されたイベントのサブセットから構成され、パラメータは個々のイベント頻度 配置を推定する。 第３図は、トレーニングの予備的段階において用いられ、潜在的 音声イベント２０を決定するさらなる構成要素のブロック図である。潜在的音声 イベントは、システムベースへの入力として提供され、例えば、ヒューマンスペ シフィケーション５８である。副次的に、潜在的音声イベントは転記されたテキ ストデータ５０のひとつのセットから決定される。転記されたテキストデータ５ ０は第２図に示され、トピック分類機のトレーニングに用いられた転記されたト レーニングデータ３０とは区別されることに注意。テキストデータが用いられる と、テキストイベント検出機５２が用いられ潜在的音声イベントセレクタ５６に よって潜在的音声イベント２０が選択されたセットからのイベント頻度の信号代 表を出力５４で発生する。 イベント頻度検出機 第１図と２の音声イベント頻度検出機１２および３８は、どちらも新たな音声 データを処理するのに、もしくはシステムを訓練するのに用いられるが、これら はそれぞれ音声データから関連した特徴を抽出するために設計されている。これ らの特徴は選択されたひとつのイベントのセットのそれぞれのイベントの推定さ れた発生頻度である。 イベントは個々のワード、複数語のフレーズ、そして一般的表現またはフリー 文脈の文法といった形式に特定される組み合わされたフレーズの存在を含む。複 数語のフレーズは、例えば「クレジットカード」や「アメリカンエキスプレス」 のようなブランドネームカードである。組み合わされたフレーズの例は、航空交 通管制コマンドにおける統語論的に正しいフライト認識番号とか、「１２時」と か 「正午」とか「１０時５分前」などのようなあらゆる形式を含む時間などである 。 各イベント頻度検出機１２と３８は最初に仮説付けられたイベントの列を探知 し、続いてイベントの列からイベント頻度を計算することによって組み立てられ る。イベント頻度検出機のこの形式では、仮説付けられた列は音声認識機によっ て生成された仮説付けられたワードの連続、ワードスポッターによって生成され た推定上のワードまたはフレーズ発生のセット、もしくはコンフィデンススコア に関連する推定上のワードまたはフレーズ発生のセットである。イベント頻度は 音声認識機の場合ワードを単純に数えることによって、あるいは推定上のワード またはフレーズイベントを数えることによって、もしくはワードとフレーズイベ ントの数を数えることに伴い音声認識機によって生成されたワードの連続におけ るフレーズ（すなわち、分解）を最初に探知することによって計算される。音声 イベントを発生するために他の関連する技術もまた可能であり、音声認識または ワードスポッティング段階に向けて直接組み合わせステップの数を直接に統合す ることも同様に可能である。 イベント頻度検出機の好ましい実施例において、ヒドゥンマーコフモデル（Ｈ ＭＭ）をベースにしたワードおよびフレーズスポッターが用いられる。推定上の ワードとフレーズの発生確率であるコンフィデンススコアは、ローリセック、ア ユーソ等による、１９８９年（Ｊ．Ｒ．ローリセック（J.R．Rohlicek）、Ｗ． ラッセル（Ｗ．Russel）、Ｓ．ローコス（S．Roukos）、Ｈ．ギッシュ（H.Gish ）共著；１９８９年ＩＥＥＥ ＩＣＡＳＳＰ社刊「スピーカー独立ワー ドスポッティングのための連続的ヒドゥンマーコフモデリング（Contimuous Hid den Markov Modeling for Speaker-Independent Word Spotting）」６２７〜６ ３０ページ）と、ローリセック等による、１９９３年（Ｊ．Ｒ．ローリセック、 Ｐ．ジーンレナウド（P．Jeanrenaud）、Ｋ．Ｎｇ、Ｈ．ギッシュ共著；1993年 ＩＥＥＥ ＩＣＡＳＳＰ社刊「ワードスポッティングのための音声的トレーニン グとランゲージモデリングPhonetic Training and LanguageModeling for Word Spotting）」第２章４５９〜４６２ページ）、そしてジャンルノー等による、１ ９９３年（P．Jeanrenaud、M．Siu、K．Ng、R．Rohlicek、H.Gish共著；１９９ ３年ESCA Eurospeech社刊“音声ベースのワードスポッター：イベントスポッテ ィングのための様々なコンフィギュレーションとアプリケーション モ第２章１ ０５７〜１０６０ページ）に記述される技術を用いて計算される。音声データ上 の各イベントに対するそれらのスコアを合計することによってデータを与えられ たイベントの発生予期数が直接に得られることとなる。 ワードスポッティングの引用されたアプローチでは、計算されたスコアリング 統計値は、入力データを与えられたという時間からＯ₁．．．Ｏ_tに至るまでにキ ーワードを終わらせる確率と、もしくは終了時間Ｔまでにメッセージ内の全ての データを与えられたキーワードを意割らせる確率のどちらかである。前者は次の ように計算される： ここでｅ_wはキーワードの最後の状態であり、αは次のように定義される： （２） α(s,t)＝P(state at t＝s,Ｏ_I,...Ｏ_t) そして例えば１９９０年Ａ．ワイベル（A.Waibel）、Ｋ．Ｆ．リー（K.F.Lee） 著［音声認識におけるリーディング］におけるＬ．Ｒ．ラビナー（L.R.Rabiner ）などの周知の繰り返し（interation）を用いて計算される。 後者の確率は、次のように計算される： このときβは次のように定義される： （４） β(s.t)＝P(Ｏ_t+I,...Ｏ_r｜state at t＝s) そして他のよく知られるところの繰り返しによって計算される。 フレーズイベントの確率は、終了状態ｅ_wがフレーズに対する全部の正当なワ ードシーケンスを許諾するサブネットワークの終了状態によって置き換えられた 場合を除き、同じ方法によって計算される。 スコア定義を用いて、ワード又はフレーズの発生数の推定は、次のように時間 から合計することによって得られる： ｐ（ｗ，ｔ）がαとβ期から計算される場合、ｎ（ｗ）は全データＯ₁,...,Ｏ_T を与えられた発生数の暫定的予想数である。 潜在的音声イベントは音声認識機またはワード・フレーズスポッターを構成す るために用いられるので、これらのイベントは仮説付けられたイベントの列に報 告される。 トピックモデルトレーニング 第２図に示されるトピックモデルトレーニングは，二つのステップから構成さ れる。第一に、イベントのサブセットが選択される。第二に、イベント頻度、ト ピック上の条件に対する確率モデルが推定もられる。第２ステップのトピックモ デリングにつき、イベント選択ステップを伴ってまず説明される。 トピックモデリング トピックモデリングは与えられたトピックについての音声メッセージ内で観察 されたワードまたはイベントの発生パターンに対する確率モデルを組み立てるプ ロセスである。トピック間又はトピック内で区別するための基本を提供するため に、ひとつのこのような確率モデルが既知のセット内の全てのトピックに対して 訓練され、随意的に、「背景」トピックが定義され潜在的ユーザーが興味を示さ ないトピックの分野も含もうとする。これらのモデルは基になるトピッ ク上の特定のトピックに従って異なるワード発生統計値のセットを用いて訓練さ れる。このようなワード発生統計値は、第２図の３０に示されるテキストの書き 写から引出され、ここでそれぞれの書き写しはトレーニングセット内の音声メッ セージに対応する。あるいはまた、このような発生統計値はトレーニングセット 内の音声メッセージ３６が入力として用いられるときのイベント検出機の出力か ら引出される。一般的に、第２の方法の方が好まれがちであり、それはこの方法 が入力音声とトピック判別システムのひとつの構成要素を成すイベント検出機の 両方の特定の特徴を捕えるのにより効果的であることを証明したからである。 トピックモデリングアプリケーシヨンのなかで効果性を証明した確率モデルに はいくつかのクラスがある。ひとつの好ましいクラスはイベントシーケンスｗ内 に観察されたワードもしくはイベントについ、そして多項式モデル内の事柄につ いてある独立した、等しく配分された（ｉ．ｉ．ｄ）仮定上に推測される。結果 として起こるトピックＴ_i上に仮定づけられたシーケンス見込みは以下のように 表わされる： ｎ_kが回数でありイベントｖ_kがシーケンスｗ内に仮説付けられた 数であり、ｐ_k（ｔ_i）＝Ｐ（ｖ_k｜Ｔ_i）はトピックＴ_i上に仮定づけられたイベ ントｖ_kの発生確率である。それはトレーニングメッ セージのテキストの書き写しか、このようなメッセージに対応するイベント検出 機の出力のどちらかを用いて推定されるべきイベント イベントセットVを提供するために、ボキャブラリ範囲外（ＯＯＶ）イベントで あるｖ_o、これは「上記のどれでもないもの」の発生を ベントボキャブラリＶに含まれる。そし方程式（６）を最大にするトピックＴ^* _i を見つけることによってトピック特定が音声メッセージｗ上に実行される。 好ましいトピックモデルの第２のクラスは多項式トピックモデルに基づいたも のであり、そのときのイベント発生確率θ_k＝Ｐ（ｖ_k）は既知のまたは決定論的 なものとは推測されないが、むしろ確率混合密度として表示される。発生パラメ ータの完全なベクトルのため れる。 上記式において、ｑ_imがトピックＴ_i上に仮定された混合の選択の予備確率であ り、ｆ_im(θ)は、θの仮説的な多変量確率密度関数であり、Ｍ_iはトピックＴ_iに 関連する混合の合計数である。方程式（７）の混合密度が方程式（６）の多目的 モデルと共に用いられるとき、結果として起こるシーケンス見込みは次のように 表わされる 二つの好ましい密度機能ｆ_im(θ)は，次の式によって表わされるディラックのデ ルタ関数とベータ密度関数である。 上記式において、Ｃ（ｎ^(O) _im，ｎ^(I) _im，．．．ｎ^(K) _im）は、ｆ_im(θ)が正し い密度関数であることを確かにするために選ばれた正規化定数である。 このような密度のどちらも技術に親しい人々には周知である。（一例として、 １９５０年ニューヨーク州ニューヨーク、マックグラウヒル（McGraw-Hill）社 刊アレキサンダーＭ．モード（Alexander M．Mood）とフランクリンＡ．グレイ ビル（FranklinA.Graybill）による「統計理論の入門（Introduction to the Th eory of Statistics）」参照。）方程式（７）に表わされるような混合密度に関 連するパラメータは、推定最大化アルゴリズムを用いて推定され、このアルゴリ ズムもまた技術に親しい人々には周知である。（一例として、１９７７年ジャー ナル・ロイヤル・スタティスティック・ソサイエティ（Journal Royal Statisti cal Society）発行Ａ．Ｐ．デンプスター（A.P.Dempster）、Ｎ．Ｍ．レイルド （N.M.Laird）、Ｄ．Ｂ．ルビン（D.B.Rubin）共著「ＥＭアルゴリズム経由の不 完全データからの最大見込み（Maximum Likelihoodfrom Incomplete Data via t he EM Algorithm）」参照。） 音声イベントサブセットセレクション 従来の技術は、全てのイベントがトピック判別システムの開発とトレーニング に用いられるべきだと教えてきた。これがある場合において事実であるとしても 、本発明の教えに従って改良されたパフォーマンスが、トピックに関連すると考 えられるイベントのセットを制限することによってしばしば得られる。ゆえに、 そのメッセージのトピックメンバーシップを表わすのに最善の音声メッセージ内 で入手されたまたは仮説付けられたワードやその他の音響的イベントのサブセッ トを決定する上でイベントセレクションが必要である。第２図に示されたように 、音声メッセージのテキストの書き写し又はこのような音声メッセージが入力と して捕えられたときのイベント検出機によって生成された出力のどちらかを基に このようなタイプのセレクションが行われる。すでに挙げられた理由により、後 者の方法が一般的に好まれる。 イベントセレクションのひとつの好ましい方法が仮説テストのコンセプト上に 見つけられる。本発明のひとつの局面に従い、仮説テストが用いられ、与えられ たキーワードまたはイベントに対する発生パターンが、イベントが観察された音 声メッセージのトピックメンバーシップに基づいていることを定義するために十 分な証拠があるかないかを決定する。もしこのような依存関係が定義されると、 イベントはトピックメンバーシップのよい指示物として推定できる。ｘ²検定（ １９５０年ニューヨーク州ニューヨーク、マックグラウヒル社刊アレキサンダー Ｍ．モードとフランクリンＡ．グレイビル による「統計理論の入門参照。）は、当該技術において周知であり、本タイプの 依存関係を試験するために有用である。 ｘ²検定のひとつの可能な公式は、第４ａ図、第４ｂ図に示されるようにタイ プの予備テーブルを用いることである。検定または分析を実行するために、どれ だけの頻度で候補ワード又はイベントが音声メッセージに関連するテキストの書 き写しまたはイベント検出機のどちらかに現われるかをまず決定し、そしてメッ セージをこの頻度に従って「貯蔵（binning）」することによって、それぞれの 候補ワード又はイベントのためにテーブルが組み立てられる。ゆえに、予備テー ブルの各セルは、候補ワードまたはイベントが特定の頻度幅のなかで観察された トピックまたはトピックのセットから引かれた音声メッセージの数を含む。本分 析には各トピックからのメッセージが分類された方法によって二つのバリエーシ ョンが紹介される。第４ａ図のテーブルでは、各トピックはそれぞれの行を与え られ、各ワードの関連性は全トピックに対して同時にテストされる。このことは 全部対全部（ＡＡＡ）検定として参照される。第４ｂ図のテーブルでは、ひとつ のトピック（すなわち、対象となるトピック）が第１行に割り当てられ、残るト ピックは第２行に一緒に分類される。本バリエーションにおける最後のキーワー ドセットで、トピック対他の全部（ＴＡＯ）検定として参照されるものは全部の キーワードのサブセットの結合によって成り、それぞれのサブセットは興味のあ るトピックとして異なるトピックを指定することによって選ばれる。予備テーブ ルがいったん組み立てられると、対応するｘ²値が次の方法によって決定される 。セル（ｉ，ｊ）に割り当てられた会 話の数Ｎ_iiがテーブルの各セルに見つけられ、これらの会話数は行と列の合計を 見つけるために用いられる。 と、 の各々である。ｘ²値は、次式により得られる。 上記式において、ｎ_ii＝Ｎ_iＮ_i｜ｎ_iiは、各セルの数の合計数であると予測され る。 未計算のｘ²統計値は当該技術において周知の方法（１９９２年英国ケンブリ ッジ、ケンブリッジ大学プレス（Cambridge University Press）刊ウイリアムＨ ．プレス（William H．Press）とソールＡ．テウコスキー（Saul A．Teukolsky ）等による「Cにおける数値レシピ：科学的計算の技術Numerical Recipes in C: The Art of Scientific computing）」参照。）によって対応する明らかな値に 変換される。イベントセレクションは、明らかな値が予め定義された境界地を超 える全てのワードやイベントに関連していると考えることによって達成される。 イベントセレクションの第２の好ましい方法はイベント発生のアンサンブルと メッセージトピックメンバーシップのアンサンブルの間の相互情報測定の決定に 基づいている。このような計測は当該技術において周知である。（１９９１年ニ ューヨーク州ニューヨーク、ジョンウイリー＆サンズ（John Wiley and Sons） 社刊トーマスＭ．カバー（Thomas M．Cover）とジョイＡ．（Joy A.）による「 情報理論の要素（Elements of Information Theory）」参照。）好ましい相互情 上記式において、ｐ（ｗ⁽ⁿ⁾ _k｜Ｔ⁽ⁿ⁾）は、その正しいトピックＴ⁽ⁿ⁾によって仮 定付けられたトレーニングシーケンスｗ⁽ⁿ⁾のなかで観察されたワードまたはイ ベントｖ_kの発生パターンの見込みであって、Ｐ（ｗ⁽ⁿ⁾）＝Σ_Tｐ（ｗ⁽ⁿ⁾｜Ｔ） ｐ（Ｔ）は、トピックに因らない同じ発生パターンの見込みである。トピック仮 定シーケンス見込みＰ（ｗ⁽ⁿ⁾｜Ｔ⁽ⁿ⁾）は、前に述べた確率モデルのどれかに訴 えることによって推定される；好ましい方法は他項式モデルと混合確率によって 特徴付けられたイベント発生確率との組み合わせを利用する。 イベントセレクションの第３の方法は、カルバック・リーブラー距離計測を用 いる。このような距離計測は当該技術において周知であり、（１９９１年ニュー ヨーク州ニューヨーク、ジョンウイリー＆サンズ社刊トーマスＭ．カバーとジョ イＡ．「情報理論の要素」 参照。）他の全てのおピックに反する与えられたトピックに対するひとつのイベ ントの発生パターンの不同性の計測を与える。カルバック・リーブラー距離は次 の式に従って推定される 上記式において、Ｎ（Ｔ）は興味のあるトピックに関連する会話又はメッセージ の合計数であり、そしてＮ（Ｔ）は他の全てのトピックに関連する数字である。 この例では、すでに述べたように、トピック仮定シーケンス見込みＰ（ｗ⁽ⁿ⁾ ｜Ｔ⁽ⁿ⁾）はすでに言及した確率モデルのどれかを用いて推定される。 潜在的音声イベントセレクション 音響的イベント検出機が組み立てられる前に、可能なワードかイべントのいく つかの初期セットが定義されなければならない。これらのワードまたはイベント がイベント検出機の内部構造のなかに形成されなければならないのでこのことが 必要である。このような初期セレクションはたくさんの方法により達成できる。 ひとつの好ましい方法は第３図に５０、５２、５４、５６のボックスにより段階 的に示される。キーワードを選ぶためにこれまでに示した技術のどれかを用い、 音声メッセージのテキストの書き写しのいくつかのちいさな初期セットを入力と してる用いることを課する。これらの後者から、仮定テスト、または距離マトリ ックスを実行するために必 要な全てのワード頻度統計値が抽出される。 初期イベントセレクションのもうひとつの好ましい方法に従い、一般的フレー ズに対応する追加されたキーワードまたはイベントが人間のオペレータによって 選択される。このプロセスは第３図のボックス５８によって示される。一般的フ レーズは公式化された文法によって示されることのできる音声のセグメントを引 用する。一般的フレーズの例は電話番号やドルの額、日付、そして時間などであ る。それぞれの一般的フレーズは特定のフレーズの大きなクラスを取り囲む。例 えば、ドルの額は「５ドル１０セント」とか「２２ドル３０セント」といった特 定のフレーズを含む。一般的フレーズを定義するもう一つの方法は、全ての特定 フレーズを一般的カテゴリーのなかに列挙することである。例えば、一般的フレ ーズ「犬が出血する」は異なる種類の犬の規定されたセットを取り囲むことがで きる。最近の技術の発展（ジャンルノー等）はこのような一般化されたフレーズ をモデル化し、探知する能力を持つイベント検出機の組み立てに備えている。 本発明はたくさんのアプリケーションのうちのどれかひとつにおける音声デー タをソートするのに用いられる。例えば、航空交通管制ダイアログの記録を分類 するのに加えて、他の例は、ラジオニュースの記録をニュースストーリーのトピ ックによって、といった音声データのソートも含む。このようなソーティングの タイプは興味のある音声データの自動的探知、もしくはオーディオ記録保管所へ の改良されたアクセスのための自動的インデックスメカニズムに用いられること ができる。他の例は発信者からの口頭のメッセージにお けるトピックまたはないように基づいて電話呼び出しへの自動応答または転送を 行うことも含む。上述した自動インデックスとデータ探知アプリケーションに似 た他のアプリケーションはボイスメールシステムにおける貯えられたまたは入っ てくるボイスメールメッセージの分類も含む。 本発明のトピック判別機は、このように既存の技術が適用できない状況に向け られたものであり、実質的に上に記した既存の技術に比べ改良されたトピック判 別パフォーマンスを提供する。本発明のトピック判別機は判別機のトピックモデ リング構成要素に対して転記されたトレーニングデータが少ししかあるいは全く 得られないときにも機能することができ、予め記録された音声データのようなユ ーザーからのフィードバックが望めないあるいは不可能な状況で用いられるとき にも機能し、ベースとなるトピック判別決定への入力イベントとしてのワードま たは単純なワードの連続のみならず、例えばいくらかのドルの額といった組み合 わされたフレーズの発生にも用いることができる。トピック判別機のパフォーマ ンスはコンフィデンススコアを２進探知決定または仮定付けた書き写しを用いる よりはワードあるいはフレーズスポッターから直接使用することにより、そして これらのスコアを与えられたセットにおける全てのイベントに対する発生の予測 数を引出すために用いることによって改良される。本発明のトピック判別機を利 用することにより、もし書き写したトレーニングデータがあればそれを用いてト ピック判別機のテキストイベント検出機によって探知されるべき潜在的音声イベ ントのセットを決定することができる。 ここに関連した本発明の範囲を逸脱することなく、上記の装置および方法に何 らかの修正がされてもよいので、したがって上記説明に含まれるあるいは添付の 図に示される全事柄は実施例であって限定的意味を持つのものではない。

Claims (1)

1. 【特許請求の範囲】 １．音声イベントの所定のセットにより表わされたトピックを決定するための トッピック判別機において、前記判別機は、 前記入力音声データを表示する入力信号を受け取る手段と、 トピックに関連し音声データに潜在的に含まれた各所定の音声イベントの発生 頻度を推定する手段と、 推定されたイベント発生頻度に応じて、入力音声データのトピックを識別する トピック分類手段とを組み合わせてなることを特徴とするトピック判別機。 ２．トピック分類手段は、前もって選択されたトピックのセットより選択する 手段を含むことを特徴とする請求の範囲第１項のトピック判別機。 ３．トピック分類手段は、音声データが前記トピックに属するか否かを２進で 決定する手段を含むことを特徴とする請求の範囲第１項のトピック判別機。 ４．入力音声データが前記トピックに属するという確信により信頼度を提供す る手段をさらに含むことを特徴とする請求の範囲第１項のトピック判別機。 ５．音声イベントは、ワードイベントを含み、トピックに関連し音声データに 含まれた各所定の音声イベントの発生頻度を推定する前記手段は、 入力音声データに対応する仮説付けられたワードの連続を生成する音声識別機 と、 音声識別機の出力に存在する各ワードイベントの数を決定するカウンティング 手段とを有することを特徴とする請求の範囲第１項のトピック判別機。 ６．音声イベントは、ワードとフレーズとを含み、トピックに関連し音声デー タに含まれた各所定の音声イベントの発生頻度を推定する前記手段は、 入力音声データに対応する仮説付けられたワードの連続を生成する音声識別機 と、 認識されたワードの連続におけるフレーズイベントの存在を検出するパーサと、 音声識別機の出力に存在する各ワードイベントもしくはフレーズイベントの 数を決定するカウンティング手段とを有することを特徴とする請求の範囲第１項 のトピック判別機。 ７．音声イベントは、ワードとフレーズとを含み、トピックに関連し音声デー タに含まれた各所定の音声イベントの発生頻度を推定する前記手段は、 入力音声データに対応する仮説付けられたイベントの発生のセットを生成する ワードおよびフレーズスポッターと、 ワードおよびフレーズスポッターの出力に応じて、音声データに存在する各 ワードイベントもしくはフレーズイベントの数を推定するカウンティング手段と を有することを特徴とする請求の範囲第１項のトピック判別機。 ８．前記ワードおよびフレーズスポッターは、信頼スコアを各仮説付けられた イベントと関連付ける手段を含み、カウンティング手 段は、入力音声データに存在する各ワードイベントまたはフレーズイベントの数 の推定を決定するため信頼スコアを結合する手段を含むことを特徴とする請求の 範囲第７項のトピック判別機。 ９．前記ワードおよびフレーズスポッターは、各所定の音声イベントの発生の 確率に基づいて信頼スコアを決定するヒドゥンマーコフモデルを含むことを特徴 とする請求の範囲第８項のトピック判別機。 １０．カウンティング手段は、各所定のイベントの発生の確率を蓄積する手段 を有することを特徴とする請求の範囲第９項のトピック判別機。 １１．前記トピックを示す音声イベントの所定のセットの少なくとも一部は、 前記トピックにそれぞれ関連するトレーニングイベント頻度のセットから決定さ れる訓練されたトピックモデルパラメータにより決定されることを特徴とする請 求の範囲第１項のトピック判別機。 １２．トレーニングイベント頻度は、テキストのトレーニングデータのセット から決定されることを特徴とする請求の範囲第１１項のトピック判別機。 １３．トレーニングイベント頻度は、書き写されていない音声トレーニングデ ータのセットから決定されることを特徴とする請求の範囲第１１項のトピック判 別機。 １４．所定のイベントの少なくとも別の一部が選択されることを特徴とする請 求の範囲第１１項のトピック判別機。 １５．選択されたイベントの頻度を決定するパラメトリック確率 モデルは、トレーニングイベント頻度から推定されることを特徴とする請求の範 囲第１１項のトピック判別機。 １６．前記パラメトリック確率モデルは、既知のセットの各トピックについて のイベント確率の単一の多項式モデルを含むことを特徴とする請求の範囲第１５ 項のトピック判別機。 １７．前記単一の多項式モデルは、次式： ここで、Ｔ_iは、ｉトピックのひとつであって、 ｎ_kが回数でありイベントｖ_kがシーケンスｗ内に仮説付けられたまたは観察さ れ、 ｐ_k（ｔ_i）＝Ｐ（ｖ_k｜Ｔ_i）はトピックＴ_i上に仮定づけられたイベントｖ_kの 発生確率であるところの上記式によって確定されることを特徴とする請求の範囲 第１１項のトピック判別機。 １８．前記パラメトリック確率モデルは、既知のセットの各トピックについて のワード確率密度のトピック特定混合とともにイベント確率の多項式モデルを含 むことを特徴とする請求の範囲第１５項のトピック判別機。 １９．前記ワード確率混合密度は、次の式： ここで、Ｔ_iは、ｉトピックのひとつであって、 ｑ_imがトピックＴ_i上に仮定された混合の選択の予備確率であり、 ｆ_im(θ)は、θの仮説的な多変量確率密度関数であり、 Ｍ_iは、トピックＴ_iに関連する混合の合計数であるところの上記式を有するこ とを特徴とする請求の範囲第１８項のトピック判別機。 ２０．前記混合密度に対応するパラメータは、推定最大化アルゴリズムで推定 されることを特徴とする請求の範囲第１５項のトピック判別機。 ２１．重要なキーワードまたは音声イベントのボキャブラリを選択する方法に おいて、音声メッセージと関連する仮説ストリングにおいて、それがあるかない かは、メッセージのトピックメンバーシップを示すために役立ち、前記方法は、 それぞれがトピックの有限セットの一つについてのものであると知られる複数 のトレーニングメッセージについての仮説ストリングを生成する工程と、 前記仮説ストリングからワードまたはイベント頻度統計値を引出す工程と、 すべての可能なワードまたはイベントにトピック条件付有効係数（topic-cond itional Significance）またはアソシエーションスコアを割り当てるために前記 イベント頻度統計値を用いる工程と、 所定のしきい値上のトピック条件付有効係数またはアソシエーションスコアを 有するワードまたはイベントを選択する工程と からなることを特徴とする方法。 ２２．複数のトレーニングメッセージについての仮説ストリングを生成する前 記工程は、それぞれがワードまたはイベントの２進で評価された存在しているか 不在かのみを示すように前記仮説ストリ ングを生成する工程を含むことを特徴とする請求の範囲第２１項の方法。 ２３．複数のトレーニングメッセージについての仮説ストリングを生成する前 記工程は、音声メッセージのテキスト書き写しから前記仮説ストリングを引出す 工程を含むことを特徴とする請求の範囲第２２項の方法。 ２４．複数のトレーニングメッセージについての仮説ストリングを生成する前 記工程は、（ａ）音声メッセージに応じて仮説ストリング出力を供給するタイプ のイベント検出機の入力に音声メッセージを適用することにより前記仮説ストリ ングを得る工程と、（ｂ）イベント検出機の出力を検出する工程とを含むことを 特徴とする請求の範囲第２２項の方法。 ２５．イベント検出機は、音声認識機であり、イベント検出機の出力を検出す る前記工程は、前記音声認識機の出力を検出する工程を含むことを特徴とする請 求の範囲第２４の方法。 ２６．複数のトレーニングメッセージについての仮説ストリングを生成する前 記工程は、前記仮説ストリングがストリングにおけるすべてのワードまたはイベ ントについて確率または確信スコアを含むように各仮説ストリングを生成する工 程を含み、前記スコアは、ストリングに関連する実際の音声メッセージに発生し たワードまたはイベントの全体の見込みを示すことを特徴とする請求の範囲第２ １項の方法。 ２７．複数のトレーニングメッセージについての仮説ストリングを生成する前 記工程は、（ａ）音声メッセージに応じて仮説ストリ ングおよび関連するワードまたはイベントを提供するタイプのイベント検出機の 入力に音声メッセージを適用することによって前記仮説ストリングを生成する工 程と、（ｂ）イベント検出機の出力を検出する工程とを含むことを特徴とする請 求の範囲第２６項の方法。 ２８．イベント検出機は、ワードまたはイベントスポッターであり、イベント 検出機の出力を検出する前記工程は、前記ワードまたはイベントスポッターの出 力を検出する工程を含むことを特徴とする請求の範囲第２７項の方法。 ２９．前記仮説ストリングからワードまたはイベントを引出す前記工程は、仮 説ストリングにおけるキーワードまたはイベントの発生数をカウントする工程を 含むことを特徴とする請求の範囲第２１項の方法。 ３０．前記仮説ストリングからワードまたはイベントを引出す前記工程は、仮 説ストリングにおけるすべてのワードまたはイベントについての確信スコアを合 計することにより前記ワード頻度統計値を得る工程を含むことを特徴とする請求 の範囲第２１項の方法。 ３１．すべての可能なワードまたはイベントにトピック条件付有効係数または アソシエーションスコアを割り当てるために前記イベント頻度統計値を用いる前 記工程は、仮説テストによりトピック条件付有効係数またはアソシエーションス コアを得る工程を含むことを特徴とする請求の範囲第２１項の方法。 ３２．前記仮説テストは、カイ二乗検定であり、前記カイ二乗検定によりトピ ック条件付有効係数またはアソシエーションスコアを得る工程は、次のように： カイ二乗値（ｘ²）値を計算し、ｉ行およびｊ列により確定されるセルを有する テーブルに前記カイ二乗値を記録する工程であって、 Ｎ_ijは、テーブル内の各セごとに見つけられたセル（ｉ，ｊ）に割り当てられた 会話の数に等しいところの 上記工程を含むことを特徴とする請求の範囲第２１項の方法。 ３３．前記カイ二乗検定によりトピック条件付有効係数またはアソシエーショ ンスコアを得る前記工程は、メッセージ仮説ストリングから引出されたワード頻 度統計値から少なくともひとつの予備テーブルを生成し、前記予備テーブル上の 前記カイ二乗検定に基づく工程を含むことを特徴とする請求の範囲第３２項の方 法。 ３４．各トピックは、予備テーブルにおける自身の行が割り当てられ、前記カ イ二乗検定によりトピック条件付有効係数またはアソシエーションスコアを得る 前記工程は、すべてのトピックにわたって仮説テストを同時に実施する工程を含 むことを特徴とする請求の範囲第３２項の方法。 ３５．単一のトピックが予備テーブルにおける自身の行が割り当てられる一方 、前記テーブルの第２行目にともにグループ化され、また、前記カイ二乗検定に よりトピック条件付有効係数またはアソ シエーションスコアを得る前記工程は、一度に単一のワードおよびトピックのみ について前記カイ二乗検査を実施する工程を含むことを特徴とする請求の範囲第 ３２項の方法。 ３６．前記仮説ストリングからワードまたはイベント頻度統計値を引出す前記 工程は、（ａ）可能なワードまたはイベントごとのトピック条件付混合密度を形 成するために前記ワードまたはイベント頻度統計値を用いる工程と、（ｂ）各ワ ードのアソシエーションスコアを計算するために前記トピック条件付混合密度を 用いる工程とを含むことを特徴とする請求の範囲第２１項の方法。 ３７．混合密度は、次式： ここで、Ｔ_iは、ｉトピックのひとつであって、 ｑ_im、がトピックＴ_i上に仮定された混合ｍの選択の予備確率であり、 ｆ_im(θ)は、θの条件付多変量確率密度関数であり、 Ｍ_iは、トピックＴ_iに関連する混合の合計数であるところの上記式を有するこ とを特徴とする請求の範囲第３６項の方法。 ３８．前記混合密度は、デルタ関数の重み付けされた合計からなることを特徴 とする請求の範囲第３７項の方法。 ３９．前記混合密度は、次式： ここで、Ｃ（ｎ^(O) _im，ｎ⁽¹⁾ _im，．．．ｎ^(K) _im）は、ｆ_im(θ)が正しい密度関 数であることを確実にするために選ばれた正規化定数であるところの上記式のベ ータ密度関数の重み付けされた合計からなることを特徴とする請求の範囲第３７ 項の方法。 ４０．前記混合密度に対応するパラメータは、推定最大化アルゴリズムで推定 される工程をさらに有することを特徴とする請求の範囲第３９項の方法。 ４１．前記アソシエーションスコアは、相互情報測定および次式：望ましい相 互情報測定Ｉ（Ｔ，Ｗ）は、 のように表わされ、ここでｐ（ｗ⁽ⁿ⁾ _k｜Ｔ⁽ⁿ⁾）は、その正しいトピックＴ⁽ⁿ⁾に よって仮定付けられたトレーニングシーケンスｗ⁽ⁿ⁾のなかで観察されたワード またはイベントｖ_kの発生パターンの見込みであって、Ｐ（ｗ⁽ⁿ⁾）＝Σ_TＰ（ｗ^{( n)} ｜Ｔ）ｐ（Ｔ）は、トピックに因らない同じ発生パターンの見込みであるとこ ろの上記式のトピックメンバーシップの相互情報測定であることを特徴とする請 求の範囲第３９項の方法。 ４２．前記アソシエーションスコアは、与えられたトピック上で条件付けられ たワードの確率密度と、他のすべてのトピック上で条件付けられたワードの密度 との間のカルバック・リーブラー距離であり、前記距離測定は、次式： ここで、Ｎ（Ｔ）は興味のあるトピックに関連する会話又はメッセー【】 数字であるところの上記式を有することを特徴とする請求の範囲第３９項の方法 。