JP2004355371A - 文書分類装置、その方法及び記憶媒体 - Google Patents
文書分類装置、その方法及び記憶媒体 Download PDFInfo
- Publication number
- JP2004355371A JP2004355371A JP2003152835A JP2003152835A JP2004355371A JP 2004355371 A JP2004355371 A JP 2004355371A JP 2003152835 A JP2003152835 A JP 2003152835A JP 2003152835 A JP2003152835 A JP 2003152835A JP 2004355371 A JP2004355371 A JP 2004355371A
- Authority
- JP
- Japan
- Prior art keywords
- category
- document
- classification
- categories
- message
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【課題】文書が複数個の分類先カテゴリにまたがって分類されていた場合に、文書アイコンを別のカテゴリへドラッグするという操作後にカテゴリの所属関係が不明確になるという課題があった。
【解決手段】カテゴリ間での文書の移動指示がなされた場合に、該文書のカテゴリ所属状況に応じてメッセージを制御し(201、202)、当該制御されたメッセージを出力する(203)ように構成する。
【選択図】 図2
【解決手段】カテゴリ間での文書の移動指示がなされた場合に、該文書のカテゴリ所属状況に応じてメッセージを制御し(201、202)、当該制御されたメッセージを出力する(203)ように構成する。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明は、入力された文書をカテゴリに分類する文書分類装置に関するものであり、文書の分類をユーザが変更する際の操作および表示方式に関するものである。
【0002】
【従来の技術】
入力された文書をカテゴリ群に振り分ける文書分類システムにおいて、システムが出力した分類結果が100%正しいということは通常考えられず、ユーザから見て適当でないカテゴリに振り分けられる文書も多いと考えられる。システムによりそのように誤分類されてしまった文書に対し、ユーザの希望するふさわしいカテゴリへと手作業によって分類し直し、その変更内容をシステムが解析して分類用辞書の各パラメータを再調整することで反映させ、次回入力される文書をより正しく分類できるようにトレーニングすることをシステムの学習と呼ぶ。分類が実行されるごとにユーザがその結果を検討し、誤分類と思うものを正しいカテゴリに割り当てて学習させるという作業を繰り返すことで、システムは次第にユーザの意図に近い分類ができるようになると考えられる。このシステムの学習に関する従来技術の1つである特許文献1では、学習に関するアルゴリズムが詳述されている。
【0003】
このような状況において、誤分類された文書の正しい分類先を指定する方法として、マウスを使って当該文書を表すアイコンをドラッグし、正しい分類先カテゴリを表すアイコンの上まで移動するというのが一般に考えられている。この操作はウィンドウシステムにおけるGUIのメリットによくマッチしており、あたかも図書館で誤った図書分類の書棚に返却された図書を元の正しい書棚に入れ直すように、誤分類文書のカテゴリ間の移動を直感的にイメージできることがポイントである。
【0004】
しかしながら図書の場合と異なる点は、各図書には決まった一つの図書分類しか存在しないが、文書の分類においては上で説明したように、ユーザが使い勝手その他を考慮して同一文書を複数のカテゴリに分類したり、カテゴリセットが複数存在することによる操作上の混乱を招きやすいことが挙げられる。
【0005】
あるカテゴリに属する文書を表示させ、そのうちの一つを選択してユーザが他のカテゴリに移動しようとしたとき、実はそのカテゴリにも既に同時に所属していたとすると、操作後にはこれらのカテゴリに対してどのような所属関係をその文書に持たせるべきか、直感的に把握しづらい事態となってしまう。
【0006】
【特許文献1】
特開2003−91542
【0007】
【発明が解決しようとする課題】
本発明は、以上のような問題点を解決するためのものであり、文書が複数個の分類先カテゴリにまたがって分類されていた場合に、文書アイコンを別のカテゴリへドラッグするという操作後にカテゴリの所属関係が不明確になるのを防ぐ。すなわち、あるカテゴリに属する文書を表示させ、そのうちの一つを選択してユーザが他のカテゴリに移動しようとしたとき、実はそのカテゴリにも既に同時に所属していたとすると、操作後にはこれらのカテゴリに対してどのような所属関係をその文書に持たせるべきか、直感的に把握しづらい事態となってしまうのを避けるため、文書の移動前にメッセージを出力して操作後どのカテゴリにどのような優先順位で所属するのかを明らかにする。
【0008】
また、カテゴリセットが複数個存在するシステムで、ある文書の所属するカテゴリが異なるカテゴリセットにまたがって表示されていた場合に、現在注目しているカテゴリセットに属さないカテゴリへ移動しようとするユーザ操作に対し、メッセージを出力して現在の注目カテゴリをユーザに認識させることで混乱や誤操作を未然に防ぐ。
【0009】
【課題を解決するための手段】
上述した問題点を解決するために、本発明では、文書をカテゴリに分類する文書分類装置において、文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する文書分類手段と、前記カテゴリ間での文書の移動指示に基づいてメッセージを出力するメッセージ出力手段とを備えたことを特徴とする。
【0010】
【発明の実施の形態】
(第1の実施の形態)
本発明での実施の形態を図1から図25を参照しながら説明する。
【0011】
図1は本システムの全体構成を示すものである。
【0012】
図2は図1の構成のうち、特に分類結果表示手段についてその構成を詳しく示したものである。このうち、後に説明するようにメッセージ作成手段が本発明における最も重要な構成手段である。分類部が分類した結果を分類結果ファイルとして保存。表示制御部は分類結果ファイルを参照して分類状況を出力部に出力する。また表示制御部はメッセージ作成部が作成したメッセージを出力部に出力する。
【0013】
図3は本発明を適用した文書分類装置の構成を示すブロック図である。
【0014】
図示の構成において、CPU301はマイクロプロセッサであり、文書分類処理のための演算、論理判断等を行い、バスを介してバスに接続された各構成要素を制御する。
【0015】
バス309は、マイクロプロセッサCPUの制御対象である各構成要素を指示するアドレス信号、コントロール信号を転送する。また、各構成要素間のデータ転送を行う。
【0016】
RAM302は書込み可能なランダムアクセスメモリであって、各構成要素からの各種データの一次記憶に用いる。
【0017】
ROM303は読出し専用の固定メモリである。マイクロプロセッサCPUによるブートプログラムを記憶する。ブートプログラムはシステム起動時にハードディスクに記憶された制御プログラムをRAMにロードし、マイクロプロセッサCPUに実行させる。
【0018】
入力装置304はキーボード、マウス等である。
【0019】
表示装置305はCRT、液晶ディスプレイ等である。
【0020】
HD306はハードディスクであり、CPUにより実行される制御プログラム、等が格納される。
【0021】
リムーバブル外部記憶装置308はフロッピー(登録商標)ディスクやCD、DVD等の外部記憶にアクセスするためのドライブ等である。上記HDと同様に使用でき、それらの記録媒体を通じて他の文書処理装置とのデータ交換を行う装置である。なお、ハードディスクに記憶される制御プログラムは、これらの外部記憶装置から必要に応じてHDにコピーすることもできる。
【0022】
通信装置307はネットワークコントローラである。通信回線を介して外部とのデータ交換を行う装置である。
【0023】
かかる各構成要素からなる本発明文書分類装置においては、入力装置からの各種の入力に応じて作動するものであって、入力装置からの入力が供給されるとまずインタラプト信号がマイクロプロセッサCPUに送られ、それに伴って、CPUがROMまたはRAM内に記憶される各種命令を読み出し、その実行によって各種の制御が行われる。
【0024】
図4は本システムにおける学習処理のフローチャートである。学習処理では、分類先がユーザによって予め指定された学習用文書を解析し、分類を行ううえで必要となる辞書を作成する。まず、学習用文書を形態素解析し、単語切りを行う。そして普通名詞、固有名詞、サ変名詞、および形態素辞書にない単語である未知語をピックアップし、全学習用文書にわたる総出現頻度がある程度大きく信頼性の高い単語だけを選んで残りは捨てる。残った単語の中から、特定のカテゴリに偏って現れる単語だけを有効語候補とするため、ピックアップされた各単語に対し局在度なるものを計算する。まず、カテゴリCjに属する学習用文書の中で、単語Wiを含む文書の割合、すなわち、カテゴリCjに属しWiを含む文書数をカテゴリCjに所属する文書数で割ったものでをPijとおく。ただし、どの単語に対しても、その局在度をすべてのカテゴリに対して足し合わせた値が1となるように正規化しておく。すなわち、すべてのカテゴリをC1,C2,・・・,Cmとしたとき、Σ(j=1,m)Pij=1とする。単語WiのカテゴリCjに対する局在度E(Wi)は、E(Wi)=1+Σ(j=1,m)Pij*logm Pijで定義する。局在度の値が大きい順にN個の単語を選択し、これらを有効語候補とする(フローチャート図4の処理401)。
【0025】
次に、単語間の距離を求めるために、各有効語に対して意味ベクトルと呼ぶベクトル値を定義する。ベクトルの軸として全有効語自体をとり、その成分値として当該有効語と軸とする有効語との共起確率を採用する。ただし、単語Wiの単語Wjに対する共起確率とは、WiとWjをともに含む文書数の、Wiを含む文書数に対する比で定義する。図6は共起確率を表したものであり、それによると、例えば単語「商社」のベクトル表現は、
(1.0 0.2 0.1 0.6 0.8 0.0 0.0 0.3 ・・・)となる。
【0026】
そしてこれらの情報を元に有効語辞書を作成する(フローチャート図4の処理402)。図7は有効語辞書の例であり、単語「商社」を見出しとするものの例である。帰属数はカテゴリごとに、この単語を含む文書がいくつ所属しているかを示すものであり、また出現数はこの単語を含む学習用文書の総数である。
【0027】
有効語辞書を作成したら、次に各学習用文書に対してその中に含まれる有効語の意味ベクトルの重み付き平均を計算することによって、その文書のベクトル表現を定義することが出来る。またカテゴリごとに、そこに所属する全ての学習用文書の、ベクトルの平均を取ることにより、カテゴリの代表ベクトルを定める(フローチャート図4の処理403)。
【0028】
有効語の重みは、その有効語自体が分類という行為に対してどの程度有効かという点、およびその有効語が各文書の中でどの程度重要な位置を示しているかという点の2点を考慮して定義する。第1の観点は各カテゴリへの帰属度の度合いを表すもので、特定のカテゴリを特徴付ける度合いの高い有効語ほど重みを重くするという考えであり、上記で説明した局在度を用いる。第2の観点は対象とする文書の中でその有効語がどのように使われているか、文書の内容とどのように関わっているのか、という側面を評価するもので、有効語の出現位置やその有効語の格役割、修飾タイプなどの言語的役割、に注目して評価項目をあらかじめ作成しておき、有効語が各評価項目の条件を満たした場合に与える重みの値をフローチャート図4の処理404〜410で示したような繰り返し学習によって定めるものである。学習スタート時には重みをすべて1に初期化しておく。
【0029】
第2の観点に基づく重みは各評価項目の値を辞書として格納しておき、第1の観点に基づく重み、すなわち有効語の局在度を記した有効語辞書とともに分類実行時に参照し、各有効語のトータルの重みを計算するようになっている。図8は有効語の出現位置を評価項目とした重みの値を格納した重み辞書の例であり、また図9は有効語の格役割、修飾タイプなどの言語的役割を評価項目とした重みの値を格納した重み辞書の例である。
【0030】
次に、上で述べた重みの学習について説明する。これまでに作成した有効語辞書、カテゴリ代表ベクトル、および現在の重みの値を記した重み辞書等を参照しながら、学習用文書のそれぞれについて分類を実行し、各評価項目ごとの重みの値を微調整して再度分類を試みる、という処理を繰り返して最終的な重みの値を決定する(フローチャート図4の処理404〜405)。図5は405の分類実行の処理を説明するフローチャートである。
【0031】
まず学習処理の冒頭で行ったように、分類対象文書をもう一度形態素解析し、有効語辞書を参照してそこに含まれる有効語をピックアップする(フローチャート図5の処理501)。なお、図5は重みの学習処理を終了後に学習用文書以外の文書を分類する際の処理を記述したものであるから、今述べているような重み学習処理の中で分類を実行する際には、言うまでもなく再び形態素解析を実行する必要はなく、学習処理冒頭で行った形態素解析の結果を保存しておいてそれをここでの処理結果として差し支えない。
【0032】
次にピックアップされた有効語の重みを計算する(フローチャート図5の処理502)。第1の観点による重みの値は有効語辞書の局在度を用い、第2の観点による重みは図7、図8の2つの重み辞書を参照して、それらの値を総合してトータルの重みを求める。
【0033】
次に有効語辞書から意味ベクトルを取得する(フローチャート図5の処理503)。以上を分類対象文書からピックアップされた全ての有効語について行ったら、各有効語の意味ベクトルに502で計算した重みを付けて平均を取り、分類対象文書の文書ベクトルを求める(フローチャート図5の処理504)。
【0034】
そして、図5の処理503で求めた各カテゴリの代表ベクトルと、分類対象ベクトルの文書ベクトルとの距離を計算する(フローチャート図5の処理505)。2つのベクトル間の距離としては、よく行われるように内積を計算して得られる両ベクトルのなす角の余弦値を用いる。距離が最も近いカテゴリを当該分類対象文書の分類先カテゴリとして決定する(フローチャート図5の処理506)。
【0035】
以上がフローチャート図4の405で行われる分類実行の処理であり、再び図4の処理406に戻って重み学習の続きを説明する。
【0036】
学習用文書にはあらかじめ、ユーザが分類させたい正解カテゴリが決められているので、処理405で得られた分類先カテゴリと比較する。両者のカテゴリが一致した場合には、重みをチューニングする必要はないとみなし、当該学習用文書に対してはこれ以上処理することはなく、ループ404の次の学習用文書の処理に移る。両者のカテゴリが一致しなかった場合には、分類システムの分類先が間違っていたことになり、重み辞書の重みの値を以下のように調整する。まず、当該学習用文書に含まれる有効語について、分類処理の503で取得した意味ベクトルを参照し、それと正解カテゴリ、分類先カテゴリとの距離をそれぞれ計算して、当該有効語の意味ベクトルが正解カテゴリ、分類先カテゴリのどちらの代表ベクトルにより近いかを判定する(フローチャート図4の処理408)。ここで分類先カテゴリに近かったとすると、当該文書の文書ベクトルが正解カテゴリの方へより近づくようにするため、当該有効語が該当している重みの評価項目の重みの値を微小量だけ減らすよう2つの重み辞書を修正する(フローチャート図4の処理409)。逆に当該有効語の意味ベクトルが正解カテゴリの方により近かったとすると、当該有効語が該当している重みの評価項目は正しい分類に寄与していたものとみなし、その重みの値を微小量だけ増やすように重み辞書を修正する(フローチャート図4の処理410)。これを当該学習用文書からピックアップされた全ての有効語に対して行い(フローチャート図4の407のループ)、重みの値を調整する。
【0037】
そして、以上説明した処理を、全ての学習用文書を分類対象とみなして繰り返し(フローチャート図4の404のループ)、重みの値が最適となるように一連の学習用文書に対して何回か繰り返し、重み辞書を最終的に完成させる。このようにして学習処理が完了する。
【0038】
以上で作成された各種辞書を参照して、学習用文書以外の一般文書の分類を行うのであるが、その手順は重みの学習処理の中で説明した分類実行での処理と全く同一である。分類対象文書が、正解カテゴリの与えられた学習用文書であるか、正解カテゴリが未知の一般文書であるかの違いだけである。
【0039】
ただし、フローチャート図5の処理506においては、分類対象文書の分類先カテゴリを唯一つに決定して出力するようになっているが、カテゴリ代表ベクトルと分類対象文書の文書ベクトルとの距離がたまたま一致してしまうような複数個のカテゴリが存在することもありうる。また、システムによっては複数個の分類先カテゴリを出力することを要求されることも考えられる。後者の要求に対しては、カテゴリ代表ベクトルと分類対象文書の文書ベクトルとの距離があらかじめ定められた閾値を超えていたら正解とするなどの方法で行えばよい。
【0040】
次に分類結果の表示方法について説明する。
【0041】
図10は、システム管理者またはシステムのエンドユーザ等によって自動文書分類システム上に定義された分類カテゴリを、本発明における表示ウィンドウの左側に表示した例である。また図11はカテゴリ定義ファイルであり、文書自動分類のシステム管理者等が定義したカテゴリおよびカテゴリセットの内容を記憶するためのシステムファイルの例である。各エントリは3つの値の組からなり、それぞれカテゴリセットID,そのカテゴリセットに定義されたカテゴリの数、そのカテゴリセットに定義されたカテゴリのリストを表している。
【0042】
一つの分類システムを複数のエンドユーザが使用することも考えられ、ある文書群をユーザごとに別々のカテゴリセットで分類したい場合、システム上で一般に複数個のカテゴリセットが存在することになるため、ここではカテゴリセットA、カテゴリセットBなどという名称で各カテゴリセットを区別している。カテゴリセットAというカテゴリセットには、そこに含まれるカテゴリとして、「政治」、「経済」、「司法」、「教育」、「医療」、「文芸」、「学術」、「事件」の8個のカテゴリが定義されており、またカテゴリセットBには、「ヒト」、「モノ」、「娯楽」、「教養」、「時事」、「その他」の6個のカテゴリが定義されていることを示している。
【0043】
図12は分類結果ファイルの例であり、これは本システムにより自動分類が実行された文書群に対し、各文書がそれぞれどのカテゴリセットのどのカテゴリに分類されたかを記述したファイルであり、ある分類対象文書に対して分類が実行されるごとに更新される。各エントリはシステムに蓄積された文書を一意に識別するための「文書ID」、着目するカテゴリセットのIDを表す「カテゴリセットID」、当該文書が当該カテゴリセットの中で属するカテゴリを意味する「カテゴリ」の3つの属性を持つ組として表現される。
【0044】
図10において任意のカテゴリがマウスやキーボード等により選択されると、表示制御部201は図12の分類結果ファイル205を参照し、カテゴリ属性が選択されたカテゴリに等しいエントリを検索し、そのエントリの文書IDを取得して文書のタイトルを表示する。
【0045】
図13はそのときの画面の例を表したものであり、図10に示したカテゴリ一覧の中から、カテゴリセットAの中の「政治」カテゴリを選択した場合の表示例である。ウィンドウの右側はウィンドウ左側で選択されたカテゴリに分類されている文書の一覧を表示するためのものであり、この例では「政治」カテゴリに所属する全ての文書のタイトルが表示されている。
【0046】
次に、図13の右ウィンドウに表示された文書タイトルの一覧から任意の文書をマウスやキーボード等で選択すると、表示制御部201は図12の分類結果ファイル205を再び参照し、文書ID属性が選択された文書に等しいエントリを全て検索し、そのエントリのカテゴリセット属性とカテゴリ属性の値のペアを取得する。そして、右ウィンドウに表示されているカテゴリ一覧から、取得したペアに相当するカテゴリだけをハイライト表示する。
【0047】
従来の文書自動分類システムにおいても、カテゴリが選択されたときにそのカテゴリに対応した文書一覧を表示することは可能であったが、逆の操作として文書が選択されたときには、図12のような分類結果ファイルを検索することがなかったため、文書側からたどってそれの所属するカテゴリ全部を表示させることは不可能であった。本発明においては全てのカテゴリセットにわたるカテゴリとその所属文書の対応関係を示す文書分類結果ファイルを設け、カテゴリあるいは文書のどちら側が選択されても、同じように分類結果ファイルを検索するようにしたため、カテゴリを起点として対応する文書全部を参照できるのみならず、これとは逆方向の操作、すなわち文書を起点として対応するカテゴリ全部を見ることが可能となっている。
【0048】
図14はこのときの画面例を示したものであり、文書一覧からタイトルが「構造改革の行方」という文書を選択すると、それに対応して、この文書が分類されているカテゴリが左ウィンドウにハイライト表示されていることを表している。当該文書はカテゴリセットAにおいては「政治」、「経済」の2個のカテゴリに分類されており、またカテゴリセットBにおいては、「時事」カテゴリ1個に分類されているので、合わせて3つのカテゴリがハイライト表示される。ただし、現在注目しているカテゴリであるカテゴリセットAの「政治」カテゴリを他の2つのカテゴリと区別して表示しておかないと、右ウィンドウに一覧表示している文書群がどこに所属しているのかが不明となるので、「政治」カテゴリは例えば表示色を変更したり、アンダーライン表示するなどして、該当するカテゴリの中で区別できるようにしている。
【0049】
以上のような方法により文書の分類結果を表示し、ユーザはその結果を見てシステムの決定したカテゴリが自分にとって正しいのか正しくないのかの判定をし、必要ならばユーザの考える正しいカテゴリを指定してシステムに学習させることが行われる。そこで次に分類結果を訂正しシステムに学習させることについて図24に示すフローチャートを用いて、説明する。
【0050】
S2401では文書の移動があるかどうかを監視し、移動があった場合にS2402に移る。
【0051】
S2402では移動対象文書が複数のカテゴリに所属しているかを判断し、単独のカテゴリに所属している場合にはS2403へ、複数のカテゴリに所属している場合はS2406に移る。
【0052】
単独のカテゴリに所属している場合の例を、図17を用いて説明する。図17ではカテゴリセットAの「政治」カテゴリが注目カテゴリとなっており、右側ウィンドウには「政治」カテゴリに所属する文書の一覧が示されている。ユーザは文書「情報公開法政府原案」がこの当該カテゴリに分類されているのが不満で、これを「司法」カテゴリに分類したいと考えたとする。そこでこの文書を、マウスを使って左側ウィンドウの「司法」カテゴリの上にドラッグする。この時点で該文書を政治カテゴリに残したままにするのか、削除してしまうのかをシステムは判断できないため、図17に示すように移動前に確認メッセージを出力する(S2403)。「YES」を選択した場合は移動前に所属していた「政治」カテゴリへの所属が残ることになり、移動後は「政治」、「司法」両カテゴリに所属することになる。「NO」を選択した場合は「政治」カテゴリから削除され、「司法」カテゴリに属することになる。なお、このケースのように移動対象文書がひとつのカテゴリにのみ所属している場合では、所属関係を把握することが比較的容易であるため、確認メッセージを表示せずに「政治」カテゴリから「司法」カテゴリにドラッグした場合においては、「政治」カテゴリから該文書を削除、「司法」カテゴリのみに属するという構成にしてもよい。
【0053】
S2406では移動先が異なるカテゴリセットかを判断し、同一カテゴリセットであればS2407の同一カテゴリセット処理(図25)に移る。異なるカテゴリセットであればS2408に移る。
【0054】
同一カテゴリセットに文書を移動する場合の例を示す。図14において、左側のウィンドウでカテゴリセットAの「政治」カテゴリが注目カテゴリとなっており、右側のウィンドウには注目カテゴリ「政治」に分類されている文書タイトルの一覧が表示されている。その中で選択中の文書「構造改革の行方」はカテゴリセットAの中では「政治」カテゴリ以外に「経済」カテゴリにも分類されており、またカテゴリセットBの中では「時事」カテゴリだけに分類されている。そして、カテゴリセットAでの分類においては、「政治」カテゴリの方が「経済」カテゴリよりも尤度が高くなっている。
【0055】
尤度の順位をここでは「1、2、・・・」などの数字で示しているが、実際には表示色を変える等の表示方法が視覚的にわかりやすくてよい。
【0056】
ここで図25に示すフローチャートを用いて同一カテゴリセット処理について説明する。S2501では文書の移動先が移動元のカテゴリと同じかどうかを判断し、同じであればS2502へ、異なればS2503に移る。
【0057】
文書の移動先が移動元のカテゴリと同じ場合について、ユーザがこの文書が「経済」カテゴリにも分類されているのが不満で、「政治」カテゴリただ一つに分類したいと思う場合の操作方法を例にあげて説明する。図14のように「政治」カテゴリが注目カテゴリとなっており、右側ウィンドウに「政治」カテゴリに属する文書の一覧が表示されている状態で、当該文書をマウスを使ってドラッグし、左側ウィンドウの「政治」カテゴリの上に移動させる。
【0058】
この操作においては、当該文書が既に第1位の順位の尤度でもって属している「政治」カテゴリに移動するという行為をあえて行うことで、当該文書の他のカテゴリへの所属を無効にし「政治」カテゴリただ一つに所属させたいというユーザの意思を実現する。
【0059】
既に第1位の順位の尤度でもって属している「政治」カテゴリへの移動がユーザの誤操作ではなく、第2位の順位の尤度でもって属している「経済」カテゴリへの所属を消滅させるべきものかどうかの確認のため、移動前に図18のように確認メッセージを表示(S2502)し、ユーザへの確認を行う。なお図18において点線矢印で示されたものは、文書タイトルアイコンのカテゴリアイコン上へのドラッグというユーザ操作が確認用ウィンドウの表示直前に行われたことを意味するために記載したもので、必ずしも実際に画面上で表示されるものとは限らない。
【0060】
S2503では移動先が、文書が既に所属しているカテゴリかどうかを判断し、移動先が所属しているカテゴリであればS2504へ、所属していないカテゴリであればS2505へ移る。
【0061】
文書を、既に所属しているカテゴリに移動する場合について説明する。まず図14の状態から、選択中の文書を「経済」カテゴリの上へとドラッグするという操作を実行する。この操作では、「経済」カテゴリを第1位の優先順位で分類先としたいというユーザの願望を反映しているが、「政治」カテゴリへの所属も残しておきたいのかどうかがシステムには判断できない。すなわち、当該文書の分類先として「経済」カテゴリのみにするのか、あるいは第1位を「経済」、第2位を「政治」として二つのカテゴリにするのかの曖昧さが生じる。そのため、図19のような確認メッセージを表示(S2504)して、もしユーザが「政治」カテゴリへの分類も第2位の順位付けで残したままにしておきたいときには、「Yes」ボタンを選択し、また「経済」カテゴリのみの所属にしたければ「No」ボタンを選択するようにさせる。
【0062】
次に文書を、所属していないカテゴリに移動する場合について説明する。同じく図14に示された状態から、今度は選択文書を「司法」カテゴリの上へとドラッグする場合について説明する。「司法」カテゴリは現在では当該文書の分類先カテゴリとはなっていないが、ユーザが「政治」や「経済」への分類を不満とし、「司法」を最ももっともらしい分類先としてみなしたことを意味する。この場合も先ほどと同じく、現状分類先となっている「政治」、「経済」の両カテゴリへの所属を「司法」カテゴリへの変更後も残しておくかどうかが曖昧となってしまう。「政治」、「経済」両カテゴリについてそれぞれ第2位、第3位の順位で有効としておくかについてユーザに確認するため、図20のように3つの分類先パターンを含むメッセージを出力(S2505)し、ユーザに選択させる。すなわち、「司法」のみに分類するか、「司法」を第1位かつ「政治」を第2位として分類するか、「司法」を第1位かつ「政治」を第2位かつ「経済」を第3位として全てに分類するか、の3つの選択肢である。
【0063】
ここでもし仮に、第2位として「経済」カテゴリ、第3位として「政治」カテゴリとなるように分類したければ、当該文書を「司法」カテゴリへとドラッグする前に、上で説明したようにまず「経済」カテゴリへとドラッグし、図19の確認用ウィンドウにて「Yes」ボタンを選択することで、「経済」「政治」をそれぞれ第1位、第2位の分類先に変更したのちに、もう一度当該文書をドラッグし、「司法」カテゴリの上に持っていく。そして、図20の選択用ウィンドウにて選択することで、「司法」「経済」「政治」の順に分類されるようにできる。もちろん、マウスの右クリックなどを利用して直接にカテゴリの優先順位を指定するなど、他の方法も考えられる。
【0064】
以上のように文書のカテゴリ所属状況、移動先に基づいたメッセージを出力し、S2404では、その選択に従って実際に文書を移動する。
【0065】
S2405は文書やカテゴリの特徴量を制御する処理であり、その詳細を図16に示す。移動の対象となった文書を形態素解析し、有効語辞書を参照して文書中に含まれる有効語をピックアップする(フローチャート図16の処理1602)。各有効語に対して、同じく有効語辞書から当該有効語の意味ベクトルを取得する(フローチャート図16の処理1604)。カテゴリごとの代表ベクトルを記憶している辞書から、当該文書の移動前に所属していたカテゴリの代表ベクトルと、移動後に所属するカテゴリの代表ベクトルを取得し、当該有効語の意味ベクトルと両代表ベクトルとの距離をそれぞれ計算して、当該有効語の意味ベクトルが移動前のカテゴリ、移動後のカテゴリのどちらの代表ベクトルにより近いかを判定する(フローチャート図16の処理1605)。当該有効語の意味ベクトルが仮に移動前のカテゴリの代表ベクトルに近かったとすると、当該文書の文書ベクトルが移動後のカテゴリの代表ベクトルの方へより近づくようにするため、当該有効語が該当している重みの評価項目の重みの値を微小量だけ減らすよう2つの重み辞書を修正する(フローチャート図16の処理1606)。逆に当該有効語の意味ベクトルが移動後のカテゴリの代表ベクトルの方により近かったとすると、当該有効語が該当している重みの評価項目は正しい分類に寄与していたものとみなし、その重みの値を微小量だけ増やすように重み辞書を修正する(フローチャート図16の処理1607)。
【0066】
これを当該文書からピックアップされた全ての有効語に対して行い(フローチャート図16の1603のループ)、重みの値を調整する。
【0067】
そして、以上説明した処理を、移動された全ての文書を対象として繰り返し(フローチャート図16の1601のループ)、学習処理を終了する。
【0068】
これまでは一つのカテゴリセットの中での文書のカテゴリ間移動について述べたが、複数個のカテゴリセットについてメンテナンスできる権限をユーザが持っており、右側ウィンドウにて異なったセットのカテゴリが同時に表示されていた場合には、操作中に誤って着目しているカテゴリセットとは別のカテゴリに移動してしまうなどの混乱をきたすことも考えられる。
【0069】
S2408では、例えばユーザが、カテゴリセットA、カテゴリセットBの2つのカテゴリセットを管理しており、ユーザが現在の注目カテゴリセットでないカテゴリセットBのカテゴリに当該文書をドラッグしようとすると、ユーザの操作が誤っていることが考えられるため、図21に示したような警告メッセージを出力してユーザの注意を喚起する。
【0070】
以上の処理を持って図24に示すフローチャートの処理を終了する。
【0071】
(第2の実施の形態)
図21において説明した例では、カテゴリセットAが注目カテゴリセットであり、その中の「政治」カテゴリが注目カテゴリとなっており、右側ウィンドウには注目カテゴリに所属する文書タイトルの一覧が表示されている。第1の実施例では、ユーザがこの中の文書「構造改革の行方」をカテゴリセットBの「ヒト」カテゴリに移動しようとしたところ、「ヒト」が注目カテゴリセット以外のカテゴリであることからユーザの操作ミスと判断し、警告メッセージを表示した。
【0072】
ここで別の実施の形態として、もし移動しようとしたユーザがカテゴリセットBのカテゴリセットやその内容に熟知しており、注目カテゴリを現在の状態すなわちカテゴリセットAに固定したまま、当該文書をカテゴリセットBの中で「時事」カテゴリから「ヒト」カテゴリに移したいと思う場合も考えられる。このようなユーザを対象としたシステムでは、図21に示したように、文書の移動が注目カテゴリセット以外のカテゴリセット内で行われ、「時事」カテゴリに分類されている当該文書が「ヒト」カテゴリに移動される旨のメッセージを表示して、ユーザがそれに同意するとその移動が実行されるように設計することも出来る。
【0073】
なおこの操作を行った後でも、カテゴリセットAでの分類状況に変化はなく、当該文書「構造改革の行方」は「政治」カテゴリを第1優先として、また「経済」カテゴリを第2優先として振り分けられたままである。
【0074】
また、さらにカテゴリ間移動の際に、第1の実施形態のように、状況に応じて確認メッセージを出力するように構成しても良い。
【0075】
(第3の実施の形態)
上記第2の実施の形態においては、当該文書を「ヒト」カテゴリの上にドラッグすることにより、注目カテゴリセットをもとのカテゴリセットAに固定したまま、カテゴリセットB内でカテゴリ間の文書の移動が行われたが、別の方法として「ヒト」カテゴリにドラッグされたら注目カテゴリをカテゴリセットBに切り替えることも考えられる。図22はその様子を示したものである。
【0076】
すなわち、図22のように注目カテゴリセットがカテゴリセットAで注目カテゴリが「政治」カテゴリのときに、文書「構造改革の行方」をカテゴリセットB内のカテゴリ「ヒト」へとドラッグした場合、注目カテゴリセット以外のカテゴリセット内で移動が起こることをユーザに確認したのち、図23のように注目カテゴリセットがカテゴリセットBに移り、その中の「ヒト」カテゴリが注目カテゴリとなって、カテゴリセットBで扱う文書集合のうち、「ヒト」カテゴリに分類されている文書の一覧が右側ウィンドウに表示される。今の操作で「時事」カテゴリから「ヒト」カテゴリに移動された当該文書「構造改革の行方」はその一覧の先頭行に表示されている。
【0077】
なお、ここで当該文書がまだ注目文書となっているため,カテゴリセットAでの所属カテゴリである「政治」、「経済」の両カテゴリの表示はそのまま変化しない。すなわち、カテゴリセットA内での分類先に変化はないので、第1位が「政治」カテゴリ、第2位が「経済」カテゴリであることを示す表示はそのままとなっている。
【0078】
(第4の実施の形態)
上記実施の態様では文書をカテゴリ間で移動した場合に、必ず特徴量の制御を行うことで学習を行うように構成していたが、本発明はこれに限られるものではない。文書の移動を行ったのち、例えば図15に示したようなメニューを開いて、その結果を反映させるかどうかを選択できるようにしてもよい。図15で「学習終了」は、それまでにユーザが行った文書のカテゴリ間の移動操作に対して学習処理を起動し、その変更内容から算出される重み変更量を重み辞書に反映させたいときに選択する。また「学習操作クリア」は、それまでにユーザが行った文書のカテゴリ間の移動操作を全て無効にし、元の分類状態に戻したいときに選択する。
【0079】
本発明の実施態様の例を以下に列挙する。
【0080】
[実施態様1]文書をカテゴリに分類する文書分類装置において、
カテゴリ間の文書の移動指示がなされた場合に、該文書のカテゴリ所属状況に応じてメッセージを制御するメッセージ制御手段と、
前記メッセージ制御手段が生成したメッセージを出力する出力手段を備えたことを特徴とする文書分類装置。
【0081】
[実施態様2]前記メッセージ制御手段は、カテゴリセットが複数個定義されている場合に、異なるカテゴリセットのカテゴリに文書を移動する際に警告メッセージを出力するよう制御することを特徴とする実施態様1記載の文書分類装置。
【0082】
[実施態様3]前記メッセージ制御手段は、移動文書が1つのカテゴリに所属している場合に、文書の移動指示に基づいて、既に所属しているカテゴリへの所属を有効のままにするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様1又は2記載の文書分類装置。
【0083】
[実施態様4]前記メッセージ制御手段は、移動文書が複数のカテゴリに所属している場合に、移動元のカテゴリに対する移動指示に基づいて、他の所属カテゴリへの所属を無効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様1又は2記載の文書分類装置。
【0084】
[実施態様5]前記メッセージ制御手段は、移動文書が複数のカテゴリに所属している場合に、移動元以外の所属カテゴリに対する移動指示に基づいて、移動元のカテゴリへの所属を有効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様1又は2記載の文書分類装置。
【0085】
[実施態様6]前記メッセージ制御手段は、移動文書が複数のカテゴリに所属している場合に、所属していないカテゴリへの移動指示に基づいて、文書の所属に関する選択肢を含むメッセージを出力することを特徴とする実施態様1又は2記載の文書分類装置。
【0086】
[実施態様7]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類手段を更に備え、
前記確認メッセージは選択肢を含み、その選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御手段を更に備えたことを特徴とする実施態様3乃至5記載の文書分類装置。
【0087】
[実施態様8]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類手段を更に備え、
前記選択肢を含むメッセージの選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御手段を更に備えたことを特徴とする実施態様6記載の文書分類装置。
【0088】
[実施態様9]文書の移動に対し、特徴量の制御を実施するか否かを選択する特徴量制御選択手段を更に備えたことを特徴とする実施態様7又は8記載の文書分類装置。
【0089】
[実施態様10]文書をカテゴリに分類する文書分類方法において、
カテゴリ間の文書の移動指示がなされた場合に、該文書のカテゴリ所属状況に応じてメッセージを制御するメッセージ制御ステップと、
前記メッセージ制御ステップが生成したメッセージを出力する出力ステップを備えたことを特徴とする文書分類方法。
【0090】
[実施態様11]前記メッセージ制御ステップは、カテゴリセットが複数個定義されている場合に、異なるカテゴリセットのカテゴリに文書を移動する際に警告メッセージを出力するよう制御することを特徴とする実施態様10記載の文書分類方法。
【0091】
[実施態様12]前記メッセージ制御ステップは、移動文書が1つのカテゴリに所属している場合に、文書の移動指示に基づいて、既に所属しているカテゴリへの所属を有効のままにするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様10又は11記載の文書分類方法。
【0092】
[実施態様13]前記メッセージ制御ステップは、移動文書が複数のカテゴリに所属している場合に、移動元のカテゴリに対する移動指示に基づいて、他の所属カテゴリへの所属を無効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様10又は11記載の文書分類方法。
【0093】
[実施態様14]前記メッセージ制御ステップは、移動文書が複数のカテゴリに所属している場合に、移動元以外の所属カテゴリに対する移動指示に基づいて、移動元のカテゴリへの所属を有効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様10又は11記載の文書分類方法。
【0094】
[実施態様15]前記メッセージ制御ステップは、移動文書が複数のカテゴリに所属している場合に、所属していないカテゴリへの移動指示に基づいて、文書の所属に関する選択肢を含むメッセージを出力することを特徴とする実施態様10又は11記載の文書分類方法。
【0095】
[実施態様16]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類ステップを更に備え、
前記確認メッセージは選択肢を含み、その選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御ステップを更に備えたことを特徴とする実施態様12乃至14記載の文書分類方法。
【0096】
[実施態様17]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類ステップを更に備え、
前記選択肢を含むメッセージの選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御ステップを更に備えたことを特徴とする実施態様15記載の文書分類方法。
【0097】
[実施態様18]文書の移動に対し、特徴量の制御を実施するか否かを選択する特徴量制御選択ステップを更に備えたことを特徴とする実施態様16又は17記載の文書分類方法。
【0098】
[実施態様19]実施態様10乃至18に記載の文書分類方法が備えた各ステップをコンピュータに実行させるためのプログラムコードからなる制御プログラム。
【0099】
【発明の効果】
以上説明してきたように本発明によれば、文書をカテゴリに分類する文書分類装置において、文書をカテゴリ間で移動する際にメッセージを出力することで、ユーザの混乱や誤操作を未然に防ぐことができる。
【図面の簡単な説明】
【図1】本発明におけるシステムの全体構成を示した図である。
【図2】本発明における分類結果表示手段の構成を示した図である。
【図3】本発明を適用した文書分類装置の構成図である。
【図4】本発明における学習処理の流れを表したフローチャートである。
【図5】本発明における分類処理の流れを表したフローチャートである。
【図6】単語間の共起確率の例を示した図である。
【図7】有効語辞書の例を示した図である。
【図8】有効語の位置的役割を評価項目とした重み辞書の例である。
【図9】有効語の言語的役割を評価項目とした重み辞書の例である。
【図10】本発明における表示ウィンドウにカテゴリ一覧を表示した例である。
【図11】カテゴリ定義ファイルの例を示した図である。
【図12】文書IDを見出しとする分類結果ファイルの例を示した図である。
【図13】表示ウィンドウにてカテゴリを選択したときの画面例を示した図である。
【図14】表示ウィンドウにて文書を選択したときの画面例を示した図である。
【図15】分類結果に対するユーザ判定の学習処理を起動するときの画面例を示した図である。
【図16】分類結果に対するユーザ判定の学習処理の流れを表したフローチャートである。
【図17】所属カテゴリがひとつの文書の分類先を変更しようとするユーザ操作に対して確認用ウィンドウを表示したときの画面例を示した図である。
【図18】所属カテゴリが複数の文書の分類先を変更しようとするユーザ操作に対して確認用ウィンドウを表示したときの画面例を示した図である。
【図19】所属カテゴリが複数の文書の分類先を変更しようとするユーザ操作に対して確認用ウィンドウを表示したときの画面例を示した図である。
【図20】所属カテゴリが複数の文書の分類先を変更しようとするユーザ操作に対して選択用ウィンドウを表示したときの画面例を示した図である。
【図21】異なるカテゴリセットへ分類先を変更しようとするユーザ操作に対して警告用ウィンドウを表示したときの画面例を示した図である。
【図22】異なるカテゴリセットへ分類先を変更しようとするユーザ操作に対して警告用ウィンドウを表示したときの画面例を示した図である。
【図23】分類先変更後に注目カテゴリセットがカテゴリセットBに移ったときの画面例を示した図である。
【図24】メッセージ出力の流れを表したフローチャートである。
【図25】同一カテゴリセット処理の流れを表したフローチャートである。
【発明の属する技術分野】
本発明は、入力された文書をカテゴリに分類する文書分類装置に関するものであり、文書の分類をユーザが変更する際の操作および表示方式に関するものである。
【0002】
【従来の技術】
入力された文書をカテゴリ群に振り分ける文書分類システムにおいて、システムが出力した分類結果が100%正しいということは通常考えられず、ユーザから見て適当でないカテゴリに振り分けられる文書も多いと考えられる。システムによりそのように誤分類されてしまった文書に対し、ユーザの希望するふさわしいカテゴリへと手作業によって分類し直し、その変更内容をシステムが解析して分類用辞書の各パラメータを再調整することで反映させ、次回入力される文書をより正しく分類できるようにトレーニングすることをシステムの学習と呼ぶ。分類が実行されるごとにユーザがその結果を検討し、誤分類と思うものを正しいカテゴリに割り当てて学習させるという作業を繰り返すことで、システムは次第にユーザの意図に近い分類ができるようになると考えられる。このシステムの学習に関する従来技術の1つである特許文献1では、学習に関するアルゴリズムが詳述されている。
【0003】
このような状況において、誤分類された文書の正しい分類先を指定する方法として、マウスを使って当該文書を表すアイコンをドラッグし、正しい分類先カテゴリを表すアイコンの上まで移動するというのが一般に考えられている。この操作はウィンドウシステムにおけるGUIのメリットによくマッチしており、あたかも図書館で誤った図書分類の書棚に返却された図書を元の正しい書棚に入れ直すように、誤分類文書のカテゴリ間の移動を直感的にイメージできることがポイントである。
【0004】
しかしながら図書の場合と異なる点は、各図書には決まった一つの図書分類しか存在しないが、文書の分類においては上で説明したように、ユーザが使い勝手その他を考慮して同一文書を複数のカテゴリに分類したり、カテゴリセットが複数存在することによる操作上の混乱を招きやすいことが挙げられる。
【0005】
あるカテゴリに属する文書を表示させ、そのうちの一つを選択してユーザが他のカテゴリに移動しようとしたとき、実はそのカテゴリにも既に同時に所属していたとすると、操作後にはこれらのカテゴリに対してどのような所属関係をその文書に持たせるべきか、直感的に把握しづらい事態となってしまう。
【0006】
【特許文献1】
特開2003−91542
【0007】
【発明が解決しようとする課題】
本発明は、以上のような問題点を解決するためのものであり、文書が複数個の分類先カテゴリにまたがって分類されていた場合に、文書アイコンを別のカテゴリへドラッグするという操作後にカテゴリの所属関係が不明確になるのを防ぐ。すなわち、あるカテゴリに属する文書を表示させ、そのうちの一つを選択してユーザが他のカテゴリに移動しようとしたとき、実はそのカテゴリにも既に同時に所属していたとすると、操作後にはこれらのカテゴリに対してどのような所属関係をその文書に持たせるべきか、直感的に把握しづらい事態となってしまうのを避けるため、文書の移動前にメッセージを出力して操作後どのカテゴリにどのような優先順位で所属するのかを明らかにする。
【0008】
また、カテゴリセットが複数個存在するシステムで、ある文書の所属するカテゴリが異なるカテゴリセットにまたがって表示されていた場合に、現在注目しているカテゴリセットに属さないカテゴリへ移動しようとするユーザ操作に対し、メッセージを出力して現在の注目カテゴリをユーザに認識させることで混乱や誤操作を未然に防ぐ。
【0009】
【課題を解決するための手段】
上述した問題点を解決するために、本発明では、文書をカテゴリに分類する文書分類装置において、文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する文書分類手段と、前記カテゴリ間での文書の移動指示に基づいてメッセージを出力するメッセージ出力手段とを備えたことを特徴とする。
【0010】
【発明の実施の形態】
(第1の実施の形態)
本発明での実施の形態を図1から図25を参照しながら説明する。
【0011】
図1は本システムの全体構成を示すものである。
【0012】
図2は図1の構成のうち、特に分類結果表示手段についてその構成を詳しく示したものである。このうち、後に説明するようにメッセージ作成手段が本発明における最も重要な構成手段である。分類部が分類した結果を分類結果ファイルとして保存。表示制御部は分類結果ファイルを参照して分類状況を出力部に出力する。また表示制御部はメッセージ作成部が作成したメッセージを出力部に出力する。
【0013】
図3は本発明を適用した文書分類装置の構成を示すブロック図である。
【0014】
図示の構成において、CPU301はマイクロプロセッサであり、文書分類処理のための演算、論理判断等を行い、バスを介してバスに接続された各構成要素を制御する。
【0015】
バス309は、マイクロプロセッサCPUの制御対象である各構成要素を指示するアドレス信号、コントロール信号を転送する。また、各構成要素間のデータ転送を行う。
【0016】
RAM302は書込み可能なランダムアクセスメモリであって、各構成要素からの各種データの一次記憶に用いる。
【0017】
ROM303は読出し専用の固定メモリである。マイクロプロセッサCPUによるブートプログラムを記憶する。ブートプログラムはシステム起動時にハードディスクに記憶された制御プログラムをRAMにロードし、マイクロプロセッサCPUに実行させる。
【0018】
入力装置304はキーボード、マウス等である。
【0019】
表示装置305はCRT、液晶ディスプレイ等である。
【0020】
HD306はハードディスクであり、CPUにより実行される制御プログラム、等が格納される。
【0021】
リムーバブル外部記憶装置308はフロッピー(登録商標)ディスクやCD、DVD等の外部記憶にアクセスするためのドライブ等である。上記HDと同様に使用でき、それらの記録媒体を通じて他の文書処理装置とのデータ交換を行う装置である。なお、ハードディスクに記憶される制御プログラムは、これらの外部記憶装置から必要に応じてHDにコピーすることもできる。
【0022】
通信装置307はネットワークコントローラである。通信回線を介して外部とのデータ交換を行う装置である。
【0023】
かかる各構成要素からなる本発明文書分類装置においては、入力装置からの各種の入力に応じて作動するものであって、入力装置からの入力が供給されるとまずインタラプト信号がマイクロプロセッサCPUに送られ、それに伴って、CPUがROMまたはRAM内に記憶される各種命令を読み出し、その実行によって各種の制御が行われる。
【0024】
図4は本システムにおける学習処理のフローチャートである。学習処理では、分類先がユーザによって予め指定された学習用文書を解析し、分類を行ううえで必要となる辞書を作成する。まず、学習用文書を形態素解析し、単語切りを行う。そして普通名詞、固有名詞、サ変名詞、および形態素辞書にない単語である未知語をピックアップし、全学習用文書にわたる総出現頻度がある程度大きく信頼性の高い単語だけを選んで残りは捨てる。残った単語の中から、特定のカテゴリに偏って現れる単語だけを有効語候補とするため、ピックアップされた各単語に対し局在度なるものを計算する。まず、カテゴリCjに属する学習用文書の中で、単語Wiを含む文書の割合、すなわち、カテゴリCjに属しWiを含む文書数をカテゴリCjに所属する文書数で割ったものでをPijとおく。ただし、どの単語に対しても、その局在度をすべてのカテゴリに対して足し合わせた値が1となるように正規化しておく。すなわち、すべてのカテゴリをC1,C2,・・・,Cmとしたとき、Σ(j=1,m)Pij=1とする。単語WiのカテゴリCjに対する局在度E(Wi)は、E(Wi)=1+Σ(j=1,m)Pij*logm Pijで定義する。局在度の値が大きい順にN個の単語を選択し、これらを有効語候補とする(フローチャート図4の処理401)。
【0025】
次に、単語間の距離を求めるために、各有効語に対して意味ベクトルと呼ぶベクトル値を定義する。ベクトルの軸として全有効語自体をとり、その成分値として当該有効語と軸とする有効語との共起確率を採用する。ただし、単語Wiの単語Wjに対する共起確率とは、WiとWjをともに含む文書数の、Wiを含む文書数に対する比で定義する。図6は共起確率を表したものであり、それによると、例えば単語「商社」のベクトル表現は、
(1.0 0.2 0.1 0.6 0.8 0.0 0.0 0.3 ・・・)となる。
【0026】
そしてこれらの情報を元に有効語辞書を作成する(フローチャート図4の処理402)。図7は有効語辞書の例であり、単語「商社」を見出しとするものの例である。帰属数はカテゴリごとに、この単語を含む文書がいくつ所属しているかを示すものであり、また出現数はこの単語を含む学習用文書の総数である。
【0027】
有効語辞書を作成したら、次に各学習用文書に対してその中に含まれる有効語の意味ベクトルの重み付き平均を計算することによって、その文書のベクトル表現を定義することが出来る。またカテゴリごとに、そこに所属する全ての学習用文書の、ベクトルの平均を取ることにより、カテゴリの代表ベクトルを定める(フローチャート図4の処理403)。
【0028】
有効語の重みは、その有効語自体が分類という行為に対してどの程度有効かという点、およびその有効語が各文書の中でどの程度重要な位置を示しているかという点の2点を考慮して定義する。第1の観点は各カテゴリへの帰属度の度合いを表すもので、特定のカテゴリを特徴付ける度合いの高い有効語ほど重みを重くするという考えであり、上記で説明した局在度を用いる。第2の観点は対象とする文書の中でその有効語がどのように使われているか、文書の内容とどのように関わっているのか、という側面を評価するもので、有効語の出現位置やその有効語の格役割、修飾タイプなどの言語的役割、に注目して評価項目をあらかじめ作成しておき、有効語が各評価項目の条件を満たした場合に与える重みの値をフローチャート図4の処理404〜410で示したような繰り返し学習によって定めるものである。学習スタート時には重みをすべて1に初期化しておく。
【0029】
第2の観点に基づく重みは各評価項目の値を辞書として格納しておき、第1の観点に基づく重み、すなわち有効語の局在度を記した有効語辞書とともに分類実行時に参照し、各有効語のトータルの重みを計算するようになっている。図8は有効語の出現位置を評価項目とした重みの値を格納した重み辞書の例であり、また図9は有効語の格役割、修飾タイプなどの言語的役割を評価項目とした重みの値を格納した重み辞書の例である。
【0030】
次に、上で述べた重みの学習について説明する。これまでに作成した有効語辞書、カテゴリ代表ベクトル、および現在の重みの値を記した重み辞書等を参照しながら、学習用文書のそれぞれについて分類を実行し、各評価項目ごとの重みの値を微調整して再度分類を試みる、という処理を繰り返して最終的な重みの値を決定する(フローチャート図4の処理404〜405)。図5は405の分類実行の処理を説明するフローチャートである。
【0031】
まず学習処理の冒頭で行ったように、分類対象文書をもう一度形態素解析し、有効語辞書を参照してそこに含まれる有効語をピックアップする(フローチャート図5の処理501)。なお、図5は重みの学習処理を終了後に学習用文書以外の文書を分類する際の処理を記述したものであるから、今述べているような重み学習処理の中で分類を実行する際には、言うまでもなく再び形態素解析を実行する必要はなく、学習処理冒頭で行った形態素解析の結果を保存しておいてそれをここでの処理結果として差し支えない。
【0032】
次にピックアップされた有効語の重みを計算する(フローチャート図5の処理502)。第1の観点による重みの値は有効語辞書の局在度を用い、第2の観点による重みは図7、図8の2つの重み辞書を参照して、それらの値を総合してトータルの重みを求める。
【0033】
次に有効語辞書から意味ベクトルを取得する(フローチャート図5の処理503)。以上を分類対象文書からピックアップされた全ての有効語について行ったら、各有効語の意味ベクトルに502で計算した重みを付けて平均を取り、分類対象文書の文書ベクトルを求める(フローチャート図5の処理504)。
【0034】
そして、図5の処理503で求めた各カテゴリの代表ベクトルと、分類対象ベクトルの文書ベクトルとの距離を計算する(フローチャート図5の処理505)。2つのベクトル間の距離としては、よく行われるように内積を計算して得られる両ベクトルのなす角の余弦値を用いる。距離が最も近いカテゴリを当該分類対象文書の分類先カテゴリとして決定する(フローチャート図5の処理506)。
【0035】
以上がフローチャート図4の405で行われる分類実行の処理であり、再び図4の処理406に戻って重み学習の続きを説明する。
【0036】
学習用文書にはあらかじめ、ユーザが分類させたい正解カテゴリが決められているので、処理405で得られた分類先カテゴリと比較する。両者のカテゴリが一致した場合には、重みをチューニングする必要はないとみなし、当該学習用文書に対してはこれ以上処理することはなく、ループ404の次の学習用文書の処理に移る。両者のカテゴリが一致しなかった場合には、分類システムの分類先が間違っていたことになり、重み辞書の重みの値を以下のように調整する。まず、当該学習用文書に含まれる有効語について、分類処理の503で取得した意味ベクトルを参照し、それと正解カテゴリ、分類先カテゴリとの距離をそれぞれ計算して、当該有効語の意味ベクトルが正解カテゴリ、分類先カテゴリのどちらの代表ベクトルにより近いかを判定する(フローチャート図4の処理408)。ここで分類先カテゴリに近かったとすると、当該文書の文書ベクトルが正解カテゴリの方へより近づくようにするため、当該有効語が該当している重みの評価項目の重みの値を微小量だけ減らすよう2つの重み辞書を修正する(フローチャート図4の処理409)。逆に当該有効語の意味ベクトルが正解カテゴリの方により近かったとすると、当該有効語が該当している重みの評価項目は正しい分類に寄与していたものとみなし、その重みの値を微小量だけ増やすように重み辞書を修正する(フローチャート図4の処理410)。これを当該学習用文書からピックアップされた全ての有効語に対して行い(フローチャート図4の407のループ)、重みの値を調整する。
【0037】
そして、以上説明した処理を、全ての学習用文書を分類対象とみなして繰り返し(フローチャート図4の404のループ)、重みの値が最適となるように一連の学習用文書に対して何回か繰り返し、重み辞書を最終的に完成させる。このようにして学習処理が完了する。
【0038】
以上で作成された各種辞書を参照して、学習用文書以外の一般文書の分類を行うのであるが、その手順は重みの学習処理の中で説明した分類実行での処理と全く同一である。分類対象文書が、正解カテゴリの与えられた学習用文書であるか、正解カテゴリが未知の一般文書であるかの違いだけである。
【0039】
ただし、フローチャート図5の処理506においては、分類対象文書の分類先カテゴリを唯一つに決定して出力するようになっているが、カテゴリ代表ベクトルと分類対象文書の文書ベクトルとの距離がたまたま一致してしまうような複数個のカテゴリが存在することもありうる。また、システムによっては複数個の分類先カテゴリを出力することを要求されることも考えられる。後者の要求に対しては、カテゴリ代表ベクトルと分類対象文書の文書ベクトルとの距離があらかじめ定められた閾値を超えていたら正解とするなどの方法で行えばよい。
【0040】
次に分類結果の表示方法について説明する。
【0041】
図10は、システム管理者またはシステムのエンドユーザ等によって自動文書分類システム上に定義された分類カテゴリを、本発明における表示ウィンドウの左側に表示した例である。また図11はカテゴリ定義ファイルであり、文書自動分類のシステム管理者等が定義したカテゴリおよびカテゴリセットの内容を記憶するためのシステムファイルの例である。各エントリは3つの値の組からなり、それぞれカテゴリセットID,そのカテゴリセットに定義されたカテゴリの数、そのカテゴリセットに定義されたカテゴリのリストを表している。
【0042】
一つの分類システムを複数のエンドユーザが使用することも考えられ、ある文書群をユーザごとに別々のカテゴリセットで分類したい場合、システム上で一般に複数個のカテゴリセットが存在することになるため、ここではカテゴリセットA、カテゴリセットBなどという名称で各カテゴリセットを区別している。カテゴリセットAというカテゴリセットには、そこに含まれるカテゴリとして、「政治」、「経済」、「司法」、「教育」、「医療」、「文芸」、「学術」、「事件」の8個のカテゴリが定義されており、またカテゴリセットBには、「ヒト」、「モノ」、「娯楽」、「教養」、「時事」、「その他」の6個のカテゴリが定義されていることを示している。
【0043】
図12は分類結果ファイルの例であり、これは本システムにより自動分類が実行された文書群に対し、各文書がそれぞれどのカテゴリセットのどのカテゴリに分類されたかを記述したファイルであり、ある分類対象文書に対して分類が実行されるごとに更新される。各エントリはシステムに蓄積された文書を一意に識別するための「文書ID」、着目するカテゴリセットのIDを表す「カテゴリセットID」、当該文書が当該カテゴリセットの中で属するカテゴリを意味する「カテゴリ」の3つの属性を持つ組として表現される。
【0044】
図10において任意のカテゴリがマウスやキーボード等により選択されると、表示制御部201は図12の分類結果ファイル205を参照し、カテゴリ属性が選択されたカテゴリに等しいエントリを検索し、そのエントリの文書IDを取得して文書のタイトルを表示する。
【0045】
図13はそのときの画面の例を表したものであり、図10に示したカテゴリ一覧の中から、カテゴリセットAの中の「政治」カテゴリを選択した場合の表示例である。ウィンドウの右側はウィンドウ左側で選択されたカテゴリに分類されている文書の一覧を表示するためのものであり、この例では「政治」カテゴリに所属する全ての文書のタイトルが表示されている。
【0046】
次に、図13の右ウィンドウに表示された文書タイトルの一覧から任意の文書をマウスやキーボード等で選択すると、表示制御部201は図12の分類結果ファイル205を再び参照し、文書ID属性が選択された文書に等しいエントリを全て検索し、そのエントリのカテゴリセット属性とカテゴリ属性の値のペアを取得する。そして、右ウィンドウに表示されているカテゴリ一覧から、取得したペアに相当するカテゴリだけをハイライト表示する。
【0047】
従来の文書自動分類システムにおいても、カテゴリが選択されたときにそのカテゴリに対応した文書一覧を表示することは可能であったが、逆の操作として文書が選択されたときには、図12のような分類結果ファイルを検索することがなかったため、文書側からたどってそれの所属するカテゴリ全部を表示させることは不可能であった。本発明においては全てのカテゴリセットにわたるカテゴリとその所属文書の対応関係を示す文書分類結果ファイルを設け、カテゴリあるいは文書のどちら側が選択されても、同じように分類結果ファイルを検索するようにしたため、カテゴリを起点として対応する文書全部を参照できるのみならず、これとは逆方向の操作、すなわち文書を起点として対応するカテゴリ全部を見ることが可能となっている。
【0048】
図14はこのときの画面例を示したものであり、文書一覧からタイトルが「構造改革の行方」という文書を選択すると、それに対応して、この文書が分類されているカテゴリが左ウィンドウにハイライト表示されていることを表している。当該文書はカテゴリセットAにおいては「政治」、「経済」の2個のカテゴリに分類されており、またカテゴリセットBにおいては、「時事」カテゴリ1個に分類されているので、合わせて3つのカテゴリがハイライト表示される。ただし、現在注目しているカテゴリであるカテゴリセットAの「政治」カテゴリを他の2つのカテゴリと区別して表示しておかないと、右ウィンドウに一覧表示している文書群がどこに所属しているのかが不明となるので、「政治」カテゴリは例えば表示色を変更したり、アンダーライン表示するなどして、該当するカテゴリの中で区別できるようにしている。
【0049】
以上のような方法により文書の分類結果を表示し、ユーザはその結果を見てシステムの決定したカテゴリが自分にとって正しいのか正しくないのかの判定をし、必要ならばユーザの考える正しいカテゴリを指定してシステムに学習させることが行われる。そこで次に分類結果を訂正しシステムに学習させることについて図24に示すフローチャートを用いて、説明する。
【0050】
S2401では文書の移動があるかどうかを監視し、移動があった場合にS2402に移る。
【0051】
S2402では移動対象文書が複数のカテゴリに所属しているかを判断し、単独のカテゴリに所属している場合にはS2403へ、複数のカテゴリに所属している場合はS2406に移る。
【0052】
単独のカテゴリに所属している場合の例を、図17を用いて説明する。図17ではカテゴリセットAの「政治」カテゴリが注目カテゴリとなっており、右側ウィンドウには「政治」カテゴリに所属する文書の一覧が示されている。ユーザは文書「情報公開法政府原案」がこの当該カテゴリに分類されているのが不満で、これを「司法」カテゴリに分類したいと考えたとする。そこでこの文書を、マウスを使って左側ウィンドウの「司法」カテゴリの上にドラッグする。この時点で該文書を政治カテゴリに残したままにするのか、削除してしまうのかをシステムは判断できないため、図17に示すように移動前に確認メッセージを出力する(S2403)。「YES」を選択した場合は移動前に所属していた「政治」カテゴリへの所属が残ることになり、移動後は「政治」、「司法」両カテゴリに所属することになる。「NO」を選択した場合は「政治」カテゴリから削除され、「司法」カテゴリに属することになる。なお、このケースのように移動対象文書がひとつのカテゴリにのみ所属している場合では、所属関係を把握することが比較的容易であるため、確認メッセージを表示せずに「政治」カテゴリから「司法」カテゴリにドラッグした場合においては、「政治」カテゴリから該文書を削除、「司法」カテゴリのみに属するという構成にしてもよい。
【0053】
S2406では移動先が異なるカテゴリセットかを判断し、同一カテゴリセットであればS2407の同一カテゴリセット処理(図25)に移る。異なるカテゴリセットであればS2408に移る。
【0054】
同一カテゴリセットに文書を移動する場合の例を示す。図14において、左側のウィンドウでカテゴリセットAの「政治」カテゴリが注目カテゴリとなっており、右側のウィンドウには注目カテゴリ「政治」に分類されている文書タイトルの一覧が表示されている。その中で選択中の文書「構造改革の行方」はカテゴリセットAの中では「政治」カテゴリ以外に「経済」カテゴリにも分類されており、またカテゴリセットBの中では「時事」カテゴリだけに分類されている。そして、カテゴリセットAでの分類においては、「政治」カテゴリの方が「経済」カテゴリよりも尤度が高くなっている。
【0055】
尤度の順位をここでは「1、2、・・・」などの数字で示しているが、実際には表示色を変える等の表示方法が視覚的にわかりやすくてよい。
【0056】
ここで図25に示すフローチャートを用いて同一カテゴリセット処理について説明する。S2501では文書の移動先が移動元のカテゴリと同じかどうかを判断し、同じであればS2502へ、異なればS2503に移る。
【0057】
文書の移動先が移動元のカテゴリと同じ場合について、ユーザがこの文書が「経済」カテゴリにも分類されているのが不満で、「政治」カテゴリただ一つに分類したいと思う場合の操作方法を例にあげて説明する。図14のように「政治」カテゴリが注目カテゴリとなっており、右側ウィンドウに「政治」カテゴリに属する文書の一覧が表示されている状態で、当該文書をマウスを使ってドラッグし、左側ウィンドウの「政治」カテゴリの上に移動させる。
【0058】
この操作においては、当該文書が既に第1位の順位の尤度でもって属している「政治」カテゴリに移動するという行為をあえて行うことで、当該文書の他のカテゴリへの所属を無効にし「政治」カテゴリただ一つに所属させたいというユーザの意思を実現する。
【0059】
既に第1位の順位の尤度でもって属している「政治」カテゴリへの移動がユーザの誤操作ではなく、第2位の順位の尤度でもって属している「経済」カテゴリへの所属を消滅させるべきものかどうかの確認のため、移動前に図18のように確認メッセージを表示(S2502)し、ユーザへの確認を行う。なお図18において点線矢印で示されたものは、文書タイトルアイコンのカテゴリアイコン上へのドラッグというユーザ操作が確認用ウィンドウの表示直前に行われたことを意味するために記載したもので、必ずしも実際に画面上で表示されるものとは限らない。
【0060】
S2503では移動先が、文書が既に所属しているカテゴリかどうかを判断し、移動先が所属しているカテゴリであればS2504へ、所属していないカテゴリであればS2505へ移る。
【0061】
文書を、既に所属しているカテゴリに移動する場合について説明する。まず図14の状態から、選択中の文書を「経済」カテゴリの上へとドラッグするという操作を実行する。この操作では、「経済」カテゴリを第1位の優先順位で分類先としたいというユーザの願望を反映しているが、「政治」カテゴリへの所属も残しておきたいのかどうかがシステムには判断できない。すなわち、当該文書の分類先として「経済」カテゴリのみにするのか、あるいは第1位を「経済」、第2位を「政治」として二つのカテゴリにするのかの曖昧さが生じる。そのため、図19のような確認メッセージを表示(S2504)して、もしユーザが「政治」カテゴリへの分類も第2位の順位付けで残したままにしておきたいときには、「Yes」ボタンを選択し、また「経済」カテゴリのみの所属にしたければ「No」ボタンを選択するようにさせる。
【0062】
次に文書を、所属していないカテゴリに移動する場合について説明する。同じく図14に示された状態から、今度は選択文書を「司法」カテゴリの上へとドラッグする場合について説明する。「司法」カテゴリは現在では当該文書の分類先カテゴリとはなっていないが、ユーザが「政治」や「経済」への分類を不満とし、「司法」を最ももっともらしい分類先としてみなしたことを意味する。この場合も先ほどと同じく、現状分類先となっている「政治」、「経済」の両カテゴリへの所属を「司法」カテゴリへの変更後も残しておくかどうかが曖昧となってしまう。「政治」、「経済」両カテゴリについてそれぞれ第2位、第3位の順位で有効としておくかについてユーザに確認するため、図20のように3つの分類先パターンを含むメッセージを出力(S2505)し、ユーザに選択させる。すなわち、「司法」のみに分類するか、「司法」を第1位かつ「政治」を第2位として分類するか、「司法」を第1位かつ「政治」を第2位かつ「経済」を第3位として全てに分類するか、の3つの選択肢である。
【0063】
ここでもし仮に、第2位として「経済」カテゴリ、第3位として「政治」カテゴリとなるように分類したければ、当該文書を「司法」カテゴリへとドラッグする前に、上で説明したようにまず「経済」カテゴリへとドラッグし、図19の確認用ウィンドウにて「Yes」ボタンを選択することで、「経済」「政治」をそれぞれ第1位、第2位の分類先に変更したのちに、もう一度当該文書をドラッグし、「司法」カテゴリの上に持っていく。そして、図20の選択用ウィンドウにて選択することで、「司法」「経済」「政治」の順に分類されるようにできる。もちろん、マウスの右クリックなどを利用して直接にカテゴリの優先順位を指定するなど、他の方法も考えられる。
【0064】
以上のように文書のカテゴリ所属状況、移動先に基づいたメッセージを出力し、S2404では、その選択に従って実際に文書を移動する。
【0065】
S2405は文書やカテゴリの特徴量を制御する処理であり、その詳細を図16に示す。移動の対象となった文書を形態素解析し、有効語辞書を参照して文書中に含まれる有効語をピックアップする(フローチャート図16の処理1602)。各有効語に対して、同じく有効語辞書から当該有効語の意味ベクトルを取得する(フローチャート図16の処理1604)。カテゴリごとの代表ベクトルを記憶している辞書から、当該文書の移動前に所属していたカテゴリの代表ベクトルと、移動後に所属するカテゴリの代表ベクトルを取得し、当該有効語の意味ベクトルと両代表ベクトルとの距離をそれぞれ計算して、当該有効語の意味ベクトルが移動前のカテゴリ、移動後のカテゴリのどちらの代表ベクトルにより近いかを判定する(フローチャート図16の処理1605)。当該有効語の意味ベクトルが仮に移動前のカテゴリの代表ベクトルに近かったとすると、当該文書の文書ベクトルが移動後のカテゴリの代表ベクトルの方へより近づくようにするため、当該有効語が該当している重みの評価項目の重みの値を微小量だけ減らすよう2つの重み辞書を修正する(フローチャート図16の処理1606)。逆に当該有効語の意味ベクトルが移動後のカテゴリの代表ベクトルの方により近かったとすると、当該有効語が該当している重みの評価項目は正しい分類に寄与していたものとみなし、その重みの値を微小量だけ増やすように重み辞書を修正する(フローチャート図16の処理1607)。
【0066】
これを当該文書からピックアップされた全ての有効語に対して行い(フローチャート図16の1603のループ)、重みの値を調整する。
【0067】
そして、以上説明した処理を、移動された全ての文書を対象として繰り返し(フローチャート図16の1601のループ)、学習処理を終了する。
【0068】
これまでは一つのカテゴリセットの中での文書のカテゴリ間移動について述べたが、複数個のカテゴリセットについてメンテナンスできる権限をユーザが持っており、右側ウィンドウにて異なったセットのカテゴリが同時に表示されていた場合には、操作中に誤って着目しているカテゴリセットとは別のカテゴリに移動してしまうなどの混乱をきたすことも考えられる。
【0069】
S2408では、例えばユーザが、カテゴリセットA、カテゴリセットBの2つのカテゴリセットを管理しており、ユーザが現在の注目カテゴリセットでないカテゴリセットBのカテゴリに当該文書をドラッグしようとすると、ユーザの操作が誤っていることが考えられるため、図21に示したような警告メッセージを出力してユーザの注意を喚起する。
【0070】
以上の処理を持って図24に示すフローチャートの処理を終了する。
【0071】
(第2の実施の形態)
図21において説明した例では、カテゴリセットAが注目カテゴリセットであり、その中の「政治」カテゴリが注目カテゴリとなっており、右側ウィンドウには注目カテゴリに所属する文書タイトルの一覧が表示されている。第1の実施例では、ユーザがこの中の文書「構造改革の行方」をカテゴリセットBの「ヒト」カテゴリに移動しようとしたところ、「ヒト」が注目カテゴリセット以外のカテゴリであることからユーザの操作ミスと判断し、警告メッセージを表示した。
【0072】
ここで別の実施の形態として、もし移動しようとしたユーザがカテゴリセットBのカテゴリセットやその内容に熟知しており、注目カテゴリを現在の状態すなわちカテゴリセットAに固定したまま、当該文書をカテゴリセットBの中で「時事」カテゴリから「ヒト」カテゴリに移したいと思う場合も考えられる。このようなユーザを対象としたシステムでは、図21に示したように、文書の移動が注目カテゴリセット以外のカテゴリセット内で行われ、「時事」カテゴリに分類されている当該文書が「ヒト」カテゴリに移動される旨のメッセージを表示して、ユーザがそれに同意するとその移動が実行されるように設計することも出来る。
【0073】
なおこの操作を行った後でも、カテゴリセットAでの分類状況に変化はなく、当該文書「構造改革の行方」は「政治」カテゴリを第1優先として、また「経済」カテゴリを第2優先として振り分けられたままである。
【0074】
また、さらにカテゴリ間移動の際に、第1の実施形態のように、状況に応じて確認メッセージを出力するように構成しても良い。
【0075】
(第3の実施の形態)
上記第2の実施の形態においては、当該文書を「ヒト」カテゴリの上にドラッグすることにより、注目カテゴリセットをもとのカテゴリセットAに固定したまま、カテゴリセットB内でカテゴリ間の文書の移動が行われたが、別の方法として「ヒト」カテゴリにドラッグされたら注目カテゴリをカテゴリセットBに切り替えることも考えられる。図22はその様子を示したものである。
【0076】
すなわち、図22のように注目カテゴリセットがカテゴリセットAで注目カテゴリが「政治」カテゴリのときに、文書「構造改革の行方」をカテゴリセットB内のカテゴリ「ヒト」へとドラッグした場合、注目カテゴリセット以外のカテゴリセット内で移動が起こることをユーザに確認したのち、図23のように注目カテゴリセットがカテゴリセットBに移り、その中の「ヒト」カテゴリが注目カテゴリとなって、カテゴリセットBで扱う文書集合のうち、「ヒト」カテゴリに分類されている文書の一覧が右側ウィンドウに表示される。今の操作で「時事」カテゴリから「ヒト」カテゴリに移動された当該文書「構造改革の行方」はその一覧の先頭行に表示されている。
【0077】
なお、ここで当該文書がまだ注目文書となっているため,カテゴリセットAでの所属カテゴリである「政治」、「経済」の両カテゴリの表示はそのまま変化しない。すなわち、カテゴリセットA内での分類先に変化はないので、第1位が「政治」カテゴリ、第2位が「経済」カテゴリであることを示す表示はそのままとなっている。
【0078】
(第4の実施の形態)
上記実施の態様では文書をカテゴリ間で移動した場合に、必ず特徴量の制御を行うことで学習を行うように構成していたが、本発明はこれに限られるものではない。文書の移動を行ったのち、例えば図15に示したようなメニューを開いて、その結果を反映させるかどうかを選択できるようにしてもよい。図15で「学習終了」は、それまでにユーザが行った文書のカテゴリ間の移動操作に対して学習処理を起動し、その変更内容から算出される重み変更量を重み辞書に反映させたいときに選択する。また「学習操作クリア」は、それまでにユーザが行った文書のカテゴリ間の移動操作を全て無効にし、元の分類状態に戻したいときに選択する。
【0079】
本発明の実施態様の例を以下に列挙する。
【0080】
[実施態様1]文書をカテゴリに分類する文書分類装置において、
カテゴリ間の文書の移動指示がなされた場合に、該文書のカテゴリ所属状況に応じてメッセージを制御するメッセージ制御手段と、
前記メッセージ制御手段が生成したメッセージを出力する出力手段を備えたことを特徴とする文書分類装置。
【0081】
[実施態様2]前記メッセージ制御手段は、カテゴリセットが複数個定義されている場合に、異なるカテゴリセットのカテゴリに文書を移動する際に警告メッセージを出力するよう制御することを特徴とする実施態様1記載の文書分類装置。
【0082】
[実施態様3]前記メッセージ制御手段は、移動文書が1つのカテゴリに所属している場合に、文書の移動指示に基づいて、既に所属しているカテゴリへの所属を有効のままにするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様1又は2記載の文書分類装置。
【0083】
[実施態様4]前記メッセージ制御手段は、移動文書が複数のカテゴリに所属している場合に、移動元のカテゴリに対する移動指示に基づいて、他の所属カテゴリへの所属を無効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様1又は2記載の文書分類装置。
【0084】
[実施態様5]前記メッセージ制御手段は、移動文書が複数のカテゴリに所属している場合に、移動元以外の所属カテゴリに対する移動指示に基づいて、移動元のカテゴリへの所属を有効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様1又は2記載の文書分類装置。
【0085】
[実施態様6]前記メッセージ制御手段は、移動文書が複数のカテゴリに所属している場合に、所属していないカテゴリへの移動指示に基づいて、文書の所属に関する選択肢を含むメッセージを出力することを特徴とする実施態様1又は2記載の文書分類装置。
【0086】
[実施態様7]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類手段を更に備え、
前記確認メッセージは選択肢を含み、その選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御手段を更に備えたことを特徴とする実施態様3乃至5記載の文書分類装置。
【0087】
[実施態様8]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類手段を更に備え、
前記選択肢を含むメッセージの選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御手段を更に備えたことを特徴とする実施態様6記載の文書分類装置。
【0088】
[実施態様9]文書の移動に対し、特徴量の制御を実施するか否かを選択する特徴量制御選択手段を更に備えたことを特徴とする実施態様7又は8記載の文書分類装置。
【0089】
[実施態様10]文書をカテゴリに分類する文書分類方法において、
カテゴリ間の文書の移動指示がなされた場合に、該文書のカテゴリ所属状況に応じてメッセージを制御するメッセージ制御ステップと、
前記メッセージ制御ステップが生成したメッセージを出力する出力ステップを備えたことを特徴とする文書分類方法。
【0090】
[実施態様11]前記メッセージ制御ステップは、カテゴリセットが複数個定義されている場合に、異なるカテゴリセットのカテゴリに文書を移動する際に警告メッセージを出力するよう制御することを特徴とする実施態様10記載の文書分類方法。
【0091】
[実施態様12]前記メッセージ制御ステップは、移動文書が1つのカテゴリに所属している場合に、文書の移動指示に基づいて、既に所属しているカテゴリへの所属を有効のままにするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様10又は11記載の文書分類方法。
【0092】
[実施態様13]前記メッセージ制御ステップは、移動文書が複数のカテゴリに所属している場合に、移動元のカテゴリに対する移動指示に基づいて、他の所属カテゴリへの所属を無効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様10又は11記載の文書分類方法。
【0093】
[実施態様14]前記メッセージ制御ステップは、移動文書が複数のカテゴリに所属している場合に、移動元以外の所属カテゴリに対する移動指示に基づいて、移動元のカテゴリへの所属を有効にするかを確認する確認メッセージを出力するよう制御することを特徴とする実施態様10又は11記載の文書分類方法。
【0094】
[実施態様15]前記メッセージ制御ステップは、移動文書が複数のカテゴリに所属している場合に、所属していないカテゴリへの移動指示に基づいて、文書の所属に関する選択肢を含むメッセージを出力することを特徴とする実施態様10又は11記載の文書分類方法。
【0095】
[実施態様16]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類ステップを更に備え、
前記確認メッセージは選択肢を含み、その選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御ステップを更に備えたことを特徴とする実施態様12乃至14記載の文書分類方法。
【0096】
[実施態様17]文書の特徴量とカテゴリの特徴量から文書をカテゴリに分類する分類ステップを更に備え、
前記選択肢を含むメッセージの選択に基づいて文書及び/又はカテゴリの特徴量を制御する特徴量制御ステップを更に備えたことを特徴とする実施態様15記載の文書分類方法。
【0097】
[実施態様18]文書の移動に対し、特徴量の制御を実施するか否かを選択する特徴量制御選択ステップを更に備えたことを特徴とする実施態様16又は17記載の文書分類方法。
【0098】
[実施態様19]実施態様10乃至18に記載の文書分類方法が備えた各ステップをコンピュータに実行させるためのプログラムコードからなる制御プログラム。
【0099】
【発明の効果】
以上説明してきたように本発明によれば、文書をカテゴリに分類する文書分類装置において、文書をカテゴリ間で移動する際にメッセージを出力することで、ユーザの混乱や誤操作を未然に防ぐことができる。
【図面の簡単な説明】
【図1】本発明におけるシステムの全体構成を示した図である。
【図2】本発明における分類結果表示手段の構成を示した図である。
【図3】本発明を適用した文書分類装置の構成図である。
【図4】本発明における学習処理の流れを表したフローチャートである。
【図5】本発明における分類処理の流れを表したフローチャートである。
【図6】単語間の共起確率の例を示した図である。
【図7】有効語辞書の例を示した図である。
【図8】有効語の位置的役割を評価項目とした重み辞書の例である。
【図9】有効語の言語的役割を評価項目とした重み辞書の例である。
【図10】本発明における表示ウィンドウにカテゴリ一覧を表示した例である。
【図11】カテゴリ定義ファイルの例を示した図である。
【図12】文書IDを見出しとする分類結果ファイルの例を示した図である。
【図13】表示ウィンドウにてカテゴリを選択したときの画面例を示した図である。
【図14】表示ウィンドウにて文書を選択したときの画面例を示した図である。
【図15】分類結果に対するユーザ判定の学習処理を起動するときの画面例を示した図である。
【図16】分類結果に対するユーザ判定の学習処理の流れを表したフローチャートである。
【図17】所属カテゴリがひとつの文書の分類先を変更しようとするユーザ操作に対して確認用ウィンドウを表示したときの画面例を示した図である。
【図18】所属カテゴリが複数の文書の分類先を変更しようとするユーザ操作に対して確認用ウィンドウを表示したときの画面例を示した図である。
【図19】所属カテゴリが複数の文書の分類先を変更しようとするユーザ操作に対して確認用ウィンドウを表示したときの画面例を示した図である。
【図20】所属カテゴリが複数の文書の分類先を変更しようとするユーザ操作に対して選択用ウィンドウを表示したときの画面例を示した図である。
【図21】異なるカテゴリセットへ分類先を変更しようとするユーザ操作に対して警告用ウィンドウを表示したときの画面例を示した図である。
【図22】異なるカテゴリセットへ分類先を変更しようとするユーザ操作に対して警告用ウィンドウを表示したときの画面例を示した図である。
【図23】分類先変更後に注目カテゴリセットがカテゴリセットBに移ったときの画面例を示した図である。
【図24】メッセージ出力の流れを表したフローチャートである。
【図25】同一カテゴリセット処理の流れを表したフローチャートである。
Claims (1)
- 文書をカテゴリに分類する文書分類装置において、
カテゴリ間での文書の移動指示がなされた場合に、該文書のカテゴリ所属状況に応じてメッセージを制御するメッセージ制御手段と、
前記メッセージ制御手段により制御されたメッセージを出力する出力手段とを備えたことを特徴とする文書分類装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003152835A JP2004355371A (ja) | 2003-05-29 | 2003-05-29 | 文書分類装置、その方法及び記憶媒体 |
| US10/851,108 US20040243622A1 (en) | 2003-05-29 | 2004-05-24 | Data sorting apparatus and method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003152835A JP2004355371A (ja) | 2003-05-29 | 2003-05-29 | 文書分類装置、その方法及び記憶媒体 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2004355371A true JP2004355371A (ja) | 2004-12-16 |
Family
ID=33447807
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2003152835A Withdrawn JP2004355371A (ja) | 2003-05-29 | 2003-05-29 | 文書分類装置、その方法及び記憶媒体 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US20040243622A1 (ja) |
| JP (1) | JP2004355371A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011158980A (ja) * | 2010-01-29 | 2011-08-18 | Brother Industries Ltd | 消費者情報処理装置 |
| JP2018190131A (ja) * | 2017-05-01 | 2018-11-29 | 日本電信電話株式会社 | 特定装置、分析システム、特定方法及び特定プログラム |
Families Citing this family (50)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20060100857A1 (en) * | 2004-11-05 | 2006-05-11 | Microsoft Corporation | Custom collation tool |
| US20060101015A1 (en) * | 2004-11-05 | 2006-05-11 | Microsoft Corporation | Automated collation creation |
| US7765208B2 (en) * | 2005-06-06 | 2010-07-27 | Microsoft Corporation | Keyword analysis and arrangement |
| US8706860B2 (en) | 2011-06-30 | 2014-04-22 | Amazon Technologies, Inc. | Remote browsing session management |
| US8799412B2 (en) | 2011-06-30 | 2014-08-05 | Amazon Technologies, Inc. | Remote browsing session management |
| US9621406B2 (en) | 2011-06-30 | 2017-04-11 | Amazon Technologies, Inc. | Remote browsing session management |
| US8577963B2 (en) | 2011-06-30 | 2013-11-05 | Amazon Technologies, Inc. | Remote browsing session between client browser and network based browser |
| US9037696B2 (en) | 2011-08-16 | 2015-05-19 | Amazon Technologies, Inc. | Managing information associated with network resources |
| US9195768B2 (en) | 2011-08-26 | 2015-11-24 | Amazon Technologies, Inc. | Remote browsing session management |
| US10089403B1 (en) | 2011-08-31 | 2018-10-02 | Amazon Technologies, Inc. | Managing network based storage |
| US8914514B1 (en) | 2011-09-27 | 2014-12-16 | Amazon Technologies, Inc. | Managing network based content |
| US9383958B1 (en) | 2011-09-27 | 2016-07-05 | Amazon Technologies, Inc. | Remote co-browsing session management |
| US8849802B2 (en) | 2011-09-27 | 2014-09-30 | Amazon Technologies, Inc. | Historical browsing session management |
| US10693991B1 (en) | 2011-09-27 | 2020-06-23 | Amazon Technologies, Inc. | Remote browsing session management |
| US9178955B1 (en) | 2011-09-27 | 2015-11-03 | Amazon Technologies, Inc. | Managing network based content |
| US9152970B1 (en) | 2011-09-27 | 2015-10-06 | Amazon Technologies, Inc. | Remote co-browsing session management |
| US9298843B1 (en) | 2011-09-27 | 2016-03-29 | Amazon Technologies, Inc. | User agent information management |
| US8589385B2 (en) | 2011-09-27 | 2013-11-19 | Amazon Technologies, Inc. | Historical browsing session management |
| US9641637B1 (en) | 2011-09-27 | 2017-05-02 | Amazon Technologies, Inc. | Network resource optimization |
| US8615431B1 (en) | 2011-09-29 | 2013-12-24 | Amazon Technologies, Inc. | Network content message placement management |
| US9313100B1 (en) | 2011-11-14 | 2016-04-12 | Amazon Technologies, Inc. | Remote browsing session management |
| US8972477B1 (en) | 2011-12-01 | 2015-03-03 | Amazon Technologies, Inc. | Offline browsing session management |
| US9117002B1 (en) | 2011-12-09 | 2015-08-25 | Amazon Technologies, Inc. | Remote browsing session management |
| US9009334B1 (en) | 2011-12-09 | 2015-04-14 | Amazon Technologies, Inc. | Remote browsing session management |
| US9330188B1 (en) | 2011-12-22 | 2016-05-03 | Amazon Technologies, Inc. | Shared browsing sessions |
| US8627195B1 (en) | 2012-01-26 | 2014-01-07 | Amazon Technologies, Inc. | Remote browsing and searching |
| US8839087B1 (en) * | 2012-01-26 | 2014-09-16 | Amazon Technologies, Inc. | Remote browsing and searching |
| US9092405B1 (en) | 2012-01-26 | 2015-07-28 | Amazon Technologies, Inc. | Remote browsing and searching |
| US9087024B1 (en) | 2012-01-26 | 2015-07-21 | Amazon Technologies, Inc. | Narration of network content |
| US9336321B1 (en) | 2012-01-26 | 2016-05-10 | Amazon Technologies, Inc. | Remote browsing and searching |
| US9509783B1 (en) | 2012-01-26 | 2016-11-29 | Amazon Technlogogies, Inc. | Customized browser images |
| US9037975B1 (en) | 2012-02-10 | 2015-05-19 | Amazon Technologies, Inc. | Zooming interaction tracking and popularity determination |
| US9183258B1 (en) | 2012-02-10 | 2015-11-10 | Amazon Technologies, Inc. | Behavior based processing of content |
| US9137210B1 (en) | 2012-02-21 | 2015-09-15 | Amazon Technologies, Inc. | Remote browsing session management |
| US9374244B1 (en) | 2012-02-27 | 2016-06-21 | Amazon Technologies, Inc. | Remote browsing session management |
| US9208316B1 (en) | 2012-02-27 | 2015-12-08 | Amazon Technologies, Inc. | Selective disabling of content portions |
| US10296558B1 (en) | 2012-02-27 | 2019-05-21 | Amazon Technologies, Inc. | Remote generation of composite content pages |
| US9460220B1 (en) | 2012-03-26 | 2016-10-04 | Amazon Technologies, Inc. | Content selection based on target device characteristics |
| US9307004B1 (en) | 2012-03-28 | 2016-04-05 | Amazon Technologies, Inc. | Prioritized content transmission |
| US9772979B1 (en) | 2012-08-08 | 2017-09-26 | Amazon Technologies, Inc. | Reproducing user browsing sessions |
| US8943197B1 (en) | 2012-08-16 | 2015-01-27 | Amazon Technologies, Inc. | Automated content update notification |
| US20140223346A1 (en) * | 2013-02-07 | 2014-08-07 | Infopower Corporation | Method of Controlling Touch panel |
| US10152463B1 (en) | 2013-06-13 | 2018-12-11 | Amazon Technologies, Inc. | System for profiling page browsing interactions |
| US9578137B1 (en) | 2013-06-13 | 2017-02-21 | Amazon Technologies, Inc. | System for enhancing script execution performance |
| US9635041B1 (en) | 2014-06-16 | 2017-04-25 | Amazon Technologies, Inc. | Distributed split browser content inspection and analysis |
| WO2016170561A1 (en) * | 2015-04-24 | 2016-10-27 | Nec Corporation | An information processing system and an information processing method for semantic enrichment of text |
| CN107491518B (zh) * | 2017-08-15 | 2020-08-04 | 北京百度网讯科技有限公司 | 一种搜索召回方法和装置、服务器、存储介质 |
| US10664538B1 (en) | 2017-09-26 | 2020-05-26 | Amazon Technologies, Inc. | Data security and data access auditing for network accessible content |
| US10726095B1 (en) | 2017-09-26 | 2020-07-28 | Amazon Technologies, Inc. | Network content layout using an intermediary system |
| US11256701B2 (en) | 2019-01-02 | 2022-02-22 | Bank Of America Corporation | Interactive lineage mapping system |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6741994B1 (en) * | 1998-07-27 | 2004-05-25 | Hewlett-Packard Development Company, L.P. | Method and automatic organization of data |
| US6751600B1 (en) * | 2000-05-30 | 2004-06-15 | Commerce One Operations, Inc. | Method for automatic categorization of items |
| EP1421518A1 (en) * | 2001-08-08 | 2004-05-26 | Quiver, Inc. | Document categorization engine |
-
2003
- 2003-05-29 JP JP2003152835A patent/JP2004355371A/ja not_active Withdrawn
-
2004
- 2004-05-24 US US10/851,108 patent/US20040243622A1/en not_active Abandoned
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011158980A (ja) * | 2010-01-29 | 2011-08-18 | Brother Industries Ltd | 消費者情報処理装置 |
| JP2018190131A (ja) * | 2017-05-01 | 2018-11-29 | 日本電信電話株式会社 | 特定装置、分析システム、特定方法及び特定プログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| US20040243622A1 (en) | 2004-12-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20040243622A1 (en) | Data sorting apparatus and method | |
| Smith et al. | Introducing machine learning concepts with WEKA | |
| US6643639B2 (en) | Customer self service subsystem for adaptive indexing of resource solutions and resource lookup | |
| Fawagreh et al. | Random forests: from early developments to recent advancements | |
| Rea et al. | Exploratory machine learning studies for disruption prediction using large databases on DIII-D | |
| US9171261B1 (en) | Analyzing or resolving ambiguities in an image for object or pattern recognition | |
| US8150822B2 (en) | On-line iterative multistage search engine with text categorization and supervised learning | |
| US7107254B1 (en) | Probablistic models and methods for combining multiple content classifiers | |
| US20020107843A1 (en) | Customer self service subsystem for classifying user contexts | |
| US6778193B2 (en) | Customer self service iconic interface for portal entry and search specification | |
| US5241624A (en) | Method for determining a user selected group of data objects for the propagation of attribute values | |
| Bai et al. | Particle swarm optimization based two-stage feature selection in text mining | |
| US20180358001A1 (en) | Method, Apparatus, and System for Conflict Detection and Resolution for Competing Intent Classifiers in Modular Conversation System | |
| CN116648698B (zh) | 动态分面排序 | |
| EP2060982A1 (en) | Information storage and retrieval | |
| AU2019348060B2 (en) | Context-based recommendations for robotic process automation design | |
| US20170228591A1 (en) | Author identification based on functional summarization | |
| US20260017920A1 (en) | Generating templates using structure-based matching | |
| CN117648635B (zh) | 敏感信息分类分级方法及系统、电子设备 | |
| CN112507139B (zh) | 基于知识图谱的问答方法、系统、设备及存储介质 | |
| WO2008072459A1 (ja) | 能動学習システム、能動学習方法、及び能動学習用プログラム | |
| CN113326229A (zh) | 文件管理装置、文件管理方法和计算机可读介质 | |
| Escalante et al. | Multi-class particle swarm model selection for automatic image annotation | |
| JP2024543923A (ja) | 改善された意思決定のためのゲームプラン | |
| US20210150285A1 (en) | Data graph focus mode |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060801 |