JPH1153397A - 文書処理装置、文書処理プログラムを記憶した記憶媒体、及び文書処理方法 - Google Patents

文書処理装置、文書処理プログラムを記憶した記憶媒体、及び文書処理方法

Info

Publication number
JPH1153397A
JPH1153397A JP9219303A JP21930397A JPH1153397A JP H1153397 A JPH1153397 A JP H1153397A JP 9219303 A JP9219303 A JP 9219303A JP 21930397 A JP21930397 A JP 21930397A JP H1153397 A JPH1153397 A JP H1153397A
Authority
JP
Japan
Prior art keywords
document
similarity
text data
function
target document
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP9219303A
Other languages
English (en)
Inventor
Naoyuki Nomura
直之 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JustSystems Corp
Original Assignee
JustSystems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JustSystems Corp filed Critical JustSystems Corp
Priority to JP9219303A priority Critical patent/JPH1153397A/ja
Publication of JPH1153397A publication Critical patent/JPH1153397A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

(57)【要約】 【課題】 取得した対象文書と他の文書との類似性判断
を高い精度で行う。 【解決手段】 表データやグラフのスキーマについて意
味解釈を行うことにより、特に数量表現を中心に正確な
てがかりをもとに、ある注目文書(対象文書)に関連す
る数値データやグラフを取り寄せることができる。具体
的には、個々の表データ・ファイルごとに、所与の、も
しくは同一構造で類似の数値内容をもつ別の表データに
付属していたスキーマ(×100 円、Kg/m等)情報を
もとに、単位付きの実値を計算する。その結果をクラリ
タイズ(claritize )し、類似検索の対象とする。その
際、グラフの軸名やその単位表示、グラフのタイトルに
ついても、特にウェイトを高めて類似性判定の対象とす
る。同様に、テキスト中の数量表現の正規化に適用する
ことで、数値データを軸にした類似検索の性能を高める
ことができる。

Description

【発明の詳細な説明】
【0002】
【発明の属する技術分野】この発明は、文書処理装置、
文書処理プログラムを記憶した記憶媒体、及び文書処理
方法に係り、詳細には、取得した文書の類似性判断の精
度向上に関する。
【0003】
【従来の技術】従来、書籍、論文、報告書等の各種文書
に対し、ベクトル空間法その他の方法により自動検索処
理や、類似文書の検索処理等や、他文書等との関連づけ
処理等の各種処理をコンピュータを用いて実行すること
が行われている。
【0004】
【発明が解決しようとする課題】しかし、従来の文書処
理装置により、例えば、対象文書に類似する文書の検索
を行う場合、対象文書やデータベース中の文書の中にテ
キストのデータ以外の、プログラム言語や、ソースプロ
グラム、表データやグラブのスキーマ等の非テキストデ
ータを含んでいる場合は、類似性の判断を行っても、あ
まり高い精度を得ることができなかった。これは、例え
ば、表計算ソフトにより作成されたファイルとの類似性
を判断した場合、そのファイルは数字データが大半を占
め、類似性を判断するためのキーワードや重要語を抽出
しても数字データが大半を占めてしまうためである。
【0005】本発明は、このような従来の課題を解決す
るために成されたもので、取得した対象文書と他の文書
との類似性判断を高い精度で行うことが可能な文書処理
装置を提供することを第1の目的とする。また本発明
は、取得した対象文書と他の文書との類似性判断を高い
精度で行うことが可能なコンピュータ読取り可能な文書
処理プログラムが記憶された記憶媒体を提供することを
第2の目的とする。また本発明は、取得した対象文書と
他の文書との類似性判断を高い精度で行うことが可能な
文書処理方法を提供することを第3の目的とする。
【0006】
【課題を解決するための手段】請求項1に記載した発明
では、処理対象となる対象文書を取得する対象文書取得
手段と、前記対象文書取得手段により取得された対象文
書から、テキストのデータ以外の非テキストデータを有
しているか否かを判断する判断手段と、前記判断手段に
より非テキスト文書を有すると判断された場合に、前記
対象文書からテキストのデータと非テキストデータとを
区別する区別手段と、前記区別手段により区別されたテ
キストのデータ及び非テキストデータの少なくとも一方
を使用して、他の文書との類似性を判断する類似性判断
手段と、を文書処理装置に具備させて前記第1の目的を
達成する。請求項2に記載の発明では、請求項1に記載
の文書処理装置において、前記非テキストデータは、表
データ、グラフのスキーマ情報、プログラム言語、ソー
スプログラム等とする。請求項3に記載の発明では、請
求項1に記載の文書処理装置において、前記区別手段に
より区別された非テキストデータがソースプログラムで
ある場合に、当該ソースプログラムを中間言語に変換す
る変換手段を備え、前記類似性判断手段は、前記変換手
段により変換された中間言語のプログラム間の類似性を
判断する。請求項4に記載の発明では、請求項1、請求
項2、又は請求項3に記載の文書処理装置において、前
記類似性判断手段は、ベクトル空間法により類似度を算
出する算出手段を有し、前記算出手段により算出された
類似度から類似性を判断する。請求項5に記載の発明で
は、処理対象となる対象文書を取得する対象文書取得機
能と、前記対象文書取得機能により取得された対象文書
から、テキストのデータ以外の非テキストデータを有し
ているか否かを判断する判断機能と、前記判断機能によ
り非テキスト文書を有すると判断された場合に、前記対
象文書からテキストのデータと非テキストデータを区別
する区別機能と、前記区別機能により区別されたテキス
トのデータ及び非テキストデータの少なくとも一方を使
用して、他の文書との類似性を判断する類似性判断機能
と、をコンピュータに実現させるためのコンピュータ読
取り可能な文書処理プログラムを記憶媒体に記憶させ
て、前記第2の目的を達成する。請求項6に記載した発
明では、請求項5に記載した記憶媒体において、前記非
テキストデータは、表データ、グラフのスキーマ情報、
プログラム言語、ソースプログラム等とする。請求項7
に記載した発明では、請求項5に記載した記憶媒体にお
いて、前記区別機能により区別された非テキストデータ
がソースプログラムである場合に、当該ソースプログラ
ムを中間言語に変換する変換機能を備え、前記類似性判
断機能は、前記変換機能により変換された中間言語のプ
ログラム間の類似性を判断する。請求項8に記載した発
明では、請求項5、請求項6、又は請求項7に記載した
記憶媒体において、前記類似性判断機能は、ベクトル空
間法により類似度を算出する算出機能を有し、前記算出
機能により算出された類似度から類似性を判断する。請
求項9に記載された発明では、処理対象となる対象文書
から、テキストのデータと非テキストデータとを区別
し、前記区別されたテキストのデータ及び非テキストデ
ータの少なくとも一方を使用して、他の文書との類似性
を判断する、ことで前記第3の目的を達成する。
【0007】
【発明の実施の形態】以下、本発明の文書処理装置およ
び文書処理プログラムを記憶した記憶媒体における好適
な実施の形態について、図1から図9を参照して説明す
る。 (1)実施の形態の概要 本実施形態では、表データやグラフのスキーマについて
意味解釈を行うことにより、特に数量表現を中心に正確
なてがかりをもとに、ある注目文書(対象文書)に関連
する数値データやグラフを取り寄せることができる。具
体的には、個々の表データ・ファイルごとに、所与の、
もしくは同一構造で類似の数値内容をもつ別の表データ
に付属していたスキーマ(×100 円、Kg/m等)情報
をもとに、単位付きの実値を計算する。その結果をクラ
リタイズ(claritize )し、類似検索の対象とする。そ
の際、グラフの軸名やその単位表示、グラフのタイトル
についても、特にウェイトを高めて類似性判定の対象と
する。同様に、テキスト中の数量表現の正規化に適用す
ることで、数値データを軸にした類似検索の性能を高め
ることができる。また、プログラム言語のセマンティク
スを与える、予約語変換テーブルや構文解釈ルーチンに
よって局所的なセマンティクス、中間言語に変換した結
果をクラリタイズすることにより、異種のソースプログ
ラムも類似検索の対象となる。ソースプログラムに関し
ても同様な言語変換処理を行い、さらに自然言語による
コメントの記述領域に対しては、本来の英語や日本語向
けのクラリタイズし、同一ファイルに対して2層の転置
ファイルを用意する。これによって、テキスト中心の文
書とも類似性でヒットするし、別のソースプログラムと
も類似性でヒットさせることができる。
【0008】(2)実施の形態の詳細 図1は、文書処理装置の構成を表すブロック図である。
本実施形態の文書処理装置は、パーソナルコンピュータ
やワードプロセッサ等を含むコンピュータシステムにお
いて構成することができる。図1に示すように文書処理
装置は、装置全体を制御するための制御部11を備えて
いる。この制御部11にアドレスバス、データバス等の
バスライン21を介して、入力装置としてのキーボード
12やマウス13と、表示装置14と、印刷装置15
と、記憶装置16と、記憶媒体駆動装置17と、通信制
御装置18と、入出力インタフェース(I/F)19
と、文字認識装置20とが接続されている。
【0009】制御部11は、中央処理装置(CPU)1
11と、ROM112と、RAM113を備えている。
ROM112は、CPU111が制御や演算を行うため
の各種プログラムやデータが予め格納されたリードオン
リメモリである。RAM113は、CPU111にワー
キングメモリとして使用されるランダムアクセスメモリ
である。このRAM113には、本実施の形態による処
理を行うための各種エリアが確保されるようになってい
る。
【0010】キーボード12は、かな文字、数字、記号
等を入力するためのかなキーやテンキー、各種機能を実
行させるための機能キー、カーソルキー等の各種キーが
配置されている。マウス13は、ポインティングデバイ
スであり、表示装置14に表示されたキーやアイコン等
を左クリックすることが対応する機能の指定を行う入力
装置である。表示装置14は、例えばCRTや液晶ディ
スプレイ等が使用される。この表示装置には、キーボー
ド12やマウス13による入力結果が表示されたり、C
PU111の処理結果が表示されたりするようになって
いる。印刷装置15は、表示装置14に表示された文書
や、記憶装置16の文書データベース164に格納され
た文書等や、CPU111による処理結果等の印刷を行
うためのものである。この印刷装置としては、レーザプ
リンタ、ドットプリンタ、インクジェットプリンタ、ペ
ージプリンタ、感熱式プリンタ、熱転写式プリンタ、等
の各種印刷装置が使用される。
【0011】記憶装置16は、読み書き可能な記憶媒体
と、その記憶媒体に対してプログラムやデータ等の各種
情報を読み書きするための駆動装置で構成されている。
この記憶装置16に使用される記憶媒体としては、主と
してハードディスクが使用されるが、後述の記憶媒体駆
動装置17で使用されている各種記憶媒体のうちの読み
書き可能な記憶媒体を使用するようにしてもよい。記憶
装置16は、仮名漢字変換辞書161、プログラム格納
部162、データ格納部163、文書データベース16
4、文書ベクトルデータベース166、図示しないその
他の格納部(例えば、この記憶装置16内に格納されて
いるプログラムやデータ等をバックアップするための格
納部)等を有している。プログラム格納部162には、
本実施の形態における文書ベクトルプログラム、その他
のプログラムが格納されている。データ格納部163
は、各種データが格納されている。
【0012】文書データベース164には、典型文書や
通常の文書が格納されている。典型文書としては、例え
ば、対象文書のワークフローを決定する際に、類似文書
を検索してその類似文書のワークフローを参考にすると
いったワークフローの決定支援をする場合に使用され
る、各ワークフローを特徴付ける典型的な内容の文書が
格納されている。また、対象文書を分類する場合、各分
類の特徴を表す典型的な内容の文書が典型文書として格
納されている。文書データベース164に格納される各
文書の形式は特に限定されるものではなく、テキスト形
式の文書、HTML(Hyper Text Markup Language)形
式の文書、JIS形式の文書等の各種形式の文書データ
の外、各種のデータ、プログラム、ソースプログラム、
及び、これらが混在している文書やデータ等も格納され
ている。
【0013】文書ベクトルデータ166には、文書デー
タベース164に格納されている各文書、データ、プロ
グラムあるいはソースプログラムに対応する文書ベクト
ルが格納されるようになっている。
【0014】図2は、文書ベクトルデータベース166
の内容を概念的に表したものである。この図2に示され
るように、文書、単語やスキーマ情報を含むデータ、あ
るいはプログラム等から自動抽出されたキーワードxに
対して求められた重要度f(x)が文書ベクトルの要要
素値f(x)が、各文書、各データ、各プログラムある
いはソースプログラム毎の文書ベクトルの要素値として
格納されている。この文書ベクトルは、各文書(Aa,
Ba,Ca,…)、各データ(Ab,Bb,Cb,
…)、各プログラム(Ac,Bc,Cc,…)あるいは
ソースプログラム(Ad,Bd,Cd,…)毎に格納さ
れており、文書データベース164に格納されている各
文書、各データ、各プログラムあるいはソースプログラ
ムと対応つけられている。各文書ベクトルの次元は採用
するキーワードx(重要語句)の数であるが、2文書間
等の類似度を両文書ベクトルから求める場合には、両文
書のキーワードの和集合の数が両文書ベクトルの次元と
なる。この場合、一方の文書ベクトルにのみ含まれるキ
ーワードに対する他方の文書ベクトルの要素値は、”
0”に定義される。
【0015】例えば図2おいて、文書Aaのキーワード
は「重要、重要語、重要度、…」、文書Caのキーワー
ドは「重要、…、政治、…」であり、両文書の文書ベク
トルは次の通りである。 文書Aaの文書ベクトル=( 1,18,19,…) 文書Caの文書ベクトル=(18,…,21,…) これに対して文書Aaと文書Caとの類似度を算出する
場合には、両文書のキーワードを「重要、重要語、重要
度、…、政治、…」とし、両文書の文書ベクトルはつぎ
の通り定義される。 文書Aaの文書ベクトル=( 1,18,19,…,
0,…) 文書Caの文書ベクトル=(18, 0, 0,…,2
1,…)
【0016】記憶媒体駆動装置17(図1)は、CPU
111が外部の記憶媒体からコンピュータプログラムや
文書を含むデータ等を読み込むための駆動装置である。
記憶媒体に記憶されているコンピュータプログラム等に
は、本実施形態の文書処理装置により実行される各種処
理のためのプログラム、および、そこで使用される辞
書、データ等も含まれる。ここで、記憶媒体とは、コン
ピュータプログラムやデータ等が記憶される記憶媒体を
いい、具体的には、フロッピーディスク、ハードディス
ク、磁気テープ等の磁気記憶媒体、メモリチップやIC
カード等の半導体記憶媒体、CD−ROMやMO、PD
(相変化書換型光ディスク)等の光学的に情報が読み取
られる記憶媒体、紙カードや紙テープ等の用紙(およ
び、用紙に相当する機能を持った媒体)を用いた記憶媒
体、その他各種方法でコンピュータプログラム等が記憶
される記憶媒体が含まれる。本実施形態の文書処理装置
において使用される記憶媒体としては、主として、CD
−ROMやフロッピーディスク等の記憶媒体が使用され
る。記憶媒体駆動装置17は、これらの各種記憶媒体か
らコンピュータプログラムを読み込む他に、フロッピー
ディスクのような書き込み可能な記憶媒体に対してRA
M113や記憶装置16に格納されているデータ等を書
き込むことが可能である。
【0017】本実施の形態の文書処理装置では、制御部
11のCPU111が、記憶媒体駆動装置17にセット
された外部の記憶媒体からコンピュータプログラムを読
み込んで、記憶装置16の各部に格納(インストール)
する。そして、本実施形態による各種処理を実行する場
合、記憶装置16から該当のプログラムをRAM113
に読み込み、実行するようになっている。ただし、記憶
装置16からではなく、記憶媒体駆動装置17により外
部の記憶媒体から直接RAM113に読み込んで実行す
ることも可能である。また、文書処理装置によっては、
本実施の形態のプログラム等を予めROM112に記憶
させておき、これをCPU111が実行するようにして
もよい。さらに、本実施形態の処理プログラム等の各種
プログラムやデータを、通信制御装置18を介して他の
記憶媒体からダウンロードし、実行するようにしてもよ
い。
【0018】通信制御装置18は、他のパーソナルコン
ピュータやワードプロセッサ等との間でテキスト形式や
HTML形式等の各種形式の文書やビットマップデータ
等の各種データの送受信を行うことができるようになっ
ている。入力I/F19は、音声や音楽等の出力を行う
スピーカ等の各種機器を接続するためのインタフェース
である。文字認識装置20は、用紙等に記載された文字
をテキスト形式やHTML等の各種形式で認識する装置
であり、イメージスキャナや文字認識プログラム等で構
成されている。
【0019】以上のように構成された本実施形態の文書
処理装置による、文書等の類似性を判断する類似性判断
動作について図3から図9を用いて説明する。図3は、
文書等が類似するか否かを判断する処理のメイン動作を
表したものであり、図4から図9は類似度を判定する処
理を概念的に表したものである。この図3のフローチャ
ートの右側に記した(A)〜(H)は、図4から図8の
(A)〜(H)に対応したものである。
【0020】CPU111は、処理対象となる対象文書
A(図4(A))を取得し、RAM113に格納する
(ステップ11)。この対象文書等Aは、ユーザの指示
に従ってRAM113(自装置内で作成された文書であ
る場合)、記憶装置16の文書データベース164、記
憶媒体駆動装置17(自装置または他装置で作成済の文
書の場合)、通信制御装置18(パソコン通信、インタ
ーネット等の通信による場合)から取得する。この対象
文書等Aは、テキスト文書、HTML文書、JIS文
書、他の形式の文書、各種データ、プログラム、ソース
プログラム、及び、これらが混在している文書やデータ
等の場合がある。
【0021】次に、CPU111は、図4(B)に示す
ように、対象文書Aとの類似性を判断する注目文書等B
(他の文書)を文書データベース164から読み出し
て、RAM113に格納する(ステップ12)。この注
目文書等Bについては既に文書ベクトルが作成され文書
ベクトルデータベース166に格納されている場合に
は、作成済みの文書ベクトルを使用し、作成する必要は
ない。また、この注目文書等Bも、テキスト文書、HT
ML文書、JIS文書、他の形式の文書、各種データ、
プログラム、ソースプログラム、及びこれらが混在して
いる文書やデータ等の場合がある。
【0022】次に、CPU111は、ユーザによってキ
ーボード12等から必要なパラメータ(例えば類似度判
断の閾値等)が入力された場合には当該入力値を取得
し、ユーザによる入力がない場合にはデータ格納部16
3に格納されたパラメータのデフォルト値を取得しRA
M113に格納する(ステップ13)。次に、CPU1
11は、対象文書等Aが、文書か、データか、あるいは
プログラム等かを判断する(ステップ14)。ここで、
CPU111により文書であると判断されたときには
(ステップ14;文書)、CPU111はRAM113
に格納した対象文書等A(図5(C)の符号50参照)
に対する文書ベクトルVを取得する(ステップ15、図
5(C)の符号60参照)。なお、文書ベクトルVは、
一般にはキーワードの数の次元(例えばn次元)で構成
されるが、図5〜図8では、表示する関係から2次元ベ
クトルで表示する(以下、同じ)。
【0023】また、CPU111によりデータであると
判断されたときには(ステップ14;データ)、CPU
111は、RAM113に格納した対象文書等Aから、
タイトルあるいは注意事項等の語句や、例えば四則演
算、100円、10kg/m等のスキーマ情報を取り出し(ス
テップ16、図5(D)の符号51参照)、CPU11
1はRAM113に格納した対象文書等Aに対する文書
ベクトルVを取得する(ステップ17、図5(D)の符
号61参照)。
【0024】また、CPU111によりプログラム等で
あると判断されたときには(ステップ14;プログラム
等)、さらにプログラムかソースプログラムかを判断す
る(ステップ18)。ここで、プログラムであるとCP
U111により判断されたときには(ステップ18;
Y)、CPU111は、RAM113に格納した対象文
書等Aの該当プログラム(図6(E)の符号52参照)
から、セマンティクスを与える予約変換テーブルあるい
は構文解釈ルーチン(図6(E)の符号521参照)を
用いてプログラム言語に意味を与えて言語にして(ステ
ップ19、図6(E)の符号522参照)、RAM11
3の所定のエリアに格納し(ステップ20)、CPU1
11は所定のエリアに格納された当該変換言語(符号5
22)に対する文書ベクトルVを求める(ステップ2
1、図6(E)の符号62参照)。
【0025】他方、ソースプログラムであるとCPU1
11により判断されたときには(ステップ18;N)、
CPU111は、RAM113に格納した対象文書等A
の該当ソースプログラム(図6(F)の符号53参照)
について解析し(ステップ22、図6(F)の符号53
0参照)、自然言語かプログラム領域かの判定でプログ
ラム領域と判定されたときには(ステップ22;N)、
セマンティクスを与える予約変換テーブルあるいは構文
解釈ルーチン(図6(F)の符号531参照)を用いて
プログラム言語に意味を与えて言語にしてRAM113
の所定のエリアに格納し(ステップ24、図6(F)の
符号532参照)、RAM113の所定のエリアに格納
し(ステップ25)、CPU111は所定のエリアに格
納された当該変換言語(符号532)に対する文書ベク
トルVを求める(ステップ25、図6(F)の符号63
a参照)。また、CPU111は、RAM113に格納
した対象文書等Aの該当ソースプログラム(図6(F)
の符号53参照)について解析した結果(ステップ2
2;Y、図6(F)の符号530参照)、自然言語によ
るコメントの記述領域(図6(F)の符号533参照)
に対しては、そのままで文書ベクトルVを求める(ステ
ップ27、図6(F)の符号63b参照)。
【0026】次に、全ての文書が終了しているか否かを
判断する(ステップ28)。この場合、対象文書等Aも
全部終了していないし、注目文書等Bが終了していない
ので(ステップ28;N)、再び、ステップ14の処理
に戻り、対象文書等Aの残り文書の処理を実行し、ある
いは注目文書等Bの文書ベクトルの算出を行う。この動
作は、上述した動作とまったく同じであるので、以後の
説明を省略する。なお、既に説明したが、注目文書等B
について予め文書ベクトルが算出されている場合には、
この処理をする必要はない。
【0027】図9は、文書ベクトル作成処理の動作を表
したフローチャートであり、図3のステップ15、1
7、21、25、27の処理内容の詳細を説明するため
のものである。CPU111は、形態素解析を行うこと
で検索対象文書等Aあるいは注目文書等Bの自立語を抽
出する(ステップ151)。また、CPU111は、名
詞句、複合名詞句等を含めた候補語(句)を対象文書等
Aから抽出しRAM113の所定の作業領域に格納する
(ステップ152)。そして、抽出した候補語(句)の
対象文書等Aでの出現頻度、評価関数から、各候補語
(句)重要度f(x)を決定する(ステップ153)。
ここで、評価関数としては、例えば、所定の重要語が予
め指定されている場合にはその重要語に対する重み付
け、単語、名詞句、複合名詞句等の候補語(句)の種類
による重み付け等が使用される。
【0028】さらにCPU111は、決定した重要度f
(x)の値から対象文書等Aのキーワードa,b,…を
決定する(ステップ154)。各キーワードの重要度f
(x)を要素として、文書ベクトルV=(f(a),f
(b),…)をRAM113の文書ベクトル格納エリア
に格納して(ステップ155)、図3の処理ルーチンに
リターンする。文書ベクトルVが求まると、CPU11
1は、対象文書等Aと注目文書等Bとの間の類似度S
を、文書等Aの文書ベクトルAv、注目文書等Bの文書
ベクトルBvの間の角度(q)に依存するコサインによ
り求める(ステップ29)。すなわち、両文書ベクトル
Av、Bvとすると、両文書ベクトルの絶対値をそれぞ
れ|Av|、|Bv|とした場合、両者の文書ベクトル
の類似度Sは、次の数式1により求まる。
【0029】
【数1】 類似度S=cos(q) =(Av・Bv)/(|Av|×|Bv|)
【0030】この類似度Sの値は、−1≦S≦1までの
値をとり、1に近いほど二つの文書ベクトルが互いに平
行に近く、対象文書等Aと注目文書等Bとは似ていると
考えることができる。例えば、通常の文書、データある
いはプログラムの場合には、対象文書等Aの文書ベクト
ルAv(図7(G)の符号70)と、注目文書等Bの文
書ベクトルBv(図7(G)の符号80)とから、数式
1を用いて類似度Sを算出する(図7(G)の符号9
0)。これは、図7(G)の符号900に示すように、
二つの文書ベクトルAv、Bvの角度(q)についてコ
サインをとることにより算出できる。
【0031】また、ソースプログラムの場合には、対象
文書等Aの文書ベクトルAv(図8(H)の符号71)
と、注目文書等Bの文書ベクトルBv(図8(H)の符
号81)について、プログラム系と自然言語系とに分類
し、それぞれ二つの文書ベクトルAva、Bva、文書ベク
トルAvb、Bvbの各角度(qa、qb)について数式1
を用いてコサインをとり、それぞれ類似度Sを算出する
(図8(H)の符号91)。これは、図8(H)の符号
910a、910bに示すように、プログラム系および
自然言語系の各二つの文書ベクトルAv、Bvの角度
(qa、qb)についてそれぞれコサインをとることに
より類似度Sa、Sbを算出できる。
【0032】そして、CPU111は、類似度Sの値が
所定の閾値(例えば、0.8)より大きいと判断したと
きには(ステップ30;Y)、対象文書等Aは注目文書
等Bと類似していると判定してその結果をRAM113
の所定の格納エリアに格納する(ステップ31)。ま
た、CPU111は、類似度Sの値が所定の閾値(例え
ば、0.8)より小さいと判断したときには(ステップ
30;N)、対象文書等Aは注目文書等Bとは非類似し
ていると判定してその結果をRAM113の所定の格納
エリアに格納する(ステップ32)。
【0033】以上の処理が終了すると、CPU111
は、ユーザの指示によりRAM113の所定の格納エリ
アに格納しておいた各データの保存処理を行う。すなわ
ち、文書ベクトル作成処理(図3のステップ13、図
7)で求めた文書ベクトルVをRAM113から読み出
し、文書データベース164に格納した対象文書等A、
注目文書等Bとの関連性をつけて記憶装置16の文書ベ
クトルデータベース166に格納する。また、判断結果
についても、対象文書等Aと注目文書等Bとに関連付け
て記憶装置16の文書ベクトルデータベース166等に
格納しておく。
【0034】以上説明したように本実施の形態によれ
ば、表計算ソフトで作成したファイルについても自然言
語処理の検索対象とし、数値データを単位やグラフの軸
名等の情報(スキーマ)込みでインバーテッドファイル
化することにより、数値データの検索精度を高めること
ができる。また、単位などの情報を加味して( 正規化の
一種)インバーテッドファイルに入れることにより、表
計算ソフトのファイルでも類似検索の対象にすることが
できる。また、軸の情報を利用することで、グラフなど
も類似検索の対象することができる。このように、本実
施形態によれば、対象文書とその他の文書との類似性判
断をする場合に無意味な判断をすることなく、有効なデ
ータとの間で判断することができ、類似性判断の精度を
高めることができる。特に数値データに関する検索精度
が高まり、既存の表計算データファイルの再利用性が飛
躍的に高まる。
【0035】以上、本実施形態の構成およびその動作に
ついて説明したが、本発明では、これらの各形態に限定
されるものとはなく、請求項に記載された発明の範囲内
で種々の変形をすることが可能である。
【発明の効果】本発明によれば、処理対象となる対象文
書から、テキストのデータと非テキストデータとを区別
し、前記区別されたテキストのデータ及び非テキストデ
ータの少なくとも一方を使用して、他の文書との類似性
を判断するようにしたので、取得した対象文書と他の文
書との類似性判断を高い精度で行うことができる。
【図面の簡単な説明】
【図1】本発明の1実施形態における文書処理装置の構
成を表したブロック図である。
【図2】同上、実施形態における文書ベクトルデータベ
ースの内容を概念的に表した説明図である。
【図3】同上、実施形態における検索処理のメイン動作
を表したフローチャートである。
【図4】同上、実施形態における図3に示した検索処理
の各工程に対応する処理を概念的に表した説明図の一部
である。
【図5】同上、実施形態における図3に示した検索処理
の各工程に対応する処理を概念的に表した説明図の一部
である。
【図6】同上、実施形態における図3に示した検索処理
の各工程に対応する処理を概念的に表した説明図の一部
である。
【図7】同上、実施形態における図3に示した検索処理
の各工程に対応する処理を概念的に表した説明図の一部
である。
【図8】同上、実施形態における図3に示した検索処理
の各工程に対応する処理を概念的に表した説明図の一部
である。
【図9】同上、実施形態における文書ベクトル作成処理
の動作を表したフローチャートである。
【符号の説明】
11 制御部 111 CPU 112 ROM 113 RAM 12 キーボード 13 マウス 14 表示装置 15 印刷装置 161 仮名漢字変換辞書 162 プログラム格納部 163 データ格納部 164 文書データベース 165 文書ベクトルデータベース 17 記憶媒体駆動装置 18 通信制御装置 19 入出力I/F 20 文字認識装置

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 処理対象となる対象文書を取得する対象
    文書取得手段と、 前記対象文書取得手段により取得された対象文書から、
    テキストのデータ以外の非テキストデータを有している
    か否かを判断する判断手段と、 前記判断手段により非テキスト文書を有すると判断され
    た場合に、前記対象文書からテキストのデータと非テキ
    ストデータとを区別する区別手段と、 前記区別手段により区別されたテキストのデータ及び非
    テキストデータの少なくとも一方を使用して、他の文書
    との類似性を判断する類似性判断手段と、を具備するこ
    とを特徴とする文書処理装置。
  2. 【請求項2】 前記非テキストデータは、表データ、グ
    ラフのスキーマ情報、プログラム言語、ソースプログラ
    ム等であることを特徴とする請求項1に記載の文書処理
    装置。
  3. 【請求項3】 前記区別手段により区別された非テキス
    トデータがソースプログラムである場合に、当該ソース
    プログラムを中間言語に変換する変換手段を備え、 前記類似性判断手段は、前記変換手段により変換された
    中間言語のプログラム間の類似性を判断することを特徴
    とする1に記載の文書処理装置。
  4. 【請求項4】 前記類似性判断手段は、ベクトル空間法
    により類似度を算出する算出手段を有し、前記算出手段
    により算出された類似度から類似性を判断することを特
    徴とする請求項1、請求項2、又は請求項3に記載の文
    書処理装置。
  5. 【請求項5】 処理対象となる対象文書を取得する対象
    文書取得機能と、 前記対象文書取得機能により取得された対象文書から、
    テキストのデータ以外の非テキストデータを有している
    か否かを判断する判断機能と、 前記判断機能により非テキスト文書を有すると判断され
    た場合に、前記対象文書からテキストのデータと非テキ
    ストデータを区別する区別機能と、 前記区別機能により区別されたテキストのデータ及び非
    テキストデータの少なくとも一方を使用して、他の文書
    との類似性を判断する類似性判断機能と、をコンピュー
    タに実現させるためのコンピュータ読取り可能な文書処
    理プログラムが記憶された記憶媒体。
  6. 【請求項6】 前記非テキストデータは、表データ、グ
    ラフのスキーマ情報、プログラム言語、ソースプログラ
    ム等であることを特徴とする請求項5に記載の文書処理
    プログラムが記憶された記憶媒体。
  7. 【請求項7】 前記区別機能により区別された非テキス
    トデータがソースプログラムである場合に、当該ソース
    プログラムを中間言語に変換する変換機能を備え、 前記類似性判断機能は、前記変換機能により変換された
    中間言語のプログラム間の類似性を判断することを特徴
    とする請求項5に記載の文書処理プログラムが記憶され
    た記憶媒体。
  8. 【請求項8】 前記類似性判断機能は、ベクトル空間法
    により類似度を算出する算出機能を有し、前記算出機能
    により算出された類似度から類似性を判断することを特
    徴とする請求項5、請求項6、又は請求項7に記載の文
    書処理プログラムが記憶された記憶媒体。
  9. 【請求項9】 処理対象となる対象文書から、テキスト
    のデータと非テキストデータとを区別し、 前記区別されたテキストのデータ及び非テキストデータ
    の少なくとも一方を使用して、他の文書との類似性を判
    断することを特徴とする文書処理方法。 【0001】
JP9219303A 1997-07-29 1997-07-29 文書処理装置、文書処理プログラムを記憶した記憶媒体、及び文書処理方法 Pending JPH1153397A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP9219303A JPH1153397A (ja) 1997-07-29 1997-07-29 文書処理装置、文書処理プログラムを記憶した記憶媒体、及び文書処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP9219303A JPH1153397A (ja) 1997-07-29 1997-07-29 文書処理装置、文書処理プログラムを記憶した記憶媒体、及び文書処理方法

Publications (1)

Publication Number Publication Date
JPH1153397A true JPH1153397A (ja) 1999-02-26

Family

ID=16733387

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9219303A Pending JPH1153397A (ja) 1997-07-29 1997-07-29 文書処理装置、文書処理プログラムを記憶した記憶媒体、及び文書処理方法

Country Status (1)

Country Link
JP (1) JPH1153397A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003030237A (ja) * 2001-07-11 2003-01-31 Just Syst Corp ファイル検索方法とこの方法を利用可能なファイル検索装置、検索サーバ
CN111950875A (zh) * 2020-07-31 2020-11-17 国网上海市电力公司 一种合同智能评审方法
CN112183090A (zh) * 2020-10-09 2021-01-05 浪潮云信息技术股份公司 一种基于词网计算实体关联性的方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003030237A (ja) * 2001-07-11 2003-01-31 Just Syst Corp ファイル検索方法とこの方法を利用可能なファイル検索装置、検索サーバ
CN111950875A (zh) * 2020-07-31 2020-11-17 国网上海市电力公司 一种合同智能评审方法
CN112183090A (zh) * 2020-10-09 2021-01-05 浪潮云信息技术股份公司 一种基于词网计算实体关联性的方法

Similar Documents

Publication Publication Date Title
US6638317B2 (en) Apparatus and method for generating digest according to hierarchical structure of topic
US8139870B2 (en) Image processing apparatus, recording medium, computer data signal, and image processing method
JP4200645B2 (ja) 情報処理装置、情報処理方法および記録媒体
EP0635798B1 (en) Data access based on human-produced images
JP2011513810A (ja) 用語識別方法および装置
JP4067603B2 (ja) 文書分類装置、文書分類プログラムが記憶された記憶媒体、及び文書分類方法
US7647303B2 (en) Document processing apparatus for searching documents, control method therefor, program for implementing the method, and storage medium storing the program
JP2006073012A (ja) 予め定められた個数の予め定義された質問に応答することによって情報を管理するシステムおよび方法
JPH1153394A (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体、及び文書処理方法
JP4021525B2 (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体、及び文書処理方法
JP4030624B2 (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体および文書処理方法
JPH1145289A (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体、及び文書処理方法
JP4025391B2 (ja) 文書処理装置、文書処理プログラムが記憶されたコンピュータ読取り可能な記憶媒体、及び文書処理方法
JP2004334341A (ja) 文書検索装置、文書検索方法及び記録媒体
JP4005672B2 (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体、及び文書処理方法
JP4047417B2 (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体および文書処理方法
JPH1153397A (ja) 文書処理装置、文書処理プログラムを記憶した記憶媒体、及び文書処理方法
JP2000194725A (ja) 類似グル―プ抽出装置、及び類似グル―プ抽出プログラムが記憶された記憶媒体
JP2003323425A (ja) 対訳辞書作成装置、翻訳装置、対訳辞書作成プログラム、および翻訳プログラム
JP4044644B2 (ja) 電子掲示板システム、電子掲示板プログラムが記憶された記憶媒体、及び電子掲示板の活性化方法
JPH10307837A (ja) 検索装置並びに検索プログラムを記録した記録媒体
JPH1145288A (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体および文書処理方法
JP2021196798A (ja) 対話システム、及び対話システムの制御方法
JPH1153398A (ja) 文書処理装置、文書処理プログラムが記憶された記憶媒体、及び文書処理方法
JP4098764B2 (ja) 文書処理装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070724

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070919

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071023

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080304