JPH1153381A - 類似文書検索装置および類似文書検索方法 - Google Patents

類似文書検索装置および類似文書検索方法

Info

Publication number
JPH1153381A
JPH1153381A JP9208039A JP20803997A JPH1153381A JP H1153381 A JPH1153381 A JP H1153381A JP 9208039 A JP9208039 A JP 9208039A JP 20803997 A JP20803997 A JP 20803997A JP H1153381 A JPH1153381 A JP H1153381A
Authority
JP
Japan
Prior art keywords
document
word
norm
word frequency
search target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP9208039A
Other languages
English (en)
Inventor
Yasuo Tanosaki
康雄 田野崎
Naohide Kubota
直秀 久保田
Yukio Nakamoto
幸夫 中本
Takuya Nishina
卓哉 仁科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Computer Engineering Corp
Original Assignee
Toshiba Corp
Toshiba Computer Engineering Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Computer Engineering Corp filed Critical Toshiba Corp
Priority to JP9208039A priority Critical patent/JPH1153381A/ja
Publication of JPH1153381A publication Critical patent/JPH1153381A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

(57)【要約】 【課題】 ある文書に類似した文書を自動検索する装置
において、より高速な検索処理が可能でしかも検索精度
の高い類似文書検索装置を実現する。 【解決手段】 外部記憶装置5に記憶された各文書デー
タについて単語頻度表と文書ノルム表を予め作成してお
き、検索対象および被検索対象の各文書が指定されたと
ころで各文書の単語頻度表および文書ノルム表を参照し
て文書データ間の類似度計算を行う。これにより連続し
て複数の検索対象文書と複数の被検索対象文書との類似
度を算出する場合に単語頻度表の作成やノルムの計算を
重複して行う必要がなくなり高速な処理が可能となる。
また、文書データ中の検索条件単語の出現頻度を考慮し
た類似文書検索が可能となり、同時に複数の検索対象文
書と複数の被検索対象文書を対象とした類似文書検索を
高精度に行える。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、電子化された文書
データの検索装置に係り、特にある文書データに対して
これと類似した文書データを検索する類似文書検索装置
および類似文書検索方法に関する。
【0002】
【従来の技術】近年、大量の電子化された文書データが
流通するようになり、自動分類等を行う目的で、文書デ
ータベース中から指定された文書に類似する文書を自動
検索するシステムが実用されてきている。これらのシス
テムでは、指定された文書(これを検索対象文書と呼
ぶ。)の類似文書を検索するにあたって、この検索対象
文書と他の文書(これを被検索対象文書と呼ぶ。)との
間で共通する単語の種類数を反映した類似度を計算し、
この値の大きなものを検索結果として出力する。
【0003】例えば、図27に示すように、予めいくつ
かの単語i1,i2,…,inを一次の検索条件として
指定しておき、文書データベースに格納されたm個の文
書データb1,b2,…,bmについて、該文書中にお
ける個々の一次検索条件単語i1,i2,…,inの有
無を調べる。このように各文書についての単語有無表を
作成した後、上記一次検索条件単語i1,i2,…,i
nの中で検索対象文書中に存在するいくつかの単語を二
次検索条件として指定し、この単語をより多く含む文書
を上記単語有無表を参照することによって判定し、これ
を類似文書の検索結果として出力する。
【0004】
【発明が解決しようとする課題】しかしながら、このよ
うな従来の類似文書検索方式では、被検索対象文書中に
検索条件となる単語の有る/無しを判定基準として類似
検索を行っているにすぎないため、被検索対象文書中の
検索条件単語の持つ重みまでは考慮されないものとな
り、常により多くの種類の単語を含んだ長文の文書が類
似文書の候補として選ばれやすくなるなど、精度的に難
があることが指摘されている。また、上記従来の方式で
は、類似文書の検索を行おうとする度に検索対象文書中
に存在する、該文書の特徴をよく表すような単語を二次
検索条件として正しく指定し、そうでない種類の単語は
二次検索条件から必ず除外する必要があり、二次検索条
件の選定の際に、例えばオペレータが検索対象文書を参
照してキーとなる単語を見付け出すなどの人為的な労力
を要するなどの問題もあった。
【0005】本発明はこのような課題を解決するために
なされたもので、検索精度に優れ高速処理が可能な類似
文書検索装置および類似文書検索方法を提供することを
目的としている。
【0006】
【課題を解決するための手段】上記した目的を達成する
ために、請求項1記載の発明の類似文書検索装置は、複
数の文書データを格納する格納手段と、前記格納手段に
格納された文書データごとに、予め設定された検索条件
単語ごとの出現頻度を求めて単語頻度表を作成する単語
頻度表作成手段と、前記格納手段に格納された文書デー
タごとに、前記単語頻度表作成手段により作成された単
語頻度表中の検索条件単語ごとの出現頻度を要素とする
1次元ベクトルのノルムを算出して文書ノルム表を作成
する文書ノルム表作成手段と、前記格納手段に格納され
た文書データの中から検索対象および被検索対象の文書
データを指定する指定手段と、前記指定手段により指定
された各文書データ間の類似度を、前記単語頻度表およ
び前記文書ノルム表に基づき算出する類似度算出手段と
を有することを特徴とする。
【0007】本発明によれば、文書データ中の検索条件
単語の出現頻度を考慮した類似文書検索が可能となり、
また、同時に複数の検索対象文書と複数の被検索対象文
書を対象とした類似文書検索を高効率にかつ高精度に行
うことが可能となる。
【0008】また、請求項1の発明では、格納手段に格
納された各文書データについて単語頻度表と文書ノルム
表を予め計算して記憶しておき、検索対象および被検索
対象の文書データが指定されたところで、類似度算出手
段によって、該当する各文書データの単語頻度表および
文書ノルム表から文書データ間の類似度を求めること
で、連続して複数の検索対象文書と複数の被検索対象文
書を対象とした類似文書検索を行う場合、すなわち1つ
の検索対象文書と各被検索対象文書との類似度計算を行
った後、続けて次の1つの検索対象文書と各被検索対象
文書との類似度計算を行うような場合でも、各被検索対
象文書に対する単語頻度表の作成やノルム計算が各々一
回で済むので高速処理が可能となる。
【0009】さらに、請求項2記載の発明の類似文書検
索装置は、複数の文書データを格納する格納手段と、前
記格納手段に格納された文書データごとに、予め設定さ
れた検索条件単語ごとの出現頻度を求めて単語頻度表を
作成する単語頻度表作成手段と、前記格納手段に格納さ
れた文書データごとに、前記単語頻度表作成手段により
作成された単語頻度表中の検索条件単語ごとの出現頻度
を要素とする1次元ベクトルのノルムを算出して文書ノ
ルム表を作成する文書ノルム表作成手段と、前記格納手
段に格納された文書データの中から検索対象および被検
索対象の文書データを指定する指定手段と、前記指定手
段により指定された各文書データに対して前記単語頻度
表作成手段にて作成された各単語頻度表間の共通単語の
登録位置関係を示す単語対応表を作成する単語対応表作
成手段と、前記指定手段により指定された各文書データ
間の類似度を、前記単語頻度表、前記文書ノルム表およ
び前記単語対応表に基づき算出する類似度算出手段とを
有することを特徴とする。この発明では、各文書データ
間の類似度算出において、各単語頻度表のベクトルデー
タの内積計算に必要な、検索対象文書の単語頻度表と被
検索対象文書の単語頻度表との間での共通単語について
の出現頻度情報を単語対応表を参照することによって一
意に得られるので、より一層の処理の高速化を図ること
ができる。また、上記目的を達成するために、本発明の
類似文書検索方法は、請求項3に記載されるように、文
書データベースに格納された個々の文書データごとに、
予め設定された検索条件単語ごとの出現頻度を求めて単
語頻度表を作成する工程と、文書データベースに格納さ
れた個々の文書データごとに、前記作成された単語頻度
表中の検索条件単語ごとの出現頻度を要素とする1次元
ベクトルのノルムを算出して文書ノルム表を作成する工
程と、前記文書データベースに格納された文書データの
中から検索対象および被検索対象の文書データを指定す
る工程と、前記指定された各文書データ間の類似度を、
前記単語頻度表および前記文書ノルム表に基づき算出す
る工程とを有することを特徴とするものであり、この発
明の作用、効果は請求項1の発明のそれと等価である。
【0010】さらに、本発明の類似文書検索方法は、請
求項4に記載されるように、文書データベースに格納さ
れた個々の文書データごとに、予め設定された検索条件
単語ごとの出現頻度を求めて単語頻度表を作成する工程
と、文書データベースに格納された個々の文書データご
とに、前記作成された単語頻度表中の検索条件単語ごと
の出現頻度を要素とする1次元ベクトルのノルムを算出
して文書ノルム表を作成する工程と、前記文書データベ
ースに格納された文書データの中から検索対象および被
検索対象の文書データを指定する工程と、前記指定され
た各文書データに対して作成された各単語頻度表間の共
通単語の登録位置関係を示す単語対応表を作成する工程
と、前記指定された各文書データ間の類似度を、前記単
語頻度表、前記文書ノルム表および単語対応表に基づき
算出する工程とを有することを特徴とものであり、この
発明の作用、効果は請求項2の発明のそれと等価であ
る。
【0011】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して詳細に説明する。
【0012】図1は本発明に係る一実施形態である類似
文書検索装置のハードウェア構成を示す図である。
【0013】同図に示すように、この類似文書検索装置
は、入力装置1、表示装置2、制御装置3、メモリ4、
外部記憶装置5および通信装置6から構成され、各装置
は互いにバスを介して結合されている。
【0014】入力装置1はキーボード、マウス、タブレ
ット或いはタッチパネルなどからなり、文字列を入力し
たり、本装置に各種のデータおよび命令の入力を行う。
表示装置2はCRT或いは液晶ディスプレイと表示コン
トローラなどからなり、検索結果やシステムからユーザ
への指示を表示する。制御装置3はCPUから構成さ
れ、各装置の制御、装置間のデータの転送などの処理を
行うものである。
【0015】メモリ4はRAMなどからなり、図2、図
3に示すように、制御装置3が各種制御や処理を実行す
るためのプログラムを格納するプログラム部と、処理の
際に必要なデータを格納するためのバッファ部からなっ
ている。
【0016】プログラム部は、図2に示すように、単語
抽出処理のための単語抽出部10aのほか、図3に示す
ように、処理全体の制御を行うメイン処理部11a、メ
イン処理部11aで呼び出されるサブルーチンとして、
初期化部11b、ノルム計算部11c、単語対応表作成
部11d、類似度算出部11e、出力編集部11f、文
書一覧表示部11g、文書選択部11h、文書内容表示
部11iからなる。
【0017】バッファ部は、図2に示すように、単語抽
出部10aの作業領域としての、入力文書データ格納バ
ッファ10b、単語ID−単語表格納バッファ10c、
単語頻度表格納バッファ10dおよび単語抽出表格納バ
ッファ10eからなる。また、メイン処理部11aの作
業領域として、図3に示すように、検索対象・単語頻度
表格納バッファ11j、被検索対象・単語頻度表格納バ
ッファ11k、文書ノルム表格納バッファ11l、単語
対応表格納バッファ11m、類似度算出結果格納バッフ
ァ11n、出力編集結果格納バッファ11oがある。
【0018】入力文書データ格納バッファ10bには図
4に示すような文書データが格納される。図4において
A、B、Cは一文書の個々の節である。単語ID−単語
表格納バッファ10cには、図5に示すように単語ID
と単語との対応を示す形式の単語ID−単語表データが
格納される。単語頻度表格納バッファ10dには、図6
或いは図7に示すような形式の単語頻度表が格納され
る。検索対象・単語頻度表格納バッファ11jには、図
6に示すような形式の検索対象文書の単語頻度表が格納
される。被検索対象・単語頻度表格納バッファ11kに
は、図7に示すような形式の被検索対象文書の単語頻度
表が格納される。文書ノルム表格納バッファ11lに
は、図8に示すような形式の文書ノルム表が格納され
る。単語対応表格納バッファ11mには、図9に示すよ
うな形式の単語対応表が格納される。類似度算出結果格
納バッファ11nには、図10に示すような形式の類似
度算出結果が格納される。出力編集結果バッファ11o
には、図11に示すような形式の類似度算出結果の出力
編集結果が格納される。
【0019】バッファ部にはその他、作業用変数のため
の領域10f、11pが確保されている。これら作業用
変数のための領域内10f、11pには、後で述べる処
理で用いられる変数として、検索対象・単語頻度表の総
数dat、被検索対象・単語頻度表の総数dbt、総文
書数dt、現在参照中の検索対象・単語頻度表のIDと
してda、被検索対象・単語頻度表のIDとしてdbな
どが確保される。
【0020】外部記憶装置5はハードディスク或いはフ
ラッシュメモリ或いは光磁気ディスクとコントローラか
らなり、文書データ、単語頻度表、単語抽出表などを格
納する。この外部記憶装置5に格納されている文書デー
タおよび単語頻度表の格納形式を図12に、単語抽出表
の格納形式を図13にそれぞれ示す。図12に示すよう
に、各文書データは、文書タイトル、ファイル作成日
時、作成者などの属性データなどを格納したへッダ部
と、文書を構成する文字コードデータであるテキストデ
ータ部からなっており、これらがID順に格納されてい
る。単語抽出表はテキストデータから単語頻度表を作成
する際に単語を抽出するために参照される。この単語抽
出表は例えばオペレータによって任意に設定される。
【0021】前記の図5に示した単語ID−単語表は、
図13の単語抽出表に基づいて作成されたものであり、
単語IDに対応する実際の単語が記述されている。この
単語ID−単語表は単語IDと単語との間の変換に用い
られるものである。
【0022】図6に示した単語頻度表は単語抽出処理に
よって個々の文書データから作成されたもので、この単
語頻度表には文書の構成要素である節ごとの、単語ID
−単語表に記述された単語ID(単語抽出表に記述され
た単語)に対応する単語の出現頻度が記述される。な
お、図6に示す単語頻度表の内容は図4に示した文書デ
ータを単語抽出処理した例である。この単語頻度表に
は、文書データの節A〜Zごとに単語出現頻度情報が記
述される。
【0023】図8に示した文書ノルム表には、個々の単
語頻度表に対する、節(A〜Z)ごとのベクトルの大き
さ(ノルム)が記述される。
【0024】図9に示した単語対応表は類似度算出処理
が行われる際に一時的に作成される表である。この単語
対応表には、図6に示した検索対象文書の単語頻度表に
記載されている単語IDと、この単語IDと図7に示し
た被検索対象文書の単語頻度表における同一の単語ID
とを対応付けるための情報が記述されている。具体的に
は、検索対象文書と被検索対象文書において共通に存在
する単語IDの場合、前記対応付け情報として被検索対
象文書の単語頻度表上での当該単語IDのオフセット位
置が記述されている。被検索対象文書において存在しな
い単語IDの場合はこれを示す値(例えば(−1))が
記述される。この単語対応表は文書データ間の類似度算
出の際に内積を必要最小限の計算で求めることを目的と
して利用される。
【0025】図10に示す類似度算出結果は、類似度算
出処理によって作成される表で、一つの検索対象文書に
対する各被検索対象文書の各々の類似度が記述される。
ここで、全ての被検索対象文書をr個のブロックに分割
したとき、1つの検索対象文書に対応する類似度算出結
果はr(図10の例では2)個作成される。すなわち、
図14(a)において、検索対象文書としてa1〜an
のn個、被検索対象文書としてbl〜bnのn個が与え
られているものとする。n=10とし、分割数r=2と
すると、1つのブロックの文書数は5となる。この例で
は、a1の検索対象文書に対し図14(c)に示すよう
に類似度算出結果としてo11(bl〜b5に対応する類
似度)とo12(bn−4〜bnに対応する類似度)の2
つが得られる。
【0026】通信装置6は、通信回線を介して外部とデ
ータのやり取りを行う装置であり、たとえばLAN回線
とLANコントローラ等から構成される。
【0027】以下、本実施形態の動作について説明す
る。
【0028】外部記憶装置5には図12に示すように、
文書IDが0〜nのn個の文書データと個々の文書デー
タに対応する単語頻度表が格納されているものとする。
【0029】この動作説明では、はじめに、本装置の全
体的な処理動作を説明し、その後で個々の重要な処理に
ついての詳細を説明することにする。
【0030】本装置におけるプログラム処理は単語抽出
処理とメイン処理の2つからなる。単語抽出処理は文書
データから単語頻度表を作成する処理である。メイン処
理は単語抽出処理で作成された単語頻度表を用いて類似
文書の検索を行う処理である。したがって単語抽出処理
はメイン処理よりも前に行われる。
【0031】図15は単語抽出処理の全体的な手順を示
すフローチャートである。
【0032】単語抽出部10aは起動後直ちにバッファ
部10b〜10f内の各バッファをクリアする。また、
単語抽出部10aは外部記憶装置5に格納されている単
語抽出表(図13)を単語抽出表格納バッファ10d
に、単語ID−単語表(図5)を単語ID−単語表格納
バッファ10cにそれぞれ格納する(ステップS1)。
その際、単語抽出部10aは単語抽出表(図13)を参
照して単語ID−単語表の作成を行い、これを単語ID
−単語表格納バッファ10cに格納する。
【0033】次に、単語抽出部10aは外部記憶装置5
に格納された文書データを読み出し、この文書データに
対応する単語頻度表(図6、図7)を作成し、これを外
部記憶装置5に格納する(ステップS2)。全ての文書
データに対する単語頻度表の作成および格納を終えると
単語抽出処理を終了する(ステップS3)。
【0034】次に、メイン処理の動作を図16により説
明する。
【0035】メイン処理部11aが起動されると、まず
初期化部11bにて各バッファ部11j〜11pのクリ
アや、検索対象文書と被検索対象文書の単語頻度表の数
を変数にセットするなど、類似文書検索に必要な各種の
初期化処理を行う(ステップS4)。
【0036】この後、ノルム計算部11cが起動され
る。ノルム計算部11cは各単語頻度表に格納された検
索対象文書および被検索対象文書の各節ごとに、単語I
Dごとの単語出現頻度を要素とする1次元ベクトルのノ
ルム(=ベクトルの大きさ)を計算し、文書ノルム表格
納バッファ11l上に文書ノルム表を作成して外部記憶
装置5へ出力する(ステップS5)。
【0037】文書ノルム表が作成されると、メイン処理
部11aは初期化処理S4で指定された数の検索対象文
書の単語頻度表(図6)を外部記憶装置5から読み込
み、検索対象・単語頻度表格納バッファ11jに格納す
る(ステップS6)。次にメイン処理部11aは、指定
された数の被検索対象文書の単語頻度表(図7)を外部
記憶装置5から読み込み、被検索対象・単語頻度表格納
バッファ11kに格納する(ステップS7)。
【0038】この後、メイン処理部11aは検索対象・
単語頻度表格納バッファ11jと被検索対象・単語頻度
表格納バッファ11kから各々1つずつ単語頻度表を取
り出し、単語対応表作成部11dへ処理を渡す。単語対
応表作成部11dにて単語対応表(図9)が作成され、
単語対応表格納バッファ11mにこれが格納されると
(ステップS8)、メイン処理部11aは類似度算出部
11eに処理をわたす。類似度算出部11eは、単語対
応表と文書ノルム表を参照して、検索対象文書と被検索
対象文書の各単語頻度表の各節ごとに両者の類似度を算
出する。そして、節ごとの類似度の平均値をとるなどし
て文書間の類似度を算出し、この類似度算出結果を外部
記憶装置5へ出力する(ステップS9)。
【0039】そして、検索対象・単語頻度表格納バッフ
ァ11jに格納されたすべて(指定数分)の検索対象文
書の単語頻度表について、検索対象・単語頻度表格納バ
ッファ11kに格納されたすべて(指定数分)の被検索
対象文書の単語頻度表との類似度算出が完了するまでス
テップS8、ステップS9を繰り返す(ステップS1
0)。
【0040】この後、次の指定数分の被検索対象文書の
単語頻度表を外部記憶装置5から読み込み、これらの単
語頻度表で被検索対象・単語頻度表格納バッファ11k
を書き換えて、検索対象・単語頻度表格納バッファ11
jに格納されたすべて(指定数分)の検索対象文書の単
語頻度表について、前記と同様に検索対象・単語頻度表
格納バッファ11kに格納されたすべて(指定数分)の
被検索対象文書の単語頻度表との類似度算出が完了する
までステップS7〜S10を繰り返す(ステップS1
1)。
【0041】その後、次の指定数分の検索対象文書の単
語頻度表を外部記憶装置5から読み込み、これらの単語
頻度表で検索対象・単語頻度表格納バッファ11jを書
き替えて同様に類似度計算を行う(ステップS12)。
【0042】次に、このステップS6からS12までの
処理について図14を参照して具体的に説明する。
【0043】まず、図14(a)の太線枠で囲まれてい
る範囲、つまり複数の検索対象文書の単語頻度表a1〜
a5と複数の被検索対象文書の単語頻度表b1〜b5を
メモリ上に一括して書き込み、先頭の検索対象文書の単
語頻度表a1 と各被検索対象文書の単語頻度表b1〜b
5との各々の類似度を計算して図10に示したような類
似度算出結果o11を出力する。続いて、図14(b)に
示すように、次の検索対象文書の単語頻度表a2と被検
索対象文書の単語頻度表b1〜b5との各々の類似度計
算を行って類似度算出結果o21を出力する。同様に検索
対象文書の単語頻度表a3,a4,a5と被検索対象文
書の単語頻度表b1〜b5との各々の類似度計算を行っ
て類似度算出結果o31,o41,o51を出力する。
【0044】次に、図14(c)に示すように、メモリ
上のb1〜b5の被検索対象文書の単語頻度表の確保領
域を解放し、そこにbn−4〜bnの被検索対象文書の
単語頻度表を書き込む。そして前記と同様に、検索対象
文書の単語頻度表a1〜a5と被検索対象文書の単語頻
度表bn−4〜bnとの各々類似度を計算して類似度算
出結果o12を出力する。
【0045】さらにこの後、図14(d)に示すよう
に、メモリ上のa1〜a5の検索対象文書の単語頻度表
の確保領域を解放し、そこに次の指定数分の検索対象文
書の単語頻度表an−4〜anを書き込むとともに、メ
モリ上のbn−4〜bnの被検索対象文書の単語頻度表
の確保領域を解放し、そこに再び被検索対象文書の単語
頻度表b1〜b5を書き込み、前記と同様に検索対象文
書の単語頻度表an−4〜anと被検索対象文書の単語
頻度表b1〜b5との各々の類似度を計算し、続いてメ
モリ上の被検索対象文書の単語頻度表b1〜b5の確保
領域を解放してそこに被検索対象文書の単語頻度表bn
−4〜bnを書き込み、同様に類似度を計算する。
【0046】以上、外部記憶装置5に存在するすべての
検索対象文書の単語頻度表とすべての被検索対象文書の
単語頻度表との類似度が算出され、その類似度算出結果
が外部記憶装置5に記憶されると、メイン処理部11a
は出力編集部11fへ制御を移す。
【0047】出力編集部11fは、外部記憶装置5に格
納されている、個々の検索対象文書に対する全被検索対
象文書との間の類似度算出結果を順次読み込み、例えば
類似度の高いものを上位に配置するなどのソートを行
い、図11に示すような出力編集結果として外部記憶装
置5に格納する(ステップS13)。
【0048】すべての検索対象文書に対応する出力編集
結果が外部記憶装置5に記憶されたところで、メイン処
理部11aは、図18に示すような文書一覧画面を文書
一覧表示部11gを介して表示装置2に出力し(ステッ
プS14)、引き続き文書選択部11hを起動する(ス
テップS15)。この文書一覧画面には、ユーザが検索
対象文書のIDを入力するための入力項目が設けられて
おり、この入力項目に文書選択部11hを通じて検索対
象文書ID(例えばa1)を入力することで、その検索
結果となる被検索対象文書IDの一覧と各々の類似度が
表示される。
【0049】また、被検索対象文書IDに対応するチェ
ックボックスをマウスなどのポインティングディバイス
などで選択することにより、文書内容表示部11iが起
動され、図19に示すように、選択された文書の類似度
とその文書内容が表示される(ステップS16)。
【0050】これら類似検索結果の表示処理は、図18
または図19に示す画面左上のクローズボックスをポイ
ンティングディバイスなどで選択することで終了する
(ステップS17)。
【0051】次に、ステップS2の単語抽出処理、ステ
ップS4の初期化処理、ステップS5のノルム計算処
理、ステップS8の単語対応表作成処理、ステップS9
の類似度算出処理、ステップS13の出力編集処理につ
いて具体的に説明する。
【0052】まず、ステップS2の単語抽出処理につい
て説明する。図20はステップS2の単語抽出処理を示
す詳細フローチャートである。
【0053】外部記憶装置5に文書データが格納された
状態で、初期化処理ステップS1で文書数などの環境が
設定されると単語抽出部10aが起動する。単語抽出部
10aは指定された入力文書データを入力文書データ格
納バッファ10bに格納する(ステップS21)。次
に、単語抽出部10aは単語抽出表を参照し、入力文書
データ中から単語抽出表に含まれる単語を抽出して作業
用領域に格納する(ステップS22)。
【0054】次に、単語抽出部10aは単語ID−単語
表を参照し、抽出された単語が既に単語ID−単語表に
登録されていなければ制御をステップS25へ移し、登
録されていれば制御をステップS24へ移す(ステップ
S23)。ステップS24では、単語ID−単語表に未
登録の単語の追加処理を行う。また、該当の単語に対し
て新規の単語IDを発行する(ステップS24)。ステ
ップS22で格納された単語は、単語ID−単語表に基
づいて単語IDに置き換えられる(ステップS25)。
【0055】次に、単語抽出部10aは作業領域に格納
された単語を再集計し、文書データの節ごとに単語(単
語抽出表に含まれる単語と同じ単語)の出現頻度を調
べ、その結果を単語頻度表格納バッファ11mに書き込
む(ステップS26)。そして文書データのすべての節
について単語出現頻度の算出および算出結果の書き込み
が完了したところで次のステップ28に移行する(ステ
ップS27)。最後に、単語抽出部10aは単語頻度表
格納バッファ11mに書き込まれた内容を単語頻度表と
して外部記憶装置5に出力する(ステップS28)。
【0056】次に、ステップS4の初期化処理について
説明する。図21はこの初期化処理の詳細を示すフロー
チャートである。
【0057】外部記憶装置5に単語頻度表が格納される
と、メイン処理部11aは初期化部11bへ制御を移
す。初期化部11bは作業用変数のための領域11p
に、作業用変数として検索対象文書と被検索対象文書の
各単語頻度表格納バッファ11j,11kに単語頻度表
を格納する際に、1回に読み込む文書数:sep、検索
対象・単語頻度表の総数:dat、被検索対象・単語頻
度表の総数:dbt、単語頻度表の総数:dt、計算対
象となる検索対象・単語頻度表のID:da、計算対象
となる被検索対象・単語頻度表のID:dbを用意す
る。また、これらの変数に初期値を代入する。本実施形
態では、読み込む文書数sepに5、それ以外の変数0
を代入する(ステップS41)。
【0058】この後、初期化部11bは外部記憶装置5
中の検索対象文書の単語頻度表の数を調べ、その値を検
索対象・単語頻度表の総数datへ代入する(ステップ
S42)。さらに、初期化部11bは外部記憶装置5中
の被検索対象文書の単語頻度表の数を調べ、被検索対象
・単語頻度表の総数dbtへ代入する(ステップS4
3)。最後に、初期化部11bは、検索対象・単語頻度
表の総数datと、被検索対象・単語頻度表の総数db
tの和を単語頻度表の総数dtへ代入する(ステップS
44)。
【0059】次に、ステップS5のノルム計算処理につ
いて説明する。図22はこのノルム計算処理の詳細を示
すフローチャートである。
【0060】ノルムとは、1次元の行列をA=[a1,
a2,…,an]としたとき、
【数1】 で表せられる値のことである。本実施形態では、1つの
文書データが複数の節に分割されるため、文書ノルム表
の文書IDごとに節の数と等しいp個のノルムが計算さ
れる。
【0061】ノルム計算処理は次のようにして行われ
る。初期化部11bの処理が終わるとメイン処理部11
aに制御が戻され、メイン処理部11aはノルム計算部
11cへ制御を移す。ノルム計算部11cは、作業用変
数のための領域11pに、作業用変数として、参照中の
節:p、節の総数:pt、参照中の単語ID:q、単語
の総数:qt、参照中の文書:d、参照中の単語出現頻
度:f、作業用:w、ノルム:normを用意する。ま
た、これらの変数に初期値0を代入する(ステップS5
01)。
【0062】次に、ノルム計算部11cは外部記憶装置
5から文書ノルムを読み出し、文書ノルム表格納バッフ
ァ11lヘ格納する(ステップS502)。続いてノル
ム計算部11cは、外部記憶装置5に格納されたd番目
の単語頻度表を、検索対象・単語頻度表格納バッファ1
1jに書き込む(ステップS503)。さらにノルム計
算部11cは検索対象・単語頻度表格納バッファ11j
から節の総数と単語の総数を読み出し、それぞれ変数p
t、qtへ代入する(ステップS504)。
【0063】続いて、ノルム計算部11cは指定された
節:p、単語ID:qごとの単語出現頻度を調べ、単語
出現頻度:fへ代入する(ステップS505)。また、
指定された節:pのノルムを求めるため、指定された単
語ID:qの単語出現頻度fを2乗した値を作業変数w
に累積加算して行く(ステップS506)。さらに、単
語IDを進めるためqの値を1加算する(ステップS5
07)。そして指定する節の単語すべてが参照されるま
でステップS505〜S507を繰り返す(ステップS
508)。
【0064】次に、ノルム計算部11cは節pのノルム
の計算する。節pのノルムはnorm←W1/2 によって
求められ、求められた節pのノルムは文書ノルム表格納
バッファ11lの該当する箇所へ格納される(ステップ
S509)。続いて次の節のノルムを計算するため、単
語qとノルム作業領域wをクリアする(ステップS51
0)。全ての節のノルム計算が終了したならば制御をス
テップS512へ移す(ステップS511)。ステップ
S512では、次の文書ΙDを進めるためにdの値を1
つ進める。全ての文書について以上のノルム計算を終了
したところで制御がステップS514に移り(ステップ
S513)、最後に、文書ノルム表格納バッファ11l
の内容を文書ノルム表として外部記憶装置5へ出力(ス
テップS514)。
【0065】次に、ステップS8の単語対応表作成処理
について説明する。図23はこの単語対応表作成処理の
詳細を示すフローチャートである。
【0066】外部記憶装置5に文書ノルム表が格納され
ると、メイン処理部11aは単語対応表作成部11dヘ
制御を移す。単語対応表作成部11dはステップS4で
指定された、検索対象・単語頻度表のID:da、被検
索対象・単語頻度表のID:dbの値を受けとる。この
値は、単語対応表作成時に参照される単語頻度表の文書
IDである(ステップS801)。
【0067】次に、単語対応表作成部11dは単語対応
表格納バッファ11m内に、図9に示したように、検索
対象文書の単語頻度表中で使われている単語数と同数の
単語対応表を作成し、被検索対象文書中の単語IDの位
置情報欄をすべて初期値(例では(−1))で埋める
(ステップS802)。
【0068】続いて、単語対応表作成部11dは検索対
象・単語頻度表格納バッファ11jから検索対象文書I
D=daの単語頻度表と、被検索対象・単語頻度表格納
バッファ11kから被検索対象文書ID=dbの単語頻
度表を各々参照する。ここでは、検索対象・単語頻度表
と被検索対象・単語頻度表中で使われている単語のマッ
チングをとり、検索対象・単語頻度表中の単語が被検索
対象・単語頻度表中に含まれている場合はその単語の被
検索対象・単語頻度表中での位置情報を単語対応表格納
バッファ11mの単語対応表に書き込み、検索対象・単
語頻度表中の単語が被検索対象・単語頻度表中に含まれ
ていない場合は「参照先なし」を示す任意の値(例では
(−1))を単語対応表に書き込む(ステップS80
3)。
【0069】そして単語対応表作成部11dは検索対象
・単語頻度表の単語数または、被検索対象・単語頻度表
の単語数のどちらかがなくなったらステップS805へ
制御を進める。それ以外は、ステップS803を繰り返
すためにステップS803へ制御を戻す(ステップS8
04)。また、単語対応表作成部11dは検索対象・単
語頻度表の単語数が被検索対象・単語頻度表の単語数よ
り多いときはステップS806へ制御を移し、それ以外
はステップS9へ制御を移す(ステップS805)。
【0070】検索対象・単語頻度表の単語数が被検索対
象・単語頻度表の単語数よりも多い場合、単語対応表作
成部11dは、単語対応表格納バッファ11mの単語対
応表に空欄ができている箇所に対してステップS803
と同様に「参照先なし」を示す任意の値を書き込む(ス
テップS806)。
【0071】次に、ステップS9の類似度算出処理につ
いて説明する。図24、図25はこの類似度算出処理の
詳細を示すフローチャートである。
【0072】文書類似度sは、類似度:s、各節の類似
度sp、節の数i、各節の検索対象・単語出現頻度を要
素とするベクトルをfap、各節の被検索対象・単語出
現頻度を要素とするベクトルをfbpとするとき、
【数2】 で表される。
【0073】単語対応表格納バッファ11mに単語対応
表が格納されると、メイン処理部11aは類似度算出部
11eへ制御を移す。類似度算出部11eは作業用変数
のための領域11pに、作業用変数として、参照中の
節:p、節の総数:pt、参照中の単語ID:q、単語
の総数:qt、検索対象文書の単語出現頻度:fa、被
検索対象文書の単語出現頻度:fb、作業用:w、検索
対象文書のノルム作業用:norma、被検索対象文書
のノルム作業用:normb、文書類似度:sと、大き
さptの配列として、内積:innprd[pt]、節
ごとの類似度:sp[pt]を用意し、これらの変数に
初期値を代入する(ステップS901)。
【0074】次に、類似度算出部11eはステップS4
で指定された、検索対象・単語頻度表の文書ID:d
a、被検索対象・単語頻度表の文書ID:dbの値を受
けとる。この文書IDはステップS8で受け取った文書
IDと同じものである(ステップS902)。
【0075】続いて、類似度算出部11eはステップS
8で単語対応表格納バッファ11mに作成した単語対応
表を参照し、節p、単語qにおける、検索対象・単語頻
度表中の位置情報を読みとる。この位置情報が「参照先
なし(−1)」である場合は、制御をステップS904
へ移し、それ以外の場合は制御をステップS905へ移
す(ステップS903)。
【0076】ステップS903において、参照先が「参
照先なし」のとき、類似度算出部11eは節p、単語q
における、検索対象文書の単語出現頻度を格納する変数
faに0を代入する(ステップS904)。また、ステ
ップS903において、参照先に「参照先なし」以外の
何らかの値が入っているとき、類似度算出部11eは節
p,単語qにおける検索対象文書の単語出現頻度fa
に、その検索対象文書の単語出現頻度を、また被検索対
象文書の単語出現頻度fbには、被検索対象文書の単語
出現頻度をそれぞれ代入する(ステップS905)。
【0077】検索対象文書の単語出現頻度faおよび被
検索対象文書の単語出現頻度fbがセットされると、類
似度算出部11eは節ごとの内積を計算する。節の内積
innprd[p]は innprd[p]←innprd[p]+fa×fb で表される(ステップS906)。
【0078】また、類似度算出部11eは単語頻度表の
すべての節の内積を計算したならばステップS908
へ、計算途中であればステップS903へ制御を移す
(ステップS907)。さらに、類似度算出部11eは
単語頻度表のすべての単語について計算を完了したなら
ばステップS909へ、計算途中であればステップS9
03へ制御を移す(ステップS908)。
【0079】以上までが節ごとの類似度の分子に関する
計算である。次に分母に関する計算を行う。
【0080】まず、類似度算出部11eはステップS5
で計算した文書ノルム表を参照し(ステップ909)、
文書ID=da、節pにおけるノルムを変数norma
に、文書ID=db、節pにおけるノルムを変数nor
mbにそれぞれ代入する(ステップ910)。
【0081】次に、類似度算出部11eは節pの類似度
sp[p]を求める。節pの類似度sp[p]は、ステ
ップS906で計算したinnprd[p]と、ステッ
プS910のnorma、normbから、 sp[p]←innprd[p]/(norma×no
rmb) で求められる(ステップS911)。
【0082】続いて類似度算出部11eは節pのチェッ
クを行い、全ての節の類似度が求められていないときは
制御をステップS901へ戻し、全ての節の類似度が求
められたときは制御をステップS913へ進める(ステ
ップS912)。
【0083】ここで文書の類似度を求める。ここで、総
節数:pt、節:p、節pの類似度:sp[p]とする
と、文書類似度sは
【数3】 により求められる(ステップS913)。
【0084】最後に類似度算出部11eは、ステップS
913で求めた文書類似度sを被検索対象となった文書
IDと共に外部記憶装置5へ類似度算出結果として出力
する(ステップS914)。
【0085】次に、ステップS13の出力編集処理につ
いて説明する。図26はこの出力編集処理の詳細を示す
フローチャートである。
【0086】出力編集部11fは外部記憶装置5に格納
された、複数に分割された類似度算出結果を1つの出力
編集結果として出力する。ここで出力編集部11fの役
割を説明する。
【0087】本方式では図14(b)に示したように、
検索対象文書a1と各被検索対象文書b1〜bnとの類
似度算出結果はo11とo12の2ファイルとなる。このた
め複数に分割された類似度算出結果を1つの出力編集結
果として統合するための処理が必要となる。
【0088】まず、全ての類似度算出結果が外部記憶装
置5に格納されると、メイン処理部11aは出力編集部
11fへ制御を移す。出力編集部11fは分割された類
似度算出結果を外部記憶装置5から読み込んで類似度算
出結果格納バッファ11nへ書き込む(ステップS13
1)。
【0089】次に、出力編集部11fは各類似度算出結
果に付された分割番号(類似度算出結果を2ファイルに
分割した場合、最初の類似度算出結果の分割番号は1、
次の類似度算出結果の分割番号は2となる。)rのチェ
ックを行う。総分割数がdrであるとき、分割番号r<
drの間は制御をステップS131へ戻し、それ以外は
制御をS133へ進める(ステップS132)。図14
の例ではo11→o12の順番で類似度算出結果が読み込ま
れる。
【0090】分割された類似度算出結果が類似度算出結
果格納バッファ11nに全て格納されと、出力編集部1
1fは文書類似度をキーにソートを行い(ステップS1
33)、出力編集結果(図11)を出力編集結果格納バ
ッファ11oに書き込み後、外部出力装置5に出力する
(ステップS134)。
【0091】本実施形態では、図14(c)の類似度算
出結果o11に相当する類似度算出結果を図10の「a1
#1」、o12に相当する類似度算出結果を図10の「a
1#2」とするとき、図11に示すような出力編集結果
が得られる。すなわち、類似度が高い順に各情報が並び
換えられる。
【0092】さらに、出力編集部11fは外部出力装置
5内から、ステップS131、S132で読み込んだ類
似度算出結果を削除する(ステップS135)。最後
に、すべての類似度算出結果が出力編集処理されたかを
チェックし。出力編集処理が処理中のときは制御をステ
ップS131へ戻し、それ以外は制御をS14へ進める
(ステップS136)。
【0093】このように本実施形態の類似文書検索装置
は、文書データ中の特定の単語(単語抽出表の単語)の
出現頻度を考慮した、従来よりも信頼性に優れた類似文
書検索が可能となるとともに、同時に複数の検索対象文
書と複数の被検索対象文書を対象とした類似文書検索を
高効率にかつ高精度に行うことが可能となる。
【0094】また、外部記憶装置5に記憶された各文書
データについて単語頻度表と文書ノルム表を予め作成し
ておき、検索対象および被検索対象の各文書が指定され
たところで各文書の単語頻度表および文書ノルム表を参
照して文書データ間の類似度計算を行うことで、連続し
て複数の検索対象文書と複数の被検索対象文書との類似
度を算出する場合、すなわち1つの検索対象文書と各被
検索対象文書との類似度計算を行った後、次の1つの検
索対象文書と各被検索対象文書との類似度計算を行う場
合に、単語頻度表の作成やノルムの計算を重複して行う
必要がなくなり、高速な処理が可能となる。
【0095】さらに、本実施形態においては、検索対象
文書と被検索対象文書との類似度算出において、各単語
頻度表のベクトルデータの内積計算に必要な、検索対象
文書の単語頻度表と被検索対象文書の単語頻度表との間
での共通単語についての出現頻度情報を単語対応表を参
照することによって一意に得られるので、より一層の処
理の高速化を図ることができる。
【0096】さらに、本実施形態においては、図14に
て説明したように、検索対象文書と被検索対象文書の各
単語頻度表を複数個のグループ単位で外部記憶装置5か
らメモリ上に呼び出して、可能な限りの組み合わせで検
索対象文書と被検索対象文書との類似度計算を行い、引
き続き次のグループの検索対象文書と被検索対象文書の
各単語頻度表をメモリ上に呼び出して(書き替えて)同
様に類似度計算を行うようにしたことで、外部記憶装置
5のアクセス回数を減らすことができる。
【0097】例えば、検索対象文書の単語頻度表の数を
m、被検索対象文書の単語頻度表の数をn、分割数を
v、節を1としたとき、本方式では、単語頻度表読み込
み時にnv+m回,類似度算出結果の書き込み時にvm
回、また、出力編集時の類似度算出結果の読み込み時に
vm回、出力編集結果の書き出しにm回の、合計2m
(v+1)+nv回のアクセスが発生する。これは、計
算オーダとしてO(m+n)と表すことができる。
【0098】比較例として、図17に示すように、検索
対象文書の単語頻度表と被検索対象文書の単語頻度表を
各々1文書ずつメモリ上に呼び出して類似度計算を行う
方式を考える。この場合、外部記憶装置5のアクセス回
数は、単語頻度表の読み込み時にnm回、類似度算出結
果の書き出し時にm回の、合計m(n+1)回となる。
これは、計算オーダとしてO(mn)なり、本方式の外
部記憶装置5のアクセス回数が非常に少ないことが言え
る。
【0099】これを具体的な値で示すと、検索対象文書
の単語頻度表の数を100、被検索対象文書の単語頻度
表の数を100、分割数を2としたとき、本方式では8
00回、比較例の方式では10,100回のファイルア
クセスが発生する。
【0100】またさらに、本実施形態においては、単語
頻度表を複数の節から構成する構造にしたことで、例え
ば、文書タイトル概要、本文といった節ごとに類似度を
求めることができ、より精度の高い類似度検索結果を得
られる。
【0101】
【発明の効果】以上説明したように請求項1および請求
項3記載の発明によれば、文書データ中の検索条件単語
の出現頻度を考慮した類似文書検索が可能となり、ま
た、同時に複数の検索対象文書と複数の被検索対象文書
を対象とした類似文書検索を高効率にかつ高精度に行う
ことが可能となる。
【0102】また、請求項1および請求項3の発明で
は、格納手段に格納された各文書データについて単語頻
度表と文書ノルム表を予め作成しておき、検索対象およ
び被検索対象の文書データが指定されたところで、該当
する各文書データの単語頻度表および文書ノルム表から
文書データ間の類似度を求めることで、連続して複数の
検索対象文書と複数の被検索対象文書を対象とした類似
文書検索を行う場合でも単語頻度表の作成やノルムの計
算を重複して行う必要がなくなり、高速な処理が可能と
なる。
【0103】さらに、請求項2および請求項4記載の発
明によれば、各文書データ間の類似度算出において、各
単語頻度表のベクトルデータの内積計算に必要な、検索
対象文書の単語頻度表と被検索対象文書の単語頻度表と
の間での共通単語についての出現頻度情報を単語対応表
を参照することによって一意に得られるので、より一層
の処理の高速化を図ることができる。
【図面の簡単な説明】
【図1】本発明に係る一実施形態である類似文書検索装
置のハードウェア構成を示すブロック図
【図2】図1のメモリの構成を示す図
【図3】図2のメモリ内のプログラム部およびバッファ
部の構成を示す図
【図4】文書データの構造を示す図
【図5】単語ID−単語表の構造を示す図
【図6】検索対象文書の単語頻度表を示す図
【図7】被検索対象文書の単語頻度表を示す図
【図8】文書ノルム表を示す図
【図9】単語対応表を示す図
【図10】類似度算出結果を示す図
【図11】類似度算出結果の出力編集結果を示す図
【図12】外部記憶装置内における文書データおよび単
語頻度表の格納形式を示す図
【図13】単語抽出表を示す図
【図14】図16に示すメイン処理のステップS6から
S12までの処理を具体的に説明するための図
【図15】単語抽出処理の全体的な手順を示すフローチ
ャート
【図16】メイン処理の全体的な手順を示すフローチャ
ート
【図17】図16に示すメイン処理のステップS6から
S12までの処理に対する比較例を示す図
【図18】類似文書検索結果である文書一覧画面を示す
【図19】類似文書検索結果である文書画面を示す図
【図20】単語抽出処理の詳細を示すフローチャート
【図21】初期化処理の詳細を示すフローチャート
【図22】ノルム計算処理の詳細を示すフローチャート
【図23】単語対応表作成処理の詳細を示すフローチャ
ート
【図24】類似度算出処理の詳細を示すフローチャート
【図25】図24に続いて類似度算出処理の詳細を示す
フローチャート
【図26】出力編集処理の詳細を示すフローチャート
【図27】従来の類似文書検索方式を説明するための図
【符号の説明】
1……入力装置 2……表示装置 3……制御装置 4……メモリ 5……外部記憶装置 10a……単語抽出部 10b……入力文書データ格納バッファ 10c……単語ID−単語表格納バッファ 10d……単語頻度表格納バッファ 10e……単語抽出表格納 11a……メイン処理部 11b……初期化部 11c……ノルム計算部 11d……単語対応表作成部 11e……類似度算出部 11f……出力編集部 11g……文書一覧表示部 11h……文書選択部 11i……文書内容表示部 11j……検索対象・単語頻度表格納バッファ 11k……被検索対象・単語頻度表格納バッファ 11l……文書ノルム表格納バッファ 11m……単語対応表格納バッファ 11n……類似度算出結果格納バッファ 11o……出力編集結果格納バッファ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 久保田 直秀 東京都青梅市新町1381番地1 東芝コンピ ュータエンジニアリング株式会社内 (72)発明者 中本 幸夫 東京都青梅市新町1381番地1 東芝コンピ ュータエンジニアリング株式会社内 (72)発明者 仁科 卓哉 東京都青梅市新町1381番地1 東芝コンピ ュータエンジニアリング株式会社内

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】 複数の文書データを格納する格納手段
    と、 前記格納手段に格納された文書データごとに、予め設定
    された検索条件単語ごとの出現頻度を求めて単語頻度表
    を作成する単語頻度表作成手段と、 前記格納手段に格納された文書データごとに、前記単語
    頻度表作成手段により作成された単語頻度表中の検索条
    件単語ごとの出現頻度を要素とする1次元ベクトルのノ
    ルムを算出して文書ノルム表を作成する文書ノルム表作
    成手段と、 前記格納手段に格納された文書データの中から検索対象
    および被検索対象の各文書データを指定する指定手段
    と、 前記指定手段により指定された各文書データ間の類似度
    を、前記単語頻度表および前記文書ノルム表に基づき算
    出する類似度算出手段とを有することを特徴とする類似
    文書検索装置。
  2. 【請求項2】 複数の文書データを格納する格納手段
    と、 前記格納手段に格納された文書データごとに、予め設定
    された検索条件単語ごとの出現頻度を求めて単語頻度表
    を作成する単語頻度表作成手段と、 前記格納手段に格納された文書データごとに、前記単語
    頻度表作成手段により作成された単語頻度表中の検索条
    件単語ごとの出現頻度を要素とする1次元ベクトルのノ
    ルムを算出して文書ノルム表を作成する文書ノルム表作
    成手段と、 前記格納手段に格納された文書データの中から検索対象
    および被検索対象の各文書データを指定する指定手段
    と、 前記指定手段により指定された各文書データに対して前
    記単語頻度表作成手段にて作成された各単語頻度表間の
    共通単語の登録位置関係を示す単語対応表を作成する単
    語対応表作成手段と、 前記指定手段により指定された各文書データ間の類似度
    を、前記単語頻度表、前記文書ノルム表および前記単語
    対応表に基づき算出する類似度算出手段とを有すること
    を特徴とする類似文書検索装置。
  3. 【請求項3】 文書データベースに格納された個々の文
    書データごとに、予め設定された検索条件単語ごとの出
    現頻度を求めて単語頻度表を作成する工程と、 文書データベースに格納された個々の文書データごと
    に、前記作成された単語頻度表中の検索条件単語ごとの
    出現頻度を要素とする1次元ベクトルのノルムを算出し
    て文書ノルム表を作成する工程と、 前記文書データベースに格納された文書データの中から
    検索対象および被検索対象の各文書データを指定する工
    程と、 前記指定された各文書データ間の類似度を、前記単語頻
    度表および前記文書ノルム表に基づき算出する工程とを
    有することを特徴とする類似文書検索方法。
  4. 【請求項4】 文書データベースに格納された個々の文
    書データごとに、予め設定された検索条件単語ごとの出
    現頻度を求めて単語頻度表を作成する工程と、 文書データベースに格納された個々の文書データごと
    に、前記作成された単語頻度表中の検索条件単語ごとの
    出現頻度を要素とする1次元ベクトルのノルムを算出し
    て文書ノルム表を作成する工程と、 前記文書データベースに格納された文書データの中から
    検索対象および被検索対象の各文書データを指定する工
    程と、 前記指定された各文書データに対して作成された各単語
    頻度表間の共通単語の登録位置関係を示す単語対応表を
    作成する工程と、 前記指定された各文書データ間の類似度を、前記単語頻
    度表、前記文書ノルム表および単語対応表に基づき算出
    する工程とを有することを特徴とする類似文書検索方
    法。
JP9208039A 1997-08-01 1997-08-01 類似文書検索装置および類似文書検索方法 Withdrawn JPH1153381A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP9208039A JPH1153381A (ja) 1997-08-01 1997-08-01 類似文書検索装置および類似文書検索方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP9208039A JPH1153381A (ja) 1997-08-01 1997-08-01 類似文書検索装置および類似文書検索方法

Publications (1)

Publication Number Publication Date
JPH1153381A true JPH1153381A (ja) 1999-02-26

Family

ID=16549643

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9208039A Withdrawn JPH1153381A (ja) 1997-08-01 1997-08-01 類似文書検索装置および類似文書検索方法

Country Status (1)

Country Link
JP (1) JPH1153381A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010152862A (ja) * 2008-11-27 2010-07-08 I Business Center:Kk 文章体特定装置およびコンピュータに文章体を特定させるためのプログラム
US7941745B2 (en) 1999-11-18 2011-05-10 Sony Corporation Method and system for tagging electronic documents
JP2012022598A (ja) * 2010-07-16 2012-02-02 Jvc Kenwood Corp 利用者情報処理装置、利用者情報処理方法、利用者情報処理プログラム
JP2012058894A (ja) * 2010-09-07 2012-03-22 Jvc Kenwood Corp 利用者情報処理装置、利用者情報処理方法、及び利用者情報処理プログラム
JP2012058893A (ja) * 2010-09-07 2012-03-22 Jvc Kenwood Corp 利用者情報処理装置、利用者情報処理方法、及び利用者情報処理プログラム
JP2014052985A (ja) * 2012-09-10 2014-03-20 Ricoh Co Ltd レポート作成システム、自然言語処理装置、レポート作成装置及びプログラム
KR20160033563A (ko) * 2014-09-18 2016-03-28 경북대학교 산학협력단 데이터베이스 구축 방법, 이를 수행하기 위한 기록매체
JP2018063596A (ja) * 2016-10-13 2018-04-19 富士通株式会社 文書比較プログラム、文書比較方法、及び文書比較装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7941745B2 (en) 1999-11-18 2011-05-10 Sony Corporation Method and system for tagging electronic documents
JP2010152862A (ja) * 2008-11-27 2010-07-08 I Business Center:Kk 文章体特定装置およびコンピュータに文章体を特定させるためのプログラム
JP2012022598A (ja) * 2010-07-16 2012-02-02 Jvc Kenwood Corp 利用者情報処理装置、利用者情報処理方法、利用者情報処理プログラム
JP2012058894A (ja) * 2010-09-07 2012-03-22 Jvc Kenwood Corp 利用者情報処理装置、利用者情報処理方法、及び利用者情報処理プログラム
JP2012058893A (ja) * 2010-09-07 2012-03-22 Jvc Kenwood Corp 利用者情報処理装置、利用者情報処理方法、及び利用者情報処理プログラム
JP2014052985A (ja) * 2012-09-10 2014-03-20 Ricoh Co Ltd レポート作成システム、自然言語処理装置、レポート作成装置及びプログラム
KR20160033563A (ko) * 2014-09-18 2016-03-28 경북대학교 산학협력단 데이터베이스 구축 방법, 이를 수행하기 위한 기록매체
JP2018063596A (ja) * 2016-10-13 2018-04-19 富士通株式会社 文書比較プログラム、文書比較方法、及び文書比較装置

Similar Documents

Publication Publication Date Title
JPH0765035A (ja) 構造化文書検索装置
JPH1153381A (ja) 類似文書検索装置および類似文書検索方法
CN114297143A (zh) 一种搜索文件的方法、显示文件的方法、装置及移动终端
EP0120977B1 (en) Card image data processing system
JPH08314966A (ja) 文書検索装置のインデックス作成方法及び文書検索装置
JP2000112968A (ja) 情報検索支援装置および情報検索支援プログラム記憶媒体
JPS617936A (ja) 情報検索方式
US20090094218A1 (en) Method and system for improving performance of counting hits in a search
JPH02108157A (ja) 情報検索方法
CN121328749B (zh) 数据推理方法、装置、设备及计算介质
JPH10105561A (ja) 検索条件生成装置、検索条件生成方法、文書検索装置及び文書検索用媒体
JPH03266066A (ja) 属性付き文字列置換装置
CN118981306B (zh) 代码接口规范生成方法和装置
JP2975529B2 (ja) 電子化辞書検索装置
JPH0778803B2 (ja) 画像データベース検索方法
JPS59216273A (ja) 情報検索装置
JPH07121549A (ja) 文書検索装置
JP2739589B2 (ja) 情報検索装置
JPH07105223A (ja) データベース検索装置
JPS60256853A (ja) データ検索装置および方法
JPH02113368A (ja) 情報検索方法
JP2601139B2 (ja) 文字列検索装置
JP2838972B2 (ja) 自動索引作成装置
JPH07121548A (ja) 情報管理装置
JP2002099566A (ja) 情報検索方法および情報検索装置

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20041005