JPH05342255A - 自然言語の構文情報を利用した文書検索方法および文書検索システム - Google Patents

自然言語の構文情報を利用した文書検索方法および文書検索システム

Info

Publication number
JPH05342255A
JPH05342255A JP4177378A JP17737892A JPH05342255A JP H05342255 A JPH05342255 A JP H05342255A JP 4177378 A JP4177378 A JP 4177378A JP 17737892 A JP17737892 A JP 17737892A JP H05342255 A JPH05342255 A JP H05342255A
Authority
JP
Japan
Prior art keywords
word
search
document
target sentence
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP4177378A
Other languages
English (en)
Inventor
Hideyuki Maki
牧  秀行
Ikuo Matsuba
育雄 松葉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP4177378A priority Critical patent/JPH05342255A/ja
Publication of JPH05342255A publication Critical patent/JPH05342255A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

(57)【要約】 【目的】 自然言語によるフルテキストサーチにおい
て、異表記や類義語による検索漏れ及び指定文字列が偶
然そろうことによる検索雑音を減少させる。 【構成】 構文解析装置107は、検索条件文字列を構
文解析装置で解析し文字列内の構文情報(単語の出現確
度および単語間距離)を出力する。適合度計算装置10
8は、検索条件文字列内の構文情報を基に結合重みファ
イル106内の結合重みを用いて検索条件文字列単語間
近接度を求め、文書データベース内の検索対象文の構文
情報を基に結合重みを用いて検索対象文単語間近接度を
求め、前記検索対象文単語間近接度と類義語辞書ファイ
ル105内の単語間の連想強度とを基に連想単語間近接
度を求め、前記検索条件文字列単語間近接度と連想単語
間近接度とを基に結合重みを用いて単語対適合度を求
め、求められた単語対ごとの単語対適合度を統合して検
索対象文の適合度を求める。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】自然言語の形で保存された文書デ
ータベースをフルテキストサーチし、目的の文書を検索
する文書検索方法およびシステムに関する。
【0002】
【従来の技術】テキストベースの文献検索方法に関して
は特開平2−253474、特開平3−20866、特
開平3−130873(いずれも日本電信電話
(株))、特開平3−148765(松下電器産業
(株))、特開平2−62668(日本電気(株))な
どがある。このうち、特開平3−148765は文の構
文情報を用いた文書検索方法である。また、特開平2−
62668は意味情報を含んだデータベースの検索方法
に関するものである。文書検索にニューラルネットワー
クを用いたものには特開平2−163876、特開平3
−122769、特開平3−122770(いずれも
(株)リコー)、特開平2−224068((株)東
芝)などがある。これらはいずれもキーワード検索に関
するものである。
【0003】
【発明が解決しようとする課題】フルテキストサーチに
よる文書検索においては文中に出現する文字列をいくつ
か指定して検索条件とし、指定された文字列が出現する
文を検索適合文として出力する方法が考えられる。この
場合、指定文字列中の単語と検索対象文中の単語との単
純な一致判定では、検索漏れや検索雑音が大きくなると
いう問題がある。例えば、「高い建物」についての文を
検索する際に『「高い」と「建物」の両方の文字列が出
現する文』を検索条件とすると、「高い建造物」という
文字列を含む文では適合文とならず、検索漏れとなる。
また、「高い山の麓に小さい建物ができた」という文字
列を含む文は「高い建物」についての文ではないにも関
わらず、「高い」と「建物」の両方の文字列を含んでい
るために適合文となり、これが検索雑音となる。かとい
って、『「高い建物」という文字列が出現する文』を検
索条件にすると、今度は「この建物は高い」のような文
が検索漏れとなる。本発明の目的は異表記や類義語によ
る検索漏れ及び指定文字列が偶然そろうことによる検索
雑音を減少させることにある。
【0004】
【課題を解決するための手段】本発明の文書検索方法
は、入力された検索条件文字列の構文情報である検索条
件文字列内の単語の出現確度および単語間距離を基に検
索条件文字列単語間近接度を求める過程と、文書データ
ベース内の検索対象文の構文情報である検索対象文内の
単語の出現確度および単語間距離を基に検索対象文単語
間近接度を求める過程と、該検索対象文単語間近接度と
単語間の連想強度とを基に連想単語間近接度を求める過
程と、前記検索条件文字列単語間近接度と連想単語間近
接度とを基に単語対適合度を求める過程と、求められた
単語対ごとの単語対適合度を統合して検索対象文の適合
度を求める過程を備えている。
【0005】また、本発明の文書検索システムは、自然
言語の形で保存され、データベース内の全文を検索対象
文とする文書データベースと、検索条件入出力装置と、
構文解析装置と、適合度計算装置と、類義語辞書ファイ
ルと、結合重みファイルと、出力装置を備えている。前
記構文解析装置は、入力された検索条件文字列を解析し
て構文情報である検索条件文字列内の単語の出現確度お
よび単語間距離を出力する手段を備えている。前記適合
度計算装置は、前記文書検索方法における各過程の処理
を行なう手段を夫々備えている。そして、前記出力装置
は、検索対象文の適合度を出力する。また、前記各手段
のうちの少なくとも2つの手段にニューラルネットワー
クを適用する。さらに、教師値入力装置を設け、教師値
に基づきニューラルネットワークに学習をさせる。
【0006】
【作用】構文情報として、検索条件文字列については検
索条件文字列内の単語の出現確度および単語間距離を用
い、検索対象文については検索対象文内の単語の出現確
度および単語間距離を用い、さらに、単語から別の単語
がどの程度の確からしさで連想されるかを示す単語間の
連想強度を用いて、適合する検索対象文を検索している
ため、検索において、異表記や類義語による検索漏れ及
び指定文字列が偶然そろうことによる検索雑音を減少さ
せることができる。また、ニューラルネットワークを用
いることにより、学習を行なうことができ、使用者の要
求にマッチした検索を行なうことができる。
【0007】
【実施例】本発明の一実施例を説明する。図1にその構
成を示す。文書データベース104には検索対象文がそ
の構文情報とともに保持されている。図2は検索対象文
の例である。10個の文はいずれも「建物」に関する文
であるが文番号6から文番号10は特に「高い建物」に
関する文である。適合度計算手段108が扱う単語の集
合をWORD、その要素数をNとする。ここでは簡単の
ため適合度計算手段108で扱う単語を次の4つに限定
している。したがってN=4である。
【0008】
【数1】WORD={wordi|i=1,…N} ={建物,ビル,家,高い} ただし word1=「建物」 word2=「ビル」 word3=「家」 word4=「高い」文書データベース104に保持される
構文情報は各検索対象文についての単語の出現確度Ate
xtiと単語間距離Dtextijである。WORDの要素の単
語のうち検索対象文に出現する単語の集合をTEXTと
する。例えば、図2の文番号1の場合
【0009】
【数2】TEXT={建物,高い} となる。また、文番号6の場合は
【0010】
【数3】TEXT={家,高い} となる。Dtextijは次のように定義される。
【0011】
【数4】
【0012】ここで、wordiとwordjの構文上の相対距離
は次のように求められる。図3は構文解析結果として得
られる構文木の例である。例えば、図3の文番号1に出
現する単語「高い」と「建物」について、構文木上で単
語「高い」を表す節から単語「建物」を表す節まで最短
経路で至るには4つの枝を通過しなければならない。こ
れを、「高い」と「建物」の間の構文上の絶対距離が4
であるということにする。このように、まず単語間の構
文上の絶対距離を求める。次に構文上の絶対距離の最大
値を求める。図3の文番号1の場合は「その」と「高
い」の間の絶対距離が5で最も大きく、これが構文上の
絶対距離の最大値となる。そこで、各単語間の構文上の
絶対距離をこの絶対距離の最大値で割って正規化する。
この正規化された距離を構文上の相対距離とする。「高
い」と「建物」の間の構文上の相対距離は4/5=0.
8となる。この構文上の相対距離を構文情報として使用
する。図3、文番号6の「高い」と「家」の場合は、構
文上の絶対距離は1、絶対距離の最大値は「向い」と
「日当たり」あるいは「悪く」の間の4であるので、
「高い」と「家」の間の構文上の相対距離は1/4=
0.25となる。Atextiは次のように定義される。
【0013】
【数5】
【0014】図4は文書データベース104に保持され
る構文情報の例である。Dtext中の「*」はその欄に該
当するDtextが定義されないことを表す。また、構文上
の相対距離の求め方からあきらかにDtextij=Dtextji
なので、図の左下の部分は必要なく、空欄とした。
【0015】類義語辞書ファイル105にはWORDの
要素中のある単語から別の単語がどの程度の確からしさ
で連想されるかという情報が保持されている。この確か
らしさのことを連想強度と呼ぶことにする。図5は類義
語辞書ファイル105に保持される連想強度の例であ
る。例えば、「建物」から「家」への連想強度は「建
物」の行、「家」の列に記されている値で、0.9とな
っている。一般に単語iから単語jを連想する連想強度
と単語jから単語iを連想する連想強度は等しくない。
連想強度が1のときは全くの同義語、連想強度が0のと
きは意味が違うことを意味する。「建物」から「家」へ
の連想強度が0.9ということは検索対象文中の単語
「建物」を確からしさ0.9で単語「家」に置き換えて
もよいと解釈することもできる。類義語連想手段109
はこの連想強度を用いて類義語連想を行う。結合重みフ
ァイル106には適合度計算手段108を構成するニュ
ーラルネットワークの結合重みが保持されている。
【0016】使用者は検索条件入出力手段101に検索
すべき文字列を入力する。入力された文字列は構文解析
手段107で構文解析され、文書データベース104に
保持されているのと同様の構文情報が得られる。なお、
適合度計算手段108は集合WORDの要素である単語
のみを扱うが、構文解析手段107はこれとは無関係に
あらゆる単語を扱えるものとする。得られた構文情報は
確認のため検索条件入出力手段101によって使用者に
表示される。使用者は必要に応じて構文情報を修正する
ことができる。図6は検索条件文字列とその構文解析結
果、構文情報の例である。適合度計算手段108で扱う
単語のうち検索条件文字列に出現する単語の集合をKE
Yとする。例えば、図6に示した検索条件文字列の場合
【0017】
【数6】KEY={建物,高い} となる。検索条件文字列についての構文情報は検索対象
文と同様、単語の出現確度Akeyiと単語間距離Dkeyij
である。Dkeyijは次のように定義される。
【0018】
【数7】
【0019】検索対象文の場合は単語間距離には構文上
の相対距離を用いたが、検索条件文字列の場合は構文上
の絶対距離を用いた。Akeyiは次のように定義される。
【0020】
【数8】
【0021】確認の終わった構文情報Akeyi、Dkeyij
は検索条件入出力手段101から適合度計算手段108
へ送られる。検索対象文の構文情報は文書データベース
104から一文ずつ読み出され、検索条件文字列の構文
情報とともに適合度計算手段108へ入力される。適合
度計算手段108では検索対象文の構文情報を検索条件
文字列の構文情報と比較し、その検索対象文の適合度を
計算する。適合度計算手段108で計算された検索対象
文の適合度は出力手段103へ送られる。使用者は出力
手段103に対して出力様式を指定することができ、出
力手段103はこの出力様式にしたがって適合度計算手
段108からの結果を使用者へ出力する。使用者が指定
する出力様式には例えば、すべての検索対象文について
その適合度を表示させたり、適合度がある閾値を越える
検索対象文だけを表示させるなどが考えられる。また、
ユーザは出力された適合度に不満足の場合、教師値入力
手段102を用いて望ましい適合度を教師値として適合
度計算部108に提示することができる。適合度計算部
108は教師値を受け取ると、学習動作に入り、教師値
により近い適合度を出力するように内部の計算機構を修
正する。この修正される計算機構とは具体的には後述の
ニューラルネットワークの結合重みである。修正された
結合重みは類義語辞書ファイル105、結合重みファイ
ル106に格納され、その後の適合度計算の際に使用さ
れる。検索条件入出力手段101、教師値入力手段10
2、出力手段103は1台の入出力装置を兼用すること
もできる。
【0022】図7、図8は適合度計算手段108の内部
構成の一例である。連想単語間近接度計算部708が類
義語連想手段109にあたる。本実施例では検索条件文
字列単語間近接度変換部706、検索対象文単語間近接
度変換部707、単語対適合度計算部805をそれぞれ
多層型ニューラルネットワークで、連想単語間近接度計
算部708をリカレント型ニューラルネットワークで構
成している。一般にニューラルネットワークは多入力一
出力の比較的簡単な計算ユニットを結合重みを介して多
数結合してなる計算装置である。計算ユニットの入出力
特性は次式で表される。
【0023】
【数9】oi=f(neti) neti=a(wijj,θi) j=1,…,M ただしMはユニットiへ入力するユニ
ットの数 oi :計算ユニットiの出力値 wij:ユニットjの出力とユニットiの入力の間の結合
重み θi :ユニットiのバイアス a():入力関数 f():出力関数 多層型ニューラルネットワークは図23のように入力
層、いくつかの中間層、出力層が順に結合されてなるニ
ューラルネットワークである。多層型ニューラルネット
ワークにおいては通常、信号は各層間を入力層側から出
力層側へ伝達され、出力層側から入力層側へ逆には伝達
されない。また、通常、同一層内の計算ユニット同士の
間には結合がない。したがって、計算ユニット間結合に
ループが存在せず、計算ユニット間の信号の伝達が入力
側の計算ユニットから出力側の計算ユニットへの一方向
のみである。このようなニューラルネットワークを特に
フィードフォワード型ニューラルネットワークと呼ぶこ
とがある。多層型ニューラルネットワークでは計算ユニ
ットの入・出力関数として次のような総和、及びシグモ
イド関数がよく用いられる。
【0024】
【数10】
【0025】ニューラルネットワークに求める計算をさ
せるためには結合重み、及びバイアスの値を決定しなけ
ればならない。これは一般に簡単には決定できないが、
ニューラルネットワークには、使用者が明示的に与えず
とも、これらの値を自動的に調節できるという特徴があ
る。これをニューラルネットワークの学習という。多層
型ニューラルネットワーク向けの学習アルゴリズムとし
て誤差逆伝播法がよく知られている。誤差逆伝播法は教
師付き学習法で、ニューラルネットワークへの入力値
と、その入力値に対してニューラルネットワークが出力
すべき出力値の組を教師値として提示すると、教師出力
値とニューラルネットワークの出力値との誤差が減少す
るようにニューラルネットワークの結合重み、及びバイ
アスを変更する。結合重みwijの変更量Δwij、及びバ
イアスθiの変更量Δθiは次式で与えられる。
【0026】
【数11】Δwij=−ηδij Δθi =−ηδi ただし、ηは学習定数と呼ばれる正の定数、ojはユニ
ットjの出力である。δiはユニットiの誤差で、次式
で与えられる。
【0027】
【数12】
【0028】ここで、tiはユニットiに対する教師出
力値、f'()は出力関数f()の導関数である。数12の
下側の式において、ユニットjはユニットiの出力値を
入力として受け取る計算ユニットである。誤差逆伝播法
は繰返し計算に基づく最急降下法なので、入力値とそれ
に対する教師出力値をニューラルネットワークに提示し
ては数11、数12にしたがって結合重みを変更すると
いう操作を繰り返し、学習を行う。多層型ニューラルネ
ットワークに対し、リカレント型ニューラルネットワー
クは計算ユニット間結合にループが存在するニューラル
ネットワークである。
【0029】適合度計算手段108は適合度計算機能
と、学習機能を持つ。図7、図8を基に、初めに適合度
計算機能について述べ、その後で学習機能について述べ
る。検索条件文字列の構文情報704と1つの検索対象
文の構文情報705は適合度計算手段108の内部でそ
れぞれ検索条件文字列単語間近接度変換部706、検索
対象文単語間近接度変換部707に入力される。検索条
件文字列単語間近接度変換部706、検索対象文単語間
近接度変換部707はどちらも図9に示すような1個の
入力ユニット、1個の出力ユニットと任意の数の中間ユ
ニットを持つ多層型ニューラルネットワークで構成さ
れ、その結合重み701、702は結合重みファイル1
06から読み込まれる。本実施例中の多層型ニューラル
ネットワークで使用する計算ユニットの入出力関数は前
記の数10に示すシグモイド関数である。
【0030】図10は多層型ニューラルネットワークの
動作を示すPAD図である。以下に、該PAD図の説明
をする。 1001:iが1からN1までのそれぞれの場合につい
て1002の処理を行い、その後、1003へ行く。 1002:ネットワークの入力値Iiを第1層ユニット
iの出力値oi1に代入する。 1003:kが2からLまでのそれぞれの場合について
1004の処理を行い、その後、1009へ行く。 1004:iが1からNkまでのそれぞれの場合につい
て1005から1008の処理を行う。 1005:バイアスθikを変数netに代入する。 1006:jが1からNk-1までのそれぞれの場合につ
いて1007の処理を行い、その後、1008へ行く。 1007:netにwijk・ojk-1を加える。 1008:f(net)をoikに代入する。 1009:iが1からNLまでのそれぞれの場合につい
て1010の処理を行う。 1010:oiLをネットワークの出力値Oiに代入す
る。ここで、 L :層数 Nk :第k層のユニット数 oik :第k層ユニットiの出力 θik :第k層ユニットiのバイアス wijk :第k−1層ユニットjから第k層ユニットiへ
の結合重み f(net):ユニットの入出力関数 Ii :入力ユニットiへの入力 Oi :出力ユニットiの出力 である。
【0031】検索条件文字列単語間近接度変換部706
及び検索対象文単語間近接度変換部707ではそれぞれ
Dkeyij、Dtextijを多層型ニューラルネットワークの
入力値I1として入力し、出力値O1をCkeyij、Ctext
ijとする。図11は検索条件文字列単語間近接度変換部
706及び検索対象文単語間近接度変換部707で行う
処理を表すPAD図である。以下に、該PAD図の説明
をする。 1101:iが1からN−1まで、jがi+1からNま
でのそれぞれの場合について1102と1106の処理
を行う。 1102:wordi∈KEYかつwordj∈KEYならば11
03から1105の処理を行う。そうでなければ110
6へ行く。 1103:Dkeyijを検索条件文字列単語間近接度変換
部706を構成するニューラルネットワークの入力値I
1に代入する。 1104:図10により、多層型ニューラルネットワー
クの計算を行う。 1105:ニューラルネットワークの出力値o1をCkey
ijに代入する。 1106:wordi∈TEXTかつwordj∈TEXTならば
1107から1109の処理を行う。 1107:Dtextijを検索対象文単語間近接度変換部7
07を構成するニューラルネットワークの入力値I1
代入する。 1108:図10により、多層型ニューラルネットワー
クの計算を行う。 1109:ニューラルネットワークの出力値o1をCtex
tijに代入する。 ここで、 I1:図10のIi1:図10のoi であり、 wordiは(数1) KEYは(数6) TEXTは(数2)、(数3) をそれぞれ参照。Ckeyijを検索条件文字列単語間近接
度、Ctextijを検索対象文単語間近接度と呼ぶことにす
る。図12に検索条件文字列単語間近接度変換部706
の出力の例、図13に検索対象文単語間近接度変換部7
07の出力の例を示す。図4、図6のDkeyij、Dtext
ijのかわりにCkeyij、Ctextijが出力されている。wor
diとwordjの構文上の距離が大きいほどDkeyij、Dtext
ijの値は大きく、Ckeyij、Ctextijの値は小さくな
る。
【0032】Ctextijは次に連想単語間近接度計算部7
08に入力される。連想単語間近接度計算部708は図
14に示すようなリカレント型ニューラルネットワーク
で構成されている。このニューラルネットワークはN個
のユニットを持ち、それぞれのユニットがWORDの要
素である単語1つに対応している。そして、連想強度7
03をその結合重みとしている。連想強度703は類義
語辞書ファイル105から読み込まれる。図14に示す
ように全てのユニットの出力は他の全てのユニットの入
力に結合しており、一般に結合重みは対称ではない。す
なわち、wij≠wjiである。また、全てのユニットは場
合により入力ユニットにも、出力ユニットにもなる。こ
こで使用する計算ユニットの入出力関数は次式に示す最
大値関数である。
【0033】
【数13】a(wijj,θi)=maxj(wijj) f(neti)=neti 本実施例では、外部からリカレント型ニューラルネット
ワ−クへの入力値を〔0,1〕の範囲に制限する。ま
た、ユニット間の結合重みも同様に〔0,1〕に制限さ
れている。したがって、全てのユニットの出力値は
〔0,1〕の範囲内にあることが保証される。ユニット
間の結合重みが〔0,1〕に制限されていることと、ユ
ニットの入出力関数が最大値関数であることにより、リ
カレント型ネットワークではあるが、信号の伝達経路に
はループが存在せず、後で述べる誤差逆伝播学習法が可
能となる。このリカレント型ニューラルネットワ−クの
動作を表すPAD図を図15に示す。以下に、該PAD
図の説明をする。 1501:iが1からNまでのそれぞれの場合について
1502の処理を行い、その後、1503へ行く。 1502:計算ユニットの出力値oiに0を代入する。 1503:入力ユニットIの出力値oIにAIを代入す
る。また、変数srcIにIを代入する。 1504:変数MXCHGの値が0になるまで1505の処
理を繰り返す。 1505:iが1からNまで(ただし、Iを除く)のそ
れぞれの場合について1506から1514の処理を行
う。 1506:srciに0を代入する。 1507:変数MXINに0を代入する。 1508:jが1からNまで(ただし、iは除く)のそ
れぞれの場合について1509から1510の処理を行
い、その後、1513へ行く。 1509:変数INにwij・ojを代入する。 1510:MXIN<INならば1511と1512の処理を
行う。 1511:MXINにINの値を代入する。 1512:srciにjを代入する。 1513:変数CHGに|oi−IN|を代入する。 1514:MXCHG<CHGならば1515の処理を行う。 1515:MXCHGにCHGの値を代入し、1504へ行く。 ここで、 N :ユニット数 I :入力ユニットにするユニットの番号 AI :入力値 oi :ユニットiの出力値 wij:ユニットjからユニットiへの結合重み srci:ユニットiへの最大入力値を出力したユニットの
番号 である。連想単語間近接度計算部708では連想単語間
近接度ACtextijを計算する。ACtextijを計算するた
めにはまず連想単語出現確度AAiを計算する。AAi
次式で定義される。
【0034】
【数14】
【0035】ここで、ASCijはwordiがwordjからどの
程度の確からしさで連想されるかを表すもので、ユニッ
トjを入力ユニットとしてリカレント型ネットワークを
動作させたときのユニットiの出力値をASCijとす
る。ACtextijはAAiを用いて次のように定義され
る。
【0036】
【数15】ACtextij=Ctextmn・AAi・AAj ただし、m=MAXi,n=MAXj ここで、MAXiは次式で与えられる。
【0037】
【数16】
【0038】連想単語間近接度計算部708はこのAC
textijを出力する。図16は連想単語間近接度計算部7
08の処理を表すPAD図である。以下に、該PAD図
の説明をする。 1601:iが1からNまでのそれぞれの場合について
1602の処理を行い、その後、1609へ行く。 1602:wordi∈TEXTならば1603から160
5の処理を行い、そうでなければ1607の処理を行
う。 1603:変数Iにiを代入する。また、変数AiにAt
extiを代入する。 1604:図15により、リカレント型ニューラルネッ
トワークの計算を行う。 1605:jが1からNまでのそれぞれの場合について
1606の処理を行う。 1606:変数ASCjiにニューラルネットワークの出
力値ojを代入する。 1607:jが1からNまでのそれぞれの場合について
1608の処理を行う。 1608:変数ASCjiに0を代入する。 1609:iが1からNまでのそれぞれの場合について
1610の処理を行い、その後、1613へ行く。 1610:ASCikのkについての最大値がASCij
らば1611、1612の処理を行う。 1611:変数AAiにASCijの値を代入する。 1612:変数MAXiにjを代入する。 1613:iが1からN−1まで、jがi+1からNま
でのそれぞれの場合について1614と1615の処理
を行う。 1614:変数mにMAXiの値を、変数nにMAXjの値をそ
れぞれ代入する。 1615:Ctextmn・AAi・AAjの値をCtextijに代
入する。 ここで、 I :図15のI Ai:図15のAii:図15のoi である。図17は連想単語間近接度計算部708の出力
の例である。図13のAtextiのかわりにAAiが計算さ
れ、CtextijのかわりにACtextijが出力される。な
お、AAiは今後の処理には使用しないので出力しなく
てもよい。
【0039】検索条件文字列単語間近接度変換部706
の出力と連想単語間近接度計算部708の出力は単語対
選択部804に入力される。単語対選択部804は検索
条件文字列単語間近接度変換部706の出力であるAke
yiを参照し、Akeyi=1かつAkeyj=1かつi≠jであ
る単語対を検索し、その単語対についてのCkeyijとA
Ctextijを単語対適合度計算部805に入力する。単語
対適合度計算部805は図18に示すような2個の入力
ユニット、1個の出力ユニットと任意の数の中間ユニッ
トを持つ多層型ニューラルネットワークで構成され、そ
の結合重み801は結合重みファイル106から読み込
まれる。単語対適合度計算部805はニューラルネット
ワークの2個の入力ユニットに入力値I1、I2としてそ
れぞれCkeyijとACtextijを入力し、出力ユニットの
出力値O1をSijとする。Sijを単語対適合度と呼ぶこ
とにする。単語対適合度計算部805はAkeyi=1かつ
Akeyj=1かつi≠jを満たす単語対すべてについてS
ijを計算し、適合度統合部806に入力する。適合度統
合部806は入力された単語対ごとの適合度を統合し、
検索対象文の適合度SCRを計算する。SCRは次式で
与えられる。
【0040】
【数17】SCR=Fscr(Sij) ただし、i,jはAkeyi=1かつAkeyj=1かつi≠j
を満たすi,jここで、Fscrは任意の関数を用いてよ
いが、本実施例では最小値関数を用いた。すなわち、
【0041】
【数18】Fscr(Sij)=mini,j(Sij) である。以降の説明ではFscrに最小値関数を用いてい
るものとする。適合度統合部806はSCRを適合度8
02として出力する。図19は単語対選択部804、単
語対適合度計算部805、適合度統合部806の処理を
表すPAD図である。以下に、該PAD図の説明をす
る。 1901:iが1からN−1まで、jがi+1からNま
でのそれぞれの場合について1902の処理を行い、そ
の後、1906へ行く。 1902:wordi∈KEYかつwordj∈KEYならば19
03から1905の処理を行う。 1903:ニューラルネットワークの入力値I1にCkey
ij、I2にACtextijの値を代入する。 1904:図10によって、ニューラルネットワークの
計算を行う。 1905:変数Sijにニューラルネットワークの出力値
1を代入する。
【0042】1906:Fscr(Sij)をSCRに代入す
る。 ここで、 Ii:図10のIii:図10のOi である。図20は出力された適合度の例である。適合度
は〔0,1〕の範囲の実数で表される。図20では、文
番号1の文は適合度が0.10と小さく、検索条件に合
っていないことがわかる。文番号6の文は適合度0.6
5で、検索条件に比較的合っている。
【0043】次に、学習方法について述べる。使用者は
例えば、図20の文番号6の適合度0.65が不満足の
場合、教師値入力手段102を用いて望ましい適合度、
例えば1.0を教師値として適合度計算手段108に提
示する。適合度計算手段108の内部では教師値は適合
度統合部806に入力される。学習は、適合度統合部8
06が出力する適合度802と教師値803との出力誤
差を出力側から入力側へ伝達する誤差逆伝播法を用い
る。図7、図8で破線で示したのが学習時の誤差の流れ
である。適合度統合部806の出力誤差は次式で与えら
れる。
【0044】
【数19】E=(T−SCR)2/2 E :出力誤差 T :教師値 SCR:適合度統合部806の出力 学習は検索条件文字列単語間近接度変換部706、検索
対象文単語間近接度変換部707、単語対適合度計算部
805、連想単語間近接度計算部708を構成するニュ
ーラルネットワークの結合重みおよび計算ユニットの持
つバイアスを変更することによって行われる。結合重み
およびバイアスの変更量の計算にはニューラルネットワ
ークの各ユニットの出力値が必要となるので、適合度計
算時の各ユニットの出力値を学習時に参照できるように
なんらかの方法によって保存しておく。誤差はまず適合
度統合部806から単語対適合度計算部805へ伝播さ
れる。単語対適合度計算部805が受け取る誤差は次式
で与えられる。
【0045】
【数20】errSij=∂E/∂Sij =−(T−SCR)・∂SCR/∂Sij errSijは単語対wordi,wordjについての単語対適合度
ijの誤差である。数18と数20から、次式が導かれ
る。
【0046】
【数21】
【0047】したがって、最小の適合度を出力した単語
対についてのみ誤差が単語対適合度計算部805へ伝播
され、以後この単語対の単語対適合度について学習が行
われる。この単語対のことを学習単語対と呼ぶことにす
る。また、学習単語対をなす2つの単語をwordA、wordB
と表すことにする。単語対適合度計算部805の学習に
は多層型ニューラルネットワークで通常用いられる誤差
逆伝播法を用いる。結合重みの変化量は次式で与えられ
る。
【0048】
【数22】Δwijk=−ηδikjk-1ijk :第k−1層ユニットjから第k層ユニットi
への結合重み Δwijk:結合重みwijkの変化量 η :学習定数 δik :第k層のユニットiの誤差 ojk-1 :第k−1層ユニットjの出力 ここで、誤差δikは次式で与えられる。
【0049】
【数23】
【0050】なお、入力層を第1層とし、出力に近いほ
ど層番号が大きくなるものとする。図21はこの処理を
表すPAD図である。以下に、該PAD図の説明をす
る。 2101:iが1からNLまでのそれぞれの場合につい
て2102の処理を行い、その後、2103へ行く。 2102:erri・oiL・(1−oiL)をδiLに代入する。 2103:kがL−1から1までのそれぞれの場合につ
いて2104の処理を行い、その後、2109へ行く。 2104:iが1からNkまでのそれぞれの場合につい
て2105から2108の処理を行う。 2105:δikに0を代入する。 2106:jが1からNk+1までのそれぞれの場合につ
いて2107の処理を行い、その後、2108へ行く。 2107:δikにwjik+1・δjk+1を加える。 2108:δik・oik・(1−oik)の値をδikに代入す
る。 2109:kが2からLまでのそれぞれの場合について
2110の処理を行う。 2110:iが1からNkのそれぞれの場合について2
111と2113の処理を行う。 2111:jが1からNk-1までのそれぞれの場合につ
いて2112の処理を行い、その後、2113へ行く。 2112:Δwijkにηδikjk-1の値を代入する。 2113:Δθikにηδikの値を代入する。 ここで、 L :全層数 NL :第L層にあるユニットの総数 Nk :第k層にあるユニットの総数 oiL :第L層内にあるi番目のユニットの出力値 oik :第k層内にあるi番目のユニットの出力値 δik :第k層ユニットiの誤差 Δwijk:結合重みwijkの変更量 Δθik :バイアスθikの変更量 erri :出力ユニットiの出力誤差 である。
【0051】変更された結合重みは結合重みファイル1
06に保存される。単語対適合度計算部805を構成す
るニューラルネットワークの入力ユニットまで逆伝播さ
れてきた誤差は単語対選択部804を介し、検索条件文
字列単語間近接度変換部706と連想単語間近接度計算
部708へ伝播される。誤差の関係を次式で示す。
【0052】
【数24】 errCkeyAB=δ1,1(AB) errACtextAB=δ2,1(AB) errCkeyAB :検索条件文字列単語間近接度変換部7
06におけるCkeyABの誤差 errACtextAB:連想単語間近接度計算部708におけ
るACtextABの誤差 δ1,1(AB) :誤差errSABを逆伝播させた結果の入力
ユニット1の誤差 δ2,1(AB) :誤差errSABを逆伝播させた結果の入力
ユニット2の誤差 A、Bは学習単語対をなす2単語の単語番号である。な
お、ここでは単語対適合度計算部805を構成するニュ
ーラルネットワークの2つの入力ユニットのうち検索条
件文字列単語間近接度を入力する方をユニット1、連想
単語間近接度を入力する方をユニット2と呼んでいる。
連想単語近接度計算部708では伝達されてきた誤差er
rACtextABを小さくするように学習単語対をなす2つ
の単語の連想に関するリカレント型ニューラルネットワ
ークの結合重みを変更する。連想単語近接度計算部70
8の出力ACtextABは数15により求められる。そこ
で、数15の右辺の3つの因数についての誤差を次のよ
うに求める。
【0053】
【数25】 errCtextkl=errACtextAB・∂ACtextAB/∂Ctextkl =errACtextAB・AAA・AAB ただし、k=MAXA,l=MAXB ここで、MAXA、MAXBは数16で定義される。
【0054】
【数26】 errAAA=errACtextAB・∂ACtextAB/∂AAA =errACtextAB・Ctextkl・AAB
【0055】
【数27】 errAAB=errACtextAB・∂ACtextAB/∂AAB =errACtextAB・Ctextkl・AAA errCtextklはCtextklの誤差、errAAAはAAAの誤
差、errAABはAABの誤差である。AAA、AABは数
14で求められるので、次の誤差が求められる。
【0056】
【数28】
【0057】
【数29】
【0058】errASCAj、errASCBjはそれぞれAS
Aj、ASCBjの誤差である。ASCAj、ASCBjは連
想単語間近接度計算部708を構成するリカレント型ニ
ューラルネットワークの出力なので、errASCAj、err
ASCBjがリカレント型ニューラルネットワークの出力
ユニットの誤差となる。ASCAjを計算するときはユニ
ットjが入力ユニット、ユニットAが出力ユニットとな
る。同様に、ASCBjを計算するときにはユニットjが
入力ユニット、ユニットBが出力ユニットとなる。
【0059】リカレント型ネットワークは一般には信号
の伝達経路にループがあるため単純な誤差逆伝播は行え
ないが、本実施例で用いるリカレント型ネットワークは
計算ユニットの入出力関数が最大値関数であることと、
ユニット間の結合重みが〔0,1〕に制限されているた
め、信号の伝達経路にループが存在せず、多層型ネット
ワークと同様に出力から入力への誤差逆伝播ができる。
出力ユニットでないユニットの誤差δiは次の手順で計
算される。 ただし、Oは出力ユニットのユニット番号、errは出力
誤差、srciは図15で定義されるユニットiへの最大入
力値を出力したユニットの番号である。このとき−1≦
δi≦1である。結合重みの変化量は次式で与えられる
【0060】
【数30】
【0061】数30中のdiは次式で計算される。
【0062】
【数31】
【0063】数30、数31によれば結合重みが〔0,
1〕となることが保証される。連想単語近接度計算部7
08では以上の結合重み変化量をASCAj、ASCBj
計算についてそれぞれ求め、その平均を最終的な変化量
とする。
【0064】図22にリカレント型ニューラルネットワ
ークの学習法を表すPAD図を示す。以下に、該PAD
図の説明をする。 2201:iが1からNまでのそれぞれの場合について
2202の処理を行い、その後、2203へ行く。 2202:δiに0を代入する。 2203:変数sに出力ユニット番号Oを代入する。 2204:δsに出力誤差errを代入する。 2205:変数aにsrcsを代入する。 2206:a=sになるまで2207から2216の処
理を繰り返す。 2207:δaにδssaを代入する。 2208:変数dにηδaを代入する。 2209:d<−1ならば2210の処理を行い、その
後、2212へ行く。d>1ならば2211の処理を行
い、その後、2212へ行く。 2210:dに−1を代入する。 2211:dに1を代入する。 2212:d>0ならば2213の処理を行い、その
後、2215へ行く。そうでなければ、2214の処理
を行い、その後、2215へ行く。 2213:(1−wsa)・d・oaの値をΔwsaに代入す
る。 2214:wsa・d・oaの値をΔwsaに代入する。 2215:sにaの値を代入する。 2216:aにsrcsを代入し、2206へ行く。 ここで、 Δwsa:結合重みwsaの変更量 O :出力ユニットに指定されたユニットの番号 err :出力ユニットの出力誤差 N :ユニット数 δi :ユニットiの誤差 srci :(図15)で定義される である。
【0065】変更された結合重みは連想強度として類義
語辞書ファイル105に書き出される。連想単語間近接
度計算部708は数24で求めた誤差errCtextklを検
索対象文単語間近接度変換部707へ伝播する。検索条
件文字列単語間近接度変換部706の出力ユニットが受
け取る誤差は数24で求めたerrCkeyABだが、検索対象
文単語間近接度変換部707の出力ユニットが受け取る
誤差は数25で求めたerrCtextklである。したがっ
て、検索条件文字列単語間近接度変換部706では学習
単語対wordA、wordBについて学習を行う。検索対象文単
語間近接度変換部707では単語対wordk、wordlについ
て学習を行う。検索条件文字列単語間近接度変換部70
6と検索対象文単語間近接度変換部707は多層型ネッ
トワークなので、図21に示した誤差逆伝播法で学習を
行う。変更された結合重みは結合重みファイル106に
書き出される。
【0066】本実施例で用いたニューラルネットワーク
の学習法は繰返し計算に基づく再急降下法である。した
がって、図21、図22に示した結合重み変更処理を何
度も繰り返して行う必要がある。また、学習を行うべき
検索対象文が複数ある場合はそれぞれの検索対象文につ
いて図21、図22の処理を何度も繰り返す。このよう
に、適合度統合部806に教師値803を入力すると、
単語対適合度計算部805、連想単語間近接度計算部7
08、検索条件文字列単語間近接度変換部706、検索
対象文単語間近接度変換部707の4つのニューラルネ
ットワークの学習を一貫して行うことが出来る。また、
それぞれのニューラルネットワークの学習定数ηを別々
に設定することによって、4つのニューラルネットワー
クの学習の割合を変えることが出来る。例えば、連想単
語間近接度計算部708だけ学習させたり、単語間近接
度変換部706、707を他より大きく学習させるなど
ができる。学習定数、学習繰返し回数等の、学習を制御
するパラメータの値は教師値入力手段102によって教
師値とともに使用者が指定できる。この学習機能によっ
て、望ましい適合度を提示すれば適合度計算手段108
が計算方法を獲得するので、適合度計算方法をあらかじ
め正確に決定する必要がない。
【0067】
【発明の効果】異表記や類義語による検索漏れを減少さ
せることができる。また、検索条件文字列を構成する単
語と検索対象文を構成する単語が偶然一致することによ
る検索雑音を減少させることができる。
【図面の簡単な説明】
【図1】本発明のブロック構成を示す図である。
【図2】実施例で用いた検索対象文の例を示す図であ
る。
【図3】構文解析して得られる構文木の例を示す図であ
る。
【図4】文書データベース104に保持される構文情報
の例を示す図である。
【図5】類義語辞書ファイル105に保持される連想強
度の例を示す図である。
【図6】検索条件文字列とその構文解析木、構文情報の
例を示す図である。
【図7】適合度計算手段108の内部構成を示す図であ
る。
【図8】図7に続く適合度計算手段108の内部構成を
示す図である。
【図9】単語間近接度変換部706、707を構成する
1入力1出力の多層型ニューラルネットワークを示す図
である。
【図10】多層型ニューラルネットワークの計算処理を
表すPAD図である。
【図11】単語間近接度変換部706、707の処理を
表すPAD図である。
【図12】検索条件文字列単語間近接度変換部706の
出力例を示す図である。
【図13】検索対象文単語間近接度変換部707の出力
例を示す図である。
【図14】連想単語間近接度計算部708を構成するリ
カレント型ニューラルネットワークを示す図である。
【図15】リカレント型ニューラルネットワークの計算
処理を表すPAD図である。
【図16】連想単語間近接度計算部708の処理を表す
PAD図である。
【図17】連想単語間近接度計算部708の出力例を示
す図である。
【図18】単語対適合度計算部805を構成する2入力
1出力の多層型ニューラルネットワークを示す図であ
る。
【図19】単語対選択部804、単語対適合度計算部8
05、適合度統合部806の処理を表すPAD図であ
る。
【図20】検索対象文の適合度の出力例を示す図であ
る。
【図21】多層型ニューラルネットワークの誤差逆伝播
学習法の処理を表すPAD図である。
【図22】リカレント型ニューラルネットワークの学習
法の処理を表すPAD図である。
【図23】多層型ニューラルネットワークを説明するた
めの図である。
【符号の説明】
101 検索条件入出力手段 102 教師値入力手段 103 出力手段 104 文書データベース 105 類義語辞書ファイル 106 結合重みファイル 107 構文解析手段 108 適合度計算手段 109 類義語連想手段 701 検索条件文字列単語間近接度変換部706を構
成する多層型ニューラルネットワークの結合重み 702 検索対象文単語間近接度変換部707を構成す
る多層型ニューラルネットワークの結合重み 703 類義語の連想強度 704 検索条件文字列の構文情報 705 検索対象文の構文情報 706 検索条件文字列単語間近接度変換部 707 検索対象文単語間近接度変換部 708 連想単語間近接度計算部 801 単語対適合度計算部805を構成する多層型ニ
ューラルネットワークの結合重み 802 適合度出力 803 教師値入力手段102から入力される教師値 804 単語対選択部 805 単語対適合度計算部 806 適合度統合部

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 自然言語の形で保存され、データベース
    内の全文を検索対象文とする文書データベースから、入
    力された検索条件文字列に適合する対象文を検索する文
    書検索方法において、 入力された検索条件文字列の構文情報である検索条件文
    字列内の単語の出現確度および単語間距離を基に検索条
    件文字列単語間近接度を求める過程と、 文書データベース内の検索対象文の構文情報である検索
    対象文内の単語の出現確度および単語間距離を基に検索
    対象文単語間近接度を求める過程と、 該検索対象文単語間近接度と単語間の連想強度とを基に
    連想単語間近接度を求める過程と、 前記検索条件文字列単語間近接度と連想単語間近接度と
    を基に単語対適合度を求める過程と、 求められた単語対ごとの単語対適合度を統合して検索対
    象文の適合度を求める過程を備えることを特徴とする文
    書検索方法。
  2. 【請求項2】 請求項1記載の文書検索方法において、
    求められた前記適合度が所定の閾値を越える検索対象文
    を出力する過程を備えることを特徴とする文書検索方
    法。
  3. 【請求項3】 請求項1記載の文書検索方法において、
    使用者の指定する出力様式により前記検索対象文の適合
    度を出力する過程を備えることを特徴とする文書検索方
    法。
  4. 【請求項4】 請求項1記載の文書検索方法において、
    前記文書データベースは自然言語文と共にその構文情報
    を保持していることを特徴とする文書検索方法。
  5. 【請求項5】 請求項1記載の文書検索方法において、
    前記連想単語間近接度を求める過程と前記単語対適合度
    を求める過程をニューラルネットワークにより行なうこ
    とを特徴とする文書検索方法。
  6. 【請求項6】 請求項5記載の文書検索方法において、
    使用者が入力する教師値に基づき、教師値により近い適
    合度を得るようにニューラルネットワークに学習させる
    過程を備えることを特徴とする文書検索方法。
  7. 【請求項7】 自然言語の形で保存され、データベース
    内の全文を検索対象文とする文書データベースと、検索
    条件入出力装置と、構文解析装置と、適合度計算装置
    と、類義語辞書ファイルと、結合重みファイルと、出力
    装置を備え、入力された検索条件文字列に適合する対象
    文を検索する文書検索システムであって、 前記構文解析装置は、入力された検索条件文字列を解析
    して構文情報である検索条件文字列内の単語の出現確度
    および単語間距離を出力する手段を備え、 前記適合度計算装置は、 前記検索条件文字列内の単語の出現確度および単語間距
    離を基に前記結合重みファイル内の結合重みを用いて検
    索条件文字列単語間近接度を求める手段と、 文書データベース内の検索対象文の構文情報である検索
    対象文内の単語の出現確度および単語間距離を基に前記
    結合重みファイル内の結合重みを用いて検索対象文単語
    間近接度を求める手段と、 前記検索対象文単語間近接度と前記類義語辞書ファイル
    内の単語間の連想強度とを基に連想単語間近接度を求め
    る手段と、 前記検索条件文字列単語間近接度と連想単語間近接度と
    を基に前記結合重みファイル内の結合重みを用いて単語
    対適合度を求める手段と、 求められた単語対ごとの単語対適合度を統合して検索対
    象文の適合度を求める手段とを備え、 前記出力装置により前記求められた検索対象文の適合度
    を出力することを特徴とする文書検索システム。
  8. 【請求項8】 請求項7記載の文書検索システムにおい
    て、前記適合度計算装置は求められた前記適合度が所定
    の閾値を越える検索対象文を出力する手段を備えること
    を特徴とする文書検索システム。
  9. 【請求項9】 請求項7記載の文書検索システムにおい
    て、前記適合度計算装置は使用者の指定する出力様式に
    より前記検索対象文の適合度を出力する手段を備えるこ
    とを特徴とする文書検索システム。
  10. 【請求項10】 請求項7記載の文書検索システムにお
    いて、前記文書データベースは自然言語文と共にその構
    文情報を保持していることを特徴とする文書検索システ
    ム。
  11. 【請求項11】 請求項7記載の文書検索システムにお
    いて、使用者が入力した検索条件文字列の構文解析結果
    から得られた構文情報を前記検索条件入出力装置により
    使用者が修正することができるようにしたことを特徴と
    する文書検索システム。
  12. 【請求項12】 請求項7記載の文書検索システムにお
    いて、前記連想単語間近接度を求める手段と前記単語対
    適合度を求める手段をニューラルネットワークにより構
    成したことを特徴とする文書検索システム。
  13. 【請求項13】 請求項7記載の文書検索システムにお
    いて、前記検索条件文字列単語間近接度を求める手段と
    前記検索対象文単語間近接度を求める手段と前記連想単
    語間近接度を求める手段と前記単語対適合度を求める手
    段をニューラルネットワークにより構成したことを特徴
    とする文書検索システム。
  14. 【請求項14】 請求項12または請求項13記載の文
    書検索システムにおいて、教師値入力装置を備え、該教
    師値入力装置から教師値を受けたニューラルネットワー
    クは該教師値に基づく学習により前記結合重みを変更し
    かつ前段のニューラルネットワークに伝達する誤差値を
    求めて前段に伝達し、前段のニューラルネットワークは
    伝達された誤差値に基づく学習により前記結合重みを変
    更しかつさらに前段のニューラルネットワークに伝達す
    る誤差値を求めてさらに前段に伝達することにより格段
    のニューラルネットワークが学習をして前記結合重みを
    変更することを特徴とする文書検索システム。
  15. 【請求項15】 請求項14記載の文書検索システムに
    おいて、前記教師値入力装置からは各ニューラルネット
    ワークの学習定数が入力され、各ニューラルネットワー
    クはそれぞれ異なる学習定数をとりうることを特徴とす
    る文書検索システム。
JP4177378A 1992-06-11 1992-06-11 自然言語の構文情報を利用した文書検索方法および文書検索システム Pending JPH05342255A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4177378A JPH05342255A (ja) 1992-06-11 1992-06-11 自然言語の構文情報を利用した文書検索方法および文書検索システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4177378A JPH05342255A (ja) 1992-06-11 1992-06-11 自然言語の構文情報を利用した文書検索方法および文書検索システム

Publications (1)

Publication Number Publication Date
JPH05342255A true JPH05342255A (ja) 1993-12-24

Family

ID=16029899

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4177378A Pending JPH05342255A (ja) 1992-06-11 1992-06-11 自然言語の構文情報を利用した文書検索方法および文書検索システム

Country Status (1)

Country Link
JP (1) JPH05342255A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10198691A (ja) * 1997-01-10 1998-07-31 Nec Corp 類似文書検索方法および類似文書検索装置
JP2000056977A (ja) * 1998-06-02 2000-02-25 Internatl Business Mach Corp <Ibm> テキスト情報を処理する方法および装置
JP2014052889A (ja) * 2012-09-07 2014-03-20 Yahoo Japan Corp 同義語推定装置、同義語推定方法および同義語推定プログラム
WO2020217140A1 (ja) * 2019-04-26 2020-10-29 株式会社半導体エネルギー研究所 文書検索システム、および文書検索方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10198691A (ja) * 1997-01-10 1998-07-31 Nec Corp 類似文書検索方法および類似文書検索装置
JP2000056977A (ja) * 1998-06-02 2000-02-25 Internatl Business Mach Corp <Ibm> テキスト情報を処理する方法および装置
US6871199B1 (en) 1998-06-02 2005-03-22 International Business Machines Corporation Processing of textual information and automated apprehension of information
JP2014052889A (ja) * 2012-09-07 2014-03-20 Yahoo Japan Corp 同義語推定装置、同義語推定方法および同義語推定プログラム
WO2020217140A1 (ja) * 2019-04-26 2020-10-29 株式会社半導体エネルギー研究所 文書検索システム、および文書検索方法
JPWO2020217140A1 (ja) * 2019-04-26 2020-10-29
US12099543B2 (en) 2019-04-26 2024-09-24 Semiconductor Energy Laboratory Co., Ltd. Document search system and document search method
JP2025131865A (ja) * 2019-04-26 2025-09-09 株式会社半導体エネルギー研究所 半導体装置

Similar Documents

Publication Publication Date Title
CN111708873B (zh) 智能问答方法、装置、计算机设备和存储介质
CN114429132B (zh) 一种基于混合格自注意力网络的命名实体识别方法和装置
CN110337645B (zh) 可适配的处理组件
US11997056B2 (en) Language model with external knowledge base
US20240303496A1 (en) Exploiting domain-specific language characteristics for language model pretraining
CN108628935B (zh) 一种基于端到端记忆网络的问答方法
US20030004716A1 (en) Method and apparatus for determining a measure of similarity between natural language sentences
CN109783806B (zh) 一种利用语义解析结构的文本匹配方法
CN117521814A (zh) 一种基于多模态输入和知识图谱的问答方法及装置
US11354599B1 (en) Methods and systems for generating a data structure using graphical models
CN113641822A (zh) 一种基于图神经网络的细粒度情感分类方法
US20240144049A1 (en) Computerized question answering based on evidence chains
CN120198235B (zh) 基于动态对话策略的投保智能决策核心系统
US20250200387A1 (en) Optimizing large language models with meta learning and chain of thought
CN112988970A (zh) 一种服务于智能问答系统的文本匹配算法
US20250307321A1 (en) Causal reasoning system
CN113254604A (zh) 一种基于参考规范的专业文本生成方法及装置
Korade et al. Elevating intelligent voice assistant chatbots with natural language processing, and OpenAI technologies
US11966428B2 (en) Resource-efficient sequence generation with dual-level contrastive learning
US8170967B2 (en) Knowledge base comprising executable stories
CN115640389B (zh) 基于潜在心理健康信号的检索式问答方法与系统
JPH05342255A (ja) 自然言語の構文情報を利用した文書検索方法および文書検索システム
CN116522894A (zh) 一种多阶段文本生成方法
CN111046181B (zh) 一种用于自动分类法归纳的行动者—评论家方法
US20250355833A1 (en) Responding to a user query using machine learning