JPS5990167A - 文章解析装置 - Google Patents

文章解析装置

Info

Publication number
JPS5990167A
JPS5990167A JP57199271A JP19927182A JPS5990167A JP S5990167 A JPS5990167 A JP S5990167A JP 57199271 A JP57199271 A JP 57199271A JP 19927182 A JP19927182 A JP 19927182A JP S5990167 A JPS5990167 A JP S5990167A
Authority
JP
Japan
Prior art keywords
character string
candidate character
evaluation
sentence
analysis method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP57199271A
Other languages
English (en)
Other versions
JPH0415503B2 (ja
Inventor
Toru Kanamori
金盛 亨
Makoto Sueda
末田 信
Tadayasu Sugita
杉田 忠靖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP57199271A priority Critical patent/JPS5990167A/ja
Publication of JPS5990167A publication Critical patent/JPS5990167A/ja
Publication of JPH0415503B2 publication Critical patent/JPH0415503B2/ja
Granted legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Machine Translation (AREA)
  • Document Processing Apparatus (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔発明の技術分野〕 本発明は自動翻訳や文字音声変換等のため釦、文字で表
現された文章から、その文章を構成する個々の単語を切
分ける単語の同定方式に関する。
〔発明の背景〕
自動翻訳、あるいは文字音声変換においては、文章の解
析が必須である。特に日本語のような単語境界が不明確
で、同字異義語、同字異音語の多い言語では、単語境界
の判定と語の同定が重要であり、かつ難しいものでもあ
る。例えば、「蓄量物価格安定法」の単語構成は、 ■ 畜産物・価格・安定法 ■ 蓄産・物価・格安・定法 ■ 蓄産・物価路・安定法 などいくつか考えられるが、■が正解であると判断でき
なければならない。
〔発明の従来技術〕
文章内の単語を同定するためには、従来、■ 最長一致
と文法的接続関係を用いて順次検索判定する方法、 @ 可能性のあるすべての候補文字列単位の組合わせを
抽出し、各々を評価関数を用いて評価し、最良の組合わ
せを選択する方法、が考えられていた。しかし、 ■では最適解が得られない場合があり、処理も複雑であ
った(バックトラックが必要)。
また、@では組合わせの数が膨大となり長い文字列に適
用することはできなかった。
〔発明の目的〕
本発明は日本語のような単語境界の明確でない文章を解
析して、文章を構成する単語などの文字列単位の境界を
判定し、さらに各文字列単位を同定する作業に関し、正
確な解析を簡単かつ少ない処理にて行なうことを目的と
する。
〔発明の構成〕
上記の目的を達成するため、本発明は複数の文字列単位
からなる文章を解析して、文章を構成する文字列単位を
同定する文章解析方式において、候補となる文字列単位
の妥当性を数値で表わし、これを評価尺度とする動的計
画法により最適な文字列単位を同定することを特徴とす
る。
以下図面により詳細に説明する。
第1図は具体的文章について、上記@の従来例による場
合と、本発明による動的計画法(以下DP法と称す)K
よる場合とを比較したものである。
文章解析装置には予じめ考えられ得るすべての文字列単
位(いわゆる単語の他忙慣用的な単語列。
つ 文字列も含む)が記憶されている。図で例では文字「島
」には「シマ」と「トウ」との夫々の読みに対して1つ
づつの文字列が用意されている。
また、「から」という読みに対しては5種類の文字列、
例えば名詞としての「殻」、「唐」2格助詞としての「
〜から」などが用意されている。
さらに「か」の文字単独についても6種類の文字列(1
文字のものも含めて文字列と称する)、例えば疑問を表
わす「〜か?」2選択の意を表わす「〜か〜か」2反問
を表わす「か」などが用意されている。他の文字につい
ても同様である。
図示Aの部分は従来例@で述べたように、すべての組合
わせについて評価するとした場合の組合わせの数を示し
ており、10万通り以上の組合わせとなり、実用的でな
いことが判る。
図示Bの部分は本発明のDP法による場合で、文頭2文
末(M、点)を示す文字列を含めても、わずか288回
の処理で済むことが判る。
〔発明の実施例〕
第2図は本発明のDP法の概念を説明する図であり、あ
る語境界に注目し、その境界で終わる文字列が42口の
2種類、その境界から始まる文字列がα、β、γの3種
類ある場合を示している。
ある文字列(Xとする)を選択した場合、Xまでの合計
評価点を1(X)とし、Xに関して周囲状況によらない
評価をU(X)、他の文字列Yとの接続関係による評価
をc(x、y)とする。
このとき第2図に示す境界における左側から右側へ評価
をすすめる場合に、以下の如くの処理を行なう。
尚、MAX()はカッコ内の最大値をとることをわか会
半希意味する。
このように左から(文の頭から)順に各文字列について
、自分自身の評価と、1つ前の文字列との接続関係によ
る評価とから、その場所における自分の評価を求めてい
くことを各境界において行なっていく。
尚、第1図の矢印Cの如く、一部の文字列にとってのみ
境界となる位置においてもその文字列について上記と同
様の処理をすればよい。
また評価点のとり方によっては上記MAX(]の代りに
MrN(]を用いてもよい。
また本来の文字列に加えて、文頭及び文末(読点があれ
ば不要)を示す文字列を考慮する。
このようにして次々と評価を求めていくと、最後の文字
列(読点)の評価を求める際に、その直前にあるいくつ
かの文字列候補(第1図の例では10通りの候補)の中
のどれとつながる場合が最大値となるかが判る。よって
その最大値を与える文字列候補を順にたどっていけば、
最適な文字列単位の組合わせが得られることとなる。
次に第3図、第4図を用いて、本発明のDP法を実現す
る具体的一実施例について述べる。
第3図は本発明の一実施例の概略ブロック図であり、■
は文字列単位辞書、2は辞書照合部、3はDP部である
文字列単位辞書1には、各文字列単位に対する文字列単
位の表記(照合に用いる文字コード)の他DP部3で用
いる接続関係情報(右側及び左側の接続関係の種別を番
号で表わしたもの)、周囲の文字列によらず定まる評価
点1文字列単位番号等をあらかじめ設定してお(。
辞書照合部2は入力文章を文字列単位辞書1と照合する
ことにより、入力文章の構成単位となり得るすべての候
補文字列単位を抽出し、その結果をDP部に設定する。
そしてDP部3において、第2図に関連して説明した如
き評価計算によって、どの文字列単位の組合わせが最も
好ましいかを決定する。
尚、辞書照合部20機能及び構成は従来技術と同様でよ
いので、以下にはDP部3について詳述する。
第4図はDP部3の一実施例ブロック図である。
各部の説明は以下のとおりである。
WM:候補文字列単位の情報を格納するメモリであり、
以下のA−Pの各部からなり、WMAにWM内アドレス
を入力し、Rに信号を与えること忙よ仇度に1文字列単
位の各部の情報を出力し、WK倍信号与えること九より
、G及びPに情報を読み込み記憶する。
A、B、V、Nは辞書照合部により設定される。G部は
辞書照合部により0に初期設定される。
A:文字列単位(以下単語と略す)の前方接続関係の種
別を格納している。
B:単語の後方接続関係の種別を格納している。
V:単語の周囲の文字列によらず定まる評価点v(xi
 )を格納している。
N:単語の単語番号を格納している。
G:その単語までの総合評価点G(xi )を格納して
いる。
P:その単語までの最も良い評価点を与える1つ前の単
語のWM内アドレスを格納する。
EWM : C3及びCIの内容を上位及び下位のアト
報の格納されているWM内アドレスが辞書照合部により
設定されている。
3児(:]DWMと同様棹、C3にて示される境界にて
始まる単語の情報の格納されているWM内アドレスが辞
書照合部により設定されているメモリ。
C1:CIHに信号を与えられると1増加し、CICに
信号を与えられると0にクリヤされるカウンタであり、
ある境界にて終了する単語のEWM内の順番を示す。
C2:C2UIC信号を与えられると1増加1−1C2
Cに信号を与えられると0にクリヤされるカウンタであ
り、ある境界にて始まる単語のEWM内の順番を示す。
C3:C3Uに信号をゝ与えられると1増加し、C3C
に信号を与えられると0にクリヤされるカウンタであり
、境界の番号を示す。
rs :1つの文章に対する境界番号の上限を示すレジ
スタであり、辞書照合部により設定される。
COMP4 : C3及びrs の値を比較し、C3>
rsの場合、C3]i!の信号を発する比較器。
COMPI : li: W Mより読み出される出力
が0.すなわち1つの境界に対する単語の終りを表わす
符号であるか否かをチェックするロジックで、0の場合
c1xの信号を発する。
ωMP2: COMPIと同様にBWMよりの出力をチ
ェックし、C2]Dを発するロジック。
r4:判定結果を読み出すためにWM内のアドレスを一
時格納するレジスタ。
MPX:Sに与えられた信号によりWMAをKWMの出
力又はr4の出力に切換えるアドレス!ルチプレクザ。
rl:WMのAよりBWMによりアクセスされたある境
界より始まるある単語の前方接続関係の種別を保持する
l/レジスタ、rlL信号によりロードを行なう。
T :ある境界より始まる単語の前方接続関係及びその
境界で終わる単語の後方接続関係により定まる接続関係
の評点を定める定数メモリであり、 rl及びKWMに
よりアクセスされるWMのB部の値によりアクセスされ
、1つの評点を出力するものである。
r2:BWMKよりアクセスされるWMの7部の値を保
持するレジスタで、r2L信号によりロードを行なう。
ADD : Tの出力、  r2及びEWMによりアク
セスされるWMのG部の値を加算する加算器である。
r6:ある境界より始まるある単語に対する一連の処理
中、ADDの出力の最大値を保持するレジスタであり、
rac [18号を入力することによりクリヤされる。
rs:ある境界より始まるある単語に対する一連の処理
中、ADDの出力の最大<rttを与える単語情報のW
M内アドレスを保持するレジスタである。
COMP3: A D Dの出力と r6の出力を比較
する比較器であり、ADD出力> re小出力場合、r
3gLの信号を出力してr6にADDの出力。
rsに EWMの出力をロードさせる。r36Lに挿入
されているゲートは、CL傷信号よって同期をとるため
のものである。
TMG : CIE、C2E、C3Kを入力し、CIU
、CIC。
C2U、 C2C、S 、 R,W、 riL、 r2
L+ r6c、riL。
C3C,C3U  を出力するタイミング制御回路であ
り、以下に述べる動作手順に従い、各信号の制御を行な
うものである。
第5図はEWMの内容の一例を第1図の例に沿って示し
たもので、Xi、Yl〜Y2.Zl 〜Z6.ZZ工〜
ZZ9等はWM内アドレスを意味する。そして例えばC
3=0011の境界が第1図の矢印dの位置に相当する
。BWMについても同様であるので省略する。
以下に1つの文章を解析するための手順を示す。
尚、本例では、単語x、y間の接続関係による評  ゛
点c(x、y)として第4図における定数テーブルTの
出力を用い、かつ、 としている。
また、rs、EWM、BWM、A、B、V、N、G  
は各項で説明したように辞書照合部2により初期設定さ
れているものとする。またWMのアドレスOKは、考え
得る最も小さいADD出力を与えるようなり。
V、Gが格納されているものとする。
(i)c3c信号を発し、c3(境界番号)を0クリヤ
する。
(2)C2C信号を発し、C2(その境界より始まる単
語のBWM内の順番)をOクリヤする。
(3)S信号を発し、MPXをBWMの出力に切りかえ
る。
(4)R信号を発し、WMよりその境界より始まるC2
にて示される単語のA及びVを出力させる。
(5)  rtL 、 r2L信号を発し、rl及びr
2にA及びVの出力をロードする。
(6)  etc信号を発し、C1(その境界にて終了
する単語のEWM内の順番)をOクリヤする。
(7)S信号を発し、MPXをEWMの出力に切りかえ
る。
(J3)  r6C信号を発し、re(その境界より始
まる1単語に対するADDの出力の最大値)を0クリヤ
する。
(9)一定周期でCIEに信号が現れるまで、C3,U
及びCI、信号を発生させること釦より、その境界より
始まる1単語に対するADD出力の最大値及びその最大
値を与える単語情報のWM内アドレスをそれぞれre 
、r3に格納させる。
Qo)  S信号を発し、MPXの出力なりW!i’[
の出力に切りかえる。
(IJ)  W信号を発し、re及びr3の内容をG及
びPに書き込む。
1J21  R,r4L  信号を発し、書き込んだP
の内容をr4  にロードする。
θ→ C2U信号を発し、C2Uを1増加させる。
C4(4)〜0局までの手順をC2E信号が現れるまで
繰り返す。
(IF9  C3υ信号を発し、C3Uを1増加させる
(16)  (2)〜0つまでの手順をC3Eに信号が
現れるまで繰り返す。
θカ S信号を発し、MPXの出力なr4の出力に切り
かえる。
(ト) R信号を発し、Nを出力する。
(191r<L信号を発し、Pをr4にロードする。
(イ)θ→、θ1を繰り返すことにより、順次判定結果
である単語番号Nを読み出す。
以上の手順により、判定結果を文章の後方の単語より順
次出力する。
上記の実施例では、各メモリやレジスタ等を専用ハード
ウェアとlして設けるものとして説明したカt、汎用計
算機を用いてソフトウェアにより実現することも可能で
ある。第6図に処理フローを示す。
上記、周囲の文字列によらぬ固有の評価どしては、候補
文字列をかな書きした場合の文字数(発声した場合の拍
数、音節数も含む)又は接頭語。
接尾語を加えた文字数に対応した評価点を用いることが
できる。
あるいは、候補文字列の一般的な(或いは使用分野を限
った)統計的出現頻度(使用頻度)情報を利用してもよ
い。さらには自立語、接辞語9等の区別、品詞による区
別等を用いてもよい。あるいはそれらの組合わせでもよ
い。
また上記、接続関係による評価としては、前後の品詞の
組合わせの頻度情報1語幹・語尾の接続頻度、接辞との
接続頻度、あるいは文頭1文末になる頻度、数字や助数
詞との接続頻度などを利用することができる。あるいは
文章全体のどの辺の位置に置かれる率が高いか等の情報
も利用できる。
また上記の例では、文頭から文末に向って評価計算を行
プよったが、文末から文頭に向って行なうこともできる
さらに、いくつかの部分に分けて行なってから全体を統
合したり、両方向の処理を組合わせてもよい。
〔発明の効果〕
以上の如く本発明によれば、候補文字列の妥当性を数値
で表現することによりDP法が容易に利用でき、そのた
め処理が単純でかつ処理量がきわめて少なくて済み、か
つ最適解を求めることができる。
【図面の簡単な説明】
第1図は本発明と従来例とを比較する説明図。 第2図は本発明の概念図、第3図は本発明の概略ブロッ
ク図、第4図は本発明の一実施例ブロック図、第5図は
、EWMの内容の一具体例を示す図。 第6図は本発明の一実施例処理フローチャートである。 第3図において、1は文字列単位辞書、2は辞書照合部
、3はDr部である。 +1冬\1 」 封、乙図

Claims (7)

    【特許請求の範囲】
  1. (1)複数の文字列単位からなる文章を解析して、文章
    を構成する文字列単位を同定する文章解析方式において
    、候補となる文字列単位の妥当性を数値で表わし、これ
    を評価尺度とする動的計画法により最適な文字列単位を
    同定することを特徴とする文章解析方式。
  2. (2)上記、候補文字列単位の妥当性として、該候補文
    字列単位に固有な第1の評価点と、該候補文字列単位と
    他の候補文字列単位との関係による第2の評価点とを用
    いることを特徴とする特許請求の範囲第(1)項記載の
    文章解析方式。
  3. (3)上記第1の評価点の一部又は全部として、該候補
    文字列単位をかな表記した場合の文字数に相当する情報
    を用いることを特徴とする特許請求の範囲第(2)項記
    載の文章解析方式。
  4. (4)上記第1の評価点の一部又は全部として、該候補
    文字列単位の使用頻度情報を用いることを特徴とする特
    許請求の範囲第(2)項記載の文章解析方式。
  5. (5)上記第1の評価点の一部又は全部として、該候補
    文字列単位の品詞情報を用いることを特徴とする特許請
    求の範囲第(2)項記載の文章解析方式。
  6. (6)上記第2の評価点の一部又は全部として、該候補
    文字列単位の前又は後、若しくは前後の候補文字列単位
    との文法的接続関係情報を用いることを特徴とする特許
    請求の範囲第(2)項ないし第(5)項のいずれかに記
    載の文章解析方式。
  7. (7)上記第2の評価点の一部又は全部として、該候補
    文字列単位の文章中に占める位置情報を用いることを特
    徴とする特許請求の範囲第(2)項ないし第(5)項の
    いずれかに記載の文章解析方式。
JP57199271A 1982-11-12 1982-11-12 文章解析装置 Granted JPS5990167A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP57199271A JPS5990167A (ja) 1982-11-12 1982-11-12 文章解析装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP57199271A JPS5990167A (ja) 1982-11-12 1982-11-12 文章解析装置

Publications (2)

Publication Number Publication Date
JPS5990167A true JPS5990167A (ja) 1984-05-24
JPH0415503B2 JPH0415503B2 (ja) 1992-03-18

Family

ID=16405007

Family Applications (1)

Application Number Title Priority Date Filing Date
JP57199271A Granted JPS5990167A (ja) 1982-11-12 1982-11-12 文章解析装置

Country Status (1)

Country Link
JP (1) JPS5990167A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6126175A (ja) * 1984-07-06 1986-02-05 インタ−ナショナル ビジネス マシ−ンズ コ−ポレ−ション 複合漢字列分割装置
JPS6391776A (ja) * 1986-09-30 1988-04-22 インタ−ナショナル・ビジネス・マシ−ンズ・コ−ポレ−ション 自然言語解析装置
JPH02224058A (ja) * 1988-11-15 1990-09-06 Ricoh Co Ltd 自然言語処理システム
JPH02230370A (ja) * 1989-03-02 1990-09-12 Nec Corp 形態素解析装置
JPH03271972A (ja) * 1990-03-20 1991-12-03 Nec Corp 自然言語の翻訳支援装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5617468A (en) * 1979-07-20 1981-02-19 Fujitsu Ltd *kana* japanese syllabary *kanji* chinese character converter
JPS5714971A (en) * 1980-07-02 1982-01-26 Nec Corp Kana japanese syllabary kanji chinese character conversion device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5617468A (en) * 1979-07-20 1981-02-19 Fujitsu Ltd *kana* japanese syllabary *kanji* chinese character converter
JPS5714971A (en) * 1980-07-02 1982-01-26 Nec Corp Kana japanese syllabary kanji chinese character conversion device

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6126175A (ja) * 1984-07-06 1986-02-05 インタ−ナショナル ビジネス マシ−ンズ コ−ポレ−ション 複合漢字列分割装置
JPS6391776A (ja) * 1986-09-30 1988-04-22 インタ−ナショナル・ビジネス・マシ−ンズ・コ−ポレ−ション 自然言語解析装置
JPH02224058A (ja) * 1988-11-15 1990-09-06 Ricoh Co Ltd 自然言語処理システム
JPH02230370A (ja) * 1989-03-02 1990-09-12 Nec Corp 形態素解析装置
JPH03271972A (ja) * 1990-03-20 1991-12-03 Nec Corp 自然言語の翻訳支援装置

Also Published As

Publication number Publication date
JPH0415503B2 (ja) 1992-03-18

Similar Documents

Publication Publication Date Title
CN110364171B (zh) 一种语音识别方法、语音识别系统及存储介质
US6178396B1 (en) Word/phrase classification processing method and apparatus
US8775158B2 (en) Data processing device, data processing method, and data processing program
JPH0415503B2 (ja)
CN117672182A (zh) 一种基于人工智能的声音克隆方法及系统
CN116795685A (zh) 一种Verilog代码缺陷检测方法和系统
JPS6190269A (ja) 翻訳方式
CN119517006B (zh) 方言识别方法、装置、设备及程序产品
JPS60157659A (ja) 日本語解析方式
JPH04253098A (ja) 音声合成に用いる数字及び特殊記号の言語処理方法
JP2908132B2 (ja) 文字認識結果の後処理方法
JPS63163956A (ja) 文書作成・校正支援装置
JPH01266670A (ja) 日本語対象文固有用語抽出処理装置
JPH04115384A (ja) 単語チェック機能を持つ日本語ocr
Crowgey Constructing a morphophonological analyzer for Lushootseed
JPS61177575A (ja) 日本語文章作成装置
JPS63103393A (ja) 単語認識装置
JP2880600B2 (ja) 単語列翻訳装置
JPH06289890A (ja) 自然言語処理装置
JPH1027191A (ja) 論理回路生成装置
JPS6386073A (ja) 日本語修飾関係解析装置
JPH04211887A (ja) 誤読文字修正方法
Park et al. Eliminating Implausible Korean Morphological Interpretations by Using History of Previous Analysis and Lexical Association
JPH04328679A (ja) 形態素解析装置
Forsberg et al. Deriving Morphological Analyzers from Example Inflections