JPH05217024A - 自動手書き文字認識に対する統計的混合手法 - Google Patents

自動手書き文字認識に対する統計的混合手法

Info

Publication number
JPH05217024A
JPH05217024A JP4220410A JP22041092A JPH05217024A JP H05217024 A JPH05217024 A JP H05217024A JP 4220410 A JP4220410 A JP 4220410A JP 22041092 A JP22041092 A JP 22041092A JP H05217024 A JPH05217024 A JP H05217024A
Authority
JP
Japan
Prior art keywords
handwriting
space
input
writer
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4220410A
Other languages
English (en)
Other versions
JP2750057B2 (ja
Inventor
Eveline J Bellegarda
エヴェリン・ジャニーン・ベルガーダ
Jerome R Bellegarda
ジェローム・ルネ・ベルガーダ
David Nahamoo
デイヴィッド・ナハムー
Krishna S Nathan
クリシュナ・サンダラム・ネイサン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JPH05217024A publication Critical patent/JPH05217024A/ja
Application granted granted Critical
Publication of JP2750057B2 publication Critical patent/JP2750057B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/32—Digital ink
    • G06V30/333—Preprocessing; Feature extraction
    • G06V30/347—Sampling; Contour coding; Stroke extraction
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/32—Digital ink
    • G06V30/36—Matching; Classification
    • G06V30/373—Matching; Classification using a special pattern or subpattern alphabet

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Character Discrimination (AREA)

Abstract

(57)【要約】 【目的】 １つまたは幾つかの特徴ベクトル空間、各空
間におけるガウス・モデリングおよび全ての空間におけ
る全ての関連プロトタイプの寄与を勘案する混合復号に
おける手書きの適当な表示に基いて手書きされたテキス
トの自動認識を行う方法および装置を提供する。 【構成】 特徴ベクトル空間は、ペン軌跡上の適当な各
点の局部および大域的両記述を包含するように選択され
る。手書きにおける広義の傾向を捕捉するようウインド
ウ表示が行われ、その後線形変換を行って冗長性を適当
に除去する。結果として得る特徴ベクトル空間は手書き
空間と呼ぶ。ガウス・モデリングを行って各空間におけ
る充分な手書きプロトタイプ分布を切離し、最大尤度フ
レームワークを用いてこれら分布を加重する混合係数が
トレーニングされる。全ての関連プロトタイプ分布の寄
与を累計することにより復号を行う。言語モデルを用い
る事後処理が含まれる。

Description

【発明の詳細な説明】
【０００１】
【産業上の利用分野】本発明は、信号処理の分野におけ
るものであり、特に手書き認識に関する。特に、本発明
は、１つの（あるいは幾つかの）特徴ベクトル空間、各
空間におけるユークリッドおよびガウス・モデリング、
および全ての空間における全ての関連プロトタイプの寄
与を勘案する混合復号法における手書きの適当な表現に
基く手書き認識に関する。
【０００２】
【従来の技術および発明が解決しようとする課題】続き
書きあるいは更に手書き文字を認識すると称する自動シ
ステムは、これまでごく限られた成功をもたらしたに過
ぎない。その理由は、主として手書きのモデリングにお
いて使用されるテンプレートにより呈される頑強性の不
足に見出すことができる。例えば、続き書きの手書き文
字の認識のための３ステップの手順について記載する米
国特許第４，７３１，８５７号がある。第１に、潜在的
区切り点が取得される。第２に、妥当に文字であり得る
区切りの全ての組合わせが文字認識装置へ送られてラン
ク付けされた選択および対応する点数を得る。第３に、
最善の候補単語を得るように文字列が組合わされる。各
テンプレートは、この文字を形成する筆記者の平均的方
法をおそらくは表わすであろう完全形成文字であり、そ
の時の文字の弾性的照合（マッチング）が各テンプレー
トに対して計算される。この手法は、筆記者および時間
の双方にわたり観察され得る広範囲な多岐性の影響を受
け易い。
【０００３】本発明は、受入れ得る頑強度を有する手書
き認識のための高速アルゴリズム（即ち、Ｔａｐｐｅｒ
ｔの米国特許第４，７３１，８５７号に開示される如き
弾性的マッチングのそれと似た複雑さの）の考案に関す
るものである。このため、少なくとも３つの重要な規定
をもたらす。即ち、（ｉ）特徴要素は、個別の、筆記、
続き書きあるいは拘束されないモードで生成された手書
きも同様に特徴付けるように選択されねばならず、（i
i）これらの特徴要素は冗長性を最小化するように適当
に処理され、これによりパラメータ毎に表わされる情報
を最大化されねばならず、（iii）結果として得る特徴
パラメータは更に、手書きにおける広い傾向を検出して
このような傾向の適当なモデリングを可能にしなければ
ならない。これらの規定は、現在の弾性的マッチング法
が（ｉ）文字ベースであるため、また（ii）文字テンプ
レートを得るため幾つかの文字例を単に平均化するもの
であるため、このマッチング法では満たされない。
【０００４】本発明によれば、信号処理フロントエンド
（プロセッサ）は、弾性的マッチング法よりも非常に複
雑である。入力データを単に区切りに分割するのではな
く、信号は更に高次元の特徴空間（手書き空間）に変換
され、その点が冗長でない特徴の抽出の毎に全ての直接
観察を表わす。更に細かなクラスタリング（クラス分
割）のための（ユークリッド法とは対照的な）ガウス法
を用いて、この空間におけるプロトタイプが頑強性のた
め形成される。従って、各プロトタイプは、多くの文字
と共通である小さな積み木を表わす。文字列の代わり
に、積み木列が組合わされ、その各々が真性の確率空間
について定義された真の尤度が割当てられる（距離スコ
アとはちょうど対照的に）。最後に、認識アルゴリズム
自体は高々この確率空間について演算する事後復号であ
る。この代替的な手法は頑強性のための規定を満たすの
に更に適合する。
【０００５】
【課題を解決するための手段】本発明の目的は、改善さ
れた手書き認識システムの提供にある。
【０００６】本発明の別の目的は、入力された手書きが
局部的および大域的な両特徴要素を抽出するように信号
処理される改善された手書き認識システムの提供にあ
る。
【０００７】本発明の他の目的は、ウインドウ表示を用
いて広義の特徴事象を検出する改善された手書き認識シ
ステムの提供にある。
【０００８】本発明の更に他の目的は、回転／投影を用
いて冗長性を排除する改善された手書き認識システムの
提供にある。
【０００９】本発明の他の目的は、手書き空間と呼ばれ
る適当な特徴ベクトル空間におけるガウス・モデリング
に基いて手書きが認識される改善された手書き認識シス
テムの提供にある。
【００１０】本発明の他の目的は、混合復号法を用いて
手書き空間における全ての関連プロトタイプの寄与を勘
案する改善された手書き認識システムの提供にある。
【００１１】本発明の更に他の目的は、多数の手書き空
間と対応する多数のコードブックを用いて更に頑強な認
識を提供する改善された手書き認識システムの提供にあ
る。
【００１２】手書きテキストの自動認識は、適当な特徴
ベクトル空間におけるユークリッドおよびガウス・モデ
リング、およびこの空間における全ての関連プロトタイ
プの寄与を勘案する混合復号法に基く。
【００１３】全ての筆記モードに充分な特徴要素を得る
ため、１つの点から次の点までの座標の差、ならびに全
て変換で変化しない勾配および曲率情報が選択される。
これは、ペンの軌跡の局部的な挙動について充分な情報
を提供する。同時に、ペンの軌跡の大域的挙動について
の情報を集めることが重要である。続き書きあるいは拘
束されない手書きの場合にはこの情報の評価が更に難し
いため、対応する大域的特徴要素を局部的な特徴要素と
は別個に処理されねばならない。しかし、両者において
冗長性を最小化するため、結果として得るデータの全共
分散マトリックスが計算され、関連する固有値および固
有ベクトルが見出され、線形変換がこれら固有ベクトル
の方向に沿って与えられ、データは下位の次元のサブ空
間に対して投影される。最後に、手書きにおける重要な
積み木を検出するため、少ない特徴ベクトルが比較的少
数のいわゆる手書きプロトタイプに分割されて、筆記プ
ロセスにおいて使用される基本的な積み木を表わす手書
きラベルの英字をもたらす。
【００１４】上記の手法は、筆記者に依存しないかある
いは筆記者に依存するベースで実現することができる。
後者の場合、各筆記者毎に１組の手書きプロトタイプが
得られる。この組は、対応する筆記者の個人的特徴を捕
捉することが期待される。本アルゴリズムを初期化する
ため、ある手書きが記録され、各運筆毎にタブレット上
のその時の軌跡と対応する一連の（ｘ、ｙ）座標が得ら
れるようにする。一旦手書きプロトタイプが得られる
と、その時の特徴ベクトルを生じる各プロトタイプの尤
度を計算し、各個の尤度を一緒に混合して最終的尤度を
得るだけで認識を行うことができる。この手法では、混
合係数は語彙における各文字が手書きラベル・タブレッ
トに与えられたプロトタイプを生じる確率である。
【００１５】
【実施例】手書き認識において、手書き文字は一般に図
１に示される５つのグループに該当し、このグループは
認識の複雑さの増加する順序に示される。特に、これら
のグループは、個々の文字が予め定義された領域内に形
成される枡目離散として知られる第１のタイプの筆記
（Ｗ１）を含み、これにより文字の区切りタスクを簡単
にする。第２のタイプの筆記（Ｗ２）は、文字が他の文
字と接触しないようにユーザが各文字を意図的に形成す
る間隔をおいた離散として知られる。第３のタイプの筆
記（Ｗ３）は、相互に接触する即ち「繋がる」文字をユ
ーザが形成できる続け書き離散として知られる。第４の
タイプの筆記（Ｗ４）は、ユーザが通常全単語を筆記後
でｔの横棒を引きｉおよびｊの点を打つ続け書きであ
る。最後に、第５のタイプの筆記（Ｗ５）は、ユーザが
続き書きの組合わせを使用する拘束されない筆記であ
る。この最後のタイプは、最も困難であり、図３に示さ
れた５つのスタイルの最も複雑な区切りおよび認識を提
供する。
【００１６】図２において、一般的な手書き認識システ
ムの動作がブロック図で示される。図２の一般的論議が
最初に行われ、内部に示されるブロックの各々の動作の
詳細な記述が続く。ブロック２において、スタイラス即
ちペンの運筆情報のデータ取得が生じる。取得された運
筆は、手書き情報を認識するため演算される。ブロック
４に示される如きトレーニング演算モードの間、取得さ
れた手書き情報が既知のトレーニング筆跡に関して分析
され、この情報を表わすため基底モデルを教習する。使
用中、トレーニング中に得られたモデル・パラメータ
が、認識される（未知の）手書きと対応する特徴ベクト
ルと共に、復号ブロック６により使用される。特に、復
号ブロック６はこのモデルを用いて個々の特徴ベクトル
の組立てから候補文字を生成する。復号プログラムは、
関連するモデル・パラメータに基く最も確率の高い文字
を選択する。
【００１７】認識された手書きは、その後ブロック８に
より使用できるようになる。例えば、認識されたメッセ
ージは単に英数字フォーマットに変換され、表示デバイ
ス上に表示される。認識されたメッセージはまた、これ
まで例えばワード・プロセッシング・システムの如きキ
ーボードからメッセージを受取る何らかのアプリケーシ
ョンへ渡される。
【００１８】下記のアルゴリズムは、本発明の手書き認
識システムを含む装置において実現される。このアルゴ
リズムのステップは下記の如くである。即ち、
【００１９】１．筆記の速度に対して正規化するデータ
の事前フィルタリングを行う。これは、タブレットによ
り捕捉される諸点間の間隔が性格的に弾道である時間に
依存する表現を、全ての点が等間隔である時間に依存し
ない表現に変換することにより行われる。線形補間が結
果として生じる等間隔点を見出す必要に応じて行われ
る。必要に応じて、更に微細な補間に対してはキュービ
ック・スプライン補間もまた行うことができる。
【００２０】２．各点毎に、トレーニング・データにお
ける座標（ｘn、ｙn）のＰnがＰn付近の局部のペン軌跡
を表わす特徴要素のＰ次元ベクトルＰnを形成する。例
えば、Ｐに対する良好な選択は６であり、特徴要素が下
記により与えられる。即ち、 （ｉ）水平および垂直方向の増分変化：
【００２１】
【数１】
【００２２】（ii）Ｐnにおけるペンの軌跡に対する接
線角の正弦および余弦：
【００２３】
【数２】
【００２４】（iii）上記の２つのパラメータにおける
増分変化：
【００２５】
【数３】
【００２６】最後の２つのパラメータがＰnにおけるペ
ンの軌跡の曲率についての情報を提供することに注意さ
れたい。
【００２７】３．各点毎に、トレーニング・データにお
ける座標（ｘn、ｙn）のＰnが、Ｐnまでの大域ペン軌跡
を表わす特徴要素のＰ′次元ベクトルＰ′nを形成す
る。例えば、Ｐ′に対する良好な選択は３であり、特徴
要素は下記により与えられる。即ち、（ｉ）基線ｙnか
らの高さ、（ii）運筆（ｘn−ｘi）の始めからの幅（但
し、ｘiはその時の運筆の第１の座標）、および（iii）
その時の文字が１つ以上の運筆からなるならば運筆間の
距離。
【００２８】４．トレーニング・データにおける各運筆
毎に、この運筆における点Ｐn のサブセット例えばＱi
が略々等しく隔てられる特性を有するＱiを決定する。
このセットは常に各運筆の最初と最後の点を含み、間隔
が線の高さのある妥当な関数でなければならない。
【００２９】５．各場所において、ステップ４で得たＱ
iは、Ｑiに先行するＨベクトルｐnを一緒に連結するこ
とによりＱ次元の接合ベクトルを構成し、ベクトルｑi
はＱiと対応し、Ｈベクトルｐn はＱi に続く。同様
に、Ｑi に先行するＨ′ベクトルｐ′n を一緒に連結す
ることによりＱ′次元の接合ベクトルを構成し、ベクト
ルｑ′i はＱi と対応し、Ｈ′ベクトルｐ′n はＱi に
続く。これは、下式が成立ならば実現し得る。即ち、
【００３０】
【数４】
【００３１】良好な選択はＨ＝Ｈ′であり、値Ｑ＝２４
６およびＱ′＝１２３を生じる。
【００３２】６．局部手書き特徴と対応する全てのＱ次
元ベクトルの平均ベクトルおよび共分散マトリックスを
計算する。これらはそれぞれＭt (1)およびＳt (1)として
示す。同様に、大域手書き特徴と対応する全てのＱ′次
元ベクトルの平均ベクトルおよび共分散マトリックスを
計算する。これらはそれぞれＭt (2)およびＳt (2)として
示す。
【００３３】７．ｎ＝１，２に対しては、対応する固有
値の対角マトリックスであるＳt (n)およびＡt (n)の固有
ベクトル・マトリックスＥt (n)を計算する。これらの量
は下式の関係に従う。即ち、
【００３４】
【数５】
【００３５】但し、Ｔはマトリックス互換を示す。この
ため、Ｅt (n)における先行固有ベクトルがＡt (n)におけ
る先行固有値と対応する。
【００３６】８．ステップ７からの先行固有ベクトルＲ
1 を用いて、ステップ５のＱ次元の特徴ベクトルを次元
Ｒ1 の空間へ投影する。結果として得るベクトルｒi (1)
を呼出す。Ｒ1 に対する妥当値は６である。この点にお
いて、Ｑ次元の接合特徴ベクトルに存在する冗長性は、
最も報知的な特徴要素で連結することにより排除され
た。ベクトルｒi (1)で挟まれた空間を手書き空間Ｃ(1)
と呼ぶ。
【００３７】９．同様に、ステップ７からのＲ2 先行固
有ベクトルを用いて、ステップ５のＱ′次元の特徴ベク
トルを次元空間Ｒ2 上に投影し、ベクトルｒi (2)を結果
として生じる。Ｒ2 に対する妥当値は１５である。一般
に、（大域特徴の）Ｑ次元の接合特徴ベクトルには（局
部特徴の）Ｑ次元接合特徴ベクトルにおけるよりも少な
い冗長性が存在する故に、Ｒ2＞Ｒ1となることに注意さ
れたい。ベクトルｒi (2)により挟まれた空間を手書き空
間Ｃ(2)と呼ぶ。
【００３８】１０．このステップをｎ＝１，２に対して
反復する。ランダム・クラスタ割当てで開始し、対応す
るＲn 次元の手書き空間における予備的プロトタイプ分
布を得るように、ステップ８および９で得た投影ベクト
ルｒi (n)のＫ平均ユークリッド・クラスタリングを実施
する。
【００３９】１１．ｎ＝１，２に対してこのステップを
反復する。ステップ１０の予備的分布から開始し、両方
の手書き空間における最終的ガウス・プロトタイプ分布
を得るように、ステップ８および９において得た投影ベ
クトルｒi (n)のＫ平均ガウス・クラスタリングを実施す
る。これらのプロトタイプ分布をπk (n)として表わし、
各Ｒn次元の手書き空間における各プロトタイプ分布の
前の確率Ｐr（πk (n)）を評価するためクラスタ・サイ
ズを使用する。
【００４０】１２．ｎ＝１，２に対してこのステップを
反復する。ステップ１１からのガウス分布を用いて、ス
テップ８および９で得た全てのベクトルｒi (n)に対して
量Ｐｒ（ベクトルｒi (n)｜πk (n)）を計算する。また、
各手書き空間における全クラスタ数がＫnであるものと
して、各特徴ベクトルの確率を下式で評価する。即ち、
【００４１】
【数６】
【００４２】良好な選択はＫ1＝Ｋ2＝４００である。
【００４３】１３．ｎ＝１，２に対してこのステップを
反復する。ステップ１１および１２の結果を用いて、下
記量を計算し、
【００４４】
【数７】
【００４５】どの文字ａj に対して，各ベクトルｒi (n)
がトレーニング・データに整合されるかに注意された
い。
【００４６】１４．ｎ＝１，２に対してこのステップを
反復する。対象となる語彙における各文字ａj 毎に、こ
れに整合された全てのベクトルｒi (n)を一緒にプールし
て対応するＰｒ（πk (n)｜ベクトルｒi (n)）を累計す
る。正規化の後に、これは各文字ａj を与えた各手書き
空間における各プロトタイプ分布の前の確率であるＰ
ｒ（π k (n)｜ａj）の評価を行う。これがトレーニング
位相の終りである。
【００４７】１５．トレーニング・データと同じ各手書
き空間にテスト特徴ベクトルを生じるように、テスト・
データについてステップ１乃至５および８乃至９を反復
する。
【００４８】１６．手書き空間Ｃ(1)においてベクトル
ｒi (1)で、また手書き空間Ｃ(2)においてベクトルｒi
(2)で表わされる各データ・フレームｆi 毎に、ステッ
プ１１で得たガウス混合分布およびステップ１４で得た
前の確率を用いて下記の量を形成する。即ち、
【００４９】
【数８】
【００５０】即ち、全手書きラベル英字をカバーする２
つ単一ガウス混合分布の加重積である。この式中、αが
第１のコードブックに対する第２のコードブックの影響
を制御する。αに対する良値は０．７である。これは、
連続フレームのスコアを乗じてフレームの仮のシーケン
スに対する全スコアを得、これにより復号プロセスを完
了する。
【００５１】次に、先に述べたアルゴリズムを実現する
ための本発明による手書き認識システムのブロック図で
ある図３を参照する。例えばＩＢＭ３０９０／ＶＦある
いはＩＢＭ ＲＳ６０００でよい汎用コンピュータ１０
が、スタイラス１２を用いるユーザにより生成された文
字即ち運筆情報を受取って電子タブレット１４に書込
む。この文字即ち運筆情報は、電子タブレット１４上か
あるいは他の表示デバイス（図示せず）上に表示するこ
とができる。コンピュータ１０は、トレーニング・モー
ド１６かあるいは復号モード１８のいずれかで使用する
ことができる。これは、破線２０により象徴的に示され
る。トレーニングまたは復号のいずれのモードにおいて
も、フロント・エンド・パラメータ抽出ブロック２２を
加えなければならない。トレーニング・モード１６にお
いては、アルゴリズムは、プロトタイプ構成ブロック２
４と、言語モデル・ブロック２６とを含む。復号モード
１８においては、アルゴリズムは尤度評価部２８と復号
部３０とを含む。
【００５２】ブロック２２乃至３０は機能プログラム・
モジュールとして示されるが、これら機能ブロックの一
部あるいは全てがソフトウエア形態の代わりにハードウ
エア形態で実現され、本発明の特許請求の範囲の教示内
にあることが理解されよう。
【００５３】手書き認識アルゴリズムのステップ１乃至
９を実行するフロント・エンド・パラメータ抽出ブロッ
ク２２は、トレーニング・モードの間プロトタイプ構成
ブロック２４に対して、あるいは復号モードの間プロト
タイプ構成ブロック２４に対して特徴ベクトルを提供す
る。プロトタイプ構成ブロック２４は、手書き認識アル
ゴリズムのステップ１０乃至１４を実行して、（ｉ）文
字の適当な部分を表わす手書きプロトタイプ、および
（ii）これらを組合わせる方法を示す混合係数を生じ
る。この情報は、未知の文字を判定あるいは認識する復
号モードにおいて使用される。言語モデル・ブロック２
６は、どの文字が与えられたコンテキスト中に最も生じ
得るか、あるいはどの単語が与えられたコンテキスト中
に生じ得るかを判定するため使用できる言語モデルの確
率を提供する。ある実施例においては、ブロック２６は
手書き中に生じる文字、句あるいは文章のあり得る組合
わせのライブラリに実施することができる。この言語モ
デルは、認識中復号部３０によって使用される。
【００５４】認識モードの間、手書き認識アルゴリズム
のステップ１６を実行する尤度評価部２８は、認識され
る未知の運筆または文字から生じた特徴ベクトルをブロ
ック２２から受取る。これらの特徴ベクトルは、ブロッ
ク２４からの手書きプロトタイプと同じ手書き空間に存
在し、従ってこれらの各々と比較して特定の各特徴ベク
トルに対するその各々の寄与を評価する。この情報は、
特定の各特徴ベクトルが英字における文字に「帰属」す
る尤度を計算するため、トレーニング中生じる混合係数
を用いて積分される。これは、全ての特徴ベクトルにわ
たって、復号部３０に対して認識のための候補文字を生
じるように使用することができる。復号部３０は、最大
スコアと対応するブロック２６からの言語モデルの確率
を全スコアに積分する。示されたアルゴリズムに従う認
識された筆記は、復号部３０の出力３２に生成される。
次にこの認識された筆記は、タブレット１４上に表示さ
れるか、あるいは例えば表示デバイス、プリンタ、アプ
リケーション・プログラムなどである利用デバイス３３
へ渡される。
【００５５】次に、図３に全体的に示されるフロント・
エンド・パラメータ抽出ブロック２２の詳細なブロック
図である図４を参照する。筆記の各サンプル点は、手書
き認識アルゴリズムのステップ１を実行する前置フィル
タ・ブロック３４へ渡される座標ｘnおよびｙnにより定
義される点により表わされる。これらの点は、図５に示
されるように弾道状に間隔をおいて示される。即ち、前
記点の間隔は、筆記者がその時の文字を形成するのに用
いた筆記速度の関数である。種々の理由から、筆記者は
その速度即ち筆記速度がほとんど一貫せず、手書き認識
における高い誤差率を生じることがある。前置フィルタ
・ブロック３４は、図５の点を正規化してブロック３４
の出力に等間隔の点ｘmおよびｙmを生じる。前置フィル
タリングの詳細については、図７および図８に関して簡
単に説明する。図６に示される如き文字を含む等間隔の
点ｘmおよびｙmは、パラメータ抽出ブロック３６へ与え
られ、これがベクトルｖm を生じる手書き認識アルゴリ
ズムのステップ２および３を実施する。このパラメータ
抽出の詳細は、図１１、図１２、図１３および図１４に
関して簡単に説明する。ベクトルｖm は、ウインドウ表
示ブロック３８へ与えられ、これが接合ベクトルＳi を
生じるため手書き認識アルゴリズムのステップ４おいて
５を実施する。接合ベクトルＳi が与えられる方法の詳
細については、図１４、図１５および図１６に関して簡
単に説明する。接合ベクトルＳi は投影ブロック４０へ
与えられ、このブロックが特徴ベクトルｒiを生じるた
め手書き認識アルゴリズムのステップ６乃至９を実施す
る。これは、接合パラメータ・ベクトルにおける冗長性
を排除する。ブロック４０の機能の詳細については、図
１７に関して記載される。投影ブロック４０は、接合ベ
クトルＳi に応答して特徴ベクトルｒi を生じ、これは
先に図３に関して述べたように、プロトタイプ構成ブロ
ック２４および尤度評価部２８へ与えられる。投影ブロ
ック４０の詳細については、図１７のフロー図に関して
記載する。
【００５６】図５の弾道状に間隔をおいた文字が前置フ
ィルタ・ブロック３４（図４）により正規化されて、手
書き認識アルゴリズムのステップ１が行われる方法を示
す図７および図８に関して次に説明する図６の等間隔の
文字を生じる。図７は、図５の上４分の１の湾曲部分を
表わす。第１に、元の生の点（点・で示される）間のあ
る補間法を行うことにより点の密度が増加される。この
結果、元の生点（・）おいた補間点（｜）を含む一連の
点を生じる。次いで、点間の等しい間隔が電子タブレッ
ト１４（図３）上に示される如き２つのｐｅｌ間の距離
と適当に関連する距離Ｒであることの事前の決定により
フィルタリングが行われる。図７においては、その結果
Ｘ（５６）により示されるフィルタリングの後一連の点
が生じる。生および内挿された点は等間隔ではない整数
点ｎと見做され、フィルタ点は等間隔の整数点ｍと見做
される。
【００５７】図８によれば、ブロック４２において、運
筆の第１の（生の）点４８における位置ｎ＝１がｍ＝１
で示され、これも第１のフィルタ点と見做される。ｎ＝
２における運筆の第２の点５０は、フィルタリングに対
してテストされる第１の点である。ブロック４４におい
て、点ｍおよびｎ間の（ユークリッド）距離が下記の関
係に従って決定される。即ち、
【００５８】距離＝｜ｘn−ｘm｜2＋｜ｙn−ｙm｜2
【００５９】ブロック４６において、距離がＲより大き
いかどうか判定が行われる。図７において、点ｍ＝１は
点４８であり、点ｎ＝２は点５０である。図７では距離
がＲより小さいことが判り、従って点は排除されてブロ
ック５２へ進み、ここでｎは３、即ち点５４へ増分され
る。ブロック４４において距離が再び計算されて、ブロ
ック４６においてＲと比較される。最後に、距離はＲよ
り大きくなり、従って点５５が受入れられる（ブロック
５８においてｍはｎと等しくされる）。ブロック６０に
おいて、点（ｘn、ｙn）が１２番目の点の点５６である
フィルタ点（ｘm、ｙm）として記憶される。ブロック６
２において、ｎは１だけ増分され、ブロック４４へ戻
り、ここで生の点および内挿点が先に述べたように処理
される。
【００６０】図９および図１０は、従来技術において特
徴ベクトルが運筆の重力中心（ＣＧ）に関してどのよう
に得られるかを示している。入力された運筆、例えば後
者の「ａ」が電子タブレットにより捕捉される。各特徴
ベクトルは、重力中心に対する運筆におけるサンプル点
（Ｐ）の変位ｘおよびｙ、基底線（ＢＬ）に対するＰの
変位（ｂ）、およびＰに対する接線（Ｌ）と関連する角
度情報（θ）を表わす諸元を含む。この望ましい実施態
様における結果として得る特徴ベクトルは、４つの元を
持ち、このため４つの次元（４ｄ）ベクトルを表わす。
【００６１】図１１、図１２、図１３および１４は、手
書き認識アルゴリズムのステップ２および３を実施する
図４のブロック３６のパラメータ抽出がパラメータ・ベ
クトルｖm を提供するため本発明により如何にして得
られるかを示している。図１１は局部パラメータ抽出を
示し、図１２は局部パラメータ・ベクトルを、図１３は
大域パラメータ抽出を、図１４は大域パラメータ・ベク
トルを示す。合計９つの座標に対して、局部パラメータ
・ベクトルには６つの局部座標があり、大域パラメータ
・ベクトルには３つの大域座標がある。即ち、図１０に
示す如き従来技術の４つの座標より５つ多い座標が生成
される。局部パラメータ・ベクトルについては、前の点
６６、６７および後の点６８、６９に対するこの時の点
６４に関して計算が行われる。局部パラメータ・ベクト
ルに対する特定の計算は図１２に示される。大域パラメ
ータ・ベクトルについては、基底線６５、文字の初点６
６、第１の運筆の最終点６７および第２の運筆の初点６
８に対するその時の点６４に関して計算が行われる。大
域パラメータ・ベクトルに対する特定計算は図１４に示
される。一般性を損なうことなく、本項の残部は唯１つ
のコードブックの手書き認識アルゴリズム、即ち、局部
パラメータ・ベクトルあるいは大域パラメータ・ベクト
ルを示す。
【００６２】次に、特徴ベクトルがデータから抽出され
る方法を示すため、図４のウインドウ表示ブロック３８
の詳細を図１５および図１６に関して述べる。少数の略
々等距離の特徴点が図８と同じアルゴリズムを用いて決
定されるが、値Ｒが異なると、パラメータ・ベクトルは
これらの点で接合される。各点で接合されるべきパラメ
ータ・ベクトルの数（２Ｈ＋１）は予め決定され、これ
が更に接合次元Ｑ＝（２Ｈ＋１）Ｐを規定する。
【００６３】図１５において、特徴点が点で示され、ウ
インドウ中心がＸで示される。点は点ｋとして示され、
Ｘは指標ｉにより点ｋi として示される。図１６におい
て、ブロック７０ではｉおよびカウンタｊがそれぞれ１
に等しくセットされる。ブロック７２では、ｋがｋi −
Ｈにセットされ、ブロック７４において対応するベクト
ルｖk （Ｐ次元の）が得られる。次に、ブロック７６に
おいて（２Ｈ＋１）ベクトルｖk が示されるかどうかの
判定がなされる。もしそうであれば、ブロック７８にお
いてｊは１に再び初期化され、ｉは１だけ増分され、こ
の手順は先に述べたように反復される。もしそうでなけ
れば、ベクトルｖk が位置（ｊ−１）Ｐ＋１で始まるベ
クトルＶi に加えられる。ブロック８２においてｋおよ
びｊが共に１だけ増分され、次のｖk を得るためブロッ
ク７４へ戻り、この手順が先に述べたように反復され
る。
【００６４】図１７において、手書き認識アルゴリズム
のステップ６乃至９を実施する図４の投影ブロック４０
の機能を詳細に説明する。この投影ブロックは、ウイン
ドウ表示ブロック３８からの接合パラメータ・ベクトル
における冗長性を排除するため使用される。ブロック７
１において全ての接合ベクトルに対して共分散マトリッ
クスが計算され、関連する固有値および固有ベクトルが
ブロック７５において主成分分析により見出される。ブ
ロック７４のＲ先行固有値および固有ベクトルを用い
て、ブロック７７において接合ベクトルが手書き空間と
呼ばれるより小さな次元のサブ空間に対して投影され、
結果として投影ベクトルｒi を生じる。共分散マトリッ
クスが計算される方法については、Ｊ．Ｈ．Ｇｏｌｕｂ
およびＣ．Ｆ．ＶａｎＬｏａｎ著「Ｍａｔｒｉｘ Ｃｏ
ｍｐｕｔａｔｉｏｎｓ」（ＪｏｈｎＨｏｐｋｉｎｓ，Ｕ
ｎｉｖｅｒｓｉｔｙ Ｐｒｅｓｓ、Ｂａｌｔｉｍｏｒ
ｅ、１９８９年）に記載されている。この文献はまた、
ブロック７３における主成分分析の方法およびブロック
７７における全てのＳiの投影方法を教示する。
【００６５】図３のプロトタイプ構成ブロック２４の詳
細を示す図１８および図１９に示されるように、手書き
空間が仕切られて手書きプロトタイプを生じる。特徴ベ
クトルがブロック７９に与えられて、Ｋ平均ユークリッ
ド・クラスタリングを行う。ブロック７９の詳細は、図
１９および図２０に関して記載される。ユークリッド・
クラスタリングの結果はブロック８１に与えられてＫ平
均ガウス・クラスタリングを行い、プロトタイプ分布ベ
クトルπk を生じる。ブロック８１の詳細は、図２１に
関して記載される。図１８乃至２１は、手書き認識アル
ゴリズムのステップ１０および１１が行われる方法を詳
細に示す。プロトタイプ分布または手書きプロトタイプ
が尤度評価部２８（図３）に与えられて、復号部３０
（図３）に対して候補文字を生じる。Ｋ平均クラスタリ
ングを一般に行う方法は、Ｊ．Ａ．Ｈａｒｔｉｇａｎ著
「Ｃｌｕｓｔｅｒｉｎｇ Ａｌｇｏｒｉｔｈｍｓ」
（Ｊ．Ｗｉｌｅｙ、１９７５年）において記載される。
【００６６】図１９は、クラスタ８４、８６、８８に分
割される空間８３を示す。各クラスタは、点ｘとして示
される複数のベクトルを含み、セントロイド＃がこのよ
うなベクトルのクラスタ毎に計算される。
【００６７】図１８のブロック７９の詳細を示す図２０
を参照する。ブロック９０において２５０と選定された
複数のランダム・シークが図３のブロック２２から得ら
れる手書き空間における全ての点から拾われる。各点と
各速度間のユークリッド距離がブロック９２において計
算される。各点をその最も近い核に割当てることによ
り、ブロック９４において空間がクラスタに仕切られ
る。これは、図１９のクラスタ８４、８６、８８と対応
している。各クラスタのセントロイドがブロック９６で
計算される。これは、図１９の＃と対応する。これらの
セントロイドは、ブロック９８において元の核を置換す
るようにセットされる。判断ブロック１００において、
最大反復数に達するかどうか判定がなされる。もしそう
でなければ、先に述べたように、ブロック９２へ戻って
ステップが繰返される。もしそうであれば、ユークリッ
ド・クラスタリングの計算が完了する。
【００６８】図１８のガウス・クラスタリング・ブロッ
ク８１の詳細を示す図２１を参照する。ブロック７９
（図１８）で得られたユークリッド・クラスタはブロッ
ク１０２で与えられる。各点と各セントロイド間のガウ
ス距離は、ブロック１０４で計算される。各点をその最
も近いセントロイドに割当てることにより、ブロック１
０６において空間がクラスタに仕切られる。各クラスタ
の新しいセントロイドがブロック１０８で計算される。
判断ブロック１１０において、最大反復数が完了したか
どうかの判定が行われる。もしそうでなければ、先に述
べたように、ブロック１０４へ戻ってステップが反復さ
れる。もしそうであれば、ガウス・クラスタリングの計
算が完了する。この結果、手書き空間における最終的な
プロトタイプ分布が生じる。
【００６９】唯１つのコードブックに対する手書き認識
アルゴリズムのステップ１６を実施し、ステップ１２、
１３の結果として生じる手書き認識アルゴリズムの情報
が如何にして図３の尤度評価部２８により演算されて復
号部３０に対する候補文字を生じるかを示す図２２を参
照する。ブロック１１４において、その時のフレーム
（あるいはウインドウ中心）を表わす変数ｉが１に初期
化され、テスト特徴ベクトルｒi がブロック１１６で示
されるようにフロント・エンド・パラメータ抽出ブロッ
ク２２（図４）から与えられる。ブロック１１８におい
て、その時のプロトタイプブックを表わす変数ｋがｋ＝
１に初期化される。このプロトタイプ分布を生じたこの
特徴ベクトルの条件付き確率がブロック１２０で計算さ
れ、ブロック１２２へ与えられる。
【００７０】ブロック１２４における手書きプロトタイ
プ分布Πk およびブロック１２６における混合係数Ｐｒ
（Πk｜ａj）により表わされる如きトレーニング位相の
プロトタイプ構成ブロック２４もまたブロック１２２に
与えられ、ここで組合わせ確率が計算されて記憶され
る。判断ブロック１２８において、ｋが最大クラスタ数
に達したかどうか判定がなされる。もしそうでなけれ
ば、ブロック１３０で示される如くｋが１だけ増分され
てブロック１２０へ戻り、先に述べたプロセスが反復さ
れる。もしそうであれば、基本の英字における全ての文
字ａj に対して先に述べたスコアがブロック１３２に累
計される。判断ブロック１３４においては、対象となる
その時の文字に対して全てのフレームｉが示されたかど
うかの判定がなされる。もしそうでなければ、ブロック
１３６においてｉが１だけ増分されてブロック１１６へ
戻り、先に述べたプロセスが反復される。もしそうであ
れば、累計されたスコアがブロック１３８において順序
を付され、文字ａj の候補リストが復号部３０（図３）
へ与えるため最高のＪスコアから形成される。
【００７１】次に、復号部３０（図５）の動作を表わす
フロー図である図２３を参照する。対象となるその時の
文字を表わす変数ｔがブロック１４２において１に初期
化される。文字Ｃt に対する尤度評価部２８（図３）か
らの文字候補リストがブロック１４４で与えられる。そ
の時の候補文字を表わす変数ｊがブロック１４６で１に
初期化され、ブロック１４８においてＣtが一時的にａj
に等しくセットされる。トレーニング・ブロックから
は、言語モデル確率ブロック２６（図３）がブロック１
５０で与えられる。これらの確率およびブロック１５４
で前に認識された文字に基いて、文字ａj の最終スコア
がブロック１５２において計算される。このスコアは、
言語モデルによりコンテキスト情報を勘案してＣtがａj
として認識される尤度を表わす。判断ブロック１５６に
おいて、尤度評価部２８により与えられた候補リストに
おける最後の候補文字の指標であるｊ＝Ｊかどうかの判
定がなされる。もしそうでなければ、ブロック１４８へ
戻り、先に述べたプロセスが反復される。もしそうであ
れば、言語モデルの確率を含む最終スコアがブロック１
５８において順序を付される。ブロック１６０におい
て、文字Ｃt に対する認識された回答として最高の候補
が選択される。判断ブロック１６２において、認識され
るストリングにおける最後の文字の指標であるｔ＝Ｔｍ
ａｘかどうかの判定がなされる。もしそうでなければ、
ブロック１６４においてｔが１だけ増分されて、認識さ
れるべき次の文字を得る。ブロック１６６において更新
が行われて、認識されたＣt をブロック１５４に挿入
し、ブロック１４４へ戻り、先に述べたプロセスが反復
される。もしそうであれば、このプロセスはブロック１
６８に示される如く完了して、文字の全ストリングが認
識されることになる。
【００７２】
【発明の効果】本発明によれば広義の特徴事象を検出す
る手書き認識システムが提供される。
【図面の簡単な説明】
【図１】本発明の手書き認識システムに対して入力され
る５つの異なるタイプの手書きの事例を示す図である。
【図２】トレーニングおよび復号パラダイムを強化する
汎用手書き認識システムを示すブロック図である。
【図３】本発明による手書き認識システムを示すブロッ
ク図である。
【図４】図３に全体的に示されるフロント・エンド・パ
ラメータ抽出ブロックを示す詳細ブロック図である。
【図５】図４の前置フィルタ・ブロックに入力される弾
道空間文字を示す図である。
【図６】図４の前置フィルタ・ブロックから出力される
等間隔文字を示す図である。
【図７】図５の弾道空間文字の上部４分の１が図６の等
間隔文字に変換される方法を示す図である。
【図８】図４の前置フィルタ・ブロックが図５の弾道空
間文字を図６の等間隔文字に変換するよう機能する方法
を詳細に示すフロー図である。
【図９】点（Ｐ）に対する特徴ベクトルを生じるため従
来技術により処理される手書き文字を示す図である。
【図１０】複数の空間属性を集めることにより図９の点
（Ｐ）に対して従来技術で生成された４次元の手書き特
徴ベクトルを示す図である。
【図１１】点（Ｐ）に対する第１のパラメータ・ベクト
ルを生成するため本発明の教示により処理される手書き
文字の一部を示す図である。
【図１２】複数の局部空間属性を集めることにより図１
１の点（Ｐ）に対して生成された６次元の局部パラメー
タ・ベクトルを示す図である。
【図１３】点（Ｐ）に対する第２のパラメータ・ベクト
ルを生成するため本発明の教示により処理される手書き
文字を示す図である。
【図１４】複数の大域空間属性を集めることにより図１
３の点（Ｐ）に対して生成される３次元の大域パラメー
タ・ベクトルを示す図である。
【図１５】図１２および図１４において抽出された如き
個々のパラメータ・ベクトルの連結により１つの文字に
おけるウインドウ表示が行われる方法を示す図である。
【図１６】図１５に示されるパラメータ・ベクトルの連
結を行うことにより分割ベクトルを生じるため図４のウ
インドウ・ブロックが機能する方法を詳細に示すフロー
図である。
【図１７】図４の投影ブロックが図１６で得られた接合
ベクトルから特徴ベクトルを生じるため機能する方法を
詳細に示すフロー図である。
【図１８】図３のプロトタイプ構造の詳細ブロック図で
ある。
【図１９】Ｋ平均クラスタリング（アルゴリズム）を示
す図である。
【図２０】図１８のユークリッドＫ平均クラスタリング
・ブロックが機能する方法を示すフロー図である。
【図２１】図１８のガウスＫ平均クラスタリング・ブロ
ックが機能する方法を示すフロー図である。
【図２２】図３の尤度評価ブロックが機能する方法を示
すフロー図である。
【図２３】図３の復号ブロックが機能する方法を示すフ
ロー図である。
【符号の説明】
１０ 汎用コンピュータ １２ スタイラス １４ 電子タブレット １６ トレーニング・モード １８ 復号モード ２２ フロント・エンド・パラメータ抽出ブロック ２４ プロトタイプ構成ブロック ２６ 言語モデル・ブロック ２８ 尤度評価部 ３０ 復号部 ３２ 出力 ３３ 利用デバイス ３４ 前置フィルタ・ブロック ３６ パラメータ抽出ブロック ３８ ウインドウ表示ブロック ４０ 投影ブロック ８３ 空間 ８４、８６、８８ クラスタ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ジェローム・ルネ・ベルガーダ アメリカ合衆国10526 ニューヨーク州ゴ ールデンズ・ブリッジ、ブルダー・レーン 490番地 (72)発明者 デイヴィッド・ナハムー アメリカ合衆国10605 ニューヨーク州ホ ワイト・プレインズ、エルムウッド・ロー ド 12番地 (72)発明者 クリシュナ・サンダラム・ネイサン アメリカ合衆国10016 ニューヨーク州ニ ューヨーク、アパートメント・110・マデ ィソン・アベニュー 220番地

Claims (8)

    【特許請求の範囲】
  1. 【請求項１】手書き文字認識システムにおいて、 少なくとも一人の筆記者からの手書き入力をサンプリン
    グする手段と、 前記入力を信号処理して局部および大域の両特徴要素を
    抽出する手段と、 広い特徴事象を検出するため前記入力をウインドウ表示
    する手段と、 前記入力を回転させ投影して冗長性を排除する手段と、 特徴ベクトル空間においてクラスタリングを行って該特
    徴ベクトル空間におけるプロトタイプ分布を生じる手段
    と、 前記特徴ベクトル空間においてガウス・モデリングを行
    う手段と、 その時のサンプル手書き入力に対する各プロトタイプ分
    布の相対的寄与を評価するため混合係数を計算する手段
    と、 前記特徴ベクトル空間における混合復号を行って認識さ
    れた手書き文字を生成する手段と、を設けてなる手書き
    認識システム。
  2. 【請求項２】手書き認識システムにおいて、 少なくとも一人の筆記者からの既知の手書き入力をサン
    プリングする手段と、 前記手書き入力のパラメータ・ベクトル表示を行う手段
    と、 前記手書き入力の接合ベクトル表示を行う手段と、 前記手書き入力の特徴ベクトル表示を行う手段と、を設
    けてなる手書き認識システム。
  3. 【請求項３】手書き認識システムにおいて、 スタイラスを用いて筆記することができ、筆記を表示す
    ることができる電子タブレットと、 前記タブレット上の前記スタイラスによる前記一人の筆
    記者の筆記に応答して少なくとも一人の筆記者からの手
    書き入力を含む既知の文字をサンプリングする手段と、 サンプルされた既知の文字の手書き空間における特徴ベ
    クトル表示を行う手段と、 サンプルされた既知の文字の手書き空間における特徴ベ
    クトル表示の提供に応答して、手書きプロトタイプ分布
    および混合係数を提供する手段と、 前記タブレット上の前記スタイラスによる前記筆記者の
    筆記に応答して、同じあるいは他の筆記者から認識され
    るべき手書き入力を含む既知の文字をサンプリングする
    手段と、 サンプルされた未知の文字の前記手書き空間における特
    徴ベクトル表示を行う手段と、 前記混合係数により適当に加重された前記手書きプロト
    タイプ分布と、サンプルされた未知の文字の手書き空間
    における前記パラメータ・ベクトル表示の弾道状比較に
    基いて、各未知の文字の認識のため基本的英字の少なく
    とも１つの文字が候補文字である尤度を評価する、候補
    文字のリストを形成する手段を含む手段と、 前記候補文字リストの弾道分析を行い、認識されるべき
    手書き入力を含むサンプルされた未知の文字を認識する
    手段と、を設けてなる手書き認識システム。
  4. 【請求項４】手書き認識システムにおいて、 スタイラスを用いて筆記することができ、筆記を表示す
    ることができる電子タブレットと、 前記タブレット上の前記スタイラスによる一人の筆記者
    の筆記に応答して、少なくとも一人の筆記者からの手書
    き入力をサンプリングする手段と、 前記手書き入力のパラメータ・ベクトル表示を行う手段
    と、 前記手書き入力の接合ベクトル表示を行う手段と、 前記接合ベクトル表示の共分散マトリックスを計算する
    手段と、 前記計算された共分散マトリックスと関連する固有値同
    じ固有ベクトルを計算する手段と、 先行固有ベクトルの方向に沿って線形変換を加え、これ
    が前記手書き入力を表わす特徴ベクトルを提供する手段
    と、を設けてなる手書き認識システム。
  5. 【請求項５】少なくとも一人の筆記者からの手書き入力
    をサンプリングし、 前記入力を信号処理して局部および大域の両特徴要素を
    抽出し、 前記入力をウインドウ表示して広い特徴事象を検出し、 前記入力を回転し投影して冗長性を除去し、 特徴ベクトル空間におけるクラスタリングを行って前記
    特徴ベクトル空間におけるプロトタイプ分布を生じ、 前記特徴ベクトル空間におけるガウス・モデリングを行
    い、 混合係数を計算して、その時のサンプル手書き入力に対
    する各プロトタイプ分布の相対的寄与に対して評価し、 前記特徴ベクトル空間における混合復号を行って認識さ
    れた手書きを生じるステップを含む手書き認識システム
    における方法。
  6. 【請求項６】少なくとも一人の筆記者から前記既知の手
    書き入力をサンプリングし、 前記手書き入力のパラメータ・ベクトル表示を行い、 前記手書き入力の接合ベクトル表示を行い、 前記手書き入力の特徴ベクトル表示を行うステップを含
    む手書き認識システムにおける方法。
  7. 【請求項７】一人の筆記者に応答し、電子タブレット上
    のスタイラスによる該一人の筆記者の筆記に応答して少
    なくとも一人の筆記者からの手書き入力を含む既知の文
    字をサンプリングし、 前記サンプルされた既知の文字の手書き空間におけるパ
    ラメータ・ベクトル表示を行い、 前記サンプルされた既知の文字の手書き空間におけるパ
    ラメータ・ベクトル表示の提供に応答して、手書きプロ
    トタイプを提供し、 前記タブレット上の前記スタイラスによる前記一人の筆
    記者の筆記に応答して、該少なくとも一人の筆記者から
    認識されるべき手書き入力を含む未知の文字をサンプリ
    ングし、 前記サンプルされた未知の文字の前記手書き空間におけ
    るパラメータ・ベクトル表示を行い、 候補文字のリストを作ることを含む、前記手書きプロト
    タイプと前記サンプルされた未知の文字の手書き空間に
    おける前記パラメータ・ベクトル表示との弾道比較に基
    いて、前記手書きプロトタイプの少なくとも１つが未知
    の文字として認識される候補文字である尤度を評価し、 前記候補文字リストの弾道分析を行って、認識されるべ
    き手書き入力を含むサンプルされた未知の文字を認識す
    る、ステップを含む手書き認識システムにおける方法。
  8. 【請求項８】電子タブレット上のスタイラスによる前記
    一人の筆記者の筆記に応答して、少なくとも一人の筆記
    者からの手書き入力をサンプリングし、 前記サンプルされた手書きの共分散マトリックスを計算
    し、 前記計算された共分散マトリックスと関連する固有ベク
    トルを計算し、 前記固有ベクトルの方向に沿って線形変換を加え、 前記線形変換の付加に応答して、前記サンプルされた手
    書きの手書きプロトタイプを生じるステップを含む手書
    き認識システムにおける方法。
JP4220410A 1991-10-31 1992-08-19 自動手書き文字認識に対する統計的混合手法 Expired - Fee Related JP2750057B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US07/785,642 US5343537A (en) 1991-10-31 1991-10-31 Statistical mixture approach to automatic handwriting recognition
US785642 1991-10-31

Publications (2)

Publication Number Publication Date
JPH05217024A true JPH05217024A (ja) 1993-08-27
JP2750057B2 JP2750057B2 (ja) 1998-05-13

Family

ID=25136155

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4220410A Expired - Fee Related JP2750057B2 (ja) 1991-10-31 1992-08-19 自動手書き文字認識に対する統計的混合手法

Country Status (4)

Country Link
US (1) US5343537A (ja)
EP (1) EP0539749B1 (ja)
JP (1) JP2750057B2 (ja)
DE (1) DE69231309T2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0973660A (ja) * 1995-09-06 1997-03-18 Nec Corp 光学的情報記録媒体ならびに記録中ベリファイ方法

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5491758A (en) * 1993-01-27 1996-02-13 International Business Machines Corporation Automatic handwriting recognition using both static and dynamic parameters
NL9300310A (nl) * 1993-02-19 1994-09-16 Oce Nederland Bv Inrichting en werkwijze voor syntactische signaal-analyse.
DE69425412T2 (de) * 1993-11-23 2001-03-08 International Business Machines Corp., Armonk Anlage und Verfahren zur automatischen Handschrifterkennung mittels eines benutzerunabhängigen chirographischen Labelalphabets
IL108566A0 (en) * 1994-02-04 1994-05-30 Baron Research & Dev Company L Handwriting input apparatus using more than one sensing technique
US5577135A (en) * 1994-03-01 1996-11-19 Apple Computer, Inc. Handwriting signal processing front-end for handwriting recognizers
GB9409773D0 (en) * 1994-05-13 1994-07-06 Atomic Energy Authority Uk Identification system
IL110137A (en) * 1994-06-27 2000-06-29 Advanced Recognition Tech Handwriting recognition system
US5666438A (en) * 1994-07-29 1997-09-09 Apple Computer, Inc. Method and apparatus for recognizing handwriting of different users of a pen-based computer system
US6052481A (en) * 1994-09-02 2000-04-18 Apple Computers, Inc. Automatic method for scoring and clustering prototypes of handwritten stroke-based data
AU3200095A (en) * 1994-09-09 1996-03-27 Motorola, Inc. Method and system for recognizing a boundary between characters in handwritten text
US5854855A (en) * 1994-09-09 1998-12-29 Motorola, Inc. Method and system using meta-classes and polynomial discriminant functions for handwriting recognition
US5802205A (en) * 1994-09-09 1998-09-01 Motorola, Inc. Method and system for lexical processing
AU3590795A (en) * 1994-09-14 1996-03-29 Apple Computer, Inc. System and method for automatic subcharacter unit and lexicon generation for handwriting recognition
US5812818A (en) * 1994-11-17 1998-09-22 Transfax Inc. Apparatus and method for translating facsimile text transmission
US6137909A (en) * 1995-06-30 2000-10-24 The United States Of America As Represented By The Secretary Of The Navy System and method for feature set reduction
JPH09223195A (ja) * 1996-02-06 1997-08-26 Hewlett Packard Co <Hp> 文字認識方法
US6345119B1 (en) * 1996-02-19 2002-02-05 Fujitsu Limited Handwritten character recognition apparatus and method using a clustering algorithm
CA2247359A1 (en) * 1996-03-08 1997-09-12 Farzad Ehsani Method and device for handwritten character recognition
US5933525A (en) * 1996-04-10 1999-08-03 Bbn Corporation Language-independent and segmentation-free optical character recognition system and method
EP0845224A1 (en) 1996-11-29 1998-06-03 Jack Wen Shock-absorbing footwear
US6708274B2 (en) * 1998-04-30 2004-03-16 Intel Corporation Cryptographically protected paging subsystem
JP3969775B2 (ja) 1996-12-17 2007-09-05 キヤノン株式会社 手書き情報入力装置および手書き情報入力方法
US6332040B1 (en) * 1997-11-04 2001-12-18 J. Howard Jones Method and apparatus for sorting and comparing linear configurations
US6281888B1 (en) * 1999-01-07 2001-08-28 International Business Machines Corporation Pen input device using electrostatic coupling
US6671661B1 (en) * 1999-05-19 2003-12-30 Microsoft Corporation Bayesian principal component analysis
JP4346814B2 (ja) * 2000-12-27 2009-10-21 キヤノン株式会社 情報処理装置及びその方法、コンピュータ可読メモリ、プログラム
US7269546B2 (en) 2001-05-09 2007-09-11 International Business Machines Corporation System and method of finding documents related to other documents and of finding related words in response to a query to refine a search
US6925433B2 (en) 2001-05-09 2005-08-02 International Business Machines Corporation System and method for context-dependent probabilistic modeling of words and documents
US20040243531A1 (en) * 2003-04-28 2004-12-02 Dean Michael Anthony Methods and systems for representing, using and displaying time-varying information on the Semantic Web
US7219085B2 (en) * 2003-12-09 2007-05-15 Microsoft Corporation System and method for accelerating and optimizing the processing of machine learning techniques using a graphics processing unit
US8411958B2 (en) * 2004-05-04 2013-04-02 Nokia Corporation Apparatus and method for handwriting recognition
SE528063C2 (sv) 2004-11-12 2006-08-22 Zi Decuma Ab Metod och anordning för segmenteringsbaserad igenkänning
US8280719B2 (en) * 2005-05-05 2012-10-02 Ramp, Inc. Methods and systems relating to information extraction
US7809214B2 (en) * 2005-08-22 2010-10-05 Samsung Electronics Co., Ltd. Device and a method for identifying movement patterns
US20070271087A1 (en) * 2006-05-18 2007-11-22 Microsoft Corporation Language-independent language model using character classes
US8131536B2 (en) * 2007-01-12 2012-03-06 Raytheon Bbn Technologies Corp. Extraction-empowered machine translation
JP4894709B2 (ja) * 2007-10-04 2012-03-14 株式会社Ｉｈｉ 製品設計支援システム及びコンピュータにおける製品設計支援のための動作方法
US7890539B2 (en) * 2007-10-10 2011-02-15 Raytheon Bbn Technologies Corp. Semantic matching using predicate-argument structure
US9285983B2 (en) * 2010-06-14 2016-03-15 Amx Llc Gesture recognition using neural networks
US9529448B2 (en) * 2011-08-31 2016-12-27 Farzan Fallah Data entry systems and methods
WO2013128291A2 (en) * 2012-02-29 2013-09-06 Robert Bosch Gmbh Method of fusing multiple information sources in image-based gesture recognition system
CN103218628A (zh) * 2013-03-22 2013-07-24 中国科学技术大学 一种基于团块与轨迹特征的异常行为描述方法
JP6125333B2 (ja) * 2013-05-31 2017-05-10 株式会社東芝 検索装置、方法及びプログラム
US9575952B2 (en) 2014-10-21 2017-02-21 At&T Intellectual Property I, L.P. Unsupervised topic modeling for short texts
US10671844B2 (en) * 2017-06-02 2020-06-02 Apple Inc. Handwritten text recognition
US11270104B2 (en) * 2020-01-13 2022-03-08 Apple Inc. Spatial and temporal sequence-to-sequence modeling for handwriting recognition
CN120496098B (zh) * 2025-05-26 2026-05-01 华南理工大学 一种基于伪段落手写原型引导的手写笔迹特征提取方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6015791A (ja) * 1983-07-07 1985-01-26 松下電器産業株式会社 風呂状態検出装置
JPS6029767A (ja) * 1983-07-28 1985-02-15 Canon Inc 電子写真装置とその装置による電子写真法
US4731857A (en) * 1984-06-29 1988-03-15 International Business Machines Corporation Recognition system for run-on handwritten characters
JPS6219975A (ja) * 1985-07-17 1987-01-28 Fujitsu Ltd 図形処理システム
JPS62154078A (ja) * 1985-12-26 1987-07-09 Fujitsu Ltd オンライン手書文字認識における特徴点の抽出方式
JPS6474345A (en) * 1987-09-17 1989-03-20 Honda Motor Co Ltd Controller for hydraulic operation type transmission for vehicle
JP2822189B2 (ja) * 1988-05-19 1998-11-11 ソニー株式会社 文字認識装置及び方法
JPH01321591A (ja) * 1988-06-23 1989-12-27 Nec Corp 文字認識装置
JPH071434B2 (ja) * 1989-03-27 1995-01-11 三菱電機株式会社 標準パタン作成方式
US5075896A (en) * 1989-10-25 1991-12-24 Xerox Corporation Character and phoneme recognition based on probability clustering
US5029223A (en) * 1990-02-02 1991-07-02 International Business Machines Corporation Constraint driven-on line recognition of handwritten characters and symbols
US5105468A (en) * 1991-04-03 1992-04-14 At&T Bell Laboratories Time delay neural network for printed and cursive handwritten character recognition

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0973660A (ja) * 1995-09-06 1997-03-18 Nec Corp 光学的情報記録媒体ならびに記録中ベリファイ方法

Also Published As

Publication number Publication date
DE69231309D1 (de) 2000-09-07
US5343537A (en) 1994-08-30
JP2750057B2 (ja) 1998-05-13
EP0539749B1 (en) 2000-08-02
DE69231309T2 (de) 2001-02-15
EP0539749A2 (en) 1993-05-05
EP0539749A3 (en) 1994-05-11

Similar Documents

Publication Publication Date Title
JP2750057B2 (ja) 自動手書き文字認識に対する統計的混合手法
JP2667954B2 (ja) 静的及び動的パラメータを使用する自動手書き文字認識装置及び方法
JP2669583B2 (ja) 手書き認識のためのコンピュータベース方法及びシステム
US5392363A (en) On-line connected handwritten word recognition by a probabilistic method
AU737039B2 (en) Methods and apparatuses for handwriting recognition
Weinman et al. Toward integrated scene text reading
US7227993B2 (en) Learning-based system and process for synthesizing cursive handwriting
US6513005B1 (en) Method for correcting error characters in results of speech recognition and speech recognition system using the same
JPH07200742A (ja) 手書き認識システム
US7903877B2 (en) Radical-based HMM modeling for handwritten East Asian characters
Stern et al. Most discriminating segment–Longest common subsequence (MDSLCS) algorithm for dynamic hand gesture classification
EP2535787A2 (en) 3D free-form gesture recognition system for character input
US5757964A (en) System and method for automatic subcharacter unit and lexicon generation for handwriting recognition
Rajnoha et al. Handwriting comenia script recognition with convolutional neural network
Viard-Gaudin et al. Recognition-directed recovering of temporal information from handwriting images
Jayaraman et al. Modular approach to recognition of strokes in Telugu script
Yang et al. Flexible trajectory indexing for 3d motion recognition
Zahedi Robust appearance based sign language recognition
Senior O-line cursive handwriting recognition using recurrent neural networks
Nopsuwanchai Discriminative training methods and their applications to handwriting recognition
Huzaimi et al. An Enhanced Handwriting Recognition Tool for the Visually Impaired
Abdalla et al. Generating realistic Arabic handwriting dataset
Alkholy Arabic optical character recognition using local invariant features
Chang Applying data mining for the recognition of digital ink strokes
AU5196701A (en) Method and apparatuses for handwriting recognition

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080220

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090220

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100220

Year of fee payment: 12

LAPS Cancellation because of no payment of annual fees