JP5154886B2 - 楽譜認識装置及びコンピュータプログラム - Google Patents
楽譜認識装置及びコンピュータプログラム Download PDFInfo
- Publication number
- JP5154886B2 JP5154886B2 JP2007266448A JP2007266448A JP5154886B2 JP 5154886 B2 JP5154886 B2 JP 5154886B2 JP 2007266448 A JP2007266448 A JP 2007266448A JP 2007266448 A JP2007266448 A JP 2007266448A JP 5154886 B2 JP5154886 B2 JP 5154886B2
- Authority
- JP
- Japan
- Prior art keywords
- score
- part template
- recognition
- template
- acquired
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B15/00—Teaching music
- G09B15/02—Boards or like means for providing an indication of notes
- G09B15/023—Electrically operated
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/30—Character recognition based on the type of data
- G06V30/304—Music notations
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Educational Administration (AREA)
- Educational Technology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Auxiliary Devices For Music (AREA)
- Character Discrimination (AREA)
- Electrophonic Musical Instruments (AREA)
Description
例えば、五線を消去することにより、画像上のラベルを分離することで、五線と重なった音楽記号を分離し、音楽記号の夫々を認識する。その際、臨時記号等の形状が変化しない定型記号については、加重方向指数等の特徴量と、辞書の音楽記号データとをマッチングすることにより認識する。また、音符等の形状が変化する音楽記号については、縦横の細線や、符頭を構成する楕円や、連桁を構成する太線を分離して認識し、それらの形状や位置関係に基づいて認識する。
また、従来の技術では、楽譜のあるべき状態が分からなかったので、楽譜の認識結果をそのまま採用するしかなく、楽譜の認識率を向上させることが困難であった。
また、楽譜の認識率を従来よりも向上させることを第2の目的とする。
本発明の楽譜認識装置の他の態様例では、紙面の楽譜の情報を含む画像を、画像読み取り手段から取得する第1の取得手段と、前記第1の取得手段により取得された画像に含まれる楽譜を認識する認識手段と、前記楽譜の認識後に当該楽譜に対して設定する必要がある設定情報を含むパートテンプレートを予め記憶する記憶手段と、前記記憶手段に記憶されたパートテンプレートの中から、前記読み取り手段により読み取られた画像に含まれる楽譜に応じたパートテンプレートを取得する第2の取得手段と、前記第2の取得手段により取得されたパートテンプレートを用いて、前記認識手段による楽譜の認識の結果を自動的に修正する設定手段とを有し、前記設定手段は、前記認識手段により認識された楽譜の1つのパート内の情報を用いて、前記認識手段による楽譜の認識の結果を修正する処理と、前記認識手段により認識された楽譜の複数のパート内の情報を用いて、前記認識手段による楽譜の認識の結果を修正する処理とを別々に行うことを特徴とする。
本発明のコンピュータプログラムの他の態様例では、紙面の楽譜の情報を含む画像を、画像読み取り手段から取得する第1の取得ステップと、前記第1の取得ステップにより取得された画像に含まれる楽譜を認識する認識ステップと、前記楽譜の認識後に当該楽譜に対して設定する必要がある設定情報を含むパートテンプレートを予め記憶媒体に記憶する記憶ステップと、前記記憶ステップにより記憶されたパートテンプレートの中から、前記読み取りステップにより読み取られた画像に含まれる楽譜に応じたパートテンプレートを取得する第2の取得ステップと、前記第2の取得ステップにより取得されたパートテンプレートを用いて、前記認識ステップによる楽譜の認識の結果を自動的に修正する設定ステップとをコンピュータに実行させ、前記設定ステップは、前記認識ステップにより認識された楽譜の1つのパート内の情報を用いて、前記認識ステップによる楽譜の認識の結果を修正する処理と、前記認識ステップにより認識された楽譜の複数のパート内の情報を用いて、前記認識ステップによる楽譜の認識の結果を修正する処理とを別々に行うことを特徴とする。
また、楽譜の認識後に当該楽譜に対して設定する必要がある設定情報を含むパートテンプレートを予め記憶しておく。そして、読み取られた楽譜に応じたパートテンプレートを予め記憶しておいたものの中から取得し、取得したパートテンプレートを用いて、楽譜の認識の結果を自動的に修正するようにした。したがって、楽譜の認識率を従来よりも向上させることができる。
図1は、楽譜認識装置の構成の一例を示すブロック図である。
図1において、楽譜認識装置100は、CPU1、ROM2、RAM3、HDD4、FDD5、MIDI(Musical Instrument Digital Interface)インタフェース回路6、スキャナインタフェース回路7、プリンタインタフェース回路8、キーボードインタフェース回路9、CRTインタフェース回路10、及びバス15を有している。そして、スキャナ11、プリンタ12、キーボード13、及びCRT14が楽譜認識装置100に接続されている。
CPU1は、ROM2に格納されたプログラムをRAM3に展開して実行すること等により、楽譜認識装置100の全体の制御を行う中央処理装置である。また、楽譜認識装置100は、予め設定された所定の周期でCPU1に割り込みをかけるタイマ回路を内蔵している。RAM3は、プログラムエリアの他、画像データバッファ、ワークエリア等として使用される。HDD(ハードディスクドライブ)4及びFDD(フレキシブルディスクドライブ)5は、プログラム、画像データ、及び演奏データ等を格納する。
まず、図2−1のステップS1において、CPU1は、スキャナ12によって読み取られた楽譜の画像データをRAM3に取り込む。ここでは、画像を2値の画像として取り込むとする。このように本実施形態では、ステップS1の処理を行うことにより第1の取得手段が実現される。
次に、ステップS2において、CPU1は、かすれやドットノイズ等を軽減するために、楽譜の画像データに対して、図形融合等の画質平滑化処理を行う。
次に、ステップS3において、CPU1は、楽譜の画像データに対して、画質チェック処理を行う。画質チェック処理においては、楽譜の画像データにおける"倍率の情報と濃度の情報"を得ると共に、後述する五線検出の基準データを得るために、五線の線幅と五線の各線間の間隔とを求める。ここでは、線幅と間隔とを求めるために、画像上の横(x)方向の数箇所において縦(y)方向に走査し、黒ラン(連続する黒画素)と白ランの長さを全て求め、求めた長さ毎に頻度分布(ヒストグラム)データを作成する。ここで、ランとは、黒画素ないし白画素がある方向に連続する長さのことをいう。
また、楽譜の画像の倍率は、例えば、五線の間隔から推定できる。更に、楽譜の画像の濃度は、五線の線幅と間隔との比から推定できる。楽譜の認識処理においては、楽譜の画像の"倍率及び濃度"が所定の範囲から外れると、楽譜の画像の認識率が低下してしまう。そこで、ステップS4において、CPU1は、これらの値が、所定の範囲内にあるか否かを判定することにより、画質がOKか否かを判定する。この判定の結果、楽譜の画像の"倍率及び濃度"が所定の範囲から外れており、画質がOKでない場合には、ステップS1に戻り、倍率や濃度を変えて、楽譜の画像を再度読み取る。
図3は、パートテンプレートの一例を示す図である。図3において、パートテンプレート301は、テンプレート名302、パート名303、パート名短縮304、移調楽器設定305、音部記号306、タブ譜線数307、及びタブ譜チューニング情報308を有する。
パート名303には、パートテンプレート301が適用されるパートを識別するための文字列が格納される。
パート名短縮304には、パートテンプレート301が適用されるパートの短縮表記を識別するための文字列が格納されている。
移調楽器設定305には、パートテンプレート301が適用される楽器が移調楽器であるか否かと、その楽器が移調楽器である場合にはその移調楽器がどのようなものであるかとを識別するための数値が格納されている。本実施形態では、パートテンプレート301が適用される楽器が移調楽器でない場合、移調楽器設定305には、0が格納される。また、本実施形態では、パートテンプレート301が適用される楽器がトランペット、ウッドベース、ピッコロ、アルトサックスである場合、移調楽器設定305には、夫々、−2、−12、12、−9が格納される。
タブ譜線数307には、パートテンプレート301が適用される"楽譜の線数"を表す数値が格納されている。
タブ譜チューニング情報308には、楽譜の各線に対するチューニングを表す数値が格納されている。タブ譜チューニング情報308には、パートテンプレート301が適用される"楽譜の線数"分の情報が格納されている。
また、このステップS8におけるパートテンプレート適用処理の詳細については後述する。
以上のように本実施形態では、ステップS9の処理を行うことにより表示手段の一部が実現される。
この後、CPU1は、認識処理矩形の上下端に接したラベルを、上下のパートの構成要素として消去する。最後に、CPU1は、上下端の空白部分を検出して、認識処理矩形を縮小する。ここで、ラベルとは、他の画素領域とは独立した画素領域をいう。例えば、白画素と黒画素とからなる2値画像における黒画素のラベルについて説明する。この場合、黒画素の上下左右、斜め方向の画素の連結状態を検出し、検出した結果に基づき1つの塊として判定できる黒画素の集まりをラベルと呼ぶ。尚、上下左右に加えて斜め方向の画素の連結を判定する場合を8連結ラベルと称し、上下左右のみの画素の連結を判定する場合を4連結ラベルと称する。また、本実施形態では、例えば黒画素が連結している部分だけでなく、その黒画素が連結している部分を囲む多角形(矩形等)の領域もラベルとして扱うものとする。
次に、ステップS12において、CPU1は、五線消去処理を行う。この五線消去処理においては、ステップS5で認識され、ステップS11で傾きが補正された五線を消去する。
(1)定型で、上下位置がほぼ決まっているもの(音部記号、拍子記号等)。
(2)定型で、上下位置は自由度があるもの(臨時記号、休符等)。
(3)不定型且つ位置も不定のもの(音符、スラー、タイ等)。
本実施形態では、これらをそれぞれに適した方式で、音部記号・拍子認識、音符認識、定型記号認識、文字列認識、スラー・タイ認識の順に認識する。尚、音楽記号は、これらに限定されるものではなく、楽譜に記載されるものであれば、どのようなものであってもよい。
次に、ステップS15において、CPU1は、定型記号認識処理を行う。この定型記号認識処理においては、まず、公知の輪郭線加重方向指数を取り、辞書の各記号データについてラベルのサイズと輪郭線加重方向指数のマッチング度を計算して、各マッチング度を正規化し、統合した結果が最も高い記号を出力する。尚、サイズと加重方向指数の他に、ペリフェラル等の他の特徴を使っても良い。また、五線消去によりラベルが切れたものの対策として、五線消去によって切れたラベルを辞書に登録し、音楽記号であると認識された場合には、その周りのラベルを結合して再認識する。
文字列認識処理では、まず、速度記号等の文字列を認識するために、定型記号認識処理で認識されたアルファベットやその他の記号を使い、その記号を囲む矩形が文字列状に並んでいるものを抽出する。そして、これと文字列辞書とのマッチングをとることで、文字列状の記号を認識する。
図4は、認識の際に候補に挙がった音楽記号を識別するためのIDの記憶方法の一例を概念的に示す図である。
図4に示すように、ステップS1で得られた楽譜の画像から抽出された音楽記号401に対して、辞書マッチング402が行われる。この辞書マッチング402においてCPU1は、音楽記号401に対するマッチング度(得点)が閾値以上である音楽記号を辞書から得ることができた場合には、音楽記号401の認識に成功したと判定する。更に、CPU1は、音楽記号401に対するマッチング度(得点)が閾値以上でない音楽記号のうち、マッチング度(得点)が高い音楽記号から順に、その音楽記号を識別するためのID403、404を、例えば、RAM3の所定の記憶領域に記憶する。
以上のように本実施形態では、ステップS13〜S16の処理を行うことにより認識手段が実現される。
次に、ステップS18において、CPU1は、認識記号のラベル消去処理を行う。認識記号のラベル消去処理においては、CPU1は、ステップS13〜S16で認識された音楽記号や、ステップS17で認識されたスラーやタイ等を画像から消去する。
以上のように本実施形態では、パート内誤認識修正処理(ステップS17)と、パート間誤認識修正処理(ステップS22)とを別々に行うようにして処理の効率化を図るようにしている。
一方、ステップS23において、楽譜画像データがOKであると判定された場合には、ステップS24を省略してステップS25に進む。
まず、ステップS101において、CPU1は、図2のステップS7で認識されたパート名に対応する楽器IDを、HDD4等に予め登録されているデータベースから取得する。楽器IDとは、演奏するための手段を識別するためのIDであり、楽器を識別するためのIDの他に、例えば合唱(の1パート)であることを識別するためのID等も楽器IDに含まれる。このステップS101では、例えば、MIDIのプログラムナンバーに対応した楽器IDを取得することができる。また、ステップS1で得られた楽譜がタブ譜であることがステップS5の五線認識処理で分かった場合には、そのタブ譜に応じた楽器IDを取得することができる。
以上のようにしてステップS104に進むと、CPU1は、ステップS101で取得した楽器IDと、前述したようにして推定したジャンルとに対応するパートテンプレート301が、認識パートテンプレート適用表にあるか否かを判定する。
図6は、認識パートテンプレート適用表の一例を示す図である。図6に示す認識パートテンプレート適用表601は、例えばHDD4に予め記憶されている。
図6において、認識パートテンプレート適用表601には、楽器IDとジャンルとに対応付けられて、パートテンプレート301を識別するための情報(テンプレート名302に格納されている情報)が記憶されている。尚、図6において、「設定なし」は、その部分に該当するパートテンプレート301がないことを示す。また、認識パートテンプレート適用表601をユーザが自由に編集する場合には、ユーザが認識し易い情報を、パートテンプレート301を識別するための情報として記憶するのが好ましい。このようにすれば、認識パートテンプレート適用表601からパートテンプレート301をユーザが容易に検索できるからである。
ステップS105に進むと、CPU1は、ステップS101で取得した楽器IDと、前述したようにして推定したジャンルとは異なるジャンルとに対応するパートテンプレート301が、認識パートテンプレート適用表601にあるか否かを判定する。この判定の結果、該当するパートテンプレート301が認識パートテンプレート適用表601にある場合には、後述するステップS107に進む。
図7は、パートテンプレート適用処理の結果の表示内容の一例を示す図である。図7に示すように、本実施形態では、パートナンバ(パートNo)と、パート名と、パートテンプレート名とが互いに関連付けられたテーブル701を、パートテンプレート適用処理の結果として、段落認識処理の結果と共に表示する。本実施形態では、テーブル701におけるパートテンプレート名の内容は、ユーザによる操作に基づいて変更することが可能になっている。
以上のように本実施形態では、ステップS101〜S105、S107の処理を行うことにより第2の取得手段が実現される。
尚、ステップS105において、ステップS101で取得した楽器IDと、推定したジャンルとは異なるジャンルとに対応するパートテンプレート301が認識パートテンプレート適用表601に複数ある場合、例えば、他のジャンルを、優先順位をつけて順に選び出し、そのジャンル内でパートテンプレート301を検索することにより、CPU1は、推定したジャンルに最も近いジャンルに対応するパートテンプレート301を取得することができる。
まず、ステップS201において、CPU1は、ユーザによる操作に基づいて、図2のステップS8のパートテンプレート適用処理で取得されたパートテンプレート301を変更するための操作がユーザによってなされたか否かを判定する。この判定の結果、パートテンプレート301を変更するための操作がユーザによってなされていない場合には、ステップS205に進み、CPU1は、その他の処理を行う。その他の処理としては、例えば、段落の認識結果の修正等をユーザの操作に基づいて行う処理が挙げられる。
一方、パートテンプレート301を変更するための操作がユーザによってなされた場合には、ステップS202に進む。
以上のように本実施形態では、ステップS201の処理を行うことにより、受付手段が実現される。
次に、ステップS204において、CPU1は、認識パートテンプレート適用表601の変更結果に基づいて、パートテンプレート適用処理の結果の表示内容(図7に示したテーブル701のパートテンプレート名の内容)を変更させる。このように本実施形態では、ステップS204の処理を行うことにより表示手段の一部が実現される。
そして、ステップS205に進み、CPU1はその他の処理を行った後、図2のステップS9に戻る。
以上のように本実施形態では、MIDIプログラムナンバーが変更するような認識パートテンプレート適用表601の変更を受け付けないようにしている。すなわち、パートテンプレート301の種類をユーザの好みに合わせて単に変更したい場合に認識パートテンプレート適用表601を変更できるようにし、パート名の認識に誤認識があった可能性がある場合には、認識パートテンプレート適用表601の変更を制限(変更できないように)している。
以上のように本実施形態では、ステップS202、S206の処理を行うことにより、制限手段が実現される。
尚、本実施形態では、MIDIプログラムナンバーが変更するような認識パートテンプレート適用表601の変更を受け付けないようにして、前述したような問題点を解消するようにしているが、必ずしもこのようにする必要はない。例えば、MIDIプログラムナンバーが変更するような認識パートテンプレート適用表601の変更を受け付けるようにしてもよい。また、前述したのと異なる方法によって、場合によってはMIDIプログラムナンバーが変更するような認識パートテンプレート適用表601の変更を受け付けないようにしてもよい。更に、認識パートテンプレート適用表601の内容を、ユーザの操作に基づいて初期状態に戻せるようにしてもよい。
まず、ステップS301において、CPU1は、図5のフローチャートにおいて、パートテンプレート301(の情報)を取得できたか否かを判定する。この判定の結果、パートテンプレート301を取得できなかった場合には、図2のステップS19に戻る。
一方、パートテンプレート301を取得できた場合には、ステップS302に進み、CPU1は、取得したパートテンプレート301(の情報)を用いて、オクターブ付き音部記号修正処理を行う。図10に、オクターブ付き音部記号1001の一例を示す。オクターブ付き音部記号修正処理においては、パートテンプレート301(の情報)を用いて、図2のステップS13で認識された音部記号を修正する。尚、オクターブ付き音部記号修正処理の詳細については後述する。
以上のように本実施形態では、図9のフローチャートを実行することにより、設定手段の一部が実現される。
まず、ステップS401において、CPU1は、図5のステップS107で取得されたパートテンプレート301の音部記号306に、オクターブ付きの音部記号に対応する数値が格納されているか否かを判定する。この判定の結果、図5のステップS107で取得されたパートテンプレート301の音部記号306に、オクターブ付きの音部記号に対応する数値が格納されていない場合には、図9のステップS303に戻る。このように本実施形態では、パートテンプレート301の音部記号306に、オクターブ付きの音部記号に対応する数値が格納されていない場合には、図3のフローチャートに戻るようにすることにより、オクターブ付き音部記号修正処理を高速化するようにしている。
ステップS402に進むと、CPU1は、図2のステップS13における音部記号の認識の結果、他の音部記号と分離された「8」が認識された部分があるか否かを判定する。この判定の結果、他の音部記号と分離された「8」が認識されていない場合には、後述するステップS407に進む。
まず、ステップS501において、CPU1は、図5のフローチャートにおいて、パートテンプレート301(の情報)を取得できたか否かを判定する。この判定の結果、パートテンプレート301を取得できなかった場合には、図2のステップS23に戻る。
一方、パートテンプレート301を取得できた場合には、ステップS502に進み、CPU1は、取得したパートテンプレート301(の情報)を用いて、調号修正処理を行う。調号修正処理においては、パートテンプレート301(の情報)を用いて、図2のステップS15で認識された調号を修正する。尚、調号修正処理の詳細については後述する。
以上のように本実施形態では、図12のフローチャートを実行することにより、設定手段の一部が実現される。
まず、ステップS601において、CPU1は、図2のステップS1で得られた楽譜の各パートの各小節について、移調量nKeyを算出する。このnKeyの値は、調号のIDから、楽典的に決められる数値であり、正負の値が存在するが、本実施形態では、12半音のうちのどの位置になるかが分かればよいとして、正のみの値とする。このnKeyは、計算式で算出してもよいが、本実施形態では、図14に示すようなテーブルを予めHDD4に記憶しておき、各調号のIDから算出される"シャープ、フラットの数(nKeyNumの絶対値)"をキーにして、図14に示すテーブルから取得される。
nAddKey=(nInstKey+nKey+96)mod12 ・・・(1)
(1)式において、modは、剰余を算出することを表している。nAddKeyについても、本実施形態では、12半音のうちどの位置になるかが分かればよいとし、(1)式に示すように、得られた値が正になるのに十分な量((1)式の例では96)を加えてから剰余をとるようにしている。(1)式の計算の結果、nAddKeyが負の値となった場合には、nAddKeyが正の値になるまで、(nInstKey+nKey+96)に12を加算して剰余をとる。また、(1)式において、nInstKeyは、図5のステップS107で取得されたパートテンプレート301に含まれる移調楽器設定305の内容である。
図15、図16は、以上のようにして算出されたnKeyとnAddKeyとの具体例を示す図である。
まず、CPU1は、nKeyの値を小節毎参照し、同じ値を有するnKeyを除くnKeyの数nElseNumを算出する。
一方、図16に示す例の小節1において、nKeyの値は0、0、7であるので、同じ値(=0)を有するnKeyを除くnKeyの数nElseNumは1である。また、図16に示す例の小節2において、nKeyの値は2、0、9であるので全て異なる。よって、同じ値を有するnKeyを除くnKeyの数nElseNumは2である。
図15に示す例の小節1において、nAddKeyの値は10、10、10であるので全て同じである。よって、同じ値を有するnAddKeyを除くnAddKeyの数nElseNumは0である。また、図15に示す例の小節2において、nAddKeyの値は0、0、0であるので全て同じである。よって、同じ値を有するnAddKeyを除くnAddKeyの数nElseNumは0である。
一方、図16に示す例の小節1において、nAddKeyの値は10、0、10であるので、同じ値(=10)を有するnKeyを除くnKeyの数nElseNumは1である。また、図16に示す例の小節2において、nAddKeyの値は0、0、0であるので全て同じである。よって、同じ値を有するnAddKeyを除くnAddKeyの数nElseNumは0である。
ステップS604に進むと、CPU1は、調号の認識に失敗しているか否かを判定する。ここで、調号の認識に失敗しているか否かを判定する方法の一例を、図15、図16を参照しながら説明する。
まず、CPU1は、nKeyについて算出したnElseNumの加算値と、nAddKeyについて算出したnElseNumの加算値とのうち、小さい方の加算値を得るために使用したnKey又はnAddKeyを各小節について参照し、それらnKey又はnAddKeyの値が全て同じである場合には調号の認識に成功したと判定し、そうでない場合には調号の認識に失敗したと判定する。
一方、図16に示す例では、nKeyについて算出したnElseNumの加算値(=3)よりも、nAddKeyについて算出したnElseNumの加算値(=1)の方が小さい。そして、nAddKeyについて算出したnElseNumの加算値(=1)を得るために使用したnAddKeyの値は、小節2においては全て同じ(=0)であるが、小節1においては1つだけ0となり、他の値(=10)と異なる。したがって、トロンボーンの小節1において調号の認識に失敗したと判定する。
ステップS605に進むと、CPU1は、ステップS604で認識に失敗したと判定された調号を修正する。ここで、調号を修正する方法の一例を、図16を参照しながら説明する。
まず、CPU1は、各小節において、調号の認識に失敗したパートのnAddKeyの値が他の値と同じになるような新たなnKeyの値を、以下の(3)式を用いて算出する。
nKey=(S−nInstKey)mod12 ・・・(3)
(3)式においても、modは、剰余を算出することを表している。また、Sは、調号の認識に失敗したパートと異なるパートのnAddKeyの値である。
そして、CPU1は、調号の認識に失敗したパートと異なるパートの内容(調号等)と、調号の認識に失敗したパートの他の小節の内容(調号等)と、調号の認識に成功したパートの他の小節の内容(調号等)と、認識に失敗した調号の配置箇所における次点IDの内容と、認識に失敗した調号よりも前にあるナチュラル(認識に失敗した調号が属する小節にあるナチュラルと、認識に失敗した調号が属する小節よりも前の小節にあるナチュラルとの少なくとも何れか一方)の状態と、認識に失敗した調号が属する小節よりも後の小節にあるナチュラルの状態との少なくとも何れか1つに基づいて修正する。
図16に示した例のように古いnKeyが0であり、新たなnKeyが0以外である場合には調号を追加することになる。また、古いnKeyが0以外であり、新たなnKeyが0以外である場合には調号を変更することになる。更に、古いnKeyが0以外であり、新たなnKeyが0である場合には、認識された調号を削除することになる。
ステップS607に進むと、CPU1は、調号として誤認識した音楽記号(削除した調号)を個々の音楽記号に分解する。
次に、ステップS608において、CPU1は、ステップS607で得られた音楽記号の親となる音楽記号(音符等)を検索する。このとき、その音楽記号が、親となる音楽記号(音符等)の臨時記号であると判定するための閾値(距離)を小さくして、その音楽記号の親となる音楽記号(音符等)を検索する。
ステップS610に進むと、CPU1は、調号として誤認識した記号(削除した調号)を臨時記号として設定する。そして、図12のステップS503に戻る。
まず、ステップS701において、CPU1は、ステップS1で得られた楽譜の一部のパートにおいて、音部記号の認識に失敗しているか否かを判定する(すなわち、一部のパートにおいて、他のパートと異なる音部記号が存在していたり、音部記号が存在していなかったりしているか否かを判定する)。この判定の結果、音部記号の認識に失敗していない場合には、図12のステップS504に戻る。一方、音部記号の認識に失敗している場合には、ステップS702に進む。
ステップS704に進むと、CPU1は、認識に失敗している音部記号をパートテンプレート301の音部記号306に変更する。そして、図12のステップS504に戻る。
ただし、より妥当な調号の修正を行うために、次点IDに加え、認識に成功している音部記号を用いて、調号の修正を行うか否かを判定するようにしてもよい。例えば、図17において、ステップS702の後に、認識に成功している他の音部記号を参照し、参照した音部記号が、認識に失敗している音部記号に対する次点ID405に対応するものであるか否かを判定し、その判定の結果、参照した音部記号が、認識に失敗している音部記号に対する次点ID405に対応するものである場合にステップS703を行い、そうでない場合に図17のフローチャートの処理を終了させるようにしてもよい。
また、前述した各実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
2 ROM
3 RAM
4 HDD
5 FDD
6 MIDI
7 スキャナインタフェース回路
8 プリンタインタフェース回路
9 キーボードインタフェース回路
10 CRTインタフェース回路
11 スキャナ
12 プリンタ
13 キーボード
14 CRT
100 楽譜認識装置
301 パートテンプレート
Claims (5)
- 紙面の楽譜の情報を含む画像を、画像読み取り手段から取得する第1の取得手段と、
前記第1の取得手段により取得された画像に含まれる楽譜を認識する認識手段と、
前記楽譜の認識後に当該楽譜に対して設定する必要がある設定情報を含むパートテンプレートを予め記憶する記憶手段と、
前記記憶手段に記憶されたパートテンプレートの中から、前記読み取り手段により読み取られた画像に含まれる楽譜に応じたパートテンプレートを取得する第2の取得手段と、
前記第2の取得手段により取得されたパートテンプレートを用いて、前記読み取り手段により読み取られた画像に含まれる楽譜に対する設定を自動的に行う設定手段と、
前記第2の取得手段により取得されたパートテンプレートを示す情報を、前記楽譜のパート毎に表示する表示手段と、
前記表示手段により表示されたパートテンプレートを示す情報に対するユーザの操作に基づいて、前記第2の取得手段により取得されたパートテンプレートの少なくとも1つの変更を受け付ける受付手段と、
前記受付手段により受け付けられたパートテンプレートの前記記憶手段による更新を制限する制限手段と、を有し、
前記記憶手段は、前記受付手段により受け付けられたパートテンプレートであって、前記制限手段により変更が制限されないパートテンプレートを、ユーザの操作に基づいて更新し、
前記表示手段は、前記記憶手段によりパートテンプレートが更新された場合には、前記取得手段により取得されたパートテンプレートを示す情報に代えて、前記更新されたパートテンプレートを示す情報を表示し、
前記制限手段は、更新によってMIDIのプログラムナンバーが変わるパートテンプレートへの更新を制限することを特徴とする楽譜認識装置。 - 紙面の楽譜の情報を含む画像を、画像読み取り手段から取得する第1の取得手段と、
前記第1の取得手段により取得された画像に含まれる楽譜を認識する認識手段と、
前記楽譜の認識後に当該楽譜に対して設定する必要がある設定情報を含むパートテンプレートを予め記憶する記憶手段と、
前記記憶手段に記憶されたパートテンプレートの中から、前記読み取り手段により読み取られた画像に含まれる楽譜に応じたパートテンプレートを取得する第2の取得手段と、
前記第2の取得手段により取得されたパートテンプレートを用いて、前記認識手段による楽譜の認識の結果を自動的に修正する設定手段とを有し、
前記設定手段は、前記認識手段により認識された楽譜の1つのパート内の情報を用いて、前記認識手段による楽譜の認識の結果を修正する処理と、前記認識手段により認識された楽譜の複数のパート内の情報を用いて、前記認識手段による楽譜の認識の結果を修正する処理とを別々に行うことを特徴とする楽譜認識装置。 - 前記第2の取得手段により取得されたパートテンプレートを示す情報を、前記楽譜のパート毎に表示する表示手段と、
前記表示手段により表示されたパートテンプレートを示す情報に対するユーザの操作に基づいて、前記第2の取得手段により取得されたパートテンプレートの少なくとも1つの変更を受け付ける受付手段と、
前記受付手段により受け付けられたパートテンプレートの前記記憶手段による更新を制限する制限手段と、を有し、
前記記憶手段は、前記受付手段により受け付けられたパートテンプレートであって、前記制限手段により変更が制限されないパートテンプレートを、ユーザの操作に基づいて更新し、
前記表示手段は、前記記憶手段によりパートテンプレートが更新された場合には、前記取得手段により取得されたパートテンプレートを示す情報に代えて、前記更新されたパートテンプレートを示す情報を表示し、
前記制限手段は、更新によってMIDIのプログラムナンバーが変わるパートテンプレートへの更新を制限することを特徴とする請求項2に記載の楽譜認識装置。 - 紙面の楽譜の情報を含む画像を、画像読み取り手段から取得する第1の取得ステップと、
前記第1の取得ステップにより取得された画像に含まれる楽譜を認識する認識ステップと、
前記楽譜の認識後に当該楽譜に対して設定する必要がある設定情報を含むパートテンプレートを予め記憶媒体に記憶する記憶ステップと、
前記記憶ステップにより記憶されたパートテンプレートの中から、前記読み取りステップにより読み取られた画像に含まれる楽譜に応じたパートテンプレートを取得する第2の取得ステップと、
前記第2の取得ステップにより取得されたパートテンプレートを用いて、前記読み取りステップにより読み取られた画像に含まれる楽譜に対する設定を自動的に行う設定ステップと、
前記第2の取得ステップにより取得されたパートテンプレートを示す情報を、前記楽譜のパート毎に表示装置に表示する表示ステップと、
前記表示ステップにより表示されたパートテンプレートを示す情報に対するユーザの操作に基づいて、前記第2の取得ステップにより取得されたパートテンプレートの少なくとも1つの変更を受け付ける受付ステップと、
前記受付ステップにより受け付けられたパートテンプレートの前記記憶ステップによる更新を制限する制限ステップと、をコンピュータに実行させ、
前記記憶ステップは、前記受付ステップにより受け付けられたパートテンプレートであって、前記制限ステップにより変更が制限されないパートテンプレートを、ユーザの操作に基づいて更新し、
前記表示ステップは、前記記憶ステップによりパートテンプレートが更新された場合には、前記取得ステップにより取得されたパートテンプレートを示す情報に代えて、前記更新されたパートテンプレートを示す情報を表示装置に表示し、
前記制限ステップは、更新によってMIDIのプログラムナンバーが変わるパートテンプレートへの更新を制限することを特徴とするコンピュータプログラム。 - 紙面の楽譜の情報を含む画像を、画像読み取り手段から取得する第1の取得ステップと、
前記第1の取得ステップにより取得された画像に含まれる楽譜を認識する認識ステップと、
前記楽譜の認識後に当該楽譜に対して設定する必要がある設定情報を含むパートテンプレートを予め記憶媒体に記憶する記憶ステップと、
前記記憶ステップにより記憶されたパートテンプレートの中から、前記読み取りステップにより読み取られた画像に含まれる楽譜に応じたパートテンプレートを取得する第2の取得ステップと、
前記第2の取得ステップにより取得されたパートテンプレートを用いて、前記認識ステップによる楽譜の認識の結果を自動的に修正する設定ステップとをコンピュータに実行させ、
前記設定ステップは、前記認識ステップにより認識された楽譜の1つのパート内の情報を用いて、前記認識ステップによる楽譜の認識の結果を修正する処理と、前記認識ステップにより認識された楽譜の複数のパート内の情報を用いて、前記認識ステップによる楽譜の認識の結果を修正する処理とを別々に行うことを特徴とするコンピュータプログラム。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007266448A JP5154886B2 (ja) | 2007-10-12 | 2007-10-12 | 楽譜認識装置及びコンピュータプログラム |
| US12/285,622 US7847175B2 (en) | 2007-10-12 | 2008-10-09 | Musical score recognition device and computer program thereof |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007266448A JP5154886B2 (ja) | 2007-10-12 | 2007-10-12 | 楽譜認識装置及びコンピュータプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2009098161A JP2009098161A (ja) | 2009-05-07 |
| JP5154886B2 true JP5154886B2 (ja) | 2013-02-27 |
Family
ID=40532897
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007266448A Expired - Fee Related JP5154886B2 (ja) | 2007-10-12 | 2007-10-12 | 楽譜認識装置及びコンピュータプログラム |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US7847175B2 (ja) |
| JP (1) | JP5154886B2 (ja) |
Families Citing this family (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009153067A (ja) * | 2007-12-21 | 2009-07-09 | Canon Inc | 画像処理方法及び画像処理装置 |
| JP5335501B2 (ja) * | 2009-03-18 | 2013-11-06 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
| KR101206351B1 (ko) | 2010-12-07 | 2012-11-29 | 한국기술교육대학교 산학협력단 | 악보인식시스템 및 이를 이용한 악보인식방법 |
| JP2012138009A (ja) * | 2010-12-27 | 2012-07-19 | Kawai Musical Instr Mfg Co Ltd | 楽譜認識装置、及びコンピュータプログラム |
| JP5765848B2 (ja) * | 2011-03-31 | 2015-08-19 | 株式会社河合楽器製作所 | 音再生プログラム及び音再生装置 |
| WO2017057694A1 (ja) * | 2015-09-30 | 2017-04-06 | ヤマハ株式会社 | 楽譜画像解析装置 |
| JP7548323B2 (ja) * | 2020-09-30 | 2024-09-10 | ヤマハ株式会社 | 情報処理方法および情報処理システム |
| JP7559792B2 (ja) * | 2022-03-18 | 2024-10-02 | ヤマハ株式会社 | 楽譜編集装置 |
| CN116665226A (zh) * | 2023-06-09 | 2023-08-29 | 厦门大学 | 一种基于深度学习的手写体五线谱谱线移除方法及系统 |
Family Cites Families (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3608674B2 (ja) * | 1995-09-29 | 2005-01-12 | 株式会社河合楽器製作所 | 楽譜認識装置 |
| JP3613356B2 (ja) | 1995-09-29 | 2005-01-26 | 株式会社河合楽器製作所 | 楽譜認識装置 |
| JP3659124B2 (ja) * | 1999-07-28 | 2005-06-15 | ヤマハ株式会社 | 譜面情報生成装置、譜面情報表示装置および記憶媒体 |
| WO2001078058A2 (en) * | 2000-04-06 | 2001-10-18 | Rainbow Music Corporation | System for playing music having multi-colored musical notation and instruments |
| JP3870671B2 (ja) * | 2000-06-26 | 2007-01-24 | ヤマハ株式会社 | 携帯端末装置 |
| KR100455751B1 (ko) * | 2001-12-18 | 2004-11-06 | 어뮤즈텍(주) | 연주악기의 소리정보를 이용한 음악분석장치 |
| JP3956961B2 (ja) * | 2004-08-02 | 2007-08-08 | ヤマハ株式会社 | 演奏データ処理装置及び方法 |
| JP4702139B2 (ja) * | 2006-03-29 | 2011-06-15 | ヤマハ株式会社 | 電子楽器 |
-
2007
- 2007-10-12 JP JP2007266448A patent/JP5154886B2/ja not_active Expired - Fee Related
-
2008
- 2008-10-09 US US12/285,622 patent/US7847175B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| US20090095144A1 (en) | 2009-04-16 |
| US7847175B2 (en) | 2010-12-07 |
| JP2009098161A (ja) | 2009-05-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2009098161A (ja) | 楽譜認識装置及びコンピュータプログラム | |
| JP2018055255A (ja) | 情報処理装置、情報処理方法及びプログラム | |
| JP5661549B2 (ja) | 帳票上の文字を認識する文字認識装置、マスク処理方法、および、マスク処理プログラム | |
| JP2012138009A (ja) | 楽譜認識装置、及びコンピュータプログラム | |
| JP5030144B2 (ja) | 楽譜認識装置およびプログラム | |
| JP5189952B2 (ja) | 楽譜認識装置、及びコンピュータプログラム | |
| JP2003242438A (ja) | 楽譜認識装置 | |
| JP5357711B2 (ja) | 文書処理装置 | |
| JP3608674B2 (ja) | 楽譜認識装置 | |
| JP2020071619A (ja) | 光学式文字認識結果の修正支援装置および修正支援用プログラム | |
| JP5770445B2 (ja) | 楽譜認識装置及びコンピュータプログラム | |
| JP2022116983A (ja) | 画像処理装置、画像処理方法及びプログラム | |
| JP3812836B2 (ja) | 楽譜認識装置 | |
| US7756872B2 (en) | Searching device and program product | |
| JP2001052110A (ja) | 文書処理方法、文書処理プログラムを記録した記録媒体及び文書処理装置 | |
| JP4738135B2 (ja) | 楽譜認識装置および楽譜認識プログラム | |
| JP5248074B2 (ja) | 楽譜認識装置、楽譜認識方法、及びコンピュータプログラム | |
| JP3613356B2 (ja) | 楽譜認識装置 | |
| JP5116073B2 (ja) | 楽譜認識装置およびプログラム | |
| JP3709991B2 (ja) | 楽譜認識装置 | |
| JP7559792B2 (ja) | 楽譜編集装置 | |
| JP3558834B2 (ja) | 楽譜認識方法及び楽譜認識プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
| JPH0997060A (ja) | 楽譜認識装置 | |
| JP3411736B2 (ja) | 楽譜認識装置 | |
| JP2011018108A (ja) | 認識文字列補正装置および認識文字列補正用プログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100924 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120622 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120703 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120827 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121127 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121206 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151214 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5154886 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |