JP2012165273A - 音源信号抽出装置、方法及びプログラム - Google Patents

音源信号抽出装置、方法及びプログラム Download PDF

Info

Publication number
JP2012165273A
JP2012165273A JP2011025320A JP2011025320A JP2012165273A JP 2012165273 A JP2012165273 A JP 2012165273A JP 2011025320 A JP2011025320 A JP 2011025320A JP 2011025320 A JP2011025320 A JP 2011025320A JP 2012165273 A JP2012165273 A JP 2012165273A
Authority
JP
Japan
Prior art keywords
frequency domain
signal
sound source
sound
domain signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011025320A
Other languages
English (en)
Other versions
JP5442652B2 (ja
Inventor
Shoichi Koyama
翔一 小山
Yuusuke Hiwazaki
祐介 日和▲崎▼
Kenichi Furuya
賢一 古家
Yoichi Haneda
陽一 羽田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2011025320A priority Critical patent/JP5442652B2/ja
Publication of JP2012165273A publication Critical patent/JP2012165273A/ja
Application granted granted Critical
Publication of JP5442652B2 publication Critical patent/JP5442652B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
  • Circuit For Audible Band Transducer (AREA)

Abstract

【課題】従来よりも小さい計算コストで音源信号を抽出する音源信号抽出技術を提供する。
【解決手段】周波数領域変換部が、二次元平面上又は一次元直線上に配置されたマイクアレーで収音した信号を周波数領域信号に変換する。窓関数部が、周波数領域信号に窓関数を乗じて窓関数後周波数領域信号を生成する。フィルタ部が、不均質波を無視した逆伝播演算に基づくフィルタを用いて、窓関数後周波数領域信号に対してフィルタ処理を行う。時間領域変換部が、フィルタ処理を行った後の信号を逆フーリエ変換により時間領域信号に変換する。
【選択図】図1

Description

この発明は、ある音場に設置されたマイクアレーで音信号を収音し、音源信号等を高いSN比で抽出する技術に関する。
非特許文献1には、多数のマイクアレーで収音された音を遠隔地で多数のスピーカアレーで再現するために、マイクアレー平面と平行な平面上の音圧勾配分布を推定する技術が記載されている。この非特許文献1に記載された技術により、マイクアレー平面と平行な平面であって音源位置を含む平面の音圧勾配分布を取得することで、音源信号を抽出することができる。
Shoichi Koyama, 他4名, "Inverse Wave Propagation in Wave Field Synthesis", AES 40th International Conference, Tokyo, Japan, October 8-10, pp.2-10
しかしながら、音源位置を含む平面全体の音圧勾配分布を取得するには、大きな計算コストを要するという問題があった。
この発明の課題は、従来よりも小さい計算コストで音源信号を抽出する音源信号抽出装置、方法及びプログラムを提供することである。
上記の課題を解決するために、不均質波を無視した逆伝播演算に基づくフィルタを用いて、音源位置のみの音圧を推定することにより音源信号を抽出する。
平面全体の音圧勾配分布ではなく、音源位置のみの音圧を推定することにより、従来よりも小さい計算コストで音源信号を抽出することができる。
第一実施形態の音源信号抽出装置の例の機能ブロック図。 第一実施形態の音源信号抽出装置のマイクアレーの配置の例を説明するための図。 第二実施形態の音源信号抽出装置の例の機能ブロック図。 第二実施形態の音源信号抽出装置のマイクアレーの配置の例を説明するための図。 音源信号抽出方法の例を示す流れ図。 音源信号の例を示す図。 マイクロホンで収音した音信号を示す図。 第二実施形態の音源信号抽出方法で抽出した音源信号を示す図。 従来の音源信号抽出方法で抽出した音源信号を示す図。
以下、図面を参照してこの発明の一実施形態を説明する。
[第一実施形態]
第一実施形態の音源信号抽出装置及び方法は、図2に示すように、z=z0の位置に配置されたNx×Ny個の無指向性のマイクロホンで構成される二次元マイクアレーM1−1,M2−1,…,MNx−Nyで収音した音信号を用いて、以下に説明する方法で、(xs,ys,zs)に位置する音源Sが発する音の信号を抽出する。
Nx,Nyは正の整数である。マイクアレーM1−1,M2−1,…,MNx−Nyを構成するマイクロホンの数は基本的には任意である。もっとも、空間的な音圧分布を取得できるだけの数のマイクロホンがあることが望ましい。マイクアレーM1−1,M2−1,…,MNx−Nyを構成するマイクロホンの各間隔は、収音する音信号の半波長以下の長さに設定することが望ましい。
z=z0の位置に配置された二次元マイクアレーM1−1,M2−1,…,MNx−Nyを構成する各マイクの位置をrij=(xi,yj,z0)と表わすことにする。音源Sの位置(xs,ys,zs)及び二次元マイクアレーM1−1,M2−1,…,MNx−Nyを構成する各マイクロホンの位置(xi,yj,z0)は既知であるとする。
第一実施形態の音源信号抽出装置は、図1に示すように周波数領域変換部1、窓関数部2、フィルタ部3、時間領域変換部4を例えば備える。音源信号抽出装置は、図5に例示された音源信号抽出方法の各ステップの処理を行う。
二次元マイクアレーM1−1,M2−1,…,MNx−Nyは、音源Sで発せられた音を収音して時間領域の音信号を生成する。生成された音信号は、周波数領域変換部1に送られる。rs=(xi,yj,z0)のマイクMi−jで収音された時間領域の時刻tの音信号をf(i,j,t)と表記する。
周波数領域変換部1は、マイクアレーM1−1,M2−1,…,MNx−Nyで収音された音信号f(i,j,t)をフーリエ変換により周波数領域信号F(i,j,ω)に変換する(ステップS1)。生成された周波数領域信号F(i,j,ω)は、窓関数部2に送られる。ωは周波数である。例えば、短時間離散フーリエ変換により周波数領域信号F(i,j,ω)が生成される。もちろん、他の既存の方法により周波数領域信号F(i,j,ω)を生成してもよい。
窓関数部2は、周波数領域信号F(i,j,ω)に窓関数を乗じて窓関数後周波数領域信号Fw(j,j,ω)を生成する(ステップS2)。窓関数後周波数領域信号Fw(j,j,ω)は、フィルタ部3に送られる。窓関数として、以下の式より定義されるいわゆるターキー(Turkey)窓関数w(i,j)を例えば用いる。Ntprは、テーパーを適用する点数であり1以上Nx,Ny以下の整数である。なお、後述するように、窓関数部2はなくてもよい。
Figure 2012165273
フィルタ部3は、下式で定義されるフィルタ処理を窓関数後周波数領域信号F(i,j,ω)に対して行い(ステップS3)、音源位置の音圧を取得することで周波数領域の音源信号であるS(ω)を抽出する。フィルタ処理を行った後の信号S(ω)は、時間領域変換部4に送られる。kは波数であり、cを音速としてk=ω/cである。下式において、波数kの左にあるjは虚数単位を意味する。H(i,j,ω)は、フィルタである。
Figure 2012165273
時間領域変換部4は、フィルタ処理を行った後の信号S(ω)を逆フーリエ変換により時間領域信号s(t)に変換する(ステップS4)。逆フーリエ変換は短時間離散逆フーリエ変換等の既存の方法を用いればよい。この時間領域信号s(t)が、音源Sの位置における信号となる。
[第二実施形態]
第一実施形態の音源信号抽出装置及び方法は二次元マイクアレーを用いるのに対して、第二実施形態の音源信号抽出装置及び方法は一次元マイクアレーを用いる。これにより、マイク数、すなわちチャネル数を少なくすることができるため、実装が比較的容易となる。
第二実施形態の音源信号抽出装置及び方法は、図4に示す第一の部屋のy=y0,z=z0の位置に配置されたNx個の無指向性のマイクで構成されるマイクアレーM1−1,M2−1,…,MNx−1で収音した音信号を用いて、(xs,ys,zs)に位置する音源Sが発する音の信号を抽出する。
Nxは正の整数である。マイクアレーM1−1,M2−1,…,MNx−1を構成するマイクロホンの数は基本的には任意である。もっとも、空間的な音圧分布を取得できるだけの数のマイクロホンがあることが望ましい。マイクアレーM1−1,M2−1,…,MNx−1を構成するマイクロホンの各間隔は、収音する音信号の半波長以下の長さに設定することが望ましい。
z=z0,y=y0の位置に配置されたマイクアレーM1−1,M2−1,…,MNx−1を構成する各マイクの位置をri=(xi,y0,z0)と表わすことにする。音源Sの位置(xs,ys,zs)及びマイクアレーM1−1,M2−1,…,MNx−1を構成する各マイクロホンの位置(xi,y0,z0)は既知であるとする。
第二実施形態の音源信号抽出装置は、図3に示すように周波数領域変換部1、窓関数部2、フィルタ部3、時間領域変換部4を例えば備える。音源信号抽出装置は、図5に例示された音源信号抽出方法の各ステップの処理を行う。
マイクアレーM1−1,M2−1,…,MNx−1は、音源Sで発せられた音を収音して時間領域の音信号を生成する。生成された音信号は、周波数領域変換部1に送られる。ri=(xi,y0,z0)のマイクMi−1で収音された時間領域の時刻tの音信号をf(i,t)と表記する。
周波数領域変換部1は、マイクアレーM1−1,M2−1,…,MNx−1で収音された音信号f(i,t)をフーリエ変換により周波数領域信号F(i,ω)に変換する(ステップS1)。生成された周波数領域信号F(i,ω)は、窓関数部2に送られる。ωは周波数である。例えば、短時間離散フーリエ変換により周波数領域信号F(i,ω)が生成される。もちろん、他の既存の方法により周波数領域信号F(i,ω)を生成してもよい。
窓関数部2は、周波数領域信号F(i,ω)に窓関数を乗じて窓関数後周波数領域信号Fw(i,ω)を生成する(ステップS2)。窓関数後周波数領域信号Fw(i,ω)は、フィルタ部3に送られる。窓関数として、以下の式より定義されるいわゆるターキー(Turkey)窓関数wx(i)を例えば用いる。Ntprは、テーパーを適用する点数であり1以上Nx以下の整数である。
Figure 2012165273
フィルタ部3は、下式で定義されるフィルタ処理を窓関数後周波数領域信号F(i,ω)に対して行い(ステップS3)、音源位置の音圧を取得することで周波数領域の音源信号であるS(ω)を抽出する。フィルタ処理を行った後の信号S(ω)は、時間領域変換部4に送られる。kは波数であり、cを音速としてk=ω/cである。下式において、波数kの左にあるjは虚数単位を意味する。H(i,ω)は、フィルタである。
Figure 2012165273
上記式において、Hn (1)(・)は、第一種ハンケル関数である。第一種ハンケル関数Hn (1)(x)は、第一種ベッセル関数Jn(x)及び第二種ベッセル関数Yn(x)を用いて以下のように定義される。
Figure 2012165273
時間領域変換部4は、フィルタ処理を行った後の信号S(ω)を逆フーリエ変換により時間領域信号s(t)に変換する(ステップS4)。逆フーリエ変換は短時間離散逆フーリエ変換等の既存の方法を用いればよい。この時間領域信号s(t)が、音源Sの位置における信号となる。
[理論的背景]
以下、第一実施形態、第二実施形態においてフィルタ部3の処理がそれぞれ式(1)、式(2)となる理由を説明する。以下では、表記の簡略化のためにωを記載しない場合がある。
レイリー方程式に基づいて、図2においてz=z0の平面上の位置r0=(x0,y0,z0)の音圧P(r0)を用いて音源位置rsの音圧P(rs)を推定すると以下のようになる。
Figure 2012165273
ここで、κ−1は、核関数である。
Figure 2012165273
kx、kyは、それぞれx方向の波数、y方向の波数である。核関数κ−1は、均質波に対応する成分κ1 −1と不均質波に対応する成分κ2 −1との和に分解することが可能である。一般に音場の再生に寄与しないと考えられる不均質波に対応する成分を無視すると、核関数κ−1は、以下のように近似できる。
Figure 2012165273
式(4)の右辺を式(3)に代入すると以下のようになる。
Figure 2012165273
上記式のP(rs)が第一実施形態のS(ω)に対応し、P(r0)がFw(i,j,ω)に対応する。上記式を離散的に表現したものが式(1)である。
直線上にマイクロホンが配置されている第二実施形態においても、上記と同様に核関数κ−1の不均質波に対応する成分κ2 −1を無視することにより、式(2)が得られる。
[シミュレーション結果]
4cm間隔で直線状に96ch配置された直線上のマイクアレーの中心から2mの位置に一般的な密閉型スピーカを置き、第二実施形態の音源信号抽出方法によって音源信号を抽出した結果を示す。スピーカから再生した音源信号は、図6のような10秒間の音声(女声+男声)である。
このとき,音源から最も近い距離にあるマイクによる収音信号は、図7のようになった。この信号と原音声のSN比は、5.55dBである。SN比の計算に際しては、相互相関を用いて時間差を補正し、最小二乗法によって誤差が最小になるように振幅を補正した。
図8が提案法によって抽出した音源信号である。音源位置は既知としている。このときのSN比は20.07dBとなった。
図9は、マイクアレー信号に時間差を与え和をとる従来の焦点形成による結果である。この際、SN比最大化の観点から焦点位置までの距離で信号を割る処理を加えている。このときのSN比は5.43dBであった。
このように、音源位置の音圧を推定することにより、従来よりも高いSN比で音源信号を抽出することができる。
[変形例等]
窓関数部2はなくてもよい。この場合、フィルタ部3は、窓関数後周波数領域信号Fw(i,j,ω)又はFw(i,ω)ではなく周波数領域信号F(i,j,ω)又はF(i,ω)に対して、窓関数部2がある場合と同様のフィルタ処理を行う。この場合、第一実施形態のフィルタ部3は、具体的には以下の式により定義されるフィルタ処理を行う。
Figure 2012165273
また、この場合、第二実施形態のフィルタ部3は、具体的には以下の式により定義されるフィルタ処理を行う。
Figure 2012165273

音源信号抽出装置は、コンピュータによって実現することができる。この場合、この装置の各部の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、この装置における各部がコンピュータ上で実現される。
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、これらの装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
この発明は、上述の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。
1 周波数領域変換部
2 窓関数部
3 フィルタ部
4 時間領域変換部

Claims (7)

  1. (xs,ys,zs)に位置する音源から発せられた音をマイクアレーで収音することにより得られた音信号をフーリエ変換により周波数領域信号に変換する周波数領域変換部と、
    Nx,Nyを正の整数とし、上記マイクアレーはz=z0の二次元平面上に配置されたNx×Ny個のマイクロホンで構成されており、x方向にi番目でありy方向にj番目のマイクロホンの位置を(xi,yj,z0)と表記し、ωを周波数、cを音速、k=ω/cを波数、H(i,j,ω)をフィルタ、(xi,yj,z0)に位置するマイクロホンに対応する周波数領域信号をF(i,j,ω)として、
    Figure 2012165273

    上記式で定義されるフィルタ処理を上記周波数領域信号F(i,j,ω)に対して行うフィルタ部と、
    上記フィルタ処理を行った後の信号を逆フーリエ変換により時間領域信号に変換する時間領域変換部と、
    を含む音源信号抽出装置。
  2. 請求項1の音源信号抽出装置において、
    上記周波数領域信号に窓関数を乗じて窓関数後周波数領域信号を生成する窓関数部を更に含み、
    上記フィルタ部は、上記(xi,yj,z0)に位置するマイクロホンに対応する窓関数後周波数領域信号をFw(i,j,ω)として、
    Figure 2012165273

    上記式で定義されるフィルタ処理を上記周波数領域信号F(i,j,ω)に対して行うことを特徴とする、
    音源信号抽出装置。
  3. (xs,ys,zs)に位置する音源から発せられた音をマイクアレーで収音することにより得られた音信号をフーリエ変換により周波数領域信号に変換する周波数領域変換部と、
    Nxを正の整数とし、上記マイクアレーは(z,y)=(z0,y0)の直線上に配置されたNx個のマイクロホンで構成されており、x方向にi番目のマイクロホンの位置を(xi,y0,z0)と表記し、ωを周波数、cを音速、k=ω/cを波数、H(i,ω)をフィルタ、(xi,y0,z0)に位置するマイクロホンに対応する周波数領域信号をF(i,ω)、Hn (1)(・)を第一種ハンケル関数として、
    Figure 2012165273

    上記式で定義されるフィルタ処理を上記周波数領域信号F(i,ω)に対して行うフィルタ部と、
    上記フィルタ処理を行った後の信号を逆フーリエ変換により時間領域信号に変換する時間領域変換部と、
    を含む音源信号抽出装置。
  4. 請求項3の音源信号抽出装置において、
    上記周波数領域信号に窓関数を乗じて窓関数後周波数領域信号を生成する窓関数部を更に含み、
    上記フィルタ部は、上記(xi,y0,z0)に位置するマイクロホンに対応する窓関数後周波数領域信号をFw(i,ω)として、
    Figure 2012165273

    上記式で定義されるフィルタ処理を上記周波数領域信号F(i,j,ω)に対して行うことを特徴とする、
    音源信号抽出装置。
  5. 周波数領域変換部が、(xs,ys,zs)に位置する音源から発せられた音をマイクアレーで収音することにより得られた音信号をフーリエ変換により周波数領域信号に変換する周波数領域変換ステップと、
    フィルタ部が、Nx,Nyを正の整数とし、上記マイクアレーはz=z0の二次元平面上に配置されたNx×Ny個のマイクロホンで構成されており、x方向にi番目でありy方向にj番目のマイクロホンの位置を(xi,yj,z0)と表記し、ωを周波数、cを音速、k=ω/cを波数、H(i,j,ω)をフィルタ、(xi,yj,z0)に位置するマイクロホンに対応する周波数領域信号をF(i,j,ω)として、
    Figure 2012165273

    上記式で定義されるフィルタ処理を上記周波数領域信号F(i,j,ω)に対して行うフィルタステップと、
    時間領域変換部が、上記フィルタ処理を行った後の信号を逆フーリエ変換により時間領域信号に変換する時間領域変換ステップと、
    を含む音源信号抽出方法。
  6. 周波数領域変換部が、(xs,ys,zs)に位置する音源から発せられた音をマイクアレーで収音することにより得られた音信号をフーリエ変換により周波数領域信号に変換する周波数領域変換ステップと、
    フィルタ部が、Nxを正の整数とし、上記マイクアレーは(z,y)=(z0,y0)の直線上に配置されたNx個のマイクロホンで構成されており、x方向にi番目のマイクロホンの位置を(xi,y0,z0)と表記し、ωを周波数、cを音速、k=ω/cを波数、H(i,ω)をフィルタ、(xi,y0,z0)に位置するマイクロホンに対応する周波数領域信号をF(i,ω)、Hn (1)(・)を第一種ハンケル関数として、
    Figure 2012165273

    上記式で定義されるフィルタ処理を上記周波数領域信号F(i,ω)に対して行うフィルタステップと、
    時間領域変換部が、上記フィルタ処理を行った後の信号を逆フーリエ変換により時間領域信号に変換する時間領域変換ステップと、
    を含む音源信号抽出方法。
  7. 請求項1から4に記載された音源信号抽出装置の各部としてコンピュータを機能させるための音源信号抽出プログラム。
JP2011025320A 2011-02-08 2011-02-08 音源信号抽出装置、方法及びプログラム Expired - Fee Related JP5442652B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011025320A JP5442652B2 (ja) 2011-02-08 2011-02-08 音源信号抽出装置、方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011025320A JP5442652B2 (ja) 2011-02-08 2011-02-08 音源信号抽出装置、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2012165273A true JP2012165273A (ja) 2012-08-30
JP5442652B2 JP5442652B2 (ja) 2014-03-12

Family

ID=46844216

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011025320A Expired - Fee Related JP5442652B2 (ja) 2011-02-08 2011-02-08 音源信号抽出装置、方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5442652B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0587619A (ja) * 1991-09-26 1993-04-06 Ono Sokki Co Ltd 音抽出方法及び装置
JP2011244306A (ja) * 2010-05-20 2011-12-01 Nippon Telegr & Teleph Corp <Ntt> 音場収音再生装置、方法及びプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0587619A (ja) * 1991-09-26 1993-04-06 Ono Sokki Co Ltd 音抽出方法及び装置
JP2011244306A (ja) * 2010-05-20 2011-12-01 Nippon Telegr & Teleph Corp <Ntt> 音場収音再生装置、方法及びプログラム

Also Published As

Publication number Publication date
JP5442652B2 (ja) 2014-03-12

Similar Documents

Publication Publication Date Title
JP5346321B2 (ja) 音場収音再生装置、方法及びプログラム
US20210089967A1 (en) Data training in multi-sensor setups
EP3189521B1 (en) Method and apparatus for enhancing sound sources
CN105264911B (zh) 音频设备
JP6485711B2 (ja) 音場再現装置および方法、並びにプログラム
CN106797526B (zh) 音频处理装置、方法和计算机可读记录介质
JP2018170717A (ja) 収音装置、プログラム及び方法
JP2011254243A (ja) 音場収音再生装置、方法及びプログラム
JP5603307B2 (ja) 音場収音再生装置、方法及びプログラム
CN110890100B (zh) 语音增强、多媒体数据采集、播放方法、装置及监控系统
JP5583089B2 (ja) 音場収音再生装置、方法及びプログラム
JP5442652B2 (ja) 音源信号抽出装置、方法及びプログラム
JP5628219B2 (ja) 音場収音再生装置、方法及びプログラム
JP2015037207A (ja) 音場収音再生装置、方法及びプログラム
JP6323901B2 (ja) 収音装置および収音方法、並びにプログラム
JP5713964B2 (ja) 音場収音再生装置、方法及びプログラム
CN109640242A (zh) 音频源分量及环境分量提取方法
JP5698164B2 (ja) 音場収音再生装置、方法及びプログラム
JP5762478B2 (ja) ノイズ抑圧装置、ノイズ抑圧方法、及びそのプログラム
CN105792075B (zh) 一种串声消除滤波器的生成方法及三维声音重放方法
JP6087760B2 (ja) 音場収音再生装置、方法及びプログラム
JP5513316B2 (ja) 音場収音再生装置、方法及びプログラム
JP2015118284A (ja) 音処理装置、音処理方法
JP5713988B2 (ja) 音場収音再生装置、方法、およびプログラム
JP5826737B2 (ja) 音場収音再生装置、方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130909

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131218

R150 Certificate of patent or registration of utility model

Ref document number: 5442652

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees