JP2017204838A - Information processing apparatus and information processing method - Google Patents
Information processing apparatus and information processing method Download PDFInfo
- Publication number
- JP2017204838A JP2017204838A JP2016097383A JP2016097383A JP2017204838A JP 2017204838 A JP2017204838 A JP 2017204838A JP 2016097383 A JP2016097383 A JP 2016097383A JP 2016097383 A JP2016097383 A JP 2016097383A JP 2017204838 A JP2017204838 A JP 2017204838A
- Authority
- JP
- Japan
- Prior art keywords
- range
- imaging
- information processing
- preset
- specific objects
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
本発明は、情報処理装置および情報処理方法に関する。 The present invention relates to an information processing apparatus and an information processing method.
従来、監視カメラで撮像された画像を解析することで、画像内の人数をカウントする方法が知られている。例えば、特許文献1には、動画像を解析して撮影範囲内の人物を検出する技術が開示されている。特許文献2には、検出した人物を追跡することで既定の領域を通過した人数をカウントする技術が開示されている。
Conventionally, a method of counting the number of people in an image by analyzing an image captured by a surveillance camera is known. For example,
しかしながら、特許文献1、2に開示された技術では、人物の検出の範囲は撮影の範囲に限定されている。
However, in the techniques disclosed in
本発明はこうした課題に鑑みてなされたものであり、その目的は、より広い範囲を対象として人数をカウントすることを可能にした処理技術の提供にある。 The present invention has been made in view of these problems, and an object thereof is to provide a processing technique that makes it possible to count the number of people in a wider range.
本発明のある態様は情報処理装置に関する。この情報処理装置は、第1の範囲を撮像した画像から、第1の範囲における特定の物体を検出する検出手段と、検出手段による検出の結果に基づいて第1の範囲における特定の物体の数を算出する第1算出手段と、第1算出手段によって算出された数に基づいて、第1の範囲よりも大きい第2の範囲における特定の物体の数を算出する第2算出手段と、を備える。 One embodiment of the present invention relates to an information processing apparatus. The information processing apparatus includes: a detecting unit that detects a specific object in the first range from an image obtained by imaging the first range; and the number of specific objects in the first range based on a detection result by the detecting unit. And a second calculation means for calculating the number of specific objects in a second range larger than the first range based on the number calculated by the first calculation means. .
本発明によれば、より広い範囲を対象として人数をカウントできる。 According to the present invention, the number of people can be counted for a wider range.
以下、図面を参照して本発明の実施の形態を説明する。ただし、本発明の実施の形態は以下の実施の形態に限定されるものではない。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、各図面において説明上重要ではない部材の一部は省略して表示する。 Embodiments of the present invention will be described below with reference to the drawings. However, embodiments of the present invention are not limited to the following embodiments. The same or equivalent components, members, and processes shown in the drawings are denoted by the same reference numerals, and repeated descriptions are omitted as appropriate. In addition, in the drawings, some of the members that are not important for explanation are omitted.
実施の形態に係る情報処理装置は、プリセット巡回を行っているカメラなどの撮像装置から得られた動画像、静止画像などの画像のうち人の検出に適した画像について、人の検出を実行し、人数を算出する。情報処理装置は、人の検出を実行した画像に対応する範囲の大きさと、算出された人数と、人数カウントを行いたい対象範囲の大きさと、から対象範囲内の人数を推定する。これにより、監視等の目的のために設けられた既存のプリセット巡回機能を、人数カウントのために併用することが可能となる。 The information processing apparatus according to the embodiment performs human detection on an image suitable for human detection among images such as a moving image and a still image obtained from an imaging device such as a camera that performs preset patrol. Calculate the number of people. The information processing apparatus estimates the number of people in the target range from the size of the range corresponding to the image on which the person is detected, the calculated number of people, and the size of the target range for which the number of people is to be counted. As a result, the existing preset patrol function provided for the purpose of monitoring or the like can be used together for counting the number of people.
(実施の形態)
図1は、実施の形態に係る情報処理装置103を備える情報処理システム100の模式図である。情報処理システム100は、情報処理装置103と、少なくともひとつのネットワークカメラ102と、を備える。情報処理装置103とネットワークカメラ102とはインターネットなどのネットワーク101を介して接続される。
(Embodiment)
FIG. 1 is a schematic diagram of an
ネットワークカメラ102は、劇場や映画館、スタジアムなどに設置される監視カメラであってもよく、パン・チルト・ズーム(Pan-Tilt-Zoom、以下「PTZ」と称す)制御可能に構成される。ネットワークカメラ102は、パンおよびチルト制御用の雲台を有する。ネットワークカメラ102は、動画像をネットワーク101に配信する。
The
情報処理装置103は、ネットワークカメラ102の雲台の制御およびネットワークカメラ102からの動画像の画質等の制御を行い、ネットワークカメラ102から配信された動画像を解析処理する。なお、ネットワークカメラ102、情報処理装置103はそれぞれ複数存在してもよい。
The
以下、実施の形態に係る情報処理装置103による人数のカウント処理について説明する。図2は、図1のネットワークカメラ102の機能および構成を示すブロック図である。ネットワークカメラ102は、撮像部201と、カメラ制御部202と、処理部203と、通信部204と、記憶部205と、を含む。
Hereinafter, the process of counting the number of people by the
撮像部201は、実空間内の撮像対象領域を撮像することにより動画像を生成する。撮像部201は、CCD(Charge Coupled Device)やCMOS(Complementary MOS)イメージセンサなどの撮像素子と、撮像方向を変えるための雲台と、ズームやフォーカスや絞りなどの撮像の設定を変更する機構と、動画像に対するマスキング処理や時刻重畳処理を行う機構と、輝度や色調を変更する画像処理の機構と、を含む。
カメラ制御部202は、制御コマンドを受けて撮像部201を制御する。
The
The
処理部203は、通信部204経由で外部からリクエストコマンドを受け付け、受け付けたリクエストコマンドを解析し実行する。例えば、リクエストコマンドがネットワークカメラ102の制御のリクエストに関するコマンドであれば、処理部203はそのコマンドを制御コマンドに変換しカメラ制御部202に送る。カメラ制御部202は受けた制御コマンドを実行する。また、リクエストコマンドがネットワークカメラ102の設定の状態の問い合わせに関するコマンドであれば、処理部203は記憶部205より該当する状態を取得し、レスポンス形式に変換して返信する。
The
通信部204は、他の装置との通信を行う。通信部204はネットワーク101と接続されネットワーク101とのインタフェースとして機能する。
記憶部205は、ネットワークカメラ102の機種情報や名称や設定などを記憶している。
The
The
図3(a)は、図1の情報処理装置103の機能および構成を示すブロック図である。情報処理装置103は、通信部301と、カメラ状態管理部302と、コマンド管理部303と、動画像管理部304と、解析処理部305と、記憶部306と、記録部307と、受付部308と、入力部309と、表示制御部310と、ディスプレイ311と、を備える。
FIG. 3A is a block diagram illustrating the function and configuration of the
通信部301は、他の装置との通信を行う。通信部301はネットワーク101と接続されネットワーク101とのインタフェースとして機能する。
カメラ状態管理部302は、解析対象とするネットワークカメラ102から該カメラ102の状態を取得するか、または該カメラからの状態変更の通知を受ける。カメラ状態管理部302は、取得された状態または受けた通知に基づいて、ネットワークカメラ102の雲台や撮像機構の状態を把握し管理する。カメラ状態管理部302は、ネットワークカメラ102の状態と時刻とを対応付けてカメラ状態テーブル502(図5(b)で後述)に登録する。
The
The camera
コマンド管理部303は、ネットワークカメラ102の雲台や撮像機構を所望の状態に変更するためのリクエストコマンドやネットワークカメラ102から動画像を取得するためのリクエストコマンドを生成し、送信する。
The
動画像管理部304は、ネットワークカメラ102によって撮像された動画像を、ネットワーク101を介してネットワークカメラ102から取得する取得部として機能する。動画像管理部304は、ネットワークカメラ102から配信された動画像の取得および管理を行う。なお、本実施の形態では、コマンド管理部303は、人数のカウント処理に先だって、解像度(1280x720、640x360、320x180等)・フレームレート・フォーマットでの動画像をネットワークカメラ102に要求する。動画像管理部304は、該要求に応じてネットワークカメラ102から送信される動画像を受信する。指定される解像度・フレームレート・フォーマットなどの設定として、人数のカウント処理と並行して行われる監視処理などの別の処理で使用されるべき設定が用いられてもよい。あるいはまた、情報処理装置103が人数のカウント処理に最適な設定を適用してもよい。
The moving
解析処理部305は、ネットワークカメラ102からの動画像に対して画像内の人の検出および検出された人のカウントを行う。
記憶部(Storage unit)306は、プログラムやデータを一時記憶するRAM(Random Access Memory)などであり、解析処理部305で実行された解析処理の結果を一時的に記憶する。記憶部306はまた、解析処理を実施した画像が撮像された時刻におけるネットワークカメラ102の状態をカメラ状態管理部302から取得して一時的に記憶する。
The
The storage unit (Storage unit) 306 is a RAM (Random Access Memory) that temporarily stores programs and data, and temporarily stores the results of the analysis processing executed by the
記録部(Recording unit)307は、ハードディスクや光ディスクやメモリカードなどであり、ネットワークカメラ102における設定が記録される。
入力部309はマウスなどのポインティングデバイスやキーボードなどの、ユーザが入力のために操作する装置である。
受付部308は、入力部309を介してユーザから、範囲指定などのユーザ入力を受け付ける。
ディスプレイ311は、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などである。表示制御部310はディスプレイ311を制御する。
表示制御部310はディスプレイ311で表示されるべき画面に対応するデータを生成してディスプレイ311に提供する。
A
The
The accepting
The
The
図3(b)は、図1の情報処理装置103のハードウエア構成図である。CPU320は、主として各構成要素の動作を制御する。主メモリ321は、CPU320が実行する制御プログラムを格納したり、CPU320によるプログラム実行時の作業領域を提供したりする。磁気ディスク322は、オペレーティングシステム(OS)と、周辺機器のデバイスドライバと、後述する処理等を行うためのプログラムを含む各種アプリケーションソフトを実現するためのプログラムと、を格納する外部記憶装置の一例である。CPU320が主メモリ321、磁気ディスク322に格納されているプログラムを実行することにより、図3(a)に示した情報処理装置103の機能(ソフトウエア)及び後述するフローチャートにおける処理が実現される。なお、磁気ディスク322に記憶されたプログラムは必要に応じて主メモリ321に展開され、CPU320により実行される。表示メモリ323は、表示用データを一時記憶する。マウス324及びキーボード325は上述の通りである。上記各構成要素は、共通バス326により互いに通信可能に接続されている。
FIG. 3B is a hardware configuration diagram of the
図3(b)に示す例では、ハードウエアとしてCPU320は1つのみ図示されているが、複数のCPUを有していてもよい。あるいはGPUを有していてもよい。何れにしてもハードウエア資源としてCPUやGPU等の演算処理装置(プロセッサ)を複数単位有していてよい。また、プログラムを記憶する磁気ディスク322は、複数個設けられていてもよい。あるいは別の実施の形態では、図3(a)に示される機能のうちの少なくとも一部または全部を、1または複数の専用ハードウエア回路として実装してもよい。
In the example shown in FIG. 3B, only one
図4は、図3(a)の解析処理部305の機能および構成を示すブロック図である。解析処理部305は、プリセット巡回設定部401と、対象範囲設定部402と、状態取得部403と、動画像取得部404と、判定部405と、検出部406と、撮像人数算出部407と、全体人数算出部408と、を含む。図5(a)、(b)、(c)はそれぞれプリセットテーブル501、カメラ状態テーブル502、カウント結果テーブル503の一例を示すデータ構造図である。これらのテーブルは記録部307に保持される。
FIG. 4 is a block diagram showing the function and configuration of the
プリセット巡回設定部401は、ネットワークカメラ102の制御の設定、例えばプリセット巡回の設定を行う。雲台の状態を指定するパラメータ(パン、チルト)および撮像設定を指定するパラメータ(ズーム、フォーカス、絞り)の組はプリセットと称される。プリセット巡回では、異なる複数のプリセットが設定される。さらにプリセット巡回では、各プリセットの順番、プリセットを変更する場合の雲台の動作速度および各プリセットに設定が移った後の待機時間が設定される。これらを合わせてプリセット巡回設定と称す。ネットワークカメラ102は、プリセット巡回設定により、複数の所定の範囲が順番に撮像されるよう設定される。複数の所定の範囲のそれぞれは、プリセット巡回設定に含まれる異なる複数のプリセットのそれぞれに対応する。以下、複数の所定の範囲のそれぞれをプリセット撮像範囲と称す。
The preset
プリセット巡回設定部401は、受付部308および入力部309を介してユーザからプリセット巡回設定の指定を受け付ける。プリセット巡回設定部401は、指定されたプリセット巡回設定をプリセットテーブル501(図5(a))に格納する。プリセットテーブル501は、プリセットを特定するプリセットIDと、プリセット(パン、チルト、ズーム、フォーカス、絞り)と、動作速度と、待機時間と、を対応付けて保持する。プリセットIDはプリセットを特定すると共に、プリセット巡回における該プリセットの順番を表す。図5(a)の例では、プリセット巡回はプリセットID「1」のエントリに含まれるプリセットから始まり、プリセットID「1」、「2」、「3」、…と順番に遷移する。そして、プリセット巡回は、プリセットID「13」のプリセットで待機時間「rs」が経過するとプリセットID「1」に戻る。ネットワークカメラ102の動作で説明すると、ネットワークカメラ102はプリセットID「1」に対応するプリセット撮像範囲を撮像し、次にプリセットID「2」に対応するプリセット撮像範囲を撮像する。プリセットID「3」、「4」、…と順番に撮像してネットワークカメラ102がプリセットID「13」に対応する最後のプリセット撮像範囲を撮像すると、プリセットID「1」に対応する最初のプリセット撮像範囲の撮像に戻る。
The preset
対象範囲設定部402は、人数をカウントする対象とする対象範囲を設定し、記録部307に格納する。対象範囲設定部402は、表示制御部310を介してディスプレイ311に、対象範囲を設定するための設定画面を表示させる。対象範囲設定部402は、ユーザが入力部309を使用して設定画面で指定した対象範囲を受付部308を介して受け付ける。対象範囲設定部402は、指定された対象範囲を記録部307に格納する。
The target
図6は、ディスプレイ311に表示される設定画面601の代表画面図である。設定画面601は、撮像可能範囲602と、対象範囲603と、撮像範囲604と、を有する。撮像可能範囲602は、対象のネットワークカメラ102の雲台の動作可能範囲と撮像画角とから計算した撮像が可能な範囲である。撮像範囲604は、対象のネットワークカメラ102の現在の撮像状態から計算した撮像の範囲である。ユーザは、マウスなどのポインティングデバイスを用いて、設定画面601上で対象範囲603を描画する。図6に示される対象範囲603は、ユーザが設定した対象範囲の一例である。対象範囲603は、通常、撮像範囲604よりも大きく設定される。このように、設定画面601は、ユーザによるネットワークカメラ102の撮像可能範囲602に対する対象範囲603の指定を可能とする。
FIG. 6 is a representative screen diagram of the
なお、撮像可能範囲602の背景に、ネットワークカメラ102が撮像した画像を合成したパノラマ画像が表示されてもよい。また、対象範囲603は撮像可能範囲602よりも大きく設定されてもよい。
Note that a panoramic image obtained by combining images captured by the
図4に戻り、状態取得部403は、プリセット巡回において新たなプリセットへの変更が要求されると、それまでのプリセットにしたがい設定されていたネットワークカメラ102の状態をカメラ状態テーブル502(図5(b))から取得する。カメラ状態テーブル502は、時刻と、その時刻におけるネットワークカメラ102の状態(パン、チルト、ズーム、フォーカス、絞り、解像度、フレームレート、フォーマット)と、を対応付けて保持する。状態取得部403は、カメラ状態テーブル502において時刻をキーにして求める状態を特定し、特定された状態を取得する。
Returning to FIG. 4, when a change to a new preset is requested in the preset tour, the
動画像取得部404は、状態取得部403で取得された状態に対応する動画像を動画像管理部304から取得する。すなわち、動画像取得部404は、新たなプリセットへの変更が要求された場合に、それまでのプリセットに対応するプリセット撮像範囲を撮像した動画像を取得する。
The moving
判定部405は、動画像取得部404によって取得された動画像が、人の検出に関する基準を満たすか否かを判定する。満たすと判定された場合、人数のカウント処理が実施され、そうでなければ人数のカウント処理は実施されないかスキップされる。例えば、判定部405は、取得された動画像やネットワークカメラ102の状態から、ピントが合っているか否かの指標、例えば動画像の合焦の度合いを算出する。判定部405は、算出された度合いが人の検出に必要な度合いを上回る場合に基準が満たされたと判定し、そうでなければ満たされないと判定する。別の例では、判定部405は、取得されたネットワークカメラ102の状態から被写体までの距離を算出する。判定部405は、算出された距離とズームの状態とから、撮像部201の撮像素子上でプリセット撮像範囲が占める画素数を算出する。判定部405は、算出された画素数が人の検出に必要な画素数を上回る場合に基準が満たされたと判定し、そうでなければ満たされないと判定する。これは、デジタルズームが大きいことにより人検出に必要な画質が得られない場合には人検出を行わないことに対応する。
The
検出部406は、判定部405において満たすと判定された場合、動画像取得部404によって取得された動画像から、プリセット撮像範囲における人を検出する。検出部406における人検出処理は、公知の画像認識技術を使用して実現されてもよい。
If the
撮像人数算出部407は、検出部406による検出の結果に基づいて、プリセット撮像範囲における人の数を算出する。撮像人数算出部407は、算出された人数と状態取得部403で取得された状態と対応付けてカウント結果テーブル503(図5(c))に登録する。その結果、カウント結果テーブル503には、プリセットのそれぞれに対応してカウントされた人数が登録されることとなる。カウント結果テーブル503は、プリセットに対応するネットワークカメラ102の状態(パン、チルト、ズーム、フォーカス、絞り、解像度、フレームレート、フォーマット)と、カウントされた人数と、を対応付けて保持する。撮像人数算出部407は、登録しようとするネットワークカメラ102の状態が既にカウント結果テーブル503に登録されている場合、その状態に対応する人数を更新すなわち上書きしてもよい。なお、このような状況が発生するのは、例えばプリセット巡回の二周目以降であり、一周目で登録された人数が二周目の同じプリセットでカウントされた人数で上書きされる。
The number-of-imaging
全体人数算出部408は、撮像人数算出部407によって算出された人数と、プリセット撮像範囲の大きさと、対象範囲の大きさと、に基づいて、対象範囲における人の数を算出する。具体的には、全体人数算出部408は、カウント結果テーブル503を参照し、利用可能な状態とカウント人数との組を特定する。例えば、プリセット巡回の一周目でプリセットID「5」への変更が要求されたときには、プリセットID「1」、「2」、「3」、「4」のそれぞれに対応する状態と人数との組が利用可能となる。二周目以降では、判定部405による判定結果にもよるが、全てのプリセットIDに対応する組が利用可能となる場合がある。全体人数算出部408は特定された組のそれぞれに対応するプリセット撮像範囲の大きさを算出する。全体人数算出部408は算出されたプリセット撮像範囲の大きさを合計する。全体人数算出部408は、特定された組の人数を合計する。全体人数算出部408は、記録部307から対象範囲の大きさを取得する。プリセット撮像範囲間に重なりがない場合、全体人数算出部408は、取得された対象範囲の大きさをプリセット撮像範囲の大きさの合計で除して得られる値を、人数の合計に乗じることで、対象範囲における人の数を算出する。
The total
重なりがある場合、全体人数算出部408は、プリセット撮像範囲の大きさの合計にさらに重なり部分の大きさの合計を加えて有効大きさを得る。重なり部分の大きさの合計は重なりの度合いを表す。全体人数算出部408は、取得された対象範囲の大きさを有効大きさで除して得られる値を、人数の合計に乗じることで、対象範囲における人の数を算出する。重なりがある場合、重なり部分で検出される人は複数回カウントされるので、人数の合計は実際の人数の合計よりも多くなる。しかしながら、プリセット撮像範囲の大きさにも重なり部分の大きさが加えられるので、比の値としては実際とそれほど変わらなくなる。これにより、実際に重なり部分に何人いるかをカウントしなくても、対象範囲における人の数の推定値を得ることができる。これは、そもそも全体人数算出部408で算出される人数は推定値なので、重なりの処理だけを厳密に行って処理負荷を高める必要はないという立場に基づく。なお、無論、重なり部分に何人いるかをカウントしてより正確に対象範囲における人の数を推定してもよい。
When there is an overlap, the total
全体人数算出部408は、撮像人数算出部407によって上書きされた人数を使用して対象範囲における人の数を算出する場合がある。この場合、プリセット巡回の一周目で得られたプリセット撮像範囲における人数の代わりに二周目以降の該プリセット撮像範囲における人数に基づいて、対象範囲における人の数が算出される。
The total
以上の構成による情報処理装置103の動作を説明する。
図7(a)は、図1の情報処理装置103における一連の処理を示すフローチャートである。S701では、解析処理部305は、対象範囲の設定を記録部307から取得する。S702では、コマンド管理部303は、プリセット巡回設定を記録部307に保持されているプリセットテーブル501から取得する。S703では、コマンド管理部303は、受付部308がユーザからプリセット巡回の終了指示を受け付けたか否かを判定する。受け付けた場合(S703のYES)、本処理は終了する。受け付けていない場合(S703のNO)、S704でコマンド管理部303は現在のプリセットの待機期間が満了したか否かを判定する。待機期間は、プリセットが設定されたときを始点とし、待機時間で指定される長さを有する期間である。満了していなければ(S704のNO)、コマンド管理部303はS704を繰り返す。満了した場合(S704のYES)、S705でコマンド管理部303は、S702で取得されたプリセット巡回設定を参照し、現在のプリセットの次のプリセットを特定することにより取得する。S706では、コマンド管理部303は、ネットワークカメラ102の雲台や撮像機構を取得されたプリセットで指定される状態に変更するためのリクエストコマンドを生成し、ネットワークカメラ102へ送信する。S707では、解析処理部305は、S706でのリクエストコマンドの送信を契機として、人数のカウント処理を実行する。その後、処理はS703に戻る。なお、S705において現在のプリセットがプリセット巡回設定の最後のプリセットである場合には、次のプリセットとして最初のプリセットが取得される。
The operation of the
FIG. 7A is a flowchart showing a series of processes in the
図7(b)は、図7(a)の人数のカウント処理で行われる一連の処理を示すフローチャートである。S708では、状態取得部403はネットワークカメラ102の状態を取得する。S709では、動画像取得部404は、カウント対象のプリセット撮像範囲を撮像した動画像を取得する。S710では、判定部405は、人の検出に必要な基準が満たされるか否かを判定する。満たされない場合(S710のNO)、処理はS714に進む。満たされる場合(S710のYES)、S711で検出部406は取得された動画像から人を検出する。S712では、撮像人数算出部407は検出された人の数を算出する。S713では、撮像人数算出部407は算出された人数をS708で取得された状態と対応付けてカウント結果テーブル503に格納する。S714では、全体人数算出部408は、過去に算出された人数をカウント結果テーブル503から取得する。S715では、全体人数算出部408は、取得された過去の人数に基づいて、対象範囲における人数の推測値を算出する。
FIG. 7B is a flowchart showing a series of processes performed in the process of counting the number of people in FIG. In step S <b> 708, the
本実施の形態に係る情報処理装置103によると、人数カウントの対象範囲の一部を撮像した画像に対する人数カウントの結果から、対象範囲全体の人数の推測値を得ることができる。
According to the
以上、実施の形態に係る情報処理装置103の構成と動作について説明した。この実施の形態は例示であり、その各構成要素や各処理の組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
The configuration and operation of the
(変形例)
本実施の形態では、プリセット巡回処理に合わせて人数のカウント処理を行う場合について説明したが、これに限られず、人数のカウント処理が単体で実行されてもよい。あるいはまた、プリセット巡回処理以外の処理と合わせて人数のカウント処理が実行されてもよい。より一般的には、人などの特定の物体の数をカウントする対象となる対象範囲と、該対象範囲よりも小さな撮像範囲を撮像した画像と、がある場合に、本実施の形態に係る技術的思想を適用して対象範囲における数を推測することができる。
(Modification)
In the present embodiment, the case where the number counting process is performed in accordance with the preset patrol process has been described. However, the present invention is not limited to this, and the number counting process may be executed alone. Alternatively, the process of counting the number of people may be executed together with a process other than the preset patrol process. More generally, when there is a target range for counting the number of a specific object such as a person and an image obtained by imaging an imaging range smaller than the target range, the technology according to the present embodiment The number in the target range can be estimated by applying the philosophy.
本実施の形態では、ユーザが対象範囲を設定し、該設定を記録部307に登録する場合について説明したが、これに限られず、例えば対象範囲は予め定められた固定のものであってもよい。
In this embodiment, the case where the user sets the target range and registers the setting in the
本実施の形態では、プリセット巡回においてプリセットの変更の要求が送信されるごとに人数のカウント処理が行われる場合について説明したが、これに限られない。例えば、ネットワークカメラ102から新たな画像を受信したごとに人数のカウント処理を行ってもよい。あるいはまた、順番に移り変わるプリセットのひとつおきに人数のカウント処理を行ってもよいし、プリセット巡回が一巡するごとに人数のカウント処理を行ってもよい。なお、本実施の形態では、上記の変形例と比べて、対象範囲における人数の推測値をより頻繁に更新することでリアルタイム性を高めることができる。
In the present embodiment, a case has been described where the number of people is counted every time a preset change request is transmitted in a preset tour, but the present invention is not limited to this. For example, the number of people may be counted each time a new image is received from the
また、ネットワークカメラ102の状態があるプリセット撮像範囲を撮像するための状態から次のプリセット撮像範囲を撮像するための状態に変わる間にネットワークカメラ102によって撮像された動画像(以下、「移動中動画像」と称す)を、人数のカウント処理に使用してもよい。本変形例に係る検出部は、移動中動画像に物体追跡処理を施すことで人を検出する。
In addition, a moving image (hereinafter referred to as “moving moving image”) captured by the
図8は、物体追跡を使用したカウント処理を説明するための模式図である。図8では、ネットワークカメラ102の状態が第1プリセット撮像範囲801を撮像するための状態から次の第2プリセット撮像範囲802を撮像するための状態に変わることが想定されている。その変化中に撮像された移動中動画像の撮像範囲(以下、「移動中撮像範囲」と称す)は、図8において斜線で示される範囲である。移動中動画像は第1フレーム803、第2フレーム804、第3フレーム805を含む多くのフレームからなる。本変形例では、検出部は各フレームから物体追跡を使用して重複を省きつつ人を検出する。例えば検出部は第1フレーム803から第1の人806、第2の人807の2人を検出する。次に検出部は第2フレーム804から第2の人807、第3の人808を検出するが、合わせて物体追跡処理により第2の人807は第1フレーム803でも検出されたことを認識する。検出部は物体追跡処理の結果から第3の人808のみを検出する。同様に、検出部は第3フレーム805から、第2フレーム804で検出された第3の人808を除く2人の人を検出する。なお、物体追跡処理自体は、公知の画像認識技術を使用して実現されてもよい。検出部は以上のように重複を除きながら移動中撮像範囲内の人を検出し、撮像人数算出部は検出された人の数を算出する。撮像人数算出部は、移動中動画像の撮像条件(前後のプリセット等)と算出された人数とを対応付けてカウント結果テーブルに登録する。以降の処理では、移動中撮像範囲をプリセット撮像範囲と同様に扱うことで、実施の形態で説明したように対象範囲における人の数を推測できる。
FIG. 8 is a schematic diagram for explaining a counting process using object tracking. In FIG. 8, it is assumed that the state of the
本変形例に係る判定部は、ネットワークカメラ102の状態が第1プリセット撮像範囲801を撮像するための状態から次の第2プリセット撮像範囲802を撮像するための状態に変わる速さが、人の検出に関する基準を満たすか否かを判定する。判定部は、ネットワークカメラ102の状態から、撮像の画角とシャッタースピードと雲台の動作速度とを取得する。判定部は、取得されたそれらのパラメータから、(雲台の動作速度ではなく)画角に対する移動速度を算出する。判定部は、算出された移動速度が人の検出に必要なブレの少ないか無い画像が得られる程度の移動速度を下回る場合に基準が満たされたと判定し、そうでない場合に満たされないと判定する。基準が満たされたと判定された場合、検出部は移動中動画像における人を検出する。
The determination unit according to the present modification has a speed at which the state of the
あるいはまた、判定部は、第2フレーム804からの人検出の際に、第1フレーム803と第2フレーム804との撮像範囲の重なりを計算し、重なりがしきい値以上であるかを判断する。撮像範囲の重なりがしきい値より小さい場合、物体追跡は行わずに第2フレーム804から人を検出する。これは、重なりが小さい場合には重なりによる推測値への影響が小さいことに対応する。撮像範囲の重なりがしきい値以上の場合、上記の物体追跡を行いつつ人を検出する。
Alternatively, the determination unit calculates the overlap of the imaging ranges of the
本変形例において、検出部は画角に対する移動速度に応じて検出の感度を変更してもよい。例えば、検出部は、移動速度が速いすなわちしきい値を上回る場合には1フレームでも検出を行い、移動速度が遅いすなわちしきい値以下の場合にはある人が数フレーム連続してヒットした場合にその人を検出してもよい。 In this modification, the detection unit may change the detection sensitivity according to the moving speed with respect to the angle of view. For example, the detection unit detects even one frame when the moving speed is high, that is, exceeds the threshold, and when a certain person hits several frames consecutively when the moving speed is low, that is, below the threshold The person may be detected.
(応用例)
以下、上記の実施の形態や変形例に係る情報処理装置による人数のカウント処理の応用例を説明する。図9は、人数のカウント処理の応用例を説明するための模式図である。この応用例では、ネットワークカメラ102は劇場の舞台側の天井に取り付けられた監視カメラであり、客席901をプリセット巡回設定にしたがい順番に撮像する。図9の応用例では合計18個のプリセット撮像範囲PSR1〜18があり、それぞれは図9において矩形で示され、この順に巡回される。対象範囲902は破線の矩形で示される。情報処理装置はプリセット巡回の一周目においてプリセット撮像範囲PSR2からプリセット撮像範囲PSR3への移動が要求されると、プリセット撮像範囲PSR2における人の数を「4」と算出する。情報処理装置103はカウント結果テーブルを参照し、プリセット撮像範囲PSR1について算出された人の数「5」を取得する。プリセット撮像範囲PSR1の面積をA1、プリセット撮像範囲PSR2の面積をA2、対象範囲902の面積をA3とするとき、情報処理装置は(4+5)・A3/(A1+A2)を演算することにより対象範囲902における人数の推測値を得る。
(Application examples)
Hereinafter, application examples of the count processing of the number of persons by the information processing apparatus according to the above-described embodiments and modifications will be described. FIG. 9 is a schematic diagram for explaining an application example of the number counting process. In this application example, the
上記計算例では、対象範囲902における人の分布密度を一様と仮定して対象範囲902における人数を推測している。しかしながら、計算方法はこれに限られず、例えば対象範囲902における遠近を考慮してもよい。図9に示される例では、プリセット撮像範囲PSR1はネットワークカメラ102により近い範囲であり、該範囲を撮像した動画像において人は比較的大きく映る。これに対してプリセット撮像範囲PSR11はネットワークカメラ102からより遠い範囲であり、該範囲を撮像した動画像において人は比較的小さく映る。対象範囲902における人の数を推測する際に、情報処理装置は対象範囲902を、PSR1〜PSR4からなる近位段、PSR5〜PSR10からなる中位段、PSR11〜PSR18からなる遠位段、の3段に分けてもよい。情報処理装置は、3段のそれぞれについて人の数を推測し、得られた3つの推測値の総和を対象範囲902における人の数の推測値としてもよい。なお、対象範囲902の分割方法は上記の3分割に限られず、カウント対象の想定される分布密度に応じて適宜分割されてもよい。
In the above calculation example, the number of people in the
図10は、人数のカウント処理の別の応用例を説明するための模式図である。図10の応用例では合計6個のプリセット撮像範囲PSR1、PSR4、PSR5、PSR10、PSR11、PSR18があり、この順に巡回される。情報処理装置は各プリセット撮像範囲における人の数を算出してカウント結果テーブルに格納すると共に、プリセット撮像範囲間の移動中撮像範囲についても人の数を算出する。ただし、プリセット撮像範囲PSR5からプリセット撮像範囲PSR10へ移動する際の移動中撮像範囲(図10中斜線で表示)については、画角に対する移動速度が速すぎるため算出は行われない。情報処理装置は、6個のプリセット撮像範囲の面積の総和と、プリセット撮像範囲PSR1からプリセット撮像範囲PSR4へ移動する際の移動中撮像範囲の面積と、プリセット撮像範囲PSR11からプリセット撮像範囲PSR18へ移動する際の移動中撮像範囲の面積と、を足し合わせる。情報処理装置は、対象範囲902の面積を足し合わされた面積で除して得られる値を検出された人数の合計に乗じることで、対象範囲902における人数の推測値を得る。
FIG. 10 is a schematic diagram for explaining another application example of the number counting process. In the application example of FIG. 10, there are a total of six preset imaging ranges PSR1, PSR4, PSR5, PSR10, PSR11, and PSR18, which are circulated in this order. The information processing apparatus calculates the number of people in each preset imaging range and stores it in the count result table, and also calculates the number of people in the moving imaging range between the preset imaging ranges. However, the moving imaging range when moving from the preset imaging range PSR5 to the preset imaging range PSR10 (indicated by hatching in FIG. 10) is not calculated because the moving speed with respect to the angle of view is too fast. The information processing apparatus moves the sum of the areas of the six preset imaging ranges, the area of the moving imaging range when moving from the preset imaging range PSR1 to the preset imaging range PSR4, and moves from the preset imaging range PSR11 to the preset imaging range PSR18. And the area of the moving imaging range when moving. The information processing apparatus obtains an estimated value of the number of people in the
図11は、人数のカウント処理のさらに別の応用例を説明するための模式図である。図11の応用例では2個の移動中撮像範囲903、904があり、それらは重なり合っている。情報処理装置は図8で説明した変形例に係る方法を使用して第1移動中撮像範囲903、第2移動中撮像範囲904のそれぞれにおける人の数を算出し、カウント結果テーブルに格納する。情報処理装置は、実施の形態で説明したように、2個の移動中撮像範囲903、904の重なる部分905(図11中斜線で表示)の面積を考慮して対象範囲における人の数を算出する。このように、実施の形態と変形例との組み合わせも可能である。
FIG. 11 is a schematic diagram for explaining still another application example of the number counting process. In the application example of FIG. 11, there are two moving imaging ranges 903 and 904 that overlap each other. The information processing apparatus calculates the number of persons in each of the first moving
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
(Other examples)
The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.
100 情報処理システム、 101 ネットワーク、 102 ネットワークカメラ、 103 情報処理装置。 100 information processing system, 101 network, 102 network camera, 103 information processing apparatus.
Claims (14)
前記検出手段による検出の結果に基づいて前記第1の範囲における特定の物体の数を算出する第1算出手段と、
前記第1算出手段によって算出された数に基づいて、前記第1の範囲よりも大きい第2の範囲における前記特定の物体の数を算出する第2算出手段と、を備えることを特徴とする情報処理装置。 Detecting means for detecting a specific object in the first range from an image obtained by imaging the first range;
First calculation means for calculating the number of specific objects in the first range based on a result of detection by the detection means;
And second calculation means for calculating the number of the specific objects in a second range larger than the first range based on the number calculated by the first calculation means. Processing equipment.
前記撮像装置は、前記第1の範囲を含む複数の所定の範囲が順番に撮像されるよう設定されることを特徴とする請求項1から3のいずれか1項に記載の情報処理装置。 Further comprising an acquisition means for acquiring an image obtained by imaging the first range from the imaging device;
4. The information processing apparatus according to claim 1, wherein the imaging apparatus is set so that a plurality of predetermined ranges including the first range are imaged in order. 5.
前記第1算出手段は二周目以降の前記第1の範囲における前記特定の物体の数を算出し、
前記第2算出手段は、一周目の前記第1の範囲における前記特定の物体の数の代わりに二周目以降の前記第1の範囲における前記特定の物体の数に基づいて、前記第2の範囲における前記特定の物体の数を算出することを特徴とする請求項4に記載の情報処理装置。 The imaging device is set so as to return to the imaging of the first range when imaging the last range by imaging the plurality of predetermined ranges in order,
The first calculation means calculates the number of the specific objects in the first range after the second round,
The second calculation means may calculate the second calculation based on the number of the specific objects in the first range after the second round instead of the number of the specific objects in the first range in the first round. The information processing apparatus according to claim 4, wherein the number of the specific objects in a range is calculated.
前記第1算出手段は、前記動画像における前記特定の物体の数を算出し、
前記第2算出手段は、前記動画像における前記特定の物体の数に基づいて、前記第2の範囲における前記特定の物体の数を算出することを特徴とする請求項4または5に記載の情報処理装置。 The detection means performs object tracking on a moving image captured by the imaging device while the state of the imaging device changes from a state for imaging the first range to a state for imaging the next predetermined range. The specific object is detected by processing,
The first calculation means calculates the number of the specific objects in the moving image,
6. The information according to claim 4, wherein the second calculation unit calculates the number of the specific objects in the second range based on the number of the specific objects in the moving image. Processing equipment.
前記検出手段は、前記判定手段によって満たすと判定された場合に、前記動画像における前記特定の物体を検出することを特徴とする請求項6に記載の情報処理装置。 Determining whether or not the speed at which the state of the imaging device changes from the state for capturing the first range to the state for capturing the next predetermined range satisfies the criteria for detecting the specific object And a determination means for
The information processing apparatus according to claim 6, wherein the detection unit detects the specific object in the moving image when the determination unit determines that the condition is satisfied.
前記検出手段は、前記判定手段によって満たすと判定された場合に、前記第1の範囲における前記特定の物体を検出することを特徴とする請求項1から6のいずれか1項に記載の情報処理装置。 A determination unit that determines whether an image obtained by imaging the first range satisfies a criterion related to detection of the specific object;
7. The information processing according to claim 1, wherein the detection unit detects the specific object in the first range when it is determined that the determination unit satisfies the condition. 7. apparatus.
前記第1算出手段は、前記第3の範囲における前記特定の物体の数を算出し、
前記第2算出手段は、前記第1の範囲における前記特定の物体の数と、前記第3の範囲における前記特定の物体の数と、前記第1の範囲と前記第3の範囲との重なりの度合いと、に基づいて、前記第2の範囲における前記特定の物体の数を算出することを特徴とする請求項1から11のいずれか1項に記載の情報処理装置。 The detection means detects the specific object in the third range from an image obtained by capturing a third range smaller than the second range,
The first calculating means calculates the number of the specific objects in the third range;
The second calculation means is configured to calculate the number of the specific objects in the first range, the number of the specific objects in the third range, and the overlap between the first range and the third range. The information processing apparatus according to claim 1, wherein the number of the specific objects in the second range is calculated based on the degree.
前記検出の結果に基づいて前記第1の範囲における特定の物体の数を算出することと、
前記算出された数に基づいて、前記第1の範囲よりも大きい第2の範囲における前記特定の物体の数を算出することと、を含むことを特徴とする情報処理方法。 Detecting a specific object in the first range from an image obtained by imaging the first range;
Calculating the number of specific objects in the first range based on the detection result;
Calculating the number of the specific objects in a second range larger than the first range based on the calculated number.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016097383A JP6914007B2 (en) | 2016-05-13 | 2016-05-13 | Information processing device and information processing method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016097383A JP6914007B2 (en) | 2016-05-13 | 2016-05-13 | Information processing device and information processing method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017204838A true JP2017204838A (en) | 2017-11-16 |
| JP6914007B2 JP6914007B2 (en) | 2021-08-04 |
Family
ID=60322535
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016097383A Active JP6914007B2 (en) | 2016-05-13 | 2016-05-13 | Information processing device and information processing method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6914007B2 (en) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019212090A (en) * | 2018-06-06 | 2019-12-12 | キヤノン株式会社 | Image processor, photographing device, image processing method, and program |
| JP2020092394A (en) * | 2018-12-07 | 2020-06-11 | キヤノン株式会社 | Image processing apparatus and image processing method |
| JP2020092308A (en) * | 2018-12-04 | 2020-06-11 | キヤノン株式会社 | Imaging device, control method, and program |
| JP2020149565A (en) * | 2019-03-15 | 2020-09-17 | キヤノン株式会社 | Image processing equipment, image processing methods and programs |
| CN111738125A (en) * | 2020-06-16 | 2020-10-02 | 中国银行股份有限公司 | Method and device for determining number of clients |
| JP2021093678A (en) * | 2019-12-12 | 2021-06-17 | Necソリューションイノベータ株式会社 | Calculation method |
| CN113507595A (en) * | 2018-06-21 | 2021-10-15 | 佳能株式会社 | Image processing apparatus, image processing method, and medium |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004289581A (en) * | 2003-03-24 | 2004-10-14 | Minolta Co Ltd | Monitoring system |
| JP2014112004A (en) * | 2012-12-05 | 2014-06-19 | Hitachi Appliances Inc | Air conditioner |
| JP2015172850A (en) * | 2014-03-12 | 2015-10-01 | 株式会社日立製作所 | Station congestion prediction device and station congestion information providing system |
| JP2015190666A (en) * | 2014-03-28 | 2015-11-02 | 日立アプライアンス株式会社 | Indoor machine of air conditioning machine, and air conditioning machine using the same |
-
2016
- 2016-05-13 JP JP2016097383A patent/JP6914007B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004289581A (en) * | 2003-03-24 | 2004-10-14 | Minolta Co Ltd | Monitoring system |
| JP2014112004A (en) * | 2012-12-05 | 2014-06-19 | Hitachi Appliances Inc | Air conditioner |
| JP2015172850A (en) * | 2014-03-12 | 2015-10-01 | 株式会社日立製作所 | Station congestion prediction device and station congestion information providing system |
| JP2015190666A (en) * | 2014-03-28 | 2015-11-02 | 日立アプライアンス株式会社 | Indoor machine of air conditioning machine, and air conditioning machine using the same |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019212090A (en) * | 2018-06-06 | 2019-12-12 | キヤノン株式会社 | Image processor, photographing device, image processing method, and program |
| CN113507595A (en) * | 2018-06-21 | 2021-10-15 | 佳能株式会社 | Image processing apparatus, image processing method, and medium |
| JP2020092308A (en) * | 2018-12-04 | 2020-06-11 | キヤノン株式会社 | Imaging device, control method, and program |
| JP7191663B2 (en) | 2018-12-04 | 2022-12-19 | キヤノン株式会社 | IMAGING DEVICE, CONTROL METHOD AND PROGRAM |
| JP2020092394A (en) * | 2018-12-07 | 2020-06-11 | キヤノン株式会社 | Image processing apparatus and image processing method |
| JP7257783B2 (en) | 2018-12-07 | 2023-04-14 | キヤノン株式会社 | Image processing device, image processing method |
| JP2020149565A (en) * | 2019-03-15 | 2020-09-17 | キヤノン株式会社 | Image processing equipment, image processing methods and programs |
| JP7309392B2 (en) | 2019-03-15 | 2023-07-18 | キヤノン株式会社 | Image processing device, image processing method and program |
| JP2021093678A (en) * | 2019-12-12 | 2021-06-17 | Necソリューションイノベータ株式会社 | Calculation method |
| JP7409637B2 (en) | 2019-12-12 | 2024-01-09 | Necソリューションイノベータ株式会社 | Calculation method |
| CN111738125A (en) * | 2020-06-16 | 2020-10-02 | 中国银行股份有限公司 | Method and device for determining number of clients |
| CN111738125B (en) * | 2020-06-16 | 2023-10-27 | 中国银行股份有限公司 | Method and device for determining number of clients |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6914007B2 (en) | 2021-08-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6914007B2 (en) | Information processing device and information processing method | |
| US10587813B2 (en) | Intelligent object tracking | |
| CN101489116B (en) | Video network system and video data management method | |
| CN111131698B (en) | Image processing method and device, computer readable medium and electronic equipment | |
| KR102428127B1 (en) | Apparatus and method detecting motion mask | |
| JP6827790B2 (en) | Image processing device and its control method | |
| JP6808358B2 (en) | Image processing equipment, image processing methods and programs | |
| JP6862596B1 (en) | How to select video analysis equipment, wide area surveillance system and camera | |
| US11170520B2 (en) | Image processing apparatus for analyzing an image to detect an object within the image | |
| CN105262971B (en) | A kind of back method and device of fish eye camera video recording | |
| JP2015154465A (en) | Display control apparatus, display control method, and program | |
| JP7146416B2 (en) | Information processing device, information processing system, information processing method, and program | |
| CN109960969A (en) | Method, device and system for generating moving route | |
| JP2017130798A (en) | Imaging system, information processing apparatus, control method therefor, and computer program | |
| WO2016082590A1 (en) | Picture processing method and apparatus, and storage medium | |
| JP6941458B2 (en) | Monitoring system | |
| JP2011087214A (en) | Photographing system, method and program | |
| JP7182893B2 (en) | Image processing device, imaging device, image processing method, and program | |
| JP2023159919A (en) | Information processing device, information processing method and program | |
| US20200213524A1 (en) | Intelligent object tracking | |
| JP2022185634A (en) | Terminal device, information processing device, information processing method, information processing program and information processing system | |
| JP2019201326A (en) | Information processing apparatus, imaging apparatus, information processing method, and program | |
| JP2019068339A (en) | Image processing apparatus, image processing method and program | |
| KR20240154958A (en) | Apparatus and method for PTZ camera according to setting value | |
| JP2024142460A (en) | Nuisance detection system and nuisance detection method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190424 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200115 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200124 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200316 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200727 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200923 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201130 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210127 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210614 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210713 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 6914007 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |