JP7682700B2 - 移動ロボット操作システム - Google Patents

移動ロボット操作システム Download PDF

Info

Publication number
JP7682700B2
JP7682700B2 JP2021094393A JP2021094393A JP7682700B2 JP 7682700 B2 JP7682700 B2 JP 7682700B2 JP 2021094393 A JP2021094393 A JP 2021094393A JP 2021094393 A JP2021094393 A JP 2021094393A JP 7682700 B2 JP7682700 B2 JP 7682700B2
Authority
JP
Japan
Prior art keywords
mobile robot
photographing
distance
operator
facility
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021094393A
Other languages
English (en)
Other versions
JP2022186258A (ja
Inventor
武人 福島
俊一 川端
謙司 松崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Energy Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Energy Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Energy Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2021094393A priority Critical patent/JP7682700B2/ja
Publication of JP2022186258A publication Critical patent/JP2022186258A/ja
Application granted granted Critical
Publication of JP7682700B2 publication Critical patent/JP7682700B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Manipulator (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明の実施形態は、撮影装置の向きを自動で変えて指定した撮影対象物を撮影し続けることのできる自動撮影装置を搭載した移動ロボット操作システムに関する。
例えば、展示場等の施設に設置されている展示物について、遠隔地にいる見学者(以下、「操作員」ともいう。)が撮影装置を搭載した移動ロボットを遠隔操作し、展示物の映像をいろいろな位置、角度から詳しく見ようとする場合を想定する。
図1は展示物や移動ロボットが設置されている施設Aと遠隔地にある操作員室Bの模式図で、施設Aには、展示物3(以下、「撮影対象物」ともいう。)、撮影対象物3を説明する施設員22、及び撮影対象物3を撮影する自動撮影装置11等を搭載した移動ロボット1が配置され、遠隔地の操作員室Bには、移動ロボット1をコントローラ5により操作する操作員51、撮影対象物3の映像等を表示する操作モニタ4が配置されている。
操作員51は、遠隔地の操作員室Bから移動ロボット1をコントローラ5により移動操作して、所定の位置、角度で撮影した撮影対象物3の映像を操作モニタ4で観察するとともに、施設員22の説明を聴講する。
しかしながら、例えば、施設員22の説明に応じて撮影対象物3を様々な位置、角度で観察したい場合、操作員51は移動ロボット1を移動操作する必要があるが、撮影対象物3が撮影領域から逸脱したり、移動ロボット1の操作や移動ロボット1に搭載した自動撮影装置11の方向調整が煩雑になる場合があった。
そのため、自動撮影装置11を搭載した移動ロボット1に予め移動ルートと撮影対象物3の位置を登録しておき、移動ロボット1が移動ルートに沿って移動する際に、自動撮影装置11の撮影方向を撮影対象物3に合わせることで撮影し続ける手段が提案されている。
特開2006-123128号公報
上述した従来の移動ロボット1は、移動ルートと撮影対象物3の位置を予め登録しておく必要があるため、撮影対象物3の撮影箇所を臨機応変に変更することができないという課題があった。また、移動ロボット1の移動につれて撮影対象物3が撮影領域から逸脱したり、自動撮影装置の拡大率や方向調整が不適切な場合、所望の領域を的確に観察することが困難になるという課題があった。
本願発明の実施形態は上記課題を解決するためになされたもので、移動ロボットが移動する際も、操作員が撮影対象物を適切な大きさの映像で確実に観察し続けることができる自動撮影装置を搭載した移動ロボット操作システムを提供することを目的とする。
上記課題を解決するために、本実施形態に係る移動ロボット操作システムは、撮影対象物及び移動ロボットが配置された施設と、前記移動ロボットを操作員によって移動操作するコントローラ及び前記撮影対象物の映像等を表示する操作モニタが配置された操作員室と、前記施設と前記操作員室との間で双方向通信を行う通信ネットワークと、を備えた移動ロボット操作システムであって、前記移動ロボットは、移動ロボットの周囲を撮影する操作用撮影装置と、前記施設の施設員により指示された前記撮影対象物の指示点の方位を検出する方位検出部と、前記移動ロボットから前記指示点までの距離を測定する距離測定部と、撮影対象物を撮影する自動撮影装置と、演算処理装置と、を備え、前記演算処理装置は、前記指示点の方位を算出する指示点方位算出手段と、前記指示点までの距離を算出する指示点距離算出手段と、前記指示点までの距離に応じて最適拡大率を調整する最適拡大率調整手段と、前記移動ロボットを移動させる際に、前記移動ロボットの初期相対位置情報、移動量及び移動方向に基づいて前記自動撮影装置で前記指示点を撮影し続けるように撮影方向を調整する撮影方向調整手段と、を有する。
本実施形態によれば、移動ロボットを移動操作する際も、移動ロボット1に搭載した自動撮影装置11の撮影方向及び拡大率を移動ロボット1の移動に合わせて自動で調整することが可能となり、撮影対象物3を適切な大きさの映像で観察し続けることができる。
本実施形態に係る移動ロボット操作システムの全体模式図。 本実施形態に係る移動ロボットの情報処理システムの構成図。 本実施形態に係る移動ロボットの操作フロー図(その1)。 本実施形態に係る移動ロボットの操作フロー図(その2)。
以下、本発明に係る自動撮影装置を搭載した移動ロボット操作システムの実施形態について、図面を参照して説明する。
[全体構成]
本実施形態に係る移動ロボット操作システムは、図1に示すように、自動撮影装置11等を搭載した移動ロボット1と、観察対象の撮影対象物3と、マイク、スピーカの音響機器等からなるコミュニケーション機器と、撮影対象物3を説明する施設員22とが配置された施設Aと、遠隔地にある操作員室Bからなる。操作員室Bでは、撮影対象物3の撮影画像等を表示する操作モニタ4と、操作員51が移動ロボット1を移動操作するためのコントローラ5と、マイク、スピーカ等の音響機器からなるコミュニケーション機器52と、が配置されている。
また、施設Aと操作員室Bとの間には、双方向通信が可能な通信ネットワーク6が設けられている。
施設Aの施設員22は、撮影対象物3の説明を行うとともに、移動ロボット1に撮影対象物3の撮影箇所を認識させるための指示器2を有する。指示器2は、例えばレーザポインタが用いられるが先端を着色した指示棒を用いてもよい。
操作員室Bの操作員51は、移動ロボット1に搭載した操作用撮影装置14で撮影した周囲の映像に基づいて移動ロボット1を遠隔操作し、自動撮影装置11により撮影した撮影対象物3を操作モニタ4により観察する。なお、操作員51は複数人でもよいが、本実施形態では操作員51が一人の場合の例について説明する。
[移動ロボット]
移動ロボット1は、図1に示すように、撮影対象物3を継続して撮影するための自動撮影装置11と、施設員22が指示した指示点21までの距離を測定する距離測定部12と、指示点21の方位(方向、高さ)を検出する方位検出部13と、移動ロボット1を移動操作する際に用いられる操作用撮影装置14と、通信部15と、マイク16、スピーカ17の音響機器等からなるコミュニケーション機器と、モニタ18と、移動ロボット1の周囲の障害物を検知するための周辺障害物検知部19を備えている。
本実施形態では、自動撮影装置11と操作用撮影装置14はパンチルト機構とズーム機能を備え、距離測定部12は距離の測定方向を変更できる測距センサであり、方位検出部13は360°方向を撮影可能な魚眼カメラであるが、これに限定されず、種々の変更が可能である。
例えば、距離測定部12として、自動撮影装置11の映像に基づいて指示点21までの距離を測定するシステムを用いてもよい。
また、周辺障害物検知部19は、例えばレーザーレンジファインダが用いられ、移動ロボット1の周辺にある障害物の位置形状情報を検出する。
[通信システム]
移動ロボット1に設けられた通信部15は例えば無線LANの子機で、通信ネットワーク6は施設Aと遠隔地にある操作員室Bを、インターネットで双方の場所に配置された無線LANの親機を介して双方向に通信可能としたものであり、自動撮影装置11と操作用撮影装置14で撮影された映像は、通信部15から送信され、通信ネットワーク6を介して遠隔地の操作員室Bまで送られる。
また、操作員室Bに配置された通信機能付のコントローラ5は、例えばWiFi機能を備えたパソコンであり、自動撮影装置11と操作用撮影装置14の映像は、コントローラ5により受信され、コントローラ5に接続された操作モニタ4に、自動撮影装置11の映像41と操作用撮影装置14の映像42として映し出される。
操作員51は、これらの映像41、42を見ながら、コントローラ5を介して移動ロボット1の移動操作を行う。コントローラ5から移動ロボット1に出される指令は、通信ネットワーク6を介して移動ロボット1に備えられた通信部15まで送られる。なお、操作モニタ4の上部にはカメラ53を設置してもよく、操作員室Bにおける操作員51と施設Aにおける施設員22とを画像表示装置(図示せず)によって画像でも連絡を取り合っても良い。
[情報処理システム]
本実施形態に係る移動ロボット操作システムの情報処理システムを図2により説明する。
移動ロボット1は移動ロボットを統括的に制御する情報処理装置7を備え、通信ネットワーク6を介して操作員室Bと各種信号の送受信を行う。
情報処理装置7は、撮影可否判別手段77を内包する撮影方向調整手段71と、最適拡大率調整手段72と、指示点距離算出手段73と、初期相対位置算出手段74と、指示点方位算出手段75と、移動位置算出手段76と、を有する。
指示点距離算出手段73は、距離測定部12から出力される測定値に基づいて移動ロボット1から指示点21までの距離を算出する手段である。
指示点方位算出手段75は、方位検出部13から送られる信号から、移動ロボット1から見た指示点21の方位を算出する手段である。
初期相対位置算出手段74は、指示点距離算出手段73で算出した指示点21までの距離と指示点方位算出手段75で算出した指示点21の方位から、移動ロボット1が移動する前の初期位置と指示点21との相対位置を算出する手段である。
移動位置算出手段76は移動ロボット1の駆動部における車輪の回転方向と回転量から、移動ロボット1が初期位置から移動した方向と距離を算出し移動ロボット1の現在位置を算出する手段である。
撮影方向調整手段71は、初期相対位置算出手段74により算出された移動ロボット1の初期位置と指示点21との相対位置と、移動位置算出手段76により算出された移動ロボット1の現在位置から、指示点21を撮影し続けるための自動撮影装置11のパンチルトの回転量を演算し、自動撮影装置11が算出した回転量分動くよう指令を出す手段である。
最適拡大率調整手段72は、移動ロボット1から指示点21までの距離に応じて自動撮影装置11の最適拡大率を設定しておくことで、自動撮影装置11のズーム機能の拡大率を最適に調整し、撮影対象物3を適切な大きさで観察する手段である。
本実施形態では、距離の設定値を1以上設け、その設定値に応じて最適拡大率を決定している。
さらに、移動位置算出手段76から移動ロボット1の現在位置の情報を受け取ることで、移動ロボット1が移動した際も自動で自動撮影装置11のズーム拡大率を最適に変更することができる。
撮影可否判別手段77は、撮影方向調整手段71に内包されるものであり、移動ロボット1の現在位置、移動ロボット1が移動している方向、自動撮影装置11の可動領域や現在の撮影方向、移動ロボット1の躯体情報から、移動ロボット1が移動している方向に移動し続ける場合、指示点21を撮影し続けることができるか判別するもので、撮影し続けることができない場合は、操作モニタ4にその旨を表示する手段である。
また、撮影可否判別手段77は、周辺障害物検知部19で検出した移動ロボット1の周辺にある障害物情報を活用することで、周辺状況も考慮した撮影可否の判別を行うことができる。
[移動ロボットの操作フロー]
上記のように構成された移動ロボット操作システムにおいて、移動ロボット1を移動操作する場合に、自動撮影装置11の方向を自動で調整しながら撮影対象物3を撮影し続ける際の操作フロー例について、図3、図4を用いて説明する。
(ST1)まず、操作員51がコントローラ5を用い、待機位置にある移動ロボット1を施設A内の撮影対象物3が設置されている所定エリア(移動ロボットの撮影場所)まで移動させる(図示せず)。
(ST2)次に、撮影対象物3を説明する施設Aの施設員22が指示器2により撮影対象物3を指示することで、指示点21が形成される。
(ST3)次に、移動ロボット1に搭載された方位検出部13が撮影している映像信号に基づいて、指示点方位算出手段75により指示点21の方位(方向、高さ)を算出し、この際の移動ロボット1の位置を初期位置とする。
(ST4)ST3で算出された指示点21の方位に基づいて、距離測定部12を指示点21の方向に向け、指示点21までの距離を測定し、当該測定値に基づいて指示点距離算出手段73により指示点21までの距離を算出する。
(ST5)次に、指示点21の方位に基づいて自動撮影装置11が指示点21に向くように撮影方向を調整する。
(ST6)ST4で算出した指示点21までの距離を最適拡大率調整手段72に出力し、指示点21までの距離が設定値以内か否かを判定する。
設定値以上であれば、指示点21までの距離に応じて自動撮影装置11のズームイン又はズームアウト操作を行う。すなわち、撮影対象物3が視認しやすい大きさとなるように、距離に応じて最適拡大率を調整し撮影を行う。なお、設定値は複数でもよく、設定値に応じて最適拡大率が調整される。
一方、設定値以内であれば、最適拡大率は適正なのでST7へ移行する。
(ST7)次に、ST3で算出された指示点21の方位情報とST4で算出された指示点21までの距離に基づいて、初期相対位置算出手段74により、現時点での移動ロボット1の位置を初期位置として、移動ロボット1と指示点21との初期相対位置を算出する。
(ST8)初期相対位置の算出が終了したことを施設Aの施設員22と操作員室Bの操作員51に報知又は表示する。
(ST9)ST8の終了情報に基づいて、施設員22は必要に応じて撮影対象物3の説明を開始し、操作員51は移動ロボット1の移動操作を行うことが可能となる。
(ST10)ST10では、コントローラ5から移動指令が有ったか否かを判定する。移動指令が有った場合、すなわち、操作員51がコントローラ5で移動ロボット1を移動させようとした場合はST11に進み、移動指令がない場合はST14へ進み、施設員22の説明が終了するまで移動ロボット1は待機状態となる。
(ST11)ST11において、撮影可否判別手段77は、ST10で受信した移動指令のとおりに移動ロボット1が移動する際に、自動撮影装置11で撮影対象物3を撮影し続けることができるか否かを判断する。
撮影を継続できる場合はST12に移行し、撮影を継続できない場合は操作モニタ4に継続できない旨の警告を表示する。
(ST12)ST12では、ST10で受信した移動指令に基づいて移動ロボット1が移動する際に、移動位置算出手段76で算出した移動ロボット1の移動量及び移動方向情報と距離情報、並びにST7で算出した初期相対位置情報を撮影方向調整手段71に出力し、自動撮影装置11で指示点21を撮影し続けるための撮影方向の調整量を算出し、自動撮影装置11に指令を出す。
(ST13)ST13では、ST12で求めた各種情報を最適拡大率調整手段72に出力し、移動ロボット1の現在位置から指示点21の位置までの距離を算出して指示点21までの距離が設定値以内か否かを判定する。
設定値以上であれば、指示点21までの距離に応じて自動撮影装置11のズームイン又はズームアウト操作を行う。すなわち、撮影対象物3が観察しやすい大きさとなるように、距離に応じて最適拡大率を調整し、ST14へ移行する。
一方、設定値以内であれば、最適拡大率は適正なのでST14へ移行する。
(ST14)ST14では、施設員22の説明が終了したか否かを判定する。
説明が終了した場合は撮影対象物3の撮影を終了してST15へ進み、終了していない場合はST10に戻り、自動撮影装置11による撮影対象物3の撮影を継続する。
ここで、施設員22による説明が終了したか否かの判定は施設員22又は操作員51が行うこととし、移動ロボット1への出力は、例えば操作員51がコントローラ5で行う。
(ST15)ST15では、移動ロボット1及び操作員室にそれぞれ配置されたマイク、スピーカ等の音響機器やモニタからなる双方向通信可能なコミュニケーション機器を用い、施設員22と操作員51が撮影対象物3について適宜質疑応答を行うステップである。なお、質疑応答がない場合には、このステップは省略可能である。
(ST16)ST16では、次の撮影対象物はあるか否かを判定し、終了した場合はST17に移行し、操作員51が移動ロボット1を待機場所まで移動操作して撮影を終了する。
一方、撮影を継続する場合は、ST1に戻り、操作員51が移動ロボット1を次の撮影対象物3が設置されている場所まで移動操作する。
[効果]
以上説明したように、本実施形態によれば、施設Aの施設員22が指示器2により撮影対象物3や撮影箇所を変更した場合でも、移動ロボット1に搭載した自動撮影装置11の撮影方向及び最適拡大率を移動ロボット1の移動に合わせて自動的で調整することが可能となり、撮影対象物3を適切な大きさの映像で観察し続けることができる。
以上、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
A…施設、B…操作員室、1…移動ロボット、11…自動撮影装置、12…距離測定部、13…方位検出部、14…操作用撮影装置、15…通信部、16…マイク、17…スピーカ、18…モニタ、19…周辺障害物検知部、2…指示器、21…指示点、22…施設員、3…展示物(撮影対象物)、4…操作モニタ、41、42…映像、5…コントローラ、51…操作員、52…コミュニケーション機器、53…カメラ、6…通信ネットワーク、7…演算処理装置、71…撮影方向調整手段、72…最適拡大率調整手段、73…指示点距離算出手段、74…初期相対位置算出手段、75…指示点方位算出手段、76…移動位置算出手段、77…撮影可否判別手段

Claims (4)

  1. 撮影対象物及び移動ロボットが配置された施設と、前記移動ロボットを操作員によって移動操作するコントローラ及び前記撮影対象物の映像等を表示する操作モニタが配置された操作員室と、前記施設と前記操作員室との間で双方向通信を行う通信ネットワークと、を備えた移動ロボット操作システムであって、
    前記移動ロボットは、移動ロボットの周囲を撮影する操作用撮影装置と、前記施設の施設員により指示された前記撮影対象物の指示点の方位を検出する方位検出部と、前記移動ロボットから前記指示点までの距離を測定する距離測定部と、撮影対象物を撮影する自動撮影装置と、演算処理装置と、を備え、
    前記演算処理装置は、前記指示点の方位を算出する指示点方位算出手段と、前記指示点までの距離を算出する指示点距離算出手段と、前記指示点までの距離に応じて最適拡大率を調整する最適拡大率調整手段と、前記移動ロボットを移動させる際に、前記移動ロボットの初期相対位置情報、移動量及び移動方向に基づいて前記自動撮影装置で前記指示点を撮影し続けるように撮影方向を調整する撮影方向調整手段と、を有する移動ロボット操作システム。
  2. 前記撮影方向調整手段は、前記移動ロボットを移動させる際に、前記自動撮影装置が撮影対象物の撮影を継続することが可能か否かを判別する撮影可否判別手段を有する請求項1記載の移動ロボット操作システム。
  3. 前記移動ロボットは、当該移動ロボットの周辺にある障害物を検出する周辺障害物検知部を備える請求項1又は2記載の移動ロボット操作システム。
  4. 前記移動ロボット及び前記操作員室は、それぞれ音響機器及びモニタ等からなる双方向通信可能なコミュニケーション機器を有する請求項1乃至3のいずれかに記載の移動ロボット操作システム。
JP2021094393A 2021-06-04 2021-06-04 移動ロボット操作システム Active JP7682700B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021094393A JP7682700B2 (ja) 2021-06-04 2021-06-04 移動ロボット操作システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021094393A JP7682700B2 (ja) 2021-06-04 2021-06-04 移動ロボット操作システム

Publications (2)

Publication Number Publication Date
JP2022186258A JP2022186258A (ja) 2022-12-15
JP7682700B2 true JP7682700B2 (ja) 2025-05-26

Family

ID=84441684

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021094393A Active JP7682700B2 (ja) 2021-06-04 2021-06-04 移動ロボット操作システム

Country Status (1)

Country Link
JP (1) JP7682700B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005205529A (ja) 2004-01-22 2005-08-04 Matsushita Electric Ind Co Ltd 自走式機器およびそのプログラム
JP2008149427A (ja) 2006-12-19 2008-07-03 Mitsubishi Heavy Ind Ltd ロボットによる物体を移動するサービスに必要な情報の取得方法と該方法を用いたロボットによる物体移動サービスシステム
JP2017061291A (ja) 2015-09-24 2017-03-30 シャープ株式会社 移動車両

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005205529A (ja) 2004-01-22 2005-08-04 Matsushita Electric Ind Co Ltd 自走式機器およびそのプログラム
JP2008149427A (ja) 2006-12-19 2008-07-03 Mitsubishi Heavy Ind Ltd ロボットによる物体を移動するサービスに必要な情報の取得方法と該方法を用いたロボットによる物体移動サービスシステム
JP2017061291A (ja) 2015-09-24 2017-03-30 シャープ株式会社 移動車両

Also Published As

Publication number Publication date
JP2022186258A (ja) 2022-12-15

Similar Documents

Publication Publication Date Title
CN108141533B (zh) 摄像系统、视角调整方法及非暂时有形存储介质
EP1341383B1 (en) Composite camera system, zoom camera image display control method, zoom camera control method, control program, and computer readable recording medium
EP2879371A1 (en) System for following an object marked by a tag device with a camera
JP5809538B2 (ja) 自動追尾カメラシステム
JP7327964B2 (ja) 制御装置、撮像システム、プログラム、および、記憶媒体
JP2001069496A (ja) 監視カメラ装置及び監視カメラの制御方法
JP4589261B2 (ja) 監視カメラ装置
CN111487610A (zh) 起重机及其吊装作业的定位系统和定位方法、存储介质
KR101204870B1 (ko) 감시 카메라 시스템 및 그의 제어방법
JP5858741B2 (ja) 自動追尾カメラシステム
KR101452342B1 (ko) 감시카메라 유닛 및 그 구동방법
JP7187768B2 (ja) カメラ装置、カメラ装置制御システム、及びプログラム
JP7682700B2 (ja) 移動ロボット操作システム
JP3880734B2 (ja) カメラ制御システム
KR20160020828A (ko) 비행 촬영 시스템 및 그 운용 방법
JP2004128646A (ja) 監視システムおよび制御装置
KR101452372B1 (ko) 카메라 제어 방법 및 그 시스템
JP2004320175A (ja) 監視カメラシステム
JPWO2023228331A5 (ja)
JP2014039165A (ja) 追尾機能付き撮影装置
JPH07309577A (ja) クレーン用テレビモニタ装置
JP2022150602A (ja) 撮像装置、情報処理装置、撮像装置の制御方法、及びプログラム
JPH0468893A (ja) 遠隔制御カメラの撮影位置決定方法およびカメラ遠隔制御システム
JPH1169339A5 (ja)
JPH1066057A (ja) 遠隔監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250514

R150 Certificate of patent or registration of utility model

Ref document number: 7682700

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150