JP6714802B2 - 制御装置、飛行体、制御方法、及びプログラム - Google Patents

制御装置、飛行体、制御方法、及びプログラム Download PDF

Info

Publication number
JP6714802B2
JP6714802B2 JP2018137977A JP2018137977A JP6714802B2 JP 6714802 B2 JP6714802 B2 JP 6714802B2 JP 2018137977 A JP2018137977 A JP 2018137977A JP 2018137977 A JP2018137977 A JP 2018137977A JP 6714802 B2 JP6714802 B2 JP 6714802B2
Authority
JP
Japan
Prior art keywords
distance
set value
imaging device
altitude
focus lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018137977A
Other languages
English (en)
Other versions
JP2020016703A (ja
Inventor
佳範 永山
佳範 永山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2018137977A priority Critical patent/JP6714802B2/ja
Priority to CN201980005165.9A priority patent/CN111226170A/zh
Priority to PCT/CN2019/096534 priority patent/WO2020020042A1/zh
Publication of JP2020016703A publication Critical patent/JP2020016703A/ja
Application granted granted Critical
Publication of JP6714802B2 publication Critical patent/JP6714802B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Accessories Of Cameras (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、制御装置、移動体、制御方法、及びプログラムに関する。
特許文献1には、飛行型カメラ装置は、受信したウェアラブルデバイスの現在位置に向けて飛行し、近づいたら、可視光点滅物体が点滅発光する可視光を検索しながら、顔認識処理と、認識した顔に合焦させて撮影を行わせる撮影実行処理とを実行することが記載されている。
特許文献1 特開2017−185928号公報
特許文献1に記載された飛行型カメラ装置などのように、被写体までの距離が変化する状況では、被写体への合焦状態を維持することが困難な場合がある。
本発明の一態様に係る制御装置は、撮像装置から被写体までの距離を特定する特定部を備えてよい。制御装置は、撮像装置のフォーカスレンズを異なる位置に駆動させて撮像装置により撮像された画像のコントラスト値に基づいて、被写体に合焦させる撮像装置のフォーカスレンズの第1設定値を導出する第1導出部を備えてよい。制御装置は、距離に基づいて、被写体に合焦させるフォーカスレンズの第2設定値を導出する第2導出部を備えてよい。制御装置は、距離が第1距離範囲の場合、第1の重み付けがされた第1設定値と、第1の重み付けより低い第2の重み付けがされた第2設定値とに基づいて、フォーカスレンズを駆動し、距離が第1距離範囲より長い第2距離範囲の場合、第3の重み付けがされた第1設定値と、第3の重み付けより高い第4の重み付けがされた第2設定値とに基づいて、フォーカスレンズを駆動する制御部を備えてよい。
第1導出部は、距離が第1距離範囲の場合、第1間隔で第1設定値を導出し、距離が第2距離範囲の場合、第1間隔より長い第2間隔で第1設定値を導出してよい。
第2導出部は、距離が第1距離範囲の場合、第1間隔で第2設定値を導出し、距離が第2距離範囲の場合、第2間隔で第2設定値を導出してよい。
第2導出部は、距離が第1距離範囲及び第2距離範囲の場合、第1間隔で第2設定値を導出してよい。
制御装置は、撮像装置により撮像される画像内の合焦させるべき合焦領域を決定する決定部を備えてよい。第1導出部は、撮像装置により撮像された画像内の合焦領域のコントラスト値に基づいて、第1設定値を導出してよい。
特定部は、撮像装置の撮像方向に存在する被写体までの距離を計測する測距センサによる測距結果に基づいて、距離を特定してよい。
本発明の一態様に係る制御装置は、撮像装置から被写体までの距離を特定する特定部を備えてよい。制御装置は、撮像装置のフォーカスレンズを異なる位置に駆動させて撮像装置により撮像された画像のコントラスト値に基づいて、被写体に合焦させる撮像装置のフォーカスレンズの設定値を導出する導出部を備えてよい。制御装置は、設定値に基づいて、フォーカスレンズを駆動する制御部を備えてよい。導出部は、距離が第1距離範囲の場合、第1間隔で設定値を導出し、距離が第1距離範囲より長い第2距離範囲の場合、第1間隔より長い第2間隔で設定値を導出してよい。
本発明の一態様に係る移動体は、上記制御装置と、撮像装置とを搭載して移動する移動体でよい。
上記移動体は、撮像装置の姿勢を調整可能に、撮像装置を支持する支持機構を備えてよい。
移動体は、飛行体でよい。支持機構は、撮像装置の撮像方向が移動体に対して下向きになるように撮像装置を支持してよい。特定部は、距離として、移動体の下方に存在する被写体までの距離を特定してよい。
本発明の一態様に係る制御方法は、撮像装置から被写体までの距離を特定する段階を備えてよい。制御方法は、撮像装置のフォーカスレンズを異なる位置に駆動させて撮像装置により撮像された画像のコントラスト値に基づいて、被写体に合焦させる撮像装置のフォーカスレンズの第1設定値を導出する段階を備えてよい。制御方法は、距離に基づいて、被写体に合焦させるフォーカスレンズの第2設定値を導出する段階を備えてよい。制御方法は、距離が第1距離範囲の場合、第1の重み付けがされた第1設定値と、第1の重み付けより低い第2の重み付けがされた第2設定値とに基づいて、フォーカスレンズを駆動し、距離が第1距離範囲より長い第2距離範囲の場合、第3の重み付けがされた第1設定値と、第3の重み付けより高い第4の重み付けがされた第2設定値とに基づいて、フォーカスレンズを駆動する段階を備えてよい。
本発明の一態様に係る制御方法は、撮像装置から被写体までの距離を特定する段階を備えてよい。制御方法は、撮像装置のフォーカスレンズを異なる位置に駆動させて撮像装置により撮像された画像のコントラスト値に基づいて、被写体に合焦させる撮像装置のフォーカスレンズの設定値を導出する段階を備えてよい。制御方法は、設定値に基づいて、フォーカスレンズを駆動する段階を備えてよい。導出する段階は、距離が第1距離範囲の場合、第1間隔で設定値を導出し、距離が第1距離範囲より長い第2距離範囲の場合、第1間隔より長い第2間隔で設定値を導出してよい。
本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。
本発明の一態様によれば、被写体までの距離が変化する状況で、被写体への合焦状態を維持できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
無人航空機及び遠隔操作装置の外観の一例を示す図である。 無人航空機の機能ブロックの一例を示す図である。 距離と重み付けとの関係の一例を示す図である。 コントラストAFの実行タイミングと距離との関係の一例を示す図である。 無人航空機の動作手順の一例を説明するための図である。 無人航空機の動作手順の一例を説明するための図である。 無人航空機の動作手順の一例を説明するための図である。 無人航空機の動作手順の一例を説明するための図である。 ハードウェエア構成の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等のようなメモリ要素等を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(RTM)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図1は、無人航空機(UAV)10及び遠隔操作装置300の外観の一例を示す。UAV10は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備える。ジンバル50、及び撮像装置100は、撮像システムの一例である。UAV10は、移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、UAVの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV10を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV10を飛行させる。回転翼の数は、4つには限定されない。また、UAV10は、回転翼を有さない固定翼機でもよい。
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
複数の撮像装置60は、UAV10の飛行を制御するためにUAV10の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV10の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV10の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV10の周囲の3次元空間データが生成されてよい。UAV10が備える撮像装置60の数は4つには限定されない。UAV10は、少なくとも1つの撮像装置60を備えていればよい。UAV10は、UAV10の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置300は、UAV10と通信して、UAV10を遠隔操作する。遠隔操作装置300は、UAV10と無線で通信してよい。遠隔操作装置300は、UAV10に上昇、下降、加速、減速、前進、後進、回転などのUAV10の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV10の高度を上昇させる指示情報を含む。指示情報は、UAV10が位置すべき高度を示してよい。UAV10は、遠隔操作装置300から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV10を上昇させる上昇命令を含んでよい。UAV10は、上昇命令を受け付けている間、上昇する。UAV10は、上昇命令を受け付けても、UAV10の高度が上限高度に達している場合には、上昇を制限してよい。
図2は、UAV10の機能ブロックの一例を示す。UAV10は、UAV制御部30、メモリ37、通信インタフェース36、推進部40、GPS受信機41、慣性計測装置42、磁気コンパス43、気圧高度計44、温度センサ45、湿度センサ46、ジンバル50、撮像装置60、撮像装置100、及び測距センサ250を備える。
通信インタフェース36は、遠隔操作装置300などの他の装置と通信する。通信インタフェース36は、遠隔操作装置300からUAV制御部30に対する各種の命令を含む指示情報を受信してよい。メモリ37は、UAV制御部30が、推進部40、GPS受信機41、慣性計測装置(IMU)42、磁気コンパス43、気圧高度計44、温度センサ45、湿度センサ46、ジンバル50、撮像装置60、及び撮像装置100を制御するのに必要なプログラム等を格納する。メモリ37は、コンピュータ読み取り可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、USBメモリ、及びソリッドステートドライブ(SSD)等のフラッシュメモリの少なくとも1つを含んでよい。メモリ37は、UAV本体20の内部に設けられてよい。UAV本体20から取り外し可能に設けられてよい。
UAV制御部30は、メモリ37に格納されたプログラムに従ってUAV10の飛行及び撮像を制御する。UAV制御部30は、CPUまたはMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。UAV制御部30は、通信インタフェース36を介して遠隔操作装置300から受信した命令に従って、UAV10の飛行及び撮像を制御する。推進部40は、UAV10を推進させる。推進部40は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部40は、UAV制御部30からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、UAV10を飛行させる。
GPS受信機41は、複数のGPS衛星から発信された時刻を示す複数の信号を受信する。GPS受信機41は、受信された複数の信号に基づいてGPS受信機41の位置(緯度及び経度)、つまりUAV10の位置(緯度及び経度)を算出する。IMU42は、UAV10の姿勢を検出する。IMU42は、UAV10の姿勢として、UAV10の前後、左右、及び上下の3軸方向の加速度と、ピッチ、ロール、及びヨーの3軸方向の角速度とを検出する。磁気コンパス43は、UAV10の機首の方位を検出する。気圧高度計44は、UAV10が飛行する高度を検出する。気圧高度計44は、UAV10の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ45は、UAV10の周囲の温度を検出する。湿度センサ46は、UAV10の周囲の湿度を検出する。
撮像装置100は、撮像部102及びレンズ部200を備える。レンズ部200は、レンズ装置の一例である。撮像部102は、イメージセンサ120、撮像制御部110、及びメモリ130を有する。イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、複数のレンズ210を介して結像された光学像を撮像し、撮像された画像を撮像制御部110に出力する。撮像制御部110は、CPUまたはMPUなどのマイクロプロセッサ、MCUなどのマイクロコントローラなどにより構成されてよい。撮像制御部110は、UAV制御部30からの撮像装置100の動作命令に応じて、撮像装置100を制御してよい。撮像制御部110は、第1制御部及び第2制御部の一例である。メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、USBメモリ、及びソリッドステートドライブ(SSD)などのフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120などを制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。メモリ130は、撮像装置100の筐体から取り外し可能に設けられてよい。
レンズ部200は、複数のレンズ210、複数のレンズ駆動部212、及びレンズ制御部220を有する。複数のレンズ210は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ210の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部200は、撮像部102に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部212は、カム環などの機構部材を介して、複数のレンズ210の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部212は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部220は、撮像部102からのレンズ制御命令に従って、レンズ駆動部212を駆動して、機構部材を介して1または複数のレンズ210を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。
レンズ部200は、メモリ222、位置センサ214をさらに有する。レンズ制御部220は、撮像部102からのレンズ動作命令に応じてレンズ駆動部212を介して、レンズ210の光軸方向への移動を制御する。レンズ制御部220は、撮像部102からのレンズ動作命令に応じてレンズ駆動部212を介して、レンズ210の光軸方向への移動を制御する。レンズ210の一部または全部は、光軸に沿って移動する。レンズ制御部220は、レンズ210の少なくとも1つを光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。位置センサ214は、レンズ210の位置を検出する。位置センサ214は、現在のズーム位置またはフォーカス位置を検出してよい。
レンズ駆動部212は、振れ補正機構を含んでよい。レンズ制御部220は、振れ補正機構を介して、レンズ210を光軸に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。レンズ駆動部212は、ステッピングモータにより振れ補正機構を駆動して、振れ補正を実行してよい。なお、振れ補正機構は、ステッピングモータにより駆動されて、イメージセンサ120を光軸に方向に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。
メモリ222は、レンズ駆動部212を介して移動する複数のレンズ210の制御値を記憶する。メモリ222は、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリなどのフラッシュメモリの少なくとも1つを含んでよい。
測距センサ250は、測定対象の範囲に存在する物体までの距離を測定するセンサである。測距センサ250は、例えば、ライダ(lidar)、赤外線センサ、または超音波センサなどでよい。測距センサ250は、撮像装置100の撮像方向に存在する物体までの距離を測定してよい。測距センサ250は、撮像装置100とともにジンバル50に設けられてよい。測距センサ250は、撮像装置100の筐体の内部、または筐体の外部に設けられてよい。ジンバル50が駆動して、撮像装置100の撮像方向が変わると、測距センサ250の測定対象の方向も変わる。
以上のように構成されたUAV10において、撮像装置100が、特定の被写体への合焦状態を維持できるようにする。
そこで、撮像制御部110は、特定部112、導出部114、及び合焦制御部116を含む。特定部112は、撮像装置100から被写体までの距離を特定する。特定部112は、測距センサ250により測定された測定対象の範囲に存在する対象物までの距離を、撮像装置100から被写体までの距離として特定してよい。特定部112は、測距センサ250により測定された撮像装置100の撮像方向に存在する対象物までの距離を、撮像装置100から被写体までの距離として特定してよい。特定部112は、UAV10の高度を、撮像装置100から被写体までの距離として特定してよい。
導出部114は、撮像装置100のフォーカスレンズを異なる位置に駆動させて撮像装置100により撮像された画像のコントラスト値に基づいて、被写体に合焦させる撮像装置100のフォーカスレンズの第1設定値を導出する。導出部114は、コントラストオートフォーカス(コントラストAF)を実行することで、被写体に合焦させる撮像装置100のフォーカスレンズの第1設定値を導出してよい。導出部114は、撮像装置100のフォーカスレンズを至近端方向または無限端方向に移動させながら、山登り法に従って、コントラスト値がピークとなるフォーカスレンズの位置を特定することにより、第1設定値を導出してよい。
導出部114は、特定部112により特定された距離に基づいて、被写体に合焦させるフォーカスレンズの第2設定値を導出してよい。導出部114は、合焦距離と、フォーカスレンズの位置との関係を示すテーブルを参照することで、特定部112により特定された距離に基づく第2設定値を導出してよい。導出部114は、第1導出部及び第2導出部の一例である。
合焦制御部116は、導出部114により導出されたフォーカスレンズの第1設定値及び第2設定値の少なくとも一方に基づいて、レンズ制御部220を介して被写体に合焦させるべくフォーカスレンズを移動させる。
ここで、コントラストAFの精度は、被写体までの距離が短いほど高い。被写体までの距離が長いと、コントラストAFで導出されるコントラストの評価値の最低値と最高値との差が小さくなる。したがって、被写体までの距離が長いと、導出部114は、評価値のピークを正確に特定することが困難であり、コントラストAFの精度が低下する。
また、コントラストAFを実行するためには、フォーカスレンズを移動させる必要がある。継続的にコントラストAFを実行すると、画角変動が生じる可能性がある。画角変動が生じると、撮像装置100により撮像され、表示部に表示されている画像がちらつき、ユーザに不快感を与える可能性がある。
上記の通り、被写体までの距離が長いと、コントラストAFの精度は低下する。したがって、コントラストAFを実行しても、合焦状態を最適化できない可能性がある。そこで、距離が第1距離範囲の場合には、合焦制御部116は、コントラストAFに基づく第1設定値を、距離に基づく第2設定値よりも優先的に使用して、フォーカスレンズを駆動する。一方、距離が第1距離範囲より長い第2距離範囲の場合には、合焦制御部116は、距離に基づく第2設定値を、コントラストAFに基づく第1設定値よりも優先的に使用して、フォーカスレンズを駆動する。第1距離範囲は、例えば、0m〜10m、0m〜12、または0m〜15mでよい。第2距離範囲は、例えば、15m以上の距離でよい。第1距離範囲及び第2距離範囲は、レンズ部200のレンズ特性に応じて定められてよい。第1距離範囲及び第2距離範囲は、交換レンズの種類に応じて予め定められてよい。第1距離範囲及び第2距離範囲は、イメージセンサ120の種類に応じて予め定められてよい。
合焦制御部116は、距離が第1距離範囲の場合、第1の重み付けがされた第1設定値と、第1の重み付けより低い第2の重み付けがされた第2設定値とに基づいて、フォーカスレンズを駆動してよい。また、合焦制御部116は、距離が第1距離範囲より長い第2距離範囲の場合、第3の重み付けがされた第1設定値と、第3の重み付けより高い第4の重み付けがされた第2設定値とに基づいて、フォーカスレンズを駆動してよい。
例えば、合焦制御部116は、図3に示すように、距離が第1距離範囲の場合、距離が長くなるにつれて、第1設定値の重み付けを小さくし、第2設定値の重み付けを大きくしてよい。合焦制御部116は、距離が第2距離範囲の場合、第1設定値よりも第2設定値の重み付けを大きくしてよい。
合焦制御部116は、距離が第1距離範囲の場合、第1の重み付けを「1」、第2の重み付けを「0」として、コントラストAFによりフォーカスレンズを駆動してよい。合焦制御部116は、距離が第2距離範囲の場合、第3の重み付けを「0」、第4の重み付けを「1」として、測距センサ250により測定された被写体までの距離に基づいてフォーカスレンズを駆動してよい。
合焦制御部116は、被写体までの距離が短い場合には、コントラストAFによる設定値を、距離による設定値よりも優先的に使用して、フォーカスレンズを駆動する。一方、合焦制御部116は、被写体までの距離が長い場合には、距離による設定値を、コントラストAFによる設定値よりも優先的に使用して、フォーカスレンズを駆動する。これにより、コントラストAFの精度が低い場合に、コントラストAFによるフォーカスレンズの移動が制限されるので、表示部に表示されている画像がちらつき、ユーザに不快感を与える可能性を低減できる。また、被写体までの距離が長い場合に、撮像装置100が所望の被写体に合焦させて撮像できなくなることを抑制できる。例えば、UAV10が上昇しながらUAV10の下方に存在する被写体を撮像装置100が撮像する。この場合に、UAV10の高度が高くなり、被写体までの距離が長くなっても、撮像装置100がその被写体に合焦させて撮像できなくなることを抑制できる。
導出部114は、図4に示すように、被写体までの距離が長い場合には、被写体までの距離が短い場合に比べて、コントラストAFによる第1設定値の導出の実行回数を低減してもよい。導出部114は、被写体までの距離が第1距離範囲の場合、第1間隔で第1設定値を導出してよい。また、導出部114は、被写体までの距離が第2距離範囲の場合、第1間隔より長い第2間隔で第1設定値を導出してよい。
導出部114は、被写体までの距離が第1距離範囲の場合、コントラストAFと同様に、第1間隔で第2設定値を導出し、被写体までの距離が第2距離範囲の場合、第2間隔で第2設定値を導出してよい。
導出部114は、被写体までの距離が第1距離範囲及び第2距離範囲の場合、第1間隔で第2設定値を導出してよい。すなわち、導出部114は、被写体までの距離にかかわらず、常時、第1間隔で第2設定値を導出してよい。合焦制御部116は、導出部114が距離に基づく第2設定値のみを導出している場合には、第2設定値のみに基づいて、フォーカスレンズを駆動してよい。または、合焦制御部116は、導出部114が距離に基づく第2設定値のみを導出している場合に、前回までに導出部114が導出した第1設定値と、今回の第2設定値に基づいて、フォーカスレンズを駆動してよい。導出部114が距離に基づく第2設定値のみを導出している場合に、前回までに導出部114が導出した第1設定値に基づいて今回の第1設定値を予測し、予測した第1設定値と、今回の第2設定値に基づいて、フォーカスレンズを駆動してよい。
撮像制御部110は、決定部118をさらに有してよい。決定部118は、撮像装置100により撮像される画像内の合焦させるべき合焦領域を決定する。決定部118は、撮像装置100により撮像された画像を表示する画面上でユーザにより指定された領域を合焦領域として決定してよい。決定部118は、画像内の予め定められた領域、例えば中央領域を、合焦領域として決定してよい。導出部114は、撮像装置100により撮像された画像内の合焦領域のコントラスト値に基づいて、第1設定値を導出してよい。
図5Aから図5Dを参照して、本実施形態に係るUAV10の動作手順の一例について説明する。
図5Aは、UAV10が飛行前の状態を示す。この状態において、UAV10に搭載された撮像装置100の撮像方向500は、着陸面600に対して平行な方向でよい。すなわち、撮像装置100の撮像方向は、鉛直方向に垂直な方向でよい。なお、UAV10がランディングギアを備えている場合などで、撮像装置100が着陸面600に接触しない場合には、UAV10が着陸した状態で、ジンバル50を制御して撮像装置100の撮像方向を鉛直方向に向けてもよい。
UAV10が飛行を開始すると、ジンバル50を制御することで、図5Bに示すように、撮像装置100の撮像方向500を鉛直方向に向けてよい。撮像装置100は、撮像範囲510を撮像している。例えば、撮像装置100は、図5Cに示すように、UAV10が飛行中に、ユーザからの指示を受けて、撮像範囲510内で所望の合焦領域520を設定する。合焦領域520は、予め定められた領域でもよい。このように、合焦領域520を絞り込む。これにより、UAV10が飛行中に、撮像装置100がオートフォーカスを実行した場合に、撮像装置100が、撮像範囲510に存在する所望の被写体530以外の物体に合焦させるようにフォーカスレンズを駆動することを防止できる。
UAV10が上昇するにつれて、撮像装置100から被写体530までの距離が長くなる。合焦制御部116は、被写体530までの距離が第1距離範囲内であれば、その距離が長くなるにつれて、第1設定値の重み付けを小さくし、第2設定値の重み付けを大きくして、フォーカスレンズを駆動してよい。UAV10が、図5Dに示すように、さらに上昇して、被写体530までの距離が第2距離範囲に達する。この場合、合焦制御部116は、第1設定値よりも第2設定値の重み付けを大きくして、フォーカスレンズを駆動してよい。
UAV10が飛行している高度が第1高度範囲であれば、合焦制御部116は、高度が高くなるにつれて、第1設定値の重み付けを小さくし、第2設定値の重み付けを大きくして、フォーカスレンズを駆動してよい。UAV10が飛行している高度が第1高度範囲より高い第2高度範囲であれば、第1設定値よりも第2設定値の重み付けを大きくして、フォーカスレンズを駆動してよい。
UAV10が飛行している高度が第1高度範囲であれば、合焦制御部116は、コントラストAFを第1間隔で実行し、UAV10が飛行している高度が第1高度範囲より高い第2高度範囲であれば、コントラストAFを第1間隔より長い第2間隔で実行してよい。
UAV10が飛行している高度が第1高度範囲であれば、合焦制御部116は、コントラストAFでフォーカスレンズを駆動し、UAV10が飛行している高度が第1高度範囲より高い第2高度範囲であれば、コントラストAFを実行せず、測距センサ250により測定された距離に基づいてフォーカスレンズを駆動してよい。
図6は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR−ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
10 UAV
20 UAV本体
30 UAV制御部
36 通信インタフェース
37 メモリ
40 推進部
41 GPS受信機
42 慣性計測装置
43 磁気コンパス
44 気圧高度計
45 温度センサ
46 湿度センサ
50 ジンバル
60 撮像装置
100 撮像装置
102 撮像部
110 撮像制御部
112 特定部
114 導出部
116 合焦制御部
118 決定部
120 イメージセンサ
130 メモリ
200 レンズ部
210 レンズ
212 レンズ駆動部
214 位置センサ
220 レンズ制御部
222 メモリ
250 測距センサ
300 遠隔操作装置
1200 コンピュータ
1210 ホストコントローラ
1212 CPU
1214 RAM
1220 入力/出力コントローラ
1222 通信インタフェース
1230 ROM

Claims (8)

  1. 撮像装置と、前記撮像装置の姿勢を調整可能に、前記撮像装置を支持する支持機構とを搭載して飛行する飛行体を制御する制御装置であって、
    前記撮像装置の撮像方向が前記飛行体に対して下向きになるように前記撮像装置が前記支持機構により支持されることで撮像方向を鉛直方向に向けられた前記撮像装置から、前記飛行体の下方に存在する被写体までの距離を特定する特定部と、
    前記撮像装置により撮像される画像内の合焦させるべき合焦領域を前記被写体が存在する面上の予め定められた領域に決定する決定部と、
    前記撮像装置のフォーカスレンズを異なる位置に駆動させて前記撮像装置により撮像された画像内の前記合焦領域のコントラスト値に基づいて、前記被写体に合焦させる前記撮像装置のフォーカスレンズの第1設定値を導出する第1導出部と、
    前記距離に基づいて、前記被写体に合焦させる前記フォーカスレンズの第2設定値を導出する第2導出部と、
    前記飛行体の飛行中の高度が第1高度範囲の場合、第1の重み付けがされた前記第1設定値と、前記第1の重み付けより低い第2の重み付けがされた前記第2設定値とに基づいて、前記フォーカスレンズを駆動し、前記高度が前記第1高度範囲より高い第2高度範囲の場合、第3の重み付けがされた前記第1設定値と、前記第3の重み付けより高い第4の重み付けがされた第2設定値とに基づいて、前記フォーカスレンズを駆動する制御部と
    を備える制御装置。
  2. 前記第1導出部は、前記高度が前記第1高度範囲の場合、第1間隔で前記第1設定値を導出し、前記高度が前記第2高度範囲の場合、前記第1間隔より長い第2間隔で前記第1設定値を導出する、請求項1に記載の制御装置。
  3. 前記第2導出部は、前記高度が前記第1高度範囲の場合、前記第1間隔で前記第2設定値を導出し、前記高度が前記第2高度範囲の場合、前記第2間隔で前記第2設定値を導出する、請求項2に記載の制御装置。
  4. 前記第2導出部は、前記高度が前記第1高度範囲及び前記第2高度範囲の場合、前記第1間隔で前記第2設定値を導出する、請求項2に記載の制御装置。
  5. 前記特定部は、前記撮像装置の撮像方向に存在する被写体までの距離を計測する測距センサによる測距結果に基づいて、前記距離を特定する、請求項1から4の何れか1つに記載の制御装置。
  6. 請求項1から5の何れか1つに記載の制御装置と、前記撮像装置と、前記支持機構とを搭載して飛行する飛行体。
  7. 撮像装置と、前記撮像装置の姿勢を調整可能に、前記撮像装置を支持する支持機構とを搭載して飛行する飛行体を制御する制御方法であって、
    前記撮像装置の撮像方向が前記飛行体に対して下向きになるように前記撮像装置が前記支持機構により支持されることで撮像方向を鉛直方向に向けられた前記撮像装置から、前記飛行体の下方に存在する被写体までの距離を特定する段階と、
    前記撮像装置により撮像される画像内の合焦させるべき合焦領域を前記被写体が存在する面上の予め定められた領域に決定する段階と、
    前記撮像装置のフォーカスレンズを異なる位置に駆動させて前記撮像装置により撮像された画像内の前記合焦領域のコントラスト値に基づいて、前記被写体に合焦させる前記撮像装置のフォーカスレンズの第1設定値を導出する段階と、
    前記距離に基づいて、前記被写体に合焦させる前記フォーカスレンズの第2設定値を導出する段階と、
    前記飛行体の飛行中の高度が第1高度範囲の場合、第1の重み付けがされた前記第1設定値と、前記第1の重み付けより低い第2の重み付けがされた前記第2設定値とに基づいて、前記フォーカスレンズを駆動し、前記高度が前記第1高度範囲より高い第2高度範囲の場合、第3の重み付けがされた前記第1設定値と、前記第3の重み付けより高い第4の重み付けがされた第2設定値とに基づいて、前記フォーカスレンズを駆動する段階と
    を備える制御方法。
  8. 請求項1から5の何れか1つに記載の制御装置としてコンピュータを機能させるためのプログラム。
JP2018137977A 2018-07-23 2018-07-23 制御装置、飛行体、制御方法、及びプログラム Expired - Fee Related JP6714802B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018137977A JP6714802B2 (ja) 2018-07-23 2018-07-23 制御装置、飛行体、制御方法、及びプログラム
CN201980005165.9A CN111226170A (zh) 2018-07-23 2019-07-18 控制装置、移动体、控制方法以及程序
PCT/CN2019/096534 WO2020020042A1 (zh) 2018-07-23 2019-07-18 控制装置、移动体、控制方法以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018137977A JP6714802B2 (ja) 2018-07-23 2018-07-23 制御装置、飛行体、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020016703A JP2020016703A (ja) 2020-01-30
JP6714802B2 true JP6714802B2 (ja) 2020-07-01

Family

ID=69182150

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018137977A Expired - Fee Related JP6714802B2 (ja) 2018-07-23 2018-07-23 制御装置、飛行体、制御方法、及びプログラム

Country Status (3)

Country Link
JP (1) JP6714802B2 (ja)
CN (1) CN111226170A (ja)
WO (1) WO2020020042A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220283401A1 (en) * 2021-03-04 2022-09-08 Aver Information Inc. System and method for dynamically adjusting maximum setting magnification of optical lens and non-transitory computer readable medium

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6798072B2 (ja) * 2019-04-24 2020-12-09 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、移動体、制御方法、及びプログラム
EP4294872A1 (en) * 2021-02-22 2023-12-27 Solvay Specialty Polymers USA, LLC Insulated wires

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1123955A (ja) * 1997-07-08 1999-01-29 Nikon Corp 自動焦点調節カメラ
JP4543602B2 (ja) * 2002-04-17 2010-09-15 株式会社ニコン カメラ
JP4775930B2 (ja) * 2004-02-20 2011-09-21 キヤノン株式会社 レンズ制御装置、撮像装置およびレンズ制御方法
US7844176B2 (en) * 2007-08-01 2010-11-30 Olympus Imaging Corp. Imaging device, and control method for imaging device
JP2009069748A (ja) * 2007-09-18 2009-04-02 Fujifilm Corp 撮像装置およびその自動焦点調節方法
EP2448246B1 (en) * 2010-10-28 2019-10-09 Axis AB Method for focusing
JP2013008018A (ja) * 2011-05-25 2013-01-10 Canon Inc 撮像装置およびその制御方法
JP5891667B2 (ja) * 2011-09-15 2016-03-23 株式会社ニコン 焦点調節装置およびそれを備えた撮像装置
JP2013130827A (ja) * 2011-12-22 2013-07-04 Canon Inc レンズ制御装置
JP6198437B2 (ja) * 2012-05-11 2017-09-20 キヤノン株式会社 撮像装置およびその制御方法
JP5769768B2 (ja) * 2013-09-03 2015-08-26 オリンパス株式会社 撮像装置、撮像方法およびプログラム
JP2016057421A (ja) * 2014-09-09 2016-04-21 キヤノン株式会社 焦点調節装置および焦点調節方法
JP6308238B2 (ja) * 2016-04-07 2018-04-11 カシオ計算機株式会社 飛行型カメラ装置、飛行型カメラシステム、端末装置、飛行型カメラ装置の制御方法およびプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220283401A1 (en) * 2021-03-04 2022-09-08 Aver Information Inc. System and method for dynamically adjusting maximum setting magnification of optical lens and non-transitory computer readable medium

Also Published As

Publication number Publication date
JP2020016703A (ja) 2020-01-30
CN111226170A (zh) 2020-06-02
WO2020020042A1 (zh) 2020-01-30

Similar Documents

Publication Publication Date Title
CN108235815B (zh) 摄像控制装置、摄像装置、摄像系统、移动体、摄像控制方法及介质
CN111356954B (zh) 控制装置、移动体、控制方法以及程序
JP6496955B1 (ja) 制御装置、システム、制御方法、及びプログラム
CN111567032B (zh) 确定装置、移动体、确定方法以及计算机可读记录介质
JP6565072B2 (ja) 制御装置、レンズ装置、飛行体、制御方法、及びプログラム
JP6630939B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6714802B2 (ja) 制御装置、飛行体、制御方法、及びプログラム
JP6543875B2 (ja) 制御装置、撮像装置、飛行体、制御方法、プログラム
CN111602385B (zh) 确定装置、移动体、确定方法以及计算机可读记录介质
JP6587006B2 (ja) 動体検出装置、制御装置、移動体、動体検出方法、及びプログラム
JP6565071B2 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JP6668570B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6501091B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP2020085918A (ja) 決定装置、撮像装置、撮像システム、移動体、決定方法、及びプログラム
JP6696094B2 (ja) 移動体、制御方法、及びプログラム
JP6746856B2 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP2019096965A (ja) 決定装置、制御装置、撮像システム、飛行体、決定方法、及びプログラム
JP6696092B2 (ja) 制御装置、移動体、制御方法、及びプログラム
JP6459012B1 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JP6707790B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6569157B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6710863B2 (ja) 飛行体、制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180723

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200515

R150 Certificate of patent or registration of utility model

Ref document number: 6714802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees