JP7643447B2 - 情報処理方法、情報処理装置およびプログラム - Google Patents

情報処理方法、情報処理装置およびプログラム Download PDF

Info

Publication number
JP7643447B2
JP7643447B2 JP2022505159A JP2022505159A JP7643447B2 JP 7643447 B2 JP7643447 B2 JP 7643447B2 JP 2022505159 A JP2022505159 A JP 2022505159A JP 2022505159 A JP2022505159 A JP 2022505159A JP 7643447 B2 JP7643447 B2 JP 7643447B2
Authority
JP
Japan
Prior art keywords
trajectory
camera
information
partial trajectory
partial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022505159A
Other languages
English (en)
Other versions
JPWO2021177139A1 (ja
Inventor
啓輔 前田
達也 石塚
充 中田
大 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2021177139A1 publication Critical patent/JPWO2021177139A1/ja
Application granted granted Critical
Publication of JP7643447B2 publication Critical patent/JP7643447B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0094Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/20Control system inputs
    • G05D1/24Arrangements for determining position or orientation
    • G05D1/246Arrangements for determining position or orientation using environment maps, e.g. simultaneous localisation and mapping [SLAM]
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/40Control within particular dimensions
    • G05D1/43Control of position or course in two dimensions [2D]
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2111/00Details of signals used for control of position, course, altitude or attitude of land, water, air or space vehicles
    • G05D2111/10Optical signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本開示は、移動体の軌道計画に関する処理を行う情報処理方法、情報処理装置およびプログラムに関する。
ロボットやドローン等の移動体に関する各種処理を行うための種々の技術が提案されている(特許文献1~6、および非特許文献参照1~4参照)。
特開2012-185752号公報 特開2007-15037号公報 特開2003-266347号公報 特開2012-59176号公報 特開2016-95841号公報 特表2018-509676号公報
Y Tassa et al., "Control-limited differential dynamic programming", IEEE International Conference on Robotics and Automation (ICRA), 2014 Using occupancy grids for mobile robot perception and navigation - IEEE Computer 2/251998. Rusu, Radu Bogdan, and Steve Cousins., "3d is here: Point cloud library (pcl).", Robotics and Automation (ICRA), 2011, IEEE International Conference on. IEEE, 2011. "A survey of motion planning and control techniques for self-driving urban vehicles", B. Paden et al, arxiv;1604.07446v, 2016.
カメラを備えた移動体を移動させつつ撮影を行う場合において、カメラの撮影軌道と移動体の移動軌道とをユーザが事前作成したいという要求がある。
移動体の軌道計画を容易に作成することを可能にする情報処理方法、情報処理装置およびプログラムを提供することが望ましい。
本開示の一実施の形態に係る情報処理方法は、移動体に設けられたカメラによる複数の撮影予定地点と複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行うことと、受信した入力情報に基づいて、移動体の事前軌道を作成する処理を行うことと、事前軌道を作成する処理として、複数の撮影予定地点のうち第1の撮影予定地点における第1のカメラ姿勢と第2の撮影予定地点における第2のカメラ姿勢とに基づいて、部分軌道を作成する処理を行うことと、部分軌道を作成する処理によって作成された部分軌道が、移動体によって現実に移動可能であるか否かを評価する処理を行うことと、評価する処理によって、部分軌道が現実には移動不可能であると評価された場合に、移動不可能であることを通知する処理を行うこととを含む。
本開示の一実施の形態に係る情報処理装置は、移動体に設けられたカメラによる複数の撮影予定地点と複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する受信部と、受信した入力情報に基づいて、移動体の事前軌道を作成する処理を行う軌道計画部とを備える。軌道計画部による事前軌道を作成する処理として、複数の撮影予定地点のうち第1の撮影予定地点における第1のカメラ姿勢と第2の撮影予定地点における第2のカメラ姿勢とに基づいて、部分軌道を作成する処理と、部分軌道を作成する処理によって作成された部分軌道が、移動体によって現実に移動可能であるか否かを評価する処理と、評価する処理によって、部分軌道が現実には移動不可能であると評価された場合に、移動不可能であることを通知する処理とを含む。
本開示の一実施の形態に係るプログラムは、移動体に設けられたカメラによる複数の撮影予定地点と複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行うことと、受信した入力情報に基づいて、移動体の事前軌道を作成する処理を行うことと、事前軌道を作成する処理として、複数の撮影予定地点のうち第1の撮影予定地点における第1のカメラ姿勢と第2の撮影予定地点における第2のカメラ姿勢とに基づいて、部分軌道を作成する処理を行うことと、部分軌道を作成する処理によって作成された部分軌道が、移動体によって現実に移動可能であるか否かを評価する処理を行うことと、評価する処理によって、部分軌道が現実には移動不可能であると評価された場合に、移動不可能であることを通知する処理を行うこととを含む処理をコンピュータに実行させる。
本開示の一実施の形態に係る情報処理方法、情報処理装置またはプログラムでは、移動体に設けられたカメラによる複数の撮影予定地点と複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を、所定の座標系上で受信する。受信した入力情報に基づいて、移動体の事前軌道を作成する処理を行う。
本開示の第1の実施の形態に係る情報処理方法、情報処理装置およびプログラムが適用される移動体の概要を示すブロック図である。 移動体の詳細な構成の第1の例を示すブロック図である。 移動体の詳細な構成の第2の例を示すブロック図である。 第1の実施の形態に係る情報処理方法が適用される移動体システムの概要を示すブロック図である。 移動体システムの一例としてのドローンシステムのハードウェア構成の一例を概略的に示すブロック図である。 第1の実施の形態に係る端末装置の制御系の一構成例を概略的に示すブロック図である。 第1の実施の形態に係る端末装置のハードウェア構成の一例を概略的に示すブロック図である。 第1の実施の形態に係る端末装置による事前軌道の作成の処理フローの一例を概略的に示す流れ図である。 姿勢間の部分軌道計画の第1の例の動作フローの一例を概略的に示す流れ図である。 部分軌道が飛行可能かの評価方法のフローの一例を概略的に示す流れ図である。 軌道形状の評価の処理のフローの一例を概略的に示す流れ図である。 連続的軌道が飛行可能かの評価のフローの一例を概略的に示す流れ図である。 離散的軌道が飛行可能かの評価のフローの一例を概略的に示す流れ図である。 姿勢間の部分軌道計画の第2の例の動作フローの一例を概略的に示す流れ図である。 第1の実施の形態に係る端末装置による事前軌道の作成のGUI画面の初期画面の一例を概略的に示す説明図である。 図15に示したGUI画面を用いて地図の設定をする段階(ステップ1)における画面例を概略的に示す説明図である。 図15に示したGUI画面を用いて撮影ポイントの追加の設定をする段階(ステップ2)における画面例を概略的に示す説明図である。 図15に示したGUI画面を用いて撮影位置および撮影姿勢の設定をする段階(ステップ3)における画面例を概略的に示す説明図である。 図15に示したGUI画面を用いて撮影時刻の調整の設定をする段階(ステップ4)における画面例を概略的に示す説明図である。 図15に示したGUI画面を用いてステップ2~4の設定を繰り返した段階の画面例を概略的に示す説明図である。 図15に示したGUI画面を用いて作成された事前軌道の一例を概略的に示す説明図である。
以下、本開示の実施の形態について図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
1.0 移動体の概要および課題(図1~図4)
1.1 構成(図5~図7)
1.2 動作(図8~図14)
1.3 事前軌道の作成の具体例(図15~図21)
1.4 効果
2.その他の実施の形態
<1.第1の実施の形態>
[1.0 移動体の概要および課題]
(移動体の概要)
第1の実施の形態に係る情報処理方法、情報処理装置およびプログラムの技術は、移動体に対する処理に適用可能である。例えばセンシング装置(センサ)と電子計算機とを備え、データを処理しながら自律的にあるいは指示に従って動作する移動体に対する処理に適用可能である。移動体としては、例えばドローン、ロボット、自動カート、および自動運転車等に適用可能である。
図1は、本開示の第1の実施の形態に係る情報処理方法、情報処理装置およびプログラムが適用される移動体の概要を示している。図2は、移動体の詳細な構成の第1の例を示している。図2では、移動体として例えばドローンの詳細な構成例を示している。図3は、移動体の詳細な構成の第2の例を示している。図3では、移動体として例えば多足歩行ロボットの詳細な構成例を示している。
移動体は、図1に示したように、例えば、センサ部1と、処理装置2と、駆動機構部3と、外部撮影用のカメラ4とを備えている。処理装置2は、認識部20と、行動計画部30と、行動制御部40とを有している。移動体は、処理装置2を複数、備えていてもよい。
センサ部1は、例えば、ジャイロセンサおよび地磁気センサ等の内界センサや、カメラおよびToF(Time of Flight)センサ等の外界センサを含み、それらのセンサからのセンサ情報を出力する。センサ部1は、例えば、カメラ、加速度センサ、レーザレンジファインダー、ToF(Time of Flight)センサ、地磁気センサ、ジャイロセンサ、接触センサ、温度センサ、湿度センサ、およびGNSS(Global Navigation Satellite Systems)等のうち、少なくとも1つを含む。
移動体がドローンの場合、例えば図2に示したように、センサ部1として、LIDAR(Laser Imaging Detection and Ranging)11と、内界センサ12と、GNSS(Global Navigation Satellite Systems、全地球航法衛星システム)13とを有している。内界センサ12は、例えば、IMU(Inertial Measurement Unit、慣性計測装置)と加速度センサとを含む。IMUは、角度(または角速度)と加速度を検出する。内界センサ12は、例えば、位置、姿勢、速度、加速度、および角加速度等のセンサ情報を出力する。
移動体が多足歩行ロボットの場合、例えば図3に示したように、センサ部1として、LIDAR11と、内界センサ12と、カメラ14とを有している。カメラ14は外部撮影用のカメラ4とは異なるセンサ用カメラである。
認識部20は、センサ部1からのセンサ情報に基づいて、認識処理を行う。認識部20は、認識結果として、各種画像データを出力する。また、認識部20は、認識結果として、周辺の人の表情、位置、および属性、自分や障害物の位置等のデータを出力する。また、認識部20は、認識結果として、周辺の物体の種類、位置、および属性等のデータを出力する。認識部20による認識処理の例としては、例えば特許文献1に記載の技術では、ロボットに備わるカメラを用いて、視線方向に対するテンプレート画像と撮像画像とから、ロボットや対象物体の位置データおよび姿勢データ等を生成する。
移動体がドローンの場合、例えば図2に示したように、認識部20として、障害物認識部21と、SLAM(Simultaneously Localization and Mapping)22とを有している。障害物認識部21は、センサ情報に基づいて、例えば周辺の障害物の位置等の障害物情報を出力する。SLAM22は、センサ情報に基づいて、例えば自己位置推定を行い、自己の位置情報を出力する。
移動体が多足歩行ロボットの場合、例えば図3に示したように、認識部20として、障害物認識部21と、SLAM22と、Visual SLAM23とを有している。Visual SLAM23は、最寄りのランドマークのID(Identification)、ランドマークからの相対位置、および姿勢等の情報を出力する。
行動計画部30は、機体全体または機体の部分的な行動を計画し、行動計画情報を出力する。行動計画情報としては、例えば自機全体や部品の移動軌跡、状態変化、速度、および加速度等を含む。
行動計画部30は、例えば図2および図3に示したように、プランナー31と、センサフュージョン部32と、地図DB(データベース)33とを有している。プランナー31は、例えば、移動軌跡を計画する。プランナー31は、移動軌跡の計画に地図DB33の地図データを参照してもよい。移動軌跡は、例えば、0.1秒ごとの位置情報(x,y,z)の点系列データと、その時点ごとの目標速度、および目標角速度等の系列データとを含む。センサフュージョン部32は、移動体がドローンの場合、例えば図2に示したように、GNSS13からの情報とSLAM22からの情報とに基づいて、精度を向上させた自己位置情報等を出力する。また、センサフュージョン部32は、移動体が多足歩行ロボットの場合、例えば図3に示したように、Visual SLAM23からの情報とSLAM22からの情報とに基づいて、精度を向上させた自己位置情報および自己姿勢情報等を出力する。
行動計画部30は、機体の大まかな位置、例えば機体の重心位置や指先位置などの位置の軌道を計画して行動計画情報として出力する。例えば非特許文献1にはBOX-DDPなるアルゴリズムによって車の自動パーキング軌跡を計画して行動計画情報として出力する技術が記載されている。また、非特許文献4には、A*(スター)やRRT(Rapidly exploring Random Tree)などの複数の移動軌跡生成技術が記載されている。非特許文献4によれば移動軌跡は、距離的等間隔の点列や、時間的等間隔の点列で表すことができる。また、その各点において速度や加速度、および角速度を付与することもできる。行動を計画する際には、周辺の障害物や地理的情報(地図データ)を利用することもできる。
非特許文献2にはOccupancy grid map(環境格子地図)なる、格子状のデータ構造の障害物マップをもとにロボットの経路を探索する技術が記載されている。また、非特許文献3にはToFセンサやLIDARなどの3Dスキャニングセンサに基づくpoint cloud(点群)なる、点集合のデータ構造の障害物マップに関する技術が記載されている。
行動制御部40は、行動計画部30からの行動計画情報に基づいて、駆動機構部3を制御する制御信号を出力する。行動制御部40は、移動体がロボットの場合、例えば、ロボットの各パーツに位置するアクチュエータへの制御信号を、ロボットの状態が事前に定めた条件(例えば倒れない等)に従うよう出力する。例えば非特許文献1に記載の技術では、各関節に収められた低レベルPD制御器をもとに各関節を制御し、ロボットの歩行モーションを実現している。
行動制御部40は、例えば図2および図3に示したように、経路追従制御部41と、姿勢制御コントローラ42とを有している。
駆動機構部3は、移動体の動きを実現するための各種駆動機構、例えばアクチュエータ、モータ、サーボモータ、およびブレーキ等を含む。駆動機構部3は、移動体の外部に各種情報出力を行うための部品が含まれていてもよい。例えば、LED(Light Emitting Diode)、表示装置やスピーカ等が含まれていてもよい。
移動体がドローンの場合、駆動機構部3は、例えば図2に示したように、複数のプロペラ51が含まれていてもよい。この場合、姿勢制御コントローラ42は、例えば複数のプロペラ51のそれぞれの回転速度を制御する制御信号を出力してもよい。
また、移動体が多足歩行ロボットの場合、駆動機構部3は、例えば図3に示したように、関節モータ52が含まれていてもよい。この場合、姿勢制御コントローラ42は、例えば関節モータ52を駆動制御する制御信号を出力してもよい。
(課題)
図1ないし図3に示したような移動体を移動させつつ、外部撮影用のカメラ4によって撮影を行う場合において、カメラ4の撮影軌道と移動体の移動軌道とをユーザが事前作成したいという要求がある。
この場合、従来の技術では、複数の撮影ポイントを通過するような滑らかな撮影軌道と、移動体が現実に実現可能な滑らかな移動軌道とを、ユーザが事前作成することが困難である。これは第1の課題として、移動体の制御変数とカメラの制御変数とが多く、すべてを手動で作成することが困難であることに起因する。また、第2の課題として、移動軌道としての滑らかさと撮影軌道としての滑らかさとが必ずしも一致しないことに起因する。また、第3の課題として、移動体が現実に実現可能な軌道を作成するためには、ユーザが事前に機体特性を知っておく必要があることに起因する。
移動体の軌道を事前に作成する方法として、例えば画面上で2次元的な複数の位置を指定し、高さはデフォルト値から書き換える方法がある。この手法では、滑らかな移動軌道を作成することが困難であり、また、姿勢(向き)の表現が困難である。また、撮影を考慮した移動体の軌道を指定することが困難である。
また、固定された軌道を相対位置で表現する方法があるが、それを編集することは困難である。
また、ベジェ曲線によってマップ上に線を描くようにして移動軌道を作成する方法があるが、速度や姿勢によっては移動体が移動不可能な線になってしまうおそれがある。
そこで、移動体の軌道計画を容易に作成することを可能にする技術の開発が望まれる。
上記した課題を解決するために、第1の実施の形態に係る技術では、移動体の姿勢ではなく、撮影ポイント(撮影予定地点)と撮影ポイントにおけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行う。また、複数の撮影ポイントにおける複数のカメラ姿勢に基づいて、移動体の複数の姿勢を求め、複数の姿勢間を滑らかにつなぐ部分軌道を求める処理を行う。また、部分軌道を作成する処理によって作成された部分軌道が、移動体によって現実に移動可能であるか否かを評価する処理を行い、部分軌道が現実には移動不可能であると評価された場合に、部分軌道を再度、作成する処理を行う。
以下、これらの処理を行う実現する、情報処理方法、情報処理装置およびプログラムの第1の実施の形態について説明する。
[1.1 構成]
(システム構成)
図4は、第1の実施の形態に係る情報処理方法が適用される移動体システムの概要を示すブロック図である。
第1の実施の形態に係る情報処理方法は、端末装置200と、移動体300とを備えたシステムに適用される。
端末装置200は、ユーザからの撮影ポイントの情報等の入力情報を所定の座標系上で受信し、入力情報に基づいて、情報移動体300の事前軌道の編集、作成処理を行う。端末装置200は、例えばパーソナルコンピュータやモバイル端末等であってもよい。
端末装置200は、本開示の技術における「情報処理装置」の一具体例に相当する。本開示の技術における情報処理方法は端末装置200によって実現される。
移動体300は、例えば上述した図1~図3に示したようなドローンやロボットである。移動体300は、端末装置200によって作成された事前軌道に従って移動する。
図5は、移動体システムの一例としてのドローンシステムのハードウェア構成の一例を概略的に示している。図5では、移動体300をドローンとした場合のシステム構成例を示している。ドローンは、図2に示したような構成のドローンであってもよい。
ドローンシステムは、例えば、管制90と、手動コントローラ80と、端末装置200と、移動体300とを備えている。なお、ここでは、手動コントローラ80と端末装置200とが別々に構成されている例を示しているが、手動コントローラ80と端末装置200とが1つの装置で構成されていてもよい。
管制90は、端末装置200と移動体300とに無線等によって通信可能となっている。端末装置200は、移動体300と手動コントローラ80とに有線また無線により通信可能となっている。手動コントローラ80は、無線により移動体300と通信可能となっている。
移動体300は、例えば、ドローン本体60を備えている。ドローン本体60は、カメラ・センサ部61と、駆動部62と、画像・信号処理プロセッサ63と、FC(フライトコントローラ)64と、AP(アプリケーションプロセッサ)67と、処理アクセラレータ68とを有している。
フライトコントローラ64は、例えば、センサハブ65と、リアルタイム制御プロセッサ66とを含む。
処理アクセラレータ68は、例えばGPU(Graphics Processing Unit)、DSP(Digital Signal Processor)およびASIC(Application Specific Integrated Circuit)等を含む。
カメラ・センサ部61は、例えば、センサ部611と、カメラ612とを含む。センサ部611は、例えば、ステレオカメラ、IMU、およびGPS(Global Positioning System)等を含む。カメラ612は、外部撮影用のカメラである。カメラ・センサ部61からのセンサ信号および撮影信号は、画像・信号処理プロセッサ63を介してアプリケーションプロセッサ67に出力される。また、カメラ・センサ部61からのセンサ信号および撮影信号は、センサハブ65を介してアプリケーションプロセッサ67とリアルタイム制御プロセッサ66とに出力される。
駆動部62は、例えば、モータコントローラ621と、カメラジンバル622とを含む。
管制90は、必要に応じてドローン本体60との間で管制通信を行う。管制90は、例えば、移動体300が飛行禁止領域に接近した場合等に移動体300の誘導等を行う。
手動コントローラ80は、移動体300を操縦する信号を送信する送信機であり、プロポ(プロポーショナルシステム)と呼ばれる。ユーザは、手動コントローラ80を用いて移動体300を手動操縦することが可能となっている。
リアルタイム制御プロセッサ66は、センサハブ65を介して入力されたセンサ信号等と、アプリケーションプロセッサ67からの制御信号等とに基づいて、駆動部62に駆動制御信号を出力する。
駆動部62は、リアルタイム制御プロセッサ66からの駆動制御信号に基づいて、モータコントローラ621とカメラジンバル622とを駆動制御する。モータコントローラ621は、駆動制御信号に基づいてプロペラ51(図2)等を駆動する。カメラジンバル622は、駆動制御信号に基づいてカメラ612の姿勢を制御する。
(端末装置200の構成)
図6は、第1の実施の形態に係る端末装置200の制御系の一構成例を概略的に示している。
端末装置200は、制御部100と、UI(User Interface)部110と、座標変換部120と、軌道計画部130と、軌道連結部140と、通信部150とを備えている。
UI部110は、例えば後述する図15に示すようなGUI(Graphical User Interface)画面を表示し、GUI画面上でキーボードやマウス等を介してユーザからの入力を受け付ける(受信する)。UI部110は、移動体300に設けられたカメラ612による複数の撮影予定地点と、複数の撮影予定地点(撮影ポイント)におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行う。ここで、所定の座標系とは、地図座標系を含む。例えば後述する図16ないし図18に示すような、カメラ姿勢ビューア210に表示される地図の座標系を含む。また、所定の座標系とは、自己位置座標系を含む。
UI部110は、本開示の技術における「受信部」の一具体例に相当する。
制御部100は、端末装置200の各部の制御を行う。
座標変換部120は、所定の座標系におけるカメラ姿勢と所定の座標系における移動体300の機体姿勢との変換を行う。
軌道計画部130は、UI部110が受け付けた(受信した)入力情報に基づいて、移動体300の事前軌道を作成する処理を行う。事前軌道を作成する処理は、複数の撮影ポイントのうち第1の撮影ポイントにおける第1のカメラ姿勢と第2の撮影ポイントにおける第2のカメラ姿勢とに基づいて、部分軌道を作成する処理を含んでもよい(後述の図8~図9、図17~図21参照)。この場合において、 第1のカメラ姿勢は、部分軌道における撮影の開始姿勢であってもよい。第2のカメラ姿勢は、部分軌道における撮影の終了姿勢であってもよい。入力情報には、第1の撮影ポイントにおける撮影時刻(部分軌道における撮影の開始時刻)と第2の撮影ポイントにおける撮影時刻(部分軌道における撮影の終了時刻)とが含まれてもよい。
軌道計画部130による部分軌道を作成する処理は、移動体300の運動性能に基づいて、第1のカメラ姿勢と第2のカメラ姿勢との姿勢間における複数の軌道候補を作成する処理を行うことを含んでもよい(後述の図14参照)。
また、軌道計画部130は、部分軌道を作成する処理によって作成された部分軌道が、移動体300によって現実に移動可能であるか否かを評価する処理を行う(後述の図9~図13参照)。軌道計画部130は、評価する処理によって、部分軌道が現実には移動不可能であると評価された場合には、部分軌道を再度、作成する処理を行う(後述の図8参照)。軌道計画部130による評価の結果(軌道作成の可否)は、UI部110を介してユーザに通知される。UI部110は、軌道計画部130によって、部分軌道が現実には移動不可能であると評価された場合に、入力情報を再度、受け付ける(受信する)処理を行う(後述の図8参照)。
軌道計画部130による評価する処理は、部分軌道を移動する際の移動方向が移動体300の運動性能によって現実に実現可能であるか否かを評価する処理を含む(後述の図9~図11参照)。また、軌道計画部130による評価する処理は、部分軌道を移動する際の、速度、加速度、および躍度のうち少なくとも1つが移動体300の運動性能によって現実に実現可能であるか否かを評価する処理を含む(後述の図11~図13参照)。
軌道連結部140は、軌道計画部130によって作成された複数の部分軌道を連結して事前軌道を作成する。
通信部150は、軌道連結部140によって作成された事前軌道を移動体300に送信する。
図7は、第1の実施の形態に係る端末装置200のハードウェア構成の一例を概略的に示している。
端末装置200は、CPU901(Central Processing Unit)と、ROM902(Read Only Memory)と、RAM903(Random Access Memory)と、これらを接続するバス905とを備えている。また、端末装置200は、入力装置911と、出力装置912と、ストレージ装置913と、ドライブ914と、接続ポート915と、通信装置916と、これらを接続するインタフェース908とを備えている。また、端末装置200は、インタフェース908とバス905との間を接続するバス906とブリッジ907とを備えている。通信装置916は、無線または有線により通信網920に接続可能となっている。
CPU901、ROM902、およびRAM903は、マイクロコンピュータを構成している。例えばROM902およびRAM903は、半導体記憶装置等により構成される。第1の実施の形態に係るプログラムは、第1の実施の形態に係る情報処理方法による処理をマイクロコンピュータに実行させるものであってもよい。第1の実施の形態に係る情報処理方法による処理は、ROM902またはRAM903に記憶されたプログラムを、CPU901が実行することで実現し得る。なお、第1の実施の形態に係る情報処理方法による処理は、例えば有線または無線による通信網920により外部から供給されたプログラムに基づく処理をCPU901が実行することで実現してもよい。
入力装置911は、例えばキーボードやポインティングデバイス等を含み、ユーザからの入力を受け付ける(受信する)。また、入力装置911は、カメラやスキャナ等を含み、画像データ等の入力を受け付ける。出力装置912は、例えばディスプレイ、スピーカ、およびプリンタ等を含み、各種情報を出力する。出力装置912は、例えばディスプレイによって画像の表示を行う。
ストレージ装置913は、ハードディスクドライブ等で構成される。ドライブ914は、光学ドライブ等で構成される。接続ポート915は、USB(Universal Serial Bus)端子等で構成される。
[1.2 動作]
図8は、第1の実施の形態に係る端末装置200による事前軌道の作成の処理フローの一例を概略的に示している。ここでは、移動体300はドローンであり、端末装置200が事前軌道としてドローンの事前飛行軌道を作成する処理を例に説明する。
まず、端末装置200は、パラメータnの値をn=0とし、事前飛行軌道Tをクリアする(ステップS101)。次に、端末装置200は、カメラ姿勢Pcam,nを受け取る(ステップS102)。次に、端末装置200は、機体姿勢Pbody,nを算出する(ステップS103)。ここでは、カメラ612が機体上で姿勢を変えられる(ジンバル機構がある)場合、複数の機体姿勢候補や機体姿勢の範囲を返してもよい。
機体姿勢Pbody,nを算出(ステップS103)した後は、カメラ612による撮影が動画の場合、次に、端末装置200は、撮影時刻tnを受け取り(ステップS104)、次に、パラメータnの値がn=0であるか否かを判断する(ステップS105)。機体姿勢Pbody,nを算出(ステップS103)した後は、カメラ612による撮影が静止画の場合、次に、端末装置200は、パラメータnの値がn=0であるか否かを判断する(ステップS105)。パラメータnの値がn=0であると判断した場合(ステップS105:Y)、端末装置200は、ステップS101の処理に戻る。
パラメータnの値がn=0ではないと判断した場合(ステップS105:N)、次に、端末装置200は、姿勢Pbody,n-1から姿勢Pbody,nまでの部分軌道Tn-1を計画する(ステップS106)。ここで、カメラ612による撮影が静止画の場合は、例えばドローンであればホバリングして静止した状態で撮影を行うことが多い。そこで、静止画の場合は、端末装置200は、Pbody,nで速度0になる部分軌道を計画してもよい。カメラ612による撮影が動画の場合は、端末装置200は、撮影時刻を守るように部分軌道を計画する。ベジエ曲線、スプライン曲線、およびA*による探索などの計画アルゴリズムが考えられる。後述するように、2つの姿勢候補、範囲をつなぐ部分軌道集合を計画してもよい。
次に、端末装置200は、解があるか否かを判断する(ステップS107)。解がないと判断した場合(ステップS107:N)、端末装置200は、解がないことを通知(ステップS108)した後、ステップS101の処理に戻る。カメラ姿勢、撮影時刻の初期値は1つ前の入力としてもよい。
解があると判断した場合(ステップS107:Y)、端末装置200は、事前飛行軌道TにTn-1を追加する(ステップS109)。次に、端末装置200は、カメラ姿勢の指定が終了したか否かを判断する(ステップS110)。カメラ姿勢の指定が終了していないと判断した場合(ステップS110:N)、端末装置200は、ステップS101の処理に戻る。
カメラ姿勢の指定が終了したと判断した場合(ステップS110:Y)において、動画の場合、端末装置200は、停止(ホバリング)するまでの部分軌道Tnを計画(ステップS111)した後、事前飛行軌道TにTnを追加する(ステップS112)。カメラ姿勢の指定が終了したと判断した場合(ステップS110:Y)において、静止画の場合、次に、端末装置200は、事前飛行軌道TにTnを追加する(ステップS112)。
(姿勢間の部分軌道計画の第1の例)
図9は、姿勢間の部分軌道計画(図8のステップS106)の第1の例の動作フローの一例を概略的に示している。
端末装置200は、姿勢Pbody,n-1から姿勢Pbody,nまでの部分軌道Tn-1を作成する(ステップS201)。次に、端末装置200は、部分軌道Tn-1を飛行可能か評価する(ステップS202)。
次に、端末装置200は、評価の結果、飛行可能であるか否かを判断する(ステップS203)。飛行可能ではないと判断した場合(ステップS203:N)、端末装置200は、解がないと判断する(ステップS204)。飛行可能であると判断した場合(ステップS203:Y)、端末装置200は、解があると判断する(ステップS205)。すなわち、解は部分軌道Tn-1であるとする。
ここで、図9のステップS202の飛行可能かの評価方法は軌道のデータ形式によって異なる。
(軌道の構成要素)
・時刻
時刻は、絶対時刻でも相対時刻でもよい。例えばsec,nsecそれぞれをlong型、またはdouble型で表現してもよい。また、時刻については未指定でもよい。
・位置および姿勢
位置および姿勢は、固定座標系における3次元位置および3次元姿勢であってもよい。例えば離陸位置を原点とする直交座標x,y,z、Roll,Pitch,Yaw緯度、経度、高度、NED座標などであってもよい。例えばdouble型の6次元ベクトルなどであってもよい。姿勢については、一部またはすべてが未指定でもよい。
・速度
速度は、固定座標系または機体座標系における速度(角速度を含む)であってもよい。例えば、上記位置および姿勢の微分値でもよいし、それらを別座標系に変換したものでもよい。例えばdouble型の6次元ベクトルなどであってもよい。速度については、一部またはすべてが未指定でもよい。
・加速度
加速度は、固定座標系または機体座標系における加速度(角加速度を含む)であってもよい。上記速度の微分値でもよいし、それらを別座標系に変換したものでもよい。例えばdouble型の6次元ベクトルなどであってもよい。加速度については、一部またはすべてが未指定でもよい。
・躍度
躍度は、固定座標系または機体座標系における躍度(角躍度を含む)であってもよい。上記加速度の微分値でもよいし、それらを別座標系に変換したものでもよい。例えばdoubleの6次元ベクトルなどであってもよい。躍度については、一部またはすべてが未指定でもよい。
・連続的軌道
連続的軌道は、例えば、各要素が媒介変数を用いた関数で表現される。媒介変数は時刻でもよいし、無次元の変数でもよい。
・離散的軌道
離散的軌道は、例えば、各要素を持つ機体情報の配列で表現される。
(部分軌道の評価方法)
端末装置200は、例えば2姿勢間の軌道を生成して評価する。ベジエ、スプラインなどの関数を用いて各変数を補間する数学的手法と呼ばれる手法である。生成された部分軌道が飛行可能か評価する。例えば以下の評価1~4のように評価する。生成したすべての部分軌道が飛行不可だった場合、解無しとする。
・評価1(移動方向が実現可能であるかの評価)
例えば、並進x,y,zの各方向と、回転r,p,yの各方向との移動可否の拘束を守っているか否かを評価する。例えば、一般的なドローンはz,r,p,yの自由度しか無いので、同じ姿勢のままx,yに並進する部分軌道は飛行不可能である。
・評価2(移動速度が実現可能であるかの評価)
例えば、各方向の速度が機体性能の範囲内か否かを評価する。例えば、最大上昇速度10m/sの機体で1秒後に100m上へは移動できない。
・評価3(加速度が実現可能であるかの評価)
例えば、各方向の加速度が機体性能の範囲内か否かを評価する。例えば、最大上昇速度が10m/sの機体であっても、最大上昇加速度が1m/s2であれば、静止した状態から1秒後に1m上へは移動できない(0.5mまでしか上昇できない)。
・評価4(躍度が実現可能であるかの評価)
例えば、各方向の躍度が機体性能の範囲内か否かを評価する。
図10は、部分軌道が飛行可能かの評価方法(図9のステップS202)のフローの一例を概略的に示している。
端末装置200は、軌道が媒介変数表現であるか否かを判断する(ステップS211)。軌道が媒介変数表現であると判断した場合(ステップS211:Y)、次に、端末装置200は、媒介変数が時刻であるか否かを判断する(ステップS212)。媒介変数が時刻であると判断した場合(ステップS212:Y)、次に、端末装置200は、連続的軌道の飛行可能性を評価する(ステップS214)。媒介変数が時刻ではないと判断した場合(ステップS212:N)、次に、端末装置200は、軌道形状を評価する(ステップS215)。
軌道が媒介変数表現ではないと判断した場合(ステップS211:N)、次に、端末装置200は、軌道が機体情報の配列であるか否かを判断する(ステップS213)。軌道が機体情報の配列であると判断した場合(ステップS213:Y)、次に、端末装置200は、離散的軌道の飛行可能性を評価する(ステップS216)。軌道が機体情報の配列ではないと判断した場合(ステップS213:N)、端末装置200は、評価の対象外と判断する(ステップS217)。
図11は、軌道形状の評価(図10のステップS215)の処理のフローの一例を概略的に示している。
端末装置200は、位置、姿勢を媒介変数で微分して速度を求める(ステップS221)。次に、端末装置200は、速度が有限の範囲内か否かを判断する(ステップS222)。速度が有限の範囲内であると判断した場合(ステップS222:Y)、端末装置200は、飛行可能であると判断する(ステップS223)。速度が有限の範囲内ではないと判断した場合(ステップS222:N)、端末装置200は、飛行不可能であると判断する(ステップS224)。
図12は、連続的軌道が飛行可能かの評価(図10のステップS214)のフローの一例を概略的に示している。
端末装置200は、速度情報があるか否かを判断する(ステップS231)。速度情報がないと判断した場合(ステップS231:N)、次に、端末装置200は、位置、姿勢を時刻で微分して速度を求め(ステップS238)、ステップS232の処理に進む。
速度情報があると判断した場合(ステップS231:Y)、次に、端末装置200は、速度が機体性能の範囲内であるか否かを判断する(ステップS232)。速度が機体性能の範囲内ではないと判断した場合(ステップS232:N)、端末装置200は、飛行不可能であると判断する(ステップS239)。
速度が機体性能の範囲内であると判断した場合(ステップS232:Y)、次に、端末装置200は、加速度情報があるか否かを判断する(ステップS233)。加速度情報がないと判断した場合(ステップS233:N)、次に、端末装置200は、速度を時刻で微分して加速度を求め(ステップS240)、ステップS234の処理に進む。
加速度情報があると判断した場合(ステップS233:Y)、次に、端末装置200は、加速度が機体性能の範囲内であるか否かを判断する(ステップS234)。加速度が機体性能の範囲内ではないと判断した場合(ステップS234:N)、端末装置200は、飛行不可能であると判断する(ステップS241)。
加速度が機体性能の範囲内であると判断した場合(ステップS234:Y)、次に、端末装置200は、躍度情報があるか否かを判断する(ステップS235)。躍度情報がないと判断した場合(ステップS235:N)、次に、端末装置200は、加速度を時刻で微分して躍度を求め(ステップS242)、ステップS236の処理に進む。
躍度情報があると判断した場合(ステップS235:Y)、次に、端末装置200は、躍度が機体性能の範囲内であるか否かを判断する(ステップS236)。躍度が機体性能の範囲内ではないと判断した場合(ステップS236:N)、端末装置200は、飛行不可能であると判断する(ステップS243)。躍度が機体性能の範囲内であると判断した場合(ステップS236:Y)、端末装置200は、飛行可能であると判断する(ステップS237)。
図13は、離散的軌道が飛行可能かの評価(図10のステップS216)のフローの一例を概略的に示している。
端末装置200は、速度情報があるか否かを判断する(ステップS251)。速度情報がないと判断した場合(ステップS251:N)、次に、端末装置200は、時刻情報があるか否かを判断する(ステップS258)。時刻情報がないと判断した場合(ステップS258:N)、次に、端末装置200は、ステップS253の処理に進む。時刻情報があると判断した場合(ステップS258:Y)、次に、端末装置200は、前後の位置情報から速度を求め(ステップS259)、ステップS252の処理に進む。
速度情報があると判断した場合(ステップS251:Y)、次に、端末装置200は、速度が機体性能の範囲内であるか否かを判断する(ステップS252)。速度が機体性能の範囲内ではないと判断した場合(ステップS252:N)、端末装置200は、飛行不可能であると判断する(ステップS260)。
速度が機体性能の範囲内であると判断した場合(ステップS252:Y)、次に、端末装置200は、加速度情報があるか否かを判断する(ステップS253)。加速度情報がないと判断した場合(ステップS253:N)、次に、端末装置200は、時刻情報および速度情報があるか否かを判断する(ステップS261)。時刻情報および速度情報がないと判断した場合(ステップS261:N)、次に、端末装置200は、ステップS255の処理に進む。時刻情報および速度情報があると判断した場合(ステップS261:Y)、次に、端末装置200は、前後の速度情報から加速度を求め(ステップS262)、ステップS254の処理に進む。
加速度情報があると判断した場合(ステップS253:Y)、次に、端末装置200は、加速度が機体性能の範囲内であるか否かを判断する(ステップS254)。加速度が機体性能の範囲内ではないと判断した場合(ステップS254:N)、端末装置200は、飛行不可能であると判断する(ステップS263)。
加速度が機体性能の範囲内であると判断した場合(ステップS254:Y)、次に、端末装置200は、躍度情報があるか否かを判断する(ステップS255)。躍度情報がないと判断した場合(ステップS255:N)、次に、端末装置200は、時刻情報および加速度情報があるか否かを判断する(ステップS264)。時刻情報および加速度情報がないと判断した場合(ステップS264:N)、端末装置200は、飛行可能であると判断する(ステップS257)。時刻情報および加速度情報があると判断した場合(ステップS264:Y)、次に、端末装置200は、前後の加速度情報から躍度を求め(ステップS265)、ステップS256の処理に進む。
躍度情報があると判断した場合(ステップS255:Y)、次に、端末装置200は、躍度が機体性能の範囲内であるか否かを判断する(ステップS256)。躍度が機体性能の範囲内ではないと判断した場合(ステップS256:N)、端末装置200は、飛行不可能であると判断する(ステップS266)。躍度が機体性能の範囲内であると判断した場合(ステップS256:Y)、端末装置200は、飛行可能であると判断する(ステップS257)。
(姿勢間の部分軌道計画の第2の例)
端末装置200は、例えば、A*、RRT、ダイクストラなど探索的手法と呼ばれる方法によって、機体の運動性能の範囲内の部分軌道を生成するようにしてもよい。例えば、開始姿勢を起点として、そこから運動性能の範囲内に収まる微小軌道の候補を多数生成して連結することを繰り返して、目標姿勢に到達することができるか探索する。この場合は、逐次的に評価が行われているため、到達できるかできないかが解の有無となる。
図14は、姿勢間の部分軌道計画(図8のステップS106)の第2の例の動作フローの一例を概略的に示している。
端末装置200は、姿勢Pbody,n-1を探索対象の姿勢集合Pに加える(ステップS301)。次に、端末装置200は、探索対象集合Pに要素があるか否かを判断する(ステップS302)。要素がないと判断した場合(ステップS302:N)、端末装置200は、解がないと判断する(ステップS303)。
要素があると判断した場合(ステップS302:Y)、次に、端末装置200は、探索対象の姿勢集合Pから候補pを取り出す(ステップS304)。次に、端末装置200は、姿勢pで実行可能な制御入力の集合Aを求める(ステップS305)。
次に、端末装置200は、制御入力集合Aに要素があるか否かを判断する(ステップS306)。要素がないと判断した場合(ステップS306:N)、端末装置200は、ステップS302の処理に戻る。
要素があると判断した場合(ステップS306:Y)、次に、端末装置200は、制御入力の集合Aから候補aを取り出す(ステップS307)。次に、端末装置200は、姿勢pに制御入力aを微小時間Δtの間に入力した後の姿勢p’を求める(ステップS308)。次に、端末装置200は、姿勢p’と目標姿勢Pbody,nの差分Dを求める(ステップS309)。
次に、端末装置200は、差分Dが閾値以下であるか否かを判断する(ステップS310)。閾値以下ではないと判断した場合(ステップS310:N)、端末装置200は、解ありと判断する(ステップS311)。端末装置200は、解は、姿勢Pbody,n-1 からPbody,nまでの姿勢の集合とする。
閾値以下であると判断した場合(ステップS310:Y)、次に、端末装置200は、姿勢p’をpと紐付けて探索対象の姿勢集合Pに加え(ステップS312)た後、ステップS306の処理に戻る。
[1.3 事前軌道の作成の具体例]
端末装置200は、例えば、UI部110によって表示されたGUI(Graphical User Interface)上でユーザからのカメラ姿勢の指定を受け付ける(受信する)ようにしてもよい。端末装置200は、例えば、GUI上に、撮影ポイントを指定するための登録ボタンを表示するようにしてもよい。端末装置200は、動画の場合はGUI上で撮影時刻を設定可能な表示を行ってもよい。
端末装置200は、ユーザによって実現不可能な部分軌道の指定がなされた場合、GUI上で、実現不可能であることを通知する表示を行ってもよい。例えば、撮影ポイントを登録した際に、GUI上でエラー表示をしてもよい。また、例えば、解がない(撮影時刻を守れない)区間が指定された場合に、当該区間の色を変えてもよい。例えば、撮影時刻を守れない撮影ポイントの色をGUI上で変えてもよい。また、例えば、速度を変えた軌道をGUI上で提案してもよい。例えば、GUI上でシークバー上の提案撮影時刻に薄くバーを表示してもよい。
図15は、第1の実施の形態に係る端末装置200による事前軌道の作成のGUI画面の初期画面の一例を概略的に示している。端末装置200のUI部110は、例えば図15に示すようなGUI画面を表示し、GUI画面上でキーボードやマウス等を介してユーザからの入力を受け付ける(受信する)。例えば、後述する図16~図19に示すステップ1~ステップ4のような設定を順に、受け付ける。
図15に示したように、事前軌道の作成のGUI画面は、カメラ姿勢ビューア210と、予想カメラ画像ビューア220と、撮影時刻調整パネル230とを備えている。
カメラ姿勢ビューア210およびその周囲には、地図設定ボタン213と、撮影ポイント追加ボタン214と、縮小・拡大ボタン211と、並進・回転ボタン212とが設けられている。
予想カメラ画像ビューア220には、縮小・拡大ボタン221と、並進・回転ボタン222とが設けられている。
撮影時刻調整パネル230には、カメラ位置・姿勢情報表示部231と、撮影ポイントバー232とが設けられている。
図16は、図15に示したGUI画面を用いて地図の設定をする段階(ステップ1)における画面例を概略的に示している。
ユーザによって地図設定ボタン213がクリックされると、UI部110は、地名入力ボックス240をポップアップ表示する。ユーザによって地名入力ボックス240に地名・住所が入力されると、UI部110は、該当する地名・住所の地図をカメラ姿勢ビューア210に表示する。
図17は、図15に示したGUI画面を用いて撮影ポイントの追加の設定をする段階(ステップ2)における画面例を概略的に示している。
次に、ユーザによって撮影ポイント追加ボタン214がクリックされると、UI部110は、カメラ姿勢ビューア210に表示されている地図上にカメラアイコン250を表示する。この際、UI部110は、撮影時刻調整パネル230の時系列上に撮影ポイントバー232を追加表示する。また、UI部110は、撮影時刻調整パネル230のカメラ位置・姿勢情報表示部231にカメラアイコン250の位置・姿勢の情報を表示する。また、UI部110は、カメラアイコン250によって指定された位置・姿勢から予想される撮影画像を、予想カメラ画像ビューア220に表示する。
図18は、図15に示したGUI画面を用いて撮影位置および撮影姿勢の設定をする段階(ステップ3)における画面例を概略的に示している。
図17に示した状態から、ユーザは、カメラ姿勢ビューア210に表示されている地図上で、図18に示したように、カメラアイコン250の移動や回転(位置やヨー角調整)を行うことによって撮影位置および撮影姿勢を調整することができる。また、ユーザは、縮小・拡大ボタン221と並進・回転ボタン222とを用いて、予想カメラ画像ビューア220に表示された予想撮影画像を見ながら、カメラ視点で上下(ピッチ角)、左右(ヨー角)、および回転(ロール角)の撮影姿勢を調整することができる。また、ユーザは、撮影時刻調整パネル230におけるカメラ位置・姿勢情報表示部231に撮影位置および撮影姿勢の変数を直接入力することによっても、撮影位置および撮影姿勢を調整することができる。
図19は、図15に示したGUI画面を用いて撮影時刻の調整の設定をする段階(ステップ4)における画面例を概略的に示している。
図18に示した状態から、ユーザは、撮影時刻調整パネル230に表示された時系列上で撮影ポイントバー232を動かし、撮影時刻を調整することができる。なお、撮影時刻の開始点は00:00に固定となっている。
図20は、図15に示したGUI画面を用いてステップ2~4の設定(図17~図19)を繰り返した段階の画面例を概略的に示している。
ステップ2~4の設定(図17~図19)を繰り返すことにより、図20に示したように、カメラ姿勢ビューア210と撮影時刻調整パネル230とに部分軌道の情報が表示されていく。
図21は、図15に示したGUI画面を用いて作成された事前軌道の一例を概略的に示している。
ステップ2~4の設定(図17~図19)を繰り返すことにより、最終的に図21に示したように、カメラ姿勢ビューア210と撮影時刻調整パネル230とに複数の部分軌道が接続された最終的な撮影軌道の情報が表示される。この撮影軌道が事前軌道となる。
[1.4 効果]
以上説明したように、第1の実施の形態に係る情報処理方法、情報処理装置およびプログラムによれば、複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報を含む入力情報に基づいて、移動体300の事前軌道を作成するようにしたので、移動体の軌道計画を容易に作成することが可能となる。
第1の実施の形態に係る情報処理方法、情報処理装置およびプログラムによれば、移動体300の機体性能の知識を必要とせず、カメラ612を自由に動かす感覚で事前軌道を作成、編集できる。この際、指定した複数の撮影ポイント(撮影視点、時刻)間の撮影視点が滑らかに遷移するようにして事前軌道を作成、編集することが可能となる。作成した事前軌道は移動体300で実現できる(実際に移動できる)ことが保証されている。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。以降の他の実施の形態の効果についても同様である。
<2.その他の実施の形態>
本開示による技術は、上記各実施の形態の説明に限定されず種々の変形実施が可能である。
例えば、本技術は以下のような構成を取ることもできる。
以下の構成の本技術によれば、複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報を含む入力情報に基づいて、移動体の事前軌道を作成するようにしたので、移動体の軌道計画を容易に作成することが可能となる。
(1)
移動体に設けられたカメラによる複数の撮影予定地点と前記複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行うことと、
前記受信した前記入力情報に基づいて、前記移動体の事前軌道を作成する処理を行うことと
を含む
情報処理方法。
(2)
前記事前軌道を作成する処理は、
前記複数の撮影予定地点のうち第1の撮影予定地点における第1のカメラ姿勢と第2の撮影予定地点における第2のカメラ姿勢とに基づいて、部分軌道を作成する処理を含む
上記(1)に記載の情報処理方法。
(3)
前記部分軌道を作成する処理によって作成された前記部分軌道が、前記移動体によって現実に移動可能であるか否かを評価する処理を行うこと、
をさらに含む
上記(2)に記載の情報処理方法。
(4)
前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、前記部分軌道を再度、作成する処理を行うこと、
をさらに含む
上記(3)に記載の情報処理方法。
(5)
前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、前記入力情報を再度、受信する処理を行うこと、
をさらに含む
上記(3)または(4)に記載の情報処理方法。
(6)
前記評価する処理は、
前記部分軌道を移動する際の移動方向が前記移動体の運動性能によって現実に実現可能であるか否かを評価する処理を含む
上記(3)ないし(5)のいずれか1つに記載の情報処理方法。
(7)
前記評価する処理は、
前記部分軌道を移動する際の、速度、加速度、および躍度のうち少なくとも1つが前記移動体の運動性能によって現実に実現可能であるか否かを評価する処理を含む
上記(3)ないし(6)のいずれか1つに記載の情報処理方法。
(8)
前記部分軌道を作成する処理は、
前記移動体の運動性能に基づいて、前記第1のカメラ姿勢と前記第2のカメラ姿勢との姿勢間における複数の軌道候補を作成する処理を行うことを含む
上記(2)に記載の情報処理方法。
(9)
前記所定の座標系は、地図座標系を含む
上記(1)ないし(8)のいずれか1つに記載の情報処理方法。
(10)
前記所定の座標系は、自己位置座標系を含む
上記(1)ないし(9)のいずれか1つに記載の情報処理方法。
(11)
移動体に設けられたカメラによる複数の撮影予定地点と前記複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する受信部と、
前記受信した前記入力情報に基づいて、前記移動体の事前軌道を作成する軌道計画部と
を備える
情報処理装置。
(12)
移動体に設けられたカメラによる複数の撮影予定地点と前記複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行うことと、
前記受信した前記入力情報に基づいて、前記移動体の事前軌道を作成する処理を行うことと
を含む処理をコンピュータに実行させる
プログラム。
本出願は、日本国特許庁において2020年3月6日に出願された日本特許出願番号第2020-39276号を基礎として優先権を主張するものであり、この出願のすべての内容を参照によって本出願に援用する。
当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、および変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。

Claims (12)

  1. 移動体に設けられたカメラによる複数の撮影予定地点と前記複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行うことと、
    前記受信した前記入力情報に基づいて、前記移動体の事前軌道を作成する処理を行うことと
    前記事前軌道を作成する処理として、前記複数の撮影予定地点のうち第1の撮影予定地点における第1のカメラ姿勢と第2の撮影予定地点における第2のカメラ姿勢とに基づいて、部分軌道を作成する処理を行うことと、
    前記部分軌道を作成する処理によって作成された前記部分軌道が、前記移動体によって現実に移動可能であるか否かを評価する処理を行うことと、
    前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、移動不可能であることを通知する処理を行うことと
    を含む
    情報処理方法。
  2. 前記部分軌道を作成する処理によって作成された前記部分軌道の情報を表示する処理を行うことと、
    前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、前記部分軌道の情報を表示する色を変更する処理を行うことと、
    をさらに含む
    請求項1に記載の情報処理方法。
  3. 前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、前記移動体の速度を変えた軌道を提案する処理を行うこと、
    をさらに含む
    請求項に記載の情報処理方法。
  4. 前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、前記部分軌道を再度、作成する処理を行うこと、
    をさらに含む
    請求項に記載の情報処理方法。
  5. 前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、前記入力情報を再度、受信する処理を行うこと、
    をさらに含む
    請求項に記載の情報処理方法。
  6. 前記評価する処理は、
    前記部分軌道を移動する際の移動方向が前記移動体の運動性能によって現実に実現可能であるか否かを評価する処理を含む
    請求項に記載の情報処理方法。
  7. 前記評価する処理は、
    前記部分軌道を移動する際の、速度、加速度、および躍度のうち少なくとも1つが前記移動体の運動性能によって現実に実現可能であるか否かを評価する処理を含む
    請求項に記載の情報処理方法。
  8. 前記部分軌道を作成する処理は、
    前記移動体の運動性能に基づいて、前記第1のカメラ姿勢と前記第2のカメラ姿勢との姿勢間における複数の軌道候補を作成する処理を行うことを含む
    請求項に記載の情報処理方法。
  9. 前記所定の座標系は、地図座標系を含む
    請求項1に記載の情報処理方法。
  10. 前記所定の座標系は、自己位置座標系を含む
    請求項1に記載の情報処理方法。
  11. 移動体に設けられたカメラによる複数の撮影予定地点と前記複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する受信部と、
    前記受信した前記入力情報に基づいて、前記移動体の事前軌道を作成する処理を行う軌道計画部と
    を備え、
    前記軌道計画部による前記事前軌道を作成する処理として、
    前記複数の撮影予定地点のうち第1の撮影予定地点における第1のカメラ姿勢と第2の撮影予定地点における第2のカメラ姿勢とに基づいて、部分軌道を作成する処理と、
    前記部分軌道を作成する処理によって作成された前記部分軌道が、前記移動体によって現実に移動可能であるか否かを評価する処理と、
    前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、移動不可能であることを通知する処理と
    を含む
    情報処理装置。
  12. 移動体に設けられたカメラによる複数の撮影予定地点と前記複数の撮影予定地点におけるそれぞれのカメラ姿勢の情報とを含む入力情報を所定の座標系上で受信する処理を行うことと、
    前記受信した前記入力情報に基づいて、前記移動体の事前軌道を作成する処理を行うことと
    前記事前軌道を作成する処理として、前記複数の撮影予定地点のうち第1の撮影予定地点における第1のカメラ姿勢と第2の撮影予定地点における第2のカメラ姿勢とに基づいて、部分軌道を作成する処理を行うことと、
    前記部分軌道を作成する処理によって作成された前記部分軌道が、前記移動体によって現実に移動可能であるか否かを評価する処理を行うことと、
    前記評価する処理によって、前記部分軌道が現実には移動不可能であると評価された場合に、移動不可能であることを通知する処理を行うことと
    を含む処理をコンピュータに実行させる
    プログラム。
JP2022505159A 2020-03-06 2021-02-25 情報処理方法、情報処理装置およびプログラム Active JP7643447B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020039276 2020-03-06
JP2020039276 2020-03-06
PCT/JP2021/007151 WO2021177139A1 (ja) 2020-03-06 2021-02-25 情報処理方法、情報処理装置およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2021177139A1 JPWO2021177139A1 (ja) 2021-09-10
JP7643447B2 true JP7643447B2 (ja) 2025-03-11

Family

ID=77614274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022505159A Active JP7643447B2 (ja) 2020-03-06 2021-02-25 情報処理方法、情報処理装置およびプログラム

Country Status (3)

Country Link
US (1) US12292742B2 (ja)
JP (1) JP7643447B2 (ja)
WO (1) WO2021177139A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117769484A (zh) * 2021-06-04 2024-03-26 波士顿动力公司 指向移动机器人的自主和远程操作传感器
WO2023067892A1 (ja) * 2021-10-19 2023-04-27 ソニーグループ株式会社 情報処理装置、情報処理方法、及びプログラム
JP2024010958A (ja) * 2022-07-13 2024-01-25 健吾 大倉 飛行ルート表示システム、および、プログラム
WO2024232947A1 (en) 2023-05-08 2024-11-14 Boston Dynamics, Inc. Location based change detection within image data by a mobile robot
CN118330612B (zh) * 2024-06-13 2024-08-13 山东科技大学 一种卵圆扫描式机载激光雷达安置误差校正方法
CN120121053B (zh) * 2025-03-07 2025-12-02 中国兵器装备集团自动化研究所有限公司 一种无人机航迹规划方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010202178A (ja) 2009-03-03 2010-09-16 Honeywell Internatl Inc Uavの飛行制御の方法およびシステム
US20160004795A1 (en) 2014-07-01 2016-01-07 Scanifly, LLC Device, method, apparatus, and computer-readable medium for solar site assessment
JP2017173966A (ja) 2016-03-22 2017-09-28 日本電気株式会社 無人飛行装置制御システム、無人飛行装置制御方法および無人飛行装置
JP2017208678A (ja) 2016-05-18 2017-11-24 本郷飛行機株式会社 小型無人飛行機の通信及び制御装置並びにこれらの方法
WO2018193574A1 (ja) 2017-04-20 2018-10-25 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 飛行経路生成方法、情報処理装置、飛行経路生成システム、プログラム及び記録媒体
WO2018198281A1 (ja) 2017-04-27 2018-11-01 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 情報処理装置、空撮経路生成方法、空撮経路生成システム、プログラム、及び記録媒体
JP2018535487A (ja) 2015-09-15 2018-11-29 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd Uav経路を計画し制御するシステム及び方法
JP2019032234A (ja) 2017-08-08 2019-02-28 株式会社プロドローン 表示装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3614824B2 (ja) 2002-03-18 2005-01-26 ソニー株式会社 脚式移動ロボットのための動作編集装置及び動作編集方法
JP2007015037A (ja) 2005-07-05 2007-01-25 Sony Corp ロボットのモーション編集装置及びモーション編集方法、コンピュータ・プログラム、並びにロボット装置
JP5561730B2 (ja) 2010-09-13 2014-07-30 独立行政法人産業技術総合研究所 移動体の誘導制御システム及び誘導制御方法
JP5699697B2 (ja) 2011-03-07 2015-04-15 セイコーエプソン株式会社 ロボット装置、位置姿勢検出装置、位置姿勢検出プログラム、および位置姿勢検出方法
EP3015146A1 (en) 2014-10-28 2016-05-04 Thomson Licensing Method for generating a target trajectory of a camera embarked on a drone and corresponding system
EP3241205A4 (en) 2014-12-31 2018-11-07 Airmap Inc. System and method for controlling autonomous flying vehicle flight paths
US20190050005A1 (en) * 2016-02-05 2019-02-14 The Trustees Of The University Of Pennsylvania Force or torque control and estimation using high transparency electromechanical manipulator with only joint encoders
JP6383769B2 (ja) 2016-09-08 2018-08-29 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 無人飛行体、情報処理装置、及び記録媒体
EP3764635A4 (en) * 2018-03-06 2021-07-14 FUJIFILM Corporation PHOTOGRAPHY DEVICE, PHOTOGRAPHY PROCESS, PHOTOGRAPHY PROGRAM AND PHOTOGRAPHY SYSTEM
JP7031997B2 (ja) * 2019-02-18 2022-03-08 アルパイン株式会社 飛行体システム、飛行体、位置測定方法、プログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010202178A (ja) 2009-03-03 2010-09-16 Honeywell Internatl Inc Uavの飛行制御の方法およびシステム
US20160004795A1 (en) 2014-07-01 2016-01-07 Scanifly, LLC Device, method, apparatus, and computer-readable medium for solar site assessment
JP2018535487A (ja) 2015-09-15 2018-11-29 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd Uav経路を計画し制御するシステム及び方法
JP2017173966A (ja) 2016-03-22 2017-09-28 日本電気株式会社 無人飛行装置制御システム、無人飛行装置制御方法および無人飛行装置
JP2017208678A (ja) 2016-05-18 2017-11-24 本郷飛行機株式会社 小型無人飛行機の通信及び制御装置並びにこれらの方法
WO2018193574A1 (ja) 2017-04-20 2018-10-25 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 飛行経路生成方法、情報処理装置、飛行経路生成システム、プログラム及び記録媒体
WO2018198281A1 (ja) 2017-04-27 2018-11-01 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 情報処理装置、空撮経路生成方法、空撮経路生成システム、プログラム、及び記録媒体
JP2019032234A (ja) 2017-08-08 2019-02-28 株式会社プロドローン 表示装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
DJI GOでウェイポイント2.0の使い方、ドローンの自動飛行を楽しもう!,2019年02月19日,https://drone-guide.org/dji-go-4_tips/way_point2/

Also Published As

Publication number Publication date
US20230107289A1 (en) 2023-04-06
US12292742B2 (en) 2025-05-06
WO2021177139A1 (ja) 2021-09-10
JPWO2021177139A1 (ja) 2021-09-10

Similar Documents

Publication Publication Date Title
JP7643447B2 (ja) 情報処理方法、情報処理装置およびプログラム
US12296951B2 (en) Image space motion planning of an autonomous vehicle
US10860040B2 (en) Systems and methods for UAV path planning and control
JP7156305B2 (ja) 制御装置、および制御方法、プログラム、並びに移動体
JP6735821B2 (ja) Uav経路を計画し制御するシステム及び方法
EP4342792B1 (en) Systems and methods for uav flight control
EP4024155B1 (en) Method, system and computer program product of control of unmanned aerial vehicles
WO2019106714A1 (ja) 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム
Asadi et al. An integrated aerial and ground vehicle (UAV-UGV) system for automated data collection for indoor construction sites
Mortezapoor et al. Photogrammabot: an autonomous ROS-based mobile photography robot for precise 3d reconstruction and mapping of large indoor spaces for mixed reality
Achtelik Advanced closed loop visual navigation for micro aerial vehicles
Chan et al. A robotic system of systems for human-robot collaboration in search and rescue operations
WO2019172335A1 (ja) 飛行制御装置、方法、プログラム、及び記憶媒体
JP2021057078A (ja) 無人航空機、無人航空機の飛行制御装置、無人航空機の飛行制御方法、及びプログラム
Zimmermann Trajectory (re) planning of a quadcopter in indoor environments with unknown obstacles
WO2021140916A1 (ja) 移動体、情報処理装置、情報処理方法、及びプログラム
Yıldırım RELATIVE LOCALIZATION AND COORDINATION FOR AIR-GROUND ROBOT TEAMS
Chen Design and Implementation of Navigation Systems for Unmanned Aerial Vehicles
Hossny Autonomous UAV Navigation in Wilderness Search-and-Rescue Operations Using Deep Reinforcement Learning
Shenoy et al. Graphical User Interfaces For Mobile Robots
Alizadeh An Optimum Vision-Based Control of Rotorcrafts Case Studies: 2-DOF Helicopter & 6-DOF Quadrotor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250210

R150 Certificate of patent or registration of utility model

Ref document number: 7643447

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150