JPH10275015A - Mobile remote control device - Google Patents

Mobile remote control device

Info

Publication number
JPH10275015A
JPH10275015A JP8298802A JP29880296A JPH10275015A JP H10275015 A JPH10275015 A JP H10275015A JP 8298802 A JP8298802 A JP 8298802A JP 29880296 A JP29880296 A JP 29880296A JP H10275015 A JPH10275015 A JP H10275015A
Authority
JP
Japan
Prior art keywords
distance image
time
image
distance
moving body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP8298802A
Other languages
Japanese (ja)
Inventor
Seiichi Mizui
精一 水井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP8298802A priority Critical patent/JPH10275015A/en
Priority to PCT/JP1997/004083 priority patent/WO1998021631A1/en
Priority to AU48867/97A priority patent/AU4886797A/en
Publication of JPH10275015A publication Critical patent/JPH10275015A/en
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/028Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using a RF signal
    • G05D1/0282Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using a RF signal generated in a local control room

Landscapes

  • Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Arrangements For Transmission Of Measured Signals (AREA)
  • Navigation (AREA)
  • Image Processing (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 (修正有) 【課題】遠隔操作の操作性を向上させる。 【解決手段】移動体から、移動体外部の物体までの距離
及び、移動体の位置変化割合が計測され、一定時間毎に
距離画像とともに監視局に送信される。監視局では、送
信された内容に基づいて、前回の距離画像40が生成さ
れた時点から所定時間tが経過するまでの間の移動体の
移動距離が演算されて、距離画像40の各画素50の距
離データを相当量変化させることによって、前回の距離
画像40が生成された時点から一定時間tが経過する途
中の予測距離画像42が生成される。こうして生成され
た予測距離画像42を前回の距離画像40と次に、移動
体10から送信されてくる距離画像41との間に挿入表
示する。
(57) [Summary] (With correction) [Problem] To improve operability of remote control. A distance from a moving body to an object outside the moving body and a position change ratio of the moving body are measured and transmitted to a monitoring station together with a distance image at regular time intervals. The monitoring station calculates the moving distance of the moving object from the time when the previous distance image 40 was generated until a predetermined time t has elapsed based on the transmitted content, and calculates each pixel 50 of the distance image 40. By changing the distance data by a considerable amount, a predicted distance image 42 in the middle of a predetermined time t from the time when the previous distance image 40 was generated is generated. The predicted distance image 42 thus generated is inserted and displayed between the previous distance image 40 and the distance image 41 transmitted from the moving object 10 next.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、無人ダンプトラッ
ク等の移動体を遠隔操作する遠隔操作装置に関し、特に
移動体前方の走行路面に沿って存在する障害物を検出し
つつ遠隔操作を行う装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a remote control device for remotely controlling a moving body such as an unmanned dump truck, and more particularly to a device for remotely controlling a moving body while detecting an obstacle present along a traveling road surface in front of the moving body. About.

【0002】[0002]

【従来の技術】無人ダンプトラック等の無人の移動体に
おいては、安全性の面等において完全な無人運転は不可
能であることから、移動体前方の走行路面上に存在する
障害物を検出しつつ、その検出された結果を監視局に送
り、オペレータの判断を介在させて監視局より移動体を
遠隔操作することが行われている。
2. Description of the Related Art In an unmanned mobile body such as an unmanned dump truck, it is impossible to perform an unmanned operation completely in terms of safety and the like. Therefore, an obstacle existing on a traveling road surface in front of the mobile body is detected. At the same time, the detected result is sent to a monitoring station, and the monitoring station remotely controls the mobile unit with the intervention of an operator.

【0003】従来の障害物検出装置としては、超音波セ
ンサ、レーザレーダ、ミリ波センサを用いて移動体進行
方向前方の障害物を検出する装置があるが、これらは得
られる情報量が少なく、視野角が狭く、広範囲で障害物
を検出することができないという面がある。そこで、上
記超音波センサ、レーザレーダ、ミリ波センサを用いた
障害物検出装置と比較して、得られる情報量が多く、視
野角が広く広範囲で障害物を検出できるという利点があ
ることから、移動体前方を撮像し、その撮像画像を処理
することにより障害物を検出する装置が使用されるに至
っている。
As a conventional obstacle detecting apparatus, there is an apparatus which detects an obstacle in the forward direction of a moving body by using an ultrasonic sensor, a laser radar, or a millimeter wave sensor. There is an aspect that the viewing angle is narrow and an obstacle cannot be detected in a wide range. Therefore, as compared with the above-described ultrasonic sensor, laser radar, and obstacle detection device using a millimeter wave sensor, the amount of information obtained is large, and there is an advantage that an obstacle can be detected in a wide viewing angle and a wide range. 2. Description of the Related Art Devices that detect an obstacle by capturing an image in front of a moving object and processing the captured image have been used.

【0004】[0004]

【発明が解決しようとする課題】操作性の高い遠隔操作
を実現するために、画像情報は非常に有効であり、テレ
ビジョン放送のようにリアルタイムで遠方の連続した画
像情報を、監視局で取得できるのが理想的である。
Image information is very effective in realizing remote control with high operability. A monitoring station acquires continuous image information in a remote place in real time such as a television broadcast. Ideally you can.

【0005】しかし、建設機械などの移動体を遠隔操作
したり、監視したりする目的のためだけに、大規模な放
送局を移動体に搭載することは、スペース的にもコスト
的にも無理があり、現実的には不可能である。このた
め、スペース的、コスト的に兼ね合いのつく画像送信機
を移動体に搭載して、この画像送信機によって監視局に
画像を送信するようにしている。近年、スペクトラム拡
散通信方式などが採用されている。
However, mounting a large-scale broadcasting station on a mobile unit only for the purpose of remotely controlling or monitoring the mobile unit such as a construction machine is impossible in terms of space and cost. There is, in reality, impossible. For this reason, an image transmitter, which is compatible with space and cost, is mounted on a mobile body, and the image transmitter transmits an image to a monitoring station. In recent years, spread spectrum communication systems and the like have been adopted.

【0006】しかし、こうした移動体に搭載可能な画像
送信機の画像伝送能力は現状では低く、リアルタイムに
画像を送信するには至っておらず、一秒間に送信できる
画像(フレーム)の数は限られている。このため、オペ
レータは、あたかもコマ送りのような画像を頼りに遠隔
操作せざるを得なく、操作性は著しく損なわれることに
なっていた。
However, the image transmission capability of such an image transmitter that can be mounted on a mobile object is low at present, and it has not been possible to transmit images in real time, and the number of images (frames) that can be transmitted per second is limited. ing. For this reason, the operator had to rely on an image such as frame-by-frame for remote control, and the operability was significantly impaired.

【0007】本発明はこうした実状に鑑みてなされたも
のであり、移動体から監視局に送られてきた前回の画像
とつぎに送信されてくる画像の途中の画像をきわめて高
い精度で予測し、この予測画像を、前回の画像とつぎに
送られてくる画像との間に挿入することで、伝送能力の
低さを補いつつリアルタイムな画像を監視局で表示させ
て、遠隔操作の操作性を飛躍的に向上させることを第1
の目的とするものである。
The present invention has been made in view of such circumstances, and predicts, with extremely high accuracy, a previous image transmitted from a mobile unit to a monitoring station and an intermediate image of an image transmitted next. By inserting this predicted image between the previous image and the next image to be transmitted, real-time images are displayed at the monitoring station while compensating for the low transmission capacity, and the operability of remote operation is improved. Dramatic improvement is the first
It is the purpose of.

【0008】さらに、移動体から監視局への画像伝送に
は時間を要することから、その伝送遅れ時間分だけ、監
視局で画像が遅れて表示されることになる。
Further, since it takes time to transmit an image from a mobile unit to a monitoring station, an image is displayed at the monitoring station with a delay corresponding to the transmission delay time.

【0009】本発明は、この画像伝送の遅れ時間を補償
し、現時点での画像を予測画像として表示させることを
第2の目的とするものである。
It is a second object of the present invention to compensate for this delay in image transmission and to display the current image as a predicted image.

【0010】また、無人ダンプトラックの遠隔操作性を
向上させるには、走行状況に応じて撮像装置たるカメラ
の視点を自由に変えて、走行状況に応じた視点の画像を
監視局で表示できるようにすることが望ましい。
[0010] In order to improve the remote operability of the unmanned dump truck, the viewpoint of the camera as an image pickup device can be freely changed according to the driving situation, and the image of the viewpoint according to the driving situation can be displayed on the monitoring station. Is desirable.

【0011】また、パワーショベルを遠隔操縦するよう
な場合、カメラ視点を、作業の状況に応じて作業面の横
方向に移動させて、それに応じた画像を表示させること
ができれば、のり面作業などの作業性の向上が期待でき
る。
In the case of remotely operating a power shovel, if the camera viewpoint can be moved in the lateral direction of the work surface in accordance with the work situation and an image corresponding to the view can be displayed, a slope work or the like can be performed. Can be expected to improve workability.

【0012】しかし、カメラは通常一定箇所に固定され
ており、カメラの位置を動かすことによって自由な視点
の画像を表示させるのは、複雑な機構を設けるなどする
必要もあって実現が困難なことが多い。
However, the camera is usually fixed at a fixed position, and displaying an image from a free viewpoint by moving the position of the camera is difficult due to the necessity of providing a complicated mechanism. There are many.

【0013】本発明は、複雑な機構を設けることなく簡
単な処理のみで、所望の視点の画像を表示できるように
することを第3の目的とするものである。
A third object of the present invention is to enable an image of a desired viewpoint to be displayed only by simple processing without providing a complicated mechanism.

【0014】[0014]

【課題を解決するための手段および効果】そこで、第1
の目的を達成するために、本発明の第1発明の主たる発
明では、移動体に搭載され、当該移動体の外部を撮像す
る撮像装置の撮像画像を、一定時間毎に監視局に送信
し、当該監視局で受信された撮像画像に基づいて移動体
を遠隔操作するようにした移動体の遠隔操作装置におい
て、前記撮像装置として、基準位置から、移動体外部の
物体までの距離を計測し、当該物体の距離画像を生成す
る距離画像生成手段を設けるとともに、前記移動体に、
当該移動体の位置変化を計測する計測手段と、この計測
手段の計測結果を前記監視局に送信する送信手段とを設
け、さらに、前記監視局に、前記計測手段の計測結果に
基づいて、前記距離画像生成手段で前回の距離画像が生
成された時点から前記一定時間よりも小さい所定時間が
経過するまでの間の移動体の移動距離を演算する演算手
段と、前記演算手段の演算結果に基づいて、前記距離画
像の各画素の距離データを、前記移動距離だけ変化させ
ることによって、前回の距離画像が生成された時点から
前記一定時間が経過する途中の予測距離画像を生成する
予測距離画像生成手段と、前記予測距離画像生成手段で
生成された予測距離画像を、前回の距離画像と次に、移
動体から送信されてくる距離画像との間に挿入して表示
する表示手段とを設けるようにしている。
Means and effects for solving the problems
In order to achieve the object, in the main invention of the first invention of the present invention, an image captured by an imaging device mounted on a moving body and imaging the outside of the moving body is transmitted to a monitoring station at regular intervals, In the remote control device of the mobile body to remotely control the mobile body based on the captured image received at the monitoring station, as the imaging device, from the reference position, measure the distance to the object outside the mobile body, Along with providing a distance image generating means for generating a distance image of the object, the moving body,
Measuring means for measuring a change in the position of the moving object, and a transmitting means for transmitting the measurement result of the measuring means to the monitoring station, further provided in the monitoring station, based on the measurement result of the measuring means, Calculating means for calculating a moving distance of the moving body from the time when the distance image is generated last time by the distance image generating means until a predetermined time smaller than the predetermined time elapses, based on a calculation result of the calculating means The distance data of each pixel of the distance image is changed by the moving distance to generate a predicted distance image in which the predetermined time elapses from the time when the previous distance image was generated. Means, and display means for inserting and displaying the predicted distance image generated by the predicted distance image generating means between the previous distance image and the next distance image transmitted from the moving body. We are kicking way.

【0015】すなわち、この発明の構成によれば、図
1、図3、図4、図5に示すように、移動体10の基準
位置から、移動体10外部の物体までの距離が計測さ
れ、当該物体の距離画像40が生成される。また、移動
体10の位置変化Vが計測される。これらが監視局20
に送信される。
That is, according to the configuration of the present invention, as shown in FIGS. 1, 3, 4, and 5, the distance from the reference position of the moving body 10 to an object outside the moving body 10 is measured. A distance image 40 of the object is generated. Further, the position change V of the moving body 10 is measured. These are the monitoring stations 20
Sent to.

【0016】監視局20では、送信された内容に基づい
て、前回の距離画像40が生成された時点から一定時間
Δtよりも小さい所定時間tが経過するまでの間の移動
体10の移動距離L1=V・tが演算される。そして、
距離画像40の各画素50の距離データdを、移動距離
L1だけ変化(d−L1)させることによって、前回の距
離画像40が生成された時点から一定時間Δtが経過す
る途中の予測距離画像42(43、44、45、46)
が生成される。こうして生成された予測距離画像42
(43、44、45、46)が、前回の距離画像40と
次に、移動体10から送信されてくる距離画像41との
間に挿入されて表示される。
In the monitoring station 20, based on the transmitted contents, the moving distance L1 of the mobile unit 10 from the time when the previous distance image 40 was generated until a predetermined time t smaller than the predetermined time Δt has elapsed. = V · t is calculated. And
By changing the distance data d of each pixel 50 of the distance image 40 by the moving distance L1 (d−L1), the predicted distance image 42 in the middle of a certain time Δt from the time when the previous distance image 40 was generated. (43,44,45,46)
Is generated. The predicted distance image 42 thus generated
(43, 44, 45, 46) are inserted and displayed between the previous distance image 40 and the next distance image 41 transmitted from the moving object 10.

【0017】また、本発明の第1発明の別の発明によれ
ば、移動体10の各方向の位置・姿勢変化を示す情報を
利用することによって、図7、図8に示すように、上記
所定時間tが経過した時点における車体座標系X−Y−
Zの距離画像60の各画素50の3次元座標位置が求め
られ、この3次元座標位置に基づき予測距離画像62が
生成される。
According to another aspect of the first aspect of the present invention, by utilizing information indicating a change in the position / posture of the moving body 10 in each direction, as shown in FIGS. The vehicle body coordinate system XY- at the time when the predetermined time t has elapsed
A three-dimensional coordinate position of each pixel 50 of the Z distance image 60 is obtained, and a predicted distance image 62 is generated based on the three-dimensional coordinate position.

【0018】以上のように本発明によれば、移動体の移
動情報に基づき前回の距離画像の画素の距離データない
しは3次元座標位置を、移動情報に応じた分だけ変化さ
せる画像処理が施されることによって、前回の距離画像
(最新の距離画像)とつぎに送信される距離画像の途中
の予測距離画像がきわめて正確に、しかも高速に生成さ
れる。こうして生成された予測距離画像が、前回の距離
画像とつぎに送信されてくる距離画像との間に挿入され
ることで、画像の伝送能力の低さが補われつつリアルタ
イムな画像(たとえばビデオレート、30フレーム/
秒)が監視局で表示される。このリアルタイムな画像に
基づき遠隔操作することで遠隔操作性が飛躍的に向上す
る。
As described above, according to the present invention, image processing for changing the distance data or the three-dimensional coordinate position of the pixel of the previous distance image based on the movement information of the moving object by an amount corresponding to the movement information is performed. As a result, the previous distance image (the latest distance image) and the predicted distance image in the middle of the next transmitted distance image are generated extremely accurately and at high speed. The predicted distance image generated in this manner is inserted between the previous distance image and the next transmitted distance image, thereby compensating for low image transmission performance and real-time images (for example, video rate). , 30 frames /
Second) is displayed on the monitoring station. Remote control based on this real-time image greatly improves remote controllability.

【0019】また、第2の目的を達成するために、本発
明の第2発明では、上記第1発明の構成において、図
1、図10に示すように、移動体10から監視局20に
距離画像60を送信するに要する送信遅延時間をTdと
し、前回の距離画像60が生成された時刻をt1とした
とき、送信遅延時間Tdを見込んだ時刻t1から時間tだ
け経過した時刻t1+tにおける予測距離画像62(6
3、64、65)を生成しておき、前回の距離画像60
が監視局20の表示手段23で時刻t1+Tdにおいて表
示されてから時間t−Td経過した時点で時刻t1+tに
おける予測距離画像62を表示するようにしている。
In order to achieve the second object, according to the second aspect of the present invention, in the configuration of the first aspect, as shown in FIGS. Assuming that a transmission delay time required for transmitting the image 60 is Td and a time when the previous distance image 60 is generated is t1, a predicted distance at a time t1 + t, which is a time t elapsed from the time t1 in consideration of the transmission delay time Td. Image 62 (6
3, 64, 65) are generated, and the previous distance image 60
Is displayed on the display means 23 of the monitoring station 20 at the time t1 + Td, and when the time t-Td elapses, the predicted distance image 62 at the time t1 + t is displayed.

【0020】このように、移動体10から監視局20へ
の画像伝送の遅れ時間が補償され、現時点t1+tでの
画像を予測距離画像62(63、64、65)として表
示させることができる。
As described above, the delay time of the image transmission from the mobile unit 10 to the monitoring station 20 is compensated, and the image at the present time t1 + t can be displayed as the predicted distance image 62 (63, 64, 65).

【0021】また、第3の目的を達成するために、本発
明の第2発明では、上記第1発明の別の発明において、
車体座標系X−Y−Zの原点位置を、所定座標軸方向に
所定量だけ変化させる処理(たとえば、鉛直Y軸方向に
Hだけ変化させる)を行うことによって、表示手段23
に表示される距離画像の視点を上方にH0け移動させる
ようにしている。
Further, in order to achieve a third object, in a second invention of the present invention, in another invention of the first invention,
By performing a process of changing the origin position of the vehicle body coordinate system XYZ by a predetermined amount in the predetermined coordinate axis direction (for example, by changing H in the vertical Y axis direction), the display means 23 is changed.
Is moved upward by H0.

【0022】このようにカメラの位置を動かすための複
雑な機構を設けることなく簡単な処理のみで、所望の視
点の画像を表示することができるようになる。
As described above, an image of a desired viewpoint can be displayed only by simple processing without providing a complicated mechanism for moving the position of the camera.

【0023】[0023]

【発明の実施の形態】以下、図面を参照して本発明の実
施の形態について説明する。
Embodiments of the present invention will be described below with reference to the drawings.

【0024】本実施の形態では、図4に示すように無人
ダンプトラック等の移動体10が走行路31を走行する
場合に、その前方にみえる木32、家33、他の車両3
4等からなる距離画像を生成し、この距離画像に基づき
監視局のオペレータが障害物の存在等を判断すること
で、移動体10の走行が遠隔操作される場合を想定して
いる。
In this embodiment, when a moving body 10 such as an unmanned dump truck travels on a traveling path 31 as shown in FIG. 4, a tree 32, a house 33, and other vehicles 3 seen in front of the traveling body 31.
It is assumed that a traveling image of the moving object 10 is remotely controlled by generating a distance image composed of four or the like and determining the presence or the like of an obstacle by an operator of the monitoring station based on the distance image.

【0025】なお、本発明としては、遠隔操作の内容は
任意であり、移動体の走行を遠隔操作する場合だけでな
く、所定の作業機で所定の作業をしながら走行する移動
体を遠隔操作する場合にも適用可能である。たとえば、
パワーショベルで対象物を掘削する場合に、本発明を適
用すれば、移動中や移動後の掘削対象物までの距離、そ
の形状といった情報をリアルタイムに得ることができる
ので、作業機用操作レバーの遠隔操縦性を飛躍的に高め
ることができる。
According to the present invention, the content of the remote operation is arbitrary, and is not limited to the case where the traveling of the moving body is remotely controlled, and the case where the moving body traveling while performing the predetermined work with the predetermined work machine is remotely controlled. It is also applicable to the case. For example,
When excavating an object with a power shovel, if the present invention is applied, information such as the distance to the object to be excavated during or after movement and its shape can be obtained in real time. Remote maneuverability can be dramatically improved.

【0026】図6において、X−Y−Zは、移動体10
とともに移動する車体座標系を示している。Xは移動体
10の車幅方向に対応する座標軸であり、Zは移動体1
0の進行方向(走行路31)に対応する座標軸であり、
Yは鉛直方向の座標軸である。
In FIG. 6, XYZ is the moving object 10.
2 shows a vehicle body coordinate system that moves with the vehicle. X is a coordinate axis corresponding to the vehicle width direction of the moving body 10, and Z is the moving body 1
0 is a coordinate axis corresponding to the traveling direction of 0 (traveling path 31),
Y is a vertical coordinate axis.

【0027】図1は、本発明の実施形態である移動体の
遠隔操作装置の構成を示している。
FIG. 1 shows the configuration of a remote control device for a mobile object according to an embodiment of the present invention.

【0028】同図1に示すように、この遠隔装置は、大
きくは移動体10に搭載される車上装置と、監視局20
とからなっている。
As shown in FIG. 1, this remote device is roughly composed of an on-board device mounted on a mobile unit 10 and a monitoring station 20.
It consists of

【0029】移動体10の車上装置は、移動体10搭載
のカメラの撮像結果に基づき、移動体10上の基準位置
(基準面)から、その移動体10の進行方向前方の各物
体までの距離を計測し、基準位置からの距離を示す距離
データdおよび2次元座標位置データ(i、j)が各画
素に対応付けられた3次元の距離画像を生成する距離画
像生成部11と、この距離画像生成部11で生成された
距離画像を、一定時間Δt毎に監視局20にアンテナ1
5を介して無線にて送信する画像送信機13と、移動体
10の内界センサで構成され、移動体10の位置変化な
いしは各方向の位置・姿勢変化を計測する計測部12
と、この計測部12の計測結果をアンテナ16を介して
監視局20に無線にて送信するセンサ信号送信機14と
から構成されている。
The on-vehicle device of the moving body 10 is configured to move from a reference position (reference plane) on the moving body 10 to each object in front of the moving body 10 based on an image picked up by a camera mounted on the moving body 10. A distance image generation unit 11 that measures a distance and generates a three-dimensional distance image in which distance data d indicating the distance from the reference position and two-dimensional coordinate position data (i, j) are associated with each pixel; The distance image generated by the distance image generation unit 11 is transmitted from the antenna 1 to the monitoring station 20 at regular time intervals Δt.
An image transmitter 13 that wirelessly transmits the moving object 5 and an internal sensor of the moving object 10, and a measuring unit 12 that measures a position change of the moving object 10 or a position / posture change in each direction.
And a sensor signal transmitter 14 that wirelessly transmits the measurement result of the measurement unit 12 to the monitoring station 20 via the antenna 16.

【0030】一方、監視局20は、移動体10の車上装
置から送信された距離画像およびセンサ信号をアンテナ
24を介して受信し、受信内容に基づいて、前回の距離
画像が生成された時刻t1から上記距離画像の送信の間
隔である一定時間Δtよりも小さい所定時間tが経過す
るまでの間に移動体10が移動することによって、前回
の距離画像の各画素が上記距離データdとして示される
距離方向に変化する移動距離L1を演算する処理を行う
か、あるいは前回の距離画像が生成された時刻t1にお
ける車体座標系X−Y−Zを、当該時刻t1から一定時
間Δtよりも小さい所定時間tが経過した時刻t1+t
における車体座標系X−Y−Zに変換し、この所定時間
tが経過した時刻t1+tの車体座標系X−Y−Zにお
ける前回の距離画像の各画素の3次元座標位置を演算す
る処理を行う演算部21と、この演算結果に基づいて、
距離画像の各画素の距離データdを、上記移動距離L1
だけ変化させることによって、前回の距離画像が生成さ
れた時刻t1から画像送信間隔Δtが経過する途中の時
刻t1+tにおける予測距離画像を生成するか、あるい
は、時刻t1+tの車体座標系X−Y−Zにおける前回
の距離画像の各画素の3次元座標位置に基づいて前回の
距離画像が生成された時刻t1から画像送信間隔Δtが
経過する途中の時刻t1+tにおける予測距離画像を生
成する予測距離画像生成部22と、この生成された予測
距離画像を、前回の距離画像と次に、移動体10から送
信されてくる距離画像との間に挿入して表示するCRT
ディスプレイ等からなる表示部23とから構成されてい
る。
On the other hand, the monitoring station 20 receives the distance image and the sensor signal transmitted from the on-board device of the mobile unit 10 via the antenna 24, and based on the received content, the time when the previous distance image was generated. Each pixel of the previous distance image is indicated as the distance data d by the moving object 10 moving from t1 until a predetermined time t smaller than the fixed time Δt, which is the interval of transmission of the distance image, elapses. To calculate the moving distance L1 that changes in the direction of the distance, or to change the vehicle body coordinate system XYZ at the time t1 when the previous distance image was generated from the time t1 by a predetermined time smaller than the fixed time Δt. Time t1 + t at which time t has elapsed
To the vehicle body coordinate system XYZ at the time t1, and the processing of calculating the three-dimensional coordinate position of each pixel of the previous distance image in the vehicle body coordinate system XYZ at the time t1 + t at which the predetermined time t has elapsed is performed. Based on the calculation unit 21 and the calculation result,
The distance data d of each pixel of the distance image is calculated as the moving distance L1
To generate a predicted distance image at time t1 + t during which the image transmission interval Δt elapses from time t1 when the previous distance image was generated, or the vehicle body coordinate system XYZ at time t1 + t. A predicted distance image generation unit that generates a predicted distance image at time t1 + t halfway through an image transmission interval Δt from time t1 when the previous distance image was generated based on the three-dimensional coordinate position of each pixel in the previous distance image 22 and a CRT for displaying the generated predicted distance image by inserting it between the previous distance image and the next distance image transmitted from the moving object 10.
And a display unit 23 such as a display.

【0031】監視局20では、表示部23に表示された
距離画像に基づき、あるいは距離画像を更に画像処理し
たものに基づき、移動体10前方に存在する障害物の有
無等がオペレータによって判断され、駆動制御信号がア
ンテナ24を介して送信されることによって移動体10
が遠隔操作され、移動体10の走行が駆動制御される。
In the monitoring station 20, the presence or absence of an obstacle existing in front of the moving body 10 is determined by an operator based on the distance image displayed on the display unit 23 or based on a further image processing of the distance image. When the drive control signal is transmitted through the antenna 24,
Is remotely controlled, and the traveling of the moving body 10 is drive-controlled.

【0032】ここで、計測部12は、移動体10の速度
Vを検出する速度センサで構成することができる。
Here, the measuring section 12 can be constituted by a speed sensor for detecting the speed V of the moving body 10.

【0033】また、別の実施形態では、計測部12は、
GPS(グローバル・ポジショニング・センサ)などの
移動体10の3次元位置を検出する位置センサあるいは
移動体10の3次元速度を検出する速度センサと、ジャ
イロなどの角速度センサ等で構成することができる。た
とえば、移動体10の車体のヨー方向のヨーイング角度
を検出するヨーレイトジャイロと、車体のピッチング角
とローリング角を検出する2つの傾斜計とから構成する
ことができ、これら検出結果に基づき、図6に示すよう
に、時刻t1における車体座標系X−Y−Zの座標軸に
対する時刻t1から時間tだけ経過した時刻t1+tにお
ける車体座標系X−Y−Zの座標軸の回転角を表す車体
の回転角(RX0、RY0、RZ0)が出力される。時刻
t1における車体座標系X−Y−Zでみた時刻t1+tに
おける車体座標系X−Y−Zの原点位置(Vx・t、Vy
・t、Vz・t)は、時刻t1+tにおける速度センサの
出力V(Vx、Vy、Vz)から求めることができる。ま
た、GPSなどの位置センサの出力として取得すること
ができる。
In another embodiment, the measuring unit 12
It can be composed of a position sensor such as a GPS (global positioning sensor) that detects the three-dimensional position of the moving body 10, a speed sensor that detects the three-dimensional speed of the moving body 10, and an angular velocity sensor such as a gyro. For example, a yaw rate gyro that detects the yawing angle of the vehicle body of the moving body 10 in the yaw direction and two inclinometers that detect the pitching angle and the rolling angle of the vehicle body can be configured. , The rotation angle of the vehicle body representing the rotation angle of the coordinate axis of the vehicle body coordinate system XYZ at the time t1 + t at the time t1 + t after the time t1 with respect to the coordinate axis of the vehicle body coordinate system XYZ at the time t1 ( RX0, RY0, RZ0) are output. The origin position (Vx · t, Vy of the vehicle body coordinate system XYZ at time t1 + t viewed in the vehicle body coordinate system XYZ at time t1)
.T, Vz.t) can be obtained from the output V (Vx, Vy, Vz) of the speed sensor at time t1 + t. In addition, it can be obtained as an output of a position sensor such as a GPS.

【0034】距離画像生成部11では、例えば図5
(a)に示すような走行路面31と、この走行路面31
に沿って存在する木32、家33、他の車両34からな
る距離画像40が生成される。距離画像40の各画素5
0には、i−j2次元座標系における2次元座標位置
(i、j)、移動体10の基準位置(基準面)からの距
離dを示す3次元のデータ(i、j、d)が対応づけら
れており、距離画像40の各位置i、jの画素は、距離
dに応じた明度を有している。画素50の明度は、距離
dが小さいほど大きく、明るくなる(画面では白くな
る)。こうした3次元の距離画像を生成するための距離
計測の方法としては、例えば特願平7−200999号
に示される多眼レンズ(多眼カメラ)を使用した方法を
用いることができる。
In the distance image generation unit 11, for example, FIG.
A traveling road surface 31 as shown in FIG.
A distance image 40 including a tree 32, a house 33, and another vehicle 34 existing along is generated. Each pixel 5 of the distance image 40
0 corresponds to a two-dimensional coordinate position (i, j) in the ij two-dimensional coordinate system and three-dimensional data (i, j, d) indicating a distance d from the reference position (reference plane) of the moving object 10. The pixel at each position i, j of the distance image 40 has brightness corresponding to the distance d. The brightness of the pixel 50 increases as the distance d decreases, and becomes brighter (whiter on the screen). As a method of distance measurement for generating such a three-dimensional distance image, for example, a method using a multi-lens lens (multi-lens camera) disclosed in Japanese Patent Application No. 7-200999 can be used.

【0035】以下、監視局20の演算部21、予測距離
画像生成部22で行われる処理について、図2のフロー
チャートを参照して説明する。
The processing performed by the calculation unit 21 and the predicted distance image generation unit 22 of the monitoring station 20 will be described below with reference to the flowchart of FIG.

【0036】・第1の実施形態 この実施形態では、図4に示すように、移動体10が直
線路である走行路31を直進している場合を想定する。
特に、直進走行している場合に好適であり、簡易な構成
により簡易な処理で予測距離画像を生成することができ
る実施形態である。この実施形態では、計測部12は、
速度センサのみで構成することができる。
First Embodiment In this embodiment, as shown in FIG. 4, it is assumed that the moving body 10 is traveling straight on a running path 31 which is a straight road.
In particular, this embodiment is suitable for a case where the vehicle is traveling straight, and can generate a predicted distance image by a simple process with a simple configuration. In this embodiment, the measuring unit 12
It can be constituted only by the speed sensor.

【0037】図5に示すように、監視局20には、時刻
t1で距離画像40(前回の距離画像という)が受信さ
れる。なお、この時刻t1からΔtだけ時間が経過した
時刻t2で、つぎの距離画像41が受信される(ステッ
プ101:図5(a)、(b)参照)。
As shown in FIG. 5, the monitoring station 20 receives a distance image 40 (referred to as a previous distance image) at time t1. At time t2 when a time Δt has elapsed from time t1, the next distance image 41 is received (step 101: see FIGS. 5A and 5B).

【0038】つぎに、受信されたセンサ信号、つまり速
度センサの出力Vに基づいて、前回の距離画像40が生
成された時点から所定時間t(<Δt)が経過するまで
の間の移動体10の移動距離L1が下式によって演算さ
れる。
Next, based on the received sensor signal, that is, the output V of the speed sensor, the moving object 10 from the time when the previous distance image 40 was generated until a predetermined time t (<Δt) has elapsed. Is calculated by the following equation.

【0039】L1=V・t …(5) (ステップ102) 前回の距離画像40から時間tだけ経過したときの距離
画像は、前回の距離画像40と比較して全体として上記
移動距離L1だけ近づいているはずである。そこで、前
回の距離画像40の画素50の距離データdから、上記
演算移動距離L1だけ減算する処理がなされ、画素50
の距離データがdからd−L1へと変化される。この減
算処理は全画素について行われる。なお、距離データが
負の値に変化する場合には、距離データを0に設定すれ
ばよい。この結果、図5(c)に示すように、前回の距
離画像40が生成された時刻t1から画像送信間隔Δt
が経過する途中の時刻t1+tにおける予測距離画像4
2が生成される(ステップ103)。
L1 = V · t (5) (Step 102) The distance image obtained when the time t has elapsed from the previous distance image 40 is closer to the previous distance image 40 as a whole by the moving distance L1. Should be. Therefore, a process of subtracting the calculated moving distance L1 from the distance data d of the pixel 50 of the previous distance image 40 is performed.
Is changed from d to d-L1. This subtraction process is performed for all pixels. When the distance data changes to a negative value, the distance data may be set to 0. As a result, as shown in FIG. 5C, the image transmission interval Δt starts at time t1 when the previous distance image 40 was generated.
Distance image 4 at time t1 + t in the middle of
2 is generated (step 103).

【0040】上記予測距離画像42は1フレームだけで
はなく、時間tを異ならせて2フレーム以上を、予測距
離画像42、43、44…として生成してもよい。
The predicted distance image 42 may be generated as not only one frame but also two or more frames at different times t as the predicted distance images 42, 43, 44,.

【0041】こうして生成された予測距離画像、たとえ
ば5フレームからなる予測距離画像42、43、44、
45、46が、図3に示すように、前回の距離画像40
と次に、移動体10から送信されてくる距離画像41と
の間に挿入されて表示部23に表示される。
The predicted distance images thus generated, for example, predicted distance images 42, 43, 44,
45, 46, as shown in FIG.
And the distance image 41 transmitted from the moving body 10 and displayed on the display unit 23.

【0042】この結果、表示部23に、たとえばビデオ
レート、30フレーム/秒のリアルタイムな画像が表示
され、画像の伝送能力の低さ(Δt間隔の画像伝送)を
十分補うことができる。そして、このリアルタイムな画
像に基づきオペレータが遠隔操作することで、移動体1
0の遠隔操作性が飛躍的に向上することになる。
As a result, a real-time image of, for example, a video rate of 30 frames / second is displayed on the display unit 23, and the low image transmission capability (image transmission at Δt intervals) can be sufficiently compensated. Then, the operator remotely controls the mobile unit 1 based on the real-time image, thereby
The remote operability of 0 will be greatly improved.

【0043】・第2の実施形態 この実施形態では、図7に示すように、移動体10がカ
ーブ路である走行路31を走行している場合を想定す
る。
Second Embodiment In this embodiment, as shown in FIG. 7, it is assumed that the moving body 10 is running on a running path 31 which is a curved road.

【0044】この実施形態では、計測部12は、速度セ
ンサ(あるいは位置センサ)および角速度センサ等の各
方向の位置変化および各方向の姿勢変化を検出するセン
サで構成される。以下、図9に示すフローチャートを参
照して説明する。
In this embodiment, the measuring section 12 is constituted by sensors for detecting a position change in each direction and a posture change in each direction, such as a speed sensor (or a position sensor) and an angular speed sensor. Hereinafter, description will be made with reference to the flowchart shown in FIG.

【0045】図8に示すように、監視局20には、時刻
t1で距離画像60が受信される。なお、この時刻t1か
らΔtだけ時間が経過した時刻t2で、つぎの距離画像
61が受信される(ステップ201:図8(a)、
(b)参照)。
As shown in FIG. 8, the monitoring station 20 receives the distance image 60 at time t1. At time t2 when a time Δt has elapsed from time t1, the next distance image 61 is received (step 201: FIG. 8A,
(B)).

【0046】以下、受信されたセンサ信号に基づいて、
前回の距離画像60が生成された時刻t1における車体
座標系X−Y−Zを、当該時刻t1から所定時間tが経
過した時刻t1+tにおける車体座標系X−Y−Zに変
換し、この所定時間tが経過した時刻t1+tの車体座
標系X−Y−Zにおける前回の距離画像60の各画素の
3次元座標位置を演算し、この時刻t1+tの車体座標
系X−Y−Zにおける前回の距離画像60の各画素の3
次元座標位置に基づいて、前回の距離画像60が生成さ
れた時刻t1から画像送信間隔Δtが経過する途中の時
刻t1+tにおける予測距離画像62を生成する処理が
実行される。
Hereinafter, based on the received sensor signal,
The vehicle body coordinate system XYZ at the time t1 when the previous distance image 60 was generated is converted into the vehicle body coordinate system XYZ at the time t1 + t at which a predetermined time t has elapsed from the time t1. The three-dimensional coordinate position of each pixel of the previous distance image 60 in the vehicle body coordinate system XYZ at the time t1 + t when t has elapsed is calculated, and the previous distance image in the vehicle body coordinate system XYZ at the time t1 + t is calculated. 3 of 60 pixels
Based on the dimensional coordinate position, a process of generating a predicted distance image 62 at a time t1 + t in the middle of the image transmission interval Δt from the time t1 when the previous distance image 60 was generated is executed.

【0047】まず、距離画像60の各画素50には、上
述したように(i、j、d)の3次元の情報が対応づけ
られているので、この距離画像データ(i、j、d)で
示される各画素50を、図6、図7に示すように、移動
体10とともに移動し、移動体10の所定位置を原点と
する車体座標系X−Y−Z上の3次元座標位置データ
(X、Y、Z)に対応づけられた各画素に変換すること
ができる。この結果、距離画像60の各画素50(図6
のP点)は、時刻t1における車体座標系X−Y−Z上
の3次元座標位置(XP(t1)、YP(t1)、ZP
(t1))で表される(ステップ202)。
First, since the three-dimensional information (i, j, d) is associated with each pixel 50 of the distance image 60 as described above, the distance image data (i, j, d) 6 and 7, the three-dimensional coordinate position data on the vehicle body coordinate system XYZ with the origin at a predetermined position of the moving body 10 as shown in FIGS. It can be converted into each pixel associated with (X, Y, Z). As a result, each pixel 50 of the distance image 60 (FIG. 6)
Point P) are three-dimensional coordinate positions (XP (t1), YP (t1), ZP on the vehicle body coordinate system XYZ at time t1).
(T1)) (step 202).

【0048】さらに、受信されたセンサ信号に基づい
て、上述した時刻t1から時刻t1+tまでの間の車体の
回転角(RX0、RY0、RZ0)、時刻t1における車体
座標系からみた時刻t1+tにおける車体座標系X−Y
−Zの原点位置(Vx・t、Vy・t、Vz・t)が求め
られる。この時刻t1から時刻t1+tの間の位置の変化
量(Vx・t、Vy・t、Vz・t)は、時刻t1+tにお
ける速度センサの出力V(Vx、Vy、Vz)に基づく演
算によって求めてもよく、GPSなどの位置センサから
出力される時刻t1での位置と時刻t1+tでの位置とに
基づき求めるようにしてもよい(ステップ203)。
Further, based on the received sensor signal, the rotation angles (RX0, RY0, RZ0) of the vehicle body from time t1 to time t1 + t described above, and the vehicle body coordinates at time t1 + t as viewed from the vehicle body coordinate system at time t1 System XY
The origin position (−Vx · t, Vy · t, Vz · t) of −Z is obtained. The amount of change (Vx · t, Vy · t, Vz · t) between the time t1 and the time t1 + t can be obtained by calculation based on the output V (Vx, Vy, Vz) of the speed sensor at the time t1 + t. Alternatively, it may be determined based on the position at time t1 and the position at time t1 + t output from a position sensor such as GPS (step 203).

【0049】つぎに、これら時刻t1から時刻t1+tま
での間の車体の回転角(RX0、RY0、RZ0)、時刻
t1における車体座標系からみた時刻t1+tにおける車
体座標系X−Y−Zの原点位置(Vx・t、Vy・t、V
z・t)を用いて、図6に示すように、時刻t1における
車体座標系上の画素50(P点)の座標位置(XP(t
1)、YP(t1)、ZP(t1))と、時刻t1+tにお
ける車体座標系の同画素50(P点)の座標位置(XP
(t1+t)、YP(t1+t)、ZP(t1+t))と
の関係が、次式(1)のようにして求められる。
Next, the rotation angles (RX0, RY0, RZ0) of the vehicle body from time t1 to time t1 + t, the origin position of the vehicle body coordinate system XYZ at time t1 + t viewed from the vehicle body coordinate system at time t1 (Vx · t, Vy · t, V
As shown in FIG. 6, the coordinate position (XP (t) of the pixel 50 (point P) on the vehicle body coordinate system at time t1 is calculated using
1), YP (t1), ZP (t1)) and the coordinate position (XP) of the same pixel 50 (point P) in the vehicle body coordinate system at time t1 + t.
The relationship with (t1 + t), YP (t1 + t), ZP (t1 + t) is obtained as in the following equation (1).

【0050】 ただし、上記(1)式においてMR0は、車体座標系の
回転マトリックスであり、車体の回転角(RX0、RY
0、RZ0)を用いて、次式(2)のように表される。
[0050] Here, in the above equation (1), MR0 is a rotation matrix of the vehicle body coordinate system, and the rotation angles of the vehicle body (RX0, RY
0, RZ0), and is represented by the following equation (2).

【0051】 よって、上記(1)式より、時刻t1における車体座標
系における画素50(点P)の座標位置(XP(t
1)、YP(t1)、ZP(t1))を、時刻t1+tにお
ける車体座標系の座標位置(XP(t1+t)、YP
(t1+t)、ZP(t1+t))に、以下のように変換
することができる。
[0051] Therefore, from the above equation (1), the coordinate position (XP (t) of the pixel 50 (point P) in the vehicle body coordinate system at time t1 is obtained.
1), YP (t1), ZP (t1)) are converted to the coordinate positions (XP (t1 + t), YP
(T1 + t), ZP (t1 + t)) can be converted as follows.

【0052】 上記変換は距離画像60のすべての画素について実行さ
れる(テップ204)。
[0052] The above conversion is performed for all the pixels of the distance image 60 (Step 204).

【0053】つぎに、上記求められた時刻t1+tにお
ける車体座標系の3次元座標位置(XP(t1+t)、
YP(t1+t)、ZP(t1+t))を、距離画像デー
タ(i、j、d)に再び変換し直す処理が実行される。
この場合、カメラの画角内に存在する3次元座標のみが
選択され、その選択された3次元座標が距離画像データ
に戻される。こうして各画素50の3次元座標位置が、
距離dと画面内での座標i、jに変換され、この結果、
図8(c)に示すように、前回の距離画像60が生成さ
れた時刻t1から画像送信間隔Δtが経過する途中の時
刻t1+tにおける予測距離画像62が生成される(ス
テップ205)。
Then, the three-dimensional coordinate position (XP (t1 + t),
A process of converting YP (t1 + t) and ZP (t1 + t) again into distance image data (i, j, d) is executed.
In this case, only the three-dimensional coordinates existing within the angle of view of the camera are selected, and the selected three-dimensional coordinates are returned to the distance image data. Thus, the three-dimensional coordinate position of each pixel 50 is
It is converted into the distance d and the coordinates i, j in the screen.
As shown in FIG. 8C, a predicted distance image 62 is generated at time t1 + t during the image transmission interval Δt from the time t1 when the previous distance image 60 was generated (step 205).

【0054】上記予測距離画像62は1フレームだけで
はなく、時間tを異ならせて2フレーム以上を、予測距
離画像62、63、64…として生成してもよい。
The predicted distance image 62 is not limited to one frame, and two or more frames may be generated as the predicted distance images 62, 63, 64...

【0055】こうして生成された予測距離画像、たとえ
ば5フレームからなる予測距離画像62、63、64、
65、66が、図3に示すように、前回の距離画像60
と次に、移動体10から送信されてくる距離画像61と
の間に挿入されて表示部23に表示される。
The predicted distance images thus generated, for example, predicted distance images 62, 63, 64,
As shown in FIG. 3, 65 and 66 are distance images 60 of the previous distance.
And the distance image 61 transmitted from the moving body 10 and displayed on the display unit 23.

【0056】この結果、表示部23に、たとえばビデオ
レート、30フレーム/秒のリアルタイムな画像が表示
され、画像の伝送能力の低さ(Δt間隔の画像伝送)を
十分補うことができる。そして、このリアルタイムな画
像に基づきオペレータが遠隔操作することで、移動体1
0の遠隔操作性が飛躍的に向上することになる。
As a result, a real-time image of, for example, a video rate of 30 frames / second is displayed on the display unit 23, and the low image transmission capability (image transmission at Δt intervals) can be sufficiently compensated. Then, the operator remotely controls the mobile unit 1 based on the real-time image, thereby
The remote operability of 0 will be greatly improved.

【0057】ところで、図10に示すように、移動体1
0から監視局20へ距離画像を送信する際、実際には送
信に要する送信遅延時間Tdが存在する。よって、この
遅延時間Tdを考慮して現時点での画像を予測距離画像
として表示部23に表示させることもできる。すなわ
ち、図10に示すように、前回の距離画像60が移動体
10にて時刻t1で生成されたものとすると、この距離
画像60に基づき、前述したような処理によって、送信
遅延時間Tdを見込んだ時刻t1から時間tだけ経過した
時刻t1+tにおける予測距離画像62を監視局20に
て生成する。そして、前回の距離画像60が監視局20
の表示部23で時刻t1+Tdにおいて表示されてから時
間t−Td経過した時点で、上記時刻t1+tにおける予
測距離画像62を表示する。他の予測距離画像63、6
4、65も同様にして表示する。この結果、現時点での
距離画像62、63、64、65が、監視局20で表示
されることとなり、オペレータによる移動体10の遠隔
操作性がさらに向上する。
By the way, as shown in FIG.
When a distance image is transmitted from 0 to the monitoring station 20, there is actually a transmission delay time Td required for transmission. Therefore, the image at the present time can be displayed on the display unit 23 as the predicted distance image in consideration of the delay time Td. That is, as shown in FIG. 10, assuming that the previous distance image 60 was generated at time t1 by the moving object 10, the transmission delay time Td is estimated by the above-described processing based on the distance image 60. The monitoring station 20 generates a predicted distance image 62 at time t1 + t, which is the time t elapsed from the time t1. Then, the previous distance image 60 is
When the time t-Td elapses after being displayed at the time t1 + Td on the display unit 23, the predicted distance image 62 at the time t1 + t is displayed. Other predicted distance images 63, 6
4, 65 are displayed in the same manner. As a result, the current distance images 62, 63, 64, and 65 are displayed on the monitoring station 20, and the remote operability of the mobile unit 10 by the operator is further improved.

【0058】なお、前述した第1の実施形態にこの方法
を適用してもよい。
Note that this method may be applied to the above-described first embodiment.

【0059】また、監視局20の表示部23で表示され
る距離画像の視点を、所望の視点に変える実施も可能で
ある。
It is also possible to change the viewpoint of the distance image displayed on the display unit 23 of the monitoring station 20 to a desired viewpoint.

【0060】この場合、距離画像62に変換する前の時
刻t1+tにおける車体座標系X−Y−Zの原点位置
を、所望の座標軸方向に所望量だけ変化させる処理を行
えばよい。
In this case, a process of changing the origin position of the vehicle body coordinate system XYZ at time t1 + t before conversion into the distance image 62 by a desired amount in the desired coordinate axis direction may be performed.

【0061】具体的には、表示部23に表示される距離
画像の視点をHだけ上げ、オペレータの視点をHだけ上
げたいときには、上記第(3)式の右辺に、下記(4)
式を加えればよい。
Specifically, when the viewpoint of the distance image displayed on the display unit 23 is to be raised by H and the viewpoint of the operator is to be raised by H, the following expression (4) is added to the right side of the above equation (3).
Just add an expression.

【0062】 このように時刻t1+tにおける車体座標系X−Y−Z
の原点位置が、鉛直Y軸方向にHだけ変化されることに
よって、表示部23に表示される距離画像の視点、つま
りオペレータの視点が上方にHだけ移動される。
[0062] Thus, the body coordinate system XYZ at time t1 + t
Is changed by H in the vertical Y-axis direction, the viewpoint of the distance image displayed on the display unit 23, that is, the viewpoint of the operator is moved upward by H.

【0063】この方法を適用すれば、カメラの位置を動
かすための複雑な機構を設けることなく簡単な処理のみ
で、所望の視点の画像を表示することができる。このた
め、オペレータによる移動体10の遠隔操作性はさらに
向上する。
By applying this method, an image of a desired viewpoint can be displayed only by simple processing without providing a complicated mechanism for moving the position of the camera. Therefore, the remote operability of the moving body 10 by the operator is further improved.

【図面の簡単な説明】[Brief description of the drawings]

【図1】図1は本発明に係る移動体の遠隔操作装置の実
施の形態における構成例を示すブロック図である。
FIG. 1 is a block diagram showing a configuration example of a mobile remote control device according to an embodiment of the present invention.

【図2】図2は図1に示す監視局で実行される処理の手
順を示すフローチャートである。
FIG. 2 is a flowchart illustrating a procedure of a process executed by the monitoring station illustrated in FIG. 1;

【図3】図3は移動体から送信される距離画像と予測距
離画像との関係を概略的に示す図である。
FIG. 3 is a diagram schematically showing a relationship between a distance image transmitted from a moving object and a predicted distance image.

【図4】図4は移動体が走行する様子を上面から示す図
である。
FIG. 4 is a diagram illustrating a state in which a moving object travels from above.

【図5】図5(a)、(b)、(c)は図4に示す走行
路を移動体が走行した場合に得られる距離画像と予測距
離画像とを示す図である。
5 (a), 5 (b), and 5 (c) are views showing a distance image and a predicted distance image obtained when the moving object travels on the traveling path shown in FIG.

【図6】図6はある時刻における車体座標系とこの時刻
から所定時間が経過した時刻における車体座標系との関
係を示す図である。
FIG. 6 is a diagram showing a relationship between a vehicle body coordinate system at a certain time and a vehicle body coordinate system at a time when a predetermined time has elapsed from this time.

【図7】図7は移動体が走行する様子を上面から示す図
である。
FIG. 7 is a diagram illustrating a state in which the moving body travels from above.

【図8】図8(a)、(b)、(c)は図7に示す走行
路を移動体が走行した場合に得られる距離画像と予測距
離画像とを示す図である。
8 (a), 8 (b) and 8 (c) are views showing a distance image and a predicted distance image obtained when the moving object travels on the traveling path shown in FIG. 7;

【図9】図9は図1に示す監視局で実行される他の処理
の手順を示すフローチャートである。
FIG. 9 is a flowchart illustrating a procedure of another process executed by the monitoring station illustrated in FIG. 1;

【図10】図10は現時点での画像を監視局で予測距離
画像として表示させる処理を説明するために用いた図で
ある。
FIG. 10 is a diagram used to explain a process of displaying a current image as a predicted distance image at a monitoring station.

【符号の説明】[Explanation of symbols]

10 移動体 11 距離画像生成部 12 計測部 13 画像送信機 14 センサ信号送信機 20 監視局 21 演算部 22 予測距離画像生成部 23 表示部 DESCRIPTION OF SYMBOLS 10 Moving body 11 Distance image generation part 12 Measurement part 13 Image transmitter 14 Sensor signal transmitter 20 Monitoring station 21 Operation part 22 Predicted distance image generation part 23 Display part

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 FI // G01C 21/00 G08C 17/00 A ──────────────────────────────────────────────────続 き Continued on front page (51) Int.Cl. 6 Identification code FI // G01C 21/00 G08C 17/00 A

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 移動体に搭載され、当該移動体の外
部を撮像する撮像装置の撮像画像を、一定時間毎に監視
局に送信し、当該監視局で受信された撮像画像に基づい
て移動体を遠隔操作するようにした移動体の遠隔操作装
置において、 前記撮像装置として、基準位置から、移動体外部の物体
までの距離を計測し、当該物体の距離画像を生成する距
離画像生成手段を設けるとともに、 前記移動体に、当該移動体の位置変化を計測する計測手
段と、この計測手段の計測結果を前記監視局に送信する
送信手段とを設け、さらに、前記監視局に、 前記計測手段の計測結果に基づいて、前記距離画像生成
手段で前回の距離画像が生成された時点から前記一定時
間よりも小さい所定時間が経過するまでの間の移動体の
移動距離を演算する演算手段と、 前記演算手段の演算結果に基づいて、前記距離画像の各
画素の距離データを、前記移動距離だけ変化させること
によって、前回の距離画像が生成された時点から前記一
定時間が経過する途中の予測距離画像を生成する予測距
離画像生成手段と、 前記予測距離画像生成手段で生成された予測距離画像
を、前回の距離画像と次に、移動体から送信されてくる
距離画像との間に挿入して表示する表示手段とを設ける
ようにした移動体の遠隔操作装置。
An image pickup apparatus mounted on a moving body, which picks up an image of an outside of the moving body, transmits a captured image to a monitoring station at predetermined time intervals, and based on the captured image received by the monitoring station, the moving body. In the remote control device for a mobile object, the distance image generation means for measuring a distance from a reference position to an object outside the mobile object and generating a distance image of the object is provided as the imaging device. Along with the moving body, a measuring means for measuring a change in the position of the moving body, and a transmitting means for transmitting the measurement result of the measuring means to the monitoring station, further provided, the monitoring station, Calculating means for calculating a moving distance of the moving body from a time when a previous distance image is generated by the distance image generating means until a predetermined time smaller than the predetermined time elapses, based on the measurement result; The distance data of each pixel of the distance image is changed by the moving distance based on the calculation result of the calculating means, whereby the predicted distance image in the middle of the predetermined time from the time when the previous distance image was generated is calculated. And a predicted distance image generated by the predicted distance image generating means is inserted and displayed between the previous distance image and the distance image transmitted from the moving object. A remote control device for a mobile object, the display device comprising:
【請求項2】 移動体に搭載され、当該移動体の外
部を撮像する撮像装置の撮像画像を、一定時間毎に監視
局に送信し、当該監視局で受信された撮像画像に基づい
て移動体を遠隔操作するようにした移動体の遠隔操作装
置において、 前記撮像装置として、基準位置から、移動体外部の物体
までの距離を計測し、各画素が、移動体とともに移動す
る車体座標系の3次元座標位置に対応づけられている距
離画像を生成する距離画像生成手段を設けるとともに、 前記移動体に、当該移動体の各方向の位置・姿勢変化を
計測する計測手段と、この計測手段の計測結果を前記監
視局に送信する送信手段とを設け、さらに、前記監視局
に、 前記計測手段の計測結果に基づいて、前記距離画像生成
手段で前回の距離画像が生成された時点における車体座
標系を、当該時点から前記一定時間よりも小さい所定時
間が経過した時点における車体座標系に変換し、この所
定時間が経過した時点の車体座標系における前回の距離
画像の各画素の3次元座標位置を演算する演算手段と、 前記演算手段で演算された前記所定時間が経過した時点
の車体座標系における前回の距離画像の各画素の3次元
座標位置に基づいて、前回の距離画像が生成された時点
から前記一定時間が経過する途中の予測距離画像を生成
する予測距離画像生成手段と、 前記予測距離画像生成手段で生成された予測距離画像
を、前回の距離画像と次に、移動体から送信されてくる
距離画像との間に挿入して表示する表示手段とを設ける
ようにした移動体の遠隔操作装置。
2. An image pickup apparatus mounted on a moving body, which picks up an image of an outside of the moving body, transmits a captured image to a monitoring station at predetermined time intervals, and based on the captured image received by the monitoring station, the moving body. In the remote control device for a mobile body, the distance from a reference position to an object outside the mobile body is measured, and each pixel is moved along with the mobile body. A distance image generating means for generating a distance image associated with the three-dimensional coordinate position; a measuring means for measuring a change in position and orientation of the moving body in each direction; Transmitting means for transmitting a result to the monitoring station, and further comprising, in the monitoring station, a vehicle body coordinate system at a time point when a previous distance image was generated by the distance image generating means based on a measurement result of the measuring means. Is converted to the vehicle body coordinate system at the time when a predetermined time smaller than the predetermined time has elapsed from the time, and the three-dimensional coordinate position of each pixel of the previous distance image in the vehicle body coordinate system at the time when the predetermined time has elapsed is calculated. Calculating means for calculating, and a point in time when the previous distance image is generated based on the three-dimensional coordinate position of each pixel of the previous distance image in the vehicle body coordinate system at the time when the predetermined time calculated by the calculating means has elapsed A predicted distance image generating means for generating a predicted distance image in the middle of elapse of the predetermined time, and a predicted distance image generated by the predicted distance image generating means, which is transmitted from the previous distance image and next from the moving body. And a display means for inserting and displaying a distance image between the moving object and the moving distance image.
【請求項3】 前記移動体から前記監視局に距離画
像を送信するに要する送信遅延時間をTdとし、前回の
距離画像が生成された時刻をt1としたとき、送信遅延
時間Tdを見込んだ時刻t1から時間tだけ経過した時刻
t1+tにおける予測距離画像を生成しておき、前回の
距離画像が監視局の表示手段で時刻t1+Tdにおいて表
示されてから時間t−Td経過した時点で時刻t1+tに
おける予測距離画像を表示するようにした請求項1また
は請求項2記載の移動体の遠隔操作装置。
3. When the transmission delay time required to transmit a distance image from the mobile unit to the monitoring station is Td, and the time at which the previous distance image was generated is t1, a time that allows for the transmission delay time Td. A predicted distance image at time t1 + t that has elapsed from time t1 by time t is generated, and the predicted distance image at time t1 + t has elapsed at time t−Td since the previous distance image was displayed at time t1 + Td on the display unit of the monitoring station. The remote control device for a mobile object according to claim 1 or 2, wherein an image is displayed.
【請求項4】 前記計測手段は、移動体の速度を検
出する速度センサである請求項1記載の移動体の遠隔操
作装置。
4. The remote control device for a mobile object according to claim 1, wherein said measuring means is a speed sensor for detecting a speed of the mobile object.
【請求項5】 前記計測手段は、移動体の位置を検
出する位置センサあるいは移動体の速度を検出する速度
センサと、移動体の姿勢角を検出する姿勢角センサとの
組合せであるである請求項2記載の移動体の遠隔操作装
置。
5. The measuring means is a combination of a position sensor for detecting a position of the moving body or a speed sensor for detecting a speed of the moving body, and a posture angle sensor for detecting a posture angle of the moving body. Item 3. A remote control device for a mobile object according to Item 2.
【請求項6】 前記車体座標系の原点位置を、所定
座標軸方向に所定量だけ変化させる処理を行うことによ
って、前記表示手段に表示される距離画像の視点を移動
させるようにした請求項2記載の移動体の遠隔操作装
置。
6. The viewpoint of a distance image displayed on the display means is moved by performing a process of changing an origin position of the vehicle body coordinate system by a predetermined amount in a predetermined coordinate axis direction. Mobile unit remote control device.
JP8298802A 1996-11-11 1996-11-11 Mobile remote control device Withdrawn JPH10275015A (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP8298802A JPH10275015A (en) 1996-11-11 1996-11-11 Mobile remote control device
PCT/JP1997/004083 WO1998021631A1 (en) 1996-11-11 1997-11-10 Remote controller for mobile station
AU48867/97A AU4886797A (en) 1996-11-11 1997-11-10 Remote controller for mobile station

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP8298802A JPH10275015A (en) 1996-11-11 1996-11-11 Mobile remote control device

Publications (1)

Publication Number Publication Date
JPH10275015A true JPH10275015A (en) 1998-10-13

Family

ID=17864418

Family Applications (1)

Application Number Title Priority Date Filing Date
JP8298802A Withdrawn JPH10275015A (en) 1996-11-11 1996-11-11 Mobile remote control device

Country Status (3)

Country Link
JP (1) JPH10275015A (en)
AU (1) AU4886797A (en)
WO (1) WO1998021631A1 (en)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061346A (en) * 2008-09-03 2010-03-18 Ihi Aerospace Co Ltd Remote control system
JP2010262477A (en) * 2009-05-07 2010-11-18 Ihi Corp Remote control system
JP2011028495A (en) * 2009-07-24 2011-02-10 Technical Research & Development Institute Ministry Of Defence Remote control apparatus of automatic guided vehicle
JP2012533115A (en) * 2009-07-10 2012-12-20 ザ・ボーイング・カンパニー System and method for remote coordinated vehicle
JP2013114330A (en) * 2011-11-25 2013-06-10 Chiba Inst Of Technology Environment information obtaining system using unattended traveling body
JP2013114329A (en) * 2011-11-25 2013-06-10 Chiba Inst Of Technology Environment information obtaining system using unattended traveling body
WO2014141479A1 (en) * 2013-03-15 2014-09-18 株式会社日立製作所 Remote operation system
JP2019049888A (en) * 2017-09-11 2019-03-28 株式会社Ihiエアロスペース Remote control display apparatus and remote control display method
JP2022009142A (en) * 2015-11-04 2022-01-14 ズークス インコーポレイテッド Remote control system and method for trajectory correction of autonomous vehicle
US11537144B2 (en) 2017-09-29 2022-12-27 Komatsu Ltd. Display control device and display control method
US11796998B2 (en) 2015-11-04 2023-10-24 Zoox, Inc. Autonomous vehicle fleet service and system
JP7630733B1 (en) * 2024-03-28 2025-02-17 三菱電機株式会社 Remote control system and remote control device
US12265386B2 (en) 2015-11-04 2025-04-01 Zoox, Inc. Autonomous vehicle fleet service and system

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109814569B (en) * 2019-02-19 2022-11-08 阿波罗智能技术(北京)有限公司 Unmanned vehicle control method, device, equipment and computer readable medium
CN109765902B (en) 2019-02-22 2022-10-11 阿波罗智能技术(北京)有限公司 Unmanned vehicle driving reference line processing method and device and vehicle

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08191487A (en) * 1995-01-10 1996-07-23 Nissin Electric Co Ltd Remote control system

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061346A (en) * 2008-09-03 2010-03-18 Ihi Aerospace Co Ltd Remote control system
JP2010262477A (en) * 2009-05-07 2010-11-18 Ihi Corp Remote control system
JP2012533115A (en) * 2009-07-10 2012-12-20 ザ・ボーイング・カンパニー System and method for remote coordinated vehicle
JP2011028495A (en) * 2009-07-24 2011-02-10 Technical Research & Development Institute Ministry Of Defence Remote control apparatus of automatic guided vehicle
JP2013114330A (en) * 2011-11-25 2013-06-10 Chiba Inst Of Technology Environment information obtaining system using unattended traveling body
JP2013114329A (en) * 2011-11-25 2013-06-10 Chiba Inst Of Technology Environment information obtaining system using unattended traveling body
JPWO2014141479A1 (en) * 2013-03-15 2017-02-16 株式会社日立製作所 Remote control system
US9317035B2 (en) 2013-03-15 2016-04-19 Hitachi, Ltd. Remote operation system
WO2014141479A1 (en) * 2013-03-15 2014-09-18 株式会社日立製作所 Remote operation system
JP2022009142A (en) * 2015-11-04 2022-01-14 ズークス インコーポレイテッド Remote control system and method for trajectory correction of autonomous vehicle
US11796998B2 (en) 2015-11-04 2023-10-24 Zoox, Inc. Autonomous vehicle fleet service and system
US12265386B2 (en) 2015-11-04 2025-04-01 Zoox, Inc. Autonomous vehicle fleet service and system
JP2019049888A (en) * 2017-09-11 2019-03-28 株式会社Ihiエアロスペース Remote control display apparatus and remote control display method
US11537144B2 (en) 2017-09-29 2022-12-27 Komatsu Ltd. Display control device and display control method
JP7630733B1 (en) * 2024-03-28 2025-02-17 三菱電機株式会社 Remote control system and remote control device
WO2025203442A1 (en) * 2024-03-28 2025-10-02 三菱電機株式会社 Remote operation system and remote operation device

Also Published As

Publication number Publication date
WO1998021631A1 (en) 1998-05-22
AU4886797A (en) 1998-06-03

Similar Documents

Publication Publication Date Title
CN110244772B (en) Navigation following system and navigation following control method of mobile robot
JP5868681B2 (en) Remote control vehicle system
US7697029B2 (en) Image display apparatus and method
JPH10275015A (en) Mobile remote control device
US6366221B1 (en) Rendering device
EP0510363B1 (en) Distance measuring device
US20170030722A1 (en) Vehicle localization system
EP3790745A1 (en) Visual object tracker
JP6824856B2 (en) Display control device and display control method
JP2019016188A (en) Mobile object remote control system and mobile object remote control method
US11607999B2 (en) Method and apparatus for invisible vehicle underbody view
JP2011028495A (en) Remote control apparatus of automatic guided vehicle
US20080151053A1 (en) Operation Support Device
CN114268787B (en) Delay compensation method, device, equipment and storage medium based on AR-HUD
JP7708920B2 (en) Vehicle control device, vehicle control method, and vehicle control program
JP2023152109A (en) Feature detection device, feature detection method, and feature detection computer program
JP4028033B2 (en) Steering control device
US11845429B2 (en) Localizing and updating a map using interpolated lane edge data
JPH1137730A (en) Road shape estimation device
US10249056B2 (en) Vehicle position estimation system
JP7478285B2 (en) Vehicle, vehicle control method, and vehicle control program
JPH1139464A (en) Vehicle image processing device
JP6793459B2 (en) Autonomous mobile device
JP3580152B2 (en) Inter-vehicle distance detection device
JPH10141954A (en) Obstacle detection device on moving road surface of moving object

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20040203