JPH0981205A - 学習システム - Google Patents

学習システム

Info

Publication number
JPH0981205A
JPH0981205A JP7232985A JP23298595A JPH0981205A JP H0981205 A JPH0981205 A JP H0981205A JP 7232985 A JP7232985 A JP 7232985A JP 23298595 A JP23298595 A JP 23298595A JP H0981205 A JPH0981205 A JP H0981205A
Authority
JP
Japan
Prior art keywords
data
robot
history
learning system
past
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP7232985A
Other languages
English (en)
Inventor
Nobuo Watabe
信雄 渡部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP7232985A priority Critical patent/JPH0981205A/ja
Publication of JPH0981205A publication Critical patent/JPH0981205A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Feedback Control In General (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Manipulator (AREA)

Abstract

(57)【要約】 【課題】本発明は正解が判らない状態でロボットに正し
い行動を高速で行わせるように学習することができる学
習システムを提供することを目的とする。 【解決手段】ロボットを実際に動かしてみて周囲環境を
把握しながら動作できるようにする強化学習を行う学習
システムにおいて、行動決定手段3で、ロボットの行動
を制御する行動データAを、現在ロボットが置かれてい
る環境の状態を示す状態データSに応じて選択する。履
歴計算手段4で、1ステップ前にロボットに行動を行わ
せた行動データAを、ロボットの過去の行動を示す履歴
データHとして出力し、状態計算手段5で、ロボットの
センサで得られた環境の観測データDと履歴データHと
を合わせて前記した状態データSを求めるように構成す
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明はロボットに適用され
る学習システムに関する。この学習システムは、環境が
判らないために予め行動をプログラムしておけないロボ
ットに適用されるものであり、ロボットを実際に動かし
てみて周囲環境を把握しながら動作できるようにする強
化学習を行うものである。
【0002】言い換えれば、強化学習は、正解が判らな
い状況で正しい行動を学習しなければならない場合に用
いられる学習方法で現在提案中のものであり、その学習
速度を高速化することが要望されている。
【0003】
【従来の技術】強化学習法の代表的な例としてQラーニ
ング(Q−learning)がある。これはロボットがセンサ
を用いて観測したデータから認識できる現在の状態にお
いて、ロボットがそのとりうる各行動を行った場合に予
想できる報酬を予測し、適当な行動を選択して実行し、
この実行結果が好ましいものであれば予想報酬を増加さ
せ、好ましくないものであれば予想報酬を減少させるも
のである。
【0004】
【発明が解決しようとする課題】ところで、上述したQ
ラーニングにおいては、パーセプチュアルエイリアシン
グ(perceptual aliasing )という問題がある。
【0005】パーセプチュアルエイリアシングとは、ロ
ボットのセンサが限られているために別の状態に対する
観測結果が等しくなってしまい、結果として複数の状態
を同一の状態と見なし、学習が進まなくなるものであ
る。
【0006】例えば、ロボットが迷路を通る場合に、迷
路の壁は見えるが迷路の通り方は知らないといった条件
の基に、適当に進み、行き止まりの場合に戻るといった
動作を繰り返し、一度行って行き止まりの場合にはそこ
にはもう行けないことを認識する。
【0007】しかし、ロボットが迷路全体を知らないで
ビデオカメラで現在いる壁のみを認識しているので、同
じような環境が複数存在する場合、その違いを認識する
ことができず把握違いが生じ、違う場所にいるにも係わ
らず前にいた同じ場所であると判断してしまい、学習が
進まなくなる問題が生じる。
【0008】本発明は、このような点に鑑みてなされた
ものであり、正解が判らない状態でロボットに正しい行
動を高速で行わせるように学習することができる学習シ
ステムを提供することを目的としている。
【0009】
【課題を解決するための手段】図1に本発明の学習シス
テムの原理図を示す。図1に示す学習システムは、ロボ
ットを実際に動かしてみて周囲環境を把握しながら動作
できるようにする強化学習を行うものである。
【0010】図中、3は行動決定手段であり、ロボット
の行動を制御する行動データAを、現在ロボットが置か
れている環境の状態を示す状態データSに応じて選択す
るものである。
【0011】4は履歴計算手段であり、1ステップ前に
ロボットに行動を行わせた行動データAを、ロボットの
過去の行動を示す履歴データHとして出力するものであ
る。5は状態計算手段であり、ロボットのセンサで得ら
れた環境の観測データDと履歴データHとを合わせて状
態データSを求めるものである。
【0012】
【発明の実施の形態】以下、図面を参照して本発明の実
施の形態について説明する。図2は本発明の第1実施形
態による学習システムのブロック構成図である。
【0013】図2において、1は強化学習を適用した学
習システムであり、例えば図示せぬ知能ロボットに搭載
されているものとする。2はロボットが移動する環境で
あり、例えばロボットが移動する迷路であるとする。
【0014】3は行動決定部であり、ロボットの行動を
制御する行動データAを、現在ロボットが置かれている
環境2の状態を示す状態データSに応じて選択するもの
である。
【0015】4は履歴計算部であり、1ステップ前にロ
ボットに行動を行わせた行動データAを、ロボットの過
去の行動を示す履歴データHとして出力するものであ
る。5は状態計算部であり、ロボットの図示せぬセンサ
で得られた環境2の観測データDと履歴データHを合わ
せて現在の状態データSを求めるものである。
【0016】このような構成において、例えばロボット
が環境2である迷路を真っ直ぐ進んできて右及び左に曲
がった双方の場合に袋小路に出たとし、その袋小路が同
じ形だったとする。
【0017】袋小路そのものは同じ形なので、観測デー
タDだけを用いて現在の状態を判断するのであれば、従
来例で説明したように、その違いを認識することができ
ず、違う場所であるにも係わらず同じ場所であると判断
してしまう。
【0018】しかし、この第1実施形態では、ロボット
の1ステップ前の行動を示す履歴データHが状態データ
Sに含まれているので、その履歴データHからロボット
が右に曲がったか左に曲がったかの過去の行動を認識す
ることができ、これによって、ロボットが現在いる場所
が右に曲がった先の袋小路であるか、左に曲がった先の
袋小路であるかを区別できる。
【0019】即ち、従来例に該当する観測データDを行
動決定部3に直接渡すのと比較すると、状態計算結果で
ある状態データSには、過去自分がどうしたか、過去に
どう見えたかといったことが入っているので状態を区別
しやすくなり、このことによってロボットの細かい行動
決定が可能となる。
【0020】また、上述した他に、履歴計算部4で過去
に逆上った幾つかの行動データAを畳み込んで1つの履
歴データHとして状態計算部5へ出力すれば、更に過去
の事まで反映した状態計算を行うことができる。
【0021】更には、履歴計算部4で行動データAを過
去に行くにしたがって減衰させ、現在に近い過去の方が
強く反映されるように加工した値を履歴データHとして
もよい。
【0022】これらは例えば履歴計算部4を、リカレン
トニューラルネットのような時系列を記憶できる手段に
すれば、過去の動作列から計算される値を履歴データH
として出力することができる。
【0023】次に、第2実施形態を図3を参照して説明
する。但し、図3に示す第2実施形態において、図2に
示した第1実施形態の各部に対応する部分には同一符号
を付し、その説明を省略する。
【0024】図3において、符号6で示す履歴計算部
は、観測データD(t) をディレー等で1ステップ遅ら
せ、この遅延した観測データD(t-1) を履歴データHと
して出力するものである。
【0025】符号7で示す状態計算部は、現在の観測デ
ータD(t) と履歴計算部6から出力される履歴データH
を合わせて現在の状態データSを求めるものである。こ
のような構成において、例えばロボットが環境2である
迷路を真っ直ぐ進んできて右及び左に曲がった双方の場
合に袋小路に出たとし、その袋小路が同じ形だったとす
る。
【0026】このような場合、第2実施形態では、1ス
テップ前の観測データD(t-1) と現在の観測データD
(t) とが状態データSに含まれているので、ロボットが
真っ直ぐ歩いていて左に曲がって袋小路にあった場合
は、見え方が左側に別れ道があることが見えており、そ
れから左に曲がって袋小路にあい、右側はその逆で、袋
小路にあった時点では観測結果は同じであるが、その前
の曲がる段階では異なることが判断できる。
【0027】これによって、ロボットが現在いる場所が
右に曲がった先の袋小路であるか、左に曲がった先の袋
小路であるかを区別でき、ロボットの細かい行動決定が
可能となる。
【0028】また、上述した他に、履歴計算部6で過去
に逆上った幾つかの観測データD(t) を畳み込んで1つ
の履歴データHとして状態計算部5へ出力すれば、更に
過去の事まで反映した状態計算を行うことができる。
【0029】更には、履歴計算部6で観測データD(t)
を過去に行くにしたがって減衰させ、現在に近い過去の
方が強く反映されるように加工した値を履歴データHと
してもよい。
【0030】これらは例えば履歴計算部4を、リカレン
トニューラルネットのような時系列を記憶できる手段に
すれば、過去の観測データ列から計算される値を履歴デ
ータHとして出力することができる。
【0031】
【発明の効果】以上説明したように、本発明の学習シス
テムによれば、正解が判らない状態でロボットに正しい
行動を高速で行わせるように学習することができる効果
がある。
【図面の簡単な説明】
【図1】本発明の原理図である。
【図2】本発明の第1実施形態による学習システムのブ
ロック構成図である。
【図3】本発明の第2実施形態による学習システムのブ
ロック構成図である。
【符号の説明】
1 学習システム 2 環境 3 行動決定手段 4 履歴計算手段 5 状態計算手段 A 行動データ D 観測データ H 履歴データ S 状態データ

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 ロボットを実際に動かし、周囲環境を把
    握しながら動作できるようにする強化学習を行う学習シ
    ステムにおいて、 ロボットの行動を制御する行動データを、現在ロボット
    が置かれている環境の状態を示す状態データに応じて選
    択する行動決定手段と、 1ステップ前にロボットに行動を行わせた該行動データ
    を、ロボットの過去の行動を示す履歴データとして出力
    する履歴計算手段と、 ロボットのセンサで得られた環境の観測データと該履歴
    データとを合わせて前記状態データを求める状態計算手
    段とを具備したことを特徴とする学習システム。
  2. 【請求項2】 前記履歴計算手段が、過去に逆上った幾
    つかの前記行動データを畳み込んで1つの値とし、この
    値を前記履歴データとすることを特徴とする請求項1記
    載の学習システム。
  3. 【請求項3】 前記履歴計算手段が、前記行動データを
    過去に行くにしたがって減衰させ、現在に近い過去の方
    が強く反映されるように加工した値を前記履歴データと
    することを特徴とする請求項1記載の学習システム。
  4. 【請求項4】 前記履歴計算手段が、前記観測データを
    1ステップ遅延させ、この遅延したデータを前記履歴デ
    ータとし、前記状態計算手段が、現在の該観測データと
    1ステップ遅延した観測データである履歴データを合わ
    せて現在の前記状態データを求めるようにしたことを特
    徴とする請求項1記載の学習システム。
  5. 【請求項5】 前記履歴計算手段が、過去に逆上った幾
    つかの前記観測データを畳み込んで1つの値とし、この
    値を前記履歴データとすることを特徴とする請求項4記
    載の学習システム。
  6. 【請求項6】 前記履歴計算手段が、前記観測データを
    過去に行くにしたがって減衰させ、現在に近い過去の方
    が強く反映されるように加工した値を前記履歴データと
    することを特徴とする請求項4記載の学習システム。
JP7232985A 1995-09-11 1995-09-11 学習システム Withdrawn JPH0981205A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7232985A JPH0981205A (ja) 1995-09-11 1995-09-11 学習システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7232985A JPH0981205A (ja) 1995-09-11 1995-09-11 学習システム

Publications (1)

Publication Number Publication Date
JPH0981205A true JPH0981205A (ja) 1997-03-28

Family

ID=16947995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7232985A Withdrawn JPH0981205A (ja) 1995-09-11 1995-09-11 学習システム

Country Status (1)

Country Link
JP (1) JPH0981205A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001072478A1 (fr) * 2000-03-31 2001-10-04 Sony Corporation Dispositif robotique, procede de commande de l'action du dispositif robotique, dispositif de detection de force exterieure, et procede de detection de force exterieure
WO2003035334A1 (en) * 2001-10-22 2003-05-01 Sony Corporation Robot apparatus and control method thereof
JP2006320997A (ja) * 2005-05-18 2006-11-30 Nippon Telegr & Teleph Corp <Ntt> ロボット行動選択装置及びロボット行動選択方法
US8175982B2 (en) 2005-09-02 2012-05-08 Nat'l University Corp. Yokohama Nat'l University Value function representation method of reinforcement learning and apparatus using this
KR20180090989A (ko) * 2015-11-12 2018-08-14 딥마인드 테크놀로지스 리미티드 비동기 심층 강화 학습
CN108732963A (zh) * 2017-04-13 2018-11-02 发那科株式会社 控制装置及机器学习装置
JP2019159413A (ja) * 2018-03-07 2019-09-19 株式会社豊田中央研究所 制御装置、移動体、自律分散制御プログラム
WO2021033315A1 (ja) 2019-08-22 2021-02-25 日本電気株式会社 ロボット制御システム、ロボット制御方法、及び、記録媒体

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001072478A1 (fr) * 2000-03-31 2001-10-04 Sony Corporation Dispositif robotique, procede de commande de l'action du dispositif robotique, dispositif de detection de force exterieure, et procede de detection de force exterieure
US6754560B2 (en) 2000-03-31 2004-06-22 Sony Corporation Robot device, robot device action control method, external force detecting device and external force detecting method
JP2011115944A (ja) * 2000-03-31 2011-06-16 Sony Corp ロボット装置、ロボット装置の行動制御方法及びプログラム
WO2003035334A1 (en) * 2001-10-22 2003-05-01 Sony Corporation Robot apparatus and control method thereof
US6850818B2 (en) 2001-10-22 2005-02-01 Sony Corporation Robot apparatus and control method thereof
CN1304177C (zh) * 2001-10-22 2007-03-14 索尼公司 机器人装置及其控制方法
KR100898435B1 (ko) * 2001-10-22 2009-05-21 소니 가부시끼 가이샤 로봇 장치 및 그 제어 방법
JP2006320997A (ja) * 2005-05-18 2006-11-30 Nippon Telegr & Teleph Corp <Ntt> ロボット行動選択装置及びロボット行動選択方法
US8175982B2 (en) 2005-09-02 2012-05-08 Nat'l University Corp. Yokohama Nat'l University Value function representation method of reinforcement learning and apparatus using this
KR20180090989A (ko) * 2015-11-12 2018-08-14 딥마인드 테크놀로지스 리미티드 비동기 심층 강화 학습
US10936946B2 (en) 2015-11-12 2021-03-02 Deepmind Technologies Limited Asynchronous deep reinforcement learning
US11334792B2 (en) 2015-11-12 2022-05-17 Deepmind Technologies Limited Asynchronous deep reinforcement learning
US11783182B2 (en) 2015-11-12 2023-10-10 Deepmind Technologies Limited Asynchronous deep reinforcement learning
US12020155B2 (en) 2015-11-12 2024-06-25 Deepmind Technologies Limited Reinforcement learning using baseline and policy neural networks
CN108732963A (zh) * 2017-04-13 2018-11-02 发那科株式会社 控制装置及机器学习装置
CN108732963B (zh) * 2017-04-13 2020-05-12 发那科株式会社 控制装置及机器学习装置
JP2019159413A (ja) * 2018-03-07 2019-09-19 株式会社豊田中央研究所 制御装置、移動体、自律分散制御プログラム
WO2021033315A1 (ja) 2019-08-22 2021-02-25 日本電気株式会社 ロボット制御システム、ロボット制御方法、及び、記録媒体
US12070864B2 (en) 2019-08-22 2024-08-27 Nec Corporation Robot control system, robot control method, and recording medium

Similar Documents

Publication Publication Date Title
CN114397817B (zh) 网络训练、机器人控制方法及装置、设备及存储介质
JP3907649B2 (ja) ロボット間の干渉防止制御装置
JP7448683B2 (ja) マルチタスク強化学習におけるメタ勾配を用いたアクション選択のための学習オプション
WO2023130755A1 (zh) 路径规划方法、电子设备、计算机程序产品及存储介质
US20250315642A1 (en) Method and apparatus for highly efficient exploring environment on metacognition
WO2023231961A1 (zh) 一种多智能体强化学习方法及相关装置
JP2019030941A (ja) 制御装置及び学習装置
US20220292349A1 (en) Device and computer-implemented method for the processing of digital sensor data and training method therefor
CN115716278B (zh) 基于主动感知与交互操作协同的机器人目标搜索方法及机器人仿真平台
JPH0981205A (ja) 学習システム
CN120543954B (zh) 基于视觉强化学习的模型训练方法、装置、设备及介质
CN109421072A (zh) 控制装置
CN118752492A (zh) 基于深度强化学习的多任务多机器人的运动控制方法
CN119604824B (zh) 用于多机器人环境的鲁棒运动规划和/或控制
KR102169879B1 (ko) 학습을 이용한 로봇의 충돌 감지 시스템 및 방법
JP4929449B2 (ja) 強化学習装置および強化学習方法
CN110334244B (zh) 一种数据处理的方法、装置及电子设备
Yang et al. Service robot active object detection based on spatial exploration using deep recurrent q-learning network
CN120038740A (zh) 任务管理方法及任务管理系统、机器人、计算机程序产品
Hernandez-Gardiol et al. Hierarchical memory-based reinforcement learning
CN117260701A (zh) 训练机器学习模型以实现控制规则的方法
CN115576205B (zh) 反馈控制方法、通用反馈控制器、训练方法、可读存储介质、计算机程序产品及系统
Gerard et al. Adding a generalization mechanism to YACS
JP2958978B2 (ja) 学習制御方法
JP2009245195A (ja) 自律移動ロボット及びその障害物識別方法

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20021203