JP6515899B2 - 音声対話装置及びその制御方法 - Google Patents

音声対話装置及びその制御方法 Download PDF

Info

Publication number
JP6515899B2
JP6515899B2 JP2016196556A JP2016196556A JP6515899B2 JP 6515899 B2 JP6515899 B2 JP 6515899B2 JP 2016196556 A JP2016196556 A JP 2016196556A JP 2016196556 A JP2016196556 A JP 2016196556A JP 6515899 B2 JP6515899 B2 JP 6515899B2
Authority
JP
Japan
Prior art keywords
dialogue
pupil
distance
size
robot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016196556A
Other languages
English (en)
Other versions
JP2018057554A (ja
Inventor
美奈 結城
美奈 結城
真太郎 吉澤
真太郎 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2016196556A priority Critical patent/JP6515899B2/ja
Priority to US15/677,140 priority patent/US10464215B2/en
Publication of JP2018057554A publication Critical patent/JP2018057554A/ja
Application granted granted Critical
Publication of JP6515899B2 publication Critical patent/JP6515899B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • B25J11/0005Manipulators having means for high-level communication with users, e.g. speech generator, face recognition means
    • B25J11/0015Face robots, animated artificial faces for imitating human expressions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • B25J11/0005Manipulators having means for high-level communication with users, e.g. speech generator, face recognition means
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/008Artificial life, i.e. computing arrangements simulating life based on physical entities controlled by simulated intelligence so as to replicate intelligent life forms, e.g. based on robots replicating pets or humans in their appearance or behaviour
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/011Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Robotics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Mechanical Engineering (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Toys (AREA)
  • User Interface Of Digital Computer (AREA)
  • Manipulator (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、対話ロボットに組み込まれる音声対話装置及びその制御方法に関する。
近年、対話ロボットに組み込まれ、対話相手と音声対話を行う音声対話装置が実用化されている。例えば、特許文献1には、対話相手の動きを対話ロボットの目で追従させる音声対話装置が開示されている。
特開2004−198656号公報
しかし、特許文献1に開示された音声対話装置は、対話相手との距離が変化した場合に、その変化に応じた動作を対話ロボットに行わせることがないため、対話相手に無機質な感覚を与えてしまうという問題があった。
本発明は、上記を鑑みなされたものであって、対話相手に与えてしまう無機質な感覚を低減することができる音声対話装置及びその制御方法を提供することを目的とする。
本発明の一態様に係る音声対話装置は、
対話ロボットに組み込まれる音声対話装置であって、
前記対話ロボットの目の位置に配置され、前記対話ロボットの目を表示する表示部と、
前記対話ロボットと対話相手との間の距離を測定する距離測定部と、
前記距離測定部により測定された距離が所定距離未満である場合に前記表示部に表示される前記対話ロボットの瞳孔の大きさを、前記測定された距離が前記所定距離以上である場合に前記表示部に表示される前記瞳孔の大きさよりも大きくする目制御部と、を備える。
本発明の一態様に係る音声対話装置の制御方法は、
対話ロボットに組み込まれる音声対話装置の制御方法であって、
前記対話ロボットと対話相手との間の距離を測定し、
前記測定された距離が所定距離未満である場合に表示部に表示される前記対話ロボットの瞳孔の大きさを、前記測定された距離が前記所定距離以上である場合に前記表示部に表示される前記瞳孔の大きさよりも大きくする。
上述した本発明の態様によれば、対話相手との間の距離が所定距離未満である場合に表示部に表示される対話ロボットの瞳孔の大きさを、対話相手との間の距離が所定距離以上である場合に表示部に表示される瞳孔の大きさよりも大きくする。従って、対話相手に与えてしまう無機質な感覚を低減することができるという効果が得られる。
実施の形態1に係る音声対話装置の構成例を示すブロック図である。 実施の形態1〜4に係る音声対話装置が組み込まれる対話ロボットの外観構成例を示す図である。 対話ロボットと対話相手との間の距離の測定方法の例を示す図である。 対話ロボットの瞳孔の大きさを距離に応じて変化させた例を示す図である。 対話ロボットの瞳孔の大きさの例を示す図である。 対話ロボットの瞳孔の大きさを三段階で表した例を示す図である。 実施の形態1に係る音声対話装置における対話ロボットの目の制御に関連する動作例を示すフローチャートである。 実施の形態2に係る音声対話装置の構成例を示すブロック図である。 実施の形態2に係る音声対話装置における対話ロボットの目の制御に関連する動作例を示すフローチャートである。 実施の形態3に係る音声対話装置の構成例を示すブロック図である。 時間帯に応じた対話ロボットの瞳孔の開き率の例を示す図である。 実施の形態3に係る音声対話装置における対話ロボットの目の制御に関連する動作例を示すフローチャートである。 実施の形態4に係る音声対話装置の構成例を示すブロック図である。 喜びの内部感情を強調する装飾画像の例を示す図である。 実施の形態4に係る音声対話装置における対話ロボットの目の制御に関連する動作例を示すフローチャートである。
以下、図面を参照して本発明の実施の形態について説明する。
(1)実施の形態1
(1−1)実施の形態1の構成
まず、本実施の形態1の構成について説明する。図1は、本実施の形態1に係る音声対話装置100の構成例を示すブロック図である。図2は、本実施の形態1に係る音声対話装置100が組み込まれる対話ロボット200の外観構成例を示す図である。図2に示される対話ロボット200は、動物型のロボットになっている。ただし、対話ロボット200の外観構成はこれに限定されない。
図1に示されるように、本実施の形態1に係る音声対話装置100は、マイク101と、カメラ102と、対話判定部103と、距離測定部104と、目制御部105と、表示パネル106と、音声認識部107と、発話制御部108と、スピーカ109と、を備えている。
マイク101は、対話相手の発話音声等の音声を集音する。
カメラ102は、対話相手及び対話相手周辺の画像を撮影する。本実施の形態1では、カメラ102は、対話ロボット200の鼻の位置に配置されている。ただし、カメラ102の配置位置はこれに限定されない。
対話判定部103は、マイク101により集音された集音音声及びカメラ102により撮影された撮影画像を基に、対話ロボット200が対話相手と対話中であるか否かを判定する。本実施の形態1では、対話判定部103は、集音音声の音量が閾値を超えており、かつ、撮影画像に対話相手が写っている場合に、対話相手と対話中であると判定するものとする。
距離測定部104は、対話判定部103により対話相手と対話中であると判定された場合に、カメラ102により撮影された撮影画像に写る対話相手の顔を基に、対話ロボット200と対話相手との間の距離を測定する。例えば、図3に示される例では、撮影画像の縦の画面長に対する、対話相手の顔の縦の長さの比率を基に、対話相手との間の距離を測定している。図3の上図は、対話相手との間の距離が遠い場合の例であり、上記の比率は30%となっている。一方、図3の下図は、対話相手との間の距離が短い場合の例であり、上記の比率は80%となっている。ただし、対話相手との間の距離の測定方法は、これに限らない。例えば、撮影画像に写る対話相手の顔の特徴点間の距離(例えば、頭の先と顎の先との間の距離等)を測定し、測定した特徴点間の距離を基に、対話相手との間の距離を測定しても良い。
表示パネル106は、対話ロボット200の目の位置に配置され、対話ロボット200の目を表示する。表示パネル106は、例えば、液晶パネルや、有機EL(Electro Luminescence)パネル等であり、表示部の一例である。
目制御部105は、距離測定部104により測定された対話相手との間の距離を基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定し、表示パネル106に表示される瞳孔を決定した大きさにする。概略的には、目制御部105は、図4に示されるように、対話相手との間の距離が短い場合は、瞳孔の大きさを大きくし、対話相手との間の距離が長い場合は、瞳孔の大きさを小さくする。具体的には、目制御部105は、対話相手との間の距離が所定距離未満である場合の瞳孔の大きさを、対話相手との間の距離が所定距離以上である場合の瞳孔の大きさよりも大きくする。所定距離は、任意な値(例えば、5m等)に設定可能である。
音声認識部107は、マイク101により集音された集音音声の音声認識を行う。
発話制御部108は、音声認識部107により対話相手の発話音声が音声認識された場合、対話相手の発話音声に対する応答文を生成する。例えば、発話制御部108は、対話相手の発話内容と、これに対する応答文と、を予め対応付けたデータベースを保持し、このデータベースを用いて、対話相手の発話内容に応じた応答文を生成することが考えられる。しかし、応答文の生成方法は、本発明の本質的なものではなく、周知な種々の方法を利用することができる。
スピーカ109は、発話制御部108により生成された応答文を音声出力する。
以下、本実施の形態1における対話ロボット200の瞳孔の大きさの決定方法について説明する。
図5に示されるように、瞳孔の横方向の幅を瞳孔の大きさLとする。Lは、以下の数式(1)で導出される。
L=A×Lmax・・・(1)
ここで、Aは瞳孔の開き率[%]、Lmaxは瞳孔の大きさの最大値である。
図6に、A=100%、50%、10%である場合のそれぞれの瞳孔の例を示す。A=100%である場合の瞳孔の大きさLが、最大値Lmaxとなる。
また、本実施の形態1では、瞳孔の大きさLは、対話相手との間の距離を基に決定される。そのため、Aは、以下の数式(2)で導出される。
A=d・・・(2)
ここで、dは、対話相手との間の距離に応じて決まる瞳孔の開き率[%]である。
は、複数段階に区分される。この段階数は任意な値に設定可能である。dを、対話相手との間の距離に応じて、d〜d10の10段階に区分した例を、以下の表1に示す。
Figure 0006515899
表1は、対話相手との間の距離と対比される所定距離が5mである場合の例である。表1の例では、対話相手との間の距離が5m以上では、dは、対話相手との間の距離が5m未満の場合よりも小さく、一律にd(=10)[%]になっている。一方、対話相手との間の距離が5m未満の範囲内では、対話相手との間の距離が長い場合に比べて、対話相手との間の距離が短い場合の方が、dが大きくなっている。
従って、表1の例を適用する場合、目制御部105は、対話相手との間の距離が5m未満の場合の瞳孔の大きさを、対話相手との間の距離が5m以上である場合の瞳孔の大きさよりも大きくすることになる。また、目制御部105は、対話相手との間の距離が5m未満の範囲内では、対話相手との間の距離が長い場合に比べて、対話相手との間の距離が短い場合の方が瞳孔の大きさを大きくすることになる。
(1−2)実施の形態1の動作
続いて、本実施の形態1の動作について説明する。図7は、本実施の形態1に係る音声対話装置100における対話ロボット200の目の制御に関連する動作例を示すフローチャートである。
図7に示されるように、まず、対話判定部103は、対話ロボット200が対話相手と対話中であるか否かを判定する(ステップS101)。ステップS101で対話中であると判定されなければ(ステップS101のNO)、処理を終了する。
一方、ステップS101で対話中であると判定されれば(ステップS101のYES)、距離測定部104は、対話ロボット200と対話相手との間の距離を測定する(ステップS102)。続いて、目制御部105は、距離測定部104により測定された対話相手との間の距離を基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定し、表示パネル106に表示される瞳孔を決定した大きさにする(ステップS103)。このとき、目制御部105は、例えば、表1の例を適用した瞳孔の開き率A及び数式(1)を利用して、瞳孔の大きさを決定することができる。続いて、ステップS104に進む。
ステップS104では、対話判定部103は、対話ロボット200が対話相手と対話中であるか否かを再度判定する。ステップS104で対話中であると判定されなければ(ステップS104のNO)、処理を終了する。一方、ステップS104で対話中であると判定されれば(ステップS104のYES)、ステップS102に戻り、ステップS102以降の処理を繰り返す。
(1−3)実施の形態1の効果
上述のように、本実施の形態1に係る音声対話装置100は、対話ロボット200と対話相手との間の距離を測定し、対話相手との間の距離が所定距離未満である場合に表示パネル106に表示される対話ロボット200の瞳孔の大きさを、対話相手との間の距離が所定距離以上である場合に表示パネル106に表示される対話ロボット200の瞳孔の大きさよりも大きくする。従って、対話相手が対話ロボット200に近づいてきて、対話相手との間の距離が所定距離未満になると、対話ロボット200の瞳孔の大きさが大きくなる。これにより、対話ロボット200は、動物らしい挙動を取ることができるようになるため、対話ロボット200が対話相手に与えてしまう無機質な感覚を低減することができる。また、対話相手に対し、対話ロボット200が対話相手の振る舞いを認識していることを示すことができる。そのため、対話相手は、対話ロボット200に対する親近感や愛着を持つことができるようになる。
また、本実施の形態1に係る音声対話装置100は、対話相手との間の距離が所定距離未満の範囲内では、対話相手との間の距離が長い場合に比べて、対話相手との間の距離が短い場合の方が、表示パネル106に表示される対話ロボット200の瞳孔の大きさを大きくする。従って、対話ロボット200は、対話相手との間の距離が所定距離未満で短い状態でも、距離に応じて瞳孔の大きさが変化することになる。そのため、対話ロボット200は、より動物に近い挙動を取ることができるようになる。
また、本実施の形態1に係る音声対話装置100は、対話相手と対話中であるか否かを判定し、対話中である場合にのみ、対話ロボット200の目(瞳孔の大きさ)の制御を行う。従って、対話中以外である場合は、目の制御をしないため、音声対話装置100がバッテリー駆動される場合には、バッテリー寿命の向上を図ることができる。
(2)実施の形態2
実際の動物(例えば、猫等)は、その動物が位置している場所の明るさに応じて瞳孔の大きさが変化する。
本実施の形態2は、表示パネル106に表示される対話ロボット200の瞳孔の大きさを、対話ロボット200が設置されている設置環境の明るさによっても変化させるものである。
(2−1)実施の形態2の構成
まず、本実施の形態2の構成について説明する。図8は、本実施の形態2に係る音声対話装置100Aの構成例を示すブロック図である。なお、本実施の形態2に係る音声対話装置100Aは、実施の形態1に係る音声対話装置100と同様に、例えば、図2に示される対話ロボット200に組み込まれるものとする。
図8に示されるように、本実施の形態2に係る音声対話装置100Aは、図1を参照して説明した実施の形態1に係る音声対話装置100の構成と比較して、明るさ取得部110を追加した点が異なっている。以下、実施の形態1と異なる構成要素及び動作が異なる構成要素について説明する。
明るさ取得部110は、対話判定部103により対話相手と対話中であると判定された場合に、対話ロボット200が設置されている設置環境の明るさを取得する。明るさ取得部110は、自身で明るさを計測しても良いし、その設置環境にある不図示の照度センサ等で計測された明るさを取得しても良い。
目制御部105は、距離測定部104により測定された対話ロボット200と対話相手との間の距離及び明るさ取得部110により取得された対話ロボット200の設置環境の明るさを基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定する。概略的には、目制御部105は、設置環境の明るさが暗い場合は、瞳孔の大きさを大きくし、設置環境の明るさが明るい場合は、瞳孔の大きさを小さくする。具体的には、目制御部105は、設置環境の明るさが所定の明るさ未満である場合の瞳孔の大きさを、設置環境の明るさが所定の明るさ以上である場合の瞳孔の大きさよりも大きくする。所定の明るさは、設定環境等に応じて、任意な値(例えば、100000ルクス等)に設定可能である。
以下、本実施の形態2における対話ロボット200の瞳孔の大きさの決定方法について説明する。
本実施の形態2では、瞳孔の大きさLは、実施の形態1と同様に、上述の数式(1)で導出される。
ただし、本実施の形態2では、瞳孔の大きさLは、対話相手との間の距離及び設置環境の明るさを基に決定される。そのため、Aは、以下の数式(3)で導出される。
A=d×c・・・(3)
ここで、cは、設置環境の明るさに応じて決まる瞳孔の開き率[%]である。
は、複数段階に区分される。この段階数は任意な値に設定可能である。cを、設置環境の明るさに応じて、c〜cの6段階に区分した例を、以下の表2に示す。
Figure 0006515899
表2は、設置環境の明るさと対比される所定の明るさが100000ルクスである場合の例である。表2の例では、設置環境の明るさが100000ルクス以上では、cは設置環境の明るさが100000ルクス未満の場合よりも小さく、一律にc(=75)[%]になっている。一方、設置環境の明るさが100000ルクス未満の範囲内では、設置環境の明るさが明るい場合に比べて、設置環境の明るさが暗い場合の方が、cが大きくなっている。
従って、表2の例を適用する場合、目制御部105は、設置環境の明るさが100000ルクス未満の場合の瞳孔の大きさを、設置環境の明るさが100000ルクス以上である場合の瞳孔の大きさよりも大きくすることになる。また、目制御部105は、設置環境の明るさが100000ルクス未満の範囲内では、設置環境の明るさが明るい場合に比べて、設置環境の明るさが暗い場合の方が瞳孔の大きさを大きくすることになる。
なお、dは、表1の例を適用することができる。表1及び表2の例を適用する場合、対話相手との間の距離に応じて決まる瞳孔の開き率dは、10〜100[%]であるのに対し、設置環境の明るさに応じて決まる瞳孔の開き率cは、75〜100[%]である。そのため、瞳孔の大きさは、設置環境の明るさよりも、対話相手との間の距離の方に大きく依存することになる。なお、d及びcの範囲は、表1及び表2の例に限らず、瞳孔の大きさが対話相手との間の距離の方に大きく依存していれば、任意に設定可能である。
(2−2)実施の形態2の動作
続いて、本実施の形態2の動作について説明する。図9は、本実施の形態2に係る音声対話装置100Aにおける対話ロボット200の目の制御に関連する動作例を示すフローチャートである。図9に示される処理は、図7を参照して説明した実施の形態1における処理と比較して、ステップS201を追加した点が異なっている。
図9に示されるように、まず、図7と同様のステップS101の処理を行う。ステップS101で対話中であると判定されなければ(ステップS101のNO)、処理を終了する。
一方、ステップS101で対話中であると判定されれば(ステップS101のYES)、図7と同様のステップS102の処理と並行して、明るさ取得部110は、対話ロボット200の設置環境の明るさを取得する(ステップS201)。続くステップS103では、目制御部105は、距離測定部104により測定された対話相手との間の距離及び明るさ取得部110により取得された設置環境の明るさを基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定し、表示パネル106に表示される瞳孔を決定した大きさにする。このとき、目制御部105は、例えば、表1及び表2の例を適用した瞳孔の開き率A及び数式(1)を利用して、瞳孔の大きさを決定することができる。
その後、図7と同様のステップS104の処理を行う。ステップS104で対話中であると判定されなければ(ステップS104のNO)、処理を終了する。一方、ステップS104で対話中であると判定されれば(ステップS104のYES)、ステップS102,S201に戻り、ステップS102,S201以降の処理を行う。
(2−3)実施の形態2の効果
上述のように、本実施の形態2に係る音声対話装置100Aは、対話ロボット200が設置されている設置環境の明るさを取得し、設置環境の明るさが所定の明るさ未満である場合に表示パネル106に表示される対話ロボット200の瞳孔の大きさを、設置環境の明るさが所定の明るさ以上である場合に表示パネル106に表示される対話ロボット200の瞳孔の大きさよりも大きくする。従って、対話ロボット200は、設置環境の明るさに応じて瞳孔の大きさが変化することになる。そのため、対話ロボット200は、より動物に近い挙動を取ることができるようになる。
その他の効果は、実施の形態1と同様である。
(3)実施の形態3
実施の形態2は、対話ロボット200の設置環境の明るさを取得し、取得した明るさに応じて、表示パネル106に表示される対話ロボット200の瞳孔の大きさを変化させていた。しかし、対話ロボット200の設置環境の明るさは、設置環境によっては、明るさを取得するまでもなく、時間帯に応じて決まる場合もあると考えられる。
本実施の形態3は、表示パネル106に表示される対話ロボット200の瞳孔の大きさを、時間帯によっても変化させるものである。
(3−1)実施の形態3の構成
まず、本実施の形態3の構成について説明する。図10は、本実施の形態3に係る音声対話装置100Bの構成例を示すブロック図である。なお、本実施の形態3に係る音声対話装置100Bは、実施の形態1に係る音声対話装置100と同様に、例えば、図2に示される対話ロボット200に組み込まれるものとする。
図10に示されるように、本実施の形態3に係る音声対話装置100Bは、図1を参照して説明した実施の形態1に係る音声対話装置100の構成と比較して、時間帯判定部111を追加した点が異なっている。以下、実施の形態1と異なる構成要素及び動作が異なる構成要素について説明する。
時間帯判定部111は、対話判定部103により対話相手と対話中であると判定された場合に、まず、現在の時刻を取得する。時間帯判定部111は、自身が時計機能を備えていても良いし、不図示の時計部から現在の時刻を取得しても良い。そして、時間帯判定部111は、現在の時刻が、予め定められた複数の時間帯のどれに属するか判定する。本実施の形態3では、複数の時間帯が、朝、昼、夜であるものとするが、複数の時間帯は、例えば、夕方を追加する、昼と夜のみにする等、任意に設定可能である。また、各時間帯に属する時刻は、対話相手の生活リズム等に応じて、任意に設定可能である。
目制御部105は、距離測定部104により測定された対話相手との間の距離及び時間帯判定部111により判定された時間帯を基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定する。ここで、目制御部105は、朝、昼、夜の時間帯の明るさのデータとして、朝は明るさが中、昼は明るさが大、夜は明るさが小、というデータを保持しているとする。目制御部105は、このデータを利用して、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定する。概略的には、目制御部105は、時間帯判定部111により判定された時間帯が明るい時間帯である場合に比べて、時間帯判定部111により判定された時間帯が暗い時間帯である場合の方が、瞳孔の大きさを大きくする。具体的には、目制御部105は、瞳孔の大きさを、夜の時間帯が最も大きく、朝の時間帯が次に大きく、昼の時間帯が最も小さくする。
以下、本実施の形態3における対話ロボット200の瞳孔の大きさの決定方法について説明する。
本実施の形態3では、瞳孔の大きさLは、実施の形態1と同様に、上述の数式(1)で導出される。
ただし、本実施の形態3では、瞳孔の大きさLは、対話相手との間の距離及び現在の時刻が属する時間帯を基に決定される。そのため、Aは、以下の数式(4)で導出される。
A=d×T・・・(4)
ここで、Tは、時間帯に応じて決まる瞳孔の開き率[%]である。
図11は、Tの例である。図11の例では、朝の時間帯は、5時〜10時であり、TはT(=80)[%]になっている。また、昼の時間帯は、10時〜15時であり、TはT(=70)[%]になっている。また、夜の時間帯は、15時〜5時であり、TはT(=90)[%]になっている。従って、図11の例を適用する場合、目制御部105は、瞳孔の大きさを、夜の場合は最も大きく、朝の場合は次に大きく、昼の場合は最も小さくすることになる。
なお、dは、表1の例を適用することができる。表1及び図11の例を適用する場合、対話相手との間の距離に応じて決まる瞳孔の開き率dは、10〜100[%]であるのに対し、時間帯に応じて決まる瞳孔の開き率Tは、70〜90[%]である。そのため、瞳孔の大きさは、時間帯よりも、対話相手との間の距離の方に大きく依存することになる。なお、d及びTの範囲は、表1及び図11の例に限らず、瞳孔の大きさが対話相手との間の距離の方に大きく依存していれば、任意に設定可能である。
(3−2)実施の形態3の動作
続いて、本実施の形態3の動作について説明する。図12は、本実施の形態3に係る音声対話装置100Bにおける対話ロボット200の目の制御に関連する動作例を示すフローチャートである。図12に示される処理は、図7を参照して説明した実施の形態1における処理と比較して、ステップS301を追加した点が異なっている。
図12に示されるように、まず、図7と同様のステップS101の処理を行う。ステップS101で対話中であると判定されなければ(ステップS101のNO)、処理を終了する。
一方、ステップS101で対話中であると判定されれば(ステップS101のYES)、図7と同様のステップS102の処理と並行して、時間帯判定部111は、現在の時刻が、朝、昼、夜の時間帯のどれに属するか判定する(ステップS301)。続くステップS103では、目制御部105は、距離測定部104により測定された対話相手との間の距離及び時間帯判定部111により判定された時間帯を基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定し、表示パネル106に表示される瞳孔を決定した大きさにする。このとき、目制御部105は、例えば、表1及び図11の例を適用した瞳孔の開き率A及び数式(1)を利用して、瞳孔の大きさを決定することができる。
その後、図7と同様のステップS104の処理を行う。ステップS104で対話中であると判定されなければ(ステップS104のNO)、処理を終了する。一方、ステップS104で対話中であると判定されれば(ステップS104のYES)、ステップS102,S301に戻り、ステップS102,S301以降の処理を行う。
(3−3)実施の形態3の効果
上述のように、本実施の形態3に係る音声対話装置100Bは、現在の時刻が、朝、昼、夜の時間帯のどれに属するか判定し、判定された時間帯が明るい時間帯である場合に比べて、判定された時間帯が暗い時間帯である場合の方が、表示パネル106に表示される対話ロボット200の瞳孔の大きさを大きくする。ここで、設置環境によっては、時間帯に応じて明るさが決まる場合がある。従って、対話ロボット200は、設置環境によっては、時間帯、すなわち設置環境の明るさに応じて、瞳孔の大きさが変化することになる。そのため、対話ロボット200は、より動物に近い挙動を取ることができるようになる。また、対話ロボット200は、時間帯に応じて瞳孔の大きさが変化するため、対話相手には、対話相手と共に生活する家族であるという感覚を与えることができる。
その他の効果は、実施の形態1と同様である。
(4)実施の形態4
本実施の形態4は、表示パネル106に表示される対話ロボット200の瞳孔の大きさを、対話ロボット200の内部感情によっても変化させるものである。
(4−1)実施の形態4の構成
まず、本実施の形態4の構成について説明する。図13は、本実施の形態4に係る音声対話装置100Cの構成例を示すブロック図である。なお、本実施の形態4に係る音声対話装置100Cは、実施の形態1に係る音声対話装置100と同様に、例えば、図2に示される対話ロボット200に組み込まれるものとする。
図13に示されるように、本実施の形態4に係る音声対話装置100Cは、図1を参照して説明した実施の形態1に係る音声対話装置100の構成と比較して、感情決定部112を追加した点が異なっている。以下、実施の形態1と異なる構成要素及び動作が異なる構成要素について説明する。
感情決定部112は、対話判定部103により対話相手と対話中であると判定された場合に、対話ロボット200の内部感情を決定する。感情決定部112は、発話制御部108により生成された応答文を基に対話ロボット200の内部感情を判定する機能を備えていても良いし、対話ロボット200の内部感情を判定する不図示の構成要素から内部感情を取得しても良い。内部感情は、例えば、応答文から、感情を直接表す語や、何らかの感情が対応づけられる行動、事象、出来事などの語を抽出し、抽出した語を基に判定することが考えられる。しかし、内部感情の判定方法は、本発明の本質的なものではなく、周知な種々の方法を利用することができる。本実施の形態4では、対話ロボット200の内部感情を、普通、喜び、怒りのいずれかに決定するものとするが、内部感情の分類は、任意に設定可能である。
目制御部105は、距離測定部104により測定された対話相手との間の距離及び感情決定部112により決定された対話ロボット200の内部感情を基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定する。なお、内部感情に応じて、瞳孔の大きさをどのように変化させるかは、任意に設定可能である。例えば、目制御部105は、感情決定部112により決定された内部感情が普通以外(喜び、怒り)である場合に比べて、感情決定部112により決定された内部感情が普通である場合の方が、瞳孔の大きさを大きくしても良いし、逆に、小さくしても良い。
また、目制御部105は、表示パネル106において、感情決定部112により決定された対話ロボット200の内部感情を強調する装飾画像を、対話ロボット200の目の周辺に表示しても良い。例えば、内部感情が喜びである場合には、図14に示されるように、喜びを強調する装飾画像として、目が輝いていることを示す画像Pを表示することができる。
以下、本実施の形態4における対話ロボット200の瞳孔の大きさの決定方法について説明する。
本実施の形態4では、瞳孔の大きさLは、実施の形態1と同様に、上述の数式(1)で導出される。
ただし、本実施の形態4では、瞳孔の大きさLは、対話相手との間の距離及び対話ロボット200の内部感情を基に決定される。そのため、Aは、以下の数式(5)で導出される。
A=d×e・・・(5)
ここで、eは、対話ロボット200の内部感情に応じて決まる瞳孔の開き率[%]である。eの例を、以下の表3に示す。
Figure 0006515899
従って、表3の例を適用する場合、目制御部105は、瞳孔の大きさを、内部感情が普通の場合は最も大きく、喜びの場合は次に大きく、怒りの場合は最も小さくすることになる。
なお、dは、表1の例を適用することができる。表1及び表3の例を適用する場合、対話相手との間の距離に応じて決まる瞳孔の開き率dは、10〜100[%]であるのに対し、内部感情に応じて決まる瞳孔の開き率eは、70〜100[%]である。そのため、瞳孔の大きさは、内部感情よりも、対話相手との間の距離の方に大きく依存することになる。なお、d及びeの範囲は、表1及び表3の例に限らず、瞳孔の大きさが対話相手との間の距離の方に大きく依存していれば、任意に設定可能である。
(4−2)実施の形態4の動作
続いて、本実施の形態4の動作について説明する。図15は、本実施の形態4に係る音声対話装置100Cにおける対話ロボット200の目の制御に関連する動作例を示すフローチャートである。図15に示される処理は、図7を参照して説明した実施の形態1における処理と比較して、ステップS401を追加した点が異なっている。
図15に示されるように、まず、図7と同様のステップS101の処理を行う。ステップS101で対話中であると判定されなければ(ステップS101のNO)、処理を終了する。
一方、ステップS101で対話中であると判定されれば(ステップS101のYES)、図7と同様のステップS102の処理と並行して、感情決定部112は、対話ロボット200の内部感情を決定する(ステップS401)。なお、音声対話を開始した直後に、発話制御部108が未だ応答文を生成していない等で、内部感情が決定できない場合には、内部感情を普通とすれば良い。続くステップS103では、目制御部105は、距離測定部104により測定された対話相手との間の距離及び感情決定部112により決定された内部感情を基に、表示パネル106に表示される対話ロボット200の瞳孔の大きさを決定し、表示パネル106に表示される瞳孔を決定した大きさにする。このとき、目制御部105は、例えば、表1及び表3の例を適用した瞳孔の開き率A及び数式(1)を利用して、瞳孔の大きさを決定することができる。
その後、図7と同様のステップS104の処理を行う。ステップS104で対話中であると判定されなければ(ステップS104のNO)、処理を終了する。一方、ステップS104で対話中であると判定されれば(ステップS104のYES)、ステップS102,S401に戻り、ステップS102,S401以降の処理を行う。
(4−3)実施の形態4の効果
上述のように、本実施の形態4に係る音声対話装置100Cは、対話ロボット200の内部感情を決定し、決定された内部感情に応じて、表示パネル106に表示される対話ロボット200の瞳孔の大きさを変化させる。従って、対話ロボット200は、対話相手の発話内容に応じて瞳孔の大きさが変化することになる。そのため、対話ロボット200が対話相手の発話内容を認識していることを、対話相手に示すことができる。そのため、対話相手は、より対話ロボット200に対する親近感や愛着を持つことができるようになる。
その他の効果は、実施の形態1と同様である。
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上記実施の形態は、独立なものとして説明したが、これには限定されず、適宜組み合わせても良い。具体的には、実施の形態2,4を組み合わせても良いし、実施の形態3,4を組み合わせても良い。
また、音声対話装置は、マイクにより集音された集音音声の音量が閾値を超えており、かつ、カメラにより撮影された撮影画像に対話相手が写っている場合に、対話相手と対話中であると判定し、目の制御は、対話中である場合にのみ、行うこととしたが、これには限定されない。対話相手の発話音声に対する応答文の生成及び音声出力も、対話中である場合にのみ、行うこととしても良い。
また、音声対話装置は、対話中である場合にのみ、目の制御を行うこととしたが、対話中であると判定されない場合にも、目の制御を行っても良い。例えば、対話相手は写っているが、音量が閾値を超えていない場合は、対話相手の発話を興味を持って待っていることを示すため、瞳孔の大きさを大きくしたり、図14に示されるような装飾画像Pを表示したりしても良い。また、対話相手が写っておらず、音量も閾値を超えていない場合は、目を眠そうにしたり、目を閉じたりしても良い。また、対話相手は写っていないが、音量が閾値を超えている場合は、警戒していることを示すため、瞳孔の大きさを小さくしたり、目を上下や左右に動かしたりしても良い。
また、音声対話装置が備えるマイク、カメラ、表示パネル、及びスピーカ以外の各構成要素は、例えば、コンピュータが備える不図示のプロセッサ及び不図示のメモリによって実現することができる。具体的には、プロセッサが、メモリからソフトウェア(プログラム)を読み出して実行することで、各構成要素を実現することができる。また、各構成要素は、プログラムによるソフトウェアで実現することに限定されることなく、ハードウェア、ファームウェア及びソフトウェアのうちのいずれかの組み合わせなどにより実現しても良い
上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。
また、上述したプログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されても良い。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバなどの有線通信路、または無線通信路を介して、プログラムをコンピュータに供給できる。
100,100A,100B,100C 音声対話装置
200 対話ロボット
101 マイク
102 カメラ
103 対話判定部
104 距離測定部
105 目制御部
106 表示パネル
107 音声認識部
108 発話制御部
109 スピーカ
110 明るさ取得部
111 時間帯判定部
112 感情決定部

Claims (7)

  1. 対話ロボットに組み込まれる音声対話装置であって、
    前記対話ロボットの目の位置に配置され、前記対話ロボットの目を表示する表示部と、
    前記対話ロボットと対話相手との間の距離を測定する距離測定部と、
    前記距離測定部により測定された距離が所定距離未満である場合に前記表示部に表示される前記対話ロボットの瞳孔の大きさを、前記測定された距離が前記所定距離以上である場合に前記表示部に表示される前記瞳孔の大きさよりも大きくする目制御部と、を備える、音声対話装置。
  2. 前記目制御部は、
    前記測定された距離が前記所定距離未満の範囲内では、前記測定された距離が長い場合に比べて、前記測定された距離が短い場合の方が、前記表示部に表示される前記瞳孔の大きさを大きくする、請求項1に記載の音声対話装置。
  3. 前記対話ロボットが設置されている設置環境の明るさを取得する明るさ取得部をさらに備え、
    前記目制御部は、
    前記明るさ取得部により取得された設置環境の明るさが所定の明るさ未満である場合に前記表示部に表示される前記瞳孔の大きさを、前記取得された設置環境の明るさが前記所定の明るさ以上である場合に前記表示部に表示される前記瞳孔の大きさよりも大きくする、請求項1又は2に記載の音声対話装置。
  4. 現在の時刻が、予め設定された複数の時間帯のどれに属するか判定する時間帯判定部をさらに備え、
    前記目制御部は、
    前記複数の時間帯の各々の明るさのデータを保持しており、
    前記時間帯判定部により判定された時間帯が明るい時間帯である場合に比べて、前記判定された時間帯が暗い時間帯である場合の方が、前記表示部に表示される前記瞳孔の大きさを大きくする、請求項1又は2に記載の音声対話装置。
  5. 前記対話ロボットの内部感情を決定する感情決定部をさらに備え、
    前記目制御部は、
    前記感情決定部により決定された内部感情に応じて、前記表示部に表示される前記瞳孔の大きさを変化させる、請求項1から4のいずれか1項に記載の音声対話装置。
  6. 前記目制御部は、
    前記感情決定部により決定された内部感情を強調する装飾画像を前記表示部に表示するよう制御する、請求項5に記載の音声対話装置。
  7. 対話ロボットに組み込まれる音声対話装置の制御方法であって、
    前記対話ロボットと対話相手との間の距離を測定し、
    前記測定された距離が所定距離未満である場合に表示部に表示される前記対話ロボットの瞳孔の大きさを、前記測定された距離が前記所定距離以上である場合に前記表示部に表示される前記瞳孔の大きさよりも大きくする、制御方法。
JP2016196556A 2016-10-04 2016-10-04 音声対話装置及びその制御方法 Active JP6515899B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016196556A JP6515899B2 (ja) 2016-10-04 2016-10-04 音声対話装置及びその制御方法
US15/677,140 US10464215B2 (en) 2016-10-04 2017-08-15 Voice interaction device and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016196556A JP6515899B2 (ja) 2016-10-04 2016-10-04 音声対話装置及びその制御方法

Publications (2)

Publication Number Publication Date
JP2018057554A JP2018057554A (ja) 2018-04-12
JP6515899B2 true JP6515899B2 (ja) 2019-05-22

Family

ID=61756926

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016196556A Active JP6515899B2 (ja) 2016-10-04 2016-10-04 音声対話装置及びその制御方法

Country Status (2)

Country Link
US (1) US10464215B2 (ja)
JP (1) JP6515899B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110216687A (zh) * 2019-04-29 2019-09-10 金华市盘古信息技术有限公司 一种机器人自动聊天方法、装置、设备及存储介质

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020195292A1 (ja) * 2019-03-26 2020-10-01
GB2632451A (en) * 2023-08-09 2025-02-12 Sony Interactive Entertainment Inc Apparatus, systems and methods for eye tracking calibration

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11179061A (ja) * 1997-12-01 1999-07-06 Chin Kyo Lcdの目を持つぬいぐるみ人形
JP2002136672A (ja) * 2000-11-01 2002-05-14 Heiwa Corp 遊技機の装飾部品の取付方法および取付装置
JP2003251580A (ja) * 2002-02-28 2003-09-09 Matsushita Electric Ind Co Ltd 人工目およびそれを用いたロボット
JP2003281923A (ja) * 2002-03-27 2003-10-03 Toto Ltd 照明器具及び照明方法
JP3632099B2 (ja) 2002-12-17 2005-03-23 独立行政法人科学技術振興機構 ロボット視聴覚システム
US20090030552A1 (en) 2002-12-17 2009-01-29 Japan Science And Technology Agency Robotics visual and auditory system
ATE522330T1 (de) 2005-09-30 2011-09-15 Irobot Corp Robotersystem mit kabelloser kommunikation mittels tcp/ip übertragung
JP2008067777A (ja) * 2006-09-12 2008-03-27 Good House:Kk 玩具装置
US7485025B2 (en) * 2006-12-08 2009-02-03 Disney Enterprises, Inc. Expressive eyes with dilating and constricting pupils
JP2009207730A (ja) * 2008-03-05 2009-09-17 Sega Toys:Kk 表示玩具
JP2010176170A (ja) * 2009-01-27 2010-08-12 Sony Ericsson Mobilecommunications Japan Inc 表示装置、表示制御方法および表示制御プログラム
JP2013003221A (ja) * 2011-06-14 2013-01-07 Tomy Co Ltd 楽音出力装置
US9358475B2 (en) * 2013-12-12 2016-06-07 Beatbots, LLC Robot
US10129510B2 (en) * 2016-02-18 2018-11-13 Samsung Electronics Co., Ltd. Initiating human-machine interaction based on visual attention
CN109153127B (zh) * 2016-03-28 2022-05-31 Groove X 株式会社 执行迎接行为的行为自主型机器人
WO2017175559A1 (ja) * 2016-04-08 2017-10-12 Groove X株式会社 人見知りする自律行動型ロボット
WO2017195700A1 (ja) * 2016-05-12 2017-11-16 Groove X株式会社 緊急停止機能を有する自律行動型ロボット
WO2017199662A1 (ja) * 2016-05-20 2017-11-23 Groove X株式会社 自律行動型ロボット及びコンピュータプログラム
JP6572943B2 (ja) * 2017-06-23 2019-09-11 カシオ計算機株式会社 ロボット、ロボットの制御方法及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110216687A (zh) * 2019-04-29 2019-09-10 金华市盘古信息技术有限公司 一种机器人自动聊天方法、装置、设备及存储介质

Also Published As

Publication number Publication date
JP2018057554A (ja) 2018-04-12
US10464215B2 (en) 2019-11-05
US20180093381A1 (en) 2018-04-05

Similar Documents

Publication Publication Date Title
US11217240B2 (en) Context-aware control for smart devices
US10433052B2 (en) System and method for identifying speech prosody
US10664741B2 (en) Selecting a behavior of a virtual agent
JP7424285B2 (ja) 情報処理システム、情報処理方法、および記録媒体
US20200073122A1 (en) Display System
CA2421746C (en) Emotion detecting method and system
EP3923198A1 (en) Method and apparatus for processing emotion information
JP6731631B2 (ja) 認知機能評価装置、プログラム
US20180182375A1 (en) Method, system, and apparatus for voice and video digital travel companion
KR20210132059A (ko) 발성 프레젠테이션 평가 시스템
JP6544333B2 (ja) コミュニケーション装置
JP2012146216A (ja) 電子機器および電子機器の制御プログラム
JP2022539355A (ja) 適応ダイアライゼーションモデルおよびユーザインタフェース
US11682389B2 (en) Voice conversation system, control system for voice conversation system, and control program, and control method
JP6515899B2 (ja) 音声対話装置及びその制御方法
KR20170049799A (ko) 사용자의 상태에 따라 디스플레이 색상이 변하는 스마트 워치
JP2012146209A (ja) 電子機器および電子機器の制御プログラム
WO2017168260A1 (ja) 情報処理装置、プログラム及び情報処理システム
KR102051217B1 (ko) 생체 모방 기반 동물형 로봇의 감정표현 제어 장치 및 방법
CN112948622A (zh) 一种展示内容的控制方法及装置
KR102228066B1 (ko) 인지 장애인 돌봄 서비스 방법 및 시스템
US20210216589A1 (en) Information processing apparatus, information processing method, program, and dialog system
JP2024006873A (ja) プログラム、方法、情報処理装置
JP6891732B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP2012146208A (ja) 電子機器および電子機器の制御プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190401

R151 Written notification of patent or utility model registration

Ref document number: 6515899

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151