JP7646544B2 - 操作者状態判断システム - Google Patents

操作者状態判断システム Download PDF

Info

Publication number
JP7646544B2
JP7646544B2 JP2021524721A JP2021524721A JP7646544B2 JP 7646544 B2 JP7646544 B2 JP 7646544B2 JP 2021524721 A JP2021524721 A JP 2021524721A JP 2021524721 A JP2021524721 A JP 2021524721A JP 7646544 B2 JP7646544 B2 JP 7646544B2
Authority
JP
Japan
Prior art keywords
information
operator
state
handwriting
driver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021524721A
Other languages
English (en)
Other versions
JPWO2020246198A5 (ja
JPWO2020246198A1 (ja
Inventor
秀樹 藤巻
司 能美
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wacom Co Ltd
Original Assignee
Wacom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wacom Co Ltd filed Critical Wacom Co Ltd
Publication of JPWO2020246198A1 publication Critical patent/JPWO2020246198A1/ja
Publication of JPWO2020246198A5 publication Critical patent/JPWO2020246198A5/ja
Application granted granted Critical
Publication of JP7646544B2 publication Critical patent/JP7646544B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of two-dimensional [2D] relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/011Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Dermatology (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • Educational Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Hospice & Palliative Care (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Developmental Disabilities (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • User Interface Of Digital Computer (AREA)

Description

この発明は、操作対象装置(例えば自動車)を操作(例えば運転)する操作者(例えば運転者)が、操作をするのに不適切な状態になっているかどうかを判断する操作者状態判断システムに関する。
例えば、自動車の運転中に交通事故を起こすと、最悪の場合には人命に関わる事態を引き起こすので、自動車の運転は安全が第1である。自動車の運転が長時間にわたると、運転者に肉体的、精神的な疲労が蓄積し、運転操作における反応速度が低下して、事故発生確率が高くなる恐れがある。また、自動車を運転中の運転者の急な体調(体の調子)の変化によっても、事故発生確率が高くなる恐れがある。
そこで、業務として乗客を乗せて走る例えばバスやタクシー、あるいは依頼された荷物を搬送するトラックなどのように、自動車を業務用として利用する企業では、運転者の健康状態や体調に気を配って、安全運転が維持できるようにする努力している。
例えば運転者に生体センサを装着してもらい、管理センターで、この生体センサからの運転者の生体情報、例えば心拍、体温、発汗などを収集して監視し、これにより運転者の体調の変化を認識することで、事故を未然に防ぐようにすることが提案されている(例えば特許文献1(特開2017-217333号公報)等参照)。
特開2017-217333号公報
しかしながら、交通事故の人為的な発生原因としては、運転者の体調だけでなく、運転者の心的状態(精神作用状態)としての気分や感情も影響することは良く知られている。例えば運転者がイライラしている、怒っている、などの心的状態(感情状態)のときには、交通事故を生じ易い傾向にあるとされている。そして、実際上は、運転者の体調の変化に起因する交通事故よりも、運転者の心的状態に基づく交通事故が起きやすいことも報告されている。
運転者の感情状態は、生体情報として現れる場合もあるが、当該生体情報からその心的状態(感情状態)を把握することは、非常に困難である。そのため、従来のような運転者などの操作者の生体情報のみを監視するだけでは、心的状態を把握できないので、交通事故などの不測の事態を効果的に回避することが困難であるという問題がある。
この発明は、以上の問題点を解決することができるようにした操作者状態判断システムを提供することを目的とする。
上記の課題を解決するために、
操作対象装置を操作する操作者が、前記操作をするのに不適切な状態になっているかどうかを判断するための情報を収集する情報収集装置と、前記操作者が、前記操作をするのに不適切な状態になっているかどうかを判断する判断装置とを備える操作者状態判断システムであって、
前記情報収集装置は、
前記操作者に装着されて前記操作者の生体情報を取得する生体情報取得手段と、
前記操作者による筆記入力を受け付けて、筆記入力に対応する筆記軌跡情報を取得する筆記軌跡情報取得手段と、
前記生体情報取得手段で取得した前記生体情報と、前記筆記軌跡情報取得手段で取得した前記筆記軌跡情報とを前記判断装置に送信する送信手段と、
を備え、
前記判断装置は、
前記情報収集装置から送信されてくる前記生体情報と前記筆記軌跡情報とを受信する受信手段と、
前記受信手段で受信した前記生体情報に基づいて前記操作者の体調について判断する第1の判断手段と、
前記受信手段で受信した前記筆記軌跡情報に基づいて前記操作者の心的状態について判断する第2の判断手段と、
前記第1の判断手段の判断結果及び前記第2の判断手段の判断結果に基づいて、前記操作者が、前記操作をするのに不適切な状態になっているかどうかを判断する状態判断手段と、
る状態判断手段と、
を備えることを特徴とする操作者状態判断システムを提供する。
上述の構成の操作者状態判断システムにおいては、操作者による筆記入力を受け付けて、筆記入力に対応する筆記軌跡情報を取得する筆記軌跡情報取得手段を備えている。人は、筆記入力をする際には、その時の心的状態(感情状態)に応じた筆記軌跡を描くことが知られている。例えば、イライラしていたり、怒っていたりしているときには、その心的状態(感情状態)が筆記軌跡に現れる。したがって、操作者の筆記軌跡情報から、操作者の心的状態(感情状態)を把握することができる。
つまり、判断装置は、生体情報から操作者の体調の変化を把握することができると共に、筆記軌跡情報から、操作者の心的状態(感情状態)を把握することができるので、両者の把握結果から、操作者、例えば運転者が、操作対象装置、例えば自動車を操作、例えば運転するのに不適切な状態になっているかどうかを判断することができる。
よって、この判断装置の判断結果を用いて、操作者にアラームを発したり、操作対象装置の操作をできないように、当該操作対象装置を停止制御したりすることができる。
この発明による操作者状態判断システムの第1の実施形態の構成例の概要を説明するための図である。 第1の実施形態の操作者状態判断システムを構成するタブレット端末及び電子ペンの構成例を説明するための図である。 第1の実施形態の操作者状態判断システムを構成するタブレット端末の構成例を説明するための分解斜視図である。 第1の実施形態の操作者状態判断システムを構成するタブレット端末及び電子ペンの構成例の電気的構成例を示す図である。 第1の実施形態の操作者状態判断システムを構成する管理サーバ装置の構成例を示す図である。 図5の例の管理サーバ装置の構成例の説明に用いる図である。 図5の例の管理サーバ装置の構成例の説明に用いる図である。 第1の実施形態の操作者状態判断システムを構成する感情サーバ装置の構成例を示す図である。 図8の例の感情サーバ装置の構成例の説明に用いる図である。 図8の例の感情サーバ装置の構成例の説明に用いる図である。 第1の実施形態の操作者状態判断システムを構成するタブレット端末の構成例の処理動作例を説明するためのフローチャートの一部を示す図である。 第1の実施形態の操作者状態判断システムを構成するタブレット端末の構成例の処理動作例を説明するためのフローチャートの一部を示す図である。 図5の例の管理サーバ装置の構成例の処理動作例を説明するためのフローチャートの一部を示す図である。 図5の例の管理サーバ装置の構成例の処理動作例を説明するためのフローチャートの一部を示す図である。 この発明による操作者状態判断システムの第2の実施形態の構成例の概要を説明するための図である。 第2の実施形態の操作者状態判断システムを構成する自動車用装置の構成例を示す図である。 図16の例の自動車用装置の構成例の処理動作例を説明するためのフローチャートを示す図である。
以下、この発明による操作者状態判断システムの実施形態を、図を参照しながら説明する。
[第1の実施形態]
<第1の実施形態の操作者状態判断システムの概要>
図1は、この発明による操作者状態判断システムの第1の実施形態の概要を説明するための図である。以下に説明する第1の実施形態の操作者状態判断システムは、操作対象装置がタクシーとして用いられる自動車の場合であって、タクシー会社が、操作者の例としてのタクシー運転手(以下運転者という)の状態を管理するために用いる場合の例である。
図1に示すように、この第1の実施形態の操作者状態判断システムは、タクシーとして用いられるn(n=1,2,・・・)台の自動車11~1nのそれぞれを操作する操作者としてのn人の運転者21~2nのそれぞれに対して設けられるn個の情報収集装置31~3nのそれぞれと、タクシー会社が運営するサーバ装置からなる判断装置4とが、通信ネットワーク5を通じて、無線通信により接続されるように構成されている。この例では、自動車11~1nのそれぞれも、判断装置4と通信ネットワーク5を通じて無線通信により接続され、判断装置4からの制御を受けることができるように構成されている。
この第1の実施形態の操作者状態判断システムでは、運転者21~2nのそれぞれの心拍や体温などの生体情報を、当該運転者21~2nのそれぞれに装着した生体情報の取得手段から収集すると共に、運転者21~2nのそれぞれは、運行日誌を作成することを利用して、その運行日誌の筆記軌跡情報を電子データとして収集し、それら収集した生体情報と、筆記軌跡情報とに基づいて、運転者21~2nのそれぞれの体調及び感情に関する状態を判断して管理するようにする。
この実施形態では、運転者21~2nのそれぞれは、乗客にタクシーサービスを提供する毎に、運行日誌に、そのサービス内容を筆記入力して記録し、その記録した運行日誌の筆記軌跡情報を、運転者の生体情報と共に、タクシー会社が運営するサーバ装置からなる判断装置4に送信するようにする。
情報収集装置31~3nは、この例では、運転者21、・・・、2nのそれぞれに割り当てられるタブレット端末101~10nのそれぞれと、電子ペン201、・・・、20nのそれぞれと、スマートウォッチ301~30nのそれぞれとから構成されている。タブレット端末101~10nは、同様の構成を有するものであり、また、電子ペン201、・・・、20nも、同様の構成を有するものであり、スマートウォッチ301~30nも同様の構成を有するものである。タブレット端末101~10nのそれぞれと、電子ペン201、・・・、20nのそれぞれとのペアは、筆記軌跡情報取得手段のそれぞれの例を構成する機能手段を備える。また、スマートウォッチ301~30nのそれぞれは、生体情報取得手段の例を構成する機能手段を備える。
なお、以下の説明において、n(n=1,2,・・・)台の自動車11~1nのそれぞれ、n人の運転者21~2nのそれぞれ、n個の情報収集装置31~3nのそれぞれ、を区別する必要がないときには、説明の便宜上、それぞれ、自動車1、運転者2、情報収集装置3と記すこととする。また、n個のタブレット端末101~10n、n本の電子ペン201、・・・、20n、また、n個のスマートウォッチ301~30nは、それぞれ同様の構成を有するので、それぞれを区別する必要がないときには、説明の便宜上、それぞれ、タブレット端末10、電子ペン20、スマートウォッチ30と記すこととする。
スマートウォッチ30は、運転者2の腕に、腕時計のように装着されて、運転者2の、この例では、心拍、体温、発汗、血圧などの生体情報を検出する機能を備えている。検出された生体情報には、検出時刻の情報が含まれている。そして、スマートウォッチ30は、この例では、検出した生体情報をタブレット端末10に伝達するために、例えばブルートゥース(登録商標)規格の近距離無線通信部を備えている。
タブレット端末10は、この例では、スマートウォッチ30と通信するための、ブルートゥース(登録商標)規格の無線通信部が設けられており、スマートウォッチ30からの運転者2のそれぞれの生体情報を受信して取得するようにする。
そして、タブレット端末10は、この例では、電磁誘導結合により電子ペン20とインタラクションを行うことで、電子ペン20による指示位置を検出する位置検出装置部100(後述の図2、図3参照)を備える。
この例では、タクシーの運転者2は、電子ペン20を用いて、タブレット端末10に対して筆記入力をすることで運行日誌を作成する。タブレット端末10は、電子ペン20による筆記入力を検出して、電子データとしての運行日誌の筆記軌跡情報を生成して取得する。
さらに、タブレット端末10は、この例では、通信ネットワーク5を通じて判断装置4と無線通信する無線通信部を備える。そして、タブレット端末10は、取得した運行日誌の筆記軌跡情報と、スマートウォッチ30から取得した運転者2の生体情報とを、後述するように、運転者2を識別する識別情報を付加して、通信ネットワーク5を通じて判断装置4に送信する。
判断装置4は、図1に示すように、この実施形態では、管理サーバ装置40と、感情サーバ装置50とからなる。管理サーバ装置40は、タブレット端末10のそれぞれからの運行日誌の筆記軌跡情報と、運転者2のそれぞれの生体情報とを受信する。
管理サーバ装置40は、後述するように、生体情報データベースを備えており、受信した運転者2のそれぞれの生体情報を、生体情報データベースの格納データを用いて解析することで、運転者2のそれぞれの体調をチェックし、自動車1の運転を行うことに関し、運転者2のそれぞれの体調が、不適切な状態になっているかどうかを判断する。そして、管理サーバ装置40は、自動車1の運転を行うことに関し、体調が不適切な状態になっていると判断した運転者2のそれぞれに対しては、アラームを送信して、自動車1のそれぞれの運転を休止、あるいは停止させるように促す。
また、管理サーバ装置40は、このアラーム送信と共に、運転を行うことが不適切な体調状態になっている運転者2の運転の対象となっている自動車1に対して、強制的に走行を一時停止、あるいは中止させるように遠隔制御する制御情報を送るようにする。例えば、管理サーバ装置40は、所定時間の運転者の休息で運転者の体調が戻る場合には一時停止させる(当日の再運転可)、休息しても体調が戻らないと判断したときには中止(当日の再運転不可)させる、などのように制御することもできる。
また、管理サーバ装置40は、受信した運行日誌の筆記軌跡情報を蓄積すると共に、この運行日誌に含まれる特定パターンの筆記軌跡情報を抽出して、運行日誌を作成した運転者2の気分や感情の心的変化を検出し、その心的変化に基づいて、運転者2が運転を行うことが不適切な心的状態になっているかどうかを判断する。この実施形態では、運行日誌には、運転者2が自身の氏名を自筆で署名をするように定められており、その署名が、運転者2の心的変化を把握するための特定パターンとして用いられる。
このため、この実施形態では、管理サーバ装置40には、運転者2のそれぞれが、リラックス状態あるいは集中状態など、自動車の運転に適切である心的状態のときに、自身の氏名を電子ペンを用いて自署したときにタブレット端末で検出されて取得された筆記軌跡情報が、比較参照用情報(正常時情報)として登録されていて、それが特定パターン筆記軌跡情報データベースとして格納されている。
なお、特定パターンの例としては、この実施形態のような運転者の氏名の署名に限られるものではなく、予め定められた筆記パターンであれば、どのような筆記パターンであってもよい。また、運行日誌の筆記軌跡情報の全部を、特定パターンとするようにしても、勿論よい。
管理サーバ装置40は、受信した運転者2の運行日誌の筆記軌跡情報中の特定パターンである署名の筆記軌跡情報を、特定パターン筆記軌跡情報データベースの格納データを用いて解析することで、運転者2の心的状態が、自動車の運転に適切である心的状態から、不適切な心的状態に変化していないかどうかをチェックする。
この場合に、この実施形態では、管理サーバ装置40は、感情サーバ装置50と連携することで、運転者2の心的状態に変化が生じているかどうかだけでなく、その変化している心的状態がどのような感情状態であるかの把握ができるように工夫している。すなわち、後述するように、感情サーバ装置50は、リラックス、集中状態、イライラ状態、怒り状態などの感情状態と、それぞれの感情状態のときの筆記軌跡情報とを対応付けて格納する感情推定用データベースを備える。
この実施形態では、管理サーバ装置40は、特定パターンである署名の筆記軌跡情報を含めた感情状態推定要求を感情サーバ装置50に送る。感情サーバ装置50は、この感情状態推定要求を受け取ると、それに含まれる署名の筆記軌跡情報と、感情推定用データベースの情報とを用いて、受け取った署名の筆記軌跡情報のときの感情状態の推定結果を管理サーバ装置40に返信する。なお、管理サーバ装置40から、特定パターンである署名の筆記軌跡情報のみを感情サーバ装置50に送るのではなく、運行日誌の筆記軌跡情報の情報を送るようにして、感情サーバ装置50で感情状態の推定を行うように構成しても勿論よい。
管理サーバ装置40は、特定パターンである署名の筆記軌跡情報と、特定パターン筆記軌跡情報データベースの格納データとを用いた解析結果と、感情サーバ装置50から取得した推定された感情状態とから、運転者2の心的状態が、自動車1の運転に適切である心的状態から、不適切な心的状態に変化したかどうかを判断する。
そして、管理サーバ装置40は、運転者2の生体情報に基づく体調についての判断結果が、自動車1の運転を行うことに関し、不適切な状態になっていないと判断した場合であっても、特定パターンである署名の筆記軌跡情報に基づく心的状態についての判断結果が、自動車1の運転を行うことに関し、不適切な状態になっていると判断した運転者2に対しては、アラームを送信して、自動車1の運転を休止、あるいは停止させるように促す。さらに、管理サーバ装置40は、このアラーム送信と共に、運転を行うことが不適切な心的状態になっている運転者2の運転の対象となっている自動車1に対して、強制的に走行を一時停止、あるいは中止させるように遠隔制御する制御情報を送るようにする。
次に、以上のように構成される操作者状態判断システムの各構成要素の、より詳細な構成例について説明する。
<タブレット端末10及び電子ペン20の構成例>
この実施形態では、運行日誌は、所定の用紙(運行日誌用紙)に筆記入力されることで、用紙に記録保存されると共に、その筆記軌跡の電子データである筆記軌跡情報を、タブレット端末10の位置検出部の機能を用いて取得して保持することができるように構成されている。
このため、この例では、タブレット端末10は、位置検出部の位置検出センサ上に用紙を載置した状態で係止させることができるように構成されている。そして、電子ペン20は、筆記文具として用紙に印字することができる機能、この例ではボールペンの機能を備えるように構成されている。
図2及び図3は、この第1の実施形態におけるタブレット端末10のハードウエア構成例を、電子ペン20の構成例と共に示すものである。図2は、この例のタブレット端末10の外観及び電子ペン20を説明するための図であり、また、図3は、タブレット端末10のハードウエア構成例を説明するための分解構成図である。
図2に示すように、この実施形態のタブレット端末10は、電子ペン20による指示入力面(位置検出センサの検出領域)を用紙の載置面10sとしている。そして、この例のタブレット端末10は、載置面10sの上端部に、運行日誌用紙6を挟持してタブレット端末10の指示入力面である載置面10s上に固定するクリップ部材11を備え、バインダーなどと呼ばれて広く利用されている文房具と同様の外観を有する。
この実施形態においては、載置面10sの裏面側であるタブレット端末10の内部には、電磁誘導方式の位置検出装置部100が搭載されている。図3に示すように、位置検出装置部100は、位置検出センサ110と、座標データ生成部120と、コントローラ部130とで構成される。
図3に示すように、タブレット端末10は、指示入力面となる載置面10s側を上側として、上から順番に、上部カバー(上板)12(図3(A))と、電子ペン20と電磁誘導結合によりインタラクションするための位置検出センサ110(図3(B))と、シールドシート13(図3(C))と、センサカバー14(図3(D))とを備える。そして、図3(C)に示すように、シールドシート13の下側には、シールドシート13を挟んで位置検出センサ110と接続される座標データ生成部120とコントローラ部130とが設けられる。
座標データ生成部120は、位置検出センサ110からの出力に基づいて、電子ペン20による指示位置の座標データを検出すると共に、筆圧データ及びペンIDを受信して取得する。
コントローラ部130は、座標データ生成部120に接続されており、座標データ生成部120で検出された座標データと共に、筆圧データ及びペンIDを、通信ネットワーク5を通じて判断装置4の管理サーバ装置40に送信する機能を有する。
また、コントローラ部130は、スマートウォッチ30と無線通信するための近距離無線通信部を含み、スマートウォッチ30から送られてくる生体情報を受信して、電子ペン20による指示位置の座標データ、筆圧データ及びペンIDと共に、判断装置4の管理サーバ装置40に通信ネットワーク5を通じて送信する機能を備える。そして、コントローラ部130の無線通信部に対して送信アンテナATが設けられている。
上部カバー12は、電子ペン20から送信された信号(電波)を透過させる素材、例えば合成樹脂、ガラスやセラミックなどにより形成される。この上部カバー12の外部に露呈する面側が、位置検出装置部100の指示入力面を兼用する載置面10sとなる。
センサカバー14は、合成樹脂や金属などにより形成され、上面は開口部となっている薄い箱型に構成される。このセンサカバー14内に位置検出センサ110、座標データ生成部120.コントローラ部130、シールドシート13が収納される。
この例では、センサカバー14の壁部が、載置面10sの周囲に突出して、運行日誌用紙6の位置規制部材として働くように構成されている。すなわち、用紙を載置面10sに載置したときには、センサカバー14の壁部により運行日誌用紙6の載置位置が規制される。
クリップ部材11は、板状体の構成部品とバネ部材とで構成されており、運行日誌用紙6を弾性的に載置面10sに押圧することで挟持するように構成されている。この実施形態においては、運行日誌用紙6には、予め定められた欄に定められた事項が記入されるようにされたペーパーフォームが印刷されている。
したがって、運行日誌用紙6が載置面10sに位置規制されて載置された状態でクリップ部材11により載置面10s上に押圧挟持されて係止させられた状態では、運行日誌用紙6は、タブレット端末10の位置検出装置部100の位置検出センサ110の指示入力領域と合致するような状態になる。そして、運行日誌用紙6に印刷されているペーパーフォームの各欄は、位置検出センサ110のそれぞれ定まった座標範囲位置に収まるように状態となる。したがって、運行日誌用紙6に印刷されているペーパーフォームに形成されている運転者の署名欄6aへの署名の筆記入力は、位置検出装置部100で検出された座標データ出力情報の中から、署名欄6a内の座標データとして区別して認識可能となる。
この実施形態のタブレット端末10は、図示を省略したが、充電式のバッテリーを備えており、電源ボタン15がオンとされることで、バッテリーから駆動電圧が供給される。また、タブレット端末10には、図2及び図3に示すように、運転者が電子ペン20を用いて運行日誌の筆記入力を完了したときに押下される終了ボタン16が設けられている。この終了ボタン16の押下は、筆記入力された運行日誌の筆記軌跡情報を、管理サーバ装置40に送信するトリガーとされている。
なお、この実施形態のタブレット端末10のクリップ部材11には、インジケータ11a~11c及びスピーカ11spが設けられている。この実施形態では、図2及び図3に示すように、終了ボタン16と、インジケータ11a~11cと、スピーカ11spとは、クリップ部材11の板状体の構成部品に設けられている。インジケータ11a~11cは、この例では、LED(Light Emitting Diode)で構成されている。
インジケータ11aは、電源の投入状態の報知用である。インジケータ11bは、タブレット端末10と管理サーバ装置40との間の無線接続の状態の報知用である。インジケータ11cは、載置面10sに載置された運行日誌用紙6が載置面10sに正しく載置されているかどうかの確認用である。スピーカ11spは、種々の状態をアラーム音声により利用者に報知するためのもので、前述のインジケータ11a~11cによる報知と併用される場合もある。
また、タブレット端末10のクリップ部材11の板状体の裏側には、運行日誌用紙6がクリップ部材11により挟持されて係止されている状態であるか否かを検知する用紙装着センサ11sが設けられている。
図3に示すように、電源ボタン15や終了ボタン16、インジケータ11a~11c、スピーカ11sp及び用紙装着センサ11sは、接続用コネクタCNを通じてコントローラ部130に接続されている。
この実施形態の電子ペン20は、図2に示すように、筆記用インクが充填された芯体21と、当該芯体21の端部に設けられたチップ部(ペン先)22とを有することにより用紙6に視認可能に筆跡を残すことができる機能として、この例では、ボールペン機能を有する。
電子ペン20は、この実施形態では、電磁誘導方式でタブレット端末10の位置検出センサ110と信号を授受することで、その指示位置をタブレット端末10の位置検出装置部100で検出させるようにする。この実施形態の電子ペン20の機械的な構成は、芯体21がボールペン機能を有する点を除けば、公知の電磁誘導方式の電子ペンの構成を用いることができるので、ここでは、その機械的な構成については図示を省略する。
また、この実施形態の電子ペン20は、ペン先に印加される筆圧を検出する筆圧検出部を備え、検出した筆圧の情報を、タブレット端末10に伝達する手段を備えている。この筆圧検出部は、図示は省略するが、この例では、例えば、特開2013-161307号公報に開示されているような筆圧に応じて静電容量を可変とする半導体素子を用いた構成としている。なお、筆圧検出部は、例えば特許文献:特開2011-186803号公報に記載されている周知の機構的な構成の筆圧検出手段を使用した、筆圧に応じて静電容量が変化する可変容量キャパシタの構成とすることもできる。
また、この実施形態では、電子ペン20は、固有の識別情報(ペンIDという)を記憶するペンIDメモリ備えると共に、タブレット端末10に、ペンIDを伝達する手段を備えている。
そして、この例では、電子ペン20からの筆圧の情報とペンIDとは、電磁誘導結合によるインタラクションを通じて、後述するようにしてASK変調信号として、タブレット端末10に伝達されるように構成されている。なお、電子ペン20からの筆圧の情報とペンIDとは、電磁誘導結合によるインタラクションではなく、例えばブルートゥース(登録商標)規格の近距離無線通信手段を用いることで、無線送信するように構成することもできる。
この実施形態では、運転者21、・・・、2nのそれぞれは、自分用の電子ペン201、・・・、20nのそれぞれを使用するように構成されているので、電子ペン201、・・・、20nのそれぞれのペンIDは、運転者21、・・・、2nのそれぞれの識別情報としての役割をも果たすことになる。
<タブレット端末10の位置検出装置部100及び電子ペン20の電子回路構成例>
図4は、電子ペン20が備える電子回路の等価回路と、この電子ペン20と電磁誘導方式により位置検出及び筆圧検出を行うタブレット端末10の位置検出装置部100の回路構成例を示す図である。
この図4の例のタブレット端末10の位置検出装置部100は、位置検出センサ110と座標データ生成部120とコントローラ部130とを備えている。位置検出センサ110においては、X軸方向ループコイル群111と、Y軸方向ループコイル群112とが積層されて形成されていると共に、2つのループコイル群111,112のうちの一のループコイルを順次選択する選択回路113が設けられている。
電子ペン20は、IC200で構成される信号制御回路を備えていると共に、このIC200を駆動するための駆動電圧を、タブレット端末10の位置検出装置部100の位置検出センサ110に備えられた励磁コイル114から送信された励磁信号から取得するように構成されている。なお、図4では、一例として、位置検出センサ110のループコイル群111,112は電子ペン20からの電磁結合信号の受信にのみ用いられるものとして説明するが、電子ペン20との間で電磁結合することで、励磁コイル114に代えて電子ペン20に備えられた信号制御回路を駆動することを排除するものではない。また、電子ペン20に備えられた信号制御回路に対して所定の制御データなどの信号を送信することを排除するものでもない。
この図4の例のタブレット端末10の位置検出装置部100の位置検出センサ110においては、X軸方向ループコイル群111と、Y軸方向ループコイル群112とを取り囲むようにして、励磁コイル114が配設されている。図4に示すように、励磁コイル114は、ドライブ回路122に接続され、ドライブ回路122は、周波数foで発振する発振回路121に接続されている。
ドライブ回路122は、マイクロコンピュータで構成される処理制御部128により制御される。処理制御部128は、ドライブ回路122を制御して、発振回路121からの周波数foの発振信号の、励磁コイル114への供給を制御して、励磁コイル114からの電子ペン20への信号送信を制御する。
選択回路113は、処理制御部128により選択制御されて一つのループコイルを選択する。この選択回路113により選択されたループコイルに発生する誘導電圧は、受信アンプ123にて増幅され、バンドパスフィルタ124に供給され、周波数foの成分のみが抽出される。バンドパスフィルタ124は、その抽出した成分を検波回路125に供給する。
検波回路125は、周波数foの成分を検出し、その検出した周波数foの成分に応じた直流信号をサンプルホールド回路126に供給する。サンプルホールド回路126は、検波回路125の出力信号の所定のタイミング、具体的には受信期間中の所定のタイミングにおける電圧値を保持し、AD変換回路127へ送出する。AD変換回路127は、サンプルホールド回路126のアナログ出力をデジタル信号に変換し、処理制御部128に出力する。処理制御部128は、前記所定のタイミングの信号をサンプルホールド回路126に供給する。
そして、処理制御部128は、AD変換回路127からのデジタル信号が所定のスレッショールド値を超えた値であるか否かを判定して、選択回路113で選択されているループコイルが電子ペン20で位置指示された位置のループコイルであるか否かを判定し、その判定に基づいて電子ペン20による指示位置を検出する。なお、処理制御部128は、時計機能を備えており、検出した電子ペンによる指示位置の情報には、その検出時点の時刻情報が含まれている。したがって、電子ペンによる指示位置の情報の連続からなる筆記軌跡の情報には、時間変化の情報も含まれていることになり、筆記軌跡の形成速度が検出可能である。
処理制御部128は、また、後述するように、電子ペン20による指示位置の検出とは別に、電子ペン20からの信号の断続を、数ビットのデジタル信号として検出して、筆圧を検出すると共に、ペンIDを検出するようにする。
また、この例では、タブレット端末10の位置検出装置部100は、図示は省略するが、電子ペン20の傾きと、電子ペン20の高さ位置とを検出する機能を備えている。ここで、電子ペン20の傾きとは、位置検出センサ110の入力面に対する電子ペン20の傾きである。また、電子ペン20の高さ位置とは、位置検出センサ110の入力面からの高さ位置である。電子ペン20の傾きや高さ位置は、公知の手法を用いることで検出可能であるので、その検出手法の説明については、ここでは省略する。
タブレット端末10は、以上説明した、検出した電子ペン20の指示位置の情報と、筆圧情報と、傾きの情報と、高さ位置の情報とに時刻情報が加えられた情報からなる筆記軌跡情報を、ペンIDに対応付けて、コントローラ部130に供給する。
コントローラ部130は、受け取った筆記軌跡情報を、送信情報生成部131に一時記憶する。また、コントローラ部130は、スマートウォッチ30からの運転者の心拍や体温などの生体情報を近距離無線通信部132で受信し、送信情報生成部131に供給して一時記憶する。
図4に示すように、スマートウォッチ30には、コントローラ部130の近距離無線通信部132と通信を行う近距離無線通信部30Tが設けられている。コントローラ部130の送信情報生成部131は、筆記軌跡情報と生体情報とに、ペンIDを対応付けたものとして送信情報を生成する。
そして、コントローラ部130は、送信情報生成部131に一時記憶した筆記軌跡情報と生体情報とにペンIDを対応付けた情報を無線通信部133を通じて管理サーバ装置40宛に送信するようにする。
電子ペン20の回路構成は、図4において点線で囲んで示すようなものとなっている。ただし、この図4の例では、電子ペン20の傾きを位置検出装置部100で検出するための回路部分については、省略されている。
すなわち、図4の例の電子ペン20においては、コイル201に並列にキャパシタ202が接続されて、共振回路203が構成されている。そして、この共振回路203に並列に、スイッチ回路204が接続されている。このスイッチ回路204は、IC200によりオン・オフ制御されるように構成されている。このスイッチ回路204がオフのときには、共振回路203による位置検出センサ110からの信号(励磁コイル114からの交流信号)に対する共振動作がなされる。しかし、スイッチ回路204がオンのときには、コイル201に並列に接続されているキャパシタ202が短絡されて、共振回路203による位置検出センサ110からの信号に対する共振動作がオフとなる。
そして、IC200は、共振回路203にてタブレット端末10の位置検出装置部100の位置検出センサ110から電磁誘導により受信した交流信号を、ダイオード205及びキャパシタ206からなる整流回路(電源供給回路)207にて整流して得られる電源電圧Vccにより動作するように構成されている。IC200は、共振回路203とはキャパシタ208を介して接続されており、共振回路203の動作状況をモニターしている。IC200は、共振回路203の動作状況をモニターすることで、位置検出センサ110の励磁コイル114との電磁結合状況、あるいは、この例では説明を省略するが、2つのループコイル群111,112を使用して位置検出装置部100の位置検出センサ110から送信された制御データなどの信号を検出し、所望の動作制御を行うことができるようになっている。
IC200には、図4に示すように、筆圧検出部により構成される容量可変キャパシタCvが接続されている。IC200は、容量可変キャパシタCvの静電容量の値から電子ペン20の先端20Tに印加される筆圧を検出する。そして、IC200は、検出した筆圧を、複数ビットのデジタル信号に変換し、その筆圧に対応するデジタル信号により、スイッチ回路204を制御することにより、筆圧情報を、位置検出用信号の付加情報としてタブレット端末10の位置検出装置部100に送信する。
また、IC200には、電子ペン20の識別情報であるペンIDを記憶するIDメモリ210が接続されている。IC200は、このIDメモリ210に記憶されているペンIDのデジタル信号により、スイッチ回路204を制御することにより、このペンIDをも、位置検出用信号の付加情報として、筆圧情報と共に、タブレット端末10の位置検出装置部100に送信する。
以上のように構成された電子ペン20及びタブレット端末10の位置検出装置部100の位置検出動作及び筆圧情報やペンIDの検出動作について説明する。
位置検出装置部100の座標データ生成部120の処理制御部128は、先ず、ドライブ回路122を駆動して励磁コイル114から、所定時間、信号を電子ペン20に送信する。その後、処理制御部128は、ドライブ回路122を駆動して励磁コイル114からバースト状信号を送出し、選択回路113をX軸方向ループコイル群111のうちの一つのループコイルを順次に選択する処理を、X軸方向ループコイル群111の全てのループコイルに対して行う。これに対して、電子ペン20は、バースト状信号を共振回路203で受信し、タブレット端末10の位置検出装置部100の位置検出センサ110に帰還するようにするので、処理制御部128は、その帰還されたバースト状信号を位置検出用信号として検出することで、電子ペン20により指示された位置のX座標値を求める。
次に、処理制御部128は、再度、ドライブ回路122を駆動して励磁コイル114から、所定時間、信号を電子ペン20に送信した後、ドライブ回路122を駆動して励磁コイル114からバースト状信号を送出し、選択回路113をY軸方向ループコイル群112のうちの一つのループコイルを順次に選択する処理を、Y軸方向ループコイル群112の全てのループコイルに対して行う。そして、処理制御部128は、電子ペン20から帰還されてくるバースト状信号を位置検出用信号として検出することで、電子ペン20により指示された位置のY座標値を求める。
以上のようにして、電子ペン20の指示位置を検出したら、処理制御部128は、電子ペン20からの付加情報としての筆圧情報及びペンIDを検出するため、励磁コイル114から所定時間以上継続した送信を行った後、バースト状信号の送受信を、電子ペン20からの付加情報のデジタル信号のビット数に応じた回数継続して行う。このとき、選択回路113では、検出した座標値に従い、電子ペン20から最も近いループコイル(X軸方向ループコイル,Y軸方向ループコイルのどちらでもよい)を選択して信号を受信する。
一方、電子ペン20のIC200は、筆圧検出部を構成する容量可変キャパシタCvの静電容量に対応して得られた筆圧情報とペンIDとからなる付加情報のデジタル信号により、タブレット端末10の位置検出装置部100からの信号の送受信に同期してスイッチ回路204をオン・オフ制御する。スイッチ回路204がオフであるときには、共振回路203は、位置検出装置部100から送信された信号を位置検出装置部100に返送することができるので、位置検出装置部100のループコイルはこの信号を受信する。これに対して、スイッチ回路204がオンであるときには共振回路203は共振動作が禁止された状態にあり、このために、共振回路203から位置検出装置部100に信号は返送されず、位置検出装置部100のループコイルは信号を受信しない。
位置検出装置部100の座標データ生成部120の処理制御部128は、受信信号の有無の判別を付加情報のデジタル信号のビット数回行うことにより、筆圧情報及びペンIDに応じた複数ビットのデジタル信号を受信し、電子ペン20からの筆圧情報及びペンIDを検出することができる。したがって、電子ペン20は、筆圧情報とペンIDとを、ASK(Amplitude Shift Keying)変調した信号として、タブレット端末10の位置検出装置部100に送信する。
位置検出装置部100の処理制御部128は、電子ペン20による指示位置の情報を検出すると共に、この電子ペン20からの筆圧情報及びペンIDを検出し、検出した電子ペン20による指示位置と、筆圧情報及びペンIDとをコントローラ部130に供給する。
<管理サーバ装置40のハードウェア構成例>
図5は、この実施形態の操作者状態判断システムの管理サーバ装置40の構成例を示すブロック図である。
図5に示すように、この実施形態における管理サーバ装置40は、コンピュータからなる制御部401に対して、システムバス400を通じて、無線通信部402、情報受信処理部403、生体情報データベース404、特定パターン筆記軌跡情報データベース405、通信接続情報記憶部406、運行日誌メモリ407、生体情報解析部408、筆記軌跡情報解析部409、感情状態情報取得部410、状態判断部411、運転者送信情報生成部412、自動車制御情報生成部413、表示部414、のそれぞれが接続されて構成されている。
特定パターン筆記軌跡情報データベース405には、図6に示すように、運転者21、・・・、2nのそれぞれの運転者ID(この例では、運転者名)と、電子ペン201、・・・、20nのそれぞれのペンIDと、運転者21、・・・、2nのそれぞれが電子ペン201、・・・、20nのそれぞれで自身の氏名を署名として筆記したときの筆記軌跡情報であるサイン筆記情報とが、互いに対応付けられて格納されている。
この場合に、サイン筆記情報は、運転者21、・・・、2nのそれぞれが、集中状態あるいはリラックス状態などの自動車の運転をするのに適切な状態であるときに筆記入力されたものとされ、筆記軌跡情報を構成する座標データには時間情報が付随しており、その時間情報から、サイン筆記情報の各文字の筆記速度が検出可能とされている。
なお、特定パターン筆記軌跡情報データベース405には、運転者IDとペンIDとが対応付けられて記憶されているので、ペンIDにより当該特定パターン筆記軌跡情報データベース405を参照することで、対応付けられている(紐付けられている)運転者IDを取得することができる。
生体情報データベース404には、図示は省略するが、運転者21、・・・、2nのそれぞれの正常状態での生体情報として、この例では心拍、体温、発汗などの正常状態範囲の数値情報が格納されている。この例では、正常状態の生体情報は、電子ペン201、・・・、20nのそれぞれのペンIDと紐付けられる運転者IDに対応付けられて記憶されている。なお、この例では、生体情報データベース404には、運転者21、・・・、2nのそれぞれの正常状態での生体情報を格納するようにしたが、運転者2毎ではなく、不特定多数の被験者の生体情報から生成した正常状態の情報を格納して用いるようにしてもよい。
通信接続情報記憶部406には、図7に示すように、運転者IDのそれぞれに対して、タブレット端末101~10nのそれぞれと無線通信部402を通じて接続するための接続用情報と、自動車11~1nのそれぞれと無線通信部402を通じて接続するための接続用情報とが、互いに対応付けられて記憶されている。
無線通信部402は、タブレット端末101~10nのそれぞれと、通信ネットワーク5を通じて無線通信するためのものである。
情報受信処理部403は、タブレット端末101~10nのそれぞれから受信した情報から、生体情報と、筆記軌跡情報と、筆記軌跡情報中の特定パターン筆記軌跡情報としての署名情報と、時間情報と、ペンIDとを区別して認識し、それぞれの情報を、必要な各部に分配するようにする。
この場合に、情報受信処理部403は、ペンIDにより特定パターン筆記軌跡情報データベース405を参照することで、運転者IDを取得して、その取得した運転者IDをも分配する情報に付加するようにする。
運行日誌メモリ407には、タクシー会社での管理のために、受信した運行日誌の筆記軌跡情報の全てを、運転者ID及び/又はペンID、また、付随されている日時情報と対応付けて、蓄積するようにする。
生体情報解析部408は、運行日誌の筆記軌跡情報を送信してきた運転者2(以下、運転者2Sと記す)の生体情報として心拍、体温、発汗などの値が、生体情報データベース404の対応する運転者の心拍、体温、発汗などの正常状態の数値範囲内であるかどうかにより、運転者2Sの体調に変調が生じているかどうかをチェックする。そして、生体情報解析部408は、その解析結果を、状態判断部411に送る。
筆記軌跡情報解析部409は、この実施形態では、受信した運行日誌の筆記軌跡情報から署名欄の筆記軌跡情報を抽出し、特定パターン筆記軌跡情報データベース405の中の運転者2Sのサイン署名情報と比較参照して、運転者2Sの心的状態が、自動車の運転をするのに不適切な状態に変化していないかをチェックする。そして、筆記軌跡情報解析部409は、その解析結果を、状態判断部411に送る。なお、前述もしたが、筆記軌跡情報解析部409においては、受信した運行日誌の筆記軌跡情報の全について解析して、運転者2Sの心的状態が、自動車の運転をするのに不適切な状態に変化していないかをチェックするようにしてもよい。
感情状態情報取得部410は、この実施形態では、受信した運行日誌の筆記軌跡情報から署名欄の筆記軌跡情報を抽出し、抽出した署名欄の筆記軌跡情報を、ペンIDあるいは運転者IDと共に、感情状態推定要求に含めて、感情サーバ装置50に通信ネットワーク5を通じて送り、その回答を待つ。
感情サーバ装置50は、感情状態推定要求を受け取ると、それに含まれる署名の筆記軌跡情報から、後述するようにして、運転者2Sの感情状態を推定して、管理サーバ装置40に回答してくる。感情状態情報取得部410は、感情サーバ装置50から取得した運転者2Sの感情状態の情報を、状態判断部411に送る。
状態判断部411は、生体情報解析部408からの解析結果と、筆記軌跡情報解析部409からの解析結果と、感情状態情報取得部410からの感情状態の情報とから、運転者2Sの体調状態及び/又は心的状態が、自動車の運転に不適切な状態に変化していないかどうかを判断する。そして、状態判断部411は、その判断結果を運転者送信情報生成部412及び自動車制御情報生成部413に送る。また、状態判断部411は、判断結果を表示情報として、表示部414に送る。
運転者送信情報生成部412は、状態判断部411からの判断結果に応じた運転者送信情報を生成する。この場合に、運転者送信情報生成部412は、状態判断部411からの判断結果が、運転者は、自動車の運転をするのに不適切な状態になっていることを示しているときには、運転の継続を不許可とするアラームからなる運転者送信情報、例えば「体調又は精神状態が運転に適切ではありません。運転をしばらく休止して下さい」や「体調又は精神状態が運転に適切ではありません。運転を中止して下さい」などのアラーム音声メッセージを生成する。
そして、運転者送信情報生成部412は、生成したアラーム音声メッセージの情報を、無線通信部402を通じ、通信ネットワーク5を通じて、運転者2Sのタブレット端末10に送信し、その後、タブレット端末10に対して通信終了要求を送って通信を終了処理する。この場合に、運転者2Sのタブレット端末10との通信が、アラームを送る際に、既に切断されているときには、運転者送信情報生成部412は、通信接続情報記憶部406に記憶されている運転者2Sのタブレット端末10との接続情報を用いて通信路を生成して、運転者送信情報を送る。
そして、運転者送信情報生成部412は、状態判断部411からの判断結果が、運転者2Sは「自動車の運転をするのに不適切な状態にはなっていない」ことを示しているときには、そのまま、タブレット端末10との間の通信を終了処理する。なお、運転者送信情報生成部412は、状態判断部411からの判断結果が、運転者2Sは「自動車の運転をするのに不適切な状態にはなっていない」ことを示しているときには、運転の継続を許可する運転者送信情報、例えば「お疲れ様です。継続して安全運転に考慮しながら継続して業務を行ってください」などの音声メッセージを送るようにしてもよい。
自動車制御情報生成部413は、状態判断部411からの判断結果が、運転者2Sは、「自動車の運転をするのに不適切な状態になっている」ことを示しているときに、自動車1を走行不能とするようにする制御信号を生成し、その生成した制御信号を無線通信部402を通じ、通信ネットワーク5を通じて、運転者2Sの運転対象の自動車1に送信する。この際に、自動車制御情報生成部413は、通信接続情報記憶部406に記憶されている運転者2Sの運転対象の自動車1の接続情報を取得して、その接続情報を用いて通信路を生成して、制御信号を自動車に送る。
なお、自動車1のそれぞれは、管理サーバ装置40からの制御信号を受けると、例えば走行に関わる部位に対するバッテリーからの電力の供給を遮断するなどして、運転停止状態とするように制御する機能部を備えている。
表示部414は、表示画面を備え、情報受信処理部403からの運行日誌の筆記軌跡情報を受け取って、表示画面に表示する。管理サーバ装置40は、この例では、タクシー会社に設けられており、タクシー会社の運転者の体調状態や心的状態を管理する運転者状態管理担当者が、この表示画面に表示される運行日誌の筆記軌跡の表示情報を観視する。運転者状態管理担当者は、表示部414の表示画面の運行日誌の筆記軌跡を観視し、それが平常時と異なっていないかどうかを視覚的に把握することで、当該運行日誌を作成した運転者の体調状態や心的状態の変調を類推することができる。
そして、この実施形態では、状態判断部411からの判断結果の表示情報が表示部414に送られてくるので、表示画面には、運行日誌の筆記軌跡の表示情報に加えて、運転者の状態が表示される。したがって、タクシー会社の運転者状態管理担当者は、表示部414の表示画面において、運転者の状態を把握することができ、必要に応じて、運転者に携帯電話端末などを用いて直接に通話をして、体調状態及び心的状態の問い合わせをしたり、アドバイスをしたりすることができる。
なお、上述の管理サーバ装置40は、運転者2による署名の筆記軌跡情報を記憶しているので、タブレット端末から送られてきた運行日誌の署名欄の署名の筆記軌跡情報と、記憶している運転者2の署名の筆記軌跡情報とを比較して、運転者2Sの認証を行うようにすることもできる。
なお、図5に示した、情報受信処理部403、生体情報解析部408、筆記軌跡情報解析部409、感情状態情報取得部410、状態判断部411、運転者送信情報生成部412、自動車制御情報生成部413は、それぞれの機能を実行するプログラムを制御部401がソフトウエア処理として実現することができる。ただし、上記の各部の全てをプログラムによる処理機能とするのではなく、一部は、ハードウエアの構成部として構成してもよいことは言うまでもない。
[感情サーバ装置50の構成例]
図8は、感情サーバ装置50のハードウエア構成例を示すブロック図である。この図8の例の感情サーバ装置50は、コンピュータからなる制御部501に対して、システムバス500を通じて、感情推定用データベース502と、無線通信部503と、感情状態推定要求受信部504と、感情状態推定部505と、提供情報生成部506とが接続されて構成されている。
感情推定用データベース502には、運転者21、・・・、2nのそれぞれからについて、種々の感情状態と、それぞれの感情状態における電子ペンのペン状態情報とが対応づけられて格納されている。この感情推定用データベース502の格納データは、事前に運転者21、・・・、2nのそれぞれから必要な情報の収集がなされ、その収集された情報に基づいて構築されている。
すなわち、例えば運転者21、・・・、2nのそれぞれに脳波計を装着してもらうと共に、それぞれのタブレット端末101~10n及び電子ペン201、・・・、20nを用いて筆記入力をしてもらうようにする。
そして、運転者21、・・・、2nのそれぞれには、例えば「リラックス状態」、「集中状態」、「イライラ状態」、「注意力散漫状態」、「怒り状態」、などの感情状態を現出させるような状況刺激を加えるなどして、それぞれの感情状態が、それぞれ所定の時間以上の時間幅に亘って継続するようにする。その際、運転者21、・・・、2nのそれぞれが、それぞれの感情状態になっていることを脳波計で測定して確認する。
そして、運転者21、・・・、2nのそれぞれに、「リラックス状態」、「集中状態」、「イライラ状態」、「注意力散漫状態」、「怒り状態」のそれぞれの感情状態になっている所定の時間において、電子ペン201、・・・、20nを用いてタブレット端末101~10nのそれぞれに対して筆記入力をしてもらい、タブレット端末101~10nのそれぞれで、上記の感情状態のときの筆記軌跡情報(指示位置の情報、電子ペンの傾き、高さ位置などのペン状態情報)を検出させる。そして、タブレット端末101~10nのそれぞれで取得された各感情状態の筆記軌跡情報は、ペンIDと対応付けられて感情推定用データベースの構築装置に送られる。
感情推定用データベースの構築装置では、「リラックス状態」、「集中状態」、「イライラ状態」、「注意力散漫状態」、「怒り状態」のそれぞれの感情状態毎に区分けして、それぞれの運転者21、・・・、2nによる筆記軌跡情報を保持する。そして、感情推定用データベースの構築装置では、それぞれの感情状態において、筆記軌跡情報中の指示位置の情報、電子ペンの傾き、高さ位置などのペン状態情報のそれぞれが取り得る範囲を、感情状態毎の特徴値となる存在範囲として算出する。すなわち、各感情状態にあるときの運転者の筆記入力時の電子ペンのペン状態(指示位置の動き変化、筆圧値、電子ペンの傾き、高さ位置など)のそれぞれの情報値は、それぞれの感情状態に応じて取り得る範囲、すなわち、存在範囲が異なるので、それぞれの感情状態毎の、各ペン状態情報の存在範囲を算出する。算出された感情状態毎の、各ペン状態情報の存在範囲は、後述する図10に示す感情推定用データベースの記憶内容とされる。
例えば、「リラックス状態」にあるときの電子ペン20に印加される筆圧は、比較的低い平均値となると共に、当該平均値からの偏差が比較的小さい値となるような存在範囲となる。また、「イライラ状態」にあるときの電子ペン20に印加される筆圧は、比較的高い平均値となると共に、当該平均値からの偏差が比較的大きい値となるような存在範囲となる。
なお、ペン状態情報の範囲情報は、或る感情状態であるときにおけるペン状態情報のそれぞれの値の殆ど、例えば90パーセントが、その中に入る、すなわち、存在することとなる範囲を判定することで算出される。このペン状態情報の範囲情報(存在範囲の情報)は、上述した平均値と偏差からなる範囲情報とすることができる。
また、この実施形態では、感情推定用データベースの構築装置では、運転者2の各感情状態における電子ペン20による「文字筆記時の特徴パターン」をも記憶するようにしている。このため、この例においては、運転者2には、各感情状態のときに、所定の矩形領域内、所定の文字を筆記させるようにする。
すなわち、図9に示すように、運転者2に対しては、タブレット端末10の表示画面に、文字の入力四角枠FLを表示して、その入力四角枠FL内に文字を入力するように促す。図9に示すように、運転者2は、各感情状態において、当該入力四角枠FL内に、入力が求められた文字、この例では「あ」を電子ペン20により筆記入力する。
図9に示すように、リラックス状態や、集中状態では、運転者2は、求められた文字を当該入力四角枠FL内にきちんと収めるように筆記入力する。すなわち、文字の中心位置が、入力四角枠FLの中心位置の近傍になり、文字の大きさが、入力四角枠FLを超えない大きさとなる。
しかし、イライラ状態、注意力散漫状態、怒り状態では、それらの感情状態に応じて、文字の中心位置が、入力四角枠FLの中心位置からずれた状態になると共に、文字が入力四角枠FLから食み出してしまったり、入力四角枠FLよりも大きな文字となってしまったりする。そこで、感情推定用データベースの構築装置では、ペン状態情報の例としての文字筆記時の特徴パターンとしては、文字の中心位置からのずれの範囲と、文字の大きさの変移範囲、などを各感情状態に応じて算出する。
「文字筆記時の特徴パターン」としては、一文字についての特徴パターンだけではなく、複数の文字を連続的に筆記するときの当該複数の文字間についての特徴パターンを算出してもよい。この実施形態では、前述した特定パターンとされた各運転者の氏名が、「文字筆記時の特徴パターン」として用いられる。
感情推定用データベースの構築装置は、運転者2の各感情状態の情報と、複数種のペン状態情報のそれぞれについての範囲情報とを互いに対応付けたものを、電子ペン20のペンIDに対応付けて、感情推定用データベース502に格納する。
図10に、このときの感情推定用データベース502の記憶内容の例を示す。この図10に示すように、電子ペン20のペンIDに対応付けられて、「リラックス状態」、「集中状態」、「イライラ状態」、「注意力散漫状態」、「怒り状態」のそれぞれの感情状態が記憶されると共に、各感情状態のそれぞれに対応付けられて、それぞれの感情状態におけるペン状態情報のそれぞれが取り得る範囲(存在範囲)の情報が記憶されている。
図10の例では、ペン状態情報としては、筆記入力時の「座標指示ブレ」、「筆圧」、「傾き」、「高さ位置」、「ホバー位置での位置ブレ」、などが記憶される。座標指示ブレとしては、前述の図9を用いて説明した文字の中心位置からのずれ範囲や文字の大きさの変移範囲が記憶される。なお、図10では、ずれ範囲や変移範囲が模式的に示してあり、四角枠は、前述した図9の四角枠FLに対応するものである。
なお、「座標指示ブレ」の場合、そのブレの速度または加速度が、感情状態に応じて、マイルドに変化したり、激しく変化したりするので、それらの情報も併せて感情推定用データベース502に格納するようにしてもよい。
「筆圧」は、使用者がそれぞれの感情状態において電子ペン20によりセンサ上で入力するとき値が異なることが予想されるので、各感情状態において取り得る筆圧範囲(例えばPra1~Prb1など)が記憶される。例えばリラックス状態の筆圧よりも、集中状態での筆圧の方が大きく、かつ、その筆圧範囲も狭いものとなる。また、イライラ状態では、筆圧がまちまちとなるので、筆圧範囲が広くなる。怒り状態では、筆圧が大きくなる。なお、筆圧の範囲のみではなく、平均値も併せて記憶させるようにしてもよい。また、筆圧の時間変化も併せて感情推定用データベース502に格納するようにしてもよい。例えば、「リラックス状態」や「集中状態」では、筆圧の時間変化の度合いは小さく、「イライラ状態」や「注意力散漫状態」では、筆圧の時間変化の度合は大きくなる。
「傾き」は、使用者の感情状態に応じて電子ペン20がセンサ面(入力面)とのなす角が変わることから、感情推定用データベース502には、その各感情状態に応じて、傾きの範囲(例えばSLa1~SLb2)が記憶される。なお、この場合も、傾きの時間変化も併せて感情推定用データベース502に格納するようにしてもよい。例えば、「リラックス状態」や「集中状態」では、傾きの時間変化の度合いは小さく、「イライラ状態」や「注意力散漫状態」では、傾きの時間変化の度合は大きくなる。なお、傾きは、筆圧が零でホバー状態にあるときと、筆圧が零よりも大きくセンサに接触しているときとで、分けて感情推定用データベース502に格納するようにしてもよい。
「高さ位置」は、上記の各種の感情状態の運転者2が、電子ペン20を持って、指示入力(筆記入力)をする前の待機状態において電子ペン20がホバー状態にあるときに取り得る高さ位置(センサ面に直交する方向の高さ位置)の範囲情報(例えばHa1~Hb1)が、感情推定用データベース502に格納される。
「ホバー位置での位置ブレ」は、運転者2が電子ペン20を持って、指示入力(筆記入力)をする前の待機状態のときのセンサ面上の座標位置の、各感情状態におけるときに取り得る変化の範囲情報(例えばAra1~Arb1)である。すなわち、例えば、運転者2が「集中状態」にあるときには、「ホバー位置での位置ブレ」は、小さくなり、「イライラ状態」や「注意力散漫状態」にあるときには、大きくなる。なお、この場合も、「ホバー位置での位置ブレ」の時間変化も併せて感情推定用データベース502に格納するようにしてもよい。
感情サーバ装置50では、無線通信部503は、受信した感情状態推定要求を、感情状態推定要求受信部504に転送する。感情状態推定要求受信部504は、受け取った感情状態推定要求に含まれているペンID及び筆記軌跡情報を抽出して、感情状態推定部505に渡す。感情状態推定部505は、受け取ったペンID及び筆記軌跡情報の各ペン状態情報により、感情推定用データベース502を検索して、対応する感情状態を推定し、その推定結果の感情状態を提供情報生成部506に渡す。
提供情報生成部506は、受け取った推定結果の感情状態を通知する情報を含む提供情報を生成して、無線通信部503を通じて、感情状態推定要求をしてきた管理サーバ装置40に送信する。
なお、図8の感情サーバ装置50に構成例において、感情状態推定要求受信部504と、感情状態推定部505及び提供情報生成部506の処理は、制御部501が、内蔵するメモリに記憶するプログラムにしたがって処理するソフトウェア機能として構成してもよい。
次に、上述した実施形態の操作者状態判断システムのタブレット端末10及び管理サーバ装置40の主要な処理動作例について、以下に説明する。
<タブレット端末10の処理動作例>
図11及びその続きである図12は、タブレット端末10の処理動作例を説明するためのフローチャートである。
タブレット端末10の処理制御部128は、電子ペン20による指示入力を検出したか否か監視し(ステップS101)、電子ペン20による指示入力を検出してはいないと判別したときには、その他の処理を行い(ステップS102)、その他の処理の終了後、処理をステップS101に戻す。
処理制御部128は、ステップS101で、電子ペン20による指示入力を検出したと判別したときには、検出した指示位置の情報と、筆圧情報と、傾きの情報と、高さ位置の情報とに時刻情報が加えられた情報からなる筆記軌跡情報を取得し、ペンIDに対応付けて、コントローラ部130に供給する(ステップS103)。
コントローラ部130は、スマートウォッチ30に対して生体情報の取得要求を送り、この取得要求に対応してスマートウォッチ30から送られてくる生体情報を取得し、処理制御部128から取得している筆記軌跡情報と共に、ペンIDに対応付けて保持する(ステップS104)。
次に、コントローラ部130は、終了ボタン16が押されたか否か判別し(ステップS105)、終了ボタン16が押されていないと判別したときには、処理をステップS101に戻す。
また、コントローラ部130は、ステップS105で、終了ボタン16が押されたと判別したときには、筆記軌跡情報を解析して署名欄に署名が筆記入力済であるか否か判別する(ステップS106)。そして、コントローラ部130は、ステップS106で、署名欄に署名が筆記入力済ではないと判別したときには、スピーカ11spを通じて、署名入力を促す音声メッセージを送出し(ステップS107)、その後、処理をステップS101に戻す。
また、コントローラ部130は、ステップS106で、署名欄に署名が筆記入力済であると判別したときには、保持している運行日誌の筆記軌跡情報と生体情報とをペンIDに対応付けた情報を、無線通信部133及び通信ネットワーク5を通じて管理サーバ装置40に送信する(ステップS108)。
次に、コントローラ部130は、管理サーバ装置40からアラームを受信したか否か判別し(図12のステップS111)、アラームを受信してはいないと判別したときには、管理サーバ装置40からの通信終了要求を受信したか否か判別する(ステップS112)。そして、コントローラ部130は、ステップS112で、通信終了要求を受信してはいないと判別したときには、処理をステップS111に戻し、通信終了要求を受信したと判別したときには、通信を終了処理し(ステップS115)、この処理ルーチンを終了する。
また、コントローラ部130は、ステップS111で、管理サーバ装置40からアラームを受信したと判別したときには、対応するアラーム音声をスピーカ11spを通じて放音する(ステップS113)。
そして、コントローラ部130は、管理サーバ装置40からの通信終了要求を受信したか否か判別する(ステップS114)。そして、コントローラ部130は、ステップS114で、通信終了要求を受信してはいないと判別したときには、処理をステップS114に戻し、通信終了要求を受信したと判別したときには、通信を終了処理し(ステップS115)、この処理ルーチンを終了する。
<管理サーバ装置40の処理動作例>
図13及びその続きである図14は、管理サーバ装置40の処理動作例を説明するためのフローチャートである。図13及び図14のフローチャートの各ステップの動作は、以下の説明では、制御部401が、情報受信処理部403、生体情報解析部408、筆記軌跡情報解析部409、感情状態情報取得部410、状態判断部411、運転者送信情報生成部412及び自動車制御情報生成部413の機能を、ソフトウエア処理として実現した場合として説明する。
制御部401は、タブレット端末10からの送信情報の受信を監視し(ステップS201)、タブレット端末10からの送信情報を受信してはいないと判別したときには、その他の処理を行い(ステップS202)、その後、処理をステップS201に戻す。
ステップS201で、タブレット端末10からの送信情報を受信したと判別したときには、制御部401は、受信情報に含まれるペンIDにより特定パターン筆記軌跡情報データベース405を参照することで、運転者IDを取得する(ステップS203)。そして、制御部401は、運行日誌の筆記軌跡情報を、運行日誌メモリ407に運転者ID及びペンIDと対応付けて格納する(ステップS204)。
次に、制御部401は、生体情報データベース404に記憶されている生体情報の内のステップS203で取得した運転者IDに対応付けられている生体情報を読み出し、この読み出した生体情報と、無線通信部402を通じて受信した生体情報とを比較解析して、運転者IDで特定される運転者2の体調状態が運転を継続して行うのに不適切な状態になっているかどうかチェックする(ステップS205)。
次に、制御部401は、運行日誌の筆記軌跡情報の内から署名欄の署名の筆記軌跡情報を抽出すると共に、特定パターン筆記軌跡情報データベース405に記憶されている署名の筆記軌跡情報の中から、ステップS203でペンIDを用いて取得した運転者IDに対応する運転者2の署名の筆記軌跡情報を読み出す。そして、抽出した署名の筆記軌跡情報と、特定パターン筆記軌跡情報データベース405から読み出した署名の筆記軌跡情報とを比較解析して、運転者IDで特定される運転者2の心的状態が運転を継続して行うのに不適切な状態になっているかどうかチェックする(ステップS206)。
次に、制御部401は、抽出した署名の筆記軌跡情報を含めた感情状態推定要求を感情サーバ装置50に送り、その回答の推定された感情状態の情報を、感情サーバ装置50から取得する(ステップS207)。
次に、制御部401は、ステップS205で取得した生体情報の解析結果と、特定パターン筆記軌跡情報の解析結果及び感情サーバ装置50から取得した感情状態の推定結果とから、運行日誌の筆記軌跡情報を送信してきた運転者の体調状態及び心的状態を把握する(ステップS208)。
そして、制御部401は、ステップS208で把握した運転者2の体調状態及び心的状態から、運転者2の状態は運転をするのに不適切な状態になっているかどうか判別し(図14のステップS211)、不適切な状態になっていないと判別したときには、運転者2のタブレット端末10に通信終了要求を送信して(ステップS214)、無線通信の終了処理を行い(っステップS215)、この処理ルーチンを終了する。
また、ステップS211で、運転者2の状態は運転をするのに不適切な状態になっていると判別したときには、制御部401は、この例では音声メッセージからなるアラームを生成して、運転者2のタブレット端末10に送信する(ステップS212)。
次に、制御部401は、運転をするのに不適切な状態になった運転者2の自動車1に対して走行を中止又は停止させる自動車中止制御ルーチンを実行する(ステップS213)。この自動車中止制御ルーチンでは、制御部401は、運転をするのに不適切な状態になった運転者2の自動車1の対する接続用情報を取得して、当該自動車1との間に無線通信路を生成して、自動車1の走行を中止又は停止させる制御情報を、当該自動車1に送信して、自動車を制御するようにする。
ステップS213の次には、制御部401は、運転者2のタブレット端末10に通信終了要求を送信して(ステップS214)、無線通信の終了処理を行い(っステップS215)、この処理ルーチンを終了する。
以上のようにして、第1の実施形態の操作者状態判断システムでは、運転者2の生体情報に基づく体調状態の変調だけでなく、運行日誌の筆記軌跡情報から運転者2の心的状態が運転をするのに不適切な状態になって否かどうかをチェックして、不適切な状態になっている場合には、アラームを運転者に発して、運転者2による自動車1の運転を差し控えさせるようにする。したがって、交通事故の発生を未然に防止することができる。
しかも、上述の実施形態では、運転者2の状態(体調状態及び/又は心的状態)が運転をするのに不適切な状態になっている場合には、管理サーバ装置40からの制御信号により、当該運転者2の運転対象の自動車の走行を中止又は停止させるように制御するので、交通事故の発生を未然に防止することができる。
また、運転者2の心的状態は、運行日誌の筆記軌跡情報を用いてチェックするようにしているので、運転者2は、運行日誌を筆記入力するだけで良く、運転者2の心的状態のチェックのために運転者2に特別な負担をかける必要がないという効果がある。
その上、上述の第1の実施形態においては、運転者2の心的状態が、運転をするのに適切な状態であるか否かを、単に登録した特定パターン筆記軌跡情報について、適切であるときの情報との乖離からのみ判断するのではなく、感情サーバ装置50を用いて、筆記軌跡情報から推定される感情状態の把握結果をも参照するようにするので、運転をするのに適切な状態であるか否かを、より的確に判断することができるという効果もある。
なお、上述の実施形態では、感情サーバ装置50の感情推定用データベースには、各運転者2の特定パターン筆記軌跡情報から生成されるペン状態情報と感情状態との対応を記憶するようにしたが、感情推定用データベースの構築に当たっては、特的パターン筆記軌跡情報ではなく、他の筆記パターンの筆記軌跡情報を用いるようにしてもよい。
また、感情サーバ装置50が不特定多数の人の感情状態と、それぞれの感情状態のときの筆記軌跡情報から生成されるペン状態情報とから構築した感情推定用データベースを備えるようにしてもよい。この場合には、不特定多数の人の感情状態と、それぞれの感情状態のときの筆記軌跡情報から生成されるペン状態情報とが、いわゆるビックデータとして多量に収集されることで、感情サーバ装置50における感情状態の推定確度が向上する。
また、上述の第1の実施形態では、タブレット端末10が管理サーバ装置40との間での無線通信をする機能を備えるようにしたが、管理サーバ装置40と無線通信する機能を有する無線通信端末装置を、別途設けて、タブレット端末10と無線通信端末装置との間は、有線で接続する、あるいは近距離無線通信で接続するように構成してもよい。その場合の無線通信端末装置としては、例えばスマートフォンなどの携帯通信機器を用いることが可能であり、管理サーバ装置40からのアラームを、当該携帯通信機器の表示画面に表示すると共に、音声メッセージとして報知するようにしてもよい。
また、上述の第1の実施形態では、感情サーバ装置50は、管理サーバ装置40とは別個に構成するようにしたが、感情サーバ装置50の機能を管理サーバ装置40に設けて統合するように構成することもできる。
また、筆記軌跡情報取得手段の例として、上述の実施形態では、筆記具としてのボールペンの機能を有する電子ペン20と、運行日誌用紙6への電子ペン20による筆記と共に、電子データの筆記軌跡情報を生成することができる構成のタブレット端末10を用いるようにしたが、筆記軌跡情報取得手段は、運行日誌用紙6への筆記はできないが、電子データの筆記軌跡情報を取得することができる一般的な構成の電子ペン及びタブレット装置であっても良い。
また、上述の例では、運転者の生体情報は、心拍、体温、発汗を例示したが、その他、血圧、血糖、脈拍などを用いてもよく、更に、それらの組み合わせを用いてもよい。
[第2の実施形態]
第2の実施形態も、図1に示したタクシー会社が運営する操作者状態判断システムの場合の例であり、上述の第1の実施形態の変形例である。図15に、この第2の実施形態の操作者状態判断システムの概要を説明するための図を示す。
上述の第1の実施形態では、運転者2の生体情報として心拍、体温、発汗などを収集するようにしており、当該生体情報を取得するために、運転者2は、心拍センサや体温センサを備えているスマートウォッチ30を身に着けるようにした。これに対して、第2の実施形態では、運転者2の生体情報として、運転者2の顔画像を収集するようにする。この場合に、顔画像は、顔色、唇の色などを認識できるようにするため、カラー画像として取得するようにする。
また、上述の第1の実施形態では、運転者2のタブレット端末10が筆記軌跡情報のみではなく、生体情報も収集すると共に、管理サーバ装置40に、筆記軌跡情報及び生体情報を送信する無線通信手段を備えるようにした。これに対して、この第2の実施形態では、タクシーとしてサービスに利用される自動車1に、管理サーバ装置40Aと無線通信が可能である自動車用装置60を設ける。
なお、この第2の実施形態の管理サーバ装置40Aは、第1の実施形態の管理サーバ装置40と、感情サーバ装置50との機能を統合したものとして構成されている。そして、この管理サーバ装置40Aは、図示は省略するが、各運転者2の体調が良好な状態でのカラー顔画像の情報が、運転者IDに対応付けられて記憶されている生体情報データベースを備える。顔画像は、正面からのみでなく、左右側方からの複数の方向から撮影された顔画像を含むものである。そして、管理サーバ装置40Aは、特定パターン筆記軌跡情報データベースのみでなく、感情推定用データベースを備えるものである。
この第2の実施形態の管理サーバ装置40Aの生体情報解析部は、カメラ70で撮影された運転者2の、運行日誌の筆記軌跡情報の筆記入力時の顔画像と、予めデータベースに記憶されている運転者2の顔画像を比較することで、顔色が悪い、唇の色が紫色になっているなど、の体調の変調を検出するようにする。また、運転者2の顔画像から、その表情を解析して、苦しいときの顔の表情になっている、非常に疲労しているときの顔の表情などをも検出する。
そして、この第2の実施形態においては、自動車1の自動車用装置60には、運転席に乗車している運転者2の顔画像を撮影するためのカメラ70が接続されて設けられている。カメラ70は、自動車用装置60に有線あるいは無線で接続されており、自動車用装置60は、カメラ70の動作を制御して、当該カメラ70で撮影された運転者2の顔画像情報を取り込むようにする。
また、この第2の実施形態において、各運転者2が利用するタブレット端末10Aは、コントローラ部130は備えておらず、その代わりに、自動車用装置60に設けられる近距離無線通信部と無線接続する近距離無線通信部を備えている。タブレット端末10Aのその他の構成は、第1の実施形態のタブレット端末10と同様である。なお、この第2の実施形態においても、運転者2のそれぞれは、上述の第1の実施形態で用いた電子ペン20により、タブレット端末10Aに対して筆記入力を行うようにする。
タブレット端末10Aの構成及び処理動作は、コントローラ部130の部分を除くと、タブレット端末10と同様であるので、ここでは、電子ペン20の動作と共に、説明を省略する。また、管理サーバ装置40Aの構成及び処理動作は、感情サーバ装置50の構成部分を備えると共に、その機能処理動作をも実行することが異なるだけで、上述の第1の実施形態の管理サーバ装置40と同様であるので、ここでは、その説明は省略することとする。
そこで、この第2の実施形態においては、自動車用装置60の構成例及び処理動作について説明する。
<自動車用装置60のハードウェア構成例>
図16は、この第2の実施形態における自動車用装置60のハードウェア構成例を示すブロック図である。この図16の例の自動車用装置60は、コンピュータからなる制御部601に対して、システムバス600を通じて、近距離無線通信部602と、無線通信部603と、ユーザインタフェース部604と、送信情報生成部605と、受信情報解析部606と、走行制御部607とが接続されていると共に、システムバス600には、さらに、カメラ70が接続されている。
近距離無線通信部602は、タブレット端末10が備える近距離無線通信部と通信を行うためのものであり、この例では、ブルートゥース(登録商標)規格の無線通信部の構成とされている。無線通信部603は、通信ネットワーク5を通じて管理サーバ装置40Aと通信するためのものである。
ユーザインタフェース部604は、図示は省略するが、ディスプレイとスピーカとを備え、管理サーバ装置40Aからのアラームを表示したり、音声による放音を行う。
送信情報生成部605は、近距離無線通信部602を通じて取得したタブレット端末10Aからの筆記軌跡情報(ペンID付き)と、カメラ70から取得した運転者2の顔画像情報とから送信情報を生成し、生成した送信情報を無線通信部603を通じて管理サーバ装置40Aに送信する。
受信情報解析部606は、管理サーバ装置40Aから送られてくる情報を解析し、その解析結果に応じた処理を行う。受信情報解析部606は、管理サーバ装置40Aからのアラームを受信したと判別したときには、ユーザインタフェース部604に、受信したアラームをディスプレイに表示すると共に、スピーカからアラーム音声を放音するように制御すると共に、走行中止制御信号を走行制御部607に送る。
走行制御部607は、受信情報解析部606から走行中止制御信号を受け取ったときには、自車の走行を中止又は停止するように制御する。
なお、図16の自動車用装置60の構成例において、送信情報生成部605、受信情報解析部606及び走行制御部607の処理は、制御部601が、内蔵するメモリに記憶するプログラムにしたがって処理するソフトウェア機能として構成してもよい。
<自動車用装置60の処理動作例>
図17は、自動車用装置60の処理動作例を説明するためのフローチャートである。この図17のフローチャートの各ステップの処理は、以下の説明では、制御部601が、送信情報生成部605、受信情報解析部606及び走行制御部607の処理を、内蔵するメモリに記憶するプログラムにしたがって処理するソフトウェア機能として構成した場合として説明する。
制御部601は、近距離無線通信部602でタブレット端末10からの筆記軌跡情報を受信したか否か判別し(ステップS301)、筆記軌跡情報を受信してはいないと判別したときには、その他の処理を実行し(ステップS302)、その後、処理をステップS301に戻す。
ステップS301で、筆記軌跡情報を受信したと判別したときには、制御部601は、受信した筆記軌跡情報(時間情報付き)をペンIDに対応付けてバッファメモリに一時記憶保持する(ステップS303)。次に、カメラ70で撮影された運転者2の顔画像の撮影情報を取得し、バッファメモリに、筆記軌跡情報と対応付けて保持する(ステップS304)。

そして、制御部401は、タブレット端末10から筆記終了を受信したか否か判別し(ステップS305)、筆記終了を受信してはいないと判別したときには、処理をステップS301に戻し、このステップS301以降の処理を繰り返す。
また、ステップS305で、タブレット端末10から筆記終了を受信したと判別したときには、制御部401は、バッファメモリに記憶している運行日誌の筆記軌跡情報と、生体情報としての運転者2の顔画像の情報とを、ペンIDに対応付けた情報を、無線通信部603を通じ、通信ネットワーク5を通じて管理サーバ装置40Aに送信する(ステップS306)。
そして、制御部401は、管理サーバ装置40Aからアラームを受信したか否か判別し(ステップS307)、アラームを受信してはいないと判別したときには、通信終了要求を受信したか否か判別する(ステップS308)。このステップS308で、通信終了要求を受信してはいないと判別したときには、制御部401は、処理をステップS307に戻し、このステップS307以降の処理を繰り返す。そして、ステップS308で、通信終了要求を受信したと判別したときには、管理サーバ装置40Aとの無線通信処理の終了処理を行い(ステップS311)、この処理ルーチンを終了する。
また、ステップS307で、アラームを受信したと判別したときには、ユーザインタフェース部604のディスプレイにアラームを表示すると共に、スピーカによりアラーム音声を放音して、運転者2に、運転を休止あるいは停止するように警告すると共に、自車の走行を休止又は停止するように制御する(ステップS309)。そして、制御部401は、管理サーバ装置40Aから通信終了要求の受信を待ち(ステップS310)、通信終了要求を受信したと判別したときには、管理サーバ装置40Aとの無線通信路を切断する処理を実行する(ステップS311)。そして、この処理ルーチンを終了する。
この第2の実施形態の操作者状態判断システムにおいては、上述した第1の実施形態と同様の作用効果が得られると共に、運転者2は、スマートウォッチを装着する必要はなく、単に運行日誌の筆記軌跡情報を筆記入力をする操作をするだけで良いという効果が得られる。また、タブレット端末10は、生体情報を収集する機能を備える必要がないと共に、管理サーバ装置40Aとの無線通信機能を備える必要がないので、筆記軌跡情報を生成する機能を有するだけの簡単な構成とすることができるという効果を奏する。
[その他の実施形態又は変形例]
なお、上述の実施形態における電子ペン及びタブレット端末の位置検出装置部は、電磁誘導方式のものとしたが、これに限られるものではなく、例えばアクティブ静電方式の電子ペン及び位置検出装置部を用いることができるのは言うまでもない。
上述の第1の実施形態において収集する生体情報は、心拍や体温に限られるものではないことは勿論である。
また、上述の第1の実施形態及び第2の実施形態は、操作者が運転者で、操作対象の自動車は、タクシーの場合であるが、これに限定されるものではないことも言うまでもない。例えば、操作対象が荷物を運搬するトラックで、操作者がその運転者であってもよいし、操作対象がバスで、操作者がその運転者であってもよい。また、操作対象は、自動車に限られるものではなく、バイクや自転車であってもよい。
また、自動車は、陸上を走行するものに限らず、水陸両用車や空陸両用車でもよい。また、操作対象は、自動車ではなく、船舶や航空機であってもよい。
1…自動車、2…運転者、3…情報収集装置、4…判断装置、5…通信ネットワーク、10…タブレット端末、20…電子ペン、40…管理サーバ装置40…感情サーバ装置、60…自動車用装置

Claims (16)

  1. 操作対象装置を操作する操作者が、前記操作をするのに不適切な状態になっているかどうかを判断するための情報を収集する情報収集装置と、前記操作者が、前記操作をするのに不適切な状態になっているかどうかを判断する判断装置とを備える操作者状態判断システムであって、
    前記情報収集装置は、
    前記操作者に装着されて前記操作者の生体情報を取得する生体情報取得手段と、
    前記操作者による筆記入力を受け付けて、筆記入力に対応する筆記軌跡情報を取得する筆記軌跡情報取得手段と、
    前記生体情報取得手段で取得した前記生体情報と、前記筆記軌跡情報取得手段で取得した前記筆記軌跡情報とを前記判断装置に送信する送信手段と、
    を備え、
    前記判断装置は、
    前記情報収集装置から送信されてくる前記生体情報と前記筆記軌跡情報とを受信する受信手段と、
    前記受信手段で受信した前記生体情報に基づいて前記操作者の体調について判断する第1の判断手段と、
    前記受信手段で受信した前記筆記軌跡情報に基づいて前記操作者の心的状態について判断する第2の判断手段と、
    前記第1の判断手段の判断結果及び前記第2の判断手段の判断結果に基づいて、前記操作者が、前記操作をするのに不適切な状態になっているかどうかを判断する状態判断手段と、
    を備えることを特徴とする操作者状態判断システム。
  2. 前記筆記軌跡情報取得手段は、前記操作者が前記筆記入力を行うための電子ペンと、前記電子ペンによる指示位置を検出して、前記筆記軌跡情報を出力する位置検出装置とを備える
    ことを特徴とする請求項1に記載の操作者状態判断システム。
  3. 前記電子ペンは、用紙に筆記する筆記具の機能を備えており、
    前記位置検出装置は、前記電子ペンの前記筆記具の機能により前記用紙に筆記されたときの指示位置を検出する機能を備える
    ことを特徴とする請求項2に記載の操作者状態判断システム。
  4. 前記電子ペンは、筆圧検出手段を備えると共に、前記筆圧検出手段で検出した筆圧情報を前記位置検出装置に伝達する手段を備えており、
    前記位置検出装置から出力される前記筆記軌跡情報には、前記電子ペンによる指示位置の座標情報と、前記筆圧情報とを含む
    ことを特徴とする請求項2に記載の操作者状態判断システム。
  5. 前記位置検出装置は、前記電子ペンによる指示位置を検出したときの時間情報を取得する手段を備えていると共に、前記位置検出装置から出力される前記筆記軌跡情報には、前記電子ペンによる指示位置の座標情報と、前記指示位置の座標情報に対応する前記時間情報とを含む
    ことを特徴とする請求項2に記載の操作者状態判断システム。
  6. 前記電子ペンは、筆圧検出手段を備えると共に、前記筆圧検出手段で検出した筆圧情報を前記位置検出装置に伝達する手段を備えており、
    前記位置検出装置は、前記電子ペンによる指示位置を検出したときの時間情報を取得する手段を備えていると共に、前記位置検出装置から出力される前記筆記軌跡情報には、前記電子ペンによる指示位置の座標情報と、前記指示位置の座標情報に対応する前記時間情報と、前記筆圧情報とを含む
    ことを特徴とする請求項2に記載の操作者状態判断システム。
  7. 前記判断装置は、前記操作者により、予め定められた特定パターンの筆記軌跡が筆記入力されたときの特定パターン筆記軌跡情報を記憶している記憶手段を備えており、
    前記筆記軌跡情報取得手段は、前記操作者により筆記入力された前記特定パターンの筆記軌跡情報を取得するものであり、
    前記第2の判断手段は、前記情報収集装置から受信した情報に含まれる前記特定パターンの筆記軌跡情報と、前記記憶手段に記憶されている前記特定パターン筆記軌跡情報とを用いて前記操作者の心的状態についての判断を行う
    ことを特徴とする請求項1に記載の操作者状態判断システム。
  8. 前記電子ペンは、複数の前記操作者のそれぞれ毎に割り当てられており、前記位置検出装置に対して、それぞれの識別情報を伝達する機能を備え、
    前記位置検出装置は、前記電子ペンのそれぞれによる前記指示位置に基づく前記筆記軌跡情報を前記識別情報と対応付けて取得し、
    前記送信手段は、前記筆記軌跡情報は前記識別情報と対応付けて前記判断装置に送信し、
    前記判断装置は、前記操作者により、予め定められた特定パターンの筆記軌跡が筆記入力されたときの特定パターン筆記軌跡情報を、前記識別情報に対応付けて記憶している記憶手段を備えており、
    前記筆記軌跡情報取得手段は、前記操作者により筆記入力された前記特定パターンの筆記軌跡情報を前記識別情報と対応付けて取得するものであり、
    前記第2の判断手段は、前記情報収集装置から受信した情報に含まれる前記特定パターンの筆記軌跡の筆記軌跡情報と、前記記憶手段に記憶されている前記特定パターン筆記軌跡情報とを、同一の前記識別情報が付与されているもの同士を用いて前記操作者の心的状態についての判断を行う
    ことを特徴とする請求項2に記載の操作者状態判断システム。
  9. 前記操作者の生体情報は、前記操作者の心拍、血圧、血糖、体温、発汗のいずれか、または、それらの組み合わせを含み、前記生体情報取得手段は、前記操作者の腕に装着される
    ことを特徴とする請求項1に記載の操作者状態判断システム。
  10. 前記生体情報取得手段は、前記生体情報として前記操作者の顔画像を撮影して取得するカメラを含む
    ことを特徴とする請求項1に記載の操作者状態判断システム。
  11. 前記判断装置は、前記情報収集装置からの前記筆記軌跡情報から、前記操作者の筆記入力時の感情状態を推定する感情状態推定手段を備えており、前記状態判断手段は、前記感情状態推定手段で推定された前記操作者の感情の情報をも用いて、前記操作者が、前記操作をするのに不適切な状態になっているかどうかを判断する
    ことを特徴とする請求項1に記載の操作者状態判断システム。
  12. 前記感情状態推定手段は、筆記入力をしたときの筆記者の複数種の感情状態のそれぞれと、前記複数種の感情状態のそれぞれのときの筆記入力による筆記軌跡情報とが対応付けられて記憶されている感情状態データベースを備える
    ことを特徴とする請求項11に記載の操作者状態判断システム。
  13. 前記情報収集装置と前記判断装置とは、ネットワークを通じて無線で接続されている
    ことを特徴とする請求項1に記載の操作者状態判断システム。
  14. 前記ネットワークには、前記情報収集装置からの前記筆記軌跡情報から、前記操作者の筆記入力時の感情を推定する感情推定装置が接続されており、
    前記判断装置の前記状態判断手段は、前記感情推定装置からの前記操作者の推定された感情の情報をも用いて、前記操作者が、前記操作をするのに不適切な状態になっているかどうかを判断する
    ことを特徴とする請求項13に記載の操作者状態判断システム。
  15. 前記判断装置は、前記操作対象装置とネットワークを通じて無線接続されており、前記状態判断手段で前記操作者が、前記操作をするのに不適切な状態になっていると判断したときに、前記操作対象装置の動作を停止させる制御信号を前記ネットワークを通じて供給する手段を備える
    ことを特徴とする請求項1に記載の操作者状態判断システム。
  16. 前記判断装置は、前記操作者が備える通信装置とネットワークを通じて無線接続されており、前記状態判断手段で前記操作者が、前記操作をするのに不適切な状態になっていると判断したときに、前記通信装置にアラームを前記ネットワークを通じて送信する
    ことを特徴とする請求項1に記載の操作者状態判断システム。
JP2021524721A 2019-06-06 2020-05-08 操作者状態判断システム Active JP7646544B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019105778 2019-06-06
JP2019105778 2019-06-06
PCT/JP2020/018596 WO2020246198A1 (ja) 2019-06-06 2020-05-08 操作者状態判断システム

Publications (3)

Publication Number Publication Date
JPWO2020246198A1 JPWO2020246198A1 (ja) 2020-12-10
JPWO2020246198A5 JPWO2020246198A5 (ja) 2022-03-03
JP7646544B2 true JP7646544B2 (ja) 2025-03-17

Family

ID=73652792

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021524721A Active JP7646544B2 (ja) 2019-06-06 2020-05-08 操作者状態判断システム

Country Status (3)

Country Link
US (1) US20220091673A1 (ja)
JP (1) JP7646544B2 (ja)
WO (1) WO2020246198A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020069517A2 (en) 2018-09-30 2020-04-02 Strong Force Intellectual Capital, Llc Intelligent transportation systems
US11631151B2 (en) 2018-09-30 2023-04-18 Strong Force Tp Portfolio 2022, Llc Intelligent transportation systems
JP7807407B2 (ja) * 2023-02-02 2026-01-27 株式会社日立製作所 心理特性推定システム及び方法
JPWO2024224575A1 (ja) * 2023-04-27 2024-10-31
US12481362B2 (en) * 2024-01-23 2025-11-25 Nicholas Gordon Bruns Systems and methods for an assistive brain computer interface for digital stylus inputs

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008056691A1 (en) 2006-11-07 2008-05-15 Aisin Seiki Kabushiki Kaisha Physical condition management system
JP2009055934A (ja) 2007-08-29 2009-03-19 Nippon Auto-Photo Kk 生体情報登録装置
JP2009532239A (ja) 2006-04-04 2009-09-10 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表現ペン
US20130275459A1 (en) 2012-04-11 2013-10-17 Research In Motion Limited Systems and Methods for Searching for Analog Notations and Annotations
US20150002485A1 (en) 2013-06-28 2015-01-01 Lenovo (Singapore) Pte. Ltd. Modifying stylus input or response using inferred emotion
JP2015148947A (ja) 2014-02-06 2015-08-20 ソニー株式会社 情報処理システム、情報処理方法、及びプログラム
JP2016137204A (ja) 2015-01-29 2016-08-04 マツダ株式会社 車両用乗員感情対応制御装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5587560A (en) * 1995-04-10 1996-12-24 At&T Global Information Solutions Company Portable handwritten data capture device and method of using
US20060028429A1 (en) * 2004-08-09 2006-02-09 International Business Machines Corporation Controlling devices' behaviors via changes in their relative locations and positions
US9329767B1 (en) * 2010-06-08 2016-05-03 Google Inc. User-specific customization based on characteristics of user-interaction
US10032065B2 (en) * 2013-10-25 2018-07-24 Wacom Co., Ltd. Dynamic handwriting verification, handwriting-based user authentication, handwriting data generation, and handwriting data preservation
US9956963B2 (en) * 2016-06-08 2018-05-01 GM Global Technology Operations LLC Apparatus for assessing, predicting, and responding to driver fatigue and drowsiness levels

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009532239A (ja) 2006-04-04 2009-09-10 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表現ペン
WO2008056691A1 (en) 2006-11-07 2008-05-15 Aisin Seiki Kabushiki Kaisha Physical condition management system
JP2009055934A (ja) 2007-08-29 2009-03-19 Nippon Auto-Photo Kk 生体情報登録装置
US20130275459A1 (en) 2012-04-11 2013-10-17 Research In Motion Limited Systems and Methods for Searching for Analog Notations and Annotations
US20150002485A1 (en) 2013-06-28 2015-01-01 Lenovo (Singapore) Pte. Ltd. Modifying stylus input or response using inferred emotion
JP2015148947A (ja) 2014-02-06 2015-08-20 ソニー株式会社 情報処理システム、情報処理方法、及びプログラム
JP2016137204A (ja) 2015-01-29 2016-08-04 マツダ株式会社 車両用乗員感情対応制御装置

Also Published As

Publication number Publication date
JPWO2020246198A1 (ja) 2020-12-10
US20220091673A1 (en) 2022-03-24
WO2020246198A1 (ja) 2020-12-10

Similar Documents

Publication Publication Date Title
JP7646544B2 (ja) 操作者状態判断システム
CN106249869B (zh) 具有与用户神经系统的接口的标记读取系统
US12202489B2 (en) Information processing device, moving apparatus, method, and program
US11027608B2 (en) Driving assistance apparatus and driving assistance method
CN109643160B (zh) 坐标输入处理装置、感情推定装置、系统及构建装置
CN106448259B (zh) 一种车辆预警的方法、装置及系统
US20040085203A1 (en) Distributed apparatus to improve safety and communication for law enforcement applications
CN106218405A (zh) 疲劳驾驶监控方法及云端服务器
US20190209100A1 (en) In-vehicle user health platform systems and methods
Melnicuk et al. Towards hybrid driver state monitoring: Review, future perspectives and the role of consumer electronics
JP2019004924A (ja) システム及び方法
JP6488188B2 (ja) 運転支援プログラム、運転支援方法および運転支援装置
Abulkhair et al. Mobile platform detect and alerts system for driver fatigue
CN107085937A (zh) 一种无人驾驶出租车乘客危急情况的应对系统及方法
KR102533993B1 (ko) 복수의 생체 신호에 기반하여 건강 정보를 생성하는 전자 장치 및 이의 동작 방법
US20200391754A1 (en) Driver assistance device that can be mounted on a vehicle
CN111191752A (zh) 一种基于大数据分析的多功能智能手环
JP6850764B2 (ja) 安全運転支援システム
Shubham et al. IoT-based car driver assistance system using computer vision and machine learning
Mabry et al. Commercial motor vehicle operator fatigue detection technology catalog and review
Brown et al. Yawning detection using earphone inertial measurement units
CN112307813A (zh) 一种智能虚拟管家系统及车辆
SK392020A3 (sk) Volant na monitorovanie vitálnych funkcií vodiča
JP2024066587A (ja) 乗り物用の指紋認証及び血中濃度検出システム
SK9278Y1 (sk) Volant na monitorovanie vitálnych funkcií vodiča

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210929

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240904

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250305

R150 Certificate of patent or registration of utility model

Ref document number: 7646544

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150