JP2017227941A - プログラム、情報処理装置、及びアイウエア - Google Patents

Abstract

【課題】瞬目や視線移動の誤検出を防止する。【解決手段】加速度センサ及び／又は角速度センサにより検出されるセンサ信号、及び眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得ステップと、眼電図信号に基づいて、瞬目又は視線移動の検出処理を行う検出ステップと、センサ信号が所定パターンであるか否かを判定する判定ステップと、センサ信号が所定パターンであると判定された場合、検出処理を停止する停止ステップと、をコンピュータに実行させるプログラム。【選択図】図８

Description

本発明は、プログラム、情報処理装置、及びアイウエアに関する。

眼鏡のフレームに取り付けられた眼電図を入力するための電極や、加速度センサ、角速度センサを設けるアイウエアが知られている（例えば、特許文献１参照）。

米国特許出願公開第２００４／００７０７２９号明細書

しかしながら、眼周辺に各電極を接触させ、各電極が検出した眼電図信号を用いて瞬目や視線移動を検出する場合、眼鏡を着用したユーザの行動の種類によってはノイズが眼電図信号に混入してしまい、瞬目や視線移動の誤検出が発生してしまうという問題点があった。

そこで、本発明は、瞬目や視線移動の誤検出を防止することを目的とする。

本発明の一態様におけるプログラムは、加速度センサ及び／又は角速度センサにより検出される、対象者の動きを示すセンサ信号、及び前記対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得ステップと、前記眼電図信号に基づいて、瞬目又は視線移動の検出処理を行う検出ステップと、前記センサ信号が所定パターンであるか否かを判定する判定ステップと、前記センサ信号が前記所定パターンであると判定された場合、前記検出処理を停止する停止ステップと、をコンピュータに実行させる。

本発明によれば、瞬目や視線移動の誤検出を防止することができる。

実施例におけるメガネの前方からの一例を示す斜視図である。 実施例におけるメガネの後方からの一例を示す斜視図である。 実施例における処理装置の一例を示すブロック図である。 使用者に対する電極の接触位置を概略的に示す図である。 実施例における増幅部の構成の一例を示す図である。 バッファアンプを設ける理由を説明するための図である。 実施例における増幅部の構成の他の例を示す図である。 実施例における外部装置の構成の一例を示すブロック図である。 歩行時の眼電図信号及びセンサ信号の一例を示す図である。 眼の垂直方向の動きを示す眼電図信号の一例を示す図である。 実施例における瞬目、視線移動の検出処理に関する処理の一例を示すフローチャートである。 実施例における瞬目検出処理の一例を示すフローチャートである。

以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、以下の図面の記載において、同一または類似の部分には同一または類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。

［実施例］
図１は、実施例におけるメガネ１００の前方からの一例を示す斜視図である。図２は、実施例におけるメガネ１００の後方からの一例を示す斜視図である。メガネ１００は、レンズ１１０及びフレーム１２０を備える。メガネ１００及びフレーム１２０は、アイウエアの一例である。

フレーム１２０は、一対のレンズ１１０を支持する。フレーム１２０は、リム１２２と、眉間部（例えばブリッジ）１２４と、ヨロイ１２６と、丁番１２８と、テンプル１３０と、モダン１３２と、一対のノーズパッド１４０と、第１電極１５２と、第２電極１５４と、第３電極１５６と、電線（不図示）と、処理装置２００と、増幅部２５０とを有する。なお、メガネ１００の種類によっては、一枚レンズを用いることでフレームのブリッジ部分がない場合がある。この場合、一枚レンズの眉間部分を眉間部とする。

一対のノーズパッド１４０は、右ノーズパッド１４２及び左ノーズパッド１４４を含む。リム１２２、ヨロイ１２６、丁番１２８、テンプル１３０、及びモダン１３２は、それぞれ左右一対に設けられる。

リム１２２は、レンズ１１０を保持する。ヨロイ１２６は、リム１２２の外側に設けられ、丁番１２８によりテンプル１３０を回転可能に保持する。テンプル１３０は、使用者の耳の上部を押圧して、この部位を挟持する。モダン１３２は、テンプル１３０の先端に設けられる。モダン１３２は、使用者の耳の上部に接触する。なお、モダン１３２は、必ずしもメガネ１００に設ける必要はない。

第１電極１５２及び第２電極１５４は、一対のノーズパッド１４０のそれぞれの表面に設けられ、眼電位を検出する。例えば、第１電極１５２は、右ノーズパッド１４２に設けられ、第２電極１５４は、左ノーズパッド１４４に設けられる。

第１電極１５２は、使用者の右眼の眼電位を検出する。第２電極１５４は、使用者の左眼の眼電位を検出する。このように、眼電位を検出するための電極を、使用者の皮膚に必然的に接触するノーズパッドの表面に設ける。これにより、使用者の眼の周囲に二対の電極を接触させるのに比べて、使用者の皮膚に与える負担を軽減することができる。

第３電極１５６は、眉間部１２４の表面に設けられ、眼電位を検出する。接地電極（不図示）は、モダン１３２の表面に設けられるとする。メガネ１００にモダン１３２がない場合は、接地電極は、テンプル１３０の先に設けられる。実施例において、第１電極１５２、第２電極１５４及び第３電極１５６が検出する電位は、接地電極が検出する電位を基準としてもよい。

処理装置２００は、例えば、テンプル１３０に設けてもよい。これにより、メガネ１００を正面から見たときのデザイン性を損なうことがない。処理装置２００の設置位置は、必ずしもテンプル１３０である必要はないが、メガネ１００を装着した際のバランスを考慮して位置決めすればよい。処理装置２００は、電線を介して増幅部２５０に接続される。なお、処理装置２００と、増幅部２５０とは、無線を介して接続されてもよい。

増幅部２５０は、第１電極１５２、第２電極１５４及び第３電極１５６の近傍に設けられ、増幅対象の各電極と電線を介して接続される。増幅部２５０は、各電極が検出した眼電位を示す眼電図信号を取得する。例えば、増幅部２５０は、第１電極１５２、第２電極１５４及び第３電極１５６により検出された眼電位を示す眼電図信号を増幅する。

また、増幅部２５０は、眼電図信号を処理する処理部を有していれば、増幅する前又は増幅した後の各眼電図信号に対し、加減処理を行ってもよい。例えば、増幅部２５０は、第３電極１５６を基準とした第１電極１５２の電位を示す基準眼電図信号を求めてもよい。また、増幅部２５０は、第３電極１５６を基準とした第２電極１５４の電位を示す基準眼電図信号を求めてもよい。増幅部２５０により増幅又は処理された信号は、処理装置２００に出力される。

外部装置３００は、通信機能を有する情報処理装置である。例えば、外部装置３００は、使用者が所持する携帯電話及びスマートフォン等の携帯通信端末等である。外部装置３００は、送信部２２０から受信した眼電図信号に基づく処理を実行する。例えば、外部装置３００は、受信した眼電図信号から、瞬目や視線移動を検出する。瞬目を検出する場合の応答として、外部装置３００は、使用者の瞬目の回数が増加していることを検出した場合などに、居眠りを防止するための警告を発する。外部装置３００の詳細については後述する。

＜処理装置の構成＞
図３は、実施例における処理装置２００の一例を示すブロック図である。図３に示すように、処理装置２００は、処理部２１０、送信部２２０、電源部２３０、及びモーションセンサ２４０を有する。第１電極１５２、第２電極１５４、第３電極１５６は、例えば増幅部２５０を介して処理部２１０に接続される。

処理部２１０は、増幅部２５０から増幅された眼電図信号を取得し、処理する。例えば、処理部２１０は、第３電極１５６を基準とした第１電極１５２の電位を示す基準眼電図信号を処理してもよい。なお、基準眼電図信号は、説明の便宜上「基準」を付したが、眼電図信号に含まれる。また、処理部２１０は、第３電極１５６を基準とした第２電極１５４の電位を示す基準眼電図信号を処理してもよい。

このとき、処理部２１０は、右眼及び左眼において、各電極から検出された眼電位に基づいて、眼の垂直方向及び／又は水平方向の動きを示す眼電図信号となるように処理を行ってもよい。

他にも、処理部２１０は、取得した眼電図信号がデジタル化されていなければ、デジタル化処理を行ったり、各電極から増幅された眼電図信号を取得した場合には、眼電図信号の加減処理を行ったりする。また、処理部２１０は、増幅部２５０から取得した眼電図信号をそのまま送信部２２０に送信してもよい。

送信部２２０は、処理部２１０によって処理された眼電図信号を外部装置３００に送信する。例えば、送信部２２０は、Ｂｌｕｅｔｏｏｔｈ（登録商標）及び無線ＬＡＮ等の無線通信、又は有線通信によって眼電図信号を外部装置３００に送信する。電源部２３０は、処理部２１０、送信部２２０、モーションセンサ２４０及び増幅部２５０に電力を供給する。

モーションセンサ２４０は、メガネ１００を装着した使用者の動きを検出するセンサである。モーションセンサ２４０は、例えば、３軸加速度センサ及び／又は３軸角速度センサであり、好ましくは、加速度及び角速度が検知可能な６軸センサである。モーションセンサ２４０により検出された信号（以下、センサ信号ともいう。）は、送信部２２０に出力され、送信部２２０によって、外部装置３００に送信される。なお、モーションセンサ２４０は、外部装置３００と通信可能であれば、メガネ１００とは別体に設けられてもよい。

図４は、使用者に対する電極の接触位置を概略的に示す図である。第１接触位置４５２は、第１電極１５２の接触位置を表す。第２接触位置４５４は、第２電極１５４の接触位置を表す。第３接触位置４５６は、第３電極１５６の接触位置を表す。水平中心線４６０は、右眼４０２の中心と左眼４０４の中心とを結んだ水平方向の中心線を表す。垂直中心線４６２は、右眼４０２と左眼４０４との中心において水平中心線４６０と直交する中心線を表す。

第１接触位置４５２及び第２接触位置４５４は、水平中心線４６０よりも下側に位置することが望ましい。また、第１接触位置４５２及び第２接触位置４５４は、第１接触位置４５２と第２接触位置４５４との中心を結ぶ線分が、水平中心線４６０と平行になるべく配置されることが望ましい。

また、第１接触位置４５２及び第２接触位置４５４は、第１接触位置４５２から右眼４０２への距離と、第２接触位置４５４と左眼４０４との距離が等しくなるべく配置されることが望ましい。また、第１接触位置４５２及び第２接触位置４５４は、互いに一定の距離以上離間していることが望ましい。

第３接触位置４５６は、垂直中心線４６２上に位置することが望ましい。また、第３接触位置４５６は、水平中心線４６０よりも上側であって、第１接触位置４５２及び第２接触位置４５４から離れた位置であることが望ましい。また、例えば、第３接触位置４５６と右眼４０２との距離は、右眼４０２と第１接触位置４５２との距離よりも離間させ、左眼４０４との距離は、左眼４０４と第２接触位置４５４との距離よりも離間させてよい。

眼球は、角膜側が正に帯電しており、網膜側が負に帯電している。したがって、視線が上に移動した場合、第３電極１５６を基準とした第１電極１５２の電位及び第３電極１５６を基準とした第２電極１５４の電位が負となる。視線が下に移動した場合、第３電極１５６を基準とした第１電極１５２の電位及び第３電極１５６を基準とした第２電極１５４の電位が正となる。

視線が右に移動した場合、第３電極１５６を基準とした第１電極１５２の電位が負となり、第３電極１５６を基準とした第２電極１５４の電位が正となる。視線が左に移動した場合、第３電極１５６を基準とした第１電極１５２の電位が正となり、第３電極１５６を基準とした第２電極１５４の電位が負となる。

第３電極１５６を基準とした第１電極１５２の電位及び第３電極１５６を基準とした第２電極１５４の電位を検出することによって、好適にノイズの影響を軽減することができる。第３接触位置４５６を第１接触位置４５２及び第２接触位置４５４から可能な限り離間させるべく、眉間部１２４は、リム１２２の上端又はその近傍に配置されてもよい。また、眉間部１２４の中心よりも上側に第３電極１５６は設けられてもよい。この場合、第３電極１５６の配置位置として、縦幅の広い眉間部１２４を採用することが望ましい。

なお、処理部２１０は、第３電極１５６を基準とした第１電極１５２の電位を検出する代わりに、基準電極を基準とした第１電極１５２の電位から、基準電極を基準とした第３電極１５６の電位を減じてもよい。そして同様に、処理部２１０は、第３電極１５６を基準とした第２電極１５４の電位を検出する代わりに、基準電極を基準とした第２電極１５４の電位から、基準電極を基準とした第３電極１５６の電位を減じてもよい。

基準電極としては、接地電極を用いてもよい。また、メガネ１００の、第１電極１５２、第２電極１５４及び第３電極１５６から離間した位置に、別途基準電極を設けてもよい。例えば、基準電極は、右側のモダン１３２に設けられてもよい。また、基準電極は、右側のテンプル１３０の使用者の肌に接する部位に設けられてもよい。

なお、基準電極を基準とした第１電極１５２の電位から第３電極１５６の電位を減じる処理、及び基準電極を基準とした第２電極１５４の電位から第３電極１５６の電位を減じる処理は、処理部２１０が実行してもよく、増幅部２５０又は外部装置３００が実行してもよい。この場合、処理対象の電位を示す信号は、増幅部２５０により増幅されている。

＜増幅部の構成＞
次に、増幅部２５０の構成について説明する。図５は、実施例における増幅部２５０の構成の一例を示す図である。図５に示すように、増幅部２５０は、第１アンプ２６０及び第２アンプ２７０を有する。第１アンプ２６０は、第２アンプ２７０の前段に位置し、バッファアンプとして機能するアンプである。以下、第１アンプ２６０をバッファアンプ２６０とも称する。第２アンプ２７０は、メインのアンプとして機能するアンプである。以下、第２アンプ２７０は、メインアンプ２７０とも称する。メインアンプ２７０により増幅された信号は処理装置２００に有線又は無線を用いて出力される。

増幅部２５０の設置位置は、眉間部１２４部分であることが望ましい。なお、増幅部２５０は、眉間部１２４に埋め込むようにして設けてもよい。前述したとおり、各電極は可能な限り離間させた方が望ましいが、各電極の設置位置はフレーム１２０の形状に依存してしまうため、離間させるにしても限界がある。

このため、各電極の電位差が十分な大きさにならない場合があり、各電極で検出された小さい電位を示す眼電図信号にノイズが混入してしまうと、十分な精度の電位を検出することが困難になってしまう。

そこで、実施例においては、検出された眼電図信号にノイズが混入する前に増幅することを目的として、増幅部２５０は、第１電極１５２、第２電極１５４及び第３電極１５６の近傍に設けられる。例えば、増幅部２５０は、各電極に近く、比較的フレーム１２０にスペースが存在する眉間部１２４部分に設けることが好ましい。これにより、各電極により検出された眼電図信号が電線を通過する間に、ノイズが混入して眼電図信号の精度を低下させるリスクを減らすことができる。

次に、メインアンプ２７０の前段の位置にバッファアンプ２６０を設ける理由を、図６を用いて説明する。図６は、バッファアンプ２６０を設ける理由を説明するための図である。図６に示す例は、第３電極１５６を用いるが、第１電極１５２及び第２電極１５４においても同様である。

第３電極１５６は、メガネ１００を装着した際、人肌に触れるため、グランドとの間に抵抗Ｒ₀が存在すると考えてよい。このとき、抵抗Ｒ₀は、例えば数１００ｋΩである。また、メインアンプ２７０には、内部抵抗Ｒ₁が存在する。このとき、メインアンプ２７０として通常のアンプを用いると、内部抵抗Ｒ₁は、数１０ｋΩ〜数１００ｋΩである。

ここで、理想的にはメインアンプ２７０に電流が流れ込まないことであるが、内部抵抗Ｒ₁が抵抗Ｒ₀よりも小さいと、電流がメインアンプ２７０側に流れ込む。そうすると、電極の電圧Ｖｉとメインアンプ２７０の電圧Ｖｘとが分圧されて観測されてしまう。そこで、メインアンプ２７０の前段の位置にバッファアンプ２６０を設けてメインアンプ２７０側に電流が流れ込まないようにする。

図７は、実施例における増幅部の構成の他の例を示す図である。図７に示す増幅部は、符号２５０Ａと表記される。増幅部２５０Ａは、バッファアンプ２６０、メインアンプ２７０、Ａ／Ｄ変換部２８０、及び無線通信部２９０を有する。バッファアンプ２６０及びメインアンプ２７０は、図５に示す機能と同様であるため、以下では、Ａ／Ｄ変換部２８０及び無線通信部２９０について主に説明する。

Ａ／Ｄ変換部２８０は、メインアンプ２７０により増幅された信号をアナログからデジタルに変換する。Ａ／Ｄ変換部２８０は、デジタル変換した信号を無線通信部２９０に出力する。

無線通信部２９０は、Ａ／Ｄ変換部２８０により変換されたデジタル信号を、無線通信を用いて処理装置２００に送信する。よって、無線通信部２９０は、送信部として機能する。無線通信部２９０は、例えばＢｌｕｅｔｏｏｔｈ（登録商標）及び無線ＬＡＮ等の無線通信を用いる。また、無線通信部２９０は、外部装置３００にデジタル信号を直接送信してもよい。

なお、実施例では、バッファアンプ２６０及びメインアンプ２７０を１つ設ける例を示したが、この場合は各電極からの眼電図信号に対して順番を決めて増幅していけばよい。また、各電極それぞれにバッファアンプ２６０及びメインアンプ２７０を設けてもよい。

＜外部装置の構成＞
次に、外部装置３００の構成について説明する。図８は、実施例における外部装置３００の構成の一例を示すブロック図である。図８に示すように、外部装置３００は、通信部３１０、記憶部３２０、及び制御部３３０を有する。

通信部３１０は、Ｂｌｕｅｔｏｏｔｈ（登録商標）及び無線ＬＡＮ等の無線通信、又は有線通信によって眼電図信号やセンサ信号を受信する。通信部３１０は、処理装置２００の通信部２２０から受信した眼電図信号やセンサ信号を制御部３３０に出力する。

制御部３３０は、例えばＣＰＵ（Central Processing Unit）であり、各部の制御を行ったり、各種の演算処理を行ったりする。図８に示す例では、制御部３３０は、取得部３４０、判定部３４２、検出部３４６を有する。

取得部３４０は、加速度センサ及び／又は角速度センサにより検出される、対象者の動きを示すセンサ信号、及び対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する。取得部３４０は、例えば、通信部３１０が受信した眼電図信号やセンサ信号を取得すると、眼電図信号を検出部３４６に出力し、センサ信号を判定部３４２に出力する。なお、対象者の動きとは、対象者の直接的な動きでもよいし、乗り物などに乗ることによる間接的な動きでもよい。

制御部３３０は、取得された眼電図信号に対し、垂直方向及び水平方向の眼の動きを示す眼電図信号の極大値及び極小値を記憶部３２０に記憶するようにする。また、制御部３３０は、所定期間毎に、垂直方向及び水平方向の眼の動きを示す眼電図信号の最大値及び／又は最小値を記憶部３２０に記憶するようにしてもよい。所定期間は、例えば２００ｍｓｅｃとするが、この限りではない。また、所定期間は、時間窓を用いることで重複を許して時間的に変動するようにしてもよい。また、制御部３３０は、取得されたセンサ信号を記憶部３２０に記憶してもよい。ここでいう垂直方向とは、顔を基準とした頭の上から下までの方向をいい、水平方向とは、垂直方向に直交する方向をいう。

記憶部３２０は、例えば、ＲＡＭ（Random Access Memory）であり、垂直方向及び水平方向の眼電図信号の極大値（又は所定期間毎の最大値）及び／又は極小値（又は所定期間毎の最小値）を記憶する。例えば、記憶部３２０は、極大値用のＦＩＦＯバッファと、極小値用のＦＩＦＯバッファとを有する。ＦＩＦＯバッファは、極大値または極小値のデータにより記憶容量が一杯になったときは、最も古いデータが消去されて最新のデータが記憶されることにより、記憶領域に記憶されるデータが更新される。また、記憶部３２０は、センサ信号を記憶してもよい。

また、記憶部３２０は、後述する瞬目検出処理や視線移動検出処理をコンピュータに実行させるプログラムを記憶する。このプログラムは、インターネット、又はＳＤカードなどの記録媒体を介して外部装置３００にインストールされてもよいし、プリインストールされていてもよい。また、このプログラムを記憶する記憶部は、記憶部３２０とは別であってもよい。

判定部３４２は、取得部３４０から取得したセンサ信号に基づいて、メガネ１００を着用した使用者（ユーザ）の動作が所定動作であるか否かを判定する。所定動作とは、例えば、歩行、走行、咳、くしゃみ、頷き、頭を振るなどの瞬目や視線移動の検出が困難になる動作である。判定部３４２は、センサ信号に基づいて動作判定を行うために、認識部３４４を有する。

認識部３４４は、パターン認識を行うことで、所定動作を認識する。例えば、認識部３４４は、歩行、走行、咳、くしゃみ、頷き、頭を振るなどのセンサ信号のそれぞれのパターンを学習し、記憶部３２０に記憶しておく。認識部３４４は、取得されたセンサ信号が、学習していた１つ又は複数のパターンにマッチングするかを判定する。認識部３４４は、マッチングしたパターンから動作を認識する。認識部３４４におけるパターンマッチングの技術は、公知の技術を適用することができる。

判定部３４２は、認識部３４４によりセンサ信号が所定パターンであると認識された場合、センサ信号に基づく使用者の動作が所定動作であると判定し、認識部３４４により所定パターンが識別されなかった場合、センサ信号に基づく使用者の動作が所定動作ではないと判定する。判定部３４２は、判定結果に基づく制御信号を検出部３４６に出力する。制御信号は、例えば、センサ信号が所定動作でない場合は実行信号であり、センサ信号が所定動作である場合は停止信号である。

なお、判定部３４２は、パターン認識以外にも、センサ信号が単純に閾値を超えるか否かの判定を行ってもよい。この場合、判定部３４２は、閾値を超えた場合が所定動作を行っていると判定する。この閾値は、異常なセンサ信号を検出するために用いられる値であり、通常のセンサ信号の振幅よりも大きな値が設定される。

検出部３４６は、判定部３４２の判定結果に応じて、取得部３４０から取得した眼電図信号に基づく瞬目又は視線移動の検出処理を実行する、又は停止する。検出部３４６は、センサ信号が所定パターンである、つまり、使用者の動作が所定動作であると判定された場合、検出処理を停止する。また、検出部３４６は、センサ信号が所定パターンではないと判定された場合、つまり、使用者の動作が所定動作ではないと判定された場合、検出処理を行う。具体的には、検出部３４６は、判定部３４２から、制御信号である実行信号を取得したときには検出処理を行い、判定部３４２から、制御信号である停止信号を取得したときには検出処理を停止する。

これにより、使用者が、多くのノイズが混入する可能性が高い所定動作を行っているときに、瞬目又は視線移動の検出処理を停止することで、誤検出を防止することができる。また、検出処理の停止は、省電力にも寄与する。

検出部３４６は、検出処理を停止した後に、所定パターンではないと判定されてから所定時間が経過するまで、検出処理の停止を継続してもよい。つまり、検出部３４６は、一旦検出処理を停止すると、検出処理が可能な状態になっても、検出処理を所定時間停止しておく。

これにより、判定結果が、センサ信号が所定パターンである（肯定）からセンサ信号が所定パターンではない（否定）になった場合に、所定動作によって不安定になっている眼電図信号を用いてすぐに検出処理を行わなくてすむ。また、眼電図信号が安定するまで検出処理を停止させておくことができる。その結果、瞬目や視線移動の誤検出を防止することができる。この所定時間は、所定パターン又は所定動作に応じて変更してもよい。所定時間は、事前の実験等により、各パターンや動作に応じて、眼電図信号が安定するまでの適切な時間が設定されていればよい。

次に、使用者が歩行しているときの眼電図信号及びセンサ信号を具体例として、検出処理の停止について説明する。図９は、歩行時の眼電図信号及びセンサ信号の一例を示す図である。

図９（Ａ）は、歩行時の垂直方向の眼の動きを示す眼電図信号Ｓ１を示す。図９に示す期間Ｗ１は、使用者が歩行している期間を示す。図９（Ａ）に示すように、歩行時の眼電図信号Ｓ１は、振幅が大きくなっており、瞬目や視線移動を検出することができる状態ではない。この期間Ｗ１に瞬目や視線移動の検出処理を行ってしまうと、眼電図信号Ｓ１が瞬目や視線移動の判定閾値を超えることで、多くの瞬目や視線移動が検出され、誤検出が発生してしまう。なお、縦軸の眼電強度は、眼電位の強度を示す単位であり、例えば眼電図信号の計測値×１．５（Ｖ）÷２０４８などで表される。

図９（Ｂ）は、歩行時の上下方向の加速度を示すセンサ信号Ｓ２を示す。期間Ｗ１において、使用者が歩行することで、上下方向の加速度を示すセンサ信号Ｓ２が大きく振れることになる。よって、このセンサ信号Ｓ２の動きのパターンを学習しておくことで、判定部３４２は、使用者の歩行を認識することができる。なお、図９（Ｂ）に示すグラフの縦軸の値は、加速度を表す値である。

なお、図９に示す例では、歩行の場合を例に用いて説明したが、走行、咳、くしゃみ、頷き、頭を振るなどの動作についても、図９と同様にして、判定部３４２がセンサ信号のパターンを認識しておけばよい。なお、判定部３４２は、センサ信号について、上下方向の加速度だけではなく、角速度の信号も用いることで、認識精度を高めるようにしてもよい。

≪視線移動検出≫
次に、視線移動の検出について説明する。検出部３４６は、公知の方法を用いて視線移動を検出すればよい。例えば、検出部３４６は、取得した眼電図信号から右眼電図と、左眼電図とに分けて、右眼電図及び左眼電図で負の電位が示された場合には視線が上を向いたことを検出する。また、検出部３４６は、右眼電図及び左眼電図で正の電位が示された場合には視線が下、右眼電図で負の電位が示され左眼電図で正の電位が示された場合には視線が右、右眼電図で正の電位が示され左眼電図で負の電位が示された場合には視線が左に向いたことを検出する。

さらに、検出部３４６は、右眼電図が示す電位Ｖ１と左眼電図が示す電位Ｖ２とを加減算することによって、視線の検出精度を高めることができる。例えば、Ｖ１＋Ｖ２が負であり、Ｖ１−Ｖ２が略ゼロの場合は、視線が上に向けられたと検出できる。Ｖ１＋Ｖ２が正であり、Ｖ１−Ｖ２が略ゼロの場合は、視線が下に向けられたと判断できる。Ｖ１＋Ｖ２が略ゼロであり、Ｖ１−Ｖ２が負の場合は、視線が右に向けられたと判断できる。Ｖ１＋Ｖ２が略ゼロであり、Ｖ１−Ｖ２が正の場合は、視線が左に向けられたと判断できる。Ｖ１とＶ２とを加減算することにより、算出される正の値及び負の値が大きくなる。したがって、その分閾値を大きく設定することができるので、ノイズを誤って視線移動として検出してしまう誤検出を低減できる。

≪瞬目検出≫
つぎに、瞬目検出について説明する。検出部３４６は、眼電図信号を用いた公知の瞬目検出アルゴリズムを用いることができるが、本実施例では、瞬目判定に用いる閾値を可変にするアルゴリズムについて説明する。検出部３４６は、閾値算出部３５０を有する。

閾値算出部３５０は、記憶部３２０に記憶された極大値及び／又は極小値を用いて閾値を算出する。閾値算出部３５０は、例えば処理を簡略化するため、極大値又は極小値の絶対値の平均値等から閾値の絶対値を算出してもよい。

また、閾値算出部３５０は、記憶部３２０に記憶された極大値を用いて第１閾値を算出し、また、記憶部３２０に記憶された極小値を用いて第２閾値を算出してもよい。ここで、第１閾値は、眼が垂直方向の上に動いたことを判定するために用いられ、第２閾値は、眼が垂直方向の下に動いたことを判定するために用いられる。これにより、上方向の眼の動き、下方向の眼の動きそれぞれに閾値を設定できるので、適切な閾値判定を行うことができる。

また、閾値算出部３５０は、第１算出部３５２及び第２算出部３５４を有する。第１算出部３５２は、極大値用のＦＩＦＯバッファに記憶されている極大値の平均値及び標準偏差を算出する。また、第１算出部３５２は、極小値用のＦＩＦＯバッファに記憶されている最小値の平均値及び標準偏差を算出する。

第２算出部３５４は、極大値の平均値及び標準偏差に基づいて第１閾値を算出し、極小値の平均値及び標準偏差に基づいて第２閾値を算出する。これにより、例えば対象者の直近の状態を示す眼電図信号を用いて閾値を設定することができる。また、第１閾値及び第２閾値は、使用者の直近の状態を示す信号の強度に追従して値を変更させることができる。

例えば、第２算出部３５４は、極大値の平均値に、極大値の標準偏差に係数を乗算した値を加算した値を第１閾値とする。第２算出部３５４は、極小値の平均値から、極小値の標準偏差に係数を乗算した値を減算した値を第２閾値とする。これにより、適切な閾値を設定することができる。

また、閾値算出部３５０は、記憶部３２０に極大値及び／又は極小値が記憶される度に、第１閾値及び第２閾値を更新する。これにより、閾値算出部３５０は、過去の眼電図信号に基づいて閾値を設定することができるため、眠くなって眼の動きが遅くなり、眼電図信号が弱くなった場合であっても、その弱くなった信号に応じて閾値を設定することができるので、適切に瞬目を検出することができる。

また、閾値算出部３５０は、記憶部３２０に記憶された所定個の極大値の平均を第１閾値としたり、記憶部３２０に記憶された所定個の極小値の平均を第２閾値としたりしてもよい。また、閾値算出部３５０は、記憶部３２０に記憶された極大値及び極小値それぞれの標準偏差を用いて第１閾値及び第２閾値を算出してもよい。

検出部３４６は、第２算出部３５４により算出された第１閾値、及び第２閾値を用いて、眼の垂直方向の動きを示す眼電図信号から瞬目を検出する。例えば、検出部３４６は、第１閾値以上となる記憶部３２０に記憶された極大値の第１時刻と、第２閾値以下となる記憶部３２０に記憶された極小値の第２時刻との差分が所定時間以内であれば、瞬目を検出する。ここで、第２時刻は、第１時刻以降であって直近の時刻とする。所定時間は、例えば５００ｍｓｅｃとするがこの限りではない。

なお、検出部３４６は、右眼、左眼それぞれの眼電図信号を用いて瞬目を検出し、所定範囲内のタイミングで両目において瞬目が検出されたときに最終的な瞬目を検出してもよい。また、検出部３４６は、右眼と左眼は同様の動きをすることを前提とし、双方の眼電図信号の平均を用いて瞬目を検出してもよい。次に、具体的な眼電図信号を用いて瞬目検出アルゴリズムについて説明する。

図１０は、眼の垂直方向の動きを示す眼電図信号の一例を示す図である。図１０に示す眼電図信号Ｓ３は、片側の眼の垂直方向の動きを示す眼電図信号である。ここで、図１０を用いて瞬目検出アルゴリズムを説明する。以下に説明する瞬目検出アルゴリズムは、所定期間の最大値及び最小値を用いて閾値を算出する場合のアルゴリズムである。

（１）所定期間ごとの最大値、最小値を求める
制御部３３０は、眼電図信号Ｓ３の所定期間Ｔ１（例えば５００ｍｓｅｃ）ごとの最大値、最小値を求める。

（２）最大値が極大値である場合、第１ＦＩＦＯバッファに保存する
制御部３３０は、（１）で求めた最大値が極大値である場合、第１ＦＩＦＯバッファ（記憶部３２０）に保存する。

（３）最小値が極小値である場合、第２ＦＩＦＯバッファに保存する
制御部３３０は、（１）で求めた最小値が極小値である場合、第１ＦＩＦＯバッファとは別領域の第２ＦＩＦＯバッファに保存（記憶部３２０）する。なお、（２）及び（３）について、順序は問わない。以降、第１ＦＩＦＯバッファ及び第２ＦＩＦＯバッファをまとめる場合は、単にバッファと称する。図１０において、眼電図信号Ｓ３上にある黒点は、各期間において極大値又は極小値として検出された値を表す。なお、極大値及び極小値は、微分を用いて、例えば眼電図信号Ｓ３の差分信号を用いて求めることができる。

（４）バッファの容量分データが保存されたら、平均値及び標準偏差を算出する
第１算出部３５２は、第１ＦＩＦＯバッファに保存されている最大値の平均値（ａ１）及び標準偏差（ｂ１）を算出する。また、第１算出部３５２は、第２ＦＩＦＯバッファに保存されている最大値の平均値（ａ２）及び標準偏差（ｂ２）を算出する。

（５）閾値を算出する
第２算出部３５４は、（４）で算出された平均値及び標準偏差を用いて第１閾値及び第２閾値を算出する。第１閾値（Ｔｈ１）及び第２閾値（Ｔｈ２）は、以下の式で算出される。
Ｔｈ１＝ａ１＋Ｅ×ｂ１・・・式（１）
Ｔｈ２＝ａ２−Ｅ×ｂ２・・・式（２）
ここで、係数Ｅは、例えば２とする。
なお、第１閾値（Ｔｈ１）、第２閾値（Ｔｈ２）の絶対値に下限値を設定しておいてもよい。これにより、眼のわずかな上下運動を瞬きであると誤検出することを防止することができる。また、係数Ｅは、信号強度に応じて可変に設定できるようにされてもよい。

図１０において、第１閾値の例として、符号ＴＨ１で表し、第２閾値の例として符号ＴＨ２で表す。図１０に示すとおり、眼電図信号の時間経過に伴って、それぞれの閾値が変動し、さらに、眼電図信号の強さ（振幅の大きさ）に追従して閾値が適切に変更される。図８に示す第１閾値ＴＨ１と第２閾値ＴＨ２は、閾値の変動を概念的に示したものに過ぎない。

（６）第１閾値以上の最大値、及び第２閾値以下の最小値を特定する
検出部３４２は、（５）で算出された第１閾値以上の最大値を特定する。ここで、閾値判定の対象となる最大値は、第１ＦＩＦＯバッファに記憶されており、閾値判定がまだされていない最大値である。

また、検出部３４２は、（５）で算出された第２閾値以下の最小値を特定する。ここで、閾値判定の対象となる最小値は、第２ＦＩＦＯバッファに記憶されており、閾値判定がまだされていない最小値である。図１０において、特定された最大値及び最小値は、四角で囲われた黒点により表される。

（７）瞬目を検出する
検出部３４２は、特定された最大値毎に、この最大値の第１時刻と、特定された最小値の第２時刻であり、この第１時刻以降の直近の第２時刻との差が、所定時間以内であれば、その眼の上下の動きを瞬目とみなして検出する。

図１０において、例えば、特定された最大値の時刻ｔ１１と、ｔ１１以降で直近に特定された最小値の時刻ｔ２１との差が所定時間以内であれば、その眼の動きを瞬目として検出する。所定時間は、例えば５００ｍｓｅｃとする。

以上、瞬目検出アルゴリズムを説明したが、このアルゴリズムは、あくまでも一例であり、この例に限らない。なお、瞬目、視線移動の検出処理においては、眼電図信号の時間方向の差分信号を用いて上述した処理と同様の処理を行ってもよい。差分信号とは、例えば時間ｔの眼電図信号から時間ｔの所定時間前の眼電図信号を減算した信号である。これにより、ノイズ耐性が強い差分信号を用いることで、検出精度を向上させることができる。

＜動作＞
次に、実施例における外部装置３００の動作について説明する。図１１は、実施例における瞬目、視線移動の検出処理に関する処理の一例を示すフローチャートである。図１１に示すフローチャートは、使用者がメガネ１００を装着して、第１電極１５２、第２電極１５４、第３電極１５６及び接地電極が使用者の皮膚に接触した状態であって、外部装置３００が瞬目又は視線移動の検出を実行するモードである動作モードに設定された場合に開始する。

図１１に示すステップＳ１０２で、取得部３４０は、メガネ１００から、眼電図信号及びセンサ信号を取得する。

ステップＳ１０４で、判定部３４２は、センサ信号が所定パターンであるか否かを判定する。例えば、判定部３４２は、認識部３４４によるパターン認識を用いて判定処理を行う。センサ信号が所定パターンであると判定されれば（ステップＳ１０４−ＹＥＳ）、瞬目又は視線移動の検出処理を停止するため、判定部３４２は、検出部３４６に停止信号を出力し、処理はステップＳ１０２に戻る。センサ信号が所定パターンではないと判定されれば（ステップＳ１０４−ＮＯ）、判定部３４２は、検出部３４６に実行信号を出力し、処理はステップＳ１０６に進む。

ステップＳ１０６で、検出部３４６は、判定部３４２から実行信号を取得した場合は、瞬目又は視線移動の検出処理を行う。すなわち、検出部３４６は、判定部３４２から停止信号を取得しない限り、検出処理を行う。

なお、一旦検出処理が停止され、再開されるときのタイミングは、検出部３４６が実行信号を取得したときなどである。なお、検出部３４６は、検出処理の停止後に、実行信号を取得したり、停止信号を取得しなくなったりしても、所定時間、検出処理の停止を継続してもよい。

以上の処理により、瞬目又は視線移動の誤検出が発生しやすい使用者の動作を判定することができ、この動作が行われている場合には、検出処理を停止して誤検出が行われないようにすることができる。

次に、図１２は、実施例における瞬目検出処理の一例を示すフローチャートである。以下に説明する瞬目検出処理は、極大値及び極小値の移動平均を用いて判定閾値を算出する。

ステップＳ２０２で、制御部３３０は、算出される極大値及び／又は極小値を記憶部３２０に記憶する。

ステップＳ２０４で、閾値算出部３５０は、記憶部３２０に記憶された極大値及び／又は最小値を用いて閾値（第１閾値及び第２閾値）を算出する。このとき、閾値算出部３５０は、例えば直近の１０個の極大値の平均値を第１閾値、又は直近の１０個の極小値の平均値を第２閾値とする。なお、後に瞬目と判定される極大値及び極小値は、次回以降の平均算出処理から除外してもよい。

ステップＳ２０６で、検出部３４６は、第１閾値以上となる極大値の第１時刻、又は第２閾値以下となる極小値の第２時刻を特定する。このとき、検出部３６０は、第２時刻として、特定した第１時刻以降の直近の極小値の時刻を特定する。

ステップＳ２０８で、検出部３４６は、第２時刻−第１時刻が所定時間より小さいかを判定する。この条件が満たされれば（ステップＳ２０８−ＹＥＳ）ステップＳ２１０に進み、この条件が満たされなければ（ステップＳ２０８−ＮＯ）ステップＳ２０２に戻る。

ステップＳ２１０で、検出部３４６は、第１時刻と第２時刻との間の眼の動きを瞬目として検出する。

以上の処理により、外部装置３００は、適切な閾値を用いて、瞬目を検出することができる。

以上、実施例によれば、モーションセンサ２４０からのセンサ信号を用いて、眼電図信号が大きく振れる動作を使用者が行っているかを判定し、使用者がこの動作を行っているときには、瞬目や視線移動の検出処理を停止することで、誤検出を防止することができる。

なお、本実施例において、アイウエアがメガネである場合について説明した。しかし、アイウエアはこれに限定されない。アイウエアは、眼に関連する装具であればよく、メガネ、サングラス、ゴーグル及びヘッドマウントディスプレイならびにこれらのフレームなどの顔面装着具又は頭部装着具であってよい。

本実施例において、メガネ１００が第３電極１５６を備える例を挙げて説明した。しかし、メガネ１００はこれに限定されない。メガネ１００が、第３電極１５６を備えなくてもよい。この場合、基準電極を基準とした第１電極１５２の電位が示す眼電図及び基準電極を基準とした第２電極１５４の電位が示す眼電図が、外部装置３００に送信されればよい。ここで、接地電極を第３電極１５６の位置に設けて、基準電極としてもよい。また、左モダンに設けられた接地電極を基準電極として用いてもよいし、第１電極１５２及び第２電極１５４から離間した位置に、別途設けられた電極を基準電極として用いてもよい。

本実施例において、メガネ１００が、リム１２２と一体になっているノーズパッド１４０を備える例を挙げて説明した。しかし、メガネ１００はこれに限定されない。メガネ１００が、リム１２２に備え付けられたクリングスと、クリングスに取り付けられたノーズパッド１４０とを備えてもよい。この場合、ノーズパッド１４０の表面に設けられた電極は、クリングスを介して、フレームに埋設された電線と電気的に接続される。

本実施例において、第１電極１５２及び第２電極１５４をノーズパッド１４０の中心よりも下側に設ける例を挙げて説明した。しかし、これに限定されない。ノーズパッド１４０が下側に延伸する延伸部を備え、第１電極１５２及び第２電極１５４を延伸部に設けてもよい。これにより、眼及び鼻の位置の個人差によってノーズパッドが眼の真横に位置してしまう使用者であっても、第１電極１５２及び第２電極１５４を眼の位置よりも下に接触させることができる。

本実施例において、第３電極１５６を眉間部１２４の表面に設ける例を挙げて説明した。しかし、これに限定されない。眉間部１２４が、上側に延伸する延伸部を備え、延伸部に第３電極１５６を設けてもよい。またさらに、延伸部と眉間部１２４との間に延伸部を上下に可動させる可動部を備え、第３電極１５６の位置を上下に調整可能としてもよい。これにより、眼の位置の個人差によって、第３電極１５６の接触位置が眼の近傍になってしまう使用者であっても、調整により第３電極１５６の接触位置を眼から離間させることができる。また、本実施例において、各電極の位置は前述した位置に限られず、眼の垂直方向及び水平方向の動きを示す眼電図信号が取得できる位置に配置されていればよい。

本実施例では、外部装置３００の例として、処理装置２００と別体の、携帯電話及びスマートフォン等の携帯通信端末を挙げて説明した。しかし、これに限定されない。外部装置３００を、処理装置２００と一体のユニットとしてもよい。この場合、外部装置３００は、アイウエアに一体として設けられる。

また、本実施例では、電線としてシールドケーブルを用いることで、ノイズの混入を防ぐようにしてもよい。

また、本実施例では、図１において３つの電極を用いる構成を例示したが、４つ以上の電極を用いる構成であってもよい。この場合、メガネは、上部電極と、下部電極と、左部電極と、右部電極とを有する。例えば、上部電極及び下部電極は、図１に示すリム１２２に設けられ、左部電極は、左テンプル１３０に設けられ、右部電極は、右テンプル１３０に設けられるが、必ずしもこの位置にある必要はない。なお、これらの電極は、顔の一部に接触しているとする。

４つの電極の例では、上部電極及び下部電極の電圧差により、眼の上下方向を検知することができ、左部電極及び右部電極の電圧差により、眼の左右方向を検知することができる。

以上、本発明について実施例を用いて説明したが、本発明の技術的範囲は上記実施例に記載の範囲には限定されない。上記実施例に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

１００ メガネ
１２０ フレーム
１２４ 眉間部
１４０ ノーズパッド
１５２ 第１電極
１５４ 第２電極
１５６ 第３電極
２００ 処理装置
３００ 外部装置
３２０ 記憶部
３３０ 制御部
３４０ 取得部
３４２ 判定部
３４４ 認識部
３４６ 検出部
３５０ 閾値算出部

Claims (6)

1. 加速度センサ及び／又は角速度センサにより検出される、対象者の動きを示すセンサ信号、及び前記対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得ステップと、
   前記眼電図信号に基づいて、瞬目又は視線移動の検出処理を行う検出ステップと、
   前記センサ信号が所定パターンであるか否かを判定する判定ステップと、
   前記センサ信号が前記所定パターンであると判定された場合、前記検出処理を停止する停止ステップと、
   をコンピュータに実行させるプログラム。
2. 前記停止ステップは、
   前記検出処理を停止した後に、前記所定パターンではないと判定されてから所定時間が経過するまで、前記検出処理の停止を継続する、請求項１に記載のプログラム。
3. 前記所定時間は、前記所定パターンに応じて変更される、請求項２に記載のプログラム。
4. 前記取得ステップは、
   前記加速度センサ、前記角速度センサ、及び前記各電極が設けられたアイウエアから前記センサ信号及び前記眼電図信号を取得する、請求項１乃至３いずれか一項に記載のプログラム。
5. 加速度センサ及び／又は角速度センサにより検出される、対象者の動きを示すセンサ信号、及び前記対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得部と、
   前記センサ信号が１又は複数の所定パターンであるか否かを判定する判定部と、
   前記所定パターンでないと判定された場合、前記眼電図信号に基づく瞬目又は視線移動の検出処理を行い、前記所定パターンであると判定された場合、前記検出処理を停止する検出部と、
   を備える情報処理装置。
6. 眉間部と、
   一対のノーズパッドを有するフレームと、
   前記一対のノーズパッドそれぞれの表面に設けられる第１電極及び第２電極と、
   前記眉間部の表面に設けられる第３電極と、
   加速度センサ及び／又は角速度センサと、
   前記加速度センサ及び／又は前記角速度センサにより検出されるセンサ信号、及び各電極により検出される眼電位に基づく眼電図信号を取得する取得部と、
   前記センサ信号が１又は複数の所定パターンであるか否かを判定する判定部と、
   前記所定パターンでないと判定された場合、前記眼電図信号に基づく瞬目又は視線移動の検出処理を行い、前記所定パターンであると判定された場合、前記検出処理を停止する検出部と、
   備えるアイウエア。

Images