JPH08227341A - ユーザインターフェース - Google Patents

ユーザインターフェース

Info

Publication number
JPH08227341A
JPH08227341A JP3323295A JP3323295A JPH08227341A JP H08227341 A JPH08227341 A JP H08227341A JP 3323295 A JP3323295 A JP 3323295A JP 3323295 A JP3323295 A JP 3323295A JP H08227341 A JPH08227341 A JP H08227341A
Authority
JP
Japan
Prior art keywords
image
unit
key
display
display unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP3323295A
Other languages
English (en)
Inventor
Noriyuki Komiya
紀之 小宮
Noriyuki Kushiro
紀之 久代
Masahiro Inoue
雅裕 井上
Kazuo Kamimura
一穂 上村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP3323295A priority Critical patent/JPH08227341A/ja
Publication of JPH08227341A publication Critical patent/JPH08227341A/ja
Pending legal-status Critical Current

Links

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

(57)【要約】 【目的】 高齢者や目の不自由な方などにも簡単に操作
を行うことのできる操作性が向上されたユーザインター
フェースを提供する。 【構成】 複数の操作ボタンおよび操作キーを表示する
表示ユニット6と、タッチスクリーン5と、操作ボタン
および操作キーに対応した制御を行う制御部とを備え、
制御部は、タッチスクリーン5の出力信号に基づいて表
示ユニット6に表示された操作ボタンおよび操作キーの
うち、指示されたものの画像を識別する画像識別手段1
8と、画像識別手段18によって識別された画像を他の
表示画像と識別可能にするための特殊表示をさせるかど
うかを判断する特殊効果識別手段19と、特殊効果識別
手段19の判断結果に基づいて表示ユニット6の指示さ
れた操作ボタンまたは操作キーに対して特殊表示をさせ
る第1の制御手段とを有するものである。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、空調機器、照明機器、
家電機器などにおける各種機器の操作器のユーザインタ
ーフェースに関するものである。
【0002】
【従来の技術】昨今の空調機器、照明機器、家電機器な
どにおける操作器のユーザインターフェースは、タッチ
スクリーンによるダイレクトタッチ方式のものが主流と
なりつつある。タッチスクリーンを使用した入力方式の
ユーザインターフェースは、画面に現れる操作ボタンや
操作キー等の画像に直接触れることによって操作が行え
るため、快適な操作が行える。
【0003】このような操作器のユーザインターフェー
スにおける高齢者や目の不自由な方のための施策として
は、タッチスクリーンに表示される表示文字を大きくし
たり、操作ボタンや操作キー等を大きいものにすること
が考えられる。また、ユーザの操作の補助機能に関して
は、主に個々の操作の方法に対応する説明、あるいは操
作手順に対応する支援などのヘルプ機能が考えられる。
【0004】そのため、例えば特開平4−24819号
公報に示すように、操作器の操作キーを使用頻度に基づ
いて拡大表示させるようにしたタッチスクリーン式デー
タ入力装置が開示されている。
【0005】特開平4−24819号公報に開示された
タッチスクリーン式データ入力装置は、複数のキー画像
を表示する表示ユニット表面の指示されたポイントの座
標値を検出し、ポイントの座標値と各キー画像の表示領
域データとから指示されたキー画像を識別してキーデー
タを入力するタッチスクリーン式データ入力装置におい
て、各キーの使用頻度を演算する使用頻度演算部と、各
キーの使用頻度に基づいて各キー各キー画像の大きさを
演算する演算部と、演算された大きさのキー画像を発生
して表示ユニットに表示するキー画像発生部と、各キー
画像の表示領域を演算するキー画像領域演算部とを有す
るものである。
【0006】そして、タッチスクリーン式データ入力装
置における各キーの使用頻度を演算し、各キーの使用頻
度に基づいて各キー画像の大きさを求め、大きさでキー
画像を発生して表示ユニットに表示するとともに、各キ
ー画像の表示領域を演算し、以後表示ユニットに表示さ
れている所定のキー画像上のポイントが指示された時、
指示されたポイントの座標値を検出し、ポイントの座標
値と各キー画像の表示領域データとから指示されたキー
画像を識別してキーデータを出力する。
【0007】
【発明が解決しようとする課題】上記のような従来のユ
ーザインターフェースは、グラフィック化されたもので
あるので、画面上の操作キー等を視覚的に捉えて操作す
ることが前提となっている。また、平滑なタッチスクリ
ーン上で手探りでボタンの位置を突き止めるのは極めて
困難である。これらのことが高齢者や目の不自由な方に
とっては、かえって操作を難しくしていた。また、特開
平4−24819号公報に開示されたタッチスクリーン
式データ入力装置においては、キー画像を使用頻度に基
づいて拡大させているが、上記のような問題を解決する
には至らなかった。
【0008】さらに、従来のユーザインターフェースは
タッチスクリーンを使用した入力方式のものなので、タ
ッチスクリーンの画面上に描かれた操作ボタンや操作キ
ーの画像に直接触れるという操作が行われるが、この操
作は現実世界の操作ボタンや操作キーの操作とはかけ離
れているため、「ボタンを押した」あるいは「キーに触
れた」といった操作感覚が得難く、わかり難いものであ
った。また、ユーザの操作補助となるヘルプ機能におい
ても、ユーザが自分の意図することを行うために必要な
情報を得ることが難しかったり、逆に必要以上に過剰な
情報がユーザに与えられてしまってかえって操作の妨げ
になることがあった。
【0009】本発明は、上記のような課題を解決するた
めになされたもので、高齢者や目の不自由な方などにも
簡単に操作を行うことのできる操作性が向上されたユー
ザインターフェースを提供することを目的としたもので
ある。
【0010】
【課題を解決するための手段】本発明に係るユーザイン
ターフェースは、複数の操作ボタンおよび操作キーを表
示する表示ユニットと、表示ユニットの表面に配置さ
れ、指示された位置の座標を検出するタッチスクリーン
と、タッチスクリーンの出力信号に基づいて操作ボタン
および操作キーに対応した制御を行う制御部とを備え、
制御部は、タッチスクリーンの出力信号に基づいて表示
ユニットに表示された操作ボタンおよび操作キーのう
ち、指示されたものの画像を識別する画像識別手段と、
画像識別手段によって識別された画像を他の表示画像と
識別可能にするための特殊表示をさせるかどうかを判断
する特殊効果識別手段と、特殊効果識別手段の判断結果
に基づいて表示ユニットの指示された操作ボタンまたは
操作キーに対して特殊表示をさせる第1の制御手段とを
有するものである。
【0011】また、特殊表示は指示された操作ボタンま
たは操作キーの周囲にダイナミックな動作が付加された
アニメーション画像であるものである。
【0012】さらに、第1の制御手段は、特殊表示のア
ニメーション画像である波紋画像のデータが格納されて
いる波紋画像データ記憶部と、波紋画像データ記憶部の
波紋画像データを順次取り出し波紋画像データの所在、
数および表示順序を決定する波紋画像パターン決定部
と、波紋画像パターン決定部からの決定情報、波紋画像
座標演算部からの表示座標情報および波紋画像大きさ演
算部からの表示大きさ情報に基づいて波紋画像を発生さ
せる波紋画像発生部とを有するものである。
【0013】本発明に係るユーザインターフェースの制
御部は、タッチスクリーンの出力信号に基づいて表示ユ
ニットに表示された操作ボタンおよび操作キーのうち、
指示されたものの画像を識別する画像識別手段と、画像
識別手段によって識別された画像に対して他の表示画像
と識別可能にするための効果音を発生させるかどうかを
判断する特殊効果識別手段と、特殊効果識別手段の判断
結果に基づいて表示ユニットの指示された操作ボタンま
たは操作キーに対応した効果音をスピーカから発生させ
る第2の制御手段とを有するものである。
【0014】また、第2の制御手段は、タッチスクリー
ンの押圧力を検出する圧力検出手段を有し、押圧力が所
定圧力以上の時には指定された操作ボタンまたは操作キ
ーに対応した効果音を発生させるとともにその処理を行
い、押圧力が所定圧力より小さい時には効果音のみを発
生させるものである。
【0015】さらに、第2の制御手段は、操作ボタンお
よび操作キーに対応した効果音データが格納されている
効果音データ記憶部と、指定された操作ボタンまたは操
作キーに対応した効果音データを効果音データ記憶部か
ら取り出しその効果音データの所在を決定する効果音パ
ターン決定部と、効果音パターン決定部からの決定情報
に基づいて効果音をスピーカより発生させる効果音発生
部とを有するものである。
【0016】本発明に係るユーザインターフェースは、
複数の操作ボタンおよび拡大表示キーを含む操作キーを
表示する表示ユニットと、表示ユニットの表面に配置さ
れ、指示された位置の座標を検出するタッチスクリーン
と、タッチスクリーンの出力信号に基づいて操作ボタン
および操作キーに対応した制御を行う制御部とを備え、
制御部は、タッチスクリーンの出力信号に基づいて表示
ユニットに表示された操作ボタンおよび操作キーのう
ち、指示されたものの画像が拡大表示キーの画像である
かどうかを識別する画像識別手段と、画像識別手段にお
いて拡大表示キーが識別された時には必要最小限の操作
ボタンと操作キーとの組合わせからなるシュリンク画面
を表示ユニットに表示させる第3の制御手段とを有する
ものである。
【0017】また、第3の制御手段は、シュリンク画面
のデータが複数格納されているシュリンク画面データ記
憶部と、シュリンク画面データ記憶部に格納されている
シュリンク画面データをもとに操作ボタンまたは操作キ
ーの画像の大きさあるいは画像の数量を決定する画像大
きさ決定部および画像数量決定部と、画像大きさ決定部
および画像数量決定部の決定情報に基づいて画像の大き
さ演算および座標演算をそれぞれ行う演算部と、これら
の演算結果に基づいてシュリンク画面を発生させる画像
発生部とを有するものである。
【0018】本発明に係るユーザインターフェースの制
御部は、タッチスクリーンの出力信号に基づいて表示ユ
ニットに表示された操作ボタンおよび操作キーのうち、
指示されたものの画像が拡大表示キーの画像であるかど
うかを識別する画像識別手段と、画像識別手段において
拡大表示キーが識別され次に画面の任意の箇所が押され
て指定されると、指示された箇所の座標を中心に予め定
められた半径内の画像を予め定められた倍率で表示ユニ
ットに拡大表示させる第4の制御手段を有するものであ
る。
【0019】また、第4の制御手段は、指示された箇所
の座標が拡大される画面の中心基準となることを決定す
る画面拡大位置決定部と、画面拡大位置決定部によって
決定された基準座標を中心に予め定められた半径内の画
像が予め定められた倍率になるように演算する画像座標
演算部および画像大きさ演算部と、演算結果に基づいて
拡大された拡大画面を発生させる画像発生部とを有する
ものである。
【0020】本発明に係るユーザインターフェースは、
複数の操作ボタンおよび複数のヘルプキー含む操作キー
を表示する表示ユニットと、表示ユニットの表面に配置
され、指示された位置の座標を検出するタッチスクリー
ンと、タッチスクリーンの出力信号に基づいて操作ボタ
ンおよび操作キーに対応した制御を行う制御部とを備
え、制御部は、タッチスクリーンの出力信号に基づいて
表示ユニットに表示された操作ボタンおよび操作キーの
うち、指示されたものの画像がヘルプキーの画像である
かどうかを識別する画像識別手段と、画像識別手段にお
いていずれかのヘルプキーが識別された時にはそのヘル
プキーに対応したヘルプ処理を行わせる第5の制御手段
を有するものである。
【0021】また、第5の制御手段は、操作される操作
ボタンまたは操作キーの履歴が格納される操作履歴記憶
部と、操作ボタンおよび操作キーの操作方法データが格
納された操作方法データ記憶部と、表示ユニットに表示
される各画面の操作手順データが格納されている操作手
順データ記憶部と、画像識別手段において操作方法ヘル
プキーが識別された時に指定された操作ボタンまたは操
作キーの操作方法データを表示ユニットに表示させる操
作方法発生部と、画像識別手段において操作手順ヘルプ
キーが識別された時に表示ユニットに表示されている画
面の操作手順データを表示ユニットに表示させる操作手
順発生部と、表示ユニットに表示されている画面の操作
終了後に画像識別手段において操作サマリヘルプキーが
識別された時に操作履歴記憶部に格納された操作キーの
履歴に基づいて操作サマリを表示ユニットに表示させる
操作サマリ提示部とを有するものである。
【0022】本発明に係るユーザインターフェースは、
タッチスクリーンの周囲およびその表面に突起を複数設
けたものである。
【0023】
【作用】本発明に係るユーザインターフェースは、表示
ユニットに表示された操作ボタンおよび操作キーのう
ち、指示されたものの画像を画像識別手段によって識別
し、特殊効果識別手段によってその画像において特殊表
示をさせるかどうかを判断し、特殊表示をさせる場合は
第1の制御手段によって指示された操作ボタンまたは操
作キーに対して特殊表示を行い、他の表示画像と識別可
能にする。
【0024】また、指示された操作ボタンまたは操作キ
ーの周囲に特殊表示としてダイナミックな動作が付加さ
れたアニメーション画像を表示し、容易に他の表示画像
と識別可能にする。
【0025】さらに、第1の制御手段によって指示され
た操作ボタンまたは操作キーの周囲に波紋を表示させ、
画面操作の実感の不足を補う。
【0026】本発明に係るユーザインターフェースは、
画像識別手段によって識別された画像において効果音を
発生させるかどうかを特殊効果識別手段によって判断
し、効果音を発生させる場合は第2の制御手段によって
指示された操作ボタンまたは操作キーに対応した効果音
をスピーカから発生させて、他の表示画像と識別可能に
する。
【0027】また、圧力検出手段によってタッチスクリ
ーンの押圧力を検出し、押圧力が所定圧力以上の時には
指定された操作ボタンまたは操作キーに対応した効果音
を発生させるとともにその処理を行い、視覚だけでなく
聴覚からも画面操作の実感の不足を補う。一方、押圧力
が所定圧力より小さい時には効果音のみを発生させ、そ
の効果音を頼りに手探りで画面上のボタンの位置が分か
るようにし、目の不自由な方にも目的とする操作を行う
ためのボタンの位置が容易に分かるようにする。ここ
で、押圧力が所定圧力より小さい時には発生する効果音
と、所定圧力以上の時に発生する効果音とでは、必ずし
も一致する必要はなく、例えば所定圧力より小さい時に
発生する効果音を音声ガイダンスとすることにより、一
層効果的に操作ガイドができる。
【0028】本発明に係るユーザインターフェースは、
画像識別手段によって識別された画像が拡大表示キーの
画像である時、第3の制御手段によって操作画面に対応
したシュリンク画面を表示させ、必要最小限の操作ボタ
ンと操作キーで画面操作ができるようにする。
【0029】また、画像識別手段によって識別された画
像が拡大表示キーの画像である時、操作画面に表示され
た文字および操作キー等が見易くなり、高齢者等におい
てもキー操作を簡単かつ確実に行えるように、第4の制
御手段によって次に画面の任意に指示された箇所の座標
を中心に予め定められた半径内の画像を予め定められた
倍率で表示ユニットに拡大表示させる。
【0030】本発明に係るユーザインターフェースは、
画像識別手段によって識別された画像がヘルプキーの画
像である時、画面操作を円滑に行えるように第5の制御
手段によってそのヘルプキーに対応したヘルプ処理を行
う。
【0031】また、第5の制御部はヘルプキーのうち、
第1のヘルプキーが指示されると次に指定された操作ボ
タンまたは操作キーの操作方法データを表示ユニットに
表示させ、第2のヘルプキーが指示されると表示ユニッ
トに表示されている画面の操作手順データを表示ユニッ
トに表示させ、第3のヘルプキーが指示されると操作サ
マリを表示ユニットに表示させ、ユーザが意図する操作
を達成できるようにする。
【0032】本発明に係るユーザインターフェースは、
タッチスクリーンの周囲およびその表面に突起を複数設
けることにより、目の不自由な方にもタッチスクリーン
のいずれの辺りを触っているかを容易に知ることができ
る。
【0033】
【実施例】
実施例1.図1は本発明の第1〜第4の実施例の構成を
示すブロック図、図2は本発明の第1の実施例に係る表
示ユニットに表示された操作画面の要部の拡大図であ
る。
【0034】この実施例1においては、まず、図2に示
すように、表示ユニット6に表示されている操作画面の
操作ボタン41の画像がユーザによって押圧されると、
位置座標検出部を有するタッチスクリーン5によって押
圧された操作ボタン41の座標が検出され、画像識別部
18およびタッチ圧力検出部20に検出座標情報が出力
される。そして、画像識別部18はタッチスクリーン5
からの検出座標情報に基づいてどの操作ボタンまたは操
作キーの画像が操作されたのかを識別する。なお、ここ
では図2(a)に示す操作ボタン41の画像が識別され
る。ついで、特殊効果識別部19は、画像識別部18に
よって識別された画像に基づいて識別された画像を他の
表示画像と識別可能にするための特殊表示、例えば識別
された操作ボタンまたは操作キーの周囲にダイナミック
な動作が付加されたアニメーション画像である波紋画像
を表示させるかどうかを判断し、特殊表示をさせる場合
は、波紋画像パターン決定部12に信号を送る。
【0035】特殊効果識別部19から波紋画像パターン
決定部12に信号が送られると、波紋画像パターン決定
部12は波紋画像発生部8を介して波紋画像データ記憶
部9から波紋画像データを順次取り出すとともに、波紋
画像データの所在、数、および表示順序を指示情報を決
定し、この指示情報と、波紋画像座標演算部10によっ
て演算された表示座標情報と、波紋画像大きさ演算部1
1によって演算された表示大きさ情報とに基づいて波紋
画像発生部8は波紋画像を発生させ、画像メモリ7に書
き込む。そして、表示ユニット6ではユーザによって押
圧された操作ボタン41に対し、図2(b)に示すよう
に、その操作ボタン41の周囲に波紋42が広がるアニ
メーション画像が波紋画像パターン決定部12が指定し
た回数だけ繰り返し表示される。
【0036】このように、平坦でかつ押圧しても変化の
ない表示ユニット6(タッチスクリーン)上で操作ボタ
ンまたは操作キーの操作を行うと、押圧された操作ボタ
ンまたは操作キーの周囲に波紋42が広がるアニメーシ
ョン画像などの特殊表示が付加されるので、画面操作の
実感の不足を補うことができる。また、タッチスクリー
ン上では操作中において操作ボタン等が操作している指
によって隠されて見えなくなってしまうことがあるが、
波紋画像が表示されることによって押圧されたことを容
易に確認することができ、操作性の向上を計ることがで
きる。
【0037】なお、上述の実施例では特殊表示としてア
ニメーション画像である波紋を表示させる場合を例示し
て説明したが、例えば指示された操作ボタンまたは操作
キー全体やその周囲を変色させるようにしてもよく、ま
た、点滅させるようにしてもよい。
【0038】実施例2.図3は本発明の第2の実施例に
係る表示ユニットに表示された操作画面の作用説明図で
ある。以下、この実施例の作用を図4のフローチャート
を用いて説明する。
【0039】まず、表示ユニット6に表示されている操
作画面の操作ボタンまたは操作キーの画像がユーザによ
って押圧されると、実施例1で説明した場合と同様に押
圧された操作ボタンまたは操作キーの座標がタッチスク
リーン5によって検出され、その座標に基づいてどの操
作ボタンまたは操作キーの画像が操作されたのかを画像
識別部18によって識別される。ついで、画像識別部1
8によって識別された画像に基づいて識別された画像に
対して他の表示画像と識別可能にするための効果音、例
えば識別された操作ボタンまたは操作キーにおける操作
内容の説明音を発生させるかどうかを特殊効果識別部1
9によって判断し(ステップ45)、効果音を発生させ
る場合は効果音パターン決定部4に信号を送る。
【0040】特殊効果識別部19から効果音パターン決
定部4に信号が送られると、効果音パターン決定部4は
効果音発生部2を介して効果音データ記憶部3に格納さ
れている個々の操作ボタンまたは操作キーの画像に対応
した効果音データ(操作方法説明データ)を取り出すと
ともに、押圧された操作ボタンまたは操作キーの画像に
対する効果音データの所在を効果音発生部2に指示す
る。そして、図3(a),(b)に示すように、押圧中
または押圧後において操作ボタン43または操作キー4
4に対応した効果音Aまたは効果音Bが効果音発生部2
によってスピーカ1から発生される(ステップ46)。
【0041】この時、タッチ圧力検出部20はタッチス
クリーン5から送られてくる押圧した操作ボタンまたは
操作キーの圧力を検出するとともに、その検出圧力が予
め定められたしきい値と比較させており(ステップ4
7)、しきい値より強く操作ボタン等が押圧された場合
は実際に操作ボタン等が押圧されたと判断されて、押圧
された操作ボタンまたは操作キーに対応した効果音を発
生させるとともに、その操作ボタンまたは操作キーに対
応した処理が行われる(ステップ48)。また、しきい
値より弱く押圧された場合は操作内容の確認のために押
圧されたと判断されて、押圧された操作ボタンまたは操
作キーに対応した操作内容の効果音のみが発生され、処
理は行われない。
【0042】このように、表示ユニット6に表示された
操作画面の操作ボタンまたは操作キーが予め定められた
強さよりも強く押された時は、押圧された操作ボタンま
たは操作キーに対応した効果音が発生されるとともに、
その操作ボタンまたは操作キーに対応した処理が行わ
れ、予め定められた強さよりも弱く押された時は、その
操作ボタンまたは操作キーに対応した操作内容の効果音
のみが発生されるので、ユーザはその効果音から操作画
面を見ることなく自ら行った操作の内容の確認が行える
とともに、これから行おうとする操作の操作ボタン等の
位置を簡単かつ確実に認識することができ便利である。
【0043】実施例3.図5は本発明の第3の実施例に
係る表示ユニットに表示される操作画面の説明図であ
る。以下、この実施例の作用を図6のフローチャートを
用いて説明する。
【0044】まず、図5(a)に示すように、表示ユニ
ット6に操作画面61が表示されてユーザが任意の操作
ボタンまたは操作キーの画像を押圧すると、実施例1で
説明した場合と同様にタッチスクリーン5および画像識
別部18等によってどの操作ボタンまたは操作キーの画
像が押圧されたかが識別される。この時、操作画面61
に表示されている拡大表示キーであるルーペアイコンキ
ー51が押圧されてそのキー51の画像が識別されると
(ステップ71)、そのキー51が2回連続して押圧さ
れていない時は、画像識別部18は現在表示ユニット6
に表示されている操作画面61が既に拡大画面であるか
否かを判断し(ステップ72,73)、拡大画面である
場合は操作画面61を拡大前の元の画面に戻す(ステッ
プ77)。
【0045】また、拡大画面でない場合は、表示ユニッ
ト6に表示される画面を必要最小限の操作ボタンと操作
キーとの組合わせからなるシュリンク画面である拡大画
面にするという指示信号を、画像識別部18は画像大き
さ決定部22と画像数量決定部23に送るとともに、複
数のシュリンク画面が格納されているシュリンク画面デ
ータ記憶部21から表示ユニット6に表示されていた操
作画面61に対応した拡大画面61a(図5(b))の
データを取り出す。ついで、画像大きさ決定部22およ
び画像数量決定部23はこの拡大画面61aのデータを
もとに、操作ボタンおよび操作キーの画像の大きさおよ
び数量を決定する。つまり、図5(a)の操作画面61
に表示されている操作キー52,53,54,55およ
び操作ボタン56,57,58,59,60の画像のう
ち、必要最小限の画像例えば操作キー52,53および
操作ボタン56,58,60の画像のみを選択して画像
の数を決定するとともに、その決定した画像の大きさを
通常の場合の例えば2倍の大きさになるように決定す
る。この時、選択されなかった画像の大きさは画面上に
表示されないように通常の場合の0倍の大きさとする。
【0046】そして、決定した大きさおよび数の情報が
画像座標演算部15および画像大きさ演算部16に送ら
れると、画像座標演算部15および画像大きさ演算部1
6は操作ボタンおよび操作キーの座標および大きさを変
換して拡大させ、拡大画面61aを作成する。この拡大
画面61aは画像発生部13および画像メモリ7を介し
て表示ユニット6に送られ、図5(b)に示すように、
表示ユニット6に拡大画面61aが表示される(ステッ
プ74)。この時、拡大された操作キー52a等は操作
することができ、操作されるとその操作キー等に対応し
た処理が実行される。また、再度ルーペアイコンキー5
1が押圧されると、表示ユニット6には拡大前の元の操
作画面61が表示される。
【0047】一方、ルーペアイコンキー51が2回連続
して押圧された時は、タッチスクリーン5によって検出
されるユーザが次に押圧する操作画面61の任意の箇所
(例えば操作キー52付近)の座標が画面拡大位置決定
部24に送られ、画面拡大位置決定部24によりこの座
標を基準座標に決定する(ステップ75)。ついで、決
定した基準座標情報を画像座標演算部15および画像大
きさ演算部16に送って基準座標を中心に予め定められ
た半径内の画像が予め定められた倍率になるように座標
の変換を行い、拡大画面を作成する。そして、この拡大
画面が画像発生部13および画像メモリ7を介して表示
ユニット6に送られ、図5(c)に示すように、表示ユ
ニット6に拡大画面61bが表示される(ステップ7
6)。この時、操作キーボタン52,53は操作キー5
2b,53bと拡大されるとともに、これらに対する操
作も行うことができる。また、再度ルーペアイコンキー
51が押されると、拡大前の元の操作画面61が表示ユ
ニット6に表示される。
【0048】このように、例えば操作画面の表示文字が
小さくて見えない、操作ボタンまたは操作キー小さくて
押し難い、操作ボタン等が多すぎて煩わしい時など、ル
ーペアイコンキー51を1回押すことによって必要最小
限の操作キー等の画像のみが表示される拡大画面(シュ
リンク画面)61aを表示することができるので、操作
画面が単純化されて見易くなり、高齢者等においてもキ
ー操作を簡単かつ確実に行うことができる。また、操作
したい操作キー等の表面に表示されている文字が小さく
て見え難い時や操作しにくい時など、ルーペアイコンキ
ー51を2回連続して押し、さらに任意の箇所を押して
指示することによって、指示した任意の箇所およびその
周囲が所定の範囲で拡大された拡大画面61bが表示さ
れるので、操作キーの表面に表示されている文字が拡大
されて見えやすくなり、高齢者等においてもキー操作を
確実に行うことができ、操作性を高めることができる。
【0049】実施例4.この実施例は、表示ユニット6
に表示される操作キーにユーザの操作を補助する操作ボ
タンおよび操作キーの操作方法、表示ユニット6に表示
される各画面の操作手順および操作のサマリなどの各ヘ
ルプ機能に対応したヘルプキーを複数設け、いずれかの
ヘルプキーが押圧された場合においてそのヘルプキーに
対応したヘルプ処理が行われるようにしたものである。
以下、この実施例の作用を図7のフローチャートを用い
て説明する。
【0050】例えば空調機器において室内の温度設定を
行う場合、まず、表示ユニット6には温度設定用操作画
面が表示され、その画面の操作ボタンまたは操作キーの
画像がユーザによって押圧されると(ステップ81,8
2)、実施例1で説明した場合と同様に押圧された操作
ボタンまたは操作キーの座標がタッチスクリーン5によ
って検出され、その座標に基づいてどの操作ボタンまた
は操作キーの画像が操作されたのかを画像識別部18に
よって識別される。
【0051】この時、識別された画像が操作画面に表示
されているヘルプキー画像のうち、操作方法ヘルプキー
の画像であった場合(ステップ83)、次に押圧された
操作ボタンまたは操作キーに対応する操作方法データが
操作方法データ記憶部28から取り出され、その操作方
法データが操作方法ヘルプ発生部31および画像メモリ
7を介して表示ユニット6に表示される(ステップ8
4)。また、操作手順ヘルプキーの画像が識別された場
合は(ステップ85)、表示ユニット6に表示されてい
る操作画面に対応する操作手順データが操作手順データ
記憶部27から取り出され、その操作手順データが操作
手順ヘルプ発生部30および画像メモリ7を介して表示
ユニット6に表示される(ステップ86)。いずれの場
合もヘルプデータが表示ユニット6に表示された後は元
の操作画面に戻る。また、ユーザの押圧した操作ボタン
または操作キーの画像がいずれのヘルプキーの画像でな
かった場合は、押圧された操作キー等に対応した処理が
行われ(ステップ87)、さらに次の操作が存在すれば
次の操作画面が表示ユニットに表示される(ステップ8
8,89)。
【0052】一方、次の操作が存在せず目的の操作が終
了した後に、操作サマリヘルプキーの画像が押圧されこ
れが識別されると(ステップ90)、今行われた操作に
よってどのようなことが行われたかという操作のサマリ
が操作サマリ提示部29および画像メモリ7を介して表
示ユニット6に表示される(ステップ91)。ユーザは
この表示を見ることによってユーザの意図した操作が行
われたか否かを確認する。そして、意図した操作が行わ
れ操作ボタンのうちのOKボタンが押された場合は(ス
テップ92)、室内の温度設定操作は完了してその処理
が行われる。また、意図した操作が行われず操作ボタン
のうちのNGボタンが押された場合は、再び温度設定操
作が行えるように温度設定用の初期の操作場面が表示ユ
ニット6に表示される(ステップ93,81…)。
【0053】このように、操作キー等の操作方法、操作
画面の操作手順および操作のサマリなど、ユーザの操作
補助となる各ヘルプ機能に対応したヘルプキーを設け、
画面操作中、あるいは操作終了後にいずれかのヘルプキ
ーを操作することによってユーザが要所々所で操作方
法、操作手順または操作のサマリを知るまたは確認する
ことができるので、ユーザは自らが意図する操作を容易
かつ確実に達成することができ、操作性を向上させるこ
とができる。
【0054】なお、上述した実施例1〜実施例4におい
てそれぞれ別の実施例として説明したが、図1に示すよ
うに、実施例1〜実施例4のすべてが実施できるユーザ
インターフェースとしてもよく、また、各実施例を適宜
組合わせたユーザインターフェースとしてもよい。
【0055】実施例5.図8は本発明の第5の実施例の
要部の拡大図で、この実施例は、タッチスクリーン5の
内壁5aおよびその表面5bに、タッチスクリーン5お
よび操作ボタンまたは操作キーの位置が手探りでも判別
できるように突起62を複数個設けたものである。ま
た、この実施例においては、操作ボタンまたは操作キー
の画像を押圧すると、その操作ボタンまたは操作キーに
対応した効果音、例えば操作内容が発生されるようにな
っている。
【0056】このように構成したことにより、タッチス
クリーン5の突起62によって目の不自由な方でもタッ
チスクリーン5のだいたいどの辺りを触っているかを知
ることができる。また、手探りによって検知した操作ボ
タン等を押圧するとその操作ボタン等に対応した効果音
が発生されるので、どのようなことを行うものであるか
を容易に把握することができ、確実に操作ボタン等の操
作を行うことができる。
【0057】なお、上述の実施例では操作ボタンおよび
操作キーの画像が表示されるタッチスクリーン5上およ
びその周辺に突起62を設け、この突起62の付近の操
作ボタンまたは操作キーの画像を押圧した時に、実施例
2において説明した発明とほぼ同様の発明が実施された
場合を説明したが、この発明にさらに実施例1、実施例
3および実施例4の発明を実施してもよい。
【0058】
【発明の効果】以上のように本発明に係るユーザインタ
ーフェースは、複数の操作ボタンおよび操作キーを表示
する表示ユニットと、表示ユニットの表面に配置され、
指示された位置の座標を検出するタッチスクリーンと、
タッチスクリーンの出力信号に基づいて操作ボタンおよ
び操作キーに対応した制御を行う制御部とを備え、制御
部は、タッチスクリーンの出力信号に基づいて表示ユニ
ットに表示された操作ボタンおよび操作キーのうち、指
示されたものの画像を識別する画像識別手段と、画像識
別手段によって識別された画像を他の表示画像と識別可
能にするための特殊表示をさせるかどうかを判断する特
殊効果識別手段と、特殊効果識別手段の判断結果に基づ
いて表示ユニットの指示された操作ボタンまたは操作キ
ーに対して特殊表示をさせる第1の制御手段とを有する
ので、いずれの操作ボタンまたは操作キーが指示された
のかを容易に識別でき、操作性の向上を計ることができ
る。
【0059】また、特殊表示は指示された操作ボタンま
たは操作キーの周囲にダイナミックな動作が付加された
アニメーション画像であるので、いずれの操作ボタンま
たは操作キーが指示されたことを視覚的に早く捉えて確
認することができ、操作性の向上を一層計ることができ
る。
【0060】さらに、第1の制御手段は、特殊表示のア
ニメーション画像である波紋画像のデータが格納されて
いる波紋画像データ記憶部と、波紋画像データ記憶部の
波紋画像データを順次取り出し波紋画像データの所在、
数および表示順序を決定する波紋画像パターン決定部
と、波紋画像パターン決定部からの決定情報、波紋画像
座標演算部からの表示座標情報および波紋画像大きさ演
算部からの表示大きさ情報に基づいて波紋画像を発生さ
せる波紋画像発生部とを有するので、操作中などにおい
て操作ボタン等が操作している指によって隠されて見え
なくなってしまっても指示されたことが容易に確認する
ことができ、画面操作の実感の不足を補うことができ
る。
【0061】本発明に係るユーザインターフェースの制
御部は、タッチスクリーンの出力信号に基づいて表示ユ
ニットに表示された操作ボタンおよび操作キーのうち、
指示されたものの画像を識別する画像識別手段と、画像
識別手段によって識別された画像に対して他の表示画像
と識別可能にするための効果音を発生させるかどうかを
判断する特殊効果識別手段と、特殊効果識別手段の判断
結果に基づいて表示ユニットの指示された操作ボタンま
たは操作キーに対応した効果音をスピーカから発生させ
る第2の制御手段とを有するので、視覚だけでなく聴覚
からもいずれの操作ボタンまたは操作キーが指示された
のかを識別することができ、画面操作の実感の不足を補
うことができる。
【0062】また、第2の制御手段は、操作ボタンおよ
び操作キーに対応した効果音データが格納されている効
果音データ記憶部と、指定された操作ボタンまたは操作
キーに対応した効果音データを効果音データ記憶部から
取り出しその効果音データの所在を決定する効果音パタ
ーン決定部と、効果音パターン決定部からの決定情報に
基づいて効果音をスピーカより発生させる効果音発生部
とを有し、また、タッチスクリーンの押圧力を検出する
圧力検出手段を有し、押圧力が所定圧力以上の時には指
定された操作ボタンまたは操作キーに対応した効果音を
発生させるとともにその処理を行い、押圧力が所定圧力
より小さい時には効果音のみを発生させるので、表示ユ
ニットに表示された操作ボタンおよび操作キーのうち、
指示された操作ボタンまたは操作キーの識別が一層容易
になり、操作性を向上させることができる。
【0063】本発明に係るユーザインターフェースは、
複数の操作ボタンおよび拡大表示キーを含む操作キーを
表示する表示ユニットと、タッチスクリーンと、制御部
とを備え、制御部は、タッチスクリーンの出力信号に基
づいて表示ユニットに表示された操作ボタンおよび操作
キーのうち、指示されたものの画像が拡大表示キーの画
像であるかどうかを識別する画像識別手段と、画像識別
手段において拡大表示キーが識別された時には必要最小
限の操作ボタンと操作キーとの組合わせからなるシュリ
ンク画面を表示ユニットに表示させる第3の制御手段と
を有し、第3の制御手段は、シュリンク画面のデータが
複数格納されているシュリンク画面データ記憶部と、シ
ュリンク画面データ記憶部に格納されているシュリンク
画面データをもとに操作ボタンまたは操作キーの画像の
大きさあるいは画像の数量を決定する画像大きさ決定部
および画像数量決定部と、画像大きさ決定部および画像
数量決定部の決定情報に基づいて画像の大きさ演算およ
び座標演算をそれぞれ行う演算部と、これらの演算結果
に基づいてシュリンク画面を発生させる画像発生部とを
有するので、操作ボタン等が多すぎて煩わしい時などに
おいて必要最小限の操作ボタン等のみが表示される見易
く操作しやすい単純化された操作画面を表示することが
でき、高齢者等においてもボタン操作を簡単かつ確実に
行うことができて便利である。
【0064】本発明に係るユーザインターフェースの制
御部は、タッチスクリーンの出力信号に基づいて表示ユ
ニットに表示された操作ボタンおよび操作キーのうち、
指示されたものの画像が拡大表示キーの画像であるかど
うかを識別する画像識別手段と、画像識別手段において
拡大表示キーが識別され次に画面の任意の箇所が押され
て指定されると、指示された箇所の座標を中心に予め定
められた半径内の画像を予め定められた倍率で表示ユニ
ットに拡大表示させる第4の制御手段を有し、第4の制
御手段は、指示された箇所の座標が拡大される画面の中
心基準となることを決定する画面拡大位置決定部と、画
面拡大位置決定部によって決定された基準座標を中心に
予め定められた半径内の画像が予め定められた倍率にな
るように演算する画像座標演算部および画像大きさ演算
部と、演算結果に基づいて拡大された拡大画面を発生さ
せる画像発生部とを有するので、操作キー等の表面に表
示されている文字が小さくて見え難い時や操作しにくい
時などにおいて任意の箇所およびその周囲を容易に拡大
させることができ、高齢者等においてもキー操作を簡単
かつ確実に行え、操作性を高めることができる。
【0065】本発明に係るユーザインターフェースは、
複数の操作ボタンおよび複数のヘルプキー含む操作キー
を表示する表示ユニットと、タッチスクリーンと、制御
部とを備え、制御部は、タッチスクリーンの出力信号に
基づいて表示ユニットに表示された操作ボタンおよび操
作キーのうち、指示されたものの画像がヘルプキーの画
像であるかどうかを識別する画像識別手段と、画像識別
手段においていずれかのヘルプキーが識別された時には
そのヘルプキーに対応したヘルプ処理を行わせる第5の
制御手段を有し、第5の制御手段は、操作される操作ボ
タンまたは操作キーの履歴が格納される操作履歴記憶部
と、操作ボタンおよび操作キーの操作方法データが格納
された操作方法データ記憶部と、表示ユニットに表示さ
れる各画面の操作手順データが格納されている操作手順
データ記憶部と、画像識別手段において操作方法ヘルプ
キーが識別された時に指定された操作ボタンまたは操作
キーの操作方法データを表示ユニットに表示させる操作
方法発生部と、画像識別手段において操作手順ヘルプキ
ーが識別された時に表示ユニットに表示されている画面
の操作手順データを表示ユニットに表示させる操作手順
発生部と、表示ユニットに表示されている画面の操作終
了後に画像識別手段において操作サマリヘルプキーが識
別された時に操作履歴記憶部に格納された操作キーの履
歴に基づいて操作サマリを表示ユニットに表示させる操
作サマリ提示部とを有するので、ユーザはその操作の確
認を取りながら操作キー等の操作を進めることができ、
確実に意図する操作を達成することができる。
【0066】本発明に係るユーザインターフェースは、
タッチスクリーンの周囲およびその表面に突起を複数設
けたので、目の不自由な方にもタッチスクリーンや操作
ボタンおよび操作キーの画像が表示される位置を容易に
検知することができ、操作性を向上させることができ
る。
【図面の簡単な説明】
【図1】 本発明の第1〜第4の実施例の構成を示すブ
ロック図である。
【図2】 本発明の第1の実施例に係る表示ユニットに
表示された操作画面の要部の拡大図である。
【図3】 本発明の第2の実施例に係る表示ユニットに
表示された操作画面の作用説明図である。
【図4】 本発明の第2の実施例の作用を示すフローチ
ャートである。
【図5】 本発明の第3の実施例に係る表示ユニットに
表示される操作画面の説明図である。
【図6】 本発明の第3の実施例の作用を示すフローチ
ャートである。
【図7】 本発明の第4の実施例の作用を示すフローチ
ャートである。
【図8】 本発明の第5の実施例の要部の拡大図であ
る。
【符号の説明】
1 スピーカ、2 効果音発生部、3 効果音データ記
憶部、4 効果音パターン決定部、5 タッチスクリー
ン、6 表示ユニット、8 波紋画像発生部、9 波紋
画像データ記憶部、10 波紋画像座標演算部、11
波紋画像大きさ演算部、12 波紋画像パターン決定
部、13 画像発生部、15 画像座標演算部、16
画像大きさ演算部、18 画像識別部、19 特殊効果
識別部、20 タッチ圧力検出部、21 シュリンク画
面データ記憶部、22 画像大きさ決定部、23 画像
数量決定部、24 画面拡大位置決定部、25 操作履
歴記憶部、27 操作手順データ記憶部、28 操作方
法データ記憶部、29 操作サマリ提示部、30 操作
手順発生部、31 操作方法発生部、41,43,5
6,57,58,59,60 操作ボタン、42 波
紋、44,52,53,54,55 操作キー、51
ルーペアイコンキー、62 突起。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 上村 一穂 鎌倉市大船二丁目14番40号 三菱電機株式 会社住環境研究開発センター内

Claims (13)

    【特許請求の範囲】
  1. 【請求項1】 複数の操作ボタンおよび操作キーを表示
    する表示ユニットと、該表示ユニットの表面に配置さ
    れ、指示された位置の座標を検出するタッチスクリーン
    と、該タッチスクリーンの出力信号に基づいて前記操作
    ボタンおよび操作キーに対応した制御を行う制御部とを
    備え、 前記制御部は、前記タッチスクリーンの出力信号に基づ
    いて前記表示ユニットに表示された操作ボタンおよび操
    作キーのうち、指示されたものの画像を識別する画像識
    別手段と、該画像識別手段によって識別された画像を他
    の表示画像と識別可能にするための特殊表示をさせるか
    どうかを判断する特殊効果識別手段と、該特殊効果識別
    手段の判断結果に基づいて前記表示ユニットの指示され
    た操作ボタンまたは操作キーに対して特殊表示をさせる
    第1の制御手段とを有することを特徴とするユーザイン
    ターフェース。
  2. 【請求項2】 特殊表示は指示された操作ボタンまたは
    操作キーの周囲にダイナミックな動作が付加されたアニ
    メーション画像であることを特徴とする請求項1記載の
    ユーザインターフェース。
  3. 【請求項3】 第1の制御手段は、特殊表示のアニメー
    ション画像である波紋画像のデータが格納されている波
    紋画像データ記憶部と、該波紋画像データ記憶部の波紋
    画像データを順次取り出し波紋画像データの所在、数お
    よび表示順序を決定する波紋画像パターン決定部と、該
    波紋画像パターン決定部からの決定情報、波紋画像座標
    演算部からの表示座標情報および波紋画像大きさ演算部
    からの表示大きさ情報に基づいて波紋画像を発生させる
    波紋画像発生部とを有することを特徴とする請求項2記
    載のユーザインターフェース。
  4. 【請求項4】 複数の操作ボタンおよび操作キーを表示
    する表示ユニットと、該表示ユニットの表面に配置さ
    れ、指示された位置の座標を検出するタッチスクリーン
    と、該タッチスクリーンの出力信号に基づいて前記操作
    ボタンおよび操作キーに対応した制御を行う制御部とを
    備え、 前記制御部は、前記タッチスクリーンの出力信号に基づ
    いて前記表示ユニットに表示された操作ボタンおよび操
    作キーのうち、指示されたものの画像を識別する画像識
    別手段と、該画像識別手段によって識別された画像に対
    して他の表示画像と識別可能にするための効果音を発生
    させるかどうかを判断する特殊効果識別手段と、該特殊
    効果識別手段の判断結果に基づいて前記表示ユニットの
    指示された操作ボタンまたは操作キーに対応した効果音
    をスピーカから発生させる第2の制御手段とを有するこ
    とを特徴とするユーザインターフェース。
  5. 【請求項5】 第2の制御手段は、前記タッチスクリー
    ンの押圧力を検出する圧力検出手段を有し、押圧力が所
    定圧力以上の時には指定された操作ボタンまたは操作キ
    ーに対応した効果音を発生させるとともにその処理を行
    い、押圧力が所定圧力より小さい時には効果音のみを発
    生させることを特徴とする請求項4記載のユーザインタ
    ーフェース。
  6. 【請求項6】 第2の制御手段は、操作ボタンおよび操
    作キーに対応した効果音データが格納されている効果音
    データ記憶部と、指定された操作ボタンまたは操作キー
    に対応した効果音データを前記効果音データ記憶部から
    取り出しその効果音データの所在を決定する効果音パタ
    ーン決定部と、該効果音パターン決定部からの決定情報
    に基づいて効果音をスピーカより発生させる効果音発生
    部とを有することを特徴とする請求項4または5記載の
    ユーザインターフェース。
  7. 【請求項7】 複数の操作ボタンおよび拡大表示キーを
    含む操作キーを表示する表示ユニットと、該表示ユニッ
    トの表面に配置され、指示された位置の座標を検出する
    タッチスクリーンと、該タッチスクリーンの出力信号に
    基づいて前記操作ボタンおよび操作キーに対応した制御
    を行う制御部とを備え、 前記制御部は、前記タッチスクリーンの出力信号に基づ
    いて前記表示ユニットに表示された操作ボタンおよび操
    作キーのうち、指示されたものの画像が前記拡大表示キ
    ーの画像であるかどうかを識別する画像識別手段と、該
    画像識別手段において拡大表示キーが識別された時には
    必要最小限の操作ボタンと操作キーとの組合わせからな
    るシュリンク画面を前記表示ユニットに表示させる第3
    の制御手段とを有することを特徴とするユーザインター
    フェース。
  8. 【請求項8】 第3の制御手段は、前記シュリンク画面
    のデータが複数格納されているシュリンク画面データ記
    憶部と、該シュリンク画面データ記憶部に格納されてい
    るシュリンク画面データをもとに操作ボタンまたは操作
    キーの画像の大きさあるいは画像の数量を決定する画像
    大きさ決定部および画像数量決定部と、前記画像大きさ
    決定部および画像数量決定部の決定情報に基づいて画像
    の大きさ演算および座標演算をそれぞれ行う画像大きさ
    演算部および画像座標演算部と、これらの演算結果に基
    づいてシュリンク画面を発生させる画像発生部とを有す
    ることを特徴とする請求項7記載のユーザインターフェ
    ース。
  9. 【請求項9】 複数の操作ボタンおよび拡大表示キーを
    含む操作キーを表示する表示ユニットと、該表示ユニッ
    トの表面に配置され、指示された位置の座標を検出する
    タッチスクリーンと、該タッチスクリーンの出力信号に
    基づいて前記操作ボタンおよび操作キーに対応した制御
    を行う制御部とを備え、 前記制御部は、前記タッチスクリーンの出力信号に基づ
    いて前記表示ユニットに表示された操作ボタンおよび操
    作キーのうち、指示されたものの画像が前記拡大表示キ
    ーの画像であるかどうかを識別する画像識別手段と、該
    画像識別手段において拡大表示キーが識別され次に画面
    の任意の箇所が押されて指定されると、指示された箇所
    の座標を中心に予め定められた半径内の画像を予め定め
    られた倍率で前記表示ユニットに拡大表示させる第4の
    制御手段を有することを特徴とするユーザインターフェ
    ース。
  10. 【請求項10】 第4の制御手段は、前記指示された箇
    所の座標が拡大される画面の中心基準となることを決定
    する画面拡大位置決定部と、該画面拡大位置決定部によ
    って決定された基準座標を中心に予め定められた半径内
    の画像が予め定められた倍率になるように演算する演算
    部と、演算結果に基づいて拡大された拡大画面を発生さ
    せる画像発生部とを有することを特徴とする請求項9記
    載のユーザインターフェース。
  11. 【請求項11】 複数の操作ボタンおよび複数のヘルプ
    キー含む操作キーを表示する表示ユニットと、該表示ユ
    ニットの表面に配置され、指示された位置の座標を検出
    するタッチスクリーンと、該タッチスクリーンの出力信
    号に基づいて前記操作ボタンおよび操作キーに対応した
    制御を行う制御部とを備え、 前記制御部は、前記タッチスクリーンの出力信号に基づ
    いて前記表示ユニットに表示された操作ボタンおよび操
    作キーのうち、指示されたものの画像が前記ヘルプキー
    の画像であるかどうかを識別する画像識別手段と、該画
    像識別手段においていずれかのヘルプキーが識別された
    時にはそのヘルプキーに対応したヘルプ処理を行わせる
    第5の制御手段を有することを特徴とするユーザインタ
    ーフェース。
  12. 【請求項12】 第5の制御手段は、操作される操作ボ
    タンまたは操作キーの履歴が格納される操作履歴記憶部
    と、操作ボタンおよび操作キーの操作方法データが格納
    された操作方法データ記憶部と、前記表示ユニットに表
    示される各画面の操作手順データが格納されている操作
    手順データ記憶部と、前記画像識別手段において操作方
    法ヘルプキーが識別された時に指定された操作ボタンま
    たは操作キーの操作方法データを前記表示ユニットに表
    示させる操作方法発生部と、前記画像識別手段において
    操作手順ヘルプキーが識別された時に表示ユニットに表
    示されている画面の操作手順データを前記表示ユニット
    に表示させる操作手順発生部と、前記表示ユニットに表
    示されている画面の操作終了後に前記画像識別手段にお
    いて操作サマリヘルプキーが識別された時に前記操作履
    歴記憶部に格納された操作キーの履歴に基づいて操作サ
    マリを前記表示ユニットに表示させる操作サマリ提示部
    とを有することを特徴とする請求項11記載のユーザイ
    ンターフェース。
  13. 【請求項13】 タッチスクリーンの周囲およびその表
    面に突起を複数設けたことを特徴とする請求項1,2,
    3,4,5,6,7,8,9,10,11または12記
    載のユーザインターフェース。
JP3323295A 1995-02-22 1995-02-22 ユーザインターフェース Pending JPH08227341A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP3323295A JPH08227341A (ja) 1995-02-22 1995-02-22 ユーザインターフェース

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP3323295A JPH08227341A (ja) 1995-02-22 1995-02-22 ユーザインターフェース

Publications (1)

Publication Number Publication Date
JPH08227341A true JPH08227341A (ja) 1996-09-03

Family

ID=12380718

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3323295A Pending JPH08227341A (ja) 1995-02-22 1995-02-22 ユーザインターフェース

Country Status (1)

Country Link
JP (1) JPH08227341A (ja)

Cited By (165)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000259311A (ja) * 1999-03-04 2000-09-22 Fujitsu Takamisawa Component Ltd 情報処理装置および情報処理方法
JP2001051759A (ja) * 1999-08-12 2001-02-23 Nec Corp 操作反応音生成装置及び操作反応音生成プログラムを記録した記録媒体
WO2005101172A1 (ja) * 2004-03-31 2005-10-27 Sharp Kabushiki Kaisha 電子機器
JP2007060033A (ja) * 2005-08-22 2007-03-08 Ricoh Co Ltd 複合機能画像形成装置、画面表示モード設定方法、プログラム及び記録媒体
JP2007334747A (ja) * 2006-06-16 2007-12-27 Miyake Design Jimusho:Kk 情報処理装置、携帯型電話機、接触入力画面形成装置、情報処理プログラム、および情報処理プログラムを記録した記録媒体
JP2008211383A (ja) * 2007-02-23 2008-09-11 Matsushita Electric Works Ltd 遠隔監視システム
JP2011118595A (ja) * 2009-12-02 2011-06-16 Square Enix Co Ltd ユーザインタフェース処理装置、ユーザインタフェース処理方法、およびユーザインタフェース処理プログラム
US8032843B2 (en) 1999-12-20 2011-10-04 Apple Inc. User interface for providing consolidation and access
US8255830B2 (en) 2009-03-16 2012-08-28 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US8427445B2 (en) 2004-07-30 2013-04-23 Apple Inc. Visual expander
JP2014096074A (ja) * 2012-11-12 2014-05-22 Sony Corp 情報処理装置、通信システムおよび情報処理方法
US8744852B1 (en) 2004-10-01 2014-06-03 Apple Inc. Spoken interfaces
US8799813B2 (en) 2000-01-05 2014-08-05 Apple Inc. Method and system for providing an embedded application tool bar
US8892446B2 (en) 2010-01-18 2014-11-18 Apple Inc. Service orchestration for intelligent automated assistant
US8977584B2 (en) 2010-01-25 2015-03-10 Newvaluexchange Global Ai Llp Apparatuses, methods and systems for a digital conversation management platform
US9207855B2 (en) 2006-10-26 2015-12-08 Apple Inc. Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker
EP2960767A1 (en) * 2014-06-24 2015-12-30 Google, Inc. Computerized systems and methods for rendering an animation of an object in response to user input
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US9300784B2 (en) 2013-06-13 2016-03-29 Apple Inc. System and method for emergency calls initiated by voice command
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
JP2016167298A (ja) * 2016-04-28 2016-09-15 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US9529524B2 (en) 2008-03-04 2016-12-27 Apple Inc. Methods and graphical user interfaces for editing on a portable multifunction device
US9535906B2 (en) 2008-07-31 2017-01-03 Apple Inc. Mobile device having human language translation capability with positional feedback
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
US9620104B2 (en) 2013-06-07 2017-04-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US9626955B2 (en) 2008-04-05 2017-04-18 Apple Inc. Intelligent text-to-speech conversion
US9633674B2 (en) 2013-06-07 2017-04-25 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
US9633660B2 (en) 2010-02-25 2017-04-25 Apple Inc. User profiling for voice input processing
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
JP2017511947A (ja) * 2015-01-23 2017-04-27 小米科技有限責任公司Xiaomi Inc. ボタンによるインタラクション方法、装置、プログラム及び記録媒体
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
US9646614B2 (en) 2000-03-16 2017-05-09 Apple Inc. Fast, language-independent method for user authentication by voice
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
JP2017516163A (ja) * 2015-03-08 2017-06-15 アップル インコーポレイテッド 視覚及び/又は触覚フィードバックを用いてユーザインタフェースオブジェクトを操作するためのデバイス、方法、及びグラフィカルユーザインタフェース
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US9697822B1 (en) 2013-03-15 2017-07-04 Apple Inc. System and method for updating an adaptive speech recognition model
US9706127B2 (en) 2015-06-07 2017-07-11 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US9753639B2 (en) 2012-05-09 2017-09-05 Apple Inc. Device, method, and graphical user interface for displaying content associated with a corresponding affordance
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
US9778771B2 (en) 2012-12-29 2017-10-03 Apple Inc. Device, method, and graphical user interface for transitioning between touch input to display output relationships
US9785305B2 (en) 2015-03-19 2017-10-10 Apple Inc. Touch input cursor manipulation
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
US9798393B2 (en) 2011-08-29 2017-10-24 Apple Inc. Text correction processing
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US9823839B2 (en) 2012-05-09 2017-11-21 Apple Inc. Device, method, and graphical user interface for displaying additional information in response to a user contact
US9830048B2 (en) 2015-06-07 2017-11-28 Apple Inc. Devices and methods for processing touch inputs with instructions in a web page
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US9880735B2 (en) 2015-08-10 2018-01-30 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9886184B2 (en) 2012-05-09 2018-02-06 Apple Inc. Device, method, and graphical user interface for providing feedback for changing activation states of a user interface object
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US9891811B2 (en) 2015-06-07 2018-02-13 Apple Inc. Devices and methods for navigating between user interfaces
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US9922642B2 (en) 2013-03-15 2018-03-20 Apple Inc. Training an at least partial voice command system
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9953088B2 (en) 2012-05-14 2018-04-24 Apple Inc. Crowd sourcing information to fulfill user requests
US9959870B2 (en) 2008-12-11 2018-05-01 Apple Inc. Speech recognition involving a mobile device
US9959025B2 (en) 2012-12-29 2018-05-01 Apple Inc. Device, method, and graphical user interface for navigating user interface hierarchies
US9966065B2 (en) 2014-05-30 2018-05-08 Apple Inc. Multi-command single utterance input method
US9966068B2 (en) 2013-06-08 2018-05-08 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US9971774B2 (en) 2012-09-19 2018-05-15 Apple Inc. Voice-based media searching
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US9990107B2 (en) 2015-03-08 2018-06-05 Apple Inc. Devices, methods, and graphical user interfaces for displaying and using menus
US9990121B2 (en) 2012-05-09 2018-06-05 Apple Inc. Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input
US9996231B2 (en) 2012-05-09 2018-06-12 Apple Inc. Device, method, and graphical user interface for manipulating framed graphical objects
US10037138B2 (en) 2012-12-29 2018-07-31 Apple Inc. Device, method, and graphical user interface for switching between user interfaces
US10042542B2 (en) 2012-05-09 2018-08-07 Apple Inc. Device, method, and graphical user interface for moving and dropping a user interface object
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10048757B2 (en) 2015-03-08 2018-08-14 Apple Inc. Devices and methods for controlling media presentation
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US10067653B2 (en) 2015-04-01 2018-09-04 Apple Inc. Devices and methods for processing touch inputs based on their intensities
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US10073615B2 (en) 2012-05-09 2018-09-11 Apple Inc. Device, method, and graphical user interface for displaying user interface objects corresponding to an application
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US10079014B2 (en) 2012-06-08 2018-09-18 Apple Inc. Name recognition system
US10078442B2 (en) 2012-12-29 2018-09-18 Apple Inc. Device, method, and graphical user interface for determining whether to scroll or select content based on an intensity theshold
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10089072B2 (en) 2016-06-11 2018-10-02 Apple Inc. Intelligent device arbitration and control
US10095396B2 (en) 2015-03-08 2018-10-09 Apple Inc. Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object
US10095391B2 (en) 2012-05-09 2018-10-09 Apple Inc. Device, method, and graphical user interface for selecting user interface objects
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US10126930B2 (en) 2012-05-09 2018-11-13 Apple Inc. Device, method, and graphical user interface for scrolling nested regions
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US10162452B2 (en) 2015-08-10 2018-12-25 Apple Inc. Devices and methods for processing touch inputs based on their intensities
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US10175757B2 (en) 2012-05-09 2019-01-08 Apple Inc. Device, method, and graphical user interface for providing tactile feedback for touch-based operations performed and reversed in a user interface
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
US10175864B2 (en) 2012-05-09 2019-01-08 Apple Inc. Device, method, and graphical user interface for selecting object within a group of objects in accordance with contact intensity
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US10185542B2 (en) 2013-06-09 2019-01-22 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10199051B2 (en) 2013-02-07 2019-02-05 Apple Inc. Voice trigger for a digital assistant
US10200598B2 (en) 2015-06-07 2019-02-05 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US10222980B2 (en) 2015-03-19 2019-03-05 Apple Inc. Touch input cursor manipulation
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10235035B2 (en) 2015-08-10 2019-03-19 Apple Inc. Devices, methods, and graphical user interfaces for content navigation and manipulation
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US10248308B2 (en) 2015-08-10 2019-04-02 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interfaces with physical gestures
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US10269345B2 (en) 2016-06-11 2019-04-23 Apple Inc. Intelligent task discovery
US10275087B1 (en) 2011-08-05 2019-04-30 P4tents1, LLC Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10283110B2 (en) 2009-07-02 2019-05-07 Apple Inc. Methods and apparatuses for automatic speech recognition
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US10297253B2 (en) 2016-06-11 2019-05-21 Apple Inc. Application integration with a digital assistant
US10318871B2 (en) 2005-09-08 2019-06-11 Apple Inc. Method and apparatus for building an intelligent automated assistant
US10346030B2 (en) 2015-06-07 2019-07-09 Apple Inc. Devices and methods for navigating between user interfaces
US10354011B2 (en) 2016-06-09 2019-07-16 Apple Inc. Intelligent automated assistant in a home environment
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US10387029B2 (en) 2015-03-08 2019-08-20 Apple Inc. Devices, methods, and graphical user interfaces for displaying and using menus
US10416800B2 (en) 2015-08-10 2019-09-17 Apple Inc. Devices, methods, and graphical user interfaces for adjusting user interface objects
US10437333B2 (en) 2012-12-29 2019-10-08 Apple Inc. Device, method, and graphical user interface for forgoing generation of tactile output for a multi-contact gesture
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US10496260B2 (en) 2012-05-09 2019-12-03 Apple Inc. Device, method, and graphical user interface for pressure-based alteration of controls in a user interface
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10521466B2 (en) 2016-06-11 2019-12-31 Apple Inc. Data driven natural language event detection and classification
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US10568032B2 (en) 2007-04-03 2020-02-18 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
US10592041B2 (en) 2012-05-09 2020-03-17 Apple Inc. Device, method, and graphical user interface for transitioning between display states in response to a gesture
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US10620781B2 (en) 2012-12-29 2020-04-14 Apple Inc. Device, method, and graphical user interface for moving a cursor according to a change in an appearance of a control icon with simulated three-dimensional characteristics
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US10664144B2 (en) 2011-05-31 2020-05-26 Apple Inc. Devices, methods, and graphical user interfaces for document manipulation
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US10706373B2 (en) 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US10733993B2 (en) 2016-06-10 2020-08-04 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
US10791176B2 (en) 2017-05-12 2020-09-29 Apple Inc. Synchronization and task delegation of a digital assistant
US10791216B2 (en) 2013-08-06 2020-09-29 Apple Inc. Auto-activating smart responses based on activities from remote devices
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
US10810274B2 (en) 2017-05-15 2020-10-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification

Cited By (300)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000259311A (ja) * 1999-03-04 2000-09-22 Fujitsu Takamisawa Component Ltd 情報処理装置および情報処理方法
JP2001051759A (ja) * 1999-08-12 2001-02-23 Nec Corp 操作反応音生成装置及び操作反応音生成プログラムを記録した記録媒体
US9684436B2 (en) 1999-12-20 2017-06-20 Apple Inc. User interface for providing consolidation and access
US8032843B2 (en) 1999-12-20 2011-10-04 Apple Inc. User interface for providing consolidation and access
US8799813B2 (en) 2000-01-05 2014-08-05 Apple Inc. Method and system for providing an embedded application tool bar
US9646614B2 (en) 2000-03-16 2017-05-09 Apple Inc. Fast, language-independent method for user authentication by voice
WO2005101172A1 (ja) * 2004-03-31 2005-10-27 Sharp Kabushiki Kaisha 電子機器
US8427445B2 (en) 2004-07-30 2013-04-23 Apple Inc. Visual expander
US8744852B1 (en) 2004-10-01 2014-06-03 Apple Inc. Spoken interfaces
JP2007060033A (ja) * 2005-08-22 2007-03-08 Ricoh Co Ltd 複合機能画像形成装置、画面表示モード設定方法、プログラム及び記録媒体
US10318871B2 (en) 2005-09-08 2019-06-11 Apple Inc. Method and apparatus for building an intelligent automated assistant
JP2007334747A (ja) * 2006-06-16 2007-12-27 Miyake Design Jimusho:Kk 情報処理装置、携帯型電話機、接触入力画面形成装置、情報処理プログラム、および情報処理プログラムを記録した記録媒体
US9117447B2 (en) 2006-09-08 2015-08-25 Apple Inc. Using event alert text as input to an automated assistant
US8930191B2 (en) 2006-09-08 2015-01-06 Apple Inc. Paraphrasing of user requests and results by automated digital assistant
US8942986B2 (en) 2006-09-08 2015-01-27 Apple Inc. Determining user intent based on ontologies of domains
US9632695B2 (en) 2006-10-26 2017-04-25 Apple Inc. Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker
US9207855B2 (en) 2006-10-26 2015-12-08 Apple Inc. Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker
JP2008211383A (ja) * 2007-02-23 2008-09-11 Matsushita Electric Works Ltd 遠隔監視システム
US10568032B2 (en) 2007-04-03 2020-02-18 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US10381016B2 (en) 2008-01-03 2019-08-13 Apple Inc. Methods and apparatus for altering audio output signals
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US9529524B2 (en) 2008-03-04 2016-12-27 Apple Inc. Methods and graphical user interfaces for editing on a portable multifunction device
US9626955B2 (en) 2008-04-05 2017-04-18 Apple Inc. Intelligent text-to-speech conversion
US9865248B2 (en) 2008-04-05 2018-01-09 Apple Inc. Intelligent text-to-speech conversion
US9535906B2 (en) 2008-07-31 2017-01-03 Apple Inc. Mobile device having human language translation capability with positional feedback
US10108612B2 (en) 2008-07-31 2018-10-23 Apple Inc. Mobile device having human language translation capability with positional feedback
US9959870B2 (en) 2008-12-11 2018-05-01 Apple Inc. Speech recognition involving a mobile device
US10761716B2 (en) 2009-03-16 2020-09-01 Apple, Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US9875013B2 (en) 2009-03-16 2018-01-23 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US8255830B2 (en) 2009-03-16 2012-08-28 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US8370736B2 (en) 2009-03-16 2013-02-05 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US9846533B2 (en) 2009-03-16 2017-12-19 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US10475446B2 (en) 2009-06-05 2019-11-12 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US11080012B2 (en) 2009-06-05 2021-08-03 Apple Inc. Interface for a virtual digital assistant
US10795541B2 (en) 2009-06-05 2020-10-06 Apple Inc. Intelligent organization of tasks items
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US10283110B2 (en) 2009-07-02 2019-05-07 Apple Inc. Methods and apparatuses for automatic speech recognition
JP2011118595A (ja) * 2009-12-02 2011-06-16 Square Enix Co Ltd ユーザインタフェース処理装置、ユーザインタフェース処理方法、およびユーザインタフェース処理プログラム
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US8903716B2 (en) 2010-01-18 2014-12-02 Apple Inc. Personalized vocabulary for digital assistant
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US10706841B2 (en) 2010-01-18 2020-07-07 Apple Inc. Task flow identification based on user intent
US9548050B2 (en) 2010-01-18 2017-01-17 Apple Inc. Intelligent automated assistant
US8892446B2 (en) 2010-01-18 2014-11-18 Apple Inc. Service orchestration for intelligent automated assistant
US12087308B2 (en) 2010-01-18 2024-09-10 Apple Inc. Intelligent automated assistant
US11423886B2 (en) 2010-01-18 2022-08-23 Apple Inc. Task flow identification based on user intent
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US9431028B2 (en) 2010-01-25 2016-08-30 Newvaluexchange Ltd Apparatuses, methods and systems for a digital conversation management platform
US10984326B2 (en) 2010-01-25 2021-04-20 Newvaluexchange Ltd. Apparatuses, methods and systems for a digital conversation management platform
US10984327B2 (en) 2010-01-25 2021-04-20 New Valuexchange Ltd. Apparatuses, methods and systems for a digital conversation management platform
US10607140B2 (en) 2010-01-25 2020-03-31 Newvaluexchange Ltd. Apparatuses, methods and systems for a digital conversation management platform
US10607141B2 (en) 2010-01-25 2020-03-31 Newvaluexchange Ltd. Apparatuses, methods and systems for a digital conversation management platform
US9424861B2 (en) 2010-01-25 2016-08-23 Newvaluexchange Ltd Apparatuses, methods and systems for a digital conversation management platform
US11410053B2 (en) 2010-01-25 2022-08-09 Newvaluexchange Ltd. Apparatuses, methods and systems for a digital conversation management platform
US12307383B2 (en) 2010-01-25 2025-05-20 Newvaluexchange Global Ai Llp Apparatuses, methods and systems for a digital conversation management platform
US9424862B2 (en) 2010-01-25 2016-08-23 Newvaluexchange Ltd Apparatuses, methods and systems for a digital conversation management platform
US8977584B2 (en) 2010-01-25 2015-03-10 Newvaluexchange Global Ai Llp Apparatuses, methods and systems for a digital conversation management platform
US9633660B2 (en) 2010-02-25 2017-04-25 Apple Inc. User profiling for voice input processing
US10049675B2 (en) 2010-02-25 2018-08-14 Apple Inc. User profiling for voice input processing
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US10102359B2 (en) 2011-03-21 2018-10-16 Apple Inc. Device access using voice authentication
US11256401B2 (en) 2011-05-31 2022-02-22 Apple Inc. Devices, methods, and graphical user interfaces for document manipulation
US10664144B2 (en) 2011-05-31 2020-05-26 Apple Inc. Devices, methods, and graphical user interfaces for document manipulation
US11120372B2 (en) 2011-06-03 2021-09-14 Apple Inc. Performing actions associated with task items that represent tasks to perform
US10706373B2 (en) 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US10275087B1 (en) 2011-08-05 2019-04-30 P4tents1, LLC Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10365758B1 (en) 2011-08-05 2019-07-30 P4tents1, LLC Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10386960B1 (en) 2011-08-05 2019-08-20 P4tents1, LLC Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10345961B1 (en) 2011-08-05 2019-07-09 P4tents1, LLC Devices and methods for navigating between user interfaces
US10664097B1 (en) 2011-08-05 2020-05-26 P4tents1, LLC Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10656752B1 (en) 2011-08-05 2020-05-19 P4tents1, LLC Gesture-equipped touch screen system, method, and computer program product
US10649571B1 (en) 2011-08-05 2020-05-12 P4tents1, LLC Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10540039B1 (en) 2011-08-05 2020-01-21 P4tents1, LLC Devices and methods for navigating between user interface
US10338736B1 (en) 2011-08-05 2019-07-02 P4tents1, LLC Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US9798393B2 (en) 2011-08-29 2017-10-24 Apple Inc. Text correction processing
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
US9753639B2 (en) 2012-05-09 2017-09-05 Apple Inc. Device, method, and graphical user interface for displaying content associated with a corresponding affordance
US9990121B2 (en) 2012-05-09 2018-06-05 Apple Inc. Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input
US12045451B2 (en) 2012-05-09 2024-07-23 Apple Inc. Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input
US10942570B2 (en) 2012-05-09 2021-03-09 Apple Inc. Device, method, and graphical user interface for providing tactile feedback for operations performed in a user interface
US10496260B2 (en) 2012-05-09 2019-12-03 Apple Inc. Device, method, and graphical user interface for pressure-based alteration of controls in a user interface
US10095391B2 (en) 2012-05-09 2018-10-09 Apple Inc. Device, method, and graphical user interface for selecting user interface objects
US10908808B2 (en) 2012-05-09 2021-02-02 Apple Inc. Device, method, and graphical user interface for displaying additional information in response to a user contact
US9886184B2 (en) 2012-05-09 2018-02-06 Apple Inc. Device, method, and graphical user interface for providing feedback for changing activation states of a user interface object
US11068153B2 (en) 2012-05-09 2021-07-20 Apple Inc. Device, method, and graphical user interface for displaying user interface objects corresponding to an application
US12340075B2 (en) 2012-05-09 2025-06-24 Apple Inc. Device, method, and graphical user interface for selecting user interface objects
US10592041B2 (en) 2012-05-09 2020-03-17 Apple Inc. Device, method, and graphical user interface for transitioning between display states in response to a gesture
US11010027B2 (en) 2012-05-09 2021-05-18 Apple Inc. Device, method, and graphical user interface for manipulating framed graphical objects
US12067229B2 (en) 2012-05-09 2024-08-20 Apple Inc. Device, method, and graphical user interface for providing feedback for changing activation states of a user interface object
US9971499B2 (en) 2012-05-09 2018-05-15 Apple Inc. Device, method, and graphical user interface for displaying content associated with a corresponding affordance
US11947724B2 (en) 2012-05-09 2024-04-02 Apple Inc. Device, method, and graphical user interface for providing tactile feedback for operations performed in a user interface
US11221675B2 (en) 2012-05-09 2022-01-11 Apple Inc. Device, method, and graphical user interface for providing tactile feedback for operations performed in a user interface
US10481690B2 (en) 2012-05-09 2019-11-19 Apple Inc. Device, method, and graphical user interface for providing tactile feedback for media adjustment operations performed in a user interface
US11023116B2 (en) 2012-05-09 2021-06-01 Apple Inc. Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input
US9996231B2 (en) 2012-05-09 2018-06-12 Apple Inc. Device, method, and graphical user interface for manipulating framed graphical objects
US10191627B2 (en) 2012-05-09 2019-01-29 Apple Inc. Device, method, and graphical user interface for manipulating framed graphical objects
US11314407B2 (en) 2012-05-09 2022-04-26 Apple Inc. Device, method, and graphical user interface for providing feedback for changing activation states of a user interface object
US10042542B2 (en) 2012-05-09 2018-08-07 Apple Inc. Device, method, and graphical user interface for moving and dropping a user interface object
US10175864B2 (en) 2012-05-09 2019-01-08 Apple Inc. Device, method, and graphical user interface for selecting object within a group of objects in accordance with contact intensity
US10175757B2 (en) 2012-05-09 2019-01-08 Apple Inc. Device, method, and graphical user interface for providing tactile feedback for touch-based operations performed and reversed in a user interface
US11354033B2 (en) 2012-05-09 2022-06-07 Apple Inc. Device, method, and graphical user interface for managing icons in a user interface region
US10969945B2 (en) 2012-05-09 2021-04-06 Apple Inc. Device, method, and graphical user interface for selecting user interface objects
US10884591B2 (en) 2012-05-09 2021-01-05 Apple Inc. Device, method, and graphical user interface for selecting object within a group of objects
US10996788B2 (en) 2012-05-09 2021-05-04 Apple Inc. Device, method, and graphical user interface for transitioning between display states in response to a gesture
US9823839B2 (en) 2012-05-09 2017-11-21 Apple Inc. Device, method, and graphical user interface for displaying additional information in response to a user contact
US10126930B2 (en) 2012-05-09 2018-11-13 Apple Inc. Device, method, and graphical user interface for scrolling nested regions
US10114546B2 (en) 2012-05-09 2018-10-30 Apple Inc. Device, method, and graphical user interface for displaying user interface objects corresponding to an application
US10073615B2 (en) 2012-05-09 2018-09-11 Apple Inc. Device, method, and graphical user interface for displaying user interface objects corresponding to an application
US10782871B2 (en) 2012-05-09 2020-09-22 Apple Inc. Device, method, and graphical user interface for providing feedback for changing activation states of a user interface object
US10775999B2 (en) 2012-05-09 2020-09-15 Apple Inc. Device, method, and graphical user interface for displaying user interface objects corresponding to an application
US10775994B2 (en) 2012-05-09 2020-09-15 Apple Inc. Device, method, and graphical user interface for moving and dropping a user interface object
US9953088B2 (en) 2012-05-14 2018-04-24 Apple Inc. Crowd sourcing information to fulfill user requests
US10079014B2 (en) 2012-06-08 2018-09-18 Apple Inc. Name recognition system
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
US9971774B2 (en) 2012-09-19 2018-05-15 Apple Inc. Voice-based media searching
JP2014096074A (ja) * 2012-11-12 2014-05-22 Sony Corp 情報処理装置、通信システムおよび情報処理方法
US10276132B2 (en) 2012-11-12 2019-04-30 Sony Corporation Information processing for recognition of acceptance of user operation
US10679586B2 (en) 2012-11-12 2020-06-09 Sony Corporation Information processing device, communication system, and information processing method
US11106292B2 (en) 2012-11-12 2021-08-31 Sony Corporation Information processing device, communication system, and information processing method
US9778771B2 (en) 2012-12-29 2017-10-03 Apple Inc. Device, method, and graphical user interface for transitioning between touch input to display output relationships
US12050761B2 (en) 2012-12-29 2024-07-30 Apple Inc. Device, method, and graphical user interface for transitioning from low power mode
US9857897B2 (en) 2012-12-29 2018-01-02 Apple Inc. Device and method for assigning respective portions of an aggregate intensity to a plurality of contacts
US10185491B2 (en) 2012-12-29 2019-01-22 Apple Inc. Device, method, and graphical user interface for determining whether to scroll or enlarge content
US10915243B2 (en) 2012-12-29 2021-02-09 Apple Inc. Device, method, and graphical user interface for adjusting content selection
US12135871B2 (en) 2012-12-29 2024-11-05 Apple Inc. Device, method, and graphical user interface for switching between user interfaces
US9996233B2 (en) 2012-12-29 2018-06-12 Apple Inc. Device, method, and graphical user interface for navigating user interface hierarchies
US10101887B2 (en) 2012-12-29 2018-10-16 Apple Inc. Device, method, and graphical user interface for navigating user interface hierarchies
US10037138B2 (en) 2012-12-29 2018-07-31 Apple Inc. Device, method, and graphical user interface for switching between user interfaces
US9965074B2 (en) 2012-12-29 2018-05-08 Apple Inc. Device, method, and graphical user interface for transitioning between touch input to display output relationships
US10078442B2 (en) 2012-12-29 2018-09-18 Apple Inc. Device, method, and graphical user interface for determining whether to scroll or select content based on an intensity theshold
US10175879B2 (en) 2012-12-29 2019-01-08 Apple Inc. Device, method, and graphical user interface for zooming a user interface while performing a drag operation
US9959025B2 (en) 2012-12-29 2018-05-01 Apple Inc. Device, method, and graphical user interface for navigating user interface hierarchies
US10620781B2 (en) 2012-12-29 2020-04-14 Apple Inc. Device, method, and graphical user interface for moving a cursor according to a change in an appearance of a control icon with simulated three-dimensional characteristics
US10437333B2 (en) 2012-12-29 2019-10-08 Apple Inc. Device, method, and graphical user interface for forgoing generation of tactile output for a multi-contact gesture
US10978090B2 (en) 2013-02-07 2021-04-13 Apple Inc. Voice trigger for a digital assistant
US10199051B2 (en) 2013-02-07 2019-02-05 Apple Inc. Voice trigger for a digital assistant
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
US9922642B2 (en) 2013-03-15 2018-03-20 Apple Inc. Training an at least partial voice command system
US9697822B1 (en) 2013-03-15 2017-07-04 Apple Inc. System and method for updating an adaptive speech recognition model
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
US9966060B2 (en) 2013-06-07 2018-05-08 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US9620104B2 (en) 2013-06-07 2017-04-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US9633674B2 (en) 2013-06-07 2017-04-25 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
US10657961B2 (en) 2013-06-08 2020-05-19 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US9966068B2 (en) 2013-06-08 2018-05-08 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
US10185542B2 (en) 2013-06-09 2019-01-22 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
US9300784B2 (en) 2013-06-13 2016-03-29 Apple Inc. System and method for emergency calls initiated by voice command
US10791216B2 (en) 2013-08-06 2020-09-29 Apple Inc. Auto-activating smart responses based on activities from remote devices
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US9966065B2 (en) 2014-05-30 2018-05-08 Apple Inc. Multi-command single utterance input method
US10083690B2 (en) 2014-05-30 2018-09-25 Apple Inc. Better resolution when referencing to concepts
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
US11133008B2 (en) 2014-05-30 2021-09-28 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
US11257504B2 (en) 2014-05-30 2022-02-22 Apple Inc. Intelligent assistant for home automation
US10169329B2 (en) 2014-05-30 2019-01-01 Apple Inc. Exemplar-based natural language processing
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10497365B2 (en) 2014-05-30 2019-12-03 Apple Inc. Multi-command single utterance input method
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
EP2960767A1 (en) * 2014-06-24 2015-12-30 Google, Inc. Computerized systems and methods for rendering an animation of an object in response to user input
US9668024B2 (en) 2014-06-30 2017-05-30 Apple Inc. Intelligent automated assistant for TV user interactions
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US10904611B2 (en) 2014-06-30 2021-01-26 Apple Inc. Intelligent automated assistant for TV user interactions
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10431204B2 (en) 2014-09-11 2019-10-01 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9986419B2 (en) 2014-09-30 2018-05-29 Apple Inc. Social reminders
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US11556230B2 (en) 2014-12-02 2023-01-17 Apple Inc. Data detection
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
US10705676B2 (en) 2015-01-23 2020-07-07 Xiaomi Inc. Method and device for interacting with button
JP2017511947A (ja) * 2015-01-23 2017-04-27 小米科技有限責任公司Xiaomi Inc. ボタンによるインタラクション方法、装置、プログラム及び記録媒体
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US10268342B2 (en) 2015-03-08 2019-04-23 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10180772B2 (en) 2015-03-08 2019-01-15 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10095396B2 (en) 2015-03-08 2018-10-09 Apple Inc. Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US10067645B2 (en) 2015-03-08 2018-09-04 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US11977726B2 (en) 2015-03-08 2024-05-07 Apple Inc. Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object
US10268341B2 (en) 2015-03-08 2019-04-23 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10387029B2 (en) 2015-03-08 2019-08-20 Apple Inc. Devices, methods, and graphical user interfaces for displaying and using menus
US10311871B2 (en) 2015-03-08 2019-06-04 Apple Inc. Competing devices responding to voice triggers
US10338772B2 (en) 2015-03-08 2019-07-02 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10613634B2 (en) 2015-03-08 2020-04-07 Apple Inc. Devices and methods for controlling media presentation
US10402073B2 (en) 2015-03-08 2019-09-03 Apple Inc. Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object
US11087759B2 (en) 2015-03-08 2021-08-10 Apple Inc. Virtual assistant activation
US11112957B2 (en) 2015-03-08 2021-09-07 Apple Inc. Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object
JP2018181355A (ja) * 2015-03-08 2018-11-15 アップル インコーポレイテッドApple Inc. 視覚及び/又は触覚フィードバックを用いてユーザインタフェースオブジェクトを操作するためのデバイス、方法、及びグラフィカルユーザインタフェース
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9990107B2 (en) 2015-03-08 2018-06-05 Apple Inc. Devices, methods, and graphical user interfaces for displaying and using menus
JP2017516163A (ja) * 2015-03-08 2017-06-15 アップル インコーポレイテッド 視覚及び/又は触覚フィードバックを用いてユーザインタフェースオブジェクトを操作するためのデバイス、方法、及びグラフィカルユーザインタフェース
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US12436662B2 (en) 2015-03-08 2025-10-07 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10048757B2 (en) 2015-03-08 2018-08-14 Apple Inc. Devices and methods for controlling media presentation
US10860177B2 (en) 2015-03-08 2020-12-08 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US11550471B2 (en) 2015-03-19 2023-01-10 Apple Inc. Touch input cursor manipulation
US10222980B2 (en) 2015-03-19 2019-03-05 Apple Inc. Touch input cursor manipulation
US10599331B2 (en) 2015-03-19 2020-03-24 Apple Inc. Touch input cursor manipulation
US11054990B2 (en) 2015-03-19 2021-07-06 Apple Inc. Touch input cursor manipulation
US9785305B2 (en) 2015-03-19 2017-10-10 Apple Inc. Touch input cursor manipulation
US10152208B2 (en) 2015-04-01 2018-12-11 Apple Inc. Devices and methods for processing touch inputs based on their intensities
US10067653B2 (en) 2015-04-01 2018-09-04 Apple Inc. Devices and methods for processing touch inputs based on their intensities
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US10705718B2 (en) 2015-06-07 2020-07-07 Apple Inc. Devices and methods for navigating between user interfaces
US10346030B2 (en) 2015-06-07 2019-07-09 Apple Inc. Devices and methods for navigating between user interfaces
US12346550B2 (en) 2015-06-07 2025-07-01 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9706127B2 (en) 2015-06-07 2017-07-11 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9830048B2 (en) 2015-06-07 2017-11-28 Apple Inc. Devices and methods for processing touch inputs with instructions in a web page
US9860451B2 (en) 2015-06-07 2018-01-02 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9891811B2 (en) 2015-06-07 2018-02-13 Apple Inc. Devices and methods for navigating between user interfaces
US10841484B2 (en) 2015-06-07 2020-11-17 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9916080B2 (en) 2015-06-07 2018-03-13 Apple Inc. Devices and methods for navigating between user interfaces
US11835985B2 (en) 2015-06-07 2023-12-05 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US11681429B2 (en) 2015-06-07 2023-06-20 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US10200598B2 (en) 2015-06-07 2019-02-05 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US11240424B2 (en) 2015-06-07 2022-02-01 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US11231831B2 (en) 2015-06-07 2022-01-25 Apple Inc. Devices and methods for content preview based on touch input intensity
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US10455146B2 (en) 2015-06-07 2019-10-22 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US10303354B2 (en) 2015-06-07 2019-05-28 Apple Inc. Devices and methods for navigating between user interfaces
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10209884B2 (en) 2015-08-10 2019-02-19 Apple Inc. Devices, Methods, and Graphical User Interfaces for Manipulating User Interface Objects with Visual and/or Haptic Feedback
US10162452B2 (en) 2015-08-10 2018-12-25 Apple Inc. Devices and methods for processing touch inputs based on their intensities
US12386501B2 (en) 2015-08-10 2025-08-12 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10698598B2 (en) 2015-08-10 2020-06-30 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10416800B2 (en) 2015-08-10 2019-09-17 Apple Inc. Devices, methods, and graphical user interfaces for adjusting user interface objects
US9880735B2 (en) 2015-08-10 2018-01-30 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10884608B2 (en) 2015-08-10 2021-01-05 Apple Inc. Devices, methods, and graphical user interfaces for content navigation and manipulation
US11740785B2 (en) 2015-08-10 2023-08-29 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US11327648B2 (en) 2015-08-10 2022-05-10 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10203868B2 (en) 2015-08-10 2019-02-12 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US10963158B2 (en) 2015-08-10 2021-03-30 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US11182017B2 (en) 2015-08-10 2021-11-23 Apple Inc. Devices and methods for processing touch inputs based on their intensities
US10248308B2 (en) 2015-08-10 2019-04-02 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interfaces with physical gestures
US10235035B2 (en) 2015-08-10 2019-03-19 Apple Inc. Devices, methods, and graphical user interfaces for content navigation and manipulation
US10754542B2 (en) 2015-08-10 2020-08-25 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
US11500672B2 (en) 2015-09-08 2022-11-15 Apple Inc. Distributed personal assistant
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US11526368B2 (en) 2015-11-06 2022-12-13 Apple Inc. Intelligent automated assistant in a messaging environment
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
JP2016167298A (ja) * 2016-04-28 2016-09-15 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US11069347B2 (en) 2016-06-08 2021-07-20 Apple Inc. Intelligent automated assistant for media exploration
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
US10354011B2 (en) 2016-06-09 2019-07-16 Apple Inc. Intelligent automated assistant in a home environment
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10733993B2 (en) 2016-06-10 2020-08-04 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US11037565B2 (en) 2016-06-10 2021-06-15 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10089072B2 (en) 2016-06-11 2018-10-02 Apple Inc. Intelligent device arbitration and control
US10297253B2 (en) 2016-06-11 2019-05-21 Apple Inc. Application integration with a digital assistant
US10269345B2 (en) 2016-06-11 2019-04-23 Apple Inc. Intelligent task discovery
US10521466B2 (en) 2016-06-11 2019-12-31 Apple Inc. Data driven natural language event detection and classification
US11152002B2 (en) 2016-06-11 2021-10-19 Apple Inc. Application integration with a digital assistant
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
US10791176B2 (en) 2017-05-12 2020-09-29 Apple Inc. Synchronization and task delegation of a digital assistant
US11405466B2 (en) 2017-05-12 2022-08-02 Apple Inc. Synchronization and task delegation of a digital assistant
US10810274B2 (en) 2017-05-15 2020-10-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback

Similar Documents

Publication Publication Date Title
JPH08227341A (ja) ユーザインターフェース
US7187394B2 (en) User friendly selection apparatus based on touch screens for visually impaired people
EP1324269B1 (en) Image processing apparatus, image processing method, record medium, computer program, and semiconductor device
JP2004504675A (ja) ビデオ会議及び他のカメラベースのシステム適用におけるポインティング方向の較正方法
JP2010534895A (ja) 高度なカメラをベースとした入力
CN108829325A (zh) 用于动态地调整音频输出的呈现的设备、方法和图形用户界面
CN114706511B (zh) 交互处理方法、装置及电子设备
CN105892631A (zh) 一种简化虚拟现实应用操作的方法和装置
KR20100075281A (ko) 공간 투영 및 공간 터치 기능이 구비된 단말 장치 및 그 제어 방법
US10747308B2 (en) Line-of-sight operation apparatus, method, and medical device
JP2002373057A (ja) 入力操作方法と入力操作装置とプログラム
JP2004164375A (ja) 情報処理装置
JP2007172303A (ja) 情報入力システム
JPH06266497A (ja) マンマシンインタフェース装置
US20020149563A1 (en) Joystick control with icon selection function
JP2003233465A (ja) 入力装置およびボタン操作検出処理プログラム
JP4831026B2 (ja) 情報提供装置、情報提供方法および情報提供プログラム
JPH08194856A (ja) 入力装置
JPH1165814A (ja) インタラクティブシステム及び画像表示方法
KR102735664B1 (ko) 의사소통 보조 기능을 수행하는 xr글래스시스템 및 방법
JPH08129467A (ja) キャラクタインタフェース装置
JP3468371B2 (ja) ウィンドウ表示領域制御装置
JPH09325876A (ja) メニュー項目選択装置
JP2005327054A (ja) 音声出力付き表示装置
JPH10162038A (ja) 意図適応型コンピュータグラフィックス装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040330

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040727