JPH10108221A - 立体映像表示装置 - Google Patents

立体映像表示装置

Info

Publication number
JPH10108221A
JPH10108221A JP8254840A JP25484096A JPH10108221A JP H10108221 A JPH10108221 A JP H10108221A JP 8254840 A JP8254840 A JP 8254840A JP 25484096 A JP25484096 A JP 25484096A JP H10108221 A JPH10108221 A JP H10108221A
Authority
JP
Japan
Prior art keywords
eye
video
specific area
image
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8254840A
Other languages
English (en)
Other versions
JP3771973B2 (ja
Inventor
Seiichiro Tabata
誠一郎 田端
Yoshiaki Hashimoto
良昭 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP25484096A priority Critical patent/JP3771973B2/ja
Priority to US08/929,611 priority patent/US5936663A/en
Publication of JPH10108221A publication Critical patent/JPH10108221A/ja
Application granted granted Critical
Publication of JP3771973B2 publication Critical patent/JP3771973B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/34Stereoscopes providing a stereoscopic pair of separated images corresponding to parallactically displaced views of the same object, e.g. three-dimensional [3D] slide viewers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the three-dimensional [3D] impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/15Processing image signals for colour aspects of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two two-dimensional [2D] image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/327Calibration thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/337Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using polarisation multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/341Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Abstract

(57)【要約】 【課題】観察者が融像しやすい立体映像を、視差計算等
を格別に行なわずに容易かつ的確に呈示することのでき
る立体映像表示装置を提供. 【解決手段】左眼用映像12L を表示する手段18L 、右眼
用映像12R を表示する手段18R 、前記手段18R の表示面
中に左眼用特定エリア14L の位置を指定する手段13L 、
前記手段18R の表示面中に前記特定エリア14L の位置に
対して所定対応付けに基づき右眼用特定エリア14R の位
置を指定する手段13R と、特定エリア14Lに存在する映
像12L を映像評価パラメータで数値化する手段15L 、特
定エリア14R に存在する映像12R を映像評価パラメータ
で数値化する手段15R 、前記数値化された二つの映像評
価パラメータ値に基づき特定エリア14L ,14R の左眼用
映像12L と右眼用映像12R との類似度Sを演算する手段
16、この手段16によって演算された類似度Sに基づき左
右映像12L ,12R を加工する手段17、等を備えた。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、両眼視差を有する
左眼用映像および右眼用映像によって、観察者に立体映
像を呈示できる立体映像表示装置に関する。
【0002】
【従来の技術】視覚表示装置や視覚表示システムにおい
て、映像を立体視できるように表示する立体映像表示装
置が種々提案されている。図16は、従来のこの種の立
体映像表示装置の一適用例である頭部装着型表示装置
(HMD:Head Mounted Displa
y)100の使用状態を示す外観斜視図である。このH
MD10Oは、二眼式立体ディスプレイの一種であり、
観察者Mの左右眼球の前に、それぞれ表示素子と拡大光
学系からなる左右一対の表示部101が位置する如く、
その両端を支持フレーム102にて支持された状態で頭
部に装着されるものとなっている。支持フレーム102
の他端間を連結している連結フレーム103の中央部位
すなわち頭部頂上に位置する箇所には、頭の動きを検出
するためのヘッドモーションセンサ104が取り付けら
れている。
【0003】前記支持フレーム102には、支持部材1
05を介して、外部接続器106と耳元に音響を出力す
るためのスピーカ107とが取付けられている。外部接
続器106は接続ケ−ブル110を介して携帯形の情報
処理装置120と接続されている。惰報処理装置120
には操作釦121が備えられており、この操作釦121
を観察者Mが種々操作することにより、所要の映像観察
を行なえるものとなっている。
【0004】かくして情報処理装置120の操作釦12
1の操作により、表示部101の左眼用映像が観察者M
の左眼に呈示され、右眼用映像が観察者Mの右眼にそれ
ぞれ呈示されることにより、観察者Mは立体映像を観察
することができる。この時、その立体映像はヘッドモー
ションセンサ104にて検知された頭部の動きに対応し
たものとなり、しかも音響を伴ったものとなるので、自
然な感覚で観察可能である。
【0005】ところで、上記HMD100のような立体
映像表示装置では、立体映像表示装置による立体映像の
観察状態が、立体撮像カメラでの撮像状況と大きく異な
る場合には、観察者Mが融像(映像融合)しにくいもの
となり、いわゆる二重像になって見えたり、著しく違和
感のある立体映像として見えたりする。その具体的状況
例を以下に示す。
【0006】図17の(a)に示すように、平行配置さ
れた2台の立体撮像カメラ131,132でそれぞれ撮
像した映像133,134を、立体映像ディスプレイ1
35で観察する場合、観察者Mの左右眼球を大きく内側
に傾けない限り融像ができなくなる状態が起こり得る。
【0007】図17の(b)に示すように、光軸を内側
に傾けて配置された2台の立体撮像カメラ131,13
2でそれぞれ撮像した映像133,134を、光学系を
平行配置したHMD136で観察すると、左右の眼球I
L,IRで見る左右映像は無限遠に融像される。このよ
うな場合には、著しい違和感を感じることになる。
【0008】このような問題を解決する手段として、例
えば特開平7−167633号公報に示されているよう
に、立体映像の視差を制御する手段が提案されている。
上記公報に示された手段は、左右画面の両眼視差または
三次元位置を計算し、その計算結果を用いて映像の奥行
き位置を三次元立体映像表示部の表面もしくは指定され
た距離において再現するように視差制御するものであ
る。なお上記公報には、視線検出器を備えることによ
り、観察者が現在見ようとしている映像の奥行き位置
を、三次元立体映像表示部の表面もしくは指定された距
離に再現するように視差制御する例も示されている。
【0009】ここで視差とは、左右映像間において、そ
れぞれ対応するポジションにおける像の位置ずれ量を指
す。したがって視差を計算するに際しては、例えば左映
像のうちの特定像に注目したとき、その特定像に対応す
る像を右映像の中から探し出し、その探し出した対応す
る特定像の位置を求め、しかるのち左右映像間の位置ず
れ量を求める必要がある。
【0010】
【発明が解決しようとする課題】上記従来の視差制御手
段を備えた装置には次のような問題がある。すなわち上
記従来の装置では、左右映像の中から対応する特定像を
探し出すという処理を行なう必要があるため、左右映像
の一画面分のデータをすべて一旦メモリ内に取り込んで
からでないと当該処理を実行できない。このため記憶容
量の大きなメモリが必要になるという問題がある。また
次々に流れてくる映像信号に対してリアルタイムで処理
できないという問題もある。さらに遠近が入り交じった
映像を見て観察者Mの視線がふらつくことがあるが、こ
のような場合には、制御する視差量が大きく変動するこ
とになり、立体映像を安定して観察できないことにな
る。
【0011】本発明の目的は、観察者にとって融像しや
すい立体映像を、視差計算等を格別に行なわずに容易か
つ的確に呈示することのできる立体映像表示装置を提供
することにある。
【0012】
【課題を解決するための手段】前記課題を解決し目的を
達成するために、本発明は以下に示す如く構成されてい
る。 (1)本発明の体映像表示装置は、左眼用映像を表示す
る左眼用映像表示手段と、右眼用映像を表示する右眼用
映像表示手段と、前記左(右)眼用映像表示手段の表示
面中に、左(右)眼用特定エリアの位置を指定する左
(右)眼用特定エリア位置指定手段と、前記右(左)眼
用映像表示手段の表示面中に、前記左(右)眼用特定エ
リアの位置に対して予め定めている対応付けに基づい
て、右(左)眼用特定エリアの位置を指定する右(左)
眼用特定エリア位置指定手段と、前記左眼用特定エリア
に存在する映像を映像評価パラメータで数値化する左眼
用映像評価パラメータ演算手段と、前記右眼用特定エリ
アに存在する映像を映像評価パラメータで数値化する右
眼用映像評価パラメータ演算手段と、前記数値化された
左眼用映像評価パラメータ値と前記数値化された右眼用
映像評価パラメータ値とを比較し、前記左眼用特定エリ
アの左眼用映像と前記右眼用特定エリアの右眼用映像と
の類似度を演算する類似度演算手段と、前記類似度演算
手段によって演算された類似度に基づいて、前記左右映
像のうち少なくとも一方の映像を加工する映像加工手段
と、を有することを特徴としている。 (2)本発明の立体映像表示装置は、上記(1)に記載
した立体映像表示装置であって、かつ左(右)眼用特定
エリア位置指定手段は、観察者の注視領域を検出する注
視領域検出手段(視線検出器)を備えてなることを特徴
としている。 (3)本発明の立体映像表示装置は、上記(1)に記載
した立体映像表示装置であって、かつ、一定時間内の観
察者の注視点の軌跡を検出し、前記軌跡を囲む領域を左
(右)眼用特定エリアとすることを特徴としている。 (4)本発明の立体映像表示装置は、左眼用映像と右眼
用映像とによって構成される立体映像フレームを表わす
映像信号がこの立体映像フレームの時系列に従うように
して順次入力され得るようになされた立体映像表示装置
であって、前記左眼用映像を表示する左眼用映像表示手
段と、前記右眼用映像を表示する右眼用映像表示手段
と、前記左(右)眼用映像表示手段の表示面中に、左
(右)眼用特定エリアの位置を指定する左(右)眼用特
定エリア位置指定手段と、前記右(左)眼用映像表示手
段の表示面中に、前記左(右)眼用特定エリアの位置に
対して予め定めている対応付けに基いて、右(左)眼用
特定エリアの位置を指定する右(左)眼用特定エリア位
置指定手段と、前記左眼用特定エリアに存在する映像を
映像評価パラメータで数値化する左眼用映像評価パラメ
ータ演算手段と、前記右眼用特定エリアに存在する映像
を映像評価パラメータで数値化する右眼用映像評価パラ
メータ演算手段と、前記数値化された左眼用映像評価パ
ラメータ値と前記数値化された右眼用映像評価パラメー
タ値とを比較し、前記左眼用特定エリアの左眼用映像と
前記右眼用特定エリアの右眼用映像との類似度を演算す
る類似度演算手段と、順次の前記立体映像フレームのう
ちの一の立体映像フレームに係る前記類似度と前記一の
立体映像フレームの前の立体映像フレームに係る前記類
似度とを比較し、その比較結果から前記左眼用映像およ
び右眼用映像のうち少なくとも一方の映像を加工する映
像加工手段とを有することを特徴としている。 (5)本発明の立体映像表示装置は、前記(4)に記載
の立体映像表示装置であって、かつ、左(右)眼用特定
エリア位置指定手段は、観察者Mの注視領域を検出する
注視領域検出手段(視線検出器)を備えてなることを特
徴としている。 (6)本発明の立体映像表示装置は、前記(4)に記載
の立体映像表示装置であって、かつ、一定時間内の観察
者の注視点の軌跡を検出し、前記軌跡を囲む領域を左
(右)眼用特定エリアとすることを特徴としている。 (7)本発明の立体映像表示装置は、前記(4)に記載
の立体映像表示装置であって、かつ、順次入力される映
像信号によって表される順次の時系列的な立体映像フレ
ームをフレームAn-2 ,フレームAn-1 ,フレームAn
とし、この順次の時系列におけるフレームAn について
前記加工を施すに際し、前記右(左)眼用特定エリア位
置指定手段は、前記フレームAn-2 に係る前記類似度を
Sn-2 とし前記フレームAn-1 に係る前記類似度をSn-
1 としたときの両者の類似度Sn-2およびSn-1 を比較
してこの比較結果に依拠するものとして予め定めている
前記対応付けに基づいて前記フレームAn に係る前記右
(左)眼用特定エリアの位置を指定するようになされ、
前記映像加工手段は、前記フレームAn-1 に係る類似度
Sn-1 と前記フレームAn に係る前記類似度であるSn
とを比較してこの比較結果に依拠して前記フレームAn
について前記加工を施すようになされていることを特徴
としている。
【0013】
【発明の実施の形態】
(第1実施形態)図1は本発明の第1実施形態に係る立
体映像表示装置の基本的機能を示すブロック図である。
今、図示しない立体撮像カメラあるいは立体映像再生機
等から左映像と右映像とを供給され、左眼用映像表示手
段の構成要素である左映像信号受信部11Lと、右眼用
映像表示手段の構成要素である右映像信号受信部11R
とは、それぞれ映像信号を受信する。その映像を今、左
眼用映像12L,右眼用映像12Rとする。
【0014】左眼用特定エリア位置指定手段13Lは、
前記左映像信号12Lの点線で囲んだ一部領域、すなわ
ち左眼用特定エリア14Lを指定する。また右眼用特定
エリア位置指定手段13Rは、前記右映像信号12Rの
点線で囲んだ一部領域、すなわち前記右眼用特定エリア
14Rに対して予め定めている対応付けに基づいて、右
眼用特定エリア14Rを指定する。なお上記特定エリア
14Lおよび14Rの位置は、観察者Mが画面を注視す
る場所である。なお、その特定エリア位置を指定する方
法等については、後述する他の実施形態中において詳し
く説明することにする。
【0015】左眼用映像評価パラメータ演算手段15L
は、前記左眼用特定エリア14Lに存在する映像12L
を左映像評価パラメータで数値化する。同様に右眼用映
像評価パラメータ演算手段15Rは、前記右眼用特定エ
リア14Rに存在する映像12Rを右映像評価パラメー
タで数値化する。なお映像評価パラメータとしては、例
えば各エリア内に存在する映像の平均輝度、輝度の分散
値、平均空間周波数、平均色度、色度の分散値等が挙げ
られる。
【0016】類似度演算手段16は、前記左眼用映像評
価パラメータ演算手段15Lで得られた左眼用映像評価
パラメータ値と、前記右眼用映像評価パラメータ演算手
段15Rで得られた右眼用映像評価パラメータ値とを比
較し、その差に基づいて前記左眼用特定エリア14L内
の左眼用映像12Lと前記右眼用特定エリア14R内の
右眼用映像12Rとの類似度を演算する。
【0017】映像加工手段17は、前記類似度演算手段
16にて演算された類似度に基づいて前記左右映像12
L,12Rを加工する。この映像の加工とは、映像全体
の水平方向シフトや映像の変形修正等を含み、前記特定
エリア14L,14R内の映像の類似度が高くなるよう
に修正する加工のことである。本実施形態では、例え
ば、右眼用映像12R全体を図中左方向へシフトするも
のとする。シフトした結果が122L,122Rとな
る。なお122Rの右端には映像シフトの結果、シフト
量と同じ分だけ黒色表示がなされている。
【0018】図2は、立体映像ディスプレイ18の概略
構成を示す図である。図2に示すように、前記加工され
た後の左眼用映像122Lおよび右眼用映像122R
は、立体映像ディスプレイ18(左眼用映像表示手段1
8L、右眼用映像表示手段18Rを含む)によって表示
される。
【0019】以上の動作を映像フレーム毎に繰り返すこ
とにより、映像122Lのうち左眼用特定エリア14L
内を注視している観察者Mの左眼ILと、映像122R
のうち右眼用特定エリア14R内を注視している観察者
Mの右眼IRとに対し、極めて類似した映像が呈示され
ることになり、容易かつ的確に融像し得る映像が提供さ
れる。なおVは虚像面を示しており、19L,19Rは
左右接眼光学系を示している。
【0020】上述した第1実施形態によれば、従来のよ
うに対応する映像を探すという処理が行なわれないた
め、映像記憶容量が少なくて済む。また次々に流れてく
る映像信号に対してリアルタイムで処理できるという利
点もある。
【0021】(第2実施形態)図3は第2実施形態に係
る立体映像表示装置の具体的構成を示すブロック図であ
る。立体撮像カメラや立体映像再生機など含む立体映像
供給部20から出力される左映像信号DL1および右映
像信号DR1は、それぞれ左映像信号受信部21Lおよ
び右映像信号受信部21Rへ供給されてA/D変換され
る。デジタル信号に変換された左映像信号DL2および
右映像信号DR2はそれぞれを二つに分岐される。
【0022】分岐された左映像信号DL2は、一方にお
いて左特定エリア映像抽出部22Lに出力され、他方に
おいて左映像加工部27Lに出力される。同様に分岐さ
れた右映像信号DSRは一方において右特定エリア映像
抽出部22Rに出力され、他方において右映像加工部2
7Rに出力される。
【0023】一方、観察者Mの眼球IL,IRの近傍に
配置された視線検出器23(検出用光源23aとセンサ
23bとから成る)は、観察者Mが注視している画面内
の小領域を測定する為に、観察者Mの左右眼球IL,I
Rの回転角を検出するものである。この視線検出器23
は観察者Mの両眼球IL,IRのうち、いずれか一方の
眼球の視線を検出すればよい。図3の例では左眼球IL
の近傍に対応設置している。この視線検出器23で検出
された信号すなわち視線方向角信号SGは左特定エリア
位置指定部24Lに入力される。
【0024】左特定エリア位置指定部24Lでは、まず
視線方向角信号SGに基づいて映像表示面における注視
座標(xL,yL)を求める。この座標は視線方向角に
表示面までの距離を掛け合わせることで求められる。左
特定エリア位置指定部24Lからの座標信号は、右特定
エリア位置指定部24Rに送られる。右特定エリア位置
指定部24Rでは、左特定エリア位置指定部24Lから
の信号に基づいて右特定エリア位置を求める。左特定エ
リア位置に対する右特定エリア位置の関係は、使用する
ディスプレイによって異なる。
【0025】図4は、ディスプレイとして液晶シャッタ
ー眼鏡や偏光眼鏡を装着してCRT画面を見るようにし
た立体TVを使用する場合を示す。図4の(a)に示す
ように、左右画面31L,31Rにおけるそれぞれの特
定エリア34L,34Rの位置関係は一致しているのが
望ましい。これは図4の(b)に示すように、上記タイ
プの立体TV30においては、一つの表示面31の特定
エリア34に左右の映像を一緒に表示するので、図4の
(a)の如く左右の特定エリア34L,34Rが一致し
ている方が二つの映像を表示面上に融像させ易く、観察
者Mが見やすいためである。従ってこの場合の左右の特
定エリア位置は、次式の関係を有するものとなる。
【0026】 (xR,yR)=(xL,yL) …(1) 図5の(a)に示すように、HMDのような二画面式立
体TVの場合には、左右の特定エリア44L,44Rの
関係はHMDの光学系の特性に合わせて水平方向にずれ
ていることが望ましい。これは次の理由による。
【0027】図5の(b)に示すように、HMDの場合
には左右の両眼IL,IRに対してそれぞれ左右表示面
41L,41Rが存在しており、観察者Mはこの左右表
示面41L,41Rの虚像面45上における虚像を見る
ことになるため、虚像面45上において左右の特定エリ
ア位置が一致している方が見易いからである。右特定エ
リア44Rの中心座標位置(xR,yR)は次式を満た
すことが望ましい。
【0028】 xR=xL−{2d/(A・tanθ)} yR=yL …(2) ただし、d:左右レンズ間の距離の1/2(右眼は正,
左眼は負の値となる) θ:レンズの半画角 A:眼球から虚像面までの距離(視距離) 座標は、左右表示面61L,61Rの各左端を「−
1」、各右端を「1」として表すように規格化されてい
る。導出方法は、特願平8−28856号などに示され
ている通りである。その概要を図6、図7を用いて以下
に説明する。
【0029】実際に表示図上に表示する立体画像の条件
を求める。立体映像観察時の視差と輻輳距離Lとの関係
を求める。図6のように融像したときの輻輳距離L,水
平位置H上に球が存在するように見えるときの左表示面
上の球の水平位置X1 と右表示面上の球の水平位置X2
とは、それぞれ式(3)及び式(4)で表される。
【0030】 X1 ={ d+(−H)}/(L・tanθ) …(3) X2 ={−d+(−H)}/(L・tanθ) …(4) 上記の水平位置X1 ,X2 は、図7のように表示領域の
水平中心値を0とし、表示領域の水平長さを2として規
格化している。
【0031】式(3)は図6における点A,B,Cによ
って作られる三角形と、左表示面での原点0と点X1 と
点Cとによって作られる三角形とが相似であることから
導くことができる。
【0032】式(4)も上記と同様に点D,B,Eによ
って作られる三角形と、右表示面での原点0と点X2 と
点Eとによって作られる三角形とが相似であることから
導くことができる。
【0033】上式(3)および式(4)は書き換えると
次式の通りになる。 |X1 −X2 |=2d/(L・tanθ) …(5) 本実施形態では、上式(5)の左辺|X1 −X2 |を視
差と呼ぶことにする。上式(5)は水平位置Hに限ら
ず、視差が決定すると融像時の輻輳距離Lも決まること
を表している。
【0034】通常は、右特定エリア44Rの位置は左特
定エリア44Lの位置に比べて、左側にずれる。d=3
2.5mm、θ=30度、L=1000mm、のときのずれ
量は画面の水平長さに対して5.6%となる。
【0035】図4について上述したような立体TVの場
合でも、図5について上述した二画面式立体TVの場合
でも、左特定エリア44Lの位置が決定されれば、右特
定エリア44Rの位置は一義的に決定される。
【0036】図3に説明を戻す。前記左特定エリア映像
抽出部22Lは左特定エリア位置指定部24Lからの座
標信号(xL,yL)を受け取る。同様に右特定エリア
映像抽出部22Rは右特定エリア位置指定部24Rから
の座標信号(xR,yR)を受け取る。そして上記左右
特定エリア映像抽出部22L、22Rは、それぞれの座
標を中心としたある領域の映像信号を抽出する。この領
域が本実施形態における特定エリアに相当する。特定エ
リアの面積は次式を満たすことが望ましい。 (特定エリア面積)÷(表示面積)<(30度÷HMDの接眼光学系の画角)2 …(6) 上記式(6)は、人が瞬時に検出受容できる有効視野が
約30度であることに基づいて求められた(「生理光学
16」 畑田豊彦著、Opluse E、No.74 、P121-130、
(1986))。
【0037】上式に従えば、例えば接眼光学系の画角が
60度であれば、特定エリアの面積は表示画面の4分の
1以下であれば良いことになる。左右特定エリア映像抽
出部22L、22Rによってそれぞれ抽出された左右の
特定エリア映像信号EL,ERは、左右の映像評価パラ
メータ演算部25L,25Rに各々送られる。
【0038】映像評価パラメータ演算部25L,25R
では、予め指定している映像評価パラメータ(例えば、
エリア内に存在する映像の平均輝度、輝度の分散値、平
均空間周波数、平均色度、色度の分散値など)で映像が
評価される。映像評価パラメータの種類数は、多ければ
多いほど高い精度で後述の類似度を求めることができ
る。ただしここでは、映像の平均輝度m、輝度の分散値
wの2種類の映像評価パラメータを求めるものとする。
左映像評価パラメータ演算部25Lで求めた左映像評価
パラメータ値fL=(mL,wL)、および右映像評価
パラメータ演算部25Rで求めた右映像評価パラメータ
値fR=(mR,wR)は、類似度演算部26へ送られ
る。
【0039】類似度演算部26では、左右の映像評価パ
ラメータ値fL=(mL,wL)とfR=(mR,w
R)とを比較し、左右の特定エリア内の映像の類似度に
関連したS値を求める。このS値の計算法としては、下
記の式(7)を使うことができる。
【0040】 S=fR・fL/|fR||fL| …(7) ただし fR・fL=mRmL+wRwL |fR|=(mR2 +wR21/2 |fL|=(mL2 +wL21/2 である。0≦S≦1となる。類似度が高ければ高いほど
S値は高くなる。このS値を示す類似度信号は左右の映
像加工部27L,27Rに与えられる。
【0041】左右映像加工部27L,27Rは、その類
似度信号に基づいて、左右映像を加工する。ここで加工
とは、映像の水平方向へのシフトや変形(収縮・伸長)
等を含むものである。S値が高ければ加工量は小さく、
S値が低ければ加工量は大きくなる。水平方向へのシフ
トは、左右映像信号受信部21L,21Rからの左右映
像信号DL2、DR2の全体を水平方向へシフトする。
水平方向への具体的シフト手段としては可変遅延回路等
が用いられる。左右映像の一方のみをシフトしても良い
し両方ともシフトしても良い。両方ともシフトするとき
は相対的に反対方向にシフトするのが望ましい。なおこ
の時、視線検出器23の注視座標を左映像のシフト分だ
けずらす必要がある。
【0042】上記の如く加工された左右映像は、左右映
像加工部27L,27R内のD/A変換手段によってア
ナログ信号に戻されたのち、左右映像表示部28L,2
8Rに出力される。左右映像表示部28L,28Rでは
供給されたアナログ信号に基づいた表示が行なわれる。
【0043】上記した一連の動作が各映像フレーム毎に
繰り返して行なわれる。これにより融像が容易で違和感
の少ない良好な立体映像が表示される。 (変形例)第1実施形態および第2実施形態には、以下
のような変形例が含まれている。
【0044】(1) 映像の加工方向を知る為に、特定エリ
アとは別に加工方向判別エリアを設けても良い。例えば
水平方向シフトによる加工を行なうとき、図8に示すよ
うに右特定エリア54Rの両わきに加工方向判別エリア
56R,57Rを設けるようにする。そして上記各加工
方向判別エリア56R内の映像と左特定エリア54内の
映像とについて式(7)と同様の類似度を求め、上記各
加工方向判別エリア57R内の映像と左特定エリア54
L内の映像とについて式(7)と同様の類似度を求め
る。これらの類似度も前記した類似度と同時に左右映像
加工部27L,27Rに出力する。この左右映像加工部
27L,27Rでは二つの加工方向判別エリア56R,
57Rの類似度を比較して加工方向を決定する。図8の
場合には、加工方向判別エリア57Rの方が加工方向判
別エリア56Rよりも類似度のS値が高い。よって右映
像は右方向にずれていることが分かるので、シフト方向
は左にする。加工方向判別エリア56R,57Rは加工
方向だけを知るものであるので、映像評価パラメータの
演算精度は低くて良い。よってエリア面積は特定エリア
54L,54Rよりも小さくすることができる。
【0045】結果として、観察者Mの左右両眼がそれぞ
れ注視する領域の映像の類似性を高めることができ、観
察者Mにとって融像しやすい立体映像を呈示することが
できる。
【0046】(2) 特定エリアの決定法として、観察者M
の注視点を中心とした領域を特定エリアとする方法につ
いて述べたが、これに限られるものではない。例えば図
9に示すように、映像領域全体を予め複数のブロック6
1a,61b…61nに分割しておき、注視点座標62
を含むブロックを選択し、選択された当該ブロックを左
特定エリア64Lとする方法でもよい。右特定エリア6
4Rについては前述した式(1)、式(2)を満たすよ
うに定めておく。左特定エリア64Lのブロックが選択
されたら自動的に対応する右ブロックを選ぶ。
【0047】この方法においては、予め抽出する領域が
決まっているので,処理時間が著しく短くなる利点があ
る。しかも視線検出の分解能が粗くてもよいという利点
がある。
【0048】(3) 特定エリアの他の決定法として、一定
時間内における注視点の軌跡を検出し、その範囲を特定
エリアとすることもできる。人間の眼球運動の中には跳
躍運動(Saccadic Movement)と呼ば
れるものがある。これは、人間が映像特徴を抽出する際
に起こる運動だと言われている(「生理光学16」畑田
豊彦著、Opluse E、No.74 、P121-130、(1986))。
【0049】図10は表示面71上にある対象物の映像
72を表示したとき、所定時間内での視線の跳躍運動軌
跡73を示す図である。この軌跡73はいわば観察者M
が今見たいと思っている映像領域を表している。そこ
で、この生理現象に基づく跳躍運動軌跡73を囲むよう
に左特定エリア74Lを決定する。
【0050】この方法を採用した場合、図3に示した左
特定エリア位置指定部24Lは、図11に示すブロック
図のように構成される。即ち、視線検出器23からの視
線方向角信号SGが入力すると、これは注視座標変換部
81により注視座標(xL,yL)に変換される。この
点は前述の場合と同じである。そして変換された座標信
号はメモリ82に記憶される。この動作は一定時間、例
えば500msくらいの時間だけ繰り返される。そして
上記の如く一定時間だけ累積記憶された全座標Σ(x
L,yL)がメモリ82から読み出され、左特定エリア
計算部83に入力する。左特定エリア計算部83は、上
記読み出された全座標Σ(xL,yL)を囲む領域、す
なわち前記左特定エリア74Lを求める。この求められ
た左特定エリア74Lの信号は、右特定エリア位置指定
部24Rと左特定エリア映像抽出部22Lへ送られる。
右特定エリア位置指定部24Rでは、前述した式(1)
および式(2)を満たすように右特定エリア74R(不
図示)を決定する。
【0051】この方法においては、特定エリア74L,
74Rの面積や形は予め定められておらず、映像の内容
に応じて、観察者Mがまさに見たいと思っている領域を
特定エリアとすることができる。したがって前述した方
法と比べ、さらに融像し易い立体映像を呈示できる。ま
たメモリ82に一定時間に亘って累積記憶された全座標
Σ(xL,yL)に基づいた処理が行なわれることか
ら、視線方向の急激な変化等により立体映像の加工量が
急激に変化して立体映像がふらつくといった事態を回避
することができる。このため動作の安定性が確保され
る。
【0052】(4) 左特定エリアを指定する方法として、
必ずしも視線検出器23を用いる必要はない。例えば、
マウスやジョイスティック等を観察者Mが操作すること
により、立体映像と同時に表示されているポインタを動
かすような装置の場合には、このポインタの位置を視線
検出器23の注視点の代わりに用いても良い。この場合
には、視線検出器23等が不要になるので、装置の構成
が簡略化され、小型かつ安価に製作できるという利点が
ある。
【0053】(5) 特定エリアは必ずしも動かす必要はな
い。すなわちHMDにヘッドモーションセンサ104を
取り付け、観察者Mの頭の動きに合わせて映像を変化さ
せるようにしたバーチャルリアリティ装置の場合には、
観察者Mの注視方向は略頭部の向きと一致しているの
で、特定エリアの位置を表示面中央に固定しても良い。
この場合には、特定エリアを可変指定する電気回路が不
要になるので、この点で装置の構成が簡略化され小型か
つ安価に製作可能となる。
【0054】(第3実施形態)図12および図13は本
発明の第3実施形態に係る立体映像表示装置の具体的動
作を示すフロー図(両図は丸で囲んだ数字で示す対応箇
所にて互いに接続されている)である。なお本実施形態
の構成ブロック図は、図3に示す第2実施形態の構成ブ
ロック図と同じとなるため省略する。この第3実施形態
は、一方の特定エリア位置を決定する際に、前回と前々
回の類似度の値に基づいて特定エリアの位置をフィード
バックして決定すると共に、前回と今回の類似度の値に
基づいて加工方向(水平シフト方向)をフィードバック
して決定するようにした点に特徴を有する。以下、図1
2および図13に示すフロー図を参照しながらその特徴
点につき説明する。
【0055】「ステップ1」(ST1) 左右特定エリアの初期位置指定が行なわれる。例えば、
左特定エリアは表示面中央に設定され、右特定エリア位
置は式(1),式(2)を満たす位置に設定される。そ
して入力されてくる映像に対し、類似度初期値の計算が
行なわれる。その計算結果である類似度初期値につい
て、予め設定されている加工量だけ初期加工が行なわれ
る。例えば表示面長さの1%量が右方向にシフトされ
る。これら特定エリアの指定と類似度計算と映像シフト
とが次の映像フレームについても行なわれる。ただし2
回目の映像フレームに対しては、右特定エリアの位置に
ついては1%だけ左方向に動かし、映像シフトについて
は1%だけ右方向にシフトさせる。このように特定エリ
ア位置の1回の動かし量は予め設定されている。その量
をここではΔAとする。また1回の映像シフト量も予め
定められている。その量をここではΔBとする。
【0056】「ステップ2」(ST2) 第2実施形態と同様に視線検出が行なわれ、左特定エリ
ア位置指定部24Lで左特定エリア位置が決定される。
【0057】「ステップ3」(ST3) 左特定エリア位置指定部24Lからの左特定エリア位置
信号を受けて、右特定エリア位置指定部24Rでは右特
定エリア位置が決定される。その決定の方法は次の通り
である。前々回の類似度Sn-2 と前回の類似度Sn-1 と
を比較し、更に類似度が高くなると予想される位置に特
定エリア位置を動かす。
【0058】例えば、図14に示すような場合、Sn-2
とSn-1 とを比較してSn-1 のほうが高ければ、さらに
特定エリア位置を左方向にΔAシフトさせる。もしSn-
2 とSn-1 を比較してSn-2 の方が高ければ、前々回の
特定エリア位置から右方向にΔAシフトさせる。
【0059】「ステップ4」(ST4) 第2実施形態と同様に、左右映像評価パラメータ演算部
25L,25Rにおいてそれぞれの映像評価パラメータ
が計算される。
【0060】「ステップ5」(ST5) 第2実施形態と同様に、類似度演算部26において左右
それぞれの映像評価パラメータから類似度Sn が計算さ
れる。この計算結果は左右映像加工部27L,27Rに
送られる。
【0061】「ステップ6」(ST6) 左右映像加工部27L,27Rにおいて前回の類似度S
n-1 より、今回の類似度Sn の方が高いか否かが判定さ
れる。
【0062】「ステップ7」(ST7) 今回の類似度Sn の方が前回の類似度Sn-1 よりも高い
場合は、図15のように、前回のシフト方向と同じ方向
でさらにΔBだけ画像全体がシフトされる。反対に前回
の類似度Sn-1 の方が今回の類似度Sn よりも高い場合
は、前回のシフト量が保持される。
【0063】「ステップ8」(ST8) シフトによる加工を終了した左右映像を表示する。上記
した「ステップ2」〜「ステップ8」を、映像フレーム
毎に繰り返す。これらのステップは、1/60秒もしく
は1/30秒で一巡させるのが望ましい。このようにす
ることで、変化の速い動画像に対しても、映像フレーム
間ではさほど大きな変化がないので十分追従できる。
【0064】本実施形態によれば、類似度の値を加工量
へ変換する方法が不明であっても、フィードバック制御
によって類似度が高くなるような立体映像の加工を行な
えるという利点がある。
【0065】(実施形態のまとめ)上述した実施形態に
示された立体映像表示装置の構成および作用効果をまと
めると次の通りである。 [1]実施形態に示された立体映像表示装置は、左眼用
映像12Lを表示する左眼用映像表示手段18Lと、右
眼用映像12Rを表示する右眼用映像表示手段18R
と、前記左(右)眼用映像表示手段18L(18R)の
表示面中に、左(右)眼用特定エリア14L(14R)
の位置を指定する左(右)眼用特定エリア位置指定手段
13L(13R)と、前記右(左)眼用映像表示手段1
8R(18L)の表示面中に、前記左(右)眼用特定エ
リア14L(14R)の位置に対して予め定めている対
応付けに基づいて、右(左)眼用特定エリア14R(1
4L)の位置を指定する右(左)眼用特定エリア位置指
定手段13R(13L)と、前記左眼用特定エリア14
Lに存在する映像12Lを映像評価パラメータで数値化
する左眼用映像評価パラメータ演算手段15Lと、前記
右眼用特定エリア14Rに存在する映像12Rを映像評
価パラメータで数値化する右眼用映像評価パラメータ演
算手段15Rと、前記数値化された左眼用映像評価パラ
メータ値と前記数値化された右眼用映像評価パラメータ
値とを比較し、前記左眼用特定エリア14Lの左眼用映
像12Lと前記右眼用特定エリア14Rの右眼用映像1
2Rとの類似度Sを演算する類似度演算手段16と、前
記類似度演算手段16によって演算された類似度Sに基
づいて、前記左右映像12L,12Rのうち少なくとも
一方の映像を加工する映像加工手段17と、を有するこ
とを特徴としている。
【0066】上記立体映像表示装置においては、左右両
眼IL,IRが注眼する領域の左右映像12L,12R
が類似性の高い映像に加工され、その結果、立体映像の
観察時における二重像や違和感が排除されることにな
る。すなわち、映像中の左右の特定エリア14L,14
Rが指定され、その左右の特定エリア14L,14R中
に存在している映像12L,12Rの類似性が、映像評
価パラメータを用いて正確に調べられる。その調べた類
似性の結果に基づいて、初めに指定した左右の特定エリ
ア14L,14R内の映像が、設定された類似度の眼標
値を越えるように加工修正される。その結果、2重像や
違和感を引き起こす左右映像間のずれが補正される。ま
たこの立体映像表示装置においては、従来のように対応
する映像を探すという処理は行なわれず、特定エリアの
映像のみを用いて処理されるので、映像記憶容量も少な
くて済み、かつ次々に流れてくる映像信号に対してリア
ルタイムで処理できるという利点がある。 [2]実施形態に示された立体映像表示装置は、上記
[1]に記載した立体映像表示装置であって、かつ左
(右)眼用特定エリア位置指定手段は、観察者の注視領
域を検出する注視領域検出手段(視線検出器23)を備
えてなることを特徴としている。
【0067】上記立体映像表示装置においては、前記
[1]と同様の作用効果を奏する上、観察者Mの注視領
域が検出され、その注視領域が特定エリアとされるの
で、観察者Mがどこを見ようとも、その観察者Mの注視
領域が高い類似度となる如く映像加工が施され、自然で
良好な立体映像を呈示可能である。 [3]実施形態に示された立体映像表示装置は、上記
[1]に記載した立体映像表示装置であって、かつ、一
定時間内の観察者Mの注視点の軌跡73を検出し、前記
軌跡73を囲む領域を左(右)眼用特定エリア74L
(74R)とすることを特徴としている。
【0068】上記立体映像表示装置においては、前記
[1]と同様の作用効果を奏する上、この方法では、特
定エリア74L(74R)の面積や形は予め定まってお
らず、映像の内容に応じて観察者Mがまさに見たいと思
っている領域を特定エリア74L(74R)とすること
ができる。よって、さらに融像し易い立体映像を呈示で
きる。
【0069】なおメモリ82に一定時間に亘って累積記
憶された全座標Σ(xL,yL)に基づいた処理を行な
うようにした場合には、視線方向の急激な変化等により
立体映像の加工量が急激に変化して立体映像がふらつく
といった事態を回避でき、動作の安定性が確保されるも
のとなる。 [4]実施形態に示された立体映像表示装置は、左眼用
映像12Lと右眼用映像12Rとによって構成される立
体映像フレームを表わす映像信号がこの立体映像フレー
ムの時系列に従うようにして順次入力され得るようにな
された立体映像表示装置であって、前記左眼用映像12
Lを表示する左眼用映像表示手段18Lと、前記右眼用
映像12Rを表示する右眼用映像表示手段18Rと、前
記左(右)眼用映像表示手段18L(18R)の表示面
中に、左(右)眼用特定エリア14L(14R)の位置
を指定する左(右)眼用特定エリア位置指定手段13L
(13R)と、前記右(左)眼用映像表示手段18R
(18L)の表示面中に、前記左(右)眼用特定エリア
14L(14R)の位置に対して予め定めている対応付
けに基づいて、右(左)眼用特定エリア14R(14
L)の位置を指定する右(左)眼用特定エリア位置指定
手段13R(13L)と、前記左眼用特定エリア14L
に存在する映像12Lを映像評価パラメータで数値化す
る左眼用映像評価パラメータ演算手段15Lと、前記右
眼用特定エリア14Rに存在する映像12Rを映像評価
パラメータで数値化する右眼用映像評価パラメータ演算
手段15Rと、前記数値化された左眼用映像評価パラメ
ータ値と前記数値化された右眼用映像評価パラメータ値
とを比較し、前記左眼用特定エリア14Lの左眼用映像
12Lと前記右眼用特定エリア14Rの右眼用映像12
Rとの類似度Sを演算する類似度演算手段16と、順次
の前記立体映像フレームのうちの一の立体映像フレーム
に係る前記類似度Sn と前記一の立体映像フレームの前
の立体映像フレームに係る前記類似度Sn-1 とを比較
し、その比較結果から前記左眼用映像12Lおよび右眼
用映像12Rのうち少なくとも一方の映像を加工する映
像加工手段17と、を有することを特徴としている。
【0070】上記立体映像表示装置においては、映像を
加工する際に、前回の類似度Sn-1と今回の類似度Sn
とを比較して加工方向を決定する。この方法では、類似
度Sの値から加工量へ変換する変換方法が不明であって
も、フィードバック制御によって類似度Sが高くなるよ
う立体映像を加工できるという利点がある。 [5]実施形態に示された立体映像表示装置は、前記
[4]に記載の立体映像表示装置であって、かつ、左
(右)眼用特定エリア位置指定手段13L(13R)
は、観察者Mの注視領域を検出する注視領域検出手段
(視線検出器23)を備えてなることを特徴としてい
る。
【0071】上記立体映像表示装置においては、前記
[4]と同様の作用効果を奏する上、観察者Mの注視領
域が検出され、その注視領域が特定エリアとされるの
で、観察者Mがどこを見ようとも、その観察者Mの注視
領域が高い類似度となる如く映像加工が施され、自然で
良好な立体映像を呈示可能である。 [6]実施形態に示された立体映像表示装置は、前記
[4]に記載の立体映像表示装置であって、かつ、一定
時間内の観察者Mの注視点の軌跡73を検出し、前記軌
跡73を囲む領域を左(右)眼用特定エリア74L(7
4R)とすることを特徴としている。
【0072】上記立体映像表示装置においては、前記
[4]と同様の作用効果を奏する上、特定エリア74L
(74R)の面積や形は予め定まっておらず、映像の内
容に応じて観察者Mがまさに見たいと思っている領域を
特定エリア74L(74R)とすることができる。よっ
て、さらに融像し易い立体映像を呈示できる。また一定
時間に亘って累積記憶された全座標Σ(xL,yL)に
基づいた処理が行なわれるため、視線方向の急激な変化
等により立体映像の加工量が急激に変化して立体映像が
ふらつくといった事態を回避でき、動作の安定性が確保
される。 [7]実施形態に示された立体映像表示装置は、前記
[4]に記載の立体映像表示装置であって、かつ、順次
入力される映像信号によって表される順次の時系列的な
立体映像フレームをフレームAn-2 ,フレームAn-1 ,
フレームAn とし、この順次の時系列におけるフレーム
An について前記加工を施すに際し、前記右(左)眼用
特定エリア位置指定手段は、前記フレームAn-2 に係る
前記類似度をSn-2 とし前記フレームAn-1 に係る前記
類似度をSn-1 としたときの両者の類似度Sn-2 および
Sn-1 を比較してこの比較結果に依拠するものとして予
め定めている前記対応付けに基づいて前記フレームAn
に係る前記右(左)眼用特定エリアの位置を指定するよ
うになされ、前記映像加工手段は、前記フレームAn-1
に係る類似度Sn-1 と前記フレームAn に係る前記類似
度であるSn とを比較してこの比較結果に依拠して前記
フレームAn について前記加工を施すようになされてい
ることを特徴としている。
【0073】上記立体映像表示装置においては、フレー
ムAn-2 の類似度Sn-2 からフレームAn-1 の類似度S
n-1 への時間的推移を認識し、この認識に基づいてフレ
ームAn の類似度Sn が高くなるように調節動作を行な
い得るため、各映像フレームに対してより適切な加工を
行なうことができる。
【0074】
【発明の効果】本発明によれば、下記のような作用効果
を奏する立体映像表示装置を提供することができる。 (a) 映像中の左右特定エリアに存在している映像が、所
要の類似度を有する如く加工修正されて表示されるた
め、視差計算等を格別に行なわずに、二重像や違和感の
ある立体映像を排除できる。
【0075】(b) 従来のように対応する映像を探すとい
う処理を行なう必要がないため、処理に要するメモリの
容量が少なくて済み、かつ次々に流れてくる映像信号に
つきリアルタイムで処理できる。 (c) 左右特定エリアが観察者の注視ポイントに応じて決
定されるため、効率のよい処理を的確に行なえる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る立体映像表示装置
における基本的機能を示すブロック図。
【図2】本発明の第1実施形態に係る立体映像表示装置
における立体映像ディスプレイの概略構成を示す図。
【図3】本発明の第2実施形態に係る立体映像表示装置
における具体的構成を示すブロック図。
【図4】本発明の第2実施形態に係る立体映像表示装置
の作用を説明するための図。
【図5】本発明の第2実施形態に係る立体映像表示装置
の作用を説明するための図。
【図6】本発明の第2実施形態に係る立体映像表示装置
の作用を説明するための図。
【図7】本発明の第2実施形態に係る立体映像表示装置
の作用を説明するための図。
【図8】本発明の第2実施形態に係る立体映像表示装置
の変形例を示す図。
【図9】本発明の第2実施形態に係る立体映像表示装置
の変形例を示す図。
【図10】本発明の第2実施形態に係る立体映像表示装
置の変形例を示す図。
【図11】本発明の第2実施形態に係る立体映像表示装
置の変形例を示す図。
【図12】本発明の第3実施形態に係る立体映像表示装
置の具体的動作(その一部)を示すフロー図。
【図13】本発明の第3実施形態に係る立体映像表示装
置の具体的動作(残りの一部)を示すフロー図。
【図14】本発明の第3実施形態に係る立体映像表示装
置の作用を説明するための図。
【図15】本発明の第3実施形態に係る立体映像表示装
置の作用を説明するための図。
【図16】従来の立体映像表示装置の一適用例である頭
部装着型表示装置(HMD)の使用状態を示す外観斜視
図。
【図17】従来の立体映像表示装置の問題点を示す概略
図。
【符号の説明】
12L…左眼用映像 12R…右眼用映像 13L…左眼用特定エリア位置指定手段 13R…右眼用特定エリア位置指定手段 14L…左眼用特定エリア 14R…右眼用特定エリア 15L…左眼用映像評価パラメータ演算手段 15R…右眼用映像評価パラメータ演算手段 16……類似度演算手段 17……映像加工手段 18L…左眼用映像表示手段 18R…右眼用映像表示手段

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】左眼用映像を表示する左眼用映像表示手段
    と、 右眼用映像を表示する右眼用映像表示手段と、 前記左(右)眼用映像表示手段の表示面中に、左(右)
    眼用特定エリアの位置を指定する左(右)眼用特定エリ
    ア位置指定手段と、 前記右(左)眼用映像表示手段の表示面中に、前記左
    (右)眼用特定エリアの位置に対して予め定めている対
    応付けに基づいて、右(左)眼用特定エリアの位置を指
    定する右(左)眼用特定エリア位置指定手段と、 前記左眼用特定エリアに存在する映像を映像評価パラメ
    ータで数値化する左眼用映像評価パラメータ演算手段
    と、 前記右眼用特定エリアに存在する映像を映像評価パラメ
    ータで数値化する右眼用映像評価パラメータ演算手段
    と、 前記数値化された左眼用映像評価パラメータ値と前記数
    値化された右眼用映像評価パラメータ値とを比較し、前
    記左眼用特定エリアの左眼用映像と前記右眼用特定エリ
    アの右眼用映像との類似度を演算する類似度演算手段
    と、 前記類似度演算手段によって演算された類似度に基づい
    て、前記左右映像のうち少なくとも一方の映像を加工す
    る映像加工手段と、 を有することを特徴とする立体映像表示装置。
  2. 【請求項2】左(右)眼用特定エリア位置指定手段は、
    観察者の注視領域を検出する注視領域検出手段を備えて
    なることを特徴とする請求項1に記載の立体映像表示装
    置。
  3. 【請求項3】一定時間内の観察者の注視点の軌跡を検出
    し、前記軌跡を囲む領域を左(右)眼用特定エリアとす
    ることを特徴とする請求項1に記載の立体映像表示装
    置。
  4. 【請求項4】左眼用映像と右眼用映像とによって構成さ
    れる立体映像フレームを表わす映像信号がこの立体映像
    フレームの時系列に従うようにして順次入力され得るよ
    うになされた立体映像表示装置であって、 前記左眼用映像を表示する左眼用映像表示手段と、 前記右眼用映像を表示する右眼用映像表示手段と、 前記左(右)眼用映像表示手段の表示面中に、左(右)
    眼用特定エリアの位置を指定する左(右)眼用特定エリ
    ア位置指定手段と、 前記右(左)眼用映像表示手段の表示面中に、前記左
    (右)眼用特定エリアの位置に対して予め定めている対
    応付けに基づいて、右(左)眼用特定エリアの位置を指
    定する右(左)眼用特定エリア位置指定手段と、 前記左眼用特定エリアに存在する映像を映像評価パラメ
    ータで数値化する左眼用映像評価パラメータ演算手段
    と、 前記右眼用特定エリアに存在する映像を映像評価パラメ
    ータで数値化する右眼用映像評価パラメータ演算手段
    と、 前記数値化された左眼用映像評価パラメータ値と前記数
    値化された右眼用映像評価パラメータ値とを比較し、前
    記左眼用特定エリアの左眼用映像と前記右眼用特定エリ
    アの右眼用映像との類似度を演算する類似度演算手段
    と、 順次の前記立体映像フレームのうちの一の立体映像フレ
    ームに係る前記類似度と前記一の立体映像フレームの前
    の立体映像フレームに係る前記類似度とを比較し、その
    比較結果から前記左眼用映像および右眼用映像のうち少
    なくとも一方の映像を加工する映像加工手段と、 を有することを特徴とする立体映像表示装置。
  5. 【請求項5】左(右)眼用特定エリア位置指定手段は、
    観察者の注視領域を検出する注視領域検出手段を備えて
    なることを特徴とする請求項4に記載の立体映像表示装
    置。
  6. 【請求項6】一定時間内の観察者の注視点の軌跡を検出
    し、前記軌跡を囲む領域を左(右)眼用特定エリアとす
    ることを特徴とする請求項4に記載の立体映像表示装
    置。
  7. 【請求項7】順次入力される映像信号によって表される
    順次の時系列的な立体映像フレームをフレームAn-2 ,
    フレームAn-1 ,フレームAn とし、この順次の時系列
    におけるフレームAn について前記加工を施すに際し、 前記右(左)眼用特定エリア位置指定手段は、前記フレ
    ームAn-2 に係る前記類似度をSn-2 とし前記フレーム
    An-1 に係る前記類似度をSn-1 としたときの両者の類
    似度Sn-2 およびSn-1 を比較してこの比較結果に依拠
    するものとして予め定めている前記対応付けに基づいて
    前記フレームAn に係る前記右(左)眼用特定エリアの
    位置を指定するようになされ、 前記映像加工手段は、前記フレームAn-1 に係る類似度
    Sn-1 と前記フレームAn に係る前記類似度であるSn
    とを比較してこの比較結果に依拠して前記フレームAn
    について前記加工を施すようになされていることを特徴
    とする請求項4に記載の立体映像表示装置。
JP25484096A 1996-09-26 1996-09-26 立体映像表示装置 Expired - Fee Related JP3771973B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP25484096A JP3771973B2 (ja) 1996-09-26 1996-09-26 立体映像表示装置
US08/929,611 US5936663A (en) 1996-09-26 1997-09-15 Binocular display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP25484096A JP3771973B2 (ja) 1996-09-26 1996-09-26 立体映像表示装置

Publications (2)

Publication Number Publication Date
JPH10108221A true JPH10108221A (ja) 1998-04-24
JP3771973B2 JP3771973B2 (ja) 2006-05-10

Family

ID=17270591

Family Applications (1)

Application Number Title Priority Date Filing Date
JP25484096A Expired - Fee Related JP3771973B2 (ja) 1996-09-26 1996-09-26 立体映像表示装置

Country Status (2)

Country Link
US (1) US5936663A (ja)
JP (1) JP3771973B2 (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10161056A (ja) * 1996-11-27 1998-06-19 Minolta Co Ltd 映像観察装置、該映像観察装置用操作器、該映像観察装置とともに使用される物品、及び該映像観察装置の使用方法
US6532008B1 (en) 2000-03-13 2003-03-11 Recherches Point Lab Inc. Method and apparatus for eliminating steroscopic cross images
US6964667B2 (en) * 2000-06-23 2005-11-15 Sdgi Holdings, Inc. Formed in place fixation system with thermal acceleration
AU2003226187A1 (en) * 2002-03-28 2003-10-13 Nokia Corporation Detecting misalignment and distortion in near-eye displays
US6896655B2 (en) * 2002-08-05 2005-05-24 Eastman Kodak Company System and method for conditioning the psychological state of a subject using an adaptive autostereoscopic display
US7432879B2 (en) * 2003-02-10 2008-10-07 Schonlau William J Personal viewer
EP1623266B1 (en) * 2003-05-12 2009-10-28 Elbit Systems Ltd. Method and system for audiovisual communication
EP1883835A4 (en) * 2005-05-26 2011-04-13 Real D FANTOME COMPENSATION FOR IMPROVED STEREOSCOPIC PROJECTION
US8085217B2 (en) * 2006-08-08 2011-12-27 Nvidia Corporation System, method, and computer program product for compensating for crosstalk during the display of stereo content
FR2906899B1 (fr) * 2006-10-05 2009-01-16 Essilor Int Dispositif d'affichage pour la visualisation stereoscopique.
EP2229784B1 (de) * 2007-12-27 2019-02-27 psHolix AG Verfahren und vorrichtung zur echtzeit-multiview-erzeugung
JP4625517B2 (ja) * 2008-10-27 2011-02-02 富士フイルム株式会社 3次元表示装置および方法並びにプログラム
JP4747214B2 (ja) * 2009-09-17 2011-08-17 パナソニック株式会社 映像信号処理装置、及び、映像信号処理方法
US8446461B2 (en) * 2010-07-23 2013-05-21 Superd Co. Ltd. Three-dimensional (3D) display method and system
US8328354B2 (en) * 2010-09-20 2012-12-11 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Systems and methods for binocular vision diagnosis and treatment
US10359545B2 (en) 2010-10-21 2019-07-23 Lockheed Martin Corporation Fresnel lens with reduced draft facet visibility
US9632315B2 (en) * 2010-10-21 2017-04-25 Lockheed Martin Corporation Head-mounted display apparatus employing one or more fresnel lenses
US9325976B2 (en) 2011-05-02 2016-04-26 Dolby Laboratories Licensing Corporation Displays, including HDR and 3D, using bandpass filters and other techniques
US10684476B2 (en) 2014-10-17 2020-06-16 Lockheed Martin Corporation Head-wearable ultra-wide field of view display device
US9939650B2 (en) 2015-03-02 2018-04-10 Lockheed Martin Corporation Wearable display system
JP6530239B2 (ja) * 2015-05-28 2019-06-12 浜松ホトニクス株式会社 両眼計測装置、両眼計測方法、及び両眼計測プログラム
US10754156B2 (en) 2015-10-20 2020-08-25 Lockheed Martin Corporation Multiple-eye, single-display, ultrawide-field-of-view optical see-through augmented reality system
US9995936B1 (en) 2016-04-29 2018-06-12 Lockheed Martin Corporation Augmented reality systems having a virtual image overlaying an infrared portion of a live scene
US10380950B2 (en) * 2016-09-23 2019-08-13 Novatek Microelectronics Corp. Method for reducing motion blur and head mounted display apparatus
US10666923B2 (en) * 2017-02-24 2020-05-26 Immervision, Inc. Wide-angle stereoscopic vision with cameras having different parameters
TWI812566B (zh) * 2022-12-28 2023-08-11 宏碁股份有限公司 立體影像深度調整方法與裝置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4734756A (en) * 1981-12-31 1988-03-29 3-D Video Corporation Stereoscopic television system
GB8430980D0 (en) * 1984-12-07 1985-01-16 Robinson M Generation of apparently three-dimensional images
EP0204006B1 (en) * 1984-12-17 1991-10-09 Nippon Hoso Kyokai System for transmitting stereoscopic television pictures
US5175616A (en) * 1989-08-04 1992-12-29 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of National Defence Of Canada Stereoscopic video-graphic coordinate specification system
FR2659816B1 (fr) * 1990-03-19 1994-01-28 France Etat Procede de reglage de la convergence stereoscopique dans un equipement de prise de vue stereoscopique.
US5320538A (en) * 1992-09-23 1994-06-14 Hughes Training, Inc. Interactive aircraft training system and method
JP3089306B2 (ja) * 1993-08-26 2000-09-18 松下電器産業株式会社 立体画像撮像及び表示装置

Also Published As

Publication number Publication date
US5936663A (en) 1999-08-10
JP3771973B2 (ja) 2006-05-10

Similar Documents

Publication Publication Date Title
JP3771973B2 (ja) 立体映像表示装置
EP0641132B1 (en) Stereoscopic image pickup apparatus
JP3089306B2 (ja) 立体画像撮像及び表示装置
JP7094266B2 (ja) 単一深度追跡型の遠近調節-両眼転導ソリューション
JP3771964B2 (ja) 立体映像ディスプレイ装置
JP3728160B2 (ja) 奥行き画像計測装置及び方法、並びに複合現実感提示システム
JP6870080B2 (ja) 画像生成装置、画像表示システム、および画像生成方法
JP4149037B2 (ja) 映像システム
US11570426B2 (en) Computer-readable non-transitory storage medium, web server, and calibration method for interpupillary distance
GB2595461A (en) Gaze tracking apparatus and systems
WO2012160741A1 (ja) 視覚疲労度測定装置、その方法、視覚疲労度測定システムおよび3次元メガネ
JPH08322004A (ja) 立体視ディスプレイ装置
WO2010084716A1 (ja) 画像処理装置、プログラム、画像処理方法、記録方法および記録媒体
US11956415B2 (en) Head mounted display apparatus
JP2002223458A (ja) 立体映像作成装置
JPH06235885A (ja) 立体映像表示装置
US11187895B2 (en) Content generation apparatus and method
US12393027B2 (en) Head-mountable display apparatus and methods
JPH0685590B2 (ja) 立体表示システム
JP2001066513A (ja) 実体顕微鏡
JP2018191079A (ja) 多焦点視覚出力方法、多焦点視覚出力装置
US20190149811A1 (en) Information processing apparatus, information processing method, and program
JPH08211332A (ja) 立体映像再生装置
JPH08194189A (ja) 立体映像再生装置
JPH10117362A (ja) 立体視映像表示装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090217

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100217

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110217

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110217

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120217

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120217

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130217

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140217

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees