WO2015062149A1 - 运动感知的双目立体视频舒适度获取方法 - Google Patents

运动感知的双目立体视频舒适度获取方法 Download PDF

Info

Publication number
WO2015062149A1
WO2015062149A1 PCT/CN2013/090462 CN2013090462W WO2015062149A1 WO 2015062149 A1 WO2015062149 A1 WO 2015062149A1 CN 2013090462 W CN2013090462 W CN 2013090462W WO 2015062149 A1 WO2015062149 A1 WO 2015062149A1
Authority
WO
WIPO (PCT)
Prior art keywords
comfort
vxy
video
binocular
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2013/090462
Other languages
English (en)
French (fr)
Inventor
胡事民
杜松沛
贝伦⋅马萨
迭戈⋅古铁雷斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to EP13896633.8A priority Critical patent/EP3065401B1/en
Priority to US15/026,576 priority patent/US10091484B2/en
Publication of WO2015062149A1 publication Critical patent/WO2015062149A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/339Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using spatial multiplexing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0085Motion estimation from stereoscopic image signals

Definitions

  • the present invention relates to the field of digital image processing technologies, and in particular, to a motion-aware binocular stereo video comfort acquisition method. Background technique
  • the present invention provides a motion-aware binocular stereo video comfort acquisition method, which includes the following steps: Sl. Perform binocular parallax and motion velocity analysis on the input binocular video, and calculate each pixel in the video. a binocular parallax d, a motion velocity vxy in a plane direction and a motion velocity vz in a depth direction; S2, calculating a corresponding comfort value c according to the parameter (d, vxy, vz) of the pixel point; S3, according to each Calculate the comfort value of the pixel, calculate the whole frame comfort value; S4, calculate the comfort value of the entire video according to the comfort value of each frame.
  • the comfort of the binocular stereo video is calculated, and the influence of the positive and negative depth range and the motion of the object on the comfort can be well considered, and a more accurate comfort estimation can be obtained.
  • Image frame comfort calculation In this step, according to the comfort value at each pixel point calculated in the previous step, a conservative strategy is used, and the comfort value of the pixel with the lowest comfort value in the frame is used as the comfort value.
  • the comfort value of the image frame

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本发明公开了一种运动感知的双目立体视频舒适度获取方法,输入的双目视频进行双目视差和运动速度分析,计算视频中每个像素点的双目视差d,视平面方向的运动速度vxy和深度方向的运动速度vz;S2、根据所述像素点的参数(d,vxy,vz),计算相应的舒适度值c;S3、根据每个像素点计算出的舒适度值,计算整帧舒适度值;S4、根据每帧的舒适度值,计算整个视频的舒适度值。按照本发明的步骤来计算双目立体视频的舒适度,能够很好的考虑正负深度范围和物体运动对舒适度造成的影响,获得更准确的舒适度估计。

Description

运动感知的双目立体视频舒适度获取方法 技术领域 本发明涉及数字图像处理技术领域, 特别涉及一种运动感知的双目立体 视频舒适度获取方法。 背景技术
在计算机图形学领域中, 双目立体图像和视频是被广泛研究和使用的立 体媒体格式。 双目立体技术通过在屏幕上向左右眼展示不同的图像来实现立 体成像。 由于成像技术中视角-聚焦的不匹配, 导致人们在观看双目立体视频 时, 会产生不同程度的不舒适感。 这种不舒适感是当前双目立体技术中存在 的一个重要问题, 因此, 为了避免人们在观看双目立体视频时产生严重的不 舒适感, 甚至无法进行双目立体融合, 如何能够对双目立体视频进行舒适度 衡量具有重要的研究和实际意义。
传统的双目立体成像原理研究通过实验方式揭示了导致人眼产生不舒适 感和影响双目立体成像的一些因素。 相关研究表明, 双目立体视差、 物体运 动速度对不舒适程度有较大影响, 而且双目立体视差越大, 物体运动速度越 大, 不舒适程度越大, 但现有双目视觉领域相关工作主要关注在这些因素的 定性关系描述, 缺乏定量关系分析, 因此无法在实际工程中直接应用。 2012 年 Jung 等人通过实验提出了一种根据基于双目视差和运动速度计算不舒适 度的方法, 但该方法在实验时对双目视差和不同方向的运动速度进行独立的 实验分析, 没有考虑这些因素之间的相互关系, 而且该计算方法没有对正负 双目视差进行区分。 我们通过对双目视差和物体三维运动速度整体参数空间 建模, 获得更为准确和普适的计算方法。 发明内容
(一) 要解决的技术问题
本发明所要解决的技术问题是: 如何提供一种能够根据双目立体视频中 物体的运动的速度和视差的变化, 计算观测该双目立体视频时不舒适程度的 方法。
(二)技术方案
为解决上述问题, 本发明提供一种运动感知的双目立体视频舒适度获取 方法, 包括以下步骤: Sl、 对输入的双目视频进行双目视差和运动速度分析, 计算视频中每个像素点的双目视差 d, 视平面方向的运动速度 vxy和深度方 向的运动速度 vz; S2、 根据所述像素点的参数 (d, vxy, vz), 计算相应的舒适 度值 c; S3、 根据每个像素点计算出的舒适度值, 计算整帧舒适度值; S4、 根据每帧的舒适度值, 计算整个视频的舒适度值。
优选地, 所述步骤 S1包括: 首先根据双目视频通过双目匹配来计算每个 像素点处的双目视差值, 然后使用光流计算每个像素点出视平面方向的运动 速度 vxy和深度方向的运动速度 vz。
优选地, 所述步骤 S2包括: 根据步骤 S1中计算得到的参数 (c, vxy, vz), 根据通过实验拟合的舒适度计算公式, 计算该像素点处的舒适度值 c:
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz+0.0022*d*vxy+0.1833*d*vz-0.6 932*d+4.6567 (d>=0),
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz-0.0043*d*vxy-0.1001*d*vz+0.2 303*d +4.6567 (d<0)。
优选地, 所述步骤 S3中, 使用保守的估计策略, 用每一帧中舒适度值最 低的像素对应的舒适度值, 作为该帧的舒适度值。
优选地, 所述步骤 S4中, 对于视频中的一个序列帧, 使用所有帧舒适度 值的中位数作为整个视频的舒适度值。
(三)有益效果
按照本发明的步骤来计算双目立体视频的舒适度, 能够很好的考虑正负 深度范围和物体运动对舒适度造成的影响, 获得更准确的舒适度估计。 附图说明
图 1为依照本发明实施例的运动感知的双目立体视频舒适度获取方法的 流程示意图。 具体实施方式
下面结合附图和实施例, 对本发明的具体实施方式作进一步详细描述。 以下实施例用于说明本发明, 但不用来限制本发明的范围。
参照附图 1 , 为本发明的方法流程图。 输入数据为双目立体视频, 输出 为该双目立体视频的舒适度估计值。 图中所表示的步骤为:
S1. 计算视频中像素点的参数: 通过分析输入的左、 右双目视频, 首先 通过双目匹配算法计算每个像素点处的双目视差 d, 然后对连续帧使用光流 算法, 计算该像素点处的视平面方向的运动速度 vxy和深度方向的运动速度 vz;
S2. 使用公式计算该像素点处的舒适度值: 将上述计算参数带入如下公 式计算该像素点处的舒适度值 C:
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz+0.0022*d*vxy+0.1833*d*vz-0.6932* d+4.6567 (d>=0)
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz-0.0043*d*vxy-0.1001*d*vz+0.2303* d +4.6567 (d<0);
53. 图像帧的舒适度计算: 本步骤根据上步骤中计算出来的每像素点处 的舒适度值, 使用保守策略, 釆用该帧里面舒适度值最低的像素点的舒适度 值, 作为该图像帧的舒适度值;
54. 整段视频的舒适度计算: 本步骤根据上步骤中计算出来的每个图像 帧的舒适度值, 使用所有数值中的中位数, 作为整段视频的舒适度值。
通过结合附图对本发明具体实施例的描述, 本发明的其它方面及特征对 本领域的技术人员而言是显而易见的。
以上所述仅是本发明的优选实施方式, 应当指出, 对于本技术领域的普 通技术人员来说, 在不脱离本发明技术原理的前提下, 还可以做出若干改进 和替换, 这些改进和替换也应视为本发明的保护范围。
工业实用性
本发明提供的运动感知的双目立体视频舒适度获取方法, 可有效计算双 目立体视频的舒适度, 能够很好的考虑正负深度范围和物体运动对舒适度造 成的影响, 获得更准确的舒适度估计

Claims

权 利 要 求
1、 一种运动感知的双目立体视频舒适度获取方法, 其特征在于, 包括 以下步骤:
Sl、 对输入的双目视频进行双目视差和运动速度分析, 计算视频中每个 像素点的双目视差 d,视平面方向的运动速度 vxy和深度方向的运动速度 vz;
52、 根据所述像素点的参数 (d, VXy, VZ), 计算相应的舒适度值 c;
53、 根据每个像素点计算出的舒适度值, 计算整帧舒适度值;
54、 根据每帧的舒适度值, 计算整个视频的舒适度值。
2、 如权利要求 1所述的方法, 其特征在于, 所述步骤 S1包括: 首先根 据双目视频通过双目匹配来计算每个像素点处的双目视差值, 然后使用光流 计算每个像素点出视平面方向的运动速度 vxy和深度方向的运动速度 vz。
3、 如权利要求 1或 2所述的方法, 其特征在于, 所述步骤 S2包括: 根 据步骤 S1中计算得到的参数 (c, vxy, vz), 根据通过实验拟合的舒适度计算公 式, 计算该像素点处的舒适度值 C:
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz+0.0022*d*vxy+0.1833*d*vz-0.6 932*d+4.6567 (d>=0),
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz-0.0043*d*vxy-0.1001*d*vz+0.2 303*d +4.6567 (d<0)。
4、 如权利要求 3所述的方法, 其特征在于, 所述步骤 S3中, 使用保守 的估计策略, 用每一帧中舒适度值最低的像素对应的舒适度值, 作为该帧的 舒适度值。
5、 如权利要求 4所述的方法, 其特征在于, 所述步骤 S4中, 对于视频 中的一个序列帧, 使用所有帧舒适度值的中位数作为整个视频的舒适度值。
PCT/CN2013/090462 2013-10-30 2013-12-25 运动感知的双目立体视频舒适度获取方法 Ceased WO2015062149A1 (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP13896633.8A EP3065401B1 (en) 2013-10-30 2013-12-25 Method for acquiring degree of comfort of motion-sensing binocular stereoscopic video
US15/026,576 US10091484B2 (en) 2013-10-30 2013-12-25 Method for acquiring comfort degree of motion-sensing binocular stereoscopic video

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201310528899.XA CN103595990B (zh) 2013-10-30 2013-10-30 运动感知的双目立体视频舒适度获取方法
CN201310528899.X 2013-10-30

Publications (1)

Publication Number Publication Date
WO2015062149A1 true WO2015062149A1 (zh) 2015-05-07

Family

ID=50085950

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2013/090462 Ceased WO2015062149A1 (zh) 2013-10-30 2013-12-25 运动感知的双目立体视频舒适度获取方法

Country Status (4)

Country Link
US (1) US10091484B2 (zh)
EP (1) EP3065401B1 (zh)
CN (1) CN103595990B (zh)
WO (1) WO2015062149A1 (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107181940B (zh) * 2013-12-27 2019-05-03 华为技术有限公司 一种立体视频舒适度评价方法及装置
CN106028025B (zh) * 2016-05-11 2017-11-21 吉林大学 一种针对辐辏与调节一致性的3d视频舒适度评价方法
CN106325521B (zh) * 2016-08-31 2018-06-29 北京小米移动软件有限公司 测试虚拟现实头显设备软件的方法及装置
US20180309971A1 (en) * 2017-04-19 2018-10-25 2Sens Ltd. System device and methods for grading discomfort effects of three dimensional (3d) content
CN110060291B (zh) * 2019-04-04 2023-01-31 长春理工大学 一种考虑人因的立体视在距离解算方法
CN111028281B (zh) * 2019-10-22 2022-10-18 清华大学 基于光场双目系统的深度信息计算方法及装置
CN111652922B (zh) * 2020-06-04 2023-09-08 江苏天宏机械工业有限公司 一种基于双目视觉的单目视频深度估计方法
CN115619740B (zh) * 2022-10-19 2023-08-08 广西交科集团有限公司 一种高精度视频测速方法、系统、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103096122A (zh) * 2013-01-24 2013-05-08 上海交通大学 基于感兴趣区域内运动特征的立体视觉舒适度评价方法
CN103096125A (zh) * 2013-02-22 2013-05-08 吉林大学 基于区域分割的立体视频视觉舒适度评价方法
CN103347196A (zh) * 2013-06-27 2013-10-09 宁波大学 一种基于机器学习的立体图像视觉舒适度评价方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AUPO894497A0 (en) * 1997-09-02 1997-09-25 Xenotech Research Pty Ltd Image processing method and apparatus
JP2009135686A (ja) * 2007-11-29 2009-06-18 Mitsubishi Electric Corp 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置
EP2586209A1 (en) * 2010-06-28 2013-05-01 Thomson Licensing Method and apparatus for customizing 3-dimensional effects of stereo content
US9118911B2 (en) * 2013-02-07 2015-08-25 Delphi Technologies, Inc. Variable disparity three-dimensional (3D) display system and method of operating the same

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103096122A (zh) * 2013-01-24 2013-05-08 上海交通大学 基于感兴趣区域内运动特征的立体视觉舒适度评价方法
CN103096125A (zh) * 2013-02-22 2013-05-08 吉林大学 基于区域分割的立体视频视觉舒适度评价方法
CN103347196A (zh) * 2013-06-27 2013-10-09 宁波大学 一种基于机器学习的立体图像视觉舒适度评价方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
SANG-HYUN. CHO ET AL., SUBJECTIVE EVALUATION OF VISUAL DISCOMFORT CAUSED FROM STEREOSCOPTIC 3D VIDEO USING PERCEPTUAL IMPORTANCE MAP TENCON 2012-2012 IEEE REGION 10 CONFERENCE, 31 December 2012 (2012-12-31), pages 1 - 6, XP032309590 *
YE BI. ET AL.: "A Visual Comfort Metric for Stereoscoptic 3D Video Based on Smde Approach Signal Processing", COMMUNICATION AND COMPUTING (ICSPCC, 31 December 2012 (2012-12-31), pages 72 - 77, XP032256656 *

Also Published As

Publication number Publication date
US10091484B2 (en) 2018-10-02
CN103595990A (zh) 2014-02-19
EP3065401A4 (en) 2017-06-07
EP3065401A1 (en) 2016-09-07
US20160249037A1 (en) 2016-08-25
CN103595990B (zh) 2015-05-20
EP3065401B1 (en) 2018-09-12

Similar Documents

Publication Publication Date Title
CN103595990B (zh) 运动感知的双目立体视频舒适度获取方法
JP6747504B2 (ja) 情報処理装置、情報処理方法、及びプログラム
TWI520576B (zh) 將二維影像轉換爲三維影像的方法與系統及電腦可讀媒體
CA2874142C (en) System and method for managing spatiotemporal uncertainty
CN105404395B (zh) 基于增强现实技术的舞台表演辅助训练方法及系统
CN105432078B (zh) 双目注视成像方法和设备
CN102801994B (zh) 一种信息物理图像融合装置与方法
CN101873509B (zh) 消除深度图序列背景和边缘抖动的方法
CN101790103B (zh) 一种视差计算方法及装置
CN104021590A (zh) 虚拟试穿试戴系统和虚拟试穿试戴方法
CN103826032B (zh) 深度图后期处理方法
CN102547350B (zh) 一种基于梯度光流算法合成虚拟视点方法及立体显示装置
RU2011139582A (ru) Устройство отображения изображений, система отображения изображений и способ отображения изображений
CN102368826A (zh) 双视点视频到多视点视频的实时自适应生成方法
CN103391447B (zh) 3d节目镜头切换中安全深度保证与调整方法
CN115342806B (zh) 头戴显示设备的定位方法、装置、头戴显示设备及介质
CN105812766A (zh) 一种垂直视差消减方法
CN108471939A (zh) 一种潘弄区测量方法、装置以及可穿戴显示设备
JP5464129B2 (ja) 画像処理装置および視差情報生成装置
CN102893614A (zh) 基于立体画面的自动聚焦点自动会聚的方法和设备
CN102254308B (zh) 一种真实感场景插值的计算方法及系统
CN202634612U (zh) 一种信息物理图像融合装置
TWI439119B (zh) 視訊影像的深度資訊處理系統與其相關處理方法
Wang et al. 42‐4: Binocular Camera Eye Tracking Algorithm for Naked Eye 3D Display
US20240404179A1 (en) Method and Device for Refining a Depth Map

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13896633

Country of ref document: EP

Kind code of ref document: A1

REEP Request for entry into the european phase

Ref document number: 2013896633

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2013896633

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 15026576

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE