WO2015062149A1 - 运动感知的双目立体视频舒适度获取方法 - Google Patents
运动感知的双目立体视频舒适度获取方法 Download PDFInfo
- Publication number
- WO2015062149A1 WO2015062149A1 PCT/CN2013/090462 CN2013090462W WO2015062149A1 WO 2015062149 A1 WO2015062149 A1 WO 2015062149A1 CN 2013090462 W CN2013090462 W CN 2013090462W WO 2015062149 A1 WO2015062149 A1 WO 2015062149A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- comfort
- vxy
- video
- binocular
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/144—Processing image signals for flicker reduction
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/339—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using spatial multiplexing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
- G06T2207/10021—Stereoscopic video; Stereoscopic image sequence
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0085—Motion estimation from stereoscopic image signals
Definitions
- the present invention relates to the field of digital image processing technologies, and in particular, to a motion-aware binocular stereo video comfort acquisition method. Background technique
- the present invention provides a motion-aware binocular stereo video comfort acquisition method, which includes the following steps: Sl. Perform binocular parallax and motion velocity analysis on the input binocular video, and calculate each pixel in the video. a binocular parallax d, a motion velocity vxy in a plane direction and a motion velocity vz in a depth direction; S2, calculating a corresponding comfort value c according to the parameter (d, vxy, vz) of the pixel point; S3, according to each Calculate the comfort value of the pixel, calculate the whole frame comfort value; S4, calculate the comfort value of the entire video according to the comfort value of each frame.
- the comfort of the binocular stereo video is calculated, and the influence of the positive and negative depth range and the motion of the object on the comfort can be well considered, and a more accurate comfort estimation can be obtained.
- Image frame comfort calculation In this step, according to the comfort value at each pixel point calculated in the previous step, a conservative strategy is used, and the comfort value of the pixel with the lowest comfort value in the frame is used as the comfort value.
- the comfort value of the image frame
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
本发明公开了一种运动感知的双目立体视频舒适度获取方法,输入的双目视频进行双目视差和运动速度分析,计算视频中每个像素点的双目视差d,视平面方向的运动速度vxy和深度方向的运动速度vz;S2、根据所述像素点的参数(d,vxy,vz),计算相应的舒适度值c;S3、根据每个像素点计算出的舒适度值,计算整帧舒适度值;S4、根据每帧的舒适度值,计算整个视频的舒适度值。按照本发明的步骤来计算双目立体视频的舒适度,能够很好的考虑正负深度范围和物体运动对舒适度造成的影响,获得更准确的舒适度估计。
Description
运动感知的双目立体视频舒适度获取方法 技术领域 本发明涉及数字图像处理技术领域, 特别涉及一种运动感知的双目立体 视频舒适度获取方法。 背景技术
在计算机图形学领域中, 双目立体图像和视频是被广泛研究和使用的立 体媒体格式。 双目立体技术通过在屏幕上向左右眼展示不同的图像来实现立 体成像。 由于成像技术中视角-聚焦的不匹配, 导致人们在观看双目立体视频 时, 会产生不同程度的不舒适感。 这种不舒适感是当前双目立体技术中存在 的一个重要问题, 因此, 为了避免人们在观看双目立体视频时产生严重的不 舒适感, 甚至无法进行双目立体融合, 如何能够对双目立体视频进行舒适度 衡量具有重要的研究和实际意义。
传统的双目立体成像原理研究通过实验方式揭示了导致人眼产生不舒适 感和影响双目立体成像的一些因素。 相关研究表明, 双目立体视差、 物体运 动速度对不舒适程度有较大影响, 而且双目立体视差越大, 物体运动速度越 大, 不舒适程度越大, 但现有双目视觉领域相关工作主要关注在这些因素的 定性关系描述, 缺乏定量关系分析, 因此无法在实际工程中直接应用。 2012 年 Jung 等人通过实验提出了一种根据基于双目视差和运动速度计算不舒适 度的方法, 但该方法在实验时对双目视差和不同方向的运动速度进行独立的 实验分析, 没有考虑这些因素之间的相互关系, 而且该计算方法没有对正负 双目视差进行区分。 我们通过对双目视差和物体三维运动速度整体参数空间 建模, 获得更为准确和普适的计算方法。 发明内容
(一) 要解决的技术问题
本发明所要解决的技术问题是: 如何提供一种能够根据双目立体视频中 物体的运动的速度和视差的变化, 计算观测该双目立体视频时不舒适程度的
方法。
(二)技术方案
为解决上述问题, 本发明提供一种运动感知的双目立体视频舒适度获取 方法, 包括以下步骤: Sl、 对输入的双目视频进行双目视差和运动速度分析, 计算视频中每个像素点的双目视差 d, 视平面方向的运动速度 vxy和深度方 向的运动速度 vz; S2、 根据所述像素点的参数 (d, vxy, vz), 计算相应的舒适 度值 c; S3、 根据每个像素点计算出的舒适度值, 计算整帧舒适度值; S4、 根据每帧的舒适度值, 计算整个视频的舒适度值。
优选地, 所述步骤 S1包括: 首先根据双目视频通过双目匹配来计算每个 像素点处的双目视差值, 然后使用光流计算每个像素点出视平面方向的运动 速度 vxy和深度方向的运动速度 vz。
优选地, 所述步骤 S2包括: 根据步骤 S1中计算得到的参数 (c, vxy, vz), 根据通过实验拟合的舒适度计算公式, 计算该像素点处的舒适度值 c:
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz+0.0022*d*vxy+0.1833*d*vz-0.6 932*d+4.6567 (d>=0),
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz-0.0043*d*vxy-0.1001*d*vz+0.2 303*d +4.6567 (d<0)。
优选地, 所述步骤 S3中, 使用保守的估计策略, 用每一帧中舒适度值最 低的像素对应的舒适度值, 作为该帧的舒适度值。
优选地, 所述步骤 S4中, 对于视频中的一个序列帧, 使用所有帧舒适度 值的中位数作为整个视频的舒适度值。
(三)有益效果
按照本发明的步骤来计算双目立体视频的舒适度, 能够很好的考虑正负 深度范围和物体运动对舒适度造成的影响, 获得更准确的舒适度估计。 附图说明
图 1为依照本发明实施例的运动感知的双目立体视频舒适度获取方法的 流程示意图。
具体实施方式
下面结合附图和实施例, 对本发明的具体实施方式作进一步详细描述。 以下实施例用于说明本发明, 但不用来限制本发明的范围。
参照附图 1 , 为本发明的方法流程图。 输入数据为双目立体视频, 输出 为该双目立体视频的舒适度估计值。 图中所表示的步骤为:
S1. 计算视频中像素点的参数: 通过分析输入的左、 右双目视频, 首先 通过双目匹配算法计算每个像素点处的双目视差 d, 然后对连续帧使用光流 算法, 计算该像素点处的视平面方向的运动速度 vxy和深度方向的运动速度 vz;
S2. 使用公式计算该像素点处的舒适度值: 将上述计算参数带入如下公 式计算该像素点处的舒适度值 C:
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz+0.0022*d*vxy+0.1833*d*vz-0.6932* d+4.6567 (d>=0)
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz-0.0043*d*vxy-0.1001*d*vz+0.2303* d +4.6567 (d<0);
53. 图像帧的舒适度计算: 本步骤根据上步骤中计算出来的每像素点处 的舒适度值, 使用保守策略, 釆用该帧里面舒适度值最低的像素点的舒适度 值, 作为该图像帧的舒适度值;
54. 整段视频的舒适度计算: 本步骤根据上步骤中计算出来的每个图像 帧的舒适度值, 使用所有数值中的中位数, 作为整段视频的舒适度值。
通过结合附图对本发明具体实施例的描述, 本发明的其它方面及特征对 本领域的技术人员而言是显而易见的。
以上所述仅是本发明的优选实施方式, 应当指出, 对于本技术领域的普 通技术人员来说, 在不脱离本发明技术原理的前提下, 还可以做出若干改进 和替换, 这些改进和替换也应视为本发明的保护范围。
工业实用性
本发明提供的运动感知的双目立体视频舒适度获取方法, 可有效计算双 目立体视频的舒适度, 能够很好的考虑正负深度范围和物体运动对舒适度造
成的影响, 获得更准确的舒适度估计
Claims
权 利 要 求
1、 一种运动感知的双目立体视频舒适度获取方法, 其特征在于, 包括 以下步骤:
Sl、 对输入的双目视频进行双目视差和运动速度分析, 计算视频中每个 像素点的双目视差 d,视平面方向的运动速度 vxy和深度方向的运动速度 vz;
52、 根据所述像素点的参数 (d, VXy, VZ), 计算相应的舒适度值 c;
53、 根据每个像素点计算出的舒适度值, 计算整帧舒适度值;
54、 根据每帧的舒适度值, 计算整个视频的舒适度值。
2、 如权利要求 1所述的方法, 其特征在于, 所述步骤 S1包括: 首先根 据双目视频通过双目匹配来计算每个像素点处的双目视差值, 然后使用光流 计算每个像素点出视平面方向的运动速度 vxy和深度方向的运动速度 vz。
3、 如权利要求 1或 2所述的方法, 其特征在于, 所述步骤 S2包括: 根 据步骤 S1中计算得到的参数 (c, vxy, vz), 根据通过实验拟合的舒适度计算公 式, 计算该像素点处的舒适度值 C:
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz+0.0022*d*vxy+0.1833*d*vz-0.6 932*d+4.6567 (d>=0),
c=-0.0556*vxy-0.6042*vz+0.0191*vxy*vz-0.0043*d*vxy-0.1001*d*vz+0.2 303*d +4.6567 (d<0)。
4、 如权利要求 3所述的方法, 其特征在于, 所述步骤 S3中, 使用保守 的估计策略, 用每一帧中舒适度值最低的像素对应的舒适度值, 作为该帧的 舒适度值。
5、 如权利要求 4所述的方法, 其特征在于, 所述步骤 S4中, 对于视频 中的一个序列帧, 使用所有帧舒适度值的中位数作为整个视频的舒适度值。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| EP13896633.8A EP3065401B1 (en) | 2013-10-30 | 2013-12-25 | Method for acquiring degree of comfort of motion-sensing binocular stereoscopic video |
| US15/026,576 US10091484B2 (en) | 2013-10-30 | 2013-12-25 | Method for acquiring comfort degree of motion-sensing binocular stereoscopic video |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201310528899.XA CN103595990B (zh) | 2013-10-30 | 2013-10-30 | 运动感知的双目立体视频舒适度获取方法 |
| CN201310528899.X | 2013-10-30 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2015062149A1 true WO2015062149A1 (zh) | 2015-05-07 |
Family
ID=50085950
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/CN2013/090462 Ceased WO2015062149A1 (zh) | 2013-10-30 | 2013-12-25 | 运动感知的双目立体视频舒适度获取方法 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US10091484B2 (zh) |
| EP (1) | EP3065401B1 (zh) |
| CN (1) | CN103595990B (zh) |
| WO (1) | WO2015062149A1 (zh) |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107181940B (zh) * | 2013-12-27 | 2019-05-03 | 华为技术有限公司 | 一种立体视频舒适度评价方法及装置 |
| CN106028025B (zh) * | 2016-05-11 | 2017-11-21 | 吉林大学 | 一种针对辐辏与调节一致性的3d视频舒适度评价方法 |
| CN106325521B (zh) * | 2016-08-31 | 2018-06-29 | 北京小米移动软件有限公司 | 测试虚拟现实头显设备软件的方法及装置 |
| US20180309971A1 (en) * | 2017-04-19 | 2018-10-25 | 2Sens Ltd. | System device and methods for grading discomfort effects of three dimensional (3d) content |
| CN110060291B (zh) * | 2019-04-04 | 2023-01-31 | 长春理工大学 | 一种考虑人因的立体视在距离解算方法 |
| CN111028281B (zh) * | 2019-10-22 | 2022-10-18 | 清华大学 | 基于光场双目系统的深度信息计算方法及装置 |
| CN111652922B (zh) * | 2020-06-04 | 2023-09-08 | 江苏天宏机械工业有限公司 | 一种基于双目视觉的单目视频深度估计方法 |
| CN115619740B (zh) * | 2022-10-19 | 2023-08-08 | 广西交科集团有限公司 | 一种高精度视频测速方法、系统、电子设备及存储介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103096122A (zh) * | 2013-01-24 | 2013-05-08 | 上海交通大学 | 基于感兴趣区域内运动特征的立体视觉舒适度评价方法 |
| CN103096125A (zh) * | 2013-02-22 | 2013-05-08 | 吉林大学 | 基于区域分割的立体视频视觉舒适度评价方法 |
| CN103347196A (zh) * | 2013-06-27 | 2013-10-09 | 宁波大学 | 一种基于机器学习的立体图像视觉舒适度评价方法 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| AUPO894497A0 (en) * | 1997-09-02 | 1997-09-25 | Xenotech Research Pty Ltd | Image processing method and apparatus |
| JP2009135686A (ja) * | 2007-11-29 | 2009-06-18 | Mitsubishi Electric Corp | 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置 |
| EP2586209A1 (en) * | 2010-06-28 | 2013-05-01 | Thomson Licensing | Method and apparatus for customizing 3-dimensional effects of stereo content |
| US9118911B2 (en) * | 2013-02-07 | 2015-08-25 | Delphi Technologies, Inc. | Variable disparity three-dimensional (3D) display system and method of operating the same |
-
2013
- 2013-10-30 CN CN201310528899.XA patent/CN103595990B/zh active Active
- 2013-12-25 US US15/026,576 patent/US10091484B2/en active Active
- 2013-12-25 EP EP13896633.8A patent/EP3065401B1/en active Active
- 2013-12-25 WO PCT/CN2013/090462 patent/WO2015062149A1/zh not_active Ceased
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103096122A (zh) * | 2013-01-24 | 2013-05-08 | 上海交通大学 | 基于感兴趣区域内运动特征的立体视觉舒适度评价方法 |
| CN103096125A (zh) * | 2013-02-22 | 2013-05-08 | 吉林大学 | 基于区域分割的立体视频视觉舒适度评价方法 |
| CN103347196A (zh) * | 2013-06-27 | 2013-10-09 | 宁波大学 | 一种基于机器学习的立体图像视觉舒适度评价方法 |
Non-Patent Citations (2)
| Title |
|---|
| SANG-HYUN. CHO ET AL., SUBJECTIVE EVALUATION OF VISUAL DISCOMFORT CAUSED FROM STEREOSCOPTIC 3D VIDEO USING PERCEPTUAL IMPORTANCE MAP TENCON 2012-2012 IEEE REGION 10 CONFERENCE, 31 December 2012 (2012-12-31), pages 1 - 6, XP032309590 * |
| YE BI. ET AL.: "A Visual Comfort Metric for Stereoscoptic 3D Video Based on Smde Approach Signal Processing", COMMUNICATION AND COMPUTING (ICSPCC, 31 December 2012 (2012-12-31), pages 72 - 77, XP032256656 * |
Also Published As
| Publication number | Publication date |
|---|---|
| US10091484B2 (en) | 2018-10-02 |
| CN103595990A (zh) | 2014-02-19 |
| EP3065401A4 (en) | 2017-06-07 |
| EP3065401A1 (en) | 2016-09-07 |
| US20160249037A1 (en) | 2016-08-25 |
| CN103595990B (zh) | 2015-05-20 |
| EP3065401B1 (en) | 2018-09-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103595990B (zh) | 运动感知的双目立体视频舒适度获取方法 | |
| JP6747504B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
| TWI520576B (zh) | 將二維影像轉換爲三維影像的方法與系統及電腦可讀媒體 | |
| CA2874142C (en) | System and method for managing spatiotemporal uncertainty | |
| CN105404395B (zh) | 基于增强现实技术的舞台表演辅助训练方法及系统 | |
| CN105432078B (zh) | 双目注视成像方法和设备 | |
| CN102801994B (zh) | 一种信息物理图像融合装置与方法 | |
| CN101873509B (zh) | 消除深度图序列背景和边缘抖动的方法 | |
| CN101790103B (zh) | 一种视差计算方法及装置 | |
| CN104021590A (zh) | 虚拟试穿试戴系统和虚拟试穿试戴方法 | |
| CN103826032B (zh) | 深度图后期处理方法 | |
| CN102547350B (zh) | 一种基于梯度光流算法合成虚拟视点方法及立体显示装置 | |
| RU2011139582A (ru) | Устройство отображения изображений, система отображения изображений и способ отображения изображений | |
| CN102368826A (zh) | 双视点视频到多视点视频的实时自适应生成方法 | |
| CN103391447B (zh) | 3d节目镜头切换中安全深度保证与调整方法 | |
| CN115342806B (zh) | 头戴显示设备的定位方法、装置、头戴显示设备及介质 | |
| CN105812766A (zh) | 一种垂直视差消减方法 | |
| CN108471939A (zh) | 一种潘弄区测量方法、装置以及可穿戴显示设备 | |
| JP5464129B2 (ja) | 画像処理装置および視差情報生成装置 | |
| CN102893614A (zh) | 基于立体画面的自动聚焦点自动会聚的方法和设备 | |
| CN102254308B (zh) | 一种真实感场景插值的计算方法及系统 | |
| CN202634612U (zh) | 一种信息物理图像融合装置 | |
| TWI439119B (zh) | 視訊影像的深度資訊處理系統與其相關處理方法 | |
| Wang et al. | 42‐4: Binocular Camera Eye Tracking Algorithm for Naked Eye 3D Display | |
| US20240404179A1 (en) | Method and Device for Refining a Depth Map |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 13896633 Country of ref document: EP Kind code of ref document: A1 |
|
| REEP | Request for entry into the european phase |
Ref document number: 2013896633 Country of ref document: EP |
|
| WWE | Wipo information: entry into national phase |
Ref document number: 2013896633 Country of ref document: EP |
|
| WWE | Wipo information: entry into national phase |
Ref document number: 15026576 Country of ref document: US |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |