CN108564642A - 基于ue引擎的无标记表演捕捉系统 - Google Patents

基于ue引擎的无标记表演捕捉系统 Download PDF

Info

Publication number
CN108564642A
CN108564642A CN201810217894.8A CN201810217894A CN108564642A CN 108564642 A CN108564642 A CN 108564642A CN 201810217894 A CN201810217894 A CN 201810217894A CN 108564642 A CN108564642 A CN 108564642A
Authority
CN
China
Prior art keywords
expression
facial
character
weight parameter
performer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810217894.8A
Other languages
English (en)
Inventor
车武军
吴泽烨
谷卓
徐波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Automation of Chinese Academy of Science
Original Assignee
Institute of Automation of Chinese Academy of Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Automation of Chinese Academy of Science filed Critical Institute of Automation of Chinese Academy of Science
Priority to CN201810217894.8A priority Critical patent/CN108564642A/zh
Publication of CN108564642A publication Critical patent/CN108564642A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/20Three-dimensional [3D] animation
    • G06T13/40Three-dimensional [3D] animation of characters, e.g. humans, animals or virtual beings
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明涉及图像处理领域,提出了一种基于UE引擎的无标记表演捕捉系统,旨在解决同时捕捉表演者的动作与表情以生成角色动画方法中,标记点对表演者造成侵入感,使表演受到干扰的问题。该系统包括:面部表演捕捉模块,配置为采集表演者的面部图像数据,并根据上述面部图像数据计算上述表演者的面部表情的权重参数;动作表演捕捉模块,配置为采集上述表演者的骨骼图像数据,并根据上述骨骼图像数据确定上述表演者的人体姿态参数;动画生成模块,配置为根据上述面部表情的权重参数和上述人体姿态参数,利用UE图形程序生成角色3D模型的动作和表情。本发明实现了表演者动作和表情的捕捉,并根据动作和表情数据赋予虚拟角色真实合理的动作与生动的表情。

Description

基于UE引擎的无标记表演捕捉系统
技术领域
本发明涉及了计算机图形学、计算机视觉和虚拟现实领域,特别涉及一种基于UE引擎的无标记表演捕捉系统。
背景技术
表演捕捉技术用于对表演者的动作和表情进行捕捉,在电影、动画、游戏等领域中具有广泛的应用。通过表演捕捉技术赋予虚拟角色真实合理的动作与生动的表情,可以带给用户优更秀的观感体验。动作捕捉技术包括光学式捕捉与惯性导航式捕捉。光学式捕捉通过光学相机拍摄表演者,分析计算表演者的关节点,例如kinect等;惯性导航式捕捉通过表演者身上穿戴的传感器获取关节点的运动状态,分析出表演者当前的姿态,例如诺亦腾、OptiTrack等。
当前,已有表演捕捉技术方案有,在表演者全身和脸部贴上标记,通过光学相机捕捉全身动作及面部表情,在后期制作中根据捕捉到的标记点将拍摄的表演者影像替换成虚拟角色模型。但标记点对表演者造成侵入感,使得自然表演的难度增加。或者,分别进行表情捕捉与动作捕捉,然后进行合成,但是在后期制作中增加了相互间结合的难度,并对用户进行其他角色编辑有所限制。
发明内容
为了解决现有技术中的上述问题,即为了解决同时捕捉表演者的动作与表情以生成角色动画方法中,标记点对表演者造成侵入感,使得自然表演的难度增加,或者,由于分别进行表情捕捉与动作捕捉,然后进行合成,造成在后期制作中增加了相互间结合的难度,并对用户进行其他角色编辑有所限制的问题,本发明采用以下技术方案以解决上述问题:
本申请提供了基于UE引擎(Unreal Engine,虚拟引擎)的无标记表演捕捉系统,该系统包括:面部表演捕捉模块,配置为采集表演者的面部图像数据,并根据上述面部图像数据计算上述表演者的面部表情的权重参数,并记为第一权重参数;动作表演捕捉模块,配置为采集上述表演者的骨骼图像数据,并根据上述骨骼图像数据确定上述表演者的人体姿态参数;动画生成模块,配置为根据上述第一权重参数和上述人体姿态参数,利用UE图形程序生成上述表演者对应人物角色的3D模型的动作和表情。
在一些示例中,上述面部表演捕捉模块包括面部图像采集单元和表情计算单元;上述面部图像采集单元,配置为采集表演者正面人脸的面部图像数据;上述表情计算单元,配置为对上述面部图像数据进行特征点跟踪,计算上述表演者的面部表情的权重参数。
在一些示例中,上述动作表演捕捉模块包括骨骼数据采集单元和人体姿态确认单元;上述骨骼图像采集单元包括多台Kinect传感器,配置为从不同的角度采集上述表演者的多帧骨骼图像数据,各帧上述骨骼图像数据包括组成人体骨骼的各关节点的关节点坐标和各上述关节点的跟踪属性,并根据上述跟踪属性为各上述骨骼图像数据的各个关节点分配可信度;上述人体姿态确认单元,配置为根据上述表演者的骨骼图像数据中各关节点坐标和各上述关节点坐标变化确定出上述表演者的人体姿态参数。
在一些示例中,上述人体姿态确认单元进一步配置为:利用预设的坐标转换矩阵对各台Kinect传感器所采集的骨骼图像数据进行坐标系转换,生成参考骨骼数据;根据各参考骨架数据利用加权平均算法合成上述表演者的平均骨架数据。
在一些示例中,上述“根据各参考骨架数据利用加权平均算法合成上述表演者的平均骨架数据”,包括:确定上述参考骨架数据的关节点的可信度为上述关节点的权重因子;根据各参考骨架数据的任一关节点坐标和上述关节点的权重因子计算上述关节点坐标的平均值;根据组成人体骨架的全部关节点坐标的平均值确定上述表演者的平均骨架数据。
在一些示例中,上述动画生成模块包括骨骼运动控制单元和表情控制单元;上述骨骼运动控制单元,配置为根据上述动作表演捕捉模块确定的人体姿态参数,利用上述UE图形程序生成人物角色的3D模型的动作动画;上述表情控制单元,配置为根据上述面部表演捕捉模块确定的面部表情权重参数,利用上述UE图形程序生成上述人物角色的3D模型的表情动画。
在一些示例中,上述骨骼运动控制单元,进一步配置为:利用预设的映射关系,将上述平均骨架数据转换为UE4图形程序中上述人物角色的角色模型数据;采用四元数混合的方式将上述角色模型数据通过UE4引擎赋值到上述人物角色的3D模型;计算初始骨架变化到当前骨架的过程中每根骨骼的变化量;将各上述变化量附加对应骨骼的父关节点,确定出上述人物角色的3D模型的动作动画。
在一些示例中,上述表情控制单元进一步配置为:将上述第一权重参数与预设角色表情库的各基础表情进行对应,确定出上述面部表情对应的基础表情组合;利用预设的目标变形函数与上述角色表情库中各基础表情的对应关系,确定出上述面部表情对应于上述人物角色的3D模型的表情动画。
在一些示例中,上述“将上述第一权重参数与预设角色表情库的各基础表情进行对应,确定出上述面部表情对应的基础表情组合”,包括:利用预设的表情权重计算程序计算上述角色表情库中的各基础表情的角色表情权重参数,并记为第二权重参数;将上述第一权重参数与上述第二权重参数进行映射,根据映射结果,确定出与上述面部表情对应的第二权重参数;根据上述第二权重参数与上述角色表情库中的各基础表情的对应关系,确定上述面部表情对应的上述角色表情库中的基础表情组合。
在一些示例中,上述“将上述第一权重参数与上述第二权重参数进行映射,根据映射结果,确定出与上述面部表情对应的第二权重参数”,包括:将所述UE图形程序中第一权重参数的数目与所述角色表情库中基础表情的数目比较;如果数目相同,选取与上述第一权重参数序号一致的第二权重参数作为上述面部表情对应的第二权重参数;如果上述UE图形程序中第一权重参数的数目小于上述角色表情库中基础表情的数目,则根据第一权重参数的数目,从上述角色基础表情库中选取相同数目的基础表情作为表情子集,计算上述表情子集中各基础表情的角色表情权重参数,并记为新的第二权重参数,选取与上述第一权重参数序号一致的新的上述第二权重参数作为上述面部表情对应的第二权重参数;否则,选取与上述第一权重参数的差值最小的第二权重参数作为上述面部表情对应的第二权重参数。
本申请提供的基于UE引擎的无标记表演捕捉系统,通过面部表演捕捉模块捕捉表演者的面部表情、动作表演捕捉模块捕捉表演者的肢体动作,动画生成模块根据表演者的面部表情和肢体动作,利用UE图形程序生成人物角色的3D模型的动作动画和表情动画。本发明可以同时捕捉表演者的动作和表情数据,并在UE引擎中通过角色动画的形式实时渲染出来,用户可以自定义角色模型。解决了同时捕捉表演者的动作与表情以生成角色动画方法中,标记点对表演者造成侵入感,使得动画角色人物的表演受到干扰。
附图说明
图1是本申请可以应用于其中的示例性系统架构图;
图2是根据本申请的基于UE引擎的无标记表演捕捉系统的一个实施流程图;
图3是本申请用于中捕捉面部表情的头盔式网络相机示意图;
图4a和图4b是动作表演和表情表演的表演捕捉效果图。
具体实施方式
下面参照附图来描述本发明的优选实施方式。本领域技术人员应当理解的是,这些实施方式仅仅用于解释本发明的技术原理,并非旨在限制本发明的保护范围。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的基于UE引擎的无标记表演捕捉系统的实施例的示例性系统架构。
如图1所示,系统包括:面部表演捕捉模块,配置为采集表演者的面部图像数据,并根据上述面部图像数据计算上述表演者的面部表情的权重参数,并记为第一权重参数;动作表演捕捉模块,配置为采集上述表演者的骨骼图像数据,并根据上述骨骼图像数据确定上述表演者的人体姿态参数;动画生成模块,配置为根据上述第一权重参数和上述人体姿态参数,利用UE图形程序生成上述表演者对应人物角色的3D模型的动作和表情。
继续参考图2,示出了在本实施例中系统的实施示意图。在本实施例中,上述面部表演捕捉模块和上述动作表演捕捉模块分别获取表演表演者的面部表情和动作姿态的信息,并将所获得的与表演相关的面部表情信息和动作姿态信息发送到上述动画生成模块,上述动画生成模块根据上述面部表情信息和动作姿态信息,利用UE图形程序生成该人物角色的3D模型的动作动画和表情动画。上述面部表演捕捉模块和上述动作表演捕捉模块可以是用户实时输入的信息;用户可以预先准备角色数据,根据用户输入的实时信息,实时生成人物角色的动作动画。
在本实施例中,上述面部表演捕捉模块包括面部图像采集单元和表情计算单元。其中,上述面部图像采集单元,配置为采集表演者正面人脸的面部图像数据;上述表情计算单元,配置为对上述面部图像数据进行特征点跟踪与分析,计算上述表演者的面部表情的权重参数。
上述面部图像采集单元可以是视频或图像采集传感设备,例如,可以为头盔式网络相机。如图3所示,上述头盔式网络相机主要结构如下:头盔正面装有一个可调节支架,支架尾部装有一部网络摄像头,头盔背面装有电源,通过数据线与摄像头相连。在进行面部图像捕捉时上述头盔式网络相机对目标用户的正面人脸图像进行实时拍摄。所拍摄的图像或视频流通过有线或无线网络传输到设置于PC端的表情计算单元进行表情参数计算。
上述表情参数计算单元配置为对上述面部图像数据进行特征点跟踪与分析,计算上述表演者的面部表情的权重参数。上述表情参数计算单元中预设表情参数计算程序,上述表情参数计算程序对所获取的表演者的面部图像数据进行特征点的跟踪,计算出表演者的面部表情的权重参数。
作为示例,上述表演者的权重参数计算可以通过如下方式进行。可以用PC机连接一台Kinect传感器,FaceShift能够自动检测该Kinect传感器并与其连接,Kinect传感器捕获的人脸表情的深度数据可以实时传输给FaceShift。FaceShift将Kinect传感器获取的人脸表情深度数据与用户的基础表情模型进行对比分析,FaceShift计算出当前表情的51个权重参数,记为{wi,i=1,2,...,51}。
具体地,以n个基础表情组成的blendshape表情模型为例,每一个基础表情都用含有p个顶点的三维网格人脸模型表示,每个顶点有三个分量x、y、z,即每个顶点的空间坐标为(x,y,z)。将每个基础表情的顶点坐标按任意顺序展开为长向量,但是展开后每个基础表情的顶点坐标之后的展开顺序应该是一样的,展开顺序可以为(xxxyyyzzz)或者(xyzxyzxyz)等,这样就得到n个长度为3p的向量bk,k=1,2,...,n,用b0表示中性表情,bk-b0即为第k个基础表情bk与中性表情b0之差,当前表情可以表示为:其中,wk表示在区间[0,1]内的任意值。因此,51个基础表情模型可以表示为Fi=bi-b0(i=1,…,51),将上述公式简化为其中F=f-b0
在本实施例中,上述动作表演捕捉模块包括骨骼数据采集单元和人体姿态确认单元。上述骨骼图像采集单元包括多台Kinect传感器,配置为从不同的角度采集上述表演者的多帧骨骼图像数据,各上述骨骼图像数据包括组成人体骨骼的各关节点的关节点坐标和各上述关节点的跟踪属性,并根据上述跟踪属性为各所述骨骼图像数据的各个关节点分配可信度;上述人体姿态确认单元,配置为根据上述表演者的骨骼图像数据中各关节点坐标和各所述关节点坐标的变换确定出上述表演者的人体姿态参数。
在用于采集表演者骨骼动作数据的数据采集区域中的不同的位置装设多台Kinect传感器,以便从不同的角度对表演者的动作进行捕捉。上述Kinect传感器所采集到的表演者的骨骼图像数据包括组成人体骨骼的各关节点的关节点坐标和各关节点的跟踪属性。作为示例,各Kinect传感器采集的每帧数据包含一个骨架和各关节的跟踪属性,骨架可以表示为{vij},其中j表示关节点编号,vij表示在第i台Kinect传感器坐标系中的骨架第j个关节点的坐标。上述各关节点的跟踪属性分为追踪到的、推测的、未追踪到的。可以为跟踪属性的三个状态分配依次降低的可信度,记为{wij}。其中,wij表示第i台Kinect传感器坐标系中的骨架第j个关节点的可信度。上述骨骼图像采集单元通过网络将上述骨骼图像数据发送到上述人体姿态确认单元,以对表演者进行人体姿态参数的计算。
在本实施例中,上述人体姿态确认单元进一步配置为:利用预设的坐标转换矩阵对各台Kinect传感器所采集的骨骼图像数据进行坐标系转换,生成参考骨骼数据;根据各参考骨架数据利用加权平均算法合成上述表演者的平均骨架数据。这里,对各台Kinect传感器进行坐标系转换,将各台Kinect传感器采集的数据转换到同一参考坐标系下。首先,可以指定其中一台Kinect传感器坐标系为参考坐标系,然后,其余各kinect传感器捕捉到的人体骨架各关节点作为自身坐标系与参考坐标系之间的匹配点;最后,确定各kinect传感器坐标系到参考坐标系的变换矩阵,使得变换后的匹配点之间距离总和最小。通过上述变换矩阵,将各kinect传感器所采集的骨骼图像数据进行坐标系转换,生成参考骨骼数据。
在本实施例中,上述根据各参考骨架数据利用加权平均算法合成上述表演者的平均骨架数据,包括:确定上述参考骨架数据的关节点的可信度为上述关节点的权重因子;根据各参考骨架数据的任一关节点坐标和该关节点的权重因子计算该关节点坐标的平均值;根据组成上述人体骨骼的全部关节点坐标的平均值确定上述表演者的平均骨架数据。这里,计算表演者的平均骨架数据是计算组成人体骨架的各关节点坐标的平均值。对于任一关节点坐标的平均值的计算,可以是将该关节点在参考坐标系下的坐标进行加权平均计算,其中,权重因子为该关节点坐标的可信度。作为示例,可以将转换到参考坐标系下的一帧人体骨架数据记{vij,wij},其中j表示关节点编号,i表示kinect传感器编号,vij表示第i个Kinect传感器坐标系中捕捉到的骨架中第j个关节点的坐标,wij为该关节点的可信度。将可信度作为权重,对同一骨架的多帧kinect骨架关节点坐标进行加权平均计算,得到一个平均骨架。
在本实施例中,上述动画生成模块包括骨骼运动控制单元和表情控制单元,上述骨骼运动控制单元,配置为根据上述动作表演捕捉模块确定的人体姿态参数,利用上述UE图形程序生成人物角色的3D模型的动作动画;上述表情控制单元,配置为根据上述面部表演捕捉模块确定的面部表情权重参数,利用上述UE图形程序生成上述表演者对应人物角色的3D模型的表情动画。如图4a所示为根据上述动作表演生成的动作示意图,图4b为根据上述面部表演生成的表情动画。
上述骨骼运动控制单元根据上述动作表演捕捉模块确定的人体姿态参数,利用上述UE图形程序生成表演者对应人物角色的3D模型的动作动画。具体可以为,利用预设的映射关系,将上述平均骨架数据转换为UE4图形程序中上述人物角色的角色模型数据;采用四元数混合的方式将上述角色模型数据通过UE4引擎赋值到上述人物角色的3D模型;计算初始骨架变化到当前骨架的过程中每根骨骼的变化量;将各上述变化量附加对应骨骼的父关节点,确定出上述人物角色的3D模型的动作动画。
可以在UE图形程序中使用的3D模型维护一份骨架映射,用于将Kinect传感器的人体骨架动作的平均骨架数据转换为3D模型所需的形式。骨架映射将Kinect传感器的骨架关节点对应到3D模型骨架关节点,根据3D模型骨架结构与kinect传感器中骨架结构的相似性进行一一映射,若3D模型中有多余或缺失的关节点,不作映射处理。映射可通过关节点名称进行自动匹配,也可以进行手动绑定。UE图形程序中3D模型骨架由一系列的关节点及其连接组成,每个关节点都有唯一的命名,因此可以通过对比Kinect传感器骨架关节点名称和UE图形程序中3D模型骨架关节点名称对两个骨架进行自动映射,无法自动映射的部分可以进行手动匹配,将匹配的结果附加到需要用到的3D模型上,呈现人体骨骼动作的动作动画。上述将匹配的结果附加到需要用到的3D模型上可以为将转换后的3D模型骨架数据赋值给3D模型,赋值采用四元数混合的方式,即求出初始骨架变化到当前骨架的过程中每根骨骼的变化量(用四元数表示),之后将每个变化量附加到对应骨骼的父关节点上。对于映射关系中不存在的关节点,其在骨骼动画中的位置朝向取决于父关节点的变化。
在本实施例中,上述表情控制单元进一步配置为:将上述第一权重参数与预设角色表情库的各基础表情进行对应,确定出上述面部表情对应的基础表情组合;利用预设的目标变形函数与上述角色表情库中各基础表情的对应关系,确定出上述面部表情对应与上述人物角色3D模型的表情动画。
在本实施例中,上述“将上述第一权重参数与预设角色表情库的各基础表情进行对应,确定出上述面部表情对应的基础表情组合”,包括:利用预设的表情权重计算程序计算上述角色表情库中的各基础表情的角色表情权重参数,并记为第二权重参数;将上述第一权重参数与上述第二权重参数进行映射,根据映射结果,确定出与上述面部表情对应的第二权重参数;根据上述第二权重参数与上述角色表情库中的各基础表情的对应关系,确定上述面部表情对应的上述角色表情库中的基础表情组合。
在本实施例中,上述“将上述第一权重参数与上述角色表情权重参数进行映射,根据映射结果,确定出与上述面部表情对应的第二权重参数”,包括:将上述UE图形程序中第一权重参数的数目与上述角色表情库中基础表情的数目比较;如果数目相同,即看,上述UE图形程序所获取的全部面部图像数据所对应的基础表情与上述角色表情库中基础表情设定一致;选取与上述第一权重参数序号一致的第二权重参数作为上述面部表情对应的第二权重参数。如果上述UE图形程序中第一权重参数的数目小于上述角色表情库中基础表情的数目,则根据第一权重参数的数目,从上述角色基础表情库中选取相同数目的基础表情作为表情子集,即,所述UE图形程序所获取的全部面部图像数据所对应的基础表情与所述表情子集中基础表情设定一致;计算上述表情子集中各基础表情的角色表情权重参数,并记为新的第二权重参数,选取与上述第一权重参数序号一致的新的上述第二权重参数作为上述面部表情对应的第二权重参数;否则,选取与上述第一权重参数的差值最小的第二权重参数作为上述面部表情对应的第二权重参数。
作为示例,上述角色表情库中有N个基础表情,转换为角色对应的权重参数,记为第二权重参数{vi,i=1,2,...,N}。上述UE图形程序中可以接收到全部面部图像数据所对应的基础表情为M个,转换为表演者对应的权重参数的个数为M个,记为第一权重参数{wi,i=1,2,...,M},优选的M的个数为51。若角色表情库与全部面部图像数据所对应的基础表情的设定完全一致,那么N=M,则角色的表情权重vi=wi,i=1,2,...,M;若角色表情库中基础表情种类较少,则选择与角色表情库的第i个基础表情最接近的表情j的权重参数wj赋值给vi,即vi=wj;若角色表情库中基础表情种类较多,则选取角色基础表情库的一个子集与全部面部图像数据所对应的基础表情一一对应,该子集中的权重参数设置为其余表情的权重参数置为0。根据上述UE图形程序中全部面部图像数据所对应的基础表情的第一权重参数与上述角色表情库中的基础表情的第二权重参数的对应关系,确定出上述面部表情对应的第二权重参数。UE图形程序中的UE引擎通过调用权重参数转换的函数计算角色最终的表情权重参数。UE引擎将得到的最终权重参数输入到目标变形设置函数中,控制角色的面部顶点或特征点的变形,使角色做出相应的表情,呈现表情动画。
至此,已经结合附图所示的优选实施方式描述了本发明的技术方案,但是,本领域技术人员容易理解的是,本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下,本领域技术人员可以对相关技术特征作出等同的更改或替换,这些更改或替换之后的技术方案都将落入本发明的保护范围之内。

Claims (10)

1.一种基于UE引擎的无标记表演捕捉系统,其特征在于,所述系统包括:
面部表演捕捉模块,配置为采集表演者的面部图像数据,并根据所述面部图像数据计算所述表演者的面部表情的权重参数,并记为第一权重参数;
动作表演捕捉模块,配置为采集所述表演者的骨骼图像数据,并根据所述骨骼图像数据确定所述表演者的人体姿态参数;
动画生成模块,配置为根据所述第一权重参数和所述人体姿态参数,利用UE图形程序生成所述表演者对应人物角色的3D模型的动作和表情。
2.根据权利要求1所述的基于UE引擎的无标记表演捕捉系统,其特征在于,所述面部表演捕捉模块包括面部图像采集单元和表情计算单元,
所述面部图像采集单元,配置为采集所述表演者正面人脸的面部图像数据;
所述表情计算单元,配置为对所述面部图像数据进行特征点跟踪,并计算所述表演者的面部表情的权重参数。
3.根据权利要求1所述的基于UE引擎的无标记表演捕捉系统,其特征在于,所述动作表演捕捉模块包括骨骼数据采集单元和人体姿态确认单元;
所述骨骼图像采集单元包括多台Kinect传感器,配置为从不同的角度采集所述表演者的多帧骨骼图像数据,各帧所述骨骼图像数据包括组成人体骨骼的各关节点的关节点坐标和各所述关节点的跟踪属性,并根据所述跟踪属性为各所述骨骼图像数据的各个关节点分配可信度;
所述人体姿态确认单元,配置为根据所述表演者的骨骼图像数据中各关节点坐标和各所述关节点坐标变化确定出所述表演者的人体姿态参数。
4.根据权利要求3所述的基于UE引擎的无标记表演捕捉系统,其特征在于,所述人体姿态确认单元进一步配置为:
利用预设的坐标转换矩阵对各台Kinect传感器所采集的骨骼图像数据进行坐标系转换,生成参考骨骼数据;
根据各参考骨架数据利用加权平均算法合成所述表演者的平均骨架数据。
5.根据权利要求4所述的基于UE引擎的无标记表演捕捉系统,其特征在于,“根据各参考骨架数据利用加权平均算法合成所述表演者的平均骨架数据”,包括:
确定所述参考骨架数据的关节点的可信度为所述关节点的权重因子;
根据各参考骨架数据的任一关节点坐标和所述关节点的权重因子计算所述关节点坐标的平均值;
根据组成人体骨架的全部关节点坐标的平均值确定所述表演者的平均骨架数据。
6.根据权利要求1所述的基于UE引擎的无标记表演捕捉系统,其特征在于,所述动画生成模块包括骨骼运动控制单元和表情控制单元;
所述骨骼运动控制单元,配置为根据所述动作表演捕捉模块确定的人体姿态参数,利用所述UE图形程序生成人物角色的3D模型的动作动画;
所述表情控制单元,配置为根据所述面部表演捕捉模块确定的面部表情权重参数,利用所述UE图形程序生成所述人物角色的3D模型的表情动画。
7.根据权利要求6所述的基于UE引擎的无标记表演捕捉系统,其特征在于,所述骨骼运动控制单元,进一步配置为:
利用预设的映射关系,将所述平均骨架数据转换为UE4图形程序中所述人物角色的角色模型数据;
采用四元数混合的方式将所述角色模型数据通过UE4引擎赋值到所述人物角色的3D模型;
计算初始骨架变化到当前骨架的过程中每根骨骼的变化量;
将各所述变化量附加对应骨骼的父关节点,确定出所述人物角色的3D模型的动作动画。
8.根据权利要求6所述的基于UE引擎的无标记表演捕捉系统,其特征在于,所述表情控制单元,进一步配置为:
将所述第一权重参数与预设角色表情库的各基础表情进行对应,确定出所述面部表情对应的基础表情组合;
利用预设的目标变形函数与所述角色表情库中各基础表情的对应关系,确定出所述面部表情对应于所述人物角色的3D模型的表情动画。
9.根据权利要求8所述的基于UE引擎的无标记表演捕捉系统,其特征在于,“将所述第一权重参数与预设角色表情库的各基础表情进行对应,确定出所述面部表情对应的基础表情组合”,包括:
利用预设的表情权重计算程序计算所述角色表情库中的各基础表情的角色表情权重参数,并记为第二权重参数;
将所述第一权重参数与所述第二权重参数进行映射,根据映射结果,确定出与所述面部表情对应的第二权重参数;
根据所述第二权重参数与所述角色表情库中的各基础表情的对应关系,确定所述面部表情对应的所述角色表情库中的基础表情组合。
10.根据权利要求9所述的基于UE引擎的无标记表演捕捉系统,其特征在于,“将所述第一权重参数与所述第二权重参数进行映射,根据映射结果,确定出与所述面部表情对应的第二权重参数”,包括:
将所述UE图形程序中第一权重参数的数目与所述角色表情库中基础表情的数目比较;
如果数目相同,选取与所述第一权重参数序号一致的第二权重参数作为所述面部表情对应的第二权重参数;
如果所述UE图形程序中第一权重参数的数目小于所述角色表情库中基础表情的数目,则根据第一权重参数的数目,从所述角色基础表情库中选取相同数目的基础表情作为表情子集,计算所述表情子集中各基础表情的角色表情权重参数,并记为新的第二权重参数,选取与所述第一权重参数序号一致的新的所述第二权重参数作为所述面部表情对应的第二权重参数;
否则,选取与所述第一权重参数的差值最小的第二权重参数作为所述面部表情对应的第二权重参数。
CN201810217894.8A 2018-03-16 2018-03-16 基于ue引擎的无标记表演捕捉系统 Pending CN108564642A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810217894.8A CN108564642A (zh) 2018-03-16 2018-03-16 基于ue引擎的无标记表演捕捉系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810217894.8A CN108564642A (zh) 2018-03-16 2018-03-16 基于ue引擎的无标记表演捕捉系统

Publications (1)

Publication Number Publication Date
CN108564642A true CN108564642A (zh) 2018-09-21

Family

ID=63531818

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810217894.8A Pending CN108564642A (zh) 2018-03-16 2018-03-16 基于ue引擎的无标记表演捕捉系统

Country Status (1)

Country Link
CN (1) CN108564642A (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109859297A (zh) * 2019-03-07 2019-06-07 灵然创智(天津)动画科技发展有限公司 一种无标记点面部捕捉装置及方法
CN110189404A (zh) * 2019-05-31 2019-08-30 重庆大学 基于真实人脸图像的虚拟面部建模方法
CN110213521A (zh) * 2019-05-22 2019-09-06 创易汇(北京)科技有限公司 一种虚拟即时通信方法
CN110517337A (zh) * 2019-08-29 2019-11-29 成都数字天空科技有限公司 动画角色表情生成方法、动画制作方法及电子设备
CN110570498A (zh) * 2019-08-30 2019-12-13 常熟理工学院 一种影视动画轨迹跟踪捕捉系统
WO2020063009A1 (zh) * 2018-09-25 2020-04-02 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN111399662A (zh) * 2020-06-04 2020-07-10 之江实验室 基于高真实感虚拟化身的人与机器人交互仿真装置及方法
CN111488861A (zh) * 2020-05-13 2020-08-04 吉林建筑大学 基于多特征值融合的滑雪运动员姿态识别系统
CN111968207A (zh) * 2020-09-25 2020-11-20 魔珐(上海)信息科技有限公司 动画生成方法、装置、系统及存储介质
CN112308910A (zh) * 2020-10-10 2021-02-02 达闼机器人有限公司 一种数据生成方法、装置及存储介质
CN113421286A (zh) * 2021-07-12 2021-09-21 北京未来天远科技开发有限公司 一种动作捕捉系统及方法
CN113781611A (zh) * 2021-08-25 2021-12-10 北京壳木软件有限责任公司 一种动画制作方法、装置、电子设备及存储介质
CN115914660A (zh) * 2022-08-24 2023-04-04 北京一目视界科技有限公司 一种元宇宙和直播中数字人的动作和面部表情的控制方法
CN117315201A (zh) * 2022-06-20 2023-12-29 香港教育大学 用于在虚拟世界中动画化化身的系统

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104978764A (zh) * 2014-04-10 2015-10-14 华为技术有限公司 三维人脸网格模型处理方法和设备
CN105654537A (zh) * 2015-12-30 2016-06-08 中国科学院自动化研究所 一种实现与虚拟角色实时互动的表情克隆方法及装置
CN106228119A (zh) * 2016-07-13 2016-12-14 天远三维(天津)科技有限公司 一种表情捕捉及动画自动生成系统和方法
CN106373142A (zh) * 2016-12-07 2017-02-01 西安蒜泥电子科技有限责任公司 虚拟人现场互动表演系统及方法
US20170039750A1 (en) * 2015-03-27 2017-02-09 Intel Corporation Avatar facial expression and/or speech driven animations
CN106778563A (zh) * 2016-12-02 2017-05-31 江苏大学 一种基于空间连贯特征的快速任意姿态人脸表情识别方法
WO2017115937A1 (ko) * 2015-12-30 2017-07-06 단국대학교 산학협력단 가중치 보간 맵을 이용한 표정 합성 장치 및 방법
US20170256098A1 (en) * 2016-03-02 2017-09-07 Adobe Systems Incorporated Three Dimensional Facial Expression Generation
CN107277599A (zh) * 2017-05-31 2017-10-20 珠海金山网络游戏科技有限公司 一种虚拟现实的直播方法、装置和系统
CN107563295A (zh) * 2017-08-03 2018-01-09 中国科学院自动化研究所 基于多Kinect的全方位人体追踪方法及处理设备
CN107577451A (zh) * 2017-08-03 2018-01-12 中国科学院自动化研究所 多Kinect人体骨架坐标变换方法及处理设备、可读存储介质

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104978764A (zh) * 2014-04-10 2015-10-14 华为技术有限公司 三维人脸网格模型处理方法和设备
US20170039750A1 (en) * 2015-03-27 2017-02-09 Intel Corporation Avatar facial expression and/or speech driven animations
CN105654537A (zh) * 2015-12-30 2016-06-08 中国科学院自动化研究所 一种实现与虚拟角色实时互动的表情克隆方法及装置
WO2017115937A1 (ko) * 2015-12-30 2017-07-06 단국대학교 산학협력단 가중치 보간 맵을 이용한 표정 합성 장치 및 방법
US20170256098A1 (en) * 2016-03-02 2017-09-07 Adobe Systems Incorporated Three Dimensional Facial Expression Generation
CN106228119A (zh) * 2016-07-13 2016-12-14 天远三维(天津)科技有限公司 一种表情捕捉及动画自动生成系统和方法
CN106778563A (zh) * 2016-12-02 2017-05-31 江苏大学 一种基于空间连贯特征的快速任意姿态人脸表情识别方法
CN106373142A (zh) * 2016-12-07 2017-02-01 西安蒜泥电子科技有限责任公司 虚拟人现场互动表演系统及方法
CN107277599A (zh) * 2017-05-31 2017-10-20 珠海金山网络游戏科技有限公司 一种虚拟现实的直播方法、装置和系统
CN107563295A (zh) * 2017-08-03 2018-01-09 中国科学院自动化研究所 基于多Kinect的全方位人体追踪方法及处理设备
CN107577451A (zh) * 2017-08-03 2018-01-12 中国科学院自动化研究所 多Kinect人体骨架坐标变换方法及处理设备、可读存储介质

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020063009A1 (zh) * 2018-09-25 2020-04-02 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN109859297A (zh) * 2019-03-07 2019-06-07 灵然创智(天津)动画科技发展有限公司 一种无标记点面部捕捉装置及方法
CN110213521A (zh) * 2019-05-22 2019-09-06 创易汇(北京)科技有限公司 一种虚拟即时通信方法
CN110189404B (zh) * 2019-05-31 2023-04-07 重庆大学 基于真实人脸图像的虚拟面部建模方法
CN110189404A (zh) * 2019-05-31 2019-08-30 重庆大学 基于真实人脸图像的虚拟面部建模方法
CN110517337A (zh) * 2019-08-29 2019-11-29 成都数字天空科技有限公司 动画角色表情生成方法、动画制作方法及电子设备
CN110570498A (zh) * 2019-08-30 2019-12-13 常熟理工学院 一种影视动画轨迹跟踪捕捉系统
CN111488861A (zh) * 2020-05-13 2020-08-04 吉林建筑大学 基于多特征值融合的滑雪运动员姿态识别系统
CN111399662A (zh) * 2020-06-04 2020-07-10 之江实验室 基于高真实感虚拟化身的人与机器人交互仿真装置及方法
CN111399662B (zh) * 2020-06-04 2020-09-29 之江实验室 基于高真实感虚拟化身的人与机器人交互仿真装置及方法
CN111968207B (zh) * 2020-09-25 2021-10-29 魔珐(上海)信息科技有限公司 动画生成方法、装置、系统及存储介质
CN111968207A (zh) * 2020-09-25 2020-11-20 魔珐(上海)信息科技有限公司 动画生成方法、装置、系统及存储介质
US11893670B2 (en) 2020-09-25 2024-02-06 Mofa (Shanghai) Information Technology Co., Ltd. Animation generation method, apparatus and system, and storage medium
CN112308910A (zh) * 2020-10-10 2021-02-02 达闼机器人有限公司 一种数据生成方法、装置及存储介质
CN112308910B (zh) * 2020-10-10 2024-04-05 达闼机器人股份有限公司 一种数据生成方法、装置及存储介质
CN113421286A (zh) * 2021-07-12 2021-09-21 北京未来天远科技开发有限公司 一种动作捕捉系统及方法
CN113421286B (zh) * 2021-07-12 2024-01-02 北京未来天远科技开发有限公司 一种动作捕捉系统及方法
CN113781611A (zh) * 2021-08-25 2021-12-10 北京壳木软件有限责任公司 一种动画制作方法、装置、电子设备及存储介质
CN113781611B (zh) * 2021-08-25 2024-06-25 北京壳木软件有限责任公司 一种动画制作方法、装置、电子设备及存储介质
CN117315201A (zh) * 2022-06-20 2023-12-29 香港教育大学 用于在虚拟世界中动画化化身的系统
CN115914660A (zh) * 2022-08-24 2023-04-04 北京一目视界科技有限公司 一种元宇宙和直播中数字人的动作和面部表情的控制方法

Similar Documents

Publication Publication Date Title
JP7811695B2 (ja) クラウド支援型の新しい視点を利用したローカルマップデータの生成
CN108564643B (zh) 基于ue引擎的表演捕捉系统
JP4489825B2 (ja) ジェスチャ入力システム、方法及びプログラム
EP3477543A1 (en) System and method using augmented reality for efficient collection of training data for machine learning
Lee et al. Mocap everyone everywhere: Lightweight motion capture with smartwatches and a head-mounted camera
US8724849B2 (en) Information processing device, information processing method, program, and information storage medium
CN108572731A (zh) 基于多Kinect和UE4的动捕数据表现方法及装置
WO2023185241A1 (zh) 数据处理方法、装置、设备以及介质
CN107563295A (zh) 基于多Kinect的全方位人体追踪方法及处理设备
JPWO2006049147A1 (ja) 三次元形状推定システム及び画像生成システム
CN111489392B (zh) 多人环境下单个目标人体运动姿态捕捉方法及系统
CN114327072A (zh) 真实人物和mr虚拟环境中虚拟物体的动作触发交互方法
Hori et al. Silhouette-based 3d human pose estimation using a single wrist-mounted 360 camera
Hori et al. Silhouette-based synthetic data generation for 3D human pose estimation with a single wrist-mounted 360° camera
CN105225270B (zh) 一种信息处理方法及电子设备
CN112215928B (zh) 基于视觉图像的动作捕捉方法及数字动画制作方法
CN109215128B (zh) 物体运动姿态图像的合成方法及系统
CN115914660A (zh) 一种元宇宙和直播中数字人的动作和面部表情的控制方法
CN117352126A (zh) 肌肉受力可视化方法、装置、计算机设备以及存储介质
CN116485953A (zh) 数据处理方法、装置、设备和可读存储介质
JP7704404B2 (ja) マップ情報生成装置、位置特定装置、マップ情報生成方法、位置特定方法、プログラム及び記録媒体
KR20150061549A (ko) 하이브리드 카메라 기반 동작 추적 장치 및 그 방법
HK40090184A (zh) 数据处理方法、装置、设备和可读存储介质
Dong Three-Dimensional Animation Capture Driver Technology for Digital Media.
Ma et al. Design of Human Motion Capture Algorithm Based on Vision Inertial Fusion

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20180921

RJ01 Rejection of invention patent application after publication