JP5659228B2 - キャラクタ生成システム、キャラクタ生成方法及びプログラム - Google Patents

キャラクタ生成システム、キャラクタ生成方法及びプログラム Download PDF

Info

Publication number
JP5659228B2
JP5659228B2 JP2012519193A JP2012519193A JP5659228B2 JP 5659228 B2 JP5659228 B2 JP 5659228B2 JP 2012519193 A JP2012519193 A JP 2012519193A JP 2012519193 A JP2012519193 A JP 2012519193A JP 5659228 B2 JP5659228 B2 JP 5659228B2
Authority
JP
Japan
Prior art keywords
face
information
captured image
texture
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012519193A
Other languages
English (en)
Other versions
JPWO2011155067A1 (ja
Inventor
正夫 桑原
正夫 桑原
奈生人 小湊
奈生人 小湊
悠葵 渡辺
悠葵 渡辺
和満 盛山
和満 盛山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Altron Corp
Original Assignee
Altron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Altron Corp filed Critical Altron Corp
Publication of JPWO2011155067A1 publication Critical patent/JPWO2011155067A1/ja
Application granted granted Critical
Publication of JP5659228B2 publication Critical patent/JP5659228B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00Three-dimensional [3D] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00Two-dimensional [2D] image generation
    • G06T11/10Texturing; Colouring; Generation of textures or colours

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Description

本発明は、コンピュータを用いて実現される仮想空間内のキャラクタを生成するキャラクタ生成システム、キャラクタ生成方法及びプログラムに関する。特に、携帯ゲーム装置を用いて実現される仮想空間内のキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成システム、キャラクタ生成方法及びプログラムに関する。
従来、携帯ゲーム装置等のコンピュータを用いて実現されるゲーム等の仮想空間において表示される登場キャラクタは、予め用意された複数のキャラクタの中からユーザが所望のキャラクタを選択し、選択したキャラクタを登場キャラクタとして、仮想空間に表示させていた。
また、仮想空間において表示される登場キャラクタに対して、デジタルカメラ等で撮影されたユーザの思い入れのある撮像画像を貼り付ける画像処理装置や画像処理方法も提案されている。例えば、特許文献1では、2次元画像情報を取り込み、仮想3次元物体の特徴位置に対応して設けられているゲージを備えた切り抜き範囲指定用の枠を使って、該2次元画像情報から、所定範囲の2次元画像情報を切り出し、切り出した2次元画像情報を仮想3次元物体に貼り付ける画像処理装置や画像処理方法が開示されている。
特開2000−235656号公報
しかしながら、特許文献1に開示されているようにデジタルカメラ等で撮影された2次元画像情報から顔部分の2次元画像情報(顔撮像画像情報)を切り出して、仮想3次元物体(頭部形状モデル)に貼り付ける場合に、切り出す顔撮像画像情報の範囲を大きくすると、顔の輪郭部付近にできる影が肌の色と認識されてしまい、頭部形状モデルに貼り付けたときの横顔の不適当な位置に影ができた視覚的に違和感のある頭部形状モデルが生成されてしまうという問題があった。
また、顔の輪郭部付近にできる影が入らないように、切り出す顔撮像画像情報の範囲を顔の輪郭部よりも小さくすると、顔の輪郭部付近に肌の色の無い部分(空白部)ができてしまう。この空白部を、切り取られた顔撮像画像情報の部分の肌の色と、視覚的に違和感が無いように塗りつぶすことは、容易ではなかった。
本発明は、以上のような問題点を解決するためになされたもので、携帯ゲーム装置等のコンピュータを用いて実現される仮想空間内のキャラクタの顔として、デジタルカメラ等で撮影された対象物の顔撮像画像情報に基づいた、肌の色、顔輪郭等において視覚的に違和感の無い顔を容易に生成することが可能なキャラクタ生成システム、キャラクタ生成方法及びプログラムを提供することを目的とする。
上述した従来の問題点を解決すべく下記の発明を提供する。
本発明の第1の態様にかかるキャラクタ生成システムは、コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成システムであって、前記コンピュータが、前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する撮像画像取得手段と、前記顔用テクスチャの前記画像貼付領域の情報を、前記撮像画像取得手段によって取得した前記対象物の前記顔撮像画像情報に置き換え、前記顔用テクスチャの全領域と前記画像貼付領域との差分領域を、所望の色情報で塗りつぶすとともに、前記所望の色情報に基づいて選別した前記画像貼付領域内の画素を、前記所望の色情報に置き換えて、前記差分領域と前記画像貼付領域との間の視覚的な境界を無くした前記顔用テクスチャを生成するテクスチャ生成手段と、前記テクスチャ生成手段によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付けるテクスチャ貼付手段と、を備えていることを特徴とする。
本発明の第2の態様にかかるキャラクタ生成システムは、本発明の第1の態様にかかるキャラクタ生成システムにおいて、前記テクスチャ生成手段は、前記所望の色情報の輝度に基づいて、前記画像貼付領域内の当該輝度以上の画素を選別し、選別した前記画素の色情報を前記所望の色情報に置き換えることを特徴とする。
本発明の第3の態様にかかるキャラクタ生成システムは、本発明の第1または2の態様にかかるキャラクタ生成システムにおいて、前記所望の色情報は、前記顔撮像画像情報の所望位置の色情報であることを特徴とする。
本発明の第4の態様にかかるキャラクタ生成システムは、コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成システムであって、前記コンピュータが、前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する撮像画像取得手段と、前記撮像画像取得手段によって取得した前記対象物の前記顔撮像画像情報を、前記顔用テクスチャの全領域に嵌め込み、前記顔用テクスチャの輪郭部近傍の所定の補正領域内の全ての画素をそれぞれ対象画素としたとき、前記各対象画素の色情報を、当該対象画素に連続する所定範囲内の当該対象画素以外の前記画素の色情報に基づいてそれぞれ算出し、当該対象画素の色情報を算出した色情報に置き換えた前記顔用テクスチャを生成するテクスチャ生成手段と、前記テクスチャ生成手段によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付けるテクスチャ貼付手段と、を備えており、
前記補正領域は、前記顔用テクスチャの上側輪郭部近傍及び下側輪郭部近傍に設定された第1補正領域と、前記顔用テクスチャのどちらか一方の側面輪郭部近傍に設定された第2補正領域と、前記第2補正領域と反対の側面輪郭部近傍に設定された第3補正領域とからなり、
前記テクスチャ生成手段は、
前記補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素を囲む所定範囲内の当該対象画素以外の全ての前記画素の色情報の平均値を算出した第1補正色情報を、当該対象画素の色情報として設定する第1補正手段と、
前記第2補正領域内及び前記第3補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素から側面輪郭部方向へ連続する当該対象画素以外の所定個数の前記画素の前記第1補正色情報の平均値を算出した第2補正色情報を、当該対象画素の色情報として設定する第2補正手段と、
を備えていることを特徴とする。
本発明の第の態様にかかるキャラクタ生成システムは、本発明の第1乃至のいずれか1つの態様にかかるキャラクタ生成システムにおいて、前記コンピュータが、前記表示部を制御して、所定の顔部品の配置を示す複数の顔配置ガイド情報と前記対象物を前記表示部に表示させる表示制御手段と、撮像部を制御して、前記対象物を撮像させ、前記対象物の前記撮像画像情報を前記所定の記憶部に格納させる撮像制御手段と、を更に備え、前記撮像画像取得手段は、前記表示制御手段と前記撮像制御手段とを連動させて、前記複数の顔配置ガイド情報と前記対象物とを前記表示部に表示させながら、前記複数の顔配置ガイド情報の中から選択された、前記対象物の顔の合った選択顔配置ガイド情報に基づいて前記対象物を撮像させ、前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、前記所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する。
本発明の第の態様にかかるキャラクタ生成システムは、本発明の第の態様にかかるキャラクタ生成システムにおいて、前記撮像画像取得手段は、前記撮像制御手段によって撮像した前記対象物の前記撮像画像情報が明るい前記撮像画像情報となるように、前記対象物の撮影環境に基づいて、ホワイトバランス及び露出を前記撮像制御手段に調整させることを特徴する。
本発明の第の態様にかかるキャラクタ生成システムは、本発明の第1乃至のいずれか1つの態様にかかるキャラクタ生成システムにおいて、前記コンピュータが、入力部を制御して、前記対象物の前記撮像画像情報を含む各種情報を入力情報として入力させ、前記対象物の前記撮像画像情報を前記所定の記憶部に格納させる入力制御手段を更に備え、前記撮像画像取得手段は、前記表示制御手段と前記入力制御手段とを連動させて、前記複数の顔配置ガイド情報と入力された前記対象物の前記撮像画像情報とを前記表示部に表示させながら、前記複数の顔配置ガイド情報に中から選択された前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、前記所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する。
本発明の第の態様にかかるキャラクタ生成システムは、本発明の第5乃至7のいずれか1つの態様にかかるキャラクタ生成システムにおいて、前記顔部品は、目、鼻、口及び顔輪郭を少なくとも含んでいることを特徴とする。
本発明の第1の態様にかかるキャラクタ生成方法は、コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成方法であって、前記コンピュータが、(a)前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する工程と、(b)前記顔用テクスチャの前記画像貼付領域の情報を、前記工程(a)によって取得した前記対象物の前記顔撮像画像情報に置き換え、前記顔用テクスチャの全領域と前記画像貼付領域との差分領域を、所望の色情報で塗りつぶすとともに、前記所望の色情報に基づいて選別した前記画像貼付領域内の画素を、前記所望の色情報に置き換えて、前記差分領域と前記画像貼付領域との間の視覚的な境界を無くした前記顔用テクスチャを生成する工程と、(c)前記工程(b)によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付ける工程と、を備えていることを特徴とする。
本発明の第2の態様にかかるキャラクタ生成方法は、本発明の第1の態様にかかるキャラクタ生成方法において、前記工程(b)は、前記所望の色情報の輝度に基づいて、前記画像貼付領域内の当該輝度以上の画素を選別し、選別した前記画素の色情報を前記所望の色情報に置き換えることを特徴とする。
本発明の第3の態様にかかるキャラクタ生成方法は、本発明の第1または2の態様にかかるキャラクタ生成方法において、前記所望の色情報は、前記顔撮像画像情報の所望位置の色情報であることを特徴とする。
本発明の第4の態様にかかるキャラクタ生成方法は、コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成方法であって、前記コンピュータが、(a)前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する工程と、(b)前記工程(a)によって取得した前記対象物の前記顔撮像画像情報を、前記顔用テクスチャの全領域に嵌め込み、前記顔用テクスチャの輪郭部近傍の所定の補正領域内の全ての画素に対して、各前記画素を記対象画素としたとき、前記対象画素に連続する所定範囲内の当該対象画素以外の前記画素の色情報に基づいて、当該対象画素の色情報を算出し、当該対象画素の色情報を算出した色情報に置き換えた前記顔用テクスチャを生成する工程と、(c)前記工程(b)によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付ける工程と、を備えており、
前記補正領域は、前記顔用テクスチャの上側輪郭部近傍及び下側輪郭部近傍に設定された第1補正領域と、前記顔用テクスチャのどちらか一方の側面輪郭部近傍に設定された第2補正領域と、前記第2補正領域と反対の側面輪郭部近傍に設定された第3補正領域とからなり、
前記工程(b)は、
(b1)前記補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素を囲む所定範囲内の当該対象画素以外の全ての前記画素の色情報の平均値を算出した第1補正色情報を、当該対象画素の色情報として設定する工程と、
(b2)前記第2補正領域内及び前記第3補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素から側面輪郭部方向へ連続する当該対象画素以外の所定個数の前記画素の前記第1補正色情報の平均値を算出した第2補正色情報を、当該対象画素の色情報として設定する工程と、
を備えていることを特徴とする。
本発明の第の態様にかかるキャラクタ生成方法は、本発明の第1乃至のいずれか1つの態様にかかるキャラクタ生成方法において、前記コンピュータが、(d)所定の顔部品の配置を示す複数の顔配置ガイド情報と前記対象物とを前記表示部に表示させながら、前記複数の顔配置ガイド情報の中から選択された、前記対象物の顔の合った選択顔配置ガイド情報に基づいて前記対象物を撮像し、前記対象物の前記撮像画像情報を前記所定の記憶部に格納する工程を、前記(a)の前に更に備え、前記工程(a)は、前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、前記所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する。
本発明の第の態様にかかるキャラクタ生成方法は、本発明の第の態様にかかるキャラクタ生成方法において、前記工程(d)は、撮像した前記対象物の前記撮像画像情報が明るい前記撮像画像情報となるように、前記対象物の撮影環境に基づいて、ホワイトバランス及び露出を調整することを特徴する。
本発明の第の態様にかかるキャラクタ生成方法は、本発明の第1乃至のいずれか1つの態様にかかるキャラクタ生成方法において、前記コンピュータが、(e)前記対象物の前記撮像画像情報を入力して、前記所定の記憶部に格納する工程を、前記(a)の前に更に備え、前記工程(a)は、所定の顔部品の配置を示す複数の顔配置ガイド情報と、前記工程(e)によって入力された前記対象物の前記撮像画像情報とを前記表示部に表示させながら、前記複数の顔配置ガイド情報に中から選択された前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する。
本発明の第の態様にかかるキャラクタ生成方法は、本発明の第5乃至7のいずれか1つの態様にかかるキャラクタ生成方法において、前記顔部品が、目、鼻、口及び顔輪郭を少なくとも含んでいることを特徴とする。
本発明の第1の態様にかかるプログラムは、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するための処理を、コンピュータに実行させるプログラムであって、本発明の第1乃至第のいずれか1つの態様にかかるキャラクタ生成システムの各手段を実現させる処理を前記コンピュータに実行させることを特徴とする。



本発明によれば、携帯ゲーム装置等のコンピュータを用いて実現される仮想空間内のキャラクタの顔として、デジタルカメラ等で撮影された対象物の顔撮像画像情報に基づいた、肌の色、顔輪郭等において視覚的に違和感の無い顔を容易に生成することができる。また、ゲーム等の仮想空間内に登場するキャラクタの顔を、ユーザの顔撮像画像情報に基づいて生成することにより、該キャラクタに対してユーザがより感情移入をすることができ、より娯楽性の高いゲームソフトウェアを構築することができる。
本発明の第1の実施形態にかかるキャラクタ生成システムによって生成されたキャラクタの一例を示した図である。 本発明の第1の実施形態に係るにかかるキャラクタ生成システムを実行させる携帯ゲーム装置の概略構成を示す図である。 顔配置ガイド情報が表示された表示画面の一例である。 本発明の第1の実施形態にかかるキャラクタ生成システムにおけるシステム構成の一例を示す図である。 (a)、(b)、(c)は、異なる顔配置ガイド情報を示した図である。 顔用テクスチャ53の画像貼付領域51を説明するための図である 顔用テクスチャ53の画像貼付領域51の情報を顔撮像画像情報に置き換えた状態を示した図である。 差分領域52と画像貼付領域51との間に視覚的境界が無いように肌の色を調整した顔用テクスチャ53を示した図である。 (a)は、顔用テクスチャ53を貼り付ける前の頭部形状モデル60の状態を示す図であり、(b)は、顔用テクスチャ53を貼り付けた後の頭部形状モデル60の状態を示す図である。 本発明の第1の実施形態にかかるキャラクタ生成方法の各工程をコンピュータに実行させるプログラムの処理手順を示すフローチャート図の一例である。 本発明の第2の実施形態にかかるキャラクタ生成システムにおけるシステム構成の一例を示す図である。 テクスチャ生成部115における補正処理を行う顔用テクスチャ53の領域を説明するための図である 第1補正部121で実施される第1補正処理を説明するための図である。 (a)は第2補正部122で実施される第2補正領域56に対する第2補正処理を説明するための図で、(b)は第2補正部122で実施される第3補正領域57に対する第2補正処理を説明するための図である。 本発明の第2の実施形態にかかるキャラクタ生成方法の各工程をコンピュータに実行させるプログラムの処理手順を示すフローチャート図の一例である。
本発明の一実施形態を、図面を参照しながら説明する。なお、以下に説明する実施形態は説明のためのものであり、本発明の範囲を制限するものではない。従って、当業者であればこれらの各要素もしくは全要素をこれと均等なもので置換した実施形態を採用することが可能であるが、これらの実施形態も本発明の範囲に含まれる。
本発明の第1の実施形態にかかるキャラクタ生成システム10は、コンピュータ上で動作するゲーム等のソフトウェアによって実現される仮想空間において、該仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物(例えば、ユーザ自身)の顔撮像画像情報に基づいて生成するキャラクタ生成システムである。図1は、本発明の第1の実施形態にかかるキャラクタ生成システム10によって生成された、携帯ゲーム装置上で動作するゲームソフトウェアによって実現される仮想空間内のキャラクタ70の一例を示したものである。
ここで、対象物の顔撮像画像情報とは、デジタルカメラ等を用いて撮像された人物の撮像画像情報における顔部分の撮像画像情報であり、コンピュータに接続された、あるいは内蔵された撮像部を使用して、撮像部から直接取得した撮像画像情報であっても、コンピュータに接続された入力部から入力された、過去に撮像された撮像画像情報であっても良い。また、一枚の撮像画像情報を部分的に修正したり、複数の撮像画像を合成したりして、一枚の顔撮像画像情報にした画像情報であっても良い。
まず、本発明の第1の実施形態にかかるキャラクタ生成システム10を実行させるコンピュータの概略構成について説明する。尚、本実施形態においては、コンピュータとして、携帯ゲーム装置20を例に挙げて説明する。
図2は、本発明の第1の実施形態にかかるキャラクタ生成システム10を実行させる携帯ゲーム装置20の概略構成を示す図である。図2に示すように、携帯ゲーム装置20は、CPU(中央処理装置)21、ROM22、RAM23、表示部24、撮像部25、入力部26を備えている。
CPU21は、携帯ゲーム装置20で実行させるキャラクタ生成システム10を実現するためのソフトウェアおよびデータを記憶しているROM22から、必要な情報を読み出し、実行することにより、キャラクタ生成システム10を実現する。また、RAM23は、携帯ゲーム装置20で実行させるキャラクタ生成システム10を実現するために必要なデータの記憶装置及びソフトウェアの実行作業領域として機能する。
また、表示部24は、CPU21からの命令に従って表示情報(例えば、ユーザに作業を促すための情報、顔配置ガイド情報等)を出力する。ここで、顔配置ガイド情報とは、被写体の撮像画像情報において、キャラクタ70の顔部分となる顔撮像画像情報を取り出すための位置基準及び範囲を設定するため情報で、所定の顔部品の配置を示す表示情報である。また、顔部品とは、顔を構成する目、鼻、口、顔輪郭、眉等の部品であり、少なくとも目、鼻、口及び顔輪郭を含んでいる。図3は、顔配置ガイド情報が表示された表示画面の一例である。図3に示すように、顔配置ガイド情報は、目の位置31、鼻の位置32、口の位置33、顔の輪郭34を示している。また、顔の輪郭34は、顔撮像画像情報を貼り付けるキャラクタ70の顔正面部分の大きさを示す。
また、撮像部25は、CPU21からの命令に従って被写体を撮像し、撮像した被写体の撮像画像情報をRAM23に記憶する。また、入力部26は、例えば、操作ボタン、通信装置、外部記憶装置等であり、CPU21からの命令に従って入力情報(例えば、ユーザによって操作された操作ボタンの情報、撮像画像情報等)を入力して、RAM23に記憶する。
次に、本発明の第1の実施形態にかかるキャラクタ生成システム10におけるシステム構成について説明する。図4は、本発明の第1の実施形態にかかるキャラクタ生成システム10におけるシステム構成の一例を示す図である。
図4に示すように、キャラクタ生成システム10は、表示制御部11、撮像制御部12、入力制御部13、撮像画像情報取得部14、テクスチャ生成部15、テクスチャ貼付部16、キャラクタ情報記憶部17、及びガイド情報記憶部18を備えている。
表示制御部11は、表示部24を制御して、所定の顔部品の配置を示す顔配置ガイド情報、ユーザに作業を促すための情報等の必要な情報をガイド情報記憶部18から取り出させ、取り出させた情報から表示情報を生成させ表示させる。尚、表示制御部11は、上述した制御に限らず、表示部24の全ての処理を制御する。また、撮像制御部12は、撮像部25を制御して被写体を撮像させ、撮像した被写体の撮像画像情報をキャラクタ情報記憶部17に記憶させる。また、入力制御部13は、対応する入力部26を制御して様々な入力情報(例えば、過去に撮像した撮像画像情報等)を入力させ、必要な情報をキャラクタ情報記憶部17に記憶させる。ここで、被写体の撮像画像情報をキャラクタ情報記憶部17に記憶させると記載しているが、一時的な記憶部に記憶させても良い。
撮像画像情報取得部14は、表示制御部11と撮像制御部12とを連動させて、所定の顔部品の配置を示す複数の顔配置ガイド情報と対象物(被写体)とを表示部24に表示させて、複数の顔配置ガイド情報の中から最も被写体に合った顔配置ガイド情報(以下、選択顔配置ガイド情報と呼ぶ)をユーザに選択させ、選択顔配置ガイド情報の顔部品の配置に合うように被写体の顔を撮像させる(図3参照)。図5は、異なる顔配置ガイド情報を示した例であり、(a)は顔輪郭が楕円形に似ている場合の顔配置ガイド情報を、(b)は顔輪郭が長方形に似ている場合の顔配置ガイド情報を、(c)は正方形に似ている場合の顔配置ガイド情報を示している。選択顔配置ガイド情報とは、図5に示したような複数の顔配置ガイド情報の中からユーザによって選択された顔配置ガイド情報、例えば、図5(b)の顔配置ガイド情報である。
また、撮像画像情報取得部14は、キャラクタ70における顔用テクスチャ53の画像貼付領域51に対応する顔撮像画像情報を、撮像した被写体の撮像画像情報から取得する。図6は、顔用テクスチャ53の画像貼付領域51を説明するための図である。図6に示すように、キャラクタ70の頭部形状モデル60(図9(a)及び(b)参照)に貼り付ける頭部テクスチャ50は、顔用テクスチャ53と余白部54とから構成され、更に、顔用テクスチャ53は、画像貼付領域51と差分領域52とから構成されている。画像貼付領域51は、撮像画像情報取得部14によって取得される顔撮像画像情報が嵌め込まれる領域である。また、図6からわかるように、画像貼付領域51は、顔用テクスチャ53の全領域よりも小さい部分領域である。これは、顔部分を正面から撮像した撮像画像の顔輪郭部近傍にできる影を肌の色と認識させないためのもので、影の無い領域の撮像画像を取り出すためである。顔用テクスチャ53の画像貼付領域51以外の領域が差分領域52である。尚、画像貼付領域51の大きさが、上述の顔配置ガイド情報の顔の輪郭34の大きさに対応する。
また、上述した顔撮像画像情報は、撮像部25によって撮像された被写体の撮像画像情報から取得したものであるが、入力部26から入力された被写体の撮撮像画像情報から取得したものであっても良い。即ち、撮像画像情報取得部14は、表示制御部11と入力制御部13とを連動させて、所定の顔部品の配置を示す複数の顔配置ガイド情報と被写体の撮撮像画像情報とを表示部24に表示させながら、複数の顔配置ガイド情報の中から選択顔配置ガイド情報をユーザに選択させ、更に、選択顔配置ガイド情報の顔部品の配置と被写体の撮撮像画像情報の中の顔部品の配置とを相対的に合わせながら、選択顔配置ガイド情報に合わせた顔撮撮像画像情を取得する。
また、被写体の撮影環境(例えば、晴天の屋外、曇天の屋外、屋内、使用されている照明の種類等)に基づいて、ホワイトバランス及び露出を撮像制御部12に調整させて、被写体のより明るい撮像画像情報を撮像させるのが望ましい。特に、携帯ゲーム装置20の場合、ユーザが携帯ゲーム装置20を持ち歩いて、様々な撮影環境で、被写体を撮像することから、ホワイトバランス及び露出を調整して撮像画像情報を撮像させることが重要である。これにより、後述する画像貼付領域51内の置換領域の選別基準として輝度を使用するときに、肌の色を明るくして、目、眉、口等と肌の色とのコントラストをはっきりさせるのに有効となる。図3に示すように、表示部位35及び表示部位36に、ホワイトバランスの調整状態及び露出の調整状態を示している。尚、ホワイトバランス及び露出の調整は、被写体の撮影環境に基づいて、ホワイトバランス及び露出を自動的に撮像制御部12に調整させるようにしても良いし、ユーザに撮影環境における所望のホワイトバランスの状態及び露出の状態を選択させ、選択した状態に基づいて、ホワイトバランス及び露出を撮像制御部12に調整させるようにしても良い。
テクスチャ生成部15は、撮像画像情報取得部14によって取得された顔撮像画像情報を顔用テクスチャ53の画像貼付領域51に嵌め込む。即ち、画像貼付領域51の画像情報を顔撮像画像情報に置き換える。図7は、顔用テクスチャ53の画像貼付領域51の情報を顔撮像画像情報に置き換えた状態を示した図である。尚、顔撮像画像情報と顔用テクスチャ53とのデータフォーマットが異なる場合は、顔撮像画像情報を顔用テクスチャ53のデータフォーマットに変換してから置き換える。
また、テクスチャ生成部15は、表示制御部11と入力制御部13とを連動させて、差分領域52の色情報を所望の色に設定する。差分領域52の色情報としては、顔撮像画像情報が嵌め込まれた画像貼付領域51の一部分を設定することができる。即ち、顔撮像画像情報の任意の位置の肌の色を、差分領域52の色情報として設定することができる。また、携帯ゲーム装置20のペイント機能(図示せず)を用いて色を合成し、合成した色情報を設定することもできる。ここで、色情報とは、RGB、YUV等で表される色の情報である。
テクスチャ生成部15は、設定された色情報で差分領域52を全て塗りつぶす。即ち、差分領域52の全ての画素の色情報を設定された色情報にする。また、余白部54の部分も、設定された色情報にする。これにより、差分領域52及び余白部54が同じ色情報に設定される。
また、テクスチャ生成部15は、差分領域52の色情報に基づいて、画像貼付領域51内の画素を選別し、選別した画素を設定された色情報(差分領域52の色情報)に置き換える。画像貼付領域51内の画素は、例えば、設定された色情報(差分領域52の色情報)の輝度(L0)を閾値とし、L0以上の輝度となる画像貼付領域51内の画素を、設定された色情報(差分領域52の色情報)に置き換える対象の画素(以下、置換対象画素と呼ぶ)とする。この置換対象画素を設定された色情報(差分領域52の色情報)に置き換えることにより、差分領域52と画像貼付領域51との間に視覚的な境界が無いように肌の色を調整することができる。一方、目、眉、口等の顔部品や、鼻の高さ等を示す影、黒子等の本人を特徴付ける物等の、輝度の小さい色は変化させない。
尚、置換対象画素を選別する基準として、輝度を例に挙げたが、これに限るものではない。しかし、容易に置換対象画素を選別でき、更に、差分領域52と画像貼付領域51との間に視覚的境界が無いように肌の色を調整することができることから、選別基準として輝度を用いることが好ましい。図8は、差分領域52と画像貼付領域51との間に視覚的境界が無いように肌の色を調整した顔用テクスチャ53を一部分とする頭部テクスチャ50を示した図である。
また、顔用テクスチャ53に、ペイント機能を使用してお化粧や、手書きのメガネ等を施すことにより、部分的な色補正をすることもできる。また、キャラクタ情報記憶部17に予め複数の顔部品を格納させておき、被写体の顔部分を所望の顔部品に置き換えることにより顔補正をすることもできる。
以上のようにして、テクスチャ生成部15は、被写体の顔撮像画像情報から顔用テクスチャ53(頭部テクスチャ50)を生成する。そして、生成した顔用テクスチャ53(頭部テクスチャ50)をキャラクタ情報記憶部17に格納する。
テクスチャ貼付部16は、キャラクタ情報記憶部17に予め格納してある頭部形状モデル60を取り出し、取り出した頭部形状モデル60に、テクスチャ生成部15によって生成された顔用テクスチャ53を一部分とする頭部テクスチャ50を貼り付ける。図9(a)は、頭部テクスチャ50を貼り付ける前の頭部形状モデル60の状態を示す図であり、(b)は、頭部テクスチャ50を貼り付けた後の頭部形状モデル60の状態を示す図である。
尚、髪型、服装、アクセサリ等に対応する部品は、ゲーム等のシチュエーションに応じて、予めキャラクタ情報記憶部17にそれぞれ複数格納されており、ユーザに所望の部品を選択させたり、既定の部品を設定したりすることもできる。また、頭部形状モデル60は、予め設定された固定の頭部形状モデルをキャラクタ情報記憶部17から取り出すようにしても、顔の輪郭34に合わせた頭部形状モデルをキャラクタ情報記憶部17に格納されている複数の頭部形状モデルの中から選択して取り出すようにしても良い。
次に、本発明の第1の実施形態にかかるキャラクタ生成システム10の起動タイミングについて説明する。
本発明の第1の実施形態にかかるキャラクタ生成システム10の起動タイミングは、例えば、ロールプレイングゲーム(RPG)の場合、該RPGを開始する前に、キャラクタ生成システム10を起動させて、該RPGを開始する前に該RPGの仮想空間内に登場する全てのキャラクタの顔を生成するだけでなく、該RPGのゲーム進行途中において、新しく仮想空間内にキャラクタが登場したときに、キャラクタ生成システム10を動作させて、登場したキャラクタの顔を生成することもできる。即ち、ユーザの所望の起動タイミングで、キャラクタ生成システム10を起動させることができる。
上述した本発明の第1の実施形態にかかるキャラクタ生成システム10により、携帯ゲーム装置20を用いて実現される仮想空間内のキャラクタ70の顔として、撮像部25で撮影された対象物の顔撮像画像情報に基づいた、肌の色、顔輪郭等において視覚的に違和感の無い顔を容易に生成することができる。また、ゲーム等の仮想空間内に登場するキャラクタ70の顔を、ユーザ90の顔撮像画像情報に基づいて生成することにより、該キャラクタ70に対してユーザ90がより感情移入をすることができ、より娯楽性の高いゲームソフトウェアを構築することができる。
次に、本発明の第1の実施形態にかかるキャラクタ生成方法について説明する。図10は、本発明の第1の実施形態にかかるキャラクタ生成方法の各工程をコンピュータに実行させるプログラムの処理手順を示すフローチャート図の一例である。
図10に示すように、キャラクタの生成は、まず、キャラクタの顔の対象となる顔撮像画像情報を取得する(ステップ101:S101)。ここでは、所定の顔部品の配置を示す複数の顔配置ガイド情報と被写体とを表示部24に表示させながら、複数の顔配置ガイド情報の中から選択顔配置ガイド情報をユーザに選択させ、選択顔配置ガイド情報の顔部品の配置に合うように被写体の顔を撮像部25によって撮像し、撮像した被写体の撮像画像情報を取得する。更に、撮像した被写体の撮像画像情報からキャラクタの顔用テクスチャ53の画像貼付領域51に対応する顔撮像画像情報を取得する。尚、ここでは、撮像部25によって撮像された被写体の撮像画像情報を用いているが、入力部26から入力した撮像画像情報であっても良い。また、一枚の撮像画像情報を部分的に修正したり、複数の撮像画像を合成したりして、一枚の顔撮像画像情報にした画像情報であっても良い。尚、被写体の撮影環境に基づいて、ホワイトバランス及び露出を調整して、被写体の明るい撮像画像情報を取得する。
次に、顔撮像画像情報を顔用テクスチャ53の画像貼付領域51に嵌め込む(ステップ102:S102)。即ち、画像貼付領域51の画像情報を顔撮像画像情報に置き換える。このとき、顔撮像画像情報と顔用テクスチャ53とのデータフォーマットが異なる場合は、顔撮像画像情報を顔用テクスチャ53のデータフォーマットに変換してから置き換える。
次に、差分領域52の色情報を設定する(ステップ103:S103)。例えば、撮像画像情報が嵌め込まれた画像貼付領域51の一部分を指定し、指定した色情報を差分領域52の色情報として設定する。また、例えば、ペイント機能で合成した色情報を差分領域52の色情報として設定する。
次に、ステップ103で設定された色情報で差分領域52を全て塗りつぶす(ステップ104:S104)。即ち、差分領域52の全ての画素の色情報を設定された色情報にする。また、余白部54の部分も、設定された色情報で塗りつぶす。次に、設定された差分領域52の色情報の輝度(L0)を取得し、選別基準値に設定する(ステップ105:S105)。ここでは、輝度を選別基準値の対象としているが、輝度に限定されるものではない。
次に、画像貼付領域51内の各画素の輝度を画素毎に取り出し(ステップ106:S106)、取り出した画素の輝度が選別基準値(L0)以上であるか否かを判定する(ステップ107:S107)。取り出した画素の輝度が選別基準値(L0)以上である場合(S107:Yes)は、取り出した画素の色情報を設定された差分領域52の色情報に置き換える(ステップ108:S108)。ステップ106乃至ステップ108の工程を、画像貼付領域51内の全ての画素について行う(ステップ109:S109)。以上の処理により、顔用テクスチャ53(頭部テクスチャ50)が生成される。
次に、顔用テクスチャ53の補正の必要があるか否かを判定する(ステップ110:S110)。顔用テクスチャ53の補正とは、例えば、顔用テクスチャ53に、ペイント機能を使用してお化粧や、手書きのメガネ等を施すことにより、部分的な色補正をしたり、被写体の顔部分をキャラクタ情報記憶部17に予め格納されている顔部品に置き換えることにより顔補正をしたりすることである。顔用テクスチャ53の補正の必要がある場合(S110:Yes)は、補正に対応した処理を顔用テクスチャ53に施す(ステップ111:S111)。
最後に、予め用意されている頭部形状モデル60に、生成した顔用テクスチャ53を一部分とする頭部テクスチャ50を貼り付ける(ステップ112:S112)。これにより、被写体の顔を貼り付けたキャラクタ70が生成される。
上述した本発明の第1の実施形態にかかるキャラクタ生成方法により、携帯ゲーム装置20を用いて実現される仮想空間内のキャラクタ70の顔として、撮像部25で撮影された対象物の顔撮像画像情報に基づいた、肌の色、顔輪郭等において視覚的に違和感の無い顔を容易に生成することができる。また、ゲーム等の仮想空間内に登場するキャラクタ70の顔を、ユーザ90の顔撮像画像情報に基づいて生成することにより、該キャラクタ70に対してユーザ90がより感情移入をすることができ、より娯楽性の高いゲームソフトウェアを構築することができる。
次に、本発明の第2の実施形態にかかるキャラクタ生成システムについて説明する。本発明の第2の実施形態にかかるキャラクタ生成システム110を実行させる携帯ゲーム装置20の概略構成は、図2に示した本発明の第1の実施形態にかかるキャラクタ生成システム10を実行させる携帯ゲーム装置20の概略構成であるため、説明を省略する。
次に、本発明の第2の実施形態にかかるキャラクタ生成システム110におけるシステム構成について説明する。図11は、本発明の第2の実施形態にかかるキャラクタ生成システム110におけるシステム構成の一例を示す図である。
図11に示すように、キャラクタ生成システム110は、表示制御部111、撮像制御部112、入力制御部113、撮像画像情報取得部114、テクスチャ生成部115、テクスチャ貼付部116、キャラクタ情報記憶部17、及びガイド情報記憶部18を備え、更に、テクスチャ生成部115は、第1補正部121と第2補正部122とを備えている。尚、キャラクタ生成システム110の表示制御部111、撮像制御部112、入力制御部113、及びテクスチャ貼付部116は、図4において説明した、キャラクタ生成システム10の表示制御部11、撮像制御部12、入力制御部13、及びテクスチャ貼付部16と同様な機能であることから、説明を省略する。
撮像画像情報取得部114は、表示制御部111と撮像制御部112とを連動させて、所定の顔部品の配置を示す複数の顔配置ガイド情報と対象物(被写体)とを表示部24に表示させて、複数の顔配置ガイド情報の中から最も被写体に合った選択顔配置ガイド情報をユーザに選択させ、選択顔配置ガイド情報の顔部品の配置に合うように被写体の顔を撮像させる(図3参照)。
また、撮像画像情報取得部114は、キャラクタ70における顔用テクスチャ53の全領域に対応する顔撮像画像情報を、撮像した被写体の撮像画像情報から取得する。即ち、撮像した被写体の撮像画像情報から取得する顔撮像画像情報は、本発明の第1の実施形態にかかるキャラクタ生成システム10の場合は、顔用テクスチャ53の画像貼付領域51に対応する顔撮像画像情報であったが、本発明の第2の実施形態にかかるキャラクタ生成システム110の場合は、顔用テクスチャ53の全領域に対応する顔撮像画像情報となる。
テクスチャ生成部115は、撮像画像情報取得部114によって取得された顔撮像画像情報を顔用テクスチャ53の全領域に嵌め込む。即ち、顔用テクスチャ53の全領域の画像情報を顔撮像画像情報に置き換える。更に、顔輪郭部近傍に写り込まれた影等の補正を行うとともに輪郭部のぼかし処理を顔用テクスチャ53に対して行う。
次に、顔撮像画像情報に置き換えられた顔用テクスチャ53に対して、顔輪郭部近傍に写り込まれた影等を補正及び顔輪郭部のぼかしを行うための、顔撮像画像情報に置き換えられた顔用テクスチャ53に対する補正処理について説明する。
図12は、テクスチャ生成部115における補正処理を行う顔用テクスチャ53の領域を説明するための図である。図12に示すように、顔用テクスチャ53は、予め設定された補正領域59と無補正領域58とから構成される。補正領域59は、顔部分を正面から撮像した撮像画像の顔輪郭部近傍の領域で、顔撮像画像情報から得られる画素の色情報に対して、影、髭等の影響で肌の色が暗くならないような補正や顔輪郭のぼかし処理等が行われる領域である。また、無補正領域58は、顔撮像画像情報に対する補正処理を行わず、撮像画像情報取得部114によって取得された顔撮像画像情報のままの領域である。また、補正領域59は、顔用テクスチャ53の上側輪郭部近傍及び下側輪郭部近傍に設定された第1補正領域55と、顔用テクスチャ53のどちらか一方の側面輪郭部近傍に設定された第2補正領域56と、第2置領域56と反対の側面輪郭部近傍に設定された第3補正領域57とから構成される。
尚、図12においては、図面に向かって顔用テクスチャ53の左側面輪郭部近傍に設定された領域を第2補正領域56とし、図面に向かって顔用テクスチャ53の右側面輪郭部近傍に設定された領域を第3補正領域57とし、顔用テクスチャ53の上側輪郭部近傍の第1補正領域55を上側第1補正領域55aとし、顔用テクスチャ53の下側輪郭部近傍の第1補正領域55を下側第1補正領域55bとして、以降説明する。
上側第1補正領域55aは、額にかかる髪の影を補正するための領域であり、下側第1補正領域55bは、顎近傍の輪郭影、顎髭等を補正するための領域である。また、第2補正領域56及び第3補正領域57は、顔側面の髪の影、輪郭影、もみあげ等の補正や輪郭部のぼかし処理をするための領域である。
補正領域59に対する補正処理は、第1補正処理と第2補正処理の2段階の補正処理によって行われる。テクスチャ生成部115の第1補正部121において、第1補正処理が行われ、テクスチャ生成部115の第2補正部122において、第2補正処理が行われる。また、第1補正処理は、補正領域59内の全ての画素について行われる処理であり、第2補正処理は、第2補正領域56内及び第3補正領域57内の画素に対してのみ行われる処理である。
図13は、第1補正部121で実施される第1補正処理を説明するための図である。図13に示すように、第1補正処理は、色補正の対象となる画素(以下、補正対象画素と呼ぶ)81を囲む所定領域83内の画素82の色情報を取得する。図13においては、補正対象画素81を囲む所定領域83は、補正対象画素81を囲む8個の画素82からなる領域である。そして、取得した領域83内の8個の画素82の色情報の平均値を補正対象画素81の色情報として設定する。以下、第1補正処理によって設定された色情報を第1補正色情報と呼ぶ。この第1補正処理により、顔輪郭部近傍に写り込まれた影、髭等の色をぼかして、視覚的な違和感が無いように肌の色を調整することができる。
尚、本明細書では、この補正対象画素81を囲む所定領域を、領域83としているが、これに限定されることはなく、例えば、補正対象画素81を囲む24個の画素82からなる領域84であっても良い。しかし、顔用テクスチャ53の解像度、処理速度等から、補正対象画素81を囲む所定領域を、領域83とすることが望ましい。
図14は、第2補正部122で実施される第2補正処理を説明するための図であり、(a)は第2補正領域56に対する第2補正処理を説明するための図で、(b)は第3補正領域57に対する第2補正処理を説明するための図である。
第2補正処理は、補正対象画素81から側面輪郭部方向へ連続する補正対象画素81以外の所定個数の画素82の第1補正色情報を取得する。具体的には、図14(a)に示すように、第2補正領域56内の画素に対しては、補正対象画素81から側面輪郭部方向(図面左方向)へ連続する補正対象画素81以外の領域85内の8個の画素82の第1補正色情報を取得する。また、図14(b)に示すように、第3補正領域57内の画素に対しては、補正対象画素81から側面輪郭部方向(図面右方向)へ連続する補正対象画素81以外の領域86内の8個の画素82の第1補正色情報を取得する。
そして、第2補正領域56内においては、取得した領域85内の8個の画素82の第1補正色情報の平均値を補正対象画素81の色情報として設定する。また、第3補正領域57内においては、取得した領域86内の8個の画素82の第1補正色情報の平均値を補正対象画素81の色情報として設定する。以下、第2補正処理によって設定された色情報を第2補正色情報と呼ぶ。この第2補正処理により、第2補正領域56内及び第3補正領域57内の肌の色を顔輪郭部の肌の色の近づくようにぼかすとともに、顔輪郭部のぼかしを行い、顔側面近傍に視覚的な違和感が無いように肌の色を調整することができる。尚、本明細書では、補正対象画素81から側面輪郭部方向へ連続する補正対象画素81以外の所定個数を8個に設定しているが、これに限定されるものではない。
テクスチャ生成部115は、顔撮像画像情報を嵌め込んだ顔用テクスチャ53に対して、第1補正処理及び第2補正処理からなる補正処理を行っているが、補正処理の前に、ペイント機能を使用して、写り込んだ髪、影、髭等を修正した後に、第1補正処理及び第2補正処理からなる補正処理を行っても良い。また、補正処理の後に、ペイント機能を使用して、肌の色を修正しても良い。
また、テクスチャ生成部115は、余白部54内の画素の色情報を設定する。余白部54内の画素の色情報は、所定の色情報であっても良いし、上述の補正処理が施された補正領域59の余白部54近傍の画素の色情報に基づいて設定するようにしても良い。例えば、余白部54に接した補正領域59の画素の色情報を余白部54の画素の色情報に設定したり、更に、上述の第1補正処理を余白部54の全画素に対して行ったりすることにより、余白部54内の画素の色情報を設定する。
以上のようにして、テクスチャ生成部115は、被写体の顔撮像画像情報から顔用テクスチャ53(頭部テクスチャ50)を生成する。そして、生成した顔用テクスチャ53(頭部テクスチャ50)をキャラクタ情報記憶部17に格納する。
次に、本発明の第2の実施形態にかかるキャラクタ生成システム110の起動タイミングについて説明する。本発明の第2の実施形態にかかるキャラクタ生成システム110の起動タイミングは、本発明の第1の実施形態にかかるキャラクタ生成システム10の起動タイミングと同様に、ユーザの所望の起動タイミングで、キャラクタ生成システム110を起動させることができる。
上述した本発明の第2の実施形態にかかるキャラクタ生成システム110により、携帯ゲーム装置20を用いて実現される仮想空間内のキャラクタ70の顔として、撮像部25で撮影された対象物の顔撮像画像情報に基づいた、肌の色、顔輪郭等において視覚的に違和感の無い顔を容易に生成することができる。また、ゲーム等の仮想空間内に登場するキャラクタ70の顔を、ユーザ90の顔撮像画像情報に基づいて生成することにより、該キャラクタ70に対してユーザ90がより感情移入をすることができ、より娯楽性の高いゲームソフトウェアを構築することができる。
次に、本発明の第2の実施形態にかかるキャラクタ生成方法について説明する。図15は、本発明の第2の実施形態にかかるキャラクタ生成方法の各工程をコンピュータに実行させるプログラムの処理手順を示すフローチャート図の一例である。
図15に示すように、キャラクタの生成は、まず、キャラクタの顔の対象となる顔撮像画像情報を取得する(ステップ201:S201)。ここでは、所定の顔部品の配置を示す複数の顔配置ガイド情報と被写体とを表示部24に表示させながら、複数の顔配置ガイド情報の中から選択顔配置ガイド情報をユーザに選択させ、選択顔配置ガイド情報の顔部品の配置に合うように被写体の顔を撮像部25によって撮像し、撮像した被写体の撮像画像情報を取得する。更に、撮像した被写体の撮像画像情報からキャラクタの顔用テクスチャ53の全領域に対応する顔撮像画像情報を取得する。
次に、顔撮像画像情報を顔用テクスチャ53の全領域に嵌め込む(ステップ202:S202)。即ち、顔用テクスチャ53の画像情報を顔撮像画像情報に置き換える。このとき、顔撮像画像情報と顔用テクスチャ53とのデータフォーマットが異なる場合は、顔撮像画像情報を顔用テクスチャ53のデータフォーマットに変換してから置き換える。
次に、補正領域59(第1補正領域55、第2補正領域56及び第3補正領域57)内の全ての画素に対して、上述した第1補正処理を行ない、第1補正処理によって算出された第1補正色情報を設定する(ステップ203:S203)。尚、ステップ203の工程の前に、ペイント機能を使用して、写り込んだ髪、影、髭等を修正しても良い。
次に、第2補正領域56内及び第3補正領域57内の全ての画素に対して、上述した第2補正処理を行ない、第2補正処理によって算出された第2補正色情報を設定する(ステップ204:S204)。次に、余白部54内の画素の色情報を、補正処理が施された補正領域59の余白部54近傍の画素の色情報に基づいて設定する(ステップ205:S205)。以上の処理により、顔用テクスチャ53(頭部テクスチャ50)が生成される。
次に、顔用テクスチャ53の修正の必要があるか否かを判定する(ステップ206:S206)。顔用テクスチャ53の修正とは、例えば、顔用テクスチャ53に、ペイント機能を使用してお化粧や、手書きのメガネ等を施すことにより、部分的な色補正をしたり、被写体の顔部分をキャラクタ情報記憶部17に予め格納されている顔部品に置き換えることにより顔補正をしたりすることである。顔用テクスチャ53の修正の必要がある場合(S206:Yes)は、修正に対応した処理を顔用テクスチャ53に施す(ステップ207:S207)。
最後に、予め用意されている頭部形状モデル60に、生成した顔用テクスチャ53を一部分とする頭部テクスチャ50を貼り付ける(ステップ208:S208)。これにより、被写体の顔を貼り付けたキャラクタ70が生成される。
上述した本発明の第2の実施形態にかかるキャラクタ生成方法により、携帯ゲーム装置20を用いて実現される仮想空間内のキャラクタ70の顔として、撮像部25で撮影された対象物の顔撮像画像情報に基づいた、肌の色、顔輪郭等において視覚的に違和感の無い顔を容易に生成することができる。また、ゲーム等の仮想空間内に登場するキャラクタ70の顔を、ユーザ90の顔撮像画像情報に基づいて生成することにより、該キャラクタ70に対してユーザ90がより感情移入をすることができ、より娯楽性の高いゲームソフトウェアを構築することができる。
上述した本発明の第1の実施形態にかかるキャラクタ生成システム10及び本発明の第2の実施形態にかかるキャラクタ生成システム110は、携帯ゲーム装置20を使用したシステムであるが、これに限定されるものではなく、業務用ゲーム装置(アーケードゲーム機)、家庭用ゲーム機、携帯電話、スタンドアローン型のコンピュータ、ワークステーション型のコンピュータシステム、ネットワーク型のコンピュータシステム等を用いて実現される仮想空間内の存在として表される2次元又は3次元のキャラクタの生成に適用できる。
10,110 : キャラクタ生成システム
11,111 : 表示制御部
12,112 : 撮像制御部
13,113 : 入力制御部
14,114 : 撮像画像情報取得部
15,115 : テクスチャ生成部
16,116 : テクスチャ貼付部
17 : キャラクタ情報記憶部
18 : ガイド情報記憶部
50 : 頭部テクスチャ
51 : 画像貼付領域
52 : 差分領域
53 : 顔用テクスチャ
54 : 余白部
55 : 第1補正領域
56 : 第2補正領域
57 : 第3補正領域
58 : 無補正領域
59 : 補正領域
60 : 頭部形状モデル
70 : キャラクタ
121 : 第1補正部
122 : 第2補正部



Claims (17)

  1. コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成システムであって、
    前記コンピュータが、
    前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する撮像画像取得手段と、
    前記撮像画像取得手段によって取得した前記対象物の前記顔撮像画像情報を、前記顔用テクスチャの前記画像貼付領域に嵌め込み、前記顔用テクスチャの全領域と前記画像貼付領域との差分領域を、所望の色情報で塗りつぶすとともに、前記所望の色情報に基づいて選別した前記画像貼付領域内の画素を、前記所望の色情報に置き換えて、前記差分領域と前記画像貼付領域との間の視覚的な境界を無くした前記顔用テクスチャを生成するテクスチャ生成手段と、
    前記テクスチャ生成手段によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付けるテクスチャ貼付手段と、
    を備えていることを特徴とするキャラクタ生成システム。
  2. 前記テクスチャ生成手段は、前記所望の色情報の輝度に基づいて、前記画像貼付領域内の当該輝度以上の画素を選別し、選別した前記画素の色情報を前記所望の色情報に置き換えることを特徴とする請求項1に記載のキャラクタ生成システム。
  3. 前記所望の色情報は、前記顔撮像画像情報の所望位置の色情報であることを特徴とする請求項1または2に記載のキャラクタ生成システム。
  4. コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成システムであって、
    前記コンピュータが、
    前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する撮像画像取得手段と、
    前記撮像画像取得手段によって取得した前記対象物の前記顔撮像画像情報を、前記顔用テクスチャの全領域に嵌め込み、前記顔用テクスチャの輪郭部近傍の所定の補正領域内の全ての画素をそれぞれ対象画素としたとき、前記各対象画素の色情報を、当該対象画素に連続する所定範囲内の当該対象画素以外の前記画素の色情報に基づいてそれぞれ算出し、当該対象画素の色情報を算出した色情報に置き換えた前記顔用テクスチャを生成するテクスチャ生成手段と、
    前記テクスチャ生成手段によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付けるテクスチャ貼付手段と、
    を備えており、
    前記補正領域は、前記顔用テクスチャの上側輪郭部近傍及び下側輪郭部近傍に設定された第1補正領域と、前記顔用テクスチャのどちらか一方の側面輪郭部近傍に設定された第2補正領域と、前記第2補正領域と反対の側面輪郭部近傍に設定された第3補正領域とからなり、
    前記テクスチャ生成手段は、
    前記補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素を囲む所定範囲内の当該対象画素以外の全ての前記画素の色情報の平均値を算出した第1補正色情報を、当該対象画素の色情報として設定する第1補正手段と、
    前記第2補正領域内及び前記第3補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素から側面輪郭部方向へ連続する当該対象画素以外の所定個数の前記画素の前記第1補正色情報の平均値を算出した第2補正色情報を、当該対象画素の色情報として設定する第2補正手段と、
    を備えていることを特徴とするキャラクタ生成システム。
  5. 前記コンピュータが、
    前記表示部を制御して、所定の顔部品の配置を示す複数の顔配置ガイド情報と前記対象物を前記表示部に表示させる表示制御手段と、
    撮像部を制御して、前記対象物を撮像させ、前記対象物の前記撮像画像情報を前記所定の記憶部に格納させる撮像制御手段と、
    を更に備え、
    前記撮像画像取得手段は、前記表示制御手段と前記撮像制御手段とを連動させて、前記複数の顔配置ガイド情報と前記対象物とを前記表示部に表示させながら、前記複数の顔配置ガイド情報の中から選択された、前記対象物の顔の合った選択顔配置ガイド情報に基づいて前記対象物を撮像させ、前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、前記所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する請求項1乃至のいずれか1項に記載のキャラクタ生成システム。
  6. 前記撮像画像取得手段は、前記撮像制御手段によって撮像した前記対象物の前記撮像画像情報が明るい前記撮像画像情報となるように、前記対象物の撮影環境に基づいて、ホワイトバランス及び露出を前記撮像制御手段に調整させることを特徴する請求項に記載のキャラクタ生成システム。
  7. 前記コンピュータが、
    入力部を制御して、前記対象物の前記撮像画像情報を含む各種情報を入力情報として入力させ、前記対象物の前記撮像画像情報を前記所定の記憶部に格納させる入力制御手段を更に備え、
    前記撮像画像取得手段は、前記表示制御手段と前記入力制御手段とを連動させて、前記複数の顔配置ガイド情報と入力された前記対象物の前記撮像画像情報とを前記表示部に表示させながら、前記複数の顔配置ガイド情報に中から選択された前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、前記所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する請求項1乃至のいずれか1項に記載のキャラクタ生成システム。
  8. 前記顔部品は、目、鼻、口及び顔輪郭を少なくとも含んでいることを特徴とする請求項5乃至7のいずれか1項に記載のキャラクタ生成システム。
  9. コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成方法であって、
    前記コンピュータが、
    (a)前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する工程と、
    (b)前記顔用テクスチャの前記画像貼付領域の情報を、前記工程(a)によって取得した前記対象物の前記顔撮像画像情報に置き換え、前記顔用テクスチャの全領域と前記画像貼付領域との差分領域を、所望の色情報で塗りつぶすとともに、前記所望の色情報に基づいて選別した前記画像貼付領域内の画素を、前記所望の色情報に置き換えて、前記差分領域と前記画像貼付領域との間の視覚的な境界を無くした前記顔用テクスチャを生成する工程と、
    (c)前記工程(b)によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付ける工程と、
    を備えていることを特徴とするキャラクタ生成方法。
  10. 前記工程(b)は、前記所望の色情報の輝度に基づいて、前記画像貼付領域内の当該輝度以上の画素を選別し、選別した前記画素の色情報を前記所望の色情報に置き換えることを特徴とする請求項に記載のキャラクタ生成方法。
  11. 前記所望の色情報は、前記顔撮像画像情報の所望位置の色情報であることを特徴とする請求項9または10に記載のキャラクタ生成方法。
  12. コンピュータを使用して、仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するキャラクタ生成方法であって、
    前記コンピュータが、
    (a)前記キャラクタの顔用テクスチャの画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の撮像画像情報から取得する工程と、
    (b)前記顔用テクスチャの全領域の情報を、前記工程(a)によって取得した前記対象物の前記顔撮像画像情報に置き換え、前記顔用テクスチャの輪郭部近傍の所定の補正領域内の全ての画素に対して、各前記画素を対象画素としたとき、前記対象画素に連続する所定範囲内の当該対象画素以外の前記画素の色情報に基づいて、当該対象画素の色情報を算出し、当該対象画素の色情報を算出した色情報に置き換えた前記顔用テクスチャを生成する工程と、
    (c)前記工程(b)によって生成された前記顔用テクスチャが一部分となる頭部テクスチャを、前記キャラクタの頭部形状モデルに貼り付ける工程と、
    を備えており、
    前記補正領域は、前記顔用テクスチャの上側輪郭部近傍及び下側輪郭部近傍に設定された第1補正領域と、前記顔用テクスチャのどちらか一方の側面輪郭部近傍に設定された第2補正領域と、前記第2補正領域と反対の側面輪郭部近傍に設定された第3補正領域とからなり、
    前記工程(b)は、
    (b1)前記補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素を囲む所定範囲内の当該対象画素以外の全ての前記画素の色情報の平均値を算出した第1補正色情報を、当該対象画素の色情報として設定する工程と、
    (b2)前記第2補正領域内及び前記第3補正領域内の全ての前記画素に対して、各前記画素を前記対象画素としたとき、当該対象画素から側面輪郭部方向へ連続する当該対象画素以外の所定個数の前記画素の前記第1補正色情報の平均値を算出した第2補正色情報を、当該対象画素の色情報として設定する工程と、
    を備えていることを特徴とするキャラクタ生成方法。
  13. 前記コンピュータが、
    (d)所定の顔部品の配置を示す複数の顔配置ガイド情報と前記対象物とを前記表示部に表示させながら、前記複数の顔配置ガイド情報の中から選択された、前記対象物の顔の合った選択顔配置ガイド情報に基づいて前記対象物を撮像し、前記対象物の前記撮像画像情報を前記所定の記憶部に格納する工程を、前記(a)の前に更に備え、
    前記工程(a)は、前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、前記所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する請求項9乃至12のいずれか1項に記載のキャラクタ生成方法。
  14. 前記工程(d)は、撮像した前記対象物の前記撮像画像情報が明るい前記撮像画像情報となるように、前記対象物の撮影環境に基づいて、ホワイトバランス及び露出を調整することを特徴する請求項13に記載のキャラクタ生成方法。
  15. 前記コンピュータが、
    (e)前記対象物の前記撮像画像情報を入力して、前記所定の記憶部に格納する工程を、前記(a)の前に更に備え、
    前記工程(a)は、所定の顔部品の配置を示す複数の顔配置ガイド情報と、前記工程(e)によって入力された前記対象物の前記撮像画像情報とを前記表示部に表示させながら、前記複数の顔配置ガイド情報に中から選択された前記選択顔配置ガイド情報に基づいて、前記顔用テクスチャの前記画像貼付領域に対応する前記対象物の前記顔撮像画像情報を、所定の記憶部に格納されている前記対象物の前記撮像画像情報から取得することを特徴する請求項9乃至14のいずれか1項に記載のキャラクタ生成方法。
  16. 前記顔部品は、目、鼻、口及び顔輪郭を少なくとも含んでいることを特徴とする請求項13乃至15のいずれか1項に記載のキャラクタ生成方法。
  17. 仮想空間内の存在として表示部に表示されるキャラクタの顔を、対象物の顔撮像画像情報に基づいて生成するための処理を、コンピュータに実行させるプログラムであって、
    請求項1乃至のいずれか1項に記載のキャラクタ生成システムの各手段を実現させる処理を前記コンピュータに実行させることを特徴とするプログラム。
JP2012519193A 2010-06-11 2010-06-11 キャラクタ生成システム、キャラクタ生成方法及びプログラム Expired - Fee Related JP5659228B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2010/059966 WO2011155067A1 (ja) 2010-06-11 2010-06-11 キャラクタ生成システム、キャラクタ生成方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2011155067A1 JPWO2011155067A1 (ja) 2013-08-01
JP5659228B2 true JP5659228B2 (ja) 2015-01-28

Family

ID=45097696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012519193A Expired - Fee Related JP5659228B2 (ja) 2010-06-11 2010-06-11 キャラクタ生成システム、キャラクタ生成方法及びプログラム

Country Status (4)

Country Link
US (1) US8730265B2 (ja)
EP (1) EP2503513A1 (ja)
JP (1) JP5659228B2 (ja)
WO (1) WO2011155067A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2581881A1 (en) * 2010-06-11 2013-04-17 Altron Corporation Character generating system, character generating method, and program
JP2014092902A (ja) * 2012-11-02 2014-05-19 Toshiba Corp 電子機器および手書き文書処理方法
CN103489107B (zh) * 2013-08-16 2015-11-25 北京京东尚科信息技术有限公司 一种制作虚拟试衣模特图像的方法和装置
JP6598748B2 (ja) * 2016-08-26 2019-10-30 任天堂株式会社 情報処理システム、情報処理プログラム、情報処理装置、および情報処理方法
KR102661019B1 (ko) 2018-02-23 2024-04-26 삼성전자주식회사 얼굴에 대응하는 3차원 아바타를 이용하여 얼굴의 움직임이 반영된 3차원 아바타를 포함하는 이미지를 생성하는 전자 장치 및 그 동작 방법
CN109876457A (zh) * 2019-02-21 2019-06-14 百度在线网络技术(北京)有限公司 游戏角色生成方法、装置及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000235656A (ja) * 1999-02-15 2000-08-29 Sony Corp 画像処理装置及び方法、並びにプログラム提供媒体
JP2001109907A (ja) * 1999-10-04 2001-04-20 Sharp Corp 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体
JP2001216531A (ja) * 2000-02-02 2001-08-10 Nippon Telegr & Teleph Corp <Ntt> 3次元仮想空間参加者表示方法及び3次元仮想空間表示装置
JP2006018384A (ja) * 2004-06-30 2006-01-19 Kyocera Corp 撮像装置および画像処理方法
JP2007104200A (ja) * 2005-10-03 2007-04-19 Nikon Corp 撮像装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6122408A (en) * 1996-04-30 2000-09-19 Siemens Corporate Research, Inc. Light normalization method for machine vision

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000235656A (ja) * 1999-02-15 2000-08-29 Sony Corp 画像処理装置及び方法、並びにプログラム提供媒体
JP2001109907A (ja) * 1999-10-04 2001-04-20 Sharp Corp 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体
JP2001216531A (ja) * 2000-02-02 2001-08-10 Nippon Telegr & Teleph Corp <Ntt> 3次元仮想空間参加者表示方法及び3次元仮想空間表示装置
JP2006018384A (ja) * 2004-06-30 2006-01-19 Kyocera Corp 撮像装置および画像処理方法
JP2007104200A (ja) * 2005-10-03 2007-04-19 Nikon Corp 撮像装置

Also Published As

Publication number Publication date
JPWO2011155067A1 (ja) 2013-08-01
EP2503513A1 (en) 2012-09-26
US20120139920A1 (en) 2012-06-07
WO2011155067A1 (ja) 2011-12-15
US8730265B2 (en) 2014-05-20

Similar Documents

Publication Publication Date Title
JP5632469B2 (ja) キャラクタ生成システム、キャラクタ生成方法及びプログラム
US9563975B2 (en) Makeup support apparatus and method for supporting makeup
JP6864449B2 (ja) イメージの明るさを調整する方法及び装置
JP5463866B2 (ja) 画像処理装置および画像処理方法、並びにプログラム
CN108711180B (zh) 美妆和/或换脸特效程序文件包的生成及美妆和/或换脸特效生成方法与装置
KR101514327B1 (ko) 얼굴 아바타 생성 장치 및 방법
US8150205B2 (en) Image processing apparatus, image processing method, program, and data configuration
JP5659228B2 (ja) キャラクタ生成システム、キャラクタ生成方法及びプログラム
JP5949331B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP7278724B2 (ja) 情報処理装置、情報処理方法、および情報処理プログラム
JP2020113061A (ja) 情報処理装置、情報処理方法およびプログラム
JP2013235537A (ja) 画像作成装置、画像作成プログラム、及び記録媒体
KR20160030037A (ko) 닮은얼굴그림 생성 장치, 닮은얼굴그림 생성 방법
US12073527B2 (en) Three-dimensional (3D) human modeling under specific body-fitting of clothes
JP2013226286A (ja) ヘアスタイル合成方法、ヘアスタイル合成装置およびヘアスタイル合成プログラム
JP2013098925A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2016123517A (ja) プログラム及びコンピュータシステム
JP2009253324A (ja) 画像処理装置、画像処理方法、及びプログラム
KR100422470B1 (ko) 3차원 동화상 모델 얼굴 대체 방법 및 장치
JP2017212720A (ja) 画像処理装置、画像処理方法およびプログラム
WO2009036554A1 (en) Emulating cosmetic facial treatments with digital images
CN111083345B (zh) 独照生成装置和方法及其非易失性计算机可读媒体
CN112488965B (zh) 一种图像处理方法和装置
JP2018073091A (ja) 画像処理システム、およびプログラム。
CN112138387A (zh) 图像处理方法、装置、设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130604

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141201

R150 Certificate of patent or registration of utility model

Ref document number: 5659228

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees