JPH11313202A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法

Info

Publication number
JPH11313202A
JPH11313202A JP10119554A JP11955498A JPH11313202A JP H11313202 A JPH11313202 A JP H11313202A JP 10119554 A JP10119554 A JP 10119554A JP 11955498 A JP11955498 A JP 11955498A JP H11313202 A JPH11313202 A JP H11313202A
Authority
JP
Japan
Prior art keywords
image
area
region
color
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10119554A
Other languages
English (en)
Other versions
JP3539539B2 (ja
Inventor
Atsuo Matsuoka
篤郎 松岡
Ryushi Funayama
竜士 船山
Harunobu Mori
晴信 森
So Takezawa
創 竹澤
Minehiro Konya
峰弘 紺矢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP11955498A priority Critical patent/JP3539539B2/ja
Priority to US09/300,834 priority patent/US6587593B1/en
Publication of JPH11313202A publication Critical patent/JPH11313202A/ja
Application granted granted Critical
Publication of JP3539539B2 publication Critical patent/JP3539539B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00Two-dimensional [2D] image generation
    • G06T11/10Texturing; Colouring; Generation of textures or colours
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 入力された原画像に対し、エッジ抽出の結果
に関わらず、原画像の対象となる物体を強調し、かつ、
全体として実画像に即した違和感のないイラスト画像に
変換することのできる画像処理装置および画像処理方法
を提供する。 【解決手段】 原画像を入力する画像入力装置11、入
力された原画像を表示する表示装置15と、表示された
原画像中の任意の物体領域を指定する領域位置指定装置
12と、各種演算を行う演算処理装置14とを備える。
演算処理装置14は、入力された原画像を、指定された
物体領域が強調された画像に変換すると共に、線画像に
変換し、これら強調変換画像と線画像とを合成して、こ
の合成画像を表示装置15に表示する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、パソコン、ワープ
ロ、ワークステーション、オフコン、携帯型情報ツー
ル、コピー機、スキャナ装置、ファクシミリ、テレビ、
ビデオ、ビデオカメラなどに用いられ、取り込んだ画像
を操作者の所望する状態、例えば写真をイラスト風の趣
のある画像に変換することのできる画像処理装置および
画像処理方法に関するものである。
【0002】
【従来の技術】従来、写真や画像からイラスト風の趣を
もつ画像を生成する場合、次のような手法がとられてい
た。
【0003】最も一般的なのは、熟練した技術をもつ者
が、手作業にて作業することである。これは、非常に特
殊な技術と高度な熟練を要する作業であるため、誰にで
もできるものではないし、また、人間が手作業で行うた
め、作業に時間がかかり、大量に作成できない。
【0004】そこで、近年、作業時間の短縮と、大量作
成とを可能にするために、パソコンやワープロなどの装
置に搭載された画像処理装置を用いて、写真や画像から
イラスト風の趣をもつ画像を生成することが考えられて
いる。
【0005】例えば、画像処理を行うことのできる装置
にて、入力画像をイラスト風の趣をもつ画像に変換する
のに用いられる技術として、線画を生成したり、減色処
理を行う手法などが提案されている。
【0006】線画を抽出する方法として、例えば、Sobe
l フィルタを用いた手法がある。この手法は簡単なアル
ゴリズムで画像中のエッジ部分を抽出することが可能で
あるが、線の太さが場所によって異なるなどの欠点があ
る。また、一般的に用いられる減色処理は、画素値(R
GB値や輝度値)のヒストグラムに基づいて行われるも
のであるため、例えば画像中でなめらかに明るさが変化
している部分(グラデーション)など、ひとつの色で統
合されるべき部分が複数の色に分割されるなどの欠点が
ある。
【0007】また、写真などの画像をイラスト風の趣の
ある画像に変換する方法として、例えば特許第2685458
号の「画像処理方法」(キヤノン株式会社)のような発
明もある。上記画像処理方法では、エッジを抽出し、そ
のエッジに囲まれた領域内を特定の色で塗り潰してイラ
スト風の画像を生成するようになっている。
【0008】
【発明が解決しようとする課題】ところが、上記特許第
2685458 号の「画像処理方法」では、エッジを抽出し、
そのエッジに囲まれた領域内を特定の色で塗り潰す処理
のため、エッジがとぎれなく閉領域を構成していなけれ
ばならず、自然画像に対してそのようなエッジ抽出を行
えば、画像によって小さい領域が多数生じてしまった
り、逆に閉領域がまったく抽出されないなどで、画像に
よっては、目的とするイラスト風の趣をもつ画像を生成
することが難しい。
【0009】また、上記の画像処理方法では、エッジ部
のみ変換されていない原画像を出力する構成になってお
り、変換した画像と原画像が混成して表示されるため、
原画像によっては、違和感を覚える画像が生成されてし
まうという問題が生じる。
【0010】本発明は、上記の問題点を解決するために
なされたもので、その目的は、入力された原画像に対
し、エッジ抽出の結果に関わらず、原画像の対象となる
物体を強調し、かつ、全体として実画像に即した違和感
のないイラスト画像に変換することのできる画像処理装
置および画像処理方法を提供することにある。
【0011】
【課題を解決するための手段】請求項1の画像処理装置
は、上記の課題を解決するために、原画像を、該原画像
中の任意の物体領域を強調した画像に変換すると共に、
線画像に変換し、これら強調変換画像と線画像とを合成
する画像合成処理手段を有していることを特徴としてい
る。
【0012】上記の構成によれば、原画像中の任意の物
体領域を強調した強調変換画像と、原画像を線画に変換
した線画像とを合成することにより、特定の物体領域の
みが強調された画像を得ることができる。
【0013】これにより、原画像を写真とした場合、例
えば請求項5に記載のように物体領域を人物顔とすれ
ば、人物顔が強調され、背景が線画となる画像、すなわ
ちイラスト風の趣のある画像を得ることができる。
【0014】したがって、入力された原画像に対し、エ
ッジ抽出の結果に関わらず、原画像の対象となる物体を
強調し、かつ、全体として実画像に即した違和感のない
イラスト画像に変換することができる。
【0015】請求項2の画像処理装置は、上記の課題を
解決するために、原画像を入力する画像入力手段と、入
力された原画像を表示する表示手段と、表示された原画
像中の任意の物体領域を指定する物体領域指定手段と、
入力された原画像を、指定された物体領域が強調された
画像に変換する強調変換手段と、入力された原画像を、
線画像に変換する線画像変換手段と、上記強調変換手段
により得られた強調変換画像と、上記線画像変換手段に
より得られた線画像とを合成する画像合成手段とを備え
ていることを特徴としている。
【0016】上記の構成によれば、画像入力手段により
入力された原画像は、まず、表示手段に表示される。そ
して、この表示された原画像に対して、操作者は、マウ
スやペンなどのポインティングデバイスである物体領域
指定手段を用いて、所望する物体領域を指定する。その
後、強調変換手段によって、原画像が、指定された物体
領域が強調された画像、すなわち強調変換画像に変換さ
れる。一方、線画像変換手段によって指定された物体領
域を考慮して画像全体のエッジを抽出することにより、
原画像が線画像に変換される。最後に、画像合成手段に
より、上記強調変換画像と線画像とが合成されること
で、操作者が所望する物体領域が強調された画像、すな
わちイラスト風の画像が得られる。
【0017】これにより、単純な線画像生成ではできな
い、指定された物体領域を強調し、かつ、全体として実
画像に即した違和感のないイラスト画像に変換すること
ができる。
【0018】請求項3の画像処理装置は、上記の課題を
解決するために、請求項2の構成に加えて、上記強調変
換手段は、入力画像を複数の領域に分割する画像分割手
段と、分割された各領域の色をそれぞれ決定して分割領
域変換画像を生成する分割領域変換画像生成手段と、分
割された各領域の境界線を抽出して分割領域境界線画像
を生成する分割領域境界線画像生成手段と、上記物体領
域指定手段により指定された物体領域を抽出すると共
に、該物体領域の色を決定して物体領域変換画像を生成
する物体領域変換画像生成手段とを備え、上記画像合成
手段は、上記線画像変換手段により得られた線画像と、
上記分割領域変換画像生成手段により得られた分割領域
変換画像と、上記分割領域境界線画像生成手段により得
られた分割領域境界線画像と、上記物体領域変換画像生
成手段により得られた物体領域変換画像とを合成するこ
とを特徴としている。
【0019】上記の構成によれば、請求項2の構成によ
る作用に加えて、まず、分割領域変換画像生成手段は、
画像分割手段により分割された各領域の色をそれぞれ決
定して分割領域変換画像を生成する。具体的には、原画
像を複数の領域に分割し、かつ分割された各領域の色を
決定する。領域を分割する際には、近接画素間の色のつ
ながりが考慮される。次いで、決定された色で領域内の
画素を描画することにより、分割領域変換画像を生成す
る。
【0020】更に、分割領域境界線画像生成手段は、分
割された各領域の境界線を抽出して分割領域境界線画像
を生成する。具体的には、分割された領域間の境界線を
抽出し、境界線以外の画素は白、かつ、境界線上の画素
を黒または白とする分割領域境界線画像を生成する。こ
の境界線上の画素の判定は、各分割領域の情報から判断
される。
【0021】また、別に、操作者に処理対象の前記原画
像中の強調処理を行ないたい物体を指定させる。
【0022】次いで、物体領域変換画像生成手段は、物
体領域指定手段により指定された物体領域を抽出すると
共に、該物体領域の色を決定して物体領域変換画像を生
成する。具体的には、指定された物体領域を判別し、物
体が強調されるように物体領域内の各画素の色を決定す
る。次いで、物体領域内の各画素を決定された色で描画
し、物体領域変換画像を生成する。
【0023】また、別に、請求項2記載の線画像変換手
段により、入力画像からエッジを抽出し、線画像が作成
される。
【0024】最後に、画像合成手段は、該線画像、該分
割領域変換画像、該分割領域境界線画像、該物体領域変
換画像を合成する。
【0025】これにより、減色処理や、エッジ抽出から
求めた輪郭領域内の色描画処理ではうまく変換できない
ような、近接画素の色のつながりを考慮した各領域の色
描画を行なうことができ、かつ、指定した物体部分を強
調した趣のあるイラスト画像を生成できる。
【0026】請求項4の画像処理装置は、上記の課題を
解決するために、請求項2の構成に加えて、上記強調変
換手段は、上記物体領域指定手段により指定された物体
領域を抽出すると共に、抽出した物体領域を2値化して
物体領域変換画像を生成する2値化物体領域変換画像生
成手段を有し、上記画像合成手段は、上記線画像変換手
段により得られた線画像と、上記2値化物体領域変換画
像生成手段により得られた2値化物体領域変換画像とを
合成することを特徴としている。
【0027】上記の構成によれば、請求項2の構成によ
る作用に加えて、まず、2値化物体領域変換画像生成手
段は、物体領域指定手段により指定された物体領域を抽
出すると共に、抽出した物体領域を2値化して物体領域
変換画像を生成する。具体的には、操作者に処理対象の
前記原画像中の強調処理を行ないたい物体を指定させ
る。次いで、この指定された物体領域を判別し、この物
体領域を強調するように2値化処理を行ない、2値化さ
れた物体領域変換画像を生成する。
【0028】また、別に、請求項2記載の線画像変換手
段により、入力画像からエッジを抽出し、線画像が作成
される。
【0029】最後に、画像合成手段は、該2値化物体領
域変換画像と該線画像を合成する。
【0030】これにより、単純な2値化処理では生成で
きない、指定した物体部分を強調した趣のあるモノクロ
のイラスト画像を生成できる。
【0031】請求項5の画像処理装置は、上記の課題を
解決するために、請求項2ないし4の何れかの構成に加
えて、上記物体領域指定手段により指定される物体領域
が人物顔であることを特徴としている。
【0032】上記の構成によれば、請求項2ないし4の
何れかの構成による作用に加えて、入力される原画像中
の物体に人物顔を含む人物写真画像などから、人物顔を
似顔絵風に強調処理した、カラーのイラスト画像あるい
はモノクロのイラスト画像を簡単に作成できる。
【0033】また、上記の課題を解決する手段として
は、上述した請求項1ないし5までの各装置の他に、請
求項6に記載の画像処理方法であってもよく、また、請
求項7に記載のように、コンピュータで読み出し可能な
記録媒体に本願発明の画像処理を実行するためのプログ
ラムを記録しても良い。
【0034】すなわち、請求項6の画像処理方法は、上
記の課題を解決するために、原画像を入力する第1ステ
ップと、入力された原画像を表示する第2ステップと、
表示された原画像中の任意の物体領域を指定する第3ス
テップと、入力された原画像を、指定された物体領域を
強調した画像に変換する第4ステップと、入力された原
画像を、線画像に変換する第5ステップと、上記第4ス
テップで得られた強調変換画像と、上記第5ステップで
得られた線画像とを合成する第6ステップとを含むこと
を特徴としている。
【0035】また、請求項7のコンピュータ読み取り可
能な記録媒体は、上記の課題を解決するために、原画像
を入力する第1ステップと、入力された原画像を表示す
る第2ステップと、表示された原画像中の任意の物体領
域を指定する第3ステップと、入力された原画像を、指
定された物体領域を強調した画像に変換する第4ステッ
プと、入力された原画像を、線画像に変換する第5ステ
ップと、上記第4ステップで得られた強調変換画像と、
上記第5ステップで得られた線画像とを合成する第6ス
テップとをコンピュータに実行させるための画像処理プ
ログラムに記録したことを特徴としている。
【0036】
【発明の実施の形態】本発明の実施の一形態について図
1ないし図26に基づいて説明すれば、以下の通りであ
る。
【0037】本実施の形態に係る画像処理装置は、写真
や画像からイラスト風の趣をもつ画像を生成するための
装置であり、図1に示すように、画像入力装置11、領
域位置指定装置12、記憶装置13、演算処理装置1
4、表示装置15、外部記憶装置16を有している。
【0038】上記画像入力装置11は、処理対象となる
写真などの原画像を入力するための画像入力手段であ
る。すなわち、画像入力装置11は、処理対象となる画
像の信号(画像信号)を本画像処理装置に入力するため
の装置である。
【0039】上記画像信号は、複数の画素が行列状に配
列されて構成される2次元画像であり、各画素を表す画
素データを有するデジタル信号である。各画素データに
は、2次元画像内の画素の位置を表す位置データ、およ
び画素の表示特性を表す数値データが含まれる。表示特
性を表す数値データには、2次元画像がカラー画像であ
るならば、たとえば赤青緑の各単色光毎の輝度を表す輝
度データが含まれている。
【0040】上記画像入力装置11としては、たとえば
ハードディスク、フロッピーディスク、光ディスクおよ
びビデオテープなどの記録媒体に記録されている信号を
読み出す装置が用いられる。この場合、画像入力装置1
1により記録媒体から読み出された信号は記憶装置13
に格納される。
【0041】このとき、上述の記録媒体には、たとえば
撮像装置(図示せず)によって物体からの画像光を撮像
して得られた画像信号が記憶されている。撮像装置とし
ては、たとえばスキャナ、デジタルカメラ、およびビデ
オカメラが挙げられる。
【0042】また、画像入力装置11自体が撮像装置を
有し、得られた画像信号を記録媒体を経ずに、直接本画
像処理装置の記憶装置13に導入してもよい。
【0043】さらに、画像信号は、上述の撮像装置以外
の装置および手法によって生成されてもよい。また、た
とえばCD−ROMのような記録媒体を用いて配布され
るような、本画像処理装置の操作者以外の第三者が作成
された画像の画像信号であってもよい。これらの画像信
号の取得動作は、後述の本画像処理装置の画像処理動作
の事前にあらかじめ準備されていてもよいし、処理動作
の直前に行なわれてもよい。
【0044】上記領域位置指定装置12は、操作者が画
像中の対象物体領域を指定するための物体領域指定手段
であり、たとえばマウスやトラックボール、ペンなどの
ポインティングデバイスが好適に用いれる。つまり、操
作者は、上記領域位置指定装置12としてのマウス等の
ポインティングデバイスを用いて、後述する表示装置1
5に表示される画像入力装置11によって導入された原
画像を見ながら、強調処理したい領域を含むように領域
位置(領域輪郭座標位置)を指定する。このとき、指定
された領域輪郭座標位置は記憶装置13に格納される一
方、表示装置15に反映され、たとえば、各座標間を結
ぶ線分として表示される。このようにして得られる領域
を物体領域とする。
【0045】上記記憶装置13は、上述した原画像の画
像信号や領域輪郭座標位置などを記憶する記憶手段であ
り、記憶する情報の種類に応じて少なくとも7つの記憶
部、すなわちメモリ13a〜13gを有している。な
お、記憶装置13は、後述するメモリM1〜M3(図示
しない)を有している。
【0046】メモリ13aには、画像入力装置11によ
って入力された原画像(処理対象原画像)が格納され、
メモリ13bには、領域位置指定装置12で上記処理対
象画像に対して指定した領域を示す物体座標(領域輪郭
座標位置)が格納される。
【0047】メモリ13c〜13eには、演算処理装置
14にて、画像処理中に中間画像として生成される分割
領域画像、物体領域画像、線画像がそれぞれ格納され
る。
【0048】メモリ13fには、演算処理装置14にて
合成処理を行なった結果得られた合成画像が格納され
る。
【0049】メモリ13gには、演算処理装置14にて
行われる各処理用のプログラムが格納され、これら各プ
ログラムは必要に応じて読み出され、実行されるように
なっている。この処理用のプログラムの詳細については
後述する。
【0050】上記表示装置15は、たとえば陰極線管や
液晶表示装置などからなり、記憶装置13のメモリ13
a,13bに格納された画像データもしくは座標データ
を画面上に表示するようになっている。画面上には、入
力された原画像が表示され、かつ、操作者が領域位置指
定装置12によって入力した座標が前記の原画像上に各
座標間を結ぶ線分として表示されている。
【0051】また、表示装置15は、記憶装置13のメ
モリ13fに格納された画像データ、すなわち、後述の
演算処理装置14の画像処理動作によって生成される合
成画像を表示するようにもなっている。
【0052】上記演算処理装置14は、本発明の主要な
処理を行なう装置であり、且つ画像分割部17、領域色
変換部18、物体領域生成部19、線画像生成部20、
画像合成部21から構成され、画像の合成処理を行う画
像合成手段でもある。
【0053】上記画像分割部17は、平滑化部17a、
ラベリング部17b、モードフィルタ部17cからな
り、これら各部を用いて原画像を複数の領域に分割する
領域分割処理を行うようになっている。なお、この領域
分割処理の詳細は後述する。
【0054】上記領域色変換部18は、代表色取得部1
8a、トーン変換部18bからなり、これら各部を用い
て分割領域毎の色を決定する領域色変換処理を行うよう
になっている。なお、領域色変換処理の詳細は後述す
る。
【0055】上記物体領域生成部19は、色分布取得部
19a、肌領域抽出部19b、髪領域抽出部19c、顔
マスク合成部19dからなり、これら各部を用いて物体
領域画像を生成する物体領域生成処理を行うようになっ
ている。なお、物体領域生成処理の詳細は後述する。
【0056】上記線画像生成部20は、エッジ抽出部2
0a、2値化部20b、境界線画部20c、線画合成部
20d、ノイズ除去部20eからなり、これら各部を用
いて原画像に対応する線画像を生成する線画像生成処理
を行うようになっている。
【0057】上記画像合成部21は、上記画像分割部1
7と領域色変換部18によって得られた分割領域画像、
物体領域生成部19によって得られた物体領域画像、線
画像生成部20によって得られた線画像を順に重ねて1
枚の合成画像に生成する画像合成処理を行うようになっ
ている。
【0058】上記演算処理装置14にて行われる各処理
用のプログラムは、上述したように、メモリ13gに予
め記憶させていてもよいし、上記の各処理用のプログラ
ムをコンピュータが読み取り可能なようにフロッピーデ
ィスクやCD−ROMなどの記録媒体に記録させてもよ
い。この場合、例えば、図1に示すように、フロッピー
ディスクやCD−ROMなどの記録媒体の情報が読み取
り可能な外部記憶装置16を設け、この外部記憶装置1
6によって上記の記録媒体に記録された情報、すなわち
処理用プログラムをメモリ13gに転送すればよい。
【0059】上記の記録媒体としては、例えば図26に
示すように、領域分割処理用プログラム31a、領域色
変換処理用プログラム31b、物体領域生成処理用プロ
グラム31c、線画像生成処理用プログラム31d、画
像合成処理用プログラム31eが記録された記録媒体3
1が考えられる。しかしながら、記録媒体31に全ての
処理用プログラムが記録されている必要はなく、上記の
5つの処理用プログラムのうち少なくとも1つの処理用
プログラムが記録されていればよい。この場合、記録媒
体に記録されていない処理用プログラムは、メモリ13
fに予め記憶させればよい。
【0060】ここで、上記構成の画像処理装置で実行さ
れる画像処理について以下に説明する。なお、本説明で
は、原画像中で強調したい物体として人物の顔を適用し
た場合について説明する。また、はじめに図1に示す画
像処理装置(以下、本画像処理装置と称する)で行われ
る画像処理の流れの全体を簡単に説明し、その後、各処
理について詳細に説明する。
【0061】まず、本画像処理装置の画像処理について
図2および図3を参照しながら簡単に説明する。
【0062】図2は、本画像処理装置によって実施され
る画像処理動作の各処理段階における画像を示す説明図
であり、図3は、本画像処理装置における画像処理の流
れを示すフローチャートである。本画像処理装置の画像
処理では、図2に示す原画像22aに対し、操作者が強
調したい人物顔領域として物体領域輪郭22cを指定し
た場合に、物体領域を似顔絵風に強調変換し、かつ原画
像22a全体をイラスト風に変換して図2に示すイラス
ト風画像を示す処理結果画像26,27を生成するよう
になっている。
【0063】図3に示すように、はじめに原画像入力を
行う(S1)。すなわち、画像入力装置11は、対象と
なる原画像22aを記憶装置13のメモリ13aに格納
する。
【0064】次に、原画像表示を行う(S2)。すなわ
ち、表示装置15は、記憶装置13のメモリ13aに格
納された原画像22aを画面上に表示する。
【0065】次いで、物体領域の指定が行われる(S
3)。すなわち、操作者は、領域位置指定装置12を用
いて、表示装置15に表示される原画像22aを見なが
ら、領域輪郭座標位置を指定する。
【0066】これにより、図2に示す原画像22bにお
いて、物体領域輪郭22cが示される。この領域輪郭座
標位置は、物体領域の情報、たとえば、座標列、または
2次元画像データ(マスク画像)として記憶装置13の
メモリ13bに格納される。ここで、物体領域輪郭22
cは、完全に原画像22b中の実際の物体領域(顔領
域)と一致する必要はない。また、物体領域輪郭22c
は、完全に閉じた輪郭として指定される必要はなく、閉
じた輪郭が指定されなかった場合は、輪郭の始点と終点
を結び、閉じた輪郭として記憶装置13のメモリ13b
に格納されるようにしてもよい。なお、図2に示す原画
像22aと原画像22bとは同じ画像を示しており、説
明の便宜上2つに分けている。すなわち、原画像22a
は領域指定する前の画像を示し、原画像22bは領域指
定した後の画像を示している。
【0067】そして、物体領域の情報がメモリ13bに
格納された後で、次のステップ(S4)に移行する。
【0068】次いで、原画像の領域分割が行われる(S
4)。ここで、画像分割部17は、メモリ13aに格納
された原画像22aを読み込み、領域分割処理を行う。
すなわち、画像分割部17は、平滑化部17a、ラベリ
ング部17b、モードフィルタ部17cを用いて、画像
中の画像の特性値が類似する画素が連続する領域を、単
一の領域として原画像から分割する。分割された領域の
情報はメモリ13cに格納される。この領域分割処理の
詳細は後述する。
【0069】続いて、領域色変換が行われる(S5)。
ここで、領域色変換部18は、メモリ13aに格納され
た原画像22aと、S4で生成され、メモリ13cに格
納された分割領域の情報とに基づいて、各分割領域の色
をそれぞれ決定し、決定された色を用いて各分割領域内
を描画することにより、図2に示す分割領域変換画像
(以下、分割領域画像と称する)23を生成し、メモリ
13cに再度格納する。この領域色変換処理の詳細は後
述する。すなわち、上記領域色変換部18は、分割され
た各領域の色をそれぞれ決定して分割領域変換画像を生
成する分割領域変換画像生成手段を構成している。
【0070】次いで、物体領域の抽出/変換が行われる
(S6)。ここで、物体領域生成部19は、メモリ13
aに格納された原画像22aとメモリ13bに格納され
た領域輪郭座標位置の情報とに基づいて、物体領域の抽
出と領域の色を決定し、決定された色を用いて抽出され
た領域内を描画することにより、図2に示す物体領域変
換画像(以下、物体領域画像と称する)24を生成し、
メモリ13dに格納する。この物体領域生成処理の詳細
は後述する。すなわち、上記物体領域生成部19は、物
体領域を抽出すると共に、該物体領域の色を決定して物
体領域変換画像を生成する物体領域変換画像生成手段を
構成している。
【0071】次いで、線画像生成が行われる(S7)。
ここで、線画像生成部20は、メモリ13aに格納され
た原画像22aと、S5で生成され、メモリ13cに格
納された分割領域画像23と、S6で生成され、メモリ
13dに格納された物体領域画像24とに基づいて、図
2に示す線画像25を生成し、メモリ13eに格納す
る。この線画像生成処理の詳細は後述する。
【0072】続いて、中間画像の合成が行われる(S
8)。すなわち、上述のS7の動作が終ると、当該フロ
ーチャートの動作は、S8に進む。ここで、画像合成部
21は、S5〜S7で生成され、メモリ13c〜13e
に格納された中間画像である分割領域画像23、物体領
域画像24、線画像25を順に重ねることにより1枚の
画像に合成し、図2に示す処理結果画像26として、メ
モリ13fに格納する。この画像合成処理の詳細は後述
する。
【0073】最後に、処理結果表示が行われる(S
9)。すなわち、メモリ13fに格納された処理結果画
像26が、表示装置15に表示される。この場合の画像
は、入力画像がカラー画像であるので、カラーのイラス
ト風の画像となる。
【0074】なお、S4、S5とS6における処理は並
行して実施されても良い。また、S4、S5はS3の前
に行なわれても良い。
【0075】また、上記の画像処理の説明では、処理結
果の画像がカラー画像の場合について説明しているが、
処理結果の画像がモノクロ画像の場合についても同様に
できる。
【0076】処理結果の画像がモノクロ画像の場合、特
にカラー化に必要な処理、すなわち、S4、S5を必ず
しも行なう必要はない。したがって、画像分割部17、
およびメモリ13cは必要ない。また、線画像生成部2
0中の境界線画部20cも必要ない。この場合、S8に
おいて画像合成部21は、メモリ13dと13eに格納
された物体領域画像24、線画像25を、順に重ねるこ
とにより1枚の画像に合成し、図2に示す処理結果画像
27として、メモリ13fに格納し、S9へ進むように
すればよい。
【0077】次に、本画像処理装置における画像処理の
各処理の詳細について説明する。なお、ここでは、入力
画像がカラーである例を中心に説明し、グレースケー
ル、いわゆるモノクロの場合については別途説明を追加
する。
【0078】はじめに、領域分割処理について説明す
る。図4は、図3に示したフローチャートのS4の領域
分割処理の詳細を表すフローチャートである。また、図
5は、この領域分割処理動作によって後述のラベル画像
が生成される様子を簡単に示した説明図である。図4の
フローチャートと図5を用いて、画像分割部17におけ
る上述の領域分割処理動作を説明する。
【0079】まず、平滑化処理を行う(S11)。すな
わち、図3のフローチャートでS3からS4に進むと、
図4のフローチャートのS11に移行する。ここで、平
滑化部17aは、入力された原画像の画像信号の平滑化
動作を実施する。
【0080】つまり、任意の位置の或る画素に対する平
滑化動作は、たとえば、該画素の8近傍の画素の各単色
光(赤、緑、青)の輝度値を各単色光毎に平均し、求ま
った単色光毎の平均値を該画素の単色光毎の輝度値とす
ることにより行なわれる。そして、入力された原画像中
の全ての画素に対して上記平滑化を行なう。以降、各画
素毎の画素データとして、平滑化された輝度値が与えら
れた画像を平滑化画像として定義する。
【0081】この平滑化画像の単純な例を図5(a)に
示す。すなわち、図5(a)に示す平滑化画像では、単
色光毎の平均値から分割領域画像が6つの色で、領域4
0〜45に分割されている。
【0082】したがって、上記平滑化部17aによる平
滑化処理により、画像信号に含まれる雑音成分の影響を
低減させることが出来る。平滑化手法は、この他の別の
手法を用いてもよい。
【0083】次に、ラベリング処理を行う(S12)。
ここで、ラベリング部17bは、S11で求めた平滑化
画像に対して、画素のラベリング動作を実施する。
【0084】つまり、ラベリング動作は、画素データが
類似する画素に同一の領域番号を付ける動作であり、画
像内の全ての画素について、画素単位で実施される。具
体的には、任意の位置の或る画素に対し、該画素と該画
素の近傍の複数の画素について、画素間の色差を算出す
る。続いて、色差とあらかじめ定める基準色差を比較
し、基準色差以上の色差をもつ画素間は別の領域に含ま
れると判定し、互いに異なる領域番号を付ける。逆に、
基準色差未満の色差をもつ画素間は同じ領域に含まれる
と判定し、同一の領域番号を付ける。これによって、平
滑画像を構成するすべての画素が、複数の領域のいずれ
かに属するように、ラベリング動作が実施される。以
降、各画素毎の画素データとして、領域番号が与えられ
た画像をラベル画像として定義する。
【0085】このラベル画像の例を、図5(a)の平滑
化画像に対し、図5(b)に示す。すなわち、図5
(b)に示すラベル画像では、6つの領域40〜45に
対してそれぞれ数値(領域番号)が付与されている。領
域40に対して領域番号『3』が、領域41に対して領
域番号『1』が、領域42に対して領域番号『4』が、
領域43に対して領域番号『6』が、領域44に対して
領域番号『2』が、領域45に対して領域番号『5』が
付与されている。
【0086】ここで、前記色差を算出する方法として
は、たとえば、画素データの各単色光毎の輝度値を画素
間でそれぞれ減算処理することにより差分値を算出し、
各単色光毎の差分値の合計値を色差として算出する。色
差算出手法は、この他の別の手法を用いても良い。たと
えば、画素データを各単色光の輝度値から、色相(H)
・彩度(S)・輝度(V)で表現されるHSV値に変換
し、色差を求める2画素のHSV空間上での位置を求
め、その間の距離値を色差としてもよい。
【0087】次に、モードフィルタ処理を行う(S1
3)。ここで、モードフィルタ部17cは、S12で求
めたラベル画像中の微小な領域を隣接の他の領域と統合
する。任意の位置の或る画素に対する統合手法は、たと
えば、或る画素の領域番号を、該画素の周辺の複数の画
素に付けられた領域番号のうちでもっとも出現頻度が高
い領域番号、すなわち、周囲の複数の画素がもっとも多
く属する領域の領域番号に置き換えることで実施され
る。これにより、分割面積が極めて小さい領域を除去し
て、ラベル画像が、領域面積の比較的大きな領域のみで
構成されるようにすることが出来る。
【0088】例えば、統合処理された画像の例を、図5
(b)に示すラベル画像に対し、図5(c)に示す。す
なわち、図5(b)で領域番号『2』が付与された領域
44と領域番号『5』が付与された領域45とは、それ
ぞれ近傍画素である領域40の領域番号『3』が付与さ
れる。これにより、ラベル画像中の微小な領域を適切な
色に導くようになっている。
【0089】なお、以上の説明では、入力される原画像
がカラー画像の場合を中心に説明したが、これに限定す
るものではなく、例えば入力される原画像がグレースケ
ール画像の場合、上述のS11の平滑化は各画素の単色
光毎の輝度値の平均ではなく、各画素の輝度値の平均を
とればよい。
【0090】同様にS12のラベリング動作において算
出される色差は、各単色光の輝度値の差分値の合計では
なく、画素の輝度値の差分値を色差と定義し、算出すれ
ばよい。
【0091】また、HSV空間上で色差を算出する方法
を用いるならば、画素の輝度値をVとし、残りのH、S
値を0として、画素データをHSV値に変換してから上
述にあるように色差を算出してもよい。
【0092】以上のS13の処理が終了すると、図3の
S4の動作、すなわち領域分割処理が終了し、次いで、
図3のS5へと進む。
【0093】次に、領域色変換処理について説明する。
上述のラベル画像と原画像から、分割領域の色を決定
し、決定された色を用いて分割領域内を描画することに
より、分割領域画像を生成する。ここで、具体的な分割
領域の色(領域色)を決定する方法について、図6に示
すフローチャートを参照しながら以下に説明する。
【0094】まず、分割領域の代表色の算出を行う(S
21)。ここで、領域色変換部18の代表色取得部18
aは、メモリ13aに格納された原画像と、画像分割部
17で求めたラベル画像から分割領域毎にその領域を代
表する色(代表色)を算出する。
【0095】具体的な代表色の算出手法としては、たと
えば、ラベル画像中のある領域番号の領域内の全ての画
素の座標に対応する原画像中の画素データ、すなわち、
各単色光の輝度値をそれぞれ平均し、求まった単色光毎
の平均輝度値を各単色光毎の輝度値とする画素データ
を、その領域の代表色とする。代表色の算出は、この他
の手法を用いて決定してもよい。
【0096】次に、RGB→HSV変換を行う(S2
2)。ここでは、該代表色(RGB)を色相・彩度・輝
度によるデータ(HSV)に変換する。
【0097】続いて、代表色の属するトーンを調査する
(S23)。ここでは、彩度、輝度を軸とした空間上
で、該代表色の彩度・輝度値に基づき、該代表色がこの
空間上のどの部分空間に属するかを決定する。以後、こ
の彩度、輝度を軸とした空間全体をトーン空間と定義
し、トーン空間の部分空間をトーンと定義する。
【0098】具体的には、たとえば図7に示すように、
輝度、彩度のスケールを均等にレベル1からレベル8ま
でのレベルに分割することにより、全部で64の領域に
トーン空間内を分割し、その各領域をトーンとして定義
する。したがって、S22で求めた該代表色の彩度・輝
度値から、該代表色はトーン空間内の或るトーンと一意
に関係付けることができる。たとえば、彩度・輝度のス
ケールが1であり、該代表色が彩度0.7、輝度0.4
である場合、該代表色は、彩度レベル6、輝度レベル4
のトーン(図中斜線部分)に属することになる。
【0099】次に、上記代表色の輝度レベルが2〜7
(2以上7以下)の範囲にあるか否かを判断する(S2
4)。ここで、代表色の輝度レベルが上記の範囲にあれ
ばS25に移行し、範囲になければS27に移行する。
【0100】S25では、S24で調査した代表色に対
して更に、彩度レベルが2以上であるか否かを判断す
る。すなわち、更に該代表色のトーンの彩度レベルを調
べる。もし彩度レベルが2以上であるならばS26に移
行し、そうでなければ、S28に移行する。
【0101】S26では、上記代表色を、該当トーンに
対応する彩度・輝度に変更する。すなわち、あらかじめ
該代表色の属するトーンに一意に決定付けられている彩
度・輝度を、該領域の領域色の彩度・輝度とする。
【0102】代表色のトーンから彩度・輝度値を決める
具体的な方法としては、例えば、図8に示すように、代
表色の属するトーンより彩度・輝度レベルが一段上のト
ーン内における彩度・明度の最大値を、該トーンの彩度
・輝度値として定義する。つまり、図8(a)に示すト
ーン空間で設定された代表色のトーン(彩度レベル6,
輝度レベル4)に対して、図8(b)に示すように、彩
度・輝度ともに1段階大きくした位置のトーン(彩度レ
ベル7,輝度レベル5)を採用し、さらに、図8(c)
に示すように、図8(b)で示したトーン内における最
大彩度・輝度値に代表色の彩度・輝度値を変換する。こ
れによって、代表色を、より明るく鮮やかな色に変換す
ることができる。図8(c)において、●は代表色を変
換した領域色を示す。
【0103】なお、トーンから彩度・輝度値を決める方
法は、別の方法を用いても良い。たとえば、図9(a)
に示すトーン空間から、図9(b)に示すように、トー
ン空間の分割レベルをもっと少なくした上位トーンを新
たに定義し、図9(c)に示すように、該トーンの含ま
れる上位トーン内の彩度・明度の最大値を、該トーンの
彩度・輝度値として定義しても良い。これによれば、代
表色は画像全体としてより色合いが統一された色に変換
することができる。図9(c)において、●は代表色を
変換した領域色を示す。
【0104】一方、S24で代表色の輝度レベルが2〜
7の範囲でない場合には、彩度・輝度は代表色の彩度・
輝度と同じにする(S27)。ここでは、領域色の彩度
・輝度値として、該代表色の彩度・輝度値をそのまま用
いる。すなわち、輝度が極端に高い、または低い代表色
は、色変換を行なわずに、代表色をそのまま領域色に適
用する。
【0105】これにより、輝度レベルが1や8の代表
色、すなわち輝度が極端な値をもつ代表色の彩度が不安
定な場合に、余分な色変換を行なわないようにすること
ができる。そして、S27の処理の終了後、S32に移
行する。
【0106】また、S25で彩度レベルが2未満の場
合、S28に移行する。ここでは、領域色の彩度値は無
条件に0とする。すなわち、彩度が低い代表色をもつ領
域の領域色は、無彩色として定義される。これにより、
人間が知覚しやすい無彩色により近い色は、完全に無彩
色として扱い、余計な色変換を行なわないようにする。
【0107】そして、S28の処理が終了すると、続い
て、S29に移行する。ここでは、該トーンの輝度レベ
ルが3以上かどうかを調べる。3以上であるならば、S
30に移行し、3未満ならばS31に移行する。
【0108】S30では、領域色の輝度値を、代表色の
輝度値+(最大輝度値−代表色の輝度値)により算出す
る。
【0109】これにより、ある程度の輝度値をもつ代表
色は、輝度値の底上げが行なわれ、より明るい無彩色に
変換されることになる。S30が終了すると、S32に
移行する。
【0110】一方、S31では、領域色の輝度値を、該
代表色の輝度値とする。すなわち、彩度が低く、かつ、
輝度があまり高くない代表色は、輝度値を変更せずに、
無彩色に変換する。これにより、たとえば、より黒色に
近い代表色は、黒さを保ったままで、かつ、完全に彩度
のない無彩色として変換されることになる。S31の処
理が終了すると、S32に移行する。
【0111】S32では、HSV→RGB変換を行う。
すなわち、ここでは、ここまでの各ステップを経て求ま
った領域色の彩度・輝度に加えて、該代表色の色相を領
域色の色相とし、これにより定まった領域色の色相・彩
度・輝度(HSVデータ)を各単色光(赤、緑、青)の
輝度値(RGBデータ)に変換する。以後、変換された
各単色光の輝度値で表現される色を領域色とする。
【0112】以上のステップにより図6のフローチャー
トの処理は終了し、分割領域内を描画する色である領域
色を決定することが出来る。上記の領域色の決定は、す
べての分割領域に対して行なわれる。求められた領域色
を用いて、ラベル画像内の領域位置に対応する領域内を
描画することにより、分割領域画像が生成される。
【0113】分割領域画像の生成が終了すると、図3の
S5が終了し、次いで、図3のS6へと移行する。
【0114】なお、以上の説明では、入力される原画像
がカラー画像の場合を中心に説明したが、入力される原
画像がグレースケール画像の場合は、処理対象となる画
素の各単色光の輝度値が、原画像(グレースケール画
像)の該画素の輝度値と全て同じ値とした後で、上述の
図6のフローチャートに従って処理を行えば良い。
【0115】続いて、物体領域生成処理について説明す
る。ここでは、上述の領域輪郭座標位置の情報(ユーザ
ー入力パターン)と原画像とから、物体領域の抽出と領
域の色を決定し、決定された色を用いて抽出された領域
内を描画することにより物体領域画像を生成する。ここ
で、具体的な生成手法について、図10〜22を用い
て、詳細に説明する。
【0116】本処理を説明するために、あらかじめ以下
の手順で抽出すべき物体の色分布を解析しておく。
【0117】1. 人間が手作業にて、対象物体が写って
いる画像より、その物体のもっとも支配的な色で構成さ
れた領域のみを抽出した支配領域色画像を作成する。支
配的な色とは、例えば、図11(a)に示すように、物
体が人間の顔の場合、図11(b)に示すように、顔の
色を示す肌色のことであり、その物体の色を表す一系統
の色のことである。
【0118】2. 同様の画像を別の物体についても複数
個作成する。
【0119】3. それらの支配色領域画像において、画
素の色分布を、図12に示す出現頻度のヒストグラムと
して表す。すなわち、図12(a)に示す曲線32aは
色相のヒストグラム、図12(b)に示す曲線32cは
彩度のヒストグラム、図12(c)に示す曲線32eは
明度のヒストグラムを示している。
【0120】4.各ヒストグラムにて、分布の平均と分
散を求め、分布に最もよくフィットするような正規確率
密度関数(以下の式(1))を求める。色相、彩度、明
度の各正規確率密度関数は、それぞれ図12(a)では
曲線32b、図12(b)では曲線32d、図12
(c)では曲線32fで示される。
【0121】かくして、該物体の色分布は、色相、彩
度、明度それぞれについて、その平均値と分散(それぞ
れ、μhue 、σhue2、μsat 、σsat2、μval 、σva
l2)の2つの引数で表される正規確率密度関数(Phue
(x) 、Psat(x) 、Pval(x) )で表すことができる(式
(2)〜(4))。そして、式(5)〜(7)で与えら
れる式をそれぞれ、色相、彩度、明度を与えた時の、物
体領域確率密度関数と呼ぶ。
【0122】 P(x) 〜 N(μ,σ2) ≡ P(x) = 1/(2π(1/2) ) * exp(-((x- μ)2)/(2 σ2) ・・・・(1) Phue(x) 〜 N(μhue, σhue2) ・・・・(2) Psat(x) 〜 N(μsat, σsat2) ・・・・(3) Pval(x) 〜 N(μval, σval2) ・・・・(4) Fhue(x) = Phue(x) / Phue( μhue) ・・・・(5) Fsat(x) = Psat(x) / Psat( μsat) ・・・・(6) Fval(x) = Pval(x) / Pval( μval) ・・・・(7) なお、平均と分散を求めて正規分布にあてはめる際、平
均から大きくずれるような値(例えば、図12(a)に
示す色相の分布ヒストグラムにおいて、20位を中心に
±30程度にほとんどの画素の色相が分布するような場
合に、100や−150といった値)は、たとえ数が少
なくとも、分散を大きく見積もってしまうことになるた
め、それらの色相値をもつ画素は異常値として除去した
のち、平均と分散を計算したほうが、より正しい分布に
あてはめられる正規分布曲線(確率密度関数)を得るこ
とができる。
【0123】次に、物体領域抽出処理の流れを図10に
示すフローチャートを参照しながら以下に説明する。
【0124】まず、処理対象領域の設定を行う(S4
1)。ここで、図13(a)において、ユーザーにより
入力されたパターン(以下、ユーザー入力パターンと称
する)に基づき処理対象領域を設定する。画像41に対
し、人間の顔領域を指定するようなパターンがユーザー
によって入力された場合、そのユーザー入力パターン4
2の外接矩形の上下左右各辺をそれぞれ上方向、下方
向、左方向、右方向に拡張して得られる矩形43処理対
象領域とする。また、ユーザー入力パターン42で囲ま
れた領域を、図13(b)に示すように、入力マスク領
域44とする。
【0125】次に、物体領域候補画素の算出を行う(S
42)。つまり、入力画像は各画素RGB値で表現され
ているとし、処理対象領域内にて、該入力画像の各画素
のRGB値より求められる、色相、彩度、明度をそれぞ
れ引数として、3つの関数Fhue(x) 、Fsat(x) 、Fval
(x) の値を求め、各値が特定のしきい値以上になるよう
な画素を最初の物体領域候補画素とする。ここで、上記
式(2)〜(4)で与えられる値は、各式にそれぞれ、
ある画素の色相、彩度、明度を与えた時に、その画素
が、これから抽出しようとする物体領域を構成する画素
である確率を与えるものである。
【0126】この時、設定する確率は、例えば5%のよ
うに、なるべく広い範囲をとるように小さめに設定すべ
きである。また、引数が平均(正規分布曲線の極大点)
より小さい場合と大きい場合とで違う確率を設定する事
もあり得る。
【0127】このようにして、ユーザー指定によって設
定された処理対象領域のなかで、わずかでも物体領域を
構成する可能性のある画素を最初の物体領域候補画素と
する。
【0128】続いて、残った画素の色相、彩度、明度の
平均・分散の算出を行う(S43)。すなわち、上述の
物体領域候補画素のうち、入力マスク領域内の画素の、
色相、彩度、明度の平均と分散を求める。
【0129】ここで、物体領域候補画素の選択を、確率
を基準にして行うことを述べたが、撮像系の特性などに
より、適宜、この確率での画素値(色相、彩度、明度)
に近い値で適当にしきい値を調整することも有効であ
る。
【0130】新しく計算された色相、彩度、明度の平
均、分散をそれぞれ、μhue ’、σhue2’、μsat ’、
σsat2’、μval ’、σval2’とすると、色相、彩度、
明度を引数とした新しい確率密度関数( Phue ’(x) 、
Psat ’(x) 、Pval ’(x) )は、それぞれ、以下のよ
うに表される(式(8)〜(10))。そして、新しい
物体領域確率密度関数として、式(11)〜(13)を
定義する。
【0131】 Phue’(x) 〜 N(μhue ’, σhue2) ・・・・(8) Psat’(x) 〜 N(μsat ’, σsat2) ・・・・(9) Pval’(x) 〜 N(μval ’, σval2) ・・・(10) Fhue’(x) = Phue’(x) / Phue’( μhue ’) ・・・(11) Fsat’(x) = Psat’(x) / Psat’( μsat ’) ・・・(12) Fval’(x) = Pval’(x) / Pval’( μval ’) ・・・(13) これらの関数を用いて物体を構成する画素を選択する。
【0132】1. まず、処理対象領域に含まれるすべて
の画素を初期値とし、そのなかで、色相値を引数として
得られた物体領域確率(Fhue’(x) )が一定値以下の画
素を除去する。
【0133】2. 次に、彩度値を引数として得られた物
体領域確率(Fsat’(x) )が一定値以下の画素を除去す
る。
【0134】3. 最後に、明度値を引数として得られた
物体領域確率(Fval’(x) )が一定値以下の画素を除去
する。
【0135】ここで、しきい値として設定される確率の
下限は、最初の物体領域候補画素を求めた時より高く設
定する。例えば、前者が5%なら、後者は30%という
ようにする。これにより、最初の顔肌候補画素を求めた
時にノイズとして誤抽出されていたような画素も、後段
で行われた手法では誤抽出されない、といった特徴があ
ることになる。
【0136】ここで、物体領域画素の選択を、確率を基
準にして行うことを述べたが、撮像系の特性などによ
り、適宜、この確率での画素値(色相、彩度、明度)に
近い値で適当にしきい値を調整することも有効である。
【0137】例えば、図14(a)に示すように、物体
が顔である場合、明度に関して言及すると、顔肌と髪の
毛では明らかに明度が異なり、図14(b)に示すよう
に、ヒストグラムをとると明度値の小さいほうに髪の毛
を表す山45および、明度の比較的高いほうに顔肌領域
を表す山46が現れることになる。
【0138】したがって、図14(a)で示した画像に
対して、単純に確率をしきい値として画素を選択してし
まうと、図14(b)に示すように、明度値がX1のよ
うな位置にしきい値が設定されてしまい、髪の毛の一部
も顔肌画素として抽出されてしまう可能性がある。そこ
で、このような場合には、適当な明度値以下で「大津の
判別分析」のようなアルゴリズムを適用し、明度のしき
い値をX2のように、より適当な値に設定することが可
能となる。
【0139】以上のような方法で、適応的に物体領域確
率密度関数を更新することにより、図15(a)に示す
入力画像に対して、図15(c)に示すような物体領域
抽出画像を得ることができる。また、従来のような固定
関数で抽出する手法では、図15(b)に示すような物
体領域抽出画像が得られる。したがって、上記した本願
の方法により得られた図15(c)に示す物体領域抽出
画像は、図15(b)に示す従来のような固定関数で抽
出する手法で得られる物体領域抽出画像に比べ、ノイズ
による誤抽出が少なくなるという利点がある。
【0140】以上の説明は、入力画像がカラー画像であ
る場合のことであり、グレースケール画像の場合は以下
のようになる。
【0141】まず、カラー画像の場合には、あらかじめ
抽出すべき物体の色分布を解析するところで、各画素の
RGB値を変換することによって得られるHSV値の分
布を解析したが、グレースケール画像の場合には、各画
素の輝度値を同様の解析手法によって解析する。すなわ
ち、『色分布』とあるのを『輝度分布』に変更し、『支
配的な色』とあるのを『支配的な輝度』に変更すればよ
い。
【0142】そして、カラー画像では、HSV値それぞ
れについて求めていたものについて、グレースケール画
像では、輝度値だけが対象となるので、物体領域確率密
度関数は、3つでなく1 つだけ得られることになる。
【0143】また、上述の図10に示すフローチャート
のS43の処理において、『色相、彩度、明度』とある
のを『輝度』に変更し、上述の物体領域確率に基づいて
物体を構成する画素を選択する際の処理において、『色
相値』を『輝度値』に変更すると共に、『彩度値』およ
び『明度値』に基づいて画素を選択する処理を削除する
ことにより、入力画像がグレースケール画像の場合の処
理の流れを示すフローチャートを得ることができる。
【0144】したがって、上述のようにすれば、入力画
像がカラー画像の時と同じように、グレースケール画像
の場合であっても、物体領域抽出画像を得ることができ
る。
【0145】ここで、上記のような方法で得られた物体
領域抽出画像に対し、物体マスク画像を生成するための
処理について、図16および図17を参照しながら以下
に説明する。
【0146】まず、穴埋め処理を行う(S51)。ここ
では、得られた物体領域抽出画像を、図17(a)に示
す画像とする。白画素が物体領域を表す画素であり、黒
画素が背景領域を表す画素である。したがって、この画
像に対し、白色画素で囲まれた黒色画素(穴)を白色画
素に置き換えることにより、穴を塞いだ画像、すなわ
ち、図17(b)に示すような画像を得る。
【0147】次に、微小領域の削除を行う(S52)。
ここで、収縮処理を1回以上行うことにより、微小領域
を削除した画像、すなわち、図17(c)に示すような
画像を得る。
【0148】続いて、一部の領域を削除する(S5
3)。ここで、連結画素を結合していくことにより物体
領域を1つ以上の領域に分離し、各領域について、入力
マスク領域との面積の共有率に基づき、一部の領域のみ
を残し、残りの領域を削除する(この処理については後
述する)。このようにして得られた画像は、図17
(d)に示すような画像となる。
【0149】そして、物体マスク画像を生成する(S5
4)。ここでは、図17(d)に示す画像を1回以上膨
張させることで、図17(e)に示すような物体マスク
画像を得る。
【0150】ここで、上述の入力マスク領域との面積の
共有率に基づく処理について、図18を参照しながら以
下に説明する。
【0151】まず、物体領域抽出画像として、図18
(a)に示す画像が得られているとする。この画像は、
5つの領域51〜55を含んでいる。また、物体領域抽
出画像に対応する入力マスクを、図18(b)に示す画
像とする。そして、図18(a)に示す物体領域抽出画
像と図18(b)に示す入力マスクの重なり具合を示し
たものが、図18(c)に示す画像となる。
【0152】図18(a)に示す画像の領域52および
54であるが、これは、領域すべてが入力マスク内部に
含まれているため、入力マスクとの面積共有率は1.0
である。一方、領域55は、入力マスクと全く重なる部
分がないため、面積共有率は0.0である。領域53
は、領域のほとんどが入力マスク内に入っており、一部
だけが入力マスクの外にあるため、面積共有率は高い。
逆に、領域51は、領域の一部だけが入力マスク内にあ
り、ほとんどは入力マスク外にあるため、共有率は低
い。
【0153】ここで、領域rの面積共有率S(r) を次式
(14)に示すように定義する。
【0154】 S(r) = Area(Inmask & r) / Area(r) ・・・・・・・(14) ここで、Inmaskは入力マスク、Area(x) は領域 xの面
積、& は論理積を表す。各領域毎にこの面積共有率Sを
計算し、特定のしきい値を越える領域のみ残して、残り
を削除することで、入力マスクの形状に近い物体領域を
抽出することが可能になる。このようにして得られた画
像は、図18(d)に示す画像である。
【0155】さて、上で説明したことは、物体がひとつ
の支配的な色で構成されている場合であり、もし物体が
二つの以上の支配的な色で構成されている場合、上記の
ような方法を用い、各色についてそれぞれ領域抽出を行
う必要がある。例えば図19(a)に示す人間の顔画像
に対して、図19(b)に示す顔肌領域と、図19
(c)に示す髪の毛の領域とを別々に抽出する必要があ
る。
【0156】髪の毛の場合、図10で説明している確率
密度関数を用いる手法の他に、別の方法もある。髪の毛
は、原則として明度の低い画素で構成されていることが
多い。従って、S41で得られる処理対象領域内におい
て、判別分析法やP-TILE法などの手法を用いて二値化す
ることができる。
【0157】例えば図20(a)に示す入力画像を二値
化した場合、図20(b)に示す画像となる。このまま
では、髪の毛の他に、明度の低い別の領域が抽出されて
しまっている。後段の処理にて、不要な領域を削除し、
図20(c)に示すように、髪の毛の領域のみ残した画
像とする。
【0158】また、図21(a)に示す入力マスク領域
に基づいて、処理対象領域を幾つかのエリアに分割す
る。図21(b)は、4つのエリアに分割し、それぞれ
のエリアに重み付け係数を設定している例である。この
係数に基づいて各領域の重み付け面積を算出する。ここ
で、領域をR、点Pでの重み付け係数を Wp とすると、
領域Rの重み付け面積Rwareaは、次式(15)で与え
られる。
【0159】 このようにして算出した重み付け面積が、一定のしきい
値以上の領域のみ残して、残りを削除することで、髪の
毛の領域のみを抽出することができる。すなわち、図2
1(c)に示す画像から余分な領域を削除することで、
図21(d)に示すような髪の毛の領域のみを抽出した
画像を得ることができる。ここで用いる、エリアの分割
方法と係数は、目的に応じて、様々に変化させる。
【0160】ところで、髪の毛のように黒い、すなわ
ち、明度が極端に低い画素で構成されている領域、ある
いは、白紙などの白い、すなわち、彩度が極端に低い画
素で構成されている領域の場合、物体領域確率密度関数
を導出する方法よりも、上記判別分析法などを用いた二
値化を手法を使ったほうがよいことがある。確率密度関
数を適用する色空間にもよるが、例えばHSV色空間を
用いた場合、黒い画素(RGB値がすべて小さい値の画
素)や白い画素(RGB値がすべて高い値の画素)は、
RGB値からHSV値に変換する際、色相や彩度を精度
よく計算できない場合があるからである。
【0161】さて、上記のようにして領域を抽出するこ
とができるが、この領域内をさらに複数の領域に分割す
ることもできる。
【0162】例えば図22(a)に示す入力画像に対し
て、顔領域が抽出された場合、図22(b)に示すよう
な画像となる。この顔領域内を例えば、明るい領域と暗
い領域の2つに分割するとする。ここでも、判別分析法
やP-TILE法などを用いればよく、抽出された顔領域内の
輝度値のヒストグラムを作り、それを元にしきい値を決
定すればよい。図22(c)は、抽出された顔領域をさ
らに2つに分割したものであり、入力された画像の顔領
域の明るさに応じて、2つに分割されている。3つ以上
への分割も同様の方法で可能である。
【0163】以上の動作により、物体領域の抽出が終了
する。
【0164】続いて、抽出された物体領域内をあらかじ
め物体に応じて設定された色で描画することにより、物
体領域画像が生成される(S44)。たとえば、前述の
顔画像の場合、顔肌、影、髪の毛などの領域の色を、人
間の知覚に対して、より違和感のない色となるように実
験的に求めておき、その色で描画する。物体領域画像の
生成が終了すると、図3のS6が終了し、次いで、図3
のS7の線画像生成処理へと進む。
【0165】なお、上述の物体領域生成処理について
は、出力する画像がカラー画像の場合について述べた
が、これに限定するものではなく、例えばモノクロ画像
であっても基本的には同様の処理が適用できる。
【0166】つまり、出力する画像がモノクロ画像の場
合、上記物体領域抽出処理において生成された物体領域
内を描画する色は2値(白または黒)である必要があ
る。たとえば、前述の顔画像の場合ならば、髪の毛を黒
画素、顔肌を白画素で描画し、影領域を黒と白の市松模
様となるように描画することによって実現できる。
【0167】続いて、線画像生成処理について説明す
る。ここでは、上述の原画像と、図3のS4で生成され
た分割領域画像と、S6で生成された物体領域画像とか
ら線画像を生成する。線画像生成処理の流れを図23お
よび図24に示すフローチャート並びに図25を参照し
ながら以下に説明する。
【0168】まず、エッジ画像の生成が行われる(S6
1)。ここでは、原画像と物体領域画像からエッジ画像
を生成する。
【0169】ここで、エッジ画像の具体的な生成方法に
ついて、図24を用いて以下に説明する。なお、説明の
便宜上、入力画像を格納するメモリとして入力画像用メ
モリM1、平滑化画像を格納するメモリとして平滑化画
像用メモリM2、出力画像を格納するメモリとして出力
画像用メモリM3を用いる。これらメモリM1〜M3
は、記憶装置13内に存在するものとする。
【0170】はじめに、入力画像を入力画像用メモリM
1(以下、メモリM1とする)に格納する(S71)。
この入力画像用メモリM1は、図1に示す記憶装置13
内に存在するものとする。そして、入力画像用メモリM
1における画像の格納方法は、画像(横:X画素,縦:
Y画素)に対し、画像左上の画素から画像右下の画素へ
と順に輝度値を格納していく。すなわち、座標(x,
y)の輝度値VをメモリM1の(x+X×y)番目に格
納する。画像1枚につきメモリ容量は(X×Y)byt
e必要である。また、平滑化画像用メモリM2(以下、
メモリM2とする),出力画像用メモリM3(以下、メ
モリM3とする)の構成も同様である。なお、入力画像
がカラー(R,G,B)の場合には、輝度値VをV←
0.30 ×R+0.59×G+0.11×Bと求めて同様にM1に
格納する。
【0171】輝度値は、1画素につき1byte(=8bit)で表
現されるため、とりうる値の範囲は、0〜255であ
る。
【0172】次に、メモリM1内の画像を平滑化し、メ
モリM2に格納する(S72)。ここで、線画像生成部
20は、入力画像用メモリM1に格納された画像の平滑
化を行なう。具体的には、座標(x,y)におけるメモ
リM1の値をM1(x,y)とすると、 (M1(x−3,y−3)+M1(x,y−3)+M1
(x+3,y−3)+M1(x−3,y )+M1
(x,y )+M1(x+3,y )+M1(x−
3,y+3)+M1(x,y+3)+M1(x+3,y
+3))/9 を計算してメモリM2のM2(x,y)に値を格納し、
画像の全画素に対して同様の処理を行なう。
【0173】上下左右斜め8方向に対して均等の処理と
なるので、従来のエッジ抽出手法である、Sobel フィル
タを使用して輪郭を検出する場合と異なり、結果が画素
濃度勾配の方向に依存しない。
【0174】なお、平滑化に使用する画素の範囲は上記
9画素に限らず、さらに広い範囲や狭い範囲の画素を対
象にしてもよい。
【0175】続いて、メモリM1内の画像と、メモリM
2内の画像の差分を求め、メモリM3に格納する(S7
3)。ここで、線画像生成部20は、平滑化後の画素値
と平滑化前の画素値との差分を求める。
【0176】具体的には、座標(x,y)においてメモ
リM1のM1(x,y)とメモリM2のM2(x,y)
の値を比較し、M1(x,y)≧M2(x,y)であれ
ば、 M3(x,y)← 255 M1(x,y)<M2(x,y)であれば、 M3(x,y)← 255 −(M2(x,y)−M1
(x,y)) を代入し、画像の全画素に対して同様の処理を行なう。
単にメモリM1とメモリM2の画素値の差分の絶対値を
取る方法も考えられるが、この場合、近傍に明るい画素
のある暗い画素と、近傍に暗い画素のある明るい画素の
両方で差分値が大きくなるため、後述処理において2値
化した結果は、Sobel フィルタを使用して検出した場合
と同様に輪郭領域が大きく検出され、画像のイラスト化
を目的とした結果としては好ましくない。従って、メモ
リM2とメモリM1との差が正となる近傍に明るい画素
のある暗い画素のみが検出されるように上記式で計算を
行なう。
【0177】次いで、メモリM3内の画像を2値化する
(S74)。ここで、線画像生成部20は、メモリM3
に格納された画像の2値化を行なう。具体的には、例え
ば、あらかじめ定めたしきい値Th1とメモリM3のM
3(x,y)の値を比較し、M3(x,y)≧Th1で
あれば、 M3(x,y)←0(白) M3(x,y)<Th1であれば、 M3(x,y)←1(黒) を代入し、画像の全画素に対して同様の処理を行なう。
なお、白を1,黒を0として表すことも可能である。
【0178】しきい値Th1として、あらかじめ定めた
値を使わずに、適応的に決定する手法もあり、それら他
の手法をS74において使用することも可能である。例
えば、公知技術「大津の判別分析法」を用いることもで
きるし、前記の「物体領域抽出処理」によって抽出され
た領域内部を、公知技術「P-TILE法」で求めることなど
が考えられる。
【0179】さらに、メモリM1もしくはM2内の画像
を2値化し、メモリM3との論理和もしくは論理積を求
める(S75)。ここで、線画像生成部20は、メモリ
M1もしくはメモリM2に格納された画像の2値化を行
なう。具体的には、例えばメモリM1に格納された画像
の2値化を行なう場合、あらかじめ定めたしきい値Th
2とM1(x,y)の値を比較し、M1(x,y)≧T
h2であれば、 M3(x,y)←M3(x,y)と0の論理和 M1(x,y)<Th2であれば、 M3(x,y)←M3(x,y)と1の論理和 を代入し、画像の全画素に対して同様の処理を行なう。
なお、白を1,黒を0として表した場合は、M1(x,
y)≧Th2であれば、 M3(x,y)←M3(x,y)と1の論理積 M1(x,y)<Th2であれば、 M3(x,y)←M3(x,y)と0の論理積 を代入し、画像の全画素に対して同様の処理を行なう。
【0180】しきい値Th2を求める方法としては、公
知技術、「大津の判別分析法」や、「P-TILE法」などが
あり、目的に合わせてどのようなしきい値判定法を用い
てもよい。
【0181】上記処理の結果、メモリM3には2値化さ
れた画像データが格納される。
【0182】以上の動作により、エッジ画像が生成さ
れ、図23に示すS62に移行する。S62では、境界
線画像の生成が行われる。すなわち、分割領域画像から
境界線画像を生成する。具体的な生成方法について、図
25を用いて以下に説明する。
【0183】まず、前記分割領域画像から、各分割領域
の面積値A(n)、及び各領域の領域色C(n)を算出
する。ここで、nは領域番号を表す。
【0184】次に、互いに領域境界が接している2領域
を検出する。図25(a)に示す分割領域画像の場合、
領域61と領域62、領域62と領域63、領域62と
領域64、領域63と領域64が検出される。
【0185】次に、検出された互いに接している領域n
とn’の面積値と領域色について、あらかじめ設定した
閾値Th_AとTH_Cに対し、 (条件1)面積値A(n)>Th_A かつ 面積値A
(n’)>TH_A (条件2)領域色C(n)とC(n’)の色差 > TH
_C であるならば、領域nとn’が互いに接している領域境
界上の位置にある画素を黒画素とする。そうでなければ
該画素を白画素とする。また、各分割領域内の画素は、
全て白画素とする。これにより、領域境界上の画素で上
記条件をみたす画素は黒画素で、それ以外の画素は白画
素となる画像(境界線画像)が生成できる。
【0186】たとえば、図25(a)に示す分割領域画
像の場合、上述の互いに領域境界を接している2領域の
うち、領域63と領域64の組合せ以外は、上記2条件
を満たしたとすると、図25(b)に示す線分65と線
分66が描画されることになる。
【0187】ここで、条件(1)は、領域面積がある程
度以上の大きさをもつ領域同士の境界、条件(2)は領
域色があまり類似していない領域同士の境界を意味し、
この2つの条件を満たす境界にのみ線が引かれることに
なる。この条件を科すことにより、各領域が過分割であ
る場合も、違和感のない境界線画を生成できる。なお、
上記条件は、イラスト画の生成を目的としたものだが、
生成する画像の目的や用途に応じて別の条件を用いても
構わない。
【0188】また、条件(2)における色差の計算は図
3のS4において用いた色差計算式を適用すれば良い。
また、各条件の閾値Th_AとTH_Cは、実験的に求
めた固定値を用いても良いし、画像に応じて適応的に変
更しても良い。具体的には、原画像サイズ(全領域の面
積値合計)に対するTh_Aの割合を、たとえば、20
%と定義し、入力された原画像サイズを0.2倍するこ
とによりTh_Aを算出すれば、Th_Aを画像に応じ
て適宜再設定することができる。これにより、原画像の
サイズの変化に対して、より柔軟に対応した境界線画像
を生成できる。
【0189】以上の動作により、境界線画像が生成さ
れ、S62が終了する。次いで、S63に移行する。
【0190】S63では、画像の合成が行われる。ここ
では、S61で生成されたエッジ画像と、S62で生成
された境界線画像とを合成する。具体的には、黒画素を
0、白画素を1とした場合、両画像の同じ座標の画素デ
ータの論理積をとることによって、両画像を合成する。
【0191】最後に、S64では、合成画像の孤立線除
去が行われる。ここでは、S63で生成された合成画像
に対して、孤立線の除去が行われる。具体的には、以下
の手順で行なわれる。
【0192】まず、合成画像中の任意の画素に対し、該
画素が黒画素であるものを検出する。次に、該画素の周
囲8近傍の黒画素を調べ、該画素に連結している黒画素
の数を求める。連結している黒画素があれば、さらにそ
の画素の周囲8近傍を調査する。連結している画素がな
くなるまで再帰的に近傍を調査し、連結数を求める。最
後に、連結数がある数より少ない黒画素は、孤立線とし
て、黒から白画素に変更することにより、除去する。
【0193】以上の動作により線画像の生成が終了し、
図3のS7からS8へと進む。
【0194】なお、図23に示したエッジ画像を生成す
るS61と境界線画像を生成するS62は、並行して実
施されても良い。
【0195】また、上記の説明では、出力画像がカラー
画像の場合について説明したが、出力画像がモノクロ画
像の場合、すなわち図3のS4、S5の処理動作を省い
ている場合は、分割領域画像が生成されないので、S6
2による境界線画像を生成できない。この場合、S62
を省き、S63の合成画像は、S61で生成されたエッ
ジ画像と同一とすれば良い。
【0196】図3のS8では、上述のS5〜S7で生成
された分割領域画像、物体領域画像、線画像を、順に重
ねることにより1枚の画像に合成し、処理結果画像を生
成する。具体的な合成方法を図2を用いて説明する。
【0197】まず、メモリ13cに格納された分割領域
画像23を合成結果画像を格納するメモリ13fに転送
する。
【0198】次いで、メモリ13dに格納された物体領
域画像24中の物体領域部分に存在する画素値を、メモ
リ13f上の同一座標の画素値に上書きする。
【0199】最後に、メモリ13eに格納された線画像
25中の画素で、黒画素のみをメモリ13f上の同一座
標の画素値に上書きする。これにより、メモリ13f上
に最終的な合成結果画像が生成される。
【0200】以上の動作により、ユーザーが指定した領
域のみを顔画像として似顔絵風に強調処理し、かつ、そ
れ以外の領域もイラスト風に変換した画像を得ることが
出来る。
【0201】なお、本実施の形態では、入力画像として
主にカラー画像を用いた場合について説明したが、これ
に限定されるものではなく、上述したように、入力画像
がグレースケール画像(モノクロ画像)の場合であって
も、本発明は適用できる。
【0202】したがって、入力画像がグレースケール画
像の場合であっても、ユーザーが指定した領域を強調し
たイラスト風の画像を、違和感なく生成することができ
る。
【0203】以上のことから、本発明は、パソコン、ワ
ープロ、ワークステーション、オフコン、携帯型情報ツ
ール、コピー機、スキャナ装置、ファクシミリ、テレ
ビ、ビデオ、ビデオカメラなどにおいて、画像を取得す
る装置、画像を記憶する装置、画像を表示する装置を持
つシステムで、利用者がマウスやペン、タブレットなど
の座標入力装置を用いて当該画像上の任意の座標を指定
できるもの、あるいは、あらかじめ紙などに印刷された
画像に異なるインクなどを用いて座標指定があるものを
光電変換し、当該画像と指定された座標を入力する事の
できる装置を持つシステムならば、上記に列挙したよう
な機器において適用可能となっている。
【0204】
【発明の効果】請求項1の発明の画像処理装置は、以上
のように、原画像を、該原画像中の任意の物体領域を強
調した画像に変換すると共に、線画像に変換し、これら
強調変換画像と線画像とを合成する画像合成処理手段を
有している構成である。
【0205】それゆえ、原画像中の任意の物体領域を強
調した強調変換画像と、原画像を線画に変換した線画像
とを合成することにより、特定の物体領域のみが強調さ
れた画像を得ることができる。
【0206】これにより、原画像を写真とした場合、例
えば請求項5に記載のように物体領域を人物顔とすれ
ば、人物顔が強調され、背景が線画となる画像、すなわ
ちイラスト風の趣のある画像を得ることができる。
【0207】したがって、入力された原画像に対し、エ
ッジ抽出の結果に関わらず、原画像の対象となる物体を
強調し、かつ、全体として実画像に即した違和感のない
イラスト画像に変換することができるという効果を奏す
る。
【0208】請求項2の発明の画像処理装置は、以上の
ように、原画像を入力する画像入力手段と、入力された
原画像を表示する表示手段と、表示された原画像中の任
意の物体領域を指定する物体領域指定手段と、入力され
た原画像を、指定された物体領域が強調された画像に変
換する強調変換手段と、入力された原画像を、線画像に
変換する線画像変換手段と、上記強調変換手段により得
られた強調変換画像と、上記線画像変換手段により得ら
れた線画像とを合成する画像合成手段とを備えている構
成である。
【0209】それゆえ、単純な線画像生成ではできな
い、指定された物体領域を強調し、かつ、全体として実
画像に即した違和感のないイラスト画像に変換すること
ができるという効果を奏する。
【0210】請求項3の発明の画像処理装置は、以上の
ように、請求項2の構成に加えて、上記強調変換手段
は、入力画像を複数の領域に分割する画像分割手段と、
分割された各領域の色をそれぞれ決定して分割領域変換
画像を生成する分割領域変換画像生成手段と、分割され
た各領域の境界線を抽出して分割領域境界線画像を生成
する分割領域境界線画像生成手段と、上記物体領域指定
手段により指定された物体領域を抽出すると共に、該物
体領域の色を決定して物体領域変換画像を生成する物体
領域変換画像生成手段とを備え、上記画像合成手段は、
上記線画像変換手段により得られた線画像と、上記分割
領域変換画像生成手段により得られた分割領域変換画像
と、上記分割領域境界線画像生成手段により得られた分
割領域境界線画像と、上記物体領域変換画像生成手段に
より得られた物体領域変換画像とを合成する構成であ
る。
【0211】それゆえ、請求項2の構成による効果に加
えて、減色処理や、エッジ抽出から求めた輪郭領域内の
色描画処理ではうまく変換できないような、近接画素の
色のつながりを考慮した各領域の色描画を行なうことが
でき、かつ、指定した物体部分を強調した趣のあるイラ
スト画像を生成できるという効果を奏する。
【0212】請求項4の発明の画像処理装置は、以上の
ように、請求項2の構成に加えて、上記強調変換手段
は、上記物体領域指定手段により指定された物体領域を
抽出すると共に、抽出した物体領域を2値化して物体領
域変換画像を生成する2値化物体領域変換画像生成手段
を有し、上記画像合成手段は、上記線画像変換手段によ
り得られた線画像と、上記2値化物体領域変換画像生成
手段により得られた2値化物体領域変換画像とを合成す
る構成である。
【0213】それゆえ、請求項2の構成による効果に加
えて、単純な2値化処理では生成できない、指定した物
体部分を強調した趣のあるモノクロのイラスト画像を生
成できるという効果を奏する。
【0214】請求項5の発明の画像処理装置は、以上の
ように、請求項2ないし4の何れかの構成に加えて、上
記物体領域指定手段により指定される物体領域が人物顔
である構成である。
【0215】それゆえ、請求項2ないし4の何れかの構
成による効果に加えて、入力される原画像中の物体に人
物顔を含む人物写真画像などから、人物顔を似顔絵風に
強調処理した、カラーのイラスト画像あるいはモノクロ
のイラスト画像を簡単に作成できるという効果を奏す
る。
【0216】また、請求項6の発明の画像処理方法は、
以上のように、原画像を入力する第1ステップと、入力
された原画像を表示する第2ステップと、表示された原
画像中の任意の物体領域を指定する第3ステップと、入
力された原画像を、指定された物体領域を強調した画像
に変換する第4ステップと、入力された原画像を、線画
像に変換する第5ステップと、上記第4ステップで得ら
れた強調変換画像と、上記第5ステップで得られた線画
像とを合成する第6ステップとを含む構成である。
【0217】それゆえ、単純な線画像生成ではできな
い、指定された物体領域を強調し、かつ、全体として実
画像に即した違和感のないイラスト画像に変換すること
ができるという効果を奏する。
【0218】また、請求項7の発明のコンピュータ読み
取り可能な記録媒体は、以上のように、原画像を入力す
る第1ステップと、入力された原画像を表示する第2ス
テップと、表示された原画像中の任意の物体領域を指定
する第3ステップと、入力された原画像を、指定された
物体領域を強調した画像に変換する第4ステップと、入
力された原画像を、線画像に変換する第5ステップと、
上記第4ステップで得られた強調変換画像と、上記第5
ステップで得られた線画像とを合成する第6ステップと
をコンピュータに実行させるための画像処理プログラム
に記録した構成である。
【0219】それゆえ、上記記録媒体をコンピュータに
用いることで、単純な線画像生成ではできない、指定さ
れた物体領域を強調し、かつ、全体として実画像に即し
た違和感のないイラスト画像に変換することができると
いう効果を奏する。
【図面の簡単な説明】
【図1】本発明の一実施の形態に係る画像処理装置の概
略ブロック図である。
【図2】図1に示した画像処理装置によって実施される
画像処理動作の各処理段階において生成される画像を示
す説明図である。
【図3】図1に示した画像処理装置によって実施される
画像処理動作の流れを示すフローチャートである。
【図4】図3に示したフローチャートの原画像領域分割
処理の詳細を示すフローチャートである。
【図5】図3に示したフローチャートの原画像領域分割
処理の流れを簡単に示したものであり、(a)は平滑化
画像、(b)はラベル画像、(c)は統合処理された画
像を示す模式図である。
【図6】図3に示したフローチャートの領域色変換処理
の詳細を示すフローチャートである。
【図7】図6に示したフローチャートにおける代表色の
属するトーンを調査する動作における一例を表す模式図
である。
【図8】図6に示したフローチャートにおける代表色の
属するトーンに対応する彩度・輝度を決定するための一
手法について示した模式図である。
【図9】図6に示したフローチャートにおける代表色の
属するトーンに対応する彩度・輝度を決定するための、
図8とは異なる一手法について示した模式図である。
【図10】図3に示したフローチャートの物体領域抽出
処理において、抽出対象が顔肌領域である場合の例を詳
細に説明するためのフローチャートである。
【図11】(a)(b)は、図1の画像処理装置を構成
するために、あらかじめ物体の支配的色領域を解析する
際の一例を示す模式図である。
【図12】(a)〜(c)は、図11に示す支配的色領
域を解析した画像の色分布の、色相・彩度・明度におけ
る出現頻度ヒストグラムである。
【図13】(a)(b)は、図10に示したフローチャ
ートにおいて、ユーザーの入力パターンに対する処理対
象領域と入力マスク領域の関係を示す説明図である。
【図14】(a)(b)は、図10に示したフローチャ
ートにおいて、処理対象領域中の画素の明度に対する出
現頻度ヒストグラムと、物体領域画素を選択する際のし
きい値について説明するための模式図である。
【図15】(a)〜(c)は、図10に示したフローチ
ャートに従って、適応的に物体領域確率密度関数を更新
することにより物体領域画像を生成した場合と、固定関
数で物体領域抽出画像を生成した場合を比較するための
説明図である。
【図16】図10に示した物体領域抽出処理によって抽
出された領域画像から、物体マスク画像を生成する処理
を説明するためのフローチャートである。
【図17】(a)〜(e)は、図16に示したフローチ
ャートに従って、物体マスク画像が生成される様子を表
した説明図である。
【図18】(a)〜(d)は、図16に示したフローチ
ャートにおいて、抽出領域と入力マスク領域との面積の
共有率に基づく領域削除処理を説明するための模式図で
ある。
【図19】(a)〜(c)は、図3に示したフローチャ
ートの物体領域抽出処理において、抽出対象が顔肌と髪
の毛である場合の抽出例を表す説明図である。
【図20】(a)〜(c)は、図3に示したフローチャ
ートの物体領域抽出処理において、抽出対象が髪の毛の
領域である場合に、2値化処理を用いて抽出する例を示
す説明図である。
【図21】(a)〜(d)は、図20に示した髪領域の
抽出処理において、図20(b)から図20(c)に至
る処理動作を示す説明図である。
【図22】(a)〜(c)は、図3に示したフローチャ
ートの物体領域抽出処理において、抽出した領域内を更
に複数に分割する場合の例を表した説明図である。
【図23】図3に示したフローチャートの線画像生成処
理の詳細を表すフローチャートである。
【図24】図23に示したフローチャートのエッジ画像
生成処理の詳細を表すフローチャートである。
【図25】(a)(b)は、図23に示したフローチャ
ートの境界線画像の生成処理を説明するための模式図で
ある。
【図26】図1に示す画像処理装置にて実行させるため
の画像処理用の各種プログラムを記録したコンピュータ
読み取り可能な記録媒体を示す説明図である。
【符号の説明】
11 画像入力装置(画像入力手段) 12 領域位置指定装置(物体領域指定手段) 13 記憶装置 14 演算処理装置(画像合成処理手段) 15 表示装置(表示手段) 16 外部記憶装置 17 画像分割部 18 領域色変換部(分割領域変換画像生成手段) 19 物体領域生成部(物体領域変換画像生成手段、
2値化物体領域変換画像生成手段) 20 線画像生成部(線画像変換手段、分割領域境界
線画像生成手段) 21 画像合成部(画像合成手段)
───────────────────────────────────────────────────── フロントページの続き (72)発明者 竹澤 創 大阪府大阪市阿倍野区長池町22番22号 シ ャープ株式会社内 (72)発明者 紺矢 峰弘 大阪府大阪市阿倍野区長池町22番22号 シ ャープ株式会社内

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】原画像を、該原画像中の任意の物体領域を
    強調した画像に変換すると共に、線画像に変換し、これ
    ら強調変換画像と線画像とを合成する画像合成処理手段
    を有していることを特徴とする画像処理装置。
  2. 【請求項2】原画像を入力する画像入力手段と、 入力された原画像を表示する表示手段と、 表示された原画像中の任意の物体領域を指定する物体領
    域指定手段と、 入力された原画像を、指定された物体領域が強調された
    画像に変換する強調変換手段と、 入力された原画像を、線画像に変換する線画像変換手段
    と、 上記強調変換手段により得られた強調変換画像と、上記
    線画像変換手段により得られた線画像とを合成する画像
    合成手段とを備えていることを特徴とする画像処理装
    置。
  3. 【請求項3】上記強調変換手段は、 入力画像を複数の領域に分割する画像分割手段と、 分割された各領域の色をそれぞれ決定して分割領域変換
    画像を生成する分割領域変換画像生成手段と、 分割された各領域の境界線を抽出して分割領域境界線画
    像を生成する分割領域境界線画像生成手段と、 上記物体領域指定手段により指定された物体領域を抽出
    すると共に、該物体領域の色を決定して物体領域変換画
    像を生成する物体領域変換画像生成手段とを備え、 上記画像合成手段は、上記線画像変換手段により得られ
    た線画像と、上記分割領域変換画像生成手段により得ら
    れた分割領域変換画像と、上記分割領域境界線画像生成
    手段により得られた分割領域境界線画像と、上記物体領
    域変換画像生成手段により得られた物体領域変換画像と
    を合成することを特徴とする請求項2記載の画像処理装
    置。
  4. 【請求項4】上記強調変換手段は、 上記物体領域指定手段により指定された物体領域を抽出
    すると共に、抽出した物体領域を2値化して物体領域変
    換画像を生成する2値化物体領域変換画像生成手段を有
    し、 上記画像合成手段は、 上記線画像変換手段により得られた線画像と、上記2値
    化物体領域変換画像生成手段により得られた2値化物体
    領域変換画像とを合成することを特徴とする請求項2記
    載の画像処理装置。
  5. 【請求項5】上記物体領域指定手段により指定される物
    体領域が人物顔であることを特徴とする請求項2ないし
    4の何れかに記載の画像処理装置。
  6. 【請求項6】原画像を入力する第1ステップと、 入力された原画像を表示する第2ステップと、 表示された原画像中の任意の物体領域を指定する第3ス
    テップと、 入力された原画像を、指定された物体領域を強調した画
    像に変換する第4ステップと、 入力された原画像を、線画像に変換する第5ステップ
    と、 上記第4ステップで得られた強調変換画像と、上記第5
    ステップで得られた線画像とを合成する第6ステップと
    を含むことを特徴とする画像処理方法。
  7. 【請求項7】原画像を入力する第1ステップと、 入力された原画像を表示する第2ステップと、 表示された原画像中の任意の物体領域を指定する第3ス
    テップと、 入力された原画像を、指定された物体領域を強調した画
    像に変換する第4ステップと、 入力された原画像を、線画像に変換する第5ステップ
    と、 上記第4ステップで得られた強調変換画像と、上記第5
    ステップで得られた線画像とを合成する第6ステップと
    をコンピュータに実行させるための画像処理プログラム
    に記録したことを特徴とするコンピュータ読み取り可能
    な記録媒体。
JP11955498A 1998-04-28 1998-04-28 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体 Expired - Fee Related JP3539539B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP11955498A JP3539539B2 (ja) 1998-04-28 1998-04-28 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体
US09/300,834 US6587593B1 (en) 1998-04-28 1999-04-28 Image processing device and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11955498A JP3539539B2 (ja) 1998-04-28 1998-04-28 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JPH11313202A true JPH11313202A (ja) 1999-11-09
JP3539539B2 JP3539539B2 (ja) 2004-07-07

Family

ID=14764196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11955498A Expired - Fee Related JP3539539B2 (ja) 1998-04-28 1998-04-28 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体

Country Status (2)

Country Link
US (1) US6587593B1 (ja)
JP (1) JP3539539B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007513555A (ja) * 2003-12-05 2007-05-24 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー 画像処理
JP2007199767A (ja) * 2006-01-23 2007-08-09 Hitachi Software Eng Co Ltd 画像処理システム
JP2008097448A (ja) * 2006-10-13 2008-04-24 Toyota Motor Corp 車両用駐車支援装置
US7376267B2 (en) 2000-07-12 2008-05-20 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program and storage medium therefor
JP2009205469A (ja) * 2008-02-28 2009-09-10 Alpha Systems:Kk オブジェクト領域の抽出システムおよび方法
JP2011086190A (ja) * 2009-10-16 2011-04-28 2Nd Design Inc 画像加工方法及び印刷物
JP2011197998A (ja) * 2010-03-19 2011-10-06 Casio Computer Co Ltd 画像処理装置及び画像処理方法
JP2011248821A (ja) * 2010-05-31 2011-12-08 Casio Comput Co Ltd 画像処理装置及びプログラム
WO2012101719A1 (ja) * 2011-01-27 2012-08-02 パナソニック株式会社 3次元画像撮影装置及び3次元画像撮影方法

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7417640B1 (en) 1999-01-29 2008-08-26 Lg Electronics Inc. Method for dominant color setting of video region and data structure and method of confidence measure extraction
US7072072B1 (en) * 2000-05-02 2006-07-04 Xerox Corporation Color rendering optimized for text and line art
EP1346295A4 (en) 2000-11-15 2005-01-12 Mark Frigon METHOD AND DEVICE FOR PROCESSING OBJECTS IN ONLINE PICTURES
JP3970102B2 (ja) * 2001-06-28 2007-09-05 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP4243081B2 (ja) * 2002-09-05 2009-03-25 三洋電機株式会社 画像データ処理装置、及び画像データ処理方法
US7260258B2 (en) * 2003-06-12 2007-08-21 Fuji Xerox Co., Ltd. Methods for multisource color normalization
US7369699B1 (en) * 2003-08-29 2008-05-06 Apple Inc. Methods and apparatuses for restoring color and enhancing electronic images
US7873916B1 (en) * 2004-06-22 2011-01-18 Apple Inc. Color labeling in a graphical user interface
JP4325552B2 (ja) * 2004-12-24 2009-09-02 セイコーエプソン株式会社 画像処理装置、画像処理方法及び画像処理プログラム
US7595920B2 (en) * 2005-02-23 2009-09-29 Brother Kogyo Kabushiki Kaisha Processing apparatus and processing method of color image information
JP5002348B2 (ja) * 2007-06-26 2012-08-15 株式会社東芝 画像処理装置、映像受信装置および画像処理方法
JP4952627B2 (ja) * 2008-03-21 2012-06-13 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
US8345102B2 (en) * 2009-01-13 2013-01-01 Futurewei Technologies, Inc. Image processing system and method for object tracking
US9269154B2 (en) * 2009-01-13 2016-02-23 Futurewei Technologies, Inc. Method and system for image processing to classify an object in an image
WO2013145799A1 (ja) * 2012-03-30 2013-10-03 富士フイルム株式会社 画像処理装置、撮影装置、プログラム及び画像処理方法
WO2013189840A1 (en) * 2012-06-18 2013-12-27 Thomson Licensing A device and a method for color harmonization of an image
CN104508720B (zh) 2012-08-01 2016-09-07 丰田自动车株式会社 驾驶辅助装置
JP6020036B2 (ja) * 2012-10-24 2016-11-02 富士ゼロックス株式会社 情報処理装置、情報処理システム、およびプログラム
KR20140137738A (ko) * 2013-05-23 2014-12-03 삼성전자주식회사 이미지 디스플레이 방법, 이미지 디스플레이 장치 및 기록 매체
US10114532B2 (en) * 2013-12-06 2018-10-30 Google Llc Editing options for image regions
EP3347857A1 (en) * 2015-09-10 2018-07-18 Koninklijke Philips N.V. Automatic image feature removal
EP3239929B1 (en) * 2016-04-27 2019-06-12 Canon Kabushiki Kaisha Image processing apparatus, image processing method and program

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4393402A (en) * 1981-06-08 1983-07-12 General Electric Company Subtraction fluoroscopy method and apparatus
FR2653961A1 (fr) * 1989-11-02 1991-05-03 Gen Electric Cgr Procede de traitement d'une image pour en ameliorer les contrastes.
US5018215A (en) * 1990-03-23 1991-05-21 Honeywell Inc. Knowledge and model based adaptive signal processor
JPH06301773A (ja) 1993-04-16 1994-10-28 C S K Sogo Kenkyusho:Kk 減色画像処理方法および装置
US5790269A (en) * 1995-12-12 1998-08-04 Massachusetts Institute Of Technology Method and apparatus for compressing and decompressing a video image
JPH09252468A (ja) * 1996-03-15 1997-09-22 Minolta Co Ltd 画像圧縮装置
US5974158A (en) * 1996-03-29 1999-10-26 The Commonwealth Of Australia Commonwealth Scientific And Industrial Research Organization Aircraft detection system
US6046821A (en) * 1997-11-17 2000-04-04 Xerox Corporation Unsharp masking for draft mode rendering of digital images

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7376267B2 (en) 2000-07-12 2008-05-20 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program and storage medium therefor
JP2007513555A (ja) * 2003-12-05 2007-05-24 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー 画像処理
JP2007199767A (ja) * 2006-01-23 2007-08-09 Hitachi Software Eng Co Ltd 画像処理システム
JP2008097448A (ja) * 2006-10-13 2008-04-24 Toyota Motor Corp 車両用駐車支援装置
JP2009205469A (ja) * 2008-02-28 2009-09-10 Alpha Systems:Kk オブジェクト領域の抽出システムおよび方法
JP2011086190A (ja) * 2009-10-16 2011-04-28 2Nd Design Inc 画像加工方法及び印刷物
JP2011197998A (ja) * 2010-03-19 2011-10-06 Casio Computer Co Ltd 画像処理装置及び画像処理方法
JP2011248821A (ja) * 2010-05-31 2011-12-08 Casio Comput Co Ltd 画像処理装置及びプログラム
WO2012101719A1 (ja) * 2011-01-27 2012-08-02 パナソニック株式会社 3次元画像撮影装置及び3次元画像撮影方法
JPWO2012101719A1 (ja) * 2011-01-27 2014-06-30 パナソニック株式会社 3次元画像撮影装置及び3次元画像撮影方法

Also Published As

Publication number Publication date
US6587593B1 (en) 2003-07-01
JP3539539B2 (ja) 2004-07-07

Similar Documents

Publication Publication Date Title
JP3539539B2 (ja) 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体
KR101554403B1 (ko) 화상 처리 장치, 화상 처리 방법, 및 제어 프로그램이 기록된 기억 매체
CN101206761B (zh) 图像处理设备及其方法
JP5032911B2 (ja) 画像処理装置及び画像処理方法
JP5116393B2 (ja) 画像処理装置及び画像処理方法
JP6635799B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP3769487B2 (ja) 画像肌色検出における金髪画素除去方法
JP6818463B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP3673092B2 (ja) 画質調整装置及び画質調整方法、並びに画像調整用プログラムを記録した記録媒体
JP5024574B2 (ja) 画像処理装置及び画像処理プログラム
JP2009038737A (ja) 画像処理装置
JP5286215B2 (ja) 輪郭抽出装置、輪郭抽出方法、および輪郭抽出プログラム
JP3387071B2 (ja) 画像識別装置および方法
JP4502645B2 (ja) 人物画像抽出装置、及びコンピュータプログラム
JP5203159B2 (ja) 画像処理方法、画像処理システムおよび画像処理プログラム
JP4742068B2 (ja) 画像処理方法、画像処理システムおよび画像処理プログラム
JPH07129762A (ja) 素描風画像生成装置
JP2001045303A (ja) 画像2値化方法
JP5903315B2 (ja) 画像処理装置および画像処理プログラム
JP6711031B2 (ja) 画像処理装置、画像処理方法、画像処理システムおよびプログラム
JP2005094452A (ja) 画像処理方法、画像処理システムおよび画像処理プログラム
JP3927979B2 (ja) 画像処理装置及び方法
JP4708866B2 (ja) ルックアップテーブル作成装置および方法,ならびにルックアップテーブル作成プログラム
JP2002208013A (ja) 画像領域抽出装置及び画像領域抽出方法
JP4008715B2 (ja) 帳票読取装置および帳票読取処理用プログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040317

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080402

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090402

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100402

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100402

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110402

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees