JP2017204241A - 画像処理装置、画像処理方法、検索装置 - Google Patents

画像処理装置、画像処理方法、検索装置 Download PDF

Info

Publication number
JP2017204241A
JP2017204241A JP2016097386A JP2016097386A JP2017204241A JP 2017204241 A JP2017204241 A JP 2017204241A JP 2016097386 A JP2016097386 A JP 2016097386A JP 2016097386 A JP2016097386 A JP 2016097386A JP 2017204241 A JP2017204241 A JP 2017204241A
Authority
JP
Japan
Prior art keywords
color
image
image processing
unit
color name
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016097386A
Other languages
English (en)
Other versions
JP6525921B2 (ja
JP2017204241A5 (ja
Inventor
智也 本條
Tomoya Honjo
智也 本條
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016097386A priority Critical patent/JP6525921B2/ja
Priority to EP17000734.8A priority patent/EP3244323B1/en
Priority to US15/585,695 priority patent/US10430457B2/en
Priority to CN201710316453.9A priority patent/CN107368838B/zh
Publication of JP2017204241A publication Critical patent/JP2017204241A/ja
Publication of JP2017204241A5 publication Critical patent/JP2017204241A5/ja
Application granted granted Critical
Publication of JP6525921B2 publication Critical patent/JP6525921B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Spectrometry And Color Measurement (AREA)

Abstract

【課題】 異なる撮像環境下において撮像したオブジェクトを所望の色名でもって検索可能にするための技術を提供すること。【解決手段】 カラーチャートに含まれる色を表す色情報が導出できるように該カラーチャートが配置された面を撮像した撮像画像を取得し、該撮像画像から色情報を導出し、該撮像画像中のカラーチャートの色を抽出する。そして、導出した色情報と、抽出した色と、を対応付けて登録する。【選択図】 図1

Description

本発明は、画像検索の為の技術に関するものである。
近年、大量の画像の中から特定のオブジェクトが写った画像を検索する画像検索システムが提案されている。このような画像検索システムの中でも特定の人物を検索することは特に有用である。検索キーとしては様々なものが考えられるが、例えば人物が着用している服の色が検索キーとして使用可能である。この場合、画像中の色は予め用意されたテーブルによって色名に変換され、検索キーの指定は色表や色名によって行うことができる。
大量の画像が異なる環境下のカメラで撮影される場合、照明や屋内外といったカメラ設置環境の違いにより、ある環境では「黄色」と認識できる色が、より色温度の低い照明環境下では「オレンジ色」に見えることがある。また、より色温度の高い照明下では「黄緑色」に見えたりすることがある。言い換えると、同じ物体の色が異なるRGB値で記録されることがある。RGB値がある色名を表すRGB値の範囲を超えてしまった場合には別の色名として変換されてしまうため、検索漏れの原因となることがある。
特許文献1には、カメラで撮影した画像中に存在する対象を認識し、該認識された対象から撮影環境光源の影響を除去して標準光源下における色情報に変換する技術が開示されている。
特開2008−225887号公報
しかしながら、特許文献1の方法では、例えばナトリウムランプ等の演色性の低い環境光下においては、必ずしも正確に標準光源下における色に変換できるとは限らない。このような状態で色を色名に変換すると正しい色名に変換できない可能性があり、色名で検索した時に検索から漏れてしまう可能性がある。
本発明はこのような問題に鑑みてなされたものであり、異なる撮像環境下において撮像したオブジェクトを所望の色名でもって検索可能にするための技術を提供する。
本発明の一様態は、カラーチャートに含まれる色を表す色情報が導出できるように該カラーチャートが配置された面を撮像した撮像画像を取得する取得手段と、前記撮像画像から前記色情報を導出する導出手段と、前記撮像画像中の前記カラーチャートの色を抽出する抽出手段と、前記導出手段が導出した色情報と、前記抽出手段が抽出した色と、を対応付けて登録する登録手段とを備えることを特徴とする。
本発明の構成によれば、異なる撮像環境下において撮像したオブジェクトを所望の色名でもって検索可能にすることができる。
システムの構成例を示すブロック図。 画像処理装置100が行う処理のフローチャート。 (a)はシートの一例を示す図、(b)は色名テーブルの構成例を示す図。 システムの構成例を示すブロック図。 画像処理装置400が行う処理のフローチャート。 コンピュータ装置のハードウェア構成例を示すブロック図。
以下、添付図面を参照し、本発明の実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施例の1つである。
[第1の実施形態]
先ず、本実施形態に係るシステムの構成例について、図1のブロック図を用いて説明する。図1に示す如く、本実施形態に係るシステムは、N(Nは2以上の整数)台のカメラ1011,1012,…,101Nと、画像処理装置100と、を有する。カメラ1011,1012,…,101Nと画像処理装置100とはLANやインターネットなどのネットワークを介して接続されており、互いにデータ通信が可能なように構成されている。なお、このネットワークは無線のネットワークであっても良いし有線のネットワークであっても良いし、無線のネットワークと有線のネットワークとを組み合わせたネットワークであっても良い。
先ず、カメラ1011,1012,…,101Nについて説明する。カメラ1011,1012,…,101Nのそれぞれは異なる場所に設置されており、設定された若しくは制御された姿勢でもって静止画像若しくは動画像を撮像する。なお、カメラ1011,1012,…,101Nの設置レイアウトは特定の設置レイアウトに限らない。例えば、カメラ1011,1012,…,101Nのうち幾つかのカメラを部屋Aに設置し、他の幾つかを部屋Bに設置する、というように、幾つかのカメラを纏めて同じエリアに設置しても良い。カメラ1011,1012,…,101Nのそれぞれが撮像した撮像画像は画像処理装置100に入力される。この撮像画像は、カメラ1011,1012,…,101Nのそれぞれが静止画像を撮像するものであれば、該静止画像そのものである。また、カメラ1011,1012,…,101Nのそれぞれが動画像を撮像するものであれば、撮像画像は該動画像を構成する各フレームの画像となる。
次に、画像処理装置100について説明する。画像処理装置100は、色名をクエリとする画像検索を可能にするための各種情報を、カメラ1011,1012,…,101Nのそれぞれから取得した撮像画像に基づいて生成する機能を有する。更に画像処理装置100は、カメラ1011,1012,…,101Nのそれぞれによる撮像画像から、検索対象となるオブジェクトの画像を切り出して登録する機能を有する。更に画像処理装置100は、クエリとして入力された色名に基づいて、登録したオブジェクトの画像から所望の画像を検索する画像検索処理を行って、その結果を出力する機能を有する。
ここで、上記のシステムを稼働させるためには先ず、カメラ1011,1012,…,101Nのそれぞれを規定の設置場所に設置する必要がある。そして、カメラ1011,1012,…,101Nのそれぞれを規定位置に設置した後、画像処理装置100は、カメラ1011,1012,…,101Nを同様の色情報を撮像するカメラグループごとに分割する。この分割のために画像処理装置100が行う処理について、図2(a)のフローチャートに従って説明する。
カメラ1011,1012,…,101Nは規定期間内に規定時間間隔で撮像を行って撮像画像を出力する。例えばカメラ1011,1012,…,101Nのそれぞれは5分おきに24時間撮像を行って撮像画像を出力する。ステップS201では識別子生成部1041は、カメラ1011,1012,…,101Nのそれぞれから出力された撮像画像を取得する。そして識別子生成部1041は、カメラごとに、該カメラから取得したそれぞれの撮像画像のRGBヒストグラムの平均RGBヒストグラムを作成する。例えば、カメラ1011から取得したそれぞれの撮像画像のRGBヒストグラムの平均RGBヒストグラムを作成する場合には、識別子生成部1041は、次のような処理を行う。
先ず識別子生成部1041は、カメラ1011から撮像画像を取得すると、該撮像画像の全画像領域を対象に、R、G、Bそれぞれの色成分の画素値の登場頻度を表すヒストグラム(RGBヒストグラム)を作成する。RGBヒストグラムは、画素値が取り得る範囲(例えば0〜255)内におけるR成分の画素値、G成分の画素値、B成分の画素値の登場回数を表すものであり、ビン数は例えば16である。識別子生成部1041は、このようなRGBヒストグラムを、取得したそれぞれの撮像画像について作成する。そして識別子生成部1041は、規定期間内に取得したそれぞれの撮像画像のRGBヒストグラムを作成すると、該RGBヒストグラムを用いて、該規定期間内のR,G,Bそれぞれの色成分の画素値の登場頻度の平均を表すヒストグラムを作成する。この作成したものが、カメラ1011に対する平均RGBヒストグラムである。このような平均RGBヒストグラムの作成処理をカメラ1012,…,101Nについても同様に行うことで、カメラ1011,1012,…,101Nのそれぞれについて平均RGBヒストグラムを作成する。
ステップS202では、識別子生成部1041は、カメラ1011,1012,…,101Nのそれぞれについて平均RGBヒストグラムを作成したか否かを判断する。この判断の結果、カメラ1011,1012,…,101Nのそれぞれについて平均RGBヒストグラムを作成した場合には、処理はステップS203に進む。一方、カメラ1011,1012,…,101Nのうち未だ平均RGBヒストグラムを作成していないカメラが残っている場合、処理はステップS201に戻り、未だ平均RGBヒストグラムを作成していないカメラについて平均RGBヒストグラムを作成する。
なお、平均RGBヒストグラムは、それぞれのRGBヒストグラムの統計的な情報の一例であり、該それぞれのRGBヒストグラムの統計的な情報は平均RGBヒストグラムに限らない。
ステップS203では、識別子生成部1041は、カメラ1011,1012,…,101Nを、平均RGBヒストグラムに基づいて複数のグループに分割する。具体的には、識別子生成部1041は、カメラ1011,1012,…,101Nのそれぞれについて作成した平均RGBヒストグラムを用いて、カメラ1011,1012,…,101Nを、同様の平均RGBヒストグラムを求めたカメラのグループに分割する。グループ分割の方法については、ミーンシフト法、K−meansなど種々の方法が利用可能である。
ここで、カメラ1011,1012,…,101Nのそれぞれは、撮像画像だけでなく、カメラに固有の識別情報(カメラID)も出力する。然るにステップS204において識別子生成部1041は、分割したそれぞれのグループに該グループに固有の識別情報(グループID)を発行し、該グループIDと、該グループIDのグループに属するカメラのカメラIDと、を関連づけて管理する。
次に、それぞれ異なる撮像環境下において撮像対象を撮像したときに得られる撮像画像に基づいて、該撮像対象の色名と該撮像画像における該撮像対象の色とを対応付けて登録する処理について図2(b)のフローチャートを用いて説明する。図2(b)のフローチャートは、1つのグループについての処理を示したものであり、実際には、グループごとに図2(b)のフローチャートに従った処理を行うことになる。
先ず、上記の複数のグループのうち未選択のグループを1つ、選択グループとして選択し、更に、該選択グループに属する1以上のカメラから1つのカメラを選択カメラ(選択撮像装置)として選択する。これらの選択は、ユーザが不図示の操作部を操作して行っても良いし、作成部1042が予め決められた順序でグループを選択し、該選択したグループに属するカメラのうちカメラIDに基づく順番が規定の順番となるカメラを選択カメラとして選択しても良い。
また、選択カメラの選択方法については、例えば、選択グループに属するカメラの数が1である場合には、該1のカメラを選択カメラとする。また、選択グループに属するカメラの数が複数である場合には、その中で後述するシートを撮像しやすい場所に設置されたカメラをユーザが選択しても良いし、後述する照明環境の変動が反映されやすい場所に設置されたカメラをユーザが選択しても良い。
ステップS205では、作成部1042は選択カメラを動作させて、カラーチャートが印刷されたシートを撮像させて、選択カメラによるシートの撮像画像を取得する。選択カメラが撮像するシートの一例を図3(a)に示す。シートには、分光反射率分布が既知である色のパッチが配置されており、同列に配置されるパッチは同じ色名に対応している。例えば、右端の列のパッチは例えば明度および/または彩度が異なるが何れも色名「黒」に対応付けられているため、右端のパッチ列の直上には文字列「黒」が印刷されている。なお、色名を表す文字列の印刷位置はパッチ列の直上に限らない。また、文字列の代わりに、他のオブジェクトを用いても良く、その場合、該オブジェクトと色名との関係が既知である必要がある。図3(a)では、色名は以下の文献で示されているような11色(黒、青、茶、灰、緑、オレンジ、ピンク、紫、赤、白、黄)に分類されるとする。
J. van de Weijer, C. Schmid, J. Verbeek, and D. Larlus, Learning Color Names for Real−World Applications, IEEE Trans in IP, 2009.
しかし、色名はこれに限らず、JISで既定された系統色名や慣用色名等を用いることも可能である。
図2(b)に戻って、次に、ステップS206において作成部1042は、撮像画像に対して画像認識処理を行い、該撮像画像中に写っているシート内のパッチの領域、色名を表す文字列(文字列以外のオブジェクトでも良い)の領域を特定する。特定した領域にゆがみがある場合は射影変換により補正する。なお、シート上で色名を表す文字列が印刷されている領域の位置、該色名に対応するパッチが印刷されている領域の位置については既知の情報として予め画像処理装置100に登録されている。つまり、各色名の文字列がシート上のどの位置に印刷されているのか、各色名に対応するパッチがシート上のどの位置に印刷されているのかは、既知の情報として画像処理装置100に予め登録されている。然るに作成部1042は、撮像画像に対する画像認識処理によりシートの領域を特定すると、上記の既知の情報を用いて、該シートの領域から、色名を表す文字列の領域(文字列領域)、パッチの領域(パッチ領域)を特定する。そして作成部1042は、特定した文字列領域に対する認識処理により該文字列領域から色名を表す文字列を認識すると共に、特定したパッチ領域内の色(RGB値)、すなわち、撮像画像上におけるパッチの色を抽出する。そして作成部1042は、認識した色名を表す文字列を、該文字列の直下に並んでいたそれぞれのパッチの色と対応付けて登録する。本実施形態では、図3(b)に示すようなテーブル(色名テーブル)に登録する。図3(b)の色名テーブルの左端の列には予めR=0〜255が登録されており、左端から2番目の列には予めG=0〜255が登録されており、左端から3番目の列には予めB=0〜255が登録されている。
作成部1042は撮像画像からパッチのRGB値を抽出すると、図3(b)の色名テーブルにおいて該RGB値に対応する行を特定する。そして作成部1042は、該特定した行の右端に、該パッチと同列の文字列領域から認識した文字列(色名の文字列)を登録する。図3(b)の例では、(R,G,B)=(1,0,0)の行の右端には文字列「黒」が登録されており、これは、シート上で文字列「黒」と同列にRGB値が(1,0,0)のパッチが印刷されていたことを意味する。
このような色名テーブルにより、シート上で文字列として示している「パッチの色名」と、撮像画像上におけるパッチの色と、を対応付けて管理することができる。然るに同様の目的を達成することができるのであれば、色名テーブルの構成は図3(b)に示した構成に限らない。
なお、色名テーブルをRGB値を間引いて作成するような場合、例えば、色名テーブルにR,G,Bが0,15,31,…,255というように登録されている場合、撮像画像から抽出したパッチのRGB値に対応する行が存在しない場合がある。このような場合は、色名テーブルに登録されているRGB値のうち色空間上でパッチのRGB値に距離が最も近いRGB値を特定し、該特定したRGB値の行の右端に、該パッチと同列の文字列領域から認識した文字列(色名の文字列)を登録すれば良い。なお、色名テーブルの右端の列には複数の色名を登録することができる。すなわち、同じRGB値に対して複数の色名を登録することができる。
図2(b)に戻って、次に、予め設定された全ての撮像環境下において撮像が完了した場合には、処理はステップS207を介してステップS208に進む。一方、未だ撮像を行っていない撮像環境が残っている場合には、該撮像環境下における撮像を行うために、処理はステップS205に戻る。
本実施形態では、シートの撮像は、それぞれ異なる撮像環境下において行う。例えば、規定期間内に規定時間間隔でシートを撮像するようにしても良いし、ユーザが不図示の操作部を操作して撮像指示を入力するたびに、選択カメラがシートを撮像するようにしても良い。然るに選択カメラからは、それぞれ異なる撮像環境下でシートを撮像した撮像画像が出力されることになり、作成部1042は、該撮像画像に基づいて色名テーブルを作成する。
ここでは撮像環境の一例として、照明環境を用いる。然るに、本実施形態では、照明環境が変化するたびに、ステップS205,S206の処理を行うものとする。照明環境の変化とは、窓のない屋内であれば照明のON・OFFや照明器具の取り換え等による変化、窓のある屋内や屋外では、天気や時間ごとの変化等のことを指す。
また、規定期間内に規定時間間隔でシートを撮像する場合、撮像のたびにステップS205,S206の処理を行わなくても良く、撮像画像のRGBヒストグラムの変化がしきい値以上となった場合にステップS205,S206の処理を行うようにしても良い。
ステップS208では、作成部1042は、色名テーブルにおいて、対応する色名の文字列が登録されていないRGB値を未対応RGB値として検索する。そして作成部1042は、未対応RGB値とRGB空間上で最もユークリッド距離が近いRGB値(ただし、対応する色名が登録されているRGB値)を特定する。そして作成部1042は、該特定したRGB値と対応付けて登録されている色名の文字列を、未対応RGB値に対応する色名を表す文字列として色名テーブルに登録する。このような色名テーブルの補正処理により、色名テーブルに登録されている全てのRGB値に対し、色名を表す文字列を対応付けて登録することができる。
ステップS209では、作成部1042は、上記の処理によって作成した色名テーブルを、選択グループのグループID(選択カメラのカメラIDでも良い)と関連づけて登録する。
このように、本実施形態では、グループごとに色名テーブルを作成するので、カメラごとに色名テーブルを作成することに比べて、手間を低減できる。もちろん、1つのグループについて2以上の色名テーブルを作成しても良い。
次に、グループごとに色名テーブルを作成して登録した後にカメラ1011,1012,…,101Nによる撮像を開始させることで各カメラから取得した撮像画像から、検索対象となる画像群及びメタデータを作成する処理について説明する。本実施形態では、撮像画像から人物の領域(人物領域)を抽出し、該人物領域から上衣の領域と下衣の領域とを抽出し、上衣の領域の色、下衣の領域の色を認識して色名に変換する。そして、該変換した上衣の領域の色名及び下衣の領域の色名を、人物領域内の画像に対するメタデータとして、該人物領域内の画像と対応付けてデータベース105に登録する。このような登録処理について、図2(c)のフローチャートを用いて説明する。
ステップS210では、領域抽出部103は、カメラ1011,1012,…,101Nのそれぞれから撮像画像を取得する。ステップS211〜S214一連の処理は、カメラ1011,1012,…,101Nのそれぞれからの撮像画像について行われる。
ステップS211では、領域抽出部103は、取得した撮像画像から人物領域を抽出する。画像から人物領域を抽出する方法については様々な方法があり,特定の方法に限らない。例えば、画像から人物の顔を検出し、該検出した顔の位置から人物領域を推定して抽出する方法がある。顔の検出には以下に示す文献に記載の方法がある。
Viola and Jones. Rapid Object Detection using Boosted Cascade of Simple Features. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (2001)
顔画像の検索対象として比較的画質の良いものに限定するような場合には、顔の検出範囲を所定の大きさ以上に限定することで処理を効率化することができる。次に、顔の矩形領域の左上座標を固定して、顔の矩形の高さを定数倍して、それを人物領域とする。
次にステップS212では、特徴抽出部1043は、人物領域から上衣の領域と下衣の領域とを抽出し、上衣の領域内のRGBそれぞれの成分の平均画素値、下衣の領域内のRGBそれぞれの成分の平均画素値を求める。より具体的には、まず人物領域から顔の領域を取り除き、残った領域を上下で二等分する。そして二等分した一方の分割領域の中心点から所定半径の円領域に含まれる領域に属する画素のRGBそれぞれの平均画素値を求める。二等分した他方の領域についても同様にしてRGBそれぞれの成分の平均画素値を求める。
ステップS213では、色名変換部1044は、上衣の領域のRGBそれぞれの成分の平均画素値に対応する色名、下衣の領域のRGBそれぞれの成分の平均画素値に対応する色名、を上記の色名テーブルを参照して特定する。このとき参照する色名テーブルは、上衣の領域及び下衣の領域の抽出元である撮像画像を撮像したカメラが属するグループ(該カメラのカメラIDと対応付けられているグループIDのグループ)のグループIDと関連づけて登録された色名テーブルである。
つまり、上衣の領域(下衣の領域)のRGBそれぞれの成分の平均画素値=(r,g,b)であるとすると、色名テーブルにおいて(r,g,b)が登録されている行の右端に登録されている色名(2以上の色名が登録されていれば該2以上の色名)を特定する。なお、平均画素値と一致するRGB値が色名テーブルから見つからなかった場合には、色空間において平均画素値とのユークリッド距離が最も小さいRGB値(色名テーブル中の)を特定し、該特定したRGB値の行の右端に登録されている色名を特定する。
ステップS214では、色名変換部1044は、ステップS211で抽出した人物領域内の画像(人物画像)と、ステップS213で特定した上衣の領域の色名及び下衣の領域の色名(メタデータ)と、を対応付けてデータベース105に登録する。なお、メタデータには上衣の領域の色名及び下衣の領域の色名に加えて更なる追加情報を含めても良い。例えば、該人物領域の抽出元である撮像画像を撮像したカメラのカメラIDや、該撮像画像の撮像日時、該カメラの設置場所などを追加情報としても良い。
次に、ユーザが上衣の色名及び下衣の色名をクエリとして入力した場合に、上衣の色名及び下衣の色名がそれぞれクエリとして入力された上衣の色名及び下衣の色名と一致する人物画像を検索して出力する処理について、図2(d)を用いて説明する。
ユーザは不図示の操作部を操作して、検索したい人物の上衣の色名及び下衣の色名をクエリ(検索キー)として入力するので、ステップS215では画像検索部106は、該入力された上衣の色名及び下衣の色名をクエリとして取得する。なお、上記のシートとして図3(a)のシートを使用した場合、色名テーブルにも、このシート中の11色の何れかの色名しか登録されていないため、ユーザによって入力される色名もこの11色の何れかとなる。また、上衣の色名や下衣の色名は1つに限らず、複数入力しても良い。
なお、ユーザは上衣の色名及び下衣の色名に加えて、検索範囲を規定するための情報を入力しても良い。このような情報には、例えば、カメラID、カメラの設置場所、撮像日時(または撮像日時の範囲)などがある。然るにユーザがこのような検索範囲を規定する情報を入力した場合には、画像検索部106は、該入力された情報も取得する。
次にステップS216では、画像検索部106は、ステップS215で画像検索部106が取得した情報に合致するメタデータをデータベース105から検索し、該検索したメタデータと対応付けてデータベース105に登録されている人物画像を特定する。
例えば、クエリとして上衣の色名=A及び下衣の色名=Bが入力された場合には、上衣の色名=A及び下衣の色名=Bを含むメタデータを検索する。クエリとして上衣の色名=Aが入力された場合(下衣の色名はクエリとして入力していない場合)には、上衣の色名=Aを含むメタデータを検索する。クエリとして下衣の色名=Bが入力された場合(上衣の色名はクエリとして入力していない場合)には、下衣の色名=Bを含むメタデータを検索する。更に、ユーザが検索範囲を規定するための情報として撮像日時(若しくはその範囲)を入力した場合には、クエリに合致するメタデータのうち該入力された撮像日時を含む若しくは該入力された撮像日時の範囲内の撮像日時を含むメタデータを検索する。そして、このようにして検索したメタデータと対応付けてデータベース105に登録されている人物画像を特定する。
ステップS217では、画像検索部106は、データベース105に登録されている全ての人物画像についてステップS216の画像検索を行ったか否かを判断する。ここでいうところの「データベース105に登録されている全ての人物画像」とは、カメラ1011,1012,…,101Nが現在から所定時間前までの間に撮像した撮像画像から生成した人物画像を指す。もちろん、データベース105に登録されている人物画像のうちどの集合を検索対象とするのかについては特定のケースに限らない。また検索の順序については、例えば、はじめにカメラ1011による撮像画像から生成した人物画像が検索対象となり、次にカメラ1012による撮像画像から生成した人物画像が検索対象となる、というように、検索対象の順序を決めても良い。
そして、データベース105に登録されている全ての人物画像についてステップS216の画像検索を行った場合には、処理はステップS218に進む。一方、データベース105に登録されている全ての人物画像のうち未だステップS216の画像検索を行っていない人物画像が残っている場合には、該人物画像を検索対象とするべく、処理はステップS216に戻る。
ステップS218では、出力部107は、画像検索部106による検索結果を出力する。検索結果の出力先や出力形態については特定の出力先、特定の出力形態に限らない。例えば、検索結果を画像処理装置100に直接的若しくは間接的に接続されている表示装置に出力して表示しても良いし、ネットワークを介して外部の装置に対して送信しても良い。検索結果を表示する場合、例えば、撮像日時に基づいてソートした人物画像を表示しても良い。表示する情報には、人物画像だけでなく、撮像日時など他の情報を加えても良い。
<変形例>
本実施形態ではクエリとして上衣の色名及び下衣の色名を入力するケースを例にとって画像検索処理について説明したが、クエリとして入力するものは上衣の色名及び下衣の色名に限らない。すなわち、クエリとして入力するものは、人物が被っている帽子や持ち物等、他の対象物の色名であっても良い。このような場合、該対象物の画像と、該画像中の対象物のRGB値から色名テーブルを用いて導出した色名と、を対応付けて(他の情報も適宜対応付けても良い)データベース105に登録しておく必要がある。
また、本実施形態では、シートの構成として図3(a)に示したシート、すなわち、色名と、該色名に対応付けられた色のパッチと、が印刷されたシートを用いた。しかし、シートの画像から色名と色とを抽出できるのであれば、シートの構成は図3(a)に示した構成に限らない。例えば、標準光源下で予めどの領域がどの色名に対応するのかを設定した(このような対応関係は画像処理装置100に予め登録されている)カラーサークルが印刷されたシートを用いても良い。このようなシートを撮像した場合、撮像画像中から色の領域を抽出し、該領域内のRGB値を取得した場合、該RGB値は、該領域の位置に対応する色名と対応付けて登録することができる。また、パッチの色名を表す文字を該パッチの色で塗りつぶした文字オブジェクトを印刷したシートを用いても良い。このようなシートを採用する場合、文字オブジェクトが表す文字とその色を認識し、認識した色に対応する色名として、該認識した文字を登録する。また、本実施形態では、色成分としてRGBを用いたが、YCC等の他の色成分を利用しても構わない。
また、本実施形態では色分類のためのカテゴリとして色名を用いたが、色を分類できるものであれば他の情報を用いても良い。例えば、マンセル表色系の表記方法を用いても良いし、応用先に合わせて任意に色を分類し、それぞれに記号を付けて管理しても良い。また、ユーザには色分類のためのカテゴリを文字や画像として提示しても良いし、該当するカテゴリの代表色(例えば、RGB色空間上でのカテゴリの重心)を色表で提示しても良い。
また、本実施形態では図3(a)に示すような、RGB値と色名とを対応付けた色名テーブルを作成したが、他の方法を用いて、RGB値と色名とを対応付けても良い。例えば、RGB値と色名とを対応付けるための関数を定義しても良いし、機械学習を用いてRGB値と色名を対応付ける辞書を作成しても良い。
また、パッチの色名と色とが印刷されたシートの代わりに、パッチの色名と色とが表示された表示画面を用いても良い。この場合、シートの代わりに該表示画面を撮像することになる。すなわち、パッチの色名と色とを含む撮像画像が得られるのであれば、カメラにパッチの色名と色とを提示する方法は特定の方法に限らない。
[第2の実施形態]
以下では第1の実施形態との差分について重点的に説明し、以下で特に触れない限りは、第1の実施形態と同様であるものとする。先ず、本実施形態に係るシステムの構成例について、図4のブロック図を用いて説明する。図4において図1に示した機能部と同じ機能部には同じ参照番号を付しており、該機能部に係る説明は省略する。
本実施形態においても、カメラ1011,1012,…,101Nのそれぞれを規定位置に設置した後、画像処理装置400は、カメラ1011,1012,…,101Nを同様の色情報を撮像するカメラグループごとに分割する。ここで、第1の実施形態では、カメラ1011,1012,…,101Nは規定期間内に規定時間間隔で撮像を行って撮像画像を出力していたが、本実施形態では、カメラ1011,1012,…,101Nのそれぞれは1回のみの撮像を行う。然るに本実施形態では、識別子生成部1041は、それぞれのカメラの撮像画像のRGBヒストグラムを作成し、該それぞれのカメラの撮像画像のRGBヒストグラムに基づいて、カメラ1011,1012,…,101Nを複数のグループに分割する。このグループ分割方法は、第1の実施形態と同様であり、第1の実施形態ではそれぞれのカメラの平均RGBヒストグラムを用いていたところ、本実施形態ではそれぞれのカメラのRGBヒストグラムを用いる。そして識別子生成部1041は、第1の実施形態と同様、分割したそれぞれのグループにグループIDを発行し、該グループIDと、該グループIDのグループに属するカメラのカメラIDと、を関連づけて管理する。
次に、第1の実施形態と同様にして、グループごとに色名テーブルを作成する。本実施形態では更に、着目グループについて作成した色名テーブルを、該着目グループに属するそれぞれのカメラについて複製し、該カメラのカメラIDと該複製したうちの1つの色名テーブルと、を関連づけて色名テーブルデータベース410に登録する。これにより色名テーブルデータベース410には、各カメラのカメラIDに対応付けて色名テーブルが登録されていると共に、同じグループに属するカメラのカメラIDには該グループについて作成した色名テーブルが対応付けられていることになる。
次に、カメラ1011,1012,…,101Nによる撮像を開始させることで各カメラから取得した撮像画像から、人物画像群及びメタデータを作成する処理について、図5(a)のフローチャートを用いて説明する。図5(a)においてステップS510〜S512の各ステップは、図2(c)のステップS210〜S212と同様であるため、これらのステップに係る説明は省略する。
ステップS513で領域抽出部103は、人物画像、該人物画像の抽出元の撮像画像を撮像したカメラのカメラID、上衣の領域及び下衣の領域のそれぞれのRGBそれぞれの成分の平均画素値、を対応付けてデータベース405に登録する。
次に、本実施形態に係る画像検索処理について、同処理のフローチャートを示す図5(b)を用いて説明する。本実施形態では、画像処理装置400に直接的若しくは間接的に接続されている表示画面に、様々な色名(ここでは上記の11色の各色)を代表する色(例えば、色名に対応したRGB値のRGB色空間上の重心)を表示する。例えば、上記の11色のそれぞれに対応する代表色のパッチを表示画面に一覧表示する。ユーザはこの一覧表示された色のうち、上衣の色、下衣の色、を指定するのであるが、色の指定方法については、特定の指定方法に限らない。例えば、表示画面がタッチパネル画面であれば、ユーザが所望の色の表示位置を自身の指若しくは指示具を用いてタッチすればよいし、マウスなどのユーザインターフェースを用いて該表示位置にカーソルを移動させてそこで決定指示を入力するようにしても良い。
表示画面における色の表示位置と該色に対応する色名とは対応付けられているので、ステップS514において画像検索部406は、上記のようにしてユーザが上衣の色及び下衣の色を指定すると、該指定位置に対応する色名を取得する。これにより、ユーザが指定した上衣の色に対応する色名、下衣の色の色名をクエリとして取得することができる。
ステップS515では、画像検索部406は、データベース405に登録されているそれぞれの人物画像について、次のような処理を行う。先ず、人物画像と対応付けられているカメラIDに対応する色名テーブルを色名テーブルデータベース410から取得する。そして次に、該取得した色名テーブルにおいて、人物画像と対応付けられている「上衣の領域及び下衣の領域のそれぞれのRGBそれぞれの成分の平均画素値」に対応する色名を取得する。これにより、人物画像における上衣の色名及び下衣の色名を取得することができる。
ステップS516では、画像検索部406は、ステップS514で取得した色名と、ステップS515で取得したそれぞれの人物画像における上衣の色名及び下衣の色名と、を用いて上記のステップS216と同様の画像検索処理を行う。
ステップS517では、画像検索部406は、上記のステップS217と同様、データベース405に登録されている全ての人物画像についてステップS516の画像検索を行ったか否かを判断する。そして、データベース405に登録されている全ての人物画像についてステップS516の画像検索を行った場合には、処理はステップS518に進む。一方、データベース405に登録されている全ての人物画像のうち未だステップS516の画像検索を行っていない人物画像が残っている場合には、該人物画像を検索対象とするべく、処理はステップS516に戻る。ステップS518では、出力部107は上記のステップS218と同様、画像検索部406による検索結果を出力する。
ここで、出力部107によって出力された検索結果としての人物画像の中に、入力したクエリと合致しない上衣の色及び/又は下衣の色の人物画像が含まれているとユーザが判断したとする。このような場合、本実施形態では、この人物画像と対応付けられている平均画素値を色名に変換する際に用いた色名テーブルにおいて、上衣の色名及び/又は下衣の色名を、所望の色名に修正するための構成を提供する。このような構成は、例えば、ユーザが所望の画像を検索するべく色を入力して検索しても検索結果にはヒットしなかったが、他の色を入力して検索すれば該所望の画像がヒットした場合においても有効である。
ユーザは、出力部107によって出力された人物画像の中に、入力したクエリと合致しない上衣の色及び/又は下衣の色の人物画像(不適合画像)が含まれていると判断した場合には、該不適合画像を指定することができる。不適合画像の指定方法は、特定の指定方法に限らず、例えば、上記の色の指定と同様の指定方法を採用しても構わない。ユーザ操作により不適合画像が指定された場合には、処理はステップS519を介してステップS520に進み、ユーザ操作により不適合画像が指定されていない場合には、処理はステップS519を介して終了する。
ユーザは不適合画像に加えて、該不適合画像に対応付けられている上衣の領域の平均画素値の色名として望ましい色名及び/又は下衣の領域の平均画素値の色名として望ましい色名を指定する。即ち、ユーザは、上衣の色が入力したクエリに合致していないと判断した場合には、該上衣の領域の平均画素値の色名として望ましい色名を指定する。また、ユーザは、下衣の色が入力したクエリに合致していないと判断した場合には、該下衣の領域の平均画素値の色名として望ましい色名を指定する。このときの色名の指定方法については、特定の指定方法に限らず、例えば、上記の色の指定と同様の指定方法を採用しても構わない。例えば、上記の11色から指定する。その際、11色及び該11色の各色名を表示画面に表示させて色名を指定させるようにしても良い。また、不適合画像に対応付けられている平均画素値で規定される色を表示画面に表示させても良い。これによりユーザは、不適合画像に対応付けられている平均画素値を確認しながら所望の色名を指定することができる。また、ユーザが最近検索した色名の履歴を表示して色名入力のアシストをするようにしても良い。色名の入力が無い場合は、色名の変更は行われないものとする。
ステップS520では、入力部408は、ユーザが指定した色名(上衣の色名及び/又は下衣の色名)を取得する。ステップS521では、入力部408は、不適合画像に対応付けられているカメラID及び平均画素値を取得する。
ステップS522では、修正部409は、ステップS521で取得したカメラIDと対応付けて色名テーブルデータベース410に登録されている色名テーブルを取得する。そして修正部409は、該取得した色名テーブルにおいて、ステップS521で取得した平均画素値に対応する色名として、ステップS520で取得した色名を登録する。
例えば、ユーザが、上衣の色が入力したクエリに合致していないと判断したことで、該上衣の領域の平均画素値の色名として望ましい色名を指定したとする。このとき、修正部409は、取得した色名テーブルにおいて、ステップS521で取得した上衣の領域の平均画素値に対応する色名として、ステップS520で取得した色名を登録する。また、ユーザが、下衣の色が入力したクエリに合致していないと判断したことで、該下衣の領域の平均画素値の色名として望ましい色名を指定したとする。このとき、修正部409は、取得した色名テーブルにおいて、ステップS521で取得した下衣の領域の平均画素値に対応する色名として、ステップS520で取得した色名を登録する。
なお、色名テーブルにステップS521で取得した平均画素値が登録されていない場合には、色空間上で該平均画素値に距離が最も近いRGB値を特定し、該特定したRGB値に対応する色名として、ステップS520で取得した色名を登録する。この登録処理では、色名テーブルにおいて、ステップS521で取得した平均画素値に対応する色名として登録済みの色名を、ステップS520で取得した色名に更新する。
このように、本実施形態によれば、カメラ設置時におけるRGBヒストグラムの取得を一度だけにすることで、カメラ設置時におけるカメラのグループ化の手間を軽減することができる。また、本実施形態によれば、色名テーブルをカメラ単位で修正することができるので、カメラ毎にカスタマイズされた色名テーブルが作成できるようになり、検索精度の低下防止・向上を図ることができる。
<変形例>
本実施形態では、色名テーブルはカメラ単位で修正していたが、該カメラが属するグループについても同様に修正するようにしても良い。例えば、不適合画像に対応するカメラIDが「A」であるとする。このとき、カメラID=Aに対応付けられている色名テーブルの修正を、カメラID=Aに対応付けられているグループIDと対応付けられている他のカメラID=B,C,…と対応付けられている色名テーブルについても同様に適用する。
なお、以上説明した実施形態や変形例の一部若しくは全部を適宜組み合わせても構わない。例えば、第2の実施形態において、色名テーブルの修正処理までの構成を第1の実施形態と同様にしても良い。つまり、第1の実施形態の構成に、第2の実施形態における色名テーブルの修正処理の構成を加えても良い(その場合、第1の実施形態に合わせて該色名テーブルの修正処理を適宜修正する必要がある)。
また、図1,4において、画像処理装置が有するものとして説明した各機能部は、1つの画像処理装置内に収まっていることに限らず、2以上の装置に分散させても良い。例えば、図1の構成において、識別子生成部1041、作成部1042、特徴抽出部1043、色名変換部1044を1つの装置で実装し、領域抽出部103、データベース105、画像検索部106、出力部107を2以上の装置で実装しても良い。図4の場合、識別子生成部1041、作成部1042、特徴抽出部1043、色名変換部1044、修正部409、入力部408を1つの装置で実装し、残りの機能部を2以上の装置で実装しても良い。
また、図2(a)〜(c)のフローチャートに従った処理/図5(a)のフローチャートに従った処理を行う装置と、図2(d)のフローチャートに従った処理/図5(b)のフローチャートに従った処理を行う装置と、を別個の装置としても良い。
何れにせよ、画像処理装置100/400は何れも、以下のような構成の画像処理装置の一例として説明したもので、以下のような構成に帰着する構成であれば、如何なる構成を採用しても構わない。すなわち、カラーチャートに含まれる色を表す色情報が導出できるように該カラーチャートが配置された面を撮像した撮像画像を取得し、該撮像画像から色情報を導出すると共に、該撮像画像中のカラーチャートの色を抽出する。そして、導出した色情報と、抽出した色と、を対応付けて登録する。
然るに、例えば、画像処理装置は、撮像画像をカメラから直接取得することに限らず、カメラから出力された撮像画像を記憶装置に格納しておき、画像処理装置が該記憶装置から撮像画像を読み出して取得するようしても構わない。
[第3の実施形態]
図1,4に示した各機能部はハードウェアで構成しても良いが、一部をソフトウェアで構成しても良い。例えば、図1の場合は、領域抽出部103、識別子生成部1041、作成部1042、特徴抽出部1043、色名変換部1044、画像検索部106、出力部107をソフトウェアで構成しても良い。図4の場合は、領域抽出部103、識別子生成部1041、作成部1042、特徴抽出部1043、色名変換部1044、修正部409、入力部408、画像検索部406、出力部107をソフトウェアで構成しても良い。このような場合、このようなソフトウェアを実行可能なコンピュータ装置であれば、画像処理装置100/400に適用可能である。画像処理装置100/400に適用可能なコンピュータ装置のハードウェア構成例について、図6のブロック図を用いて説明する。なお、図6に示したハードウェア構成は、画像処理装置100/400に適用可能なコンピュータ装置のハードウェア構成の一例に過ぎない。
CPU601は、RAM610に格納されているコンピュータプログラムやデータを用いて処理を実行することで、コンピュータ装置全体の動作制御を行うと共に、画像処理装置100/400が行うものとして上述した各処理を実行若しくは制御する。
RAM610は、記憶装置602からロードされたコンピュータプログラムやデータを格納するためのエリアを有する。更にRAM610は、I/F(インターフェース)620を介してカメラ1011,1012,…,101Nから受信した撮像画像やカメラIDを格納するためのエリアを有する。更にRAM610は、CPU601が各種の処理を実行若しくは制御する際に用いるワークエリアを有する。このようにRAM610は、各種のエリアを適宜提供することができる。
記憶装置602は、ハードディスクドライブ装置に代表される大容量情報記憶装置である。記憶装置602には、OS(オペレーティングシステム)や、画像処理装置100/400が行うものとして上述した各処理をCPU601に実行若しくは制御させるためのコンピュータプログラムやデータが保存されている。このコンピュータプログラムには、領域抽出部103、識別子生成部1041、作成部1042、特徴抽出部1043、色名変換部1044、画像検索部106、出力部107の機能をCPU601に実現させるためのコンピュータプログラムが含まれている。若しくは領域抽出部103、識別子生成部1041、作成部1042、特徴抽出部1043、色名変換部1044、修正部409、入力部408、画像検索部406,出力部107の機能をCPU601に実現させる為のコンピュータプログラムが含まれている。また、記憶装置602に保存されているデータには、上記の説明において既知の情報として説明したものや、上記の説明において管理対象(登録対象)として説明した情報も含まれている。また、上記のデータベース105、データベース405、色名テーブルデータベース410は、記憶装置602内に作成される。記憶装置602に保存されているコンピュータプログラムやデータは、CPU601による制御に従って適宜RAM610にロードされ、CPU601による処理対象となる。
I/F620には、上記のカメラ1011,1012,…,101Nが接続され、本コンピュータ装置は、このI/F620を介してカメラ1011,1012,…,101Nとの間のデータ通信を行う。
入力装置603は、キーボードやマウスなどのユーザインターフェースにより構成されており、ユーザが操作することで、各種の指示をCPU601に対して入力することができる。例えば、上記の説明におけるユーザ操作は何れも、ユーザが入力装置603を操作することで実現される。
出力装置604は、CRTや液晶画面などにより構成されており、CPU601による処理結果を画像や文字などでもって表示することができる。例えば上記の様々なユーザ操作のためのGUI(グラフィカルユーザインターフェース)や、検索結果などを表示することができる。また、入力装置603と出力装置604とを一体化させてタッチパネル画面を構成しても良い。CPU601、RAM610、記憶装置602、I/F620、入力装置603、出力装置604は何れも、バス605に接続されている。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
103:領域抽出部 1041:識別子生成部 1042:作成部 1043:特徴抽出部 1044:色名変換部

Claims (14)

  1. カラーチャートに含まれる色を表す色情報が導出できるように該カラーチャートが配置された面を撮像した撮像画像を取得する取得手段と、
    前記撮像画像から前記色情報を導出する導出手段と、
    前記撮像画像中の前記カラーチャートの色を抽出する抽出手段と、
    前記導出手段が導出した色情報と、前記抽出手段が抽出した色と、を対応付けて登録する登録手段と
    を備えることを特徴とする画像処理装置。
  2. 更に、
    複数の撮像装置のそれぞれが撮像した撮像画像から抽出した色のヒストグラムに基づいて、該複数の撮像装置を複数のグループに分割する分割手段を備え、
    前記取得手段は、前記グループから選択された1つの選択撮像装置が複数の撮像環境下において撮像した前記面の撮像画像を取得することを特徴とする請求項1に記載の画像処理装置。
  3. 前記導出手段及び前記抽出手段はそれぞれ、前記選択撮像装置が複数の撮像環境下において撮像した前記面のそれぞれの撮像画像について前記導出及び前記抽出を行うことを特徴とする請求項2に記載の画像処理装置。
  4. 前記登録手段は、前記選択撮像装置が複数の撮像環境下において撮像した前記面のそれぞれの撮像画像について前記導出手段が導出した色情報と前記抽出手段が抽出した色とを、前記グループと対応付けて登録することを特徴とする請求項3に記載の画像処理装置。
  5. 前記面には、前記カラーチャートに含まれる色が、該色を表す色情報と対応付けて配置されていることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 前記面には、前記カラーチャートに含まれる色が、該色を表す色情報に応じた位置に配置されていることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  7. 前記面には、前記カラーチャートに含まれる色を表す色情報を表し且つ該色を有する文字オブジェクトが配置されていることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  8. 更に、
    オブジェクトの画像を取得する第2の取得手段と、
    前記第2の取得手段が取得した画像中の前記オブジェクトの色を取得し、前記登録手段が登録した色情報のうち、該取得した色に対応する色情報を特定する特定手段と、
    前記第2の取得手段が取得した画像と、前記特定手段が特定した色情報と、を対応付けて登録する第2の登録手段と
    を備えることを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。
  9. 請求項8に記載の画像処理装置によって登録された画像を検索する検索装置であって、
    前記第2の登録手段が登録した画像のうち、クエリとして入力された色情報と対応付けて前記第2の登録手段が登録した画像を検索する検索手段と、
    前記検索手段による検索結果を出力する手段と
    を備えることを特徴とする検索装置。
  10. 更に、
    オブジェクトの画像を取得する第2の取得手段と、
    前記第2の取得手段が取得した画像中の前記オブジェクトの色を抽出する第2の抽出手段と、
    前記第2の取得手段が取得した画像と、前記第2の抽出手段が抽出した色と、を対応付けて登録する第2の登録手段と
    を備えることを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。
  11. 請求項10に記載の画像処理装置によって登録された画像を検索する検索装置であって、
    前記第2の登録手段が登録した色のうち該色と対応付けて前記登録手段が登録した色情報がクエリとして入力された色情報と合致する色、と対応付けて前記第2の登録手段が登録した画像を検索する検索手段と、
    前記検索手段による検索結果を出力する手段と
    を備えることを特徴とする検索装置。
  12. 更に、
    前記検索手段が検索した画像のうちユーザにより指定された画像と対応付けて前記第2の登録手段が登録した色と対応付けて前記登録手段が登録した色情報を、ユーザにより指定された色情報に更新する手段を備えることを特徴とする請求項11に記載の検索装置。
  13. 画像処理装置が行う画像処理方法であって、
    前記画像処理装置の取得手段が、カラーチャートに含まれる色を表す色情報が導出できるように該カラーチャートが配置された面を撮像した撮像画像を取得する取得工程と、
    前記画像処理装置の導出手段が、前記撮像画像から前記色情報を導出する導出工程と、
    前記画像処理装置の抽出手段が、前記撮像画像中の前記カラーチャートの色を抽出する抽出工程と、
    前記画像処理装置の登録手段が、前記導出工程で導出した色情報と、前記抽出工程で抽出した色と、を対応付けて登録する登録工程と
    を備えることを特徴とする画像処理方法。
  14. コンピュータを、請求項1乃至8、10の何れか1項に記載の画像処理装置の各手段として機能させるためのコンピュータプログラム。
JP2016097386A 2016-05-13 2016-05-13 画像処理装置、画像処理方法、検索装置 Expired - Fee Related JP6525921B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016097386A JP6525921B2 (ja) 2016-05-13 2016-05-13 画像処理装置、画像処理方法、検索装置
EP17000734.8A EP3244323B1 (en) 2016-05-13 2017-04-27 Image processing apparatus, image processing method, search apparatus, and computer program
US15/585,695 US10430457B2 (en) 2016-05-13 2017-05-03 Image processing apparatus, image processing method, search apparatus, search method, and non-transitory computer-readable storage medium
CN201710316453.9A CN107368838B (zh) 2016-05-13 2017-05-08 图像处理装置、图像处理方法、搜索装置以及搜索方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016097386A JP6525921B2 (ja) 2016-05-13 2016-05-13 画像処理装置、画像処理方法、検索装置

Publications (3)

Publication Number Publication Date
JP2017204241A true JP2017204241A (ja) 2017-11-16
JP2017204241A5 JP2017204241A5 (ja) 2018-02-15
JP6525921B2 JP6525921B2 (ja) 2019-06-05

Family

ID=58671323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016097386A Expired - Fee Related JP6525921B2 (ja) 2016-05-13 2016-05-13 画像処理装置、画像処理方法、検索装置

Country Status (4)

Country Link
US (1) US10430457B2 (ja)
EP (1) EP3244323B1 (ja)
JP (1) JP6525921B2 (ja)
CN (1) CN107368838B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021103555A (ja) * 2020-07-21 2021-07-15 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 画像検出方法、装置、電子設備、記憶媒体、及びプログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11057573B2 (en) 2017-12-20 2021-07-06 Texas Instruments Incorporated Multi camera image processing
JP7011472B2 (ja) * 2018-01-15 2022-01-26 キヤノン株式会社 情報処理装置、情報処理方法
JP7195782B2 (ja) * 2018-06-27 2022-12-26 キヤノン株式会社 情報処理装置、制御方法及びプログラム
JP7041601B2 (ja) * 2018-09-05 2022-03-24 シャープ株式会社 情報処理装置、情報処理装置における表示方法及びプログラム
JP2021047827A (ja) 2019-09-20 2021-03-25 キヤノン株式会社 デバイス、システム、制御方法、及びプログラム
JP7361551B2 (ja) 2019-09-20 2023-10-16 キヤノン株式会社 デバイス、制御方法、及びプログラム
CN116127118A (zh) * 2022-12-21 2023-05-16 微梦创科网络科技(中国)有限公司 一种相似图像检索的方法、装置、电子设备及存储介质
US20250240381A1 (en) * 2024-01-22 2025-07-24 Nvidia Corporation Color correction matrix calibration for high dynamic range sensors

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002016935A (ja) * 2000-06-29 2002-01-18 Japan Research Institute Ltd 異なる光源下におけるカラー画像データの変換方法,装置およびカラー画像データ変換のためのプログラムを記録した媒体
JP2008225887A (ja) * 2007-03-13 2008-09-25 Toshiba Corp 画像検索システム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5311293A (en) * 1983-07-18 1994-05-10 Chromatics Color Sciences International, Inc. Method and instrument for selecting personal compatible colors
US6081276A (en) * 1996-11-14 2000-06-27 International Business Machines Corporation Method and apparatus for creating a color name dictionary and for querying an image by color name
US7415153B2 (en) * 2002-09-20 2008-08-19 International Business Machines Corporation Color naming, color categorization and describing color composition of images
JP4708192B2 (ja) * 2006-01-10 2011-06-22 パナソニック株式会社 動的なカメラ色補正装置およびそれを用いた映像検索装置
CN102164238B (zh) * 2006-01-10 2013-09-18 松下电器产业株式会社 颜色校正处理装置、动态摄像机颜色校正装置以及使用其的影像检索装置
JP2009271577A (ja) * 2008-04-30 2009-11-19 Panasonic Corp 類似画像検索の結果表示装置及び類似画像検索の結果表示方法
EP2549759B1 (en) * 2011-07-19 2016-01-13 Axis AB Method and system for facilitating color balance synchronization between a plurality of video cameras as well as method and system for obtaining object tracking between two or more video cameras
CN103718212B (zh) * 2011-08-05 2016-10-12 乐天株式会社 颜色确定装置、颜色确定系统和颜色确定方法
JP5845987B2 (ja) * 2012-03-13 2016-01-20 株式会社リコー 撮像装置、撮像システム、測色装置、測色システム及び画像形成装置
CN107346061B (zh) * 2012-08-21 2020-04-24 快图有限公司 用于使用阵列照相机捕捉的图像中的视差检测和校正的系统和方法
US9773021B2 (en) * 2013-01-30 2017-09-26 Hewlett-Packard Development Company, L.P. Corrected optical property value-based search query
US10401227B2 (en) * 2015-03-26 2019-09-03 Konica Minolta, Inc. Colorimetry device and colorimetry method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002016935A (ja) * 2000-06-29 2002-01-18 Japan Research Institute Ltd 異なる光源下におけるカラー画像データの変換方法,装置およびカラー画像データ変換のためのプログラムを記録した媒体
JP2008225887A (ja) * 2007-03-13 2008-09-25 Toshiba Corp 画像検索システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021103555A (ja) * 2020-07-21 2021-07-15 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 画像検出方法、装置、電子設備、記憶媒体、及びプログラム
JP7051267B2 (ja) 2020-07-21 2022-04-11 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 画像検出方法、装置、電子設備、記憶媒体、及びプログラム
US11798193B2 (en) 2020-07-21 2023-10-24 Beijing Baidu Netcom Science And Technology Co., Ltd. Multi-dimensional image detection on at least two acquired images

Also Published As

Publication number Publication date
EP3244323B1 (en) 2022-03-23
EP3244323A1 (en) 2017-11-15
CN107368838B (zh) 2021-03-16
CN107368838A (zh) 2017-11-21
JP6525921B2 (ja) 2019-06-05
US20170329775A1 (en) 2017-11-16
EP3244323A8 (en) 2018-01-03
US10430457B2 (en) 2019-10-01

Similar Documents

Publication Publication Date Title
JP6525921B2 (ja) 画像処理装置、画像処理方法、検索装置
JP6172551B1 (ja) 画像検索装置、画像検索システム及び画像検索方法
JP2022510712A (ja) ニューラルネットワークの訓練方法及び画像マッチング方法、並びに装置
JP5682569B2 (ja) 色彩解析装置、色彩解析方法、及び色彩解析プログラム
CN103995889A (zh) 图片分类方法及装置
US20150067471A1 (en) Correlating image annotations with foreground features
CN103793697A (zh) 一种人脸图像的身份标注方法及人脸身份识别方法
JP2014016824A (ja) 情報処理装置及びその制御方法及びプログラム
JPH05242165A (ja) 画像データベースシステム
US20170249367A1 (en) Dynamic thumbnail selection for search results
JP2015011557A (ja) 情報処理装置、情報処理方法及びプログラム
JP5430636B2 (ja) データ取得装置、方法及びプログラム
WO2020136795A1 (ja) 情報処理装置、情報処理方法、およびプログラム
RU2011138862A (ru) Способ индексации и поиска цифровых изображений
JP2015179431A (ja) 検索装置、検索方法、及びプログラム
JP2008225887A (ja) 画像検索システム
JP6604413B1 (ja) 画像検索装置、画像検索システム、画像検索方法及びプログラム
JPH1049542A (ja) 画像登録装置および方法
TWM579762U (zh) Fabric information mediation system
JPH10254901A (ja) 画像検索方法および装置
CN106649300A (zh) 一种基于云平台的智能服饰搭配推荐方法及系统
JP6143462B2 (ja) 画像検索装置、画像検索方法、検索元画像提供装置、検索元画像提供方法、及びプログラム
CN114579779B (zh) 图像处理方法、装置、电子设备及存储介质
JP2007052466A (ja) 画像処理方法、画像処理システム、および画像処理プログラム
JP6650975B2 (ja) 画像処理装置およびその方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190408

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190507

R151 Written notification of patent or utility model registration

Ref document number: 6525921

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees