1 実施の形態1
1.1 画像補正システム1
実施の形態1としての画像補正システム1について、図1を用いて、説明する。
画像補正システム1は、サーバー装置3と画像形成装置5とから構成され、サーバー装置3と画像形成装置5は、ネットワーク2を介して、接続されている。
画像形成装置5は、写真の原稿から、経年により色あせた写真画像を読み取る。写真画像に画像形成当初の年月日が印字されている場合には、その写真画像から、形成時期として、その年月日を抽出する。写真画像に画像形成当初の年月日が印字されていない場合には、写真画像をサーバー装置3に対して送信する。
サーバー装置3は、画像形成装置5から写真画像を受信し、後述するニューラルネットワーク350により、写真画像から、当該写真画像が形成された時期を推定し、写真画像に含まれるオブジェクト及びオブジェクトの種別を認識して抽出する。サーバー装置3は、画像形成装置5に対して、写真画像が形成された形成時期、抽出したオブジェクト及びオブジェクトの種別を送信する。
画像形成装置5(画像補正装置)は、写真画像が形成された形成時期に応じた補正係数により、写真画像内のオブジェクトを補正する。
この補正により、画像形成装置5は、経年により色あせた写真画像を、色あせる前の当初の写真画像に近づけることができる。
1.2 画像形成装置5
(1)画像形成装置5の構成
画像形成装置5は、図1に示すように、スキャナー、プリンター及びコピー機の機能を有するタンデム型のカラー複合機(MFP:MultiFunction Peripheral)である。
画像形成装置5は、この図に示すように、筐体底部に、記録シートを収容し、給送する給紙部13が設けられている。給紙部13の上方には、電子写真方式により画像を形成するプリンター12が設けられている。プリンター12のさらに上方に、原稿を読み取って画像データを生成するイメージリーダー11、及び、操作画面を表示し、利用者から入力操作を受け付ける操作パネル19が設けられている。
イメージリーダー11は、自動原稿搬送装置を有している。自動原稿搬送装置は、原稿トレイにセットされた写真原稿等を、搬送路を介して、1枚ずつ原稿ガラス板へ搬送する。イメージリーダー11(画像取得手段)は、自動原稿搬送装置によって原稿ガラス板の所定位置に搬送された写真原稿等、又は、利用者により原稿ガラス板の上に載置された写真原稿等をスキャナーの移動によって読み取り、レッド(R)、グリーン(G)、ブルー(B)の多値デジタル信号からなる画像データを得る。ここで、イメージリーダー11は、印画紙の画像を読み取ってもよいし、銀塩フィルムの画像を読み取ってもよい。
イメージリーダー11で得られた各色成分の画像データは、制御回路100において各種のデータ処理を受ける。画像データが印刷される際には、制御回路100において、更にイエロー(Y)、マゼンタ(M)、シアン(C)、ブラック(K)の各再現色の画像データに変換される。
プリンター12は、駆動ローラーと従動ローラーとバックアップローラーとにより張架される中間転写ベルト21、二次転写ローラー22、中間転写ベルト21に対向して中間転写ベルト21の走行方向Xに沿って所定間隔で配置された作像部20Y、20M、20C、20K、定着部50、制御回路100等からなる。
作像部20Y、20M、20C、20Kは、それぞれ、Y、M、C、K色のトナー像を作像する。一例として、作像部20Kは、像担持体である感光体ドラム、感光体ドラムの表面を露光走査するためのLEDアレイ、帯電装置、現像ローラーを備えた現像装置、クリーナー及び一次転写ローラーなどからなる。作像部20Y、20M、20Cも、作像部20Kと同様の構成を有している。
給紙部13は、サイズの異なる記録シートを収容する給紙カセット60、61、62と、この記録シートを各給紙カセットから搬送路に繰り出すためのピックアップローラー63、64、65とから構成されている。
作像部20Kにおいて、感光体ドラムの周面は、帯電装置により一様に、マイナス極性に帯電され、LEDアレイにより露光され、感光体ドラムの表面に静電潜像が形成される。静電潜像は、現像装置により現像され、感光体ドラムの表面にK色のトナー像が形成される。
トナー像は、中間転写ベルト21の裏面側に配設された一次転写ローラーの静電作用により、中間転写ベルト21の表面上に順次転写される。作像部20Y~20Cのそれぞれにおいても、同様である。
中間転写ベルト21上で、Y~K色のトナー像が多重転写されるように、各色の作像タイミングがずらされている。
一方、給紙部13のいずれかの給紙カセットから、作像部20Y~20Kによる作像動作に合わせて、記録シートが給送される。
記録シートは、二次転写ローラー22とバックアップローラーとが中間転写ベルト21を挟んで対向する二次転写位置へと搬送路上を搬送され、二次転写位置で、二次転写ローラー22の静電的作用により、中間転写ベルト21上で多重転写されたY~K色のトナー像が記録シートへ二次転写される。Y~K色のトナー像が二次転写された記録シートは、さらに定着部50まで搬送される。
記録シートの表面のトナー像は、定着部50の加熱ローラーとこれに圧接された加圧ローラーとの間に形成される定着ニップを通過する際に、加熱及び加圧により、記録シートの表面に融着して定着され、記録シートは、定着部50を通過した後、排出トレイ15へ送出される。
操作パネル19には、液晶表示板などで構成される表示部が設けられ、利用者によって設定された内容、各種のメッセージ等を表示する。操作パネル19(紙種取得手段)は、利用者から、操作指示を受け付ける。操作指示は、コピー開始の指示、コピー枚数の設定、コピー条件の設定、データの出力先の設定、写真原稿をスキャンするスキャン指示、写真画像の色あせの補正を行なう補正指示、スキャンの対象である原稿の紙種(普通紙であるか印画紙であるかなど)の指定等を含む。操作パネル19は、操作指示を制御回路100に通知する。
(2)制御回路100
制御回路100は、図2(a)に示すように、CPU(Central Processing Unit)151、ROM(Read Only Memory)152、RAM(Random Access Memory)153、画像メモリ154、画像処理回路155、ネットワーク通信回路156、スキャナー制御回路157、入出力回路158、プリンター制御回路159、入出力回路160、記憶回路161及びバス166等から構成されている。
CPU151、ROM152、RAM153、画像メモリ154、画像処理回路155、ネットワーク通信回路156、スキャナー制御回路157、入出力回路158、プリンター制御回路159及び入出力回路160は、バス166を介して、相互に接続されている。記憶回路161は、入出力回路160に接続されている。
RAM153は、各種の制御変数及び操作パネル19により設定されたコピー枚数等のデータを一時的に記憶すると共に、CPU151によるプログラム実行時のワークエリアを提供する。
ROM152には、コピー動作などの各種ジョブを実行させるための制御プログラム等が格納されている。また、ROM152には、画像形成装置5における印刷方式(この例においては、電子写真方式)を示す印刷方式情報が格納されている。
CPU151は、ROM152に記憶されている制御プログラムに従って動作する。
画像メモリ154は、イメージリーダー11により読み取った画像、プリントジョブ等に含まれる画像を一時的に記憶する。
画像処理回路155は、後述する統括制御部142から、補正係数を受け取る。次に、画像処理回路155(画像補正手段)は、画像メモリ154に記憶している写真画像内の全ての画素について、又は、写真画像内の指定されたオブジェクトについて、次の式により、各画素の階調値に、受け取った補正係数を加算することにより、写真画像の補正をする。なお、ここでは、RGB空間の例を示している。
赤の画素の階調値=赤の画素の階調値+赤の補正係数
緑の画素の階調値=緑の画素の階調値+緑の補正係数
青の画素の階調値=青の画素の階調値+青の補正係数
また、画像処理回路155は、例えば、イメージリーダー11で得られたR、G、Bの各色成分の画像データに対して、画像データが印刷される際に、各種のデータ処理を施して、Y、M、C、Kの各再現色の画像データに変換する。
ネットワーク通信回路156は、ネットワーク2を介して、外部の装置に対して、データを送信する。例えば、ネットワーク通信回路156(送信手段)は、ネットワーク2を介して、サーバー装置3に対して、写真画像を送信する。また、ネットワーク通信回路156は、ネットワーク2を介して、外部の装置からデータを受信する。例えば、ネットワーク通信回路156(時期取得手段)は、ネットワーク2を介して、サーバー装置3から、写真画像が形成された形成時期、オブジェクト及びオブジェクトの種別を受信する。
スキャナー制御回路157は、イメージリーダー11を制御し、原稿の読み取り動作を実行させる。スキャナー制御回路157は、イメージリーダー11の読取りにより、得られた画像を画像メモリ154に書き込む。例えば、イメージリーダー11の読取りにより、印画紙に印刷された写真画像を読み取った場合、スキャナー制御回路157は、得られた写真画像を、写真画像181として、画像メモリ154に書き込む。
入出力回路158は、操作パネル19から入力信号を受信し、受信した入力信号を主制御部141に対して、出力する。また、主制御部141から、画像を受信し、受信した画像を操作パネル19に対して出力して、表示させる。
プリンター制御回路159は、プリンター12を制御し、画像形成動作を実行させる。
入出力回路160は、統括制御部142の制御により、記憶回路161に対して、データを書き込み、記憶回路161から、データを読み出す。一例として、入出力回路160(係数取得手段)は、画像処理回路155の制御により、記憶回路161から、形成時期に対応する補正係数を補正係数テーブル171から読み出し、読み出した補正係数を画像処理回路155に対して、出力する。
記憶回路161については、次に説明する。
(3)記憶回路161
記憶回路161は、一例として、半導体メモリから構成されている。
記憶回路161(記憶手段)は、人物の顔画像を補正するための補正係数テーブル171を予め記憶している。その他、記憶回路161は、用途に応じて、例えば、写真画像に含まれるオブジェクトの種別に応じて、スキャンの対象となる原稿の紙種に応じて、又は、画像形成装置5における印刷方式に応じて、その他の補正係数テーブルを予め記憶している。ここで、オブジェクトの種別は、オブジェクトが、例えば、海、空、森、人物の顔等であることを示し、印刷方式は、一例として、電子写真方式、インクジェット方式等である。
(補正係数テーブル171)
補正係数テーブル171は、経年により色あせた写真画像のうち、人物の顔画像を補正するための補正係数を記憶している。
補正係数テーブル171は、予め、写真画像が形成された印画紙が保存された期間に応じて、印画紙上に形成された写真画像の画質の劣化特性を示す統計データを収集しておくことにより、生成される。
補正係数テーブル171は、図2(b)に一例として示すように、複数の補正係数情報172を含んでいる。各補正係数情報172は、年範囲173及び補正係数174の組からなる。
年範囲173は、印画紙上に写真画像が形成された年を示す。
一例として、図2(b)に示すように、各補正係数情報172には、年範囲173として、「~2020」、「~2015」、「~2010」、「~2005」、「~2000」、「~1950」が含まれている。
ここで、年範囲173「~1950」は、1950年から1999年までを示し、年範囲173「~2000」は、2000年から2004年までを示し、年範囲173「~2005」は、2005年から2009年までを示す。年範囲173「~2010」は、2010年から2014年までを示し、年範囲173「~2015」は、2015年から2019年までを示し、年範囲173「~2020」は、2020年以降を示す。
なお、形成時期が1945年以前の場合、年範囲173「~1950」に含めてもよい。
補正係数174は、当該補正係数174に対応する年範囲173内に形成された写真画像のうち、人物の顔画像を補正する際に、用いられる。補正係数174は、R(赤)の補正係数174a、G(緑)の補正係数174b及びB(青)の補正係数174cからなる。
Rの補正係数174aは、赤色の画素に対して施される補正係数を示し、Gの補正係数174bは、緑色の画素に対して施される補正係数を示し、Bの補正係数174cは、青色の画素に対して施される補正係数を示す。
写真画像の各画素を補正する際には、各画素のR成分の階調値、G成分の階調値及びB成分の階調値に対して、それぞれ、Rの補正係数174aの値、Gの補正係数174bの値、及び、Bの補正係数174cの値が加算される。
この補正により、経年により色あせた写真画像のうち、人物の顔画像を、色あせる前の当初の人物の顔画像に近づけることができる。
その他の補正係数テーブルについては、後述する。
(4)画像データの例
図3(a)~(c)に、一例として、イメージリーダー11による読取りにより、得られた写真画像201、211、221を示す。
写真画像201には、複数の人物とともに、学校の卒業式の看板が写り込んでいる。
また、写真画像211には、複数の人物とともに、スポーツイベントの会場を案内する看板が写り込んでいる。写真画像211に、写り込んでいる人物の服装は、撮影された時期に流行したデザインのものである。その他、当時、使用されていた乗用車が写り込んでいるとしてもよい。これらの服装のデザインや乗用車の形状は、撮影された時期を特定するための特徴として用いられる。
また、写真画像211には、複数の人物が写り込んでいる。写真画像211の右下には、撮影がされた年月日が印字されている。
(5)主制御部141
主制御部141は、CPU151、ROM152及びRAM153から構成されている。CPU151が、ROM152に記憶されている制御プログラムに従って動作することにより、主制御部141は、その機能を果たす。
主制御部141は、図2(a)に示すように、統括制御部142及びOCR処理部143から構成されている。
(a)統括制御部142
CPU151が、制御プログラムに従って動作することにより、統括制御部142は、画像メモリ154、画像処理回路155、ネットワーク通信回路156、スキャナー制御回路157、入出力回路158、プリンター制御回路159、入出力回路160等を統一的に制御する。また、統括制御部142は、OCR処理部143を制御する。
統括制御部142(方式情報取得手段)は、ROM152から、印刷方式を示す印刷方式情報を読み出す。
統括制御部142は、操作パネル19から、入出力回路158を介して、操作者の操作指示を受け付ける。操作指示は、写真原稿をスキャンするスキャン指示、写真画像の色あせの補正を行なう補正指示、スキャンの対象である原稿の紙種の指定等を含む。
スキャン指示を受け付けた場合、統括制御部142は、スキャナー制御回路157に対して、イメージリーダー11により、写真原稿を読み取って、写真画像を生成するように、制御する。得られた写真画像は、写真画像181として、画像メモリ154に書き込まれる。
また、統括制御部142は、補正指示を受け付けたか否かを判断する。
補正指示を受け付けていないと判断する場合、統括制御部142は、写真画像の補正処理を実行しない。
補正指示を受け付けたと判断する場合、統括制御部142は、OCR処理部143に対して、写真画像を出力し、写真画像から日付データを読み取るように、制御する。
統括制御部142は、OCR処理部143から処理結果を受け取る。処理結果が写真画像内に日付データが存在することを示す場合、統括制御部142は、OCR処理部143から日付データを受信し、受信した日付データを形成時期として、特定する。
処理結果が写真画像内に日付データが存在しないことを示す場合、統括制御部142は、ネットワーク通信回路156に対して、得られた写真画像を、ネットワーク2を介して、サーバー装置3に送信するように、制御する。
統括制御部142は、サーバー装置3から、ネットワーク2及びネットワーク通信回路156を介して、1又は複数のオブジェクト、それらのオブジェクトの種別及び形成時期を受信する。
統括制御部142は、オブジェクトの種別、紙種の指定及び印刷方式情報を用いて、オブジェクト毎に、記憶回路161に記憶されている複数の補正係数テーブルから、一つの補正係数テーブルを選択する。
統括制御部142は、形成時期を受信すると、入出力回路160に対して、記憶回路161から、選択した補正係数テーブルを読み出すように、制御する。次に、統括制御部142は、読み出した補正係数テーブルから、受信した形成時期に対応する補正係数を抽出する。
次に、統括制御部142は、抽出した補正係数を画像処理回路155に対して、出力する。
また、統括制御部142は、写真画像のうち、受信したオブジェクトを、画像処理回路155に対して、指定する。
統括制御部142は、画像処理回路155に対して、写真画像のうち、受信したオブジェクトの補正をするように、制御する。
統括制御部142は、画像処理回路155から、写真画像の補正の終了通知を受信する。
画像処理回路155から、写真画像の補正の終了通知を受信すると、統括制御部142は、プリンター制御回路159に対して、補正された写真画像を印刷するように、制御する。その結果、プリンター12は、補正された写真画像の印刷を実行する。
(b)OCR処理部143
OCR処理部143は、統括制御部142から、写真画像を受信する。
OCR処理部143は、受信した写真画像に、OCR処理を施す。その結果、写真画像に、日付データが含まれている場合、日付データが存在する旨の処理結果、及び、得られた日付データを、統括制御部142に対して、出力する。一方、写真画像に、日付データが含まれていない場合、日付データが存在しない旨の処理結果を、統括制御部142に対して、出力する。
1.3 補正係数テーブルの選択
統括制御部142は、次に示すようにして、オブジェクトの種別、紙種の指定及び印刷方式情報を用いて、記憶回路161に記憶されている複数の補正係数テーブルから、一つの補正係数テーブルを選択する。
(1)記憶回路161は、さらに、図9(a)~(c)に示すように、青色に対応する補正係数テーブル241、赤色に対応する補正係数テーブル251、緑色に対応する補正係数テーブル261を記憶していてもよい。
補正係数テーブル241、補正係数テーブル251及び補正係数テーブル261は、それぞれ、補正係数テーブル171と同じデータ構造を有しているので、補正係数テーブル241、補正係数テーブル251及び補正係数テーブル261についての説明を省略する。
青色に対応する補正係数テーブル241は、例えば、青空のオブジェクトに対して用いることができ、赤色に対応する補正係数テーブル251は、例えば、夕焼け空のオブジェクトに対して用いることができ、緑色に対応する補正係数テーブル261、例えば、森のオブジェクトに対して用いることができる。
上述したように、統括制御部142は、サーバー装置3からオブジェクトの種別を受信する。
オブジェクトの種別が、人物の顔のオブジェクトであることを示す場合、統括制御部142は、図2(a)に示す補正係数テーブル171を選択する。
オブジェクトの種別が、青空のオブジェクトであることを示す場合、統括制御部142は、図9(a)に示す補正係数テーブル241を選択する。
オブジェクトの種別が、夕焼け空のオブジェクトであることを示す場合、統括制御部142は、図9(b)に示す補正係数テーブル251を選択する。
オブジェクトの種別が、森のオブジェクトであることを示す場合、統括制御部142は、図9(c)に示す補正係数テーブル261を選択する。
次に、統括制御部142は、選択した補正係数テーブルから、受信した形成時期に対応する補正係数を抽出し、抽出した補正係数を画像処理回路155に対して、出力する。
画像処理回路155は、補正係数を受信し、受信した補正係数を用いて、写真画像内のオブジェクトを補正する。
これにより、オブジェクトの種別に応じて、劣化した写真画像の補正を行なうことができる。
(2)上述したように、操作パネル19は、利用者から、スキャンの対象である原稿の紙種の指定を受け付ける。紙種は、例えば、普通紙、印画紙等である。統括制御部142は、入出力回路158を介して、操作パネル19から、紙種の指定を受け取る。
また、統括制御部142は、形成時期を受信する。
記憶回路161は、さらに、図10(a)に一例として示すように、紙種に対応する補正係数テーブル271を記憶していてもよい。
補正係数テーブル271は、印画紙及び普通紙上に形成された写真画像が経年により色あせた場合に、補正するための補正係数を記憶している。
補正係数テーブル271は、予め、写真画像が形成された印画紙及び普通紙が保存された期間に応じて、印画紙及び普通紙上に形成された写真画像の画質の劣化特性を示す統計データを収集しておくことにより、生成される。
補正係数テーブル271は、複数の補正係数情報272を含んでいる。各補正係数情報272は、年範囲273及び補正係数274の組からなる。補正係数274は、印画紙の明度L(274a)及び普通紙の明度L(274b)を含む。
年範囲273は、印画紙上又は普通紙上に写真画像が形成された年を示す。
一例として、図10(a)に示すように、補正係数テーブル271には、年範囲273として、「~2020」、「~2015」、「~2010」、「~2005」、「~2000」、「~1950」が含まれている。
これらは、図2(b)に示す補正係数テーブル171における年範囲173と同様であるので、説明を省略する。
印画紙の明度L(274a)は、印画紙上に形成された写真画像を補正する際に、用いられ、普通紙の明度L(274b)は、印画紙上に形成された写真画像を補正する際に、用いられる。
印画紙の明度L(274a)及び普通紙の明度L(274b)は、それぞれ、Lab色空間における明度を示す。
統括制御部142は、印画紙の紙種の指定を受け取った場合、補正係数テーブル271から、受け取った紙種の指定及び受信した形成時期に対応する印画紙の明度L(274a)を抽出する。一方、統括制御部142は、普通紙の紙種の指定を受け取った場合、補正係数テーブル271から、受け取った紙種の指定及び受信した形成時期に対応する印画紙の普通紙の明度L(274b)を抽出する。
統括制御部142は、抽出した明度Lを、画像処理回路155に対して、出力する。
画像処理回路155は、統括制御部142から明度Lを受け取り、受け取った明度Lを、写真画像181の明度Lに加算することにより、写真画像181の明度Lを補正する。
(3)画像形成装置5は、電子写真方式により、印刷を行う。なお、画像形成装置5は、インクジェット方式により、印刷を行うとしてもよい。この場合、画像形成装置5のROM152は、インクジェット方式を示す印刷方式情報を記憶している。
記憶回路161は、さらに、図10(b)に一例として示すように、印刷方式に対応する補正係数テーブル281を記憶していてもよい。
ここで、補正係数テーブル281は、電子写真方式の画像形成装置及び安価なインクジェット方式の画像形成装置に対応している。
補正係数テーブル281は、電子写真方式の画像形成装置及び安価なインクジェット方式の画像形成装置により印画紙上に形成された写真画像が経年により色あせた場合に、補正するための補正係数を記憶している。
補正係数テーブル281は、予め、写真画像が形成された印画紙が保存された期間に応じて、印画紙上に形成された写真画像の画質の劣化特性を示す統計データを収集しておくことにより、生成される。
補正係数テーブル281は、複数の補正係数情報282を含んでいる。各補正係数情報282は、年範囲283及び補正係数284の組からなる。補正係数274は、安価なインクジェットの明度L(284a)及び電子写真方式の明度L(284b)を含む。
年範囲283は、印画紙上又は普通紙上に写真画像が形成された年を示す。年範囲283は、図2(b)に示す補正係数テーブル171における年範囲173と同様であるので、説明を省略する。
明度L(284a)は、安価なインクジェット方式の画像形成装置により印画紙上に形成された写真画像を補正する際に、用いられ、明度L(284b)は、電子写真方式の画像形成装置により印画紙上に形成された写真画像を補正する際に、用いられる。
明度L(284a)及び明度L(284b)は、それぞれ、Lab色空間における明度を示す。
統括制御部142は、ROM152から印刷方式情報を読み出す。
ROM152から読み出した印刷方式情報が電子写真方式を示す場合、統括制御部142は、補正係数テーブル281から、読み出した印刷方式情報及び受信した形成時期に対応する明度L(284b)を抽出する。
一方、ROM152から読み出した印刷方式情報がインクジェット方式を示す場合、統括制御部142は、補正係数テーブル281から、読み出した印刷方式情報及び受信した形成時期に対応する明度L(284a)を抽出する。
統括制御部142は、抽出した明度Lを、画像処理回路155に対して、出力する。
画像処理回路155は、統括制御部142から明度Lを受け取り、受け取った明度Lを、写真画像181の明度Lに加算することにより、写真画像181の明度Lを補正する。
これにより、印刷方式に応じて、劣化した写真画像の補正を行なうことができる。
1.4 サーバー装置3
(1)サーバー装置3の構成
サーバー装置3は、図4に示すように、バスB1に接続されたCPU301、ROM302、RAM303、記憶回路304及びネットワーク通信回路311と、バスB2に接続されたGPU(Graphics Processing Unit)305、ROM306、RAM307及び記憶回路308から構成されている。バスB1とバスB2は、相互に接続されている。
RAM303は、半導体メモリから構成されている。RAM303は、CPU301によるプログラム実行時のワークエリアを提供する。
ROM302も、不揮発性の半導体メモリから構成されている。ROM302には、サーバー装置3の機能を実行させるための制御プログラム等が格納されている。なお、記憶回路304に制御プログラム等が格納されている、としてもよい。
CPU301は、ROM302に記憶されている制御プログラムに従って動作する。
ネットワーク通信回路311は、ネットワーク2を介して、外部の装置からデータを受信する。ここで、外部の装置は、一例として、画像形成装置5であり、受信するデータは、一例として、写真画像である。写真画像を受信すると、ネットワーク通信回路311は、受信した写真画像を、写真画像389として、記憶回路304に書き込む。また、ネットワーク通信回路311は、ネットワーク2を介して、外部の装置に対して、データを送信する。ここで、外部の装置は、一例として、画像形成装置5であり、送信するデータは、一例として、写真画像389から認識により抽出したオブジェクト、オブジェクトの種別、形成時期である。
記憶回路304は、不揮発性の半導体メモリから構成されている。なお、記憶回路304は、ハードディスクから構成されている、としてもよい。記憶回路304は、認識の対象となる写真画像389を記憶するための領域を備えている。
RAM307は、不揮発性の半導体メモリから構成されており、GPU305によるプログラム実行時のワークエリアを提供する。
ROM306には、後述する認識処理部324における処理を実行させるためのコンピュータープログラムである制御プログラム等が格納されている。
GPU305は、ROM306に記憶されている制御プログラムに従って動作する。
GPU305が、RAM307をワークエリアとして用いて、ROM306に記憶されている制御プログラムに従って動作することにより、GPU305、ROM306及びRAM307は、認識処理部324を構成する。
認識処理部324には、人工知能として、後述するニューラルネットワーク350が組み込まれている。
認識処理部324に組み込まれているニューラルネットワーク350は、GPU305が、ROM306に記憶されている制御プログラムに従って動作することにより、その機能を果たす。
認識処理部324(認識手段)は、後述する主制御部321から受信した写真画像に対して、ニューラルネットワーク350により、認識処理を施して、写真画像内のオブジェクト、オブジェクトの種別、写真画像が形成された形成時期を推認し、オブジェクト、オブジェクトの種別及び形成時期を主制御部321に対して、出力する。オブジェクトの例は、人物の全身のオブジェクト、人物の顔部分のオブジェクト、車両のオブジェクト、看板のオブジェクト、家具のオブジェクト、海のオブジェクト、空のオブジェクト、植栽のオブジェクト、森のオブジェクト等である。
記憶回路308は、後述するニューロン設定テーブル360を記憶している。
(2)ニューラルネットワーク350
ニューラルネットワーク350について、図5を用いて、説明する。
(a)ニューラルネットワーク350の構造
ニューラルネットワーク350は、この図に示すように、入力層350a、特徴抽出層350b及び認識層350cを有する階層型のニューラルネットワークである。
ここで、ニューラルネットワークとは、人間の神経ネットワークを模倣した情報処理システムのことである。ニューラルネットワーク350において、神経細胞に相当する工学的なニューロンのモデルを、ここではニューロンUと呼ぶ。入力層350a、特徴抽出層350b及び認識層350cは、それぞれ複数のニューロンUを有して構成されている。
入力層350aは、通常、1層からなる。入力層350aの各ニューロンUは、例えば1枚の画像を構成する各画素の画素値をそれぞれ受信する。受信した画像値は、入力層350aの各ニューロンUから特徴抽出層350bにそのまま出力される。
特徴抽出層350bは、入力層350aから受信したデータ(例えば、1枚の画像を構成する全ての画素値)から特徴を抽出して認識層350cに出力する。この特徴抽出層350bは、各ニューロンUでの演算により、受信した画像から、オブジェクトが占める領域を抽出する。
認識層350cは、特徴抽出層350bにより抽出された特徴を用いて識別を行う。認識層350cは、各ニューロンUでの演算により、例えば、特徴抽出層350bにおいて抽出されたオブジェクトの領域から、そのオブジェクトの種別、オブジェクトの属性を識別する。オブジェクトの種別の一例は、人物、植栽、家具、車両、海、森、空等である。オブジェクトの属性の一例は、オブジェクトが形成された年月日(形成時期)である。
ニューロンUとして、通常、図6(a)に示すように、多入力1出力の素子が用いられる。信号は一方向にだけ伝わり、入力された信号xi(i=1、2、・・・、n)に、あるニューロン加重値(SUwi)が乗じられて、ニューロンUに入力される。このニューロン加重値によって、階層的に並ぶニューロンU-ニューロンU間の結合の強さが表される。ニューロン加重値は、学習によって変化させることができる。ニューロンUからは、ニューロン加重値SUwiが乗じられたそれぞれの入力値(SUwi×xi)の総和からニューロン閾値θUを引いた値Xが応答関数f(X)による変形を受けた後、出力される。つまり、ニューロンUの出力値yは、以下の数式で表される。
y=f(X)
ここで、
X=Σ(SUwi×xi)-θU
である。なお、応答関数としては、例えば、シグモイド関数を用いることができる。
入力層350aの各ニューロンUは、通常、シグモイド特性やニューロン閾値をもたない。それゆえ、入力値がそのまま出力に表れる。一方、認識層350cの最終層(出力層)の各ニューロンUは、認識層350cでの識別結果を出力することになる。
ニューラルネットワーク350の学習アルゴリズムとしては、例えば、正解を示す値(データ)と認識層350cからの出力値(データ)との2乗誤差が最小となるように、最急降下法を用いて認識層350cのニューロン加重値等及び特徴抽出層350bのニューロン加重値等を順次変化させていく誤差逆伝播法(バックプロパゲーション)が用いられる。
(b)訓練工程
ニューラルネットワーク350における訓練工程について説明する。
訓練工程は、ニューラルネットワーク350の事前学習を行う工程である。訓練工程では、事前に入手した正解付き(教師あり、アノテーションあり)の画像データを用いて、ニューラルネットワーク350の事前学習を行う。
図7(a)に、事前学習の際のデータの伝播モデルを模式的に示している。
画像データは、画像1枚毎に、ニューラルネットワーク350の入力層350aに入力され、入力層350aから特徴抽出層350bに出力される。特徴抽出層350bの各ニューロンUでは、入力データに対してニューロン加重値付きの演算が行われる。この演算により、特徴抽出層350bでは、入力データから特徴(例えば、オブジェクトが占める領域)が抽出されるとともに、抽出した特徴を示すデータが、認識層350cに出力される(ステップS51)。
認識層350cの各ニューロンUでは、入力データに対するニューロン加重値付きの演算が行われる(ステップS52)。これによって、上記特徴に基づく識別(例えば、オブジェクトの属性の識別)が行われる。識別結果を示すデータは、認識層350cから出力される。
認識層350cの出力値(データ)は、正解を示す値と比較され、これらの誤差(ロス)が算出される(ステップS53)。この誤差が小さくなるように、認識層350cのニューロン加重値等及び特徴抽出層350bのニューロン加重値等を順次変化させる(バックプロパゲーション)(ステップS54)。これにより、認識層350c及び特徴抽出層350bを学習させる。
上記の訓練工程の結果、次に示すニューロン設定テーブル360が生成される。
なお、ここで説明した訓練工程は、サーバー装置3とは別の訓練装置において、実施され、サーバー装置3においては、実施されない。訓練装置において、生成されたニューロン設定テーブル360がサーバー装置3に対して送信され、サーバー装置3は、ニューロン設定テーブル360を受信し、受信したニューロン設定テーブル360を記憶回路308(図4)に書き込む。
ここで、教師データと正解を示す値の組合せの例は、次の通りである。
乗用車を写した写真と、この乗用車が最初に販売された年月日
女性の服装を写した写真と、その撮影日
女性の髪形を写した写真と、その撮影日
男性の服装を写した写真と、その撮影日
スポーツイベントを写した写真と、その撮影日
(c)ニューロン設定テーブル360
上記の訓練工程を経た結果、図6(b)に示すニューロン設定テーブル360が生成される。ニューロン設定テーブル360は、上記の通り、図4に示す記憶回路308内に保持される。
ニューロン設定テーブル360は、図6(b)に示すように、複数のニューロン情報361から構成されている。各ニューロン情報361は、上述した各ニューロンUに対応する。
各ニューロン情報361は、ニューロン番号362、ニューロン加重値363及びニューロン閾値364を含んでいる。
ニューロン番号362は、各ニューロンUを識別する番号である。
ニューロン加重値363及びニューロン閾値364は、それぞれ、上記において説明したニューロン加重値及びニューロン閾値である。
(d)実地認識工程
ニューラルネットワーク350における実地認識工程について説明する。
図7(b)は、上記の訓練工程によって学習されたニューラルネットワーク350を用い、実地で得られたデータを入力として実際に認識(例えば、オブジェクトが占める領域の特定及びオブジェクトの属性の認識)を行う場合のデータの伝播モデルを示している。
ニューラルネットワーク350における実地認識工程においては、学習された特徴抽出層350bと、学習された認識層350cとを用いて、特徴抽出及び認識が行われる(ステップS55)。
(3)主制御部321
主制御部321は、CPU301、ROM302及びRAM303から構成されている。CPU301が、ROM302に記憶されている制御プログラムに従って動作することにより、主制御部321は、その機能を果たす。
主制御部321は、記憶回路304、ネットワーク通信回路311及び認識処理部324等を統一的に制御する。
主制御部321は、記憶回路304に、写真画像389が書き込まれると、記憶回路304に書き込まれた写真画像389を、バスB1、バスB2を介して、認識処理部324に対して、出力する。
また、主制御部321は、認識処理部324からオブジェクト、オブジェクトの種別、形成時期を受け取る。主制御部321は、ネットワーク通信回路311に対して、受け取ったオブジェクト、オブジェクトの種別、形成時期を、ネットワーク2を介して、画像形成装置5に送信するように、制御する。
1.5 画像補正システム1における動作
画像補正システム1における動作について、図8に示すフローチャートを用いて説明する。
統括制御部142は、ROM152から、印刷方式を示す印刷方式情報を読み出すことにより、印刷方式を取得する(ステップS101)。
次に、統括制御部142は、操作パネル19から、スキャンの対象である原稿の紙種を取得する(ステップS102)。
次に、統括制御部142は、写真原稿をスキャンするスキャン指示を受け取った場合、スキャナー制御回路157に対して、イメージリーダー11により、写真原稿を読み取って、写真画像を生成するように、制御する(ステップS103)。
統括制御部142は、写真画像の色あせの補正を行なう補正指示を受け付けたか否かを判断する(ステップS104)。補正指示を受け付けていないと判断する場合(ステップS104で「しない」)、統括制御部142は、ステップS112に制御を移す。
補正指示を受け付けたと判断する場合(ステップS104で「する」)、統括制御部142は、OCR処理部143に対して、写真画像を出力し、写真画像から日付データを読み取るように、制御する。画像内に日付データが存在する場合(ステップS105で「YES」)、統括制御部142は、読み取った日付データを形成時期として、特定する(ステップS113)。次に、統括制御部142は、ステップS109に制御を移す。
画像内に日付データが存在しない場合(ステップS105で「NO」)、統括制御部142は、ネットワーク通信回路156に対して、写真画像を、ネットワーク2を介して、サーバー装置3に送信するように、制御する。ネットワーク通信回路156は、写真画像を、ネットワーク2を介して、サーバー装置3に送信する(ステップS106)。
ネットワーク通信回路311は、画像形成装置5から、ネットワーク2を介して、写真画像を受信する(ステップS106)。
写真画像を受信すると(ステップS106)、主制御部321は、受信した写真画像を認識処理部234に出力して、受信した写真画像に対して、認識処理を施すように、指示する。認識処理部234は、受信した写真画像に対して、認識処理を施す。その結果、認識処理部234は、オブジェクト、オブジェクトの種別、形成時期を推定して出力する(ステップS107)。
主制御部321は、ネットワーク通信回路311に対して、得られたオブジェクト、オブジェクトの種別、形成時期を、ネットワーク2を介して、画像形成装置5に対して、送信するように、制御する。ネットワーク通信回路311は、得られたオブジェクト、オブジェクトの種別、形成時期を、ネットワーク2を介して、画像形成装置5に対して、送信する(ステップS108)。
ネットワーク通信回路156は、サーバー装置3から、ネットワーク2を介して、オブジェクト、オブジェクトの種別、形成時期を受信する(ステップS108)。
統括制御部142は、オブジェクトの種別、印刷方式、原稿の紙種等に応じて、補正係数テーブルを選択する(ステップS109)。
統括制御部142は、入出力回路160を介して、記憶回路161から、形成時期に対応する補正係数を補正係数テーブル171から読み出し、読み出した補正係数を画像処理回路155に対して出力する(ステップS110)。
統括制御部142は、画像処理回路155に対して、写真画像の補正をするように、制御し、画像処理回路155は、読み出した補正係数を用いて、写真画像を補正する(ステップS111)。
次に、統括制御部142は、プリンター制御回路159に対して、補正された写真画像を印刷するように、制御する。プリンター12は、補正された写真画像の印刷を実行する(ステップS112)。
以上により、画像補正システム1における動作の説明を終了する。
1.6 まとめ
以上説明したように、画像形成装置5は、人工知能による推認により取得した写真画像が形成された形成時期に応じた、補正係数により、経年により色あせた写真画像を補正する。この補正により、画像形成装置5は、色あせた写真画像を、色あせる前の当初の写真画像に近づけることができる。
2 その他の変形例
なお、本開示を上記の実施の形態に基づいて説明してきたが、本開示は、上記の実施の形態に限定されないのはもちろんである。以下のようにしてもよい。
(1)図2(b)に示す補正係数テーブル171は、写真画像が形成された年範囲と補正係数とを含んで構成されている。しかし、これには、限定されない。
記憶回路161(記憶手段)は、写真画像が形成された時期からの経過期間と補正係数とを対応付けた補正係数テーブルを、記憶していてもよい。
統括制御部142は、得られた形成時期と現在時刻との差分を算出し、算出した差分に相当する経過期間を補正係数テーブルから、検索し、検索により得られた経過期間に対応する補正係数を、補正係数テーブルから、読み出す。統括制御部142は、読み出した補正係数を、画像処理回路155に対して、出力する。画像処理回路155は、補正係数を受け取り、受け取った補正係数を用いて、画像を補正する。
(2)画像形成装置5は、サーバー装置3が有するニューラルネットワーク350と同じニューラルネットワークを備え、サーバー装置3が有する認識処理部324と同じ認識処理部を備えるとしてもよい。認識処理部(認識手段)は、主制御部321から受信した写真画像に対して、ニューラルネットワークにより、認識処理を施して、オブジェクト、オブジェクトの種別、写真画像が形成された形成時期を推認し、オブジェクト、オブジェクトの種別、形成時期を主制御部321に対して、出力する。主制御部321(時期取得手段)は、形成時期を受け取る。また、主制御部321は、オブジェクト、オブジェクトの種別を受け取る。
(3)画像形成装置5の統括制御部142は、プリンター制御回路159に対して、補正された写真画像を印刷するように、制御し、プリンター12は、補正された写真画像の印刷を実行している。しかし、これには、限定されない。
統括制御部142は、ネットワーク通信回路156に対して、補正された写真画像を、ネットワーク2に接続された他の端末装置に対して、送信するように、制御し、ネットワーク通信回路156は、補正された写真画像を他の端末装置に対して、送信してもよい。
(4)上記の実施の形態では、画像形成装置5が写真原稿をスキャンして、写真画像を得、得られた写真画像をサーバー装置3に対して、送信する。サーバー装置3は、推認により、写真画像からオブジェクト、オブジェクトの種別、形成時期を取得し、取得したオブジェクト、オブジェクトの種別、形成時期を画像形成装置5に対して、送信する。画像形成装置5は、オブジェクトの種別、原稿の紙種、画像形成装置5の印刷方式情報を用いて、補正係数テーブルを選択し、選択した補正係数テーブルを用いて、写真画像を補正している。しかし、これには、限定されない。次のようにしてもよい。
画像形成装置は、写真原稿をスキャンして、写真画像を得、得られた写真画像をサーバー装置に対して、送信する。また、画像形成装置は、写真画像の紙種及び画像形成装置の印刷方式情報をサーバー装置に対して、送信する。
サーバー装置は、画像形成装置5と同様に、予め、用途に応じて、補正係数テーブルを記憶している。また、サーバー装置は、画像形成装置5の画像処理回路155と同様の画像処理回路を備えている。
サーバー装置は、受信した写真画像から、推認により、オブジェクト、オブジェクトの種別、形成時期を取得する。
サーバー装置は、推認により取得したオブジェクトの種別、受信した原稿の紙種、受信した画像形成装置の印刷方式情報を用いて、補正係数テーブルを選択する。サーバー装置(画像補正装置)の画像処理回路は、選択された補正係数テーブルを用いて、写真画像を補正する。
サーバー装置は、補正された写真画像を画像形成装置に対して、送信する。画像形成装置は、補正された写真画像を受信し、受信した写真画像を印刷する。
(5)上記の実施の形態では、画像形成装置5は、オブジェクトの種別、原稿の紙種、印刷方式情報毎に、補正係数テーブルを記憶している。しかし、これには、限定されず、画像形成装置は、補正係数テーブルを記憶していなくてもよい。
画像形成装置に、ネットワークを介して、接続されているサーバー装置がオブジェクトの種別、原稿の紙種、印刷方式情報毎に、補正係数テーブルを記憶していてもよい。
画像形成装置は、サーバー装置に対して、オブジェクトの種別、原稿の紙種、印刷方式情報及び形成時期を送信する。サーバー装置は、オブジェクトの種別、原稿の紙種、印刷方式情報及び形成時期を受信し、記憶している補正係数テーブルから、受信したオブジェクトの種別、原稿の紙種、印刷方式情報に対応する補正係数テーブルを選択する。次に、サーバー装置は、選択した補正係数テーブルから、受信した形成時期に対応する補正係数情報を読み出し、読み出した補正係数情報を画像形成装置に対して、送信する。
画像形成装置は、補正係数情報を受信し、受信した補正係数情報を用いて、写真画像を補正する。
(6)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。