JP5436367B2 - Graphic arrangement determining method, program thereof, and information processing apparatus - Google Patents

Graphic arrangement determining method, program thereof, and information processing apparatus Download PDF

Info

Publication number
JP5436367B2
JP5436367B2 JP2010180447A JP2010180447A JP5436367B2 JP 5436367 B2 JP5436367 B2 JP 5436367B2 JP 2010180447 A JP2010180447 A JP 2010180447A JP 2010180447 A JP2010180447 A JP 2010180447A JP 5436367 B2 JP5436367 B2 JP 5436367B2
Authority
JP
Japan
Prior art keywords
area
image
graphic
wide
angle image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010180447A
Other languages
Japanese (ja)
Other versions
JP2011097565A (en
Inventor
啓 山路
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2010180447A priority Critical patent/JP5436367B2/en
Priority to US12/891,104 priority patent/US8509564B2/en
Publication of JP2011097565A publication Critical patent/JP2011097565A/en
Application granted granted Critical
Publication of JP5436367B2 publication Critical patent/JP5436367B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00Two-dimensional [2D] image generation
    • G06T11/60Creating or editing images; Combining images with text

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Studio Devices (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、広角画像を利用したフォトブックのレイアウトの作成に関する。   The present invention relates to creation of a photobook layout using wide-angle images.

特許文献1の発明は、3次元ジャイロ、ズーム可動器操作情報、3次元加速度測定部等の各種センサによって測定したデジタルカメラによる撮影時の移動情報を各フレームに対応して画像データに付与してメモリカード又は内蔵メモリに記録する。そして、記録された移動情報が付与された画像データから移動情報をスプリット手段によって抽出して、該抽出移動情報に基づいて演算手段によってデジタルカメラの撮影時の移動方向や移動距離を演算し、画像加工手段によって隣接する被写体フレームを抽出して、パノラマ画像を作成する。   In the invention of Patent Document 1, movement information at the time of photographing with a digital camera measured by various sensors such as a three-dimensional gyroscope, zoom movable unit operation information, and a three-dimensional acceleration measuring unit is added to image data corresponding to each frame. Record to memory card or internal memory. Then, the movement information is extracted from the image data to which the recorded movement information is given by the split means, and the movement direction and the movement distance at the time of photographing of the digital camera are calculated by the calculation means based on the extracted movement information, A panoramic image is created by extracting adjacent subject frames by the processing means.

特許文献2の発明の画像レイアウト装置には、他の画像Bの背後に重ね合わせる画像Aの注目領域を算出する注目領域算出手段と、画像Aの注目領域が画像Bと重なることを避けてレイアウトを行うレイアウト手段とを設ける。   In the image layout apparatus of the invention of Patent Document 2, attention area calculation means for calculating the attention area of the image A to be superimposed behind the other image B, and the layout avoiding the attention area of the image A overlapping the image B are arranged. Layout means is provided.

特許文献3および4は、それぞれ静止画および動画からパノラマ画像を作成する従来技術の一例である。図15のように、フォトブックに広角のパノラマ画像を配置すると、従来のような普通の静止画をページに配置しただけの場合に比べて、大きな魅力がフォトブックに生まれる。パノラマ画像とは、少なくとも一部が互いに重複する被写体を有する複数の画像(静止画または動画コマ)を、被写体の重複部分が互いに重なるように各画像を接合ないし重畳して作成されうる。   Patent Documents 3 and 4 are examples of conventional techniques for creating panoramic images from still images and moving images, respectively. As shown in FIG. 15, when a wide-angle panoramic image is arranged in a photo book, a great appeal is created in the photo book as compared with a case where a conventional still image is simply arranged on a page. A panoramic image can be created by joining or superimposing a plurality of images (still images or moving image frames) having subjects at least partially overlapping each other such that overlapping portions of the subjects overlap each other.

特開2004−128683号公報JP 2004-128683 A 特開2004−199248号公報JP 2004-199248 A 特開2005−252739号公報JP 2005-252739 A 特開2007−267008号公報JP 2007-267008 A

一般にパノラマ画像を生成する方法としては、複数の静止画の合成または動画コマを合成する方法が知られている。しかしいずれの場合も、ユーザがカメラを動かしながら撮影を行うため、場合によっては図16のように境界領域が整っていないパノラマ画像が生成されることがある。この場合、撮影部分は意味があるが、黒塗りの非撮影部分は意味がない。   In general, as a method for generating a panoramic image, a method of combining a plurality of still images or a method of combining moving image frames is known. However, in any case, since the user performs shooting while moving the camera, in some cases, a panoramic image with no boundary area as shown in FIG. 16 may be generated. In this case, the photographing part is meaningful, but the black non-photographing part is meaningless.

本発明は、境界領域が整っていない広角画像の非撮影部分を利用してより魅力的なフォトブックを生成することを目的とする。   An object of the present invention is to generate a more attractive photo book by using a non-photographed portion of a wide-angle image with no boundary region.

本発明は、情報処理装置が、広角画像の中から撮影領域を特定する情報である撮影領域情報と非撮影領域を特定する情報である非撮影領域情報を取得するステップと、撮影領域情報で特定される撮影領域に包含される所望の位置およびサイズの部分領域の属性に基づいて、部分領域の優先度を設定するステップと、非撮影領域情報と部分領域の優先度に基づいて、広角画像に付随する1または複数のグラフィックの配置を決定するステップと、を実行するグラフィック配置決定方法を提供する。   According to the present invention, the information processing device acquires shooting area information that is information for specifying a shooting area from wide-angle images and non-shooting area information that is information for specifying a non-shooting area, and is specified by the shooting area information. A step of setting the priority of the partial area based on the attribute of the partial area of a desired position and size included in the captured area, and a wide-angle image based on the non-photographing area information and the priority of the partial area. Determining a layout of one or more accompanying graphics, and providing a graphic layout determining method.

情報処理装置が、優先度に基づいて、広角画像から1または複数の部分領域を抽出するステップを実行する。   The information processing apparatus executes a step of extracting one or a plurality of partial regions from the wide-angle image based on the priority.

情報処理装置が、広角画像に付随する1または複数のグラフィックとして、抽出された1または複数の部分領域の配置を決定するステップを実行する。   The information processing apparatus executes a step of determining the arrangement of the extracted partial region or regions as one or more graphics accompanying the wide-angle image.

抽出された部分領域が前記グラフィックと重なりを有さないよう広角画像に付随するグラフィックの配置を決定するステップを実行する。   The step of determining the layout of the graphic accompanying the wide-angle image is performed so that the extracted partial area does not overlap the graphic.

部分領域の優先度は、部分領域内の特定の種類の被写体の数、部分領域の単位撮影時間あたりの撮影面積、または異なる部分領域との重なり合いの数に基づいて設定される。   The priority of the partial area is set based on the number of specific types of subjects in the partial area, the shooting area per unit shooting time of the partial area, or the number of overlapping with different partial areas.

情報処理装置が、撮影領域が前記グラフィックと重なりを有さないよう広角画像に付随するグラフィックの配置を決定するステップを実行する。   The information processing apparatus executes a step of determining an arrangement of the graphic attached to the wide-angle image so that the shooting area does not overlap the graphic.

情報処理装置が、非撮影領域と広角画像の配置ページの余白が前記グラフィックと重なりを有するよう広角画像に付随するグラフィックの配置を決定するステップを実行する。   The information processing apparatus executes a step of determining a graphic arrangement associated with the wide-angle image so that a margin of the non-photographing area and the wide-angle image arrangement page overlaps the graphic.

情報処理装置が、広角画像の配置ページの寸法に基づいて広角画像のアスペクト比の上限を決定するステップを実行する。   The information processing apparatus executes a step of determining an upper limit of the aspect ratio of the wide angle image based on the size of the arrangement page of the wide angle image.

情報処理装置が、決定されたアスペクト比の上限に基づいて広角画像を生成するステップを実行する。   The information processing apparatus executes a step of generating a wide-angle image based on the determined upper limit of the aspect ratio.

情報処理装置が、決定されたアスペクト比の上限に基づいて広角画像から部分領域を抽出するステップを実行する。   The information processing apparatus executes a step of extracting a partial region from the wide-angle image based on the determined upper limit of the aspect ratio.

非撮影領域情報は、広角画像における非撮影領域の位置座標または広角画像における所定の色を含む。   The non-photographing area information includes the position coordinates of the non-photographing area in the wide-angle image or a predetermined color in the wide-angle image.

本発明は、グラフィック配置決定方法を情報処理装置が実行するためのプログラムおよび情報処理装置を含む。   The present invention includes a program for an information processing apparatus to execute a graphic arrangement determination method and an information processing apparatus.

この発明によると、単に被写体の存在しない余白領域に任意の画像を配置するだけの場合と異なり、広角画像の非撮影領域をグラフィックの配置領域として有効に活用でき、価値の高いフォトブックを提供できる。   According to the present invention, unlike a case where an arbitrary image is simply arranged in a blank area where no subject exists, a non-photographing area of a wide-angle image can be effectively used as a graphic arrangement area, and a high-value photo book can be provided. .

画像プリント作成装置の概略構成を示すブロック図Block diagram showing schematic configuration of image print creation device パノラマ画像の例を示す図Figure showing an example of a panoramic image 非撮影領域に所定の色を配置したパノラマ画像の一例を示す図The figure which shows an example of the panoramic image which has arrange | positioned the predetermined color to the non-photographing area | region 非撮影領域に相当するマスク画像の例を示す図The figure which shows the example of the mask image equivalent to a non imaging | photography area | region 非撮影領域の座標を示すテキスト情報の一例を示す図The figure which shows an example of the text information which shows the coordinate of a non imaging | photography area | region 非撮影領域に配置されるグラフィックのレイアウトの例を示す図The figure which shows the example of the layout of the graphic arrange | positioned in a non-photographing area 余白領域および非撮影領域の統一された色の例を示す図The figure which shows the example of the color unified in the blank area and the non-photographing area パノラマ画像の存在しない余白領域に任意の画像を配置する例を示す図The figure which shows the example which arrange | positions arbitrary images in the blank area where a panoramic image does not exist パノラマ画像の部分的な切り出し領域の例を示す図The figure which shows the example of the partial cutout area of a panoramic image アスペクト比に基づいて決定された切り出し領域の例を示す図The figure which shows the example of the cut-out area determined based on the aspect ratio 包含する人物被写体の数に基づいて決定された切り出し領域の例を示す図The figure which shows the example of the cut-out area | region determined based on the number of person subjects to include 単位時間あたりの撮影面積の大小に基づいて設定された矩形領域の優先度の一例を示す図The figure which shows an example of the priority of the rectangular area set based on the magnitude | size of the imaging | photography area per unit time 矩形領域パターンの共通領域の一例を示す図The figure which shows an example of the common area | region of a rectangular area pattern 共通領域の抽出の一例を示す図The figure which shows an example of extraction of a common area 切り出された矩形領域の配置例を示す図The figure which shows the example of arrangement | positioning of the cut-out rectangular area 非撮影領域よりも前面に配置されたグラフィックの例を示す図The figure which shows the example of the graphic arranged in front of the non-photographing area フォトブックのページに配置されたパノラマ画像の位置の偏りの例を示す図The figure which shows the example of the position bias of the panorama image arrange | positioned on the page of a photo book 画像アスペクト比上限の例を示す図Figure showing an example of the image aspect ratio upper limit 画像アスペクト比上限に従ったパノラマ画像を対応するサイズのフォトブックに配置した様子を例示する図The figure which illustrates a state that the panorama image according to the image aspect ratio upper limit is arranged in the photo book of the corresponding size レイアウト決定処理のフローチャートFlow chart of layout determination process 注文画像から作成可能なパノラマ画像とアスペクト比上限に従った範囲の関係を示した図Diagram showing the relationship between the panorama image that can be created from the order image and the range according to the aspect ratio upper limit パノラマ画像の配置されたフォトブックの例を示す図Figure showing an example of a photo book with panoramic images 境界領域が整っていないパノラマ画像の一例を示す図The figure which shows an example of the panoramic image where the border area is not arranged

図1は、本発明を適用した画像プリント作成装置10の概略構成を示すブロック図である。画像プリント作成装置10は、例えば、CDやDVDなどの各種の記録メディアやメモリカードなどの記憶媒体から、あるいはカメラと接続されたUSBなどの周辺機器接続用汎用インターフェースから、あるいはインターネットやLANなどのネットワークから画像(静止画像データ、動画データ、動画をキャプチャした静止画である動画コマを含む)を画像入力部2を介して読み込み、これを素材としてフォトブック(ページごとのレイアウトとデザインで表示装置あるいは印刷装置に画像を出力させるためのデータまたはページごとのレイアウトとデザインで画像が印刷された紙などの印刷媒体)を作成する。一例として動画データは、モーションJPEG、MPEG4などの圧縮記録規格に対応している。一例として静止画像データは、JPEGやTIFF、及びデジタルスチルカメラ用に規格化されたEXIFなどの画像ファイルの形式に対応している。   FIG. 1 is a block diagram showing a schematic configuration of an image print creation apparatus 10 to which the present invention is applied. The image print creation apparatus 10 is, for example, from various recording media such as CDs and DVDs and storage media such as memory cards, from a general-purpose interface for connecting peripheral devices such as USB connected to a camera, or from the Internet or a LAN. Reads images (including still image data, moving image data, and moving image frames that are captured moving images) from the network via the image input unit 2, and uses this as a material for a photo book (display device with layout and design for each page) Alternatively, data for causing the printing apparatus to output an image or a print medium such as paper on which an image is printed with a layout and design for each page is created. As an example, the moving image data corresponds to a compression recording standard such as motion JPEG or MPEG4. As an example, the still image data corresponds to image file formats such as JPEG, TIFF, and EXIF standardized for digital still cameras.

なお、図1のシステム構成は一例であって、これと同等の構成を有する情報端末(例えばパソコン、店頭プリント端末、PDA、携帯電話機)であれば、本発明の実施は可能である。また、図示の個々のブロックが必ずしも1つの電子機器に一体的に構成されている必要はなく、各ブロックがそれぞれ別の電子機器の構成の一部であり、なおかつネットワーク等の何らかの通信手段でそれらの電子機器相互の情報送受信が確保されていれば、本発明の実施は可能であり、特定の機器構成に依存して実施されるものではない。   The system configuration in FIG. 1 is an example, and the present invention can be implemented as long as it is an information terminal (for example, a personal computer, a storefront print terminal, a PDA, or a mobile phone) having a configuration equivalent to this. Further, the individual blocks shown in the figure are not necessarily configured integrally with one electronic device, and each block is a part of the configuration of another electronic device, and they are connected by some communication means such as a network. As long as information transmission / reception between the electronic devices is ensured, the present invention can be implemented and is not performed depending on a specific device configuration.

この画像プリント作成装置10は、マウス、タッチパッド、トラックボールなどのポインタ(カーソル)の移動を指示可能なポインティングデバイスやタッチパネルなどの各種操作デバイスを含む注文受付部1によって操作される。タッチパネルはディスプレイ50に積層されており、ディスプレイ50のボタン表示部分を押下することで、その部分に対応する文字を入力できたり、各種機能を起動させることができる。   The image print creating apparatus 10 is operated by an order receiving unit 1 including various operating devices such as a pointing device and a touch panel that can instruct the movement of a pointer (cursor) such as a mouse, a touch pad, and a trackball. The touch panel is stacked on the display 50, and by pressing a button display part of the display 50, it is possible to input characters corresponding to the part or activate various functions.

また、画像プリント作成装置10には、指示された静止画像を普通紙や印画紙などの紙媒体で構成される台紙に、画像レイアウト部9の決定した所定の配置でプリントする画像出力部8が接続されている。あるいは所定の配置で配列された静止画像は、アドビシステムズ社の「PDF」のような電子的媒体としてディスプレイ50や記録メディアやインターネット経由で接続されたパソコンなどに出力することもできる。   The image print creating apparatus 10 also has an image output unit 8 that prints the instructed still image on a mount composed of a paper medium such as plain paper or photographic paper in a predetermined arrangement determined by the image layout unit 9. It is connected. Alternatively, the still images arranged in a predetermined arrangement can be output as an electronic medium such as “PDF” of Adobe Systems Inc. to a display 50, a recording medium, a personal computer connected via the Internet, or the like.

HDD18には、画像プリントの主な素材となる1または複数の静止画像データや動画コマやパノラマ画像の他に、画像プリントの生成の際にこれらの主な素材と合成される装飾画像データ(グラフィック)などが記憶されている。グラフィックは、静止画像、画像に挿入する文字(漢字、カタカナ、ひらがな、アルファベット、記号、絵文字その他の意味のある可読的な符号ないしその組合せ。以下同様)を構成するキャラクタデータおよび当該文字を包含するテキストボックス、吹き出し、立て札、掲示板その他文字を配置するのに適したオブジェクトのグラフィックデータや、対象となる画像の不要な部分の一部または全部を覆うマスク画像、画像の周囲を囲むフレーム、イラストやクリップアートなどを含む。こうした装飾画像は、フォトブックの主要な素材となる静止画像の背景を飾ったり、ワンポイントの装飾を加えるなど、フォトブックに彩を与える。   In addition to one or a plurality of still image data, moving image frames, and panoramic images, which are the main materials of the image print, the HDD 18 includes decorative image data (graphics) to be combined with these main materials when generating the image print. ) Etc. are stored. The graphic includes still images, character data constituting characters (kanji, katakana, hiragana, alphabets, symbols, pictograms, and other meaningful readable codes or combinations thereof), and the characters to be inserted into the images. Graphic data of objects suitable for placing text boxes, balloons, billboards, bulletin boards and other characters, mask images that cover part or all of unnecessary parts of the target image, frames surrounding the image, illustrations, etc. Includes clip art. These decorative images add color to the photo book by decorating the background of still images that are the main material of the photo book or adding one-point decorations.

パノラマ画像生成部7は、画像入力部2から入力された静止画像または動画像からパノラマ画像を生成する。その具体的手法は従来技術と同様に行うことができる。すなわち、パノラマ画像生成部7は、重複領域同士を重ねあわせるように複数の静止画像(ただし連写画像などパノラマ生成できるような重複部分を持つ一連の画像)または動画コマをつなぎ合わせることで、パノラマ画像を生成する。パノラマ画像の素材になる複数の動画コマまたは静止画像は、連写画像などパノラマ生成できるような被写体の重複部分を持つ一連の画像であり、その撮影方法は任意である。   The panoramic image generation unit 7 generates a panoramic image from the still image or the moving image input from the image input unit 2. The specific method can be performed similarly to the prior art. In other words, the panorama image generation unit 7 connects a plurality of still images (a series of images having overlapping portions that can generate a panorama such as continuous shot images) or moving image frames so as to overlap the overlapping regions. Generate an image. A plurality of moving image frames or still images serving as a panoramic image material are a series of images having overlapping portions of a subject that can generate a panorama such as a continuous shot image, and an image capturing method thereof is arbitrary.

CPU12は、HDD18に記憶されたプログラムを実行することで、画像プリント作成装置10全体を制御する。   The CPU 12 controls the entire image print creating apparatus 10 by executing a program stored in the HDD 18.

画像解析部3、撮影領域・非撮影領域抽出部4、アスペクト比上限設定部6、パノラマ画像生成部7、画像レイアウト部9は、コプロセッサであって、それぞれ専門の処理を受け持ってCPU12の処理動作を補助する。また領域情報保存部5は、RAMなどの揮発性記憶媒体で構成される。   The image analysis unit 3, the shooting area / non-shooting area extraction unit 4, the aspect ratio upper limit setting unit 6, the panorama image generation unit 7, and the image layout unit 9 are coprocessors, each of which is responsible for specialized processing and processing of the CPU 12 Assist the operation. The area information storage unit 5 is composed of a volatile storage medium such as a RAM.

画像レイアウト部9は、注文受付部1からの画像プリントのデザイン指定に従って画像プリントのデザインに関する情報を決定する。   The image layout unit 9 determines information related to the design of the image print according to the design designation of the image print from the order receiving unit 1.

撮影領域・非撮影領域抽出部4は、パノラマ画像生成部7によるパノラマ画像合成時に、パノラマ画像ないしそれを構成する個々の画像の撮影領域(被写体の存在する領域)と非撮影領域(被写体の存在しない領域)の情報を解析し、非撮影領域を特定する情報(例えば位置座標や色情報)を取得する。そして、その解析の結果得られた情報を領域情報保存部5に保存する。例えば、図2のようなパノラマ画像をパノラマ画像生成部7が生成したとすると、この画像の生成中、画像解析部3は各静止画像または動画コマに存在する被写体部分ないしそれらをつなぎ合わせた部分(撮影領域)と、静止画像または動画コマに被写体の存在しない部分(非撮影領域)とを区別し、パノラマ画像における非撮影領域の位置座標情報を領域情報保存部5に保存する。   When the panoramic image is synthesized by the panoramic image generation unit 7, the photographing region / non-photographing region extracting unit 4 captures a panoramic image or a photographing region (region where the subject exists) and a non-photographing region (existence of the subject). Information on the non-photographing area (for example, position coordinates and color information) is acquired. Then, the information obtained as a result of the analysis is stored in the region information storage unit 5. For example, if the panorama image generation unit 7 generates a panorama image as shown in FIG. 2, during the generation of this image, the image analysis unit 3 includes a subject portion present in each still image or moving image frame, or a portion obtained by connecting them. (Shooting area) is distinguished from a still image or a moving image frame where a subject does not exist (non-shooting area), and the position coordinate information of the non-shooting area in the panoramic image is stored in the area information storage unit 5.

あるいは、図3に示すように、パノラマ画像生成部7は、パノラマ画像生成部7によるパノラマ画像合成時に、静止画像または動画コマが存在しない部分(非撮影領域)に所定の色(例えば赤)を配置する。画像解析部3は、このパノラマ画像から所定の色の存在領域を識別する。その所定の色そのものが非撮影領域を特定する情報であり、識別された色の存在領域が非撮影領域である。撮影領域・非撮影領域抽出部4は、画像解析部3の識別した所定の色の存在領域を特定する情報、典型的にはその位置座標情報を非撮影領域を特定する情報として領域情報保存部5に保存することができる。   Alternatively, as illustrated in FIG. 3, the panoramic image generation unit 7 assigns a predetermined color (for example, red) to a portion (non-shooting area) where no still image or moving image frame exists when the panoramic image is synthesized by the panoramic image generation unit 7. Deploy. The image analysis unit 3 identifies an existing area of a predetermined color from the panoramic image. The predetermined color itself is information for specifying the non-photographing area, and the existence area of the identified color is the non-photographing area. The imaging region / non-imaging region extraction unit 4 is a region information storage unit that uses information that identifies the existence region of the predetermined color identified by the image analysis unit 3, typically the position coordinate information as information that identifies the non-imaging region. 5 can be stored.

撮影領域・非撮影領域抽出部4による領域情報保存部5への非撮影領域の保存方式は任意である。例えば、図4のように撮影領域・非撮影領域抽出部4は非撮影領域に相当するマスク画像を生成し、このマスク画像ないしその圧縮画像ファイルを領域情報保存部5へ保存する。マスク画像の情報(透明部分)をパノラマ画像のαチャンネルに付随させてもよい。あるいは、図5に示すような非撮影領域の座標(800,0)-(4500,600)を示すテキスト情報を領域情報保存部5へ保存する。撮影領域の座標もあわせて領域情報保存部5へ保存してもよい。   The method of storing the non-imaging area in the area information storage unit 5 by the imaging area / non-imaging area extraction unit 4 is arbitrary. For example, as shown in FIG. 4, the imaging region / non-imaging region extraction unit 4 generates a mask image corresponding to the non-imaging region, and stores this mask image or its compressed image file in the region information storage unit 5. The mask image information (transparent portion) may be attached to the α channel of the panoramic image. Alternatively, text information indicating the coordinates (800,0)-(4500,600) of the non-photographing area as shown in FIG. The coordinates of the shooting area may also be stored in the area information storage unit 5 together.

画像レイアウト部9は、領域情報保存部5の非撮影領域に基づき、パノラマ画像生成部7の生成したパノラマ画像と、HDD18に保存されたパノラマ画像以外のグラフィックを含むフォトブックのレイアウトを決定する。   The image layout unit 9 determines the layout of the photo book including the panorama image generated by the panorama image generation unit 7 and graphics other than the panorama image stored in the HDD 18 based on the non-photographing region of the region information storage unit 5.

例えば、図6のように、画像レイアウト部9は、パノラマ画像の存在しない余白領域BLおよび領域情報保存部5の非撮影領域Nに適合する形状およびサイズの1または複数のグラフィックを非撮影領域に配置するレイアウトを決定する。好ましくは、画像レイアウト部9は、グラフィックでその一部または全部が覆われる(すなわちグラフィックと重なりを有する)非撮影領域の面積が最小となるようなレイアウトを決定する。余白領域Bの面積は通常0を超えるが、0でもよい。   For example, as shown in FIG. 6, the image layout unit 9 sets one or more graphics having a shape and size suitable for the blank area BL where no panoramic image exists and the non-photographing area N of the area information storage unit 5 as the non-photographing area. Decide which layout to place. Preferably, the image layout unit 9 determines a layout that minimizes the area of a non-photographing region that is partially or wholly covered with a graphic (that is, has an overlap with the graphic). The area of the blank area B is usually greater than 0, but may be 0.

あるページのグラフィックの配置が先に決まっている場合は、それらのグラフィックの存在しない余白の面積プラス非撮影領域の面積が最小となるようなパノラマ画像を選択し、その選択されたパノラマ画像をそのページに配置するレイアウトを決定する。この際も、画像レイアウト部9は、当該グラフィックで覆われる非撮影領域の面積が最小となるようなレイアウトを決定するのが好ましい。   If the layout of graphics on a page is determined in advance, select a panorama image that minimizes the area of the blank space where these graphics do not exist plus the area of the non-photographing area, and the selected panorama image is Determine the layout to place on the page. Also in this case, the image layout unit 9 preferably determines a layout that minimizes the area of the non-photographing area covered with the graphic.

なお、図7のように、実際には余白領域BLおよび非撮影領域Nの色は黒などの同一の色で統一することが好ましい。あるいは、余白領域BLは、非撮影領域Nの色情報と同色または同系色としてもよい。例えば、非撮影領域Nが白であれば、余白領域BLも白とする。   As shown in FIG. 7, it is actually preferable to unify the colors of the blank area BL and the non-photographing area N with the same color such as black. Alternatively, the blank area BL may be the same color or a similar color as the color information of the non-photographing area N. For example, if the non-photographing area N is white, the margin area BL is also white.

こうすると、従来のような単にパノラマ画像の存在しない余白領域に任意の画像を配置するだけの場合(図8参照)と異なり、パノラマ画像の非撮影領域をグラフィックの配置領域として有効に活用でき、価値の高いフォトブックを提供できる。   This makes it possible to effectively use the non-photographing area of the panoramic image as the graphic arrangement area, unlike the conventional case where an arbitrary image is simply arranged in the blank area where the panoramic image does not exist (see FIG. 8). We can provide high value photo books.

あるいは、非撮影領域Nは透明とし、パノラマ画像の背後の背景画像およびその色がそのまま出力されてもよい。この場合、背景の台紙の色がそのままプリント上でも反映されるようにするため、色補正は撮影領域に限って受け付けられることが好ましい。撮影領域と同じ色補正を非撮影領域にかけると、その背後の背景の元々の色、例えば白色が別の色に変わってしまうからである。透明な非撮影領域を含むパノラマ画像の周囲にはフレームが配置されないようにすることが好ましい。   Alternatively, the non-photographing area N may be transparent, and the background image behind the panoramic image and its color may be output as they are. In this case, it is preferable that the color correction is accepted only in the photographing region so that the color of the background mount is reflected on the print as it is. This is because when the same color correction as that in the shooting area is applied to the non-shooting area, the original color of the background behind the area, for example, white color is changed to another color. It is preferable that no frame be arranged around the panoramic image including the transparent non-photographing area.

なお、画像解析部3は、撮影領域と非撮影領域に基づいて、パノラマ画像を部分的に切り出す矩形領域を決定することができる。図9では、画像解析部3は、パノラマ画像Iから3つの矩形部分領域R1〜R3を決定している。画像解析部3はこの決定された矩形領域を切り出してHDD18に保存する。HDD18に保存された矩形領域は、切り出し元のパノラマ画像と同一のフォトブックまたは別のフォトブックの非撮影領域などに配置することができる。   Note that the image analysis unit 3 can determine a rectangular area from which a panoramic image is partially cut out based on the imaging area and the non-imaging area. In FIG. 9, the image analysis unit 3 determines three rectangular partial regions R1 to R3 from the panoramic image I. The image analysis unit 3 cuts out the determined rectangular area and stores it in the HDD 18. The rectangular area stored in the HDD 18 can be arranged in the same photobook as the panorama image to be cut out or in a non-photographing area of another photobook.

どのような基準で矩形領域を切り出すかは任意であるが、なるべく重要性の高い矩形領域を抽出するには、次のようにするとよい。   The criteria for cutting out the rectangular area are arbitrary, but in order to extract a rectangular area having the highest importance, the following is preferable.

例えば、画像解析部3は、パノラマ画像の撮影領域のみを包含する任意のサイズ・任意のアスペクト比・任意の位置の矩形領域のパターンをランダムにあるいは全てのパターンを網羅するよう生成し、生成されたパターンの中から、所定の閾値以上のアスペクト比を有するパターンを、切り出すべき矩形領域に決定する。   For example, the image analysis unit 3 generates a rectangular area pattern having an arbitrary size, an arbitrary aspect ratio, and an arbitrary position that includes only a panoramic image shooting area so as to cover all patterns at random. A pattern having an aspect ratio equal to or greater than a predetermined threshold is determined as a rectangular area to be cut out from the patterns.

図10のように、矩形領域のパターンP1〜P3の縦/横のアスペクト比の中では、P3の縦/横のアスペクト比が閾値=1を超え、最も大きい(横サイズに比べて縦サイズが大きい)。この場合、P3が切り出すべき矩形領域に決定される。   As shown in FIG. 10, among the vertical / horizontal aspect ratios of the rectangular area patterns P1 to P3, the vertical / horizontal aspect ratio of P3 exceeds the threshold value = 1 and is the largest (the vertical size is larger than the horizontal size). large). In this case, P3 is determined as a rectangular area to be cut out.

あるいは、画像解析部3は、上記のように生成されたパターンの中から、各々のパターンに関する以下の属性を解析する。   Alternatively, the image analysis unit 3 analyzes the following attributes related to each pattern from the patterns generated as described above.

(a)各パターンに含まれる特定の種類の被写体の数。例えば、人物被写体の数。   (A) The number of specific types of subjects included in each pattern. For example, the number of person subjects.

(b)各パターンに含まれる被写体のサイズ。あるいは、当該被写体の中の特定のパーツ、例えば顔のサイズ。   (B) The size of the subject included in each pattern. Alternatively, a specific part in the subject, for example, the size of the face.

(c)各パターンに含まれる画像情報を撮影するのに要した時間。これは、当該画像情報を構成する動画コマまたは静止画コマの最初の撮影時間から最後の撮影時間までの時間間隔である。   (C) Time required to capture the image information included in each pattern. This is a time interval from the first shooting time to the last shooting time of the moving image frame or still image frame constituting the image information.

(d)各パターンのアスペクト比。あるいはアスペクト比から派生する情報。例えば各パターンが縦長かあるいか横長か。例えば、上述の図10およびその関連説明を参照。   (D) Aspect ratio of each pattern. Or information derived from the aspect ratio. For example, whether each pattern is portrait or landscape. For example, see FIG. 10 above and related descriptions.

(e)各パターンの面積
画像解析部3は、解析された属性に従って、各パターンに優先度を設定する。例えば、上記(a)〜(e)の属性に対して、次のように優先度を設定する。
(E) Area of each pattern The image analysis unit 3 sets a priority for each pattern according to the analyzed attribute. For example, the priority is set as follows for the attributes (a) to (e).

(a)包含する特定の種類の被写体の数がより多いパターンにより高い優先度を設定。例えば、図11では、矩形領域パターンQ1〜Q3において、包含する人物被写体の数がそれぞれ4、2、0であるから、優先度はQ1>Q2>Q3の順に設定される。   (A) A higher priority is set for a pattern having a larger number of specific types of subjects to be included. For example, in FIG. 11, in the rectangular area patterns Q1 to Q3, the number of human subjects included is 4, 2, and 0, respectively, so the priorities are set in the order of Q1> Q2> Q3.

(b)被写体ないしその特定のパーツのサイズがより大きいパターンにより高い優先度を設定。   (B) A higher priority is set for a pattern in which the size of the subject or the specific part is larger.

(c)画像情報を撮影するのに要した時間がより長いパターンにより高い優先度を設定。   (C) A higher priority is set for a pattern with a longer time taken to capture image information.

(d)縦長のパターンに高い優先度を設定。または、横長のパターンに高い優先度を設定。   (D) A high priority is set for the vertically long pattern. Or set a high priority for landscape patterns.

(e)面積の大きいパターンに高い優先度を設定。   (E) A high priority is set for a pattern having a large area.

(f)単位時間あたりの撮影面積が少ないパターンに高い優先度を設定。例えば、図12のように、パターンT1〜T3の単位時間あたりの撮影面積の大小から、T2>T3>T1の順に優先度を設定する。これは、パターンの単位時間あたりの撮影面積が少ないほど、パターン内の画像情報がゆっくりと時間をかけて撮影されており、その重要度が高いと考えられるからである。   (F) A high priority is set for a pattern with a small shooting area per unit time. For example, as shown in FIG. 12, the priorities are set in the order of T2> T3> T1 from the size of the photographing area per unit time of the patterns T1 to T3. This is because it is considered that the smaller the shooting area per unit time of the pattern, the slower the image information in the pattern is taken over time, and the higher the importance.

撮影領域・非撮影領域抽出部4は、画像解析部3が設定した優先度の最も高いパターンから順に、所定の個数(1または複数)の矩形領域を切り出す。   The imaging region / non-imaging region extraction unit 4 cuts out a predetermined number (one or more) of rectangular regions in order from the pattern with the highest priority set by the image analysis unit 3.

上記のようなパターンそのものに優先度を設定する代わりにパターンの部分領域に優先度を設定してもよい。例えば、重複するパターンの数がより多い共通領域により高い優先度を設定する。図13のような矩形領域パターンD1〜D3では、D1・D2・D3の全てが共通するR1に最も高い優先度が設定される。   Instead of setting the priority for the pattern itself as described above, the priority may be set for a partial region of the pattern. For example, a higher priority is set for a common area having a larger number of overlapping patterns. In the rectangular area patterns D1 to D3 as shown in FIG. 13, the highest priority is set to R1 that is common to all of D1, D2, and D3.

D1とD2の共通領域、D1とD3の共通領域、D2とD3の共通領域は、同じ優先度が設定される。ただし、上記の(a)〜(f)の属性に対応する優先度がより高いパターンに対応する共通領域には、より高い優先度が設定されてもよい。   The same priority is set for the common area of D1 and D2, the common area of D1 and D3, and the common area of D2 and D3. However, a higher priority may be set in a common area corresponding to a pattern having a higher priority corresponding to the attributes (a) to (f).

例えば、図14において、上記の(a)〜(f)の属性に対応するパターンV1〜V3の優先度として、高い順から、V1>V2>V3が設定されているとする。   For example, in FIG. 14, it is assumed that V1> V2> V3 is set in descending order as the priorities of the patterns V1 to V3 corresponding to the attributes (a) to (f).

この場合、画像解析部3は、V1・V2・V3の全ての共通領域に1番目の優先度、V1・V2の共通領域に2番目の優先度、V2・V3の共通領域に3番目の優先度を設定する。撮影領域・非撮影領域抽出部4は、画像解析部3が設定した優先度の最も高い部分領域から順に、所定の1または複数の個数の矩形領域を切り出す。撮影領域・非撮影領域抽出部4は、優先度の最も高い部分領域の面積が、所望の面積(ないしアスペクト比)に達しない場合、さらに、次の優先度の部分領域を抽出し、所望の面積(ないしアスペクト比)を得てもよい。図14では、V1の全体とV2の一部からなる所望の面積のV0が抽出されている。   In this case, the image analysis unit 3 gives the first priority to all the common areas of V1, V2, and V3, the second priority to the common area of V1 and V2, and the third priority to the common area of V2 and V3. Set the degree. The imaging region / non-imaging region extraction unit 4 cuts out a predetermined number or a plurality of rectangular regions in order from the partial region with the highest priority set by the image analysis unit 3. When the area of the partial area with the highest priority does not reach the desired area (or aspect ratio), the imaging area / non-imaging area extraction unit 4 further extracts the partial area with the next priority, An area (or aspect ratio) may be obtained. In FIG. 14, V0 having a desired area composed of the entire V1 and a part of V2 is extracted.

切り出された矩形領域は、切り出し元のパノラマ画像と同一のフォトブックまたは別のフォトブックの非撮影領域などに配置することができる。図15は切り出された矩形領域の配置例である。   The cut out rectangular area can be arranged in the same photo book as the panorama image to be cut out or in a non-photographing area of another photo book. FIG. 15 shows an arrangement example of the cut out rectangular regions.

あるいは、高い優先度の設定されていない矩形領域は、非撮影領域と同視され、配置されたグラフィックの方が優先的に出力される。例えば、図16に示すように、パノラマ画像のうち高い優先度の設定された矩形領域Z以外の部分は、非撮影領域と同視され、グラフィックG1〜G4は、その非撮影領域よりも前面に配置される。   Alternatively, a rectangular area where a high priority is not set is regarded as a non-photographing area, and the arranged graphic is preferentially output. For example, as shown in FIG. 16, a portion of the panoramic image other than the rectangular region Z having a high priority is regarded as a non-photographing region, and the graphics G1 to G4 are arranged in front of the non-photographing region. Is done.

アスペクト比上限設定部6は、注文受付部1から受け付けたフォトブックのサイズまたはそのアスペクト比からパノラマ画像アスペクト比上限を決定する。   The aspect ratio upper limit setting unit 6 determines the panoramic image aspect ratio upper limit from the size of the photobook received from the order receiving unit 1 or its aspect ratio.

同じアスペクト比のパノラマ画像でも、フォトブックのプリントサイズまたはそのアスペクト比によって、その見栄えは変わってくる。例えば、図17のように、横長のフォトブックPB1に横長のパノラマ画像を配置しても観る者に違和感を与えないが、横長でないフォトブックPB2に横長のパノラマを配置すると、パノラマ画像の位置の偏りと余白の偏りが観る者に違和感を与える。   Even with panoramic images with the same aspect ratio, the appearance changes depending on the print size of the photo book or the aspect ratio. For example, as shown in FIG. 17, even if a landscape panorama image is arranged in a landscape photobook PB1, the viewer does not feel uncomfortable. However, if a landscape panorama is arranged in a photobook PB2 that is not landscape, the position of the panorama image is displayed. Gives a sense of incongruity to those who see bias and margins.

そこでアスペクト比上限設定部6は、パノラマ画像の位置の偏りが生じず見栄えがよくなるよう、注文受付部1などから設定されたフォトブックのサイズまたはそのアスペクト比に適合するパノラマ画像アスペクト比の上限を決定する。パノラマ画像を配置するページの余白の面積が所定の上限に達するアスペクト比を画像アスペクト比上限に決定してもよい。   Therefore, the aspect ratio upper limit setting unit 6 sets the upper limit of the panorama image aspect ratio that matches the size of the photobook set from the order receiving unit 1 or the like or the aspect ratio so that the position of the panoramic image is not biased and the appearance is improved. decide. The aspect ratio at which the area of the margin of the page on which the panoramic image is arranged reaches a predetermined upper limit may be determined as the upper limit of the image aspect ratio.

図18は決定された画像アスペクト比上限の例を示す。アスペクト比上限設定部6は、フォトブックのサイズが3000×3000ならばそのサイズに対応するアスペクト比上限は1:8、フォトブックのサイズが3000×2000ならばそのサイズに対応するアスペクト比上限は1:6、フォトブックのサイズが1500×3000ならばそのサイズに対応するアスペクト比上限は1:2と決定している。   FIG. 18 shows an example of the determined upper limit of the image aspect ratio. If the photobook size is 3000 × 3000, the aspect ratio upper limit setting unit 6 sets the aspect ratio upper limit corresponding to the size to 1: 8, and if the photobook size is 3000 × 2000, the aspect ratio upper limit corresponds to the size. If the size of the photobook is 1: 6 and 1500 × 3000, the upper limit of the aspect ratio corresponding to the size is determined to be 1: 2.

例えば図18(a)のようなパノラマ画像のアスペクト比上限は、図18(b)のようなプリントサイズのアスペクト比とパノラマサイズのアスペクト比との関係式に従って決定される。図18(b)のような関係式を予めHDD18などの記憶媒体に記憶しておき、アスペクト比上限設定部6は、注文受付部1を介して指定された所望のプリントサイズのアスペクト比に対応するパノラマ画像のアスペクト比を当該関係式から特定することで、パノラマ画像生成部7の生成すべきパノラマ画像の上限のアスペクト比をプリントサイズに応じて決定する。   For example, the upper limit of the aspect ratio of the panoramic image as shown in FIG. 18A is determined according to the relational expression between the aspect ratio of the print size and the panoramic size as shown in FIG. A relational expression as shown in FIG. 18B is stored in advance in a storage medium such as the HDD 18, and the aspect ratio upper limit setting unit 6 corresponds to the aspect ratio of a desired print size designated via the order receiving unit 1. By specifying the aspect ratio of the panoramic image to be determined from the relational expression, the upper limit aspect ratio of the panoramic image to be generated by the panoramic image generation unit 7 is determined according to the print size.

図18(b)のグラフの傾きは、作成するフォトブックのタイプやフォトブックを作成するユーザー自身が注文受付部1を介して設定できてもよい。   The inclination of the graph in FIG. 18B may be set via the order receiving unit 1 by the type of the photo book to be created or by the user who creates the photo book.

例えば、ユーザから設定された傾きが大きければ、アスペクトの比の上限が大きくなる。この場合、多少バランスが悪くなったり、表示されるパノラマ画像の高さは小さくなるかもしれないが、パノラマ画像全体をフォトブックに利用可能となる。   For example, if the inclination set by the user is large, the upper limit of the aspect ratio becomes large. In this case, the balance may be slightly deteriorated or the height of the displayed panoramic image may be reduced, but the entire panoramic image can be used for the photo book.

あるいは、ユーザから設定された傾きが小さければ、アスペクト比の上限が小さくなるこの場合 バランスよくパノラマ画像を配置できるが、アスペクト比に合わせてパノラマ画像の一部が表示できなくなる可能性が有る。よって、傾きをどの程度にするかをユーザの嗜好にあわせて選択させるのが好ましい。   Alternatively, if the inclination set by the user is small, the upper limit of the aspect ratio becomes small. In this case, a panoramic image can be arranged in a balanced manner, but there is a possibility that a part of the panoramic image cannot be displayed in accordance with the aspect ratio. Therefore, it is preferable to select the degree of inclination according to the user's preference.

また、式自体もユーザが注文受付部1を介して設定できてもよい。図18(b)に示す式はあくまで一例であり、1次線形式に限られない。   Further, the formula itself may be set by the user via the order receiving unit 1. The formula shown in FIG. 18B is merely an example, and is not limited to the primary line format.

図19は、図18のように決定された画像アスペクト比上限に従ったパノラマ画像を対応するサイズのフォトブックに配置した様子を例示する。このアスペクト比上限は見開きページに渡るパノラマ画像の配置に関するが、片方のページに渡るパノラマ画像の配置に関する画像アスペクト比上限が決定されてもよい。   FIG. 19 illustrates a state in which panoramic images according to the image aspect ratio upper limit determined as shown in FIG. 18 are arranged in a photobook of a corresponding size. The upper limit of the aspect ratio relates to the arrangement of the panoramic images over the spread pages, but the upper limit of the image aspect ratio with respect to the arrangement of the panoramic images over one of the pages may be determined.

図20は画像プリント作成装置10の実行するレイアウト決定処理のフローチャートを示す。この処理はCPU12によって制御される。この処理をCPU12に実行させるためのプログラムはHDD18その他のコンピュータ読み取り可能な記憶媒体に記憶されている。なお、この処理は注文受付部1からフォトブックを作成する指示が入力されたときに開始される。   FIG. 20 is a flowchart of the layout determination process executed by the image print creation apparatus 10. This process is controlled by the CPU 12. A program for causing the CPU 12 to execute this processing is stored in the HDD 18 or other computer-readable storage medium. This process is started when an instruction to create a photo book is input from the order receiving unit 1.

S1では、CPU12は、フォトブックのサイズを注文受付部1から受け付ける。   In S <b> 1, the CPU 12 receives the size of the photo book from the order receiving unit 1.

S2では、CPU12は、注文受付部1から受け付けたフォトブックのサイズからパノラマ画像アスペクト比上限を決定するようアスペクト比上限設定部6を制御する。決定されたアスペクト比上限の一例は図18に示した通りである。アスペクト比上限設定部6は注文受付部1から指定された値をそのままアスペクト比上限に設定してもよい。   In S <b> 2, the CPU 12 controls the aspect ratio upper limit setting unit 6 to determine the panoramic image aspect ratio upper limit from the size of the photobook received from the order receiving unit 1. An example of the determined aspect ratio upper limit is as shown in FIG. The aspect ratio upper limit setting unit 6 may set the value specified by the order receiving unit 1 as the aspect ratio upper limit as it is.

S3では、CPU12は、画像入力部2から入力された画像のうち注文受付部1からフォトブックに使用するものとして選択された画像である注文画像の全てのレイアウトが画像レイアウト部9により決定されたか否かを判断する。決定された場合は処理を終了し、決定されない場合はS4に進む。なお各注文画像の配置ページは注文受付部1から任意に指定できるものとする。   In S <b> 3, the CPU 12 determines whether all layouts of the order image, which is the image selected from the order receiving unit 1 for use in the photo book among the images input from the image input unit 2, have been determined by the image layout unit 9. Judge whether or not. If it is determined, the process ends. If it is not determined, the process proceeds to S4. It is assumed that the arrangement page of each order image can be arbitrarily designated from the order receiving unit 1.

S4では、CPU12は、各注文画像がパノラマ合成可能な動画または静止画像であるか否かを解析するよう画像解析部3に指示し、その解析の結果、動画またはパノラマ合成可能な静止画像である場合はS5、そうでない場合はS8に進む。パノラマ合成可能か否かの判断は、注文画像を構成する複数の動画コマまたは静止画同士が重複する被写体部分を有するか否かに基づく。   In S <b> 4, the CPU 12 instructs the image analysis unit 3 to analyze whether each order image is a moving image or a still image that can be panorama synthesized. As a result of the analysis, the CPU 12 is a moving image or a still image that can be panorama synthesized. If yes, go to S5, otherwise go to S8. The determination of whether or not panorama composition is possible is based on whether or not a plurality of moving image frames or still images constituting the order image have a subject portion that overlaps.

S5では、CPU12は、注文画像に基づいてパノラマ画像を生成するようパノラマ画像生成部7を制御する。CPU12は、S4で解析された動画または静止画に基づいてパノラマ画像生成部7により作成されるパノラマ画像のアスペクト比が、S2で決定されたアスペクト比上限を超えるか否かを判断する。Yesの場合はS6、Noの場合はS7に進む。   In S5, the CPU 12 controls the panorama image generation unit 7 so as to generate a panorama image based on the order image. The CPU 12 determines whether or not the aspect ratio of the panoramic image created by the panoramic image generation unit 7 based on the moving image or the still image analyzed in S4 exceeds the aspect ratio upper limit determined in S2. If Yes, the process proceeds to S6. If No, the process proceeds to S7.

S6では、CPU12は、アスペクト比上限に従った範囲でパノラマ画像を作成するようパノラマ画像生成部7を制御する。この際、パノラマ画像生成部7は、画像解析部3によりパノラマ画像の特徴部分(例えば従来の顔検出技術で検出される人物の顔、従来の構図解析技術で検出される構造線など)を特定し、特定された特徴部分が所定の位置(例えば中心)になるようパノラマ画像を作成してもよい。図21は注文画像から作成可能なパノラマ画像RTとアスペクト比上限に従った範囲RLの関係を示している。   In S6, the CPU 12 controls the panorama image generation unit 7 so as to create a panorama image within a range according to the upper limit of the aspect ratio. At this time, the panorama image generation unit 7 uses the image analysis unit 3 to identify a feature portion of the panorama image (for example, a human face detected by a conventional face detection technique, a structure line detected by a conventional composition analysis technique, or the like). Then, a panoramic image may be created so that the specified feature portion is at a predetermined position (for example, the center). FIG. 21 shows the relationship between the panoramic image RT that can be created from the order image and the range RL according to the aspect ratio upper limit.

あるいは、CPU12は、作成されたパノラマ画像からアスペクト比上限を超えない範囲を抽出してもよい。この際、画像解析部3によりパノラマ画像の特徴部分(例えば人物の顔)を特定し、特定された特徴部分が所定の位置(例えば中心)になるよう作成されたパノラマ画像からアスペクト比上限を超えない範囲を抽出してもよい。   Alternatively, the CPU 12 may extract a range that does not exceed the upper limit of the aspect ratio from the created panoramic image. At this time, the image analysis unit 3 identifies a characteristic part (for example, a human face) of the panoramic image, and exceeds the upper limit of the aspect ratio from the panoramic image created so that the identified characteristic part is at a predetermined position (for example, the center). A non-existing range may be extracted.

S7では、CPU12は、非撮影領域を特定する情報を領域情報保存部5に保存するよう撮影領域・非撮影領域抽出部4を制御する。非撮影領域を特定する情報とは図3〜5のいずれかに例示したものを含む。   In S <b> 7, the CPU 12 controls the imaging region / non-imaging region extraction unit 4 to store information specifying the non-imaging region in the region information storage unit 5. The information for specifying the non-photographing area includes information exemplified in any of FIGS.

S8では、CPU12は、パノラマ画像を切り出す矩形部分領域を決定するよう画像解析部3を制御する。所望の矩形部分領域を抽出する。この矩形領域の例は図9、10、11、13、14に示した通りである。   In S <b> 8, the CPU 12 controls the image analysis unit 3 to determine a rectangular partial area from which a panoramic image is cut out. A desired rectangular partial area is extracted. Examples of this rectangular area are as shown in FIGS. 9, 10, 11, 13, and 14.

S9では、CPU12は、パノラマ画像生成部7により作成されるパノラマ画像を、注文受付部1で指定されたフォトブックの所望のページである指定ページに配置するよう画像レイアウト部9に指示する。CPU12は、配置されたパノラマ画像に対応する非撮影領域が領域情報保存部5に保存されているか否かを判断する。Yesの場合はS10、Noの場合はS11に進む。   In S <b> 9, the CPU 12 instructs the image layout unit 9 to arrange the panoramic image created by the panoramic image generation unit 7 on a designated page that is a desired page of the photobook designated by the order receiving unit 1. The CPU 12 determines whether or not a non-photographing area corresponding to the arranged panoramic image is stored in the area information storage unit 5. If Yes, the process proceeds to S10. If No, the process proceeds to S11.

S10では、CPU12は、領域情報保存部5の非撮影領域および指定ページの余白に基づき、パノラマ画像生成部7の生成したパノラマ画像と、HDD18に保存されたパノラマ画像以外のグラフィックを含むフォトブックのレイアウトを決定するよう画像レイアウト部9を制御する。決定されたレイアウトは図6、15、16に例示した通りである。   In S <b> 10, the CPU 12 creates a photo book including a panorama image generated by the panorama image generation unit 7 and graphics other than the panorama image stored in the HDD 18 based on the non-photographed area of the area information storage unit 5 and the margin of the designated page. The image layout unit 9 is controlled to determine the layout. The determined layout is as illustrated in FIGS.

S11では、CPU12は、指定ページの余白に基づき、パノラマ画像生成部7の生成したパノラマ画像と、HDD18に保存されたパノラマ画像以外のグラフィックを含むフォトブックのレイアウトを決定するよう画像レイアウト部9を制御する。決定されたレイアウトは図8に例示した通りである。   In S <b> 11, the CPU 12 causes the image layout unit 9 to determine the layout of the photobook including the panorama image generated by the panorama image generation unit 7 and graphics other than the panorama image stored in the HDD 18 based on the margin of the designated page. Control. The determined layout is as illustrated in FIG.

なお、上記で述べたパノラマ画像は、パノラマ画像生成部7による複数の画像の合成で作成されたものでなくてもよく、外部から入力された各種の画像でもよい。例えば、魚眼レンズのような特殊な広角レンズで撮影された広角画像をそのままパノラマ画像として入力することもできる。撮影領域・非撮影領域抽出部4は、入力されたパノラマ画像から、撮影領域と非撮影領域とを区別し、当該パノラマ画像における非撮影領域の位置座標情報を領域情報保存部5に保存することもできる。要するに、レイアウト決定処理は、非撮影領域の生じている画像であれば、その生成方法に関わらず適用されうる。   Note that the panoramic image described above does not have to be created by combining a plurality of images by the panoramic image generation unit 7 and may be various images input from the outside. For example, a wide-angle image taken with a special wide-angle lens such as a fisheye lens can be input as a panoramic image as it is. The imaging region / non-imaging region extraction unit 4 distinguishes the imaging region and the non-imaging region from the input panoramic image, and stores the position coordinate information of the non-imaging region in the panoramic image in the region information storage unit 5. You can also. In short, the layout determination process can be applied to any image in which a non-photographing area is generated regardless of the generation method.

また、レイアウト決定処理は、フォトブックへのグラフィック配置に限らず、1枚あるいは複数枚の画像プリントやポストカードなど各種のプリント商材へのグラフィック配置に応用することもできる。   The layout determination process is not limited to graphic arrangement on a photo book, but can also be applied to graphic arrangement on various print products such as one or a plurality of image prints and postcards.

1:注文受付部、2:画像入力部、3:画像解析部、4:撮影領域・非撮影領域抽出部、5:領域情報保存部、6:アスペクト比上限設定部、7:パノラマ画像生成部、8:画像出力部、9:画像レイアウト部、10:画像プリント作成装置   1: order receiving unit, 2: image input unit, 3: image analysis unit, 4: shooting area / non-shooting area extraction unit, 5: area information storage unit, 6: aspect ratio upper limit setting unit, 7: panoramic image generation unit 8: Image output unit, 9: Image layout unit, 10: Image print creation device

Claims (13)

情報処理装置が、
広角画像の中から撮影領域を特定する情報である撮影領域情報と非撮影領域を特定する情報である非撮影領域情報を取得するステップと、
前記撮影領域情報で特定される撮影領域に包含される所望の位置およびサイズの部分領域の属性に基づいて、前記部分領域の優先度を設定するステップと、
前記非撮影領域情報と前記部分領域の優先度に基づいて、前記広角画像に付随する1または複数のグラフィックの配置を決定するステップと、
を実行するグラフィック配置決定方法。
Information processing device
Acquiring shooting area information that is information for specifying a shooting area from a wide-angle image and non-shooting area information that is information for specifying a non-shooting area;
Setting the priority of the partial area based on the attributes of the partial area of a desired position and size included in the imaging area specified by the imaging area information;
Determining an arrangement of one or more graphics associated with the wide-angle image based on the non-photographing area information and the priority of the partial area;
Graphic placement determination method to execute.
情報処理装置が、前記優先度に基づいて、前記広角画像から1または複数の部分領域を抽出するステップを実行する請求項1に記載のグラフィック配置決定方法。   The graphic arrangement determination method according to claim 1, wherein the information processing apparatus executes a step of extracting one or a plurality of partial regions from the wide-angle image based on the priority. 情報処理装置が、前記広角画像に付随する1または複数のグラフィックとして、前記抽出された1または複数の部分領域の配置を決定するステップを実行する請求項2に記載のグラフィック配置決定方法。   3. The graphic arrangement determining method according to claim 2, wherein the information processing apparatus executes a step of determining an arrangement of the extracted one or more partial areas as one or more graphics attached to the wide-angle image. 前記抽出された部分領域が前記グラフィックと重なりを有さないよう前記広角画像に付随するグラフィックの配置を決定するステップを実行する請求項2に記載のグラフィック配置決定方法。   3. The graphic arrangement determining method according to claim 2, wherein a step of determining an arrangement of a graphic associated with the wide-angle image is executed so that the extracted partial area does not overlap the graphic. 前記部分領域の優先度は、前記部分領域内の特定の種類の被写体の数、前記部分領域の単位撮影時間あたりの撮影面積、または異なる部分領域との重なり合いの数に基づいて設定される請求項1〜4のいずれかに記載のグラフィック配置決定方法。   The priority of the partial area is set based on the number of subjects of a specific type in the partial area, the shooting area per unit shooting time of the partial area, or the number of overlapping with different partial areas. The graphic arrangement | positioning determination method in any one of 1-4. 情報処理装置が、前記撮影領域が前記グラフィックと重なりを有さないよう前記広角画像に付随するグラフィックの配置を決定するステップを実行する請求項1〜5のいずれかに記載のグラフィック配置決定方法。   The graphic arrangement determining method according to claim 1, wherein the information processing apparatus executes a step of determining a graphic arrangement associated with the wide-angle image so that the shooting area does not overlap the graphic. 情報処理装置が、前記非撮影領域と前記広角画像の配置ページの余白が前記グラフィックと重なりを有するよう前記広角画像に付随するグラフィックの配置を決定するステップを実行する請求項1〜6のいずれかに記載のグラフィック配置決定方法。   The information processing apparatus executes a step of determining a layout of a graphic attached to the wide-angle image so that a margin of the non-photographing area and the layout page of the wide-angle image overlaps the graphic. Graphic placement determination method described in 1. 情報処理装置が、
前記広角画像の配置ページの寸法に基づいて広角画像のアスペクト比の上限を決定するステップを実行する請求項1〜7のいずれかに記載のグラフィック配置決定方法。
Information processing device
The graphic layout determination method according to claim 1, wherein a step of determining an upper limit of an aspect ratio of the wide-angle image based on a dimension of the layout page of the wide-angle image is executed.
情報処理装置が、
前記決定されたアスペクト比の上限に基づいて前記広角画像を生成するステップを実行する請求項8に記載のグラフィック配置決定方法。
Information processing device
The graphic layout determination method according to claim 8, wherein the step of generating the wide-angle image based on the determined upper limit of the aspect ratio is executed.
情報処理装置が、
前記決定されたアスペクト比の上限に基づいて前記広角画像から部分領域を抽出するステップを実行する請求項9に記載のグラフィック配置決定方法。
Information processing device
The graphic layout determination method according to claim 9, wherein a step of extracting a partial region from the wide-angle image based on the determined upper limit of the aspect ratio is executed.
前記非撮影領域情報は、前記広角画像における前記非撮影領域の位置座標または前記広角画像における所定の色を含む請求項1〜10のいずれかに記載のグラフィック配置決定方法。   The graphic arrangement determination method according to claim 1, wherein the non-photographing area information includes position coordinates of the non-photographing area in the wide-angle image or a predetermined color in the wide-angle image. 請求項1〜11のいずれかに記載のグラフィック配置決定方法を情報処理装置が実行するためのプログラム。   The program for an information processing apparatus to perform the graphic arrangement | positioning determination method in any one of Claims 1-11. 請求項1〜11のいずれかに記載のグラフィック配置決定方法を実行する情報処理装置。   An information processing apparatus that executes the graphic arrangement determination method according to claim 1.
JP2010180447A 2009-09-29 2010-08-11 Graphic arrangement determining method, program thereof, and information processing apparatus Expired - Fee Related JP5436367B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010180447A JP5436367B2 (en) 2009-09-29 2010-08-11 Graphic arrangement determining method, program thereof, and information processing apparatus
US12/891,104 US8509564B2 (en) 2009-09-29 2010-09-27 Graphic arrangement deciding method, recording medium and information processing apparatus

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009225043 2009-09-29
JP2009225043 2009-09-29
JP2010180447A JP5436367B2 (en) 2009-09-29 2010-08-11 Graphic arrangement determining method, program thereof, and information processing apparatus

Publications (2)

Publication Number Publication Date
JP2011097565A JP2011097565A (en) 2011-05-12
JP5436367B2 true JP5436367B2 (en) 2014-03-05

Family

ID=43780480

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010180447A Expired - Fee Related JP5436367B2 (en) 2009-09-29 2010-08-11 Graphic arrangement determining method, program thereof, and information processing apparatus

Country Status (2)

Country Link
US (1) US8509564B2 (en)
JP (1) JP5436367B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5434621B2 (en) * 2010-01-19 2014-03-05 ソニー株式会社 Information processing apparatus, information processing method, and program thereof
JP5656548B2 (en) * 2010-10-14 2015-01-21 三菱電機株式会社 Photo book data creation device
JP5578011B2 (en) * 2010-10-14 2014-08-27 大日本印刷株式会社 Method and apparatus for superimposing a wide-angle image
JP5820142B2 (en) * 2011-04-27 2015-11-24 キヤノン株式会社 Information processing apparatus, control method therefor, and program
JP2017208750A (en) * 2016-05-20 2017-11-24 ローム株式会社 Video monitoring device, video display system, and vehicle
JP2017211535A (en) * 2016-05-26 2017-11-30 株式会社リコー Information processing apparatus, information processing method, program, and display system
GB2556344A (en) 2016-10-17 2018-05-30 Nctech Ltd Camera controller
US10185878B2 (en) * 2017-02-28 2019-01-22 Microsoft Technology Licensing, Llc System and method for person counting in image data
JP7022609B2 (en) * 2018-01-31 2022-02-18 キヤノン株式会社 Image processing equipment, image processing methods, programs, and printing systems
JP7013272B2 (en) * 2018-02-13 2022-01-31 キヤノン株式会社 Image processing equipment

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69635101T2 (en) * 1995-11-01 2006-06-01 Canon K.K. Method for extracting objects and image recording apparatus using this method
US6519046B1 (en) * 1997-03-17 2003-02-11 Fuji Photo Film Co., Ltd. Printing method and system for making a print from a photo picture frame and a graphic image written by a user
JP3436473B2 (en) * 1997-06-20 2003-08-11 シャープ株式会社 Image processing device
JP2000152168A (en) * 1998-11-13 2000-05-30 Olympus Optical Co Ltd Image reproducing device
US6636648B2 (en) * 1999-07-02 2003-10-21 Eastman Kodak Company Albuming method with automatic page layout
US7064783B2 (en) * 1999-12-31 2006-06-20 Stmicroelectronics, Inc. Still picture format for subsequent picture stitching for forming a panoramic image
JP2002175068A (en) * 2000-09-22 2002-06-21 Canon Inc Image display system, image display method, storage medium, and image display device
US20030067158A1 (en) * 2001-10-09 2003-04-10 Eastman Kodak Company Album leaf with insert
US7340092B2 (en) * 2001-12-21 2008-03-04 Minolta Co., Ltd. Image processing device, image processing method, program for executing image processing, and computer readable recording medium on which the program is stored
US7623733B2 (en) * 2002-08-09 2009-11-24 Sharp Kabushiki Kaisha Image combination device, image combination method, image combination program, and recording medium for combining images having at least partially same background
JP4009173B2 (en) 2002-09-30 2007-11-14 富士フイルム株式会社 Digital camera
JP4048907B2 (en) * 2002-10-15 2008-02-20 セイコーエプソン株式会社 Panorama composition of multiple image data
JP2004199248A (en) * 2002-12-17 2004-07-15 Seiko Epson Corp Image layout apparatus, image layout method, and program
KR100708337B1 (en) * 2003-06-27 2007-04-17 주식회사 케이티 Apparatus and method for automatic video summarization using fuzzy based OSC-SM
WO2005006072A1 (en) * 2003-07-15 2005-01-20 Omron Corporation Object decision device and imaging device
US7382378B2 (en) * 2003-10-30 2008-06-03 Sensable Technologies, Inc. Apparatus and methods for stenciling an image
JP2005142680A (en) * 2003-11-04 2005-06-02 Olympus Corp Image processing apparatus
JP2005252739A (en) 2004-03-05 2005-09-15 Seiko Epson Corp Still image generating apparatus and method
US7403641B2 (en) * 2004-05-28 2008-07-22 Matsushita Electric Works, Ltd. Object recognition system
US7609898B2 (en) * 2004-10-01 2009-10-27 Microsoft Corporation Method and system for progressive image transmission
WO2006132029A1 (en) * 2005-06-07 2006-12-14 Matsushita Electric Industrial Co., Ltd. Monitoring system, monitoring method, and camera terminal
US7990564B2 (en) * 2005-07-29 2011-08-02 Vistaprint Technologies Limited Automated image sizing and placement
US8325398B2 (en) * 2005-12-22 2012-12-04 Canon Kabushiki Kaisha Image editing system, image management apparatus, and image editing program
JP4611231B2 (en) 2006-03-28 2011-01-12 富士通株式会社 Panorama image creating apparatus, method and program
JP4909216B2 (en) * 2006-09-13 2012-04-04 株式会社キーエンス Character segmentation device, method and program
US8068693B2 (en) * 2007-07-18 2011-11-29 Samsung Electronics Co., Ltd. Method for constructing a composite image
US8121407B1 (en) * 2008-03-17 2012-02-21 Adobe Systems Incorporated Method and apparatus for localized labeling in digital images
US8135182B2 (en) * 2008-04-22 2012-03-13 Eastman Kodak Company Method for creating photo cutouts and collages
CN102112984A (en) * 2008-07-29 2011-06-29 皇家飞利浦电子股份有限公司 Method and apparatus for generating image collection
JP2010062853A (en) * 2008-09-03 2010-03-18 Fujifilm Corp Image processing apparatus, method and program
US8698920B2 (en) * 2009-02-24 2014-04-15 Olympus Imaging Corp. Image display apparatus and image display method
KR101622110B1 (en) * 2009-08-11 2016-05-18 삼성전자 주식회사 method and apparatus of feature extraction and image based localization method using the same
JP5383576B2 (en) * 2010-03-31 2014-01-08 富士フイルム株式会社 Imaging apparatus, imaging method, and program
JP5389724B2 (en) * 2010-03-31 2014-01-15 富士フイルム株式会社 Image processing apparatus, image processing method, and program
JP2012003189A (en) * 2010-06-21 2012-01-05 Sony Corp Image display device, image display method and program
US8699821B2 (en) * 2010-07-05 2014-04-15 Apple Inc. Aligning images

Also Published As

Publication number Publication date
US20110075945A1 (en) 2011-03-31
US8509564B2 (en) 2013-08-13
JP2011097565A (en) 2011-05-12

Similar Documents

Publication Publication Date Title
JP5436367B2 (en) Graphic arrangement determining method, program thereof, and information processing apparatus
JP5686673B2 (en) Image processing apparatus, image processing method, and program
JP4762827B2 (en) Electronic album generation apparatus, electronic album generation method, and program thereof
JP6119991B2 (en) Image processing apparatus and computer program
EP2822267A2 (en) Method and apparatus for previewing a dual-shot image
US10460421B2 (en) Image processing apparatus and storage medium
US8687071B2 (en) Composite image creating method as well as program, recording medium, and information processing apparatus for the method
JP2009237702A (en) Album creating method, program and apparatus
US20130100166A1 (en) Viewer unit, server unit, display control method, digital comic editing method and non-transitory computer-readable medium
JP5043767B2 (en) Image processing apparatus and image processing method
US10657723B2 (en) Image processing apparatus and image processing method
JP7110163B2 (en) Image processing device, imaging device, image processing method, and image processing program
JP2013074451A (en) Image pickup apparatus
US20160295036A1 (en) Image processing device, image processing method, program, and recording medium
JP4781844B2 (en) Image output apparatus, image output method, and image output program
JP6486077B2 (en) Display device, server device, display system, control method therefor, control program, and storage medium
JP4932802B2 (en) Image processing apparatus, method, and program
JP2007336528A (en) Image generating and outputting apparatus
JP5366522B2 (en) Image display device and digital camera having image display device
JP5010520B2 (en) Trimming range optimization method, apparatus and program
JP2017208655A (en) Information processing system, information processing method and program
JP2008187256A (en) Movie creating apparatus, method and program
JP2015082237A (en) Information processing apparatus, information processing method, and program
JP4437996B2 (en) Index print creation method, apparatus, and program
JP2011024052A (en) Image processing apparatus, image processing control method, and image processing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131210

R150 Certificate of patent or registration of utility model

Ref document number: 5436367

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees