JP2003111041A - 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム - Google Patents
画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラムInfo
- Publication number
- JP2003111041A JP2003111041A JP2001302969A JP2001302969A JP2003111041A JP 2003111041 A JP2003111041 A JP 2003111041A JP 2001302969 A JP2001302969 A JP 2001302969A JP 2001302969 A JP2001302969 A JP 2001302969A JP 2003111041 A JP2003111041 A JP 2003111041A
- Authority
- JP
- Japan
- Prior art keywords
- image processing
- area
- trimming
- image
- moving image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Image Analysis (AREA)
Abstract
(57)【要約】
【課題】 被写体を撮影して得られた動画像等の一部を
トリミングして表示する際に、当該トリミング領域に対
して目的とする被写体を所定位置に所定サイズで表示す
る構成により、常に良好なトリミング表示を提供できる
画像処理装置を提供する。 【解決手段】 制御手段104は、動画像(複数の被写
体を撮影して得られた動画像)の一部をトリミングして
出力(表示出力)する際に、トリミング領域内の特定領
域(複数の被写体の中の注目する被写体の領域)に基づ
いて、トリミング動作(構成部108の動作)を制御す
る。これにより、トリミング領域内における特定領域の
位置やサイズ等を常に適切な状態とすることができる。
トリミングして表示する際に、当該トリミング領域に対
して目的とする被写体を所定位置に所定サイズで表示す
る構成により、常に良好なトリミング表示を提供できる
画像処理装置を提供する。 【解決手段】 制御手段104は、動画像(複数の被写
体を撮影して得られた動画像)の一部をトリミングして
出力(表示出力)する際に、トリミング領域内の特定領
域(複数の被写体の中の注目する被写体の領域)に基づ
いて、トリミング動作(構成部108の動作)を制御す
る。これにより、トリミング領域内における特定領域の
位置やサイズ等を常に適切な状態とすることができる。
Description
【0001】
【発明の属する技術分野】本発明は、例えば、撮像装置
により被写体を撮像して得られた動画像の一部をトリミ
ング表示する装置或いはシステムに用いられる、画像処
理装置、画像処理システム、画像処理方法、それを実施
するためのプログラムを記憶したコンピュータ読出可能
な記憶媒体、及び当該プログラムに関するものである。
により被写体を撮像して得られた動画像の一部をトリミ
ング表示する装置或いはシステムに用いられる、画像処
理装置、画像処理システム、画像処理方法、それを実施
するためのプログラムを記憶したコンピュータ読出可能
な記憶媒体、及び当該プログラムに関するものである。
【0002】
【従来の技術】従来より、空間的に異なる位置に存在す
る被写体を撮像する撮像装置としては、例えば、次に挙
げるようなトリミング表示(画像の切り出し表示)の方
式を用いた装置がある。 (1)撮像装置が小型ビデオカメラのような携帯型の装
置である場合、ユーザが手持ちで任意の被写体に視線位
置を合わせて撮影して得られた画像から、或いはカメラ
の視野を広角にして広い撮影範囲で一度に撮影して得ら
れた画像から、その一部を切り出し(トリミング)表示
する。 (2)魚眼レンズを搭載したカメラを用いることで、ほ
ぼ半球を一度に撮影して得られた画像から、その一部を
切り出し(トリミング)表示する。 (3)双曲面形状のミラーを有する光学系を用いること
で、水平方向に360度の範囲を一度に撮影して得られ
た画像から、その一部を切り出し(トリミング)表示す
る。
る被写体を撮像する撮像装置としては、例えば、次に挙
げるようなトリミング表示(画像の切り出し表示)の方
式を用いた装置がある。 (1)撮像装置が小型ビデオカメラのような携帯型の装
置である場合、ユーザが手持ちで任意の被写体に視線位
置を合わせて撮影して得られた画像から、或いはカメラ
の視野を広角にして広い撮影範囲で一度に撮影して得ら
れた画像から、その一部を切り出し(トリミング)表示
する。 (2)魚眼レンズを搭載したカメラを用いることで、ほ
ぼ半球を一度に撮影して得られた画像から、その一部を
切り出し(トリミング)表示する。 (3)双曲面形状のミラーを有する光学系を用いること
で、水平方向に360度の範囲を一度に撮影して得られ
た画像から、その一部を切り出し(トリミング)表示す
る。
【0003】上述のような撮像装置と共に、通信ネット
ワークを利用したシステムの一例として、遠隔会議シス
テムがある。遠隔会議システムは、地理的に隔たった複
数人の会議参加者(メンバ)が、会議机上に配置された
撮像装置により撮影されたお互いの姿を確認しながら、
マイク及びスピーカーを介して音声を交換できる構成か
らなる。
ワークを利用したシステムの一例として、遠隔会議シス
テムがある。遠隔会議システムは、地理的に隔たった複
数人の会議参加者(メンバ)が、会議机上に配置された
撮像装置により撮影されたお互いの姿を確認しながら、
マイク及びスピーカーを介して音声を交換できる構成か
らなる。
【0004】ここで、遠隔会議システムにより会議を行
うにあたり、多くの場合、撮影されるべく被写体は発言
者の姿であり、当該発言者以外のメンバー、すなわち聞
き手は、各自のモニタ等の表示装置に映しだされた当該
発言者の表情や動作を見ながら意見の交換を進めていく
ことになる。
うにあたり、多くの場合、撮影されるべく被写体は発言
者の姿であり、当該発言者以外のメンバー、すなわち聞
き手は、各自のモニタ等の表示装置に映しだされた当該
発言者の表情や動作を見ながら意見の交換を進めていく
ことになる。
【0005】具体的には例えば、図13は、遠隔会議シ
ステムにより、東京−大阪間で行われている遠隔会議の
東京での会議室900の様子を表したものである。東京
の会議室900では、上記図13に示すように、テーブ
ル901を囲んだ12名のメンバ(メンバA〜メンバ
L)が会議に参加している。これと同様に、図示してい
ないが、大阪でも複数のメンバが会議に参加している。
テーブル901の中央には、撮像装置としてのビデオカ
メラ902が設置されており、ビデオカメラ902は、
メンバA〜メンバLの中の任意のメンバの姿を撮影す
る。この映像(動画像)は、大阪の会議室へと伝送され
る。また、メンバA〜メンバLのそれぞれに対しては、
モニタが設置されている。例えば、メンバAに対して
は、モニタ903aが設置されている。このモニタ90
3aには、大阪の会議室でビデオカメラにより撮影して
得られた任意のメンバの映像が映し出される。
ステムにより、東京−大阪間で行われている遠隔会議の
東京での会議室900の様子を表したものである。東京
の会議室900では、上記図13に示すように、テーブ
ル901を囲んだ12名のメンバ(メンバA〜メンバ
L)が会議に参加している。これと同様に、図示してい
ないが、大阪でも複数のメンバが会議に参加している。
テーブル901の中央には、撮像装置としてのビデオカ
メラ902が設置されており、ビデオカメラ902は、
メンバA〜メンバLの中の任意のメンバの姿を撮影す
る。この映像(動画像)は、大阪の会議室へと伝送され
る。また、メンバA〜メンバLのそれぞれに対しては、
モニタが設置されている。例えば、メンバAに対して
は、モニタ903aが設置されている。このモニタ90
3aには、大阪の会議室でビデオカメラにより撮影して
得られた任意のメンバの映像が映し出される。
【0006】図14は、ビデオカメラ902が有する、
360度全方位撮影可能な光学系を示したものであり、
図15は、当該光学系を有するビデオカメラ902で撮
影して得られた画像がモニタ903aで表示された様子
を示したものである。
360度全方位撮影可能な光学系を示したものであり、
図15は、当該光学系を有するビデオカメラ902で撮
影して得られた画像がモニタ903aで表示された様子
を示したものである。
【0007】ビデオカメラ902の光学系は、上記図1
4に示すように、双曲面形状の反射鏡911を有し、そ
の中心軸は地面に対して垂直な重心方向と一致してい
る。このような反射鏡911により、地面に対して水平
方向の360度の被写体光が反射され、当該反射光が、
光学系下に設置されたビデオカメラ901の撮像部(不
図示)で受光される。
4に示すように、双曲面形状の反射鏡911を有し、そ
の中心軸は地面に対して垂直な重心方向と一致してい
る。このような反射鏡911により、地面に対して水平
方向の360度の被写体光が反射され、当該反射光が、
光学系下に設置されたビデオカメラ901の撮像部(不
図示)で受光される。
【0008】上記図14に示したような光学系を有する
ビデオカメラ902で得られた映像は、モニタ903a
で表示される。モニタ903aの表示画面は、映像の歪
み等を対処するために、また、全体映像を見やすいよう
にするために、360度全方位を座標位置変換して得ら
れたパノラマ画像を表示するパノラマ表示部921を有
する。パノラマ表示部921には、ウィンドウ922が
パノラマ画像の上に重ねて表示される。また、モニタ9
03aの表示画面は、ウィンドウ922内の画像がパノ
ラマ画像からトリミングされた結果が大きく表示される
表示部923を有する。
ビデオカメラ902で得られた映像は、モニタ903a
で表示される。モニタ903aの表示画面は、映像の歪
み等を対処するために、また、全体映像を見やすいよう
にするために、360度全方位を座標位置変換して得ら
れたパノラマ画像を表示するパノラマ表示部921を有
する。パノラマ表示部921には、ウィンドウ922が
パノラマ画像の上に重ねて表示される。また、モニタ9
03aの表示画面は、ウィンドウ922内の画像がパノ
ラマ画像からトリミングされた結果が大きく表示される
表示部923を有する。
【0009】しかしながら、上述のような遠隔会議シス
テムにおいて、複数の会議参加者(メンバ)から交互に
変わる発言者の映像を、当該発言者以外の聞き手に対し
て提示するためには、ビデオカメラ902により当該発
言者にパンして当該発言者を撮影し、上記図15に示し
たようなモニタ903aのパノラマ表示部921におい
て、そのウィンドウ922を該当するメンバの位置に設
定することになるが、このウィンドウ922の操作は人
の手により行う必要がある。
テムにおいて、複数の会議参加者(メンバ)から交互に
変わる発言者の映像を、当該発言者以外の聞き手に対し
て提示するためには、ビデオカメラ902により当該発
言者にパンして当該発言者を撮影し、上記図15に示し
たようなモニタ903aのパノラマ表示部921におい
て、そのウィンドウ922を該当するメンバの位置に設
定することになるが、このウィンドウ922の操作は人
の手により行う必要がある。
【0010】そこで、上記の問題を解決するために、例
えば、指向性マイクを用いることで発言者の方向を検知
し、或いはそれぞれのメンバに対して設けられたマイク
から発言中のマイクを判定することで発言者の方向を検
知し、この検知結果により、自動的にウィンドウ位置を
変えることが可能な構成が提案されている。
えば、指向性マイクを用いることで発言者の方向を検知
し、或いはそれぞれのメンバに対して設けられたマイク
から発言中のマイクを判定することで発言者の方向を検
知し、この検知結果により、自動的にウィンドウ位置を
変えることが可能な構成が提案されている。
【0011】
【発明が解決しようとする課題】しかしながら、上述し
たような従来の遠隔会議システムでは、上記図13から
も明かなように、ビデオカメラ902からメンバA〜メ
ンバLのそれぞれに対する距離が異なるため、ビデオカ
メラ902の撮影対象となるメンバ(発言者等)の位置
によって、モニタ上に表示される当該メンバの映像の大
きさが異なり、不自然さがあった。
たような従来の遠隔会議システムでは、上記図13から
も明かなように、ビデオカメラ902からメンバA〜メ
ンバLのそれぞれに対する距離が異なるため、ビデオカ
メラ902の撮影対象となるメンバ(発言者等)の位置
によって、モニタ上に表示される当該メンバの映像の大
きさが異なり、不自然さがあった。
【0012】例えば、メンバDやメンバHと比較して、
メンバAやメンバGはビデオカメラ902から遠い位置
にある。このため、メンバD或いはメンバJが発言者と
してビデオカメラ902で撮影され、この映像がモニタ
上に表示された場合の状態を、図16に示されるような
状態とした場合、メンバA或いはメンバGが発言者とし
てビデオカメラ902で撮影され、この映像がモニタ上
に表示された場合の状態は、図17に示されるような状
態となる。すなわち、ビデオカメラ902の撮影がメン
バD或いはメンバJの撮影からメンバA或いはメンバG
の撮影に切り替わると、モニタ上の表示が上記図16の
大きな映像の状態から上記図17の小さな映像に切り替
わり、会議の参加者に対して非常に不自然さを与えてし
まう。
メンバAやメンバGはビデオカメラ902から遠い位置
にある。このため、メンバD或いはメンバJが発言者と
してビデオカメラ902で撮影され、この映像がモニタ
上に表示された場合の状態を、図16に示されるような
状態とした場合、メンバA或いはメンバGが発言者とし
てビデオカメラ902で撮影され、この映像がモニタ上
に表示された場合の状態は、図17に示されるような状
態となる。すなわち、ビデオカメラ902の撮影がメン
バD或いはメンバJの撮影からメンバA或いはメンバG
の撮影に切り替わると、モニタ上の表示が上記図16の
大きな映像の状態から上記図17の小さな映像に切り替
わり、会議の参加者に対して非常に不自然さを与えてし
まう。
【0013】上述のように、メンバの位置によってその
映像の大きさが異なってしまうのは、会議を進めるにあ
たり、発言者の表情等を読み取る上で非常に不都合であ
る。また、例えば、マイクを介して音声がどのメンバー
からも同一に聞こえる場合、映像だけ距離感を与えてし
まうのは非常に不自然である。
映像の大きさが異なってしまうのは、会議を進めるにあ
たり、発言者の表情等を読み取る上で非常に不都合であ
る。また、例えば、マイクを介して音声がどのメンバー
からも同一に聞こえる場合、映像だけ距離感を与えてし
まうのは非常に不自然である。
【0014】また、ビデオカメラ902で撮影対象とな
るメンバの動きによっては、例えば、図18に示すよう
に、当該メンバの映像が表示領域から外れてしまうこと
があった。
るメンバの動きによっては、例えば、図18に示すよう
に、当該メンバの映像が表示領域から外れてしまうこと
があった。
【0015】そこで、本発明は、上記の欠点を除去する
ために成されたもので、被写体を撮影して得られた動画
像等の一部をトリミングして表示する際に、当該トリミ
ング領域に対して目的とする被写体を所定位置に所定サ
イズで表示する構成により、常に良好なトリミング表示
を提供できる、画像処理装置、画像処理システム、画像
処理方法、それを実施するためのプログラムを記憶した
コンピュータ読出可能な記憶媒体、及び当該プログラム
を提供することを目的とする。
ために成されたもので、被写体を撮影して得られた動画
像等の一部をトリミングして表示する際に、当該トリミ
ング領域に対して目的とする被写体を所定位置に所定サ
イズで表示する構成により、常に良好なトリミング表示
を提供できる、画像処理装置、画像処理システム、画像
処理方法、それを実施するためのプログラムを記憶した
コンピュータ読出可能な記憶媒体、及び当該プログラム
を提供することを目的とする。
【0016】
【課題を解決するための手段】斯かる目的下において、
第1の発明は、動画像の一部をトリミングして出力する
画像処理装置であって、上記トリミング領域内の特定領
域に基づいて、上記トリミング動作を制御する制御手段
を備えることを特徴とする。
第1の発明は、動画像の一部をトリミングして出力する
画像処理装置であって、上記トリミング領域内の特定領
域に基づいて、上記トリミング動作を制御する制御手段
を備えることを特徴とする。
【0017】第2の発明は、上記第1の発明において、
上記制御手段は、上記動画像でトリミングする領域を変
更する制御を行なうことを特徴とする。
上記制御手段は、上記動画像でトリミングする領域を変
更する制御を行なうことを特徴とする。
【0018】第3の発明は、上記第1の発明において、
上記制御手段は、上記トリミング領域における上記特定
領域の位置及びサイズの少なくとも何れかを変更する制
御を行なうことを特徴とする。
上記制御手段は、上記トリミング領域における上記特定
領域の位置及びサイズの少なくとも何れかを変更する制
御を行なうことを特徴とする。
【0019】第4の発明は、上記第1の発明において、
上記制御手段は、上記特定領域の上記トリミング領域に
おける位置及びサイズの少なくとも何れかに基づいて、
上記トリミング動作を制御することを特徴とする。
上記制御手段は、上記特定領域の上記トリミング領域に
おける位置及びサイズの少なくとも何れかに基づいて、
上記トリミング動作を制御することを特徴とする。
【0020】第5の発明は、上記第1の発明において、
上記特定領域は、被写体を撮影して得られた上記動画像
中に存在する当該被写体領域を含むことを特徴とする。
上記特定領域は、被写体を撮影して得られた上記動画像
中に存在する当該被写体領域を含むことを特徴とする。
【0021】第6の発明は、上記第1の発明において、
上記特定領域は、複数の被写体を撮影して得られた上記
動画像中に存在する任意の被写体領域を含むことを特徴
とする。
上記特定領域は、複数の被写体を撮影して得られた上記
動画像中に存在する任意の被写体領域を含むことを特徴
とする。
【0022】第7の発明は、上記第1の発明において、
上記動画像は、魚眼レンズを搭載した光学系を有する撮
像手段、又は全方向撮像可能な光学系を有する撮像手段
により被写体を撮影して得られた動画像を含むことを特
徴とする。
上記動画像は、魚眼レンズを搭載した光学系を有する撮
像手段、又は全方向撮像可能な光学系を有する撮像手段
により被写体を撮影して得られた動画像を含むことを特
徴とする。
【0023】第8の発明は、上記第1の発明において、
上記動画像の信号は、所定の圧縮符号化方式により圧縮
符号化された信号を含み、上記圧縮符号化された動画像
信号を復号化する復号手段を備えることを特徴とする。
上記動画像の信号は、所定の圧縮符号化方式により圧縮
符号化された信号を含み、上記圧縮符号化された動画像
信号を復号化する復号手段を備えることを特徴とする。
【0024】第9の発明は、上記第8の発明において、
上記所定の圧縮符号化方式は、画像中に存在するオブジ
ェクトをオブジェクト毎に圧縮符号化する方式を含むこ
とを特徴とする。
上記所定の圧縮符号化方式は、画像中に存在するオブジ
ェクトをオブジェクト毎に圧縮符号化する方式を含むこ
とを特徴とする。
【0025】第10の発明は、上記第9の発明におい
て、上記オブジェクト領域は、動画像の一部をトリミン
グした領域内の特定領域を含むことを特徴とする。
て、上記オブジェクト領域は、動画像の一部をトリミン
グした領域内の特定領域を含むことを特徴とする。
【0026】第11の発明は、上記第1の発明におい
て、上記制御手段は、外部指示に基づいて、上記トリミ
ング動作を制御することを特徴とする。
て、上記制御手段は、外部指示に基づいて、上記トリミ
ング動作を制御することを特徴とする。
【0027】第12の発明は、複数の機器が互いに通信
可能に接続されてなる画像処理システムであって、上記
複数の機器のうち少なくとも1つの機器は、請求項1〜
11の何れかに記載の画像処理装置の機能を有すること
を特徴とする。
可能に接続されてなる画像処理システムであって、上記
複数の機器のうち少なくとも1つの機器は、請求項1〜
11の何れかに記載の画像処理装置の機能を有すること
を特徴とする。
【0028】第13の発明は、動画像の一部をトリミン
グして出力するための画像処理方法であって、上記トリ
ミング領域内の特定領域に基づいて、上記トリミング動
作を制御する制御ステップを含むことを特徴とする。
グして出力するための画像処理方法であって、上記トリ
ミング領域内の特定領域に基づいて、上記トリミング動
作を制御する制御ステップを含むことを特徴とする。
【0029】第14の発明は、動画像の一部を切り出し
て出力するための画像処理方法であって、上記動画像信
号を入力する入力ステップと、上記入力ステップにより
入力された動画像信号の一部を切り出すトリミングステ
ップと、上記トリミングステップにより得られた切出領
域の動画像信号から特定領域を抽出する領域抽出ステッ
プと、上記領域抽出ステップにより抽出された特定領域
に基づいて、上記トリミングステップにおける切出領域
を修正するための制御情報を生成する制御情報生成ステ
ップとを含み、上記トリミングステップは、上記制御情
報生成ステップにより得られた制御情報に基づいて、上
記切出領域を修正するステップを含むことを特徴とす
る。
て出力するための画像処理方法であって、上記動画像信
号を入力する入力ステップと、上記入力ステップにより
入力された動画像信号の一部を切り出すトリミングステ
ップと、上記トリミングステップにより得られた切出領
域の動画像信号から特定領域を抽出する領域抽出ステッ
プと、上記領域抽出ステップにより抽出された特定領域
に基づいて、上記トリミングステップにおける切出領域
を修正するための制御情報を生成する制御情報生成ステ
ップとを含み、上記トリミングステップは、上記制御情
報生成ステップにより得られた制御情報に基づいて、上
記切出領域を修正するステップを含むことを特徴とす
る。
【0030】第15の発明は、上記第14の発明におい
て、上記入力ステップは、被写体を撮影して得られた動
画像信号を入力するステップ、又は魚眼レンズを搭載し
た光学系を有する撮像手段により被写体を撮影して得ら
れた動画像信号を入力するステップ、又は全方位撮像可
能な光学系を有する撮像手段により被写体を撮影して得
られた動画像信号を入力するステップを含むことを特徴
とする。
て、上記入力ステップは、被写体を撮影して得られた動
画像信号を入力するステップ、又は魚眼レンズを搭載し
た光学系を有する撮像手段により被写体を撮影して得ら
れた動画像信号を入力するステップ、又は全方位撮像可
能な光学系を有する撮像手段により被写体を撮影して得
られた動画像信号を入力するステップを含むことを特徴
とする。
【0031】第16の発明は、上記第14の発明におい
て、上記領域抽出ステップは、上記切出領域内に存在す
る任意の被写体領域を上記特定領域として抽出するステ
ップを含むことを特徴とする。
て、上記領域抽出ステップは、上記切出領域内に存在す
る任意の被写体領域を上記特定領域として抽出するステ
ップを含むことを特徴とする。
【0032】第17の発明は、上記第14の発明におい
て、上記制御情報生成ステップは、上記特定領域を構成
する各画素が上記切出領域に含まれる又は接するか否か
に基づいて、上記制御情報を生成するステップを含むこ
とを特徴とする。
て、上記制御情報生成ステップは、上記特定領域を構成
する各画素が上記切出領域に含まれる又は接するか否か
に基づいて、上記制御情報を生成するステップを含むこ
とを特徴とする。
【0033】第18の発明は、上記第14の発明におい
て、上記制御情報生成ステップは、上記特定領域が上記
切出領域中の所定の位置及び所定のサイズで含まれるよ
うに上記切出領域を修正するための制御情報を生成する
ステップを含むことを特徴とする。
て、上記制御情報生成ステップは、上記特定領域が上記
切出領域中の所定の位置及び所定のサイズで含まれるよ
うに上記切出領域を修正するための制御情報を生成する
ステップを含むことを特徴とする。
【0034】第19の発明は、上記第14の発明におい
て、上記制御情報生成ステップは、上記動画像信号を撮
影動作により取得する際のパン、チルト、及びズームの
少なくとも何れかを制御して上記切出領域を修正するた
めの制御情報を生成するステップを含むことを特徴とす
る。
て、上記制御情報生成ステップは、上記動画像信号を撮
影動作により取得する際のパン、チルト、及びズームの
少なくとも何れかを制御して上記切出領域を修正するた
めの制御情報を生成するステップを含むことを特徴とす
る。
【0035】第20の発明は、上記第14の発明におい
て、上記入力ステップは、撮影して得られた動画像信号
がオブジェクト毎に圧縮符号化され伝送された信号を入
力するステップと、当該ステップにより入力された信号
を復号化するステップとを含み、上記トリミングステッ
プは、上記復号化後の動画像信号の一部を切り出すステ
ップを含むことを特徴とする。
て、上記入力ステップは、撮影して得られた動画像信号
がオブジェクト毎に圧縮符号化され伝送された信号を入
力するステップと、当該ステップにより入力された信号
を復号化するステップとを含み、上記トリミングステッ
プは、上記復号化後の動画像信号の一部を切り出すステ
ップを含むことを特徴とする。
【0036】第21の発明は、上記第14の発明におい
て、上記制御情報生成ステップは、外部からの要求に基
づいて、上記制御情報を生成するステップを含むことを
特徴とする。
て、上記制御情報生成ステップは、外部からの要求に基
づいて、上記制御情報を生成するステップを含むことを
特徴とする。
【0037】第22の発明は、上記第21の発明におい
て、上記外部からの要求は、動画像から切り出された領
域の画像を確認しながら人為的に当該領域の更新を指示
することによる要求、及び音声の入力元に基いて当該領
域内の特定領域の空間上の座標位置を決定して当該領域
の更新を指示することによる要求の少なくとも何れかを
含むことを特徴とする。
て、上記外部からの要求は、動画像から切り出された領
域の画像を確認しながら人為的に当該領域の更新を指示
することによる要求、及び音声の入力元に基いて当該領
域内の特定領域の空間上の座標位置を決定して当該領域
の更新を指示することによる要求の少なくとも何れかを
含むことを特徴とする。
【0038】第23の発明は、上記第14の発明におい
て、上記入力ステップは、撮影して得られた動画像信号
がオブジェクト毎に圧縮符号化され伝送された信号を入
力するステップと、当該ステップにより入力された信号
を復号化するステップとを含み、上記トリミングステッ
プは、上記復号化後の動画像信号の一部を切り出すステ
ップを含み、上記領域抽出ステップは、上記トリミング
ステップにより得られた切出領域に含まれる任意のオブ
ジェクト領域を上記特定領域を抽出するステップを含む
ことを特徴とする。
て、上記入力ステップは、撮影して得られた動画像信号
がオブジェクト毎に圧縮符号化され伝送された信号を入
力するステップと、当該ステップにより入力された信号
を復号化するステップとを含み、上記トリミングステッ
プは、上記復号化後の動画像信号の一部を切り出すステ
ップを含み、上記領域抽出ステップは、上記トリミング
ステップにより得られた切出領域に含まれる任意のオブ
ジェクト領域を上記特定領域を抽出するステップを含む
ことを特徴とする。
【0039】第24の発明は、請求項1〜11の何れか
に記載の画像処理装置の機能、又は請求項12記載の画
像処理システムの機能をコンピュータに実現させるため
のプログラムをコンピュータ読出可能な記憶媒体に記録
したことを特徴とする。
に記載の画像処理装置の機能、又は請求項12記載の画
像処理システムの機能をコンピュータに実現させるため
のプログラムをコンピュータ読出可能な記憶媒体に記録
したことを特徴とする。
【0040】第25の発明は、請求項13〜23の何れ
かに記載の画像処理方法の処理ステップをコンピュータ
に実行させるためのプログラムをコンピュータ読出可能
な記憶媒体に記録したことを特徴とする。
かに記載の画像処理方法の処理ステップをコンピュータ
に実行させるためのプログラムをコンピュータ読出可能
な記憶媒体に記録したことを特徴とする。
【0041】第26の発明は、請求項1〜11の何れか
に記載の画像処理装置の機能、又は請求項12記載の画
像処理システムの機能をコンピュータに実現させるため
のプログラムであることを特徴とする。
に記載の画像処理装置の機能、又は請求項12記載の画
像処理システムの機能をコンピュータに実現させるため
のプログラムであることを特徴とする。
【0042】第27の発明は、請求項13〜23の何れ
かに記載の画像処理方法の処理ステップをコンピュータ
に実行させるためのプログラムであることを特徴とす
る。
かに記載の画像処理方法の処理ステップをコンピュータ
に実行させるためのプログラムであることを特徴とす
る。
【0043】具体的には例えば、主被写体を含む少なく
とも1つ以上の被写体を撮像して得られた動画像から、
その一部をトリミング(切り出し)して表示出力する場
合、動画像に含まれる少なくとも1つ以上の被写体のう
ちの注目する被写体(主被写体)を当該動画像から抽出
し(主被写体領域と、背景等の主被写体以外の領域を分
離する等)、主被写体領域が、トリミング領域の予め決
められた領域に表示されるように、トリミング動作を制
御する。このときのトリミング動作制御としては、主被
写体領域の拡大縮小や移動等の動作制御を含む。
とも1つ以上の被写体を撮像して得られた動画像から、
その一部をトリミング(切り出し)して表示出力する場
合、動画像に含まれる少なくとも1つ以上の被写体のう
ちの注目する被写体(主被写体)を当該動画像から抽出
し(主被写体領域と、背景等の主被写体以外の領域を分
離する等)、主被写体領域が、トリミング領域の予め決
められた領域に表示されるように、トリミング動作を制
御する。このときのトリミング動作制御としては、主被
写体領域の拡大縮小や移動等の動作制御を含む。
【0044】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を用いて説明する。
て図面を用いて説明する。
【0045】[第1の実施の形態]本発明は、例えば、図
1に示すような画像処理装置100に適用される。本実
施の形態の画像処理装置100は、例えば、遠隔会議シ
ステムに用いられる装置であり、特に、会議参加者であ
る複数のメンバ(空間上異なる位置に配置された複数の
被写体)のうち、少なくとも1人以上のメンバを含む視
野範囲を撮影して得られた動画像において、任意の1人
のメンバ(発言者等)に注目し、これを主被写体として
単独表示(トリミング表示)する際に、常に主被写体を
表示領域(トリミング領域)内の所定の位置に所定の大
きさで安定して表示する構成を有する。これにより、メ
ンバの位置によってはトリミング表示される映像の大き
さが異なるという不自然さをなくすことができ、常に自
然なトリミング表示を提供することができる。以下、本
実施の形態の画像処理装置100の構成及び動作につい
て具体的に説明する。
1に示すような画像処理装置100に適用される。本実
施の形態の画像処理装置100は、例えば、遠隔会議シ
ステムに用いられる装置であり、特に、会議参加者であ
る複数のメンバ(空間上異なる位置に配置された複数の
被写体)のうち、少なくとも1人以上のメンバを含む視
野範囲を撮影して得られた動画像において、任意の1人
のメンバ(発言者等)に注目し、これを主被写体として
単独表示(トリミング表示)する際に、常に主被写体を
表示領域(トリミング領域)内の所定の位置に所定の大
きさで安定して表示する構成を有する。これにより、メ
ンバの位置によってはトリミング表示される映像の大き
さが異なるという不自然さをなくすことができ、常に自
然なトリミング表示を提供することができる。以下、本
実施の形態の画像処理装置100の構成及び動作につい
て具体的に説明する。
【0046】<画像処理装置100の構成>画像処理装
置100は、上記図1に示すように、撮像部101、映
像信号再構成部102、映像トリミング部108、被写
体抽出部103、制御情報生成部104、及び表示部1
10を備えている。また、制御情報生成部104は、被
写体位置判定部105、被写体領域判定部106、及び
トリミング条件決定部107を含んでいる。
置100は、上記図1に示すように、撮像部101、映
像信号再構成部102、映像トリミング部108、被写
体抽出部103、制御情報生成部104、及び表示部1
10を備えている。また、制御情報生成部104は、被
写体位置判定部105、被写体領域判定部106、及び
トリミング条件決定部107を含んでいる。
【0047】<画像処理装置100の動作>撮像部10
1は、広角レンズの搭載、或いはズームレンズの広角設
定等により、空間上異なる位置に配置された複数の被写
体(ここでは会議に参加している複数のメンバ)を同一
画面上に撮像する機能を有する。例えば、画像処理装置
100を、上記図13に示したような会議室900で行
なわれる遠隔会議のシステムに適用した場合、複数のメ
ンバA〜メンバLのほぼ中央に配置されたビデオカメラ
902が、撮像部101に相当する。
1は、広角レンズの搭載、或いはズームレンズの広角設
定等により、空間上異なる位置に配置された複数の被写
体(ここでは会議に参加している複数のメンバ)を同一
画面上に撮像する機能を有する。例えば、画像処理装置
100を、上記図13に示したような会議室900で行
なわれる遠隔会議のシステムに適用した場合、複数のメ
ンバA〜メンバLのほぼ中央に配置されたビデオカメラ
902が、撮像部101に相当する。
【0048】尚、撮像部101としては、撮像部101
の周囲を撮影するための魚眼レンズを搭載したビデオカ
メラや、上記図14に示したような全方位撮影可能な専
用光学系を有するビデオカメラ等を適用可能である。
の周囲を撮影するための魚眼レンズを搭載したビデオカ
メラや、上記図14に示したような全方位撮影可能な専
用光学系を有するビデオカメラ等を適用可能である。
【0049】ここで、例えば、撮像部101において、
超広角レンズや魚眼レンズが用いられている場合、この
ようなレンズは平面状に強い収差を有するため、多くの
場合、表示された映像には歪みが生じる。また、例え
ば、撮像部101において、双曲面形状ミラーを有する
光学系を矩形に配列した受光素子で被写体を2次元的に
撮像したものを、そのまま直交座標で表示した場合、表
示された映像には特有の歪みが生じる。このような映像
の歪みを解消するために、撮像部101で得られた撮像
信号(映像信号)は映像信号再構成部102へと供給さ
れる。
超広角レンズや魚眼レンズが用いられている場合、この
ようなレンズは平面状に強い収差を有するため、多くの
場合、表示された映像には歪みが生じる。また、例え
ば、撮像部101において、双曲面形状ミラーを有する
光学系を矩形に配列した受光素子で被写体を2次元的に
撮像したものを、そのまま直交座標で表示した場合、表
示された映像には特有の歪みが生じる。このような映像
の歪みを解消するために、撮像部101で得られた撮像
信号(映像信号)は映像信号再構成部102へと供給さ
れる。
【0050】映像信号再構成部102は、撮像部101
からの映像信号を、被写体に対し不自然な歪みのないパ
ノラマ画像に再構成(変換)するものであるが、その処
理方法については特に限定するものではない。具体的に
一例を挙げると、撮像部101が双曲面形状ミラーを有
する光学系を備えるものである場合、映像信号再構成部
102は、任意の変換式により、撮像部101からの映
像信号を、歪みのないパノラマ画像(又は透視投影画
像)へ幾何学的に変換する。
からの映像信号を、被写体に対し不自然な歪みのないパ
ノラマ画像に再構成(変換)するものであるが、その処
理方法については特に限定するものではない。具体的に
一例を挙げると、撮像部101が双曲面形状ミラーを有
する光学系を備えるものである場合、映像信号再構成部
102は、任意の変換式により、撮像部101からの映
像信号を、歪みのないパノラマ画像(又は透視投影画
像)へ幾何学的に変換する。
【0051】上述のように、撮像部101で広視野範囲
を撮像して得られた映像信号は、映像信号再構成部10
2により、歪み補正がなされたパノラマ画像(パノラマ
映像)に変換され、表示部110に供給される。したが
って、表示部110では、映像信号再構成部102から
のパノラマ画像が、上記図15に示したようなパノラマ
表示部921に表示される。
を撮像して得られた映像信号は、映像信号再構成部10
2により、歪み補正がなされたパノラマ画像(パノラマ
映像)に変換され、表示部110に供給される。したが
って、表示部110では、映像信号再構成部102から
のパノラマ画像が、上記図15に示したようなパノラマ
表示部921に表示される。
【0052】一方、映像信号再構成部102で得られた
パノラマ画像は、映像信号トリミング部108にも供給
される。ここで、映像信号再構成部102で得られたパ
ノラマ画像に対しては、例えば、上記図15に示したよ
うなウィンドウ922により予め決められた矩形領域が
設定されている。したがって、映像信号トリミング部1
08は、映像信号再構成部102で得られたパノラマ画
像を上記矩形領域でトリミングした映像信号を、表示部
110に供給する。この結果、表示部110では、上記
図15に示したような表示部923により、パノラマ表
示部921のパノラマ画像から、ウィンドウ922の矩
形領域でトリミングされた映像が拡大表示される。
パノラマ画像は、映像信号トリミング部108にも供給
される。ここで、映像信号再構成部102で得られたパ
ノラマ画像に対しては、例えば、上記図15に示したよ
うなウィンドウ922により予め決められた矩形領域が
設定されている。したがって、映像信号トリミング部1
08は、映像信号再構成部102で得られたパノラマ画
像を上記矩形領域でトリミングした映像信号を、表示部
110に供給する。この結果、表示部110では、上記
図15に示したような表示部923により、パノラマ表
示部921のパノラマ画像から、ウィンドウ922の矩
形領域でトリミングされた映像が拡大表示される。
【0053】一方、映像信号トリミング部108により
パノラマ画像からトリミングされた映像信号は、被写体
抽出部103に供給される。被写体抽出部103は、映
像信号トリミング部108からの映像信号に含まれる主
被写体(メンバ)を認識し、当該主被写体領域を抽出す
る。
パノラマ画像からトリミングされた映像信号は、被写体
抽出部103に供給される。被写体抽出部103は、映
像信号トリミング部108からの映像信号に含まれる主
被写体(メンバ)を認識し、当該主被写体領域を抽出す
る。
【0054】具体的には例えば、まず、被写体抽出部1
03の目的は、例えば、図2に示すように、映像信号ト
リミング部108で得られた映像信号、すなわちパノラ
マ画像からトリミングされた映像(以下、「トリミング
画像」とも言う)201から、人物(メンバ)である主
被写体201bと背景201aを区別することにある。
被写体抽出部103によりトリミング画像201から主
被写体201bが抽出されると、その結果は、上記図2
に示すように、主被写体201b(人物)部分の「白」
画素と、背景201a(人物)以外の部分の「黒」画素
との2値で表現された画像202となる。
03の目的は、例えば、図2に示すように、映像信号ト
リミング部108で得られた映像信号、すなわちパノラ
マ画像からトリミングされた映像(以下、「トリミング
画像」とも言う)201から、人物(メンバ)である主
被写体201bと背景201aを区別することにある。
被写体抽出部103によりトリミング画像201から主
被写体201bが抽出されると、その結果は、上記図2
に示すように、主被写体201b(人物)部分の「白」
画素と、背景201a(人物)以外の部分の「黒」画素
との2値で表現された画像202となる。
【0055】被写体抽出部103での被写体抽出方法に
ついては、様々な方法を適用可能であり、特に限定しな
いが、例えば、背景差分法による被写体抽出方法や、S
nakes法、或いはフラクタルを応用した方法等を適用可
能である。
ついては、様々な方法を適用可能であり、特に限定しな
いが、例えば、背景差分法による被写体抽出方法や、S
nakes法、或いはフラクタルを応用した方法等を適用可
能である。
【0056】例えば、図3は、被写体抽出方法の一例と
して、背景差分法による被写体抽出方法を表したもので
ある。ここでの対象となるトリミング画像211は、背
景211aに対して、什器等の領域部分211c,21
1d(図中斜線部参照)が、主被写体201b(人物)
の後ろに存在している状況の撮影画像である。本被写体
抽出方法では、予め主被写体201b(人物)を除いた
背景のみのを撮影し、これにより得られた画像212を
記録保持しておき、実際にトリミング画像211が得ら
れこれを処理する際に、トリミング画像211と、予め
記録保持しておいた画像212との差分を取ることで、
主被写体201b(人物)の抽出画像213を得る。
して、背景差分法による被写体抽出方法を表したもので
ある。ここでの対象となるトリミング画像211は、背
景211aに対して、什器等の領域部分211c,21
1d(図中斜線部参照)が、主被写体201b(人物)
の後ろに存在している状況の撮影画像である。本被写体
抽出方法では、予め主被写体201b(人物)を除いた
背景のみのを撮影し、これにより得られた画像212を
記録保持しておき、実際にトリミング画像211が得ら
れこれを処理する際に、トリミング画像211と、予め
記録保持しておいた画像212との差分を取ることで、
主被写体201b(人物)の抽出画像213を得る。
【0057】上述のようにして、被写体抽出部103に
よりトリミング画像から主被写体が抽出された映像信号
は、制御情報生成部104に供給される。制御情報生成
部104において、被写体位置判定部105は、被写体
抽出部103で得られた主被写体の映像信号により、当
該主被写体が、表示部110での表示領域内の納まるか
否かを判定する。
よりトリミング画像から主被写体が抽出された映像信号
は、制御情報生成部104に供給される。制御情報生成
部104において、被写体位置判定部105は、被写体
抽出部103で得られた主被写体の映像信号により、当
該主被写体が、表示部110での表示領域内の納まるか
否かを判定する。
【0058】具体的には例えば、被写体抽出部103で
得られた主被写体の映像信号をそのままの状態で表示部
110の表示領域内(トリミング画像の表示領域内、上
記図14では表示部923の領域内、以下、「トリミン
グ領域」とも言う)に表示した場合、図4に表示状態2
21となるものとする。すなわち、この表示状態221
では、トリミング領域内で主被写体221aが左へずれ
ている。このような表示状態221となる場合、被写体
位置判定部105は、トリミング条件決定部107に対
して、パノラマ画像からのトリミング位置を左へシフト
することで、現在の主被写体221aが左へずれた状態
の被写体抽出結果222から、主被写体221aがトリ
ミング領域に収まった状態の被写体抽出結果223とな
るように指示する。
得られた主被写体の映像信号をそのままの状態で表示部
110の表示領域内(トリミング画像の表示領域内、上
記図14では表示部923の領域内、以下、「トリミン
グ領域」とも言う)に表示した場合、図4に表示状態2
21となるものとする。すなわち、この表示状態221
では、トリミング領域内で主被写体221aが左へずれ
ている。このような表示状態221となる場合、被写体
位置判定部105は、トリミング条件決定部107に対
して、パノラマ画像からのトリミング位置を左へシフト
することで、現在の主被写体221aが左へずれた状態
の被写体抽出結果222から、主被写体221aがトリ
ミング領域に収まった状態の被写体抽出結果223とな
るように指示する。
【0059】図5及び図6は、被写体位置判定部105
における、主被写体の位置判定の処理を表したものであ
る。まず、上記図5(a)に示すように、トリミング領
域231の全体に対しては、左境界線232及び右境界
線233が設けられている。そこで、上記図6に示すよ
うに、被写体位置判定部105は、先ず、被写体抽出部
103で得られた主被写体の映像信号の当該主被写体領
域に左境界線232又は右境界線233が含まれる又は
接する状態にあるか否かを判別し(ステップS301〜
S303)、この判別の結果により、当該主被写体領域
に左境界線232又は右境界線233が含まれる又は接
する状態にある場合(上記図5(b)又は同図(c)の
状態にある場合)に、トリミング条件決定部107に対
して、パノラマ画像からのトリミング位置を左又は右へ
シフトすることを指示する(ステップS305、ステッ
プS306)。これにより、上記図5(d)に示すよう
な、主被写体がトリミング領域内に納まった状態とな
る。このような状態が得られると、被写体位置判定部1
05の後段の被写体領域判定部106に処理が移る(ス
テップS304、ステップS307)。
における、主被写体の位置判定の処理を表したものであ
る。まず、上記図5(a)に示すように、トリミング領
域231の全体に対しては、左境界線232及び右境界
線233が設けられている。そこで、上記図6に示すよ
うに、被写体位置判定部105は、先ず、被写体抽出部
103で得られた主被写体の映像信号の当該主被写体領
域に左境界線232又は右境界線233が含まれる又は
接する状態にあるか否かを判別し(ステップS301〜
S303)、この判別の結果により、当該主被写体領域
に左境界線232又は右境界線233が含まれる又は接
する状態にある場合(上記図5(b)又は同図(c)の
状態にある場合)に、トリミング条件決定部107に対
して、パノラマ画像からのトリミング位置を左又は右へ
シフトすることを指示する(ステップS305、ステッ
プS306)。これにより、上記図5(d)に示すよう
な、主被写体がトリミング領域内に納まった状態とな
る。このような状態が得られると、被写体位置判定部1
05の後段の被写体領域判定部106に処理が移る(ス
テップS304、ステップS307)。
【0060】尚、トリミング領域のほぼ中央位置に主被
写体が納まったが、主被写体に近接した撮影等により主
被写体領域が左境界線232又は右境界線233が含ま
れる又は接する状態にある場合には、被写体領域判定部
106に処理が移るものとする。具体的には例えば、ト
リミング領域のほぼ中央に被写体が収まった場合、すな
わち被写体位置判定部105による位置調整後の映像の
場合、上記図7の(a)〜(c)のいずれかの状態となる
ことが考えられる。上記図7(a)は、主被写体に対し
適当な距離をおいて撮影された映像を示したものであ
り、これに対して同図(c)は、主被写体に対し遠距離
をおいて撮影された映像を示したものであり、同図
(c)の状態では、主被写体が小さくなりすぎている。
また、主被写体に近接した撮影の場合、その映像は、上
記図7(b)に示されるような状態となる。このような
場合、主被写体領域が左境界線232及び右境界線23
3の両方に含まれる、或いは接するまで、すなわち図7
(b)に示される状態となるまで、被写体位置判定部1
05で位置調整する。この位置調整の処理ステップは、
上記図6に示したステップS304に相当する。ここで
は、主被写体領域が左境界線232及び右境界線233
の両方に含まれる、又は接する場合、被写体領域判定部
106に処理が移ることになる。また、上記図6に示し
たステップS307において、被写体領域判定部106
に処理が移された状態が、上記図7(a)及び(c)に
示される。ここでは、主被写体領域が左境界線232及
び右境界線233の両方に含まれない。
写体が納まったが、主被写体に近接した撮影等により主
被写体領域が左境界線232又は右境界線233が含ま
れる又は接する状態にある場合には、被写体領域判定部
106に処理が移るものとする。具体的には例えば、ト
リミング領域のほぼ中央に被写体が収まった場合、すな
わち被写体位置判定部105による位置調整後の映像の
場合、上記図7の(a)〜(c)のいずれかの状態となる
ことが考えられる。上記図7(a)は、主被写体に対し
適当な距離をおいて撮影された映像を示したものであ
り、これに対して同図(c)は、主被写体に対し遠距離
をおいて撮影された映像を示したものであり、同図
(c)の状態では、主被写体が小さくなりすぎている。
また、主被写体に近接した撮影の場合、その映像は、上
記図7(b)に示されるような状態となる。このような
場合、主被写体領域が左境界線232及び右境界線23
3の両方に含まれる、或いは接するまで、すなわち図7
(b)に示される状態となるまで、被写体位置判定部1
05で位置調整する。この位置調整の処理ステップは、
上記図6に示したステップS304に相当する。ここで
は、主被写体領域が左境界線232及び右境界線233
の両方に含まれる、又は接する場合、被写体領域判定部
106に処理が移ることになる。また、上記図6に示し
たステップS307において、被写体領域判定部106
に処理が移された状態が、上記図7(a)及び(c)に
示される。ここでは、主被写体領域が左境界線232及
び右境界線233の両方に含まれない。
【0061】上述のようにして、被写体位置判定部10
5により主被写体の位置の調整がなされた結果(上記図
5(d)に示したような状態の映像信号)は、被写体領
域判定部106に供給される。
5により主被写体の位置の調整がなされた結果(上記図
5(d)に示したような状態の映像信号)は、被写体領
域判定部106に供給される。
【0062】ここで、被写体領域判定部106に対して
供給される映像信号としては、例えば、図7(a)に示
すような状態の映像信号、同図(b)に示すような状態
の映像信号、及び同図(c)に示すような状態の映像信
号の3種類に分類される。
供給される映像信号としては、例えば、図7(a)に示
すような状態の映像信号、同図(b)に示すような状態
の映像信号、及び同図(c)に示すような状態の映像信
号の3種類に分類される。
【0063】上記図7(a)に示す状態は、トリミング
領域に主被写体がちょうど収まった状態である。このよ
うな場合、多くの状況で満足するトリミング画像である
見なせる。上記図7(b)に示す状態は、被写体位置判
定部105により主被写体の位置の調整がなされても、
主被写体がトリミング領域に収まりきらない状態であ
る。これは、撮像部101から主被写体までの距離が近
いとき、具体的には上記図13に示したような会議室9
00内の状況ではビデオカメラ902がメンバD又はメ
ンバJを撮影した場合に起こる状態である。このような
場合、被写体領域判定部106は視野角を調整する。上
記図7(c)に示す状態は、被写体位置判定部105に
より主被写体の位置の調整がなされ主被写体がトリミン
グ領域に収まった状態であるが、被写体が小さすぎる状
態である。これは、撮像部101から主被写体までの距
離が遠いとき、具体的には上記図13に示したような会
議室900内の状況ではビデオカメラ902がメンバA
又はメンバGを撮影した場合に起こる状態である。この
ような場合、被写体領域判定部106は視野角を調整す
る。
領域に主被写体がちょうど収まった状態である。このよ
うな場合、多くの状況で満足するトリミング画像である
見なせる。上記図7(b)に示す状態は、被写体位置判
定部105により主被写体の位置の調整がなされても、
主被写体がトリミング領域に収まりきらない状態であ
る。これは、撮像部101から主被写体までの距離が近
いとき、具体的には上記図13に示したような会議室9
00内の状況ではビデオカメラ902がメンバD又はメ
ンバJを撮影した場合に起こる状態である。このような
場合、被写体領域判定部106は視野角を調整する。上
記図7(c)に示す状態は、被写体位置判定部105に
より主被写体の位置の調整がなされ主被写体がトリミン
グ領域に収まった状態であるが、被写体が小さすぎる状
態である。これは、撮像部101から主被写体までの距
離が遠いとき、具体的には上記図13に示したような会
議室900内の状況ではビデオカメラ902がメンバA
又はメンバGを撮影した場合に起こる状態である。この
ような場合、被写体領域判定部106は視野角を調整す
る。
【0064】被写体領域判定部106における、上述し
たような状態の判定方法としては、次のような方法が挙
げられる。例えば、被写体領域判定部106では、図8
に示すように、トリミング領域241に対して、底辺の
開いた2つの矩形領域242,243が設定されてい
る。矩形領域242の左右辺については、上記図5
(a)に示した左境界線232及び右境界線233に対
応している。被写体領域判定部106は、被写体位置判
定部105により主被写体の位置の調整がなされた結果
である映像信号において、主被写体領域が矩形領域24
2又は矩形領域243の左右辺に接するか否かを判別
し、この判別の結果、主被写体領域が矩形領域242又
は矩形領域243の左右辺に接する場合、被写体領域が
矩形領域242と矩形領域243の間に左右上辺のうち
少なくとも2辺が収まるよう、映像のズーム制御要求指
示をトリミング条件決定部107に対して出力する。
たような状態の判定方法としては、次のような方法が挙
げられる。例えば、被写体領域判定部106では、図8
に示すように、トリミング領域241に対して、底辺の
開いた2つの矩形領域242,243が設定されてい
る。矩形領域242の左右辺については、上記図5
(a)に示した左境界線232及び右境界線233に対
応している。被写体領域判定部106は、被写体位置判
定部105により主被写体の位置の調整がなされた結果
である映像信号において、主被写体領域が矩形領域24
2又は矩形領域243の左右辺に接するか否かを判別
し、この判別の結果、主被写体領域が矩形領域242又
は矩形領域243の左右辺に接する場合、被写体領域が
矩形領域242と矩形領域243の間に左右上辺のうち
少なくとも2辺が収まるよう、映像のズーム制御要求指
示をトリミング条件決定部107に対して出力する。
【0065】トリミング条件決定部107は、被写体位
置判定部105からの指示、或いは被写体領域判定部1
06からの指示に基いて、映像信号トリミング部108
における倍率を変えたトリミングを制御する。これによ
り、映像信号トリミング部108がトリミング条件決定
部107の制御に従って動作することで、主被写体が適
切な位置に且つ適切な大きさで配置されたトリミング画
像を、表示部110で表示することができる。
置判定部105からの指示、或いは被写体領域判定部1
06からの指示に基いて、映像信号トリミング部108
における倍率を変えたトリミングを制御する。これによ
り、映像信号トリミング部108がトリミング条件決定
部107の制御に従って動作することで、主被写体が適
切な位置に且つ適切な大きさで配置されたトリミング画
像を、表示部110で表示することができる。
【0066】尚、本実施の形態において、トリミング領
域内の主被写体の調整は、上述したようなステップバイ
ステップでなく、例えば、アフィン変換等による変倍及
び移動を同時に行うことで実施するようにしてもよい。
域内の主被写体の調整は、上述したようなステップバイ
ステップでなく、例えば、アフィン変換等による変倍及
び移動を同時に行うことで実施するようにしてもよい。
【0067】[第2の実施の形態]本発明は、例えば、図
9に示すような画像処理装置400に適用される。本実
施の形態の画像処理装置400は、上記図1に示した画
像処理装置100の構成に対して、撮像部101及び映
像信号再構成部102を設ける代わりに、復号化部40
1を設ける構成としている。
9に示すような画像処理装置400に適用される。本実
施の形態の画像処理装置400は、上記図1に示した画
像処理装置100の構成に対して、撮像部101及び映
像信号再構成部102を設ける代わりに、復号化部40
1を設ける構成としている。
【0068】尚、上記図9の画像処理装置400におい
て、上記図1の画像処理装置100と同様に機能する構
成には同じ符号を付し、その詳細な説明は省略する。
て、上記図1の画像処理装置100と同様に機能する構
成には同じ符号を付し、その詳細な説明は省略する。
【0069】上記図1に示した画像処理装置100で
は、撮像部101により得られた映像信号を、映像信号
再構成部102によりパノラマ画像に変換した。これに
対して本実施の形態の画像処理装置400に対しては、
撮像部101及び映像信号再構成部102と同様の構成
により得られたパノラマ画像が圧縮されたかたちで入力
される。復号化部401は、当該入力圧縮データを復号
化(解凍復号化処理)して、圧縮前のパノラマ画像を取
得する。
は、撮像部101により得られた映像信号を、映像信号
再構成部102によりパノラマ画像に変換した。これに
対して本実施の形態の画像処理装置400に対しては、
撮像部101及び映像信号再構成部102と同様の構成
により得られたパノラマ画像が圧縮されたかたちで入力
される。復号化部401は、当該入力圧縮データを復号
化(解凍復号化処理)して、圧縮前のパノラマ画像を取
得する。
【0070】本実施の形態では、圧縮符号化方式とし
て、例えば、MPEG−4(Moving Pictu
re Experts Group−4)方式を用いる
ものとする。このMPEG−4方式は、対象映像中に存
在するオブジェクトをオブジェクト単位で符号化するオ
ブジェクト符号化機能を有する方式であり、従来からの
符号化方式に比べ、高圧縮率且つ情報量の軽減を実現で
きる。
て、例えば、MPEG−4(Moving Pictu
re Experts Group−4)方式を用いる
ものとする。このMPEG−4方式は、対象映像中に存
在するオブジェクトをオブジェクト単位で符号化するオ
ブジェクト符号化機能を有する方式であり、従来からの
符号化方式に比べ、高圧縮率且つ情報量の軽減を実現で
きる。
【0071】本実施の形態では、例えば、対象とする映
像を、第1の実施の形態と同様に、遠隔会議システムに
参加しているメンバ(人物)や、その背景等を含む映像
とした場合、具体的には、対象映像中に、背景、人物
A、及び人物B等の複数のオブジェクトが独立して存在
している場合、対象映像をMPEG−4方式で符号化し
た結果は、オブジェクト単位でオブジェクトの対象映像
における座標位置が記述される。
像を、第1の実施の形態と同様に、遠隔会議システムに
参加しているメンバ(人物)や、その背景等を含む映像
とした場合、具体的には、対象映像中に、背景、人物
A、及び人物B等の複数のオブジェクトが独立して存在
している場合、対象映像をMPEG−4方式で符号化し
た結果は、オブジェクト単位でオブジェクトの対象映像
における座標位置が記述される。
【0072】したがって、本実施の形態では、上述した
ようなトリミング領域を指定する座標が決まると、一義
的にトリミング領域内に存在するオブジェクト(人物
等)は、当該オブジェクトに記述されている座標情報か
ら特定することが可能となる。このため、本実施の形態
の被写体抽出部103は、第1の実施の形態のように、
映像信号トリミング部108で得られたトリミング画像
から主被写体領域と背景領域を分離する処理等を実行す
ることなしに、容易にトリミング領域内に存在する主被
写体を抽出することができる。
ようなトリミング領域を指定する座標が決まると、一義
的にトリミング領域内に存在するオブジェクト(人物
等)は、当該オブジェクトに記述されている座標情報か
ら特定することが可能となる。このため、本実施の形態
の被写体抽出部103は、第1の実施の形態のように、
映像信号トリミング部108で得られたトリミング画像
から主被写体領域と背景領域を分離する処理等を実行す
ることなしに、容易にトリミング領域内に存在する主被
写体を抽出することができる。
【0073】[第3の実施の形態]本発明は、例えば、図
10に示すような画像処理装置500に適用される。本
実施の形態の画像処理装置500は、上記図1に示した
画像処理装置100の構成に対して、撮像部101を設
ける代わりに、復号化部501を設ける構成としてい
る。
10に示すような画像処理装置500に適用される。本
実施の形態の画像処理装置500は、上記図1に示した
画像処理装置100の構成に対して、撮像部101を設
ける代わりに、復号化部501を設ける構成としてい
る。
【0074】尚、上記図10の画像処理装置500にお
いて、上記図1の画像処理装置100と同様に機能する
構成には同じ符号を付し、その詳細な説明は省略する。
いて、上記図1の画像処理装置100と同様に機能する
構成には同じ符号を付し、その詳細な説明は省略する。
【0075】復号化部501は、上記図9に示した画像
処理装置400の復号化部401と同様の機能を有する
ものである。したがって、本実施の形態でも第2の実施
の形態と同様に、画像処理装置500に対しては、圧縮
符号化されたパノラマ画像が入力される。
処理装置400の復号化部401と同様の機能を有する
ものである。したがって、本実施の形態でも第2の実施
の形態と同様に、画像処理装置500に対しては、圧縮
符号化されたパノラマ画像が入力される。
【0076】復号化部501の後段の映像信号再構成部
102は、復号化部501で得られた圧縮符号化前のパ
ノラマ画像で生じている歪みを補正する。これにより、
一般に処理負荷の重い圧縮符号化側は、映像信号再構成
部102での歪み補正を考慮して、その分、軽い処理で
圧縮符号化を行うことができる。
102は、復号化部501で得られた圧縮符号化前のパ
ノラマ画像で生じている歪みを補正する。これにより、
一般に処理負荷の重い圧縮符号化側は、映像信号再構成
部102での歪み補正を考慮して、その分、軽い処理で
圧縮符号化を行うことができる。
【0077】[第4の実施の形態]本発明は、例えば、図
11に示すような画像処理装置600に適用される。本
実施の形態の画像処理装置600は、上記図1に示した
画像処理装置100の構成に加え、トリミング領域要求
入力部601、操作部602、及びマイクロフォン60
3を設けた構成としている。
11に示すような画像処理装置600に適用される。本
実施の形態の画像処理装置600は、上記図1に示した
画像処理装置100の構成に加え、トリミング領域要求
入力部601、操作部602、及びマイクロフォン60
3を設けた構成としている。
【0078】尚、上記図11の画像処理装置600にお
いて、上記図1の画像処理装置100と同様に機能する
構成には同じ符号を付し、その詳細な説明は省略する。
いて、上記図1の画像処理装置100と同様に機能する
構成には同じ符号を付し、その詳細な説明は省略する。
【0079】操作部602は、ジョイスティックやマウ
ス等のマンマシンインターフェースを含み、ユーザは、
この操作部602により、意図する被写体の一部がトリ
ミング画像の表示領域内に映し出されるまで、トリミン
グ領域の移動操作が自在に可能となる。マイクロフォン
603は、ステレオマイク等の音源の位置を大まかに判
別する程度の指向性マイクや、被写体(会議に参加して
いるメンバ等)のそれぞれに設けられたピンマイク等を
含む。トリミング領域要求入力部601は、操作部60
1やマイクロフォン603等の外部機器からの入力に基
いて、該当するトリミング領域を映像信号トリミング部
108に対して指定するための情報を生成するドライバ
を含む。
ス等のマンマシンインターフェースを含み、ユーザは、
この操作部602により、意図する被写体の一部がトリ
ミング画像の表示領域内に映し出されるまで、トリミン
グ領域の移動操作が自在に可能となる。マイクロフォン
603は、ステレオマイク等の音源の位置を大まかに判
別する程度の指向性マイクや、被写体(会議に参加して
いるメンバ等)のそれぞれに設けられたピンマイク等を
含む。トリミング領域要求入力部601は、操作部60
1やマイクロフォン603等の外部機器からの入力に基
いて、該当するトリミング領域を映像信号トリミング部
108に対して指定するための情報を生成するドライバ
を含む。
【0080】例えば、操作部602において、ユーザか
らトリミング領域の移動が要求された場合、トリミング
領域要求入力部601は、当該要求を受け、映像信号ト
リミング部108に対して、ユーザがおおまかに意図す
る被写体の一部がトリミング領域内に映し出されるよう
なトリミングを指示する。
らトリミング領域の移動が要求された場合、トリミング
領域要求入力部601は、当該要求を受け、映像信号ト
リミング部108に対して、ユーザがおおまかに意図す
る被写体の一部がトリミング領域内に映し出されるよう
なトリミングを指示する。
【0081】このとき、例えば、ユーザが、上述の複数
の被写体(メンバ)から1人の特定被写体(メンバ)等
を見たい時、ユーザは、ジョイスティック等の操作部6
02により大まかに特定被写体の一部が表示部110に
映るところまで操作する。この操作に基いて、位置判定
及び領域判定が実行され、自動的に被写体が表示部11
0の中央に適切なサイズで映し出される。これをユーザ
からみて具体的に表現すると、例えば、任意の描画ツー
ルのグリッドへの吸着(グリッドへの位置合わせ)等の
ように、ある程度のところまで操作すると、自然に自動
的に最適位置に張り付くようなイメージとなる。
の被写体(メンバ)から1人の特定被写体(メンバ)等
を見たい時、ユーザは、ジョイスティック等の操作部6
02により大まかに特定被写体の一部が表示部110に
映るところまで操作する。この操作に基いて、位置判定
及び領域判定が実行され、自動的に被写体が表示部11
0の中央に適切なサイズで映し出される。これをユーザ
からみて具体的に表現すると、例えば、任意の描画ツー
ルのグリッドへの吸着(グリッドへの位置合わせ)等の
ように、ある程度のところまで操作すると、自然に自動
的に最適位置に張り付くようなイメージとなる。
【0082】また、トリミング領域要求入力部601
は、マイクロフォン603から入力された音声の強弱等
から主被写体の方向を判定し、この判定結果に基づい
て、映像信号トリミング部108に対して、主被写体が
トリミング領域内に映し出されるようなトリミングを指
示する。このときも上述したような手順により自動的に
撮影条件が最適に更新される。
は、マイクロフォン603から入力された音声の強弱等
から主被写体の方向を判定し、この判定結果に基づい
て、映像信号トリミング部108に対して、主被写体が
トリミング領域内に映し出されるようなトリミングを指
示する。このときも上述したような手順により自動的に
撮影条件が最適に更新される。
【0083】尚、本発明の目的は、第1〜第4の実施の
形態のホスト及び端末の機能を実現するソフトウェアの
プログラムコードを記憶した記憶媒体を、システム或い
は装置に供給し、そのシステム或いは装置のコンピュー
タ(又はCPUやMPU)が記憶媒体に格納されたプロ
グラムコードを読みだして実行することによっても、達
成されることは言うまでもない。この場合、記憶媒体か
ら読み出されたプログラムコード自体が第1〜第4の実
施の形態の機能を実現することとなり、そのプログラム
コードを記憶した記憶媒体及び当該プログラムコードは
本発明を構成することとなる。プログラムコードを供給
するための記憶媒体としては、ROM、フレキシブルデ
ィスク、ハードディスク、光ディスク、光磁気ディス
ク、CD−ROM、CD−R、磁気テープ、不揮発性の
メモリカード等を用いることができる。また、コンピュ
ータが読みだしたプログラムコードを実行することによ
り、第1〜第4の実施の形態の機能が実現されるだけで
なく、そのプログラムコードの指示に基づき、コンピュ
ータ上で稼動しているOS等が実際の処理の一部又は全
部を行い、その処理によって第1〜第4の実施の形態の
機能が実現される場合も含まれることは言うまでもな
い。さらに、記憶媒体から読み出されたプログラムコー
ドが、コンピュータに挿入された拡張機能ボードやコン
ピュータに接続された機能拡張ユニットに備わるメモリ
に書き込まれた後、そのプログラムコードの指示に基づ
き、その機能拡張ボードや機能拡張ユニットに備わるC
PUなどが実際の処理の一部又は全部を行い、その処理
によって第1〜第4の実施の形態の機能が実現される場
合も含まれることは言うまでもない。
形態のホスト及び端末の機能を実現するソフトウェアの
プログラムコードを記憶した記憶媒体を、システム或い
は装置に供給し、そのシステム或いは装置のコンピュー
タ(又はCPUやMPU)が記憶媒体に格納されたプロ
グラムコードを読みだして実行することによっても、達
成されることは言うまでもない。この場合、記憶媒体か
ら読み出されたプログラムコード自体が第1〜第4の実
施の形態の機能を実現することとなり、そのプログラム
コードを記憶した記憶媒体及び当該プログラムコードは
本発明を構成することとなる。プログラムコードを供給
するための記憶媒体としては、ROM、フレキシブルデ
ィスク、ハードディスク、光ディスク、光磁気ディス
ク、CD−ROM、CD−R、磁気テープ、不揮発性の
メモリカード等を用いることができる。また、コンピュ
ータが読みだしたプログラムコードを実行することによ
り、第1〜第4の実施の形態の機能が実現されるだけで
なく、そのプログラムコードの指示に基づき、コンピュ
ータ上で稼動しているOS等が実際の処理の一部又は全
部を行い、その処理によって第1〜第4の実施の形態の
機能が実現される場合も含まれることは言うまでもな
い。さらに、記憶媒体から読み出されたプログラムコー
ドが、コンピュータに挿入された拡張機能ボードやコン
ピュータに接続された機能拡張ユニットに備わるメモリ
に書き込まれた後、そのプログラムコードの指示に基づ
き、その機能拡張ボードや機能拡張ユニットに備わるC
PUなどが実際の処理の一部又は全部を行い、その処理
によって第1〜第4の実施の形態の機能が実現される場
合も含まれることは言うまでもない。
【0084】図12は、上記コンピュータの機能700
を示したものである。コンピュータ機能700は、上記
図12に示すように、CPU701と、ROM702
と、RAM703と、キーボード(KB)709のキー
ボードコントローラ(KBC)705と、表示部として
のCRTディスプレイ(CRT)710のCRTコント
ローラ(CRTC)706と、ハードディスク(HD)
711及びフレキシブルディスク(FD)712のディ
スクコントローラ(DKC)707と、ネットワーク7
20との接続のためのネットワークインターフェースコ
ントローラ(NIC)708とが、システムバス704
を介して互いに通信可能に接続された構成としている。
を示したものである。コンピュータ機能700は、上記
図12に示すように、CPU701と、ROM702
と、RAM703と、キーボード(KB)709のキー
ボードコントローラ(KBC)705と、表示部として
のCRTディスプレイ(CRT)710のCRTコント
ローラ(CRTC)706と、ハードディスク(HD)
711及びフレキシブルディスク(FD)712のディ
スクコントローラ(DKC)707と、ネットワーク7
20との接続のためのネットワークインターフェースコ
ントローラ(NIC)708とが、システムバス704
を介して互いに通信可能に接続された構成としている。
【0085】CPU701は、ROM702或いはHD
711に記憶されたソフトウェア、或いはFD712よ
り供給されるソフトウェアを実行することで、システム
バス704に接続された各構成部を総括的に制御する。
すなわち、CPU701は、所定の処理シーケンスに従
った処理プログラムを、ROM702、或いはHD71
1、或いはFD712から読み出して実行することで、
第1〜第4の実施の形態での動作を実現するための制御
を行う。
711に記憶されたソフトウェア、或いはFD712よ
り供給されるソフトウェアを実行することで、システム
バス704に接続された各構成部を総括的に制御する。
すなわち、CPU701は、所定の処理シーケンスに従
った処理プログラムを、ROM702、或いはHD71
1、或いはFD712から読み出して実行することで、
第1〜第4の実施の形態での動作を実現するための制御
を行う。
【0086】RAM703は、CPU701の主メモリ
或いはワークエリア等として機能する。KBC705
は、KB709や図示していないポインティングデバイ
ス等からの指示入力を制御する。CRTC706は、C
RT710の表示を制御する。DKC707は、ブート
プログラム、種々のアプリケーション、編集ファイル、
ユーザファイル、ネットワーク管理プログラム、及び本
実施の形態における所定の処理プログラム等を記憶する
HD711及びFD712とのアクセスを制御する。N
IC708は、ネットワーク720上の装置或いはシス
テムと双方向にデータをやりとりする。
或いはワークエリア等として機能する。KBC705
は、KB709や図示していないポインティングデバイ
ス等からの指示入力を制御する。CRTC706は、C
RT710の表示を制御する。DKC707は、ブート
プログラム、種々のアプリケーション、編集ファイル、
ユーザファイル、ネットワーク管理プログラム、及び本
実施の形態における所定の処理プログラム等を記憶する
HD711及びFD712とのアクセスを制御する。N
IC708は、ネットワーク720上の装置或いはシス
テムと双方向にデータをやりとりする。
【0087】
【発明の効果】以上説明したように本発明では、動画像
(複数の被写体を撮影して得られた動画像等)の一部を
トリミングして出力(表示出力等)する際に、トリミン
グ領域内の特定領域(複数の被写体の中の注目する被写
体の領域等)に基づいて、トリミング動作を制御するよ
うに構成した。これにより、トリミング領域内における
特定領域の位置やサイズ等を常に適切な状態とすること
ができる。
(複数の被写体を撮影して得られた動画像等)の一部を
トリミングして出力(表示出力等)する際に、トリミン
グ領域内の特定領域(複数の被写体の中の注目する被写
体の領域等)に基づいて、トリミング動作を制御するよ
うに構成した。これにより、トリミング領域内における
特定領域の位置やサイズ等を常に適切な状態とすること
ができる。
【0088】具体的には例えば、空間上の様々な位置に
存在する複数の被写体を撮影(遠隔会議システムにおけ
る会議室での撮影等)して得られた動画像の一部を切り
出して表示する場合、当該切出領域(トリミング領域)
から、注目する被写体(会議参加者の中の発言者等)の
領域を特定領域として抽出し、当該特定領域のトリミン
グ領域における位置や大きさを判定し、当該判定結果に
基づいてトリミング動作を制御することができる。これ
により、常に安定して、注目する被写体をトリミング表
示することができる。また、外部操作や音声を利用し
て、注目する被写体の位置指定等を行えるように構成し
た場合、ユーザの操作性の向上や、完全自動化等が可能
となる。
存在する複数の被写体を撮影(遠隔会議システムにおけ
る会議室での撮影等)して得られた動画像の一部を切り
出して表示する場合、当該切出領域(トリミング領域)
から、注目する被写体(会議参加者の中の発言者等)の
領域を特定領域として抽出し、当該特定領域のトリミン
グ領域における位置や大きさを判定し、当該判定結果に
基づいてトリミング動作を制御することができる。これ
により、常に安定して、注目する被写体をトリミング表
示することができる。また、外部操作や音声を利用し
て、注目する被写体の位置指定等を行えるように構成し
た場合、ユーザの操作性の向上や、完全自動化等が可能
となる。
【図1】第1の実施の形態において、本発明を適用した
画像処理装置の構成を示すブロック図である。
画像処理装置の構成を示すブロック図である。
【図2】上記画像処理装置の被写体抽出部の処理を説明
するための図である。
するための図である。
【図3】上記被写体抽出部の他の処理方法を説明するた
めの図である。
めの図である。
【図4】上記画像処理装置の被写体位置判定部による主
被写体の調整(移動)を説明するための図である。
被写体の調整(移動)を説明するための図である。
【図5】上記被写体位置判定部の処理を説明するための
図である。
図である。
【図6】上記被写体位置判定部の処理を説明するための
フローチャートである。
フローチャートである。
【図7】上記画像処理装置の被写体領域判定部で処理対
象となる映像の一例を説明するための図である。
象となる映像の一例を説明するための図である。
【図8】上記画像処理装置の被写体領域判定部の処理を
説明するための図である。
説明するための図である。
【図9】第2の実施の形態において、本発明を適用した
画像処理装置の構成を示すブロック図である。
画像処理装置の構成を示すブロック図である。
【図10】第3の実施の形態において、本発明を適用し
た画像処理装置の構成を示すブロック図である。
た画像処理装置の構成を示すブロック図である。
【図11】第4の実施の形態において、本発明を適用し
た画像処理装置の構成を示すブロック図である。
た画像処理装置の構成を示すブロック図である。
【図12】上記画像処理装置の機能をコンピュータに実
現させるためのプログラムをコンピュータ読出可能な記
憶媒体から読み出して実行する当該コンピュータの構成
を示すブロック図である。
現させるためのプログラムをコンピュータ読出可能な記
憶媒体から読み出して実行する当該コンピュータの構成
を示すブロック図である。
【図13】遠隔会議システムを説明するための図であ
る。
る。
【図14】上記遠隔会議システムに用いられるビデオカ
メラを説明するための図である。
メラを説明するための図である。
【図15】上記遠隔会議システムのモニタの表示状態を
説明するための図である。
説明するための図である。
【図16】上記モニタでの表示のための従来技術による
問題点(主被写体が大きく表示された状態)を説明する
ための図である。
問題点(主被写体が大きく表示された状態)を説明する
ための図である。
【図17】上記モニタでの表示のための従来技術による
問題点(主被写体が小さく表示された状態)を説明する
ための図である。
問題点(主被写体が小さく表示された状態)を説明する
ための図である。
【図18】上記モニタでの表示のための従来技術による
問題点(主被写体がトリミング領域に収まっていない状
態)を説明するための図である。
問題点(主被写体がトリミング領域に収まっていない状
態)を説明するための図である。
100 画像処理装置
101 撮像部
102 映像信号再構成部
103 被写体抽出部
104 制御情報生成部
105 被写体位置判定部
106 被写体領域判定部
フロントページの続き
Fターム(参考) 5C022 AA12 AB63 AB66 AB68 AC71
AC72
5C054 AA05 CA04 CC03 CE16 CF06
CF07 CG06 CH03 DA09 EA01
EG01 FA09 FC12 FD02 FF02
HA25
5C064 AA02 AC03 AC04 AC06 AC08
AC12 AD02 AD08 AD14
5L096 AA06 CA02 FA06 GA08 HA03
Claims (27)
- 【請求項1】 動画像の一部をトリミングして出力する
画像処理装置であって、 上記トリミング領域内の特定領域に基づいて、上記トリ
ミング動作を制御する制御手段を備えることを特徴とす
る画像処理装置。 - 【請求項2】 上記制御手段は、上記動画像でトリミン
グする領域を変更する制御を行なうことを特徴とする請
求項1記載の画像処理装置。 - 【請求項3】 上記制御手段は、上記トリミング領域に
おける上記特定領域の位置及びサイズの少なくとも何れ
かを変更する制御を行なうことを特徴とする請求項1記
載の画像処理装置。 - 【請求項4】 上記制御手段は、上記特定領域の上記ト
リミング領域における位置及びサイズの少なくとも何れ
かに基づいて、上記トリミング動作を制御することを特
徴とする請求項1記載の画像処理装置。 - 【請求項5】 上記特定領域は、被写体を撮影して得ら
れた上記動画像中に存在する当該被写体領域を含むこと
を特徴とする請求項1記載の画像処理装置。 - 【請求項6】 上記特定領域は、複数の被写体を撮影し
て得られた上記動画像中に存在する任意の被写体領域を
含むことを特徴とする請求項1記載の画像処理装置。 - 【請求項7】 上記動画像は、魚眼レンズを搭載した光
学系を有する撮像手段、又は全方向撮像可能な光学系を
有する撮像手段により被写体を撮影して得られた動画像
を含むことを特徴とする請求項1記載の画像処理装置。 - 【請求項8】 上記動画像の信号は、所定の圧縮符号化
方式により圧縮符号化された信号を含み、 上記圧縮符号化された動画像信号を復号化する復号手段
を備えることを特徴とする請求項1記載の画像処理装
置。 - 【請求項9】 上記所定の圧縮符号化方式は、画像中に
存在するオブジェクトをオブジェクト毎に圧縮符号化す
る方式を含むことを特徴とする請求項8記載の画像処理
装置。 - 【請求項10】 上記オブジェクト領域は、動画像の一
部をトリミングした領域内の特定領域を含むことを特徴
とする請求項9記載の画像処理装置。 - 【請求項11】 上記制御手段は、外部指示に基づい
て、上記トリミング動作を制御することを特徴とする請
求項1記載の画像処理装置。 - 【請求項12】 複数の機器が互いに通信可能に接続さ
れてなる画像処理システムであって、 上記複数の機器のうち少なくとも1つの機器は、請求項
1〜11の何れかに記載の画像処理装置の機能を有する
ことを特徴とする画像処理システム。 - 【請求項13】 動画像の一部をトリミングして出力す
るための画像処理方法であって、 上記トリミング領域内の特定領域に基づいて、上記トリ
ミング動作を制御する制御ステップを含むことを特徴と
する画像処理方法。 - 【請求項14】 動画像の一部を切り出して出力するた
めの画像処理方法であって、 上記動画像信号を入力する入力ステップと、 上記入力ステップにより入力された動画像信号の一部を
切り出すトリミングステップと、 上記トリミングステップにより得られた切出領域の動画
像信号から特定領域を抽出する領域抽出ステップと、 上記領域抽出ステップにより抽出された特定領域に基づ
いて、上記トリミングステップにおける切出領域を修正
するための制御情報を生成する制御情報生成ステップと
を含み、 上記トリミングステップは、上記制御情報生成ステップ
により得られた制御情報に基づいて、上記切出領域を修
正するステップを含むことを特徴とする画像処理方法。 - 【請求項15】 上記入力ステップは、被写体を撮影し
て得られた動画像信号を入力するステップ、又は魚眼レ
ンズを搭載した光学系を有する撮像手段により被写体を
撮影して得られた動画像信号を入力するステップ、又は
全方位撮像可能な光学系を有する撮像手段により被写体
を撮影して得られた動画像信号を入力するステップを含
むことを特徴とする請求項14記載の画像処理方法。 - 【請求項16】 上記領域抽出ステップは、上記切出領
域内に存在する任意の被写体領域を上記特定領域として
抽出するステップを含むことを特徴とする請求項14記
載の画像処理方法。 - 【請求項17】 上記制御情報生成ステップは、上記特
定領域を構成する各画素が上記切出領域に含まれる又は
接するか否かに基づいて、上記制御情報を生成するステ
ップを含むことを特徴とする請求項14記載の画像処理
方法。 - 【請求項18】 上記制御情報生成ステップは、上記特
定領域が上記切出領域中の所定の位置及び所定のサイズ
で含まれるように上記切出領域を修正するための制御情
報を生成するステップを含むことを特徴とする請求項1
4記載の画像処理方法。 - 【請求項19】 上記制御情報生成ステップは、上記動
画像信号を撮影動作により取得する際のパン、チルト、
及びズームの少なくとも何れかを制御して上記切出領域
を修正するための制御情報を生成するステップを含むこ
とを特徴とする請求項14記載の画像処理方法。 - 【請求項20】 上記入力ステップは、撮影して得られ
た動画像信号がオブジェクト毎に圧縮符号化され伝送さ
れた信号を入力するステップと、当該ステップにより入
力された信号を復号化するステップとを含み、 上記トリミングステップは、上記復号化後の動画像信号
の一部を切り出すステップを含むことを特徴とする請求
項14記載の画像処理方法。 - 【請求項21】 上記制御情報生成ステップは、外部か
らの要求に基づいて、上記制御情報を生成するステップ
を含むことを特徴とする請求項14記載の画像処理方
法。 - 【請求項22】 上記外部からの要求は、動画像から切
り出された領域の画像を確認しながら人為的に当該領域
の更新を指示することによる要求、及び音声の入力元に
基いて当該領域内の特定領域の空間上の座標位置を決定
して当該領域の更新を指示することによる要求の少なく
とも何れかを含むことを特徴とする請求項21記載の画
像処理方法。 - 【請求項23】 上記入力ステップは、撮影して得られ
た動画像信号がオブジェクト毎に圧縮符号化され伝送さ
れた信号を入力するステップと、当該ステップにより入
力された信号を復号化するステップとを含み、 上記トリミングステップは、上記復号化後の動画像信号
の一部を切り出すステップを含み、 上記領域抽出ステップは、上記トリミングステップによ
り得られた切出領域に含まれる任意のオブジェクト領域
を上記特定領域を抽出するステップを含むことを特徴と
する請求項14記載の画像処理方法。 - 【請求項24】 請求項1〜11の何れかに記載の画像
処理装置の機能、又は請求項12記載の画像処理システ
ムの機能をコンピュータに実現させるためのプログラム
を記録したコンピュータ読出可能な記憶媒体。 - 【請求項25】 請求項13〜23の何れかに記載の画
像処理方法の処理ステップをコンピュータに実行させる
ためのプログラムを記録したコンピュータ読取可能な記
憶媒体。 - 【請求項26】 請求項1〜11の何れかに記載の画像
処理装置の機能、又は請求項12記載の画像処理システ
ムの機能をコンピュータに実現させるためのプログラ
ム。 - 【請求項27】 請求項13〜23の何れかに記載の画
像処理方法の処理ステップをコンピュータに実行させる
ためのプログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2001302969A JP2003111041A (ja) | 2001-09-28 | 2001-09-28 | 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2001302969A JP2003111041A (ja) | 2001-09-28 | 2001-09-28 | 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2003111041A true JP2003111041A (ja) | 2003-04-11 |
Family
ID=19123124
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2001302969A Pending JP2003111041A (ja) | 2001-09-28 | 2001-09-28 | 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2003111041A (ja) |
Cited By (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005136669A (ja) * | 2003-10-30 | 2005-05-26 | Victor Co Of Japan Ltd | 撮像装置 |
| JP2006279894A (ja) * | 2005-03-30 | 2006-10-12 | Casio Comput Co Ltd | 画像処理装置、画像処理方法、及びプログラム |
| JP2007208849A (ja) * | 2006-02-03 | 2007-08-16 | Casio Comput Co Ltd | 動画再生装置及びそのプログラム |
| JP2007288354A (ja) * | 2006-04-13 | 2007-11-01 | Opt Kk | カメラ装置、画像処理装置および画像処理方法 |
| JP2008028778A (ja) * | 2006-07-21 | 2008-02-07 | Sony Corp | 画像処理装置、画像処理方法及びそのプログラム |
| JP2008085524A (ja) * | 2006-09-27 | 2008-04-10 | Olympus Imaging Corp | 撮像装置 |
| JP2009071808A (ja) * | 2007-08-22 | 2009-04-02 | Canon Inc | 撮像装置およびズーム制御方法 |
| JP2010034812A (ja) * | 2008-07-29 | 2010-02-12 | National Institute Of Advanced Industrial & Technology | 全周映像のための表示技術 |
| JP2012528506A (ja) * | 2009-05-29 | 2012-11-12 | デジタルオプティックス・コーポレイション・ヨーロッパ・リミテッド | 背景から前景の頭頂部を分離するための方法および装置 |
| JP2014003357A (ja) * | 2012-06-15 | 2014-01-09 | National Institute Of Advanced Industrial & Technology | 映像処理装置及び映像処理方法 |
| US8971628B2 (en) | 2010-07-26 | 2015-03-03 | Fotonation Limited | Face detection using division-generated haar-like features for illumination invariance |
| JP2017022661A (ja) * | 2015-07-14 | 2017-01-26 | 株式会社リコー | 情報処理装置、情報処理方法、および情報処理プログラム |
| WO2019124055A1 (ja) * | 2017-12-18 | 2019-06-27 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
| JP2019110525A (ja) * | 2017-12-18 | 2019-07-04 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
-
2001
- 2001-09-28 JP JP2001302969A patent/JP2003111041A/ja active Pending
Cited By (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005136669A (ja) * | 2003-10-30 | 2005-05-26 | Victor Co Of Japan Ltd | 撮像装置 |
| JP2006279894A (ja) * | 2005-03-30 | 2006-10-12 | Casio Comput Co Ltd | 画像処理装置、画像処理方法、及びプログラム |
| JP2007208849A (ja) * | 2006-02-03 | 2007-08-16 | Casio Comput Co Ltd | 動画再生装置及びそのプログラム |
| JP2007288354A (ja) * | 2006-04-13 | 2007-11-01 | Opt Kk | カメラ装置、画像処理装置および画像処理方法 |
| JP2008028778A (ja) * | 2006-07-21 | 2008-02-07 | Sony Corp | 画像処理装置、画像処理方法及びそのプログラム |
| JP2008085524A (ja) * | 2006-09-27 | 2008-04-10 | Olympus Imaging Corp | 撮像装置 |
| JP2009071808A (ja) * | 2007-08-22 | 2009-04-02 | Canon Inc | 撮像装置およびズーム制御方法 |
| JP2010034812A (ja) * | 2008-07-29 | 2010-02-12 | National Institute Of Advanced Industrial & Technology | 全周映像のための表示技術 |
| JP2012528506A (ja) * | 2009-05-29 | 2012-11-12 | デジタルオプティックス・コーポレイション・ヨーロッパ・リミテッド | 背景から前景の頭頂部を分離するための方法および装置 |
| US8633999B2 (en) | 2009-05-29 | 2014-01-21 | DigitalOptics Corporation Europe Limited | Methods and apparatuses for foreground, top-of-the-head separation from background |
| US8971628B2 (en) | 2010-07-26 | 2015-03-03 | Fotonation Limited | Face detection using division-generated haar-like features for illumination invariance |
| US8977056B2 (en) | 2010-07-26 | 2015-03-10 | Fotonation Limited | Face detection using division-generated Haar-like features for illumination invariance |
| JP2014003357A (ja) * | 2012-06-15 | 2014-01-09 | National Institute Of Advanced Industrial & Technology | 映像処理装置及び映像処理方法 |
| JP2017022661A (ja) * | 2015-07-14 | 2017-01-26 | 株式会社リコー | 情報処理装置、情報処理方法、および情報処理プログラム |
| WO2019124055A1 (ja) * | 2017-12-18 | 2019-06-27 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
| JP2019110525A (ja) * | 2017-12-18 | 2019-07-04 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
| US11303802B2 (en) | 2017-12-18 | 2022-04-12 | Canon Kabushiki Kaisha | Image capturing apparatus, control method therefor, and storage medium |
| JP7403218B2 (ja) | 2017-12-18 | 2023-12-22 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11736801B2 (en) | Merging webcam signals from multiple cameras | |
| JP4153146B2 (ja) | カメラアレイの画像制御方法、及びカメラアレイ | |
| US20100118112A1 (en) | Group table top videoconferencing device | |
| JP7424076B2 (ja) | 画像処理装置、画像処理システム、撮像装置、画像処理方法およびプログラム | |
| JP2003111041A (ja) | 画像処理装置、画像処理システム、画像処理方法、記憶媒体、及びプログラム | |
| JP2020204874A (ja) | 画像処理システム、撮像システム、画像処理装置、撮像装置およびプログラム | |
| WO2008010345A1 (en) | Panorama image photographing system and panorama image photographing method | |
| JP2002112215A (ja) | テレビ会議システム | |
| CN106470313B (zh) | 影像产生系统及影像产生方法 | |
| JP4451892B2 (ja) | 映像再生装置、映像再生方法、及び映像再生プログラム | |
| US7643064B1 (en) | Predictive video device system | |
| JP4373645B2 (ja) | 映像配信システム、プログラム及び記録媒体 | |
| JP6004978B2 (ja) | 被写体画像抽出装置および被写体画像抽出・合成装置 | |
| CN115315939B (zh) | 信息处理装置、信息处理方法和程序产品 | |
| JP2013016933A (ja) | 端末装置、撮像方法およびプログラム | |
| JP2003069990A (ja) | 遠隔映像認識システム | |
| EP4354383A1 (en) | Image processing apparatus, image processing system, imaging apparatus, image processing method | |
| JP3954439B2 (ja) | 映像記録システム、プログラム及び記録媒体 | |
| US11825191B2 (en) | Method for assisting the acquisition of media content at a scene | |
| KR102357262B1 (ko) | 통신 장치 및 그 영상통화 방법 | |
| JP2019096926A (ja) | 画像処理装置、画像処理方法およびプログラム | |
| US20260129303A1 (en) | Merging webcam signals from multiple cameras | |
| JP2002262138A (ja) | 撮像システム、テレビ会議システム、監視システムおよび撮像機能を有した情報端末機器 | |
| JP2004193661A (ja) | 双方向コミュニケーションシステム,映像通信装置,および映像通信装置の撮影処理制御方法 | |
| JP2002152719A (ja) | 曲面像を利用したモニタ方法及びモニタ装置 |