(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023156211
(43)【公開日】2023-10-24
(54)【発明の名称】テレビドアホン
(51)【国際特許分類】
H04N 23/741 20230101AFI20231017BHJP
H04N 7/18 20060101ALI20231017BHJP
H04N 23/60 20230101ALI20231017BHJP
H04N 23/71 20230101ALI20231017BHJP
H04N 23/611 20230101ALI20231017BHJP
G03B 15/00 20210101ALI20231017BHJP
G03B 7/093 20210101ALI20231017BHJP
【FI】
H04N5/235 500
H04N7/18 H
H04N5/232 290
H04N5/235 100
H04N5/232 190
G03B15/00 H
G03B15/00 Q
G03B7/093
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022065956
(22)【出願日】2022-04-12
(71)【出願人】
【識別番号】501009849
【氏名又は名称】株式会社日立エルジーデータストレージ
(74)【代理人】
【識別番号】110001689
【氏名又は名称】青稜弁理士法人
(72)【発明者】
【氏名】春名 史雄
【テーマコード(参考)】
2H002
5C054
5C122
【Fターム(参考)】
2H002CC01
2H002DB25
2H002FB23
2H002GA04
2H002GA51
5C054CA04
5C054CC02
5C054EH01
5C054FC12
5C054HA22
5C122DA03
5C122DA18
5C122EA20
5C122EA47
5C122EA56
5C122FF19
5C122FF23
5C122FF26
5C122FH10
5C122FH14
5C122FH18
5C122FH24
5C122FK23
5C122FK24
5C122FK41
5C122GA24
5C122GA31
5C122HB01
5C122HB05
5C122HB06
(57)【要約】
【課題】簡易な構成で逆光状態でも視認しやすい映像を画面に表示できるテレビドアホンを提供する。
【解決手段】テレビドアホンは、画像撮像装置と画像表示装置とを含む。画像撮像装置は、来訪者を撮影する撮像部と、撮像部で撮影した映像を処理する第1映像制御部と、を有する。画像表示装置は、映像制御部から送られる映像を取得する第2映像制御部と、第2映像制御部の映像出力を表示する表示部と、を有する。第1映像制御部は、来訪者が居ないときには撮像部により背景画像に適した露光で撮影した背景映像を記録し、且つ来訪者が来たときには撮像部により来訪者に適した露光で来訪者を撮影しつつ当該撮影した映像から来訪者のみを抽出し、抽出した来訪者の映像と記録した背景映像を合成して第2映像制御部へ当該合成映像を出力するように構成されている。
【選択図】
図3
【特許請求の範囲】
【請求項1】
来訪者の映像を取得する画像撮像装置と前記画像撮像装置から取得する映像を表示する画像表示装置とを有するテレビドアホンであって、
前記画像撮像装置は、
前記来訪者を撮影する撮像部と、
前記撮像部で撮影した映像を処理する第1映像制御部と、
を有し、
前記画像表示装置は、
前記第1映像制御部から送られる映像を取得する第2映像制御部と、
前記第2映像制御部の映像出力を表示する表示部と、
を有し、
前記第1映像制御部は、
前記来訪者が居ないときには、前記撮像部により背景画像に適した露光で撮影した背景映像を記録し、
且つ前記来訪者が来たときには、前記撮像部により前記来訪者に適した露光で前記来訪者を撮影しつつ当該撮影した映像から前記来訪者のみを抽出し、
前記抽出した前記来訪者の映像と前記記録した背景映像とを合成して前記第2映像制御部へ合成映像を出力する、
ように構成された、
テレビドアホン。
【請求項2】
請求項1に記載のテレビドアホンにおいて、
前記画像撮像装置は、映像を格納可能な記憶部を有し、
前記第1映像制御部は、前記背景映像を前記記憶部に記録する、
ように構成された、
テレビドアホン。
【請求項3】
請求項1に記載のテレビドアホンにおいて、
前記第1映像制御部は、前記背景映像を記録する間隔を任意に調整できる、
ように構成されたテレビドアホン。
【請求項4】
請求項1に記載のテレビドアホンにおいて、
前記第1映像制御部は、
前記来訪者が居ないときには、前記背景画像に適した露光で撮影するために撮影画面全体で測光し、且つ測光領域で撮影した映像のヒストグラムが均等になるように前記撮像部の露光を制御する、
ように構成されたテレビドアホン。
【請求項5】
請求項1に記載のテレビドアホンにおいて、
前記第1映像制御部は、
前記来訪者が来たときには、前記来訪者に適した露光で撮影するために前記来訪者の顔領域で測光し、且つ測光領域で撮影した映像のヒストグラムが均等になるように前記撮像部の露光を制御する、
ように構成されたテレビドアホン。
【請求項6】
請求項1に記載のテレビドアホンにおいて、
前記第1映像制御部は、
前記撮像部により前記背景映像を撮影するときの露光値及び前記来訪者を撮影するときの露光値のそれぞれを、撮影する時刻に応じた最適な露光値に予め設定する、
ように構成されたテレビドアホン。
【請求項7】
請求項6に記載のテレビドアホンにおいて、
前記第1映像制御部は、前記撮影する時刻に応じた最適な露光値を学習して記録する、
ように構成された、
テレビドアホン。
【請求項8】
請求項1に記載のテレビドアホンにおいて、
前記第1映像制御部は、
予め設定される露光値を調整すること及び調整後においては調整後の露光値を必要な場合に更に調整することによって前記撮像部により前記背景画像に適した露光で前記背景映像を撮影し、
予め設定される露光値を調整すること及び調整後においては調整後の露光値を必要な場合に更に調整することによって前記撮像部により前記来訪者に適した露光で前記来訪者を撮影する、
ように構成され、
更に、前記第1映像制御部は、
複数の特定の時刻の何れかの時刻になったら前記撮像部により前記背景映像を撮影するときの前記予め設定される露光値及び前記来訪者を撮影するときの前記予め設定される露光値のそれぞれを、前記特定の時刻に対応する露光値に改めて設定する、
ように構成された、
テレビドアホン。
【請求項9】
請求項8に記載のテレビドアホンにおいて、
前記第1映像制御部は、前記複数の特定の時刻のそれぞれを、1年を複数の期間に分割した場合の各期間に応じた時刻に設定する、
ように構成された、
テレビドアホン。
【請求項10】
請求項1に記載のテレビドアホンにおいて、
前記第1映像制御部は、
前記背景画像の前記来訪者以外に変化した差異領域を当該撮影した映像から抽出し、
前記抽出した差異領域及び前記来訪者の映像と前記記録した背景映像とを合成して前記第2映像制御部へ当該合成映像を出力する、
ように構成された、
テレビドアホン。
【請求項11】
請求項1に記載のテレビドアホンにおいて、
前記第1映像制御部は、
前記背景画像の前記来訪者以外に変化した差異領域に適した露光で撮影しつつ当該撮影した映像から当該差異領域のみを抽出し、
前記抽出した差異領域及び前記来訪者の映像と前記記録した背景映像とを合成して前記第2映像制御部へ当該合成映像を出力する、
ように構成された、
テレビドアホン。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、テレビドアホンに関し、詳しくはテレビドアホンの画面に表示される映像の視認性を向上させるテレビドアホンに関する。
【背景技術】
【0002】
近年、防犯意識の高まりで、街中での防犯カメラの設置が進んでいるだけでなく、一般家庭でも来訪者の顔が確認できるディスプレイ画面搭載のテレビドアホンが広く普及してきている。
【0003】
テレビドアホンは、屋外端末のカメラで撮影された来訪者の顔を屋内端末のディスプレイで見ながら通話できるため、利用者はドアを開けずに来訪者の素性を確認することができ、防犯的に大変優れたツールである。
【0004】
ただし、カメラで撮影した映像にはカメラ特有の弊害が生じる場合がある。たとえば、カメラで撮影している背景に太陽光が写り込んだり、あるいは背景の建造物などが太陽光で強く照らされたりする状態、いわゆる「逆光状態」にある場合、カメラの露光は背景の明るい領域に合わせて相対的に来訪者の映像は暗くなってしまう「黒つぶれ」の状態になるか、逆に来訪者の領域にカメラの露光を合わせて相対的に背景映像が明るくなりすぎる「白つぶれ」の状態になってしまう。
【0005】
本技術分野における先行技術文献として特許文献1がある。特許文献1には、露光時間の異なる少なくとも2つの映像を撮影し、異なる露光時間で撮影した背景部分と来訪者部分を合成して視認性を向上させることが記載されている。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1ではリアルタイムで露光時間を少なくとも2回切り替えながら撮影し、それを合成する必要があることから、1コマの映像を作るのに通常の2倍の時間が掛かるためにフレームレートが低下するという課題が考えられる。また、リアルタイムで露光時間を交互に切り替えることができるカメラやそれを受信して処理できるCPU(Central Processing Unit)やSoC(System on Chip)は比較的高価であり、安価なカメラやCPU、SoCが使えないという課題もある。
【0008】
本発明は上記課題に鑑みなされた。即ち、本発明の目的の一つは、簡易な構成で逆光状態でも視認しやすい映像を画面に表示できるテレビドアホンを提供することである。
【課題を解決するための手段】
【0009】
本発明のテレビドアホンは、来訪者の映像を取得する画像撮像装置と前記画像撮像装置から取得する映像を表示する画像表示装置とを有するテレビドアホンであって、前記画像撮像装置は、前記来訪者を撮影する撮像部と、前記撮像部で撮影した映像を処理する第1映像制御部と、を有し、前記画像表示装置は、前記第1映像制御部から送られる映像を取得する第2映像制御部と、前記第2映像制御部の映像出力を表示する表示部と、を有し、前記第1映像制御部は、前記来訪者が居ないときには、前記撮像部により背景画像に適した露光で撮影した背景映像を記録し、且つ前記来訪者が来たときには、前記撮像部により前記来訪者に適した露光で前記来訪者を撮影しつつ当該撮影した映像から前記来訪者のみを抽出し、前記抽出した前記来訪者の映像と前記記録した背景映像とを合成して前記第2映像制御部へ合成映像を出力する、ように構成されている。
【発明の効果】
【0010】
本発明によれば、簡易な構成で逆光状態でも視認しやすい映像を画面に表示できる。
【図面の簡単な説明】
【0011】
【
図1A】
図1Aは実施例1における画像撮像装置を含むシステム全体の構成を示すブロック図である。
【
図1B】
図1Bは実施例1における画像撮像装置を含むシステム全体の構成を示す他のブロック図である。
【
図2】
図2は実施例1における制御装置の機能ブロック図である。
【
図3】
図3は実施例1における制御装置の処理フローチャートである。
【
図4A】
図4Aは実施例1における全体測光領域での撮影画像の一例を示す図である。
【
図4B】
図4B実施例1における全体測光領域でのヒストグラムの一例を示す図である。
【
図5A】
図5Aは実施例1における全体測光領域での撮影画像の一例を示す図である。
【
図5B】
図5Bは実施例1における全体測光領域でのヒストグラムの一例を示す図である。
【
図6A】
図6Aは実施例1における全体測光領域での撮影画像の一例を示す図である。
【
図6B】
図6Bは実施例1における全体測光領域でのヒストグラムの一例を示す図である。
【
図7】
図7は実施例1における人物抽出画像の一例を示す図である。
【
図8】
図8は実施例1における背景画像と人物抽出画像の合成の一例を示す図である。
【
図9A】
図9Aは実施例1における全体測光領域での撮影画像の一例を示す図である。
【
図9B】
図9Bは実施例2における全体測光領域でのヒストグラムの一例を示す図である。
【
図10】
図10は実施例2における制御装置の処理フローチャートである。
【
図11】
図11は実施例2における制御装置の詳細な処理フローチャートである。
【
図12】
図12は実施例2における背景画像と人物抽出画像の合成の一例を示す図である。
【
図13】
図13は変形例における制御装置の処理フローチャートである。
【発明を実施するための形態】
【0012】
以下、本発明の実施例について、図面を用いて説明する。
【0013】
<<実施例1>>
図1Aは、本実施例における画像撮像装置1と画像表示装置2を含むテレビドアホンのシステム全体の構成を示すブロック図である。
【0014】
図1Aにおいて、本システムは画像撮像装置1と画像表示装置2で構成され、その間は映像信号、音声信号、制御信号を送受信する信号線3で接続される。画像撮像装置1は制御装置10とボタン11とカメラ12とマイク13とスピーカー14から構成される。画像表示装置2は制御装置20とボタン21とディスプレイ22とマイク23とスピーカー24から構成される。なお、制御装置10は、便宜上、「第1映像制御部」と称呼される場合がある。制御装置20は、「第2映像制御部」とも称呼される場合がある。カメラ12は、便宜上、「撮像部」とも称呼される場合がある。ディスプレイ22は、便宜上、「表示部」とも称呼される場合がある。
【0015】
図1Bはたとえば一般的な家屋でのドアホンの設置例を示しており、家屋4の室内側に画像表示装置2、屋外のドアの横などに画像撮像装置1が設置され、その間は信号線3で接続される。画像撮像装置1と画像表示装置2間の接続は有線での信号線3の例を示したが、それに限らず429MHz帯又は900MHz帯の特定小電力無線や無線LAN(Local Area Network)でもよい。また有線でも独自の複数線や有線LANであってもよい。
【0016】
画像撮像装置1と画像表示装置2の動作を説明する。制御装置10及び制御装置20は図示しないCPUやSoCなどのプロセッサ、SDRAM(Synchronous Dynamic Random Access Memory)などの揮発性メモリ、HDD(Hard Disk)やSSD(Solid State Drive)、フラッシュメモリなどの不揮発性記憶媒体などで構成されている。カメラ12は画像撮像装置1近傍に居る来訪者を撮影する撮像部であって、撮影した映像情報を制御装置10へ出力する。カメラ12はカメラセンサ部に光を当てる露光時間を調整する機能を有するものとする。明るい日中では露光時間を短く、暗い夜間では露光時間を長くするなどして撮影画像の視認性を高めるためである。マイク13は画像撮像装置1近傍に居る来訪者が発声する音声を取得する音声取得部であって、取得した音声データを制御装置10へ出力する。マイク23は画像表示装置2近傍に居る利用者が発声する音声を取得する音声取得部であって、取得した音声データを制御装置20へ出力する。マイク13及びマイク23の種類としては大型のダイナミックマイク、コンデンサマイクや、小型のMEMSマイクなどがある。スピーカー14は信号線3経由で画像表示装置2から送られる音声データを再生する。スピーカー24は信号線3経由で画像撮像装置1から送られる音声データを再生する。ディスプレイ22は信号線3経由で画像撮像装置1から送られる映像データを表示する。
【0017】
テレビドアホンの一般的な動作を説明する。家屋4へ来訪した来訪者は画像撮像装置1のボタン11を押し、家屋4内の利用者へ画像表示装置2のスピーカー24でチャイムなどの音声を再生させて来訪を知らせる。利用者は画像撮像装置1のカメラ12で撮影され、信号線3経由で画像表示装置2のディスプレイ22に表示された来訪者の映像を確認し、ボタン21を押して来訪者との通話を開始する。利用者と来訪者の通話には画像撮像装置1側はマイク13及びスピーカー14、画像表示装置2側はマイク23及びスピーカー24を利用する。利用者が来訪者の要件を確認し終えたらボタン21を再び押して通話を終了する。画像表示装置2の動作は前述のような一般的なテレビドアホンと同じであり、詳細な動作説明は省略する。
【0018】
次に
図2から
図8を用いて本実施例における画像撮像装置1の動作を詳細に説明する。
図2は制御装置10で実現する各機能をブロック図化した機能ブロック図である。ハードウェアとしては図示しない前述のCPU、揮発性メモリ、不揮発性記憶媒体などで構成され、CPUは不揮発性記憶媒体内に記憶されたプログラムを揮発性メモリに展開しながら実行する。
図3は制御装置10の処理フローチャートである。すなわち、制御装置10の処理は、不揮発性記憶媒体内に記憶されたプログラムにより実行される。制御装置10は顔検知部101、測光領域設定部102、露光時間制御部103、露光値計算部104、ヒストグラム処理部105、背景画面用メモリ部106、人物抽出部107及び人物背景合成部108で構成される。例えば、顔検知部101、測光領域設定部102、露光時間制御部103、露光値計算部104、ヒストグラム処理部105、背景画面用メモリ部106、人物抽出部107及び人物背景合成部108は、不揮発性記憶媒体(不揮発性メモリ)内に記憶されたプログラムにより構成され、背景画面用メモリ部106は、揮発性メモリ又は不揮発性記憶媒体(不揮発性メモリ)で構成される。なお、背景画面用メモリ部106は、便宜上、「記憶部」とも称呼される場合がある。
【0019】
以下、
図3のフローチャートに従い、
図2も併用して画像撮像装置1の動作を説明する。
【0020】
図3において、S101は、画像撮像装置1の電源が投入され、制御装置10とカメラ12が動作可能な状態である。
【0021】
S102は「初期露光値設定」処理である。露光時間制御部103に保存されている露光時間の初期値をカメラ12へ送信する。
【0022】
S103は「設定露光値でのカメラ撮影」判別処理である。S102で設定された初期露光値によりカメラ12で屋外を撮影する。又は後述するS108やS114で設定された露光値によりカメラ12で屋外を撮影する。
【0023】
S104は「顔検知」処理である。顔検知部101はカメラ12からの映像信号を入力し、その映像内に人間の顔が存在するか否かの判定を行う。「顔検知」のアルゴリズムは、映像内の顔と思われる物体を照合し、まゆ、目、鼻、口、輪郭などの位置関係を確認して顔か否かの判断を行う一般的なものであり、昨今のデジタルカメラなどにも備わっている機能である。顔を検出した場合はS111、検出しなかった場合はS105へ分岐する。来訪者が常に居ることは稀であり、通常は来訪者がいないためS105へ分岐することが大半である。
【0024】
S105は「全体領域で測光」処理である。
図4Aと
図4Bは「全体領域で測光」処理の具体例を示す。カメラ12で撮影する場合、映像信号のダイナミックレンジが広くなるように、明るい映像領域から暗い映像領域までが均等になるように露光時間を調整する必要がある。その際、測光領域設定部102は映像信号内の測光領域を指定する。S104で来訪者がいないと判断しているため、測光領域設定部102は
図4Aのように映像信号のほぼ全体を測光領域になるよう制御した例である。こうすることで、屋外の背景全体が均等に明るくなるように撮影できる。
【0025】
S106は「ヒストグラム」処理である。ヒストグラム処理部105はS105で設定された全体領域での測光領域内の映像データのヒストグラムを計算する。その結果が
図4Bのグラフで表される。最適な露出の場合は実線のように暗から明に映像データが均等に分布するが、点線のように映像データが明るい方に偏る露出オーバー状態や、一点鎖線のように映像データが暗い方に偏る露出アンダー状態になる場合もある。
【0026】
S107は「最適ヒストグラム」処理である。ヒストグラム処理部105はS106に続き、計算した映像データのヒストグラム分布を解析し、最適な分布か否かを判別する。例えば、ヒストグラム処理部105は、明るさの下限閾値(例えば、30%)以上上限閾値(例えば、70%)以下の範囲内の画素数が、全体の画素数に対して所定の閾値百分率(例えば、70%)以上である場合、最適な分布であると判定し、そうではない場合、最適な分布ではない(露出オーバー又は露出アンダー)であると判定する。処理は判定結果に応じて分岐し、最適な分布の場合はS108へ、最適な分布でない(露出オーバー又は露出アンダー)の場合はS109へ分岐する。
【0027】
S108は「露光時間計算/設定」処理である。露光値計算部104はヒストグラム処理部105から送られた現状の映像データのヒストグラム分布を解析し、露出オーバーなら露光時間を現状値より短く、露出アンダーなら露光時間を現状値より長く計算する。露光時間制御部103は露光値計算部104で計算された露光時間をカメラ12で受信できるフォーマットに変換し、カメラ12へ送信する。その後S103に戻り、最適なヒストグラムになるまで繰り返す。
【0028】
S109は「保存フラグ」処理である。ヒストグラム処理部105は最適なヒストグラムであると判断した場合、予め保存されているフラグデータを読み込み、これが「Hi」の場合はS110へ、「Low」の場合はなにもせずにS103へ分岐する。即ち、保存フラグは、「Hi」に設定されている場合、「背景画像メモリへ保存」処理が実行されることを示し、「Low」に設定されている場合、「背景画像メモリへ保存」処理が実行されないことを示す。このS109の効果は後述する。なお、この「保存フラグ」の設定は利用者がボタン11又は21の操作方法やマイク13又は23などでの音声操作で「Hi」「Low」を切り替えることができる。ボタンによる操作はたとえば長押しする時間やその回数などで決めればよい。または、「Hi」と「Low」を内部のタイマー機能で切り替えてもよい。「Hi」となる期間をボタン11又は21の操作で自由に設定できるようにし、例えば1秒ごとに一度だけ「Hi」にしてそれ以外は「Low」にする。
【0029】
S110は「背景画像メモリへ保存」処理である。ヒストグラム処理部105で最適なヒストグラムであると判断した場合、現状の映像信号を背景画面用メモリ部106へ保存する。たとえば
図4Aのような来訪者が写っておらず、最適なヒストグラム分布の背景画面である。背景画面用メモリ部106は揮発性メモリ又は不揮発性メモリでよい。なお、常に背景画面用メモリ部106へ映像を保存することは可能であるが、その反面、消費電力が上昇する課題がある。また不揮発性メモリへ保存する場合、不揮発性メモリの書き込み回数が有限であるため、保存する回数はできる限り少ない方がよい。そこで、S109の「保存フラグ」処理にて保存する間隔を例えば1秒ごとになるように背景画面用メモリ部106内のタイマー機能で制御し、消費電力や不揮発性メモリへの保存回数を制限することができる。これが前述していたS109の効果である。なお背景画面用メモリ部106への保存する間隔はタイマー機能で任意に設定できるものとする。
【0030】
ここまでが、S104の「顔検知」処理で来訪者がいないと判断した時のループである。次にS104の「顔検知」処理で来訪者が居たと判断した時のループを説明する。
図5A、
図5B、
図6A、
図6B、
図7、
図8はその具体例を示す。
【0031】
S111は「顔領域で測光」処理である。測光領域設定部102は映像信号内の測光領域を指定する。人物領域の映像信号のダイナミックレンジが広くなるように、人物領域の明るさが均等になるように露光時間を調整する必要がある。S104で来訪者が居ると判断しているため、測光領域設定部102は
図5Aのように映像信号の顔の部分のみを測光領域になるよう制御した例である。
【0032】
S112は「ヒストグラム」処理である。ヒストグラム処理部105はS111で設定された顔領域での測光領域内の映像データのヒストグラムを計算する。その結果の例を
図5Bに示す。
図5Bでは露出アンダー状態のヒストグラムになっており、
図5Aの映像のように人物領域が黒つぶれしている例である。
【0033】
S113は「最適ヒストグラム」処理である。ヒストグラム処理部105はS112に続き、計算した映像データのヒストグラム分布を解析し、例えば、既に述べた手法により、最適な分布か否かを判別する。最適な分布の場合はS115、最適な分布でない(露出オーバー又は露出アンダー)の場合はS114に分岐する。
【0034】
S114は「露光時間計算/設定」処理である。露光値計算部104はヒストグラム処理部105から送られた現状の映像データのヒストグラム分布を解析し、露出オーバーなら露光時間を現状値より短く、露出アンダーなら露光時間を現状値より長く計算する。露光時間制御部103は露光値計算部104で計算された露光時間をカメラ12で受信できるフォーマットに変換し、カメラ12へ送信する。その後S103に戻り、最適なヒストグラムになるまで繰り返す。
図6A、
図6Bは顔領域が最適なヒストグラムになった時の例である。
図6Bのように、顔領域は最適なヒストグラムになっている反面、
図6Aのように背景領域が白とびしている。
【0035】
S115は「人物領域抽出」処理である。上記S103からS114でヒストグラムが最適化された人物領域を人物抽出部107で映像全体から抽出する。映像から人物を抽出するアルゴリズムは一般的なものであり、昨今のテレビ会議で使用されている、人物抽出を行って背景画面を変更するような機能である。たとえば、背景差分法で入力画像と背景画像の差分を計算することで移動物体を検知し、人物を抽出する手法などである。
図7は映像全体から人物を抽出した映像の例である。
【0036】
S116は「背景画像と合成」処理である。人物背景合成部108はS115で抽出した人物画像とS110で背景画面用メモリ部106に保存されている背景画像を合成する。人物画像はS115で画像と共に全体映像内での座標も保存されており、合成する際は全体映像の中の当該座標のところに合成する。その合成結果が
図8である。
【0037】
S117は「合成映像出力」処理である。人物背景合成部108はS116で合成した映像信号を信号線3へ出力する。
【0038】
以上が画像撮像装置1の動作であり、以後、画像撮像装置1の電源が切断されるまでS103からS117までが繰り返される。
【0039】
なお、カメラで撮影する時間帯により最適な露光値は変化することが考えられる。即ち日中に比べると早朝や夕刻、夜間は暗くなるため、露光時間を長くする必要がある。したがって、時間帯により背景画像と来訪者に対応する最適な露光値を予め露光値計算部104に設定しておく、もしくは背景画像と来訪者に対応する最適な露光値を学習して露光値計算部104が記録し、時間帯ごとの初期露光値を決めておけば、S107とS113の判定によるループ回数は限りなく少なくすることが期待でき、来訪者が来た時に最適な合成映像を作成するまでの時間を短くすることが可能である。
【0040】
以上のように、本構成によれば、露光時間を背景画像と来訪者とで最適になるようリアルタイムに交互に切り替える必要はないため、フレームレートが低下することはない。また安価なカメラやCPUを使用することも可能である。
【0041】
以上説明したように、本発明の実施例1に係るテレビドアホンは、簡易な構成(安価な構成)で逆光状態でも視認しやすい映像を画面に表示できる。これにより、本発明の実施例1に係るテレビドアホンは、画面に表示する映像の視認性を向上できる。
【0042】
<<実施例2>>
本実施例では、背景に来訪者以外の物体、例えば通行人が割り込んだ場合の処理について説明する。
【0043】
図9Aから
図12を用いて本実施例における画像撮像装置1の動作を詳細に説明する。なお、本実施例における画像撮像装置1の構成は
図1、
図2と同じである。
【0044】
図9Aは背景に来訪者以外に通行人が割り込んだ場合の例である。実施例1の場合、来訪者が居る間は、背景画面用メモリ部106に保存された来訪者が来る前の背景画像が表示される。したがって、
図9Aのように来訪者が居る時に通行人が入っても、背景画像は来訪者が来る前の画像のままであり、通行人は表示されない。そこで、本実施例では来訪者が来た後でも通行人など背景画像に差異があった場合は、その差異のあった領域、例えば通行人を背景画像に来訪者と共に合成して表示するものである。また
図9Aのように測光領域を通行人に絞り、
図9Bのように最適露出になるように撮影すれば、より最適な背景画像が表示可能である。
【0045】
以下、
図10及び
図11のフローチャートに従い、
図12も併用して画像撮像装置1の本実施例での動作を説明する。
【0046】
図10において、S118以外の符号は
図3と同じ処理のため説明は省略する。
【0047】
S118は「背景画像差異」処理である。S104で来訪者を検知した後、S118の処理を追加し、通行人が合成された背景画像を背景画面用メモリ部106へ保存する。その詳細な処理内容を
図11に示す。
【0048】
S201は「背景画像差異」処理が開始された状態である。
【0049】
S202は「背景画像の差異」処理である。顔検知部101はカメラ12からの映像信号を入力し、背景画面用メモリ部106に保存された背景画面と現在の来訪者以外の背景画像を比較し、差異がなければS211へ分岐し処理は終了となる。差異があればS203へ分岐する。
【0050】
S203は「設定露光値でのカメラ撮影」処理である。S103と同様の処理で、S114や後述するS207で設定された露光値によりカメラ12で屋外を撮影する。
【0051】
S204は「差異領域で測光」処理である。
図9Aのように、測光領域設定部102はS202で検知した映像信号内の差異領域を指定する。
【0052】
S205は「ヒストグラム」処理である。S106と同様の処理で、ヒストグラム処理部105はS204で設定された差異領域での測光領域内の映像データのヒストグラムを計算する。その結果が
図9Bのグラフで表される。最適な露出の場合は実線のように暗から明に映像データが均等に分布するが、点線のように映像データが明るい方に偏る露出オーバー状態や、一点鎖線のように映像データが暗い方に偏る露出アンダー状態になる場合もある。
【0053】
S206は「最適ヒストグラム」処理である。S107と同様の処理で、ヒストグラム処理部105はS205に続き、計算した映像データのヒストグラム分布を解析し、最適な分布か否かを判別する。最適な分布の場合はS208、最適な分布でない(露出オーバー又は露出アンダー)の場合はS207に分岐する。
【0054】
S207は「露光時間計算/設定」処理である。S108と同様の処理で、露光値計算部104はヒストグラム処理部105から送られた現状の映像データのヒストグラム分布を解析し、露出オーバーなら露光時間を現状値より短く、露出アンダーなら露光時間を現状値より長く計算する。露光時間制御部103は露光値計算部104で計算された露光時間をカメラ12で受信できるフォーマットに変換し、カメラ12へ送信する。その後S203に戻り、最適なヒストグラムになるまで繰り返す。
【0055】
S208は「差異領域抽出」処理である。上記S203からS207でヒストグラムが最適化された差異領域を人物抽出部107で映像全体から抽出する。映像から差異領域を抽出するアルゴリズムは人物抽出と同様である。
【0056】
S209は「背景画像と合成」処理である。S116と同様の処理で、人物背景合成部108はS208で抽出した差異画像とS110で背景画面用メモリ部106に保存されている背景画像を合成する。差異画像はS208で画像と共に全体映像内での座標も保存されており、合成する際は全体映像の中の当該座標のところに合成する。
【0057】
S210は「背景画像メモリへ保存」処理である。S209で合成された背景画像を背景画面用メモリ部106へ保存する。これにより、背景画像は通行人が合成された映像に上書きされ、最新の背景画像となる。
【0058】
S211は「終了」処理であり、S111へ続く。S111以降は実施例1と同様なので省略する。
【0059】
以上の処理により合成された結果が
図12である。これにより、来訪者だけでなく、通行人など差異のあった背景画像も最適な露出で表示することができる。また、S202の背景画像差異処理は通行人だけではなく、差異が検出できれば車や背景家屋のドアの開閉などの画像も合成することができるため、リアルタイムで変化する背景画像を最適な露出で表示することが可能である。
【0060】
<<変形例>>
本発明は上記各実施例に限定されることなく、本発明の範囲内において種々の変形例を採用することができる。更に、上記各実施例は、本発明の範囲を逸脱しない限り、互いに組み合わせることが可能である。
【0061】
例えば、上記実施例1において、
図3のS103のカメラ撮影の露光値を特定の時刻になったら特定の時刻に対応する露光値に改めて設定する(変える)ようにしてもよい。この場合、制御装置10は、S103において、
図13にフローチャートにより示した処理を実行するようにしてもよい。S301から処理が開始される。S302にて、季節及び時刻が判定される。即ち、例えば、季節が夏、冬、秋及び春の何れの季節(1年を複数の期間に分割した場合の何れの期間)であるか否かが判定される。現在の時刻が、季節に応じた複数の特定の時刻のうちの何れの時刻であるか否かが判定される。本例において、季節が夏であり、夏に応じた複数の特定の時刻として、例えば、第1時刻(6:00)、第2時刻(10:00)、第3時刻(14:00)及び第4時刻(18:00)が設定されている。なお、季節が冬の場合、冬に応じた特定の時刻として、例えば、第1時刻(7:00)、第2時刻(10:00)、第3時刻(14:00)及び第4時刻(17:00)が設定される。同様に、季節が秋及び春の場合についても、それぞれの季節に応じた特定の時刻が設定される。
【0062】
現在の時刻が第1時刻(本例において、6:00)である場合、S303に進み、カメラ撮影の露光値が標準露光値に改めて設定され(変更され)、S307に進む。
【0063】
現在の時刻が第2時刻(本例において、10:00)である場合、S304に進み、カメラ撮影の露光値が短時間露光値に改めて設定され(変更され)、S307に進む。
【0064】
現在の時刻が第3時刻(本例において、14:00)である場合、S305に進み、カメラ撮影の露光値が標準露光値に改めて設定され(変更され)、S307に進む。
【0065】
現在の時刻が第4時刻(本例において、18:00)である場合、S306に進み、カメラ撮影の露光値が長時間露光値に改めて設定され(変更され)、S307に進む。
【0066】
現在の時刻が第1時刻乃至第4時刻以外の時刻である場合、S307に直接進み、カメラ撮影の露光値が
図3のS108又はS114で設定された露光値に設定される。
【0067】
なお、長時間露光値の露光時間は、標準露光値の露光時間より大きく(長く)、標準露光値の露光時間は、短時間露光値の露光時間より大きい(長い)。即ち、短時間露光値の露光時間<標準露光値の露光時間<長時間露光値の露光時間である。S307に進むと、設定された露光値でのカメラ撮影が行われた後、
図3のS104に進む。この変形例によれば、季節に応じた時間帯ごとの初期露光値が適切に設定されるので、
図3のS107とS113の判定によるループ回数は限りなく少なくすることができる。なお、この変形例の特徴は、実施例2に適用されてもよい。
【符号の説明】
【0068】
1…画像撮像装置、2…画像表示装置、3…信号線、4…家屋、10…制御装置、11…ボタン、12…カメラ、13…マイク、14…スピーカー、20…制御装置、21…ボタン、22…ディスプレイ、23…マイク、24…スピーカー、101…顔検知部、102…測光領域設定部、103…露光時間制御部、104…露光値計算部、105…ヒストグラム処理部、106…背景画面用メモリ部、107…人物抽出部、108…人物背景合成部