(58)【調査した分野】(Int.Cl.,DB名)
上記画像加工手段は、上記画像取得手段で得た画像中から顔認識技術により顔画像の範囲を認識し、上記形状取得手段で得た出力形状を示す情報に基づき、顔画像の範囲を含むように画像のデータを加工することを特徴とする請求項1記載の通信装置。
【発明を実施するための形態】
【0011】
以下、本発明をデジタルサイネージ方式のテレビ電話装置に適用した場合の一実施形態について、図面を参照して詳細に説明する。なお、デジタルサイネージとは、人型のスクリーンを用いたバーチャルマネキンとして、説明を行なう。
【0012】
図1は、本実施形態に係るテレビ電話装置10の外観構成を示す斜視図である。装置筐体10Aの上面前端側に、交換可能なサイネージボードSBが立設される。このサイネージボードSBは、テレビ電話装置10の本来は矩形の投影可能領域内に収まるように設置された、任意形状を有する半透過板状の構成を有する。
【0013】
このサイネージボードSBの前面下部中央に撮影部IMが設けられ、前方側の斜め上方の画像を取得する。さらに撮影部IMの下方には、一対のスピーカ部SP,SPと一対のマイクロホン部MC,MCが設けられ、ステレオ音声による受話と送話が可能となる。
【0014】
また上記装置筐体10Aの上面後端側に、ミラーMRが立設され、後述する投影レンズ部から出射した光像を前面側に全反射して、上記サイネージボードSBに結像させる。
【0015】
図2は、上記テレビ電話装置10の装置筐体10A上部に設けられた、投影光学系の構成を右側面から見た図である。
投影レンズ部11から斜め上後方に向けて出射した投影光束は、ミラーMRで前方側に反射された後にフレネルレンズシート12で水平方向の平行な光束に偏向され、半透過幕状のリヤプロジェクトスクリーン13に投影される。
【0016】
このリヤプロジェクトスクリーン13の前方側には透明ボード14が一体に形成される。上記フレネルレンズシート12、リヤプロジェクトスクリーン13、及び透明ボード14の3層が一体となって上記サイネージボードSBを構成している。
【0017】
上記
図1に示した如くサイネージボードSBが人型などの不定形である一方で、上記投影レンズ部11から出射する光像を形成するための表示素子、例えばDLP(Digital Light Processing)(登録商標)方式の投影装置であればマイクロミラー素子、は矩形の表示領域を有する。そのため、サイネージボードSB外の領域への不要な投影光の出射を抑えるために、サイネージボードSBの形状を正確に認識する必要がある。
【0018】
本実施形態では、送信する画像データを一時的に記憶しておく記憶媒体に、予め登録しておいた複数の形状タイプのいずれに相当するサイネージボードSBであるかを示す情報が合わせて記憶されており、通話相手の装置に対して、画像データとサイネージボードSBの形状タイプの情報を合わせて送信する。
【0019】
したがって、通話相手の装置で取得された画像は、相手側の装置において、送信した形状タイプの情報に基づいて加工された後に、このテレビ電話装置10に送られてくることとなり、その時点でテレビ電話装置10に装着されているサイネージボードSBの形状に合致した、受信した画像データをそのまま投影すれば良いことになる。
【0020】
図3は、後述するCPU28が、矩形の投影可能領域PA内でサイネージボードSBの形状を認識してスクリーン投影領域SAとして設定した状態を示している。
【0021】
次に
図4によりテレビ電話装置10の主として電子回路の機能構成を説明する。同図中、無線通信技術としては例えば第4世代携帯電話システムに対応するものとする。ここでは図示しない上記電話システムの基地局から、アンテナ21を介して無線通信部22が通話データを受信する。無線通信部22は、受信データを復調して画像データ、音声データ及びその他の制御データに分離する。得られた画像データはバスBを介して投影画像駆動部23に送られる。
【0022】
投影画像駆動部23は、送られてきた画像データに応じて、所定のフォーマットに従ったフレームレート、例えば120[フレーム/秒]と色成分の分割数、及び表示階調数を乗算した、より高速な時分割駆動により、表示素子であるマイクロミラー素子24を表示駆動する。
【0023】
このマイクロミラー素子24は、アレイ状に配列された複数個の微小ミラーの各傾斜角度を個々に高速でオン/オフ動作して表示動作することで、その反射光により光像を形成する。
【0024】
一方で、光源部25から時分割でR,G,Bの原色光が循環的に出射される。光源部25は、半導体発光素子であるLEDを有し、R,G,Bの原色光を時分割で繰返し出射する。光源部25が有するLEDは、広義でのLEDとして、LD(半導体レーザ)や有機EL素子を含むものとしても良い。
【0025】
また、LEDから出射された光を蛍光体に照射することで励起される、元の光とは波長が異なる原色光を用いるものとしても良い。この光源部25からの原色光が、ミラー26で全反射して上記マイクロミラー素子24に照射される。
【0026】
そして、マイクロミラー素子24での反射光で光像が形成され、形成された光像が上記投影レンズ部11を介して、ここでは図示しない上記ミラーMRで反射された後にサイネージボードSBに投射される。
【0027】
また、上記無線通信部22で復調、分離された音声データは、バスBを介して音声処理部27へ送信される。この音声処理部27は、例えばPCM音源などの音源回路を有し、送られてきた音声データに基づいてアナログの音声信号を再生して、上記スピーカ部SP,SPより放音させる。
【0028】
一方で、このテレビ電話装置10での通話時に受話器となる上記マイクロホン部MC,MCから入力されたアナログの音声信号は、上記音声処理部27によりサンプリングされ、デジタルの音声データに変換、圧縮される。当該音声データは、バスBを介して無線通信部22よりアンテナ21から通話相手先の装置に向けて送信される。
【0029】
上記各回路の動作すべてをCPU28が制御する。このCPU28は、メインメモリ29及びプログラムメモリ30と直接接続される。メインメモリ29は、例えばSRAMで構成され、CPU28のワークメモリとして機能する。プログラムメモリ30は、電気的書換可能な不揮発性メモリ、例えばフラッシュROMで構成され、CPU28が実行する動作プログラムや各種定型データ等を記憶する。
【0030】
CPU28は、上記プログラムメモリ30に記憶されている動作プログラムや定型データ等を読出し、メインメモリ29に展開して記憶させた上で当該プログラムを実行することにより、このテレビ電話装置10を統括して制御する。
【0031】
上記CPU28は、操作部31からの操作信号に応じて各種投影動作を実行する。この操作部31は、テレビ電話装置10の本体に備える、オンフックキー、オフフックキー、ダイヤルキー(テンキー、「*」キー、「♯」キー)を含むいくつかの操作キーのキー操作信号を上記CPU28へ送出する。
【0032】
上記CPU28はさらに、上記バスBを介して撮影画像処理部32、画像メモリ33と接続される。
撮影画像処理部32は、上記撮影部IMの一部を構成する撮影レンズ部34の合焦位置に配置された固体撮像素子、例えばCMOSイメージセンサ35を走査駆動して、テレビ電話装置10の前方を撮影した画像信号を得る。
【0033】
このCMOSイメージセンサ35の出力する画像信号は、A/D変換回路36でデジタル化された後に上記撮影画像処理部32に送られる。撮影画像処理部32は、得られた画像データを適宜画像メモリ33に一時的に保存し、後述する顔認識技術により画像中から人物の顔を認識してその範囲を切出すような処理を実行する。
【0034】
さらに撮影画像処理部32は、切出した顔部分を含む画像データを圧縮してファイル化した上で、バスBを介して上記無線通信部22に送る。無線通信部22では、CPU28の制御の下に、撮影画像処理部32からの画像データを音声処理部27からの音声データや制御データ等と取り纏めて、通話相手側の装置に対して送信する。
【0035】
次に上記実施形態の動作について説明する。
なお以下に示す動作は、上述した如くCPU28がプログラムメモリ30から読出した動作プログラム等をメインメモリ29に展開した上で実行するものである。プログラムメモリ30に記憶される動作プログラム等は、このテレビ電話装置10の工場出荷時にプログラムメモリ30に記憶されていたもののみならず、ユーザがこのテレビ電話装置10を購入後にバージョンアップ用のプログラム等をインストールした内容を含む。
【0036】
図5は、待ち受け状態で、通話相手の装置から発呼がある場合のテレビ電話機能による受信処理の処理手順を示す。待ち受け状態においてCPU28は、通話相手の装置からの発呼を受信したか否かを繰返し判断することにより(ステップS101)、発呼がなされるのを待機している。
【0037】
そして発呼があった時点で受信ありと判断すると、CPU28は次に操作部31のオフフックキーが操作されたか否かにより、このテレビ電話装置10のユーザが発呼に応答したか否かを判断し、当該操作がなければ再び上記ステップS101からの待ち受け状態に戻る。
【0038】
発呼された状態からユーザがオフフックキーを操作すると、CPU28はその操作を上記ステップS102で判断し、次にその時点で装着しているサイネージボードSBの形状情報を画像メモリ33から読出して、無線通信部22により通話相手の装置に送信する(ステップS103)。また、上記ステップS102でユーザがオフフックキーを操作し、通信相手装置から形状情報を付加されていた場合、形状情報を受信する。
【0039】
その後にCPU28は、撮影画像処理部32によりCMOSイメージセンサ35を走査駆動させて撮影動作を開始させる(ステップS104)。撮影画像処理部32は、例えばCMOSイメージセンサ35によりVGA(縦480画素×横640画素)の画像サイズ、30[フレーム/秒]のフレームレートで動画撮影を開始し、得られる画像データを順次画像メモリ33に保持する。
【0040】
ここでCPU28は、上記ステップS103でこのテレビ電話装置10のサイネージボードSBの形状情報を送信したのと同様に、上記ステップS102でオフフックを判断した際に通話相手の装置から、画像を投影する対象に関する形状情報を受信したか否かを判断する(ステップS105)。
【0041】
ここで通話相手の装置から形状情報を受信したと判断した場合、通話相手はこのテレビ電話装置10と同様に不定形の投影対象を有しているものとして、受信した形状情報を設定する(ステップS106)。
【0042】
また上記ステップS106で通話相手の装置から形状情報を受信していないと判断した場合、通話相手はこのテレビ電話装置10などとは異なり、不定形の投影対象を有していないものとし、投影対象として矩形の形状を設定する(ステップS107)。
【0043】
上記ステップS106またはS107での設定後、CPU28はその設定内容に基づいて通話相手の装置との通話処理を実行しながら(ステップS108)、操作部31のオンフックキーが操作されたか否かを判断し(ステップS109)、操作されていなければ上記ステップS108からの通話処理を続行する。
【0044】
こうしてステップS108,S109の処理を繰返し実行することで、通話動作を続行しながら、通話を打ち切るためのオンフックキーの操作がなされるのを待機する。
【0045】
そしてオンフックキーが操作された時点で上記ステップS109に通話を打ち切ると判断し、通話を終了するとともに、次の待ち受け状態に移行するべく、上記ステップS101からの処理に戻る。
【0046】
次に、
図6によりこのテレビ電話装置10側から発呼を行なう場合のテレビ電話機能による発信処理の処理手順を示す。その処理当初にCPU28は、オフフックキーとダイヤルキーの操作による、通話相手を特定するための宛先入力がなされたか否かを繰返し判断することで(ステップS201)、発信処理の開始を待機する。
【0047】
そして宛先が入力されたと判断した場合、CPU28はその時点で装着しているサイネージボードSBの形状情報を画像メモリ33から読出し、通話相手を特定する電話番号の情報とともに無線通信部22により送信する(ステップS202)。
【0048】
その後にCPU28は、通話回線が接続されて、通話相手の装置からの応答があるか否か(ステップS203)、オンフックキーが操作された否か(ステップS204)を繰り返し判断しながら、通話相手からの応答があるか、またはこのテレビ電話装置10のユーザが通話の開始を諦めるかを待機する。
【0049】
上記ステップS204でオンフックキーが操作されたと判断した場合、CPU28は通話の開始を諦めたものとして、再び上記ステップS201からの処理に戻る。
【0050】
また上記ステップS203で通話相手の装置からの応答があったと判断した場合、CPU28は、撮影画像処理部32によりCMOSイメージセンサ35を走査駆動させて撮影動作を開始させる(ステップS205)。撮影画像処理部32は、例えばCMOSイメージセンサ35によりVGA(縦480画素×横640画素)の画像サイズ、30[フレーム/秒]のフレームレートで動画撮影を開始し、得られる画像データを順次画像メモリ33に保持する。また、上記ステップS203で通話相手の装置から応答があり、通信相手装置から形状情報を付加されていた場合、形状情報を受信する。
【0051】
ここでCPU28は、通話相手の装置から、画像を投影する対象に関する形状情報を受信したか否かを判断する(ステップS206)。
【0052】
ここで通話相手の装置から形状情報を受信したと判断した場合、通話相手はこのテレビ電話装置10と同様に不定形の投影対象を有しているものとして、受信した形状情報を設定する(ステップS207)。
【0053】
また上記ステップS206で通話相手の装置から形状情報を受信していないと判断した場合、通話相手はこのテレビ電話装置10などとは異なり、不定形の投影対象を有していない(矩形である)ものと判断し、投影対象として矩形の形状を設定する(ステップ208)。
【0054】
上記ステップS207またはS208での設定後、CPU28はその設定内容に基づいて通話相手の装置との通話処理を実行しながら(ステップS209)、操作部31のオンフックキーが操作されたか否かを判断し(ステップS210)、操作されていなければ上記ステップS209からの通話処理を続行する。
【0055】
こうしてステップS209,S210の処理を繰返し実行することで、通話動作を続行しながら、通話を打ち切るためのオンフックキーの操作がなされるのを待機する。
【0056】
そしてオンフックキーが操作された時点で上記ステップS210に通話を打ち切ると判断し、通話を終了するとともに、次の待ち受け状態に移行するべく、上記ステップS201からの処理に戻る。
【0057】
次に
図7により、上記
図5のステップS108及び
図6のステップS209における通話処理のサブルーチンの詳細な内容を説明する。
【0058】
その当初にCPU28は、上記無線通信部22を介して通話相手の装置から受信した音声データに基づく音声を音声処理部27によりスピーカ部SP,SPから、投影画像駆動部23により画像データに基づく投影画像を投影レンズ部11からそれぞれ出力させる(ステップS301)。
【0059】
その後、CPU28はまず上記マイクロホン部MC,MCから入力した音声に基づく、圧縮した音声データファイルを通話相手の装置に向けて無線通信部22より送信する(ステップS302)。
【0060】
ここでCPU28は、上記CMOSイメージセンサ35で撮影し、撮影画像処理部32により画像メモリ33に一時的に保持させた画像データに対し、顔認識処理を行なう設定が事前になされているか否かを判断する(ステップS303)。
【0061】
顔認識処理が事前に設定されていると判断した場合、CPU28は画像メモリ33で保持している画像データ中から顔認識処理を実行し、人物の顔に相当する範囲の大きさと位置とを示す情報を取得する(ステップS304)。
【0062】
次いでこの取得した顔の大きさと位置とを基準として、通話相手の装置から得た形状情報と相似形となるように画像の切り出し処理を実行する(ステップS305)。
【0063】
さらにCPU28は、切出した画像データを、通話相手の装置から得た形状情報及び画像サイズに合致するように倍率を算出し、その算出した倍率に基づいた画像データの拡大/縮小処理を施すことで、通話相手の装置が要求している画像データを作成する(ステップS306)。
【0064】
一方、上記ステップS303で顔認識処理が事前に設定されていていないと判断した場合、CPU28は、通話相手の装置から得た形状情報及び画像サイズに合致するべく、画像データの中心位置が切り出し後の中心となるように画像の切り出し処理を実行する(ステップS307)。
【0065】
その後、上記ステップS306またはS307での処理の後に、CPU28は切り出し後の画像データを圧縮した画像データファイル化して通話相手の装置に向けて無線通信部22より送信し(ステップS308)、以上で
図7の一連の通話処理を一旦終了するとともに、
図5または
図6のメインルーチンに復帰する。
【0066】
なお上記ステップS304での顔認識処理後、例えば被写体の人物が首をかしげるなど、顔部分が画像中で傾いているか否かを判断し、傾いていると判断した場合には、その傾いていると判断した角度分だけ当該顔部分の画像を傾きとは反対方向に回転処理することで、傾いた顔の画像を補正するようにしてもよく、またそのような補正処理をユーザが任意にモード設定できるようにしても良い。
このような傾き補正処理を合わせて実行することで、常に正しい姿勢での画像が通話相手の装置に対して送信されることになるので、通話中の姿勢が何らかの理由により一時的に乱れたとしても、通話相手に無用の心配をかけることなく、通話を続行することができる。
【0067】
以上詳述した如く本実施形態によれば、投影対象となる部材形状に合った画像を送受してテレビ電話機能の通話を実現することが可能になると同時に、特に不定型な形状をしている対象に対して画像を投影する場合の送受データ量を大幅に削減しながら、確実な防眩効果を奏することができる。
【0068】
また上記実施形態では、特に撮影した画像から顔認識処理により被写体となる人物、すなわち通話を行なうユーザ本人の顔位置を正確に判断することができるため、テレビ電話機能での通話時に通話を行なう者どうしが確実に相手の表情等を把握しながら通話を続行できる。
【0069】
その場合、顔認識処理での結果に基づき、相手側が要求している形状に合わせて顔の大きさを拡大または縮小する調整を施した後に送信を行なうことで、通話相手側では適切な大きさの顔画像が出力されることになり、テレビ電話機能での通話をより快適に続行させることができる。
【0070】
なお上記実施形態では示さなかったが、顔認識処理に加えて、被写体となる人物の上半身の位置及び大きさを認識することにより、通話相手先の装置での出力形状に合わせて、より適切な撮影画像を加工して送信させることも可能となる。
【0071】
また上記実施形態は、DLP(登録商標)方式の投影を行なうデジタルサイネージ装置を利和したテレビ電話装置に適用した場合について説明したが、投影の方式等を限定するものではない。
【0072】
また上記実施形態は、通話相手の装置から形状の情報を取得した場合、送信する画像を加工していたが、これに限らず、毎回通話相手の装置から形状の情報を取得し、その形状の情報が矩形であるか否かを判定し、矩形でなければ送信する画像を加工して送信するようにしてもよい。また、この時の形状の情報はアスペクト比を示す情報も含まれる。
【0073】
さらに、例えばスマートフォンのような通信端末において、矩形のディスプレイ画面に、通話相手が任意に選択した不定形の装飾フレーム、例えばハート型やクリスマスの時期であれば略円型のクリスマスリースの形状などに合わせて、送信側で画像の切り出し処理を行なうことで、適切なテレビ電話機能での通話を行なうことも考えられる。
【0074】
その他、本発明は上述した実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、上述した実施形態で実行される機能は可能な限り適宜組み合わせて実施しても良い。上述した実施形態には種々の段階が含まれており、開示される複数の構成要件による適宜の組み合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、効果が得られるのであれば、この構成要件が削除された構成が発明として抽出され得る。
【0075】
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
請求項1記載の発明は、通信先の装置から画像の出力形状を示す情報を取得する形状取得手段と、送信すべき画像のデータを取得する画像取得手段と、上記形状取得手段で得た出力形状を示す情報に基づき、上記画像取得手段で得た画像のデータを加工する画像加工手段と、上記画像加工手段で加工した画像のデータを上記通信先の装置に送信する送信手段とを備えることを特徴とする。
【0076】
請求項2記載の発明は、上記請求項1記載の発明において、上記形状取得手段で得た出力形状を示す情報が矩形か否かを判断する判断手段をさらに備え、上記画像加工手段は、上記判断手段で上記出力形状を示す情報が矩形でないと判断した場合、上記形状取得手段で得た出力形状を示す情報に基づき、上記画像取得手段で得た画像のデータを加工することを特徴とする。
【0077】
請求項3記載の発明は、上記請求項1または2記載の発明において、上記画像加工手段は、上記画像取得手段で得た画像中から顔認識技術により顔画像の範囲を認識し、上記形状取得手段で得た出力形状を示す情報に基づき、顔画像の範囲を含むように画像のデータを加工することを特徴とする。
【0078】
請求項4記載の発明は、上記請求項3記載の発明において、上記画像加工手段は、上記形状取得手段で得た出力形状を示す情報に基づき、顔画像の範囲の大きさを調整することを特徴とする。
【0079】
請求項5記載の発明は、上記請求項3または4記載の発明において、上記画像加工手段は、上記形状取得手段で得た出力形状を示す情報に基づき、顔画像の範囲の傾きを調整することを特徴とする。
【0080】
請求項6記載の発明は、上記請求項1乃至5いずれか記載の発明において、上記通信先の装置は投影装置であり、上記出力形状を示す情報は、上記投影装置のパネル形状を示す情報であり、上記画像加工手段は、上記パネル形状を示す情報に基づいて、上記画像取得手段で得た画像のデータを加工することを特徴とする。
【0081】
請求項7記載の発明は、通信先の装置の宛先を指定する指定手段と、上記指定手段で通信先の装置の宛先を指定した場合、上記通信先の装置へ自装置の出力手段が出力する出力形状を示す情報を送信する送信手段とを備えたことを特徴とする。
【0082】
請求項8記載の発明は、通信先の装置から画像の出力形状を示す情報を取得する形状取得工程と、送信すべき画像のデータを取得する画像取得工程と、上記形状取得工程で得た出力形状を示す情報に基づき、上記画像取得工程で得た画像のデータを加工する画像加工工程と、上記画像加工工程で加工した画像のデータを上記通信先の装置に送信する送信工程とを有したことを特徴とする。
【0083】
請求項9記載の発明は、通信先の装置の宛先を指定する指定工程と、上記指定工程で通信先の装置の宛先を指定した場合、上記通信先の装置へ自装置の出力部が出力する出力形状を示す情報を送信する送信工程とを備えたことを特徴とする。
【0084】
請求項10記載の発明は、通信先の装置と画像のデータを送受する装置が内蔵するコンピュータが実行するプログラムであって、上記コンピュータを、上記通信先の装置から画像の出力形状を示す情報を取得する形状取得手段、送信すべき画像のデータを取得する画像取得手段、上記形状取得手段で得た出力形状を示す情報に基づき、上記画像取得手段で得た画像のデータを加工する画像加工手段、及び上記画像加工手段で加工した画像のデータを上記通信先の装置に送信する送信手段として機能させることを特徴とする。
【0085】
請求項11記載の発明は、通信先の装置と画像のデータを送受する装置が内蔵するコンピュータが実行するプログラムであって、上記コンピュータを、通信先の装置の宛先を指定する指定手段、及び上記指定手段で通信先の装置の宛先を指定した場合、上記通信先の装置へ自装置の出力部が出力する出力形状を示す情報を送信する送信手段として機能させることを特徴とする。