(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
以下、図面に基づいて本発明の実施の形態を説明する。
図1は、本発明の実施の形態における画像共有システムの構成例を示す図である。
図1に示されるように、画像共有システム1は、撮影装置20a及び撮影装置20b、無線装置30a及び無線装置30b、画像共有サーバ10、並びに画像参照装置40等を含む。撮影装置20a及び撮影装置20b、無線装置30a及び無線装置30bは、無線通信網を介してインターネット等のネットワークN1に接続される。画像共有サーバ10及び画像参照装置40は、無線又は有線通信網を介してネットワークN1に接続される。
【0011】
撮影装置20aは、画像データ(静止画像)の撮影機能と無線通信機能とを有する装置である。例えば、無線通信が可能なデジタルカメラが撮影装置20aとして利用されてもよい。撮影装置20aは、ユーザAによって携帯される。例えば、撮影装置20aは、ユーザの体の一部に装着又は固定されるウェアラブルな装置であってもよい。撮影装置20aは、ユーザAの近辺の画像を定期的に撮影する。例えば、撮影装置20aは、ユーザAの視線方向となる正面前方の画像データを、ユーザAの意志とは無関係に定期的に撮影する。撮影装置20aは、撮影した画像データを、所定のタイミングで画像共有サーバ10に送信する。
【0012】
無線装置30aは、無線通信機能を有する装置である。無線装置30aは、また、Bluetooth(登録商標)又はWi−Fi(登録商標)Direct等の近距離無線通信を介して、無線装置30bと直接的に通信可能である。例えば、スマートフォン又はタブレット端末等が、無線装置30aとして利用されてもよい。無線装置30aもユーザAによって携帯される。
【0013】
なお、撮影装置20aと無線装置30aとは一つの装置として構成されてもよい。
【0014】
一方、撮影装置20b及び無線装置30bは、ユーザBによって携帯される点を除いて、撮影装置20a又は無線装置30aと同様である。なお、撮影装置20aと撮影装置20b、無線装置30aと無線装置30bとのそれぞれ区別しない場合、末尾の「a」又は「b」は省略される。
【0015】
画像共有サーバ10は、各撮影装置20から送信される画像データの記憶や公開等を行う1以上のコンピュータである。画像共有サーバ10は、例えば、ライフログサービスを提供する装置(システム)であってもよい。
【0016】
画像参照装置40は、画像共有サーバ10によって記憶されている画像データの参照(閲覧)に利用される装置である。例えば、PC(Personal Computer)、スマートフォン、又はタブレット端末等が画像参照装置40として利用されてもよい。また、無線装置30が、画像参照装置40として利用されてもよい。本実施の形態では、画像参照装置40は、ユーザAによって利用される。
【0017】
図2は、本発明の実施の形態における画像共有サーバのハードウェア構成例を示す図である。
図2の画像共有サーバ10は、それぞれバスBで相互に接続されているドライブ装置100、補助記憶装置102、メモリ装置103、CPU104、及びインタフェース装置105等を有する。
【0018】
画像共有サーバ10での処理を実現するプログラムは、CD−ROM等の記録媒体101によって提供される。プログラムを記憶した記録媒体101がドライブ装置100にセットされると、プログラムが記録媒体101からドライブ装置100を介して補助記憶装置102にインストールされる。但し、プログラムのインストールは必ずしも記録媒体101より行う必要はなく、ネットワークを介して他のコンピュータよりダウンロードするようにしてもよい。補助記憶装置102は、インストールされたプログラムを格納すると共に、必要なファイルやデータ等を格納する。
【0019】
メモリ装置103は、プログラムの起動指示があった場合に、補助記憶装置102からプログラムを読み出して格納する。CPU104は、メモリ装置103に格納されたプログラムに従って画像共有サーバ10に係る機能を実行する。インタフェース装置105は、ネットワークに接続するためのインタフェースとして用いられる。
【0020】
図3は、本発明の実施の形態における画像共有サーバの機能構成例を示す図である。
図3において、画像共有サーバ10は、画像情報受信部11、相手情報受信部12、利用可ユーザ特定部13、画像検索部14、対象物情報受信部15、特徴情報抽出部16、撮影者特定部17、対象物検索部18、及び立体像生成部19等を有する。これら各部は、画像共有サーバ10にインストールされた1以上のプログラムが、CPU104に実行させる処理により実現される。画像共有サーバ10は、また、画像情報テーブル121、相手情報テーブル122、対象物テーブル123、及び立体像テーブル124等を利用する。これら各テーブルは、例えば、補助記憶装置102、又は画像共有サーバ10にネットワークを介して接続可能な記憶装置等を用いて実現可能である。
【0021】
画像情報受信部11は、各撮影装置20によって撮影された画像データに関する画像情報を、各撮影装置20から受信する。画像情報とは、撮影された画像データ、撮影したユーザのユーザID、及び撮影日時等を含む情報である。画像情報受信部11は、受信された画像情報を画像情報テーブル121に記憶する。
【0022】
相手情報受信部12は、各無線装置30から相手情報を受信する。或る無線装置30が画像共有サーバ10に対して送信する相手情報は、当該無線装置30のユーザのユーザID(自ユーザID)、当該無線装置30の無線範囲内において発見された他の無線装置30のユーザのユーザID(相手ユーザID)、無線接続(コネクション)が確立された日時(コネクション確立日時)、及び無線接続が解放された日時(コネクション解放日時)等を含む。相手情報受信部12は、受信された相手情報を相手情報テーブル122に記憶する。
【0023】
利用可ユーザ特定部13は、画像情報テーブル121に記憶された各画像情報に含まれる画像データについて、撮影者以外に利用(アクセス)が許可されるユーザ(以下、「利用可ユーザ」という。)を特定する。本実施の形態では、或る画像データの撮影時において当該画像データの撮影者の近辺に所在していた他のユーザに対して、当該画像データの利用が許可される。このような他のユーザは、画像情報に含まれる撮影日時と、相手情報テーブル122に記憶された相手情報に含まれるコネクション確立日時及びコネクション解放日時とに基づいて特定可能である。或る画像情報について利用可ユーザが特定された場合、当該画像情報に対して当該利用可ユーザのユーザIDが付加される。
【0024】
画像検索部14は、画像参照装置40からの画像データの検索要求に応じ、画像情報テーブル121に記憶されている画像情報の中から、画像参照装置40のユーザによって撮影された画像データに係る画像情報であって、検索要求に指定された検索条件に合致する画像情報を検索し、検索された画像情報を画像参照装置40へ返信する。
【0025】
対象物情報受信部15は、画像検索部14によって検索され、画像参照装置40に返信された画像情報に含まれる画像データの被写体の中で、ユーザによって指定された被写体(以下、「対象物」という。)に関する情報(以下、「対象物情報」という。)を、画像参照装置40から受信する。例えば、ユーザは、自らが興味の有る被写体を対象物として指定する。対象物情報には、画像データにおいて対象物を含む部分領域が切り出された画像データ(以下、「対象物画像」という。)が含まれる。
【0026】
特徴情報抽出部16は、対象物画像から特徴情報(すなわち、対象物の特徴情報)を抽出する。特徴情報抽出部16は、抽出された特徴情報及び対象物情報等を、対象物テーブル123に記憶する。
【0027】
撮影者特定部17は、対象物を撮影した可能性の有る他のユーザを特定する。他のユーザとは、対象物画像の切り出し元の画像データを撮影したユーザ以外のユーザである。画像検索部14によって検索された画像データに対する利用可ユーザが、当該他のユーザとして検索される。当該利用可ユーザは、対象物の切り出し元の画像データを含む画像データ群の撮影時において、当該画像データ群を撮影したユーザの近辺において撮影を行っていたユーザだからである。
【0028】
対象物検索部18は、撮影者特定部17によって特定された他のユーザによって撮影された画像データ群から、対象物を被写体として含む画像データを検索する。対象物検索部18は、また、画像検索部14によって検索された画像情報群に含まれる画像データ群からも、対象物を被写体として含む画像データを検索する。すなわち、対象物画像の切り出し元となった画像データを撮影したユーザの画像データ群からも、対象物を含む画像データが検索される。
【0029】
立体像生成部19は、対象物検索部18によって検索された画像データ群に含まれる対象物の画像に基づいて、対象物の立体像(全体像)を示すデータを生成(復元又は再現)する。立体像生成部19は、生成したデータに関する情報を立体像テーブル124に記憶する。すなわち、当該画像データ群には、対象物について、複数の方向から見た場合の画像が含まれている。したがって、複数の方向からの画像を合成することで、対象物の立体像を生成することができる。
【0030】
以下、画像共有システム1において実行される処理手順について説明する。
図4は、画像撮影に伴って撮影装置及び無線装置によって実行される処理手順の一例を説明するためのシーケンス図である。
図4では、ユーザAの近辺にユーザBが所在し、無線装置30a及び無線装置30bが、それぞれ他方の無線範囲に含まれている状態を想定する。なお、
図4では、説明の便宜上、2つの撮影装置20と2つの無線装置30とについて説明するが、任意の数の撮影装置20や無線装置30に関して
図4の処理手順が実行されてもよい。
【0031】
ステップS101〜S103において、撮影装置20aは、ユーザAの前方の画像データを定期的に撮影する。撮影装置20aは、撮影された画像データとその撮影日時とを対応付けて記憶する。同様に、撮影装置20bは、ユーザBの前方の画像データを定期的に撮影する(S201〜S203)。撮影装置20bは、撮影された画像データとその撮影日時とを対応付けて記憶する。
【0032】
なお、ここで、ユーザAとユーザBとは、近辺において撮影を行っているため、共通の被写体を含む画像データを撮影する可能性が高くなる。例えば、
図5に示されるように、同じ被写体について相互に異なる角度から撮影が行われる可能性が有る。
【0033】
図5は、ユーザAとユーザBとによって同じ被写体に関して撮影された画像データの一例を示す図である。
図5には、ユーザAとユーザBと撮影の被写体o1との位置関係を上から見た図が示されている。この場合、例えば、ユーザAによって、画像データi1が撮影され、ユーザBによって、画像データi2が撮影される。画像データi1は、被写体o1の背面の画像を含む。画像データi2は、被写体o1の正面の画像を含む。
【0034】
一方、無線装置30a及び無線装置30bは、他の無線装置30を探索するための電波を定期的に発信している(S301)。当該電波に基づいて、無線装置30a及び無線装置30bのいずれか一方が他方の無線装置30を発見すると、無線装置30aと無線装置30bとの間にコネクションが確立される(S302)。すなわち、無線装置30aと無線装置30bとの間でデータの送受信が可能な状態となる。
【0035】
そこで、無線装置30aは、ユーザAのユーザID「A」を無線装置30bに送信する(S303)。無線装置30bは、当該ユーザID「A」を相手ユーザIDとして、コネクション確立日時と共に記憶する(S304)。また、無線装置30bは、ユーザBのユーザID「B」を無線装置30aに送信する(S305)。無線装置30aは当該ユーザID「B」を相手ユーザIDとして、コネクション確立日時と共に記憶する(S306)。なお、コネクション確立日時とは、ステップS302の時点における日時をいう。
【0036】
その後、それぞれの無線装置30は、コネクションが確立されているか否かを定期的に確認する。例えば、無線装置30aは、相手ユーザID「B」を無線装置30bに送信する(S307)。無線装置30bは、当該ユーザID「B」を受信すると、無線装置30bにとって相手ユーザIDとなるユーザID「A」を無線装置30aに応答する(S308)。無線装置30bも、無線装置30aと同様の処理を実行する。
【0037】
ここで、例えば、無線装置30aは、ユーザID「B」を送信した後(S309)、所定時間内に応答がなかった場合に、コネクションが解放(切断)されたと判断する(S310)。同様に、無線装置30aは、ユーザID「B」を送信した後(S312)、所定時間内に応答がなかった場合に、コネクションが解放されたと判断する(S313)。そこで、無線装置30aは、既に記憶されている相手ユーザID「B」及びコネクション確立日時に対応付けて、現在日時をコネクション解放日時として記憶する(S311)。無線装置30bも、同様の処理を実行し、コネクション解放日時を相手ユーザID「A」及びコネクション確立日時に対応付けて記憶する(S314)。なお、ステップS309〜S311及びS312〜S314は、ユーザAとユーザBとが、お互いの無線装置30の無線範囲外に移動した状態において実行される。
【0038】
図6は、画像情報及び相手情報のアップロード処理の処理手順の一例を説明するための図である。撮影装置20a及び撮影装置20b等の各撮影装置20、並びに無線装置30a及び無線装置30b等の各無線装置30は、
図6に示される処理手順を実行する。
【0039】
撮影装置20は、所定の送信タイミングが到来すると(S401でYes)、これまでに記憶されている各画像データについて、画像情報を画像共有サーバ10に送信する(S402)。画像情報には、自ユーザID、画像データ、及び撮影日時等が含まれる。なお、画像情報が送信された画像データは、撮影装置20から削除されてもよい。
【0040】
画像共有サーバ10の画像情報受信部11は、画像情報を受信すると、当該画像情報を画像情報テーブル121に記憶する(S403)。
【0041】
図7は、画像情報テーブルの構成例を示す図である。
図7に示されるように、画像情報テーブル121は、画像データごとに、自ユーザID、画像ID、撮影日時、画像データ、及び利用可ユーザID等を記憶する。自ユーザIDは、画像データの送信元(アップロード元)の撮影装置20のユーザのユーザIDである。画像IDは、画像データごとの識別情報であり、例えば、画像情報受信部11によって割り当てられる。撮影日時は、画像データの撮影日時である。画像データは、画像データの実体である。利用可ユーザIDは、自ユーザIDに係るユーザ以外の中で、当該画像データの利用(当該画像データへのアクセス)が許可される利用可ユーザのユーザIDである。利用可ユーザIDの値は、後述の処理によって設定される。
【0042】
一方、無線装置30は、所定の送信タイミングが到来すると(S404でYes)、これまでに記憶されている相手情報を画像共有サーバ10に送信する(S405)。相手情報とは、確立されたコネクションごとに、自ユーザID、当該コネクションに係る相手ユーザID、当該コネクションの確立日時、及び当該コネクションの解放日時等を含む情報である。なお、送信された相手情報は、無線装置30から削除されてもよい。
【0043】
その後、画像共有サーバ10の相手情報受信部12は、無線装置30から受信した相手情報を相手情報テーブル122に記憶する(S406)。
【0044】
図8は、相手情報テーブルの構成例を示す図である。
図8に示されるように、相手情報テーブル122には、各相手情報が記憶される。
【0045】
図9は、他ユーザによって撮影された画像データの中で利用可能な画像データを特定する処理の処理手順の一例を説明するためのフローチャートである。
【0046】
利用可ユーザ特定部13は、処理タイミングが到来すると(S501でYes)、画像情報テーブル121に記憶されている自ユーザIDのうち、処理対象とするユーザID(以下、「対象ユーザID」という。)を1つ選択する(S502)。続いて、利用可ユーザ特定部13は、対象ユーザIDを自ユーザIDとして含む相手情報を相手情報テーブル122から検索する(S503)。なお、ステップS504以降は、検索された相手情報ごとに実行される。ステップS504以降において処理対象とされている相手情報を、「対象相手情報」という。
【0047】
続いて、利用可ユーザ特定部13は、対象相手情報における相手ユーザIDを自ユーザIDとして含む画像情報を画像情報テーブル121から検索する(S504)。続いて、利用可ユーザ特定部13は、検索された画像情報の中から、対象相手情報のコネクション確立日時及び解放日時の期間内に撮影日時が含まれる画像情報を抽出する(S505)。続いて、利用可ユーザ特定部13は、抽出された画像情報の利用可ユーザIDに、対象ユーザIDを設定する(S506)。
【0048】
なお、
図9の処理手順は、画像情報テーブル121に記憶されている各自ユーザIDについて実行される。
【0049】
このように、本実施の形態では、ユーザAとユーザBとが近辺において撮影を行っている場合には、各ユーザには、他方によって撮影された画像データの利用が許可される。
【0050】
続いて、画像情報テーブル121に記憶された画像データの参照に関する処理手順について説明する。
図10は、画像データの参照時に実行される処理手順の一例を説明するためのシーケンス図である。
図10において、画像参照装置40を利用するのはユーザAである。
【0051】
ユーザAが、自らが撮影した画像データの検索指示を画像参照装置40に入力すると、画像参照装置40は、ユーザAのユーザID「A」と、検索指示において指定された期間情報等の検索条件とを含む検索要求を、画像共有サーバ10へ送信する(S601)。ここで、期間情報とは、例えば、或る期間の開始日時及び終了日時を含む情報である。
【0052】
画像共有サーバ10の画像検索部14は、当該検索要求に応じ、ユーザAのユーザIDを自ユーザIDとして含む画像情報であって、当該検索要求に含まれている検索条件に合致する画像情報を画像情報テーブル121から検索する(S602)。例えば、自ユーザIDが「A」であり、かつ、撮影日時が、検索要求に指定された期間情報が示す期間に含まれる画像情報が検索される。続いて、画像検索部14は、検索された画像情報を画像参照装置40へ返信する(S603)。複数の画像情報が検索された場合、複数の画像情報が返信される。
【0053】
画像参照装置40は、画像情報を受信すると、当該画像情報に含まれている画像データを表示する(S604)。続いて、画像参照装置40は、表示されているいずれかの画像データに対して、範囲指定等により、ユーザAの興味の対象である被写体(対象物)の指定をユーザAから受け付ける(S605)。
【0054】
図11は、対象物の指定方法の一例を示す図である。
図11では、画像データi1において、被写体o1を囲むように部分領域a1の指定が行われることで、被写体o1が対象物として指定される例が示されている。但し、被写体o1が直接的に指示される等により、対象物の指定が行われてもよい。以下、「被写体o1」を「対象物o1」という。
【0055】
続いて、画像参照装置40は、対象物o1が指定された画像データi1から、対象物o1の範囲の部分画像(以下、「対象物画像」という。)を切り出す(S606)。例えば、対象物を囲む最小外接矩形の範囲の画像データが対象物画像として切り出されてもよい。
【0056】
続いて、画像参照装置40は、対象物画像の切り出し元の画像データi1の画像IDと、対象物画像とを含む対象物情報を、画像共有サーバ10へ送信する(S607)。
【0057】
画像共有サーバ10の対象物情報受信部15が当該対象物情報を受信すると、特徴情報抽出部16は、対象物画像から対象物の特徴情報を抽出し、抽出された特徴情報等を、対象物テーブル123へ記憶する(S608)。
【0058】
図12は、対象物テーブルの構成例を示す図である。
図12に示されるように、対象物テーブル123には、対象物ごとに、対象物ID、画像ID、撮影日時、画像データ、特徴情報、及び対象物画像等が記憶される。
【0059】
対象物IDは、対象物ごとの識別情報であり、例えば、対象物情報受信部15によって割り当てられる。画像IDは、対象物画像の切り出し元の画像データ(
図11では画像データi1)の画像IDである。撮影日時は、対象物画像の切り出し元の画像データの撮影日時である。画像データは、対象物画像の切り出し元の画像データである。なお、撮影日時及び画像データは、受信された対象物情報に含まれている画像IDに基づいて、画像情報テーブル121から転記される。
【0060】
特徴情報は、対象物画像から抽出された、対象物の特徴情報である。
図12では、対象物の上部と下部とのそれぞれについて、色及び形状等が抽出される例が示されている。但し、特徴情報の構成は適宜変更されてもよい。対象物画像は、対象物画像そのものである。なお、ステップS608では、1つのレコード(行)が対象物テーブル123に追加される。
【0061】
続いて、撮影者特定部17は、ステップS602において検索された各画像情報において利用可ユーザIDとして含まれているユーザIDを取得する(S609)。すなわち、当該ユーザIDが、対象物を撮影している可能性の有る他ユーザ(例えば、ユーザB)のユーザIDとして特定される。なお、ステップS609において取得されるユーザIDは、対象物画像の切り出し元の画像データに係る画像情報に含まれている利用可ユーザIDに限定されてもよい。
【0062】
続いて、対象物検索部18は、ステップS609において取得されたユーザIDを自ユーザIDとして含む画像情報群から、ステップS602と同じ検索条件に合致する画像情報を検索する(S610)。例えば、ステップS602と同じ期間に撮影日時が含まれる画像情報が検索される。続いて、対象物検索部18は、検索された画像情報群から、ユーザAのユーザID「A」を利用可ユーザIDに含む画像情報を抽出する(S611)。すなわち、ユーザAが利用可能な画像データに係る画像情報が抽出される。続いて、対象物検索部18は、ステップS602において検索された各画像情報に係る各画像データと、ステップS6111において抽出された各画像情報に係る各画像データとから、対象物の特徴情報に基づいて、対象物を被写体として含むことが推定される画像データ群を抽出する(S612)。すなわち、ユーザAによる撮影画像群と、ユーザAの所定の範囲内(無線装置30a無線範囲)内)において撮影を行っていたユーザによる撮影画像群との中から、対象物を含むことが推定される画像データ群が抽出される。例えば、ユーザBによって撮影された画像データi2が抽出される。
【0063】
なお、抽出される画像データ群には、対象物画像の切り出し元の画像データ(
図11の画像データi1)も含まれる。また、特徴情報に係る被写体が含まれているか否かの判定は、公知技術に基づいて行うことができる。
【0064】
続いて、対象物検索部18は、対象物を含むことが推定された画像データ群に係る画像情報群を、画像参照装置40へ送信する(S613)。
【0065】
画像参照装置40は、当該画像情報群を受信すると、当該画像情報群に含まれている各画像情報の画像データを表示する(S614)。その結果、ユーザAは、他のユーザによって撮影された対象物o1の画像データを入手することができる。
【0066】
続いて、ユーザAによって、対象物o1の立体像の生成指示が入力されると(S615)、画像参照装置40は、当該画像情報群に含まれている各画像情報の画像IDを含む、対象物の立体像の生成要求を画像共有サーバ10へ送信する(S616)。
【0067】
画像共有サーバ10の立体像生成部19は、当該生成要求を受信すると、当該生成要求に含まれている各画像IDに係る画像データに含まれている対象物o1の画像に基づいて、対象物の立体像を示すデータを生成する(S617)。
【0068】
図13は、対象物の立体像の一例を示す図である。
図13では、対象物o1の立体像を4方向から見た図が示されている。なお、或る対象物を異なる方向から撮影した複数の画像データからの、当該対象物の立体像(全体像)の生成(再現又は復元)は、公知技術を用いて行うことができる。例えば、Microsoft(登録商標)社のPhotosynthが利用されてもよい。
【0069】
なお、立体像は、対象物の姿を完全に再現するものでなくてもよい。例えば、一部分は推定によって補われてもよいし、再現不能として、欠落部分が有ってもよい。
【0070】
また、立体像を示すデータは、例えば、3次元CADデータであってもよいし、他のデータ形式のデータであってもよい。また、立体像を、複数の視点から見た場合の複数の画像データが、立体像を示すデータであってもよい。例えば、
図13の場合であれば、4つの画像データが立体像を示すデータを構成してもよい。
【0071】
続いて、立体像生成部19は、生成されたデータに関する情報を立体像テーブル124に記憶する(S618)。
【0072】
図14は、立体像テーブルの構成例を示す図である。
図14に示されるように、立体像テーブル124には、立体像ごとに、撮影期間と対象物立体像データとが記憶される。撮影期間は、立体像の生成に使用された画像データ群の撮影期間である。例えば、当該画像データ群の中で撮影日時が最も早い画像データの撮影日時から、撮影日時が最も遅い画像データの撮影日時までの期間が、撮影期間とされてもよい。対象物立体像データは、対象物の立体像を示すデータそのものである。
【0073】
続いて、立体像生成部19は、対象物o1の立体像を示すデータを画像参照装置40へ送信する(S619)。画像参照装置40は、当該データに基づいて、対象物o1の立体像を表示する(S620)。
【0074】
上述したように、本実施の形態によれば、ユーザは、自分が興味を持った対象物について、他人の撮影装置20によって撮影された様々な方向からの画像データを入手することができる。すなわち、複数の撮影装置20によって撮影された共通の被写体を含む画像データを容易に入手可能とすることができる。
【0075】
また、様々な方向からの対象物の画像データに基づいて対象物の立体像が生成されることで、エンターテイメント性を高めることができる。
【0076】
なお、本実施の形態において、画像共有サーバ10は、画像処理装置の一例である。画像情報テーブル121は、記憶部の一例である。特徴情報抽出部16は、抽出部の一例である。対象物検索部18は、検索部の一例である。立体像生成部19は、生成部の一例である。
【0077】
以上、本発明の実施例について詳述したが、本発明は斯かる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。