【文献】
石黒 祥生,インタラクションの理解および基盤・応用技術,情報処理学会論文誌 論文誌ジャーナル,日本,一般社団法人情報処理学会,2012年 4月15日,Vol.53 No.4,p.1328〜1337
(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1において明らかにされているアーカイブ装置では、あくまで実際にあった音声たる発言を話者の視線の先にいる人物とともに記憶するにすぎず、単なるアーカイブ装置としての機能の提供に留まっていた。
【0007】
そこで本発明の発明者は、ユーザが視野内にいる人物に対して、電子メッセージやユーザが見ている視野を画像として送信することで、直接対話と感覚が近い意思疎通の形式を取りつつも、音声を介さず、街中やパーティー会場といった雑然とした場所においても、正確かつ迅速に情報伝達を行えることに着目した。
【0008】
本発明は、ユーザの視野を画像データとして取得し、視野内に存在する人物を特定して電子メッセージや当該画像データを送信することで、ユーザが視野内の人物と意思疎通を行うためのメッセージ送信システム、メッセージ送信方法、及び、プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明では、以下のような解決手段を提供する。
【0010】
第1の特徴に係る発明は、ユーザが視野内に存在する人物と意思疎通を行うためのメッセージ送信システムであって、
前記ユーザの視野を画像として取得する視野画像取得手段を少なくとも備える視野画像取得装置と、
前記視野画像取得手段によって取得した視野画像を解析し、人物の特定に係る特徴量を抽出する特徴量抽出手段と、
前記特徴量抽出手段によって抽出した特徴量から、前記視野画像内の人物を特定する人物特定手段と、
前記人物特定手段によって特定した人物の視野画像、又は、前記人物特定手段によって特定した人物の過去に取得した視野画像を電子メッセージに添付する視野画像添付手段と、
前記人物特定手段によって特定した人物に対して、
前記電子メッセージを送信するメッセージ送信手段と、
を備えるメッセージ送信システムを提供する。
【0011】
第1の特徴に係る発明によれば、ユーザが視野内に存在する人物と意思疎通を行うためのメッセージ送信システムにおいて、視野画像取得装置が前記ユーザの視野を画像として取得し、メッセージ送信システムが取得した視野画像を解析し、人物の特定に係る特徴量を抽出し、抽出した特徴量から、前記視野画像内の人物を特定し、
前記人物特定手段によって特定した人物の視野画像、又は、前記人物特定手段によって特定した人物の過去に取得した視野画像を電子メッセージに添付し、特定した人物に対して、
前記電子メッセージを送信する。
【0012】
第2の特徴に係る発明は、前記人物特定手段によって特定した人物に対して、前記視野画像取得手段で取得した視野画像の一部または全部を送信する視野画像送信手段と、
を備える第1の特徴に係る発明であるメッセージ送信システムを提供する。
【0013】
第2の特徴に係る発明によれば、第1の特徴に係る発明であるメッセージ送信システムは、特定した人物に対して、前記視野画像取得手段で取得した視野画像の一部または全部を送信する。
【0014】
第3の特徴に係る発明は、前記人物特定手段によって特定した人物の、前記視野画像内における位置を算出する人物像位置算出手段と、
前記人物像位置算出手段によって算出した位置を基準に、前記特定した人物に関する情報を、前記ユーザの視野内に表示する人物情報表示手段と、
を備える第1または第2のいずれかの特徴に係る発明であるメッセージ送信システムを提供する。
【0015】
第3の特徴に係る発明によれば、第1または第2のいずれかの特徴に係る発明であるメッセージ送信システムは、特定した人物の、前記視野画像内における位置を算出し、算出した位置を基準に、前記特定した人物に関する情報を、ユーザの視野内に表示する。
【0016】
これら上記の発明は、メッセージ送信システムのカテゴリであるが、方法、プログラムのカテゴリであっても、そのカテゴリに応じた同様の作用、効果を奏する。
【0017】
第4の特徴に係る発明は、ユーザが視野内に存在する人物と意思疎通を行うためのメッセージ送信システムが実行するメッセージ送信方法であって、
視野画像取得装置が前記ユーザの視野を画像として取得するステップと、
前記取得した視野画像を解析し、人物の特定に係る特徴量を抽出するステップと、
前記抽出した特徴量から、前記視野画像内の人物を特定するステップと、
前記人物特定手段によって特定した人物の視野画像、又は、前記人物特定手段によって特定した人物の過去に取得した視野画像を電子メッセージに添付するステップと、
前記特定した人物に対して、
前記電子メッセージを送信するステップと、
を備えるメッセージ送信方法を提供する。
【0018】
第5の特徴に係る発明は、
ユーザが視野内に存在する人物と意思疎通を行うためのメッセージ送信システムにおいて、
視野画像取得装置に、
前記ユーザの視野を画像として取得するステップ、
を実行させ、
前記取得した視野画像を解析し、人物の特定に係る特徴量を抽出するステップ、
前記抽出した特徴量から、前記視野画像内の人物を特定するステップ、
前記人物特定手段によって特定した人物の視野画像、又は、前記人物特定手段によって特定した人物の過去に取得した視野画像を電子メッセージに添付するステップ、
前記特定した人物に対して、
前記電子メッセージを送信するステップ、
を実行させるためのメッセージ送信システム用プログラムを提供する。
【発明の効果】
【0019】
本発明によれば、ユーザの視野を画像データとして取得し、視野内に存在する人物を特定して電子メッセージや当該画像データを送信することで、ユーザが視野内の人物と意思疎通を行うためのメッセージ送信システム、メッセージ送信方法、及び、プログラムを提供することが可能となる。
【発明を実施するための形態】
【0021】
以下、本発明を実施するための最良の形態について図を参照しながら説明する。なお、これはあくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
【0022】
本発明の概要について説明する。人物500がユーザの視野内に存在するとき、ユーザ利用端末10はユーザの視野を画像データとして取得し、その視野画像を視野画像解析サーバ100に送信する。視野画像解析サーバ100は、視野画像から特徴量を抽出し、特徴量データベース150を参照することで視野画像の中心付近にいる人物を特定する。そして、その人物の情報を人物情報データベース151から読み込み、ユーザ利用端末10に送信する。ユーザ利用端末10が、入力された電子メッセージや画像データを、受信した人物情報を基にメッセージ送信サーバ200を介して送信することで、ユーザは視野内の人物とメッセージによって意思疎通を行うことができる。
【0023】
[メッセージ送信システムの概要]
図1に基づいて、本発明の好適な実施形態であるメッセージ送信システム1の概要について説明する。メッセージ送信システム1は、ユーザ利用端末10、視野画像解析サーバ100、メッセージ送信サーバ200から構成される。
【0024】
初めに、ユーザ利用端末10はユーザの視野画像を取得する。ユーザが人物500に対してメッセージを送信する場合、
図1に示されるように、ユーザ利用端末10は人物500を含んだ視野画像を取得する(ステップS01)。
【0025】
次に、ユーザ利用端末10は、取得した視野画像を視野画像解析サーバ100に送信する(ステップS02)。視野画像解析サーバ100は、受信した視野画像に対して解析を加え、顔や体系等を判定するための特徴量を抽出する。
【0026】
視野画像解析サーバ100が備える記憶部内の特徴量データベース150には、人物を特定するための特徴量に関する情報があらかじめ記憶されている。視野画像解析サーバ100は、特徴量データベース150を参照し、抽出した特徴量に基づいて視野画像内の人物を特定する(ステップS03)。視野画像解析サーバ100は、特定した人物に関する情報を記憶部内の人物情報データベース151に問い合わせ(ステップS04)、人物情報を読み込む(ステップS05)。そして、読み込んだ人物情報をユーザ利用端末10に送信する(ステップS06)。
【0027】
ユーザ利用端末10は、特定した人物情報と、その人物に送信するメッセージ内容とを、メッセージ送信サーバ200に対して送信する(ステップS07)。ここで、ユーザ利用端末10は、メッセージ内容に、現在や過去に取得した視野画像を含めてもよい。また、送信するメッセージ内容は、キーボード等の入力デバイスを利用して人物500を視野内に捉えながら入力してもよいし、ステップS01より以前に入力を完了していてもよい。すなわち、ステップS01の時点で視野画像内に人物500が含まれ、ステップS05が実行される段階でメッセージの入力が完了していればよい。
【0028】
また、メッセージ送信サーバ200を介してメッセージを送信する際には、通常の電子メールプロトコルに限らず、IM(インスタント・メッセージ)のほか、特定のソフトウェアや、SNS(ソーシャル・ネットワーキング・サービス)が備えるメッセージ機能を、API等によって呼び出す形式であってもよい。当該メッセージは、電子的に送受信され、少なくとも文字情報を含めることができればよい。ユーザ利用端末10は特定のメッセージ送信規約に基づく形式で、メッセージ送信サーバ200にメッセージ内容と宛先たる特定した人物情報を送信し、メッセージ送信サーバ200はその内容をメッセージとして特定した人物に送信する(ステップS08)。
【0029】
人物500は、メッセージ送信サーバ200が送信したメッセージを、メッセージ受信装置501で受信する。メッセージ受信装置501は、メッセージ送信サーバ200が送信したメッセージを受信できればよく、スマートフォン、パソコン等の情報端末に限らず、ユーザ利用端末10と同種の端末であっても構わない。
【0030】
以上が、本発明の好適な実施形態であるメッセージ送信システム1の概要である。
【0031】
[メッセージ送信システム1のシステム構成]
図2は、メッセージ送信システム1のシステム構成を示す。メッセージ送信システム1は、インターネット網などの公衆回線網3と、ユーザ利用端末10と、視野画像解析サーバ100と、メッセージ送信サーバ200から構成される。ユーザ利用端末10は、公衆回線網3を介して、視野画像解析サーバ100、メッセージ送信サーバ200と通信可能に接続されている。
【0032】
ここで、視野画像解析サーバ100とメッセージ送信サーバ200が物理的に同一のサーバであってもよく、これらが備える機能すべてをユーザ利用端末10が備える場合は、ユーザ利用端末10のみによってメッセージ送信システム1が構成されていてもよい。
【0033】
[各機能の説明]
図3に基づいて、各装置の構成について説明する。ユーザ利用端末10は、制御部11として、CPU(Central Processing Unit),RAM(Random Access Memory),ROM(Read Only Memory)等を備え、通信部12として、他の機器と通信可能にするためのデバイス、例えば、IEEE802.11に準拠したWiFi(Wireless Fidelity)対応デバイスを備える。また、入出力部13として、ユーザの視野を画像として取得するカメラ等の撮影機器を備え、画像や文字のメッセージを表示する液晶モニタ、投影スクリーン等の表示部と、ユーザからの入力を受付けるキーボードやタッチパネル等の入力部を備える。
【0034】
ユーザ利用端末10において、制御部11が所定のプログラムを読み込むことで、通信部12と協働して、視野画像送信モジュール14、人物情報受信モジュール15、メッセージ内容送信モジュール16を実現する。また、ユーザ利用端末10において、制御部11が所定のプログラムを読み込むことで、入出力部13と協働して、視野画像撮影モジュール17、視野画像調整モジュール18、人物情報表示モジュール19、送信先決定モジュール20、メッセージ内容入力受付モジュール21を実現する。
【0035】
視野画像解析サーバ100は、ユーザ利用端末10と同様に、制御部101として、CPU,RAM,ROM等を備え、通信部102として、例えば、IEEE802.11に準拠したWiFi対応デバイス又は、有線ケーブルによる接続可能とするデバイス等の、他の電化製品、及び無線アクセスポイントとのデータ通信を実現するデバイスを備える。データやファイルを記憶する記憶部103として、ハードディスクや半導体メモリ、記録媒体、メモリカード等による、データのストレージ部を備える。記憶部103は、特徴量データベース150と、人物情報データベース151を備える。
【0036】
視野画像解析サーバ100において、制御部101が所定のプログラムを読み込むことで、通信部102と協働して、視野画像受信モジュール104、人物情報送信モジュール105を実現する。また、視野画像解析サーバ100において、制御部101が所定のプログラムを読み込むことで、記憶部103と協働して、特徴量抽出モジュール106、人物特定モジュール107、人物情報読み込みモジュール108を実現する。
【0037】
メッセージ送信サーバ200は、視野画像解析サーバ100と同様に、制御部201として、CPU,RAM,ROM等を備え、通信部202として、例えば、IEEE802.11に準拠したWiFi対応デバイス又は、有線ケーブルによる接続可能とするデバイス等の、他の電化製品、及び無線アクセスポイントとのデータ通信を実現するデバイスを備える。
【0038】
メッセージ送信サーバ200において、制御部201が所定のプログラムを読み込むことで、通信部202と協働して、送信メッセージ受付モジュール203、メッセージ送信モジュール204を実現する。
【0039】
[視野画像内の人物の特定処理]
図4は、メッセージ送信システム1において、ユーザ利用端末10、視野画像解析サーバ100が実行する、視野画像内の人物の特定処理の手順を表したフローチャートである。この視野画像内の人物の特定処理について説明する。
【0040】
初めに、ユーザ利用端末10は、ユーザの視野画像を取得する。視野画像撮影モジュール17は、ユーザの視野画像を撮影する(ステップS11)。
図6は、眼鏡型を模したユーザ利用端末10の概要を説明するための概要図である。カメラ51は、ユーザ利用端末10のほぼ中央に存在し、ユーザの前方に向かって撮像を行うことで、ユーザの視野画像を撮影する。
【0041】
ユーザが常に真正面を向いていると近似した場合、カメラ51によって撮影した正面方向の画像を、そのままユーザの視野画像として用いてよい。しかし実際には、ユーザが同時に二人以上と対面している際、顔を固定したまま眼球を動かした場合を考慮し、ユーザの視野画像の中心をより精密に求めたい場合もある。ユーザ利用端末10の視野画像調整モジュール18は、ユーザの視線方向を取得し、視野画像の中心や範囲を調整してもよい(ステップS12)。フレームの裏に赤外線光源52、赤外線カメラ53を設置して、ユーザの眼球画像を撮影し、ユーザの視線方向を算出する等、一例として特許公開2010−204823号公報において明らかにされている手法を用いてよい。
【0042】
なお、ユーザ利用端末10のレンズ54は、ユーザ側の面に特殊な反射加工がなされており、小型投影機55によって投影される画像を視野に重ねて表示できるようになっている。また、ユーザ利用端末10は、入力部としてキーボード56やタッチパネル等を備えている。
【0043】
次に、ユーザ利用端末10の視野画像送信モジュール14は、調整された視野画像を視野画像解析サーバ100に送信する(ステップS13)。視野画像解析サーバ100の視野画像受信モジュール104は、視野画像を受信する(ステップS14)。
【0044】
視野画像解析サーバ100の特徴量抽出モジュール106は、受信した視野画像の中心付近に含まれる人物を特定するために、画像の特徴量の抽出を行う(ステップS15)。ここで特徴量とは、受信した視野画像内から、予め記憶された人物の顔や体の画像をパターンとしてパターン認識を行う際に、その評価基準となる値である。より具体的には、特徴量抽出モジュール106は、受信した視野画像の中心付近から、人の顔や体にあたる部分を特定し、当該部分を縦横に数等分し、各部分のピクセルの色の平均値を算出する。そして、顔の輪郭、鼻、眼、眉などの位置や大きさによって大きく変化する色の平均値を特徴量として扱う。
【0045】
視野画像解析サーバ100の人物特定モジュール107は、抽出された特徴量を特徴量データベース150に予め記憶された各人物の特徴量と比較し、その差を算出するとともに、各特徴量に設定された重みづけの係数を乗算し、足し合わせて正規化することで、その中のどの人物である蓋然性が高いかを算出し、その中で最も蓋然性の高い人物を視野画像の中心付近に映っている人物として特定する(ステップS16)。
【0046】
図9は、特徴量データベース150内の特徴量テーブルの一例を示したものである。ここでは簡単のため、人物が二名と、視野画像を256色と仮定し、特徴量1から特徴量5の5つの特徴量を0から255までの数字で表しているが、実際には更に多くの特徴量を、さらに広い値域で表すことで精度を向上させるのが普通である。
【0047】
その後、視野画像解析サーバ100の人物情報読み込みモジュール108は、特定した人物の情報を人物情報データベース151から読み込む。そして、人物情報送信モジュール105は、当該人物情報をユーザ利用端末10に送信する(ステップS17)。人物情報送信モジュール105は、特徴量抽出モジュール106が顔や体にあたる部分を特定した、当該部分の画像内の位置を同時に送信してもよい。
【0048】
図10は、人物情報データベース151内の人物情報テーブルの一例を示したものである。人物情報テーブルには、各人物の人物名、性別、年齢を始めとする個人情報と、メッセージの送信先とが記憶されている。
【0049】
ユーザ利用端末10の人物情報受信モジュール15は、人物情報を受信する(ステップS18)。ユーザ利用端末10の人物情報表示モジュール19は、受信した人物情報を、同時に受信した画像内の位置情報を用いて、当該人物の顔や体にあたる部分の付近に表示してもよい。
【0050】
図7は、人物情報表示モジュール19によってユーザ利用端末10に表示された人物情報の一例である。この図は、ユーザ利用端末10をユーザ側から見た場合を示している。人物61は、表示内容でなくレンズ65を透過した視野の一部であり、それに重ねて人物61の人物情報62、指示棒63、説明文64が表示されている。これらの表示内容は、眼鏡の弦に設置された小型投影機によって、レンズ65に投影されている。
【0051】
ユーザ利用端末10として、
図7のような眼鏡型の端末ではなく、液晶とカメラを備えたスマートフォン端末等を利用しても、本発明の目的を達成できる。
図8は、ユーザ利用端末10としてスマートフォン端末を利用した場合の、表示された人物情報の一例である。ユーザがスマートフォン端末10bを目の前に構えることによって、スマートフォン端末10bのカメラによって撮影された画像がユーザの視野とみなされ、タッチパネル液晶75に表示される。すなわち、ユーザは人物71を肉眼で直視せず、タッチパネル液晶75を介してその姿をみることになる。その上に
図7と同様、人物情報72、指示棒73、説明文74が表示される。加えて、タッチパネルによるソフトウェアキーボード76を利用すれば、視点たるカメラを固定したまま、ソフトウェアキーボード76を見ることができるので、眼鏡型端末と比較して入力の簡便性が高いと考えられる。ユーザは作成したメッセージ内容77を、説明文74をタップすることで、人物71に対して送信する。メッセージに視野画像を添付する際には、視野画像添付ボタン78をタップすることで、現在または過去の視野画像を添付することができる。
【0052】
以上が、メッセージ送信システム1において、ユーザ利用端末10、視野画像解析サーバ100が実行する、視野画像内の人物の特定処理の手順である。
【0053】
[メッセージの送信処理]
図4は、メッセージ送信システム1において、ユーザ利用端末10、メッセージ送信サーバ200が実行する、メッセージの送信処理の手順を表したフローチャートである。このメッセージの送信処理について説明する。
【0054】
初めに、ユーザ利用端末10の送信先決定モジュール20は、ユーザからの入力を受け付け、メッセージの送信先を決定する(ステップS21)。メッセージの送信先としては、前述した視野画像内の人物の特定処理において取得した人物情報に含まれた宛先や、過去にメッセージを送信した送信先から選択してよい。
【0055】
次に、ユーザ利用端末10のメッセージ内容送信モジュール16は、送信するメッセージ内容が入力されているかを判断する。メッセージ内容の入力が完了していない場合(ステップS22:「NO」の場合)、メッセージ内容入力受付モジュール21は、ユーザからメッセージ内容の入力を受け付ける(ステップS23)。メッセージ送信先の選択よりも前に、既にメッセージ内容入力受付モジュール21がメッセージ内容の入力を受け付けていた場合(ステップS22:「YES」の場合)には、ステップS23を行わずに処理を進める。
【0056】
その後、メッセージ内容送信モジュール16は、メッセージ内容とメッセージの送信先とを、メッセージ送信サーバ200に送信する(ステップS24)。メッセージ送信サーバ200の送信メッセージ受付モジュール203は、メッセージ内容とメッセージの送信先とを受信する(ステップS25)。
【0057】
メッセージ送信サーバのメッセージ送信モジュール204は、受信したメッセージ内容とメッセージの送信先に基づいて、メッセージの送信処理を行う(ステップS26)。当該送信処理とは、例えば、メッセージがメールであればメールデーモンのプロセスがメール送信リクエストを処理することであるし、メッセージがSNS内のメッセージ機能であれば、宛先ユーザのメッセージボックス領域にメッセージ内容を書き込むことが該当する。
【0058】
以上が、メッセージ送信システム1において、ユーザ利用端末10、メッセージ送信サーバ200が実行する、メッセージの送信処理の手順である。
【0059】
上述した手段、機能は、コンピュータ(CPU,情報処理装置,各種端末を含む)が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、フレキシブルディスク、CD(CD−ROMなど)、DVD(DVD−ROM、DVD−RAMなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記憶装置または外部記憶装置に転送し記憶して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記憶装置(記録媒体)に予め記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
【0060】
以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。