IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧

特許7586098情報処理装置、情報処理方法及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-11
(45)【発行日】2024-11-19
(54)【発明の名称】情報処理装置、情報処理方法及びプログラム
(51)【国際特許分類】
   G06F 3/041 20060101AFI20241112BHJP
   G06F 3/042 20060101ALI20241112BHJP
   G06F 3/0346 20130101ALI20241112BHJP
   G06F 3/038 20130101ALI20241112BHJP
【FI】
G06F3/041 560
G06F3/042 473
G06F3/0346 422
G06F3/038 310Y
【請求項の数】 11
(21)【出願番号】P 2021569828
(86)(22)【出願日】2020-12-23
(86)【国際出願番号】 JP2020048295
(87)【国際公開番号】W WO2021140921
(87)【国際公開日】2021-07-15
【審査請求日】2023-11-27
(31)【優先権主張番号】P 2020001790
(32)【優先日】2020-01-09
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】池田 拓也
【審査官】野田 洋平
(56)【参考文献】
【文献】特開2017-157916(JP,A)
【文献】国際公開第2014/034049(WO,A1)
【文献】特開2018-156466(JP,A)
【文献】国際公開第2018/116462(WO,A1)
【文献】特開2010-152717(JP,A)
【文献】特開2011-123580(JP,A)
【文献】特開2016-184268(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/041
G06F 3/042
G06F 3/0346
G06F 3/038
(57)【特許請求の範囲】
【請求項1】
情報処理装置と通信を確立した操作体が備える発光部を点灯させるとともに、異なる前記操作体が接近した際に、当該操作体が備える前記発光部を、互いに異なるタイミングで点滅させる発光制御部と、
前記各操作体が備える前記発光部に応じた位置を、当該操作体と関連付けて検出する検出部と、
前記操作体が情報入力状態にある場合に、前記検出部によって検出された前記発光部に対応する位置に、前記操作体と関連付いた情報を表示させる表示制御部と、
を備え
前記発光制御部は、
前記検出部が検出した前記発光部に応じた位置が、閾値距離以内に接近した場合に、複数の前記操作体が接近したと判定し、
所定時間を前記閾値距離以内に接近している前記操作体の数で除した、少なくも画像入力に要する時間を超える時間毎に、前記操作体の発光部を互いに異なるタイミングで点滅させ、
前記操作体が実行しているタスクの内容に応じて、前記所定時間内における各操作体の前記発光部の点灯時間の割合を制御する、
情報処理装置。
【請求項2】
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体及び前記別の操作体が、ともに情報入力状態である場合に、
前記操作体の発光部、及び前記別の操作体の発光部を互いに異なるタイミングで点滅させる、
請求項に記載の情報処理装置。
【請求項3】
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体が情報入力状態であって、前記別の操作体が情報入力状態でない場合に、
前記操作体の発光部を点灯させて、前記別の操作体の発光部を消灯させる、
請求項に記載の情報処理装置。
【請求項4】
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体が情報入力状態でなく、前記別の操作体が情報入力状態である場合に、
前記操作体の発光部を消灯させて、前記別の操作体の発光部を点灯させる、
請求項に記載の情報処理装置。
【請求項5】
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体及び前記別の操作体が、ともに情報入力状態でない場合に、
前記操作体の発光部、及び前記別の操作体の発光部を互いに異なるタイミングで点滅させる、
請求項に記載の情報処理装置。
【請求項6】
前記表示制御部は、
異なる前記操作体の前記発光部に応じた位置が前記閾値距離以内に接近した際に、前記操作体を遠ざけることを促す情報を表示させる、
請求項に記載の情報処理装置。
【請求項7】
前記閾値距離は、
前記操作体の移動速度又は移動方向に基づいて設定される、
請求項に記載の情報処理装置。
【請求項8】
前記操作体の前記発光部に応じた位置と、前記操作体とは別の複数の操作体の前記発光部に応じた位置と、が前記閾値距離以内に接近して、尚且つ、前記別の複数の操作体の前記発光部に応じた位置の中に、前記閾値距離よりも離れた位置がある場合に、
前記発光制御部は、前記操作体の前記発光部に応じた位置から前記閾値距離以内に接近している全ての前記操作体の前記発光部を、互いに異なるタイミングで点滅させる、
請求項に記載の情報処理装置。
【請求項9】
前記操作体の前記発光部に応じた位置と、前記操作体とは別の複数の操作体の前記発光部に応じた位置と、が前記閾値距離以内に接近して、尚且つ、前記別の複数の操作体の前記発光部に応じた位置の中に、前記閾値距離よりも離れた位置がある場合に、
前記発光制御部は、少なくとも、前記閾値距離以内に接近している前記位置に係る前記発光部を、互いに異なるタイミングで点滅させる、
請求項に記載の情報処理装置。
【請求項10】
情報処理装置と通信を確立した操作体が備える発光部を点灯させるとともに、異なる前記操作体が接近した際に、当該操作体が備える前記発光部を、互いに異なるタイミングで点滅させる発光制御プロセスと、
前記各操作体が備える前記発光部に応じた位置を、当該操作体と関連付けて検出する検出プロセスと、
前記操作体が情報入力状態にある場合に、前記検出プロセスによって検出された前記発光部に対応する位置に、前記操作体と関連付いた情報を表示させる表示制御プロセスと、
を備え
前記発光制御プロセスは、
前記検出プロセスが検出した前記発光部に応じた位置が、閾値距離以内に接近した場合に、複数の前記操作体が接近したと判定し、
所定時間を前記閾値距離以内に接近している前記操作体の数で除した、少なくも画像入力に要する時間を超える時間毎に、前記操作体の発光部を互いに異なるタイミングで点滅させ、
前記操作体が実行しているタスクの内容に応じて、前記所定時間内における各操作体の前記発光部の点灯時間の割合を制御する、
情報処理方法。
【請求項11】
コンピュータを、
情報処理装置と通信を確立した操作体が備える発光部を点灯させるとともに、異なる前記操作体が接近した際に、当該操作体が備える前記発光部を、互いに異なるタイミングで点滅させる発光制御部と、
前記各操作体が備える前記発光部に応じた位置を、当該操作体と関連付けて検出する検出部と、
前記操作体が情報入力状態にある場合に、前記検出部によって検出された前記発光部に対応する位置に、前記操作体と関連付いた情報を表示させる表示制御部と、
して機能させ
前記発光制御部は、
前記検出部が検出した前記発光部に応じた位置が、閾値距離以内に接近した場合に、複数の前記操作体が接近したと判定し、
所定時間を前記閾値距離以内に接近している前記操作体の数で除した、少なくも画像入力に要する時間を超える時間毎に、前記操作体の発光部を互いに異なるタイミングで点滅させ、
前記操作体が実行しているタスクの内容に応じて、前記所定時間内における各操作体の前記発光部の点灯時間の割合を制御する、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理方法及びプログラムに関し、特に、複数の電子ペンが近接している場合であっても、各電子ペンに対応する位置を確実に捕捉することが可能な情報処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【0002】
従来、電子ペンを用いて表示画面上に図形や文字を書き込んだり、UI(User Interface)操作をしたりするインタラクティブプロジェクタが製品化されている。このようなシステムでは、通常電子ペンから発光される光、主に赤外光(IR光)をカメラで撮像して、その撮像画像を解析することによって電子ペンの位置を検出している(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【文献】国際公開第2019/130696号
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1では、複数の電子ペンが発光するIR光が互いに近接した場合に、これらのIR光を分離して検出するのが難しいという問題があった。これは、IR光を撮像するカメラが、互いに近接したIR光を、同一の輝点であると認識してしまうためである。
【0005】
本開示では、複数の電子ペンが近接している場合であっても、各電子ペンに対応する位置を確実に捕捉することが可能な情報処理装置、情報処理方法及びプログラムを提案する。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本開示に係る一形態の情報処理装置は、当該情報処理装置と通信を確立した操作体が備える発光部を点灯させるとともに、異なる前記操作体が接近した際に、当該操作体が備える前記発光部を、互いに異なるタイミングで点滅させる発光制御部と、前記各操作体が備える前記発光部に応じた位置を、当該操作体と関連付けて検出する検出部と、前記操作体が情報入力状態にある場合に、前記検出部によって検出された前記発光部に対応する位置に、前記操作体と関連付いた情報を表示させる表示制御部と、を備える情報処理装置である。
【図面の簡単な説明】
【0007】
図1】第1の実施形態に係るインタラクティブプロジェクタのシステム構成図である。
図2】電子ペンの概略構造を示す概略構造図である。
図3】インタラクティブプロジェクタの機能構成の一例を示す機能ブロック図である。
図4】第1の実施形態の情報処理装置及び電子ペンが行う処理の流れの一例を示すフローチャートである。
図5】電子ペンの入力位置検出処理及びID識別処理の流れの一例を示すフローチャートである。
図6】第1の実施形態に係るインタラクティブプロジェクタが電子ペンを識別する処理の流れを示すタイムチャートである。
図7】輝点検出方法を説明する図である。
図8】輝点の距離に基づくID入れ替わり判定処理の概要を説明する図である。
図9】輝点の距離が閾値距離以内である場合に、発光制御部が発行するIR LED制御命令を説明する図である。
図10】電子ペン2本の場合のID入れ替わり防止例を示すタイムチャートである。
図11】電子ペン3本の場合のID入れ替わり防止例を示すタイムチャートである。
図12】電子ペンのID入れ替わり防止判定処理の流れの一例を示すフローチャートである。
図13】電子ペンの状態遷移の一例を示す状態遷移図である。
図14】検出された輝点位置を、カメラ座標系からプロジェクタスクリーン座標系に変換する処理の流れを説明する図である。
図15】閾値距離以内に接近した複数の電子ペンを含むグループの一部が重複した状態の一例を示す図である。
図16】和集合に属する全ての電子ペンのIR LEDを時分割発光させる例を示すタイムチャートである。
図17】各グループ内で発光パターンが重複しないように電子ペンのIR LEDを点滅させる例を示すタイムチャートである。
図18】本開示の応用例であるシューティングシステムの概要図である。
図19】本開示の応用例であるミニカー走行競技システムの概要を示す第1の図である。
図20】本開示の応用例であるミニカー走行競技システムの概要を示す第2の図である。
図21】本開示の応用例であるベーゴマ競技システムの概要を示す図である。
図22】本開示の応用例であるエアーホッケーシステムの概要を示す図である。
図23】本開示の応用例であるボルダリングシステムの概要を示す図である。
図24】本開示の応用例である群ロボット制御システムの概要を示す図である。
図25】本開示の応用例であるAR/VR応用システムの概要を示す図である。
【発明を実施するための形態】
【0008】
以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより、重複する説明を省略する。
【0009】
また、以下に示す項目順序に従って本開示を説明する。
1.第1の実施形態
1-1.第1の実施形態に係るインタラクティブプロジェクタの説明
1-2.電子ペンの構造の説明
1-3.インタラクティブプロジェクタの機能構成の説明
1-4.情報処理装置及び電子ペンが行う処理の流れの説明
1-5.電子ペンの入力位置検出処理及びID識別処理の説明
1-6.輝点検出方法の説明
1-7.電子ペンの入れ替わり防止判定処理の説明
1-8.電子ペンの状態遷移の説明
1-9.電子ペン入力結果反映方法の説明
1-10.第1の実施形態の効果
2.第2の実施形態
3.第3の実施形態
4.第4の実施形態
5.第5の実施形態
6.本開示の応用例(1)
7.本開示の応用例(2)
8.本開示の応用例(3)
9.本開示の応用例(4)
10.本開示の応用例(5)
11.本開示の応用例(6)
12.本開示の応用例(7)
【0010】
(1.第1の実施形態)
まず、本開示の第1の実施形態である情報処理装置10aについて説明する。
【0011】
[1-1.第1の実施形態に係るインタラクティブプロジェクタの説明]
第1の実施形態は、本開示の情報処理装置10aを、ホワイトボード26に複数の電子ペンで描画された位置情報を取得して、取得された位置情報に対応する位置に、プロジェクタによって情報を投影する、インタラクティブプロジェクタ5aに適用した例である。図1は、第1の実施形態に係るインタラクティブプロジェクタのシステム構成図である。インタラクティブプロジェクタ5aは、情報処理装置10aと、複数の電子ペン12(12a,12b,12c,…)と、カメラ20と、プロジェクタ22と、無線通信モジュール24とを備える。
【0012】
電子ペン12は、ホワイトボード等に接触させた状態で移動させることによって、文字や図形等の情報入力を行う情報入力デバイスである。電子ペン12は、各々が異なる識別番号(ID)を有して、複数のユーザによって同時に使用され得る。なお、電子ペン12は、本開示における操作体の一例である。
【0013】
カメラ20は、電子ペン12が照射する赤外光を観測可能なカメラである。なお、カメラ20は、電子ペン12が照射する赤外光の波長帯の光のみを通す光学フィルタを装着してもよい。カメラ20は、プロジェクタ22の近傍に設置されて、少なくともプロジェクタ22の投影範囲を網羅する領域を撮像する。なお、カメラ20の光軸と、プロジェクタ22の光軸とは、略平行に設置されるのが望ましい。
【0014】
プロジェクタ22は、ホワイトボード26に対して、電子ペン12によって情報入力がなされた位置に、当該電子ペン12の軌跡に応じた情報を投影する。電子ペン12の軌跡に応じた位置とは、例えば電子ペン12のペン先とホワイトボード26との接触位置である。電子ペン12に応じた情報とは、例えば、当該電子ペン12によって設定された線の色、線の太さ、線の種類等である。
【0015】
無線通信モジュール24は、情報処理装置10aと電子ペン12とを無線接続する。無線接続の形態は、例えばBluetooth(登録商標)接続であるが、これに限定されるものではなく、例えば、無線LAN(Local Area Network)やZigBee(登録商標)等であってもよい。
【0016】
情報処理装置10aは、カメラ20が撮像した画像の中から、ホワイトボード26と電子ペン12との接触位置を検出する。具体的には、ホワイトボード26と電子ペン12との接触は、電子ペン12に搭載されたスイッチ14(図2参照)のON/OFF状態に応じて決定される。そして、ホワイトボード26と電子ペン12との接触位置は、カメラ20が撮像した画像に含まれる、電子ペン12に搭載されたIR LED13(図2参照)による輝点の位置に基づいて検出される。また、情報処理装置10aは、プロジェクタ22に対して、検出された接触位置に応じた位置に、電子ペン12に応じた情報を投影させる。
【0017】
なお、図1に示すプロジェクタ22の代わりに、ホワイトボード26の代用となるディスプレイを用いて、電子ペン12によってディスプレイの表面に情報入力を行う構成としてもよい。また、プロジェクタ22の代わりに、ホワイトボード26の位置にスクリーンを設置して、当該スクリーンの裏面側から情報を投影するリアプロジェクションを用いてもよい。更に、スピーカ等の音出力装置を組み合わせてもよい。また、プロジェクタ22は、例えば駆動機構を有して、任意の方向へ投影可能な装置であってもよい。このような機構を有することで、1カ所だけでなく、様々な箇所に映像を表示でき、かつインタラクティブ機能を実現することが可能になる。
【0018】
[1-2.電子ペンの構造の説明]
以下、図2を用いて、電子ペン12の構造について説明する。図2は、電子ペンの概略構造を示す概略構造図である。
【0019】
電子ペン12は、IR LED13と、スイッチ14と、CPU(Central Processing Unit)15と、無線通信モジュール16とを備える。
【0020】
IR LED13は、電子ペン12のペン先に内蔵された、人間には不可視で、カメラ20(図1参照)が備える撮像素子が感度を有する波長の赤外光を発するLEDである。IR LED13は、例えば、LEDのチップの前面が、ペン先の方向を向く砲弾型の樹脂モールド17で封止された形状を有する。樹脂モールド17がレンズの役割を果たすため、IR LED13から出射した光は、ペン先の近傍に、砲弾の形状に応じたサイズの輝点を形成する。したがって、電子ペン12のペン先をホワイトボード26に押し付けた状態にある場合にIR LED13を点灯させると、前記したカメラ20は、ホワイトボード26の表面に、IR LED13から放射されたIR光による輝点を観測する(図8参照)。なお、IR LED13は、本開示における発光部の一例である。
【0021】
なお、電子ペン12は、可視光を照射するLEDを備えても、以下に説明するのと同様の作用を実現することができる。但し、可視光を照射するLEDを用いる場合は、カメラ20が備える撮像素子は、LEDの発光波長の光に対して感度を持っている必要がある。さらに、カメラ20が観測した画像に中に、LEDの発光波長と同色の物体が存在する場合はノイズとなるため、場合によってはこのようなノイズを除去する信号処理を行う必要がある。
【0022】
また、樹脂モールド17の側面は拡散面になっており、IR LED13を点灯させると、電子ペン12のペン先自体も拡散光を放射する。したがって、IR LED13が点灯した状態で、電子ペン12をホワイトボード26の表面から離した場合、カメラ20は、電子ペン12のペン先がIR光を放射して光っている状態を観測する。これによって、後述するように、情報処理装置10aは、ホワイトボード26の表面から離れた電子ペン12のペン先の位置をトラッキングすることができる(図13の状態Sg参照)。なお、IR LED13は、本開示における発光部の一例である。
【0023】
なお、複数の電子ペン12(12a,12b,12c,…)が備えるIR LED13は、いずれも同じ波長の赤外光を発するものとする。
【0024】
スイッチ14は、電子ペン12のペン先に作用する押圧力に応じて作動するスイッチである。即ち、電子ペン12のペン先をホワイトボード26や壁等の固定物に押し付けると、スイッチ14が押されてON状態となり、離すと元に戻ってOFF状態となる機構を備える。情報処理装置10aは、スイッチ14の作動状態に基づいて、電子ペン12がホワイトボード26に押し付けられているかどうか、即ち、電子ペン12が入力状態かどうかを判定する。
【0025】
CPU15は、情報処理装置10aから受信した制御指令に基づいて、IR LED13の点灯状態を制御する。また、CPU15は、スイッチ14の状態を検出する。更に、CPU15は、情報処理装置10aから、IR LED13の点灯状態に係る制御指令を受信するとともに、IR LED13の点灯状態とスイッチ14の状態とを情報処理装置10aに送信する。
【0026】
無線通信モジュール16は、情報処理装置10aと無線通信を行い、スイッチ14やIR LED13の状態を情報処理装置10aに送信する。
【0027】
なお、本実施形態では、電子ペン12は、図2に示すように、ペンの形状をしたデバイスを想定する。しかし、電子ペン12は、異なる形状のデバイスで構築されていてもよい。例えば、電子ペン12は、スプレー缶のように、ユーザが吹きかけるように動作させるものとしてもよいし、手足に身に着けるデバイスとしてもよい。
【0028】
[1-3.インタラクティブプロジェクタの機能構成の説明]
次に、図3を用いて、インタラクティブプロジェクタ5aの機能構成について説明する。図3は、インタラクティブプロジェクタの機能構成の一例を示す機能ブロック図である。
【0029】
まず、情報処理装置10aの機能構成について説明する。情報処理装置10aは、カメラ20の撮影画像や電子ペン12からの無線情報を受信し、内部処理を行った後、プロジェクタ22から投影する情報を生成してプロジェクタ22へ送信する。また、各電子ペン12へ、IR LED13の点灯状態を制御する制御命令を送信する。
【0030】
情報処理装置10aは、ID管理部30と、通信管理部31と、発光認識部32と、座標変換部33と、電子ペン制御部34と、記憶部35と、入出力制御部36とを備える。
【0031】
ID管理部30は、電子ペン12の識別番号(ID)と、当該電子ペン12が備えるIR LED13の発光状態とを管理する。
【0032】
通信管理部31は、各電子ペン12の通信デバイス情報、例えば、電子ペン12aの識別番号は「AA」であり、電子ペン12bの識別番号は「BB」である等の情報を管理する。
【0033】
発光認識部32は、カメラ20で撮像された画像を解析し、電子ペン12が形成した輝点の位置(カメラ座標系における座標値)を検出する。なお、発光認識部32は、本開示における検出部の一例である。
【0034】
座標変換部33は、カメラ20で撮像された画像の中から検出された輝点の位置を、プロジェクタ22が投影するプロジェクタスクリーン座標系における座標値へと変換する。具体的には、カメラ20とプロジェクタ22とホワイトボード26との位置関係に基づいて決定する射影行列を用いて、座標変換を行う。
【0035】
電子ペン制御部34は、電子ペン12が備えるIR LED13の発光状態の制御、及び複数の電子ペン12が近接にある時のID入れ替わり防止判定等を行う。電子ペン制御部34は、更に、発光制御部34aと、ID入れ替わり防止判定部34bと、通信制御部34cと、紐付け処理部34dとを備える。
【0036】
発光制御部34aは、情報処理装置10aと通信を確立した電子ペン12(操作体)が備えるIR LED13(発光部)を点灯させる。また、発光制御部34aは、異なる電子ペン12が、所定の閾値距離以内に接近した際に、当該電子ペン12が備えるIR LED13(発光部)を、互いに異なるタイミングで点滅させる。
【0037】
ID入れ替わり防止判定部34bは、複数のIR LED13が所定距離以内に接近した場合に、ある電子ペン12による輝点を、別の電子ペン12による輝点であると誤認識して、輝点の位置に対応付けた電子ペン12のIDが入れ替わってしまうのを防止する入れ替わり防止判定処理を行う。具体的な処理の内容は後述する。
【0038】
通信制御部34cは、電子ペン12から情報処理装置10aに送信された、スイッチ14の状態の受信、及び情報処理装置10aから電子ペン12へのIR LED13の発光命令の送信を行う。
【0039】
紐付け処理部34dは、カメラ20が検出したIR LED13の輝点の位置と電子ペン12のIDとを紐付けて、記憶部35に記憶させる。
【0040】
記憶部35は、IR LED13の輝点の位置と電子ペン12のIDとを紐付けた情報等を記憶する。記憶部35は、例えば、フラッシュROM等で構成される。
【0041】
入出力制御部36は、電子ペン12から送信されるスイッチ14の状態に基づいて、電子ペン12が情報入力状態にあるかを判定する。また、入出力制御部36は、情報処理装置10aと、当該情報処理装置10aに接続されたカメラ20、プロジェクタ22、無線通信モジュール24との間における情報の入出力を制御する。なお、入出力制御部36は、本開示における表示制御部の一例である。
【0042】
電子ペン12は、通信制御部40と、発光状態切替処理部41と、入出力制御部42とを備える。
【0043】
通信制御部40は、情報処理装置10aへの電子ペン12のスイッチ14の状態の送信、及び情報処理装置10aから送信されるIR LED13の発光命令の受信等を行う。
【0044】
発光状態切替処理部41は、情報処理装置10aから受信したIR LED13の発光命令に応じて、IR LED13の点灯状態(消灯、点灯、点滅)を切り替える。
【0045】
入出力制御部42は、スイッチ14とIR LED13と無線通信モジュール16と、CPU15との間における情報の入出力を制御する。
【0046】
[1-4.情報処理装置及び電子ペンが行う処理の流れの説明]
次に、情報処理装置10a及び電子ペン12が行う一連の処理の流れを説明する。図4は、第1の実施形態の情報処理装置及び電子ペンが行う処理の流れの一例を示すフローチャートである。
【0047】
まず、電子ペン12が行う処理の流れを説明する。無線通信モジュール16は、無線通信モジュール24と通信を行い、Blue Tooth接続(以下BT接続と呼ぶ)が完了したかを判定する(ステップS11)。BT接続が完了したと判定されるとステップS12に進む。一方、BT接続が完了したと判定されないとステップS11を繰り返す。
【0048】
通信制御部40は、情報処理装置10aに対して、電子ペン12のIDを送信する(ステップS12)。
【0049】
入出力制御部42は、情報処理装置10aからIR LED制御命令を受信したかを判定する(ステップS13)。IR LED制御命令を受信したと判定される(ステップS13:Yes)とステップS14に進む。一方、IR LED制御命令を受信したと判定されない(ステップS13:No)とステップS15に進む。
【0050】
ステップS13においてYesと判定されると、発光状態切替処理部41は、情報処理装置10aから受信したIR LED制御命令に応じて、IR LED13の点灯状態(消灯、点灯、点滅)を切り替える(ステップS14)。その後、ステップS15に進む。
【0051】
ステップS13においてNoと判定されるか、又はステップS14の実行に引き続いて、入出力制御部42は、電子ペン12のスイッチ状態の変化を検知したかを判定する(ステップS15)。電子ペン12のスイッチ状態の変化を検知したと判定される(ステップS15:Yes)とステップS16に進む。一方、電子ペン12のスイッチ状態の変化を検知したと判定されない(ステップS15:No)とステップS17に進む。
【0052】
ステップS15においてYesと判定されると、通信制御部40は、電子ペン12のスイッチ状態変化イベント、即ち、スイッチ14がOFFからONに変化したか、又はONからOFFに変化したかを示す情報を、情報処理装置10aに送信する(ステップS16)。その後、ステップS17に進む。
【0053】
ステップS15においてNoと判定されるか、又はステップS16の実行に引き続いて、入出力制御部42は、情報処理装置10aとの通信結果に基づいて、情報処理装置10aが実行しているアプリケーションが終了したか、又は情報処理装置10aの電源がOFFになったかを判定する(ステップS17)。情報処理装置10aが実行しているアプリケーションが終了したか、又は情報処理装置10aの電源がOFFになったと判定される(ステップS17:Yes)と電子ペン12は、図4の処理を終了する。一方、情報処理装置10aが実行しているアプリケーションが終了したか、又は情報処理装置10aの電源がOFFになったと判定されない(ステップS17:No)と、ステップS13に戻って、前記した各処理を繰り返す。
【0054】
次に、情報処理装置10aが行う処理の流れを説明する。まず、ID管理部30は、新たな電子ペン12が接続されたかを判定する(ステップS21)。新たな電子ペン12が接続されたと判定される(ステップS21:Yes)とステップS22に進む。一方、新たな電子ペン12が接続されたと判定されない(ステップS21:No)とステップS21を繰り返す。
【0055】
ステップS21においてYesと判定されると、発光認識部32及び紐付け処理部34dは、電子ペン12の入力位置検出処理及びID識別処理を行う(ステップS22)。なお、ステップS22で行われる処理の内容について、詳しくは後述する(図5参照)。
【0056】
ID入れ替わり防止判定部34bは、ID入れ替わり防止判定処理を行う(ステップS23)。なお、ステップS23で行われる処理の内容について、詳しくは後述する(図12参照)。
【0057】
通信制御部34cは、判定結果に応じたIR LED13の制御命令を、電子ペン12に送信する(ステップS24)。
【0058】
座標変換部33は、電子ペン12によって入力された、カメラ座標系における輝点の位置を、プロジェクタ22が生成する投影像のプロジェクタスクリーン座標系に変換する座標変換処理を行う(ステップS25)。
【0059】
入出力制御部36は、プロジェクタ22に対して、ステップS25で座標変換した映像を投影させる(ステップS26)。その後、ステップS27に進む。
【0060】
ステップS26に続いて、入出力制御部36は、アプリケーションが終了したか、又は情報処理装置10aの電源がOFFになったかを判定する(ステップS27)。アプリケーションが終了したか、又は情報処理装置10aの電源がOFFになったと判定される(ステップS27:Yes)と情報処理装置10aは、図4の処理を終了する。一方、アプリケーションが終了したか、又は情報処理装置10aの電源がOFFになったと判定されない(ステップS27:No)とステップS21に戻る。
【0061】
[1-5.電子ペンの入力位置検出処理及びID識別処理の説明]
次に、図5を用いて、電子ペンの入力位置検出処理及びID識別処理の流れを説明する。図5は、電子ペンの入力位置検出処理及びID識別処理の流れの一例を示すフローチャートである。
【0062】
ID管理部30は、未検出の電子ペン12が存在するかを判定する(ステップS31)。未検出の電子ペン12が存在すると判定される(ステップS31:Yes)とステップS32に進む。一方、未検出の電子ペン12が存在すると判定されない(ステップS31:No)とステップS33に進む。なお、未検出の電子ペン12が存在するかは、BT接続された電子ペン12のうち、当該電子ペン12のIDと輝点位置とが対応付いていない電子ペン12が存在するかによって判定される。
【0063】
ステップS31においてYesと判定されると、発光制御部34aは、未検出の電子ペン12に対して、IR LED13を点灯させる制御命令を送信する(ステップS32)。
【0064】
次に、発光認識部32は、ステップS32の処理によって点灯したIR LED13による輝点位置を検出する(ステップS33)。
【0065】
紐付け処理部34dは、現在着目している電子ペン12を表す変数iを、i=0にセットする(ステップS34)。例えば、電子ペン12が3本ある場合、変数iはi=0,1,2の値をとる。
【0066】
紐付け処理部34dは、変数iが、画像解析によって検出された輝点の総数nよりも小さいかを判定する(ステップS35)。変数iが輝点の総数nよりも小さいと判定される(ステップS35:Yes)とステップS36に進む。一方、変数iが輝点の総数nよりも小さいと判定されない(ステップS35:No)と、図5の処理を終了してメインルーチン(図4のステップS23)に戻る。
【0067】
ステップS35においてYesと判定されると、ID管理部30は、IR LED13の状態を判定する(ステップS36)。IR LED13が点灯状態にあると判定されると、ステップS37に進む。一方、IR LED13が点滅状態にあると判定されると、ステップS40に進む。
【0068】
ステップS36において、IR LED13が点灯状態にあると判定されると、紐付け処理部34dは、当該IR LED13に対して、前フレームでID付与済かを判定する(ステップS37)。前フレームでID付与済であると判定される(ステップS37:Yes)と、ステップS38に進む。一方、前フレームでID付与済であると判定されない(ステップS37:No)と、ステップS42に進む。
【0069】
ステップS36に戻り、IR LED13が点滅状態にあると判定されると、ID管理部30は、IR LED13の発光パターンを解析する(ステップS40)。
【0070】
次に、ID管理部30は、発光パターンに該当する電子ペンIDを付与する(ステップS41)。その後、ステップS39に進む。
【0071】
ステップS37に戻り、ステップS37においてYesと判定されると、紐付け処理部34dは、前フレームのIDを付与する(ステップS38)。その後、ステップS39に進む。
【0072】
一方、ステップS37においてNoと判定されると、紐付け処理部34dは、最後にIR LED13に対して点灯命令を送信した電子ペンIDを付与する(ステップS42)。その後、ステップS39に進む。
【0073】
ステップS38、S41、S42に続いて、紐付け処理部34dは、変数iをインクリメントする(ステップS39)。その後、ステップS35に戻る。
【0074】
このように、図5のフローチャートを実行することによって、新たな輝点が検出される度に、電子ペン12の新たなIDが付与されるとともに、一度IDが付与された輝点は、同じIDが付与された状態でトラッキングされる。
【0075】
次に、図6を用いて、インタラクティブプロジェクタ5aが電子ペン12を識別する処理の流れをタイムチャートで説明する。図6は、第1の実施形態に係るインタラクティブプロジェクタが電子ペンを識別する処理の流れを示すタイムチャートである。
【0076】
図6に示すように、2本の電子ペン(電子ペン12a及び電子ペン12b)が存在する場合を想定する。2本のペンそれぞれには、識別番号(ID)が記憶されている。ここでは、識別番号の例として、電子ペン12aの識別番号が「AA」であり、電子ペン12bの識別番号が「BB」であるとする。
【0077】
時刻t1において、電子ペン12aと情報処理装置10aとがBT接続される。
【0078】
時刻t2において、情報処理装置10aは、BT接続された電子ペン12aに対して、IR LED13を点灯させる制御命令を送信する。電子ペン12aは、この制御命令を受信して、IR LED13を点灯させる。このとき、カメラ20が撮像したカメラ画像には、電子ペン12aのIR LED13の発光によって生じた輝点が観測される。
【0079】
時刻t3において、電子ペン12aがホワイトボード26に押し当てられて、ペン先のスイッチ14がONになる。このとき、電子ペン12aから情報処理装置10aに、電子ペン12aの識別番号「AA」と、スイッチ14がONになったことを示す情報が送られる。このとき、カメラ20が撮像したカメラ画像には、電子ペン12aのIR LED13の発光によって生じた輝点が観測される。その後、電子ペン12aはホワイトボード26に描画を行う。
【0080】
時刻t4において、電子ペン12bと情報処理装置10aとがBT接続される。
【0081】
時刻t5において、情報処理装置10aは、BT接続された電子ペン12bに対して、IR LED13を点灯させる制御命令を送信する。電子ペン12bは、この制御命令を受信して、IR LED13を点灯させる。このとき、カメラ20が撮像したカメラ画像には、電子ペン12aのIR LED13の発光によって生じた輝点と、電子ペン12bのIR LED13の発光によって生じた輝点とが観測される。
【0082】
時刻t6において、電子ペン12bがホワイトボード26に押し当てられて、ペン先のスイッチ14がONになる。このとき、電子ペン12bから情報処理装置10aに、電子ペン12bの識別番号「BB」と、スイッチ14がONになったことを示す情報が送られる。このとき、カメラ20が撮像したカメラ画像には、電子ペン12aのIR LED13の発光によって生じた輝点と、電子ペン12bのIR LED13の発光によって生じた輝点とが観測される。その後、電子ペン12a、12bはホワイトボード26に描画を行う。
【0083】
なお、情報処理装置10aは、電子ペン12のIR LED13の輝点が検出されて、当該電子ペン12のIDが識別されて、電子ペン12のスイッチ14がONになっているときのみ、電子ペン12による描画入力を受け付けて、アプリケーションに対して描画入力結果を反映させる。
【0084】
[1-6.輝点検出方法の説明]
次に、図7を用いて、発光認識部32が、IR LED13によって生じる輝点を検出する方法を説明する。図7は、輝点検出方法を説明する図である。
【0085】
発光認識部32は、カメラ20が撮像した画像Iaを、所定の明るさ閾値で2値化することによって、2値画像Ibを生成する。
【0086】
次に、発光認識部32は、2値画像Ibの輪郭を抽出する(画像Ic)。
【0087】
そして、発光認識部32は、画像Icにおける輪郭の重心位置Gを求める(画像Id)。このようにして求めた重心位置Gを、輝点の位置とする。
【0088】
なお、輝点の位置を算出する方法は、図7の方法に限定されるものではない。例えば、2値画像Ibにおける輝点の領域の面積重心を求めて、輝点の位置としてもよい。
【0089】
また、複数の電子ペン12が同時に使用されている場合、画像Iaの中には、複数の輝点が観測される。そのため、発光認識部32は、2値画像Ibに対して、各領域に番号を付与するラベリング処理を行う。そして、ラベリングされた各領域に対して、図7に示す画像処理を適用することによって、各輝点の位置を求める。
【0090】
[1-7.電子ペンのID入れ替わり防止判定処理の説明]
次に、図8を用いて、電子ペン12のID入れ替わり防止判定処理について説明する。図8は、輝点の距離に基づくID入れ替わり判定処理の概要を説明する図である。
【0091】
複数の電子ペン12(例えば電子ペン12a(ID:AA)と電子ペン12b(ID:BB))で同時に描画を行う場合、図8に示すように、電子ペン12aと電子ペン12bとが近接する場合がある。このような場合、情報処理装置10aは、電子ペン12aによって生じた輝点の位置を、電子ペン12bによって生じた輝点の位置であると誤認識する可能性がある。例えば、図8において、電子ペン12aと電子ペン12bとが接触する直前で、それぞれUターンしたとする。この場合、情報処理装置10aは、電子ペン12aと電子ペン12bとがクロスしたものと判断して、電子ペン12aによって生じた輝点を電子ペン12bによって生じた輝点であると誤認識する可能性がある。そして、同様に、電子ペン12bによって生じた輝点を電子ペン12aによって生じた輝点であると誤認識する可能性がある。このような誤認識が発生すると、電子ペン12aによって生じた輝点にID:BBが付与されて、電子ペン12bによって生じた輝点にID:AAが付与される。即ち、ID入れ替わりが発生する。
【0092】
本実施形態の情報処理装置10aは、このようなID入れ替わりを防止するために、複数の電子ペン12によって生じた輝点の位置が閾値距離d以内である場合に、それぞれの電子ペン12の状態に応じたIR LED制御命令を発行する。具体的には、例えば、2本の電子ペン12a,12bがともに入力状態(描画状態)にあって、閾値距離d以内に接近した場合には、電子ペン12a,12bを時分割で点滅させることによって、各電子ペンによって生じた輝点の位置を確実に検出できるようにする。なお、閾値距離d以内に接近するのは、複数の電子ペン12のIR LED13の発光によって生じた、複数の輝点位置であるが、以下、簡単のため、「複数の電子ペン12が閾値距離d以内に接近した場合」と表現する。
【0093】
なお、閾値距離dは、カメラ20が撮像した画像における検出位置の差ではなく、プロジェクタ22が投影する実寸サイズに座標変換した値に基づいて判定するのが望ましい。情報処理装置10aは、後述するように、電子ペン12の入力結果をプロジェクタ22によってホワイトボード26に投影する際に、検出された輝点位置をプロジェクタスクリーン座標系に変換する。この時、ホワイトボード26の実寸サイズを計測しておくことで、カメラ20が撮像した画像における輝点位置の距離を、実寸サイズにスケール倍する事が可能であり、変換後の座標値が閾値距離d以内に接近しているかの閾値判定を行うことができる。なお、閾値距離dは、ユーザが自由に設定できるパラメータとしても良いし、製造時に固定の閾値距離dを設定してもよい。また、第4の実施形態で説明するように、電子ペン12の描画状態に応じて、閾値距離dを動的に変化させても良い。
【0094】
閾値距離dを、IR LED13の輝点をカメラ20から観測したサイズを、実寸に変換して設定した例を示す。例えば、実寸サイズに変換したIR LED13による輝点の直径が5cmであった場合、閾値距離dをd=20cm(輝点の直径+10cm)に設定する。これは、IR LED13が観測された時の輝点領域の最小距離が10cmとなるようした例であり、IR LED13の発光パターンを変更して、カメラ20で検知した際に、発光パターンからID識別ができるまでのバッファとして10cm分付与して設定した例である。
【0095】
次に、図9を用いて、複数の電子ペン12によって生じた輝点の位置が閾値距離d以内である場合に、発光制御部34a(図3参照)が発行するIR LED制御命令の内容を説明する。図9は、輝点の距離が閾値距離以内である場合に、発光制御部が発行するIR LED制御命令を説明する図である。
【0096】
図9において、電子ペン12の状態が「入力中」とは、IR LED13による輝点が検出されて、当該輝点を形成したIR LED13を発光している電子ペン12の識別番号が識別されて、尚且つ、当該電子ペン12のスイッチ14がONになっている状態を示す。そして、「非入力中」とは、IR LED13による輝点が検出されて、当該輝点を形成したIR LED13を発光している電子ペン12の識別番号が識別されて、尚且つ、当該電子ペン12のスイッチ14がOFFになっている状態を示す。
【0097】
以下、図9に示す(a)から(d)の4通りの場合について、具体的に説明する。なお、説明を簡単にするため、着目している電子ペン12(制御対象の電子ペン12)に対して、他の電子ペン12が閾値距離d以内に接近した場合を想定する。
【0098】
状態(a)は、制御対象の電子ペン12と、他の電子ペン12が、ともに「入力中」の場合である。この場合、情報処理装置10aは、双方の電子ペン12に対して、時分割で交互に点滅する制御命令を送信する。
【0099】
状態(b)は、制御対象の電子ペン12が「入力中」で、他の電子ペン12が「非入力中」の場合である。この場合、情報処理装置10aは、制御対象の電子ペン12に対して、IR LED13を点灯させる制御命令を送信する。また、他の電子ペン12に対して、IR LED13を消灯させる制御命令を送信する。
【0100】
状態(c)は、制御対象の電子ペン12が「非入力中」で、他の電子ペン12が「入力中」の場合である。この場合、情報処理装置10aは、制御対象の電子ペン12に対して、IR LED13を消灯させる制御命令を送信する。また、他の電子ペン12に対して、IR LED13を点灯させる制御命令を送信する。
【0101】
状態(d)は、制御対象の電子ペン12と、他の電子ペン12が、ともに「非入力中」の場合である。この場合、情報処理装置10aは、双方の電子ペン12に対して、時分割で交互に点滅する制御命令を送信する。
【0102】
状態(a)のようにIR LED13を時分割で交互に点滅させると、特定の電子ペン12に係る輝点の発生時間が短くなるため、輝点位置を検出する際のフレームレートが低下する。したがって、状態(b)、状態(c)のように、「入力中」の電子ペン12が1本である場合は、「非入力中」の電子ペン12のIR LED13は消灯することによって、ロスト状態とする。このように、「入力中」の電子ペン12が1本しかない状態を作り出すことによって、フレームレートの低下を抑えることができる。
【0103】
また、状態(d)のように2本の電子ペン12がともに「非入力中」である場合は、ID識別を継続するために、IR LED13を時分割で点滅させる。この場合、フレームレートは低下するが、各電子ペン12に係る輝点位置のトラッキングを継続することができる。
【0104】
次に、図10図11を用いて、具体的なID入れ替わり防止例を説明する。図10は、電子ペン2本の場合のID入れ替わり防止例を示すタイムチャートである。図11は、電子ペン3本の場合のID入れ替わり防止例を示すタイムチャートである。
【0105】
図10のタイムチャートは、3本の電子ペン12a(ID:AA),12b(ID:BB),12c(ID:CC)がともに入力状態にあるときに、そのうちの2本の電子ペン12a,12bが、閾値距離d以内に接近した場合の、IR LED13の発光状態を示す。
【0106】
図10の時刻taにおいて、電子ペン12a,12bは閾値距離d以内に接近して、図9で説明した状態(a)の条件に合致する。そして、時刻ta以降は、電子ペン12aのIR LED13と、電子ペン12bのIR LED13は時分割で交互に点滅を繰り返す。より具体的には、電子ペン12aのIR LED13と、電子ペン12bのIR LED13は、所定の認識期間t0を2分割した時間間隔で交互に点滅を繰り返す。なお、認識期間t0は、IR LED13を点滅させた場合に、当該IR LED13が点灯している間に、カメラ20が少なくとも1回以上の撮像を行って、発光認識部32が輝点位置を認識できる時間に設定される。即ち、点滅を繰り返す間、情報処理装置10aは、電子ペン12a,12bが発光するタイミングを把握することができるため、情報処理装置10aは、発光認識部32が認識した輝点位置に基づいて、電子ペン12a,12bに係る輝点位置のトラッキングを継続することができる。
【0107】
そして、図10の時刻tbにおいて、電子ペン12a,12bが閾値距離dよりも離れた場合に、情報処理装置10aは、電子ペン12a,12bに点灯コマンドを送信する。これによって、時刻tb以降は、電子ペン12aのIR LED13と、電子ペン12bのIR LED13は、ともに点灯状態になる。
【0108】
図11のタイムチャートは、3本の電子ペン12a(ID:AA),12b(ID:BB),12c(ID:CC)がともに入力状態にあるときに、それら3本の電子ペン12a,12b,12cが閾値距離d以内に接近した場合の、IR LED13の発光状態を示す。
【0109】
図11の時刻tcにおいて、電子ペン12a,12b,12cは閾値距離d以内に接近して、図9で説明した状態(a)の条件に合致する。そして、時刻tc以降は、電子ペン12aのIR LED13と、電子ペン12bのIR LED13と、電子ペン12cのIR LED13は時分割で交互に点滅を繰り返す。より具体的には、電子ペン12aのIR LED13と、電子ペン12bのIR LED13と、電子ペン12cのIR LED13は、認識期間t0を3分割した時間間隔で交互に点滅を繰り返す。IR LED13が点滅を繰り返す間、情報処理装置10aは、電子ペン12a,12b,12cが発光するタイミングを把握することができるため、情報処理装置10aは、発光認識部32が認識した輝点位置に基づいて、電子ペン12a,12b,12cに係る輝点位置のトラッキングを継続することができる。
【0110】
そして、図11の時刻tdにおいて、電子ペン12aが、電子ペン12b,12cに対して閾値距離dよりも離れた場合に、情報処理装置10aは、電子ペン12aに点灯コマンドを送信する。これによって、時刻td以降は、電子ペン12aのIR LED13は点灯状態になる。そして、電子ペン12b,12cは閾値距離d以内に接近したままになっているため、電子ペン12bのIR LED13と、電子ペン12cのIR LED13は、認識期間t0を2分割した時間間隔で交互に点滅を繰り返す。なお、図11の例では、IR LED13を点滅させた際の点滅時間が一定になるようにしている。そのため、3本の電子ペン12が接近した時刻tcから時刻tdの間の認識期間t0は、2本の電子ペン12が接近した時刻td以降の認識期間t0よりも長く設定される。
【0111】
次に、図12を用いて、電子ペンのID入れ替わり防止判定処理の流れを説明する。図12は、電子ペンのID入れ替わり防止判定処理の流れの一例を示すフローチャートである。
【0112】
発光認識部32は、着目する輝点から閾値距離d以内に別の輝点があるかを判定する(ステップS51)。着目する輝点から閾値距離d以内に別の輝点があると判定される(ステップS51:Yes)とステップS52に進む。一方、着目する輝点から閾値距離d以内に別の輝点があると判定されない(ステップS51:No)とステップS58に進む。
【0113】
ステップS51においてYesと判定されると、ID入れ替わり防止判定部34bは、着目する輝点(に係る電子ペン12)は入力状態かを判定する(ステップS52)。着目する輝点(に係る電子ペン12)が入力状態であると判定される(ステップS52:Yes)とステップS53に進む。一方、着目する輝点(に係る電子ペン12)が入力状態であると判定されない(ステップS52:No)とステップS54に進む。
【0114】
ステップS52においてYesと判定されると、ID入れ替わり防止判定部34bは、別の輝点(に係る電子ペン12)は入力状態かを判定する(ステップS53)。別の輝点(に係る電子ペン12)は入力状態であると判定される(ステップS53:Yes)とステップS55に進む。一方、別の輝点(に係る電子ペン12)は入力状態であると判定されない(ステップS53:No)とステップS56に進む。
【0115】
ステップS52に戻り、ステップS52においてNoと判定されると、ID入れ替わり防止判定部34bは、別の輝点(に係る電子ペン12)は入力状態かを判定する(ステップS54)。別の輝点(に係る電子ペン12)は入力状態であると判定される(ステップS54:Yes)とステップS57に進む。一方、別の輝点(に係る電子ペン12)は入力状態であると判定されない(ステップS54:No)とステップS55に進む。
【0116】
ステップS53においてYesと判定されるか、ステップS54においてNoと判定されると、発光制御部34aは、着目する輝点に係る電子ペン12と、別の輝点に係る電子ペン12を時分割で点滅させる制御命令を設定する(ステップS55)。その後、図12の処理を終了してメインルーチン(図4のステップS24)に戻る。
【0117】
ステップS53においてNoと判定されると、発光制御部34aは、着目する輝点に係る電子ペン12を点灯させて、別の輝点に係る電子ペン12を消灯させる制御命令を設定する(ステップS56)。その後、図12の処理を終了してメインルーチン(図4のステップS24)に戻る。
【0118】
ステップS54においてYesと判定されると、発光制御部34aは、着目する輝点に係る電子ペン12を消灯させて、別の輝点に係る電子ペン12を点灯させる制御命令を設定する(ステップS57)。その後、図12の処理を終了してメインルーチン(図4のステップS24)に戻る。
【0119】
ステップS51においてNoと判定されると、発光制御部34aは、着目する輝点に係る電子ペン12を点灯させる制御命令を設定する(ステップS58)。その後、図12の処理を終了してメインルーチン(図4のステップS24)に戻る。
【0120】
[1-8.電子ペンの状態遷移の説明]
次に、図13を用いて、電子ペン12の状態遷移を説明する。図13は、電子ペンの状態遷移の一例を示す状態遷移図である。
【0121】
図13に示す状態Saにおいて、インタラクティブプロジェクタ5aは、電源が切断された初期状態にある。状態Saにおいてインタラクティブプロジェクタ5aの電源が投入されると、情報処理装置10aと電子ペン12との間のBT接続がONになる。その結果、インタラクティブプロジェクタ5aは状態Sbに遷移する。状態Sbにおいて、IR LED13は消灯しており、電子ペン12の識別番号も不定である。
【0122】
情報処理装置10aの入出力制御部36が、電子ペン12から、IR LED13を点灯させるBTイベントを受信すると、発光制御部34aは、電子ペン12に対して、IR LED13の発光指示を送信する。これによって、電子ペン12のIR LED13が点灯する。しかし、電子ペン12の識別番号は不定のままである(状態Sc)。
【0123】
情報処理装置10aの発光認識部32は、電子ペン12のIR LED13が点灯又は点滅するのに伴って生じた輝点の位置を取得する。そして、発光認識部32が輝点の位置を検出した場合、紐付け処理部34dは、輝点の位置と電子ペン12の識別番号とを紐付ける。これによって、IR LED13の点灯又は点滅は継続されて、電子ペン12の識別番号が確定する(状態Sd)。
【0124】
一方、発光認識部32が、所定時間内に輝点の位置を取得できない場合、電子ペン12の識別番号は不定のままとする(状態Se)。
【0125】
状態Sdにあるとき、電子ペン12のペン先がホワイトボード26に接触してスイッチ14がONになると、電子ペン12は、スイッチONのBTイベントを送信する。その後、IR LED13は点灯又は点滅を継続して、逐次的に認識される輝点の位置が電子ペン12の識別番号に紐付けられ、プロジェクタ22によって、検出された輝点の位置に映像(電子ペン12の筆跡)が投影されることによって、描画がなされる(状態Sf)。
【0126】
状態Sfにあるとき、電子ペン12のペン先がホワイトボード26から離れると、スイッチ14がOFFになる。すると、電子ペン12は、スイッチOFFのBTイベントを送信する。その後、IR LED13は点灯又は点滅を継続して、逐次的に認識される輝点の位置が電子ペン12の識別番号に紐付けられ、電子ペン12の位置がトラッキングされる(状態Sg)。
【0127】
なお、状態Sd,Sf,Sgにあるとき、情報処理装置10aの発光認識部32が輝点の位置を検出できない場合(IR LED13をロストした場合)、輝点の位置と電子ペン12の識別番号との紐付けが解除されて、状態Seに遷移する。
【0128】
[1-9.電子ペンの入力結果反映方法の説明]
次に、図14を用いて、電子ペン12による入力結果を、プロジェクタ22によってホワイトボード26に投影する、電子ペンの入力結果反映方法について説明する。図14は、検出された輝点位置を、カメラ座標系からプロジェクタスクリーン座標系に変換する処理の流れを説明する図である。
【0129】
電子ペン12によって筆記された情報は、輝点位置検出、ID識別、スイッチ14がONの時に反映されて、プロジェクタ22からホワイトボード26に投影される。これは、電子ペン12の状態が、図13の状態Sfの時に該当する。
【0130】
検出された輝点位置の座標(x,y)はカメラ座標系であるため、図14に示すようにカメラから検出された座標に対して、2次元から2次元への射影変換行列(Homography行列)を乗算して、カメラ座標系からプロジェクタ22で投影しているスクリーン座標系に変換する。変換後の座標(x’,y’)は、入力座標としてアプリケーションに反映される。
【0131】
[1-10.第1の実施形態の効果]
以上説明したように、第1の実施形態の情報処理装置10aによると、発光制御部34aは、情報処理装置10aと通信を確立した電子ペン12(操作体)が備えるIR LED13(発光部)を点灯させるとともに、異なる電子ペン12(操作体)が接近した際に、当該電子ペン12が備えるIR LED13を、互いに異なるタイミングで点滅させる。そして発光認識部32(検出部)は、各電子ペン12が備えるIR LED13に応じた位置を、当該電子ペン12と関連付けて検出する。入出力制御部36(表示制御部)は、電子ペン12が情報入力状態にある場合に、発光認識部32によって検出されたIR LED13に対応する位置に、電子ペン12と関連付いた情報を表示させる。
【0132】
これにより、複数の電子ペン12が近接している場合であっても、各電子ペン12に対応する位置を識別して、確実に捕捉することができる。
【0133】
また、第1の実施形態の情報処理装置10aによると、発光制御部34aは、発光認識部32(検出部)が検出したIR LED13(発光部)に応じた位置が、閾値距離d以内に接近した場合に、複数の電子ペン12(操作体)が接近したと判定する。
【0134】
これにより、簡単な処理で、複数の電子ペン12が接近したことを認識することができる。
【0135】
また、第1の実施形態の情報処理装置10aによると、発光制御部34aは、所定時間を閾値距離d以内に接近している電子ペン12(操作体)の数で除した、少なくとも画像入力に要する時間を超える時間毎に、電子ペン12のIR LED13(発光部)を互いに異なるタイミングで点滅させる。
【0136】
これにより、閾値距離d以内に接近した複数の電子ペン12のIR LED13は、時分割で点滅するため、各電子ペン12が点灯したタイミングにおける当該電子ペン12のIR LED13によって生じた輝点の位置を特定することができる。したがって、各電子ペン12に付与された識別番号(ID)の入れ替わりを防止することができる。
【0137】
また、第1の実施形態の情報処理装置10aによると、発光制御部34aは、電子ペン12(操作体)のIR LED13(発光部)による輝点位置(操作体の発光部に応じた位置)から閾値距離d以内に、別の電子ペン12のIR LED13による輝点位置(操作体の発光部に応じた位置)が検出されて、尚且つ、電子ペン12及び別の電子ペン12が、ともに情報入力状態である場合に、電子ペン12のIR LED13、及び別の電子ペン12のIR LED13を互いに異なるタイミングで点滅させる。
【0138】
これにより、複数の電子ペン12(操作体)のIDが入れ替わるのを防止することができる。
【0139】
また、第1の実施形態の情報処理装置10aによると、発光制御部34aは、電子ペン12(操作体)のIR LED13(発光部)による輝点位置(操作体の発光部に応じた位置)から閾値距離d以内に、別の電子ペン12のIR LED13による輝点位置(操作体の発光部に応じた位置)が検出されて、尚且つ、電子ペン12が情報入力状態であって、別の電子ペン12が情報入力状態でない場合に、電子ペン12のIR LED13を点灯させて、別の電子ペン12のIR LED13を消灯させる。
【0140】
これにより、情報入力状態にある電子ペン12のIR LED13による輝点位置を、フレームレートを低下させることなく確実にトラッキングすることができる。
【0141】
また、第1の実施形態の情報処理装置10aによると、発光制御部34aは、電子ペン12(操作体)のIR LED13(発光部)による輝点位置(操作体の発光部に応じた位置)から閾値距離d以内に、別の電子ペン12のIR LED13による輝点位置(操作体の発光部に応じた位置)が検出されて、尚且つ、電子ペン12が情報入力状態でなく、別の電子ペン12が情報入力状態である場合に、電子ペン12のIR LED13を消灯させて、別の電子ペン12のIR LED13を点灯させる。
【0142】
これにより、情報非入力状態にある電子ペン12のIR LED13による輝点位置を、フレームレートを低下させることなく確実にトラッキングすることができる。
【0143】
また、第1の実施形態の情報処理装置10aによると、発光制御部34aは、電子ペン12(操作体)のIR LED13(発光部)に応じた位置から閾値距離d以内に、別の電子ペン12のIR LED13に応じた位置が検出されて、尚且つ、電子ペン12及び別の電子ペン12が、ともに情報入力状態でない場合に、電子ペン12のIR LED13、及び別の電子ペン12のIR LED13を互いに異なるタイミングで点滅させる。
【0144】
これにより、情報入力状態でない電子ペン12の位置のトラッキングを継続することができる。
【0145】
(2.第2の実施形態)
電子ペン12が行っているタスクが、ボタン操作等の単純なものである場合、第1の実施形態で説明したように、複数の電子ペン12が接近した場合に各IR LED13を時分割で点滅させた際のフレームレートの低下はそれほど問題ではない。それに対して、電子ペン12が文字の筆記や絵の描画を行っている場合には、フレームレートの低下をできるだけ抑えるのが望ましい。
【0146】
本開示の第2の実施形態である情報処理装置10b(非図示)は、このような課題に対応するために、電子ペン12が行っているタスクの内容に応じて、複数の電子ペン12が閾値距離d以内に接近した際のIR LED13の発光制御の方法を異ならせる機能を付加した例である。
【0147】
即ち、情報処理装置10bは、情報入力状態にある複数の電子ペン12のIR LED13を時分割で点滅させる際に、各電子ペン12が実行しているタスクの種別に応じて、電子ペン12毎に時分割の割合を変更する。
【0148】
具体的には、文字の筆記や絵の描画を行っている電子ペン12は、時間経過に伴う描画位置の変化を捉えることが重要であるため、IR LED13をより長い時間点灯させることによって、フレームレートの低下を少なく抑える。一方、ボタン操作等の用途に使用している電子ペン12は、瞬間的な位置を捉えることが重要であるため、フレームレートが低くてもそれほど問題はない。そのため、IR LED13の点灯時間を短く設定することが可能である。
【0149】
そのため、情報処理装置10bは、電子ペン12が行っているタスクの内容を判定する機能を備える。実行されるタスクの内容は、例えば、操作メニューの操作内容を参照することによって判定することができる。図示はしないが、情報処理装置10bは、例えば、ホワイトボード26に投影された操作メニューを電子ペン12で選択した後で、選択した操作を行う。その際、「描画」や「筆記」等の操作メニューが選択された場合、当該メニューを選択した電子ペン12の識別番号(ID)に、「描画」や「筆記」に対応するタスク種別を示す情報を付与する。一方、「ボタン操作」等の操作メニューが選択された場合、当該メニューを選択した電子ペン12の識別番号(ID)に、「ボタン操作」に対応するタスク種別を示す情報を付与する。
【0150】
そして、前記したID入れ替わり防止判定処理(図12)によって、複数の電子ペン12が閾値距離d以内に接近していると判定された場合に、発光制御部34aは、図10図11に示す認識期間t0(所定時間)を、接近した電子ペン12に付与されたタスク種別の情報に応じて時分割する。
【0151】
以上説明したように、第2の実施形態の情報処理装置10bによると、発光制御部34aは、電子ペン12(操作体)が実行しているタスクの内容に応じて、認識期間t0(所定時間)内における各電子ペン12のIR LED13(発光部)の点灯時間の割合を制御する。
【0152】
これにより、例えば、文字の筆記や絵の描画を行っている場合には、IR LED13を時分割で点灯する際の点灯時間を長く設定して、ボタン操作のような操作指示を行っている場合には、IR LED13を時分割で点灯する際の点灯時間を短く設定することができる。したがって、描画位置のトラッキングを必要とするタスクを行っている場合に、フレームレートの低下を少なく抑えることができる。
【0153】
(3.第3の実施形態)
図1に示すように、複数の操作者が電子ペン12を持って、同じホワイトボード26に筆記を行っていると、操作者が意識しない間に複数の電子ペン12が閾値距離d以内に接近してしまう場合がある。このような場合に、前記したID入れ替わり防止判定処理を行う前に、電子ペン12が接近したことを、操作者に注意喚起することができるのが望ましい。
【0154】
本開示の第3の実施形態である情報処理装置10c(非図示)は、このような課題に対応するために、第1の実施形態で説明した情報処理装置10aに対して、複数の電子ペン12が閾値距離d以内に接近した際に、電子ペン12の操作者に対して、離れるように促す注意喚起を行う機能を付加した例である。
【0155】
具体的には、発光制御部34aが、複数の電子ペン12が閾値距離d以内に接近したと判定した場合に、入出力制御部36は、プロジェクタ22に対して、接近した電子ペン12によって描画された筆跡が点滅した形態の情報を投影させるように指示してもよい。また、電子ペン12に内蔵したバイブレータ等の振動手段を振動させることによって、他の電子ペン12と接近していることを報知してもよい。
【0156】
以上説明したように、第3の実施形態の情報処理装置10cによると、入出力制御部36(表示制御部)は、異なる電子ペン12(操作体)のIR LED13(発光部)による輝点位置(操作体の発光部に応じた位置)が閾値距離d以内に接近した際に、プロジェクタ22に対して、電子ペン12を遠ざけることを促す情報を表示させる。
【0157】
これにより、他の電子ペン12と接近していることを直感的に報知することができる。
【0158】
(4.第4の実施形態)
前記した各実施形態において、複数の電子ペン12が接近したか否かを判定する際に、予め設定された固定値である閾値距離dを使用した。そのため、電子ペン12の動きが速い場合には、複数の電子ペン12が閾値距離d以内に接近している状態を検出するのが困難な場合があった。
【0159】
本開示の第4の実施形態である情報処理装置10d(非図示)は、このような課題に対応するために、複数の電子ペン12が接近しているか否かを判定する際に使用する閾値距離dを、電子ペン12の移動速度や移動方向に応じて可変にする機能を備えた例である。
【0160】
具体的には、情報処理装置10dは、各電子ペン12の移動速度のモニタを継続的に行って、電子ペン12の移動速度が大きいときや加速度が増加している場合に、閾値距離dを増加させる。即ち、発光認識部32が検出した輝点の位置を中心とする半径d/2の円形領域が絶えず大きさを変更しながら、電子ペン12の筆跡に沿って移動する状態となる。そして、発光制御部34aは、他の電子ペン12による輝点の位置が、半径d/2の円形領域に入った場合に、他の電子ペン12が接近したと判定する。
【0161】
なお、自身の近くにある電子ペン12の動きも考慮して、閾値距離dを変更してもよい。即ち、2つの電子ペン12が、互いに近づく方向に移動している場合は、閾値距離dを更に大きく変更してもよい。また、2つの電子ペン12が、互いに離れる方向に移動している場合は、閾値距離dを小さく変更してもよい。
【0162】
即ち、情報処理装置10dは、各電子ペン12の移動速度と移動方向のモニタを継続的に行い、その都度、各輝点の位置を中心とする半径d/2の円形領域を設定する。
【0163】
以上説明したように、第4の実施形態の情報処理装置10dによると、閾値距離dは、電子ペン12(操作体)の移動速度又は移動方向に基づいて設定される。
【0164】
これにより、電子ペン12が使われている状況に応じて、適切な閾値距離dを設定することができる。そのため、ID入れ替わり防止判定処理のロバスト性をより一層向上させることができる。
【0165】
(5.第5の実施形態)
本開示の第5の実施形態である情報処理装置10e(非図示)は、閾値距離d以内に接近した複数の電子ペン12を含むグループが複数形成されて、各グループが同じ電子ペン12を含んでいる場合に対応する機能を備えた例である。
【0166】
図15は、閾値距離以内に接近した複数の電子ペンを含むグループの一部が重複した状態の一例を示す図である。図15に示すように、識別番号「AA」を有する電子ペン12による輝点P1と、識別番号「BB」を有する電子ペン12による輝点P2とが閾値距離d以内に接近しているとする。そして、更に、識別番号「BB」を有する電子ペン12による輝点P2と、識別番号「CC」を有する電子ペン12による輝点P3と、識別番号「DD」を有する電子ペン12による輝点P4とが閾値距離d以内に接近しているとする。即ち、識別番号「AA」と「BB」を有する電子ペン12による輝点P1,P2は、グループU1に属して、識別番号「BB」と「CC」と「DD」を有する電子ペン12による輝点P2,P3,P4は、グループU2に属しているとする。
【0167】
このような場合、発光制御部34aは、グループU1とグループU2の和集合(U1∪U2)に属する4つの電子ペン12のIR LED13を時分割で点滅させてもよい(図16参照)。また、発光制御部34aは、グループU1に属する電子ペン12のIR LED13を、点灯期間が重複しないようにして点滅させて、尚且つ、グループU2に属する電子ペン12のIR LED13を、点灯期間が重複しないように点滅させてもよい。即ち、異なるグループに属する電子ペン12のIR LED13、例えば、グループU1に属する、識別番号「AA」を有する電子ペン12のIR LED13と、グループU2に属する、識別番号「DD」を有する電子ペン12のIR LED13とを同じタイミングで点滅させてもよい(図17参照)。或いは、グループU1に属する、識別番号「AA」を有する電子ペン12のIR LED13と、グループU2に属する、識別番号「CC」を有する電子ペン12のIR LED13とを同じタイミングで点滅させてもよい。
【0168】
図16は、和集合に属する全ての電子ペンのIR LEDを時分割発光させる例を示すタイムチャートである。
【0169】
図16に示すように、グループU1とグループU2の和集合(U1∪U2)に属する4つの電子ペン12のIR LED13を、認識期間t0を4分割したタイミングで点滅させることによって、和集合に属する全ての電子ペン12に応じた位置を、確実に特定することができる。
【0170】
図17は、各グループ内で発光パターンが重複しないように電子ペンのIR LEDを点滅させる例を示すタイムチャートである。
【0171】
図17に示すように、グループU1に属する、識別番号「AA」を有する電子ペン12のIR LED13と、グループU2に属する、識別番号「DD」を有する電子ペン12のIR LED13とを同じタイミングで点滅させる。これによって、グループU1に属する2つの電子ペン12のIR LED13は異なるタイミングで点滅するため、情報処理装置10eは、グループU1に属する各電子ペン12のIR LED13による輝点位置を確実に特定することができる。また、グループU2に属する3つの電子ペン12のIR LED13は異なるタイミングで点滅するため、情報処理装置10eは、グループU2に属する各電子ペン12のIR LED13による輝点位置を確実に特定することができる。
【0172】
以上説明したように、第5の実施形態の情報処理装置10eによると、電子ペン12(操作体)のIR LED13(発光部)による輝点位置(操作体の発光部に応じた位置)と、電子ペン12とは別の複数の電子ペン12のIR LED13による輝点位置と、が閾値距離d以内に接近して、尚且つ、電子ペン12とは別の複数の電子ペン12のIR LED13に応じた位置の中に、閾値距離dよりも離れた位置がある場合に、発光制御部34aは、電子ペン12のIR LED13に応じた位置から閾値距離d以内に接近している全ての電子ペン12のIR LED13を、互いに異なるタイミングで点滅させる。
【0173】
これにより、電子ペン12(操作体)のIR LED13(発光部)による輝点位置から閾値距離d以内に、複数の別の電子ペン12による輝点位置が観測されて、尚且つ、複数の別の電子ペン12による輝点位置の中に、閾値距離dよりも離れた輝点位置がある場合であっても、各電子ペン12のIR LED13による輝点位置を確実に特定することができる。
【0174】
また、第5の実施形態の情報処理装置10eによると、電子ペン12(操作体)のIR LED13(発光部)による輝点位置(操作体の発光部に応じた位置)と、電子ペン12とは別の複数の電子ペン12のIR LED13による輝点位置と、が閾値距離d以内に接近して、尚且つ、電子ペン12とは別の複数の電子ペン12のIR LED13に応じた位置の中に、閾値距離dよりも離れた位置がある場合に、発光制御部34aは、少なくとも、閾値距離d以内に接近している輝点位置に係るIR LED13を、互いに異なるタイミングで点滅させる。
【0175】
これにより、電子ペン12(操作体)のIR LED13(発光部)による輝点位置から閾値距離d以内に、複数の別の電子ペン12による輝点位置が観測されて、尚且つ、複数の別の電子ペン12による輝点位置の中に、閾値距離dよりも離れた輝点位置がある場合であっても、各電子ペン12のIR LED13による輝点位置を確実に特定することができる。また、フレームレートの低下を少なく抑えることができる。
【0176】
(6.本開示の応用例(1))
ここでは、本開示の応用例について述べる。本開示は電子ペン12以外の情報入力デバイスにも応用可能である。即ち、任意空間において、カメラなどのセンサから位置検出を行う機能と通信機能とを併せ持つコントローラ形式のデバイスが利用可能であれば、当該デバイスを前記した各実施形態で記載した電子ペン12と同様に入力装置として扱うことが可能である。なお、前記した各実施形態では、電子ペン12の入力状態を検知するために、スイッチ14を組み込んでいたが、対象デバイスの位置とID識別を行うことが可能であれば、スイッチ14は必須ではない。
【0177】
図18は、本開示の応用例であるシューティングシステムの概要図である。シューティングシステム50は、ユーザ自身が把持している、本開示における操作体の一例である銃型コントローラ52(52a,52b)を使用して、壁面に向けて表示された物体(例えば敵キャラクター)を打つことができる。このようなゲームアプリケーションでは、銃型コントローラ52に指向性の高いIR LEDをマウントし、IR LEDが照射された壁面をカメラで観測することによって、本開示の内容を適用することができる。複数ユーザが近接した場所、又は同じ場所に銃を向けた場合、つまりカメラから観測される輝点54a,54bが同一場所に観測された場合であっても、どの銃によって照射された輝点であるかを識別することが可能である。
【0178】
(7.本開示の応用例(2))
図19は、本開示の応用例であるミニカー走行競技システムの概要を示す第1の図である。図20は、本開示の応用例であるミニカー走行競技システムの概要を示す第2の図である。本例は、本開示を、ミニ四駆(登録商標)やラジコンカーのようなミニカーで走行競技を行うレーシングシステム60に適用した例である。本開示における操作体の一例である車62(62a,62b)にIR LEDと通信モジュールを搭載し、IR LEDを検出するためのカメラ(例えば、車が走行する道路を俯瞰的に撮像するカメラ)を設置することによって、複数の車62を識別することが可能である。このようなケースで車同士が近接するようなシーンでも本発明では識別することができる。本開示を適用することで、車62の位置に、情報をリアルタイムでプロジェクションすることによってビジュアルエフェクトを加えた演出を行うことが可能である。また、複数の車62の位置が分かっているため、車62に前面投影プロジェクタを搭載することによって、図20に示すように、前面投影プロジェクタによる表示映像によって、他方の車に対する攻撃エフェクトやパワーアップエフェクトなどの効果を演出することができる。
【0179】
(8.本開示の応用例(3))
図21は、本開示の応用例であるベーゴマ競技システムの概要を示す図である。本例は、本開示をベーゴマ競技システム70に応用した例である。本開示における操作体の一例であるコマ72(72a,72b)の内部にIR LEDと通信モジュールを組み込むことで、カメラ20は、複数のコマを識別することができる。また、ステージ上で対戦する時に衝突や接近するようなケースにおいても、コマ72を識別することができる。本開示を適用することで、検出されたコマ72の位置やコマ72同士が衝突したタイミングで、プロジェクションマッピングのようにビジュアルエフェクトを加えた演出を行うことも可能である。
【0180】
(9.本開示の応用例(4))
図22は、本開示の応用例であるエアーホッケーシステムの概要を示す図である。本例は、本開示をエアーホッケーシステム80に応用した例である。この応用例では、ユーザが把持する、本開示における操作体の一例であるマレット82(82a,82b)にIR LEDと通信モジュールを組み込むことで、ユーザのマレット82を識別することができる。ユーザが協力してプレイする時は、異なるマレット82が近接することがあるが、本開示を適用することによって、そのようなケースでも、それぞれのマレット82を識別することが可能である。また、同様の仕組みをパックに組み込んで複数のパックを識別することも可能である。更に、パックとマレットの位置を検出することによって、ビジュアルエフェクトを加えた演出や、パックとマレットの衝突判定を行い、そのイベントに応じた演出を行うことが可能である。また、プロジェクションされた仮想パックを打ち合う等のゲームへ適用することも可能である。
【0181】
(10.本開示の応用例(5))
図23は、本開示の応用例であるボルダリングシステムの概要を示す図である。ユーザは、自身の手足に、本開示における操作体の一例であるデバイス91,92を身に着けて、手足の位置を検出できるように応用したボルダリングシステム90の例である。なお、デバイス91,92には、IR LEDと通信モジュールが搭載されている。具体的には、一人のユーザは、デバイス91a,91b,91c,91dを、それぞれ、右手、左手、右足、左足に装着している。別のユーザは、デバイス92a,92b,92c,92dを、それぞれ、右手、左手、右足、左足に装着している。
【0182】
図23において、デバイス91,92を身に着けたユーザは、ボルダリングのプレイを行っている。このとき、非図示のカメラによって検出されたデバイス91,92の位置からユーザの手足の位置がわかるため、ボルダリングシステム90は、ユーザが利用しているホールドを認識し、その結果に応じたエフェクトを行う事ができる。本発明により、ユーザの動きによって手足につけたIR LEDが、カメラから見て重なるようなケースであっても、各デバイス91,92を識別して検出することができる。また、複数のユーザを識別し、各ユーザが登った場所を陣取りゲームのように識別してもよい。この場合、各ユーザに使用するデバイスのグルーピング(例えば、右手、左手、右足、左足に身に着ける4つのデバイスのIDをグループ化)を事前にしておくことで、ユーザ情報と検出している部位を識別することができる。
【0183】
(11.本開示の応用例(6))
図24は、本開示の応用例である群ロボット制御システムの概要を示す図である。群ロボット制御システム94は、上方に下向きに設置された複数のカメラ20a,20bによって、本開示における操作体の一例である、同一形態の複数のロボット95(95a,95b,95c,…)の位置検出を行って、各ロボットの行動制御を行うものである。各ロボット95には、上方に向けて発光するIR LEDが内蔵されており、カメラ20a,20bが、IR LEDによる輝点の位置を検出することによって、各ロボット95の現在位置が検出される。
【0184】
図24の例では、群ロボットと呼ばれる同一形態をしたロボット95に対して、本開示の内容を用いて、各ロボット95の位置とID識別とを行う。そのため、複数のロボット95が密集しているケース、つまり各ロボット95に設置されたIR LEDが近接した状態においても、個々のロボット95の位置を識別してトラッキングすることが可能である。このような群ロボット制御システム94は、ドローンなどの他の機器に適用してもよいし、人間などの生物に適用してもよい。
【0185】
(12.本開示の応用例(7))
図25は、本開示の応用例であるAR/VR応用システムの概要を示す図である。本開示の内容は、HMD(Head Mount Display)に代表される、ユーザが装着するデバイスの位置検出に応用してもよい。具体的には、図25に示すように、本開示における操作体の一例であるHMD97(97a,97b,97c,…)にIR LEDと通信モジュールを搭載することで、HMD97を身に着けた複数のユーザが同一空間にいるシーンにおいて、各ユーザの位置とHMD97に付与されたID(ユーザID)とを識別することが可能である。これにより、例えば、仮想空間を体験するユーザの位置を、現実世界の位置に反映することができる。また、ユーザ同士の衝突を防止するために、近接しているユーザに対して、他のユーザと接触する可能性があることを注意喚起することができる。
【0186】
なお、本明細書に記載された効果は、あくまで例示であって限定されるものではなく、他の効果があってもよい。また、本開示の実施形態は、上述した実施形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【0187】
例えば、本開示は、以下のような構成もとることができる。
【0188】
(1)
情報処理装置と通信を確立した操作体が備える発光部を点灯させるとともに、異なる前記操作体が接近した際に、当該操作体が備える前記発光部を、互いに異なるタイミングで点滅させる発光制御部と、
前記各操作体が備える前記発光部に応じた位置を、当該操作体と関連付けて検出する検出部と、
前記操作体が情報入力状態にある場合に、前記検出部によって検出された前記発光部に対応する位置に、前記操作体と関連付いた情報を表示させる表示制御部と、
を備える情報処理装置。
(2)
前記発光制御部は、前記検出部が検出した前記発光部に応じた位置が、閾値距離以内に接近した場合に、複数の前記操作体が接近したと判定する、
前記(1)に記載の情報処理装置。
(3)
前記発光制御部は、
所定時間を前記閾値距離以内に接近している前記操作体の数で除した、少なくも画像入力に要する時間を超える時間毎に、前記操作体の発光部を互いに異なるタイミングで点滅させる、
前記(2)に記載の情報処理装置。
(4)
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体及び前記別の操作体が、ともに情報入力状態である場合に、
前記操作体の発光部、及び前記別の操作体の発光部を互いに異なるタイミングで点滅させる、
前記(2)又は(3)に記載の情報処理装置。
(5)
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体が情報入力状態であって、前記別の操作体が情報入力状態でない場合に、
前記操作体の発光部を点灯させて、前記別の操作体の発光部を消灯させる、
前記(2)乃至(4)のいずれか一つに記載の情報処理装置。
(6)
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体が情報入力状態でなく、前記別の操作体が情報入力状態である場合に、
前記操作体の発光部を消灯させて、前記別の操作体の発光部を点灯させる、
前記(2)乃至(5)のいずれか一つに記載の情報処理装置。
(7)
前記発光制御部は、
前記操作体の発光部に応じた位置から前記閾値距離以内に、別の操作体の発光部に応じた位置が検出されて、尚且つ、前記操作体及び前記別の操作体が、ともに情報入力状態でない場合に、
前記操作体の発光部、及び前記別の操作体の発光部を互いに異なるタイミングで点滅させる、
前記(2)乃至(6)のいずれか一つに記載の情報処理装置。
(8)
前記発光制御部は、
前記操作体が実行しているタスクの内容に応じて、前記所定時間内における各操作体の前記発光部の点灯時間の割合を制御する、
前記(3)に記載の情報処理装置。
(9)
前記表示制御部は、
異なる前記操作体の前記発光部に応じた位置が前記閾値距離以内に接近した際に、前記操作体を遠ざけることを促す情報を表示させる、
前記(2)乃至(8)のいずれか一つに記載の情報処理装置。
(10)
前記閾値距離は、
前記操作体の移動速度又は移動方向に基づいて設定される、
前記(2)乃至(9)のいずれか一つに記載の情報処理装置。
(11)
前記操作体の前記発光部に応じた位置と、前記操作体とは別の複数の操作体の前記発光部に応じた位置と、が前記閾値距離以内に接近して、尚且つ、前記別の複数の操作体の前記発光部に応じた位置の中に、前記閾値距離よりも離れた位置がある場合に、
前記発光制御部は、前記操作体の前記発光部に応じた位置から前記閾値距離以内に接近している全ての前記操作体の前記発光部を、互いに異なるタイミングで点滅させる、
前記(2)乃至(10)のいずれか一つに記載の情報処理装置。
(12)
前記操作体の前記発光部に応じた位置と、前記操作体とは別の複数の操作体の前記発光部に応じた位置と、が前記閾値距離以内に接近して、尚且つ、前記別の複数の操作体の前記発光部に応じた位置の中に、前記閾値距離よりも離れた位置がある場合に、
前記発光制御部は、少なくとも、前記閾値距離以内に接近している前記位置に係る前記発光部を、互いに異なるタイミングで点滅させる、
前記(2)乃至(10)のいずれか一つに記載の情報処理装置。
(13)
情報処理装置と通信を確立した操作体が備える発光部を点灯させるとともに、異なる前記操作体が接近した際に、当該操作体が備える前記発光部を、互いに異なるタイミングで点滅させる発光制御プロセスと、
前記各操作体が備える前記発光部の位置を、当該操作体と関連付けて検出する検出プロセスと、
前記操作体が情報入力状態にある場合に、前記検出プロセスによって検出された前記発光部に対応する位置に、前記操作体と関連付いた情報を表示させる表示制御プロセスと、
を備える情報処理方法。
(14)
コンピュータを、
情報処理装置と通信を確立した操作体が備える発光部を点灯させるとともに、異なる前記操作体が接近した際に、当該操作体が備える前記発光部を、互いに異なるタイミングで点滅させる発光制御部と、
前記各操作体が備える前記発光部の位置を、当該操作体と関連付けて検出する検出部と、
前記操作体が情報入力状態にある場合に、前記検出部によって検出された前記発光部に対応する位置に、前記操作体と関連付いた情報を表示させる表示制御部と、
して機能させるプログラム。
【符号の説明】
【0189】
5a…インタラクティブプロジェクタ、10a,10b,10c,10d,10e…情報処理装置、12,12a,12b,12c…電子ペン(操作体)、13…IR LED(発光部)、14…スイッチ、20…カメラ、22…プロジェクタ、26…ホワイトボード、32…発光認識部(検出部)、34a…発光制御部、36…入出力制御部(表示制御部)、d…閾値距離、t0…認識期間(所定時間)
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25