(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-22
(45)【発行日】2024-01-30
(54)【発明の名称】情報処理装置及びプログラム
(51)【国際特許分類】
G06F 3/04815 20220101AFI20240123BHJP
G06F 3/01 20060101ALI20240123BHJP
【FI】
G06F3/04815
G06F3/01 570
(21)【出願番号】P 2019235296
(22)【出願日】2019-12-25
【審査請求日】2022-11-22
(73)【特許権者】
【識別番号】000005496
【氏名又は名称】富士フイルムビジネスイノベーション株式会社
(74)【代理人】
【識別番号】100104880
【氏名又は名称】古部 次郎
(74)【代理人】
【識別番号】100125346
【氏名又は名称】尾形 文雄
(74)【代理人】
【識別番号】100166981
【氏名又は名称】砂田 岳彦
(72)【発明者】
【氏名】楓 育美
【審査官】田川 泰宏
(56)【参考文献】
【文献】特開2016-024752(JP,A)
【文献】特開2012-033104(JP,A)
【文献】特開2005-196530(JP,A)
【文献】特開2008-176438(JP,A)
【文献】特開2017-162195(JP,A)
【文献】特開2012-108723(JP,A)
【文献】国際公開第2012/160653(WO,A1)
【文献】米国特許出願公開第2014/0089859(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01-3/04895
(57)【特許請求の範囲】
【請求項1】
プロセッサを有し、
前記プロセッサは、
空中に第1の領域が設けられ、当該第1の領域に対応する第1の面を有する第1の空中像が空中に形成されている場合に、
第1の空間から前記第1の領域を通って第2の空間に入った物体が検知された場合に第1の処理を行い、
前記第1の空間から前記第1の領域に入ったものの前記第2の空間に入らなかった物体が検知された場合に第2の処理を行い、
前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にある
ことを特徴とする情報処理装置。
【請求項2】
前記第1の処理は、前記第2の空間に第2の空中像を形成する処理である
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記第2の処理は、前記第1の空間に第2の空中像を形成する処理である
ことを特徴とする請求項1に記載の情報処理装置。
【請求項4】
前記プロセッサは、前記第2の空中像が選択された場合に、第3の処理を行う
ことを特徴とする請求項2又は3に記載の情報処理装置。
【請求項5】
前記プロセッサは、前記第1の空間から前記第1の領域を通って前記第2の空間に入った物体が、更に当該第1の領域を通って当該第1の空間に入る場合に前記第1の処理を行い、
前記第1の処理は、前記物体が前記第2の空間から前記第1の領域を通って前記第1の空間に入る際に通過する当該第1の領域に設けられたサブ領域に応じて変化する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項6】
前記プロセッサは、前記第1の空間から前記第1の領域を通って前記第2の空間に入った物体が、更に当該第1の領域を通って当該第1の空間に入る場合に前記第1の処理を行い、
前記第1の処理は、前記物体が前記第1の空間から前記第1の領域を通って前記第2の空間に入る際に通過した第1のサブ領域と、前記物体が当該第2の空間から当該第1の領域を通って当該第1の空間に入る際に通過した第2のサブ領域の組み合わせに応じて変化する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項7】
プロセッサを有し、
前記プロセッサは、
空中に第1の領域と第2の領域が設けられ、当該第1の領域に対応する第1の面と当該第2の領域に対応する第2の面とを有する第1の空中像が空中に形成されている場合に、
第1の空間から前記第1の領域を通って第2の空間に入り、当該第2の空間から前記第2の領域に入った物体が検知されたときに、当該第1の領域に対応する内容と当該第2の領域に対応する内容とに応じた処理を行い、
前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にある
ことを特徴とする情報処理装置。
【請求項8】
前記プロセッサは、前記物体が前記第1の領域の予め定めた位置にある場合、前記第2の空間に第2の空中像を形成させる
ことを特徴とする請求項7に記載の情報処理装置。
【請求項9】
前記プロセッサは、前記物体が前記第2の空間の前記第2の空中像を選択した状態で前記第2の領域に入った場合に、前記第1の領域に対応する内容と、当該第2の領域に対応する内容と、当該第2の空中像に対応する内容とに応じた処理を行う
ことを特徴とする請求項8に記載の情報処理装置。
【請求項10】
前記第2の領域は複数のサブ領域を有し、
前記プロセッサは、前記第1の領域に対応する内容と、前記第2の領域の一部であって前記物体が入ったサブ領域に対応する内容とに応じた処理を行う
ことを特徴とする請求項7~9のいずれか1項に記載の情報処理装置。
【請求項11】
前記第1の領域は特定の機能に対応し、
前記第2の領域が有する複数のサブ領域は、それぞれ、前記特定の機能の異なる設定に対応する
ことを特徴とする請求項10に記載の情報処理装置。
【請求項12】
前記第1の領域は複数のサブ領域を有し、
前記プロセッサは、前記第1の領域の一部であって前記物体が入ったサブ領域に対応する内容と、前記第2の領域に対応する内容とに応じた処理を行う
ことを特徴とする請求項7~9のいずれか1項に記載の情報処理装置。
【請求項13】
前記第1の領域と前記第2の領域はそれぞれ複数のサブ領域を有し、
前記プロセッサは、前記第1の領域の一部であって前記物体が入ったサブ領域に対応する内容と、前記第2の領域の一部であって当該物体が入ったサブ領域に対応する内容とに応じた処理を行う
ことを特徴とする請求項7~9のいずれか1項に記載の情報処理装置。
【請求項14】
前記第1の空中像は、前記第1の領域に対応する前記第1の面と、前記第2の領域に対応する前記第2の面とを有する多面体である
ことを特徴とする請求項7~13のいずれか1項に記載の情報処理装置。
【請求項15】
前記プロセッサは、前記物体の前記第1の領域への入り、又は、当該物体の前記第2の領域からの出に応じて、前記第1の空中像の形態を変化させる
ことを特徴とする請求項7~14のいずれか1項に記載の情報処理装置。
【請求項16】
前記プロセッサは、前記物体の前記第2の領域への入り、又は、当該物体の前記第1の領域からの出に応じて、前記第1の空中像の形態を変化させる
ことを特徴とする請求項7~14のいずれか1項に記載の情報処理装置。
【請求項17】
前記物体は指であり、
前記プロセッサは、前記指の前記第1の領域への入り、又は、当該指の当該第1の領域からの出に応じて、当該指に刺激を与える指示を行う
ことを特徴とする請求項1~16のいずれか1項に記載の情報処理装置。
【請求項18】
前記プロセッサは、
ユーザの選択に応じて、前記第1の領域に対して特定の機能を割り当てる
ことを特徴とする請求項1~17のいずれか1項に記載の情報処理装置。
【請求項19】
空中に第1の領域が設けられ、当該第1の領域に対応する第1の面を有する第1の空中像が空中に形成されている場合に、
コンピュータに、
第1の空間から前記第1の領域を通って第2の空間に入った物体が検知された場合に第1の処理を行う機能と、
前記第1の空間から前記第1の領域に入ったものの前記第2の空間に入らなかった物体が検知された場合に第2の処理を行う機能と
を実行させるプログラムであって、
前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にある
ことを特徴とするプログラム。
【請求項20】
空中に第1の領域と第2の領域が設けられ、当該第1の領域に対応する第1の面と当該第2の領域に対応する第2の面とを有する第1の空中像が空中に形成されている場合に、
コンピュータに、
第1の空間から前記第1の領域を通って第2の空間に入り、当該第2の空間から前記第2の領域に入った物体が検知されたときに、当該第1の領域に対応する内容と当該第2の領域に対応する内容とに応じた処理を行う機能を実行させるプログラムであって、
前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にある
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置及びプログラムに関する。
【背景技術】
【0002】
現在、ジェスチャーを入力に用いる技術がある。例えばモニタその他の表示装置に表示される画像に対するユーザのジェスチャーを撮像した画像を解析し、操作の内容を特定する技術がある。また、ユーザが指示入力に用いる物体と表示装置の表示面との距離に応じ、操作の内容を特定する技術がある。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
現在、空中に像を形成する技術が提案されており、一部の技術は入力用のインタフェースに応用されている。ただし、操作の仕方は物理的なディスプレイに対する操作の仕方と同様である。
【0005】
本発明は、物理的なディスプレイを操作する場合に比して、入力が可能な操作の種類を多様化することを目的とする。
【課題を解決するための手段】
【0006】
請求項1に記載の発明は、プロセッサを有し、前記プロセッサは、空中に第1の領域が設けられ、当該第1の領域に対応する第1の面を有する第1の空中像が空中に形成されている場合に、第1の空間から前記第1の領域を通って第2の空間に入った物体が検知された場合に第1の処理を行い、前記第1の空間から前記第1の領域に入ったものの前記第2の空間に入らなかった物体が検知された場合に第2の処理を行い、前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にあることを特徴とする情報処理装置である。
請求項2に記載の発明は、前記第1の処理は、前記第2の空間に第2の空中像を形成する処理であることを特徴とする請求項1に記載の情報処理装置である。
請求項3に記載の発明は、前記第2の処理は、前記第1の空間に第2の空中像を形成する処理であることを特徴とする請求項1に記載の情報処理装置である。
請求項4に記載の発明は、前記プロセッサは、前記第2の空中像が選択された場合に、第3の処理を行うことを特徴とする請求項2又は3に記載の情報処理装置である。
請求項5に記載の発明は、前記プロセッサは、前記第1の空間から前記第1の領域を通って前記第2の空間に入った物体が、更に当該第1の領域を通って当該第1の空間に入る場合に前記第1の処理を行い、前記第1の処理は、前記物体が前記第2の空間から前記第1の領域を通って前記第1の空間に入る際に通過する当該第1の領域に設けられたサブ領域に応じて変化することを特徴とする請求項1に記載の情報処理装置である。
請求項6に記載の発明は、前記プロセッサは、前記第1の空間から前記第1の領域を通って前記第2の空間に入った物体が、更に当該第1の領域を通って当該第1の空間に入る場合に前記第1の処理を行い、前記第1の処理は、前記物体が前記第1の空間から前記第1の領域を通って前記第2の空間に入る際に通過した第1のサブ領域と、前記物体が当該第2の空間から当該第1の領域を通って当該第1の空間に入る際に通過した第2のサブ領域の組み合わせに応じて変化することを特徴とする請求項1に記載の情報処理装置である。
請求項7に記載の発明は、プロセッサを有し、前記プロセッサは、空中に第1の領域と第2の領域が設けられ、当該第1の領域に対応する第1の面と当該第2の領域に対応する第2の面とを有する第1の空中像が空中に形成されている場合に、第1の空間から前記第1の領域を通って第2の空間に入り、当該第2の空間から前記第2の領域に入った物体が検知されたときに、当該第1の領域に対応する内容と当該第2の領域に対応する内容とに応じた処理を行い、前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にあることを特徴とする情報処理装置である。
請求項8に記載の発明は、前記プロセッサは、前記物体が前記第1の領域の予め定めた位置にある場合、前記第2の空間に第2の空中像を形成させることを特徴とする請求項7に記載の情報処理装置である。
請求項9に記載の発明は、前記プロセッサは、前記物体が前記第2の空間の前記第2の空中像を選択した状態で前記第2の領域に入った場合に、前記第1の領域に対応する内容と、当該第2の領域に対応する内容と、当該第2の空中像に対応する内容とに応じた処理を行うことを特徴とする請求項8に記載の情報処理装置である。
請求項10に記載の発明は、前記第2の領域は複数のサブ領域を有し、前記プロセッサは、前記第1の領域に対応する内容と、前記第2の領域の一部であって前記物体が入ったサブ領域に対応する内容とに応じた処理を行うことを特徴とする請求項7~9のいずれか1項に記載の情報処理装置である。
請求項11に記載の発明は、前記第1の領域は特定の機能に対応し、前記第2の領域が有する複数のサブ領域は、それぞれ、前記特定の機能の異なる設定に対応することを特徴とする請求項10に記載の情報処理装置である。
請求項12に記載の発明は、前記第1の領域は複数のサブ領域を有し、前記プロセッサは、前記第1の領域の一部であって前記物体が入ったサブ領域に対応する内容と、前記第2の領域に対応する内容とに応じた処理を行うことを特徴とする請求項7~9のいずれか1項に記載の情報処理装置である。
請求項13に記載の発明は、前記第1の領域と前記第2の領域はそれぞれ複数のサブ領域を有し、前記プロセッサは、前記第1の領域の一部であって前記物体が入ったサブ領域に対応する内容と、前記第2の領域の一部であって当該物体が入ったサブ領域に対応する内容とに応じた処理を行うことを特徴とする請求項7~9のいずれか1項に記載の情報処理装置である。
請求項14に記載の発明は、前記第1の空中像は、前記第1の領域に対応する前記第1の面と、前記第2の領域に対応する前記第2の面とを有する多面体であることを特徴とする請求項7~13のいずれか1項に記載の情報処理装置である。
請求項15に記載の発明は、前記プロセッサは、前記物体の前記第1の領域への入り、又は、当該物体の前記第2の領域からの出に応じて、前記第1の空中像の形態を変化させることを特徴とする請求項7~14のいずれか1項に記載の情報処理装置である。
請求項16に記載の発明は、前記プロセッサは、前記物体の前記第2の領域への入り、又は、当該物体の前記第1の領域からの出に応じて、前記第1の空中像の形態を変化させることを特徴とする請求項7~14のいずれか1項に記載の情報処理装置である。
請求項17に記載の発明は、前記物体は指であり、前記プロセッサは、前記指の前記第1の領域への入り、又は、当該指の当該第1の領域からの出に応じて、当該指に刺激を与える指示を行うことを特徴とする請求項1~16のいずれか1項に記載の情報処理装置である。
請求項18に記載の発明は、前記プロセッサは、ユーザの選択に応じて、前記第1の領域に対して特定の機能を割り当てることを特徴とする請求項1~17のいずれか1項に記載の情報処理装置である。
請求項19に記載の発明は、空中に第1の領域が設けられ、当該第1の領域に対応する第1の面を有する第1の空中像が空中に形成されている場合に、コンピュータに、第1の空間から前記第1の領域を通って第2の空間に入った物体が検知された場合に第1の処理を行う機能と、前記第1の空間から前記第1の領域に入ったものの前記第2の空間に入らなかった物体が検知された場合に第2の処理を行う機能とを実行させるプログラムであって、前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にあることを特徴とするプログラムである。
請求項20に記載の発明は、空中に第1の領域と第2の領域が設けられ、当該第1の領域に対応する第1の面と当該第2の領域に対応する第2の面とを有する第1の空中像が空中に形成されている場合に、コンピュータに、第1の空間から前記第1の領域を通って第2の空間に入り、当該第2の空間から前記第2の領域に入った物体が検知されたときに、当該第1の領域に対応する内容と当該第2の領域に対応する内容とに応じた処理を行う機能を実行させるプログラムであって、前記第1の空間と前記第2の空間は、前記第1の領域を挟んで対向する位置にあることを特徴とするプログラムである。
【発明の効果】
【0007】
請求項1記載の発明によれば、物理的なディスプレイを操作する場合に比して、入力が可能な操作の種類を多様化できる。
請求項2記載の発明によれば、奥行きを活用した情報の表示を実現できる。
請求項3記載の発明によれば、奥行きを活用して操作の種類を増やすことができる。
請求項4記載の発明によれば、奥行きを活用して操作の種類を増やすことができる。
請求項5記載の発明によれば、奥行きを活用した情報の表示を実現できる。
請求項6記載の発明によれば、奥行きを活用した情報の表示を実現できる。
請求項7記載の発明によれば、物理的なディスプレイを操作する場合に比して、入力が可能な操作の種類を多様化できる。
請求項8記載の発明によれば、奥行きを活用した情報の表示を実現できる。
請求項9記載の発明によれば、通り抜けが可能な空間を活用した操作を実現できる。
請求項10記載の発明によれば、通り抜けが可能な空間を活用した操作を実現できる。
請求項11記載の発明によれば、通り抜けが可能な空間を活用して操作の種類を多様化できる。
請求項12記載の発明によれば、通り抜けが可能な空間を活用した操作を実現できる。
請求項13記載の発明によれば、通り抜けが可能な空間を活用した操作を実現できる。
請求項14記載の発明によれば、通り抜けが可能な空間を活用した操作を実現できる。
請求項15記載の発明によれば、通り抜けが可能な空間を活用した操作を実現できる。
請求項16記載の発明によれば、多様な入力を可能にできる。
請求項17記載の発明によれば、操作を知覚させることができる。
請求項18記載の発明によれば、ユーザ毎に異なる操作の入力に用いることができる。
請求項19記載の発明によれば、物理的なディスプレイを操作する場合に比して、入力が可能な操作の種類を多様化できる。
請求項20記載の発明によれば、物理的なディスプレイを操作する場合に比して、入力が可能な操作の種類を多様化できる。
【図面の簡単な説明】
【0008】
【
図1】実施の形態1で使用する情報処理システムの構成例を示す図である。
【
図2】第1の空中像の一例である空中像#1と検知領域の位置関係を説明する図である。
【
図3】検知の対象が指先である場合における指先と検知領域Aとの関係を説明する図である。(A)は指先が検知領域Aの手前側にある状態を示す。(B)は指先が検知領域Aにある状態を示す。(C)は指先が検知領域Aの奥側にある状態を示す。
【
図4】実施の形態1で使用するプロセッサの処理動作例を説明するフローチャートである。
【
図5】実施の形態2で使用する情報処理システムの構成例を示す図である。
【
図6】本実施の形態における処理の受付のフィードバック例を説明する図である。(A)は指先がアイコンに対応する検知領域Aの手前側にある状態のフィードバックを示す。(B)は指先がアイコンに対応する検知領域Aにある状態のフィードバックを示す。(C)は指先がアイコンに対応する検知領域Aの奥側にある状態のフィードバックを示す。
【
図7】実施の形態3で使用する情報処理システムの構成例を示す図である。
【
図8】4つのセンサに対応する4つの検知領域の位置関係を説明する図である。
【
図9】実施の形態3で使用するプロセッサの処理動作例を説明するフローチャートである。
【
図10】指先が検知領域Aを通過した場合に実行される処理動作例を説明する図である。(A)は指先が検知領域Aを通過した状態を示し、(B)は通過の検知後に形成される第2の空中像の一例である空中像#2bの位置を示す。
【
図11】指先が検知領域Aにある場合に実行される処理動作例を説明する図である。(A)は指先が検知領域Aにある状態を示し、(B)は通過の検知後に形成される第2の空中像の一例である空中像#2aの位置を示す。
【
図12】検知領域Aに含まれる第1の空中像の一例である空中像#1の具体例と特定のサブ領域が処理の指示に用いられる場合を説明する図である。
【
図13】検知領域Aの手前側に形成される第2の空中像の一例である空中像#2の具体例を示す図である。
【
図14】実施の形態3の変形例3の処理動作例を説明するフローチャートである。
【
図15】指先を検知領域Aの手前側から検知領域Aを通過させて検知領域Aの奥側に移動させた後に、指先を奥側から検知領域Aを再び通過させて手前側に戻すジェスチャーの例を説明する図である。(A1)は指先が手前側から奥側に行くときに検知領域Aを通過したタイミングからt秒以内に手前側に戻る場合に処理の指示に用いるサブ領域を示す。(B1)は指先が手前側から奥側に行くときに検知領域Aを通過したタイミングからt秒以上経過した後に手前側に戻る場合に処理の指示に用いるサブ領域を示す。
【
図16】実施の形態3の変形例4の処理動作例を説明するフローチャートである。
【
図17】検知領域Aを奥側に通過した指先が再び手前側に通過する動きを処理の指示に活用する例を説明する図である。(A)は通過の検知からt秒以内に手前側に戻る場合に処理の指示に用いるサブ領域を示し、(B)は通過の検知からt秒以上経過した後に手前側に戻る場合に処理の指示に用いるサブ領域を示す。
【
図18】実施の形態4で使用する情報処理システムの構成例を示す図である。
【
図19】
図18の空中立体像の各面と検知領域との位置関係を説明する図である。(A)は空中像#1の各面に提示されている情報を示し、(B)はユーザから見て右側の面から空中立体像を見る場合における検知領域の設定例を示し、(C)はユーザが空中立体像の正面を見る場合における検知領域の設定例を示す。
【
図20】実施の形態4で使用するプロセッサの処理動作例を説明するフローチャートである。
【
図21】実施の形態4における処理の指示の具体例を説明する図である。
【
図22】実施の形態4における処理の指示の他の具体例を説明する図である。
【
図23】実施の形態4における処理の指示の他の具体例を説明する図である。
【
図24】実施の形態4における処理の指示の他の具体例を説明する図である。
【
図25】実施の形態4における処理の指示の他の具体例を説明する図である。
【
図26】空中立体像の内側に空中像#2が新たに形成された状態を示す図である。
【
図27】ファイルの選択が終わった後の指先の動きを説明する図である。
【
図28】選択の受付に伴う空中像#1の形態の変化を説明する図である。
【
図29】選択の受付に伴う空中像#1の形態の他の変化を説明する図である。
【
図30】ブルートゥース(登録商標)信号を発信する指輪の位置を検知する位置検知装置を有する情報処理システムを説明する図である。
【発明を実施するための形態】
【0009】
以下、図面を参照して、本発明の実施の形態を説明する。
<実施の形態1>
<システム構成>
図1は、実施の形態1で使用する情報処理システム1の構成例を示す図である。
図1に示す情報処理システム1は、通り抜け可能な像(以下「空中像」ともいう)を形成する空中像形成装置10と、空中像形成装置10を制御する制御装置20と、空中像が表示されている空間にある手、指、ペン、電子機器等の物体の位置を検知するセンサ30とを有している。
以下では、空中像形成装置10が空中に形成する像を「第1の空中像」と呼び、空中像#1と表記する。
センサ30は、物体の全体ではなく特定の部位を検知してもよい。一例では、センサ30は、手の平の位置を検知してもよい。別の例では、センサ30は、指の先端やペン型デバイスの先端の位置を検知しもよい。別の例では、センサ30は、指先に装着されるデバイスやペン型デバイスに埋め込まれた特定の部品の位置を検出してもよい。以下の説明では、センサ30が指先の位置を検知する例で説明する。
【0010】
空中像#1は、空中に浮かぶように形成されるので、物体は、空中像#1を通り抜けることが可能である。
なお、本実施の形態における空中像#1は、現実の空間に存在するスクリーンに投影される像ではない。また、本実施の形態における空中像は、発光素子のアレイが実空間を高速に移動することで生じる残像現象により表示される像でもない。
【0011】
空中像の例には、イメージ、文字、その組み合わせが含まれるが、これらに制限されない。また、空中像の大きさや形状にも制限はない。空中像は、面状の像であってもよいし、立体的な形状の像であってもよい。面状の像の例には、三角形、四角形、その他の多角形、円形、より複雑な形状(星形、ハート形、人・物・動物のシルエットなど)が含まれる。立体的な形状の像の例には、球体、円柱、円錐、立方体、三角錐、角錐、角柱、正面体、これらの組み合わせ、および、人体、車、部屋など、より複雑な3次元の像が含まれる。
本実施の形態の場合、空中像は、空中像が形成されている空間でユーザが物体を移動させることによって処理を指示するためのガイドとして使用される。また、空中像は、静止画像に限定されず、動画像でもよい。
【0012】
空中像形成装置10は、空中に空中像を直接形成する装置である。空中に空中像#1を直接形成する方法は、既に様々なものが提案され、一部は実用化されている。例えば空中像の形成にハーフミラーを用いる方法、ビームスプリッタを用いる方法、微小なミラーアレイを用いる方法、微小なレンズアレイを用いる方法、視差バリアを用いる方法、プラズマ発光を用いる方法等がある。空中像形成装置10が空中に空中像を形成する方法は、ここに挙げた方法や将来的に利用可能になるその他の方法を用いることができる。
【0013】
制御装置20は、プログラムの実行を通じて検索その他の処理を実行するプロセッサ21と、プログラムや各種のデータを記憶する記憶装置22と、外部との通信を実現するネットワークIF(=InterFace)23と、これらを接続するバスその他の信号線24とを有している。制御装置20は、いわゆるコンピュータでも、インターネット上のサーバでもよい。制御装置20は、情報処理装置の一例である。
プロセッサ21は、例えばCPUで構成される。記憶装置22は、例えばBIOS(=Basic Input Output System)等が記憶されたROM(=Read Only Memory)と、ワークエリアとして用いられるRAM(=Random Access Memory)と、基本プログラムやアプリケーションプログラム等が記憶されたハードディスク装置とで構成される。
もっとも、ROMやRAMがプロセッサ21の一部に含まれることを妨げない。プロセッサ21と記憶装置22は、コンピュータを構成する。
【0014】
センサ30は、空中像#1が形成される位置に対応付けて設定されている検知領域を横切る物体を検知するデバイスである。
本実施の形態の場合、センサ30は、赤外線センサを使用する。このため、人には、赤外線センサの検知領域A及びBが知覚されない。
センサ30Aの検知領域Aは、空中像形成装置10によって空中に形成される空中像#1に対応して設けられる。本実施の形態では、検知領域Aは、空中像が表示されている領域とその周辺を含むように設定されている。具体的には、検知領域Aは、空中像#1を基準面とする場合、基準面に対して概略平行で、基準面の法線方向に予め定めた幅を有する領域として設定される。より具体的には、検知領域Aは、ユーザから見て空中像#1の手前側の空間と奥側の空間のそれぞれの方向に、例えば数ミリ~約1センチメートルの幅を有する領域として設定される。なお、検知領域Aの厚み方向の中心が空中像である必要はない。ここでの検知領域Aは、第1の領域の一例である。
【0015】
なお、本実施の形態では、検知領域Aは空中像#1が形成されている領域とその周辺の領域を含むように設定しているが、空中像#1が形成されている領域を含まないように設定してもよい。例えば空中像#1が形成されている領域の手前側又は奥側に5ミリ程度離して検知領域Aを設定してもよい。また、本実施の形態では、検知領域Aに厚みを持たせたが、検知領域Aは厚みを有さなくてもよい。検知領域Aは、空中像#1が形成されている領域と実質的に同じであってもよい。
センサ30Aは、1個の赤外線センサである必要はなく、複数個の赤外線センサでもよい。なお、複数個の赤外線センサを用いれば、三角測量の原理により、空中像#1のうち物体が侵入した位置を検知することも可能である。
【0016】
本実施の形態の場合、空中像#1の奥側の空間には、センサ30Bの検知領域Bが設けられている。センサ30Bは、物体が空中像#1を通り抜けた状態であることを検知するために設けられる。センサ30Bの検知領域は、センサ30Aの検知領域と概略平行に設定される。
センサ30Bも、1個の赤外線センサではなく複数個の赤外線センサであってもよい。
本実施の形態では、センサ30A及び30Bとして赤外線センサを用いているが、撮像センサを用いてもよい。例えば空中像#1の側面から画像を撮像すれば、指先が空中像#1に重なっているか、通過したか等を検知することも可能である。また、空中像#1が形成される領域を撮像センサで撮像することにより、検知領域Aのうち処理対象となった領域の位置を検知することも可能である。
【0017】
図2は、空中像#1と検知領域A及びBの位置関係を説明する図である。
本実施の形態では、空中像#1を基準に設定される検知領域Aに対してユーザがいる側を検知領域Aの手前側の空間といい、ユーザがいない側を検知領域Aの奥側の空間という。
手前側の空間は第1の空間の一例であり、奥側の空間は第2の空間の一例である。手前側の空間と奥側の空間は、検知領域Aを挟んで対向する位置にある。
なお、前述した検知領域Bは、奥側の空間に、検知領域Aと概略平行に設定される。
図2の例では、検知領域Bと検知領域Aとの間に隙間を設けているが、この隙間は無くてもよい。いずれにしても、
図2の例では、検知領域Aと検知領域Bの隙間を誇張して表している。
【0018】
図3は、検知の対象が指先である場合における指先と検知領域Aとの関係を説明する図である。(A)は指先が検知領域Aの手前側にある状態を示す。(B)は指先が検知領域Aにある状態を示す。(C)は指先が検知領域Aの奥側にある状態を示す。
一例として、検知領域Aと検知領域Bのいずれでも物体が検知されていない状態のとき、指先の位置が(A)の状態であるとみなすことが可能である。また、検知領域Aで物体が検知され、検知領域Bでは物体が検知されていない状態のとき、指先の位置が(B)の状態であるとみなすことが可能である。また、検知領域Aと検知領域Bの両方で物体が検知された状態のとき、指先の位置が(C)の状態であるとみなすことが可能である。
ここで、ユーザの指先の状態が一定時間内に、A)から(B)に、更に、(B)から(A)へと変化した場合、このユーザは、指先で検知領域Aに対応して形成されている空中像#1の面を指で触っているつもりだと考えることが可能である。指先の状態が一定時間内に、(A)から(B)に、更に、(B)から(C)へと変化した場合、このユーザは指先を検知領域Aに対応して形成されている空中像#1の面を通り抜けさせているつもりだと考えることが可能である。
【0019】
図4は、実施の形態1で使用するプロセッサ21(
図1参照)の処理動作例を説明するフローチャートである。図中の記号のSはステップを意味する。
図4に示す処理動作は、空中像#1の全体を検知面とする例である。
本実施の形態におけるプロセッサ21は、センサ30(
図1参照)が手前側の空間から検知領域Aに入った物体を検知したか否かを判定する(ステップ1)。
ステップ1で否定結果が得られている間、プロセッサ21は、判定を繰り返す。
一方、ステップ1で肯定結果が得られると、プロセッサ21は、手前側の空間から検知領域Aに入った物体が検知領域Aを通り抜けて奥側の空間に入ったか否かを判定する(ステップ2)。
【0020】
ステップ2で肯定結果が得られた場合、プロセッサ21は、処理対象に対して第1の処理を行う(ステップ3)。一方、ステップ2で否定結果が得られた場合、プロセッサ21は、処理対象に対して第2の処理を行う(ステップ4)。例えば、処理対象を第1の状態にすることを第1の処理とし、第2の状態にすることを第2の処理とすることが可能である。
処理対象の一例は、端末である。ここでいう端末は、制御装置20(
図1参照)でもよいし、プロセッサ21と通信可能な不図示の情報処理装置でもよい。不図示の情報処理装置には、例えば、テレビ、ビデオ、オーディオ機器、電子調理器、空調機、照明器具、PC、スマートフォン、タブレット等が含まれるが、これらに制限されない。第1の処理の処理対象と第2の処理の処理対象は同じであっても異なっていてもよい。
【0021】
第1の処理の処理対象となる端末と第2の処理の処理対象となる端末が同じである場合、検知領域Aに対応する空中像#1として、第1の処理と第2の処理の処理対象となる端末を示す像を提示するとよい。具体的には、第1の処理に恵理子さんのPC(=Personal Computer)をスリープモードにする処理が割り当てられ、第2の処理に恵理子さんのPCを再起動する処理を割り当てられている状態のときに、例えば、検知領域Aに対応する空中像#1として、「恵理子のPC」というテキストを有する矩形や、恵理子さんのアバターとPCのアイコンを有する矩形を表示させるようにするとよい。つまり、ユーザが恵理子さんのPCを示す空中像の面を触れるように指を動かすと、ユーザの指先の状態が一定時間内に、
図3の(A)から(B)に、更に、(B)から(A)へと変化することになり、恵理子さんのPCはスリープモードになる。一方、ユーザが恵理子さんのPCを示す空中像#1の面を通り抜けるように指を動かすと、ユーザの指先の状態が一定時間内に、
図3の(A)から(B)に、更に、
図3の(B)から(C)へと変化して、恵理子さんのPCは再起動される。
この一連のフローをユーザの視点から捉えると、空中像#1は「通過可能なボタン」のように見え、指先やスタイラスの先をボタンに軽く触れさせる(便宜上「タッチ」と呼ぶ)のか、ボタンの奥深くまで動かすのか(便宜上「ディープタッチ」と呼ぶ)によって、同じボタンを使って異なる処理を指示することができるように見える。ユーザは、空中像#1をガイドにして、指先の状態が一定時間内に、
図3の(A)から(B)に、更に、
図3の(B)から(A)へと変化するように指を動かすことで、第1の処理の実行を指示し、指先の状態が一定時間内に
図3の(A)から(B)に、更に、
図3の(B)から(C)へと変化するように指を動かすことで、第2の処理の実行を指示することができる。
【0022】
処理対象は端末である必要はなく、文書、画像、音楽などのファイルであってもよい。これらのファイルは制御装置20(
図1参照)に保存されたものであってもよいし、プロセッサ21と通信可能な不図示の情報処理装置端末に保存されたものであってもよい。第1の処理の処理対象と第2の処理の処理対象は同じであっても異なっていてもよい。
第1の処理の処理対象となるファイルと、第2の処理の処理対象となるファイルが同じである場合、検知領域Aに対応する空中像#1として、第1の処理と第2の処理の処理対象となるファイルを示す像を提示するとよい。具体的には、第1の処理に「特許法.dоcx」という文書ファイルを選択する処理が割り当てられ、第2の処理に「特許法.dоcx」という文書ファイルを開く処理が割り当てられている状態のときに、例えば、検知領域Aに対応する空中像#1として、「特許法.dоcx」というファイル名を有する矩形や、「特許法.dоcx」のプレビューを表示させるようにするとよい。つまり、ユーザが「特許法.dоcx」を示す空中像#1の面を触れるように指を動かすと、ユーザの指先の状態が一定時間内に(A)から(B)に、その後、(B)から(A)へと変化することになり、「特許法.dоcx」が選択される。選択されたことを示すために、例えば、「特許法.dоcx」を空中像#1の色を変化させる。一方、ユーザが「特許法.dоcx」を示す空中像#1の面を通り抜けるように指を動かすと、ユーザの指先の状態が一定時間内に(A)から(B)に、その後、(B)から(C)へと変化して、「特許法.dоcx」が開く。なお、開いた「特許法.dоcx」の中身は、空中像形成装置10によって空中像として提示してもよいし、プロセッサ21と通信可能なディスプレイ(不図示)に表示してもよい。
【0023】
第1の処理又は第2の処理を実行する指示を受け付けた場合、この空中像#1は空中から消してもよいし、空中に残してもよい。空中像#1を空中に残す場合、処理の指示を受け付けたことに応じて、空中像#1の外観を変化させてもよい。例えば、色や透明度、大きさを変化させたり、処理が実行されたことを示すテキストやアイコンを該空中像に付加したりしてもよい。また、第1の処理を実行する指示を受け付けた場合と、第2の処理を実行する指示を受け付けた場合とで、空中像#1の外観を異なる外観に変化させてもよい。
本実施の形態で第1の処理と第2の処理に割り当てた処理は単なる例にすぎず、第1の処理と第2の処理を逆に割り当ててもよいし、ここで挙げた処理以外の処理を割り当ててもよい。例えば、第1の処理に、「特許法.dоcx」をデフォルトに設定された印刷装置から印刷する処理を割り当て、第2の処理に、「特許法.dоcx」の印刷に用いる印刷装置の候補を提示する処理を割り当ててもよい。印刷装置の候補は、「特許法.dоcx」を示す空中像#1に提示されてもよいし、新たな空中像に提示されてもよいし、プロセッサ21と通信可能なディスプレイ(不図示)に表示されてもよい。本実施の形態では、新たな空中像を第2の空中像と呼び、第1の空中像と区別する。第2の空中像を空中像#2と表記する。
なお、空中には複数の空中像#1が同時に形成されていてもよい。空中像#1aと空中像#1bが同時に形成される場合、空中像#1aに対応する検知領域と、空中像#1bに対応する検知領域をそれぞれ設ける。
【0024】
<実施の形態2>
<システム構成>
図5は、実施の形態2で使用する情報処理システム1Aの構成例を示す図である。
図5には、
図1との対応部分に対応する符号を付して示す。
図5に示す情報処理システム1Aには、処理の指示の受付をユーザにフィードバックする超音波触覚インタフェース装置40が追加されている。
超音波触覚インタフェース装置40は、超音波振動子を格子状に多数並べた超音波振動子アレイで構成される。本実施の形態における超音波触覚インタフェース装置40は、空中像の特定の領域に焦点を結ぶように超音波を発生させる。もっとも、センサ30により特定の領域への指先の挿入が検知された場合に限り、超音波振動子アレイを作動させてもよい。
【0025】
超音波振動子アレイが作動すると、特定の領域に音響放射圧と呼ばれる圧力が生じる。このため、音響放射圧が生じている位置に指先が位置すると、表面に押されるような触覚刺激が生まれる。
図5に示す空中像の一部分には、アイコン11の画像が配置されている。
図5の例では、指先がアイコン11に近づいているが、ユーザは、自身が行った処理の指示がプロセッサ21Aにどのように検知されたかが分からない。検知領域Aのうちアイコン11に対応付けられる領域は、検知領域Aにおけるサブ領域の一例である。
本実施の形態の場合、プロセッサ21Aは、検知領域Aの全体ではなく、アイコン11に対応する領域に対する指先の位置を検知している。アイコン11に対応する領域を確実に検知するには、アイコン11が形成される高さの範囲を検知領域とする不図示のセンサ30を配置することが望ましい。この場合、
図5に示すセンサ30の検知領域Aと不図示のセンサ30の検知領域とが交差する領域がサブ領域として設定される。
【0026】
図6は、本実施の形態における処理の指示の受付のフィードバック例を説明する図である。(A)は指先がアイコン11(
図5参照)に対応する検知領域Aの手前側にある状態におけるフィードバックを示す。(B)は指先がアイコン11に対応する検知領域Aにある状態のフィードバックを示す。(C)は指先がアイコン11に対応する検知領域Aの奥側にある状態のフィードバックを示す。
一例として、指先がアイコン11に対応する検知領域Aにある状態では、指先にレベル1の触覚刺激が発生する。指先がアイコン11に対応する検知領域Aの奥側にある状態では、指先にレベル2の触覚刺激が発生する。本実施の形態の場合、レベル1よりレベル2の触覚刺激の方が大きい。なお、レベル1とレベル2の違いは、指先を空中像#1に挿入するユーザにより、触覚刺激の強さの違いとして知覚されるように設定される。
もっとも、音響放射圧による触覚刺激は、指先が特定の検知領域に入ったことを発生条件として与えるのではなく、特定の検知領域から出ることを発生条件としてもよい。
【0027】
また、レベルの大きさの違いではなく、触覚刺激の回数を用いてもよい。例えば指先が検知領域Aに留まる状態では、指先にレベル1の触覚刺激を例えば1秒間に1回発生させ、指先が検知領域Aを通過して検知領域Bに達した状態では、指先にレベル1の触覚刺激を例えば1秒間に2回発生させてもよい。
もっとも、本実施の形態では、
図5に示す検知領域Aの全体ではなく、アイコン11に対応する部分領域に対する指先の位置を検知の対象としているので、指先がアイコン11以外の領域に位置する場合には、指先が検知領域Aにある状態でも、指先が検知領域Aの奥側の検知領域Bにある状態でも、ユーザは触覚刺激を知覚しない。
本実施の形態の場合には、触覚刺激を用いて、処理の指示の受付をユーザに通知しているが、空中に形成される空中像#1の外観の変化により処理の指示の受付をユーザに通知させることも可能である。例えば、処理の指示を受け付けると、空中像#1のうち、受け付けた処理の指示の処理対象を示す部分(ここではアイコン11)の輝度や色調を変化させる等の方法を用いてもよい。また、超音波振動子アレイで発生される音響放射圧に代えて、空気圧を用いてもよい。
【0028】
<実施の形態3>
<システム構成>
図7は、実施の形態3で使用する情報処理システム1Bの構成例を示す図である。
図7には、
図1との対応部分に対応する符号を付して示す。
本実施の形態における情報処理システム1Bは、検知の対象である指先と検知領域Aとの位置関係に応じた位置に第2の空中像が追加で形成される場合について説明する。以下では、第2の空中像を空中像#2と表現する。
図7に示す情報処理システム1Bは、センサ30Cとセンサ30Dが追加される点で、実施の形態1の情報処理システム1(
図1参照)と相違する。
本実施の形態の場合、検知の対象である指先を指し示すユーザの位置から見て手前側から奥側の方向に、センサ30C、センサ30A、センサ30B、センサ30Dが配置されている。
【0029】
図8は、4つのセンサ30A~30Dに対応する4つの検知領域A~Dの位置関係を説明する図である。
センサ30Cに対応する検知領域Cは、センサ30Aに対応する検知領域Aよりも手前側の位置に配置される。センサ30Cに対応する検知領域Cは、検知領域A内に形成される第1の空中像よりも手前側の位置に形成される第2の空中像を含むように位置決めされる。以下、検知領域Cに対応する位置に形成される第2の空中像を空中像#2aと表記する。
センサ30Dに対応する検知領域Dは、センサ30Bに対応する検知領域Bよりも奥側の位置に配置される。センサ30Dに対応する検知領域Dは、検知領域Bよりも奥側の位置に形成される第2の空中像を含むように位置決めされる。以下、検知領域Dに対応する位置に形成される第2の空中像を空中像#2bと表記する。
ここでの空中像#2a及び空中像#2bは、第2の空中像の一例である。
【0030】
図9は、実施の形態3で使用するプロセッサ21B(
図7参照)の処理動作例を説明するフローチャートである。
図9には、
図4との対応部分に対応する符号を付して示している。
本実施の形態におけるプロセッサ21Bも、ステップ2までの処理は、実施の形態1と同じである。すなわち、手前側の空間から検知領域Aに入った物体が検知された場合、検知された物体がそのまま検知領域Aにあるか検知領域Aを通り抜けて奥側の空間に入ったかが判定される。
ステップ2で肯定結果が得られた場合、プロセッサ21Bは、検知領域Bよりも奥側の空間に空中像#2bを形成する(ステップ11)。ステップ11の内容は、ステップ3(
図4参照)で実行される処理の一例である。
【0031】
図10は、指先が検知領域Aを通過した場合に実行される処理動作例を説明する図である。(A)は指先が検知領域Aを通過した状態を示し、(B)は通過の検知後に形成される第2の空中像の一例である空中像#2bの位置を示す。
空中像#2bは、空中像#1を透過して見える位置に重ねて形成されてもよいが、ユーザから見て空中像#1と重ならない位置に形成されてもよい。
また、
図10の例では、指先の検知後も、検知領域Aに空中像#1が形成されているが、指先の検知後は空中像#2bだけが形成されるようにしてもよい。
【0032】
図9の説明に戻る。
次に、プロセッサ21Bは、検知領域Dに入った物体を検知したか否かを判定する(ステップ12)。
ステップ12で肯定結果が得られた場合、プロセッサ21Bは、空中像#2bに割り当てられている処理を実行する(ステップ13)。ここでの処理の内容は、実施の形態1の場合のように、処理対象である端末を予め定めた状態に制御する処理でもよいし、別の空中像を形成する処理でもよい。ステップ13で実行される処理は、第3の処理の一例である。
一方、ステップ12で否定結果が得られた場合、プロセッサ21Bは、そのまま処理を終了する。
【0033】
ステップ2の処理に説明を戻す。ステップ2で否定結果が得られた場合、プロセッサ21Bは、検知領域Aよりも手前側の空間に空中像#2aを形成する(ステップ14)。ステップ14の内容は、ステップ4(
図4参照)で実行される処理の一例である。
図11は、指先が検知領域Aにある場合に実行される処理動作例を説明する図である。(A)は指先が検知領域Aにある状態を示し、(B)は通過の検知後に形成される第2の空中像の一例である空中像#2aの位置を示す。
空中像#2aは、空中像#1よりも手前側の位置に空中像#1に重ねて形成されてもよい。この場合、空中像#1は、空中像#2aを透過して見えることになる。この場合も、空中像#2aは、ユーザから見て空中像#1と重ならない位置に形成されてもよい。
また、
図11の例では、指先の検知後も、検知領域Aに空中像#1が形成されているが、指先の検知後は空中像#2aだけが形成されるようにしてもよい。
【0034】
図9の説明に戻る。
次に、プロセッサ21Bは、検知領域Cに入った物体を検知したか否かを判定する(ステップ15)。
ステップ15で肯定結果が得られた場合、プロセッサ21Bは、空中像#2aに割り当てられている処理を実行する(ステップ16)。ここでの処理の内容も、実施の形態1の場合のように、処理対象である端末を予め定めた状態に制御する処理でもよいし、別の空中像を形成する処理でもよい。ステップ16で実行される処理は、第3の処理の一例である。
一方、ステップ15で否定結果が得られた場合、プロセッサ21Bは、そのまま処理を終了する。
【0035】
ここでは、
図12及び
図13を用いて、
図11の具体例を説明する。
図12は、検知領域Aに含まれる空中像の具体例と特定のサブ領域が処理の指示に用いられる場合を説明する図である。
図13は、検知領域Aの手前側に形成される空中像#2aの具体例を示す図である。
図12では、PCやスマートフォンに表示されるような画面が空中像#1として表示されている。画面内には7個のボタン11A~11Gが配置されている。ボタン11Aは「戻る」ボタンであり、ボタン11Bは「情報」を表示するボタンであり、ボタン11Cは「新規」のファイルを作成するボタンであり、ボタン11Dは「開く」ボタンであり、ボタン11Eは「上書き保存」ボタンであり、ボタン11Fは「名前を付けて保存」ボタンであり、ボタン11Gは「印刷」ボタンである。
【0036】
検知領域Aには、ボタン11A~11Gに対応するサブ領域が設けられている。ここでは、センサ30A(
図7参照)等を使用して、ユーザが空中像内に設けられたボタンのうち、どのボタンを「タッチ」又は「ディープタッチ」しようとしているのかを検知する。
例えば、「印刷」ボタン(すなわちボタン11G)に対応するサブ領域に関して、指先が一定時間内に(A)から(B)、更に(B)から(A)に移動したことが検知された場合、
図13に示すように、空中像#2aの一例として、印刷物の出力先を選択するための選択肢群が、検知領域Aに含まれる空中像の手前側に形成される。
この選択肢群には、6つの選択肢12A~12Fが配置されている。選択肢12Aは印刷装置1号機を、選択肢12Bは印刷装置2号機を、選択肢12Cは印刷装置3号機を、選択肢12Dは印刷装置4号機を、選択肢12Eは印刷装置5号機を、選択肢12Fは印刷装置6号機を示している。
【0037】
本実施例の場合、選択肢群に対応する検知領域C内およびその付近にある物体はセンサ30C(
図7参照)によって検知される。検知領域Cには、選択肢群内に設けられた選択肢12A~12Fに対するサブ領域を設け、ユーザがどの選択肢を「タッチ」または「ディープタッチ」しようとしているのかを検知する。
プロセッサ21B(
図7参照)は、ユーザの指先が入ったサブ領域に対応する印刷装置に印刷の指示を送信する。例えば、選択肢12Eに対応するサブ領域に関して、指先が一定時間内に、
図3の(A)から(B)に、更に(B)から(A)に移動したことが検知された場合、プロセッサ21Bは、印刷装置5号機に印刷の指示を送信する。
なお、
図13の場合、印刷物の出力先を選択するための選択肢群全体を1つの空中像#2aと捉えているが、選択肢12A~12Fのそれぞれを異なる空中像と捉えてもよい。その場合は、空中に第2の空中像が6つ形成されていることになる。
【0038】
<変形例1>
図9に示すフローチャートの場合には、ステップ15において、検知領域Cに指先がどこから入ったかを区別していないが、指先が奥側から検知領域Cに入ったか、手前側から検知領域Cに入ったかを判別して、それぞれ異なる処理を実行してもよい。
例えば指先が奥側からサブ領域に入った場合には、指先が入ったサブ領域に対応する印刷装置に印刷の指示を送信する一方、指先が手前側からサブ領域に入った場合には、指先が入ったサブ領域に割り振られている印刷装置の詳細情報を提示してもよい。ここで、詳細情報は第2の空中像を用いて提示してもよいが、新たに第3の空中像を形成して提示してもよい。
【0039】
<変形例2>
図9に示すフローチャートの場合には、ステップ2で肯定結果が得られた場合もステップ2で否定結果が得られた場合も、それぞれに対応する位置に第2の空中像を形成し、対応する処理を実行しているが、いずれか一方の判定の結果後の処理を、実施の形態1に示す処理に置き換えてもよい。
例えばステップ11~ステップ13をステップ3(
図4参照)と置き換えてもよい。この場合、プロセッサ21B(
図7参照)は、デフォルト設定されている印刷装置に対して印刷の指示を送信してもよい。
【0040】
<変形例3>
この例では、検知領域Aを手前側から奥側に通過した物体が、検知領域Aの奥側から手前側に再び通過する物体の動きを処理の指示に活用する場合について説明する。
図14は、実施の形態3の変形例3の処理動作例を説明するフローチャートである。
図14には、
図9との対応部分に対応する符号を付して示す。
図14では、
図9に示すステップ2で肯定結果が得られた後に実行される処理動作が異なる。
ステップ2で肯定結果が得られる場合とは、検知領域Aを手前側から奥側に通り抜ける物体が検知される場合である。
図14の場合、プロセッサ21B(
図7参照)は、通り抜けの検知から予め定めた時間内に同じ物体が再び検知領域Aを通って手前側に出たか否かを判定する(ステップ21)。この例の場合、検知領域Aを通過した物体の検知だけでは、プロセッサ21Bが実行する処理は確定しない。
【0041】
ステップ21で肯定結果が得られた場合、プロセッサ21Bは、検知領域Aより奥側に出るときに物体が通過したサブ領域に応じた処理を実行する(ステップ22)。ここでの処理は、2つ目も空中像#2の形成や処理対象に対する処理の指示である。
一方、ステップ21で否定結果が得られた場合、プロセッサ21Bは、検知領域Aの奥側から手前側に入るときに物体が通過したサブ領域に応じた処理を実行する(ステップ23)。
図15は、指先を検知領域Aの手前側から検知領域Aを通過させて検知領域Aの奥側に移動させた後に、指先を奥側から検知領域Aを再び通過させて手前側に戻すジェスチャーの例を説明する図である。(A1)は指先が手前側から奥側に行くときに検知領域Aを通過したタイミングからt秒以内に手前側に戻る場合に処理の指示に用いるサブ領域を示す。(B1)は指先が手前側から奥側に行くときに検知領域Aを通過したタイミングからt秒以上経過した後に手前側に戻る場合に処理の指示に用いるサブ領域を示す。
【0042】
ここでのt秒は、ステップ21(
図14参照)における予め定めた時間に相当する。
(A1)はステップ21で肯定結果が得られる場合に相当し、(B1)はステップ21で否定結果が得られる場合に相当する。
(A1)の場合も(B1)の場合も、指先は同じ経路を通過している。すなわち、最初に、検知領域Aに配置されたサブ領域AR1を通過して奥側に移動し、手前側に戻るときは別のサブ領域AR2を通過している。
なお、この例は、物体がどのサブ領域を通過したかを検知可能な場合を前提とする。
【0043】
(A1)の場合のように、比較的短時間で指先が手前側に戻ってくる場合は、最初に通過したサブ領域AR1を、ユーザの意図した領域であるとみなして、サブ領域AR1に割り当てられている処理を実行する。サブ領域AR1は、第1のサブ領域の一例である。空中像#1のうちサブ領域AR1が対応する位置には、
図12に示すボタンや
図13に示す選択肢等のオブジェクトが配置されている。
一方、(B1)の場合のように、指先が手前側に戻ってくるまでに比較的長時間を要する場合は、戻りの指先が通過するサブ領域AR2を、ユーザの意図した領域であるとみなして、サブ領域AR2に割り当てられている処理を実行する。サブ領域AR2は、第2のサブ領域の一例である。空中像#1のうちサブ領域AR2が対応する位置にも、サブ領域AR1と同様、オブジェクトが配置されている。
なお、サブ領域AR1とサブ領域AR2のいずれを処理の指示に割り当てるかは、初期設定により定まる。もっとも、サブ領域AR1とサブ領域AR2に対する処理の指示の割り当ては、ユーザが設定可能としてもよい。
例えばステップ21で肯定結果が得られた場合はステップ23の処理を実行し、ステップ21で否定結果が得られた場合はステップ22の処理を実行する設定とすることも可能である。
【0044】
<変形例4>
変形例3の場合には、指先を検知領域Aの手前側から検知領域Aを通過させて検知領域Aの奥側に移動させた後に、指先を奥側から検知領域Aを再び通過させて手前側に戻す場合に、指先が通過したサブ領域のうちのいずれか一方を処理の指示に用いているが、その両方を処理の指示に活用することも可能である。
図16は、実施の形態3の変形例4の処理動作例を説明するフローチャートである。
図16には、
図9との対応部分に対応する符号を付して示す。
図16では、
図9に示すステップ2で肯定結果が得られた後に実行される処理動作が異なる。
図16の場合も、プロセッサ21B(
図7参照)は、通り抜けの検知から予め定めた時間内に同じ物体が再び検知領域Aを通って手前側に出たか否かを判定する(ステップ21)。この例の場合も、検知領域Aを通過した物体の検知だけでは、プロセッサ21Bが実行する処理は確定しない。
【0045】
ステップ21で肯定結果が得られた場合、プロセッサ21Bは、検知領域Aの手前側から検知領域Aを通過して奥側に出るときに物体が通過したサブ領域と、同じ物体が検知領域Aの奥側から検知領域Aを通過して手前側に入るときに物体が通過したサブ領域の組み合わせに応じた処理を実行する(ステップ31)。ここでの処理は、空中像#2の形成や処理対象である端末への指示である。
一方、ステップ21で否定結果が得られた場合、プロセッサ21Bは、事前の設定に基づきステップ22又はステップ23を実行する。
図17は、指先を検知領域Aの手前側から検知領域Aを通過させて検知領域Aの奥側に移動させた後に、指先を奥側から検知領域Aを再び通過させて手前側に戻すジェスチャーの例を説明する図である。(A1)は指先が手前側から奥側に行くときに検知領域Aを通過したタイミングからt秒以内に手前側に戻る場合に処理の指示に用いるサブ領域を示し、(B1)は指先が手前側から奥側に行くときに検知領域Aを通過したタイミングからt秒以上経過した後に手前側に戻る場合に処理の指示に用いるサブ領域を示す。
図17の例では、(A1)の場合に、サブ領域AR1とサブ領域AR2の両方が処理の指示に用いられる点で変形例3と異なっている。
図17の場合も、空中像#1のうちサブ領域AR1が対応する位置とサブ領域AR2が対応する位置には、
図12に示すボタンや
図13に示す選択肢等のオブジェクトがそれぞれ配置されている。
【0046】
<変形例5>
前述の変形例3及び4においては、検知領域A内に予め複数のサブ領域が配置されている場合について説明したが、プロセッサ21Bは、指先が手前側から検知領域Aを通過したサブ領域の内容に応じて、空中像の内容を変更してもよい。例えば指先が検知領域Aを手前側から奥側に通過する時点では
図12に示す空中像#1が形成されているが、指先が検知領域Aを奥側から手前側に通過する時点では
図13に示す空中像#2aの内容が検知領域Aの位置に形成されていてもよい。この場合、空中像#2aは空中に形成されない。
【0047】
<実施の形態4>
前述の実施の形態1~3では、第1の空中像が平面的な形状である場合を例示したが、本実施の形態では、第1の空中像が立体的な形状である場合について説明する。
図18は、実施の形態4で使用する情報処理システム1Cの構成例を示す図である。
図18には、
図1との対応部分に対応する符号を付して示している。
本実施の形態の場合、プロセッサ21Cは、空中像形成装置10による空中像#1の形成や処理の指示の受け付けに用いられる。
【0048】
図18に示す空中像形成装置10は、第1の空中像として、立体的な空中像(以下「空中立体像」という)を空中に形成する。
図18では、6つの面によって外郭が定められた立方体が空中に形成されているが、空中立体像は立方体に限られない。他の多面体でもよいし、より複雑な形状であってもよい。また、曲面を含む立体であってもよい。
図18においては、6つの面のうちユーザから見て最も近い側にある正面の面を第1の面(面#1)と呼び、その他の面と区別する。
図18の場合、ユーザは紙面の左側に位置している。しかし、正面の面以外の面を第1の面としてもよい。
図18の立方体では、「AAA」というテキストを有する面が第1の面である。この立方体は、第1の面と、「BBB」というテキストを有する面(天井側)と、「CCC」というテキストを有する面(ユーザから見て右側の面)と、図では隠れている残りの3つの面によって外郭が定められた立体である。
図18では、「BBB」というテキストを有する面を第2の面aと呼び、面#2aと表記する。また、「CCC」というテキストを有する面を第2の面bと呼び、面#2bと表記する。
【0049】
図18では、センサ30を1つだけ表しているが、図面の簡略化のためである。実際のセンサ30は、必要な数だけ配置される。センサ30として赤外線センサを用いる場合、各面に対して少なくとも2つのセンサ30を配置する。もっとも、センサ30が配置される面は、処理の指示の受付に使用される面に限ることが可能である。
図18の場合、センサ30は、ユーザに正対する正面側の面と、天井側の面と、左側の面の3つに設けられている。
【0050】
図19は、
図18の空中立体像の各面と検知領域との位置関係を説明する図である。(A)は空中立体像の各面に提示されている情報を示し、(B)はユーザから見て右側の面から空中立体像を見る場合における検知領域の設定例を示し、(C)はユーザが空中立体像の正面を見る場合における検知領域の設定例を示す。
本実施の形態では、第1の面が表示されている領域とその前後数ミリを、第1の面に対応する検知領域Aとし、検知領域Aとユーザの間の空間を第1の空間と呼ぶ。検知領域Aは、前述の実施の形態と同じく、第1の領域の一例である。また、検知領域Aは面であってもよく、例えば、第1の面と実質的に同じであってもよい。
【0051】
なお、
図19では、紙面上で「文書A」、「自分にメール」、「印刷」というテキストが付された3つの面に対応して設定される検知領域を表しているが、他の3つの面のそれぞれにも検知領域を設定してもよい。各面に検知領域が設定されることで、空中立体像のどの面から指先が入っても、また、各面で囲まれた空間から指先が出ても、指先の動きを検知することが可能である。
また、空中に形成される空中立体像の形状や大きさが変化した場合には、変化後の空中立体像の形状に応じて検知領域の位置が再設定されることが望ましい。なお、空中立体像に対するユーザのジェスチャー等により空中立体像が回転する等して、ユーザに最も近い位置に現れるオブジェクトの内容が変化する場合には、変化後のオブジェクトに対する処理の割り当てに応じて検知領域の配置が変更される。
また、
図19では、ユーザから見て検知領域Aよりも奥側の空間を第2の空間と呼ぶ。
また、
図19では、天井側の面に対応する検知領域Eと、ユーザから見て右側の面に対応する検知領域Fも設けられている。検知領域Eと検知領域Fは、いずれも第2の領域の一例である。
【0052】
図20は、実施の形態4で使用するプロセッサ21C(
図18参照)の処理動作例を説明するフローチャートである。
図20には、
図4との対応部分に対応する符号を付して示す。
本実施の形態におけるプロセッサ21Cも、ステップ2までの処理は、実施の形態1と同じである。すなわち、手前側の空間から検知領域Aに入った物体が検知された場合、検知された物体がそのまま検知領域Aにあるか検知領域Aを通り抜けて奥側の空間に入ったかが判定される。
ステップ2で否定結果が得られた場合、プロセッサ21Cは、実施の形態1と同じくステップ4を実行する。
【0053】
ステップ2で肯定結果が得られた場合、プロセッサ21Cは、物体が別の検知領域を更に通り抜けたか否かを判定する(ステップ41)。本実施の形態の場合、別の検知領域とは、検知領域E又は検知領域F(
図19参照)のことである。
ステップ41で否定結果が得られた場合、プロセッサ21Cは、実施の形態1と同じくステップ3を実行する。
ステップ41で肯定結果が得られた場合、プロセッサ21Cは、物体が通り抜けた面に形成されている像の内容の組み合わせ順に応じた処理を実行する(ステップ42)。
【0054】
図21は、実施の形態4における処理の指示の具体例を説明する図である。この例と次の
図22の例では、指先が入った2つの検知領域に応じて指示する処理が定められる。より具体的には、2つの検知領域のうちの一方によって処理対象が定められ、他方によって処理内容が定められる。
図21と
図22の例では、指先が最初に通った検知領域によって処理対象が定められ、その後に通った検知領域で処理内容が定められるが、指先が最初に通った検知領域によって処理内容を定め、その後に通った検知領域で処理対象を定めてもよい。
図21に示す空中立体像の正面側の面に対応する検知領域Aには文書Aという処理対象が割り当てられており、天井側の面に対応する検知領域Eには自分にメールするという処理内容が割り当てられており、ユーザから見て右側の面に対応する検知領域Fには印刷という処理内容が割り当てられている。また、空中像の各面には、それぞれが対応する検知領域に割り当てられている処理対象や処理内容を表す「文書A」、「自分にメール」、「印刷」というテキストが提示されている。なお、テキストの代わりにアイコンやプレビューなどを用いて処理対象や処理内容が示されてもよい。
【0055】
図21の場合、指先は、文書Aに対応する検知領域Aを通過した後、進行方向を上方の向きに変え、自分にメールする処理に対応する面に対応する検知領域Eを通過して空中立体像の外に出ている。
この例の場合、プロセッサ21Cは、文書Aをユーザ自身に宛ててメールする。なお、プロセッサ21は、既知の認証技術等を使用してユーザを事前に認証している。
ユーザが文書A以外の文書を処理対象として選択したいときのために、例えば、「文書A」を示している第1の面に沿って指をスライドさせることによって、処理対象を他の文書に切り替えられるようにしてもよい。なお、検知領域に割り当てられている処理内容や処理対象をユーザに示すために、処理内容や処理対象が切り替えられた場合には、空中立体像の面に提示されている情報(ここでは「文書A」や「印刷」などのテキスト)も更新するとよい。例えば、第1の面が「文書B」を示している状態で検知領域Aを通過した後に検知領域Eを通過した場合、文書Bがユーザにメールされる。なお、処理内容も同様にして切り替え可能にしてもよい。
【0056】
図22は、実施の形態4における処理の指示の他の具体例を説明する図である。
図22には、
図21との対応部分に対応する符号を付して示している。
図22の場合、指先は、文書Aに対応する検知領域Aを通貨して検知領域Aの奥側に移動した後、右方向に向きを変え、印刷に対応する検知領域Fを通過して空中立体像の外に出ている。
この例の場合、プロセッサ21Cは、文書Aの印刷を予め定められた印刷装置に指示する。
【0057】
<変形例1>
図20に示すフローチャートの場合には、ステップ41において、物体が通過した領域内の位置を区別していないが、通過した領域内の位置を区別することにより、指示が可能な組み合わせの増加が期待される。
図23は、実施の形態4における処理の指示の他の具体例を説明する図である。
図23には、
図21との対応部分に対応する符号を付して示している。
図23では、処理対象であるファイルが既に選択された状態を示している。ファイルの選択は、空中でのジェスチャーによって行われてもよいし、不図示のタッチパネル上での操作やマウスやトラックパッドの操作等によって行ってもよい。
図23に示す例では、説明の簡易化のため、空中立体像の面が検知領域と同一であるものとするが、これまでの実施例のように、検知領域に厚みをもたせてもよい。
【0058】
図23に示す空中立体像では、正面側の面にPDFファイルを作成する機能が割り当てられており、天井側の面にはメールを送信する機能が割り当てられており、ユーザから見て右側の面には記憶領域を選択する機能が割り当てられている。
図23の場合、天井側の面と右側の面はそれぞれ4つのサブ領域に分割されている。天井側の面の4つのサブ領域には、メールの送信先の選択肢として、Aさん、Bさん、Cさん、Dさんの名前が割り振られている。また、右側の面の4つのサブ領域には、記憶領域の選択肢としてPC1、PC2、スマートフォン、タブレットが割り振られている。
【0059】
図23の場合、指先は、空中立体像の正面側の面を通過した後、進行方向を上方に変え、天井側の面のAさんに対応するサブ領域を通過して外の空間に出ている。
この例の場合、プロセッサ21Cは、選択済みのファイルからPDFファイルを作成し、作成されたPDFファイルをAさんに宛ててメールする。
図24は、実施の形態4における処理の指示の他の具体例を説明する図である。
図24には、
図23との対応部分に対応する符号を付して示している。
図24に示す例でも、説明の簡易化のため、空中像の面が検知領域と同一であるものとする。
図24の場合、指先は、空中立体像の正面を通過した後、右方向に向きを変え、右側の面のPC1に対応するサブ領域を通過して外の空間に出ている。
この例の場合、プロセッサ21Cは、選択済みのファイルからPDFファイルを作成し、作成されたPDFファイルをPC1に記憶する。
図23と
図24の例では、指先が最初に通った検知領域によって定められた処理を行った結果物に対して、指先が2つ目に通った検知領域によって定められた処理を行うという、一連の処理を指示していることになる。
なお、
図23及び
図24の例では、指先が各面の領域を通過しているが、空中像として空中に形成されている文書のアイコン等を空中で掴むことによって該文書の選択が可能な場合、文書のアイコン等を掴んだ状態で各面を通過させることも可能である。
なお、前述の説明では、指先が最初に通過する正面に複数のサブ領域が設定されていない例を説明したが、指先が最初に通過する正面に複数のサブ領域が設定されていてもよい。
【0060】
また、ユーザがPDFファイルを作成する以外の処理を一連の処理の1つ目の処理内容として選択したいときのために、例えば、「PDFファイルの作成」というテキストを有する第1の面に沿って指をスライドさせることによって、第1の面に割り当てられている処理内容を、他の処理内容に切り替えられるようにしてもよい。
さらに、切り替え後の処理内容に応じて、他の面に対応する検知領域に割り当てられている処理内容を変更してもよい。例えば、第1の面に対応する検知領域に割り当てられている処理がPDFファイルを作成する処理からDrоpbоxにアップロードする処理に切り替えられた場合、他の面に対応する検知領域に割り当てられている処理内容は、例えば、アップロード先のリンクをメールする処理などに切り替える。
なお、検知領域に割り当てられている処理内容をユーザに示すために、処理内容が切り替えられた場合には、空中立体像の面に提示されている情報(
図23と
図24では「PDFファイルの作成」や「PC1」、「PC2」など)も更新するとよい。
【0061】
<変形例2>
前述した変形例1の場合には、事前に処理の対象であるファイルの選択が済んでいる場合について説明したが、ファイルの選択は、正面の面のサブ領域のいずれかを指先が通過した後に、空中立体像の内側で行ってもよい。
図25は、実施の形態4における処理の指示の他の具体例を説明する図である。
図25には、
図24との対応部分に対応する符号を付して示している。
図25に示す例でも、説明の簡易化のため、空中像の面が検知領域と同一であるものとする。
図25に示す空中立体像の場合、正面側の面には記憶領域にアクセスする機能が割り当てられており、天井側の面にはメールを送信する機能が割り当てられている。
【0062】
図25の場合、正面側の面と天井側の面はそれぞれ4つのサブ領域に分割されている。正面側の面の4つのサブ領域には、PC1、PC2、スマートフォン、タブレットが割り振られている。また、天井側の面の4つのサブ領域には、Aさん、Bさん、Cさん、Dさんの名前が割り振られている。
図25の場合、指先は、空中立体像の正面に設けられた4つのサブ領域のうちPC1を通過している。この例の場合、指先がPC1を通過したことに応じて、PC1の記憶領域に記憶されているフォルダやファイルをアイコンで階層的に示すパネルが空中像#2として空中立体像の内側に形成される。この空中像#2の形成には、実施の形態2のステップ11(
図9参照)の技術を使用する。
【0063】
図26は、空中立体像の内側に空中像#2が新たに形成された状態を示す図である。
図26においては、空中像#2の視認性を高めるために、指先が最初に通過した空中像#1の正面側の面を通過する前に表示されていた空中像上に提示されていた情報(ここでは「PC1」、「PC2」、「スマートフォン」、「タブレット」などのテキスト)や仕切り線は消えている。
図26に示す空中像#2では、PC1内にある店舗フォルダ、渋谷フォルダ、池袋フォルダ、新宿フォルダの4つのフォルダが提示されている。また、池袋フォルダには、2つのサブフォルダと、確定経費ファイルと、売上ファイルが含まれていることがわかる。
図26の例では、売上ファイルが選択された状態を太枠で囲んで表している。ファイルの選択は、空中でのジェスチャー(例えば、売上ファイルが表示されている領域を指先が通過するように動かす)によって行われてもよいし、不図示のタッチパネル上での操作やマウスやトラックパッドの操作等によって行ってもよい。
【0064】
図27は、ファイルの選択が終わった後の指先の動きを説明する図である。
図27には、
図26との対応部分に対応する符号を付して示している。
図27の場合、指先は、Bさんに対応するサブ領域を通過して空中立体像の外に移動している。
このジェスチャーにより、プロセッサ21Cは、PC1に記憶されている池袋フォルダ内の売上ファイルをBさんに宛ててメールする。
図27の例では、メール送信するファイルの選択後に空中立体像の内側に形成されていたフォルダやファイルを表す空中像#2が消えているが、フォルダやファイルを表す空中像#2の形成を維持してもよい。また例えばファイルの選択後は、正面の面に記憶領域を表す空中像#1を再び形成してもよい。
【0065】
<他の実施の形態>
以上、本発明の実施の形態について説明したが、本発明の技術的範囲は前述した実施の形態に記載の範囲に限定されない。前述した実施の形態に、種々の変更又は改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
【0066】
例えば前述の実施の形態2では、空中像の選択や空中像におけるサブ領域の選択を音響放射圧でユーザに通知しているが、空中像の形態を変化させて通知してもよい。
図28は、選択の受付に伴う空中立体像の形態の変化を説明する図である。
図28の場合、指先が空中立体像から外に出ることを条件として色が変化している。この例は、第1の領域からの出に応じて空中立体像の形態が変化する例である。なお、形態の変化は色に限らず、形状の変化でもよい。勿論、形態の変化は平面上の空中像の場合にも適用が可能である。
図29は、選択の受付に伴う空中像の形態の他の変化を説明する図である。
図29の場合、指先が空中立体像の表面を奥側に通過することを条件として色が変化している。この例は、第1の領域への入りに応じて空中立体像の形態が変化する例である。
なお、
図28及び29に示す形態の変化は、第2の領域への入り又は第2の領域からの出の検知への応用も可能である。
【0067】
前述の実施の形態の場合には、センサ30に対応する検知領域の手前側の空間から検知領域に入った指先などの物体が検知領域にあるか検知領域を通り抜けて検知領域の奥側の空間に入ったかに基づいて、物体と空中像の位置との関係又は物体とサブ領域の位置との関係を検知しているが、検知対象である物体から発せられる電波等を受信することにより、空中像に対する物体の位置を検知してもよい。
図30は、ブルートゥース信号を発信する指輪50の位置を検知する位置検知装置60を有する情報処理システム1Dを説明する図である。
図30における位置検知装置60は、三角測量の原理でブルートゥース信号を発信する指輪50を検知する。プロセッサ21Dは、位置検知装置60で検知された指輪50の位置情報を用いてユーザが行ったジェスチャーが「タッチ」なのか「ディープタッチ」なのかを判別し、その判別結果に応じた処理を実行してもよい。
【0068】
なお、前述した各実施の形態におけるプロセッサは、広義的な意味でのプロセッサを指し、汎用的なプロセッサ(例えばCPU(=Central Processing Unit)等)の他、専用的なプロセッサ(例えばGPU(=Graphical Processing Unit)、ASIC(=Application Specific Integrated Circuit)、FPGA(=Field Programmable Gate Array)、プログラム論理デバイス等)を含む。
また、前述した各実施の形態におけるプロセッサの動作は、1つのプロセッサが単独で実行してもよいが、物理的に離れた位置に存在する複数のプロセッサが協働して実行してもよい。また、プロセッサにおける各動作の実行の順序は、前述した各実施の形態に記載した順序のみに限定されるものでなく、個別に変更してもよい。
【符号の説明】
【0069】
1、1A、1B、1C、1D…情報処理システム、20…制御装置、21、21A、21B、21C、21D…プロセッサ、30、30A、30B、30C、30D…センサ、40…超音波触覚インタフェース装置、50…指輪、60…位置検知装置