(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-03
(45)【発行日】2024-10-11
(54)【発明の名称】機器操作装置及び機器操作方法
(51)【国際特許分類】
H04Q 9/00 20060101AFI20241004BHJP
H04N 23/60 20230101ALI20241004BHJP
H04N 23/61 20230101ALI20241004BHJP
【FI】
H04Q9/00 331A
H04N23/60 500
H04N23/61
(21)【出願番号】P 2024517378
(86)(22)【出願日】2022-06-09
(86)【国際出願番号】 JP2022023228
(87)【国際公開番号】W WO2023238307
(87)【国際公開日】2023-12-14
【審査請求日】2024-03-19
【早期審査対象出願】
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110003166
【氏名又は名称】弁理士法人山王内外特許事務所
(72)【発明者】
【氏名】小川 孝
【審査官】小松崎 里沙
(56)【参考文献】
【文献】特開2012-119935(JP,A)
【文献】特開2003-018674(JP,A)
【文献】特開2002-325061(JP,A)
【文献】特開2018-125867(JP,A)
【文献】特開2005-150901(JP,A)
【文献】特表2017-512396(JP,A)
【文献】米国特許出願公開第2021/0297278(US,A1)
【文献】特開2013-106315(JP,A)
【文献】特開2016-111564(JP,A)
【文献】特開2009-237687(JP,A)
【文献】特開2013-044849(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H03J 9/00- 9/06
H04Q 9/00- 9/16
G06F13/00-13/14
G06Q50/00-50/20
50/26-99/00
G16Z99/00
H02J 3/00- 5/00
H04B 7/24- 7/26
H04L12/28
H04M 3/00
3/16- 3/20
3/38- 3/58
7/00- 7/16
11/00-11/10
H04N5/222-5/257
23/00
23/40-23/76
23/90-23/959
H04W 4/00-99/00
(57)【特許請求の範囲】
【請求項1】
カメラから、操作対象機器と前記操作対象機器の周辺領域とが映っている撮影画像を示す画像データを取得する撮影画像取得部と、
前記撮影画像取得部により取得された画像データが示す撮影画像と記録済みの
第1の登録画像との差異の検出処理を行う差異検出部と、
前記差異検出部により差異が検出されれば、前記撮影画像を
前記第1の登録画像とは異なる第2の登録画像として記録し、前記差異検出部により差異が検出されなければ、前記記録済みの
第1の登録画像と差異化された第2の撮影画像を取得し、前記第2の撮影画像を
前記第1の登録画像とは異なる第2の登録画像として記録する画像記録部と、
前記画像記録部により記録された
第2の登録画像に映っている前記操作対象機器の操作用アプリケーションをダウンロードするダウンロード部と
を備えた機器操作装置。
【請求項2】
前記画像記録部は、
前記第2の撮影画像として、前記カメラから、前記撮影画像取得部を介して
、識別用マーカ付きの前記操作対象機器と前記周辺領域とが映っている撮影画像を示す画像データを取得することを特徴とする請求項1記載の機器操作装置。
【請求項3】
前記差異検出部により差異が検出されなければ、前記識別用マーカの貼り付けを促すガイダンスを提示するガイダンス提示部を備え、
前記撮影画像取得部は、
前記ガイダンス提示部によりガイダンスが提示された後に、前記カメラから、前記識別用マーカが貼り付けられた操作対象機器と前記周辺領域とが映っている撮影画像を示す画像データを取得し、
前記画像記録部は、
前記第2の撮影画像を示す画像データとして、前記ガイダンス提示部によりガイダンスが提示された後に、前記撮影画像取得部により取得された画像データを取得することを特徴とする請求項2記載の機器操作装置。
【請求項4】
前記画像記録部は、
前記撮影画像取得部により取得された画像データが示す撮影画像に映っている前記操作対象機器に対し
て識別用マーカを示すイラスト部品を合成し、前記第2の撮影画像として、前記識別用マーカ付きの前記操作対象機器と前記周辺領域とが映っている画像を取得することを特徴とする請求項1記載の機器操作装置。
【請求項5】
前記ダウンロード部によりダウンロードされた1つ以上の操作用アプリケーションの中から、いずれか1つの操作用アプリケーションの選択を受け付けて、選択された操作用アプリケーションを実行する操作受付部を備えたことを特徴とする請求項1記載の機器操作装置。
【請求項6】
前記撮影画像取得部により取得された画像データが示す撮影画像にグリッドを付加し、グリッド付きの撮影画像を前記差異検出部及び前記画像記録部のそれぞれに出力するグリッド付加部を備えたことを特徴とする請求項1記載の機器操作装置。
【請求項7】
前記差異検出部によって、前記撮影画像取得部により取得された画像データが示す撮影画像と前記記録済みの
第1の登録画像との差異の検出処理が行われるに際して、前記撮影画像取得部により取得された画像データが示す撮影画像の中で注目する領域である特徴領域の指定を受け付け、前記特徴領域が指定された撮影画像を前記差異検出部及び前記画像記録部のそれぞれに出力する特徴領域指定受付部を備えたことを特徴とする請求項1記載の機器操作装置。
【請求項8】
前記特徴領域指定受付部は、
複数の特徴領域の指定を受け付けた場合、それぞれの特徴領域の優先順位の指定を受け付け、前記優先順位付きの特徴領域が指定された撮影画像を前記差異検出部及び前記画像記録部のそれぞれに出力することを特徴とする請求項7記載の機器操作装置。
【請求項9】
撮影画像取得部が、カメラから、操作対象機器と前記操作対象機器の周辺領域とが映っている撮影画像を示す画像データを取得し、
差異検出部が、前記撮影画像取得部により取得された画像データが示す撮影画像と記録済みの
第1の登録画像との差異の検出処理を行い、
画像記録部が、前記差異検出部により差異が検出されれば、前記撮影画像を
前記第1の登録画像とは異なる第2の登録画像として記録し、前記差異検出部により差異が検出されなければ、前記記録済みの
第1の登録画像と差異化された第2の撮影画像を取得し、前記第2の撮影画像を
前記第1の登録画像とは異なる第2の登録画像として記録し、
ダウンロード部が、前記画像記録部により記録された
第2の登録画像に映っている前記操作対象機器の操作用アプリケーションをダウンロードする
機器操作方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、機器操作装置及び機器操作方法に関するものである。
【背景技術】
【0002】
操作対象機器の操作用アプリケーションを実行することで、操作対象機器の操作を受け付ける機器操作装置がある(例えば、特許文献1を参照)。
当該機器操作装置は、第1の周辺画像取得手段、第2の周辺画像取得手段、設定手段及び信号出力手段を備えている。第1の周辺画像取得手段は、1つ以上の操作対象機器におけるそれぞれの周辺領域の画像である第1の周辺画像を取得し、それぞれの第1の周辺画像を操作対象機器と関連付けて記憶する。第2の周辺画像取得手段は、ユーザが操作対象機器を操作する際に撮影された、当該操作対象機器の周辺領域の画像である第2の周辺画像を取得する。設定手段は、複数の第1の周辺画像の中で、第2の周辺画像と一致している第1の周辺画像があれば、当該第1の周辺画像に対応している操作対象機器を、実際に操作を行う機器に設定する。設定手段は、複数の第1の周辺画像の中で、第2の周辺画像と一致している第1の周辺画像がなければ、ユーザによる、実際に操作を行う機器の選択操作を受け付ける。信号出力手段は、実際に操作を行う機器の操作用アプリケーションを実行することで、操作信号を当該機器に出力する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
例えば、個人宅には、形状が同じであって、天井、床、又は、壁の模様が同じである部屋が複数存在していることがある。壁の模様等が同じである複数の部屋には、操作対象機器として、例えば、同一機種のエアコンが設置されている場合がある。このような場合、複数の部屋のそれぞれに設置されているエアコンの周辺領域が互いに類似しているために、それぞれの部屋に設置されているエアコンの周辺領域の画像を区別することが困難であることがある。
特許文献1に開示されている機器操作装置では、複数の部屋のそれぞれに設置されている操作対象機器の第1の周辺画像が互いに類似しているために、第1の周辺画像取得手段によって、互いに類似している複数の第1の周辺画像のそれぞれが操作対象機器と関連付けて記憶される場合がある。このような場合、設定手段は、複数の第1の周辺画像の中で、第2の周辺画像と一致している第1の周辺画像を検出できない状況、又は、第2の周辺画像と一致していない第1の周辺画像を誤検出する状況を生じることがある。また、ユーザにおいても、それぞれの第1の周辺画像と関連付けられている操作対象機器の中で、どの操作対象機器が、実際に操作を行う機器であるのかの判別が困難な状況を生じることがある。これらの状況下では、信号出力手段が、実際に操作を行う機器の操作用アプリケーションを実行できないことがあるという課題があった。
【0005】
本開示は、上記のような課題を解決するためになされたもので、撮影画像と記録済みの登録画像とが類似していて、双方の画像間の差異が検出されない場合でも、撮影画像に映っている操作対象機器の操作用アプリケーションを実行することができる機器操作装置及び機器操作方法を得ることを目的とする。
【課題を解決するための手段】
【0006】
本開示に係る機器操作装置は、カメラから、操作対象機器と操作対象機器の周辺領域とが映っている撮影画像を示す画像データを取得する撮影画像取得部と、撮影画像取得部により取得された画像データが示す撮影画像と記録済みの第1の登録画像との差異の検出処理を行う差異検出部とを備えている。また、機器操作装置は、差異検出部により差異が検出されれば、撮影画像を第1の登録画像とは異なる第2の登録画像として記録し、差異検出部により差異が検出されなければ、記録済みの第1の登録画像と差異化された第2の撮影画像を取得し、第2の撮影画像を第1の登録画像とは異なる第2の登録画像として記録する画像記録部と、画像記録部により記録された第2の登録画像に映っている操作対象機器の操作用アプリケーションをダウンロードするダウンロード部とを備えている。
【発明の効果】
【0007】
本開示によれば、撮影画像と記録済みの登録画像とが類似していて、双方の画像間の差異が検出されない場合でも、撮影画像に映っている操作対象機器の操作用アプリケーションを実行することができる。
【図面の簡単な説明】
【0008】
【
図1】実施の形態1に係る機器操作装置3を示す構成図である。
【
図2】実施の形態1に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
【
図3】機器操作装置3が、ソフトウェア又はファームウェア等によって実現される場合のコンピュータのハードウェア構成図である。
【
図4】機器操作装置3の処理手順である機器操作方法を示すフローチャートである。
【
図5】操作対象機器1と操作対象機器1の周辺領域とが映っている撮影画像を示す説明図である。
【
図7】ダウンロード部15によりダウンロードされた1つ以上の操作用アプリケーションの表示例を示す説明図である。
【
図8】実施の形態2に係る機器操作装置3を示す構成図である。
【
図9】実施の形態2に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
【
図10】実施の形態3に係る機器操作装置3を示す構成図である。
【
図11】実施の形態3に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
【
図12】
図12Aは、グリッドが付加されていない撮影画像PGの一例を示す説明図、
図12Bは、グリッドが付加された撮影画像PG
Gの一例を示す説明図である。
【
図13】実施の形態4に係る機器操作装置3を示す構成図である。
【
図14】実施の形態4に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
【
図15】特徴領域FR
mの一例を示す説明図である。
【発明を実施するための形態】
【0009】
以下、本開示をより詳細に説明するために、本開示を実施するための形態について、添付の図面に従って説明する。
【0010】
実施の形態1.
図1は、実施の形態1に係る機器操作装置3を示す構成図である。
図2は、実施の形態1に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
図1において、操作対象機器1は、例えば、エアコン、テレビ、又は、オーディオ機器である。ここでは、説明の便宜上、操作対象機器1がエアコンであるものとして説明する。
カメラ2は、操作対象機器1と操作対象機器1の周辺領域とを含む範囲を撮影し、撮影画像PGを示す画像データを機器操作装置3に出力する。撮影画像PGは、静止画であってもよいし、動画であってもよい。
図1に示す機器操作装置3では、カメラ2が機器操作装置3の外部に設置されている。しかし、これは一例に過ぎず、カメラ2が機器操作装置3に内蔵されていてもよい。
【0011】
機器操作装置3は、撮影画像取得部11、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16を備えている。
撮影画像取得部11は、例えば、
図2に示す撮影画像取得回路31によって実現される。
撮影画像取得部11は、カメラ2から、撮影画像PGを示す画像データを取得する。
また、撮影画像取得部11は、差異検出部12によって、撮影画像PGと記録済みの登録画像RG
1~RG
Nとの差異が検出されなければ、ガイダンス提示部13によりガイダンスが提示された後に、第2の撮影画像PG’として、カメラ2から、識別用マーカが貼り付けられた操作対象機器1と操作対象機器1の周辺領域とが映っている撮影画像を示す画像データを取得する。Nは、1以上の整数である。
撮影画像取得部11は、撮影画像PGを示す画像データを差異検出部12及び画像記録部14のそれぞれに出力する。
撮影画像取得部11は、第2の撮影画像PG’を示す画像データを画像記録部14に出力する。
【0012】
差異検出部12は、例えば、
図2に示す差異検出回路32によって実現される。
差異検出部12は、撮影画像取得部11から、撮影画像PGを示す画像データを取得し、画像記録部14から、記録済みの登録画像RG
n(n=1,・・・,N)を示す画像データを取得する。
差異検出部12は、撮影画像PGと記録済みの登録画像RG
nとの差異の検出処理を行う。差異の検出処理は、撮影画像PGと記録済みの登録画像RG
nとを照合して、双方の画像に違う部分があるか否かを判別する処理である。
【0013】
ガイダンス提示部13は、例えば、
図2に示すガイダンス提示回路33によって実現される。
ガイダンス提示部13は、差異検出部12により差異が検出されなければ、識別用マーカの貼り付けを促すガイダンスを提示する。
ガイダンスの提示方法としては、ガイダンス提示部13が、ガイダンスを図示せぬディスプレイに表示するものであってもよいし、図示せぬスピーカからガイダンスを音声出力するものであってもよい。
【0014】
画像記録部14は、例えば、
図2に示す画像記録回路34によって実現される。
画像記録部14は、差異検出部12により差異が検出されれば、撮影画像取得部11から、撮影画像PGを示す画像データを取得する。
画像記録部14は、撮影画像PGを登録画像RG
n+1(n=1,・・・,N)として記録する。
画像記録部14は、差異検出部12により差異が検出されなければ、撮影画像取得部11から、記録済みの登録画像RG
nと差異化された第2の撮影画像PG’を示す画像データを取得する。
画像記録部14は、第2の撮影画像PG’を登録画像RG
n+1として記録する。
即ち、画像記録部14は、差異検出部12により差異が検出されなければ、第2の撮影画像PG’として、識別用マーカが貼り付けられた操作対象機器1と操作対象機器1の周辺領域とが映っている撮影画像を登録画像RG
n+1として記録する。
【0015】
ダウンロード部15は、例えば、
図2に示すダウンロード回路35によって実現される。
ダウンロード部15は、例えば、操作対象機器1の製造メーカのサーバ装置4から、ネットワークを介して、画像記録部14により記録された登録画像RG
n+1に映っている操作対象機器1の操作用アプリケーションをダウンロードする。
操作対象機器1の操作用アプリケーションは、例えば、ダウンロード部15の内部メモリに格納される。
【0016】
操作受付部16は、例えば、
図2に示す操作受付回路36によって実現される。
操作受付部16は、ダウンロード部15によりダウンロードされた1つ以上の操作用アプリケーションの中から、いずれか1つの操作用アプリケーションの選択を受け付ける。
操作受付部16は、ユーザによって選択された操作用アプリケーションを実行することで、操作対象機器1の操作を受け付ける。
【0017】
図1では、機器操作装置3の構成要素である撮影画像取得部11、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16のそれぞれが、
図2に示すような専用のハードウェアによって実現されるものを想定している。即ち、機器操作装置3が、撮影画像取得回路31、差異検出回路32、ガイダンス提示回路33、画像記録回路34、ダウンロード回路35及び操作受付回路36によって実現されるものを想定している。
撮影画像取得回路31、差異検出回路32、ガイダンス提示回路33、画像記録回路34、ダウンロード回路35及び操作受付回路36のそれぞれは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、又は、これらを組み合わせたものが該当する。
【0018】
機器操作装置3の構成要素は、専用のハードウェアによって実現されるものに限るものではなく、機器操作装置3が、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせによって実現されるものであってもよい。
ソフトウェア又はファームウェアは、プログラムとして、コンピュータのメモリに格納される。コンピュータは、プログラムを実行するハードウェアを意味し、例えば、CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、あるいは、DSP(Digital Signal Processor)が該当する。
【0019】
図3は、機器操作装置3が、ソフトウェア又はファームウェア等によって実現される場合のコンピュータのハードウェア構成図である。
機器操作装置3が、ソフトウェア又はファームウェア等によって実現される場合、撮影画像取得部11、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16におけるそれぞれの処理手順をコンピュータに実行させるためのプログラムがメモリ51に格納される。そして、コンピュータのプロセッサ52がメモリ51に格納されているプログラムを実行する。
【0020】
また、
図2では、機器操作装置3の構成要素のそれぞれが専用のハードウェアによって実現される例を示し、
図3では、機器操作装置3がソフトウェア又はファームウェア等によって実現される例を示している。しかし、これは一例に過ぎず、機器操作装置3における一部の構成要素が専用のハードウェアによって実現され、残りの構成要素がソフトウェア又はファームウェア等によって実現されるものであってもよい。
【0021】
次に、
図1に示す機器操作装置3の動作について説明する。
図4は、機器操作装置3の処理手順である機器操作方法を示すフローチャートである。
ユーザは、カメラ2を操作して、
図5に示すように、操作対象機器1と操作対象機器1の周辺領域とを含む範囲を撮影する。
図5は、操作対象機器1と操作対象機器1の周辺領域とが映っている撮影画像を示す説明図である。
図5の例では、操作対象機器1の周辺領域には、操作対象機器1が設置されている壁、操作対象機器1の近くに設置されているカーテン及び操作対象機器1が設置されている壁の近くの天井が含まれている。
図5の例では、カメラ2によって操作対象機器1が認識されると、フォーカスマーカがカメラ2のファインダーに表示される。
ユーザが、カメラ2によって認識された操作対象機器1をタップすると、操作対象機器1が確定する。
カメラ2は、操作対象機器1と操作対象機器1の周辺領域とを含む範囲を撮影し、撮影画像PGを示す画像データを機器操作装置3に出力する。
【0022】
撮影画像取得部11は、カメラ2から、撮影画像PGを示す画像データを取得する(
図4のステップST1)。
撮影画像取得部11は、撮影画像PGを示す画像データを差異検出部12及び画像記録部14のそれぞれに出力する。
【0023】
差異検出部12は、撮影画像取得部11から、撮影画像PGを示す画像データを取得し、画像記録部14から、記録済みの登録画像RG
1~RG
Nを示す画像データを取得する。
差異検出部12は、撮影画像PGと記録済みの登録画像RG
n(n=1,・・・,N)とを照合することで、撮影画像PGと記録済みの登録画像RG
nとの差異の検出処理を行う(
図4のステップST2)。
差異の検出処理としては、複数の画像が同一の画像であるか否かを判別する公知の画像照合アプリケーションを用いることができる。公知の画像照合アプリケーションとしては、例えば、パターンマッチング法を用いたアプリケーションがある。
具体的には、差異検出部12は、撮影画像PGと記録済みの登録画像RG
nとの類似度を判別する。差異検出部12は、類似度が閾値以上であれば、撮影画像PGと登録画像RG
nとの間に「差異がない」という判定を行う。差異検出部12は、類似度が閾値未満であれば、撮影画像PGと登録画像RG
nとの間に「差異がある」という判定を行う。類似度判定用の閾値は、差異検出部12の内部メモリに格納されていてもよいし、機器操作装置3の外部から与えられるものであってもよい。
差異検出部12は、差異の検出処理結果を撮影画像取得部11、ガイダンス提示部13及び画像記録部14のそれぞれに出力する。
【0024】
画像記録部14は、差異検出部12から、差異の検出処理結果を取得する。
画像記録部14は、差異検出部12により差異が検出されれば(
図4のステップST3:YESの場合)、撮影画像PGを登録画像RG
n+1として記録する(
図4のステップST4)。
【0025】
ガイダンス提示部13は、差異検出部12から、差異の検出処理結果を取得する。
ガイダンス提示部13は、差異検出部12により差異が検出されなければ(
図4のステップST3:NOの場合)、識別用マーカの貼り付けを促すガイダンスを提示する(
図4のステップST5)。
ガイダンスの提示を受けたユーザは、
図6に示すように、識別用マーカを操作対象機器1に貼り付ける作業を行う。
図6は、識別用マーカの一例を示す説明図である。
識別用マーカは、どのような絵柄のマークでもよい。識別用マーカは、例えば、購入した操作対象機器1を梱包していたダンボールに同梱されていることがある。
ガイダンスの提示を受けたユーザは、撮影画像PGが登録画像RG
nとして既に記録されている場合、撮影画像PGの二重登録を防ぐため、識別用マーカを操作対象機器1に貼り付ける操作を行わない。
ユーザは、識別用マーカを操作対象機器1に貼り付ける操作を行った場合、カメラ2を操作して、識別用マーカを貼り付けた操作対象機器1と操作対象機器1の周辺領域とを含む範囲を撮影する。
カメラ2は、識別用マーカが貼り付けられた操作対象機器1と操作対象機器1の周辺領域とが映っている画像を第2の撮影画像PG’として、第2の撮影画像PG’を示す画像データを機器操作装置3に出力する。
【0026】
撮影画像取得部11は、差異検出部12から、差異の検出処理結果を取得する。
撮影画像取得部11は、差異検出部12により差異が検出されなければ、ガイダンス提示部13によりガイダンスが提示された後に、カメラ2から出力された、第2の撮影画像PG’を示す画像データを取得する(
図4のステップST6)。
撮影画像取得部11は、第2の撮影画像PG’を示す画像データを画像記録部14に出力する。
【0027】
画像記録部14は、差異検出部12により差異が検出されなければ、撮影画像取得部11から、第2の撮影画像PG’を示す画像データを取得する。
画像記録部14は、第2の撮影画像PG’を登録画像RG
n+1として記録する(
図4のステップST7)。
【0028】
ダウンロード部15は、画像記録部14によって、撮影画像PG、又は、第2の撮影画像PG’が登録画像RG
n+1として記録されると、例えば、操作対象機器1の製造メーカのサーバ装置4から、登録画像RG
n+1に映っている操作対象機器1の操作用アプリケーションをダウンロードする(
図4のステップST8)。
操作対象機器1の操作用アプリケーションは、例えば、ダウンロード部15の内部メモリに格納される。
【0029】
ユーザが操作対象機器1の操作を行う際、操作受付部16は、
図7に示すように、ダウンロード部15によりダウンロードされた1つ以上の操作用アプリケーションを図示せぬディスプレイに表示させる。このとき、操作受付部16は、それぞれの操作用アプリケーションに対応する登録画像RG
n+1(n=1,・・・,N)をディスプレイに表示させる。
図7は、ダウンロード部15によりダウンロードされた1つ以上の操作用アプリケーションの表示例を示す説明図である。
図7の例では、操作対象機器1の操作用アプリケーションとして、エアコンAの操作用アプリケーション、エアコンBの操作用アプリケーション、テレビAの操作用アプリケーション及びテレビBの操作用アプリケーションのそれぞれが表示されている。
また、
図7の例では、エアコンAの操作用アプリケーションに対応する登録画像RG
1、エアコン
Bの操作用アプリケーションに対応する登録画像RG
2、テレビAの操作用アプリケーションに対応する登録画像RG
3及びテレビBの操作用アプリケーションに対応する登録画像RG
4
のそれぞれが表示されている。
【0030】
操作受付部16は、選択可能な1つ以上の操作用アプリケーションの中から、いずれか1つの操作用アプリケーションの選択を受け付ける(
図4のステップST9)。
図7の例では、操作対象機器1であるエアコンBの操作用アプリケーションが選択されている。エアコンBのヘッダにチェックが入っている。
操作受付部16は、ユーザによって選択された操作用アプリケーションを実行することで、操作対象機器1の操作を受け付ける(
図4のステップST10)。
【0031】
以上の実施の形態1では、カメラ2から、操作対象機器1と操作対象機器1の周辺領域とが映っている撮影画像を示す画像データを取得する撮影画像取得部11と、撮影画像取得部11により取得された画像データが示す撮影画像と記録済みの登録画像との差異の検出処理を行う差異検出部12とを備えるように、機器操作装置3を構成した。また、機器操作装置3は、差異検出部12により差異が検出されれば、撮影画像を登録画像として記録し、差異検出部12により差異が検出されなければ、記録済みの登録画像と差異化された第2の撮影画像を取得し、第2の撮影画像を登録画像として記録する画像記録部14と、画像記録部14により記録された登録画像に映っている操作対象機器1の操作用アプリケーションをダウンロードするダウンロード部15とを備えている。したがって、機器操作装置3は、撮影画像と記録済みの登録画像とが類似していて、双方の画像間の差異が検出されない場合でも、撮影画像に映っている操作対象機器の操作用アプリケーションを実行することができる。
【0032】
図1に示す機器操作装置3では、撮影画像取得部11が、1つの撮影画像PGを示す画像データを取得し、差異検出部12が、1つの撮影画像PGと記録済みの登録画像RG
n(n=1,・・・,N)との差異の検出処理を行っている。しかし、これは一例に過ぎず、撮影画像取得部11が、複数の撮影画像PGを示す画像データを取得し、差異検出部12が、複数の撮影画像PGと記録済みの登録画像RG
nとの差異の検出処理を行うようにしてもよい。
複数の撮影画像PGは、例えば、同じ操作対象機器1を互いに異なる方向から撮影された画像である。
差異検出部12が、複数の撮影画像PGと記録済みの登録画像RG
nとの差異の検出処理を行うことで、1つの撮影画像PGと記録済みの登録画像RG
nとの差異の検出処理を行う場合よりも、差異の検出精度が向上する。
図1に示す機器操作装置3では、撮影画像取得部11が、操作対象機器1と操作対象機器1の周辺領域とが映っている撮影画像を示す画像データを取得している。例えば、撮影画像取得部11が画像データを取得する前に、操作対象機器1と周辺領域とが紐づけられているような場合には、撮影画像取得部11は、操作対象機器1の周辺領域のみが映っている撮影画像を示す画像データを取得するようにしてもよい。
【0033】
実施の形態2.
実施の形態2では、差異検出部12により差異が検出されなければ、画像記録部17が、撮影画像PGに映っている操作対象機器1に対して識別用マーカを示すイラスト部品を合成することで、第2の撮影画像として、識別用マーカ付きの操作対象機器1と周辺領域とが映っている画像を取得する機器操作装置3について説明する。
【0034】
図8は、実施の形態2に係る機器操作装置3を示す構成図である。
図8において、
図1と同一符号は同一又は相当部分を示すので説明を省略する。
図9は、実施の形態2に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
図9において、
図2と同一符号は同一又は相当部分を示すので説明を省略する。
図8に示す機器操作装置3は、撮影画像取得部11、差異検出部12、画像記録部17、ダウンロード部15及び操作受付部16を備えている。
図8に示す機器操作装置3は、
図1に示す機器操作装置3と異なり、ガイダンス提示部13を備えていない。
【0035】
画像記録部17は、例えば、
図9に示す画像記録回路37によって実現される。
画像記録部17は、差異検出部12により差異が検出されれば、撮影画像PGを登録画像RG
n+1として記録する。
画像記録部17は、差異検出部12により差異が検出されなければ、撮影画像PGに映っている操作対象機器1に対して識別用マーカを示すイラスト部品を合成することで、第2の撮影画像PG’として、識別用マーカ付きの操作対象機器1と周辺領域とが映っている画像を取得する。
画像記録部17は、第2の撮影画像PG’を登録画像RG
n+1として記録する。
【0036】
図8では、機器操作装置3の構成要素である撮影画像取得部11、差異検出部12、画像記録部17、ダウンロード部15及び操作受付部16のそれぞれが、
図9に示すような専用のハードウェアによって実現されるものを想定している。即ち、機器操作装置3が、撮影画像取得回路31、差異検出回路32、画像記録回路37、ダウンロード回路35及び操作受付回路36によって実現されるものを想定している。
撮影画像取得回路31、差異検出回路32、画像記録回路37、ダウンロード回路35及び操作受付回路36のそれぞれは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGA、又は、これらを組み合わせたものが該当する。
【0037】
機器操作装置3の構成要素は、専用のハードウェアによって実現されるものに限るものではなく、機器操作装置3が、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせによって実現されるものであってもよい。
機器操作装置3が、ソフトウェア又はファームウェア等によって実現される場合、撮影画像取得部11、差異検出部12、画像記録部17、ダウンロード部15及び操作受付部16におけるそれぞれの処理手順をコンピュータに実行させるためのプログラムが
図3に示すメモリ51に格納される。そして、
図3に示すプロセッサ52がメモリ51に格納されているプログラムを実行する。
【0038】
また、
図9では、機器操作装置3の構成要素のそれぞれが専用のハードウェアによって実現される例を示し、
図3では、機器操作装置3がソフトウェア又はファームウェア等によって実現される例を示している。しかし、これは一例に過ぎず、機器操作装置3における一部の構成要素が専用のハードウェアによって実現され、残りの構成要素がソフトウェア又はファームウェア等によって実現されるものであってもよい。
【0039】
次に、
図8に示す機器操作装置3の動作について説明する。ただし、画像記録部17以外は、
図1に示す機器操作装置3と同様である。このため、ここでは、画像記録部17の動作のみを説明する。
【0040】
画像記録部17は、差異検出部12により差異が検出されれば、
図1に示す画像記録部14と同様に、撮影画像PGを登録画像RG
n+1として記録する。
画像記録部17は、差異検出部12により差異が検出されなければ、撮影画像PGに映っている操作対象機器1に対して識別用マーカを示すイラスト部品を合成する。識別用マーカを示すイラスト部品は、画像記録部17の内部メモリに格納されていてもよいし、機器操作装置3の外部から与えられるものであってもよい。識別用マーカを示すイラスト部品を操作対象機器1に合成する画像処理は、公知の技術であるため詳細な説明を省略する。
画像記録部17は、第2の撮影画像PG’として、識別用マーカ付きの操作対象機器1と周辺領域とが映っている画像を登録画像RG
n+1として記録する。
【0041】
以上の実施の形態2では、差異検出部12により差異が検出されなければ、画像記録部17が、撮影画像に映っている操作対象機器1に対して識別用マーカを示すイラスト部品を合成することで、第2の撮影画像として、識別用マーカ付きの操作対象機器1と周辺領域とが映っている画像を取得するように、機器操作装置3を構成した。したがって、機器操作装置3は、撮影画像と記録済みの登録画像とが類似していて、双方の画像間の差異が検出されない場合でも、撮影画像に映っている操作対象機器の操作用アプリケーションを実行することができるほか、ユーザが、識別用マーカを操作対象機器1に貼り付ける作業を省略することができる。
【0042】
実施の形態3.
実施の形態3では、撮影画像PG、又は、第2の撮影画像PG’にグリッドを付加するグリッド付加部18を備える機器操作装置3について説明する。
【0043】
図10は、実施の形態3に係る機器操作装置3を示す構成図である。
図10において、
図1及び
図8と同一符号は同一又は相当部分を示すので説明を省略する。
図11は、実施の形態3に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
図11において、
図2及び
図9と同一符号は同一又は相当部分を示すので説明を省略する。
図
10に示す機器操作装置3は、撮影画像取得部11、グリッド付加部18、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16を備えている。
【0044】
グリッド付加部18は、例えば、
図11に示すグリッド付加回路38によって実現される。
グリッド付加部18は、撮影画像取得部11から、撮影画像PGを示す画像データを取得すれば、撮影画像PGにグリッドを付加する。
グリッド付加部18は、撮影画像PGとして、撮影画像PGにグリッドを付加したグリッド付きの撮影画像PG
Gを差異検出部12及び画像記録部14のそれぞれに出力する。
グリッド付加部18は、撮影画像取得部11から、第2の撮影画像PG’を示す画像データを取得すれば、第2の撮影画像PG’にグリッドを付加する。
グリッド付加部18は、第2の撮影画像PG’として、第2の撮影画像PG’にグリッドを付加したグリッド付きの撮影画像PG
G’を画像記録部14に出力する。
【0045】
図10に示す機器操作装置3は、グリッド付加部18が
図1に示す機器操作装置3に適用されたものである。しかし、これは一例に過ぎず、グリッド付加部18が
図8に示す機器操作装置3に適用されたものであってもよい。
【0046】
図10では、機器操作装置3の構成要素である撮影画像取得部11、グリッド付加部18、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16のそれぞれが、
図11に示すような専用のハードウェアによって実現されるものを想定している。即ち、機器操作装置3が、撮影画像取得回路31、グリッド付加回路38、差異検出回路32、ガイダンス提示回路33、画像記録回路34、ダウンロード回路35及び操作受付回路36によって実現されるものを想定している。
撮影画像取得回路31、グリッド付加回路38、差異検出回路32、ガイダンス提示回路33、画像記録回路34、ダウンロード回路35及び操作受付回路36のそれぞれは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGA、又は、これらを組み合わせたものが該当する。
【0047】
機器操作装置3の構成要素は、専用のハードウェアによって実現されるものに限るものではなく、機器操作装置3が、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせによって実現されるものであってもよい。
機器操作装置3が、ソフトウェア又はファームウェア等によって実現される場合、撮影画像取得部11、グリッド付加部18、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16におけるそれぞれの処理手順をコンピュータに実行させるためのプログラムが
図3に示すメモリ51に格納される。そして、
図3に示すプロセッサ52がメモリ51に格納されているプログラムを実行する。
【0048】
また、
図11では、機器操作装置3の構成要素のそれぞれが専用のハードウェアによって実現される例を示し、
図3では、機器操作装置3がソフトウェア又はファームウェア等によって実現される例を示している。しかし、これは一例に過ぎず、機器操作装置3における一部の構成要素が専用のハードウェアによって実現され、残りの構成要素がソフトウェア又はファームウェア等によって実現されるものであってもよい。
【0049】
次に、
図10に示す機器操作装置3の動作について説明する。ただし、グリッド付加部18以外は、
図1に示す機器操作装置3と同様である。このため、ここでは、主に、グリッド付加部18の動作について説明する。
【0050】
グリッド付加部18は、撮影画像取得部11から、撮影画像PGを示す画像データを取得すれば、撮影画像PGにグリッドを付加する。撮影画像PGにグリッドを付加する処理自体は、公知の技術であるため詳細な説明を省略する。
グリッド付加部18は、撮影画像PGとして、撮影画像PGにグリッドを付加したグリッド付きの撮影画像PG
Gを差異検出部12及び画像記録部14のそれぞれに出力する。
グリッド付加部18は、撮影画像取得部11から、第2の撮影画像PG’を示す画像データを取得すれば、第2の撮影画像PG’にグリッドを付加する。
グリッド付加部18は、第2の撮影画像PG’として、第2の撮影画像PG’にグリッドを付加したグリッド付きの撮影画像PG
G’を画像記録部14に出力する。
図12は、グリッド付きの撮影画像PG
Gの一例を示す説明図である。
図12Aは、グリッドが付加されていない撮影画像PGの一例を示し、
図12Bは、グリッドが付加された撮影画像PG
Gの一例を示している。
図12の例では、グリッドを構成する縦線及び横線におけるそれぞれの間隔が○○mmに設定されている。○○mmの具体的な数値としては、例えば、70mmが用いられる。
【0051】
差異検出部12は、グリッド付きの撮影画像PGGと、記録済みの登録画像RGn(n=1,・・・,N)とを照合することで、グリッド付きの撮影画像PGGと、記録済みの登録画像RGnとの差異を検出する。記録済みの登録画像RGnについても、グリッドが付加されている。
グリッドが付加されていることで、例えば、操作対象機器1と、周辺領域に存在している物体とのサイズ比が明確になる。このため、グリッドが付加されていない撮影画像PGとグリッドが付加されていない登録画像RGnとの差異の検出精度よりも、グリッド付きの撮影画像PGGとグリッド付きの登録画像RGnとの差異の検出精度の方が高くなる。
【0052】
画像記録部14は、差異検出部12により差異が検出されれば、グリッド付きの撮影画像PGGを登録画像RGn+1として記録する。
画像記録部14は、差異検出部12により差異が検出されなければ、識別用マーカが貼り付けられたグリッド付きの撮影画像PGG’を登録画像RGn+1として記録する。
【0053】
以上の実施の形態3では、撮影画像取得部11により取得された画像データが示す撮影画像にグリッドを付加し、グリッド付きの撮影画像を差異検出部12及び画像記録部14のそれぞれに出力するグリッド付加部18を備えるように、
図10に示す機器操作装置3を構成した。したがって、
図10に示す機器操作装置3は、撮影画像と記録済みの登録画像とが類似していて、双方の画像間の差異が検出されない場合でも、撮影画像に映っている操作対象機器の操作用アプリケーションを実行することができるほか、
図1に示す機器操作装置3よりも、撮影画像と登録画像との差異の検出精度を高めることができる。
【0054】
実施の形態4.
実施の形態4では、差異検出部12によって、撮影画像取得部11により取得された撮影画像PGと記録済みの登録画像RGn(n=1,・・・,N)との差異の検出処理が行われるに際して、撮影画像PGの中で注目する領域である特徴領域の指定を受け付ける特徴領域指定受付部19を備える機器操作装置3について説明する。
【0055】
図13は、実施の形態4に係る機器操作装置3を示す構成図である。
図13において、
図1、
図8及び
図10と同一符号は同一又は相当部分を示すので説明を省略する。
図14は、実施の形態4に係る機器操作装置3のハードウェアを示すハードウェア構成図である。
図14において、
図2、
図9及び
図11と同一符号は同一又は相当部分を示すので説明を省略する。
図
13に示す機器操作装置3は、撮影画像取得部11、特徴領域指定受付部19、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16を備えている。
【0056】
特徴領域指定受付部19は、例えば、
図14に示す特徴領域指定受付回路39によって実現される。
特徴領域指定受付部19は、差異検出部12によって、撮影画像取得部11により取得された撮影画像PGと記録済みの登録画像RG
n(n=1,・・・,N)との差異の検出処理が行われるに際して、撮影画像PGの中で注目する領域である特徴領域FR
mの指定を受け付ける。m=1,・・・,Mであり、Mは、1以上の整数である。
特徴領域指定受付部19は、撮影画像PGとして、特徴領域FR
mが指定された撮影画像PG
Fを差異検出部12及び画像記録部14のそれぞれに出力する。
特徴領域指定受付部19は、第2の撮影画像PG’として、特徴領域FR
mが指定された撮影画像PG
F’を画像記録部14に出力する。
また、特徴領域指定受付部19は、複数の特徴領域FR
mの指定を受け付けた場合、それぞれの特徴領域FR
mの優先順位の指定を受け付ける。
特徴領域指定受付部19は、撮影画像PGとして、優先順位付きの特徴領域FR
mが指定された撮影画像PG
Fを差異検出部12及び画像記録部14のそれぞれに出力する。
特徴領域指定受付部19は、第2の撮影画像PG’として、優先順位付きの特徴領域FR
mが指定された撮影画像PG
F’を画像記録部14に出力する。
【0057】
図13に示す機器操作装置3は、特徴領域指定受付部19が
図1に示す機器操作装置3に適用されたものである。しかし、これは一例に過ぎず、特徴領域指定受付部19が、
図8に示す機器操作装置3、又は、
図10に示す機器操作装置3に適用されたものであってもよい。
【0058】
図13では、機器操作装置3の構成要素である撮影画像取得部11、特徴領域指定受付部19、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16のそれぞれが、
図14に示すような専用のハードウェアによって実現されるものを想定している。即ち、機器操作装置3が、撮影画像取得回路31、特徴領域指定受付回路39、差異検出回路32、ガイダンス提示回路33、画像記録回路34、ダウンロード回路35及び操作受付回路36によって実現されるものを想定している。
撮影画像取得回路31、特徴領域指定受付回路39、差異検出回路32、ガイダンス提示回路33、画像記録回路34、ダウンロード回路35及び操作受付回路36のそれぞれは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGA、又は、これらを組み合わせたものが該当する。
【0059】
機器操作装置3の構成要素は、専用のハードウェアによって実現されるものに限るものではなく、機器操作装置3が、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせによって実現されるものであってもよい。
機器操作装置3が、ソフトウェア又はファームウェア等によって実現される場合、撮影画像取得部11、特徴領域指定受付部19、差異検出部12、ガイダンス提示部13、画像記録部14、ダウンロード部15及び操作受付部16におけるそれぞれの処理手順をコンピュータに実行させるためのプログラムが
図3に示すメモリ51に格納される。そして、
図3に示すプロセッサ52がメモリ51に格納されているプログラムを実行する。
【0060】
また、
図14では、機器操作装置3の構成要素のそれぞれが専用のハードウェアによって実現される例を示し、
図3では、機器操作装置3がソフトウェア又はファームウェア等によって実現される例を示している。しかし、これは一例に過ぎず、機器操作装置3における一部の構成要素が専用のハードウェアによって実現され、残りの構成要素がソフトウェア又はファームウェア等によって実現されるものであってもよい。
【0061】
次に、
図13に示す機器操作装置3の動作について説明する。ただし、特徴領域指定受付部19以外は、
図1に示す機器操作装置3と同様である。このため、ここでは、主に、特徴領域指定受付部19の動作について説明する。
【0062】
特徴領域指定受付部19は、差異検出部12によって、撮影画像PGと記録済みの登録画像RG
n(n=1,・・・,N)との差異の検出処理が行われるに際して、注目する領域である特徴領域FR
m(m=1,・・・,M)の指定を受け付ける。ユーザによって指定された特徴領域FR
mの受付処理自体は、公知の技術であるため詳細な説明を省略する。
図15は、特徴領域FR
mの一例を示す説明図である。
図15の例では、特徴領域FR
mとして、カーテンにハート型のマークが施されている領域FR
1と、カーテンの左隅の領域FR
2とが指定されている。
【0063】
また、特徴領域指定受付部19は、複数の特徴領域FR
mの指定を受け付けた場合、それぞれの特徴領域FR
mの優先順位の指定を受け付ける。ユーザによって指定された優先順位の受付処理自体は、公知の技術であるため詳細な説明を省略する。
図15の例では、特徴領域FR
1と特徴領域FR
2とが指定されているため、特徴領域指定受付部19は、特徴領域FR
1と特徴領域FR
2との優先順位の指定を受け付ける。
ここでは、説明の便宜上、特徴領域FR
1の優先順位が1番であり、特徴領域FR
2の優先順位が2番であるものとする。
特徴領域指定受付部19は、撮影画像PGとして、優先順位付きの特徴領域FR
mが指定された撮影画像PG
Fを差異検出部12及び画像記録部14のそれぞれに出力する。
特徴領域指定受付部19は、第2の撮影画像PG’として、優先順位付きの特徴領域FR
mが指定された撮影画像PG
F’を画像記録部14に出力する。
【0064】
差異検出部12は、特徴領域指定受付部19から、優先順位付きの特徴領域FRmが指定された撮影画像PGを取得する。
差異検出部12は、撮影画像PGFの中で、優先順位が1番である特徴領域FR1と、記録済みの登録画像RGn(n=1,・・・,N)の中で、特徴領域FR1に対応している領域とを照合することで、特徴領域FR1と、特徴領域FR1に対応している領域との差異を検出する。
差異検出部12は、特徴領域FR1と、特徴領域FR1に対応している領域との間に差異があれば、照合処理を終了する。
差異検出部12は、特徴領域FR1と、特徴領域FR1に対応している領域との間に差異がなければ、優先順位が2番である特徴領域FR2と、記録済みの登録画像RGnの中で、特徴領域FR2に対応している領域とを照合することで、特徴領域FR2と、特徴領域FR2に対応している領域との差異を検出する。
【0065】
画像記録部14は、差異検出部12により差異が検出されれば、撮影画像PGとして、特徴領域FRmが指定された撮影画像PGFを登録画像RGn+1として記録する。
画像記録部14は、差異検出部12により差異が検出されなければ、第2の撮影画像PG’として、優先順位付きの特徴領域FRmが指定された撮影画像PGF’を登録画像RGn+1として記録する。
【0066】
以上の実施の形態4では、差異検出部12によって、撮影画像取得部11により取得された撮影画像と記録済みの登録画像との差異の検出処理が行われるに際して、撮影画像の中で注目する領域である特徴領域の指定を受け付け、優先順位付きの特徴領域が指定された撮影画像を差異検出部12及び画像記録部14のそれぞれに出力する特徴領域指定受付部19を備えるように、
図13に示す機器操作装置3を構成した。したがって、
図13に示す機器操作装置3は、撮影画像と記録済みの登録画像とが類似していて、双方の画像間の差異が検出されない場合でも、撮影画像に映っている操作対象機器の操作用アプリケーションを実行することができるほか、
図1に示す機器操作装置3よりも、差異検出部12における差異検出処理の処理負荷を軽減することができる。
【0067】
なお、本開示は、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
【産業上の利用可能性】
【0068】
本開示は、機器操作装置及び機器操作方法に適している。
【符号の説明】
【0069】
1 操作対象機器、2 カメラ、3 機器操作装置、4 サーバ装置、11 撮影画像取得部、12 差異検出部、13 ガイダンス提示部、14 画像記録部、15 ダウンロード部、16 操作受付部、17 画像記録部、18 グリッド付加部、19 特徴領域指定受付部、31 撮影画像取得回路、32 差異検出回路、33 ガイダンス提示回路、34 画像記録回路、35 ダウンロード回路、36 操作受付回路、37 画像記録回路、38 グリッド付加回路、39 特徴領域指定受付回路、51 メモリ、52 プロセッサ。