IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社シーエーシーの特許一覧 ▶ 株式会社日建設計総合研究所の特許一覧

特開2023-36387ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム
<>
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図1
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図2
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図3
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図4
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図5
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図6
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図7A
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図7B
  • 特開-ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023036387
(43)【公開日】2023-03-14
(54)【発明の名称】ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラム
(51)【国際特許分類】
   G06F 3/01 20060101AFI20230307BHJP
   G06F 3/16 20060101ALI20230307BHJP
   E05B 49/00 20060101ALI20230307BHJP
   E05F 15/73 20150101ALI20230307BHJP
【FI】
G06F3/01 570
G06F3/16 660
E05B49/00 L
E05F15/73
【審査請求】有
【請求項の数】17
【出願形態】OL
(21)【出願番号】P 2021143409
(22)【出願日】2021-09-02
(71)【出願人】
【識別番号】515082623
【氏名又は名称】株式会社シーエーシー
(71)【出願人】
【識別番号】509221135
【氏名又は名称】株式会社日建設計総合研究所
(74)【代理人】
【識別番号】100118902
【弁理士】
【氏名又は名称】山本 修
(74)【代理人】
【識別番号】100106208
【弁理士】
【氏名又は名称】宮前 徹
(74)【代理人】
【識別番号】100196508
【弁理士】
【氏名又は名称】松尾 淳一
(72)【発明者】
【氏名】及川 剛
(72)【発明者】
【氏名】吉川 悠斗
(72)【発明者】
【氏名】酒井 春熙
(72)【発明者】
【氏名】光高 大介
(72)【発明者】
【氏名】鈴木 義康
(72)【発明者】
【氏名】廣田 喜昭
(72)【発明者】
【氏名】伊藤 慎兵
【テーマコード(参考)】
2E052
2E250
5E555
【Fターム(参考)】
2E052AA01
2E052AA02
2E052AA08
2E052BA04
2E052BA06
2E052EB01
2E250AA01
2E250BB25
2E250CC11
2E250DD01
2E250DD07
2E250EE03
2E250FF11
2E250FF18
5E555AA10
5E555AA71
5E555BA15
5E555BB02
5E555BB08
5E555BC04
5E555BE08
5E555CA42
5E555CB45
5E555CB66
5E555CC01
5E555CC03
5E555DA23
5E555DB03
5E555DB53
5E555DC13
5E555DD02
5E555EA05
5E555EA22
5E555FA00
(57)【要約】
【課題】ドアを含む様々な機器や設備を、利用者にとって適切なジェスチャにて制御すること。
【解決手段】撮像装置で取得した1以上の画像から、利用者についての人物情報を取得し(210)、前記人物情報に基づき対応するジェスチャを決定し(220)、前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定し(230)、前記利用者が前記対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行する(240)ように構成された装置。
【選択図】図2
【特許請求の範囲】
【請求項1】
撮像装置で取得した1以上の画像から、利用者についての人物情報を取得し、
前記人物情報に基づき対応するジェスチャを決定し、
前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定し、
前記利用者が前記対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行する
ように構成された装置。
【請求項2】
請求項1記載の装置であって、前記人物情報は、当該人物情報が取得された人の状態と、当該人物情報が取得された人の属性と、当該人物情報が取得された人が誰であるかとのうちの1以上を含む、装置。
【請求項3】
請求項2記載の装置であって、前記人の状態及び前記人の属性のうちの一方は、
前記人の所定の部位が不自由であるかと、
前記人が車椅子に乗っているかと、
前記人が所定の物体を保持しているかと
のうちの1以上を含む、装置。
【請求項4】
請求項1から3のうちの何れか一項に記載の装置であって、利用者についての人物情報を取得することは、
前記撮像装置で取得した1以上の画像から、該1以上の画像のうちの少なくとも1つに含まれる複数の人の各々について前記人物情報を取得することと、
前記複数の人の各々について取得された前記人物情報に基づき、前記複数の人のうちの一人を、前記利用者として決定することと
を含む、装置。
【請求項5】
請求項1から3のうちの何れか一項に記載の装置であって、
前記撮像装置で取得した1以上の画像から、所定時間以上所定方向を向いている人が存在するかを判定し、
所定時間以上所定方向を向いている人が存在すると判定した場合に、当該人を前記利用者として決定する
ように更に構成された装置。
【請求項6】
請求項1から5のうちの何れか一項に記載の装置であって、前記人物情報の内容ごとに異なる対応するジェスチャを登録可能なように構成された装置。
【請求項7】
請求項1から6のうちの何れか一項に記載の装置であって、
前記人物情報は当該人物情報が取得された人が誰であるかを含み、
前記人物情報に基づき対応するジェスチャを決定することは、
前記人物情報に基づき前記利用者が所定の人物であるかを判定することと、
前記利用者が前記所定の人物であると判定した場合に、前記所定の人物に対して登録されているジェスチャを優先的に前記対応するジェスチャとして決定することと
を含む、装置。
【請求項8】
請求項1から6のうちの何れか一項に記載の装置であって、
前記対応するジェスチャは複数のジェスチャを含み、
前記撮像装置で取得した1以上の画像から、前記利用者が前記複数のジェスチャのうちの何れか1つを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定し、
行ったと判定した前記ジェスチャに応じて異なる所定の処理を実行する
ように構成された
装置。
【請求項9】
請求項1から6のうちの何れか一項に記載の装置であって、
前記対応するジェスチャは第1のジェスチャ及び第2のジェスチャを含み、
前記利用者が前記対応するジェスチャを行ったかを判定することは、
前記利用者が前記第1のジェスチャを行ったかを判定することと、
所定時間前記人が前記第1のジェスチャを行ったと判定しなかった場合に、前記人が前記第2のジェスチャを行ったかを判定することと
を含み、
前記人が前記第1のジェスチャを行ったと判定するか、又は、前記人が前記第2のジェスチャを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定するように構成された
装置。
【請求項10】
請求項1から6のうちの何れか一項に記載の装置であって、
前記対応するジェスチャは複数のジェスチャを含み、
前記撮像装置で取得した1以上の画像から、前記利用者が前記複数のジェスチャの全てを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定するように構成された
装置。
【請求項11】
請求項1から6のうちの何れか一項に記載の装置であって、前記利用者が所定の人物であるか否かに応じて、前記所定の処理が異なるように構成された装置。
【請求項12】
請求項1から10のうちの何れか一項に記載の装置であって、前記対応するジェスチャを前記利用者に通知するための通知部を備えるか又は該通知部に接続された装置。
【請求項13】
請求項1から12のうちの何れか一項に記載の装置であって、
前記機器又は設備はドアであり、
前記所定の処理は、前記ドアを解錠することと、前記ドアを施錠することと、前記ドアを開くことと、前記ドアを閉めることとのうちの1以上を行うための信号を生成することを含む、
装置。
【請求項14】
請求項13に記載の装置と、前記撮像装置と、前記ドアに取り付ける電気錠及びドアオペレータのうちの一方又は双方とを含むシステム。
【請求項15】
請求項14に記載のシステムであって、前記撮像装置は、前記利用者が所定範囲に存在しているときに前記所定処理を実行可能なように設置され、前記所定範囲は、前記利用者が前記ドアを通過する際の可能性ある経路内の範囲であって、前記ドアの開閉時の軌跡が通過しない範囲である、システム。
【請求項16】
機器又は設備を制御するための装置が、
撮像装置で取得した1以上の画像から、利用者についての人物情報を取得するステップと、
前記人物情報に基づき対応するジェスチャを決定するステップと、
前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定するステップと、
前記利用者が前記対応するジェスチャを行ったと判定した場合に、前記機器又は設備を制御するための所定の処理を実行するステップと
を含む方法。
【請求項17】
コンピュータに、
撮像装置で取得した1以上の画像から、利用者についての人物情報を取得するステップと、
前記人物情報に基づき対応するジェスチャを決定するステップと、
前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定するステップと、
前記利用者が前記対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行するステップと
を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ジェスチャに基づき機器又は設備を制御するための装置、方法及びプログラムに関する。
【背景技術】
【0002】
押しボタンを押すことにより自動的にドアを開閉させる、ドア用の自動開閉装置が存在する。
また、人感センサと連携して自動的にドアを開閉させる、ドア用の自動開閉装置が存在する。
【0003】
更に、カメラの前で事前に定められたジェスチャを行うことにより、ドアの開閉や解錠、施錠を行う装置が存在する(例えば、特許文献1を参照。)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】米国特許第10257470号明細書
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記押しボタン式のドア用の自動開閉装置の押しボタンは、建物の構造上、ドアを通過する人にとって動線上最適な位置に設置することが困難な場合があった。例えば、上記押しボタンがドアのわきの壁に設置された場合、利用者はボタンを押した後一度向きを変えてからドアを通過することになり、特に車椅子に乗っている利用者にとって不便であった。また、重い荷物を持っていたり、幼児を抱えていたりする利用者にとって、上記押しボタンを押すことそのものが困難な場合があった。更に、押しボタンを押すためには手等にて当該ボタンと接触する必要があり、感染症予防の観点からは好ましくないという問題があった。
【0006】
また、上記人感センサ式のドア用の自動開閉装置によれば、意図しないドアの開閉を誘発する可能性があった。
更に、ジェスチャを用いてドアを制御する場合、利用者が自然に且つ容易に行うことが可能なジェスチャを採用することが好ましい。しかしながら、そのようなジェスチャは、人によって異なる場合があるという問題があった。例えば、手や手首を用いたジェスチャを採用した場合、手が不自由な利用者や、重い荷物を持っていたり幼児を抱えていたりする利用者にとって、そのようなジェスチャを行うことが困難な場合があった。
【課題を解決するための手段】
【0007】
本発明は以上に鑑みてなされたものであり、本発明の課題の一つは、ドアを含む様々な機器や設備を、利用者にとって適切なジェスチャにて制御することである。
上記課題を解決するため、本発明の一実施形態によれば、撮像装置で取得した1以上の画像から、利用者についての人物情報を取得し、前記人物情報に基づき対応するジェスチャを決定し、前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定し、前記利用者が前記対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行するように構成された装置が提供される。
【0008】
一実施形態において、前記人物情報は、当該人物情報が取得された人の状態と、当該人物情報が取得された人の属性と、当該人物情報が取得された人が誰であるかとのうちの1以上を含むことができる。
【0009】
一実施形態において、前記人の状態及び前記人の属性のうちの一方は、前記人の所定の部位が不自由であるかと、前記人が車椅子に乗っているかと、前記人が所定の物体を保持しているかと
のうちの1以上を含むことができる。
【0010】
かかる構成によれば、様々な機器や設備を、利用者にとって適切なジェスチャにて制御することができる。
一実施形態において、利用者についての人物情報を取得することは、前記撮像装置で取得した1以上の画像から、該1以上の画像のうちの少なくとも1つに含まれる複数の人の各々について前記人物情報を取得することと、前記複数の人の各々について取得された前記人物情報に基づき、前記複数の人のうちの一人を、前記利用者として決定することとを含むことができる。
【0011】
かかる構成によれば、複数人が同時にデジタル・カメラに写り込んだ場合であっても、特定の人が行うジェスチャにより機器や設備の制御を行うことができる。
一実施形態である装置は、前記撮像装置で取得した1以上の画像から、所定時間以上所定方向を向いている人が存在するかを判定し、所定時間以上所定方向を向いている人が存在すると判定した場合に、当該人を前記利用者として決定するように更に構成されていてよい。
【0012】
かかる構成によれば、単にデジタル・カメラの前を通過するに過ぎない者等による機器や設備の誤作動を防ぐことができる。
一実施形態である装置は、前記人物情報の内容ごとに異なる対応するジェスチャを登録可能なように構成されていてよい。
【0013】
一実施形態において、前記人物情報は当該人物情報が取得された人が誰であるかを含み、前記人物情報に基づき対応するジェスチャを決定することは、前記人物情報に基づき前記利用者が所定の人物であるかを判定することと、前記利用者が前記所定の人物であると判定した場合に、前記所定の人物に対して登録されているジェスチャを優先的に前記対応するジェスチャとして決定することとを含むことができる。
【0014】
かかる構成によれば、利用者ごとに異なるジェスチャを登録することができ、よって、様々な機器や設備を、利用者によって異なる可能性のある適切なジェスチャにて制御することができる。
【0015】
一実施形態において、前記対応するジェスチャは複数のジェスチャを含むことができる。また、一実施形態である装置は、前記撮像装置で取得した1以上の画像から、前記利用者が前記複数のジェスチャのうちの何れか1つを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定し、行ったと判定した前記ジェスチャに応じて異なる所定の処理を実行するように構成されていてよい。
【0016】
かかる構成によれば、ジェスチャによって機器や設備の様々な制御を実現することができる。
一実施形態において、前記対応するジェスチャは第1のジェスチャ及び第2のジェスチャを含み、前記利用者が前記対応するジェスチャを行ったかを判定することは、前記利用者が前記第1のジェスチャを行ったかを判定することと、所定時間前記人が前記第1のジェスチャを行ったと判定しなかった場合に、前記人が前記第2のジェスチャを行ったかを判定することとを含むことができる。また、一実施形態である装置は、前記人が前記第1のジェスチャを行ったと判定するか、又は、前記人が前記第2のジェスチャを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定するように構成されていてよい。
【0017】
かかる構成によれば、誤判定により適切なジェスチャを決定できなかった場合等に、利用者に代替のジェスチャを提供することができる。
一実施形態において、前記対応するジェスチャは複数のジェスチャを含むことができる。また、一実施形態である装置は、前記撮像装置で取得した1以上の画像から、前記利用者が前記複数のジェスチャの全てを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定するように構成されていてよい。
【0018】
かかる構成によれば、偶然には生じる可能性の少ないジェスチャにより、機器や設備を制御する際のセキュリティを向上させることができる。
一実施形態である装置は、前記利用者が所定の人物であるか否かに応じて、前記所定の処理が異なるように構成されていてよい。
【0019】
かかる構成によれば、ジェスチャによる制御内容を人によって異なるようにすることができ、よって機器や設備を制御する際のセキュリティを向上させることができる。
一実施形態である装置は、前記対応するジェスチャを前記利用者に通知するための通知部を備えるか又は該通知部に接続されていてよい。
【0020】
かかる構成によれば、実施すべきジェスチャを通知することにより、利用者は機器や設備の制御方法を容易に理解することができる。
一実施形態において、前記機器又は設備はドアであり、前記所定の処理は、前記ドアを解錠することと、前記ドアを施錠することと、前記ドアを開くことと、前記ドアを閉めることとのうちの1以上を行うための信号を生成することを含むことができる。
【0021】
かかる構成によれば、車椅子に乗っている者や重い荷物を持っている者、幼児を抱えている者、体の一部が不自由な者等が容易にドアを操作することができる一方で、意図しないドアの操作を防止することができる。更には、非接触でドアを操作することができるため、感染症対策を講じることができる。
【0022】
上記課題を解決するため、本発明の別の一実施形態によれば、上述した一実施形態である装置と、前記撮像装置と、前記ドアに取り付ける電気錠及びドアオペレータのうちの一方又は双方とを含むシステムが提供される。
【0023】
かかる構成によれば、様々な機器や設備を、利用者にとって適切なジェスチャにて制御することができる。
一実施形態において、前記撮像装置は、前記利用者が所定範囲に存在しているときに前記所定処理を実行可能なように設置されていてよい。また、一実施形態において、前記所定範囲は、前記利用者が前記ドアを通過する際の可能性ある経路内の範囲であって、前記ドアの開閉時の軌跡が通過しない範囲であってよい。
【0024】
かかる構成によれば、利用者は動線に沿ってドアを操作することができ、利用者のスムーズなドアの通過を実現することができる。
上記課題を解決するため、本発明のまた別の一実施形態によれば、機器又は設備を制御するための装置が、撮像装置で取得した1以上の画像から、利用者についての人物情報を取得するステップと、前記人物情報に基づき対応するジェスチャを決定するステップと、前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定するステップと、前記利用者が前記対応するジェスチャを行ったと判定した場合に、前記機器又は設備を制御するための所定の処理を実行するステップとを含む方法が提供される。
【0025】
上記課題を解決するため、本発明の更に別の一実施形態によれば、コンピュータに、撮像装置で取得した1以上の画像から、利用者についての人物情報を取得するステップと、前記人物情報に基づき対応するジェスチャを決定するステップと、前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定するステップと、前記利用者が前記対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行するステップとを実行させるプログラムが提供される。
【0026】
かかる構成によれば、様々な機器や設備を、利用者にとって適切なジェスチャにて制御することができる。
【発明の効果】
【0027】
本発明の実施形態によれば、利用者にとって適切なジェスチャによるドアの開閉を可能とすることにより、利用者のスムーズなドアの通過を実現することができる。
また、本発明の実施形態によれば、ドアに関わらず様々な機器又は設備を、利用者にとって適切なジェスチャにより制御することができる。
【図面の簡単な説明】
【0028】
図1】利用者にとって適切なジェスチャにより機器又は設備を制御するための例示システム100の概略図である。
図2】制御装置140が実行する例示処理200を表すフローチャートである。
図3】ステップ220が含むことのできる例示処理300を表すフローチャートである。
図4】対応するジェスチャを説明する例示画面である。
図5】ステップ230が含むことのできる例示処理500を表すフローチャートである。
図6】人物情報の内容と、対応するジェスチャと、所定の処理との関係を記憶するための例示テーブル600である。
図7A】デジタル・カメラ110の配置について説明するための例示の図である。
図7B】デジタル・カメラ110の配置について説明するための例示の図である。
図8】コンピュータのハードウエア構成の一例を表す図である。
【発明を実施するための形態】
【0029】
1 本発明の一実施形態
本発明の第1実施形態は、利用者にとって適切なジェスチャにより機器又は設備を制御するためのシステムである。機器又は設備の例としては以下のようなものが挙げられるが、これらに限定されるわけではない。
・ ドア(引き戸や開き戸を含み、電気錠や開閉用のドアオペレータが取付けられるもの。)
・ エレベータ
・ 照明機器(例えば、家庭やオフィスに設けられるもの、街灯。)
・ エアコンや換気設備等の空調設備
・ サイネージ
・ ルーバーや災害用LED等の建築物外装
・ 応答型ロボットや自立移動体等のサービス用ロボット、ドローンや自動運転車、操縦飛行機
・ レンタルルームや賃貸物件(電気錠にて施錠できるもの)
・ カーテンやブラインド
・ 舞台や建築の演出装置
・ 緊急信号発信装置(例えば、コンビニエンスストアのカウンターや病室・ナースステーションに設けられるもの。)
・ オーディオ機器(車載オーディオ機器を含む。)
なお、以下に説明する例示システムにおいて、機器又は設備はドアである。
【0030】
1-1 第1実施形態の概要
図1は、利用者にとって適切なジェスチャにより機器又は設備を制御するための例示システム100の概略図である。なお、図1は、例示システム100が含む構成要素間の論理的な接続関係を表すものであって、構成要素の物理的な位置や、構成要素の物理的な大きさを表すものではないことに留意されたい。また、構成要素間を結ぶ線は、当該構成要素同士が論理的に接続されていることを示している。構成要素間の物理的な接続は、有線であっても、ワイヤレスであっても、有線及びワイヤレスの組み合わせであってもよい。構成要素間の接続は、各種インターフェース回路を含むことができる。
【0031】
110は、利用者が映った1以上の画像を取得するためのデジタル・カメラを示している。後述するように、デジタル・カメラ110で撮像した1以上の画像から、利用者についての人物情報が取得され、利用者が行ったジェスチャが認識される。デジタル・カメラ110で撮像した1以上の画像の各々は、デジタル・カメラ110が撮影した動画の各フレームであってよい。デジタル・カメラ110は複数存在してもよい。なお、デジタル・カメラ110は、1以上の画像を取得するための撮像手段の一例である。
【0032】
120は、制御対象の機器又は設備であるドアを示している。なお、図1においてドア120は例示システム100に含まれないものとして描かれているが、例示システム100に含まれるものとしてもよい。
【0033】
130は、ドアに取付けられる駆動装置を示している。駆動装置130は、ドア120の施錠及び解錠を行うための電気錠132と、ドア120を開閉させるためのドアオペレータ134とを含んでいる。なお、駆動装置130の少なくとも一部はドア120に含まれるものと考えてもよい。
【0034】
140は、ドア120を制御するため制御装置を示している。制御装置140が生成したドア120を制御するための信号は、駆動装置130に送信されることになる。制御装置140は、コンピュータや各種電子回路によって構成されていてよい。
【0035】
制御装置140は、各種情報を利用者に表示するためのディスプレイ145を備えることができる。ディスプレイ145は、各種情報を利用者に通知するための通知部の一例である。通知部の別例は、各種情報を音声で利用者に伝えるためのスピーカである。通知部は、制御装置140が備えるものであってもよいし、制御装置140とは別個の制御装置140に接続されたものであってもよい。
【0036】
1-2 制御装置140が実行する処理について
図2は、制御装置140が実行する例示処理200を表すフローチャートを示している。
【0037】
210は、デジタル・カメラ110で撮像した1以上の画像から、利用者についての人物情報を取得するステップを示している。
人物情報は、当該人物情報が取得された人の状態と、当該人物情報が取得された人の属性と、当該人物情報が取得された人が誰であるかとのうちの1以上を含んでいてよい。なお、人の状態と人の属性とは必ずしも区別できるものではなく、両者は区別せずにひとまとまりのものとしてもよい。人の状態又は人の属性とは、限定することなく列挙すれば、人の所定の部位、例えば手や腕が不自由であるか、人が車椅子に乗っているか、人が所定の物体を保持しているか等のことである。また、所定の物体とは、重い荷物や幼児等の任意のもの(人や動物を含む。)であってよい。1以上の画像からの人物情報の取得は、任意の手法、例えば公知の機械学習モデル(例えば、MobileNetを採用したもの)を用いて実現してよい。特に、1以上の画像からの人が誰であるかという情報の取得は、公知の顔認識技術を用いて実現することができる。
【0038】
220は、ステップ210にて取得した人物情報に基づき、対応するジェスチャを決定するステップを示している。
制御装置140は、人物情報の内容ごとに異なる対応するジェスチャを登録可能なように構成されていてよい。制御装置140は、例えばテーブルの形式で、人物情報の内容ごとに対応するジェスチャを記憶することができる。対応するジェスチャをテーブルの形式で記憶する場合には、当該テーブルの内容を任意の手法で書き換えることにより、人物情報の内容ごとに対応するジェスチャを登録できることが理解されよう。なお、異なる内容の人物情報に対し、同一の対応するジェスチャが登録されること、例えば、異なる所定の人物に対して同一の対応するジェスチャが登録されることは排除されないことに留意されたい。なお、このテーブルの具体例については後述する。
【0039】
対応するジェスチャは、例えば以下に列挙するようなもののうちの1以上であってよいが、これらに限定されるわけではない。
・ 左手又は右手を、グー又はパーの形にする。
・ 右手ないし左手を、右から左又は左から右に動かす。
・ 顔を右または左に向ける。
・ 所定のキーワードを発音する(その際の口の動きがジェスチャとなる。)。
・ 手を所定の形状にする。
・ まばたき、または、瞳の動き
【0040】
230は、デジタル・カメラ110で撮像した1以上の画像から、利用者が対応するジェスチャを行ったかを判定するステップを示している。利用者が対応するジェスチャを行ったと判定した場合、処理はステップ240に進み、そうでない場合、例示処理200は終了する。
【0041】
利用者が対応するジェスチャを行ったかを判定するための1以上の画像と、利用者についての人物情報を取得するための1以上の画像とは、同一であっても少なくとも一部が異なっていてもよい。利用者が対応するジェスチャを行ったかの判定は、任意の手法、例えば公知の機械学習モデルを用いて実現することができる。
【0042】
特に、対応するジェスチャとして顔の向きに依存したジェスチャを用いる場合、一般的な顔検出アルゴリズムでは利用者がマスクをしているときには鼻や口の位置を検出できないことがある。そのため、このような場合には、鼻や口の位置に依存しないようなアルゴリズムを用いて顔の向きを取得することが好ましい。
【0043】
また、特に、対応するジェスチャとして手をグー又はパーの形にするジェスチャを用いる場合、グー及びパー以外の手の形も学習させた機械学習モデルを用いることにより、利用者が対応するジェスチャを行ったかの判定精度を向上させることができる。
【0044】
240は、利用者が対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行するステップを示している。上述したようにここでは機器又は設備としてドアを仮定しているため、この所定の処理は、ドアを解錠することと、ドアを施錠することと、ドアを開くことと、ドアを閉めることとのうちの1以上を行うための信号を生成することを含んでいてよい。
【0045】
対応するジェスチャは複数のジェスチャを含むことができ、所定の処理は、利用者が実際に行ったジェスチャに応じて異なるものであってよい。但し、異なるジェスチャに対して同じ処理が所定の処理として定められることは排除されない。また、所定の処理は、利用者が所定の人物であるかに応じて異なるものであってよい。例えば、機器又は設備の管理者である所定の人物に対してのみ定められた所定の処理が存在していてよい。但し、異なる所定の人物に対して同じ処理が所定の処理として定められることは排除されない。制御装置140は、上述したテーブルの形式で、所定の処理が何であるかを定めることができる。
【0046】
1-2-1 ステップ210について
ステップ210は、デジタル・カメラ110で撮像した1以上の画像に複数の人が含まれる場合に対処する処理を含むことができる。例えば、ステップ210は、デジタル・カメラ110で撮像した1以上の画像から、該1以上の画像のうちの少なくとも1つに含まれる複数の人の各々について人物情報を取得するステップと、複数の人の各々について取得された人物情報に基づき、これら複数の人のうちの一人を利用者として決定するステップを含むことができる。なお、この決定の基準は任意であり、例えば、複数の人のうちの所定の人物を利用者として決定することができる。この所定の人物は、例えば、機器又は設備を制御する権限を有する者、即ち、ドアを開ける権限を有する者であってよい。
【0047】
また、ステップ210は、意図しないジェスチャによる機器又は設備の誤作動に対処する処理を含むことができる。例えば、ステップ210は、デジタル・カメラ110で撮像した1以上の画像から、所定時間以上所定方向を向いている人が存在するかを判定するステップと、所定時間以上所定方向を向いている人が存在すると判定した場合に、当該人を利用者として決定するステップとを含むことができる。所定時間は、例えば2秒であってよいが、これに限定されるわけではない。所定方向は、例えば、当該人を基準としてデジタル・カメラ110が設置されている方向(カメラに対し正面の方向)又はドアの方向であるが、これに限定されるわけではない。なお、所定時間以上所定方向を向いている人が存在するかの判定は、任意の手法、例えば公知の機械学習モデルを用いて実現してよい。このような処理によれば、単にデジタル・カメラ110の前を通過するに過ぎない人等は利用者とみなされず、よって、そのような人の偶発的なジェスチャによる機器又は設備の誤作動を防ぐことができる。
【0048】
1-2-2 ステップ220について
ステップ220は、人物情報のうちの当該人物情報が取得された人が誰であるかを優先的に用いる処理を含むことができる。図3は、ステップ220が含むことのできる例示のそのような処理300を表すフローチャートを示している。
【0049】
310は、人物情報に基づき、利用者が所定の人物であるかを判定するステップを示している。利用者が所定の人物であると判定した場合、処理はステップ320に進み、そうでない場合、処理はステップ330に進む。
【0050】
320は、対応するジェスチャとして、当該所定の人物に対して登録されているジェスチャを決定するステップを示している。このステップは、対応するジェスチャを、人物情報のうちの当該人物情報が取得された人が誰であるかのみに基づいて決定するステップと等価である。
【0051】
330は、人物情報のうちの当該人物情報が取得された人が誰であるか以外の情報に基づいて対応するジェスチャを決定するステップを示している。
例示処理300によれば、利用者が所定の人物であると判定した場合に、人物情報によれば他のジェスチャも対応するジェスチャの候補となるときであっても、当該所定の人物に対して登録されているジェスチャを優先的に対応するジェスチャとして決定することができる。
【0052】
ステップ220は、対応するジェスチャを利用者に通知するステップを含むことができる。このステップは、ディスプレイ145上に対応するジェスチャを説明する画面やアニメーションを表示するステップであってよい。図4は、そのような画面の一例を示している。あるいは、このステップは、図示しないスピーカにより、対応するジェスチャについての音声ガイダンスを行うステップであってよい。
【0053】
1-2-3 ステップ230について
対応するジェスチャが複数のジェスチャを含む場合、ステップ230においては、デジタル・カメラ110で撮像した1以上の画像から、利用者が当該複数のジェスチャのうちの1つを行ったと判定した場合に、利用者は対応するジェスチャを行ったと判定することができる。また、このような判定を行う場合、ステップ240においては、当該複数のジェスチャのうち利用者が実際に行ったジェスチャに応じて異なる所定の処理を実行することができる。利用者が行ったジェスチャに応じて異なる所定の処理を実行することにより、機器や設備の様々な制御を実現することができる。
【0054】
対応するジェスチャが複数のジェスチャを含む場合、ステップ230においては、利用者が当該複数のジェスチャのうちの何れかを行ったと判定した場合に、利用者は対応するジェスチャを行ったと判定することができる。図5は、このような判定を実現するための例示処理500を表すフローチャートを示している。なお、例示処理500では、対応するジェスチャは第1のジェスチャ及び第2のジェスチャという2つのジェスチャを含むことを前提としている。
【0055】
510は、利用者が第1のジェスチャを行ったかを判定するステップを示している。利用者が第1のジェスチャを行ったと判定した場合、処理はステップ550に進み、そうでない場合、処理はステップ520に進む。
【0056】
520は、所定の基準時、例えばステップ510に最初に遷移したときから所定時間が経過したかを判定するステップを示している。所定時間は、例えば5秒であってよいが、これに限定されるわけではない。所定時間が経過したと判定した場合、処理はステップ530に進み、そうでない場合、処理はステップ510に戻る。
【0057】
530は、利用者が第2のジェスチャを行ったかを判定するステップを示している。利用者が第2のジェスチャを行ったと判定した場合、処理はステップ550に進み、そうでない場合、処理はステップ540に進む。
【0058】
540は、所定の基準時、例えばステップ530に最初に遷移したときから所定時間が経過したかを判定するステップを示している。ステップ540における所定時間は、ステップ520における所定時間と同じであっても異なっていてもよい。所定時間が経過したと判定した場合、処理はステップ560に進み、そうでない場合、処理はステップ530に戻る。
【0059】
550は、利用者が対応するジェスチャを行ったと判定するステップを示している。
560は、利用者が対応するジェスチャを行っていないと判定するステップを示している。
【0060】
例示処理500によれば、利用者が第1のジェスチャを行ったと判定するか、又は、利用者が第2のジェスチャを行ったと判定した場合に、利用者は対応するジェスチャを行ったと判定されることになる。このような判定によれば、誤判定により適切なジェスチャが決定できなかった場合等に、利用者に代替のジェスチャを提供することができる。
【0061】
対応するジェスチャが複数のジェスチャを含む場合、ステップ230においては、利用者が当該複数のジェスチャのうちの全てを行ったと判定した場合に、利用者は対応するジェスチャを行ったと判定することができる。このような判定によれば、偶然には生じる可能性の少ないジェスチャにより機器又は設備を制御することができ、よってセキュリティを向上させることができる。また、このような判定によれば、特に例示システム100においては、偶然には生じる可能性の少ないジェスチャによりドア120を開閉することができるため、無用なドア120の開閉を防ぐことができる。
【0062】
対応するジェスチャが複数のジェスチャを含む場合、当該複数のジェスチャは順序付けられた一連のジェスチャであることができる。このような一連のジェスチャを用いる場合、ステップ230においては、利用者が当該一連のジェスチャを順番に行ったと判定した場合に、利用者は対応するジェスチャを行ったと判定することができる。なお、そのような一連のジェスチャは、例えば手の形状を特定のパターンで変化させるものであるが、これに限定されるわけではない。また、この場合、利用者が誰であるかをID又はそれに準じたものとして、一連のジェスチャをパスワード又はそれに準じたものとして用いることができる。
【0063】
1-3 制御装置140が記憶するテーブルについて
図6は、人物情報の内容と、対応するジェスチャと、所定の処理との関係を記憶するための例示テーブル600を示している。
【0064】
610及び620の行は、人物Aに対して登録されている対応するジェスチャ及び実行される所定の処理を示している。これら行によれば、人物Aに対しては、対応するジェスチャとしてジェスチャ1及びジェスチャ2が登録されており、人物Aと判定された利用者がジェスチャ1を行ったと判定された場合には所定の処理として処理1が実行され、ジェスチャ2を行ったと判定された場合には所定の処理として処理2が実行されることになる。
【0065】
630~645の行は、人物Bに対して登録されている対応するジェスチャ及び実行される所定の処理を示している。これら行によれば、人物Bに対しては、対応するジェスチャとしてジェスチャ1、ジェスチャ2、ジェスチャ3、ジェスチャ4及びジェスチャ5が登録されており、人物Bと判定された利用者がジェスチャ1を行ったと判定された場合には所定の処理として処理1が実行され、ジェスチャ2又はジェスチャ3を行ったと判定された場合には所定の処理として処理2が実行され、ジェスチャ4及び5の双方を行ったと判定された場合には所定の処理として処理3が実行されることになる。なお、処理3は、処理1及び処理2に対してよりセキュリティ上クリティカルな処理であることができる。
【0066】
650の行は、腕が不自由な者に対して登録されている対応するジェスチャ及び実行される所定の処理を示している。この行によれば、腕が不自由な利用者に対しては、対応するジェスチャとしてジェスチャ6が登録されており、腕が不自由であると判定された利用者がジェスチャ6を行ったと判定された場合には所定の処理として処理1が実行されることになる。なお、ジェスチャ6は腕を用いないものであることが好ましいであろう。
【0067】
660及び670の行は、利用者に対して登録されているデフォルトの対応するジェスチャ及び実行される所定の処理を示している。これら行によれば、人物Aでもなく、人物Bでもなく、腕が不自由でもない利用者に対しては、対応するジェスチャとしてジェスチャ1及びジェスチャ6がそれぞれ第1ジェスチャ及び第2ジェスチャとして登録されており、人物Aでもなく、人物Bでもなく、腕が不自由でもないと判定された利用者がジェスチャ1又はジェスチャ6を行ったと判定された場合には所定の処理として処理1が実行されることになる。
【0068】
上の説明から明らかなように、例示テーブル600によれば、人物情報の内容ごとに異なる対応するジェスチャを登録可能である。また、例示テーブル600によれば、利用者が所定の人物であるか否かに応じて、所定の処理を異ならせることが可能である。更に、例示テーブル600によれば、対応するジェスチャとして複数のジェスチャを登録し、利用者が行ったジェスチャに応じて異なる所定の処理を実行可能である。
【0069】
1-4 デジタル・カメラ110の配置について
利用者は、ドア120を通過する際の動きを妨げられず、動線に沿ってドアを操作することができることが好ましい。そのため、デジタル・カメラ110は、利用者がドア120を通過する際の可能性ある経路内且つドア120の開閉時の軌跡が通過しない所定範囲を撮像可能なように設置され、利用者が当該所定範囲に存在するときに制御装置140が上記所定処理を実行可能であるようにすることができる。
【0070】
以下、上記所定範囲の例について図7A及び7Bを用いて説明する。なお、以下の説明において、ドア120は開き戸であるものと仮定している。720は壁を示しており、従って710は利用者がドア120を通過する際の可能性ある経路を示している。特に図9Bにおいては、利用者がドア120を通過する際の可能性ある経路710が、紙面における壁720より下全体であることに留意されたい。735はドア120の開閉時の軌跡を示しており、730は上記所定範囲を示している。これら図から明らかなように、軌跡735は所定範囲730を通過していない。所定範囲730の位置は、利用者の移動速度や制御装置140の処理速度等に応じて変化するが、おおむねドアより1mから2m離れた範囲にあることが好ましい。
【0071】
このようなデジタル・カメラ110の配置によれば、利用者がドア120からまだ一定距離離れている時点でドア120を開いておくことができるため、利用者のスムーズなドア120の通過を実現することができる。なお、図7A及び7Bに示したデジタル・カメラ110の具体的な位置はあくまで例示であり、利用者がドア120を通過する際の可能性ある経路内且つドア120の開閉時の軌跡が通過しない所定範囲を撮像可能なのであれば、デジタル・カメラ110は、ドア120の上や天井等の空間的に望ましい任意の位置に設置することができることは言うまでもない。
【0072】
2 本発明の別の実施形態について
本発明の第2実施形態は、第1実施形態である例示システム100が含む制御装置140である。
【0073】
本発明の第3実施形態は、制御装置140が実行するステップを含む方法である。
本発明の第4実施形態は、コンピュータに、制御装置140が実行するステップを含む方法を実行させるプログラムである。
【0074】
3 コンピュータについて
以下、本発明の一実施形態を実施するために用いることができるコンピュータのハードウエア構成の一例について説明する。なお、本発明の一実施形態を実施するために用いることができるコンピュータは任意のものであってよく、例えば、パーソナル・コンピュータやクラウド上のコンピュータ等である。
【0075】
図8は、コンピュータのハードウエア構成の一例を表している。同図に示すように、コンピュータ800は、ハードウエア資源として、主に、プロセッサ810と、主記憶装置820と、補助記憶装置830と、入出力インターフェース840と、通信インターフェース850とを備えており、これらはアドレスバス、データバス、コントロールバス等を含むバスライン860を介して相互に接続されている。なお、バスライン860と各ハードウエア資源との間には適宜インターフェース回路(図示せず)が介在している場合もある。
【0076】
プロセッサ810は、CPUやマイクロプロセッサ等のコンピュータ全体又は少なくとも一部の制御を行うものである。なお、1つのコンピュータは複数のプロセッサ810を含む場合がある。このような場合、以上の説明における「プロセッサ」は、複数のプロセッサ810の総称であってもよい。
【0077】
主記憶装置820は、プロセッサ810に対して作業領域を提供する、SRAM(Static Random Access Memory)やDRAM(Dynamic Random Access Memory)等の揮発性メモリである。
【0078】
補助記憶装置830は、ソフトウエアであるプログラム等やデータ等を格納する、HDDやSSD、フラッシュメモリ等の不揮発性メモリである。当該プログラムやデータ等は、任意の時点で補助記憶装置830からバスライン860を介して主記憶装置820へとロードされる。補助記憶装置830は、コンピュータ可読記憶媒体、非一時的コンピュータ可読記憶媒体、又は、コンピュータ判読可能な貯蔵媒体と呼ばれることがある。なお、プログラムは、プロセッサに所望の処理を実行させる命令を含むものである。
【0079】
入出力インターフェース840は、情報を提示すること及び情報の入力を受けることの一方又は双方を行うものであり、デジタル・カメラ、キーボード、マウス、ディスプレイ、タッチパネル・ディスプレイ、マイク、スピーカ、各種センサ等である。
【0080】
通信インターフェース850は、インターネットやローカル・エリア・ネットワーク(LAN)の等うちの1以上から構成されたネットワーク855と接続されるものであり、ネットワーク855を介してデータを送受する。通信インターフェース850とネットワーク855とは、有線又は無線で接続されうる。通信インターフェース850は、ネットワークに係る情報、例えば、Wi-Fiのアクセスポイントに係る情報、通信キャリアの基地局に関する情報等も取得することがある。
【0081】
上に例示したハードウエア資源とソフトウエアとの協働により、コンピュータ800は、所望の手段として機能し、所望のステップを実行し、所望の機能を実現させることできることは、当業者には明らかであろう。
【0082】
4 むすび
以上、本発明の実施形態の幾つかの例を説明してきたが、これらは例示にすぎず、本発明の技術的範囲を限定するものではないことが理解されるべきである。説明した実施形態についても、本開示の趣旨及び範囲から逸脱することなく、変更、追加、改良などを適宜行うことができることが理解されるべきである。本発明の技術的範囲は、上述した実施形態のいずれによっても限定されるべきではなく、特許請求の範囲及びその均等物によってのみ規定されるべきである。
【符号の説明】
【0083】
110…デジタル・カメラ
120…ドア
710…利用者がドア120を通過する際の可能性ある経路
720…壁
730…所定範囲
735…ドア120の開閉時の軌跡
図1
図2
図3
図4
図5
図6
図7A
図7B
図8
【手続補正書】
【提出日】2023-01-17
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
撮像装置で取得した1以上の画像から、利用者についての人物情報であって、人の状態及び人の属性の一方又は双方を含む前記人物情報を取得し、
前記人物情報が含む前記人の状態及び前記人の状態の前記一方又は双方少なくとも基づき対応するジェスチャを決定し、
前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定し、
前記利用者が前記対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行する
ように構成された装置。
【請求項2】
請求項1記載の装置であって、前記人物情報は当該人物情報が取得された人が誰であるかを更に含む、装置。
【請求項3】
請求項1又は2記載の装置であって、前記人の状態及び前記人の属性のうちの一方は、
前記人の所定の部位が不自由であるかと、
前記人が車椅子に乗っているかと、
前記人が所定の物体を保持しているかと
のうちの1以上を含む、装置。
【請求項4】
請求項1から3のうちの何れか一項に記載の装置であって、利用者についての人物情報を取得することは、
前記撮像装置で取得した1以上の画像から、該1以上の画像のうちの少なくとも1つに含まれる複数の人の各々について前記人物情報を取得することと、
前記複数の人の各々について取得された前記人物情報に基づき、前記複数の人のうちの一人を、前記利用者として決定することと
を含む、装置。
【請求項5】
請求項1から3のうちの何れか一項に記載の装置であって、
前記撮像装置で取得した1以上の画像から、所定時間以上所定方向を向いている人が存在するかを判定し、
所定時間以上所定方向を向いている人が存在すると判定した場合に、当該人を前記利用者として決定する
ように更に構成された装置。
【請求項6】
請求項1から5のうちの何れか一項に記載の装置であって、前記人物情報の内容ごとに異なる対応するジェスチャを登録可能なように構成された装置。
【請求項7】
請求項1から6のうちの何れか一項に記載の装置であって、
前記人物情報は当該人物情報が取得された人が誰であるかを含み、
前記人物情報に基づき対応するジェスチャを決定することは、
前記人物情報に基づき前記利用者が所定の人物であるかを判定することと、
前記利用者が前記所定の人物であると判定した場合に、前記所定の人物に対して登録されているジェスチャを優先的に前記対応するジェスチャとして決定することと
を含む、装置。
【請求項8】
請求項1から6のうちの何れか一項に記載の装置であって、
前記対応するジェスチャは複数のジェスチャを含み、
前記撮像装置で取得した1以上の画像から、前記利用者が前記複数のジェスチャのうちの何れか1つを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定し、
行ったと判定した前記ジェスチャに応じて異なる所定の処理を実行する
ように構成された
装置。
【請求項9】
請求項1から6のうちの何れか一項に記載の装置であって、
前記対応するジェスチャは第1のジェスチャ及び第2のジェスチャを含み、
前記利用者が前記対応するジェスチャを行ったかを判定することは、
前記利用者が前記第1のジェスチャを行ったかを判定することと、
所定時間前記利用者が前記第1のジェスチャを行ったと判定しなかった場合に、前記利用者が前記第2のジェスチャを行ったかを判定することと
を含み、
前記利用者が前記第1のジェスチャを行ったと判定するか、又は、前記利用者が前記第2のジェスチャを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定するように構成された
装置。
【請求項10】
請求項1から6のうちの何れか一項に記載の装置であって、
前記対応するジェスチャは複数のジェスチャを含み、
前記撮像装置で取得した1以上の画像から、前記利用者が前記複数のジェスチャの全てを行ったと判定した場合に、前記利用者は前記対応するジェスチャを行ったと判定するように構成された
装置。
【請求項11】
請求項1から6のうちの何れか一項に記載の装置であって、前記利用者が所定の人物であるか否かに応じて、前記所定の処理が異なるように構成された装置。
【請求項12】
請求項1から10のうちの何れか一項に記載の装置であって、前記対応するジェスチャを前記利用者に通知するための通知部を備えるか又は該通知部に接続された装置。
【請求項13】
請求項1から12のうちの何れか一項に記載の装置であって、
前記機器又は設備はドアであり、
前記所定の処理は、前記ドアを解錠することと、前記ドアを施錠することと、前記ドアを開くことと、前記ドアを閉めることとのうちの1以上を行うための信号を生成することを含む、
装置。
【請求項14】
請求項13に記載の装置と、前記撮像装置と、前記ドアに取り付ける電気錠及びドアオペレータのうちの一方又は双方とを含むシステム。
【請求項15】
請求項14に記載のシステムであって、前記撮像装置は、前記利用者が所定範囲に存在しているときに前記所定処理を実行可能なように設置され、前記所定範囲は、前記利用者が前記ドアを通過する際の可能性ある経路内の範囲であって、前記ドアの開閉時の軌跡が通過しない範囲である、システム。
【請求項16】
機器又は設備を制御するための装置が、
撮像装置で取得した1以上の画像から、利用者についての人物情報であって、人の状態及び人の属性の一方又は双方を含む前記人物情報を取得するステップと、
前記人物情報が含む前記人の状態及び前記人の状態の前記一方又は双方少なくとも基づき対応するジェスチャを決定するステップと、
前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定するステップと、
前記利用者が前記対応するジェスチャを行ったと判定した場合に、前記機器又は設備を制御するための所定の処理を実行するステップと
を含む方法。
【請求項17】
コンピュータに、
撮像装置で取得した1以上の画像から、利用者についての人物情報であって、人の状態及び人の属性の一方又は双方を含む前記人物情報を取得するステップと、
前記人物情報が含む前記人の状態及び前記人の状態の前記一方又は双方少なくとも基づき対応するジェスチャを決定するステップと、
前記撮像装置で取得した1以上の画像から、前記利用者が前記対応するジェスチャを行ったかを判定するステップと、
前記利用者が前記対応するジェスチャを行ったと判定した場合に、機器又は設備を制御するための所定の処理を実行するステップと
を実行させるプログラム。