(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024085635
(43)【公開日】2024-06-27
(54)【発明の名称】プログラム、コンピュータ装置及び方法
(51)【国際特許分類】
A61B 5/11 20060101AFI20240620BHJP
G16H 10/40 20180101ALI20240620BHJP
【FI】
A61B5/11 310
G16H10/40
【審査請求】有
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022200254
(22)【出願日】2022-12-15
(11)【特許番号】
(45)【特許公報発行日】2023-11-15
(71)【出願人】
【識別番号】520212886
【氏名又は名称】株式会社オクチィ
(74)【代理人】
【識別番号】110001782
【氏名又は名称】弁理士法人ライトハウス国際特許事務所
(72)【発明者】
【氏名】畑 あゆ美
【テーマコード(参考)】
4C038
5L099
【Fターム(参考)】
4C038VA04
4C038VB09
4C038VB31
4C038VC05
5L099AA03
(57)【要約】
【課題】
本発明は、ユーザの状態を評価するために必要な画像情報を取得するためのプログラムを提供することを目的とする。
【解決手段】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、コンピュータ装置を、撮像装置により空間を撮像する撮像手段と、ユーザに求める動作に関する情報を出力する情報出力手段と、撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力する指示手段、として機能させる、プログラム。
【選択図】
図5
【特許請求の範囲】
【請求項1】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、
コンピュータ装置を、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力する指示手段、
として機能させる、プログラム。
【請求項2】
コンピュータ装置がセンサを備え、
コンピュータ装置を、
センサにより、撮像装置が表示画面に対して前記一端のある側の反対側にくるように、コンピュータ装置の上下を反転させたことを検知する反転検知手段、
として機能させる、請求項1に記載のプログラム。
【請求項3】
コンピュータ装置を、
反転を検知した場合に、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、
として機能させる、請求項2に記載のプログラム。
【請求項4】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置であって、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力する指示手段、
を備える、コンピュータ装置。
【請求項5】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行される方法であって、
撮像装置により空間を撮像する撮像ステップと、
ユーザに求める動作に関する情報を出力する情報出力ステップと、
撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力する指示ステップ、
を有する、方法。
【請求項6】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、
コンピュータ装置を、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、
として機能させる、プログラム。
【請求項7】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置であって、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、
を備える、コンピュータ装置。
【請求項8】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行される方法であって、
撮像装置により空間を撮像する撮像ステップと、
ユーザに求める動作に関する情報を出力する情報出力ステップと、
ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示ステップ、
を有する、方法。
【請求項9】
撮像装置を備えるコンピュータ装置において実行されるプログラムであって、
コンピュータ装置を、
撮像装置により空間を撮像する撮像手段と、
ユーザに求めるユーザの喉の動作に関する情報を出力する情報出力手段と、
撮像装置の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める指示情報を出力する指示手段、
として機能させる、プログラム。
【請求項10】
前記撮像により得られる画像、及び、人の顔又は上半身の少なくとも一部に対応するガイドを表示する、請求項9に記載のプログラム。
【請求項11】
撮像装置を備えるコンピュータ装置であって、
撮像装置により空間を撮像する撮像手段と、
ユーザに求めるユーザの喉の動作に関する情報を出力する情報出力手段と、
撮像装置の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める指示情報を出力する指示手段、
を備える、コンピュータ装置。
【請求項12】
撮像装置を備えるコンピュータ装置において実行される方法であって、
撮像装置により空間を撮像する撮像ステップと、
ユーザに求めるユーザの喉の動作に関する情報を出力する情報出力ステップと、
撮像装置の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める指示情報を出力する指示ステップ、
を有する、方法。
【請求項13】
表示装置と撮像装置とを備えるコンピュータ装置において実行されるプログラムであって、
コンピュータ装置を、
撮像装置により空間を撮像する撮像手段と、
前記撮像により得られる画像、及び、ユーザに求める動作に関する情報を表示装置の表示画面に表示する表示手段、
として機能させる、プログラム。
【請求項14】
表示手段が、ユーザに求める動作に関する情報として、該動作に関するテキスト情報、及び、該動作に関する画像情報を表示する、請求項13に記載のプログラム。
【請求項15】
表示手段が、ユーザに求める動作に関する情報として、人の顔についての動作に関する情報を表示するものであり、さらに、前記撮像により得られる画像を表示する領域において、人の顔又は上半身の少なくとも一部に対応するガイドを表示する、請求項13又は14に記載のプログラム。
【請求項16】
撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるための、請求項13又は14に記載のプログラム。
【請求項17】
表示装置と撮像装置とを備えるコンピュータ装置であって、
撮像装置により空間を撮像する撮像手段と、
前記撮像により得られる画像、及び、ユーザに求める動作に関する情報を表示装置の表示画面に表示する表示手段、
を備える、コンピュータ装置。
【請求項18】
表示装置と撮像装置とを備えるコンピュータ装置において実行される方法であって、
撮像装置により空間を撮像する撮像ステップと、
前記撮像により得られる画像、及び、ユーザに求める動作に関する情報を表示装置の表示画面に表示する表示ステップ、
を有する、方法。
【請求項19】
表示装置と、撮像装置とを備えるコンピュータ装置において実行されるプログラムであって、
コンピュータ装置を、
表示装置の表示画面の明るさを調整する、
表示装置の表示画面の明るさを調整することをユーザに求める指示情報を出力する、又は、
表示装置の表示画面の明るさを調整するための調整情報を出力する調整手段と、
表示画面の明るさの調整が完了した後に、撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段
として機能させる、プログラム。
【請求項20】
表示装置と、撮像装置とを備えるコンピュータ装置であって、
表示装置の表示画面の明るさを調整する、
表示装置の表示画面の明るさを調整することをユーザに求める指示情報を出力する、又は、
表示装置の表示画面の明るさを調整するための調整情報を出力する調整手段と、
表示画面の明るさの調整が完了した後に、撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と
を備える、コンピュータ装置。
【請求項21】
表示装置と、撮像装置とを備えるコンピュータ装置において実行される方法であって、
表示装置の表示画面の明るさを調整する、
表示装置の表示画面の明るさを調整することをユーザに求める指示情報を出力する、又は、
表示装置の表示画面の明るさを調整するための調整情報を出力する調整ステップと、
表示画面の明るさの調整が完了した後に、撮像装置により空間を撮像する撮像ステップと、
ユーザに求める動作に関する情報を出力する情報出力ステップと
を有する、方法。
【請求項22】
コンピュータ装置を、
前記撮像により得られる画像を記憶する画像記憶手段、及び/又は、前記撮像により得られる画像を他のコンピュータ装置へ送信する画像送信手段
として機能させる、請求項1、6、9、13又は19に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム、コンピュータ装置及び方法に関する。
【背景技術】
【0002】
口腔は、摂食に関する嚥下機能、発声に関する発音機能、及び、呼吸に関する呼吸機能といった人間にとって重要な身体機能に関わっている器官である。嚥下機能、発音機能、及び、呼吸機能のそれぞれは、歯科口腔外科、耳鼻咽喉科、リハビリテーション科、呼吸器内科等の複数の診療科により専門分野が分かれている。そのため、専門分野の違いにより横断的に評価されず、自分の嚥下機能、発音機能、及び呼吸機能の現状を把握する機会を得ることが難しく、適切な診断や治療を受ける機会を得られないことがあった。また、嚥下機能、発音機能、及び呼吸機能は、どれか一つが急激に悪化するのではなく、加齢により、緩やかに機能が低下することが多い。そのため、悪化している自覚症状に乏しく、適切な検査を受けることができず、口腔機能の低下を予防することが難しかった。
【0003】
このような中、口腔機能を簡易かつ簡便に評価するための評価プログラムが開示されている(例えば、特許文献1)。評価プログラムにおいて、口腔衛生、口腔乾燥、歯数、咬合力、パの発音、タの発音、カの発音、舌圧、咀嚼機能、嚥下機能等の口腔機能評価の情報が入力され、口腔機能評価結果が所定の図形に図形化される。しかしながら、口腔機能評価の取得には、測定のための特別な装置が必要であり、ユーザ自身が測定を実施し、口腔機能を把握する態様は、想定されていなかった。また、ユーザが、口腔機能の低下を予防するための態様は想定されていなかった。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、例えば、以下のいずれかの課題を解決することができる。本発明の第1の目的は、ユーザの状態を評価するために必要な画像情報を取得するためのプログラムを提供することである。また、本発明の第2の目的は、ユーザに求める動作に関する情報と該動作を実施するユーザを同時に表示するプログラムを提供することである。
【課題を解決するための手段】
【0006】
本発明の課題は、
[1]長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、コンピュータ装置を、撮像装置により空間を撮像する撮像手段と、ユーザに求める動作に関する情報を出力する情報出力手段と、撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力する指示手段、として機能させる、プログラム;
[2]コンピュータ装置がセンサを備え、コンピュータ装置を、センサにより、撮像装置が表示画面に対して前記一端のある側の反対側にくるように、コンピュータ装置の上下を反転させたことを検知する反転検知手段、として機能させる、前記[1]に記載のプログラム;
[3]コンピュータ装置を、反転を検知した場合に、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、として機能させる、前記[2]に記載のプログラム;
[4]長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置であって、撮像装置により空間を撮像する撮像手段と、ユーザに求める動作に関する情報を出力する情報出力手段と、撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力する指示手段、を備える、コンピュータ装置;
[5]長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行される方法であって、撮像装置により空間を撮像する撮像ステップと、ユーザに求める動作に関する情報を出力する情報出力ステップと、撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力する指示ステップ、を有する、方法;
[6]長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、コンピュータ装置を、撮像装置により空間を撮像する撮像手段と、ユーザに求める動作に関する情報を出力する情報出力手段と、ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、として機能させる、プログラム;
[7]長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置であって、撮像装置により空間を撮像する撮像手段と、ユーザに求める動作に関する情報を出力する情報出力手段と、ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、を備える、コンピュータ装置;
[8]長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行される方法であって、撮像装置により空間を撮像する撮像ステップと、ユーザに求める動作に関する情報を出力する情報出力ステップと、ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示ステップ、を有する、方法;
[9]撮像装置を備えるコンピュータ装置において実行されるプログラムであって、コンピュータ装置を、撮像装置により空間を撮像する撮像手段と、ユーザに求めるユーザの喉の動作に関する情報を出力する情報出力手段と、撮像装置の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める指示情報を出力する指示手段、として機能させる、プログラム;
[10]前記撮像により得られる画像、及び、人の顔又は上半身の少なくとも一部に対応するガイドを表示する、前記[9]に記載のプログラム;
[11]撮像装置を備えるコンピュータ装置であって、撮像装置により空間を撮像する撮像手段と、ユーザに求めるユーザの喉の動作に関する情報を出力する情報出力手段と、撮像装置の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める指示情報を出力する指示手段、を備える、コンピュータ装置;
[12]撮像装置を備えるコンピュータ装置において実行される方法であって、撮像装置により空間を撮像する撮像ステップと、ユーザに求めるユーザの喉の動作に関する情報を出力する情報出力ステップと、撮像装置の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める指示情報を出力する指示ステップ、を有する、方法;
[13]表示装置と撮像装置とを備えるコンピュータ装置において実行されるプログラムであって、コンピュータ装置を、撮像装置により空間を撮像する撮像手段と、前記撮像により得られる画像、及び、ユーザに求める動作に関する情報を表示装置の表示画面に表示する表示手段、として機能させる、プログラム;
[14]表示手段が、ユーザに求める動作に関する情報として、該動作に関するテキスト情報、及び、該動作に関する画像情報を表示する、前記[13]に記載のプログラム;
[15]表示手段が、ユーザに求める動作に関する情報として、人の顔についての動作に関する情報を表示するものであり、さらに、前記撮像により得られる画像を表示する領域において、人の顔又は上半身の少なくとも一部に対応するガイドを表示する、前記[13]又は[14]に記載のプログラム;
[16]撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるための、前記[13]~[15]のいずれかに記載のプログラム;
[17]表示装置と撮像装置とを備えるコンピュータ装置であって、撮像装置により空間を撮像する撮像手段と、前記撮像により得られる画像、及び、ユーザに求める動作に関する情報を表示装置の表示画面に表示する表示手段、を備える、コンピュータ装置;
[18]表示装置と撮像装置とを備えるコンピュータ装置において実行される方法であって、撮像装置により空間を撮像する撮像ステップと、前記撮像により得られる画像、及び、ユーザに求める動作に関する情報を表示装置の表示画面に表示する表示ステップ、を有する、方法;
[19]表示装置と、撮像装置とを備えるコンピュータ装置において実行されるプログラムであって、コンピュータ装置を、表示装置の表示画面の明るさを調整する、表示装置の表示画面の明るさを調整することをユーザに求める指示情報を出力する、又は、表示装置の表示画面の明るさを調整するための調整情報を出力する調整手段と、表示画面の明るさの調整が完了した後に、撮像装置により空間を撮像する撮像手段と、ユーザに求める動作に関する情報を出力する情報出力手段として機能させる、プログラム;
[20]表示装置と、撮像装置とを備えるコンピュータ装置であって、表示装置の表示画面の明るさを調整する、表示装置の表示画面の明るさを調整することをユーザに求める指示情報を出力する、又は、表示装置の表示画面の明るさを調整するための調整情報を出力する調整手段と、表示画面の明るさの調整が完了した後に、撮像装置により空間を撮像する撮像手段と、ユーザに求める動作に関する情報を出力する情報出力手段とを備える、コンピュータ装置;
[21]表示装置と、撮像装置とを備えるコンピュータ装置において実行される方法であって、表示装置の表示画面の明るさを調整する、表示装置の表示画面の明るさを調整することをユーザに求める指示情報を出力する、又は、表示装置の表示画面の明るさを調整するための調整情報を出力する調整ステップと、表示画面の明るさの調整が完了した後に、撮像装置により空間を撮像する撮像ステップと、ユーザに求める動作に関する情報を出力する情報出力ステップとを有する、方法;
[22]コンピュータ装置を、前記撮像により得られる画像を記憶する画像記憶手段、及び/又は、前記撮像により得られる画像を他のコンピュータ装置へ送信する画像送信手段として機能させる、前記[1]~[3]、[6]、[9]、[10]、[13]~[16]又は[19]に記載のプログラム;
により解決することができる。
【発明の効果】
【0007】
本発明によれば、ユーザの状態を評価するために必要な画像情報を取得するためのプログラムを提供できる。また、本発明によれば、ユーザに求める動作に関する情報と該動作を実施するユーザを同時に表示するプログラムを提供することができる。
【図面の簡単な説明】
【0008】
【
図1】本発明の実施の形態に係るシステムの構成を示すブロック図である。
【
図2】本発明の実施の形態に係るユーザ端末の外観の一例を示す図である。
【
図3】本発明の実施の形態に係るユーザ端末のハードウェア構成を示すブロック図である。
【
図4】本発明の実施の形態に係るサーバ装置のハードウェア構成を示すブロック図である。
【
図5】本発明の実施の形態に係る評価処理のフローチャートを示す図である。
【
図6】本発明の実施の形態に係る表示画面の一例を示す図である。
【
図7】本発明の実施の形態に係る表示画面の一例を示す図である。
【
図8】本発明の実施の形態に係る表示画面の概略図である。
【
図9】本発明の実施の形態に係る表示画面の一例を示す図である。
【
図10】本発明の実施の形態に係る表示画面の一例を示す図である。
【
図11】本発明の実施の形態に係る撮像方法の概略図である。
【
図12】本発明の実施の形態に係る撮像方法の概略図である。
【
図13】本発明の実施の形態に係る運動処理のフローチャートを示す図である。
【発明を実施するための形態】
【0009】
以下、本発明の実施の形態について説明をするが、本発明の趣旨に反しない限り、本発明は、以下の実施の形態に限定されない。以下で説明するフローチャートを構成する各処理の順序は、処理内容に矛盾や不整合が生じない範囲で順不同であり、また、処理内容に矛盾や不整合が生じない範囲で、フローチャートを構成する各処理の一部を省略することや、フローチャートを構成する各処理に新たな処理を追加することも可能である。
【0010】
図1は、本発明の実施の形態にかかるシステムの構成を示すブロック図である。システムは、ユーザ端末1と、サーバ装置2とを備える。ユーザ端末1及びサーバ装置2は、通信ネットワーク3を介して、互いに通信可能に接続されている。システムでは、ユーザ端末1及びサーバ装置2のいずれかが情報処理装置として機能し得る。ユーザ端末1及びサーバ装置2のいずれかが情報処理装置として機能する際に、必要に応じて、ユーザ端末1とサーバ装置2との間で、情報の送受信を実行する。なお、システムは、2以上のユーザ端末1を備えていてもよい。
【0011】
例えば、ユーザ端末1は、動作を行うユーザにより操作される。ユーザ端末1は、撮像装置を備えるコンピュータ装置であれば、特に限定されない。さらに、ユーザ端末1は、表示装置と撮像装置とを備えるコンピュータ装置であることが好ましい。ユーザ端末1としては、例えば、従来型の携帯電話、タブレット型端末、スマートフォン等などが挙げられる。
【0012】
図2は、本発明の実施の形態に係るユーザ端末の外観の一例を示す図である。ユーザ端末1は、表示画面4が備わる面に、カメラ5を備えている。また、スピーカ及びマイク6を備えていてもよい。ユーザ端末1に備わる表示装置は、長方形の表示画面4を有するともいえる。長方形の表示画面4としては、長方形の角が丸まった形、楕円形、長方形の一部が欠けている形等といった、略長方形の表示画面を含んでいてもよい。
【0013】
カメラ5は、撮像装置として機能する。ユーザ端末1の長手方向を上下方向としたときに、ユーザが、ユーザ端末1を操作する際の通常の向きにおけるユーザ端末1の上辺の近傍に、カメラ5が配置されている。長手方向の上側の一端の近傍にあるともいえる。つまり、撮像装置は、表示画面の長手方向のいずれか一端の近傍に配置される。また、カメラ5の左右方向の配置位置は特に限定されない。例えば、ユーザ端末1の中央付近に配置されてもよいし、右側又は左側の位置に配置されてもよい。
【0014】
また、カメラ5は、カメラ5により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面4にて撮像されたユーザを視認できるように、配置される。例えば、カメラ5と表示画面4が、ユーザ端末1の同じ面に備えられていてもよい。これにより、ユーザが、ユーザ端末1を持ちしながら、表示画面4を自分に向けると、自分を撮影しつつ、表示画面4に自分が表示される。
【0015】
カメラ5の視軸は、表示画面4に対して垂直となるように設けられていることが好ましい。カメラ5により、表示画面4に対して垂直方向の空間を撮像できる。カメラ5は、いわゆるユーザ端末1のインカメラやフロントカメラともいえる。なお、ユーザ端末1は、カメラ5だけでなく、ユーザ端末1の表示画面4が備わる面の裏面に他のカメラを備えられていてもよい。
【0016】
図3は、本発明の実施の形態にかかるユーザ端末のハードウェア構成を示すブロック図である。ユーザ端末1は、制御部11、RAM12、ストレージ部13、入力部14、表示部15及び通信インタフェース16を備え、それぞれ内部バスにより接続されている。
【0017】
制御部11は、CPUやROMから構成される。制御部11は、ストレージ部13に格納されたプログラムを実行し、ユーザ端末1の制御を行う。RAM12は、制御部11のワークエリアである。ストレージ部13は、プログラムやデータを保存するための記憶領域である。つまり、ストレージ部13は、プログラムを記憶した記録媒体として機能する。制御部11は、RAM12から読み出したプログラム及びデータ、並びに、入力部14、撮像部17、又は録音部18にて入力されたデータをもとに、演算処理を行う。
【0018】
表示部15は表示画面4を有している。制御部11は、演算処理の結果に応じて、表示画面4に画像を表示するためのビデオ信号を出力する。ここで、表示部15の表示画面4はタッチセンサを備えるタッチパネルであってもよい。この場合、タッチパネルが入力部14として機能する。また、ユーザ端末1は、カメラ等の撮像部17と、マイク、レコーダ等の録音部18と、スピーカ等の出音部19とを備えていてもよい。
【0019】
また、ユーザ端末1は、センサ部を有していてもよい。センサ部は、深度センサ、加速度センサ、ジャイロセンサ、GPSセンサ、指紋認証センサ、近接センサ、磁力センサ、輝度センサ、GPSセンサ、及び気圧センサからなる群より選択される少なくとも1以上のセンサを備えていてもよい。
【0020】
通信インタフェース16は無線又は有線により通信ネットワーク3に接続が可能であり、通信ネットワーク3を介して、他のコンピュータ装置とデータを送受信することが可能である。通信インタフェース16を介して受信したデータは、RAM12にロードされ、制御部11により演算処理が行われる。
【0021】
図3は、本発明の実施の形態にかかるサーバ装置のハードウェア構成を示すブロック図である。サーバ装置2は、制御部21、RAM22、ストレージ部23及び通信インタフェース24を少なくとも備え、それぞれ内部バスにより接続されている。
【0022】
制御部21は、CPUやROMから構成され、ストレージ部23に格納されたプログラムを実行し、サーバ装置2の制御を行う。また、制御部21は時間を計時する内部タイマを備えている。RAM22は、制御部21のワークエリアである。ストレージ部23は、プログラムやデータを保存するための記憶領域である。つまり、ストレージ部23は、プログラムを記憶した記録媒体として機能する。制御部21は、プログラム及びデータをRAM22から読み出し、ユーザ端末1のそれぞれから受信した情報等をもとに、プログラム実行処理を行う。
【0023】
また、サーバ装置2は、複数のコンピュータ装置に分散して機能するものであってもよい。例えば、サーバ装置2に代えて、ブロックチェーンなどの分散型台帳技術を利用してもよい。
【0024】
また、プログラムは、CD-ROMなどの記録媒体に記憶されていてもよい。この場合、記録媒体に記憶されたプログラムが、ユーザ端末1又はサーバ装置2にインストールされて、所定の機能を実行することとしてもよい。
【0025】
あるいは、プログラムは、システム外部のコンピュータ装置から配信されてもよい。この場合、システム外部のコンピュータ装置から配信されたプログラムが、ユーザ端末1又はサーバ装置2にインストールされて、所定の機能を実行することとしてもよい。
【0026】
[システムの概要]
本発明の実施の形態のシステムは、ユーザの動作の様子を取得し、ユーザの状態を評価する評価処理と、ユーザに対して動作を実行させる運動処理とを備えることができる。評価するユーザの状態とは、ユーザの健康状態やユーザの身体機能の状態であってもよい。ユーザの身体機能としては、例えば、ユーザの口腔機能、嚥下機能、発音機能、呼吸機能等があげられる。また、評価処理では、嚥下障害等の所定の病気にかかっているか、又はかかっている可能性について、評価してもよい。また、ユーザの口腔機能について、総合的に評価するものであってもよい。
【0027】
また、運動処理により、ユーザの健康状態やユーザの身体機能を維持又は向上させるものであってもよい。本発明のシステムは、健康状態の維持又は向上、顔の輪郭がはっきりする等といった美容目的、発声能力の向上、食べ物を飲み込む力の向上等を目的とするユーザに提供できる。
【0028】
[評価処理]
図4は、本発明の実施の形態に係る評価処理のフローチャートを示す図である。ユーザは、ユーザ端末1にダウンロードされたアプリケーションプログラム(以下、専用アプリという)を起動し、サーバ装置2にアクセスすることで、システムにログインする。システムへのログインは、ユーザ端末1からWebブラウザを経由してサーバ装置2にアクセスすることで行ってもよい。
【0029】
なお、ユーザが初めてシステムにログインする際には、ユーザは、ユーザ端末1を操作し、ユーザに関する情報等を入力することで、初期設定を行う。ユーザは、初期設定として、ユーザ名、パスワード、性別、生年月日、既往歴、職種、所属企業等の、ユーザに関するユーザ情報を入力する。また、ユーザ端末1のカメラ5が配置されている位置が、ユーザ端末1の上辺付近であるか、下辺付近であるかを入力してもよい。
【0030】
次に、入力したユーザ情報をサーバ装置2に送信することで、サーバ装置2にて、ユーザの登録がされる。登録されたユーザは、ユーザを識別するためのユーザ識別情報(以下、ユーザIDともいう)を付与されることが好ましい。ユーザIDはユーザ情報と関連付けて記憶されてもよい。また、システムにおいて、登録されたユーザ専用のページが作成される。
【0031】
システムにログインする際には、予め登録されているユーザIDとパスワードの入力が要求されてもよい。あるいは、システムにログインする際には、予め登録したメールアドレスとパスワードの入力が要求されてもよい。
【0032】
次に、ユーザは、ユーザ端末1において、評価処理の開始の入力をする(ステップS1)。入力された評価処理の開始に関する情報は、ユーザ端末1からサーバ装置2へ送信され、サーバ装置2に受信される。それにより、サーバ装置2にて、評価処理の開始を受け付ける(ステップS2)。
【0033】
次に、サーバ装置2からユーザ端末1に、ユーザ端末1の表示画面4の明るさを調整するための明るさ調整情報が送信される(ステップS3)。ユーザ端末1にて明るさ調整情報が受信される(ステップS4)。ユーザ端末1にて明るさ調整情報が受信されると、受信した明るさ調整情報にしたがって、表示画面4の明るさの調整処理が実行される(ステップS5)。
【0034】
調整処理では、例えば、表示装置の表示画面4の明るさを調整する、表示装置の表示画面4の明るさを調整することをユーザに求める明るさに関する指示情報を出力する、又は、表示装置の表示画面4の明るさを調整するための調整情報を出力することとしてもよい。表示装置の表示画面4の明るさは、最大の明るさに設定されることが好ましい。
【0035】
後述のステップS16において、取得した動画情報から、睡眠時無呼吸症候群を発見するための指標となるマランパチ分類のいずれの分類に属するかを評価するためには、ユーザの軟口蓋の画像を取得する必要がある。ユーザとカメラ5の距離が、所定の距離にあり、表示画面4の明るさを所定の明るさとすることで、ユーザの口腔内や喉の奥を判別可能に表示した画像を取得でき、ユーザの動作の評価に必要な画像を適切に取得できる。
【0036】
調整処理において、表示装置の表示画面4の明るさを調整する場合には、ユーザ端末1にて表示画面4が自動的に所定の明るさに調整されてもよい。所定の明るさは、予めサーバ装置2に登録されている。所定の明るさは、最大の明るさであることが好ましい。
【0037】
或いは、調整処理において、表示装置の表示画面4の明るさを調整することをユーザに求める明るさに関する指示情報を出力する場合には、明るさに関する指示情報として、テキスト情報、画像情報、及び/又は、音声情報を出力してもよい。ユーザは、明るさに関する指示情報にしたがって、明るさを調整することができる。
【0038】
或いは、調整処理において、表示装置の表示画面4の明るさを調整するための調整情報を出力する場合には、調整情報として、明るさの調整画面や明るさの調整バーを表示してもよい。ユーザは、調整情報にしたがって、明るさを調整することができる。
【0039】
なお、本実施の形態において、ステップS3~S5の処理は、評価処理の一連の動作について1回実行することとしたが、ユーザに求める動作ごとに実行することとしてもよい。つまり、ユーザに求める動作に応じて、表示画面4の明るさの調整処理を実行してもよい。例えば、後述のステップS7の処理後に、ステップS3~S5の処理が実行されるとしてもよい。
【0040】
明るさ調整情報が送信されると、サーバ装置2からユーザ端末1に、指示情報が送信される(ステップS6)。ユーザ端末1にて、指示情報が受信される(ステップS7)。
【0041】
ここで、指示情報とは、ユーザに求める動作に関する情報であり、ユーザに対して該動作を実施させるための指示に関する情報が含まれる。
【0042】
ユーザに求める動作とは、例えば、ユーザの状態を評価するのに必要な画像又は音声を取得するために、ユーザに実施させる動作のことをいう。ユーザに求める動作は、具体的には、口を大きく開ける動作、舌を出す動作、つばを飲み込んで喉を動かす動作、口を開けて所定の声を出す動作、所定の早口言葉を言う動作、ユーザ端末1を反転させてカメラ5の位置を移動させる動作、ユーザ端末1を傾けて撮影する動作、ユーザとカメラ5の距離を所定の距離で撮影を行う動作等であってもよい。取得する画像又は音声は、例えば、ユーザの身体の一部を動かした画像、所定の言葉を発した音声、所定の動きを実施しながら発した音声及びその動作中の画像等があげられる。なお、画像は、動画、及び静止画の両方を含む。
【0043】
ユーザに求める動作に関する情報としては、該動作に関するテキスト情報、該動作に関する画像情報、及び/又は、該動作に関する音声情報があげられる。テキスト情報、画像情報、又は、音声情報のいずれかであってもよいし、2以上を組み合わせたものであってもよい。
【0044】
後述のステップS16において、サーバ装置2にてユーザの状態を評価するために、画像の明るさや、撮像されるユーザの部位について、向き又は角度、画面内の位置、画面内に占める大きさ等が、均一な画像情報を取得する必要がある。或いは、内容や音量が、均一な音声情報を取得する必要がある。指示情報は、ユーザ端末1にて均一な画像情報及び/又は音声情報を取得するために用いられる。
【0045】
指示情報は、ユーザに求める動作ごとに、相互に関連付けてサーバ装置2に記憶されている。また、指示情報には、後述の評価メニューにおける動作の順番に関する情報や、1つ前の動作の情報が含まれていてもよい。1つ前の動作の情報としては、該動作に関する動作情報を、ユーザ端末1を反転させて取得するか否かに関する情報が含まれる。本実施の形態において、指示情報には、第1指示情報と、第2指示情報とが含まれる。それぞれの情報については、後述する。
【0046】
ユーザ端末1にて、指示情報が受信され(ステップS7)、ステップS5における表示画面4の明るさの調整が完了すると、ユーザ端末1にて、第1指示情報が出力される(ステップS8)。第1指示情報とは、ユーザの状態を評価するのに必要な画像又は音声を取得する前に、該画像又は音声を取得するために必要な準備をユーザに実施させるための指示情報である。なお、出力とは、テキスト情報、及び/又は、画像情報を表示画面4に表示するだけでなく、音声情報をユーザ端末1のスピーカから出力することも含まれる。
【0047】
ステップS7にて受信した指示情報の関連付けられた動作が、ユーザ端末1を反転させて動作情報を取得する動作である場合、第1指示情報が出力されると、第1指示情報が出力されてから所定の時間内にユーザ端末1が反転されたか否かを検知する(ステップS9)。つまり、センサにより、撮像装置が表示画面に対して表示画面の長手方向のいずれか一端のある側の反対側にくるように、コンピュータ装置の上下を反転させたことを検知する。ユーザ端末1が反転されたか否かは、センサ部のジャイロセンサ等によって検出できる。所定の時間としては、例えば、10秒以内としてもよい。
【0048】
所定の時間内にユーザ端末1が反転されなかった場合(ステップS9でNO)、ユーザ端末1を反転させることをユーザに促す警告情報が出力される(ステップS10)。警告情報には、ユーザにユーザ端末1の反転を促すものだけでなく、単にユーザにユーザ端末1が反転されていないこと知らせるものも含まれる。そして、再度、所定の時間内にユーザ端末1が反転されたか否かを検知する。
【0049】
一方、所定の時間内にユーザ端末1が反転された場合(ステップS9でYES)、第1指示情報の表示を反転させる(ステップS11)。つまり、ユーザ端末1の反転を検知した場合に、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することができる。ステップS11で出力される第1指示情報は、ステップS8で出力される第1指示情報と同じ内容の情報で、表示画面4に表示するレイアウトのみ異なるものであってもよい。ステップS11にて第1指示情報が出力された表示画面は、
図9に対応する。表示を反転させる処理(上下方向のレイアウトを切り替える処理ともいう)については、後述する。
【0050】
なお、所定の時間内にユーザ端末1が反転されたことを検出した場合、反転の検出と同時にステップS11の処理を実行してもよい。つまり、ユーザ端末1の向きと合わせて、第1指示情報を反転させてもよい。これにより、ユーザがスムーズにユーザ端末1の上下を反転させることができる。
【0051】
ステップS11にて第1指示情報が表示されると、ユーザ端末1において、ユーザの動作情報の取得が開始される(ステップS12)。取得するユーザの動作情報は、静止画、動画、又は、音声のいずれかであってもよいし、2以上が組み合わさったものであってもよい。ステップS12及び後述のステップS13は、撮像装置により空間を撮像する処理、若しくは、録音装置により音声を録音する処理、又は、表示画面の明るさの調整が完了した後に、撮像装置により空間を撮像する処理、若しくは録音装置により音声を録音する処理であるといえる。
【0052】
なお、ステップS12により取得が開始される動作情報は、サーバ装置2に送信される動作情報である。撮像装置による空間の撮像と表示画面4への出力は、ステップS7又はS8と同時に実行され、ステップS12により、動作情報の録画が開始されることとしてもよい。ユーザ端末1において、表示画面に表示された録画開始ボタン等が押下されることで、動作情報の録画、すなわち、動作情報の取得が開始されてもよい。
【0053】
ユーザの動作情報の取得が開始されると、第2指示情報が出力される。また、同時にユーザの動作情報が取得及び出力される(ステップS13)。第2指示情報とは、ユーザの状態を評価するのに必要な画像又は音声を取得中に、該画像又は音声を取得するために必要な動作をユーザに実施させるための指示情報である。ステップS13では、ユーザに求める動作に関する情報として第2指示情報を出力する。なお、動作によっては、第1指示情報と第2指示情報とが同じ情報であってもよい。
【0054】
なお、出力は、上記と同様の意味を有する。ユーザの動作情報の出力では、動作情報の取得と同時に表示画面4に取得した画像が表示されることが好ましい。また、ユーザの音声を取得する場合、ユーザの音声については出力されないこととしてもよい。
【0055】
ステップS13では、撮像により得られる画像、及び、ユーザに求める動作に関する情報である第2指示情報を表示装置の表示画面4に表示することができる。これにより、ユーザが求められる動作と自身の動きを同時に確認することができるので、ユーザは意図された動作を適切に実施することができる。そして、ユーザ端末1では、評価に必要な動作情報を取得できる。
【0056】
また、第2指示情報として、ユーザに求める動作に関するテキスト情報、及び、該動作に関する画像情報を表示することとしてもよい。画像情報は、上述のとおり、静止画や動画が含まれる。また、画像として、実施の動作をする人の写真画像を用いてもよいし、イラストを用いてもよい。
【0057】
第2指示情報として、人の顔についての動作に関する情報を表示する場合、さらに、ステップS13の撮像により得られる画像を表示する領域において、人の顔又は上半身の少なくとも一部に対応するガイドを表示することとしてもよい。ガイドとは、例えば、ユーザの動作を撮像する際に、ユーザに対する撮像装置の位置や角度が適切なものであるかを、ユーザが確認するために表示画面4上に表示される点、線又はこれらを組み合わせた図形である。
【0058】
ガイドの種類としては、例えば、実線、点線、マーカ、イラスト等があげられる。人の顔又は上半身の少なくとも一部としては、例えば、人の顔の輪郭、顎や鼻等の所定の部分等があげられる。表示画面4に人の顔又は上半身の少なくとも一部に対応するガイドを表示させることで、ユーザは、表示画面4上のどの位置に何が表示されるべきかを理解できる。また、ユーザが所定の位置に人の顔又は上半身の少なくとも一部が表示されることを確認しながら、ユーザ端末1において動作情報を取得することができる。
【0059】
ガイドは、撮像された画像の上に重畳して表示される。ガイドは、透けた態様で表示されてもよい。ガイドの透明度の調整は、ユーザにより行われてもよく、システムにより自動で行われてもよい。また、撮像により得られる画像、及び、人の顔又は上半身の少なくとも一部に対応するガイドを表示することとしてもよい。撮像により得られる画像は、人の顔又は上半身の少なくとも一部であってもよい。
【0060】
これにより、例えば、ガイドとして人の顔の輪郭が点線で表示されるとき、ユーザは、表示される自身の撮像画像を確認し、ガイドの点線の中に自分の顔が収まるように、ユーザ端末1と自分の位置を調整することができる。また、ユーザに求める動作に応じて、ガイドの種類、位置、大きさ、ガイドに対応する人の顔又は上半身の少なくとも一部等を変更することで、カメラ5とユーザとの距離や、カメラ5をユーザに対して向ける角度を指定することができる。ユーザは、表示されたガイドを参考に、ユーザ端末1と自分の顔等の位置を調整できる。また、表示画面4の明るさを利用して、明瞭な画像を取得することができる。
【0061】
また、ガイドは、ガイド中の色や種類を部分的に異ならせるものであってもよい。例えば、顔の輪郭を青色の点線で表示し、鼻の部分を赤色の実線で表示してもよい。なお、第1指示情報として、第2指示情報と同様のガイドを表示することとしてもよい。
【0062】
次に、ユーザ端末1の操作により、動作情報の取得を終了し、ユーザ端末1からサーバ装置2に撮像及び/又は録音により得られた動作情報が送信される(ステップS14)。サーバ装置2にて、動作情報が受信される(ステップS15)。なお、動作情報は、ユーザ端末1、及び/又は、サーバ装置2にて、記憶されてもよい。
【0063】
1の動作につき、ステップS6~S15の処理が実行される。そのため、評価メニューに含まれる全ての動作が全て完了するまで、ステップS6~S15の処理が繰り返し実行される。
【0064】
ここで、評価メニューとは、ユーザの状態を評価するために必要な動作が、所定の順番で記憶されたものである。評価メニューには、1以上の指示情報が関連付けて記憶されているともいえる。評価メニューごとに、評価できるユーザの状態や症状が異なり、評価対象に応じて、評価メニューに関連付けて記憶されている動作の種類や数が異なる。なお、ステップS1では、評価処理の開始の入力により、1の評価メニューが選択されてもよいし、複数の選択肢で表された評価対象から、任意の選択肢を選択することにより、選択した評価対象に応じた評価メニューについて評価処理の開始の入力をすることとしてもよい。
【0065】
なお、上記のステップS6~S15の処理は、1回目の動作がユーザ端末1を反転させて動作情報が取得される動作の場合、前後の動作で動作情報を取得する際のユーザ端末1の向きが異なる場合に適用できる。具体的には、ユーザ端末1を反転させずに動作情報が取得される動作の後に、ユーザ端末1を反転させて動作情報が取得される動作の場合、又は、ユーザ端末1を反転させて動作情報が取得される動作の後に、ユーザ端末1を反転させずに動作情報が取得される動作の場合があげられる。また、ステップS9~S10の処理を省略し、ステップS8の処理の後、ユーザ端末1への操作によりステップS11が実行されてもよいし、ステップS8~S10の処理を省略してもよい。
【0066】
一方、1回目の動作がユーザ端末1を反転させずに動作情報が取得される動作の場合、前後の動作で動作情報を取得する際のユーザ端末1の向きが同じ場合、ステップS9~S11の処理を省略することが好ましい。具体的には、ユーザ端末1を反転させずに動作情報が取得される動作の後に、ユーザ端末1を反転させずに動作情報が取得される動作の場合、又は、ユーザ端末1を反転させて動作情報が取得される動作の後に、ユーザ端末1を反転させて動作情報が取得される動作の場合があげられる。
【0067】
上述のとおり、ユーザに求める動作ごとにユーザに求める動作に関する情報である指示情報が関連付けて記憶されている。そのため、繰り返しの処理において、ユーザに求める動作が順次変わり、それに応じて、第1指示情報及び第2指示情報によって表示される動作に関するテキスト情報、該動作に関する画像情報、及び/又は、該動作に関する音声情報が変化する。
【0068】
全ての動作が完了すると、サーバ装置2にて、動作情報が評価される(ステップS16)。サーバ装置2からユーザ端末1に、ユーザの状態に関する評価情報が送信され(ステップS17)、ユーザ端末1にて、評価情報を受信する(ステップS18)。ユーザ端末1にて、評価情報が表示される(ステップS19)。ユーザは、評価情報を確認することで、自身の状態を把握することができる。
【0069】
また、評価情報がユーザ識別情報と関連付けてサーバ装置2にて記憶されることで、評価情報が登録される(ステップS20)。また、評価情報は、時刻情報と関連付けて記憶されてもよい。時刻情報は、ステップS2で評価処理の開始を受け付けたとき、ステップS6で指示情報を送信したとき、又は、ステップS16で動作情報の評価を実行したときのいずれでもよい。以上のS1~S20の処理を実行することにより、評価処理は終了する。
【0070】
ここで、第1指示情報又は第2指示情報が出力された、ユーザ端末1の表示画面について説明する。
図6及び
図7は、本発明の実施の形態に係る表示画面の一例を示す図である。
図6は、1の動作に関して、ステップS8において第1指示情報が出力された表示画面4aを示す。
図7は、該1の動作に関して、ステップS13において第2指示情報が出力された表示画面4bを示す。なお、
図6及び
図7の表示画面4は、ユーザ端末1を反転させずに動作情報を取得する動作に関するものであり、該動作において、ステップS9~S11の処理は省略される。また、ユーザが直立してユーザ端末1を構えたときの、ユーザ端末1の地面に対して垂直な方向(重力方向)における上下を矢印で示している。
図6及び
図7は、ユーザがユーザ端末1を構えたときに、カメラ5が上側にあることを示している。
【0071】
表示画面4aには、第1指示情報31aが表示されている。第1指示情報31aには、「以下の早口言葉を1回言ってください」というテキスト情報と早口言葉の内容が表示されている。第1指示情報31aの内容が音声として出力されてもよい。また、表示画面4aには、撮像した画像32a、及び、ガイド33aが表示されていてもよい。また、表示画面4aには、これから取得する動作情報が、評価処理においてユーザが実行する動作において、何番目の動作かを示す情報を表示してもよい。
図6では、「3」が表示されており、3番目の動作であることがわかる。
【0072】
ガイド33aとして、顔の輪郭を示す円形の点線と、鼻の位置を原点として直交する2本の点線と、顔の輪郭における顎の位置で接する1本の点線とが表示されている。ユーザは、ガイド33aを頼りに、カメラ5の位置を調整して、顔の輪郭を示す円形の点線内に、撮像された自分の顔を、表示画面4aに表示させることができる。
【0073】
また、戻るアイコン34を押下することにより、1つ前の動作の第1指示情報又は第2指示情報が表示された表示画面4を表示する。撮り直しアイコン35の押下により、取得した動作情報が破棄され、表示画面4a又は4bが表示される。そのため、表示画面4aにおいては、撮り直しアイコン35は押下できないこととしてもよい。開始・終了アイコン36の押下により、動作情報の取得(録画)が開始し、表示画面4bに遷移する。送信アイコン37の押下により、ステップS14の処理が実行され、取得した動作情報がサーバ装置2に送信される。そのため、表示画面4aにおいては、送信アイコン37は押下できないこととしてもよい。
【0074】
表示画面4bには、第2指示情報41a、撮像した画像32b、及び、ガイド33bが表示されている。第2指示情報41aには、早口言葉の内容のみが表示されている。また、ガイド33bは表示画面4aに表示されたガイド33aと同様のものである。開始・終了アイコン36の押下により、動作情報の取得(録画)が終了し、撮り直しアイコン35又は送信アイコン37の押下が可能となる。その他のアイコンの動作は表示画面4aと同様である。
【0075】
図8は、本発明の実施の形態に係る表示画面の概略図である。具体的には、ステップS13における表示画面の概略図であり、表示画面4bに、撮像されたユーザの画像32bが表示されている。図示するように、ユーザの画像32bに重畳して第2指示情報41aが表示されている。ユーザは、表示画面4bに表示された自身の顔の画像32bがガイド33bの顔に対応する楕円の点線内に入るように、ユーザ端末1を移動させることができる。また、動作に応じて、ガイドを異ならせることで、ユーザが、ユーザとカメラ5の距離が調整し、画像中におけるユーザの顔の占める範囲が適切な大きさの画像を取得することができる。これにより、ユーザが実施する動作について、評価に必要な適切な動作情報を取得することができる。
【0076】
次に、1の動作と異なる2の動作に関して、第1指示情報又は第2指示情報が出力された表示画面4について説明する。ここで、1の動作はユーザ端末1を反転させずに動作情報が取得される動作であり、2の動作はユーザ端末1を反転させて動作情報が取得される動作である。なお、ユーザ端末1を反転させて動作情報が取得される動作としては、例えば、軟口蓋に関する動作や喉の動きに関する動作等があげられる。以下では、喉の動きに関する動作の表示画面について説明する。
【0077】
図9及び
図10は、本発明の実施の形態に係る表示画面の一例を示す図である。
図9は、1の動作と異なる2の動作に関して、ステップS11において第1指示情報が出力された表示画面4cを示す。
図10は、該2の動作に関して、ステップS13において第2指示情報が出力された表示画面4dを示す。また、ユーザが直立してユーザ端末1を構えたときの、ユーザ端末1の地面に対して垂直な方向(重力方向)における上下を矢印で示している。
図9及び
図10は、ユーザがユーザ端末1を構えたときに、カメラ5が下側にあることを示している。
【0078】
なお、戻るアイコン34、撮り直しアイコン35、開始・終了アイコン36、及び送信アイコン37については、
図6及び
図7の説明において記載された内容を必要な範囲で参照できる。また、同様の説明は省略する場合がある。また、表示画面4cには、これから取得する動作情報が、評価処理においてユーザが実行する動作において、何番目の動作かを示す情報を表示してもよい。
図9では、「7」が表示されており、7番目の動作であることがわかる。
【0079】
表示画面4cには、テキスト情報である第1指示情報31b及び画像情報である第1指示情報31cが表示されている。第1指示情報31bのテキスト情報は、ユーザ端末1を反転させた状態でテキストが読めるように、第1指示情報31aのテキスト情報と比較して、反転して表示されている。また、第1指示情報31cの画像情報や各種アイコンも同様に、反転して表示されている。
【0080】
第1指示情報31bには、動作情報を適切に取得するための具体的な説明として、「端末の上下を反転させてください。そして、顔を斜め下からとるように構え(鼻の穴がしっかり見える角度)、首の中央(喉仏のあたり)をしっかり映してください。唇で舌を挟んだまま唾を3回飲み込んでください。」が表示されている。また、第1指示情報31cには、ユーザに対してユーザ端末1の上下を移動させて、どのように撮影するかを説明する画像が表示されている。第1指示内容31b及び31cの内容が音声として出力されてもよい。
【0081】
つまり、第1指示情報31b及び31cは、ユーザに求める動作に応じて、撮像装置が、表示画面に対して表示画面の長手方向のいずれか一端のある側の反対側にくるようにユーザに求める指示情報を出力することとしてもよい。該指示情報は、表示画面4の上端の近傍に配置された撮像装置が、ユーザがユーザ端末1を構えたときに、表示画面4の下端の近傍にくるように指示するものである。具体的には、該指示情報は、コンピュータ装置を反転することをユーザに求めるものであり、例えば、ユーザ端末1の表示画面4をユーザに向けたまま180度回転させる指示を、テキスト情報、画像情報、及び/又は、音声情報として出力できる。
【0082】
なお、1つ前の動作で実行されたステップS6~S15の処理において、ユーザに求められた動作として、すでに撮像装置が表示画面4の下端の近傍にくるようにしていた場合は、該指示情報として、撮像装置が表示画面4の下端の近傍にきたまま維持することを指示するものを含んでもよい。
【0083】
なお、ユーザに求める全ての動作において、撮像装置が、表示画面4に対して前記一端のある側の反対側にくるようにユーザに求める指示情報を出力することとしてもよい。この場合、例えば、ステップS6~S15の繰り返しの処理において、最初に出力される第1指示情報において、コンピュータ装置を反転することを求める情報を出力してもよい。2回目以降に出力される第1指示情報では、コンピュータ装置を反転したままに維持することを求める情報を出力してもよい。
【0084】
また、表示画面4cに表示されている第1指示情報31b及び31c、撮像した画像32c、ガイド33c、並びに各種アイコン34~37の配置が、表示画面4a及び4bの表示内容の配置と比較して、上下の向きが反転している。表示画面4のレイアウトを固定したまま、上下が切り替えられているともいえる。また、表示画面4cの中心座標を原点として、表示内容を180度回転させると、表示画面4a及び4bと同じ向きで表示される。
【0085】
つまり、ユーザに求める動作に応じて、表示画面4に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することを可能としてもよい。具体的には、表示画面4a及び4bに表示される第1指示情報及び第2指示情報には、ユーザに求める動作として早口言葉に関する情報が、且つ、表示画面4c及び4dに表示される第1指示情報及び第2指示情報には、ユーザに求める動作として喉の動きに関する情報が、それぞれ関連付けて記憶されている。また、早口言葉に関する情報の表示画面4のレイアウトは、一般の上下方向のレイアウトが記憶されており、喉の動きに関する情報の表示画面4のレイアウトは、上下方向を反転させたレイアウトが記憶されている。これにより、
図6と
図7及び
図9と
図10のような表示が可能となる。
【0086】
ユーザに求める動作と、表示する指示情報のレイアウトとは、関連付けてサーバ装置2に記憶されてもよい。表示画面4に表示する情報とは、第1指示情報、及び第2指示情報が含まれ、例えば、ユーザに求める動作についてのテキスト情報、画像情報、及び音声情報だけでなく、ガイドに関する情報も含まれる。
【0087】
なお、ユーザに求める動作と、カメラ5の位置と、指示情報の表示画面4のレイアウトとが関連付けて記憶されていてもよい。例えば、ユーザ情報において、カメラ5の位置をユーザ端末1の下辺近傍であると登録している場合、早口言葉に関する情報の表示画面4のレイアウトは、一般の上下方向を反転させたレイアウトが出力され、喉の動きに関する情報の表示画面4のレイアウトは、一般の上下方向のレイアウトが出力される。
【0088】
なお、ステップS6~S15の繰り返しの処理において、ユーザに求める全ての動作について、撮像装置が、表示画面に対して表示画面の長手方向のいずれか一端のある側の反対側にくるようにユーザに求める場合、ステップS6~S15の繰り返しの処理における表示画面4に表示する第1指示情報及び第2指示情報として、全ての上下方向を反転させたレイアウトが記憶されていることとしてもよい。
【0089】
表示画面4dには、テキスト情報である第2指示情報41b及び画像情報である第2指示情報41c、撮像した画像32d、及び、ガイド33dが表示されている。第2指示情報41cは、テキスト情報及び画像情報を含んでいる。ガイド33dは、顔の輪郭を青色の実線で、鼻の輪郭を赤色の太字の実線で表示している。また、表示画面4dに表示されている表示内容は、表示画面4cと同じ向きであり、表示画面4a及び4bと比較して、上下の向きが反転している。
【0090】
表示画面4c及び4dの表示内容が、表示画面4a及び4bと比較して、上下の向きが反転していることにより、ユーザは、ユーザ端末1を操作するために、ユーザ端末1の表示画面4を自分に向けたまま、180度回転させることとなる。そして、その状態で、カメラ5により、ユーザ自身を撮影することができる。
【0091】
ここで、撮像方法について、説明する。
図11は、本発明の実施の形態に係る撮像方法の概略図である。
図11(a)は、ユーザ端末1を反転させずに動作情報を取得する際に、ユーザが自身の口腔を撮影している場面を表している。一方、
図11(b)は、ユーザ端末1を反転させて動作情報を取得する際に、ユーザが自身の口腔を撮影している場面を表している。また、カメラ5の視軸を一点鎖線の矢印で示している。
【0092】
図示するように、カメラ5がユーザ端末1の上端の近傍に配置される場合と比較して、ユーザがユーザ端末1を構えたときに、カメラ5がユーザ端末1の下端の近傍にある場合、カメラ5の視軸が、ユーザの口腔に対してより仰角に設定することができる。このため、軟口蓋等を評価するために喉の奥まで撮影された口腔内の撮影が必要である動作の場合、カメラ5をユーザ端末1の下端の近傍に移動させて画像を取得することにより、口腔内の画像を鮮明に取得できる。これにより、ユーザの状態の評価を適切に実行することができる。
【0093】
なお、ユーザ端末1を反転させて動作情報を取得する動作として、軟口蓋に関する動作があげられる。軟口蓋は、硬口蓋という口の奥の湾曲した固い部分の後ろにある、粘膜に覆われた部分である。そのため、軟口蓋に関する動作を撮影する際は、ユーザ端末1を反転させて動作情報を取得することで、軟口蓋の画像を鮮明に取得できる。
【0094】
また、
図11(b)に示すように、ユーザの口唇とカメラ5の最短距離が、所定の範囲で撮影することで、表示画面全体の明るさにより、口腔内の画像を鮮明に取得できる。表示画面の光線を口に対して照射する観点から、所定の範囲は、15cm以内が好ましく、10cm以内がより好ましく、5cm以内がさらに好ましい。また、動作情報の焦点を合わせる観点から、所定の範囲は、2cm以上が好ましく、3cm以上がより好ましい。また、例えば、ユーザの口唇とカメラ5の最短距離が、ユーザの握りこぶし1つ分に対応する距離としてもよい。
【0095】
よって、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報が出力されてもよい。該指示情報は、ステップS8の第1指示情報として出力されてもよいし、ステップS8にて出力される第1指示情報の前又は後に出力されてもよい。ユーザの所定の部位としては、口唇、鼻、喉、歯等の人の顔又は上半身の少なくとも一部があげられる。具体的には、軟口蓋に関する動作の際の指示情報として、ユーザの口唇とカメラ5の最短距離が、所定の範囲で撮影することを求める旨の情報が出力されてもよい。
【0096】
さらに、本発明の一態様において、指示情報には、ユーザに求めるユーザの喉の動作に関する情報が含んでいてもよい。この場合、ステップS16において、喉の動きに関する動作情報から、嚥下障害であるか否かを評価することができる。なお、
図9及び
図10は、ユーザの喉の動作に関する動作情報を取得する際の表示画面である。
【0097】
このとき、ステップS8、S11及びS13の第1指示情報及び第2指示情報として、ユーザに求めるユーザの喉の動作に関する情報を出力することができる。喉の動作としては、例えば、つばを飲み込んで喉を動かす動作があげられる。また、ステップS8又はS11において、第1指示情報として、撮像装置であるカメラ5の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める撮影に関する指示情報を出力することとしてもよい。該指示情報は、テキスト情報、画像情報、及び/又は、音声情報として出力できる。また、該指示情報には、仰角からユーザの喉を撮影することだけでなく、カメラ5を表示画面5の下端の近傍にくるようにすることを指示する情報が含まれていてもよい。また、仰角からユーザの喉を撮影する際に、ユーザの顔又は顔の一部を喉と同時に撮影してもよい。
図9及び
図10に示すように、撮像により得られる画像、及び、人の顔又は上半身の少なくとも一部に対応するガイドを表示することとしてもよい。
【0098】
なお、ユーザの顔より下方とは、顎を下側、頭部を上側としたときの上下方向に対して、顔の最下部よりも下に位置することを意味する。また、「仰角から喉を撮影する」とは、ユーザ端末1のカメラ5の視軸が上向きとなる角度で、喉を撮影することである。具体的には、ユーザ端末1のカメラ5の視軸を起点に、0度より大きく90度未満であることが好ましい。
【0099】
ここで、喉に関する動作情報の撮像方法について、説明する。
図12は、本発明の実施の形態に係る撮像方法の概略図である。
図12において、仰角は、一点鎖線の矢印で示したカメラ5の視軸と、二点鎖線とがなす角αである。カメラ5の位置がユーザの顔より下方であり、且つ、仰角からユーザの顔及び喉を撮影することで、評価に必要なユーザの喉の画像を適切に取得することができる。
【0100】
ここで、ステップS16の動作情報の評価について、説明する。動作情報の評価は、動作情報が画像情報の場合、AIによる画像処理により実行できる。また、動作情報が音声情報の場合、AIによる音声処理により実行できる。
【0101】
評価方法は特に限定されないが、例えば、理想的な動作を示す画像等と、ユーザの動作情報との類似度を算出することで、評価を実行してもよい。類似度の算出法は、テンプレートマッチング、動的計画法、グラフマッチング等であってよい。また、動作情報における特徴抽出を行い、該抽出した特徴について、理想的な動作を示す画像等と、類似度を算出することとしてもよい。また、動作情報中の顔の輪郭や唇の輪郭を特定し、画像中の明度の変化から、顔や口の動きを特定して、評価を行うとしてもよい。
【0102】
また、ステップS6~S15の繰り返しの処理のいずれかにおいて、基準となる画像情報を取得することが好ましい。基準となる画像情報の取得を最初の繰り返しの処理で実行する場合、第1指示情報として、「表示されるガイドに顔を合わせてください」といったガイドの説明や、「撮影中はできるだけ顎を動かさないように」といった撮影の注意事項、「撮影は一つのタスクごとにおこないます」といったこれから実施する動作の説明が表示されてもよい。また、ステップS13において、第2指示情報の出力を省略してもよい。基準となる画像情報とは、他の動作情報の画像について画像処理を行う際に、明度やRGB値の比較の基準とする画像である。
【0103】
[運動処理]
次に、運動処理について説明する。運動処理は、ユーザに対して、所定の運動を実施させるための処理である。なお、所定の運動には、所定の動作も含まれる。
図13は、本発明の実施の形態に係る運動処理のフローチャートを示す図である。
【0104】
まず、ユーザは、ユーザ端末1を操作し、システムにログインする。システムへは、評価処理と同様の方法により、ログインできる。次に、ユーザは、ユーザ端末1を操作して、運動処理の開始の入力をする(ステップS21)。ステップS21では、複数の選択肢で表された運動メニューから、任意の選択肢を選択することにより、選択した運動メニューについて運動処理の開始の入力をすることとしてもよい。
【0105】
ここで、運動メニューとは、ユーザに求める運動を、所定の順番で記憶されたものである。運動メニューには、1以上の後述の第3指示情報が関連付けて記憶されているともいえる。運動メニューごとに、該運動により得られる効果が異なり、効果に応じて、関連付けて記憶されている運動の種類や数、完了までにかかる時間が異なる。また、運動メニューに含まれるユーザに求める運動は、1つの運動でもよいし、複数の運動であってもよい。
【0106】
入力された運動処理の開始に関する情報は、ユーザ端末1からサーバ装置2へ送信され、サーバ装置2に受信される。それにより、サーバ装置2にて、運動処理の開始の要求を受け付ける(ステップS22)。次に、サーバ装置2からユーザ端末1に、第3指示情報が送信される(ステップS23)。ユーザ端末1にて、第3指示情報が受信される(ステップS24)。
【0107】
ここで、第3指示情報とは、ユーザに求める運動に関する情報であり、ユーザに対して指示をするための情報が含まれる。ユーザに求める運動とは、ユーザの状態を維持、改善、及び向上するために、ユーザに実施させる動作のことをいう。ユーザに求めるユーザの動作は、評価処理と同様の動作であってもよいし、異なる動作であってもよい。
【0108】
ユーザに求める運動に関する情報としては、ユーザに実施させる動作に関するテキスト情報、該動作に関する画像情報、及び/又は、該動作に関する音声情報があげられる。テキスト情報、画像情報、又は、音声情報のいずれかであってもよいし、2以上を組み合わせたものであってもよい。
【0109】
第3指示情報は、動作ごとにサーバ装置2に記憶される。また、ユーザに求める運動に関する情報は、該運動の完了までにかかる時間に関する時間情報と関連付けて記憶されていてもよい。ユーザに求める運動に関する情報として、時間情報を出力してもよい。
【0110】
次に、ユーザ端末1にて第3指示情報が受信されると、1の運動に対応する第3指示情報が出力される(ステップS25)。なお、出力とは、上述の評価処理と同様の意味を有する。また、第3指示情報の出力と同時に、時間の経過が計測される。ステップS21にて選択された運動メニューに、1の運動と2の運動が含まれる場合は、1の運動に関連付けて記憶された所定の時間が経過したとき、又は、ユーザ端末1への操作により、2の運動に対応する第3指示情報が出力される。つまり、ステップS21にて選択された運動メニューに関連付けて記憶された全て運動が終わるまで、ステップS25の処理が繰り返し実行される。
【0111】
運動メニューに含まれる全ての運動について、第3指示情報の出力が完了すると、ユーザ端末1からサーバ装置2に全ての運動の第3指示情報の出力が完了した旨である完了情報が送信される(ステップS26)。サーバ装置2にて、完了情報が受信される(ステップS27)。
【0112】
サーバ装置2にて、完了情報がユーザの識別情報及び時刻情報と関連付けて記憶され、完了情報が登録される(ステップS28)。以上のステップS21~S28の処理を実行することにより、運動処理は終了する。
【0113】
なお、上述の実施の形態では、ユーザ端末1では第3指示情報の出力のみを実行したが、評価処理と同様に、ユーザ端末1の撮像装置により、ユーザの動作情報を取得し、第3指示情報及び得られた画像情報を、表示画面4に表示してもよい。この場合、第3指示情報には、ガイドに関する情報も含まれる。
【0114】
また、ユーザが1の運動の開始の入力前と入力後とで、異なる第3指示情報を出力してもよい。例えば、1の運動の開始の入力前には、該運動の動作の説明としてテキスト情報及び画像情報が表示され、1の運動の開始の入力後は、カウントダウンのタイマと該運動の動作の説明として画像情報が表示されてもよい。
【0115】
また、上述の実施の形態では、ユーザが、任意の運動メニューを選択する態様について説明したが、運動メニューは、ユーザ識別情報に関連付けて記憶された評価情報に応じて、変更されてもよい。例えば、所定の機能について評価が低いユーザに対して、該機能に関連する運動を多く含んだ運動メニューとしてもよいし、該機能に関連する運動の時間を基準の時間よりも増やした運動メニューとしてもよい。
【0116】
なお、本発明のシステムは、ヨガや筋トレといった運動や、言語学習等、自分の動作とお手本の動作を参考にしながら動作を実施する必要があるものについて、適用することができる。
【0117】
[実行管理]
本発明のシステムは、評価情報及び完了情報に関連付けて時刻情報が記憶されている。そのため、ユーザが評価処理及び運動処理を実行した日時を管理することができる。例えば、カレンダーに評価処理又は運動処理を実施した記録を表示することができる。具体的には、評価処理又は運動処理を実行した日がわかるような態様で表示することとしてもよい。また、実行した運動処理の運動メニューごとに、異なる態様で表示してもよい。異なる態様としては、例えば、異なる色や異なるアイコンを表示することとしてもよい。
【0118】
また、評価処理又は運動処理を所定の期間に所定の回数(例えば、評価処理は毎月4回実施する等)、実施することが推奨されているユーザの場合、評価処理又は運動処理を実施する予定の日には、ポップアップ通知がなされてもよい。また、所定の期間ごとに、実施目標の達成率を表示してもよい。また、実施した評価処理において評価された評価情報が、一覧で閲覧できるようにしてもよいし、直近の評価情報が表示されてもよい。
【0119】
ユーザは、評価処理により、ユーザの状態を把握することができる。ユーザの状態は、動作ごとに個別に評価されてもよいし、複数の動作から総合的に評価されてもよい。これにより、発見が難しい口腔機能の低下を早期に発見できる。また、評価処理により、ユーザの状態が、マランパチ分類のいずれの分類に属するかの評価が可能となる。そのため、睡眠時無呼吸症候群等の疾患の兆候を早期に発見することができる。また、ユーザは、運動処理により、ユーザの健康状態の維持、改善、及び向上を図ることができる。また、口腔機能の維持、改善、及び向上を図り、美容効果を奏することができる。
【0120】
本発明によれば、撮像装置が、表示画面に対して表示画面の長手方向のいずれか一端のある側の反対側にくるようにユーザに求める指示情報、及び/又は、撮像装置が、ユーザの所定の部位から所定の範囲となるようにユーザに求める指示情報を出力するため、ユーザの口腔内又は喉に関する画像といったユーザの動作情報を好適に取得することができる。
【0121】
本発明によれば、センサにより、撮像装置が表示画面に対して前記一端のある側の反対側にくるように、コンピュータ装置の上下を反転させたことを検知するため、ユーザの状態を評価するために必要な画像を取得できる位置に、ユーザが、撮像装置を移動させたことを検出できる。また、本発明によれば、反転を検知した場合に、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能なため、ユーザによる動作情報の取得が円滑に実行できる。
【0122】
本発明によれば、ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能であるため、動作に応じて、ユーザの状態を評価するために必要な画像情報を取得することができる。
【0123】
本発明によれば、表示装置の表示画面の明るさを調整する、表示装置の表示画面の明るさを調整することをユーザに求める指示情報を出力する、又は、表示装置の表示画面の明るさを調整するための調整情報を出力するため、ユーザの動作に関する画像情報を鮮明な状態で取得することができる。
【0124】
本発明によれば、撮像により得られる画像、及び、ユーザに求める動作に関する情報を表示装置の表示画面に表示するため、撮像された自分の動作と比較しながら、求められる動作を実施できる。また、本発明によれば、ユーザに求める動作に関する情報として、該動作に関するテキスト情報、及び、該動作に関する画像情報を表示するため、ユーザが求められる動作を適切に実施することができる。
【符号の説明】
【0125】
1:ユーザ端末 2:サーバ装置 3:通信ネットワーク
4:表示画面 5:カメラ 6:スピーカ及びマイク
11:制御部 12:RAM 13:ストレージ部
14:入力部 15:表示部 16:通信インタフェース 17:撮像部
18:録音部 19:出音部
21:制御部 22:RAM 23:ストレージ部 24:通信インタフェース
31:第1指示情報 32:画像 33:ガイド 34:戻るアイコン
35:撮り直しアイコン 36:開始・終了アイコン 37:送信アイコン
41:第2指示情報
【手続補正書】
【提出日】2023-05-09
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、
コンピュータ装置を、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報を出力する指示手段、
として機能させる、プログラム。
【請求項2】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、
コンピュータ装置を、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
撮像装置が、ユーザの所定の部位から所定の距離とすることをユーザに求める指示情報を出力する指示手段、
として機能させる、プログラム。
【請求項3】
コンピュータ装置を、
ユーザに求める動作に応じて、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、
として機能させる、請求項1又は2に記載のプログラム。
【請求項4】
コンピュータ装置がセンサを備え、
コンピュータ装置を、
センサにより、撮像装置が表示画面に対して前記一端のある側の反対側にくるように、コンピュータ装置の上下を反転させたことを検知する反転検知手段、
として機能させ、
表示手段が、反転検知手段による上下の反転を検知した場合に、表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示する、請求項3に記載のプログラム。
【請求項5】
情報出力手段が、ユーザに求めるユーザの喉の動作に関する情報を出力し、
コンピュータ装置を、
撮像装置の位置がユーザの顔より下方であり、且つ、仰角からユーザの喉を撮影することをユーザに求める指示情報を出力する第2指示手段、
として機能させる、請求項1に記載のプログラム。
【請求項6】
第2指示手段が、前記撮像により得られる画像、及び、人の顔又は上半身の少なくとも一部に対応するガイドを表示する、請求項5に記載のプログラム。
【請求項7】
コンピュータ装置を、
前記撮像により得られる画像を記憶する画像記憶手段、及び/又は、前記撮像により得られる画像を他のコンピュータ装置へ送信する画像送信手段
として機能させる、請求項1又は2に記載のプログラム。
【請求項8】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置であって、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報を出力する指示手段、
を備える、コンピュータ装置。
【請求項9】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置であって、
撮像装置により空間を撮像する撮像手段と、
ユーザに求める動作に関する情報を出力する情報出力手段と、
撮像装置が、ユーザの所定の部位から所定の距離とすることをユーザに求める指示情報を出力する指示手段、
を備える、コンピュータ装置。
【請求項10】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行される方法であって、
撮像装置により空間を撮像する撮像ステップと、
ユーザに求める動作に関する情報を出力する情報出力ステップと、
撮像装置が、表示画面に対して前記一端のある側の反対側にくるようにユーザに求める指示情報を出力する指示ステップ、
を有する、方法。
【請求項11】
長方形の表示画面を有する表示装置と、表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、撮像装置により撮像できる空間にユーザが存在する場合に、ユーザが表示装置による表示画面にて撮像されたユーザを視認できるように、撮像装置が配置されたコンピュータ装置において実行される方法であって、
撮像装置により空間を撮像する撮像ステップと、
ユーザに求める動作に関する情報を出力する情報出力ステップと、
撮像装置が、ユーザの所定の部位から所定の距離とすることをユーザに求める指示情報を出力する指示ステップ、
を有する、方法。
【手続補正書】
【提出日】2023-08-15
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
長方形の表示画面を有する表示装置と、前記表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、前記撮像装置により撮像できる空間にユーザが存在する場合に、前記ユーザが、前記撮像装置により撮像された前記ユーザを視認できるように前記表示画面を表示することが可能となるように、前記撮像装置が配置されたコンピュータ装置において実行されるプログラムであって、
前記コンピュータ装置を、
前記撮像装置により空間を撮像する撮像手段と、
前記ユーザに対して所定の動作を実施することを求める情報を出力する情報出力手段と、
前記撮像装置が、前記表示画面に対して前記一端のある側の反対側にくるように前記ユーザに求める指示情報を出力する指示手段、
として機能させる、プログラム。
【請求項2】
前記コンピュータ装置を、
前記ユーザに対して実施することを求める前記所定の動作に応じて、前記表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示することが可能な表示手段、
として機能させる、請求項1に記載のプログラム。
【請求項3】
前記コンピュータ装置がセンサを備え、
前記コンピュータ装置を、
前記センサにより、前記撮像装置が前記表示画面に対して前記一端のある側の反対側にくるように、前記コンピュータ装置の上下を反転させたことを検知する反転検知手段、
として機能させ、
前記表示手段が、前記反転検知手段による上下の反転を検知した場合に、前記表示画面に表示する情報のレイアウト及び文字、記号若しくは図柄の上下を切り替えて表示する、請求項2に記載のプログラム。
【請求項4】
前記情報出力手段が、前記ユーザに対して喉の動作を実施すること求める情報を出力し、
前記コンピュータ装置を、
前記撮像装置の位置が前記ユーザの顔より下方であり、且つ、仰角から前記ユーザの喉を撮影することを前記ユーザに求める指示情報を出力する第2指示手段、
として機能させる、請求項1に記載のプログラム。
【請求項5】
前記第2指示手段が、前記撮像により得られる画像、及び、人の顔又は上半身の少なくとも一部に対応するガイドを表示する、請求項4に記載のプログラム。
【請求項6】
前記コンピュータ装置を、
前記撮像により得られる画像を記憶する画像記憶手段、及び/又は、前記撮像により得られる画像を他のコンピュータ装置へ送信する画像送信手段
として機能させる、請求項1に記載のプログラム。
【請求項7】
長方形の表示画面を有する表示装置と、前記表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、前記撮像装置により撮像できる空間にユーザが存在する場合に、前記ユーザが、前記撮像装置により撮像された前記ユーザを視認できるように前記表示画面を表示することが可能となるように、前記撮像装置が配置されたコンピュータ装置であって、
前記撮像装置により空間を撮像する撮像手段と、
前記ユーザに対して所定の動作を実施することを求める情報を出力する情報出力手段と、
前記撮像装置が、前記表示画面に対して前記一端のある側の反対側にくるように前記ユーザに求める指示情報を出力する指示手段、
を備える、コンピュータ装置。
【請求項8】
長方形の表示画面を有する表示装置と、前記表示画面の長手方向のいずれか一端の近傍に配置された撮像装置とを備え、前記撮像装置により撮像できる空間にユーザが存在する場合に、前記ユーザが、前記撮像装置により撮像された前記ユーザを視認できるように前記表示画面を表示することが可能となるように、前記撮像装置が配置されたコンピュータ装置において実行される方法であって、
前記撮像装置により空間を撮像する撮像ステップと、
前記ユーザに対して所定の動作を実施することを求める情報を出力する情報出力ステップと、
前記撮像装置が、前記表示画面に対して前記一端のある側の反対側にくるように前記ユーザに求める指示情報を出力する指示ステップ、
を有する、方法。