IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ASTERの特許一覧

<>
  • 特許-業務支援システム、及び、携帯デバイス 図1
  • 特許-業務支援システム、及び、携帯デバイス 図2
  • 特許-業務支援システム、及び、携帯デバイス 図3A
  • 特許-業務支援システム、及び、携帯デバイス 図3B
  • 特許-業務支援システム、及び、携帯デバイス 図3C
  • 特許-業務支援システム、及び、携帯デバイス 図3D
  • 特許-業務支援システム、及び、携帯デバイス 図4A
  • 特許-業務支援システム、及び、携帯デバイス 図4B
  • 特許-業務支援システム、及び、携帯デバイス 図5
  • 特許-業務支援システム、及び、携帯デバイス 図6
  • 特許-業務支援システム、及び、携帯デバイス 図7A
  • 特許-業務支援システム、及び、携帯デバイス 図7B
  • 特許-業務支援システム、及び、携帯デバイス 図8
  • 特許-業務支援システム、及び、携帯デバイス 図9
  • 特許-業務支援システム、及び、携帯デバイス 図10
  • 特許-業務支援システム、及び、携帯デバイス 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2025-02-07
(45)【発行日】2025-02-18
(54)【発明の名称】業務支援システム、及び、携帯デバイス
(51)【国際特許分類】
   G06Q 10/06 20230101AFI20250210BHJP
【FI】
G06Q10/06
【請求項の数】 16
(21)【出願番号】P 2024563702
(86)(22)【出願日】2024-10-23
(86)【国際出願番号】 JP2024037823
【審査請求日】2024-10-25
【早期審査対象出願】
(73)【特許権者】
【識別番号】524394575
【氏名又は名称】株式会社ASTER
(74)【代理人】
【識別番号】100120031
【弁理士】
【氏名又は名称】宮嶋 学
(74)【代理人】
【識別番号】100120617
【弁理士】
【氏名又は名称】浅野 真理
(74)【代理人】
【識別番号】100137523
【弁理士】
【氏名又は名称】出口 智也
(72)【発明者】
【氏名】▲高▼野 友加里
【審査官】松野 広一
(56)【参考文献】
【文献】特開2021-189931(JP,A)
【文献】特開2005-267208(JP,A)
【文献】特開2022-112781(JP,A)
【文献】特開2018-061215(JP,A)
【文献】国際公開第2011/058707(WO,A1)
【文献】特開2009-159558(JP,A)
【文献】特開2023-036050(JP,A)
【文献】特開2024-156543(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00-99/00
(57)【特許請求の範囲】
【請求項1】
業務に従事する担当者の行動を監視して管理するとともに前記担当者による業務の遂行を支援する業務支援システムであって、
前記担当者に装着される携帯デバイスと、
前記携帯デバイスで撮影される画像が表示されるとともに前記携帯デバイスと通話可能な管理者端末と、
前記携帯デバイスで取得されるデータに基づいて担当者行動情報を構成して記憶し、前記携帯デバイスと前記管理者端末との間の通信を制御する業務支援サーバと、を備え、
前記携帯デバイスと前記管理者端末とが、前記業務支援サーバと通信回線を介して接続されており、
前記携帯デバイスは、ヘッドセット部と、バッテリユニット部と、前記ヘッドセット部と前記バッテリユニット部とを接続する通信電力ケーブルと、を含み、
前記ヘッドセット部は、
前記担当者の周囲を撮影して撮影画像を取得するカメラ部と、
前記担当者の周囲の音声が入力されることで、音声データである担当者周囲音声を生成するマイクロホン部と、
音声データに基づいて前記担当者に伝達する音声を発生するイヤホン部と、
前記マイクロホン部および前記イヤホン部の動作を制御して音声データを通信するために、前記担当者が操作するための音声通信制御操作部と、を含み、
前記バッテリユニット部は、
前記カメラ部により撮影される撮影画像を前記業務支援サーバに向けて前記通信回線を介して送出する撮影画像送出部と、
前記マイクロホン部により取得される前記担当者周囲音声を前記業務支援サーバに向けて前記通信回線を介して送出する担当者周囲音声送出部と、
前記担当者の操作入力を受け付けるとともに、映像を表示する操作入力兼映像表示部と、
前記業務支援サーバから送出されてくる音声データである、前記イヤホン部から発生するための担当者伝達音声を受け付ける担当者伝達音声受付部と、
前記業務支援サーバから送出されてくる画像データである、前記操作入力兼映像表示部に表示するための担当者伝達画像を受け付ける担当者伝達画像受付部と、
前記ヘッドセット部に前記通信電力ケーブルを介して前記ヘッドセット部が動作するための駆動電力を供給するとともに、前記バッテリユニット部が動作するための駆動電力を供給するバッテリ部と、
前記携帯デバイスの動作を制御する制御部と、を有し、
前記携帯デバイスと前記管理者端末とが、前記業務支援サーバ及び前記通信回線を介して、音声と映像とを双方向に伝送するように、前記制御部は、前記撮影画像送出、前記担当者周囲音声送出、前記担当者伝達音声受付、前記担当者伝達画像受付、前記マイクロホン部、前記イヤホン部、前記カメラ部、及び前記操作入力兼映像表示部を制御することで、前記管理者端末から送出された担当者伝達画像を前記操作入力兼映像表示部に表示させ且つ前記カメラ部により撮影した撮影画像を送出するとともに、前記管理者端末から送出された担当者伝達音声を前記イヤホン部から発生させ且つ前記マイクロホン部により取得した担当者周囲音声を送出するものであり、
前記管理者端末は、
前記業務支援サーバから送出されてくる、前記撮影画像が表示される画像表示画面を受け付ける表示画面受付部と、
受け付けた前記画像表示画面を表示する管理者端末表示部と、
前記業務支援サーバから送出されてくる前記担当者周囲音声を受け付ける出力音声受付部と、
受け付けた前記担当者周囲音声を発生する音声発生部と、
前記担当者伝達音声が入力される伝達音声入力部と、
入力された前記担当者伝達音声を前記業務支援サーバに向けて送出する伝達音声送出部と、
前記担当者行動情報を要求する行動情報提供要求を前記業務支援サーバに向けて送出する行動情報提供要求部と、
前記行動情報提供要求に応じて前記業務支援サーバから提供される前記担当者行動情報を受け付ける行動情報受付部と、
前記担当者伝達画像が入力され又は前記担当者伝達画像を構成する伝達画像入力部と、
入力され又は構成された前記担当者伝達画像を前記業務支援サーバに向けて送出する伝達画像送出部と、
を有するものであり、
前記業務支援サーバは、
前記撮影画像送出部から送出されてくる前記撮影画像を受け付ける撮影画像受付部と、
前記担当者周囲音声送出部から送出されてくる前記担当者周囲音声を受け付ける担当者周囲音声受付部と、
受け付けた前記撮影画像と前記担当者周囲音声が含まれる前記担当者行動情報を構成する行動情報構成部と、
構成された前記担当者行動情報を記憶する行動情報記憶部と、
前記撮影画像受付部で受け付けた前記撮影画像を加工して前記画像表示画面を構成する表示画面構成部と、
構成された前記画像表示画面を前記管理者端末に向けて提供する表示画面提供部と、
前記伝達音声送出部から送出されてくる前記担当者伝達音声を受け付ける伝達音声受付部と、
前記伝達画像送出部から送出されてくる前記担当者伝達画像を受け付ける伝達画像受付部と、
前記担当者周囲音声受付部で受け付けた前記担当者周囲音声を前記管理者端末に向けて送出し、前記伝達音声受付部で受け付けた前記担当者伝達音声を前記携帯デバイスに向けて送出するとともに、前記表示画面提供部が提供する前記撮影画像を含む画像表示画面を前記管理者端末に向けて送出し、前記伝達画像受付部で受け付けた前記担当者伝達画像を前記携帯デバイスに向けて送出することにより、前記携帯デバイスと前記管理者端末の間で音声と映像による通話を成立させる通話確立部と、
前記行動情報提供要求部から送出されてくる前記行動情報提供要求を受け付ける行動情報要求受付部と、
受け付けた前記行動情報提供要求に応じて前記行動情報記憶部から読み出した前記担当者行動情報を前記管理者端末に向けて提供する行動情報提供部とを有し、
前記行動情報受付部で前記担当者行動情報を受け付けると、受け付けた前記担当者行動情報が前記管理者端末表示部に表示されるものであり、
前記携帯デバイスは、
衛星測位システムからの電波を受信して位置情報を算出する位置情報検出部と、
算出した前記位置情報を前記業務支援サーバに向けて送出する位置情報送出部とを有し、
前記業務支援サーバは、
位置情報送出部から送出されてくる前記位置情報を受け付ける位置情報受付部と、
受け付けた前記位置情報の周辺の地図情報を要求する地図情報提供要求を送出する地図情報要求部と、
前記地図情報提供要求に応じて提供される前記地図情報を受け付ける地図情報受付部と、を有し、
前記行動情報構成部は、
前記位置情報受付部で受け付けた前記位置情報を、前記撮影画像受付部で受け付ける前記撮影画像と前記担当者周囲音声受付部で受け付ける前記担当者周囲音声とに紐づけるように前記担当者行動情報を構成し、
前記表示画面構成部は、
前記地図情報受付部で受け付けた前記地図情報の地図上に、前記位置情報受付部で受け付けた前記位置情報を前記携帯デバイスの位置として表示する位置情報画像を作成し、
前記撮影画像受付部で受け付けた前記撮影画像と前記位置情報画像とが同一画面に表示されるように前記画像表示画面を構成する
ことを特徴とする業務支援システム。
【請求項2】
前記担当者伝達画像は、前記担当者が前記業務を遂行するために必要な情報を含む映像を含む
ことを特徴とする請求項1に記載の業務支援システム。
【請求項3】
前記担当者伝達音声は、前記担当者が前記業務を遂行するために必要な情報を示す音声を含む
ことを特徴とする請求項2に記載の業務支援システム。
【請求項4】
前記業務を遂行するための教育及び/又は技術承継に関する、映像、写真、及び/又はメモの情報が、前記携帯デバイスの前記バッテリユニット部の携帯デバイス記憶部に記憶されている
ことを特徴とする請求項1に記載の業務支援システム。
【請求項5】
前記イヤホン部は、骨伝導型イヤホン、カナル型イヤホン、又は、インナーイヤー型イヤホンにより構成されていることを特徴とする請求項1に記載の業務支援システム。
【請求項6】
前記カメラ部、前記マイクロホン部及び前記イヤホン部がヘッドセットとして一体化されており、前記ヘッドセットが前記担当者の頭部に装着されるように構成される
ことを特徴とする請求項1に記載の業務支援システム。
【請求項7】
前記携帯デバイスは、カメラ停止モードを有し、
前記カメラ停止モードでは、
前記カメラ部の撮影と前記マイクロホン部の音声の取得が停止され、前記イヤホン部から前記カメラ停止モードであることを通知する通知音が発せられる
ことを特徴とする請求項1に記載の業務支援システム。
【請求項8】
前記携帯デバイスは、通話モードを有し、
前記通話モードでは、
前記携帯デバイスと前記管理者端末との間で通話可能となり、前記カメラ部で撮影される前記撮影画像が前記管理者端末表示部で強調表示される
ことを特徴とする請求項7に記載の業務支援システム。
【請求項9】
前記業務支援サーバは、
音声から文字を生成する音声文字生成部を有し、
前記音声文字生成部は、
前記担当者周囲音声受付部で受け付ける前記担当者周囲音声を周囲音声文字列として生成し、
前記行動情報構成部は、
前記音声文字生成部で生成された前記周囲音声文字列を、前記撮影画像受付部で受け付ける前記撮影画像と前記担当者周囲音声受付部で受け付ける前記担当者周囲音声とに紐づけるように前記担当者行動情報を構成する
ことを特徴とする請求項1に記載の業務支援システム。
【請求項10】
前記業務支援サーバは、
暴言を判定する暴言判定部を有し、
前記暴言判定部は、
前記音声文字生成部で生成される前記周囲音声文字列にあらかじめ登録されている暴言ワードが含まれているか否かを判定し、判定結果に基づいて暴言情報を生成し、
前記行動情報構成部は、
前記暴言判定部で生成された前記暴言情報を含むように前記担当者行動情報を構成する
ことを特徴とする請求項9に記載の業務支援システム。
【請求項11】
前記業務支援サーバは、
音声を分析して精神状態を推定する音声分析部を有し、
前記音声分析部は、
前記担当者周囲音声受付部で受け付ける前記担当者周囲音声と前記音声文字生成部で生成される前記周囲音声文字列とを分析して前記担当者の精神状態を推定し、推定される前記担当者の精神状態に基づいて担当者精神状態情報を生成し、
前記行動情報構成部は、
前記音声分析部で生成された前記担当者精神状態情報を含むように前記担当者行動情報を構成する
ことを特徴とする請求項10に記載の業務支援システム。
【請求項12】
前記業務支援サーバは、
前記撮影画像受付部で受け付ける前記撮影画像に写る被介護者の顔を認証して、前記被介護者の氏名を特定する顔認証部と、
前記撮影画像受付部で受け付ける前記撮影画像に写る前記被介護者の表情を分析して、喜怒哀楽の感情、元気度及び満足度の少なくとも何れか一つを推定し推定結果を数値化した推定表情値を算出する表情分析部と、
前記顔認証部で特定される前記被介護者の氏名と、前記表情分析部で求められる前記推定表情値とを含むように被介護者情報を構成する被介護者情報構成部と、
構成された前記被介護者情報を記憶する被介護者情報記憶部と、
前記管理者端末から送出されてくる前記被介護者情報を要求する被介護者情報提供要求を受け付ける被介護者情報提供要求受付部と、
受け付けた前記被介護者情報提供要求に応じて前記被介護者情報記憶部から読み出した前記被介護者情報を前記管理者端末に向けて提供する被介護者情報提供部と、を有し、
前記管理者端末は、
前記被介護者情報提供要求を前記業務支援サーバに向けて送出する被介護者情報提供要求部と、
前記被介護者情報提供要求に応じて前記業務支援サーバから提供される前記被介護者情報を受け付ける被介護者情報受付部と、を有し、
前記被介護者情報受付部で前記被介護者情報を受け付けると、受け付けた前記被介護者情報が前記管理者端末表示部に表示される
ことを特徴とする請求項11に記載の業務支援システム。
【請求項13】
前記業務支援サーバは、
前記撮影画像受付部で受け付ける前記撮影画像に前記被介護者が写っている対面時間を計測する対面時間計測部を有し、
前記被介護者情報構成部は、
前記対面時間計測部で計測される前記対面時間を含むように前記被介護者情報を構成する
ことを特徴とする請求項12に記載の業務支援システム。
【請求項14】
前記業務支援サーバは、
前記撮影画像と前記担当者周囲音声とに基づいて分析を実行する画像音声分析部を有し、
前記画像音声分析部は、
前記撮影画像受付部で受け付ける前記撮影画像から前記担当者の行動を推定し、前記担当者周囲音声受付部で受け付ける前記担当者周囲音声から前記担当者の発言を取り出して、前記担当者の行動と発言に基づいて前記担当者の業務評価を判定し、
前記行動情報構成部は、
前記画像音声分析部で判定された前記業務評価を含むように前記担当者行動情報を構成する
ことを特徴とする請求項11に記載の業務支援システム。
【請求項15】
前記業務支援サーバは、
前記撮影画像と前記担当者周囲音声とに基づいて分析を実行する画像音声分析部を有し、
前記画像音声分析部は、
前記撮影画像受付部で受け付ける前記撮影画像から前記担当者の行動を推定し、前記担当者周囲音声受付部で受け付ける前記担当者周囲音声から前記担当者の発言を取り出して、前記担当者の行動と発言に基づいて前記担当者の業務評価を判定し、
前記行動情報構成部は、
前記画像音声分析部で判定された前記業務評価を含むように前記担当者行動情報を構成するものであり、
前記画像音声分析部は、
前記担当者周囲音声受付部で受け付ける前記担当者周囲音声から被介護者に問いかける発言を取り出して、前記問いかける発言に対する前記被介護者の反応を前記撮影画像受付部で受け付ける前記撮影画像に写る前記被介護者の動作から推定し、前記被介護者の難聴又は認知症のリスクを判定し、
前記被介護者情報構成部は、
前記画像音声分析部で判定される前記被介護者の難聴又は認知症のリスクを含むように前記被介護者情報を構成する
ことを特徴とする請求項13に記載の業務支援システム。
【請求項16】
複数の前記携帯デバイスを有し、
前記業務支援サーバは、
前記管理者端末を操作する管理者の不在を判定する管理者不在判定部を有し、複数の前記携帯デバイスの中の一の前記携帯デバイスが通話モードに移行する際、前記管理者不在判定部が前記管理者の不在を判定すると、前記複数の前記携帯デバイスの間で通話可能となる
ことを特徴とする請求項15に記載の業務支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、業務に従事する担当者の行動を監視して管理するとともに当該担当者による業務の遂行を支援する業務支援システム、管理者端末、業務支援サーバ、及び、携帯デバイスに関するものである。
【背景技術】
【0002】
従来、作業者の行動を記録することが行われており、これまでに、特許文献1に記載されている行動記録システムが知られている。この行動記録システムは、作業者に装着される端末装置を有し、この端末装置に組み込まれている撮像部により周囲の状況が撮影され、撮影された画像が記録される構成になっている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2018-037951号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
近年、人材の不足から、経験の少ない担当者が単独で業務にあたる場面も増えており、そのような担当者に対して、リアルタイムで助言を与え業務の支援を実行することへの要望が高まっている。しかしながら、特許文献1に記載の行動記録システムには、担当者の業務を支援する機能が備わっていなかった。
【0005】
本発明はこのような事情に鑑みてなされたものであり、この発明の目的は、担当者の行動を記録するとともに当該担当者に対し業務支援を実行することができる業務支援システムを提供することである。
そして、当該業務支援システムは、当該業務を遂行するための教育、当該業務を遂行するために必要なナレッジ(情報)の確保及び記録、当該業務を遂行する担当者の保護及びエビデンス確保、当該業務のガバナンスの向上のために用いることができるものである。
【課題を解決するための手段】
【0006】
本発明の一態様に係る実施形態に従った業務支援システムは、
業務に従事する担当者の行動を監視して管理するとともに前記担当者による業務の遂行を支援する業務支援システムであって、
前記担当者に装着される携帯デバイスと、
前記携帯デバイスで撮影される画像が表示されるとともに前記携帯デバイスと通話可能な管理者端末と、
前記携帯デバイスで取得されるデータに基づいて担当者行動情報を構成して記憶し、前記携帯デバイスと前記管理者端末との間の通信を制御する業務支援サーバと、を備え、
前記携帯デバイスと前記管理者端末とが、前記業務支援サーバと通信回線を介して接続されており、
前記携帯デバイスは、ヘッドセット部と、バッテリユニット部と、前記ヘッドセット部と前記バッテリユニット部とを接続する通信電力ケーブルと、を含み、
前記ヘッドセット部は、
前記担当者の周囲を撮影して撮影画像を取得するカメラ部と、
前記担当者の周囲の音声が入力されることで、音声データである担当者周囲音声を生成するマイクロホン部と、
音声データに基づいて前記担当者に伝達する音声を発生するイヤホン部と、
前記マイクロホン部および前記イヤホン部の動作を制御して音声データを通信するために、前記担当者が操作するための音声通信制御操作部と、を含み、
前記バッテリユニット部は、
前記カメラ部により撮影される撮影画像を前記業務支援サーバに向けて前記通信回線を介して送出する撮影画像送出部と、
前記マイクロホン部により取得される前記担当者周囲音声を前記業務支援サーバに向けて前記通信回線を介して送出する担当者周囲音声送出部と、
前記担当者の操作入力を受け付けるとともに、映像を表示する操作入力兼映像表示部と、
前記業務支援サーバから送出されてくる音声データである、前記イヤホン部から発生するための担当者伝達音声を受け付ける担当者伝達音声受付部と、
前記業務支援サーバから送出されてくる画像データである、前記操作入力兼映像表示部に表示するための担当者伝達画像を受け付ける担当者伝達画像受付部と、
前記ヘッドセット部に前記通信電力ケーブルを介して前記ヘッドセット部が動作するための駆動電力を供給するとともに、前記バッテリユニット部が動作するための駆動電力を供給するバッテリ部と、
前記携帯デバイスの動作を制御する制御部と、を有し、
前記携帯デバイスと前記管理者端末とが、前記業務支援サーバ及び前記通信回線を介して、音声と映像とを双方向に伝送するように、前記制御部は、前記撮影画像送出部と、前記担当者周囲音声送出部と、前記担当者伝達音声受付部と、前記担当者伝達画像受付部と、前記マイクロホン部、前記イヤホン部、前記カメラ部、及び前記操作入力兼映像表示部を制御することで、前記管理者端末から送出された担当者伝達画像を前記操作入力兼映像表示部に表示させ且つ前記カメラ部により撮影した撮影画像を送出するとともに、前記管理者端末から送出された担当者伝達音声を前記イヤホン部から発生させ且つ前記マイクロホン部により取得した担当者周囲音声を送出する
ことを特徴とする。
【0007】
前記業務支援システムにおいて、
前記担当者伝達画像は、前記担当者が前記業務を遂行するために必要な情報を含む映像を含む
ことを特徴とする。
【0008】
前記業務支援システムにおいて、
前記担当者伝達音声は、前記担当者が前記業務を遂行するために必要な情報を示す音声を含む
ことを特徴とする。
【0009】
前記業務支援システムにおいて、
前記業務を遂行するための教育及び/又は技術承継に関する、映像、写真、及び/又はメモの情報が、前記携帯デバイスの前記バッテリユニット部の前記携帯デバイス記憶部に記憶されている
ことを特徴とする。
【0010】
前記業務支援システムにおいて、
前記管理者端末は、
前記業務支援サーバから送出されてくる、前記撮影画像が表示される画像表示画面を受け付ける表示画面受付部と、
受け付けた前記画像表示画面を表示する管理者端末表示部と、
前記業務支援サーバから送出されてくる前記担当者周囲音声を受け付ける出力音声受付部と、
受け付けた前記担当者周囲音声を発生する音声発生部と、
前記担当者伝達音声が入力される伝達音声入力部と、
入力された前記担当者伝達音声を前記業務支援サーバに向けて送出する伝達音声送出部と、
前記担当者行動情報を要求する行動情報提供要求を前記業務支援サーバに向けて送出する行動情報提供要求部と、
前記行動情報提供要求に応じて前記業務支援サーバから提供される前記担当者行動情報を受け付ける行動情報受付部と、
前記担当者伝達画像が入力され又は前記担当者伝達画像を構成する伝達画像入力部と、
入力され又は構成された前記担当者伝達画像を前記業務支援サーバに向けて送出する伝達画像送出部と、
を有する
ことを特徴とする。
【0011】
前記業務支援システムにおいて、
前記業務支援サーバは、
前記撮影画像送出部から送出されてくる前記撮影画像を受け付ける撮影画像受付部と、
前記担当者周囲音声送出部から送出されてくる前記担当者周囲音声を受け付ける担当者周囲音声受付部と、
受け付けた前記撮影画像と前記担当者周囲音声が含まれる前記担当者行動情報を構成する行動情報構成部と、
構成された前記担当者行動情報を記憶する行動情報記憶部と、
前記撮影画像受付部で受け付けた前記撮影画像を加工して前記画像表示画面を構成する表示画面構成部と、
構成された前記画像表示画面を前記管理者端末に向けて提供する表示画面提供部と、
前記伝達音声送出部から送出されてくる前記担当者伝達音声を受け付ける伝達音声受付部と、
前記伝達画像送出部Kから送出されてくる前記担当者伝達画像を受け付ける伝達画像受付部と、
前記担当者周囲音声受付部で受け付けた前記担当者周囲音声を前記管理者端末に向けて送出し、前記伝達音声受付部で受け付けた前記担当者伝達音声を前記携帯デバイスに向けて送出するとともに、前記表示画面提供部が提供する前記撮影画像を含む画像表示画面を前記管理者端末に向けて送出し、前記伝達画像受付部で受け付けた前記担当者伝達画像を前記携帯デバイスに向けて送出することにより、前記携帯デバイスと前記管理者端末の間で音声と映像による通話を成立させる通話確立部と、
前記行動情報提供要求部から送出されてくる前記行動情報提供要求を受け付ける行動情報要求受付部と、
受け付けた前記行動情報提供要求に応じて前記行動情報記憶部から読み出した前記担当者行動情報を前記管理者端末に向けて提供する行動情報提供部と、を有し、
前記行動情報受付部で前記担当者行動情報を受け付けると、受け付けた前記担当者行動情報が前記管理者端末表示部に表示される
ことを特徴とする。
【0012】
前記業務支援システムにおいて、
前記イヤホン部は、骨伝導型イヤホン、カナル型イヤホン、又は、インナーイヤー型イヤホンにより構成されていることを特徴とする。
【0013】
前記業務支援システムにおいて、
前記カメラ部、前記マイクロホン部及び前記イヤホン部がヘッドセットとして一体化されており、前記ヘッドセットが前記担当者の頭部に装着されるように構成される
ことを特徴とする。
【0014】
前記業務支援システムにおいて、
前記携帯デバイスは、カメラ停止モードを有し、
前記カメラ停止モードでは、
前記カメラ部の撮影と前記マイクロホン部の音声の取得が停止され、前記イヤホン部から前記カメラ停止モードであることを通知する通知音が発せられる
ことを特徴とする。
【0015】
前記業務支援システムにおいて、
前記携帯デバイスは、通話モードを有し、
前記通話モードでは、
前記携帯デバイスと前記管理者端末との間で通話可能となり、前記カメラ部で撮影される前記撮影画像が前記管理者端末表示部で強調表示される
ことを特徴とする。
【0016】
前記業務支援システムにおいて、
前記携帯デバイスは、
衛星測位システムからの電波を受信して位置情報を算出する位置情報検出部と、
算出した前記位置情報を前記業務支援サーバに向けて送出する位置情報送出部とを有し、
前記業務支援サーバは、
位置情報送出部から送出されてくる前記位置情報を受け付ける位置情報受付部と、
受け付けた前記位置情報の周辺の地図情報を要求する地図情報提供要求を送出する地図情報要求部と、
前記地図情報提供要求に応じて提供される前記地図情報を受け付ける地図情報受付部と、を有し、
前記行動情報構成部は、
前記位置情報受付部で受け付けた前記位置情報を、前記撮影画像受付部で受け付ける前記撮影画像と前記担当者周囲音声受付部で受け付ける前記担当者周囲音声とに紐づけるように前記担当者行動情報を構成し、
前記表示画面構成部は、
前記地図情報受付部で受け付けた前記地図情報の地図上に、前記位置情報受付部で受け付けた前記位置情報を前記携帯デバイスの位置として表示する位置情報画像を作成し、
前記撮影画像受付部で受け付けた前記撮影画像と前記位置情報画像とが同一画面に表示されるように前記画像表示画面を構成する
ことを特徴とする。
【0017】
前記業務支援システムにおいて、
前記業務支援サーバは、
音声から文字を生成する音声文字生成部を有し、
前記音声文字生成部は、
前記担当者周囲音声受付部で受け付ける前記担当者周囲音声を周囲音声文字列として生成し、
前記行動情報構成部は、
前記音声文字生成部で生成された前記周囲音声文字列を、前記撮影画像受付部で受け付ける前記撮影画像と前記担当者周囲音声受付部で受け付ける前記担当者周囲音声とに紐づけるように前記担当者行動情報を構成する
ことを特徴とする。
【0018】
前記業務支援システムにおいて、
前記業務支援サーバは、
暴言を判定する暴言判定部を有し、
前記暴言判定部は、
前記音声文字生成部で生成される前記周囲音声文字列にあらかじめ登録されている暴言ワードが含まれているか否かを判定し、判定結果に基づいて暴言情報を生成し、
前記行動情報構成部は、
前記暴言判定部で生成された前記暴言情報を含むように前記担当者行動情報を構成する
ことを特徴とする。
【0019】
前記業務支援システムにおいて、
前記業務支援サーバは、
音声を分析して精神状態を推定する音声分析部を有し、
前記音声分析部は、
前記担当者周囲音声受付部で受け付ける前記担当者周囲音声と前記音声文字生成部で生成される前記周囲音声文字列とを分析して前記担当者の精神状態を推定し、推定される前記担当者の精神状態に基づいて担当者精神状態情報を生成し、
前記行動情報構成部は、
前記音声分析部で生成された前記担当者精神状態情報を含むように前記担当者行動情報を構成する
ことを特徴とする。
【0020】
前記業務支援システムにおいて、
前記業務支援サーバは、
前記撮影画像受付部で受け付ける前記撮影画像に写る被介護者の顔を認証して、前記被介護者の氏名を特定する顔認証部と、
前記撮影画像受付部で受け付ける前記撮影画像に写る前記被介護者の表情を分析して、喜怒哀楽の感情、元気度及び満足度の少なくとも何れか一つを推定し推定結果を数値化した推定表情値を算出する表情分析部と、
前記顔認証部で特定される前記被介護者の氏名と、前記表情分析部で求められる前記推定表情値とを含むように被介護者情報を構成する被介護者情報構成部と、
構成された前記被介護者情報を記憶する被介護者情報記憶部と、
前記管理者端末から送出されてくる前記被介護者情報を要求する被介護者情報提供要求を受け付ける被介護者情報提供要求受付部と、
受け付けた前記被介護者情報提供要求に応じて前記被介護者情報記憶部から読み出した前記被介護者情報を前記管理者端末に向けて提供する被介護者情報提供部と、を有し、
前記管理者端末は、
前記被介護者情報提供要求を前記業務支援サーバに向けて送出する被介護者情報提供要求部と、
前記被介護者情報提供要求に応じて前記業務支援サーバから提供される前記被介護者情報を受け付ける被介護者情報受付部と、を有し、
前記被介護者情報受付部で前記被介護者情報を受け付けると、受け付けた前記被介護者情報が前記管理者端末表示部に表示される
ことを特徴とする。
【0021】
前記業務支援システムにおいて、
前記業務支援サーバは、
前記撮影画像受付部で受け付ける前記撮影画像に前記被介護者が写っている対面時間を計測する対面時間計測部を有し、
前記被介護者情報構成部は、
前記対面時間計測部で計測される前記対面時間を含むように前記被介護者情報を構成する
ことを特徴とする。
【0022】
前記業務支援システムにおいて、
前記業務支援サーバは、
前記撮影画像と前記担当者周囲音声とに基づいて分析を実行する画像音声分析部を有し、
前記画像音声分析部は、
前記撮影画像受付部で受け付ける前記撮影画像から前記担当者の行動を推定し、前記担当者周囲音声受付部で受け付ける前記担当者周囲音声から前記担当者の発言を取り出して、前記担当者の行動と発言に基づいて前記担当者の業務評価を判定し、
前記行動情報構成部は、
前記画像音声分析部で判定された前記業務評価を含むように前記担当者行動情報を構成する
ことを特徴とする。
【0023】
前記業務支援システムにおいて、
前記業務支援サーバは、
前記撮影画像と前記担当者周囲音声とに基づいて分析を実行する画像音声分析部を有し、
前記画像音声分析部は、
前記撮影画像受付部で受け付ける前記撮影画像から前記担当者の行動を推定し、前記担当者周囲音声受付部で受け付ける前記担当者周囲音声から前記担当者の発言を取り出して、前記担当者の行動と発言に基づいて前記担当者の業務評価を判定し、
前記行動情報構成部は、
前記画像音声分析部で判定された前記業務評価を含むように前記担当者行動情報を構成するものであり、
前記画像音声分析部は、
前記担当者周囲音声受付部で受け付ける前記担当者周囲音声から被介護者に問いかける発言を取り出して、前記問いかける発言に対する前記被介護者の反応を前記撮影画像受付部で受け付ける前記撮影画像に写る前記被介護者の動作から推定し、前記被介護者の難聴又は認知症のリスクを判定し、
前記被介護者情報構成部は、
前記画像音声分析部で判定される前記被介護者の難聴又は認知症のリスクを含むように前記被介護者情報を構成する
ことを特徴とする。
【0024】
前記業務支援システムにおいて、
複数の前記携帯デバイスを有し、
前記業務支援サーバは、
前記管理者端末を操作する前記管理者の不在を判定する管理者不在判定部を有し、複数の前記携帯デバイスの中の一の前記携帯デバイスが前記通話モードに移行する際、前記管理者不在判定部が前記管理者の不在を判定すると、前記複数の前記携帯デバイスの間で通話可能となる
ことを特徴とする。
【0025】
業務に従事する担当者の行動を監視して管理するとともに前記担当者による業務の遂行を支援する業務支援システムに適用され、前記担当者に装着される携帯デバイスであって、
前記業務支援システムは、前記携帯デバイスで撮影される画像が表示されるとともに前記携帯デバイスと通話可能な管理者端末と、前記携帯デバイスで取得されるデータに基づいて担当者行動情報を構成して記憶し、前記携帯デバイスと前記管理者端末との間の通信を制御する業務支援サーバと、を備え、
前記携帯デバイスは、
前記携帯デバイスと前記管理者端末とが、前記業務支援サーバと通信回線を介して接続されており、
前記携帯デバイスは、ヘッドセット部と、バッテリユニット部と、前記ヘッドセット部と前記バッテリユニット部とを接続する通信電力ケーブルと、を含み、
前記ヘッドセット部は、
前記担当者の周囲を撮影して撮影画像を取得するカメラ部と、
前記担当者の周囲の音声が入力されることで、音声データである担当者周囲音声を生成するマイクロホン部と、
音声データに基づいて前記担当者に伝達する音声を発生するイヤホン部と、
前記マイクロホン部および前記イヤホン部の動作を制御して音声データを通信するために、前記担当者が操作するための音声通信制御操作部と、を含み、
前記バッテリユニット部は、
前記カメラ部により撮影される撮影画像を前記業務支援サーバに向けて前記通信回線を介して送出する撮影画像送出部と、
前記マイクロホン部により取得される前記担当者周囲音声を前記業務支援サーバに向けて前記通信回線を介して送出する担当者周囲音声送出部と、
前記担当者の操作入力を受け付けるとともに、映像を表示する操作入力兼映像表示部と、
前記業務支援サーバから送出されてくる音声データである、前記イヤホン部から発生するための担当者伝達音声を受け付ける担当者伝達音声受付部と、
前記業務支援サーバから送出されてくる画像データである、前記操作入力兼映像表示部に表示するための担当者伝達画像を受け付ける担当者伝達画像受付部と、
前記ヘッドセット部に前記通信電力ケーブルを介して前記ヘッドセット部が動作するための駆動電力を供給するとともに、前記バッテリユニット部が動作するための駆動電力を供給するバッテリ部と、
前記携帯デバイスの動作を制御する制御部と、を有し、
前記携帯デバイスと前記管理者端末とが、前記業務支援サーバ及び前記通信回線を介して、音声と映像とを双方向に伝送するように、前記制御部は、前記撮影画像送出部と、前記担当者周囲音声送出部と、前記担当者伝達音声受付部と、前記担当者伝達画像受付部と、前記マイクロホン部、前記イヤホン部、前記カメラ部、及び前記操作入力兼映像表示部を制御することで、前記管理者端末から送出された担当者伝達画像を前記操作入力兼映像表示部に表示させ且つ前記カメラ部により撮影した撮影画像を送出するとともに、前記管理者端末から送出された担当者伝達音声を前記イヤホン部から発生させ且つ前記マイクロホン部により取得した担当者周囲音声を送出する
ことを特徴とする携帯デバイス。
【図面の簡単な説明】
【0026】
図1図1は、実施形態に係る業務支援システムの構成の一例を示す図である。
図2図2は、図1に示す業務支援システムを構成する携帯デバイスの機能ブロックの一例を示す図である。
図3A図3Aは、正面右斜め方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。
図3B図3Bは、正面左斜め方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。
図3C図3Cは、横方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。
図3D図3Dは、上方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。
図4A図4Aは、右斜め方向から見た実施形態に係る携帯デバイスのバッテリユニット部の3次元の外観の一例を示す図である。
図4B図4Bは、左斜め方向から見た実施形態に係る携帯デバイスのバッテリユニット部の3次元の外観の一例を示す図である。
図5図5は、図1に示す業務支援システムを構成する管理者端末の機能ブロックの一例を示す図である。
図6図6は、図1に示す業務支援システムを構成する業務支援サーバの機能ブロックの一例を示す図である。
図7A図7Aは、実施形態に係る担当者行動情報の構成の一例を示す図である。
図7B図7Bは、実施形態に係る担当者行動情報に含まれる担当者精神状態情報の表示の一例を示す図である。
図8図8は、実施形態に係る管理者端末に表示される画像表示画面の構成の一例を示す概略図である。
図9図9は、実施形態に係る被介護者情報の構成の例を示す図である。
図10図10は、実施形態において、担当者の業務中に行われる業務支援システムの動作のフローの一例を説明する図である。
図11図11は、実施形態に係る業務支援システムにおいて、構成された担当者行動情報に基づいて分析が行われるフローの一例を説明する図である。
【発明を実施するための形態】
【0027】
[実施形態]
この発明の実施形態について、図1ないし図11を用いて説明する。なお、以下の実施形態においては、あくまで一例として、業務支援システムが適用される業務として介護事業を例に挙げて説明する。しかしながら、本発明に係る業務支援システムが適用される業務として介護事業に限られるものでは無い。すなわち、本発明に係る業務支援システムは、例えば、建設事業、保育・教育事業、警備事業、整備事業、警察、救急や消防等の行政事業、商社事業、製造事業、及び、医療事業等の他の業務についても、適用が可能である。
【0028】
[業務支援システムの構成]
図1は、実施形態に係る業務支援システムの構成の一例を示す図である。なお、既述のように、この実施形態では、業務として介護事業を例に挙げて説明する。介護の形態として、施設内での介護及び訪問介護のいずれも含まれる。また、介護業務に従事する介護者(作業者)を担当者と呼ぶものとする。
【0029】
この業務支援システム1は、担当者に装着される携帯デバイス6、6、・・・、6nと、携帯デバイス6、6、・・・、6で撮影される画像が表示されるとともに携帯デバイス6、6、・・・、6nと通話可能な管理者端末8と、携帯デバイス6、6、・・・、6nで取得されるデータに基づいて後述する担当者行動情報200を構成して記憶し、携帯デバイス6、6、・・・、6nと管理者端末8との間の通信(情報の流れ)を制御する業務支援サーバ2と、地図情報を提供する地図情報提供サーバ10とを含むように構成される。
これら携帯デバイス6、6、・・・、6n、管理者端末8、業務支援サーバ2及び地図情報提供サーバ10は、通信回線11を介して接続され、それぞれ情報の送受信が可能になっている。
この通信回線11には、インターネット等が用いられる。
この業務支援システム1は、業務に従事する担当者の行動を記録するとともに担当者に対し業務支援を実行することを通じて、担当者の行動を監視し管理するとともに都外担当者による業務の遂行を支援する。
【0030】
以下の説明では、複数であることを明示する必要がない場合、携帯デバイス6、6、・・、6nを代表して、携帯デバイス6という符号を付して表す。
【0031】
[携帯デバイス]
図2は、携帯デバイス6の機能ブロック概略図である。この携帯デバイス6は、制御部60、カメラ部61、撮影画像送出部62、マイクロホン部63、担当者周囲音声送出部64、担当者伝達音声受付部65、イヤホン部66、位置情報検出部70、位置情報送出部71、操作入力兼映像表示部T、バッテリ部E、音声通信制御操作部G、電源ボタンB1、操作ボタンB2、B3、担当者伝達画像受付部H、携帯デバイス記憶部73及び通信部74を含むように構成される。
【0032】
なお、例えば、本実施形態においては、カメラ部61、マイクロホン部63、イヤホン部66、及び、音声通信制御操作部Gは、後述のように、図3Aないし図3Dに示す携帯デバイス6のヘッドセット部600に搭載される。
【0033】
また、本実施形態においては、制御部60、撮影画像送出部62、担当者周囲音声送出部64、担当者伝達音声受付部65、位置情報検出部70、位置情報送出部71、操作入力兼映像表示部T、バッテリ部E、音声通信制御操作部G、電源ボタンB1、操作ボタンB2、B3、担当者伝達画像受付部H、携帯デバイス記憶部73及び通信部74は、後述のように、図4Aないし図4Bに示す携帯デバイス6のバッテリユニット部620Zに搭載される。
【0034】
制御部60は、携帯デバイス6の各要素の動作を制御するようになっている。例えば、この制御部60は、図示しないCPU (Central Processing Unit)、不揮発性メモリであるフラッシュメモリ、揮発性メモリのRAM (Random Access Memory)を含むように構成される。当該CPUは、プログラムの実行、演算処理、この携帯デバイス6を構成する各要素の制御などを実行する。当該フラッシュメモリには、CPUが実行するプログラムや登録データなどが記憶され、RAMは、CPUによるプログラムの実行や演算処理のワークエリアとして使用される。
【0035】
カメラ部61は、担当者の周囲を撮影して撮影画像を取得するようになっている。このカメラ部61の撮像素子には、CMOS (Complementary Metal Oxide Semiconductor) エリアセンサやCCD (Charged Coupled Device) エリアセンサ等を用いることができる。
撮影画像送出部62は、カメラ部61で撮影される撮影画像802を業務支援サーバ2に向けて画像データとして通信回線11を介して送出(送信)する。撮影画像802は、動画を構成することが多いが、静止画であってもよい。
【0036】
マイクロホン部63は、担当者の周囲の音声を取得する。すなわち、このマイクロホン部63は、担当者の周囲の音声が入力されることで、音声データである担当者周囲音声を生成するようになっている。具体的な動作としては、このマイクロホン部63が音声を感知して電気信号に変換する。
【0037】
担当者周囲音声送出部64は、マイクロホン部63で取得される担当者周囲音声208を業務支援サーバ2に向けて音声データとして通信回線11を介して送出するようになっている。
【0038】
イヤホン部66は、音声データに基づいて担当者に伝達する音声を発生するようになっている。
そして、担当者伝達音声受付部65は、イヤホン部66から発生するための音声データとして担当者伝達音声を受け付けるようになっている。この担当者伝達音声は、業務支援サーバ2から音声データとして通信回線11を介して送出されてくる。
イヤホン部66は、担当者に伝達される音声を発生する。具体的な動作としては、このイヤホン部66が音声の情報(音声データ)が含まれる電気信号を音波に変換する。
【0039】
位置情報検出部70は、衛星測位システムからの電波を受信して位置情報212を算出する。この位置情報検出部70には、GPS (Global Positioning System)モジュールを用いることができる。GPSモジュールは、GPSシステムからの信号を受信して、地球上の現在位置を通知する。GPSモジュールから位置情報212を取得することで、携帯デバイス6の現在位置が得られる。
位置情報送出部71は、位置情報検出部70で算出した位置情報212を業務支援サーバ2に向けてデータとして通信回線11を介して送出する。
【0040】
担当者伝達画像受付部Hは、業務支援サーバ2から通信回線11を介して送出されてくる画像データである、操作入力兼映像表示部Tで表示するための担当者伝達画像を受け付けるようになっている。
【0041】
また、操作入力兼映像表示部Tは、担当者の操作入力を受け付けるとともに、映像を表示するようになっている。
【0042】
携帯デバイス記憶部73は、不揮発性メモリで構成される。例えば、SDメモリカードなどを用いることができる。この携帯デバイス記憶部73には、撮影画像802、担当者周囲音声208、位置情報212等が記憶される。
通信回線11の接続が切断されている場合に、この携帯デバイス記憶部73に撮影画像802などを一時的に記憶させておき、通信回線11の接続が回復した後に、一時的に記憶させた撮影画像802などを業務支援サーバ2に向けて送信するような使い方もされる。
【0043】
バッテリユニット部620Zの通信部74は、外部とのデータの送受信を実行する。この通信部74は、Wi-Fi(登録商標)通信により通信回線11に接続する機能と、LTE(Long Term Evolution)通信により移動体通信回線を経由して通信回線11に接続する機能とを有する。そして、Wi-Fi通信により接続できる環境では、Wi-Fi通信を介して通信回線11に接続し、Wi-Fi通信による接続が不能の環境では、LTE通信を介して通信回線11に接続するように制御される。
【0044】
バッテリ部Eは、ヘッドセット部600に通信電力ケーブル650を介してヘッドセット部600が動作するための駆動電力(電源)を供給するとともに、バッテリユニット部620Zが動作するための駆動電力(電源)を供給するようになっている。
【0045】
携帯デバイス6は、ヘッドセット部600(図3Aないし図3D参照)と、バッテリユニット部620Z(図4Aないし図4B参照)と、ヘッドセット部600とバッテリユニット部620Zとを接続する通信電力ケーブル650(図3Cないし図3D参照)と、を含んでいる。そして、携帯デバイス6は、カメラ部61、マイクロホン部63及びイヤホン部66が組み込まれ一体化されているヘッドセット部600と、電源となるバッテリ部Eや通信機能を有する通信部74等を含むバッテリユニット部620Zとが、通信電力ケーブル650で接続される構成になっている。
【0046】
ここで、図3Aは、正面右斜め方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。図3Bは、正面左斜め方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。図3Cは、横方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。図3Dは、上方向から見た実施形態に係る携帯デバイスのヘッドセット部の3次元の外観の一例を示す図である。
なお、図3A及び図3Bにおいては、通信電力ケーブル650の表記が省略されて図示されていないが、図3C及び図3Dにおいては、通信電力ケーブル650が図示されている。
【0047】
この図3Aないし図3Dに示すヘッドセット部600は、担当者(図示せず)の頭部に装着される。
そして、図3Aないし図3Dに示すように、ヘッドセット部600後頭部に沿って装着される弾性素材で形成される細線状の連結部612の両端には、上下方向に幅広となる側面視略長方形状の拡幅部614が形成されている。この拡幅部614の内部には、電子部品が実装された電気基板が埋め込まれている。
【0048】
また、例えば、図4A及び図4Bに示すバッテリユニット部620Zの操作入力兼映像表示部Tに動画撮影ボタンと静止画撮影ボタンが表示され、又は、操作ボタンB2、B3が動画撮影ボタンと静止画撮影ボタンとして機能するようにしてもよい。なお、当該動画撮影ボタンと静止画撮影ボタンは、ヘッドセット部600の例えば拡幅部614等に配設されているようにしてもよい。
そして、例えば、担当者により当該動画撮影ボタンが操作されると、カメラ部61により動画が撮影され、撮影された動画が携帯デバイス記憶部73に記憶されるとともに業務支援サーバ2に向けて動画データとして通信回線11を介して送出され記憶される。また、担当者により静止画撮影ボタンが操作されると、カメラ部61により静止画が撮影され、撮影された静止画が携帯デバイス記憶部73に記憶されるとともに業務支援サーバ2に向けて画像データとして通信回線11を介して送出され記憶される。
【0049】
また、例えば、図4A及び図4Bに示すバッテリユニット部620Zの操作入力兼映像表示部Tに音量ボタンが表示され、又は、操作ボタンB2、B3が音量ボタンとして機能するようにしてもよい。なお、当該音量ボタンは、ヘッドセット部600の例えば拡幅部614等に配設されているようにしてもよい。
そして、例えば、担当者により当該音量ボタンを操作されると、ヘッドセット部600のイヤホン部66から発生する音量が調節される。
【0050】
また、例えば、図3Cないし図3Dに示すように、ヘッドセット部600の拡幅部614の背面側には、通信電力ケーブル接続端子N1が設けられ、この通信電力ケーブル接続端子N1に通信電力ケーブル650を差し込んでバッテリユニット部620Zと接続するようになっている。
【0051】
また、例えば、図3Aないし図3Dに示すように、両側の耳かけ部616の先端には、マイクロホン部63及びイヤホン部66を内蔵する先頭部619が形成される。このイヤホン部66には、本実施形態では、骨伝導型イヤホンが採用されている。なお、イヤホン部66は、骨伝導型イヤホンに限定されるものではなく、カナル型イヤホン、又は、インナーイヤー型イヤホン等の他の型のイヤホンであってもよい。
【0052】
また、例えば、図3Aないし図3Dに示すように、左側の先頭部619の外側側面には、カメラ部61が上下方向に回動可能に設けられている。カメラ部61の上下方向の回転角度は、複数の所定位置で固定されるようになっている。また、入浴や着替えの介護業務を実行する際には、カメラ部61を上方に向けることにより被介護者を撮影しないようにできる。
【0053】
また、例えば、図3Bに示すように、ヘッドセット部600の右側の先頭部619の外側側面には、音声通信制御操作部(操作ボタン)Gが設けられている。この音声通信制御操作部Gは、マイクロホン部63およびイヤホン部66の動作を制御して音声データを通信するために、担当者が操作するためのボタンである。この音声通信制御操作部Gが担当者により操作される(押下される)ことにより、携帯デバイス6が、通話モードに移行し、例えば、携帯デバイス6と管理者端末8(若しくは、他の携帯デバイス6)との間で通話可能となる。
【0054】
例えば、担当者が音声通信制御操作部Gを1度押下げすることで、所謂、インターコミュニケーションシステム(Inter Communication System)の機能として、携帯デバイス6と管理者端末8との音声通信が開始される。そして、例えば、担当者が音声通信制御操作部Gを再度押下げすることで、当該音声通信が終了するようになっている。また、例えば、担当者が音声通信制御操作部Gを長押することで、この長押しされている期間、携帯デバイス6と管理者端末8との音声通信が実行されるようにしてもよい。
【0055】
また、例えば、この音声通信制御操作部Gが操作され、通話モードに移行するとカメラ部61で撮影される撮影画像206が管理者端末8で強調表示される。さらに、管理者端末8から携帯デバイス6に送信された映像(画像)がバッテリユニット部620Zの操作入力兼映像表示部Tに表示されるようにしてもよい。
【0056】
また、例えば、図4Aに示すように、バッテリユニット部620Zの外側側面には、電源ボタンB1が設けられている。例えば、担当者によりこの電源ボタンB1を操作される(例えば長押しされる)ことにより、電源の投入と切断を切り替えることができる。また、例えば、担当者によりバッテリユニット部620Zの電源ボタンB1が操作される(短時間押し下げられる)ことにより、カメラ停止モードとカメラ動作モードの切り替えができる。
なお、当該電源ボタンB1は、ヘッドセット部600の例えば拡幅部614等に配設されているようにしてもよい。
【0057】
携帯デバイス6は、カメラ停止モードとカメラ動作モードを有する。
カメラ停止モードでは、カメラ部61の撮影とマイクロホン部63の音声の取得が停止され、イヤホン部66からカメラ停止モードであることを通知する通知音が発せられる。一方、カメラ動作モードでは、カメラ部61の撮影とマイクロホン部63の音声の取得が行われ、カメラ停止モードであることを通知する通知音は停止する。
【0058】
なお、このヘッドセット部600は、通信電力ケーブル650を介して市販のPC (Personal Computer)やスマートホンと接続しても、カメラ部61、マイクロホン部63及びイヤホン部66が動作し、画像や音声をPCやスマートホンに向けて画像データや音声データとして通信回線11を介して送出したり、PC等から音声データとして通信回線11を介して送られてくる音声をイヤホン部66で聞いたりすることができる。
【0059】
また、図3に示すヘッドセット部600の構成では、マイクロホン部63が先頭部619に組み込まれているが、この構成に限らず、カメラ部61の先端に設けるようにしてもよい。このように配置すると、マイクロホン部63が担当者の口の前方に位置し、声を感知しやすくなる。
【0060】
ここで、図4Aは、右斜め方向から見た実施形態に係る携帯デバイスのバッテリユニット部の3次元の外観の一例を示す図である。また、図4Bは、左斜め方向から見た実施形態に係る携帯デバイスのバッテリユニット部の3次元の外観の一例を示す図である。このバッテリユニット部620Zには、既述のバッテリ部E、撮影画像送出部62、担当者周囲音声送出部64、担当者伝達音声受付部65、位置情報検出部70、位置情報送出部71及び通信部74などが内蔵されている。
【0061】
また、このバッテリユニット部620Zは、様々なアプリケーションをダウンロードして、当該アプリケーションを使用することが可能になっている。 これにより、携帯デバイス6は、例えば、ナースコールアプリケーションやWEB会議アプリケーション等の様々なアプリケーションと連携して、当該業務が実施される各事業所に合った効率化を図ることができる。
【0062】
図4A及び図4Bに示すようにバッテリユニット部620Zの下端部に通信電力ケーブル接続端子N2が設けられている。この通信電力ケーブル接続端子N2に図3C及び図3Dに示す通信電力ケーブル650の他端を差し込むことで、ヘッドセット部600とバッテリユニット部620Zとを通信電力ケーブル650により接続することができるようになっている。
【0063】
また、バッテリユニット部620Zの表面には、操作入力兼映像表示部Tが設けられている。既述のように、操作入力兼映像表示部Tは、担当者の操作入力を受け付けるとともに、映像を表示するようになっている。なお、この操作入力兼映像表示部Tは、携帯デバイス6の動作状態を表示するようにしてもよい。
【0064】
この操作入力兼映像表示部Tは、表示装置で構成され、例えば、タッチパネル付きLCD (Liquid Crystal Display)や有機EL (Electro Luminescence)などの表示デバイスが用いられる。
【0065】
このバッテリユニット部620Zの操作入力兼映像表示部Tには、例えば、Wi-Fi通信表示、LTE表示、GPS表示が表示されようにしてもよい。これにより、それらの機能が動作していることを表示するようになっている。
【0066】
ここで、例えば、携帯デバイス6と管理者端末8とが業務支援サーバ2及び通信回線11を介して音声と映像とを双方向に伝送するように、携帯デバイス6の制御部60は、撮影画像送出部62と、担当者周囲音声送出部64と、担当者伝達音声受付部65と、担当者伝達画像受付部Hと、マイクロホン部63、イヤホン部66、カメラ部61、及び操作入力兼映像表示部Tを制御する。これにより、制御部60は、管理者端末8から送出された担当者伝達画像を操作入力兼映像表示部Tに表示させ且つカメラ部61により撮影した撮影画像を送出するとともに、管理者端末8から送出された担当者伝達音声をイヤホン部66から発生させ且つマイクロホン部63により取得した担当者周囲音声を送出する。
【0067】
なお、バッテリユニット部620Zの背面には、係止部(図示せず)が設けられ、担当者の衣服などに係止されるようにしてもよい。そして、既述のように、携帯デバイス6の電源は、バッテリユニット部620Zに内蔵されたバッテリ部Eから通信電力ケーブル650を介して供給される。
【0068】
[管理者端末]
図5は、管理者端末8の機能ブロック概略図である。この管理者端末8は、制御部80、表示画面受付部81、管理者端末表示部82、出力音声受付部83、音声発生部84、伝達音声入力部85、伝達音声送出部86、伝達画像入力部J、伝達画像送出部K、行動情報提供要求部90、行動情報受付部91、管理者端末記憶部93、被介護者情報提供要求部94、被介護者情報受付部95、入力部98及び通信部99を含むように構成される。管理者端末8には、PCやスマートホン、タブレットなどの情報端末を用いることができる。
【0069】
制御部80は、図示しないCPU、不揮発性記憶装置である補助記憶装置、RAMを含むように構成される。CPUは、プログラムの実行や、管理者端末8を構成する各要素の制御などを実行する。補助記憶装置には、CPUが実行するプログラムなどが記憶され、HDD(Hard Disk Drive)やSSD(Solid State Drive)などが用いられる。
【0070】
表示画面受付部81は、画像データとして、撮影画像802が表示される画像表示画面800を受け付ける。画像表示画面800は、業務支援サーバ2から画像データとして通信回線11を介して送出されてくる。管理者端末表示部82には、表示画面受付部81で受け付けた画像表示画面800が表示される。管理者端末表示部82は、表示装置で構成され、タッチパネル付きLCD(Liquid Crystal Display)や有機EL(Electro Luminescence)などの表示デバイスが用いられる。
【0071】
出力音声受付部83は、業務支援サーバ2から音声データとして通信回線11を介して送出されてくる担当者周囲音声208を受け付ける。音声発生部84は、出力音声受付部83で受け付けた担当者周囲音声208を発生する。音声発生部84にはスピーカやヘッドホンが用いられる。
【0072】
伝達音声入力部85は、管理者端末8を操作する管理者により、携帯デバイス6に伝達される担当者伝達音声が入力される。伝達音声入力部85にはマイクロホンが用いられる0伝達音声送出部86は、伝達音声入力部85に入力された担当者伝達音声を業務支援サーバ2に向けて音声データとして通信回線11を介して送出する。なお、担当者伝達音声は、担当者が当該業務を遂行するために必要な情報を示す音声(当該業務を実行する方法を説明する管理者等の音声や過去の事例を説明する音声等)を含むようにしてもよい。
【0073】
伝達画像入力部Jは、管理者の管理者端末8への操作入力に応じて、担当者伝達画像が入力され又は担当者伝達画像を構成するようになっている。なお、この伝達画像入力部Jは、カメラ部(図示せず)を含んでいてもよい。この場合、担当者伝達画像は、当該カメラ部が撮像した映像を含むようにしてもよい。なお、当該担当者伝達画像は、担当者が当該業務を遂行するために必要な情報を含む映像(当該業務を実行する方法を示す画像又は動画や過去の事例を示す画像又は動画や、管理者端末8を操作する管理者を撮像した映像等)を含むようにしてもよい。
【0074】
そして、伝達画像送出部Kは、伝達画像入力部Jで入力され又は構成された担当者伝達画像を業務支援サーバ2に向けて送出するようになっている。
【0075】
行動情報提供要求部90は、担当者行動情報200を要求する行動情報提供要求を業務支援サーバ2に向けてデータとして通信回線11を介して送出する。この行動情報提供要求は、要求する対象を指定して実行する。例えば、行動情報提供要求部90は、担当者ID202や担当者氏名204を指定したり、担当者ID202と取得時刻210とを組み合わせて指定したり、担当者ID202、取得時刻210及び要求対象項目が撮影画像206であることなどの組み合わせを指定したりする。
なお、行動情報提供要求部90における、取得時刻210の指定は、ある特定の時刻を指定するようにしてもよいし、開始時刻と終了時刻を指定するようにしてもよい。担当者行動情報200には、携帯デバイス6で取得された撮影画像206や担当者周囲音声208が含まれる。行動情報受付部91は、行動情報提供要求に応じて業務支援サーバ2から提供される担当者行動情報200を受け付ける。行動情報受付部91で担当者行動情報200を受け付けると、受け付けた担当者行動情報200が管理者端末表示部82に表示される。
具体的には、担当者行動情報200に含まれる撮影画像206や担当者周囲音声208から文字を生成した周囲音声文字列214、その他の担当者行動情報200に含まれる構成要素が管理者端末表示部82に表示される。また、担当者行動情報200に含まれる担当者周囲音声208が音声発生部84から発生する。
【0076】
管理者端末記憶部93には、不揮発性記憶装置であるHDDやSSDなどが用いられる。この管理者端末記憶部93には、行動情報受付部91で受け付けた担当者行動情報200等が記憶される。また、管理者端末記憶部93には、担当者行動情報200に含まれる撮影画像206や担当者周囲音声208などを用いて作成される介護記録や介護教育研修マニュアル等の電子ファイルも記憶される。そして、例えば、管理者の操作入力に応じて、管理者端末8の伝達画像入力部Jは、介護記録や介護教育研修マニュアル等の電子ファイルに基づいて、担当者が当該業務を遂行するために必要な情報を含む映像として、当該担当者伝達画像を構成するようにしてもよい。
【0077】
被介護者情報提供要求部94は、被介護者情報提供要求を業務支援サーバ2に向けて画像データとして通信回線11を介して送出する。この被介護者情報提供要求は、要求する対象を指定して実行する。例えば、被介護者ID302や被介護者の氏名304を指定したり、被介護者ID302と要求対象項目が対面時間308であることなどの組み合わせを指定したりする。
【0078】
被介護者情報受付部95は、被介護者情報提供要求に応じて業務支援サーバ2から提供される被介護者情報300を受け付ける。被介護者情報受付部95で被介護者情報300を受け付けると、受け付けた被介護者情報300が管理者端末表示部82に表示される。
【0079】
入力部98は、入力を実行するための入力装置で構成され、キーボードやマウス、タッチパネルなどが用いられる。通信部99は、外部とのデータの送受信を実行する。
【0080】
[業務支援サーバ]
図6は、業務支援サーバ2の機能ブロック概略図である。この業務支援サーバ2は、制御部20、撮影画像受付部21、担当者周囲音声受付部22、行動情報構成部23、行動情報記憶部24、表示画面構成部25、表示画面提供部26、伝達音声受付部27、通話確立部30、管理者不在判定部31、行動情報要求受付部32、行動情報提供部33、位置情報受付部34、地図情報要求部35、地図情報受付部36、施設内図面記憶部37、音声文字生成部38、暴言判定部40、音声分析部41、顔認証部42、表情分析部43、被介護者情報構成部44、被介護者情報記憶部45、被介護者情報提供要求受付部46、被介護者情報提供部47、対面時間計測部50、画像音声分析部51、通信部52、及び伝達画像受付部Lを含むように構成される。業務支援サーバ2には、サーバ装置やPCなどが用いられる。
【0081】
制御部20は、図示しないCPU、不揮発性記憶装置、RAMを含むように構成される。CPUは、プログラムの実行や、業務支援サーバ2を構成する各要素の制御などを実行する。
【0082】
撮影画像受付部21は、携帯デバイス6の撮影画像送出部62から画像データとして通信回線11を介して送出されてくる撮影画像802を受け付ける。担当者周囲音声受付部22は、携帯デバイス6の担当者周囲音声送出部64から音声データとして通信回線11を介して送出されてくる担当者周囲音声208を受け付ける。
【0083】
行動情報構成部23は、撮影画像受付部21で受け付けた撮影画像206と担当者周囲音声受付部22で受け付けた担当者周囲音声208が含まれる担当者行動情報200を構成するようになっている。
【0084】
担当者行動情報200は、担当者の行動の記録を集約した情報の集合である。抽出条件を指定することにより、その担当者の行動の記録を担当者行動情報200から取り出すことができる。
【0085】
行動情報構成部23は、撮影画像206と担当者周囲音声208を、例えば、5分間や10分間などの所定時間間隔に区切り、撮影画像206等の取得時刻210を対応付けるようにして担当者行動情報200を構成するようになっている。このように行動情報構成部23が担当者行動情報200を構成することにより、取得時刻210を指定すれば、その時刻に対応する撮影画像206等を担当者行動情報200から取り出すことができる。
【0086】
ここで、図7Aは、実施形態に係る担当者行動情報の構成の一例を示す図である。また、図7Bは、実施形態に係る担当者行動情報に含まれる担当者精神状態情報の表示の一例を示す図である。
例えば、図7Aに示すように、担当者行動情報200に含まれる担当者ID(identification)202や担当者氏名204は、業務開始などで携帯デバイス6から業務支援サーバ2にログインする際に入力される。または、携帯デバイス6を担当者に割り当てる際に担当者ID202や担当者氏名204をあらかじめ業務支援サーバ2に登録しておく。業務支援サーバ2には、携帯デバイス6を一意に特定する携帯デバイスIDに対応付けられて担当者ID202や担当者氏名204が記憶される。
携帯デバイス6から携帯デバイスIDとともに撮影画像206などが送信されると、業務支援サーバ2は、受け付けた携帯デバイスIDから担当者ID202や担当者氏名204を特定し、その担当者ID202等と受け付けた撮影画像206などが格納されるように担当者行動情報200を構成するようになっている。
この担当者ID202等を参照することにより、担当者行動情報200がどの担当者に対応するものかを識別できる。例えば、担当者ID202や担当者氏名204を指定することにより、指定した担当者に対応する担当者行動情報200を抽出したり、担当者ID202と取得時刻210を組み合わせて指定することにより、その組み合わせに対応する撮影画像206や担当者周囲音声208などを担当者行動情報200から取り出したりすることが可能となる。
この図7Aに示される担当者行動情報200の構成要素は、一例であり、これ以外の要素を含んでもよいし、この中の一部の要素を削除してもよい。
【0087】
図6に示す行動情報記憶部24には、行動情報構成部23で構成された担当者行動情報200が記憶される。
【0088】
表示画面構成部25は、撮影画像受付部21で受け付けた撮影画像206を加工して画像表示画面800を構成する。
【0089】
ここで、図8は、管理者端末表示部82に表示される画像表示画面800の構成の一例を示す概略図である。この図8に示す画像表示画面800には、4台の携帯デバイス6からの撮影画像206が表示されている。4台の内の1台の携帯デバイス6について、音声通信制御操作部Gが操作され通話モードに移行している状態を示しているため、拡大撮影画像804として強調表示されている。また、拡大撮影画像804の周囲には赤色の枠が表示され強調される。通話モードでない3台の携帯デバイス6については、通常サイズの撮影画像802として表示される。
【0090】
この画像表示画面800の右端には、メニュー表示部810があり、画面選択ボタン812、通話選択ボタン814、及び、一斉呼び出しボタン816が表示されている。管理者の操作により、管理者端末表示部82に表示されたこの画像表示画面800から、管理者が画面選択ボタン812を選択すると、選択された撮影画像206が拡大表示され、その携帯デバイス6と当該管理者端末8とが通話できるようになる。
【0091】
また、管理者の操作により、選択された携帯デバイス6の撮影画像206(動画、静止画)や担当者周囲音声208が業務支援サーバ2に記憶される。通話選択ボタン814が選択されると、選択された携帯デバイス6と通話可能となる。管理者の操作により、管理者端末表示部82に表示された一斉呼び出しボタン816が選択されると、表示されている全ての携帯デバイス6と通話可能となる。
【0092】
なお、通話モードの携帯デバイス6が1台も存在しないときには、例えば、全てが通常サイズの撮影画像802として表示され、画像表示画面800の一画面当たり最大20個の撮影画像206が表示される。
【0093】
図6に示す表示画面提供部26は、表示画面構成部25で構成された画像表示画面800を管理者端末8に向けて提供する。管理者端末8が画像表示画面800を受け付けると、その画像表示画面800が管理者端末表示部82に表示される(図8参照)。
【0094】
伝達音声受付部27は、管理者端末8の伝達音声送出部86から音声データとして通信回線11を介して送出されてくる担当者伝達音声を受け付ける。
【0095】
通話確立部30は、担当者周囲音声受付部22で受け付けた担当者周囲音声208を管理者端末8に向けて送出し、伝達音声受付部27で受け付けた担当者伝達音声を携帯デバイス6に向けて送出することにより携帯デバイス6と管理者端末8の間の通話を成立させる。携帯デバイス6が通話モードになると、携帯デバイス6と管理者端末8との間で通話可能となる。
【0096】
また、伝達画像受付部Lは、管理者端末8の伝達画像送出部Kから画像データとして通信回線11を介して送出されてくる担当者伝達画像を受け付けるようになっている。
【0097】
そして、通話確立部30は、担当者周囲音声受付部22で受け付けた担当者周囲音声208を管理者端末8に向けて送出し且つ伝達音声受付部27で受け付けた担当者伝達音声を携帯デバイス6に向けて送出するとともに、表示画面提供部26が提供する撮影画像206を含む画像表示画面を管理者端末8に向けて送出し且つ伝達画像受付部Lで受け付けた担当者伝達画像を携帯デバイス6に向けて送出することにより、携帯デバイス6と管理者端末8の間で音声と映像による通話(WEB会議等)を成立させるようにしてもよい。
【0098】
管理者不在判定部31は、携帯デバイス6が通話モードに移行したときに、管理者端末8を操作する管理者が不在であるかを判定する。
例えば、通話モードに移行した後に所定時間が経過しても、管理者端末8から応答がない場合に不在と判定したり、管理者端末8に設けられる図示しない不在ボタンが押下されている状態を検出して不在と判定したりする。
複数の携帯デバイス61、6、・・・、6nで業務支援システム1が構成されている場合に、複数の携帯デバイス61、6、・・・、6nの中の一の携帯デバイス6iが通話モードに移行する際、管理者不在判定部31が管理者の不在を判定すると、複数の携帯デバイス61、6、・・・、6nの間で通話可能となるように制御される。
【0099】
行動情報要求受付部32は、管理者端末8の行動情報提供要求部90からデータとして通信回線11を介して送出されてくる行動情報提供要求を受け付ける。
行動情報提供部33は、行動情報要求受付部32で受け付けた行動情報提供要求に応じて行動情報記憶部24から読み出した担当者行動情報20を管理者端末8に向けて提供する。
行動情報提供要求が、例えば、担当者IDを指定して行われている場合、指定された担当者IDに対応する担当者行動情報200が提供される。
また、例えば、担当者ID202と取得時刻210とが組み合わされて指定されている場合、その指定に対応する撮影画像206や担当者周囲音声208などが担当者行動情報200から抜き出されて提供される。
また、例えば、担当者ID202、取得時刻210及び要求対象項目が撮影画像206であることの組み合わせが指定されていれば、その指定に対応する撮影画像206が担当者行動情報200から抜き出されて提供される。
【0100】
位置情報受付部34は、携帯デバイス6の位置情報送出部71からデータとして通信回線11を介して送出されてくる位置情報212を受け付ける。
【0101】
地図情報要求部35は、位置情報受付部34で受け付けた位置情報212の周辺の地図情報を要求する地図情報提供要求を地図情報提供サーバ10に向けて送出する。
地図情報受付部36は、地図情報提供要求に応じて地図情報提供サーバ10から提供される地図情報を受け付ける。
【0102】
行動情報構成部23は、位置情報受付部34で受け付けた位置情報212を、撮影画像受付部21で受け付ける撮影画像206と担当者周囲音声受付部22で受け付ける担当者周囲音声208とに紐づけるように担当者行動情報200を構成するようになっている(図7A参照)。位置情報212が撮影画像206や担当者周囲音声208と紐づけられているため、位置情報212を指定することにより、その位置情報212に紐づく撮影画像206や担当者周囲音声208を担当者行動情報200から取り出すことができる。
【0103】
また、表示画面構成部25は、地図情報受付部36で受け付けた地図情報の地図上に、位置情報受付部34で受け付けた位置情報212を携帯デバイス6の位置として表示する位置情報画像を作成する。そして、表示画面構成部25は、撮影画像受付部21で受け付けた撮影画像206と位置情報画像とが同一画面に表示されるように画像表示画面800を構成する。
また、位置情報画像には、業務開始からその日一日の携帯デバイス6の移動経路を地図上に表示するようにしてもよい。また、携帯デバイス6のバッテリユニット部620Zの操作入力兼映像表示部Tに表示された動画撮影ボタンや静止画撮影ボタン(又は操作ボタンB2、B3)を操作して撮影された動画や静止画の撮影位置を地図上にサムネイル表示し、そのサムネイル表示が選択されると、その動画や静止画が表示されるように構成してもよい。サムネイル表示とは、動画や静止画の見本用画像の表示のことである。
【0104】
施設内図面記憶部37には、施設の間取りなどが記録されている施設内図面情報があらかじめ記憶されている。位置情報受付部34で受け付ける位置情報212が施設内である場合、表示画面構成部25は、施設内図面情報に含まれる施設の間取りの上に、携帯デバイス6の位置を表示するように位置情報画像を作成する。位置情報212には、高さの情報も含まれるため、表示画面構成部25は、携帯デバイス6の位置が施設内の何階であるかを判定し、その階に対応する間取りの上に、携帯デバイス6の位置が表示される。
【0105】
音声文字生成部38は、音声から文字を生成する。この音声文字生成部38は、担当者周囲音声受付部22で受け付ける担当者周囲音声208を周囲音声文字列214として生成するようになっている。この音声文字変換処理には、既存技術が用いられ、AI(Artificial Intelligence:人工知能)技術を用いることもできる。
【0106】
行動情報構成部23は、音声文字生成部38で生成された周囲音声文字列214を、撮影画像受付部21で受け付ける撮影画像206と担当者周囲音声受付部22で受け付ける担当者周囲音声208とに紐づけるように担当者行動情報200を構成するようになっている(図7A参照)。なお、生成された周囲音声文字列214を撮影画像206に字幕として付すようにしてもよい。
【0107】
暴言判定部40は、暴言を判定するようになっている。この暴言判定部40は、音声文字生成部38で生成される周囲音声文字列214にあらかじめ登録されている暴言ワードが含まれているか否かを判定し、判定結果に基づいて暴言情報216を生成するようになっている。暴言情報216には、使用された暴言ワードとその頻度が含まれる。
【0108】
行動情報構成部23は、暴言判定部40で生成された暴言情報216を含むように担当者行動情報200を構成するようになっている(図7A参照)。
【0109】
音声分析部41は、音声を分析して精神状態を推定する。この音声分析部41は、担当者周囲音声受付部22で受け付ける担当者周囲音声208と音声文字生成部38で生成される周囲音声文字列214とを分析して担当者の精神状態を推定し、推定される担当者の精神状態に基づいて担当者精神状態情報218を生成するようになっている。
【0110】
この音声分析部41は、担当者の声の大きさ、声の大きさの抑揚、声の高さ、所定時間当たりのため息の回数、使われている言葉、ネガティブな言葉の使用頻度などの要因に基づいて総合的に分析し精神状態を推定するようになっている。
この分析には、AI技術を用いることもでき、学習済み生成モデルに担当者周囲音声208と周囲音声文字列214が入力され精神状態の推定値が演算される。また、音声分析部41は、過去と現在の精神状態の比較も実行し、精神状態の安定度や変化の方向も求める。さらに、音声分析部41は、メンタルヘルスケアが必要な状態であるかの判定も実行する。
【0111】
担当者精神状態情報218には、元気度、声の明瞭度、蓄積されている怒りの度合(蓄積Anger値)、精神状態の安定度、精神状態の変化の方向(傾向)、メンタルヘルスケア必要度を含むように構成される。
【0112】
行動情報構成部23は、音声分析部41で生成された担当者精神状態情報218を含むように担当者行動情報200を構成するようになっている(図7A参照)。
【0113】
ここで、既述の図7Bは、担当者行動情報200に含まれる担当者精神状態情報218の表示画面の一例を示す図である。この図7Bには担当者ごとの担当者精神状態情報218が並べて表示されている。このような画面を管理者端末8に表示させてメンタルヘルスケアが必要な担当者を管理者が早期に発見できるようになっている。
【0114】
図6に示す顔認証部42は、撮影画像受付部21で受け付ける撮影画像206に写る被介護者の顔を認証し、その被介護者の氏名304を特定する。業務支援サーバ2には被介護者の顔画像の特徴量があらかじめ登録されており、撮影画像206に写る顔画像から算出される特徴量と対比することにより被介護者を認証する。
この顔認証処理には、AI技術を含む既存の技術が用いられる。また、被介護者の顔画像の特徴量と対応付けて被介護者の氏名304や被介護者ID302が業務支援サーバ2に登録されており、顔認証部42が被介護者の認証を実行すると、その被介護者の氏名304や被介護者ID302が特定されるようになっている。この顔認証部42は、被介護者の氏名304等を特定すると、その被介護者の氏名304や被介護者ID302を含む被介護者特定情報215を生成する。
【0115】
そして、行動情報構成部23は、撮影画像206、担当者周囲音声208及び周囲音声文字列214と、顔認証部42において生成された被介護者特定情報215を対応付けるように担当者行動情報200を構成する(図7A参照)。このように構成することにより、例えば、被介護者特定情報215に含まれる被介護者の氏名304や被介護者ID302を指定し、指定した被介護者が写っている撮影画像206等を担当者行動情報200から取り出すことが可能となる。
すなわち、担当者ID202と被介護者ID302との組み合わせを指定して、担当者行動情報200の提供要求(行動情報提供要求)がある場合、その担当者ID202に対応する担当者行動情報200から被介護者ID302に対応する被介護者が写っている撮影画像206等が取り出されて提供される。
【0116】
そして、図6に示す表情分析部43は、撮影画像受付部21.で受け付ける撮影画像206に写る被介護者の表情を分析して、喜怒哀楽の感情、元気度及び満足度の少なくとも何れか一つを推定し推定結果を数値化した推定表情値306を算出する。
この表情分析部43による表情の分析処理には、AI技術を含む既存技術が用いられる。例えば、眉毛の形状やその変化、目、頬、唇の形状や変化、顎の向き等から特徴量を算出して、これらの特徴量に基づいて分析が行われる。
【0117】
被介護者情報構成部44は、顔認証部42で特定される被介護者の氏名304や被介護者ID302と、表情分析部43で求められる推定表情値306とを含むように被介護者情報300を構成する。
【0118】
被介護者情報300は、被介護者の観察記録を集約した情報の集合である。氏名などで被介護者を指定することにより、その被介護者の観察記録を被介護者情報300から取り出すことができる。
【0119】
図9は、被介護者情報300の構成の例を示す図である。撮影画像206を用いた顔認証により被介護者の氏名304や被介護者ID302が特定されると、特定された被介護者の氏名304等とともに被介護者の観察記録となる情報を格納するように被介護者情報300が構成される。
この図に示される被介護者情報300の構成要素は、一例であり、これ以外の要素を含んでもよいし、この中の一部の要素を削除してもよい。
【0120】
図6に示す被介護者情報記憶部45は、被介護者情報構成部44で構成された被介護者情報300を記憶する。
【0121】
被介護者情報提供要求受付部46は、管理者端末8から送出されてくる被介護者情報300を要求する被介護者情報提供要求を受け付ける。被介護者情報提供部47は、被介護者情報提供要求受付部46で受け付けた被介護者情報提供要求に応じて被介護者情報記憶部45から読み出した被介護者情報300を管理者端末8に向けて提供する。
被介護者情報提供要求が、例えば、被介護者ID302を指定して行われている場合、指定された被介護者ID302に対応する被介護者情報300が提供される。
また、例えば、被介護者ID302と要求対象項目が対面時間308であることの組み合わせが指定されていれば、その被介護者に対応する対面時間308が被介護者情報300から抜き出されて提供される。
【0122】
対面時間計測部50は、撮影画像受付部21で受け付ける撮影画像206に被介護者が写っている対面時間308を計測する。
【0123】
被介護者情報構成部44は、対面時間計測部50で計測される対面時間308を含むように被介護者情報300を構成するようになっている(図9参照)。
【0124】
画像音声分析部51は、撮影画像206及び担当者周囲音声208に基づいてAI技術を用いて分析を実行する。この画像音声分析部51は、撮影画像受付部21で受け付ける撮影画像206から担当者の行動を推定し、担当者周囲音声受付部22で受け付ける担当者周囲音声208から担当者の発言を取り出して、担当者の行動と発言に基づき担当者の業務評価220を判定するようになっている。
例えば、画像音声分析部51は、担当者が被介護者に優しい言葉をかけながら笑顔で介護を行っていれば高い評価をし、担当者の言葉が少なかったり、声が小さかったり、表情が乏しかったりする場合には低い評価をする。
【0125】
行動情報構成部23は、画像音声分析部51で判定された担当者の業務評価220を含むように担当者行動情報200を構成するようになっている(図7A参照)。
業務評価220が優れていると判定された担当者と劣っていると判定された担当者の撮影画像206、担当者周囲音声208、周囲音声文字列214等を担当者行動情報200から取り出して担当者の教育資料としたり、マニュアルの作成に活用したりすることもできる。
【0126】
また、画像音声分析部51は、担当者周囲音声受付部22で受け付ける担当者周囲音声208から被介護者に問いかける発言を取り出して、問いかける発言に対する被介護者の反応を撮影画像受付部21で受け付ける撮影画像206に写る被介護者の動作から推定し、被介護者の難聴又は認知症のリスク310を判定する。
例えば、担当者が被介護者に何度も同じ問いかけをしたり、問いかけごとに担当者の音声が大きくなっていったりする場合には、難聴のリスクが高くなるような判定がされる。また、担当者の問いかけから被介護者の反応までの時間差や、問いかけに対する被介護者の回答の整合性などを評価して認知症のリスクが判定される。
【0127】
被介護者情報構成部44は、画像音声分析部51で判定される被介護者の難聴又は認知症のリスク310を含むように被介護者情報300を構成するようになっている(図9参照)。
【0128】
通信部52は、外部とのデータの送受信を実行するようになっている。
【0129】
[業務支援システムの動作]
次に、本実施形態に係る業務支援システム1の動作について説明する。
【0130】
図10は、担当者の業務中に行われる業務支援システム1の動作のフローの一例を説明する図である。
なお、既述のように、図10の説明においては、あくまで一例として、業務として介護事業を例に挙げて説明するものである。すなわち、図10に示すフローが適用される業務として介護事業に限られるものでは無い。この図10に示すフローは、例えば、建設事業、保育・教育事業、警備事業、整備事業、警察、救急や消防等の行政事業、商社事業、製造事業、及び、医療事業等の業務についても、適用が可能である。例えば、介護事業のサービスを受ける被介護者の位置付けは、本発明に係る業務支援システムが適用される事業におけるサービスの提供を受ける人や当該サービスを提供する他の担当者等に対応させることができる。
【0131】
例えば、図10に示すように、担当者は携帯デバイス6を装着した状態で業務に従事する。携帯デバイス6は、カメラ部61により周囲の画像を撮影し、マイクロホン部63により周囲の音声を取得し、位置情報検出部70により位置情報を取得する(ステップS10)。
そして、携帯デバイス6は、取得された撮影画像206、担当者周囲音声208及び位置情報212は、その携帯デバイス6を特定する携帯デバイスIDとともに業務支援サーバ2に向けて送出する(ステップS11)。
【0132】
業務支援サーバ2が、撮影画像206、担当者周囲音声208及び位置情報212を受け付ける(ステップS20)と、音声文字生成部38は、担当者周囲音声208を周囲音声文字列214として生成する(ステップS21)。
また、顔認証部42は、撮影画像206から被介護者を認証して、その被介護者の氏名304と被介護者ID302を特定し、被介護者ID302等を含む被介護者特定情報215を生成する(ステップS22)。
その後、行動情報構成部23は、撮影画像206、担当者周囲音声208、周囲音声文字列214、位置情報212及び被介護者特定情報215を含むように担当者行動情報200を構成する(ステップS23)。
この担当者行動情報200では、撮影画像206、担当者周囲音声208及び周囲音声文字列214が、例えば5分間間隔などの所定時間間隔に区分されている。また、撮影画像206、担当者周囲音声208及び周囲音声文字列214が、取得時刻210、位置情報212、被介護者特定情報215のそれぞれに対応付けられるように構成される。
このようにして構成された担当者行動情報200が行動情報記憶部24に記憶される(ステップS24)。
【0133】
表示画面構成部25は、撮影画像206を加工して画像表示画面800を構成し(ステップS25)、構成した画像表示画面800を管理者端末8に向けて提供する(ステップS26)。
管理者端末8がこの画像表示画面800を受け付ける(ステップS30)と、この画像表示画面800が管理者端末表示部82に表示される(ステップS31)。
【0134】
担当者の業務中には、以上の動作が繰り返される。
【0135】
担当者が管理者と通話する際には、携帯デバイス6のヘッドセット部600の音声通信制御操作部Gが操作され、携帯デバイス6が通話モードに移行する(ステップS12)。
通話モードへ移行する通知が業務支援サーバ2で検出される(ステップS27)と、通話確立部30が動作して携帯デバイス6と管理者端末8との間で通話が可能となる(このとき、既述のように、音声に加えて映像を含めた通話が可能になるようにしてもよい)。
そして、担当者の音声が携帯デバイス6のマイクロホン部63に感知されると、担当者の音声が業務支援サーバ2に向けて送出され(ステップS13)、業務支援サーバ2がこの音声を受け付ける(ステップS28)。
なお、このとき、担当者の周囲が携帯デバイス6のカメラ部61により撮影すると、撮影画像送出部62が担当者の周囲の映像を撮像した担当者周囲撮像画像を業務支援サーバ2に向けて送出し、業務支援サーバ2の撮影画像受付部21がこの担当者周囲撮像画像を受け付けるようにしてもよい。
【0136】
そして、業務支援サーバ2は、受け付けた音声及び担当者周囲撮像画像を管理者端末8に向けて送出する(ステップS29)。管理者端末8では、受け付けた音声が音声発生部84から出力され(ステップS32)、管理者の耳に届く。このとき、管理者端末8の表示画面受付部81は、業務支援サーバ2から当該担当者周囲撮像画像が表示される画像表示画面を受け付ける。そして、管理者端末表示部82は、表示画面受付部81で受け付けた当該担当者周囲撮像画像が表示される画像表示画面を表示する。これにより、管理者は、管理者端末表示部82を用いて、当該担当者周囲撮像画像を視認することができる。なお、担当者周囲撮像画像には、カメラ部61で撮像した撮像画像だけでなく、担当者が携帯デバイス6で編集した画像(写真)等が含まれるようにしてもよい。
【0137】
そして、管理者が音声を発すると、管理者端末8の伝達音声入力部85に入力され、伝達音声送出部86から業務支援サーバ2に向けて送出される(ステップS33)。さらに、管理者端末8は、管理者の操作入力に応じて、伝達画像送出部Kが伝達画像入力部Jで入力され又は構成された担当者伝達画像を業務支援サーバ2に向けて送出するようにしてもよい。
また、業務支援サーバ2が、この管理者の音声を受け付ける(ステップS200)と、この音声が携帯デバイス6に向けて送出される(ステップS201)。このとき、業務支援サーバ2が、担当者伝達画像を受け付けると、この担当者伝達画像が業務支援サーバ2から携帯デバイス6に向けて送出されるようにしてもよい。
携帯デバイス6がこの管理者の音声を受け付けると、イヤホン部66から発生され(ステップS14)、担当者の耳に届く。業務支援サーバ2の通話確立部30が携帯デバイス6と管理者端末8との間の音声の通信を制御して担当者と管理者の通話を成立させる(このとき、既述のように、音声に加えて映像を含めた通話が可能になるようにしてもよい)。
【0138】
管理者が、担当者の行動の記録を確認するときには、担当者ID202又は担当者氏名204とともに、撮影画像206や担当者周囲音声208などの要求する項目や、取得時刻210、位置情報212等を指定して、管理者端末8から業務支援サーバ2に向けて行動情報提供要求を送出する(ステップS34)。
【0139】
業務支援サーバ2が、この行動情報提供要求を受け付ける(ステップS202)と、この要求に応じた担当者行動情報200を行動情報記憶部24から取り出して、管理者端末8に向けて提供する(ステップS203)。
【0140】
管理者端末8が担当者行動情報200を受け付ける(ステップS35)と、受け付けた担当者行動情報200が管理者端末表示部82に表示される(ステップS36)。また、担当者行動情報200に含まれる担当者周囲音声208を受け付けると、音声発生部84から発生する。
【0141】
ここで、図11は、業務支援システム1において、構成された担当者行動情報200に基づいて分析が行われるフローの一例を説明する図である。この図の例は、担当者の業務を通して、例えば、1日分などの所定期間の担当者行動情報200が業務支援サーバ2に蓄積された後に、それら所定期間に得られた担当者行動情報200を用いて一括して分析するフローを示す。
ただし、この例に限定されるものでなく、担当者の業務中に得られる担当者行動情報200を用いてリアルタイムに分析するようにしてもよい。
さらに、既述のように、図11の説明においては、あくまで一例として、業務として介護事業を例に挙げて説明するものである。すなわち、図11に示すフローが適用される業務として介護事業に限られるものでは無い。この図11に示すフローは、例えば、建設事業、保育・教育事業、警備事業、整備事業、警察、救急や消防等の行政事業、商社事業、製造事業、及び、医療事業等の業務についても、適用が可能である。例えば、介護事業のサービスを受ける被介護者の位置付けは、本発明に係る業務支援システムが適用される事業におけるサービスの提供を受ける人や当該サービスを提供する他の担当者等に対応させることができる。
【0142】
例えば、図11に示すように、まず、業務支援サーバ2は、すでに構成されている担当者行動情報200を行動情報記憶部24から読み出す(ステップS40)。業務支援サーバ2は、読み出した担当者行動情報200に含まれる周囲音声文字列214に基づき暴言判定部40で暴言を判定して、暴言情報216を生成する(ステップS41)。
次に、業務支援サーバ2は、担当者行動情報200に含まれる担当者周囲音声208と周囲音声文字列214に基づき音声分析部41により担当者精神状態情報218を生成する(ステップS42)。
続いて、業務支援サーバ2は、担当者行動情報200に含まれる撮影画像206と担当者周囲音声208とに基づき画像音声分析部51により担当者の業務評価220を判定する(ステップS43)。
業務支援サーバ2は、得られた暴言情報216、担当者精神状態情報218及び担当者の業務評価220を含むように行動情報構成部23により担当者行動情報200を構成し、構成された担当者行動情報200を行動情報記憶部24に記憶して更新する(ステップS44)。
【0143】
次に、業務支援サーバ2は、担当者行動情報200に含まれる撮影画像206に基づき顔認証部42により、被介護者の氏名304等を特定する(ステップS45)。
また、業務支援サーバ2は、担当者行動情報200に含まれる撮影画像206に基づき表情分析部43により、喜怒哀楽の感情、元気度及び満足度の少なくとも何れか一つを推定し、推定結果を数値化した推定表情値306を算出する(ステップS46)。
続いて、業務支援サーバ2は、担当者行動情報200に含まれる撮影画像206に基づき、対面時間計測部50により、対面時間308を計測する(ステップS47)。
その後、業務支援サーバ2は、担当者行動情報200に含まれる撮影画像206と担当者周囲音声208に基づき、画像音声分析部51により、被介護者の難聴又は認知症のリスク310を判定する(ステップS48)。
最後に、業務支援サーバ2は、得られた被介護者の氏名304、推定表情値306、対面時間308、被介護者の難聴又は認知症のリスク310などを含むように、被介護者情報構成部44により、被介護者情報300を構成(ステップS49)し、構成された被介護者情報300を被介護者情報記憶部45に記憶する(ステップS50)。
【0144】
管理者が、担当者の行動の記録を確認するときには、担当者ID202又は担当者氏名204とともに、担当者精神状態情報218や業務評価220などの要求する項目等を指定して、管理者端末8から業務支援サーバ2に向けて行動情報提供要求を送出する(ステップS60)。
【0145】
業務支援サーバ2が、この行動情報提供要求を受け付ける(ステップS51)と、この要求に応じた担当者行動情報200を行動情報記憶部24から取り出して、管理者端末8に向けて提供する(ステップS52)。
【0146】
管理者端末8が担当者行動情報200を受け付ける(ステップS61)と、受け付けた担当者行動情報200が管理者端末表示部82に表示される(ステップS62)。
【0147】
管理者が、被介護者の観察の記録を確認するときには、被介護者ID302又は被介護者の氏名304とともに、対面時間308などの要求する項目等を指定して、管理者端末8から業務支援サーバ2に向けて被介護者情報提供要求を送出する(ステップS63)。
【0148】
業務支援サーバ2が、この被介護者情報提供要求を受け付ける(ステップS53)と、この要求に応じた被介護者情報300を被介護者情報記憶部45から取り出して、管理者端末8に向けて提供する(ステップS54)。
【0149】
管理者端末8が被介護者情報300を受け付ける(ステップS64)と、受け付けた被介護者情報300が管理者端末表示部82に表示される(ステップS65)。
【0150】
次に、本実施形態の効果について説明する。
【0151】
本実施形態によれば、携帯デバイス6で撮影される担当者の周囲の画像と携帯デバイス6で取得される担当者の周囲の音声が含まれる担当者行動情報200が構成され記憶されることにより、担当者の行動が記録される。
【0152】
また、携帯デバイス6で撮影される画像が管理者端末8に表示され、携帯デバイス6と管理者端末8との間で通話可能であるため、携帯デバイス6を装着している担当者に対して、管理者端末8を操作する管理者がリアルタイムで助言や指示を伝達し、担当者の業務支援を実行することができる。特に、携帯デバイス6の操作入力兼映像表示部Tを用いることにより、携帯デバイス6を操作する作業者である担当者と管理者端末8を操作して管理者端末表示部82を確認する管理者との間で、双方向に、即時に映像のやり取りが可能となる。これにより、管理者と担当者で相互に映像と音声でやり取りが可能になるため、管理者による当該業務の遂行の遠隔確認や担当者による業務の報告作成の簡略化等を図ることができる。
【0153】
そして、既述のように、操作入力兼映像表示部Tにより、携帯デバイス6を操作する作業者である担当者と管理者端末8を操作して管理者端末表示部82を確認する管理者との間で、双方向に、即時に映像と音声でのやり取りが可能となる。
【0154】
また、携帯デバイス6を装着した担当者は、管理者端末8を操作する管理者や他の携帯デバイス6を装着した他の担当者と、各種のアプリケーションを利用したオンライン会議に携帯デバイス6を通して遠隔で参加することができる。
【0155】
特に、例えば、携帯デバイス6を装着した担当者が、操作入力兼映像表示部Tに表示された写真を確認して、当該写真を携帯デバイス記憶部73に記憶させることができる。さらに、携帯デバイス6を装着した担当者が、操作入力兼映像表示部Tに表示された動画を確認して、携帯デバイス記憶部73に記憶させることができる。
【0156】
例えば、担当者は、携帯デバイス6のバッテリユニット部620Zの操作入力兼映像表示部Tを操作して、携帯デバイス記憶部73にフォルダを作成し、映像、写真、メモ等の情報を携帯デバイス6のバッテリユニット部620Zの携帯デバイス記憶部73に記憶させることができる。なお、この携帯デバイス6のバッテリユニット部620Zの操作入力兼映像表示部Tには、担当者が時刻を確認できるように、時計を表示させるようにしてもよい。
【0157】
また、当該業務の教育面では、当該業務を遂行するための教育や技術承継に関する映像、写真、及び/又はメモ等の情報を携帯デバイス6のバッテリユニット部620Zの携帯デバイス記憶部73に記憶させる。これにより、担当者は、当該携帯デバイス6を持ち運んで、いつでもこれらの情報を、操作入力兼映像表示部Tを操作して表示させることで、確認することができる。
【0158】
そして、例えば、当該業務を遂行するための教育や技術承継に関する映像、写真、及び/又はメモの情報が、携帯デバイス6のバッテリユニット部620Zの携帯デバイス記憶部73に記憶されているようにしてもよい。
【0159】
また、業務支援サーバ2に記憶されている担当者行動情報200を管理者端末8に表示させて、過去の担当者の行動を確認できる。
【0160】
また、本実施形態によれば、イヤホン部66が骨伝導型イヤホンにより構成されているため、携帯デバイス6を装着する担当者の耳が、イヤホンで塞がれない状態になる。担当者は、管理者端末8から伝達される音声を骨伝導型イヤホンから受け取り、周囲の音声を自らの耳で聞きとることができる。このように、管理者端末8から伝達される音声と周囲の音声とをどちらも明瞭に聞き取ることができる。
【0161】
なお、既述のように、イヤホン部66は、骨伝導型イヤホンに限定されるものではなく、カナル型イヤホン、又は、インナーイヤー型イヤホン等の他の型のイヤホンであってもよい。
【0162】
また、本実施形態によれば、カメラ部61、マイクロホン部63及びイヤホン部66がヘッドセット部600として一体化され、担当者の頭部に装着される構成になっているため、ヘッドセット部600を装着する担当者は、両手を自由に使うことができる。また、カメラ部61の撮影方向を担当者の目線に合わせることにより、担当者の視界に近い画像を撮影できる。
【0163】
また、本実施形態によれば、カメラ停止モードでは、カメラ部61の撮影とマイクロホン部63の音声の取得が停止される。入浴介護などプライバシーの順守が必要な場面では、カメラ停止モードに移行して画像と音声の取得を停止できる。また、カメラ停止モードを通知する通知音がイヤホン部66から発せられるため、担当者はカメラ停止モードであることを認識できる。
【0164】
また、本実施形態によれば、携帯デバイス6が通話モードに移行すると、携帯デバイス6と管理者端末8との間で通話可能となるため、担当者が助言や指示を受けたいときに通話モードに移行して、管理者端末8を操作する管理者から助言等を受けることができる。
【0165】
また、通話している携帯デバイス6の撮影画像206が強調表示されるため管理者端末8を操作する管理者は、容易に撮影画像206を認識して助言等を与えることができる。
【0166】
ここで、既述のように、業務支援サーバ2の通話確立部30は、担当者周囲音声受付部22で受け付けた担当者周囲音声208を管理者端末8に向けて送出し且つ伝達音声受付部27で受け付けた担当者伝達音声を携帯デバイス6に向けて送出するとともに、表示画面提供部26が提供する撮影画像206を含む画像表示画面を管理者端末8に向けて送出し且つ伝達画像受付部Lで受け付けた担当者伝達画像を携帯デバイス6に向けて送出することにより、携帯デバイス6と管理者端末8の間で音声と映像による通話(WEB会議等)を成立させるようにしてもよい。
【0167】
例えば、携帯デバイス6と管理者端末8とが業務支援サーバ2及び通信回線11を介して音声と映像とを双方向に伝送するように、携帯デバイス6の制御部60は、撮影画像送出部62と、担当者周囲音声送出部64と、担当者伝達音声受付部65と、担当者伝達画像受付部Hと、マイクロホン部63、イヤホン部66、カメラ部61、及び操作入力兼映像表示部Tを制御することで、管理者端末8から送出された担当者伝達画像を操作入力兼映像表示部Tに表示させ且つカメラ部61で撮影した撮影画像を送出するとともに、管理者端末8から送出された担当者伝達音声をイヤホン部66から発生させ且つマイクロホン部63で取得した担当者周囲音声を送出するようにしてもよい。
これにより、携帯デバイス6を操作する担当者と管理者端末8を操作する管理者との間で音声と映像による通話(WEB会議等)が可能となり、当該業務を遂行するため効率的な支援を可能とすることができる。
【0168】
このように、業務支援システム1の携帯デバイス6によれば、当該業務を遂行するための教育、知識、経験、事例などのナレッジの確保、記録、従業員の保護及びエビデンス確保、ガバナンス向上を図ることができる。
【0169】
また、本実施形態によれば、撮影画像206と担当者周囲音声208が、位置情報212に紐づけられるように担当者行動情報200が構成されるため、画像の撮影位置や音声の取得位置を特定できる。
【0170】
また、地図上に携帯デバイス6の位置が表示されるため、携帯デバイス6の位置を容易に認識できる。
【0171】
また、本実施形態によれば、担当者周囲音声208が周囲音声文字列214として生成され、撮影画像206と担当者周囲音声208とに紐づくように担当者行動情報200が構成されるため、撮影画像206や担当者周囲音声208に対応する音声を文字列として認識できる。また、担当者行動情報200に基づいてマニュアルや記録冊子を作成する際に文字おこしをする必要が無くなり、省力化できる。
【0172】
また、本実施形態によれば、暴言の有無を判定した結果に基づいて暴言情報216が作成され、暴言情報216を含むように担当者行動情報200が構成される。この暴言情報216を参照することにより、暴言の防止など業務改善につなげることができる。
【0173】
また、本実施形態によれば、音声を分析して担当者の精神状態が推定されるため、担当者のメンタルヘルスケアに活用できる。
【0174】
また、本実施形態によれば、撮影画像206に写る被介護者の顔を認証して被介護者の氏名304を特定し、その被介護者の表情を分析して、喜怒哀楽の感情、元気度及び満足度の少なくとも何れか一つを推定して推定表情値が算出される。推定表情値を参照することにより、被介護者ごとの顧客満足度を判定できる。
【0175】
また、本実施形態によれば、業務支援サーバ2により、被介護者ごとの対面時間308が検出される。サービス提供の偏りを確認でき、その後の業務改善に活用できる。
【0176】
また、本実施形態によれば、業務支援サーバ2が撮影画像206と担当者周囲音声208とに基づいて分析を実行することにより担当者の業務評価220が判定される。良い判定と悪い判定の担当者の画像や音声の対比を、教育研修マニュアルの作成等に活用できる。
【0177】
また、本実施形態によれば、撮影画像206と担当者周囲音声208とに基づいて分析を実行することにより被介護者の難聴又は認知症のリスク310を判定でき、早期発見やその後のケアに活かすことができる。
【0178】
また、本実施形態によれば、携帯デバイス6が通話モードに移行する際、管理者端末8を操作する管理者が不在と判定されると、携帯デバイス6を装着している複数の担当者間で通話可能となるため、他の担当者からのアドバイスを得ることができる。この場合、業務支援サーバ2は、複数の担当者の携帯デバイス6のカメラ部61で撮影した撮影画像を、各携帯デバイス6の操作入力兼映像表示部Tを表示させて映像を共有できるようにしてもよい。
【0179】
また、本実施形態によれば、携帯デバイス6で撮影される担当者の周囲の画像と携帯デバイス6で取得される担当者の周囲の音声が含まれる担当者行動情報200が構成され記憶されることにより、担当者の行動が記録される。
【0180】
なお、本発明は、上記の実施形態に限定されることなく、適宜変更可能である。例えば、業務支援サーバ2の機能を管理者端末8に一体化させるようにしてもよい。また、業務支援サーバ2に含まれる行動情報記憶部24や被介護者情報記憶部45を外部のサーバとして構築するようにしてもよい。
【0181】
また、上記の実施形態に係る業務支援システム1は、業務として介護事業を例に挙げて説明したが、介護事業に限定されることなく、異なる業務にも適用可能である。すなわち、既述のように、本発明に係る業務支援システムは、例えば、建設事業、保育・教育事業、警備事業、整備事業、警察、救急や消防等の行政事業、商社事業、製造事業、及び、医療事業等の他の業務についても、適用が可能である。
【0182】
例えば、業務として、保育園、幼稚園等の保育・教育事業や建設事業にこの業務支援システム1を適用する場合、介護事業では、携帯デバイス6で撮影される撮影画像206に被介護者が写るが、保育・教育事業では、撮影画像206に保育園児や幼稚園児が写り、建設事業では、作業員などが写ることになる。そして、撮影画像206を用いた顔認証では、保育園児や幼稚園児、作業員について認証が行われる。業務支援サーバ2の顔認証部42では、保育園児や幼稚園児、作業員の氏名やIDを特定すると、その氏名やIDを含む被介護者特定情報215に相当する保育園児・幼稚園児特定情報や作業員特定情報が生成される。
【0183】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を実行することができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0184】
1 業務支援システム
2 業務支援サーバ
、6、・・・、6i、・・・、6n、6 携帯デバイス
8 管理者端末
10 地図情報提供サーバ
11 通信回線
20 制御部
21 撮影画像受付部
22 担当者周囲音声受付部
23 行動情報構成部
24 行動情報記憶部
25 表示画面構成部
26 表示画面提供部
27 伝達音声受付部
30 通話確立部
31 管理者不在判定部
32 行動情報要求受付部
33 行動情報提供部
34 位置情報受付部
35 地図情報要求部
36 地図情報受付部
37 施設内図面記憶部
38 音声文字生成部
40 暴言判定部
41 音声分析部
42 顔認証部
43 表情分析部
44 被介護者情報構成部
45 被介護者情報記憶部
46 被介護者情報提供要求受付部
47 被介護者情報提供部
50 対面時間計測部
51 画像音声分析部
52 通信部
L 伝達画像受付部
200 担当者行動情報
202 担当者ID
204 担当者氏名
206 撮影画像
208 担当者周囲音声
210 取得時刻
212 位置情報
214 周囲音声文字列
215 被介護者特定情報
216 暴言情報
218 担当者精神状態情報
220 業務評価
300 被介護者情報
302 被介護者ID
304 被介護者の氏名
306 推定表情値
308 対面時間
310 難聴又は認知症のリスク
60 制御部
61 カメラ部
62 撮影画像送出部
63 マイクロホン部
64 担当者周囲音声送出部
65 担当者伝達音声受付部
66 イヤホン部
70 位置情報検出部
71 位置情報送出部
T 操作入力兼映像表示部
H 担当者伝達画像受付部
73 携帯デバイス記憶部
74 通信部
E バッテリ部
B1 電源ボタン
B2、B3 操作ボタン
H 担当者伝達画像受付部
600 ヘッドセット部
G 音声通信制御操作部
612 連結部
614 拡幅部
616 耳かけ部
N1 通信電力ケーブル接続端子
619 先頭部
620Z バッテリユニット部
N2 通信電力ケーブル接続端子
650 通信電力ケーブル
80 制御部
81 表示画面受付部
82 管理者端末表示部
83 出力音声受付部
84 音声発生部
85 伝達音声入力部
86 伝達音声送出部
90 行動情報提供要求部
91 行動情報受付部
93 管理者端末記憶部
94 被介護者情報提供要求部
95 被介護者情報受付部
98 入力部
99 通信部
800 画像表示画面
802 通常サイズの撮影画像
804 拡大撮影画像
810 メニュー表示部
812 画面選択ボタン
814 通話選択ボタン
816 一斉呼び出しボタン


【要約】
[課題]業務に従事する担当者の行動を記録するとともに担当者に対し業務支援を実行することができる業務支援システムを提供する。
[解決手段]業務支援システムは、業務に従事する担当者の行動を監視して管理するとともに担当者による業務の遂行を支援する業務支援システムであって、担当者に装着される携帯デバイスと、携帯デバイスで撮影される画像が表示されるとともに携帯デバイスと通話可能な管理者端末と、携帯デバイスで取得されるデータに基づいて担当者行動情報を構成して記憶し、携帯デバイスと管理者端末との間の通信を制御する業務支援サーバと、を備え、携帯デバイスと管理者端末とが、業務支援サーバと通信回線を介して接続されており、携帯デバイスは、ヘッドセット部と、バッテリユニット部と、ヘッドセット部とバッテリユニット部とを接続する通信電力ケーブルと、を含む。
図1
図2
図3A
図3B
図3C
図3D
図4A
図4B
図5
図6
図7A
図7B
図8
図9
図10
図11