IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 東芝テック株式会社の特許一覧

<>
  • 特開-動画再生システム 図1
  • 特開-動画再生システム 図2
  • 特開-動画再生システム 図3
  • 特開-動画再生システム 図4
  • 特開-動画再生システム 図5
  • 特開-動画再生システム 図6
  • 特開-動画再生システム 図7
  • 特開-動画再生システム 図8
  • 特開-動画再生システム 図9
  • 特開-動画再生システム 図10
  • 特開-動画再生システム 図11
  • 特開-動画再生システム 図12
  • 特開-動画再生システム 図13
  • 特開-動画再生システム 図14
  • 特開-動画再生システム 図15
  • 特開-動画再生システム 図16
  • 特開-動画再生システム 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024119518
(43)【公開日】2024-09-03
(54)【発明の名称】動画再生システム
(51)【国際特許分類】
   H04N 5/93 20060101AFI20240827BHJP
   G07G 1/00 20060101ALI20240827BHJP
   G10L 15/22 20060101ALI20240827BHJP
   H04N 5/92 20060101ALI20240827BHJP
   H04N 5/765 20060101ALI20240827BHJP
【FI】
H04N5/93
G07G1/00 331Z
G10L15/22 460Z
H04N5/92 010
H04N5/765
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2023026492
(22)【出願日】2023-02-22
(71)【出願人】
【識別番号】000003562
【氏名又は名称】東芝テック株式会社
(74)【代理人】
【識別番号】110003708
【氏名又は名称】弁理士法人鈴榮特許綜合事務所
(72)【発明者】
【氏名】金子 達矢
【テーマコード(参考)】
3E142
5C053
【Fターム(参考)】
3E142AA10
3E142BA20
3E142CA12
3E142CA20
3E142FA50
3E142JA01
5C053GB06
5C053JA21
5C053LA01
5C053LA06
(57)【要約】
【課題】会話を伴ってなされる複数の人間どうしの対面によるやり取りについての事後の確認作業を容易とする。
【解決手段】実施形態の動画再生システムは、動画取得手段、動画記憶手段、テキスト取得手段、テキスト記憶手段、動画表示手段及びテキスト表示手段を備える。動画記憶手段は、撮影範囲を撮影した動画を表し、動画取得手段により取得された動画データを記憶する。テキスト記憶手段は、撮影範囲の周辺で集音された音声を認識して生成され、テキスト取得手段により取得されたテキストデータを記憶する。動画表示手段は、動画データが表す動画を表示させる。テキスト表示手段は、記憶されたテキストデータのうちから、動画表示手段が表示する動画の撮影タイミングにおいて撮影範囲の周辺で集音された音声を認識したテキストデータを選択し、当該のテキストデータが表すテキストを表示させる。
【選択図】 図16
【特許請求の範囲】
【請求項1】
予め定められた撮影範囲を撮影した動画を表す動画データを取得する動画取得手段と、
前記動画取得手段により取得された動画データを記憶する動画記憶手段と、
前記撮影範囲の周辺で集音された音声を認識して生成されたテキストデータを取得するテキスト取得手段と、
前記テキスト取得手段により取得されたテキストデータを記憶するテキスト記憶手段と、
前記動画記憶手段に記憶された動画データが表す動画を表示させる動画表示手段と、
前記テキスト記憶手段により記憶されたテキストデータのうちから、前記動画表示手段が表示する動画の撮影タイミングにおいて前記撮影範囲の周辺で集音された音声を認識して生成されたテキストデータを選択し、当該のテキストデータが表すテキストを表示させるテキスト表示手段と、
を具備した動画再生システム。
【請求項2】
前記撮影範囲を動画撮影して動画データを生成する撮影手段、をさらに備え、
前記動画取得手段は、前記撮影手段により生成された動画データを取得する、
請求項1に記載の動画再生システム。
【請求項3】
前記撮影範囲の周辺で音声を集音する集音手段、をさらに備え、
前記テキスト取得手段は、前記集音手段により集音された音声を認識して得られたテキストデータを取得する、
請求項1に記載の動画再生システム。
【請求項4】
前記テキスト表示手段により表示されるテキストの内容の変更指示を入力する入力手段と、
前記入力手段により入力された変更指示に従って前記テキスト表示手段により表示されるテキストの内容を変更するように前記テキスト記憶手段に記憶されたテキストデータを更新する更新手段と、
をさらに具備する請求項1に記載の動画再生システム。
【請求項5】
前記動画取得手段、動画記憶手段、テキスト取得手段及び前記テキスト記憶手段を備えたサーバ装置と、
前記動画表示手段及び前記テキスト表示手段を備えた端末装置と、
を備えた請求項1に記載の動画再生システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、動画再生システムに関する。
【背景技術】
【0002】
店舗窓口などにおいて、会話を伴ってなされる店員による客対応のように、複数の人間どうしが対面してやり取りするケースにおいて、そのやり取りのようすを音声付きの動画ファイルとして記録することは既に行われている。
しかしながら、音声付きの動画ファイルからでは、ある発言がなされている箇所を確認しようとする場合には、確認作業者が画像及び音声を確認しながら探し出すしかなく、確認者の負担が過大であった。
このような事情から、会話を伴ってなされる複数の人間どうしの対面によるやり取りについての事後の確認作業を容易とすることが望まれていた。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第5206553号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明が解決しようとする課題は、会話を伴ってなされる複数の人間どうしの対面によるやり取りについての事後の確認作業を容易とすることができる動画再生システムを提供することである。
【課題を解決するための手段】
【0005】
実施形態の動画再生システムは、動画取得手段、動画記憶手段、テキスト取得手段、テキスト記憶手段、動画表示手段及びテキスト表示手段を備える。動画取得手段は、予め定められた撮影範囲を撮影した動画を表す動画データを取得する。動画記憶手段は、動画取得手段により取得された動画データを記憶する。テキスト取得手段は、撮影範囲の周辺で集音された音声を認識して生成されたテキストデータを取得する。テキスト記憶手段は、テキスト取得手段により取得されたテキストデータを記憶する。動画表示手段は、動画記憶手段に記憶された動画データが表す動画を表示させる。テキスト表示手段は、テキスト記憶手段により記憶されたテキストデータのうちから、動画表示手段が表示する動画の撮影タイミングにおいて撮影範囲の周辺で集音された音声を認識して生成されたテキストデータを選択し、当該のテキストデータが表すテキストを表示させる。
【図面の簡単な説明】
【0006】
図1】一実施形態に係る記録システムの概略構成と、当該記録システムに含まれる記録再生装置及び窓口端末の要部回路構成とを表すブロック図。
図2図1中の対応管理データのデータ構造を模式的に表す図。
図3】対応登録処理のフローチャート。
図4】登録画面の一例を表す図。
図5】記録再生処理のフローチャート。
図6】登録画面の一例を表す図。
図7】登録画面の一例を表す図。
図8】登録画面の一例を表す図。
図9】音声認識処理のフローチャート。
図10】開始指示画面の一例を表す図。
図11】停止指示画面の一例を表す図。
図12】検索処理のフローチャート。
図13】検索処理のフローチャート。
図14】検索処理のフローチャート。
図15】検索画面の一例を表す図。
図16】再生画面の一例を表す図。
図17】編集ウィンドウをポップアップ表示している画面の一例を表す図。
【発明を実施するための形態】
【0007】
以下、実施の形態の一例について図面を用いて説明する。なお、本実施の形態では、調剤薬局で調剤を受ける患者に対する窓口における店員による対応(以下、患者対応と称する)を記録する記録システムに動画再生システムを適用した例を説明する。なお調剤薬局で調剤を受ける患者は、調剤薬局の客である。
【0008】
図1は本実施形態に係る記録システム100の概略構成と、当該記録システム100に含まれる記録再生装置1及び窓口端末2の要部回路構成とを表すブロック図である。
記録システム100は、記録再生装置1、窓口端末2、カメラユニット3、スキャナユニット4及びマイクユニット5を含む。記録再生装置1、窓口端末2及びカメラユニット3は、通信ネットワーク200を介して通信可能とされている。スキャナユニット4及びマイクユニット5は、窓口端末2に接続されている。
【0009】
通信ネットワーク200としては、インターネット、VPN(virtual private network)、LAN、公衆通信網、移動体通信網、あるいはその他のコンピュータ通信用の様々なネットワークを、単独又は適宜に組み合わせて用いることができる。通信ネットワーク200としては、一例として、インターネットが用いられる。
【0010】
記録再生装置1は、窓口端末2が設置されている窓口での店員による患者対応を記録した動画ファイル及びテキストファイルを保存し、再生するための情報処理を行う情報処理装置である。
窓口端末2は、記録すべき患者対応が行われる窓口が設けられている薬局に設置される端末装置である。窓口端末2は、店員による患者対応に関わる後述の各種の情報処理を行う。
【0011】
カメラユニット3は、窓口における店員による患者対応の様子が映り込むように定められた撮影範囲を撮影するとともに、当該撮影範囲周辺の音声を入力し、音声付きの動画データを得る。カメラユニット3は、動画データを、通信ネットワーク200を介して記録再生装置1へと送信する。カメラユニット3としては例えば、いわゆるネットワークカメラと称される既存のユニットを用いることができる。つまりカメラユニット3は、撮影手段としての機能を備える。
スキャナユニット4は、バーコードスキャナを備え、このバーコードスキャナによりバーコードを読み取って得られたバーコードデータを出力する。
【0012】
マイクユニット5は、患者側マイクロホン及び店員側マイクロホンを備える。患者側マイクロホンは、窓口において患者が位置する側に指向方向を向けて設けられ、患者の音声が主体となる周囲音声を受けて音声データ(以下、患者音声データと称する)を出力する。店員側マイクロホンは、窓口の店員が位置する側に指向方向を向けて設けられ、店員の音声が主体となる周囲音声を受けて音声データ(以下、店員音声データと称する)を出力する。つまりマイクユニット5は、カメラユニット3による撮影範囲である窓口の周辺で音声を集音する集音手段の一例である。
【0013】
かくして、窓口端末2、カメラユニット3、スキャナユニット4及びマイクユニット5は、1つの窓口における客対応の記録のためのデバイスセットを構成する。図1では、1つのデバイスセットのみ表しているが、同様な複数のデバイスセットを複数の窓口にそれぞれ対応付けて設けてもよい。
【0014】
記録再生装置1は、プロセッサ11、メイン記憶ユニット12、補助記憶ユニット13、通信ユニット14及び伝送路15を備える。
プロセッサ11、メイン記憶ユニット12及び補助記憶ユニット13を伝送路15により接続することによって、記録再生装置1としての機能を実現するための情報処理を実行するコンピュータが構成されている。
【0015】
プロセッサ11は、上記コンピュータの中枢部分に相当する。プロセッサ11は、オペレーティングシステム及びアプリケーションプログラムなどの情報処理プログラムに従って、記録再生装置1としての各種の機能を実現するべく各部を制御するための情報処理を実行する。
【0016】
メイン記憶ユニット12は、上記コンピュータの主記憶部分に相当する。メイン記憶ユニット12は、読み出し専用のメモリ領域と書き換え可能なメモリ領域とを含む。メイン記憶ユニット12は、読み出し専用のメモリ領域では上記の情報処理プログラムの一部を記憶する。またメイン記憶ユニット12は、プロセッサ11が各部を制御するための処理を実行する上で必要なデータを読み出し専用のメモリ領域又は書き換え可能なメモリ領域で記憶する場合もある。メイン記憶ユニット12は、書き換え可能なメモリ領域を、プロセッサ11によるワークエリアとして使用する。
【0017】
補助記憶ユニット13は、上記コンピュータの補助記憶部分に相当する。補助記憶ユニット13は、例えばEEPROM(electric erasable programmable read-only memory)、HDD(hard disc drive)、SSD(solid state drive)、あるいはその他の周知の各種の記憶デバイスを利用できる。補助記憶ユニット13は、プロセッサ11が各種の処理を行う上で使用するデータと、プロセッサ11での処理によって生成されたデータとを記憶する。補助記憶ユニット13は、上記の情報処理プログラムを記憶する場合もある。補助記憶ユニット13は、本実施形態では、情報処理プログラムの1つである記録再生プログラムPRAを記憶する。記録再生プログラムPRAは、動画及びテキストの記録と、記録済みの動画及びテキストの再生とを行うための後述する情報処理(以下、記録再生処理と称する)の手順について記述されたアプリケーションプログラムである。補助記憶ユニット13の記憶領域の一部は、動画ファイル群FIA、テキストファイル群FIB及び対応管理データDAAを記憶する領域として利用される。動画ファイル群FIAは、カメラユニット3から送信された動画データを予め定められたファイルフォーマットでデータファイル化した動画ファイルを集積したデータファイル群である。テキストファイル群FIBは、窓口端末2から後述するように送信されるテキストファイルを集積したデータファイル群である。対応管理データDAAは、窓口で行われた患者対応を管理するためのデータである。対応管理データの詳細については後述する。
【0018】
通信ユニット14は、通信ネットワーク200を介したデータ通信を行うための通信処理を実行する。通信ユニット14は、例えばインターネット用の既存の通信デバイスを用いることができる。
伝送路15は、アドレスバス、データバス及び制御信号線等を含み、接続された各部の間で授受されるデータ及び制御信号を伝送する。
【0019】
記録再生装置1のハードウェアとしては、例えば汎用のサーバ装置用のコンピュータ装置を用いることができる。このときに記録再生装置1の譲渡は一般に、記録再生プログラムPRAが補助記憶ユニット13に記憶された状態にて行われる。しかし、記録再生プログラムPRAが補助記憶ユニット13に記憶されない状態の記録再生装置1のハードウェアと記録再生プログラムPRAとが個別に譲渡されてもよい。そして、補助記憶ユニット13に、任意の作業者の操作に応じて記録再生プログラムPRAが書き込まれてもよい。あるいは、記録再生プログラムPRAと同種の別バージョンの情報処理プログラムが補助記憶ユニット13に記憶された状態の記録再生装置1のハードウェアと記録再生プログラムPRAとが個別に譲渡されてもよい。そして、補助記憶ユニット13に既に記憶されている情報処理プログラムを置き換える形で、記録再生プログラムPRAが書き込まれてもよい。記録再生プログラムPRAの譲渡は、磁気ディスク、光磁気ディスク、光ディスク、半導体メモリなどのようなリムーバブルな記録媒体に記録して、あるいはネットワークを介した通信により行うことができる。記録再生プログラムPRAは、メイン記憶ユニット12に記憶されてもよい。
【0020】
窓口端末2は、プロセッサ21、メイン記憶ユニット22、補助記憶ユニット23、入出力ユニット24、インタフェースユニット25、通信ユニット26及び伝送路27を備える。
プロセッサ21、メイン記憶ユニット22、補助記憶ユニット23、通信ユニット26及び伝送路27の機能の概略は、プロセッサ11、メイン記憶ユニット12、補助記憶ユニット13、通信ユニット14及び伝送路15と同等である。ただし補助記憶ユニット23は、記録再生プログラムPRAを記憶せず、対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDを記憶する。対応登録プログラムPRBは、患者対応の実施状況の管理のために患者対応を登録するための後述する情報処理(以下、対応登録処理と称する)の手順について記述されたアプリケーションプログラムである。動画検索プログラムPRCは、記録再生装置1により記録された動画を検索する際のユーザインタフェースのための情報処理(以下、検索処理と称する)の手順について記述されたアプリケーションプログラムである。音声認識プログラムPRDは、マイクユニット5から出力される音声データを対象とした音声認識処理を制御するための後述する情報処理(以下、音声認識処理と称する)の手順について記述されたアプリケーションプログラムである。
【0021】
入出力ユニット24は、種々のユーザインタフェースデバイスの少なくとも1つを備える。入出力ユニット24は、ユーザインタフェースデバイスとしては、例えばタッチパネル及びサウンドデバイスを備える。入出力ユニット24は、ユーザインタフェースデバイスとして、例えばマウス、キーボードなどの様々なデバイスを備えても構わない。
【0022】
インタフェースユニット25は、外部のデバイスを着脱自在なポートを有し、当該のポートにスキャナユニット4及びマイクユニット5が接続されている。インタフェースユニット25は、これらのスキャナユニット4及びマイクユニット5などのポートに装着されたデバイスとのデータの授受をインタフェースする。インタフェースユニット25としては、例えばUSB(universal serial bus)規格などの既存の規格に準拠した既製のデバイスを用いることができる。
【0023】
窓口端末2のハードウェアとしては、デスクトップコンピュータ、ブック型コンピュータ、タブレットコンピュータ、あるいはスマートフォンなどの様々なタイプの情報処理端末を用いることが可能である。そして窓口端末2は一般に、対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDが補助記憶ユニット23に記憶されない状態のハードウェアと、各プログラムとが個別に譲渡されて、任意の作業者の操作に応じて各プログラムが補助記憶ユニット23に書き込まれる。しかし、対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDが補助記憶ユニット23に記憶された状態の窓口端末2の譲渡が行われても構わない。あるいは、対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDと同種の別バージョンの情報処理プログラムが補助記憶ユニット23に記憶された状態の窓口端末2のハードウェアと対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDが個別に譲渡されてもよい。そして、補助記憶ユニット23に既に記憶されている情報処理プログラムを置き換える形で、対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDが書き込まれてもよい。対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDの譲渡は、磁気ディスク、光磁気ディスク、光ディスク、半導体メモリなどのようなリムーバブルな記録媒体に記録して、あるいはネットワークを介した通信により行うことができる。対応登録プログラムPRB、動画検索プログラムPRC及び音声認識プログラムPRDは、メイン記憶ユニット22に記憶されてもよい。
【0024】
図2は対応管理データDAAのデータ構造を模式的に表す図である。
記録再生装置1が複数の窓口での患者対応についての記録を行うのであれば、対応管理データDAAはそれら複数の窓口のそれぞれに関連付けた複数が補助記憶ユニット13に記憶される。
対応管理データDAAは、フィールドFAA,FAB,FAC,…を含む。フィールドFAAには、関連付けられた窓口の識別子としての窓口コードがセットされる。フィールドFAB以降の各フィールドには、それぞれ対応データがセットされ得る。なお、対応管理データDAAにいくつの対応データが含まれるかは、記録再生装置1の動作状況に応じて変動する。対応データは、一度の患者対応に関連付けられ、当該の患者対応に関する諸データの集合である。
【0025】
図2に表すように1つの対応データは、フィールドFBA,FBB,FBC,FBDを含む。フィールドFBAには、関連付けられた患者対応の対象となる患者の識別子としての患者コードがセットされる。フィールドFBBには、関連付けられた患者対応の開始日時がセットされる。フィールドFBCには、関連付けられた患者対応に関する後述の編集テキストファイルを特定するためのファイルパス(以下、編集ファイルパスと称する)がセットされる。フィールドFBDには、関連付けられた患者対応に関する後述の原本テキストファイルを特定するためのファイルパス(以下、原本ファイルパスと称する)がセットされる。
【0026】
次に以上のように構成された記録システム100の動作について説明する。なお、以下に説明する各種の処理の内容は一例であって、一部の処理の順序の変更、一部の処理の省略、あるいは別の処理の追加などは適宜に可能である。
窓口端末2にてプロセッサ21は、入出力ユニット24での予め定められた操作によって対応登録処理の実行が指示されると、対応登録プログラムPRBに基づいて対応登録処理を開始する。
【0027】
図3は対応登録処理のフローチャートである。
ACT1としてプロセッサ21は、入出力ユニット24に備えられたタッチパネルに登録画面を表示させる。登録画面は、患者対応の開始登録を店員に行わせるためのGUI(graphical user interface)画面である。
【0028】
図4は登録画面の一例を表す図である。
なお、図4及びその他の図に表す各種の画面は、一部の表示オブジェクトの図示を省略している場合がある。
図4に表すように登録画面は、文字列CSA、画像IMA、ボタンBUA及びエリアARAを含む。
【0029】
文字列CSAは、対応の対象となる患者が持参した処方箋に表示されたバーコードを読み取るよう店員に案内する文字メッセージを表す。画像IMAは、店員が行うべき作業を店員にイメージさせるための画像である。ボタンBUAは、操作者が対応登録処理の終了を指示するためのソフトキーである。エリアARA内には、これまでに登録された患者対応の一覧が表される。なお、プロセッサ21がACT1を実行する際には、まだ患者対応が登録されていないので、エリアARAに表される一覧には、具体的な情報が本来は表されない。しかしながら図4は、エリアARAに表される一覧の様子を明らかとするために、具体的な情報を表す状態としている。エリアARAに表す一覧は、患者対応のそれぞれに関して、対応の対象となった患者の識別子としての患者コード、窓口コード及び対応日時を表す。
【0030】
なお、プロセッサ21は、登録画面を生成するに当たって、患者対応の一覧に表す情報を、補助記憶ユニット23に記憶された対応履歴データから取り出しても構わないし、他の情報処理装置により管理されている対応履歴データから取り出しても構わない。他の情報処理装置は、薬局における薬剤販売の管理処理を行うPOS(point-of-sale)サーバなどが利用できる。
【0031】
さて、患者対応を担当する店員は、新たな患者を対象とする患者対応を開始するならば、その患者が持ち込んだ処方箋に表示されているバーコードを、スキャナユニット4に備えられたバーコードスキャナに読み取らせる。スキャナユニット4は、バーコードスキャナによりバーコードをスキャンしてバーコードデータが得られると、このバーコードデータを出力する。
【0032】
プロセッサ21は、図3中のACT1として登録画面を表示したのちには、ACT2へと進む。
ACT2としてプロセッサ21は、コードが入力されるのを待ち受ける。そしてプロセッサ21は、上記のようにスキャナユニット4から出力されたバーコードデータがインタフェースユニット25により取り込まれたならば、コードが入力されたとしてYESと判定し、ACT3へと進む。
【0033】
ACT3としてプロセッサ21は、バーコードデータに含まれる患者コードの取得を試みる。つまりプロセッサ21は、処方箋に表示されるバーコードが表すバーコードデータ中の予め定められた位置に、処方箋による薬剤処方の対象となる患者の患者コードが含まれるので、上記の位置のデータを患者コードとして抽出する。
【0034】
ACT4としてプロセッサ21は、正規の患者コードが取得できたか否かを確認する。そしてプロセッサ21は、正規の患者コードを取得できたならばYESと判定してACT5へと進む。
ACT5としてプロセッサ21は、新たな患者対応の登録を記録再生装置1に対して要求する。プロセッサ21は例えば、当該の要求のための予め定められた要求データを、記録再生装置1に宛てて、通信ユニット26から通信ネットワーク200へと送出する。プロセッサ21は要求データには、例えば患者コード、窓口端末2が利用されている窓口の識別子としての窓口コード、対応日時を含める。対応日時としてどの日時を採用するかは、例えば対応登録プログラムPRBの作成者などにより適宜に定められてよいが、ACT2にてYESと判定したタイミング、あるいはACT3~ACT5のいずれかの実行タイミングに関する日時とすることが想定される。
なお、薬剤販売の管理処理を行うPOSサーバへの取引登録のための処方箋のバーコードスキャンと上記の店員によるバーコードスキャンとを共通としても構わない。そしてこの場合にプロセッサ21はACT5としては、POSサーバに対しても取引登録を要求する。
【0035】
上述の要求データが通信ネットワーク200により記録再生装置1へと伝送されると、当該要求データを通信ユニット14が受信する。
記録再生装置1にてプロセッサ11は、メンテナンス作業時などの特別な期間を除き、記録再生プログラムPRAに基づく記録再生処理を基本的に常時実行する。ただしプロセッサ11は、予め定められたサービス提供時間帯に限って記録再生処理を実行するのでも構わない。
【0036】
なお、記録システム100が、窓口端末2、カメラユニット3、スキャナユニット4及びマイクユニット5からなるデバイスセットを複数の窓口にそれぞれ対応付けて複数備える場合には、それら複数の窓口のそれぞれに関する記録再生処理を並行して実行する。ただし以下においては、図1に表す1つのデバイスセットが備えられた1つの窓口に関する記録再生処理のみを説明することとする。
【0037】
図5は記録再生処理のフローチャートである。
ACT11としてプロセッサ11は、録画を開始する。つまりプロセッサ11は、カメラユニット3から送信されて通信ネットワーク200により伝送されて通信ユニット14により受信された音声付きの動画データを、予め定められたマルチメディアフォーマットの動画ファイル化し、当該の動画ファイルを動画ファイル群FIAに追加してゆく。一例としてプロセッサ11は、動画データを5分毎に切り出して、1つのmp4形式の動画ファイルに変換する。なおプロセッサ11は、各動画ファイルには、その動画ファイルが表す動画の開始日時及び終了日時を表した時間情報も含める。
【0038】
かくしてプロセッサ11は、カメラユニット3から送信された動画データを取得し、この動画データを含んだ動画ファイルを補助記憶ユニット13に記憶させているのである。つまり記録再生プログラムPRAに基づく情報処理をプロセッサ11が実行することによって、プロセッサ11を中枢部分とするコンピュータは動画取得手段として機能する。また上記の動画ファイルを含んだ動画ファイル群FIAを記憶する補助記憶ユニット13は、動画記憶手段の一例である。
【0039】
そしてプロセッサ11は、上記のように開始した録画を行いつつ、ACT12,ACT13,ACT14,ACT15,ACT16,ACT17の待ち受け状態に移行する。このACT12~ACT17の待ち受け状態にてプロセッサ11は、登録要求、保存要求、検索要求、ファイル送信要求、原本ファイル要求及びテキスト更新要求のいずれかがなされるのを待ち受ける。
【0040】
そしてプロセッサ11は、前述のように登録を要求するために窓口端末2から送信された要求データが通信ユニット14により受信されたならば、登録が要求されたとしてACT12にてYESと判定し、ACT18へと進む。
ACT18としてプロセッサ11は、対応管理データDAAを更新する。つまりプロセッサ11は例えば、要求データに含まれる患者コード及び対応日時をフィールドFBA,FBBにセットする。なおプロセッサ11は、ここで生成する新たな対応データのフィールドFBC,FBDは、ブランクとするか、あるいは予め定められたnull値をセットする。プロセッサ11は、フィールドFBA,FBBのみからなる対応データを生成するのでも構わない。
【0041】
ACT19としてプロセッサ11は、登録要求に応じた登録が完了した旨の応答を窓口端末2に対して行う。プロセッサ11は例えば、完了応答のための予め定められた応答データを、窓口端末2に宛てて通信ユニット14から通信ネットワーク200へと送出する。この応答データが通信ネットワーク200により窓口端末2へと伝送されると、当該応答データを通信ユニット26が受信する。なおプロセッサ11はこののち、ACT12~
ACT17の待ち受け状態に戻る。
【0042】
窓口端末2にてプロセッサ21は、図3中のACT5として登録を要求したのちには、ACT6へと進む。
ACT6としてプロセッサ21は、上記の登録要求に際して通信エラーが発生したか否かを確認する。そしてプロセッサ21は、上記のように完了応答のための応答データが通信ユニット26により受信されたならば、通信エラーはないとしてNOと判定し、ACT7へと進む。
ACT7としてプロセッサ21は、今回の対応の登録結果を反映するべく登録画面を更新する。そしてプロセッサ21はこののち、ACT2の待ち受け状態に戻る。
【0043】
図6は登録画面の一例を表す図である。
図6図4に表す登録画面が表示されている状態から、「01234567890123456789」なる患者コードの患者への対応が開始された場合の例である。
図6に表す登録画面は、図4に表す登録画面に対してエリアARBが追加されて、このエリアARBにACT3で取得された患者コードが表されている。また図6に表す登録画面は、エリアARAに表される一覧の1行目に、今回の登録の結果を表している。
【0044】
プロセッサ21は一方、何らかの通信エラーが生じたことを確認したならばACT6にてYESと判定し、ACT8へと進む。
ACT8としてプロセッサ21は、通信エラーが発生したことを表すべく登録画面を更新する。
【0045】
図7は登録画面の一例を表す図である。
図7図4に表す登録画面が表示されている状態から、「01234567899999999999」なる患者コードの患者への対応の登録要求に際して通信エラーが発生した場合の例である。
図7に表す登録画面は、図4に表す登録画面に対してエリアARBが追加されて、このエリアARBにACT3で取得された患者コードが表されている。また図7に表す登録画面は、エリアARAに表される一覧の1行目に、今回の登録の結果を表していて、エラーとなったことを表すべく「NG」なる文字列を含む。また図7に表す登録画面は、図4に表す登録画面に対して文字列CSBが追加して表されている。文字列CSBは、通信エラーが生じた旨の文字メッセージを表す。
【0046】
プロセッサ21は、図3中のACT8にて登録画面を更新したのち、ACT9へと進む。
ACT9としてプロセッサ21は、通信エラー処理を行う。プロセッサ21はこの通信エラー処理としては例えば、入出力ユニット24に含まれるサウンドデバイスを動作させて、「通信エラーです」のような音声メッセージを出力するための処理を行う。あるいはプロセッサ21はこの通信エラー処理としては例えば、入出力ユニット24に含まれる警報用ランプを点滅させるための処理等の別の適宜の処理を行うのでも構わない。そしてプロセッサ21はこののち、ACT2の待ち受け状態に戻る。
【0047】
窓口端末2が用いられている窓口での対応の対象とならない処方箋に表示されたバーコードなど、不適正なバーコードがスキャンされた場合には、ACT3で取得されたコードが正規の患者コードではない。そこでこの場合にプロセッサ21は、図3中のACT4にてNOと判定し、ACT10へと進む。
ACT10としてプロセッサ21は、読み取りエラーが発生したことを表すべく登録画面を更新する。
【0048】
図8は登録画面の一例を表す図である。
図8図4に表す登録画面が表示されている状態から、「9999578e84636d0000xx」なる、正規の患者コードとは体系の異なるコードが取得された場合の例である。
図8に表す登録画面は、図4に表す登録画面に対してエリアARBが追加されて、このエリアARBにACT3で取得された患者コードが表されている。また図8に表す登録画面は、エリアARAに表される一覧の1行目に、今回の登録の結果を表していて、エラーとなったことを表すべく「NG」なる文字列を含む。また図8に表す登録画面は、図4に表す登録画面に対して文字列CSCが追加して表されている。文字列CSCは、登録に失敗した旨の文字メッセージを表す。
【0049】
プロセッサ21は、図3中のACT10にて登録画面を更新したのち、ACT11へと進む。
ACT11としてプロセッサ21は、読み取りエラー処理を行う。プロセッサ21はこの読み取りエラー処理としては例えば、入出力ユニット24に含まれるサウンドデバイスを動作させて、例えば「登録に失敗しました」のような音声メッセージを出力するための処理を行う。あるいはプロセッサ21はこの読み取りエラー処理としては例えば、入出力ユニット24に含まれる警報用ランプを点滅させるための処理等の別の適宜の処理を行うのでも構わない。そしてプロセッサ21はこののち、ACT2の待ち受け状態に戻る。
【0050】
対応の登録が成功したならば、そののちに店員は、処方箋に基づく患者対応を行う。この患者対応は例えば、一例として次のような手順で行われる。すなわち店員はまず、処方箋に基づく調剤を調剤担当者に依頼する。次に店員は、調剤が完了したならば、調剤済みの薬剤を、説明しながら患者に渡す。そして店員は、薬剤の代金を決済する。
【0051】
窓口端末2にてプロセッサ21は、入出力ユニット24での予め定められた操作によって音声認識処理の実行が指示されると、音声認識プログラムPRDに基づいて音声認識処理を開始する。なお店員は、音声認識処理を、患者対応が行われ得る期間中、常時実行させるのでも構わないし、必要に応じて適宜に実行開始させるのでも構わない。
【0052】
図9は音声認識処理のフローチャートである。
ACT31としてプロセッサ21は、入出力ユニット24に備えられたタッチパネルに開始指示画面を表示させる。開始指示画面は、音声認識の開始指示を受けるためのGUI画面である。
【0053】
図10は開始指示画面の一例を表す図である。
開始指示画面は、図10に表すような複数の表示オブジェクトを含むが、そのうちの1つはボタンBUBである。ボタンBUBは、操作者が音声認識の開始を指示するためのソフトキーである。
店員は、患者対応に関わる音声の音声認識を開始させたいならば、例えばボタンBUBをタップするなどの予め定められた操作によって音声認識の開始を指示する。
【0054】
プロセッサ21は、図9中のACT31として開始指示画面を表示させたのちには、ACT32へと進む。
ACT32としてプロセッサ21は、開始指示を待ち受ける。そしてプロセッサ21は、上記のように音声認識の開始が指示されたならばYESと判定し、ACT33へと進む。
【0055】
ACT33としてプロセッサ21は、音声認識を開始する。例えばプロセッサ21は、図1には示されないクラウドサーバに対して音声認識の開始を要求する。そしてこののちにプロセッサ21は、マイクユニット5から出力される患者音声データ及び店員音声データをクラウドサーバに送信する。なお、プロセッサ21が、音声認識プログラムPRD、あるいは別の情報処理プログラムに従って、患者音声データ及び店員音声データのそれぞれに関して、各音声データが表す音声に含まれる発話の内容を表したテキストデータを生成するための情報処理を実行するのでも構わない。
ACT34としてプロセッサ21は、入出力ユニット24に備えられたタッチパネルに停止指示画面を表示させる。停止指示画面は、音声認識の停止指示を受けるためのGUI画面である。
【0056】
図11は停止指示画面の一例を表す図である。
停止指示画面は、図11に表すような複数の表示オブジェクトを含むが、そのうちの1つはボタンBUCである。ボタンBUCは、操作者が音声認識の停止を指示するためのソフトキーである。
店員は、患者対応に関わる音声の音声認識を停止させたいならば、例えばボタンBUCをタップするなどの予め定められた操作によって音声認識の停止を指示する。
【0057】
プロセッサ21は、図9中のACT34として停止指示画面を表示させたのちには、ACT35へと進む。
ACT35としてプロセッサ21は、停止指示を待ち受ける。プロセッサ21は例えば、このように停止指示を待ち受けている間、マイクユニット5から出力される患者音声データ及び店員音声データをクラウドサーバに送信し続ける。そしてプロセッサ21は、上記のように音声認識の停止が指示されたならばYESと判定し、ACT36へと進む。
【0058】
ACT36としてプロセッサ21は、音声認識を停止する。つまりプロセッサ21は例えば、上述のクラウドサーバに対して、患者音声データ及び店員音声データの送信を終了した上で音声認識の停止を要求する。
ACT37としてプロセッサ21は、音声認識により生成されたテキストファイルを上述のクラウドサーバより取得する。なお、クラウドサーバが音声認識により生成したテキストデータをリアルタイムに送信するのであれば、プロセッサ21はACT35での待ち受け状態の間に当該のテキストデータを収集しておき、この収集したテキストデータをACT37としてテキストファイル化するのでも構わない。
【0059】
テキストファイルは、一例として「2022/01/01 16:10:10,1,いらっしゃいませ,2022/01/01 16:10:13,2,よろしくお願いします,2022/01/01 16:10:20,1,処方箋をお預かりします,2022/01/01 16:10:31,2,あ お薬手帳,2022/01/01 16:10:37,1,ありがとうございます,2022/01/01 16:10:40,1,お預かりします,2022/01/01 16:10:45,1,お座りになってお待ちください」のような内容を表す。ここで例えば「2022/01/01 16:10:10,1,いらっしゃいませ」は、「2022/01/01 16:10:10」が認識対象の音声の日時を、「1」が店員音声データからの認識結果であることを、そして「いらっしゃいませ」が認識結果であるテキストデータを、それぞれ表す。なお、「2,よろしくお願いします」のうちの「2」は、患者音声データからの認識結果であることを表す。
【0060】
ACT38としてプロセッサ21は、テキストファイルの保存を記録再生装置1に対して要求する。プロセッサ21は例えば、この要求のための要求データには、ACT37にて取得したテキストファイルと、音声認識の対象となった音声データが取得された期間を表すデータ(以下、認識期間データと称する)と、を含める。そしてプロセッサ21はこののち、ACT31以降の処理を上記と同様に繰り返す。
【0061】
さて記録再生装置1にてプロセッサ11は、テキストファイルの保存要求のための要求データが通信ユニット14により受信されると、保存要求がなされたとして図5中のACT13にてYESと判定し、ACT20へと進む。
ACT20としてプロセッサ11は、上記の窓口端末2からの要求に応じてテキストファイルを保存する。つまりプロセッサ11は例えば、要求データに含まれるテキストファイルを、同じく要求データに含まれる認識期間データと関連付けつつテキストファイル群FIBに、編集テキストファイルとして追加する。なお、編集テキストファイルは、後述する編集処理により更新され得るテキストファイルである。そしてプロセッサ11は、上記の保存した編集テキストファイルのファイルパスを編集ファイルパスとして、対応管理データDAAの末尾のフィールドにセットされている対応データのフィールドFBCにセットする。そしてプロセッサ11はこののち、ACT12~ACT17の待ち受け状態に戻る。
【0062】
かくしてプロセッサ11は、テキストデータの一例であるテキストファイルを取得し、このテキストファイルを補助記憶ユニット13に記憶させているのである。つまり記録再生プログラムPRAに基づく情報処理をプロセッサ11が実行することによって、プロセッサ11を中枢部分とするコンピュータはテキスト取得手段として機能する。また、テキストデータの一例であるテキストファイルを含んだテキストファイル群FIBする補助記憶ユニット13は、テキスト記憶手段の一例である。
このようにして、窓口での患者対応の様子が、音声ファイル付きの動画ファイル及び音声認識結果を表すテキストファイルとして記録されるとともに、患者対応の実施状況が対応管理データDAAとして記録される。
【0063】
窓口端末2にてプロセッサ21は、店員又は管理者などの過去の患者対応を確認しようとする確認作業者により入出力ユニット24での予め定められた操作によって検索処理の実行が指示されると、動画検索プログラムPRCに基づいて検索処理を開始する。
図12図13及び図14は検索処理のフローチャートである。
図12中のACT51としてプロセッサ21は、入出力ユニット24に備えられたタッチパネルに検索画面を表示させる。検索画面は、患者対応の検索のためのGUI画面である。
【0064】
図15は検索画面の一例を表す図である。
図15に表す検索画面は、エリアARC,ARD,ARE,ARF,ARG,ARH及びボタンBUD,BUEを含む。エリアARC,ARD,ARE,ARFは、入力済みの検索条件を表す。エリアARGは、検索条件に合致する患者対応の一覧を表す。エリアARHは、選択された1つの患者対応に関する情報を表す。ボタンBUDは、操作者が検索実行を指示するためのソフトキーである。ボタンBUEは、操作者が動画再生を指示するためのソフトキーである。
【0065】
なお、プロセッサ21がACT51を実行する際には、まだ検索条件が指定されておらず、検索も実行されていないので、エリアARC,ARD,ARE,ARF,ARG,ARHに表すべき情報はなく、それぞれブランクとされる。しかしながら図15は、エリアARC,ARD,ARE,ARF,ARG,ARHに各種情報が表される様子を明らかとするために、具体的な情報を表す状態としている。
【0066】
プロセッサ21は、図12中のACT51として検索画面を表示させたのちには、ACT52,ACT53の待ち受け状態へと進む。
ACT52及びACT53としてプロセッサ21は、検索の実行が指示されるか、検索条件の入力操作がなされるのを待ち受ける。
店員は、記録再生装置1により記録されている患者対応のうちからいくつかの患者対応を絞り込むための条件を検索条件として入力するための予め定められた操作を、例えば入出力ユニット24にて行う。これに応じてプロセッサ21はACT53にてYESと判定し、ACT54へと進む。
【0067】
ACT54としてプロセッサ21は、行われた操作に応じて検索条件を変更する。なおプロセッサ21は、変更後の検索条件を表すようにエリアARC,ARD,ARE,ARF,ARG,ARHに表す情報を適宜に更新する。そしてプロセッサ21はこののち、ACT52及びACT53の待ち受け状態に戻る。
【0068】
確認作業者は、所望の検索条件を設定し終えたならば、例えば検索画面中のボタンBUDをタップするなどの予め定められた操作によって検索の実行を指示する。これに応じてプロセッサ21はACT52にてYESと判定し、ACT55へと進む。
ACT55としてプロセッサ21は、記録再生装置1に対して検索を要求する。プロセッサ21は例えば、この要求のための要求データには、設定されている検索条件を表すデータを含める。
【0069】
さて記録再生装置1にてプロセッサ11は、検索要求のための要求データが通信ユニット14により受信されると、検索要求がなされたとして図5中のACT14にてYESと判定し、ACT21へと進む。
ACT21としてプロセッサ11は、要求データに含まれるデータが表す検索条件に合致する対応データを対応管理データDAAから全て抽出する。
【0070】
ACT22としてプロセッサ11は、上記の抽出した対応データを窓口端末2に対して通知する。つまりプロセッサ11は、上記の抽出した対応データを含んだ通知データを、窓口端末2に宛てて通信ユニット14から通信ネットワーク200へと送出する。プロセッサ11はこののち、ACT12~ACT17の待ち受け状態に戻る。
【0071】
上記の通知データが通信ネットワーク200により窓口端末2へと伝送されると、当該通知データを通信ユニット26が受信する。
窓口端末2にてプロセッサ21は、図12中のACT55として検索を要求したのちには、ACT56へと進む。
ACT56としてプロセッサ21は、上記の通知データに含まれる対応データのそれぞれの患者対応の一覧をエリアARGに表すように検索画面を更新する。なお、この段階での検索画面では、エリアARHには、患者対応に関する具体的な情報は表さない。
【0072】
更新後の検索画面を表示させた状態にてプロセッサ21は、ACT57,ACT58及びACT59の待ち受け状態となる。このACT57~ACT59の待ち受け状態にてプロセッサ21は、検索の実行が指示されるか、再生が指示されるか、あるいは検索条件の入力操作がなされるのを待ち受ける。
【0073】
確認作業者は、検索条件を変更して検索をやり直す場合には、検索条件を入力するための予め定められた操作を行う。これに応じてプロセッサ21はACT59にてYESと判定し、ACT60へと進む。
ACT60としてプロセッサ21は、行われた操作に応じて検索条件を変更する。なおプロセッサ21は、変更後の検索条件を表すようにエリアARC,ARD,ARE,ARF,ARG,ARHに表す情報を適宜に更新する。そしてプロセッサ21はこののち、ACT57~ACT59の待ち受け状態に戻る。
【0074】
確認作業者は、所望の検索条件に変更し終えたならば、例えば検索画面中のボタンBUDをタップするなどの予め定められた操作によって検索の実行を指示する。これに応じてプロセッサ21はACT57にてYESと判定し、ACT55以降を前述と同様に繰り返す。
【0075】
確認作業者は、確認すべき患者対応を見つけたならば、その患者対応を、予め定められた操作によって指定した上で、例えば検索画面内のボタンBUEをタップする等の予め定められた操作によって再生を指示する。この指示に応じてプロセッサ21は、ACT58にてYESと判定し、ACT61へと進む。
【0076】
ACT61としてプロセッサ21は、指定された患者対応に関する動画を再生するための再生処理を開始する。つまりプロセッサ21は例えば、指定された患者対応の対応日時を含む期間に関する動画ファイルを記録再生装置1から取得する。またプロセッサ21は、取得した動画ファイルの開始日時を含む認識期間を表す認識期間データが関連付けられた編集テキストファイルを記録再生装置1から取得する。具体的にはプロセッサ21は例えば、指定された患者対応の対応日時の通知を伴って、記録再生装置1に対してファイル送信を要求する。そしてプロセッサ21は、この要求に応じて記録再生装置1から送られる動画ファイル及び編集テキストファイルがそれぞれ表す動画及びテキストを、同じ日時に関するフレームとテキストとを同期させつつ表した再生画面を、入出力ユニット24に備えられたタッチパネルに表示させる。またプロセッサ21は、動画ファイルに含まれる音声データに基づく音声を入出力ユニット24に備えられたサウンドデバイスから出力させる。
【0077】
なお、記録再生装置1にてプロセッサ11は、上述のようなファイル送信の要求を受けると、図5中のACT15にてYESと判定し、ACT23へと進む。
ACT23としてプロセッサ11は、要求に応じた動画ファイル及び編集テキストファイルを動画ファイル群FIA及びテキストファイル群FIBから取り出して、それら動画ファイル及び編集テキストファイルを窓口端末2へと送信する。プロセッサ11は例えば、動画ファイルに含まれる時間情報が表す開始日時及び終了日時が、要求に際して通知された対応日時よりも前及び後である動画ファイルを送信対象として動画ファイル群FIAから取り出す。なおプロセッサ11は、送信対象とする上記の動画ファイルに対して、その前後のタイミングに関する予め定められた別の動画ファイルも送信対象として取り出しても構わない。つまり例えば、動画ファイルに含まれる時間情報が表す開始日時及び終了日時が、要求に際して通知された対応日時よりも前及び後である動画ファイルと、当該動画ファイルの直前及び直後のタイミングのそれぞれに関する1つずつの動画ファイルとを、いずれも送信対象として取り出しても構わない。またプロセッサ11は、窓口端末2に関連付けられた窓口コードがフィールドFAAにセットされている対応管理データDAAに含まれる対応データのうちから、要求に際して通知された対応日時がフィールドFBBにセットされている対応データを探し出す。そしてプロセッサ11は、該当の対応データのフィールドFBCにセットされている編集ファイルパスで特定される編集テキストファイルを送信対象としてテキストファイル群FIBから取り出す。プロセッサ11は、このように送信対象として取り出した動画ファイル及び編集テキストファイルを、窓口端末2に宛てて通信ユニット14から通信ネットワーク200へと送出する。プロセッサ11はこののち、ACT12~ACT17の待ち受け状態に戻る。
【0078】
図16は再生画面の一例を表す図である。
図16に表す再生画面は、図15に表す状態の検索画面におけるボタンBUEがタップされたことに応じて表示される画面の一例である。
再生画面は、エリアARI,ARJ及びボタンBUF,BUGを含む。なお再生画面は、図15に表す検索画面におけるエリアARC,ARD,ARE,ARF,ARG,ARH及びボタンBUDと同等の表示オブジェクトを含むが、これらの表示オブジェクトは例えばグレーアウト表示などとした上で、操作の対象とはしない。
【0079】
エリアARIは、再生中の動画をハッチングで表すエリア内に表示するとともに、動画再生をコントロールするための複数のGUIオブジェクトを表す。エリアARJは、編集テキストファイルが表すテキストを表す。ボタンBUFは、操作者が編集ウィンドウの表示を指示するためのソフトキーである。ボタンBUGは、操作者が検索画面の表示を指示するためのソフトキーである。
【0080】
かくしてプロセッサ21は、再生画面を表示させることにより、動画データである動画ファイルが表す動画を表示させている。かくして、動画検索プログラムPRCに基づく情報処理をプロセッサ21が実行することによって、プロセッサ21を中枢部分とするコンピュータは、動画表示手段として機能する。またプロセッサ21は、再生画面を表示させることにより、表示させている動画の撮影タイミングにおいて集音された音声を表したテキストを表示させている。かくして、動画検索プログラムPRCに基づく情報処理をプロセッサ21が実行することによって、プロセッサ21を中枢部分とするコンピュータは、テキスト表示手段として機能する。
確認作業者は、サウンドデバイスから出力される音声と、エリアARJに表されたテキストとに基づいて、患者対応における店員及び患者の発話内容を確認することができる。
【0081】
ただし、エリアARJに表されるテキストは、音声認識の誤りにより実際の発話内容と異なる恐れがある。確認作業者は、そのような誤りに気づき、その誤りを訂正すべきであると考えたならば、例えばボタンBUFをタップする等の予め定められた操作により編集ウィンドウの表示を指示する。なお確認作業者は、検索画面を改めて確認したいならば、例えばボタンBUGをタップするなどの予め定められた操作により検索画面の表示を指示する。
【0082】
プロセッサ21は、図12中のACT61として再生処理を開始したのちには、当該再生処理を継続しつつ、ACT62及びACT63の待ち受け状態となる。このACT62及びACT63の待ち受け状態にてプロセッサ21は、編集ウィンドウ又は検索画面の表示指示を待ち受ける。そしてプロセッサ21は、上述のように検索画面の表示が指示されたならば、ACT63にてYESと判定し、ACT64へと進む。
ACT64としてプロセッサ21は、ACT61にて再生画面の表示前に表示させていた検索画面を再度タッチパネルに表示させる。そしてプロセッサ21はこののち、ACT57~ACT59の待ち受け状態に戻る。
【0083】
プロセッサ21は、上述のように編集ウィンドウの表示が指示されたならば、ACT62にてYESと判定し、図13中のACT71へと進む。
ACT71としてプロセッサ21は、入出力ユニット24に備えられたタッチパネルに編集ウィンドウをポップアップ表示させる。編集ウィンドウは、編集テキストファイルが表すテキストを編集するためのGUI画面である。
【0084】
図17は編集ウィンドウWIAをポップアップ表示している画面の一例を表す図である。
編集ウィンドウWIAは、エリアARK及びボタンBUH,BUI,BUJ,BUK,BULを含む。エリアARKは、編集ウィンドウの表示指示がなされたときに再生画面のエリアARJに表されていたテキストの全体を表す。ボタンBUHは、操作者がテキスト編集の開始を指示するためのソフトキーである。ボタンBUIは、操作者が編集済みのテキストの保存を指示するためのソフトキーである。ボタンBUJは、操作者がテキスト編集の終了を指示するためのソフトキーである。ボタンBUKは、エリアARKに編集済みのテキストが表示されているときに、操作者が編集前の原本のテキストの表示を指示するためのソフトキーである。ボタンBULは、エリアARKに表示されたテキストを表すテキストファイルを記録システム100の外部へと送信することを操作者が指示するためのソフトキーである。
【0085】
プロセッサ21は、図13のACT71として編集ウィンドウを表示させたのちには、ACT72,ACT73,ACT74及びACT75の待ち受け状態となる。このACT72~ACT75の待ち受け状態にてプロセッサ21は、終了指示、原本表示指示、送信指示及び編集開始指示のいずれかがなされるのを待ち受ける。
【0086】
確認作業者は、エリアARKに表されたテキストを確認し、編集する必要が無いと判断したならば、例えばボタンBUJにタップするなどの予め定められた操作により終了を指示する。これに応じてプロセッサ21は、ACT72にてYESと判定し、ACT76へと進む。
ACT76としてプロセッサ21は、編集ウィンドウWIAを閉じる。そしてプロセッサ21は、図12中のACT62及びACT63の待ち受け状態に戻る。
【0087】
編集ウィンドウWIAのエリアARKに表されたテキストは、過去に編集されている可能性がある。そのような編集がなされる前の原本を確認したいと考えるならば確認作業者は、例えばボタンBUKをタップするなどの予め定められた操作により原本表示を指示する。これに応じてプロセッサ21は、ACT73にてYESと判定し、ACT77へと進む。
【0088】
ACT77としてプロセッサ21は、原本のテキストを表示するための原本表示処理を実行する。具体的にはプロセッサ21は例えば、原本テキストファイルを記録再生装置1に対して要求し、これに応じて記録再生装置1から原本テキストファイルが送られてきたならば、その原本テキストファイルが表すテキストを表した新たなウィンドウを編集ウィンドウWINに重ねてポップアップ表示させる。プロセッサ21はこののち、原本の表示終了の指示を待って上記のウィンドウを閉じた上で、ACT72~ACT75の待ち受け状態に戻る。
【0089】
なお、記録再生装置1にてプロセッサ11は、上記の原本テキストファイルの要求を受けると、図5中のACT16にてYESと判定し、ACT24へと進む。
ACT24としてプロセッサ11は、要求に合致する原本テキストファイルをテキストファイル群FIBから取得し、当該の原本テキストファイルを窓口端末2へと送信する。具体的にはプロセッサ11は例えば、ACT23で見つけた対応データのフィールドFBDにセットされている原本ファイルパスで特定される原本テキストファイルをテキストファイル群FIBから取り出す。そしてプロセッサ11は、当該の原本テキストファイルを、窓口端末2に宛てて通信ユニット14から通信ネットワーク200へと送出する。なお、ACT23で送信した編集テキストファイルが、一度も編集されていない場合には、ACT23で見つけた対応データのフィールドFBDに原本ファイルパスがセットされていない。この場合には、ACT23で送信した編集テキストファイルが原本テキストファイルと同等であるから、プロセッサ21はACT23で送信した編集テキストファイルを原本テキストファイルとして送信する。あるいはプロセッサ11は、原本ファイルパスがセットされていない場合には、原本テキストファイルを送信するのに代えて、原本テキストファイルが存在しないことを通知するのでも構わない。プロセッサ11はこののち、ACT12~ACT17の待ち受け状態に戻る。
【0090】
なお、上記のように原本テキストファイルが存在しないことがプロセッサ11により通知された場合、窓口端末2にてプロセッサ21は図13中のACT77では、エリアARKに既に表されているテキストが原本であることを確認作業者に認識させるための表示などを入出力ユニット24に行わせる。
【0091】
確認作業者は、エリアARKに表示されたテキストを表すテキストファイルを記録システム100の外部へと送信することを決定したならば、例えば編集ウィンドウにおけるボタンBULをタップするなどの予め定められた操作によって送信を指示する。プロセッサ21は、この指示を受けると、図13中のACT74にてYESと判定し、ACT78へと進む。
【0092】
ACT78としてプロセッサ21は、エリアARKに表示されたテキストを表すテキストファイルを予め定められた送信先へと送信する。なおプロセッサ21は、送信先の指定を受け付けた上で、この指定された送信先へとテキストファイルを送信するのでも構わない。そしてプロセッサ21はこののち、ACT82~ACT86の待ち受け状態に戻る。
【0093】
確認作業者は、エリアARKに表されたテキストを確認し、編集することを決定したならば、編集ウィンドウWIA中のボタンBUHをタップするなどの予め定められた操作によって編集開始を指示する。プロセッサ21は、この指示を受けると、ACT75にてYESと判定し、図14中のACT81へと進む。
【0094】
ACT81としてプロセッサ21は、エリアARKに表されたテキストを表すテキストファイルをコピーして作業用ファイルを生成する。そしてこの後にプロセッサ21は、ACT82,ACT83,ACT84,ACT85及びACT86の待ち受け状態となる。このACT82~ACT86の待ち受け状態にてプロセッサ21は、終了指示、原本表示指示、送信指示、編集操作、あるいは保存指示のいずれかがなされるのを待ち受ける。
【0095】
プロセッサ21は、原本表示指示がなされたならばACT83にてYESと判定してACT87へと進み、図13中のACT77と同様に原本表示処理を実行する。そしてプロセッサ21はこののち、ACT82~ACT86の待ち受け状態に戻る。
プロセッサ21は、送信指示がなされたならば、ACT84にてYESと判定してACT88へと進み、図13中のACT78と同様にしてテキストファイルを送信する。ただしここではプロセッサ21は、作業用ファイルを送信するテキストファイルとする。そしてプロセッサ21はこののち、ACT82~ACT86の待ち受け状態に戻る。
【0096】
確認作業者は、エリアARKに表されたテキストを編集するならば、そのための予め定められた操作を行う。この操作は例えば、既存の様々な情報処理装置でテキスト編集のために行われている操作と同様であってよい。例えば確認作業者は、「あ お薬手帳」が誤って「青薬手帳」と表されていることに気づいたならば、「青」を「あ お」に置き換えるための操作を行う。プロセッサ21は、このような編集操作がなされたことに応じて、ACT85にてYESと判定し、ACT89へと進む。このときプロセッサ21は、編集操作として、テキストの内容の変更指示を入力していることになる。つまり動画検索プログラムPRCに基づく情報処理をプロセッサ21が実行することによって、プロセッサ21を中枢部分とするコンピュータは入力手段として機能する。
【0097】
ACT89としてプロセッサ21は、操作に応じて作業用ファイルを更新する。
ACT90としてプロセッサ21は、更新後の作業用ファイルが表すテキストをエリアARKに表すように編集ウィンドウWIAを更新する。そしてプロセッサ21はこののち、ACT82~ACT86の待ち受け状態に戻る。
【0098】
確認作業者は、編集を終えて、その編集結果を保存することを決定したならば、例えば編集ウィンドウWIAにてボタンBUIにタップするなどの予め定められた操作によって保存を指示する。プロセッサ21はこの保存指示がなされるとACT86にてYESと判定し、ACT91へと進む。
ACT91としてプロセッサ21は、作業用ファイルの通知を伴って、編集テキストファイルの更新を記録再生装置1に対して要求する。プロセッサ21はこののち、ACT82~ACT86の待ち受け状態に戻る。
【0099】
記録再生装置1にてプロセッサ11は、上記の更新要求を受けると、図5中のACT17にてYESと判定し、ACT25へと進む。
ACT25としてプロセッサ11は、更新すべき編集テキストデータに対応する原本テキストファイルが既に保存されているか否かを確認する。プロセッサ11は例えば、ACT23で見つけた対応データのフィールドFBDに原本ファイルパスがセットされているか否かを確認する。そしてプロセッサ11は、該当の原本ファイルパスがセットされていないならば、原本テキストファイルが保存されていないとしてNOと判定し、ACT26へと進む。
【0100】
ACT26としてプロセッサ11は、ACT23で送信した編集テキストファイルをテキストファイル群FIB内でコピー保存し、これを原本テキストファイルとする。さらにプロセッサ11は、当該の原本テキストファイルのファイルパスを、ACT23で見つけた対応データのフィールドFBDに原本ファイルパスとしてセットする。
【0101】
プロセッサ11は、ACT26を終えるとACT27へと進む。またプロセッサ11は、ACT25にて該当の原本ファイルパスがセットされていることを確認できたならば、原本テキストファイルが保存されているとしてYESと判定し、ACT26をパスしてACT27へと進む。
【0102】
ACT27としてプロセッサ11は、ACT23で見つけた対応データのフィールドFBCにセットされている編集ファイルパスにより特定される編集テキストファイルに、通知された作業用ファイルを上書き保存することにより、編集テキストファイルを書き換える。そしてプロセッサ11はこののち、ACT12~ACT17の待ち受け状態に戻る。
かくして記録再生プログラムPRAに基づく情報処理をプロセッサ11が実行することによって、プロセッサ11を中枢部分とするコンピュータは更新手段として機能する。
【0103】
確認作業者は、編集を終了するならば、例えば編集ウィンドウWIAに表されたボタンBUJにタップするなどの予め定められた操作により終了を指示する。これに応じてプロセッサ21は、図14中のACT82にてYESと判定し、ACT92へと進む。
ACT92としてプロセッサ21は、編集ウィンドウWIAを閉じる。そしてプロセッサ21は、図12中のACT62及びACT63の待ち受け状態に戻る。なお、このときに作業用ファイルの更新が行われているにも関わらず、その保存がなされていない場合には、これまでに確認作業者により行われた編集が破棄されることになる。そこで、保存していない編集が無効となる旨を確認作業者に報知するようにしても構わない。そしてさらに、終了するか否かを確認作業者に指定させて、終了しないことが指定された場合には図14中のACT82~ACT86の待ち受け状態に戻るようにしても構わない。
【0104】
以上のように記録システム100は、患者対応の様子を撮影した動画と、その患者対応に関わる発生を音声認識したテキストとを、時間的に同期させつつ表示する。かくして、会話を伴ってなされる複数の人間どうしの対面によるやり取りについての事後の確認作業を容易とすることができる。
【0105】
また記録システム100は、患者対応の実施状況を記録しておき、過去の患者対応の1つが指定されると、その患者対応に関する動画及びテキストを表示する。このため、確認する必要のある患者対応に関する発話内容を、動画と併せて容易に確認できる。
【0106】
また記録システム100は、確認作業者による指示に応じてテキストを更新する。このため、音声認識に誤りが生じていても、それに伴うテキストの不備を確認作業者が容易に修正できる。
【0107】
この実施形態は、次のような種々の変形実施が可能である。
再生画面の生成を記録再生装置1にてプロセッサ11が行っても構わない。この場合は、動画表示手段及びテキスト表示手段としての機能は、プロセッサ11を中枢とするコンピュータにより実現されることになる。
【0108】
動画ファイル群FIA及びテキストファイル群FIBを、窓口端末2にて補助記憶ユニット23に記憶させるようにし、記録再生処理を窓口端末2にてプロセッサ21が行っても構わない。この場合は、動画取得手段及びテキスト取得手段としての機能は、プロセッサ21を中枢とするコンピュータにより実現されることになる。またこの場合、編集結果を反映するためのテキストファイルの更新はプロセッサ21により行われるべきである。そしてそのようにテイストファイルの更新が実行される場合には、更新手段としての機能は、プロセッサ21を中枢とするコンピュータにより実現されることになる。
【0109】
検索処理及び音声認識処理の少なくとも一方は、窓口端末2とは別の情報処理装置で実行されても構わない。つまり、窓口端末2とは別の情報処理装置により検索処理が実行されても構わない。また、窓口端末2とは別の情報処理装置により音声認識処理が実行されても構わない。そしてこの場合において、検索処理を実行する情報処理装置と、音声認識処理とは、同一であっても、あるいは別々であっても構わない。
【0110】
プロセッサ11は、ACT20においては、原本テキストファイルのみをテキストファイル群FIBに追加するのでもよい。そしてプロセッサ11は、編集処理がなされた場合にその編集を反映した編集テキストファイルを生成して、テキストファイル群FIBに追加するのでも構わない。
【0111】
情報処理によりプロセッサ11、21が実現する各機能は、その一部又は全てをロジック回路などのようなプログラムに基づかない情報処理を実行するハードウェアにより実現することも可能である。また上記の各機能のそれぞれは、上記のロジック回路などのハードウェアにソフトウェア制御を組み合わせて実現することも可能である。
【0112】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0113】
1…記録再生装置、2…窓口端末、3…カメラユニット、4…スキャナユニット、5…マイクユニット、11,21…プロセッサ、12,22…メイン記憶ユニット、13,23…補助記憶ユニット、14,26…通信ユニット、15,27…伝送路、24…入出力ユニット、25…インタフェースユニット、100…記録システム、200…通信ネットワーク。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17