特開 2024-137503 モデル生成方法及びモデル生成プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024137503

(43)【公開日】2024-10-07

(54)【発明の名称】モデル生成方法及びモデル生成プログラム

(51)【国際特許分類】

   G16H 10/00 20180101AFI20240927BHJP

【ＦＩ】

G16H10/00

【審査請求】未請求

【請求項の数】6

【出願形態】ＯＬ

(21)【出願番号】P 2023049040

(22)【出願日】2023-03-24

【国等の委託研究の成果に係る記載事項】（出願人による申告）令和３年度、国立研究開発法人情報通信研究機構、「高度通信・放送研究開発委託研究／ウイルス等感染症対策に資する情報通信技術の研究開発 課題Ａ ウイルス等感染症により発生するパンデミック対策に資するＩＣＴ 副題：介護現場感染症対策支援のためのネットワーク化とＡＩプラットフォーム」、産業技術力強化法第１７条の適用を受ける特許出願

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】長坂 知美

(72)【発明者】

【氏名】石黒 由紀

(72)【発明者】

【氏名】千葉 祥樹

(72)【発明者】

【氏名】蔦谷 雄一

(72)【発明者】

【氏名】渡邊 祥太

【テーマコード（参考）】

5L099

【Ｆターム（参考）】

5L099AA21

(57)【要約】      （修正有）

【課題】未知の異常の判定結果の根拠を提示するモデル生成方法およびモデル生成プログラムを提供する。
【解決手段】教師ありの機械学習により、生体情報が既知または未知の異常であるかを判定する症状判定モデルを生成するモデル生成機能を提供するサーバ装置において、生成部１５Ｆは、生体情報の異常が検知済みである異常データまたは異常データの特徴が数値化された特徴量が加工された加工データのうち、異常クラスが既知である第１の異常クラスに対応するクラスタに分類されず、かつ、異常が検知される加工データを、異常クラスが未知である第２の異常クラスの異常データと特定し、特定した第２の異常クラスの異常データと、第１の異常クラスの異常データとに基づいて、生体情報を入力として第１の異常クラスまたは前記第２の異常クラスのラベルを出力する異常検知モデルＭ１を生成する。
【選択図】図２

【特許請求の範囲】

【請求項1】

生体情報の異常が検知済みである異常データまたは前記異常データの特徴が数値化された特徴量が加工された加工データのうち、異常クラスが既知である第１の異常クラスに対応するクラスタに分類されず、かつ前記異常が検知される加工データを、前記異常クラスが未知である第２の異常クラスの異常データと特定し、
特定された前記第２の異常クラスの異常データと、前記第１の異常クラスの異常データとに基づいて、生体情報を入力として前記第１の異常クラスまたは前記第２の異常クラスのラベルを出力する機械学習モデルを生成する、
処理をコンピュータが実行することを特徴とするモデル生成方法。

【請求項2】

前記生成する処理は、前記第２の異常クラスおよび前記第１の異常クラスの異常データの特徴量を含む特徴ベクトルを説明変数とし、前記異常クラスのラベルを目的変数とし、前記機械学習モデルのパラメータを訓練する処理を含む、
ことを特徴とする請求項１に記載のモデル生成方法。

【請求項3】

予測対象とする生体情報が入力された前記機械学習モデルが出力するラベルに基づいて前記予測対象とする生体情報が前記第１の異常クラスまたは前記第２の異常クラスであるのかを判定し、
前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果を出力する、
処理を前記コンピュータがさらに実行することを特徴とする請求項１または２に記載のモデル生成方法。

【請求項4】

前記機械学習モデルおよび前記予測対象とする生体情報を機械学習モデルの解釈ツールに適用する処理を前記コンピュータがさらに実行し、
前記出力する処理は、前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果と、前記解釈ツールの適用結果とを出力する処理を含む、
ことを特徴とする請求項３に記載のモデル生成方法。

【請求項5】

前記解釈ツールは、ＬＩＭＥ（Local Interpretable Model-agnostic Explanations）またはＳＨＡＰ（Shapley Additive exPlanations）であることを特徴とする請求項４に記載のモデル生成方法。

【請求項6】

生体情報の異常が検知済みである異常データまたは前記異常データの特徴が数値化された特徴量が加工された加工データのうち、異常クラスが既知である第１の異常クラスに対応するクラスタに分類されず、かつ前記異常が検知される加工データを、前記異常クラスが未知である第２の異常クラスの異常データと特定し、
特定された前記第２の異常クラスの異常データと、前記第１の異常クラスの異常データとに基づいて、生体情報を入力として前記第１の異常クラスまたは前記第２の異常クラスのラベルを出力する機械学習モデルを生成する、
処理をコンピュータに実行させることを特徴とするモデル生成プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、モデル生成方法及びモデル生成プログラムに関する。

【背景技術】

【0002】

介護や医療などの現場では、被介護者や患者の体調変化を検知することの重要性が高まっている。このような体調変化の検知には、各種の異常の予兆や兆候が症状として現れるバイタルデータなどの生体情報が用いられる。

【0003】

さらに、新型コロナウイルス感染症などの未知の感染症の想定を実現する側面から、既知の症状と未知の症状とを切り分けるために、既知の異常データをクラスタリングするクラスタリングモデルが用いられる場合がある。このようなクラスタリングモデルにより、入力されたバイタルデータが既知の異常または未知の異常に分類される。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】特開２０２１－９９８３４号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

しかしながら、上記のクラスタリングモデルは、いわゆる教師なし学習で実現されるので、未知の異常の判定結果の根拠を提示することが困難である側面がある。

【0006】

１つの側面では、本発明は、未知の異常の判定結果の根拠を提示できるモデル生成方法及びモデル生成プログラムを提供することを目的とする。

【課題を解決するための手段】

【0007】

一態様では、モデル生成方法では、生体情報の異常が検知済みである異常データまたは前記異常データの特徴が数値化された特徴量が加工された加工データのうち、異常クラスが既知である第１の異常クラスに対応するクラスタに分類されず、かつ前記異常が検知される加工データを、前記異常クラスが未知である第２の異常クラスの異常データと特定し、特定された前記第２の異常クラスの異常データと、前記第１の異常クラスの異常データとに基づいて、生体情報を入力として前記第１の異常クラスまたは前記第２の異常クラスのラベルを出力する機械学習モデルを生成する、処理をコンピュータが実行する。

【発明の効果】

【0008】

未知の異常の判定結果の根拠の提示を実現できる。

【図面の簡単な説明】

【0009】

【図1】図１は、サーバ装置の機能構成例を示すブロック図である。

【図2】図２は、各モデルの訓練例を示す模式図である。

【図3】図３は、ランダムフォレストの一例を示す図である。

【図4】図４は、症状判定の処理例を示す模式図である。

【図5】図５は、レポートの表示例を示す図である。

【図6】図６は、レポートの表示例を示す図である。

【図7】図７は、クラスタリング結果の一側面を示す図である。

【図8】図８は、クラスタリング結果の一側面を示す図である。

【図9】図９は、第１及び第２の訓練処理の手順を示すフローチャートである。

【図10】図１０は、第３の訓練処理の手順を示すフローチャートである。

【図11】図１１は、症状判定処理の手順を示すフローチャートである。

【図12】図１２は、ハードウェア構成例を示す図である。

【発明を実施するための形態】

【0010】

以下、添付図面を参照して本願に係るモデル生成方法及びモデル生成プログラムの実施例について説明する。各実施例には、あくまで１つの例や側面を示すに過ぎず、このような例示により数値や機能の範囲、利用シーンなどは限定されない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。

【実施例0011】

＜全体構成＞
図１は、サーバ装置１０の機能構成例を示すブロック図である。図１に示すサーバ装置１０は、未知の異常の判定結果の根拠の提示を実現する側面から、教師ありの機械学習により、生体情報が既知または未知の異常であるかを判定する症状判定モデルを生成するモデル生成機能を提供するものである。

【0012】

このようなモデル生成機能とともに、サーバ装置１０は、上記のモデル生成機能により生成された症状判定モデルを用いて、予測対象とする生体情報が既知または未知の異常であるかを判定する症状判定機能をさらに提供することもできる。

【0013】

これらモデル生成機能および症状判定機能は、介護事業者を支援する介護支援サービスの一機能としてパッケージ化され得る。このような介護支援サービスにおけるモデル生成機能および症状判定機能の利用シーンのあくまで一例として、介護の現場のスタッフに被介護者の体調変化を通知する場面が挙げられる。

【0014】

サーバ装置１０は、ＳａａＳ（Software as a Service）型のアプリケーションとして実現することで、上記の介護支援サービスをクラウドサービスとして提供することもできる。この他、サーバ装置１０は、上記の介護支援サービスをオンプレミスに提供するサーバとして実現できる。

【0015】

図１に示すように、サーバ装置１０は、ネットワークＮＷを介して、携帯端末装置５０およびスタッフ端末７０と通信可能に接続され得る。例えば、ネットワークＮＷは、有線または無線を問わず、インターネットやＬＡＮ（Local Area Network）などの任意の種類の通信網であってよい。なお、図１には、１つのサーバ装置１０につき１つの携帯端末装置５０および１つのスタッフ端末７０が接続される例を挙げたが、任意の台数の携帯端末装置５０およびスタッフ端末７０が接続されることを妨げない。

【0016】

携帯端末装置５０は、被介護者３により携帯される端末装置である。携帯端末装置５０は、図１に示すように、被介護者３により装着されるウェアラブル端末３０から生体情報を取得することができる。なお、ウェアラブル端末３０および携帯端末装置５０の間の通信は、近距離無線通信により実現されてもよいし、ケーブルを介するシリアル通信により実現されてもよい。

【0017】

これらウェアラブル端末３０および携帯端末装置５０は、任意のタイミングで互いのデータを同期させることができる。例えば、ウェアラブル端末３０が搭載するバイタルセンサにより測定されたバイタルデータから被介護者３の起床が検出された場合、睡眠時の被介護者３のバイタルデータがウェアラブル端末３０から携帯端末装置５０へ伝送される。この他、被介護者３の起床後には、一定の周期、例えば１時間ごとに、被介護者３のバイタルデータがウェアラブル端末３０から携帯端末装置５０へ伝送される。

【0018】

このようにウェアラブル端末３０からバイタルデータが伝送された携帯端末装置５０は、当該バイタルデータをサーバ装置１０へアップロードすることができる。例えば、バイタルデータには、心拍数や体温、血中酸素飽和濃度、血圧などのバイタルの時系列データが含まれてよい。なお、ここでは、生体情報の一例として、バイタルデータを例に挙げたが、バイタルデータに限定されず、他の生体情報、例えば顔画像や虹彩などであってもよい。

【0019】

スタッフ端末７０は、介護事業者のスタッフにより使用される端末装置である。例えば、スタッフ端末７０は、パーソナルコンピュータを始め、携帯端末装置やウェアラブル端末などの任意のコンピュータにより実現されてよい。

【0020】

＜サーバ装置１０の構成＞
次に、本実施例に係るサーバ装置１０の機能構成例について説明する。図１には、サーバ装置１０が有する介護支援サービスに関連するブロックが模式化されている。図１に示すように、サーバ装置１０は、通信制御部１１と、記憶部１３と、制御部１５とを有する。なお、図１には、上記の介護支援サービスに関連する機能部が抜粋して示されているに過ぎず、図示以外の機能部がサーバ装置１０に備わることとしてもよい。

【0021】

通信制御部１１は、携帯端末装置５０やスタッフ端末７０などの他の装置との間の通信を制御する機能部である。あくまで一例として、通信制御部１１は、ＬＡＮカードなどのネットワークインタフェイスカードにより実現され得る。１つの側面として、通信制御部１１は、携帯端末装置５０からバイタルデータのアップロードなどを受け付けたり、あるいは被介護者の体調変化の通知などをスタッフ端末７０へ出力したりする。

【0022】

記憶部１３は、各種のデータを記憶する機能部である。一例として、記憶部１３は、サーバ装置１０の内部、外部または補助のストレージにより実現される。例えば、記憶部１３は、バイタルＤＢ（DataBase）１４を記憶する。なお、バイタルＤＢ１４の説明は、バイタルＤＢ１４の参照、生成または登録が実行される場面で併せて説明することとする。

【0023】

制御部１５は、サーバ装置１０の全体制御を行う機能部である。例えば、制御部１５は、ハードウェアプロセッサにより実現され得る。図１に示すように、制御部１５は、取得部１５Ａと、設定部１５Ｂと、第１の訓練部１５Ｃと、第２の訓練部１５Ｄと、加工部１５Ｅと、生成部１５Ｆと、第３の訓練部１５Ｇと、判定部１５Ｈとを有する。なお、制御部１５は、ハードワイヤードロジックなどにより実現されてもよい。

【0024】

取得部１５Ａは、被介護者３の生体情報を取得する処理部である。あくまで一例として、取得部１５Ａは、ネットワークＮＷを介して、携帯端末装置５０から被介護者３のバイタルデータを取得することができる。このようなバイタルデータの情報ソースは、携帯端末装置５０に限定されない。例えば、取得部１５Ａは、リムーバブルメディアに記憶されたバイタルデータを取得することとしてもよい。このように取得されたバイタルデータは、バイタルデータの集合を記憶するバイタルＤＢ１４に格納される。

【0025】

設定部１５Ｂは、被介護者３の体調を表すクラスのラベルをバイタルデータに設定する処理部である。以下、被介護者３の体調を表すクラスのことを指して「体調クラス」と記載する場合がある。あくまで一例として、設定部１５Ｂは、被介護者３により入力された問診票に基づいてバイタルデータにラベルを設定できる。より詳細には、携帯端末装置５０では、時間帯、日、週または月などの任意の単位で被介護者３の体調が正常または異常であるかの質問を含む問診票への回答の入力を受け付けることができる。このような問診票への回答の入力結果に基づいて、設定部１５Ｂは、バイタルデータにラベルを設定する。例えば、設定部１５Ｂは、バイタルＤＢ１４に記憶されたバイタルデータのうち、問診票で正常の回答が選択された時間帯に対応するバイタルデータに体調クラス「正常」のラベルを設定する。その一方で、設定部１５Ｂは、バイタルＤＢ１４に記憶されたバイタルデータのうち、問診票で異常の回答が選択された時間帯に対応するバイタルデータに体調クラス「異常」のラベルを設定する。さらに、設定部１５Ｂは、体調クラス「異常」のラベルが設定されたバイタルデータに当該被介護者３の診断結果、例えば体調異常の種類として得られた異常クラスのラベル、例えば「インフルエンザ」や「風邪」、「コロナ」などを設定できる。

【0026】

以下、バイタルデータのうち体調クラス「正常」のラベルが設定されたバイタルデータのことを指して「正常データ」と記載するとともに、体調クラス「異常」のラベルが設定されたバイタルデータのことを指して「異常データ」と記載する場合がある。

【0027】

第１の訓練部１５Ｃは、異常検知モデルを訓練する処理部である。ここで言う「異常検知モデル」とは、予測対象とするバイタルデータが正常または異常であるかを検知する機械学習モデルを指す。以下、予測対象とするバイタルデータのことを指して「予測対象データ」と記載する場合がある。

【0028】

図２は、各モデルの訓練例を示す模式図である。図２に示すように、第１の訓練部１５Ｃは、バイタルＤＢ１４に記憶されたバイタルデータのうち体調クラス「正常」が設定された正常データ１４Ｎを用いて、教師なしの機械学習を実行することにより、異常検知モデルＭ１を生成する。このとき、第１の訓練部１５Ｃは、バイタルデータをバイタルの特徴が数値化された特徴量を含む特徴ベクトルへ変換できる。例えば、心拍数の時系列データから、特定の単位時間あたりの心拍数の統計値、例えば１分間あたりの最大心拍数の平均値、１分間あたりの平均心拍数の平均値、１分間あたりの最小心拍数の平均値などを特徴量として抽出できる。このような正常データ１４Ｎの特徴量を用いる機械学習により、予測対象データを正常データ１４Ｎに分類できる決定境界を含む異常検知モデルＭ１を訓練できる。

【0029】

第２の訓練部１５Ｄは、クラスタリングモデルを訓練する処理部である。ここで言う「クラスタリングモデル」とは、異常データのクラスタリング、いわゆるクラスタ分析を実行する機械学習モデルを指す。

【0030】

図２に示すように、第２の訓練部１５Ｄは、バイタルＤＢ１４に記憶されたバイタルデータのうち体調クラス「異常」が設定された異常データ１４Ａを用いて、教師なしの機械学習を実行することにより、クラスタリングモデルＭ２を生成する。なお、この場合についても、第２の訓練部１５Ｄは、バイタルデータをバイタルの特徴が数値化された特徴量を含む特徴ベクトルへ変換できる。

【0031】

例えば、クラスタリングの各種のアルゴリズムの中でも、予め分割数を決めない階層クラスタリングを用いることができる。より詳細には、階層クラスタリングでは、初期値として１つの異常データのみが属するクラスタをＮ個生成し、異常データの類似度が最も大きいクラスタ同士を結合して新たなクラスタを生成する操作を繰り返す。このとき、予めクラスタ間の類似度の閾値を定め、全てのクラスタ間の類似度が閾値未満になった時に繰り返し処理を終了する。このような異常データ１４Ａの特徴量を用いる機械学習により、異常クラスが同一である異常データ同士が同じクラスタに分類される一方で、異常クラスが異なる異常データ同士が異なるクラスタに分類されたクラスタリング結果を含むクラスタリングモデルＭ２を訓練できる。なお、クラスタ間の類似度は、特定のものに限定されない。例えば、各クラスタにおける異常データの重心同士の距離やコサイン類似度、クラスタに属する異常データ同士の距離、コサイン類似度、総和や平均値などの統計量を用いる方法などをクラスタ間の類似度として用いることができる。

【0032】

加工部１５Ｅは、異常データを加工する処理部である。あくまで一例として、加工部１５Ｅは、バイタルＤＢ１４に記憶されたバイタルデータのうち体調クラス「異常」が設定された異常データ１４Ａを加工する。このような加工は、元の異常データ、あるいは元の異常データの特徴ベクトルに含まれる特徴量のパラメータに変化を与えることより加工して別のデータとしてデータセットに加えるデータ拡張、例えばＴＴＡ（Test Time Augmentation）により実現できる。このとき、加工部１５Ｅは、バイタルＤＢ１４に記憶されたバイタルの分布情報、例えば最大値や最小値などに基づいて上限値や下限値を含む許容範囲を制約条件として設定し、当該制約条件の下でデータ拡張を実行できる。以下、加工部１５Ｅにより元の異常データが加工されたデータ、あるいは元の異常データの特徴量が加工された特徴ベクトルのことを指して「加工データ」と記載する場合がある。このようなデータ拡張が１つの異常データにつき任意の回数にわたって実行されることにより、任意の個数Ｋの加工データを得ることができる。

【0033】

生成部１５Ｆは、加工データから未知の症状に対応する異常データを生成する処理部である。あくまで一例として、生成部１５Ｆは、加工部１５Ｅによる加工で得られた加工データごとに次のような処理を実行する。図２に示すように、生成部１５Ｆは、加工データから抽出される特徴ベクトルと、クラスタリングモデルＭ２に含まれる異常クラスのクラスタとを比較して、各異常クラスのクラスタのうちいずれかのクラスタに加工ベクトルの特徴ベクトルが該当するか否かを判定する。このとき、加工データの特徴ベクトルがいずれのクラスタにも該当しない場合、当該加工データに対応する症状が既知の異常クラスに現れない未知の症状であると推定できる。この場合、生成部１５Ｆは、加工ベクトルの特徴ベクトルを異常検知モデルＭ１へ入力する。これにより、異常検知モデルＭ１は、加工データの特徴ベクトルと、正常データ１４Ｎの決定境界との距離が閾値異常であるか否か、すなわち加工データが体調クラス「異常」であるか否かを判定する。このとき、異常検知モデルＭ１により加工データが体調クラス「異常」であると判定された場合、当該加工データが正常データでなく、異常データであることを推定できる。このように、加工データに対応する症状が既知の異常クラスに現れない未知の症状であり、かつ加工データが異常データであると推定できる場合、生成部１５Ｆは、当該加工データを未知の異常データと識別する。このとき、生成部１５Ｆは、未知の異常データに異常クラス「未知」のラベルを設定する。

【0034】

第３の訓練部１５Ｇは、症状判定モデルを訓練する処理部である。ここで言う「症状判定モデル」とは、予測対象データが既知または未知の異常であるかを判定する機械学習モデルを指す。

【0035】

図２に示すように、第３の訓練部１５Ｇは、バイタルＤＢ１４に記憶された既知の異常データ１４Ａと、生成部１５Ｆにより生成された未知の異常データとを用いて、教師ありの機械学習を実行することにより、訓練済みの症状判定モデルＭ３を生成する。図２に示す例で言えば、異常クラス「インフルエンザ」、「風邪」または「コロナ」などのラベルが設定された既知の異常データ１４Ａと、異常クラス「未知」のラベルが設定された未知の異常データとが用いられ得る。例えば、第３の訓練部１５Ｇは、異常データの特徴ベクトルを説明変数とし、異常クラスのラベルを目的変数とし、任意の機械学習のアルゴリズムにしたがって症状判定モデルを訓練できる。これにより、訓練済みの症状判定モデルＭ３が得られる。このような症状判定モデルＭ３は、あくまで一例として、複数の決定木を並列に作成して、各決定木の出力結果に基づいて予測を行うランダムフォレストにより実現できる。

【0036】

図３は、ランダムフォレストの一例を示す図である。図３には、症状判定モデルＭ３がランダムフォレストにより実現される例が示されている。図３に示すように、ランダムフォレストでは、異常クラスのラベルが付与された異常データの集合を訓練データセットとし、訓練データをランダムにサンプリングしてＮ個のサンプル集合１～Ｎを生成するブートストラップサンプリングが行われる。そして、サンプル集合１～Ｎごとに当該サンプル集合から決定木が生成される。このように生成されたＮ個の決定木の下、予測時には、予測対象データが入力されたＮ個の決定木の各々が出力するラベルの多数決により、異常クラスのラベルが予測される。例えば、ランダムフォレストのメリットとして、説明変数が多数であってもうまく動作する点、特徴量の重要度（寄与度）を算出できる点、正則化（不要な説明変数の影響を抑制）が効く点などが挙げられる。

【0037】

なお、ここでは、症状判定モデルＭ３がランダムフォレストにより実現される例を挙げたが、これに限定されず、ニューラルネットワークやサポートベクタマシン、勾配ブースティング決定木などの任意の機械学習モデルにより実現されてよい。

【0038】

判定部１５Ｈは、症状判定モデルＭ３を用いて、予測対象データが既知または未知の異常であるかを判定する処理部である。図４は、症状判定の処理例を示す模式図である。図４に示すように、判定部１５Ｈは、取得部１５Ａにより取得された予測対象データを異常検知モデルＭ１へ入力する。これにより、異常検知モデルＭ１は、予測対象データの特徴ベクトルと、正常データ１４Ｎの決定境界との距離が閾値異常であるか否か、すなわち予測対象データが体調クラス「異常」であるか否かを判定する。このとき、異常検知モデルＭ１により予測対象データが体調クラス「異常」であると判定された場合、当該予測対象データが正常データでなく、異常データであることを推定できる。この場合、判定部１５Ｈは、異常検知モデルＭ１により異常が検知された予測対象データを症状判定モデルＭ３へ入力する。このように異常データが入力された症状判定モデルＭ３は、異常クラスのラベルを予測結果として出力する。その後、判定部１５Ｈは、症状判定モデルＭ３および予測対象データをＬＩＭＥ（Local Interpretable Model-agnostic Explanations）やＳＨＡＰ（Shapley Additive exPlanations）などの解釈ツールへ適用する。これにより、予測対象データから抽出された特徴ベクトルに含まれる特徴量の重要度（寄与度）が算出される。

【0039】

その上で、判定部１５Ｈは、症状判定モデルＭ３による予測結果、例えば異常クラスのラベルおよび解釈ツールによる解釈結果、例えば特徴量の重要度の算出結果をスタッフ端末７０へ出力する。このとき、判定部１５Ｈは、予測対象データの特徴ベクトルのうち特定の条件を満たす特徴量に絞り込んで重要度の算出結果を出力できる。例えば、判定部１５Ｈは、重要度が上位特定数、例えば上位２つに該当する特徴量に関する重要度の算出結果を出力できる。この他、判定部１５Ｈは、重要度が閾値以上である特徴量に関する重要度の算出結果を出力できる。さらに、判定部１５Ｈは、特定の条件を満たす特徴量に関する情報を出力する際、異常データと判定された予測対象データの特徴量と、正常データ１４Ｎの特徴量の統計値との比較結果を出力することができる。

【0040】

図５および図６は、レポートの表示例を示す図である。図５には、スタッフ端末７０に表示されるレポートのサマリ画面２００が示される一方で、図６には、スタッフ端末７０に表示されるレポートの詳細画面２１０が示されている。図５に示すように、サマリ画面２００には、異常検知モデルＭ１により予測対象データが異常データと検知された「日時」が表示される。例えば、ウェアラブル端末３０および携帯端末装置５０の同期で予測対象データがアップロードされることにより、異常検知モデルＭ１が呼び出されたタイミング、例えば「起床時刻」や起床後の「一定周期」などに対応するタイムスタンプが表示され得る。さらに、サマリ画面２００には、症状判定モデルＭ３により判定された異常クラスのラベルに対応する被介護者３の状態（体調）が表示される。例えば、図５に示す例で言えば、異常クラス「コロナ」に対応するメッセージ「ＣＯＶＩＤ－１９の可能性があります」が表示される。この他、サマリ画面２００には、当該状態と判断された根拠とが表示される。このような判断根拠の一例として、重要度が上位２つに該当する特徴量「睡眠時の心拍数」および「睡眠時のＳｐＯ２」と、これら２つの特徴量および正常データ１４Ｎの特徴量の統計値の比較結果に対応するメッセージとが表示される。例えば、特徴量「睡眠時の心拍数」の例で言えば、メッセージ「睡眠時の心拍数が正常時に比べて高いです」が表示される。また、特徴量「睡眠時のＳｐＯ２」の例で言えば、メッセージ「睡眠時のＳｐＯ２が正常時に比べて低いです」が表示される。さらに、サマリ画面２００には、根拠の詳細を表示するリンク２００Ａが含まれる。このようなリンク２００Ａが操作されることにより、スタッフ端末７０のレポートの表示が図５に示すサマリ画面２００から図６に示す詳細画面２１０へ遷移する。

【0041】

図６に示すように、詳細画面２１０には、図５に示すサマリ画面２００で判断根拠として表示されている特徴量ごとに予測対象データのうち当該特徴量の抽出元に対応するバイタルの時系列データと、正常データ１４Ｎの特徴量またはその統計値とが表示される。例えば、特徴量「睡眠時の心拍数」の例で言えば、予測対象データのうち特徴量の抽出元に対応するバイタル「睡眠時の心拍数」の時系列データと、正常データ１４Ｎの特徴量の統計値「睡眠中の正常時の最大心拍数の平均値」、「睡眠中の正常時の平均心拍数の平均値」および「睡眠中の正常時の最小心拍数の平均値」とを含むグラフＧ１が表示される。さらに、特徴量「睡眠時のＳｐＯ２」の例で言えば、予測対象データのうち特徴量「睡眠時のＳｐＯ２」と、正常データ１４Ｎの特徴量「睡眠時の正常時のＳｐＯ２」の分布とを含むグラフＧ２が表示される。

【0042】

このように図５および図６に示すレポートの表示例によれば、予測対象データが未知の症状である場合でも、教師ありの機械学習により生成された症状判定モデルＭ３および予測対象データの解釈結果を未知の異常の判定結果の根拠として提示できる。

【0043】

このような判断根拠の提示は、上記の背景技術の欄で挙げたクラスタリングモデルでは実現できない。図７および図８は、クラスタリング結果の一側面を示す図である。図７および図８には、いずれも上記の背景技術の欄で挙げたクラスタリングモデルによるクラスタリング結果が示されている。このうち、図７には、理想のクラスタリング結果が示されている一方で、図８には、現実のクラスタリング結果が示されている。なお、図７および図８には、異常クラスのラベルが同一の異常データには、共通のハッチングで示される一方で、異常クラスのラベルが異なる異常データには、異なるハッチングで示されている。

【0044】

図７に示すように、理想的には、異常クラスごとに当該異常クラスに対応するクラスタが形成されることが好ましい。すなわち、異常データＡ、異常データＣ、異常データＦおよび異常データＩと、異常データＢ、異常データＤおよび異常データＥと、異常データＧ、異常データＨおよび異常データＪとが異なるクラスタｃ１～ｃ３としてクラスタリングされるのが理想的である。

【0045】

しかしながら、現実的には、図７に示すクラスタリング結果は得られず、図８に示すクラスタリング結果が得られることになる。すなわち、図８に示すように、異常データＡ、異常データＣおよび異常データＩの異常クラスは共通するが、異常データＨの異常クラスが異なるクラスタＣ１が形成される。さらに、異常データＧおよび異常データＪの異常クラスは共通するが、異常データＦの異常クラスが異なるクラスタＣ３が形成される。

【0046】

このようなクラスタリング結果に基づいてクラスタＣ１～Ｃ３のいずれにも含まれない予測対象データＬを未知の異常に分類できたとしても、「確かにこういう理由で予測対象データＬは既知の異常から外れている」と人間が判断する必要があり、教師なし学習の結果から結果の解釈の指標は得られない。すなわち、予測対象データＬが未知の異常と判断された際に、人がデータを照らし合わせて『「運動時の心拍数の値」と「正常時の心拍数の値」の乖離度合いが既知の異常と異なるから』など原因を分析して「未知の異常の判断」を行う必要がある。このような新規の予測対象データごとに「未知の異常の判断」のパターンを事前に用意しておくのは現実的ではない。

【0047】

一方、本実施例に係るモデル生成機能によれば、クラスタリングの結果をもとに「既知の異常と異なる異常データ」として「未知の異常データ」を作成し、教師ありの機械学習により症状判定モデルＭ３が生成される。このような症状判定モデルＭ３によれば、「未知の異常」と判断した分類の結果に対して「モデルがなぜそう判断したのか」の解釈の指標が得られる。例えば、図５や図６に示す例によれば、『「睡眠時の心拍数の値」と「睡眠中の正常時の心拍数の値」の乖離度合いが既知の異常と異なるから』とモデルが判断した場合、その項目が重要度（寄与度）として得られる。

【0048】

＜処理の流れ＞
次に、本実施例に係るサーバ装置１０の処理の流れについて説明する。ここでは、サーバ装置１０により実行される（１）第１及び第２の訓練処理、（２）第３の訓練処理、（３）症状判定処理の順に説明することとする。

【0049】

（１）第１及び第２の訓練処理
図９は、第１及び第２の訓練処理の手順を示すフローチャートである。図９に示すように、取得部１５Ａにより被介護者３のバイタルデータが取得されると（ステップＳ１０１）、設定部１５Ｂは、次のような処理を実行する。すなわち、設定部１５Ｂは、被介護者３により入力された問診票に基づいてステップＳ１０１で取得されたバイタルデータに体調クラス「正常」または「異常」のラベルを設定する（ステップＳ１０２）。

【0050】

続いて、設定部１５Ｂは、ステップＳ１０１で取得されたバイタルデータを、体調クラス「正常」が設定された正常データ１４Ｎと、体調クラス「異常」が設定された異常データ１４Ａとに分類する（ステップＳ１０３）。

【0051】

そして、第１の訓練部１５Ｃは、ステップＳ１０１で取得されたバイタルデータのうち体調クラス「正常」が設定された正常データ１４Ｎを用いて、教師なしの機械学習を実行することにより、異常検知モデルＭ１を生成する（ステップＳ１０４Ａ）。

【0052】

このようなステップＳ１０４Ａと同時または並列のタイミングで、第２の訓練部１５Ｄは、次のような処理を実行できる。すなわち、第２の訓練部１５Ｄは、ステップＳ１０１で取得されたバイタルデータのうち体調クラス「異常」が設定された異常データ１４Ａを用いて、教師なしの機械学習を実行することにより、クラスタリングモデルＭ２を生成する（ステップＳ１０４Ｂ）。

【0053】

さらに、加工部１５Ｅは、ステップＳ１０１で取得されたバイタルデータのうち体調クラス「異常」が設定された異常データ１４Ａを加工する（ステップＳ１０５Ｂ）。これにより、任意の個数Ｋの加工データを得ることができる。

【0054】

（２）第３の訓練処理
図１０は、第３の訓練処理の手順を示すフローチャートである。この処理は、図９に示す処理の完了後の任意のタイミングで実行できる。図１０に示すように、生成部１５Ｆは、図９に示すステップＳ１０５Ｂで得られた加工データの個数Ｋに対応する回数の分、下記のステップＳ３０１から下記のステップＳ３０５までの処理を反復するループ処理１を実行する。

【0055】

すなわち、生成部１５Ｆは、ｋ番目の加工データから抽出される特徴ベクトルと、クラスタリングモデルＭ２に含まれる異常クラスのクラスタとを比較する（ステップＳ３０１）。

【0056】

この結果、ｋ番目の加工データの特徴ベクトルがいずれのクラスタにも該当しない場合（ステップＳ３０２Ｙｅｓ）、ｋ番目の加工データに対応する症状が既知の異常クラスに現れない未知の症状であると推定できる。この場合、生成部１５Ｆは、加工ベクトルの特徴ベクトルを異常検知モデルＭ１へ入力する（ステップＳ３０３）。

【0057】

そして、異常検知モデルＭ１によりｋ番目の加工データが体調クラス「異常」であると判定された場合（ステップＳ３０４Ｙｅｓ）、ｋ番目の加工データが正常データでなく、異常データであることを推定できる。この場合、生成部１５Ｆは、ｋ番目の加工データを未知の異常データと識別する（ステップＳ３０５）。

【0058】

このようなループ処理１が反復されることにより、Ｋ個の加工データのうち既知の異常クラスに現れない未知の症状であり、かつ異常データである加工データが「未知の異常データ」として抽出されることになる。

【0059】

その後、第３の訓練部１５Ｇは、ステップＳ１０３で分類された既知の異常データ１４Ａと、ステップＳ３０５で識別された未知の異常データとを用いて、教師ありの機械学習を実行することにより、訓練済みの症状判定モデルＭ３を生成し（ステップＳ３０６）、処理を終了する。

【0060】

（３）症状判定処理
図１１は、症状判定処理の手順を示すフローチャートである。この処理は、訓練済みの症状判定モデルＭ３の生成後に取得部１５Ａにより予測対象データが取得された場合、実行できる。

【0061】

図１１に示すように、取得部１５Ａにより予測対象データが取得されると（ステップＳ５０１）、判定部１５Ｈは、ステップＳ５０１で取得された予測対象データを異常検知モデルＭ１へ入力する（ステップＳ５０２）。

【0062】

この結果、異常検知モデルＭ１により予測対象データが体調クラス「正常」であると判定された場合（ステップＳ５０３Ｎｏ）、当該予測対象データが正常データであることを推定できる。この場合、判定部１５Ｈは、異常検知モデルＭ１による予測結果、すなわち体調クラス「正常」をスタッフ端末７０へ出力し（ステップＳ５０４）、処理を終了する。

【0063】

一方、異常検知モデルＭ１により予測対象データが体調クラス「異常」であると判定された場合（ステップＳ５０３Ｙｅｓ）、当該予測対象データが正常データでなく、異常データであることを推定できる。この場合、判定部１５Ｈは、異常検知モデルＭ１により異常が検知された予測対象データを症状判定モデルＭ３へ入力する（ステップＳ５０５）。

【0064】

続いて、判定部１５Ｈは、症状判定モデルＭ３および予測対象データをＬＩＭＥやＳＨＡＰなどの解釈ツールへ適用する（ステップＳ５０６）。その後、判定部１５Ｈは、症状判定モデルＭ３による予測結果、例えば異常クラスのラベルおよび解釈ツールによる解釈結果、例えば特徴量の重要度の算出結果をスタッフ端末７０へ出力し（ステップＳ５０７）、処理を終了する。

【0065】

＜効果の一側面＞
上述してきたように、本実施例に係るサーバ装置１０は、既知の異常データが加工された加工データのうち既知の異常に分類されず、かつ正常でない加工データを未知の異常データとして既知または未知の異常を判定する症状判定モデルを生成する。したがって、本実施例に係るサーバ装置１０によれば、未知の異常の判定結果の根拠の提示を実現できる。

【実施例0066】

さて、これまで開示の装置に関する実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。

【0067】

＜分散および統合＞
また、図示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されておらずともよい。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、取得部１５Ａ、設定部１５Ｂ、第１の訓練部１５Ｃ、第２の訓練部１５Ｄ、加工部１５Ｅ、生成部１５Ｆ、第３の訓練部１５Ｇおよび判定部１５Ｈをサーバ装置１０の外部装置としてネットワーク経由で接続するようにしてもよい。また、取得部１５Ａ、設定部１５Ｂ、第１の訓練部１５Ｃ、第２の訓練部１５Ｄ、加工部１５Ｅ、生成部１５Ｆ、第３の訓練部１５Ｇおよび判定部１５Ｈを別の装置がそれぞれ有し、ネットワーク接続されて協働することで、サーバ装置１０の機能を実現するようにしてもよい。

【0068】

＜ハードウェア構成＞
また、上記の実施例で説明した各種の処理は、予め用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。そこで、以下では、図１２を用いて、実施例１及び実施例２と同様の機能を有するモデル生成プログラムを実行するコンピュータの一例について説明する。

【0069】

図１２は、ハードウェア構成例を示す図である。図１２に示すように、コンピュータ１００は、操作部１１０ａと、スピーカ１１０ｂと、カメラ１１０ｃと、ディスプレイ１２０と、通信部１３０とを有する。さらに、このコンピュータ１００は、ＣＰＵ１５０と、ＲＯＭ１６０と、ＨＤＤ１７０と、ＲＡＭ１８０とを有する。これら１１０～１８０の各部はバス１４０を介して接続される。

【0070】

ＨＤＤ１７０には、図１２に示すように、上記の実施例１で示された取得部１５Ａ、設定部１５Ｂ、第１の訓練部１５Ｃ、第２の訓練部１５Ｄ、加工部１５Ｅ、生成部１５Ｆ、第３の訓練部１５Ｇおよび判定部１５Ｈと同様の機能を発揮するモデル生成プログラム１７０ａが記憶される。このモデル生成プログラム１７０ａは、図１に示した取得部１５Ａ、設定部１５Ｂ、第１の訓練部１５Ｃ、第２の訓練部１５Ｄ、加工部１５Ｅ、生成部１５Ｆ、第３の訓練部１５Ｇおよび判定部１５Ｈの各構成要素と同様、統合又は分離してもよい。すなわち、ＨＤＤ１７０には、必ずしも上記の実施例１で示した全てのデータが格納されずともよく、処理に用いるデータがＨＤＤ１７０に格納されればよい。

【0071】

このような環境の下、ＣＰＵ１５０は、ＨＤＤ１７０からモデル生成プログラム１７０ａを読み出した上でＲＡＭ１８０へ展開する。この結果、モデル生成プログラム１７０ａは、図１２に示すように、モデル生成プロセス１８０ａとして機能する。このモデル生成プロセス１８０ａは、ＲＡＭ１８０が有する記憶領域のうちモデル生成プロセス１８０ａに割り当てられた領域にＨＤＤ１７０から読み出した各種データを展開し、展開された各種データを用いて各種の処理を実行する。例えば、モデル生成プロセス１８０ａが実行する処理の一例として、図９～図１１に示す処理などが含まれ得る。なお、ＣＰＵ１５０では、必ずしも上記の実施例１で示した全ての処理部が動作せずともよく、実行対象とする処理に対応する処理部が仮想的に実現されればよい。

【0072】

なお、上記のモデル生成プログラム１７０ａは、必ずしも最初からＨＤＤ１７０やＲＯＭ１６０に記憶されておらずともかまわない。例えば、コンピュータ１００に挿入されるフレキシブルディスク、いわゆるＦＤ、ＣＤ－ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの「可搬用の物理媒体」にモデル生成プログラム１７０ａを記憶させる。そして、コンピュータ１００がこれらの可搬用の物理媒体からモデル生成プログラム１７０ａを取得して実行するようにしてもよい。また、公衆回線、インターネット、ＬＡＮ、ＷＡＮなどを介してコンピュータ１００に接続される他のコンピュータまたはサーバ装置などにモデル生成プログラム１７０ａを記憶させておく。このように記憶されたモデル生成プログラム１７０ａをコンピュータ１００にダウンロードさせた上で実行させるようにしてもよい。

【0073】

以上の実施例を含む実施形態に関し、さらに以下の付記を開示する。

【0074】

（付記１）生体情報の異常が検知済みである異常データまたは前記異常データの特徴が数値化された特徴量が加工された加工データのうち、異常クラスが既知である第１の異常クラスに対応するクラスタに分類されず、かつ前記異常が検知される加工データを、前記異常クラスが未知である第２の異常クラスの異常データと特定し、
特定された前記第２の異常クラスの異常データと、前記第１の異常クラスの異常データとに基づいて、生体情報を入力として前記第１の異常クラスまたは前記第２の異常クラスのラベルを出力する機械学習モデルを生成する、
処理をコンピュータが実行することを特徴とするモデル生成方法。

【0075】

（付記２）前記生成する処理は、前記第２の異常クラスおよび前記第１の異常クラスの異常データの特徴量を含む特徴ベクトルを説明変数とし、前記異常クラスのラベルを目的変数とし、前記機械学習モデルのパラメータを訓練する処理を含む、
ことを特徴とする付記１に記載のモデル生成方法。

【0076】

（付記３）予測対象とする生体情報が入力された前記機械学習モデルが出力するラベルに基づいて前記予測対象とする生体情報が前記第１の異常クラスまたは前記第２の異常クラスであるのかを判定し、
前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果を出力する、
処理を前記コンピュータがさらに実行することを特徴とする付記１に記載のモデル生成方法。

【0077】

（付記４）前記機械学習モデルおよび前記予測対象とする生体情報を機械学習モデルの解釈ツールに適用する処理を前記コンピュータがさらに実行し、
前記出力する処理は、前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果と、前記解釈ツールの適用結果とを出力する処理を含む、
ことを特徴とする付記３に記載のモデル生成方法。

【0078】

（付記５）前記解釈ツールは、ＬＩＭＥ（Local Interpretable Model-agnostic Explanations）またはＳＨＡＰ（Shapley Additive exPlanations）であることを特徴とする付記４に記載のモデル生成方法。

【0079】

（付記６）生体情報の異常が検知済みである異常データまたは前記異常データの特徴が数値化された特徴量が加工された加工データのうち、異常クラスが既知である第１の異常クラスに対応するクラスタに分類されず、かつ前記異常が検知される加工データを、前記異常クラスが未知である第２の異常クラスの異常データと特定し、
特定された前記第２の異常クラスの異常データと、前記第１の異常クラスの異常データとに基づいて、生体情報を入力として前記第１の異常クラスまたは前記第２の異常クラスのラベルを出力する機械学習モデルを生成する、
処理をコンピュータに実行させることを特徴とするモデル生成プログラム。

【0080】

（付記７）前記生成する処理は、前記第２の異常クラスおよび前記第１の異常クラスの異常データの特徴量を含む特徴ベクトルを説明変数とし、前記異常クラスのラベルを目的変数とし、前記機械学習モデルのパラメータを訓練する処理を含む、
ことを特徴とする付記６に記載のモデル生成プログラム。

【0081】

（付記８）予測対象とする生体情報が入力された前記機械学習モデルが出力するラベルに基づいて前記予測対象とする生体情報が前記第１の異常クラスまたは前記第２の異常クラスであるのかを判定し、
前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果を出力する、
処理を前記コンピュータにさらに実行させることを特徴とする付記６に記載のモデル生成プログラム。

【0082】

（付記９）前記機械学習モデルおよび前記予測対象とする生体情報を機械学習モデルの解釈ツールに適用する処理を前記コンピュータにさらに実行させ、
前記出力する処理は、前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果と、前記解釈ツールの適用結果とを出力する処理を含む、
ことを特徴とする付記８に記載のモデル生成プログラム。

【0083】

（付記１０）前記解釈ツールは、ＬＩＭＥ（Local Interpretable Model-agnostic Explanations）またはＳＨＡＰ（Shapley Additive exPlanations）であることを特徴とする付記９に記載のモデル生成プログラム。

【0084】

（付記１１）生体情報の異常が検知済みである異常データまたは前記異常データの特徴が数値化された特徴量が加工された加工データのうち、異常クラスが既知である第１の異常クラスに対応するクラスタに分類されず、かつ前記異常が検知される加工データを、前記異常クラスが未知である第２の異常クラスの異常データと特定し、
特定された前記第２の異常クラスの異常データと、前記第１の異常クラスの異常データとに基づいて、生体情報を入力として前記第１の異常クラスまたは前記第２の異常クラスのラベルを出力する機械学習モデルを生成する、
処理を実行する制御部を有する情報処理装置。

【0085】

（付記１２）前記生成する処理は、前記第２の異常クラスおよび前記第１の異常クラスの異常データの特徴量を含む特徴ベクトルを説明変数とし、前記異常クラスのラベルを目的変数とし、前記機械学習モデルのパラメータを訓練する処理を含む、
ことを特徴とする付記１１に記載の情報処理装置。

【0086】

（付記１３）予測対象とする生体情報が入力された前記機械学習モデルが出力するラベルに基づいて前記予測対象とする生体情報が前記第１の異常クラスまたは前記第２の異常クラスであるのかを判定し、
前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果を出力する、
処理を前記制御部がさらに実行することを特徴とする付記１１に記載の情報処理装置。

【0087】

（付記１４）前記機械学習モデルおよび前記予測対象とする生体情報を機械学習モデルの解釈ツールに適用する処理を前記制御部がさらに実行し、
前記出力する処理は、前記予測対象とする生体情報の前記第１の異常クラスまたは前記第２の異常クラスの判定結果と、前記解釈ツールの適用結果とを出力する処理を含む、
ことを特徴とする付記１３に記載の情報処理装置。

【0088】

（付記１５）前記解釈ツールは、ＬＩＭＥ（Local Interpretable Model-agnostic Explanations）またはＳＨＡＰ（Shapley Additive exPlanations）であることを特徴とする付記１４に記載の情報処理装置。