▶ エヌ・ティ・ティ・コミュニケーションズ株式会社の特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-01-26
(45)【発行日】2024-02-05
(54)【発明の名称】情報処理装置、情報処理方法および情報処理プログラム
(51)【国際特許分類】
G06N 20/00 20190101AFI20240129BHJP
G05B 23/02 20060101ALI20240129BHJP
G06F 11/07 20060101ALI20240129BHJP
【ＦＩ】
G06N20/00
G05B23/02 301N
G05B23/02 301V
G06F11/07 140Q
【請求項の数】
8
(21)【出願番号】P 2022171830
(22)【出願日】2022-10-26
【審査請求日】2022-10-26
(73)【特許権者】
【識別番号】399035766
【氏名又は名称】エヌ・ティ・ティ・コミュニケーションズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】藤原 大悟
(72)【発明者】
【氏名】泉谷 知範
(72)【発明者】
【氏名】伊藤 浩二
【審査官】牛丸 太希
(56)【参考文献】
【文献】特開２０２１－００６４３１（ＪＰ，Ａ）
【文献】国際公開第２０２１／０６５５５９（ＷＯ，Ａ１）
【文献】特開２０２１－０４２９４８（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０５Ｂ ２３／００－２３／０２
Ｇ０６Ｆ １１／００－１１／３６
Ｇ０６Ｎ ３／００－９９／００
(57)【特許請求の範囲】
【請求項1】
操作対象の自動運転の精度に関するデータが所定の条件を満たす場合に、前記操作対象の操作対象の自動運転の稼働についての判定をする判定部と、前記判定部の判定結果に基づき、前記操作対象の自動運転を停止する停止部と、
を有し、
前記判定部は、前記所定の条件として、前記操作対象の運転に関する履歴データを用いた複数の学習モデルに基づき推論される複数の推奨値の分散が所定の範囲に含まれない場合に前記自動運転の停止の判定をする、
ことを特徴とする情報処理装置。
【請求項2】
前記判定部は、前記所定の条件として、前記操作対象の運転の状況を表す説明変数についての異常検知の結果に基づき、前記説明変数に所定の変化が発生する場合に前記自動運転の停止の判定をする、ことを特徴とする請求項１に記載の情報処理装置。
【請求項3】
前記判定部は、前記所定の条件として、前記操作対象の運転に関する履歴データを用いた学習モデルに基づき推論される推奨値が、最大最小閾値の範囲に含まれない場合に前記自動運転の停止の判定をする、ことを特徴とする請求項１に記載の情報処理装置。
【請求項4】
前記判定部は、前記所定の条件として、前記操作対象の運転に関する履歴データを用いた学習モデルに基づき推論される推奨値の変化率が、差分変化量閾値の範囲に含まれない場合に前記自動運転の停止の判定をする、ことを特徴とする請求項１に記載の情報処理装置。
【請求項5】
前記判定部は、前記操作対象の運転に関する履歴データを用いた学習モデルに基づき推論される推奨値が事後分布を有する場合、前記所定の条件として、前記推奨値の予測分散が所定の範囲に含まれない場合に前記自動運転の停止の判定をする、ことを特徴とする請求項１に記載の情報処理装置。
【請求項6】
前記判定部は、前記所定の条件として、前記操作対象の評価指標が所定の範囲に含まれない場合に前記自動運転の停止の判定をする、ことを特徴とする請求項１に記載の情報処理装置。
【請求項7】
情報処理装置により実行される情報処理方法であって、
操作対象の自動運転の精度に関するデータが所定の条件を満たす場合に、前記操作対象の自動運転の稼働についての判定をする判定工程と、
前記判定工程の判定結果に基づき、前記操作対象の自動運転を停止する停止工程と、
を含み、
前記判定工程は、前記所定の条件として、前記操作対象の運転に関する履歴データを用いた複数の学習モデルに基づき推論される複数の推奨値の分散が所定の範囲に含まれない場合に前記自動運転の停止の判定をする、
ことを特徴とする情報処理方法。
【請求項8】
操作対象の自動運転の精度に関するデータが所定の条件を満たす場合に、前記操作対象の自動運転の稼働についての判定をする判定ステップと、前記判定ステップの判定結果に基づき、前記操作対象の自動運転を停止する停止ステップと、
をコンピュータに実行させ、
前記判定ステップは、前記所定の条件として、前記操作対象の運転に関する履歴データを用いた複数の学習モデルに基づき推論される複数の推奨値の分散が所定の範囲に含まれない場合に前記自動運転の停止の判定をする、
ことを特徴とする情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法および情報処理プログラムに関する。
【背景技術】
【0002】
人間の行動に関する情報を用いて、人間による行動を模倣する機械学習モデルを作る、模倣学習という技術が知られている。そして、前述の模倣学習の実現方法として、例えば、教師あり学習が知られている。さらに、教師あり学習の１つの手法として、観測されたデータを大量に蓄積しておき、蓄積されたデータの中から要求点の近傍のデータを抽出し、当該抽出したデータを用いてモデルの逐次学習を行うJust-In-Time（ＪＩＴ）法という技術が知られている（例えば、非特許文献１を参照）。
【0003】
また、近年では運転データ等を入力とする学習モデルを用いて、操作対象となる設備や工場、プラント等の自動運転を行う技術が知られている。例えば、従来技術として、取得したデータを入力とする学習モデルを用いることで、機器の制御において実環境を対象とした最適制御を簡易かつ精度よく実行する技術が知られている（例えば、特許文献１を参照）。
【先行技術文献】
【特許文献】
【0004】
【文献】特開２０１９－０６７２３８号公報
【非特許文献】
【0005】
【文献】山本 茂、「Just-In-Time予測制御：蓄積データに基づく予測制御」、計測と制御 第 52 巻 第 10 号 2013 年 10 月号（https://www.jstage.jst.go.jp/article/sicejl/52/10/52_878/_pdf/-char/ja）
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、従来技術では、操作対象の自動運転の精度が変化した場合における手動運転への切り替えのタイミングの判断が困難である、という問題があった。
【0007】
具体的には、従来技術は、学習モデルに基づき推論される推奨値をユーザ（操作対象の操作や運転等を行うオペレータ等）に提示し、提示された推奨値に基づき操作対象に対してユーザが操作を行う。そのため、推奨値の精度が悪化した際には、ユーザ自身がその判定を行うことが可能であった。しかしながら、ユーザを介さない自動運転時には、推奨値の精度判定を行うことが難しく、自動運転の精度が低下した場合でも適切なタイミングで手動運転への切り替えを判断することが難しい場合があった。
【課題を解決するための手段】
【0008】
そこで、上記の課題を解決し目的を達成するために、本発明の情報処理装置は、操作対象の自動運転の精度に関するデータが所定の条件を満たす場合に、前記操作対象の自動運転の稼働についての判定をする判定部と、前記判定部の判定結果に基づき、前記操作対象の自動運転を停止する停止部と、を有することを特徴とする。
【発明の効果】
【0009】
本発明は、操作対象の自動運転の精度が変化した場合における手動運転への切り替えのタイミングの判断を容易とする、という効果を奏する。
【図面の簡単な説明】
【0010】
【発明を実施するための形態】
【0011】
以下、図面を参照しながら、本実施形態を実施するための形態（以下、「実施形態」）について説明する。なお、本実施形態は、以下に記載する内容に限定されない。
【0012】
〔１．概要〕
まず、本実施形態における情報処理装置１００による情報処理の概要を、図１を用いて説明する。本実施形態において情報処理装置１００は、操作対象１０の運転データＤｂ（例えば、温度、圧力、流量、原料投入量、生成量等）と類似、または関係する過去の履歴データＤａ（例えば、温度、圧力、流量、原料投入量、生成量等、ユーザによる操作履歴等）を用いて学習モデル２０を学習する（図１の（１）を参照）。
まず、本実施形態における情報処理装置１００による情報処理の概要を、図１を用いて説明する。本実施形態において情報処理装置１００は、操作対象１０の運転データＤｂ（例えば、温度、圧力、流量、原料投入量、生成量等）と類似、または関係する過去の履歴データＤａ（例えば、温度、圧力、流量、原料投入量、生成量等、ユーザによる操作履歴等）を用いて学習モデル２０を学習する（図１の（１）を参照）。
【0013】
次に、ユーザＵ（操作対象１０を操作するオペレータ）は、情報処理装置１００に対して、自動運転の条件を入力する（図１の（２）を参照）。情報処理装置１００の自動運転制御部１３８は、ユーザＵが入力する自動運転の条件と、運転データＤｂを入力とする前述の学習モデル２０に基づき推論される推奨値ＲＤを用いて、操作対象１０に対して自動運転（以降は、操作対象１０に対する自動運転を単に「自動運転」と表記）を実施する（図１の（３）および（４）を参照）。
【0014】
そして、情報処理装置１００は、自動運転時に操作対象１０の自動運転の精度に関するデータ（例えば、推奨値、説明変数、操作対象の評価指標等）を取得し、自動運転の精度の変化を判定する。その結果、自動運転の精度が所定の許容範囲を下回っていると判定される場合、情報処理装置１００は、自動運転を停止する（図１の（５）を参照）。続けて、情報処理装置１００は、ユーザＵに対して自動運転が停止したことを表示する（図１の（６）を参照）。そして、ユーザＵは、情報処理装置１００からの表示に基づき、自動運転停止後の操作対象１０を手動により操作する（図１の（７）を参照）。
【0015】
〔１－１．学習モデルによる推奨値の推論〕
続いて、図１で説明した学習モデル２０について、更に説明を行う。図２に示すように、情報処理装置１００は、操作対象１０ａから運転データＤｂを受け付ける。次に、情報処理装置１００は、受け付けた運転データＤｂと類似する履歴データＤａを用いて推奨値ＲＤを推論するための学習モデル２０の学習（訓練）を行う。
続いて、図１で説明した学習モデル２０について、更に説明を行う。図２に示すように、情報処理装置１００は、操作対象１０ａから運転データＤｂを受け付ける。次に、情報処理装置１００は、受け付けた運転データＤｂと類似する履歴データＤａを用いて推奨値ＲＤを推論するための学習モデル２０の学習（訓練）を行う。
【0016】
そして、情報処理装置１００は、学習（訓練）済みの学習モデル２０に基づき推奨値ＲＤの推論を行う。具体的には、情報処理装置１００は、操作対象１０ａに対して実際にユーザＵが行った操作等の情報である履歴データＤａを用いて学習モデル２０を学習することで、模倣学習を行う。その結果、情報処理装置１００は、学習モデル２０に運転データＤｂを入力することにより推論される推奨値ＲＤを用いて、操作対象１０ｂに対しての自動運転を実現する。
【0017】
例えば、操作対象１０がプラントの場合、学習モデル２０は、特定の工程における過去にユーザＵが投入した原材料の投入量を学習する。そして、学習モデル２０は、現在の運転データから、推奨値ＲＤとして原材料の投入量を出力する。ユーザＵは、学習モデル２０に基づき推論される推奨値ＲＤに従って原材料の投入量を設定することで、過去のユーザ（例えば、ユーザＵやユーザＵ以外のオペレータ）の操作を模倣することができる。
【0018】
〔２．情報処理装置の構成〕
ここから、本実施形態に係る情報処理装置１００の構成について、図３を用いて説明する。図３に示すように、情報処理装置１００は、通信部１１０と、記憶部１２０と、制御部１３０と、を有する。なお、図示していないが、情報処理装置１００は、各種操作を受け付ける入力部（例えば、キーボードやマウス等）や、各種情報を表示するための表示部（例えば、ディスプレイ等）を備えてもよい。続いて、以下に各部の詳細な機能について記載する。
ここから、本実施形態に係る情報処理装置１００の構成について、図３を用いて説明する。図３に示すように、情報処理装置１００は、通信部１１０と、記憶部１２０と、制御部１３０と、を有する。なお、図示していないが、情報処理装置１００は、各種操作を受け付ける入力部（例えば、キーボードやマウス等）や、各種情報を表示するための表示部（例えば、ディスプレイ等）を備えてもよい。続いて、以下に各部の詳細な機能について記載する。
【0019】
（通信部１１０）
通信部１１０は、ＮＩＣ（Network Interface Card）等で実現され、ＬＡＮ（Local Area Network）やインターネット等の電気通信回線を介して通信を制御する。そして、通信部１１０は、必要に応じてネットワークと有線または無線で接続され、双方向に情報の送受信を行うことができる。なお、本実施形態においては、外部の装置等（例えば、操作対象１０等）との通信は、通信部１１０を介して実施される前提とする。
通信部１１０は、ＮＩＣ（Network Interface Card）等で実現され、ＬＡＮ（Local Area Network）やインターネット等の電気通信回線を介して通信を制御する。そして、通信部１１０は、必要に応じてネットワークと有線または無線で接続され、双方向に情報の送受信を行うことができる。なお、本実施形態においては、外部の装置等（例えば、操作対象１０等）との通信は、通信部１１０を介して実施される前提とする。
【0020】
（記憶部１２０）
記憶部１２０は、制御部１３０による各種処理に必要なデータおよびプログラムを格納する。また、記憶部１２０は、履歴データ記憶部１２１と、モデル記憶部１２２と、推奨値記憶部１２３と、を有する。そして、記憶部１２０は、ＲＡＭ（Random Access Memory）、フラッシュメモリ（Flash Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置等で実現する。
記憶部１２０は、制御部１３０による各種処理に必要なデータおよびプログラムを格納する。また、記憶部１２０は、履歴データ記憶部１２１と、モデル記憶部１２２と、推奨値記憶部１２３と、を有する。そして、記憶部１２０は、ＲＡＭ（Random Access Memory）、フラッシュメモリ（Flash Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置等で実現する。
【0021】
（履歴データ記憶部１２１）
履歴データ記憶部１２１は、操作対象１０の過去の運転に関する情報として、履歴データを記憶する。例えば、履歴データ記憶部１２１が記憶する履歴データには、操作対象１０の過去の説明変数（例えば、時刻、温度、圧力、二酸化炭素濃度等のセンサデータ）や、目的変数（例えば、ユーザによる操作履歴）を記憶し、運転データＤｂと説明変数が類似する履歴データＤａが含まれる。また、前述した情報はあくまで一例であり、履歴データ記憶部１２１は、履歴データの範疇であれば限定無く記憶できる。
履歴データ記憶部１２１は、操作対象１０の過去の運転に関する情報として、履歴データを記憶する。例えば、履歴データ記憶部１２１が記憶する履歴データには、操作対象１０の過去の説明変数（例えば、時刻、温度、圧力、二酸化炭素濃度等のセンサデータ）や、目的変数（例えば、ユーザによる操作履歴）を記憶し、運転データＤｂと説明変数が類似する履歴データＤａが含まれる。また、前述した情報はあくまで一例であり、履歴データ記憶部１２１は、履歴データの範疇であれば限定無く記憶できる。
【0022】
（モデル記憶部１２２）
モデル記憶部１２２は、操作対象１０の履歴データＤａを用いて学習させる学習モデル２０を記憶する。
モデル記憶部１２２は、操作対象１０の履歴データＤａを用いて学習させる学習モデル２０を記憶する。
【0023】
（推奨値記憶部１２３）
推奨値記憶部１２３は、学習モデル２０によって推論される推奨値ＲＤを記憶する。
推奨値記憶部１２３は、学習モデル２０によって推論される推奨値ＲＤを記憶する。
【0024】
（制御部１３０）
制御部１３０は、取得部１３１と、学習部１３２と、更新部１３３と、推論部１３４と、判定部１３５と、停止部１３６と、表示部１３７と、自動運転制御部１３８と、を有する。そして、制御部１３０は、各種の処理手順等を規定したプログラムや処理データを一時的に格納するための内部メモリを有し、ＣＰＵ（Central Processing Unit）やＭＰＵ（Micro Processing Unit）等の電子回路、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等の集積回路によって実現される。
制御部１３０は、取得部１３１と、学習部１３２と、更新部１３３と、推論部１３４と、判定部１３５と、停止部１３６と、表示部１３７と、自動運転制御部１３８と、を有する。そして、制御部１３０は、各種の処理手順等を規定したプログラムや処理データを一時的に格納するための内部メモリを有し、ＣＰＵ（Central Processing Unit）やＭＰＵ（Micro Processing Unit）等の電子回路、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等の集積回路によって実現される。
【0025】
（取得部１３１）
取得部１３１は、操作対象１０の運転に関するデータを取得する。具体的には、取得部１３１は、操作対象１０の運転に関するデータとして、操作対象１０の運転データＤｂ（例えば、操作対象１０が収集するセンサデータのうち説明変数として用いているもの等）を取得する。
取得部１３１は、操作対象１０の運転に関するデータを取得する。具体的には、取得部１３１は、操作対象１０の運転に関するデータとして、操作対象１０の運転データＤｂ（例えば、操作対象１０が収集するセンサデータのうち説明変数として用いているもの等）を取得する。
【0026】
さらに、取得部１３１は、操作対象１０の運転に関するデータとして、履歴検索用キー（現在の操作対象１０のセンサデータで、以降は単に「履歴検索用キー」と記載）を用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａ（類似するセンサデータおよびユーザによる操作履歴を含む）を、履歴データ記憶部１２１から取得する。なお、取得部１３１は、前述した情報以外にも、操作対象１０の運転に関するデータの範疇であれば、限定無く情報を取得できる。
【0027】
（学習部１３２）
学習部１３２は、取得部１３１が取得する操作対象１０の履歴データＤａを用いて、説明変数（センサデータ）および目的変数（ユーザによる操作履歴）を学習データとして学習モデル２０の学習（訓練）を行う。例えば、学習部１３２は、操作対象１０がプラントである場合、特定の状況において過去にユーザＵが投入した原材料の投入量等を履歴データＤａとして用いて、学習モデル２０を学習できる。
学習部１３２は、取得部１３１が取得する操作対象１０の履歴データＤａを用いて、説明変数（センサデータ）および目的変数（ユーザによる操作履歴）を学習データとして学習モデル２０の学習（訓練）を行う。例えば、学習部１３２は、操作対象１０がプラントである場合、特定の状況において過去にユーザＵが投入した原材料の投入量等を履歴データＤａとして用いて、学習モデル２０を学習できる。
【0028】
また、学習モデル２０がアンサンブルモデルの場合は、学習部１３２は、バギングや、ブースティングや、スタッキング等の手法で学習を行ってよい。
【0029】
（更新部１３３）
更新部１３３は、学習部１３２の学習に基づき学習モデル２０を更新する。さらに、更新部１３３は複数の学習モデル２０について、学習部１３２の学習に基づき更新を行う。なお、本実施形態においては、学習モデル２０はアンサンブルモデルであり、情報処理装置１００は複数の学習モデル２０を有する前提として、説明を行う。
更新部１３３は、学習部１３２の学習に基づき学習モデル２０を更新する。さらに、更新部１３３は複数の学習モデル２０について、学習部１３２の学習に基づき更新を行う。なお、本実施形態においては、学習モデル２０はアンサンブルモデルであり、情報処理装置１００は複数の学習モデル２０を有する前提として、説明を行う。
【0030】
（推論部１３４）
推論部１３４は、取得部１３１が操作対象１０から取得する運転データＤｂ（例えば、説明変数等）を入力とする学習モデル２０に基づき、推奨値ＲＤを推論する。なお、学習モデル２０が複数存在するアンサンブルモデルの場合に、推論部１３４は、推論される推奨値ＲＤを複数の学習モデル２０の多数決や平均等によって推論してよい。
推論部１３４は、取得部１３１が操作対象１０から取得する運転データＤｂ（例えば、説明変数等）を入力とする学習モデル２０に基づき、推奨値ＲＤを推論する。なお、学習モデル２０が複数存在するアンサンブルモデルの場合に、推論部１３４は、推論される推奨値ＲＤを複数の学習モデル２０の多数決や平均等によって推論してよい。
【0031】
（判定部１３５）
判定部１３５は、操作対象１０の自動運転の精度に関するデータが所定の条件を満たす場合に、操作対象１０の自動運転の稼働についての判定をする。具体的には、判定部１３５は、操作対象１０の自動運転の精度に関するデータとして、説明変数、推奨値ＲＤ、予測分散、操作対象の評価指標を用いて、判定を行う。なお、判定部１３５の行う判定の詳細については、以降の項目において、実施形態ごとに説明を行う。
判定部１３５は、操作対象１０の自動運転の精度に関するデータが所定の条件を満たす場合に、操作対象１０の自動運転の稼働についての判定をする。具体的には、判定部１３５は、操作対象１０の自動運転の精度に関するデータとして、説明変数、推奨値ＲＤ、予測分散、操作対象の評価指標を用いて、判定を行う。なお、判定部１３５の行う判定の詳細については、以降の項目において、実施形態ごとに説明を行う。
【0032】
（停止部１３６）
停止部１３６は、判定部１３５の判定結果に基づき、操作対象１０の自動運転を停止する。具体的には、停止部１３６は、後述の自動運転制御部１３８が行う自動運転を停止する。
停止部１３６は、判定部１３５の判定結果に基づき、操作対象１０の自動運転を停止する。具体的には、停止部１３６は、後述の自動運転制御部１３８が行う自動運転を停止する。
【0033】
（表示部１３７）
表示部１３７は、停止部１３６が操作対象１０の自動運転を停止した場合に、ユーザＵに対して操作対象１０の自動運転が停止したことを表示する。なお、表示部１３７は、ユーザＵに当該情報を表示する方法として、例えば、テキストや音声等、ユーザＵが知覚できる方法を用いてよい。
表示部１３７は、停止部１３６が操作対象１０の自動運転を停止した場合に、ユーザＵに対して操作対象１０の自動運転が停止したことを表示する。なお、表示部１３７は、ユーザＵに当該情報を表示する方法として、例えば、テキストや音声等、ユーザＵが知覚できる方法を用いてよい。
【0034】
また、表示部１３７は、停止部１３６による自動運転の自動停止が行われない場合にも、ユーザＵに対して自動運転の精度低下に基づく自動運転停止に関する情報を表示してよい。例えば、表示部１３７は、「自動運転の精度低下のため、自動運転の停止を推奨」、等といった内容の表示を行ってよい。
【0035】
（自動運転制御部１３８）
自動運転制御部１３８は、運転データＤｂ（説明変数）を入力とする学習モデル２０に基づき推論する推奨値ＲＤを用いて、操作対象１０に対して自動運転を実施する。
自動運転制御部１３８は、運転データＤｂ（説明変数）を入力とする学習モデル２０に基づき推論する推奨値ＲＤを用いて、操作対象１０に対して自動運転を実施する。
【0036】
〔３．実施形態に係る情報処理の全体像〕
ここから、本実施形態における情報処理装置１００が行う情報処理の全体像について、図４を用いて説明する。図４では、情報処理装置１００が、操作対象１０の自動運転の精度に関するデータに基づいて、後述する実施形態１から実施形態６の方法を用いて、自動運転の精度低下による自動運転の停止の判定を行う手順を説明する。なお、情報処理装置１００は、実施形態１から実施形態６について、それぞれ単独で実施してもよいし、任意の実施形態を組み合わせて実施してもよい。
ここから、本実施形態における情報処理装置１００が行う情報処理の全体像について、図４を用いて説明する。図４では、情報処理装置１００が、操作対象１０の自動運転の精度に関するデータに基づいて、後述する実施形態１から実施形態６の方法を用いて、自動運転の精度低下による自動運転の停止の判定を行う手順を説明する。なお、情報処理装置１００は、実施形態１から実施形態６について、それぞれ単独で実施してもよいし、任意の実施形態を組み合わせて実施してもよい。
【0037】
取得部１３１は、履歴検索用キーを用いて履歴データ記憶部１２１から、操作対象１０の運転データＤｂと類似または関係する過去の履歴データＤａを取得する（図４の（１）を参照）。続けて、学習部１３２は、取得した履歴データＤａを用いて学習モデル２０を学習する（図４の（２）を参照）。
【0038】
更新部１３３は、複数の学習モデル２０（学習モデル２０ａと、学習モデル２０ｂと、学習モデル２０ｃ）を更新する（図４の（３）を参照）。なお、図４では学習モデル２０は３つ表記しているが、３つに限定されず必要に応じて異なる数の学習モデル２０があってよい。
【0039】
推論部１３４は、複数の学習済みの学習モデル２０に基づいて複数の推論を行う（図４の（４）を参照）。そして、推論部１３４は、取得部１３１が取得する運転データＤｂ（説明変数）を入力として（図４の（５）を参照）、学習モデル２０に基づき推奨値ＲＤを推論する（図４の（６）を参照）。なお、本実施形態において、推論部１３４は、複数の学習モデル２０を用いて複数の推奨値ＲＤを推論する場合に、複数モデルによる多数決や平均等によって算出してよい。
【0040】
ここから、判定部１３５による各種判定基準に基づく運転精度の判定について説明する。判定部１３５は、異常検知アルゴリズム（例えば、ＰＣＡ（Principal Component Analysis）等を利用したもの）を用いて、運転データＤｂ（説明変数）に所定の変化が生じているか否かを判定する（図４の（７）を参照）。なお、図４の（７）の処理は、実施形態１として以降の項目で説明する。
【0041】
判定部１３５は、推論部１３４によって推論される推奨値ＲＤが、所定の範囲（例えば、最大最小閾値等）に存在するか否かを判定する（図４の（８）を参照）。なお、図４の（８）の処理は、実施形態２として以降の項目で説明する。
【0042】
判定部１３５は、推論部１３４によって推論される推奨値ＲＤについて所定の期間における変化率を算出し、前述の変化率が所定の範囲（例えば、差分変化量閾値等）に存在するか否かを判定する（図４の（９）を参照）。なお、図４の（９）の処理は、実施形態３として以降の項目で説明する。
【0043】
判定部１３５は、複数の学習モデル２０のそれぞれの推奨値ＲＤについて分散に基づいて比較を行い、前述の分散が所定の閾値（例えば、アンサンブルモデルの分散閾値等）を超えるか否かを判定する（図４の（１０）を参照）。なお、図４の（１０）の処理は、実施形態４として以降の項目で説明する。
【0044】
判定部１３５は、推論部１３４によって推論される推奨値ＲＤが事後分布を有する場合に、推奨値ＲＤの事後分布の予測分散が所定の閾値（例えば、予測分散閾値等）を超えるか否かを判定する（図４の（１１）を参照）。なお、図４の（１１）の処理は、実施形態５として以降の項目で説明する。
【0045】
判定部１３５は、操作対象１０の評価指標（図４の（１２）を参照）が所定の閾値（例えば、評価指標閾値等）を超えるか否かを判定する（図４の（１３）を参照）。なお、図４の（１３）の処理は、実施形態６として以降の項目で説明する。
【0046】
そして、判定部１３５は、各種判定基準に基づき運転精度が低下していると判定する場合に、更に自動運転の停止の判定を行う（図４の（１４）の「運転精度の低下有り」を参照）。なお、判定部１３５は、前述した判定基準の単独もしくは複数組み合わせて、所定の条件を満たすかどうかを判定してよい。
【0047】
停止部１３６は、前述の判定部１３５の判定に基づいて、自動運転の停止を実施する（図４の（１５）を参照）。続けて、表示部１３７は、停止部１３６による自動運転の停止に基づいて、ユーザＵに自動運転が停止したことを表示する（図４の（１６）を参照）。そして、ユーザＵは、自動運転が停止した操作対象１０を手動で操作する（図４の（１７）を参照）。
【0048】
他方で、判定部１３５が前述した判定基準に基づいて運転精度が低下していないと判定する場合に（図４の（１４）の「運転精度の低下無し」を参照）、自動運転制御部１３８は、自動運転を継続する（図４の（１８）を参照）。
【0049】
ここから、図５から図８を用いて、図４の（１６）で前述したユーザＵに自動運転の停止について通知する方法の一例を説明する。まず、図５を用いて、ユーザＵの操作する端末装置等に表示するシステム画面を説明する。なお、本項目で説明するシステム画面はあくまで一例であり、表示形式、表示内容、画面の配置、構成、組み合わせ等は限定されず、必要に応じて変更してよい。
【0050】
図５の画面ＳＡは、自動運転における運転に関するデータの変動について視覚化した情報を表している。画面ＳＡには、自動運転により逐次変動するデータを時系列方向に連続して表示される。一方で画面ＳＢには、自動運転における運転に関するデータの一覧が表示される。なお、画面ＳＡに表示される項目は、情報処理装置１００が自動的に選択してもよいし、ユーザＵが自身で選択してもよい。ユーザＵが自身で選択する場合は、画面ＳＢに表示されている項目に基づき画面ＳＡの表示が切り替えられてよい。
【0051】
図５の表示ＳＣ１には、自動運転の稼働状況に関する情報が表示される。例えば、図５の場合、表示部１３７は、自動運転が稼働中の場合、表示ＳＣ１に「自動運転稼働中」のテキストを表示する。そして、停止部１３６が自動運転を停止した場合には、表示部１３７は、図６の表示ＳＣ２に「自動運転停止中」のテキストを表示する。なお、前述したテキスト内容についてはあくまで一例であり、表示部１３７は、ユーザＵに運転状況を表示するために必要に応じてその他のテキスト、画像、音声等のユーザが五感で知覚できる出力方法を用いることができる。
【0052】
また、ここまで停止部１３６による自動運転の自動停止について説明をしてきたが、ユーザＵが表示部１３７の表示する自動運転の精度が低下についての情報を受け付ける場合、ユーザＵ自身の操作によって自動運転を停止させてもよい。例えば、図７の表示ＳＣ３および図８の表示ＳＣ４に示す通り、ユーザＵは、表示部１３７が表示するテキスト付近に存在する「停止」と「稼働開始」のダイアログを操作して、自動運転の停止と再開を切り替えてもよい。
【0053】
〔４．実施形態１：説明変数の異常検知による判定〕
ここから、前述してきた運転精度の判定方法について、実施形態１から実施形態６として、それぞれ「概要」と、「情報処理装置１００の構成」と、「処理手順」と、という順番で説明する。なお、情報処理装置１００は、実施形態１から実施形態６について、それぞれ単独で実施してもよいし、複数の実施形態を組み合わせて実施してもよい。例えば、情報処理装置１００は、実施形態ごとの単独の判定結果や、複数の実施形態における複数の判定結果に基づいて、自動運転の停止を判定してもよい。
ここから、前述してきた運転精度の判定方法について、実施形態１から実施形態６として、それぞれ「概要」と、「情報処理装置１００の構成」と、「処理手順」と、という順番で説明する。なお、情報処理装置１００は、実施形態１から実施形態６について、それぞれ単独で実施してもよいし、複数の実施形態を組み合わせて実施してもよい。例えば、情報処理装置１００は、実施形態ごとの単独の判定結果や、複数の実施形態における複数の判定結果に基づいて、自動運転の停止を判定してもよい。
【0054】
まず、実施形態１として「説明変数の異常検知による判定」について説明する。推論部１３４は、操作対象１０が収集する運転データＤｂ（説明変数）を入力とする学習モデル２０に基づき推論を行うことで、推奨値ＲＤを算出する。そして、自動運転制御部１３８は、推論された推奨値ＲＤを用いて、操作対象１０に対して自動運転を実施する。しかし、操作対象１０の運転状況は経時的に変化する場合があり、それに伴い自動運転の精度が低下する場合がある。なお、前述した内容は、実施形態１から実施形態６まで共通であるため、以降の記載は省略する。
【0055】
前述したように、操作対象１０の自動運転の精度低下発生時に、学習モデル２０に対する入力である運転データＤｂ（説明変数）に変化（異常）が生じる場合がある。そこで、実施形態１の判定部１３５は、異常検知アルゴリズム（例えば、ＰＣＡ等を利用したもの）を用いて運転データＤｂ（説明変数）の変化を評価し、自動運転の停止を判定する。
【0056】
〔４－１．実施形態１の情報処理装置の構成〕
実施形態１における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
実施形態１における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
【0057】
（判定部１３５）
実施形態１における判定部１３５は、異常検知アルゴリズムを用いて、運転データＤｂ（説明変数）に生じる変化を判定する。具体的には、判定部１３５は、所定の条件として、操作対象１０の運転の状況を表す運転データＤｂ（説明変数）についての異常検知の結果に基づき、運転データＤｂ（説明変数）に所定の変化が発生する場合に自動運転の停止の判定をする。なお、判定部１３５は、教師無し機械学習（例えば、ＰＣＡ等を利用したもの）を利用した異常検知アルゴリズムに基づいて、判定を行ってよい。
実施形態１における判定部１３５は、異常検知アルゴリズムを用いて、運転データＤｂ（説明変数）に生じる変化を判定する。具体的には、判定部１３５は、所定の条件として、操作対象１０の運転の状況を表す運転データＤｂ（説明変数）についての異常検知の結果に基づき、運転データＤｂ（説明変数）に所定の変化が発生する場合に自動運転の停止の判定をする。なお、判定部１３５は、教師無し機械学習（例えば、ＰＣＡ等を利用したもの）を利用した異常検知アルゴリズムに基づいて、判定を行ってよい。
【0058】
例えば、判定部１３５は、ＰＣＡ（主成分分析）で縮約写像した空間においてＫＤＥ（カーネル密度推定）等を実施し、密度が低い部分にデータが現れた場合（例えば、尤度が低い場合等）を異常発生と判定してよい。また、他の例として、判定部１３５は、マハラノビス距離で知られる距離指標を用いて、異常発生と判定してよい。さらに、他の例として判定部１３５は、ＰＣＡで縮約した空間上で計算されるＴ＾２統計量およびＱ統計量を用いて異常発生を判定してよい。
【0059】
ここから、ＰＣＡに基づく異常検知アルゴリズムを用いた異常検知の一例を説明する。判定部１３５は、図９に示す通り、学習対象データの内、大多数を占める正常データが存在する領域（多様体）を縮約で求め、そこから所定の距離が離れている場合に異常が発生していると判定してよい（例えば、図９の値ａおよび値ｂを参照）。なお、図９に示す、マハラノビス距離ｄは、以下の数式（１）で示される。なお、数式（１）における、Σは「分散共分散行列」で、ｘは「変数」で、μは「ｘの平均」であるとする。
【0060】
【数1】
【0061】
具体的には、図１０において、Ｔ＾２統計量は縮約した次元内（正常データが主要に存在している次元内）での距離を示しており、判定部１３５は、前述の距離に基づき異常値の判定を行う（例えば、図１０の値ａを参照）。他方で、Ｑ統計量は縮約から漏れた次元（正常データが主要に存在してない次元内に飛び出ている値）の距離を示しており、判定部１３５は前述の距離に基づき異常値の判定を行う（例えば、図１０の値ｂを参照）。
【0062】
他方で、判定部１３５は、尤度による判定として、確率密度の高いデータの主要領域から所定の距離が離れている場合に異常が発生していると判定してよい。また、判定部１３５は、ＰＣＡに基づく異常検知に限定されず、その他の方法を用いて異常の発生を判定してよい。例えば、生成モデルを用いる方法として、判定部１３５は、ニューラルネットワークを用いた縮約手法であるオートエンコーダや、ＧＡＮ（Generative Adversarial Network）等を用いて、異常の発生を判定してよい。
【0063】
前述のオートエンコーダを用いる方法では、判定部１３５は、「入力→縮約→入力再構成」のうち再構成の誤差について、「学習後の再現性が低い場合、学習に用いた大多数の通常データと所定の距離が離れている異常サンプルを用いた学習が行われている」という前提に基づいて、異常度を判定してよい。他方、ＧＡＮを用いる使う方法では、判定部１３５は、学習済みのｄｉｓｃｒｉｍｉｎａｔｏｒ（ＧＡＮの生成物と、真のデータを正誤判定するモデル)を用いて、真のデータと判定されなければ異常が発生していると判定してよい。
【0064】
一例として、プラントプロセスデータを用いる場合、プラントが収集するセンサー値を、例えば時間窓で「センサー数×窓幅」次元をもつ多次元データとして処理して、それを入力とし通常の状態とどれだけ所定の距離が離れているかを、判定部１３５が前述した方法を用いて判定してよい。
【0065】
〔４－２．実施形態１の処理手順〕
次に、実施形態１における情報処理装置１００の情報処理方法の手順について、図１１を用いて説明する。まず、操作対象１０は、運転データＤｂ（説明変数）を収集する（ステップＳ１０１）。次に、判定部１３５は、異常検知アルゴリズム（例えば、ＰＣＡ等を利用したもの）を用いて、運転データＤｂ（説明変数）に生じる状態変化を判定する（ステップＳ１０２）。
次に、実施形態１における情報処理装置１００の情報処理方法の手順について、図１１を用いて説明する。まず、操作対象１０は、運転データＤｂ（説明変数）を収集する（ステップＳ１０１）。次に、判定部１３５は、異常検知アルゴリズム（例えば、ＰＣＡ等を利用したもの）を用いて、運転データＤｂ（説明変数）に生じる状態変化を判定する（ステップＳ１０２）。
【0066】
判定部１３５は、運転データＤｂ（説明変数）に生じる変化が所定の範囲に含まれないと判定する（ステップＳ１０３のＮｏ）。その場合、判定部１３５は、自動運転を停止する判定を行う（ステップＳ１０４）。そして、停止部１３６は、判定部１３５の判定に基づき自動運転を停止する（ステップＳ１０５）。続けて、表示部１３７は、ユーザＵに自動運転が停止したことを表示し（ステップＳ１０６）、工程が終了する。
【0067】
他方、判定部１３５は、運転データＤｂ（説明変数）に生じる状態変化が所定の範囲に含まれると判定する（ステップＳ１０３のＹｅｓ）。その場合は工程を戻り、処理が継続する。
【0068】
〔５．実施形態２：推奨値による判定〕
次に、実施形態２として「推奨値による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、推奨値ＲＤが変動する場合がある。そこで、実施形態２の判定部１３５は、推奨値ＲＤが所定の範囲（例えば、最大最小閾値等）に存在するか否かに基づいて、自動運転の停止を判定する。
次に、実施形態２として「推奨値による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、推奨値ＲＤが変動する場合がある。そこで、実施形態２の判定部１３５は、推奨値ＲＤが所定の範囲（例えば、最大最小閾値等）に存在するか否かに基づいて、自動運転の停止を判定する。
【0069】
〔５－１．実施形態２の情報処理装置の構成〕
実施形態２における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
実施形態２における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
【0070】
（判定部１３５）
実施形態２における判定部１３５は、所定の条件として、操作対象１０の運転に関する履歴データＤａを用いた学習モデル２０に基づき推論される推奨値ＲＤが、最大最小閾値の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、最大最小閾値の範囲について必要に応じて任意の範囲を設定してよい。また、判定部１３５は、その他の判定方法として、例えば、従来の操作量（真値）を学習データとしてモデルを学習して異常検知を行う方法や、ｄｉｓｃｒｉｍｉｎａｔｏｒまたは異常検知アルゴリズムを用いて従来の操作量（真値）か推奨値ＲＤかを識別する分類を行う方法、等を用いてもよい。
実施形態２における判定部１３５は、所定の条件として、操作対象１０の運転に関する履歴データＤａを用いた学習モデル２０に基づき推論される推奨値ＲＤが、最大最小閾値の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、最大最小閾値の範囲について必要に応じて任意の範囲を設定してよい。また、判定部１３５は、その他の判定方法として、例えば、従来の操作量（真値）を学習データとしてモデルを学習して異常検知を行う方法や、ｄｉｓｃｒｉｍｉｎａｔｏｒまたは異常検知アルゴリズムを用いて従来の操作量（真値）か推奨値ＲＤかを識別する分類を行う方法、等を用いてもよい。
【0071】
〔５－２．実施形態２の処理手順〕
次に、実施形態２における情報処理装置１００の情報処理方法の手順について、図１２を用いて説明する。まず、操作対象１０は、運転データＤｂを収集する（ステップＳ２０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ２０２）。
次に、実施形態２における情報処理装置１００の情報処理方法の手順について、図１２を用いて説明する。まず、操作対象１０は、運転データＤｂを収集する（ステップＳ２０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ２０２）。
【0072】
学習部１３２は、取得部１３１が取得した類似の履歴データＤａを用いて学習モデル２０の学習を実施する（ステップＳ２０３）。続けて、更新部１３３は、学習モデル２０を更新する（ステップＳ２０４）。そして、推論部１３４は、運転データＤｂ（説明変数）を入力とする更新された学習モデル２０に基づき推奨値ＲＤを推論する（ステップＳ２０５）。
【0073】
判定部１３５は、推論された推奨値ＲＤが所定の範囲（例えば、最大最小閾値等）に含まれないと判定する（ステップＳ２０６のＮｏ）。その場合、判定部１３５は、自動運転を停止する判定を行う（ステップＳ２０７）。そして、停止部１３６は、判定部１３５の判定に基づき自動運転を停止する（ステップＳ２０８）。続けて、表示部１３７は、ユーザＵに自動運転が停止したことを表示し（ステップＳ２０９）、工程が終了する。
【0074】
他方、判定部１３５は、推論された推奨値ＲＤが所定の範囲（例えば、最大最小閾値等）に含まれると判定する（ステップＳ２０６のＹｅｓ）。その場合は工程を戻り、処理が継続する。
【0075】
〔６．実施形態３：推奨値の変化率による判定〕
次に、実施形態３として「推奨値の変化率による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、推奨値ＲＤについても変動する場合がある。そこで、実施形態３の判定部１３５は、推奨値ＲＤの所定の期間における変化率が所定の範囲（例えば、差分変化量閾値等）に存在するか否かに基づいて、自動運転の停止を判定する。
次に、実施形態３として「推奨値の変化率による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、推奨値ＲＤについても変動する場合がある。そこで、実施形態３の判定部１３５は、推奨値ＲＤの所定の期間における変化率が所定の範囲（例えば、差分変化量閾値等）に存在するか否かに基づいて、自動運転の停止を判定する。
【0076】
〔６－１．実施形態３の情報処理装置の構成〕
実施形態３における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
実施形態３における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
【0077】
（判定部１３５）
実施形態３における判定部１３５は、所定の条件として、操作対象１０の運転に関する履歴データＤａを用いた学習モデル２０に基づき推論される推奨値ＲＤの変化率が、差分変化量閾値の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、差分変化量閾値の範囲について必要に応じて任意の範囲を設定してよい。また、判定部１３５は、その他の判定方法として、例えば、従来の操作量（真値）を学習データとしてモデルを学習して異常検知を行う方法や、ｄｉｓｃｒｉｍｉｎａｔｏｒまたは異常検知アルゴリズムを用いて従来の操作量（真値）か推奨値ＲＤかを識別する分類を行う方法、等を用いてもよい。
実施形態３における判定部１３５は、所定の条件として、操作対象１０の運転に関する履歴データＤａを用いた学習モデル２０に基づき推論される推奨値ＲＤの変化率が、差分変化量閾値の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、差分変化量閾値の範囲について必要に応じて任意の範囲を設定してよい。また、判定部１３５は、その他の判定方法として、例えば、従来の操作量（真値）を学習データとしてモデルを学習して異常検知を行う方法や、ｄｉｓｃｒｉｍｉｎａｔｏｒまたは異常検知アルゴリズムを用いて従来の操作量（真値）か推奨値ＲＤかを識別する分類を行う方法、等を用いてもよい。
【0078】
〔６－２．実施形態３の処理手順〕
次に、実施形態３における情報処理装置１００の情報処理方法の手順について、図１３を用いて説明する。まず、操作対象１０は、運転データＤｂを収集する（ステップＳ３０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ３０２）。
次に、実施形態３における情報処理装置１００の情報処理方法の手順について、図１３を用いて説明する。まず、操作対象１０は、運転データＤｂを収集する（ステップＳ３０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ３０２）。
【0079】
学習部１３２は、取得部１３１が取得した類似の履歴データＤａを用いて学習モデル２０の学習を実施する（ステップＳ３０３）。続けて、更新部１３３は、学習モデル２０を更新する（ステップＳ３０４）。そして、推論部１３４は、運転データＤｂ（説明変数）を入力とする更新された学習モデル２０に基づき推奨値ＲＤを推論する（ステップＳ３０５）。
【0080】
判定部１３５は、推論された推奨値ＲＤの所定の期間における変化率が所定の範囲（例えば、差分変化量閾値等）に含まれないと判定する（ステップＳ３０６のＮｏ）。その場合、判定部１３５は、自動運転を停止する判定をする（ステップＳ３０７）。そして、停止部１３６は、判定部１３５の判定に基づき自動運転を停止する（ステップＳ３０８）。続けて、表示部１３７は、ユーザＵに自動運転が停止したことを表示し（ステップＳ３０９）、工程が終了する。
【0081】
他方、判定部１３５は、推論された推奨値ＲＤの所定の期間における変化率が所定の範囲（例えば、差分変化量閾値等）に含まれると判定する（ステップＳ３０６のＹｅｓ）。その場合は工程を戻り、処理が継続する。
【0082】
〔７．実施形態４：アンサンブル分散閾値による判定〕
次に、実施形態４として「アンサンブル分散閾値による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、更新された複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散が大きくなる場合がある。そこで、実施形態４の判定部１３５は、複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散について、前述の分散が所定の閾値（例えば、アンサンブルモデルの分散閾値等）を超えるか否かに基づいて、自動運転の停止を判定する。
次に、実施形態４として「アンサンブル分散閾値による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、更新された複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散が大きくなる場合がある。そこで、実施形態４の判定部１３５は、複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散について、前述の分散が所定の閾値（例えば、アンサンブルモデルの分散閾値等）を超えるか否かに基づいて、自動運転の停止を判定する。
【0083】
〔７－１．実施形態４の情報処理装置の構成〕
実施形態４における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
実施形態４における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
【0084】
（判定部１３５）
実施形態４における判定部１３５は、所定の条件として、操作対象１０の運転に関する履歴データＤａを用いた複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散が所定の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、前述の所定の範囲について必要に応じて任意の範囲を設定してよい。
実施形態４における判定部１３５は、所定の条件として、操作対象１０の運転に関する履歴データＤａを用いた複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散が所定の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、前述の所定の範囲について必要に応じて任意の範囲を設定してよい。
【0085】
〔７－２．実施形態４の処理手順〕
次に、実施形態４における情報処理装置１００の情報処理方法の手順について、図１４を用いて説明する。なお、本項目では学習モデル２０および学習モデル２０に基づき推論される推奨値ＲＤが複数存在する前提で説明を行う。また、実施形態４以外の実施形態（実施形態１から実施形態３および後述の実施形態５と実施形態６）についても、複数の学習モデル２０および推奨値ＲＤが存在していてもよい。
次に、実施形態４における情報処理装置１００の情報処理方法の手順について、図１４を用いて説明する。なお、本項目では学習モデル２０および学習モデル２０に基づき推論される推奨値ＲＤが複数存在する前提で説明を行う。また、実施形態４以外の実施形態（実施形態１から実施形態３および後述の実施形態５と実施形態６）についても、複数の学習モデル２０および推奨値ＲＤが存在していてもよい。
【0086】
まず、操作対象１０は、運転データＤｂを収集する（ステップＳ４０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ４０２）。
【0087】
学習部１３２は、取得部１３１が取得した類似の履歴データＤａを用いて学習モデル２０の学習を実施する（ステップＳ４０３）。続けて、更新部１３３は、複数の学習モデル２０を更新する（ステップＳ４０４）。そして、推論部１３４は、運転データＤｂ（説明変数）を入力とする更新された学習モデル２０に基づき推奨値ＲＤを推論する（ステップＳ４０５）。
【0088】
判定部１３５は、学習モデル２０の分散が所定の範囲に含まれない、言い換えると複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散について、前述の分散が所定の閾値（例えば、アンサンブルモデルの分散閾値等）を超えると判定する（ステップＳ４０６のＮｏ）。その場合、判定部１３５は、自動運転を停止する判定をする（ステップＳ４０７）。そして、停止部１３６は、判定部１３５の判定に基づき自動運転を停止する（ステップＳ４０８）。続けて、表示部１３７は、ユーザＵに自動運転が停止したことを表示し（ステップＳ４０９）、工程が終了する。
【0089】
他方、判定部１３５は、学習モデル２０の分散が所定の範囲に含まれる、言い換えると複数の学習モデル２０に基づき推論される複数の推奨値ＲＤの分散について、前述の分散が所定の閾値（例えば、アンサンブルモデルの分散閾値等）を超えない判定する（ステップＳ４０６のＹｅｓ）。その場合は工程を戻り、処理が継続する。
【0090】
〔８．実施形態５：推奨値の予測分散による判定〕
次に、実施形態５として「推奨値の予測分散による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、推論部１３４が推論する推奨値ＲＤが事後分布を有している場合、推奨値ＲＤの予測分散が大きくなる場合がある。そこで、実施形態５の判定部１３５は、前述の推奨値ＲＤの事後分布の予測分散が所定の閾値（例えば、予測分散閾値等）を超えるか否かに基づいて、自動運転の停止を判定する。
次に、実施形態５として「推奨値の予測分散による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、推論部１３４が推論する推奨値ＲＤが事後分布を有している場合、推奨値ＲＤの予測分散が大きくなる場合がある。そこで、実施形態５の判定部１３５は、前述の推奨値ＲＤの事後分布の予測分散が所定の閾値（例えば、予測分散閾値等）を超えるか否かに基づいて、自動運転の停止を判定する。
【0091】
〔８－１．実施形態５の情報処理装置の構成〕
実施形態５における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
実施形態５における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
【0092】
（判定部１３５）
実施形態５における判定部１３５は、操作対象１０の運転に関する履歴データＤａを用いた学習モデル２０に基づき推論される推奨値ＲＤが事後分布を有する場合、所定の条件として、推奨値ＲＤの予測分散が所定の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、前述の所定の範囲について必要に応じて任意の範囲を設定してよい。
実施形態５における判定部１３５は、操作対象１０の運転に関する履歴データＤａを用いた学習モデル２０に基づき推論される推奨値ＲＤが事後分布を有する場合、所定の条件として、推奨値ＲＤの予測分散が所定の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、前述の所定の範囲について必要に応じて任意の範囲を設定してよい。
【0093】
〔８－２．実施形態５の処理手順〕
次に、実施形態５における情報処理装置１００の情報処理方法の手順について、図１５を用いて説明する。なお、実施形態５の処理手順において、推論される推奨値ＲＤは事後分布を有する前提で説明を行う。
次に、実施形態５における情報処理装置１００の情報処理方法の手順について、図１５を用いて説明する。なお、実施形態５の処理手順において、推論される推奨値ＲＤは事後分布を有する前提で説明を行う。
【0094】
まず、操作対象１０は、運転データＤｂを収集する（ステップＳ５０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ５０２）。
【0095】
学習部１３２は、取得部１３１が取得した類似の履歴データＤａを用いて学習モデル２０の学習を実施する（ステップＳ５０３）。続けて、更新部１３３は、学習モデル２０を更新する（ステップＳ５０４）。そして、推論部１３４は、運転データＤｂ（説明変数）を入力とする更新された学習モデル２０に基づき推奨値ＲＤを推論する（ステップＳ５０５）。
【0096】
判定部１３５は、推奨値ＲＤの事後分布の予測分散が所定の範囲に含まれない、言い換えると推奨値ＲＤの事後分布の予測分散が所定の閾値（例えば、予測分散閾値等）を超えると判定する（ステップＳ５０６のＮｏ）。その場合、判定部１３５は、自動運転を停止する判定をする（ステップＳ５０７）。そして、停止部１３６は、判定部１３５の判定に基づき自動運転を停止する（ステップＳ５０８）。続けて、表示部１３７は、ユーザＵに自動運転が停止したことを表示し（ステップＳ５０９）、工程が終了する。
【0097】
他方、判定部１３５は、推奨値ＲＤの事後分布の予測分散が所定の範囲に含まれる、言い換えると推奨値ＲＤの事後分布の予測分散が所定の閾値（例えば、予測分散閾値等）を超えない判定する（ステップＳ５０６のＹｅｓ）。その場合は工程を戻り、処理が継続する。
【0098】
〔９．実施形態６：操作対象の評価指標による判定〕
次に、実施形態６として「操作対象の評価指標による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、操作対象１０の評価指標（例えば、操作対象１０の生産量、安定度等）が変動する場合がある。そこで、実施形態６の判定部１３５は、操作対象１０の評価指標が所定の閾値（例えば、評価指標閾値等）を超えるか否かに基づいて、自動運転の停止を判定する。
次に、実施形態６として「操作対象の評価指標による判定」について説明する。操作対象１０の自動運転の精度低下発生時に、操作対象１０の評価指標（例えば、操作対象１０の生産量、安定度等）が変動する場合がある。そこで、実施形態６の判定部１３５は、操作対象１０の評価指標が所定の閾値（例えば、評価指標閾値等）を超えるか否かに基づいて、自動運転の停止を判定する。
【0099】
〔９－１．実施形態６の情報処理装置の構成〕
実施形態６における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
実施形態６における情報処理装置１００の装置構成は、前述の実施形態と同様である。したがって、本項目では差異として判定部１３５の付加的機能のみ説明し、それ以外の詳細な説明は省略する。
【0100】
（判定部１３５）
実施形態６における判定部１３５は、所定の条件として、操作対象１０の評価指標が所定の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、前述の所定の範囲について必要に応じて任意の範囲を設定してよい。
実施形態６における判定部１３５は、所定の条件として、操作対象１０の評価指標が所定の範囲に含まれない場合に自動運転の停止の判定をする。なお、判定部１３５は、前述の所定の範囲について必要に応じて任意の範囲を設定してよい。
【0101】
〔９－２．実施形態６の処理手順〕
次に、実施形態６における情報処理装置１００の情報処理方法の手順について、図１６を用いて説明する。まず、操作対象１０は、運転データＤｂを収集する（ステップＳ６０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ６０２）。
次に、実施形態６における情報処理装置１００の情報処理方法の手順について、図１６を用いて説明する。まず、操作対象１０は、運転データＤｂを収集する（ステップＳ６０１）。次に、取得部１３１は、履歴検索用キーを用いて、操作対象１０の運転実施時点における運転データＤｂと類似の履歴データＤａを履歴データ記憶部１２１から取得する（ステップＳ６０２）。
【0102】
学習部１３２は、取得部１３１が取得した類似の履歴データＤａを用いて学習モデル２０の学習を実施する（ステップＳ６０３）。続けて、更新部１３３は、学習モデル２０を更新する（ステップＳ６０４）。そして、推論部１３４は、運転データＤｂ（説明変数）を入力とする更新された学習モデル２０に基づき推奨値ＲＤを推論する（ステップＳ６０５）。その後、自動運転制御部１３８は、推論される推奨値ＲＤを用いて自動運転を実施する（ステップＳ６０６）。
【0103】
判定部１３５は、自動運転の結果得られる操作対象１０の評価指標が所定の範囲に含まれない、言い換えると操作対象１０の評価指標が所定の閾値（例えば、評価指標閾値等）を超えると判定する（ステップＳ６０７のＮｏ）。その場合、判定部１３５は、自動運転を停止する判定をする（ステップＳ６０８）。そして、停止部１３６は、判定部１３５の判定に基づき自動運転を停止する（ステップＳ６０９）。続けて、表示部１３７は、ユーザＵに自動運転が停止したことを表示し（ステップＳ６１０）、工程が終了する。
【0104】
他方、判定部１３５は、操作対象１０の評価指標が所定の範囲に含まれる、言い換えると操作対象１０の評価指標が所定の閾値（例えば、評価指標閾値等）を超えないと判定する（ステップＳ６０７のＹｅｓ）。その場合は工程を戻り、処理が継続する。
【0105】
〔１０．効果〕
従来技術では、ユーザＵは、運転データＤｂを入力とする学習モデル２０に基づき推論される推奨値ＲＤを用いて、操作対象１０を手動で操作する。ここで、図１７を用いて、従来技術による推奨値ＲＤの提示と、ユーザＵによる操作対象１０の手動操作について説明を行う。
従来技術では、ユーザＵは、運転データＤｂを入力とする学習モデル２０に基づき推論される推奨値ＲＤを用いて、操作対象１０を手動で操作する。ここで、図１７を用いて、従来技術による推奨値ＲＤの提示と、ユーザＵによる操作対象１０の手動操作について説明を行う。
【0106】
図１７では、従来技術における情報処理装置１は、操作対象１０の運転データＤｂ（例えば、温度、圧力、流量、原料投入量、生成量等）と類似または関係する過去の履歴データＤａ（例えば、温度、圧力、流量、原料投入量、生成量等、ユーザによる操作履歴等）を用いて学習モデル２０を学習する（図１７の（１）を参照）。次に、情報処理装置１は、運転データＤｂを入力とする（図１７の（２）を参照）、前述の学習モデル２０に基づき推論される推奨値ＲＤをガイダンス画面３０に表示し、ユーザＵに対してレコメンドする（図１７の（３）を参照）。そして、ユーザＵは、情報処理装置１からの表示に基づき、手動で操作対象１０を操作する（図１７の（４）を参照）。
【0107】
前述したように、従来技術では、ユーザＵが提示される推奨値ＲＤに基づいて操作対象１０を手動操作するため、推奨値ＲＤの精度が変化した際でも、ユーザＵ自身が運転の継続または停止判断を行うことが可能であった。しかしながら、ユーザＵを介さない自動運転時に推奨値ＲＤの精度判定を行うことが難しく、推奨値ＲＤの精度が変化した場合でも適切なタイミングで手動運転への切り替えを判断することが難しい場合があった。
【0108】
そこで、本実施形態における情報処理装置１００は、操作対象１０の自動運転の精度に関するデータが所定の条件を満たす場合に、操作対象１０の自動運転の稼働についての判定を行い、判定部１３５の判定結果に基づき、操作対象１０の自動運転を停止する。そのため、本実施形態によれば情報処理装置１００は、下記の効果を奏する。
【0109】
情報処理装置１００は、操作対象１０の自動運転の精度が変化した場合における手動運転への切り替えのタイミングの判断を容易とする、という効果を奏する。
【0110】
さらに、情報処理装置１００は、操作対象１０の運転に関するデータに基づいて、動的に自動運転の継続可否を判定することにより、ユーザＵの経験や熟練度、スキル等に左右されずに自動運転の停止を行うことで、安全な自動運転の停止が可能となる、という効果を奏する。
【0111】
〔１１．ハードウェア構成〕
図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部または任意の一部が、ＣＰＵおよび当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部または任意の一部が、ＣＰＵおよび当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
【0112】
また、本実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を公知の方法で手動的に行うこともできる。この他、図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
【0113】
［プログラム］
一実施形態として、情報処理装置１００は、パッケージソフトウェアやオンラインソフトウェアとして、前述した情報処理方法を実行する情報処理プログラムを、所望のコンピュータにインストールさせることによって実装できる。例えば、上記の情報処理プログラムを情報処理装置に実行させることにより、情報処理装置１００として機能させることができる。ここで言う情報処理装置には、デスクトップ型またはノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機等の移動体通信端末、さらには、ＰＤＡ（Personal Digital Assistant）等のスレート端末等がその範疇に含まれる。
一実施形態として、情報処理装置１００は、パッケージソフトウェアやオンラインソフトウェアとして、前述した情報処理方法を実行する情報処理プログラムを、所望のコンピュータにインストールさせることによって実装できる。例えば、上記の情報処理プログラムを情報処理装置に実行させることにより、情報処理装置１００として機能させることができる。ここで言う情報処理装置には、デスクトップ型またはノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機等の移動体通信端末、さらには、ＰＤＡ（Personal Digital Assistant）等のスレート端末等がその範疇に含まれる。
【0114】
図１８は、情報処理装置１００が実現されるコンピュータの一例を示す図である。コンピュータ１０００は、例えば、メモリ１０１０、ＣＰＵ１０２０を有する。また、コンピュータ１０００は、ハードディスクドライブインタフェース１０３０、ディスクドライブインタフェース１０４０、シリアルポートインタフェース１０５０、ビデオアダプタ１０６０、ネットワークインタフェース１０７０を有する。これらの各部は、バス１０８０によって接続される。
【0115】
メモリ１０１０は、ＲＯＭ（Read Only Memory）１０１１およびＲＡＭ１０１２を含む。ＲＯＭ１０１１は、例えば、ＢＩＯＳ（Basic Input Output System）等のブートプログラムを記憶する。ハードディスクドライブインタフェース１０３０は、ハードディスクドライブ１０９０に接続される。ディスクドライブインタフェース１０４０は、ディスクドライブ１１００に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ１１００に挿入される。シリアルポートインタフェース１０５０は、例えばマウス１１１０、キーボード１１２０に接続される。ビデオアダプタ１０６０は、例えばディスプレイ１１３０に接続される。
【0116】
ハードディスクドライブ１０９０は、例えば、ＯＳ１０９１、アプリケーションプログラム１０９２、プログラムモジュール１０９３、プログラムデータ１０９４を記憶する。すなわち、情報処理装置１００の各処理を規定するプログラムは、コンピュータにより実行可能なコードが記述されたプログラムモジュール１０９３として実装される。プログラムモジュール１０９３は、例えばハードディスクドライブ１０９０に記憶される。例えば、情報処理装置１００における機能構成と同様の処理を実行するためのプログラムモジュール１０９３が、ハードディスクドライブ１０９０に記憶される。なお、ハードディスクドライブ１０９０は、ＳＳＤ（Solid State Drive）により代替されてもよい。
【0117】
また、前述した実施形態の処理で用いられる設定データは、プログラムデータ１０９４として、例えばメモリ１０１０やハードディスクドライブ１０９０に記憶される。そして、ＣＰＵ１０２０は、メモリ１０１０やハードディスクドライブ１０９０に記憶されたプログラムモジュール１０９３やプログラムデータ１０９４を必要に応じてＲＡＭ１０１２に読み出して、前述した実施形態の処理を実行する。
【0118】
なお、プログラムモジュール１０９３やプログラムデータ１０９４は、ハードディスクドライブ１０９０に記憶される場合に限らず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ１１００等を介してＣＰＵ１０２０によって読み出されてもよい。あるいは、プログラムモジュール１０９３およびプログラムデータ１０９４は、ネットワーク（ＬＡＮ、ＷＡＮ（Wide Area Network）等）を介して接続された他のコンピュータに記憶されてもよい。そして、プログラムモジュール１０９３およびプログラムデータ１０９４は、他のコンピュータから、ネットワークインタフェース１０７０を介してＣＰＵ１０２０によって読み出されてもよい。
【0119】
〔１２．その他〕
以上、本実施形態について説明したが、本実施形態は、開示の一部をなす記述および図面により限定されることはない。すなわち、本実施形態に基づいて当業者等によりなされる他の実施形態、実施例および運用技術等は全て本実施形態の範疇に含まれる。
以上、本実施形態について説明したが、本実施形態は、開示の一部をなす記述および図面により限定されることはない。すなわち、本実施形態に基づいて当業者等によりなされる他の実施形態、実施例および運用技術等は全て本実施形態の範疇に含まれる。
【符号の説明】
【0120】
１ 情報処理装置
１０ 操作対象
１０ａ 操作対象
１０ｂ 操作対象
２０ 学習モデル
３０ ガイダンス画面
１００ 情報処理装置
１１０ 通信部
１２０ 記憶部
１２１ 履歴データ記憶部
１２２ モデル記憶部
１２３ 推奨値記憶部
１３０ 制御部
１３１ 取得部
１３２ 学習部
１３３ 更新部
１３４ 推論部
１３５ 判定部
１３６ 停止部
１３７ 表示部
１３８ 自動運転制御部
Ｕ ユーザ
Ｄａ 履歴データ
Ｄｂ 運転データ
ＲＤ 推奨値
ＳＡ 画面
ＳＢ 画面
ＳＣ１ 表示
ＳＣ２ 表示
ＳＣ３ 表示
ＳＣ４ 表示
１０００ コンピュータ
１０１０ メモリ
１０１１ ＲＯＭ
１０１２ ＲＡＭ
１０２０ ＣＰＵ
１０３０ ハードディスクドライブインタフェース
１０４０ ディスクドライブインタフェース
１０５０ シリアルポートインタフェース
１０６０ ビデオアダプタ
１０７０ ネットワークインタフェース
１０８０ バス
１０９０ ハードディスクドライブ
１０９１ ＯＳ
１０９２ アプリケーションプログラム
１０９３ プログラムモジュール
１０９４ プログラムデータ
１１００ ディスクドライブ
１１１０ マウス
１１２０ キーボード
１０ 操作対象
１０ａ 操作対象
１０ｂ 操作対象
２０ 学習モデル
３０ ガイダンス画面
１００ 情報処理装置
１１０ 通信部
１２０ 記憶部
１２１ 履歴データ記憶部
１２２ モデル記憶部
１２３ 推奨値記憶部
１３０ 制御部
１３１ 取得部
１３２ 学習部
１３３ 更新部
１３４ 推論部
１３５ 判定部
１３６ 停止部
１３７ 表示部
１３８ 自動運転制御部
Ｕ ユーザ
Ｄａ 履歴データ
Ｄｂ 運転データ
ＲＤ 推奨値
ＳＡ 画面
ＳＢ 画面
ＳＣ１ 表示
ＳＣ２ 表示
ＳＣ３ 表示
ＳＣ４ 表示
１０００ コンピュータ
１０１０ メモリ
１０１１ ＲＯＭ
１０１２ ＲＡＭ
１０２０ ＣＰＵ
１０３０ ハードディスクドライブインタフェース
１０４０ ディスクドライブインタフェース
１０５０ シリアルポートインタフェース
１０６０ ビデオアダプタ
１０７０ ネットワークインタフェース
１０８０ バス
１０９０ ハードディスクドライブ
１０９１ ＯＳ
１０９２ アプリケーションプログラム
１０９３ プログラムモジュール
１０９４ プログラムデータ
１１００ ディスクドライブ
１１１０ マウス
１１２０ キーボード
【要約】
【課題】操作対象の自動運転の精度が変化した場合における手動運転への切り替えのタイミングの判断を容易にする。
【解決手段】情報処理装置１００は、操作対象の自動運転の精度に関するデータが所定の条件を満たす場合に、操作対象の自動運転の稼働についての判定を行い、判定結果に基づき、操作対象の自動運転を停止する。
【選択図】図１
【解決手段】情報処理装置１００は、操作対象の自動運転の精度に関するデータが所定の条件を満たす場合に、操作対象の自動運転の稼働についての判定を行い、判定結果に基づき、操作対象の自動運転を停止する。
【選択図】図１
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】