ホーム > 特許ランキング > 日本電気通信システム株式会社
知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022131406
(43)【公開日】2022-09-07
(54)【発明の名称】モデル学習装置、モデル学習方法、およびプログラム
(51)【国際特許分類】
G06N 20/00 20190101AFI20220831BHJP
【ＦＩ】
G06N20/00
【審査請求】未請求
【請求項の数】10
【出願形態】ＯＬ
(21)【出願番号】P 2021030341
(22)【出願日】2021-02-26
(71)【出願人】
【識別番号】000232254
【氏名又は名称】日本電気通信システム株式会社
(74)【代理人】
【識別番号】100109313
【弁理士】
【氏名又は名称】机 昌彦
(74)【代理人】
【識別番号】100149618
【弁理士】
【氏名又は名称】北嶋 啓至
(72)【発明者】
【氏名】石川 竜児
(72)【発明者】
【氏名】井口 省吾
(57)【要約】 （修正有）
【課題】ユーザの要望に応じて、ＡＩのモデルを修正可能にするモデル学習装置、モデル学習方法およびプログラムを提供する。
【解決手段】ユーザ端末、家電製品及びサーバを備えているシステムにおいて、モデル学習装置１０は、学習データセットを用いて学習されたモデルによる予測の要因を検索する検索部１１と、予測の要因を提示して、モデルを再学習することの要否を確認する確認部１２と、予測の要因に基づいて、学習データセットを再構成する構成部１３と、再構成された学習データセットを用いて、モデルを再学習する学習部１４、を含む。
【選択図】図２
【解決手段】ユーザ端末、家電製品及びサーバを備えているシステムにおいて、モデル学習装置１０は、学習データセットを用いて学習されたモデルによる予測の要因を検索する検索部１１と、予測の要因を提示して、モデルを再学習することの要否を確認する確認部１２と、予測の要因に基づいて、学習データセットを再構成する構成部１３と、再構成された学習データセットを用いて、モデルを再学習する学習部１４、を含む。
【選択図】図２
【特許請求の範囲】
【請求項1】
学習データセットを用いて学習されたモデルによる予測の要因を検索する検索手段と、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認する確認手段と、
前記予測の要因に基づいて、前記学習データセットを再構成する構成手段と、
前記再構成された学習データセットを用いて、前記モデルを再学習する学習手段と、
を備えたモデル学習装置。
前記予測の要因を提示して、前記モデルを再学習することの要否を確認する確認手段と、
前記予測の要因に基づいて、前記学習データセットを再構成する構成手段と、
前記再構成された学習データセットを用いて、前記モデルを再学習する学習手段と、
を備えたモデル学習装置。
【請求項2】
前記確認手段は、前記予測の要因である学習データを提示する
ことを特徴とする請求項１に記載のモデル学習装置。
ことを特徴とする請求項１に記載のモデル学習装置。
【請求項3】
前記学習手段は、装置が搭載したモデルを更新することについての確証を得たのち、再学習した前記モデルを前記装置に適用する
ことを特徴とする請求項１または２に記載のモデル学習装置。
ことを特徴とする請求項１または２に記載のモデル学習装置。
【請求項4】
前記予測の要因に関する説明のテキストデータを生成する出力手段をさらに備えた
ことを特徴とする請求項１から３のいずれか1項に記載のモデル学習装置。
ことを特徴とする請求項１から３のいずれか1項に記載のモデル学習装置。
【請求項5】
前記出力手段は、前記予測の要因に関する説明の要求に応じて、前記予測の要因に関する説明のテキストデータを生成する
ことを特徴とする請求項４に記載のモデル学習装置。
ことを特徴とする請求項４に記載のモデル学習装置。
【請求項6】
前記構成手段は、前記予測の要因となる学習データを除いて、前記学習データセットを構成する
ことを特徴とする請求項４または５に記載のモデル学習装置。
ことを特徴とする請求項４または５に記載のモデル学習装置。
【請求項7】
前記モデルを再学習するための学習データを入力することを受け付ける受付手段をさらに備えた
ことを特徴とする請求項１から６のいずれか１項に記載のモデル学習装置。
ことを特徴とする請求項１から６のいずれか１項に記載のモデル学習装置。
【請求項8】
前記構成手段は、入力された学習データを含めて、前記学習データセットを構成する
ことを特徴とする請求項７に記載のモデル学習装置。
ことを特徴とする請求項７に記載のモデル学習装置。
【請求項9】
学習データセットを用いて学習されたモデルによる予測の要因を検索し、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認し、
前記予測の要因に基づいて、前記学習データセットを再構成し、
前記再構成された学習データセットを用いて、前記モデルを再学習する
モデル学習方法。
前記予測の要因を提示して、前記モデルを再学習することの要否を確認し、
前記予測の要因に基づいて、前記学習データセットを再構成し、
前記再構成された学習データセットを用いて、前記モデルを再学習する
モデル学習方法。
【請求項10】
学習データセットを用いて学習されたモデルによる予測の要因を検索することと、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認することと、
前記予測の要因に基づいて、前記学習データセットを再構成することと、
前記再構成された学習データセットを用いて、前記モデルを再学習することと
をコンピュータに実行させるためのプログラム。
前記予測の要因を提示して、前記モデルを再学習することの要否を確認することと、
前記予測の要因に基づいて、前記学習データセットを再構成することと、
前記再構成された学習データセットを用いて、前記モデルを再学習することと
をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、モデル学習装置、モデル学習方法、およびプログラムに関し、特に、教師ありの機械学習により、モデルを学習するモデル学習装置、モデル学習方法、およびプログラムに関する。
【背景技術】
【0002】
近年、スマートスピーカ、ペットロボットおよびロボット掃除機など、プログラムによって与えられた判断基準および行動パターンに基づいて作動する様々な家電製品が開発されている。これらの家電製品は、ＡＩ（Artificial Intelligence）家電、あるいは、ＡＩを搭載した家電製品とも呼ばれる。ＡＩを搭載した家電製品の高度な機能は、機械学習によって作成されたプログラム（学習済モデルあるいは単にモデルと呼ばれる）をプロセッサが読み込んで実行することによって提供される。例えば、ＡＩのモデルは、ＣＮＮ（Convolutional Neural Network）などのニューラルネットワークで構築される。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開２０２０－３０７３８号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
一般消費者向けの汎用の家電製品の動作は、ユーザ固有の要望に必ずしもマッチしない。
【0005】
本発明は、上記の課題に鑑みてなされたものであり、その目的は、ユーザの要望に応じて、ＡＩのモデルを修正可能にすることにある。
【課題を解決するための手段】
【0006】
本発明の一態様に係わるモデル学習装置は、学習データセットを用いて学習されたモデルによる予測の要因を検索する検索手段と、前記予測の要因を提示して、前記モデルを再学習することの要否を確認する確認手段と、前記予測の要因に基づいて、前記学習データセットを再構成する構成手段と、前記再構成された学習データセットを用いて、前記モデルを再学習する学習手段と、を備えている。
【0007】
本発明の一態様に係わるモデル学習方法は、学習データセットを用いて学習されたモデルによる予測の要因を検索し、前記予測の要因を提示して、前記モデルを再学習することの要否を確認し、前記予測の要因に基づいて、前記学習データセットを再構成し、前記再構成された学習データセットを用いて、前記モデルを再学習する。
【0008】
本発明の一態様に係わるプログラムは、学習データセットを用いて学習されたモデルによる予測の要因を検索することと、前記予測の要因を提示して、前記モデルを再学習することの要否を確認することと、前記予測の要因に基づいて、前記学習データセットを再構成することと、前記再構成された学習データセットを用いて、前記モデルを再学習することとをコンピュータに実行させる。
【発明の効果】
【0009】
本発明の一態様によれば、ユーザの要望に応じて、AIのモデルを修正可能である。
【図面の簡単な説明】
【0010】
【図1】全ての実施形態に係わるモデル学習装置を適用されるシステムの構成を概略的に示す図である。
【図2】実施形態１に係わるモデル学習装置の構成を示すブロック図である。
【図3】実施形態１に係わるモデル学習装置の動作の一例を示すフローチャートである。
【図4】実施形態１に係わるモデル学習装置による予測の要因の探索の一例を示す図である。
【図5】実施形態２に係わるモデル学習装置の構成を示すブロック図である。
【図6】実施形態２に係わるモデル学習装置を備えたシステムの各要素が実行する処理の流れを示すシーケンス図である。
【図7】実施形態３に係わるモデル学習装置の構成を示すブロック図である。
【図8】実施形態３に係わるモデル学習装置を備えたシステムの各要素が実行する処理の流れを示すシーケンス図である。
【図9】実施形態３に係わるモデル学習装置を備えたシステムにおいて、ユーザが学習データを入力するために行う、ユーザ端末に対する操作の一例を示す図である。
【図10】全ての実施形態に係わるモデル学習装置を適用されるシステムの構成を概略的に示す図である。
【図12】実施形態１～３に係わるモデル学習装置のハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【0011】
（全ての実施形態に共通）
まず、全ての実施形態に共通するシステムの構成の一例を説明する。
まず、全ての実施形態に共通するシステムの構成の一例を説明する。
【0012】
（システム１）
図１は、後述する実施形態１～３に係わるモデル学習装置１０，２０，３０のいずれかが適用されるシステム１の構成の一例を概略的に示す。図１に示すように、システム１は、ユーザ端末１００、家電製品２００、及びサーバ３００を備えている。ユーザ端末１００、家電製品２００、およびサーバ３００は、無線通信ネットワークを介して、互いに接続されている。以下の説明において、例えば、ユーザ端末１００および家電製品２００は、ユーザの自宅内にあり、サーバ３００は、ネットワーク上に配置されているとする。
図１は、後述する実施形態１～３に係わるモデル学習装置１０，２０，３０のいずれかが適用されるシステム１の構成の一例を概略的に示す。図１に示すように、システム１は、ユーザ端末１００、家電製品２００、及びサーバ３００を備えている。ユーザ端末１００、家電製品２００、およびサーバ３００は、無線通信ネットワークを介して、互いに接続されている。以下の説明において、例えば、ユーザ端末１００および家電製品２００は、ユーザの自宅内にあり、サーバ３００は、ネットワーク上に配置されているとする。
【0013】
ユーザ端末１００は、ユーザが所持する情報デバイスである。例えば、ユーザ端末１００は、スマートフォンまたはタブレット端末である。ユーザ端末１００は、Ｗｉ－Ｆｉ（登録商標）あるいはＢｌｕｅｔｏｏｔｈ（登録商標）などの無線通信技術により、家電製品２００と接続する。
【0014】
ユーザ端末１００には、家電製品２００を遠隔操作するためのアプリケーションがインストールされている。ユーザは、家電製品２００への指示をアプリケーションのＵＩ（User Interface）に入力することにより、ユーザ端末１００から家電製品２００へ、指示コマンドが送信される。これにより、ユーザは、ユーザ端末１００を用いて、家電製品２００を遠隔操作することができる。
【0015】
また、ユーザ端末１００は、実施形態１～３において詳述するように、家電製品２００の動作を改善することの要望を、家電製品２００またはサーバ３００へ送信するために利用される。
【0016】
家電製品２００は、プログラムによって与えられた判断基準および行動パターンに基づいて作動する、一般消費者向けの機器あるいはデバイスである。家電製品２００は、いわゆるＡＩ家電である。一例では、家電製品２００は、自宅内の様々な障害物を回避しながら、自走して、床の清掃を行う機能を備えたロボット掃除機である。
【0017】
後述の実施形態１～３においては、家電製品２００がロボット掃除機であることを想定する。しかしながら、家電製品２００は、ロボット掃除機に限定されない。他の例では、家電製品２００は、ペットロボット、コミュニケーションロボット、または小型のドローンであってもよい。あるいは、システム１は、家電製品２００に替えて、ＡＩを搭載した任意の電子機器を備えていてもよい。一例では、システム１は、家電製品２００の代わりに、顔認証や虹彩認証等を実施する生体認証装置、または状況／状態の予測を行う推定装置を備えていてもよい。この場合、以下の説明において、「家電製品２００」を「電子機器」または「生体認証装置」または「推定装置」と読み替えられる。
【0018】
サーバ３００は、インターネット、ローカルネット、あるいはその中間規模のネットワーク上で構築されている。サーバ３００は、オンプレミスであってもよいし、クラウドサーバであってもよい。定期的または非定期的に、サーバ３００は、ネットワークを介して、更新プログラムなどの各種データを、家電製品２００に送信する。
【0019】
また、サーバ３００は、家電製品２００の判断基準及び行動パターンを規定するＡＩのモデルを作成して、作成したモデルを家電製品２００へ送信する。ここで、ＡＩのモデルとは、家電製品２００のコンピュータが予測、推論、分類、最適化、理解、または認識などの高度な判断を実行するためのプログラムであり、大量の学習データを機械学習することによって、作成する。例えば、ロボット掃除機は、自宅の床に散らばった障害物を認識し、衝突を予測することによって、障害物を回避するように動輪のモータを制御する。これにより、ロボット掃除機は、単純な直線移動だけではなく、１つの部屋あるいは家の全体を清掃（スウィープ）しながら移動する。
【0020】
【0021】
（モデル学習装置１０）
図２を参照して、実施形態１に係わるモデル学習装置１０の構成を説明する。図２は、モデル学習装置１０の構成を示すブロック図である。一例では、以下で説明するモデル学習装置１０の各機能は、サーバ３００によって実現される。しかしながら、モデル学習装置１０の機能の一部または全部は、サーバ３００の代わりに、家電製品２００の制御部によって実現されてもよい。
図２を参照して、実施形態１に係わるモデル学習装置１０の構成を説明する。図２は、モデル学習装置１０の構成を示すブロック図である。一例では、以下で説明するモデル学習装置１０の各機能は、サーバ３００によって実現される。しかしながら、モデル学習装置１０の機能の一部または全部は、サーバ３００の代わりに、家電製品２００の制御部によって実現されてもよい。
【0022】
図２に示すように、モデル学習装置１０は、検索部１１、確認部１２、構成部１３、及び学習部１４を備えている。
【0023】
検索部１１は、学習データセットを用いて学習されたモデルによる予測の要因を検索する。モデルは、例えば、図示しない学習データベースに格納された学習データセットを用いて学習されたもので、例えば、家電製品２００に搭載されているＡＩのソフトウェアである。学習データベースは、サーバ３００または家電製品２００に備えられる。学習データベースは、モデル学習装置１０が通信可能な他の装置に備えられてもよい。検索部１１は、検索手段の一例である。
【0024】
一例では、検索部１１は、感度分析の手法を用いる。一般的に、感度分析では、ある事象（パラメータ）の変化が、結果（関数）に与える影響の大きさを測定する。ここでは、検索部１１は、モデルの学習のために利用される学習データの変化が、予測（例えば、クラス分類）に与える影響の大きさを測定する。そのため、予測に与える影響の大きさを表す指標として、影響関数を利用する。影響関数は、テストデータを用いた予測の正確さ（スコア）を表す。
【0025】
検索部１１は、影響関数の各パラメータをそれぞれ変化させたときの影響関数の値の変化を定量的に計算する。そして、検索部１１は、図示しない学習データベースに格納された学習データセットの中から、モデルによる予測に対して大きい影響を与える学習データ（すなわち、予測の要因）を探索する。影響関数の各パラメータは、学習データセットを構成する学習データと１対１で対応する。一例では、大きい影響を与える学習データとは、その学習データの有無による影響関数の値の変化が、閾値以上であるものである。なお、モデルによる予測に対して大きい影響を与える学習データ（すなわち、予測の要因）を探索する手法の一例を、後で説明する（図４）。
【0026】
検索部１１は、モデルによる予測に対して大きい影響を与える学習データを示す情報を、確認部１２および構成部１３のそれぞれへ出力する。
【0027】
確認部１２は、予測の要因を提示して、モデルを再学習することの要否を確認する。確認部１２は、確認手段の一例である。ここでの提示とは、五感を通じて情報を知得させることを意味する。具体的には、確認部１２は、文字、記号、数字、デザイン、音声、発光、および振動のいずれか又はその組み合わせて提示する手段により、予測の要因を明示する。
【0028】
一例では、確認部１２は、検索部１１から、モデルによる予測に対して大きい影響を与える学習データを示す情報を受信する。確認部１２は、モデルによる予測に対して大きい影響を与える学習データを、予測の要因として、上述した手段で提示する。例えば、確認部１２は、予測の要因である学習データを、ユーザ端末１００の画面に表示させる。そして、確認部１２は、再学習の要否を尋ねるメッセージを、ユーザ端末１００へ送信する。また、確認部１２は、再学習の要否の確認に対する応答の要求を、ユーザ端末１００へ送信する。確認部１２は、ユーザ端末１００から、再学習が必要であるとの応答を受信した場合、構成部１３へ、学習データセットを再構成するように指示する。
【0029】
構成部１３は、予測の要因に基づいて、学習データセットを再構成する。一例では、構成部１３は、再学習の要否の確認に対する応答の受信に起因して、学習データセットを再構成する。構成部１３は、構成手段の一例である。
【0030】
一例では、構成部１３は、確認部１２から、学習データセットを再構成するようにとの指示を受信した場合、検索部１１から、モデルによる予測に対して大きい影響を与える学習データを示す情報を受信する。構成部１３は、図示しない学習データベースに格納された学習データセットの中から、モデルによる予測に対して大きい影響を与える学習データを排除する。
【0031】
その後、構成部１３は、残りの学習データの中から、任意の手法で、モデルの再学習のための学習データセットを構成する学習データを選択する。例えば、構成部１３は、残りの学習データをすべて選択してもよいし、残りの学習データの中から、所定数の学習データをランダムに選択してもよい。
【0032】
構成部１３は、学習データベースから選択した学習データによって、モデルの再学習のための学習データセットを再構成する。そして、構成部１３は、このようにして再構成された学習データセットを、学習部１４へ出力する。
【0033】
学習部１４は、再構成された学習データセットを用いて、モデルを再学習する。学習部１４は、学習手段の一例である。
【0034】
一例では、学習部１４は、構成部１３から、再構成された学習データセットを受信する。学習部１４は、再構成された学習データセットをモデルに適用することによって、モデルを再学習する。再学習の手法は、ディープラーニング等の機械学習である。
【0035】
（モデル学習装置１０の動作）
図３を参照して、本実施形態１に係わるモデル学習装置１０の動作を説明する。図３は、モデル学習装置１０の各部が実行する処理の流れを示すフローチャートである。ここでは、モデル学習装置１０の各部に対応する機能は、システム１（図１）のサーバ３００によって実現されるとする。
図３を参照して、本実施形態１に係わるモデル学習装置１０の動作を説明する。図３は、モデル学習装置１０の各部が実行する処理の流れを示すフローチャートである。ここでは、モデル学習装置１０の各部に対応する機能は、システム１（図１）のサーバ３００によって実現されるとする。
【0036】
一例では、モデル学習装置１０は、ユーザ端末１００から、家電製品２００の動作改善の要求を受信した後、以下において説明する動作を開始する。
【0037】
図３に示すように、まず、検索部１１は、学習データセットを用いて学習されたモデルによる予測の要因を検索する（Ｓ１）。
【0038】
ここでの予測の要因は、モデルの学習のために使用された学習データのうち、特に、モデルによる予測に対して大きい影響を与える学習データである。検索部１１は、モデルによる予測に対して大きい影響を与える学習データを示す情報を、確認部１２および構成部１３のそれぞれへ出力する。
【0039】
次に、確認部１２は、予測の要因を提示して、モデルを再学習することの要否を確認する（Ｓ２）。一例では、確認部１２は、再学習の要否を尋ねるメッセージを、ユーザ端末１００へ送信する。また、確認部１２は、再学習の要否の確認に対する応答の要求を、ユーザ端末１００へ送信する。
【0040】
構成部１３は、再学習の要否の確認に対する応答をユーザ端末１００から受信する。ユーザ端末１００から、再学習は不要との応答を受信した場合（Ｓ３－１でＮｏ）、モデル学習装置１０の動作は終了する。
【0041】
一方、ユーザ端末１００から、再学習の要望を受信した場合（Ｓ３－１でＹｅｓ）、構成部１３は、予測の要因に基づいて、学習データセットを再構成する（Ｓ３－２）。一例では、構成部１３は、学習データベースに格納された学習データセットから、モデルによる予測に対して大きい影響を与える学習データを排除することによって、再学習のための学習データセットを再構成する。
【0042】
そして、構成部１３は、再構成された学習データセットを学習部１４へ出力する。
【0043】
最後に、学習部１４は、再構成された学習データセットを用いて、モデルを再学習する（Ｓ４）。言い換えれば、学習部１４は、再学習したモデルを家電製品２００に適用することで、モデルを更新する。
【0044】
以上で、本実施形態１に係わるモデル学習装置１０の動作は終了する。
【0045】
（変形例）
一変形例では、学習部１４は、再学習したモデルを家電製品２００に適用する前に、家電製品２００に搭載したＡＩのモデルを更新することをユーザに確認する。一例では、学習部１４は、家電製品２００に搭載したＡＩのモデルを更新することの可否を確認するメッセージを、サーバ３００からユーザ端末１００へ送信し、ユーザ端末１００の画面にメッセージを表示させる。
一変形例では、学習部１４は、再学習したモデルを家電製品２００に適用する前に、家電製品２００に搭載したＡＩのモデルを更新することをユーザに確認する。一例では、学習部１４は、家電製品２００に搭載したＡＩのモデルを更新することの可否を確認するメッセージを、サーバ３００からユーザ端末１００へ送信し、ユーザ端末１００の画面にメッセージを表示させる。
【0046】
加えて、学習部１４は、家電製品２００が搭載したモデルを更新することについての確証を得たのち、再学習したモデルを家電製品２００に適用する。まず、学習部１４は、確証の入力をユーザ端末１００が受け付けることを、ユーザ端末１００に対して要求する。学習部１４は、ユーザ端末１００へ入力された確証を、ユーザ端末１００から受信したのち、再学習したモデルを家電製品２００に適用する。具体的には、学習部１４は、家電製品２００の補助記憶装置２３０（図１１）に格納されたモデルを、再学習したモデルによって置換する。
【0047】
一方、学習部１４が、家電製品２００に搭載したＡＩのモデルを更新することは不可であるとの応答を、ユーザ端末１００から受信した場合、モデル学習装置１０は、上述したステップＳ１（図３）からの処理を繰り返す。
【0048】
（予測の要因の探索の一例）
図４を参照して、検索部１１が、モデルによる予測に対して大きい影響を与える学習データ（すなわち、予測の要因）を探索する手法の一例を説明する。
図４を参照して、検索部１１が、モデルによる予測に対して大きい影響を与える学習データ（すなわち、予測の要因）を探索する手法の一例を説明する。
【0049】
図４に示す表では、学習データベースに格納された学習データの一覧を左列に示す。同じ表の真ん中の列および右列は、対応する左列の学習データが特定の予測（図４では予測Ａ，Ｂ）に対して与える影響の大きさ（以下、影響度と呼ぶ）を示す。言い換えれば、左列の学習データの有無が、ＡＩのモデルによる予測を変化させる可能性の高さを表す。影響度のパラメータは、上述した影響関数の値である。予測Ａと予測Ｂは、互いに異なる内容を表す。例えば、予測Ａは物体をクラスａとそれ以外に分類することであり、予測Ｂは物体をクラスｂとそれ以外とに分類することである。
【0050】
図４に示す表では、予測Ａに対する影響度の降順に学習データを並べている。したがって、表の左列において、上側にある学習データほど、予測Ａに対する影響度が大きい。例えば、検索部１１は、予測Ａの要因を３つ探索するとする。この場合、検索部１１は、予測Ａに対する影響度の大きさに基づいて、図４において枠で囲んだ３つの学習データを、学習データベースに格納された学習データの一覧から探索する。
【0051】
（本実施形態の効果）
一般消費者向けの汎用の家電製品の動作は、ユーザ固有の要望に必ずしもマッチしない。関連する技術は、ユーザの要望に応じて、ＡＩのモデルを修正することができない。
一般消費者向けの汎用の家電製品の動作は、ユーザ固有の要望に必ずしもマッチしない。関連する技術は、ユーザの要望に応じて、ＡＩのモデルを修正することができない。
【0052】
本実施形態の構成によれば、検索部１１は、学習データセットを用いて学習されたモデルによる予測の要因を検索する。確認部１２は、予測の要因を提示して、モデルを再学習することの要否を確認する。構成部１３は、予測の要因に基づいて、学習データセットを再構成する。学習部１４は、再構成された学習データセットを用いて、モデルを再学習する。ＡＩのモデルの再学習が行われる前に、予測の要因が提示されるとともに、再学習の要否が確認される。そのため、ユーザは、再学習を実行すべきかどうかを判断することができる。これにより、ユーザの要望に応じて、ＡＩのモデルを修正することができる。
【0053】
〔実施形態２〕
図５～図６を参照して、実施形態２について説明する。本実施形態２では、前記実施形態１で説明したモデル学習装置１０（図２）とは異なる構成を備えたモデル学習装置２０について説明する。本実施形態２に係るモデル学習装置２０は、上述のシステム１（図１）に適用される。一例では、以下で説明するモデル学習装置２０の各機能は、サーバ３００によって実現される。しかしながら、モデル学習装置２０の機能の一部または全部は、サーバ３００の代わりに、家電製品２００の制御部によって実現されてもよい。
図５～図６を参照して、実施形態２について説明する。本実施形態２では、前記実施形態１で説明したモデル学習装置１０（図２）とは異なる構成を備えたモデル学習装置２０について説明する。本実施形態２に係るモデル学習装置２０は、上述のシステム１（図１）に適用される。一例では、以下で説明するモデル学習装置２０の各機能は、サーバ３００によって実現される。しかしながら、モデル学習装置２０の機能の一部または全部は、サーバ３００の代わりに、家電製品２００の制御部によって実現されてもよい。
【0054】
本実施形態２では、モデル学習装置２０がモデル学習装置１０と共通して備えた構成に関し、前記実施形態１での説明を引用する。
【0055】
（モデル学習装置２０）
図５を参照して、実施形態２に係わるモデル学習装置２０の構成を説明する。図５は、モデル学習装置２０の構成を示すブロック図である。以下で説明するモデル学習装置２０の各機能は、サーバ３００および家電製品２００によって分担される。しかしながら、モデル学習装置１０の機能の全部は、家電製品２００の制御部のみによって実現されてもよい。
図５を参照して、実施形態２に係わるモデル学習装置２０の構成を説明する。図５は、モデル学習装置２０の構成を示すブロック図である。以下で説明するモデル学習装置２０の各機能は、サーバ３００および家電製品２００によって分担される。しかしながら、モデル学習装置１０の機能の全部は、家電製品２００の制御部のみによって実現されてもよい。
【0056】
図５に示すように、モデル学習装置２０は、検索部１１、確認部１２、構成部１３、及び学習部１４を備えている。また、モデル学習装置２０は、出力部２５をさらに備えている。
【0057】
出力部２５は、予測の要因に関する説明のテキストデータを生成する。出力部２５は、出力手段の一例である。
【0058】
一例では、出力部２５は、検索部１１から、モデルによる予測に対して大きい影響を与える学習データを示す情報を受信する。出力部２５は、予測に対して大きい影響を与える学習データが予測の要因であることを説明するテキストデータを生成する。
【0059】
例えば、出力部２５は、機械学習されたテキスト生成モデルを利用してもよい。具体的には、出力部２５は、テキスト生成モデルに対し、予測に対して大きい影響を与える学習データを示す情報を入力する。テキスト生成モデルは、入力された情報に基づいて、予測の要因を説明するテキストデータを出力する。出力部２５は、テキスト生成モデルが出力したテキストデータを取得する。
【0060】
あるいは、他の例では、出力部２５は、予めメモリに準備されたテンプレートを用いて、予測に対して大きい影響を与える学習データを示す情報から、予測の要因を説明するテキストデータを生成してもよい。
【0061】
出力部２５は、このように生成したテキストデータを、家電製品２００へ送信する。出力部２５は、送信したテキストデータから音声データへ変換するように、家電製品２００の音声制御部（例えば、オーディオドライバ、サウンドカード、ＤＡ変換回路）（図示せず）に指示する。そして、出力部２５は、テキストデータから変換した音声データを、家電製品２００のスピーカから出力させる。その後、出力部２５は、予測の要因の説明が完了したことを、確認部１２へ通知する。
【0062】
本実施形態２において、確認部１２は、出力部２５からの通知をトリガ―として、再学習の要否の確認を実行する。すなわち、出力部２５が予測の要因の説明を完了したのち、確認部１２は、ユーザ端末１００に対して、再学習の要否を確認するメッセージを送信する。そのため、ユーザは、予測の要因を理解したうえで、モデルの再学習を実行すべきか否かを判断することができる。また、確認部１２は、ユーザ端末１００から、再学習が必要であるとの応答を受信した場合、構成部１３へ、学習データセットを再構成するように指示する。構成部１３は、前記実施形態１と同様に、確認部１２から、学習データセットを再構成するようにとの指示を受信した場合、検索部１１から、モデルによる予測に対して大きい影響を与える学習データを示す情報を受信する。
【0063】
（システム１の動作）
図６を参照して、本実施形態２に係わるモデル学習装置２０を備えたシステム１（図１）の動作の一例を説明する。図６は、本実施形態２に係わるシステム１の各部が実行する処理の流れを示すシーケンス図である。ここでは、モデル学習装置２０の各部に対応する機能は、サーバ３００によって実現されるとする。
図６を参照して、本実施形態２に係わるモデル学習装置２０を備えたシステム１（図１）の動作の一例を説明する。図６は、本実施形態２に係わるシステム１の各部が実行する処理の流れを示すシーケンス図である。ここでは、モデル学習装置２０の各部に対応する機能は、サーバ３００によって実現されるとする。
【0064】
図６に示すように、まず、ユーザ端末１００は、サーバ３００に対して、家電製品２００の動作（予測に対応する）に関する説明を要求する（Ｓ２１）。ユーザは、要求の内容をユーザ端末１００に入力する。ユーザが、ユーザ端末１００に要求の内容を入力したのち、ユーザ端末１００からサーバ３００へ、家電製品の動作に関する説明の要求が送信される。
【0065】
次に、モデル学習装置２０の検索部１１は、学習データセットを用いて学習されたモデルによる予測の要因を検索する（Ｓ２２）。ここでの予測の要因は、モデルの学習のために使用された学習データのうち、特に、モデルによる予測に対して大きい影響を与える学習データである。
【0066】
検索部１１は、モデルによる予測に対して大きい影響を与える学習データを示す情報を、確認部１２および構成部１３のそれぞれへ出力する。加えて、検索部１１は、モデルによる予測に対して大きい影響を与える学習データを示す情報を、出力部２５にも出力する。
【0067】
出力部２５は、予測に対して大きい影響を与える学習データが予測の要因であることを説明するテキストデータを生成する（Ｓ２３）。出力部２５は、生成したテキストデータを家電製品２００へ送信する。また、出力部２５は、家電製品２００のスピーカから、テキストデータから復元した音声を出力させる。出力部２５は、予測の要因の説明が完了したことを、確認部１２へ通知する。
【0068】
家電製品２００は、確認部１２からテキストデータを受信する。家電製品２００の制御部（図示せず）は、確認部１２からの指示により、テキストデータを音声データへ変換する。そして、家電製品２００の制御部は、スピーカから音声を出力する（S２４）。
【0069】
確認部１２は、出力部２５から、予測の要因の説明が完了したことを通知される。その後、確認部１２は、予測の要因を提示して、モデルを再学習することの要否を確認する（Ｓ２５）。一例では、確認部１２は、再学習の要否を尋ねるメッセージを、ユーザ端末１００へ送信する。また、確認部１２は、メッセージに対する応答の要求を、ユーザ端末１００へ送信する。
【0070】
ユーザは、再学習の要望の有無を、ユーザ端末１００に入力する。ここでは、ユーザは、再学習を要望したとする。ユーザ端末１００は、再学習の要望を、メッセージに対する応答として、サーバ３００へ送信する（Ｓ２６）。
【0071】
確認部１２は、メッセージに対する応答をユーザ端末１００から受信する。確認部１２は、構成部１３へ、学習データセットを再構成するように指示する。構成部１３は、確認部１２から、学習データセットを再構成するようにとの指示を受信した場合、予測の要因に基づいて、学習データセットを再構成する（Ｓ２７）。そして、構成部１３は、再構成された学習データセットを学習部１４へ出力する。
【0072】
学習部１４は、再構成された学習データセットを用いて、モデルを再学習する（Ｓ２８）。その後、学習部１４は、再学習したモデルを家電製品２００に適用する。すなわち、学習部１４は、家電製品２００が搭載したＡＩのモデルを、再学習したモデルによって更新する。
【0073】
一変形例では、学習部１４は、前記実施形態１で説明した変形例と同様に、再学習したモデルを家電製品２００に適用する前に、家電製品２００に搭載したＡＩのモデルを更新することをユーザに確認する。学習部１４は、ユーザ端末１００へ入力された確証を、ユーザ端末１００から受信したのち、再学習したモデルを家電製品２００に適用する。
【0074】
以上で、本実施形態２に係わるモデル学習装置２０を備えたシステム１の動作は終了する。
【0075】
（本実施形態の効果）
一般消費者向けの汎用の家電製品の動作は、ユーザ固有の要望に必ずしもマッチしない。関連する技術は、ユーザの要望に応じて、ＡＩのモデルを修正することができない。
一般消費者向けの汎用の家電製品の動作は、ユーザ固有の要望に必ずしもマッチしない。関連する技術は、ユーザの要望に応じて、ＡＩのモデルを修正することができない。
【0076】
本実施形態の構成によれば、検索部１１は、学習データセットを用いて学習されたモデルによる予測の要因を検索する。確認部１２は、予測の要因を提示して、モデルを再学習することの要否を確認する。構成部１３は、予測の要因に基づいて、学習データセットを再構成する。学習部１４は、再構成された学習データセットを用いて、モデルを再学習する。ＡＩのモデルの再学習が行われる前に、予測の要因が提示されるとともに、再学習の要否が確認される。そのため、ユーザは、再学習を実行すべきかどうかを判断することができる。これにより、ユーザの要望に応じて、ＡＩのモデルを修正することができる。
【0077】
さらに、本実施形態の構成によれば、出力部２５は、予測の要因に関する説明のテキストデータを生成する。予測の要因に関する説明のテキストデータは、任意の形態、たとえば、音声データに変換されたうえで、出力される。これにより、ユーザは、予測の要因を理解することができるので、ＡＩのモデルを再学習させるべきか否かをより適切に判断することができる。
【0078】
〔実施形態３〕
図７～図９を参照して、実施形態３について説明する。ＡＩのモデルを修正（更新）することによって、ユーザの思い通りに家電製品をカスタマイズする強い需要が存在する。しかしながら、個々の家電製品のカスタマイズに完全に対応できるほど、データサイエンティストやＡＩ技術者などの専門家の数は十分ではないし、また、その対応に掛かるコストも膨大になる。本実施形態３では、この課題を解決する手段の一例を説明する。
図７～図９を参照して、実施形態３について説明する。ＡＩのモデルを修正（更新）することによって、ユーザの思い通りに家電製品をカスタマイズする強い需要が存在する。しかしながら、個々の家電製品のカスタマイズに完全に対応できるほど、データサイエンティストやＡＩ技術者などの専門家の数は十分ではないし、また、その対応に掛かるコストも膨大になる。本実施形態３では、この課題を解決する手段の一例を説明する。
【0079】
本実施形態３では、前記実施形態１で説明したモデル学習装置１０（図２）、および前記実施形態２で説明したモデル学習装置２０（図５）のどちらとも異なる構成を備えたモデル学習装置３０について説明する。本実施形態３に係るモデル学習装置３０は、上述のシステム１（図１）に適用される。一例では、以下で説明するモデル学習装置３０の各機能は、サーバ３００によって実現される。しかしながら、モデル学習装置３０の機能の一部または全部は、サーバ３００の代わりに、家電製品２００の制御部によって実現されてもよい。
【0080】
本実施形態３では、モデル学習装置３０がモデル学習装置１０と共通して備えた構成に関し、前記実施形態１での説明を引用する。
【0081】
（モデル学習装置３０）
図７を参照して、実施形態３に係わるモデル学習装置３０の構成を説明する。図７は、モデル学習装置３０の構成を示すブロック図である。以下で説明するモデル学習装置３０の各機能は、サーバ３００によって実現される。しかしながら、モデル学習装置３０の機能の一部または全部は、サーバ３００の代わりに、家電製品２００の制御部によって実現されてもよい。
図７を参照して、実施形態３に係わるモデル学習装置３０の構成を説明する。図７は、モデル学習装置３０の構成を示すブロック図である。以下で説明するモデル学習装置３０の各機能は、サーバ３００によって実現される。しかしながら、モデル学習装置３０の機能の一部または全部は、サーバ３００の代わりに、家電製品２００の制御部によって実現されてもよい。
【0082】
図７に示すように、モデル学習装置３０は、検索部１１、確認部１２、構成部１３、及び学習部１４を備えている。また、モデル学習装置３０は、出力部２５および受付部３６をさらに備えている。
【0083】
出力部２５は、予測の要因に関する説明のテキストデータを生成する。出力部２５は、出力手段の一例である。
【0084】
一例では、出力部２５は、検索部１１から、モデルによる予測に対して大きい影響を与える学習データを示す情報を受信する。出力部２５は、予測に対して大きい影響を与える学習データが予測の要因であることを説明するテキストデータを生成する。
【0085】
例えば、出力部２５は、機械学習されたテキスト生成モデルを利用してもよい。具体的には、出力部２５は、テキスト生成モデルに対し、予測に対して大きい影響を与える学習データを示す情報を入力する。テキスト生成モデルは、予測の要因を説明するテキストデータを出力する。その後、出力部２５は、テキスト生成モデルが出力したテキストデータを取得する。
【0086】
あるいは、他の例では、出力部２５は、予めメモリに準備されたテンプレートを用いて、予測の要因を説明するテキストデータを生成してもよい。
【0087】
受付部３６は、モデルを再学習するための学習データを入力することを受け付ける。受付部３６は、受付手段の一例である。
【0088】
一例では、受付部３６は、学習データの入力を受け付けることを知らせるメッセージを、ユーザ端末１００へ送信する。また、受付部３６は、メッセージに対する応答の要求を、ユーザ端末１００へ送信する。
【0089】
受付部３６は、メッセージに対する応答をユーザ端末１００から受信する。ユーザ端末１００から、ユーザによって入力された学習データを受信した場合、受付部３６は、受信した学習データを、構成部１３へ出力する。
【0090】
前記実施形態１と同様に、確認部１２は、ユーザ端末１００から、再学習が必要であるとの応答を受信した場合、構成部１３へ、学習データセットを再構成するように指示する。本実施形態３では、構成部１３は、受付部３６から、ユーザ端末１００に入力された学習データを受信する。また、構成部１３は、確認部１２から、学習データセットを再構成するようにとの指示を受信した場合、検索部１１から、モデルによる予測に対して大きい影響を与える学習データを示す情報を受信する。
【0091】
構成部１３は、前記実施形態１において説明した手法で、再学習のための学習データセットを構成する学習データを選択する。また、構成部１３は、再学習のための学習データセットに、ユーザ端末１００に入力された学習データを追加する。構成部１３は、このようにして再構成された学習データセットを学習部１４へ出力する。
【0092】
（システム１の動作）
図８を参照して、本実施形態３に係わるモデル学習装置３０を備えたシステム１（図１）の動作の一例を説明する。図８は、本実施形態３に係わるシステム１の各部が実行する処理の流れを示すシーケンス図である。ここでは、モデル学習装置３０の各部に対応する機能は、サーバ３００によって実現されるとする。
図８を参照して、本実施形態３に係わるモデル学習装置３０を備えたシステム１（図１）の動作の一例を説明する。図８は、本実施形態３に係わるシステム１の各部が実行する処理の流れを示すシーケンス図である。ここでは、モデル学習装置３０の各部に対応する機能は、サーバ３００によって実現されるとする。
【0093】
図８に示すように、まず、ユーザ端末１００は、サーバ３００に対して、家電製品２００の動作（予測に対応する）に関する説明を要求する（Ｓ２１）。ユーザは、要求の内容をユーザ端末１００に入力する。ユーザが、ユーザ端末１００に要求の内容を入力したのち、ユーザ端末１００からサーバ３００へ、家電製品の動作に関する説明の要求が送信される。
【0094】
次に、モデル学習装置２０の検索部１１は、学習データセットを用いて学習されたモデルによる予測の要因を検索する（Ｓ２２）。ここでの予測の要因は、モデルの学習のために使用された学習データのうち、特に、モデルによる予測に対して大きい影響を与える学習データである。
【0095】
検索部１１は、モデルによる予測に対して大きい影響を与える学習データを示す情報を、確認部１２および構成部１３のそれぞれへ出力する。加えて、検索部１１は、モデルによる予測に対して大きい影響を与える学習データを示す情報を、出力部２５にも出力する。
【0096】
出力部２５は、予測に対して大きい影響を与える学習データが予測の要因であることを説明するテキストデータを生成する（Ｓ２３）。出力部２５は、生成したテキストデータを家電製品２００へ送信する。また、出力部２５は、家電製品２００のスピーカから、テキストデータから変換した音声データを出力させる。出力部２５は、予測の要因の説明が完了したことを、確認部１２へ通知する。
【0097】
家電製品２００は、確認部１２からテキストデータを受信する。家電製品２００の制御部（図示せず）は、確認部１２からの指示により、テキストデータから音声データへ変換する。そして、家電製品２００の制御部は、音声データをスピーカへ出力する（Ｓ２４）。
【0098】
確認部１２は、出力部２５から、予測の要因の説明が完了したことを通知される。その後、確認部１２は、予測の要因を提示して、モデルを再学習することの要否を確認する（Ｓ２５）。一例では、確認部１２は、再学習の要否を尋ねる第１のメッセージを、ユーザ端末１００へ送信する。また、確認部１２は、第１のメッセージに対する応答の要求を、ユーザ端末１００へ送信する。
【0099】
ユーザは、再学習の要望の有無をユーザ端末１００に入力する。ここでは、ユーザは、再学習を要望したとする。ユーザ端末１００は、再学習の要望を、第１のメッセージに対する応答として、サーバ３００へ送信する（Ｓ２６）。
【0100】
受付部３６は、第１のメッセージに対する応答を、ユーザ端末１００から受信する。ユーザ端末１００から、再学習の要望を受信した場合、受付部３６は、学習データの入力を受け付けることを知らせる第２のメッセージを、ユーザ端末１００へ送信する（Ｓ３１）。また、受付部３６は、第２のメッセージに対する応答の要求を、ユーザ端末１００へ送信する。
【0101】
ユーザは、モデルの再学習のための学習データを、ユーザ端末１００に入力する。ユーザ端末１００は、入力された学習データを、第２のメッセージに対する応答として、サーバ３００へ送信する（Ｓ３２）。
【0102】
受付部３６は、第２のメッセージに対する応答をユーザ端末１００から受信する。ユーザ端末１００から、ユーザによって入力された学習データを受信した場合、受付部３６は、入力された学習データを、構成部１３へ出力する。
【0103】
構成部１３は、確認部１２から、学習データセットを再構成するようにとの指示を受信した場合、予測の要因に基づいて、学習データセットを再構成する（Ｓ２７）。また、構成部１３は、ユーザ端末１００に入力された学習データを、学習データセットに追加する。そして、構成部１３は、再構成された学習データセットを学習部１４へ出力する。
【0104】
学習部１４は、再構成された学習データセットを用いて、モデルを再学習する（Ｓ２８）。その後、学習部１４は、再学習したモデルを家電製品２００に適用する。すなわち、学習部１４は、家電製品２００が搭載したＡＩのモデルを、再学習したモデルによって更新する。
【0105】
一変形例では、学習部１４は、前記実施形態１で説明した変形例と同様に、再学習したモデルを家電製品２００に適用する前に、家電製品２００に搭載したＡＩのモデルを更新することをユーザに確認する。学習部１４は、ユーザ端末１００へ入力された確証を、ユーザ端末１００から受信したのち、再学習したモデルを家電製品２００に適用する。
【0106】
以上で、本実施形態３に係わるモデル学習装置３０を備えたシステム１の動作は終了する。
【0107】
（学習データの入力の一例）
図９は、ユーザ端末１００に対して、学習データを入力する手法の一例を示す。図９に示す一例では、ユーザは、ユーザ端末１００の画面にタッチ操作する。ここで、ユーザ端末１００の画面に表示された画像は、家電製品２００のカメラ２５０（図１１）によって撮影された動画のフレーム画像である。
図９は、ユーザ端末１００に対して、学習データを入力する手法の一例を示す。図９に示す一例では、ユーザは、ユーザ端末１００の画面にタッチ操作する。ここで、ユーザ端末１００の画面に表示された画像は、家電製品２００のカメラ２５０（図１１）によって撮影された動画のフレーム画像である。
【0108】
受付部３６（図７）は、家電製品２００の制御部に対して、動画のデータをユーザ端末１００へ送信するように指示する。あるいは、受付部３６は、予め、家電製品２００から動画のデータを取得する。そして、受付部３６は、モデルを再学習するための学習データの入力を受け付ける際に、家電製品２００から取得した動画のデータを、ユーザ端末１００へ転送してもよい。
【0109】
図９に示すように、ユーザは、ユーザ端末１００の画面に表示された画像において、学習データに指定したい物体Ｘの領域を、ドラッグまたはタップなどのタッチ操作によって指示する。しかしながら、これら以外のタッチ操作、またはタッチ操作とは異なる操作が用いられてもよい。ユーザ端末１００は、物体Ｘの領域を含む部分画像のデータを、学習データとして、サーバ３００へ送信する。
【0110】
なお、本実施形態３において説明したユーザ端末１００の機能は、ユーザ端末１００の代わりに、家電製品２００によって提供されてもよい。具体的には、ユーザは、ユーザ端末１００の代わりに、家電製品２００を直接に操作することによって、家電製品２００に学習データを入力（図９）してもよい。この場合、ユーザは、ユーザ端末１００なしで、家電製品２００をカスタマイズすることができる。
【0111】
（本実施形態の効果）
一般消費者向けの汎用の家電製品の動作は、ユーザ固有の要望に必ずしもマッチしない。関連する技術は、ユーザの要望に応じて、ＡＩのモデルを修正することができない。
一般消費者向けの汎用の家電製品の動作は、ユーザ固有の要望に必ずしもマッチしない。関連する技術は、ユーザの要望に応じて、ＡＩのモデルを修正することができない。
【0112】
本実施形態の構成によれば、検索部１１は、学習データセットを用いて学習されたモデルによる予測の要因を検索する。確認部１２は、予測の要因を提示して、モデルを再学習することの要否を確認する。構成部１３は、予測の要因に基づいて、学習データセットを再構成する。学習部１４は、再構成された学習データセットを用いて、モデルを再学習する。ＡＩのモデルの再学習が行われる前に、予測の要因が提示されるとともに、再学習の要否が確認される。そのため、ユーザは、再学習を実行すべきかどうかを判断することができる。これにより、ユーザの要望に応じて、ＡＩのモデルを修正することができる。
【0113】
さらに、本実施形態の構成によれば、出力部２５は、予測の要因に関する説明のテキストデータを生成する。予測の要因に関する説明のテキストデータは、任意の形態、たとえば、音声データに変換されたうえで、出力される。これにより、ユーザは、予測の要因を理解することができるので、ＡＩのモデルを再学習させるべきか否かをより適切に判断することができる。
【0114】
さらに、本実施形態の構成によれば、受付部３６は、モデルを再学習するための学習データの入力を受け付ける。構成部１３は、モデルの再学習のための学習データセットに、入力された学習データを追加する。これにより、ユーザの要望をより反映したモデルを得ることができる。
【0115】
（全ての実施形態に共通）
最初に説明したシステム１とは異なる構成を備えたシステム２について、ここで説明する。上述した実施形態１～３に係わるモデル学習装置１０～３０のいずれも、システム１だけではなく、システム２にも適用することができる。
最初に説明したシステム１とは異なる構成を備えたシステム２について、ここで説明する。上述した実施形態１～３に係わるモデル学習装置１０～３０のいずれも、システム１だけではなく、システム２にも適用することができる。
【0116】
続いて、システム１およびシステム２の共通要素である家電製品２００のハードウェア構成の一例も説明する。
【0117】
（システム２）
図１０は、前記実施形態１～３に係わるモデル学習装置１０，２０，３０のいずれかが適用されるシステム２の構成の一例を概略的に示す。図１０に示すように、システム２は、ユーザ端末１００および家電製品２００を備えている。システム２は、サーバ３００（図１）を備えていない点で、上述したシステム１とは異なる。ユーザ端末１００および家電製品２００は、無線通信ネットワークを介して、互いに接続されている。ここでは、ユーザ端末１００および家電製品２００は、どちらもユーザの自宅内にある。
図１０は、前記実施形態１～３に係わるモデル学習装置１０，２０，３０のいずれかが適用されるシステム２の構成の一例を概略的に示す。図１０に示すように、システム２は、ユーザ端末１００および家電製品２００を備えている。システム２は、サーバ３００（図１）を備えていない点で、上述したシステム１とは異なる。ユーザ端末１００および家電製品２００は、無線通信ネットワークを介して、互いに接続されている。ここでは、ユーザ端末１００および家電製品２００は、どちらもユーザの自宅内にある。
【0118】
システム２では、家電製品２００の制御部（図示せず）が、前記実施形態１～３に係わるモデル学習装置１０，２０，３０の各部として機能する。前記実施形態１～３に係わるモデル学習装置１０，２０，３０の各部の機能は、家電製品２００の演算部２１０およびメモリ２２０（どちらも図１１）の協働によって実現される。より詳細には、演算部２１０が、メモリ２２０に読み込んだコンピュータプログラムを実行することによって、前記実施形態１～３に係わるモデル学習装置１０，２０，３０の各部と対応する処理を実行する。演算部２１０は、例えば、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）、またはＡＳＩＣ（Application Specific Integrated Circuit）である。
【0119】
システム２では、システム１のように、サーバ３００上で処理が行われない。そのため、ユーザ端末１００および家電製品２００がインターネット（またはサーバ３００のあるネットワーク）と接続されていない場合であっても、前記実施形態１～３において説明したモデル学習装置１０～３０の各部の機能を提供することができる。
【0120】
（家電製品２００のハードウェア構成）
図１１は、家電製品２００のハードウェア構成の一例を概略的に示す。ここでは、家電製品２００がロボット掃除機であることを想定している。ロボット掃除機とは、自宅内の様々な障害物を回避しながら、自走して、主に床の清掃を行う高性能な掃除機である。
図１１は、家電製品２００のハードウェア構成の一例を概略的に示す。ここでは、家電製品２００がロボット掃除機であることを想定している。ロボット掃除機とは、自宅内の様々な障害物を回避しながら、自走して、主に床の清掃を行う高性能な掃除機である。
【0121】
図１１に示すように、家電製品２００は、演算部２１０、メモリ２２０、補助記憶装置２３０、タイマ２４０、カメラ２５０、入出力部２６０、駆動部２７０、および計器２８０を備えている。
【0122】
演算部２１０は、メモリ２２０に読み込んだコンピュータプログラムにしたがって、情報演算処理を実行する。例えば、演算部２１０は、１または複数のプロセッサである。
【0123】
メモリ２２０は、演算部２１０が実行中のプログラムデータを格納するためのいわゆるメインメモリである。例えば、メモリ２２０は、ＲＡＭ（Random Access Memory）である。演算部２１０およびメモリ２２０は協働して、家電製品２００の制御部として機能する。特に、上述のシステム２（図１０）においては、演算部２１０およびメモリ２２０は、前記実施形態１～３に係わるモデル学習装置１０～３０の各部に相当する機能を提供する。
【0124】
補助記憶装置２３０は、ハードディスクやメディアドライブなどのストレージである。補助記憶装置２３０は、家電製品２００から取り外し可能なカートリッジタイプであってもよい。補助記憶装置２３０には、家電製品２００の動作させるための様々なプログラムデータとともに、ＡＩのモデルが格納されている。
【0125】
タイマ２４０は、時間をカウントする。タイマ２４０は、家電製品２００が予め設定されたタイムスケジュールにしたがって正しく作動するために、演算部２１０によって利用される。
【0126】
カメラ２５０は、家電製品２００が環境を把握して、障害物を避けながら作動するために、演算部２１０によって利用される。加えて、実施形態３において説明したように、カメラ２５０が撮影した動画のデータは、ユーザがユーザ端末１００に学習データを入力するためにも用いられる（図９）。
【0127】
入出力部２６０は、家電製品２００の電源ボタンおよびディスプレイなど、ユーザとのコミュニケーションのためのデバイスを含む。また、入出力部２６０は、ネットワークに接続するための通信部を含む。
【0128】
駆動部２７０は、家電製品２００が作動するための可動パーツおよびその補助パーツである。駆動部２７０は、バッテリ、モータ、車輪（動輪）、シャフト、及びブラシを含む。
【0129】
計器２８０は、家電製品２００の環境の状況を計測する。計器２８０は、圧力計、温度計、湿度計、加速度センサ、および赤外線センサを含む。
【0130】
（ハードウェア構成について）
前記実施形態１～３で説明したモデル学習装置１０～３０の各構成要素は、機能単位のブロックを示している。これらの構成要素の一部又は全部は、例えば図１２に示すような情報処理装置９００により実現される。図１２は、情報処理装置９００のハードウェア構成の一例を示すブロック図である。
前記実施形態１～３で説明したモデル学習装置１０～３０の各構成要素は、機能単位のブロックを示している。これらの構成要素の一部又は全部は、例えば図１２に示すような情報処理装置９００により実現される。図１２は、情報処理装置９００のハードウェア構成の一例を示すブロック図である。
【0131】
図１２に示すように、情報処理装置９００は、一例として、以下のような構成を含む。
【0132】
・ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）９０１
・ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）９０２
・ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）９０３
・ＲＡＭ９０３にロードされるプログラム９０４
・プログラム９０４を格納する記憶装置９０５
・記録媒体９０６の読み書きを行うドライブ装置９０７
・通信ネットワーク９０９と接続する通信インタフェース９０８
・データの入出力を行う入出力インタフェース９１０
・各構成要素を接続するバス９１１
前記実施形態１～３で説明したモデル学習装置１０～３０の各構成要素は、これらの機能を実現するプログラム９０４をＣＰＵ９０１が読み込んで実行することで実現される。各構成要素の機能を実現するプログラム９０４は、例えば、予め記憶装置９０５やＲＯＭ９０２に格納されており、必要に応じてＣＰＵ９０１がＲＡＭ９０３にロードして実行される。なお、プログラム９０４は、通信ネットワーク９０９を介してＣＰＵ９０１に供給されてもよいし、予め記録媒体９０６に格納されており、ドライブ装置９０７が当該プログラムを読み出してＣＰＵ９０１に供給してもよい。
・ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）９０２
・ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）９０３
・ＲＡＭ９０３にロードされるプログラム９０４
・プログラム９０４を格納する記憶装置９０５
・記録媒体９０６の読み書きを行うドライブ装置９０７
・通信ネットワーク９０９と接続する通信インタフェース９０８
・データの入出力を行う入出力インタフェース９１０
・各構成要素を接続するバス９１１
前記実施形態１～３で説明したモデル学習装置１０～３０の各構成要素は、これらの機能を実現するプログラム９０４をＣＰＵ９０１が読み込んで実行することで実現される。各構成要素の機能を実現するプログラム９０４は、例えば、予め記憶装置９０５やＲＯＭ９０２に格納されており、必要に応じてＣＰＵ９０１がＲＡＭ９０３にロードして実行される。なお、プログラム９０４は、通信ネットワーク９０９を介してＣＰＵ９０１に供給されてもよいし、予め記録媒体９０６に格納されており、ドライブ装置９０７が当該プログラムを読み出してＣＰＵ９０１に供給してもよい。
【0133】
上記の構成によれば、前記実施形態１～３において説明したモデル学習装置１０～３０が、ハードウェアとして実現される。したがって、前記実施形態において説明した効果と同様の効果を奏することができる。
【0134】
〔付記〕
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【0135】
（付記１）
学習データセットを用いて学習されたモデルによる予測の要因を検索する検索手段と、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認する確認手段と、
前記予測の要因に基づいて、前記学習データセットを再構成する構成手段と、
前記再構成された学習データセットを用いて、前記モデルを再学習する学習手段と、
を備えたモデル学習装置。
学習データセットを用いて学習されたモデルによる予測の要因を検索する検索手段と、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認する確認手段と、
前記予測の要因に基づいて、前記学習データセットを再構成する構成手段と、
前記再構成された学習データセットを用いて、前記モデルを再学習する学習手段と、
を備えたモデル学習装置。
【0136】
（付記２）
前記確認手段は、前記予測の要因である学習データを提示する
ことを特徴とする付記１に記載のモデル学習装置。
前記確認手段は、前記予測の要因である学習データを提示する
ことを特徴とする付記１に記載のモデル学習装置。
【0137】
（付記３）
前記学習手段は、装置が搭載したモデルを更新することについての確証を得たのち、再学習した前記モデルを前記装置に適用する
ことを特徴とする付記１または２に記載のモデル学習装置。
前記学習手段は、装置が搭載したモデルを更新することについての確証を得たのち、再学習した前記モデルを前記装置に適用する
ことを特徴とする付記１または２に記載のモデル学習装置。
【0138】
（付記４）
前記予測の要因に関する説明のテキストデータを生成する出力手段をさらに備えた
ことを特徴とする付記１から３のいずれか1項に記載のモデル学習装置。
前記予測の要因に関する説明のテキストデータを生成する出力手段をさらに備えた
ことを特徴とする付記１から３のいずれか1項に記載のモデル学習装置。
【0139】
（付記５）
前記出力手段は、前記予測の要因に関する説明の要求に応じて、前記予測の要因に関する説明のテキストデータを生成する
ことを特徴とする付記４に記載のモデル学習装置。
前記出力手段は、前記予測の要因に関する説明の要求に応じて、前記予測の要因に関する説明のテキストデータを生成する
ことを特徴とする付記４に記載のモデル学習装置。
【0140】
（付記６）
前記構成手段は、前記予測の要因となる学習データを除いて、前記学習データセットを構成する
ことを特徴とする付記４または５に記載のモデル学習装置。
前記構成手段は、前記予測の要因となる学習データを除いて、前記学習データセットを構成する
ことを特徴とする付記４または５に記載のモデル学習装置。
【0141】
（付記７）
前記モデルを再学習するための学習データを入力することを受け付ける受付手段をさらに備えた
ことを特徴とする付記１から６のいずれか１項に記載のモデル学習装置。
前記モデルを再学習するための学習データを入力することを受け付ける受付手段をさらに備えた
ことを特徴とする付記１から６のいずれか１項に記載のモデル学習装置。
【0142】
（付記８）
前記構成手段は、入力された学習データを含めて、前記学習データセットを構成する
ことを特徴とする付記７に記載のモデル学習装置。
前記構成手段は、入力された学習データを含めて、前記学習データセットを構成する
ことを特徴とする付記７に記載のモデル学習装置。
【0143】
（付記９）
学習データセットを用いて学習されたモデルによる予測の要因を検索し、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認し、
前記予測の要因に基づいて、前記学習データセットを再構成し、
前記再構成された学習データセットを用いて、前記モデルを再学習する
モデル学習方法。
学習データセットを用いて学習されたモデルによる予測の要因を検索し、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認し、
前記予測の要因に基づいて、前記学習データセットを再構成し、
前記再構成された学習データセットを用いて、前記モデルを再学習する
モデル学習方法。
【0144】
（付記１０）
学習データセットを用いて学習されたモデルによる予測の要因を検索することと、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認することと、
前記予測の要因に基づいて、前記学習データセットを再構成することと、
前記再構成された学習データセットを用いて、前記モデルを再学習することと
をコンピュータに実行させるためのプログラム。
学習データセットを用いて学習されたモデルによる予測の要因を検索することと、
前記予測の要因を提示して、前記モデルを再学習することの要否を確認することと、
前記予測の要因に基づいて、前記学習データセットを再構成することと、
前記再構成された学習データセットを用いて、前記モデルを再学習することと
をコンピュータに実行させるためのプログラム。
【0145】
（付記１１）
前記構成手段は、前記モデルによる予測を修正するように、前記学習データセットを構成する
ことを特徴とする付記１から１０のいずれか１項に記載のモデル学習装置。
前記構成手段は、前記モデルによる予測を修正するように、前記学習データセットを構成する
ことを特徴とする付記１から１０のいずれか１項に記載のモデル学習装置。
【0146】
（付記１２）
前記出力手段は、前記予測の要因についての説明を音声又はテキストの形態で出力する
ことを特徴とする付記４から６のいずれか1項に記載のモデル学習装置。
前記出力手段は、前記予測の要因についての説明を音声又はテキストの形態で出力する
ことを特徴とする付記４から６のいずれか1項に記載のモデル学習装置。
【産業上の利用可能性】
【0147】
本発明は、例えば、ロボット掃除機、ペットロボット、及び小型ドローンなど、屋内で主に使用される家電製品に利用することができる。
【符号の説明】
【0148】
１ システム
２ システム
１０ モデル学習装置
１１ 検索部
１２ 確認部
１３ 構成部
１４ 学習部
２０ モデル学習装置
２５ 出力部
３０ モデル学習装置
３６ 受付部
１００ ユーザ端末
２００ 家電製品
３００ サーバ
２ システム
１０ モデル学習装置
１１ 検索部
１２ 確認部
１３ 構成部
１４ 学習部
２０ モデル学習装置
２５ 出力部
３０ モデル学習装置
３６ 受付部
１００ ユーザ端末
２００ 家電製品
３００ サーバ
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】