IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社エクサウィザーズの特許一覧

特開2023-129109情報処理方法、情報処理システム及びプログラム
<>
  • 特開-情報処理方法、情報処理システム及びプログラム 図1
  • 特開-情報処理方法、情報処理システム及びプログラム 図2
  • 特開-情報処理方法、情報処理システム及びプログラム 図3
  • 特開-情報処理方法、情報処理システム及びプログラム 図4
  • 特開-情報処理方法、情報処理システム及びプログラム 図5
  • 特開-情報処理方法、情報処理システム及びプログラム 図6
  • 特開-情報処理方法、情報処理システム及びプログラム 図7
  • 特開-情報処理方法、情報処理システム及びプログラム 図8
  • 特開-情報処理方法、情報処理システム及びプログラム 図9
  • 特開-情報処理方法、情報処理システム及びプログラム 図10
  • 特開-情報処理方法、情報処理システム及びプログラム 図11
  • 特開-情報処理方法、情報処理システム及びプログラム 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023129109
(43)【公開日】2023-09-14
(54)【発明の名称】情報処理方法、情報処理システム及びプログラム
(51)【国際特許分類】
   G06T 7/00 20170101AFI20230907BHJP
   G06N 20/00 20190101ALI20230907BHJP
【FI】
G06T7/00 350B
G06N20/00
【審査請求】有
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022033899
(22)【出願日】2022-03-04
(11)【特許番号】
(45)【特許公報発行日】2023-06-02
【国等の委託研究の成果に係る記載事項】(出願人による申告)2019年度、国立研究開発法人新エネルギー・産業技術総合開発機構「ConnectedIndustries推進のための協調領域データ共有・AIシステム開発促進事業業界横断型AIシステムの開発」委託研究、産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】517255566
【氏名又は名称】株式会社エクサウィザーズ
(72)【発明者】
【氏名】セロンロペス アルトゥーロ エドゥアルド
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA06
5L096BA05
5L096CA02
5L096DA02
5L096FA19
5L096FA69
5L096HA08
5L096KA04
5L096KA15
(57)【要約】
【課題】 機械学習モデルの学習及び利活用を容易に行うことができる。
【解決手段】
一実施形態にかかる情報処理方法は、情報処理装置が実行する情報処理方法であって、トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過状態を表す経過状況表示部と、処理結果の取得及び公開の少なくとも一方の指示を受け付ける取得部との少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力するステップと、を含む。
【選択図】図1

【特許請求の範囲】
【請求項1】
情報処理装置が実行する情報処理方法であって、
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部との少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力するステップと、
を含む情報処理方法。
【請求項2】
前記情報処理装置は、前記生成処理において、
前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、
前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、
前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、
を表示させる、
請求項1に記載の情報処理方法。
【請求項3】
前記情報処理装置は、前記生成処理において、前記データ入力受付部と、前記生成開始指示部と、前記データ生成状況表示部と、前記データセット取得部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
請求項2に記載の情報処理方法。
【請求項4】
前記情報処理装置は、前記学習処理において、
前記受付部として前記トレーニングデータセットを前記機械学習モデルに学習させる学習処理開始の指示を受け付ける学習処理開始指示部と、
前記経過状況表示部として前記機械学習モデルの学習処理進捗情報を表す学習処理状況表示部と、
前記指示取得部として学習処理が実行された前記機械学習モデルの保存の指示を受け付ける機械学習モデル保存部と、
を表示させる、
請求項1~請求項3のいずれか一項に記載の情報処理方法。
【請求項5】
前記情報処理装置は、前記学習処理において、前記学習処理開始指示部と、前記学習処理状況表示部と、前記機械学習モデル保存部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
請求項4に記載の情報処理方法。
【請求項6】
前記情報処理装置は、前記モデル取得処理において、
前記受付部として前記機械学習モデルの取得の指示を受け付ける機械学習モデル取得部と、
を表示させる、
請求項1~請求項5のいずれか一項に記載の情報処理方法。
【請求項7】
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの概要を表示するモデル概要表示部と、
を含んで一つのユーザーインターフェースに表示させる、
請求項1~請求項6のいずれか一項に記載の情報処理方法。
【請求項8】
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの検証を実施するためのサンプルデータセットの入力を受け付けるテストデータ受付部と、
前記機械学習モデルの検証状況を表す検証状況表示部と、
前記機械学習モデルの検証結果に関する情報を得るための検証指示取得部と、
前記機械学習モデルを他の情報処理装置へ送信するモデル展開部と、
の少なくとも一つを含んで一つのユーザーインターフェースに表示させる、
請求項1~請求項7のいずれか一項に記載の情報処理方法。
【請求項9】
前記情報処理装置は、前記生成処理、前記学習処理及び前記モデル取得処理のいずれかを選択可能に表示させる選択表示部を前記ユーザーインターフェースに表示するように出力するステップを有する、
請求項1~請求項8のいずれか一項に記載の情報処理方法。
【請求項10】
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、
処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、
処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部と、
前記受付部、前記経過状況表示部及び前記指示取得部の少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力する表示処理部と、
を有する情報処理システム。
【請求項11】
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理の実行指示が入力されたか否かを判定するステップと、
前記ステップにて実行指示の入力に基づき、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び公開の少なくとも一方の指示を受け付ける指示取得部と、の少なくとも一つをユーザーインターフェースに表示させるように出力するステップと、
をコンピュータに実行させるためのプログラム。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理方法、情報処理システム及びプログラムに関する。
【背景技術】
【0002】
下記の引用文献1には、物体検出方法が開示されている。この物体検出方法では、検出対象の物体の画像に対して、少なくとも当該物体の位置及び回転角度がラベル情報として付されたデータセットにより機械学習された推論モデルを検出モデルとして利用することが記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2020-197978号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
対象物の画像を大量に学習させることにより、高精度な検出モデルを生成できる。しかしながら、対象物を変更したい場合には、一般的に検出モデルを再度学習させる必要がある。この場合、機械学習を実施するためのデータセットの生成、学習処理及び学習処理済みの機械モデルを取得する工程が必要となるが、それぞれの工程は機械学習に精通しているユーザの操作が必要となる。したがって、検出モデルの対象物の変更を容易に行う点においては改善の余地がある。
【0005】
本発明は、上記事実を考慮し、機械学習モデルの学習及び利活用を容易に行うことを目的とする。
【課題を解決するための手段】
【0006】
一実施形態にかかる情報処理方法は、情報処理装置が実行する情報処理方法であって、トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部との少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力するステップと、を含む。
【発明の効果】
【0007】
一実施形態によれば、機械学習モデルの学習及び利活用を容易に行うことができる。
【図面の簡単な説明】
【0008】
図1】本実施形態に係る情報処理システムの構成の一例を示す図である。
図2】本実施形態に係る情報処理装置のハードウェア構成の一例を示す図である。
図3】本実施形態に係る検出モデル生成装置の機能構成の一例を示す図である。
図4】本実施形態に係る制御装置の機能構成の一例を示す図である。
図5】本実施形態に係る情報処理システムにおける初期状態時に表示装置に表示されるユーザーインターフェース画面の一例を示す模式図である。
図6】本実施形態に係る情報処理システムにおける生成処理時に表示装置に表示されるユーザーインターフェース画面の一例を示す模式図である。
図7】本実施形態に係る情報処理システムにおける学習処理時に表示装置に表示されるユーザーインターフェース画面の一例を示す模式図である。
図8】本実施形態に係る情報処理システムにおけるモデル取得処理時に表示装置に表示されるユーザーインターフェース画面の一例を示す模式図である。
図9】本実施形態に係る情報処理システムの画面表示処理の手順を示すフローチャートの一部である。
図10】本実施形態に係る情報処理システムの画面表示処理の手順を示すフローチャートの一部である。
図11】本実施形態に係る情報処理システムの画面表示処理の手順を示すフローチャートの一部である。
図12】検出モデルの生成方法の具体例を説明する図である。
【発明を実施するための形態】
【0009】
以下、本発明の各実施形態について、添付の図面を参照しながら説明する。なお、各実施形態に係る明細書及び図面の記載に関して、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。
【0010】
<システム構成>
まず、本実施形態に係る情報処理システムの概要について説明する。本実施形態に係る情報処理システムは、対象物Ob(図12参照)に対してロボットアームによりタスクを実行するためのシステムである。対象物Obは、任意の物体であり得る。タスクは、例えば、ピッキング(ピックアンドプレース)、秤量、自律移動、又は製品検査であるが、これに限られない。以下では、タスクがピッキングである場合を例に説明する。
【0011】
図1は、本実施形態に係る情報処理システムの構成の一例を示す図である。図1の情報処理システムは、ネットワークNを介して相互に通信可能に接続された、ユーザ端末1と、検出モデル生成装置2と、ロボットシステム3と、を備える。ネットワークNは、例えば、有線LAN(Local Area Network)、無線LAN、インターネット、公衆回線網、モバイルデータ通信網、又はこれらの組み合わせである。図1の例では、情報処理システムは、ユーザ端末1、検出モデル生成装置2及びロボットシステム3をそれぞれ1つずつ備えるが、それぞれ複数備えてもよい。 また、ネットワークNは、図示しないクラウドサービスに通信可能に接続されてもよい。
【0012】
ユーザ端末1は、情報処理システムのユーザUが利用する表示装置1Aを有する情報処理装置である。ユーザ端末1は、後述する情報処理装置100のハードウェア資源を用いて、各種機能を実現する装置であり、例えば、PC(Personal Computer)、スマートフォン又はタブレット端末であるが、これに限られない。ユーザUは、対象物Obの3Dモデルである対象物モデルOMをユーザ端末1から検出モデル生成装置2に送信(アップロード)する。この際、ユーザUは、表示装置1Aに表示される操作画面の指示に従って操作を行う(操作画面の詳細については後述する)。ユーザUは、複数の同じ種類の対象物Obの対象物モデルOMをユーザ端末1から検出モデル生成装置2に送信してもよいし、複数の異なる種類の対象物Obの対象物モデルOMをユーザ端末1から検出モデル生成装置2に送信してもよい。また、ユーザUは、対象物モデルOMの代わりに、対象物Obの画像データをユーザ端末1から検出モデル生成装置2に送信してもよい。画像データは、対象物Obだけを含んでもよいし、対象物Ob及びその背景を含んでもよい。この場合、後述する検出モデル生成装置2が、対象物Obの画像データから対象物モデルOMを生成すればよい。さらに、対象物モデルOMの3Dモデルデータを作成するための各種画像や、位置情報、深度情報及び色情報の少なくとも一方を含む点群データ等をまとめたファイルデータ等をユーザ端末1から検出モデル生成装置2に送信してもよい。この場合も、後述する検出モデル生成装置2が、ファイルデータから対象物モデルOMを生成すればよい。なお、図1の例では、対象物Obは、りんごであるが、これに限られない。 また、本実施形態では、対象物モデルOMや対象物Obの画像データをユーザ端末1から検出モデル生成装置2へ送信する構成とされているが、これに限らず、対象物モデルOMや対象物Obの画像データを検出モデル生成装置2へ送信する構成は他の構成としてもよい。一例として、API(Application Programming Interface)を利用して他の情報処理システムから対象物モデルOMや対象物Obの画像データを検出モデル生成装置2へ送信する構成等を取り得る。
【0013】
検出モデル生成装置2は、対象物モデルOMから生成したトレーニングデータセットとしてのデータセットDSを学習させることにより、ビジョンデータVD(図12参照)から対象物Obを検出する機械学習モデルとしての検出モデルDMを生成する情報処理装置である。データセットDS、ビジョンデータVD、及び検出モデル生成装置2について、詳しくは後述する。
【0014】
ロボットシステム3は、対象物Obをロボットアームでピッキングするシステムである。ロボットシステム3は、通信可能に接続された、ロボットアーム31と、制御装置32と、ビジョンセンサ33と、を備える。図1の例では、ロボットシステム3は、ロボットアーム31、制御装置32及びビジョンセンサ33を1つずつ備えるが、それぞれ複数備えてもよい。また、ロボットシステム3は、複数の異なる種類のビジョンセンサ33を備えてもよい。
【0015】
ロボットアーム31は、対象物Obをピッキング可能なエンドエフェクタを備えた多関節ロボットである。ロボットアーム31は、例えば、バラ積みされた対象物Obをピッキングする。
【0016】
制御装置32は、ロボットアーム31を制御する情報処理装置である。制御装置32は、ロボットアーム31及びビジョンセンサ33と通信可能に接続される。制御装置32は、検出モデルDMを利用して、ビジョンセンサ33がセンシングして生成したビジョンデータVDから対象物Obを検出し、検出結果に基づいて、ロボットアーム31のピッキング動作を制御する。
【0017】
ビジョンセンサ33は、対象物Obをセンシングし、ビジョンデータVDを生成する装置である。ビジョンセンサ33は、生成したビジョンデータを制御装置32に送信する。ビジョンセンサ33は、センシング位置が固定されていてもよいし、ロボットアーム31に対して固定されていてもよい。ビジョンセンサ33は、例えば、カメラであるが、これに限られない。
【0018】
<ハードウェア構成>
次に、情報処理装置のハードウェア構成について説明する。図2は、情報処理装置100のハードウェア構成の一例を示す図である。図2に示すように、情報処理装置100は、バスBを介して相互に接続された、プロセッサ101と、メモリ102と、ストレージ103と、通信I/F104と、入出力I/F105と、ユーザーインターフェース106と、ドライブ装置107と、を備える。
【0019】
プロセッサ101は、ストレージ103に記憶された情報処理プログラムをメモリ102に展開して実行することにより、情報処理装置100の各構成を制御し、情報処理装置100の機能を実現する。プロセッサ101は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、DSP(Digital Signal Processor)、又はこれらの組み合わせである。
【0020】
メモリ102は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、又はこれらの組み合わせである。ROMは、例えば、PROM(Programmable ROM)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)、又はこれらの組み合わせである。RAMは、例えば、DRAM(Dynamic RAM)、SRAM(Static RAM)、MRAM(Magnetoresistive RAM)、又はこれらの組み合わせである。
【0021】
ストレージ103は、 OS等のプログラム及び各種のデータを記憶する。ストレージ103は、例えば、フラッシュメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)、SCM(Storage Class Memories)、又はこれらの組み合わせである。
【0022】
通信I/F104は、情報処理装置100を、ネットワークNを介して、外部装置に接続し、通信を制御するためのインタフェースである。通信I/F104は、例えば、Bluetooth(登録商標)、Wi-Fi(登録商標)、ZigBee(登録商標)、Ethernet(登録商標)、又は光通信(例えば、Fibre Channel)に準拠したアダプタであるが、これに限られない。
【0023】
入出力I/F105は、情報処理装置100にユーザーインターフェース106を接続するためのインタフェースである。
【0024】
ユーザーインターフェース106は、入力機能と出力機能とを含んで構成されている。入力機能は、ユーザの操作を受け付け、受け付けた操作に応じた情報を情報処理装置100に入力するための機能であり、例えば、マウス、キーボード、タッチパネル、マイク、スキャナ、カメラ、各種センサ、操作ボタン(いずれも不図示)、又はこれらの組み合わせによって実現される。
【0025】
出力機能は、情報処理装置100が保持した各種の情報を出力するための機能であり、例えば、表示装置1A、プロジェクタ、プリンタ、スピーカ、バイブレータ(いずれも不図示)、又はこれらの組み合わせによって実現される。このうち表示装置1Aは、所謂ディスプレイであり、各種情報の表示を行う。また、表示装置1Aは、所謂タッチパネル等のように入力機能を兼ねていてもよい。
【0026】
ドライブ装置107は、ディスクメディア108のデータを読み書きする。ドライブ装置107は、例えば、磁気ディスクドライブ、光学ディスクドライブ、光磁気ディスクドライブ、又はこれらの組み合わせである。
【0027】
ディスクメディア108は、情報を記録したディスク状の記録媒体である。ディスクメディア108は、例えば、CD(Compact Disc)、DVD(Digital Versatile Disc)、FD(Floppy Disk)、MO(Magneto-Optical disk)、BD(Blu-ray(登録商標) Disc)、又はこれらの組み合わせである。
【0028】
なお、情報処理装置100のハードウェア構成は、上記の例に限られない。情報処理装置100は、上記のハードウェア機能構成の一部を備えてもよいし、上記以外のハードウェア構成を備えてもよい。
【0029】
また、各種のプログラムは、情報処理装置100の製造段階でメモリ102又はストレージ103に書き込まれてもよいし、ネットワークNを介して情報処理装置100に提供されてもよいし、ディスクメディア108などの非一時的でコンピュータ読み取り可能な記録媒体を介して情報処理装置100に提供されてもよい。
【0030】
<検出モデル生成装置2の機能構成>
次に、検出モデル生成装置2の機能構成について説明する。図3は、検出モデル生成装置2の機能構成の一例を示す図である。図3に示すように、検出モデル生成装置2は、通信部21と、記憶部22と、表示処理部としての制御部23と、を備える。検出モデル生成装置2は、一例として上述の情報処理装置100と同様の構成のハードウェア資源を用いて、各種機能を実現する。検出モデル生成装置2が実現する機能構成について説明する。
【0031】
通信部21は、通信I/F105(図2参照)により実現される。通信部21は、ネットワークNを介して、ユーザ端末1及びロボットシステム3との間で情報の送受信を行う。具体的には、通信部21は、ユーザ端末1から対象物モデルOMや操作情報等を受信し、ロボットシステム3に検出モデルDMを送信する。
【0032】
記憶部22は、メモリ102及びストレージ103(図2参照)により実現される。記憶部22は、対象物モデルOMと、合成データセットSM(図12参照)と、レンダリングパラメータと、データセットDSと、検出モデルDMと、タスク実行結果と、情報処理プログラムJP等を記憶する。
【0033】
対象物モデルOMは、対象物Obの3Dモデルである。記憶部22には、1又は複数の対象物モデルOMが記憶される。対象物モデルOMは、ユーザ端末1から受信してもよいし、後述する生成部232が生成してもよい。
【0034】
図12に示されるように、合成データセットSMは、ロボットアーム31(図1参照)がタスクを実行する際の対象物Obの状況を再現するように生成された、対象物モデルOMを含む3Dモデルである。合成データセットSMは、バラ積みされた対象物モデルOMを含む3Dモデルであってもよいし、ランダム又は所定の規則で配置された複数の対象物モデルOMを含む3Dモデルであってもよいし、1つの対象物モデルOMを含む3Dモデルであってもよい。例えば、ロボットシステム3のタスクがバラ積みされた対象物Obのピッキングである場合、合成データセットSMとして、バラ積みされた対象物モデルOM及び容器を含む3Dモデルが生成される。記憶部22には、1又は複数の合成データセットSMが記憶される。
【0035】
図3に示されるように、レンダリングパラメータRPは、対象物モデルOMに基づいてビジョンデータVD(図12参照)を生成するためのパラメータである。レンダリングパラメータRPは、ロボットアーム31がタスクを実行する際に生成されるビジョンデータVDが再現されるように調整される。レンダリングパラメータRPは、対象物パラメータ、環境パラメータ、及びセンサパラメータを含む。
【0036】
対象物パラメータは、合成データセットSMに含まれる対象物モデルOM(図12参照)を生成するためのパラメータである。対象物パラメータは、対象物Obの色、対象物Obの粗さ、対象物Obの清浄さ、対象物Obの反射率、及び対象物Obの解像度の少なくとも1つを含む。
【0037】
環境パラメータは、合成データセットSMを生成するためのパラメータである。環境パラメータは、光源の配置、光の強度、影の解像度、対象物Obの大きさ、対象物Obの位置、対象物Obの数、及びレンダリングモードの少なくとも1つを含む。
【0038】
センサパラメータは、合成データセットSMからビジョンデータVD(図12参照)を生成するためのパラメータである。センサパラメータは、ビジョンデータVDに含まれるノイズ、ビジョンセンサの焦点、ビジョンセンサの位置、ビジョンセンサの画角、ビジョンセンサの方向、及びビジョンセンサの露光量の少なくとも1つを含む。例えば、ビジョンセンサの位置、画角及び方向は、合成データセットSMを2次元投影する際に利用される。また、例えば、ビジョンセンサの焦点、露光及びノイズは、後処理効果に利用される。
【0039】
なお、レンダリングパラメータRPは、上記の例に限られない。また、各レンダリングパラメータは、一意の値(基準値)であってもよいし、範囲であってもよい。
【0040】
データセットDSは、検出モデルDMを生成するためのデータセットである。データセットDSは、図12に示されるように、複数の教師データTDを含む。教師データTDは、ビジョンデータVD及びラベルLを含む。
【0041】
ビジョンデータVDは、対象物モデルOMを含む3Dモデルを仮想のビジョンセンサによりセンシングすることにより生成される任意のデータであり得る。ビジョンデータVDは、例えば、カメラにより生成される画像データ、深度センサにより生成される深度データ、又はレーザスキャナにより生成されるレーザスキャンデータであるが、これに限られない。教師データTDは、複数種類のビジョンデータVDを含んでもよい。
【0042】
ラベルLは、ビジョンデータVDに含まれる対象物モデルOMの領域及び位置を示すデータ(位置情報)である。ラベルLは、ビジョンデータVDに含まれる対象物モデルOMに対応するバウンディングボックスであてもよいし、ビジョンデータVDに含まれる対象物モデルOMに対応するピクセルを示すマスクであってもよい。
【0043】
なお、教師データTDは、上記の例に限られない。例えば、教師データTDは、ビジョンデータVDを生成するために利用されたレンダリングパラメータRPの値を含んでもよい。
【0044】
図3に示されるように、検出モデルDMは、ビジョンデータVDから対象物Obの領域及び位置を検出する任意の機械学習モデルであり得る。検出モデルDMは、例えば、物体検出モデル、インスタンスセグメンテーションモデル、又はセマンティックセグメンテーションモデルであるが、これに限られない。
【0045】
検証実行結果TRは、検出モデルDMを利用した検証結果を示す情報である。この検証は一例として、対象物Obを撮影した撮像データや、対象物Obを再現したシミュレーションデータを検出モデルDMへ入力し、検出モデルDMの出力結果が想定のものか否かを確認するものである。また、検証は、これに限らず、ロボットアームのタスクをシミュレーションした結果を含んでもよい。検証実行結果TRは、一例として、検出モデルDMにより検出された対象物モデルOMの領域及び位置、検出モデルDMに入力されたビジョンデータVD、タスクの成否(成功又は失敗を示す情報)、タスクの実行中にロボットアームに提供されたコマンド、タスクの実行中にロボットシステムが備える各種センサが計測したセンサ値、タスクの実行時間、又はこれらの組み合わせを含む。なお、検証実行結果TRは、画像や動画データ、テキストデータによるレポート等、任意に形式に設定可能とされている。
【0046】
制御部23は、プロセッサ101がメモリ102(図2参照)から情報処理プログラムJPを読み出して実行し、他のハードウェア構成と協働することにより実現される。制御部23は、取得部231と、生成部232と、学習部233と、検出部234と、検証部235と、を備えると共に、各部が取得するデータの入力や操作指示、各部が出力するデータや情報の表示などに対応した画面(詳細は後述する)をユーザ端末1の表示装置1Aに出力する。
【0047】
取得部231は、ユーザ端末1から対象物モデルOM、合成データセットSM及び生成済みのデータセットDS等を取得し、記憶部22や図示しないストレージ(一例としてクラウドストレージ)へアップロードし保存する。取得部231は、対象物モデルOMの代わりに、対象物モデルOMを生成するための写真測量用画像等の各種画像や、位置情報、深度情報及び色情報の少なくとも一方を含む点群データ、3Dメッシュデータ等を取得し、記憶部22や図示しないストレージ(一例としてクラウドストレージ)へアップロードし保存してもよい。また、取得部231は、ユーザーインターフェース106から入力された各種操作情報も取得する。
【0048】
生成部232は、対象物モデルOMや合成データセットSM及びレンダリングパラメータRPに基づいて、公知の技術を用いてデータセットDSを生成し、記憶部22や図示しないストレージ(一例としてクラウドストレージ)へアップロードし保存する。なお、取得部231が取得したデータが生成済みのデータセットDSの場合は、生成部232はデータセットの生成処理を行わない。また、取得部231が取得したデータが対象物モデルOMを生成するための写真測量用画像等の各種画像や、位置情報、深度情報及び色情報の少なくとも一方を含む点群データ、3Dメッシュデータ等の場合は、生成部232は対象物モデルOMを生成し、当該対象物モデルOMを基にデータセットDSを生成する。
【0049】
学習部233は、検出モデルDMに取得部231が取得した生成済みデータセットDS又は生成部232が生成したデータセットDSを機械学習させることにより、公知の技術を用いて学習済みの検出モデルDMを生成し、記憶部22に保存する。なお、機械学習させる際のデータセットDSは、ユーザUが後述するUI画面により選択操作されるデータセットDSが使用される。
【0050】
検出部234は、学習済みの検出モデルDMを利用して、ビジョンデータVDや、対象物Obを撮影した撮像データ、対象物Obを再現したシミュレーションデータ等から対象物モデルOMを検出する。
【0051】
検証部235は、検出部234の検出結果に基づいて、対象物モデルOMの検出結果を検証実行結果TRとして記憶部22や図示しないストレージ(一例としてクラウドストレージ)へアップロードし保存する。また、検証部235は、ロボットアームのタスクを検証する場合は、一例として仮想のロボットアームを動作させることにより、ロボットアームのタスクをシミュレーションし、当該シミュレーション結果を検証実行結果TRとして記憶部22や図示しないストレージ(一例としてクラウドストレージ)へアップロードし保存する。検証部235は、物理エンジンを利用することにより、タスクを実行する際のロボットアームの動作を再現する。
【0052】
なお、検出モデル生成装置2の機能構成は、上記の例に限られない。検出モデル生成装置2は、上記の機能構成の一部を備えてもよいし、上記以外の機能構成を備えてもよい。例えば、検出モデル生成装置2は、上記の機能構成の一部をユーザ端末1又は制御装置32に設けられてもよいし、制御装置32の機能構成の一部を備えてもよい。
【0053】
上述した検出モデル生成装置2は、公知の機械学習技術を用いてデータセットDSを生成する生成処理と、検出モデルDMにデータセットDSを学習させる学習処理と、学習済みの検出モデルDMを取得する取得処理と、を実行する。なお、本実施形態では、データセットDSの生成処理及び検出モデルDMを取得する取得処理が公知の機械学習モデル機械学習技術により行われているが、これに限らず、所謂ルールベースの処理等、機械学習技術以外の技術により行われる構成としてもよい。
【0054】
<制御装置32の機能構成>
次に、制御装置32の機能構成について説明する。図4は、制御装置32の機能構成の一例を示す図である。図4に示すように、制御装置32は、通信部321と、記憶部322と、制御部323と、を備える。制御装置32は、一例として上述の情報処理装置100と同様の構成のハードウェア資源を用いて、各種機能を実現する。制御装置32が実現する機能構成について説明する。
【0055】
通信部321は、通信I/F105(図2参照)により実現される。通信部321は、ネットワークNを介して、検出モデル生成装置2との間で情報の送受信を行う。具体的には、通信部321は、検出モデル生成装置2から学習済みの検出モデルDMを受信する。
【0056】
記憶部322は、メモリ102及びストレージ103(図2参照)により実現される。記憶部322は、ビジョンデータVDと、検出モデルDMと、を記憶する。
【0057】
ビジョンデータVDは、ビジョンセンサ33が対象物Obをセンシングすることにより生成したデータである。
【0058】
検出モデルDMは、検出モデル生成装置2により生成されかつ展開(デプロイ)された学習済みの検出モデルDMである。
【0059】
制御部323は、プロセッサ101がメモリ102(図2参照)からロボット制御プログラムRPを読み出して実行し、他のハードウェア構成と協働することにより実現される。制御部323は、取得部3231と、検出部3232と、ロボット制御部3233と、を備える。
【0060】
取得部3231は、ビジョンセンサ33(図1参照)からビジョンデータVDを取得する。
【0061】
検出部3232は、検出モデルDMを利用して、ビジョンデータVDから対象物Obを検出する。具体的には、検出部3232は、ビジョンデータVDを検出モデルDMに入力し、検出モデルDMが出力した対象物Obの領域及び位置を示す情報を、対象物Obの検出結果として取得する。
【0062】
ロボット制御部3233は、検出モデル生成装置2により展開(デプロイ)された検出モデルDMが出力する対象物Obの検出結果に基づいて、ロボットアーム31(図1参照)を制御し、所定のタスクを実行する。具体的には、ロボット制御部3233は、例えば、対象物Obの検出結果に基づいて、ピッキング対象とする対象物Obを選択し、選択したピッキング対象をピッキングできるようにロボットアーム31を制御する。ロボットアーム31の制御方法として、既存の任意の方法を利用できる。
【0063】
なお、制御装置32の機能構成は、上記の例に限られない。制御装置32は、上記の機能構成の一部を備えてもよいし、上記以外の機能構成を備えてもよい。例えば、制御装置32は、上記の機能構成の一部をロボットアーム31に設けられてもよいし、検出モデル生成装置2の機能構成の一部を備えてもよい。
【0064】
<初期状態時の画面表示処理>
次に、検出モデル生成装置2による初期状態時の画面表示処理について説明する。検出モデル生成装置2は、初期状態において、図5に示されるようなユーザーインターフェース画面(以下、「UI画面」と称する。)をユーザ端末1の表示装置1A(図1参照)に表示させるように出力する。本実施形態における初期状態時のUI画面は、画面内容表示領域500と、選択表示部としての生成処理選択領域502、学習処理選択領域504及びモデル取得処理選択領域506とを含んで構成されている。
【0065】
画面内容表示領域500は、UI画面の上部に設けられており、本例では「メインメニュー」と本UI画面の内容(この場合メインメニューであること)を示す文字列と、本処理における設定事項を確認及び編集させるための操作を受け付ける一般設定メニューボタン501とが表示されている。本実施の形態に係る情報処理システムでは、本サービスを利用するためにユーザがユーザ端末1にて検出モデル生成装置2にアクセスし情報処理プログラムJPを起動した後、図示のUI画面が表示される。
【0066】
一般設定メニューボタン501は、画面内容表示領域500内における右側方に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、一般設定メニューボタン501に対するタッチ操作又はクリック操作等を受け付けることにより、生成処理、学習処理及びモデル取得処理を実行するサーバ(クラウドサービスも含む)の設定や、自動で処理を実行するためのオートメーション化設定等を実行するための操作画面(不図示)をユーザ端末1の表示装置1Aに表示するよう出力する。
【0067】
生成処理選択領域502は、UI画面における左側部かつ画面内容表示領域500の下方側に設けられており、本例ではデータセットを概念的に示すアイコン(画像、図形、記号等)と、受付部としての生成処理を選択するための操作を受け付ける生成処理選択ボタン508とが表示される。ユーザ端末1及び検出モデル生成装置2は、生成処理選択領域502に表示された生成処理選択ボタン508に対するタッチ操作又はクリック操作等を受け付けることにより、生成処理の選択を受け付ける。生成処理の選択を受け付けた検出モデル生成装置2は、生成処理を実行するための生成処理選択時UI画面(図6参照、詳細は後述する)をユーザ端末1の表示装置1Aに表示するよう出力する。
【0068】
学習処理選択領域504は、UI画面における中央部かつ画面内容表示領域500の下方側に設けられており、本例では機械学習モデルを概念的に示すアイコン(画像、図形、記号等)と、受付部としての学習処理を選択するための操作を受け付ける学習処理選択ボタン510とが表示される。ユーザ端末1及び検出モデル生成装置2は、学習処理選択領域504に表示された学習処理選択ボタン510に対するタッチ操作又はクリック操作等を受け付けることにより、学習処理の選択を受け付ける。学習処理の選択を受け付けた検出モデル生成装置2は、学習処理を実行するための学習処理選択時UI画面(図7参照、詳細は後述する)をユーザ端末1の表示装置1Aに表示するよう出力する。
【0069】
モデル取得処理選択領域506は、UI画面における右側部かつ画面内容表示領域500の下方側に設けられており、本例では機械学習モデルの取得を概念的に示すアイコン(画像、図形、記号等)と、受付部としての取得処理を選択するための操作を受け付けるモデル取得処理選択ボタン512とが表示される。ユーザ端末1及び検出モデル生成装置2は、モデル取得処理選択領域506に表示されたモデル取得処理選択ボタン512に対するタッチ操作又はクリック操作等を受け付けることにより、モデル取得処理の選択を受け付ける。モデル取得処理の選択を受け付けた検出モデル生成装置2は、モデル取得処理を実行するためのモデル取得処理選択時UI画面(図8参照、詳細は後述する)をユーザ端末1の表示装置1Aに表示するよう出力する。
【0070】
すなわち、初期状態時の本UI画面は、生成処理、前記学習処理及び前記モデル取得処理のいずれかを選択可能に表示されている。
【0071】
<生成処理選択時の画面表示処理>
次に、検出モデル生成装置2による生成処理時の画面表示処理について説明する。検出モデル生成装置2は、少なくとも生成処理選択領域502における生成処理選択ボタン508に対する操作を受け付けた場合に、図6に示されるようなUI画面をユーザ端末1の表示装置1Aに表示させるように出力する。本実施形態における生成処理選択時のUI画面は、画面内容表示領域514と、第一タスク表示領域516と、第二タスク表示領域518と、第三タスク表示領域520とを含んで構成されている。
【0072】
画面内容表示領域514は、UI画面の上部に設けられており、本例では「データセットの生成」と本UI画面の内容(この場合、データセットの生成であること)を示す文字列と、当該文字列に対して右側部に初期状態時のUI画面(図5参照)を表示させるための操作を受け付けるメニューボタン522とが表示される。
【0073】
第一タスク表示領域516は、UI画面における左側部かつ画面内容表示領域514の下方側に設けられており、本例ではデータ生成オプション表示部524と、ユーザがアップロードする3Dモデルデータを選択しアップロードするための操作を受け付ける受付部かつデータ入力受付部としての3Dモデルアップロードボタン526と、ユーザがアップロードする各種データを選択するための操作を受け付ける受付部かつデータ入力受付部としてのオブジェクトデータアップロードボタン527と、データセットの生成を開始するための操作を受け付ける受付部かつ生成開始指示部としてのデータセット生成開始ボタン528と、既に生成された図示しないデータセットを取り込むためのデータインポートボタン529とが表示される。データ生成オプション表示部524には、3Dモデルアップロードボタン526にて3Dモデルデータのアップロード(詳細は後述)が完了後に、生成するデータセットのパラメータオプションが編集可能な状態でリスト表示される。
【0074】
3Dモデルアップロードボタン526は、データ生成オプション表示部524の下方側かつ左側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、3Dモデルアップロードボタン526に対するタッチ操作又はクリック操作等を受け付けることにより、ユーザ端末1内から検出モデル生成装置2へアップロードする3Dモデルデータの選択及びアップロードの実行を行う。
【0075】
オブジェクトデータアップロードボタン527は、データ生成オプション表示部524の下方側かつ右側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、オブジェクトデータアップロードボタン527に対するタッチ操作又はクリック操作等を受け付けることにより、ユーザ端末1内から検出モデル生成装置2へアップロードする各種データの選択及びアップロードの実行を行う。当該各種データは、一例として、対象物モデルOMの3Dモデルデータを作成するためのオブジェクトデータとされており、具体的には、対象物Obを撮影した画像データや、位置情報、深度情報及び色情報の少なくとも一方を含む点群データ等を含む。なお、本実施形態では、3Dモデルアップロードボタン526とオブジェクトデータアップロードボタン527とが異なるボタンとされているが、これに限らず、同一のボタンとしてユーザによりアップロードされたデータ種類を検出モデル生成装置2にて判定し、データ種類に応じて処理を実行する構成としてもよい。
【0076】
データセット生成開始ボタン528は、3Dモデルアップロードボタン526の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、データセット生成開始ボタン528に対するタッチ操作又はクリック操作等を受け付けることにより、3Dモデルアップロードボタン526の操作によって検出モデル生成装置2にアップロードされた3Dモデルデータを基にデータセットの生成を実行する。
【0077】
データインポートボタン529は、オブジェクトデータアップロードボタン527の下方側かつ右側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、データセット生成開始ボタン528に対するタッチ操作又はクリック操作等を受け付けることにより、ユーザ端末1内や他の情報処理装置から検出モデル生成装置2へ取り込む各種データの選択及び取り込み処理(インポート)の実行を行う。なお、各種データには、他のデータセット生成装置(不図示)によって生成されたデータセットや対象物Obを撮影した画像データ等が含まれる。
【0078】
第二タスク表示領域518は、UI画面における中央部かつ画面内容表示領域514の下方側に設けられており、本例では選択データセット概要表示部530と、経過状況表示部かつデータ生成状況表示部としてのデータ作成状況表示部532とが表示される。選択データセット概要表示部530は、後述する既存データセット表示部534において生成済みの既存のデータセットがユーザにより選択された際に、当該データセットに関する情報を表示する。本実施形態の選択データセット概要表示部530では、一例として、選択されたデータセットの画像データ、マスクデータ、法線データ及び深度データのサムネイル画像(いずれも不図示)がそれぞれ表示可能とされている。なお、既存データセット表示部534において生成済みの既存のデータセットがユーザにより選択されていない場合には、選択データセット概要表示部530は空白状態となる。
【0079】
データ作成状況表示部532は、選択データセット概要表示部530の下方側に配置されており、データセット生成開始ボタン528の操作によってデータセットの生成処理が実施されている際の生成処理の進捗情報が表示される。なお、データセットの生成が実行されていない場合は、データ作成状況表示部532は空白状態となる。また、データセットの生成が終了した際は、データ作成状況表示部532の背景色が変わるなど表示が変化する。
【0080】
第三タスク表示領域520は、UI画面における右側部かつ画面内容表示領域514の下方側に設けられており、本例では既存データセット表示部534と、ステータス更新ボタン536と、データセット生成停止ボタン538と、指示取得部かつデータセット取得部としてのデータセットダウンロードボタン539と、指示取得部かつデータセット取得部としてのデータセットパブリッシュボタン540とが表示される。既存データセット表示部534には、検出モデル生成装置2にて既に生成されたデータセットの一覧を選択可能にリスト表示される。
【0081】
ステータス更新ボタン536は、既存データセット表示部534の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、ステータス更新ボタン536に対するタッチ操作又はクリック操作等を受け付けることにより、データ作成状況表示部532及び既存データセット表示部534の少なくとも一方の表示更新を実行する。
【0082】
データセット生成停止ボタン538は、既存データセット表示部534の下方側かつステータス更新ボタン536の右側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、データセット生成停止ボタン538に対するタッチ操作又はクリック操作等を受け付けることにより、実行中のデータセットの生成処理を停止する。
【0083】
データセットダウンロードボタン539は、ステータス更新ボタン536の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、データセットダウンロードボタン539に対するタッチ操作又はクリック操作等を受け付けることにより、検出モデル生成装置2に既に記録されているデータセットのうち既存データセット表示部534にて選択されたデータセットをユーザ端末1へのダウンロード(取得)の実行を行う。
【0084】
データセットパブリッシュボタン540は、データセット生成停止ボタン538の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、データセットパブリッシュボタン540に対するタッチ操作又はクリック操作等を受け付けることにより、生成されたデータセットを記憶部22や図示しないストレージ(一例としてクラウドストレージ)へアップロードし保存する。なお、本実施形態では、データセットパブリッシュボタン540は、データセット生成開始ボタン528に対する操作によって実行されるデータセットの生成処理が完了するまでは操作できない(非アクティブ)状態とされる。
【0085】
<学習処理選択時の画面表示処理>
次に、検出モデル生成装置2による学習処理時の画面表示処理について説明する。検出モデル生成装置2は、少なくとも学習処理選択領域504における学習処理選択ボタン510(図5参照)に対する操作を受け付けた場合に、図7に示されるようなUI画面をユーザ端末1の表示装置1Aに表示させるように出力する。本実施形態における生成処理選択時のUI画面は、画面内容表示領域542と、第一タスク表示領域544と、第二タスク表示領域546と、第三タスク表示領域548とを含んで構成されている。
【0086】
画面内容表示領域542は、UI画面の上部に設けられており、本例では「機械学習モデルのトレーニング」と本UI画面の内容(この場合、機械学習モデルの学習であること)を示す文字列と、当該文字列に対して右側部に前述同様にメニューボタン522とが表示される。
【0087】
第一タスク表示領域544は、UI画面における左側部かつ画面内容表示領域542の下方側に設けられており、本例では既存データセット表示部550と、受付部かつ学習処理開始指示部としてのトレーニング開始ボタン552とが表示される。既存データセット表示部550は、前述の既存データセット表示部534と同様に、検出モデル生成装置2にて既に生成されたデータセットの一覧がリスト表示されると共に、任意のデータセットがユーザによって選択可能とされている。
【0088】
トレーニング開始ボタン552は、既存データセット表示部550の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、トレーニング開始ボタン552に対するタッチ操作又はクリック操作等を受け付けることにより、既存データセット表示部550にてユーザにより選択されたデータセットによる、後述する既存学習モデル表示部554にてユーザにより選択された機械学習モデルの学習処理を実行する。なお、この学習処理には、既に学習済みの機械学習モデルに対する再学習処理も含まれる。
【0089】
第二タスク表示領域546は、UI画面における中央部かつ画面内容表示領域542の下方側に設けられており、本例では経過状況表示部かつ学習処理状況表示部としてのトレーニング進捗表示部556と、トレーニング状況表示部558と、トレーニングオプション表示部560とが表示される。トレーニング進捗表示部556は、機械学習モデルの学習処理の進捗情報が表示される。
【0090】
トレーニング状況表示部558は、トレーニング進捗表示部556の下方側に配置されており、一例として、学習処理を実施する機械学習モデルに関する情報や学習処理に使用されるデータセットに関する情報が表示される。
【0091】
トレーニングオプション表示部560は、トレーニング状況表示部558の下方側に配置されており、学習処理のオプションやパラメータが編集可能な状態で表示される。
【0092】
第三タスク表示領域548は、UI画面における右側部かつ画面内容表示領域542の下方側に設けられており、本例では既存学習モデル表示部554と、ステータス更新ボタン562と、学習処理停止ボタン564と、指示取得部かつ機械学習モデル保存部としての学習モデルパブリッシュボタン566とが表示される。既存学習モデル表示部554には、検出モデル生成装置2にて既に学習処理された機械学習モデルの一覧が選択可能にリスト表示される。
【0093】
ステータス更新ボタン562は、既存学習モデル表示部554の下方側かつ左側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、ステータス更新ボタン562に対するタッチ操作又はクリック操作等を受け付けることにより、トレーニング進捗表示部556及びトレーニングオプション表示部560の少なくとも一方の表示更新を実行する。
【0094】
学習処理停止ボタン564は、既存学習モデル表示部554の下方側かつステータス更新ボタン562の右側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、学習処理停止ボタン564に対するタッチ操作又はクリック操作等を受け付けることにより、実行中の機械学習モデルの学習処理を停止する。
【0095】
学習モデルパブリッシュボタン566は、ステータス更新ボタン562及び学習処理停止ボタン564の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、学習モデルパブリッシュボタン566に対するタッチ操作又はクリック操作等を受け付けることにより、学習処理された機械学習モデルを記憶部22や図示しないストレージ(一例としてクラウドストレージ)へアップロードし保存する。なお、本実施形態では、学習モデルパブリッシュボタン566は、トレーニング開始ボタン552に対する操作によって実行される機械学習モデルの学習処理が完了するまでは操作できない(非アクティブ)状態とされる。
【0096】
<モデル取得処理選択時の画面表示処理>
次に、検出モデル生成装置2によるモデル取得処理時の画面表示処理について説明する。検出モデル生成装置2は、少なくともモデル取得処理選択領域506におけるモデル取得処理選択ボタン512(図5参照)に対する操作を受け付けた場合に、図8に示されるようなUI画面をユーザ端末1の表示装置1Aに表示させるように出力する。本実施形態における生成処理選択時のUI画面は、画面内容表示領域568と、第一タスク表示領域570と、第二タスク表示領域572と、第三タスク表示領域574とを含んで構成されている。
【0097】
画面内容表示領域568は、UI画面の上部に設けられており、本例では「検証及び機械学習モデルの取得」と本UI画面の内容(この場合、機械学習モデルの検証及び取得であること)を示す文字列と、当該文字列に対して右側部に前述同様にメニューボタン522とが表示される。
【0098】
第一タスク表示領域570は、UI画面における左側部かつ画面内容表示領域568の下方側に設けられており、本例では既存学習モデル表示部576と、受付部かつ機械学習モデル取得部としての機械学習モデルダウンロードボタン578とが表示される。既存学習モデル表示部576では、検出モデル生成装置2にて既に学習処理された機械学習モデルの一覧が選択可能にリスト表示される。
【0099】
機械学習モデルダウンロードボタン578は、既存学習モデル表示部576の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、機械学習モデルダウンロードボタン578に対するタッチ操作又はクリック操作等を受け付けることにより、学習済みの機械学習モデルの検出モデル生成装置2からユーザ端末1へのダウンロード(取得)が実行される。
【0100】
第二タスク表示領域572は、UI画面における中央部かつ画面内容表示領域568の下方側に設けられており、本例ではモデル概要表示部としての機械学習モデル説明部580が表示される。機械学習モデル説明部580では、既存学習モデル表示部576にて選択された機械学習モデルに関する情報が表示される。
【0101】
第三タスク表示領域574は、UI画面における右側部かつ画面内容表示領域568の下方側に設けられており、本例では検証状況表示部としての推論状況更新ボタン582と、推論状況表示部584と、テストデータ受付部としての推論用動画像データアップロードボタン586Aと、テストデータ受付部としての推論用模擬データアップロードボタン586Bと、検証指示取得部としての推論結果データダウンロードボタン588と、モデル展開部としての機械学習モデル展開ボタン590とが表示される。推論状況更新ボタン582は、第三タスク表示領域574の上部に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、推論状況更新ボタン582に対するタッチ操作又はクリック操作等を受け付けることにより、選択された機械学習モデルの検証(テスト)の際の推論データ(詳細は後述)を用いた検証状況を表示する推論状況表示部584の表示更新を実行する。検証状況は、一例として、対象物Obを撮影した撮像データや、対象物Obを再現したシミュレーションデータを推論データとして検出モデルDMへ入力した際の処理状況や、ロボットアームのタスクをシミュレーションした際の処理状況とされている。
【0102】
推論状況表示部584は、推論状況更新ボタン582の下方側に配置されており、既存学習モデル表示部576にて選択された機械学習モデルに対して推論データを用いて検証を実施する際の検証処理情報が表示される。
【0103】
推論用動画像データアップロードボタン586Aは、推論状況表示部584の下方側かつ左側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、推論用動画像データアップロードボタン586Aに対するタッチ操作又はクリック操作等を受け付けることにより、既存学習モデル表示部576にて選択された機械学習モデルの検証を行う際に使用する動画データや画像データのユーザ端末1から検出モデル生成装置2へのアップロードが実行される。当該アップロードされるデータは、本実施形態においては、ビジョンデータVDから対象物Obの領域及び位置を検出する検出モデルDMの検証を行うため、対象物Obを撮影した動画データや画像データとされている。
【0104】
推推論用模擬データアップロードボタン586Bは、推論状況表示部584の下方側かつ右側方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、推論用模擬データアップロードボタン586Bに対するタッチ操作又はクリック操作等を受け付けることにより、既存学習モデル表示部576にて選択された機械学習モデルの検証を行う際に使用するシミュレーションを実行するための各種データのユーザ端末1から検出モデル生成装置2へのアップロードが実行される。当該アップロードされるデータは、本実施形態においては、対象物Obを再現したシミュレーションデータを生成するための設定データ等とされている。
【0105】
推論結果データダウンロードボタン588は、推論用データアップロードボタン586の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、推論結果データダウンロードボタン588に対するタッチ操作又はクリック操作等を受け付けることにより、検証が行われた機械学習モデルの出力結果を含むデータの検出モデル生成装置2からユーザ端末1へのダウンロードが実行される。当該ダウンロードされるデータは、本実施形態においては、推論用データアップロードボタン586の操作によってアップロードされた動画データに対して対象物モデルOMの領域及び位置を示す情報を付加した動画データが含まれる。
【0106】
機械学習モデル展開ボタン590は、推論結果データダウンロードボタン588の下方側に配置されており、ユーザ端末1及び検出モデル生成装置2の少なくとも一方は、機械学習モデル展開ボタン590に対するタッチ操作又はクリック操作等を受け付けることにより、検証が実施された機械学習モデルをロボットシステム3の制御を行う制御装置32の記憶部322(図4参照)に学習済み検出モデルとして送信し展開する。
【0107】
<処理フロー>
次に、本実施形態に係る情報処理システムの作用について説明する。図9は、本実施形態に係る情報処理システムの処理の流れを示すフローチャートである。プロセッサ101がメモリ102又はストレージ103から本実施形態に係る情報処理プログラムJPを読み出し、メモリ102に展開して実行することにより、本実施形態に係る情報処理プログラムJPに基づく処理が行われる。
【0108】
(メインメニュー画面表示)
プロセッサ101は、メインメニューUI画面(図5参照)をユーザ端末1の表示装置1Aに表示させるように出力する(ステップ100)。そして、プロセッサ101は、生成処理選択ボタン508、学習処理選択ボタン510及びモデル取得処理選択ボタン512のいずれかに対する操作があるか否かを判定する(ステップ102)。操作が無い場合(ステップ102:NO)、プロセッサ101は、ステップ100へ処理を移行する。なお、フローチャートが複雑になるのを避けるため図示していないが、プロセッサ101は、一般設定メニューボタン501(図5参照)が操作された際は、サーバ等の設定や、オートメーション化設定等を実行するための操作画面(不図示)をユーザ端末1の表示装置1Aに表示するよう出力する。
【0109】
操作がある場合(ステップ102:YES)、プロセッサ101は、操作されたボタンの種別を判定する(ステップ104)。操作されたボタンが学習処理選択ボタン510の場合(ステップ104:学習処理)、プロセッサ101は、後述するステップ200へ処理を移行する。また、操作されたボタンがモデル取得処理選択ボタン512の場合(ステップ104:モデル取得処理)、プロセッサ101は、後述するステップ300へ処理を移行する。
【0110】
(生成処理画面表示)
操作されたボタンが生成処理選択ボタン508の場合(ステップ104:生成処理)、プロセッサ101は、「データセットの生成」UI画面(図6参照)をユーザ端末1の表示装置1A(図1参照)に表示させるように出力する(ステップ106)。なお、フローチャートが複雑になるのを避けるため図示していないが、プロセッサ101は、フローチャート中のいずれの処理中においてもメニューボタン522が操作された際は、ステップ100へ処理を移行する。
【0111】
プロセッサ101は、既存のデータセットが記憶部22に保存されている場合、既存データセット表示部534に当該データセットを表示する(ステップ108)。そして、プロセッサ101は、データインポートボタン529が操作されたか否かを判定する(ステップ110)。データインポートボタン529が操作されていない場合(ステップ110:NO)、プロセッサ101は、後述するステップ116へ処理を移行する。
【0112】
データインポートボタン529が操作されている場合(ステップ110:YES)、プロセッサ101は、ユーザ端末1内から検出モデル生成装置2へアップロードする各種データの選択及びアップロードの実行を行う(ステップ112)。そして、プロセッサ101は、ステップ112にてアップロードされたデータが生成済みのデータセットか否かを判定する(ステップ114)。前述のデータが生成済みのデータセットではない場合(ステップ114:NO)、プロセッサ101は、後述するステップ130へ処理を移行する。一方、データが生成済みのデータセットである場合(ステップ114:YES)、プロセッサ101は、後述するステップ148へ処理を移行する。
【0113】
プロセッサ101は、オブジェクトデータアップロードボタン527が操作されたか否かを判定する(ステップ116)。オブジェクトデータアップロードボタン527が操作されていない場合(ステップ116:NO)、プロセッサ101は、後述するステップ122へ処理を移行する。一方、オブジェクトデータアップロードボタン527が操作されている場合(ステップ116:YES)、プロセッサ101は、ユーザ端末1内から検出モデル生成装置2へアップロードする各種データ(対象物モデルOMを生成するためのデータ)の選択及びアップロードの実行を行う(ステップ118)。そして、プロセッサ101は、ステップ118にてアップロードされた各種データを基に対象物モデルOMを生成し(ステップ120)、後述するステップ130へ処理を移行する。
【0114】
プロセッサ101は、3Dモデルアップロードボタン526が操作されたか否かを判定する(ステップ122)。3Dモデルアップロードボタン526が操作されていない場合(ステップ122:NO)、プロセッサ101は、既存データセット表示部534に表示された既存のデータセットが選択されたか否かを判定する(ステップ124)。既存のデータセットが選択されていない場合(ステップ124:NO)、プロセッサ101は、ステップ106へ処理を移行する。一方、既存のデータセットが選択されている場合(ステップ124:YES)、プロセッサ101は、選択データセット概要表示部530に選択されたデータセットに関する情報を表示する(ステップ126)。その後、後述するステップ128へ処理を移行する。
【0115】
3Dモデルアップロードボタン526が操作されている場合(ステップ122:YES)、プロセッサ101は、ユーザ端末1内から検出モデル生成装置2へアップロードする3Dモデルデータの選択及びアップロードの実行を行う(ステップ128)。
【0116】
プロセッサ101は、データ生成オプション表示部524に生成するデータセットのパラメータオプションを編集可能な状態でリスト表示する(ステップ130)。そして、プロセッサ101は、データセット生成開始ボタン528が操作されたか否かを判定する(ステップ132)。データセット生成開始ボタン528が操作されていない場合(ステップ132:NO)、プロセッサ101は、ステップ130へ処理を移行する。
【0117】
データセット生成開始ボタン528が操作されている場合(ステップ132:YES)、プロセッサ101は、検出モデル生成装置2にアップロードされたデータを基に、データ生成オプション表示部524に表示及び編集されたデータセットのパラメータオプションを踏まえた上でデータセットの生成実行を開始する(ステップ134)。
【0118】
プロセッサ101は、データ作成状況表示部532に生成処理の進捗情報を表示する(ステップ136)。そして、プロセッサ101は、データセット生成停止ボタン538が操作されたか否かを判定する(ステップ138)。データセット生成停止ボタン538が操作された場合(ステップ138:YES)、プロセッサ101は、ステップ106へ処理を移行する。
【0119】
データセット生成停止ボタン538が操作されていない場合(ステップ138:NO)、プロセッサ101は、ステータス更新ボタン536が操作されたか否かを判定する(ステップ140)。ステータス更新ボタン536が操作されていない場合(ステップ140:NO)、プロセッサ101は、後述するステップ144へ処理を移行する。
【0120】
ステータス更新ボタン536が操作されている場合(ステップ140:YES)、プロセッサ101は、データ作成状況表示部532に表示される生成処理の進捗情報を更新する(ステップ142)。
【0121】
プロセッサ101は、データセットの生成処理が終了したか否かを判定する(ステップ144)。生成処理が終了していない場合(ステップ144:NO)、プロセッサ101は、ステップ138へ処理を移行する。
【0122】
生成処理が終了した場合(ステップ144:YES)、プロセッサ101は、データ作成状況表示部532に表示される生成処理の進捗情報を更新する(ステップ146)。そして、プロセッサ101は、データセットパブリッシュボタン540が操作されたか否かを判定する(ステップ148)。データセットパブリッシュボタン540が操作されていない場合(ステップ148:NO)、プロセッサ101は、ステップ110の処理へ移行する。
【0123】
データセットパブリッシュボタン540が操作された場合(ステップ148:YES)、プロセッサ101は、生成されたデータセットを検出モデル生成装置2における記憶部22(図3参照)や図示しないクラウドストレージに保存する(ステップ150)。そして、プロセッサ101は、図示しない選択画面を表示すると共に、当該選択画面にてメインメニュー画面(図5参照)へ移行するか、本処理(生成処理)画面のトップへ移行するか、次処理(学習処理)へ移行するか、のいずれかのユーザUの選択操作を受け付ける(ステップ152)。メインメニュー画面への移行が選択された際は(ステップ152:メインメニュー)、プロセッサ101は、ステップ100へ処理を移行する。本処理(生成処理)画面のトップへの移行が選択された際は、(ステップ152:本処理トップ)、プロセッサ101は、ステップ110へ処理を移行する。次処理(学習処理)への移行が選択された際は(ステップ152:次処理)、プロセッサ101は、図10に示されるステップ200へ処理を移行する。
【0124】
(学習処理画面表示)
プロセッサ101は、「機械学習モデルのトレーニング」UI画面(図7参照)をユーザ端末1の表示装置1A(図1参照)に表示させるように出力する(ステップ200)。そして、プロセッサ101は、既存データセット表示部550に検出モデル生成装置2にて既に生成されたデータセットの一覧を選択可能にリスト表示する(ステップ202)と共に、既存学習モデル表示部554に検出モデル生成装置2にて既に学習処理された機械学習モデルの一覧を選択可能にリスト表示する(ステップ204)。
【0125】
プロセッサ101は、既存データセット表示部550にてデータセットが選択されたか否かを判定する(ステップ206)。データセットが選択されていない場合(ステップ206:NO)、プロセッサ101は、ステップ202へ処理を移行する。
【0126】
データセットが選択された場合(ステップ206:YES)、プロセッサ101は、トレーニングオプション表示部560に学習処理のオプションやパラメータを編集可能な状態にて表示する(ステップ208)。
【0127】
プロセッサ101は、トレーニング開始ボタン552が操作されたか否かを判定する(ステップ210)。トレーニング開始ボタン552が操作されていない場合(ステップ210:NO)、プロセッサ101は、ステップ208へ処理を移行する。
【0128】
トレーニング開始ボタン552が操作された場合(ステップ210:YES)、プロセッサ101は、トレーニングオプション表示部560に表示及び編集された場合の学習処理のオプションやパラメータを踏まえた上で既存学習モデル表示部554にてユーザにより選択された機械学習モデルの学習処理の実行を開始する(ステップ212)。
【0129】
プロセッサ101は、トレーニング状況表示部558にて学習処理を実施する機械学習モデルに関する情報や学習処理に使用されるデータセットに関する情報を表示する(ステップ214)と共に、トレーニング進捗表示部556にて機械学習モデルの学習処理の進捗情報を表示する(ステップ216)。
【0130】
プロセッサ101は、学習処理停止ボタン564が操作されたか否かを判定する(ステップ218)。学習処理停止ボタン564が操作された場合(ステップ218:YES)、プロセッサ101は、ステップ200へ処理を移行する。
【0131】
学習処理停止ボタン564が操作されていない場合(ステップ218:NO)、プロセッサ101は、ステータス更新ボタン562が操作されたか否かを判定する(ステップ220)。ステータス更新ボタン562が操作されていない場合(ステップ220:NO)、プロセッサ101は、後述するステップ224へ処理を移行する。
【0132】
ステータス更新ボタン562が操作された場合(ステップ220:YES)、プロセッサ101は、トレーニング進捗表示部556に表示される機械学習モデルの学習処理の進捗情報の表示を更新する(ステップ222)。そして、プロセッサ101は、機械学習モデルの学習処理が終了したか否かを判定する(ステップ224)。機械学習モデルの学習処理が終了していない場合(ステップ224:NO)、プロセッサ101は、ステップ218へ処理を移行する。
【0133】
機械学習モデルの学習処理が終了した場合(ステップ224:YES)、プロセッサ101は、トレーニング進捗表示部556に表示される機械学習モデルの学習処理の進捗情報を更新する(ステップ226)。
【0134】
プロセッサ101は、学習モデルパブリッシュボタン566が操作されたか否かを判定する(ステップ228)。学習モデルパブリッシュボタン566が操作されていない場合(ステップ228:NO)、プロセッサ101は、ステップ200へ処理を移行する。
【0135】
学習モデルパブリッシュボタン566が操作された場合(ステップ228:YES)、プロセッサ101は、学習処理された機械学習モデルを検出モデル生成装置2における記憶部22(図3参照)や図示しないクラウドストレージに保存する(ステップ230)。そしてプロセッサ101は、図示しない選択画面を表示すると共に、当該選択画面にてメインメニュー画面(図5参照)へ移行するか、本処理(学習処理)画面のトップへ移行するか、次処理(モデル取得処理)へ移行するか、のいずれかのユーザUの選択操作を受け付ける(ステップ232)。メインメニュー画面への移行が選択された際は(ステップ232:メインメニュー)、プロセッサ101は、ステップ100へ処理を移行する。本処理(学習処理)画面のトップへの移行が選択された際は、(ステップ232:本処理トップ)、プロセッサ101は、ステップ200へ処理を移行する。次処理(モデル取得処理)への移行が選択された際は(ステップ232:次処理)、プロセッサ101は、図11に示される後述するステップ300へ処理を移行する。
【0136】
(モデル取得処理画面表示)
プロセッサ101は、「検証及び機械学習モデルの取得」UI画面(図8参照)をユーザ端末1の表示装置1A(図1参照)に表示させるように出力する(ステップ300)。そして、プロセッサ101は、既存学習モデル表示部576に既に学習処理された機械学習モデルの一覧を選択可能にリスト表示する(ステップ302)。
【0137】
プロセッサ101は、既存学習モデル表示部576にて機械学習モデルが選択されたか否かを判定する(ステップ304)。機械学習モデルが選択されていない場合(ステップ304:NO)、プロセッサ101は、ステップ302へ処理を移行する。
【0138】
機械学習モデルが選択されている場合(ステップ304:YES)、プロセッサ101は、機械学習モデル説明部580に選択された機械学習モデルに関する情報を表示する(スップ306)。
【0139】
プロセッサ101は、推論用データアップロードボタン586が操作されたか否かを判定する(ステップ308)。推論用データアップロードボタン586が操作されていない場合(ステップ308:NO)、プロセッサ101は、ステップ304へ処理を移行する。
【0140】
推論用データアップロードボタン586が操作されている場合(ステップ308:YES)、プロセッサ101は、既存学習モデル表示部576にて選択された機械学習モデルの検証を行う際に使用するデータを、ユーザ端末1から検出モデル生成装置2へアップロードする(ステップ310)と共に、検証処理の実行を開始する(ステップ312)。
【0141】
プロセッサ101は、推論状況表示部584に機械学習モデルに対して推論データを用いて検証を実施する際の検証処理情報を表示する(ステップ314)。そして、プロセッサ101は、推論状況更新ボタン582が操作されたか否かを判定する(ステップ316)。推論状況更新ボタン582が操作されていない場合(ステップ316:NO)、プロセッサ101は、後述するステップ320へ処理を移行する。
【0142】
推論状況更新ボタン582が操作された場合(ステップ316:YES)、プロセッサ101は、推論状況表示部584に表示される検証処理状況を更新する(ステップ318)。そして、プロセッサ101は、検証処理が終了したか否かを判定する(ステップ320)。検証処理が終了していない場合(ステップ320:NO)、プロセッサ101は、ステップ316へ処理を移行する。
【0143】
検証処理が終了した場合(ステップ320:YES)、プロセッサ101は、推論状況表示部584に表示される検証処理情報の表示を更新する(ステップ322)。そして、プロセッサ101は、機械学習モデルダウンロードボタン578が操作されたか否かを判定する(ステップ324)。機械学習モデルダウンロードボタン578が操作されていない場合(ステップ324:NO)。プロセッサ101は、後述するステップ328へ処理を移行する。
【0144】
機械学習モデルダウンロードボタン578が操作された場合(ステップ324:YES)、プロセッサ101は、既存学習モデル表示部576にて選択された機械学習モデルを検出モデル生成装置2からユーザ端末1へダウンロードする(ステップ326)。
【0145】
プロセッサ101は、推論結果データダウンロードボタン588が操作されたか否かを判定する(ステップ328)。推論結果データダウンロードボタン588が操作されていない場合(ステップ328:NO)、プロセッサ101は、後述するステップ332へ処理を移行する。
【0146】
推論結果データダウンロードボタン588が操作された場合(ステップ328:YES)、プロセッサ101は、検証が行われた機械学習モデルの出力結果を含むデータを、検出モデル生成装置2からユーザ端末1へダウンロードする(ステップ330)。
【0147】
プロセッサ101は、機械学習モデル展開ボタン590が操作されたか否かを判定する(ステップ332)。機械学習モデル展開ボタン590が操作されていない場合(ステップ332:NO)、プロセッサ101は、ステップ300へ処理を移行する。一方、機械学習モデル展開ボタン590が操作された場合(ステップ332:YES)、プロセッサ101は、検証が実施された機械学習モデルを他の情報処理装置(一例として制御装置32)に学習済み検出モデルとして展開(送信する(ステップ334)。そしてプロセッサ101は、図示しない選択画面を表示すると共に、当該選択画面にてメインメニュー画面(図5参照)へ移行するか、本処理(モデル取得処理)画面のトップへ移行するか、本一連の処理を終了するか、のいずれかのユーザUの選択操作を受け付ける(ステップ336)。メインメニュー画面への移行が選択された際は(ステップ336:メインメニュー)、プロセッサ101は、ステップ100へ処理を移行する。本処理(モデル取得処理)画面のトップへの移行が選択された際は、(ステップ336:本処理トップ)、プロセッサ101は、ステップ300へ処理を移行する。本一連の処理の終了が選択された際は(ステップ336:終了)、プロセッサ101は、本実施形態に係る情報処理プログラムJPの処理を終了する。
【0148】
なお、プロセッサ101により学習済み機械学習モデルが展開される際は、予め展開先として設定された他の情報処理装置へ当該機械学習モデルを自動的に送信可能とされている。また、本実施形態では、一例として制御装置32の記憶部22に展開された機械学習モデルにより選択したピッキング対象をピッキングできるようにロボットアーム31を制御する。ロボットアーム31の制御方法として、既存の任意の方法を利用できる。
【0149】
<本実施形態の作用・効果>
次に、本実施形態の作用並びに効果を説明する。
【0150】
本実施形態に係る情報処理方法によれば、生成処理、学習処理及びモデル取得処理のそれぞれの処理において、受付部と経過状況表示部と指示取得部とがユーザ端末1の表示装置1Aに表示されるように出力する。したがって、ユーザは、各処理において処理の実行に必要なデータの入力や操作等の指示、処理の経過状態及び保存を視覚的に把握及び実施することができる。すなわち、表示装置1Aに表示される受付部、経過状況表示部及び指示取得部をタッチ操作、クリック操作又は視認することが可能となるので、各処理における必要な作業等及びそれに対応したコマンドを予め理解することなく状況把握及び操作することができる。これにより、機械学習モデルの学習及び利活用を容易に行うことができる。
【0151】
また、情報処理方法によれば、図6に示されるように、生成処理において、受付部かつデータ入力受付部としての3Dモデルアップロードボタン526と、受付部かつデータ入力受付部としてのオブジェクトデータアップロードボタン527と、受付部かつ生成開始指示部としてのデータセット生成開始ボタン528と、経過状況表示部かつデータ生成状況表示部としてのデータ作成状況表示部532と、指示取得部かつデータセット取得部としてのデータセットダウンロードボタン539と、指示取得部かつデータセット取得部としてのデータセットパブリッシュボタン540とが表示装置1Aに表示される。したがって、生成処理においてデータセットを生成する際に必要なデータの入力、データセットの生成開始、データセットの生成処理の進捗把握、生成処理済みのデータセットの取得及び生成処理済みのデータセットの保存をコマンド操作することなく容易に行うことができる。
【0152】
さらに、情報処理方法によれば、生成処理において、3Dモデルアップロードボタン526と、オブジェクトデータアップロードボタン527と、データセット生成開始ボタン528と、データ作成状況表示部532と、データセットダウンロードボタン539と、データセットパブリッシュボタン540とが作業時系列順にて表示装置1Aに表示される。すなわち、一般的に生成処理における作業時系列は、データセットを生成する際に必要なデータの入力を行ってからデータセットの生成開始操作後、データセットの生成処理の進捗を確認した上で、生成処理済みのデータセットの取得及び生成処理済みのデータセットの保存を行う。この作業時系列に沿うよう、それぞれの作業工程に対応するボタン又は表示部は、最初の工程に対応する3Dモデルアップロードボタン526及びオブジェクトデータアップロードボタン527を除いて前工程の作業工程に対応するボタン又は表示部の下方側又は右側に配置されている。一般的にユーザは表示装置1Aを左側から右側、上側から下側へ向かって視認することから、ユーザは直感的に作業時系列に沿って操作及び確認作業を行うことができる。
【0153】
さらにまた、情報処理方法によれば、図7に示されるように、学習処理において、受付部かつ学習処理開始指示部としてのトレーニング開始ボタン552と、経過状況表示部かつ学習処理状況表示部としてのトレーニング進捗表示部556と、指示取得部かつ機械学習モデル保存部としての学習モデルパブリッシュボタン566とが表示装置1Aに表示される。したがって、学習処理において機械学習モデルの学習処理の実行、機械学習モデルの学習処理の進捗把握、学習処理済みの機械学習モデルの保存をコマンド操作することなく容易に行うことができる。
【0154】
また、情報処理方法によれば、学習処理において、トレーニング開始ボタン552と、トレーニング進捗表示部556と、学習モデルパブリッシュボタン566とが作業時系列順にて表示装置1Aに表示される。すなわち、一般的に学習処理における作業時系列は、機械学習モデルに学習させる学習処理開始の指示後、機械学習モデルの学習処理の進捗を確認した上で、学習処理済みの機械学習モデルの保存を行う。この作業時系列に沿うよう、図7に示されるように、それぞれの作業工程に対応するボタン又は表示部は、最初の工程に対応するトレーニング開始ボタン552を除いて前工程の作業工程に対応するボタン又は表示部の右側に配置されている。一般的にユーザは表示装置1Aを左側から右側へ向かって視認することから、ユーザは直感的に作業時系列に沿って操作及び確認作業を行うことができる。
【0155】
さらに、情報処理方法によれば、図8に示されるように、モデル取得処理において、受付部かつ機械学習モデル取得部としての機械学習モデルダウンロードボタン578が表示装置1Aに表示される。したがって、モデル取得処理において学習済みの機械学習モデルの検出モデル生成装置2からユーザ端末1へのダウンロードの実行をコマンド操作することなく容易に行うことができる。
【0156】
さらにまた、情報処理方法によれば、モデル取得処理において、モデル概要表示部としての機械学習モデル説明部580が表示装置1Aに表示される。したがって、モデル取得処理において機械学習モデルの概要把握をコマンド操作することなく容易に行うことができる。
【0157】
また、情報処理方法によれば、モデル取得処理において、テストデータ受付部としての推論用データアップロードボタン586と、検証状況表示部としての推論状況更新ボタン582と、検証指示取得部としての推論結果データダウンロードボタン588と、モデル展開部としての機械学習モデル展開ボタン590とが表示装置1Aに表示される。したがって、モデル取得処理において、機械学習モデルの検証を実施するためのサンプルデータセットの入力、機械学習モデルの検証状況の把握、機械学習モデルの検証結果に関する情報の把握及び機械学習モデルの他の情報処理装置へ送信をコマンド操作することなく容易に行うことができる。
【0158】
さらに、情報処理方法によれば、図5に示されるように、検出モデル生成装置2による初期状態時においては、選択表示部としての生成処理選択領域502、学習処理選択領域504及びモデル取得処理選択領域506が表示装置1Aに表示される。したがって、ユーザは機械学習モデルの学習及び利活用において実施したい処理の選択が容易となる。
【0159】
また、本実施形態に係る情報処理システムによれば、生成処理、学習処理及びモデル取得処理のそれぞれの処理において、受付部と経過状況表示部と指示取得部と制御部23(図3参照)とを有する。したがって、ユーザは、各処理において処理の実行に必要なデータの入力や操作等の指示、処理の経過状態及び保存を視覚的に把握及び実施することができる。すなわち、表示装置1Aに表示される受付部、経過状況表示部及び指示取得部をタッチ操作、クリック操作又は視認することが可能となるので、各処理における必要な作業等及びそれに対応したコマンドを予め理解することなく状況把握及び操作することができる。これにより、機械学習モデルの学習及び利活用を容易に行うことができる。
【0160】
さらに、本実施形態に係る情報処理プログラムJPによれば、生成処理、学習処理及びモデル取得処理の少なくとも一つの処理の実行指示が入力されたか否かを判定するステップと、前記ステップにて実行指示の入力に基づき、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過状態を表す経過状況表示部と、処理結果の取得及び公開の少なくとも一方の指示を受け付ける取得部と、の少なくとも一つをユーザーインターフェースに表示させるように出力するステップと、をコンピュータに実行させる。したがって、ユーザは、各処理において処理の実行に必要なデータの入力や操作等の指示、処理の経過状態及び保存を視覚的に把握及び実施することができる。すなわち、表示装置1Aに表示される受付部、経過状況表示部及び指示取得部をタッチ操作、クリック操作又は視認することが可能となるので、各処理における必要な作業等及びそれに対応したコマンドを予め理解することなく状況把握及び操作することができる。これにより、機械学習モデルの学習及び利活用を容易に行うことができる。
【0161】
なお、本実施形態では、生成処理、学習処理及びモデル取得処理のすべての処理で受付部、計画状況取得部、指示取得部がユーザ端末1の表示装置1Aに表示されるよう構成されているが、これに限らず、受付部、計画状況取得部、指示取得部のうちどれか一つ又は二つがユーザ端末1の表示装置1Aに表示されるようにしてもよい。
【0162】
また、上述の実施形態では、生成処理及び学習処理において受付部、計画状況取得部、指示取得部が作業時系列に配置された構成とされているが、これに限らず、生成処理、学習処理及びモデル取得処理のいずれかにおいて、作業工程の変更や作業工程のカスタマイズ、表示装置1Aのサイズに応じて付部、計画状況取得部、指示取得部の配置を変更する構成としてもよい。
【0163】
<付記>
本実施形態は、以下の開示を含む。
【0164】
(付記1) 情報処理装置が実行する情報処理方法であって、
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部との少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力するステップと、
を含む情報処理方法。
【0165】
(付記2)
前記情報処理装置は、前記生成処理において、
前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、
前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、
前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、
を表示させる、
付記1に記載の情報処理方法。
【0166】
(付記3)
前記情報処理装置は、前記生成処理において、前記データ入力受付部と、前記生成開始指示部と、前記データ生成状況表示部と、前記データセット取得部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
付記2に記載の情報処理方法。
【0167】
(付記4)
前記情報処理装置は、前記学習処理において、
前記受付部として前記トレーニングデータセットを前記機械学習モデルに学習させる学習処理開始の指示を受け付ける学習処理開始指示部と、
前記経過状況表示部として前記機械学習モデルの学習処理進捗情報を表す学習処理状況表示部と、
前記指示取得部として学習処理が実行された前記機械学習モデルの保存の指示を受け付ける機械学習モデル保存部と、
を表示させる、
付記1~付記3のいずれか一項に記載の情報処理方法。
【0168】
(付記5)
前記情報処理装置は、前記学習処理において、前記学習処理開始指示部と、前記学習処理状況表示部と、前記機械学習モデル保存部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
付記4に記載の情報処理方法。
【0169】
(付記6)
前記情報処理装置は、前記モデル取得処理において、
前記受付部として前記機械学習モデルの取得の指示を受け付ける機械学習モデル取得部と、
を表示させる、
付記1~付記5のいずれか一項に記載の情報処理方法。
【0170】
(付記7)
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの概要を表示するモデル概要表示部と、
を含んで一つのユーザーインターフェースに表示させる、
付記1~付記6のいずれか一項に記載の情報処理方法。
【0171】
(付記8)
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの検証を実施するためのサンプルデータセットの入力を受け付けるテストデータ受付部と、
前記機械学習モデルの検証状況を表す検証状況表示部と、
前記機械学習モデルの検証結果に関する情報を得るための検証指示取得部と、
前記機械学習モデルを他の情報処理装置へ送信するモデル展開部と、
の少なくとも一つを含んで一つのユーザーインターフェースに表示させる、
付記1~付記7のいずれか一項に記載の情報処理方法。
【0172】
(付記9)
前記情報処理装置は、前記生成処理、前記学習処理及び前記モデル取得処理のいずれかを選択可能に表示させる選択表示部を前記ユーザーインターフェースに表示するように出力するステップを有する、
付記1~付記8のいずれか一項に記載の情報処理方法。
【0173】
(付記10)
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、
処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、
処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部と、
前記受付部、前記経過状況表示部及び前記指示取得部の少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力する表示処理部と、
を有する情報処理システム。
【0174】
(付記11)
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理の実行指示が入力されたか否かを判定するステップと、
前記ステップにて実行指示の入力に基づき、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び公開の少なくとも一方の指示を受け付ける指示取得部と、の少なくとも一つをユーザーインターフェースに表示させるように出力するステップと、
をコンピュータに実行させるためのプログラム。
【0175】
今回開示された実施形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。また、本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【符号の説明】
【0176】
23 表示処理部(制御部)
100 情報処理装置
106 ユーザーインターフェース
526 受付部、データ入力受付部(3Dモデルアップロードボタン)
527 受付部、データ入力受付部(オブジェクトデータアップロードボタン)
528 受付部、生成開始指示部(データセット生成開始ボタン)
532 経過状況表示部、データ生成状況表示部(データ作成状況表示部)
539 指示取得部、データセット取得部(データセットダウンロードボタン)
540 指示取得部、データセット取得部(データセットパブリッシュボタン)
552 受付部、学習処理開始指示部(トレーニング開始ボタン)
556 経過状況表示部、学習処理状況表示部(トレーニング進捗表示部)
566 指示取得部、機械学習モデル保存部(学習モデルパブリッシュボタン)
578 受付部、機械学習モデル取得部(機械学習モデルダウンロードボタン)
582 検証状況表示部(推論状況更新ボタン)
586A テストデータ受付部(推論用動画像データアップロードボタン)
586B テストデータ受付部(推論用模擬データアップロードボタン)
588 検証指示取得部(推論結果データダウンロードボタン)
590 モデル展開部(機械学習モデル展開ボタン)
DM 検出モデル(機械学習モデル)
JP 情報処理プログラム(プログラム)
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
【手続補正書】
【提出日】2022-11-04
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】0006
【補正方法】変更
【補正の内容】
【0006】
一実施形態にかかる情報処理方法は、情報処理装置が実行する情報処理方法であって、トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部との少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力するステップと、を含み、前記情報処理装置は、前記生成処理において、前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、を表示させる
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
情報処理装置が実行する情報処理方法であって、
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部との少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力するステップと、
を含み、
前記情報処理装置は、前記生成処理において、
前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、
前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、
前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、
を表示させる、
情報処理方法。
【請求項2】
前記情報処理装置は、前記生成処理において、前記データ入力受付部と、前記生成開始指示部と、前記データ生成状況表示部と、前記データセット取得部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
請求項に記載の情報処理方法。
【請求項3】
前記情報処理装置は、前記学習処理において、
前記受付部として前記トレーニングデータセットを前記機械学習モデルに学習させる学習処理開始の指示を受け付ける学習処理開始指示部と、
前記経過状況表示部として前記機械学習モデルの学習処理進捗情報を表す学習処理状況表示部と、
前記指示取得部として学習処理が実行された前記機械学習モデルの保存の指示を受け付ける機械学習モデル保存部と、
を表示させる、
請求項1又は請求項に記載の情報処理方法。
【請求項4】
前記情報処理装置は、前記学習処理において、前記学習処理開始指示部と、前記学習処理状況表示部と、前記機械学習モデル保存部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
請求項に記載の情報処理方法。
【請求項5】
前記情報処理装置は、前記モデル取得処理において、
前記受付部として前記機械学習モデルの取得の指示を受け付ける機械学習モデル取得部と、
を表示させる、
請求項1~請求項のいずれか一項に記載の情報処理方法。
【請求項6】
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの概要を表示するモデル概要表示部と、
を含んで一つのユーザーインターフェースに表示させる、
請求項1~請求項のいずれか一項に記載の情報処理方法。
【請求項7】
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの検証を実施するためのサンプルデータセットの入力を受け付けるテストデータ受付部と、
前記機械学習モデルの検証状況を表す検証状況表示部と、
前記機械学習モデルの検証結果に関する情報を得るための検証指示取得部と、
前記機械学習モデルを他の情報処理装置へ送信するモデル展開部と、
の少なくとも一つを含んで一つのユーザーインターフェースに表示させる、
請求項1~請求項のいずれか一項に記載の情報処理方法。
【請求項8】
前記情報処理装置は、前記生成処理、前記学習処理及び前記モデル取得処理のいずれかを選択可能に表示させる選択表示部を前記ユーザーインターフェースに表示するように出力するステップを有する、
請求項1~請求項のいずれか一項に記載の情報処理方法。
【請求項9】
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、
処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、
処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部と、
前記受付部、前記経過状況表示部及び前記指示取得部の少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力する表示処理部と、
を有し、
前記生成処理において、
前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、
前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、
前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、
を表示させる、
情報処理システム。
【請求項10】
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理の実行指示が入力されたか否かを判定するステップと、
前記ステップにて実行指示の入力に基づき、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び公開の少なくとも一方の指示を受け付ける指示取得部と、の少なくとも一つをユーザーインターフェースに表示させるように出力するステップと、
を含み、
前記情報処理装置は、前記生成処理において、
前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、
前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、
前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、
を表示させるステップと、
をコンピュータに実行させるためのプログラム。
【手続補正書】
【提出日】2023-03-13
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
情報処理装置が実行する情報処理方法であって、
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部との少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力するステップと、
を含み、
前記情報処理装置は、前記生成処理において、
前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、
前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、
前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、
を表示させる、
情報処理方法。
【請求項2】
前記情報処理装置は、前記生成処理において、前記データ入力受付部と、前記生成開始指示部と、前記データ生成状況表示部と、前記データセット取得部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
請求項1に記載の情報処理方法。
【請求項3】
前記情報処理装置は、前記学習処理において、
前記受付部として前記トレーニングデータセットを前記機械学習モデルに学習させる学習処理開始の指示を受け付ける学習処理開始指示部と、
前記経過状況表示部として前記機械学習モデルの学習処理進捗情報を表す学習処理状況表示部と、
前記指示取得部として学習処理が実行された前記機械学習モデルの保存の指示を受け付ける機械学習モデル保存部と、
を表示させる、
請求項1又は請求項2に記載の情報処理方法。
【請求項4】
前記情報処理装置は、前記学習処理において、前記学習処理開始指示部と、前記学習処理状況表示部と、前記機械学習モデル保存部とを作業時系列順に前記ユーザーインターフェースに表示させるよう出力する、
請求項3に記載の情報処理方法。
【請求項5】
前記情報処理装置は、前記モデル取得処理において、
前記受付部として前記機械学習モデルの取得の指示を受け付ける機械学習モデル取得部と、
を表示させる、
請求項1~請求項4のいずれか一項に記載の情報処理方法。
【請求項6】
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの概要を表示するモデル概要表示部と、
を含んで一つのユーザーインターフェースに表示させる、
請求項1~請求項5のいずれか一項に記載の情報処理方法。
【請求項7】
前記情報処理装置は、前記モデル取得処理において、
前記機械学習モデルの検証を実施するためのサンプルデータセットの入力を受け付けるテストデータ受付部と、
前記機械学習モデルの検証状況を表す検証状況表示部と、
前記機械学習モデルの検証結果に関する情報を得るための検証指示取得部と、
前記機械学習モデルを他の情報処理装置へ送信するモデル展開部と、
の少なくとも一つを含んで一つのユーザーインターフェースに表示させる、
請求項1~請求項6のいずれか一項に記載の情報処理方法。
【請求項8】
前記情報処理装置は、前記生成処理、前記学習処理及び前記モデル取得処理のいずれかを選択可能に表示させる選択表示部を前記ユーザーインターフェースに表示するように出力するステップを有する、
請求項1~請求項7のいずれか一項に記載の情報処理方法。
【請求項9】
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理において、
処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、
処理の経過情報を表す経過状況表示部と、処理結果の取得及び保存の少なくとも一方の指示を受け付ける指示取得部と、
前記受付部、前記経過状況表示部及び前記指示取得部の少なくとも一つが、ユーザーインターフェースにそれぞれ表示されるように出力する表示処理部と、
を有し、
前記生成処理において、
前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、
前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、
前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、
を表示させる、
情報処理システム。
【請求項10】
トレーニングデータセットを生成する生成処理、機械学習モデルに前記トレーニングデータセットを学習させる学習処理及び学習済みの前記機械学習モデルを取得するモデル取得処理の少なくとも一つの処理の実行指示が入力されたか否かを判定するステップと、
前記ステップにて実行指示の入力に基づき、処理の実行に必要なデータの入力及び指示の少なくとも一方を受け付ける受付部と、処理の経過情報を表す経過状況表示部と、処理結果の取得及び公開の少なくとも一方の指示を受け付ける指示取得部と、の少なくとも一つをユーザーインターフェースに表示させ、かつ前記生成処理において、前記受付部としてデータ入力を受け付けるデータ入力受付部及び前記トレーニングデータセットの生成開始の指示を受け付ける生成開始指示部と、前記経過状況表示部として前記トレーニングデータセットの生成処理進捗情報を表すデータ生成状況表示部と、前記指示取得部として生成処理が実行された前記トレーニングデータセットを取得及び保存の少なくとも一方の指示を受け付けるデータセット取得部と、を前記ユーザーインターフェースに表示させるように出力するステップと、
をコンピュータに実行させるためのプログラム。