(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024113258
(43)【公開日】2024-08-22
(54)【発明の名称】情報処理システム、情報処理方法及び情報処理プログラム
(51)【国際特許分類】
G06Q 50/04 20120101AFI20240815BHJP
G06Q 10/06 20230101ALI20240815BHJP
G06T 19/00 20110101ALI20240815BHJP
【FI】
G06Q50/04
G06Q10/06
G06T19/00 A
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2023018108
(22)【出願日】2023-02-09
(71)【出願人】
【識別番号】000003609
【氏名又は名称】株式会社豊田中央研究所
(74)【代理人】
【識別番号】110002789
【氏名又は名称】弁理士法人IPX
(72)【発明者】
【氏名】大濱 吉紘
(72)【発明者】
【氏名】石田 皓之
(72)【発明者】
【氏名】大石 航志
(72)【発明者】
【氏名】岡田 遼嗣
(72)【発明者】
【氏名】下岡 和也
(72)【発明者】
【氏名】伊藤 誠悟
(72)【発明者】
【氏名】牧野 寛也
【テーマコード(参考)】
5B050
5L049
5L050
【Fターム(参考)】
5B050BA08
5B050BA09
5B050BA13
5B050CA07
5B050CA08
5B050DA10
5B050EA07
5B050EA12
5B050EA18
5B050FA02
5B050FA09
5B050GA08
5L049CC03
5L049DD02
5L050CC03
5L050DD02
(57)【要約】 (修正有)
【課題】シミュレータ等を用いた設備の構築又は運用を改善する。
【解決手段】生産設備と、情報処理装置と、複数のユーザ端末とが通信回線を通じて通信する情報処理システムにおいて、情報処理装置が有するプロセッサの取得部は、設備のレイアウト設計を示す設計情報と、レイアウト設計に従って実装される現実空間における設備の運用状況に関する運用情報と、を取得する。生成部は、設計情報と運用情報とに基づき仮想設備を生成する。仮想設備は、所定の仮想空間内で再現された設備であり、学習モデルによって仮想空間内において運用される。生成部はまた、仮想設備に対する所定の物理シミュレーションの結果に基づき少なくとも1つの学習データを生成する。学習データは、仮想設備の学習モデルの学習に用いられる。学習部は、学習データを用いた仮想設備の学習モデルの学習を行い、その結果に基づき、現実空間における学習モデルの学習パラメータを出力する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
情報処理システムであって、
次の各ステップがなされるようにプログラムを実行可能な少なくとも1つのプロセッサを備え、
取得ステップでは、設備のレイアウト設計を示す設計情報と、前記レイアウト設計に従って実装される現実空間における設備の運用状況に関する運用情報と、を取得し、ここで、前記設備は、少なくとも1つの学習パラメータを含む学習モデルに基づき駆動可能な駆動機器を含み、
第1の生成ステップでは、前記設計情報と前記運用情報とに基づき、仮想設備を生成し、ここで、
前記仮想設備は、所定の仮想空間内で再現された前記設備であり、前記学習モデルによって前記仮想空間内において運用可能に構成され、
第2の生成ステップでは、前記仮想設備に対する所定の物理シミュレーションの結果に基づき少なくとも1つの学習データを生成し、ここで、前記学習データは、前記仮想設備の前記学習モデルの学習に用いられ、
出力ステップでは、前記学習データを用いた前記仮想設備の学習モデルの学習の結果に基づき、前記現実空間における前記学習モデルの前記学習パラメータを出力する、情報処理システム。
【請求項2】
請求項1に記載の情報処理システムにおいて、
前記取得ステップでは、さらに、前記設備における擾乱に関する擾乱情報を含み、
前記第2の生成ステップでは、さらに、前記仮想空間内での前記擾乱情報に基づき、前記学習データの少なくとも1つに対して前記擾乱を作用させることにより、擾乱学習データを生成し、
前記出力ステップでは、さらに、前記擾乱学習データを用いた前記仮想設備の前記学習モデルの学習の結果に基づき、前記現実空間における前記学習モデルの前記学習パラメータを出力する、情報処理システム。
【請求項3】
請求項1に記載の情報処理システムにおいて、
前記物理シミュレーションは、光学的なシミュレーションを含み、
前記学習データは、前記仮想設備の画像データおよびLiDARデータのうちの少なくとも1つを含む、情報処理システム。
【請求項4】
請求項1に記載の情報処理システムにおいて、
さらに、学習ステップでは、少なくとも前記学習データに基づく前記仮想設備の学習モデルの学習を行う、情報処理システム。
【請求項5】
請求項1に記載の情報処理システムにおいて、
さらに更新ステップでは、前記運用情報に基づき計算される適応度が所定の更新条件を満たす場合に、前記学習モデルの更新を行い、ここで、前記適応度は、前記仮想設備の運用状況と前記現実空間における前記設備の運用状況との整合性を示す、情報処理システム。
【請求項6】
請求項1に記載の情報処理システムにおいて、
評価ステップでは、前記物理シミュレーションに基づき、前記設計情報の妥当性を示す評価指標を出力し、
学習停止ステップでは、前記評価指標が所定の停止条件を満たす場合に前記学習モデルの学習を実行しない、情報処理システム。
【請求項7】
請求項6に記載の情報処理システムにおいて、
提示ステップでは、前記停止条件が満たされた場合に、満たされた前記停止条件に関する停止情報を、ユーザが視認可能な態様で提示させる、情報処理システム。
【請求項8】
情報処理方法であって、
請求項1~請求項7の何れか1つに記載の情報処理システムの各ステップを含む、情報処理方法。
【請求項9】
情報処理プログラムであって、
少なくとも1つのコンピュータに、請求項1~請求項7の何れか1つに記載の情報処理システムの各ステップを実行させる、情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム、情報処理方法及び情報処理プログラムに関する。
【背景技術】
【0002】
特許文献1には、機械学習を用いて高精度に装置の故障検知と予知を行うことの可能なシステム・装置・方法を提供する物流システムが開示されている。
【0003】
当該物流システムは、物流センターの入荷から出荷までの全工程において、センシング手段および/または映像取得手段より取得された搬送物と作業員とマテハン機器の識別情報を通信回線より入手し、コンピュータ上の3Dシミュレータにより前記搬送物の物流量と、前記作業員および/または前記マテハン機器の動線とを最適化し、物流量情報と、故障検知及び/もしくは故障予知情報と、を表示する。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、このようなコンピュータ上の3Dシミュレータ等を用いた設備の構築または運用等には、未だ改善の余地がある。
【課題を解決するための手段】
【0006】
本発明の一態様によれば、情報処理システムが提供される。この情報処理システムでは、次の各ステップがなされるようにプログラムを実行可能な少なくとも1つのプロセッサを備える。取得ステップでは、設備のレイアウト設計を示す設計情報と、レイアウト設計に従って実装される現実空間における設備の運用状況に関する運用情報と、を取得する。設備は、少なくとも1つの学習パラメータを含む学習モデルに基づき駆動可能な駆動機器を含む。第1の生成ステップでは、設計情報と運用情報とに基づき、仮想設備を生成する。仮想設備は、所定の仮想空間内で再現された設備であり、学習モデルによって仮想空間内において運用可能に構成される。第2の生成ステップでは、仮想設備に対する所定の物理シミュレーションの結果に基づき少なくとも1つの学習データを生成する。学習データは、仮想設備の学習モデルの学習に用いられる。出力ステップでは、学習データを用いた仮想設備の学習モデルの学習の結果に基づき、現実空間における学習モデルの学習パラメータを出力する。
【0007】
このような構成によれば、設備の構築または運用等をより効率的に行うことができる。
【図面の簡単な説明】
【0008】
【
図2】情報処理装置2のハードウェア構成を示すブロック図である。
【
図3】ユーザ端末3のハードウェア構成を示すブロック図である。
【
図5】プロセッサ23が備える機能部の一例を示す図である。
【
図6】情報処理システム1において実行される第1の情報処理の流れの一例を示すアクティビティ図である。
【
図7】生産設備4と仮想生産設備5の関係を示す概念図である。
【
図8】情報処理システム1において実行される第2の情報処理の流れの一例を示すアクティビティ図である。
【
図9】情報処理システム1において実行される、停止操作が行われた場合の処理の流れの一例を示すアクティビティ図である。
【発明を実施するための形態】
【0009】
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。
【0010】
ところで、本実施形態に登場するソフトウェアを実現するためのプログラムは、コンピュータが読み取り可能な非一時的な記録媒体(Non-Transitory Computer-Readable Medium)として提供されてもよいし、外部のサーバからダウンロード可能に提供されてもよいし、外部のコンピュータで当該プログラムを起動させてクライアント端末でその機能を実現(いわゆるクラウドコンピューティング)するように提供されてもよい。
【0011】
また、本実施形態において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、例えば電圧・電流を表す信号値の物理的な値、0または1で構成される2進数のビット集合体としての信号値の高低、または量子的な重ね合わせ(いわゆる量子ビット)によって表され、広義の回路上で通信・演算が実行されうる。
【0012】
また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、およびメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、およびフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。
【0013】
1.ハードウェア構成
本節では、ハードウェア構成について説明する。
【0014】
<情報処理システム1>
図1は、情報処理システム1を表す構成図である。情報処理システム1は、情報処理装置2と、ユーザ端末3と、生産設備4とを備える。情報処理装置2と、ユーザ端末3と、生産設備4とは、電気通信回線を通じて通信可能に構成されている。一実施形態において、情報処理システム1とは、1つまたはそれ以上の装置または構成要素からなるものである。仮に例えば、情報処理装置2のみからなる場合であれば、情報処理システム1は、情報処理装置2となりうる。以下、これらの構成要素について説明する。
【0015】
<情報処理装置2>
図2は、情報処理装置2のハードウェア構成を示すブロック図である。情報処理装置2は、通信部21と、記憶部22と、プロセッサ23とを備え、これらの構成要素が情報処理装置2の内部において通信バス20を介して電気的に接続されている。各構成要素についてさらに説明する。
【0016】
通信部21は、USB、IEEE1394、Thunderbolt(登録商標)、有線LANネットワーク通信等といった有線型の通信手段が好ましいものの、無線LANネットワーク通信、3G/LTE/5G等のモバイル通信、BLUETOOTH(登録商標)通信等を必要に応じて含めてもよい。すなわち、これら複数の通信手段の集合として実施することがより好ましい。すなわち、情報処理装置2は、通信部21およびネットワークを介して、外部から種々の情報を通信してもよい。
【0017】
記憶部22は、前述の記載により定義される様々な情報を記憶する。これは、例えば、プロセッサ23によって実行される情報処理装置2に係る種々のプログラム等を記憶するソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして、あるいは、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとして実施されうる。記憶部22は、プロセッサ23によって実行される情報処理装置2に係る種々のプログラムや変数等を記憶している。
【0018】
プロセッサ23は、情報処理装置2に関連する全体動作の処理・制御を行う。プロセッサ23は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。プロセッサ23は、記憶部22に記憶された所定のプログラムを読み出すことによって、情報処理装置2に係る種々の機能を実現する。すなわち、記憶部22に記憶されているソフトウェアによる情報処理が、ハードウェアの一例であるプロセッサ23によって具体的に実現されることで、プロセッサ23に含まれる各機能部として実行されうる。これらについては、次節においてさらに詳述する。なお、プロセッサ23は単一であることに限定されず、機能ごとに複数のプロセッサ23を有するように実施してもよい。またそれらの組合せであってもよい。
【0019】
<ユーザ端末3>
図3は、ユーザ端末3のハードウェア構成を示すブロック図である。ユーザ端末3は、通信部31と、記憶部32と、プロセッサ33と、表示部34と、HMIデバイス35とを備え、これらの構成要素がユーザ端末3の内部において通信バス30を介して電気的に接続されている。通信部31、記憶部32およびプロセッサ33の説明は、情報処理装置2における各部の説明と同様のため省略する。
【0020】
表示部34は、ユーザ端末3筐体に含まれるものであってもよいし、外付けされるものであってもよい。表示部34は、ユーザが操作可能なグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示する。これは例えば、CRTディスプレイ、液晶ディスプレイ、有機ELディスプレイおよびプラズマディスプレイ等の表示デバイスを、ユーザ端末3の種類に応じて使い分けて実施することが好ましい。
【0021】
HMIデバイス35は、ヒューマン・マシン・インターフェースデバイスである。HMIデバイス35は、ユーザ端末3の筐体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、HMIデバイス35は、表示部34と一体となってタッチパネルとして実施されてもよい。タッチパネルであれば、ユーザは、タップ操作、スワイプ操作等を入力することができる。もちろん、タッチパネルに代えて、スイッチボタン、マウス、QWERTYキーボード、音声認識装置、ジェスチャ検出装置、視線検出装置、生体信号検出装置、撮像装置などを採用してもよい。すなわち、HMIデバイス35がユーザによってなされた操作入力を受け付ける。HMIデバイス35は、応答として、通信バス30を介し操作入力に対応する信号をプロセッサ33に転送する。プロセッサ33が必要に応じて所定の制御や演算を実行しうる。HMIデバイス35は、ユーザからの入力を受付可能に構成されている入力部を含むともいえる。
【0022】
<生産設備4>
図4は、生産設備4の一例を示す図である。生産設備4は、所定の製品の生産および管理を行うための共用倉庫であり、設備の一態様である。
図4に示すように、本実施形態では、生産設備4は、生産設備4は、入庫設備41と、出庫設備42と、保管設備43と、照明設備44と、駆動機器としてのフォークリフト45と、を備える。また、生産設備4は、当該製品の生産を行う製造ラインをさらに備えていてもよい。
【0023】
<入庫設備41>
入庫設備41は、製品を生産する生産ラインと、生産ラインで生産された製品を入庫するための入庫領域とを備える。生産ラインは、例えば製品の原材料の導入機、原材料の加工機、導入機または加工機等で処理された対象物を搬送する搬送機など、種々の生産機器を含み、これらの機器がユーザ等の指定に基づくレイアウトに従って配置される。入庫領域は、例えば入庫用の台座などである。当該台座には、生産された製品が搭載されたパレットなどが載置される。
【0024】
<出庫設備42>
出庫設備42は、入庫設備41に載置された製品等を外部に出庫するための設備であり、例えば入庫設備41と同様の出庫用の台座や、トラック等の搬出用車両であってもよい。
【0025】
<保管設備43>
保管設備43は、製品などの物品を保管可能な設備であり、例えば棚である。保管設備43は、入庫された製品を保管するための設備として機能する一方で、後述されるフォークリフト45が生産設備4の内部を移動する際の障害物でもあり、フォークリフト45の進入禁止領域を規定する。
【0026】
<照明設備44>
照明設備44は、生産設備4の内部に光を照射または導入することにより生産設備4の内部の明るさを調整可能な設備であり、例えば、採光窓や照明器具などである。照明設備44が生産設備4の内部に光を照射または導入することにより、生産設備4の内部の視認性が変わる。これは、当該光が生産設備4に含まれる製品等に直接照射されること、および、生産設備4に含まれる他の部材、例えば、生産設備4の壁面、床面、保管設備43等、によって散乱され、これらの部材が製品等に対して間接照明として機能することに起因する。そのため、生産設備4の内部の視覚的な情報に対する擾乱として機能する。
【0027】
<フォークリフト45>
フォークリフト45は、少なくとも1つの学習パラメータを含む学習モデルM1に基づき駆動可能に構成されている。本実施形態のフォークリフト45は、所定の学習モデルM1に従って、生産設備4内での経路Rに沿った走行および製品の荷役等の動作を行うように構成される。学習モデルM1は、例えば製品を積載したパレット等の識別対象を他の物品等から識別するように構成された識別器として機能する。また、フォークリフト45は、生産設備4の内部を移動するための地図を記憶している。当該地図の形式は任意であるが、例えば、占有格子地図によって表される。占有格子地図では、上記入庫設備41、出庫設備42、および保管設備43が存在する位置や、物品等が観測された位置を進入禁止領域として表現されている。フォークリフト45は、当該進入禁止領域に対応する占有格子を回避するように、所定の経路Rに沿って走行を行う。当該占有格子地図は、フォークリフト45によって自動的に生成されたものでも、情報処理装置2等の外部装置によって生成されたものでもよい。本実施形態のフォークリフト45は、現実空間の生産設備4の内部を走行可能な車体451と、製品を荷役可能な荷役装置452と、検出装置453と、を備える。
【0028】
<検出装置453>
検出装置453は、フォークリフト45の周囲の物品を検出可能に構成される。本実施形態の検出装置453は、フォークリフト45の周囲の物品を光学的に撮像可能な撮像カメラを含み、車体451または荷役装置452に取り付けられている。本実施形態の撮像カメラは、フォークリフト45の前方を撮像可能に構成されている。なお、検出装置453は、撮像カメラに限られず、LiDAR(Light Detection And Ranging)や超音波検出装置など、フォークリフト45と物品との位置関係を把握可能な情報を検出可能であれば任意である。検出装置453は、フォークリフト45の状態を検出可能に構成されていてもよい。例えば、検出装置453は、フォークリフト45の走行状態(走行速度、方向など)を検出する速度計、荷役装置452の状態(例えば、フォークの位置、ティルト角など)を検出する検出器などを含んでいてもよい。
【0029】
2.情報処理装置2の機能構成
図5は、プロセッサ23が備える機能部の一例を示す図である。
図5に示すように、プロセッサ23は、取得部231と、生成部232と、シミュレーション部233と、評価部234と、学習部235と、更新部236と、提示部237と、学習停止部238とを備える。本節では、これらの機能部の概要を説明する。各機能部の詳細は、後述の情報処理と合わせて説明される。
【0030】
取得部231は、ユーザ端末3または他のデバイスからの情報を取得するように構成される。取得部231は、記憶部22の少なくとも一部であるストレージ領域に記憶されている種々の情報を読み出し、読み出された情報を記憶部22の少なくとも一部である作業領域に書き込むことで、種々の情報を取得可能に構成されている。ストレージ領域とは、例えば、記憶部22のうち、SSD等のストレージデバイスとして実施される領域である。作業領域とは、例えば、RAM等のメモリとして実施される領域である。なお、取得部231による取得は、プロセッサ23に含まれる各機能部の出力結果を取得することを含む。
【0031】
生成部232は、取得された情報に基づき、所定の仮想空間と、当該仮想空間に含まれる種々のオブジェクトを生成するように構成される。これにより、生成部232は、仮想空間の内部で生産設備4を再現する。このような仮想空間を生成する具体的態様は任意であるが、例えば、NVIDIA社製のOmniverse(登録商標)等の種々のプラットフォームを用いて実現可能である。
【0032】
シミュレーション部233は、取得された種々の情報に基づき、種々の物理シミュレーションを行うように構成される。これにより、シミュレーション部233は、仮想空間内で再現された生産設備4の動作を、仮想空間内で再現することができる。このような仮想空間での種々の物理シミュレーションを行う方法は任意であるが、例えば、におけるNVIDIA社製のIsaac Sim(登録商標)などの種々のシミュレーションツールを用いて実現可能である。
【0033】
評価部234は、取得された情報に基づき、所定の評価対象に関する種々の評価指標を出力するように構成される。評価部234は、出力される評価指標に基づき、種々の条件に関する判定を行うように構成される。
【0034】
学習部235は、取得された情報、出力された評価指標、シミュレーション部233による物理シミュレーションの結果等に基づき、学習モデルM1の学習を行う。
【0035】
更新部236は、取得される情報、または学習部235による学習結果等に基づき、学習モデルM1に関する種々のパラメータや、生産設備4のレイアウト設計に関する情報、仮想空間内の状態などの種々の情報を更新する。
【0036】
提示部237は、種々の情報を表示可能に構成される。当該情報は、ユーザ端末3の表示部34または他のデバイスを介して、ユーザに提示可能である。かかる場合、例えば、提示部237は、画面、静止画又は動画を含む画像、アイコン、メッセージ等の視覚情報を、ユーザ端末3の表示部34に表示させるように制御する。提示部237は、視覚情報をユーザ端末3に表示させるためのレンダリング情報だけを生成してもよい。なお、提示部237は、ユーザ端末3または他のデバイスユーザを介さずに、出力された情報をユーザに対して提示してもよい。
【0037】
学習停止部238は、所定の停止条件が満たされた場合に学習モデルM1の学習を停止するように構成される。
【0038】
3.情報処理について
本節では、前述した情報処理システム1において実行される情報処理について説明する。本実施形態の情報処理は、仮想空間での物理シミュレーションを用いた第1の情報処理と、生産設備4の運用の際のフォークリフト45の動作と適応度との関係を記録するための第2の情報処理と、所定の停止操作が行われた場合に行われる第3の情報処理とを含む。
【0039】
3.1.第1の情報処理の流れについて
まず、第1の情報処理の流れについて説明する。
図6は、情報処理システム1において実行される第1の情報処理の流れの一例を示すアクティビティ図である。なお、当該情報処理は、図示されない任意の例外処理を含みうる。例外処理は、当該情報処理の中断や、各処理の省略を含む。当該情報処理にて行われる選択または入力は、ユーザによる操作に基づくものでも、ユーザの操作に依らず自動で行われるものでもよい。
【0040】
[アクティビティA1]
まずアクティビティA1にて、取得部231は、設備のレイアウト設計を示す設計情報IF1と、運用情報IF2とを取得する。これらの情報は、例えば、生産設備4の設計担当者等のユーザによって入力される。
【0041】
設計情報IF1は、生産設備4のレイアウト設計を示す。設計情報IF1は、例えば、生産設備4の寸法や、入庫設備41、出庫設備42、保管設備43、照明設備44等の位置、大きさ、および範囲などを含む。また、設計情報IF1は、入庫設備41、出庫設備42、および保管設備43に収容される製品または他の物品に関する情報(例えば、種類、大きさ、数、収容方法など)を含んでいてもよい。設計情報IF1は、生産設備4の設計図面、建築図、間取り図、3DCADデータ等の生産設備4の全体を示す情報や、生産設備4の内部に収容される製品または物品によって表される。
【0042】
運用情報IF2は、レイアウト設計に従って実装される現実空間における生産設備4の運用状況に関する情報である。運用情報IF2は、例えば、入庫設備41に含まれる機器の位置、大きさ、もしくは範囲、製品の種類、搬入量、もしくは搬出料、照明設備44の動作状態もしくは動作スケジュール(例えば、照明設備44の点灯時間や照度など)、生産設備4によって搬送される対象物、またはフォークリフト45の車種、走行時間、走行速度、もしくは走行スケジュールなどを含む。生産設備4が既に実装されている場合、取得部231は、当該生産設備4の運用情報IF2を取得するが、生産設備4が実装予定のものであり、まだ実装されていない場合、取得部231は、当該実装予定の生産設備4の運用情報IF2、すなわち、予定されている運用に関する情報、を取得する。
【0043】
[アクティビティA2]
次に、処理がアクティビティA2に進み、生成部232は、設計情報IF1と運用情報IF2とに基づき、仮想設備としての仮想生産設備5を生成する。仮想生産設備5は、後述される物理シミュレーションが行われる仮想空間において、生産設備4に対応するオブジェクトである。
【0044】
ここで、生産設備4と仮想生産設備5との関係について、
図7を用いて説明する。
図7は、生産設備4と仮想生産設備5の関係を示す概念図である。
【0045】
仮想設備としての仮想生産設備5は、仮想空間内で再現された生産設備4であり、学習モデルM1によって仮想空間内において運用可能に構成される。仮想生産設備5は、仮想入庫設備51と、仮想出庫設備52と、仮想保管設備53と、仮想照明設備54と、仮想駆動機器としての仮想フォークリフト55と、を備える。仮想入庫設備51、仮想出庫設備52、仮想保管設備53、仮想照明設備54、および仮想フォークリフト55は、それぞれ、仮想空間において、入庫設備41、出庫設備42、保管設備43、照明設備44、およびフォークリフト45に相当するオブジェクトである。これらのオブジェクトは、テクスチャによって表現されていても、点群等の座標データの集合として表現されていてもよい。また、プロセッサ23は、このように生成された仮想空間を、フォークリフト45が把握可能な仮想的な占有格子地図として記憶部22に格納してもよい。
【0046】
仮想照明設備54は、仮想空間内で行われる物理シミュレーションのなかで擾乱の発生源として機能する。例えば、仮想照明設備54は、仮想生産設備5の内部に光の照射または導入を行うか否か、照射または導入される光の性質、例えば、強度、スペクトル、伝搬態様(点光源的な光の伝搬や面光源的な光の伝搬等)、等を設定可能に構成されている。生成部232は、仮想照明設備54の設定を行うことにより、光源に関する擾乱情報IF3を生成することができる。
【0047】
仮想フォークリフト55は、仮想生産設備5の内部を移動可能に構成されるオブジェクトである。仮想フォークリフト55は、フォークリフト45と対応するように、仮想車体551と、仮想荷役装置552と、仮想検出装置553と、を備える。仮想車体551、仮想荷役装置552、および仮想検出装置553は、それぞれ仮想空間において、車体451、荷役装置452、および検出装置453に相当するオブジェクトである。仮想フォークリフト55は、仮想生産設備5の内部を移動し、仮想荷役装置552を用いて仮想空間内の製品や、製品が搭載されたパレット等の荷役を行うことができる。仮想検出装置553は、仮想空間内の状態を検出するように構成され、仮想生産設備5に含まれるセンサを擬似的に再現する。本実施形態では、仮想検出装置553は、仮想空間にて撮像カメラとして機能する、仮想撮像カメラを含む。仮想撮像カメラは、現実空間における撮像カメラと同様の光景を再現するように構成され、仮想フォークリフト55から見た生産設備4の光景を観測することができる。そのため、仮想撮像カメラは、フォークリフト45の撮像カメラによる観測結果を仮想空間で再現するシミュレータともいえる。このような仮想検出装置553の観測結果は、例えば、少なくとも1つの画像データとして出力可能である。
【0048】
[アクティビティA3]
図6に示すように、アクティビティA2の後、処理がアクティビティA3に進み、プロセッサ23は、経由点P1を設定する(
図7参照)。経由点P1は、仮想フォークリフト55が開始位置から目標位置までの経路Rに含まれる必要がある特定の位置に関する情報である。経由点P1を設定することは、単に経由点P1の位置を設定することに限られず、経由点P1にて仮想フォークリフト55に行わせる動作(例えば、荷役動作、旋回動作、待機動作など)を設定することを含み得る。
【0049】
[アクティビティA4]
次に、処理がアクティビティA4に進み、生成部232は、生成された仮想生産設備5と、設定された経由点P1とに基づき、仮想フォークリフト55が走行する経路Rを生成する。経路Rは、現実空間の占有格子地図においてフォークリフト45が走行する経路と一致するように構成される。生成部232は、仮想生産設備5に含まれるオブジェクトが進入禁止領域として表現された仮想的な占有格子地図を生成し、仮想入庫設備51から経由点P1を含むように仮想出庫設備52まで移動する経路Rを生成する。経路Rは、生産設備4に含まれるフォークリフト45の運用を規定する情報であり、運用情報IF2の一態様である。
【0050】
[アクティビティA5]
次に、処理がアクティビティA5に進み、シミュレーション部233は、仮想生産設備5に対して所定の物理シミュレーションを実行する。本実施形態の物理シミュレーションは、光学的なシミュレーションを含む。光学的なシミュレーションとは、フォトリアルな物理シミュレータを用いたシミュレーションであり、例えば、レイトレーシング等により間接照明効果を考慮したシミュレーションである。これにより、シミュレーション部233は、生産設備4と同様の光の照射または散乱による外観を、仮想生産設備5の内部にて再現することができる。
【0051】
本実施形態では、シミュレーション部233は、取得された運用情報IF2に基づき、このようなフォトリアルに再現された仮想生産設備5に対して現実空間に実装される生産設備4と同様の動作を行わせる。これにより、シミュレーション部233は、仮想生産設備5を用いて生産設備4を忠実に再現することにより、生産設備4のレイアウト設計の変更または更新による影響を事前に推測することができる。
【0052】
[アクティビティA6]
次に、処理がアクティビティA6に進み、評価部234は、物理シミュレーションに基づき、設計情報IF1の妥当性を示す評価指標を出力する。評価指標は、設計情報IF1の物理的整合性を示す情報でもあり、例えば、設計情報IF1によって生成される仮想生産設備5内のオブジェクト(仮想入庫設備51等)が他のオブジェクトと干渉しているか否か、仮想保管設備53の配置等によって仮想フォークリフト55が仮想入庫設備51から仮想出庫設備52に移動可能な経路Rが存在する否かなどに応じて値が変わる。当該評価指標が所定の停止条件を満たしている場合、処理がアクティビティA1に戻り、ユーザは、再度、設計情報IF1等を情報処理装置2に入力し、取得部231は、当該設計情報IF1等を取得する。そのため、プロセッサ23は、評価指標が停止条件を満たす場合に学習モデルM1の学習を実行しない。なお、評価指標は数値情報等に限られず、上述した条件として表現されていてもよい。これにより、設備のレイアウトが物理的に実装困難である等の事情により学習の前提が妥当でない場合に学習モデルの学習が行われない。これにより、計算資源の無駄を減らすことができる。
【0053】
本実施形態では、さらに、提示部237は、停止条件が満たされた場合に、満たされた停止条件に関する停止情報を、ユーザが視認可能な態様で提示させる。これにより、ユーザは、停止情報に基づき設計情報の見直しを効率的に行うことができる。停止情報は、例えば、上記停止条件の内容、出力された評価指標の詳細(例えば、経路Rが存在しない、保管設備43の耐久性が不足している等の情報)を含む。
【0054】
[アクティビティA7]
一方、停止条件が満たされない場合、処理がアクティビティA7に進み、物理シミュレーションの結果に基づき、フォークリフト45の移動時間を算出し、ユーザとしての設計担当者に提示する。設計担当者は、提示された結果に基づき、生産設備4のレイアウトの変更をするか否かを指定する。設計担当者がレイアウトの変更を指定した場合、処理がアクティビティA1に戻り、取得部231は、新たな設計情報IF1および運用情報IF2を取得する。
【0055】
[アクティビティA8]
次に、処理がアクティビティA8に進み、取得部231は、記憶部22等を参照し、低適応度記録を取得する。低適応度記録は、後述される適応度が低い状況に関する生産設備4の動作記録であり、生産設備4と仮想生産設備5との運用の乖離が生じている場合のフォークリフト45の操作等と対応付けられている。当該低適応度記録は、後述される学習モデルM1の学習の際に学習データD1の一部(例えば、生成される学習データD1に対するラベル)として用いられる。
【0056】
[アクティビティA9]
次に、処理がアクティビティA9に進み、プロセッサ23は、設計情報IF1および運用情報IF2に基づき、仮想空間内での仮想生産設備5のレイアウトを決定する。
【0057】
[アクティビティA10]
次に、処理がアクティビティA10に進み、プロセッサ23は、設計情報IF1および運用情報IF2に基づき、仮想生産設備5内で再現する擾乱を設定する。これにより、生成部232は、擾乱情報IF3を生成する。仮想生産設備5に作用させる擾乱を設定することは、生産設備4における擾乱に関する擾乱情報IF3を取得することの一態様である。例えば、プロセッサ23は、設計情報IF1および運用情報IF2によって規定される範囲内で照明設備44のそれぞれの照度の上限値、下限値、およびステップ幅を設定し、上限値と下限値によって規定される定義域内でステップ幅の間隔でサンプリングされた照度の値を擾乱情報IF3として生成する。
【0058】
[アクティビティA11]
次に、処理がアクティビティA11に進み、プロセッサ23は、仮想生産設備5の観測態様を決定する。プロセッサ23は、例えば、仮想検出装置553の位置、方位、視野角、観測時刻、仮想照明設備54の動作条件などを設定する。仮想検出装置553の位置は、仮想生産設備5を観測するための観測位置の1つである。プロセッサ23は、仮想検出装置553とは異なる観測手段を用いて、仮想フォークリフト55以外の視座から仮想生産設備5の観測を行わせてもよい。
【0059】
[アクティビティA12]
次に、処理がアクティビティA12に進み、シミュレーション部233は、決定された観測態様に従って物理シミュレーションを行う。これにより、プロセッサ23は、仮想フォークリフト55が仮想生産設備5内を移動することで仮想検出装置553の観測位置を更新しながら、仮想生産設備5の観察を行うことができる。生成部232は、当該観測の結果を、少なくとも1つの画像データとして生成する。当該画像データは、後述される学習モデルM1の学習の際の学習データD1として用いられる。言い換えれば、生成部232は、仮想生産設備5に対する所定の物理シミュレーションの結果に基づき少なくとも1つの学習データD1を生成する。学習データD1は、仮想生産設備5の学習モデルM1の学習に用いられる。なお、仮想検出装置553は、検出装置453と同様にLiDAR等であってもよいことから、学習データD1は、仮想生産設備5の画像データおよびLiDARデータのうちの少なくとも1つを含む。
【0060】
本実施形態では、生成部232は、さらに、仮想空間内での擾乱情報IF3に基づき、学習データD1の少なくとも1つに対して擾乱を作用させることにより、擾乱学習データD2を生成する。擾乱学習データD2は、学習データD1と同様に学習モデルM1の学習に用いられる。そのため、学習モデルM1の学習に用いられるデータ数を増やすことができるため、学習モデルM1の精度向上を図ることができる。また、擾乱学習データD2は、擾乱の影響が反映された学習データD1ともいえる。そのため、当該擾乱学習データD2を用いて学習モデルM1の学習を行うことにより、現実空間における状況の変化、例えば、照明の劣化、新しい機器の導入、天候など、が物理シミュレーションにおける擾乱として取り込まれ、より様々な状況への適用性が高い学習パラメータを得ることができる。したがって、設備の運用効率を向上することができる。このような学習データD1および擾乱学習データD2等の学習モデルM1の学習に用いられる学習データの集合を、データセットといい、記憶部22等に記憶される。
【0061】
[アクティビティA13]
次に、処理がアクティビティA13に進み、学習部235は、データセットに基づく仮想生産設備5の学習モデルM1の学習を行う。すなわち、学習部235は、少なくとも学習データD1に基づく仮想生産設備5の学習モデルM1の学習を行う。これにより、プロセッサ23は、学習データD1を用いた仮想設備の学習モデルM1の学習の結果に基づき、現実空間における学習モデルM1の学習パラメータを出力する。本実施形態では、プロセッサ23は、さらに、擾乱学習データD2を用いた仮想設備の学習モデルM1の学習の結果に基づき、現実空間における学習モデルM1の学習パラメータを出力する。プロセッサ23は、学習パラメータ等の学習結果を、現実空間の生産設備4の学習モデルM1に適用可能な態様で出力する。
【0062】
本実施形態の学習データD1および擾乱学習データD2は、複数の視点で仮想生産設備5を撮影した画像であり、学習モデルM1の識別対象であるパレットに相当するオブジェクトが複数配置されている。擾乱学習データD2は、学習データD1に含まれる画像データに対して、擾乱情報IF3に基づき四角柱状のオブジェクトが配置されるように処理された画像データである。四角柱状のオブジェクトは、例えば一時的に配置された荷物等の、移動可能な物品である。このような物品は、学習モデルM1による検出装置453の検出結果に基づくパレットの認識を阻害するおそれがある。そこで、このような認識対象を阻害する画像データを擾乱情報IF3に基づき予め生成し、当該画像データに基づき学習モデルM1の学習を行うことで、仮想空間内での物理シミュレーションによって現実の生産設備4に搭載される学習モデルM1の性能を向上することができる。
【0063】
[アクティビティA14]
図7に示すように、次に、処理がアクティビティA14に進み、プロセッサ23は、運用情報IF2に基づき適応度を計算する。適応度は、仮想設備の運用状況と現実空間における設備の運用状況との整合性を示す。適応度の具体的態様は任意であるが、例えば、生産設備4に含まれる検出装置453等のセンサによって構築される現実空間での占有格子地図と、仮想生産設備5に含まれる仮想検出装置553等によって構築される仮想空間での仮想的な占有格子地図との類似度を適応度とする。適応度は、生産設備4における占有格子地図と仮想空間における仮想的な占有格子地図との整合性(例えば一致度合い)が高いほど大きくなる。このように、適応度は、生産設備4と仮想生産設備5とを比較可能であれば任意である。その後、プロセッサ23は、適応度が所定の更新条件を満たすか否かを判定する。更新条件は、上述の学習結果に基づき学習モデルM1を更新するか否かを判定するための条件であり、本実施形態では、適応度が閾値未満であることを含む。閾値は、生産設備4の運用に対する許容度合いに応じてユーザ等により任意に設定可能である。適応度が更新条件を満たさない場合(本実施形態では適応度が閾値以上である場合)、後述されるアクティビティA15~アクティビティA17の処理が省略され、第1の情報処理が終了する。
【0064】
[アクティビティA15]
一方、適応度が更新条件を満たす場合(本実施形態では適応度が閾値未満である場合)に、処理がアクティビティA15に進み、プロセッサ23は、学習モデルM1の更新に関する情報をユーザに対して通知する。
【0065】
[アクティビティA16]
次に、処理がアクティビティA16に進み、プロセッサ23は、生産設備4からの停止通知を要求する。停止通知は、運用が行われている生産設備4において所定の停止操作が行われたことを示す情報である。当該要求に応じて、生産設備4の現場にて運用を行っている現場担当者に対して、停止操作を行うような報知が行われる。
【0066】
[アクティビティA17]
その後、現場担当者によって停止操作が行われることで停止通知が生成され、取得部231が停止通知を取得した場合、処理がアクティビティA17に進み、更新部236は、学習モデルの更新を行う。言い換えれば、更新部236は、運用情報IF2に基づき計算される適応度が所定の更新条件を満たす場合に、学習モデルの更新を行う。生産設備4は、更新後の学習モデルM1を用いて、再び運用される。
【0067】
本実施形態では、更新部236は、さらに、適応度が所定の更新条件を満たす場合に、検出装置453等の観測結果に基づき、仮想生産設備5のレイアウト設計を更新する。これにより、仮想生産設備5が、現実空間における生産設備4の状況の変化を追従できていない等の事情により仮想生産設備5の運用状況と現実空間における生産設備4の運用状況とに乖離が生じた場合にも、仮想生産設備5が生産設備4の最新の運用状況等を反映することができる。そのため、当該乖離を低減することができる。例えば、プロセッサ23は、検出装置453によって新たに物品等が検出された場合に、検出装置453によって生成される画像データに基づき、仮想生産設備5内の対応する位置に当該物品等に対応するオブジェクトを生成する。また、プロセッサ23は、検出装置453によって既存の設備、例えば、入庫設備41等が当初の設計情報IF1に基づく位置から移動していたことが観測された場合に、当該観測結果に基づき、仮想生産設備5内の仮想入庫設備51の位置を更新する。
【0068】
アクティビティA17の処理の後、第1の情報処理が終了する。
【0069】
以上のような情報処理により、現実空間に実装される、または実装される予定の設備を、レイアウト設計を示す設計情報をもとに仮想空間内で仮想設備として再現することができる。これにより、ユーザは、仮想空間内で行われる物理シミュレーションの結果に基づき、実際に設備の構築または運用を開始する前、または実際に設備の運用を行う際に、当該設備の妥当性を評価することができる。したがって、設備の構築または運用のコストを低減することができる。
【0070】
3.2.第2の情報処理の流れについて
次に、第2の情報処理の流れについて説明する。
図8は、情報処理システム1において実行される第2の情報処理の流れの一例を示すアクティビティ図である。
【0071】
[アクティビティA101]
まず、アクティビティA101にて、取得部231は、製品の入庫に関する入庫情報を取得する。これにより、プロセッサ23は、荷役が必要な製品の存在を認識する。
【0072】
[アクティビティA102]
次に、処理がアクティビティA102に進み、プロセッサ23は、フォークリフト45に対して荷役の開始を指示する。
【0073】
[アクティビティA103]
次に、処理がアクティビティA103に進み、フォークリフト45は、自己位置推定を実行し、占有格子地図における自己の位置を把握する。自己位置推定の方法は、GPS等の外部信号を用いた手法、検出装置453によって所定のランドマークを観測することにより得られるランドマーク情報を用いた手法など任意である。本実施形態では、フォークリフト45は、現実空間にて検出される情報に基づいて自己位置推定を行う。これにより、生産設備4と仮想生産設備5との適応度が低い状態でフォークリフト45が動作することを抑制することができる。なお、ランドマークの検出は、上述の学習モデルM1等にランドマークを識別するように学習させ、ランドマークの識別器として用いればよい。
【0074】
[アクティビティA104]
次に、処理がアクティビティA104に進み、取得部231は、推定されたフォークリフト45の自己位置を取得し、生成された仮想生産設備5に基づき入庫経路を生成する。入庫経路は、開始位置(すなわち、推定されたフォークリフト45の自己位置)から入庫設備41(詳細には、入庫された製品等が配置されている地点)までの経路Rである。
【0075】
[アクティビティA105]
次に、処理がアクティビティA105に進み、フォークリフト45は、送信された入庫経路に沿って、目標位置としての入庫設備へと移動する。このとき、フォークリフト45は、自己位置と検出装置453の観測結果とに基づいて、占有格子地図を更新する。
【0076】
[アクティビティA106]
次に、処理がアクティビティA106に進み、フォークリフト45は、開始位置から入庫設備41までの移動の間の種々のセンサ情報をプロセッサ23に送信する。センサ情報は、検出装置453の検出結果(例えば、連続画像、所定のフレームレートにしたがって撮像された画像データ等)や、フォークリフト45の速度計の検出結果、フォークリフト45の位置情報等を含む。言い換えれば、フォークリフト45は、移動中の動作履歴をセンサ情報としてプロセッサ23に送信する。このとき、センサ情報は、運用情報IF2と対応付けられて送信される。例えば、センサ情報は、運用情報IF2にて規定されている生産設備4の動作の種類および時刻等と、実際に検出装置453等にて検出された生産設備4(詳細にはフォークリフト45)の動作および時刻等を対応付ける。これらの差分は、生産設備4と仮想生産設備5との乖離が大きくなるほど大きくなる傾向がある。
【0077】
[アクティビティA107]
次に、処理がアクティビティA107に進み、プロセッサ23は、アクティビティA106にて送信されるセンサ情報を取得し、記憶部22等に記録する。特に、プロセッサ23は、後述される停止動作が行われた場合に行われた復帰操作に関する情報をセンサ情報として取得し、記憶部22等に記憶する。
【0078】
[アクティビティA108]
その後、フォークリフト45が入庫設備41に到達した場合、処理がアクティビティA108に進み、フォークリフト45は、荷役処理を実行する。これにより、フォークリフト45は、荷役装置452に入庫設備41に配置された荷役対象を積載し、予め定められた位置(例えば、出庫設備42や保管設備43など)へと移動させる。荷役動作は、例えば、検出装置453を用いた荷役対象の観測結果を学習モデルM1に入力することによって行われる荷役対象の検出、荷役対象への誘導(例えば、荷役装置452のフォークとパレットとの相対位置の調整、フォークとパレットの挿入穴との角度ズレの調整など)、および荷役装置452の動作(例えばフォークの上下等)による荷役対象の積載等を行う。これにより、荷役対象が荷役装置452に積載されたことが確認された場合、フォークリフト45は、荷役処理を終了する。
【0079】
[アクティビティA109]
次に、処理がアクティビティA109に進み、フォークリフト45は、アクティビティA106と同様に、アクティビティA108にて行われた荷役処理の際のセンサ情報をプロセッサ23に送信する。
【0080】
[アクティビティA110]
次に、処理がアクティビティA110に進み、プロセッサ23は、アクティビティA107と同様に、アクティビティA109にて送信されたセンサ情報を取得し、記憶部22等に記録する。
【0081】
[アクティビティA111]
次に、処理がアクティビティA111に進み、生成部232は、荷役処理の終了位置から出庫設備42までの出庫経路を生成する。出庫経路の生成態様は、上述の経路Rまたは入庫経路と同様である。その後プロセッサ23は、生成された出庫経路をフォークリフト45に送信する。
【0082】
[アクティビティA112]
次に、処理がアクティビティA112に進み、フォークリフト45は、生成された出庫経路を取得し、出庫経路に沿って出庫設備42へ移動する。このとき、フォークリフト45は、自己位置と検出装置453の観測結果とに基づいて、占有格子地図を更新する。
【0083】
[アクティビティA113]
次に、処理がアクティビティA113に進み、フォークリフト45は、アクティビティA106と同様に、アクティビティA108にて行われた荷役処理の際のセンサ情報をプロセッサ23に送信する。
【0084】
[アクティビティA114]
次に、処理がアクティビティA114に進み、プロセッサ23は、アクティビティA107と同様に、アクティビティA109にて送信されたセンサ情報を取得し、記憶部22等に記録する。
【0085】
[アクティビティA115]
次に、処理がアクティビティA115に進み、フォークリフト45は、降荷動作を実行する。これにより、荷役対象が出庫設備42に降荷される。
【0086】
[アクティビティA116]
次に、処理がアクティビティA116に進み、フォークリフト45は、アクティビティA106と同様に、アクティビティA108にて行われた荷役処理の際のセンサ情報をプロセッサ23に送信する。
【0087】
[アクティビティA117]
次に、処理がアクティビティA117に進み、取得部231は、アクティビティA107と同様に、アクティビティA109にて送信されたセンサ情報を取得し、記憶部22等に記録する。
【0088】
[アクティビティA118]
次に、処理がアクティビティA118に進み、フォークリフト45は、プロセッサ23に対して荷役が終了したことを通知する。その後、荷役対象が生産設備4から出庫される。
【0089】
[アクティビティA119]
次に、処理がアクティビティA119に進み、プロセッサ23は、適応度算出処理を実行する。これにより、プロセッサ23は、取得されたセンサ情報と、生産設備4の地図情報(本実施形態では現実空間における占有格子地図)と、仮想生産設備5の地図情報(本実施形態では仮想空間における仮想的な占有格子地図)とに基づいて、学習モデルM1の適応度を算出し、記憶部22等に記録する。ここでは、占有格子地図の類似度に基づき適応度が算出される場合について説明する。
【0090】
まず、プロセッサ23は、記憶部22等を参照し、フォークリフト45の操作履歴を含むセンサ情報、特に復帰操作、を取得する。次に、プロセッサ23は、取得されたセンサ情報に基づき、現実空間における最新の占有格子地図を取得し、当該占有格子地図を、仮想生産設備5における仮想的な占有格子地図と比較し、その類似度を算出する。このとき、プロセッサ23は、取得されたセンサ情報に基づき、類似度を算出する際の格子の重みを設定してもよい。例えば、プロセッサ23は、占有格子地図上で復帰操作が行われた位置に対応する格子の重みを、他の格子の重みより大きく設定してもよい。停止操作および復帰操作等の緊急的な操作は、生産設備4と仮想生産設備5との乖離と相関がある。そのため、このような操作から現れる生産設備4と仮想生産設備5との乖離を適応度に反映させることができる。
【0091】
このような第2の情報処理により、低適応度記録が生成され、プロセッサ23は、このように生成された低適応度記録を参照しつつ、上記第1の情報処理を行う。
【0092】
3.3.停止操作が行われた場合の処理の流れについて
次に、第2の情報処理のなかで停止操作が行われた場合の処理の流れについて説明する。
図9は、情報処理システム1において実行される、停止操作が行われた場合の処理の流れの一例を示すアクティビティ図である。
【0093】
[アクティビティA201]
次に、処理がアクティビティA201に進み、フォークリフト45は、ユーザ(例えば、フォークリフト45の操縦者または監督者)から停止操作を受け付ける。停止操作は、例えば、フォークリフト45の自動走行にて予定されていない、手動のブレーキング操作、非常停止ボタンの操作などを緊急的な停止を行うための操作を含む。停止操作は、占有格子地図に記録されていない障害物を検出装置453が検出し、当該障害物が経路Rに沿った走行を阻害すると判定された場合に、フォークリフト45が自発的に停止操作の指示を行うための信号の生成であってもよい。
【0094】
[アクティビティA202]
次に、処理がアクティビティA202に進み、フォークリフト45は、停止処理を実行する。これにより、フォークリフト45は走行を中止し、その場に一時的に停止する。このとき、フォークリフト45は、走行が規制されている状態となる。
【0095】
[アクティビティA203]
次に、処理がアクティビティA203に進み、フォークリフト45は、ユーザからの所定の復帰操作を受け付ける。
【0096】
[アクティビティA204]
次に、処理がアクティビティA204に進み、フォークリフト45は、ユーザからの復帰操作に応じて、復帰処理を実行する。これにより、フォークリフト45は、再び走行可能な状態となる。
【0097】
[アクティビティA205]
次に、処理がアクティビティA205に進み、フォークリフト45は、荷役処理等を再開する。このとき、情報処理システム1は、停止操作が行われた段階での処理から再開しても、上記第2の情報処理を最初から行ってもよい。このとき、フォークリフト45は、センサ情報に紐づけて、停止操作および復帰操作に関する操作情報をプロセッサ23に送信する。
【0098】
[アクティビティA206]
次に、処理がアクティビティA206に進み、プロセッサ23は、センサ情報および操作情報を取得し、記憶部22等に記録する。
【0099】
このような第3の情報処理によって、センサ情報と操作情報との相関が、生産設備4の運用と連動してリアルタイムで記録される。当該相関は、例えば、アクティビティA119での適応度算出処理において適応度を算出する際に用いられる。
【0100】
上記実施形態では、第1の情報処理、第2の情報処理、および第3の情報処理はそれぞれ別々のアクティビティ図を用いて説明されたが、これらの処理は個別に行われても、連動して行われてもよい。また、これらの処理は、単独で行われても並行して行われてもよい。
【0101】
4.その他
上記情報処理の態様はあくまで一例であり、これに限られない。
【0102】
上記情報処理が適用される設備は、上記の共有倉庫のような生産設備4に限られない。例えば、上記情報処理は、学習モデルM1に基づき切削対象を認識し、その認識結果に応じて対象の工作を行う工作設備に適用されても、製品の規格を学習モデルM1に基づき認識し、その認識結果に応じて駆動機器としてのロボットアームに製品を並べる配置設備に適用されてもよい。
【0103】
図10は、工作設備6との一例を示す図である。工作設備6は、駆動機器としての切削装置61と、保持装置62と、を含む。切削装置61は、保持装置62によって保持される切削対象Wを加工するように構成され、プロセッサ23からの制御指令に基づいて二次元的または三次元的に移動可能に構成される。プロセッサ23は、例えば、取得部231として、切削装置61および保持装置62のレイアウト設計(例えば切削装置61、保持装置62および切削対象Wの位置関係、寸法、材質など)を示す設計情報IF1と、レイアウト設計に従って実装される現実空間における工作設備6の運用状況に関する運用情報IF2(例えば、切削対象Wの切削シーケンスや、切削対象Wの切削数など)を取得する。このような情報に基づき、仮想空間における工作設備6に相当する仮想工作設備7を生成する。仮想工作設備7は、切削装置61に対応するオブジェクトであり、仮想保持装置72は、保持装置62に対応するオブジェクトである。プロセッサ23は、このような仮想工作設備7において物理シミュレーションを実行することにより、仮想工作設備7にて仮想的な切削対象Wの切削を行い、規格に適合した切削対象Wに関する画像データを学習データD1として生成する。このとき、プロセッサ23は、寸法公差や仮想切削装置71の動作のブレなどを含む擾乱情報IF3に基づき、規格に適合しない、いわゆる不良品となる切削対象Wに関する画像データを擾乱学習データD2として生成する。学習部235は、これらの学習データD1および擾乱学習データD2を含むデータセットを用いて、学習モデルM1の学習を行い、当該学習の結果に基づき、現実空間における仮想工作設備7の学習モデルM1の学習パラメータを出力し、学習モデルM1の更新を行う。
【0104】
擾乱情報IF3は、仮想照明設備54から照射または導入される光、すなわち光源に関する情報に限られない。例えば、擾乱情報IF3は、仮想生産設備5に含まれる各オブジェクトの動作によって生じる音、振動、熱等の、光以外の擾乱に関する情報を含んでいてもよい。
【0105】
学習モデルM1は、現実空間のものと仮想空間のものとで共通であってもよい。
【0106】
情報処理装置2は、オンプレミス形態であってもよく、クラウド形態であってもよい。クラウド形態の情報処理装置2としては、例えば、SaaS(Software as a Service)、クラウドコンピューティングという形態で、上述の機能や処理を提供してもよい。
【0107】
上記実施形態では、情報処理装置2が種々の記憶・制御を行ったが、情報処理装置2に代えて、複数の外部装置が用いられてもよい。すなわち、種々の情報やプログラムは、ブロックチェーン技術等を用いて複数の外部装置に分散して記憶されてもよい。
【0108】
上記実施形態は、情報処理システム1に限定されず、情報処理方法であっても、情報処理プログラムであってもよい。情報処理方法は、情報処理システム1の各ステップを含む。情報処理プログラムは、少なくとも1つのコンピュータに、情報処理システム1の各ステップを実行させる。
【0109】
上記情報処理システム1等は、次に記載の各態様で提供されてもよい。
【0110】
(1)情報処理システムであって、次の各ステップがなされるようにプログラムを実行可能な少なくとも1つのプロセッサを備え、取得ステップでは、設備のレイアウト設計を示す設計情報と、前記レイアウト設計に従って実装される現実空間における設備の運用状況に関する運用情報と、を取得し、ここで、前記設備は、少なくとも1つの学習パラメータを含む学習モデルに基づき駆動可能な駆動機器を含み、第1の生成ステップでは、前記設計情報と前記運用情報とに基づき、仮想設備を生成し、ここで、前記仮想設備は、所定の仮想空間内で再現された前記設備であり、前記学習モデルによって前記仮想空間内において運用可能に構成され、第2の生成ステップでは、前記仮想設備に対する所定の物理シミュレーションの結果に基づき少なくとも1つの学習データを生成し、ここで、前記学習データは、前記仮想設備の前記学習モデルの学習に用いられ、出力ステップでは、前記学習データを用いた前記仮想設備の学習モデルの学習の結果に基づき、前記現実空間における前記学習モデルの前記学習パラメータを出力する、情報処理システム。
【0111】
このような構成によれば、現実空間に実装される、または実装される予定の設備を、レイアウト設計を示す設計情報をもとに仮想空間内で仮想設備として再現することができる。これにより、ユーザは、仮想空間内で行われる物理シミュレーションの結果に基づき、実際に設備の構築または運用を開始する前、または実際に設備の運用を行う際に、当該設備の妥当性を評価することができる。したがって、設備の構築または運用のコストを低減することができる。
【0112】
(2)上記(1)に記載の情報処理システムにおいて、前記取得ステップでは、さらに、前記設備における擾乱に関する擾乱情報を含み、前記第2の生成ステップでは、さらに、前記仮想空間内での前記擾乱情報に基づき、前記学習データの少なくとも1つに対して前記擾乱を作用させることにより、擾乱学習データを生成し、前記出力ステップでは、さらに、前記擾乱学習データを用いた前記仮想設備の前記学習モデルの学習の結果に基づき、前記現実空間における前記学習モデルの前記学習パラメータを出力する、情報処理システム。
【0113】
このような構成によれば、現実空間における状況の変化、例えば、照明の劣化、新しい機器の導入、天候、他の歩行者、他の車両、ロボットなど、が物理シミュレーションにおける擾乱として取り込まれるため、より様々な状況への適用性が高い学習パラメータを得ることができる。したがって、設備の運用効率を向上することができる。
【0114】
(3)上記(1)又は(2)に記載の情報処理システムにおいて、前記物理シミュレーションは、光学的なシミュレーションを含み、前記学習データは、前記仮想設備の画像データおよびLiDARデータのうちの少なくとも1つを含む、情報処理システム。
【0115】
このような構成によれば、設備の運用等に関与するユーザによる設備の観察結果と仮想空間設備の視覚的な情報とを比較することにより、より直感的に学習結果の妥当性を判断しやすくなる。
【0116】
(4)上記(1)~(3)の何れか1つに記載の情報処理システムにおいて、さらに、学習ステップでは、少なくとも前記学習データに基づく前記仮想設備の学習モデルの学習を行う、情報処理システム。
【0117】
(5)上記(1)~(4)の何れか1つに記載の情報処理システムにおいて、さらに更新ステップでは、前記運用情報に基づき計算される適応度が所定の更新条件を満たす場合に、前記学習モデルの更新を行い、ここで、前記適応度は、前記仮想設備の運用状況と前記現実空間における前記設備の運用状況との整合性を示す、情報処理システム。
【0118】
このような構成によれば、例えば、仮想設備が、現実空間における前記設備の状況の変化を追従できていない等の事情により仮想設備の運用状況と現実空間における設備の運用状況とに乖離が生じた場合に、学習モデルが更新される。これにより、当該乖離を許容範囲に抑えやすくなる。
【0119】
(6)上記(1)~(5)の何れか1つに記載の情報処理システムにおいて、評価ステップでは、前記物理シミュレーションに基づき、前記設計情報の妥当性を示す評価指標を出力し、学習停止ステップでは、前記評価指標が所定の停止条件を満たす場合に前記学習モデルの学習を実行しない、情報処理システム。
【0120】
このような構成によれば、設備のレイアウトが物理的に実装困難である等の事情により学習の前提が妥当でない場合に学習モデルの学習が行われない。これにより、計算資源の無駄を減らすことができる。
【0121】
(7)上記(6)に記載の情報処理システムにおいて、提示ステップでは、前記停止条件が満たされた場合に、満たされた前記停止条件に関する停止情報を、ユーザが視認可能な態様で提示させる、情報処理システム。
【0122】
このような構成によれば、ユーザは、停止情報に基づき設計情報の見直しを効率的に行うことができる。
【0123】
(8)情報処理方法であって、上記(1)~(7)の何れか1つに記載の情報処理システムの各ステップを含む、情報処理方法。
【0124】
(9)情報処理プログラムであって、少なくとも1つのコンピュータに、上記(1)~(7)の何れか1つに記載の情報処理システムの各ステップを実行させる、情報処理プログラム。
もちろん、この限りではない。
【0125】
最後に、本開示に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0126】
1 :情報処理システム
2 :情報処理装置
20 :通信バス
21 :通信部
22 :記憶部
23 :プロセッサ
231 :取得部
232 :生成部
233 :シミュレーション部
234 :評価部
235 :学習部
236 :更新部
237 :提示部
238 :学習停止部
3 :ユーザ端末
30 :通信バス
31 :通信部
32 :記憶部
33 :プロセッサ
34 :表示部
35 :HMIデバイス
4 :生産設備
41 :入庫設備
42 :出庫設備
43 :保管設備
44 :照明設備
45 :フォークリフト
451 :車体
452 :荷役装置
453 :検出装置
5 :仮想生産設備
51 :仮想入庫設備
52 :仮想出庫設備
53 :仮想保管設備
54 :仮想照明設備
55 :仮想フォークリフト
551 :仮想車体
552 :仮想荷役装置
553 :仮想検出装置
6 :工作設備
61 :切削装置
62 :保持装置
7 :仮想工作設備
71 :仮想切削装置
72 :仮想保持装置
D1 :学習データ
D2 :擾乱学習データ
P1 :経由点
R :経路
W :切削対象