特許 7580569 ロボティックプロセスオートメーションのための人工知能／機械学習モデルドリフト検出および修正

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-10-31

(45)【発行日】2024-11-11

(54)【発明の名称】ロボティックプロセスオートメーションのための人工知能／機械学習モデルドリフト検出および修正

(51)【国際特許分類】

   G06N 20/00 20190101AFI20241101BHJP

   G06Q 10/10 20230101ALI20241101BHJP

【ＦＩ】

G06N20/00

G06Q10/10

【請求項の数】 30

(21)【出願番号】P 2023503130

(86)(22)【出願日】2020-09-24

(65)【公表番号】

(43)【公表日】2023-08-23

(86)【国際出願番号】 US2020052424

(87)【国際公開番号】W WO2022019934

(87)【国際公開日】2022-01-27

【審査請求日】2023-09-14

(31)【優先権主張番号】16/934,369

(32)【優先日】2020-07-21

(33)【優先権主張国・地域又は機関】US

(73)【特許権者】

【識別番号】520262319

【氏名又は名称】ユーアイパス，インコーポレイテッド

【氏名又は名称原語表記】ＵｉＰａｔｈ，Ｉｎｃ．

【住所又は居所原語表記】１ Ｖａｎｄｅｒｂｉｌｔ Ａｖｅｎｕｅ， ６０ｔｈ Ｆｌｏｏｒ， Ｎｅｗ Ｙｏｒｋ， ＮＹ １００１７， Ｕｎｉｔｅｄ Ｓｔａｔｅｓ ｏｆ Ａｍｅｒｉｃａ

(74)【代理人】

【識別番号】110003487

【氏名又は名称】弁理士法人東海特許事務所

(72)【発明者】

【氏名】シング，プラブディープ

(72)【発明者】

【氏名】マクゴネル，アントン

(72)【発明者】

【氏名】ヒダルゴ，マルコ，アルバン

【審査官】多賀 実

(56)【参考文献】

【文献】米国特許出願公開第２０１７／０３３０１０９（ＵＳ，Ａ１）

【文献】米国特許出願公開第２０１９／０１８０７４６（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

Ｇ０６Ｆ １８／００－１８／４０

Ｇ０６Ｆ ８／００－ ８／７７

Ｇ０６Ｆ ９／４４－ ９／４５５

Ｇ０６Ｑ １０／００－１０／３０

(57)【特許請求の範囲】

【請求項1】

非一時的なコンピュータ読み取り可能な媒体上に格納されたロボティックプロセスオートメーション（ＲＰＡ）のための人工知能（ＡＩ）／機械学習（ＭＬ）モデルドリフト検出および修正を実行するためのコンピュータプログラムであって、前記コンピュータプログラムは、少なくとも１つのプロセッサが、
ＡＩ／ＭＬモデルのための入力データに係る情報を解析してデータドリフトが発生したか否かを判断し、前記ＡＩ／ＭＬモデルの遂行からの結果に係る情報を解析してモデルドリフトが発生したか否かを判断し、またはその両方を行い、
前記情報の解析に基づき、変化条件が見出され、変化しきい値が満たされるもしくはそれを超えるか、またはその両方の場合、前記ＡＩ／ＭＬモデルを再訓練するように構成され、
前記情報は、前記ＡＩ／ＭＬモデルによって行われた予測の１または複数の統計分布を含み、前記コンピュータプログラムはさらに、前記少なくとも１つのプロセッサが、
前記１または複数の統計分布を、複数のＲＰＡロボットによって取られたそれぞれのアクションにマッピングするように構成される、コンピュータプログラム。

【請求項2】

前記プログラムはさらに、前記少なくとも１つのプロセッサが、
前記変化条件、前記変化しきい値、またはその両方が、少なくとも所定の期間、満たされているまたはそれを超えているかを検証するように構成される、請求項１に記載のコンピュータプログラム。

【請求項3】

前記解析は、共変量ドリフトについて、元のデータセットと新しいデータセットの一次元分布間の１または複数の距離を測定することを含む、請求項１に記載のコンピュータプログラム。

【請求項4】

前記解析は、統計モーメントが変化するか否かを判断することを含む、請求項１に記載のコンピュータプログラム。

【請求項5】

前記統計モーメントは、平均、分散、歪度、尖度、共分散、またはそれらの組み合わせを含む、請求項４に記載のコンピュータプログラム。

【請求項6】

前記情報は、前記ＡＩ／ＭＬモデルがどのような予測を行ったか、いくつの予測を前記ＡＩ／ＭＬモデルが行ったかおよびＲＰＡロボットによっていくつの予測が使用されたか、前記ＡＩ／ＭＬモデルによって行われた前記予測の１もしくは複数の統計分布、前記ＡＩ／ＭＬモデルに提供された入力データ、またはそれらの組み合わせを含む、請求項１に記載のコンピュータプログラム。

【請求項7】

前記アクションは、それぞれの前記ＲＰＡロボットのＲＰＡワークフローのそれぞれのアクティビティで行われる、請求項１に記載のコンピュータプログラム。

【請求項8】

前記コンピュータプログラムはさらに、前記少なくとも１つのプロセッサが、
前記再訓練されたＡＩ／ＭＬモデルが１または複数のパフォーマンスしきい値を満たしていることを検証し、
前記再訓練されたＡＩ／ＭＬモデルが前記１または複数のパフォーマンスしきい値を満たした場合、前記再訓練されたＡＩ／ＭＬモデルを展開するように構成される、請求項１に記載のコンピュータプログラム。

【請求項9】

前記再訓練されたＡＩ／ＭＬモデルは、以前のバージョンの前記ＡＩ／ＭＬモデルと共に展開され、前記プログラムはさらに、前記少なくとも１つのプロセッサが、
実データを使用して、前記再訓練されたＡＩ／ＭＬモデルと以前のバージョンの前記ＡＩ／ＭＬモデルのモデルドリフトを測定し、
前記再訓練されたＡＩ／ＭＬモデルが、測定された前記モデルドリフトに基づいて以前のバージョンの前記ＡＩ／ＭＬモデルよりも前記実データに対して優れたパフォーマンスを発揮する場合、以前のバージョンの前記ＡＩ／ＭＬモデルの代わりに前記再訓練されたＡＩ／ＭＬモデルを使用するように構成される、請求項８に記載のコンピュータプログラム。

【請求項10】

前記再訓練されたＡＩ／ＭＬモデルが、測定された前記モデルドリフトに基づいて、以前のバージョンの前記ＡＩ／ＭＬモデルよりも前記実データに対して優れたパフォーマンスを発揮しない場合、前記コンピュータプログラムはさらに、前記少なくとも１つのプロセッサが、
前記再訓練されたＡＩ／ＭＬモデルを破棄するか、またはさらに再訓練を行うように構成される、請求項９に記載のコンピュータプログラム。

【請求項11】

前記再訓練されたＡＩ／ＭＬモデルは、カナリアテスト技法またはチャンピオン／チャレンジャーテスト技法を用いて展開される、請求項８に記載のコンピュータプログラム。

【請求項12】

前記コンピュータプログラムはさらに、前記少なくとも１つのプロセッサが、
ＲＰＡロボットから、前記ＡＩ／ＭＬモデルを遂行する要求と前記ＡＩ／ＭＬモデルに関する入力情報とを受信し、
前記入力情報が前記ＡＩ／ＭＬモデルのためのフレームワークに適合していることを検証し、
前記入力情報が前記フレームワークに適合する場合、
前記入力情報を用いて前記ＡＩ／ＭＬモデルを遂行し、かつ
前記ＡＩ／ＭＬモデルの遂行の結果を前記ＲＰＡロボットに返すように構成される、請求項１に記載のコンピュータプログラム。

【請求項13】

前記入力情報が前記フレームワークに適合しない場合、前記コンピュータプログラムはさらに、前記少なくとも１つのプロセッサが、
前記ＲＰＡロボットに、前記入力情報が前記フレームワークに適合していないことを示すエラーを提供するように構成される、請求項１２に記載のコンピュータプログラム。

【請求項14】

前記フレームワークは、複数のＡＩ／ＭＬモデルのために強制される、請求項１２に記載のコンピュータプログラム。

【請求項15】

前記コンピュータプログラムはさらに、前記少なくとも１つのプロセッサが、
前記情報に対して次元削減技術を実行して、前記情報の二次元表現を生成し、
前記情報の二次元表現を表示するように構成される、請求項１に記載のコンピュータプログラム。

【請求項16】

前記情報の解析は、複数のそれぞれのＲＰＡロボットによって遂行される複数のＲＰＡプロセスにわたって実行される、請求項１に記載のコンピュータプログラム。

【請求項17】

前記コンピュータプログラムはさらに、前記少なくとも１つのプロセッサが、
前記入力データに基づいて、前記再訓練されたＡＩ／ＭＬモデルまたは以前のバージョンの前記ＡＩ／ＭＬモデルを選択し、
選択されたバージョンの前記ＡＩ／ＭＬモデルを呼び出すように構成される、請求項１に記載のコンピュータプログラム。

【請求項18】

前記選択は、階層的に行われる、請求項１７に記載のコンピュータプログラム。

【請求項19】

ロボティックプロセスオートメーション（ＲＰＡ）のための人工知能（ＡＩ）／機械学習（ＭＬ）モデルドリフト検出および修正を実行するためのコンピュータ実装方法であって、
ＡＩ／ＭＬモデルのための入力データに係る情報を解析してデータドリフトが発生したか否かを判断し、前記ＡＩ／ＭＬモデルの遂行からの結果に係る情報を解析してモデルドリフトが発生したか否かを判断し、またはその両方を行い、
前記情報の解析に基づき、変化条件が見出され、変化しきい値が満たされるもしくはそれを超えるか、またはその両方の場合、
前記ＡＩ／ＭＬモデルを再訓練し、
前記再訓練されたＡＩ／ＭＬモデルが１または複数のパフォーマンスしきい値を満たしていることを検証し、
前記再訓練されたＡＩ／ＭＬモデルが前記１または複数のパフォーマンスしきい値を満たした場合、前記再訓練されたＡＩ／ＭＬモデルを展開することを含み、
前記情報は、前記ＡＩ／ＭＬモデルによって行われた予測の１または複数の統計分布を含み、前記方法はさらに、
前記１または複数の統計分布を、複数のＲＰＡロボットによって取られたそれぞれのアクションにマッピングすることを含む、コンピュータ実装方法。

【請求項20】

前記変化条件、前記変化しきい値、またはその両方が、少なくとも所定の期間、満たされているまたはそれを超えているかを検証することをさらに含む、請求項１９に記載のコンピュータ実装方法。

【請求項21】

前記アクションは、それぞれの前記ＲＰＡロボットのＲＰＡワークフローのそれぞれのアクティビティで行われる、請求項１９に記載のコンピュータ実装方法。

【請求項22】

前記再訓練されたＡＩ／ＭＬモデルは、以前のバージョンの前記ＡＩ／ＭＬモデルと共に展開され、前記方法はさらに、
実データを使用して、前記再訓練されたＡＩ／ＭＬモデルと以前のバージョンの前記ＡＩ／ＭＬモデルのモデルドリフトを測定し、
前記再訓練されたＡＩ／ＭＬモデルが、測定された前記モデルドリフトに基づいて以前のバージョンの前記ＡＩ／ＭＬモデルよりも前記実データに対して優れたパフォーマンスを発揮する場合、以前のバージョンの前記ＡＩ／ＭＬモデルの代わりに前記再訓練されたＡＩ／ＭＬモデルを使用することを含む、請求項１９に記載のコンピュータ実装方法。

【請求項23】

ＲＰＡロボットから、前記ＡＩ／ＭＬモデルを遂行する要求と前記ＡＩ／ＭＬモデルに関する入力情報とを受信し、
前記入力情報が前記ＡＩ／ＭＬモデルのためのフレームワークに適合していることを検証し、
前記入力情報が前記フレームワークに適合する場合、
前記入力情報を用いて前記ＡＩ／ＭＬモデルを遂行し、かつ
前記ＡＩ／ＭＬモデルの遂行の結果を前記ＲＰＡロボットに返すことをさらに含み、
前記フレームワークは、複数のＡＩ／ＭＬモデルのために強制される、請求項１９に記載のコンピュータ実装方法。

【請求項24】

前記入力情報が前記フレームワークに適合していない場合、前記方法はさらに、
前記ＲＰＡロボットに、前記入力情報が前記フレームワークに適合していないことを示すエラーを提供することを含む、請求項２３に記載のコンピュータ実装方法。

【請求項25】

前記情報に対して次元削減技術を実行して、前記情報の二次元表現を生成し、
前記情報の二次元表現を表示することをさらに含む、請求項１９に記載のコンピュータ実装方法。

【請求項26】

前記情報の解析は、複数のそれぞれのＲＰＡロボットによって遂行される複数のＲＰＡプロセスにわたって実行される、請求項１９に記載のコンピュータ実装方法。

【請求項27】

前記入力データに基づいて、前記再訓練されたＡＩ／ＭＬモデルまたは以前のバージョンの前記ＡＩ／ＭＬモデルを選択し、
選択されたバージョンの前記ＡＩ／ＭＬモデルを呼び出すことをさらに含む、請求項１９に記載のコンピュータ実装方法。

【請求項28】

ロボティックプロセスオートメーション（ＲＰＡ）のための人工知能（ＡＩ）／機械学習（ＭＬ）モデルドリフト検出および修正を実行するためのコンピュータ実装方法であって、
前記ＡＩ／ＭＬモデルによって行われた予測の１もしくは複数の統計分布を含む情報であってデータドリフトが発生したかどうかを判断するためのＡＩ／ＭＬモデルのための入力データに関連する情報、モデルドリフトが発生しているかどうかを判断するための前記ＡＩ／ＭＬモデルの遂行からの結果、またはその両方を解析し、
前記１または複数の統計分布を、複数のＲＰＡロボットによって取られたそれぞれのアクションにマッピングし、
前記情報の解析に基づき、少なくとも所定の期間、変化条件が見出され、変化しきい値が満たされるもしくはそれを超えるか、またはその両方の場合、前記ＡＩ／ＭＬモデルを再訓練することを含み、
前記アクションは、それぞれの前記ＲＰＡロボットのＲＰＡワークフローのそれぞれのアクティビティで行われる、コンピュータ実装方法。

【請求項29】

前記情報は、いくつの予測を前記ＡＩ／ＭＬモデルが行ったかおよび前記複数のＲＰＡロボットによっていくつの予測が使用されたかを含む、請求項２８に記載のコンピュータ実装方法。

【請求項30】

前記複数のＲＰＡロボットのうちの１つのＲＰＡロボットから、前記ＡＩ／ＭＬモデルを遂行する要求と前記ＡＩ／ＭＬモデルに関する入力情報とを受信し、
前記入力情報が前記ＡＩ／ＭＬモデルのためのフレームワークに適合していることを検証し、
前記入力情報が前記フレームワークに適合する場合、
前記入力情報を用いて前記ＡＩ／ＭＬモデルを遂行し、かつ
前記ＡＩ／ＭＬモデルの遂行の結果を前記ＲＰＡロボットに返すことをさらに含み、
前記フレームワークは、複数のＡＩ／ＭＬモデルのために強制される、請求項２８に記載のコンピュータ実装方法。

【発明の詳細な説明】

【技術分野】

【0001】

（関連出願への相互参照）
本出願は、２０２０年７月２１日に出願された米国非仮特許出願第１６／９３４，３６９号の利益を主張する。先に提出された本出願の主題は、その全体を参照することにより、本明細書に組み込まれる。

【0002】

本発明は概して、ロボティックプロセスオートメーション（ＲＰＡ）に関し、より具体的には、ＲＰＡのための人工知能（ＡＩ）／機械学習（ＭＬ）モデルドリフト検出および修正に関する。

【背景技術】

【0003】

訓練されたＡＩ／ＭＬモデルが展開されて、画像認識および文書処理などのさまざまなタスクの確率的ソリューションを提供し得る。しかし、ＡＩ／ＭＬモデルによる予測は、時間の経過とともに変化またはドリフトし得る。ソフトウェアロボットが、ＡＩ／ＭＬモデルを利用してタスクを実行し得るコンテキストでは、ユーザーの知識の有無にかかわらず、またはユーザーがまったく関与していない可能性があるため、ＡＩ／ＭＬモデルドリフトは特に問題になり得る。したがって、ＡＩ／ＭＬモデルドリフトを検出および／または修正するための改善された技術は有益であり得る。

【発明の概要】

【0004】

本発明の特定の実施形態は、現在のＲＰＡ技術によってまだ十分に特定されていない、評価されていない、または解決されていない本分野における問題およびニーズのソリューションを提供し得る。例えば、本発明のいくつかの実施形態は、ＲＰＡのためのＡＩ／ＭＬモデルドリフトの検出および修正に関する。

【0005】

実施形態では、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するためのコンピュータプログラムは、非一時的なコンピュータ読み取り可能な媒体上に格納される。コンピュータプログラムは、少なくとも１つのプロセッサが、ＡＩ／ＭＬモデルのための入力データに係る情報を解析してデータドリフトが発生したか否かを判断し、ＡＩ／ＭＬモデルの遂行からの結果に係る情報を解析してモデルドリフトが発生したか否かを判断し、またはその両方を行うように構成される。情報の解析に基づき、変化条件が見出され、変化しきい値が満たされるもしくはそれを超えるか、またはその両方の場合、コンピュータプログラムはさらに、少なくとも１つのプロセッサが、ＡＩ／ＭＬモデルを再訓練するように構成される。

【0006】

実施形態では、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を行うためのコンピュータ実装方法は、ＡＩ／ＭＬモデルのための入力データに係る情報を解析してデータドリフトが発生したか否かを判断し、ＡＩ／ＭＬモデルの遂行からの結果に係る情報を解析してモデルドリフトが発生したか否かを判断し、またはその両方を行うことを含む。情報の解析に基づき、変化条件が見出され、変化しきい値が満たされるもしくはそれを超えるか、またはその両方の場合、方法は、ＡＩ／ＭＬモデルを再訓練することと、再訓練されたＡＩ／ＭＬモデルが１または複数のパフォーマンスしきい値を満たすことを検証することと、再訓練されたＡＩ／ＭＬモデルが１または複数のパフォーマンスしきい値を満たす場合、再訓練されたＡＩ／ＭＬモデルを展開することとを含む。

【0007】

さらに別の実施形態では、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を行うためのコンピュータ実装方法は、ＡＩ／ＭＬモデルによって行われた予測の１または複数の統計分布を含む情報を解析することを含む。情報は、データドリフトが発生したかどうかを判断するためのＡＩ／ＭＬモデルの入力データ、モデルドリフトが発生したかどうかを判断するためのＡＩ／ＭＬモデルの遂行からの結果、またはその両方に関する。方法はまた、１または複数の統計分布を、複数のＲＰＡロボットによって取られたそれぞれのアクションにマッピングすることを含む。情報の解析に基づき、変化条件が見出され、少なくとも所定の期間、変化しきい値が満たされるもしくはそれを超えるか、またはその両方の場合、方法はさらに、ＡＩ／ＭＬモデルを再訓練することを含む。アクションは、それぞれの前記ＲＰＡロボットのＲＰＡワークフローのそれぞれのアクティビティで行われる。

【図面の簡単な説明】

【0008】

本発明の特定の実施形態の利点が容易に理解されるように、上記で簡単に説明した本発明のより特定の説明は、添付の図面に図示されている特定の実施形態を参照して描写される。これらの図面は、本発明の典型的な実施形態のみを描いており、したがって、その範囲を限定するものとは考えられないことが理解されるべきであるが、本発明は、以下の添付の図面を使用することにより、さらなる特定および詳細をもって描写され、説明されるであろう。

【0009】

【図1】本発明の実施形態による、ロボティックプロセスオートメーション（ＲＰＡ）システムを示すアーキテクチャ図である。

【0010】

【図2】本発明の実施形態による、展開したＲＰＡシステムを示すアーキテクチャ図である。

【0011】

【図3】本発明の実施形態による、デザイナ、アクティビティ、およびドライバの間の関係を示すアーキテクチャ図である。

【0012】

【図4】本発明の実施形態による、ＲＰＡシステムを示すアーキテクチャ図である。

【0013】

【図5】本発明の実施形態による、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するように構成されたコンピューティングシステムを示すアーキテクチャ図である。

【0014】

【図6】本発明の実施形態による、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するように構成されたシステムを示すアーキテクチャ図である。

【0015】

【図7A】本発明の実施形態による、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するための処理を示すフローチャートである。

【図7B】本発明の実施形態による、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するための処理を示すフローチャートである。

【発明を実施するための形態】

【0016】

別段の記載がない限り、類似の参照文字は、添付の図面全体で一貫して対応する特徴を示す。

【0017】

（実施形態の詳細な説明）
いくつかの実施形態は、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正に関するものである。いくつかの実施形態は、ＡＩ／ＭＬモデルがいくつ予測を行ったかおよびいくつが実際に使用されたか、予測の１または複数の統計分布などの重要業績評価指標（ＫＰＩ）を格納する。変化しきい値が満たされるまたはそれを超える場合、アラートまたは再訓練トリガが生成され得る。例えば、変化しきい値は、少なくとも一定量の、潜在的に少なくとも一定期間の、過去のパフォーマンスからの逸脱であり得る。ＡＩ／ＭＬモデルは、その後、潜在的に１もしくは複数のユーザーおよび／またはロボットによって提供される新しい（より新しい）データを使用して、訓練され得、新しいバージョンのＡＩ／ＭＬモデルまたは全く新しいモデルが、より良い予測を提供し、ドリフトの問題を解決するように展開され得る。

【0018】

ＡＩ／ＭＬモデルドリフトは、データドリフト、モデルドリフト、またはその両方が原因で発生し得る。データドリフトは、ＡＩ／ＭＬモデルのための入力データの特性が、ＡＩ／ＭＬモデルを学習するために使用されたデータから時間の経過とともに変化する場合である。これにより、ＡＩ／ＭＬモデルによって行われた予測の精度が低下することがあり得る。モデルドリフトは、ＡＩ／ＭＬモデルへの入力データとＡＩ／ＭＬモデルからの出力データとの間の関係における根本的な問題における経時的な変化である。ドリフトのこれらの形態の一方または両方が発生すると、ＡＩ／ＭＬモデルのパフォーマンスが低下したり、ＡＩ／ＭＬモデルが解決するために訓練された問題に対して不正確になったりする場合がある。本明細書では、データドリフトおよびモデルドリフトをまとめて「コンセプトドリフト」と呼ぶ。

【0019】

いくつかの実施形態では、統計分布は、ＲＰＡロボット（複数可）がそのワークフロー（複数可）で行っているアクションにマッピングされる。特定の実施形態では、統計分布は、ビジネス成果に一致させられ得る。例えば、特定のビジネス成果に、１～５のスケールが使用され、通常、結果が１～５スケールの１つの標準分布（例えば、２～４）に収まる場合を考えてみる。１および５がより一般的になり始めた場合（例えば、１標準偏差よりも頻繁に発生する場合）、例外が自動的にトリガされ得る。人間のレビューアは、ＡＩ／ＭＬモデルのパフォーマンス特性を表示して、ＡＩ／ＭＬモデルがどのようにドリフトしたかを判断し得る。モデルを改善し、そしてビジネスの成果を向上させるために、人による検証が実行され得る。ドリフトの根本的な原因は、データドリフトまたはモデルドリフトのいずれかであり得る。いくつかの実施形態では、各ビジネス成果についてこれらの統計分布をユーザーに表示するダッシュボードが提示され得る。

【0020】

ＲＰＡのコンテキストでは、ドリフトの検出が特に重要になる場合がある。例えば、ＲＰＡロボットが予測を行うためにＡＩ／ＭＬモデルを呼び出している場合、現在のところ、これらのシナリオで人間の監督なしでモデルの品質をチェックする既存の方法はない。ＲＰＡロボットは、ＡＩ／ＭＬモデルの消費者であり、それらは、自律的に動作し得る。ユーザーは、これらのＡＩ／ＭＬモデルの予測に基づいてロボットが実行するアクションを制御できない場合があり、そのようなＲＰＡロボットの自律性は、望ましくないまたは危険でさえあり得る結果につながる場合がある（例えば、ミッションクリティカルシステムの場合）。

【0021】

いくつかの実施形態は、データドリフトおよびモデルドリフトを測定するために１または複数のアルゴリズムを使用する。例えば、データセットの次元を小さくする技法（例えば、主成分分析（ＰＣＡ））、密度推定（すなわち、高次元空間における密度の連続性を評価する）、それらの組み合わせなどが用いられ得る。しかし、本発明の範囲から逸脱することなく、ドリフトを測定するために任意の適切な技法（複数可）が使用され得ることに留意されたい。

【0022】

特定の実施形態では、ＡＩ／ＭＬモデルドリフトを検出および扱う方法について、自動化プラットフォームによってフレームワークが提供および強制される。例えば、ＡＩ／ＭＬモデルが本番環境に展開された場合、そのモデルは、自動化プラットフォームに展開された他のＡＩ／ＭＬモデルと共通の入力スキーマを持ち得る。スキーマ定義が強制される程度は、いくつかの実施形態では、ＡＩ／ＭＬモデル自体およびＡＩ／ＭＬモデルパイプラインに依存し得る。入力スキーマは、ＡＩ／ＭＬモデルが入力として受信するものを記述する。いくつかの実施形態では、これは、事前定義された列および特定のデータタイプを有するカンマ区切り値（ＣＳＶ）ファイルであり得る。これにより、特定のフィールド要件および／または値が強制され得る。

【0023】

例えば、電子メール本文がシリアル化されたＪａｖａＳｃｒｉｐｔ Ｏｂｊｅｃｔ Ｎｏｔａｔｉｏｎ（ＪＳＯＮ）でＡＩ／ＭＬモデルへの入力として渡される場合、電子メール本文は入力として扱われ得る。しかし、数値データを含むＣＳＶファイルは、ＡＩ／ＭＬモデルがデータの解釈方法を認識できない場合があるため、受信されない場合がある。したがって、スキーマは、望ましくないまたは許可されていないデータ形式がＡＩ／ＭＬモデルに供給されるのを防ぐのに役立ち得る。

【0024】

展開されたＡＩ／ＭＬモデルが実行され、解析が実行されると、入力データの表現およびＡＩ／ＭＬモデル予測が徐々に構築され得る。例えば、元のデータセットと新しいデータセットの一次元分布間の距離は、共変量ドリフトについて測定され得る。いくつかの実施形態では、解析は、統計モーメントが変化するかどうかを判断することを含む。特定の実施形態では、統計モーメントは、平均、分散、歪度、尖度、共分散、またはそれらの組み合わせを含む。また、残留ドリフト間の距離が２つのモデルのために確認され得る。例えば、ＡＩ／ＭＬモデルの２つのバリエーション（例えば、新しいバージョンのモデルと以前のバージョンのモデル）が、異なるデータセットまたはデータセットの異なる部分に対して訓練される場合、モデルの分布間の距離を使用して、なぜ一方のモデルでドリフトが起こり、他方では起こらない（または少なくとも少ない）可能性があるかを判断しようとすることができる。

【0025】

入力データが１～５の範囲で該当する５つのクラスをＡＩ／ＭＬモデルが予測する、上記の例をもう一度考えてみる。ＡＩ／ＭＬモデルは６ヶ月間展開され、予測の９５％がクラス２、３、または４であった。しかし、ＡＩ／ＭＬモデルはその後、クラス１およびクラス５の予測をより多く行うようになる。そして、入力データの特性（例えば、分布）が変化し、それが予測の変化を引き起こしたのか、それとも、入力データに大きな変化がなくてもＡＩ／ＭＬモデルの予測の変化が生じたのかが判断され得る。

【0026】

いくつかの実施形態では、ＲＰＡワークフロー内のアクティビティは、ドリフトが発生しているかどうか（および場合によっては、どのようなタイプか）を検出し得る。例えば、開発者がデータまたはモデルドリフトを考慮することを可能にするアクティビティの収集が、ＲＰＡデザイナアプリケーションにおいて利用可能であってもよい。これらのアクティビティは、ドリフトが発生する特定の割合、標準偏差を超える、一般的でない予測が著しく一般的になる、などに基づいて構成され得る。

【0027】

ドリフトが発生していると判断された場合、トリガが生成されてもよい。例えば、トリガは、ＡＩ／ＭＬモデルおよび／または入力データによってなされた予測を、人間のレビューアが分析するために送信および格納することを引き起こしてもよい。アクションセンターキューは、人間がモデルの新バージョンを検証し、自動的に再訓練することを可能にし得る。人間のレビューアは、次に、ＡＩ／ＭＬモデルが入力データに基づいて予測したものをレビューし、モデルの精度に問題があるかどうかを判断し得る。再訓練されたＡＩ／ＭＬモデルが特定のしきい値（例えば、信頼しきい値、ある種のランダムサンプリング、他のヒューリスティックなど）を満たす場合、それは既存のＡＩ／ＭＬモデルと一緒に自動的に展開され、モデルのドリフトは、新しいバージョンのＡＩ／ＭＬモデルが実データ上でより良く機能しているかどうかを見るために共存して（ｓｉｄｅ－ｂｙ－ｓｉｄｅ）測定され得る。モデルがそのしきい値を下回っている場合、しきい値が満たされていない理由を判断するために人間のレビューが実行され得、そして、それがしきい値を満たすまたはそれを超えるようにＡＩ／ＭＬモデルを訓練することが試行され得る。

【0028】

いくつかの実施形態では、ＡＩ／ＭＬモデルが訓練される場合、訓練データの一部は、後でテストに使用するために分割される。モデルを評価するための１つの高レベルのメトリック（ｍｅｔｒｉｃ）を作成するために、メトリックの収集が使用され得る。一例は、文書理解モデルのＦ１スコアである。これは精度および呼び戻し（ｒｅｃａｌｌ）の派生物であり、両者の間にはトレードオフが存在する。交差検証（ｃｒｏｓｓ－ｖａｌｉｄａｔｉｏｎ）は、データの別の部分を分割してそれを混ぜ合わせ、混ぜ合わされたデータを使ってモデルをテストするために実行される。しかし、分割されたデータの一部が実世界データを代表していない場合、モデルが訓練データに過剰に適合してしまい、実世界アプリケーションでうまく機能しない場合がある。

【0029】

いくつかの実施形態では、このプロセスは、自動化され得る。Ｆ１スコアが例えば９０％超である場合、新しいバージョンのＡＩ／ＭＬモデルが展開され得る。この新しいバージョンは、その後、人間によってドリフトについてチェックされおよび／または検証され得る。

【0030】

特定の実施形態は、ロボティックプロセスオートメーション（ＲＰＡ）に採用されてもよい。図１は、本発明の実施形態による、ＲＰＡシステム１００を示すアーキテクチャ図である。ＲＰＡシステム１００は、開発者がワークフローを設計して実装することを可能にするデザイナ１１０を含む。デザイナ１１０は、アプリケーション統合のためのソリューションを提供するとともに、サードパーティアプリケーション、管理情報技術（ＩＴ）タスク、およびビジネスＩＴプロセスを自動化する。デザイナ１１０は、ビジネスプロセスのグラフィック表現である自動化プロジェクトの開発を容易にし得る。簡単に言えば、デザイナ１１０は、ワークフローおよびロボットの開発および展開を容易にする。

【0031】

自動化プロジェクトは、本明細書で「アクティビティ」と定義されるワークフローで開発されたステップのカスタムセット間の遂行順序および関係の制御を開発者に与えることにより、ルールベースのプロセスの自動化を可能にする。デザイナ１１０の実施形態の商業的な一例は、ＵｉＰａｔｈ Ｓｔｕｄｉｏ（商標）である。各アクティビティは、ボタンをクリックする、ファイルを読む、ログパネルに書き込むなどのアクションを含み得る。いくつかの実施形態では、ワークフローは入れ子になっているか、または埋め込まれ得る。

【0032】

ワークフローのタイプには、シーケンス、フローチャート、ＦＳＭ、および／またはグローバル例外ハンドラなどを含み得るが、これらに限定されない。シーケンスは、ワークフローを乱雑にすることなく、あるアクティビティから別のアクティビティへのフローを可能にする、線形プロセスに特に適し得る。フローチャートは、特により複雑なビジネスロジックに適し得、複数の分岐ロジックオペレータを介して、より多様な方法で意思決定の統合およびアクティビティの接続を可能にする。ＦＳＭは、大規模なワークフローに特に適し得る。ＦＳＭは、条件（すなわち、遷移）またはアクティビティによりトリガされる有限の数の状態をそれらの遂行中に使用し得る。グローバル例外ハンドラは、遂行エラーに遭遇したときのワークフローの挙動を決定したり、プロセスをデバッグしたりするのに特に適し得る。

【0033】

ワークフローがデザイナ１１０内で開発されると、ビジネスプロセスの遂行は、コンダクタ１２０によって調整され、デザイナ１１０内で開発されたワークフローを遂行する１または複数のロボット１３０を調整する。コンダクタ１２０の実施形態の商業的な一例は、ＵｉＰａｔｈ Ｏｒｃｈｅｓｔｒａｔｏｒ（商標）である。コンダクタ１２０は、環境におけるリソースの生成、監視、および展開の管理を容易にする。コンダクタ１２０は、サードパーティのソリューションおよびアプリケーションとの統合ポイント、または統合ポイントの１つとして動作し得る。

【0034】

コンダクタ１２０は、全てのロボット１３０を管理し得、ロボット１３０を集中ポイントから接続して遂行する。管理され得るロボット１３０のタイプには、アテンディッドロボット１３２、アンアテンディッドロボット１３４、開発ロボット（アンアテンディッドロボット１３４と同様であるが、開発およびテストの目的で使用される）、および非生産ロボット（アテンディッドロボット１３２と同様であるが、開発およびテストの目的で使用される）が含まれるが、これらに限定されない。アテンディッドロボット１３２は、ユーザーイベントによってトリガされ、同じコンピューティングシステム上で人と並んで動作する。アテンディッドロボット１３２は、集中プロセスデプロイメントおよびロギング媒体のためのコンダクタ１２０とともに使用され得る。アテンディッドロボット１３２は、人のユーザーが様々なタスクを達成するのを支援してもよく、ユーザーイベントによってトリガされてもよい。いくつかの実施形態では、プロセスは、このタイプのロボット上でコンダクタ１２０から開始することができず、および／またはそれらはロックされた画面の下で実行することができない。特定の実施形態では、アテンディッドロボット１３２は、ロボットトレイからまたはコマンドプロンプトからのみ起動され得る。アテンディッドロボット１３２は、いくつかの実施形態では、人の監督下で動作することが好ましい。

【0035】

アンアテンディッドロボット１３４は、仮想環境で無人で動作し、多くのプロセスを自動化し得る。アンアテンディッドロボット１３４は、リモート遂行、監視、スケジューリング、および作業キューのサポートの提供を担当し得る。全てのロボットタイプのためのデバッグは、いくつかの実施形態では、デザイナ１１０で実行され得る。アテンディッドロボットおよびアンアテンディッドロボットの両方は、メインフレーム、ウェブアプリケーション、ＶＭ、エンタープライズアプリケーション（例えば、ＳＡＰ（登録商標）、ＳａｌｅｓＦｏｒｃｅ（登録商標）、Ｏｒａｃｌｅ（登録商標）などにより生成されたもの）、およびコンピューティングシステムアプリケーション（例えば、デスクトップおよびラップトップアプリケーション、モバイルデバイスアプリケーション、ウェアラブルコンピュータアプリケーションなど）を含むが、これらに限定されない様々なシステムおよびアプリケーションを自動化し得る。

【0036】

コンダクタ１２０は、プロビジョニング、展開、バージョニング、構成、キューイング、監視、ロギング、および／または相互接続性の提供を含むがこれらに限定されない様々な能力を有し得る。プロビジョニングは、ロボット１３０とコンダクタ１２０（例えば、ウェブアプリケーション）との間の接続を作成し、維持することを含み得る。展開は、遂行のために割り当てられたロボット１３０へのパッケージバージョンの正しい配信を保証することを含み得る。バージョニングは、いくつかの実施形態では、いくつかのプロセスまたは構成の固有のインスタンスの管理を含んでもよい。構成は、ロボット環境およびプロセス構成の維持および配信を含み得る。キューイングは、キューおよびキュー項目の管理を提供することを含み得る。監視は、ロボットの特定データを追跡し、ユーザーの権限を維持することを含み得る。ロギングは、データベース（例えば、ＳＱＬデータベース）および／または別のストレージメカニズム（例えば、大規模なデータセットを格納し、迅速にクエリを実行する能力を提供するＥｌａｓｔｉｃＳｅａｒｃｈ（登録商標））へのログの保存およびインデックス作成を含み得る。コンダクタ１２０は、サードパーティのソリューションおよび／またはアプリケーションのための通信の集中点として操作することにより、相互接続性を提供し得る。

【0037】

ロボット１３０は、デザイナ１１０で構築されたワークフローを実行する遂行エージェントである。ロボット（複数可）１３０のいくつかの実施形態の１つの商業的な例は、ＵｉＰａｔｈ Ｒｏｂｏｔｓ（商標）である。いくつかの実施形態では、ロボット１３０は、デフォルトで、Ｍｉｃｒｏｓｏｆｔ Ｗｉｎｄｏｗｓ（登録商標）Ｓｅｒｖｉｃｅ Ｃｏｎｔｒｏｌ Ｍａｎａｇｅｒ（ＳＣＭ）管理サービスをインストールする。その結果、このようなロボット１３０は、ローカルシステムアカウントの下でインタラクティブなＷｉｎｄｏｗｓ（登録商標）セッションを開くことができ、Ｗｉｎｄｏｗｓ（登録商標）サービスの権利を有し得る。

【0038】

いくつかの実施形態では、ロボット１３０は、ユーザーモードで設置され得る。このようなロボット１３０については、所定のロボット１３０が設置されているユーザーと同じ権利を有することを意味する。この特色はまた、各マシンを最大限に全活用することを保証する高密度（ＨＤ）ロボットにも利用可能であり得る。いくつかの実施形態では、いずれかのタイプのロボット１３０は、ＨＤ環境で構成され得る。

【0039】

いくつかの実施形態におけるロボット１３０は、複数のコンポーネントに分割され、それぞれが特定の自動化タスクに特化されている。いくつかの実施形態におけるロボットコンポーネントは、ＳＣＭ管理ロボットサービス、ユーザーモードロボットサービス、エグゼキュータ、エージェント、およびコマンドラインを含むが、これらに限定されない。ＳＣＭ管理ロボットサービスは、Ｗｉｎｄｏｗｓ（登録商標）セッションを管理および監視し、コンダクタ１２０と遂行ホスト（すなわち、ロボット１３０が遂行されるコンピューティングシステム）との間のプロキシとして動作する。これらのサービスは、ロボット１３０の資格情報を任されて管理する。コンソールアプリケーションは、ローカルシステム下のＳＣＭにより起動される。

【0040】

いくつかの実施形態におけるユーザーモードロボットサービスは、Ｗｉｎｄｏｗｓ（登録商標）セッションを管理および監視し、コンダクタ１２０と遂行ホストとの間のプロキシとして動作する。ユーザーモードロボットサービスは、ロボット１３０の資格情報を任されて管理し得る。ＳＣＭ管理ロボットサービスがインストールされていない場合、Ｗｉｎｄｏｗｓ（登録商標）アプリケーションが自動的に起動され得る。

【0041】

エグゼキュータは、Ｗｉｎｄｏｗｓ（登録商標）セッションの下で与えられたジョブを遂行し得る（つまり、ワークフローを遂行し得る。エグゼキュータは、モニタ毎のドットパーインチ（ＤＰＩ）設定を意識し得る。エージェントは、システムトレイウィンドウに利用可能なジョブを表示するＷｉｎｄｏｗｓ（登録商標） Ｐｒｅｓｅｎｔａｔｉｏｎ Ｆｏｕｎｄａｔｉｏｎ（ＷＰＦ）アプリケーションであり得る。エージェントはサービスのクライアントであり得る。エージェントは、ジョブの開始または停止、設定の変更を依頼し得る。コマンドラインはサービスのクライアントである。コマンドラインは、ジョブの開始を要求し、その出力を待つことができるコンソールアプリケーションである。

【0042】

上で説明したように、ロボット１３０のコンポーネントが分割されていることは、開発者、サポートユーザー、およびコンピューティングシステムが、各コンポーネントが何を遂行しているかをより容易に実行し、特定し、および追跡するのに役立つ。この方法では、エグゼキュータとサービスに異なるファイアウォールルールを設定するなど、コンポーネントごとに特別な挙動を構成し得る。エグゼキュータは常に、いくつかの実施形態では、モニタごとのＤＰＩ設定を認識し得る。その結果、ワークフローは、ワークフローが作成されたコンピューティングシステムの構成に関係なく、いずれかのＤＰＩで遂行し得る。また、いくつかの実施形態では、デザイナ１１０からのプロジェクトは、ブラウザのズームレベルに依存しないようにし得る。ＤＰＩを認識していないまたは意図的に認識していないとマークされているアプリケーションの場合、いくつかの実施形態ではＤＰＩを無効にし得る。

【0043】

図２は、本発明の実施形態による、展開したＲＰＡシステム２００を示すアーキテクチャ図である。いくつかの実施形態では、ＲＰＡシステム２００は、図１のＲＰＡシステム１００であってもよく、またはその一部であってもよい。クライアント側、サーバー側、またはその両方が、本発明の範囲から逸脱することなく、いずれかの所望の数のコンピューティングシステムを含むことができることに留意すべきである。クライアント側では、ロボットアプリケーション２１０は、エグゼキュータ２１２、エージェント２１４、およびデザイナ２１６を含む。しかし、いくつかの実施形態では、デザイナ２１６は、コンピューティングシステム２１０上で実行されていなくてもよい。エグゼキュータ２１２はプロセスを実行している。図２に示すように、複数のビジネスプロジェクトが同時に実行され得る。エージェント２１４（例えば、Ｗｉｎｄｏｗｓ（登録商標）サービス）は、本実施形態では、全てのエグゼキュータ２１２のための単一の接続ポイントである。この実施形態における全てのメッセージは、コンダクタ２３０に記録され、それは、データベースサーバー２４０、インデクササーバー２５０、またはその両方を介して、それらをさらに処理する。図１に関して上述したように、エグゼキュータ２１２は、ロボットコンポーネントであり得る。

【0044】

いくつかの実施形態では、ロボットは、マシン名とユーザー名との間の関連付けを表す。ロボットは、複数のエグゼキュータを同時に管理し得る。同時に実行される複数のインタラクティブセッションをサポートするコンピューティングシステム（Ｗｉｎｄｏｗｓ（登録商標）Ｓｅｒｖｅｒ ２０１２など）では、複数のロボットが同時に実行され得、それぞれが一意のユーザー名を使用して別々のＷｉｎｄｏｗｓ（登録商標）セッションで実行され得る。これは、上記のＨＤロボットと呼ばれる。

【0045】

エージェント２１４はまた、ロボットの状態を送信し（例えば、ロボットがまだ機能していることを示す「ハートビート」メッセージを定期的に送信する）、遂行されるパッケージの要求されるバージョンをダウンロードすることにも責任を負う。エージェント２１４とコンダクタ２３０との間の通信は、いくつかの実施形態では、常にエージェント２１４によって開始される。通知シナリオでは、エージェント２１４は、後にコンダクタ２３０によってロボットにコマンド（例えば、開始、停止など）を送信するために使用されるＷｅｂＳｏｃｋｅｔチャネルを開いてもよい。

【0046】

サーバー側には、プレゼンテーション層（ウェブアプリケーション２３２、オープンデータプロトコル（ＯＤａｔａ）代表状態転送（ＲＥＳＴ）アプリケーションプログラミングインターフェース（ＡＰＩ）エンドポイント２３４、通知および監視２３６）、サービス層（ＡＰＩ実装／ビジネスロジック２３８）、永続層（データベースサーバー２４０、インデクササーバー２５０）が含まれる。コンダクタ２３０は、ウェブアプリケーション２３２、ＯＤａｔａ ＲＥＳＴ ＡＰＩエンドポイント２３４、通知および監視２３６、ならびにＡＰＩ実装／ビジネスロジック２３８を含む。いくつかの実施形態では、ユーザーがコンダクタ２３０のインターフェース（例えば、ブラウザ２２０を介して）で実行するほとんどのアクションは、様々なＡＰＩを呼び出すことによって実行される。このような動作は、本発明の範囲を逸脱することなく、ロボット上でのジョブの起動、キュー内のデータの追加／削除、無人で実行するジョブのスケジューリングなどを含み得るが、これらに限定されない。ウェブアプリケーション２３２は、サーバープラットフォームのビジュアル層である。この実施形態では、ウェブアプリケーション２３２は、ハイパーテキストマークアップ言語（ＨＴＭＬ）およびジャバスクリプト（ＪＳ）を使用する。しかし、本発明の範囲を逸脱することなく、いずれかの所望のマークアップ言語、スクリプト言語、または他のいずれかのフォーマットを使用し得る。ユーザーは、コンダクタ２３０を制御するための様々な動作を実行するために、本実施形態ではブラウザ２２０を介してウェブアプリケーション２３２からのウェブページとインタラクションする。例えば、ユーザーは、ロボットグループを作成し、ロボットへのパッケージの割り当てを行い、ロボット毎および／またはプロセス毎のログを解析し、ロボットを起動しおよび停止などし得る。

【0047】

ウェブアプリケーション２３２に加えて、コンダクタ２３０は、ＯＤａｔａ ＲＥＳＴ ＡＰＩエンドポイント２３４を公開するサービス層も含む。しかし、本発明の範囲を逸脱することなく、他のエンドポイントが含まれていてもよい。ＲＥＳＴ ＡＰＩは、ウェブアプリケーション２３２とエージェント２１４の両方により消費される。エージェント２１４は、本実施形態では、クライアントコンピュータ上の１または複数のロボットのスーパーバイザである。

【0048】

本実施形態のＲＥＳＴ ＡＰＩは、構成、ロギング、監視、およびキューイング機能をカバーする。構成エンドポイントは、いくつかの実施形態では、アプリケーションのユーザー、権限、ロボット、アセット、リリース、および環境を定義し、構成するために使用されてもよい。ロギングＲＥＳＴエンドポイントは、例えば、エラー、ロボットによって送信された明示的なメッセージ、およびその他の環境固有の情報など、様々な情報をログに記録するために使用され得る。デプロイメントＲＥＳＴエンドポイントは、コンダクタ２３０においてジョブ開始コマンドが使用された場合に遂行されるべきパッケージのバージョンを問い合わせるためにロボットにより使用されてもよい。キューイングＲＥＳＴエンドポイントは、キューへのデータの追加、キューからのトランザクションの取得、トランザクションのステータスの設定など、キューおよびキューアイテムの管理を担ってもよい。

【0049】

ＲＥＳＴエンドポイントの監視は、ウェブアプリケーション２３２およびエージェント２１４を監視してもよい。通知および監視ＡＰＩ２３６は、エージェント２１４の登録、エージェント２１４への構成設定の配信、ならびにサーバーおよびエージェント２１４からの通知の送受信に使用されるＲＥＳＴエンドポイントであってもよい。通知および監視ＡＰＩ２３６は、いくつかの実施形態では、ＷｅｂＳｏｃｋｅｔ通信を使用してもよい。

【0050】

永続層は、本実施形態では、一対のサーバー－データベースサーバー２４０（例えば、ＳＱＬサーバー）およびインデクササーバー２５０を含む。本実施形態におけるデータベースサーバー２４０は、ロボット、ロボットグループ、関連するプロセス、ユーザー、役割、スケジュールなどの構成を格納する。この情報は、いくつかの実施形態では、ウェブアプリケーション２３２を介して管理される。データベースサーバー２４０は、キューおよびキューアイテムを管理してもよい。いくつかの実施形態では、データベースサーバー２４０は、ロボットにより記録されたメッセージを（インデクササーバー２５０に加えて、またはそれに代えて）格納してもよい。

【0051】

いくつかの実施形態では任意であるが、インデクササーバー２５０は、ロボットにより記録された情報を保存し、インデックスを作成する。特定の実施形態では、インデクササーバー２５０は、構成設定を介して無効化されてもよい。いくつかの実施形態では、インデクササーバー２５０は、オープンソースプロジェクトの全文検索エンジンであるＥｌａｓｔｉｃＳｅａｒｃｈ（登録商標）を使用する。ロボットにより記録されたメッセージ（例えば、ログメッセージまたはライン書き込みのようなアクティビティを使用して）は、ロギングＲＥＳＴエンドポイント（複数可）を介してインデクササーバー２５０に送信されてもよく、そこで将来の利用のためにそれらはインデックス化される。

【0052】

図３は、本発明の実施形態による、デザイナ３１０、アクティビティ３２０、３３０、およびドライバ３４０の間の関係３００を示すアーキテクチャ図である。以上のように、開発者は、デザイナ３１０を用いて、ロボットによって遂行されるワークフローを開発する。ワークフローは、ユーザー定義のアクティビティ３２０およびＵＩオートメーションアクティビティ３３０を含んでもよい。いくつかの実施形態では、画像中の非テキストの視覚的コンポーネントを特定することができ、これは、本明細書ではコンピュータビジョン（ＣＶ）と呼ばれる。このようなコンポーネントに関連するいくつかのＣＶアクティビティは、クリック、タイプ、テキストを取得、ホバー、要素の有無を検出、スコープの更新、ハイライトなどを含み得るが、これらに限定されない。いくつかの実施形態では、クリックは、例えば、ＣＶ、光学的文字認識（ＯＣＲ）、ファジーテキストマッチング、およびマルチアンカーを使用して要素を特定し、それをクリックする。タイプは、上記および要素内のタイプを用いて要素を特定してもよい。テキストの取得は、特定のテキストの場所を特定し、ＯＣＲを使用してそれをスキャンし得る。ホバーは、要素を特定し、その上にホバーし得る。要素の有無の検出は、上述した技法を用いて、画面上に要素の有無を検出するかどうかを確認し得る。いくつかの実施形態では、デザイナ３１０に実装され得る数百または数千でさえのアクティビティが存在してもよい。しかし、本発明の範囲を逸脱することなく、いずれかの数および／またはアクティビティのタイプを利用することができる。

【0053】

ＵＩオートメーションアクティビティ３３０は、低レベルのコード（例えば、ＣＶアクティビティ）で記述され、画面とのインタラクションを促進する特別な低レベルのアクティビティのサブセットである。ＵＩオートメーションアクティビティ３３０は、ロボットが所望のソフトウェアとインタラクションすることを可能にするドライバ３４０を介して、これらのインタラクションを促進する。例えば、ドライバ３４０は、ＯＳドライバ３４２、ブラウザドライバ３４４、ＶＭドライバ３４６、エンタープライズアプリケーションドライバ３４８などを含んでもよい。

【0054】

ドライバ３４０は、フックを探したり、キーを監視したりするなど、低レベルでＯＳとインタラクションしてもよい。それらは、Ｃｈｒｏｍｅ（登録商標）、ＩＥ（登録商標）、Ｃｉｔｒｉｘ（登録商標）、ＳＡＰ（登録商標）などとの統合を促進してもよい。例えば、「クリック」アクティビティは、ドライバ３４０を介して、これらの異なるアプリケーションにおいて同じ役割を果たす。

【0055】

図４は、本発明の実施形態による、ＲＰＡシステム４００を示すアーキテクチャ図である。いくつかの実施形態では、ＲＰＡシステム４００は、図１および／または図２のＲＰＡシステム１００および／または２００であってもよいし、それを含んでもよい。ＲＰＡシステム４００は、ロボットを実行する複数のクライアントコンピューティングシステム４１０を含む。コンピューティングシステム４１０は、その上で実行されるウェブアプリケーションを介してコンダクタコンピューティングシステム４２０と通信することができる。コンダクタコンピューティングシステム４２０は、順番に、データベースサーバー４３０および任意のインデクササーバー４４０と通信することができる。

【0056】

図１および図３に関して、これらの実施形態ではウェブアプリケーションが使用されているが、本発明の範囲から逸脱することなく、任意の適切なクライアント／サーバーソフトウェアを使用することができることに留意すべきである。例えば、コンダクタは、クライアントコンピューティングシステム上で、非ウェブベースのクライアントソフトウェアアプリケーションと通信するサーバーサイドアプリケーションを実行してもよい。

【0057】

図５は、本発明の実施形態による、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するように構成されたコンピューティングシステム５００を示すアーキテクチャ図である。いくつかの実施形態では、コンピューティングシステム５００は、本明細書に描かれたおよび／または記載された１または複数のコンピューティングシステムであってもよい。コンピューティングシステム５００は、情報を通信するためのバス５０５または他の通信機構と、情報を処理するためのバス５０５に結合されたプロセッサ（複数可）５１０とを含む。プロセッサ（複数可）５１０は、中央処理ユニット（ＣＰＵ）、特定用途集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、グラフィックスプロセッシングユニット（ＧＰＵ）、それらの複数のインスタンス、および／またはそれらのいずれかの組み合わせを含む、いずれかのタイプの一般的または特定用途向けプロセッサであり得る。プロセッサ（複数可）５１０はまた、複数の処理コアを有してもよく、コアの少なくとも一部は、特定の機能を実行するように構成され得る。いくつかの実施形態では、複数並列処理が使用されてもよい。特定の実施形態では、少なくとも１つのプロセッサ（複数可）５１０は、生物学的ニューロンを模倣する処理要素を含むニューロモーフィック回路であり得る。いくつかの実施形態では、ニューロモーフィック回路は、フォンノイマンコンピューティングアーキテクチャの典型的なコンポーネントを必要としない場合がある。

【0058】

コンピューティングシステム５００は、プロセッサ（複数可）５１０によって遂行される情報および命令を格納するためのメモリ５１５をさらに含む。メモリ５１５は、ランダムアクセスメモリ（ＲＡＭ）、読み出し専用メモリ（ＲＯＭ）、フラッシュメモリ、キャッシュ、磁気ディスクもしくは光ディスクなどの静的記憶装置、または他のタイプの非一時的なコンピュータ読み取り可能な媒体、あるいはそれらのいずれかの組み合わせで構成され得る。非一時的なコンピュータ読み取り可能な媒体は、プロセッサ（複数可）５１０によりアクセス可能ないずれかの利用可能な媒体であってもよく、揮発性媒体、不揮発性媒体または両方などを含み得る。また、媒体は、取り外し可能なもの、取り外し不可能なもの、または両方であってもよい。

【0059】

さらに、コンピューティングシステム５００は、無線および／または有線接続を介して通信ネットワークへのアクセスを提供するために、トランシーバなどの通信デバイス５２０を含む。いくつかの実施形態では、通信デバイス５２０は、周波数分割多元接続（ＦＤＭＡ）、シングルキャリアＦＤＭＡ（ＳＣ－ＦＤＭＡ）、時分割多元接続（ＴＤＭＡ）、符号分割多元接続（ＣＤＭＡ）、直交周波数分割多重方式（ＯＦＤＭ）、直交周波数分割多元接続（ＯＦＤＭＡ）、移動体用グローバルシステム（ＧＳＭ：Ｇｌｏｂａｌ Ｓｙｓｔｅｍ ｆｏｒ Ｍｏｂｉｌｅ）通信、汎用パケット無線サービス（ＧＰＲＳ：Ｇｅｎｅｒａｌ Ｐａｃｋｅｔ Ｒａｄｉｏ Ｓｅｒｖｉｃｅ）、ユニバーサル移動体通信システム（ＵＭＴＳ：Ｕｎｉｖｅｒｓａｌ Ｍｏｂｉｌｅ Ｔｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ｓｙｓｔｅｍ）、ｃｄｍａ２０００、広帯域ＣＤＭＡ（Ｗ－ＣＤＭＡ：Ｗｉｄｅｂａｎｄ ＣＤＭＡ）、高速ダウンリンクパケットアクセス（ＨＳＤＰＡ：Ｈｉｇｈ－Ｓｐｅｅｄ Ｄｏｗｎｌｉｎｋ Ｐａｃｋｅｔ Ａｃｃｅｓｓ）、高速アップリンクパケットアクセス（ＨＳＵＰＡ：Ｈｉｇｈ－Ｓｐｅｅｄ Ｕｐｌｉｎｋ Ｐａｃｋｅｔ Ａｃｃｅｓｓ）、高速パケットアクセス（ＨＳＰＡ：Ｈｉｇｈ－Ｓｐｅｅｄ Ｐａｃｋｅｔ Ａｃｃｅｓｓ）、ロングタームエボリューション（ＬＴＥ：Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）、ＬＴＥアドバンスト（ＬＴＥ－Ａ：ＬＴＥ Ａｄｖａｎｃｅｄ）、８０２．１１ｘ、Ｗｉ－Ｆｉ、Ｚｉｇｂｅｅ、超広帯域無線（ＵＷＢ：Ｕｌｔｒａ－ＷｉｄｅＢａｎｄ）、８０２．１６ｘ、８０２．１５、Ｈｏｍｅ Ｎｏｄｅ－Ｂ（ＨｎＢ）、Ｂｌｕｅｔｏｏｔｈ、無線ＩＤタグ（ＲＦＩＤ：Ｒａｄｉｏ Ｆｒｅｑｕｅｎｃｙ Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ）、ＩｒＤＡ（Ｉｎｆｒａｒｅｄ Ｄａｔａ Ａｓｓｏｃｉａｔｉｏｎ）、近距離無線通信（ＮＦＣ：Ｎｅａｒ－Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）、第５世代（５Ｇ）、Ｎｅｗ Ｒａｄｉｏ（ＮＲ）、それらのいずれかの組み合わせ、および／または本発明の範囲から逸脱することなく、いずれかの他の現在存在するまたは将来実装される通信標準および／またはプロトコルを使用するように構成され得る。いくつかの実施形態では、通信デバイス５２０は、本発明の範囲から逸脱することなく、単数のアンテナ、アレイ状のアンテナ、フェーズドアンテナ、スイッチドアンテナ、ビームフォーミングアンテナ、ビームステアリングアンテナ、それらの組み合わせ、および／またはいずれかの他のアンテナ構成である１または複数のアンテナを含み得る。

【0060】

プロセッサ（複数可）５１０は、バス５０５を介して、プラズマディスプレイ、液晶ディスプレイ（ＬＣＤ）、発光ダイオード（ＬＥＤ）ディスプレイ、電界放出ディスプレイ（ＦＥＤ）、有機発光ダイオード（ＯＬＥＤ）ディスプレイ、フレキシブルＯＬＥＤディスプレイ、フレキシブル基板ディスプレイ、プロジェクションディスプレイ、４Ｋディスプレイ、高精細ディスプレイ、Ｒｅｔｉｎａ（登録商標）ディスプレイ、ＩＰＳ（Ｉｎ－Ｐｌａｎｅ Ｓｗｉｔｃｈｉｎｇ）ディスプレイ、またはユーザーに情報を表示するためのいずれかの他の適切なディスプレイなどのディスプレイ５２５にさらに結合されている。ディスプレイ５２５は、抵抗方式、静電容量方式、表面弾性波（ＳＡＷ）静電容量方式、赤外線方式、光学イメージング方式、分散信号方式、音響パルス認識方式、フラストレート全内部反射方式などを用いて、タッチ（ハプティック）ディスプレイ、３次元（３Ｄ）タッチディスプレイ、マルチ入力タッチディスプレイ、マルチタッチディスプレイなどとして構成されていてもよい。本発明の範囲を逸脱することなく、いずれかの好適な表示デバイスおよびハプティックＩ／Ｏを使用することができる。

【0061】

コンピュータマウス、タッチパッドなどのようなキーボード５３０およびカーソル制御デバイス５３５は、ユーザーがコンピューティングシステム５００とインターフェースすることを可能にするために、バス５０５にさらに結合されている。しかしながら、特定の実施形態では、物理的なキーボードおよびマウスが存在しない場合があり、ユーザーは、ディスプレイ５２５および／またはタッチパッド（図示せず）のみを介してデバイスとインタラクションすることができる。任意の入力デバイスの種類および組み合わせは、設計の選択の問題として使用され得る。特定の実施形態では、物理的な入力デバイスおよび／またはディスプレイは存在しない。例えば、ユーザーは、コンピューティングシステム５００と通信している別のコンピューティングシステムを介してリモートでそれとインタラクションしてもよいし、コンピューティングシステム５００は自律的に動作してもよい。

【0062】

メモリ５１５は、プロセッサ（複数可）５１０により遂行されたときに機能を提供するソフトウェアモジュールを格納する。モジュールは、コンピューティングシステム５００のためのオペレーティングシステム５４０を含む。モジュールはさらに、本明細書に記載された処理の全てもしくは一部、またはその派生物処理を実行するように構成されたＡＩ／ＭＬモデルドリフト検出および修正モジュール５４５を含む。コンピューティングシステム５００は、付加的な機能を含む１または複数の付加的な機能モジュール５５０を含み得る。

【0063】

当業者であれば、「システム」は、本発明の範囲から逸脱することなく、サーバー、組み込みコンピューティングシステム、パーソナルコンピュータ、コンソール、パーソナルデジタルアシスタント（ＰＤＡ）、携帯電話、タブレットコンピューティングデバイス、量子コンピューティングシステム、または他のいずれかの適切なコンピューティングデバイス、またはデバイスの組み合わせとして具現化され得ることを理解するであろう。上述した機能を「システム」により実行されるものとして提示することは、何ら本発明の範囲を限定することを意図するものではなく、本発明の多くの実施形態の一例を提供することを意図するものである。実際、本明細書に開示された方法、システム、および装置は、クラウドコンピューティングシステムを含むコンピューティング技法と整合性のあるローカライズされた形態および分配された形態で実装されてもよい。

【0064】

本明細書で説明するシステム特色のいくつかは、実装の独立性をより強調するために、モジュールとして提示されていることに留意すべきである。例えば、モジュールは、カスタムの非常に大規模な集積（ＶＬＳＩ）回路またはゲートアレイ、ロジックチップ、トランジスタ、または他の個別部品のような既製の半導体を含むハードウェア回路として実装され得る。また、モジュールは、フィールドプログラマブルゲートアレイ、プログラマブルアレイロジック、プログラマブルロジックデバイス、グラフィックス処理ユニットなどのプログラマブルハードウェアデバイスに実装され得る。

【0065】

モジュールはまた、様々なタイプのプロセッサにより遂行されるためのソフトウェアに少なくとも部分的に実装され得る。例えば、遂行可能コードの特定された単位は、例えば、オブジェクト、プロシージャ、または関数として編成されていてもよいコンピュータ命令の１または複数の物理的または論理的なブロックを含み得る。それにもかかわらず、遂行可能な特定されたモジュールは、物理的に一緒に配置されている必要はなく、論理的に結合されたときにモジュールを含み、モジュールのために述べられた目的を達成するために、異なる場所に格納された別々の命令を含んでいてもよい。さらに、モジュールは、例えば、ハードディスクドライブ、フラッシュデバイス、ＲＡＭ、テープのような非一時的なコンピュータ読み取り可能な媒体、および／または本発明の範囲から逸脱することなくデータを格納するために使用される他のいずれかの非一時的なコンピュータ読み取り可能な媒体に格納されていてもよい。

【0066】

実際、遂行可能コードのモジュールは、単一の命令であってもよいし、多数の命令であってもよいし、さらには、複数の異なるコードセグメント、異なるプログラム間、および複数のメモリデバイス間に分散されていてもよい。同様に、動作データは、モジュール内で特定され、ここで示されてもよく、いずれかの適切なタイプのデータ構造体内でいずれかの適切な形態で具現化され、組織化され得る。動作データは、単一のデータセットとして収集されてもよいし、または異なる記憶デバイスにわたり異なる場所に分散されていてもよく、少なくとも部分的には、単にシステムまたはネットワーク上の電子信号として存在していてもよい。

【0067】

いくつかの実施形態では、ＡＩ／ＭＬモデルのパフォーマンスに関する情報が取得される。この情報は、そのユーザーまたはコンピューティングシステムに特注されたローカルなＡＩ／ＭＬモデルについては単一のコンピューティングシステムから、より一般的に適用されることが意図されている（例えば、グループレベル、会社レベル、グローバルレベルなどでソリューションを提供する）ＡＩ／ＭＬモデルについては複数または多数のコンピューティングシステムから、ＡＩ／ＭＬモデル自体から、ＡＩ／ＭＬモデルを監視するアプリケーションもしくは他のプロセスから、それらの任意の組み合わせなどから得られ得る。この情報は、ＡＩ／ＭＬモデルが時間とともにどの程度うまく機能しているかを判断するのに役立ち得る。例えば、情報は、限定されないが、どのような予測がなされたか（例えば、ＡＩ／ＭＬモデルからの出力）、ＡＩ／ＭＬモデルがいくつの予測を行い、いくつが実際に使用されたか、予測の１または複数の統計分布（例えば、正規分布、二項分布、または任意の他の統計分布）、ＡＩ／ＭＬモデルに提供された入力データ、これらの任意の組み合わせなどを含み得る。いくつかの実施形態では、統計分布は、ＲＰＡロボットによってそのワークフローで取られるアクションにマッピングされる（例えば、アクティビティにマッピングされる）。

【0068】

この情報が収集された後、情報が解析されて、データドリフト、モデルドリフト、またはその両方が発生したかどうかを判断する。変化条件が見出される（例えば、予測値または入力データが過去の範囲から外れる）および／または変化しきい値が満たされるもしくはそれを超える（例えば、モデルの統計的パフォーマンスが過去のパフォーマンスから少なくとも一定量逸脱する）と、アラートまたは再訓練のトリガが生成される。いくつかの実施形態では、ＡＩ／ＭＬモデルパフォーマンスがドリフトしたとみなされる前に、変化条件または変化しきい値が少なくともある期間またはインスタンスの数満たされなければならない。特定の実施形態では、元のデータセットと新しいデータセットの一次元分布間の距離は、共変量ドリフトについて測定され得る。また、残留ドリフト間の距離は、ＡＩ／ＭＬモデルが既に存在する場合は、そのバージョンで確認され得る。

【0069】

ＡＩ／ＭＬモデルは、その後、ＡＩ／ＭＬモデルパフォーマンスを改善することを試みるために、収集された情報および／または他の情報を使用して再訓練され得る。いくつかの実施形態では、再訓練されたＡＩ／ＭＬモデルが一定のしきい値を満たした場合、それは既存のＡＩ／ＭＬモデルと一緒に自動的に展開され、モデルのドリフトは、新しいバージョンのＡＩ／ＭＬモデルが実データ上でより良く機能しているかどうかを見るために共存して（ｓｉｄｅ－ｂｙ－ｓｉｄｅ）測定され得る。特定の実施形態では、新しいバージョンのＡＩ／ＭＬモデルは、それがこれらのしきい値を満たさない限り、展開されない。

【0070】

いくつかの実施形態では、カナリアテストが使用される。例えば、新しいバージョンのＡＩ／ＭＬモデルは、ＡＩ／ＭＬモデルの変化を知らない可能性がある比較的少数のユーザー（例えば、地理的または他の何らかのフィルタによる一度に１０％のユーザー）によって使用され得る。新しいバージョンのＡＩ／ＭＬモデルが以前のバージョンと同様にうまく機能していない場合、新しいバージョンはロールバックされ、再訓練が実行され得る。

【0071】

特定の実施形態では、チャンピオン／チャレンジャー技法が使用されてもよく、ここで、入力データは、新しいバージョンのＡＩ／ＭＬモデルと以前のバージョンのＡＩ／ＭＬモデルの両方に送られるが、出力の１つのセットのみが使用される。これは、新しいバージョンのＡＩ／ＭＬモデルと以前のバージョンのＡＩ／ＭＬモデルがどのように機能するかを、いくつかのグラウンドトゥルース（ｇｒｏｕｎｄ ｔｒｕｔｈ）に基づいて同一条件の下で解析するのに役立ち得る。この技法は、どのＡＩ／ＭＬモデルバージョンが適切であるかまたはより適切に近いのかをより頻繁に判断するのに役立ち得る。また、この技法は、以前のバージョンのＡＩ／ＭＬモデルが特定の動作を示していた理由に関するトラブルシューティングに役立つ情報を提供し得る。

【0072】

いくつかの実施形態では、どの情報がワークフローアクティビティからＲＰＡロボットによって呼び出されおよび／またはワークフローアクティビティ内でＲＰＡロボットによって遂行されるＡＩ／ＭＬモデルに供給されるかに関して、自動化プラットフォームによって共通のフレームワークが提供され、強制される。このフレームワークは、ＲＰＡプラットフォームで使用されるＡＩ／ＭＬモデルが意図したデータを確実に消費するのに役立ち得る。このフレームワークは、特定のフィールド要件および／または値を強制するために、ＡＩ／ＭＬモデルが適切な形式で入力を受信することを確実にするのにも役立ち得る。

【0073】

図６は、本発明の実施形態による、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するように構成されたシステム６００を示すアーキテクチャ図である。システム６００は、デスクトップコンピュータ６０２、６０３、タブレット６０４、スマートフォン６０６などのユーザーコンピューティングシステムを含む。しかしながら、スマートウォッチ、ラップトップコンピュータ、インターネットオブシングス（ＩｏＴ）デバイス、車両コンピューティングシステムなどを含むが、これらに限定されない、本発明の範囲から逸脱しない、いずれかの所望のコンピューティングシステムが使用され得る。また、３つのユーザーコンピューティングシステムが図６に示されているが、本発明の範囲から逸脱することなく、いずれかの好適な数のコンピューティングシステムが使用され得る。例えば、いくつかの実施形態では、数十、数百、数千、または数百万のコンピューティングシステムが使用されてもよい。

【0074】

各コンピューティングシステム６０２、６０４、６０６は、ＭＬモデル（例えば、サーバー６３０のＡＩ／ＭＬモデル６３２のうちの１つ、コンピューティングシステム６０２、６０４、６０６上のローカルＭＬモデル、および任意の他の場所に位置するＭＬモデル等）を呼び出すおよび／または遂行するＲＰＡロボット６１０をその上で動作させている。ＲＰＡロボット６１０は、いくつかの実施形態では、ＲＰＡデザイナアプリケーションを介して生成されたロボットであり得る。この実施形態では、ＲＰＡロボット６１０は、ＡＩ／ＭＬモデル６３２に要求、および潜在的に入力データを送信する。しかし、いくつかの実施形態では、ＡＩ／ＭＬモデル６３２は、ＲＰＡロボット６１０からの入力データに加えまたはそれに代えて、１または複数の他のソース（例えば、データベース６４０、別のコンピューティングシステムなど）から入力データを取得し得る。

【0075】

ＲＰＡロボット６１０は、ネットワーク６２０（例えば、ローカルエリアネットワーク（ＬＡＮ）、移動通信ネットワーク、衛星通信ネットワーク、インターネット、それらの任意の組み合わせなど）を介して、サーバー６３０のＡＩ／ＭＬモデル６３２にＡＩ／ＭＬモデル要求を送信し、サーバー６３０のＡＩ／ＭＬモデル６３２からＡＩ／ＭＬモデル遂行結果を受信する。サーバー６３０は、ＡＩ／ＭＬモデル６３２のためのモデルドリフトに関連する情報を収集し、データベース６４０に格納する。この情報は、データドリフト、モデルドリフト、またはその両方に関連し得る。

【0076】

ＡＩ／ＭＬモデル６３２の１つについて、変化条件が見出される（例えば、予測または入力データが過去の範囲から外れる）および／または変化しきい値が満たされるもしくはそれを超える（例えば、モデル統計的パフォーマンスが少なくとも一定量だけ過去のパフォーマンスから逸脱する）場合、いくつかの実施形態では、サーバー６３０は、レビューアコンピューティングシステム６５０上で実行しているアプリケーション６５２に（例えば、レビューおよびラベリングのためのキューの一部として）アラートまたは再訓練トリガを送信する。いくつかの実施形態では、アプリケーション６５２は、レビューアがＡＩ／ＭＬモデルドリフトに関する情報を閲覧し、結果を修正し（例えば、モデルドリフトについて）、および／または入力データが本質的に変化したこと（例えば、データドリフト）を認識できるようにし得る。いくつかの実施形態では、アプリケーション６５２は、本番環境中のＭＬモデルを「所有」するＭＬ操作担当者が、モデルドリフトを二次元グラフで見ることを可能にし得る。例えば、ＰＣＡを使用して次元削減が実行され、特定の異常を視覚的に示し得る。これらの異常のうちの１つが発生した場合にフラグを立てるために、特定のアラートも作成され得る。

【0077】

いくつかの実施形態では、データが、ビジネスユーザーがデータの意味を理解できるような方法でビジネスユーザーに提示される（例えば、ビジネスデータの解析がどのように変化したかをビジネスユーザーに示す２Ｄグラフ）アプリケーション６５２における抽象化の層はより多く存在し得る。これは、より技術的に精通したＭＬ操作担当者向けの表示に加えまたはそれに代えて提示され得る。例えば、ワードクラウド（ｗｏｒｄ ｃｌｏｕｄ）のようなメカニズムを使用して、より頻繁に発生する結果をより大きなフォントで表示し、人間がどの結果が最も広く認められているかをより簡単に確認できるようにし得る。

【0078】

特定の実施形態では、重要な変化が強調されることがある。例えば、ビジネスユーザーは、ローンを承認するためのＡＩ／ＭＬモデルが、１日に承認された５つのローンから１日に承認された２０のローンに跳ね上がったことを見ることができる場合がある。その後、ビジネスユーザーは、問題が解決しない場合に再訓練が行われるまでずっと、モデルの動作を修正するためのルールを定義し得る。ビジネスユーザーは、ＡＩ／ＭＬモデルのパフォーマンスが原因ではない（例えば、ローン申請の数が増加した、より多くの適格な申請者が申請しているなど）異常があったかどうかを判断することもでき得る。人間は、アプリケーション６５２を使用して、自動化ドリフト検出メカニズムによって検出されなかった逸脱を引き起こしている変化を自分自身で判断することもできる。いくつかの実施形態では、１つは技術に精通したユーザー用と他方はビジネスユーザー用の２つのレイヤーが存在し得る。

【0079】

特定の実施形態では、コンピューティングシステム６５０およびアプリケーション６５２を含む複数または多数のコンピューティングシステムおよびレビューアプリケーションが、結果をまとめてレビューおよび修正するために使用され得る。いくつかの実施形態では、これらの結果は、共通のキューから引き出される。次いで、これらの修正は、サーバー６３０に戻って提供され、ドリフトＡＩ／ＭＬモデル６３２を再訓練するためにデータベース６４０に格納され得る。しかし、特定の実施形態では、サーバー６３０は、入力データの変更および／またはＡＩ／ＭＬモデル予測における変更によるＡＩ／ＭＬモデルドリフトが発生していることを自動的に検出し得る。

【0080】

ＡＩ／ＭＬデータおよび／またはモデルドリフトがサーバー６３０によって検出された後（ならびにいくつかの実施形態では人為的な修正後）、ドリフトＡＩ／ＭＬモデル６３２は再訓練される。いくつかの実施形態では、再訓練は、サーバー６３０によって実行される。しかし、特定の実施形態では、再訓練は、サーバー６３０に加えてまたはサーバー６３０の代わりに、１または複数の他のサーバーによって実行され得る。ドリフトＡＩ／ＭＬモデル６３２は、その後、ＡＩ／ＭＬモデルパフォーマンスを改善することを試みるために、収集された情報および／または他の情報を使用して再訓練され得る。

【0081】

新しいバージョンのＡＩ／ＭＬモデル６３２が適切に訓練された後（例えば、再訓練されたＡＩ／ＭＬモデル６３２が特定のしきい値を満たす場合）、サーバー６３０は、新しいバージョンのＡＩ／ＭＬモデル６３２をデータベース６４０に保存し、以前のバージョンのＡＩ／ＭＬモデルと置き換えることが可能である。しかし、特定の実施形態では、ＡＩ／ＭＬモデル６３２の複数のバージョンが格納され得る。次いで、サーバー６３０は、ＲＰＡロボット６１０によって呼び出されるように再訓練されたＡＩ／ＭＬモデル６３２を展開する。しかし、いくつかの実施形態では、再訓練されたＡＩ／ＭＬモデル６３２は、ＡＩ／ＭＬモデル６３２の１または複数の以前のバージョンと一緒に展開される。ＡＩ／ＭＬモデル６３２の各バージョンのドリフトは、その後、新しいバージョンのＡＩ／ＭＬモデル６３２が実データ上でより良いパフォーマンスをしているかどうかを見るために、サイドバイサイドで測定される。これが経時的にそのようなケースであると判断される場合、新しいバージョンのＡＩ／ＭＬモデル６３２は、以前のバージョンのＡＩ／ＭＬモデル６３２と置き換え得る。しかし、そうでない場合、新しいバージョンのＡＩ／ＭＬモデルは廃棄されてもよく、またはさらなる再訓練が実行され得る。

【0082】

図７Ａおよび図７Ｂは、本発明の実施形態による、ＲＰＡのためのＡＩ／ＭＬモデルドリフト検出および修正を実行するための処理７００を示すフローチャートである。プロセスは、７０５において、ＲＰＡロボットからＡＩ／ＭＬモデルを遂行する要求およびＡＩ／ＭＬモデルのための入力情報を受信することから始まる。入力情報がＡＩ／ＭＬモデルのフレームワークに適合していることを検証することが７１０で実行される。７１５において、入力情報がフレームワークに適合していない場合、７２０で、入力情報がフレームワークに適合していないことを示すエラーがＲＰＡロボットに提供される。７１５において、入力情報がフレームワークに適合する場合、ＡＩ／ＭＬモデルは入力情報を使用して遂行され、ＡＩ／ＭＬモデルの遂行の結果は７２５でＲＰＡロボットに返される。いくつかの実施形態では、フレームワークは、複数のＡＩ／ＭＬモデルのために強制される。

【0083】

データドリフトが発生したか否かを判断するためのＡＩ／ＭＬモデルの入力データに関する情報、モデルドリフトが発生したか否かを判断するためのＡＩ／ＭＬモデルの実行の結果に関する情報、またはその両方が７３０で解析される。いくつかの実勢形態では、解析は、共変量ドリフトについて、元のデータセットと新しいデータセットの一次元分布間の１または複数の距離を測定することを含む。特定の実施形態では、解析は、統計モーメントが変化するかどうかを判断することを含む。いくつかの実施形態では、統計モーメントは、平均、分散、歪度、尖度、共分散、またはそれらの組み合わせを含む。特定の実施形態では、情報は、ＡＩ／ＭＬモデルがどのような予測を行ったか、いくつの予測をＡＩ／ＭＬモデルが行ったかおよびＲＰＡロボットによっていくつの予測が使用されたか、ＡＩ／ＭＬモデルによって行われた予測の１もしくは複数の統計分布、ＡＩ／ＭＬモデルに提供された入力データ、またはそれらの組み合わせを含む。いくつかの実施形態では、情報の解析は、複数のそれぞれのＲＰＡロボットによって遂行される複数のＲＰＡプロセスにわたって実行される（例えば、連合学習を介して）。

【0084】

いくつかの実施形態では、情報は、ＡＩ／ＭＬモデルによって行われた予測の１または複数の統計分布を含む。そのような実施形態では、１または複数の統計分布は、７３５で複数のＲＰＡロボットによって取られたそれぞれのアクションにマッピングされ得る。いくつかの実施形態では、アクションは、それぞれのＲＰＡロボットのＲＰＡワークフローのそれぞれのアクティビティで行われる。

【0085】

情報の二次元表現を生成するために、情報に対して次元削減技術が実行され、情報の二次元表現が７４０で表示される。７４５での情報の解析に基づいて、変化条件が見出され、変化しきい値が満たされているもしくはそれを超えているか、またはその両方であるかどうかの検証が実行される。いくつかの実施形態では、検証は、変化条件、変化しきい値、またはその両方が、少なくとも所定の期間、満たされているまたはそれを超えているかを検証することを含む。

【0086】

７５０での情報の解析に基づいて、変化条件が見出され、変化しきい値が満たされているもしくはそれを超えているか、またはその両方である場合、７５５でＡＩ／ＭＬモデルが再訓練される。次に、７６０で再訓練されたＡＩ／ＭＬモデルが１または複数パフォーマンスしきい値を満たしていることが検証される。７６５で１または複数のパフォーマンスしきい値が満たされない場合、プロセスは７５５でＡＩ／ＭＬモデルの再訓練に戻る。しかし、７６５で再訓練されたＡＩ／ＭＬモデルが１または複数のパフォーマンスしきい値を満たした場合、７７０で再訓練されたＡＩ／ＭＬモデルが展開される。いくつかの実施形態では、ＡＩ／ＭＬモデルを展開することは、１または複数のＲＰＡロボットの１または複数のアクティビティを変更して新しいＡＩ／ＭＬモデルを呼び出すこと、以前のバージョンのＡＩ／ＭＬモデルを再訓練されたＡＩ／ＭＬモデルに置き換えることを含み得る。特定の実施形態では、ＡＩ／ＭＬモデルは、カナリアテスト技法またはチャンピオン／チャレンジャーテスト技法を用いて展開される。

【0087】

再訓練されたＡＩ／ＭＬモデルおよび以前のバージョンのＡＩ／ＭＬモデルのモデルドリフトは、実データを使用して７７５で測定される。再訓練されたＡＩ／ＭＬモデルが、７８０において測定されたモデルドリフトに基づいて、以前のバージョンのＡＩ／ＭＬモデルよりも実データに対して良好に実行しない場合、再訓練されたＡＩ／ＭＬモデルは、７８５において破棄され、および／またはプロセスは、さらなる再訓練のためのステップ７５５に戻る。しかし、再訓練されたＡＩ／ＭＬモデルが、７８０において測定されたモデルドリフトに基づく以前のバージョンのＡＩ／ＭＬモデルよりも実データに対して良好に実行する場合、再訓練されたＡＩ／ＭＬモデルは、７９０において以前のバージョンのＡＩ／ＭＬモデルに加えてまたはその代わりに使用される。入力データおよび／またはユースケースに基づいて、再訓練されたＡＩ／ＭＬモデルまたは以前のバージョンのＡＩ／ＭＬモデルが、７９５で選択され、呼び出される。いくつかの実施形態では、選択は、階層的な方法で行われる。

【0088】

いくつかの実施形態では、モデルドリフト検出は、プロセスごとまたはプロセスのグループごとに実行され得る。例えば、あるタイプの処理のために、ＡＩ／ＭＬモデルのあるバージョンを使用することが良い場合がある。ＡＩ／ＭＬモデルがある特性を有する入力データに基づいて訓練されると、ＡＩ／ＭＬモデルは、別のタイプの入力データに対して正確でなくなることが観察され得る。例えば、欧州の日付形式（例えば、１７ Ｎｏｖｅｍｂｅｒ ２０１９または１７／１１／２０１９）を使用して訓練された請求書の処理に使用されるＡＩ／ＭＬモデルがある場合について考える。訓練中に、米国の日付形式を持つ請求書がより多く使用された場合（例えば、Ｎｏｖｅｍｂｅｒ １７， ２０１９または１１／１７／２０１９）、ＡＩ／ＭＬモデルは、欧州の日付形式を持つ請求書に対して失敗し始める場合がある。

【0089】

したがって、いくつかの実施形態では、ＡＩ／ＭＬモデルの異なるバージョンが、異なる状況に対応するように訓練されてもよく、ドリフト検出が、与えられたデータに対して最もよく機能するＡＩ／ＭＬモデルバージョンを選択するために使用されてもよい。特定の実施形態では、ＡＩ／ＭＬモデルバージョンは、ＲＰＡワークフローレベルでのドリフト検出に基づいて、階層的な方法で適用されてもよい。入力のタイプに基づいてどのＡＩ／ＭＬモデルバージョンを使用するかを判断するためにロジックが開発されてもよく、または複数のＡＩ／ＭＬモデルが階層的な方法で試され、特定の基準が満たされた場合に結果が選択されてもよい。これはまた、複数のＡＩ／ＭＬモデルのバージョンでどのようなドリフトが発生しているかの見通しを提供し得る。これは、ＡＩ／ＭＬモデルが、あるユースケースには悪いが、他のユースケースにはそうではないかどうかを判断するのに役立ち得る。特定の実施形態では、ＡＩ／ＭＬモデルチェーンプロセスは、決定論的論理が階層で使用されるＡＩ／ＭＬモデルバージョンを支配するように構築され得る。いくつかの実施形態では、別のＡＩ／ＭＬモデルが、どのＡＩ／ＭＬモデルバージョンを使用するかを判断し得る。特定の実施形態では、複数のコンピューティングシステムが、ローカルデバイス上に訓練データを保持しながら、共有された予測モデルを共同して学習する、連合学習（ｆｅｄｅｒａｔｅｄ ｌｅａｒｎｉｎｇ）が使用され得る。これは、ＲＰＡのガバナンス要件 （例えば、ＥＵ一般データ保護規則（ｔｈｅ Ｅ．Ｕ． Ｇｅｎｅｒａｌ Ｄａｔａ Ｐｒｏｔｅｃｔｉｏｎ Ｒｅｇｕｌａｔｉｏｎ）（ＧＤＰＲ）、米国医療保険の相互運用性と説明責任に関する法律（ｔｈｅ Ｕ．Ｓ． Ｈｅａｌｔｈ Ｉｎｓｕｒａｎｃｅ Ｐｏｒｔａｂｉｌｉｔｙ ａｎｄ Ａｃｃｏｕｎｔａｂｉｌｉｔｙ Ａｃｔ）（ＨＩＰＡＡ）、サードパーティの利用規約など）への準拠を保証するために特に有益であり得る。

【0090】

図７Ａおよび７Ｂで実行されるプロセスステップは、本発明の実施形態に従って、図７Ａおよび７Ｂで説明したプロセス（複数可）の少なくとも一部を実行するようにプロセッサ（複数可）への命令をエンコードするコンピュータプログラムによって実行されてもよい。コンピュータプログラムは、非一時的なコンピュータ読み取り可能な媒体に格納されていてもよい。コンピュータ読み取り可能な媒体は、ハードディスクドライブ、フラッシュデバイス、ＲＡＭ、テープ、および／またはデータを格納するために使用される他のそのような媒体または媒体の組み合わせであってもよいが、これらに限定されるものではない。コンピュータプログラムは、図７Ａおよび７Ｂに記載されたプロセスステップの全部または一部を実装するために、コンピューティングシステム（例えば、図５のコンピューティングシステム５００のプロセッサ（複数可）５１０）のプロセッサ（複数可）を制御するためのコード化された命令を含んでもよく、これはまた、コンピュータ読み取り可能な媒体に格納されてもよい。

【0091】

コンピュータプログラムは、ハードウェア、ソフトウェア、またはハイブリッド実装で実装され得る。コンピュータプログラムは、互いに動作可能な通信を行うモジュールで構成され得、情報または指示をディスプレイに送るように設計されている。コンピュータプログラムは、汎用コンピュータ、ＡＳＩＣ、またはいずれかの他の好適なデバイスで動作するように構成され得る。

【0092】

本発明の様々な実施形態のコンポーネントは、本明細書に一般的に記載され、図示されているように、様々な異なる構成で配置され、設計されてもよいことが、容易に理解されるであろう。したがって、添付の図に表されるような本発明の実施形態の詳細な説明は、特許請求されるような本発明の範囲を限定することを意図するものではなく、本発明の選択された実施形態を代表するものにすぎない。

【0093】

本明細書を通して記載された本発明の特色、構造、または特徴は、１または複数の実施形態では、いずれかの好適な方法で組み合わせられ得る。例えば、本明細書全体を通して「特定の実施形態」、「いくつかの実施形態」、または類似の言語を参照することは、実施形態に関連して記載された特定の特色、構造、または特徴が、本発明の少なくとも１つの実施形態に含まれていることを意味する。したがって、本明細書全体を通して「特定の実施形態では」、「いくつかの実施形態では」、「他の実施形態では」、または類似の言語の出現は、必ずしも全ての実施形態の同じグループを指すものではなく、記載された特色、構造、または特徴は、１または複数の実施形態ではいずれかの好適な方法で組み合わせられ得る。

【0094】

本明細書全体を通して特色、利点、または類似の言語への参照は、本発明で実現され得る特色および利点の全てが、本発明のいずれかの単一の実施形態にあるべきであること、または本発明のいずれかの実施形態であることを意味するものではないことに留意すべきである。むしろ、特色および利点に言及する言語は、実施形態に関連して記載された特定の特色、利点、または特徴が、本発明の少なくとも１つの実施形態に含まれることを意味すると理解される。したがって、本明細書全体での特色および利点の議論、ならびに類似の言語は、同じ実施形態を参照することができるが、必ずしもその必要性はない。

【0095】

さらに、本発明の記載された特色、利点、および特徴は、１または複数の実施形態では、いずれかの好適な方法で組み合わせることができる。関連する技術の当業者は、本発明が、１または複数の特定の実施形態の特定の特徴または利点なしに実施され得ることを認識するであろう。他の例では、追加の特徴および利点は、本発明の全ての実施形態には存在しないかもしれないが特定の実施形態では認識され得る。

【0096】

本分野における通常の技術を有する者は、上述したような本発明を、異なる順序でのステップを用いて、および／または開示されているものとは異なる構成のハードウェア要素を用いて実施することができることを容易に理解するであろう。したがって、本発明は、これらの好ましい実施形態に基づいて説明されてきたが、本発明の精神および範囲内にとどまりながら、特定の変更、変形、および代替的な構成が明らかになることは、当業者には明らかであろう。したがって、本発明の範囲を決定するためには、添付の特許請求の範囲を参照すべきである。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7A】

【図7B】