特許 7633757 整数計画法技法を用いる最適な解釈可能決定木

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2025-02-12

(45)【発行日】2025-02-20

(54)【発明の名称】整数計画法技法を用いる最適な解釈可能決定木

(51)【国際特許分類】

   G06N 20/00 20190101AFI20250213BHJP

   G06Q 50/10 20120101ALI20250213BHJP

【ＦＩ】

G06N20/00

G06Q50/10

【請求項の数】 22

(21)【出願番号】P 2022548798

(86)(22)【出願日】2021-02-15

(65)【公表番号】

(43)【公表日】2023-04-05

(86)【国際出願番号】 IB2021051239

(87)【国際公開番号】W WO2021165811

(87)【国際公開日】2021-08-26

【審査請求日】2023-07-21

(31)【優先権主張番号】16/797,401

(32)【優先日】2020-02-21

(33)【優先権主張国・地域又は機関】US

(73)【特許権者】

【識別番号】390009531

【氏名又は名称】インターナショナル・ビジネス・マシーンズ・コーポレーション

【氏名又は名称原語表記】ＩＮＴＥＲＮＡＴＩＯＮＡＬ ＢＵＳＩＮＥＳＳ ＭＡＣＨＩＮＥＳ ＣＯＲＰＯＲＡＴＩＯＮ

【住所又は居所原語表記】Ｎｅｗ Ｏｒｃｈａｒｄ Ｒｏａｄ， Ａｒｍｏｎｋ， Ｎｅｗ Ｙｏｒｋ １０５０４， Ｕｎｉｔｅｄ Ｓｔａｔｅｓ ｏｆ Ａｍｅｒｉｃａ

(74)【代理人】

【識別番号】100112690

【弁理士】

【氏名又は名称】太佐 種一

(74)【代理人】

【識別番号】100120710

【弁理士】

【氏名又は名称】片岡 忠彦

(72)【発明者】

【氏名】ムラリ、パヴァンクマール

(72)【発明者】

【氏名】ジュウ、ハオラン

(72)【発明者】

【氏名】ファン、ズン、ティエン

(72)【発明者】

【氏名】グエン、ラム、ミン

【審査官】北川 純次

(56)【参考文献】

【文献】国際公開第２０１９／２０７７２８（ＷＯ，Ａ１）

【文献】米国特許出願公開第２００５／００４９９８５（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００ － ９９／００

Ｇ０６Ｑ ５０／１０

(57)【特許請求の範囲】

【請求項1】

予測モデリングのためのコンピュータにより実施される方法であって、
プロセッサを用いて、プロセスから複数のデータ入力を受信することと、
前記プロセッサを用いて、ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択することと、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記プロセッサを用いて、前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築することと、
前記プロセッサを用いて、前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告することと、
を含む方法。

【請求項2】

予測モデリングのためのコンピュータにより実施される方法であって、
プロセッサを用いて、プロセスから複数のデータ入力を受信することと、
前記プロセッサを用いて、ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択することと、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記プロセッサを用いて、前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築することと、
前記プロセッサを用いて、前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告することと、
前記プロセッサを用いて、前記データ・サブセットを選択するように前記ＯＤＴの各葉ノード内でデータ選択を実行することと、
を含む方法。

【請求項3】

予測モデリングのためのコンピュータにより実施される方法であって、
プロセッサを用いて、プロセスから複数のデータ入力を受信することと、
前記プロセッサを用いて、ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択することと、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記プロセッサを用いて、前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築することと、
前記プロセッサを用いて、前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告することと、
前記プロセッサを用いて、前記ＯＤＴを強化するように切断面のセットを使用することと、
を含む方法。

【請求項4】

予測モデリングのためのコンピュータにより実施される方法であって、
プロセッサを用いて、プロセスから複数のデータ入力を受信することと、
前記プロセッサを用いて、ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択することと、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記プロセッサを用いて、前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築することと、
前記プロセッサを用いて、前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告することと、
前記プロセッサを用いて、前記複数のデータ入力からデータ・サブセットを選択することは、前記データ・サブセットの凸包の内側の点が最大にされるように前記データ・サブセットを選択することと、
を含む方法。

【請求項5】

前記プロセッサを使用して、前記最適な決定木の前記予測が前記閾値の値よりも大きいときに、制御動作を推奨することをさらに含む、請求項１～４のいずれか１項に記載のコンピュータにより実施される方法。

【請求項6】

前記プロセッサを用いて、前記データ・サブセットを選択するように前記ＯＤＴの各葉ノード内でデータ選択を実行することをさらに含む、請求項１又は３～４のいずれか１項に記載のコンピュータにより実施される方法。

【請求項7】

前記プロセッサを用いて、前記ＯＤＴを強化するように切断面のセットを使用することをさらに含む、請求項１～２、４又は６に記載のコンピュータにより実施される方法。

【請求項8】

前記プロセッサを用いて、前記複数のデータ入力からデータ・サブセットを選択することは、前記データ・サブセットの凸包の内側の点が最大にされるように前記データ・サブセットを選択することを含む、請求項１～３又は７に記載のコンピュータにより実施される方法。

【請求項9】

前記ＯＤＴは、多変数の決定木を含む、請求項１～８のいずれか１項に記載のコンピュータにより実施される方法。

【請求項10】

前記ユーザに警告することに応じて、前記プロセッサを用いて、前記最適な決定木の解析に基づく制御動作を実行すること
をさらに含む、請求項１～９のいずれか１項に記載のコンピュータにより実施される方法。

【請求項11】

予測モデリングのためのシステムであって、
メモリと、
前記メモリに通信可能に結合され、前記メモリ内に記憶された命令を実行するように動作可能なプロセッサであって、前記命令は、前記プロセッサに、
プロセスから複数のデータ入力を受信させ、
ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択させ、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築させ、
前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告させる、
前記プロセッサと、を備えるシステム。

【請求項12】

予測モデリングのためのシステムであって、
メモリと、
前記メモリに通信可能に結合され、前記メモリ内に記憶された命令を実行するように動作可能なプロセッサであって、前記命令は、前記プロセッサに、
プロセスから複数のデータ入力を受信させ、
ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択させ、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築させ、
前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告させる、
前記プロセッサと、を備え、
前記命令は、前記プロセッサに、前記データ・サブセットを選択するように前記ＯＤＴの各葉ノード内でデータ選択をさらに実行させる、
システム。

【請求項13】

予測モデリングのためのシステムであって、
メモリと、
前記メモリに通信可能に結合され、前記メモリ内に記憶された命令を実行するように動作可能なプロセッサであって、前記命令は、前記プロセッサに、
プロセスから複数のデータ入力を受信させ、
ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択させ、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築させ、
前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告させる、
前記プロセッサと、を備え、
前記命令は、前記プロセッサに、前記ＯＤＴを強化するように切断面のセットをさらに使用させる、
システム。

【請求項14】

予測モデリングのためのシステムであって、
メモリと、
前記メモリに通信可能に結合され、前記メモリ内に記憶された命令を実行するように動作可能なプロセッサであって、前記命令は、前記プロセッサに、
プロセスから複数のデータ入力を受信させ、
ガイドとして他の発見的方法から訓練された決定木を使用し、各葉ノード内のデータ点の中で、線形計画法を解いて解を得ることによってデータ選択を行い、各葉ノードから選択された全てのデータ・サブセットを組み合わせることにより、前記複数のデータ入力からデータ・サブセットを選択させ、ここで、前記選択されたデータ・サブセットの凸包の内側にある同じラベルを有するデータ点の全てが訓練セットから削除される、
前記選択されたデータ・サブセットに基づいて最適な決定木（以下、該「最適な決定木」を「ＯＤＴ」という）を構築させ、
前記最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告させる、
前記プロセッサと、を備え、
前記複数のデータ入力からデータ・サブセットを選択することは、前記データ・サブセットの凸包の内側の点が最大にされるように前記データ・サブセットを選択することを含む、
システム。

【請求項15】

前記命令は、前記最適な決定木の前記予測が前記閾値の値よりも大きいときに、前記プロセッサに制御動作をさらに推奨させる、請求項１１～１４のいずれか１項に記載のシステム。

【請求項16】

前記命令は、前記プロセッサに、前記データ・サブセットを選択するように前記ＯＤＴの各葉ノード内でデータ選択をさらに実行させる、請求項１１又は１３～１４のいずれか１項に記載のシステム。

【請求項17】

前記命令は、前記プロセッサに、前記ＯＤＴを強化するように切断面のセットをさらに使用させる、請求項１１～１２、１４又は１６に記載のシステム。

【請求項18】

前記複数のデータ入力からデータ・サブセットを選択することは、前記データ・サブセットの凸包の内側の点が最大にされるように前記データ・サブセットを選択することを含む、請求項１１～１３又は１７に記載のシステム。

【請求項19】

前記ＯＤＴは、多変数の決定木を含む、請求項１１～１８のいずれか１項に記載のシステム。

【請求項20】

前記命令は、前記プロセッサに、前記ユーザに警告することに応じて、前記プロセッサを用いて、前記最適な決定木の解析に基づく制御動作を実行させる
請求項１１～１９のいずれか１項に記載のシステム。

【請求項21】

コンピュータ・プログラムであって、請求項１～１０のいずれか１項に記載の方法の各ステップをコンピュータに実行させるための、コンピュータ・プログラム。

【請求項22】

コンピュータ・プログラムを記録したコンピュータ可読媒体であって、前記コンピュータ・プログラムは、請求項１～１０のいずれか１項に記載の方法の各ステップをコンピュータに実行させるための、前記コンピュータ・プログラムである、コンピュータ可読媒体。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、一般に、予測モデリングに関し、より具体的には、整数線形計画法技法を用いる最適な解釈可能決定木に関する。

【背景技術】

【0002】

予測モデルは、プロセス制御環境に役立つ。例えば、高炉、石油精製、およびサプライ・チェーン管理は全て、プロセス制御に頼る。ディープ・ニューラル・ネットワーク（「ＤＮＮ」）および最適な決定木（「ＯＤＴ」）は、プロセス制御に使用され得る。ＤＮＮは、入力と出力の間に複数の層を有する人工ニューラル・ネットワークである。ＤＮＮは、入力を出力に変えるために正しい数学的操作を見つける。ＯＤＴは、訓練の正確さとモデルの単純さとの間の最適なトレード・オフを有する決定木である。

【0003】

決定木ベースの学習者は、単純で正確であることを必要とする。したがって、上述した問題に対処することが当業界で必要である。

【発明の概要】

【0004】

さらなる一態様から見ると、本発明は、予測モデリングのためのコンピュータ・プログラム製品であって、コンピュータ・プログラム製品は、処理回路によって可読であり、本発明のステップを実行する方法を実行するために処理回路により実行するための命令を記憶するコンピュータ可読記憶媒体を備える、コンピュータ・プログラム製品を提供する。

【0005】

さらなる一態様から見ると、本発明は、コンピュータ可読媒体上に記憶され、デジタル・コンピュータの内部メモリの中にロード可能であるコンピュータ・プログラムであって、前記プログラムがコンピュータ上で実行されるときに、本発明のステップを実行するソフトウェア・コード部を備える、コンピュータ・プログラムを提供する。

【0006】

さらなる一態様から見ると、本発明は、決定木を生成し、最適化するコンピュータ・プログラム製品であって、コンピュータ・プログラム製品は、それを備えて具体化されたプログラム命令を有するコンピュータ可読記憶媒体を備え、プログラム命令は、コンピュータに、プロセスから複数のデータ入力を受信することと、線形計画法を解いて解を得ることによって複数のデータ入力からデータ・サブセットを選択することと、データ・サブセットに基づいて最適な決定木（「ＯＤＴ」）を構築および最適化することと、最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告することと、を含む方法を実行させるようにコンピュータによって実行可能である、コンピュータ・プログラム製品を提供する。

【0007】

本発明の実施形態は、整数線形計画法技法を用いる最適な解釈可能決定木に向けられている。非限定の例のコンピュータにより実施される方法は、プロセッサを用いて、プロセスから複数のデータ入力を受信することと、プロセッサを用いて、線形計画法を解いて解を得ることによって複数のデータ入力からデータ・サブセットを選択することと、を含む。方法は、プロセッサを用いて、データ・サブセットに基づいて最適な決定木を構築および最適化し、プロセッサを用いて、最適な決定木の予測が閾値の値よりも大きいときに、ユーザに警告する。

【0008】

本発明の他の実施形態は、コンピュータ・システムおよびコンピュータ・プログラム製品における上記の方法の特徴を実施する。

【0009】

さらなる技術的特徴および利益は、本発明の技法によって実現される。本発明の実施形態および態様は、本明細書中に詳細に説明され、権利主張される主題事項の一部とみなされる。より良く理解するためには、詳細な説明および図面を参照されたい。

【0010】

本明細書中に記載された排他的権利の詳細は、本明細書の末尾にある特許請求の範囲に特に指摘され、はっきりと権利主張される。本発明の実施形態の前述のおよび他の特徴および利点は、添付図面と併せて得られる以下の詳細な説明から明らかである。

【図面の簡単な説明】

【0011】

【図1】本発明の実施形態による最適な解釈可能決定木を実施するプロセスの流れ図である。

【図2】本発明の実施形態によるデータ選択プロセスの流れ図である。

【図3】本発明の一実施形態によるデータ・セット選択を示す図である。

【図4】本発明の一実施形態によるクラウド・コンピューティング環境を示す図である。

【図5】本発明の一実施形態による抽象化モデル層を示す図である。

【図6】本発明の態様を実施することができる例示的なコンピューティング・システムの詳細を示す図である。

【発明を実施するための形態】

【0012】

本明細書中に示された図は、例示である。本明細書中に記載された図または操作に対して、本発明の範囲から逸脱することなく、多くの変形が存在し得る。例えば、動作は、異なる順序で実行されてもよく、あるいは動作は、追加、削除、または修正されてもよい。また、用語「結合される」およびその変形は、２つの要素間に通信パスを有することを説明し、それらの間に介在する要素／接続がない状態の要素間の直接の接続を示唆しない。これらの変形の全部は、本明細書の一部とみなされる。

【0013】

本発明の１つまたは複数の実施形態は、整数計画法技法を用いて立証可能に最適な２つまたは３つのディープ・ツリーを学習するように設計されたロバストな決定木ベースの学習者を提供する。これは、解釈可能性と容易な最適化の両方を提供する。混合された整数線形計画法の使用によって、スケーラブルであるＯＤＴの大局解（global solution）が決定される。本発明の実施形態は、データセット全体に係る情報をできるだけ多く取り込むデータ点のサブセットを選ぶことによって一般化を失うことなく事前に訓練データのデータ選択を使用し、次いで、ＯＤＴのための混合された整数計画法（「ＭＩＰ」）の定式化が、このデータ・サブセットに対して唯一確立される。詳細には、線形計画法（「ＬＰ」）ベースのサブセット選択手順が実施される。本発明の実施形態の実施によって、連続プロセス故障予測などの実際の応用が達成される。

【0014】

数理最適化技法は、機械学習（「ＭＬ」）問題を解くためのいつでも主要なツールであるが、ＭＩＰは、主にその扱いやすさの乏しさにより、以前はめったに検討されていなかった。しかしながら、ＭＩＰ理論の開発、最適化ソルバにより、ハードウェアの改良と相まって、２５年前と比較してＭＩＰにおける驚異的な８０００億倍のスピードアップがある。したがって、ＭＬは、ＭＩＰベースのモデルを採用し始めており、多くの方法は、発見的手法が伝統的に用いられている古典的なＭＬタスクに対処するために混合された整数計画法を活用することが提案されている。ＭＩＰとＭＬとの間の相互作用を研究する試みの中で、ＯＤＴの構築は、主に決定木の組合せの構造およびその解釈可能性により、最もポピュラーなもののうちの１つの中にある。多くの関連したＭＩＰ定式化が、異なる目的のためＯＤＴを訓練するために提案されている。

【0015】

解決策における従前の試みには、解釈可能性および最適化の容易さに関する問題がある。例えば、ディープ・ニューラル・ネットワークは、ネットワークがどのように内部的に動作しているのかへの洞察がほとんどか全くなく、実質的にブラック・ボックスである。非常に非線形のモデルは、最適化することが困難である。言い換えれば、局所的な最小を見つけるのが難しい。過去に使用された深層決定木を伴う解決策は、最適化が難しく、時間がかかる。それらも、解釈可能性の問題に悩まされ得る。

【0016】

本発明の１つまたは複数の実施形態は、最初に訓練データのデータ選択を行う単純な決定木を含む技術的解決策を与えることによって先行技術の上記欠点のうちの１つまたは複数に対処する。サブセットは、線形計画法ベースのデータ選択法を用いて選択される。データのこのサブセットは、ＯＤＴのためのＭＩＰ定式化に使用される。これは、解釈可能性（ハム（hum）が決定の理由を理解することができる程度）、扱いやすさ（データ・サイズに対応する妥当な時間制限内に出力を返す能力）、訓練の正確さ、および一般化能力または試験の正確さにおいて性能強化をもたらす。

【0017】

次に、図１を見ると、最適な解釈可能決定木により実施されるプロセスの流れ図が、本発明の１つまたは複数の実施形態により、全体的に示される。ブロック１１０において、データ選択が行われる。ＬＰベースのデータ選択プロセスが、点セットの幾何学的近似として働くように実施される。プロセスは、とても高い訓練の正確さを有する最適な分類木を仮定し、ラベルｙを有するＩ_０のいくつかのデータ点は、全て正確に分類され、同じ葉ノードに割り当てられたものとする。ブロック１１０において、プロセスは、Ｉ_０を訓練セットのサブセットとし、ｘ_ｉを取り除かれた訓練サンプルとした場合、Ｉ_０のデータ点を正確に分類することで凸包の内側の点も自動的に正確に分類することになるので、Ｉ_０ ｃｏｎｖ（｛ｘ_ｉ｜ｉ∈Ｉ_０）の凸包の内側の同じラベルｙを有するデータ点の全てを訓練セットから削除する。凸包の内側のデータ点の個数は、本発明のいくつかの実施形態において最大にされる。

【0018】

事前に最適な分類木についての情報がないので、ここで、プロセスは、ガイドとしていくつかの他の発見的方法から訓練された決定木を使用し、次いで各葉ノード内でデータ選択をする。次いで、各葉ノード内のそれらのデータ点の中で、プロセスは、別々にデータ選択をする。最終的に、プロセスは、各葉ノードから選択された全てのデータ・サブセットを組み合わせ、ＭＩＰ－ＯＤＴを使用して、このデータセットに対して分類木を訓練する。

【0019】

概して、データ選択に関して、プロセスは、（１）ｃｏｎｖ（｛ｘ_ｉ｜ｉ∈Ｉ_０）の内側の点は、できるだけ多く、または最大にされる、（２）選択されたサンプル点｜Ｉ_０｜の個数は、できるだけ少ないという２つの基準に従ってデータ・サブセットＩ_０を選択する。例えば、｜Ｉ_０｜を訓練するための残りのサンプル点は、元のデータセットの１０％未満であり、一方、Ｉ_０の凸包の内側のサンプルの個数は、９０＆よりも多い。一例が、図３に与えられる。

【0020】

データ選択すべき基本バイナリＬＰは、以下の通りである。各クラスタＮ⊆［ｎ］において、

【0021】

【数1】

がある。

【0022】

ここで、ｆ、ｇは、負でない成分を有する２つのパラメータ・ベクトルであり、ａ_ｊは、データ点ｊが選択されているか否かを示し、ｂ_ｊは、ｊが、選択されたデータ点の凸結合として表すことができるか否かを示し、λ_ｊｉは、いくつかの他の点の凸結合として点ｊを表すときに、点ｉの凸結合係数を示す。

【0023】

ｂ_ｊ＝１のとき、最初の２つの制約は、λ_ｊｉ＞０で点ｘ_ｊを他の点ｉの凸結合としてほぼ表し、ｂ_ｊ＝０のとき、これらの２つの制約は、その場合には全てのｉについてλ_ｊｉ＝０であるので保持される。第３の不等式０≦λ_ｊｉ≦ａ_ｉは、プロセスが選択されたデータ点を使用することができることを意味し、これは、他のデータ点を表すためにａ_ｉ＝１であるものである。最後の制約ａ_ｊ＋ｂ_ｊ≦１は、任意の選択されたデータ点が他の選択されたデータ点の凸結合として表すことができないことを述べている。ｆ，ｇおよび凸結合の制約の選択に応じて、概して、上記の式に関する多くの異なる変形が存在するであろう。

【0024】

ｆ＝０、ｇ＝１のとき、プロセスはａを算出し（project out）、以下のよりシンプルなバイナリＬＰを得ることができるという結果になる。

【0025】

【数2】

【0026】

次の結果は、このバイナリＬＰが、以下のＬＰ、すなわち、

【0027】

【数3】

を解くことによって等価的に解くことができることを示す。

【0028】

上記式の任意の最適解（ｂ，λ）について、（ｂ，λ）が先の式の最適解であるようにλが存在し、逆も同様である。

【0029】

いくつかの事前に与えられた閾値パラメータβ１、β２∈（０，１）について、データ選択プロセス（ブロック１１０）が、後で説明される図２に与えられる。

【0030】

データ選択後、決定木は、以下の通り構築され、最適化される（ブロック１２０）。一般性を失うことなく、プロセスは、データセットのクラスが［Ｙ］：＝｛１，２，．．．，Ｙ｝であると仮定し、ただし、Ｙは、クラスの個数である。各データ点ｉ∈［ｎ］は、（ｘ_ｉ，ｙ_ｉ）として示され、ただし、ｎは、データ点の個数を示し、ｘ_ｉは、ｄ次元ベクトルであり、ｙ_ｉ∈｛１，．．．，Ｙ｝である。プロセスは、Ｆ_ｑ⊆［ｄ］を全ての数的特徴の添字集合であるように示し、一方、Ｆ_ｃは、分類に属する全ての特徴の添字集合を示す。この定式化において、プロセスは、数的特徴（Ｆ_ｑ＝［ｎ］）だけを有するデータセットを検討する。訓練されたＯＤＴが実際には不平衡であり得ても、定式化は、深さＤを有する平衡二分木について確立される。ここで、木の分岐ノードは、Ｂ：＝［２^Ｄ－１］であるように示され、葉ノードは、Ｌ：＝｛２^Ｄ，．．．，２^Ｄ＋１－１｝として示される。プロセスは、表記Ａ_Ｒ（ｌ）およびＡ_Ｌ（ｌ）も使用して、左（右）分岐が根ノードから葉ノードｌへの経路上で従っている葉ノードｌの先祖のセットを表す。

【0031】

ＭＩＰを用いて決定木を訓練するとき、ほとんどの場合、古典的な単一の不定の決定木よりも多変数の決定木を訓練することが好ましく、というのも、単一の不定の決定木の場合、それはある特徴が各分岐ノードで分割のために使用され得るまで強要される追加のバイナリ変数を必要とするからである。単一変数の決定木への一般化のように、多変数の決定木は、一般的な発見的アルゴリズムを用いて訓練することはより困難である。これらの２つのタイプの決定木間の唯一の差異は、分岐する超平面が軸に平行でなければならないか否かである。多変数の決定木は、ＭＩＰモデルによって訓練するのがより容易であるので、プロセスは、単一変数の決定木が、各分岐ノードについてもう１つ制約を定式化に追加することによってやはり定式化できるとしても、最適な多変数の決定木に関して説明されるだけである。ＭＩＰ－ＯＤＴ定式化は、

【0032】

【数4】

の通りである。

【0033】

深さＤを有する平衡二分木は、各分岐ノードで分岐する超平面、および各葉ノードに割り当てられたラベルといった２つの要素によって特徴付けられるのみである。我々のＭＩＰ－ＯＤＴでは、分岐ノードｂにおける分岐している超平面は＜ｈ_ｂ，ｘ_ｉ＞＝ｇ_ｂと示され、分岐則は、次によって与えられる：データｉが、＜ｈ_ｂ，ｘ_ｉ＞≦ｇ_ｂの左の枝へ行き、そうでなければ右側へ行く。葉ノードｌに割り当てられたラベルは、ｕ_ｌ∈［Ｙ］があるとの仮定によって、ｕ_ｌと示される。

【0034】

バイナリ変数は

【数5】

および

【数6】

である。各データ点ｉは、葉ノードの１つに入らなければならず、したがって、プロセスは、各ｉ∈［ｎ］についてΣ_ｌ∈Ｌｅ_ｉｌ＝１を強要し、これは制約（１ｋ）である。

【数7】

は、データｉについての分類されたクラスを示し、したがって、プロセスは、制約

【数8】

を有する。これらのバイナリ項を表すために追加の変数ｗ_ｉｌを導入して、プロセスは、ｗ_ｉｌ＝ｕ_ｌｅ_ｉｌについてＭｃＣｏｒｍｉｃｋ緩和を行う。これらは、制約（１ｃ）～（１ｅ）である。ここで、ｅ_ｉｌはバイナリであるように強要されるので、このＭｃＣｏｒｍｉｃｋ緩和は、（１ｃ）～（１ｅ）がいくつかの余分な変数ｗを保持する場合およびその場合のみ

【数9】

であるという意味で、正確である。

【0035】

ｃｉと

【数10】

との間の関係を定式化するために、プロセスは、第１の制約（１ｂ）を有し、ｃｉ＝０のとき、意味データｉは正しく分類され、

【数11】

を有さなければならず、ｃ_ｉ＝１のとき、

【数12】

は、［１，Ｙ］の間で任意の値を自由にとる。

【0036】

制約（１ｆ）、（１ｇ）、および（１ｉ）は、各ノードｂ∈Ｂで分岐則を定式化することについてであり、データｉがノードｂで左の枝へ行く場合、

【数13】

であり、それが右側へ行く場合、

【数14】

である。ＭＩＰでは、

【数15】

を一対の相補的な変数

【数16】

および

【数17】

に分け、ビッグＭ（ｂｉｇ－Ｍ）法によって毎回これらの２つの変数のうちの１つを０にさせることによってこの関係を定式化するのは、従来の手法である。ここで、相補的手段

【数18】

および

【数19】

は、同時に共に正であることはできない。

【0037】

これは、我々の分岐則と正確には同じでなく、データｉが右の枝に行くとき、代わりにそれは、

【数20】

を厳密に満足すべきである。唯一特別の場合は、

【数21】

のときである。

【0038】

ソフト・マージン変数ｍ_ｉ，ｂにペナルティを科すことは、サポート・ベクタ・マシン（「ＳＶＭ」）によって動機付けられ、プロセスは、分岐している超平面が全てのデータ点に近すぎないことを望む。これは、目的関数を与える。

【数22】

【0039】

オッカムの剃刀の原理によって、プロセスは、余分なペナルティ項（penalization term）
Σ_ｂ｜｜ｈ_ｂ｜｜_０
を追加することによってモデルの単純さ（希薄）も考慮に入れる。

【0040】

誤分類の数字を目的収率（objective yield）に加えると、

【数23】

である。

【0041】

【数24】

および｜｜ｈ_ｂ｜｜_０×｜｜ｈ_ｂ｜｜_１を線形化すると、目的（objective）は、

【数25】

である。ただし、α_１およびα_２は、いくつかの正のパラメータである。

【0042】

一連の切断面が、上記ＭＩＰ－ＯＤＴ定式化をさらに強化するために使用されてもよい。切断面は、
∀ｌ∈Ｌ，Σ_ｉｃ_ｉ≧Σ_ｉｅ_ｉ，ｌ－ｓ_Ｙ
∀ｌ∈Ｌ，Σ_ｉ（ｃ_ｉ＋ｅ_ｉ，ｌ）≧ｓ_１（Ｙ－２^Ｄ＋１）、および
ｓ_１＋・・・＋ｓ_Ｙ－２ ^Ｄ≦Σ_ｉｃ_ｉ≦ｎ－ｓ_Ｙ
を含む。

【0043】

ここで、プロセスは、任意のｋ∈［Ｙ］について、Ｎ_ｋ：＝｛ｉ∈［ｎ］：ｘ_ｉ，ｄ＝ｋ｝を示し、Ｓ：＝｛｜Ｎ_ｋ｜：ｋ∈［Ｙ］｝であり、｜Ｎ_１｜＝ｓ_１≦｜Ｎ_２｜＝ｓ_２≦．．．≦｜Ｎ_Ｙ｜＝ｓ_Ｙを仮定する。

【0044】

ＯＤＴの生成および最適化の後、ＯＤＴからもたらされる予測が閾値の値未満であるか判定するためにチェックが行われる（ブロック１３０）。その場合、プロセスにおけるアセット（asset）は、制御下である（ブロック１５０）。そうでない場合、プロセスは、ユーザに警告し、ＯＤＴの分析に基づいて制御動作を推奨する（ブロック１４０）。制御動作は、特徴ベクトル入力ｘ_ｉの値を調整することによって実施され、これにより予測出力ｙ_ｉに関する変化という結果になる。

【0045】

図１に関して説明したプロセスが、例えば、教師あり異常予測の一種である連続プロセス故障予測に使用されてもよい。プロセス故障が検出されるときに、それは、ユーザに警告するように設計されている。それは、履歴プロセスデータに基づいて知らされ、ＡＩベースのモデルを訓練するためのグラウンドトゥルースとして働く。閾値、傾向、または複合（multiple）などの様々な規則のタイプが、実施され得る。例えば、閾値は、例えば、タンク容量が最少量未満であるときに、警告することができる。傾向は、例えば、スループットの減少があるときに、または電力低下があるときに、警告することができる。複合は、セット・ポイントなしで流れの損失があるときに、または、例えば、温度が閾値未満であり、第２の閾値を上回るレートが予測されるときに、トリガすることができる。

【0046】

プロセス故障予測に関して、ＯＤＴは、プロセス故障を予測する目的で生成される。プロセス・センサーのシーケンス、およびラベル付きアップセットは、分類問題に変換される。故障イベントは、イベントを予期する学習モデルを可能にするようにトレーニング（訓練）・ターゲットを作り出すようにルック・アヘッド・ウィンドウを用いて抽出される。特徴は、要約関数を用いて１つまたは複数のルック・バック・ウィンドウから抽出される。

【0047】

図２は、本発明の実施形態によるデータ選択プロセスの流れ図を示す。β_１，β_２∈（０，１）の場合、

【0048】

【数26】

を解き、最適解（ｂ，λ）を得る（ブロック２１０）。

【0049】

Ｉ_Ｎ：＝｛ｉ∈Ｎ：ｂ_ｉ＝１｝、λ＝Ｔ（λ）、Ｊ_Ｎ：＝｛ｉ∈Ｎ：∃ｊ∈Ｉ_Ｎ、ただし、λ_ｊｉ≧１／（ｄ＋１）｝、Ｋ_Ｎ：＝Ｎ＼（Ｉ_Ｎ Ｕ Ｊ_Ｎ）を示す。ブロック２２０において、｜Ｉ_Ｎ｜／｜Ｎ｜≧１－β_１の場合、Ｎ／ＩＮを訓練セットとして選択する（ブロック２３０）。ブロック２４０において、｜Ｊ_Ｎ｜≧β_２｜Ｎ｜≧の場合、Ｊ_Ｎを訓練セットとして選択する（ブロック２５０）。さもなければ、ブロック２６０において、Ｋ_Ｎについて、超平面データ選択を行い、第１のβ_２｜Ｎ｜－｜Ｊ_Ｎ｜の点を、選択された訓練セットとしてＪ_Ｎと共に選ぶ。

【0050】

クラウド・コンピューティングは、最小限の管理努力またはサービスの提供者との相互作用で迅速にプロビジョニングおよびリリースすることができる設定可能なコンピューティング・リソース（例えば、ネットワーク、ネットワーク帯域幅、サーバ、処理、メモリ、ストレージ、アプリケーション、仮想マシン、およびサービス）の共有プールへの便利なオンデマンド・ネットワーク・アクセスを可能にするためのサービス・デリバリのモデルである。このクラウド・モデルは、少なくとも５つの特徴、少なくとも３つのサービス・モデル、および少なくとも４つの展開モデルを含むことができる。

【0051】

特性は以下の通りである。
オンデマンド・セルフサービス：クラウド消費者は、人がサービスの提供者とやりとりする必要なく、必要に応じて自動的に、サーバ時間およびネットワーク・ストレージなどのコンピューティング能力を一方的にプロビジョニングすることができる。
幅広いネットワークアクセス：機能は、ネットワーク上で利用可能であり、異種のシン・クライアントまたはシック・クライアント・プラットフォーム（例えば、モバイル・フォン、ラップトップ、およびＰＤＡ）による使用を助ける標準的な機構を通じてアクセスされる。
リソースの共用：提供者のコンピューティング・リソースは、マルチ・テナント・モデルを用いて複数の消費者にサービスするようにプールされ、異なる物理的および仮想的リソースは、需要に従って動的に割り当てられ、また再割り当てされる。消費者は概して与えられたリソースの正確な位置について制御または知識を有さないが、より高いレベルの抽象化（例えば、国、州、またはデータセンタ）で位置を指定することができ得るという点で、位置独立性の観念がある。
スピーディな拡張性（Rapid elasticity）：機能は、素早くスケール・アウトするために、迅速におよび弾力的に、場合によっては自動的に、プロビジョニングすることができ、素早くスケール・インするために迅速に解除することができる。消費者にとって、プロビジョニングのために利用できる機能は、しばしば無制限であるように見受けられ、任意の時間に任意の量で購入することができる。
サービスが計測可能であること（Measured service）：クラウド・システムは、サービスのタイプ（例えば、ストレージ、処理、帯域幅、およびアクティブなユーザ・アカウント）に適切なある抽象化レベルで計測機能を活用することによってリソースの使用を自動的に制御し、最適化する。リソースの使用は、監視され、制御され、および報告されてもよく、利用されたサービスの提供者と消費者の両方に透明性を与える。

【0052】

サービス・モジュールは以下の通りである。
ソフトウェア・アズ・ア・サービス（ＳａａＳ）：消費者に与えられる機能は、クラウド・インフラストラクチャ上で実行する提供者のアプリケーションを使用することである。アプリケーションは、ウェブ・ブラウザ（例えば、ウェブ・ベースの電子メール）などのシン・クライアント・インタフェースを通じて様々なクライアント・デバイスからアクセス可能である。消費者は、ネットワーク、サーバ、オペレーティング・システム、ストレージ、またはさらに個々のアプリケーション機能を含む基本的なクラウド・インフラストラクチャを管理または制御しないが、限られたユーザ特定のアプリケーション構成セッティングは、ことによると例外である。
プラットフォーム・アズ・ア・サービス（ＰａａＳ）：消費者へ提供される機能は、提供者によってサポートされるプログラミング言語およびツールを使用して作り出される消費者が生成または取得したアプリケーションを、クラウド・インフラストラクチャ上へ展開することである。消費者は、ネットワーク、サーバ、オペレーティング・システム、またはストレージを含む基本的なクラウド・インフラストラクチャを管理または制御しないが、開発されたアプリケーション、およびことによるとアプリケーション・ホスティング環境設定についての制御を有する。
インフラストラクチャ・アズ・ア・サービス（ＩａａＳ）：消費者に提供される機能は、処理、ストレージ、ネットワーク、および消費者が任意のソフトウェアを展開および実行することができる他の基本的なコンピューティング・リソースをプロビジョニングすることであり、これは、オペレーティング・システムおよびアプリケーションを含み得る。消費者は、基本的なクラウド・インフラストラクチャを管理または制御しないが、オペレーティング・システム、ストレージ、展開されたアプリケーションの制御、および場合によっては、選ばれたネットワーキング・コンポーネント（例えば、ホスト・ファイアウォール）の制限された制御を有する。

【0053】

展開モデルは、以下の通りである。
プライベート クラウド：クラウド・インフラストラクチャは、１つの組織のためだけに運用される。それはその組織または第三者によって管理されてもよく、オン・プレミスまたはオフ・プレミスで存在することができる。
コミュニティ・クラウド：クラウド・インフラストラクチャは、いくつかの組織によって共有され、関心事（例えば、ミッション、セキュリティ要件、ポリシー、およびコンプライアンスの考慮事項）を共有している特定のコミュニティをサポートする。それは、組織または第三者によって管理されてもよく、オン・プレミスまたはオフ・プレミスで存在し得る。
パブリック・クラウド：クラウド・インフラストラクチャは、一般大衆または大企業グループに利用可能にされ、クラウド・サービスを販売している組織によって所有される。
ハイブリッド・クラウド：クラウド・インフラストラクチャは、ユニークなエンティティのままであるが、データおよびアプリケーションのポータビリティ（例えば、クラウド間の負荷バランシングのためのクラウド・バースティング）を可能にする標準化されたまたは独自の技術によって一緒に結び付けられている２つ以上のクラウド（プライベート、コミュニティ、またはパブリック）の構成物である。

【0054】

クラウド・コンピューティング環境は、ステートレス、低結合、モジュール性、およびセマンティック相互運用性に焦点を絞って指向されたサービスである。クラウド・コンピューティングの核心は、相互接続されたノードのネットワークを含むインフラストラクチャである。

【0055】

ここで図４を参照すると、例示的なクラウド・コンピューティング環境５０が図示される。図示の通り、クラウド・コンピューティング環境５０は、１つまたは複数のクラウド・コンピューティング・ノード１０を含み、例えば、パーソナル・デジタル・アシスタント（ＰＤＡ）またはセルラフォン５４Ａ、デスクトップコンピュータ５４Ｂ、ラップトップ・コンピュータ５４Ｃ、または車両コンピュータ・システム５４Ｎ、あるいはそれらの組合せなどのクラウド消費者によって使用されるローカル・コンピューティング・デバイスは、上記ノードと通信することができる。ノード１０は、互いに通信することができる。それらは、以上に記載されるようなプライベート、コミュニティ、パブリックまたはハイブリッド・クラウド、あるいはそれらの組合せなどの１つまたは複数のネットワークにおいて、物理的にまたは仮想的にグループ化され得る（図示せず）。これは、クラウド・コンピューティング環境５０が、インフラストラクチャ、プラットフォーム、またはソフトウェア・アズ・サービス、あるいはそれらの組合せを提供することを可能にし、そのためにクラウド消費者は、ローカル・コンピューティング・デバイス上にリソースを維持する必要がない。図４に示されるコンピューティング・デバイス５４Ａ～Ｎのタイプは、例示を意図したにすぎず、コンピューティング・ノード１０およびクラウド・コンピューティング環境５０は、任意のタイプのネットワーク、または（例えば、ウェブ・ブラウザを使用する）ネットワーク・アドレス可能な接続、あるいはその両方を介して任意のタイプのコンピュータ化されたデバイスと通信することができると理解される。

【0056】

次に、図５を参照すると、クラウド・コンピューティング環境５０（図４）によって提供される機能的抽象化層のセットが示される。図５に示されたコンポーネント、層、および機能は、例示を意図したにすぎず、本発明の実施形態は、それに限定されないことを予め理解されたい。図示の通り、以下の層および対応する機能が提供される。

【0057】

ハードウェアおよびソフトウェア層６０は、ハードウェア・コンポーネント、およびソフトウェア・コンポーネントを含む。ハードウェア・コンポーネントの例は、メインフレーム６１、ＲＩＳＣ（縮小命令セット・コンピュータ）アーキテクチャ・ベースのサーバ６２、サーバ６３、ブレード・サーバ６４、ストレージ・デバイス６５、ならびにネットワークおよびネットワーキング・コンポーネント６６を含む。いくつかの実施形態では、ソフトウェア・コンポーネントは、ネットワーク・アプリケーション・サーバ・ソフトウェア６７、およびデータベース・ソフトウェア６８を含む。

【0058】

仮想化層７０は、抽象化層を提供し、抽象化層からは、仮想エンティティの以下の例、すなわち、仮想サーバ７１、仮想ストレージ７２、仮想プライベートネットワークを含む仮想ネットワーク７３、仮想アプリケーションおよびオペレーティング・システム７４、ならびに仮想クライアント７５が提供され得る。

【0059】

一例では、管理層８０は、以下に記載される機能を提供することができる。リソース・プロビジョニング８１は、クラウド・コンピューティング環境内でタスクを実行するために利用されるコンピューティング・リソースおよび他のリソースの動的な調達を提供する。測定およびプライシング８２は、リソースがクラウド・コンピューティング環境内で利用される際のコスト・トラッキング、およびこれらのリソースの消費のビリングまたはインボイシングを提供する。一例では、これらのリソースは、アプリケーション・ソフトウェア・ライセンスを含んでよい。セキュリティは、クラウド消費者およびタスクのためのアイデンティティ認証、ならびにデータおよび他のリソースに関する保護を提供する。ユーザ・ポータル８３は、消費者およびシステム管理者に、クラウド・コンピューティング環境へのアクセスを提供する。サービス・レベル管理８４は、要求されるサービス・レベルが満たされるようにクラウド・コンピューティング・リソース割り当ておよび管理を提供する。サービス品質保証（ＳＬＡ）プランニングおよびフルフィルメント８５は、将来の要求がＳＬＡに従って予測されるクラウド・コンピューティング・リソースのための事前構成および調達を提供する。

【0060】

ワークロード層９０は、クラウド・コンピューティング環境が利用され得る機能性の例を提供する。この層から提供され得るワークロードおよび機能の例は、マッピングおよびナビゲーション９１、ソフトウェア開発およびライフサイクル管理９２、仮想教室教育配信９３、データ分析処理９４、トランザクション処理９５、およびＯＤＴ構築および最適化処理９６を含む。

【0061】

図６は、本発明の態様を実施することができる例示的なコンピューティング・システムの詳細を示す。図６は、本発明の１つまたは複数の態様を実施するために使用することができるコンピュータ・システム６００の高レベル・ブロック図を示す。コンピュータ・システム６００は、メディア・デバイスとして働くことができ、本発明の全体を実施し、または他のコンピュータおよびクラウド・ベースのシステムと協働して、本発明を実施するように働くことができる。より具体的には、コンピュータ・システム６００は、本発明の実施形態のいくつかのハードウェア・コンポーネントを実施するために使用され得る。１つの例示的なコンピュータ・システム６００が示されているが、コンピュータ・システム６００は、コンピュータ・システム６００を追加のシステム（図示せず）に接続する通信パス６５５を含み、インターネット、イントラネット、または無線通信ネットワーク、あるいはその組合せなど、１つもしくは複数のワイドエリアネットワーク（ＷＡＮ）、またはローカル・エリア・ネットワーク（ＬＡＮ）、あるいはその組合せを含み得る。コンピュータ・システム６００および追加のシステムは、例えば、それらの間でデータを通信するために、通信パス６５５を介して通信している。

【0062】

コンピュータ・システム６００は、１つまたは複数のプロセッサ、例えばプロセッサ６０５を含む。プロセッサ６０５は、通信インフラストラクチャ６６０（例えば、通信バス、クロス・オーバー・バー、またはネットワーク）に接続される。コンピュータ・システム６００は、ディスプレイ・ユニット６２５上に表示するためのグラフィック、テキスト、および他のデータを通信インフラストラクチャ６６０から（または図示されないフレーム・バッファから）送るディスプレイ・インタフェース６１５を含むことができる。コンピュータ・システム６００は、メイン・メモリ６１０、好ましくはランダム・アクセス・メモリ（ＲＡＭ）を含むこともでき、二次メモリ６６５を含むこともできる。二次メモリ６６５は、例えば、フロッピー（Ｒ）・ディスク・ドライブ、磁気テープ・ドライブ、または光学ディスク・ドライブを表す、例えば、ハード・ディスク・ドライブ６２０、またはリムーバブル・ストレージ・ドライブ６３０、あるいはその両方を含むことができる。リムーバブル・ストレージ・ドライブ６３０は、当業者によく知られているやり方で、リムーバブル・ストレージ・ユニット６４０からの読み出し、またはリムーバブル・ストレージ・ユニット６４０への書き込み、あるいはその両方を行う。リムーバブル・ストレージ・ユニット６４０は、リムーバブル・ストレージ・ドライブ６３０により読み出されたり書き込まれたりする、例えば、フロッピー（Ｒ）・ディスク、コンパクト・ディスク、磁気テープ、または光学ディスクなどを表す。理解されるように、リムーバブル・ストレージ・ユニット６４０は、コンピュータ・ソフトウェアまたはデータあるいはその両方が中に記憶されているコンピュータ可読媒体を含む。

【0063】

代替的な実施形態では、二次メモリ６６５は、コンピュータ・プログラムまたは他の命令がコンピュータ・システムにロードされることを可能にする他の同様の手段を含むことができる。そのような手段は、例えば、リムーバブル・ストレージ・ユニット６４５、およびインタフェース６３５を含み得る。そのような手段の例は、プログラム・パッケージおよびパッケージ・インタフェース（例えば、ビデオ・ゲーム・デバイスに見られるもの）、リムーバブル・メモリ・チップ（例えば、ＥＰＲＯＭ、またはＰＲＯＭ）、および関連付けられるソケット、ならびにソフトウェアおよびデータがリムーバブル・ストレージ・ユニット６４５からコンピュータ・システム６００へ転送されることを可能にする他のリムーバブル・ストレージ・ユニット６４０およびインタフェース６３５を含み得る。加えて、カメラ６７０は、通信インタフェース６６０を通じてプロセッサ６０５、メイン・メモリ６１０、ならびに他の周辺装置およびストレージと通信している。

【0064】

コンピュータ・システム６００は、通信インタフェース６５０を含むこともできる。通信インタフェース６５０は、ソフトウェアおよびデータがコンピュータ・システムと外部デバイスとの間で転送されることを可能にする。通信インタフェース６５０の例は、モデム、ネットワーク・インタフェース（例えば、イーサネット（Ｒ）・カード）、通信ポート、またはＰＣＭ－ＣＩＡスロットおよびカードなどを含み得る。通信インタフェース６５０を介して転送されるソフトウェアおよびデータは、例えば、通信インタフェース６５０により受信することができる電子信号、電磁信号、光学信号、または他の信号であり得る信号の形態である。これらの信号は、通信パス（すなわち、チャネル）６５５を介して通信インタフェース６５０へ供給される。通信パス６５５は、信号を搬送し、ワイヤもしくはケーブル、光ファイバ、電話回線、セルラ・フォン・リンク、ＲＦリンク、または他の通信チャネル、あるいはそれらの組合せを用いて実現され得る。

【0065】

本説明において、用語「コンピュータ・プログラム媒体」、「コンピュータ使用可能媒体」、および「コンピュータ可読媒体」は、メイン・メモリ６１０および二次メモリ６６５、リムーバブル・ストレージ・ドライブ６３０、ならびにハード・ディスク・ドライブ６２０にインストールされたハード・ディスクなどの媒体を全体的に指すために使用される。コンピュータ・プログラム（コンピュータ制御ロジックとも呼ばれる）は、メイン・メモリ６１０、または二次メモリ６６５、あるいはその両方に記憶される。コンピュータ・プログラムは、通信インタフェース６５０を介して受信することもできる。そのようなコンピュータ・プログラムは、実行されるとき、コンピュータ・システムが、本明細書で説明されるような本開示の特徴を実行することを可能にする。具体的には、コンピュータ・プログラムは、実行されるとき、プロセッサ６０５がコンピュータ・システムの特徴を実行することを可能にする。したがって、そのようなコンピュータ・プログラムは、コンピュータ・システムのコントローラを表す。

【0066】

本明細書に記載の機能ユニットの多くは、モジュールと名付けられている。本発明の実施形態は、多種多様なモジュールの実施に当てはまる。例えば、モジュールは、カスタムＶＬＳＩ回路もしくはゲート・アレイを備えるハードウェア回路、論理チップなどの既製品の半導体、トランジスタ、または他の個別部品として実現され得る。モジュールは、フィールド・プログラマブル・ゲート・アレイ、プログラマブル・アレイ論理、プログラマブル論理デバイスなどのプログラマブル・ハードウェア・デバイスにおいて実現することもできる。

【0067】

モジュールは、様々なタイプのプロセッサによる実行のためのソフトウェアにおいて実現することもできる。実行可能なコードの識別されたモジュールは、例えば、オブジェクト、プロシージャ、または関数として編成され得るコンピュータ命令の１つまたは複数の物理ブロックまたは論理ブロックを含むことができる。それにもかかわらず、識別されたモジュールの実行ファイルは、物理的に一緒に置かれる必要はないが、論理的に一緒に結合されるときにモジュールを含むと共にモジュールの述べられた目的を達成する異なる場所に記憶された異種命令を含み得る。

【0068】

本発明は、統合に関する任意の可能な技術的な詳細レベルで、システム、方法、またはコンピュータ・プログラム製品、あるいはその両方であり得る。コンピュータ・プログラム製品は、本発明の態様をプロセッサに実施させるコンピュータ可読プログラム命令をそこに有する１つまたは複数のコンピュータ可読記憶媒体を含み得る。

【0069】

コンピュータ可読記憶媒体は、命令実行デバイスによって使用するための命令を保持および記憶することができる有形デバイスであり得る。コンピュータ可読記憶媒体は、例えば、電子ストレージ・デバイス、磁気ストレージ・デバイス、光ストレージ・デバイス、電磁気ストレージ・デバイス、半導体ストレージ・デバイス、または前述の任意の適切な組合せであり得るが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例の非包括的リストは、携帯用コンピュータ・ディスケット、ハード・ディスク、ランダム・アクセス・メモリ（ＲＡＭ）、読み取り専用メモリ（ＲＯＭ）、消去可能プログラマブル読み取り専用メモリ（ＥＰＲＯＭまたはフラッシュ・メモリ）、スタティック・ランダム・アクセス・メモリ（ＳＲＡＭ）、携帯用コンパクト・ディスク読み取り専用メモリ（ＣＤ－ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、メモリ・スティック、フロッピー（Ｒ）・ディスク、機械的にエンコードされたデバイス、例えば、パンチカードまたは命令が記録された溝の中の隆起した構造、および前述の任意の適切な組合せを含む。本明細書中で使用されるとき、コンピュータ可読記憶媒体は、一過性の信号自体、例えば、無線波または他の自由に伝搬する電磁波、導波路または他の伝送媒体を介して伝搬する電磁波（例えば、光ファイバ・ケーブルを通り抜ける光パルス）、あるいはワイヤを介して送信される電気信号、として解釈されるべきではない。

【0070】

本明細書に記載のコンピュータ可読プログラム命令は、ネットワーク、例えば、インターネット、ローカル・エリア・ネットワーク、広域ネットワークまたはワイヤレス・ネットワークあるいはその組合せを介してそれぞれのコンピューティング／処理デバイスにコンピュータ可読記憶媒体からあるいは外部コンピュータまたは外部ストレージ・デバイスにダウンロードされ得る。ネットワークは、銅伝送ケーブル、光伝送ファイバ、ワイヤレス伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイ・コンピュータまたはエッジ・サーバあるいはその組合せを含み得る。各コンピュータイング／処理デバイス内のネットワーク・アダプタ・カードまたはネットワーク・インタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、それぞれのコンピューティング／処理デバイス内のコンピュータ可読記憶媒体において記憶するためにコンピュータ可読プログラム命令を送る。

【0071】

本発明の動作を実施するためのコンピュータ可読プログラム命令は、アセンブラ命令、命令セット・アーキテクチャ（ＩＳＡ）命令、機械命令、機械依存の命令、マイクロコード、ファームウェア命令、状態設定データ、集積回路のための構成データ、あるいはオブジェクト指向プログラミング言語、例えば、Ｓｍａｌｌｔａｌｋ（Ｒ）、Ｃ＋＋（Ｒ）など、および手続き型プログラミング言語、例えば、「Ｃ」プログラミング言語（Ｒ）または類似のプログラミング言語を含む１つまたは複数のプログラミング言語の任意の組合せで書かれたソース・コードまたはオブジェクト・コードであり得る。コンピュータ可読プログラム命令は、完全にユーザのコンピュータで、部分的にユーザのコンピュータで、スタンドアロンのソフトウェア・パッケージとして、部分的にユーザのコンピュータでかつ部分的に遠隔のコンピュータで、あるいは完全に遠隔のコンピュータまたはサーバで実行することができる。後者のシナリオでは、遠隔のコンピュータは、ローカル・エリア・ネットワーク（ＬＡＮ）または広域ネットワーク（ＷＡＮ）を含む任意のタイプのネットワークを介してユーザのコンピュータに接続され得、あるいは接続は、外部コンピュータに（例えば、インターネット・サービス・プロバイダを使用してインターネットを介して）行われ得る。いくつかの実施形態において、例えば、プログラマブル論理回路、フィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）、またはプログラマブル論理アレイ（ＰＬＡ）を含む電子回路は、本発明の態様を実行するために、電子回路を個人化するためのコンピュータ可読プログラム命令の状態情報を利用することによってコンピュータ可読プログラム命令を実行することができる。

【0072】

本発明の態様は、本発明の実施形態による方法、装置（システム）、およびコンピュータ・プログラム製品の流れ図またはブロック図あるいはその両方を参照して本明細書に記載されている。流れ図またはブロック図あるいはその両方の各ブロック、ならびに流れ図またはブロック図あるいはその両方のブロックの組合せは、コンピュータ可読プログラム命令によって実現することができると理解されよう。

【0073】

これらのコンピュータ可読プログラム命令は、コンピュータまたは他のプログラマブル・データ処理装置のプロセッサを介して実行する命令が、流れ図またはブロック図あるいはその両方の１つまたは複数のブロックにおいて指定された機能／動作を実現するための手段を作り出すように、汎用コンピュータ、専用コンピュータ、または他のプログラマブル・データ処理装置のプロセッサに提供されてマシンを作り出すものであり得る。これらのコンピュータ可読プログラム命令は、命令が記憶されたコンピュータ可読ストレージ媒体が流れ図またはブロック図あるいはその両方の１つまたは複数のブロックにおいて指定された機能／動作の態様を実現する命令を含む製造品を備えるよう、コンピュータ、プログラマブル・データ処理装置、または他のデバイスあるいはその組合せに特定のやり方で機能するよう指示することができるものとしてコンピュータ可読記憶媒体に記憶することもできる。

【0074】

コンピュータ可読プログラム命令は、コンピュータ、他のプログラマブル装置、または他のデバイスで実行する命令が流れ図またはブロック図あるいはその両方の１つまたは複数のブロックにおいて指定された機能／動作を実現するように、コンピュータ、他のプログラマブル・データ処理装置、または他のデバイスにロードされて、コンピュータ実施プロセスを作り出すように、一連の動作のステップをコンピュータ、他のプログラマブル装置、または他のデバイス上で実行させることもできる。

【0075】

図中の流れ図およびブロック図は、本発明の様々な実施形態によるシステム、方法、およびコンピュータ・プログラム製品の可能な実施態様のアーキテクチャ、機能性、および動作を示す。これに関連して、流れ図またはブロック図内の各ブロックは、指定された論理機能を実施するための１つまたは複数の実行可能な命令を備えるモジュール、セグメント、または命令の部分を表し得る。いくつかの代替実施態様において、ブロックに示された機能は、図示されている以外の順番で行われてもよい。例えば、連続して示されている２つのブロックは、実際には、実質的に同時に、実行されてもよく、あるいはそれらのブロックは、関係する機能性に応じて、ときには、逆の順番で実行されてもよい。ブロック図または流れ図あるいはその両方の各ブロック、ならびにブロック図または流れ図あるいはその両方のブロックの組合せは、指定された機能または動作を実行するあるいは専用ハードウェアおよびコンピュータ命令の組合せを実施する専用ハードウェア・ベースのシステムによって実現することができることにも留意されたい。

【0076】

本発明の様々な実施形態の説明は、例示のために示されたものであり、包括的であるまたは開示した実施形態に限定されることは意図されていない。多くの修正および変更は、説明した実施形態の範囲から逸脱することなく、当業者に明らかであろう。本明細書中で使用される専門語は、実施形態の原理、実際の応用、または市場で見つけた技術を上回る技術的改善を最もよく説明するために、あるいは当業者が本明細書中に記載された実施形態を理解することを可能にするために選ばれた。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】