(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-11-06
(54)【発明の名称】振動信号を用いた作業機接地状態の検出
(51)【国際特許分類】
E02F 3/43 20060101AFI20241029BHJP
E02F 9/26 20060101ALI20241029BHJP
【FI】
E02F3/43 A
E02F9/26 B
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024520069
(86)(22)【出願日】2022-09-29
(85)【翻訳文提出日】2024-05-31
(86)【国際出願番号】 US2022045215
(87)【国際公開番号】W WO2023059500
(87)【国際公開日】2023-04-13
(32)【優先日】2021-10-04
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
(71)【出願人】
【識別番号】506196063
【氏名又は名称】キャタピラー トリンブル コントロール テクノロジーズ、 エルエルシー
(74)【代理人】
【識別番号】100137969
【氏名又は名称】岡部 憲昭
(74)【代理人】
【識別番号】100104824
【氏名又は名称】穐場 仁
(74)【代理人】
【識別番号】100121463
【氏名又は名称】矢口 哲也
(72)【発明者】
【氏名】ジュン,ジョン ヒョン
(72)【発明者】
【氏名】フランス,ピーター
(72)【発明者】
【氏名】ベーカー,アリステア
(72)【発明者】
【氏名】ダニエル,コリン
(72)【発明者】
【氏名】グリーンストリート,アラン
(72)【発明者】
【氏名】ウィン―ハリス,ジェレミー
【テーマコード(参考)】
2D003
2D015
【Fターム(参考)】
2D003AA01
2D003AB04
2D003AC04
2D003BA08
2D003BB08
2D003DB08
2D003DC07
2D003FA02
2D015HA03
2D015HB00
(57)【要約】
建設機械の作業機が地表面と相互作用している期間を決定するためのシステム、方法、及び他の技術が本書に記載される。作業機の動きを示す振動信号が取り込まれる。振動信号から1つ又は複数の特徴が抽出される。1つ又は複数の特徴は、モデル出力を生成するために機械学習モデルに提供される。モデル出力、作業機接地状態(IOG)開始時間及びIOG終了時間が予測される。IOG開始時間及びIOG終了時間は期間を構成する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
建設機械の作業機が地表面と相互作用している期間を決定する方法であって、
前記作業機の動きを示す振動信号を取り込むことと、
前記振動信号から1つ又は複数の特徴を抽出することと、
前記1つ又は複数の特徴を機械学習モデルに提供して、モデル出力を生成することと、
前記モデル出力に基づいて、作業機接地状態(IOG)開始時間及びIOG終了時間を予測することであって、前記IOG開始時間及び前記IOG終了時間は、前記作業機が前記地表面と相互作用している前記期間を形成する、予測することと、
を含む、方法。
【請求項2】
前記振動信号は、前記建設機械に取り付けられた振動センサを使用して取り込まれる、請求項1に記載の方法。
【請求項3】
前記振動センサは加速度計を含み、前記振動信号は加速度信号を含む、請求項2に記載の方法。
【請求項4】
前記振動センサはジャイロスコープを含み、前記振動信号は回転信号を含む、請求項2に記載の方法。
【請求項5】
前記振動センサは前記作業機に取り付けられる、請求項2に記載の方法。
【請求項6】
前記モデル出力は、前記作業機が前記地表面と相互作用している時間に対応する一組のIOG候補を含む、請求項1に記載の方法。
【請求項7】
前記モデル出力は、前記作業機が前記地表面と相互作用していない時間に対応する一組の作業機空中状態(IIA)候補を含む、請求項1に記載の方法。
【請求項8】
前記1つ又は複数の特徴は、信号振幅特徴又は信号周波数特徴のうちの少なくとも一方を含む、請求項1に記載の方法。
【請求項9】
前記機械学習モデルは、事前トレーニングされたサポートベクトルマシンである、請求項1に記載の方法。
【請求項10】
前記作業機が前記地表面と相互作用している前記期間及び前記作業機の経路に基づいて、地表面マップを調整することをさらに含む、
請求項1に記載の方法。
【請求項11】
1つ又は複数のプロセッサと、
前記1つ又は複数のプロセッサによって実行されるとき、前記1つ又は複数のプロセッサに、
建設機械の作業機の動きを示す振動信号を取り込むことと、
前記振動信号から1つ又は複数の特徴を抽出することと、
前記1つ又は複数の特徴を機械学習モデルに提供して、モデル出力を生成することと、
前記モデル出力に基づいて、作業機接地状態(IOG)開始時間及びIOG終了時間を予測することであって、前記IOG開始時間及び前記IOG終了時間は、前記作業機が地表面と相互作用している期間を形成する、予測することと、
を含む動作を実行させる命令を含むコンピュータ可読媒体と、
を備える、システム。
【請求項12】
前記振動信号は、前記建設機械に取り付けられた振動センサを使用して取り込まれる、請求項11に記載のシステム。
【請求項13】
前記振動センサは加速度計を含み、前記振動信号は加速度信号を含む、請求項12に記載のシステム。
【請求項14】
前記振動センサは前記作業機に取り付けられている、請求項12に記載のシステム。
【請求項15】
前記モデル出力は、前記作業機が前記地表面と相互作用している時間に対応する一組のIOG候補を含む、請求項11に記載のシステム。
【請求項16】
前記モデル出力は、前記作業機が前記地表面と相互作用していない時間に対応する一組の作業機空中状態(IIA)候補を含む、請求項11に記載のシステム。
【請求項17】
前記1つ又は複数の特徴は、信号振幅特徴又は信号周波数特徴のうちの少なくとも一方を含む、請求項11に記載のシステム。
【請求項18】
前記機械学習モデルは、事前トレーニングされたサポートベクトルマシンである、請求項11に記載のシステム。
【請求項19】
前記IOG開始時間及び前記IOG終了時間は、一組の作業機位置にさらに基づいて予測される、請求項11に記載のシステム。
【請求項20】
建設機械の作業機が地表面と相互作用する期間を決定する方法であって、
前記作業機の動きを示す振動信号を取り込むことと、
前記作業機が前記地表面と相互作用している時間に対応する一組の作業機接地状態(IOG)候補を決定することと、
前記作業機が前記地表面と相互作用していない時間に対応する一組の作業機空中状態(IIA)候補を決定することと、
前記一組のIOG候補及び前記一組のIIA候補に基づいてIOG開始時間及びIOG終了時間を予測することであって、前記IOG開始時間及び前記IOG終了時間は、前記作業機が前記地表面と相互作用している前記期間を形成する、予測することと、
を含む、方法。
【発明の詳細な説明】
【背景技術】
【0001】
[0001]関連出願の相互参照
本出願は、2021年10月4日に出願された米国特許出願第17/493,793号(名称「IMPLEMENT-ON-GROUND DETECTION USING VIBRATION SIGNALS(振動信号を用いた作業機接地状態の検出)」)の優先権の利益を主張するものであり、その全内容は、あらゆる目的のために参照により本明細書に組み込まれる。
【0002】
[0002]建設機械及び農業機械を含む近年の移動型機械は、様々な作業関連タスクを実行する効率を劇的に高めた。例えば、自動勾配制御システムを使用する土工機械は、従来手作業で行っていたよりも少ないパスを使用してプロジェクト領域に勾配を付けることができる。別の例として、近年のアスファルト舗装業者及び他の道路施工業者は、かつては数週間、数ヶ月にわたって行われていたものに代わり、数時間、数日のオーダで古い道路の付替えや新しい道路の建設を可能にしている。様々な態様の自動化により、建設及び農業プロジェクトは、従来必要とされていたものよりも少ない人数の作業員グループによって実行されることが可能となっている。移動型機械の技術的進歩の多くは、機械の構成要素及び/又は機械を取り囲む環境の状態及び位置のリアルタイム監視を可能にする正確なセンサの利用可能性に部分的に負っている。
【発明の概要】
【0003】
[0003]本発明の様々な実施形態の概要を、例のリストとして以下に提示する。以下で使用されるように、一連の例への任意の言及は、それらの例のそれぞれへの言及として選言的に理解されるべきである(例えば、「例1~4」は、「例1、2、3又は4」と理解されるべきである)。
【0004】
[0004]例1は、建設機械の作業機が地表面と相互作用している期間を決定する方法であり、この方法は、作業機の動きを示す振動信号を取り込むことと、振動信号から1つ又は複数の特徴を抽出することと、1つ又は複数の特徴を機械学習モデルに提供してモデル出力を生成することと、モデル出力に基づいて、作業機接地状態(IOG:implement-on-ground)開始時間及びIOG終了時間を予測することとを含み、IOG開始時間及びIOG終了時間は、作業機が地表面と相互作用している期間を構成する。
【0005】
[0005]例2は、振動信号が建設機械に取り付けられた振動センサを使用して取り込まれる、例1の方法である。
【0006】
[0006]例3は、振動センサが加速度計を含み、振動信号が加速度信号を含む、例2の方法である。
【0007】
[0007]例4は、前記振動センサがジャイロスコープを含み、振動信号が回転信号を含む、例2の方法である。
【0008】
[0008]例5は、振動センサが作業機に取り付けられる、例2の方法である。
【0009】
[0009]例6は、作業機が地表面と相互作用している時間に対応する一組のIOG候補をモデル出力が含む、例1~5の方法である。
【0010】
[0010]例7は、作業機が地表面と相互作用していない時間に対応する一組の作業機空中状態(IIA:implement-in-air)候補をモデル出力が含む、例1~6の方法である。
【0011】
[0011]例8は、1つ又は複数の特徴が、信号振幅特徴又は信号周波数特徴のうちの少なくとも一方を含む、例1~7の方法である。
【0012】
[0012]例9は、機械学習モデルが、事前トレーニングされたサポートベクトルマシンである、例1~8の方法である。
【0013】
[0013]例10は、作業機が地表面と相互作用している期間及び作業機の経路に基づいて、地表面マップを調整することをさらに含む、例1~9の方法である。
【0014】
[0014]例11はシステムであり、このシステムは、1つ又は複数のプロセッサと、1つ又は複数のプロセッサによって実行されるとき、1つ又は複数のプロセッサに、建設機械の作業機の動きを示す振動信号を取り込むことと、振動信号から1つ又は複数の特徴を抽出することと、1つ又は複数の特徴を機械学習モデルに提供して、モデル出力を生成することと、モデル出力に基づいて、作業機接地状態(IOG)開始時間及びIOG終了時間を予測することであって、IOG開始時間及びIOG終了時間は、作業機が地表面と相互作用している期間を形成する、予測することと、を含む動作を実行させる命令を含むコンピュータ可読媒体と、を備える。
【0015】
[0015]例12は、振動信号が建設機械に取り付けられた振動センサを使用して取り込まれる、例11のシステムである。
【0016】
[0016]例13は、振動センサが加速度計を含み、振動信号が加速度信号を含む、例12のシステムである。
【0017】
[0017]例14は、振動センサが作業機に取り付けられる、例12のシステムである。
【0018】
[0018]例15は、作業機が地表面と相互作用している時間に対応する一組のIOG候補をモデル出力が含む、例11~14のシステムである。
【0019】
[0019]例16は、作業機が地表面と相互作用していない時間に対応する一組の作業機空中状態(IIA)候補をモデル出力が含む、例11~15のシステムである。
【0020】
[0020]例17は、1つ又は複数の特徴が、信号振幅特徴又は信号周波数特徴のうちの少なくとも一方を含む、例11~16のシステムである。
【0021】
[0021]例18は、機械学習モデルが、事前トレーニングされたサポートベクトルマシンである、例11~17のシステムである。
【0022】
[0022]例19は、IOG開始時間及びIOG終了時間が一組の作業機位置にさらに基づいて予測される、例11~18のシステムである。
【0023】
[0023]例20は、建設機械の作業機が地表面と相互作用する期間を決定する方法であり、この方法は、作業機の動きを示す振動信号を取り込むことと、作業機が地表面と相互作用している時間に対応する一組の作業機接地状態(IOG)候補を決定することと、作業機が地表面と相互作用していない時間に対応する一組の作業機空中状態(IIA)候補を決定することと、一組のIOG候補及び一組のIIA候補に基づいてIOG開始時間及びIOG終了時間を予測することであって、IOG開始時間及びIOG終了時間は、作業機が地表面と相互作用している期間を形成する、予測することを含む。
【0024】
[0024]例21は、1つ又は複数のプロセッサによって実行されるとき、1つ又は複数のプロセッサに例1~10又は例20の方法のいずれかを実行させる命令を含む非一時的コンピュータ可読媒体である。
【0025】
[0025]本開示のさらなる理解を与えるために含まれる添付の図面は、本明細書に組み込まれて、本明細書の一部を構成し、本開示の実施形態を示し、詳細な説明と共に本開示の原理を説明するのに役立つ。本開示の基本的な理解及び本開示を実施することができる様々な態様に必要であり得るよりも詳細に本開示の構造的詳細を示すことは試みられていない。
【図面の簡単な説明】
【0026】
【
図1A】作業機経路に基づく地表面マップの例示的な修正を示す。
【
図1B】作業機経路に基づく地表面マップの例示的な修正を示す。
【
図1C】作業機経路に基づく地表面マップの例示的な修正を示す。
【
図2】振動信号に基づくIOG期間の予測例を示す。
【
図3】建設環境内の本開示の1つ又は複数の技術の例示的な実施形態を示す。
【
図6B】振動信号に対応する、抽出された周波数特徴の例を示す。
【
図8】本開示のいくつかの実施形態による、振動信号及びその対応する振幅特徴に基づくIOG期間の予測の例を示す。
【
図9】振動信号及び作業機距離に基づくIOG終了時間の予測の例を示す。
【
図11】様々なハードウェア要素を備える例示的なコンピュータシステムを示す。
【発明を実施するための形態】
【0027】
[0037]添付の図面において、同様の構成要素及び/又は特徴は同じ参照符号を有する場合がある。さらに、同じタイプの様々な構成要素は、参照ラベルの後に文字を付けることによって、又は参照ラベルの後にダッシュを付け、その後に同様の構成要素及び/又は特徴を区別する第2の数値的参照ラベルを付けることによって区別することができる。本明細書で第1の数値的参照ラベルのみが使用される場合、説明は、添え字に関係なく、同じ第1の数値的参照ラベルを有する同様の構成要素及び/又は特徴のいずれか1つに適用可能である。
【0028】
[0038]いくつかの場合において、土工機械などの建設機械は、周囲の地面の表面のマップを保持することができる。代替的に「地表面マップ」と称されることがあるこのマップは、機械を囲む複数の位置のそれぞれのその時点の高度又は高さを含むことができる。建設機械が、作業機を下げ、地表面に切り込み、土砂を掘り出し持ち上げることによって、建設プロジェクトを実行するとき、地表面マップは、作業機の経路及び作業機が地表面と相互作用していた期間に基づいて更新され得る。例えば、作業機が3秒間地表面に切り込んでいる場合、新しい地表面は、その3秒間の作業機の位置(例えば、油圧ショベルのブレードの先端の位置)に概ね等しいと推定することができる。したがって、地表面マップは、新しい地表面を反映するように調整され得る。
【0029】
[0039]地表面マップの正確な調整は、2つのファクタに依存し、第1のファクタは、作業機の位置及び経路の知見であり、第2のファクタは、作業機が実際に地面と相互作用している期間(例えば掘り下げている期間)の決定であり、この期間は、代替的に「相互作用期間」、「作業機接地状態(IOG)期間」又は「IOG過程(instance)」と称されることがある。これらのファクタのいずれかが正確に決定できない場合、地表面マップは信頼できない可能性があり、特に作業機の経路が元の地表面と交差する位置でエラースパイクを含む可能性がある。例えば、IOG期間が実際の掘削開始時間の前に開始すると予測される場合、これは、作業機が実際の地表面の上方にあるため、地面レベルマップに上向きのスパイクを含ませる可能性がある。同様に、IOG期間が実際の掘削終了時間の後に終了すると予測される場合、これもまた、作業機が掘削を終了し実際の地表面の上方にあるので、地面レベルマップに上向きのスパイクを含ませる可能性がある。
【0030】
[0040]本開示の実施形態は、建設機械の作業機が地面と相互作用している期間を正確に予測するための技術を提供する。実施形態は、作業機が地面との相互作用を開始するIOG開始時間及び作業機が地面との相互作用を終了したIOG終了時間を予測することを含むことができ、これはそれぞれIOG期間の開始及び終了に対応し得る。開示された技術は、建設機械に取り付けられた振動センサを使用して取り込まれた振動信号に依存し得る。振動信号は、掘削事象中の作業機の動きを示すことができる。様々な実施形態では、振動センサは、作業機に直接取り付けられてもよいし、建設機械の他の場所に取り付けられてもよい。
【0031】
[0041]いくつかの実施形態は、IOG期間を生成するための入力として振動信号の特徴を受信するニューラルネットワークなどのトレーニングされた機械学習モデルを利用することができる。いくつかの場合においては、機械学習モデルは、作業機が地面と相互作用していると予測される時間に対応する一組のIOG候補と、作業機が地面と相互作用していないと予測される時間に対応する一組の作業機空中状態(IIA)候補とを生成することができる。一組のIOG候補及び一組のIIA候補を分析してクラスタを識別し、IOG期間を予測することができ、IOG期間は一般的には可能な限り多くのIOG候補を含むと共に、可能な限り多くのIIA候補を除外している。
【0032】
[0042]いくつかの利点が本開示によって得られる。例えば、上述したように、正確なIOG期間を予測することによって、本開示の実施形態は、地表面マップの正確な調整を可能にする。そのような調整は、建設機械が建設環境内で動作しているときにリアルタイムで行うことができる。別の例として、実施形態は、材料の動き(例えば、材料がどこから来てどこへ行くのか)を追跡する能力を与える。採掘などの特定の用途では、材料が価値のある鉱石であるか低価値の廃物であるかを知ることが望ましい場合がある。この決定は、作業機が地表面に接した時期及び場所の正確な知見から導き出すことができる。
【0033】
[0043]以下の説明では、様々な例について説明する。説明の目的で、例を完全に理解するために、特定の構成及び詳細が記載されている。しかしながら、特定の詳細なしで例を実施できることも当業者には明らかであろう。さらに、説明されている実施形態を不明瞭にしないために、周知の特徴は省略又は簡略化されてもよい。
【0034】
[0044]
図1A~
図1Cは、本開示のいくつかの実施形態による、作業機経路114に基づく地表面マップ124の例示的な修正を示している。
図1Aにおいては、建設機械150は、作業機経路114に沿って作業機121の移動を開始する。様々な実施形態では、作業機経路114は、建設機械のオペレータによって設定されてもよく、及び/又は建設プロジェクト又は他の作業関連タスクの詳細に基づいて自動的に生成されてもよい。
図1Bにおいて、作業機121は、作業機経路114を辿り、地表面112に切り込み、それにより、作業機経路114の下の土砂を残しながら、作業機経路114の上の土砂を除去することによって地表面112を変更する。
【0035】
[0045]
図1Cにおいて、地表面マップ124は、作業機経路114と掘削動作の時間フレームに対応するIOG期間とに基づいて決定される地表面マップ調整125に基づいて調整される。図示の例では、前の地表面マップ124-1は、地表面マップ調整125がデータ(例えば、高度又は高さ)を含む場所について、前の地表面マップ124-1を地表面マップ調整125に置き換えることによって、新しい地表面マップ124-2を生成するように調整される。地表面マップ調整125がデータを含む場所の外側にある場所について、新たな地表面マップ124-2は、前の地表面マップ124-1と同じに設定される。
【0036】
[0046]
図2は、本開示のいくつかの実施形態による、振動信号242に基づくIOG期間240の予測例を示す。図示の例では、作業機221が地表面212を通る作業機経路214を辿っている間に、振動信号242が振動センサを使用して取り込まれる。図示されていないが、振動センサは、建設機械の作業機221又は建設機械の他の場所に直接取り付けられてもよい。図示の振動信号は、正及び負の加速度値の両方を含む特定の軸(又は空間内の任意の方向)に沿った加速度信号である。
【0037】
[0047]振動信号242の特徴に基づいて、作業機221が地表面212に沿って掘削を開始するIOG開始時間236(1.3分~1.31分の間)及び作業機221が地表面212に沿って掘削を終了するIOG終了時間238(1.46分~1.47分の間)が予測される。図示の例では、振動信号242は、IOG期間240の間では、IOG期間240の外側と比較してより高い振幅を有するように示されている。また、
図2には、実際のIOG期間(又はIOGトゥルース(truth)239)並びに対応する実際のIOG開始時間及び終了時間を示すトゥルースリファレンス(truth reference)が示されており、これは、IOG期間240を予測するために振動シグネチャを使用する、記載された技術の精度を示している。
【0038】
[0048]
図3は、建設環境内の本開示の1つ又は複数の技術の例示的な実施形態を示す。具体的には、
図3は、建設現場310に配備された建設機械350を示し、この建設機械350は、様々な実施形態では、有線接続及び/又は無線接続を介して位置センサ358及び振動センサ365に通信可能に接続され得る制御ユニット360によって少なくとも部分的に制御が実施される。建設現場310は、本明細書では土工現場に対応するものとして概して記載されているが、本開示は、重機又は移動型機械が使用される多種多様な建設、メンテナンス、又は農業プロジェクトに適用可能であり得る。同様に、建設機械350は、本明細書では土工機械に対応するものとして概して記載されているが、本明細書に記載の様々な技術は、グレーダ、掘削機、ブルドーザ、バックホウ、舗装機械(例えば、コンクリート、アスファルト、スリップフォーム、振動などのためのもの)、コンパクタ、スクレーパ、ローダ、材料ハンドラ、コンバイン、スプレッダなどの多種多様な建設機械又は重機に適用可能であり得る。
【0039】
[0049]いくつかの実施形態では、建設機械350は、車輪、車軸を有するトラクタと、建設機械350に動力及び牽引力を与えて、しばしば一定速度で所望の経路に沿って駆動するためのガソリン、ディーゼル、電気、又は蒸気動力エンジンとを含んでもよい。建設機械350は、車両の車輪によって駆動されるトレッド又はトラックプレートの連続トラックを組み込んだ無限軌道車両であってもよい。建設機械350のオペレータは、レバー、スイッチ、ボタン、ペダル、ステアリングホイール、及びタッチスクリーンなどの様々な入力デバイスを使用して制御ユニット360に入力することができ、それによって様々なアクチュエータが建設機械350を動かすことができる。
【0040】
[0050]いくつかの場合においては、建設機械350は作業機321を含んでもよく、この作業機321は、建設現場310の要素と相互作用するように制御される建設機械350の主要な構成要素であってもよい。例えば、土工現場では、作業機321は、ブルドーザのブレード、油圧ショベルのバケット、又はコンパクタのドラムなど、土砂と相互作用する(例えば、押す、すくう、切るなど)建設機械350の構成要素であってもよい。別の例として、農業現場では、作業機321は、コンバインのヘッダ又はスプレッダのブームであってもよい。別の例として、道路工事現場では、作業機321はアスファルト舗装のスクリードであってもよい。
【0041】
[0051]いくつかの実施形態では、作業機321と建設機械350とは、間に半剛性の継手部を有する、互いに別個の主要部であるとみなされてもよいことを理解されたい。継手部は、主要部が互いに対して移動することができるが、所与の向きに固定され得るという点で半剛性である。建設機器又は土工機器に使用される半剛性継手のいくつかの例には、cフレーム、アングルcフレーム、プッシュアーム、L字型プッシュアームなどが含まれる。
【0042】
[0052]いくつかの実施形態では、制御ユニット360は、建設機械350に取り付けられた1つ又は複数のセンサ(例えば、位置センサ358)によって取り込まれたセンサデータに基づいて建設機械350の地理空間位置322を決定することができる。例えば、位置センサ358は、1つ又は複数のGNSS(全地球的航法衛星システム:Global Navigation Satellite Systems)衛星302からの無線信号を受信するGNSS受信機であってもよい。受信した無線信号を処理することにより、GNSS受信機の位置を計算することができる。建設機械350の動作中に、地理空間位置322が決定され、この地理空間位置322は、建設現場110内の二次元(2D)位置と所望の地表面又は掘削深さとの間の並進をもたらし得る現場設計を照会するために使用される。
【0043】
[0053]本明細書に記載されるように、いくつかの実施形態では、振動センサ365を使用して、作業機321の動きを示す振動信号342を取り込むことができる。振動信号342は、IOG検出器334に提供されてもよく、IOG検出器は、振動信号342から特徴を抽出し、抽出された特徴を、1つ又は複数のIOG期間(複数可)340を予測するために使用される機械学習モデルに提供することができる。IOG期間(複数可)340の各々は、より大きな掘削事象(又は掘削期間)中に生じ、それぞれ、作業機321が建設現場310で地面と相互作用している期間にそれぞれ対応し得る。IOG期間(複数可)340は、IOG開始時間(複数可)336及びIOG終了時間(複数可)338に関連付けることができる。
【0044】
[0054]
図4は、本開示のいくつかの実施形態による、例示的な機械制御システム400を示す。機械制御システム400は、建設機械の1人又は複数人のオペレータが作業関連タスクを完了することを可能にするために、様々な入力デバイス452、センサ454、アクチュエータ456、及びコンピューティングデバイスを含んでもよい。機械制御システム400の構成要素は、建設機械が機械制御システム400を含むとみなされ得るように、建設機械の構成要素に取り付けられるか、又は建設機械の構成要素と一体化されてもよい。機械制御システム400の複数の構成要素は、1つ又は複数の有線接続及び/又は無線接続を介して互いに通信可能に接続されてもよい。
【0045】
[0055]機械制御システム400は、様々なセンサからデータを受信し、様々なアクチュエータ及び出力デバイスに送信されるコマンドを入力及び生成する制御ユニット460を含んでもよい。図示の例では、制御ユニット460は、入力デバイス(複数可)452から入力データ453を受信し、センサ(複数可)454からセンサデータ455を受信し、アクチュエータ(複数可)456に送信される制御信号(複数可)457を生成する。制御ユニット460は、1つ又は複数のプロセッサ及び関連するメモリを含んでもよい。いくつかの実施形態では、制御ユニット460は、機械制御システム400及び建設機械の外部に配置された外部コンピューティングシステム462に通信可能に接続されてもよい。外部コンピューティングシステム462は、作業関連タスクの詳細の命令を制御ユニット460に送信してもよい。外部コンピューティングシステム462はまた、交通状況、気象状況、材料運搬車両の位置及び状態などの警報及び他の一般情報を制御ユニット460に送信してもよい。
【0046】
[0056]いくつかの実施形態では、入力デバイス(複数可)452は、車両の所望の動き、作業機の所望の動き、作業機の所望の高さ、作業機における1つ又は複数の機構の作動(例えば、掘削機のバケットの回転)などを示す入力データ453を受信することができる。入力デバイス(複数可)452は、キーボード、タッチスクリーン、タッチパッド、スイッチ、レバー、ボタン、ステアリングホイール、アクセルペダル、ブレーキペダルなどを含んでもよい。いくつかの実施形態では、入力デバイス(複数可)452は、車両の運転室内など、車両の任意の物理的部分に取り付けられてもよい。
【0047】
[0057]いくつかの実施形態では、センサ(複数可)454は、1つ又は複数の位置センサ458及び/又は振動センサ(複数可)465を含むことができる。位置センサ(複数可)458は、衛星から受信した無線信号を使用して位置を決定するGNSS受信機と、距離、垂直角、及び水平角の測定値を組み合わせることによって位置を決定するトータルステーションとの組み合わせであってもよい。振動センサ(複数可)465は、それらがしっかりと取り付けられている建設機械の構成要素の動きを検出する1つ又は複数のセンサを含んでもよい。いくつかの場合においては、振動センサ(複数可)465は、1つ又は複数のマイクロフォン又は他の音響センサを含んでもよい。いくつかの場合においては、振動センサ(複数可)465は、1つ又は複数の慣性計測ユニット(IMU:inertial measurement unit)センサ及び/又はその要素を含んでもよい。例えば、振動センサ(複数可)465は、他の可能性の中でもとりわけ、角加速度、角速度及び/又は角位置(又は他の回転信号又はデータ)を検出するための1つ又は複数のジャイロスコープ、直線加速度、直線速度及び/又は直線位置を検出するための1つ又は複数の加速度計、及び/又は、上記の種類のデータを検出するための1つ又は複数の磁力計を含んでもよい。
【0048】
[0058]いくつかの実施形態(例えば、ジャイロスコープとして実装される場合)では、振動センサ(複数可)465は、角速度を直接検出し、角度位置を取得するために積分することができ、あるいは振動センサは、角度位置を直接測定し、角速度を取得するために角度位置の変化を決定(例えば、導関数を計算)することができる。多くの場合において、振動センサ(複数可)465を使用して、建設機械のヨー角(垂直軸に対する回転角)、ピッチ角(横軸に対する回転角)、及び/又はロール角(縦軸に対する回転角)を決定してもよい。
【0049】
[0059]制御ユニット460は、制御信号(複数可)457の生成及び他のデータの計算を支援するための様々なコントローラ及びモジュールを含むことができる。コントローラ及びモジュールの各々は、専用のハードウェアを含んでもよく、及び/又は、制御ユニット460のメインプロセッサ及び/又はメモリを使用して実行してもよい。いくつかの実施形態では、制御ユニット460は、センサデータ455に基づいて機械の構成要素の位置を推定する機械構成要素位置推定器428を含んでもよい。例えば、機械構成要素位置推定器428は、センサデータ455を使用して、IOG過程中の作業機の位置を推定することができる。任意選択的に、機械構成要素位置推定器428は、建設機械が建設現場内にその時点で位置しているときの建設機械全体のモデルを生成してもよい。そのような実施形態では、モデルは、センサデータ455に基づいてだけでなく、アクチュエータ(複数可)456からのフィードバックをさらに使用して、及び/又は制御信号(複数可)457を追跡することによって生成されてもよい。
【0050】
[0060]いくつかの実施形態では、制御ユニット460は、他のセンサデータ455と共に振動信号442を使用して掘削期間中に生じる各IOG期間を予測するIOG検出器434を含んでもよい。各IOG期間は、地表面マップを維持する地表面マップ作製器425に供給されてもよい。地表面マップ作製器425は、機械構成要素位置推定器428によって提供される作業機位置と共に、IOG検出器434によって提供される各IOG期間に基づいて地表面マップを調整することができる。
【0051】
[0061]制御信号(複数可)457は、直流(DC)又は交流(AC)電圧信号、DC又はAC電流信号、及び/又は情報含有信号を含んでもよい。情報含有信号の例は、CANバス又は他の通信媒体に沿って送信され得るコントローラエリアネットワーク(CAN)メッセージであってもよい。いくつかの場合において、制御信号(複数可)457は空気圧又は油圧を含む。制御信号(複数可)457を受信すると、アクチュエータ(複数可)456は、指定された量だけ伸長、収縮、回転、上昇、又は下降することなどによって、指定された態様で動作させることができる。アクチュエータ(複数可)456は、建設機械の構成要素を動作させるために様々な形態の動力を使用してもよい。例えば、アクチュエータ(複数可)456は、他の可能性の中でもとりわけ、電気式、油圧式、空気圧式、機械式、又は熱式であってもよい。
【0052】
[0062]
図5は、本開示のいくつかの実施形態による、例示的なIOG検出器534を示す。入力として、IOG検出器534には、センサデータ555に基づいて(及び任意選択的に振動信号542に基づいて)機械構成要素位置推定器528によって推定され得る振動信号542及び一組の作業機位置(複数可)529が提供されてもよい。IOG検出器435は、振動信号542から1つ又は複数の特徴547(及び任意選択的に作業機位置(複数可)529)を抽出する特徴抽出器546を含んでもよい。
【0053】
[0063]いくつかの実施形態では、特徴547は、振動信号542の振幅に関連する信号振幅特徴547-1を含んでもよい。例えば、信号振幅特徴547-1は、他の可能性の中でもとりわけ、振動信号542の時変振幅、振動信号542の振幅の大きさ、振動信号542の振幅の平均、振動信号542の振幅の標準偏差、振動信号542の長時間平均振幅に対する短時間平均振幅(STA/LTA)、振動信号542の長時間振動変化(例えば、振動信号542がジャイロにより取り込まれるとき)を含んでもよい。
【0054】
[0064]いくつかの実施形態では、特徴547は、振動信号542の振幅に関連する信号周波数特徴547-2を含んでもよい。例えば、信号周波数特徴547-2は、他の可能性の中でもとりわけ、振動信号542の時間変化周波数(例えば、連続した時間窓全体にわたって)、振動信号542の高周波エネルギー、振動信号542の低周波エネルギー、振動信号542のパワースペクトル密度を含んでもよい。
【0055】
[0065]いくつかの実施形態では、特徴547は、作業機位置(複数可)529に基づいて(及び、任意選択的に、振動信号542がIMU信号を含む場合に振動信号542に基づいて)決定された作業機動作特徴547-3を含んでもよい。例えば、作業機動作特徴547-3は、他の可能性の中でもとりわけ、作業機のカール動作又は回転(例えば、油圧ショベルのバケットのカール動作)、作業機と建設機械上の基準点との間の距離(例えば、作業機と運転室との間の距離)、作業機の移動方向、建設機械の旋回を含んでもよい。
【0056】
[0066]特徴547は、特徴547に基づいて出力を生成する機械学習モデル532に提供されてもよい。例えば、特徴547は、機械学習モデル532への入力に使用されてもよく、機械学習モデル532の層又はノードを通過してもよい。機械学習モデル532によって生成された出力は、モデル出力と称され得る。モデル出力は、一組のIOG候補544及び/又は一組のIIA候補545を含んでもよい。様々な実施形態において、IOG候補544及びIIA候補545は、機械学習モデル532によって直接出力されてもよく、モデル出力に対して1つ又は複数の後処理ステップを実行することによって取得されてもよい。
【0057】
[0067]いくつかの実施形態では、IOG検出器534は、モデル出力(任意選択的にIOG候補544及び/又はIIA候補545を含む)を分析し、この分析に基づいてIOG期間540、及び/又はIOG開始時間536及びIOG終了時間538を予測する後処理ステップ551を含んでもよい。例えば、後処理ステップ551は、IOG候補544及び/又はIIA候補545のクラスタを識別し、識別されたクラスタに基づいてIOG期間540、及び/又はIOG開始時間536及びIOG終了時間538を予測するためのステップを含んでもよい。一例では、IOG候補544のクラスタを包含する時間窓をIOG期間540の予測に使用することができる。別の例では、それぞれを除外したIIA候補545の2つのクラスタ間の時間窓をIOG期間540の予測に使用してもよい。別の例では、IIA候補545のクラスタとIOG候補544のクラスタとの間の移行部をIOG開始時間536の予測に使用してもよく、IOG候補544のクラスタとIIA候補545のクラスタとの間の移行部をIOG終了時間538の予測に使用してもよい。いくつかの実施形態では、機械学習モデル532は、後処理ステップ551を使用せずに、IOG期間540、及び/又はIOG開始時間536及びIOG終了時間538を直接出力することができる。
【0058】
[0068]いくつかの実施形態では、後処理ステップ551は、IOG期間540、及び/又はIOG開始時間536及びIOG終了時間538を予測するために作業機動作特徴547-3を実装することができる。例えば、建設機械の運転室に向かう作業機の動きは、IOG過程を示すものとすることができる。一例では、作業機と運転室との間の距離を分析して、最小距離値及びその関連時間を決定することができ、これは、IOG終了時間538がいつ発生し得るかの強力な指標となり得る。別の例では、作業機と運転室との間の最大距離及びその関連する時間を決定してもよく、これは、IOG開始時間536がいつ発生し得るかの強力な指標となり得る。
【0059】
[0069]機械学習モデル532は、他の可能性の中でもとりわけ、サポートベクターマシン、ニューラルネットワーク、畳込みニューラルネットワーク、ベイジアンネットワークであってもよい。機械学習モデル532は、機械学習モデル532に提供されるトレーニング用特徴を生成するために複数のトレーニング用振動信号が特徴抽出器546に提供されるトレーニングプロセスを通じてトレーニングされ得る。トレーニングプロセス中の各反復に関し、トレーニング用振動信号を使用して生成されたIOG期間540は、トゥルースリファレンスと比較されて、トレーニング結果とトゥルースリファレンスとの間の任意の差(「ロス」とも称される)を決定してもよい。ロスは、機械学習モデル532を使用して次続の推論中におけるロスを低減するように、機械学習モデル532を(例えば、機械学習モデル532の重み又はパラメータを修正することによって)修正するために、使用されてもよい。機械学習モデル532は単一の機械学習モデルとして示されているが、複数の機械学習モデルを使用して、様々なタイプの特徴547又は様々なタイプのモデル出力を処理することができることに留意されたい。
【0060】
[0070]
図6A及び
図6Bは、本開示のいくつかの実施形態による、振動信号642及びその対応する抽出された周波数特徴647の例をそれぞれ示している。
図6Aでは、IOG期間がいつ発生するかを示すトゥルースリファレンスと共に、加速度計によって取り込まれた加速度信号が示されている。
図6Bでは、加速度信号のパワースペクトル密度が、IOG期間がいつ発生するかを示すトゥルースリファレンスと共に示されている。いくつかの場合においては、図示された振動信号及び周波数特徴は、機械学習モデルを使用して予測IOG期間を生成し、予測IOG期間をトゥルースリファレンスと比較し、この比較に基づいて機械学習モデルを修正することによって、機械学習モデルをトレーニングするために使用され得る。
【0061】
[0071]
図7A及び
図7Bは、本開示のいくつかの実施形態による、作業機動作特徴の例を示す。
図7Aでは、作業機と運転室との間の作業機距離(又はバケット距離)が、IOG期間がいつ発生するかを示すトゥルースリファレンスと共に示されている。
図7Bでは、IOG期間がいつ発生するかを示すトゥルースリファレンスと共に作業機の回転(又はバケット回転、すなわちバケットの角度)が示されている。
図7A及び
図7Bの両図は、平滑化したデータと共に元のデータを示している。
【0062】
[0072]
図7A及び
図7Bは、作業機動作特徴とIOG期間との間に強い相関関係があることを立証している。例えば、
図7Aは、IOG期間がバケット距離の減少と強く相関することを示している。いくつかの実施形態では、バケット距離の最大値及び最小値(すなわち、それぞれピーク及び谷)を識別することができ、IOG期間(IOG開始時間及び終了時間を含む)を、最大値及び最小値に関連する時間の間に存在するように制約することができる。別の例として、
図7Bは、IOG期間が減少するバケット回転と強く相関することを示している。いくつかの実施形態では、バケット回転の最大値及び最小値を識別することができ、IOG期間(IOG開始時間及び終了時間を含む)を、最大値及び最小値に関連する時間の間に存在するように制約することができる。
【0063】
[0073]
図8は、本開示のいくつかの実施形態による、振動信号及びその対応する振幅特徴847に基づくIOG期間の予測の一例を示す。また、IOG開始時間836及びIOG終了時間838の予測、並びにIOG期間がいつ発生するかを示すトゥルースリファレンスも示されている。図示の例では、振幅特徴847は、振動/加速度信号の振幅の変化を表す。振幅特徴847の各値は、8つの値を含む第1の窓の大きさを合計し、64個の値を含む第2の窓の大きさの合計で割ることによって計算される。2つの窓は、窓の最後のサンプルに位置合わせされる。
【0064】
[0074]図示されている振動信号の振幅特徴は、IOG候補844及びIIA候補845を生成する機械学習モデルに提供され、これらは関連付けられた時間に
図8において示されている。後処理ステップ中に、IOG候補844のクラスタ及びIIA候補845のクラスタを識別することができる。IIA候補845のクラスタからIOG候補844のクラスタへの移行部を使用して、例えば、各IOGクラスタ内の最初のIOG候補の時間に基づいてIOG開始時間836を予測することができる。IOG候補844のクラスタからIIA候補845のクラスタへの移行部を使用して、例えば、各IIAクラスタ内の最初のIIA候補の時間及び/又は各IOGクラスタ内の最後のIOG候補の時間に基づいてIOG終了時間838を予測することができる。
【0065】
[0075]
図9は、本開示のいくつかの実施形態による、振動信号942及び作業機距離(バケット距離)に基づくIOG終了時間938の予測の一例を示す。IOG期間がいつ発生するかを示すトゥルースリファレンスも示されている。図示の例では、振動信号の特徴に基づいて機械学習モデルによっていくつかのIOG候補が生成される。後処理ステップ中に、IOG候補のクラスタが識別され、IOG開始時間及び終了時間が予測される。いくつかの実施形態では、IOGの開始時間及び終了時間は、最大作業機距離(最大バケット距離)と最小作業機距離(最小バケット距離)との間になるように制約される。
【0066】
[0076]いくつかの実施形態では、異常値IOG候補(約2.4分)を使用してIOG終了時間838を予測すべきかどうか、又は無視すべきかどうかを決定することができる。2.4分でのIOG候補と最小バケット距離の時間(約2.4分でもある)との間の時間差を調べることによって、2.4分でのIOG候補は、IOG終了時間838を予測するために使用されるべきであり、無視されるべきではないと決定することができる。いくつかの実施形態では、特定のIOG候補と最小バケット距離の時間との間の時間差を閾値と比較して、特定のIOG候補がIOG終了時間を決定するために考慮されるべきかどうかを決定することができ、閾値を超える時間差は特定のIOG候補を無視されるべきものとする。
【0067】
[0077]
図10は、本開示のいくつかの実施形態による、例示的な方法1000を示す。様々な実施形態において、方法1000は、他の可能性の中でもとりわけ、建設機械の作業機が地表面と相互作用している期間を決定する方法、建設機械の作業機が地表面と相互作用している期間の開始時間及び/又は終了時間を決定する方法、地表面マップを調整する方法、地表面マップを生成する方法であるとみなされてもよい。方法1000の実行中に、方法1000における1つ又は複数のステップは省略されてもよく、方法1000のステップは任意の順序及び/又は並行して実行されてもよい。方法1000の1つ又は複数のステップは、制御ユニット(例えば、制御ユニット360、460)に含まれるものなどの1つ又は複数のプロセッサによって実行されてもよい。方法1000は、プログラムが1つ又は複数のコンピュータによって実行されるとき、1つ又は複数のコンピュータに方法1000のステップを実行させる命令を含むコンピュータ可読媒体又はコンピュータプログラム製品として実装されてもよい。
【0068】
[0078]ステップ1002において、振動信号(例えば、振動信号242、342、442、542、642、942)が取り込まれる。振動信号は、振動センサ(例えば、振動センサ365、465)を使用して取り込まれてもよい。振動センサは、建設機械(例えば、建設機械150、350)の作業機(例えば、作業機121、221、321)に取り付けられてもよい。振動信号は、作業機の動きを示すものであってもよい。いくつかの実施形態では、振動センサは加速度計を含んでもよく、振動信号は加速度信号を含んでもよい。いくつかの実施形態では、振動センサはジャイロスコープを含んでもよく、振動信号は回転信号を含んでもよい。いくつかの実施形態では、振動センサはIMUセンサ(加速度計又はジャイロスコープなど)を含んでもよく、振動信号はIMU信号(加速度信号又は回転信号など)を含んでもよい。いくつかの実施形態では、振動センサは、音響センサ(マイクロフォンなど)を含んでもよい。
【0069】
[0079]ステップ1004において、振動信号から1つ又は複数の特徴(例えば、特徴547、647、847)が抽出される。1つ又は複数の特徴は、他の可能性の中でもとりわけ、信号振幅特徴(例えば、信号振幅特徴547-1)、信号周波数特徴(例えば、信号周波数特徴547-2)、作業機動作特徴(例えば、作業機動作特徴547-3)を含んでもよい。1つ以上の特徴は、特徴抽出器(例えば、特徴抽出器546)によって抽出されてもよい。特徴抽出器は、振動信号に加えて、一組の作業機位置(例えば、作業機位置529)から1つ以上の特徴を抽出してもよい。
【0070】
[0080]ステップ1006において、1つ又は複数の特徴が機械学習モデル(例えば、機械学習モデル532)に提供される。1つ又は複数の特徴を機械学習モデルに提供すると、機械学習モデルは、1つ又は複数の特徴に基づいてモデル出力を生成することができる。モデル出力は、一組のIOG候補(例えば、IOG候補544、844)及び/又は一組のIIA候補(例えば、IIA候補545、845)を含んでもよい。一組のIOG候補は、作業機が地表面と相互作用している時間に対応するものとしてもよい。一組のIIA候補は、作業機が地表面と相互作用していない時間(すなわち、作業機は地表面の上にある)に対応するものとしてもよい。機械学習モデルは、他の可能性の中でもとりわけ、事前トレーニングされたサポートベクトルマシン、ニューラルネットワークであってもよい。
【0071】
[0081]ステップ1008において、IOG開始時間(例えば、IOG開始時間336、536、836)及び/又はIOG終了時間(例えば、IOG終了時間338、538、838、938)がモデル出力に基づいて予測される。IOG開始時間及びIOG終了時間は、作業機が建設現場(例えば、建設現場310)の地表面(例えば、地表面112、212)と相互作用しているIOG期間(例えば、IOG期間340、540)を形成することができる。作業機は、作業機が地表面に切り込み又は掘削しているときに地表面と相互作用してもよい。IOG開始時間及び/又はIOG終了時間は、一組のIOG候補及び/又は一組のIIA候補に基づいて予測されてもよい。いくつかの実施形態では、IOG開始時間及び/又はIOG終了時間は、作業機の動作の特徴及び/又は一組の作業機位置に基づいて予測されてもよい。
【0072】
[0082]ステップ1010において、地表面マップ(例えば、地表面マップ124)が、作業機が地表面と相互作用している期間(及び/又はIOG開始時間及びIOG終了時間)に基づいて調整される。地表面マップは、期間中の作業機の経路にさらに基づいて調整されてもよい。地表面マップを調整することは、期間中の作業機の経路を反映するように地表面マップを修正/変更/更新することを含み得る。いくつかの実施形態では、地表面マップは、その期間中の作業機の経路(例えば、バケットエッジの位置)と等しく設定されてもよい。
【0073】
[0083]方法1000は、IOG期間を予測することに加えて、又はその代わりに、建設機械の動作に関連する様々な期間を予測するように修正されてもよいことに留意されたい。例えば、様々な実施形態において、方法1000は、他の可能性の中でもとりわけ、建設機械がダンプ、旋回、トラミング、アイドリング、逆転、加速、減速をしている期間を予測するように修正されてもよい。
【0074】
[0084]
図11は、本開示のいくつかの実施形態による、様々なハードウェア要素を備える例示的なコンピュータシステム1100を示す。コンピュータシステム1100は、本明細書に記載の装置に組み込まれるか、又は一体化されてもよく、及び/又は様々な実施形態によって提供される方法のステップの一部又はすべてを実行するように構成されてもよい。例えば、様々な実施形態では、コンピュータシステム1100は、機械制御システム400に組み込まれてもよく、及び/又は方法1000を実行するように構成されてもよい。
図11は、そのいずれか又はすべてが適切に利用され得る様々な構成要素の一般化された説明を提示することのみを意味することに留意されたい。したがって、
図11は、個々のシステム要素がどのようにして比較的分離された態様、又は比較的より統合された態様で実装され得るかを広く示している。
【0075】
[0085]図示の例では、コンピュータシステム1100は、通信媒体1102と、1つ又は複数のプロセッサ(複数可)1104と、1つ又は複数の入力デバイス(複数可)1106と、1つ又は複数の出力デバイス(複数可)1108と、通信サブシステム1110と、1つ又は複数のメモリデバイス(複数可)1112とを含む。コンピュータシステム1100は、様々なハードウェア実装及び組込みシステム技術を使用して実装され得る。例えば、コンピュータシステム1100の1つ又は複数の要素は、他の可能性の中でもとりわけ、XILINX(登録商標)、INTEL(登録商標)、又はLATTICE SEMICONDUCTOR(登録商標)によって市販されているものなどのフィールドプログラマブルゲートアレイ(FPGA)、システムオンチップ(SoC)、特定用途向け集積回路(ASIC)、特定用途向け標準製品(ASSP)、マイクロコントローラ、及び/又は、SoC FPGAなどのハイブリッドデバイスとして実装されてもよい。
【0076】
[0086]コンピュータシステム1100の様々なハードウェア要素は、通信媒体1102を介して通信可能に接続されてもよい。通信媒体1102は、明確にするために単一の接続部として示されているが、通信媒体1102は、ハードウェア要素間でデータを転送するための様々な数及びタイプの通信媒体を含み得ることを理解されたい。例えば、通信媒体1102は、他の可能性の中でもとりわけ、1つ又は複数のワイヤ(例えば、プリント回路基板(PCB)又は集積回路(IC)上の導電性トレース、経路、又はリード線、マイクロストリップ、ストリップライン、同軸ケーブル)、1つ又は複数の光導波路(例えば、光ファイバ、ストリップ導波路)、及び/又は、1つ又は複数の無線接続又はリンク(例えば、赤外線無線通信、無線通信、マイクロ波無線通信)を含んでもよい。
【0077】
[0087]いくつかの実施形態では、通信媒体1102は、コンピュータシステム1100のハードウェア要素のピンを接続する1つ又は複数のバスを含んでもよい。例えば、通信媒体1102は、システムバスと称される、プロセッサ(複数可)1104とメインメモリ1114とを接続するバスと、拡張バスと称される、メインメモリ1114と入力デバイス(複数可)1106又は出力デバイス(複数可)1108とを接続するバスとを含むことができる。システムバス自体は、アドレスバス、データバス、及び制御バスを含むいくつかのバスから構成されてもよい。アドレスバスは、データバスがメモリアドレスに含まれるデータにアクセスしてプロセッサ(複数可)1104に戻すために、メモリアドレスをプロセッサ(複数可)1104からメインメモリ1114に関連付けられたアドレスバス回路に伝送することができる。制御バスは、プロセッサ(複数可)1104からのコマンド及びメインメモリ1114からのリターンステータス信号を伝送することができる。各バスは、複数ビットの情報を伝送するための複数のワイヤを含むことができ、各バスは、データのシリアル伝送又はパラレル伝送をサポートすることができる。
【0078】
[0088]プロセッサ(複数可)1104は、1つ又は複数の中央処理装置(CPU)、グラフィック処理装置(GPU)、ニューラルネットワークプロセッサ又はアクセラレータ、デジタル信号プロセッサ(DSP)、及び/又は、命令を実行することができる他の汎用又は専用のプロセッサを含んでもよい。CPUは、金属酸化物半導体電界効果トランジスタ(MOSFET)構造の単一のICチップ上に製造することができるマイクロプロセッサの形態をとってもよい。プロセッサ(複数可)1104は、各コアが他のコアと同時にプログラム命令を読み出して実行することができ、マルチスレッディングをサポートするプログラムの速度を向上させる、1つ又は複数のマルチコアプロセッサを含んでもよい。
【0079】
[0089]入力デバイス(複数可)1106は、マウス、キーボード、マイクロフォンなどの様々なユーザ入力デバイス、及び、画像取込装置、圧力センサ(例えば、気圧計、触覚センサ)、温度センサ(例えば、温度計、熱電対、サーミスタ)、動作センサ(例えば、加速度計、ジャイロスコープ、傾斜センサ)、光センサ(例えば、フォトダイオード、光検出器、電荷結合素子)、及び/又は同様のものなどの様々なセンサ入力デバイスのうちの1つ又は複数を含んでもよい。入力デバイス(複数可)1106はまた、リムーバブル記憶装置又は他のリムーバブル媒体を読み取り及び/又は受信するための装置を含んでもよい。そのようなリムーバブル媒体は、光ディスク(例えば、Blu-ray(登録商標)ディスク、DVD、CD)、メモリカード(例えば、コンパクトフラッシュ(登録商標)カード、セキュアデジタル(SD)カード、メモリスティック)、フロッピーディスク、ユニバーサルシリアルバス(USB)フラッシュドライブ、外部ハードディスクドライブ(HDD)又はソリッドステートドライブ(SSD)、及び/又は同様のものを含んでもよい。
【0080】
[0090]出力デバイス(複数可)1108は、限定はしないが、ディスプレイデバイス、スピーカ、プリンタ、触覚デバイス又は触覚デバイス、及び/又は同様なものなどの、情報を人間が読める形式に変換する様々なデバイスのうちの1つ又は複数を含んでもよい。出力デバイス(複数可)1108はまた、入力デバイス(複数可)1106を参照して説明したものなどのリムーバブルストレージ装置又は他のリムーバブル媒体に書き込むための装置を含んでもよい。出力デバイス(複数可)1108はまた、1つ又は複数の構成要素の物理的な動作を引き起こすための様々なアクチュエータを含んでもよい。そのようなアクチュエータは、油圧式、空気圧式、電気式であってもよく、コンピュータシステム1100によって生成された制御信号を使用して制御されてもよい。
【0081】
[0091]通信サブシステム1110は、コンピュータシステム1100を、コンピュータネットワークなどを介してコンピュータシステム1100の外部に位置するシステム又はデバイスに接続するためのハードウェア構成要素を含むことができる。様々な実施形態において、通信サブシステム1110は、他の可能性の中でもとりわけ、1つ以上の入出力ポート(例えば、汎用非同期送受信機(UART))に接続された有線通信デバイス、光通信デバイス(例えば、光モデム)、赤外線通信デバイス、無線通信デバイス(例えば、ワイヤレスネットワークインターフェースコントローラ、BLUETOOTH(登録商標)デバイス、IEEE802.11デバイス、Wi-Fiデバイス、Wi-Maxデバイス、セルラデバイス)を含んでもよい。
【0082】
[0092]メモリデバイス(複数可)1112は、コンピュータシステム1100の様々なデータ記憶装置を含むことができる。例えば、メモリデバイス(複数可)1112は、プロセッサレジスタ及びキャッシュ(例えば、L0、L1、L2)などの高速応答時間及び低容量メモリから、ランダムアクセスメモリ(RAM)などの中速応答時間及び中容量メモリ、ソリッドステートドライブ及びハードディスクディスクなどの低応答時間及び低容量メモリまで、様々な応答時間及び容量を有する様々なタイプのコンピュータメモリを含んでもよい。プロセッサ(複数可)1104及びメモリデバイス(複数可)1112は別個の要素として示されているが、プロセッサ(複数可)1104は、単一のプロセッサによって利用され得る、又は複数のプロセッサ間で共有され得るプロセッサレジスタ及びキャッシュなどの様々なレベルのプロセッサ上メモリを含み得ることを理解されたい。
【0083】
[0093]メモリデバイス(複数可)1112は、通信媒体1102のメモリバスを介してプロセッサ(複数可)1104によって直接アクセス可能とすることができるメインメモリ1114を含んでもよい。例えば、プロセッサ(複数可)1104は、メインメモリ1114に記憶された命令を連続的に読み出して実行することができる。したがって、
図11に示すように、様々なソフトウェア要素をメインメモリ1114にロードし、プロセッサ(複数可)1104によって読み出して実行することができる。典型的には、メインメモリ1114は揮発性メモリであり、これは、電源がオフにされるとすべてのデータを失い、したがって記憶されたデータを保存するために電力を必要とする。メインメモリ1114は、メモリデバイス(複数可)1112に記憶された他のソフトウェアをメインメモリ1114に読み出すために使用されるソフトウェア(例えば、BIOSなどのファームウェア)を含む不揮発性メモリのごく一部をさらに含んでもよい。いくつかの実施形態では、メインメモリ1114の揮発性メモリは、ダイナミックランダムアクセスメモリ(DRAM)などのRAMとして実装され、メインメモリ1114の不揮発性メモリは、フラッシュメモリ、消去可能プログラマブル読出し専用メモリ(EPROM)、又は電気的消去可能プログラマブル読出し専用メモリ(EEPROM)などの読出し専用メモリ(ROM)として実装される。
【0084】
[0094]コンピュータシステム1100は、メインメモリ1114内に現在位置するものとして示されるソフトウェア要素を含むことができ、これは、本開示の様々な実施形態によって提供されるコンピュータプログラムを含むことができる1つ若しくは複数のアプリケーションプログラムなどの、オペレーティングシステム、デバイスドライバ(複数可)、ファームウェア、コンパイラ及び/又は他のコードを含むことができる。単なる例として、上述した任意の方法に関して説明した1つ又は複数のステップは、コンピュータシステム1100によって実行可能な命令1116として実装され得る。一例では、そのような命令1116は、通信サブシステム1110を使用して(例えば、命令1116を伝送する無線又は有線信号を介して)コンピュータシステム1100によって受信され、通信媒体1102によってメモリデバイス(複数可)1112に伝送され、メモリデバイス(複数可)1112内に格納され、メインメモリ1114に読み込まれ、記載された方法の1つ又は複数のステップを実行するためにプロセッサ(複数可)1104によって実行されてもよい。別の例では、命令1116は、入力デバイス(複数可)1106を使用して(例えば、リムーバブル媒体用リーダを介して)コンピュータシステム1100によって受信され、通信媒体1102によってメモリデバイス(複数可)1112に伝送され、メモリデバイス(複数可)1112内に格納され、メインメモリ1114に読み込まれ、記載された方法の1つ又は複数のステップを実行するためにプロセッサ(複数可)1104によって実行されてもよい。
【0085】
[0095]本開示のいくつかの実施形態では、命令1116は、コンピュータ可読記憶媒体(又は単なるコンピュータ可読媒体)に記憶される。そのようなコンピュータ可読媒体は、非一時的であってもよく、したがって、非一時的コンピュータ可読媒体と称され得る。いくつかの場合において、非一時的コンピュータ可読媒体は、コンピュータシステム1100内に組み込まれてもよい。例えば、非一時的コンピュータ可読媒体は、メモリデバイス(複数可)1112(
図11に示される)のうちの一方であってもよい。いくつかの場合において、非一時的コンピュータ可読媒体は、コンピュータシステム1100とは別個であってもよい。一例では、非一時的コンピュータ可読媒体は、入力デバイス(複数可)1106を参照して説明したものなどの入力デバイス(複数可)1106(
図11に示される)に設けられるリムーバブル媒体であってもよく、命令1116は入力デバイス(複数可)1106によってコンピュータシステム1100に読み込まれる。別の例では、非一時的コンピュータ可読媒体は、命令1116を伝送するデータ信号をコンピュータシステム1100に無線で送信することができ、通信サブシステム1110(
図11に示される)によって受信される携帯電話などのリモート電子機器の構成要素であってもよい。
【0086】
[0096]命令1116は、コンピュータシステム1100によって読み取られ、及び/又は実行される任意の適切な形態をとることができる。例えば、命令1116は、ソースコード(Java、C、C++、C#、Pythonなどの人間が読み取り可能なプログラミング言語で書かれている)、オブジェクトコード、アセンブリ言語、機械コード、マイクロコード、実行可能コードなどであってもよい。一例では、命令1116はソースコードの形態でコンピュータシステム1100に提供され、コンパイラを使用して命令1116をソースコードから機械語に変換し、次いでプロセッサ(複数可)1104による実行のためにメインメモリ1114に読み込むことができる。別の例として、命令1116は、プロセッサ(複数可)1104による実行のためにメインメモリ1114に直ちに読み込まれ得るマシンコードを有する実行可能ファイルの形態でコンピュータシステム1100に提供される。様々な例では、命令1116は、他の可能性の中でもとりわけ、インストールパッケージ又はより広範なソフトウェア展開のための初期設定として、暗号化形式又は非暗号化形式、圧縮形式又は非圧縮形式でコンピュータシステム1100に提供されてもよい。
【0087】
[0097]本開示の一態様では、本開示の様々な実施形態による方法を実行するためのシステム(例えば、コンピュータシステム1100)が提供される。例えば、いくつかの実施形態は、非一時的コンピュータ可読媒体(例えば、メモリデバイス(複数可)1112又はメインメモリ1114)に通信可能に接続された1つ又は複数のプロセッサ(例えば、プロセッサ(複数可)1104)を備えるシステムを含むことができる。非一時的コンピュータ可読媒体は、1つ又は複数のプロセッサによって実行されるとき、1つ又は複数のプロセッサに様々な実施形態で説明された方法を実行させる命令(例えば、命令1116)を記憶することができる。
【0088】
[0098]本開示の別の態様では、本開示の様々な実施形態による方法を実行するための命令(例えば、命令1116)を含むコンピュータプログラム製品が提供される。コンピュータプログラム製品は、非一時的なコンピュータ可読媒体(例えば、メモリデバイス(複数可)1112又はメインメモリ1114)で有形に具現化され得る。命令は、1つ又は複数のプロセッサ(例えば、プロセッサ(複数可)1104)に、様々な実施形態で説明した方法を実行させるように構成されてもよい。
【0089】
[0099]本開示の別の態様では、非一時的コンピュータ可読媒体(例えば、メモリデバイス(複数可)1112又はメインメモリ1114)が提供される。非一時的コンピュータ可読媒体は、1つ又は複数のプロセッサ(例えば、プロセッサ(複数可)1104)によって実行されるとき、1つ又は複数のプロセッサに様々な実施形態で説明された方法を実行させる命令(例えば、命令1116)を記憶することができる。
【0090】
[0100]上述の方法、システム、及びデバイスは例である。様々な構成は、必要に応じて様々な手順又は構成要素を省略、置換、又は追加することができる。例えば、代替的な構成では、方法は、記載された順序とは異なる順序で実行されてもよく、及び/又は様々な段階が追加、省略、及び/又は組み合わせられてもよい。また、特定の構成に関して説明した特徴は、様々な他の構成で組み合わされてもよい。構成の異なる態様及び要素は、同様の方法で組み合わされてもよい。また、技術は進化しており、したがって、要素の多くは例であり、本開示又は特許請求の範囲を限定するものではない。
【0091】
[0101]具体的な詳細は、実施形態を含む例示的な構成の完全な理解を提供するために上記説明で与えられている。しかしながら、これらの特定の詳細を伴うことなく構成を実施することができる。例えば、周知の回路、プロセス、アルゴリズム、構造、及び技術は、構成を不明瞭にすることを避けるために、不必要な詳細を伴うことなく示されている。この説明は、例示的な構成のみを提供し、特許請求の範囲、適用性、又は構成を限定しない。むしろ、構成の上記説明は、記載された技術を実施するための可能な説明を当業者に提供する。本開示の趣旨又は範囲から逸脱することなく、要素の機能及び配置に様々な変更を加えることができる。
【0092】
[0102]いくつかの例示的な構成を説明してきたが、本開示の趣旨から逸脱することなく、様々な修正、代替的な構成、及び均等物が使用されてもよい。例えば、上記の要素は、より大きなシステムの構成要素であってもよく、その場合、他の規則が本技術の適用に優先するか、そうでなければ本技術の適用を修正してもよい。また、上記の要素が考慮される前、考慮されている間、又は考慮された後に、いくつかのステップが行われてもよい。したがって、上記の説明は特許請求の範囲を拘束するものではない。
【0093】
[0103]本明細書及び添付の特許請求の範囲で使用される場合、単数形「1つの(a)」、「1つの(an)」、及び「その(the)」は、文脈上他に明確に指示されない限り、複数の言及物を含む。したがって、例えば、「1人のユーザ」への言及は1人又は複数人のそのようなユーザの言及を含み、「1つのプロセッサ」への言及は1つ又は複数のプロセッサ及び当業者に知られているその均等物への言及を含む、などである。
【0094】
[0104]また、「備える(comprise)」、「備えている(comprising)」、「包含する(contains)」、「包含している(containing)」、「含む(include)」、「含んでいる(including)」、及び「含む(includes)」という用語は、本明細書及び以下の特許請求の範囲で使用される場合、記載された特徴、整数、構成要素、又はステップの存在を特定することを意図しているが、1つ又は複数の他の特徴、整数、構成要素、ステップ、行為、又はグループの存在又は付加を排除するものではない。
【0095】
[0105]また、本明細書に記載の例及び実施形態は例示のみを目的としており、それに照らして様々な修正又は変更が当業者に示唆され、本出願の精神及び範囲並びに添付の特許請求の範囲内に含まれるべきであることも理解される。
【国際調査報告】