(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0022】
以下、この発明の実施の形態を図面に基づいて詳細に説明する。2つの実施の形態を[実施形態1]、[実施形態2]に分けて説明する。なお、[実施形態1]は段取りに関するものであり、[実施形態2]は曲げ作業に関するものである。
【0023】
[実施形態1]
図1を参照する。支援システムsの構成要素を示す。
【0024】
支援システムsは、曲げ加工機用ARマーカd1と、金型データベースd2と、加工作業内容d3と、ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1とを備える。前記支援システムsはコンピュータを備えコンピュータ制御を実行するものである。
【0025】
前記曲げ加工機用ARマーカd1とは、曲げ加工段取りに必要な位置情報等を支援システムsに認識させるためのARマーカ(ARマーカの取り付け位置は曲げ加工機mの原点を基準位置として一定の決まりに基づいて取り付けられているものとする)である。
【0026】
なお、本例では、曲げ加工機(ベンディング機ともいう)mに使用するAR(拡張現実)マーカを特に曲げ加工機用ARマーカd1と定義する。
【0027】
また、ARマーカ(例えば特許請求の範囲に記載)という場合は、通常のARマーカに加え、曲げ加工機用ARマーカを含む広い概念である。
【0028】
前記金型データベースd2は、金型の形状データを蓄積し、金型情報(金型識別情報等)の入力に対して金型の形状データを出力するものである。
【0029】
前記加工作業内容d3は、作成した作業段取りを読み込み、必要な金型情報と、金型の取付位置・向きを出力する情報である。
【0030】
前記ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1は、作業者に装着させることで作業者の視認状況を把握し、作業内容を都度作業者に教示する装置である。
【0031】
より詳細には、前記ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1は、ARマーカ認識用カメラkmと、画像生成手段prと、ディスプレイ(表示する機能を有する全てを含む)dpと、フレーム(めがね、ゴーグル等のフレーム)frとを有し、例えば人体の頭部に装着可能である。
【0032】
本例で、画像とは曲げ加工の段取りに関するものであり、ポリゴンデータ、注記データ等を含むものである。
【0033】
前記支援システムsの動作を説明する。
【0034】
プロセスp1では、加工段取りの開始時に、作業者の装着したARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1のARマーカ認識用カメラkmを用いて曲げ加工機用ARマーカd1を認識する。
【0035】
プロセスp2では、プロセスp1で取得した曲げ加工機用ARマーカd1の内容と、金型データベースd2・加工作業内容d3から受け取ったデータを比較し、作業内容に応じた画像を前記ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1のディスプレイdpに表示する。
【0036】
プロセスp3では、作業者は前記ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1のディスプレイ表示に従って金型の取付を行う(金型データベースd2から金型の概形データを取得して表示することで作業のミスを防止する)。
【0037】
プロセスp4では、金型の取付が1作業終わるごとに、支援システムsは次の作業を読み込み、ディスプレイdpに表示する
プロセスp5では、プロセスp1〜プロセスp3を繰り返し、全ての作業が終了したら前記ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1のディスプレイdpにその旨が通知される(『金型取付が完了しました。続いて曲げ加工を行います』等)。
【0038】
曲げ加工機用ARマーカd1の認識および情報の処理を本実施例ではARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1に集約している(加工作業内容d3をARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1が受け取り、内部で処理を行っている)が、ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1で行う処理を画像取得と教示情報の表示のみにとどめ、データの処理を作業者と離れたところで行っても構わない(ARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1から情報を転送し、必要な情報を受け取って表示する)。逆に、金型データベースd2・加工作業内容d3をARマーカ認識用カメラを搭載したヘッドマウントディスプレイh1の内部に統合してしまうことも可能である。
【0039】
一般的に使用されるAR(拡張現実)技術を示す。
【0040】
例えば、眼鏡状のフレームにプロジェクタ投影式のモニタを搭載する。モニタには情報の透過表示が可能である。投影情報は接続した小型PCから取得する。本支援システムsでは、ARマーカの認識を行うためにカメラを追加する。
【0041】
例えば、家具を置きたい位置に規定のARマーカを配置してカメラで撮影するとARマーカの位置に家具の画像が重なって表示される。ARマーカを回転、移動させると画面の表示も追従して変更される。カメラを移動させても同様に表示が変わる。家具の大きさを視覚的に理解することが可能である。
【0042】
さらに、ARマーカの位置・大きさ・角度を計算している。例えば、ARマーカが記録された腕時計型の画像を使用する。プリントアウトして腕に巻いた状態でウェブカメラを通すと時計の画像が重ね合わせて表示される。この技術を応用して、作業者の視野に作業内容を表示させる。
【0043】
以上が一般的な使用方法であるが、曲げ加工に対しての適用を説明する。
【0044】
図2、
図3及び
図4を参照する。曲げ加工機用ARマーカarmk−aの内外の枠の縁から直行する2軸(XY軸)の方向成分を抽出する。なお、曲げ加工機用ARマーカarmk−aのデータは処理側が保持している。
【0045】
内部の特徴点pt1〜pt10の抽出結果を踏まえて軸の割り振りと原点位置を検出する。内部の模様は回転対称になってはいけない。なお、本例の内部の模様である「AR」は回転対称ではない。
【0046】
原点と軸系から3軸目(Z軸)を算出する。
【0047】
図3、
図4を参照する。曲げ加工機用ARマーカarmk−b、曲げ加工機用ARマーカarmk−cに示すように、カメラ位置により曲げ加工機用ARマーカarmk−b、armk−cが傾いて映っても特徴点pt1〜pt10の抽出が行えれば軸の算出は可能である。
【0048】
そして、3軸の映り方から軸系の回転量を算出する。
【0049】
これにより、曲げ加工機用ARマーカを基準とした座標系の回転量をポリゴンデータに適用することでカメラ位置に連動したデータ投影が可能である。
【0050】
なお、本例の曲げ加工機用ARマーカは全て黒塗りである(斜線部で示した領域)。
【0051】
図5(a)、(b)、
図6(a)、(b)、
図7(a)、(b)を参照する。映っている曲げ加工機用ARマーカの大きさに応じてポリゴンデータの大きさを変更する。
【0052】
図5(a)に示すように、曲げ加工機用ARマーカarmk−aの大きさに応じた正面側から見たポリゴンデータpg−aが表示される。
図5(b)に示すように、曲げ加工機用ARマーカarmk−asが小さい場合は、ポリゴンデータpg−asも小さく表示される。
【0053】
同様に、
図6(a)に示すように、曲げ加工機用ARマーカarmk−bの大きさに応じた側面側から見たポリゴンデータpg−bが表示される。
図6(b)に示すように、曲げ加工機用ARマーカarmk−bsが小さい場合は、ポリゴンデータpg−bsも小さく表示される。
【0054】
同様に、
図7(a)に示すように、曲げ加工機用ARマーカarmk−cの大きさに応じた底面側から見たポリゴンデータpg−cが表示される。
図7(b)に示すように、曲げ加工機用ARマーカarmk−csが小さい場合は、ポリゴンデータpg−csも小さく表示される。
【0055】
図8、
図9及び
図10を参照する。曲げ加工機用ARマーカ位置とポリゴンデータの投影位置がずれている場合、回転処理に加えて平行移動の処理をポリゴンデータに適用して表示を適正なものに対応させる。
【0056】
図8を参照する。正面側から見た曲げ加工機用ARマーカarmk−aと、これに対応するポリゴンデータpg−amとは投影位置がずれている。このポリゴンデータpg−amに対し平行処理を行い重ねることができる。
【0057】
図9を参照する。側面側から見た曲げ加工機用ARマーカarmk−bと、これに対応するポリゴンデータpg−bmとは投影位置がずれている。このポリゴンデータpg−bmに対し平行処理を行い重ねることができる。
【0058】
図10を参照する。底面側から見た曲げ加工機用ARマーカarmk−cと、これに対応するポリゴンデータpg−cmとは投影位置がずれている。このポリゴンデータpg−cmに対し平行処理を行い重ねることができる。
【0059】
図11を参照する。曲げ加工機用ARマーカを加工機mの規定位置に設置する。曲げ加工機用ARマーカはARマーカ認識用カメラkm(
図1参照)の視野範囲と曲げ加工機mの大きさに応じて複数設置する。作業者の現在位置を識別できるように、異なるパターンの加工機用ARマーカを使用する。どの加工機用ARマーカが機械のどの位置についているかは既知とする。なお、曲げ加工機mは、ワークを突き当てTに突き当てて、中間板CPの取り付けた金型により加工するものである。
【0060】
ここでは、曲げ加工機用ARマーカarmk1(内部の模様は「AR1」である)と、曲げ加工機用ARマーカarmk2(内部の模様は「AR2」である)と、曲げ加工機用ARマーカarmk3(内部の模様は「AR3」である)と、曲げ加工機用ARマーカarmk4(内部の模様は「AR4」である)と、曲げ加工機用ARマーカarmk5(内部の模様は「AR5」である)と、曲げ加工機用ARマーカarmk6(内部の模様は「AR6」である)とが均等な間隔で曲げ加工機mに配置されている。
【0061】
なお、加工機用ARマーカarmk1〜armk6の取り付け位置は曲げ加工機mの原点を基準位置として一定の決まりに基づいて取り付けられているものとする。
【0062】
図12を参照する。加工作業内容d3(
図1参照)を読み込んで、認識するべき曲げ加工機用ARマーカと対応する表示内容を決定する。例えば、曲げ加工機用ARマーカarmk1または曲げ加工機用ARマーカarmk2がARマーカ認識用カメラkmに映っている場合に対応するパンチ金型のポリゴンデータpgが対応する装着位置に表示される(2点鎖線で示したパンチ金型がディルプレイdpに表示される)。
【0063】
一方、他の曲げ加工機ARマーカarmk3〜armk6しかARマーカ認識用カメラkmに映っていないときは作業者に左右への移動を指示するポリゴンデータ、注記データ等を表示する。
【0064】
このように、例えば、曲げ加工機用ARマーカarmk1〜armk6はARマーカ認識用カメラkmの視野範囲と曲げ加工機mの大きさに応じて複数設置する。作業者の現在位置を識別できるように、異なるパターンの曲げ加工機用ARマーカを使用する。どの曲げ加工機用ARマーカが曲げ加工機mのどの位置についているかは既知とする。
【0065】
図13を参照する。支援システムsは金型データベースd2、加工作業内容d3とARマーカ認識用カメラkmから得た曲げ加工機用ARマーカd1(具体的にはarmk1〜armk6等)の情報を読み込み、加工に必要な金型の形状と位置を表示する。作業者は表示を見ながら金型の取付を行う。
【0066】
例えば、パンチ金型のポリゴンデータpg1(2点鎖線で示す)が表示され、この表示に従い作業者は実際のパンチpnc1(実線で示す)を中間板cpに装着する。
【0067】
図14を参照する。金型の種類に応じて表裏の注意喚起を行う。表裏のミスによる加工不良・事故を防止するためである。
【0068】
例えば、パンチ金型のポリゴンデータpg2(2点鎖線で示す)が表示される。そして、この表示に従い作業者は実際のパンチpnc2(実線で示す)を中間板cpに装着する。
【0069】
さらに、関連する注記データnt1(例えば「金型の向きに注意してください。」)を関連付け表示する。
【0070】
図15を参照する。金型の形状を表示することにより、金型間違い・取付ミスを防止する。曲げ加工機用ARマーカによる作業者の位置認識とポリゴンデータの重ね合わせ表示を加えることにより、より分かりやすい作業教示が可能である。
【0071】
例えば、パンチ金型のポリゴンデータpg3(2点鎖線で示す)と実際のパンチpnc3(実線で示す)が重ねられ表示されるので金型間違い・取付ミスを防止できる。
【0072】
[実施形態2]
ここでは、作業に関する実施形態を説明する。
図16を参照する。支援システムSの構成要素を示す。なお、[実施形態1]と異なる機能を主に説明するものであり、他の機能は[実施形態1]と同様なものとする。
【0073】
支援システムSは、曲げ加工機用ARマーカD1と、加工作業内容D2と、ARマーカ認識用カメラKMを搭載したヘッドマウントディスプレイH1とを備える。また、前記支援システムSはコンピュータを備えコンピュータ制御を実行するものである。
【0074】
前記曲げ加工機用ARマーカD1とは、曲げ加工作業、作業段取り等に必要な位置情報を支援システムSに認識させるためのARマーカ(ARマーカの取り付け位置は曲げ加工機Mの原点を基準位置として一定の決まりに基づいて取り付けられているものとする)である。
【0075】
なお、本例では、曲げ加工機(ベンディング機ともいう)Mに使用するAR(拡張現実)マーカを特に曲げ加工機用ARマーカD1と定義する。
【0076】
また、ARマーカ(例えば特許請求の範囲に記載)という場合は、通常のARマーカに加え、曲げ加工機用ARマーカを含む広い概念である。
【0077】
前記加工作業内容D2は、作成した曲げ加工作業、作業段取り等を読み込み、必要な金型情報と、金型の取付位置・向きを出力する情報である。
【0078】
前記ARマーカ認識用カメラKMを搭載したヘッドマウントディスプレイH1は、作業者に装着させることで作業者の視認状況を把握し、作業内容を都度作業者に教示する装置である。
【0079】
より詳細には、前記ARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1は、ARマーカ認識用カメラKMと、画像生成手段PRと、ディスプレイ(表示する機能を有する全てを含む)DPと、フレーム(めがね、ゴーグル等のフレーム)FRとを有し、例えば人体の頭部に装着可能である。
【0080】
本例で、画像とは曲げ加工の作業に関するものであり、ポリゴンデータ、注記データ等を含むものである。
【0082】
プロセスP1では、加工段取りの開始時に、作業者の装着したARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のカメラを用いて曲げ加工機用ARマーカD1を認識する。
【0083】
プロセスP2では、プロセスP1で取得した曲げ加工機用ARマーカ位置と、加工作業内容D2から受け取ったデータを比較し、作業内容に応じた画像をARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のディスプレイDPに表示する。
【0084】
プロセスP3では、作業者はARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のディスプレイ表示に従って部品の突き当てを行う(ARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のディスプレイDPに作業時の部品の概形を表示することで作業のミスを防止する)。
【0085】
プロセスP4では、作業者はARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のディスプレイ表示に従って曲げ加工行う(作業者が手を挟む危険性がある場合等はARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のディスプレイDPにその旨を通知し、注意喚起を促す)。
【0086】
プロセスP5では、曲げ加工が1作業終わるごとに、支援システムSは次の作業を読み込み、ARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のディスプレイに表示する。(『←』、『→』等で使用金型の変更を指示、使用する金型位置に来ていた場合は被加工材料の概形を表示)。
【0087】
プロセスP6では、プロセスP1〜プロセスP4を繰り返し、全ての作業が終了したらARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1のディスプレイDPにその旨が通知される(『曲げ加工が終了しました。』等)。
【0088】
曲げ加工機用ARマーカD1の認識および情報の処理を本発明ではARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1に集約している(加工作業内容をARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1が受け取り、内部で処理を行っている)が、ARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1で行う処理を画像取得と教示情報の表示のみにとどめ、データの処理を作業者と離れたところで行っても構わない(ARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1から情報を転送し、必要な情報を受け取って表示する)。逆に、加工作業内容D2をARマーカ認識用カメラを搭載したヘッドマウントディスプレイH1の内部に統合してしまうことも可能である。
【0089】
図17を参照する。支援システムSは加工作業内容D2から作業内容を読み込み、ARマーカ認識用カメラKMから得た曲げ加工機用ARマーカD1の情報を考慮して加工を行う位置にワーク形状(例えば、ポリゴンデータ)を表示する。作業者は表示を確認し、指示された位置で曲げ加工を行う。工程の遷移に連動して表示するワークwの形状を変更する(曲げデータから読み込む)。
【0090】
例えば、ポリゴンデータpg−wを表示する(複数のドットで示した領域)。これに従い作業者は実際のワークを重ね合わせて正しい位置でパンチ金型pncとダイ金型dieにより曲げ加工を行う。実際には、ポリゴンデータpg−wの下側に作業者の手hdで持たれたワークwが有る。
【0091】
図18を参照する。加工段取りデータで手を挟む可能性が指摘されている作業の場合には表示を変更して注意喚起を行う(注意喚起は作業段取り作成時に追加)。作業者は表示を確認し、注意して作業を行う。
【0092】
例えば、ポリゴンデータpg−w(複数のドットし示した領域)を表示する。これに従い作業者は実際の部品を重ね合わせて正しい位置で曲げ加工を行う。実際には、ポリゴンデータpg−wの下側に作業者の手hdで持たれたワークwが有る。
【0093】
さらに、注記データnt2(例えば「手を挟む恐れがあります。」)をポリゴンデータpg−wに関連付け表示する。なお、赤線等の色の線で危険領域を示してもよい。
【0094】
図19を参照する。曲げ作業が1つ終わるごとに支援システムSは表示を切り替える(次の加工指示を表示)。作業者は指示に従い移動、支援システムSは曲げ加工機用ARマーカを読み込み、使用する金型の前に来たら表示を
図17に示すように切り替える。
【0095】
注記データnt3(例えば「右の金型を使用します。」)と表示する。
【0096】
図20を参照する。ワーク形状(予想図)を表示することにより、表裏判断のミスを防止することが出来る。
【0097】
例えば、ポリゴンデータpg−w(複数のドットで示した領域)を表示する。これに従い作業者は実際のワークwを重ね合わせて裏表の判断を行う。
【0098】
この発明は前述の発明の実施の形態に限定されることなく、適宜な変更を行うことにより、その他の態様で実施し得るものである。