(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023157985
(43)【公開日】2023-10-26
(54)【発明の名称】触覚センサ、触覚センサシステム及びプログラム
(51)【国際特許分類】
B25J 19/02 20060101AFI20231019BHJP
B25J 15/08 20060101ALI20231019BHJP
【FI】
B25J19/02
B25J15/08 S
B25J15/08 T
【審査請求】有
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023135633
(22)【出願日】2023-08-23
(62)【分割の表示】P 2021529656の分割
【原出願日】2019-07-04
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成30、31年度 国立研究開発法人科学技術振興機構 研究成果展開事業 大学発新産業創出プログラム(START)「視覚と触覚を合わせ持つ革新センサFingerVision事業化」産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】522169852
【氏名又は名称】株式会社FingerVision
(74)【代理人】
【識別番号】100165179
【弁理士】
【氏名又は名称】田▲崎▼ 聡
(74)【代理人】
【識別番号】100188558
【弁理士】
【氏名又は名称】飯田 雅人
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100152272
【弁理士】
【氏名又は名称】川越 雄一郎
(74)【代理人】
【識別番号】100181722
【弁理士】
【氏名又は名称】春田 洋孝
(72)【発明者】
【氏名】山口 明彦
(57)【要約】
【課題】容易に小型化することが可能な触覚センサ、触覚センサシステム及びプログラムを提供する。
【解決手段】触覚センサは、把持対象物に接触可能な第一の面と、前記第一の面の裏面である第二の面とを備える透過部と、前記透過部の前記第一の面側に存在する物体の像を前記第二の面側から撮像可能な撮像部と、前記透過部の前記第二の面側に配置され、前記透過部の少なくとも一部の領域からの光を反射させて前記撮像部の撮像画角内に導く反射部とを備える。
【選択図】
図4
【特許請求の範囲】
【請求項1】
把持対象物に接触可能な第一の面と、前記第一の面の裏面である第二の面とを備える透過部と、
前記透過部の前記第一の面側に存在する物体の像を前記第二の面側から撮像可能な撮像部と、
前記透過部の前記第二の面側に配置され、前記透過部の少なくとも一部の領域からの光を反射させて前記撮像部の撮像画角内に導く反射部と
を備える触覚センサ。
【請求項2】
前記透過部は、前記第一の面に接触した把持対象物の形状に沿って少なくとも一部が変形し、
前記撮像部は、
前記第一の面側に存在する物体の像と、前記透過部に付された前記透過部の変形を示すマーカの像との両方を前記第二の面側から撮像可能である
請求項1に記載の触覚センサ。
【請求項3】
前記撮像部は、
前記撮像部の撮像光軸と、前記透過部の前記第二の面の法線とが交点を有するように配置される
請求項1又は請求項2に記載の触覚センサ。
【請求項4】
前記反射部は、
前記撮像部の撮像光軸に対する法線の角度が互いに異なる複数の反射面を備える
請求項1又は請求項3に記載の触覚センサ。
【請求項5】
前記撮像部は、
前記反射部を介さずに入射する光による前記透過部の撮像対象領域の像である第1像と、前記反射部によって反射されて入射する光による前記透過部の撮像対象領域の像である第2像との両方を、前記透過部の像として撮像する
請求項1から請求項4のいずれか一項に記載の触覚センサ。
【請求項6】
前記透過部は、
前記撮像部の撮像光軸に対する法線の角度が互いに異なる複数の領域を備え、
前記撮像部は、
前記透過部の複数の前記領域を介してそれぞれ入射する光による前記第一の面側に存在する物体の像を、それぞれ撮像可能である
請求項1から請求項5のいずれか一項に記載の触覚センサ。
【請求項7】
請求項1から請求項6のいずれか一項に記載の触覚センサと、
前記撮像部が撮像した画像を取得し、取得した前記画像に基づき前記第一の面に対する物体の接触状態を検出する検出部と、
を備える触覚センサシステム。
【請求項8】
把持対象物に接触可能な第一の面と、前記第一の面の裏面である第二の面とを備える透過部と、
前記透過部の前記第一の面側に存在する物体の像を前記第二の面側から撮像可能な撮像部と、
前記透過部の前記第二の面側に配置され、前記透過部の少なくとも一部の領域からの光を反射させて前記撮像部の撮像画角内に導く反射部と
を備える触覚センサと接続されたコンピュータに、
前記撮像部が撮像した画像を取得する画像取得ステップと、
前記画像取得ステップにより取得された前記画像に基づき、前記第一の面に対する物体の接触状態を検出する検出ステップと、
を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、触覚センサ、触覚センサシステム及びプログラムに関する。
【背景技術】
【0002】
従来、触覚センサを実現する方法として、ラバースキンの外面に当接した物体を検知する方法が知られている(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来技術による触覚センサは、撮像部の撮像光軸がラバースキン(以後、当接面とする。)の法線方向に対して平行に備えられていた。撮像部は当接面を撮像し、物体が当接面に当接したときの、当接面の変位を検知することにより、物体の把持状態を検知していた。
ここで、触覚センサの大きさは、触覚する対象物が小さい場合など、小さい方がよい場合がある。触覚センサの小型化を考慮した場合、物体を撮像する撮像部と当接面との距離を短くすること、及び撮像部自体の小型化をすることが課題となる。
従来技術における触覚センサでは、撮像部と接触面との距離を短くしようとする場合、撮像画角が広いレンズを使わなければならない。撮像画角が広いレンズを使用した場合には、歪みの発生や、光量の確保等の問題が生ずるといった問題があった。さらに、撮像部の小型化をしようとする場合にも、撮像部の小型化には画像感度の低下を伴うために限界があり、触覚センサを撮像部より小さくすることは不可能であった。つまり触覚センサの小型化を考慮した場合、撮像部と当接面との距離を短くすることによる画質の維持が困難であること、及び撮像部の小型化には限界があるという問題が生じていた。
すなわち、従来手法によると、触覚センサの小型化が容易でないという問題があった。
【0005】
本発明は、このような状況に鑑みてなされたものであり、容易に小型化することが可能な触覚センサ、触覚センサシステム及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の一態様に係る触覚センサは、把持対象物に接触可能な第一の面と、前記第一の面の裏面である第二の面とを備える透過部と、前記透過部の前記第一の面側に存在する物体の像を前記第二の面側から撮像可能な撮像部と、前記透過部の前記第二の面側に配置され、前記透過部の少なくとも一部の領域からの光を反射させて前記撮像部の撮像画角内に導く反射部とを備える。
【0007】
また、本発明の一態様に係る触覚センサにおいて、前記透過部は、前記第一の面に接触した把持対象物の形状に沿って少なくとも一部が変形し、前記撮像部は、前記第一の面側に存在する物体の像と、前記透過部に付された前記透過部の変形を示すマーカの像との両方を前記第二の面側から撮像可能である。
【0008】
また、本発明の一態様に係る触覚センサにおいて、前記撮像部は、前記撮像部の撮像光軸と、前記透過部の前記第二の面の法線とが交点を有するように配置される。
【0009】
また、本発明の一態様に係る触覚センサにおいて、前記反射部は、前記撮像部の撮像光軸に対する法線の角度が互いに異なる複数の反射面を備える。
【0010】
また、本発明の一態様に係る触覚センサにおいて、前記撮像部は、前記反射部を介さずに入射する光による前記透過部の撮像対象領域の像である第1像と、前記反射部によって反射されて入射する光による前記透過部の撮像対象領域の像である第2像との両方を、前記透過部の像として撮像する。
【0011】
また、本発明の一態様に係る触覚において、前記透過部は、前記撮像部の撮像光軸に対する法線の角度が互いに異なる複数の領域を備え、前記撮像部は、前記透過部の複数の前記領域を介してそれぞれ入射する光による前記第一の面側に存在する物体の像を、それぞれ撮像可能である。
【0012】
また、本発明の一態様に係る触覚センサシステムは、上述の触覚センサと、前記撮像部が撮像した画像を取得し、取得した前記画像に基づき前記第一の面に対する物体の接触状態を検出する検出部と、を備える。
【0013】
また、本発明の一態様に係るプログラムは、把持対象物に接触可能な第一の面と、前記第一の面の裏面である第二の面とを備える透過部と、前記透過部の前記第一の面側に存在する物体の像を前記第二の面側から撮像可能な撮像部と、前記透過部の前記第二の面側に配置され、前記透過部の少なくとも一部の領域からの光を反射させて前記撮像部の撮像画角内に導く反射部とを備える触覚センサと接続されたコンピュータに、前記撮像部が撮像した画像を取得する画像取得ステップと、前記画像取得ステップにより取得された前記画像に基づき、前記第一の面に対する物体の接触状態を検出する検出ステップと、を実行させる。
【発明の効果】
【0014】
本発明によれば、容易に小型化することが可能な触覚センサ、触覚センサシステム及びプログラムを提供できる。
【図面の簡単な説明】
【0015】
【
図1】実施形態におけるロボットシステムの一例を示す図である。
【
図2】実施形態における触覚センサモジュールの一例を示す図である。
【
図3】実施形態における触覚センサの断面図の一例を示す図である。
【
図4】実施形態における撮像部が撮像可能な範囲の一例を示す図である。
【
図5】実施形態における撮像部の撮像画像の一例を示す図である。
【
図6】実施形態における把持対象物が接触面に触れた場合の触覚センサの断面図の一例を示す図である。
【
図7】実施形態における把持対象物が接触面に触れた場合の触覚センサの撮像画像の一例を示す図である。
【
図8】実施形態におけるロボットシステム制御部の一例を示す図である。
【
図9】実施形態におけるロボットシステム制御部の動作の一例を示す図である。
【
図10】第2の実施形態における触覚センサの断面図の一例を示す図である。
【
図11】第2の実施形態における撮像部が撮像可能な範囲の一例を示す図である。
【
図12】第3の実施形態における触覚センサの断面図の一例を示す図である。
【
図13】第3の実施形態における撮像部が撮像可能な範囲の一例を示す図である。
【
図14】第4の実施形態における触覚センサの断面図の一例を示す図である。
【
図15】第4の実施形態における撮像部が撮像可能な範囲の一例を示す図である。
【
図16】第5の実施形態における触覚センサの断面図の一例を示す図である。
【
図17】第5の実施形態における撮像部が撮像可能な範囲の一例を示す図である。
【発明を実施するための形態】
【0016】
以下、本発明の実施形態について、図面を参照しながら説明する。
[ロボットシステム100の構成]
図1は、実施形態におけるロボットシステム100の一例を示す図である。本実施形態におけるロボットシステム100は、把持対象物と接触することにより把持状態を検出しつつ、把持対象物を把持する。
本実施形態において、ロボットシステム100は、触覚センサモジュール10と、ロボットシステム制御部90と、先端部110と、上腕部120と、関節部130と、下腕部140と、主横軸部150と、主縦軸部160と、土台部170とを備える。
【0017】
土台部170は、主縦軸部160と接続される部位である。
主縦軸部160は、主横軸部150と土台部170とを繋ぐ部位である。主縦軸部160はロボットシステム制御部90により制御され、主横軸部150を主縦軸部160の軸周りに変位させる。
主横軸部150は、下腕部140と主縦軸部160とを繋ぐ部位である。主横軸部150はロボットシステム制御部90により制御され、下腕部140を主横軸部150の軸周りに変位させる。
下腕部140は、関節部130と主横軸部150とを繋ぐ部位である。
関節部130は、上腕部120と下腕部140とを繋ぐ部位である。関節部130はロボットシステム制御部90により制御され、上腕部120を関節部130の軸周りに変位させる。
上腕部120は、先端部110と関節部130とを繋ぐ部位である。
先端部110は、触覚センサモジュール10と接続される。先端部110の姿勢(例えば、位置及び方向)は、ロボットシステム制御部90によって制御される。触覚センサモジュール10の姿勢は、先端部110の姿勢が変化することによって変化する。
触覚センサモジュール10は、把持対象物の接触状態を検知し、検知した把持対象物の接触状態を示す情報をロボットシステム制御部90に出力する。
ロボットシステム制御部90は、触覚センサモジュール10が出力した情報を取得する。
ロボットシステム制御部90は、ロボットシステム100が備える各部(先端部110、上腕部120、関節部130、下腕部140、主横軸部150及び主縦軸部160)を不図示の駆動装置によって変位させることにより、触覚センサモジュール10を移動させる。ロボットシステム制御部90は、触覚センサモジュール10から取得した情報に基づき、ロボットシステム100の制御を行う。
【0018】
図2は、実施形態における触覚センサモジュール10の一例を示す図である。本実施形態における触覚センサモジュール10は、センサ接続部11と、第1触覚センサ1aと、第2触覚センサ1bとを備える。以降の説明において、x軸、y軸及びz軸の三次元直交座標系によって触覚センサモジュール10の姿勢を示す場合がある。
センサ接続部11は、先端部110と第1触覚センサ1a及び第2触覚センサ1bとを繋ぐ部位である。
第1触覚センサ1aは、センサ接続部11に接続される。第1触覚センサ1aは、第1透過部接触面40aを備えている。
第2触覚センサ1bは、センサ接続部11に接続される。第2触覚センサ1bは、第2透過部接触面40bを備えている。
第1触覚センサ1aと第2触覚センサ1bとは、第1透過部接触面40aと第2透過部接触面40bとが互いに向きあう位置に配置される。センサ接続部11は、不図示の駆動装置を備えており、ロボットシステム制御部90からの指示に基づき、第1触覚センサ1a及び第2触覚センサ1b(又はそれらのセンサのうち一方。以下の説明において同じ。)をy軸方向に変位させる。触覚センサモジュール10は、第1触覚センサ1a及び第2触覚センサ1bをy軸方向に駆動させることにより、第1触覚センサ1a及び第2触覚センサ1bの間にある把持対象物を把持する。
【0019】
[触覚センサ1の構成]
図3は、実施形態における触覚センサの断面図の一例を示す図である。同図には、
図2に示す第1触覚センサ1aのxy平面上の断面図を示す。x軸、y軸及びz軸の三次元直交座標系によって触覚センサモジュール10の方向を示す。
なお、第1触覚センサ1aと、第2触覚センサ1bとは互いに同様の構成であるため、第1触覚センサ1aについて説明し、第2触覚センサ1bについての説明は省略する。
【0020】
第1触覚センサ1aは、第1撮像部30aと、第1反射部20aと、第1透過部43aと、第1マーカ45aと、第1透過部接触面40aと、第1透過部非接触面47aと、第1硬質レイヤ70aと、第1フレーム50aとを備える。
なお、以下において、第1撮像部30aを撮像部30と、第1反射部20aを反射部20と、第1透過部43aを透過部43と、第1マーカ45aをマーカ45と、第1透過部接触面40aを透過部接触面40と、第1透過部非接触面47aを透過部非接触面47と、第1硬質レイヤ70aを硬質レイヤ70と、第1フレーム50aをフレーム50と、それぞれ言い換えて説明する。
フレーム50は、撮像部30、反射部20、透過部43、及び硬質レイヤ70を保持する。
【0021】
透過部43は、光を透過させる透明な材質によって構成されており、透過部接触面40と、透過部非接触面47とを備える。例えば、透過部43の具体的な材質として、厚さが2ミリメートルで約94パーセントの透過率のシリコーン素材がある。
透過部接触面40とは、透過部43の表面及び裏面のうち、把持対象物に接触可能な面である。透過部非接触面47は、透過部43の表面及び裏面のうち、把持対象物に接触しない面である。
なお、以下の説明において、透過部43の面のうち、把持対象物に接触可能な面(つまり、透過部接触面40)を表面又は第一の面ともいい、把持対象物に接触しない面(つまり、透過部非接触面47)を裏面又は第二の面ともいう。すなわち、透過部43は、把持対象物に接触可能な接触面である透過部接触面40と、接触面の裏面であり把持対象物に接触しない非接触面である透過部非接触面47とを備える。
また、透過部43は、透明な材質により構成される。この一例において、透過部43は、接触面である透過部接触面40に接触した把持対象物の形状に沿って少なくとも一部が変形する。
【0022】
マーカ45は、透過部43の所定の位置に複数配置される。本実施形態の一例では、マーカ45とは、透過部43の内部の等間隔に区切られた格子点の位置に配置された不透明部材である。なお、マーカ45は、透過部43の内部に配置されるとしたがこれに限られず、透過部接触面40に備えられていてもよいし、透過部非接触面47に備えられていてもよい。また、マーカ45は、格子点の位置に離散的に配置されるものとして説明するがこれに限られない。マーカ45は格子パターンやその他の連続的なパターンであってもよい。また、マーカ45のパターンは把持対象物の把持状況の検知が容易なように不規則的なパターンであってもよい。マーカ45は、不透明部材であるとして説明したがこれに限られず、把持対象物が接触したときの変位が光学的に認識できるものであれば半透明部材や透明部材であってもよい。
【0023】
硬質レイヤ70は、透過部43の透過部非接触面47に接する位置に備えられる。硬質レイヤ70は、透明で硬質なアクリル等の材質により構成される。硬質レイヤ70は、把持対象物が把持された場合において、透過部43の変形量を制約する。
なお、本実施形態では透過部43と硬質レイヤ70とをそれぞれ別個の構成要素として説明する。把持対象物が把持された場合の透過部43の変形量が所定範囲に収まるのであれば、硬質レイヤ70は省略されていてもよい。
【0024】
反射部20は、例えば鏡などの、光を反射させる反射面を備える。この反射面は、透過部43の非接触面側に配置される。反射部20は、透過部43を透過した光を反射させ、反射させた光を撮像部30に導く。
反射部20は、透過部43の少なくとも一部の領域からの光を反射させる。すなわち、反射部20は、透過部43の非接触面(例えば、透過部非接触面47)側に配置され、透過部43の少なくとも一部の領域からの光を反射させて撮像部30の撮像画角内に導く。
【0025】
撮像部30は、透過部43の表裏両面のうち、透過部非接触面47側に配置される。より具体的には、撮像部30は、撮像部30の撮像光軸OAと、透過部43の透過部非接触面47の法線N41とが交点を有するように(撮像光軸OAと法線N41とが平行とならないように)配置される。
撮像部30は、撮像光軸OAを中心とした撮像画角内の像を撮像し、撮像結果を画像情報として出力する。撮像部30は、透過部43の透過部接触面40側に存在する物体の像を透過部非接触面47側から撮像可能である。
ここで、透過部43を透過した光には、透過部43の透過部接触面40側に存在する物体の像が含まれている。また、透過部43を透過した光には、透過部43に配置されたマーカ45の像(つまり、透過部43の像又は透過部の像)が含まれている。すなわち、撮像部30は、透過部43の接触面側である透過部接触面40側に存在する物体の像と、透過部43に付された透過部43の変形を示すマーカの像との両方を非接触面側である透過部非接触面47側から撮像可能である。
また、撮像部30の撮像可能範囲内には、透過部43を透過し反射部20によって反射された光による像と、透過部43を透過し反射部20を介さずに撮像部30に直接到達する光による像とが含まれる。以下の説明において、透過部43を透過し反射部20を介さずに撮像部30に直接到達する光による像のことを直接像ともいう。また、透過部43を透過し反射部20によって反射された光による像のことを反射像ともいう。撮像部30の撮像可能範囲について、
図4及び
図5を参照して説明する。
【0026】
[撮像部30が撮像可能な範囲]
図4は、実施形態における撮像部30が撮像可能な範囲の一例を示す図である。触覚センサ1が備える撮像部30が撮像可能な範囲について説明する。
この一例において、撮像部30の撮像可能な範囲は、撮像部30の画角A10と、反射部20の配置との幾何学的な相対関係によって定まる。撮像部30の撮像可能な範囲は、直接像を撮像可能である領域と、反射像を撮像可能である領域とが含まれる。
【0027】
例えば、透過部接触面40側から反射部20に入射する光の入射角が第1入射角IA10である場合、反射部20に入射した光は、第1反射角RA10の方向に出射する。
透過部接触面40側から反射部20に入射する光の入射角が第2入射角IA20である場合、反射部20に入射した光は、第2反射角RA20の方向に出射する。
また、透過部接触面40側から反射部20に入射する光の入射角が第3入射角IA30である場合、反射部20に入射した光は、第3反射角RA30の方向(この一例の場合、撮像光軸OA)に出射する。
反射部20から出射する光による像(すなわち、反射像)が画角A10内に含まれる場合には、撮像部30は、反射部20から出射する光を撮像可能である。
【0028】
第1撮像範囲AR1は、撮像部30が直接像を撮像可能な範囲であり、かつ、撮像部30が反射像を撮像不可能な範囲である。
第2撮像範囲AR2は、撮像部30が直接像と反射像との両方を撮像可能な範囲である。
第3撮像範囲AR3は、撮像部30が直接像を撮像不可能な範囲であり、かつ、撮像部30が反射像を撮像可能な範囲である。
【0029】
図5は、実施形態における撮像部30の撮像画像の一例を示す図である。撮像画像Pは、直接視撮像画像R及び反射視撮像画像Mを画像の構成要素として備える。撮像画像Pをx
c軸及びy
c軸の二次元直交座標系によって示す。x
cy
c平面は、
図4においてyz平面が撮像された画像面を示す。
直接視撮像マーカRMは、撮像部30がマーカ45の直接像を撮像した画像である。
反射視撮像マーカMMは、撮像部30がマーカ45の反射像を撮像した画像である。
以下、
図4及び
図5を参照し、第1対象物OB1~第3対象物OB3を一例にして説明する。
【0030】
この一例において、第1対象物OB1は、第1撮像範囲AR1に存在する。この場合、撮像部30は、第1対象物OB1の直接像を撮像可能であり、第1対象物OB1の反射像を撮像不可能である。
第2対象物OB2は、第2撮像範囲AR2に存在する。この場合、撮像部30は、第2対象物OB2の直接像及び反射像を撮像可能である。
第3対象物OB3は、第3撮像範囲AR3に存在する。この場合、撮像部30は、第3対象物OB3の直接像を撮像不可能であり、第3対象物OB3の反射像を撮像可能である。
【0031】
撮像部30は、反射部20を介さずに入射する光による透過部43の撮像対象領域の像である第1像と、反射部20によって反射されて入射する光による透過部43の撮像対象領域の像である第2像との両方を、透過部43の像として撮像する。
すなわち、撮像部30は、直接視撮像画像Rと、反射視撮像画像Mとを同時に撮像することができる。
【0032】
[把持対象物が透過部接触面40に接触した場合]
図6は、実施形態における把持対象物が接触面に触れた場合の触覚センサの断面図の一例を示す図である。一例として、対象物OB4が、透過部接触面40に接触した場合について説明する。
この一例において、把持対象物である対象物OB4は、透過部接触面40に接触している。対象物OB4が透過部接触面40に接触している範囲を、対象物検出範囲ODAとする。対象物が透過部接触面40に接触する前と後とにおいて、対象物検出範囲ODAにあるマーカ45が変位する。撮像部30は対象物検出範囲ODAにおけるマーカ45を時系列に撮像する。
なお、この一例において、対象物OB4は、第2撮像範囲AR2及び第3撮像範囲AR3の両方の撮像範囲にまたがる位置に存在している。したがって、直接視及び反射視の両方が可能である。
【0033】
図7は、実施形態における把持対象物が接触面に触れた場合の触覚センサの撮像画像の一例を示す図である。撮像画像Pは、直接視撮像画像R及び反射視撮像画像Mを画像の構成要素として備える。対象物OB4が透過部接触面40に接触した場合の撮像画像Pを同図に示す。
直接視撮像画像Rには、直接視撮像マーカRMが撮像されている。ここで、直接視対象物検出範囲RODAは、対象物検出範囲ODAのうち、直接視撮像画像Rとして撮像される範囲である。
反射視撮像画像Mには、反射視撮像マーカMMが撮像されている。ここで、反射視対象物検出範囲MODAは、対象物検出範囲ODAのうち、反射視撮像画像Mとして撮像された範囲である。
【0034】
ここで、マーカ45の直接像について、対象物OB4の接触前のマーカ45の位置と、対象物OB4の接触後のマーカ45の位置とを比較して説明する。
接触前直接視マーカ画像RMBは、直接視対象物検出範囲RODAにおける、対象物OB4が透過部接触面40に接触する前の直接視撮像マーカRMである。
接触後直接視マーカ画像RMAは、直接視対象物検出範囲RODAにおける、対象物OB4が透過部接触面40に接触した後の直接視撮像マーカRMである。
【0035】
ここで、時間変化によるマーカ45の画像内の位置の差をマーカベクトルによって表す。接触前直接視マーカ画像RMBと、接触後直接視マーカ画像RMAとの間には、同図に示すように画像内の位置の差が生じる。直接視マーカベクトルRARは、接触前直接視マーカ画像RMBと、接触後直接視マーカ画像RMAとの差を示している。ロボットシステム100は、直接視マーカベクトルRARを求めることにより、対象物OB4の把持状態を検知することが可能である。
【0036】
また、マーカ45の反射像についても直接像と同様にして、時間変化によるマーカ45の画像内の位置の差をマーカベクトルによって表すことができる。すなわち、接触前反射視マーカ画像MMBと、接触後反射視マーカ画像MMAとの間には、同図に示すように画像内の位置の差が生じる。反射視マーカベクトルMARは、接触前反射視マーカ画像MMBと、接触後反射視マーカ画像MMAとの差を示している。ロボットシステム100は、反射視マーカベクトルMARを求めることにより、対象物OB4の把持状態を検知することが可能である。
【0037】
[把持対象物が透過部接触面40に触れた場合]
図8は、実施形態におけるロボットシステム制御部90の一例を示す図である。
ロボットシステム制御部90は、ロボット制御部91と、入力部92と、出力部93と、把持状態検出部80とを備える。
ロボット制御部91は、いずれも不図示のマイクロコンピュータ、RAM(Random access memory)及びROM(Read only memory)等のメモリ、及び外部機器との通信を行う通信部等を備えている。
入力部92は、圧力センサ、位置センサ、温度センサ、及び加速度センサ等のセンサ、カメラ、マイク(いずれも不図示)などから情報を取得する。
出力部93は、不図示のロボット駆動用のモータ(不図示)などに駆動信号を出力する。
把持状態検出部80は、画像取得部81と、画像処理部82と、制御部83と、基準状態記憶部84とを備える。
ロボットシステム100において、検出部である把持状態検出部80は、撮像部30が撮像した画像を取得し、取得した画像に基づき透過部接触面40に対する物体の接触状態を検出する。
把持状態検出部80は、検出した把持状態をロボット制御部91に提供する。
【0038】
画像取得部81は、撮像部30が撮像した画像情報を取得する。画像取得部81は、撮像部30より取得した画像を画像処理部82に提供する。
なお、この一例では、撮像部30が取得する画像が静止画であるとして説明するが、撮像部30が取得する情報は動画でもよい。
画像処理部82は、画像取得部81から画像を取得する。画像処理部82は、取得した画像に基づいて、マーカ45の位置を検出する処理を行う。
基準状態記憶部84は、対象物を検出していない状態のマーカ45の位置情報、すなわち基準位置情報を記憶している。つまり基準状態記憶部84は、マーカ45が直接視撮像画像Rに撮像された直接視撮像マーカRMの基準位置情報、及びマーカ45が反射視撮像画像Mに撮像された反射視撮像マーカMMの基準位置情報を記憶している。
制御部83は、画像処理部82から、直接視撮像マーカRMの基準位置情報、反射視撮像マーカMMの基準位置情報、及びマーカ45の位置の検出結果を取得する。このマーカ45の位置の検出結果には、直接視撮像マーカRMの位置情報と、反射視撮像マーカMMの位置情報とが含まれている。
また、制御部83は、基準状態記憶部84から直接視撮像マーカRMの基準位置情報、及び反射視撮像マーカMMの基準位置情報を取得する。制御部83は、撮像画像Pが示す直接視撮像マーカRMの位置情報と、基準状態記憶部84から取得した直接視撮像マーカRMの基準位置情報とに基づいて、直接視撮像マーカRMの変位(例えば、直接視マーカベクトルRAR)を求める。また、制御部83は、撮像画像Pが示す反射視撮像マーカMMの位置情報と、基準状態記憶部84から取得した反射視撮像マーカMMの基準位置情報とに基づいて、反射視撮像マーカMMの変位(例えば、反射視マーカベクトルMAR)を求める。
制御部83は、マーカ45の変位情報をロボット制御部91に出力する。このマーカ45の変位情報は、把持対象物の把持状態を示している。すなわち、制御部83は、把持対象物の把持状態を検出する。
【0039】
なお、制御部83は、マーカ45の変位量が所定値を超える場合に、対象物が透過部接触面40に接触したと判定してもよい。
また、制御部83は、画像取得部81は、撮像部30が撮像した画像をロボット制御部91に出力してもよい。撮像部30が撮像した画像には、透過部43の透過部接触面40側に存在する物体の画像が含まれている。つまり、撮像部30が撮像した画像には、透過部43を介して観察可能な外界の様子の画像が含まれている。このように構成された把持状態検出部80によれば、透過部接触面40への物体の接触の有無にかかわらず、透過部接触面40の周囲の様子をロボット制御部91に把握させることができる。
【0040】
図9は、実施形態におけるロボットシステム制御部90の動作の一例を示す図である。
図9を参照してロボットシステム制御部90の動作の一例について説明する。
(ステップS10)画像取得部81は、撮像部30が撮像した画像情報を取得する。画像取得部81は、撮像部30より取得した画像を画像処理部82に提供する。
(ステップS20)画像処理部82は、画像取得部81から画像を取得する。画像処理部82は、取得した画像について処理を行う。画像処理部82は撮像画像Pの直接視撮像画像Rの範囲と、反射視撮像画像Mの範囲とを識別する。画像処理部82は、直接視撮像画像Rの範囲内に存在する直接視撮像マーカRMの位置情報、反射視撮像画像Mの範囲内に存在する反射視撮像マーカMMの位置情報、及び撮像画像Pを制御部83に提供する。制御部83は、画像処理部82から、直接視撮像マーカRMの位置情報、反射視撮像マーカMMの位置情報、及び撮像画像Pを取得する。また、制御部83は、基準状態記憶部84から対象物を検出していない状態の直接視撮像マーカRMの位置情報、反射視撮像マーカMMの位置情報を取得する。制御部83は、画像処理部82から取得した直接視撮像マーカRMの位置情報及び反射視撮像マーカMMの位置情報と、基準状態記憶部84から取得した直接視撮像マーカRMの位置情報及び反射視撮像マーカMMの位置情報とを比較する。
(ステップS30)制御部83は、比較した結果に差がある場合(ステップS30;YES)には、対象物が透過部接触面40に接触したと判定し、処理をステップS40に進める。制御部83は、比較した結果に差がない場合(ステップS30;NO)には、対象物が透過部接触面40に接触していないと判定し、処理をステップS10に進める。
(ステップS40)制御部83は、ロボット制御部91に把持状態を通知する。具体的には、制御部83は直接視撮像マーカRM及び反射視撮像マーカMMの変位情報をロボット制御部91に通知する。また制御部83は、変位が検知された際の撮像画像Pを同時にロボット制御部91に提供する。
【0041】
[第2の実施形態]
図10は、第2の実施形態における触覚センサの断面図の一例を示す図である。
上述した実施形態では、反射部20は1つの平面であるとして説明した。第2の実施形態では、反射部20が複数の異なる角度を持つ点で、上述した実施形態と異なる。
第2の実施形態において、触覚センサ1は、複数の異なる角度を持つ反射部20を備える。この一例において、触覚センサ1は、第1角度反射部21及び第2角度反射部22を備える。(以後この実施形態において、第1角度反射部21と、第2角度反射部22とを区別しない場合には、反射部20とする。)
法線N21は第1角度反射部21の法線である。
法線N22は第2角度反射部22の法線である。
ここで、法線N21と法線N22は、交点IPにおいて交差する。つまり、触覚センサ1は、撮像部30の撮像光軸OAに対する法線の角度が互いに異なる複数の反射面を備える。
第2の実施形態において、触覚センサ1は、角度が互いに異なる複数の反射部20を有することにより、撮像部30は第1の実施形態と同様の画角A10である場合にも、より広い範囲を観察することが可能である。
なお、この一例において反射部20は複数の異なる角度を持つ反射部(第1角度反射部21及び第2角度反射部22)から構成されている。これらの反射部は、それぞれ異なる反射部材により構成してもよい。また、一つの反射部材に複数の異なる角度を持つ反射部を構成することにより同様の効果を持つ反射部を構成してもよい。
【0042】
図11は、第2の実施形態における撮像部30が撮像可能な範囲の一例を示す図である。第2の実施形態において、撮像画像Pは、直接視撮像画像Rと、第1角度反射部21に対応する反射視撮像画像M1と、第2角度反射部22に対応する反射視撮像画像M2とを画像の構成要素として備える。(以後この実施形態において、第1角度反射部21に対応する反射視撮像画像M1と、第2角度反射部22に対応する反射視撮像画像M2とを区別しない場合には、反射視撮像画像Mとする。)
直接視撮像画像Rには、第1の実施形態と同様に、直接視撮像マーカRMが撮像されている。また、反射視撮像画像Mには、反射視撮像マーカMMが撮像されている。
撮像部30は、直接視撮像マーカRM及び反射視撮像マーカMMを観察することにより、把持状態を検知する。
【0043】
[第3の実施形態]
図12は、第3の実施形態における触覚センサの断面図の一例を示す図である。
上述した実施形態では、透過部接触面40は平面であるとして説明した。第3の実施形態では、透過部接触面40が複数の異なる角度を持つ(つまり、湾曲面を有する)点で、上述した実施形態と異なる。
第3の実施形態において、触覚センサ1は、複数の異なる角度を持つ透過部接触面40を備える。この一例において、触覚センサ1は、第1角度透過部接触面41と、第2角度透過部接触面42とを備える。(以後この実施形態において、第1角度透過部接触面41と、第2角度透過部接触面42とを区別しない場合には、透過部接触面40とする。)
法線N41は、第1角度透過部接触面41の法線である。
法線N42は、第2角度透過部接触面42の法線である。
ここで、法線N41と法線N42は、交点IPにおいて交差する。つまり、透過部43は、撮像部30の撮像光軸OAに対する法線の角度が互いに異なる複数の領域を備える。撮像部30は、透過部43の複数の領域を介してそれぞれ入射する光による透過部接触面40側に存在する物体の像を、それぞれ撮像可能である。
【0044】
第3の実施形態において、触覚センサ1は、角度が互いに異なる複数の透過部接触面40を有することにより、撮像部30は第1の実施形態と同様の画角A10である場合にも、より広い範囲を観察することが可能である。特に第3の実施形態では、第2角度透過部接触面42を備えることにより、x軸方向に対して、より広い範囲の観察が可能となる。したがって、ロボットシステム制御部90が触覚センサモジュール10の位置をx軸方向に移動させる場合、触覚センサ1が備える撮像部30が撮像する画像により、進行方向にある物体との衝突を事前に検知することができる。
つまり第3の実施形態において、触覚センサ1は第2角度透過部接触面42を備えることにより、触覚センサ1は進行方向に存在する物体を検知する。したがって、触覚センサ1は、進行方向に存在する物体との衝突を回避することが可能になる。
【0045】
図13は、第3の実施形態における撮像部30が撮像可能な範囲の一例を示す図である。第3の実施形態において、撮像画像Pは、第1角度透過部接触面41に対応する直接視撮像画像R1と、第2角度透過部接触面42に対応する直接視撮像画像R2と、反射視撮像画像Mとを画像の構成要素として備える。(以後この実施形態において、第1角度透過部接触面41に対応する直接視撮像画像R1と、第2角度透過部接触面42に対応する直接視撮像画像R2とを区別しない場合には、直接視撮像画像Rとする。)
直接視撮像画像Rには、第1の実施形態と同様に、直接視撮像マーカRMが撮像されている。また、反射視撮像画像Mには、反射視撮像マーカMMが撮像されている。
撮像部30は、直接視撮像マーカRM及び反射視撮像マーカMMを観察することにより、把持状態を検知する。
【0046】
[第4の実施形態]
図14は、第4の実施形態における触覚センサの断面図の一例を示す図である。
上述した第2の実施形態では、反射部20が複数の異なる角度を持つ実施形態について説明した。また、上述した第3の実施形態では、透過部接触面40が複数の異なる角度を持つ実施形態について説明した。第4の実施形態では、反射部20が複数の異なる角度を持ち、かつ透過部接触面40が複数の異なる角度を持つ点で上述した実施形態と異なる。
第4の実施形態において、触覚センサ1は、複数の異なる角度を持つ反射部20を備える。また、触覚センサ1は、複数の異なる角度を持つ透過部接触面40を備える。この一例において、触覚センサ1は、第1角度反射部21、第2角度反射部22、第1角度透過部接触面41、及び第2角度透過部接触面42を備える。(以後この実施形態において、第1角度反射部21と、第2角度反射部22とを区別しない場合には、反射部20とする。また、第1角度透過部接触面41と、第2角度透過部接触面42とを区別しない場合には、透過部接触面40とする。)
第4の実施形態において、触覚センサ1は、角度が互いに異なる複数の反射部20を有することにより、撮像部30は第1の実施形態と同様の画角A10である場合にも、より広い範囲を観察することが可能である。また、この一例において、触覚センサ1は、角度が互いに異なる複数の透過部接触面40を有することにより、撮像部30は第1の実施形態と同様の画角A10である場合にも、より広い範囲を観察することが可能である。特に第4の実施形態では、第2角度透過部接触面42を備えることにより、x軸方向に対しても観察が可能となる。したがって、ロボットシステム制御部90が触覚センサモジュール10の位置をx軸方向に移動させる場合、触覚センサ1が備える撮像部30が撮像する画像により、進行方向にある物体との衝突を事前に検知することができる。
【0047】
図15は、第4の実施形態における撮像部30が撮像可能な範囲の一例を示す図である。第4の実施形態において、撮像画像Pは、第1角度透過部接触面41に対応する直接視撮像画像R1と、第2角度透過部接触面42に対応する直接視撮像画像R2と、第1角度反射部21に対応する反射視撮像画像M1と、第2角度反射部22に対応する反射視撮像画像M2とを画像の構成要素として備える。(以後この実施形態において、第1角度透過部接触面41に対応する直接視撮像画像R1と、第2角度透過部接触面42に対応する直接視撮像画像R2とを区別しない場合には、直接視撮像画像Rとする。また、第1角度反射部21に対応する反射視撮像画像M1と、第2角度反射部22に対応する反射視撮像画像M2とを区別しない場合には、反射視撮像画像Mとする。)
直接視撮像画像Rには、第1の実施形態と同様に、直接視撮像マーカRMが撮像されている。また、反射視撮像画像Mには、反射視撮像マーカMMが撮像されている。
撮像部30は、直接視撮像マーカRM及び反射視撮像マーカMMを観察することにより、把持状態を検知する。
【0048】
[第5の実施形態]
図16は、第5の実施形態における触覚センサの断面図の一例を示す図である。
上述した実施形態では、透過部接触面40は平面であるとして説明した。また、上述した第3の実施形態及び第4の実施形態では、透過部接触面40が複数の異なる角度を持つ実施形態について説明した。特に、x軸方向にのみ複数の角度を持つとして説明したが、第5の実施形態では、z軸方向についても複数の角度を持つ点で、第5の実施形態は、第3の実施形態及び第4の実施形態と異なる。
第5の実施形態において、触覚センサ1は、複数の異なる角度を持つ透過部接触面40を備える。ここで、第3の実施形態及び第4の実施形態において、透過部接触面40は、x軸方向に対し複数の異なる角度を持つことを説明した。第5の実施形態においては、透過部接触面40は、さらにz軸方向に対し複数の異なる角度を持つ。
触覚センサ1は、複数の反射部20を備える。この一例において、触覚センサ1は、第1角度反射部21及び第2角度反射部22を備える。(以後この実施形態において、第1角度反射部21と、第2角度反射部22とを区別しない場合には、反射部20とする。)
触覚センサ1は、複数の異なる角度を持つ透過部接触面40を備える。この一例において、触覚センサ1は、第1角度透過部接触面41と、第2角度透過部接触面42とを備える。
さらに、第1角度透過部接触面41は、z軸方向に異なる角度を持つ第1角度透過部接触面41Sを有する。第2角度透過部接触面42は、z軸方向に異なる角度を持つ第2角度透過部接触面42Sを有する。(以後この実施形態において、第1角度透過部接触面41と、第2角度透過部接触面42と、第1角度透過部接触面41Sと、第2角度透過部接触面42Sとを区別しない場合には、透過部接触面40とする。)
第5の実施形態において、触覚センサ1は、z軸方向に対し複数の異なる角度を持つ透過部接触面40Sを有することにより、z軸方向に対しても、より広い範囲を観察することが可能になる。ロボットシステム制御部90が触覚センサモジュール10の位置をz軸方向に移動させる場合、触覚センサ1が備える撮像部30が撮像する画像により、進行方向にある物体との衝突を事前に検知することができる。
つまり第5の実施形態において、触覚センサ1は、衝突回避をすることが可能になる。
【0049】
図17は、第5の実施形態における撮像部30が撮像可能な範囲の一例を示す図である。第5の実施形態において、撮像画像Pは、第1角度透過部接触面41に対応する直接視撮像画像R1と、第1角度透過部接触面41Sに対応する直接視撮像画像RS1と、第2角度透過部接触面42に対応する直接視撮像画像R2と、第2角度透過部接触面42Sに対応する直接視撮像画像RS2と、第1角度反射部21に対応する反射視撮像画像M1と、第2角度反射部22に対応する反射視撮像画像M2とを画像の構成要素として備える。(以後この実施形態において、直接視撮像画像R1と、直接視撮像画像R2と、直接視撮像画像RS1と、直接視撮像画像RS2とを区別しない場合には、直接視撮像画像Rとする。また、第1角度反射部21に対応する反射視撮像画像M1と、第2角度反射部22に対応する反射視撮像画像M2とを区別しない場合には、反射視撮像画像Mとする。)
反射視撮像画像M1は、透過部接触面40Sを反射するMS1を有する。
反射視撮像画像M2は、透過部接触面40Sを反射するMS2を有する。
直接視撮像画像Rには、第1の実施形態と同様に、直接視撮像マーカRMが撮像されている。また、反射視撮像画像Mには、反射視撮像マーカMMが撮像されている。
撮像部30は、直接視撮像マーカRM及び反射視撮像マーカMMを観察することにより、把持状態を検知する。
なお、上述した触覚センサモジュール10と把持状態検出部80とを総称して、触覚センサシステムともいう。
【0050】
[実施形態の効果のまとめ]
以上説明したように、本実施形態の触覚センサ1は、接触面に接触した把持対象物の形状に沿って変形する透明な透過部43を観察することにより、把持状態を検出することができる。触覚センサ1は反射部20を備え、直接視撮像画像Rと、反射視撮像画像Mとを観察することにより、撮像部30の画角A10の範囲外を観察することが可能となる。
ここで、従来の触覚センサの一例によると、撮像部は透過部に対して垂直に配置されており、また、反射部を備えていない。したがって、触覚センサの小型化をするためには、画角の広い撮像部を用いて撮像部と透過部との距離を短くする、もしくは撮像部自体の小型化を行う必要があった。撮像部の画角をより広角にしたり、撮像部を小型化したりすると、撮像品質が低下し、物体の把持状態の検出精度が低下してしまうという問題があった。つまり、従来の方法では、小型化が容易でないという問題があった。
本実施形態の触覚センサ1によれば、透過部43を直接観察することに加え、反射部20により透過部43を観察することが可能である。したがって、透過部43を直接視により撮像する位置(撮像部の撮像光軸が透過部の法線方向に対して平行な位置)に撮像部を配置する必要がない。また、本実施形態の触覚センサ1によれば、透過部43を直接観察することに加え、反射部20により透過部43を観察するという手法を用いるので、より広い範囲の撮像が可能となるため、撮像部30を広角化することなく、又は撮像部30を小型化することなく、触覚センサ1を構成することが可能となる。
すなわち、本実施形態の触覚センサ1によれば、小型化を容易にすることができる。
【0051】
また、従来の触覚センサの他の一例によると、透過部43を備えておらず、把持している把持対象物を撮像部が撮像できない構成のものがあった。この従来の触覚センサの他の一例によると、把持対象物の把持状態に滑りが生じても撮像部によっては検出できないという問題があった。
本実施形態の触覚センサ1によれば、透過部43を備えるため、撮像部30は把持対象物を直接視することにより、把持対象物の把持状態に滑りが生じたことを検知することができる。
【0052】
すなわち、本実施形態の触覚センサ1によれば、撮像部30は透過部43を直接観察することに加え、反射部20により透過部43を観察することにより、より広い範囲の撮像が可能となり、さらに撮像部30は把持対象物を直接視することにより、把持対象物の把持状態に滑りが生じたことを検知することができる。
【0053】
また、上述した実施形態によれば、撮像部30は、撮像部30の撮像光軸OAと、透過部43の透過部非接触面47の法線とが交点を有するように配置される。
従来の技術では、撮像部30の撮像光軸OAと、透過部43の透過部非接触面47の法線とは平行な位置に撮像部30が配置されていた。そのため、触覚センサ1の大きさは、撮像部30の大きさに依存していた。
しかしながら上述した実施形態によれば、撮像部30を、撮像部30の撮像光軸OAと、透過部43の透過部非接触面47の法線とが交点を有するように設置できる。
すなわち、本実施形態の触覚センサ1によれば、小型化を容易にすることができる。
【0054】
また、上述した実施形態によれば、反射部20は、法線の角度が互いに異なる複数の反射面を備える。したがって、撮像部30は、意図的に観察できる範囲を狭めた視野を提供する。触覚センサ1は複数の反射面により把持対象物を観察することで、把持対象物が3次元空間上に存在している範囲を限定することができる。
したがって、触覚センサ1はより限定された3次元空間上に把持対象物が存在することを特定することが可能になり、より正確な把持状態を検出することができるようになる。また、触覚センサ1は正確に3次元空間を把握することにより、ロボットシステム100が触覚センサ1を駆動させて把持対象物に近づける際、把持対象物をより早く発見できるようになる。
【0055】
また、上述した実施形態によれば、透過部43は、撮像部30の撮像光軸OAに対する法線の角度が互いに異なる複数の領域を備え、撮像部30は、透過部43の複数の領域を介してそれぞれ入射する透過部接触面40側に存在する物体の像を、それぞれ撮像可能である。触覚センサ1は直接視及び反射視のそれぞれにより把持対象物を観察することで、把持対象物をより正確に把握することができる。
つまり上述した実施形態によれば、触覚センサ1は、より正確な把持状態を検出することができる。
【0056】
また、上述した実施形態によれば、透過部43は、撮像部30の撮像光軸OAに対する法線の角度が互いに異なる複数の領域を備える。撮像部30は、透過部43の複数の領域を介してそれぞれ入射する透過部接触面40側に存在する物体の像を、それぞれ撮像可能である。したがって、撮像部30は透過部43が平面である場合に比べて、より広い範囲を直接視により撮像可能である。
つまり、ロボットシステム制御部90が触覚センサモジュール10の位置を移動させる場合、触覚センサ1は、物体の像を検知することが可能となる。したがって上述した実施形態における触覚センサ1は、衝突回避をすることができる。
【0057】
また、上述した実施形態によれば、把持状態検出部80は、撮像部30が撮像した画像を取得し、取得した画像に基づき接触面に対する物体の接触状態を検出する。
つまり、ロボットシステム100は、把持状態検出部80を備えることにより、物体の把持状態を検出することができる。
把持状態検出部80は、ロボット制御部91に情報を提供することにより、ロボット制御部91はロボットシステム100を制御することができる。
【0058】
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何ら限定されるものではなく、本発明の趣旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【符号の説明】
【0059】
1…触覚センサ、10…触覚センサモジュール、11…センサ接続部、100…ロボットシステム、110…先端部、120…上腕部、130…関節部、140…下腕部、150…主横軸部、160…主縦軸部、170…土台部、90…ロボットシステム制御部、20…反射部、30…撮像部、40…透過部接触面、47…透過部非接触面、43…透過部、45…マーカ、50…フレーム、70…硬質レイヤ、91…ロボット制御部、92…入力部、93…出力部、80…把持状態検出部、81…画像取得部、82…画像処理部、83…制御部、84…基準状態記憶部、A10…画角、OA…撮像光軸、IA10…第1入射角、RA10…第1反射角、IA20…第2入射角、RA20…第2反射角、IA30…第3入射角、RA30…第3反射角、AR1…第1撮像範囲、AR2…第2撮像範囲、AR3…第3撮像範囲、OB1…第1対象物、OB2…第2対象物、OB3…第3対象物、RM…直接視撮像マーカ、MM…反射視撮像マーカ、R…直接視撮像画像、M…反射視撮像画像、P…撮像画像