(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための最良の形態】
【0011】
以下、図面を参照して本発明の実施の形態を説明する。
【0012】
[実施形態1]
図1から
図7は本発明の実施形態1を示したものであり、
図1は医療機器システムの構成を示すブロック図である。
【0013】
この医療機器システムは、内視鏡10と、画像処理装置20と、磁気発生装置30と、操作部40と、モニタ50と、を備えている。
【0014】
磁気発生装置30は、画像処理装置20内の後述する制御部24の制御に基づき、位置検出用の磁場を発生させるものである。
【0015】
操作部40は、画像処理装置20(ひいては、この医療機器システム)に対する各種の操作入力を行うためのものであり、タッチパネル、キーボード、マウス、トラックボール、フットスイッチ等のデバイスを適宜含んで構成されている。この操作部40は、後述する3次元形状情報中の、所定の位置または領域を手動で指定するための指定部(自動で指定するための指定部は、後述する制御部24などが該当する)として機能する。また、操作部40は、後述する3次元モデル画像の選択操作などにも用いられる。
【0016】
モニタ50は、内視鏡10から取得された撮像画像55(
図3等参照)、3次元形状情報に基づいて画像処理装置20により生成された所定の管腔臓器のマップ51(
図3等参照)、あるいはこの医療機器システムに係る各種の設定情報などを表示する表示装置である。
【0017】
内視鏡10は、対物光学窓11と、撮像部12と、磁気センサ13と、を有している。ここに、内視鏡10は、通常の白色光による白色光観察を行うものであっても良いし、白色光観察に加えて、あるいは白色光観察に代えて、NBI(Narrow Band Imaging)光等の特殊光を用いた特殊光観察を行うことができるものであっても良い。ここに、適切な特殊光を用いた特殊光観察を行うと、腫瘍等の発見が容易になる利点がある。
【0018】
対物光学窓11は、例えばレンズ等の光学部材を含んで構成され、所定の管腔臓器内の被写体像(被写体の光学像)を撮像部12に結像する。なお、本実施形態においては所定の管腔臓器が例えば膀胱56(
図3、
図5〜
図7等参照)であるものとして説明を行うが、もちろんその他の管腔臓器であっても構わない(後述する実施形態2に他の管腔臓器の例(腎盂および腎杯)を示す)。
【0019】
撮像部12は、対物光学窓11により結像された被写体像を撮像して撮像画像55を取得する。撮像部12は、この
図1に示す例においては内視鏡10内に設けられているが、内視鏡10がリレー光学系等を有する光学内視鏡である場合には、この光学内視鏡の接眼部に取り付けて使用するカメラヘッド等であっても構わない。
【0020】
磁気センサ13は、磁気発生装置30により発生された磁場を検出することにより、対物光学窓11の位置情報を取得する位置情報取得部である。なお、位置情報取得部として、ここでは磁気センサ13を用いたが、その他の技術を用いても構わない。
【0021】
画像処理装置20は、画像処理部21と、撮像情報記憶部22と、3次元形状情報記憶部23と、制御部24と、を備えている。ここに、制御部24は、距離情報取得部25と、位置合わせ部26と、撮像位置算出部27と、を含んでいる。
【0022】
まず、制御部24は、この画像処理装置20内の各部を含む、この医療機器システム全体を制御するものである。
【0023】
3次元形状情報記憶部23は、所定の管腔臓器の3次元形状情報を記憶している。ここに、3次元形状情報は、例えば、管腔臓器の3次元モデル画像、あるいは被検者自身から取得した管腔臓器の3次元画像情報などであるが、本実施形態においては管腔臓器の3次元モデル画像であるものとする。ただし、管腔臓器の大きさや形状は、性別や年齢等に応じて異なる場合がある。そこで、3次元形状情報として3次元モデル画像を用いる場合には、大きさや形状が異なる複数の3次元モデル画像を3次元形状情報記憶部23に予め記憶させておき、操作部40からの選択操作に基づいて、所望の3次元モデル画像を選択することができるようにすると良い。
【0024】
位置合わせ部26は、磁気センサ13で取得した位置情報を3次元形状情報に位置合わせする。すなわち、位置合わせ部26は、内視鏡10が所定の管腔臓器内に挿入されているときの対物光学窓11の位置が、3次元形状情報記憶部23から読み出した3次元形状情報におけるどの位置に対応するかを算出する。
【0025】
距離情報取得部25は、対物光学窓11から所定の管腔臓器までの距離情報を取得する。この距離情報取得部25による距離情報の取得は、例えば、3D測距により行っても良いし、レーザ測距により行っても構わないし、その他の適宜の測距技術を適用することが可能であって特定の技術に限定されるものではない。
【0026】
撮像位置算出部27は、撮像部12が撮像画像55を取得することに伴い、撮像画像55取得時における対物光学窓11の位置情報を、位置合わせ部26によって3次元形状情報に位置合わせする。そして位置合わせされた位置情報と、距離情報取得部25から取得された距離情報とに基づいて、撮像画像55の3次元形状情報中の所定の管腔臓器における撮像範囲(つまり、3次元形状情報中の所定の管腔臓器において、撮像画像55に写っている範囲)を、3次元形状情報中における撮像位置情報として算出する。
【0027】
画像処理部21は、撮像部12から取得された撮像画像55にホワイトバランス処理や同時化処理、ガンマ変換などの各種の画像処理を行って、撮像情報記憶部22へ出力し記憶させる。
【0028】
撮像情報記憶部22は、制御部24の制御に基づき、撮像位置算出部27により算出された撮像位置情報と、画像処理部21により画像処理された撮像画像55と、を関連付けて記憶する。なお、撮像情報記憶部22が撮像画像55に関連付けて記憶する情報は、この撮像位置情報以外にも、後述する所定の基準等のその他の幾つかの情報を含めることが可能となっている。
【0029】
上述した画像処理部21は、さらに、3次元形状情報記憶部23から読み出した3次元形状情報に基づいて、所定の管腔臓器のマップ51を生成してモニタ50へ出力し表示させる。ユーザは、モニタ50に表示されたマップ51を参照して、上述した操作部40による3次元形状情報中の所定の位置または領域の指定を行う。
【0030】
そして、画像処理部21は、撮像情報記憶部22の記憶結果に基づき、操作部40または制御部24によって指定された位置または領域に少なくとも一部が重なる撮像位置情報を全て特定し、特定された撮像位置情報に関連する撮像画像55を撮像情報記憶部22から全て取得して、取得した撮像画像55を位置または領域毎に所定の基準に基づき並べた画像列52(
図3、
図7等参照)を生成する。
【0031】
ここに、所定の基準は、距離情報取得部25により取得された対物光学窓11から撮像位置(被写体(被写体は内視鏡10による検査対象であるために、適宜、被検体ともいう)において撮像された範囲の例えば中心)までの距離情報、被検体の特定位置(例えば、現在の撮像範囲(現在の観察範囲)の中心(現在の撮像位置)、または指定された位置、あるいは指定された領域の中心、被検体における特定の部位(例えば膀胱56における尿道口56a)など)から撮像位置情報で示される位置までの距離、撮像画像55が取得された時刻順である時系列、所定の管腔臓器内の所定の特徴部位(腫瘍等)の大きさ、などの何れかが例として挙げられるが、これらに限るものではない。そして、取得された所定の基準は、上述したように、撮像画像55に関連付けて撮像情報記憶部22に記憶される。
【0032】
また、画像処理部21は、これら複数の基準の中のどれを、撮像画像55を並べるための所定の基準とするかを選択的に変更可能に構成されている。ここに、所定の基準は、検査対象となる所定の管腔臓器などに応じて制御部24が自動的に選択しても良いし、ユーザが操作部40を用いて手動で選択するようにしても構わない。
【0033】
次に、
図2は医療機器システムにより被写体を観察するときの処理を示すフローチャートである。
【0034】
この処理を開始すると、3次元形状情報記憶部23から所定の管腔臓器、ここでは例えば膀胱56の3次元モデル画像である3次元形状情報を、上述したような複数の3次元モデル画像の中から選択して読み出す(ステップS1)。
【0035】
次に、内視鏡10の挿入部を被検体に挿入し、挿入部先端を、被検体の基準位置、例えば膀胱56と尿道との境界位置である尿道口56a(
図3、
図5〜
図7等参照)に接触させた状態で、磁気センサ13により位置検出を行うことで、被検体の基準位置の検出を行う(ステップS2)。
【0036】
そして、磁気センサ13により検出する位置情報(センサ座標情報)と、3次元形状情報における座標(3次元形状座標)との関連付けを、位置合わせ部26を用いて算出する(ステップS3)。なお、ここではステップS2で取得した基準位置(尿道口56a)のセンサ座標情報を用いて3次元形状座標との関連付けを行う例(関連付けの具体例としては、センサ座標情報と3次元形状座標との座標変換法則の算出など)を示したが、これに限定されるものではなく、その他の適宜の技術を利用することができる。この関連付けが一旦算出されれば、その後は、任意の時点で磁気センサ13により検出した位置情報を、3次元形状情報に位置合わせすることが可能となる。
【0037】
そして、内視鏡10による管腔臓器内の観察(つまり、撮像部12によりリアルタイム動画像を取得しモニタ50に表示しての観察)を上述した白色光観察または特殊光観察により行い(ステップS4)、観察中に腫瘍を発見した場合には、ユーザはレリーズスイッチをオンすることで腫瘍発見を医療機器システムに入力する。これに対応するために、制御部24は、レリーズスイッチがオンされたか否かを判定している(ステップS5)。ここにレリーズスイッチは、例えば操作部40のフットスイッチ、あるいは内視鏡10に設けられた図示しないスコープスイッチなどが該当する。
【0038】
ここでレリーズスイッチがオンされていないと判定された場合には、ステップS4へ戻って、内視鏡観察を引き続いて行う。
【0039】
また、ステップS5においてレリーズスイッチがオンされたと判定された場合には、撮像部12により静止画像としての撮像画像55を取得すると共に、レリーズスイッチがオンされた時点におけるセンサ座標情報を磁気センサ13から取得する(ステップS6)。
【0040】
ここで取得したセンサ座標情報は、近似的な腫瘍位置情報として扱うことが可能であるが、このセンサ座標情報と後述するステップS8において取得する距離情報とを用いてより正確な腫瘍位置情報を算出するとさらに良い。
【0041】
そして、取得したセンサ座標情報に基づき、位置合わせ部26が、ステップS3で算出した関連付けに基づき、対物光学窓11の3次元形状座標を算出する(ステップS7)。
【0042】
また、距離情報取得部25が、レリーズスイッチがオンされたときの、対物光学窓11から、被検体における撮像範囲の例えば中心までの距離情報を取得する(ステップS8)。
【0043】
続いて、撮像位置算出部27が、取得された距離情報に基づいて、撮像画像55上の対象物(例えば、撮像画像55上の腫瘍などの所定の特徴部位)の大きさを取得する(ステップS9)。
【0044】
なお、ここでは対象物(所定の特徴部位)の大きさを、距離情報に基づいて算出しているが、これに限るものではない。例えば、磁気センサ13による位置情報の取得を行いながら、ユーザが内視鏡10の挿入部先端を対象物の輪郭に沿ってトレースし、このトレースによって得られる軌跡に基づいて対象物の大きさを算出するようにしても良いし、その他の適宜の技術を用いても構わない。
【0045】
また、ここでは、画像を並べて表示する際の所定の基準として対象物(所定の特徴部位)の大きさを用いることを想定してこのステップS9の処理を行っているが、もし所定の基準として用いない場合にはこのステップS9の処理を省略することも可能である。
【0046】
ステップS7において算出した対物光学窓11の3次元形状座標と、ステップS8において取得した距離情報と、内視鏡10の画角情報(この画角情報は、例えば、内視鏡10が画像処理装置20に接続されたときに、制御部24が内視鏡10から取得する)と、に基づいて、ステップS6において取得した撮像画像55の3次元形状情報における撮像範囲(つまり、3次元形状情報としての所定の管腔臓器の内壁面における撮像範囲)と、この撮像範囲の例えば中心である撮像位置と、の少なくとも一方(ここでは、例えば両方)を算出する(ステップS10)。
【0047】
そして、画像処理部21により画像処理された撮像画像55と、撮像位置算出部27により算出された撮像位置・撮像範囲と、距離情報取得部25により取得された距離情報と、ステップS9において取得された対象物(所定の特徴部位)の大きさ情報と、を関連付けて撮像情報記憶部22に保存する(ステップS11)。
【0048】
なお、ここでは撮像画像55に関連付けて記憶する情報として、撮像位置、撮像範囲、距離情報、および対象物(所定の特徴部位)の大きさ情報を例に挙げたが、これらの内の幾つかを省略しても構わないし、これらに加えて、またはこれらの内の何れかに代えて、その他の情報(例えば、上述した被検体の特定位置から撮像位置情報で示される位置までの距離など)を撮像画像55に関連付けて記憶するようにしても良い。
【0049】
また、撮像画像55を撮像情報記憶部22に保存する際には、例えば画像ファイル等のファイル形式で保存されるのが一般的であるが、画像ファイルには撮像時刻あるいはファイル保存時刻等の時刻情報が記録される。従って、こうした時刻情報も、撮像画像55に関連付けて記憶される情報の1つとなることはいうまでもない。
【0050】
制御部24は、磁気センサ13から得られる位置情報に基づいて、現在の撮像位置または撮像範囲を算出して指定し(従って、制御部24は、3次元形状情報中の、所定の位置または領域を自動で指定するための指定部として機能する)、現在の撮像位置(現在の撮像範囲の例えば中心)または現在の撮像範囲を過去に撮像した画像(例えば、現在の撮像位置または撮像範囲に、撮像範囲の少なくとも一部が重なる撮像画像55)を、撮像情報記憶部22に記憶されている撮像画像55の中から検索する(ステップS12)。
【0051】
そして、制御部24は、
図3に示すような表示を行う(ステップS13)。ここに
図3は、医療機器システムにおいて、内視鏡観察時にモニタ50に表示される画像の例を示す図である。
【0052】
図示のように、モニタ50には、3次元形状情報から作成される所定の管腔臓器のマップ51と、画像列52とが、例えば左右に隣接して表示される。
【0053】
図3に示す例においては、マップ51として、所定の管腔臓器である膀胱56の内壁の2次元展開図である下半球
図56bと上半球
図56tとが表示される。この膀胱56の2次元展開図には、さらに、ステップS2において基準位置として用いた尿道口56aも表示されている。
【0054】
制御部24は、このマップ51に、過去の撮像位置53と、現在の撮像位置または撮像範囲(
図3に示す例では、指定された所定の領域である現在の撮像範囲54)と、をさらに表示する。
【0055】
そして、制御部24は、画像列52として、現在の撮像範囲54に撮像位置53の少なくとも一部が重なる過去の撮像画像55を、上述したような所定の基準の何れかに基づき、並べて一覧表示する(
図3に示す例では、3つの撮像画像55が縦方向に配列して表示されている)。
【0056】
このステップS13では、例えば、所定の基準として被検体における特定の部位から撮像位置までの距離を用い、特定の部位を現在の撮像位置に設定して、撮像画像55の撮像位置が現在の撮像位置(現在の観察範囲の中心)に近い順に並べて一覧表示している。この場合には、現在の撮像範囲54に重なる割合が大きい順に過去の撮像画像55を一覧表示していることになる。そして、一覧表示される撮像画像55は、ステップS5において、腫瘍56cを発見したユーザがレリーズスイッチを操作して撮像された画像であるために、腫瘍56cが写っている。
【0057】
こうして、現在の撮像範囲54における過去の撮像画像55が配列して表示されるために、ユーザは、現在の撮像範囲54においてさらに画像を取得するか、あるいは撮像範囲を移動させるか、さらにあるいは観察を終了するかを、即時に適切に判断することが可能となる。
【0058】
具体的に、
図3に示されている例においては、画像列52が、複数の腫瘍56cを俯瞰した撮像画像55(上および中央の撮像画像55)と、複数の腫瘍56cの内の1つの腫瘍56cのみを近接して正面視した撮像画像55(下の撮像画像55)と、を含んでいる。
【0059】
そこで、ユーザは、画像列52の撮像画像55に表示されている特徴から、例えば、近接撮影されていないその他の腫瘍56cに関しても、近接画像を取得する、といった判断を行うことが可能となる。このように、腫瘍56cに対する、近接画像の更なる取得、またはより一層の拡大画像の取得、あるいは異なる方向からの画像取得、さらにあるいは俯瞰画像が含まれていない場合の俯瞰画像の取得、ブレが発生している画像の再取得、光源を例えば白色光から特殊光へ変更しての画像の再取得、などをユーザが判断することが可能となる。
【0060】
そして、観察を終了するか否かを判定して(ステップS14)、終了しないと判定された場合にはステップS4へ戻って内視鏡観察を引き続いて行い、終了すると判定された場合にはこの処理を終える。
【0061】
次に、
図4は医療機器システムにおいて、内視鏡10による観察が終了した後に、診断等を行うために画像を見直すときの処理を示すフローチャートである。
【0062】
この処理を開始すると、画像列52におけるデフォルトのソート順序(並び順)を設定する(ステップS21)。ここに、デフォルトのソート順序は、医療機器システムにおいて基本として設定されているソート順序、または、前回使用したソート順序、等である。このソート順序は、上述したような、画像を並べて表示する際の所定の基準により設定される。
【0063】
続いて、各撮像画像55に関連付けられた撮像位置、撮像範囲、距離情報、大きさ情報などを読み込む(ステップS22)。
【0064】
そして
図5に示すように、モニタ50に、被検体の3次元形状情報から作成された所定の管腔臓器のマップ51を表示し、さらに、マップ51に、撮像情報記憶部22に記憶されている各撮像画像55の撮像位置53を表示する(ステップS23)。
【0065】
ここに、
図5は、医療機器システムにおいて、位置または領域が指定される前のマップ51の表示例を示す図である。
図5に示すマップ51は、
図3に示した例と同様に膀胱56の内壁の2次元展開図であって、下半球
図56bと上半球
図56tと尿道口56aとが表示される。
【0066】
その後、
図5のモニタ表示を見たユーザにより、診断画像の選択を行いたい部分としての位置または領域が、指定部である操作部40の例えばマウスやトラックボール等を用いて指定される(ステップS24)。ここに、このステップS24の処理を最初に行う場合には1つ以上の所望の数の位置または領域が指定されることになり、2回目以降の場合には、もし位置または領域が追加して(もしくは既存の指定をキャンセルして新たに)指定されなければ、既に指定されている位置または領域に基づいて次の処理に進むことになる。
【0067】
図6は、医療機器システムにおいて、マップ51に位置または領域が指定されたときの表示例を示す図である。この
図6に示す例では、1つ以上の撮像位置53を含む領域A,B,Cが指定されているが、領域に代えて位置(点)として指定されても構わない。
【0068】
すると、制御部24は、撮像情報記憶部22に記憶されている撮像画像55の中から、指定された位置または領域に撮像範囲の少なくとも一部が重なる撮像画像55を検索する(ステップS25)。
【0069】
そして、制御部24の制御に基づいて、画像処理部21が、指定された位置または領域毎に、検索された撮像画像55を所定の基準に基づくソート順に並べ、モニタ50におけるマップ51の隣に画像列52として一覧表示する(ステップS26)。
【0070】
図7は、医療機器システムにおいて、マップ51および画像列52が表示されているときの例を示す図である。この
図7に示す例では、それぞれの領域A,B,Cの少なくとも一部に撮像位置53が重なる撮像画像55が、縦方向に配列して表示されている。
【0071】
この
図7に示されている例においては、ユーザは、各領域A,B,Cに属する撮像画像55に表示されている特徴から、以下のような判断や選択を行うことができる。
【0072】
まず、領域Aの画像列52は、複数の腫瘍56cを俯瞰した撮像画像55(上から1〜4番目の撮像画像55)と、複数の腫瘍56cの内の1つの腫瘍56cのみを正面視した撮像画像55(上から5番目(一番下)の撮像画像55)と、を含んでいる。
【0073】
領域Bの画像列52は、1つまたは複数の腫瘍56cを俯瞰した撮像画像55のみを含んでいる。
【0074】
領域Cの画像列52は、1つの腫瘍56cを異なる方向および異なる拡大率で観察した撮像画像55を含んでいる。
【0075】
そこで、この
図4に示すような内視鏡10による観察が終了した後の段階の場合には、例えば、領域Aの場合には、複数の腫瘍56c全体を俯瞰することができている上から2番目の撮像画像55を診断画像として選択してカルテに残す、という選択が可能となる。また、領域Bの場合には、一番下の撮像画像55が、2つある腫瘍56cの内の1つが内視鏡10の撮像方向がぶれる等により見失われているために、削除するという選択が可能となる。さらに、領域Cの場合には、下側の撮像画像55が、正面からの拡大画像であって組織性状を把握することができるとして、診断画像として選択しカルテに残すといった選択が可能となる。
【0076】
続いて、ユーザにより、ソート順序の変更操作がされたか否かを判定し(ステップS27)、変更操作がされたと判定された場合には、変更されたソート順序を設定してから(ステップS28)、上述したステップS26へ行って新たなソート順序による一覧表示を行う。これにより、ユーザは、所望の基準への変更を行って、変更された基準に基づき並び替えられた撮像画像55を観察することが可能となる。
【0077】
また、ステップS27において、変更操作がされていないと判定された場合には、観察を終了するか否かを判定し(ステップS29)、終了しないと判定された場合にはステップS24へ戻って上述したような処理を行い、終了すると判定された場合にはこの処理を終える。
【0078】
このような実施形態1によれば、指定された3次元形状情報中の位置または領域に少なくとも一部が重なる撮像位置情報を全て特定して、特定した撮像位置情報に関連する撮像画像55を撮像情報記憶部22から全て取得し、取得した撮像画像55を位置または領域毎に所定の基準に基づき並べた画像列を生成するようにしたために、ユーザが、複数の画像の中から必要な情報(一例を挙げれば、腫瘍56cの組織性状を判断するのに適した撮像画像55等)に速やかに到達することが可能となる。
【0079】
そして、複数の位置または領域を指定してそれぞれに画像列を表示する表示領域を生成するようにしたために、所望の対象物の画像選択が容易になると共に、各位置または領域内における画像同士の比較や、各位置または領域同士の比較を一目で容易に行うことが可能となる。
【0080】
また、撮像位置情報が3次元形状情報中における撮像範囲に関する情報を含むようにしたために、撮像範囲を視覚的に簡単に把握することができる。
【0081】
さらに、所定の基準を複数の基準の中から選択的に変更可能としたために、必要な情報に最も到達し易い順序に画像列を並び替えることができる。
【0082】
このとき、所定の基準として距離情報を用いることで、撮像時の対物光学窓11から腫瘍までの撮影距離の大小関係を直ちに把握することができる。
【0083】
また、所定の基準として被写体の特定位置から撮像位置情報で示される位置までの距離を用いることで、例えば複数の腫瘍が存在する場合にどれとどれが同じ腫瘍かなどを容易に想定することが可能となる。
【0084】
さらに、所定の基準として時系列を採用することで、内視鏡10による観察時の手順や様子を思い出しながらの画像確認が可能となる。
【0085】
加えて、所定の基準として所定の管腔臓器内の所定の特徴部位の大きさを用いることで、腫瘍等の大小関係を容易に把握することができる。
【0086】
そして、指定部が、撮像位置情報を、指定された位置または領域として指定するようにしたために、指定が容易であると共に、腫瘍等を群として捉えることが可能となる。
【0087】
こうして、観察中に観察状況を振り返って、画像をさらに取得する必要があるか否かを判断し、観察が終了した後に画像を見直して、管腔臓器における指定領域の少なくとも一部に撮像範囲が重なる撮像画像55群の中から、診断を行うのに適切な画像を選択することが可能となる。
【0088】
[実施形態2]
図8から
図11は本発明の実施形態2を示したものであり、
図8は所定の管腔臓器を腎盂および腎杯としたときの被写体の観察処理を示すフローチャートである。
【0089】
この実施形態2において、上述の実施形態1と同様である部分については同一の符号を付すなどして説明を適宜省略し、主として異なる点についてのみ説明する。
【0090】
上述した実施形態1では、所定の管腔臓器として膀胱56を例に挙げたが、本実施形態は腎盂および腎杯を例に挙げたものとなっている。
【0091】
この処理を開始すると、3次元形状情報記憶部23から、被検者の3次元画像情報を取得する(ステップS31)。すなわち、上述した実施形態1では、3次元形状情報として、管腔臓器の3次元モデル画像を想定していたが、本実施形態は、被検者自身から取得した管腔臓器の3次元画像情報を想定したものとなっている。
【0092】
ここに、被検者の3次元画像情報は、例えば、CT装置、あるいはMRI装置等によって、被験者自身から予め取得されたものである。こうして取得された3次元画像情報は、例えば院内ワークステーション等により管理されている。従って、
図1においては3次元形状情報記憶部23が画像処理装置20内に設けられている例を示したが、3次元形状情報記憶部23は、画像処理装置20外に設けられた例えば院内ワークステーション等であっても構わない。
【0093】
次に、取得されて3次元形状情報記憶部23に記憶されている被検者の3次元画像情報から、所定の管腔臓器、ここでは例えば腎盂および腎杯(これら腎盂および腎杯をまとめて、
図9〜
図11においては符号57を付している)の3次元形状情報を抽出して読み出す(ステップS32)。この読み出しは、3次元形状情報記憶部23が例えば院内ワークステーションである場合にはデータのダウンロードとして行われ、読み出された3次元形状情報は、制御部24の制御に基づいて画像処理部21により処理された後に、モニタ50に例えば
図9に示すようなマップ51として表示される。
【0094】
尚、ここでは被検者の3次元画像情報は、CT装置等によって、予め取得されたものであるをことを説明したが、3次元画像情報の取得方法はこれに限られるものではない。例えば、画像処理部21が撮像部12が撮像した撮像画像に基づいた観察位置、視線方向データを用いて、内視鏡10の撮像部12により撮像(観察)された撮像画像に対応する3次元画像情報を生成するようにしても良い。
【0095】
この場合、画像処理部21は例えば特許第5354494号の公報に記載された方法や、この公報以外に公知となるShape from Shading 法のように1枚の2次元画像から対応する3次元形状を推定しても良い。また、2枚以上の画像を用いるステレオ法、単眼移動視による3次元形状推定法、SLAM法、位置センサと組み合わせて3次元形状を推定する手法でも良い。また、3次元形状を推定する場合、外部のCT装置等の断層像取得装置から取得した3次元画像データを参照して3次元形状データを構築するようにしても良い。
【0096】
ここに、
図9は、医療機器システムにおいて、位置または領域が指定される前のマップ51の表示例を示す図である。
【0097】
図示のように、モニタ50には、3次元形状情報から作成される所定の管腔臓器のマップ51(ここでは、腎盂および腎杯57の2次元マップ)が表示され、マップ51内には、腎盂57aと、腎杯57bと、尿管58とが表示される。
【0098】
そして、画像列52におけるデフォルトのソート順序(並び順)を上述した実施形態1と同様に設定する(ステップS33)。
【0099】
その後、ユーザが撮像画像55を表示したい位置または領域が、
図9に示すマップ51上において1つ以上指定されるのを待つ(ステップS34)。そして、位置または領域が指定されたら、指定された位置または領域をモニタ50に表示しているマップ51に重畳表示する。
【0100】
ここに、
図10は、医療機器システムにおいて、位置または領域が指定されたときのマップ51の表示例を示す図である。この
図10に示す例では、6つの位置A〜Fが指定されているが、領域として指定されても構わない。なお、ユーザからの位置または領域が指定されるタイミングは、その他のタイミングであっても構わない。
【0101】
次に、内視鏡10の挿入部を被検体に挿入し、挿入部先端を、被検体の基準位置、ここでは腎盂および腎杯57における所定の基準位置に接触させた状態で、磁気センサ13により位置検出を行う(ステップS35)。
【0102】
そして、磁気センサ13により検出する位置情報(センサ座標情報)と、3次元形状情報における座標(3次元形状座標)との関連付けを、位置合わせ部26を用いて算出する(ステップS36)。なお、その他の適宜の技術を利用してセンサ座標情報と3次元形状座標との関連付けを行っても良いことは上述した実施形態1と同様である。
【0103】
そして、内視鏡10による管腔臓器内の観察を行い(ステップS37)、レリーズスイッチがオンされたか否かを制御部24が判定する(ステップS38)。
【0104】
ここでレリーズスイッチがオンされていないと判定された場合には、ステップS37へ戻って、内視鏡観察を引き続いて行う。
【0105】
また、ステップS38においてレリーズスイッチがオンされたと判定された場合には、撮像部12により撮像画像55を取得すると共に、レリーズスイッチがオンされた時点におけるセンサ座標情報を磁気センサ13から取得する(ステップS39)。
【0106】
そして、取得したセンサ座標情報に基づき、位置合わせ部26が対物光学窓11の3次元形状座標を算出する(ステップS40)。
【0107】
また、距離情報取得部25が、レリーズスイッチがオンされたときの、対物光学窓11から、被検体における撮像範囲の例えば中心までの距離情報を取得する(ステップS41)。
【0108】
ステップS40において算出した対物光学窓11の3次元形状座標と、ステップS41において取得した距離情報と、内視鏡10の画角情報と、に基づいて、ステップS39において取得した撮像画像55の3次元形状情報における撮像範囲と、この撮像範囲の例えば中心である撮像位置と、の少なくとも一方(ここでは、例えば両方)を算出する(ステップS42)。
【0109】
尚、このステップS41,S42では距離を算出して撮像範囲や撮像位置を算出したが、距離を算出せずに対物光学窓の3次元形状座標と、内視鏡10の画角情報とから視野範囲や視野中心線の3次元形状座標を求め、視野範囲や視野中心線が3次元画像情報と交わる部分を撮像範囲や撮像位置として算出しても良い。
【0110】
そして、画像処理部21により画像処理された撮像画像55と、撮像位置算出部27により算出された撮像位置・撮像範囲と、距離情報取得部25により取得された距離情報と、を関連付けて撮像情報記憶部22に保存する(ステップS43)。
【0111】
制御部24は、ステップS34において指定された位置または領域に撮像範囲の少なくとも一部が重なる撮像画像55を、撮像情報記憶部22に記憶されている撮像画像55の中から検索する(ステップS44)。
【0112】
そして、制御部24は、
図11に示すような表示を行う(ステップS45)。ここに
図11は、医療機器システムにおいて、指定された位置または領域毎の撮像画像55がマップ51と共にモニタ50に表示される例を示す図である。
【0113】
図示のように、モニタ50には、3次元形状情報から作成される所定の管腔臓器(ここでは腎盂および腎杯57)のマップ51と、画像列52とが、例えば左右に隣接して表示される。
【0114】
ここに、
図11に表示されるマップ51は、
図10に示したマップ51と同様の、指定された位置A〜Fが表示されているマップである。
【0115】
また、画像列52は、指定された位置A〜F毎に、指定位置を撮像範囲に含む撮像画像55を撮像情報記憶部22から取得して、取得した撮像画像55を上述した所定の基準に基づくソート順に並べて、一覧表示したものである。
【0116】
ここに所定の基準は、本実施形態のような腎盂および腎杯57の場合には、上述した例の他に、さらに腎盂および腎杯57の孔部の大きさなどを採用しても良い。このときには、撮像画像55上の対象物(所定の特徴部位)の大きさ情報として、孔部の大きさ情報を取得することになる。なお、撮像画像55上の対象物(所定の特徴部位)の大きさ情報として、さらに、例えば小腎杯57cや結石などの大きさ情報を取得して、撮像画像55に関連付けて撮像情報記憶部22に保存し、画像を並べて表示する際の所定の基準としても構わない。
【0117】
これらの撮像画像55には、例えば、小腎杯57cが写っている。また、画像処理部21は、制御部24の制御に基づいて、複数の内の何れかの位置または領域に重なる撮像位置情報がない場合には、画像列52を表示する表示領域に撮像画像55が存在しないことを示唆する示唆情報59を重畳する。ここでは、指定された位置Dに撮像範囲が重なる撮像画像55が存在しないために、その旨の示唆情報59として、例えば「No data」を表示することにより、撮像画像55が存在しないことを一目で容易に把握することができるようにしている。
【0118】
この
図11に示されている例においては、ユーザは、各位置A〜Fに係る撮像画像55に表示されている特徴から、以下のような判断や選択を行うことができる。
【0119】
まず、位置A〜Cの各画像列52は、複数の小腎杯57cを俯瞰した画像を含んでいる。
【0120】
また、位置Dについては、撮像画像55が取得されていない。
【0121】
さらに、位置Eの画像列52は、近い位置から小腎杯57cを撮像した画像と、遠い位置から小腎杯57cを撮像した画像と、が取得されている。
【0122】
そして、位置Fの画像列52は、複数の小腎杯57cを俯瞰した画像と、それぞれの小腎杯57cを近接位置で観察した画像と、を含んでいる。
【0123】
従って、内視鏡10による観察中の場合には、例えば、位置A〜Cについては、それぞれの小腎杯57cの近接画像を追加で取得する判断をユーザが行うことが可能であり、また、位置Dについては、小腎杯57cの観察漏れが発生しているとして小腎杯57cの画像を取得する判断をユーザが行うことが可能となる。
【0124】
一方、内視鏡10による観察が終了した後であれば、ユーザは、例えば、位置Aについては3つの小腎杯57c全体を俯瞰することができている上から2番目の撮像画像55を診断画像として選択しカルテに残す選択が可能となり、また、位置Eについては近接位置で撮像された小腎杯57cの画像のみを診断画像としてカルテに残す選択が可能となる。
【0125】
続いて、ユーザにより、ソート順序の変更操作がされたか否かを判定し(ステップS46)、変更操作がされたと判定された場合には、変更されたソート順序を設定してから(ステップS47)、上述したステップS45へ行って新たなソート順序による一覧表示を行う。これにより、ユーザは、所望の基準への変更を行って、変更された基準に基づき並び替えられた撮像画像55を観察することが可能となる。
【0126】
また、ステップS46において、変更操作がされていないと判定された場合には、観察を終了するか否かを判定し(ステップS48)、終了しないと判定された場合にはステップS37へ戻って上述したような処理を行い、終了すると判定された場合にはこの処理を終える。
【0127】
このような実施形態2によれば、上述した実施形態1とほぼ同様に、内視鏡10による観察中に観察状況を振り返って、さらなる画像取得の必要性や腎杯等の観察漏れがないかを判断し、内視鏡10による観察を終了した後に画像を見直して、指定した位置または領域毎に分類された撮像画像55の中から、診断を行うのに適切な画像を選択することが可能となる。
【0128】
そして、3次元形状情報として、被験者自身から取得した3次元画像情報を用いるようにしたために、より精度の高い位置合わせを行い、より正確なマップ51を表示することが可能となる。
【0129】
なお、上述では主として医療機器システムについて説明したが、医療機器システムを上述したように作動させる作動方法であっても良いし、コンピュータに医療機器システムを上述したように作動させるための処理プログラム、該処理プログラムを記録するコンピュータにより読み取り可能な一時的でない記録媒体、等であっても構わない。
【0130】
また、本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明の態様を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても良い。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。
【0131】
本出願は、2014年12月15日に日本国に出願された特願2014−253276号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲、図面に引用されたものとする。
取得された撮像系の位置情報を管腔臓器の3D情報に位置合わせする位置合わせ部(26)と、画像取得時の3D情報中における撮像位置を、位置合わせされた位置情報に基づき算出する撮像位置算出部(27)と、撮像位置と画像を関連付けて記憶する撮像情報記憶部(22)と、3D情報中の領域等を指定する操作部(40)と、撮像情報記憶部(22)の記憶結果から、指定領域に重なる撮像位置の画像を取得して領域毎に所定の基準で並べる画像処理部(21)と、を有する医療機器システム。