【文献】
Suzuki Naoki,Virtual Surgery System for Interactive Surgical Simulation,Int Conf Artif Real Telexistence ,1997年,Vol. 7th,129 - 134 頁,URL,http://www.ic-at.org/papers/list.html
【文献】
Takeshi Ezumi,An Elastic Organ Model for Force Feedback manipulation and Reali-time Surgical Simulation,Int Conf Artif Real Telexistence,2007年,Vol. 7th,115 - 121 頁
【文献】
福永 健哉,開頭手術におけるVolume Rendering Stereo-movieの有用性,日本放射線技術學會雜誌,2007年12月20日,vol. 63, No. 12 ,1370 - 1376 頁
(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
以下、添付図面を参照して、画像処理システム、装置、方法及び医用画像診断装置の実施形態を詳細に説明する。なお、以下では、画像処理装置としての機能を有するワークステーションを含む画像処理システムを実施形態として説明する。ここで、以下の実施形態で用いる用語について説明すると、「視差画像群」とは、ボリュームデータに対して、所定の視差角ずつ視点位置を移動させてボリュームレンダリング処理を行うことで生成された画像群のことである。すなわち、「視差画像群」は、「視点位置」が異なる複数の「視差画像」から構成される。また、「視差角」とは、「視差画像群」を生成するために設定された各視点位置のうち隣接する視点位置とボリュームデータによって表される空間内の所定位置(例えば、空間の中心)とにより定まる角度のことである。また、「視差数」とは、立体表示モニタにて立体視されるために必要となる「視差画像」の数のことである。また、以下で記載する「9視差画像」とは、9つの「視差画像」から構成される「視差画像群」のことである。また、以下で記載する「2視差画像」とは、2つの「視差画像」から構成される「視差画像群」のことである。
【0009】
(第1の実施形態)
まず、第1の実施形態に係る画像処理システムの構成例について説明する。
図1は、第1の実施形態に係る画像処理システムの構成例を説明するための図である。
【0010】
図1に示すように、第1の実施形態に係る画像処理システム1は、医用画像診断装置110と、画像保管装置120と、ワークステーション130と、端末装置140とを有する。
図1に例示する各装置は、例えば、病院内に設置された院内LAN(Local Area Network)2により、直接的、又は間接的に相互に通信可能な状態となっている。例えば、画像処理システム1にPACS(Picture Archiving and Communication System)が導入されている場合、各装置は、DICOM(Digital Imaging and Communications in Medicine)規格に則って、医用画像等を相互に送受信する。
【0011】
かかる画像処理システム1は、医用画像診断装置110により生成された3次元の医用画像データであるボリュームデータから視差画像群を生成し、この視差画像群を立体視可能なモニタに表示することで、病院内に勤務する医師や検査技師等の観察者に対して、かかる観察者が立体的に視認可能な画像である立体画像を提供する。具体的には、第1の実施形態において、ワークステーション130は、ボリュームデータに対して種々の画像処理を行い、視差画像群を生成する。また、ワークステーション130及び端末装置140は、立体視可能なモニタを有し、ワークステーション130にて生成された視差画像群をモニタに表示することで立体画像を利用者に表示する。また、画像保管装置120は、医用画像診断装置110にて生成されたボリュームデータや、ワークステーション130にて生成された視差画像群を保管する。例えば、ワークステーション130や端末装置140は、画像保管装置120からボリュームデータや視差画像群を取得し、取得したボリュームデータや視差画像群に対して任意の画像処理を実行したり、視差画像群をモニタに表示したりする。以下、各装置を順に説明する。
【0012】
医用画像診断装置110は、X線診断装置、X線CT(Computed Tomography)装置、MRI(Magnetic Resonance Imaging)装置、超音波診断装置、SPECT(Single Photon Emission Computed Tomography)装置、PET(Positron Emission computed Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT−CT装置、PET装置とX線CT装置とが一体化されたPET−CT装置、又はこれらの装置群等である。また、第1の実施形態に係る医用画像診断装置110は、3次元の医用画像データ(ボリュームデータ)を生成可能である。
【0013】
具体的には、第1の実施形態に係る医用画像診断装置110は、被検体を撮影することによりボリュームデータを生成する。例えば、医用画像診断装置110は、被検体を撮影することにより投影データやMR信号等のデータを収集し、収集したデータから、被検体の体軸方向に沿った複数のアキシャル面の医用画像データを再構成することで、ボリュームデータを生成する。例えば、医用画像診断装置110は、500枚のアキシャル面の医用画像データを再構成する場合、この500枚のアキシャル面の医用画像データ群が、ボリュームデータとなる。なお、医用画像診断装置110により撮影された被検体の投影データやMR信号等自体をボリュームデータとしても良い。
【0014】
また、第1の実施形態に係る医用画像診断装置110は、生成したボリュームデータを画像保管装置120に送信する。なお、医用画像診断装置110は、ボリュームデータを画像保管装置120に送信する際に、付帯情報として、例えば、患者を識別する患者ID、検査を識別する検査ID、医用画像診断装置110を識別する装置ID、医用画像診断装置110による1回の撮影を識別するシリーズID等を送信する。
【0015】
画像保管装置120は、医用画像を保管するデータベースである。具体的には、第1の実施形態に係る画像保管装置120は、医用画像診断装置110からボリュームデータを受信し、受信したボリュームデータを所定の記憶部に保管する。また、第1の実施形態においては、ワークステーション130が、ボリュームデータから視差画像群を生成し、生成した視差画像群を画像保管装置120に送信する。このため、画像保管装置120は、ワークステーション130から送信された視差画像群を所定の記憶部に保管する。なお、本実施形態は、大容量の画像を保管可能なワークステーション130を用いることで、
図1に例示するワークステーション130と画像保管装置120とが統合される場合であってもよい。すなわち、本実施形態は、ワークステーション130そのものにボリュームデータもしくは視差画像群を記憶させる場合であってもよい。
【0016】
なお、第1の実施形態において、画像保管装置120に保管されたボリュームデータや視差画像群は、患者ID、検査ID、装置ID、シリーズID等と対応付けて保管される。このため、ワークステーション130や端末装置140は、患者ID、検査ID、装置ID、シリーズID等を用いた検索を行うことで、必要なボリュームデータや視差画像群を画像保管装置120から取得する。
【0017】
ワークステーション130は、医用画像に対して画像処理を行う画像処理装置である。具体的には、第1の実施形態に係るワークステーション130は、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行うことで、視差画像群を生成する。
【0018】
また、第1の実施形態に係るワークステーション130は、表示部として、立体画像を表示可能なモニタ(立体表示モニタ、立体画像表示装置とも称する)を有する。ワークステーション130は、視差画像群を生成し、生成した視差画像群を立体表示モニタに表示する。この結果、ワークステーション130の操作者は、立体表示モニタに表示された立体視可能な立体画像を確認しながら、視差画像群を生成するための操作を行うことができる。
【0019】
また、ワークステーション130は、生成した視差画像群を画像保管装置120や端末装置140に送信する。なお、ワークステーション130は、画像保管装置120や端末装置140に視差画像群を送信する際に、付帯情報として、例えば、患者ID、検査ID、装置ID、シリーズID等を送信する。視差画像群を画像保管装置120に送信する際に送信される付帯情報としては、視差画像群に関する付帯情報も挙げられる。視差画像群に関する付帯情報としては、視差画像の枚数(例えば、「9」)や、視差画像の解像度(例えば、「466×350画素」)や、かかる視差画像群の生成元となったボリュームデータによって表される3次元仮想空間に関する情報(ボリューム空間情報)等がある。
【0020】
端末装置140は、病院内に勤務する医師や検査技師に医用画像を閲覧させるための装置である。例えば、端末装置140は、病院内に勤務する医師や検査技師により操作されるPC(Personal Computer)やタブレット式PC、PDA(Personal Digital Assistant)、携帯電話等である。具体的には、第1の実施形態に係る端末装置140は、表示部として立体表示モニタを有する。また、端末装置140は、画像保管装置120から視差画像群を取得し、取得した視差画像群を立体表示モニタに表示する。この結果、観察者である医師や検査技師は、立体視可能な医用画像を閲覧することができる。なお、端末装置140は、外部装置としての立体表示モニタと接続された任意の情報処理端末であってもよい。
【0021】
ここで、ワークステーション130や端末装置140が有する立体表示モニタについて説明する。現在最も普及している一般的な汎用モニタは、2次元画像を2次元で表示するものであり、2次元画像を立体表示することができない。仮に、観察者が汎用モニタにて立体視を要望する場合、汎用モニタに対して画像を出力する装置は、平行法や交差法により観察者が立体視可能な2視差画像を並列表示させる必要がある。又は、汎用モニタに対して画像を出力する装置は、例えば、左目用の部分に赤色のセロハンが取り付けられ、右目用の部分に青色のセロハンが取り付けられたメガネを用いて余色法により観察者が立体視可能な画像を表示する必要がある。
【0022】
一方、立体表示モニタとしては、立体視用メガネ等の専用機器を用いることで、2視差画像(両眼視差画像とも称する)を立体視可能とするものがある。
【0023】
図2は、2視差画像により立体表示を行う立体表示モニタの一例を説明するための図である。
図2に示す一例は、シャッター方式により立体表示を行う立体表示モニタであり、モニタを観察する観察者が装着する立体視用メガネとしてシャッターメガネが用いられる。かかる立体表示モニタは、モニタにて2視差画像を交互に出射する。例えば、
図2の(A)に示すモニタは、左目用の画像と右目用の画像を、120Hzにて交互に出射する。ここで、モニタには、
図2の(A)に示すように、赤外線出射部が設置され、赤外線出射部は、画像が切り替わるタイミングに合わせて赤外線の出射を制御する。
【0024】
また、赤外線出射部から出射された赤外線は、
図2の(A)に示すシャッターメガネの赤外線受光部により受光される。シャッターメガネの左右それぞれの枠には、シャッターが取り付けられており、シャッターメガネは、赤外線受光部が赤外線を受光したタイミングに合わせて左右のシャッターそれぞれの透過状態及び遮光状態を交互に切り替える。以下、シャッターにおける透過状態及び遮光状態の切り替え処理について説明する。
【0025】
各シャッターは、
図2の(B)に示すように、入射側の偏光板と出射側の偏光板とを有し、更に、入射側の偏光板と出射側の偏光板との間に液晶層を有する。また、入射側の偏光板と出射側の偏光板とは、
図2の(B)に示すように、互いに直交している。ここで、
図2の(B)に示すように、電圧が印加されていない「OFF」の状態では、入射側の偏光板を通った光は、液晶層の作用により90度回転し、出射側の偏光板を透過する。すなわち、電圧が印加されていないシャッターは、透過状態となる。
【0026】
一方、
図2の(B)に示すように、電圧が印加された「ON」の状態では、液晶層の液晶分子による偏光回転作用が消失するため、入射側の偏光板を通った光は、出射側の偏光板で遮られてしまう。すなわち、電圧が印加されたシャッターは、遮光状態となる。
【0027】
そこで、例えば、赤外線出射部は、モニタ上に左目用の画像が表示されている期間、赤外線を出射する。そして、赤外線受光部は、赤外線を受光している期間、左目のシャッターに電圧を印加せず、右目のシャッターに電圧を印加させる。これにより、
図2の(A)に示すように、右目のシャッターが遮光状態となり、左目のシャッターが透過状態となるため、観察者の左目に左目用の画像が入射する。一方、赤外線出射部は、モニタ上に右目用の画像が表示されている期間、赤外線の出射を停止する。そして、赤外線受光部は、赤外線が受光されない期間、右目のシャッターに電圧を印加せず、左目のシャッターに電圧を印加させる。これにより、左目のシャッターが遮光状態となり、右目のシャッターが透過状態であるため、観察者の右目に右目用の画像が入射する。このように、
図2に示す立体表示モニタは、モニタに表示される画像とシャッターの状態を連動させて切り替えることで、観察者が立体視可能な画像を表示させる。なお、2視差画像を立体視可能な立体表示モニタとしては、上記のシャッター方式以外にも、偏光メガネ方式を採用したモニタも知られている。
【0028】
更に、近年実用化された立体表示モニタとしては、レンチキュラーレンズ等の光線制御子を用いることで、例えば、9視差画像等の多視差画像を観察者が裸眼にて立体視可能とするものがある。かかる立体表示モニタは、両眼視差による立体視を可能とし、更に、観察者の視点移動に合わせて観察される映像も変化する運動視差による立体視も可能とする。
【0029】
図3は、9視差画像により立体表示を行う立体表示モニタの一例を説明するための図である。
図3に示す立体表示モニタには、液晶パネル等の平面状の表示面200の前面に、光線制御子が配置される。例えば、
図3に示す立体表示モニタには、光線制御子として、光学開口が垂直方向に延びる垂直レンチキュラーシート201が表示面200の前面に貼り付けられている。なお、
図3に示す一例では、垂直レンチキュラーシート201の凸部が前面となるように貼り付けられているが、垂直レンチキュラーシート201の凸部が表示面200に対向するように貼り付けられる場合であってもよい。
【0030】
表示面200には、
図3に示すように、縦横比が3:1であり、縦方向にサブ画素である赤(R)、緑(G)、青(B)の3つが配置された画素202がマトリクス状に配置される。
図3に示す立体表示モニタは、9つの画像により構成される9視差画像を、所定フォーマット(例えば格子状)に配置した中間画像に変換したうえで、表示面200に出力する。すなわち、
図3に示す立体表示モニタは、9視差画像にて同一位置にある9つの画素それぞれを、9列の画素202に割り振って出力させる。9列の画素202は、視点位置の異なる9つの画像を同時に表示する単位画素群203となる。
【0031】
表示面200において単位画素群203として同時に出力された9視差画像は、例えば、LED(Light Emitting Diode)バックライトにより平行光として放射され、更に、垂直レンチキュラーシート201により、多方向に放射される。9視差画像の各画素の光が多方向に放射されることにより、観察者の右目及び左目に入射する光は、観察者の位置(視点の位置)に連動して変化する。すなわち、観察者の見る角度により、右目に入射する視差画像と左目に入射する視差画像とは、視差角が異なる。これにより、観察者は、例えば、
図3に示す9つの位置それぞれにおいて、撮影対象を立体的に視認できる。また、観察者は、例えば、
図3に示す「5」の位置において、撮影対象に対して正対した状態で立体的に視認できるとともに、
図3に示す「5」以外それぞれの位置において、撮影対象の向きを変化させた状態で立体的に視認できる。なお、
図3に示す立体表示モニタは、あくまでも一例である。9視差画像を表示する立体表示モニタは、
図3に示すように、「RRR・・・、GGG・・・、BBB・・・」の横ストライプ液晶である場合であってもよいし、「RGBRGB・・・」の縦ストライプ液晶である場合であってもよい。また、
図3に示す立体表示モニタは、
図3に示すように、レンチキュラーシートが垂直となる縦レンズ方式である場合であってもよいし、レンチキュラーシートが斜めとなる斜めレンズ方式である場合であってもよい。
【0032】
ここまで、第1の実施形態に係る画像処理システム1の構成例について簡単に説明した。なお、上述した画像処理システム1は、PACSが導入されている場合にその適用が限られるものではない。例えば、画像処理システム1は、医用画像が添付された電子カルテを管理する電子カルテシステムが導入されている場合にも、同様に適用される。この場合、画像保管装置120は、電子カルテを保管するデータベースである。また、例えば、画像処理システム1は、HIS(Hospital Information System)、RIS(Radiology Information System)が導入されている場合にも、同様に適用される。また、画像処理システム1は、上述した構成例に限られるものではない。各装置が有する機能やその分担は、運用の形態に応じて適宜変更されてよい。
【0033】
次に、第1の実施形態に係るワークステーションの構成例について
図4を用いて説明する。
図4は、第1の実施形態に係るワークステーションの構成例を説明するための図である。なお、以下において、「視差画像群」とは、ボリュームデータに対してボリュームレンダリング処理を行うことで生成された立体視用の画像群のことである。また、「視差画像」とは、「視差画像群」を構成する個々の画像のことである。すなわち、「視差画像群」は、視点位置が異なる複数の「視差画像」から構成される。
【0034】
第1の実施形態に係るワークステーション130は、画像処理等に適した高性能なコンピュータであり、
図4に示すように、入力部131と、表示部132と、通信部133と、記憶部134と、制御部135と、レンダリング処理部136とを有する。なお、以下では、ワークステーション130が画像処理等に適した高性能なコンピュータである場合を用いて説明するが、これに限定されるものではなく、任意の情報処理装置であってよい。例えば、任意のパーソナルコンピュータであってもよい。
【0035】
入力部131は、マウス、キーボード、トラックボール等であり、ワークステーション130に対する各種操作の入力を操作者から受け付ける。具体的には、第1の実施形態に係る入力部131は、レンダリング処理の対象となるボリュームデータを画像保管装置120から取得するための情報の入力を受け付ける。例えば、入力部131は、患者ID、検査ID、装置ID、シリーズID等の入力を受け付ける。また、第1の実施形態に係る入力部131は、レンダリング処理に関する条件(以下、レンダリング条件)の入力を受け付ける。
【0036】
表示部132は、立体表示モニタとしての液晶パネル等であり、各種情報を表示する。具体的には、第1の実施形態に係る表示部132は、操作者から各種操作を受け付けるためのGUI(Graphical User Interface)や、視差画像群等を表示する。通信部133は、NIC(Network Interface Card)等であり、他の装置との間で通信を行う。
【0037】
記憶部134は、ハードディスク、半導体メモリ素子等であり、各種情報を記憶する。具体的には、第1の実施形態に係る記憶部134は、通信部133を介して画像保管装置120から取得したボリュームデータを記憶する。また、第1の実施形態に係る記憶部134は、レンダリング処理中のボリュームデータや、レンダリング処理により生成された視差画像群等を記憶する。
【0038】
制御部135は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)やGPU(Graphics Processing Unit)等の電子回路、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路であり、ワークステーション130の全体制御を行う。
【0039】
例えば、第1の実施形態に係る制御部135は、表示部132に対するGUIの表示や視差画像群の表示を制御する。また、例えば、制御部135は、画像保管装置120との間で通信部133を介して行われるボリュームデータや視差画像群の送受信を制御する。また、例えば、制御部135は、レンダリング処理部136によるレンダリング処理を制御する。また、例えば、制御部135は、ボリュームデータの記憶部134からの読み込みや、視差画像群の記憶部134への格納を制御する。
【0040】
レンダリング処理部136は、制御部135による制御の下、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行い、視差画像群を生成する。具体的には、第1の実施形態に係るレンダリング処理部136は、記憶部134からボリュームデータを読み込み、このボリュームデータに対して、まず前処理を行う。次に、レンダリング処理部136は、前処理後のボリュームデータに対してボリュームレンダリング処理を行い、視差画像群を生成する。続いて、レンダリング処理部136は、各種情報(目盛り、患者名、検査項目等)が描出された2次元画像を生成し、これを視差画像群それぞれに対して重畳することで、出力用の2次元画像を生成する。そして、レンダリング処理部136は、生成した視差画像群や出力用の2次元画像を記憶部134に格納する。なお、第1の実施形態において、レンダリング処理とは、ボリュームデータに対して行う画像処理全体のことであり、ボリュームレンダリング処理とは、レンダリング処理の内、3次元の情報を反映した2次元画像を生成する処理のことである。レンダリング処理により生成される医用画像とは、例えば、視差画像が該当する。
【0041】
図5は、
図4に示すレンダリング処理部の構成例を説明するための図である。
図5に示すように、レンダリング処理部136は、前処理部1361と、3次元画像処理部1362と、2次元画像処理部1363とを有する。前処理部1361が、ボリュームデータに対する前処理を行い、3次元画像処理部1362が、前処理後のボリュームデータから視差画像群を生成し、2次元画像処理部1363が、視差画像群に各種情報が重畳された出力用の2次元画像を生成する。以下、各部を順に説明する。
【0042】
前処理部1361は、ボリュームデータに対してレンダリング処理を行う際に、種々の前処理を行う処理部であり、画像補正処理部1361aと、3次元物体フュージョン部1361eと、3次元物体表示領域設定部1361fとを有する。
【0043】
画像補正処理部1361aは、2種類のボリュームデータを1つのボリュームデータとして処理する際に画像補正処理を行う処理部であり、
図5に示すように、歪み補正処理部1361b、体動補正処理部1361c及び画像間位置合わせ処理部1361dを有する。例えば、画像補正処理部1361aは、PET−CT装置により生成されたPET画像のボリュームデータとX線CT画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行う。或いは、画像補正処理部1361aは、MRI装置により生成されたT1強調画像のボリュームデータとT2強調画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行う。
【0044】
また、歪み補正処理部1361bは、個々のボリュームデータにおいて、医用画像診断装置110によるデータ収集時の収集条件に起因するデータの歪みを補正する。また、体動補正処理部1361cは、個々のボリュームデータを生成するために用いられたデータの収集時期における被検体の体動に起因する移動を補正する。また、画像間位置合わせ処理部1361dは、歪み補正処理部1361b及び体動補正処理部1361cによる補正処理が行われた2つのボリュームデータ間で、例えば、相互相関法等を用いた位置合わせ(Registration)を行う。
【0045】
3次元物体フュージョン部1361eは、画像間位置合わせ処理部1361dにより位置合わせが行われた複数のボリュームデータをフュージョンさせる。なお、画像補正処理部1361a及び3次元物体フュージョン部1361eの処理は、単一のボリュームデータに対してレンダリング処理を行う場合、省略される。
【0046】
3次元物体表示領域設定部1361fは、操作者により指定された表示対象臓器に対応する表示領域を設定する処理部であり、セグメンテーション処理部1361gを有する。セグメンテーション処理部1361gは、操作者により指定された心臓、肺、血管等の臓器を、例えば、ボリュームデータの画素値(ボクセル値)に基づく領域拡張法により抽出する処理部である。
【0047】
なお、セグメンテーション処理部1361gは、操作者により表示対象臓器が指定されなかった場合、セグメンテーション処理を行わない。また、セグメンテーション処理部1361gは、操作者により表示対象臓器が複数指定された場合、該当する複数の臓器を抽出する。また、セグメンテーション処理部1361gの処理は、レンダリング画像を参照した操作者の微調整要求により再度実行される場合もある。
【0048】
3次元画像処理部1362は、前処理部1361が処理を行った前処理後のボリュームデータに対してボリュームレンダリング処理を行う。ボリュームレンダリング処理を行う処理部として、3次元画像処理部1362は、投影方法設定部1362aと、3次元幾何変換処理部1362bと、3次元物体アピアランス処理部1362fと、3次元仮想空間レンダリング部1362kとを有する。
【0049】
投影方法設定部1362aは、視差画像群を生成するための投影方法を決定する。例えば、投影方法設定部1362aは、ボリュームレンダリング処理を平行投影法により実行するか、透視投影法により実行するかを決定する。
【0050】
3次元幾何変換処理部1362bは、ボリュームレンダリング処理が実行されるボリュームデータを3次元幾何学的に変換するための情報を決定する処理部であり、平行移動処理部1362c、回転処理部1362d及び拡大縮小処理部1362eを有する。平行移動処理部1362cは、ボリュームレンダリング処理を行う際の視点位置が平行移動された場合に、ボリュームデータを平行移動させる移動量を決定する処理部であり、回転処理部1362dは、ボリュームレンダリング処理を行う際の視点位置が回転移動された場合に、ボリュームデータを回転移動させる移動量を決定する処理部である。また、拡大縮小処理部1362eは、視差画像群の拡大や縮小が要求された場合に、ボリュームデータの拡大率や縮小率を決定する処理部である。
【0051】
3次元物体アピアランス処理部1362fは、3次元物体色彩処理部1362g、3次元物体不透明度処理部1362h、3次元物体材質処理部1362i及び3次元仮想空間光源処理部1362jを有する。3次元物体アピアランス処理部1362fは、これらの処理部により、例えば、操作者の要求に応じて、表示される視差画像群の表示状態を決定する処理を行う。
【0052】
3次元物体色彩処理部1362gは、ボリュームデータにてセグメンテーションされた各領域に対して着色される色彩を決定する処理部である。3次元物体不透明度処理部1362hは、ボリュームデータにてセグメンテーションされた各領域を構成する各ボクセルの不透過度(Opacity)を決定する処理部である。なお、ボリュームデータにおいて不透過度が「100%」とされた領域の後方の領域は、視差画像群において描出されないこととなる。また、ボリュームデータにおいて不透過度が「0%」とされた領域は、視差画像群において描出されないこととなる。
【0053】
3次元物体材質処理部1362iは、ボリュームデータにてセグメンテーションされた各領域の材質を決定することで、この領域が描出される際の質感を調整する処理部である。3次元仮想空間光源処理部1362jは、ボリュームデータに対してボリュームレンダリング処理を行う際に、3次元仮想空間に設置する仮想光源の位置や、仮想光源の種類を決定する処理部である。仮想光源の種類としては、無限遠から平行光線を照射する光源や、視点から放射状の光線を照射する光源等が挙げられる。
【0054】
3次元仮想空間レンダリング部1362kは、ボリュームデータに対してボリュームレンダリング処理を行い、視差画像群を生成する。また、3次元仮想空間レンダリング部1362kは、ボリュームレンダリング処理を行う際、必要に応じて、投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fにより決定された各種情報を用いる。
【0055】
ここで、3次元仮想空間レンダリング部1362kによるボリュームレンダリング処理は、レンダリング条件に従って行われることになる。例えば、レンダリング条件は、「平行投影法」又は「透視投影法」である。また、例えば、レンダリング条件は、「基準の視点位置、視差角及び視差数」である。また、例えば、レンダリング条件は、「視点位置の平行移動」、「視点位置の回転移動」、「視差画像群の拡大」、「視差画像群の縮小」である。また、例えば、レンダリング条件は、「着色される色彩」、「透過度」、「質感」、「仮想光源の位置」、「仮想光源の種類」である。このようなレンダリング条件は、入力部131を介して操作者から受け付ける場合や、初期設定される場合が考えられる。いずれの場合も、3次元仮想空間レンダリング部1362kは、制御部135からレンダリング条件を受け付け、このレンダリング条件に従って、ボリュームデータに対するボリュームレンダリング処理を行う。また、このとき、上述した投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fが、このレンダリング条件に従って必要な各種情報を決定するので、3次元仮想空間レンダリング部1362kは、決定されたこれらの各種情報を用いて視差画像群を生成する。
【0056】
図6は、第1の実施形態に係るボリュームレンダリング処理の一例を説明するための図である。例えば、3次元仮想空間レンダリング部1362kが、
図6の「9視差画像生成方式(1)」に示すように、レンダリング条件として、平行投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。かかる場合、3次元仮想空間レンダリング部1362kは、視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に平行移動して、平行投影法により視差角(視線方向間の角度)が1度ずつ異なる9つの視差画像を生成する。なお、平行投影法を行う場合、3次元仮想空間レンダリング部1362kは、視線方向に沿って無限遠から平行光線を照射する光源を設定する。
【0057】
或いは、3次元仮想空間レンダリング部1362kが、
図6の「9視差画像生成方式(2)」に示すように、レンダリング条件として、透視投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。かかる場合、3次元仮想空間レンダリング部1362kは、ボリュームデータの中心(重心)を中心に視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に回転移動して、透視投影法により視差角が1度ずつ異なる9つの視差画像を生成する。なお、透視投影法を行う場合、3次元仮想空間レンダリング部1362kは、視線方向を中心に光を3次元的に放射状に照射する点光源や面光源を各視点にて設定する。また、透視投影法を行う場合、レンダリング条件によっては、視点(1)〜(9)は、平行移動される場合であってもよい。
【0058】
なお、3次元仮想空間レンダリング部1362kは、表示されるボリュームレンダリング画像の縦方向に対しては、視線方向を中心に光を2次元的に放射状に照射し、表示されるボリュームレンダリング画像の横方向に対しては、視線方向に沿って無限遠から平行光線を照射する光源を設定することで、平行投影法と透視投影法とを併用したボリュームレンダリング処理を行ってもよい。
【0059】
このようにして生成された9つの視差画像が、視差画像群である。第1の実施形態において、9つの視差画像は、例えば制御部135により所定フォーマット(例えば格子状)に配置した中間画像に変換され、立体表示モニタとしての表示部132に出力される。すると、ワークステーション130の操作者は、立体表示モニタに表示された立体視可能な医用画像を確認しながら、視差画像群生成のための操作を行うことができる。
【0060】
なお、
図6の例では、レンダリング条件として、投影方法、基準の視点位置及び視差角を受け付けた場合を説明したが、レンダリング条件として、他の条件を受け付けた場合も同様に、3次元仮想空間レンダリング部1362kは、それぞれのレンダリング条件を反映しつつ、視差画像群を生成する。
【0061】
また、3次元仮想空間レンダリング部1362kは、ボリュームレンダリングだけでなく、断面再構成法(MPR:Multi Planer Reconstruction)を行ってボリュームデータからMPR画像を再構成する機能も有する。なお、3次元仮想空間レンダリング部1362kは、「Curved MPR」を行う機能や、「Intensity Projection」を行う機能も有する。
【0062】
続いて、3次元画像処理部1362がボリュームデータから生成した視差画像群は、アンダーレイ(Underlay)とされる。そして、各種情報(目盛り、患者名、検査項目等)が描出されたオーバーレイ(Overlay)がアンダーレイに対して重畳されることで、出力用の2次元画像とされる。2次元画像処理部1363は、オーバーレイ及びアンダーレイに対して画像処理を行うことで、出力用の2次元画像を生成する処理部であり、
図5に示すように、2次元物体描画部1363a、2次元幾何変換処理部1363b及び輝度調整部1363cを有する。例えば、2次元画像処理部1363は、出力用の2次元画像の生成処理に要する負荷を軽減するために、9枚の視差画像(アンダーレイ)のそれぞれに対して1枚のオーバーレイを重畳することで、出力用の2次元画像を9枚、生成する。なお、以下では、オーバーレイが重畳されたアンダーレイを単に「視差画像」と表記する場合もある。
【0063】
2次元物体描画部1363aは、オーバーレイに描出される各種情報を描画する処理部であり、2次元幾何変換処理部1363bは、オーバーレイに描出される各種情報の位置を平行移動処理又は回転移動処理したり、オーバーレイに描出される各種情報の拡大処理又は縮小処理したりする処理部である。
【0064】
また、輝度調整部1363cは、輝度変換処理を行う処理部であり、例えば、出力先の立体表示モニタの諧調や、ウィンドウ幅(WW:Window Width)、ウィンドウレベル(WL:Window Level)等の画像処理用のパラメータに応じて、オーバーレイ及びアンダーレイの輝度を調整する処理部である。
【0065】
制御部135は、例えば、このようにして生成された出力用の2次元画像を、一旦記憶部134に格納し、その後、通信部133を介して画像保管装置120に送信する。そして、端末装置140は、例えば、画像保管装置120からこの出力用の2次元画像を取得し、所定フォーマット(例えば格子状)に配置した中間画像に変換した上で立体表示モニタに表示する。また、例えば、制御部135は、出力用の2次元画像を、一旦記憶部134に格納し、その後、通信部133を介して画像保管装置120に送信するとともに、端末装置140に送信する。そして、端末装置140は、ワークステーション130から受信した出力用の2次元画像を所定フォーマット(例えば格子状)に配置した中間画像に変換した上で立体表示モニタに表示する。これにより、端末装置140を利用する医師や検査技師は、各種情報(目盛り、患者名、検査項目等)が描出された状態で、立体視可能な医用画像を閲覧することができる。
【0066】
このように、上述してきた立体表示モニタは、視差画像群を表示することにより、観察者が立体視可能な立体画像を提供する。例えば、医師等の観察者は、切開手術(開頭手術、開胸手術、開腹手術等)を行う前に立体画像を観察することにより、血管、脳、心臓、肺等の各種臓器の3次元的な位置関係を把握することができる。しかし、被検体内の各種臓器は、骨(頭蓋骨、肋骨等)や筋肉等に囲まれており、人体内に密閉されているといえる。したがって、脳は、開頭された場合に、体外にやや膨張して開頭部分より盛り上がることがある。同様に、肺、心臓、腸や肝臓等の臓器は、開胸や開腹された場合には、体外にやや膨張することがある。このため、術前の被検体を撮影して生成された立体画像は、術中(例えば、開頭後、開胸後、開腹後)における被検体内の状態と一致するとは限らない。この結果、医師等は、術前に各種臓器の3次元的な位置関係を正確に把握することが困難である。
【0067】
そこで、第1の実施形態では、術中(例えば、開頭後、開胸後、開腹後)における被検体内の状態を推定することで、術中の被検体内の状態を示す立体画像を表示可能にする。この点について、
図7を用いて簡単に説明する。
図7は、第1の実施形態における画像処理システムによる処理の一例を説明するための図である。なお、第1の実施形態では、ワークステーション130が、開頭後における被検体内の状態を推定した上で視差画像群を生成し、端末装置140が、ワークステーション130によって生成された視差画像群を表示する場合を例に挙げて説明する。
【0068】
図7(A)に示した例のように、第1の実施形態における端末装置140は、立体表示モニタ142を有し、ワークステーション130によって生成された視差画像群を立体表示モニタ142に表示する。ここでは、端末装置140は、被検体の頭部を示す視差画像群を立体表示モニタ142に表示する。これにより、端末装置140の観察者は、被検体の頭部を示す立体画像I11を立体視することができる。そして、端末装置140は、観察者から、立体画像I11のうち開頭する領域である切開領域の指定を受け付ける。ここでは、端末装置140は、
図7(A)に示した切開領域K11を受け付けるものとする。かかる場合に、端末装置140は、切開領域K11をワークステーション130に送信する。
【0069】
ワークステーション130は、端末装置140から切開領域K11を受信した場合に、開頭後における頭部内部の状態を推定する。具体的には、ワークステーション130は、開頭部位K11により開頭された場合における頭部内部の脳や血管等の位置変動を推定する。そして、ワークステーション130は、かかる推定結果に基づいて、脳や血管等の位置を変動させた後のボリュームデータを生成し、かかるボリュームデータに対してレンダリング処理を行うことにより、新たな視差画像群を生成する。そして、ワークステーション130は、新たに生成した視差画像群を端末装置140に送信する。
【0070】
端末装置140は、ワークステーション130から受信した視差画像群を立体表示モニタ142に表示することで、
図7(B)に示した例のように、開頭後における被検体の頭部を示す立体画像I12を表示する。これにより、医師等の観察者は、開頭後における頭部内部の状態を立体視することができ、この結果、開頭することで位置変動した脳や血管等の位置関係を術前に把握することが可能になる。
【0071】
以下に、このような第1の実施形態におけるワークステーション130及び端末装置140について詳細に説明する。なお、第1の実施形態では、医用画像診断装置110がX線CT装置である場合を例に挙げて説明する。ただし、医用画像診断装置110は、MRI装置や超音波診断装置であってもよく、以下の説明で記載するCT値は、パルスシーケンス毎に対応付けられたMR信号の強度や、超音波の反射波データ等であってもよい。
【0072】
まず、
図8を用いて、第1の実施形態における端末装置140について説明する。
図8は、第1の実施形態における端末装置140を説明するための図である。
図8に例示するように、第1の実施形態における端末装置140は、入力部141と、立体表示モニタ142と、通信部143と、記憶部144と、制御部145とを有する。
【0073】
入力部141は、マウスやトラックボール等のポインティングデバイスや、キーボード等の情報入力デバイスであり、端末装置140に対する各種操作の入力を操作者から受け付ける。例えば、入力部141は、立体視要求として、操作者が立体視を要望するボリュームデータを指定するための患者ID、検査ID、装置ID、シリーズID等の入力を受け付ける。また、第1の実施形態における入力部141は、立体表示モニタ142に立体画像が表示されている状態において、切開(開頭、開胸、開腹等)を行う領域である切開領域の設定を受け付ける。
【0074】
立体表示モニタ142は、液晶パネル等であり、各種情報を表示する。具体的には、第1の実施形態に係る立体表示モニタ142は、操作者から各種操作を受け付けるためのGUI(Graphical User Interface)や、視差画像群等を表示する。例えば、立体表示モニタ142は、
図2を用いて説明した立体表示モニタ(以下、2視差モニタと記載する)や、
図6を用いて説明した立体表示モニタ(以下、9視差モニタと記載する)である。以下では、立体表示モニタ142が9視差モニタである場合について説明する。
【0075】
通信部143は、NIC(Network Interface Card)等であり、他の装置との間で通信を行う。具体的には、第1の実施形態に係る通信部143は、入力部141が受け付けた立体視要求をワークステーション130に送信する。また、第1の実施形態に係る通信部143は、立体視要求に応じてワークステーション130が送信した視差画像群を受信する。
【0076】
記憶部144は、ハードディスク、半導体メモリ素子等であり、各種情報を記憶する。具体的には、第1の実施形態に係る記憶部144は、通信部143を介してワークステーション130から取得した視差画像群を記憶する。また、記憶部144は、通信部143を介してワークステーション130から取得した視差画像群の付帯情報(視差数、解像度、ボリューム空間情報等)も記憶する。
【0077】
制御部145は、CPU、MPUやGPU等の電子回路、ASICやFPGA等の集積回路であり、端末装置140の全体制御を行う。例えば、制御部145は、ワークステーション130との間で通信部143を介して行われる立体視要求や視差画像群の送受信を制御する。また、例えば、制御部145は、視差画像群の記憶部144への格納や、視差画像群の記憶部144からの読み込みを制御する。
【0078】
かかる制御部145は、
図8に例示するように、表示制御部1451と、受付部1452とを有する。表示制御部1451は、ワークステーション130から受信した視差画像群を立体表示モニタ142に表示させる。これにより、立体表示モニタ142には視差画像群が表示され、かかる立体表示モニタ142の観察者は、立体視可能な立体画像を観察することができる。
【0079】
受付部1452は、立体表示モニタ142に表示されている立体画像の切開領域の設定を受け付ける。具体的には、第1の実施形態における受付部1452は、ポインティングデバイス等の入力部141を用いて立体画像の所定の領域が切開領域として指定された場合に、立体画像が表示されている3次元空間(以下、「立体画像空間」と表記する場合がある)における切開領域の座標を入力部141から受け付ける。そして、受付部1452は、後述する座標変換式を用いて、立体画像空間における切開領域の座標をボリュームデータが配置される空間(以下、「ボリュームデータ空間」と表記する場合がある)における座標に変換する。そして、受付部1452は、ボリュームデータ空間における切開領域の座標をワークステーション130に送信する。
【0080】
なお、受付部1452は、上述したように、ワークステーション130から視差画像群に関する付帯情報として、視差画像群の生成元となったボリュームデータが配置される3次元空間に関するボリューム空間情報を取得する。受付部1452は、かかるボリューム空間情報が示す3次元空間を上記のボリュームデータ空間とする。
【0081】
ここで、立体画像空間とボリュームデータ空間とでは座標系が異なるので、受付部1452は、所定の座標変換式を用いて、立体画像空間に対応するボリュームデータ空間の座標を取得する。以下に、
図9を用いて、立体画像空間とボリュームデータ空間との対応関係について説明する。
図9は、立体画像空間とボリュームデータ空間との対応関係の一例を示す図である。
図9(A)は、ボリュームデータを示し、
図9(B)は、立体表示モニタ142によって表示される立体画像を示す。また、
図9(A)における座標301と座標302と距離303とは、それぞれ、
図9(B)における座標304と座標305と距離306とに対応する。
【0082】
図9に示すように、ボリュームデータが配置されるボリュームデータ空間と、立体画像が表示されている立体画像空間とは、座標系が異なる。具体的には、
図9(B)に示す立体画像は、
図9(A)に示すボリュームデータと比較して、奥行き方向(z方向)が狭くなっている。言い換えると、
図9(B)に示した立体画像では、
図9(A)に示されたボリュームデータの奥行き方向の成分が、圧縮された上で表示されている。この場合、
図9(B)に示すように、座標304と座標305との間の距離306は、
図9(A)における座標301と座標302との間の距離303と比較して、圧縮される分短くなる。
【0083】
このような立体画像空間座標とボリュームデータ空間座標との対応関係は、立体画像のスケールや視差角、視線方向(レンダリング時の視線方向、又は、立体画像観察時の視線方向)等により一意に決定され、例えば、以下の(数1)のような形で表現することが可能となる。
【0084】
(数1)=(x1、y1、z1)=F(x2、y2、z2)
【0085】
(数1)において、「x2」「y2」「z2」は、それぞれ、立体画像空間座標を示す。また、「x1」「y1」「z1」は、それぞれ、ボリュームデータ空間座標を示す。また、関数「F」は、立体画像のスケールや視野角、視線方向等により一意に決定される関数である。すなわち、受付部1452は、(数1)を用いることで、立体画像空間座標とボリュームデータ空間座標との対応関係を取得することができる。なお、関数「F」は、立体画像のスケールや視野角、視線方向(レンダリング時の視線方向、又は、立体画像観察時の視線方向)等が変更されるごとに受付部1452により生成される。例えば、回転、平行移動、拡大、縮小を変換する関数「F」として(数2)に示したアフィン変換が用いられる。
【0086】
(数2)
x1=a*x2+b*y2+c*z3+d
y1=e*x2+f*y2+g*z3+h
z1=i*x2+j*y2+k*z3+l
(a〜lは変換係数)
【0087】
なお、上述した説明では、受付部1452が、関数「F」に基づいてボリュームデータ空間の座標を取得する例を示したが、これに限定されるものではない。例えば、端末装置140が、立体画像空間座標とボリュームデータ空間座標とが対応付けられたテーブルである座標テーブルを有し、受付部1452が、立体画像空間座標を検索キーとして座標テーブルを検索することで、立体画像空間座標に対応するボリュームデータ空間座標を取得してもよい。
【0088】
次に、
図10を用いて、第1の実施形態におけるワークステーション130が有する制御部135について説明する。
図10は、第1の実施形態における制御部135の構成例を説明するための図である。
図10に例示するように、ワークステーション130の制御部135は、推定部1351と、レンダリング制御部1352と、表示制御部1353とを有する。
【0089】
推定部1351は、術中(例えば、開頭後、開胸後、開腹後)における被検体内の状態を推定する。具体的には、第1の実施形態における推定部1351は、端末装置140の受付部1452からボリュームデータ空間における切開領域の座標を受信した場合に、端末装置140の立体表示モニタ142に表示されている視差画像群の生成元となったボリュームデータに含まれる各ボクセルの位置変動を推定する。
【0090】
より具体的に説明すると、推定部1351は、受付部1452から受信した切開領域の座標に位置するボリュームデータ内のボクセルのうち、被検体の表面部位(皮膚、頭蓋骨、筋肉等)を示すボクセルを取り除く。例えば、推定部1351は、かかる表面部位を示すボクセルのCT値を、空気を示すCT値に置き換える。そして、推定部1351は、表面部位を取り除いた後に、以下に示す各種パラメータ(X1)〜(X7)等に基づいて、ボリュームデータ内の各ボクセルの位置変動を推定する。なお、ここでいう「位置変動」とは、ボクセルの移動ベクトル(移動方向及び移動量)と膨張率とを含む。
【0091】
(X1)表面部位から臓器等に加わっている圧力(内圧)
(X2)CT値
(X3)切開領域の大きさ
(X4)切開領域との距離
(X5)隣接するボクセルのCT値
(X6)血流速、血流量、血圧
(X7)被検体情報
【0092】
上記(X1)について説明する。被検体内の各種臓器は、被検体の表面に存在する骨や筋肉等の表面部位に囲まれており、かかる表面部位から圧力を受ける。例えば、開頭前の脳は頭蓋骨に囲まれており、頭蓋骨からの圧力を受けている状態である。上記(X1)は、被検体内部に加わっている圧力(以下、「内圧」と表記する場合がある)を示し、上記例の場合には、頭蓋骨が存在することで脳に加わる圧力を示す。被検体内の各種臓器は、表面部位が取り除かれた場合に、かかる表面部位から内圧を受けなくなるので、取り除かれた表面部位の方向に移動しやすく更に膨張しやすい。このようなことから、推定部1351は、各ボクセルの位置変動を推定する際に、上記(X1)内圧を用いる。なお、各部位(ボクセル)に加わる内圧は、各部位(ボクセル)と表面部位との距離や、表面部位の硬さ等に基づいて予め算出される。
【0093】
また、上記(X2)について説明する。CT値は、臓器の特性を示す値であり、例えば、臓器の硬さを示す。一般には、CT値が高い臓器ほど、硬い臓器であることを示す。ここで、硬い臓器ほど移動しにくく膨張しにくいので、CT値の高低は、各種臓器の移動量や膨張率の指標となる。このようなことから、推定部1351は、各ボクセルの位置変動を推定する際に、上記(X2)CT値を用いる。
【0094】
また、上記(X3)について説明する。切開領域の大きさは、上記(X1)内圧に乗算されることにより、被検体内の各種臓器に加わる力の総和となる。一般には、切開領域が大きいほど、被検体内の各種臓器の移動量及び膨張率は大きくなると考えられる。このようなことから、推定部1351は、各ボクセルの位置変動を推定する際に、上記(X3)切開領域の大きさを用いる。
【0095】
また、上記(X4)について説明する。切開領域との距離が近い臓器ほど、上記(X1)内圧の影響を大きく受け、切開領域との距離が遠い臓器ほど、上記(X1)内圧の影響を受けにくくなる。すなわち、開頭等がされた場合における臓器の移動量及び膨張率は、切開領域との距離によって異なる。このようなことから、推定部1351は、各ボクセルの位置変動を推定する際に、上記(X4)切開領域との距離を用いる。
【0096】
また、上記(X5)について説明する。移動しやすい臓器であっても、隣接する部位に骨等の硬い部位が存在する場合には、かかる臓器は移動しにくくなる。例えば、開頭が行われた部位と移動推定対象の臓器との間に硬い部位が存在する場合には、かかる移動推定対象の臓器は、移動しにくく更に膨張しにくい。このようなことから、推定部1351は、各ボクセルの位置変動を推定する際に、上記(X5)隣接するボクセルのCT値を用いる。
【0097】
また、上記(X6)について説明する。血管は、血流速(血液の流れる速度)や血流量(血液の流れる量)や血圧によって移動量や膨張率が変動する。例えば、開頭が行われた場合、血流速が速く、血流量が多く、血圧が高い血管ほど、開頭部から外部方向へ移動しやすい。このようなことから、推定部1351は、各ボクセルのうち、血管の位置変動を推定する際に、上記(X6)血流速、血流量、血圧を用いてもよい。
【0098】
また、上記(X7)について説明する。各臓器は被検体(患者)の特性によって移動量や膨張率が変動する。例えば、被検体の年齢、性別、体重、体脂肪率等の被検体情報によって、各臓器における移動量や膨張率の平均値等が得られる。このようなことから、推定部1351は、上記(X7)被検体情報を用いて、各ボクセルの移動量や膨張率に重み付けをしてもよい。
【0099】
第1の実施形態における推定部1351は、上述したような各種パラメータ(X1)〜(X7)等を変数とする関数を用いて、ボリュームデータ内の各ボクセルの移動ベクトル及び膨張率を推定する。
【0100】
ここで、
図11を用いて、推定部1351による推定処理の一例を説明する。
図11は、第1の実施形態における推定部1351による推定処理の一例を説明するための図である。
図11に示した例において、ワークステーション130は、レンダリング処理部136によってボリュームデータVD10から生成された視差画像群を端末装置140に送信する。すなわち、端末装置140は、ボリュームデータVD10から生成された視差画像群を立体表示モニタ142に表示し、かかる視差画像群によって表示される立体画像に対して切開領域を受け付ける。ここでは、端末装置140は、
図11に示した切開領域K11を受け付けたものとする。かかる場合に、ワークステーション130の推定部1351は、ボリュームデータVD10に含まれる各ボクセルの移動ベクトル及び膨張率を推定する。
図11(B)には、全てのボクセルを図示せずに、ボリュームデータVD10のうちボリュームデータVD11を例に挙げて、推定部1351による推定処理について説明する。
【0101】
図11(B)に示した例において、1個の矩形は、1個のボクセルを示す。また、斜線が付されている矩形(ボクセル)は、頭蓋骨であるものとする。ここでは、切開領域K11を受け付けたので、推定部1351は、斜線付きボクセルのうち、
図11(B)に示した切開領域K11よりも上に配置されているボクセルを空気等のCT値に置き換える。そして、推定部1351は、上述したパラメータ(X1)〜(X7)等により算出される移動推定用の関数を用いて、各ボクセルの移動ベクトル及び膨張率を推定する。例えば、推定部1351は、各ボクセルについて、空気等のCT値に置き換える前のボクセルから受ける内圧等を用いて移動推定用の関数を算出したりする。
図11(B)に示した例では、推定部1351は、取り除かれた表面部位の方向にボクセル全体が移動することを推定している。また、推定部1351は、斜線付きボクセル(頭蓋骨)に近いボクセルほど移動量が大きく、斜線付きボクセル(頭蓋骨)に遠いボクセルほど移動量が小さくなることを推定している。なお、
図11に示した例では、各ボクセルがxy平面に対して平行移動するようにも見えるが、推定部1351は、実際には、各ボクセルの移動方向を3次元に推定する。
【0102】
このようにして、推定部1351は、ボリュームデータVD11だけでなく、ボリュームデータVD10に含まれる各ボクセルについて移動ベクトルを推定する。さらに、
図11には図示することを省略したが、推定部1351は、各ボクセルの膨張率についても推定する。
【0103】
図10の説明に戻って、レンダリング制御部1352は、レンダリング処理部136と協働してボリュームデータから視差画像群を生成する。具体的には、第1の実施形態におけるレンダリング制御部1352は、推定部1351による推定結果に基づいて、ボリュームデータを生成し、生成したボリュームデータに対してレンダリング処理を行うようにレンダリング処理部136を制御する。このとき、レンダリング制御部1352は、端末装置140の立体表示モニタ142に表示されている視差画像群の生成元となったボリュームデータに対して、推定部1351によって推定された各ボクセルの移動ベクトル及び膨張率を反映することにより、新たなボリュームデータを生成する。なお、以下では、推定結果が反映されたボリュームデータを「仮想ボリュームデータ」と表記する場合がある。
【0104】
ここで、
図11を用いて、レンダリング制御部1352による仮想ボリュームデータの生成処理の一例を説明する。
図11(B)に示した例において、ボクセルV10に注目すると、推定部1351は、ボクセルV10がボクセルV11とボクセルV12との間の位置に移動することを推定している。また、ここでは、推定部1351は、ボクセルV10の膨張率として「2倍(200%)」を推定したものとする。かかる場合に、レンダリング制御部1352は、ボクセルV10をボクセルV11とボクセルV12との間の位置に配置するとともに、ボクセルV10のサイズを2倍にする。例えば、レンダリング制御部1352は、ボクセルV10をボクセルV11及びボクセルV12に配置する。このようにして、レンダリング制御部1352は、推定部1351による推定結果に基づいて、各ボクセルの配置を変更することにより、仮想ボリュームデータを生成する。
【0105】
図10の説明に戻って、表示制御部1353は、レンダリング処理部136によって生成される視差画像群を端末装置140に送信することで、立体表示モニタ142に視差画像群を表示させる。また、第1の実施形態における表示制御部1353は、レンダリング制御部1352によって制御された結果、レンダリング処理部136によって新たな視差画像群が生成された場合には、かかる視差画像群を端末装置140に送信する。これにより、端末装置140は、例えば
図7(B)に示したように、開頭後における頭部内部を示す立体画像I12等を立体表示モニタ142に表示する。
【0106】
次に、
図12を用いて、第1の実施形態におけるワークステーション130及び端末装置140による処理の流れの一例を示す。
図12は、第1の実施形態における画像処理システムによる処理の流れの一例を示すシーケンス図である。
【0107】
図12に示すように、端末装置140は、観察者から立体視要求が入力されたか否かを判定する(ステップS101)。ここで、立体視要求が入力されない場合には(ステップS101否定)、端末装置140は、待機する。
【0108】
一方、端末装置140は、立体視要求が入力された場合には(ステップS101肯定)、かかる立体視要求に対応する視差画像群をワークステーション130から取得する(ステップS102)。そして、表示制御部1451は、ワークステーション130から取得した視差画像群を立体表示モニタ142に表示する(ステップS103)。
【0109】
続いて、端末装置140の受付部1452は、立体表示モニタ142に表示されている立体画像に対する切開領域の設定を受け付けたか否かを判定する(ステップS104)。ここで、切開領域の設定を受け付けない場合には(ステップS104否定)、受付部1452は、切開領域の設定を受け付けるまで待機する。
【0110】
一方、受付部1452は、切開領域の設定を受け付けた場合には(ステップS104肯定)、上述した関数「F」を用いて、立体画像空間における切開領域の座標に対応するボリュームデータ空間の座標を取得し、取得したボリュームデータ空間における切開領域の座標をワークステーション130に送信する(ステップS105)。
【0111】
続いて、ワークステーション130の推定部1351は、端末装置140から受信した切開領域の座標に位置する被検体の表面部位を示すボクセルを取り除き、上記の各種パラメータ(X1)〜(X7)等に基づいて、ボリュームデータ内の各ボクセルの位置変動(移動ベクトル及び膨張率)を推定する(ステップS106)。
【0112】
続いて、レンダリング制御部1352は、推定部1351によって推定された各ボクセルの移動ベクトル及び膨張率をボリュームデータに反映することにより、仮想ボリュームデータを生成する(ステップS107)。そして、レンダリング制御部1352は、仮想ボリュームデータに対してレンダリング処理を行うようにレンダリング処理部136を制御することで視差画像群を生成する(ステップS108)。そして、表示制御部1353は、レンダリング処理部136によって生成された視差画像群を端末装置140に送信する(ステップS109)。
【0113】
端末装置140の表示制御部1451は、ワークステーション130から受信した視差画像群を立体表示モニタ142に表示する(ステップS110)。これにより、立体表示モニタ142は、開頭後における立体画像を表示することができる。
【0114】
上述してきたように、第1の実施形態によれば、切開後における被検体内部の状態を示す立体画像を表示することができる。この結果、医師等の観察者は、切開(開頭、開胸、開腹等)により位置変動する各種臓器の位置関係を術前に把握することができる。また、医師等の観察者は、例えば、切開領域の位置や大きさを変更することで、各切開領域に対応する被検体内部の状態を確認することができ、この結果、手術に適した切開領域の位置や大きさを術前に決定することができる。
【0115】
なお、第1の実施形態は、上記の実施形態に限られず、以下に示すいくつかの変形例を含む態様の実施形態であってもよい。以下に、第1の実施形態の変形例について説明する。
【0116】
[切開領域の自動設定]
上記第1の実施形態において、ワークステーション130は、観察者に指定された切開領域に基づいて、各種臓器の移動ベクトル及び膨張率を推定した。しかし、ワークステーション130は、切開領域をランダムに設定し、各切開領域において上述した推定部1351による推定処理を行い、各切開領域に対応する視差画像群を端末装置140に送信してもよい。そして、端末装置140は、ワークステーション130から受信した複数の視差画像群を並列的に立体表示モニタ142に表示してもよい。
【0117】
また、ワークステーション130は、ランダムに設定した各切開領域のうち、移動量及び膨張率の平均値が所定の閾値よりも低い切開領域を選択し、選択した切開領域に対応する視差画像群を端末装置140に送信してもよい。これにより、医師等の観察者は、開頭等を行っても各種臓器の移動量及び膨張率が小さい切開領域を得ることができる。
【0118】
[臓器毎の移動推定]
上記第1の実施形態では、ボクセル毎に移動ベクトル及び膨張率を推定する例を示した。しかし、ワークステーション130は、ボリュームデータに対してセグメンテーション処理を行うことで、かかるボリュームデータに含まれる心臓、肺、血管等の臓器を抽出し、抽出した臓器単位で移動ベクトル及び膨張率を推定してもよい。そして、ワークステーション130は、仮想ボリュームデータを生成する場合に、同一の臓器を示すボクセル群を隣接する位置に配置するように制御してもよい。すなわち、ワークステーション130は、仮想ボリュームデータを生成する際には、同一の臓器である立体画像が分断しないように各ボクセルを配置する。
【0119】
[並列表示]
また、上記第1の実施形態において、端末装置140の表示制御部1451は、実際の被検体内を示す立体画像と、位置変動の推定結果が反映された立体画像とを並列表示してもよい。例えば、表示制御部1451は、
図7に例示した立体画像I11と立体画像I12とを並列に表示してもよい。これにより、観察者は、術前及び術中における被検体内の状態を比較して観察することが可能になる。このような並列表示は、ワークステーション130が、立体画像I11を表示するための視差画像群と、立体画像I12を表示するための視差画像群とを端末装置140に送信することで実現できる。
【0120】
[特定表示1]
また、上記第1の実施形態において、レンダリング制御部1352は、推定部1351によって移動又は膨張することが推定されたボクセル群のみを抽出し、抽出したボクセル群によって形成されるボリュームデータ(以下、「特定ボリュームデータ」と表記する場合がある)から視差画像群を生成してもよい。かかる場合に、端末装置140の立体表示モニタ142は、移動又は膨張することが推定された部位のみを示す立体画像を表示することになる。これにより、観察者は、移動又は膨張する部位を容易に発見することができる。
【0121】
[特定表示2]
また、レンダリング制御部1352は、推定結果反映前のボリュームデータから生成した視差画像群と、特定ボリュームデータから生成した視差画像群とを重畳させてもよい。かかる場合に、端末装置140の立体表示モニタ142は、開頭前の被検体内の状態と開頭後の被検体内の状態とが重畳された立体画像を表示することになる。これにより、観察者は、移動又は膨張する部位を容易に発見することができる。
【0122】
[特定表示3]
また、レンダリング制御部1352は、推定部1351によって移動又は膨張することが推定されたボクセルに対して、通常と異なる色彩を着色してもよい。このとき、レンダリング制御部1352は、移動量や膨張量に応じて着色する色彩を変動させてもよい。かかる場合に、端末装置140の立体表示モニタ142は、移動又は膨張することが推定された部位のみに通常と異なる色彩が着色された立体画像を表示することになる。これにより、観察者は、移動又は膨張する部位を容易に発見することができる。
【0123】
(第2の実施形態)
上記第1の実施形態では、開頭等に伴う各種臓器の位置変動を推定する例を説明した。言い換えれば、第1の実施形態では、もともと加わっていた内圧が開放された場合における各種臓器の位置変動を推定する例を示した。ここで、被検体内の各種臓器は、内視鏡やメス等の手術器具が挿入された場合にも移動する。すなわち、各種臓器は、外力が加わった場合にも移動する。そこで、第2の実施形態では、外力が加わった場合における各種臓器の位置変動を推定する例について説明する。
【0124】
まず、
図13を用いて、第2の実施形態における画像処理システムによる処理について簡単に説明する。
図13は、第2の実施形態における画像処理システムによる処理の一例を説明するための図である。なお、
図13では、内視鏡やメス等の医用デバイスを肋間(肋骨の間)に挿入する例について示す。
図13(A)に示すように、第2の実施形態における端末装置240は、被検体を示す立体画像I21と、内視鏡やメス等の医用デバイスを示す立体画像Ic21とを立体表示モニタ142に表示する。なお、
図13に例示した立体画像Ic21は、仮想的な医用デバイスであって、ここでは内視鏡を示すものとする。そして、端末装置240は、観察者から、立体画像I21が表示されている立体画像空間内に立体画像Ic21を配置する操作を受け付ける。
図13に示した例では、端末装置240は、立体画像I21が表示されている立体画像空間のうち肋骨の間を示す領域に立体画像Ic21を配置する操作を受け付ける。かかる場合に、端末装置240は、立体画像Ic21が配置された立体画像空間の位置に対応するボリュームデータ空間の座標をワークステーション230に送信する。
【0125】
ワークステーション230は、端末装置240から立体画像Ic21の位置を受信した場合に、立体画像Ic21が挿入された場合における被検体内の状態を推定する。そして、ワークステーション230は、かかる推定結果を反映した仮想ボリュームデータを生成し、生成した仮想ボリュームデータに対してレンダリング処理を行うことにより、新たな視差画像群を生成する。そして、ワークステーション230は、新たに生成した視差画像群を端末装置240に送信する。
【0126】
端末装置240は、ワークステーション230から受信した視差画像群を立体表示モニタ142に表示することで、
図13(B)に示した例のように、医用デバイスが挿入された被検体内の状態を示す立体画像I22と、被検体内に挿入された状態の医用デバイスを示す立体画像Ic22とを表示する。これにより、医師等の観察者は、医用デバイス挿入後における被検体内の状態を立体視することができ、この結果、医用デバイスを用いる術前に被検体内の各種部位の位置関係を把握することが可能になる。
【0127】
次に、第2の実施形態におけるワークステーション230及び端末装置240について詳細に説明するが、ワークステーション230は、
図1に示したワークステーション130に対応し、端末装置240は、
図1に示した端末装置140に対応する。ここで、第2の実施形態における端末装置240の構成は、
図8に示した端末装置140の構成例と同様であるので、図示することを省略する。ただし、第2の実施形態における端末装置240が有する制御部245は、
図8に示した制御部145が有する表示制御部1451及び受付部1452と異なる処理を行う。そこで、制御部245は、制御部145が有する表示制御部1451の代わりに表示制御部2451を有し、受付部1452の代わりに受付部2452を有するものとする。また、第2の実施形態におけるワークステーション230が有する制御部235の構成は、
図10に示した制御部135の構成例と同様であるので、図示することを省略する。ただし、第2の実施形態における制御部235は、制御部135が有する推定部1351及びレンダリング制御部1352と異なる処理を行う。そこで、制御部235は、制御部135が有する推定部1351の代わりに推定部2351を有し、レンダリング制御部1352の代わりにレンダリング制御部2352を有するものとする。
【0128】
以下に、これらの表示制御部2451、受付部2452、推定部2351及びレンダリング制御部2352について詳細に説明する。なお、以下では、被検体を示す立体画像を「被検体立体画像」と表記し、医用デバイスを示す立体画像を「デバイス立体画像」と表記する場合がある。
【0129】
第2の実施形態における端末装置240の表示制御部2451は、
図13(A)に示した例のように、被検体立体画像とデバイス立体画像とを立体表示モニタ142に表示させる。なお、被検体立体画像を表示するための視差画像群は、ワークステーション230によって生成されるが、デバイス立体画像を表示するための視差画像群は、ワークステーション230によって生成されてもよいし、端末装置240によって生成されてもよい。例えば、ワークステーション230が、被検体の視差画像群に医用デバイスの画像を重畳することで、被検体及び医用デバイスの双方を含む視差画像群を生成してもよい。また、例えば、端末装置240が、ワークステーション230によって生成された被検体の視差画像群に、医用デバイスの画像を重畳することで、被検体及び医用デバイスの双方を含む視差画像群を生成してもよい。
【0130】
端末装置240の受付部2452は、立体表示モニタ142に被検体立体画像及びデバイス立体画像が表示されている状態において、デバイス立体画像を移動させる操作が行われた場合に、かかるデバイス立体画像が位置する立体画像空間内の座標を取得する。具体的には、受付部2452は、観察者によってポインティングデバイス等の入力部141を用いて、デバイス立体画像を移動する操作が行われた場合に、かかるデバイス立体画像の位置を示す立体画像空間内の座標を入力部141から受け付ける。そして、受付部2452は、上述した関数「F」を用いて、デバイス立体画像が位置するボリュームデータ空間内の座標を取得し、取得したボリュームデータ空間の座標をワークステーション230に送信する。なお、デバイス立体画像は、所定の領域を占める3次元画像であるので、受付部2452は、デバイス立体画像が占める領域を示す複数の座標をワークステーション230に送信することになる。
【0131】
続いて、ワークステーション230の推定部2351は、端末装置240からボリュームデータ空間におけるデバイス立体画像の座標を受信した場合に、ボリュームデータに含まれる各ボクセルの位置変動を推定する。具体的には、推定部2351は、受付部2452から受信したデバイス立体画像の座標が示す位置に医用デバイスが配置されたと仮定し、以下に示す各種パラメータ(Y1)〜(Y7)等に基づいて、ボリュームデータ内の各ボクセルの位置変動(移動ベクトル及び膨張率)を推定する。
【0132】
(Y1)医用デバイスの挿入によって被検体内部に加わる外力
(Y2)CT値
(Y3)医用デバイスの大きさ、形状
(Y4)医用デバイスとの距離
(Y5)隣接するボクセルのCT値
(Y6)血流速、血流量、血圧
(Y7)被検体情報
【0133】
上記(Y1)について説明する。被検体内の各種臓器は、内視鏡やメス等の医用デバイスが挿入された場合に、かかる医用デバイスから外力を受ける。具体的には、各種臓器は、挿入された医用デバイスによって本来の位置から押し出されるので、医用デバイスから離れる方向に移動する。このようなことから、推定部2351は、各ボクセルの位置変動を推定する際に、上記(Y1)外力を用いる。なお、各部位(ボクセル)に加わる外力は、各部位(ボクセル)と医用デバイスとの距離や、医用デバイスの種類等に基づいて予め算出される。ここでいう医用デバイスの種類とは、内視鏡、メスのような刃物等を示す。例えば、医用デバイスの種類が刃物である場合には、臓器は刃物によって切れるので移動量が小さくなるが、医用デバイスの種類が内視鏡である場合には、臓器は内視鏡によって本来の位置から押し出されるので移動量が大きくなる。
【0134】
上記(Y2)CT値は、上記(X2)で説明したように、臓器の硬さを示すので、臓器自体の移動量や膨張率の指標となる。また、上記(Y3)について説明すると、医用デバイスが大きいほど、被検体内を占有する領域が大きいので、臓器の移動量は大きくなる。一方で、細長くて小さい医用デバイスは、被検体内を占有する領域が小さいので、臓器の移動量は小さくなる。このようなことから、推定部2351は、各ボクセルの位置変動を推定する際に、上記(Y3)医用デバイスの大きさ、形状を用いる。また、上記(Y4)〜(Y7)については、上記(X4)〜(X7)と同様である。
【0135】
第2の実施形態における推定部2351は、上述したような各種パラメータ(Y1)〜(Y7)等を変数とする関数を用いて、ボリュームデータ内の各ボクセルの移動ベクトル及び膨張率を推定する。
【0136】
ここで、
図14を用いて、推定部2351による推定処理の一例を説明する。
図14は、第2の実施形態における推定部2351による推定処理の一例を説明するための図である。
図14に示した例において、ワークステーション230は、ボリュームデータVD20から生成した視差画像群を端末装置240に送信する。これにより、端末装置240は、ワークステーション230から受信した視差画像群を表示することで、
図13(A)に例示したような被検体立体画像及びデバイス立体画像を立体表示モニタ142に表示し、デバイス立体画像を移動させる操作を受け付ける。かかる場合に、端末装置240は、移動後のデバイス立体画像が位置するボリュームデータ空間内の座標を取得する。ここでは、端末装置240は、
図14(A)に示した例のように、デバイス立体画像が位置するボリュームデータ空間内の座標として、ボクセル領域V21の座標を取得するものとする。
【0137】
かかる場合に、ワークステーション230の推定部2351は、上述したパラメータ(Y1)〜(Y7)等により算出される移動推定用の関数を用いて、ボリュームデータVD20を構成する各ボクセルの移動ベクトル及び膨張率を推定する。
図14(B1)に、ボクセル領域V21周辺のボクセル群を示し、かかるボクセル群に対する推定処理の一例を説明する。なお、
図14(B1)では、太線で囲んだ領域がボクセル領域V21を示し、かかるボクセル領域V21にデバイス立体画像Ic21が配置されたことを示す。
【0138】
図14(B1)に示した例において、推定部2351は、ボクセル領域V21内のボクセル、及び、ボクセル領域V21周辺のボクセルがボクセル領域V21から離れる方向に移動することを推定する。このようにして、推定部2351は、ボリュームデータVD20に含まれるボクセルについて移動ベクトルを推定する。さらに、
図14には図示することを省略したが、推定部2351は、各ボクセルの膨張率についても推定する。
【0139】
続いて、ワークステーション230のレンダリング制御部2352は、推定部2351によって推定された各ボクセルの移動ベクトル及び膨張率をボリュームデータに反映することにより、仮想ボリュームデータを生成し、生成した仮想ボリュームデータに対してレンダリング処理を行うようにレンダリング処理部136を制御する。
【0140】
レンダリング制御部2352による仮想ボリュームデータの生成処理について、
図14に示した例を用いて説明する。レンダリング制御部2352は、
図14(B1)に示すように、まず、推定部2351によって推定された各ボクセルの移動ベクトル及び膨張率に基づいて、ボリュームデータVD20内の各ボクセルの配置を変更する。さらに、レンダリング制御部2352は、
図14(B2)に斜線を付して示した領域D21のように、ボクセル領域V21内のボクセルのCT値を、医用デバイス(金属等)を示すCT値に置き換える。このようにして、レンダリング制御部2352は、仮想ボリュームデータを生成する。
【0141】
レンダリング処理部136によって新たに生成された視差画像群は、表示制御部1353によって端末装置240に送信される。これにより、端末装置240の表示制御部2451は、かかる視差画像群を立体表示モニタ142に表示することで、
図13(B)に示すように、医用デバイスを示す立体画像Ic22を含む立体画像I22を表示する。
【0142】
次に、
図15を用いて、第2の実施形態におけるワークステーション230及び端末装置240による処理の流れの一例を示す。
図15は、第2の実施形態における画像処理システムによる処理の流れの一例を示すシーケンス図である。
【0143】
図15に示すように、端末装置240は、観察者から立体視要求が入力されたか否かを判定する(ステップS201)。ここで、立体視要求が入力されない場合には(ステップS201否定)、端末装置240は、待機する。
【0144】
一方、端末装置240は、立体視要求が入力された場合には(ステップS201肯定)、かかる立体視要求に対応する視差画像群をワークステーション230から取得する(ステップS202)。そして、表示制御部2451は、ワークステーション230から取得した視差画像群を立体表示モニタ142に表示する(ステップS203)。このとき、ワークステーション230は、被検体の視差画像群に医用デバイスの画像を重畳することで、被検体及び医用デバイスの双方を含む視差画像群を生成し、生成した視差画像群を端末装置240に送信する。または、ワークステーション230は、医用デバイスの画像を含まない被検体の視差画像群を生成し、生成した視差画像群を端末装置240に送信する。かかる場合には、端末装置240は、ワークステーション230から受信した被検体の視差画像群に、医用デバイスの画像を重畳することで、被検体及び医用デバイスの双方を含む視差画像群を生成する。
【0145】
続いて、端末装置240の受付部2452は、立体表示モニタ142に表示されている被検体立体画像が表示されている立体画像空間に、デバイス立体画像を配置する操作を受け付けたか否かを判定する(ステップS204)。ここで、デバイス立体画像の配置操作を受け付けない場合には(ステップS204否定)、受付部2452は、かかる配置操作を受け付けるまで待機する。
【0146】
一方、受付部2452は、デバイス立体画像の配置操作を受け付けた場合には(ステップS204肯定)、上述した関数「F」を用いて、立体画像空間におけるデバイス立体画像の座標に対応するボリュームデータ空間の座標を取得し、取得したボリュームデータ空間におけるデバイス立体画像の座標をワークステーション230に送信する(ステップS205)。
【0147】
続いて、ワークステーション230の推定部2351は、端末装置240から受信したデバイス立体画像の座標に医用デバイスが配置されたと仮定し、上記の各種パラメータ(Y1)〜(Y7)等に基づいて、ボリュームデータ内の各ボクセルの位置変動(移動ベクトル及び膨張率)を推定する(ステップS206)。
【0148】
続いて、レンダリング制御部2352は、推定部2351によって推定された各ボクセルの移動ベクトル及び膨張率をボリュームデータに反映することにより、仮想ボリュームデータを生成する(ステップS207)。そして、レンダリング制御部2352は、仮想ボリュームデータに対してレンダリング処理を行うようにレンダリング処理部136を制御することで視差画像群を生成する(ステップS208)。そして、表示制御部1353は、レンダリング処理部136によって生成された視差画像群を端末装置240に送信する(ステップS209)。
【0149】
端末装置240の表示制御部2451は、ワークステーション230から受信した視差画像群を立体表示モニタ142に表示する(ステップS210)。これにより、立体表示モニタ142は、医用デバイスが挿入された場合における被検体内の状態を示す立体画像を表示することができる。
【0150】
上述してきたように、第2の実施形態によれば、医用デバイス挿入後における被検体内部の状態を示す立体画像を表示することができる。この結果、医師等の観察者は、医用デバイスを用いる術前に、医用デバイスの挿入により位置変動する各種臓器の位置関係を把握することができる。また、医師等の観察者は、例えば、医用デバイスの挿入位置や医用デバイスの種類を変更することで、被検体内部の状態を何度も確認することができ、この結果、手術に適した医用デバイスの挿入位置や医用デバイスの種類を術前に決定することができる。
【0151】
なお、第2の実施形態は、上記の実施形態に限られず、以下に示すいくつかの変形例を含む態様の実施形態であってもよい。以下に、第2の実施形態の変形例について説明する。
【0152】
[他の医用デバイス、臓器毎の移動推定]
上記第2の実施形態では、
図13(A)に例示したように、円柱状の医用デバイスを1個のみ表示する例を示した。しかし、端末装置240は、複数の医用デバイスを表示し、移動させる医用デバイスを観察者に選択可能にさせてもよい。また、上記第2の実施形態では、
図13に例示したように、被検体内に医用デバイスを挿入する例を示した。しかし、端末装置240は、ピンセット等の医用デバイスにより血管を摘む操作又は血管を引っ張る操作や、メスや医用ハサミにより臓器表面を切開する操作等を受け付けてもよい。また、上記第2の実施形態では、ボクセル毎に移動ベクトル及び膨張率を推定する例を示した。しかし、ワークステーション230は、ボリュームデータに対してセグメンテーション処理を行うことで、かかるボリュームデータに含まれる心臓、肺、血管等の臓器を抽出し、抽出した臓器単位で移動ベクトル及び膨張率を推定してもよい。そして、ワークステーション230は、仮想ボリュームデータを生成する場合に、同一の臓器を示すボクセル群を隣接する位置に配置するように制御してもよい。
【0153】
これらの点について、
図16に具体例を挙げて説明する。
図16は、第2の実施形態の変形例を説明するための図である。
図16(A)に示した例において、端末装置240は、被検体の血管を示す立体画像I31及びI41を表示するとともに、複数の医用デバイスを示す立体画像Ic31を表示する。立体画像Ic31に表示されている各医用デバイスは、臓器に加える外力等の機能が予め設定されている。例えば、ピンセットの場合には、摘んだ臓器とともに移動する機能を有することが設定される。また、ワークステーション230は、セグメンテーション処理の結果、立体画像I31が示す血管と立体画像I41が示す血管とを異なる血管として抽出する。すなわち、ワークステーション230は、仮想ボリュームデータを生成する際には、同一の臓器である立体画像I31や立体画像I32が分断しないように各ボクセルを配置する。このような立体画像が表示されている状態において、観察者は、ポインティングデバイス等を用いて立体画像Ic31の中から所望の医用デバイスを選択することで、かかる医用デバイスにより立体画像I31又はI41に対して各種操作を行うことができる。
【0154】
ここで、観察者によって、立体画像Ic31中のピンセットがクリックされた後に、立体画像I31を動かす操作が行われたものとする。また、上記の通り、ピンセットには、臓器とともに移動する機能を有することが設定されているものとする。かかる場合に、レンダリング制御部2352は、ピンセットに設定されている機能や、上述した各種パラメータ(Y1)〜(Y7)等に基づいて、臓器毎に位置変動を推定し、仮想ボリュームデータを生成する。このとき、レンダリング制御部2352は、ピンセットによって操作された立体画像I31のみを移動させるのではなく、立体画像I31が示す血管の移動に伴って他の臓器(立体画像I41が示す血管等)が移動するか否かも推定する。端末装置240は、このような仮想ボリュームデータから生成される視差画像群を表示することで、
図16(B)に示した例のように、移動後の血管を示す立体画像I32を観察することができ、さらに、かかる血管の移動に影響を受ける血管を示す立体画像I42を観察することができる。また、観察者は、複数の立体画像が重なっている場合であっても、臓器毎に立体画像を移動させることができるので、
図16(B)に示した例のように、動脈瘤W等を発見することができる。
【0155】
[仮想内視鏡表示]
また、上記第2の実施形態では、
図13(B)に示した例のように、内視鏡等の医用デバイスが挿入された被検体内の外観を立体画像として表示する例を説明した。ここで、
図13に示した例のように、内視鏡の立体画像が被検体内に配置された場合には、被検体の外観とともに、かかる内視鏡から見た被検体内の立体画像を表示してもよい。具体的には、大腸等を撮影した3次元X線CT画像の表示法(CTC:CT Colonography)として広く用いられている仮想内視鏡(VE:Virtual Endoscopy)表示法を用いて、内視鏡から見た被検体内の立体画像を表示してもよい。
【0156】
上記第2の実施形態に仮想内視鏡表示法を適用する場合、レンダリング制御部2352は、デバイス立体画像である仮想内視鏡の先端部分に複数の視点位置を設定し、かかる複数の視点位置によりレンダリング処理を行うようにレンダリング処理部136を制御する。
図17及び
図18を用いて具体的に説明する。
図17及び
図18は、第2の実施形態の変形例を説明するための図である。なお、
図18では、
図13と同様に、内視鏡やメス等の医用デバイスを肋骨の間に挿入する例について示す。
図17に示したボリュームデータVD20は、
図14に示した例と同様に、内視鏡を示すデバイス立体画像がボクセル領域V21に配置される。
図17に示した例では、レンダリング制御部2352は、仮想内視鏡の先端部分に位置する9個の視点位置L1〜L9をレンダリング条件として視差画像群を生成する。そして、ワークステーション230は、仮想内視鏡から見た視差画像群とともに、被検体内の外観を示す視差画像群を端末装置240に送信する。これにより、端末装置240は、
図18に示した例のように、デバイス立体画像(内視鏡)Ic21が挿入された被検体内の外観とともに、仮想内視鏡から見た被検体内の立体画像I51とを表示することができる。この結果、観察者は、内視鏡をどの程度挿入した場合に、内視鏡にどのような映像が映し出されるかを術前に確認することができる。
【0157】
また、上記第2の実施形態において、医用デバイスとして内視鏡を被検体内に挿入する場合について説明した。ここで、一般的に、医用現場においては、内視鏡を被検体内に挿入した後に、かかる内視鏡から空気を注入することが行われる場合がある。そこで、上記第2の実施形態における端末装置240は、内視鏡を被検体内に挿入する操作が行われた後に、空気を注入する操作を受け付けてもよい。そして、端末装置240は、空気を注入する操作を受け付けた場合には、かかる操作を受け付けた旨をワークステーション230に通知する。端末装置240から通知されたワークステーション230は、内視鏡の先端から空気が注入されたことを想定して、上記の各種パラメータ(Y1)〜(Y7)等に基づいて、ボリュームデータ内の各ボクセルの位置変動(移動ベクトル及び膨張率)を推定することにより、仮想ボリュームデータを生成する。そして、ワークステーション230は、仮想ボリュームデータに対してレンダリング処理を行うことで視差画像群を生成し、生成した視差画像群を端末装置240に送信する。これにより、端末装置240は、内視鏡挿入後に、かかる内視鏡から空気が注入された被検体内部の状態を示す立体画像を表示することができる。
【0158】
[不透過度(Opacity)の設定]
また、上記において説明したように、ワークステーション230は、ボリュームデータに対してセグメンテーション処理を行うことで、かかるボリュームデータに含まれる心臓、肺、血管等の臓器を抽出することができる。かかる場合、ワークステーション230は、抽出した臓器毎に不透過度(Opacity)を設定できるようにしてもよい。これにより、観察者は、複数の立体画像が重なっている場合であっても、臓器毎に不透過度(Opacity)を設定できるので、例えば、血管のみを観察したり、心筋のみを観察したりすることが可能になる。
【0159】
この点について
図19を用いて具体的に説明する。
図19は、第2の実施形態の変形例を説明するための図である。
図19に示した例のように、端末装置240は、部位毎に不透過度(Opacity)を設定できるコントロールバーを表示する。かかるコントロールバーの画像は、例えば、端末装置240が視差画像群に重畳する。このようなコントロールバーのつまみがポインティングデバイス等によって変更された場合に、端末装置240は、変更後の臓器毎の不透過度(Opacity)をワークステーション230に送信する。ワークステーション230は、端末装置240から受信した臓器毎の不透過度(Opacity)に基づいてボリュームデータに対してレンダリング処理を行い、生成した視差画像群を端末装置240に送信する。これにより、端末装置240は、臓器毎の不透過度(Opacity)を変更することができる立体画像を表示することができる。なお、臓器毎に変更できるのは不透過度(Opacity)に限られず、端末装置240は、色彩の濃度等についても上記例のようなコントロールバーによって臓器毎に変更可能にしてもよい。
【0160】
[不透過度(Opacity)の自動設定]
また、
図13及び
図18の立体画像I21に示した例のように、内視鏡等の医用デバイスを被検体内の立体画像に挿入した場合、他の臓器(立体画像I21の場合には「骨」)によって医用デバイスの一部が隠れることがある。このような場合、ワークステーション230は、挿入された医用デバイス近傍の領域の不透過度(Opacity)を自動的に下げてもよい。
図14及び
図20に示した例を用いて説明する。なお、
図20は、第2の実施形態の変形例を説明するための図である。
【0161】
図14(A)に示した例において、ワークステーション230は、例えば、ボクセル領域V21の近傍に位置するボクセルの不透過度(Opacity)を自動的に下げた後に、ボリュームデータVD20に対してレンダリング処理を行う。これにより、端末装置240は、
図20に示した例のように、例えば、医用デバイス近傍の領域A10が透明である立体画像を表示する。この結果、観察者は、医用デバイスを挿入した際に、周辺臓器に与える影響を正確に観察することが可能になる。
【0162】
(第3の実施形態)
さて、上述した実施形態は、他の実施形態に変形することもできる。そこで、第3の実施形態では、上述した実施形態の変形例を説明する。
【0163】
上記実施形態においては、医用画像診断装置がX線CT装置である場合を例に挙げて説明したが、上述したように、医用画像診断装置は、MRI装置や超音波診断装置であってもよく、上述した(X2)CT値、(X5)隣接するボクセルのCT値、(Y2)CT値、(Y5)隣接するボクセルのCT値などは、パルスシーケンス毎に対応付けられたMR信号の強度や、超音波の反射波データ等であってもよい。また、医用画像診断装置がMRI装置や超音波診断装置等である場合には、外部から生体組織を圧迫した状態で生体組織の弾性率(硬度)を計測して、エラストグラフィ(Elastography)のような弾性画像を表示することができる。このため、医用画像診断装置がMRI装置や超音波診断装置等である場合には、上述した推定部1351及び推定部2351は、上記の各種パラメータ(X1)〜(X7)や(Y1)〜(Y7)に加えて、エラストグラフィにより得られる生体組織の弾性率(硬度)に基づいて、ボリュームデータ内の各ボクセルの位置変動を推定してもよい。
【0164】
[処理主体]
上記実施形態においては、端末装置140又は240が、自装置の移動や観察位置の移動に対応する視差画像群をワークステーション130又は230から取得する例について説明した。しかし、端末装置140は、ワークステーション130の制御部135やレンダリング処理部136等と同様の機能を有し、端末装置240は、ワークステーション230の制御部235やレンダリング処理部136等と同様の機能を有してもよい。かかる場合には、端末装置140又は240は、画像保管装置120からボリュームデータを取得し、上記の制御部135又は235と同様の処理を行う。
【0165】
また、上記実施形態において、ワークステーション130又は230がボリュームデータから視差画像群を生成するのではなく、医用画像診断装置110が、レンダリング処理部136と同等の機能を有し、ボリュームデータから視差画像群を生成してもよい。かかる場合には、端末装置140又は240は、医用画像診断装置110から視差画像群を取得する。
【0166】
[視差画像数]
また、上記実施形態においては、主に9つの視差画像である視差画像群に対して、図形画像を重畳させて表示する例について説明したが、実施形態はこれに限られるものではない。例えば、ワークステーション130は、2つの視差画像である視差画像群を生成してもよい。
【0167】
[システム構成]
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上述文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
【0168】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。例えば、ワークステーション130の制御部135をワークステーション130の外部装置としてネットワーク経由で接続するようにしてもよい。
【0169】
[プログラム]
また、上記実施形態における端末装置140又は240やワークステーション130又は230が実行する処理をコンピュータが実行可能な言語で記述したプログラムを作成することもできる。この場合、コンピュータがプログラムを実行することにより、上記実施形態と同様の効果を得ることができる。さらに、かかるプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータに読み込ませて実行することにより上記実施形態と同様の処理を実現してもよい。例えば、かかるプログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVD、ブルーレイ等に記録される。また、かかるプログラムは、インターネットなどのネットワークを介して配布することもできる。
【0170】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。