(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-05-09
(45)【発行日】2025-05-19
(54)【発明の名称】医療支援システムおよび医療支援方法
(51)【国際特許分類】
G16H 30/00 20180101AFI20250512BHJP
【FI】
G16H30/00
(21)【出願番号】P 2023506419
(86)(22)【出願日】2021-03-16
(86)【国際出願番号】 JP2021010506
(87)【国際公開番号】W WO2022195696
(87)【国際公開日】2022-09-22
【審査請求日】2023-09-04
(73)【特許権者】
【識別番号】304050923
【氏名又は名称】オリンパスメディカルシステムズ株式会社
(74)【代理人】
【識別番号】100105924
【氏名又は名称】森下 賢樹
(74)【代理人】
【識別番号】100109047
【氏名又は名称】村田 雄祐
(74)【代理人】
【識別番号】100109081
【氏名又は名称】三木 友由
(72)【発明者】
【氏名】田村 和義
(72)【発明者】
【氏名】坂従 晴彦
(72)【発明者】
【氏名】朴木 達也
【審査官】中元 淳二
(56)【参考文献】
【文献】特開2008-188214(JP,A)
【文献】特開2012-170774(JP,A)
【文献】特開2002-351704(JP,A)
【文献】特開2009-238038(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G16H 10/00-80/00
(57)【特許請求の範囲】
【請求項1】
医療支援システムであって、ハードウェアを有するプロセッサを備え、
前記プロセッサは、
1回のレリーズスイッチの操作に応じて同時に撮像された複数の内視鏡画像であって、撮像方法または画像処理方法の少なくとも1つが互いに異なる前記複数の内視鏡画像を含む同時撮像画像群を取得し、
前記同時撮像画像群から表示する内視鏡画像の枚数を2以上の所定枚数に定めた第1表示モードを設定し、
前記同時撮像画像群から
2以上の所定枚数の内視鏡画像を選択して、選択した内視鏡画像を表示装置に表示させる表示画像を生成
し、
前記同時撮像画像群から選択されて表示されている2以上の所定枚数の内視鏡画像の1つに対して、拡大表示を指示するユーザ操作を受け付け、
拡大した2以上の所定枚数の内視鏡画像を含む表示画像を生成する、
医療支援システム。
【請求項2】
前記プロセッサは、
内視鏡画像の変更を指示するユーザ操作を受け付け、
拡大表示している内視鏡画像を、前記同時撮像画像群における別の内視鏡画像に変更する、
請求項1に記載の医療支援システム。
【請求項3】
前記プロセッサは、
異なる時刻に撮像された複数の前記同時撮像画像群を取得し、
拡大表示している前記同時撮像画像群の変更を指示するユーザ操作を受け付け、
拡大表示している前記同時撮像画像群とは異なる前記同時撮像画像群の
拡大した2以上の所定枚数の内視鏡画像を含む表示画像を生成する、
請求項1に記載の医療支援システム。
【請求項4】
前記プロセッサは、
拡大表示している内視鏡画像に描画するユーザ操作を受け付け、
当該内視鏡画像にユーザ操作に応じた描画を行うともに、前記同時撮像画像群に含まれる他の内視鏡画像にもユーザ操作に応じた描画を行う、
請求項1に記載の医療支援システム。
【請求項5】
前記プロセッサは、
ユーザ操作を受け付けた内視鏡画像と、ユーザ操作を受け付けていない内視鏡画像とで、描画の表示態様を異ならせる、
請求項4に記載の医療支援システム。
【請求項6】
前記プロセッサは、
前記同時撮像画像群から表示する内視鏡画像の枚数を1枚に定めた第
2表示モードを設定し、
前記同時撮像画像群から選択した1枚の内視鏡画像を含む表示画像を生成する、
請求項1に記載の医療支援システム。
【請求項7】
前記プロセッサは、
非表示の画像が存在していることを示すアイコンを、選択した1枚の内視鏡画像に関連付けて配置する、
請求項6に記載の医療支援システム。
【請求項8】
前記プロセッサは、
前記同時撮像画像群の全ての内視鏡画像を表示する第
3表示モードを設定し、
前記同時撮像画像群の全ての内視鏡画像を含む表示画像を生成する、
請求項1に記載の医療支援システム。
【請求項9】
前記プロセッサは、
撮像方法および/または画像処理方法にもとづいて設定される表示優先順位を変更するユーザ操作を受け付ける、
請求項8に記載の医療支援システム。
【請求項10】
前記プロセッサは、
撮像方法および/または画像処理方法にもとづいて設定された表示優先順位にもとづいて、前記同時撮像画像群から2以上の所定枚数の内視鏡画像を選択する、
請求項1に記載の医療支援システム。
【請求項11】
前記プロセッサは、
表示されている内視鏡画像に対して、表示枚数を設定された比較表示領域での表示を指示するユーザ操作を受け付け、
撮像方法および/または画像処理方法に対して設定された表示優先順位にもとづいて、前記同時撮像画像群から、前記表示枚数の内視鏡画像を選択して、当該内視鏡画像を並べた比較表示領域を含む表示画像を生成する、
請求項6に記載の医療支援システム。
【請求項12】
前記プロセッサは、
検査項目、医師情報
および同時撮像枚数割
合にもとづいて表示モードを設定する、
請求項1に記載の医療支援システム。
【請求項13】
前記プロセッサは、
前記同時撮像画像群から表示する内視鏡画像の枚数を1枚に定めた第
2表示モードを設定し、
前記同時撮像画像群から、所定の撮像方法または画像処理方法で取得された内視鏡画像を含む表示画像を生成する、
請求項12に記載の医療支援システム。
【請求項14】
前記同時撮像画像群に含まれる複数の内視鏡画像は、実質的に同一の範囲を撮像したものである、
請求項1に記載の医療支援システム。
【請求項15】
前記同時撮像画像群に含まれる複数の内視鏡画像は、内視鏡観察装置において、医師による1回のレリーズスイッチ操作を契機として取得されたものである、
請求項1に記載の医療支援システム。
【請求項16】
プロセッサを備える医療支援システムが実行する医療支援方法であって、
前記プロセッサが、
1回のレリーズスイッチの操作に応じて同時に撮像された複数の内視鏡画像であって、撮像方法または画像処理方法の少なくとも1つが互いに異なる前記複数の内視鏡画像を含む同時撮像画像群を取得し、
前記同時撮像画像群から表示する内視鏡画像の枚数を2以上の所定枚数に定めた表示モードを設定し、
前記同時撮像画像群から
2以上の所定枚数の内視鏡画像を選択して、選択した内視鏡画像を表示装置に表示させる表示画像を生成
し、
前記同時撮像画像群から選択されて表示されている2以上の所定枚数の内視鏡画像の1つに対して、拡大表示を指示するユーザ操作を受け付け、
拡大した2以上の所定枚数の内視鏡画像を含む表示画像を生成する、
医療支援方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、医療支援システムおよび医療支援方法に関する。
【背景技術】
【0002】
内視鏡観察装置は、患者の消化管に挿入される内視鏡を接続されて、内視鏡が撮像している消化管内の画像をリアルタイムに表示装置に表示する。医師が内視鏡のレリーズスイッチを操作すると、内視鏡観察装置は、レリーズスイッチが操作されたタイミングで内視鏡画像をキャプチャして、キャプチャした内視鏡画像を画像蓄積サーバに送信する。画像蓄積サーバに蓄積される内視鏡画像は、検査終了後に、医師による検査レポートの作成に利用される。
【0003】
特許文献1は、検査中に、同一の生体組織を撮像した通常光観察画像と狭帯域光観察画像を、リアルタイムに同時に表示装置に表示する内視鏡装置を開示する。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
検査終了後、医師は検査レポートを作成するために、パーソナルコンピュータなどの情報処理装置を操作して、内視鏡画像を画像蓄積サーバから読み出し、表示装置に表示させる。このとき、医師が病変の状態を確認しやすいように内視鏡画像が表示されることで、医師による効率的な診断が可能となる。本開示はこうした状況に鑑みなされたものであり、その目的は、医師による効率的な診断を実現するための内視鏡画像の表示技術を提供することにある。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本開示のある態様の医療支援システムは、同時撮像モードで同一の被写体を撮像した複数の内視鏡画像であって、撮像方法または画像処理方法の少なくとも1つが互いに異なる複数の内視鏡画像を含む同時撮像画像群を取得する画像取得部と、表示画像を生成して、表示装置に表示させる表示画像生成部とを備える。表示画像生成部は、同時撮像画像群から表示する内視鏡画像の枚数を変更可能である。
【0007】
本開示の別の態様の医療支援方法は、同時撮像モードで同一の被写体を撮像した複数の内視鏡画像であって、撮像方法または画像処理方法の少なくとも1つが互いに異なる複数の内視鏡画像を含む同時撮像画像群を取得し、同時撮像画像群から表示する内視鏡画像の枚数を設定し、同時撮像画像群から設定した枚数の内視鏡画像を選択して、表示装置に表示させる。
【0008】
なお、以上の構成要素の任意の組み合わせ、本開示の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本開示の態様として有効である。
【図面の簡単な説明】
【0009】
【
図2】情報処理装置の機能ブロックを示す図である。
【
図8】内視鏡画像の一覧画面の別の例を示す図である。
【
図9】内視鏡画像の一覧画面の別の例を示す図である。
【
図10】内視鏡画像の編集画面の例を示す図である。
【
図11】内視鏡画像の編集画面の別の例を示す図である。
【
図12】内視鏡画像の編集画面の別の例を示す図である。
【
図13】内視鏡画像に描画マークを配置した状態を示す図である。
【発明を実施するための形態】
【0010】
図1は、実施例にかかる医療支援システム1の構成を示す。医療支援システム1は、内視鏡検査を行う病院などの医療施設に設けられる。医療支援システム1において、内視鏡観察装置4、画像蓄積サーバ8および情報処理装置10が、LAN(ローカルエリアネットワーク)などのネットワーク2を経由して、通信可能に接続される。
【0011】
内視鏡システム3は検査室に設けられ、内視鏡観察装置4、表示装置5および内視鏡6を備える。内視鏡6は、内視鏡観察装置4から供給される照明光を伝送して、被検体内を照明するためのライトガイドを有し、内視鏡先端部には、ライトガイドにより伝送される照明光を被写体へ出射するための照明窓と、被写体を所定の周期で撮像して撮像信号を内視鏡観察装置4に出力する撮像部が設けられる。内視鏡観察装置4は、観察モードに応じた照明光を内視鏡6に供給する。撮像部は、入射光を電気信号に変換する固体撮像素子(たとえばCCDイメージセンサまたはCMOSイメージセンサ)を含む。
【0012】
内視鏡観察装置4は、固体撮像素子により光電変換された撮像信号に対して画像処理を施す画像処理部を有し、画像処理部が内視鏡画像を生成して、表示装置5から出力させる。画像処理部は、A/D変換、ノイズ除去などの通常の画像処理に加えて、強調表示を目的とする特別な画像処理を実施する機能を備える。画像処理部が、特別な画像処理機能を搭載することで、内視鏡観察装置4は、同じ照明光を用いて撮像した撮像信号から、特別な画像処理を施していない内視鏡画像と、特別な画像処理を施した内視鏡画像とを生成できる。内視鏡観察装置4は、被検体内に挿入される内視鏡6を接続されて、内視鏡6が撮像している消化管内の画像を表示装置5にリアルタイムに表示する。
【0013】
医師は、検査手順にしたがって、表示装置5に表示された内視鏡画像を観察する。医師が内視鏡6のレリーズスイッチを操作すると、内視鏡観察装置4は、レリーズスイッチが操作されたタイミングで内視鏡画像をキャプチャ(保存)し、キャプチャした内視鏡画像を画像蓄積サーバ8に送信して記録させる。
【0014】
<観察モード>
内視鏡システム3は複数の観察モードで内視鏡画像を生成する機能を有し、表示装置5には、1つの観察モードで生成された内視鏡画像が表示される。「観察モード」は、被写体の撮像方法および撮像信号の画像処理方法の組み合わせによって定義され、内視鏡観察装置4は、設定された観察モードで内視鏡画像を生成して、表示装置5に表示する。実施例の内視鏡システム3は、以下の観察モードを搭載する。
【0015】
(1)WLI(White Light Imaging)観察モード
WLI観察モードは、内視鏡6が通常光(白色光)を照射して被写体を撮像し、内視鏡観察装置4が撮像信号に対してノイズ除去などの通常の画像処理を施して内視鏡画像を生成し、表示装置5に表示する観察モードである。WLI観察モードでは、通常光を用いた撮像方法および通常の画像処理方法を用いて、内視鏡画像が生成される。
【0016】
(2)TXI(Texture and Color Enhancement Imaging)観察モード
TXI観察モードは、内視鏡6が通常光(白色光)を照射して被写体を撮像し、内視鏡観察装置4が撮像信号に対してノイズ除去などの通常の画像処理を行った後、粘膜表面の「構造」「色調」「明るさ」の3つの要素を最適化する特別な画像処理を施して内視鏡画像を生成し、表示装置5に表示する観察モードである。TXI観察モードでは、通常光を用いた撮像方法、通常の画像処理方法および特別な画像処理方法を用いて、内視鏡画像が生成される。TXI観察モードは、わずかな色調や構造の変化を強調した内視鏡画像を提供する。
【0017】
(3)RDI(Red Dichromatic Imaging)観察モード
RDI観察モードは、内視鏡6が緑、アンバー、赤の狭帯域光を照射して被写体を撮像し、内視鏡観察装置4が撮像信号に対してノイズ除去などの通常の画像処理を施して内視鏡画像を生成し、表示装置5に表示する観察モードである。RDI観察モードでは、緑、アンバー、赤の狭帯域光を用いた撮像方法および通常の画像処理方法を用いて、内視鏡画像が生成される。RDI観察モードは、深部組織のコントラストを形成した内視鏡画像を提供する。
【0018】
(4)NBI(Narrow Band Imaging)観察モード
NBI観察モードは、内視鏡6が青、緑の狭帯域光を照射して被写体を撮像し、内視鏡観察装置4が撮像信号に対してノイズ除去などの通常の画像処理を施して内視鏡画像を生成し、表示装置5に表示する観察モードである。NBI観察モードでは、青、緑の狭帯域光を用いた撮像方法および通常の画像処理方法を用いて、内視鏡画像が生成される。NBI観察モードは、粘膜表層の毛細血管や微細構造を強調する内視鏡画像を提供する。
【0019】
(5)AFI(Autofluorescence imaging)観察モード
AFI観察モードは、内視鏡6が励起光(390-470nm)を照射して被写体を撮像し、内視鏡観察装置4が撮像信号に対してノイズ除去などの通常の画像処理を行った後、信号強度に応じて緑色に変換した内視鏡画像を生成し、表示装置5に表示する観察モードである。AFI観察モードでは、青の励起光を用いた撮像方法、通常の画像処理方法および特別な画像処理方法を用いて、内視鏡画像が生成される。AFI観察モードは、腫瘍性病変と正常粘膜を異なる色調で強調する内視鏡画像を提供する。
【0020】
上記したように、複数の観察モードは、撮像方法または画像処理方法の少なくとも1つが互いに異なっている。具体的に、WLI観察モードとTXI観察モードを比べると、撮像方法は両方とも白色光を利用しており同じであるが、画像処理方法が異なっている。またWLI観察モード(TXI観察モード)、RDI観察モード、NBI観察モード、AFI観察モードを比べると、いずれも異なる撮像方法(照射光)を利用している。医師は観察状況に適した観察モードを選択して、内視鏡画像を表示装置5に表示させる。
【0021】
<撮像(キャプチャ)モード>
内視鏡システム3は、2つの撮像(キャプチャ)モードを搭載する。撮像モードは、内視鏡6のレリーズスイッチ操作に応じて内視鏡画像をキャプチャするモードであり、「通常撮像モード」と「同時撮像モード」を含む。検査中、内視鏡システム3は撮像モードとして、「通常撮像モード」または「同時撮像モード」のいずれかを設定する。
【0022】
「通常撮像モード」において、内視鏡システム3は、レリーズスイッチが操作されると、設定された観察モードで生成されている内視鏡画像、つまり表示装置5に表示されている内視鏡画像をキャプチャして、画像蓄積サーバ8に送信する。通常撮像モードによるキャプチャ機能は、従来の内視鏡システムにおいても搭載されている標準的な機能である。
【0023】
「同時撮像モード」において、内視鏡システム3は、レリーズスイッチが操作されると、設定された観察モードで生成されている内視鏡画像をキャプチャし、即時に別の観察モードの撮像方法および画像処理方法で内視鏡画像を生成してキャプチャし、複数種類の内視鏡画像を画像蓄積サーバ8に送信する。このように同時撮像モードによるキャプチャ機能は、医師による1回のレリーズスイッチの操作を契機として、撮像方法または画像処理方法の少なくとも1つが互いに異なる複数の内視鏡画像を同時に撮像(キャプチャ)する機能である。同時に撮像された複数の内視鏡画像は、同一の画角で同一の被写体の実質的に同一の範囲を撮像したものである。なお、ここでの「同時」は略同時を含み、実質的に同時とみなせる時間差を含む表現として用いる。また画角が「同一」であるとは、画角が略同一であることを含み、実質的に同一とみなせる角度誤差を含む表現として用いる。
【0024】
同時撮像モードにおいて、内視鏡システム3は、設定された観察モードで生成された内視鏡画像をキャプチャした後、撮像方法または画像処理方法の少なくとも一方を変更して、別の観察モードで内視鏡画像を生成する。別の観察モードの内視鏡画像を生成する時間は、たとえば数ミリ秒~数十ミリ秒であり、内視鏡観察装置4は、切り替えた観察モードの内視鏡画像を生成している間、観察モードを切り替える直前の静止画像を表示装置5に表示し続けてもよい。
【0025】
以下、同時撮像モードにおいて、設定された観察モードで生成される内視鏡画像を「基準画像」、設定された観察モード以外の観察モードで生成される内視鏡画像を「追加画像」と呼ぶ。どの観察モードで追加画像を生成するかは、基準画像の観察モードとの関係で、予め内視鏡観察装置4に定められていてもよい。たとえば基準画像がWLI観察モードで生成されている場合、追加画像をTXI観察モードで生成することが定められていてよい。追加画像の観察モードは、撮像している部位に応じて定められてもよく、またレリーズスイッチを操作するタイミングで医師が指定してもよい。なお追加画像の枚数は1枚に限らず、レリーズスイッチ1回の操作で、複数枚の追加画像がキャプチャされてよい。
【0026】
内視鏡観察装置4は、キャプチャした内視鏡画像に、メタデータを付加する。メタデータは、検査において撮像した順番を示す画像番号、撮像方法の種類を示す照射光情報、特別な画像処理を実施したか否かを示す画像処理情報、同時撮像モードでキャプチャされた追加画像であるか否かを示す同時撮像情報を少なくとも含む。同時撮像情報は、基準画像の画像番号を含んでよい。
【0027】
画像蓄積サーバ8は、内視鏡検査を識別する検査IDに紐付けて、内視鏡観察装置4から送信された内視鏡画像を記録する。画像蓄積サーバ8は、情報処理装置10から、検査IDを指定した内視鏡画像の読み出し要求を受けると、情報処理装置10に、当該検査IDに紐付けた複数の内視鏡画像を送信する。
【0028】
情報処理装置10は医局に設けられ、医師が検査レポートを作成する際に利用される。入力部14は、マウスやタッチペン、キーボードなど、ユーザが操作を入力するためのツールである。検査レポートの作成に際し、医師は表示装置12に、検査でキャプチャした内視鏡画像を表示させて、病変の状態を確認し、検査結果を入力する。
【0029】
図2は、情報処理装置10の機能ブロックを示す。情報処理装置10は、操作受付部20、画像取得部22、モード設定部24、表示画像生成部26、優先順位設定部28および画像記憶部30を備える。表示画像生成部26は、表示画像を生成して、表示装置12に表示させる。
【0030】
図2に示す情報処理装置10の構成は、ハードウェア的には任意のプロセッサ、メモリ、補助記憶装置、その他のLSIで実現でき、ソフトウェア的にはメモリにロードされたプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは、当業者には理解されるところである。
【0031】
内視鏡検査の終了後、医師であるユーザは情報処理装置10にユーザIDおよびパスワードを入力して、ログインする。ユーザがログインすると、検査レポートを作成するアプリケーションが起動して、表示装置12には、実施済み検査の一覧が表示される。この実施済み検査一覧には、患者名、患者ID、検査日時、検査種別などの検査情報がリスト表示され、ユーザは、入力部14を操作して、レポート作成の対象となる検査を選択する。操作受付部20が、検査の選択操作を受け付けると、画像取得部22が、画像蓄積サーバ8から、選択された検査の検査IDに紐付けられている複数の内視鏡画像を取得して、画像記憶部30に記憶し、表示画像生成部26が、レポート入力画像を生成して、表示装置12に表示させる。
【0032】
図3は、レポート入力画面の一例を示す。表示画像生成部26は、ユーザが検査結果を入力するためのレポート入力画像を生成して、表示装置12に表示させる。レポート入力画面の表示中、レポートタブ100bが選択された状態となる。レポート入力画面の上段には、患者氏名、患者ID、生年月日、検査種別、検査日、実施医の情報が表示される。レポート入力画面は、2つの領域で構成され、左側には、レポートに添付する内視鏡画像のサムネイルを表示する画像表示領域102が、右側にはユーザが診断内容等の検査結果を入力する検査結果入力領域104が設けられる。
【0033】
検査結果入力領域104は、ユーザが検査結果を入力するための領域であり、図示の例では、上部内視鏡検査における観察範囲である「食道」、「胃」、「十二指腸」の診断内容を入力するための領域が設けられている。検査結果入力領域104は、検査結果の複数の選択肢を表示して、ユーザがチェックボックスを選択することで診断内容を入力するフォーマットを有してよいが、自由にテキスト入力するフリーフォーマットを有してもよい。
【0034】
画像表示領域102は、レポートに添付する内視鏡画像を並べて表示するための領域である。ユーザは、レポートに添付する内視鏡画像を、内視鏡画像の一覧画面から選択する。ユーザは、記録画像タブ100aを選択して、検査で撮像した内視鏡画像を表示装置12に一覧表示させる。
【0035】
図4は、内視鏡画像の一覧画面の例を示す。一覧表示アイコン110は、内視鏡画像を一覧表示する表示形式を示すアイコンである。この一覧画面では、検査で撮像された全ての内視鏡画像130a~130hが、撮像された順番にしたがって、画像表示領域120に並べて表示されている。なお、ここでは検査で撮像された内視鏡画像が8枚である場合を示しているが、実際の検査では、数十枚の内視鏡画像が撮像される。
【0036】
実施例の内視鏡システム3では、同時撮像モードにおいて、レリーズスイッチの1回の操作で、同一の被写体を撮像した複数の内視鏡画像であって、撮像方法または画像処理方法の少なくとも1つが互いに異なる複数の内視鏡画像がキャプチャされる。同時撮像モードで同時にキャプチャされた複数の内視鏡画像を「同時撮像画像群」と呼ぶと、検査レポートの作成時、画像取得部22は、画像蓄積サーバ8から、異なる時刻に撮像された複数の同時撮像画像群を取得する。そのため全ての内視鏡画像130a~130hを並べて表示すると、同時撮像画像群に含まれる内視鏡画像が連続して並ぶため、特に同時撮像画像群が多い場合に、効率的な診断の妨げになる可能性がある。
図4に示す例では、内視鏡画像130a~130cが、第1の同時撮像画像群に含まれ、内視鏡画像130d~130eが、第2の同時撮像画像群に含まれ、内視鏡画像130g~130hが、第3の同時撮像画像群に含まれている。なお内視鏡画像130fは、通常撮像モードで撮像された画像であり、同時撮像画像群に属していない。
【0037】
そこで実施例の情報処理装置10は、ユーザが同時撮像画像群から表示する内視鏡画像の枚数を選択できる機能を有する。表示画像生成部26は、ユーザによる選択に応じて、同時撮像画像群から表示する内視鏡画像の枚数を変更可能とする。
【0038】
図5は、画像記憶部30に保持される画像管理テーブルを示す。画像取得部22は、内視鏡画像を画像記憶部30に記憶させる際、各内視鏡画像のメタデータから、画像管理テーブルを生成する。上記したように、内視鏡画像のメタデータは、撮像した順番を示す画像番号、撮像方法の種類を示す照射光情報、特別な画像処理を実施したか否かを示す画像処理情報、同時撮像モードでキャプチャされた追加画像であるか否かを示す同時撮像情報を含む。ここで同時撮像情報は、基準画像の画像番号である。
【0039】
画像管理テーブルにおいて、「照射光情報」は、撮像時に使用した照射光を示し、「画像処理情報」は、特別な画像処理を実施したか否かを示す。画像処理情報において、項目値“OFF”は、特別な画像処理を実施していないことを示し、項目値“ON”は、特別な画像処理を実施したことを示し、項目値“-”は、その照射光を用いて撮像した画像に対して特別な画像処理を実施する選択肢が存在しないことを示す。「同時撮像情報」は、同時撮像モードでキャプチャされた追加画像であるか否かを示す。項目値“-”は、追加画像でないことを示し、項目値“p”は、当該画像が、画像番号pの基準画像と同時撮像された追加画像であることを示す。画像番号1~8の内視鏡画像は、内視鏡画像130a~130hに対応する。
【0040】
画像番号1の内視鏡画像130aは、通常光を使用して撮像され、特別な画像処理を実施されていないため、WLI観察モードで撮像された画像である。
画像番号2の内視鏡画像130bは、通常光を使用して撮像され、特別な画像処理を実施されているため、TXI観察モードで撮像された画像である。
画像番号3の内視鏡画像130cは、狭帯域光(緑,アンバー,赤)を使用して撮像されているため、RDI観察モードで撮像された画像である。
内視鏡画像130b,130cには、同時撮像情報“1”が付加されている。したがって内視鏡画像130b,130cは、同時撮像モードにおいて、内視鏡画像130aに対する追加画像として同時にキャプチャされた画像であり、内視鏡画像130a~130cは、第1の同時撮像画像群を構成する。
【0041】
画像番号4の内視鏡画像130dは、通常光を使用して撮像され、特別な画像処理を実施されていないため、WLI観察モードで撮像された画像である。
画像番号5の内視鏡画像130eは、通常光を使用して撮像され、特別な画像処理を実施されているため、TXI観察モードで撮像された画像である。
内視鏡画像130eには、同時撮像情報“4”が付加されており、したがって内視鏡画像130d~130eは、第2の同時撮像画像群を構成する。
【0042】
画像番号6の内視鏡画像130fは、狭帯域光(青,緑)を使用して撮像されているため、NBI観察モードで撮像された画像である。画像管理テーブルにおいて、同時撮像情報“6”が付加された内視鏡画像が存在しないため、内視鏡画像130fは、通常撮像モードで撮像されている。
【0043】
画像番号7の内視鏡画像130gは、狭帯域光(青,緑)を使用して撮像されているため、NBI観察モードで撮像された画像である。
画像番号8の内視鏡画像130hは、狭帯域光(緑,アンバー,赤)を使用して撮像されているため、RDI観察モードで撮像された画像である。
内視鏡画像130hには、同時撮像情報“7”が付加されており、したがって内視鏡画像130g~130hは、第3の同時撮像画像群を構成する。
【0044】
「表示優先順位」は、比較して表示する表示モードにおいて、優先的に表示する追加画像の順位を定める。たとえば比較表示モードで2枚の内視鏡画像が並べて表示される場合、同時撮像画像群に3枚以上の内視鏡画像が含まれていれば、表示優先順位の高い追加画像が選択されて、基準画像と並べて表示される。
【0045】
図6は、優先順位設定部28が保持する表示優先順位テーブルの例を示す。表示優先順位は、撮像方法および/または画像処理方法に対して設定される。この優先順位テーブルでは、比較表示モードで優先的に表示する順位が、WLI、TXI、RDI、NBI、AFIの観察モードの順に設定されている。優先順位設定部28は、この優先順位テーブルにしたがって、同時撮像画像群の追加画像に、優先順位を設定する。
図5に示す画像管理テーブルにおいて、画像番号1~3の内視鏡画像が同時撮像画像群を構成し、画像番号2の内視鏡画像に優先順位“1”が、画像番号3の内視鏡画像に優先順位“2”が設定されている。したがって比較表示モードで、この同時撮像画像群を表示する場合、基準画像である画像番号1の内視鏡画像と、追加画像である画像番号2の内視鏡画像とが並べて表示されることになる。
【0046】
図7は、実施例における内視鏡画像の一覧画面の例を示す。一覧表示モードにおいて、モード設定部24は、同時撮像画像群から表示する内視鏡画像の枚数を定めた表示モードを設定する。表示画像生成部26は、設定された表示モードに応じた枚数の内視鏡画像を含む表示画像を生成し、表示装置12に表示させる。
【0047】
実施例の一覧画面には、同時撮像画像群から表示する内視鏡画像の枚数をユーザが選択するための一覧切替ボタン122が設けられる。ユーザが一覧切替ボタン122を操作すると、モード設定部24が、一覧画面における表示モードを切り替える。
図7に示す例では、一覧切替ボタン122の横に、「追加画像非表示モード」と表記されている。追加画像非表示モードは、同時撮像画像群から表示する内視鏡画像の枚数を1枚に定めた表示モードであり、モード設定部24が、追加画像非表示モードを設定すると、表示画像生成部26は、同時撮像画像群から選択した1枚の内視鏡画像を含む表示画像を生成して、表示装置12に表示させる。
【0048】
追加画像非表示モードにおいて、表示画像生成部26は、同時撮像画像群から基準画像を選択して、表示画像に含める。この例では、表示画像生成部26が、同時撮像画像群から基準画像を選択しており、内視鏡画像130a、130d、130gは、それぞれ同時撮像画像群における基準画像である。なお内視鏡画像130fは、通常撮像モードで撮像された画像であり、同時撮像画像群を構成していない。
【0049】
このように追加画像非表示モードによれば、異なるタイミングで撮像された内視鏡画像が並べられて一覧表示されるため、各内視鏡画像の視認性を高めることが可能となり、ユーザによる診断効率を向上できる。
【0050】
追加画像非表示モードにおいて、表示画像生成部26は、非表示の画像が存在していることを示す同時撮像アイコン132を、選択した1枚の内視鏡画像に関連付けて配置する。同時撮像アイコン132が表示されることで、ユーザは、別の観察モードで撮像した内視鏡画像の存在を認識できる。
【0051】
図8は、実施例における内視鏡画像の一覧画面の別の例を示す。ユーザが一覧切替ボタン122を操作すると、モード設定部24が、一覧画面における表示モードを切り替える。
図8に示す例では、一覧切替ボタン122の横に、「全画像表示モード」と表記されている。全画像表示モードは、同時撮像画像群の全ての内視鏡画像を表示する表示モードであり、モード設定部24が、全画像表示モードを設定すると、表示画像生成部26は、同時撮像画像群の全ての内視鏡画像を含む表示画像を生成して、表示装置12に表示させる。全画像表示モードでは、
図4に示した一覧画面と同じく、同時撮像画像群に含まれる内視鏡画像が連続して並ぶため、たとえば内視鏡画像の総数に対して、同時撮像画像群に含まれる内視鏡画像の割合が非常に小さい場合に、全画像表示モードが設定されてもよい。
【0052】
全画像表示モードにおいて、表示画像生成部26は、基準画像であることを示す基準画像アイコン134を、同時撮像画像群の基準画像に関連付けて配置し、追加画像であることを示す追加画像アイコン136を、同時撮像画像群の追加画像に関連付けて配置する。基準画像アイコン134および追加画像アイコン136が表示されることで、ユーザは、同時撮像画像群を認識できる。
【0053】
なお追加画像アイコン136には、比較表示モードにおける表示優先順位が表示されていてよい。上記したように、優先順位設定部28が、撮像方法および/または画像処理方法にもとづいて、追加画像の表示優先順位を設定して、画像管理テーブル(
図5参照)に記録する。表示画像生成部26は、画像管理テーブルを参照して、内視鏡画像130bの追加画像アイコン136に表示優先順位“1”を含ませ、内視鏡画像130cの追加画像アイコン136に表示優先順位“2”を含ませている。
【0054】
ユーザは、入力部14を用いて、表示優先順位を変更できる。たとえばユーザが、マウスを用いて内視鏡画像130cの追加画像アイコン136をダブルクリックすると、内視鏡画像130cの追加画像アイコン136に“1”が表示され、内視鏡画像130bの追加画像アイコン136に“2”が表示されてよい。操作受付部20が、内視鏡画像130cの追加画像アイコン136に対するダブルクリック操作を、表示優先順位を変更するユーザ操作として受け付けると、優先順位設定部28が、画像管理テーブルにおける表示優先順位を変更してよい。具体的には、画像番号2の表示優先順位が2に変更され、画像番号3の表示優先順位が1に変更される。
【0055】
図9は、実施例における内視鏡画像の一覧画面の別の例を示す。ユーザが一覧切替ボタン122を操作すると、モード設定部24が、一覧画面における表示モードを切り替える。
図9に示す例では、一覧切替ボタン122の横に、「比較表示モード」と表記されている。比較表示モードは、同時撮像画像群から表示する内視鏡画像の枚数を2以上の所定枚数に定めた表示モードであり、モード設定部24が、比較表示モードを設定すると、表示画像生成部26は、同時撮像画像群から選択した所定枚数の内視鏡画像を含む表示画像を生成して、表示装置12に表示させる。表示画像生成部26は、画像管理テーブルに設定された表示優先順位にもとづいて、同時撮像画像群から所定枚数の内視鏡画像を選択する。実施例の比較表示モードでは、同時撮像画像群から2枚の内視鏡画像が選択されて、表示される。
【0056】
比較表示モードにおいて、表示画像生成部26は、同時撮像画像群から基準画像と、表示優先順位“1”を設定された追加画像を選択して、表示画像に含める。この例では、表示画像生成部26が、基準画像である内視鏡画像130a、130d、130gと、表示優先順位“1”を設定された内視鏡画像130b、130e、130hを選択しており、基準画像と追加画像とを交互に配置する。比較表示モードにおいて、表示優先順位が“2”である内視鏡画像130cは表示されず、また通常撮像モードで撮像された内視鏡画像130fも表示されない。
【0057】
比較表示モードにおいて、基準画像と比較する追加画像の枚数を限定して表示するため、ユーザが効率的に画像同士を比較することが可能となる。
【0058】
表示画像生成部26は、一覧表示モードにおいて、1つの内視鏡画像130に対して所定の操作が行われると、当該内視鏡画像130を編集可能に拡大表示する機能を有する。操作受付部20が、1つの内視鏡画像130に対して、拡大表示を指示するユーザ操作を受け付けると、表示画像生成部26は、編集可能に拡大した当該内視鏡画像130を含む表示画像を生成し、表示装置12に表示させる。拡大表示を指示するユーザ操作は、内視鏡画像130に対するダブルクリック操作であってよい。
【0059】
図10は、実施例における内視鏡画像の編集画面の例を示す。追加画像非表示モードおよび全画像表示モードにおいて、ユーザが内視鏡画像130aをダブルクリック操作すると、表示画像生成部26は、編集可能に拡大した内視鏡画像130aを含む表示画像を生成し、表示装置12に表示させる。ユーザは、編集画面において、内視鏡画像130aに様々な描画を行うことができる。この例では、ユーザが、病変部に描画マーク140a、140bを配置している。編集した内視鏡画像をレポートに添付することで、後に、当該内視鏡画像に付加された描画マーク140a、140bから、病変部の位置を容易に特定できるようになる。
【0060】
図11は、実施例における内視鏡画像の編集画面の別の例を示す。比較表示モードにおいて、ユーザが、内視鏡画像130aをダブルクリック操作すると、表示画像生成部26は、編集可能に拡大した内視鏡画像130aおよび内視鏡画像130bを含む表示画像を生成し、表示装置12に表示させる。
【0061】
比較表示モードでは、同時撮像画像群の基準画像と1枚以上の追加画像(実施例では1枚の追加画像)とが、必ずセットで表示されている。比較表示モードは、ユーザが同時撮像画像群の複数の内視鏡画像を比較対照する目的で使用されるため、画像編集の際にも、同様の表示態様を継続することが好ましい。そこで比較表示モードにおいて、操作受付部20が、同時撮像画像群から選択されて表示されている2枚の内視鏡画像の1つに対してダブルクリック操作を受け付けると、表示画像生成部26が、当該2枚の内視鏡画像を含む表示画像を生成して、表示装置12に表示させる。
【0062】
編集画面において、表示する追加画像を変更できる場合、表示画像生成部26は、追加画像を変更するための変更ボタン142を編集画面に配置する。追加画像を変更できる場合とは、同時撮像画像群において、表示されていない内視鏡画像が存在している場合である。操作受付部20が、内視鏡画像の変更を指示するユーザ操作を受け付けると、表示画像生成部26は、拡大表示している内視鏡画像130bを、同時撮像画像群における別の内視鏡画像130cに変更する。なお実施例において、画像変更の対象となるのは追加画像であるが、基準画像を追加画像に変更することも可能である。
【0063】
編集画面において、ユーザは、表示する同時撮像画像群を変更できる。操作受付部20は、同時撮像画像群の変更を指示するユーザ操作を受け付けると、表示画像生成部26は、異なる同時撮像画像群の所定枚数の内視鏡画像を含む表示画像を生成して、表示装置12に表示させる。同時撮像画像群の変更を指示するユーザ操作は、たとえばマウスのホイール操作であってよい。
【0064】
図12は、実施例における内視鏡画像の編集画面の別の例を示す。比較表示モードから編集モードに遷移した場合、表示する同時撮像画像群を変更する際にも、比較表示の表示態様を継続することで、ユーザの効率的な編集作業を支援できる。
【0065】
操作受付部20が、拡大表示している内視鏡画像に描画するユーザ操作を受け付けると、表示画像生成部26は、当該内視鏡画像にユーザ操作に応じた描画を行うともに、同時撮像画像群に含まれる他の内視鏡画像にもユーザ操作に応じた描画を行う。表示画像生成部26は、ユーザ操作を受け付けた内視鏡画像と、ユーザ操作を受け付けていない内視鏡画像とで、描画の表示態様を異ならせてよい。
【0066】
図13は、内視鏡画像に描画マークを配置した状態を示す。表示画像生成部26は、内視鏡画像130aに対して描画が行われると、その描画内容を内視鏡画像130bに反映し、一方、内視鏡画像130bに対して描画が行われると、その描画内容を内視鏡画像130aに反映する。なお同じ同時撮像画像群における非表示の内視鏡画像130cに対しても、描画内容を反映する処理が行われる。
図13において、実線の描画マーク140cは、ユーザが内視鏡画像130aに対して付加した描画内容を示し、点線の描画マーク140eは、描画マーク140cを反映した描画内容を示す。同じく実線の描画マーク140fは、ユーザが内視鏡画像130bに対して付加した描画内容を示し、点線の描画マーク140dは、描画マーク140fを反映した描画内容を示す。このように描画内容の反映処理を行うことで、ユーザが別の内視鏡画像に描画する手間を軽減できる。また、ユーザの描画操作を受け付けた内視鏡画像と、ユーザの描画操作を受け付けていない内視鏡画像とで、描画の表示態様を異ならせることで、ユーザは、どの内視鏡画像に描画したかを確認することができる。
【0067】
図14は、比較表示領域124の例を示す。比較表示アイコン112が選択されると、表示画像生成部26は、内視鏡画像を一覧表示する画像表示領域120とは別に、複数の内視鏡画像を並べて表示するための比較表示領域124を生成する。比較表示領域124に表示する枚数はユーザにより任意に選択されてよく、この例では2枚が設定されている。
【0068】
ユーザは、比較表示領域124に、任意の内視鏡画像を配置して比較する。ユーザは、内視鏡画像を比較表示領域124にドラッグアンドドロップ操作することで、当該内視鏡画像を比較表示領域124に配置できる。比較表示領域124で、内視鏡画像は画像表示領域120における表示サイズよりも拡大されるため、比較表示領域124における画像表示は、ユーザが並べた内視鏡画像の違いを見分けるのに適している。比較表示領域124は、たとえば今回撮像した内視鏡画像と過去に撮像した内視鏡画像とを比べる際に利用されることが多い。
【0069】
操作受付部20は、画像表示領域120に表示された内視鏡画像に対して、比較表示領域124での表示を指示するユーザのドラッグアンドドロップ操作を受け付ける。ドラッグアンドドロップ操作された内視鏡画像が、同時撮像画像群に含まれる画像であった場合、表示画像生成部26は表示優先順位にもとづいて、同時撮像画像群から、設定された表示枚数の内視鏡画像を選択して、当該内視鏡画像を並べた比較表示領域124を含む表示画像を生成し、表示装置12に表示させる。
図14には、内視鏡画像130aが比較表示領域124にドラッグアンドドロップ操作され、比較表示領域124に内視鏡画像130aと内視鏡画像130bが並べて表示されている状態が示される。なお、同じ同時撮像画像群に含まれる内視鏡画像130bと内視鏡画像130cのうち、内視鏡画像130cの表示優先順位が高ければ、内視鏡画像130aの隣には内視鏡画像130bが表示される。
【0070】
以上のように実施例の医療支援システム1は、同時撮像モードにおいて撮像された複数の内視鏡画像の表示枚数を、表示モードに応じて変更できる。そのためユーザは、適切な表示モードを設定することで、画像診断を効率的に行うことができる。
【0071】
なおモード設定部24は、様々なパラメータを参照して、最初に設定する表示モードを自動で定めてもよい。モード設定部24は、検査項目、医師情報、同時撮像枚数割合の少なくとも1つにもとづいて表示モードを設定してもよい。たとえば教育目的の観点から、検査項目、医師情報、同時撮像枚数割合のそれぞれにランクを設定し、モード設定部24は、各項目のランク値の合計から、最初に設定する表示モードを自動設定してよい。
【0072】
図15(a)は、検査項目のランクテーブルの例を示し、
図15(b)は、医師勤続年数のランクテーブルの例を示し、
図15(c)は、同時撮像枚数割合のランクテーブルの例を示す。これらのランクテーブルは、記憶装置(図示せず)に記憶されている。同時撮像枚数割合は、検査で撮像した内視鏡画像の総数に対して、同時撮像モードで撮像した内視鏡画像の枚数が占める割合である。モード設定部24は、検査項目、医師情報、同時撮像枚数割合の各ランク値を導出して、合計値を算出する。
【0073】
図16は、ランク合計値と表示モードを対応付けた対応テーブルの例を示す。この対応テーブルは、記憶装置(図示せず)に記憶されている。モード設定部24は、ランク合計値を算出すると、対応テーブルから、一覧表示モードおよび拡大表示モードを設定してよい。たとえばランク合計値が8~9と算出される検査は、研修医などの経験の少ない医師が行った検査であることが想定されるが、モード設定部24は、一覧表示モードを「追加画像非表示モード」にデフォルト設定する。これにより経験の少ない医師が、基準画像のみを用いて診断するトレーニングを積むことができるようになる。なお、この医師が画像表示領域120に表示されている内視鏡画像130をダブルクリック操作すると、表示画像生成部26は、
図11に示すように、同時撮像画像群に含まれる2枚の内視鏡画像を拡大して表示する。このように経験の少ない医師に対しては、追加画像非表示モードから編集モードに遷移した場合に、比較表示の表示態様で内視鏡画像を並べて表示することで、医師の診断能力の向上および効率的な診断に寄与できる。
【0074】
以上、本開示を複数の実施例をもとに説明した。これらの実施例は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本開示の範囲にあることは当業者に理解されるところである。実施例において内視鏡システム3は、「通常撮像モード」と「同時撮像モード」を搭載しているが、変形例において内視鏡システム3は、少なくとも「同時撮像モード」を搭載していればよく、「通常撮像モード」を搭載していなくてもよい。
【産業上の利用可能性】
【0075】
本開示は、内視鏡画像を表示する技術分野に利用できる。
【符号の説明】
【0076】
1・・・医療支援システム、2・・・ネットワーク、3・・・内視鏡システム、4・・・内視鏡観察装置、5・・・表示装置、6・・・内視鏡、8・・・画像蓄積サーバ、10・・・情報処理装置、12・・・表示装置、14・・・入力部、20・・・操作受付部、22・・・画像取得部、24・・・モード設定部、26・・・表示画像生成部、28・・・優先順位設定部、30・・・画像記憶部。