IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 国立大学法人 東京大学の特許一覧 ▶ 一般社団法人気道疾患研究会の特許一覧

特開2024-80531情報処理システム、プログラム及び情報処理方法
<>
  • 特開-情報処理システム、プログラム及び情報処理方法 図1
  • 特開-情報処理システム、プログラム及び情報処理方法 図2
  • 特開-情報処理システム、プログラム及び情報処理方法 図3
  • 特開-情報処理システム、プログラム及び情報処理方法 図4
  • 特開-情報処理システム、プログラム及び情報処理方法 図5
  • 特開-情報処理システム、プログラム及び情報処理方法 図6
  • 特開-情報処理システム、プログラム及び情報処理方法 図7
  • 特開-情報処理システム、プログラム及び情報処理方法 図8
  • 特開-情報処理システム、プログラム及び情報処理方法 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024080531
(43)【公開日】2024-06-13
(54)【発明の名称】情報処理システム、プログラム及び情報処理方法
(51)【国際特許分類】
   A61B 1/045 20060101AFI20240606BHJP
   G06T 7/00 20170101ALI20240606BHJP
   G06T 7/70 20170101ALI20240606BHJP
   A61B 1/00 20060101ALI20240606BHJP
   A61B 1/267 20060101ALI20240606BHJP
【FI】
A61B1/045 623
G06T7/00 612
G06T7/70 Z
A61B1/00 552
A61B1/267
A61B1/045 614
A61B1/045 620
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022193813
(22)【出願日】2022-12-02
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和4年度、国立研究開発法人日本医療研究開発機構、革新的がん医療実用化研究事業「気管支鏡下肺マッピングを利用した革新的精密肺がん縮小手術治療法の創成」委託研究開発、産業技術力強化法第17条第1項の規定の適用を受ける特許出願
(71)【出願人】
【識別番号】504137912
【氏名又は名称】国立大学法人 東京大学
(71)【出願人】
【識別番号】522504215
【氏名又は名称】一般社団法人気道疾患研究会
(74)【代理人】
【識別番号】110002789
【氏名又は名称】弁理士法人IPX
(72)【発明者】
【氏名】佐藤 雅昭
(72)【発明者】
【氏名】山本 一道
(72)【発明者】
【氏名】ムハッマド ワッヌース
(72)【発明者】
【氏名】フランシスコ ラモサ
【テーマコード(参考)】
4C161
5L096
【Fターム(参考)】
4C161AA07
4C161HH55
4C161WW04
4C161WW13
5L096BA06
5L096BA13
5L096CA25
5L096DA01
5L096FA09
5L096FA10
5L096FA53
5L096FA67
5L096FA69
5L096GA53
5L096HA04
(57)【要約】
【課題】内部検査を行うスコープを使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援する情報処理システム等を提供すること。
【解決手段】本発明の一態様によれば、情報処理システムが提供される。この情報処理システムでは、次の各ステップがなされるようにプログラムを実行可能なプロセッサを備える。取得ステップでは、目的地までスコープを通過させる経路を少なくとも含む経路情報を取得する。スコープは、その先端にカメラを備え、カメラは、目的地までの経路の態様を被写体として撮像するように構成される。推定ステップでは、カメラの姿勢を推定する。出力ステップでは、経路情報と姿勢とに基づいて、ユーザの、目的地までの正しい経路の把握を支援するガイド情報を出力する。
【選択図】図9
【特許請求の範囲】
【請求項1】
情報処理システムであって、
次の各ステップがなされるようにプログラムを実行可能なプロセッサを備え、
取得ステップでは、目的地までスコープを通過させる経路を少なくとも含む経路情報を取得し、ここで前記スコープは、その先端にカメラを備え、前記カメラは、前記目的地までの前記経路の態様を被写体として撮像するように構成され、
推定ステップでは、前記カメラの姿勢を推定し、
出力ステップでは、前記経路情報と前記姿勢とに基づいて、ユーザの、前記目的地までの正しい経路の把握を支援するガイド情報を出力する、もの。
【請求項2】
請求項1に記載の情報処理システムにおいて、
前記出力ステップでは、前記被写体に前記経路中の分岐点が含まれる場合に、前記ガイド情報を出力する、もの。
【請求項3】
請求項2に記載の情報処理システムにおいて、
前記ガイド情報は、前記分岐点での正解の経路を示す、もの。
【請求項4】
請求項3に記載の情報処理システムにおいて、
前記経路情報は、前記目的地までの前記分岐点の個数を含み、
前記出力ステップでは、前記分岐点の登場回数又は通過回数に基づいて、前記ガイド情報を出力する、もの。
【請求項5】
請求項1に記載の情報処理システムにおいて、
さらに、受付ステップでは、前記カメラによって撮像された画像を受け付け、
前記推定ステップでは、前記画像のオプティカルフローを逐次算出することで、前記姿勢を推定する、もの。
【請求項6】
請求項1に記載の情報処理システムにおいて、
前記姿勢は、前記スコープのロール角である、もの。
【請求項7】
請求項1に記載の情報処理システムにおいて、
前記ガイド情報は、前記ユーザが視認可能な情報である、もの。
【請求項8】
請求項7に記載の情報処理システムにおいて、
さらに、
受付ステップでは、前記カメラによって撮像された第1の画像を受け付け、
表示制御ステップでは、前記第1の画像に前記ガイド情報を重畳した第2の画像を表示させる、もの。
【請求項9】
請求項1に記載の情報処理システムにおいて、
前記経路は、体内に関する経路であり、
前記経路情報は、予め医用画像診断装置によって取得された医用画像データ、又は前記医用画像データに基づいて生成された二次データに含まれる、もの。
【請求項10】
請求項1に記載の情報処理システムにおいて、
前記スコープは、6mm以下の直径を有する、もの。
【請求項11】
請求項1に記載の情報処理システムにおいて、
前記スコープは、気管支鏡である、もの。
【請求項12】
請求項1に記載の情報処理システムにおいて、
情報処理装置と、前記スコープとをさらに備え、
前記情報処理装置は、前記プロセッサを備え、
前記スコープは、前記情報処理装置に接続され、前記カメラによって撮像された画像を前記情報処理装置に送信するように構成される、もの。
【請求項13】
プログラムであって、
コンピュータに、請求項1~請求項12の何れか1つに記載の情報処理システムの各ステップを実行させる、もの。
【請求項14】
情報処理方法であって、
請求項1~請求項12の何れか1つに記載の情報処理システムの各ステップを備える、方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム、プログラム及び情報処理方法に関する。
【背景技術】
【0002】
特許文献1には、スコープの一例である内視鏡に関し、内視鏡画像を用いた内視鏡動作の支援を可能とする技術が開示されている。この内視鏡画像処理システムは、取得された内視鏡画像を学習済みモデルに対して与えることで取得された領域指定データに基づいて、当該内視鏡画像内のその領域指定データで指定される画像領域に関する内視鏡のガイド情報をその内視鏡画像に付加した表示を出力する出力処理手段とを備えており、当該学習済みモデルは、各教師用内視鏡画像に対して領域指定データの正解をそれぞれ関連付けた複数の教師データを用いて機械学習されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2021-048928号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に開示される技術では、気管支等、経路に分岐点がある場合が考慮されていない。内視鏡等のスコープを用いた検査において、経路に分岐点がある場合、医師等のユーザは、目的地に通じる正しい経路をスコープに設けられたカメラの画像を目視して、適切に選択する必要があり、負担を強いられている。
【0005】
本発明では上記事情を鑑み、内部検査を行うスコープを使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援する情報処理システム等を提供することとした。
【課題を解決するための手段】
【0006】
本発明の一態様によれば、情報処理システムが提供される。この情報処理システムでは、次の各ステップがなされるようにプログラムを実行可能なプロセッサを備える。取得ステップでは、目的地までスコープを通過させる経路を少なくとも含む経路情報を取得する。スコープは、その先端にカメラを備え、カメラは、目的地までの経路の態様を被写体として撮像するように構成される。推定ステップでは、カメラの姿勢を推定する。出力ステップでは、経路情報と姿勢とに基づいて、ユーザの、目的地までの正しい経路の把握を支援するガイド情報を出力する。
【0007】
このような態様によれば、内部検査を行うスコープを使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援することができる。
【図面の簡単な説明】
【0008】
図1】本実施形態に係る情報処理システム1を表す構成図である。
図2】情報処理装置4のハードウェア構成を示すブロック図である。
図3】本実施形態に係る情報処理装置4における制御部43等によって実現される機能を示すブロック図である。
図4】気管支鏡3を用いた患者Pの肺P1内部の検査の態様を表す概要図である。
図5】本実施形態に係る情報処理システム1によって実行される情報処理の流れを示すアクティビティ図である。
図6】オプティカルフローOFを説明するための概要図である。
図7】分岐点7の通し番号Nと、正解の経路とをまとめたルックアップテーブル6を示している。
図8】カメラ32によって撮像され且つ表示部44に表示された画像IM1の一例を示す概要図である。
図9】ガイド情報Gの一例を示す概要図であり、特に図9Aは、正解の経路を示すガイド情報G1を示し、図9Bは、被写体Sbの向きを示すガイド情報G2を示している。
【発明を実施するための形態】
【0009】
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。
【0010】
ところで、本実施形態に登場するソフトウェアを実現するためのプログラムは、コンピュータが読み取り可能な非一時的な記録媒体(Non-Transitory Computer-Readable Medium)として提供されてもよいし、外部のサーバからダウンロード可能に提供されてもよいし、外部のコンピュータで当該プログラムを起動させてクライアント端末でその機能を実現(いわゆるクラウドコンピューティング)するように提供されてもよい。
【0011】
また、本実施形態において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、例えば電圧・電流を表す信号値の物理的な値、0又は1で構成される2進数のビット集合体としての信号値の高低、又は量子的な重ね合わせ(いわゆる量子ビット)によって表され、広義の回路上で通信・演算が実行されうる。
【0012】
また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。
【0013】
[実施形態]
1.ハードウェア構成
本節では、本実施形態のハードウェア構成について説明する。
【0014】
1.1 情報処理システム1
図1は、本実施形態に係る情報処理システム1を表す構成図である。本実施形態において、情報処理システム1は、医用画像診断装置2と、気管支鏡3と、情報処理装置4とを備える。ここで、情報処理システム1に例示されるシステムとは、1つ又はそれ以上の装置又は構成要素からなるものを含む。したがって、情報処理装置4単体であっても情報処理システム1に例示されるシステムに含まれる。あるいは、情報処理システム1が、情報処理装置4と、スコープの一例である気管支鏡3とを備えるシステムであってもよい。かかる場合、情報処理装置4は、プロセッサの一例である制御部43を備える。気管支鏡3は、情報処理装置4に接続され、カメラ32によって撮像された画像IM1を情報処理装置4に送信するように構成される。以下、情報処理システム1に含まれる各構成要素についてさらに説明する。
【0015】
1.2 医用画像診断装置2
医用画像診断装置2は、被検体(後述の患者P)を撮影する装置である。医用画像診断装置2は、通信部21と、撮像部22とを備える。医用画像診断装置2は、後述の情報処理装置4と通信ネットワーク11を介して接続され、撮像された医用画像データMDを、通信部21を介して情報処理装置4に送信可能に構成される。なお、医用画像診断装置2と情報処理装置4とを直接接続するように実施してもよい。医用画像診断装置2には、例えば、X線CTスキャナ、X線診断装置、超音波診断装置、磁気共鳴イメージング装置等が該当しうる。
【0016】
1.3 気管支鏡3
気管支鏡3は、スコープの一例である。気管支鏡3は、長尺に構成されたケーブル部31を備える。ケーブル部31の一端は、後述の情報処理装置4における通信部41と接続されている。また、気管支鏡3は、その先端にカメラ32を備える。より具体的には、気管支鏡3は、前述したケーブル部31の一端に対する他端にカメラ32を備え、カメラ32は、目的地までの、体内に関する経路の態様を被写体Sbとして撮像するように構成される。このような構成により、カメラ32が撮像した画像IM1が、ケーブル部31の内部導線(不図示)及び通信部41を介して情報処理装置4に送信される。
【0017】
カメラ32は、可視光領域を撮像可能なカメラでもよいし、赤外光等の可視光以外の領域を撮像可能なカメラでもよい。カメラ32は、時系列の動画像を撮像可能に構成されるとよく、そのフレームレートは、例えば、10fps以上であり、好ましくは30fps以上であり、さらに好ましくは60fps以上である。フレームレートは、具体的には例えば、10,20,30,40,50,60,70,80,90,100,110,120,130,140,150,160,170,180,190,200,210,220,230,240,250fpsであり、ここで例示した数値の何れか2つの間の範囲内であってもよい。
【0018】
1.4 情報処理装置4
図2は、情報処理装置4のハードウェア構成を示すブロック図である。情報処理装置4は、通信部41と、記憶部42と、制御部43と、表示部44と、入力部45とを有し、これらの構成要素が情報処理装置4の内部において通信バス40を介して電気的に接続されている。各構成要素についてさらに説明する。
【0019】
通信部41は、USB、IEEE1394、Thunderbolt(登録商標)、有線LANネットワーク通信等といった有線型の通信手段が好ましいものの、無線LANネットワーク通信、3G/LTE/5G等のモバイル通信、Bluetooth(登録商標)通信等を必要に応じて含めてもよい。すなわち、これら複数の通信手段の集合として実施することがより好ましい。すなわち、情報処理装置4は、通信部41及び通信ネットワーク11を介して、外部から種々の情報を通信してもよい。
【0020】
記憶部42は、前述の記載により定義される様々な情報を記憶する。これは、例えば、制御部43によって実行される情報処理装置4に係る種々のプログラム等を記憶するソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして、あるいは、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとして実施されうる。記憶部42は、制御部43によって実行される情報処理装置4に係る種々のプログラムや変数等を記憶している。
【0021】
制御部43は、情報処理装置4に関連する全体動作の処理・制御を行う。制御部43は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部43は、記憶部42に記憶された所定のプログラムを読み出すことによって、情報処理装置4に係る種々の機能を実現する。すなわち、記憶部42に記憶されているソフトウェアによる情報処理が、ハードウェアの一例である制御部43によって具体的に実現されることで、制御部43に含まれる各機能部として実行されうる。これらについては、次節においてさらに詳述する。なお、制御部43は単一であることに限定されず、機能ごとに複数の制御部43を有するように実施してもよい。またそれらの組合せであってもよい。すなわち、制御部43は、後述の各部として機能させるプログラムを実行可能なプロセッサの一例である。
【0022】
表示部44は、例えば、情報処理装置4の筐体に含まれるものであってもよいし、外付けされるものであってもよい。表示部44は、ユーザが操作可能なグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示する。これは例えば、CRTディスプレイ、液晶ディスプレイ、有機ELディスプレイ及びプラズマディスプレイ等の表示デバイスを、情報処理装置4の種類に応じて使い分けて実施することが好ましい。
【0023】
入力部45は、情報処理装置4の筐体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、入力部45は、表示部44と一体となってタッチパネルとして実施されてもよい。タッチパネルであれば、ユーザは、タップ操作、スワイプ操作等を入力することができる。もちろん、タッチパネルに代えて、スイッチボタン、マウス、QWERTYキーボード等を採用してもよい。すなわち、入力部45がユーザによってなされた操作入力を受け付ける。当該入力が命令信号として、通信バス40を介して制御部43に転送され、制御部43が必要に応じて所定の制御や演算を実行しうる。
【0024】
2.機能構成
本節では、本実施形態の機能構成について説明する。前述の通り、記憶部42に記憶されているソフトウェアによる情報処理がハードウェアの一例である制御部43によって具体的に実現されることで、制御部43に含まれる各機能部が実行されうる。
【0025】
図3は、本実施形態に係る情報処理装置4における制御部43等によって実現される機能を示すブロック図である。具体的には、情報処理装置4は、取得部431と、受付部432と、画像処理部433と、推定部434と、演算部435と、出力部436とを備える。
【0026】
取得部431は、通信部41を介して外部から受け付けたか又は予め記憶部42に記憶されたかの、種々の情報を取得するように構成される。例えば、取得部431は、医用画像診断装置2から、患者Pの3次元情報を有するか又は3次元情報を復元可能かの、DICOMデータ等の医用画像データMDを取得してもよい。取得部431は、取得ステップとして、患者Pの体内において、例えばガン細胞P3等の目的地まで気管支鏡3を通過させる経路を少なくとも含む経路情報Rを取得してもよい(図4参照)。詳細は後述する。
【0027】
受付部432は、種々の情報を受け付けるように構成される。例えば、受付部432は、受付ステップとして、気管支鏡3の先端に設けられたカメラ32によって撮像された画像IM1を受け付けてもよい。
【0028】
画像処理部433は、受付部432が受け付けた画像IM1に対して、種々の画像処理を実行可能に構成される。例えば、画像処理部433は、画像IM1のオプティカルフローOFを逐次算出してもよい。
【0029】
推定部434は、現在のカメラ32の姿勢を推定するように構成される。好ましくは、画像処理部433によって算出されたオプティカルフローOFに基づいて、カメラ32の姿勢を推定してもよい。詳細は後述する。
【0030】
演算部435は、種々の演算を実行するように構成される。例えば、演算部435は、予め分岐点7(図4及び図8参照)の形態を学習させた学習済みモデルに画像IM1を入力することで、画像IM1の被写体Sbに分岐点7が含まれるか否かを判定してもよい。なお、このような学習済みモデルは、記憶部42に予め記憶されているとよい。
【0031】
出力部436は、演算部435での演算結果等、種々の情報を出力するように構成される。例えば、出力部436は、ユーザの、目的地までの正しい経路の把握を支援するガイド情報Gを出力してもよい。さらに出力部436は、表示制御ステップとして、種々の表示情報を生成して、ユーザが視認可能な表示内容を制御するように構成される。表示情報とは、画面、画像、アイコン、テキスト等といった、ユーザが視認可能な態様で生成された視覚情報そのものでもよいし、例えば表示部44に画面、画像、アイコン、テキスト等を表示させるためのレンダリング情報であってもよい。
【0032】
3.情報処理方法
本節では、前述した情報処理システム1の情報処理方法について説明する。この情報処理方法は、情報処理システム1が実行する各ステップを備える。図4は、気管支鏡3を用いた患者Pの肺P1内部の検査の態様を表す概要図である。図示の通り、患者Pは、肺P1の所定の位置においてガン細胞P3を有しており、ガン細胞P3の位置は、予め実施された医用画像診断装置2による医用画像診断から既知であるとする。気管支鏡3が気管支P2内に挿通されることで、検査が実行される。特に、気管支P2は、食道や種々の腸とは異なり、複数の分岐点7を有している。以下では、医師であるユーザが、医用画像診断装置2を用いて患者Pの医用画像データMDを取得するとともに、この医用画像データMDに基づいて得られた経路情報Rに基づき、気管支鏡3を用いて患者Pの肺P1の内部を検査する場合を想定する。
【0033】
3.1 情報処理の概要
図5は、本実施形態に係る情報処理システム1によって実行される情報処理の流れを示すアクティビティ図である。先に、図5の各アクティビティに沿って、情報処理の流れを概説する。
【0034】
まず、気管支鏡3を用いた検査で用いられる経路情報Rの事前取得に関し、アクティビティA001~A003を説明する。医師であるユーザは、医用画像診断装置2を用いて患者Pの医用画像データMDを取得する。換言すると、医用画像診断装置2における撮像部22が患者Pを撮像することで、医用画像データMDが生成される(アクティビティA001)。
【0035】
医用画像診断装置2は、前述した通り、X線CTスキャナ、磁気共鳴イメージング装置等が一例として該当する。例えば、医用画像診断装置2がX線CTスキャナであれば、X線検出器が不図示のX線管から照射されたX線を検出し、当該X線量に対応した検出データを電気信号として不図示のDASに出力する。そして、X線管とX線検出器とを対向させて支持する不図示の回転フレームを被検体の周りに回転させることで、複数ビュー、すなわち被検体の全周囲分の検出データが収集される。このようにして、連続断層画像である医用画像データMDが得られる。
【0036】
続いて、生成された医用画像データMDが通信ネットワーク11及び通信部41を介して情報処理装置4に取り込まれる。医用画像データMDは、情報処理装置4の記憶部42に記憶される。このようにして、情報処理装置4が医用画像データMDを取得する(アクティビティA002)。
【0037】
続いて、情報処理装置4における演算部435が、予め定められたプログラムを用いて医用画像データMDに所定の情報処理を実行し、二次データSDを生成する。二次データSDは、情報処理装置4の記憶部42に記憶される。例えば、二次データSDは、連続断層画像である医用画像データMDを再合成して得られる、体内の三次元モデルであってよい。好ましくは、二次データSDは、例えばガン細胞P3等の目的地まで気管支鏡3を通過させる経路を少なくとも含む経路情報Rを含む。換言すると、経路情報Rは、予め医用画像診断装置2によって取得された医用画像データMDに基づいて生成された二次データSDに含まれる。このような態様によれば、既存の医用画像診断装置2を用いた実施が可能となり、ユーザビリティの高い情報処理システム1を実現することができる。
【0038】
次に、気管支鏡3を用いた患者Pの体内の検査に関して、アクティビティA004以降のステップを説明する。患者Pを気管支鏡3で検査するにあたって、情報処理装置4における制御部43が、記憶部42に記憶された二次データSDに含まれる経路情報Rを読み出す(アクティビティA004)。換言すると、取得部431は、取得ステップとして、目的地まで気管支鏡3を通過させる経路を少なくとも含む経路情報Rを取得する。ここで、好ましくは、経路情報Rは、目的地までの分岐点7の個数を含む。分岐点7の個数は、経路が二股や三股に分かれている場面ごとに、1つの分岐点7とカウントされるとよい。
【0039】
経路情報Rの読出が完了すると、気管支鏡3による検査が実行される。気管支鏡3の先端に設けられたカメラ32は、外界の態様を画像IM1(第1の画像の一例)として撮像する。つまり、ユーザによって気管支鏡3が患者Pの体内に挿入されると、カメラ32は、目的地までの経路の態様を被写体Sbとして撮像する(アクティビティA005)。一方、受付部432は、受付ステップとして、カメラ32によって撮像された画像IM1を受け付け、記憶部42の一時メモリに情報を書き出す。撮像は、前述したフレームレートで逐次行われるが、以下、ある時刻に撮像された画像IM1(フレーム)に関してさらに説明を行う。
【0040】
続いて、画像処理部433は、受付部432が受け付けた画像IM1に対して、予め定められた画像処理プログラムを実行することで、画像IM1に含まれる特徴点を抽出するとともに、そのオプティカルフローOFを演算する(アクティビティA006)。複数の特徴点に対してオプティカルフローOFを逐次演算することで、推定部434は、推定ステップとして、現在のカメラ32の姿勢を推定することができる(アクティビティA007)。オプティカルフローOFの演算については、図6を参照しながら後に詳述する。好ましくは、カメラ32の姿勢は、気管支鏡3(スコープの一例)のロール角αである(図9参照)。このような態様によれば、別途のセンサを設けることなく、カメラ32の姿勢を推定することが可能となり、気管支鏡3のような小型なスコープに適した技術を提供することができる。
【0041】
一方、アクティビティA006及びA007に係るステップと並行して、演算部435は、気管支鏡3の先端が分岐点7に到達しているか否かを判定するとよい。具体的には、演算部435は、予め分岐点7(図8参照)の形態を学習させた学習済みモデルに画像IM1を入力することで、画像IM1の被写体Sbに分岐点7が含まれるか否かを判定する。分岐点7が含まれると判定された場合、演算部435は、目的地までの分岐点7のうち何番目の分岐点7であるかを特定する(アクティビティA008)。
【0042】
経路情報Rと現在の分岐点7とを突合させることで、情報処理装置4の制御部43は、分岐点7における正解の経路を把握することができる。この際、ユーザが表示部44を介して視認可能な画像IM1は、カメラ32のロール角αだけ回転して表示されているため、ユーザが正しい経路を選択する際に混乱をきたす原因となりうる。これを抑制するため、出力部436は、出力ステップとして、経路情報Rとロール角α(姿勢)とに基づいて、ユーザの、目的地までの正しい経路の把握を支援するガイド情報Gを出力する。好ましくは、ガイド情報Gは、ユーザが視認可能な情報であり、画像IM1に重畳されて表示部44に表示されるとよい(アクティビティA009)。このような態様によれば、ユーザが視覚的に正しい経路を把握することができる。
【0043】
アクティビティA005~A009に示されるステップは、患者Pの検査中において継続的に行われるとよい。
【0044】
以上をまとめると、本実施形態に係る情報処理システム1は、次の各部として機能させるプログラムを実行可能な制御部43(プロセッサの一例)を備える。取得部431は、取得ステップとして、目的地まで気管支鏡3(スコープの一例)を通過させる経路を少なくとも含む経路情報Rを取得する。気管支鏡3(スコープの一例)は、その先端にカメラ32を備え、カメラ32は、目的地までの経路の態様を被写体Sbとして撮像するように構成される。推定部434は、推定ステップとして、カメラ32の姿勢を推定する。出力部436は、出力ステップとして、経路情報Rと姿勢とに基づいて、ユーザの、目的地までの正しい経路の把握を支援するガイド情報Gを出力する。
【0045】
このような態様によれば、内部検査を行うスコープ、例えば気管支鏡3を使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援することができる。
【0046】
3.2 情報処理の詳細
続いて、先に概説した情報処理の詳細を、図6以降を参照して補足する。
【0047】
(オプティカルフローOF)
オプティカルフローOFとは、過去のフレームにおける特徴点を始点とし、現在のフレームにおける特徴点と比較して所定の条件を満たす点(推定移動先)を終点とするベクトルである。オプティカルフローOFは、画像中における対象物の動きを表す指標として一般的に用いられる。特に、オプティカルフローOFは、例えばLucas Kanade法によって計算コストを抑えて演算可能である。
【0048】
図6は、オプティカルフローOFを説明するための概要図である。図6では、過去フレームに係る画像IM1と、現フレームに係る画像IM1とが重ねて図示されている。つまり、過去フレームの特徴点51a,52a,53aと、現フレームの特徴点51b,52b,53bとがともに図示されている。過去フレームの特徴点51aと現フレームの特徴点51bとが対応する特徴点であり、過去フレームの特徴点52aと現フレームの特徴点52bとが対応する特徴点であり、過去フレームの特徴点53aと現フレームの特徴点53bとが対応する特徴点である。そして、オプティカルフローOFとして、オプティカルフロー51u,52u,53uがそれぞれ算出されている。
【0049】
このようにして得られたオプティカルフローOFにより、演算部435は、並進成分と、回転成分と、拡大縮小率とを算出することができる。すなわち、カメラ32の姿勢であるロール角αが既知の状態である時刻t=0から始めて、複数の特徴点に対してオプティカルフローOFを逐次演算することで、現在のカメラ32のロール角αを情報処理装置4が継続的に把握することができる。換言すると、推定部434は、画像IM1のオプティカルフローOFを逐次算出することで、カメラ32の姿勢の一例であるロール角αを推定する。このような態様によれば、別途のセンサを設けることなく、カメラ32の姿勢を推定することが可能となり、気管支鏡3のような小型なスコープに適した技術を提供することができる。
【0050】
オプティカルフローOFに関して、より具体的には、以下の通りである。オプティカルフローOFでは、各フレームで横断的に特徴を検出し、フレーム間で特徴の対応関係を確立する。このステップをロバストにするためには、特徴(より具体的には、特徴の記述)が回転、スケーリング及び並進に対して不変であること、あるいは、特徴及びその記述子が、同じ点の正確なマッチングを保証するために十分に安定であることが必要である。
【0051】
例えば、KAZE検出器/記述子は、視点が変更されても同じ特徴を確実に照合可能に、安定した動作を有する。かかる安定な照合により、Structure from Motion(以下SfMと称する)を用いると、カメラの動きによって基線が定義される立体視カメラシステムと同等のものが構築されうる。つまり、点間の関係が定義され、エピポーラ制約と呼ばれる関係を有することとなる。この制約により、対応する点間の線形変換が決定され、基本行列Fが決定される。基本行列Fは、[数1]によって規定されてよい。
【数1】
【0052】
ここで、基本行列Fは、[数2]に示されるように、カメラの特性行列Mとカメラの回転行列Rと並進行列Sとに分解することができる。
【数2】
【0053】
特性行列Mは固有パラメータ行列(焦点距離、主点)であり、画素数で表した焦点距離(x,y方向)をf_x,f_y、主点の座標をo_x,o_yとして、[数3]のように与えられてよい。
【数3】
【0054】
回転行列Rはカメラの回転を示す直交行列であり、[数4]のように与えられてよい。
【数4】
【0055】
並進行列Sは、[数5]のように与えられてよい。
【数5】
【0056】
SfMの計算では、特徴検出器と記述子とがロバストであることが前提である。このアプローチのロバスト性を高めるために、いったん基本行列Fを計算したら、それを画像点に適用して、次のフレームにおける画像特徴の予測位置を計算してもよい。そして、予測された位置と計算された位置との誤差が閾値以上であれば、予測位置を不採用としてもよい。このようにして対応関係が強化されると、よりロバストな基本行列Fの推定を行うことができる。
【0057】
(分岐点7ごとの正解の経路)
図5に示されたアクティビティA008として前述したように、分岐点7が画像IM1の被写体Sbに含まれると判定された場合、演算部435は、目的地までの分岐点7のうち何番目の分岐点7であるかを特定する。二次データSDに含まれる経路情報Rは、目的地までの経路に関する情報として、目的地までに登場する分岐点7の個数と、各分岐点7における正解の経路とを含んでいる。
【0058】
図7は、分岐点7の通し番号Nと、正解の経路とをまとめたルックアップテーブル6を示している。ルックアップテーブル6は、項目61,62を含む。項目61には、分岐点7の通し番号Nが格納され、項目62には、各分岐点7における正解の経路が格納されている。具体的には、目的地までの経路中に分岐点7が9個ある場合が例示されている。また、正解の経路を示す情報として、ロール角αが0であった場合に画像IM1として映し出される2つの経路のうち、正解の経路が不正解の経路に対して相対的に位置する方向が格納されている。出力部436は、分岐点7の登場回数又は通過回数である通し番号Nに基づいて、ユーザの、前記目的地までの正しい経路の把握を支援するガイド情報Gを出力するとよい。このような態様によれば、経路中のどの分岐点7であるかを容易に特定可能となり、適切なガイド情報Gを出力することができる。
【0059】
好ましくは、演算部435が画像IM1の被写体Sbに分岐点7が含まれると判定したフレームが連続して所定数カウントされた場合に、分岐点7の登場回数を更新するとよい。同様に、演算部435が画像IM1の被写体Sbに分岐点7が含まれないと判定したフレームが連続して所定数カウントされた場合に、真に分岐点7が画像IM1の被写体Sbに含まれないと判断させてもよい。このような構成とすることで、認識エラーによるカウントミスを防止することができ、ユーザに正解の経路を適切に提示することができる。
【0060】
(ガイド情報Gの一例)
図8は、カメラ32によって撮像され且つ表示部44に表示された画像IM1の一例を示す概要図である。画像IM1には、被写体Sbとして、二股の分岐点7が含まれている。分岐点7は、2つの経路71,72を有している。ガイド情報Gが出力されない場合は、ユーザは、分岐点7の登場回数に注意を払うとともに、予め得られた医用画像データMD又は二次データSDを参照して、正解の経路を選択する必要がある。このとき、ロール角αが既知でない場合、医用画像データMD又は二次データSDに基づいて判断された正解の経路が「上」(ロール角αは0と仮定)であったとしても、実際の現在のロール角αがπ(180度)であり、画像IM1としては下方に視認される経路72が正解である、といった状況が往々にしてある。そのため、ユーザは、気管支鏡3を動かしながら経験に基づいて現在のロール角αを推定するとともに、経路の形状の微妙な差異等も加味して、正解の経路を選択することとなる。
【0061】
図9は、ガイド情報Gの一例を示す概要図であり、特に図9Aは、正解の経路を示すガイド情報G1を示し、図9Bは、被写体Sbの向きを示すガイド情報G2を示している。図9Aに示されるように、出力部436は、被写体Sbに経路中の分岐点7が含まれる場合に、ガイド情報Gを出力する。好ましくは、ガイド情報Gは、分岐点7での正解の経路を示すガイド情報G1である。図9Aにおけるガイド情報G1は、矢印状のマーカであるが、正解の経路を示すなんらかの情報であれば、特に限定されない。例えば、「右」や「左」といった方向を示すアノテーションが付されてもよい。このような態様によれば、ユーザが選択を迫られる分岐点7に到達したタイミングで、ユーザが正しい経路を選択することの支援をすることができる。特に、ガイド情報G1のような態様であれば、ユーザは正しい経路を直接把握することができる。
【0062】
特に好ましくは、図9Aに示されるように、出力部436が、表示制御ステップとして、カメラ32が捉える被写体Sbを含む画像IM1にガイド情報G(例えば、正解の経路を示すガイド情報G1)を重畳した画像IM2(第2の画像の一例)を表示部44に表示させるとよい。このような態様によれば、ユーザがより直感的に正しい経路を把握することができる。もちろん、重畳させずに、異なる表示部44又は同一の表示部44内の異なる表示領域にそれぞれ表示させてもよい。
【0063】
[その他]
前述の各実施形態に係る情報処理システム1に関して、以下のような態様を採用してもよい。
【0064】
情報処理システム1又は情報処理装置4の構成に代えて又はこれとともに、コンピュータに、情報処理システム1の各ステップを実行させるプログラムが提供されてもよい。
【0065】
情報処理システム1に、医用画像診断装置2、気管支鏡3又は情報処理装置4以外の構成要素が含まれてもよい。例えば、情報処理装置4と、不図示の入力装置と、不図示の表示装置とからなる情報処理システム1が実施されてもよい。これらの接続方法は特に限定されず、インターネットを介して行うサービス(いわゆるSaaS:Software as a Service)が提供されてもよい。
【0066】
情報処理システム1における情報処理装置4の機能を医用画像診断装置2に内蔵させてもよい。
【0067】
分岐点7を判定するにあたって、前述した学習済みモデルに代えて、テンプレートマッチング等のルールベースの画像処理アルゴリズムが採用されてもよい。
【0068】
本実施形態では、被写体Sbに経路中の分岐点7が含まれる場合に、出力部436が正解の経路を示すガイド情報G1を出力し、表示部44に表示させる場合を説明したが、正解の経路を示すガイド情報G1を出力せずに、図9Bに示されるような被写体Sbの向きを示すガイド情報G2だけを出力し、表示部44に表示させてもよい。ガイド情報G2は、既知の状態でのロール角αを0と設定し、その状態からどれだけ回転しているかが把握可能なベクトル図となっているとよい。例えば、図9BにおけるA(0)は、ロール角αが0の場合の方向を示し、A(t)は現在のロール角αの方向を示している。もちろんこの態様に限らず、ロール角αだけを数値等で示す態様でもよい。また、被写体Sbに経路中の分岐点7が含まれる場合に限らず、常にガイド情報G2が表示されていてもよい。
【0069】
ガイド情報Gは、視覚情報に限らず、音声でもよいし触覚情報でもよい。正解の経路を示すガイド情報G1とも被写体Sbの向きを示すガイド情報G2とも異なる、何らかのガイド情報Gが出力されてもよい。例えば、気管支鏡3の先端が不正解の経路に侵入したことを検知した場合に、警告音を継続して出力するようにしてもよい。
【0070】
ロール角αを補正するように、出力部436が画像IM1又は画像IM2を回転して表示部44に表示させてもよい。
【0071】
本実施形態では、医用画像データMDに対して所定の情報処理を実行した二次データSDに経路情報Rが含まれるものとして説明したが、医用画像診断装置2によって生成された医用画像データMDそのものに経路情報Rが含まれていてもよい。すなわち、情報処理装置4が医用画像データMDを読み出して経路情報Rを取得するような形態が実施されてもよい。換言すると、経路情報Rは、予め医用画像診断装置2によって取得された医用画像データMDに含まれうる。
【0072】
医用画像診断装置2と接続される情報処理装置4と、気管支鏡3と接続される情報処理装置4とを異なるものとしてもよい。かかる場合、図5のアクティビティ図におけるアクティビティA003と、アクティビティA004との間に、2つの情報処理装置4間でデータを受け渡すステップが含まれることが好ましい。
【0073】
本実施形態では、スコープの一例として気管支鏡3を含む情報処理システム1を説明したが、気管支鏡3以外のスコープが採用されてもよい。例えば、配管の内部検査等に用いるスコープに対しても、本技術を適用することができる。好ましくは、スコープは、6mm以下の直径を有する。具体的には例えば、6,5.9,5.8,5.7,5.6,5.5,5.4,5.3,5.2,5.1,5,4.9,4.8,4.7,4.6,4.5,4.4,4.3,4.2,4.1,4,3.9,3.8,3.7,3.6,3.5,3.4,3.3,3.2,3.1,3,2.9,2.8,2.7,2.6,2.5,2.4,2.3,2.2,2.1,2,1.9,1.8,1.7,1.6,1.5,1.4,1.3,1.2,1.1,1mmであり、ここで例示した数値の何れか2つの間の範囲内であってもよい。このような小型なスコープは、カメラ32以外のセンサ等の構成要素が含まれないことが要求される。このような態様によれば、気管支鏡3以外にも精密なスコープを用いた実施が可能となり、ユーザビリティの高い情報処理システム1を実現することができる。
【0074】
さらに、次に記載の各態様で提供されてもよい。
【0075】
(1)情報処理システムであって、次の各ステップがなされるようにプログラムを実行可能なプロセッサを備え、取得ステップでは、目的地までスコープを通過させる経路を少なくとも含む経路情報を取得し、ここで前記スコープは、その先端にカメラを備え、前記カメラは、前記目的地までの前記経路の態様を被写体として撮像するように構成され、推定ステップでは、前記カメラの姿勢を推定し、出力ステップでは、前記経路情報と前記姿勢とに基づいて、ユーザの、前記目的地までの正しい経路の把握を支援するガイド情報を出力する、もの。
【0076】
このような態様によれば、内部検査を行うスコープを使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援することができる。
【0077】
(2)上記(1)に記載の情報処理システムにおいて、前記出力ステップでは、前記被写体に前記経路中の分岐点が含まれる場合に、前記ガイド情報を出力する、もの。
【0078】
このような態様によれば、ユーザが選択を迫られる分岐点に到達したタイミングで、ユーザが正しい経路を選択することの支援をすることができる。
【0079】
(3)上記(2)に記載の情報処理システムにおいて、前記ガイド情報は、前記分岐点での正解の経路を示す、もの。
【0080】
このような態様によれば、ユーザが選択を迫られる分岐点に到達したタイミングで、ユーザが正しい経路を直接把握することができる。
【0081】
(4)上記(3)に記載の情報処理システムにおいて、前記経路情報は、前記目的地までの前記分岐点の個数を含み、前記出力ステップでは、前記分岐点の登場回数又は通過回数に基づいて、前記ガイド情報を出力する、もの。
【0082】
このような態様によれば、経路中のどの分岐点であるかを容易に特定可能となり、適切なガイド情報を出力することができる。
【0083】
(5)上記(1)~(4)の何れか1つに記載の情報処理システムにおいて、さらに、受付ステップでは、前記カメラによって撮像された画像を受け付け、前記推定ステップでは、前記画像のオプティカルフローを逐次算出することで、前記姿勢を推定する、もの。
【0084】
このような態様によれば、別途のセンサを設けることなく、カメラの姿勢を推定することが可能となり、気管支鏡のような小型なスコープに適した技術を提供することができる。
【0085】
(6)上記(1)~(5)の何れか1つに記載の情報処理システムにおいて、前記姿勢は、前記スコープのロール角である、もの。
【0086】
このような態様によれば、別途のセンサを設けることなく、カメラの姿勢を推定することが可能となり、気管支鏡のような小型なスコープに適した技術を提供することができる。
【0087】
(7)上記(1)~(6)の何れか1つに記載の情報処理システムにおいて、前記ガイド情報は、前記ユーザが視認可能な情報である、もの。
【0088】
このような態様によれば、ユーザが視覚的に正しい経路を把握することができる。
【0089】
(8)上記(7)に記載の情報処理システムにおいて、さらに、受付ステップでは、前記カメラによって撮像された第1の画像を受け付け、表示制御ステップでは、前記第1の画像に前記ガイド情報を重畳した第2の画像を表示させる、もの。
【0090】
このような態様によれば、ユーザがより直感的に正しい経路を把握することができる。
【0091】
(9)上記(1)~(8)の何れか1つに記載の情報処理システムにおいて、前記経路は、体内に関する経路であり、前記経路情報は、予め医用画像診断装置によって取得された医用画像データ、又は前記医用画像データに基づいて生成された二次データに含まれる、もの。
【0092】
このような態様によれば、既存の医用画像診断装置を用いた実施が可能となり、ユーザビリティの高い情報処理システムを実現することができる。
【0093】
(10)上記(1)~(9)の何れか1つに記載の情報処理システムにおいて、前記スコープは、6mm以下の直径を有する、もの。
【0094】
このような態様によれば、精密なスコープを用いた実施が可能となり、ユーザビリティの高い情報処理システムを実現することができる。
【0095】
(11)上記(1)~(10)の何れか1つに記載の情報処理システムにおいて、前記スコープは、気管支鏡である、もの。
【0096】
このような態様によれば、気管支鏡を用いた検査や手術にあたって、ユーザである医師が正しい経路に沿って気管支鏡を進行させることを支援することができる。
【0097】
(12)上記(1)~(11)の何れか1つに記載の情報処理システムにおいて、情報処理装置と、前記スコープとをさらに備え、前記情報処理装置は、前記プロセッサを備え、前記スコープは、前記情報処理装置に接続され、前記カメラによって撮像された画像を前記情報処理装置に送信するように構成される、もの。
【0098】
このような態様によれば、内部検査を行うスコープを使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援することができる。
【0099】
(13)プログラムであって、コンピュータに、上記(1)~(12)の何れか1つに記載の情報処理システムの各ステップを実行させる、もの。
【0100】
このような態様によれば、内部検査を行うスコープを使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援することができる。
【0101】
(14)情報処理方法であって、上記(1)~(12)の何れか1つに記載の情報処理システムの各ステップを備える、方法。
【0102】
このような態様によれば、内部検査を行うスコープを使用するにあたって、ユーザが正しい経路に沿ってスコープを進行させることを支援することができる。
もちろん、この限りではない。
【0103】
最後に、本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0104】
1 :情報処理システム
11 :通信ネットワーク
2 :医用画像診断装置
21 :通信部
22 :撮像部
3 :気管支鏡
31 :ケーブル部
32 :カメラ
4 :情報処理装置
40 :通信バス
41 :通信部
42 :記憶部
43 :制御部
431 :取得部
432 :受付部
433 :画像処理部
434 :推定部
435 :演算部
436 :出力部
44 :表示部
45 :入力部
51a :特徴点
51b :特徴点
51u :オプティカルフロー
52a :特徴点
52b :特徴点
52u :オプティカルフロー
53a :特徴点
53b :特徴点
53u :オプティカルフロー
6 :ルックアップテーブル
61 :項目
62 :項目
7 :分岐点
71 :経路
72 :経路
G :ガイド情報
G1 :ガイド情報
G2 :ガイド情報
IM1 :画像
IM2 :画像
MD :医用画像データ
N :通し番号
OF :オプティカルフロー
P :患者
P1 :肺
P2 :気管支
P3 :ガン細胞
R :経路情報
SD :二次データ
Sb :被写体
α :ロール角
図1
図2
図3
図4
図5
図6
図7
図8
図9