(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024041065
(43)【公開日】2024-03-26
(54)【発明の名称】画像データ処理方法及び画像データ処理システム
(51)【国際特許分類】
G06V 10/44 20220101AFI20240318BHJP
G06T 7/00 20170101ALI20240318BHJP
【FI】
G06V10/44
G06T7/00 300D
【審査請求】未請求
【請求項の数】29
【出願形態】OL
(21)【出願番号】P 2023147866
(22)【出願日】2023-09-12
(31)【優先権主張番号】P 2022145065
(32)【優先日】2022-09-13
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】399126639
【氏名又は名称】日本ビジュアルサイエンス株式会社
(74)【代理人】
【識別番号】100093067
【弁理士】
【氏名又は名称】二瓶 正敬
(72)【発明者】
【氏名】滝 克彦
(72)【発明者】
【氏名】古賀 玄義
(72)【発明者】
【氏名】間杉 綾乃
(72)【発明者】
【氏名】芳賀 秀郷
(72)【発明者】
【氏名】梅原 郷人
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096BA06
5L096BA08
5L096BA13
5L096BA18
5L096CA24
5L096DA02
5L096FA09
5L096FA64
5L096FA66
5L096FA69
5L096GA38
5L096JA09
5L096JA25
(57)【要約】
【課題】画像中に映る撮像対象物の特徴点の指示を簡便に行うことを可能とする。
【解決手段】画像中に映る撮像対象物の特徴点の位置を指示するために本発明では、コンピュータにより、撮像対象物が撮像された画像データ20と、撮像対象物の上に重畳表示されて撮像対象物の上で移動可能なように配置された複数のマーカー40と、を含むテンプレート画像データ30を作成し、ディスプレイに表示されたテンプレート画像データ30において、複数のマーカー40のそれぞれを撮像対象物の特徴点の上に移動させて、撮像対象物の複数の特徴点の上に複数のマーカー40がそれぞれ配置された特徴点指定画像データ35を作成し、特徴点指定画像データ35において、撮像対象物の複数の特徴点の上に配置された複数のマーカー40の位置を検出する処理が行われる。
【選択図】
図2
【特許請求の範囲】
【請求項1】
画像中に映る撮像対象物の特徴点の位置を指示するためにコンピュータにより実行される画像データ処理方法であって、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成ステップと、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成ステップと、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出ステップと、
を有する画像データ処理方法。
【請求項2】
前記テンプレート画像データは、前記画像データを有するレイヤーの上に、前記複数のマーカーのそれぞれを有する複数のレイヤーが重なるレイヤー構造により構成されている請求項1に記載の画像データ処理方法。
【請求項3】
前記複数のマーカーに識別情報が割り当てられており、前記複数のマーカーが前記識別情報に対応した色の画素を含んで構成されている請求項1又は2に記載の画像データ処理方法。
【請求項4】
マーカー検出ステップにおいて、前記特徴点指定画像データの前記複数のマーカーの位置を、前記識別情報に対応した色の画素に基づいて検出する請求項3に記載の画像データ処理方法。
【請求項5】
前記特徴点指定画像データが、前記特徴点指定画像データに含まれるすべてのレイヤーを統合した画像データである請求項1又は2に記載の画像データ処理方法。
【請求項6】
前記テンプレート画像データに前記画像データを配置するための画像表示エリアが設定されており、前記マーカー検出ステップにおいて、前記画像表示エリアを検出対象エリアとして、前記検出対象エリア内に配置されたマーカーの位置を検出する請求項1又は2に記載の画像データ処理方法。
【請求項7】
前記マーカー検出ステップにおいて、前記検出対象エリア外に配置されたマーカーを、マーカーの位置を検出する対象から除外する請求項6に記載の画像データ処理方法。
【請求項8】
前記マーカー検出ステップにおいて検出した前記複数のマーカー間の相対値を算出する計測ステップをさらに有する請求項1又は2に記載の画像データ処理方法。
【請求項9】
前記特徴点指定画像データ作成ステップで実施される前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させる操作が、前記撮像対象物に熟知した専門家により行われる請求項1又は2に記載の画像データ処理方法。
【請求項10】
前記特徴点指定画像データ作成ステップにおいて作成される前記特徴点指定画像データが、複数チャンネルを持つ画像データであり、前記画像データ及び異なるユーザにより配置された前記複数のマーカーを前記複数チャンネルにそれぞれ格納する請求項1又は2に記載の画像データ処理方法。
【請求項11】
前記テンプレート画像データの作成前に、仮の画像データと、仮の画像データに映る撮像対象物の上に重畳表示されて当該撮像対象物の上で移動可能なように配置された複数のマーカーと、を含む傾き補正指示データを作成し、前記仮の画像データに映る撮像対象物の特徴点の上に配置された前記複数のマーカーの位置に基づいて、前記テンプレート画像データに配置する前記画像データの傾き補正を行う傾き補正ステップを有する請求項1又は2に記載の画像データ処理方法。
【請求項12】
前記画像データが、前記撮像対象物として頭骨を撮像したセファログラムであり、前記マーカー検出ステップが、前記複数のマーカーの位置に基づいて、当該頭骨の特徴点の位置を特定するものである請求項1又は2に記載の画像データ処理方法。
【請求項13】
画像中に映る撮像対象物の特徴点の位置を指示するための画像データ処理システムであって、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成部と、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成部と、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出部と、
を有する画像データ処理システム。
【請求項14】
前記特徴点指定画像データ作成部が、前記撮像対象物に熟知した専門家が操作可能なコンピュータに実装されており、前記テンプレート画像データ作成部及び前記マーカー検出部が、画像処理サービス側に配置されたコンピュータに実装されている請求項13に記載の画像データ処理システム。
【請求項15】
画像中に映る撮像対象物の特徴点の位置を指示するためにコンピュータにより実行される画像データ処理方法であって、
前記撮像対象物が撮像された画像データであって、輝度値が格納された画素の三次元配列であるボリュームデータを生成するステップと、
前記ボリュームデータをレンダリングにより描画して前記撮像対象物のコンピュータグラフィックス画像を作成するステップと、
前記コンピュータグラフィックス画像を用いて前記撮像対象物の二次元画像データを生成するステップと、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成ステップと、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成ステップと、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出ステップと、
を有する画像データ処理方法。
【請求項16】
前記撮像対象物が撮像される際に、前記撮像対象物の個体を識別するために識別情報を計測に影響しない箇所に付する請求項15に記載の画像データ処理方法。
【請求項17】
前記撮像対象物が撮像される際に、前記撮像対象物が水平状態に保持されて撮像されるよう、水平器を用いて前記撮像対象物の水平状態を確認後に撮像する請求項15に記載の画像データ処理方法。
【請求項18】
前記撮像対象物が撮像される際に、前記撮像対象物が水平状態に保持されて撮像されるよう、前記撮像対象物を柔軟な素材上に載置して撮像する請求項15から17のいずれか1つに記載の画像データ処理方法。
【請求項19】
前記撮像対象物が撮像される際に、2つの前記撮像対象物を撮像に影響を与えない軽比重の素材で構成され、2階建て構造の撮像用載置台に前記2つの撮像対象物を載置して撮像する請求項15から18のいずれか1つに記載の画像データ処理方法。
【請求項20】
前記撮像対象物が撮像される際に、X線CTスキャナあるいは3Dスキャナを用いて撮像する請求項15から19のいずれか1つに記載の画像データ処理方法。
【請求項21】
前記マーカー検出ステップで検出された前記複数のマーカーの位置を示すXY座標と、前記ボリュームデータ、点群データ、ポリゴンデータのいずれか1つとをセットで保時し、プログラム上で三次元空間を走査することにより、上方から見たZ座標を特定するステップをさらに有する請求項15から20のいずれか1つに記載の画像データ処理方法。
【請求項22】
前記複数のマーカーの前記XYZ座標を用いて前記撮像対象物の2つの所定部分間の三次元的な距離計測を行うステップをさらに有する請求項21に記載の画像データ処理方法。
【請求項23】
前記マーカー検出ステップで検出された前記複数のマーカーの位置を示すXY座標と、前記複数のマーカーを結んだ直線の情報と、前記直線により構成される多角形の情報と、前記ボリュームデータ、点群データ、ポリゴンデータのいずれか1つとをセットで保時し、プログラム上で前記三次元空間を走査することにより、閉空間を定義するステップをさらに有する請求項15から21のいずれか1つに記載の画像データ処理方法。
【請求項24】
前記マーカー検出ステップで検出された前記複数のマーカーの位置を示すXY座標と、前記多角形の情報とを元にプログラムにより関心領域を抽出し、前記複数のマーカーを結んだ直線で前記関心領域を複数部分に分割し、分割された各部分について容積を計測するステップをさらに有する請求項23に記載の画像データ処理方法。
【請求項25】
前記テンプレート画像データ作成ステップは、本発明を歯列模型に適用する場合、少なくともISO 3950を含む国際表記ルールに基づき、前記マーカーを間違えずに配置できるように、前記テンプレート画像に重畳表示される前記画像データの左右の余白部に予め前記マーカーを歯列同様に並べておくステップを含む請求項15から24のいずれか1つに記載の画像データ処理方法。
【請求項26】
前記左の余白部及び/又は前記右の余白部の一部に、前記歯列模型の歯列に対して前記マーカーが典型的に配置された見本が配されている請求項25に記載の画像データ処理方法。
【請求項27】
前記撮像対象物が歯列模型である場合、前記歯列模型に含まれる乳歯と永久歯の形状が専門家が見ればそれらの相違が明確に判断できるよう構成されている請求項25又は26に記載の画像データ処理方法。
【請求項28】
画像中に映る撮像対象物の特徴点の位置を指示するためにコンピュータにより実行される画像データ処理システムであって、
前記撮像対象物が撮像された画像データであって、輝度値が格納された画素の三次元配列であるボリュームデータを生成するボリュームデータ生成部と、
前記ボリュームデータをレンダリングにより描画して前記撮像対象物のコンピュータグラフィックス画像を作成するコンピュータグラフィックス画像作成部と、
前記コンピュータグラフィックス画像を用いて前記撮像対象物の二次元画像データを生成する二次元画像データ生成部と、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成部と、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成部と、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出部と、
を有する画像データ処理システム。
【請求項29】
前記特徴点指定画像データ作成部が、前記撮像対象物に熟知した専門家が操作可能なコンピュータに実装されており、前記テンプレート画像データ作成部及び前記マーカー検出部が、画像処理サービス側に配置されたコンピュータに実装されている請求項28に記載の画像データ処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像中に映る撮像対象物(被写体)の特徴点の位置を検出するための画像データ処理方法及び画像データ処理システムに関する。
【背景技術】
【0002】
従来、画像中に映る撮像対象物の特徴点を認識して計測を行いたいというニーズが存在する。撮像対象物の認識・計測対象となる画像は多種多様であり、例えば、X線CT画像、セファログラム(頭部X線規格写真)、ドローン画像、病理・医療画像、建築物(例えば橋脚クラック)の画像、画像による工業製品や食品等の検査、その他、一般的な写真などを始めとして多岐にわたっている。
【0003】
画像中に映る撮像対象物の認識・計測に係る技術としては、画像中の撮像対象物の認識・計測をソフトウエアの処理によって自動化する技術が存在する。例えば、下記の特許文献1には、ニューラルネットワークなどにより構築した予測モデルを用いて、画像における人体の特徴点(例えば、セファログラムの主要な計測点)の位置を予測するための予測モデル生成システム及び予測システムが記載されている。また、下記の非特許文献1には、ディープラーニングを用いてセファロ画像上の基準点を完全自動で認識することを目指すシステムの開発及びその精度について記載されている。
【先行技術文献】
【特許文献】
【0004】
【非特許文献】
【0005】
【非特許文献1】Web-based fully automated cephalometric analysis by deep learning, Kim et al., Computer Methods and Programs in Biomedicine Volume 194, October 2020
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、画像の二値化処理などの単純な画像処理手法では、画像中の所望の撮像対象物を容易に識別できるとは限らない。
【0007】
特許文献1及び非特許文献1に記載の技術のように、パターンマッチングやAI(人工知能)などを利用したソフトウエアの処理によって画像中の撮像対象物の認識及び計測を自動化できることが理想的である。しかしながら、現状、こうしたソフトウエアの処理による出力は、少なからず誤りを含んで確実に期待した結果を返すとは限らないため、結局、人間が出力結果の再確認を行って誤りを手直しする労力及び時間を要することになる。また、特にセファログラムなどのように経験豊かな専門家(例えば、矯正歯科医などの医療従事者)が目視で認識しないと特徴点を正確に決めることが困難な画像やテーマも存在する。
【0008】
このため、画像中の撮像対象物の認識を自動化するよりも、専門家などの人間による認識のほうが確実かつ高精度の認識を効率良く行うことが可能であるが、専門家などの人間にとって使い勝手が良いツール及び方式は存在せず、労力、時間、コストの全てを低減させるとともに、誤りの無い結果を得ることが可能なツール及び方式の開発が求められていた。
【0009】
本発明は、上記の状況に鑑みてなされたものであり、画像中に映る撮像対象物の特徴点の指示を簡便に行うことを可能とする画像データ処理方法及び画像データ処理システムを提供することを目的とする。
【課題を解決するための手段】
【0010】
上記の目的を達成するため、本発明に係る画像データ処理方法は、画像中に映る撮像対象物の特徴点の位置を指示するためにコンピュータにより実行される画像データ処理方法であって、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成ステップと、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成ステップと、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出ステップと、
を有する。
【0011】
また、上記の目的を達成するため、本発明に係る画像データ処理システムは、画像中に映る撮像対象物の特徴点の位置を指示するための画像データ処理システムであって、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成部と、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成部と、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出部と、
を有する。
【0012】
また、上記の目的を達成するため、本発明に係る画像データ処理方法は、前記撮像対象物が撮像された画像データであって、輝度値が格納された画素の三次元配列であるボリュームデータを生成するステップと、
前記ボリュームデータをレンダリングにより描画して前記撮像対象物のコンピュータグラフィックス画像を作成するステップと、
前記コンピュータグラフィックス画像を用いて前記撮像対象物の二次元画像データを生成するステップと、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成ステップと、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成ステップと、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出ステップと、
を有する。
【0013】
また、上記の目的を達成するため、本発明に係る画像データ処理システムは、前記撮像対象物が撮像された画像データであって、輝度値が格納された画素の三次元配列であるボリュームデータを生成するボリュームデータ生成部と、
前記ボリュームデータをレンダリングにより描画して前記撮像対象物のコンピュータグラフィックス画像を作成するコンピュータグラフィックス画像作成部と、
前記コンピュータグラフィックス画像を用いて前記撮像対象物の二次元画像データを生成する二次元画像データ生成部と、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成部と、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成部と、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出部と、
を有する。
【発明の効果】
【0014】
本発明によれば、画像中に映る撮像対象物の特徴点の指示を簡便に行うことを可能とする画像データ処理方法及び画像データ処理システムを提供することができる。
【図面の簡単な説明】
【0015】
【
図1】本発明の実施形態の基本的な動作を示すフローチャートである。
【
図2】本発明の実施形態で取り扱う画像データの概要について説明する図である。
【
図3】本発明の実施形態で用いられるテンプレート画像データのレイヤー構造の一例を説明するための図である。
【
図4】本発明の実施形態で用いられるマーカーの一例を示す図である。
【
図5】本発明の実施形態で用いられるテンプレート画像データをディスプレイに表示した表示画面の一例を示す図である。
【
図6】本発明の実施形態において定義されるマーカーの配置要件を説明するために、セファログラムの正面画像における特徴点を示す図である。
【
図7】本発明の実施形態において定義されるマーカーの配置要件を説明するために、セファログラムの正面画像における特徴点を示す図である。
【
図8】本発明の実施形態において、画像データに映る撮像対象物の所定の特徴点の上にマーカーが配置された状態の一例を示す図である。
【
図9】本発明を適用した具体例の概略を模式的に示す説明図である。
【
図10】本発明を適用した具体例の概略を模式的に示すフロー図である。
【
図11】本発明の実施形態における画像データ処理システムの構成例を示す図である。
【
図12】本発明の実施形態における画像データ処理システムの動作の一例を示す図である。
【
図13】
図12に示す動作における計測結果データの作成過程を示す図である。
【
図14】
図12に示す動作において最終的に出力される計測結果データの一例を示す図である。
【
図15】本発明の実施形態において、画像データの傾き補正に用いられる傾き補正指示データに配置されるマーカーの位置を示す図であり、(a)は正面用の傾き補正指示データに配置されたマーカーの位置を示す図、(b)は側面用の傾き補正指示データに配置されたマーカーの位置を示す図である。
【
図16】本発明の実施形態における傾き補正時の3次元モデルの正面及び側面を示す図であり、(a)はマーカーに基づいて水平方向の角度を調整する工程を示す図、(b)はマーカーに基づいて鉛直方向の角度を調整する工程を示す図、(c)は傾きのない真っ直ぐな3次元モデルを得た状態を示す図である。
【
図17】本発明を適用して魚(撮像対象物)のマスキング処理を行う際に用いられるカラー画像の一例を示す図である。
【
図18】従来技術においてマスキング処理を行う際の課題を説明するための図である。
【
図19】
図17に示す画像に役割A~Cのマーカーを配置した状態を示す図である。
【
図20】
図19の状態から作成したグレースケール画像を示す図である。
【
図21】
図17に示すカラー画像及び
図20に示すグレースケール画像から作成した白黒画像を示す図である。
【
図22】
図17のカラー画像に対して
図21に示す白黒画像をマスク画像として使用して、魚(撮像対象物)の輪郭部分のみを切り抜いた画像を示す図である。
【
図23】本発明を適用した他の具体例の概略を模式的に示す説明図である。
【
図24】
図23に示した他の具体例における撮像対象物としての歯列石膏模型の図である。
【
図25】
図23に示した他の具体例における歯列石膏模型の姿勢補正の様子を示す図である。
【
図26】
図23に示した他の具体例における歯列石膏模型の2つを同時に撮像するための2階建て構造の撮像用載置台を示す図である。
【
図27】
図23に示した他の具体例で用いられるテンプレート画像データをディスプレイに表示した表示画面の一例を示す図であり、上顎の歯列模型の画像を含むものである。
【
図28】
図23に示した他の具体例で用いられるテンプレート画像データをディスプレイに表示した表示画面の一例を示す図であり、下顎の歯列模型の画像を含むものである。
【
図29】本発明の実施形態で用いられるマーカーの他の一例を示す図である。
【
図30】
図23に示した他の具体例で用いられる上顎の歯列模型に計測マーカーが配された様子を示す上顎の計測テンプレートを示す図である。
【
図31】
図23に示した他の具体例で用いられる上顎の歯列模型のボリュームデータを示す図である。
【
図32】
図31に示したボリュームデータのCoronal断面を含むボリュームデータを示す図である。
【
図33】
図28に示したボリュームデータのCoronal断面のみ示す図である。
【
図34】
図27に示した計測テンプレート上で指示したXY座標と、
図31に示したボリュームデータ及びZ座標との対応を示す斜視図である。
【
図35】
図30中の主要点の左右対応する歯の部分同士の距離計測の手法を示す図である。
【
図36】
図31に示される上顎の口蓋の容積を計測するために置いた計測マーカーの位置を示す図である。
【
図37】
図36中で配列された計測マーカーを用いて専用プログラムで処理することにより、認識した計測マーカーを結んだ多角形と補助線を描いた状態を示す図である。
【
図38】
図37に示した口蓋の空間を認識する手法に基づいて得られた口蓋の容積を可視化した図である。
【
図39】
図37とは異なる手法で口蓋の空間を認識する手法を示す図である。
【
図40】
図37あるいは
図39の手法で口蓋の空間を認識した場合の容積に該当する部分を示す断面図である。
【発明を実施するための形態】
【0016】
以下、図面を参照しながら、本発明の実施形態について説明する。
【0017】
(本発明の基本的概念)
本発明の実施形態の基本的な概念について説明する。
【0018】
図1は、本発明の実施形態の基本的な動作を示すフローチャートである。
図1に示すように、本実施形態では、画像データの準備(ステップS10)、編集用画像データの準備(ステップS20)、テンプレート画像データの作成(ステップS30)、特徴点指定画像データの作成(ステップS40)、マーカーの検出(ステップS50)、検出したマーカーに基づく計測(ステップS60)が実施される。
【0019】
図2を参照しながら、本発明の実施形態で取り扱う画像データの概要について先に説明する。
図2に示すように、本発明の実施形態では、ステップS10で準備した画像データ20と、ステップS20で準備した編集用画像データ25とを組み合わせ、テンプレート画像データ30を作成する(ステップS30)。後述するように、編集用画像データ25及びテンプレート画像データ30はレイヤー構造を有する画像データである。ステップS30で作成したテンプレート画像データ30のレイヤー構造を統合して特徴点指定画像データ35を作成する(ステップS40)。特徴点指定画像データ35内のマーカー40を検出し(ステップS50)、検出したマーカー40に基づいて計測が行われる(ステップS60)。
【0020】
(ステップS10:画像データ20の準備)
本実施形態では、まず、デジタルカメラやイメージング装置などを使って撮影、ソフトウエアを用いてレンダリング(描画)、紙媒体の写真や絵をイメージスキャナによりスキャンするなどして、画像データ20を得る。画像データ20は、任意の対象物が撮像された画像データであり、撮像対象物における特徴点の指定を行うことが要求されている画像データである。画像データ20で指定された特徴点は、各特徴点間の幾何学的な相対値(距離や角度など)の計測、画像データ20内の範囲の特定、撮像対象物の特定などに用いられる。
【0021】
本実施形態では、画像データ20に映る任意の対象物における特徴点が指定され、これにより、特徴点に係る測定を行うことができるようになっている。特徴点に係る測定とは、例えば、指定された複数の特徴点同士の距離や角度を計測する処理や、特徴点から画像データ20に映る対象物や関心領域を特定する処理などを含む。
【0022】
本実施形態で用いられる画像データ20は特に限定されず、例えば、X線CT画像、セファログラム(頭部X線規格写真)、ドローン画像、病理・医療画像、建築物(例えば橋脚クラック)の画像、画像による工業製品や食品等の検査、その他、一般的な写真などが用いられてもよい。また、画像データ20に映る撮像対象物及び指定される特徴点についても特に限定されず、画像データ20に映る所望の撮像対象物において関心のある特徴点が設定されればよい。
【0023】
なお、本明細書の添付された図面(
図2、3、5~9、12、14、15)に一例として掲載されている頭蓋骨像は、X線CTにより患者を撮像し、得られた連続的な断層像一式をExFact VR(日本ビジュアルサイエンス社製)で読み込み、ボリュームレンダリングにより頭蓋骨外観を描画する方法で得られた画像である。セファログラムは頭蓋骨をX線透視により撮像することで頭部骨格を画像化する技術であるが、セファログラムと同様に特徴点を指示できる画像データであれば、セファログラムとは異なる原理で得られた画像データであってもよい。本発明で取り扱うことが可能な画像データは、セファログラム及びセファログラム相当の技術により得られた画像データであってもよく、あるいは、上述した各種の画像または写真などであってもよい。
【0024】
また、本明細書における画像及び画像データは、アナログ画像及びアナログ画像をデジタルデータ化したデジタル信号、デジタル画像及びその画像を構成するデジタル信号、あるいはその他の画像を含むものであり、画像及び画像データの表現は、文脈に応じて適宜最も広く解釈することができる。
【0025】
本実施形態で準備される画像データ20の枚数は特に限定されず、画像データ20は1枚又は複数枚であってもよい。特に、本発明は、大量(数百枚以上)の画像データ20が準備された場合であっても画像データ20に対する処理を自動化して、大量の画像データ20に対する処理を高精度かつ短時間に行うことができるという利点を有している。
【0026】
(ステップS20:編集用画像データ25の準備)
本実施形態では、画像データ20とは別に、編集用画像データ25が準備される。編集用画像データ25は、画像データ20に映る撮像対象物の特徴点を指定するために用いられるマーカー40を含んで構成されている。編集用画像データ25は、レイヤー構造を有する画像データであり、画像データ20と組み合わされて、後述するテンプレート画像データ30を構成する。編集用画像データ25の詳細については、
図3を参照しながらテンプレート画像データ30の詳細とともに後述する。
【0027】
(ステップS30:テンプレート画像データ30の作成)
本実施形態では、上述したように、画像データ20及び編集用画像データ25を準備した後、これらの画像データを用いてテンプレート画像データ30を作成する。
【0028】
以下、テンプレート画像データ30の構造について説明する。
【0029】
図3を参照しながら、本発明の実施形態で用いられるテンプレート画像データ30のレイヤー構造について説明する。
図3は、本発明の実施形態で用いられるテンプレート画像データ30のレイヤー構造の一例を説明するための図である。
【0030】
図3に示すように、本発明の実施形態で用いられるテンプレート画像データ30は、レイヤー構造を有する画像データである。
図3に示すように、テンプレート画像データ30は、最下層から、台紙レイヤー31、画像レイヤー32、複数のマーカーレイヤー33の順に各レイヤーが重なって構成されている。各レイヤーには、レイヤー面内に不透過又は半透過の画像要素が含まれている。
【0031】
テンプレート画像データ30を構成するレイヤー構造は、テンプレート画像データ30がディスプレイに表示された際に、上層レイヤーの画像要素が優先して表示されるようになっている。例えば、特定の画素において下層レイヤーの画像要素の上に上層レイヤーの不透過の画像要素が配置された場合、ディスプレイ上では下層レイヤーの画像要素は上層レイヤーの画像要素に隠れて、当該特定の画素には上層レイヤーの画像要素のみが表示される。ただし、各レイヤーは、独立して表示/非表示の切り替えを行うことができ、上層レイヤーの画像要素に隠れた下層レイヤーの画像要素を表示させることができるようになっている。
【0032】
(台紙レイヤー31)
テンプレート画像データ30の最下層には、台紙レイヤー31が配置されている。台紙レイヤー31は、例えば白色の背景画像を備えるとともに、当該背景画像の上に余白表示エリア(
図5参照)の各画像要素が表示されるように構成されている。
【0033】
図3には一例として、台紙レイヤー31に、各種注意事項のテキストが記載されているとともに、白色の背景画像に未使用のマーカー40を配置するための枠線が描画されており、さらに、注釈(コメント)を入力するためのテキストボックスが配置された状態が模式的に図示されている。
【0034】
なお、台紙レイヤー31は、複数のレイヤーで構成されてもよく、例えば、白色の背景画像が配置された最下層レイヤーの上に、注釈(コメント)を入力するためのテキストボックスが配置されたレイヤー、各種注意事項のテキストが配置されたレイヤー、未使用のマーカー40を配置するための枠線が配置されたレイヤーが重なって構成されていてもよい。また、台紙レイヤー31に含まれる複数のレイヤーを同一のレイヤーグループに纏めてもよい。
【0035】
台紙レイヤー31の画像要素は、いずれも余白表示エリア(
図5参照)内に配置されており、画像データ20を配置する画像表示エリア(
図5参照)内には配置されていない。
【0036】
(画像レイヤー32)
台紙レイヤー31の上には、画像レイヤー32が配置されている。画像レイヤー32は、画像データ20を配置することが可能なレイヤーである。画像データ20は、テンプレート画像データ30がディスプレイ上に表示された際の画像表示エリア(
図5参照)内に配置される。
【0037】
なお、画像レイヤー32は、画像データ20を配置することが可能なレイヤーのほかに、任意の画像データを配置することが可能な1つ又は複数の別レイヤーを含んで構成されていてもよい。例えば、画像データ20がカラー画像の場合に、当該画像データ20から色成分を除去したグレースケール画像など別レイヤーに配置していてもよい。後述するように、マーカー40は、マーカー40に含まれる画素の色情報に基づいて検出するため、マーカー40の検出を適切に行うために、カラー画像に代えてグレースケール画像を用いて特徴点指定画像データ35の保存が行われるようにしてもよい。また、画像レイヤー32に含まれる複数のレイヤーを同一のレイヤーグループに纏めてもよい。
【0038】
上述した編集用画像データ25は、テンプレート画像データ30の作成元データであり、テンプレート画像データ30と基本的に同一のレイヤー構造を有している。ただし、編集用画像データ25は、画像レイヤー32に画像データ20が配置されていない空の状態である点でテンプレート画像データ30とは異なっている。テンプレート画像データ30は、編集用画像データ25の画像レイヤー32に、所望の画像データ20を挿入(貼り付け)することで作成される。
【0039】
(マーカーレイヤー33)
画像レイヤー32の上には、複数のマーカーレイヤー33が配置されている。複数のマーカーレイヤー33は、複数のマーカー40に対応して設けられており、各マーカーレイヤー33には、それぞれ対応する1つのマーカー40のみが配置されている。すなわち、複数のマーカーレイヤー33は、少なくともマーカー40の個数だけ存在する。なお、マーカー40の個数及びそれに対応するマーカーレイヤー33の個数は特に限定されず、用途により適宜自由に設定することができる。
【0040】
各マーカーレイヤー33はレイヤーとして独立しており、各マーカーレイヤー33に含まれるマーカー40は、各マーカーレイヤー33の面内でそれぞれ独立して移動可能なようになっている。具体的には、テンプレート画像データ30がディスプレイに表示された状態では、マウスを用いたドラッグアンドドロップの操作などによって、各マーカー40を画像表示エリア内及び余白表示エリア(いずれも
図5参照)内の所望の位置に移動できるようになっている。
【0041】
マーカー40には識別情報(例えば、識別番号)が割り当てられており、各マーカー40に対応した各マーカーレイヤー33が配置されている。また、例えばセファログラムの正面画像のように左右略対称な画像における特徴点を指示するために、各識別情報に対応して一対のマーカー40が設定されてもよい。この場合には、同一の識別情報が割り当てられたマーカー40が2個ずつ存在するが、同一の識別情報を有するマーカー40に対しても、それぞれ異なるマーカーレイヤー33が配置され、同一の識別情報を有するマーカー40もそれぞれ独立したマーカーレイヤー33の面内で移動可能なようになっている。なお、例えば同一番号が割り当てられた一対のマーカー40を含む2つのマーカーレイヤー33を同一のレイヤーグループに纏めてもよく、さらに、すべてのマーカーレイヤー33を同一のレイヤーグループに纏めてもよい。
【0042】
(マーカー40)
ここで、マーカー40について説明する。
図4は、本発明の実施形態で用いられるマーカー40の一例を示す図である。
【0043】
図4の上側には、マーカーレイヤー33の一例として、識別番号「05」が割り当てられたマーカー40を有するマーカーレイヤー33が図示されており、
図4の下側には、識別番号「05」が割り当てられたマーカー40が拡大して図示されている。
【0044】
マーカー40は、マーカーレイヤー33に含まれる画像要素である。マーカー40は、画像データ20の撮像対象物の特徴点を指示するために用いられる。マーカー40は、画像データ20上の画素(ピクセル)の指定に適切なものであれば、特に形状や大きさは限定されるものではない。本実施形態におけるマーカー40は、
図4に示すように、識別情報表示部41とポインタ表示部42とを一体に備えて構成されている。
【0045】
(識別情報表示部41)
マーカー40を構成する識別情報表示部41は、各マーカー40に割り当てられた識別情報を表示する役割を有している。識別情報表示部41により識別情報(
図4の例では、識別番号「05」)を表示することで、ディスプレイ上に多数のマーカー40が表示された際に、各マーカー40の識別情報が容易に把握できるようになるとともに、各マーカー40の特性(画像データ20に映る撮像対象物のどの特徴点を指定するためのマーカー40であるか)が容易に把握できるようになる。
【0046】
なお、各マーカー40に割り当てる識別情報は、特に限定されるものでなく、例えば、数字(番号)、アルファベット、記号などを用いることができる。本実施形態では、識別情報として数字(番号)が用いられている。
【0047】
また、識別情報を割り当てる方法も特に限定されず、その用途によって適宜自由に設定することができる。例えば上述したように、2個のマーカー40を対(組)として、一対のマーカー40に同一の識別情報を割り当ててもよい。具体的には、例えば識別番号「00」が割り当てられたマーカー40が2個存在し、それぞれ異なるマーカーレイヤー33に配置されてもよい。
【0048】
(ポインタ表示部42)
マーカー40を構成するポインタ表示部42は、画像データ20に映る撮像対象物の特徴点を指定するポインタとしての役割を有している。マーカー40を移動させて、ポインタ表示部42が撮像対象物の特徴点と重なるように配置することで、ポインタ表示部42が重なった撮像対象物の画素を、画像データ20に映る撮像対象物の特徴点として指定することができるようになっている、
【0049】
本実施形態では、ポインタ表示部42は、3画素×3画素の正方形状のポインタ領域42aと、ポインタ領域42aの中心画素42cを示すように配置された方向指示線42bと、により構成されている。方向指示線42bは上下左右それぞれに配置されて十字状となっており、当該十字状に配置された方向指示線42bは、ポインタ領域42aの中心画素42cを指し示している。
【0050】
ポインタ表示部42は、画像データ20の1つの画素を指定できる役割を有していればよい。本実施形態では、ポインタ表示部42は、正方形状のポインタ領域42aの中心画素42cが、撮像対象物の特徴点を指定する実際のポインタとしての役割を有している。この中心画素42cを取り囲むように3画素×3画素の正方形状のポインタ領域42aを設けることで、ディスプレイ上に表示された際の視認性を向上させている。なお、ポインタ領域42aを正方形とする場合には、その中心画素42cを容易に画定できるようにするために、正方形の縦横の画素数は奇数であることが好ましい。
【0051】
ポインタ領域42aは任意の形状であってよく、例えば、ポインタ領域42aを矢印カーソルとして、その先端画素を撮像対象物の画素指定用の実際のポインタとしてもよく、ポインタ領域42aを十字カーソルとして、その交点を撮像対象物の画素指定用の実際のポインタとしてもよい。
【0052】
また、ポインタ表示部42は、マーカー40の識別情報に対応した色情報(RGB値)の画素を含んでいてもよい。
【0053】
本実施形態におけるポインタ表示部42は、
図4に示すように、正方形状のポインタ領域42aから右方向及び上方向に1画素ずらした位置に、3画素×3画素の正方形状の色情報領域42dを有しており、正方形状のポインタ領域42aの上に正方形状の色情報領域42dが重なるように配置されている。
【0054】
正方形状の色情報領域42dは、マーカー40の識別情報に対応した色の画素によって構成されている。ポインタ表示部42を識別情報に対応した各色で表示することで、マーカー40の配置作業を行う際に、ディスプレイ上に表示されたポインタ表示部42の各色から各マーカー40の識別情報が容易に把握できるようになる。
【0055】
また、色情報領域42dと、ポインタ領域42aとをずらして配置し、色情報領域42dを構成する画素の色(マーカー40の識別情報に対応した色)を、ポインタ領域42aを構成する画素の色(例えば、黒色又は白色)とは異なる色にすることで、コントラストが明確となる。なお、色情報領域42dをポインタ領域42aとずらして配置せず、色情報領域42dがポインタ領域42aと重なるようにしてもよい。換言すると、ポインタ領域42aをマーカー40の識別情報に対応した固有の色情報の画素で構成してもよい。
【0056】
図4に示すポインタ表示部42では、ポインタ領域42aの中心画素42cは、色情報領域42dの左下画素と重なった位置(同一位置)に配置されている。撮像対象物の画素指定用の実際のポインタとしての役割を有するポインタ領域42aの中心画素42cは、色情報領域42dの左下画素と同一の画素である。
【0057】
ポインタ領域42aの中心画素42cが指示する撮像対象物の各特徴点の位置を検出する際に、色情報に基づいて色情報領域42dの左下画素の画素の位置を検出することで、ポインタ領域42aによって指示された撮像対象物の各特徴点の画素位置を容易かつ正確に特定することができるようになる。
【0058】
マーカー40の識別情報に対応して割り当てる色は、それぞれ異なる色であれば特に限定されないが、例えばグレースケールで使用される白と黒の中間色を用いないことが好ましい。また、隣接した識別情報(隣接した識別番号)に対して色相差の大きい色を割り当てることで、隣接した識別情報が割り当てられたマーカー40を取り違えるミスの発生を抑制することができるようになる。
【0059】
また、マーカー40は、
図4に示す形状に限定されるものではなく、また、すべてのマーカー40を同一の形状とする必要もない。例えば、距離の計測、角度の計測、範囲の特定、撮像対象物の特定などの様々な用途に応じて、マーカー40の形状を異なるものとし、マーカー40の用途が視覚的に判別できるようにしてもよい。
【0060】
(テンプレート画像データ30の作成方法)
テンプレート画像データ30の作成方法について説明する。テンプレート画像データ30は、編集用画像データ25と画像データ20とを組み合わせることで作成される。
【0061】
上述したように、編集用画像データ25は、テンプレート画像データ30と同様のレイヤー構造を有しており、最下層から、台紙レイヤー31、画像レイヤー32、複数のマーカーレイヤー33の順に各レイヤーが重なって構成されている。ただし、画像レイヤー32は、画像データ20が配置されていない空の状態である。
【0062】
編集用画像データ25の画像レイヤー32に画像データ20が配置されることでテンプレート画像データ30が作成される。複数の画像データ20が存在する場合には、各画像データ20が画像レイヤー32に配置されたテンプレート画像データ30が、画像データ20の数だけ作成される。すなわち、複数の画像データ20の1つ1つに対応して、各画像データ20を含むテンプレート画像データ30が個別に作成される。
【0063】
膨大な数の画像データ20に対応する膨大な数のテンプレート画像データ30を作成する作業は、編集用画像データ25の画像レイヤー32に画像データ20を挿入してテンプレート画像データ30として保存する単純な作業を繰り返し行うものであり、例えばRPA(Robotic Process Automation)ツールなどにより実行することができる。テンプレート画像データ30の作成作業にRPAツールを用いた場合、人間の作業に要する手間やコストを削減できるとともに、人間の作業で起こり得る作業ミスをなくしてテンプレート画像データ30を正確に作成することができるようになる。
【0064】
(テンプレート画像データ30の表示例)
テンプレート画像データ30をディスプレイに表示した際の表示画面について説明する。
図5は、本発明の実施形態で用いられるテンプレート画像データ30をディスプレイに表示した表示画面の一例を示す図である。
【0065】
ディスプレイに表示されたテンプレート画像データ30は、
図5に示すように、表示画面上の略中央部に画像表示エリア51を有するとともに、画像表示エリア51の左右両側に余白表示エリア52を有している。
【0066】
画像表示エリア51は、画像データ20を表示するためのエリアである。画像表示エリア51には、画像レイヤー32に配置された画像データ20が表示される。
図5では、画像レイヤー32に画像データ20として配置されたセファログラムが表示されている。
【0067】
画像表示エリア51には、画像データ20に映る撮像対象物の特徴点を指示するマーカー40を配置することが可能である。画像表示エリア51は、後述するマーカー40の検出及び計測(ステップS50、S60)の際に、マーカー40を検出する検出対象エリアを画定する。
【0068】
余白表示エリア52は、画像データ20以外の様々な情報を表示するために設けられたエリアである。余白表示エリア52は、後述するマーカー40の検出及び計測(ステップS50、S60)の際に、マーカー40を検出する検出対象エリア外の領域と判断される。
【0069】
図5では、画像表示エリア51に表示される画像データ20とのコントラストを付けるため、余白表示エリア52には白地の背景画像が表示されている。なお、
図5では、画像表示エリア51の左右両側に余白表示エリア52が設けられているが、画像表示エリア51の左右のいずれか、あるいは画像表示エリア51の上下のいずれか又は両側など、任意の位置に設けられてもよい。
【0070】
図5では一例として、余白表示エリア52には、任意のテキストを入力可能とする注釈入力エリア52a、マーカー40の配置作業時の注意事項などを表示する注意事項表示エリア52b、未使用のマーカー40を配置する未使用マーカー配置エリア52cが設けられている。ただし、余白表示エリア52内に設けられる各エリアは特に限定されず、様々な目的に即した任意のエリアが余白表示エリア52内の任意の位置に任意の大きさで設けられてよい。
【0071】
注釈入力エリア52aには、テキストボックスが設けられている。マーカー40の配置作業を行う専門家(例えば、医療関係者)が、キーボードなどを用いて特記事項などのコメントを、注釈入力エリア52aのテキストボックス内に自由に記載することができるようになっている。
【0072】
注意事項表示エリア52bには、マーカー40の配置作業における注意事項などが表示されている。
図5では一例として、注意事項表示エリア52bに、『・計測すべき箇所が写っていなければ、そこに対応するマーカーは画面外の白い領域に避けてください。』、『・白い領域は、計測処理の範囲外です。』、『・特記事項があれば、左上の「注釈:」以下をテキストツールで編集してください。』などの各種注意事項が表示されている。
【0073】
未使用マーカー配置エリア52cは、マーカー40を配置するためのエリアである。
図5では一例として、左右両側の余白表示エリア52に未使用マーカー配置エリア52cがそれぞれ設けられている。未使用マーカー配置エリア52cに表示されている枠線内に、未使用のマーカー40を配置できるようになっている。
【0074】
余白表示エリア52は、マーカー40の検出及び計測(ステップS50、S60)の際に、マーカー40を検出する検出対象エリア外の領域と判断されるため、未使用マーカー配置エリア52cに配置されているマーカー40は検出対象外となる。未使用マーカー配置エリア52cには、撮像対象物の計測点の指示に使用しない予備のマーカー40を配置することができる。
【0075】
(ステップS40:特徴点指定画像データ35の作成)
上述したように、テンプレート画像データ30は、画像データ20を含む画像レイヤー32の上に、複数のマーカー40をそれぞれ個別に含む複数のマーカーレイヤー33が配置されて構成されている。このテンプレート画像データ30を撮像対象物に熟知した専門家に提供する。専門家は、マウスを用いたドラッグアンドドロップ操作などによってマーカー40を画像データ20の撮像対象物上の特定の特徴点に移動させて当該特徴点を指示する作業を行う。マーカー40が撮像対象物上の特定の特徴点に配置された状態となるように編集されたテンプレート画像データ30は、特徴点指定画像データ35として保存される。
【0076】
以下、テンプレート画像データ30におけるマーカー40を用いた特徴点の指示について説明する。
【0077】
マーカー40により特徴点を指示する作業を行う専門家は、撮像対象物に熟知しており、撮像対象物の各特徴点がどの場所に存在するのかを特定する専門的な知識を有している。専門家は、事前に定義されたマーカー40の配置要件に基づいて、画像データ20に映る撮像対象物の特徴点の上に、所定のマーカー40を移動させる作業を行う。
【0078】
マーカー40の配置要件とは、各識別情報で識別される各マーカー40がどの特徴点の指示に用いられるものであるか(例えば何番のマーカー40がどの特徴点に対応しているか)を意味している。すなわち、マーカー40の配置要件とは、
図6及び
図7に例示されているように、マーカー40と撮像対象物の特徴点(
図6及び
図7では頭骨の特徴点)との対応関係を表している。専門家は、事前に定義されたマーカー40と特徴点との対応関係に基づいて、画像データ20に映る撮像対象物の特定の特徴点の上に、当該特定の特徴点に対応したマーカー40を配置する作業を行う。なお、
図6及び
図7には、距離計測を行うべき特定の特徴点間が線分で結ばれている。
【0079】
特徴点を指示する際、専門家は、テンプレート画像データ30をディスプレイに表示する。ディスプレイには、例えば
図5に示すようなテンプレート画像データ30が表示される。
【0080】
専門家は、テンプレート画像データ30が表示されたディスプレイ上において、マーカー40の配置要件に基づいて、ディスプレイに表示された画像データ20に映る撮像対象物の所定の特徴点の上に、各マーカー40のポインタ領域42aの中心画素42cが重なるように移動させる。
図8に、画像データ20に映る撮像対象物の所定の特徴点の上にマーカー40が配置された状態を示す。
【0081】
すべてのマーカー40を特徴点上に移動させる作業が完了した際、テンプレート画像データ30は、提供されたテンプレート画像データ30をディスプレイに表示した状態(初期状態)から、マーカー40を各特徴点上に移動させた状態に編集(変更)され、マーカー40が各特徴点上に移動された状態の画像データを、特徴点指定画像データ35として保存する。
【0082】
特徴点指定画像データ35は、レイヤー構造を維持したまま保存されたものであってもよいが、すべてのレイヤーを統合した1枚の画像(例えばPNG形式のラスタ画像など)として保存されることが好ましい。また、画像データ20がカラー画像の場合には、当該カラー画像を非表示として、別レイヤーに配置されたグレースケール画像などにマーカー40が重畳表示された状態としたうえで、特徴点指定画像データ35が保存されてもよい。
【0083】
(ステップS50:マーカー40の検出)
上述したように、特徴点指定画像データ35は、各マーカー40が画像データ20に映る撮像対象物の各特徴点に配置された状態で保存されたものである。マーカー40の検出にあたって、特徴点指定画像データ35がレイヤー構造を維持したまま保存されている場合には、すべてのレイヤーを統合した1枚の画像(例えばPNG形式のラスタ画像など)として再度保存される。
【0084】
特徴点指定画像データ35では、各マーカー40によって画像データ20に映る撮像対象物の各特徴点の位置が指示されており、各マーカー40の位置を検出することで撮像対象物の各特徴点の位置を特定することができる。
【0085】
マーカー40の検出では、特徴点指定画像データ35を読み込み、まず、特徴点指定画像データ35内の画像表示エリア51を、マーカー40の検出対象エリアとして特定する。画像表示エリア51には、画像データ20に映る撮像対象物の各特徴点の上に各マーカー40が配置されている。なお、特徴点指定画像データ35内の余白表示エリア52には未使用のマーカー40(予備のマーカー40)が配置されているが、画像表示エリア51を検出対象エリアとすることで、未使用のマーカー40を検出対象から除外することができるようになっている。
【0086】
次いで、検出対象エリア内に配置されている複数のマーカー40のそれぞれの位置を特定する。検出対象エリア内におけるマーカー40の検出方法は特に限定されないが、本実施形態では、各マーカー40の識別情報に対応した色情報を検出することで、各マーカー40の位置検出を行えるように工夫が施されている。
【0087】
特徴点指定画像データ35の検出対象エリアに含まれる画像データ20は、例えばグレースケール画像である。一方、このグレースケール画像の上に配置されるマーカー40のポインタ表示部42は、各マーカー40の識別情報に対応した色情報の画素を有している。検出対象エリア内の各画素を走査して各画素の色情報を検出することで、色情報が検出された位置を、その色情報に対応するマーカー40の位置として特定することができるようになっている。
【0088】
例えば、
図4に示すマーカー40の場合には、3画素×3画素の正方形状である色情報領域42dの左下画素の位置がポインタ領域42aの中心画素42cと一致している。この場合、マーカー40の識別情報に対応した固有の色情報を有する3画素×3画素の正方形領域を特定し、その左下画素の位置を、当該固有の色情報が割り当てられたマーカー40によって指示された特徴点の位置として特定することができる。
【0089】
このように、検出対象エリア全体を走査し、検出対象エリア内に配置されている複数のマーカー40によって指示された特徴点のそれぞれの位置を特定することで、各マーカー40による特徴点の指示画素(すなわち、各マーカー40がどの画素を指示しているか)についての検出結果が得られる。
【0090】
なお、画像データ20がカラー画像の場合、マーカー40に割り当てられた色情報からマーカー40の検出が正確に行えなくなる可能性がある。このような場合には、カラー画像である画像データ20を非表示とするか、カラー画像に代えて別レイヤーに配置されたグレースケール画像を含むように特徴点指定画像データ35を作成すればよい。
【0091】
さらに、特徴点指定画像データ35を、RGB色空間を持つ画像データとするとともに、各RGB色空間に以下のように情報を格納してもよい。
・R ユーザAが配置したマーカー40の位置を赤チャンネルに格納
・G カラー画像をグレースケール化した画像を、緑チャンネルを用いて表示
・B ユーザBが配置したマーカー40の位置を青チャンネルに格納
このように、特徴点指定画像データ35のRGB色空間に異なる情報を格納することで、RGB色空間の表示態様を適宜変更した場合に、グレースケール化した画像(元画像)とマーカー40を重ね合わせたり、グレースケール化した画像と各ユーザ(例えば専門家)が配置したマーカー40を切り替えたりすることが可能となる。なお、上記では一例として、画像データ20がRGB色空間の3チャンネルを持つ場合について説明しているが、画像データ20はこれに限定されるものではなく、より多くのチャンネル(複数チャンネル)を持つ画像データを用いて、複数チャンネルに含まれるチャンネルを選択してユーザが配置したマーカー40に関する情報を格納してもよい。
【0092】
(ステップS60:検出したマーカー40に基づく計測)
各マーカー40が指示する画素の位置は、画像データ20の各特徴点と対応している。また、各マーカー40が指示する画素同士の位置関係は、各特徴点の相対的な位置関係に対応している。このため、検出した各マーカー40による特徴点の指示画素に基づいて、特徴点同士の幾何学的な相関値(各特徴点間の距離や角度)の計測、画像データ20内における範囲の特定、撮像対象物の特定などを行うことができる。
【0093】
例えば、複数のマーカー40による特徴点の指示画素間の相対値を算出することで、各特徴点の相対的な位置関係を算出することができる。具体的には、2つのマーカー40のそれぞれが指示する2つの画素の距離を計測することで、2つのマーカー40のそれぞれに対応する特徴点間の相対距離を特定することができ、当該線分の水平方向又は垂直方向に対する角度を特定することができる。さらに、例えば3つのマーカー40のそれぞれが指示する3つの画素を結ぶ線分同士の角度から、3つのマーカー40のそれぞれに対応する特徴点がなす角度を特定することができる。
【0094】
なお、各特徴点間の距離の実寸は、マーカー40間の相対距離に対して、さらに画像データ20の縮尺を考慮することで算出することができる。また、テンプレート画像データ30内に、画像データ20のスケールを示すマーカー40(例えば、実寸で1mmの距離だけ離れた2つのマーカー40)を設けておくことで、各マーカー40間の相対距離に対応する実寸を容易に把握できるようにしてもよい。
【0095】
また、各マーカー40は、画像データ20の各特徴点として、画像データ20における領域や撮像対象物を指定するものであってもよい。1つ又は複数のマーカー40が特定の撮像対象物を指示するものである場合には、マーカー40が指示する特徴点を基準とし、例えば画像データ20に対してエッジ検出処理などを行うことで、特定の撮像対象物を抽出することができる。
【0096】
また、2つ以上のマーカー40が特定の撮像対象物を含む領域(2つのマーカー40の指示画素を対角とした矩形領域、又は、3つ以上のマーカー40を結んで形成される多角形領域など)を指示するものである場合に、マーカー40が指示する領域内において、例えば画像データ20に対してエッジ検出処理などを行うことで、特定の撮像対象物を抽出することができる。
【0097】
デジタル画像処理において、任意の関心領域(ROI:Region of Interest)を抽出する処理を一般的にセグメンテーション(Segmentation)と称する。セグメンテーションを行うソフトウエアとしては、デジタル画像上の任意の画素を起点(Seed Point)として、一定のルールを設けて、近傍の画素を取り込む処理を繰り返すアルゴリズム「Region Growing(領域成長)」を用いた実装が知られている。ステップS60において、Region Growingを実行するソフトウエアを実装すれば、マーカー40の座標位置を起点として、領域抽出処理を実行し、結果画像を得ることができるようになる。
【0098】
以上のように、本実施形態における上記の方法によれば、撮像対象物が撮像された画像データ20と、撮像対象物の上に重畳表示されて撮像対象物の上で移動可能なように配置された複数のマーカー40と、を含むテンプレート画像データ30を作成するテンプレート画像データ作成ステップ(
図1に示すステップS30に相当)、ディスプレイに表示されたテンプレート画像データ30において、複数のマーカー40のそれぞれを撮像対象物の特徴点の上に移動させて、撮像対象物の複数の特徴点の上に複数のマーカー40がそれぞれ配置された特徴点指定画像データ35を作成する特徴点指定画像データ作成ステップ(
図1に示すステップS40に相当)、特徴点指定画像データ35において、撮像対象物の複数の特徴点の上に配置された複数のマーカー40の位置を検出するマーカー検出ステップ(
図1に示すステップS50に相当)の各処理をコンピュータにより実行することで、画像データ20に映る撮像対象物の特徴点の検出を行うことができる。
【0099】
これにより、撮像対象物の特徴点の指示を、マーカー40の移動という簡単な操作で行うことができるようになり、コンピュータの操作及び画像処理に精通していない専門家であっても、撮像対象物の特徴点を簡単かつ正確に指示することができるようになる。
【0100】
また、撮像対象物の特徴点を指示すべき画像データ20が多数存在する場合であっても、従来技術に比べて、労力、時間、コストのすべてを低減させることができるようになる。本発明は、人間とコンピュータとの協働システムであり、撮像対象物の特徴点の指示については、撮像対象物に熟知し、その特徴点の位置や性質などを十分に理解している専門家が行い、大量の画像データに係る処理については、コンピュータが行うことで、撮像対象物の特徴点の位置特定及び位置検出を正確、確実かつ迅速に行うことができ、結果的に、撮像対象物の特徴点を指示する作業の労力、時間、コストのすべてを低減し、誤りの無い結果を得ることができるようになる。また、個々の処理を単純化し、例えば撮像対象物に熟知した専門家及び画像処理のエキスパートなどにそれぞれの得意な作業を任せたり、個別要素の自動化を図って運営したりすることで、流れ作業のように処理を進めることができ、全体の効率を上げ、得られる結果の質を高める効果が期待できる。
【0101】
(本発明を適用した具体例)
以下、本発明を適用した具体例について説明する。
【0102】
図9を参照しながら、本発明を適用した具体例の概略について説明する。
図9は、本発明を適用した具体例の概略を模式的に示す説明図である。
【0103】
図9に示す説明図には、多数の被験者の頭部をX線CT又はMRIなどで撮像して得られる画像データから、頭骨における各特徴点の長さや角度などを計測して、頭骨の人種差や男女差などを分析するための計測データを収集するプロジェクトに本発明を適用した場合の概略が示されている。このプロジェクトでは、500人の被験者の頭部を撮像して得られた画像データから、頭骨の各特徴点間の距離や角度などの計測を実際に行っており、本発明の有用性が実証されている。
【0104】
図9において、まず、多数の被検者の頭骨が撮像された撮像データ(DICOMファイル)が、医療機関側から画像処理サービス側(システム開発者)に提供される。このとき、撮像データは匿名化され、例えばRAW形式に変換された状態で提供される。
【0105】
画像処理サービス側は、提供された撮像データから3Dモデルを構築し、座標系の設定(傾き補正)、LUT(Look Up Table)の調整、レンダリング(描画)の各処理を行って、計測用の2次元画像データ(画像データ20)を作成する。
【0106】
次に、画像処理サービス側は、上記のように作成した計測用の2次元画像データ(画像データ20)からテンプレート(テンプレート画像データ30)を作成する。テンプレート(テンプレート画像データ30)は、複数のマーカー40がそれぞれ配置された複数のマーカーレイヤー33を含んで構成されたレイヤー構造を有する編集用画像データ25に、画像データ20を組み合わせることで作成される。具体的には、編集用画像データ25の画像レイヤー32に画像データ20を挿入することで、各画像データ20を含んだテンプレート画像データ30が作成される。このとき、画像データ20に映る頭骨(撮像対象物)の各特徴点の近傍に各マーカー40を配置した状態としてもよい(後述するマーカーの仮置き)。
【0107】
編集用画像データ25及びテンプレート画像データ30はレイヤー構造を有する画像データであり、編集用画像データ25及びテンプレート画像データ30として、オープンソースで開発されているGIMP(GNU Image Manipulation Program)などの画像処理ソフトウエアで編集可能なファイルを用いることができる。
【0108】
上記のように作成したテンプレート画像データ30は、画像処理サービス側から頭骨の構造についての専門的な知識を有する専門家に送付される。本例における専門家は、例えば、医療従事者(矯正歯科医)である。専門家は、必要に応じて、追加の傾き補正や計測点の仕様変更の指示などを画像処理サービス側に伝え、画像処理サービス側は、これらの指示に従ってテンプレート画像データ30を更新してもよい。
【0109】
次いで、専門家は、画像処理ソフトウエアを使用してテンプレート画像データ30をディスプレイに表示し、表示画面に表示されている画像を視認しながら、撮像対象物である頭骨の各特徴点の上に当該各特徴点に対応するマーカー40を移動させるだけで、各特徴点の指示を行うことができる。さらに、マーカー40が頭骨の各特徴点の近傍に配置(仮置き)されている場合には、専門家は、マーカー40の位置を微調整するだけで、各特徴点を指示する位置にマーカー40を配置することができる。
【0110】
専門家は、各特徴点(計測点)の位置を決定して最終版のテンプレート(特徴点指定画像データ35)を保存し、画像処理サービス側に返送する。画像処理サービス側は、返送された最終版のテンプレート(特徴点指定画像データ35)に含まれる各マーカー40の座標をプログラムで自動検出し、各座標の距離や角度を計測した計測結果を作成及び出力する。この計測結果は医療機関側に提供され、解剖学的・人類学的な知見に基づく分析及び検討のために利用される。
【0111】
さらに
図10を参照しながら、
図9に示す具体例について、複数の作業者で作業を分担して行う点に着目しながら説明する。
図10は、本発明を適用した具体例の概略を模式的に示すフロー図である。
図10に示すように、本発明を適用した具体例では、個々の処理を簡略化したうえで、各処理に適したスキルを有する作業者が、個々の処理を実施するようになっている。これにより、各作業者が連携して流れ作業のように処理を進めて、作業効率を向上させるとともに、最終的に得られる結果の質を向上させることができる。
【0112】
図10には、複数の作業者A~Dがそれぞれの処理または作業を分担して行う流れが図示されている。作業者Aは、主に画像データを作業者Bに渡す役割を有している。作業者Aは、例えば、医療機関側の担当者、画像データの管理者など、特に限定された人物ではない。作業者Bは、画像データの処理を行う人物であり、例えば、画像処理サービス側に属し、画像処理ソフトウエアに精通した技術者等である。作業者Cは、撮影対象物の解釈や認識に精通した人物であり、例えば、撮影対象物に熟知した専門家である。作業者Dは、作業者Dは、画像データの処理を行う人物であり、作業者Bと同様に、画像処理サービス側に属し、画像処理ソフトウエアに精通した技術者等である。作業者Dは作業者Bと同一人物であってもよく、異なる人物であってもよい。
【0113】
作業者Aは、画像データを入手し(A1)、入手した画像データを作業者Bに渡す。ここでいう画像データは、撮像対象物における特徴点の指定を行うことが要求されている画像データであり、上述した画像データ20を意味する。
【0114】
作業者Bは、テンプレートを作成し(B1)、作業者Aから渡された画像データをテンプレートに合成して画像付きテンプレートを作成し(B2)、作成した画像付きテンプレートを作業者Cへ渡す。ここでいうテンプレートは、上述した編集用画像データ25を意味し、画像付きテンプレートはテンプレート画像データ30を意味する。
【0115】
作業者Cは、作業者Bから渡された画像付きテンプレートにおいて、マーカーの移動操作を行ってマーカー位置調整済みテンプレートを作成し(C1)、作成したマーカー位置調整済みテンプレートを作業者Dに渡す。ここでいうマーカー位置調整済みテンプレートは、上述した特徴点指定画像データ35を意味する。
【0116】
作業者Dは、作業者Cから渡されたマーカー位置調整済みテンプレートに対して、マーカー位置の検出処理を実行し(D1)、さらに、画像領域の認識・計測などの処理を実行して数値情報画像データを作成する(D2)。数値情報画像データは、撮影対象物の特徴点が数値化されたデータであり、当該撮影対象物の分析及び検討のために利用される。
【0117】
図10で示した処理フローにおいて、各作業者A~Dが時間的あるいは距離的に離れていても、
図10に示すように各作業者A~D間におけるデータの受け渡しさえ成立すれば、全体の作業を問題無く進めることができる。このとき、各作業者A~Dにおいて作業ごとに結果を蓄積し、データがまとまって一定以上のデータ量となってから処理を実施する非同期的な運用も可能である。各工程の負荷に応じた人員や設備を適宜配置してもよい。習熟した作業者が配置したマーカーの位置から、初心者が画像の判定方法を学習する効果も期待できる。このように、画像データに付帯情報が付属して構成されたテンプレートを用いることで、業務全体の効率化や柔軟な運用を実現することができる。
【0118】
また、工業製品や食品等の検査、医療分野の画像診断システムを構築して運用する場合、人の目による判定をどうしても排除できない場合があり得る。このようなシステムにおいては、例えば自動化された装置で、大量の画像を高速に撮影し、蓄積された画像データを人がオフラインで判定し、問題の箇所をマーカーで指し示して記録していくような処理形態が考えられる。AI等による処理の自動化を図る場合、一度でシステムが完成の域に達する訳ではなく、教師データが蓄積されるほど判定の精度が上がり、実用性が増してくる。このとき、画像データに付帯情報が付属して構成された本発明に係るテンプレートを用いることで、人が目視により判定する検査・診断システムを運用しながら、教師データを蓄積してAI等による判定の精度を向上させることができ、無理なく段階的に自動化へ移行することができるようになる。
【0119】
(画像データ処理システム100の構成)
以下、上述した具体例を実現する画像データ処理システム100の構成について説明する。
図11は、本発明の実施形態における画像データ処理システム100の構成例を示す図である。
【0120】
図11に示す画像データ処理システム100は、人間の頭骨の解剖学的・人類学的な計測を行うために構築されたものであり、撮像データ管理装置210、特徴点指示装置220、画像処理装置310、マーカー検出・計測装置320が、インターネットなどのネットワーク400を介して接続されて構成されている。
【0121】
撮像データ管理装置210及び特徴点指示装置220は、医療機関側200において管理される装置であり、画像処理装置310及びマーカー検出・計測装置320は、システム開発を行った画像処理サービス側300において管理される装置である。
【0122】
撮像データ管理装置210、特徴点指示装置220、画像処理装置310、マーカー検出・計測装置320は、PCを始めとするコンピュータにより実現可能である。
【0123】
撮像データ管理装置210、特徴点指示装置220、画像処理装置310、マーカー検出・計測装置320を実現するコンピュータは、例えば演算装置及び制御装置としての機能を有するCPUなどのプロセッサ、データを一時的に記憶するメモリ、主要なデータやソフトウエアなどを格納するHDDやSDDなどのストレージ、ユーザによる操作を受け付けるマウスやキーボードなどの入力装置、データを視覚的に表示するディスプレイなどの出力装置、他の外部装置とネットワーク400などを介して通信を行う通信装置などを備えて構成されている。撮像データ管理装置210、特徴点指示装置220、画像処理装置310、マーカー検出・計測装置320における主要な機能は、プロセッサがソフトウエアを構成するプログラム(又はスクリプト)を実行することで実現される。
【0124】
図11に示す構成では、医療機関側200の撮像データ管理装置210及び特徴点指示装置220はそれぞれ独立した装置として図示されているが、撮像データ管理装置210及び特徴点指示装置220は一体となった装置であってもよく、撮像データ管理装置210及び特徴点指示装置220のそれぞれの機能が複数の装置に分散されていてもよい。
【0125】
撮像データ管理装置210及び特徴点指示装置220はそれぞれ複数台存在していてもよく、特にマーカー40を移動して特徴点の指示を行う専門家が複数人存在する場合には、各専門家がそれぞれ操作可能となる複数台の特徴点指示装置220が存在することが好ましい。
【0126】
また、
図11に示す構成では、画像処理サービス側300の画像処理装置310及びマーカー検出・計測装置320はそれぞれ独立した装置として図示されているが、画像処理装置310及びマーカー検出・計測装置320は一体となった装置であってもよく、画像処理装置310及びマーカー検出・計測装置320のそれぞれの機能が複数の装置に分散されていてもよい。
【0127】
(撮像データ管理装置210)
撮像データ管理装置210は、画像データ20の管理を行う装置である。撮像データ管理装置210は、例えば医療機関側200で、X線CT又はMRIなどで撮像して得られたDICOMファイルを管理するデータベースを備えて構成されている。本例では、DICOMファイルには、被検者の頭骨を撮像したセファログラムがDICOM画像データとして含まれている。
【0128】
DICOMファイルは、DICOMと呼ばれる医療用画像の標準規格に準拠したファイルフォーマットからなるデータであり、被検者の個人情報とともにDICOM画像データが格納されたデータである。
【0129】
撮像データ管理装置210で管理されているDICOMファイルは、画像処理サービス側300の画像処理装置310に提供される。この際、DICOMファイルに含まれる被検者の個人情報は削除され、画像データ20のみが提供されることが好ましい。撮像データ管理装置210から画像処理装置310へのDICOMファイルの提供は、例えば
図11に示すようにネットワーク400を介して行われてもよいが、撮像データ管理装置210においてDVDやBDなどの可搬型記憶媒体にDICOMファイルを書き込み、当該可搬型記憶媒体内のDICOMファイルを画像処理装置310で読み出すようにしてもよい。
【0130】
(特徴点指示装置220)
特徴点指示装置220は、専門家が特徴点の指示を行うために用いる装置であり、画像処理部221を有している。画像処理部221は、レイヤー構造を有する画像データの作成、編集、保存などの処理を行う機能を有している。画像処理部221は、画像処理装置310が有する画像処理部313と同一の機能を有するものであることが好ましく、例えばオープンソースで開発されているGIMPなどの画像処理ソフトウエアを実行することで画像処理部221が実装されてもよい。
【0131】
画像処理部221は、画像処理サービス側300から提供されたテンプレート画像データ30を読み込んでディスプレイに表示するとともに、専門家によるマウスなどの操作を受け付けて、画像データ20に映る頭骨の各特徴点にマーカー40を移動及び配置することを可能とする機能を有している。また、画像処理部221は、画像データ20に映る頭骨の特定の特徴点の上にマーカー40が配置された状態となるように編集されたテンプレート画像データ30を、特徴点指定画像データ35として保存する機能を有している。
【0132】
特徴点指示装置220で作成された特徴点指定画像データ35は、画像処理サービス側300のマーカー検出・計測装置320に提供される。特徴点指示装置220からマーカー検出・計測装置320への特徴点指定画像データ35の提供は、例えば
図9に示すようにネットワーク400を介して行われてもよいが、特徴点指示装置220でDVDやBDなどの可搬型記憶媒体に特徴点指定画像データ35を書き込み、当該可搬型記憶媒体内の特徴点指定画像データ35をマーカー検出・計測装置320で読み出すようにしてもよい。
【0133】
(画像処理装置310)
画像処理装置310は、DICOMデータ変換部311、断面像作成部312、画像処理ソフトウエア313、テンプレート作成部314、傾き補正部315を有している。
【0134】
DICOMデータ変換部311は、DICOM画像データをRAW形式の画像データに変換する機能を有している。断面像作成部312は、DICOM画像データから得られるRAW形式の画像データに基づいて3次元モデルを構築し、当該3次元モデルの任意の断面像を作成する機能を有している。断面像作成部312は、例えば、ExFact VR(日本ビジュアルサイエンス社製)の画像処理ソフトウエアで実現することができる。なお、例えばDICOM画像データが適切な2次元断面像データである場合には、3次元モデルを作成せずにDICOM画像データをそのまま画像データ20としてもよい。
【0135】
画像処理部313は、レイヤー構造を有する画像データの作成、編集、保存などの処理を行う機能を有している。画像処理部313は、特徴点指示装置220が有する画像処理部221と同一の機能を有するものであることが好ましく、例えばオープンソースで開発されているGIMPなどの画像処理ソフトウエアを実行することで画像処理部313が実装されてもよい。
【0136】
画像処理装置310は、あらかじめ作成した編集用画像データ25を保持している。画像処理部313は、編集用画像データ25の画像レイヤー32に画像データ20を挿入及び配置して、テンプレート画像データ30を作成する機能を有している。
【0137】
画像処理装置310で作成されたテンプレート画像データ30は、医療機関側200の特徴点指示装置220に提供される。画像処理装置310から特徴点指示装置220へのテンプレート画像データ30の提供は、例えば
図11に示すようにネットワーク400を介して行われてもよいが、画像処理装置310でDVDやBDなどの可搬型記憶媒体にテンプレート画像データ30を書き込んで医療機関側200に提供し、当該可搬型記憶媒体内のテンプレート画像データ30を特徴点指示装置220で読み出すようにしてもよい。
【0138】
テンプレート作成部314は、編集用画像データ25の画像レイヤー32に画像データ20を挿入する機能を有している。テンプレート作成部314は、膨大な数の画像データ20を断面像作成部312で作成し、画像データ20を1枚ずつ編集用画像データ25の画像レイヤー32に挿入してテンプレート画像データ30を作成する作業を自動化するものであり、例えばRPAツールなどにより実現される。
【0139】
傾き補正部315は、画像データ20が適切な向きの断面像となるように、画像データ20の傾きを補正する機能を有している。傾き補正部315は、断面像作成部312が構築した3次元モデルの方向設定を行い、設定した3次元モデルから適切な向きの断面像を出力させる機能を有している。傾き補正部315は、一例として後述するように、傾き補正用データに設定されたマーカー40の位置に基づいて、3次元モデルの方向設定を行うことができるようになっている。
【0140】
(マーカー検出・計測装置320)
マーカー検出・計測装置320は、特徴点指定画像データ35に基づいてマーカー40の検出及び計測を行う装置である。マーカー検出・計測装置320は、マーカー位置検出部321、計測値算出部322を有している。
【0141】
マーカー位置検出部321は、医療機関側200から提供された特徴点指定画像データ35を読み込んで、画像データ20に映る頭骨の各特徴点の上に配置されたマーカー40を検出するマーカー位置検出部としての機能を有している。マーカー40が指示する位置を検出することで、画像データ20に映る頭骨の各特徴点の位置を検出することができる。
【0142】
計測値算出部322は、検出したマーカー40の幾何学的な相対値(距離や角度など)を計測する機能を有している。マーカー40の位置は頭骨の各特徴点の位置に対応しており、検出したマーカー40の幾何学的な相対値を計測することで、頭骨の各特徴点同士の相対値を計測することができる。
【0143】
マーカー検出・計測装置320による各特徴点の計測結果は報告データとして纏められ、医療機関側200に提供される。
【0144】
(画像データ処理システム100の動作)
次に、上述した画像データ処理システム100の動作について説明する。
図12は、本発明の実施形態における画像データ処理システム100の動作の一例を示す図である。
【0145】
医療機関側200は、上述したように、解剖学的・人類学的な計測データを収集する目的で、多数(例えば、500人)の被験者の頭骨に関して、各特徴点の距離や角度などの計測を行うことを望んでいる。医療機関側200に属する専門家は、頭骨のどの位置を特徴点として捉えるべきであるか(計測に必要となる各特徴点の位置)、さらには、解剖学的・人類学的な知見から、各特徴点のうちのどの特徴点を用いて、これらの特徴点の距離や角度などを計測すべきかを把握している。
【0146】
医療機関側200は、撮像データ管理装置210において、計測に必要となる多数の被験者の頭骨の撮像データを管理しているが、これら多数の撮像データに基づいて計測データを効率的に収集するための画像処理に関するノウハウを有してはいない。こうした状況において、本実施形態における画像データ処理システム100は、画像処理サービス側300が画像処理の支援を行うことで、多数の撮像データに基づいて計測データを効率的に収集できるように構築されたものである。
【0147】
まず、医療機関側200の撮像データ管理装置210は、計測データの収集に必要な被験者の頭骨の撮像データを画像処理サービス側300の画像処理装置310に提供する。医療機関側200で管理されている撮像データは、例えば、被検者の個人情報が匿名化されたDICOMファイル(DICOM画像データ)の形式で画像処理サービス側300に提供される。
【0148】
さらに、医療機関側200は、これらの撮像データに映る頭骨の各特徴点の定義及び配置要件(特徴点定義データ)を画像処理サービス側300に提供する(ステップS110)。頭骨の各特徴点の定義は、例えば、頭骨の各特徴点の位置及び各特徴点の名称などを表に纏めた特徴点定義データ(テキストデータ)である。また、配置要件は、特定の特徴点間の距離や角度など、各特徴点から実際に算出したい計測対象を表している。
【0149】
医療機関側200から画像処理サービス側300に提供されるDICOM画像データは、2次元画像データであってもよく、3次元画像データであってもよい。DICOM画像データが3次元画像データである場合には、画像処理サービス側300は、必要に応じて、DICOMデータ変換部311によりDICOM画像データをRAW形式の画像データに変換してもよい。
【0150】
DICOM画像データが頭骨の連続した断面を撮像した複数のスライス画像データ(2次元画像データ)の場合には、画像処理装置310は、断面像作成部312において、複数のスライス画像を積み重ねて頭骨の3次元モデルを構築する。構築した頭骨の3次元モデルは、3次元空間内で任意の方向に回転可能であり、断面像作成部312は、この3次元モデルから、任意の視点から見た場合の表面画像データ(正面画像データ及び側面画像データなど)や、所望の面を断面とした断面画像データなどを作成する(ステップS120)。なお、頭骨の3次元モデルを構築せず、医療機関側200から提供されたスライス画像データをそのまま画像データ20として用いてもよい。
【0151】
解剖学的・人類学的な知見に基づいて頭骨の特徴点を計測するためには、一例として、1枚の正面画像データ、2枚の左右の側面画像データ、副鼻腔(上顎洞)の幅及び奥行きを計測するための2枚の断面画像データを画像データ20として準備する必要がある。この場合、1人の被験者に対して全部で5枚の画像データ20(2次元の画像データ)が準備される。被検者が500人の場合、500人×5枚=2500枚の画像データ20が準備される。
【0152】
計測をより正確に行うため、頭骨が真正面及び真側面から見た状態となり、かつ、所定の基準線が水平となるように、傾き補正を行うことが好ましい。画像データ20の傾き補正は、画像処理サービス側300である程度実施することができるが、必要に応じて、例えばテンプレート画像データ30(編集用画像データ25)と同様のレイヤー構造を有する傾き補正用データを専門家に提供して追加の傾き補正を行ってもらうことで、正確な傾き補正を効率的に行ってもよい(ステップS125)。ここでは全体の動作の流れを説明するため、画像データ20に対して傾き補正が既に実施されたもの(あるいは、専門家による追加の傾き補正が不要であったもの)として説明し、ステップS125で必要に応じて実施される傾き補正の詳細については後述する。
【0153】
画像処理装置310がアクセス可能なストレージには、上記のように準備された多数の画像データ20(必要に応じて傾き補正された画像データ20)が格納される。
【0154】
また、画像処理サービス側300は、医療機関側200から提供された各特徴点の定義及び配置要件に基づき、各マーカー40に割り当てられた識別情報を、頭骨の各特徴点に対応付ける。各マーカー40には、例えば識別番号「00」~「99」が割り当てられており、識別番号「00」=Nasion(頭骨の前頭骨と鼻骨が出合う鼻梁の頭蓋計測点)、識別番号「01」=Sella Trucia(脳下垂体直下の骨性部)、識別番号「02」=Orbitale(眼窩の最下点)、識別番号「03」=Porion(外耳孔上縁の中央点)などのように、識別番号と特徴点との対応関係を設定する。なお、専門家に指示してもらう頭骨の特徴点の個数は、おおよそ数個~数十個程度である。
【0155】
また、
図6に示すセファログラムの正面画像のような左右略対称な画像では、例えば眼窩の最下点などのように、同様の性質を持つ特徴点が左右略対称な位置に存在している。こうした左右一対の特徴点を指示できるようにするために、編集用画像データ25には、あらかじめ各識別情報に対応して一対のマーカー40が設定されている。
【0156】
次いで、画像処理サービス側300は、編集用画像データ25の画像レイヤー32に画像データ20を挿入して、テンプレート画像データ30を作成する(ステップS130)。このとき、テンプレート作成部314により実現されるRPAツールなどにより、編集用画像データ25の画像レイヤー32に画像データ20を挿入してテンプレート画像データ30を作成する処理を自動化することができる。
【0157】
さらに、専門家が特徴点の指示を容易に行えるように、テンプレート画像データ30において、画像データ20に映る特徴点に近い位置にあらかじめマーカー40を配置(マーカー40の仮置き)しておくことが好ましい。
【0158】
以下、マーカー40の仮置きについて説明する。画像処理サービス側300は、まず、マーカー40の仮置きを行うために任意の画像データ20を選択し、選択した画像データ20を編集用画像データ25の画像レイヤー32に挿入して、仮置き用のテンプレート画像データ30を作成する。
【0159】
次いで、画像処理部313により、仮置き用のテンプレート画像データ30をディスプレイに表示する。識別番号と特徴点との対応関係に基づいて、マウスを用いたドラッグアンドドロップの操作によって、仮置き用のテンプレート画像データ30の画像表示エリア51内に表示されている画像データ20に映る頭骨の各特徴点の上に、対応する各マーカー40を仮置きする。そして、画像データ20の各特徴点の上に各マーカー40が仮置きされた状態で画像データ20を削除し、仮置き用の編集用画像データ25として保存する。
【0160】
仮置き用の編集用画像データ25は、各特徴点に対応する各マーカー40が、画像表示エリア51内に配置された状態となっている。画像処理装置310は、テンプレート作成部314によって、この仮置き用の編集用画像データ25の画像レイヤー32に各画像データ20を挿入して、テンプレート画像データ30を作成する。
【0161】
このようにして作成したテンプレート画像データ30は、正確な位置ではないものの、画像データ20に映る頭骨の特徴点に近い位置に、あらかじめ各マーカー40が配置された状態となる。各マーカー40が各特徴点のおおよその位置に配置されていることから、専門家は、各特徴点に各マーカー40を配置する際に、各特徴点と各マーカー40との対応関係を容易に把握できるようになり、また、少ない移動距離で各マーカー40を各特徴点の上に移動させることができるようになる。
【0162】
上述したように、1枚の正面画像データ、2枚の左右の側面画像データ、2枚の断面画像データの5種類の画像データ20が存在する場合には、5種類のそれぞれについて5種類の仮置き用の編集用画像データ25を作成する。そして、テンプレート作成部314によって、各種類の仮置き用の編集用画像データ25に対して、対応する画像データ20を挿入することで、マーカー40が仮置きされたテンプレート画像データ30を自動的に作成することができる。
【0163】
次いで、画像処理サービス側300の画像処理装置310は、テンプレート画像データ30を医療機関側200の特徴点指示装置220に提供する(ステップS140)。また、画像処理サービス側300は、各特徴点に対して設定した各マーカー40の識別番号(マーカー40と特徴点との対応関係)のリストを作成し、このリストについても医療機関側200に属する専門家に提供する。各マーカー40には、その識別番号に対応する色情報が一意に割り当てられており、上記のリストにおいて、マーカー40と特徴点との対応関係に加えて、各マーカー40に割り当てられた色情報が把握できるようにしてもよい。画像処理装置310から特徴点指示装置220に提供されたテンプレート画像データ30は、特徴点指示装置220からアクセス可能なストレージに保存される。
【0164】
専門家は、画像処理部221を実現する画像処理ソフトウエアを用いて、テンプレート画像データ30をディスプレイに表示する。そして、専門家は、マーカー40と特徴点との対応関係のリストに基づいて、マウスを用いたドラッグアンドドロップの操作によって、テンプレート画像データ30の画像表示エリア51内に表示されている頭骨の各特徴点の上に、対応する各マーカー40を配置する(ステップS150)。
【0165】
マーカー40の配置作業が終了すると、専門家は、テンプレート画像データ30を、例えばすべてのレイヤーを統合した1枚の特徴点指定画像データ35(例えばPNG形式のラスタ画像など)として保存する(ステップS160)。なお、画像処理サービス側300がレイヤーの統合を行ってもよく、この場合、マーカー40の配置が終了したテンプレート画像データ30を、レイヤー構造が維持された状態で特徴点指定画像データ35として保存してもよい。
【0166】
本例では、被検者500人に関する2500個のテンプレート画像データ30についてマーカー40の配置作業を行う必要があるため、複数の専門家が手分けしてマーカー40の配置作業を行うようにしてもよい。また、各特徴点に近い位置にあらかじめマーカー40が仮置きされたテンプレート画像データ30を画像処理サービス側300から医療機関側200に提供することで、専門家によるマーカー40の配置作業の負担及び時間を大幅に削減することができる。
【0167】
次いで、医療機関側200の特徴点指示装置220は、特徴点指定画像データ35を画像処理サービス側300のマーカー検出・計測装置320に提供する(ステップS170)。特徴点指定画像データ35は、各マーカー40が画像データ20に映る頭骨の所定の特徴点に配置された状態で保存されたものであり、本例では、被検者500人分に関する2500個の特徴点指定画像データ35が存在する。
【0168】
マーカー検出・計測装置320は、特徴点指示装置220から提供された特徴点指定画像データ35に対してマーカー40の検出を行う(ステップS180)。
【0169】
各マーカー40に基づく計測は、すべてのレイヤーを統合した1枚の画像データ(例えば、PNG形式のラスタ画像など)を用いて行われる、このため、特徴点指定画像データ35がレイヤー構造を維持したまま保存されている場合には、マーカー40の検出の前段階処理として、すべてのレイヤーを統合した1枚の画像データに加工する。
【0170】
マーカー検出・計測装置320は、特徴点指示装置220から提供された特徴点指定画像データ35を読み込み、まず、特徴点指定画像データ35内の画像表示エリア51を検出対象エリアとして特定する。画像表示エリア51には、画像データ20に映る頭骨の各特徴点の上に、各特徴点の位置を指示するマーカー40が配置されている。
【0171】
次いで、検出対象エリア内に配置されている複数のマーカー40のそれぞれの位置を特定する。上述したように、マーカー40は、それぞれの識別番号に対応する色情報を有している。マーカー検出・計測装置320は、マーカー位置検出部321において、検出対象エリアに含まれる各画素を走査して各画素の色情報を検出することで、マーカー40の色情報領域42dの左下画素(ポインタ領域42aの中心画素42c)の座標位置を特定する。ポインタ領域42aの中心画素42cの座標位置は、専門家が指示した頭骨の各特徴点の座標位置に対応している。
【0172】
各マーカー40に割り当てられた色情報は、各マーカー40の識別番号と対応付けられている。マーカー位置検出部321は、マーカー40の検出結果として、各マーカー40の識別番号と、各マーカー40のポインタ領域42aの中心画素42cの座標位置とが関連付けられた中間データを出力する。
【0173】
なお、本例では、各識別情報に対応して一対のマーカー40が設定されており、同一の識別番号が割り当てられたマーカー40が2個ずつ存在している。マーカー位置検出部321は、マーカー40が検出された水平方向の座標位置に基づき、同一の識別番号に対して、「L」(左)及び「R」(右)などの符号を付してもよい。
【0174】
さらに、マーカー検出・計測装置320は、医療機関側200から提供された配置要件に基づいて、中間データに含まれるマーカー40の座標位置を用いて、各座標位置間の距離や角度などを算出する(ステップS190)。各座標位置間の距離や角度などの算出結果は、最終的な計測結果データとして、マーカー検出・計測装置320から特徴点指示装置220へ提供される(ステップS200)。
【0175】
図13に、計測結果データの作成過程を示す。マーカー40の配置要件には、どの特徴点間の相関値を計測すべきか定義されており、各被検者の特徴点間の相関値が表形式(CSV形式)のデータとして出力される。例えば「00--00」の項目には、識別番号「00」が割り当てられた一対のマーカー40間の距離の算出結果が記載される。「02--03L」の項目には、識別番号「02」が割り当てられた一対のマーカー40のうちの左側に配置されたマーカー40の座標位置と、識別番号「03」が割り当てられた一対のマーカー40のうちの左側に配置されたマーカー40の座標位置との間の距離の算出結果が記載される。「02--03R」の項目は、識別番号「02」が割り当てられた一対のマーカー40のうちの右側に配置されたマーカー40の座標位置と、識別番号「03」が割り当てられた一対のマーカー40のうちの右側に配置されたマーカー40の座標位置との間の距離の算出結果が記載される。
【0176】
図14に、計測結果データの一例を示す。
図14に示す計測結果データには、特定の被験者に係る頭骨を正面画像データから得られた各マーカー40間の距離が記載されている。
【0177】
最終的に出力される計測データは表形式のデータに纏められており、すべての被検者に係る測定結果が含まれている。また、各被験者はIDで識別可能となっており、各被験者に係る測定結果を個別に把握できるようになっている。
【0178】
医療機関側200は、500人の被験者それぞれの頭骨に関する各特徴点に係る計測結果データを統計学的に処理することで、頭骨の人種差や男女差などを分析及び検討することができる。
【0179】
(傾き補正)
図12に示すステップS125において画像データ20の傾き補正を行うことで、計測結果の精度を向上させることができるようになる。
【0180】
傾き補正を行う方法は特に限定されないが、例えば、傾き補正を行うべき画像データ20を専門家に提供して、画像データ20に映る頭骨の各特徴点を指示してもらうようにすることが好ましい。
【0181】
傾き補正は、頭骨の3次元モデルから画像データ20を作成する前段階に実施される。画像処理装置310は、例えば、頭骨の3次元モデルから仮の正面画像データ及び仮の側面画像データを作成し、これらの仮の正面画像データ及び仮の側面画像データを用いて、正面用の傾き補正用データ及び側面用の傾き補正用データを作成する。
【0182】
傾き補正用データには、テンプレート画像データ30を作成する場合と同様、編集用画像データ25が用いられる。正面用の傾き補正用データは、編集用画像データ25の画像レイヤー32に仮の正面画像データを挿入して作成される。また、側面用の傾き補正用データは、編集用画像データ25の画像レイヤー32に仮の側面画像データを挿入して作成される。
【0183】
画像処理装置310は、上記のように作成した正面用の傾き補正用データ及び側面用の傾き補正用データを、専門家が操作可能な特徴点指示装置220に提供する。なお、正面用の傾き補正用データ及び側面用の傾き補正用データにおいて、各特徴点の近傍にマーカー40を仮置きしておくことで、専門家によるマーカー40の配置作業の負担及び時間を大幅に削減することができる。
【0184】
特徴点指示装置220は、正面用の傾き補正用データをディスプレイ上に表示し、専門家がマウスなどを用いて、
図15(a)に示すように、左右両方の眼窩の側端部にマーカー40を配置して、正面用の傾き補正指示データとして保存する。また、特徴点指示装置220は、側面用の傾き補正用データをディスプレイ上に表示し、専門家がマウスなどを用いて、
図15(b)に示すように、眼窩の下端部と下顎頭の上端部にマーカー40を配置して、側面用の傾き補正指示データとして保存する。特徴点指示装置220は、上記のように作成した正面用の傾き補正指示データ及び側面用の傾き補正指示データを画像処理装置310に提供する。
【0185】
画像処理装置310は、正面用の傾き補正指示データ及び側面用の傾き補正指示データをディスプレイ上に表示して、マーカー40の位置を確認できるようにする。このとき、傾き補正指示データに含まれるレイヤーを統合して1枚の画像とし、マーカー検出・計測装置320に実装されているマーカー位置検出部321の機能を用いて、マーカー40の座標位置を正確に特定する。
【0186】
そして、頭骨の3次元モデルにおいて、左右両方の眼窩の側端部に配置されたマーカー40を結ぶ線分の第1角度、眼窩の下端部と下顎頭の上端部にそれぞれ配置されたマーカー40を結ぶ線分の第2角度を計測する。これにより3次元モデルの傾きを算出することができるので、
図16(a)に示すように、上記の第1角度及び第2角度分だけ逆方向に3次元モデルを回転させることで、傾きのない真っ直ぐな3次元モデルを得ることができる。具体的には、例えば第1角度及び第2角度が所定の方向(例えば略水平方向)を向くように調整する。さらに、
図16(b)に示すように、左右両方の眼窩の側端部に配置されたマーカー40を結ぶ線分が頭骨の略中心部を通るように調整する。
【0187】
この調整により、
図16(c)に示すように、頭骨の3次元モデルが正面及び側面を向いた位置、並びに頭骨の3次元モデルが所定の方向となるように定めることができる。そして、調整後の頭骨の3次元モデルから、画像データ20として使用するための1枚の正面画像データ、2枚の左右の側面画像データ、副鼻腔の幅及び奥行きを計測するための2枚の断面画像データを作成する。
【0188】
傾き補正は、テンプレート画像データ30と同様のレイヤー構造を有する傾き補正指示データを用いて、撮像対象物の各特徴点の位置を決定することで実施可能である。ただし、画像データ20の傾きを補正することが目的であるため、傾き補正では各特徴点によって決定される角度のみを計測すればよい。
【0189】
傾き補正は、個々の被験者の頭骨の3次元モデルに対して実行される。例えば500人の被験者が存在する場合には、500人分の頭骨の3次元モデルに対して傾き補正が行われる。画像データ20の傾きは、最終的に得られる計測結果の精度に少なからず影響を与えるが、専門家がマーカー40を配置するだけの簡単な作業を行うだけで、3次元モデルの正面や側面を正確に決定して傾きのない画像データ20を作成することができ、計測結果の精度を向上させることができる。
【0190】
(本発明の適用例)
以下、本発明の様々な適用例について説明する。
【0191】
上述した画像データ処理システム100は、本発明を実際に適用した具体例として、医療機関側200が管理する頭骨の撮像データに対して、専門家がマーカー40の配置を行っているが、任意の撮像データに対して、一般のユーザがマーカー40の配置を行うようにしてもよい。本発明によれば、例えば、ユーザが写真サイトなどを通じて画像処理サービス側300に画像データを提供し、画像処理サービス側300が当該画像データを挿入したテンプレート画像データ30を作成してユーザに返送し、ユーザがマーカー40を特定の位置に配置して画像処理サービス側300に送付し、画像処理サービス側300がマーカー40の位置の検出及び計測を行って、ユーザにその計測結果を返送するサービスを実現することができる。
【0192】
本発明に係るテンプレート画像データ30を複数人の作業者に提供して、各作業者に、画像データ20に映る撮像対象物上の特定の特徴点にマーカー40を配置する作業を実行させてもよい。各作業者が配置したマーカー40を1枚のシートに重ねて配置し、特定の特徴点にマーカー40を正確に配置しているかどうかを判断することで、各作業者の撮像対象物に対する理解度の評価をすることができる。また、各作業者に、マーカー40の配置位置の正確性をフィードバックすることで、各作業者の撮像対象物に対する理解度を向上させることができる。さらに、各作業者に対して他の作業者のマーカー40の配置位置を提供することで、各作業者は、撮像対象物に対する解釈を学習することができる。
【0193】
画像データ20として、空間的に連続した複数の画像(例えば断面の位置を少しずつずらした複数のスライス画像)や時間的に連続した複数の画像(例えば、所定の時間間隔で撮像した複数のタイムラプス画像)を用いてもよい。
【0194】
空間的に連続した複数の画像内の特徴点に配置したマーカー40は、複数の画像が配列した方向(例えば奥行き方向)に沿って特徴点の位置がどのように変化するかを表している。このため、各画像に配置されたマーカー40の位置の変化を特定することで、対象物の形状や寸法を計測することができる。
【0195】
時間的に連続した複数の画像内の特徴点に配置したマーカー40は、時間とともに特徴点の位置がどのように変化するかを表している。このため、各画像に配置されたマーカー40の位置の変化を特定することで、対象物の経時的な変化(動き)を計測することができる。
【0196】
また、上述した実施形態では、主に、マーカー40で指示された座標位置に基づいて、マーカー40間の幾何学的な相関値を算出しているが、画像データ20内の範囲の特定や、画像データ20に映る撮像対象物の特定を行うようにしてもよい。
【0197】
以下、撮像対象物のマスキング処理に本発明を適用した場合について説明する。
【0198】
ここでは、
図17に示す画像において、皿の上に載った魚(撮像対象物)の輪郭部分のみを切り抜く方法について説明する。
図17に示す画像は、スマートフォンで撮影したフルカラー写真で、後処理を考慮して良好な条件または環境下で撮影したわけではないため、色や輝度値が均一ではない。このため、画像内の画素の輝度のみを基準として撮像対象物を抽出しようとすると、撮像対象物が背景と繋がった部分が生じたり、撮像対象物が複数の色で構成されているために単色に切り分けることができなかったりすることから、自動的な画像処理によって撮像対象物を抽出することは困難である。
【0199】
具体的には、
図18に示すように、グレースケール化した画像に対して、輝度分布のヒストグラムを見ながら2値化の閾値を決定して2値化画像(白黒画像)に変換した場合、関心領域が繋がってしまったり、関心領域が2色に分かれたりしてしまう。このため、輝度だけを基準にして、関心領域である撮影対象物(被写体)を抽出しようとすると、背景と繋がってしまう部分が生じたり、1色に切り分けたりすることが難しく、撮像対象物をうまく抽出することができない。
【0200】
また、従来のフォトレタッチソフトウエアを用いると、ユーザは画像領域を任意に抽出することができる。ただし、この操作は画像の特定領域または全体に対して、囲む、塗る、境界をなぞるなどの手作業による操作を要し、自動的に処理できるとは限らず、よい結果を得るためには、経験や手間暇を要することが多い。
【0201】
本適用例では、ユーザが簡便な操作によりマーカー40を配置し、その結果、得られた最低限の位置情報から画像領域を良好に抽出する処理手順を例示する。まず、マーカー40に対して下記の役割A~Cを設定する。マーカー40の色情報領域42dには、設定された役割A~Cを識別するために、役割A~Cのそれぞれに対応して異なる色情報が設定される。
【0202】
・役割Aのマーカー40(識別番号「00」):2つ一組(一対)のマーカーを使い、それらを対角とする矩形領域内に撮像対象物が存在することを指定する(画像内の2箇所に配置)
・役割Bのマーカー40(識別番号「01」):除外したい画像領域(背景)を指定する(任意の数だけ配置可能)
・役割Cのマーカー40(識別番号「02」):抽出したい画像領域(前景)を指定する(任意の数だけ配置可能)
【0203】
図19に、撮像対象物の輪郭部分を抽出するために必要な各特徴点の上に、上記の役割A~Cのマーカー40を配置した状態を示す。
【0204】
ここで、
図19に示すようにマーカー40が配置された画像に対して、マーカー40の座標位置に、抽出する画像領域のヒントを意味するラベル(グレーの矩形、黒色の点、白色の点)が描画されたグレースケール画像を作成する。
図20に、作成したグレースケール画像を示す。
【0205】
図20に示すグレースケール画像は、領域抽出のヒント用画像と言えるものである。グレーの矩形は、役割Aの2つのマーカー40を対角とする矩形領域である。現時点では、前景及び背景のいずれであるかは不明であり、この後判定が行われて前景及び背景のいずれに振り分けられる。白色の点は、役割Bのマーカー40が配置された座標位置を示しており、確実に抽出したい撮像対象物を含む画像領域を意味している。黒色の点は、役割Cのマーカー40が配置された座標位置を示しており、抽出対象ではない画像領域を意味している。
【0206】
そして、
図17に示すカラー画像及び
図20に示すグレースケール画像に基づいて、輝度分布のヒストグラムを見て2値化しきい値を決定する処理を行って前景及び背景の判定を行うことで、
図21の右側に示す白黒画像を作成する。
図21の右側に示す白黒画像において、白色の領域は、撮像対象物と判定された画像領域(前景)を表しており、黒色の領域は、抽出対象ではないと判定された画像領域(背景)を表している。
【0207】
図17のカラー画像に対して、
図21の右側に示す白黒画像をマスク画像として使用し、
図17のカラー画像からマスク画像(白黒画像)の白色の領域のみをトリミングすることで、魚(撮像対象物)の輪郭部分のみを切り抜いた画像を作成することができる。
図22に、
図17のカラー画像から魚(撮像対象物)の輪郭部分のみを切り抜いた画像を示す。この一連の処理において、マスク画像を元に関心領域を抽出するソフトウエア処理は、OpenCV(Open Source Computer Vision Library)のGrabCutを用いて実施した。
【0208】
なお、本発明は、上述した実施形態、具体例、及び適用例を任意に組み合わせることで得られる技術思想を包含するものである。
【0209】
次に本発明を適用した他の具体例について説明する。
図23は、本発明を適用した他の具体例の概略を模式的に示す説明図である。この他の具体例の実施形態では、測定対象として歯列模型を用いている。歯列模型とは歯科診療において、患者の口腔内形状を印象材に転写してその反転形状を石膏や3Dプリンタで造形したものである。印象材としてはアルジネートやシリコンを用いることができる。歯列模型の成型は歯科診療では、通常的に行われている。成型された歯列模型は、歯列の矯正計画の作成や矯正経過の観察や記録などに用いられる。本発明を歯列模型を撮像してこれらの業務における計測処理に適用した実施形態について以下に説明する。
【0210】
図23は、歯列模型を撮像してこれらの業務における計測処理に適用した実施形態の各工程を示す作業フローチャートである。このフローチャートは、左上から開始して順次矢印に従って各工程が実行される様子を示している。まず、石膏などで形成された歯列模型を用意する。この歯列模型を例えばX線CTスキャナーなどによりスキャンして複数の2D断層画像を得る。これら複数の2D断層画像により3D画像、すなわち、ボリュームデータを得る。複数の2D断層画像と3D画像を用いて、これらを可視化するとともに、計測テンプレートを自動生成する。計測テンプレートとは、
図3で説明したレイヤー構造であるテンプレート画像データに相当するものである。次いで、歯列計測テンプレートに計測マーカーを仮置きする。その後、作業者Aが計測テンプレート上の画像を視認して、必要に応じて計測マーカーの位置をマウスなどで所望の位置へ移動させ、その後その位置を保存する。次いで作業者Aとは異なる作業者Bによるダブルチェックが行われる。すなわち、作業者Aが移動させて保存した計測マーカーの位置が正しいか否かをチェックし、正しくない場合、すなわち作業者Aの行為にミスがあれば、これを修正して保存する。このダブルチェックは単独でも可能であるが、好ましくは複数人が作業を分担することができる。このようにして、複数の歯列計測テンプレートが完成する。次に、歯列計測テンプレート処理用専用プログラムを用いて、計測マーカーの座標情報を認識し、必要な部分の長さ(間隔)や体積等を自動計測し、集計して、可視化画像を作成する。このようにして必要な長さ情報と体積情報が計測されてデータベースに保存され、必要に応じて表示される。なお、
図23に示した作業フローチャートの各工程(ステップ)は、基本的には
図1~
図22で説明した実施形態の基本フローチャートである
図1や
図10と同様である。
【0211】
次に歯列模型を用意する工程について
図24を用いて説明する。
図24は、石膏でできた歯列模型を示す図であり、図中、左側が下顎の歯列模型であり、右側が上顎の歯列模型である。これらの歯列模型には必要に応じて個体を識別するための識別情報としての番号シールが付されているが、かかる番号シールは、計測に影響を与えない位置に貼られる。
【0212】
図25は、
図24に示した歯列模型を所定の姿勢に保持する方法を示す図である。計測テンプレートに貼りこむことができる画像は、二次元画像である。したがって、上方から見た歯列模型の画像上に計測マーカーを置いていく必要がある。ここで歯列模型が傾斜していたりすると、すなわち、歯列模型の置き方によっては、歯列の一部が陰になって他の歯列の一部が見えない(撮像できない)領域、所謂、アンダーカットが発生する恐れがある。そこで、本発明では、
図25に示すように水平器を用いて、歯列全体が可能な限り水平に保たれるように、歯列模型の下部に粘土などの柔軟な素材を敷いて歯列模型の姿勢を補正している。換言すると、撮像対象物を柔軟な素材上に載置して撮像するのである。
図26は、上顎の歯列模型と下顎の歯列模型を同時に載置可能な2階建て構造の撮像用載置台を示す斜視図である。この撮像用載置台はX線CT撮像に影響を与えないように軽比重素材で構成されている。かかる軽比重素材としては、例えば、MDF(エムディーエフ)「Medium Density Fiberboard(ミディアム デンシティ ファイバーボード)を用いることができるが、その他に炭素繊維複合材料 CFRP(Carbon Fiber Reinforced Plastics)であったり、加工が容易で、強度も確保でき、ローコストで、適性が高い樹脂材料全般を用いることができる。
【0213】
上記歯列模型の撮像にはX線CTスキャナーなどを用いる例を説明したが、非接触式光学3Dスキャナや接触式3Dスキャナ等の3Dスキャナーを用いることもでき、撮像後は上記と同様の処理を行うことができる。具体的には下記の手順となる。
(1) 歯列模型を3Dスキャナでスキャンして撮像する。
(2) スキャンの結果、点群データあるいはポリゴンータが得られる。ここで点群データは、3D空間内の無数の点を示す座標値の集合データであり、ポリゴンデータは3D空間内の3点で形成される三角形の座標値の集合データである。
(3) 点群データあるいはポリゴンデータを用いてコンピュータグラフィックスを介するとボリュームデータと同様に被写体の外観画像を得ることができる。
【0214】
上記撮像対象物、すなわち歯列模型をスキャンして得られたボリュームデータに対してボリュームレンダリングを用いて3D画像をコンピュータグラフィクスにより描画し、そのようにして描画あるいは表示された画像を2D画像として保存することができる。このようにして保存された2D画像を貼りこむことにより計測テンプレートが生成される。
図27は、かかる計測テンプレートを示す上面図であり、上顎の歯列模型の画像を含むものであり、
図28は、かかる計測テンプレートを示す上面図であり、下顎の歯列模型の画像を含むものである。すなわち、2D画像上に任意の個数の計測マーカーを配置するが、その詳細は先に
図5を用いて説明した内容と同様である。なお、計測マーカーの配置は、RPA(Robotic Process Automation)を用いることにより、大量のデータの自動処理が可能となる。
【0215】
歯列に関して言えば、各歯を特定するための表記のルールが定められている。中でも「FDI World Dental Federation notation」(ISO 3950) (https://en.wikipedia.org/wiki/FDI_World_Dental_Federation_notation)は、多くの歯科医が一般的に用いている国際標準である。この規格では、上顎、下顎、左右の歯列、乳歯、永久歯に対してルールに基づいた番号を付すことが定められている。
【0216】
本発明を歯列模型に適用する場合、こうした国際標準規格を含む一定のルールに基づき、計測マーカーを間違えずに配置できるように、計測テンプレート左右の余白部に予め計測マーカーを歯列同様に並べてある。作業者は、計測マーカーを順に移動させ、同様な位置に配置すればよいので、ミスが起こりにくい。乳歯と永久歯の対応も、歯科医などの専門家が見れば、その相違が一目瞭然で判別できるデザイン(形状)としてある。歯が欠損している場合には、計測マーカーを余白部に置いたままにしておけば、計測マーカーを検出せず、処理対象とならない。
【0217】
図27と
図28に示す計測テンプレートにあっては、画像の左右の余白部の上部には、計測マーカーの典型的な配置見本が図示されている。これを参照することで、初学者でもルールを学びながら、また違いを認識しながら、作業することができる。なお、
図27,
図28では、計測マーカーの典型的な配置見本が左右の余白部の上部に配されているが、これに限定されるものではない。また
図27,
図28では、計測マーカーの典型的な配置見本が、左の余白には左の計測マーカーの典型的な配置見本が配され、右の余白には右の計測マーカーの典型的な配置見本が配されているが、これに限定されるものではなく、左の余白、あるいは右の余白に各計測マーカーの典型的な配置見本を配したり、計測マーカーの典型的な配置見本自体を左右に分けずに全体として表示してもよい。計測テンプレート上に置くマーカーは、段落0059で述べたように、自由な形状としてもよい。この例では、
図29のように、上から順に「歯の位置を示すためのマーカー」、「マーカーを順に結んだ多角形を定義し、口蓋の体積を計測するためのマーカー」、「過剰歯、補綴物など、例外的なその他の対象物の存在や位置を示すためのマーカー」としている。
【0218】
次にユーザは、
図30に示すように各計測マーカーを2D画像の各特徴点へ移動させる。これは先に
図4、
図5について説明したのと同様に行うことができる。各計測マーカーのカーソルは固有の色を使ってデザインされており、固有の色を示すRGB値を専用プログラムで認識することにより、計測マーカーの番号、XY座標、計測マーカーが持つ意味や機能を個別に認識することができる。
【0219】
このようにして得た計測マーカーのXY座標と、被写体である歯列模型を撮像して得たボリュームデータ、点群データ、ポリゴンデータのいずれか1つとをセットで保持し、プログラム上で三次元空間を走査することにより、上方より見た、すなわちXY軸の双方に垂直なZ軸方向のZ座標を特定することができる。撮像の表面に凹凸が存在し、BackgroundとMaterialで異なる輝度値を持つボリュームデータの場合、奥行き方向、すなわちZ方向に画素をスキャンすると、凹凸の表面に位置する画素を特定することができる。かかる画素の特定において使用する閾値を決定するには大津の方法を用いることができる。ポリゴンデータの場合も同様な処理が実装できる。任意のXY座標に関して表面から奥行き方向(Z方向の反対方向)に探索すると、いずれかの三角形と交差した場合、そのZ座標値を得ることができる。
【0220】
図31は、歯列模型の1つとしての人の上顎の歯列模型のボリュームデータを示す図である。
図32は、
図31のボリュームデータのCoronal断面を含む図である。
図33は、
図32に示すCoronal断面のみ示す図である。
図31-
図33において、暗い(黒色)部分の画素はバックグラウンドとしての空気に相当する部分であり、明るい(グレーあるいは白)部分の画素は、歯列模型の素材である石膏に相当する部分である。これらの図の上方から下方に向かって画素を走査すると、三次元の起伏構造の表面に相当する画素を特定することができ、その画素のZ座標を特定することができる。
図33中、計測すべき2点間の距離が示されている。
【0221】
図34は、計測テンプレート上で指示したXY座標と、ボリュームデータ及びZ座標との対応を示す図である。すなわち、
図34の下部には
図31に示したボリュームデータが斜視図の形で示され、上部には
図27に示された計測テンプレートに貼られた2D画像が斜視図の形で示されていて、上下の図中の対応関係を示す上下に伸長する複数の線が示されている。このようにして撮像対象物中の必要な各位置部分のXYZ座標が得られる。
図35は、
図30中の主要点の左右対応する歯の部分同士の距離計測の手法を示す図である。この方法により、例えば下記の(1)~(5)の長さ(距離)を計測することができる。
(1) 犬歯(乳犬歯)間幅径
(2) 第一小乳歯(第一乳臼歯) 舌側咬頭頂間幅径
(3) 第二小乳歯(第二乳臼歯) 舌側咬頭頂間幅径
(4) 第一大臼歯 近心舌側咬頭頂間幅径
(5) 歯列弓長径 第一大臼歯遠心部~中切歯
(6) 口蓋容積 第一大臼歯遠心部と歯頚部とを結んだ線の空間の容積
【0222】
図36は、口蓋の容積を計測するために置いた計測マーカーの位置を示す図である。円弧状に配列された複数の歯の端部や隣り合う歯間の歯肉上に円弧状に順次、計測マーカーが配される。
図37は、
図36中で配列された計測マーカーを用いて専用プログラムで処理することにより、認識した計測マーカーを結んだ多角形と補助線を描いた状態を示す図である。各計測マーカーの座標値、点と点とを結んだ直線、これらの直線により形成される多角形の情報と、歯列模型の撮像で得られた三次元情報であるボリュームデータ、点群データ、ポリゴンデータのいずれか1つとをセットで保持し、プログラム上で奥行き方向の三次元空間を走査することによって、閉空間を定義することができる。
図38は、
図37に示した口蓋の空間を認識する手法に基づいて得られた口蓋の容積を可視化した図である。口蓋の容積、すなわち第一大臼歯遠心と歯頚部を結んだ線の空間の容積を計測するには、計測マーカーを順に結んで得られた多角形と口蓋によって形成される閉空間を抽出できればよい。口蓋の容積を計測するには、ボリュームデータと、計測マーカーの座標値、多角形の情報を元に関心領域を抽出(Segmentation)するプログラムを用いればよい。すなわち、計測マーカーを結んだ直線で口蓋の領域を複数に分割することにより、口蓋の全容積中、前方部分の容積、後方部分の容積、左方部分の容積、右方部分の容積、これらの比較を含む多種多様な容積や距離の計測が可能である。
【0223】
図38では口蓋の容積を可視化しているが、本発明の手法によれば、予め定めたルールの元で得られた上記セットで保持される各種情報を処理、解釈することにより、容積以外の多種多様な計測を行うことが可能となる。上記他の具体例の実施形態では、撮像対象として歯列模型を例として説明したが、スキャニング技術や対象物のサイズは上記歯列模型で説明したものに限定されず、本発明の適用範囲は、表面に起伏部を有する各種材料や工業製品、例えば、電子基板上に実装された電子部品や、SfM(Structure from Motion)によって得られた地上構造物などがある。
【0224】
図39は、
図37とは異なる手法で口蓋の空間を認識する手法を示す図である。
図39中、丸付き数字は、隣り合う歯同士の間の位置を示し、0は、前歯間の位置、左右の2~6が0の位置から順次左右の奥歯に向かって設けられる位置を示している。すなわち、ユーザは、丸付き数字の0、左側の2,3,4,5,6,右側の2,3,4,5,6の位置をマウスで指示して、計測テンプレートを作成し、計測テンプレートファイルを保存することなる。
図39中、(1)~(6)で示される各領域は口蓋内の左右の分割された多角形領域であり、これらの各領域の容積の合計として口蓋の全容積を取得することができる。このように歯と歯の間の位置をクリックする手法によると、高さや形状がそれぞれ異なる歯に対して歯と歯の間の歯肉部分を用いてマーカーが設定されるので、その位置情報について高さ方向(Z方向)の誤差が少なくなる。したがって、歯が欠損していたり、補綴物があっても問題なく、口蓋の容積を正確に計測するためのマーカー位置を設定することができる。
図40は、
図37あるいは
図39の手法で口蓋の空間を認識した場合の容積に該当する部分を示す断面図である。
【0225】
上記本発明を適用した他の具体例の実施形態は、画像データ処理方法として説明したが
図1~
図25で説明した本発明を適用した具体例と同様に、画像データ処理システムとしても保護されるべきものであり、同システムは
図11と同様の構成とすることができ、
図12のフローチャートと同様の動作をすることができる。
【産業上の利用可能性】
【0226】
本発明は、画像中に映る撮像対象物の特徴点の指示を簡便に行うことを可能とし、画像中に映る撮像対象物の特徴点の位置を検出する技術、さらには、検出した位置に基づいて計測を行う技術に適用可能である。
【符号の説明】
【0227】
20 画像データ
25 編集用画像データ
30 テンプレート画像データ
31 台紙レイヤー
32 画像レイヤー
33 マーカーレイヤー
35 特徴点指定画像データ
40 マーカー
41 識別情報表示部
42 ポインタ表示部
42a ポインタ領域
42b 方向指示線
42c 中心画素
42d 色情報領域
51 画像表示エリア
52 余白表示エリア
52a 注釈入力エリア
52b 注意事項表示エリア
52c 未使用マーカー配置エリア
100 画像データ処理システム
200 医療機関側
210 撮像データ管理装置
220 特徴点指示装置
221、313 画像処理部
300 画像処理サービス側
310 画像処理装置
311 DICOMデータ変換部
312 断面像作成部
314 テンプレート作成部
315 傾き補正部
320 マーカー検出・計測装置
321 マーカー位置検出部
322 計測値算出部
400 ネットワーク
【手続補正書】
【提出日】2023-09-13
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
画像中に映る撮像対象物の特徴点の位置を指示するためにコンピュータにより実行される画像データ処理方法であって、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成ステップと、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成ステップと、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出ステップと、
を有する画像データ処理方法。
【請求項2】
前記テンプレート画像データは、前記画像データを有するレイヤーの上に、前記複数のマーカーのそれぞれを有する複数のレイヤーが重なるレイヤー構造により構成されている請求項1に記載の画像データ処理方法。
【請求項3】
前記複数のマーカーに識別情報が割り当てられており、前記複数のマーカーが前記識別情報に対応した色の画素を含んで構成されている請求項1又は2に記載の画像データ処理方法。
【請求項4】
マーカー検出ステップにおいて、前記特徴点指定画像データの前記複数のマーカーの位置を、前記識別情報に対応した色の画素に基づいて検出する請求項3に記載の画像データ処理方法。
【請求項5】
前記特徴点指定画像データが、前記特徴点指定画像データに含まれるすべてのレイヤーを統合した画像データである請求項1又は2に記載の画像データ処理方法。
【請求項6】
前記テンプレート画像データに前記画像データを配置するための画像表示エリアが設定されており、前記マーカー検出ステップにおいて、前記画像表示エリアを検出対象エリアとして、前記検出対象エリア内に配置されたマーカーの位置を検出する請求項1又は2に記載の画像データ処理方法。
【請求項7】
前記マーカー検出ステップにおいて、前記検出対象エリア外に配置されたマーカーを、マーカーの位置を検出する対象から除外する請求項6に記載の画像データ処理方法。
【請求項8】
前記マーカー検出ステップにおいて検出した前記複数のマーカー間の相対値を算出する計測ステップをさらに有する請求項1又は2に記載の画像データ処理方法。
【請求項9】
前記特徴点指定画像データ作成ステップで実施される前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させる操作が、前記撮像対象物に熟知した専門家により行われる請求項1又は2に記載の画像データ処理方法。
【請求項10】
前記特徴点指定画像データ作成ステップにおいて作成される前記特徴点指定画像データが、複数チャンネルを持つ画像データであり、前記画像データ及び異なるユーザにより配置された前記複数のマーカーを前記複数チャンネルにそれぞれ格納する請求項1又は2に記載の画像データ処理方法。
【請求項11】
前記テンプレート画像データの作成前に、仮の画像データと、仮の画像データに映る撮像対象物の上に重畳表示されて当該撮像対象物の上で移動可能なように配置された複数のマーカーと、を含む傾き補正指示データを作成し、前記仮の画像データに映る撮像対象物の特徴点の上に配置された前記複数のマーカーの位置に基づいて、前記テンプレート画像データに配置する前記画像データの傾き補正を行う傾き補正ステップを有する請求項1又は2に記載の画像データ処理方法。
【請求項12】
前記画像データが、前記撮像対象物として頭骨を撮像したセファログラムであり、前記マーカー検出ステップが、前記複数のマーカーの位置に基づいて、当該頭骨の特徴点の位置を特定するものである請求項1又は2に記載の画像データ処理方法。
【請求項13】
画像中に映る撮像対象物の特徴点の位置を指示するための画像データ処理システムであって、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成部と、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成部と、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出部と、
を有する画像データ処理システム。
【請求項14】
前記特徴点指定画像データ作成部が、前記撮像対象物に熟知した専門家が操作可能なコンピュータに実装されており、前記テンプレート画像データ作成部及び前記マーカー検出部が、画像処理サービス側に配置されたコンピュータに実装されている請求項13に記載の画像データ処理システム。
【請求項15】
画像中に映る撮像対象物の特徴点の位置を指示するためにコンピュータにより実行される画像データ処理方法であって、
前記撮像対象物が撮像された画像データであって、輝度値が格納された画素の三次元配列であるボリュームデータを生成するステップと、
前記ボリュームデータをレンダリングにより描画して前記撮像対象物のコンピュータグラフィックス画像を作成するステップと、
前記コンピュータグラフィックス画像を用いて前記撮像対象物の二次元画像データを生成するステップと、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成ステップと、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成ステップと、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出ステップと、
を有する画像データ処理方法。
【請求項16】
前記撮像対象物が撮像される際に、前記撮像対象物の個体を識別するために識別情報を計測に影響しない箇所に付する請求項15に記載の画像データ処理方法。
【請求項17】
前記撮像対象物が撮像される際に、前記撮像対象物が水平状態に保持されて撮像されるよう、水平器を用いて前記撮像対象物の水平状態を確認後に撮像する請求項15に記載の画像データ処理方法。
【請求項18】
前記撮像対象物が撮像される際に、前記撮像対象物が水平状態に保持されて撮像されるよう、前記撮像対象物を柔軟な素材上に載置して撮像する請求項15から17のいずれか1つに記載の画像データ処理方法。
【請求項19】
前記撮像対象物が撮像される際に、2つの前記撮像対象物を撮像に影響を与えない軽比重の素材で構成され、2階建て構造の撮像用載置台に前記2つの撮像対象物を載置して撮像する請求項15から17のいずれか1つに記載の画像データ処理方法。
【請求項20】
前記撮像対象物が撮像される際に、X線CTスキャナあるいは3Dスキャナを用いて撮像する請求項15から17のいずれか1つに記載の画像データ処理方法。
【請求項21】
前記マーカー検出ステップで検出された前記複数のマーカーの位置を示すXY座標と、前記ボリュームデータ、点群データ、ポリゴンデータのいずれか1つとをセットで保時し、プログラム上で三次元空間を走査することにより、上方から見たZ座標を特定するステップをさらに有する請求項15から17のいずれか1つに記載の画像データ処理方法。
【請求項22】
前記複数のマーカーの前記XYZ座標を用いて前記撮像対象物の2つの所定部分間の三次元的な距離計測を行うステップをさらに有する請求項21に記載の画像データ処理方法。
【請求項23】
前記マーカー検出ステップで検出された前記複数のマーカーの位置を示すXY座標と、前記複数のマーカーを結んだ直線の情報と、前記直線により構成される多角形の情報と、前記ボリュームデータ、点群データ、ポリゴンデータのいずれか1つとをセットで保時し、プログラム上で前記三次元空間を走査することにより、閉空間を定義するステップをさらに有する請求項15から17のいずれか1つに記載の画像データ処理方法。
【請求項24】
前記マーカー検出ステップで検出された前記複数のマーカーの位置を示すXY座標と、前記多角形の情報とを元にプログラムにより関心領域を抽出し、前記複数のマーカーを結んだ直線で前記関心領域を複数部分に分割し、分割された各部分について容積を計測するステップをさらに有する請求項23に記載の画像データ処理方法。
【請求項25】
前記テンプレート画像データ作成ステップは、本発明を歯列模型に適用する場合、少なくともISO 3950を含む国際表記ルールに基づき、前記マーカーを間違えずに配置できるように、前記テンプレート画像に重畳表示される前記画像データの左右の余白部に予め前記マーカーを歯列同様に並べておくステップを含む請求項15から17のいずれか1つに記載の画像データ処理方法。
【請求項26】
前記左の余白部及び/又は前記右の余白部の一部に、前記歯列模型の歯列に対して前記マーカーが典型的に配置された見本が配されている請求項25に記載の画像データ処理方法。
【請求項27】
前記撮像対象物が歯列模型である場合、前記歯列模型に含まれる乳歯と永久歯の形状が専門家が見ればそれらの相違が明確に判断できるよう構成されている請求項25に記載の画像データ処理方法。
【請求項28】
画像中に映る撮像対象物の特徴点の位置を指示するためにコンピュータにより実行される画像データ処理システムであって、
前記撮像対象物が撮像された画像データであって、輝度値が格納された画素の三次元配列であるボリュームデータを生成するボリュームデータ生成部と、
前記ボリュームデータをレンダリングにより描画して前記撮像対象物のコンピュータグラフィックス画像を作成するコンピュータグラフィックス画像作成部と、
前記コンピュータグラフィックス画像を用いて前記撮像対象物の二次元画像データを生成する二次元画像データ生成部と、
前記撮像対象物が撮像された画像データと、前記撮像対象物の上に重畳表示されて前記撮像対象物の上で移動可能なように配置された複数のマーカーと、を含むテンプレート画像データを作成するテンプレート画像データ作成部と、
ディスプレイに表示された前記テンプレート画像データにおいて、前記複数のマーカーのそれぞれを前記撮像対象物の特徴点の上に移動させて、前記撮像対象物の複数の特徴点の上に前記複数のマーカーがそれぞれ配置された特徴点指定画像データを作成する特徴点指定画像データ作成部と、
前記特徴点指定画像データにおいて、前記撮像対象物の複数の特徴点の上に配置された前記複数のマーカーの位置を検出するマーカー検出部と、
を有する画像データ処理システム。
【請求項29】
前記特徴点指定画像データ作成部が、前記撮像対象物に熟知した専門家が操作可能なコンピュータに実装されており、前記テンプレート画像データ作成部及び前記マーカー検出部が、画像処理サービス側に配置されたコンピュータに実装されている請求項28に記載の画像データ処理システム。