IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 国立大学法人山口大学の特許一覧 ▶ 国立大学法人 熊本大学の特許一覧

特許7104913撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム
<>
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図1
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図2
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図3
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図4
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図5
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図6
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図7
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図8
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図9
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図10
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図11
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図12
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図13
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図14
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図15
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図16
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図17
  • 特許-撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム 図18
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-07-13
(45)【発行日】2022-07-22
(54)【発明の名称】撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システム
(51)【国際特許分類】
   A61B 5/00 20060101AFI20220714BHJP
【FI】
A61B5/00 101A
【請求項の数】 13
(21)【出願番号】P 2018111711
(22)【出願日】2018-06-12
(65)【公開番号】P2019213652
(43)【公開日】2019-12-19
【審査請求日】2021-04-01
(73)【特許権者】
【識別番号】304020177
【氏名又は名称】国立大学法人山口大学
(73)【特許権者】
【識別番号】504159235
【氏名又は名称】国立大学法人 熊本大学
(74)【代理人】
【識別番号】100141173
【弁理士】
【氏名又は名称】西村 啓一
(72)【発明者】
【氏名】浜本 義彦
(72)【発明者】
【氏名】荻原 宏是
(72)【発明者】
【氏名】飯塚 徳男
(72)【発明者】
【氏名】藤田 悠介
(72)【発明者】
【氏名】宇宿 功市郎
【審査官】牧尾 尚能
(56)【参考文献】
【文献】国際公開第2016/076059(WO,A1)
【文献】特開2011-067371(JP,A)
【文献】韓国登録特許第10-1265849(KR,B1)
【文献】特開2016-045744(JP,A)
【文献】特開2007-251724(JP,A)
【文献】特開2009-028058(JP,A)
【文献】特開平11-123289(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/00- 5/01
A61B 5/06- 5/22
G06T 1/00- 1/40
G06T 3/00- 5/50
G06T 9/00- 9/40
G06T 7/00- 7/90
(57)【特許請求の範囲】
【請求項1】
被撮影者の口から出る舌の画像を取得する撮像装置であって、
前記口の周辺の画像である口元画像を表示する画像表示部と、
前記口元画像に、前記舌の撮像範囲を示すターゲットスコープ画像を重畳して前記画像表示部に表示する重畳表示部と、
前記画像表示部に表示されている画像のうち、前記ターゲットスコープ画像に基づいて設定される領域の画像を範囲画像として撮像する撮像部と、
を有してなり、
前記ターゲットスコープ画像は、
前記舌が出る前の前記口に位置づけられる第1ガイド画像と、
前記口から出た前記舌に位置づけられる第2ガイド画像と、
を含む、
ことを特徴とする撮像装置。
【請求項2】
前記範囲画像の一部の領域を特定する領域特定情報を記憶する記憶部と、
前記領域特定情報に基づいて、前記範囲画像の一部の領域を抽出画像として抽出する画像抽出部と、
を備える、
請求項1記載の撮像装置。
【請求項3】
前記ターゲットスコープ画像は、
前記舌の輪郭線を模した閉曲線、
を含み、
前記画像抽出部は、前記範囲画像が撮像されたときの前記ターゲットスコープ画像が重畳された前記範囲画像を用いたセグメンテーション法により、前記抽出画像を抽出する、
請求項2記載の撮像装置。
【請求項4】
前記ターゲットスコープ画像は、
前記舌が出る前の前記口の中央に位置づけられる第3ガイド画像、
を含み、
前記第1ガイド画像と前記第3ガイド画像のそれぞれは、相互に直交する直線である、
請求項1記載の撮像装置。
【請求項5】
コンピュータを、請求項1記載の撮像装置として機能させる、
ことを特徴とする撮像プログラム。
【請求項6】
被撮影者の舌の画像である 撮像画像と、複数の色テンプレートと、前記複数の色テンプレートのいずれかの組合せで構成される色テンプレート集合ごとの正解情報と、が記憶される記憶部と、
前記撮像画像を構成する画素ごとの画素情報を特定する画素情報特定部と、
前記画素ごとに、前記画素情報に基づいて、前記複数の色テンプレートの中から所定の色テンプレートを置換テンプレートとして特定する色テンプレート特定部と、
前記画素ごとに特定された前記置換テンプレートの中から所定の色テンプレートを特徴テンプレート集合の要素として選択する色テンプレート選択部と、
前記特徴テンプレート集合を構成する色テンプレートに基づいて、前記色テンプレート集合ごとの正解情報の中から所定の正解情報を特定する正解情報特定部と、
前記特定された正解情報を判定結果として出力する判定結果出力部と、
を有してなる、
ことを特徴とする画像判定装置。
【請求項7】
前記画素情報特定部は、前記画素ごとの画素値を前記画素情報として特定する、
請求項6記載の画像判定装置。
【請求項8】
前記記憶部は、前記色テンプレートごとの設定値を記憶し、
前記色テンプレート特定部は、前記設定値に基づいて、前記画素ごとに前記画素と前記色テンプレートとの距離を算出して、前記画素ごとに最接近する前記色テンプレートを、前記画素ごとの前記置換テンプレートとして特定する、
請求項7記載の画像判定装置。
【請求項9】
前記色テンプレート選択部は、前記置換テンプレートごとに、前記置換テンプレートに対応づけられた前記画素の総数を集計し、前記総数に基づいて、前記特徴テンプレート集合を構成する前記色テンプレートを選択する、
請求項6記載の画像判定装置。
【請求項10】
前記色テンプレート選択部は、前記総数の多少に基づいて、前記特徴テンプレート集合を構成する前記色テンプレートを選択する、
請求項9記載の画像判定装置。
【請求項11】
記正解情報は、前記被撮影者の健康に関する医師による診断結果であり、
前記判定結果出力部は、複数の前記診断結果の中から、前記舌の画像に含まれる前記画素ごとの前記画素情報に基づいて特定される前記診断結果を出力する、
請求項6記載の画像判定装置。
【請求項12】
コンピュータを、請求項6記載の画像判定装置として機能させる、
ことを特徴とする画像判定プログラム。
【請求項13】
画像を撮像する撮像装置と、
前記画像を判定する画像判定装置と、
を有してなり、
前記撮像装置は、請求項1記載の撮像装置であり、
前記画像判定装置は、請求項6記載の画像判定装置であり、
前記画像判定装置の記憶部は、前記画像を記憶し、
前記画像判定装置の画素情報特定部は、前記画像内の舌領域を構成する画素ごとの画素情報を特定する、
ことを特徴とする画像処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置と撮像プログラムと画像判定装置と画像判定プログラムと画像処理システムとに関する。
【背景技術】
【0002】
近年、我が国は、未曽有の超高齢化社会に突入しようとしている。高齢者の多くは、認知症や癌などの病態が解明されていない疾病に罹患する。これらの疾病に対して、西洋医学は、対処療法的な治療を行うため、対応することが難しい。一方、漢方医学は、全身を診て経験に基づいて効果的な漢方薬を処方するものであり、癌治療にも適用されるなど、注目を集めている。特に、漢方医学は、病気になる前段階として「未病」という西洋医学にはない独自の概念を有する。未病は、予防医学の観点からも見直されている。例えば、発病を未然に防ぐ未病ケアは、高齢者などの健康の増進や、介護の効率化、医療費の抑制につながる。
【0003】
漢方医学は病名ではなく患者の状態を重視することから、漢方医学では、患者の全身の状態を診ることができる舌診断が、古くから実践されている。舌診断は、舌全体の状態や色調、大きさ、形態、乾湿、舌苔の状態などに基づく診断である。特に、舌の色調は、体の熱や冷えの程度や気力・体力の消耗の程度、精神状態、消化器官の状態、血液循環動態、水分代謝の状態などの情報を得ることができるため、重要視されている。
【0004】
しかし、舌の色調は、観察環境の温度や湿度、診断中の舌を出している時間などにより変化する。また、舌診断は、医師の熟練を要し、医師の経験や知識に依存する。そのため、舌診断の結果には、医師によって個人差が生じる。その結果、舌診断は、客観性に欠け、科学的根拠が乏しいとされている。
【0005】
また、舌診断ができる漢方専門医は、国内で約2000人と限られる。そのため、漢方医学を用いた漢方医療には、地域的な格差が存在する。さらに、今後の主流となる在宅医療において、高齢者などの健康状態を遠隔でモニタリングするときに、舌診断は、西洋医学の相補的な役割を果たす。したがって、科学的根拠のある舌診断の実現は、医療の現場で喫緊の課題である。
【0006】
これまでにも、舌の領域を含む画像(舌画像)を取得(撮像)して、舌画像に各種の画像処理を施して、画像認識により舌診断を行う技術が提案されている(例えば、特許文献1と、特許文献2と、特許文献3と、を参照)。
【先行技術文献】
【特許文献】
【0007】
【文献】特開2009-28058号公報
【文献】特表2008-538992号公報
【文献】特開2004-209245号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1に開示された技術は、適正な舌の位置を示す線画が記入されたミラーや、撮像時に額を当接させて固定する額当てを用いて、舌全体を適切に含む舌画像を取得する。そのため、同技術は、撮像者によらず、舌の大きさが一定の舌画像を撮像することができる。しかし、同技術では、被撮影者(患者)本人が舌の位置合わせを行わなければならない。そのため、撮像に時間を要することになり、舌の色調の変化など、舌画像にばらつきが生じ易い。また、同技術は、寝たきりの高齢者など、在宅医療を必要とする患者の舌画像の取得に対して、容易に活用することができない。
【0009】
また、特許文献1に開示された技術は、舌画像を撮像する環境下で予めRGB値の強度比が既知の色基準板を撮像して、その強度比を用いて舌画像の色の補正をする。その結果、同技術は、撮像時の照明などの環境による舌画像の色の変化を抑制する。しかし、同技術では、色の補正のための基準板の撮像が必要であり、全ての舌画像に対して色の補正を行う場合に撮影者の負担が大きい。
【0010】
このように、特許文献1に開示された技術では、患者本人が舌画像を撮像するため安定した舌画像の撮像が難しく、撮像や色補正のため専用の装置が必要となる。そのため、同技術は、在宅医療などに容易に活用することができない。
【0011】
特許文献2に開示された技術は、舌と共に、マンセルカラーチェッカや被撮影者の頬などを撮像して、多様な照明下で撮像された舌画像の色の校正(補正)を行う。しかし、同技術は、舌画像内での舌の位置ずれや傾きなど安定的な舌画像を取得することができない。
【0012】
特許文献3に開示された技術は、個人ごとに舌画像の基本テンプレートを生成して、個人ごとの画像評価を行う。そのため、同技術は、初見の患者などデータベースに基本テンプレートが格納されていない患者に対して、適用することができない。また、同技術は、舌画像を撮像するとき、個人はほとんど一定の形態の舌を出すと仮定して舌画像を撮像する。そのため、同技術は、舌画像内での舌の位置ずれや傾きなどの少ない安定的な舌画像を取得することができない。
【0013】
ここで、特許文献1-3に開示された技術は、舌画像に対して画像処理を施して舌領域を切り取り、舌領域から特徴を抽出して、機械学習により舌診断を実行する。これらの処理は、撮像された舌画像内の舌の位置の変動(舌の位置ずれ、傾きなど)に大きく影響を受ける。また、これらの技術の舌診断は、舌画像内の舌の色調の判断において、連続量であるRGB値を用いた機械学習により識別を行う。一般的に、舌画像の解像度を増加させると、舌画像内の舌領域を構成する各画素のRGB値は、同じ舌を撮像しても人の目では検知できない微小な色の変化に対応して変動する。そのため、舌画像の高解像度化により、診断性能の向上が期待できる一方で、舌診断の結果は、舌画像内の舌の色の変動や、色の補正の程度の影響を受けやすくなる。すなわち、RGB値を画素値とする通常の画像処理技術による舌診断の結果は、舌画像内の舌の位置の変動や色の変動など、舌画像の画質によるばらつきの影響を受けやすい。つまり、これらの技術は、舌診断の結果に十分な客観性を得ることができず、科学的根拠のある舌診断とはなっていない。
【0014】
本発明は、以上のような従来技術の問題点を解消するためになされたもので、撮像処理により撮像時の舌の位置ずれや傾き、舌色の変動などが抑制され、更に画素のテンプレートへの置換により舌色が客観化された、科学的根拠のある舌診断の実現を目的とする。
【課題を解決するための手段】
【0015】
本発明にかかる撮像装置は、被撮影者の口から出る舌の画像を取得する撮像装置であって、口の周辺の画像である口元画像を表示する画像表示部と、口元画像に、舌の撮像範囲を示すターゲットスコープ画像を重畳して画像表示部に表示する重畳表示部と、画像表示部に表示されている画像のうち、ターゲットスコープ画像に基づいて設定される領域を範囲画像として撮像する撮像部と、を有してなり、ターゲットスコープ画像は、舌が出る前の口に位置づけられる第1ガイド画像と、口から出た舌に位置づけられる第2ガイド画像と、を含む、ことを特徴とする。
【0016】
また、本発明にかかる画像判定装置は、撮像画像と、複数の色テンプレートと、複数の色テンプレートのいずれかの組合せで構成される色テンプレート集合ごとの正解情報と、が記憶される記憶部と、撮像画像を構成する画素ごとの画素情報を特定する画素情報特定部と、画素ごとに、画素情報に基づいて、複数の色テンプレートの中から所定の色テンプレートを置換テンプレートとして特定する色テンプレート特定部と、画素ごとに特定された置換テンプレートの中から所定の色テンプレートを特徴テンプレート集合として選択する色テンプレート選択部と、特徴テンプレート集合を構成する色テンプレートに基づいて、色テンプレート集合ごとの正解情報の中から所定の正解情報を特定する正解情報特定部と、特定された正解情報を判定結果として出力する判定結果出力部と、を有してなる、ことを特徴とする。
【発明の効果】
【0017】
本発明によれば、撮像処理により撮像時の舌の位置ずれや傾き、舌色の変動などが抑制され、更に画素のテンプレートへの置換により舌色が客観化された、科学的根拠のある舌診断が実現できる。
【図面の簡単な説明】
【0018】
図1】本発明にかかる画像処理システムの実施の形態を示す模式図である。
図2図1の画像処理システムが実行する処理を示すフローチャートである。
図3】本実施の形態における各画像の関係を示す模式図である。
図4】本発明にかかる撮像装置の実施の形態を示す機能ブロック図である。
図5図3の撮像装置が備える画像表示部に表示されるターゲットスコープ画像の例を示す模式図である。
図6】本発明にかかる画像判定装置の実施の形態を示す機能ブロック図である。
図7図5の画像判定装置が備える記憶部に記憶される情報の例を示す模式図である。
図8図2の処理に含まれる撮像処理のフローチャートである。
図9図3の撮像装置が備える画像表示部に表示される画像の例を示す模式図である。
図10図3の撮像装置が備える画像表示部に表示される画像の別の例を示す模式図である。
図11図3の撮像装置が備える画像表示部に表示される画像のさらに別の例を示す模式図である。
図12図2の処理に含まれる抽出処理のフローチャートである。
図13図11の抽出処理で用いられる各画像の関係を示す模式図である。
図14図3の撮像装置による関心領域画像の抽出方法の例を示す模式図である。
図15図2の処理に含まれるコード化処理のフローチャートである。
図16図5の画像判定装置による置換テンプレートの特定方法の例を示す模式図である。
図17図5の画像判定装置による、各画素の特徴テンプレート集合を構成する色テンプレートへの置き換えの例を示す模式図である。
図18図2の処理に含まれる判定処理のフローチャートである。
【発明を実施するための形態】
【0019】
以下、図面を参照しながら、本発明にかかる撮像装置(以下「本装置」という。)と、撮像プログラム(以下「本プログラム」という。)と、画像判定装置(以下「本判定装置」という。)と、画像判定プログラム(以下「本判定プログラム」という。)と、画像処理システム(以下「本システム」という。)と、の実施の形態について説明する。
【0020】
以下に説明する実施の形態は、本システムが病院内、あるいは、セキュリティが確保された病院外に配置され、病院の診察室などの室内において、看護師や医師などの医療従事者が本装置を用いて患者の舌を撮像して、医師が本判定装置を用いて患者の舌の診断をすることを支援する場合を例にして、本発明の内容を説明する。すなわち、患者は本発明における被撮影者の例である。
【0021】
●画像処理システム●
●画像処理システムの構成
図1は、本システムの実施の形態を示す模式図である。
【0022】
本システムSは、後述する処理を実行することにより、ターゲットスコープ画像TSを用いて患者の舌を撮像して原画像を取得し、原画像から舌が切り出された画像(舌画像)を抽出画像として抽出して、抽出画像内の舌領域を構成する画素を色テンプレートに置き換えて舌色をコード化(離散化)し、色テンプレートに基づいて舌画像の診断結果(舌症状)を判定するものである。
【0023】
「ターゲットスコープ画像TS」は、抽出画像(舌画像)を収める閉曲線(以下「ターゲットスコープ」という。)を本システムSの使用者(医療従事者)に視認させるための画像である。ターゲットスコープ画像TSの詳細については、後述する。
【0024】
「原画像」は、本システムSにより撮像された患者の舌を含む画像であり、本システムSにより舌画像が抽出される前の画像である。原画像は、患者の口元画像と、患者の舌画像と、を含む。
【0025】
なお、原画像は、本システムにより撮像された画像(撮像画像)そのものでもよく、あるいは、本システムが撮像画像に何らかの改変(例えば、画像強調や解像度の変換などの画像処理)を加えた画像でもよい。
【0026】
「口元画像」は、舌を除く患者の口元(例えば、唇や頬、顎、鼻、口腔内など)の領域を含む画像である。すなわち、口元画像は、本システムSが原画像から抽出する対象(舌)を含まない領域の画像(非抽出画像)である。
【0027】
「舌画像」は、原画像のうち、患者の舌が切り出された画像である。舌画像は、本発明における抽出画像の例である。すなわち、舌画像は、本システムSが原画像から抽出する対象を含む領域の画像(抽出画像)である。つまり、原画像は、抽出画像と非抽出画像とで構成される。
【0028】
「抽出画像」は、本システムSにより原画像から抽出される原画像の一部の領域(舌の領域)を含む画像である。
【0029】
「色テンプレート」は、連続量のRGB値で表現される画素が置換される対象であり、舌色を離散化(コード化)するための色見本となる、表色系(色空間)を構成する要素(色)である。色テンプレートは、例えば、マンセル表色系の色テンプレートである。マンセル表色系は、色を色相、明度、彩度で分類する。本実施の形態は、4680色の色テンプレートを用いる。
【0030】
本システムSは、本装置1と本判定装置2と表示装置3とを有してなる。本装置1と本判定装置2と表示装置3それぞれの構成については、後述する。
【0031】
図2は、本システムSが実行する処理を示すフローチャートである。
本システムSは、撮像処理(S1)と、抽出処理(S2)と、コード化処理(S3)と、判定処理(S4)と、を実行する。
【0032】
「撮像処理(S1)」は、被写体である患者の舌を含む画像(原画像)を撮像する処理である。撮像処理(S1)の詳細については、後述する。
【0033】
「抽出処理(S2)」は、原画像から抽出画像(舌画像)や関心領域画像を抽出する(原画像の一部を切り取る)処理である。抽出処理(S2)の詳細については、後述する。「関心領域画像」は、抽出画像のうち、本システムSの使用者(医師)が医学的に最も関心を持つ領域を含む画像である。本実施の形態において、関心領域画像は、舌画像の一部の画像である。
【0034】
なお、関心領域画像は、舌画像、すなわち、抽出画像そのものでもよい。
【0035】
「コード化処理(S3)」は、抽出処理(S2)で抽出された抽出画像や関心領域画像内の舌領域を構成する各画素を色テンプレートに置き換えて舌色をコード化(離散化)する処理である。コード化処理(S3)の詳細については、後述する。
【0036】
「判定処理(S4)」は、色テンプレートに基づいて、抽出画像や関心領域画像を判定する処理である。判定処理(S4)の詳細については、後述する。
【0037】
本装置1は、撮像処理(S1)と抽出処理(S2)とを実行する。本判定装置2は、コード化処理(S3)と判定処理(S4)とを実行する。
【0038】
図3は、本実施の形態における各画像の関係を示す模式図である。
同図は、便宜上、ターゲットスコープ画像TSの一部(後述する第3ガイド画像TS3)の図示を省略している。同図は、原画像が抽出画像と非抽出画像とにより構成されることを示す。また、同図は、抽出画像が舌画像であることを示す。さらに、同図は、非抽出画像が口元画像であることを示す。さらにまた、同図は、舌画像の一部の領域を含む画像が関心領域画像であることを示す。
【0039】
●撮像装置の構成
図4は、本装置1の実施の形態を示す機能ブロック図である。
【0040】
本装置1は、ターゲットスコープ画像TSを用いて、患者の閉じられた口から舌が出された状態の原画像を撮像すると共に、原画像から舌画像を抽出する。本装置1は、例えば、携帯電話(例えば、スマートフォン)、タブレットPC(Personal Computer)、PDA(Personal Digital Assistant)などの可搬型のコンピュータ端末などで構成される。
【0041】
本装置1では、本プログラムが動作して、本プログラムが本装置1のハードウェア資源と協働して、後述する情報処理を実現する。すなわち、例えば、本プログラムは、本装置1にインストールされる舌画像撮像アプリケーションである。
【0042】
本装置1は、画像表示部11、重畳表示部12と、撮像部13と、記憶部14と、画像抽出部15と、通信部16と、を備える。
【0043】
画像表示部11は、被写体(例えば、患者の舌や、患者の口元)の画像、すなわち、原画像や口元画像を表示する。画像表示部11は、例えば、液晶ディスプレイ(Liquid Crystal Display)や、有機ELディスプレイ(Electro-Luminescence Display)などの表示デバイスである。
【0044】
重畳表示部12は、画像表示部11に表示されている被写体の画像に、ターゲットスコープ画像TS(図5参照)を重畳して表示させる。ターゲットスコープ画像TSは、原画像の撮像前に予め記憶部14に記憶されている。
【0045】
図5は、画像表示部11に表示されるターゲットスコープ画像TSの例を示す模式図である。
【0046】
ターゲットスコープ画像TSは、標準的な人の舌の形状(輪郭線)を模して設定される。具体的には、ターゲットスコープ画像TSは、画像表示部11において、上下方向に長い逆アーチ状(矩形の下辺が半円に置換された形状)で、左右方向中央に縦ラインが縦断するように付された形状として表示される。ターゲットスコープ画像TSは、第1ガイド画像TS1と、第2ガイド画像TS2と、第3ガイド画像TS3と、第4ガイド画像TS4と、を含む。
【0047】
第1ガイド画像TS1は、画像表示部11において、舌が出る前の口に位置付けられて、口から出た舌の水平方向と、舌の幅と、にターゲットスコープ画像TSをガイド(位置合わせ)する画像である。第1ガイド画像TS1は、緑色で、左右方向に沿う直線である。
【0048】
第2ガイド画像TS2は、画像表示部11において、口から出た舌の先端に位置付けられて、舌の先端の位置にターゲットスコープ画像TSをガイドする画像である。第2ガイド画像TS2は、青色で、下方に凸となる円弧である。
【0049】
第3ガイド画像TS3は、画像表示部11において、舌が出る前の口の中央に位置付けられて、口から出た舌の中心線の位置にターゲットスコープ画像TSをガイドする画像である。第3ガイド画像TS3は、黄色で、上下方向に沿う直線である。
【0050】
第4ガイド画像TS4は、画像表示部11において、舌が出る前の口の下方に位置付けられて、口から出た舌を囲んで舌の全体の位置をガイドする画像である。第4ガイド画像TS4は、赤色で、略U字状である。
【0051】
第1ガイド画像TS1は、第4ガイド画像TS4の上端部間を接続するように配置される。第2ガイド画像TS2は、第4ガイド画像TS4の底部(円弧の部分)の中央部分に、重なるように配置される。第3ガイド画像TS3は、第1ガイド画像TS1の中央と第2ガイド画像TS2の中央とを結ぶ線上に配置される。第3ガイド画像TS3は、第1ガイド画像TS1と第2ガイド画像TS2とに直交する。
【0052】
このように、ターゲットスコープ画像TSのうち、第1ガイド画像TS1と第2ガイド画像TS2と第4ガイド画像TS4とは、舌の輪郭線を模すように(舌を取り囲むように)直線と曲線とが組み合わされた閉曲線Rを構成する。第3ガイド画像TS3は、閉曲線Rの左右方向の中央を通る直線Lを構成する。すなわち、ターゲットスコープ画像TSは、人の舌の輪郭線を模した閉曲線Rと、同閉曲線の左右方向の中央を通る直線Lと、を含む。
【0053】
なお、ターゲットスコープ画像の形状や色は、舌診断に適した品質の原画像を撮像できるものであればよく、本実施の形態に限定されない。
【0054】
すなわち、ターゲットスコープ画像の色は、被写体の色と区別可能な色(被写体に紛れない色)であればよく、本実施の形態に限定されない。
【0055】
また、ターゲットスコープ画像の形状は、舌を十分に出すことが困難な患者など、患者の状態に応じて、本装置の利用者により、撮像現場において変形(修正)できるように構成されてもよい。あるいは、予め形状の異なる複数のターゲットスコープ画像を記憶部に記憶させておき、本装置の使用者により、撮像現場において患者の舌の形状に適した形状のターゲットスコープ画像が選択されてもよい。
【0056】
さらに、ターゲットスコープ画像の一部を構成する閉曲線は、被写体である舌の輪郭線を模すように構成されていればよく、破線や、鎖線、一部が分断された線など、完全に閉じた曲線以外の曲線や直線により構成されてもよい。
【0057】
図4に戻る。
撮像部13は、画像表示部11に表示されている被写体の画像のうち、ターゲットスコープ画像TSに基づいて設定される領域(後述する前景領域)を含む画像(舌画像)を撮像する。撮像部13は、例えば、静止画を撮像可能なデジタルカメラである。撮像部13が撮像した画像(原画像)は、記憶部14に記憶される。
【0058】
記憶部14は、本装置1や本システムSが後述する処理を実行するために必要な情報を記憶する。記憶部14は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)などの記録装置や、RAM(Random Access Memory)、フラッシュメモリなどの半導体メモリ素子、などにより構成される。
【0059】
画像抽出部15は、領域特定情報に基づいて、原画像のうち、ターゲットスコープ画像TSに基づいて設定される領域を含む画像(以下「範囲画像」という。)の一部の領域を抽出画像として抽出する。画像抽出部15の動作と範囲画像と領域特定情報とについては、後述する。
【0060】
通信部16は、例えば、Wi-FiやBluetooth(登録商標)などの無線通信ネットワークを介して本判定装置2に接続されて、本判定装置2に画像(原画像や抽出画像、関心領域画像など)を送信する。通信部16は、例えば、通信モジュールやアンテナなど(不図示)により構成される。
【0061】
重畳表示部12と画像抽出部15とは、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)などのプロセッサや、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などの集積回路により構成される。
【0062】
なお、本発明における重畳表示部と画像抽出部とは、共通するプロセッサや集積回路により構成されてもよく、あるいは、個別のプロセッサや集積回路により構成されてもよい。
【0063】
●画像判定装置の構成
図6は、本判定装置2の実施の形態を示す機能ブロック図である。
本判定装置2は、撮像画像(本実施の形態では関心領域画像。以下同じ。)を構成する画素を色テンプレートに置き換えて舌色をコード化(離散化)し、色テンプレートに基づいて撮像画像に対応する正解情報を判定する。本判定装置2は、例えば、パーソナルコンピュータで構成される。正解情報については、後述する。
【0064】
本判定装置2は、記憶部21と、画素情報特定部22と、色テンプレート特定部23と、色テンプレート選択部24と、正解情報特定部25と、判定結果出力部26と、通信部27と、を備える。
【0065】
本判定装置2では、本判定プログラムが動作して、本判定プログラムが本判定装置2のハードウェア資源と協働して、後述する情報処理を実現する。すなわち、例えば、本判定プログラムは、本判定装置2にインストールされる診断結果判定アプリケーションである。
【0066】
「撮像画像」は、例えば、デジタルカメラなどで撮像された静止画である。本実施の形態では、撮像画像は、本装置1から送信される画像(舌画像や関心領域画像)である。
【0067】
記憶部21は、本判定装置2や本システムSが後述する処理を実行するために必要な情報を記憶する。記憶部21は、例えば、舌画像や関心領域画像、複数の色テンプレート、複数の色テンプレートのいずれかの組み合わせで構成される色テンプレート集合ごとの正解情報、などを記憶する。記憶部21は、例えば、HDD、SSDなどの記録装置や、RAM、フラッシュメモリなどの半導体メモリ素子、などにより構成される。
【0068】
画素情報特定部22は、撮像画像内の舌領域を構成する画素ごとの画素情報を特定する。画素情報特定部22の動作については、後述する。
【0069】
「画素情報」は、画素の色調に関する情報であって、例えば、画素の画素値、すなわち、RGBの色情報である。色情報は、例えば、Red、Green、Blueの各色の階調を8ビットの値で示す24ビットの情報である。
【0070】
なお、画素情報は、色深度や色空間の情報でもよい。
【0071】
色テンプレート特定部23は、撮像画像の画素ごとに、画素情報に基づいて、複数の色テンプレートの中から所定の色テンプレートを置換テンプレートとして特定する。色テンプレート特定部23の動作については、後述する。
【0072】
本実施の形態において、色テンプレートは、前述のとおり、マンセル表色系の色テンプレートである。各色テンプレートには、予めRGB色空間内において、所定のRGB値(以下「設定値」という。)が設定されている。換言すれば、各色テンプレートは、RGB色空間内において、離散して配置されている。色テンプレートごとの設定値は、色テンプレートに関連付けられて記憶部21に記憶される。
【0073】
ここで、設定値は、予め想定される特定の光源と撮像装置とにより実在する色テンプレートを撮像した画像のRGB値に基づいて設定されてもよく、あるいは、光源の照度や色、撮影機器などを変更して実在する色テンプレートを複数回撮像した画像のRGB値の分布に基づいて設定されてもよい。この場合、本判定装置2は、舌の撮像ごとに色補正をする必要がなくなる。また、設定値は、例えば、各色テンプレートに対応する公知のRGB値などの情報に基づいて設定されてもよい。
【0074】
「置換テンプレート」は、撮像画像の画素ごとに置き換えられる色テンプレートである。
【0075】
色テンプレート選択部24は、置換テンプレートの中から所定の色テンプレートを特徴テンプレート集合を構成する要素として選択する。色テンプレート選択部24の動作については、後述する。
【0076】
「特徴テンプレート集合」は、置換テンプレートとして特定された複数の色テンプレートのうち、撮像画像内の舌の色調を特徴付ける色テンプレート(以下「特徴テンプレート」という。)の集合である。換言すれば、特徴テンプレート集合は、撮像画像内の舌領域を構成する画素の主要な色の集合である。
【0077】
正解情報特定部25は、特徴テンプレート集合を構成する色テンプレートと、判定に用いられる色テンプレート集合と、に基づいて、所定の正解情報を特定する。正解情報特定部25の動作については、後述する。
【0078】
「正解情報」は、本判定装置2が撮像画像を識別する種別(クラス)に関する情報である。本実施形態において、正解情報は、例えば、紅舌、淡紅舌、淡白舌などの医師による舌診断の診断結果、すなわち、患者の健康に関する診断結果を示す情報である。つまり、本実施形態において、正解情報は、医師による診断結果(正解の診断結果)を示す情報である。
【0079】
「判定に用いられる色テンプレート集合」は、複数の色テンプレートのうち、判定に用いられる色テンプレートの組み合わせで構成される色テンプレートの集合である。すなわち、判定に用いられる色テンプレート集合は、撮像画像を識別する識別用の色テンプレート(識別テンプレート)の集合である。色テンプレート集合は、例えば、5個の色テンプレート(識別テンプレート)で構成される。正解情報は、色テンプレート集合と関連付けられて予め辞書Dに記憶されている。辞書Dは、記憶部21に記憶されている。
【0080】
図7は、辞書Dに記憶されている情報の例を示す模式図である。
「診断結果ID」は、正解情報(医師による舌診断の診断結果)それぞれに対して付される固有のIDである。同図は、各診断結果ID「T1」「T2」「T3」・・・「Tn」と、各正解情報(正解の診断結果)「紅舌」「淡紅舌」「淡白舌」・・・「その他」と、色テンプレート「C1」「C2」「C3」・・・「Cn」のいずれかの組み合わせ(色テンプレート集合)と、が関連付けられて辞書Dに記憶されていることを示す。本判定装置2は、診断結果IDを用いて辞書Dを参照することで、正解情報、すなわち、医師による診断結果と、同診断結果と関連付けて辞書Dに記憶されている色テンプレート(識別テンプレート)集合と、を読み出すことができる。
【0081】
同図は、例えば、診断結果ID「T1」の正解の診断結果(正解情報)が「紅舌」であり、紅舌に関連付けられている色テンプレート集合が「C1」「C2」「C3」であること、などを示す。
【0082】
図6に戻る。
判定結果出力部26は、例えば、本判定装置2に接続される表示装置3(ディスプレイなど)に正解情報(正解の診断結果)を判定結果として出力する。判定結果出力部26の動作については、後述する。
【0083】
画素情報特定部22と、色テンプレート特定部23と、色テンプレート選択部24と、正解情報特定部25と、判定結果出力部26とは、例えば、CPU、MPU、DSPなどのプロセッサや、ASIC、FPGAなどの集積回路により構成される。
【0084】
なお、本発明における画素情報特定部と、色テンプレート特定部と、色テンプレート選択部と、正解情報特定部と、判定結果出力部とは、共通するプロセッサや集積回路により構成されてもよく、あるいは、個別のプロセッサや集積回路により構成されてもよい。
【0085】
通信部27は、無線通信ネットワークを介して本装置1に接続されて、本装置1からの画像(原画像や抽出画像など)を受信する。通信部27は、例えば、通信モジュールやアンテナなど(不図示)により構成される。
【0086】
●画像処理システムの動作●
次に、本システムSの動作について、説明する。本システムSは、図2に示されるように、撮像処理(S1)と、抽出処理(S2)と、コード化処理(S3)と、判定処理(S4)と、を実行する。撮像処理(S1)と抽出処理(S2)とは、本装置1により実行される。コード化処理(S3)と判定処理(S4)とは、本判定装置2により実行される。以下の説明において、注目する対象が映っている画像内の対象(口や舌など)を、単に対象の名称(口や舌)で表記する。
【0087】
●撮像処理
図8は、撮像処理(S1)のフローチャートである。
【0088】
先ず、本装置1の使用者は、本装置1において本プログラムを起動させる(S101)。このとき、画像表示部11は、撮像部13により取得される画像をリアルタイムに表示する。重畳表示部12は、記憶部14からターゲットスコープ画像TSを読み出し、画像表示部11に表示されている画像に、ターゲットスコープ画像TSを重畳して表示させる。
【0089】
次いで、使用者は、撮像部13のレンズ(不図示)を、口を閉じている患者(被撮影者)の口元に向ける。このとき、画像表示部11は、口を閉じている患者の口元画像と、ターゲットスコープ画像TSと、を重畳して表示する(S102)。
【0090】
図9は、画像表示部11に表示される画像の例を示す模式図である。
同図は、口を閉じている患者の口元画像と、ターゲットスコープ画像TSと、が重畳して表示されている状態を示す。
【0091】
図8に戻る。
次いで、使用者は、本装置1を移動させて、画像表示部11に表示されているターゲットスコープ画像TSの位置を患者の口の位置に合わせる(S103)。すなわち、使用者は、画像表示部11に表示されているターゲットスコープ画像TSのうち、第1ガイド画像TS1の両端を口の口角(唇の両端)に位置付け、第3ガイド画像TS3を患者の口(唇)の中央に位置付ける。このとき、第2ガイド画像TS2と第4ガイド画像TS4とは、患者の口の下方、すなわち、舌が出ると予測される領域に位置付けられる。このように、使用者は、第1ガイド画像TS1と第3ガイド画像TS3とを口の位置に合わせることで、口から出てくる舌に対する本装置1の位置を調整する。
【0092】
図10は、画像表示部11に表示される画像の別の例を示す模式図である。
同図は、第1ガイド画像TS1と第3ガイド画像TS3とが閉じている口に位置付けられ、第2ガイド画像TS2と第4ガイド画像TS4とが口の下方に位置付けられたことを示す。
【0093】
図8に戻る。
次いで、使用者は、患者に対して、舌を出すように指示をして、患者に舌を出させる。このとき、使用者は、第3ガイド画像TS3の位置を口の中央からずらさないように本装置1を上下方向に移動させて、画像表示部11に表示されているターゲットスコープ画像TSを舌の位置に合わせる(S104)。すなわち、使用者は、第2ガイド画像TS2を口から出た舌の先端に位置付けると共に、第4ガイド画像TS4を舌の両端に位置付ける。その結果、画像表示部11に表示されている画像のうち、舌領域は、ターゲットスコープ画像TSで示された撮像範囲内(閉曲線R内)に収められる。
【0094】
図11は、画像表示部11に表示される画像のさらに別の例を示す模式図である。
同図は、第2ガイド画像TS2が舌の先端に位置付けられ、第4ガイド画像TS4が舌の両端に位置付けられ、舌領域が閉曲線R内に収められたことを示す。
【0095】
図8に戻る。
次いで、本装置1の使用者は、本装置1の撮像ボタン(不図示)を押して、患者の舌画像や口元画像にターゲットスコープ画像TSが重畳された原画像を撮像する(S105)。すなわち、撮像部13は、ターゲットスコープ画像TSが重畳された原画像を撮像する。同原画像は、記憶部14に記憶される(S106)。
【0096】
このように、使用者は、閉じている口に対してターゲットスコープ画像TSの位置を合わせる。そのため、患者が舌を出したとき、使用者は、本装置1を少し上方に向ける(移動させる)だけの短時間で舌をターゲットスコープ画像TSで示された撮像範囲内(閉曲線R内)に収めることができる。すなわち、原画像において、ターゲットスコープ画像TSに対する舌の位置や大きさは、ある程度一定になる。つまり、使用者は、常に同程度の品質の原画像を撮像することができる。
【0097】
●抽出処理
次いで、本装置1は、抽出処理(S2)を実行する。
【0098】
図12は、抽出処理(S2)のフローチャートである。
【0099】
先ず、画像抽出部15は、記憶部14から原画像を読み出す(S201)。
【0100】
次いで、画像抽出部15は、原画像が撮像されたときのターゲットスコープ画像TSの第1ガイド画像TS1と第2ガイド画像TS2と第4ガイド画像TS4それぞれを用いたセグメンテーション法により、原画像から舌画像を抽出画像として抽出する(S202)。換言すれば、画像抽出部15は、原画像が撮像されたときのターゲットスコープ画像TSを用いたセグメンテーション法により、原画像の一部を抽出画像として抽出する。画像抽出部15が用いるセグメンテーション法は、例えば、公知のGrabcut(グラフカット)法である。抽出された舌画像は、元となる原画像と関連付けられて記憶部14に記憶される(S203)。
【0101】
「グラフカット法」は、抽出対象である舌領域を含む領域(前景領域)の色分布と、舌領域を含まない領域(背景領域)の色分布と、を算出し、前景領域を構成する各画素間に同色分布に基づいて重み付けられた辺(線)を設定し、重みの総和が最小になるように辺を切断して閉曲線を形成し、同閉曲線により舌領域を抽出する手法である。画像抽出部15は、入力された原画像に対してグラフカット法を用いて舌領域を切り出し、同舌領域を含む舌画像を抽出画像として出力する。グラフカット法に用いられる情報(各色分布や、各画素間に設定される辺、同辺に設定される重みなどの情報)は、領域設定情報として記憶部14に記憶される。
【0102】
なお、グラフカット法は、後述する動的輪郭モデル法とは異なり、カラー画像に直接適用可能である。
【0103】
図13は、ターゲットスコープ画像TSと、前景領域と、背景領域と、の関係を示す模式図である。同図は、原画像のうち、ターゲットスコープ画像TSを囲む矩形状の領域が前景領域として設定され、前景領域を囲む(除く)領域が背景領域として設定されていることを示す。
【0104】
「前景領域」は、前述のとおり、原画像のうち抽出対象である舌領域を含む矩形状の領域である。前景領域は、ターゲットスコープ画像TSを囲むように設定される。すなわち、前景領域は、舌領域と、舌領域とは異なる色調を有する領域と、を含む。このように前景領域が設定されることにより、舌領域の一部がターゲットスコープ画像TSから出ていても(ターゲットスコープ画像TSから多少ずれていても)、舌領域は、前景領域内に収められる。そのため、原画像内におけるターゲットスコープ画像と舌領域とのずれは、前景領域と舌領域との関係に置き換えられて吸収される。また、舌領域とは異なる色調を有する領域を含むことで、画像抽出部15が、舌と、舌と色調が近い部位(例えば、肌など)と、を混同して認識することが抑制される。その結果、本装置1は、正確に舌領域を抽出することができる。前景領域の形状や大きさは、ターゲットスコープ画像TSの閉曲線Rの形状や大きさに基づいて、本装置1の利用者などにより予め設定されている。換言すれば、前景領域は、ターゲットスコープ画像TSに基づいて、設定される領域である。つまり、原画像のうち、前景領域の画像は、本発明における範囲画像である。ターゲットスコープ画像TSの閉曲線Rの形状や大きさに基づいて設定される前景領域の形状や大きさを特定する情報、つまり、画像抽出部15が範囲画像を特定するために用いる情報は、予め記憶部14に記憶されている。
【0105】
「背景領域」は、前述のとおり、原画像のうち舌領域を含まない領域(前景領域画像を除く領域)である。前景領域(背景領域)の形状や大きさは、ターゲットスコープ画像TSに関連付けられて、領域特定情報として記憶部14に記憶されている。
【0106】
本装置1は、抽出の対象である舌の形状に模したターゲットスコープ画像TSが重畳された原画像において、ターゲットスコープ画像TSを含む矩形状の領域を前景領域とし、前景領域以外の領域を背景領域として設定する。前述のとおり、第2ガイド画像TS2は舌の先端に位置付けられ、第4ガイド画像TS4は舌の両端に位置付けられる。原画像において、ターゲットスコープ画像TSに対する舌の位置や大きさは、ある程度一定である。すなわち、前景領域における舌の位置や大きさは、ある程度一定である。本装置1は、前景領域(範囲画像)の一部の領域(舌領域や舌領域を含む領域)を抽出画像として抽出する。その結果、本装置1は、短時間・低処理負荷で精度の良い舌の抽出を実現する。
【0107】
なお、画像抽出部が用いるセグメンテーション法は、グラフカット法に限定されない。すなわち、例えば、画像抽出部は、Snakes(スネークス)などの動的輪郭モデル法を用いてもよい。この場合、画像抽出部は、例えば、ターゲットスコープ画像が重畳された原画像において、ターゲットスコープ画像の閉曲線を初期輪郭線として用いることで、初期輪郭線に対する舌の位置や大きさをある程度一定にすることができる。換言すれば、画像抽出部は、原画像において、舌の輪郭線と初期輪郭線との距離を、短く、かつ、ある程度一定にすることができる。その結果、本装置は、短時間・低処理負荷で精度の良い舌画像の抽出を実現する。
【0108】
図12に戻る。
次いで、画像抽出部15は、抽出された舌画像から関心領域画像を抽出する(S204)。
【0109】
図14は、画像抽出部15による関心領域画像の抽出方法の例を示す模式図である。
【0110】
先ず、画像抽出部15は、舌画像の矩形状の外接枠W1を設定し、外接枠W1の重心座標P1を算出する。「外接枠W1の重心座標P1」は、外接枠W1の各辺のうち、対向する2辺の中点同士を通る2つの直線の交点の位置である。
【0111】
次いで、画像抽出部15は、舌画像の関心領域枠W2を設定する。「関心領域枠W2」は、各辺の長さが外接枠W1の各辺の長さの1/2、重心座標P2が外接枠W1の重心座標P1と一致する、矩形状の枠である。画像抽出部15が関心領域枠W2を設定するために用いる情報(外接枠W1の各辺の長さの1/2など)は、予め記憶部14に記憶されている。
【0112】
関心領域枠W2内の画像は、関心領域画像として抽出され(S204)、元となる原画像と舌画像とに関連付けられて記憶部14に記憶される(S205)。
【0113】
次いで、通信部16は、原画像と、原画像に関連付けられた舌画像と関心領域画像と、を本判定装置2に送信する(S206)。本判定装置2は、受信した各画像を記憶部21に記憶する。
【0114】
なお、通信部は、通信負荷を低減するため、関心領域画像のみを本判定装置に送信してもよい。
【0115】
また、関心領域画像は、前述のとおり、本システムSの使用者(医師)が医学的に最も関心を持つ領域の画像である。そのため、関心領域画像の形状や大きさ、抽出方法は、本実施の形態に限定されない。すなわち、例えば、関心領域画像は、舌画像そのものでもよく、あるいは、舌の先端部や輪郭部でもよい。
【0116】
●コード化処理
次いで、本判定装置2は、コード化処理(S3)を実行する。
【0117】
図15は、コード化処理(S3)のフローチャートである。
【0118】
先ず、画素情報特定部22は、記憶部21から関心領域画像を読み出す(S301)。関心領域画像は、本発明における撮像画像の例である。
【0119】
次いで、画素情報特定部22は、関心領域画像内の舌領域(本実施の形態では、関心領域画像内の全ての領域)を構成する画素ごとの画素値(RGB値)を画素情報として特定する(S302)。
【0120】
次いで、画素情報特定部22は、特定した画素情報から、その画素の輝度値Yを算出する(S303)。輝度値Yの算出は、例えば、以下の式1を用いて行われる。
【0121】
(式1)
Y=0.299×R+0.587×G+0.114×B
【0122】
次いで、画素情報特定部22は、算出した輝度値Yを用いて、不要画素を除去する(S304)。「不要画素」は、関心領域画像内の舌領域を構成する画素のうち、影がかかった画素や、光の照り返し(反射)がある画素など、他の画素より明暗が大きく変化している画素である。画素情報特定部22は、例えば、輝度値Yが80以下の画素を影領域内の画素、輝度値Yが200以上の画素を光の照り返し領域内の画素、として除去する。
【0123】
次いで、色テンプレート特定部23は、記憶部21から予め設定値が設定されている色テンプレートを読み出す(S305)。
【0124】
なお、本実施の形態では、色テンプレート特定部23は、4680色の色テンプレートを記憶部21から読み出す。これに代えて、色テンプレート特定部は、4680色の色テンプレートのうち、舌に関わりの深い色の色テンプレートのみを記憶部から読み出してもよい。この場合、記憶部は、舌に関わりの深い色の色テンプレートのみを予め記憶していてもよい。この構成によれば、本判定装置の処理負担が軽減される。
【0125】
次いで、色テンプレート特定部23は、各画素のRGB値と、色テンプレートに設定されている(関連付けられている)各設定値と、を照合して、画素ごとに画素と各色テンプレートとの距離を算出する(S306)。距離の算出は、例えば、ユークリッド距離やマハラノビス距離などの公知の距離を用いて実行される。
【0126】
次いで、色テンプレート特定部23は、パターン認識の最近傍識別則により、RGB色空間において各画素との距離が最も近い(最も似ている)、最接近している色テンプレートを、同画素の置換テンプレートとして特定して(S307)、各画素を特定した置換テンプレートに置き換える(S308)。
【0127】
図16は、色テンプレート特定部23による置換テンプレートの特定方法の例を示す模式図である。
同図は、RGB色空間において、2つの色テンプレートA1,A2が配置されていることを示す。同図は、同一の被写体を別々に4回撮像し、照明などの大きな影響を受けたRGB値を有する画素x3と、照明などの影響が比較的小さいRGB値を有する画素x1,x2,x4と、の4つの画素を例として示す。同図は、2つの色テンプレートA1,A2を分離する垂直2等分線を示す直線により、平面が2分割されていることを示す。同図は、色テンプレートA1に近い画素がx1,x2,x4であり、色テンプレートA2に近い画素がx3であることを示す。すなわち、同図は、x1,x2,x4の画素に最接近する色テンプレートが色テンプレートA1であり、x3の画素に最接近する色テンプレートが色テンプレートA2であることを示す。
【0128】
このように、各画素を色テンプレートに置き換えて舌色をコード化(離散化)することで、同一の被写体であるにも関わらず、照明などの撮像環境の影響により僅かに異なるRGB値を有することとなった画素x1,x2,x4は、同一の色テンプレートA1に置き換えられる。すなわち、同一の被写体の撮像においてRGB値が多少変動しても、その変動は、各画素のコード化により吸収される。一般的に、同一の被写体を複数回撮像すると、撮像時の光源(照明)や撮像装置などの撮像環境の影響により、撮像画像間における各画素のRGB値は、変動する。しかし、本判定装置2は、各画素を色テンプレートに置き換えて舌色をコード化することによりこの変動をある程度吸収することができる。
【0129】
図15に戻る。
次いで、色テンプレート選択部24は、置換テンプレートごとに、各置換テンプレートに対応付けられた画素の総数を集計し、不要画素を除く全画素数に対するその画素数の割合(以下「画素割合」という。)を算出する(S309)。
【0130】
次いで、色テンプレート選択部24は、各置換テンプレートを画素割合の降順でソーティングして、画素割合の多い順に10個の置換テンプレートを、特徴テンプレート集合を構成する色テンプレートとして選択する(S310)。すなわち、色テンプレート選択部24は、置換テンプレートに対応付けられた画素の総数の多少に基づいて、特徴テンプレート集合を構成する色テンプレートを選択する。
【0131】
なお、特徴テンプレート集合を構成する色テンプレートの数は、「10」に限定されない。すなわち、例えば、色テンプレート選択部は、5個の置換テンプレートを選択してもよく、あるいは、20個の置換テンプレートを選択してもよい。
【0132】
次いで、色テンプレート特定部23は、特徴テンプレート集合を構成する色テンプレート(すなわち、特徴テンプレート)にまだ置き換えられていない画素(特徴テンプレート以外の色テンプレートに置き換えられた画素)を、再度、最近傍識別則により、最接近の特徴テンプレートに置き換える(S311)。すなわち、色テンプレート特定部23は、処理(S306-S311)を実行して、不要画素を除く全ての画素を、特徴テンプレート(本実施の形態では10個の色テンプレート)に置き換える。次いで、色テンプレート特定部23は、各特徴テンプレートの画素割合を更新する(S312)。各画素に置き換えられる特徴テンプレー集合は、対応する関心領域画像に関連付けられて記憶部21に記憶される(S313)。
【0133】
図17は、色テンプレート特定部23による、各画素の特徴テンプレート集合を構成する色テンプレートへの置き換えの例を示す模式図である。
同図は、画素を「Z」、色テンプレートを「T」でそれぞれ示す。「T」の添え字は、画素割合の多い順の順位を示す。すなわち、「T1」は画素割合が1位の色テンプレートであり、「T20」は画素割合が20位の色テンプレートである。同図は、処理(S310)により、画素「Z3」の置換テンプレートが「T20」から「T4」に変更され、画素「Z4」の置換テンプレートが「T24」から「T5」に変更されたことを示す。
【0134】
このように、本判定装置2は、関心領域画像内の舌領域を構成する、不要画素を除く各画素を、所定の数の特徴テンプレートに置き換える。その結果、本判定装置2が判定処理(S4)を実行するために用いるメモリ領域は削減され、同処理を実行するための処理負荷は低減される。すなわち、本判定装置2を構成するパーソナルコンピュータなどは、高い計算能力を必要としない。
【0135】
●判定処理
次いで、本判定装置2は、判定処理(S4)を実行する。
【0136】
図18は、判定処理(S4)のフローチャートである。
【0137】
先ず、正解情報特定部25は、記憶部21から舌診断の対象となる患者の関心領域画像の特徴テンプレート集合と、辞書Dと、を読み出す(S401)。
【0138】
次いで、正解情報特定部25は、特徴テンプレート集合を構成する色テンプレート(すなわち、特徴テンプレート)と、辞書D内の各正解情報(すなわち、正解の診断結果)に関連付けられる色テンプレート(すなわち、識別テンプレート)と、を照合して(S402)、特徴テンプレートと、識別テンプレートと、が一致する数(以下「一致数」という。)を算出する(S403)。
【0139】
次いで、正解情報特定部25は、未照合の正解情報が有るか否かを判定する(S404)。
【0140】
未照合の正解情報が有るとき(S404の「Yes」)、正解情報特定部25は、未照合の正解情報のうち、他の1の正解情報に対して、処理(S403)を実行する。
【0141】
一方、未照合の正解情報が無いとき(S404の「No」)、正解情報特定部25は、各正解情報に対して、一致数が「1以上」か「0」か、を判定する(S405)。
【0142】
一致数が「1以上」のとき(S405の「Yes」)、正解情報特定部25は、一致数が最も多い正解情報が1つか否かを判定する(S406)。
【0143】
一致数が最も多い正解情報が1つのとき(S406の「Yes」)、正解情報特定部25は、一致数が最も多い正解情報を関心領域画像の診断結果として特定する(S407)。換言すれば、正解情報特定部25は、特徴テンプレート集合と、識別テンプレート集合と、の共通性の有無や共通性の多少により、関心領域画像の正解の診断結果を特定する。
【0144】
一方、一致数が「0」のとき(S405の「No」)、あるいは、一致数が最も多い正解情報が複数のとき(S406の「No」)、正解情報特定部25は、判定不能である旨の結果を関心領域画像の診断結果として特定する(S408)。前述の処理(S407,S408)により特定された診断結果は、関心領域画像に関連付けられて記憶部21に記憶される(S409)。
【0145】
次いで、判定結果出力部26は、表示装置3に、前述の処理(S407,S408)により特定された診断結果(舌診断の診断結果)を判定結果として出力する(S410)。本判定装置2の使用者は、表示装置3に表示された判定結果を参考として、患者の舌の診断をする。
【0146】
このように、本判定装置2は、舌画像の関心領域画像の10個の特徴テンプレートと、各正解情報(正解の診断結果)に対応する5個の色テンプレート(識別テンプレート)と、の一致数を算出することにより、同関心領域画像(すなわち、患者の舌)の舌症状を判定する。
【0147】
なお、本発明における正解情報特定部は、後述する評価量L2を用いて、関心領域画像の特徴テンプレート集合と、辞書D内の2つの正解情報の評価量L2と、を比較して、関心領域画像の正解情報を特定してもよい。
【0148】
また、本発明における正解情報特定部は、一致数が最も多い正解情報が複数のとき、記号(コード)データを取り扱うことのできる離散Bayes識別則(例えば、特許第6041331号を参照)などの統計的パターン認識を用いて、関心領域画像の正解情報を特定してもよい。
【0149】
●辞書
ここで、辞書D内の各正解情報(正解の診断結果)に関連付けられる(舌症状の判定に用いられる)色テンプレート(識別テンプレート)は、舌症状が既知で同一の複数の患者を訓練サンプルとして用いて、本システムSが撮像処理(S1)と抽出処理(S2)とコード化処理(S3)とを実行して得られた特徴テンプレートの画素割合の平均値と出現頻度とに基づいて、特定される。
【0150】
「出現頻度」は、舌症状が既知で同一の複数の患者の舌のうち、特徴テンプレートとして特定された色テンプレートが出現した舌の割合である。すなわち、例えば、6つの舌に対して4つの舌全てに出現した色テンプレートの出現頻度は、0.67である。
【0151】
本システムSは、例えば、特徴テンプレートの画素割合の平均値と出現頻度とを乗算した値の大きい順に5個の特徴テンプレートを、その舌症状の正解の診断結果に関連付けられる識別テンプレートとして特定する。
【0152】
なお、本システムは、特徴テンプレートの画素割合の平均値と出現頻度とを乗算した値の大きい特徴テンプレートに、その舌症状にのみ出現する特徴テンプレートを組み合わせて、その舌症状の正解の診断結果に関連付けられる(舌症状の判定に用いられる)識別テンプレートとして特定してもよい。また、本システムは、例えば、公知の統計的パターン認識のCondensed nearest neighbor法(P. Hart, The condensed nearest neighbor rule, IEEE Trans. On Information Theory, IT-14(3), pp. 515-516(1968))により、識別情報に富んだ特徴テンプレートを識別テンプレートとして選出してもよい。
【0153】
また、識別テンプレートの数は、「5」に限定されない。
【0154】
●数値例●
次に、数値例(1)と数値例(2)とを用いて、本発明を説明する。
【0155】
●数値例(1)
数値例(1)は、本装置1を用いて原画像から舌を抽出した結果である舌画像と、人が原画像から目視で舌を抽出した結果である舌画像と、を比較した例である。撮像装置(本装置1)は、市販のタブレット機器である。原画像は、4人の撮像者が他の4人の被写体の舌を3回撮像した48枚の原画像である。撮像条件は、室内の昼光色の蛍光灯下である。比較結果を、表1に示す。
【0156】
【表1】
【0157】
「評価量L1」は、人が目視で抽出した舌画像内の舌領域を構成する画素の集合Smと、本装置1が抽出した舌画像内の舌領域を構成する画素の集合Ssと、の相違を量的に示す指標であり、式2で定義される。
【0158】
(式2)
L1=1-(|Sm∩Ss|/|Sm∪Ss|)
ここで、|S|は、集合Sの要素数を表す。
【0159】
評価量L1の値は、「0」から「1」までの値である。評価量L1の値が0に近づくと、両者の舌画像は、一致する傾向になる。一方、評価量L1の値が1に近づくと、両者の舌画像は、相違する傾向になる。
【0160】
表1は、本装置1を用いて抽出された舌画像は、人の目視により抽出された舌画像と、1割強しか相違していないことを示す。すなわち、本装置1は、人の目視に近い精度で舌画像を抽出可能である。
【0161】
●数値例(2)
数値例(2)は、本判定装置2を用いて舌症状が既知の関心領域画像をテストサンプルとして用い、それにコード化処理(S3)と判定処理(S4)とを実行して舌症状を識別した例である。関心領域画像は、舌症状が紅舌の6枚の関心領域画像である。識別結果を、表2に示す。
【0162】
【表2】
【0163】
「評価量L2」は、舌症状が既知の患者の関心領域画像の特徴テンプレート集合S0と、各正解情報(正解の診断結果)に関連付けられる色テンプレート集合Sn(n=1:紅舌、2:淡紅舌、3:淡白舌)との相違を量的に示す指標であり、式3で定義される。
【0164】
(式3)
L2=1-(|S0∩Sn|/|S0∪Sn|)
【0165】
評価量L2の値の意味は、評価量L1の値の意味と共通する。
【0166】
表2は、本判定装置2が、紅舌6例を、淡紅舌と5/6の識別率で識別し、淡白舌を6/6の識別率で識別していることを示す。表2は、関心領域画像「4」の紅舌の評価量L2と淡紅舌の評価量L2とが「0.75」で一致しており、関心領域画像「4」の識別結果が判定不能であることを示す。
【0167】
●まとめ●
以上説明した実施の形態によれば、本装置1は、舌が出る前の口に位置付けられる第1ガイド画像TS1と、口から出た舌に位置付けられる第2ガイド画像TS2と、を含むターゲットスコープ画像TSを原画像に重畳して画像表示部11に表示する。そのため、患者が舌を出したとき、本装置1の使用者は、本装置1を少し上方に向ける(移動させる)だけの短時間で舌をターゲットスコープ画像TSの撮像範囲内(閉曲線R内)に収めることができる。すなわち、原画像において、ターゲットスコープ画像TSに対する舌の位置や大きさは、ある程度一定になる。また、撮像時間が短時間となるため、舌色も一定になる。つまり、使用者は、常に同程度の品質の原画像を撮像することができる。
【0168】
また、本装置1は、ターゲットスコープ画像TSが重畳された原画像において、ターゲットスコープ画像TSを含む領域を前景領域とし、同前景領域以外の領域を背景領域とするグラフカット法により、抽出画像(舌画像)を抽出する。そのため、原画像において、ターゲットスコープ画像TSに対する舌の位置や大きさは、ある程度一定である。すなわち、前景領域における舌の位置や大きさは、ある程度一定である。その結果、本装置1は、短時間・低処理負荷で精度の良い舌画像の抽出を実現する。
【0169】
さらに、本装置1は、舌が出る前の口の中央に位置付けられる第3ガイド画像TS3を含むターゲットスコープ画像TSが原画像に重畳されて画像表示部11に表示される。そのため、原画像において、ターゲットスコープ画像TSに対する舌の位置や傾きは、ある程度一定になる。そのため、使用者は、常に同程度の品質の原画像を撮像することができる。
【0170】
このように、本装置1は、常に同程度の品質の原画像を撮像し、原画像から精度良く舌画像を抽出する。そのため、本装置1により抽出された舌画像に基づいて舌診断を実行することにより、撮像処理により撮像時の舌の位置ずれや傾き、舌色の変動などが抑制された科学的根拠のある舌診断が実現可能である。
【0171】
さらにまた、以上説明した実施の形態によれば、本判定装置2は、関心領域画像を構成する画素ごとに、画素情報(RGB値)に基づいて、複数の色テンプレートの中から所定の色テンプレートを置換テンプレートとして特定して、画素ごとに特定された置換テンプレートの中から所定の色テンプレートを特徴テンプレート集合として選択する。すなわち、本判定装置2は、撮像画像(関心領域画像)の各画素を特徴テンプレートに置き換えて、舌色をコード化する。その結果、本判定装置2は、撮像時の光源や撮像機器などの影響によるRGB値の多少の変動を吸収して、再現性良く各画素を同一の色テンプレートに置き換えることができる。
【0172】
さらにまた、本判定装置2は、特徴テンプレート集合を構成する色テンプレートに基づいて、各正解情報の中から所定の正解情報を特定する。その結果、本判定装置2が判定処理(S4)を実行するために用いるメモリ領域は削減され、判定処理(S4)を実行するための処理負荷は低減される。
【0173】
さらにまた、本判定装置2は、画素ごとの画素値(RGB値)を用いて、画素ごとに最接近する置換テンプレートを特定する。そのため、本判定装置2は、RGB色空間内において、画素ごとに適切な置換テンプレートを、容易に特定することができる。
【0174】
さらにまた、本判定装置2は、置換テンプレートごとに、置換テンプレートに対応づけられた画素の総数を集計し、総数の多少に基づいて、特徴テンプレート集合を構成する色テンプレートを選択する。そのため、本判定装置2は、撮像画像(関心領域画像)を構成する画素の主要な色に対応する色テンプレートを特徴テンプレートとして選択する。換言すれば、本判定装置2は、撮像画像(関心領域画像)を構成する画素の色調に基づいて、正解情報(正解の診断結果)を特定する。
【0175】
このように、本判定装置2は、撮像画像(関心領域画像)を構成する各画素を色テンプレートに置き換えて舌色をコード化することにより、撮像環境によるRGB値の多少のばらつきを吸収する。そのため、本判定装置2による判定結果を用いることで、舌色が客観化された科学的根拠のある舌診断が実現可能である。
【0176】
なお、以上説明した実施の形態では、本装置1が関心領域画像の抽出(S204-S206)や、抽出処理(S2)を実行する。これに代えて、本判定装置が関心領域画像の抽出や抽出処理を実行してもよい。この場合、抽出画像(舌画像)は、本発明における撮像画像の例である。
【0177】
また、本装置は、抽出画像(舌画像)の抽出の成否の判定処理を実行して、抽出画像の抽出に失敗したときに、本装置の使用者に再撮像を促してもよい。その結果、本装置は、舌診断に用いることができる舌画像や関心領域画像のみを記憶し、本判定装置に送信する。
【0178】
さらに、本判定装置が判定する正解情報は、撮像画像を構成する画素の色調に基づいて特定されるものであれば、舌画像の関心領域画像の診断結果に限定されない。
【0179】
さらにまた、本判定装置における記憶部は、予め舌苔の色テンプレートを記憶していてもよい。この場合、例えば、本判定装置は、不要画素の除去において舌苔の領域内の画素を除去して、舌苔の領域を除去した関心領域画像を抽出することができる。
【0180】
●画像処理システムのまとめ●
以上説明した本発明にかかる撮像装置と、撮像プログラムと、画像判定装置と、画像判定プログラムと、画像処理システムと、の特徴について、以下にまとめて記載しておく。
【0181】
(特徴1)
被撮影者の口から出る舌の画像を取得する撮像装置(本装置1)であって、
前記口の周辺の画像である口元画像を表示する画像表示部(画像表示部11)と、
前記口元画像に、前記舌の撮像範囲を示すターゲットスコープ画像(ターゲットスコープ画像TS)を重畳して前記画像表示部に表示する重畳表示部(重畳表示部12)と、
前記画像表示部に表示されている画像のうち、前記ターゲットスコープ画像に基づいて設定される領域を範囲画像(前景領域の画像)として撮像する撮像部(撮像部13)と、
を有してなり、
前記ターゲットスコープ画像は、
前記舌が出る前の前記口に位置づけられる第1ガイド画像(第1ガイド画像TS1)と、
前記口から出た前記舌に位置づけられる第2ガイド画像(第2ガイド画像TS2)と、
を含む、
ことを特徴とする撮像装置。
【0182】
(特徴2)
前記範囲画像の一部の領域を特定する領域特定情報(前景領域,背景領域,両領域の色分布,各画素間に設定される辺,同辺に設定される重み,などの情報)を記憶する記憶部(記憶部14)と、
前記領域特定情報に基づいて、前記範囲画像の一部の領域を抽出画像(舌画像)として抽出する画像抽出部(画像抽出部15)と、
を備える、
特徴1記載の撮像装置。
【0183】
(特徴3)
前記ターゲットスコープ画像は、
前記舌の輪郭線を模した閉曲線(閉曲線R)、
を含み、
前記画像抽出部は、前記範囲画像が撮像されたときの前記ターゲットスコープ画像が重畳された前記範囲画像を用いたセグメンテーション法により、前記抽出画像を抽出する、
特徴2記載の撮像装置。
【0184】
(特徴4)
前記ターゲットスコープ画像は、
前記舌が出る前の前記口の中央に位置づけられる第3ガイド画像(第3ガイド画像TS3)、
を含み、
前記第1ガイド画像と前記第3ガイド画像のそれぞれは、相互に直交する直線である、
特徴1記載の撮像装置。
【0185】
(特徴5)
コンピュータを、特徴1記載の撮像装置として機能させる、
ことを特徴とする撮像プログラム。
【0186】
(特徴6)
撮像画像(関心領域画像)と、複数の色テンプレートと、前記複数の色テンプレートのいずれかの組合せで構成される色テンプレート(識別テンプレート)集合ごとの正解情報(正解の診断結果)と、が記憶される記憶部(記憶部21)と、
前記撮像画像を構成する画素ごとの画素情報(RGB値)を特定する画素情報特定部(画素情報特定部22)と、
前記画素ごとに、前記画素情報に基づいて、前記複数の色テンプレートの中から所定の色テンプレートを置換テンプレートとして特定する色テンプレート特定部(色テンプレート特定部23)と、
前記画素ごとに特定された前記置換テンプレートの中から所定の色テンプレートを特徴テンプレート集合の要素として選択する色テンプレート選択部(色テンプレート選択部24)と、
前記特徴テンプレート集合を構成する前記色テンプレートに基づいて、前記色テンプレート集合ごとの正解情報の中から所定の正解情報を特定する正解情報特定部(正解情報特定部25)と、
前記特定された正解情報を判定結果として出力する判定結果出力部(判定結果出力部26)と、
を有してなる、
ことを特徴とする画像判定装置(本判定装置2)。
【0187】
(特徴7)
前記画素情報特定部は、前記画素ごとの画素値を前記画素情報として特定する、
特徴6記載の画像判定装置。
【0188】
(特徴8)
前記記憶部は、前記色テンプレートごとの設定値を記憶し、
前記色テンプレート特定部は、前記設定値に基づいて、前記画素ごとに前記画素と前記色テンプレートとの距離を算出して、前記画素ごとに最接近する前記色テンプレートを、前記画素ごとの前記置換テンプレートとして特定する、
特徴7記載の画像判定装置。
【0189】
(特徴9)
前記色テンプレート選択部は、前記置換テンプレートごとに、前記置換テンプレートに対応づけられた前記画素の総数を集計し、前記総数に基づいて、前記特徴テンプレート集合を構成する前記色テンプレートを選択する、
特徴6記載の画像判定装置。
【0190】
(特徴10)
前記色テンプレート選択部は、前記総数の多少に基づいて、前記特徴テンプレート集合を構成する前記色テンプレートを選択する、
特徴9記載の画像判定装置。
【0191】
(特徴11)
前記撮像画像は、被撮影者の舌の画像であり、
前記正解情報は、前記被撮影者の健康に関する医師による診断結果であり、
前記判定結果出力部は、複数の前記診断結果の中から、前記舌の画像に含まれる前記画素ごとの前記画素情報に基づいて特定される前記診断結果を出力する、
特徴6記載の画像判定装置。
【0192】
(特徴12)
コンピュータを、特徴6記載の画像判定装置として機能させる、
ことを特徴とする画像判定プログラム。
【0193】
(特徴13)
画像を撮像する撮像装置と、
前記画像を判定する画像判定装置と、
を有してなり、
前記撮像装置は、特徴1記載の撮像装置であり、
前記画像判定装置は、特徴6記載の画像判定装置であり、
前記画像判定装置の記憶部は、前記画像を記憶し、
前記画像判定装置の画素情報特定部は、前記画像内の舌領域を構成する画素ごとの前記画素情報を特定する、
ことを特徴とする画像処理システム。
【符号の説明】
【0194】
1 撮像装置
11 画像表示部
12 重畳表示部
13 撮像部
14 記憶部
15 画像抽出部
2 画像判定装置
21 記憶部
22 画素情報特定部
23 色テンプレート特定部
24 色テンプレート選択部
25 正解情報特定部
26 判定結果出力部
27 通信部
S 画像処理システム
TS ターゲットスコープ
TS1 第1ガイド画像
TS2 第2ガイド画像
TS3 第3ガイド画像
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18