(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022137109
(43)【公開日】2022-09-21
(54)【発明の名称】画像表示システム、及び画像表示方法
(51)【国際特許分類】
G09G 5/02 20060101AFI20220913BHJP
A61B 5/00 20060101ALI20220913BHJP
G09G 5/00 20060101ALI20220913BHJP
H04N 1/60 20060101ALI20220913BHJP
G06T 1/00 20060101ALI20220913BHJP
G16H 20/90 20180101ALI20220913BHJP
G16H 30/20 20180101ALI20220913BHJP
G16H 40/67 20180101ALI20220913BHJP
【FI】
G09G5/02 B
A61B5/00 101A
G09G5/00 550C
G09G5/00 555D
H04N1/60 830
H04N1/60
G06T1/00 510
G16H20/90
G16H30/20
G16H40/67
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022102904
(22)【出願日】2022-06-27
(62)【分割の表示】P 2021039227の分割
【原出願日】2021-03-11
(31)【優先権主張番号】P 2020104693
(32)【優先日】2020-06-17
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000002886
【氏名又は名称】DIC株式会社
(74)【代理人】
【識別番号】100114775
【弁理士】
【氏名又は名称】高岡 亮一
(74)【代理人】
【識別番号】100121511
【弁理士】
【氏名又は名称】小田 直
(74)【代理人】
【識別番号】100193725
【弁理士】
【氏名又は名称】小森 幸子
(74)【代理人】
【識別番号】100163038
【弁理士】
【氏名又は名称】山下 武志
(72)【発明者】
【氏名】高橋 雅人
(72)【発明者】
【氏名】森原 康博
(72)【発明者】
【氏名】津村 徳道
(72)【発明者】
【氏名】高橋 凌
(72)【発明者】
【氏名】小川 恵子
(72)【発明者】
【氏名】金 一石
(57)【要約】
【課題】 患者の肌色、舌色などの色情報を用いた遠隔診療に有用な画像表示システムなどの提供。
【解決手段】 特定の色を有する第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチ複数のパッチを有するカラーチャートと、
前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、
前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、
を有する画像表示システム。
【選択図】
図4
【特許請求の範囲】
【請求項1】
以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャートと、
前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、
前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、
を有することを特徴とする画像表示システム。
第1パッチ:L*a*b*値においてL*=72、a*=8、及びb*=22で表される第1色、又は第1色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第2パッチ:L*a*b*値においてL*=78、a*=30、及びb*=15で表される第2色、又は第2色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第3パッチ:L*a*b*値においてL*=58、a*=27、及びb*=7で表される第3色、又は第3色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第4パッチ:L*a*b*値においてL*=60、a*=20、及びb*=5で表される第4色、又は第4色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第5パッチ:L*a*b*値においてL*=48、a*=25、及びb*=2で表される第5色、又は第5色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第6パッチ:L*a*b*値においてL*=52、a*=50、及びb*=13で表される第6色、又は第6色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第7パッチ:L*a*b*値においてL*=33、a*=40、及びb*=30で表される第7色、又は第7色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
【請求項2】
前記複数のパッチが、明度が異なる複数の無彩色のパッチを有する、請求項1に記載の画像表示システム。
【請求項3】
前記複数のパッチが、前記第1色から前記第7色とは異なる複数の有彩色のパッチを有する、請求項1又は2に記載の画像表示システム。
【請求項4】
前記カラーチャートの面積が、40cm2以上150cm2以下である、請求項1~3のいずれかに記載の画像表示システム。
【請求項5】
前記複数のパッチの各面積が、0.25cm2以上4cm2以下である、請求項1~4のいずれかに記載の画像表示システム。
【請求項6】
前記カラーチャートが、前記複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有する、請求項1~5のいずれかに記載の画像表示システム。
【請求項7】
前記カラーチャートが、主面の右下部に空白部を有する、請求項1~6のいずれかに記載の画像表示システム。
【請求項8】
前記撮影手段が、カメラ機能付き電子機器である、請求項1~7のいずれかに記載の画像表示システム。
【請求項9】
前記表示手段が、パーソナルコンピュータである、請求項1~8のいずれかに記載の画像表示システム。
【請求項10】
前記表示手段が、前記表示部に表示される前記画像における前記カラーチャート内の少なくとも一つのパッチの色が、前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、前記表示部の表示色、及び前記画像データの色情報を補正する色補正部を更に有する、請求項1~9のいずれかに記載の画像表示システム。
【請求項11】
前記色補正部が、
前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記表示部の対応する表示色が近づく乃至は一致するように、前記表示部の表示色を補正する第1補正部と、
前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記画像データの前記カラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、前記画像データの色情報を補正する第2補正部と、
を有する、請求項10に記載の画像表示システム。
【請求項12】
以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャート及び撮影対象者が同時に撮影され、画像データが取得される撮影工程と、
前記画像データが受け取られ、前記画像データが画像として表示部に表示される表示工程と、
を有することを特徴とする画像表示方法。
第1パッチ:L*a*b*値においてL*=72、a*=8、及びb*=22で表される第1色、又は第1色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第2パッチ:L*a*b*値においてL*=78、a*=30、及びb*=15で表される第2色、又は第2色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第3パッチ:L*a*b*値においてL*=58、a*=27、及びb*=7で表される第3色、又は第3色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第4パッチ:L*a*b*値においてL*=60、a*=20、及びb*=5で表される第4色、又は第4色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第5パッチ:L*a*b*値においてL*=48、a*=25、及びb*=2で表される第5色、又は第5色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第6パッチ:L*a*b*値においてL*=52、a*=50、及びb*=13で表される第6色、又は第6色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第7パッチ:L*a*b*値においてL*=33、a*=40、及びb*=30で表される第7色、又は第7色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像表示システム、及び画像表示方法に関する。
【背景技術】
【0002】
遠隔医療に関連する市場は、慢性疾患対応やモバイルヘルスアプリなども一要因となり、成長している。新型コロナウイルス感染症(COVID-19)の蔓延により、感染予防の観点からも遠隔診療の重要性が認識され、良好な遠隔診療システムの構築の必要性が生じている。
【0003】
新型コロナウイルスの感染者は、COVID-19の症状が現れる前に、他者に新型コロナウイルスを感染させる可能性がある。そのため、COVID-19の蔓延下においては、通常の対面診療では感染を前提にした診療が必要となる。
【0004】
一般的に行われる対面診療は、採血した血液による生化学検査結果を基に行われているが、採血時の感染リスクを考慮する必要が生じる。また、COVID-19の回復には長い時間がかかるため、感染した個人は少なくとも2週間は隔離する必要がる。患者数が急増した場合、病院はベッドを使い果たし、無症候性の感染または軽症の患者は、家、ホテル、または他の監視されていない場所で隔離されるため、これらの患者のケアも遠隔診療の対象となる。
【0005】
これらの状況に対処するため、Greenhalghらは、プライマリケアを担当する一般開業医向けのガイドを公開している(非特許文献1参照)。このガイドには、フィットネス機器で脈波計測すると、信頼性の観点から患者の状態を把握するには適していない可能性があると記載されている。また、対象者の肌色などの一般的な物理的評価についての言及はあるものの、色の見え方が異なるという点については、十分に説明されていない。
【0006】
ここで、遠隔診療は、電話などでの問診の他、会議システムなどの画像の送受信が可能な情報通信システムを用い、医師などの診断者が患者を観察することでも行われる。
診療においては、色を重視する診療が行われる場合がある。例えば、歯科における歯茎の色の観察、皮膚科における皮膚の色の観察、耳鼻咽喉科における喉の色の観察、漢方医学で行われている、肌色、舌色などによる診察(望診)などが挙げられる。このような診療においては、色の認識が正しく行われないことが診断に影響を与えることがある。
そのため、そのような診療を遠隔診療で行う際には、色を正確に認識することが重要である。
【0007】
実用的な色再現系は、国際照明委員会(CIE)によって標準化が行われてきている。しかし、実際に色再現を行う場合は、校正機器の使用など、簡単には行えない。遠隔医療において、色再現を行う場合、医師側のディスプレイの補正は、市販の表示装置のプロファイル作成ツールを用いれば、比較的容易に行う事が出来る。しかし、患者側の補正は、光源の分光放射強度やカメラ性能を考慮した補正が必要で、簡単では無い。加えて、最近の技術の進歩により、スマートフォンでは、自動的な色補正、例えばオートホワイトバランスだけでなく、美肌効果などの処理が行われているため、補正が一層困難となる。
【0008】
他方、遠隔診療において、ディスプレイの画像色再現に左右されず、顔の肌色などの皮膚色から得られる客観的生体情報の定量化を図ることで、より的確な診断をするために、各種診断可能な対象物の画像を表示する診断システムであって、対象物の画像を各画素毎に定量化した画像データとして取り込む撮影手段と、前記画像データから各種診断に必要な所定データを得る演算手段と、前記撮影手段によって得られた画像データ、および、前記所定データおよび画像データのうち何れかを転送する転送手段と、前記所定データおよび画像データを表示する表示手段とを有する診断システムが提案されている(特許文献1参照)。しかし、この提案の技術では、診断システムが複雑になり簡便性に欠ける。
【先行技術文献】
【特許文献】
【0009】
【非特許文献】
【0010】
【非特許文献1】Trisha Greenhalgh et. al., Video consultations: a guide for practice, BJGP Life (2020)
【発明の概要】
【発明が解決しようとする課題】
【0011】
そこで、本発明者らは、漢方医学で行われている、肌色、舌色などによる診察(望診)をはじめとした、色を重視する医師の診療や、色を用いた歯科医師の診療を遠隔診療で行う際に有用な技術について検討した。
【0012】
すなわち、本発明は、患者の肌色、舌色などの色情報を用いた遠隔診療に有用な、画像表示システム、及び画像表示方法を提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明者らは、上記課題を解決するために鋭意研究を重ねた結果、患者を撮影する際に、肌色、舌色などの色情報を備えたカラーチャートを同時に撮影することで、患者の肌色、舌色などの色情報を用いた遠隔診療を行いやすくすることができることを見出し、本発明の完成に至った。
【0014】
すなわち、本発明は、以下の態様を包含するものである。
[1] 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャートと、
前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、
前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、
を有することを特徴とする画像表示システム。
第1パッチ:L*a*b*値においてL*=72、a*=8、及びb*=22で表される第1色、又は第1色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第2パッチ:L*a*b*値においてL*=78、a*=30、及びb*=15で表される第2色、又は第2色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第3パッチ:L*a*b*値においてL*=58、a*=27、及びb*=7で表される第3色、又は第3色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第4パッチ:L*a*b*値においてL*=60、a*=20、及びb*=5で表される第4色、又は第4色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第5パッチ:L*a*b*値においてL*=48、a*=25、及びb*=2で表される第5色、又は第5色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第6パッチ:L*a*b*値においてL*=52、a*=50、及びb*=13で表される第6色、又は第6色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第7パッチ:L*a*b*値においてL*=33、a*=40、及びb*=30で表される第7色、又は第7色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
[2] 前記複数のパッチが、明度が異なる複数の無彩色のパッチを有する、[1]に記載の画像表示システム。
[3] 前記複数のパッチが、前記第1色から前記第7色とは異なる複数の有彩色のパッチを有する、[1]又は[2]に記載の画像表示システム。
[4] 前記カラーチャートの面積が、40cm2以上150cm2以下である、[1]~[3]のいずれかに記載の画像表示システム。
[5] 前記複数のパッチの各面積が、0.25cm2以上4cm2以下である、[1]~[4]のいずれかに記載の画像表示システム。
[6] 前記カラーチャートが、前記複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有する、[1]~[5]のいずれかに記載の画像表示システム。
[7] 前記カラーチャートが、主面の右下部に空白部を有する、[1]~[6]のいずれかに記載の画像表示システム。
[8] 前記撮影手段が、カメラ機能付き電子機器である、[1]~[7]のいずれかに記載の画像表示システム。
[9] 前記表示手段が、パーソナルコンピュータである、[1]~[8]のいずれかに記載の画像表示システム。
[10] 前記表示手段が、前記表示部に表示される前記画像における前記カラーチャート内の少なくとも一つのパッチの色が、前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、前記表示部の表示色、及び前記画像データの色情報を補正する色補正部を更に有する、[1]~[9]のいずれかに記載の画像表示システム。
[11] 前記色補正部が、
前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記表示部の対応する表示色が近づく乃至は一致するように、前記表示部の表示色を補正する第1補正部と、
前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記画像データの前記カラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、前記画像データの色情報を補正する第2補正部と、
を有する、[10]に記載の画像表示システム。
[12] 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャート及び撮影対象者が同時に撮影され、画像データが取得される撮影工程と、
前記画像データが受け取られ、前記画像データが画像として表示部に表示される表示工程と、
を有することを特徴とする画像表示方法。
第1パッチ:L*a*b*値においてL*=72、a*=8、及びb*=22で表される第1色、又は第1色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第2パッチ:L*a*b*値においてL*=78、a*=30、及びb*=15で表される第2色、又は第2色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第3パッチ:L*a*b*値においてL*=58、a*=27、及びb*=7で表される第3色、又は第3色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第4パッチ:L*a*b*値においてL*=60、a*=20、及びb*=5で表される第4色、又は第4色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第5パッチ:L*a*b*値においてL*=48、a*=25、及びb*=2で表される第5色、又は第5色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第6パッチ:L*a*b*値においてL*=52、a*=50、及びb*=13で表される第6色、又は第6色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第7パッチ:L*a*b*値においてL*=33、a*=40、及びb*=30で表される第7色、又は第7色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
【発明の効果】
【0015】
本発明によれば、患者の肌色、舌色などの色情報を用いた遠隔診療に有用な、画像表示システム、及び画像表示方法を提供することができる。
【図面の簡単な説明】
【0016】
【
図4】画像表示方法の一例のフローチャートである。
【
図5】撮影手段でカラーチャート及び患者を同時に撮影する一例の模式図である。
【
図6】表示手段の表示部に撮影して得られた画像を表示した一例の模式図である。
【
図7】医師が表示手段の表示部に撮影して得られた画像を表示して遠隔診療を行う一例の模式図である。
【
図8】画像表示方法の他の一例のフローチャートである。
【発明を実施するための形態】
【0017】
以下、本発明の画像表示システム及び画像表示方法について詳細に説明するが、以下に記載する構成要件の説明は、本発明の一実施態様としての一例であり、これらの内容に特定されるものではない。
【0018】
(画像表示システム、画像表示方法)
本発明の画像表示システムは、カラーチャートと、撮影手段と、表示手段とを少なくとも有し、更に必要に応じて、その他の手段を有する。
本発明の画像表示方法は、撮影工程と、表示工程とを少なくとも有し、更に必要に応じて、その他の工程を有する。
図1に画像表示システムの一例の構成図を示す。
図1の画像表示システムは、カラーチャート1と、撮影手段2と、表示手段3とを有する。
【0019】
<カラーチャート>
カラーチャートは、複数のパッチを有する。
複数のパッチは、以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する。
第1パッチ:L*a*b*値においてL*=72、a*=8、及びb*=22で表される第1色、又は第1色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第2パッチ:L*a*b*値においてL*=78、a*=30、及びb*=15で表される第2色、又は第2色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第3パッチ:L*a*b*値においてL*=58、a*=27、及びb*=7で表される第3色、又は第3色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第4パッチ:L*a*b*値においてL*=60、a*=20、及びb*=5で表される第4色、又は第4色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第5パッチ:L*a*b*値においてL*=48、a*=25、及びb*=2で表される第5色、又は第5色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第6パッチ:L*a*b*値においてL*=52、a*=50、及びb*=13で表される第6色、又は第6色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
第7パッチ:L*a*b*値においてL*=33、a*=40、及びb*=30で表される第7色、又は第7色に対してL*a*b*色空間において色差ΔE*が5以下の色、を有する領域
【0020】
第1パッチが有する色は、湿(余分な水)が蓄積した舌苔の色に対応する。
第2パッチが有する色は、炎症肌色に対応する。
第3パッチが有する色は、淤血の(微小循環が悪い)舌の色に対応する。
第4パッチが有する色は、健康な舌苔のある部分の色に対応する。
第5パッチが有する色は、舌深静脈の怒張=淤血の色に対応する。
第6パッチが有する色は、健康な舌の色に対応する。
第7パッチが有する色は、熱がある舌の色に対応する。
第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有するカラーチャートを用いることで、患者の肌色、舌色などの色情報を用いた診断を行いやすくできる。
【0021】
カラーチャートは、第1パッチから第7パッチからなる群から選択される少なくとも3つを有し、少なくとも5つを有することが好ましく、7つを有することがより好ましい。
これら第1パッチから第7パッチの組み合わせとして、7つのパッチから選択される3つ以上であれば特に制限されるものではないが、紫赤、薄赤紫、濃い黄赤のように色調が異なるバッチを3つ以上選択することが好ましい。
【0022】
カラーチャートは、第1パッチから第7パッチ以外のパッチを有していてもよい。そのようなパッチとしては、無彩色のパッチ、有彩色のパッチなどが挙げられる。
【0023】
複数のパッチは、例えば、明度が異なる複数の無彩色のパッチを有する。無彩色のパッチの種類は、例えば、5~7種類が挙げられる。無彩色のパッチの種類が3種類以下であると、例えば、カメラによりカラーチャートが撮影された画像の色補正を、無彩色のパッチを用いて行う際、カメラの非線形性に十分に対応できず、色補正の精度が低下する場合がある。その点で、無彩色のパッチの種類は、5種類以上が好ましい。
【0024】
複数のパッチは、例えば、第1色から第7色とは異なる複数の有彩色のパッチを有する。これらの有彩色のパッチの種類は、例えば、15~20種類が挙げられる。
【0025】
カラーチャートにおける各パッチの大きさとしては、特に限定されないが、色の認識を妨げない点で小さすぎないことが好ましい。その点で、0.25cm2以上が好ましい。また、カラーチャートが大きくなりすぎない点で、4cm2以下が好ましい。
各パッチの形状としては、例えば、正方形などが挙げられる。
【0026】
カラーチャートは、複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有することが好ましい。カラーチャートが自動認識用マーカを有することにより、後述する色補正を行う際の、画像データにおけるカラーチャートの各パッチを認識する作業を、自動で行うことができる。
自動認識用マーカの形状、大きさとしては、特に限定されないが、例えば、パッチと同程度の形状、大きさであることが好ましい。例えば、自動認識用マーカの大きさは、0.25cm2以上4cm2以下が好ましい。また、自動認識用マーカは、通常、各パッチが有さない模様を有している。
カラーチャートは、模様が異なる自動認識用マーカを2つ以上有することが好ましい。2つ以上の自動認識用マーカを用いる場合には、2つ以上の自動認識用マーカの相対的な位置関係を考慮して各パッチの自動認識が行われることから、各パッチの自動認識性が向上する。
【0027】
自動認識用マーカは、自動認識を可能とするマーカであれば特に制限されるものではないが、自動認識用マーカに対し二次元バーコード等によりカラーチャートのバージョン情報、使用方法へのリンク、使用期限等の情報を付加してもよい。なお、カラーチャートは、保管状態により退色する場合がある。その点で、カラーチャートには使用期限を設けることが好ましい場合がある。
【0028】
ここで、自動認識用マーカを用いてカラーチャートの各パッチを自動認識する方法の一例を説明する。
まず、カラーチャートを撮影して得られた画像の中から、自動認識用マーカを検知する。自動認識用マーカの検知は、例えば、汎用の画像認識処理ソフトウェアを備える画像認識手段を用いて行うことができる。具体的には、画像認識手段を用いて、あらかじめ画像認識手段に記憶されている自動認識用マーカの画像と、カラーチャートを撮影して得られた画像とのパターンマッチングを行うことにより、カラーチャートを撮影して得られた画像の中から、自動認識用マーカを検知する。
他方、カラーチャートにおける自動認識用マーカと各パッチとの位置関係を、あらかじめ画像認識手段に記憶させておく。例えば、模様が異なる2つの自動認識用マーカを用いる場合には、2つの自動認識用マーカそれぞれと各パッチとの位置関係を、あらかじめ画像認識手段の記憶部に記憶させておく。ここで、画像認識手段としては、CPUとメモリとの組み合わせが挙げられる。
そして、検知した自動認識用マーカを用いて、撮影して得られた画像のカラーチャートに、把握しておいた位置関係を当てはめることで、撮影して得られた画像のカラーチャート中の各パッチを自動認識することができる。
【0029】
カラーチャートの大きさとしては、特に限定されないが、片手で持つことができ、カラーチャートを顔の近くで持っても邪魔にならない点から、カラーチャートの面積は、40cm2以上150cm2以下が好ましい。
【0030】
カラーチャートは、通常、シート状である。そして、カラーチャートの主面の形状は、例えば、矩形である。
【0031】
カラーチャートの材質としては、各パッチが印刷可能であれば、特に限定されず、例えば、プラスチック樹脂製(例えば合成紙)であってもよいし、紙製であってもよい。
【0032】
カラーチャートは、主面の右下部(正面視した際の左下部)に空白部を有することが好ましい。人間は右利きが多い。そのため、カラーチャートの当該空白部を右手で持つと、顔の右横にカラーチャートを自然に配置しやすくなる。
【0033】
ここで、カラーチャートの一例を、図を用いて説明する。
図2は、カラーチャートの一例の模式図である。
なお、
図2のカラーチャートは、グレースケールであるが、実際のカラーチャートは、有彩色のパッチを含んでいる。
図2のカラーチャートは、縦約90mm、横約55mmの長方形であり、その主面の上方の右上部(正面視した際の左上部)、及び下方の左下部(正面視した際の右下部)に、10mm四方の自動認識用マーカ11a、11bが配されている。2つの自動認識用マーカ11a、11bは、黒地に白模様を有している。自動認識用マーカ11aの白模様と自動認識用マーカ11bと白模様とは異なる。上方及び下方に挟まれた中央部には、10mm四方の各パッチが6(A~F)行5(a~e)列で間隔を空けずに並んでいる。主面の最右列(第1列:正面視した際の最左列)には、無彩色のパッチが、明度順に並んでいる。
図2に示すカラーチャートの各パッチのL
*a
*b
*値を表1-1に示す。また、
図2に示すカラーチャートの各パッチの色の概略を、表1-2に示す。また、第1パッチから第7パッチについて肌色、舌色との関係を表1-3に示す。
【0034】
【0035】
【0036】
【0037】
<撮影手段、撮影工程>
撮影手段は、カラーチャート及び撮影対象者を同時に撮影し、画像データを取得するための手段である。
撮影工程では、カラーチャート及び撮影対象者が同時に撮影され、画像データが取得される。
撮影工程は、例えば、撮影手段により行われる。
撮影対象者は、例えば、遠隔診療を受診する患者である。
【0038】
撮影手段としては、例えば、カメラ、カメラ機能付き電子機器などが挙げられる。
カメラ機能付き電子機器としては、例えば、携帯電話、スマートフォン、タブレット端末、パーソナルコンピュータ、監視カメラ、医療診断装置に付帯するカメラシステム(例えば、f-MRIに付帯するカメラシステム)などが挙げられる。なお、撮影手段としてのパーソナルコンピュータにおけるカメラは、内臓カメラであってもよいし、外付けのカメラであってもよい。
撮影手段が有する撮像素子としては、例えば、CCD(電荷結合素子)、CMOS(相補性金属酸化膜半導体)などが挙げられる。
【0039】
撮影手段は、例えば、画像データを送信する送信部を有していることが好ましい。
送信部による画像データの送信は、無線通信で行われてもよいし、有線通信で行われてもよい。
無線送信としては、例えば、Wi-Fi、LTE、5Gなど、使用可能な任意の方式の無線通信を利用することができる。
【0040】
撮影により得られる画像は、静止画像であってもよいし、動画であってもよい。
【0041】
<表示手段、表示工程>
表示手段は、画像データを受け取り、画像データを画像として表示部に表示するための手段であり、表示部を少なくとも有し、更に必要に応じて色補正部などのその他の部を有する。
表示工程では、画像データが受け取られ、画像データが画像として表示部に表示される。
表示工程では、更に色補正処理が行われてもよい。
表示工程は、例えば、表示手段により行われる。
図3に表示手段の一例の機能構成図を示す。
図3の表示手段3は、表示部3aと、色補正部3bとを有する。
【0042】
表示手段は、例えば、画像データを受信する受信部を有している。
画像データは、例えば、撮影手段から送信され、表示手段で受信される。画像データの送受信は、通常、インターネット回線を通じて行われる。
【0043】
画像データのファイル形式としては、特に限定されず、使用可能な任意の方式を利用することができ、例えば、静止画像であれば、JPG(JPEG)、GIF、PNG、BMPなどが挙げられ、動画であれば、AVI、QuickTime、Mpeg-1、Mpeg-2、WMV、FLV、MPEG-4などが挙げられる。
【0044】
画像データの送信及び受信は、例えば、E-メール、ソーシャルネットワーキングサービスなどの通信サービスを用いて行うことができる。
また、画像データが動画である場合、送受信は、例えば、Skype、Zoom、Microsoft Teamsなどのweb会議システムを用い、画像データに加えて、音声データを送受信してもよい。
【0045】
撮影手段から表示手段へ画像データを伝える方法は、クラウドを利用した、撮影手段からクラウドサーバへの画像データのアップロード、及びクラウドサーバから表示手段への画像データのダウンロードであってもよい。すなわち、表示手段は、クラウドサーバから画像データを受け取ってもよい。
また、撮影手段から表示手段へ画像データを伝える方法は、外部メモリを介した物理的な移動によって行われてもよい。例えば、撮影手段で取得された画像データがUSBメモリなどの外部メモリに保存され、外部メモリが郵送などにより物理的に移動された後、外部メモリを表示手段に接続することで、表示手段は画像データを受け取ることができる。
更に、表示手段に、受け取った複数回の画像データが保存されることで、それら画像データを用いて、撮影対象者の経時変化の確認を行うこともできる。
【0046】
表示部としては、画像データを表示できる限り、特に限定されないが、例えば、カラーディスプレイなどが挙げられる。
【0047】
表示手段としては、特に限定されないが、例えば、携帯電話、スマートフォン、タブレット端末、パーソナルコンピュータ、電子カルテシステムの出力端末などが挙げられる。
【0048】
<<色補正部、色補正処理>>
色補正部は、表示部に表示される画像におけるカラーチャート内の少なくとも一つのパッチの色が、表示部が置かれた場所の光源下において測定されるカラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、表示部の表示色、及び画像データの色情報を補正するための部である。
色補正処理では、表示部に表示される画像におけるカラーチャート内の少なくとも一つのパッチの色が、表示部が置かれた場所の光源下において測定されるカラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、表示部の表示色、及び画像データの色情報が補正される。
色補正処理は、例えば、色補正部により行われる。
表示手段は、色補正部を有していてもよいし、色補正部を有していなくてもよいが、色補正部を有している方が好ましい。
表示工程は、色補正処理を有していてもよいし、色補正処理を有していなくてもよいが、色補正処理を有している方が好ましい。
色補正部は、例えば、色補正を行うプログラムを実行するCPUである。
ここで、色補正によってどの程度色を近づけるかは、目的に応じて適宜選択すればよい。
このような色補正は、カラーチャート内のパッチの一つのみを用いて行ってもよいし、複数を用いて行ってもよい。
【0049】
色補正部は、例えば、第1補正部と、第2補正部とを有する。
第1補正部は、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色を補正するための部である。
第2補正部は、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報を補正するための部である。
【0050】
色補正処理は、例えば、第1補正処理と、第2補正処理とを有する。
第1補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色が補正される。
第2補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報が補正される。
第1補正処理は、例えば、第1補正部により行われる。
第2補正処理は、例えば、第2補正部により行われる。
【0051】
カラーチャート及び撮影対象者を同時に撮影する場合、撮影環境の違い、撮影手段の種類の違いなどにより、得られる画像データにおける色情報(例えば、RGB値)は異なる。
撮影環境の違いとしては、例えば、室内での撮影の場合は、照明の光源の種類、照明の明るさなどが挙げられる。また、光源と、撮影対象(カラーチャート及び撮影対象者)との位置関係の違いも、得られる画像データにおける色情報に影響を与える。
撮影手段の種類の違いとしては、例えば、撮像素子の種類の違い、画像処理エンジンの違いなどが挙げられる。画像処理エンジンは、例えば、撮像素子から出力される生画像に処理を加え、人間が観察するのに適した画像に変換するシステムLSIである。画像処理エンジンであるシステムLSIは、例えば、組み込みCPU、組み込みDSP、顔検出などを行う専用演算回路、プログラムメモリ、データメモリ、画像メモリなどで構成される。
例えば、カラーチャートを撮影する場合、撮影手段としてのスマートフォンの種類の違い、室内照明の種類の違いなどにより、得られる画像データ毎にカラーチャートのパッチの色情報が異なる場合がある。そのため、それを同じ表示部で表示した場合でも、画像におけるカラーチャートのパッチの色は異なる場合がある。この違いは、遠隔診療に影響を与える場合がある。
また、カラーチャートを観察した場合に人が認識するカラーチャートのパッチの色は、観察する環境(例えば、光源)に依存する。これは、カラーチャートを照らす光の分光分布が、光源に依存するためである。そのため、光源が異なれば、カラーチャートを観察した際に認識又は測定されるカラーチャートのパッチの色は異なる。そのため、表示部にカラーチャートの各パッチの色のRGB値を正確に表示しても、表示部に表示されるカラーチャートの各パッチの色と、表示部が置かれた場所の光源下において人に認識されるカラーチャートの各パッチの色とは異なることがある。
そこで、前述の色補正部、及び色補正処理が有用になる。
【0052】
ここで、医師がカラーチャートを用いて患者の遠隔診療を行う場合の色補正の具体例について説明する。
色補正の目的は、医師が使用する表示部(例えば、PCのディスプレイ)に表示される画像におけるカラーチャート(患者とともに撮影されたカラーチャート)の色を、正解値である医師の手元にあるカラーチャートの色(ある光源下において医師が認識するカラーチャートの色)に合わせることである。
色補正は、医師が使用するディスプレイの表示色の色補正(第1補正処理)、及び患者が撮影して得られた画像の色補正(第2補正処理)の順で行う。
【0053】
まず、第1補正処理の一例について説明する。
第1補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色が補正される。
具体的には、まず、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色を測色する。次に、測色された色に近づく乃至は一致するように、ディスプレイの表示色を補正する。
人は、色を3刺激値XYZにより認識する。そのため、正解値のXYZ値を、医師の照明環境と同様の照明環境下で、測色計により測定して求める。測色計としては、例えば、
コニカミノルタ 色彩輝度計CS-100Aが用いられる。
ディスプレイの補正は、以下の非特許文献を参考にして、具体的には以下のように実施する。
Matsushita, F., Kiyomitsu, K., Ogawa, K., & Tsumura, N. (2019). Evaluation of Kampo disease states using facial images. Artificial Life and Robotics, 24(1), pp.44-51
【0054】
輝度と入力されるRGBレベルとの関係は、以下の式(1)で表される。
【数1】
ここで、L’
R,L’
G,及びL’
Bは、それぞれ、赤、緑、及び青の輝度であり、a
i,b
i,及びc
i(i=0、1、2)は係数である。
【0055】
ディスプレイの表示色の3刺激値X’,Y’,及びZ’は、次の式(2)に示すように、R,G,Bの寄与項に分解できる。
【数2】
ここで、X’
i,Y’
i,及びZ’
i(i=R,G,B)は、それぞれ、赤、緑、及び青の発光に対する、3刺激値を示す。各発光に対応する3刺激値は、ディスプレイを測定した時の輝度L,色座標x,yから計算できる。各発光についての、X-Y,Y-Zの関係は、次の式(3)のような線形方程式で表すことができる.
【数3】
ここで、a
i,b
i,c
i,d
i(i=R,G,B)は係数である。
式(2)、及び式(3)から、次の式(4)が得られる。
【数4】
式(4)から、ある三刺激値X’Y’Z’をディスプレイに表示したいときの、RGBそれぞれの輝度は、式(5)によって求めることができる。
【数5】
式(5)のX’、Y’、Z’に、医師の照明環境と同様の照明環境下で、測色計により測定して求めた正解値であるカラーチャート内のパッチのXYZ値を入れる。そして、式(5)によって、求めた輝度を、式(1)に当てはめることで、RGB値(基準RGB値)が算出できる。そして、カラーチャートのパッチの色(RGB値)に対応するディスプレイの表示色(RGB値)を、算出されたRGB値(基準RGB値)に修正する。これにより、医師が使用するディスプレイの表示色の補正ができる。すなわち、上記手順により、ディスプレイの表示色を正解値に補正できる。
【0056】
次に、第2補正処理の一例について説明する。
第2補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報が補正される。
具体的には、カラーチャート及び患者を撮影して得られた画像の画像データにおけるカラーチャートの少なくとも一つのパッチのRGB値を、第1処理補正で算出した、対応する基準RGB値に補正する。
更に具体的には、撮影して得られた画像から、自動認識用マーカを使ってカラーチャートのそれぞれのパッチの部分を抽出し、それぞれのパッチについて、パッチ内の各画素のRGB値の平均値を求める。平均化された数字(RGB値)と、対応する基準RGB値との違いから、重回帰によってモデルを作成する。そのモデルに基づき、画像データの全画素を変換して、撮影された人の顔、舌などの色の補正を行う。
補正は、患者が撮影して得られた画像の画像データにおけるカラーチャートのパッチのRGB値と、対応する基準RGB値との相関を調べることで行われる。
補正では、まず、撮影して得られた画像のカラーチャートのパッチにおける無彩色を利用して、画像データのガンマ補正を行う。次に、カラーチャートのパッチにおける全ての有彩色を利用して、画像データのRGB値の補正を行う。
ガンマ補正の詳細を説明する。まず、第1補正処理においてカラーチャートのパッチにおける無彩色部分を測色計で測色したときの輝度をもとに、撮影して得られた画像における当該無彩色部分のRGB値に対して、ガンマ補正を行う。同様に、これを基準RGB値のグレースケール部分についても行う。
次に、ガンマ補正をRGB値それぞれに対して行う。Rの場合には式(6)のような形となる。
【数6】
R
cは、撮影して得られた画像のR値であり、Yは、カラーチャートのパッチにおける無彩色を測色計で測色した際の輝度である。カラーチャートの無彩色において、黒が0、白が1となるように白色の輝度値で正規化を行うことで、無彩色の明るさを0~1の範囲になるように変換を行っている。このモデルによって任意のRGB値についてガンマの補正を行う。具体的には、式(6)の逆関数をそれぞれのRGB値に対してかけることで、ガンマを補正したRGB値を算出する。
【0057】
次に、ガンマの補正済みの各パッチの色に対して重回帰でモデルを構築する。Rの場合は式(7)となる。
【数7】
R’
cは、補正した画像のR値であり、R
r,G
r,及びB
rは、補正前のRGB値である。各パラメータ(a、b、c、d)は、それぞれのパッチを用いた重回帰により求める。
【0058】
画像表示システムを用いた画像表示方法の一例を、図を用いて説明する。
図4は、画像表示方法の一例のフローチャートである。
まず、
図5に示すように、撮影手段2であるスマートフォンを用いて、カラーチャート1と撮影対象者21とを同時に撮影する(S1)。
次に、撮影により得られた画像データを、撮影手段2から表示手段3に送信する(S2)。
次に、撮影手段2から送信された画像データを表示手段3で受信する(S3)。送受信は、例えば、E-メールに画像データを添付して行われる。
最後に、
図6に示すように、表示手段3であるPCの表示部3a(ディスプレイ)に画像データを画像として表示する(S4)。
以上により、画像表示方法の一例が行われる。
更に、画像表示方法を用いた遠隔診療を行う場合には、
図7に示すように、診断者である医師4が、撮影対象者21である患者が持っているカラーチャート1と同じカラーチャート1を持ちながら、表示部3aに表示されたカラーチャート1の色と、持っているカラーチャート1の色との違いを考慮しながら、表示部3aに表示された患者の顔の肌色や舌色を観察して、診断を行う。
【0059】
画像表示システムを用いた画像表示方法の他の一例を、図を用いて説明する。
図8は、画像表示方法の他の一例のフローチャートである。
まず、
図5に示すように、撮影手段2であるスマートフォンを用いて、カラーチャート1と撮影対象者21とを同時に撮影する(S11)。
次に、撮影により得られた画像データを、撮影手段2から表示手段3に送信する(S12)。
次に、撮影手段2から送信された画像データを表示手段3で受信する(S13)。送受信は、例えば、E-メールに画像データを添付して行われる。
他方、表示部3aの表示色の補正を行う(S14)。具体的には、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色を補正する。この色補正は、色補正部3bが行う。
次に、画像データの補正を行う(S15)。具体的には、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報を補正する(S15)。この色補正は、色補正部3bが行う。色補正を行う際、画像中のカラーチャートの各パッチは、自動認識用マーカを用いて自動認識される。
最後に、
図6に示すように、表示手段3であるPCの表示部3a(ディスプレイ)に補正された画像データを画像として表示する(S16)。
以上により、画像表示方法の一例が行われる。なお、工程S14は、工程S13の後に行う必要はなく、工程S14と他の工程とを行う順序は任意でよい。
更に、画像表示方法を用いた遠隔診療を行う場合には、
図7に示すように、診断者である医師4が、撮影対象者21である患者が持っているカラーチャート1と同じカラーチャート1を持ちながら、表示部3aに表示された患者の顔や舌色を観察して、診断を行う。
この例では、色補正が行われているため、画像内の患者の顔の肌色は、色補正が行われない場合と比べて、対面診療を行ったと仮定した際の患者の顔の肌色に近い状態となっている。そのため、医師は、患者の肌色、舌色を望診する際、対面診療を行うのと近い状態で遠隔診療を行うことができる。
【実施例0060】
以下に実施例を挙げて本発明を更に具体的に説明するが、本発明の範囲はこれらの実施例に限定されるものではない。
【0061】
(実施例1)
図4に示すフローチャートに従って、画像表示と、遠隔診療の模擬診断とを行った。
カラーチャートとして、
図2に示すカラーチャートを用いた。
遠隔診療の模擬診断は、金沢大学附属病院漢方医学科の医師8名が行った。
まず、患者が、スマートフォンのカメラ機能を用いて、自分の顔とカラーチャートの両方が写るように撮影した。撮影して得られた写真画像を、E-メールに添付して医師に送信した。E-メールを受信した医師は、写真画像をPCのディスプレイに表示した。医師は、手元にある実物のカラーチャートと、写真画像に写ったカラーチャートとを比較して、それらの違いを考慮しつつ、患者の顔の肌色を医師の感覚で判断した。なお、色の比較に熟知していない医師のために、以下を記載した手順書をあらかじめ医師に渡していた。なお、以下の手順書において「左側」とは正面視した際の左側を意味する。
〔手順書〕
(1)グレースケール:カラーチャート左側の、黒から白への濃淡部分を観察し、明るさの段階の違いを観察する。
(2)赤系統のパッチを見て、赤の強弱を観察する。これにより、血色の見えの違いを考慮する。
(3)健康な舌色のパッチを見て、色の濃淡を確認する。
(4)青色のパッチを見て、色の強弱を確認する。これにより、赤・青の強弱の違いが判る事になる。
(5)舌肌色パッチにより、患者の状態をより正確に把握する。
(6)皮膚炎を起こしたパッチも用意されているので、炎症を把握するために利用する。
【0062】
判定者である8名の医師の評価コメントを表2に示した。色彩の知識がある医師は良い評価を示した。色彩の知見が少ない医師は、使用法の説明により、利用価値を見出した。否定的な意見は無く、カラーチャートを使用しない場合よりは、良い診療ができるとの評価であった。
【0063】
【0064】
(実施例2)
図8に示すフローチャートに従って、画像表示を行った。
カラーチャートとして、
図2に示すカラーチャートを用いた。
画像の色補正は、式(1)~(7)を用いて、前述の方法で行った。
色補正を行うためのプログラムは、Pythonで作成した。
結果として、表示部に表示された画像の患者の顔の肌色は、対面診療を行ったと仮定した際の顔の肌色と同様であった。
1名の漢方医が、表示部に表示された画像を評価した。評価結果では、診療において信頼できる範囲の色補正がなされているとの意見が得られた。