IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

<>
  • 特許-撮像装置、情報処理装置および制御方法 図1
  • 特許-撮像装置、情報処理装置および制御方法 図2
  • 特許-撮像装置、情報処理装置および制御方法 図3
  • 特許-撮像装置、情報処理装置および制御方法 図4
  • 特許-撮像装置、情報処理装置および制御方法 図5
  • 特許-撮像装置、情報処理装置および制御方法 図6
  • 特許-撮像装置、情報処理装置および制御方法 図7
  • 特許-撮像装置、情報処理装置および制御方法 図8
  • 特許-撮像装置、情報処理装置および制御方法 図9
  • 特許-撮像装置、情報処理装置および制御方法 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-26
(45)【発行日】2024-08-05
(54)【発明の名称】撮像装置、情報処理装置および制御方法
(51)【国際特許分類】
   A61B 5/107 20060101AFI20240729BHJP
   G16H 40/60 20180101ALI20240729BHJP
【FI】
A61B5/107 300
G16H40/60
【請求項の数】 13
(21)【出願番号】P 2020023400
(22)【出願日】2020-02-14
(65)【公開番号】P2020151461
(43)【公開日】2020-09-24
【審査請求日】2023-02-09
(31)【優先権主張番号】P 2019045041
(32)【優先日】2019-03-12
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100090273
【弁理士】
【氏名又は名称】國分 孝悦
(72)【発明者】
【氏名】日高 與佐人
(72)【発明者】
【氏名】川合 良和
【審査官】佐々木 創太郎
(56)【参考文献】
【文献】特開2015-172891(JP,A)
【文献】特開2017-216005(JP,A)
【文献】特開2017-205615(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/06- 5/22
A61B 6/00- 6/58
G06Q 50/22
G16H 10/00-80/00
H04N 23/60
H04N 23/63
G03B 15/00
G03B 17/18
(57)【特許請求の範囲】
【請求項1】
撮像手段と、
被写体の患部を過去に撮影したときの前記被写体の姿勢情報を取得し、前記撮像手段により前記被写体の患部を撮影する場合に、前記被写体の姿勢情報をユーザに通知するように制御する制御手段と、を有する撮像装置であって、
前記制御手段は、
前記撮像手段により撮影されたライブビューの画像データに前記被写体の姿勢情報を重畳して表示装置に表示させるか、または前記撮像手段により撮影されたライブビューの画像データが表示された画面からユーザによる操作に応じて異なる画面に遷移することで、前記被写体の姿勢情報を表示装置に表示させ、
前記撮像手段により撮影されたライブビューの画像データは、該撮像装置から外部装置に送信され前記外部装置で画像処理された後に前記外部装置から受信した画像データであることを特徴とする撮像装置。
【請求項2】
撮像手段と、
被写体の患部を過去に撮影したときの前記被写体の姿勢情報を取得し、前記撮像手段により前記被写体の患部を撮影する場合に、前記被写体の姿勢情報をユーザに通知するように制御する制御手段と、
前記撮像手段により前記被写体の患部を撮影する場合に、前記被写体の姿勢情報を外部装置に送信する通信手段と、を有する撮像装置であって、
前記制御手段は、
前記通信手段により送信され、前記外部装置で記憶された前記姿勢情報を、前記通信手段を介して前記外部装置から受信して表示装置に表示させることを特徴とする像装置。
【請求項3】
前記制御手段は、
前記姿勢情報として、前記被写体の姿勢を模式的に示した表示アイテム、前記被写体の姿勢を撮影した画像データ、前記被写体の姿勢を撮影したときの該撮像装置の傾き情報、および、前記被写体の姿勢を文字で表した文字情報のうち少なくとも何れか一つを前記表示装置に表示させることを特徴とする請求項1または2に記載の撮像装置。
【請求項4】
前記患部は、褥瘡であり、
前記姿勢情報は、前記被写体が少なくとも、うつ伏せ、横臥、および、座位のうち何れかの一つの姿勢を識別できる情報を含むことを特徴とする請求項1ないし3の何れか1項に記載の撮像装置。
【請求項5】
前記通信手段は、
前記撮像手段により前記被写体の姿勢を撮影した画像データを前記外部装置に送信することを特徴とする請求項に記載の撮像装置。
【請求項6】
前記通信手段は、
複数の姿勢情報からユーザにより選択された姿勢情報を前記外部装置に送信することを特徴とする請求項に記載の撮像装置。
【請求項7】
被写体の識別情報を撮像装置から受信し、前記識別情報に関連付けられた、前記被写体の患部を過去に撮影したときの前記被写体の姿勢情報を、前記撮像装置に送信する通信手段を有する情報処理装置であって、
前記被写体の識別情報と前記被写体の姿勢情報が関連付けられて記憶装置に記憶されており、
前記通信手段は、前記被写体の識別情報と前記被写体の姿勢情報とを前記撮像装置から受信し、
該情報処理装置は、
前記通信手段により受信した前記識別情報と同一の識別情報に関連付けられて前記記憶装置に記憶された姿勢情報が、前記通信手段により受信した姿勢情報と一致していない場合、前記記憶装置に記憶された姿勢情報を前記通信手段により受信した姿勢情報に更新する制御手段を有することを特徴とする情報処理装置。
【請求項8】
被写体の識別情報を撮像装置から受信し、前記識別情報に関連付けられた、前記被写体の患部を過去に撮影したときの前記被写体の姿勢情報を、前記撮像装置に送信する通信手段を有する情報処理装置であって、
前記通信手段は、前記被写体の識別情報と前記被写体の姿勢情報とを前記撮像装置から受信し、
該情報処理装置は、
前記通信手段により受信した前記識別情報に対応する被写体情報が記憶装置に記憶されていない場合に、前記通信手段により受信した、前記識別情報と前記姿勢情報とを関連付けて前記記憶装置に記憶させる制御手段を有することを特徴とする報処理装置。
【請求項9】
撮像手段を有する撮像装置の制御方法であって、
被写体の患部を過去に撮影したときの前記被写体の姿勢情報を取得し、前記撮像手段により前記被写体の患部を撮影する場合に、前記被写体の姿勢情報をユーザに通知するように制御する制御ステップを有し、
前記制御ステップでは、
前記撮像手段により撮影されたライブビューの画像データに前記被写体の姿勢情報を重畳して表示装置に表示させるか、または前記撮像手段により撮影されたライブビューの画像データが表示された画面からユーザによる操作に応じて異なる画面に遷移することで、前記被写体の姿勢情報を表示装置に表示させ、
前記撮像手段により撮影されたライブビューの画像データは、該撮像装置から外部装置に送信され前記外部装置で画像処理された後に前記外部装置から受信した画像データであることを特徴とする撮像装置の制御方法。
【請求項10】
撮像手段を有する撮像装置の制御方法であって、
被写体の患部を過去に撮影したときの前記被写体の姿勢情報を取得し、前記撮像手段により前記被写体の患部を撮影する場合に、前記被写体の姿勢情報をユーザに通知するように制御する制御ステップと、
前記撮像手段により前記被写体の患部を撮影する場合に、前記被写体の姿勢情報を外部装置に送信する通信ステップと、を有し、
前記制御ステップでは、
前記通信ステップにより送信され、前記外部装置で記憶された前記姿勢情報を、通信手段を介して前記外部装置から受信して表示装置に表示させることを特徴とする撮像装置の制御方法。
【請求項11】
被写体の識別情報を撮像装置から受信し、前記識別情報に関連付けられた、前記被写体の患部を過去に撮影したときの前記被写体の姿勢情報を、前記撮像装置に送信する通信手段を有する情報処理装置の制御方法であって、
前記被写体の識別情報と前記被写体の姿勢情報が関連付けられて記憶装置に記憶されており、
前記通信手段は、前記被写体の識別情報と前記被写体の姿勢情報とを前記撮像装置から受信し、
該情報処理装置は、
前記通信手段により受信した前記識別情報と同一の識別情報に関連付けられて前記記憶装置に記憶された姿勢情報が、前記通信手段により受信した姿勢情報と一致していない場合、前記記憶装置に記憶された姿勢情報を前記通信手段により受信した姿勢情報に更新する制御ステップを有することを特徴とする情報処理装置の制御方法。
【請求項12】
被写体の識別情報を撮像装置から受信し、前記識別情報に関連付けられた、前記被写体の患部を過去に撮影したときの前記被写体の姿勢情報を、前記撮像装置に送信する通信手段を有する情報処理装置の制御方法であって、
前記通信手段は、前記被写体の識別情報と前記被写体の姿勢情報とを前記撮像装置から受信し、
該情報処理装置は、
前記通信手段により受信した前記識別情報に対応する被写体情報が記憶装置に記憶されていない場合に、前記通信手段により受信した、前記識別情報と前記姿勢情報とを関連付けて前記記憶装置に記憶させる制御ステップを有することを特徴とする情報処理装置の制御方法。
【請求項13】
コンピュータを、請求項1ないしの何れか1項に記載の装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置、情報処理装置、制御方法およびプログラムに関するものである。
【背景技術】
【0002】
人や動物が横になっている状態では体重により接地面と体の接触部位が圧迫されることで褥瘡、いわゆる床ずれが発症することがある。褥瘡を発症した患者は、体圧分散ケアやスキンケア等の褥瘡ケアを施し、定期的に褥瘡を評価および管理していく必要がある。
【0003】
非特許文献1には、褥瘡評価のツールとして、日本褥瘡学会学術教育委員会が開発した褥瘡状態判定スケール、DESIGN-R(登録商標)が提案されている。DESIGN-Rは、褥瘡をはじめとする傷の治癒過程を評価するためのツールである。このスケールの命名は、深さ(Depth)、滲出液(Exudate)、大きさ(Size)、炎症・感染(Inflammation/Infection)、肉芽組織(Granulation)、壊死組織(Necrotic tissue)の各観察項目の頭文字をとっている。
【0004】
DESIGN-Rは、日常の簡便な評価のための重症度分類用と、詳細に治癒過程の流れが示される経過評価用との2つがある。重症度分類用のDESIGN-Rは、6つの評価項目を軽度と重度の2つに区分して、軽度はアルファベットの小文字を用いて表し、重度は大文字を用いて表す。
初療時に重症度分類用を用いて評価することで、褥瘡の大まかな状態を把握することができる。どの項目が問題であるかがわかるため、治療方針を容易に決定できる。
【0005】
一方、経過評価用として、経過評価に加え患者間の重症度比較もできるDESIGN-Rも定められている。Rはrating(評価・評点)を表す。各項目に異なる重み付けをしており、深さ以外の6項目の合計点(0~66点)がその褥瘡の重症度を表す。治療開始後に治療経過を詳細かつ客観的に評価でき、個人の経過評価だけでなく、患者間の重症度比較もできる。
ここで、DESIGN-RのSize評価は、皮膚損傷範囲の長径と短径(長径と直交する最大径)を測定し(cm)、各々を掛け合わせた数値であるSizeを7段階に分類するものである。この7段階とは、s0:皮膚損傷なし、s3:4未満、s6:4以上16未満、s8:16以上36未満、s9:36以上64未満、s12:64以上100未満、S15:100以上、である。
【0006】
DESIGN-Rの採点は、非特許文献1に記載があるように、褥瘡の治癒経過を評価し、適切なケア選択を行うために1週間から2週間に1回採点することが推奨されており、褥瘡は定期的に病状を評価し管理していく必要がある。また、褥瘡の病状の変化を確かめるために、評価には正確性が求められる。
【先行技術文献】
【非特許文献】
【0007】
【文献】照林社 褥瘡ガイドブック 第2版 褥瘡予防・管理ガイドライン(第4版)準拠 編集 日本褥瘡学会 ISBN13 978-4796523608 23ページ
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、褥瘡を撮影する場合であっても患者の姿勢によって、褥瘡の形、面積、およびポケット形状が変わってしまうために、撮影の度に、褥瘡の見え方が変わってしまう可能性がある。そのため、褥瘡を撮影した画像を比較しても、経過を正確に比較することが困難な場合があった。なお、これは褥瘡に限られるものではなく、火傷や裂傷を撮影する場合であっても同様である。
本発明は、上述したような問題点に鑑みてなされたものであり、患部の比較を容易にするための画像の撮影ができるようにすることを目的とする。
【課題を解決するための手段】
【0009】
本発明の撮像装置は、撮像手段と、被写体の患部を過去に撮影したときの前記被写体の姿勢情報を取得し、前記撮像手段により前記被写体の患部を撮影する場合に、前記被写体の姿勢情報をユーザに通知するように制御する制御手段と、を有し、前記制御手段は、前記撮像手段により撮影されたライブビューの画像データに前記被写体の姿勢情報を重畳して表示装置に表示させるか、または前記撮像手段により撮影されたライブビューの画像データが表示された画面からユーザによる操作に応じて異なる画面に遷移することで、前記被写体の姿勢情報を表示装置に表示させ、前記撮像手段により撮影されたライブビューの画像データは、該撮像装置から外部装置に送信され前記外部装置で画像処理された後に前記外部装置から受信した画像データであることを特徴とする。
【発明の効果】
【0010】
本発明によれば、患部の比較を容易にするための画像の撮影ができるようになる。
【図面の簡単な説明】
【0011】
図1】情報処理システムの機能構成を示す図である。
図2】被写体を示す図である。
図3】撮像装置のハードウェア構成を示す図である。
図4】情報処理装置のハードウェア構成を示す図である。
図5】情報処理システムの処理を示すフローチャートである。
図6】患部領域の面積の計算方法を説明するための図である。
図7】患部の画像データに情報を重畳する方法を説明するための図である。
図8】患部の画像データに情報を重畳する方法を説明するための図である。
図9】被写体情報のデータ構成を示す図である。
図10】姿勢情報を含む画像データを示す図である。
【発明を実施するための形態】
【0012】
以下、本発明に係る実施形態について図面を参照して説明する。
<第1の実施形態>
図1は、情報処理システム1の機能構成の一例を示す図である。
情報処理システム1は、手持ち可能なポータブルデバイスである撮像装置200と、情報処理装置300とを有する。
【0013】
図2は、情報処理システム1により患部を評価される患者である被写体101の一例を示す図である。本実施形態では、被写体101の臀部に生じた患部102の病態の一例を、臀部に生じた褥瘡として説明する。
被写体101にはバーコードタグ103が付帯されている。バーコードタグ103には被写体を識別する識別情報としての患者IDが含まれる。したがって、情報処理システム1では、被写体101の識別情報と、患部102を撮影した画像データとを関連付けて管理することができる。なお、識別情報は、バーコードタグ103に限られず、QRコード(登録商標)等の2次元コードや数値であってもよく、診察カード等のIDカードに付帯されるデータやID番号であってもよい。
【0014】
情報処理システム1では、撮像装置200は被写体101の患部102と、識別情報であるバーコードタグ103を撮影し、情報処理装置300に送信する。情報処理装置300は、受信した識別情報に関連付けられた姿勢情報として、過去に同一の被写体101の患部102を撮影したときの被写体101の姿勢情報を撮像装置200に送信する。撮像装置200は受信した姿勢情報に基づく表示をすることで、ユーザは過去に同一の被写体101の患部102を撮影したときの被写体101の姿勢を把握することができる。なお、姿勢情報には、被写体が少なくとも、うつ伏せ、横臥(右下横臥または左下横臥)、および、座位のうち何れか一つの姿勢を識別できる情報を含んでいればよい。また、本実施形態では、患部102が褥瘡である場合を例に挙げて説明を行うが、褥瘡に限られず、火傷や裂傷であってもよい。
【0015】
図3は、撮像装置200のハードウェア構成の一例を示す図である。
撮像装置200は、一般的な一眼カメラ、コンパクトデジタルカメラ、あるいは、オートフォーカス機能付きのカメラを備えたスマートフォンやタブレット端末等を用いることができる。
撮像ユニット211は、レンズ群212、シャッタ213、イメージセンサ214を有する。レンズ群212に含まれる複数のレンズの位置を変更することで、フォーカス位置とズーム倍率を変更することができる。レンズ群212は、露出量を調節するための絞りも備える。
【0016】
イメージセンサ214は、光学像を電気データに変換するCCDやCMOSセンサ等の電荷蓄積型の固体イメージセンサで構成される。レンズ群212およびシャッタ213を通過した被写体からの反射光はイメージセンサ214に結像される。イメージセンサ214は被写体像に応じた電気信号を生成し、生成した電気信号に基づく画像データを出力する。
【0017】
シャッタ213は、羽根部材の開閉動作を行うことによって、イメージセンサ214への露出や遮光を行い、イメージセンサ214の露光時間を制御する。なお、シャッタ213は、イメージセンサ214の駆動によって露光時間を制御する電子シャッタであってもよい。CMOSセンサで電子シャッタを行う場合には、画素ごと、あるいは、複数画素からなる領域ごと(例えばラインごと)に、画素の蓄積電荷量をゼロにするリセット走査を行う。その後、リセット走査を行った画素あるいは領域ごとに、それぞれ所定の時間を経過してから電荷の蓄積量に応じた信号を読み出す走査を行う。
ズーム制御回路215は、レンズ群212に含まれるズームレンズを駆動するためのモータを制御し、レンズ群212の光学倍率を制御する。
【0018】
測距システム216は、被写体までの距離情報を算出する。測距システム216は、AF制御回路218の出力に基づいて距離情報を生成してもよい。また、画面内にAFの対象となるエリアが複数ある場合には、測距システム216はAF制御回路218がAF処理をエリアごとに繰り返して動作させることで、エリアごとに距離情報を生成してもよい。なお、測距システム216は、TOF(Time Of Flight)センサを用いてもよい。TOFセンサは、照射波の送信タイミングと、当該照射波が物体で反射された反射波の受信タイミングとの時間差(または位相差)に基づいて、当該物体までの距離を測定するセンサである。更に、測距システム216には、受光素子にPSD(Position Sensitive Device)を用いたPSD方式等を用いてもよい。
【0019】
画像処理回路217は、イメージセンサ214から出力された画像データに対して、所定の画像処理を施す。画像処理回路217は、撮像ユニット211から出力された画像データ、あるいは、内部メモリ221に記憶されている画像データに対して、ホワイトバランス調整、ガンマ補正、色補間またはデモザイキング、フィルタリング等の様々な画像処理を行う。また、画像処理回路217は、画像処理を行った画像データに対して、JPEG等の規格で圧縮処理を行う。
【0020】
AF制御回路218は、測距システム216で得られた距離情報に基づいて、レンズ群212に含まれるフォーカスレンズの位置を決定し、フォーカスレンズを駆動するモータを制御する。AF制御回路218は、画像データの高周波成分を抽出して積分し、積分値が最大となるフォーカスレンズの位置を決定するTV-AFまたはコントラストAFを行ってもよい。なお、フォーカス制御方式は、コントラストAFに限られず、位相差AFやその他のAF方式であってもよい。また、AF制御回路218は焦点の調節量、または、フォーカスレンズの位置を検出し、フォーカスレンズの位置に基づいて被写体までの距離情報を取得してもよい。
【0021】
通信装置219は、無線のネットワークを介して、情報処理装置300等の外部機器と通信を行うための通信インターフェースである。ネットワークの具体的な一例としては、Wi-Fi(登録商標)規格に基づくネットワークが挙げられる。なお、Wi-Fiを用いた通信はルータを介して実現してもよい。また、通信装置219は、USBやLAN等の有線の通信インターフェースにより実現されてもよい。
【0022】
システム制御回路220は、CPU(Central Processing Unit)を有し、内部メモリ221内に記憶されたプログラムを実行することによって、撮像装置200の全体制御を行う。また、システム制御回路220は、撮像ユニット211、ズーム制御回路215、測距システム216、画像処理回路217およびAF制御回路218等の制御を行う。なお、システム制御回路220はCPUを有する場合に限られず、FPGAやASIC等を用いてもよい。
【0023】
内部メモリ221は、例えば、フラッシュメモリやSDRAM等の書き換え可能なメモリを用いることができる。内部メモリ221は、撮像装置200の動作に必要な画像撮影時のピント位置の情報等の各種設定情報、撮像ユニット211が撮影した画像データ、画像処理回路217により画像処理された画像データ等を一時的に記憶する。また、内部メモリ221は、通信装置219が情報処理装置300と通信して受信した、画像データや被写体のサイズに関する情報等の解析データを一時的に記憶してもよい。
【0024】
外部メモリ222は、撮像装置200に装着可能、あるいは、撮像装置200に内蔵された不揮発性の記録媒体である。外部メモリ222は、例えば、SDカードやCFカード等を用いることができる。外部メモリ222は、画像処理回路217により画像処理された画像データ、通信装置219が情報処理装置300と通信して受信した画像データや解析データ等を記録する。また、外部メモリ222は、再生時には記録された画像データが読み出され、撮像装置200の外部に出力することも可能である。
【0025】
表示装置223は、例えば、TFT(Thin Film Transistor)液晶ディスプレイ、有機ELディスプレイ、EVF(電子ビューファインダ)等を用いることができる。表示装置223は、内部メモリ221に一時的に記憶されている画像データや外部メモリ222に記録された画像データを表示したり、撮像装置200の設定画面等を表示したりする。
【0026】
操作部224は、撮像装置200に設けられたボタン、スイッチ、キー、モードダイアル、あるいは、表示装置223に兼用されるタッチパネル等で構成される。ユーザによるモード設定や撮影指示等の指令は、操作部224を経由して、システム制御回路220に通知される。
傾き検知装置225は、撮像装置200の傾きを検知する。本実施形態では、撮像装置200の傾きは水平を基準とした角度をいうものとする。傾き検知装置225は、例えば、ジャイロセンサ、加速度センサ等を用いることができる。
共通バス226は、撮像装置200の各構成部の間で信号の送受信を行うための信号線である。
【0027】
図4は、情報処理装置300のハードウェア構成の一例を示す図である。
情報処理装置300は、CPU310、記憶装置312、通信装置313、出力装置314、補助演算装置317等を備える。
CPU310は演算装置311を備える。CPU310は、記憶装置312に記憶されたプログラムを実行することで情報処理装置300の全体制御を行うと共に、図1に示す情報処理装置300の機能構成が実現される。
【0028】
記憶装置312は主記憶装置315(ROMやRAM等)と補助記憶装置316(磁気ディスク装置やSSD(Solid State Drive)等)を備える。
通信装置313は、無線のネットワークを介して、撮像装置200等の外部機器と通信を行うための無線通信モジュールである。
出力装置314は、情報処理装置300に接続されたディスプレイ、プリンタあるいは外部ネットワークに、演算装置311が加工したデータや記憶装置312に記憶されたデータ等を出力する。
【0029】
補助演算装置317はCPU310の制御の下で動作する補助演算用ICである。補助演算装置317は、GPU(Graphic Processing Unit)等が用いることができる。GPUは、元々は画像処理用のプロセッサであるが、複数の積和演算器を有し、行列計算を得意としているため、信号学習用の処理を行うプロセッサとしても用いられることができる。したがって、GPUは深層学習を行う処理において用いられることが一般的である。補助演算装置317には、例えば、NVIDIA社のJetsonTX2 moduleを用いることができる。また、補助演算装置317として、FPGAやASIC等を用いてもよい。補助演算装置317は、画像データから患部領域の抽出処理を行う。
【0030】
なお、情報処理装置300が備えるCPU310および記憶装置312は1つであっても複数であってもよい。すなわち、少なくとも1以上のCPUと少なくとも1つの記憶装置とが接続されており、少なくとも1以上のCPUが少なくとも1以上の記憶装置に記憶されたプログラムを実行した場合に、情報処理装置300は後述する各機能を実行する。なお、CPUに限られず、FPGAやASIC等であってもよい。
【0031】
図5は、情報処理システム1の処理の一例を示すフローチャートである。
図5において、S501~S519が撮像装置200による処理であり、S521~S550が情報処理装置300による処理である。図5のフローチャートは、撮像装置200と情報処理装置300とが、無線LAN規格であるWi-Fi規格のネットワークにそれぞれ接続することで開始される。
【0032】
S521では、情報処理装置300のCPU310は、接続する撮像装置200の探索処理を、通信装置313を介して行う。
S501では、撮像装置200のシステム制御回路220は、情報処理装置300による探索処理に対して応答処理を、通信装置219を介して行う。なお、ネットワークを介して機器を探索する技術としては、UPnP(Universal Plug and Play)が用いられる。ここでUPnPにおいて個々の装置の識別はUUID(Universally Unique IDentifier)によって行われる。
【0033】
S502では、システム制御回路220は、表示装置223を用いて、患部を撮影するときの被写体の姿勢を把握できる全体姿勢と、被写体を特定するためのバーコードタグを撮影するよう、ユーザに案内を出す。撮像ユニット211は、ユーザによる撮影指示に応じて、被写体の姿勢および被写体のバーコードタグをそれぞれ撮影する。
ここでは、被写体の患部を撮影する前に、被写体には、例えば、うつ伏せ、横臥または座位の姿勢になってもらい、患部を撮影するときの被写体の姿勢を把握できる全体姿勢を撮影する。このとき、システム制御回路220は、傾き検知装置225から出力される傾き情報に基づいて、姿勢を撮影したときの撮像装置200の傾き情報を生成する。
【0034】
次に、S503~S511までのライブビューの処理について説明する。
S503では、AF制御回路218は、被写体にピントが合うようにレンズ群212の駆動制御を行うAF処理を行う。
ここでは、ユーザが画面の中央に患部が位置するように撮像装置200を構えていることを想定しているために、AF制御回路218は画面の中央に位置するエリアでAF処理を行う。また、AF制御回路218は、焦点の調節量またはフォーカスレンズの移動量に基づいて被写体までの距離情報を出力する。
【0035】
S504では、システム制御回路220は、表示装置223を用いて、被写体の患部を撮影するよう、ユーザに案内を出す。撮像ユニット211は、ユーザによる撮影指示に応じて、被写体を撮影する。
S505では、画像処理回路217は、撮影された画像データを取得して現像および圧縮処理を行い、例えばJPEG規格の画像データを生成する。画像処理回路217は、圧縮処理された画像データに対してリサイズ処理を行い、画像データのサイズを小さくする。
【0036】
なお、撮像装置200は、後述するS508において、リサイズ処理された画像データを無線通信により送信する。送信する画像データのサイズが大きいほど無線通信に時間が掛かるために、S505ではシステム制御回路220は、許容される通信時間に基づいて、リサイズ処理する画像データのサイズを決定し、画像処理回路217に指示を出す。
なお、後述するS532では、情報処理装置300がリサイズ処理された画像データから患部領域を抽出する。画像データのサイズは、患部領域を抽出する時間および精度に影響するために、S505ではシステム制御回路220は抽出する時間および精度に基づいて、リサイズ処理する画像データのサイズを決定する。
【0037】
また、S505でのリサイズ処理は、ライブビュー内での処理であるため、処理時間が長いとライブビュー画像のフレームレートが遅くなる。したがって、S505では、システム制御回路220はライブビュー中の処理ではない後述するS514でのリサイズ処理よりも小さいサイズあるいは同一のサイズにリサイズ処理することが好ましい。
本実施形態では、720ピクセル×540ピクセルで8ビットRGBカラーとして画像サイズが略1.1メガバイトとなるようにリサイズする。ただし、リサイズ処理する画像データのサイズはこの場合に限られない。
【0038】
S506では、システム制御回路220は、被写体までの距離情報を生成する。具体的には、システム制御回路220は、測距システム216が出力した距離情報に基づいて、撮像装置200から被写体までの距離情報を生成する。なお、システム制御回路220は、S503においてAF制御回路218が画面内の複数のエリアについてそれぞれAF処理をした場合には、複数のエリアごとに距離情報を生成してもよい。また、距離情報の生成する方法として、測距システム216が算出した被写体までの距離情報を用いてもよい。
【0039】
S507では、システム制御回路220は、傾き検知装置225から出力される傾き情報に基づいて、ライブビューにおける撮像装置200の傾き情報を生成する。
ここでは、ユーザが撮影範囲に患部を含むように撮像装置200を構えていることを想定しているために、システム制御回路220はユーザが患部に向けて構えたときの撮像装置200の傾き情報を生成する。
【0040】
S508では、システム制御回路220は、各種情報を、通信装置219を介して情報処理装置300に送信する。具体的には、システム制御回路220は、S505においてリサイズ処理された患部の画像データ、S506において生成された被写体までの距離情報、S507において生成したライブビューにおける撮像装置200の傾き情報を送信する。また、システム制御回路220は、S502において撮影した姿勢の画像データ、姿勢を撮影したときの撮像装置200の傾き情報、バーコードタグの画像データを情報処理装置300に送信する。なお、バーコードタグの画像データに含まれる患者IDは変化する情報ではないために、同一の患者においては、バーコードタグの画像データは最初の一回だけ送信する。また、姿勢の画像データ、姿勢を撮影したときの撮像装置200の傾き情報についても、同一の患者においては、最初の一回だけ送信する。
【0041】
次に、情報処理装置300による処理に移る。
S531では、情報処理装置300のCPU310は、撮像装置200が送信した、患部の画像データ、被写体までの距離情報、ライブビューにおける撮像装置200の傾き情報を、通信装置313を介して受信する。また、CPU310は、姿勢の画像データ、姿勢を撮影したときの撮像装置200の傾き情報、バーコードタグの画像データを、同一の患者においては最初の一回だけ受信する。
【0042】
S532では、CPU310は、補助演算装置317を用いて、受信した患部の画像データから、患部領域を抽出(患部領域と他の領域とを分割する)する。領域分割の手法として、深層学習による意味的領域分割を行う。すなわち、予め学習用のコンピュータに、複数の実際の褥瘡の患部領域の画像を教師データとして用いて、ニューラルネットワークのモデルを学習させて、学習済モデルを生成する。補助演算装置317は、コンピュータから学習済モデルを取得して、学習済モデルに基づいて画像データから褥瘡のエリアを推定する。ニューラルネットワークのモデルの一例として、深層学習を用いたセグメンテーション・モデルである完全畳み込みネットワーク(FCN(Fully Convolutional Network))を適用することができる。深層学習の推論は、積和演算の並列実行を得意とする補助演算装置317に含まれるGPUにより処理される。ただし、深層学習の推論は、FPGAやASIC等が実行してもよい。なお、他の深層学習のモデルを用いて領域分割を実現してもよい。また、セグメンテーション手法は深層学習に限られず、例えば、グラフカット、領域成長、エッジ検出、統治分割法等を用いてもよい。更に、補助演算装置317の内部で、褥瘡の患部領域の画像を教師データとしたニューラルネットワークのモデルの学習を行ってもよい。
【0043】
S533では、CPU310の演算装置311は、抽出された患部領域のサイズに関する情報として、患部領域の面積を計算する。演算装置311は、抽出された患部領域の画像データ上のサイズを、画像データの画角または画素サイズに関する情報、および、システム制御回路220が生成した距離情報に基づいて変換することで、患部領域の面積を計算する。
【0044】
図6は、患部領域の面積の計算方法を説明するための図である。
撮像装置200が一般的なカメラである場合には、図6に示すようにピンホールモデルとして扱うことができる。入射光601はレンズ212aのレンズ主点を通り、イメージセンサ214の撮像面で受光する。撮像面からレンズ主点までの距離が焦点距離F602である。ここで、レンズ群212を厚みのない単一のレンズ212aに近似した場合には、前側主点と後側主点の2つの主点は一致するとみなせる。イメージセンサ214の平面に像が結像するようにレンズ212aのピント位置を調整することで、撮像装置200は被写体604に焦点を合わせることができる。撮像面からレンズ主点までの距離である焦点距離F602を変更することで画角θ603が変更され、ズーム倍率が変わる。このとき、撮像装置200の画角θ603と被写体距離D605の関係から、幾何学的に合焦面における被写体の幅W606が決定される。被写体の幅W606は、三角関数を用いて計算される。すなわち、被写体の幅W606は、焦点距離F602に応じて変化する画角θ603と、被写体距離D605との関係によって決定する。被写体の幅W606の値を対応するイメージセンサ214のライン上のピクセル数で除算することにより、画像上の1ピクセルに対応する合焦面上の長さが取得される。
【0045】
演算装置311は、S532において領域分割された結果から得られる領域のピクセル数と、画像上の1ピクセルに対応する合焦面上の長さから得られる1ピクセルの面積の積として、患部領域の面積を計算する。なお、被写体の幅W606もしくは画像上の1ピクセルに対応する合焦面上の長さを求める式は、被写体の幅W606が既知の被写体を、被写体距離D605を変化させて撮影することによりデータを取得することで回帰的に求めてもよい。
なお、被写体距離D605が単一の場合、演算装置311が正しく患部領域の面積を求めるには、被写体604が平面であり、かつ、この平面が光軸に対して垂直であることが前提となる。ただし、S506において複数のエリアごとに距離情報を生成している場合には、演算装置311は被写体の奥行き方向の傾きや変化を検出し、検出した傾きや変化に基づいて患部領域の面積を計算してもよい。
【0046】
S534では、画像処理回路217は、患部領域を抽出する対象とした画像データに対して、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを生成する。
図7(a)および図7(b)は、患部領域の抽出結果を示す情報、および、患部領域のサイズに関する情報を画像データに重畳する方法を説明するための図である。
図7(a)に示す画像701は、重畳処理前の画像データを表示した一例であり、被写体101および患部102を含む。図7(b)に示す画像702は、重畳処理後の画像データを表示した一例である。
【0047】
図7(b)に示す画像702の左上隅には、黒地の背景に白色の文字で、患部領域の面積の文字列712を表示したラベル711が重畳される。ここでは、患部領域のサイズに関する情報は、文字列712であって、演算装置311により計算された患部領域の面積である。なお、ラベル711の背景色と文字列の色は見やすいものであれば黒、白に限られない。また、透過量を設定してαブレンドすることで、ラベル711が重なった部分の画像をユーザが確認できるようにしてもよい。
【0048】
また、画像702には、S532において抽出された患部領域の推定エリアを示す指標713が重畳される。推定エリアを示す指標713と、画像701の元となる画像データをαブレンドすることで、患部領域の面積を算出する元となる推定エリアが妥当か否かをユーザが確認することができる。推定エリアを示す指標713の色は、被写体の色と異なる色にすることが好ましい。また、αブレンドの透過率の範囲は、推定エリアと元の患部102とが識別できる範囲であることが好ましい。なお、患部領域の推定エリアを示す指標713が重畳して表示されていれば、ラベル711を表示しなくても、ユーザは推定エリアが妥当か否かを確認することができるためにS533を省略してもよい。
【0049】
S535では、CPU310は、バーコードタグの画像データから患者IDを読取る。S536では、CPU310は、読取った患者IDを、記憶装置312に予め登録された被写体の患者IDと照合して、被写体の名前の情報を取得する。
【0050】
S537では、CPU310は、患部の画像データに、患者IDおよび被写体の名前の情報を紐付けて、記憶装置312に記憶させる。CPU310は、次に撮影されたバーコードタグの画像データを受信するまで、S531において受信する患部の画像データを、同一の患者IDおよび同一の被写体の名前の情報として処理する。
また、CPU310は、対象の患者IDに対応する被写体情報が記憶装置312に記憶されているか否かを判定する。対象の患者IDに対応する被写体情報が記憶されていない場合には、CPU310は患者IDおよび被写体の名前の情報に対応する被写体情報を生成する。一方、対象の患者IDに対応する被写体情報が既に記憶装置312に記憶されている場合にはS538に進む。
【0051】
図9(a)は、被写体情報900のデータ構成の一例を示す図である。被写体情報900は、患者IDごとに管理される。
被写体情報900は、患者ID欄901、被写体の名前欄902、姿勢情報903、患部情報908を含む。
患者ID欄901には、患者IDが記憶される。被写体の名前欄902には、被写体の名前が記憶される。
姿勢情報903には、姿勢アイコン欄904、姿勢の画像データ欄905、第1の傾き情報欄906、第2の傾き情報欄907がある。姿勢アイコン欄904には、患部を撮影するときの被写体の姿勢を模式的に示す姿勢アイコン、あるいは、姿勢アイコンの識別情報が記憶される。姿勢アイコンは表示アイテムの一例に対応する。
【0052】
図9(b)は、姿勢アイコンの一例を示す図である。
姿勢アイコン921は、うつ伏せの姿勢を示すアイコンである。姿勢アイコン922は、右側を下にした右下横臥の姿勢を示すアイコンである。姿勢アイコン923は、左側を下にした左下横臥の姿勢を示すアイコンである。姿勢アイコン924は、座位の姿勢を示すアイコンである。
【0053】
姿勢の画像データ欄905には、S502において被写体の姿勢を撮影した姿勢の画像データ、あるいは、姿勢の画像データが記憶されているアドレス情報が記憶される。
第1の傾き情報欄906には、S502において姿勢を撮影したときの撮像装置200の傾き情報が記憶される。第2の傾き情報欄907には、ライブビューを終了して記録用に患部を撮影する記録用撮影における撮像装置200の傾き情報が記憶される。第2の傾き情報欄907には、対象の患者IDにおいて最初または最後に記録用撮影したときの撮像装置200の傾き情報、あるいは、複数回に亘って記録用撮影したときの撮像装置200の傾き情報の平均値が記憶される。第2の傾き情報欄907の傾き情報は、後述する傾き情報欄912に記憶された、記録用撮影における撮像装置200の傾き情報に基づいて記憶されたり更新されたりする。第2の傾き情報欄907に記憶された傾き情報を、ユーザが記録用撮影をするときに参照することで、患部表面に対して撮像装置200を正対させるのに用いることができる。
なお、姿勢情報903には、被写体の姿勢を「うつ伏せ」、「座位」、「右下横臥」、「左下横臥」等の文字で表した文字情報等、被写体の姿勢を識別できる情報を記憶してもよい。
【0054】
患部情報908は、撮影日時欄909、患部の画像データ欄910、評価情報欄911、傾き情報欄912を含む。撮影日時欄909には、後述するS513において記録用撮影したときの日時が記憶される。患部の画像データ欄910には、記録用撮影した患部の画像データ、あるいは、患部の画像データが記憶されているアドレス情報が記憶される。評価情報欄911には、患部領域の評価結果を示す情報が記憶される。傾き情報欄912には、記録用撮影における撮像装置200の傾き情報が記憶される。
【0055】
S537において対象の患者IDに対応する被写体情報900が記憶されていない場合、CPU310は生成した被写体情報900の姿勢情報903のうち、姿勢アイコン欄904、姿勢の画像データ欄905、第1の傾き情報欄906に情報を追加して、記憶装置312に記憶する。具体的に、CPU310が姿勢アイコン欄904に追加するには、まず補助演算装置317がS531において受信した姿勢の画像データに基づいて、被写体の姿勢が図9(b)に示す姿勢アイコン921~924の何れに相当するかを判定する。次に、CPU310は、姿勢アイコン、あるいは、姿勢アイコンの識別情報を、姿勢アイコン欄904に記憶する。また、CPU310は、S531において受信した姿勢の画像データを、姿勢の画像データ欄905に記憶する。更に、CPU310は、S531において受信した姿勢を撮影したときの撮像装置200の傾き情報を、第1の傾き情報欄906に記憶する。
一方、S537において対象の患者IDに対応する被写体情報900が記憶されている場合、過去に患部を撮影しており、被写体情報900の姿勢情報903および患部情報908には各情報が既に記憶されていることからS538に進む。
【0056】
S538では、情報処理装置300のCPU310は、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを、通信装置313を介して撮像装置200に送信する。本実施形態では、CPU310は、S534において生成された、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを撮像装置200に送信する。
また、CPU310は、過去に患部を撮影したときの被写体の姿勢をユーザに対して通知するために、被写体情報900の姿勢情報903を、通信装置313を介して撮像装置200に送信する。具体的には、CPU310は、姿勢アイコン、姿勢の画像データ、姿勢を撮影したときの撮像装置200の傾き情報、記録用撮影における撮像装置200の傾き情報を送信する。CPU310がライブビューの間に複数回に亘って、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを送信する場合には、姿勢情報903を最初の一回だけ送信する。なお、CPU310は、S531において受信したライブビューにおける撮像装置200の傾き情報を送信してもよい。また、過去に記録用撮影をしていないために、S537において対象の患者IDに対応する被写体情報900が記憶されていない場合には、第2の傾き情報欄907に情報が記憶されていないことから、記録用撮影における撮像装置200の傾き情報は送信されない。
【0057】
次に、撮像装置200の処理に移る。
S509では、撮像装置200のシステム制御回路220は、情報処理装置300から送信された、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを、通信装置219を介して受信する。また、システム制御回路220は、情報処理装置300から送信された姿勢アイコン、姿勢の画像データ、姿勢を撮影したときの撮像装置200の傾き情報、記録用撮影における撮像装置200の傾き情報を、通信装置219を介して受信する。
【0058】
S510では、システム制御回路220は、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを、表示装置223に表示する。このように、ライブビューの画像データに対して、患部の抽出結果を示す情報等を重畳して表示することで、ユーザは患部領域の推定エリアおよび面積が妥当であるか否かを確認した上で、記録用撮影に進むことができる。
また、システム制御回路220は受信した、姿勢アイコン、姿勢の画像データ、姿勢を撮影したときの撮像装置200の傾き情報の少なくとも何れかの姿勢情報を、表示装置223に表示する。このように、過去に患部を撮影したときの被写体の姿勢情報をユーザに対して通知する。なお、システム制御回路220は、記録用撮影における撮像装置200の傾き情報、ライブビューにおける撮像装置200の傾き情報を表示してもよい。
【0059】
図10(a)および図10(b)は、姿勢情報を含む画像データの一例を示す図である。なお、図7(a)および図7(b)と同様の画像には同一符号を付して適宜、説明を省略する。
図10(a)に示す画像1001は、図7(b)に示す画像702に姿勢アイコン1002を重畳した画像データを表示した一例である。
システム制御回路220は、図7(b)に示す画像702に、S509において受信した、姿勢アイコンあるいは姿勢アイコンの識別情報に基づいた姿勢アイコン1002を重畳した画像1001を、表示装置223に表示する。
ここで、姿勢アイコン1002は表示装置223に兼用されるタッチパネルを介してユーザがタッチ操作することができるボタンとして機能する。システム制御回路220は、ユーザによる姿勢アイコン1002に対するタッチ操作に応じて、画面を遷移して図10(b)に示す画像1003を表示する。
【0060】
図10(b)に示す画像1003は、姿勢の画像データを表示した一例である。画像1003の左上隅には、黒地の背景に白色の文字で、傾き情報1004および文字列1005を含むラベル1006が表示される。
システム制御回路220は、S509において受信した姿勢の画像データに、ラベル1006を重畳した画像1003を、表示装置223に表示する。なお、システム制御回路220は、S509において受信した、姿勢を撮影したときの撮像装置200の傾き情報に基づいて、傾き情報1004を表示する。また、システム制御回路220は、S509において受信した姿勢情報に、姿勢を示す文字情報等が含まれている場合に、姿勢の文字情報等に基づいてラベル1006の文字列1005を表示する。
【0061】
このように、記録用に患部を撮影する前に、同一の被写体の患部を過去に撮影したときの被写体の姿勢情報をユーザに通知することで、ユーザは過去に被写体の患部を撮影したときの姿勢を把握することができる。したがって、ユーザは被写体に対して過去に撮影したときの姿勢と同じ姿勢にしてもらうことで、適切に被写体の患部を撮影することができる。
【0062】
具体的には、被写体の姿勢を模式的に示す姿勢アイコン1002を表示することで、ユーザは過去に被写体の患部を撮影したときの被写体の姿勢を即座に把握することができる。また、被写体の姿勢を撮影した画像1003を表示することで、過去に被写体の患部を撮影したときの被写体の姿勢を正確に把握することができる。更に、撮像装置200の傾き情報1004を表示することで、姿勢を撮影したときの撮像装置200の傾きを把握することができる。ただし、姿勢情報を表示する画像は、図10(a)および図10(b)に示す場合に限られず、ユーザが被写体の姿勢を把握できれば、どのような画像であってもよい。
【0063】
なお、システム制御回路220は、S509において受信した、記録用撮影における撮像装置200の傾き情報を表示してもよい。ユーザは表示された傾き情報を参照することで、過去に患部を撮影したときと同様な傾きで患部を撮影することができ、患部表面に対して撮像装置200を正対させることができる。
このとき、システム制御回路220は、S507において生成された、あるいは、S509において受信した、ライブビューにおける撮像装置200の傾き情報を表示してもよい。この場合、ユーザは現時点における撮像装置200の傾きを参照できるので、過去に患部を撮影したときの傾きに一致させることができる。また、システム制御回路220は、記録用撮影における撮像装置200の傾き情報と、ライブビューにおける撮像装置200の傾き情報との差分の情報を表示してもよい。差分の情報は、撮像装置200のシステム制御回路220が生成してもよく、情報処理装置300が生成して撮像装置200が受信してもよい。
【0064】
S511では、システム制御回路220は操作部224に含まれるレリーズボタンをユーザが押下することによる撮影指示を受け付けたか否かを判定する。
撮影指示を受け付けた場合にはS512以降において、記録用として、患部を撮影する処理に進む。一方、撮影指示を受け付けていない場合にはS503に戻り、上述したS503以降の処理を行う。したがって、撮影指示を受け付けるまで、S503~S511までの処理を繰り返すことで、撮像装置200はライブビューの画像データを連続して情報処理装置300に送信する。また、撮像装置200は、送信するごとに情報処理装置300から、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを受信する。
【0065】
S512では、AF制御回路218は、被写体にピントが合うようにレンズ群212の駆動制御を行うAF処理を行う。この処理は、S503と同様の処理である。
S513では、撮像ユニット211は、ユーザによる撮影指示に応じて被写体を撮影する。具体的には、撮像ユニット211は、記録用に患部を静止画で撮影する。
なお、システム制御回路220は、S537において対象の患者IDに対応する被写体情報900が記憶されていないと判定した場合に、最初に記録用に患部を撮影した後、被写体の姿勢を撮影するようにユーザに案内を出してもよい。具体的には、システム制御回路220は患部を撮影した後に被写体の全身が撮影されるように撮像ユニット211の倍率調整を行い撮影する。このように自動的に被写体の姿勢を撮影する場合には、S502における被写体の姿勢を撮影する処理を省略することができる。なお、対象の患者IDに対応する被写体情報900が記憶されていない旨の情報は、S509において情報処理装置300から受信することができる。
【0066】
S514では、画像処理回路217は、撮影された画像データを取得して、現像および圧縮処理を行い、例えばJPEG規格の画像データを生成する。この処理は、S505と同様の処理である。ただし、患部領域を計測する際の精度を優先するために、S505における画像データのサイズよりも大きいか、同じ大きさでリサイズ処理することが好ましい。リサイズ処理された画像データのサイズとして、例えば、1440ピクセル×1080ピクセルで4ビットRGBカラーの場合には略4.45メガバイトになる。ただし、リサイズ処理された画像データのサイズは、この場合に限られない。
【0067】
S515では、システム制御回路220は、被写体までの距離情報を生成する。この処理は、S506と同様の処理である。
S516では、システム制御回路220は、傾き検知装置225から出力される傾き情報に基づいて、記録用撮影における撮像装置200の傾き情報を生成する。この処理は、S507の処理と同様である。
S517では、システム制御回路220は、S514においてリサイズ処理された患部の画像データ、S515において生成された被写体までの距離情報、S516において生成された記録用撮影における撮像装置200の傾き情報を、通信装置219を介して情報処理装置300に送信する。
【0068】
次に、情報処理装置300の処理に移る。
S541では、情報処理装置300のCPU310は、撮像装置200が送信した、患部の画像データ、被写体までの距離情報、記録用撮影における撮像装置200の傾き情報を、通信装置313を介して受信する。
S542では、CPU310は、受信した患部の画像データから患部領域を、補助演算装置317を用いて抽出(患部領域と他の領域とを分割する)する。この処理は、S532と同様の処理である。
【0069】
S543では、CPU310の演算装置311は、抽出された患部領域のサイズに関する情報として、患部領域の面積を計算する。この処理は、S533の処理と同様の処理である。
S544では、演算装置311は、患部領域の評価情報を算出する。具体的には、演算装置311はS543で求めた画像上の1ピクセルに対応する合焦面上の長さに基づいて、抽出した患部領域の長径と短径の長さ、および、患部領域に外接する矩形の面積を算出する。褥瘡の評価指標のDESIGN-Rの中で、褥瘡のサイズは長径と短径の積の値を計測することが定められている。本実施形態の情報処理システム1において、長径と短径の解析を行うことで、今までDESIGN-Rで計測されたデータとの互換性を確保することができる。DESIGN-Rは厳密な定義がないため、数学的には複数の長径、短径の算出方法が考えられる。
【0070】
長径と短径の算出方法の第1例として、演算装置311が患部領域に外接する矩形のうち、面積が最小となる矩形(Minimum bounding rectangle)を算出する。次に、この矩形の長辺と短辺の長さを算出し、長辺の長さを長径とし、短辺の長さを短径として算出する。次に、S543で求めた画像上の1ピクセルに対応する合焦面上の長さに基づいて矩形の面積を算出する。
長径と短径の算出方法の第2例として、演算装置311が長径として最大のキャリパー長である最大フェレ径を選択し、短径として最小フェレ径を選択する。なお、長径として最大のキャリパー長である最大フェレ径を選択し、短径として最大フェレ径の軸に直交する方向で計測した長さを選択してもよい。
長径と短径の計算方法は、従来の計測結果との互換性に基づいて任意の方法を選択することができる。
【0071】
なお、患部領域の長径と短径の長さおよび矩形面積を算出する処理は、S531において受信した画像データに対しては実行されない。ライブビュー中は、患部領域の抽出結果をユーザが確認できるようにすることを目的としているために、S531において受信した画像データに対してS544に相当する画像解析の処理を省くことで、処理時間を削減している。
【0072】
S545では、画像処理回路217は、患部領域を抽出する対象とした画像データに対して、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを生成する。ここでの患部領域のサイズに関する情報には、患部領域の長径と短径等の患部領域の評価情報が含まれる。
図8(a)、図8(b)および図8(c)は、患部領域の抽出結果を示す情報、および、患部領域の長径と短径等を含む患部領域のサイズに関する情報を画像データに重畳する方法を説明するための図である。患部領域のサイズに関する情報は複数、想定されるために図8(a)~(c)を参照して説明する。
【0073】
図8(a)に示す画像801は、長径、短径の算出方法としてMinimum bounding rectangleを用いたものである。画像801の左上隅には、患部領域のサイズに関する情報として、図7(b)と同様に、黒地の背景に白色の文字で患部領域の面積の文字列712を表示したラベル711が重畳される。
また、画像801の右上隅には、患部領域のサイズに関する情報として、Minimum bounding rectangleに基づいて算出した長径および短径を表示したラベル812が重畳される。ラベル812には、文字列813とは文字列814とが含まれる。文字列813は長径の長さ(単位はcm)を表し、文字列814は短径の長さ(単位はcm)を表す。また、画像801は、患部領域にMinimum bounding rectangleを表す矩形の枠815が重畳される。矩形の枠815を長径および短径の長さと一緒に重畳することで、ユーザは画像中のどの箇所の長さが計測されているのかを確認することができる。
【0074】
また、画像801の右下隅には、スケールバー816が重畳される。スケールバー816は患部102のサイズを測定するためのものであり、距離情報に応じて画像データに対するスケールバーのサイズが変更される。具体的には、スケールバー816は、S543で得られた画像上の1ピクセルに対応する合焦面上の長さに基づいて、1cm単位で5cmまでの目盛りを刻んだバーであり、撮像装置200の合焦面上すなわち被写体上のサイズに対応したものである。ユーザはスケールバー816を参照することにより、被写体もしくは患部102の大きさを把握することができる。
【0075】
また、画像801の左下隅には、上述したDESIGN-RのSize評価の指標817が重畳される。DESIGN-RのSize評価の指標817では、皮膚損傷範囲の、長径と短径(長径と直交する最大径)を測定し(単位はcm)、各々を掛け合わせた数値から上述した7段階に分類されている。本実施形態では長径と短径をそれぞれの算出方法によって出力された値に置き換えて得られる指標817が重畳される。
【0076】
図8(b)に示す画像802は、長径として最大フェレ径を、短径として最小フェレ径を用いたものある。画像802の右上隅には、長径の長さを示す文字列823および短径の長さを示す文字列824を表示したラベル822が重畳される。また、画像802の患部領域には、最大フェレ径の計測位置に相当する補助線825と、最小フェレ径に相当する補助線826が表示される。補助線825、826を長径および短径の長さを示す文字列823、824と一緒に重畳することで、ユーザは画像中のどの箇所の長さが計測されているのかを確認することができる。
【0077】
図8(c)に示す画像803は、長径が画像802と同じであるが、短径が最小フェレ径ではなく最大フェレ径の軸に直交する方向で計測した長さとして計測したものである。画像803の右上隅には、長径の長さを示す文字列823および短径の長さを示す文字列834を表示したラベル832が重畳される。また、画像803の患部領域には、最大フェレ径の計測位置に相当する補助線825と、最大フェレ径の軸に直交する方向で計測した長さに相当する補助線836が表示される。
【0078】
なお、図8(a)~(c)に示した、画像データに重畳する各種情報は、何れか1つまたは複数の組み合わせであってもよく、ユーザが表示する情報を選択できるようにしてもよい。また、図7(a)、図7(b)、図8(a)、図8(b)および図8(c)に示す画像は一例であって、患部102および患部領域のサイズに関する情報の表示形態、表示位置、サイズ、フォント、フォントサイズ、フォントの色、あるいは、位置関係等は様々な条件に応じて変更できる。
【0079】
S546では、情報処理装置300のCPU310は、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを、通信装置313を介して撮像装置200に送信する。本実施形態では、CPU310は、S545において生成した、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを撮像装置200に送信する。
【0080】
S547では、CPU310は、バーコードタグの画像データから患者IDを読取る。なお、S535において既に患者IDを読取っている場合には処理を省略することができる。
S548では、CPU310は、読取った患者IDを予め登録された被写体の患者IDと照合して、被写体の名前の情報を取得する。なお、S536において既に被写体の名前の情報を取得している場合には処理を省略することができる。
【0081】
S549では、CPU310は、対象の患者IDに対応する被写体情報900の患部情報908の撮影日時欄909、患部の画像データ欄910、評価情報欄911、傾き情報欄912に情報を追加して、記憶装置312に記憶する。
具体的には、CPU310は、S513において撮影した日時の情報を撮影日時欄909に記憶する。また、CPU310は、S541において受信した患部の画像データを、患部の画像データ欄910に記憶する。また、CPU310は、S544で算出した評価情報を、評価情報欄911に記憶する。また、CPU310は、S541で受信した、記録用撮影における撮像装置200の傾き情報を、傾き情報欄912に記憶する。なお、図9(a)の被写体情報900において説明したように、CPU310は、傾き情報欄912に記憶した傾き情報に基づいて、姿勢情報903の第2の傾き情報欄907の傾き情報を、記憶したり更新したりすることができる。
【0082】
なお、対象の患者IDに対応する被写体情報が記憶装置312に記憶されていない場合には、CPU310は患者IDおよび被写体の名前の情報に対応する被写体情報を生成して、被写体情報900の姿勢情報903および患部情報908に情報を記憶する。
また、対象の患者IDに対応する被写体情報が記憶装置312に記憶されている場合、CPU310は、既に姿勢の画像データ欄905に記憶された画像データと、今回の撮影のS502において得られた姿勢の画像データとが一致しているか否かを判定してもよい。ここで、画像データが一致するとは、両方の画像データに含まれる被写体の姿勢が同じ場合であることを意味する。したがって、例えば、CPU310は一方の画像データに含まれる被写体がうつ伏せであり、他方の画像データに含まれる被写体が横臥である場合には、画像データが一致しないと判定する。CPU310は、画像データが一致しない場合には、既に姿勢の画像データ欄905に記憶された画像データを、今回の撮影のS502において得られた姿勢の画像データに更新して記憶する。なお、姿勢の画像データに限られず、CPU310は、姿勢情報903の姿勢アイコン欄904および第1の傾き情報欄906のうち少なくとも何れかを更新して記憶してもよい。
【0083】
次に、撮像装置200の処理に移る。
S518では、撮像装置200のシステム制御回路220は、情報処理装置300から送信された、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを、通信装置219を介して受信する。
S519では、システム制御回路220は受信した、患部の画像データに、患部領域の抽出結果を示す情報と、患部領域のサイズに関する情報とを重畳した画像データを表示装置223に所定時間表示する。ここでは、システム制御回路220は、図8(a)~(c)に示す画像801~803の何れかを表示し、所定時間が経過することでS503の処理に戻る。
【0084】
以上、本実施形態によれば、ユーザが撮像装置200で患部を撮影するときに、同一の被写体の患部を過去に撮影したときの被写体の姿勢情報をユーザに通知することで、被写体の姿勢を過去に撮影したときと同じ姿勢にして撮影することができる。したがって、ユーザが経過比較をより正確に行うことができる画像を撮影することができる。
また、本実施形態では褥瘡の評価指標としてDESIGN-R(登録商標)を用いているが、これに限定されるものではない。Bates-Jensen Wound Assessment Tool(BWAT)、Pressure Ulcer Scale for Healing(PUSH)、Pressure Sore Status Tool(PSST)などの、他の評価指標を用いてもよい。
【0085】
(第1の変形例)
上述した図5のフローチャートのS502では、被写体の姿勢を撮影する場合について説明したが、この場合に限られない。例えば、S502において、撮像装置200はユーザにより被写体の姿勢を選択できるように構成してもよい。具体的には、S502において、システム制御回路220は、図9(b)に示す姿勢アイコン921~924、あるいは、姿勢を示す文字情報を表示装置223に選択可能に表示する。したがって、ユーザは被写体の姿勢に相当する姿勢アイコン、あるいは、文字情報を選択することができる。S508では、システム制御回路220はユーザが選択した姿勢アイコン(姿勢アイコンの識別情報を含む)、あるいは、文字情報を情報処理装置300に送信する。
このようにユーザが被写体の姿勢を選択できるようにすることで容易に被写体の姿勢を特定することができる。また、姿勢の画像データを送受信する処理を省略することができるので、情報処理システム1の処理負担を軽減することができる。
【0086】
(第2の変形例)
上述した図5のフローチャートのS538では、過去に患部を撮影したときの被写体の姿勢をユーザに対して通知するために、被写体情報900の姿勢情報903を撮像装置200に送信する場合について説明したが、この場合に限られない。例えば、S537において、対象の患者IDに対応する被写体情報900が記憶装置312に記憶されていないと判定された場合には、CPU310は姿勢情報903を撮像装置200に送信しなくてもよい。すなわち、S537において対象の患者IDに対応する被写体情報900が記憶装置312に記憶されていない場合とは、今回、初めて被写体を撮影するために、過去に患部を撮影したときの被写体の姿勢をユーザに通知する必要性は少ないためである。
【0087】
(第3の変形例)
上述した図5のフローチャートのS510では、システム制御回路220が過去に患部を撮影したときの被写体の姿勢を表示装置223に表示する場合について説明したが、この場合に限られない。例えば、システム制御回路220は、図示しない音響装置を用いて音により過去に患部を撮影したときの被写体の姿勢を通知してもよい。
【0088】
以上、本発明を種々の実施形態および変形例と共に説明したが、本発明は上述した実施形態および変形例にのみ限定されるものではなく、本発明の範囲内で変更等が可能であり、上述した実施形態および変形例を適時、組み合わせてもよい。例えば、情報処理装置300において解析する対象は患部に限られず、画像データに含まれるオブジェクトであってもよい。
【0089】
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記録媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【符号の説明】
【0090】
1:情報処理システム
200:撮像装置
211:撮像ユニット
216:測距システム
217:画像処理回路
219:通信装置
220:システム制御回路
223:表示装置
225:傾き検知装置
300:情報処理装置
311:演算装置
312:記憶装置
313:通信装置
317:補助演算装置
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10