(58)【調査した分野】(Int.Cl.,DB名)
居室内の情報を取得・処理するセンサユニットとセンサユニットが発する通報の介護者や家族への伝達と、センサユニットへのコマンド送信とを行う情報送受信ユニットを有する個室見守り装置であって、
センサユニットは、制御部、演算処理部、情報送受信部を内包する電気・電子ブロックと、データ取得部を構成する光学ブロックとを有し、
光学ブロックは、複数の赤外線輝点アレイ投光器、撮像装置、LED拡散光照明器、水準器、照度計を有する個室見守り装置。
請求項1に記載の個室見守り装置であって、更に、被介護者とともに居室に入った介護者が被介護者を残して単独退出した時、センサが「通常の見守りモード」となるよう再設定する手動及び自動の手段を有することを特徴とする個室見守り装置。
【背景技術】
【0002】
夜間の高齢者介護施設では、多くの個室(被介護者用居室)を受持つ介護士の負担が大きく、それが不慮の事故発生の要因ともなっている。一人の介護士が、移動時間も入れて1室3分で各室を巡回するとするものとする。仮にその介護士の担当が15室あるとすると、全室を見回るのに最低45分を要し、1部屋については42分間が「空白の時間帯」ということになってしまう。
【0003】
不幸な事故というのは得てしてそのような時間帯に起きるものである。本「高齢者個室見守り装置」(以下、「個室見守り装置」という。)は、そのような「空白の時間帯」を介護者に代わって見守り、異常事態発生の際には遅滞なく他所に居る担当の介護士にその旨通報する機能を有するものである。勿論この装置は、一般の家庭環境においても使用可能である。
【0004】
本技術の背景は、以下に示す特許文献1、2に開示されているパターン投影法による3次元物体形状計測にあり、本発明の装置では対象空間への赤外線輝点アレイ照射と三角測量法による各輝点の移動量計測により、対象空間内の物体の位置と形状を取得する手法がその基本原理を形成している。
【0005】
従来から、被介護者のベッドでの起床を判断するセンサや、被介護者がベッドから床へ移動したことを検知するセンサ、あるいは、被介護者の転倒を検知するセンサが開発されている。
【0006】
特許文献3には、室内を、ベッド領域、ベッドサイド領域、それに、床領域に区画して、それぞれの領域に対応して設定された基準高さと、3次元距離検知手段を用いて獲得された被介護者の高さ方向情報とを比較することにより、各領域内での被介護者の状態を判断し、状況に応じて、外部に通報することを特徴とするベッド及び室内の見守りシステムが提案されている。
【0007】
特許文献4には、ステレオカメラ等で取得された、被介護者の撮影画像から抽出された3次元人物領域情報を用いて、領域の高さ、幅、奥行き情報、および、それらの組み合わせによる特徴量を算出し、被介護者の姿勢を判断する装置が提案されている。
【0008】
特許文献5には、人の膝の高さより下に設置され、画像内に床面が写るように設置されたカメラで撮像された動画像に対して計算されたオプティカルフローに基づいて、被介護者の転倒を検知する装置が提案されている。
【0009】
特許文献3の発明では、被介護者のベッドでの起床、ベッドからの離床、ベッドからの転落、ベッドサイドでの転倒、床面上での転倒を判断し、必要に応じて、外部にその状況通報を行うことが可能である。
【0010】
しかしながら、特許文献3においては、前もって、各見守り領域(ベッド領域、ベッドサイド領域、床領域)において、別個に、対象とする領域に被介護者がいない状態での3次元距離データを計測し、各領域での高さ方向データを登録する必要がある。したがって、初期設定の手間がかかること、また、室内のレイアウト変更(ベッドの移動など)に簡単に対応できないという問題がある。
【0011】
特許文献4の発明では、被介護者の転倒等の挙動の発生を検知することが可能である。しかしながら、室内の領域情報が獲得できないため、ベッドの上で横たわるというような挙動も「転倒」として判定される可能性がある。被介護者の姿勢だけなく、室内の形状、ベッドなどの家具の位置をも組み合わせた判定をしない限り、被観測者が真に危険な状況にあるか否かを判断することはできない。
【0012】
特許文献5の発明では、カメラの設置について、「人の膝の高さより下に設置され、画像内に床面が写る」という場所に制限されるため、部屋全体を見渡すことができない。カメラの死角領域内で発生した、被介護者の転倒が検知できないという問題があるため、一つの部屋に複数台のカメラを設置することが必要である。
【0013】
また、特許文献3、4、5のいずれの方法でも、検出できる危険状態が、転倒や離床などの室内で発生する事故に限られている。
【発明の概要】
【発明が解決しようとする課題】
【0015】
本発明は、上述した従来の技術が有する問題点を解決し、見守る部屋の天井中央付近にコンパクトな装置1台を設置するだけで、その部屋で発生した被介護者の生命や健康に関わる不測の事態を漏れなく検出し、遅滞なく介護者に通報できる装置を実現することにある。
【0016】
加えて、夜間の個室からの外出の自動検知、あるいは、個室に設置されたトイレ内での異常発生の自動検知も望まれており、そのためには、個室内の床面やベッドの領域情報だけでなく、個室外に出るためのドアや、個室に設置されたトイレのドアの位置情報も獲得する必要がある。
【0017】
さらに、これらの領域情報と位置情報は、初期設定を効率的に行ったり、個室内のレイアウト変更にも簡単に対応したりできるように、自動的に検出できることが望ましい。
【0018】
また本発明は、以下の三条件の充足を念頭に創案されたものとなっている。
本装置の使用開始及び使用中、介護者に求める操作は単純なものにし、誤操作が生じないようなものにすること。
本装置の被介護者用居室への取付けや移動が簡単かつ短時間で済むようなものとし、取付け者に特別な技能や知識を求めないこと。
取付け後に狂いが生じにくい構造とし、定期的なメンテナンスも光学レンズ表面のクリーニング程度の極簡単な作業で済むようにすること。
【0019】
猶、本装置は、太陽の直接光及び間接光入射がある部屋、白熱電球が点灯している部屋での使用は不可である。ただし、日中であっても、遮光カーテンなどで太陽光を完全に遮断することができ、白熱電球照明がなければ使用できることがある。
【課題を解決するための手段】
【0020】
上記の課題を解決するため、本発明では、個室見守り装置は、個室内の情報を取得・処理するセンサユニットとセンサユニットが発する通報の介護者や家族(以下、「介護者」という。)への伝達と、センサユニットへのコマンド送信を行う情報送受信ユニット(タブレットまたはスマートフォン)によって構成される。猶、センサユニットは、制御/電源部、演算処理部、情報送受信部を内包する電気・電子ブロックと,データ取得部を構成する光学ブロックの二層構造から成り、光学ブロックは赤外線輝点アレイ投光器2器、撮像装置1器、LED拡散光照明器、水準器、照度計を具備する。〔請求項1〕
【0021】
上記の個室見守り装置であって、LED拡散光照明下で撮像された居室内画像に対して、既知の半径のリング形状が描かれたマーカーが居室床上に3枚以上散撒かれた居室内の画像にハフ変換を施すことによりリング形状を検出する手段と、該居室床上に散撒かれたマーカーに描かれたリング形状の既知の半径と、該居室内の画像から検出されたリング形状の半径とに基づいて、該居室床上に散撒かれたマーカーのそれぞれについて、中心からセンサユニットまでの距離を検出する手段と、該居室床上に散撒かれた3枚以上のマーカーについて検出された中心からセンサユニットまでの距離に基づいて、床面と撮像レンズの主面との傾き角を検出する手段、とを有することを特徴とする個室見守り装置である。〔請求項2〕
【0022】
上記の個室見守り装置であって、赤外線輝点アレイ投光器により投光された輝点群の高さ分布画像(以下、「高さマップ」という。)の角度を少しずつ変えながら各角度方向への投影(以下、「プロジェクション」という。)を取得する手段と、そのプロジェクションのエントロピーが最小となる角度を定めることによって、「高さマップ」の水平方向の傾きを正規化する手段と、エントロピー値が最小となるように壁位置算出時の居室水平方向の回転を補正する手段、とを有することを特徴とする個室見守り装置である。〔請求項3〕
【0023】
上記の個室見守り装置であって、LED拡散光照明下で撮像された居室内画像に対して移動物体のオプティカルフローを計算する手段と、計算されたフローベクトルをフローベクトルから移動物体の位置を特定する手段と、移動物体と等価の慣性モーメントを有する楕円を求める手段と、赤外線輝点アレイを投光して撮像された画像において、その楕円によって囲まれる領域内に存在する各輝点に対して、移動物体の3次元座標を求める手段、とを有することを特徴とする個室見守り装置である。〔請求項4〕
【0024】
上記の個室見守り装置であって、移動物体の高さ値(移動物体に関連する輝点群の高さ重心など)が特定の値となった時、人が転倒したものとする手段、を有する個室見守り装置である。〔請求項5〕
【0025】
上記の個室見守り装置であって、移動物体の移動ベクトルを求める手段と、移動ベクトルの時系列を記録する手段と、記録された移動ベクトルの量子化された偏角に関する度数分布からエントロピーを計算する手段と、エントロピーの計算値により徘徊状態を判定する手段、とを有することを特徴とする個室見守り装置である。〔請求項6〕
【0026】
上記の個室見守り装置であって、LED拡散光照明下で撮像された居室内画像に対して、居室外に出るためのドア(以下、「居室ドア」という。)直前居室床上に特定のシンボルが描かれたマーカーが置かれた居室内の画像から該マーカーを検出する手段と、被介護者の居室外退出(以下、「外出」という。)を検出する手段、とを有することを特徴とする個室見守り装置である。〔請求項7〕
【0027】
上記の個室見守り装置であって、LED拡散光照明下で撮像された居室内画像に対して、トイレドアの直前居室床上に特定のシンボルが描かれたマーカーが置かれた居室内の画像から該マーカーを検出する手段と、被介護者の長時間トイレ入室状態を検出する手段、とを有することを特徴とする個室見守り装置である。〔請求項8〕
【0028】
上記の個室見守り装置であって、高さマップに関連し、求められた各投影輝点のxyz座標から、居室内に存在し別に定められる特定高さ範囲内にあり特定の面積以上の物品を検出する手段と移動物体の動線が、その位置で停止したことを検知する手段、とを有することを特徴とする個室見守り装置である。〔請求項9〕
【0029】
上記の個室見守り装置であって、高さマップに関連し、求められた各投影輝点のxyz座標から、居室内に存在し別に定められる一定高さ範囲内にあり一定面積範囲内にある物品を検出する手段と移動物体の動線が、その位置で停止したことを検知する手段、とを有することを特徴とする個室見守り装置である。〔請求項10〕
【0030】
上記の個室見守り装置であって、被介護者とともに居室に入った介護者が被介護者を残して単独退出した時、センサが「通常の見守りモード」となるよう再設定する手動及び自動の手段、を有することを特徴とする個室見守り装置である。〔請求項11〕
【0031】
本発明の効果は、見守る部屋の天井中央近くに本装置1台を取付けるだけで、その部屋で発生した被介護者の生命や健康に関わる不測の事態を被介護者のプライバシーを侵害することもなく検出し、遅滞なく介護者に通報できるようになる。
【発明を実施するための形態】
【0033】
以下、本発明を実施するための形態を本発明に係る一実施例の実施形態に沿って、図面を参照しながら説明する。
【0034】
図1は本発明の一実施例の構成を示すブロック図である。本個室見守りシステムは、制御/電源部111、演算処理部112、情報送受信部113、データ取得部114からなるセンサユニット115とセンサユニット115からの通報の介護者や家族(以下、「介護者」という。)への伝達と、センサユニットへのコマンド送信を行う情報送受信ユニット116(タブレットまたはスマートフォン)によって構成される。(
図1)
【0035】
また、センサユニット115は、制御/電源部111(制御部と電源部に分けてもよい。)、演算処理部112、情報送受信部113を内包する電気・電子ブロック117とデータ取得部114を構成する光学ブロック118の二層構造から成る。センサユニットの大きさは、底面が200mm×200mm、高さが180mmであり、形状は立方体形状または円筒形状である。センサユニット115には、赤外線透過フィルタから成るカバー127が取り付けられる。また、光学ブロック118は、以下に説明する投光器125、126、LED(発光ダイオード)拡散光照明器121、撮像装置122、水準器123、照度計124によって構成される。(
図2)なお、本実施例では、以下、投光器が2器の例を用いた例を説明するが、別の実施例として、3器以上の投光器を用いてもよい。
【0036】
猶、被介護者が使用する部屋(以下、「居室」という。)への設置は、同室天井中央付近とし、床面に対して水平に取り付ける必要がある。
【0037】
投光器として、居室内に、約2,000本の赤外線レーザービームを正方格子状に投光する「輝点アレイ投光器」(以下、「投光器」という。)2器125、126をセンサユニット115内に配し、1器ずつ切替えて(毎秒3回から10回)
図3a、bに示すごとく、居室に半分ずつ投光することにより、部屋全体に隈無く計約4,000点の赤外線輝点群を投影できるようにする。
【0038】
LED(発光ダイオード)拡散光照明器121として、センサユニット内撮像装置122近傍に、(a)居室内で動く物体のオプティカルフローベクトル取得、及び(b)被介護者の着衣生地不変アルゴリズム適用のため、投光器125、126に使用するLD(レーザーダイオード)と同波長の近赤外光を発するLED照明器121を配置し、居室全体が照明されるように配置する。
【0039】
撮像装置122は2器の投光器125、126によって室内に投影された輝点群を撮像するため、
図2に示すごとく、センサユニット中央部に1器の撮像装置(CCDカメラ等)122を配す。撮像装置内のシャッター141(図示せず)は、
図4のタイミング図に示すように、2器の投光器125、126、および、LED拡散光照明器121と同期して動作する。
【0040】
撮像装置122により取得されるフレームデータは、2器の投光器125、126のそれぞれから赤外線輝点アレイを投光した状態で取得された居室内画像2枚、および、LED拡散光照明器121から近赤外光が照明された状態で取得された居室内画像1枚の計3枚が一組となって処理される。
【0041】
水準器123はセンサユニットの設置作業(居室床面に水平に取付ける作業)を容易にするため、センサユニット内の視認性の良い位置に
図2に示すごとく水準器123を取付ける。
【0042】
照度計124は本装置使用者に、外乱光の影響で本センサの正常な動作が保証できなくなる明るさ状態を正確に通知するため、センサユニット内撮像装置近傍に、
図2に示すごとく照度計124を配置する。照度計124の受光量が別途定めた一定の値を越えた場合、センサユニットは通報ユニットを介し、使用者に「現状では、正常に守りを行うことが出来ない」という通知、また「居室の明るさ(厳密には、居室に入射する投光器波長光量)の低減」を求める要求を発するようにする。
【0043】
情報送受信ユニット116:センサユニット115からの通報の受取りには、市販のタブレットやスマートフォンを用いる。これらが有する機能として、情報送受信部119では、センサユニット115からの各種通報(安全、転倒、室内徘徊、外出、長時間トイレ、気絶/転寝、異常行動など)の受信とセンサユニット115へのコマンド送信(見守りセットアップ等)を行い、表示・操作部120では、情報送受信部119で受信した各種情報の表示及び、情報送受信部119から発信するコマンドの設定を行う。
【0044】
装置が具備する機能(ソフトウェア):
図5に演算処理部112において動作する演算処理全体のフローを示す。本装置は、(1)床面、ドア、および、トイレドアの検出、(2)居室形状、および、大型家具位置の取得、(3)人体の検出、(4)転倒の検知、(5)室内徘徊の検知、(6)外出、および、長時間トイレの検知、(7)ベッドの検出、(8)ベッド上及び床以外の場所での気絶及び転寝検知、(9)複数人への対応、の機能を含む。
【0045】
(1) 床面検出及びドア、トイレドア位置検出:
本個室見守りシステムを居室内に設置する際に、床面とセンサとの距離を自動計測する。また、居室外に出るためのドア、トイレのドアの位置を検出する。
図6に処理フローを示す。なお、本実施例では、以下、トイレのドアを用いる例について説明するが、別の実施例として、トイレ以外の別室のドアを用いてもよい。
【0046】
(i)居室床面上障害物が無い場所に、
図7に示すような「リング形状」が描かれた「床高検知用マーカー」171を適宜3枚以上散撒く。(
図6ステップ602)なお、床高検知用マーカー171においては、リングの内部は空白である。
【0047】
また、居室外に出るためのドア(扉)直前の床面上には、
図8に示すようにリング内に二等辺三角形の印が描かれた「ドア位置検知用マーカー」181を、また、トイレのドア(扉)直前の床面上には、
図9のようにリング内に「T」の字が描かれた「トイレドア位置検知用マーカー」191を置く。
【0048】
以下では、「床高検知用マーカー」171、「ドア位置検知用マーカー」181、「トイレドア位置検知用マーカー」191を総称して、「床面上マーカー」172という。床面上マーカー172においては、リング形状の半径R[mm]は、別途決められた値(たとえば、15cm)に固定されている。「床面上マーカー」172は、システムの設置作業終了後に撤去する。
【0049】
(ii)LED(発光ダイオード)拡散光照明器121から近赤外光が発せられた状態で、撮像装置122により撮像された、
図10に示すようなデジタル画像信号(以下、「LED照明画像」と呼ぶ)192を取得する。(
図6ステップ603)
【0050】
(iii)LED照明画像192からエッジを検出する。(
図6ステップ604)
図11は、
図10のLED照明画像192から検出されたエッジを示したエッジ画像193である。
【0051】
このエッジ画像193にハフ変換による円の検出演算を施し、エッジ画像193に含まれるリング形状を抽出する。(
図6ステップ605)
【0052】
別途定められている、センサを設置する天井の高さの最大値と最小値を、それぞれ、HmaxとHmin(たとえば、Hmax=2500mm、Hmin=1900mm)、また、マーカーに描かれたリング形状の半径をR[mm]、光学系の焦点距離をF[mm]、受光素子のサイズをS[mm]とすると、エッジ画像193上で検出する円の半径の範囲を、最小R・F/(Hmax・S)[pixel]、最大R・F/(Hmin・S)のように制限できる。
【0053】
たとえば、
図12に示した斜線部分(床面上マーカー201、床面上マーカー202、床面上マーカー203、総称する場合は床面上マーカー172)が、
図11に示したエッジ画像からハフ変換によって検出されたリング形状である。ハフ変換による円の検出演算の結果として、散撒かれた各々の床面上マーカーについて、その中に描かれたリング形状の半径ρ’[pixel] と中心位置の画像座標(α’[pixel],β’[pixel])が求められる。(
図6ステップ606)
【0054】
(iv)次に、各々の床面上マーカー172について、ハフ変換によって求められた半径と中心位置を高い精度で計算する。半径ρ’[pixel]と中心(α’ [pixel],β’[pixel])を持つ円周付近に存在するエッジ画素(xi[pixel],yi[pixel]、i=1,2,・・・・,M,すなわち、εを別途決めた閾値として、
【数1】
を満たすエッジ画素(xi[pixel],yi[pixel])に対して、円の方程式
【数2】
を最小二乗法によりフィッティングすることにより、リング形状の半径ρ [picxel]と中心の画像座標(α[picxel], β[picxel])をサブピクセルの精度で計算する。
【0055】
すなわち、評価関数 J(a,b,c)
【数3】
を最小化するa,b,cの値を最小二乗法により計算し、リング形状の半径ρ[pixel]と中心の画像座標(α[pixel],β[pixel])を、次式により求める:
【数4】
【0056】
X’Y’平面(Z’=0)が撮像レンズの主面に一致し、Z’軸が主点を通る光軸に一致するようなX’Y’Z’座標系を「カメラ座標系」として定める。各床面上マーカーに対して、求められたリング形状の半径ρ[pixel]を用いて、リングの中心から主面までの距離 H[mm]を次式で計算する:(
図6ステップ607)
【数5】
床面上マーカー172の中心のカメラ座標(x’[mm],y’[mm],z’[mm])は、次式により求められる:
【数6】
【0057】
(vi)床面上マーカー172は、最低3枚散撒くので、各床面上マーカー172から計算されたH[mm]を使って、センサユニットの取り付け傾き角(以下、「傾き角」という。)を算出できる。(
図6ステップ608)
【0058】
床面上マーカー172の個数をN、上記のように計算されたi番目(i=1,2,・・・,N)床面上マーカーの中心のカメラ座標を (Ai[mm」,Bi[mm],Hi[mm」)とする。最小二乗法によって
【数7】
を最小にするような3つのパラメータa,b,cの値を計算すると、撮像レンズの主面上の任意の位置(カメラ座標)(X’[mm],Y’[mm],0[mm])と床面との距離 H(X’,Y’)[mm]が一次式
【数8】
で表される。
【0059】
床面と主面とが平行であれば、a=b=0,c=Hi(i=1,2,・・・,N) となる。一般に、床面と主面との間の「傾き角」ψ[radian]は、次式で算出される:
【数9】
(vii)上記(vi)の結果を用い、室内に居る人や室内にある物品(家具など)の居室床面からの高さ(以下、「床上高」という。)を求める。
【0060】
傾き角ψ[radian]が別途定める閾値未満であるときには、Hi[mm](i=1,2,・・・,N)の平均値H[mm]を取って、主面と床面との距離とする。しかし、数式9の「傾き角」ψ[radian]が別途定める閾値を超えた場合、床面上に存在する人物や物品の床上高をその位置により補正する。この方法については、以下の(xiii)で述べる。
【0061】
(viii)次に、床面上マーカー172のリング内部の画像処理を行うことによって、床面上マーカー172の種類、すなわち、「床高検知用マーカー171」、「ドア位置検知用マーカー181」、「トイレドア位置検知用マーカー191」を判別する。(
図6ステップ609)
【0062】
この処理フローを
図13のフロー図に示す。N個の床面上マーカー172が検出されたとき、i番目(i=1,2,・・・・,N)の床面上マーカー172のそれぞれについて、以下の処理を行う。たとえば、
図12の例では、N=3である。
【0063】
(ix)i番目の床面上マーカー172について、リングの内部にある画素を輝度により二値化する。(
図13ステップ1304)
図14と
図15は、それぞれ、
図12の床面上マーカー201と床面上マーカー202のリング内部の二値化画像である。二値化された後の黒画素の個数が別途定める閾値未満であれば(
図13ステップ1305)、(
図13ステップ1310へ飛び終了、)リングの内部が空白、すなわち、そのリングは「床高検知用マーカー171」と判定する。
図12の床面上マーカー203において、リングの内部は空白であるので、「床高検知用マーカー」171となる。
【0064】
閾値以上であれば、リング内部の二値画像について、「慣性等価楕円」と外接矩形を計算する。「慣性等価楕円」とは、該二値画像と等価のモーメントを持つ楕円(周囲と内部)である。
図16と
図17に、それぞれ、
図14と
図15の二値画像から計算した慣性等価楕円251、および、外接矩形252を示す。
【0065】
(x)「慣性等価楕円」251は次のようにして求める。まず、f(x,y)を二値画像fの画素(x[pixel],y[pixel]の値(白:0、または、黒:1)とすると、(p,q)次のモーメントMpqは、
【数10】
と定義される。
【0066】
一般に、楕円の周囲と内部を表す方程式は、a[pixel]とb[pixel]をそれぞれ長軸と短軸の長さ(ただし、a≧b>0)、θを楕円の長軸とx軸の正の向きがなす角度、(x
0[pixel],y
0[pixel])を楕円の中心として、次のように、行列の2次形式で記述される(tは行列の転置、−1は逆行列を表す)
【数11】
【0067】
「慣性等価楕円」251においては、(x
0[pixel],y
0[pixel])は、正規化された1次モーメント(重心)
【数12】
であり、また、正規化された重心の周りの2次モーメント
【数13】
を要素とする正定値対称行列(固有値が必ず正の値になる)
【数14】
の固有値をλ
1とλ
2(λ
1≧λ
2>0)としたとき、長軸と短軸の長さaとbは、
【数15】
であり、長軸の角度θは、固有値λ
1に対応する固有ベクトルとx軸の正の向きがなす角度
【数16】
である。
【0068】
(xi)慣性等価楕円251の2次モーメントから求められた、楕円の長軸方向θによって、リング内部のシンボルの方向が、縦向きであるか、あるいは、横向きであるか、が判定される。たとえば、
図16では横向き、
図17では縦向きとなる。(
図13ステップ1306)
【0069】
さらに、慣性等価楕円251の中心位置と、外接矩形252の中心位置を比較することにより、上下左右の向きが判定できる。たとえば、
図16については、慣性等価楕円251の中心が外接矩形の中心より左に位置しているので、もし、リング内部が「トイレドア位置検知用マーカー」191を表す「T」であれば左向き、「ドア位置検知用マーカー」181を表す二等辺三角形であれば右向きとなる。
【0070】
図17については、慣性等価楕円251の中心が外接矩形252の中心より上に位置しているので、もし、リング内部が「T」であれば上向き、三角形であれば下向きとなる。
【0071】
そして、判定された向きに応じて、リング内部(
図14と
図15)が、三角印なのか、「T」なのかを、パターン識別の手法を用いて識別する。これには、テンプレートマッチングなどの公知の方法を用いる。(
図13ステップ1307)
【0072】
(xii)このようにして、床面上マーカー172が「ドア位置検知用マーカー」181なのか、あるいは、「トイレドア位置検知用マーカー」191なのかを判定し、さらに、マーカーの向きを判定する。リング内部のシンボルの向きにより、大方の「ドア位置」195、あるいは、「トイレドア位置」196を検出する。(
図13ステップ1308)たとえば、
図18のように、「トイレドアが「トイレドア位置検知用マーカー」191の左にある」、ドアが「ドア位置検知用マーカー」181の下にある」というように、大方の位置が検出される。以上が
図13および
図6のステップ609の処理である。
【0073】
(xiii)上記(vi)の結果を用いた「床上高」の算出は、次のように行う。撮像装置122について説明したように、LED照明画像と並行して取得している、赤外線輝点アレイを居室内に投光した輝点投影画像を用いて、居室内の物体上、あるいは、人物上に投影された各輝点の3次元座標を計算する。特許文献1、あるいは、特開2005−5912号公報に開示されているような公知の方法によると、居室内で取得された輝点投影画像(以下、「取得像」という)の他に、各輝点の3次元座標が既知であるような「基準輝点画像」(以下、「基準像」という)を用意し、取得像上の輝点と、基準像上の輝点との対応を取り、互いに対応する輝点の位置ずれから三角測量の原理によって、取得像上の輝点の3次元座標が計算できる。
【0074】
本発明では、前もって、撮像レンズの主面と平行で、主面との距離が既知の平面に赤外線輝点アレイを投影した輝点画像を取得し、各輝点の位置情報を記憶しておく。
図19は取得像の例、
図20は基準像の例である。
【0075】
特許文献1、あるいは、特開2005−5912号公報に開示されている方法によって、輝点投影画像において、輝点{(xi[pixel],yi[pixel]):i=1,2,・・・,M}に対して、カメラ座標(X’i[mm],Y’i[mm],Z’i[mm])を計算する。Z’座標は、主面と輝点との距離を表す。
【0076】
各輝点の床面からの高さは次のように算出される。傾き角 ψ[radian]が別途定める閾値未満であるときには、前述の「床面上マーカー」172の設置により求められている、主面と床面との平均距離 H[mm]とZ’i[mm]との差(H−Z’i)が、床上高 Zi[mm]となる。閾値以上であるときには、主面上の任意の位置(カメラ座標)(X’[mm],Y’[mm],0[mm])と床面との距離が一次式 数式8として求められているので、場所に応じて、床上高 Zi[mm]は、次式で計算される:
【数17】
【0077】
ここで、XY平面(Z=0)が床面に一致し、X=X’,Y=Y’,Z=H(X’,Y’)−Z’であるようなXYZ座標系を「ワールド座標系」と定める。
上記の計算手順に従って、各輝点の画像座標{(xi[pixel],yi[pixel]):i=1,2,・・・,M}に対応する3次元空間での点のワールド座標{(Xi[mm],Yi[mm],Zi[mm]:i=1,2,・・・,M}が求められる。
【0078】
居室形状、および、大型家具位置の取得:
本個室見守りシステムを居室内に設置する際に、居室の形状、および、大型家具の位置を自動検出する。
【0079】
(i)各投影輝点のXYZワールド座標から、居室の壁の位置、および、大型家具の位置を検出する。前提条件として、居室の壁、あるいは、大型家具の側面は、互いに直交する方向に配置されているとする。理想的には、3次元空間において、壁面、あるいは、大型家具の側面は、「X=一定」、あるいは、「Y=一定」、で表される平面として検出される。しかし、実際には、センサ取り付けの際の誤差により、未知の角度θをパラメータとして、「X=Y・tanθ+定数」、あるいは、「Y=X・tanθ+定数」、で表される平面として検出される。そこで、居室水平方向の回転を補正する必要がある。
【0080】
(ii)XYZワールド座標で、Z軸の周りにθだけ時計回りに回転したX’Y’Z’座標
【数18】
における、各投影輝点の3次元座標(x’(θ),y’(θ),z’(θ))について、x’(θ)とy’(θ)の周辺分布(プロジェクション)を求める。実際には、x’(θ)とy’(θ)の値を量子化し、ヒストグラムを算出する。求めたヒストグラムから計算される、i番目の量子化値の出現確率pi(x’(θ))とqi(y’(θ))とからエントロピーH(θ)を求める:
【数19】
【0081】
θを、たとえば、−10°から10まで1°刻みで変化させて、上記エントロピーH(θ)を計算する。エントロピーが最小になるときの角度θ
0を用いて、各輝点の3次元座標を(x’(θ
0),y’(θ
0),z’(θ
0))に変換することによって、居室水平方向の回転を補正する。この結果、壁面、あるいは、大型家具の側面は、「X’(θ
0)=一定」、あるいは、「Y’(θ
0)=一定」、で表される平面として検出される。
【0082】
(iii)θ=θ
0の場合のx’(θ
0)、および、y’(θ
0)の周辺分布pi(x’(θ))およびqi(y’(θ))、それぞれにおいて、出現確率が、たとえば、第1位から第5位となる位置をもって居室壁または居室内に置かれた大型家具の位置とする。なお、上記の実施例では、「第1位から第5位となる位置」を用いたが、「第5位」の代わりに別の順位を用いてもよい。
【0083】
人体の検出:
図21に人体検出の処理のフローを示す。
(i)まず、J番目(J>1)のフレームのLED照明画像と輝点投影画像を取得する。(
図21ステップ212)
保持しておいた一つ前の(J−1)番目フレームのLED照明画像と、J番目フレームのLED照明画像を用いて、オプティカルフローを計算する。(
図21ステップ214)
【0084】
オプティカルフローとは、時間t[秒]における、画像fの画素(x[pixel],y[pixel])における輝度をf(x,y,t)としたとき、時間t[秒]と時間t+Δ[秒]の間に物体が (x,y)→(x+v,y+w)のように移動すると、2つのフレームの間では、対応する画素の輝度が等しいという関係、すなわち、f(x,y,t)=f(x+v,y+w,t+Δ)の関係があることを利用して、フレーム間の動きベクトル(v[pixel],w[pixel])を検出する方法である。
【0085】
オプティカルフローを求める手段としては、Lucas−Kanadeの方法、Gunnar−Farnebackの方法など既知のものを用いる。オプティカルフローの計算結果として、(J−1)番目フレームのLED照明画像の各画素(x[pixel],y[pixel])に対して、動きベクトルの場(v(x,y)[pixel],w(x、y)[pixel])が出力される。
図22は(J−1)番目フレームのLED照明画像、
図23はJ番目フレームのLED照明画像、
図24は計算されたオプティカルフローである。
【0086】
(ii)次に、移動物体に対応する画素集合から構成される二値画像を構築する。(J−1)番目フレームの画素(x[pixel],y[pixel])に対して、移動ベクトル(v(x,y)[pixel],w(x,y)[pixel])の大きさが別途決められた範囲内である場合に、対応するJ番目フレームの画素(x+v(x,y)[pixel],y+w(x,y)[pixel])が値1(黒画素)であるような二値画像を構築する。また、この二値画像において、孤立した黒画素を除去する。これには、周囲δ画素(δは別途定めたパラメータ)以内に存在する黒画素の個数が、別途定めた閾値未満のものを値0(白画素)に変えればよい。
【0087】
このようにして求められた二値画像に対して、上述したような方法で「慣性等価楕円」を計算する。(
図21ステップ215)
図25は、移動物体に対応する二値画像と、対応する慣性等価楕円251である。
【0088】
(iii)赤外線輝点アレイを居室内に投光して得られる、J番目フレームの輝点投影画像を用いて「慣性等価楕円」251の内部に存在する輝点の画像座標{(xi[pixel],yi[pixel]):i=1,2,・・・,M}に対して、対応する3次元空間での点のワールド座標{(Xi[mm],Yi[mm],Zi[mm]:i=1,2,・・・,M}が求まる。(
図21ステップ216)
図26はJ番目フレームの輝点投影画像と慣性等価楕円251の例である。
【0089】
(iv)次に、慣性等価楕円251内の輝点群の高さ「高さ重心」または「高さ分布の重心よりk・σ位置(k>0)」または「高さの累積分布のα%(たとえば、α=90)位置」を求めることにより「人の高さ」を計算する。具体的には、3次元空間での点のワールド座標{(Xi[mm],Yi[mm],Zi[mm]:i=1,2,・・・,M}に対して、高さ重心μ[mm]
【数20】
または、高さ分布の重心よりk・σ(k>0)位置μ+k・σ[mm]
【数21】
または、高さの累積分布のα%に対応するZi[mm]を「人の高さ」と設定する。
【0090】
(v)上記の{(Xi[mm],Yi[mm],Zi[mm]:
i=1,2,・・・,M}の重心を、J番目のフレームから計算された「人の位置」Pjに設定する:(
図21ステップ217)
【数22】
【0091】
(vi)P
2,P
3,…,P
J,…を順次連結することによって、「人の動線」を検出することができる。なお、J番目のフレームにおいて、移動物体が検出されない場合には、人の位置P
Jを前のフレームの位置を引き継ぐ(P
J=P
J−1)ように設定する。
図27は「人の動線」253の例であり、直近のフレームで計算された慣性等価楕円251を重ねて表示している。
【0092】
転倒検知:上記「人の高さ」が100mm以上400mm以下となったとき、対象人物が転倒したものとし、介護者に警告を発する。
【0093】
室内徘徊検知:上記(v)で求めた「人の位置」(数式22)の履歴=人の動線を、過去Lフレーム分だけ保持する。J番目フレーム(J>L)を処理しているとき、過去Lフレームの人の位置の履歴
【数23】
から、移動ベクトルの偏角を計算する(Δ≧1は別途定めた値):
【数24】
【0094】
そして、区間[0°,360°]を間隔δ°で量子化し、偏角の度数分布
【数25】
(ただし、Πiは、偏角がiδ°以上、(i+1)δ°未満であるような移動ベクトルの度数)を計算する。そして、度数分布Πから計算される、確率分布p={p
i:i=0,1,・・・,2M−1}
【数26】
に対して、下記数式27で記述されるエントロピー H(p)を計算する:
【数27】
このエントロピーは、人の動きの角度変化のランダムネスを測るものである。エントロピーの計算値が別途定める値を越した場合、そのタイミングをもって、「人が室内を徘徊している」とする。
【0095】
また、居室が狭い場合には、特定方向を行き来するような「徘徊」をすることもあり得る。そのような場合には、互いに180°対称な角度のみに頻度が集中するため、エントロピーH(p)は十分に高い値を示さないことがあり得る。もう一つの基準として、確率分布pの180°対称性を測る尺度を用いる。180°対称な方向の度数を平均化した確率分布q={q
i:i=0,1,・・・,2M−1}を計算する:
【数28】
そして、確率分布 p の180°対称性を測る尺度として、確率分布pのqに対する「相対エントロピー」(「カルバック・ライブラー情報量」ともいう)を計算する:
【数29】
このカルバック・ライブラー情報量は、偏角の度数分布が180°対称の場合、値ゼロを取る。通常のエントロピーによる基準に加えて、相対エントロピー(カルバック・ライブラー情報量)の計算値が別途定める値以下の場合にも、そのタイミングをもって、「人が室内を徘徊している」とする。
【0096】
外出及び長時間トイレの検知:上記「人体の検出」(vi)で言う「動線」が、この「ドア位置」で途切れた(扉位置での動線消失)場合、「被介護者が居室外に出た」ものとし、その状態が長時間に及んだ場合、介護者に警告を発する。あるいは、「動線」が、この「トイレドア位置」で途切れた場合、「人がトイレに入った」ものとし、その状態が長時間に及んだ場合、介護者に警告を発する。
【0097】
ベッドの検出:
(i)赤外線輝点アレイを居室内に投光して得られる輝点投影画像を用いて、ベッドの領域を検出する。上記の「居室形状取得」と同様に、各投影輝点に対して、XYZワールド座標を計算する。
(ii)次に、ベッドの高さが床面から400mmから600mmであることを想定して、床面からの高さが400mmから600mmであるような輝点について、XY座標で計算した2次元ユークリッド距離が200mm以下であるような輝点のペアをグループ化する。すなわち、すなわち、床面からの高さが400mmから600mmであるような3個の輝点A、B、Cついて、2つの輝点AとBの2次元ユークリッド距離が200mm以下であり、かつ、2つの輝点BとCの2次元ユークリッド距離が200mm以下である場合、3つの輝点A、B、Cを同じグループに分類する、という操作を再帰的に施すことにより、輝点をグループに分類する。これには、グラフ理論の連結成分を求めるアルゴリズム(たとえば、深さ優先探索アルゴリズム)を使うことができる。
【0098】
(iii)各グループについて、xy平面上で、そのグループに属するすべての輝点を内包する、最小の矩形を算出する。なお、矩形の辺は、x軸、または、y軸に平行とする。
【0099】
(iv)グループが2個以上見つかった場合には、矩形の面積が最大のものを一つ選び、また、グループが見つからなかった場合には、矩形の面積を0に設定する。その矩形の面積が1.5m
2以上であれば、その矩形領域をベッドとして検出する。
【0100】
(v)上記「動線」が、その位置で停止し、それが長時間に継続した場合、「人がベッドの上に寝ている」ものとする。
【0101】
ベッド上及び床以外の場所での気絶及び転寝の検知:
(i)赤外線輝点アレイを居室内に投光して得られる輝点投影画像を用いて、ベッドの領域を検出する。上記の「居室形状取得」と同様に、各投影輝点に対して、XYZワールド座標を計算する。
【0102】
(ii)次に、ソファーやテーブルの高さが床面から400mmから800mmであることを想定して、床面からの高さが400mmから800mmであるような輝点について、XY座標で計算した2次元ユークリッド距離が200mm以下であるような輝点のペアをグループ化する。すなわち、床面からの高さが400mmから800mmであるような3個の輝点A、B、Cについて、2つの輝点AとBの2次元ユークリッド距離が200mm以下であり、かつ、2つの輝点BとCの2次元ユークリッド距離が200mm以下である場合、3つの輝点A、B、Cを同じグループに分類する、という操作を再帰的に施すことにより、輝点をグループに分類する。これには、グラフ理論の連結成分を求めるアルゴリズム(たとえば、深さ優先探索アルゴリズム)を使うことができる。
【0103】
(iii)各グループについて、そのグループに属する輝点が構成するXY平面の領域が、上記で求めたベッド領域と重ならない場合、xy平面上で、そのグループに属するすべての輝点を内包する、最小の凸図形を算出する。その図形の面積が0.6m
2以上1.0m
2以下であれば、そのグループの輝点群に、「家具(ソファーやテーブル)」のラベルを付ける。
【0104】
(iv)上記でいう「動線」が、これらの家具の位置で停止した場合、「被介護者がその家具の上にいる」と認識し、その状態が長時間に及んだ場合、介護者に警告を発する。
【0105】
複数人対応:
(i)本装置では「人体の検出」によって自動的に見守りを行うため、「見守り開始」操作を必用としないが、複数の人体を検出し、片方が静止した場合は動いている方を自動的に見守るようになる。
【0106】
(ii)例えば、被介護者とともに入室した介護者が被介護者を残して単独退出する場合、介護者は退出直後に
図1情報送受信ユニット116の表示・操作部120に含まれる「安全確認」ボタンを押して、センサが「通常の見守りモード」となるよう再設定する必要がある。
【0107】
(iii)この手順を怠ったまま一定の時間(t1時間)が経過し、その間に被介護者が部屋の中で(ベッド上で)眠ってしまっている等、動かないと、センサは「被介護者が外出したまま長時間戻らない」と判断して介護者に警報を発する。(この間に、被介護者が動くなどして「人体の検出」が成されると、センサは自動的に通常の見守りモードに移行する。)
【0108】
(iv)警報が鳴ってしまい、それを介護者が気付いた場合、非介護者が実際は外出していないことを確認した介護者は上記「安全確認」ボタンを押すことによって、通常の見守りモードに戻すことが出来る。
【0109】
(v)また、同様に介護者が非介護者を伴って外出した場合や、長時間のトイレ介護をする場合も、非介護者の安全を確認している介護者は「安全確認」ボタンを押すことにより、通常の見守りモードに戻すことができる。
警報が鳴って「安全確認」ボタンを押さない場合は、更に一定の時間(t2時間)が経過した後に、別の形式の警報をならしてもよい。
【0110】
(vi)以上説明した処理フローを
図28に示す。
【0111】
以上説明したとおり、本発明によれば、見守る部屋の天井中央近くに本装置1台を取付けるだけで、その部屋で発生した被介護者の生命や健康に関わる不測の事態を被介護者のプライバシーを侵害することもなく検出し、遅滞なく介護者に通報できるようになる。