(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述したコミュニケーションシステムでは、被験者が文字を選択するために眼を閉じ続ける必要がある。しかし、例えば、脊髄性筋萎縮症(spinal muscular atrophy:SMA)などの筋力が弱い被験者は、意識的に眼をしっかりと閉じることが困難な場合がある。このため、一定時間眼を閉じた状態が続いたことで被験者の瞬きを判定すると、被験者は瞬きをしているつもりでも、瞬きと判定されない場合が生じ、文字を決定することができなくなってしまう。
【0005】
本発明のコミュニケーションシステムおよび瞬き判定方法は、瞬きによるコミュニケーションをよりスムーズに行うことを主目的とする。
【課題を解決するための手段】
【0006】
本発明のコミュニケーションシステムおよび瞬き判定方法は、上述の主目的を達成するために以下の手段を採った。
【0007】
本発明のコミュニケーションシステムは、
被験者の瞬きを利用するコミュニケーションシステムであって、
複数の情報からなる情報群と、該情報群のうちいずれかの情報を被験者に選択させるためのカーソルとを表示する表示手段と、
所定のフレームレートで被験者の眼を撮影して時系列に連続する複数のフレーム画像を取得する撮影手段と、
前記カーソルが前記情報群の各情報を順次移動するよう前記表示手段を制御すると共に前記取得されたフレーム画像に基づいて被験者の瞬きを判定し、被験者の瞬きを判定したときの前記カーソルの位置に基づいて前記情報群のうち被験者が選択した情報を決定する処理制御手段と、
前記決定された情報を外部に認識可能に出力する出力手段と、
を備え、
前記処理制御手段は、前記取得されたフレーム画像において被験者の眼を示す領域が減少したことに基づいて閉眼を判定し、且つ、該閉眼を判定してから取得された所定数のフレーム画像において被験者の眼を示す領域が増加したことに基づいて開眼を判定したときに、被験者が瞬きしたと判定する
ことを要旨とする。
【0008】
この本発明のコミュニケーションシステムでは、所定のフレームレートで被験者の眼を撮影して時系列に連続する複数のフレーム画像を取得し、取得したフレーム画像において被験者の眼を示す領域が減少したことに基づいて閉眼を判定し、且つ、閉眼を判定してから取得した所定数のフレーム画像において被験者の眼を示す領域が増加したことに基づいて開眼を判定したときに、被験者が瞬きしたと判定する。これにより、被験者が一定時間しっかりと眼を閉じ続けなくても、被験者の瞬きを判定することができる。このため、例えば、筋力の弱い被験者が、眼をしっかりと閉じずに弱い瞬きをした場合であっても、瞬きを精度よく判定することができる。この結果、瞬きによるコミュニケーションをよりスムーズに行うことができる。
【0009】
また、本発明のコミュニケーションシステムにおいて、前記処理制御手段は、前記取得されたフレーム画像に基づいて被験者の眼を検出する眼部検出処理を行い、該眼部検出処理で検出した眼の瞳孔部分を含む領域を抽出して基準画像を生成しておき、前記取得されたフレーム画像から眼の瞳孔部分を含む領域を抽出し、該抽出した瞳孔部分を含む領域と前記基準画像との重なり度合いに基づいて、前記閉眼の判定と前記開眼の判定とを行うものとすることもできる。こうすれば、比較的簡易な処理で、閉眼と開眼とを判定することができるから、処理負担が増加するのを抑制することができる。
【0010】
また、本発明のコミュニケーションシステムにおいて、前記処理制御手段は、前記所定数のフレーム画像として、第1の閾値以上のフレーム画像において前記閉眼を判定したときに、被験者が瞬きしたと判定するものとすることもできる。こうすれば、第1の閾値未満の少ないフレーム数の間に閉眼と開眼とが行われるような、被験者の無意識の瞬きを適切に排除して、被験者が意識して行う瞬きを精度よく判定することができる。
【0011】
この態様の本発明のコミュニケーションシステムにおいて、前記処理制御手段は、前記所定数のフレーム画像として、前記第1の閾値よりも大きな第2の閾値以下のフレーム画像において前記閉眼を判定したときに、被験者が瞬きしたと判定するものとすることもできる。こうすれば、第2の閾値を超えるような多くのフレーム数の間に閉眼と開眼とが行われるような、被験者が眼を閉じ続けている状態を適切に排除して、被験者が意識して行う瞬きを精度よく判定することができる。
【0012】
また、本発明のコミュニケーションシステムにおいて、前記処理制御手段は、瞬きの判定の開始に先立って、前記取得されたフレーム画像に基づいて被験者の眼を検出する眼部検出処理を行い、該眼部検出処理で被験者の眼を一旦検出した以降は、瞬きの判定中に前記眼部検出処理を行わないものとすることもできる。ここで、処理制御手段が、眼部検出処理を行っている最中に瞬き判定を並行して行うことができない場合、瞬きの判定中に眼部検出処理を行わないことにより、瞬きの判定に用いるフレーム画像を多くすることができることになる。このため、眼の開閉状態の僅かな変化を捉えて、瞬きをより精度よく判定することができる。なお、筋力の弱い被験者の場合、顔や体を大きく動かすことは困難であり、一旦検出した被験者の眼の位置が大きくずれることはないため、眼部検出処理を行わないものとしても問題が生じるおそれは少ない。
【0013】
また、本発明のコミュニケーションシステムにおいて、前記表示手段は、前記各情報を縦横のマトリックス状に配列して前記情報群を表示し、前記カーソルとして、前記情報群の縦位置を選択するための縦カーソルと、前記情報群の横位置を選択するための横カーソルと、前記情報群を複数のブロックに分割した各ブロックを選択するためのブロックカーソルとを表示可能であり、前記処理制御手段は、前記ブロックカーソルが前記複数のブロックを順次移動するよう前記表示手段を制御し、被験者の瞬きを判定したときの前記ブロックカーソルの位置に基づいて被験者が選択したブロックを決定してから、該決定したブロック内の各情報を処理対象として、前記縦カーソルと前記横カーソルとをそれぞれ順次移動させ、前記縦カーソルの移動中に被験者の瞬きを判定したときの前記縦カーソルの位置と、前記横カーソルの移動中に被験者の瞬きを判定したときの前記横カーソルの位置とに基づいて、被験者が選択した情報を決定するものとすることもできる。こうすれば、縦カーソルや横カーソルを移動させて情報を選択させる範囲を、情報群全体ではなく、情報群を分割したいずれかのブロックに絞ることができるから、被験者がカーソルの移動を見続ける負担を軽減することができる。このため、特に、筋力の弱い被験者の負担を軽減して、瞬きによるコミュニケーションをさらにスムーズに行うことができる。
【0014】
また、本発明のコミュニケーションシステムにおいて、前面に被験者が視認可能に前記表示手段が設けられると共に被験者の眼を撮影可能に前記撮影手段が設けられる薄板状の筐体に、前記表示手段と前記撮影手段と前記処理制御手段と前記出力手段とが収容されたタブレット端末で構成されるものとすることもできる。こうすれば、システムをコンパクトな構成とすることができるから、コミュニケーションシステムの利便性を向上させることができる。
【0015】
本発明の瞬き判定方法は、
所定のフレームレートで被験者の眼を撮影して時系列に連続する複数のフレーム画像を取得し、該取得したフレーム画像に基づいて被験者の瞬きを判定する瞬き判定方法であって、
前記取得されたフレーム画像において被験者の眼を示す領域が減少したことに基づいて閉眼を判定し、且つ、該閉眼を判定してから取得された所定数のフレーム画像において被験者の眼を示す領域が増加したことに基づいて開眼を判定したときに、被験者が瞬きしたと判定する
ことを要旨とする。
【0016】
この本発明の瞬き判定方法では、所定のフレームレートで被験者の眼を撮影して時系列に連続する複数のフレーム画像を取得し、取得したフレーム画像において被験者の眼を示す領域が減少したことに基づいて閉眼を判定し、且つ、閉眼を判定してから取得した所定数のフレーム画像において被験者の眼を示す領域が増加したことに基づいて開眼を判定したときに、被験者が瞬きしたと判定する。これにより、被験者が一定時間しっかりと眼を閉じ続けなくても、被験者の瞬きを判定することができる。このため、例えば、筋力の弱い被験者が、眼をしっかりと閉じずに弱い瞬きをした場合であっても、瞬きを精度よく判定することができる。この結果、瞬きによるコミュニケーションをよりスムーズに行うことができる。
【発明を実施するための形態】
【0018】
次に、本発明の実施の形態を図面を用いて説明する。
図1は、コミュニケーションシステム1の構成の概要を示す構成図である。このコミュニケーションシステム1は、肢体が不自由なためにベッド2で寝たきりで発語も困難な者(以下、被験者という)の瞬きを利用して、コミュニケーションを行うためのシステムとして構成されている。本実施形態では、筋力が弱く、意識して強い瞬きができない被験者とのコミュニケーションを想定して説明する。ただし、そのような被験者に限られず、単に発語が困難な被験者を対象としてもよいし、健常者を対象としてもよい。
【0019】
コミュニケーションシステム1は、ベッド2のサイドガード4に固定されたアームスタンド6と、そのアームスタンド6のクリップ8に取り付けられたタブレット端末10とにより構成されている。なお、タブレット端末10が被験者の顔を向くように、アームスタンド6のアーム角度が調整されている。
【0020】
タブレット端末10は、
図1に示すように、薄板状の本体11の前面に、各種アプリケーションソフトを選択するためのアイコンや各種画面を表示可能な液晶ディスプレイ(LCD)12と、LCD12に表示されたアイコンを選択したりするために操作者(例えば、被験者の介護者など)がタッチ操作可能なタッチパネル14とが組み合わされたタッチパネル式LCDが取り付けられている。また、タブレット端末10の本体11には、前面の
図1中の上部中央に設けられ画像を撮影可能なカメラ16と、
図1中の右側面に設けられ音声を出力可能なスピーカ18と、前面の
図1中の右部中央に設けられ操作者が押下操作可能な操作ボタン19とを備える。なお、カメラ16は、静止画だけでなく、所定のフレームレート(例えば30fpsなど)で時系列に連続する複数のフレーム画像から構成される動画も撮影可能となっている。
【0021】
このタブレット端末10は、その制御ブロックとして、端末全体の制御を司るメインコントローラ20と、LCD12の表示制御を司るLCDメインコントローラ30と、タッチパネル14への入力制御を司るタッチパネルメインコントローラ32と、カメラ16の撮影制御を司るカメラメインコントローラ34と、スピーカ18の音声制御を司るスピーカメインコントローラ36とを備えており、これらは、バス38を介して電気的に接続されている。
【0022】
メインコントローラ20は、CPU22を中心とするマイクロプロセッサとして構成されており、オペレーションソフトや各種アプリケーションソフトなどを記憶するフラッシュメモリ24と、CPU22の作業領域として使用されると共に一時的にデータを記憶するRAM26と、操作ボタン19からの操作信号を入力するインタフェース(I/F)28とを備える。このメインコントローラ20は、タッチパネル14に操作者が行ったタッチ操作に関する操作信号をタッチパネルメインコントローラ32から入力したり、カメラ16で撮影された画像データ(フレーム画像)をカメラメインコントローラ34から入力したりする。また、LCD12に画像の表示を指示する表示信号をLCDメインコントローラ30に出力したり、スピーカ18に音声の出力を指示する音声信号をスピーカメインコントローラ36に出力したりする。
【0023】
次に、こうして構成されたコミュニケーションシステム1の処理について説明する。
図2は、瞬きによるコミュニケーション処理の一例を示すフローチャートである。本実施形態のタブレット端末10には、瞬きによるコミュニケーションを行うためのアプリケーションソフトがフラッシュメモリ24に記憶されており、そのアプリケーションソフトを選択するためのアイコン(例えば、眼を模したアイコン)がLCD12に表示されているものとした。そして、操作者(被験者の介護者)が、タッチパネル14上でそのアイコンをタッチ操作したときに、メインコントローラ20のCPU22がフラッシュメモリ24から瞬きによるコミュニケーションを行うためのアプリケーションソフトを読み出して実行する。
【0024】
図2の瞬きによるコミュニケーション処理では、メインコントローラ20のCPU22は、まず、LCD12に設定画面を表示して各種設定や調整を行う(ステップS100)。
図3は、設定画面40の一例を示す説明図である。この設定画面40は、図示するように、カメラ16が捉えた眼の画像を後述する文字選択画面上に表示するか否かを設定可能なカメラ画像表示設定部42と、瞬き判定の敏感さ(感度)を設定可能な瞬き判定敏感さ設定部44と、文字選択画面のあいうえお表上のカーソル切替(移動)速さを設定可能なあいうえお表切替速さ設定部46と、選択されたひらがなに関連する処理(命令)を選択する各種コマンド上のカーソル切替(移動)速さを設定可能な命令切替速さ設定部48とにより構成されている。カメラ画像表示設定部42は、操作者のタッチ操作により、バー42aの両端の「ON」,「OFF」のいずれかにポインタ42bを移動させることで表示の有無を選択させる。また、瞬き判定敏感さ設定部44は、操作者のタッチ操作により、最低感度の値0から最高感度の値100まで設けられたバー44a上でポインタ44bをスライドさせることで敏感さを無段階に設定させる。また、あいうえお表切替速さ設定部46や命令切替速さ設定部48では、最低速さの値0から最高速さの値100まで設けられたバー46a,48a上でポインタ46b,48bをスライドさせることで切替速さを無段階に設定させる。ステップS100では、この設定画面40を介して設定された内容を各設定項目に反映させる。また、それ以外にも、例えば、カメラ16のキャリブレーションなどの各種調整を行う。
【0025】
次に、カメラ16により撮影されたフレーム画像を取得して被験者の眼を検出する眼部検出処理を行う(ステップS110)。眼部検出処理では、フレーム画像から、黒画素(画素値が黒色の画素または画素値が黒色に近い画素)が集合した領域を抽出し、その領域が2つ(左右の2つの眼)並んでいるか否かを判定する。そして、2つ並んでいなければ、領域の抽出をやり直し、2つ並んでいれば、その黒画素の領域を含む所定領域を被験者の眼として検出する。
【0026】
続いて、瞬き判定を行う際の基準画像となる残像を設定する残像設定処理を行う(ステップS120)。この処理では、眼部検出処理を行ってから、最新の状態から過去に数十フレーム〜百フレーム程度分(例えば、100フレーム分)のフレーム画像を記録し、各フレーム画像のそれぞれで被験者の眼の領域から瞳孔部分の色に相当する画素(黒や茶、青色などの画素であり、本実施形態では、黒画素)を抽出する。そして、各画素の状態が規定フレーム数以上、黒画素であった場合、該当画素を残像とし基準画像に設定する。この残像(基準画像)を設定する様子を
図4に示す。図示するように、瞳孔の部分だけでなく、瞼の影など瞳孔以外の部分も瞳孔部分に相当する色の画素(黒画素)であれば残像に設定される。なお、筋力の弱い被験者には、眼を見開いた状態で維持するのが困難な者もいるため、1つ前のフレーム画像や数フレーム分の画像から残像を設定すると、被験者の眼が閉じかかっている場合のフレーム画像に基づいて残像を設定してしまうこともある。そうなると、後述する瞬きの判定精度に影響を及ぼすことも考えられるが、本実施形態では、数
十フレーム分のフレーム画像に基づいて残像を設定するから、被験者の眼が開いた状態を適切に反映させた残像を設定することができる。
【0027】
こうして残像を設定すると、次に、LCD12に文字選択画面を表示する(ステップS130)。
図5に、文字選択画面50の一例を示す。文字選択画面50は、図示するように、ひらがなを母音に基づき縦に5字ずつ子音に基づき横に10字ずつ並べたあいうえお表(五十音)表示部52と、被験者が選択したひらがなに関連する処理(命令)を選択するための関連処理表示部54と、被験者が選択したひらがなを表示する選択文字表示部56とにより構成されている。
図5には、前述した設定画面40のカメラ画像表示設定部42の設定が「OFF」の場合の文字選択画面50を例示する。なお、設定が「ON」の場合、例えば、あいうえお表表示部52の一部に、カメラ16で撮影された画像を表示すると共にその画像に重ねて残像を表示する。
【0028】
あいうえお表表示部52は、右端の「あ行」から「な行」までの第1ブロックと、「は行」から左端の「わ行」までの第2ブロックとに分けられており、被験者がそれらのいずれかを選択するためのブロックカーソル52aが各ブロックを交互に移動するよう表示される。また、あいうえお表表示部52には、横に並んだ10列の文字列のうち被験者がいずれかを選択するための縦長の縦カーソル52bと、縦に並んだ5行の文字列のうち被験者がいずれかを選択するための横長の横カーソル52cとが、それぞれ各文字列を順次移動するよう表示される。
【0029】
関連処理表示部54は、被験者が選択したひらがなに濁点「゛」や半濁点「゜」を付加するための「濁点」アイコンと、被験者が選択したひらがなを一文字を消去するための「×」アイコンと、被験者が選択したひらがなを確定するための「○」アイコンと、被験者が選択したひらがなをスピーカ18から音声出力するための「音声出力」アイコンと、選択文字表示部56に表示されているひらがなを全て消去する「ごみ箱」アイコンとが表示される。関連処理表示部54には、被験者がいずれかのアイコンを選択するための選択カーソル54aが、各アイコンを順次移動するよう表示される。また、選択文字表示部56には、被験者が文字を選択すると、先に選択して表示された文字の右隣に、新たに選択した文字が順次表示されていく。なお、
図5では、「す」が選択されて表示された様子を示し、表示可能幅の中央揃えで文字を表示している。
【0030】
文字選択画面50をLCD12に表示すると、被験者の文字の選択を受け付ける文字選択受付処理(ステップS140)と、選択された文字に関連する処理(命令)を行う選択文字関連処理(ステップS150)とを行い、操作者により操作ボタン19が押下操作されることによる終了操作がされたか否かを判定する(ステップS160)。終了操作されてないと判定すると、ステップS140,S150の処理を繰り返し、終了操作されたと判定すると、瞬きによるコミュニケーション処理(アプリケーションソフトの実行)を終了する。なお、終了操作は、文字選択受付処理中や選択文字関連処理中などでも行うことができる。以下、文字選択受付処理と選択文字関連処理とを説明する。
図6は、文字選択受付処理の一例を示すフローチャートであり、
図7は、選択文字関連処理の一例を示すフローチャートである。
【0031】
図6の文字選択受付処理では、メインコントローラ20のCPU22は、まず、あいうえお表表示部52上でブロックカーソル52aの移動を開始し(ステップS200)、カメラ16で撮影されるフレーム画像に基づいて瞬き判定処理を行う(ステップS210)。なお、瞬き判定処理は、以下のステップS250,S290でも同じ処理が行われ、その詳細は後述する。また、文字選択受付処理における、ブロックカーソル52aや縦カーソル52b、横カーソル52cの移動(切替速さ)は、設定画面40のあいうえお表切替速さ設定部46の設定値に基づく速さで行われる。なお、例えば、最低速さが設定されている場合、カーソルを一旦停止して次に移動させるまでの時間が約3〜4秒程度(100フレーム分のフレーム画像を取得できる時間)となり、最高速さが設定されている場合、カーソルを一旦停止して次に移動させるまでの時間が、約0.3〜0.4秒程度(10フレーム分のフレーム画像を取得できる時間)となる。ステップS210の瞬き判定処理の結果、被験者が意思表示をするために意識的に行う瞬き(以下、意識瞬きという)がされたか否かを判定し(ステップS220)、意識瞬きされてないと判定すると、ブロックカーソル52aを移動させたままステップS210の瞬き判定処理を繰り返し行う。一方、意識瞬きされたと判定すると、ブロックカーソル52aの移動を停止しブロックカーソル52aが位置しているブロックを被験者に選択されたブロックとして処理対象ブロックに設定する(ステップS230)。
【0032】
次に、処理対象ブロック内で縦カーソル52bの移動を開始し(ステップS240)、カメラ16で撮影されるフレーム画像に基づいて瞬き判定処理を行う(ステップS250)。そして、瞬き判定処理で意識瞬きされたか否かを判定し(ステップS260)、意識瞬きされてないと判定すると、縦カーソル52bを移動させたままステップS250の瞬き判定処理を繰り返し行う。一方、意識瞬きされたと判定すると、縦カーソル52bの移動を停止し縦カーソル52bが位置している文字列が被験者に選択されたと判定してRAM26に記憶する(ステップS270)。これにより、あいうえお表表示部52における縦位置、即ち子音が決定されることになる。本実施形態では、縦カーソル52bは、あいうえお表表示部52を2分割したいずれかのブロック(処理対象ブロック)内で移動させるから、あいうえお表表示部52の全体(「あ」行から「わ」行まで)を移動させるものに比べて、被験者が眼を開き続けている時間を少なくすることができる。このため、被験者の眼の負担を軽減させることができる。
【0033】
続いて、横カーソル52cの移動を開始し(ステップS280)、カメラ16で撮影されるフレーム画像に基づいて瞬き判定処理を行う(ステップS290)。そして、瞬き判定処理で意識瞬きされたか否かを判定し(ステップS300)、意識瞬きされてないと判定すると、横カーソル52cを移動させたままステップS290の瞬き判定処理を繰り返し行う。一方、意識瞬きされたと判定すると、横カーソル52cの移動を停止し横カーソル52cが位置している文字列が被験者に選択されたと判定してRAM26に記憶する(ステップS310)。これにより、あいうえお表表示部52における横位置、即ち母音が決定されることになる。そして、選択された縦横の文字列が交差する位置の文字を被験者が選択した選択文字に決定し(ステップS320)、決定した選択文字を選択文字表示部56に表示して(ステップS330)、文字選択受付処理を終了する。
【0034】
次に、選択文字関連処理について説明する。
図7の選択文字関連処理では、メインコントローラ20のCPU22は、まず、選択カーソル54aの移動を開始して(ステップS400)、カメラ16で撮影されるフレーム画像に基づいて瞬き判定処理を行う(ステップS410)。なお、選択カーソル54aの移動(切替速さ)は、設定画面40の命令切替速さ設定部48の設定値に基づく速さであり、あいうえお表表示部52における各カーソルの速さと同様に定められる。また、選択文字関連処理の瞬き判定処理は、文字選択受付処理の瞬き判定処理と同じ処理が行われる。ステップS410の瞬き判定処理の結果、意識瞬きされたか否かを判定し(ステップS420)、意識瞬きされてないと判定すると、選択カーソル54aを移動させたままステップS410の瞬き判定処理を繰り返し行う。一方、意識瞬きされたと判定すると、選択カーソル54aの移動を停止し選択カーソル54aが位置しているアイコンの項目が被験者に選択されたと判定してRAM26に記憶する(ステップS430)。
【0035】
そして、被験者が「濁点」を選択したか(ステップS440)、「×」を選択したか(ステップS450)、「○」を選択したか(ステップS460)、「音声出力」を選択したか(ステップS470)、をそれぞれ判定する。ステップS440で「濁点」が選択されたと判定すると、選択文字表示部56に表示した文字に濁点を追加して(ステップS480)、ステップS400に戻り処理を繰り返す。なお、「濁点」アイコンは、「濁点」(゛)の付加と「半濁点」(゜)の付加とを兼用するものである。このため、濁点のみが付加される「か行」や「さ行」,「た行」のひらがなを選択文字表示部56に新たに表示した場合には、そのひらがなに「濁点」を付加する。また、濁点と半濁点とがいずれも付加される「は行」のひらがなを選択文字表示部56に新たに表示した場合には、そのひらがなに「濁点」を付加し、「濁点」が既に付加されていれば「半濁点」に変更し、「半濁点」が付加されていれば「濁点」に変更する。
【0036】
また、ステップS450で「×」が選択されたと判定すると、選択文字表示部56に新たに表示した文字(一文字)を消去して(ステップS490)、選択文字関連処理を終了する。また、ステップS460で「○」が選択されたと判定すると、選択文字表示部56に新たに表示した文字を確定して(ステップS500)、選択文字関連処理を終了する。これにより、被験者は、次の文字の選択を継続することができる。また、ステップS470で「音声出力」が選択されたと判定すると、選択文字表示部56に表示されている文字をスピーカ18から音声出力するようスピーカメインコントローラ36に音声出力信号を出力して(ステップS510)、選択文字関連処理を終了する。一方、ステップS470で「音声出力」が選択されていないと判定すると、「ごみ箱」が選択されているから、選択文字表示部56に表示されている全ての文字を消去して(ステップS520)、選択文字関連処理を終了する。
【0037】
次に、文字選択受付処理のステップS210,S250,S290および選択文字関連処理のステップS410の瞬き判定処理の詳細について説明する。
図8は、瞬き判定処理の一例を示すフローチャートである。この瞬き判定処理では、メインコントローラ20のCPU22は、まず、カメラ16で撮影されるフレーム画像を取得し(ステップS600)、左右それぞれの眼において瞳孔部分を示す黒画素からなる黒色部分を抽出する(ステップS610)。そして、瞬きによるコミュニケーション処理のステップS120で設定した残像(基準画像)と比較して、残像との重なり部分の画素数をカウントし(ステップS620)、重なり部分の画素数が残像に占める割合(画素割合)が第1閾値以下であるか否かを判定する(ステップS630)。左右の眼のいずれかにおいて重なり部分の画素割合が第1閾値以下でないと判定すると、ステップS600に戻り処理を繰り返し、左右の眼のいずれにおいても重なり部分の画素割合が第1閾値以下であると判定すると、被験者の眼が閉じる方向に変化した閉眼と判定する(ステップS640)。
【0038】
図9は、閉眼や開眼を判定する様子を示す説明図である。ここで、筋力の弱い被験者は、しっかりと眼を閉じることが困難であり、意識瞬きをするときでも眼を弱くしか閉じられないため、
図9の中段と下段の図に示すように、意識瞬きが、完全に眼を閉じることなく半閉じのような瞬きとなることがある。ステップS630,S640の閉眼の判定では、そのような眼の閉じ方であっても閉眼を判別できるように第1の閾値を定めて処理を行う。この第1閾値は、設定画面40の瞬き判定敏感さ設定部44の設定に基づく値となっており、瞬き判定敏感さの設定値が大きい(値100に近い)ほど、大きな値が用いられて被験者の閉眼を判定し易いものとなる。例えば、第1閾値は、瞬き判定敏感さの設定値が中間値50のときに、残像(基準画像)の画素数に対して約25%程度の画素数となる値に定めてあり、これにより完全に眼を閉じなくても、被験者の眼が閉じる方向に変化した閉眼を判定することができる。
【0039】
こうして閉眼を判定すると、閉眼判定後のフレーム画像の取得数であるフレーム取得数Kを値1にリセットして(ステップS650)、閉眼判定後に被験者の眼が開く方向に変化する開眼を判定する。開眼の判定は、まず、カメラ16で撮影されるフレーム画像を取得し(ステップS660)、左右それぞれの眼において瞳孔部分を示す黒画素からなる黒色部分を抽出する(ステップS670)。そして、残像との重なり部分の画素数をカウントし(ステップS680)、重なり部分の画素数が残像に占める割合(画素割合)が第2閾値以上であるか否かを判定する(ステップS690)。第2閾値は、閉眼と開眼とを頻繁に繰り返し判定するのを防止するため、第1閾値よりも若干大きな値に定められている。左右の眼のいずれかにおいて重なり部分の画素割合が第2閾値以上でないと判定すると、フレーム取得数Kを値1だけインクリメントして(ステップS700)、ステップS660に戻り処理を繰り返し、左右の眼のいずれにおいても重なり部分の画素割合が第2閾値以上であると判定すると、被験者の眼が開く方向に変化した開眼と判定する(ステップS710)。即ち、
図9に示すように、被験者の眼が閉眼と判定された状態から、重なり部分が大きくなると、開眼と判定することになる。
【0040】
開眼を判定すると、次に、瞬きの判定を行う。このように、本実施形態では、閉眼と開眼との両方が行われたことに基づいて、被験者の瞬きを判定するのである。筋力の弱い被験者の場合、眼をしっかりと開いたり閉じたりすることが苦手であり、開閉の差がはっきりと現れにくいから、閉眼と開眼との両方が行われたときに瞬きを判定することで、瞬きを精度よく判定することができる。また、タブレット端末10の薄板状の本体11に組み込み可能に構成されるカメラ16のように、カメラ単体で構成されて比較的大きなイメージセンサを備えるものに比べて、撮影性能が低いものを用いる場合であっても、瞬き判定の精度を向上させることができる。また、瞬き判定処理では、眼部検出処理やカメラ16のキャリブレーションを行うことなく、取得したフレーム画像に基づいて閉眼や開眼の判定を行うため、フレーム画像の多く(例えば、30fpsの場合、24フレーム以上など)を瞬きの判定に用いることができる。なお、筋力の弱い被験者は、顔や体を大きく動かすことが困難であるから、被験者の眼を一旦検出すれば、検出した眼の位置が大きくずれることはないため、眼部検出処理などを行わないものとしても瞬き判定処理に問題が生じるおそれは少ない。瞬きの判定では、フレーム取得数Kが第1フレーム数(第1の閾値)K1以上で第2フレーム数(第2の閾値)K2以下の所定数範囲内にあるか否かを判定し(ステップS720)、フレーム取得数Kが所定数範囲内にあると判定すると、今回判定した一連の閉眼および開眼は意識瞬きであると判定して(ステップS730)、瞬き判定処理を終了する。一方、フレーム取得数Kが第1フレーム数K1未満であったり第2フレーム数K2超過であったりして、所定数範囲内にないと判定すると、意識瞬きではないと判定して(ステップS740)、瞬き判定処理を終了する。
【0041】
図10は、フレーム数と瞬き判定との関係を示す説明図である。なお、
図10では、閉眼や開眼を判定するための第1閾値と第2閾値とをまとめて、閾値として図示した。ここで、筋力の弱い被験者であっても、被験者が無意識に行う無意識瞬き(自然に行われる自然瞬き)は、被験者が意識して行う意識瞬きよりも速いものとなる。第1フレーム数K1は、そのような速い無意識瞬きを排除し得る値として、数フレームや十数フレーム程度(例えば、6フレームや10フレームなど)の値に設定されている。これにより、少ないフレーム数の間に閉眼と開眼とが連続して行われる無意識瞬きを意識瞬きから排除することができる(
図10(a))。一方、第2フレーム数K2は、通常の意識瞬きよりも遅い瞬きを排除し得る値として、数十フレーム程度(例えば、24フレームなど(約1秒間に判定に用いられるフレーム数に相当))の値に設定されている。これにより、筋力の弱い被験者が画面を見続けるのに疲れたりして、眼を閉じ続けている場合を意識瞬きから排除することができる(
図10(b))。このように、被験者の無意識瞬きや被験者が眼を閉じ続けている場合を排除して、フレーム取得数Kが第1フレーム数K1以上で第2フレーム数K2以下の所定数範囲内にある場合を意識瞬きとするから(
図10(c))、意識瞬きを適切に判定することが可能となる。なお、瞬き判定敏感さ設定部44で敏感さが上げられるほど(値100に近付くほど)、第1フレーム数K1が小さな値に設定され、第2フレーム数K2が大きな値に設定されて、所定数範囲が拡大されることになる。そうなると、例えば、無意識瞬きに近い速い瞬きについても、意識瞬きと判定する場合も生じるが、これについては、適切な設定値に調整することで、無意識瞬きや眼を閉じ続けている状態を適切に排除することは可能である。
【0042】
ここで、本実施形態の構成要素と本発明の構成要素との対応関係を明らかにする。本実施形態のコミュニケーションシステム1が本発明のコミュニケーションシステムに相当し、LCD12が表示手段に相当し、カメラ16が撮影手段に相当し、
図2の瞬きによるコミュニケーション処理(
図6の文字選択受付処理、
図8の瞬き判定処理)を実行するメインコントローラ20とLCDメインコントローラ30とカメラメインコントローラ34とが処理制御手段に相当し、
図6の文字選択受付処理のステップS330の処理を実行するメインコントローラ20とLCD12に表示された文字選択画面50の選択文字表示部56とが出力手段に相当する。また、
図7の選択文字関連処理のステップS510の処理を実行するメインコントローラ20とスピーカメインコントローラ36とスピーカ18とが出力手段に相当する。また、ブロックカーソル52aがブロックカーソルに相当し、縦カーソル52bが縦カーソルに相当し、横カーソル52cが横カーソルに相当する。また、筐体11が筐体に相当し、タブレット端末10がタブレット端末に相当する。なお、本実施形態では、コミュニーションシステム1の処理を説明することにより、本発明の瞬き判定方法の一例も明らかにしている。
【0043】
以上説明した本実施形態のコミュニケーションシステム1によれば、所定のフレームレートで被験者の眼を撮影して取得したフレーム画像を用いて、被験者の眼が閉じる方向に変化する閉眼を判定し、閉眼を判定してから被験者の眼が開く方向に変化する開眼を判定したときに、被験者が意識瞬きしたと判定する。これにより、被験者が眼を一定時間しっかりと閉じ続けなくても、被験者の意識瞬きを判定することができる。このため、筋力の弱い被験者が弱い瞬きをした場合でも、意識瞬きを精度よく判定して、瞬きによるコミュニケーションをスムーズに行うことができる。また、連続する所定数範囲内のフレーム画像で閉眼と開眼とが行われた場合に意識瞬きしたと判定するから、被験者の無意識瞬きや被験者が眼を閉じ続けている状態を適切に排除して、意識瞬きを精度よく判定することができる。
【0044】
また、瞬き判定処理の開始に先立って被験者の眼を検出する眼部検出処理を行い、被験者の眼を検出した以降の瞬き判定処理中には、眼部検出処理を行わないから、多くのフレーム画像を瞬き判定に用いることができ、眼の開閉状態の僅かな変化を精度よく検出することができる。さらに、眼部検出処理後に予め生成した残像と、取得したフレーム画像から抽出した眼の瞳孔部分との重なり度合いに基づいて、閉眼と開眼とを判定するから、比較的簡易な処理として処理負担の増加を抑制することができる。そして、縦カーソル52bや横カーソル52cで文字を選択する範囲を、あいうえお表表示部52を2つに分割したブロック内に絞るから、被験者の眼の負担を軽減することができる。また、コミュニケーションシステム1をタブレット端末10で構成するから、コンパクトな構成として利便性を向上させることができる。また、瞬きによるコミュニケーション処理を、タブレット端末10に記憶されるアプリケーションソフトとして提供することで、広く一般に用いることが可能となる。
【0045】
なお、本発明は上述した実施形態に何ら限定されることはなく、本発明の技術的範囲に属する限り種々の態様で実施し得ることはいうまでもない。
【0046】
例えば、上述した実施形態では、あいうえお表表示部52を2つに分割したが、これに限られず、3つ以上の複数に分割してもよい。あるいは、あいうえお表表示部52を分割しないものとしてもよく、その場合、ブロックカーソル52aを用いずに、縦カーソル52bと横カーソル52cとを用いてひらがなを選択させればよい。
【0047】
上述した実施形態では、被験者が意思表示を行うための情報としてひらがなを例示したが、これに限られず、アルファベットなどの他の文字としてもよいし、数字などとしてもよい。この場合、縦カーソル52bでの選択を横カーソル52cでの選択よりも先に行う(先に縦の情報列を選択させる)ものに限られず、横カーソル52cでの選択を縦カーソル52bでの選択よりも先に行う(先に横の情報列を選択させる)ものとしてもよい。また、選択可能な情報としては、少なくとも2以上の情報からなる情報群であればよく、2以上の図形や記号(○×など)としてもよいし、行きたい場所や食べたい物、読みたい本などを選択させるための写真などとしてもよい。
【0048】
上述した実施形態では、複数のフレーム画像に基づいて残像を設定したが、これに限られず、1つのフレーム画像に基づいて残像を設定してもよい。
【0049】
上述した実施形態では、瞬き判定処理中に眼部検出処理やカメラ16のキャリブレーションを行わないものとしたが、これに限られず、瞬き判定処理中に眼部検出処理やキャリブレーションを行うものとしてもよい。その場合、移動させるカーソルが変わってから最初に瞬き判定処理を行うときに眼部検出処理やキャリブレーションを行ってもよいし、瞬き判定処理が所定回数行われる度に眼部検出処理やキャリブレーションを行ってもよい。そのようにしても、眼部検出処理やキャリブレーションの頻度を抑えれば、瞬き判定処理に多くのフレーム画像を用いて、判定精度を向上させることはできる。
【0050】
上述した実施形態では、閉眼と開眼を判定する閾値に別々の閾値(第1閾値と第2閾値)を用いたが、これに限られず、共通の閾値を用いてもよい、また、重なり部分の画素数が残像に占める割合である画素割合で閉眼や開眼を判定したが、これに限られず、重なり部分の画素数を用いて、画素数が閾値以下であれば閉眼と判定し、画素数が閾値を超えれば開眼と判定してもよい。
【0051】
上述した実施形態では、閉眼や開眼を両眼で判定したが、これに限られず、片眼だけで判定してもよい。この場合、左右の眼のいずれかで重なり部分の画素割合が第1閾値以下と判定した場合に閉眼と判定したり、左右の眼のいずれかで重なり部分の画素割合が第2閾値以上と判定した場合に開眼と判定したりすればよい。
【0052】
上述した実施形態では、眼部検出処理後に設定した残像(基準画像)と比較することで閉眼や開眼を判定したが、これに限られず、現在のフレーム画像とその直前(数フレーム前)のフレーム画像とを比較することで閉眼や開眼を判定してもよい。この場合、現在のフレーム画像における瞳孔部分に相当する画素(黒画素など)が、直前のフレーム画像における瞳孔部分に相当する画素に比べて大きく減少した(画素の減少数が閾値以上となった)ときに閉眼と判定すればよい。また、現在のフレーム画像における瞳孔部分に相当する画素(黒画素など)が、直前のフレーム画像における瞳孔部分に相当する画素に比べて大きく増加した(画素の増加数が閾値以上となった)ときに開眼と判定すればよい。
【0053】
上述した実施形態では、閉眼判定後のフレーム取得数Kが第1フレーム数K1以上で第2フレーム数K2以下の所定数範囲内にある場合に意識瞬きと判定したが、これに限られず、閉眼判定後のフレーム取得数Kが第1フレーム数K1以上の範囲内にあれば第2フレーム数K2超過であっても意識瞬きと判定してもよいし、閉眼判定後のフレーム取得数Kが第2フレーム数K2以下の範囲内にあれば第1フレーム数K1未満であっても意識瞬きと判定してもよい。即ち、意識瞬きを判定するための範囲として下限と上限とを定めるものに限られず、下限と上限の一方のみを定めるものとしてもよい。
【0054】
上述した実施形態では、コミュニケーションシステム1を構成するタブレット端末10をアームスタンド6に取り付けたが、これに限られず、タブレット端末10を壁などに固定してもよいし、タブレット端末10を机などの台に置くものとしてもよい。
【0055】
上述した実施形態では、コミュニケーションシステム1をタブレット端末10で構成したが、これに限られず、CCDカメラなどの撮影手段と、ディスプレイなどの表示手段と、パーソナルコンピュータなどの処理装置とをそれぞれ個別に用意してシステムを構成してもよい。