(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0011】
以下、本発明の好適な実施形態につき説明する。
【0012】
<構成>
図1は一実施形態にかかる投影装置100のハードウェア構成例を示す図である。
図1において、投影装置100は、ステレオカメラ1とキャプチャカメラ2とプロジェクタ3と制御部4と文字入力装置5とを備えている。文字入力装置5は省略することもできる。ステレオカメラ1は、2個のカメラを備え、それらの撮像画像のずれ量により被写体までの距離が計測可能なカメラであり、主にユーザの指の3次元的な位置を検出するために用いられる。キャプチャカメラ2は、主に書類の撮像に用いられるカメラである。プロジェクタ3は、書類や書類が置かれた机の上にハイライト表示等のマーカや説明文等の各種の画像を投影するものである。
【0013】
制御部4は、投影装置100の全体的な制御を行う部分であり、一般的なPC(Personal Computer)の構成要素を備えている。すなわち、制御部4は、BUS41を介して相互に接続された、CPU(Central Processing Unit)42とRAM(Random Access Memory)43とROM(Read Only Memory)44とI/F(Interface)45とHDD/SSD(Hard Disk Drive/Solid State Drive)46とを備えている。CPU42は、RAM43をワークエリアとしてROM44またはHDD/SSD46等に格納されたプログラムを実行することで、投影装置100の動作を統括的に制御する。I/F45は、投影装置100の内部または外部に接続される機器とのインタフェースである。内部または外部に接続される機器としては、前述したステレオカメラ1、キャプチャカメラ2、プロジェクタ3および文字入力装置5等がある。文字入力装置5は、キーボード等の、文字を入力するためのデバイスである。
【0014】
図2はステレオカメラ1、キャプチャカメラ2およびプロジェクタ3の配置例を示す図である。
図2において、ステレオカメラ1およびキャプチャカメラ2の視野(画角)と、プロジェクタ3の投影範囲は、机6の上の書類7が載置されることが予定される所定の範囲をカバーするものとなっている。
【0015】
図3は投影装置100の機能構成例を示す図である。
図3において、投影装置100は、OS(Operating System)401と画像解析部402と指位置解析部403と画像表示部404とを備えている。また、投影装置100は、書類識別部405と指操作解析部406と表示画像作成部407とデータ管理部408とを備えている。これらの部分は、
図1に示したCPU42において所定のプログラムが実行されることで実現される。プログラムは、記録媒体を経由して取得されるものでもよいし、ネットワークを経由して取得されるものでもよいし、ROM組込でもよい。
【0016】
また、処理に際して設定・参照される情報を保持する部分として、書類識別DB(Data Base)411とハイライト部座標DB412と指示情報DB413と付加情報DB414とが設けられている。書類識別DB411は、顧客と契約を結ぶ等の運用時において、投影装置100の視野内に置かれた書類(書類の種別)を識別するための情報を保持するものである。ハイライト部座標DB412は、識別された書類にハイライト(マーカ)を表示(投影)すべき部分の座標等の情報を保持するものである。指示情報DB413は、ハイライトと関連付けて表示する指示情報を保持するものである。付加情報DB414は、指示情報に含まれるボタン等が選択されたことに応じて表示する付加情報を保持するものである。これらのDBは
図1に示したHDD/SSD46やRAM43上の記憶領域に保持される。
【0017】
OS401は、コンピュータとしての基本的な機能を提供する基本ソフトウェアである。画像解析部402は、主としてキャプチャカメラ2から取得した撮像画像を解析し、書類のエッジの抽出、書類の記載内容のOCR(Optical Character Recognition)等による認識等を行う機能を有している。指位置解析部403は、主としてステレオカメラ1から取得した撮像画像を解析し、ユーザの指の3次元的な位置を認識する機能を有している。画像表示部404は、プロジェクタ3に画像信号を与えて投影により画像を表示する機能を有している。
【0018】
書類識別部405は、画像解析部402の解析結果に基づき、書類識別DB411を参照して、書類から抽出された特徴点に基づいて書類を特定する機能を有している。指操作解析部406は、指位置解析部403の解析結果に基づき、指によるタップやドラッグ等の操作を認識する機能を有している。
【0019】
表示画像作成部407は、書類識別部405により特定された書類に応じたハイライト部と指示情報をハイライト部座標DB412と指示情報DB413から取得し、画像解析部402により認識された書類の位置に合わせた表示(投影)のための画像を生成する機能を有している。また、表示画像作成部407は、指操作解析部406により認識されたユーザの操作に応じ、付加情報を付加情報DB414から取得して表示のための画像を生成する機能を有している。更に、表示画像作成部407は、サインや押印等を行うべき記入欄への記入を促す画像を生成するとともに、記入が行われたことを検出した場合に記入を促す画像を消す機能を有している。
【0020】
データ管理部408は、事前設定のフェーズにおいて、画像解析部402の解析結果と指操作解析部406により認識されたユーザの操作に応じて、書類識別DB411、ハイライト部座標DB412、指示情報DB413および付加情報DB414にデータを設定する機能を有している。この際、データ管理部408は、画像表示部404に操作をガイドするための画像を提供して表示(投影)するようにしてもよい。
【0021】
図4は書類識別DB411、ハイライト部座標DB412、指示情報DB413および付加情報DB414のデータ構造と相互の関係の例を示す図である。
図4において、書類識別DB411は、「特徴点」と「書類」の項目を有している。「特徴点」は、書類のタイトル等の記載内容や記載位置により書類を特徴付ける情報である。記載位置は、書類の一隅(例えば、左上隅等)を原点とした相対位置である。なお、「特徴点」は複数の特徴点の情報を含むことができる(例えば、書類のタイトルとヴァージョンで書類を特定する場合等)。「書類」は、「特徴点」により特定される書類の識別子である。
【0022】
ハイライト部座標DB412は、書類識別DB411の「書類」を介してリンクされる個別の領域を有しており、それぞれの領域は、「ポイント」「座標数」「座標」「初期」「記入」「指示情報」の項目を有している。「ポイント」は、ハイライト部(マーカを付す部分)の識別子である。ポイントは、顧客等に対して十分な説明が必要と考えられる重要事項に対応する。「座標数」は、該ポイントに含まれる座標(座標範囲)の個数である。記載内容が複数の行に渡る等により連続してハイライトを付せない場合は「2」以上となる。「座標」は、ハイライト部の座標範囲であり、「座標数」に応じて座標範囲が設けられる。座標範囲は、書類の一隅(例えば、左上隅等)を原点とした相対座標である。「初期」は、書類の特定後の初期状態から表示する対象であるか否かを示すフラグである。「記入」は、該ポイントにサインや押印をすべき記入欄が含まれるか否かを示すフラグである。「指示情報」は、該ポイントに対応して表示される指示情報の識別子である。
【0023】
指示情報DB413は、「指示情報」「位置」「内容」の項目を有している。「指示情報」は、指示情報の識別子であり、ハイライト部座標DB412の「指示情報」からリンクされる。書類が異なっても個々の指示情報としては同じ内容のものが存在することが多いため、複数の書類からリンクが行えるようになっている。「位置」は、指示情報を表示する、ポイントの位置に対する相対位置である。「内容」は、指示情報の内容であり、テキスト、図形、ボタンを含む。
【0024】
付加情報DB414は、「付加情報」「位置」「内容」の項目を有している。「付加情報」は、付加情報の識別子であり、ここではボタンの識別子を示しており、指示情報DB413の「内容」に含まれるボタンからリンクされる。「位置」は、付加情報を表示する相対位置である。「内容」は、付加情報の内容であり、テキストや図形を含む。
【0025】
<動作>
[事前設定]
図5は事前設定の処理例を示すフローチャートである。プロジェクタ3により机6の上に表示される基本的なメニューに対するユーザの指による操作や文字入力装置5等に対する操作により事前設定のモードに入ることができる。
【0026】
図5において、画像解析部402と指位置解析部403は、キャプチャカメラ2とステレオカメラ1から撮像画像を取得し(ステップS11)、画像解析部402は画像解析を行い、指位置解析部403は指位置解析を行い、指操作解析部406は指操作解析を行う(ステップS12)。これらの処理は繰り返し行われる。
【0027】
一方、画像解析(ステップS12)において書類が検出された場合(ステップS13のYes)、データ管理部408は、自動的にまたはユーザの操作に応じ、書類識別データを書類識別DB411に設定する(ステップS14)。例えば、書類を特定するためのタイトル等が用紙上の所定位置に固定される場合は、自動的に特徴点の抽出を行い、ユニークな書類の識別子を発行し、書類識別DB411に設定する。また、書類から抽出された複数の特徴点の候補をユーザに提示し、ユーザにより選択された特徴点に識別子を付与して書類識別DB411に設定してもよい。
【0028】
次いで、データ管理部408は、ユーザの操作に応じ、ハイライト部座標データをハイライト部座標DB412に設定する(ステップS15)。例えば、画像解析により認識されている書類上の記載部分について、ポイントごとにユーザが指で指定した範囲を受け付けることでハイライト表示する座標範囲を取得する。また、初期状態から表示する対象であるか、記入欄が含まれるかを表示(投影)によるユーザインタフェースまたは文字入力装置5から入力する。更に、そのポイントに対応する指示情報が新規のものであれば指示情報のユニークな識別子を発行し、既存のものであればユーザに指示情報の候補を提示して指定を受け付け、それらをハイライト部座標DB412に設定する。
【0029】
次いで、データ管理部408は、ユーザの操作に応じ、新規の指示情報と付加情報のデータを指示情報DB413と付加情報DB414に設定する(ステップS16)。例えば、ハイライト部座標DB412で発行された指示情報の識別子に対し、指示情報を表示する位置の指定を受け付け、内容の入力を受け付けて、指示情報DB413に設定する。また、指示情報に含まれるボタンに対し、付加情報を表示する位置の指定を受け付け、内容の入力を受け付けて、付加情報DB414に設定する。
【0030】
複数の書類について事前設定を行う場合は、上記の処理(ステップS13〜S16)を繰り返す。
【0031】
[運用時]
図6は運用時の処理例を示すフローチャートである。プロジェクタ3により机6の上に表示される基本的なメニューに対するユーザの指による操作や文字入力装置5等に対する操作により運用のモードに入ることができる。
【0032】
図6において、画像解析部402と指位置解析部403は、キャプチャカメラ2とステレオカメラ1から撮像画像を取得し(ステップS201)、画像解析部402は画像解析を行い、指位置解析部403は指位置解析を行い、指操作解析部406は指操作解析を行う(ステップS202)。これらの処理は繰り返し行われる。
【0033】
一方、画像解析(ステップS202)において書類が検出された場合(ステップS203のYes)、書類識別部405は、画像解析で抽出された特徴点に書類識別DB411に設定されたいずれかの特徴点が存在するか否かを照合することで、書類を特定する(ステップS204)。
【0034】
次いで、表示画像作成部407は、書類識別部405により特定された書類に対して、ハイライト部座標DB412において初期状態から表示するものとされているハイライトと指示情報の表示画像を生成し、画像表示部404に与えて表示(投影)を行う(ステップS205)。
図7は書類と書類上に重畳された表示の例を示す図である。この例では、「○○契約書」というタイトルの書類7に対し、記載内容の「・・・の場合、・・・できません。」と「・・・場合があります。」の部分に網かけで示すハイライト表示が行われるとともに、2箇所の「・・・の場合」について、囲み枠と引き出し線を伴って「事例解説」のボタンの画像が表示されている。
【0035】
次いで、
図6に戻り、指操作解析(ステップS202)においてボタンの選択が検出された場合(ステップS206のYes)、表示画像作成部407は選択されたボタンに対応する付加情報を付加情報DB414から取得して付加情報の表示画像を生成し、画像表示部404に与えて表示(投影)を行う(ステップS207)。
図8は付加情報の表示の例を示す図であり、書類7の記載内容「・・・の場合」に対応する「事例解説」のボタンが選択されたことで、「お客様が故意に・・・・場合。・・・・・・場合。本製品が・・・・された場合。」という付加情報が表示されている。付加情報は、いったん表示された後は該書類の処理終了まで表示を続けるようにしてもよいし、所定時間の経過により表示が消えるようにしてもよいし、「事例解説」のボタンを「表示を消す」等に変え、そのボタンが選択された場合に表示を消すようにしてもよい。
【0036】
次いで、
図6に戻り、理解完了が検出された場合(ステップS208のYes)、以下の処理を行う。なお、理解完了は、最後の重要項目等の指示情報に含められた理解完了のボタンが担当者により選択されたことで検出してもよいし、文字入力装置5により所定のキー操作が行われたことで検出してもよい。
【0037】
理解完了が検出された場合の処理として、表示画像作成部407は、ハイライト部座標DB412において初期状態から表示するもの以外のポイントについて、ハイライトと指示情報の表示画像を生成し、画像表示部404に与えて表示(投影)を行う(ステップS209)。
【0038】
次いで、表示画像作成部407は、記入欄の含まれるポイントについて、記入が検出されたか判断する(ステップS210)。ここで、記入の検出は、空欄であった部分にサインまたは押印による画像の変化があったか否かで判断することを想定しているが、記入された内容がサインまたは印影であるかを画像解析により厳密に判断してもよい。
【0039】
記入が検出されたと判断した場合(ステップS210のYes)、表示画像作成部407は、記入欄に対応するハイライト表示と指示情報の画像を消去し、その画像の表示を消す(ステップS211)。
【0040】
図9は押印の作業指示の表示と押印による表示消去の例を示す図である。
図9(a)は押印が行われるべき記入欄(押印欄)に網かけで示されるハイライト表示が行われるとともに、「契約書内容に同意いただける場合、こちらに押印をお願いします。」という指示情報による注意書きが表示されている状態を示している。
図9(b)は、
図9(a)の記入欄(押印欄)に押印が行われたことが検出され、ハイライト表示と注意書きの表示が消された状態を示している。
【0041】
次いで、
図6に戻り、現時点の書類について全ての作業が終了していない場合(ステップS212のNo)は記入欄の記入検出(ステップS210)に戻り、全ての作業が終了した場合(ステップS212のYes)は次の書類の検出を待機する(ステップS203)。
【0042】
<総括>
以上説明したように、本実施形態によれば、紙資料における未記入の箇所の目視確認を容易にすることができる。
【0043】
以上、好適な実施の形態により説明した。ここでは特定の具体例を示して説明したが、特許請求の範囲に定義された広範な趣旨および範囲から逸脱することなく、これら具体例に様々な修正および変更を加えることができることは明らかである。すなわち、具体例の詳細および添付の図面により限定されるものと解釈してはならない。
【0044】
以上の説明に関し、更に以下の項を開示する。
(付記1)
書類の種類を特定し、該書類と該書類で記入されるべき箇所の位置を関連付けて持つテーブルを参照して、該書類に重畳して、記入されるべき箇所の位置を示すマーカを表示する手段と、
前記記入されるべき箇所に記入が行われたと判断すると、該記入が行われた箇所に関連して表示したマーカの表示を消す手段と、
を備えたことを特徴とする投影装置。
(付記2)
前記記入されるべき箇所に画像が追加されたことを検出した場合に記入が行われたと判断する、
ことを特徴とする付記1に記載の投影装置。
(付記3)
前記マーカに関連付けて、記入を促す情報を表示し、
前記マーカの表示を消す際に前記記入を促す情報の表示を消す、
ことを特徴とする付記1または2に記載の投影装置。
(付記4)
前記書類を撮像するカメラの撮像画像を解析して該書類の特徴点し、該特徴点に基づいて書類を特定する、
ことを特徴とする付記1乃至3のいずれか一項に記載の投影装置。
(付記5)
書類の種類を特定し、該書類と該書類で記入されるべき箇所の位置を関連付けて持つテーブルを参照して、該書類に重畳して、記入されるべき箇所の位置を示すマーカを表示し、
前記記入されるべき箇所に記入が行われたと判断すると、該記入が行われた箇所に関連して表示したマーカの表示を消す、
処理をコンピュータに実行させることを特徴とする投影プログラム。
(付記6)
前記記入されるべき箇所に画像が追加されたことを検出した場合に記入が行われたと判断する、
ことを特徴とする付記5に記載の投影プログラム。
(付記7)
前記マーカに関連付けて、記入を促す情報を表示し、
前記マーカの表示を消す際に前記記入を促す情報の表示を消す、
ことを特徴とする付記5または6に記載の投影プログラム。
(付記8)
前記書類を撮像するカメラの撮像画像を解析して該書類の特徴点し、該特徴点に基づいて書類を特定する、
ことを特徴とする付記5乃至7のいずれか一項に記載の投影プログラム。
(付記9)
書類の種類を特定し、該書類と該書類で記入されるべき箇所の位置を関連付けて持つテーブルを参照して、該書類に重畳して、記入されるべき箇所の位置を示すマーカを表示し、
前記記入されるべき箇所に記入が行われたと判断すると、該記入が行われた箇所に関連して表示したマーカの表示を消す、
処理をコンピュータが実行することを特徴とする投影方法。
(付記10)
前記記入されるべき箇所に画像が追加されたことを検出した場合に記入が行われたと判断する、
ことを特徴とする付記9に記載の投影方法。
(付記11)
前記マーカに関連付けて、記入を促す情報を表示し、
前記マーカの表示を消す際に前記記入を促す情報の表示を消す、
ことを特徴とする付記9または10に記載の投影方法。
(付記12)
前記書類を撮像するカメラの撮像画像を解析して該書類の特徴点し、該特徴点に基づいて書類を特定する、
ことを特徴とする付記9乃至11のいずれか一項に記載の投影方法。