IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特許7556214電子黒板、音声再生方法、プログラム及び画像処理システム
<>
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図1
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図2
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図3
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図4
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図5
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図6
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図7
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図8
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図9
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図10
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図11
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図12
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図13
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図14
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図15
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図16
  • 特許-電子黒板、音声再生方法、プログラム及び画像処理システム 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-17
(45)【発行日】2024-09-26
(54)【発明の名称】電子黒板、音声再生方法、プログラム及び画像処理システム
(51)【国際特許分類】
   H04N 1/00 20060101AFI20240918BHJP
   G06F 3/04883 20220101ALI20240918BHJP
   G06F 3/16 20060101ALI20240918BHJP
   G06F 3/0483 20130101ALI20240918BHJP
   G06F 3/01 20060101ALI20240918BHJP
【FI】
H04N1/00 H
G06F3/04883
G06F3/16 530
G06F3/16 620
G06F3/16 610
G06F3/0483
G06F3/01 510
【請求項の数】 4
(21)【出願番号】P 2020099494
(22)【出願日】2020-06-08
(65)【公開番号】P2021193774
(43)【公開日】2021-12-23
【審査請求日】2023-04-12
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】剣持 栄治
【審査官】豊田 好一
(56)【参考文献】
【文献】特開2019-161516(JP,A)
【文献】特開2014-102664(JP,A)
【文献】特開2013-125553(JP,A)
【文献】特開2003-260896(JP,A)
【文献】特開2017-112581(JP,A)
【文献】特開2016-134054(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 1/00
G06F 3/04883
G06F 3/16
G06F 3/0483
G06F 3/01
(57)【特許請求の範囲】
【請求項1】
ユーザから入力された入力データを表示する電子黒板であって、
前記ユーザを識別するためのユーザ識別情報、前記入力データ、及び該入力データに関連する音声データ、を対応付けて記憶するデータ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データを読み出して、前記ユーザからの手書き入力を受け付ける複数の領域が設けられているページ画面の前記領域に、前記入力データを映像表示部に表示させる表示処理手段と、
前記領域ごとに設けられ、前記ユーザからの音声再生指示を受け付ける音声再生ボタンが押下された場合に、前記データ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データに関連する音声データを読み出して音声再生部に再生させる音声処理手段と、
を有する電子黒板。
【請求項2】
ユーザから入力された入力データを表示する電子黒板の音声再生方法であって、
前記ユーザを識別するためのユーザ識別情報、前記入力データ、及び該入力データに関連する音声データ、を対応付けて記憶するデータ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データを読み出して、前記ユーザからの手書き入力を受け付ける複数の領域が設けられているページ画面の前記領域に、前記入力データを映像表示部に表示させる表示処理ステップと、
前記領域ごとに設けられ、前記ユーザからの音声再生指示を受け付ける音声再生ボタンが押下された場合に、前記データ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データに関連する音声データを読み出して音声再生部に再生させる音声処理ステップと、
を有する音声再生方法。
【請求項3】
ユーザから入力された入力データを表示するコンピュータを、
前記ユーザを識別するためのユーザ識別情報、前記入力データ、及び該入力データに関連する音声データ、を対応付けて記憶するデータ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データを読み出して、前記ユーザからの手書き入力を受け付ける複数の領域が設けられているページ画面の前記領域に、前記入力データを映像表示部に表示させる表示処理手段、
前記領域ごとに設けられ、前記ユーザからの音声再生指示を受け付ける音声再生ボタンが押下された場合に、前記データ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データに関連する音声データを読み出して音声再生部に再生させる音声処理手段、
として機能させるためのプログラム。
【請求項4】
ユーザから入力された入力データを表示する電子黒板と、前記電子黒板とネットワークを介して接続可能なサーバと、を有する画像処理システムであって、
前記ユーザを識別するためのユーザ識別情報、前記入力データ、及び該入力データに関連する音声データ、を対応付けて記憶するデータ記録手段と、
前記ユーザを認証するユーザ認証手段と、
認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データを前記データ記録手段から読み出して、前記ユーザからの手書き入力を受け付ける複数の領域が設けられているページ画面の前記領域に、前記入力データを映像表示部に表示させる表示処理手段と、
前記領域ごとに設けられ、前記ユーザからの音声再生指示を受け付ける音声再生ボタンが押下された場合に、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データに関連する音声データを前記データ記録手段から読み出して音声再生部に再生させる音声処理手段と、
を有する画像処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子黒板、音声再生方法、プログラム及び画像処理システムに関する。
【背景技術】
【0002】
近年、大型のフラットパネルディスプレイにタッチパネルを搭載した電子黒板が知られている。電子黒板は、画面をフラットパネルディスプレイに表示し、タッチパネルを介して電子ペンや指などの軌跡を取り込んで、軌跡を手書き入力としてフラットパネルディスプレイの画面に描画する。
【0003】
例えば授業等において、電子黒板等に二次元表示される板書データと、音声を含むストリームデータとを自動的に関連付けて記録し、授業内容を再生することができる、データ記録装置およびデータ再生装置は従来から知られている(例えば特許文献1参照)。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の電子黒板では、過去に記録した授業内容のデータをユーザが取得して電子黒板に表示させたうえで、所望の授業内容を自ら選択し板書や音声を再生させていたため、記録した授業内容からユーザが再生したい授業内容を効率的に検索する仕組みがなく、所望の授業内容を再生するまでに手間が掛かるという問題があった。
【0005】
本発明の実施の形態は、ユーザから入力された入力データの表示と、その入力データに関連する音声データの再生と、を行う手間を軽減できる電子黒板を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記した課題を達成するために本願請求項1は、ユーザから入力された入力データを表示する電子黒板であって、前記ユーザを識別するためのユーザ識別情報、前記入力データ、及び該入力データに関連する音声データ、を対応付けて記憶するデータ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データを読み出して、前記ユーザからの手書き入力を受け付ける複数の領域が設けられているページ画面の前記領域に、前記入力データを映像表示部に表示させる表示処理手段と、前記領域ごとに設けられ、前記ユーザからの音声再生指示を受け付ける音声再生ボタンが押下された場合に、前記データ記録部から、認証に成功した前記ユーザのユーザ識別情報に対応付けられている前記入力データに関連する音声データを読み出して音声再生部に再生させる音声処理手段と、を有することを特徴とする。
【発明の効果】
【0007】
本発明の実施の形態によれば、ユーザの認証に応じてユーザに対応付いている入力データの表示や音声データの再生を行うため、ユーザから入力された入力データの表示と、その入力データに関連する音声データの再生と、を行う手間を軽減できる。
【図面の簡単な説明】
【0008】
図1】本実施形態に係る画像処理システムの一例の構成図である。
図2】本実施形態に係るコンピュータの一例のハードウェア構成図である。
図3】本実施形態に係る電子黒板の一例のハードウェア構成図である。
図4】本実施形態に係る電子黒板の一例の機能構成図である。
図5】ユーザテーブルの一例の構成図である。
図6】ホワイトボードテーブルの一例の構成図である。
図7】ページデータテーブルの一例の構成図である。
図8】音声データテーブルの一例の構成図である。
図9】手書きデータテーブルの一例の構成図である。
図10】電子黒板のページ表示の処理手順の一例のフローチャートである。
図11】ユーザ認証画面の一例のイメージ図である。
図12】UI画面の一例のイメージ図である。
図13】まとめページ画面の一例のイメージ図である。
図14】電子黒板の手書きデータの入力及び音声データの録音の処理手順の一例のフローチャートである。
図15】電子黒板の音声データの再生の処理手順の一例のフローチャートである。
図16】電子黒板の音声データの再生の処理手順の一例のフローチャートである。
図17】発話データの一例のイメージ図である。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態について図面を参照しながら説明する。本実施形態では電子黒板装置を利用する会議の例を説明するが、会議に限定するものでなく、セミナーや講義など、様々な状況に適用できる。
【0010】
[第1の実施形態]
<システム構成>
図1は、本実施形態に係る画像処理システムの一例の構成図である。図1の画像処理システム10は、サーバ12と、1台以上の電子黒板14とが、通信ネットワーク18を介して通信可能に接続されている。通信ネットワーク18は、例えばインターネット、LAN(Local Area Network)又は携帯電話通信網等が含まれる。
【0011】
サーバ12は電子黒板14と連携して動作することで、電子黒板14に関連した後述のような機能を提供する。サーバ12は、後述する電子黒板14のユーザ認証部42の機能や、データ記録部46の機能を有していてもよい。サーバ12は、オンプレミスでの運用であっても、クラウドでの運用であってもよい。なお、サーバ12はPC(Personal Computer)に限定されず、携帯電話、スマートフォン、タブレット端末、PDA(Personal Digital Assistant)等であってもよい。
【0012】
電子黒板14には、後述の電子ペン690によって生じたイベント(後述のディスプレイ680に電子ペン690のペン先、又は、電子ペン690のペン尻のタッチ)による描画された画像を、ディスプレイ680に表示させることができる。電子黒板14は、電子ペン690だけでなく、ユーザの手H等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ680上に表示されている画像を変更させることもできる。
【0013】
また、電子黒板14には、後述のUSB(Universal Serial Bus)メモリ630が接続可能である。電子黒板14はUSBメモリ630からPDF等の電子ファイルを読み出したり、USBメモリ630に電子ファイルを記録したり、することができる。また、電子黒板14には、DisplayPort、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)、及びVGA(Video Graphics Array)等の規格による通信が可能なケーブルを介して、後述のノートPC670を接続できる。
【0014】
電子黒板14は、ディスプレイ680に対する接触によってイベントを発生させる。電子黒板14は、このイベントを示すイベント情報を、マウスやキーボード等の入力装置からのイベントと同様に、ノートPC670に送信できる。同じく、電子黒板14には、上記規格による通信が可能なケーブルを介して、テレビ(ビデオ)会議端末が接続されていてもよい。なお、ノートPC670、及びテレビ会議端末は、Bluetooth(登録商標)等の各種無線通信プロトコルに準拠した無線通信により、電子黒板14と通信してもよい。
【0015】
また、通信ネットワーク18を介して通信可能に接続された異なる拠点などに設置されている電子黒板14は、他の電子黒板14でユーザの手H等によって生じたイベントに基づいて、ディスプレイ680上に表示されている画像を変更させることもできる。
【0016】
これにより、例えば一の拠点で電子黒板14のディスプレイ680上に描画された画像は他の拠点で電子黒板14のディスプレイ680上にも表示される。また、逆に他の拠点で電子黒板14のディスプレイ680上に描画された画像は、一の拠点で電子黒板14のディスプレイ680上に表示される。このように、画像処理システム10では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
【0017】
なお、電子黒板14は一例であり、画像を録画及び表示する機能と、音声を録音及び再生する機能と、を備えた装置であれば、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、遠隔画像(映像)診断装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、自動車(Connected Car)、PC、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA、デジタルカメラ、デジタルビデオカメラ等であってもよい。なお、USBメモリ630は記録媒体の一例であって、SDカード等の各種記録メディアであってもよい。
【0018】
図1に示す画像処理システム10の構成は一例である。例えばサーバ12は複数台で構成されてもよいし、サーバ12の機能を電子黒板14に備えるようにすることで、省略されてもよい。また、電子黒板14の機能の少なくとも一部はサーバ12に備えるようにしてもよい。このように、サーバ12及び電子黒板14の機能は、サーバ12及び電子黒板14の何れかが備えていればよい。また、サーバ12及び電子黒板14の機能は、サーバ12及び電子黒板14以外の他の装置で実現する構成であってもよい。
【0019】
<ハードウェア構成>
《コンピュータ》
図1に示すサーバ12は、例えば図2に示すようなハードウェア構成のコンピュータ500により実現される。図2は、本実施形態に係るコンピュータの一例のハードウェア構成図である。
【0020】
図2に示されているように、コンピュータ500はCPU(Central Processing Unit)501、ROM(Read Only Memory)502、RAM(Random Access Memory)503、HD504、HDD(Hard Disk Drive)コントローラ505、ディスプレイ506、外部機器接続I/F(Interface)508、ネットワークI/F509、データバス510、キーボード511、ポインティングデバイス512、DVD-RW(Digital Versatile Disk Rewritable)ドライブ514、メディアI/F516を備えている。
【0021】
これらのうち、CPU501は、プログラムに従ってコンピュータ500全体の動作を制御する。ROM502は、IPL等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。HD504はプログラム等の各種データを記憶する。HDDコントローラ505は、CPU501の制御にしたがってHD504に対する各種データの読み出し又は書き込みを制御する。
【0022】
ディスプレイ506は、カーソル、メニュー、ウインドウ、文字、又は画像などの各種情報を表示する。外部機器接続I/F508は、各種の外部機器を接続するためのインターフェースである。外部機器は、例えば、USBメモリやプリンタ等である。ネットワークI/F509は、通信ネットワーク18を利用してデータ通信をするためのインターフェースである。データバス510は、CPU501等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0023】
キーボード511は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス512は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。DVD-RWドライブ514は、着脱可能な記録媒体の一例としてのDVD-RW513に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RWに限らず、DVD-R等であってもよい。メディアI/F516は、フラッシュメモリ等の記録メディア515に対するデータの読み出し又は書き込み(記憶)を制御する。
【0024】
《電子黒板》
図3は本実施形態に係る電子黒板の一例のハードウェア構成図である。図3に示すように、電子黒板14は、CPU601、ROM202、RAM603、SSD(Solid State Drive)604、ネットワークI/F605、及び外部機器接続I/F606を備えている。
【0025】
CPU601は、プログラムに従って電子黒板14全体の動作を制御する。ROM602は、CPU601やIPL等のCPU601の駆動に用いられるプログラムを記憶する。RAM603は、CPU601のワークエリアとして使用される。SSD604は電子黒板14用のプログラム等の各種データを記憶する。
【0026】
ネットワークI/F605は、通信ネットワーク18との通信を制御する。外部機器接続I/F606は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリ630、外付け機器(マイク640、スピーカ650、カメラ660等)である。
【0027】
また、電子黒板14は、キャプチャデバイス611、GPU(Graphics Processing Unit)612、ディスプレイコントローラ613、接触センサ614、センサコントローラ615、電子ペンコントローラ616、ICカードリーダ617、近距離通信回路619、近距離通信回路619のアンテナ619a、電源スイッチ622、及び選択スイッチ類623を備えている。
【0028】
キャプチャデバイス611は、外付けのPC670のディスプレイに対して映像情報を静止画または動画として表示させる。GPU612は、グラフィクスを専門に扱う半導体チップである。ディスプレイコントローラ613はGPU612からの出力画像をディスプレイ680等へ出力するために画面表示の制御及び管理を行う。
【0029】
接触センサ614はディスプレイ680上に電子ペン690やユーザの手H等が接触したことを検知する。センサコントローラ615は接触センサ614の処理を制御する。接触センサ614は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ680の上側両端部に設置された2つ受発光装置が、ディスプレイ680に平行して複数の赤外線を放射し、ディスプレイ680の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。
【0030】
接触センサ614は、物体によって遮断された2つの受発光装置が放射した赤外線のIDをセンサコントローラ615に出力し、センサコントローラ615が、物体の接触位置である座標位置を特定する。電子ペンコントローラ616は、電子ペン690と通信することで、ディスプレイ680へのペン先のタッチやペン尻のタッチの有無を判断する。
【0031】
ICカードリーダ617はICカード700に埋め込まれたRFタグからICカード700に固有の識別情報を無線通信で読み取る。ICカードリーダ617は電子黒板14に内蔵されていても、電子黒板14に外付けされていてもよい。なお、ICカード700はスマートフォンなどのスマートデバイスが内蔵するものでもよい。また、電子黒板14はユーザを識別可能な識別情報を取得できるのであればICカードリーダ617以外を利用してもよく、生体認証装置(指紋、掌紋、虹彩、顔など)やバーコード読み取り装置等を利用してもよい。
【0032】
また、近距離通信回路619はNFCやBluetooth等の通信回路である。電源スイッチ622は、電子黒板14の電源のON/OFFを切り換えるためのスイッチである。選択スイッチ類623は、例えば、ディスプレイ680の表示の明暗や色合い等を調整するためのスイッチ群である。
【0033】
更に、電子黒板14はバスライン610を備えている。バスライン610は、図3に示されているCPU601等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0034】
なお、接触センサ614は、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、電子ペンコントローラ616が、電子ペン690のペン先及びペン尻だけでなく、電子ペン690のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
【0035】
なお、電子黒板14用のプログラムは、CD-ROM等のコンピュータで読み取り可能な記録媒体に記録して流通させることで提供するようにしてもよいし、オンプレミスやクラウドで運用されるサーバからのダウンロードで提供するようにしてもよい。サーバ12は電子黒板14用のプログラムを電子黒板14にダウンロードさせる機能を有していてもよい。
【0036】
<機能構成>
本実施形態に係る電子黒板14は例えば図4に示す機能構成により実現される。図4は本実施形態に係る電子黒板の一例の機能構成図である。図4の機能構成は、本実施形態の説明に不要な構成について適宜省略している。
【0037】
図4の電子黒板14は図3に示されているハードウェア構成及び電子黒板用のプログラムによって、図4に示す各機能構成を実現する。電子黒板14は、音声再生部20、音声入力部22、音声処理部24、データリンク部26、映像表示部28、表示処理部30、ページ処理部32、操作入力部34、操作処理部36、ストローク処理部38、カード情報取得部40、ユーザ認証部42、状態管理部44、及びデータ記録部46を有する。
【0038】
音声再生部20、音声入力部22、及び音声処理部24は電子黒板14用のプログラムが動作するOS(オペレーティングシステム)の機能を利用する。音声再生部20は音声処理部24から送信された音声データをスピーカ650で再生する。音声入力部22はマイク640から入力された音声データを音声処理部24に送信する。
【0039】
音声処理部24は再生する音声データをデータ記録部46から読み出し、読み出した音声データを音声再生部20に送信してスピーカ650で再生させる。また、音声処理部24は音声入力部22から受信した音声データを録音し、データ記録部46に記憶させる。
【0040】
映像表示部28は表示処理部30から送信された画像データをタッチディスプレイ710に表示する。なお、タッチディスプレイ710は図3のディスプレイ680及び接触センサ614に対応する。操作入力部34はタッチディスプレイ710上でユーザにより生じたイベント(タッチディスプレイ710上にユーザの手Hがタッチされた動作など)を検出し、検出したイベントの座標位置を操作処理部36に送信する。
【0041】
操作処理部36は、操作入力部34から座標位置を受信したイベントを、ストローク描画、UI操作、及びジェスチャ操作の各イベントに振り分ける。ストローク描画はタッチディスプレイ710上で例えば電子ペン690を押下し、押下した状態で電子ペン690を移動させ、最終的にタッチディスプレイ710から電子ペン690を離すまでのイベントである。
【0042】
このストローク描画により、例えば、手書き入力のアルファベット「S」や「T」等がタッチディスプレイ710上に描画される。なお、ストローク描画には、手書き入力の画像を描画するだけでなく、既に描画された画像を削除したり、描画された画像を編集したり、するイベントも含まれる。
【0043】
UI操作は、タッチディスプレイ710上に例えば後述のUI画面1100が表示されている場合に、ユーザが例えば電子ペン690又は手Hによって所定の座標位置を押下したイベントである。このUI操作により、例えば、電子ペン690により描画される線の色や幅等が設定される。
【0044】
ジェスチャ操作は、タッチディスプレイ710上にストローク画像等の画像が表示されている場合に、ユーザが手Hでタッチディスプレイ710上をタッチしたり移動させたりするイベントである。このジェスチャ操作により、ユーザはタッチディスプレイ710に手Hをタッチさせた状態で手Hを移動させることで、画像の拡大(若しくは縮小)、表示領域の変更、又は、ページ切り換え等を行うことができる。
【0045】
操作処理部36は、UI操作と判断されたものから、イベントが発生されたUI画面1100等の要素(表示部品)に従って、各種操作を実行する。このUI画面1100等の要素としては、例えば、ボタン、リスト、チェックボックス、テキストボックス等が挙げられる。また、操作処理部36は、ジェスチャ操作と判断したものに対応した操作を実行する。
【0046】
表示処理部30は、ページ処理部32が生成したUI画面1100などの画像データを映像表示部28に送信してタッチディスプレイ710に表示させる。ストローク処理部38は、操作処理部36によって割り振られたストローク描画のイベントに基づいて、画像を描画したり、描画された画像を削除したり、描画された画像を編集する。
【0047】
ページ処理部32は、ストローク処理部38からの手書き入力の画像、データ記録部46に記憶されている各種データなどを用いて、UI画面1100、後述のまとめページ画面1200などの画面の画像データを生成する。カード情報取得部40はICカード700からICカード700に固有の識別情報の一例であるカードIDを取得し、ユーザ認証部42に送信する。
【0048】
ユーザ認証部42は、カード情報取得部40から受信したカードID及び後述のユーザテーブルに基づいてユーザ認証を行う。例えばユーザ認証部42は、カード情報取得部40から受信したカードIDが後述のユーザテーブルに登録されていれば、認証が成功と判定する。ユーザ認証部42はユーザから入力されたユーザID及びパスワードに基づいてユーザ認証を行ってもよい。また、ユーザ認証部42はカメラ660、生体認証装置等を用いて認証情報等を取得し、認証情報等に基づいてユーザ認証を行うこともできる。電子黒板14は、ユーザ認証を自装置が行ってもよく、又はユーザ認証を外部装置に行わせてもよい。
【0049】
状態管理部44はユーザ認証部42によるユーザ認証の結果に基づく状態(ユーザ認証成功前の状態やユーザ認証成功後の状態など)を管理し、管理している状態を操作処理部36に提供する。
【0050】
データリンク部26は後述のユーザデータ、ホワイトボードデータ、ページデータ、音声データ、及び手書きデータを、ユーザテーブル、ホワイトボードテーブル、ページデータテーブル、音声データテーブル、及び手書きデータテーブルを用いて対応付け、データ記録部46に記憶させる。データ記録部46は、図5に示すようなユーザテーブル、図6に示すようなホワイトボードテーブル、図7に示すようなページデータテーブル、図8に示すような音声データテーブル、及び図9に示すような手書きデータテーブルを記憶している。なお、図5図9のテーブルではデータをGUID(UUID)で管理する例を示している。GUIDは例えば{104110D9-7794-4C82-95C1-694A0F164F81}のような形式となる。
【0051】
図5はユーザテーブルの一例の構成図である。図5のユーザテーブルは、ユーザID、カードID、及びパスワードを項目として有するユーザデータを管理する。ユーザIDはユーザを識別する識別情報の一例である。カードIDはICカード700を識別する識別情報の一例である。パスワードはユーザ認証に用いる認証情報の一例である。
【0052】
図6はホワイトボードテーブルの一例の構成図である。図6のホワイトボードテーブルは、ホワイトボードID、ユーザID、及び終了時刻を項目として有するホワイトボードデータを管理する。ホワイトボードIDは、電子黒板14を識別する識別情報の一例である。ユーザIDは、ユーザを識別する識別情報の一例である。終了時刻はユーザIDにより識別されるユーザが、ホワイトボードIDにより識別される電子黒板14を最後に使用した際の使用終了時刻を表す。
【0053】
図7はページデータテーブルの一例の構成図である。図7のページデータテーブルは、ページデータID、ユーザID、ホワイトボードID、サマリーページFlag、録音Flag、及びページデータパスを項目として有するページデータを管理する。
【0054】
ページデータIDはページデータを識別する識別情報の一例である。ユーザIDはユーザを識別する識別情報の一例である。ホワイトボードIDは電子黒板14を識別する識別情報の一例である。サマリーページFlagは、後述のまとめページであるか否かを示す情報の一例である。サマリーページFlagは、まとめページの場合に「TRUE」となり、まとめページ以外の場合に「FALSE」となる。
【0055】
録音Flagは、音声データを録音するか否かを示す情報の一例である。録音Flagは音声データを録音する状態の場合に「TRUE」となり、音声データを録音しない状態の場合に「FALSE」となる。ページデータパスはページデータの所在を表す情報の一例である。
【0056】
図8は音声データテーブルの一例の構成図である。図8の音声データテーブルは、音声データID、ページデータID、開始時刻、終了時刻、及び音声データパスを項目として有する音声データを管理する。
【0057】
音声データIDは音声データを識別する識別情報の一例である。ページデータIDはページデータを識別する識別情報の一例である。開始時刻は音声データの録音開始時刻を表している。終了時刻は音声データの録音終了時刻を表している。音声データパスは音声データの所在を表す情報の一例である。例えば音声データはMP3形式で記憶・再生できる。一例として、音声データID「GUID♯3001」が示す音声データを説明する。本音声データは、ページデータID「GUID♯2003」が示すページデータを電子黒板14に表示させた際に録音された音声データである。本音声データは、2020年01月11日13時30分00秒から録音を開始して、13時37分00秒に録音を終了した音声データである。
【0058】
図9は手書きデータテーブルの一例の構成図である。図9の手書きデータテーブルは、手書きデータID、ページデータID、音声データID、経過時間、領域ID、手書きデータパスを項目として有する手書きデータを管理する。
【0059】
手書きデータIDは手書きデータを識別する識別情報の一例である。ページデータIDはページデータを識別する識別情報の一例である。音声データIDは音声データを識別する識別情報の一例である。経過時間は音声データの録音を開始してから手書き開始までに経過した時間を表している。領域IDは、まとめページの手書きを行った後述の領域を表している。手書きデータパスは手書きデータの所在を表す情報の一例である。例えば手書きデータはインクシリアル化形式(ISF)で記憶・表示できる。
【0060】
一例として、手書きデータID「GUID♯5101」が示す手書きデータを説明する。本手書きデータは、ページデータID「GUID♯2003」が示すページデータを電子黒板14に表示させた際に手書きしたデータである。音声データ「GUID♯3001」は、13時30分00秒から録音を開始する音声データである。手書きデータID「GUID♯5101」は、領域IDが1を示す領域に対して、録音を開始した315秒後である13時35分15秒から、手書きが開始された手書きデータである。同様にして、手書きデータID「GUID♯5102」は、領域IDが1を示す領域に対して、録音を開始した316秒後である13時35分16秒から、手書きが開始された手書きデータである。また、手書きデータID「GUID♯5115」は、領域IDが2を示す領域に対して、録音を開始した322秒後である13時35分22秒から、手書きが開始された手書きデータである。
【0061】
<処理>
本実施形態に係る画像処理システム10は、例えば図10に示すような手順でページ表示の処理を行う。図10は、電子黒板のページ表示の処理手順の一例のフローチャートである。図10のページ表示の処理は、ユーザがユーザ認証を行い、ユーザ認証に成功した場合に、ユーザが前回使用したページを表示する処理の一例である。ユーザが電子黒板14の前回の使用で、まとめページを作成していた場合に、電子黒板14は、まとめページを表示する。
【0062】
ステップS10において、電子黒板14の映像表示部28は図11に示すようなユーザ認証画面1000をタッチディスプレイ710に表示し、ICカード700によるログインを待ち受ける。図11はユーザ認証画面の一例のイメージ図である。電子黒板14を使用するユーザは、自分のICカード700をICカードリーダ617にかざす。
【0063】
ステップS12において、カード情報取得部40はICカード700のカードIDを取得し、ユーザ認証部42に送信する。ユーザ認証部42はカード情報取得部40から受信したカードID及び図5のユーザテーブルに基づいてユーザ認証を行う。ステップS14において、ユーザ認証部42はユーザ認証が成功か失敗かを判定する。ユーザ認証部42はカード情報取得部40から受信したカードIDが図5のユーザテーブルに登録されていれば認証が成功と判定する。また、ユーザ認証部42は、カード情報取得部40から受信したカードIDが図5のユーザテーブルに登録されていなければ認証が失敗と判定する。
【0064】
認証が失敗と判定した場合、電子黒板14はステップS10に戻り、ICカード700によるログインを待ち受ける状態に戻る。また、認証が成功と判定した場合、電子黒板14のページ処理部32はステップS16に進み、図5のユーザテーブルから認証に成功したユーザのユーザID(GUID)を取得する。
【0065】
ステップS18において、ページ処理部32はステップS16で取得したユーザID及び図6のホワイトボードテーブルに基づいて、認証に成功したユーザが最後に使用した電子黒板14のホワイトボードID(GUID)を取得する。
【0066】
ステップS20において、ページ処理部32は、ステップS16で取得したユーザIDと、ステップS18で取得したホワイトボードIDと、図7のページデータテーブルとに基づいて、認証に成功したユーザが最後に使用した電子黒板14のページデータID(GUID)を取得する。
【0067】
ステップS22において、ページ処理部32はステップS20で取得したページデータIDのページデータと、ステップS20で取得したページデータIDに対応する図9の手書きデータとに基づいて、ホワイトボードページデータを復元する。
【0068】
ステップS24において表示処理部30は図12のUI画面1100又は図13のまとめページ画面1200をタッチディスプレイ710に表示させる。例えば表示処理部30はステップS20で取得したページデータの項目「サマリーページFlag」が「TRUE」でなければ、図12のようなUI画面1100をタッチディスプレイ710に表示させる。また、例えば表示処理部30はステップS20で取得したページデータの項目「サマリーページFlag」が「TRUE」であれば、図13のようなまとめページ画面1200をタッチディスプレイ710に表示させる。
【0069】
図12はUI画面の一例のイメージ図である。図12のUI画面1100はユーザからの指示を受け付ける表示部品の一例として、ページ追加ボタン1102、ページ削除ボタン1104、まとめページ作成ボタン1106、全ページ削除ボタン1108、ページ選択ボタン1110、ページリストスクロールボタン1112、ページ読み込みボタン1114、手書きボタン1116、終了ボタン1118、及び手書き削除ボタン1120が設けられている。
【0070】
ページ追加ボタン1102はユーザからのページ追加指示を受け付ける。ページ削除ボタン1104はユーザからのページ削除指示を受け付ける。まとめページ作成ボタン1106はユーザからの、まとめページ作成指示を受け付ける。全ページ削除ボタン1108はユーザからの全ページ削除指示を受け付ける。ページ選択ボタン1110はユーザからのページ選択指示を受け付ける。ページリストスクロールボタン1112はユーザからのページリストのスクロール指示を受け付ける。
【0071】
ページ読み込みボタン1114はユーザからのページの読み込み指示を受け付ける。手書きボタン1116はユーザからの手書き指示を受け付ける。終了ボタン1118はユーザからの終了指示を受け付ける。また、手書き削除ボタン1120はユーザからの手書き削除指示を受け付ける。
【0072】
図13はまとめページ画面の一例のイメージ図である。図13のまとめページ画面1200は図12の表示部品に加えて、領域1202、音声再生ボタン1204、すべての音声再生ボタン1206、音声削除ボタン1208、及びまとめページのページ選択ボタン1210が設けられている。
【0073】
図13のまとめページ画面1200の画像データは図12のまとめページ作成ボタン1106がユーザに押下されることにより作成され、図7のページデータテーブルに新規のレコードとして追加される。1つ以上の領域1202はユーザからの手書き入力を受け付ける画面上の領域である。音声再生ボタン1204は領域1202ごとに設けられ、ユーザからの音声再生指示を受け付ける。
【0074】
すべての音声再生ボタン1206は、まとめページ画面1200と対応付けられている全ての音声データを再生する音声再生指示をユーザから受け付ける。まとめページのページ選択ボタン1210はユーザからのまとめページ選択指示を受け付ける。
【0075】
例えば図12のUI画面1100又は図13のまとめページ画面1200で、ページ選択ボタン1110が押下されるなど、ページが切り替わるイベントを受け取ると、電子黒板14のページ処理部32は図14に示すような手順で手書きデータの入力や音声データの録音の処理を行う。図14は電子黒板の手書きデータの入力及び音声データの録音の処理手順の一例のフローチャートである。
【0076】
ステップS30において、ページ処理部32はページが切り替わるイベントをユーザから受け取ったものとする。ステップS32において、ページ処理部32は音声データの録音中であるか否かを判定する。すでに音声データが録音されている場合、電子黒板14の音声処理部24はステップS34において音声データの録音を停止し、図8の音声データテーブルの対応するレコードに終了時刻を設定する。音声データが録音されていない場合はステップS34の処理がスキップされる。
【0077】
また、ページ処理部32は切り替わるページのページデータテーブルのサマリーページFlagが「TRUE」であるか否かを判定する。切り替わるページのページデータテーブルのサマリーページFlagが「TRUE」でなければ、ページ処理部32はページの切り替えにより表示される画面が、まとめページ画面1200でないため、図14の処理を終了する。
【0078】
切り替わるページのページデータテーブルのサマリーページFlagが「TRUE」であればページ処理部32はページの切り替えにより表示される画面が、まとめページ画面1200であるため、ステップS38に進み、まとめページ画面1200のページデータテーブルの録音Flagが「TRUE」であるか否かを判定する。
【0079】
まとめページ画面1200のページデータテーブルの録音Flagが「TRUE」でなければ、ページ処理部32は音声データが録音済みであるため、図14の処理を終了する。まとめページ画面1200のページデータテーブルの録音Flagが「TRUE」であれば、ページ処理部32は音声データが録音されていないため、ステップS42に進み、音声再生ボタン1204及びすべての音声再生ボタン1206を使用不可にする。
【0080】
ステップS44において、ページ処理部32は音声データテーブルに新規のレコードを追加し、音声データID、ページデータID、開始時刻を設定する。ステップS46において音声処理部24は音声データの録音を開始する。また、ページ処理部32は音声データの保存先を音声データパスとして設定する。
【0081】
まとめページ画面1200への手書き入力が開始されると、ステップS48からステップS50に進み、ページ処理部32は手書き入力が開始された手書き開始位置が領域1202内にあるか否かを判定する。手書き入力が開始された手書き開始位置が領域1202内でなければページ処理部32はステップS48に戻り、次の手書き入力まで待機する。
【0082】
手書き入力が開始された手書き開始位置が領域1202内であれば、ページ処理部32はステップS52に進み、図9の手書きテーブルに新規のレコードを追加し、手書きデータID、ページデータID、及び領域IDを設定する。また、ページ処理部32は録音の開始時刻を記録する。
【0083】
ステップS54において、ページ処理部32は、まとめページ画面1200への手書き入力が終了すると、ステップS54からステップS56に進み、手書きデータを保存し、図9の手書きデータテーブルの手書きデータパスに、手書きデータの保存先を設定する。ページ処理部32はステップS48に戻り、次の手書き入力まで待機する。
【0084】
また、例えば図13の音声再生ボタン1204又はすべての音声再生ボタン1206が押下されると、電子黒板14のページ処理部32は図15又は図16に示すような手順で音声データを再生する。図15及び図16は、電子黒板の音声データの再生の処理手順の一例のフローチャートである。なお、図15では、まとめページ画面1200の領域ID「1」の領域の音声再生ボタン1204が押下された例を示している。図16では、まとめページ画面1200のすべての音声再生ボタン1206が押下された例を示している。
【0085】
ステップS60において、ページ処理部32は図9の手書きデータテーブルから、対象のページデータIDで領域IDが「1」のレコードを抽出する。ページ処理部32はステップS62において、ステップS60で抽出したレコードの音声データIDを抽出し、抽出した音声データIDが設定されているレコードを図8の音声データテーブルから抽出する。
【0086】
ステップS64に進み、ページ処理部32は領域ID「1」の手書きデータテーブルのレコードを消去する。ページ処理部32はステップS62で抽出した音声データテーブルのレコードを録音の開始時間で降順に並び替え、ステップS68~S70においてレコードごとに音声データを再生する。音声データの再生の開始からN秒経過後に、経過時間がNの手書きデータがあれば、ページ処理部32は、その手書きデータを領域ID「1」の領域に描画する。
【0087】
例えば領域ID「1」の領域に、図17の発話データに示す音声データが録音されているものとして説明する。図17は発話データの一例のイメージ図である。図17に示す発話データは、発話者、発話時間、及び発話内容を表している。例えば図17の発話データに示す音声データが録音されている場合、発話者「サトウ」の発話時間「13:35:13-13:35:22」の音声再生中に、領域ID「1」の領域には図9の手書きデータID「GUID#5101」「GUID#5102」「GUID#5103」が、それぞれの経過時間「315」「316」「317」に従って表示される。
【0088】
図16のステップS80において、ページ処理部32は図9の手書きデータテーブルから、対象のページデータIDのレコードを抽出する。ページ処理部32はステップS82において、ステップS80で抽出したレコードの音声データIDを抽出し、抽出した音声データIDが設定されているレコードを図8の音声データテーブルから抽出する。
【0089】
ステップS84に進み、ページ処理部32は対象のページデータIDの手書きデータテーブルのレコードを消去する。ページ処理部32はステップS82で抽出した音声データテーブルのレコードを録音の開始時間で降順に並び替え、ステップS88~S90においてレコードごとに音声データを再生する。音声データの再生の開始からN秒経過後に、経過時間がNの手書きデータがあれば、ページ処理部32は、その手書きデータを領域IDの領域に描画する。
【0090】
[他の実施形態]
なお、本実施形態の画像処理システム10は図15又は図16に示すような手順で音声データを再生したあと、音声データ及び手書きデータを自動的に削除して、サーバ12又は電子黒板14の記憶容量の逼迫を避けるようにしてもよい。また、図15又は図16に示すような手順で音声データを再生したあと、本実施形態の画像処理システム10は音声データ及び手書きデータを削除するか否かをユーザに問い合わせる表示を行い、ユーザから音声データ及び手書きデータを削除する操作を受け付けるようにしてもよい。
【0091】
また、音声データ及び手書きデータを削除するタイミングは再生時に限られない。例えば、音声データ及び手書きデータを新たに録音/記録した際に、電子黒板14の記憶容量の残量を算出する。その残量が今回録音/記録した音声データ及び手書きデータの容量よりも少ない(仮に同じ音声データ及び手書きデータを改めて録音/記録しようとしても実行できない)と判断される場合に、音声データ及び手書きデータを削除するか否かをユーザに問い合わせる表示を行ってもよい。
【0092】
本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。なお、本実施形態で説明した画像処理システム10は一例であって、用途や目的に応じて様々なシステム構成例があることは言うまでもない。
【0093】
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【0094】
実施例に記載された装置群は、本明細書に開示された実施形態を実施するための複数のコンピューティング環境のうちの1つを示すものにすぎない。
【0095】
ある実施形態では、サーバ12は、サーバクラスタといった複数のコンピューティングデバイスを含む。複数のコンピューティングデバイスは、通信ネットワーク18や共有メモリなどを含む任意のタイプの通信リンクを介して互いに通信するように構成されており、本明細書に開示された処理を実施する。同様に、電子黒板14は、互いに通信するように構成された複数のコンピューティングデバイスを含むことができる。
【0096】
さらに、サーバ12、及び電子黒板14は開示された処理ステップを様々な組み合わせで共有するように構成できる。例えば、電子黒板14によって実行されるプロセスは、サーバ12によって実行され得る。同様に、サーバ12によって実行されるプロセスは、電子黒板14によって実行することができる。また、サーバ12と電子黒板14の各要素は、1つの装置にまとめられていてもよいし、複数の装置に分けられていてもよい。
【0097】
なお、手書きデータはユーザから入力された入力データの一例である。入力データとはユーザにより入力され、タッチディスプレイ710に表示されるデータであって、例えばストロークデータである。また、入力データに関連する音声データとは、入力データと対応付けられて記憶される音声データであって、例えば入力データの入力時に録音された音声データである。表示処理部30は表示処理手段の一例である。音声処理部24は音声処理手段の一例である。ページ処理部32はページ処理手段の一例である。ユーザIDはユーザ識別情報の一例である。データ記録部46はデータ記録手段の一例である。ユーザ認証部42はユーザ認証手段の一例である。
【符号の説明】
【0098】
10 画像処理システム
12 サーバ
14 電子黒板
18 通信ネットワーク
20 音声再生部
22 音声入力部
24 音声処理部
26 データリンク部
28 映像表示部
30 表示処理部
32 ページ処理部
34 操作入力部
36 操作処理部
38 ストローク処理部
40 カード情報取得部
42 ユーザ認証部
44 状態管理部
46 データ記録部
614 接触センサ
617 ICカードリーダ
640 マイク
650 スピーカ
680 ディスプレイ
690 電子ペン
700 ICカード
710 タッチディスプレイ
1106 まとめページ作成ボタン
1200 まとめページ画面
1202 領域
1204 音声再生ボタン
【先行技術文献】
【特許文献】
【0099】
【文献】特開2005-284490号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17