(58)【調査した分野】(Int.Cl.,DB名)
メモリと、プロセッサと、コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するマイクと、前記マイクが感知した前記音響をデジタルデータに変換するADCと、を備えるモバイル受信機器において、関連コンテンツを提供するために実行される関連コンテンツ提供アプリケーションにより行われる関連コンテンツ提供方法であって、
前記デジタルデータから音波IDを抽出するステップと、
前記音波IDに対応する関連コンテンツを映像及び/または音声で表示するステップと、を含み、
前記音波IDは、
前記コンテンツ再生機器から出力される音響に人為的に挿入された非可聴音響を表すデジタルデータ(「非可聴音波ID」という)または
前記コンテンツ再生機器から出力される音響の一部として含まれている音響から出力できる音響の特徴を表す縮約されたデジタルデータ(「可聴指紋ID」という)であり、
前記方法は、
前記ステップを行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップと、
主コンテンツが再生される時間を表す主コンテンツスケジュールを格納するステップと、
をさらに含み、
前記活性化させるステップは、前記主コンテンツスケジュールを参照して前記主コンテンツが再生される時間に合うように行われるか、又は、予め決められたイベントが発生すると行われ、
前記関連コンテンツを表示するステップは、前記主コンテンツが終了したときに実行され、
前記予め決められたイベントは、
前記関連コンテンツ提供アプリケーション以外の他の特定のアプリケーションの実行、前記モバイル受信機器が備えた表示部の活性化、または、前記モバイル受信機器によるプッシュメッセージの受信のうち、のいずれか一つであることを特徴とする関連コンテンツ提供方法。
前記活性化させるステップは、周期的に行われ、ただし行う時期になった時に予め決められたイベントが発生すると、行われないことを特徴とする請求項1に記載の関連コンテンツ提供方法。
前記活性化させるステップは、前記主コンテンツが再生される時間の間には第1周期で行われ、前記主コンテンツが再生されない時間の間には前記第1周期より長い第2周期で行われることを特徴とする請求項1に記載の関連コンテンツ提供方法。
前記ADCと前記音波IDを抽出するステップを行う構成要素は、前記マイクが予め設定された帯域に属した音響を感知した時、同時または順次に活性化されることを特徴とする請求項1に記載の関連コンテンツ提供方法。
前記音響が予め設定された閾値以上の強度を有するかどうかを判断するステップを行う構成要素は、前記マイクが予め設定された帯域に属した音響を感知した時に、活性化され、
前記ADCと前記音波IDを抽出するステップを行う構成要素は、前記音響が予め設定された閾値以上の強度を有すると判断された場合に、同時または順次に活性化されることを特徴とする請求項5に記載の関連コンテンツ提供方法。
【発明を実施するための形態】
【0016】
以上の本発明の目的、他の目的、特徴及び利点は、添付された図面と関連した以下の好ましい実施の形態により容易に理解されるはずである。しかしながら、本発明は、ここで説明される実施の形態に限定されずに他の形態により具体化されうる。むしろ、ここで紹介される実施の形態は、開示された内容が徹底かつ完全になるように、そして当業者に、本発明の思想を十分に伝達させるために提供されるものである。
【0017】
また、本明細書において使用された用語は、実施の形態を説明するためのもので、本発明を制限しようとするものではない。本明細書において、単数形は、文句において特に言及しない限り、複数形も含む。明細書で使用される「含む(comprises)」及び/又は「含んでいる(comprising)」と言及された構成要素は、一つ以上の他の構成要素の存在又は追加を排除しない。
【0018】
以下、図面を参照して本発明を詳細に説明する。以下の特定実施の形態を述べるにおいて、様々な特定の内容は、発明をさらに具体的に説明し理解に役立つために作成された。しかしながら、本発明を理解することができる程度のこの分野における知識を有した読者は、このような様々な特定の内容がなくても使用されうることを認知できる。ある場合には、発明を述べるにおいて周知で発明と大きく関連のない部分は、本発明を説明するにおいて特別の理由なしで混乱を引き起こすことを防止するために述べないことを予め言及しておく。
【0019】
(1)用語の定義
-コンテンツ:映像、音響あるいは音響と映像とが複合した形態の構造的なデジタルデータであって、教育的、文化的、情報的、及び/または娯楽的価値を提供する情報を意味する。
【0020】
-コンテンツ再生機器:コンテンツを再生する機器であって、例えばTV、ラジオ、デスクトップコンピューターまたはモバイル機器(例:ラップトップコンピューター、タブレットコンピューター、スマートフォン、ウェアラブルコンピューターなど)のように、音響を再生するためのスピーカーあるいは音響出力端子を含み、追加的に映像を表示するためのモニターあるいは映像出力端子を含むことができる。
【0021】
-コンテンツ:i)主コンテンツまたは関連コンテンツを意味するか、またはii)主コンテンツと関連コンテンツともを通称する意味として使用される。
【0022】
-主コンテンツ:コンテンツ再生機器を介して出力(放送あるいは再生)されるコンテンツである。
【0023】
-関連コンテンツ:モバイル受信機を介して出力されるコンテンツであって、コンテンツ再生機器を介して出力される主コンテンツの内容あるいは内容を伝達するための背景知識と関連した音響、映像、文書、インターネットアドレスなどの情報及び/またはこれらを指すデジタル識別子値を意味する。例えば、関連コンテンツは、コンテンツ編成の制約あるいは諸般法規の制約などで主コンテンツに含まれ難いコンテンツ、視聴者あるいは聴取者の参加を誘導するコンテンツ、視聴者あるいは聴取者の注意を得難い間接広告に関するコンテンツ、または間接広告に出てくる商品に関する情報あるいは商品の購買に関するコンテンツでありうる。
【0024】
-モバイル受信機:関連コンテンツを出力できる機器であって、主コンテンツに含まれた音響を分析することができるように、マイク及びADC(Analog-Digital Converter)を含み、主コンテンツの音響を分析して主コンテンツを把握するか、または主コンテンツの相対的時間位置を把握した後、主コンテンツの全てまたは主コンテンツに含まれた一部と関連している関連コンテンツを視覚あるいは聴覚で認知できる形態でコンテンツ視聴者あるいは聴取者に提供するモバイル機器である。このとき、視聴者あるいは聴取者は、モバイル受信機を所有した人でありうる。例えば、モバイル受信機は、ラップトップコンピューター、タブレットコンピューター、スマートフォン、またはウェアラブルコンピューターなどのようなモバイル機器でありうる。
【0025】
-商品間接広告あるいは間接広告:主コンテンツの全てあるいは一部として含まれた商品、サービス、ブランドロゴ、タグラインなどのように広告として主コンテンツ映像の一部または音響の一部として出力される広告である。商品間接広告あるいは間接広告は、協賛広告(コンテンツの製作時に無料あるいは割引された価格で現物を提供して、コンテンツの一部として露出させる広告)を含む概念であって、関連コンテンツは、例えば商品間接広告または間接広告と関連したコンテンツである。
【0026】
-間接広告商品:商品間接広告あるいは間接広告により主コンテンツの全てあるいは一部として出力される商品またはサービスであり、具体的な形態を有した商品だけでなく、サービス、ブランド、ロゴ、及びタグラインなどを含む意味として使用される。
【0027】
-音波ID(Identifier):音波IDは、(1)主コンテンツの音響に人為的に挿入された非可聴音響が表すデジタルデータ(非可聴音波ID)であるか、または(2)主コンテンツの一部として含まれている音響から抽出することができる音響の特徴を表す縮約されたデジタルデータ(可聴指紋
(fingerprint)ID)である。人為的に挿入された非可聴音波IDは、心理音響(Psychoacoustics)を利用して人に聞こえない非可聴音波に変調された特徴を有する。音響の特徴を表す可聴指紋音波IDは人為的な挿入を必要としないが、主コンテンツに音響がある時においてのみ抽出することができる。2種類の音波IDは、全部(1)主コンテンツを識別するか、または(2)主コンテンツ内の相対的時間位置を識別するか、(3)主コンテンツ内の間接広告と関連した関連コンテンツを識別するか、または(4)主コンテンツ内の相対的時間位置での間接広告と関連した関連コンテンツを識別するのに使用されることができる。非可聴音波IDは、一連番号、有意味な単語あるいはインターネットリンクなどを含むことができる。可聴指紋音波IDは、SVD/EVD(Singular/Eigen Value Decomposition)、PCA(Principal Component Analysis)、最大ランドマーク感知(Peak Landmarks Detection)、零点交差回数(Zero-crossing counting)、MFCC(Mel Frequency Cepstral Coefficient)、PLPC(Perceptual Linear Prediction Coefficient)、LPC(Linear Prediction Coefficient)などの技術をハッシュ関数(Hash Function)として使用して抽出でき、抽出された値は、ハッシュキー(Hash Key)として使用されることができる。非可聴音波IDの記述(description)の便宜のために、非可聴音波IDは、デジタルデータが変調されたアナログ形態の非可聴音波と変調前のデジタルデータ、復調後のデジタルデータのうちの何れか一つを指すことができる。また、記述の便宜のために、音響の特徴を抽出して得る可聴指紋音波IDは、抽出された特徴デジタルデータ、これを抽出できる主コンテンツ音響の一部、モバイル受信機が感知した特徴デジタルデータを抽出できる主コンテンツ音響の一部、モバイル受信機が抽出した特徴デジタルデータのうちの何れか一つを指すことができる。
【0028】
-音響認識モジュール:音波IDを感知し抽出するために使用される少なくとも一つの構成要素を通称する意味として使用され、例えばマイク、ADC、音波ID抽出部、及び関連コンテンツ提供アプリケーションのうちの何れか一つを通称できる。
【0029】
(2)関連コンテンツ提供システム
図1は、本発明の一実施の形態にかかる関連コンテンツを音波IDを利用して提供するシステム(以下、関連コンテンツ提供システムという)を説明するための図である。
【0030】
図1を参照すると、関連コンテンツ提供システムは、コンテンツ再生機器100から出力される主コンテンツの全てまたは一部と関連した関連コンテンツをモバイル受信機200を介して提供するシステムである。
【0031】
モバイル受信機200は、例えば、主コンテンツとして出力される映像と音響のうち、少なくともいずれか一つと関連した広告を含む関連コンテンツを提供できる。一例として、モバイル受信機200は、主コンテンツから出力される映像で表示されたあるいは音響で言及された間接広告商品に対する関連コンテンツを提供できる。一実施の形態によれば、モバイル受信機200は、主コンテンツから出力される映像で表示されたあるいは音響で言及された間接広告商品が複数である場合、これらの各々と関連した関連コンテンツを提供できる。
【0032】
本実施の形態にかかる関連コンテンツ提供システムは、コンテンツ再生機器100、モバイル受信機200、及びサーバ300を備えることができる。
【0033】
コンテンツ再生機器100は、映像及び/または音響を出力できる。モバイル
受信機200は、コンテンツ再生機器100により出力される音響から音波IDを少なくとも一つ以上抽出できる。例えば、音波IDは、関連コンテンツデータベース(Database、DB)(音波IDと関連コンテンツとが互いに対応したDB)を介して関連コンテンツと対応していることができる。
【0034】
例えば、音波IDは、主コンテンツを識別するか、主コンテンツ内の相対的時間位置を識別するか、主コンテンツ内の間接広告と関連した(対応した)関連コンテンツを識別するか、または主コンテンツ内の相対的時間位置での間接広告と関連した(対応した)関連コンテンツを識別するのに使用されることができる。
【0035】
コンテンツ再生機器100は、例えば、TV、ラジオ、デスクトップコンピューター及びモバイル機器(例:ラップトップコンピューター、タブレットコンピューター、スマートフォン、ウェアラブルコンピューターなど)等、音響を再生するためのスピーカーあるいは音響出力端子を含み、追加的に映像を表示するためのモニターあるいは映像出力端子を含むことができる。
【0036】
モバイル受信機200は、コンテンツ再生機器100から出力される主コンテンツの音響に含まれた音波IDを抽出でき、音波IDに対応する関連コンテンツを視覚あるいは聴覚で認知できる形態で主コンテンツ視聴者あるいは聴取者に提供するモバイル機器である。このとき、視聴者あるいは聴取者は、モバイル受信機を所有した人でありうる。例えば、モバイル受信機200は、ラップトップコンピューター、タブレットコンピューター、スマートフォン、ウェアラブルコンピューターなどのモバイル機器を含むことができる。また、モバイル受信機200は、音波ID受信のためのマイク(図示せず)とADC(図示せず)を含むことができる。
【0037】
本実施の形態において、モバイル受信機200は、音波IDを抽出すると、サーバ300に音波IDを送信し、サーバ300から音波IDに対応した関連コンテンツを受信して、音響または映像で表示できる。例えば、モバイル受信機200は、お知らせメッセージ、映像、及び/または音声などの形態でユーザに音波IDに対応した関連コンテンツを表示できる。
【0038】
本実施の形態において、モバイル受信機200は、ラップトップコンピューター、タブレットコンピューター、ウェアラブルコンピューター、スマートフォンなどのモバイル機器のように移動性を有した装置であって、音響を認識するためのマイク(図示せず)、サーバとの通信のための通信部(図示せず)、コンピュータープロセッサ(図示せず)、メモリ(図示せず)、及びプログラム(図示せず)を含むことができる。ここで、プログラムは、コンピュータープロセッサの制御下にメモリにローディングされて、諸動作(例えば、音波IDを認識し、認識した音波IDをサーバ300に送信し、サーバ300から受信した関連コンテンツをお知らせメッセージ、映像、及び/または音声などの形態で表現する動作)を行うことができる。
【0039】
次に、音波IDがコンテンツにどのように含まれることができるかについて説明する。
主コンテンツに音波IDを挿入し抽出する技術は、以下のような特許出願文献に開示された技術を利用できる。
【0040】
例えば、
音波IDを音響に挿入する技術と、そして音響に挿入された
音波IDを抽出する技術は、例えば、本発明者が2012年4月12日付で韓国特許庁に特許出願した特許出願番号10-2012-0038120号(音響システムを利用してモバイル端末機の位置を推定する位置推定方法、及び位置推定システムと、これに使用される音響システム)に開示された技術を利用できる。
【0041】
他の例として、本発明者が2012年7月18日付で韓国特許庁に特許出願した特許出願番号10-2012-0078410号(近接性データ収集方法及びシステム)に開示された技術(音響信号中にIDを含め、音響信号に含まれたIDを認識して抽出する技術)を利用することも可能である。
【0042】
さらに他の例として、本発明者が2012年5月18日付で韓国特許庁に特許出願した特許出願番号10-2012-0053286号(スピーカーの識別のためのシステム及びこれを利用した位置推定システム)に開示された技術(音響信号中にIDを含め、音響信号に含まれたIDを認識して抽出する技術)を利用することも可能である。
【0043】
他の例として、本発明者が2012年7月18日付で韓国特許庁に特許出願した特許出願番号10-2012-0078446号(近接性情報を利用したユーザ間親密度算出方法及び装置)に開示された技術(音響信号中にIDを含め、音響信号に含まれたIDを認識して抽出する技術)を利用することも可能である。
【0044】
さらに他の例として、本発明者が2013年9月6日付で韓国特許庁に特許出願した特許出願番号10-2013-0107604号(時変周波数基盤のシンボルを利用した音波送受信方法及びこれを利用した装置)に開示された技術(音響信号中にデジタル情報を含め、音響信号に含まれたデジタル情報を認識して抽出する技術)を利用することも可能である。
【0045】
一方、上述の特許出願番号10-2012-0038120、10-2012-0078410、10-2012-0053286、10-2012-0078446、及び10-2013-0107604の各々の明細書に開示された技術は、全部本願明細書に結合されて、本願明細書の一部として取り扱われる。
【0046】
主コンテンツに含まれた音響の特徴に該当する可聴指紋音波IDを抽出する技術は、以下のような特許出願文献に開示された技術を利用できる。
【0047】
例えば、韓国特許登録番号10-1310943号(2013.9.11)(放送コンテンツと関連したコンテンツ関連情報を提供するシステム及び方法)、韓国特許登録番号10-1313293号(2013.9.24)(放送コンテンツの付加情報提供システム及びその方法)、韓国特許登録番号10-0893671号(2009.4.9)(マルチメディアコンデンツのハッシュの生成及びマッチング)に開示された技術を利用することが可能である。
【0048】
一方、上述の韓国特許登録番号10-1310943、10-1313293、及び10-0893671の各々の明細書に開示された技術は、全部本願明細書に結合されて、本願明細書の一部として取り扱われる。
【0049】
サーバ300は、モバイル受信機200から音波IDを受信することができ、音波ID別に関連コンテンツが対応した関連コンテンツDB(図示せず)を参照して音波IDに対応した関連コンテンツを選択し、選択した関連コンテンツをモバイル受信機200に送信する。
【0050】
本実施の形態におけるサーバ200は、例えば、広告を格納及び管理する広告サーバであるか、または同じグループに属した友人に文字及び/またはマルチメディアデータを送信するMIM(Multimedia Instant Messenger)サービスサーバでありうる。
【0051】
サーバ200がMIMサービスサーバにより具現化される場合、サーバ200は、MIMサービスサーバと相互作用するクライアントプログラムに、関連コンテンツを送信する。
【0052】
(3)音波IDを抽出するモバイル受信機
図2は、モバイル受信機の一実施の形態を説明するための図である。
図2を参照すると、モバイル受信機200は、マイク201、ADC203、プロセッサ207、メモリ209、格納装置211、表示部213、通信部215を備えることができる。
【0053】
一実施の形態によれば、マイク201は、コンテンツ再生機器100から出力される音響を感知できる。すなわち、受信される音響を電気的信号に変換できる。
【0054】
一実施の形態によれば、ADC203は、マイク
201で感知したアナログ音波信号である音響をデジタルデータに変換する。一実施の形態においてADC203は、マイクが感知した予め設定された周波数範囲あるいはハードウェアが許容する最大周波数範囲内の音波信号をデジタルデータに変換できる。
【0055】
代案的な実施の形態によれば、ADC203は、音響が予め設定された所定の閾値(Threshold)以上の強度を有する時においてのみデジタルデータに変換することもできる。また、ADC203は、予め設定された周波数範囲内の音響が予め設定された所定閾値以上の強度を有する時においてのみデジタルデータに変換することもできる。
【0056】
閾値は、例えば、信号対雑音比(SNR)のような相対的値または音響の強度のような絶対的値でありうる。
【0057】
プロセッサ207は、コンピューター命令語を解析し実行する装置であって、一般的な汎用コンピューターの中央処理装置(CPU)でありえ、スマートフォンのようなモバイルデバイスの場合、例えばアプリケーションプロセッサ(AP)を意味でき、メモリ209にローディングされたプログラムを実行できる。
【0058】
メモリ209は、ランダムアクセスメモリ(RAM)のような揮発性格納装置により具現化されることができ、モバイルデバイス200の駆動に必要なオペレーティング・システム(OS)、アプリケーション、データなどがメモリ209にローディング(load)されることができる。格納装置211は、データを格納する非揮発性格納装置であって、例えば、ハードディスクドライブ(HDD)、フラッシュメモリ、SD(Secure Digital)メモリカードなどの装置により具現化されることができる。
【0059】
表示部213は、ユーザに音声、映像、及び/またはテキストでコンテンツを表示できる。例えば、表示部213は、ディスプレイ部と音響出力端子あるいはこれと接続したスピーカーのような装置により具現化されることができる。
【0060】
通信部215を外部と通信をするための装置により具現化されることができる。例えば、通信部215は、サーバ100と通信できる。
【0061】
一実施の形態によれば、メモリ209には、プロセッサ207の制御下に関連コンテンツ提供アプリケーション223がローディングされて動作できる。このような関連コンテンツ提供アプリケーション223は、マイク201とADC203を利用して音響を受信し、音響から音波IDを成功的に抽出した場合、抽出された音波IDを通信部215を介してサーバ300に送信する。
【0062】
一実施の形態によれば、関連コンテンツ提供アプリケーション223は、追加的な機能として、ADC203により感知された音響が閾値以上の強度を有するかどうかを判断し、音響が予め設定された閾値以上の強度を有する時においてのみ音響から音波IDを抽出する機能を具備できる。
【0063】
他の一実施の形態によれば、関連コンテンツ提供アプリケーション223は、追加的な機能として、ADC203により感知された音響が予め設定された周波数範囲内で閾値以上の強度を有するかどうかを判断し、音響が予め設定された周波数範囲内で予め設定された閾値以上の強度を有する時においてのみ感知された音響から音波ID抽出する機能を具備できる。
【0064】
さらに他の実施の形態によれば、音波IDを感知及び抽出する動作は、関連コンテンツ提供アプリケーション223でない別のハードウェアにより具現化されることも可能である。すなわち、
図2において点線で表示した、音波ID抽出部205は、ハードウェアにより具現化されたものであって、モバイル受信機200は、音波ID抽出部205をさらに備えるように構成されることができる。このような場合、音波ID抽出部205は、ADC203により変換されたデジタルデータから音波IDを抽出し、関連コンテンツ提供アプリケーション223は、音波ID抽出部205が抽出した音波IDを通信部215を介してサーバ300に送信する。
【0065】
本発明の一実施の形態によれば、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、及び関連コンテンツ提供アプリケーション223のうち、少なくとも一つは非活性化されている途中で、スケジュールまたは予め決められたイベントが発生する場合に活性化されて、自身の動作を行うことができる。
【0066】
一例として、マイク201とADC203とは、スケジュールまたは予め決められたイベントが発生する場合に活性化されて、自身の動作を行うことができる。このような例において、マイク201とADC203とは非活性化されている途中で、スケジュールまたは予め決められたイベントが発生する場合に活性化される構成要素である。
【0067】
一例として、関連コンテンツ提供アプリケーション223がマイク201により感知された音響が予め設定された周波数範囲内で閾値以上の強度を有するかどうかを判断する機能を具備するように具現化された場合には、マイク201とADC203とが活性化される時、関連コンテンツ提供アプリケーション223も共に活性化されて諸動作を行う。
【0068】
一例として、関連コンテンツ提供アプリケーション223が音波IDを抽出する機能を具備するように具現された場合には、マイク201とADC203が活性化される時に、関連コンテンツ提供アプリケーション223も共に活性化されて諸動作を行う。
【0069】
一例として、音波ID抽出機能が音波ID抽出部205により行われる実施の形態においては、音波IDの抽出が成功した場合においてのみ、関連コンテンツ提供アプリケーション223が活性化されることができる。活性化された関連コンテンツ提供アプリケーション223は、抽出された音波IDをサーバ300に送信しサーバ300から音波IDに対応する関連コンテンツを受信して、表示部213を介して音声及び/または映像で表示できる。これとは異なり、活性化された関連コンテンツ提供アプリケーション223は、抽出された音波IDに対応する関連コンテンツを検索して選択し、表示部213を介して音声及び/または映像で表示できる。このような場合、メモリ209に関連コンテンツデータベースがローディングされていることができ、関連コンテンツ提供アプリケーション223は、関連コンテンツデータベースを検索して、音波IDに対応する関連コンテンツを選択できる。
【0070】
一例として、マイク201は、非活性化されている途中でスケジュールまたはイベントが発生した場合に活性化され、仮にマイク201が音響を感知するようになると(例えば、予め設定された帯域に属した音響を感知した場合)に、他の構成要素(例えば、ADC203、関連コンテンツ提供アプリケーション223、音波ID抽出部205等)が同時または順次に活性化されることができる。
【0071】
一例として、マイク201により音響が感知された場合に、感知された音響が予め設定された閾値以上の強度を有するかどうかを判断する構成要素(例えば、関連コンテンツ提供アプリケーション)が活性化されることができる。そして、感知された音響が予め設定された閾値以上の強度を有すると判断された場合に、音波IDを抽出する構成要素(例えば、音波ID抽出部)が活性化される。
【0072】
スケジュールに対するより詳細な説明は、
図4を参照して説明した実施の形態を参照してほしい。スケジュールに従って規則的な周期でまたは不規則的な周期で活性化される動作については、
図9ないし
図11を参照して説明した実施の形態を参照し、予め決められたイベントが発生する活性化される動作については、
図12ないし
図14を参照して説明した実施の形態を参照してほしい。
【0073】
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、非活性化されている途中で、主コンテンツスケジュールを参照して作成されたスケジュールに従って一定の周期でまたは不規則的な周期で活性化されることができる。例えば、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間においてのみ予め設定された周期で活性化されることができる。これとは異なり、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間には、予め設定された周期で行われ、主コンテンツが再生されない時間の間には、上記の予め設定された周期よりさらに長い周期で行われることができる。
【0074】
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、音波IDスケジュールを参照して作成されたスケジュールに従って、一定の周期でまたは不規則的な周期で活性化されることができる。例えば、音波IDを抽出できる時間において活性化されることができる。
【0075】
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め設定された周期で行われてから、音波IDの抽出には失敗したが、音波IDが存在すると判断される場合には、上記の予め設定された周期よりさらに短い周期で活性化されることができる。以後、IDが抽出されると、本来の周期で行われることができる。
【0076】
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、以下の式、
閾値>感知された音響の強度>(α×閾値)(式中、αは1より小さい)
を満たす場合には、上記の設定された周期より短い周期で行われることができる。すなわち、一実施の形態において、本発明の発明者は、感知された音響の強度が閾値よりは小さいが、閾値に近接する程の場合には、音波IDが存在する音響が存在する可能性があると判断し、上記の式を満たす場合には、本来の周期よりさらに短い周期で、上記の構成要素が活性化されるように構成した。
【0077】
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め決められたイベントが発生すると、活性化されることができる。ここで、イベントは、例えば、特定アプリケーションが実行される場合、モバイル受信機200が有した表示部が活性化または非活性化される場合、またはモバイル受信機200が外部からプッシュメッセージを受信する場合を意味できる。
【0078】
ここで、特定アプリケーションは、マイクを自分だけが専用で使用するアプリケーションでありうるが、これは例示に過ぎず、他のアプリケーションも該当することができる。
【0079】
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、予め決められたイベントが発生すると、実行されないように構成されることができる。そして、予め決められたイベントが終了すると、本来の周期に従って活性化される。
【0080】
一例として
、予め決められたイベントが発生すると、プロセッサ207は、イベント発生事実をモバイル受信機200が有したオペレーティング・システム(OS)(図示せず)(メモリ209にローディングされていることができる)に伝達し、オペレーティング・システムは、イベントの発生事実をモバイル受信機200で動作するアプリケーションに各々対応して備えられたフィルタ(図示せず)(メモリ209にローディングされていることができる)に各々伝達し、これらの各々のフィルタは、予め設定されたことに従ってイベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しない。これらの動作に対するさらに詳細な説明は、
図14を参照して説明した実施の形態を参照してほしい。
【0081】
図3は、モバイル受信機の他の実施の形態を説明するための図である。
図3に示すように、本モバイル受信機400は、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、プロセッサ407、メモリ409、格納装置411、表示部413、通信部415を含むことができる。
【0082】
図3の実施の形態と
図2の実施の形態とを比較すると、
図2の音波ID抽出部205が低電力音響強度測定部402と音波パターン認識部404とに分離されて構成されたことが分かる。
【0083】
一実施の形態によれば、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると、活性化されることができる。スケジュールは、一定の周期でまたは不規則的な周期で活性化されるように作成されたことでありうる。スケジュールに対するより詳細な説明は、
図4を参照して説明した実施の形態を参照してほしい。スケジュールに従って一定の周期でまたは不規則的な周期で活性化される動作については、
図9ないし
図11を参照して説明した実施の形態を参照し、予め決められたイベントが発生する活性化される動作については、
図12ないし
図14を参照して説明した実施の形態を参照してほしい。
【0084】
一例として、マイク401、低電力音響強度測定部402、及びADC403はスケジュールまたは予め決められたイベントが発生する場合に活性化されて自身の動作を行うことができる。このような例において、マイク401、低電力音響強度測定部402、及びADC403は非活性化されてから、スケジュールまたは予め決められたイベントが発生する場合に活性化される構成要素である。
【0085】
一例として、マイク401、低電力音響強度測定部402、ADC403、及び音波パターン認識部404は、スケジュールまたは予め決められたイベントが発生する場合に活性化されて、自身の動作を行うことができる。
【0086】
一例として、音波IDの抽出が成功した場合においてのみ、関連コンテンツ提供アプリケーション423が活性化されることができる。活性化された関連コンテンツ提供アプリケーション423は、抽出された音波IDをサーバ300に送信しサーバ300から音波IDに対応する関連コンテンツを受信して、表示部413を介して音声及び/または映像で表示できる。これとは異なり、活性化された関連コンテンツ提供アプリケーション423は、音波IDに対応する関連コンテンツを検索して選択し、表示部413を介して音声及び/または映像で表示できる。このような場合、メモリ409に関連コンテンツデータベースがローディングされていることができ、関連コンテンツ提供アプリケーション423は、関連コンテンツデータベースを検索して音波IDに対応する関連コンテンツを選択できる。
【0087】
一例として、マイク401は、非活性化されている途中でスケジュールまたはイベントが発生した場合に活性化され、仮に、マイク401が音響を感知するようになると(例えば、予め設定された帯域に属した音響を感知した場合に)、他の構成要素(例えば、ADC403、関連コンテンツ提供アプリケーション423、低電力音響強度測定部402、または音波パターン認識部404が同時または順次に活性化されることができる。
【0088】
一例として、マイク401により音響が感知された場合に、感知された音響が予め設定された閾値以上の強度を有するかどうかを判断する低電力音響強度測定部が活性化されることができる。そして、感知された音響が予め設定された閾値以上の強度を有すると判断された場合に、音波IDを抽出する音波パターン認識部404が活性化されることができる。
【0089】
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は非活性化されている途中で、主コンテンツスケジュールを参照して作成されたスケジュールに従って、一定の周期でまたは不規則的な周期で活性化されることができる。例えば、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間においてのみ予め設定された周期で活性化されることができる。これとは異なり、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間には予め設定された周期で行われ、主コンテンツが再生されない時間の間には本来の周期よりさらに長い周期で行われることができる。
【0090】
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、音波IDスケジュールを参照して作成されたスケジュールに従って、一定の周期でまたは不規則的な周期で活性化されることができる。例えば、音波IDを抽出できる時間に活性化されることができる。
【0091】
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、音波IDの抽出には失敗したが、音波IDが存在すると判断される場合には、本来の周期よりさらに短い周期で活性化されることができる。以後、IDが抽出されると、本来の周期で行われることができる。
【0092】
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、以下の式
閾値>感知された音響の強度>(α×閾値)(式中、αは1より小さい)
を満たす場合には、上記の設定された周期より短い周期で行われることができる。すなわち、一実施の形態において、本発明の発明者は、感知された音響の強度が閾値よりは小さいが、閾値に近接する程の場合には、音波IDが存在する音響が存在する可能性があると判断して、上記の式を満たす場合には、本来の周期よりさらに短い周期で、上記の構成要素が活性化されるように構成した。
【0093】
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め決められたイベントが発生すると、活性化されることができる。ここで、イベントは、例えば、特定アプリケーションが実行される場合、モバイル受信機200が有した表示部が活性化または非活性化される場合、またはモバイル受信機200が外部からプッシュメッセージを受信する場合を意味できる。
【0094】
ここで、特定アプリケーションは、マイクを自分だけが専用で使用するアプリケーションでありうるが、これは例示に過ぎず、他のアプリケーションも該当されることができる。
【0095】
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、予め決められたイベントが発生すると、実行されないように構成されることができる。そして、予め決められたイベントが終了すると、本来の周期に従って活性化される。
【0096】
一例として
、予め決められたイベントが発生すると、プロセッサ407は、イベント発生事実をモバイル受信機400が有したオペレーティング・システム(OS)(図示せず)(メモリ409にローディングされていることができる)に伝達し、オペレーティング・システムは、イベントの発生事実をモバイル受信機400で動作するアプリケーションに各々対応して備えられたフィルタ(図示せず)(メモリ409にローディングされていることができる)に各々伝達し、これらの各々のフィルタは、予め設定されたことに応じて、イベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しない。これらの動作に対するより詳細な説明は、
図14を参照して説明した実施の形態を参照してほしい。
【0097】
一実施の形態によれば、低電力音響強度測定部402は、低い電力を消費するが、持続的に活性化されており、音波パターン認識部404は、低電力音響強度測定部402より相対的に電力をより消費するが、主に非活性化されており、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると(すなわち、間歇的に)活性化される。低電力音響強度測定部402は、音響の特定周波数範囲内の音響を感知でき、感知した音響の強度が予め設定された閾値以上の強度を有するかどうかを持続的に判断できる。
【0098】
本実施の形態において、低電力音響強度測定部402は、マイク401を介して入力された音響が予め設定された周波数範囲内で予め設定された閾値以上の強度を有するかどうかを判断する。万が一、強度が閾値以上の強度を有する場合、低電力音響強度測定部402は、低電力動作のために非活性化されていたADC403と音波パターン認識部404とを活性化させることができる。このとき、活性化されたADC403は、音響をデジタルデータに変換して、活性化された音波パターン認識部404に伝達できる。
【0099】
一実施の形態によれば、音波パターン認識部404は、ADC403からデジタルデータ形態の音響を受信し、受信した音響から音波IDが含まれていると、音波IDを抽出できる。このとき、プロセッサ407が低電力で動作するために非活性化されている場合、音波パターン認識部404は、プロセッサ407を活性化させる。本実施の形態において、音波パターン認識部404は、抽出した音波IDを関連コンテンツ提供アプリケーション423に提供する。
【0100】
他の実施の形態によれば、音波パターン認識部404は、ADC403からデジタルデータ形態の音響を受信し、受信した音響と予め格納された少なくとも一つの音波IDとを比較して、ADC403から受信した音響から音波IDが抽出されることができるかどうかを判断した後に、音波IDが抽出されることができると判断されると、直接音波IDを抽出する。代案的な実施の形態によれば、音波パターン認識部404は、ADC403から受信した音響から音波IDが抽出されることができるかどうかを判断し、仮に、音波IDが抽出されることができると判断されると、ADC403から受信した音響を関連コンテンツ提供アプリケーション423に提供し、関連コンテンツ提供アプリケーション423は、音波IDを抽出できる。
【0101】
一方、音波IDを感知及び抽出する動作を別のハードウェアにより具現化する技術は、以下のような特許出願文献に開示された技術を利用できる。
【0102】
例えば、低電力で非可聴音響に変調された音波を抽出する技術は、例えば、本発明者が2013年11月20日付で韓国特許庁に特許出願した特許出願番号10-2013-0141504号(低電力音波受信方法及びこれを利用したモバイル機器)に開示された技術を利用できる。
【0103】
一方、上述の特許出願番号10-2013-0141504の明細書に開示された技術は、全部本願明細書に結合されて、本願明細書の一部として取り扱われる。
【0104】
一方、メモリ409には、プロセッサ407の制御下に動作するDMBアプリケーションまたは動画プレーヤーまたはこれを通じてコンテンツを再生するのに必須なコーデック(Codec)221がローディングされることができる。このようなDMBアプリケーションまたは動画プレーヤーまたはコーデック221は、格納装置411に格納されている途中で、ユーザの命令などによってメモリ409にローディングされて動作できる。また、図示していないが、サーバ300からメッセージが到着すると、メッセージ処理プログラム(図示せず)がメモリ409にローディングされて、前記メッセージを表示部413を介して表示できる。
【0105】
一方、
図3の実施の形態で説明しない構成要素は、
図2の実施の形態において類似の図面番号が付与された構成要素の動作と同一または似ているので、
図2の実施の形態の説明を参照してほしい。
【0106】
(4)低電力音波ID抽出
本願明細書では、本発明の説明の目的のために、用語「音響認識モジュール」は、モバイル受信機が含むマイク、ADC、音波ID抽出部、関連コンテンツ提供アプリケーション、低電力音響強度測定部、及び音波パターン認識部のうち、少なくとも何れか一つの構成要素を意味し、これらの少なくとも一つの構成要素は、音波IDを感知または抽出するか、音波IDを感知または抽出する構成要素を活性化させる動作を行う。
【0107】
本発明の一実施の形態によれば、音響認識モジュールは低電力で動作するために、スケジュールに従ってまたは予め決められたイベントが発生すると(すなわち、間歇的に)活性化され、活性化された時に音響を感知し音波IDを感知して抽出する動作を行う。このとき、活性化とは、音響認識モジュールが電力消費を最小化するために最小限の機能のみをしている状態で、音波IDの感知及び抽出が可能な状態になるために必要なハードウェアモジュールを実行するか、または必要なソフトウェアを実行するか、または必要な入力情報をオペレーティング・システムから要請する等の諸般活動を行うことができる状態のことを意味する。
【0108】
低電力で動作するための間歇的活性化は、
図9ないし
図14に具体的な実施の形態として示されている。
【0109】
低電力で動作するための間歇的に活性化されるということは、例えば、(イ)音響認識モジュールが10分周期で活性化されて動作することでありえ、これは
図9に示されている。さらに他の例として、(ロ)音波IDを主コンテンツから抽出できる時間的特徴を活用するか、または抽出する音波IDを含む主コンテンツの放送時間を考慮して、音響認識モジュールが不規則的な周期で活性化されて動作することでありえ、これは
図10に示されている。さらに他の例として、(ハ)先んじた周期の音波ID受信試みの結果を考慮して、音響認識モジュールが不規則的な周期で活性化されて動作することでありえ、これは
図11に示されている。さらに他の例として、(二)モバイル受信機の内部で発行するイベントに応じて音響認識モジュールが不規則的な周期で活性化されて動作することでありえ、これは
図12〜14に示されている。
図14は、モバイル受信機の内部で発生するイベントがどのように音響認識モジュールに伝達されるかが示されている。
【0110】
(イ)周期的活性化
図9は、音響認識モジュールが低電力で動作するために、決まった周期に従って活性化されることを説明するための図である。
図9のa)は、主コンテンツが出力される時間に対して音響認識モジュールが同じ時間に活性化されることを示した図である。
図9のb)は、主コンテンツが出力される時間に対して音響認識モジュールが主コンテンツの後半部あるいは完了する時間に活性化されることを示した図である。
図9のc)は、主コンテンツが出力される時間に対して音響認識モジュールが予め設定した一定の周期で複数回(例えば、2回)活性化されることを示した図である。
【0111】
(ロ)コンテンツの放送時間及び音波ID抽出可能時間の経過による活性化
図10は、音響認識モジュールが主コンテンツの放送及び再生時間途中、音波IDが抽出可能な時間に合せて活性化されることを説明するための図である。
一実施の形態によれば、音響認識モジュールが周期的に活性化される場合、活性化周期は、コンテンツ再生機器100により出力される主コンテンツから抽出した音波IDの時間的位置と抽出可能な音波IDが連続する程度を考慮して決定されることができる。例えば、コンテンツ内の音波IDが2分間連続して繰り返し的に抽出されることができ、その以後2分は、抽出が難しい全体4分のパターンがコンテンツに連続的に繰り返されていることができる。このとき、音響認識モジュールは最大2分単位で音波IDが抽出できるかを把握すると、コンテンツから抽出可能な音波IDを速い時間内に抽出しながらも音波IDを抽出する試みを間歇的にできるので、音波ID抽出による電力消費を減らすことができる。
【0112】
他の実施の形態によれば、コンテンツ再生機器100から出力されるコンテンツの放送日時及び時間を予め分かる場合には、そのコンテンツが放送される該当時間に音響認識モジュールがより短い周期で活性化されることができる。例えば、音響認識モジュールの周期が10分に設定されていると仮定しよう。このとき、TVの特定コンテンツが毎週土曜日午後6時に1時間放映され、コンテンツから音波IDを抽出できるならば、音響認識モジュールは、毎週土曜日午後6時から午後7時までは10分でない5分の周期で動作できる。または、音響認識モジュールは、持続的に非活性される途中で、毎週土曜日午後6時から午後7時まで1時間だけ活性化される周期で動作できる。
【0113】
以下、上述の2通りの実施の形態を
図10を参照して説明する。モバイル受信機200または400は、音波IDが抽出可能な時間、すなわち
図10の音波ID1、ID2、ID3の再生時間を知っている。この時間は、モバイル受信機200または400の音響認識モジュールがサーバを介して受けたことでありうる。音波ID1の再生時間になると、音響認識モジュールは、音波ID1を抽出するために活性化される。このとき、音波ID1の抽出に失敗すると、音響認識モジュールは、モバイル受信機200または400のユーザが主コンテンツ1を視聴あるいは聴取していないと判断できる。万が一、音波ID1の抽出に成功すると、モバイル受信機200または400は、音波ID1に対応した関連コンテンツをサーバ300から受信して表示できる。同様に、音波ID2とID3の再生時間に合せて音響認識モジュールが活性化され、音波IDの抽出を実行した後に成功する場合、モバイル受信機200または400は、音波IDに対応した関連コンテンツをサーバ300から受信して表示できる。このような方法により、モバイル受信機200または400は、音響認識モジュールを音波ID抽出が可能であると予測される時間においてのみ不規則的な周期で活性化されて、低電力で音波ID抽出及び関連コンテンツ表示を行うことができる。
【0114】
(ハ)以前音波ID抽出結果に応じる活性化
図11は、音波IDを抽出する過程を介して、音波IDの存在が予め設定された確率以上と推定されるとき、音響認識モジュールの活性化周期を説明するための図である。
図11を参照すると、モバイル受信機200または400は、本来の計画した周期に合せて音響認識モジュールが活性化される。このとき、音響認識モジュールは、音波IDが抽出可能であると判断したが(以下、「存在有無判断」という) 抽出には失敗できる。すなわち、例えば、抽出した音波IDが関連コンテンツDB上に存在する特定音波IDとのハミング距離が予め設定した値以下であるとき、音波IDが抽出には失敗したが、存在していると推定できる。または、音波ID自体に存在有無を把握し、抽出失敗も確認することができるCRC(Cyclic Redundant Check)情報が含まれて、これを活用して確認することができる。または、音波IDの存在有無を把握するために、SNR(Signal-to-Noise Ratio)を測定して、予め設定された閾値以上になるかどうかを確認して、音波IDが存在していると推定できる。以上の方法で音波IDの存在は確認したが、抽出に失敗したと判断する場合を仮定しよう。このとき、音響認識モジュールは、主コンテンツの音波IDを抽出できる時間帯を逃さないために、本来施行する周期である周期3以後に計画された音響認識モジュールの活性化を取り消し、周期3よりさらに短い周期である周期4を有して活性化され、周期4以後の周期は、本来の周期に合せて調整されることができる。したがって、音波ID抽出試みに応じる結果で周期を調節することによって、音波ID抽出確率は高くしながら、従来の活性化頻度はそのまま維持して、低電力で動作できる。
【0115】
(ニ)モバイル受信機内部イベントに応じる活性化
一実施の形態によれば、モバイル受信機200または400の内部で発行するイベントに応じて、音響認識モジュールが不規則的な周期で活性化されて動作できる。これを
図12及び
図13を参照して説明する。
図12は、モバイル受信機200または400内部の共有資源であるマイク201または401を使用する他のアプリケーションが活性化されるイベントに応じて、音響認識モジュールの周期が調整されることを説明するための図である。
モバイル受信機200または400上において複数のアプリケーションが同時に動作できる。このとき、モバイル受信機200または400の一部であるマイク201または401は、複数のアプリケーションが共有する資源でFCFS(First-Come First-Served)方式、すなわちまず使用するアプリケーションが使用を中止するまで他のアプリケーションが使用できない方式で共有されることができる。そういう場合、間歇的に活性化される音響認識モジュールは、他のアプリケーションがマイク201または401を使用する試みをしたとき、マイク201または401
を使用できないようにすることができる。
また、音響認識モジュール
がマイク201または401を使用することができるアプリケーション
を感知
する場合、あるいは
、音響認識モジュールがマイク201または401を使用しようとする試みが失敗する場合、該当アプリケーションが終了するまで
音響認識モジュールの活性化を先送りして、他のマイク201または401を使うアプリケーションの動作を妨害しないながらも、総活性化回数を減らすことができるから、低電力で動作できる。
【0116】
例えば、
図12のようにt1時間にモバイル受信機200または400のメモリ209または409には、音響認識モジュールに含まれるアプリケーション1がロードされていることができる。予め設定された周期5に従って音響認識モジュールが活性化される予定であったが、t2時間以前に音響認識モジュールがマイク201または401を使用する確率が高いアプリケーション2が実行された事実が通報されるか、t2時間に音響認識モジュールが音波ID抽出を実行する前に現在実行中であるアプリケーション情報をオペレーティング・システムから得て、アプリケーション2を感知できる(このとき、感知するか、または通報を受ける方法は、以後
図14を参照して具体的に説明する)。アプリケーション2が実行中である場合、音響認識モジュールは、t2時間に予定された活性化を取り消し、次に活性化する周期をt2以後に新しく設定できる。新しく設定された周期は、t1から周期5の2倍になる時刻に音響認識モジュールを活性化させる周期でありうる。また、
図12に示したように、新しく設定される周期は、アプリケーション2が終了することが通報されるt3時刻が音響認識モジュールが活性化される時間になることができるように調節された周期であって、アプリケーション2が通報する時刻に修正されることができる。
【0117】
さらに他の具体的なアプリケーションを例に挙げると、カメラアプリケーションが活性化される時、このアプリケーションは動画撮影のために、音響認識モジュールの一部を独占的に使用していることができる。このとき、カメラアプリケーションが独占的に音響認識モジュールの一部を使用することができるように、音響認識モジュールは、周期的な活性化を中断し、後にカメラアプリケーションが終了する時に活性化されることができる。
【0118】
図13は、モバイル受信機200または400の内部で共有資源であるマイク201または401を使用する他のアプリケーションが活性化されるイベントに応じて、音響認識モジュールの周期が調整されることを説明するための図である。
【0119】
モバイル受信機200または400の音響認識モジュールは、t4時刻に活性化されて音波ID抽出を試みたと仮定しよう。以後、本来計画した周期は周期7であって、t6時刻に再度音響認識モジュールが活性化される予定でありうる。しかしながら、この場合、t5時刻にマイク201または401を使用するアプリケーション4が実行される事実をオペレーティング・システムが音響認識モジュールに通報できる(このとき、感知または通報を受ける方法は、以後
図14を参照して具体的に説明する)。万が一、オペレーティング・システムがマイク201または401の使用を共有できるように提供する場合、アプリケーション4の実行通報を受けた音響認識モジュールは、マイク201または401、ADC203または403プロセッサ207または407等、アプリケーション4が使用し音波IDの抽出に必要なハードウェア及びソフトウェア資源を共有して使用することができる。一例として、オペレーティング・システムは、マイク201または401に入る音響がADC203または403を介してデジタルデータに変換されたデータをアプリケーション4だけでなく、音響認識モジュールにも同時に提供して、両側で音響に関するデータを受けることができる。このようなオペレーティング・システムの支援により、音響認識モジュールは、個別的に活性化されて音波ID抽出を試みることに比べて、モバイル受信機200または400の全体消費電力を鑑みると、より低い電力で音波ID抽出が可能である。また、このような活性化をした場合は、本来計画していたt6時刻に活性化される日程を取消すことによって、音響認識モジュールは低電力で動作できる。
【0120】
具体的なアプリケーションを例に挙げると、電話通話アプリケーションが活性化されるとき、このアプリケーションは、基本的にマイク201または401とADC203または403を活用し、プロセッサ207または407を活性化させるので、同時に音響認識モジュールが活性化されながら低電力で音波ID抽出が可能である。さらに他の例を挙げると、動画プレーヤーまたはDMBアプリケーションあるいはコーデック221または421が動作すると、モバイル受信機200または400がコンテンツ再生機器の機能も果たすと推定できるので、関連コンテンツを提供するために、音響認識モジュールが活性化されることができる。
【0121】
以上、
図12と
図13で音響認識モジュールが特定アプリケーションがマイク201または401を使用するかが推定できると説明したが、こういう推定は、各アプリケーションがオペレーティング・システムから許諾されたハードウェア使用パーミッション(Permission)情報を閲覧して確認することができる。このとき、実行中であるアプリケーションの目録もまた、オペレーティング・システムから要請して得ることができる。
【0122】
以上、
図12と
図13を特定アプリケーションが実行または終了されるモバイル受信機の内部のイベントに応じて音響認識モジュールが不規則的な周期を有すると説明したが、イベントの種類はこれに限定されない。例えば、
図12と
図13は、特定アプリケーションが実行または終了することだけでなく、アプリケーションがバックグラウンドモードからフォアグラウンド
(foreground)モードに転換されるか、またはフォアグラウンドモードからバックグラウンドモードに転換されることでありうる。さらに他の例として、
図12は、特定アプリケーションでないモバイル受信機200または400の内部構成要素のうち、一つまたは一部以上が活性化されるイベントでありえ、
図13は、非活性化されるイベントでありうる。具体的には、表示部のディスプレイが活性化あるいは非活性化されるイベントでありうる。さらに他の例として、イベントは、モバイル受信機200または400がプッシュサーバからプッシュメッセージを受信することでありうる。
【0123】
図14は、
図12と
図13に示したように、音響認識モジュールが低電力で動作するために、モバイル受信機200または400のイベントが通報される方法を説明するための図である。
図14aは、オペレーティング・システムが実行中であるアプリケーションに特定イベントが発生したことを知らせるとき、これが通報される方法を示したものである。
図14bは、特定アプリケーションが音響認識モジュールに該当するアプリケーションにイベントが発生したことを通報する方法を示したものである。
図14cは、低電力でメッセージをサーバから受け取るようにするプッシュサーバがメッセージを送ったことを音響認識モジュールが通報される方法を示したものである。
【0124】
図14aを一例を挙げて説明する。
モバイル受信機200または400は、電話を受信する機能を含むことができる。この場合、電話がかかってくる場合、オペレーティング・システムは、電話受信をするアプリケーションを動作させ、電話がかかってくるイベントに他のアプリケーションが対応するようにするために、電話受信イベントを各アプリケーションのフィルタに伝達する。例えば、アプリケーション5が電話受信を処理するアプリケーションでありえ、アプリケーション6は、音楽を再生中であるアプリケーションでありうる。電話がかかってくる場合、オペレーティング・システムは、電話がかかってくるイベントをアプリケーションの各フィルタに伝達する。アプリケーション6は、電話がかかってくる場合、音楽再生を止めなければならないので、アプリケーション6のフィルタは、電話受信イベントを通過させるように設定されていることができる。アプリケーション5のフィルタは、電話がかかってくる場合、ユーザインタフェースを準備し、電話通話を可能なようにしなければならないので、電話受信イベントを通過させるように設定されていることができる。オペレーティング・システムにおいて、マイク201または401を介して入力されて、ADC203または403を介して入力されたデジタルデータを複数のアプリケーションに同時に伝達できると仮定しよう。この場合、音響認識モジュールは、音響デジタルデータを受信して、音波ID抽出を実行できる。したがって、音響認識モジュールのアプリケーションに該当するアプリケーションは、そのフィルタに電話受信イベントが通過されるように設定できる。要するに、オペレーティング・システムが送るイベントのうち、低電力で動作するのに必要なイベントは、フィルタを通過するように設定して、音響認識モジュールは、低電力で音波IDを抽出できる。
【0125】
図14bを一例を挙げて説明する。
図12のアプリケーション2と
図13のアプリケーション4は、各々アプリケーションの活性化とアプリケーションの終了を音響認識モジュールに通報すると、音響認識モジュールは、低電力で動作できる。
図14bのアプリケーション7が
図12のアプリケーション2あるいは
図13のアプリケーション4であると仮定しよう。このとき、アプリケーション7は、オペレーティング・システムに他のアプリケーションに伝達するイベントを伝達できる。このイベントは、
図12のアプリケーション2の活性化イベントあるいは
図13のアプリケーション4の終了イベントでありうる。該当イベントは、オペレーティング・システムに伝達され、オペレーティング・システムは、イベントをすべてのアプリケーションのフィルタに伝達できる。このとき、音響認識モジュールに含まれたアプリケーションのフィルタが活性化あるいは終了イベントを通過するように設定されていることができる。このような方法により、音響認識モジュールは、特定アプリケーションの活性化あるいは終了の通報を受けることができる。さらに他の一例として、アプリケーションの活性化あるいは終了でない音響認識モジュールが使用しようとするハードウェアあるいはソフトウェアの使用あるいは使用終了をイベントとして受ける方法を使用することができる。
【0126】
図14bをさらに他の一例を挙げて説明する。
図10の主コンテンツ1と主コンテンツ2の放送あるいは再生日程が予め知られていることができる。このとき、
図14bのアプリケーション7は、音波ID抽出アップと同じアプリケーションでありうる。音波ID抽出アップは、主コンテンツ1と2の放送あるいは再生日程をサーバから伝達されて、該当時刻をオペレーティング・システムのアラーム(Alarm)として登録できる。登録されたアラームは、該当時間になると、登録されたイベントを各アプリケーションのフィルタに伝達する。アプリケーション5は、このアラームイベントと関係なしで機能するので、アプリケーション5のフィルタは、このイベントをアプリケーション5に伝達しない。しかしながら、音響認識モジュールに含まれたアプリケーションのフィルタ(
図14bの音波ID抽出アップのフィルタ)は、アラームイベントを受けて音波ID抽出を始めることができる。同じ方法で主コンテンツ1と2の音波IDが終わる時刻をオペレーティング・システムのアラームとして登録して、音響認識モジュールに含まれたアプリケーションは、音波ID抽出を終了できる。
【0127】
図14cを一例を挙げて説明する。
図14cは、モバイル受信機200または400がプッシュサーバからメッセージを受けて、オペレーティング・システムを介してアプリケーションに伝達される。プッシュメッセージを受けるアプリケーションをアプリケーション8と仮定しよう。具体的にアプリケーション8は、MIMサービスと仮定しよう。このとき、モバイル受信機200または400がサーバからプッシュメッセージを受けてオペレーティング・システムに伝達され、オペレーティング・システムは、アプリケーションフィルタにこれを伝達する。アプリケーション8のフィルタは、MIM機能を行うために、プッシュメッセージを通過するように設定されていることができる。アプリケーション9は、該当プッシュメッセージと関係なく動作するものであって、アプリケーション9のフィルタは、プッシュメッセージを通過しないように設定されていることができる。モバイル受信機200または400は、電力消費を減らながら動作するために、プッシュメッセージを受信するための最小限のハードウェア及びソフトウェアだけを活性化している途中で、プッシュメッセージを受信したことでありうる。この場合、オペレーティング・システムからプッシュメッセージを受信したMIMサービスは、該当プッシュメッセージに適した動作を取る。音響認識モジュールのアプリケーション部分のフィルタは、このようなプッシュメッセージを通過するように設定されていることができる。そういう場合、音響認識モジュールは、プッシュメッセージ処理のために、AP、ディスプレイなど、モバイル受信機200または400の複数の構成要素が活性化されるとき、音響認識モジュールを活性化して、モバイル受信機200または400の構成要素のうち、音響認識モジュールが必要なハードウェア及びソフトウェアをアプリケーション8と共有して使用することができる。こういうハードウェア及びソフトウェアの共有を介して音響認識モジュールは、モバイル受信機200または400の全体観点において低電力で動作できる。
【0128】
(5)サーバに関連コンテンツDBをおく関連コンテンツ提供方法
図4は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
本実施の形態にかかる関連コンテンツ提供方法が
図1のシステムに適用されると仮定し、
図4の実施の形態を説明する。
本実施の形態にかかる関連コンテンツ提供方法は、コンテンツ再生機器100が主コンテンツを出力するステップ(S101)、モバイル受信機の音響認識モジュールが活性化されるステップ(S103)、音波IDを抽出するステップ(S105)、サーバ300がステップ(S105)にて抽出された音波IDを受信し、音波IDに対応する関連コンテンツを検索し選択するステップ(S107)、及びモバイル受信機200がステップS107にて選択された関連コンテンツを表示するステップ(S109)を含むことができる。
【0129】
ステップ(S103)にて、音響認識モジュールは、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化される。スケジュールは、一定の周期で及び/または不規則的な周期で音響認識モジュールが活性化されるように作成されたことありうる。スケジュールは、例えば、主コンテンツスケジュール(主コンテンツが再生される時間を表すスケジュール)または音波IDスケジュール(音波IDを抽出できる時間を表すスケジュール)を参照して作成されたことでありうるが、これは例示的なものであって、主コンテンツスケジュールまたは音波IDスケジュールを必ず参照して作成されたものである必要はない。
【0130】
一実施の形態によれば、スケジュールは、音響認識モジュールが一定の周期で活性化されるように作成されたものであるか、または不規則的な周期で活性化されるように作成されたものでありうる。スケジュールに従って音響認識モジュールが活性化された例は、
図9ないし
図11を参照して説明した実施の形態でありえ、これらの実施の形態のみに限定されるものではないことを当業者は容易に理解できるはずである。
【0131】
イベントがあると、音響認識モジュールが活性化される例は、
図12ないし
図14を参照して説明した実施の形態でありうるが、これらの実施の形態に限定されるものではないことを当業者は容易に理解できるはずである。
【0132】
音響認識モジュールの一部として関連コンテンツ提供アプリケーションが使用されている場合、モバイル受信機200のメモリ209で動作する関連コンテンツ提供アプリケーションは、抽出された音波IDをサーバ300に送信する。サーバ300は、受信した音波IDに対応する関連コンテンツを検索する(S107)。以後、サーバ300は、選択した関連コンテンツをモバイル受信機200に送信し、モバイル受信機200は、関連コンテンツをユーザに表示する(S109)。
【0133】
(6)モバイル受信機に関連コンテンツDBをおく関連コンテンツ提供方法
図5は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
本実施の形態にかかる関連コンテンツ提供方法が
図1のシステムに適用されると仮定し、
図3の実施の形態との差異点を中心に
図5の実施の形態を説明する。
本実施の形態にかかる関連コンテンツ提供方法は、コンテンツ再生機器100が主コンテンツを出力するステップ(S201)、モバイル受信機の音響認識モジュールが活性化されるステップ(S203)、音波IDを抽出するステップ(S207)、モバイル受信機がステップ(S205)にて抽出された音波IDに対応する関連コンテンツを検索し選択するステップ(S209)、及びモバイル受信機200がステップ(S209)にて選択された関連コンテンツを表示するステップ(S211)を含むことができる。
【0134】
一方、本実施の形態にかかる関連コンテンツ提供方法は、サーバがモバイル受信機に関連コンテンツDBに対したアップデート用データを送信するステップ(S205)をさらに含むことができ、モバイル受信機は、サーバからアップデート用データを受信して、自身が格納する関連コンテンツDBをアップデートできる。
【0135】
例えば、モバイル受信機のメモリ209で動作する関連コンテンツ提供アプリケーションは、サーバ300から受信した関連コンテンツDBを格納装置211に格納するか、または予め格納されたDBをアップデートする。例えば、メモリ209で動作する関連コンテンツ提供アプリケーションは、音波IDに対応する関連コンテンツDBを検索及び選択し(S209)、選択した関連コンテンツを表示部213を介して表示できる(S211)。
【0136】
モバイル受信機の音響認識モジュールが活性化されるステップ(S203)は、
図4を参照して説明した活性化ステップと同様に、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化されることができる。
【0137】
一方、
図5の実施の形態は、
図4の実施の形態とは異なり、モバイル受信機200が直接音波IDに対応する関連コンテンツを選択する。このために、サーバ300がモバイル受信機200に関連コンテンツDBの一部あるいは全てを送信して、モバイル受信機200に予め格納された関連コンテンツの一部あるいは全てをアップデートできる。
【0138】
サーバ300が関連コンテンツDBを送信する時期は、
図5に表示された時点に限定されない。サーバ300がモバイル受信機200に予め格納された関連コンテンツDBをアップデートするために、関連コンテンツDBを送信する場合には、特定時期に限定されない。
【0139】
(7)モバイル受信機がコンテンツ再生機器として機能する方法
図6は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
図1のシステムにおいてコンテンツ再生機器
100でないモバイル受信機200が主コンテンツを出力し、モバイル受信機200が音響を認識するよう具現化されたと仮定する。このような
図1のシステムに本実施の形態にかかるコンテンツ提供方法が適用されたと仮定し、
図4の実施の形態との差異点を中心に
図6の実施の形態を説明する。
【0140】
本実施の形態にかかる関連コンテンツ提供方法は、モバイル受信機200が主コンテンツを出力するステップ(S301)、モバイル受信機の音響認識モジュールが活性化されるステップ(S305)、音波IDを抽出するステップ(S307)、サーバがステップ(S307)にて抽出された音波IDに対応する関連コンテンツを検索し選択するステップ(S309)、及びモバイル受信機200がステップ(S309)にて選択された関連コンテンツを表示するステップ(S311)を含むことができる。
【0141】
モバイル受信機の音響認識モジュールが活性化されるステップ(S
305)は、
図4を参照して説明した活性化ステップと同様に、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化されることができる。
【0142】
ステップS307は、例えば、次のような方法により具現化されることができる。
第1に、モバイル受信機200が備えた表示部213の一部であるスピーカー(図示せず)を介して出力される音響をマイク201が感知し、感知した音響から音響認識モジュールがIDを抽出する方法。
【0143】
第2に、モバイル受信機200が備えた表示部213の一部であるスピーカー(図示せず)を介して出力される前のデジタルデータを内部のオペレーティング・システムから音響認識モジュールが受けて音波IDを抽出する方法。
【0144】
第3に、モバイル受信機200に接続したヘッドセット(図示せず)のマイク201の入力端子が、ヘッドセット(図示せず)の小型音響出力端子に接続されて、ヘッドセット(図示せず)の小型スピーカーに伝達される電気的信号から音響認識モジュールがIDを抽出する方法。
【0145】
音響認識モジュールは、ステップS307にて抽出した音波IDをサーバ300に送信する(S307)。サーバ300は、関連コンテンツDB(サーバ300が格納しているか、または別の格納装置(図示せず)に格納)を参照して、音波IDに対応する関連コンテンツを検索及び選択する(S309)。サーバ300は、選択結果をモバイル受信機200に送信し、モバイル受信機200は、送信された選択結果を表示する。
【0146】
図7は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
図1のシステムにおいてコンテンツ再生機器100ではないモバイル受信機200が主コンテンツを出力し、モバイル受信機200が音響を認識するよう具現化されたと仮定し、このような
図1のシステムに本実施の形態にかかる関連コンテンツ提供方法が適用されたと仮定し、
図4の実施の形態との差異点を中心に
図7の実施の形態を説明する。
【0147】
本実施の形態にかかる関連コンテンツ提供方法は、コンテンツ再生機器100が主コンテンツを出力するステップ(S401)、モバイル受信機の音響認識モジュールが活性化されるステップ(S403)、音波IDを抽出するステップ(S407)、モバイル受信機がステップ(S407)にて抽出された音波IDに対応する関連コンテンツを検索し選択するステップ(S409)、及びモバイル受信機200がステップ(S409)にて選択された関連コンテンツを表示するステップ(S411)を含むことができる。
【0148】
一方、本実施の形態にかかる関連コンテンツ提供方法は、サーバがモバイル受信機に関連コンテンツDBに対したアップデート用データを送信するステップ(S405)をさらに含むことができ、モバイル受信機は、サーバからアップデート用データを受信して、自身が格納する関連コンテンツDBをアップデートできる。
【0149】
上述のS407ステップは、上述のステップ(S307)と同じ方法により具現化されることができる。
モバイル受信機の音響認識モジュールが活性化されるステップ(S403)は、
図4を参照して説明した活性化ステップと同一に、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化されることができる。
図7の実施の形態は、
図4の実施の形態とは異なり、モバイル受信機200が直接音波IDに対応する関連コンテンツを選択する。このために、サーバ300がモバイル受信機200に関連コンテンツDBの一部あるいは全てを送信して、モバイル受信機200に予め格納された関連コンテンツの一部あるいは全てをアップデートできる。
【0150】
サーバ300が関連コンテンツDBを送信する時期は、
図7に示した時点に限定されない。すなわち、サーバ300がモバイル受信機200に予め格納された関連コンテンツDBをアップデートするために、関連コンテンツDBを送信する場合には、サーバ300が関連コンテンツDBを送信する時期は、特定時期に限定されない。
【0151】
(8)コンテンツから抽出可能な音波IDの位置
図8は、主コンテンツを説明するための図である。
図8のa)は、主コンテンツの一例を示すもので、これらのコンテンツは、各々映像と音響との組み合わせからなり、音波IDを主コンテンツ該当時刻に各々抽出できる。
例えば、
図8のa)のような主コンテンツが
図4の実施の形態において出力されると仮定し、その動作を説明する。
【0152】
コンテンツ再生機器100は、時間が経つにつれて主コンテンツ(主コンテンツ1、2、3)を出力し、これらのコンテンツから各々音波IDを抽出できる。音波ID1は、主コンテンツ1が出力される時に音響から抽出できるものである。音波ID2は、主コンテンツ2が出力される時に音響から抽出できるものである。音波ID3は、主コンテンツ3が出力される時に音響から抽出できるものである。
【0153】
モバイル受信機200は、各々の音波IDを順次に抽出し、これらの音波IDを各々サーバ300に送信し、音波IDに各々対応する関連コンテンツをサーバ300から受信して表示するようになる。
【0154】
一方、モバイル受信機200は、音波IDの抽出をスケジュールに従うか、または予め決められたイベントが発生すると(すなわち、間歇的に)実施できる。これについては、上述の実施の形態と同一なので、詳細な説明は省略する。
【0155】
図8のb)は、コンテンツ再生機器を介して出力される主コンテンツの他の例を示すものであって、これらの主コンテンツは、各々映像と音響との組み合わせからなっており、音響から音波IDを抽出できる。
【0156】
図8のb)の場合、互いに異なる二つの音波IDを抽出できるコンテンツがあるという点において
図8のa)と差がある。
例えば、
図8のb)のような主コンテンツが
図6の実施の形態において出力されると仮定し、その動作を説明する。
【0157】
モバイル受信機200は、時間が経つにつれて主コンテンツ(主コンテンツ4、5、6)を出力し、これらの主コンテンツから各々音波IDを抽出できる。音波ID1は、主コンテンツ4が出力される時に音響から抽出されうるものである。音波ID2、ID3は、主コンテンツ5が出力される時に音響から抽出されることができるものである。音波ID4は、主コンテンツ6が出力される時に音響から抽出されうるものである。
【0158】
モバイル受信機200は、各々の音波IDを順次に抽出し、これらのIDを各々サーバ300に送信し、音波IDに各々対応する関連コンテンツをサーバ300から受信して表示するようになる。
【0159】
(9)関連コンテンツを没入妨害無しで出力する方法
本発明の一実施の形態によれば、関連コンテンツをモバイル受信機を介して表示する時間は、主コンテンツにおいて広告またはエンディングクレジットなどの主コンテンツで視聴者あるいは聴取者の没入を必要としない時刻でありうる。例えば、主コンテンツがドラマで関連コンテンツがドラマに出た間接広告商品情報であるとき、たとえ関連コンテンツを得ることができる音波IDがドラマの中間部に位置するとしても、モバイル受信機は、関連コンテンツをモバイル受信機に表示することをドラマが終了しエンディングクレジットが表示される時点に延期できる。
【0160】
一方、
図4ないし
図7を参照して、上述の方法を構成する各ステップを実行させるためのプログラムを記録したコンピューターで読むことができる記録媒体が提供されることができる。
【0161】
(10)関連コンテンツ提供方法
図15は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
本発明の一実施の形態にかかる関連コンテンツ提供方法が
図1のシステムに適用されると仮定し、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明する。
図15を参照すると、本発明の一実施の形態にかかる関連コンテンツ提供方法は、コンテンツを再生するコンテンツ再生機器から出力される音響をモバイル受信機200が感知するステップ(S501)、感知した音響をデジタルデータにモバイル受信機200が変換するステップ(S503)、デジタルデータから音波IDをモバイル受信機200が抽出するステップ(S505)と、抽出した音波IDに対応する関連コンテンツを検索及び選択するステップ(S507)、及び選択した関連コンテンツをモバイル受信機200が映像及び/または音声で表示するステップ(S509)を含むことができる。
【0162】
また、本発明の一実施の形態にかかる関連コンテンツ提供方法は、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有するかどうかを判断するステップをさらに含み、本判断するステップは、ステップ(S501)とステップ(S505)との間に行われることができる。
【0163】
一例として、本判断するステップは、ステップ(S501)とステップ(S503)との間に行われることができる。この場合、ステップ(S501)にて感知された音響をデジタルデータに変換するステップ(S503)は、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有すると判断された場合に行われることができる。
【0164】
また、本発明の一実施の形態にかかる関連コンテンツ提供方法は、関連コンテンツを選択するステップ(S507)をモバイル端末機200が行うように具現化されるか、またはサーバ300が行うように具現されることが可能である。関連コンテンツを検索及び選択するステップ(S507)をサーバ300が行うように具現化される場合には、本発明の一実施の形態にかかる関連コンテンツ提供方法は、モバイル受信機200がステップ(S505)にて抽出された音波IDをサーバ300に送信するステップと、サーバ300が選択した関連コンテンツをモバイル受信機200に送信するステップとをさらに含むことができ、ここで、音波IDをサーバ300に送信するステップは、ステップ(S505)以後に行われ、サーバ300が選択した関連コンテンツをモバイル受信機200に送信するステップは、ステップ(S507)とステップ(S509)との間に行われることができる。
【0165】
また、本発明の一実施の形態にかかる関連コンテンツ提供方法は、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有するかどうかを判断するステップ(説明の目的のために「S502」という)、及び前述のステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素、ステップ(S503)を行う構成要素、ステップ(S505)を行う構成要素、ステップ(S507)を行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップ(説明の目的のために「S504」という)をさらに含むことができる。
【0166】
一例として、活性化させるステップ(S504)は、ステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素、及びステップ(S503)を行う構成要素を活性化させるステップでありうる。このような例において、ステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素、及びステップ(S503)を行う構成要素は非活性化されてから、活性化される構成要素であり、ステップ(S505)を行う構成要素とステップ(S507)を行う構成要素は、既に活性化された状態でありうる。
【0167】
一例として、活性化させるステップ(S504)は、ステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素を活性化させるステップ、及びステップ(S502)の遂行結果が成功すると、ステップ(S503)を行う構成要素とステップ(S507)を行う構成要素を活性化させるステップを含むように構成されることができる。
【0168】
一例として、活性化させるステップ(S504)は、ステップ(S501)を行う構成要素を活性化させるステップと、ステップ(S501)の遂行結界、音響を感知した場合(例えば、予め設定された帯域に属した音響を感知した場合)に、ステップ(S502)を行う構成要素とステップ(S503)を行う構成要素を活性化させるステップとを含むように構成されることができる。ここで、ステップ(S507)を行う構成要素とステップ(S509)を行う構成要素は、例えば、既に活性化されているか、またはステップ(S503)が成功すると、活性化されるか、またはステップ(S503)が活性化される時に共に活性化されるように構成されることができる。
【0169】
一例として、活性化させるステップ(S504)は、ステップ(S501)の遂行結果、音響が感知された場合、ステップ(S502)を行う構成要素を活性化させるステップと、ステップ(S502)の遂行結果、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有すると判断された場合に、ステップ(S503)を行う構成要素とステップ(S505)を行う構成要素を活性化させるステップとを含むように構成されることができる。ここで、ステップ(S505)の遂行結果、音波IDが抽出された場合に、ステップ(S507)を行う構成要素とステップ(S509)を行う構成要素は、同時または順次に活性化されることができる。
【0170】
一例として、活性化させるステップ(S504)は、スケジュールに従って行われるか、または予め決められたイベントが発生すると行われることができる。スケジュールに対する詳細な説明は、
図4を参照して説明した実施の形態を参照してほしい。例えば、活性化させるステップ(S504)は、
図9ないし
図11を参照して説明した実施の形態のように、スケジュールに従って行われるか、または
図12ないし
図14を参照して説明した実施の形態のように予め決められたイベントがある場合に、行われることができる。
【0171】
一例として、活性化させるステップ(S504)は、主コンテンツスケジュールを参照して作成されたスケジュールに従って、一定の周期で及び/または不規則的な周期で行われることができる。例えば、活性化させるステップ(S504)は、主コンテンツが再生される時間の間においてのみ予め設定された周期で行われることができる。これとは異なり、活性化させるステップ(S504)は、主コンテンツが再生される時間の間には、予め設定された第1周期で行われ、主コンテンツが再生されない時間の間には、第1周期よりさらに長い第2周期で行われることができる。
【0172】
一例として、活性化させるステップ(S504)は、音波IDスケジュールを参照して作成されたスケジュールに従って、一定の周期で及び/または不規則的な周期で行われることができる。例えば、活性化させるステップ(S504)は、音波IDを抽出できる時間に行われることができる。
【0173】
一例として、活性化させるステップ(S504)は、予め設定された第3周期で行われている途中で、音波IDの抽出には失敗したが、音波IDが存在すると判断される場合には、第3周期よりさらに短い第4周期で活性化させるステップ(S504)が行われることができる。以後、IDが抽出されると、活性化させるステップ(S504)は、第3周期で行われることができる。
【0174】
一例として、活性化させるステップ(S504)は、予め設定された第5周期で行われている途中で、ステップ(S502)の遂行結果、以下の式
閾値>感知された音響の強度>(α×閾値)(式中、αは1より小さい。)
を満たす場合には、第5周期より短い第6周期で行われることができる。すなわち、一実施の形態において、本発明の発明者は、感知された音響の強度が閾値よりは小さい、閾値に近接する程の場合には、音波IDが存在する音響が存在する可能性があると判断して、上記の式を満たす場合には、第5周期よりさらに短い第6周期で、活性化させるステップ(S504)が行われるようにしたことである。
【0175】
一例として、活性化させるステップ(S504)は、予め決められたイベントが発生すると、実行されることができる。ここで、イベントは、例えば特定アプリケーションが実行される場合、モバイル受信機200が有した表示部が活性化または非活性化される場合、またはモバイル受信機200が外部からプッシュメッセージを受信する場合を意味できる。
【0176】
ここで、特定アプリケーションは、マイクを自分だけ専用で使用するアプリケーションでありうるが、これは例示に過ぎず、他のアプリケーションも該当することができる。
【0177】
一例として、活性化させるステップ(S504)は、予め設定された第7周期で行われている途中で、予め決められたイベントが発生すると、実行されないように構成されることができる。そして、予め決められたイベントが終了すると、活性化させるステップ(S504)は、予め設定された周期(例えば、第7周期)に従って再度行われる。
【0178】
一例として、活性化させるステップ(S504)は、予め決められたイベントが発生すると、イベント発生事実がモバイル受信機200が有したオペレーティング・システム(OS)(図示せず)に伝達されるステップ、オペレーティング・システムがイベントの発生事実をモバイル受信機200で動作するアプリケーションに各々対応して備えられたフィルタに各々伝達するステップ、及び各々のフィルタは、予め設定されたことに応じてイベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しないステップを含むように構成されることができる。さらに詳細な説明は、
図14を参照して説明した実施の形態を参照してほしい。
【0179】
以上、
図15を参照して説明した関連コンテンツ提供方法において、音響を感知するステップを行う構成要素は、例えばマイクでありえ、音響をデジタルデータに変換するステップを行う構成要素は、ADCでありえ、音波IDを抽出するステップを行う構成要素は、音波ID抽出部または関連コンテンツ提供アプリケーションでありえ、関連コンテンツを検索して選択するステップを行う構成要素は、モバイル受信機(例えば、関連コンテンツ提供アプリケーション)またはサーバでありえ、関連コンテンツを映像及び/または音声で表示するステップを行う構成要素は、表示部でありうる。
【0180】
以上、
図15を参照して説明した関連コンテンツ提供方法は、モバイル受信機がコンテンツ再生機器から出力される音響を感知すると説明したが、これは例示に過ぎず、
図6または
図7の実施の形態のようにモバイル受信機から出力される音響をモバイル受信機が感知する構成によっても具現化されることができる。
【0181】
関連コンテンツ提供方法をモバイル受信機から出力される音響をモバイル受信機が受信する構成により具現化する場合は、モバイル受信機から出力される音響をモバイル受信機が感知するステップ、感知した音響をデジタルデータにモバイル受信機が変換するステップ、デジタルデータから音波IDをモバイル受信機が抽出するステップ、抽出した音波IDに対応する関連コンテンツを選択するステップ、及び選択した関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップを含むように具現されることができる。また、本関連コンテンツ提供方法は、感知された音響が予め設定された閾値以上の強度を有するかどうかを判断するステップ、及び感知した音響をデジタルデータにモバイル受信機が変換するステップを行う構成要素、デジタルデータから音波IDをモバイル受信機が抽出するステップを行う構成要素、抽出した音波IDに対応する関連コンテンツを選択するステップを行う構成要素、選択した関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップを行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップをさらに含むことができる。ここで、活性化させるステップに対する具体的な例は、前述の実施の形態を参照してほしい。
【0182】
(11)関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体
上述の本発明の一実施の形態にかかる関連コンテンツ提供方法は、メモリ、プロセッサ、マイク、ADCを備えたモバイル受信機で実行されるプログラム(説明の目的のために、「関連コンテンツ提供方法を実行させるためのプログラム」という)により具現化されることができる。すなわち、メモリ、プロセッサ、マイク、ADCを備えたモバイル受信機は、コンピューターとしての機能を有し、したがって、関連コンテンツ提供方法は、そういうモバイル受信機で実行されるプログラムの形態により具現化されることができる。
本発明の一実施の形態にかかる関連コンテンツ提供方法を実行させるためのプログラムは、関連コンテンツ提供アプリケーションを含むことができる。
【0183】
一実施の形態によれば、関連コンテンツ提供方法を実行させるためのプログラムは、プロセッサの制御下でメモリにローディングされた後に実行されることができる。
関連コンテンツ提供方法を実行させるためのプログラムは、例えば、
図15を参照して説明した実施の形態のうち、いずれか一つの方法を実行することでありうる。
一例として、関連コンテンツ提供方法を実行させるためのプログラムは、
図15を参照して説明した各ステップのうち、プログラムにより具現化されることができるステップをモバイル受信機に実行させることができる。
【0184】
一例として、関連コンテンツ提供方法を実行させるためのプログラムは、ステップ(S502)、ステップ(S503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及び/またはステップ(S509)をモバイル受信機に実行させることができる。すなわち、ステップ(S502)、ステップ(503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及びステップ((S509)が全部プログラムにより具現化されるか、またはステップ(S502)、ステップ(S503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及びステップ(S509)のうち一部は、ハードウェアにより具現化し、その残りのステップがプログラムにより具現化されることができる。ステップ(S502)、ステップ(S503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及びステップ(S509)についての詳細な説明は、
図15を参照して説明した実施の形態を参照してほしい。
【0185】
以上、本発明は、限定された実施の形態と図面により説明されたが、本発明は、上記の実施の形態に限定されるものではなく、本発明が属する分野における通常の知識を有した者であれば、このような記載から多様な修正及び変形が可能である。
本発明の範囲は、説明された実施の形態に限定されてはならず、後述する特許請求の範囲だけでなく、この特許請求の範囲と均等なものによって定められねばならない。