(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、上述した特許文献1に記載の技術は、ボタンを押すたびに、ブザーが鳴り、カウンターに表示される値が増えていくことを確認することで、使用者には正しく操作されていることが分かり、目標の作業を繰り返すものである。しかしながら、このような装置では、使用者が動かしやすい指のみを使い、動かしにくい指については、あまり動かさないことも想定されうる。そうすると、音や表示値の変化を楽しむことはできても、実際には、リハビリの効果が生じにくいこともある。また、どの指を動かすのか、そして、それらの指を動かす順序をどうするのかは、リハビリを受ける人によってそれぞれ異なるため、個人個人の状態に応じて指を動かすように促すことができれば、リハビリの効果も高くなると考えられる。しかしながら、上述した特許文献1に記載の技術では、そのような点は開示されていない。
【0006】
本発明は、以上のような点に着目したもので、ユーザにとって適した動作の繰り返しを、楽しみながら継続できるような表現再生システム,そのボード装置,表現再生方法を提供することを、その目的とする。他の目的は、本発明をリハビリ等の支援に用いることである。
【課題を解決するための手段】
【0007】
本発明の表現再生システムは、
聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定のルーチンの繰り返しにより再生する表現再生システムであって、前記ルーチンに含まれる複数の所定の動作を行う手順を設定するルーチン設定手段と、前記
楽曲を構成する音の音高についての時系列データである音列データを取得する
音列データ取得手段と、前記ルーチンに含まれる複数の所定の動作の各々に対応しており、前記ユーザによって対応する所定の動作が行われたことを検知する複数の動作検知手段と、前記
音列データを時系列に沿って所定の単位で分割したときの単位表現の再生順序と、前記ルーチンに含まれる複数の所定の動作とを、前記ルーチンの繰り返し数に応じて対応づけたテーブルを生成するテーブル生成手段と、前記動作検知手段によって前記ユーザによる所定の動作を検知したら、前記テーブルを参照し、検知したときの前記ルーチンの繰り返し数と、該ルーチン内での前記動作の順序に対応する単位表現を特定し、再生指示する再生指示手段と、該再生指示手段からの指示に応じて、対応する単位表現の再生を行う出力手段と、を備え
ており、前記ルーチンが、複数の指を所定の順序で動かす運指であり、前記複数の動作検知手段が、前記複数の指のそれぞれに対応する複数のキーであって、前記ユーザによるキーを押す動作を検知するものであり、かつ、前記キーは、前記指と接触する部分の面積又は触感の少なくとも一方が異なる他のキーと交換可能であることを特徴とする。
【0008】
主要な形態の一つは、前記
音列データは、1回のルーチンに含まれる動作数よりも多い数となるように、前記単位表現に分割されることを特徴とする
。
【0009】
更に他の形態は、前記動作検知手段を利用して、前記ルーチンの設定を行うことを特徴とする。更に他の形態は、前記ユーザによる前記ルーチンの遂行に関するデータを取得し、ユーザ毎にデータの解析を行うログ取得解析手段、を備えたことを特徴とする。更に他の形態は、前記ログ取得解析手段は、ネットワークを通じた遂行データの取得又はネットワークを通じた解析データの提供の少なくとも一方が可能であることを特徴とする。
【0010】
本発明のボード装置は、請求項
1記載の表現再生システムの動作検知手段として利用可能なボード装置であって、前記キーに相当する複数のキーを有しており、前記キーによって、前記運指の順序の設定と、前記ユーザによるキーを押す動作の検知が可能であるとともに、前記運指の順序を設定する状態と、前記キーを押す動作を検知する状態とを切り替える切替手段、を備えたことを特徴とする。
【0011】
他の発明の表現再生システムは、
聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定の動作の繰り返しにより再生する表現再生システムであって、前記
楽曲を構成する音の音高についての時系列データである音列データを取得する
音列データ取得手段と、前記ユーザにより前記所定の動作が行われたことを検知する動作検知手段と、前記
音列データを時系列に沿って所定の単位で分割したときの単位表現の再生順序と、前記ユーザによる所定の動作の繰り返し数を対応づけたテーブルを生成するテーブル生成手段と、前記動作検知手段によって前記ユーザによる所定の動作を検知したら、前記テーブルを参照し、検知したときの前記所定の動作の繰り返し数に対応する単位表現を特定し、再生指示する再生指示手段と、該再生指示手段からの指示に応じて、対応する単位表現の再生を行う出力手段と、を備え
ており、前記楽曲のメロディを構成する音のうちの最少音価を前記所定の単位として、前記メロディを構成する各々の音が分割されるとともに、前記テーブル生成手段は、前記音を最少音価で分割したときの最初の単位表現については音の再生をし、前記最初の単位表現より後の単位表現については音の再生をしないように、各音ごとに、前記単位表現の再生順序及び再生の有無と、前記ユーザによる所定の動作の繰り返し数を対応づけたテーブルを生成することを特徴とする。
【0013】
主要な形態の一つは、前記所定の動作が、ユーザによる着地であって、前記動作検知手段が、前記ユーザの着地を検知する加速度センサであることを特徴とする。
他の形態は、前記ユーザによる前記所定の動作の遂行に関するデータを取得し、ユーザ毎にデータの解析を行うログ取得解析手段、を備えたことを特徴とする。更に他の形態は、前記ログ取得解析手段は、ネットワークを通じた遂行データの取得又はネットワークを通じた解析データの提供の少なくとも一方が可能であることを特徴とする。
【0014】
本発明の表現再生方法は、
聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定のルーチンの繰り返しにより再生する表現再生方法であって、前記ルーチンに含まれる所定の動作を行う手順を設定するステップと、前記
楽曲を構成する音の音高についての時系列データである音列データを取得するステップと、前記取得した
音列データを時系列に沿って所定の単位に分割したときの単位表現の再生順序と、前記ルーチンに含まれる複数の動作とを、前記ルーチンの繰り返し数に応じて対応づけたテーブルを生成するステップと、前記ルーチンに含まれる所定の動作の各々に対応する複数の動作検知手段によって、前記ユーザによる所定の動作を検知し、前記テーブルを参照して、検知したときの前記ルーチンの繰り返し数と、該ルーチン内での前記動作の順序に対応する単位表現を特定して、出力手段に再生を指示するステップと、前記指示に応じて、対応する単位表現の再生を行うステップと、を含み、
前記ルーチンが、複数の指を所定の順序で動かす運指であり、前記複数の動作検知手段が、前記複数の指のそれぞれに対応する複数のキーであって、前記ユーザによるキーを押す動作を検知するものであり、かつ、前記キーは、前記指と接触する部分の面積又は触感の少なくとも一方が異なる他のキーと交換可能であることを特徴とする。
【0015】
主要な形態の一つは、前記テーブルを生成するステップにおいて、前記
音列データを、1回のルーチンに含まれる動作数よりも多い数となるように、前記単位表現に分割することを特徴とする。他の形態は、前記ユーザによる前記ルーチンの遂行に関するデータを取得し、ユーザ毎にデータの解析を行うステップ、を含むことを特徴とする。
【0016】
他の発明の表現再生方法は、
聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定の動作の繰り返しにより再生する表現再生方法であって、前記
楽曲を構成する音の音高についての時系列データである音列データを取得するステップと、前記取得した
音列データを時系列に沿って所定の単位に分割したときの単位表現の再生順序と、前記所定の動作の繰り返し数を対応づけたテーブルを生成するステップと、前記ユーザによる所定の動作を検知する動作検知手段によって、前記ユーザによる所定の動作を検知したら、前記テーブルを参照して、検知したときの前記所定の動作の繰り返し数に対応する単位表現を特定して、出力手段に再生を指示するステップと、前記指示に応じて、対応する単位表現の再生を行うステップと、を含
み、前記楽曲のメロディを構成する音のうちの最少音価を前記所定の単位として、前記メロディを構成する各々の音が分割されるとともに、前記テーブルを生成するステップにおいて、前記音を最少音価で分割したときの最初の単位表現については音の再生をし、前記最初の単位表現より後の単位表現については音の再生をしないように、各音ごとに、前記単位表現の再生順序及び再生の有無と、前記ユーザによる所定の動作の繰り返し数を対応づけたテーブルを生成することを特徴とする。
【0017】
主要な形態の一つは
、前記ユーザによる前記所定の動作の遂行に関するデータを取得し、ユーザ毎にデータの解析を行うステップ,を含むことを特徴とする。本発明の前記及び他の目的,特徴,利点は、以下の詳細な説明及び添付図面から明瞭になろう。
【発明の効果】
【0018】
本発明によれば、
(1)聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定のルーチンの繰り返しにより再生する。前記ルーチンには、複数の所定の動作が含まれ、それらの動作を行う手順があらかじめ設定される。そして、前記
楽曲を構成する音の音高についての時系列データである音列データを取得し、それを時系列に沿って所定の単位に分割したときの単位表現の再生順序と、前記ルーチンに含まれる複数の動作とを、前記ルーチンの繰り返し数に応じて対応づけたテーブルを生成する。
前記ルーチンが、複数の指を所定の順序で動かす運指であり、前記複数の動作検知手段が、前記複数の指のそれぞれに対応する複数のキーであって、前記ユーザによるキーを押す動作を検知するものであり、かつ、前記キーは、前記指と接触する部分の面積又は触感の少なくとも一方が異なる他のキーと交換可能である。前記ルーチンに含まれる複数の所定の動作の各々に対応する複数の動作検知手段によって、前記ユーザによる所定の動作を検知したら、前記テーブルを参照する。そして、検知したときの前記ルーチンの繰り返し数と、該ルーチン内での前記動作の順序に対応する単位表現を特定して、出力手段から出力することとした。このため、複数の所定の動作を所定の順序で行うルーチンを繰り返すことにより、
楽曲の再生が可能となる。
【0019】
(2)あるいは
、聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定の動作の繰り返しにより再生する。前記
楽曲を構成する音の音高についての時系列データである音列データを取得し、それを時系列に沿って所定の単位に分割したときの単位表現の再生順序と、前記所定の動作の繰り返し数を対応づけたテーブルを生成する。
前記楽曲のメロディを構成する音のうちの最少音価を前記所定の単位として、前記メロディを構成する各々の音が分割されるとともに、前記テーブルの生成において、前記音を最少音価で分割したときの最初の単位表現については音の再生をし、前記最初の単位表現より後の単位表現については音の再生をしないように、各音ごとに、前記単位表現の再生順序及び再生の有無と、前記ユーザによる所定の動作の繰り返し数を対応づけたテーブルを生成する。前記ユーザによる所定の動作を検知する動作検知手段によって、前記ユーザによる所定の動作を検知したら、前記テーブルを参照する。そして、検知したときの前記所定の動作の繰り返し数に対応する単位表現を特定して、出力手段から出力することとした。このため、所定の動作を繰り返すことにより、
楽曲の再生が可能となる。すなわち、前記(1)(2)のいずれによっても、ユーザにとって適した動作の繰り返しを、楽しみながら継続するよう促すことができる。
【発明を実施するための形態】
【0021】
以下、本発明を実施するための最良の形態を、実施例に基づいて詳細に説明する。
【実施例1】
【0022】
最初に、
図1〜
図4を参照しながら本発明の実施例1を説明する。本発明は、ユーザによる所定の動作を所定の順序で行うというルーチンを繰り返すことで、音楽や動画などの、視覚的又は聴覚的な表現が経時的に変化する表現を再生するシステム全般に適用可能である。本実施例では、片手の指を特定の順序で動かす「運指」を繰り返すことで、ユーザが選んだ曲を再生し、リハビリの支援を行うことができるような演奏システムを例に挙げて説明する。すなわち、本実施例では、「運指」がユーザによる所定の動作であり、「運指の順序」が所定の動作の順序となる。
図1は、本実施例の演奏システムの全体構成を示す図である。
図2(A)は本実施例による運指を設定する様子を示す図,
図2(B)は特定の曲の音列データを取得する様子を示す図である。
図3は、本実施例のルーチンテーブルの一例を示す図である。
図4は、前記実施例1の演奏支ステムの概要を示すフローチャートである。なお、ここでいう「音列データ」とは、楽曲を構成する音の音高についての時系列データである。
【0023】
図1に示すように、本実施例の演奏システム10は、片手用(図示の例では右手用)のボード装置20が、全ての機能を有する一体型の構成となっており、CPU32を備えている。前記ボード装置20の表面には、右手の各指に対応する位置に、キーK1〜K5が配置されている。これらキーK1〜K5は、ユーザによるキーを押す動作を検知するためのもので、これら5つのキーK1〜K5と、その動きを検知するセンサS1〜S5により、動作検知部22が構成されている。また、前記ボード装置20には、後述する演奏用アプリ50からの再生指示により、音声を出力する音声出力部24が設けられている。更に、ボード装置20には、前記キーK1〜K5の操作によって、特定のユーザに適した運指を設定するモードと、演奏を行うためのモードを切り替えるための切替ボタン26が設けられている。
【0024】
また、前記ボード装置20には、データカード40を差し込むためのカードスロット28や、インターネット100に接続してデータの送受信を行うための通信制御部30が設けられている。前記カードスロット28は、外部から特定の曲の音列データ等を取得する場合に使用するもので、必要に応じて設けるようにすればよい。また、前記通信制御部30は、インターネット100に接続して、他の端末102やサーバ104から各種情報やデータを取得する場合に使用するもので、これも必要に応じて設けるようにすればよい。
【0025】
本実施例では、前記ボード装置20には、演奏用アプリ50があらかじめ導入されている。該演奏用アプリ50は、プログラムメモリ60,データメモリ80を有している。前記プログラムメモリ60には、ルーチン設定プログラム62,音列データ取得プログラム64,テーブル生成プログラム66,再生指示プログラム68,ログ取得解析プログラム70が設けられている。また、データメモリ80には、運指データ82,音列データ84,ルーチンテーブル86,楽曲データベース88,ユーザデータ90が設けられている。前記ユーザデータ90には、前記ユーザによるルーチンの遂行に関するログデータや、これらのログデータに基づいて生成された解析データ等が含まれる。
【0026】
前記プログラムメモリ60のルーチン設定プログラム62は、ユーザによる運指の順序を設定するためのものである。本実施例の演奏システム10を、ユーザの手指の麻痺を軽減するためのリハビリに用いる場合、どの指を動かすか、また、それらの指を動かす順序をどうするのかを、ユーザの麻痺の状態に応じて決めることで、高いリハビリの効果が期待できる。このような、動かす指の決定やその順序そのものは、ユーザ本人が決めるようにしてもよいし、医師や作業療法士等が決定するようにしてもよい。いずれにしても、運指の順序を設定するには、前記ルーチン設定プログラム62と前記ボード装置20を用いて行う。
【0027】
具体的には、ボード装置20の切替ボタン26を押すことにより、ルーチン設定プログラム62を実行し、設定モードに入る(
図4のステップS10)。その状態で、
図2(A)に示すように、運指の順にキーK1〜K5を押す(ステップS12)。図示の例では、運指の順序は、ポジションを示す数字で示すと1→5→2→4→3(親指→小指→人差指→薬指→中指)となっている。従って、ここでは、1回のルーチンは、親指→小指→人差指→薬指→中指の順で指を動かすことを意味する。このようにキーK1〜K5の操作により、運指データ82が設定され、データメモリ80に記憶される。設定を終了するときは、前記切替ボタン26を押し、設定モードを終了する(ステップS14)。
【0028】
次に、前記音列データ取得プログラム64は、再生する曲の音列データ(楽曲を構成する音の音高についての時系列データ)を取得するためのものである(
図4のステップS16)。再生する曲は、ユーザが好きな曲を選ぶことができるが、ユーザ以外のものが決めるようにしてもよい。音列データの取得は、前記ボード装置20のカードスロット28に、楽曲のデータが記憶されているデータカード40を差し込んでロードするようにしてもよいし、あらかじめ前記データメモリ80に多数の楽曲の音列データを集積した楽曲データベース88がある場合には、その中から好きな曲を選択するようにしてもよい。あるいは、前記通信制御部30を介して、インターネット100から好きな曲の音列データを取得するようにしてもよい。楽曲の音列データの選択ないし取得の方法は任意であり、前記カードスロット28や楽曲データベース88は必要に応じて設ければよい。
【0029】
図2(B)には、取得した音列データの一例が示されている。同図に示す例では、文部省唱歌「故郷」の音列データ84が示されている。「う・さ・ぎ・お・い・し・か・の・や・ま」の各文字についての音名が、それぞれ「C・C・C・D・E・D・E・E・F・G」である。本実施例では、一つの音ごとに曲を時系列的に分割し、各音に対してユーザによる動作を割り当てることとしている。すなわち、ユーザによる動作の順序1〜10に割り当てると、同図に示す音列データ84のように、順序1にC音、順序2にC音、順序3にC音、・・・順序9にF音、順序10にG音が割り当てられることになる。このような音列データ84は、前記データメモリ80に記録される。なお、ここでは、一つの音ごとに曲を分割しているが、これは、1つのルーチンに含まれる動作数(本実施例では5本の指を動かすので5つの動作)よりも多く曲を分割することで、前記ルーチンの繰り返しを可能にするためである。
【0030】
次に、プログラムメモリ60のテーブル生成プログラム66について説明する。テーブル生成プログラム66は、前記音列データ取得プログラム64によって音列データ84を取得したら、該音列データ84と前記運指データ82から、ルーチンテーブル86を生成し(ステップS18)、データメモリ80に記憶する。前記ルーチンテーブル86は、本実施例では、一音ごとに分割した音の時系列に沿った再生順序と、特定の運指とを、ルーチンの繰り返し回数に応じて対応づけたものである。
図3に示すルーチンテーブル86によれば、「うた」が「うさぎおいしかのやま」であり、その各音の再生順序が「1〜10」であり、「音列データ」が「CCCDEDEEFG」であり、プログラムした運指が「1→5→2→4→3」の繰り返しである。そして、この運指の繰り返しに対応して音が割り当てられる。例えば、1回目のルーチン「1→5→2→4→3」に対応して「C→C→C→D→E」の音が割り当てられ、2回目のルーチン「1→5→2→4→3」に対応して「D→E→E→F→G」の音が割り当てられる。
【0031】
そうすると、ルーチンの繰り返しに合わせ(曲の進行に合わせ)、同じ指を動かした場合であっても、割り当てられる音が変化することになる。例えば、1回目のルーチンでは、ポジション1の親指でキーK1を押したときは「C」の音がでるが、2回目のルーチンで同じくK1を押したときは「D」の音がでる。同様に、ポジション2のキーK2については、1回目は「C」、2回目は「E」であり、ポジション3のキーK3については、1回目は「E」で2回目は「G」である。ポジション4のキーK4については、1回目は「D」で2回目は「F」であり、ポジション5のキーK5については、1回目は「C」で2回目は「E」である。このようなルーチンテーブル86を作成することにより、楽譜が読めなくても、従来の鍵盤楽器が弾けなくても、楽曲のメロディを知っていれば、特定の運指を繰り返すことにより、その曲を演奏することができる。
【0032】
次に、前記プログラムメモリ60の再生指示プログラム68は、ユーザによって前記ボード装置20のキーK1〜K5が所定の順序で押されたときに(ステップS20)、前記ルーチンテーブル86を参照して、検知したときのルーチンの繰り返し数と、該ルーチン内での動作の順序(すなわち、複数のルーチンを通してのトータルの動作順序)に対応する音を特定して、ボード装置20に、音の再生指示を行う(ステップS22)。ボード装置20側では、指示に応じた音を音声出力部24から出力する(ステップS24)。この繰り返しにより、曲が演奏される(ステップS26)。
【0033】
本実施例では、1回目のルーチンの運指「1→5→2→4→3」のそれぞれに対応して、音「CCCDE」が出力され、2回目のルーチンの運指「1→5→2→4→3」のそれぞれに対応して、音「DEEFG」が出力される。3回目以降のルーチンについても、音の分割、運指、演奏される音の割り当ては同様に決められており、所定の回数のルーチンを繰り返すことにより、歌「故郷」のメロディを再生(演奏)することができる。なお、本実施例では、一つのキーを押す動作に対して、一つの音を再生することとしているが、ここでは、音程のみが設定されており、音の長さは決められていない。従って、ユーザがキーを、楽曲の各音に相当する長さで押している間だけ、音が出力される。
【0034】
次に、前記プログラムメモリ60に含まれるログ取得解析プログラム70は、前記ユーザによるルーチンの遂行に関するデータ(例えば、キーを押すタイミングの正確度等)を取得し、ユーザ毎にデータの解析を行うものであり、ユーザデータ90として、データメモリ80に記憶する。このユーザデータ90は、インターネット100を介して他の端末102等に送信することが可能である。例えば、リハビリの施設等で行ったルーチンの遂行に関する結果を、インターネット100を介して、ユーザの自宅等の端末102に送るようにしてもよい。また、このユーザデータ90を、別のリハビリ施設等に送り、参考にするようにしてもよい。
【0035】
このように、実施例1によれば、次のような効果がある。
(1)ユーザによる所定のルーチンの繰り返しにより、所望する曲が再生されるため、ルーチンを構成する特定の運指の繰り返しを楽しみながら行うことができ、リハビリ等に利用できる。
(2)特定の運指を繰り返すことで曲を再生できるため、楽譜が読めなくても従来の鍵盤楽器が弾けなくても曲の演奏ができる。
(3)前記ルーチンの遂行データを取得、蓄積、解析をすることで、キーを押下するタイミングの正確度などのデータを経時的に確認することができ、以後のリハビリ等にも活用できる。
(4)インターネット100を通じてデータの送受信や必要な情報の取得が可能なため、幅広い楽曲等を活用することができる。
(5)ボード装置20のみで、運指の設定や演奏ができるため、他の機器を用意する必要がなく、気軽にリハビリや演奏ができる。
【0036】
<応用例>・・・次に、
図5も参照しながら本実施例の応用例を説明する。前記
図1に示すボード装置20は、右手用であったが、
図5(A)に示すように、左手用のボード装置20Aを用いてもよい。むろん、右手用と左手用のボード装置を併用してもよいし、これらが一体に形成されたボード装置を用いるようにしてもよい。
【0037】
次に、
図5(B)に示すボード装置20Bは、指で押す部分を着脱式のペグにした例である。同図に示すペグPA1〜PA5は、上部の面積が広く、高さも低いため接触しやすい。また、ペグPB1〜PB5は、ペグPA1〜PA5よりは上部の面積が狭く、高さも高くなっている。更に、ペグPC1〜PC5は、もっとも上部の面積が狭く、高さも高く設定されている。指との接触面積が狭く、高さも高くなるほど、正確に押す難易度が高くなり、ボード装置の巧緻性が変わる。すなわち、難易度の高いリハビリを行いたいときは、ペグPC1〜PC5を用いるという具合である。
【0038】
もちろん、各指ごとにペグの種類を変えるようにしてもよい。例えば、親指は押しやすいので、ポジション1にはペグPC1を用い、押しにくい小指は、ペグPA5から始めて、うまくいくようになれば、ペグPB5,PC5に交換して様子を見るという具合である。このように、キーを交換可能にした場合には、どのキーを用いてルーチンを遂行したかということも、前記ユーザデータ90として記録しておくようにしてもよい。また、ここでは、ペグの上部の面積と高さを変えることとしたが、指が接触する部分の触感が異なるようなものを用いてもよい。表面がつるつるしているものは滑りやすく押しにくいため巧緻性が高いので慣れたユーザ向きとし、表面がざらざらとしており滑りにくいものは巧緻性が低いため、初心者向きに使用するという具合である。このように、巧緻度や触感覚が可変なキーボードを用いることにより、難易度のコントロールを行うようにしてもよい。また、触感の変化により認知機能へ刺激を与えるようにしてもよい。
【実施例2】
【0039】
次に、
図6を参照しながら本発明の実施例2を説明する。なお、上述した実施例1と同一ないし対応する構成要素には同一の符号を用いることとする(以下の実施例についても同様)。前記実施例1では、ボード装置20が全ての機能を有する一体型の構成としたが、本実施例のように、汎用キーボードや汎用音源を用いて本発明のシステムを構成することも可能である。
図6に示すように、前記実施例1の演奏用アプリ50が導入されたコンバータ170に、汎用キーボード160と、シンセサイザー等の汎用音源やオーディオ装置180が接続されている。前記汎用キーボード160は、前記実施例1のボード装置20の動作検知部22に相当する。前記コンバータ170には、前記実施例1の演奏用アプリ50や、通信制御部30などを設ける。そして、汎用音源180は、前記実施例1の音声出力部24に相当する。このような構成とすることで、既存のキーボードや音源を利用して、本発明のシステムを容易に構築することができる。なお、前記コンバータ170は、演奏システム用の専用品を用いてもよいが、既存のコンピュータに演奏用アプリ50をインストールして使用することもできる。この場合、前記演奏用アプリ50自体を、インターネット100を介して取得するようにしてもよい。
【実施例3】
【0040】
次に、
図7(A)及び(B)と、
図8(A)を参照して、本発明の実施例3を説明する。上述した実施例1及び実施例2は、ユーザによる特定の運指を繰り返すことで、特定の曲を再生することとしたが、これも一例であり、ユーザによる所定のルーチンは、運指以外の動作であってもよい。例えば、
図7(A)に示す演奏システム200では、複数の交換マットMAとMBをマトリックス状に配置したマット202を用いた一体型のシステムとなっている。そして、マット202の任意の位置に、ユーザがタッチすべき複数の交換マットMB1〜MB5を配置して、それらをユーザが所定の順序で、手で触る,あるいは、足で踏むなどの動作を繰り返すことにより、特定の曲が再生される。すなわち、本実施例の場合は、マットMB1〜MB5に触ること自体が「ユーザによる所定の動作」であり、マットMB1〜MB5にどのような順序で触るかが、「ユーザによる所定の動作の順序」である。前記実施例1では、「所定の動作」が「運指」であるため、指でタッチする部分の位置自体は変わらなかったが、本実施例では、接触すべきマットMB1〜MB5の位置が可変なため、ユーザの身体特性に応じたマットの配置が可能であり、身体障がい児(者)のリハビリや表現活動に活用することができる。また同じ曲を再生するのに幾通りもの接触順序を設定することができるため、動作そのものに飽きにくいという効果がある。なお、使用するマットMBの数は必要に応じて適宜増減可能である。
【0041】
図7(B)に示す演奏システム250も、ユーザの体を使うためのものであり、図示の例では、ユーザによる特定の動作を検知するための接触媒体として、ボールB1〜B5を用いている。なお、この例では、ボールB1〜B5は、動作を検知するための手段としてのみ用いられ、検知信号は、別に構成された音源装置260により検知され、曲が再生される。前記音源装置260は、前記実施例1のボード装置20の動作検知部22からキーK1〜K5を除いたものに相当し、ボールB1〜B5からの信号を受信するためのセンサ262を備えている。本例の場合は、ボールB1〜B5にタッチすること自体が「ユーザによる所定の動作」であり、ボールB1〜B5にどのような順序で触るかが「ユーザによる所定の動作の順序」である。これらボールB1〜B5の数は必要に応じて増減してよいし、接触媒体としての機能を有さない他のボールB´と混ぜて使用してもよい。本例の場合の、ユーザの動作検知に用いるボールBの数は、必要に応じて適宜増減可能である。
【0042】
また、
図8(A)に示す合奏システム280のように、前記実施例1の演奏システム10と、実施例3の演奏システム200,250を任意に組み合わせることで、合奏システムとしても利用可能である。この場合、各演奏システムで演奏される曲の音色を変えるようにしてもよいし、演奏システムごとに演奏する音楽パートが異なるようにしてもよい。
【実施例4】
【0043】
次に、
図8(B)を参照しながら、本発明の実施例4を説明する。上述した実施例1では、聴覚的表現が経時的に変化する楽曲を、一音ずつに分割し、それを単位表現としたが、分割する数が多いと、単位表現当たりの時間長が短かくなり、障害の程度によってはユーザが対応できない可能性もある。そこで、本実施例のように、一曲をある程度の音楽的まとまりを有する複数のフレーズに分割し、各フレーズに一つの動作を割り当てることで、1回又は数回程度のルーチンの遂行で1曲の演奏が可能な構成としてもよい。
図8(B)に示すルーチンテーブル300の例では、「うさぎおいし」がポジション1の運指に対応し、キーK1を押すと「CCCDED」の音列が所定の長さで連続再生される。「かのやま」がポジション5の運指に対応し、キーK5を押すと「EEFG」の音列が所定の長さで連続再生される。「こぶなつりし」がポジション2の運指に対応し、キーK2を押すと「FGAEFE」の音列が所定の長さで連続再生される。以降についても同様である。このように、曲の分割数を減らし、一つの動作に対応する単位表現を長くすることにより、1回又は数回程度のルーチンの繰り返しで1曲の演奏が可能になるため、障害の度合いが強いユーザも楽しみながらリハビリをすることができる。
【実施例5】
【0044】
次に、
図9及び
図10を参照しながら、本発明の実施例5を説明する。上述した実施例は、複数の動作を所定の順序で行うルーチンを繰り返すことで、特定の表現を再生することとしたが、本実施例は、ユーザによる所定の動作を単純に繰り返すことで、特定の表現を再生することとした例である。本実施例では、歩数計やスマートフォンなどに搭載された加速度センサを、ユーザの動作を検知する手段として用い、歩行のステップ(着地)を検出してメロディを再生するものである。
図9(A)に示すように、本実施例の演奏システム400は、ユーザが装着ないし携帯する歩数計410や、スマートフォン420に、演奏用アプリ450を導入した構成となっている。これら歩数計410やスマートフォン420には、加速度センサ430や、図示しないCPUが設けられている。本実施例では、歩行(着地)が「ユーザによる所定の動作」であり、通常は左右の足を交互に着地させるが、同じ足を連続して着地させてもよい。
【0045】
前記演奏用アプリ450は、プログラムメモリ460,データメモリ480を有している。前記プログラムメモリ460には、音列データ取得プログラム462,音価データ取得プログラム464,テーブル生成プログラム466,再生指示プログラム468,ログ取得解析プログラム470が設けられている。また、データメモリ480には、音列データ482,音価データ484,テーブル486,楽曲データベース490が設けられている。前記ユーザデータ490は、前記ユーザによる所定の動作の遂行に関するログデータや、これらのログデータに基づいて生成された解析データ等が含まれる。
【0046】
前記プログラムメモリ460の音列データ取得プログラム462は、再生する曲の音列データ(楽曲を構成する音の音高についての時系列データ)を取得するためのものである。再生する曲は、ユーザが好きな曲を選んでもよいし、ユーザ以外のものが決めてもよい。音列データの取得は、前記歩数計410やスマートフォン420に設けられた図示しないカードスロットに、前記実施例1と同様のデータカード40を差し込んでロードするようにしてもよいし、あらかじめ前記データメモリ480に多数の楽曲の音列データを集積した楽曲データベース488がある場合には、その中から好きな曲を選択するようにしてもよい。あるいは、通信機能を有する場合には、インターネットから好きな曲の音列データを取得するようにしてもよい。楽曲の音列データの選択ないし取得の方法は任意であり、前記カードスロットや楽曲データベース488は必要に応じて設ければよい。
【0047】
また、前記プログラムメモリ460の音価データ取得プログラム464は、前記音列データ取得プログラム462によって取得した音列データの、楽譜上の音の長さである音価データを取得するためのものである。このような音価データ484の取得は、例えば、通信カラオケ用のMIDIデータなどからの抽出が可能である。また、前記音価データ484の取得を、前記音列データ取得プログラム462で合わせて行う場合には、前記音価データ取得プログラム464を別途設ける必要はない。また、後述するように、本実施例では、二つのモードで再生を行うことができるが、そのうち、楽曲に合わせてユーザが歩き方を変えるモードのみを行う場合には、前記音価データ484はかならずしも設ける必要はない。
【0048】
次に、プログラムメモリ460のテーブル生成プログラム466について説明する。本実施例では、前記テーブル生成プログラム466は、ユーザの選択により、以下の2つの再生モードに対応するテーブル486を生成可能となっている。ここで、2つの再生モードについて説明すると、
モード1は、演奏する楽曲のメロディのリズムで左右(あるいは片方)の足を着地しながら歩く、すなわち、楽曲に合わせて歩き方を変えることで、歩行のステップに合わせてメロディを奏でるモードである。また、
モード2は、歩行の1歩に対して、演奏するメロディを構成する音の中の最少の音価(楽音に関する楽譜上の時間長)の単位を当てはめ、それより長い場合は空打ち(演奏しないステップ)とすることで、一定のテンポで歩くことにより、メロディを正確に演奏するモードである。
【0049】
まず、モード1の場合のテーブル生成プログラム466の機能を説明すると、該テーブル生成プログラム466は、前記音列データ取得プログラム462によって音列データ482を取得したら、該音列データ482からテーブル486Aを生成し、データメモリ480に記憶する。具体的には、楽曲のメロディを構成する各々の音を所定の単位として、前記楽曲を分割し、各音にユーザによる歩行ステップを割り当てたテーブルを生成する。
図10(A)には、モード1の場合に生成されるテーブル486Aの一例が示されている。前記テーブル486Aでは、「故郷」のメロディを一音ごとに分割し、分割した音の時系列に沿った再生順序を、歩行ステップの順に当てはめている。例えば、ステップ1についてはC音を再生し、ステップ2についてはC音を再生するという具合である。ここでは、テーブル486Aの生成に際し、音の長さは考慮されていないため、メロディを正確に再生するためには、着地する際に、ユーザが演奏する曲のリズムに合わせて着地する必要がある。このように、リズムを意識しながら歩行することで、リハビリ等に利用できる。
【0050】
次に、モード2の場合のテーブル生成プログラム466の機能を説明すると、該テーブル生成プログラム466は、前記音列データ取得プログラム462によって音列データ482を取得し、前記音価データ取得プログラム464によって音価データ484を取得したら、これらのデータからテーブル486Bを生成し、データメモリ480に記憶する。具体的には、楽曲のメロディを構成する多数の音のうちの最少音価を所定の単位として、前記楽曲を構成する各音を最少音価で分割する。そして、分割された各音の最初の単位表現については音の再生をし、前記最初の単位表現より後の単位表現については音の再生をしないように、各音ごとに、前記単位表現の再生順序及び再生の有無と、前記ユーザによる歩行ステップを割り当てたテーブルを生成する。
【0051】
図10(B)には、モード2の場合に生成されるテーブル486Bの一例が示されている。同図に示すように、「故郷」の場合には、メロディの中の最少音価は8分音符である。そして、この8分音符(最少音価)を「1」とした場合の他の音の相対的な音価は、音列「C→C→C→D→E→D→E→E→F→G→休符」に対応して、音価「2→2→2→3→1→2→2→2→2→4→2」となる。例えば、
図10(B)において、最初の1小節をみると、メロディは「C→C→C」であり、その音価は「2→2→2」である。すなわち、最少音価を分割の単位として、各音を単位表現に分割すると、最初の「C」については、2つの単位表現に分割される(図示の例では、2番目、3番目の音についても同様)。ここで、各分割表現に対し、歩行ステップ1と歩行ステップ2を割り当てた場合、歩行ステップ1のみを発音するステップとして指定し(
図10(B)中の「○」)、歩行ステップ2は発音しない(空打ち)ステップとして指定(
図10(B)中の「×」)する。歩行ステップ3以降についても、同様に発音するステップと発音しないステップに指定することにより、一定のテンポで歩けば、メロディが正確に演奏されるようになる。
【0052】
次に、前記プログラムメモリ460の再生指示プログラム468は、加速度センサ430によってユーザによる歩行ステップ(着地)が検知されると、モードに応じ、モード1であれば、前記テーブル486Aを参照し、モード2であれば、前記テーブル486Bを参照して、検知したときの歩行ステップの順序(動作の繰り返し回数)に対応する音を特定して、音の再生指示を行う。歩数計410やスマートフォン420では、前記指示に応じた音を音声出力部(図示せず)から出力する。この繰り返しにより、曲が演奏される。
【0053】
なお、前記プログラムメモリ460に含まれるログ取得解析プログラム470は、前記ユーザによる所定の動作の遂行に関するデータ(例えば、モード1であれば、リズムの正確さや、モード2であれば歩行テンポが一定かどうか等)を取得し、ユーザ毎にデータの解析を行うものであり、ユーザデータ490として、データメモリ480に記憶する。このユーザデータ490は、インターネット等を介して他の端末等に送信することが可能である。例えば、ユーザの自宅等で行った動作の遂行に関する結果を、インターネット等を介して、リハビリ施設等に送るようにしてもよい。このように、本実施例によれば、ユーザが、演奏するメロディのリズムに合わせて歩行することにより、あるいは、一定のテンポで歩行することにより、楽曲のメロディが正確に演奏されるため、楽しみながら歩行を行うことができ、リハビリ等に利用できるという効果がある。
【0054】
なお、本発明は、上述した実施例に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加えることができる。例えば、以下のものも含まれる。
(1)前記実施例1〜3では、1曲に含まれる音を一音ずつ分割し、一音ごとにユーザの動作を割り当てることとしたが、これも一例であり、上述した実施例4のように分割する単位を変えることで難易度が可変な構成としてもよい。
(2)前記実施例で示したボード装置20,20A,20B,マット202,ボールB1〜B5,汎用キーボード160も一例であり、ユーザの所定の動作を検知できるものであれば、他の公知の各種の接触媒体が適用可能である。例えば、タッチパネル式のタブレット端末やPC等をユーザによる動作の検知に使用してもよい。
【0055】
(3)前記実施例1では、必要に応じてインターネット100に接続してデータの送受信や情報の取得・提供を行うこととしたが、これも一例であり、ネットワークの利用は必要に応じて行うようにしてよい。また、ネットワークから取得するものとしては、楽曲の音列データや、運指順序のデータや、演奏用アプリ50等も含まれ、更に、インターネットを介して、ルーチンの実行を行うようにしてよい。例えば、
図1に示す端末102のキーボード等を利用してユーザが特定の運指を行い、そのデータをインターネット100を介してサーバ104に送ることにより、サーバ104側からその運指に対応する音の再生指示を端末102に送り、ユーザの端末102で音声出力するという具合である。
(4)前記実施例5では、ユーザによる所定の動作を歩行ステップとしたが、これも一例であり、まりつきやドリブル等の動作を検出して、その動作を一定の速度で行えば、前記実施例5のモード2のように、楽曲が演奏されるものであってもよい。
【0056】
(5)前記実施例では、楽曲を特定の表現とした例を挙げたが、これも一例であり、本発明は、視覚的又は聴覚的な表現の少なくとも一方が経時的に変化する表現全般に適用可能である。例えば、前記実施例1のようなメロディの演奏だけでなく、文字列(文章の提示、文章の音読、音声データ)のような表現であってもよく、ディスプレイ等の表示装置に表示されるテキストが変化するようにしてもよい。また、これらテキストの変化に対応して音声出力がされるようにしてもよい。このほか、静止画をスライドショーのように表示してもよいし、クイズ問題などに利用してもよい。更に、音と動きを組わせた動画を再生するようにしてもよい。
【0057】
(6)本発明は、所定の動作を所定の順序で行うルーチンを繰り返すことで、あるいは、所定の動作を繰り返すことで、表現を再生するものであるため、簡単な演奏装置(楽器)としても用いることができるし、上述した実施例1のようにリハビリに適用することでその効果を引き出すことができる。また、リハビリテーションや楽器としてのみではなく、デイケアプログラムや、障害児(者)の療育、特別支援教育、知育玩具等として広く利用可能である。
【産業上の利用可能性】
【0058】
本発明によれば、
(1)聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定のルーチンの繰り返しにより再生する。前記ルーチンには、複数の所定の動作が含まれ、それらの動作を行う手順があらかじめ設定される。そして、前記
楽曲を構成する音の音高についての時系列データである音列データを取得し、それを時系列に沿って所定の単位に分割したときの単位表現の再生順序と、前記ルーチンに含まれる複数の動作とを、前記ルーチンの繰り返し数に応じて対応づけたテーブルを生成する。
前記ルーチンが、複数の指を所定の順序で動かす運指であり、前記複数の動作検知手段が、前記複数の指のそれぞれに対応する複数のキーであって、前記ユーザによるキーを押す動作を検知するものであり、かつ、前記キーは、前記指と接触する部分の面積又は触感の少なくとも一方が異なる他のキーと交換可能である。前記ルーチンに含まれる複数の所定の動作の各々に対応する複数の動作検知手段によって、前記ユーザによる所定の動作を検知したら、前記テーブルを参照して、検知したときの前記ルーチンの繰り返し数と、該ルーチン内での前記動作の順序に対応する単位表現を特定して、出力手段から出力することとした。このため、複数の所定の動作を所定の順序で行うルーチンを繰り返すことにより、
楽曲の再生が可能となる。
【0059】
(2)あるいは
、聴覚的な表
現が経時的に変化する
楽曲を、ユーザによる所定の動作の繰り返しにより再生する。前記
楽曲を構成する音の音高についての時系列データである音列データを取得し、それを時系列に沿って所定の単位に分割したときの単位表現の再生順序と、前記所定の動作の繰り返し数を対応づけたテーブルを生成する。
前記楽曲のメロディを構成する音のうちの最少音価を前記所定の単位として、前記メロディを構成する各々の音が分割されるとともに、前記テーブルの生成において、前記音を最少音価で分割したときの最初の単位表現については音の再生をし、前記最初の単位表現より後の単位表現については音の再生をしないように、各音ごとに、前記単位表現の再生順序及び再生の有無と、前記ユーザによる所定の動作の繰り返し数を対応づけたテーブルを生成する。前記ユーザによる所定の動作を検知する動作検知手段によって、前記ユーザによる所定の動作を検知したら、前記テーブルを参照する。そして、検知したときの前記所定の動作の繰り返し数に対応する単位表現を特定して、出力手段から出力することとした。このため、所定の動作を繰り返すことにより、
楽曲の再生が可能となる。
【0060】
このため、表現再生システム等の用途に適用できる。特に、ユーザにとって適した動作の繰り返しを、楽しみながら継続するよう促すことができるため、リハビリ支援用のシステムの用途に好適である。