(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-18
(45)【発行日】2024-03-27
(54)【発明の名称】プログラム、電子機器、方法、および演奏データ表示システム
(51)【国際特許分類】
G10G 1/00 20060101AFI20240319BHJP
G10H 1/38 20060101ALI20240319BHJP
【FI】
G10G1/00
G10H1/38 Z
(21)【出願番号】P 2019231900
(22)【出願日】2019-12-23
【審査請求日】2022-12-13
(73)【特許権者】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】110003708
【氏名又は名称】弁理士法人鈴榮特許綜合事務所
(74)【代理人】
【識別番号】100108855
【氏名又は名称】蔵田 昌俊
(74)【代理人】
【識別番号】100103034
【氏名又は名称】野河 信久
(74)【代理人】
【識別番号】100179062
【氏名又は名称】井上 正
(74)【代理人】
【識別番号】100153051
【氏名又は名称】河野 直樹
(74)【代理人】
【識別番号】100199565
【氏名又は名称】飯野 茂
(74)【代理人】
【識別番号】100162570
【氏名又は名称】金子 早苗
(72)【発明者】
【氏名】広浜 雅行
(72)【発明者】
【氏名】奥田 広子
【審査官】中村 天真
(56)【参考文献】
【文献】特開2019-101168(JP,A)
【文献】特開2016-164591(JP,A)
【文献】特開2001-265337(JP,A)
【文献】特開平06-236141(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G10G 1/00-3/04
G10H 1/00-1/46
(57)【特許請求の範囲】
【請求項1】
情報処理装置のコンピュータに、
入力された演奏データに基づいて、
コードが判定されない回数が設定された閾値未満の場合、或いは、互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定されない場合に、音楽的に適切と判定して第1画像データの表示を指示させ、
前記コードが判定されない回数が前記設定された閾値に達した場合、或いは、前記互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定された場合に、音楽的に不適切と判定して前記第1画像データと異なる態様の第2画像データの表示を指示させる、
プログラム。
【請求項2】
或る音高データに、前記第1画像データ及び前記第2画像データを含む複数の画像データが、対応付けて記憶されており、
たとえ取得された音高データが同じであったとしても、音楽的に適切か否かの判定結果に応じて、表示を指示させる画像データの態様は異なる、
請求項1に記載のプログラム。
【請求項3】
演奏終了の判定に基づいて、演奏開始から演奏終了までの演奏全体の結果画像であって、前記第1画像データ及び前記第2画像データを含む結果画像の表示を指示させ、
前記結果画像に含まれる前記第1画像データ及び前記第2画像データの数は、演奏が音楽的に適切か否かの前記判定の結果に応じて、異なる、
請求項1又は2に記載のプログラム。
【請求項4】
ディスプレイ装置と、
プロセッサと、を備え、前記プロセッサが、
入力された演奏データに基づいて、コードが判定されない回数が設定された閾値未満の場合、或いは、互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定されない場合に、音楽的に適切と判定して第1画像データの前記ディスプレイ装置への表示を指示し、
前記コードが判定されない回数が前記設定された閾値に達した場合、或いは、前記互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定された場合に、音楽的に不適切と判定して前記第1画像データと異なる態様の第2画像データの前記ディスプレイ装置への表示を指示する、
電子機器。
【請求項5】
情報処理装置のコンピュータに、
入力された演奏データに基づいて、コードが判定されない回数が設定された閾値未満の場合、或いは、互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定されない場合に、音楽的に適切と判定して第1画像データの表示を指示させ、
前記コードが判定されない回数が前記設定された閾値に達した場合、或いは、前記互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定された場合に、音楽的に不適切と判定して前記第1画像データと異なる態様の第2画像データの表示を指示させる、
方法。
【請求項6】
電子楽器と、ディスプレイ装置と、
を備え、
前記電子楽器は、
ユーザによる演奏操作に応じて演奏データを生成するとともに、生成された前記演奏データを前記ディスプレイ装置に出力し、
前記ディスプレイ装置は、
入力された演奏データに基づいて、コードが判定されない回数が設定された閾値未満の場合、或いは、互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定されない場合に、音楽的に適切と判定して第1画像データを表示し、
前記コードが判定されない回数が前記設定された閾値に達した場合、或いは、前記互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定された場合に、音楽的に不適切と判定して前記第1画像データと異なる態様の第2画像データを表示する、
演奏データ表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム、電子機器、方法、および演奏データ表示システムに関する。
【背景技術】
【0002】
デジタルキーボードをはじめとする電子楽器は、プロセッサおよびメモリを備え、いわば鍵盤付きの組込みコンピュータといえる。USB(Universal Serial Bus)等のインタフェースでタブレット等の情報処理装置に接続し、多様な拡張機能を利用できる機種も知られている。例えば、演奏により発生するMIDI(Musical Instrumen Digital Interface)データを解析し、演奏にマッチする画像、つまり絵を作成して画面に描画する技術が開発の途上にある(例えば、特許文献1を参照)。
【0003】
楽器演奏は練習が大変で、途中で飽きてしまって断念する人も多い。自分の演奏を録音し、どの部分が弾けなかったかを確認するというのはある程度弾けるようになってからの話であって、その前であきらめてしまう人が多い。このような人達にも練習の意欲を高めてもらうために、視覚的な効果を利用する技術に注目が集まっている。
【0004】
演奏により絵を作成する技術では、演奏中の曲の調(Key)に合わせて選択された色の背景に、音符に対応するキャラクターを並べて一枚の絵とするのが基本である。背景色は、例えばスクリャービンで知られる音と色との共感覚の関係を応用して、ハ長調は赤色、ト長調は青色というように、音楽解析による調の判定結果に対応付けて決められる。
【先行技術文献】
【特許文献】
【0005】
【非特許文献】
【0006】
【文献】“Music Tapestry”,[online],[令和1年11月20日検索],インターネット,<URL:https://news.mynavi.jp/article/20190724-casio_music_tapestry/>
【発明の概要】
【発明が解決しようとする課題】
【0007】
既存の技術では、音楽的に正しい演奏により作成された絵と、そうでない演奏により作成された絵との間にそれほどの違いがない。楽器店に陳列されたキーボードの鍵盤をたたいて遊ぶ子供が見受けられるように、幼い子供はめちゃくちゃ弾きをしたがる。そこまでいかなくとも、ちゃんとした演奏ではきれいな絵になり、そうでない演奏ではきれいでない絵になるほうが、ユーザの練習意欲は高まると思われる。
【0008】
本発明はこのような事実に鑑みなされたもので、その目的は、演奏の良否を画像で表現するプログラム、電子機器、方法、および演奏データ表示システムを提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明の一実施形態であるプログラムは、情報処理装置のコンピュータに、入力された演奏データに基づいて、コードが判定されない回数が設定された閾値未満の場合、或いは、互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定されない場合に、音楽的に適切と判定して第1画像データの表示を指示させ、前記コードが判定されない回数が前記設定された閾値に達した場合、或いは、前記互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定された場合に、音楽的に不適切と判定して前記第1画像データと異なる態様の第2画像データの表示を指示させる。
【発明の効果】
【0010】
本発明によれば、例えば、演奏の良否を画像でわかりやすく表現でき、ユーザの練習意欲の向上に資するプログラムを提供することができる。
【図面の簡単な説明】
【0011】
【
図1】
図1は、実施形態に係わる演奏データ表示システムの一例を示す図である。
【
図2】
図2は、実施形態に係るデジタルキーボード1の一例を示すブロック図である。
【
図3】
図3は、情報処理装置TBの一例を示す機能ブロック図である。
【
図4】
図4は、第1キャラクタデータの一例を示す図である。
【
図5】
図5は、第2キャラクタデータの一例を示す図である。
【
図6】
図6は、情報処理装置TBの処理手順の一例を示すフローチャートである。
【
図7A】
図7Aは、音楽的でないと判定される余地のない演奏の譜例を示す。
【
図8】
図8は、
図6の非音楽的判定処理(ステップS13)における処理手順の一例を示すフローチャートである。
【
図9A】
図9Aは、音楽的でないと判定される余地を含む演奏の譜例を示す。
【
図10】
図10は、
図6の非音楽的判定処理(ステップS13)における処理手順の他の例を示すフローチャートである。
【
図11A】
図11Aは、音楽的でないと判定される余地を含む演奏の譜例を示す図である。
【
図12A】
図12Aは、音楽的でないと判定される余地を含む演奏の譜例を示す図である。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して、本発明に係る演奏データ表示システムについて説明する。
<構成>
図1は、実施形態に係わる演奏データ表示システムの一例を示す図である。このシステムは、デジタルキーボード1と、このデジタルキーボード1に接続可能な情報処理装置TBとを備える。デジタルキーボード1は、例えば、電子ピアノ、シンセサイザー、あるいは電子オルガン等の電子鍵盤楽器である。
図1に示すように、デジタルキーボード1は、複数の鍵10と、表示部20と、操作部30と、譜面台MSとを備える。
図1に示されるように、デジタルキーボード1に接続された情報処理装置TBを、譜面台MSに載置することができる。
【0013】
鍵10は、演奏者が音高を指定する操作子であり、演奏者が鍵10を押鍵及び離鍵することで、デジタルキーボード1は、指定された音高に対応する音の発音及び消音を行う。
【0014】
表示部20は、例えば、タッチパネル付きの液晶モニタ(Liquid Crystal Display:LCD)を有し、演奏者の操作部30の操作に伴うメッセージの表示等を行う。なお、本実施形態では、表示部20がタッチパネル機能を有しているため、表示部20は、操作部30の一端を担うことができるようになっている。
【0015】
操作部30は、演奏者が各種の設定等を行う操作ボタンを有し、音量調整等の各種の設定操作等を行うための部分である。
発音部40は、音を出力する部分であり、スピーカ42やヘッドフォンアウト等の出力部を有する。
図2は、実施形態に係るデジタルキーボード1の一例を示すブロック図である。デジタルキーボード1は、USBインタフェース(I/F)216、RAM(Random Access Memory)203、ROM(Read Only Memory)202、表示部20、LCDコントローラ208、LED(Light Emitthing Diode)コントローラ207、鍵盤101、操作部30、キースキャナ206、MIDIインタフェース(I/F)215、システムバス209、CPU(Central Processing Unit)201、タイマ210、音源204、デジタル/アナログ(D/A)コンバータ211、ミキサ213、D/Aコンバータ212、音声合成LSI205、および、アンプ214を備える。音源204、音声合成LSI205は、例えばDSP(Digital Signal Processor)として実現される。
【0016】
CPU201、音源204、音声合成LSI205、USBインタフェース216、RAM203、ROM202、LCDコントローラ208、LEDコントローラ207、キースキャナ206、およびMIDIインタフェース215は、システムバス209に接続される。
【0017】
CPU201は、デジタルキーボード1を制御するプロセッサである。すなわちCPU201は、ROM202に記憶されたプログラムを、ワーキングメモリとしてのRAM203に読み出し、実行して、デジタルキーボード1の各種の機能を実現する。CPU201は、タイマ210から供給されるクロックに従って動作する。クロックは、例えば自動演奏、自動伴奏のシーケンスを制御するために用いられる。
【0018】
ROM202は、プログラム、各種設定データ、自動伴奏データ等を記憶する。自動伴奏データは、予めプリセットされたリズムパターン、コード進行、ベースパターン、あるいはオブリガード等のメロディデータ等を含んでよい。メロディデータは、各音の音高情報、各音の発音タイミング情報等を含んでよい。
【0019】
各音の発音タイミングは、各発音間の間隔時間でもよく、自動演奏曲の開始時からの経過時間であっても良い。時間の単位にはtickが用いられることが多い。tickは、一般的なシーケンサで用いられる、曲のテンポを基準とする単位である。例えば、シーケンサの分解能が480であれば、4分音符の時間の1/480が1tickとなる。
【0020】
自動伴奏データは、ROM202に限らず、図示しない情報記憶装置や情報記憶媒体に記憶されていても良い。自動伴奏データのフォーマットは、MIDI用のファイルフォーマットに準拠してもよい。
【0021】
音源204は、例えばGM(General MIDI)規格に準拠する、いわゆるGM音源である。この種の音源は、MIDIメッセージとしてのプログラムチェンジを与えれば音色を変更できるし、コントロールチェンジを与えれば既定のエフェクトを制御することができる。
【0022】
音源204は、例えば同時に最大256ボイスを発音する能力を有する。音源204は、例えば波形ROM(図示せず)から楽音波形データを読み出し、デジタル楽音波形データとしてD/Aコンバータ211に出力される。D/Aコンバータ211は、デジタル楽音波形データをアナログ楽音波形信号に変換する。
【0023】
音声合成LSI205は、CPU201から、歌詞のテキストデータと音高に関する情報を歌声データとして与えられると、それに対応する歌声の音声データを合成し、D/Aコンバータ212に出力する。D/Aコンバータ212は、音声データをアナログ音声波形信号に変換する。
【0024】
ミキサ213は、アナログ楽音波形信号、およびアナログ音声波形信号をミックスし、出力信号を生成する。この出力信号はアンプ214で増幅され、スピーカ42、あるいはヘッドフォンアウトなどの出力端子から出力される。
【0025】
キースキャナ206は、鍵盤101の押鍵/離鍵状態、操作部30のスイッチ操作状態を定常的に監視する。そして、キースキャナ206は、鍵盤101、操作部30の状態をCPU201に伝える。
【0026】
LEDコントローラ207は、例えばIC(Integated Circuit)である。LEDコントローラ207は、CPU201からの指示により鍵盤101の鍵を光らせて、演奏者の演奏をナビゲートする。LCDコントローラ208は、表示部20の表示状態を制御するICである。
【0027】
MIDIインタフェース215は、MIDI装置4等の外部装置からのMIDIメッセージ(演奏データ等)を入力したり、MIDIメッセージを外部装置に出力したりする。デジタルキーボード1は、例えばUSB(Universal Serial Bus)等のインタフェースを用いて、外部装置とMIDIメッセージやMIDIデータファイルを授受することが可能である。受信されたMIDIメッセージは、CPU201経由で音源204に渡される。音源204は、MIDIメッセージで指定された音色、音量、タイミング等に従って音を鳴らす。
【0028】
情報処理装置TBが、USBインタフェース216経由でシステムバス209に接続される。情報処理装置TBは、デジタルキーボード1が演奏されることで発生したMIDIデータ(演奏データ)を、USBインタフェース216経由で取得することができる。
【0029】
さらに、図示しない記憶メディア等も、USBインタフェース216経由でシステムバス209に接続されても良い。記憶装置3としては、例えば、USBメモリ、フレキシブルディスクドライブ(FDD)、ハードディスクドライブ(HDD)、CD-ROMドライブ及び光磁気ディスク(MO)ドライブ等が挙げられる。ROM106にプログラムが記憶されていない場合には、記憶メディアにプログラムを記憶させておき、それをRAM105に読み込むことにより、ROM106にプログラムを記憶している場合と同様の動作をCPU111に実行させることができる。
【0030】
図3は、情報処理装置TBの一例を示す機能ブロック図である。実施形態の情報処理装置TBは、例えばタブレット型の情報端末であり、後述するような画像を表示部52に表示させるためのアプリケーションがインストールされている。なお、情報処理装置TBは、タブレット型の携帯端末に限定される必要はなく、ノートパソコンPC等であってもよい。また、情報処理装置TBは、デジタルキーボード1からMIDIデータを受信して曲データを再生させるシーケンサ等を備えていてもよい。
【0031】
情報処理装置TBは、主に、操作部51と、表示部52と、通信部53と、音出力部54と、制御部56(CPU)と、メモリ55と、を備える。各部(操作部51、表示部52、通信部53、音出力部54、制御部56及びメモリ55)は、バス57で通信可能に接続されており、各部間で必要なデータのやり取りが行えるようになっている。
【0032】
操作部51は、例えば、電源のON/OFFを行うための電源スイッチ等のスイッチ類を含む。表示部52は、タッチパネル付きの液晶モニタを有し、画像を表示する。表示部52はタッチパネル機能も有するので、操作部51の一端を担うことができる。
【0033】
通信部53は、他の機器等との間で通信を行うための無線ユニットや有線ユニットを備える。実施形態では、例えばUSBケーブル等を介してデジタルキーボード1に有線接続され、これにより情報処理装置TBは、デジタルキーボード1との間で各種のディジタルデータを授受することができる。
【0034】
音出力部54は、スピーカーやイヤホンジャック等を備え、アナログの音声や楽音を再生出力したり、オーディオ信号を出力する。
【0035】
制御部56は、CPU等のプロセッサを備え、情報処理装置TBの制御を司る。制御部56のCPUは、メモリ55に記憶されている制御プログラムやインストールされたアプリケーションに従って、各種の処理等を実行する。
【0036】
メモリ55は、ROM60およびRAM80を備える。
ROM60は、例えば、制御部56が実行するプログラム70や各種データテーブル等を記憶している。
【0037】
RAM80は、プログラム70を動作させる上で必要なデータを記憶する。またRAM80は、制御部56が作成するデータ、デジタルキーボード1から送られたMIDIデータ、及び、アプリケーションを展開させるための一時記憶領域等としても機能する。実施形態においては、RAM80は、MIDIデータとしての演奏データ80aに加えて、第1キャラクタデータ80b、第2キャラクタデータ80c、および、演奏データ80aに由来する第1画像データ80dと第2画像データ80eを記憶する。
【0038】
図4は、第1キャラクタデータの一例を示す図である。第1キャラクタデータは、演奏操作が音楽的に適切であると判定された場合に表示される、複数のキャラクタを含むデータである。第1キャラクタデータは、比較的、肯定的な印象を与える図柄を音高に対応付けて登録したデータである。
【0039】
図5は、第2キャラクタデータの一例を示す図である。第2キャラクタデータは、第1キャラクタデータよりも肯定的でない、つまり比較的否定的な印象を与える図柄を音高に対応付けて登録したデータである。第2キャラクタデータは、演奏操作が音楽的に適切であると判定されなかった場合に表示される。
【0040】
実施形態では、第2キャラクタデータの否定度を区別するためのしきい値(TH)を考慮する。
図5においてはTH1、およびTH2の2段階のキャラクターが示される。例えばキャラクターA(花)については、元のキャラクターが花弁が全部ついた絵柄であるのに対し、音楽的でない演奏の度合いが高まるほど、花弁が散って否定的な図柄に差し替えられてゆく。しきい値TH1では花弁が7枚、しきい値TH2では花弁が3枚になっている。キャラクターB(葉)については、音楽的でない演奏の度合いが高まるほど、枯れてゆくことが分かる。
【0041】
このほか、モザイク状に描画して(モザイクキャラクター)否定的印象を与えたり、爆発や火事を表すイメージ(上書きキャラクター1)、あるいは絵の具で塗りつぶすイメージ(上書きキャラクター2)を描画することによっても、否定的な印象を与えることができる。これらのキャラクターを差し替え、または上書き描画することによって、音楽的でない演奏操作、つまりめちゃくちゃ弾きを指摘することができる。
【0042】
ところで、実施形態において、プログラム70は、音楽解析ルーチン70a、第1画像作成ルーチン70b、第2画像作成ルーチン70c、および、出力制御ルーチン70dを備える。
【0043】
音楽解析ルーチン70aは、入力された演奏データ80aに基づいて、音高データを取得する。すなわち音楽解析ルーチン70aは、演奏データ80aに含まれる音高データに基づいて音楽解析を行い、例えば音高データの組み合わせに基づいて、演奏が音楽的に適切か否かを判定する。
【0044】
例えば、音楽解析によりコードを判定できない場合(判定に失敗した場合)、コードを判定できない回数が規定数を超えた場合、あるいは、隣接する白鍵の5鍵以上の同時押しの検出など、ほぼ同時のタイミングに検出される音高データの組み合わせや、一定の時間長の間に何度も検出される音高データの組み合わせなどにより、演奏操作が音楽的であるか否かを判定することができる。
【0045】
なお、音楽解析の手法、あるいは調性やコード種別等を判定するための手法は、特に限定されるものではないが、例えば、特許第3211839号明細書等に開示された手法を用いることができる。
【0046】
第1画像作成ルーチン70bは、音楽解析ルーチン70aにより演奏操作が適切であると判定された場合に、第1キャラクタを、音高データに対応付けて表示部52に描画する。
第2画像作成ルーチン70cは、音楽解析ルーチン70aにより演奏操作が適切でないと判定された場合に、第2キャラクタを、音高データに対応付けて表示部52に描画する。
【0047】
第1画像作成ルーチン70b、第2画像作成ルーチン70cにより、第1画像データおよび第2画像データが作成される。第1画像データ、第2画像データのいずれも、演奏データ80aに基づいて、例えば特許文献1に開示される技術を利用して作成することができる。これらの画像データはRAM80に記憶される(第1画像データ80d、第2画像データ80e)。
【0048】
なお、特許文献1に開示される『第1画像』は、演奏中にリアルタイム表示される動画像、またはその1フレーム(最終フレームなど)の画像に対応し、本実施形態における[第1画像]と同様である。また、特許文献1に開示される『第2画像』は演奏終了後に生成される静止画像に対応し、本実施形態の[第2画像]に相当する。
【0049】
出力制御ルーチン70dは、作成された第1画像、および第2画像を、制御部56に、表示装置としての表示部52に表示させる。
【0050】
<作用>
次に、上記構成における作用を説明する。以下では、情報処理装置TBの通信部53とデジタルキーボード1の通信部90とが有線接続されているとして説明する。また、画像を表示部52に表示させるためのアプリケーションが情報処理装置TBで起動されているとする。
【0051】
図6は、情報処理装置TBの処理手順の一例を示すフローチャートである。
図6において、情報処理装置TBの制御部56(CPU)は、デジタルキーボード1からの演奏データの送信を待ち受ける(ステップS11)。演奏データの入力が無ければ(ステップS11:NO)、制御部56は、演奏終了判断処理を行う(ステップS17)。
【0052】
ステップS17において、演奏データの入力無しで所定の時間が経過すると(ステップS17:YES)、制御部56は演奏が終了したと判定する。つまり、或る時間にわたって演奏データの受信入力が検出されない場合、処理手順はステップS18に進む。なお、伴奏データを自動再生し、メロディを演奏者に指定させる形態においては、伴奏データの自動再生が終了した時点で演奏が終了したと判断してステップS18に移行しても良い。つまり、演奏終了と制御部56が判断する理由はどのような理由であってもよい。要するに、制御部56が演奏終了を判断すると、処理手順をステップS18に移行すればよい。
【0053】
ステップS18において、制御部56は、演奏データ80aの解析結果を反映する第2画像を作成し、表示部52に表示出力する(ステップS18)。
【0054】
一方、ステップS17で演奏の終了が検出されなければ(ステップS17:NO)、処理手順はステップS11に戻る。ステップS11で演奏データの入力が有ると(ステップS11:YES)、処理手順は次のステップS12に移る。
【0055】
ステップS12において、制御部56は、演奏判定処理を実行する(ステップS12)。ステップS12において制御部56は、取得した演奏データに基づき、例えば、調(例えば、ハ長調~ロ短調の24種類)の判定、コード種別(例えば、Major、minor、sus4、aug、dim、7th等)の判定、及び、音高(例えば、ド、レ、ミ等)の判定等を行う。音高は、演奏データに含まれるノートナンバー等によって判定することができる。ここで判定された調は、第1画像や第2画像の背景色に反映される。
【0056】
次に制御部56は、非音楽的判定処理を行う(ステップS13)。「非音楽的判定」処理とは、端的に言えば、演奏操作が音楽的に適切であるか否かを判定する処理である。このステップでは「非音楽的判定値」というパラメータについてTrueまたはFalseでの判定がなされ、その結果が次のステップでの判定処理に渡される。
【0057】
次に制御部56は、「非音楽的判定値」がTrueであるか、またはFalseである以下を判定する(ステップS14)。FalseならばNOの判定がなされ、制御部56は、通常の第1画像を作成して表示部52に表示する(ステップS15)。TrueならばYESの判定がなされ、制御部56は、非音楽的描画を加えた第1画像を作成して表示部52に表示する(ステップS16)。
【0058】
図7Aは、音楽的でないと判定される余地のない演奏の譜例を示す。この譜例によれば、「非音楽的判定値」=Trueフラグが立つことが無く、対応する
図7Bの第1画像、および
図7Cの第2画像のように、否定的印象を与えるキャラクタ(第2キャラクタ)が含まれることがない。
【0059】
なお、
図7B、
図7Cに示される番号は、
図7Aの譜例の番号に対応する。つまり、
図7Aのドレミファ…の順に、花(1)、葉(2)、てんとう虫(3)、蝶々(4)、のキャラクターが配置されてゆく(第1画像)。演奏後の第2画像(
図7C)にも、これらのキャラクターがらせん状の軌道の上に配置されている。
【0060】
図8は、
図6の非音楽的判定処理(ステップS13)における処理手順の一例を示すフローチャートである。
図8において、先ず、制御部56は、音楽解析の結果に基づいてコード判定値が無効値であるか否かを判定する(ステップS21)。NOであれば、音楽性評価のためのパラメータとしてのNotMusicalCntに0を代入し、非音楽的判定値=Falseを出力する(ステップS25)。
一方、ステップS21でYESであれば、制御部56は、NotMusicalCntを1増加し(インクリメント)する(ステップS22)。次に、制御部56は、NotMusicalCntと既定のしきい値THとを比較し、NotMusicalCntがしきい値未満であれば(NO)、非音楽的判定値=Falseを出力する(ステップS25)。
一方、ステップS23でNotMusicalCntがしきい値以上であれば(YES)、非音楽的判定値=Trueを出力する(ステップS24)。つまり、演奏判定処理の出力結果のひとつであるコード判定値を参照し、無効値、つまりどのコードにも判定されなかったことが規定の回数(例えば、TH=10回)続いたならば、演奏操作が音楽的でないと判定される(判定処理1)。なお、TH=10に固定することなく、演奏者のレベルや演奏曲のレベルに応じてTH を変更できるようにしてもよい。
【0061】
図9Aは、音楽的でないと判定される余地を含む演奏の譜例を示す。この譜例によれば、押鍵のタイミングの全てで「非音楽的判定値」=Trueフラグが立ち、対応する
図9Bの第1画像、および
図9Cの第2画像は、やや否定的な印象を与えるキャラクタ(第2キャラクタ)が描画されることになる(非音楽的描画)。例えば花弁の数が減っていたり、枯れ葉が描かれていたりする。演奏者はこの絵の印象から、次はもっと良い演奏をしようという励みを得られる。
なお、非音楽的描画とは、実施形態において、従来の描画に変化を加えることで、音楽的には弾いていないことを目立たせる描画を意図する用語である。例えば、通常のキャラクターである花や葉に対して、同形のもので枯れた花や枯れ葉のキャラクターに差し替えることが想定される。このほか、元の状態から壊れていることがイメージできる描画であれば、例えば通常のキャラクターである花や葉に対して、同形のもので花びらや葉が部分的に千切れたキャラクターへの差し替え等でもよい(描画処理1)。
【0062】
以上述べたように、実施形態では、演奏データを音楽解析し、その結果に基づいて、演奏操作が音楽的に適切であるか、そうでないかを判定する。そして、演奏操作が音楽的に適切でないと判定されると、通常の第1キャラクタと比べて、比較的否定的な印象を与える第2キャラクタを差し替え、あるいは重ねて表示するようにした。
【0063】
既存の技術では、第1画像または第2画像を一見しただけでは、良好に演奏できたか否かについての判別が困難であった。これに対し実施形態によれば、良好に演奏できた場合は肯定的な絵が、そうでない場合はそれなりの絵が出力されるので、画像をみただけで、良好に演奏できたか否かについて容易に判別可能となる。
【0064】
このようにしたので、演奏者が音楽的でない弾き方をした場合に、その雰囲気を反映するような描画を実現できる。つまり、めちゃくちゃ弾きをしたときと真面目に弾いたときとで、一見して違いの分かる絵を作成することができる。すなわち実施形態によれば、音楽的なアプローチと、非音楽的なアプローチを区別して、音楽に合った絵を描くことで、新たな楽しさとモチベーションを提供することができる。
【0065】
これらのことから実施形態によれば、演奏の良否を画像でわかりやすく表現できるようになり、ユーザの練習意欲の向上に資するプログラム、電子機器、方法、および演奏データ表示システムを提供することが可能になる。ひいては、楽器を演奏したり、練習したりすることがさらに楽しくなる。
【0066】
[変形例]
図10は、
図6の非音楽的判定処理(ステップS13)における処理手順の他の例を示すフローチャートである。
図10において、先ず、制御部56は、隣り合う白鍵の5個以上の同時押しを判定する(ステップS31)。検出されなければ(NO)、非音楽的判定値=Falseを出力する(ステップS33)一方、ステップS31でYESであれば、制御部56は、非音楽的判定値=Trueを出力する(ステップS32)。
【0067】
つまり、音高データを参照し、隣り合う白鍵が同時に5鍵以上押鍵されているのを検出したら、非音楽的判定値=Trueが出力されるようにする。なお「同時」とは、例えば20ミリ秒[mS]以内とすればよい。あるいは、隣り合う黒鍵が同時に4鍵以上押鍵されていることを検出した場合にも、非音楽的判定値=Trueが出力されるようにするとよい(判定処理2)。このほか、同時に押された鍵盤が10鍵以上あり、かつ、そのコード判定値が無効であった場合に、非音楽的判定値=Trueが出力されるようにするとよい(判定処理3)。
【0068】
図11Aは、音楽的でないと判定される余地を含む演奏の譜例を示す。この譜例によれば、最後の二つの二分音符で、5鍵同時押しが検出される。ここで「非音楽的判定値」=Trueフラグが立ち、対応する
図11Bの第1画像、および
図11Cの第2画像に、否定的な印象を与えるキャラクタ(第2キャラクタ)が描画されることになる。ここでは
図5に示されるモザイク状のキャラクターが差し替え表示されている。
【0069】
図12Aは、音楽的でないと判定される余地を含む演奏の譜例を示す。この譜例によれば、三小節目の最初の二分音符で10鍵同時押しが検出され、次の二分音符で11鍵同時押しが検出される。ここで「非音楽的判定値」=Trueフラグが立ち、対応する
図12Bの第1画像、および
図12Cの第2画像に、さらに否定的な印象を与えるキャラクタ(第2キャラクタ)が描画されることになる。ここでは
図5に示される、塗りつぶしキャラクターが重ねて表示されている。
【0070】
なお、
図9B、
図11B、
図12Bにおける否定的な印象は、この順に強くなっている。
図9C、
図11C、
図12Cについても同様である。このような処理を行うため、複数のしきい値TH1、TH2を設定するとよい。例えば、コード判定の無効値の連続回数判定を数段階(例えば3段階)に分けて、それに応じて、差し替えるキャラクターを変更させてもよい。
【0071】
具体的には、例えばTH1 = 10, TH2 = 20, TH3 = 30 として
NotMusicalCnt >= TH1 ならば、枯れ具合1のキャラクターに差し替え、
NotMusicalCnt >= TH2 ならば、枯れ具合2のキャラクターに差し替え、
NotMusicalCnt >= TH3 ならば、枯れ具合3のキャラクターに差し替えるようにする。
枯れ具合1よりも枯れ具合2、枯れ具合3のキャラクターのほうが、より否定的な印象は強い。
【0072】
なお、本発明は、具体的な実施形態に限定されるものではなく、本発明の技術的範囲には、本発明の目的が達成される範囲での様々な変形や改良などが含まれるものであり、そのことは当業者にとって特許請求の範囲の記載から明らかである。
【0073】
<判定処理と描画の変形例1>
以下のような描画の変形例も考えられる(描画処理2)。
元のキャラクターに対して、以下のような画像処理を加える。または、画像処理を加えた画像を予め用意しておき、その画像に差し替える。
1.モザイク処理をかける。
2.画像を真二つに分け、少しずらす(ナイフ等で切られたイメージ)。
上記1と2の処理を両方かけてもよい。
<判定処理と描画の変形例2>
「元のキャラクターの描画領域の周辺」には、元のキャラクターの描画領域内も含む。
元のキャラクターを部分的に上書きするイメージである(描画処理3)。
複数の判定処理(判定処理1,2,3)と複数の描画処理(描画処理1,2,3)に対応関係を設け、非音楽的と判定されたら、対応する描画処理を全て実行するようにしてもよい。
【0074】
例えば、判定処理1に描画処理1を対応させ、判定処理2に描画処理2を対応させ、判定処理3に描画処理3を対応させる。そして、判定処理1で非音楽的と判定されたら、描画処理1を、判定処理2で非音楽的と判定されたら、描画処理2を、判定処理3で非音楽的と判定されたら、描画処理3をそれぞれ実行する。
【0075】
<判定処理と描画の変形例3>
複数の判定処理と描画処理にそれぞれ順位(小中大など)を設定して、複数の判定処理を全て実行し、その結果に応じて描画を変えるようにしてもよい。
【0076】
例えば、判定処理1を小、判定処理2を中、判定処理3を大に設定して、小のみで非音楽的と判定されたら、描画処理1を採用し、中で非音楽的と判定されたら(大は判定されず、小はどちらでもよい)、描画処理2を採用、大で非音楽的と判定されたら(小中はどちらでもよい)、描画処理3を採用する。
【0077】
あるいは、大で非音楽的と判定されたら、描画処理1~3を実行し、中で非音楽的と判定されたら、描画処理1、2を実行し、小で非音楽的と判定されたら、描画処理1を実行するようにしてもよい。
【0078】
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲のとおりである。
<請求項1>
情報処理装置のコンピュータに、
入力された演奏データに基づいて、演奏が音楽的に適切であるか否かを判定させ、
音楽的に適切と判定された場合に、第1画像データの表示を指示させ、
音楽的に不適切と判定された場合に、前記第1画像データと異なる態様の第2画像データの表示を指示させる、
プログラム。
<請求項2>
入力された演奏データから取得される音高データの組み合わせから、コードを判定させ、
コードが判定されない回数が設定された閾値未満の場合に、音楽的に適切と判定させ、
コードが判定されない回数が前記設定された閾値に達した場合に、音楽的に不適切と判定させる、
請求項1に記載のプログラム。
<請求項3>
或る音高データに、前記第1画像データ及び前記第2画像データを含む複数の画像データが、対応付けて記憶されており、
たとえ取得された音高データが同じであったとしても、音楽的に適切か否かの判定結果に応じて、表示を指示させる画像データの態様は異なる、
請求項1または2に記載のプログラム。
<請求項4>
入力された演奏データから取得される音高データの組み合わせから、互いに隣接する5鍵以上の白鍵の押鍵がなされたか否かを判定させ、
互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定されない場合に、演奏が音楽的に適切と判定させ、
互いに隣接する5鍵以上の白鍵の押鍵がなされたと判定された場合に、演奏が音楽的に不適切と判定させる、
請求項1乃至3のいずれかに記載のプログラム。
<請求項5>
演奏終了の判定に基づいて、演奏開始から演奏終了までの演奏全体の結果画像であって、前記第1画像データ及び前記第2画像データを含む結果画像の表示を指示させ、
前記結果画像に含まれる前記第1画像データ及び前記第2画像データの数は、演奏が音楽的に適切か否かの前記判定の結果に応じて、異なる、
請求項1乃至4のいずれかに記載のプログラム。
<請求項6>
ディスプレイ装置と、
プロセッサと、を備え、前記プロセッサが、
入力された演奏データに基づいて、演奏が音楽的に適切か否かを判定し、
音楽的に適切と判定された場合に、第1画像データの前記ディスプレイ装置への表示を指示し、
音楽的に不適切と判定された場合に、前記第1画像データと異なる態様の第2画像データの前記ディスプレイ装置への表示を指示する、
電子機器。
<請求項7>
情報処理装置のコンピュータに、
入力された演奏データに基づいて、演奏が音楽的に適切か否かを判定させ、
音楽的に適切と判定された場合に、第1画像データの表示を指示させ、
音楽的に不適切と判定された場合に、前記第1画像データと異なる態様の第2画像データの表示を指示させる、
方法。
<請求項8>
電子楽器と、ディスプレイ装置と、を備え、
前記電子楽器は、
ユーザによる演奏操作に応じて演奏データを生成するとともに、生成された前記演奏データを前記ディスプレイ装置に出力し、
前記ディスプレイ装置は、
入力された演奏データに基づいて、演奏が音楽的に適切か否かを判定し、
音楽的に適切と判定された場合に、第1画像データを表示し、
音楽的に不適切と判定された場合に、前記第1画像データと異なる態様の第2画像データを表示する、
演奏データ表示システム。
【符号の説明】
【0079】
1…デジタルキーボード、3…記憶装置、4…MIDI装置、10…鍵、20…表示部、30…操作部、40…発音部、42…スピーカ、51…操作部、52…表示部、53…通信部、54…音出力部、55…メモリ、56…制御部、57…バス、60…ROM、70…プログラム、70a…音楽解析ルーチン、70b…画像作成ルーチン、70c…画像作成ルーチン、70d…出力制御ルーチン、80…RAM、80a…演奏データ、80b…キャラクタデータ、80c…キャラクタデータ、80d…画像データ、80e…画像データ、90…通信部、101…鍵盤、105…RAM、106…ROM、111…CPU、201…CPU、202…ROM、203…RAM、204…音源、206…キースキャナ、207…LEDコントローラ、208…LCDコントローラ、209…システムバス、210…タイマ、211…D/Aコンバータ、212…D/Aコンバータ、213…ミキサ、214…アンプ、215…MIDIインタフェース、216…USBインタフェース、205…音声合成LSI。