(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022164934
(43)【公開日】2022-10-27
(54)【発明の名称】プログラム、方法、電子機器、および演奏データ表示システム
(51)【国際特許分類】
G10G 1/00 20060101AFI20221020BHJP
G10H 1/38 20060101ALI20221020BHJP
【FI】
G10G1/00
G10H1/38 Z
【審査請求】有
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022141104
(22)【出願日】2022-09-06
(62)【分割の表示】P 2019231895の分割
【原出願日】2019-12-23
(71)【出願人】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(72)【発明者】
【氏名】加福 滋
(72)【発明者】
【氏名】奥田 広子
(57)【要約】
【課題】演奏により作成された絵の色合いを変更できるようにすること。
【解決手段】本発明のプログラムは、情報処理装置に、入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定させ、決定された前記種別に応じた第1色を含む第1画像を生成させ、決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成させ、前記第1画像及び前記第2画像を表示装置に表示させる。
【選択図】
図3
【特許請求の範囲】
【請求項1】
情報処理装置に、
入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定させ、
決定された前記種別に応じた第1色を含む第1画像を生成させ、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成させ、
前記第1画像及び前記第2画像を表示装置に表示させる、
プログラム。
【請求項2】
前記属性は、前記種別として複数の調を含む調性であり、
前記第1画像及び前記第2画像を、いずれも入力された前記演奏データに基づいて生成させる、
請求項1に記載のプログラム。
【請求項3】
前記第1画像の背景色に前記第1色を含み、
前記第2画像の背景色に前記第2色を含む、
請求項1または2に記載のプログラム。
【請求項4】
前記表示装置に、少なくとも前記第1画像及び前記第2画像を含む複数の画像をサムネイル表示させる、
請求項1乃至3のいずれかに記載のプログラム。
【請求項5】
前記第1画像の指定に応じて、入力された前記演奏データを演奏装置に与えて演奏させ、
前記第2画像の指定に応じて、入力された前記演奏データに基づいて生成された第2演奏データであって、決定された前記種別とは異なる種別に応じた第2演奏データを前記演奏装置に与えて演奏させる、
請求項1乃至4のいずれかに記載のプログラム。
【請求項6】
情報処理装置に、
入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定させ、
決定された前記種別に応じた第1色を含む第1画像を生成させ、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成させ、
前記第1画像及び前記第2画像を表示装置に表示させる、
方法。
【請求項7】
表示装置と、
プロセッサと、を含み前記プロセッサが、
入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定し、
決定された前記種別に応じた第1色を含む第1画像を生成し、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成し、
前記第1画像及び前記第2画像の前記表示装置への表示を指示する、
電子機器。
【請求項8】
電子楽器と、表示装置と、を備え、
前記電子楽器は、
ユーザによる演奏操作に応じて演奏データを生成するとともに、生成された前記演奏データを前記表示装置に出力し、
前記表示装置は、
入力される前記演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定し、
決定された前記種別に応じた第1色を含む第1画像を生成し、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成し、
前記第1画像及び前記第2画像を表示する、
演奏データ表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム、方法、電子機器、および演奏データ表示システムに関する。
【背景技術】
【0002】
デジタルキーボードをはじめとする電子楽器は、プロセッサおよびメモリを備え、いわば鍵盤付きの組込みコンピュータといえる。USB(Universal Serial Bus)等のインタフェースでタブレット等の情報処理装置に接続し、多様な拡張機能を利用できる機種も知られている。例えば、電子楽器を演奏して発生するMIDI(Musical Instrument Digital Interface)データを解析し、演奏とともに変化する動画像や、演奏の内容を反映する静止画像(絵)を作成して表示する技術が、開発の途上にある(例えば、特許文献1を参照)。
【0003】
楽器演奏は練習が大変で、途中で飽きてしまって断念する人も多い。自分の演奏を録音し、どの部分が弾けなかったかを確認するというのはある程度弾けるようになってからの話であって、その前にあきらめてしまう人が多い。このような人達にも練習の意欲を高めてもらうために、視覚的な効果を利用する技術に注目が集まっている。
【先行技術文献】
【特許文献】
【0004】
【非特許文献】
【0005】
【非特許文献1】“Music Tapestry”,[online],[令和1年11月20日検索],インターネット,<URL:https://news.mynavi.jp/article/20190724-casio_music_tapestry/>
【発明の概要】
【発明が解決しようとする課題】
【0006】
演奏により絵を作成する技術では、演奏中の曲の調(Key)に合わせて選択された色の背景に、音符に対応するキャラクターを並べて一枚の絵とするのが基本である。背景色は、例えばスクリャービンで知られる音と色との共感覚の関係を応用して、ハ長調は赤色、ト長調は青色というように、音楽解析による調の判定結果に対応付けて決められる。
【0007】
しかしながら、ユーザ(演奏者など)が、出来上がった絵に必ずしも満足するとは限らない。絵の色調は、理屈の上では調に合ったものであるとはいえ、その色を演奏者が好きとは限らないからである。既存の技術では、できあがった絵の背景色を変更できないことから、演奏者の興味がダウンしてしまうこともあった。
【0008】
本発明はこのような事実に鑑みなされたもので、その目的は、演奏により作成された絵の色合いを変更できるようにし、これによりユーザの興味を喚起し得るプログラム、方法、電子機器、および演奏データ表示システムを提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明の一実施形態であるプログラムは、情報処理装置に、入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定させ、決定された前記種別に応じた第1色を含む第1画像を生成させ、決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成させ、前記第1画像及び前記第2画像を表示装置に表示させる。
【発明の効果】
【0010】
本発明によれば、例えば、演奏により作成された絵の色合いを変更でき、ユーザの興味を喚起し得るプログラムを提供することができる。
【図面の簡単な説明】
【0011】
【
図1】
図1は、第1実施形態に係わる情報処理装置TBがデジタルキーボード1に接続された状態を示す図である。
【
図2】
図2は、実施形態に係るデジタルキーボード1の一例を示すブロック図である。
【
図3】
図3は、情報処理装置TBの一例を示す機能ブロック図である。
【
図4】
図4は、情報処理装置TBの処理手順の一例を示すフローチャートである。
【
図6】
図6は、静止画像に表示される印刷アイコンの例を示す図である。
【
図7】
図7は、フレーム画像の一例を示す図である。
【
図8A】
図8Aは、再生/編集/印刷/設定モードにおける処理手順の一例を示すフローチャートである。
【
図8B】
図8Bは、再生/編集/印刷/設定モードにおける処理手順の一例を示すフローチャートである。
【
図9】
図9は、”<”、または”>”マークがタップされたときの表示部52における画面遷移の一例を示す図である。
【
図10】
図10は、”∧”マークがタップされたときに表示される設定画面の一例を示す図である。
【
図11】
図11は、”V”マークがタップされたときに表示されるトランスポーズ設定画面の一例を示す図である。
【
図12】
図12は、第1画像のサムネイル画像の一例を示す図である。
【
図13】
図13は、フレーム画像のサムネイル画像の一例を示す図である。
【
図14】
図14は、静止画像に表示される印刷アイコンの例を示す図である。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して、本発明に係る第1実施形態の情報処理装置TBについて説明する。
<構成>
図1は、第1実施形態の情報処理装置TBがデジタルキーボード1に接続された状態を示す図である。デジタルキーボード1は、例えば、電子ピアノ、シンセサイザー、あるいは電子オルガン等の電子鍵盤楽器である。
図1に示すように、デジタルキーボード1は、複数の鍵10と、表示部20と、操作部30と、譜面台MSとを備える。
図1に示されるように、デジタルキーボード1に接続された情報処理装置TBを、譜面台MSに載置することができる。
【0013】
鍵10は、演奏者が音高を指定する操作子であり、演奏者が鍵10を押鍵及び離鍵することで、デジタルキーボード1は、指定された音高に対応する音の発音及び消音を行う。
【0014】
表示部20は、例えば、タッチパネル付きの液晶モニタ(Liquid Crystal Display:LCD)を有し、演奏者の操作部30の操作に伴うメッセージの表示等を行う。なお、本実施形態では、表示部20がタッチパネル機能を有しているため、表示部20は、操作部30の一端を担うことができるようになっている。
【0015】
操作部30は、演奏者が各種の設定等を行う操作ボタンを有し、音量調整等の各種の設定操作等を行うための部分である。
発音部40は、音を出力する部分であり、スピーカ42やヘッドフォンアウト等の出力部を有する。
図2は、実施形態に係るデジタルキーボード1の一例を示すブロック図である。デジタルキーボード1は、USBインタフェース(I/F)216、RAM(Random Access Memory)203、ROM(Read Only Memory)202、表示部20、LCDコントローラ208、LED(Light Emitthing Diode)コントローラ207、鍵盤101、操作部30、キースキャナ206、MIDIインタフェース(I/F)215、システムバス209、CPU(Central Processing Unit)201、タイマ210、音源204、デジタル/アナログ(D/A)コンバータ211、ミキサ213、D/Aコンバータ212、音声合成LSI205、および、アンプ214を備える。音源204、音声合成LSI205は、例えばDSP(Digital Signal Processor)として実現される。
【0016】
CPU201、音源204、音声合成LSI205、USBインタフェース216、RAM203、ROM202、LCDコントローラ208、LEDコントローラ207、キースキャナ206、およびMIDIインタフェース215は、システムバス209に接続される。
【0017】
CPU201は、デジタルキーボード1を制御するプロセッサである。すなわちCPU201は、ROM202に記憶されたプログラムを、ワーキングメモリとしてのRAM203に読み出し、実行して、デジタルキーボード1の各種の機能を実現する。CPU201は、タイマ210から供給されるクロックに従って動作する。クロックは、例えば自動演奏、自動伴奏のシーケンスを制御するために用いられる。
【0018】
ROM202は、プログラム、各種設定データ、自動伴奏データ等を記憶する。自動伴奏データは、予めプリセットされたリズムパターン、コード進行、ベースパターン、あるいはオブリガード等のメロディデータ等を含んでよい。メロディデータは、各音の音高情報、各音の発音タイミング情報等を含んでよい。
【0019】
各音の発音タイミングは、各発音間の間隔時間でもよく、自動演奏曲の開始時からの経過時間であっても良い。時間の単位にはtickが用いられることが多い。tickは、一般的なシーケンサで用いられる、曲のテンポを基準とする単位である。例えば、シーケンサの分解能が480であれば、4分音符の時間の1/480が1tickとなる。
【0020】
自動伴奏データは、ROM202に限らず、図示しない情報記憶装置や情報記憶媒体に記憶されていても良い。自動伴奏データのフォーマットは、MIDI用のファイルフォーマットに準拠してもよい。
【0021】
音源204は、例えばGM(General MIDI)規格に準拠する、いわゆるGM音源である。この種の音源は、MIDIメッセージとしてのプログラムチェンジを与えれば音色を変更できるし、コントロールチェンジを与えれば既定のエフェクトを制御することができる。
【0022】
音源204は、例えば同時に最大256ボイスを発音する能力を有する。音源204は、例えば波形ROM(図示せず)から楽音波形データを読み出し、デジタル楽音波形データとしてD/Aコンバータ211に出力される。D/Aコンバータ211は、デジタル楽音波形データをアナログ楽音波形信号に変換する。
【0023】
音声合成LSI205は、CPU201から、歌詞のテキストデータと音高に関する情報を歌声データとして与えられると、それに対応する歌声の音声データを合成し、D/Aコンバータ212に出力する。D/Aコンバータ212は、音声データをアナログ音声波形信号に変換する。
【0024】
ミキサ213は、アナログ楽音波形信号、およびアナログ音声波形信号をミックスし、出力信号を生成する。この出力信号はアンプ214で増幅され、スピーカ42、あるいはヘッドフォンアウトなどの出力端子から出力される。
【0025】
キースキャナ206は、鍵盤101の押鍵/離鍵状態、操作部30のスイッチ操作状態を定常的に監視する。そして、キースキャナ206は、鍵盤101、操作部30の状態をCPU201に伝える。
【0026】
LEDコントローラ207は、例えばIC(Integated Circuit)である。LEDコントローラ207は、CPU201からの指示により鍵盤101の鍵を光らせて、演奏者の演奏をナビゲートする。LCDコントローラ208は、表示部20の表示状態を制御するICである。
【0027】
MIDIインタフェース215は、MIDI装置4等の外部装置からのMIDIメッセージ(演奏データ等)を入力したり、MIDIメッセージを外部装置に出力したりする。デジタルキーボード1は、例えばUSB(Universal Serial Bus)等のインタフェースを用いて、外部装置とMIDIメッセージやMIDIデータファイルを授受することが可能である。受信されたMIDIメッセージは、CPU201経由で音源204に渡される。音源204は、MIDIメッセージで指定された音色、音量、タイミング等に従って音を鳴らす。
【0028】
情報処理装置TBが、USBインタフェース216経由でシステムバス209に接続される。情報処理装置TBは、デジタルキーボード1が演奏されることで発生したMIDIデータ(演奏データ)を、USBインタフェース216経由で取得することができる。
さらに、図示しない記憶メディア等も、USBインタフェース216経由でシステムバス209に接続されても良い。記憶装置3としては、例えば、USBメモリ、フレキシブルディスクドライブ(FDD)、ハードディスクドライブ(HDD)、CD-ROMドライブ及び光磁気ディスク(MO)ドライブ等が挙げられる。ROM106にプログラムが記憶されていない場合には、記憶メディアにプログラムを記憶させておき、それをRAM105に読み込むことにより、ROM106にプログラムを記憶している場合と同様の動作をCPU111に実行させることができる。
【0029】
図3は、情報処理装置TBの一例を示す機能ブロック図である。実施形態の情報処理装置TBは、例えばタブレット型の情報端末であり、後述するような画像を表示部52に表示させるためのアプリケーションがインストールされている。なお、情報処理装置TBは、タブレット型の携帯端末に限定される必要はなく、ノートパソコンPC等であってもよい。また、情報処理装置TBは、デジタルキーボード1からMIDIデータを受信して曲データを再生させるシーケンサ等を備えていてもよい。
【0030】
情報処理装置TBは、主に、操作部51と、表示部52と、通信部53と、音出力部54と、制御部56(CPU)と、メモリ55と、を備える。各部(操作部51、表示部52、通信部53、音出力部54、制御部56及びメモリ55)は、バス57で通信可能に接続されており、各部間で必要なデータのやり取りが行えるようになっている。
【0031】
操作部51は、例えば、電源のON/OFFを行うための電源スイッチ等のスイッチ類を含む。表示部52は、タッチパネル付きの液晶モニタを有し、画像を表示する。表示部52はタッチパネル機能も有するので、操作部51の一端を担うことができる。
【0032】
通信部53は、他の機器等との間で通信を行うための無線ユニットや有線ユニットを備える。実施形態では、例えばUSBケーブル等を介してデジタルキーボード1に有線接続され、これにより情報処理装置TBは、デジタルキーボード1との間で各種のディジタルデータを授受することができる。
【0033】
音出力部54は、スピーカーやイヤホンジャック等を備え、アナログの音声や楽音を再生出力したり、オーディオ信号を出力する。
【0034】
制御部56は、CPU等のプロセッサを備え、情報処理装置TBの制御を司る。制御部56のCPUは、メモリ55に記憶されている制御プログラムやインストールされたアプリケーションに従って、各種の処理等を実行する。
【0035】
メモリ55は、ROM60およびRAM80を備える。
ROM60は、例えば、制御部56が実行するプログラム70や各種データテーブル等を記憶している。
【0036】
RAM80は、プログラム70を動作させる上で必要なデータを記憶する。またRAM80は、制御部56が作成するデータ、デジタルキーボード1から送られたMIDIデータ、及び、アプリケーションを展開させるための一時記憶領域等としても機能する。実施形態においては、RAM80は、MIDIデータとしての演奏データ80aに加えて、この演奏データ80aに由来する第1画像データ80b、および、第2画像データ80cを記憶する。
【0037】
ところで、実施形態において、プログラム70は、音楽解析ルーチン70a、第1画像作成ルーチン70b、第2画像作成ルーチン70c、および、出力制御ルーチン70dを備える。
【0038】
音楽解析ルーチン70aは、入力された演奏データ80aに基づいて、複数の種別を含む属性についていずれか1つの種別を、制御部56に決定させる。すなわち音楽解析ルーチン70aは、演奏データ80aを音楽解析し、演奏データ80aに基づいて曲の調を決定する。
【0039】
ここで、調性(Tonality)、および調(Key)について以下のように区別する。調性とは、曲の属性の一つとして理解することができ、複数の調を含む。調とは、ハ長調(C)、ニ短調(Dm)、変ロ長調(B♭)、…などの、いわゆる曲のキーである。調は、調性に含まれる複数の種別として捉えられる。
属性としては、調性のほかに、例えばリズム、テンポ、形式(ロンド、ソナタなど)等を挙げることができる。
【0040】
なお、調性やコード種別等を判定するための手法は、特に限定されるものではないが、例えば、特許第3211839号明細書等に開示された手法を用いることができる。
【0041】
第1画像作成ルーチン70bは、演奏データ80aに応じた画像であって、上記決定された調に応じた色を例えば背景色として含む第1画像を、制御部56に生成させる。実施形態における第1画像は、演奏終了後に生成される、当該演奏された曲の調にマッチした背景色の静止画像である。生成された第1画像データはRAM80に記憶される(第1画像データ80b)。
なお、特許文献1に開示される『第1画像』は、演奏中にリアルタイム表示される動画像、またはその1フレーム(最終フレームなど)の画像に対応し、本実施形態における[第1画像]とは異なる。また、特許文献1に開示される『第2画像』は演奏終了後に生成される静止画像に対応し、本実施形態の[第1画像]に相当する。
【0042】
本実施形態における[第2画像]は、音楽解析ルーチン70aにより決定された調とは異なる調に応じた色を例えば背景色として含む画像である。つまり[第2画像]は、[第1画像]とは異なる背景色を持つ、11個の画像群である。
【0043】
第2画像作成ルーチン70cは、演奏データ80aを移調(トランスポーズ)して新たな演奏データを作成し、この新たな演奏データを音楽解析した結果に基づく第2画像を、制御部56に生成させる。つまり第2画像作成ルーチン70cは、実際に演奏された調とは異なる調に対応する背景色の第2画像を生成する。
【0044】
[第2画像]も、演奏終了後の静止画像である点では[第1画像]と同様である。ただし、第2画像の背景色は演奏された曲の調とはマッチしていなく、他の調の背景にマッチした色である。すなわち第2画像は、第1画像の由来となった演奏データをトランスポーズして得られる11個の調のそれぞれに対応する演奏データに基づいて作成された、画像データである。生成された第2画像データはRAM80に記憶される(第2画像データ80c)。
【0045】
第1画像データ80b、第2画像データ80cのいずれも、演奏データ80aに基づいて、例えば特許文献1に開示される技術を利用して作成することができる。ちなみに、12音平均律のもとでは長調、短調のいずれも12種類あり、合わせて24個の調がある。このうち平行調の関係にある長調、短調(例えばハ長調とイ短調)には同じ背景色を適用する場合、背景色は12種類となる。
【0046】
出力制御ルーチン70dは、作成された第1画像、および第2画像を、制御部56に、表示装置としての表示部52に表示させる。
【0047】
<作用>
次に、上記構成における作用を説明する。以下では、情報処理装置TBの通信部53とデジタルキーボード1の通信部90とが有線接続されているとして説明する。また、画像を表示部52に表示させるためのアプリケーションが情報処理装置TBで起動されているとする。
【0048】
図4は、情報処理装置TBの処理手順の一例を示すフローチャートである。
図4において、情報処理装置TBの制御部56(CPU)は、デジタルキーボード1からの演奏データの送信を待ち受ける(ステップS1)。演奏データの入力が無ければ(ステップS1:NO)、制御部56は、演奏終了判断処理を行う(ステップS4)。
【0049】
ステップS4において、演奏データの入力無しで所定の時間が経過すると(ステップS4:YES)、制御部56は演奏が終了したと判定する。つまり、或る時間にわたって演奏データの受信入力が検出されない場合、処理手順はステップS5に進む。なお、伴奏データを自動再生し、メロディを演奏者に指定させる形態においては、伴奏データの自動再生が終了した時点で演奏が終了したと判断してステップS5に移行しても良い。つまり、演奏終了と制御部56が判断する理由はどのような理由であってもよい。要するに、制御部56が演奏終了を判断すると、処理手順をステップS5に移行すればよい。
【0050】
ステップS5において、制御部56は、演奏データ80aの解析結果を反映する静止画像を作成し、表示部52に表示出力する(ステップS5)。この静止画像が、この実施形態における第1画像である。
【0051】
図5は、静止画像の一例を示す図である。実施形態においては、画像そのものに操作アイコン(ウィジェット)を重ねて表示する。
図5の静止画像の中央には、”再生(右向き黒塗り矢印)”マークが表示され、上下左右にそれぞれ”∧”、”V”、”<”、”>”のマークが表示される。いずれのマークも表示部52のタッチパネルでオン(タップ)することができ、ユーザの意思をシステムに伝えるためのインタフェースである。例えば”<”または”>”は、表示中の静止画像をインクリメントさせるために用いることができる。あるいは、表示中の静止画像を切り替えるためにも用いることができる。
【0052】
図6は、”再生”マークに代えて、印刷のためのアイコン(印刷マーク)が中央に表示された静止画像を示す。印刷マークは、ユーザにより好みの静止画像が選択されてから少し時間が経つと表示される。印刷マークがタップされると印刷モードに移行する。
【0053】
図7は、静止画像の他の例を示す図である。例えば演奏とともに表示部52(
図3)にリアルタイム表示される動画像のうちの1フレーム(最終フレーム等)を取り出して、静止画像とすることもできる。このようにして作成された画像を[フレーム画像]と称することにする。つまりフレーム画像は、演奏が終わってから第1画像が表示されるまでの間に表示されている画像といえる。
図5~
図7に表示される”再生”、および”∧”、”V”、”<”、”>”の各マークは、編集モードに移行するために用いられることができる。
【0054】
再び
図4に戻って説明を続ける。
図4において、演奏の終了が検出されなければ(ステップS4:NO)、処理手順はステップS1に戻る。ステップS1で演奏データの入力が有ると(ステップS1:YES)、処理手順は次のステップS2に移る。
【0055】
ステップS2において、制御部56は、演奏判定処理を実行する(ステップS2)。ステップS2において制御部56は、取得した演奏データに基づき、例えば、調(例えば、ハ長調~ロ短調の24種類)の判定、コード種別(例えば、Major、minor、sus4、aug、dim、7th等)の判定、及び、音名(例えば、ド、レ、ミ等)の判定等を行う。音名は、演奏データに含まれるノートナンバー等によって判定することができる。ここで判定された調は、ステップS5で生成される第1画像(静止画像)の背景色に反映される。
【0056】
なお、演奏判定処理としては、調性の判定、コード種別の判定及び音名の判定のうちのいずれかを行うものとしてもよい。逆に、それらに加え、例えば、シンコペーション、コード進行等と言ったものの判定を行うようにしてもよい。
【0057】
演奏判定処理を終えると、制御部56は、演奏データを受信したタイミングに合せて、演奏データに応じた動画像を表示部52に出力して表示する(ステップS3)。なお、演奏データを受信したタイミングに合せてとは、時間的に同時を意味するものではなく、演奏データを受信する毎に、と理解される。
【0058】
例えば、基礎となる画像(基礎画像)をメモリ55に予め記憶させ、コンピュータグラフィックス(CG)により基礎画像を加工して動画像を作成し、表示部52に表示させることができる。これに限らず、表示部52に表示させる第1画像は、要するに演奏データに応じた動画像であればよい。
【0059】
さて、ステップS5が完了すると、制御部56は、再生/編集/印刷/設定モードへの移行を待ち受ける(ステップS6)。すなわち、
図5~
図7のいずれかの画像が表示されている状態から”∧”、”V”、”<”、”>”の各マーク、あるいは印刷マークがタップされると(ステップS6:YES)、制御部56は、情報処理装置TBを再生/編集/印刷/設定モードに移行させる(ステップS7)。
【0060】
図8A、および
図8Bは、再生/編集/印刷/設定モードにおける処理手順の一例を示すフローチャートである。
図8Aにおいて、制御部56は、鍵盤101(
図2)のいずれかの鍵が押鍵されたかどうかをチェックする(ステップS11)。押鍵があれば(YES)、演奏待機状態に入り、呼び出し元、つまり
図4の処理手順に戻る(RETURN)。押鍵が無ければ(NO)、制御部56は、
図5の画面において”再生”マークがタップされたかどうかを判定する(ステップS12)。YESならば、処理手順は再生処理にジャンプして(ステップS15)、RAM80(
図3)に記憶された演奏データ80aに基づく演奏が開始される。このような手順により、フレーム画像からの曲再生が可能となる。
【0061】
次に、制御部56は、
図5の画面において”<”、または”>”マークがタップされたかどうかを判定する(ステップS13)。
図9は、”<”、または”>”マークがタップされたときの表示部52における画面遷移の一例を示す図である。
図8AのステップS13において、”>”がタップされると、インクリメント方向、つまり
図9の矢印の方向に画面が一つずつ遷移する(ステップS16)。”<”がタップされるとデクリメント方向(逆方向)に画面が遷移する(ステップS16)。
図9に示されるように、複数の曲に対応する画像がサイクリックに(繰り返し)表示される。
図9に示されるのは過去に演奏された4曲分の画像データで、曲ごとに[フレーム画像]と[第1画像]とがセットになっている。
【0062】
次に制御部56は、鍵が押鍵されたかどうかをチェックして(ステップS17)、押鍵があれば(YES)、演奏待機状態に入って呼び出し元の処理手順(
図4)に戻る(RETURN)。押鍵が無ければ(NO)、制御部56は”再生”マークがタップされたかどうかを判定し(ステップS18)、YESならば、処理手順は再生処理にジャンプする(ステップS19)。このような手順により、その時までにRAM80記憶された演奏データ80a、および画像データ80bを選択し、再生することが可能となる。
【0063】
一方、ステップS13でNOならば、制御部56は、”∧”マークがタップされたか否かを判定し(ステップS14)、YESならば設定画面が表示される(ステップS20)。
図10は、”∧”マークがタップされたときに表示される設定画面の一例を示す図である。設定内容は、例えば演奏する曲の難易度、ご褒美の絵(ブーケ、アブストラクト、キッズ)の設定やその出現比率、ご褒美の有無などがある。また、全体的な音楽解析に関する部分と評価の部分、および、どのようなタイプの絵(キャラクター)を使うかなど、表現に関する部分の詳細を設定することができる。
【0064】
設定画面が表示された後でも、制御部56は、鍵が押鍵されたかどうかをチェックして(ステップS21)、押鍵があれば(YES)呼び出し元の処理手順(
図4)に戻る(RETURN)。押鍵が無ければ(NO)、制御部56はキャンセルボタン(
図10)がタップされたか否かを判定し(ステップS22)、YESならば初期画面(
図5)に戻ってステップS11からの手順が再び繰り返される。
【0065】
ステップS22でNOならば、制御部56はOKボタンがタップされたか否かを判定し(ステップS23)、YESならば設定内容がシステムに反映される(ステップS24)。NOならば処理手順は再びステップS21に戻る。このような手順により、表現、評価、音楽解析などの様々な設定を変更することができる。
【0066】
図8Bは、
図8AのステップS14でNOを判定された場合のジャンプ先となる処理手順を示す。
図8のステップS25において、制御部56は、”V”マークがタップされたか否かを判定し(ステップS25)、YESならばトランスポーズ設定画面が表示される(ステップS28)。
図11は、”V”マークがタップされたときに表示されるトランスポーズ設定画面の一例を示す図である。演奏された曲のキー(オリジナルKey)に対応する色の第1画像と、他の11のキーに対応する色の第1画像とを合わせて12個の画像が、この画面にサムネイル表示される。この画面が表示される前に演奏された曲のキーがC(Key=C)ならば、Cのサムネイル画像が四角い枠(カーソル)で囲って強調表示される。カーソルは”∧”、”V”、”<”、”>”の各マークで移動させることができ、ユーザの好みの画像を選択することができる。
【0067】
図12に示されるように、サムネイル画像は、ステップS5(
図4)で生成される第1画像(静止画像)に対応する画像群であってよい。なおサムネイル表示において平行調の関係にある長調/短調をまとめて1つの縮小画像にしているので、全キー分の画像は12個になる。
図5の”<”または”>”で好みの絵を選んでから”V”をタップすると、
図11の画面になる。
図11は、
図12のサムネイル画像のうち、
図5で選択された画像にフォーカスを当てたものといえる。
【0068】
図13に示されるように、サムネイル画像は、各キーに対応するフレーム画像を縮小した画像群であっても良い。
図7の”<”または”>”で好みの絵を選んでから”V”をタップすると、フレーム画像に対応するトランスポーズ設定画面になる。つまり
図13のサムネイル画像と、
図11の右の各ボタンとが同じ画面に表示される。
【0069】
好みの絵を指定する際に、第1画像を見たい場合もあれば、演奏直後のフレーム画像を見たい人もいる。いずれの画像からも、”V”をタップして、トランスポーズ設定画面を表示することができる。
【0070】
図8Bに戻って説明を続ける。ステップS28の次に、制御部56は、
図13に示されるような、オリジナルキーであるC、および他のキーにトランスポーズ(移調)した全ての調のサムネイル画像を表示する(ステップS29)。
図13において、Cの画像にカーソルが当たっているので(フォーカスされているので)、オリジナルキーが選択されていることが分かる。”<”または”>”をタップして他のキーを選択すると、Keyが変更されて他のキーが選択される。
【0071】
次に、制御部56は、印刷オンか否かを判定する(ステップS30)。これは、
図13の[このKeyで印刷する]ボタンがタップされたか否かの判定である。YESならば、制御部56は、選択されたKeyの画像を印刷用のバッファに登録し(ステップS34)、処理手順は印刷設定画面にジャンプして印刷が実行される(ステップS39)。このようにして、ユーザの好みの色合いの画像が印刷される。しかもその画像は演奏の内容を反映したものになっている。
【0072】
演奏データ80aがMIDIデータであるので、全調でトランスポーズして画像に展開することはCPUの計算により十分に可能である。出力制御ルーチン70d(
図3)が、オリジナルキーのMIDIデータを他の調に移調し、第2画像作成ルーチン70cが、移調されたMIDIデータに基づいて第2画像、あるいはフレーム画像を作成する。移調されたMIDIデータ、および作成された第2画像データは、RAM80(
図3)に記憶される。
【0073】
ステップS30でNOならば、制御部56は、演奏を聞いてみるかどうかを判定する(ステップS31)。これは、
図13の[このKeyで聴いてみる]ボタンがタップされた否かの判定である。YESならば、制御部56は、Keyの変更の有無を判定し(ステップS35)、変更があれば(YES)、選択されたKeyでMIDIデータを再生する(ステップS36)。
図13のトランスポーズ画面で色々な調で聴き比べることもできる。Keyの変更が無ければ(ステップS35:NO)、オリジナルキーのMIDIデータが再生される(ステップS37)。
【0074】
ステップS31でNOならば、制御部56は、Keyの変更の有無を判定する(ステップS32)。ここでYESならば、制御部56は、現在のKey表示、およびカーソルの位置を変更する(ステップS38)。
図11のキャンセルボタンがタップされると、編集モードから抜けて、トランスポーズ設定画面から
図5または
図7の画面に戻る。トランスポーズした画像と移調した演奏を保存する場合には、
図7に戻る際に、トランスポーズされた状態のフレーム画像に戻るようにすればよい。
【0075】
このようにして、オリジナル調の画像のもとになったMIDIデータをトランスポーズすることにより、調に合う色と音の関係を崩すことなく、各調の背景色に合う全ての絵を表示することができる。また、トランスポーズしたKeyでの再生を可能にすることにより、演奏者の求める絵を提供することができる。
【0076】
さらに説明を続ける。ステップS25でNOならば、制御部56は、印刷アイコン(
図6)が表示されているとき、これがタップされたか否かを判定する(ステップS26)。YESならば、処理手順は印刷設定画面の表示にジャンプして印刷が実行される(ステップS39)。
【0077】
図15、および
図16は、印刷設定画面の一例を示す図である。
図15はプリントされる絵に表示される項目を決めるためのもので、任意の項目をチェックボックスで選択できるようになっている。演奏者の名前、あるいは曲名が選択されると
図16のGUI(Graphical User Interface)が表示され、文字を入力できるようになっている。日付や曲の長さ、調などが選択されると、これらの項目は自動で印刷される。
【0078】
制御部56は、印刷設定の変更の有無を判定し(ステップS40)、変更があれば(YES)、変更設定を保存して(ステップS41)、バッファされた画像データに変更された情報を重ねて印刷する(ステップS43)。変更が無ければ(ステップS40:NO)、制御部56はデフォルト設定を採用し(ステップS42)、処理手順はステップS43に移る。印刷が完了すると
図4の呼び出し元の処理手順に戻る(RETURN)。
【0079】
なお、ステップS26でNOならば、制御部56は、鍵が押鍵されたかどうかをチェックして(ステップS27)、押鍵があれば(YES)呼び出し元の処理手順(
図4)に戻る(RETURN)。押鍵が無ければ(NO)処理手順は再び
図8AのステップS11に戻る。
【0080】
以上説明したように、実施形態では、オリジナルの調の絵のMIDIデータを移調(トランスポーズ)して、調に合う色と音の関係は崩すことなく、Key選択によりそれぞれの調の背景色に合う絵をすべて表示できるようにした。また、移調したMIDIデータにより、トランスポーズしたKeyでの再生を行えるようにした。このようにすることで、音と色との相関の一貫性を保ったまま、演奏者のニーズに合う絵を提供することが可能になる。
【0081】
移調されたMIDIデータにより作成したイメージをサムネイル表示し、ユーザ、は好きな絵を印刷することができる。演奏で作成される絵の色合いは音楽解析で決定されるが、他の調だとどんな色合いになるのかに興味を持つユーザは多い。単に色を変えるのではなく、実施形態ではトランスポーズされたKeyで聴くことも可能であり、音と色の相関は一貫しているので混乱を生じないというメリットがある。
【0082】
また実施形態では、演奏から作成された最終画面(第1画像、またはフレーム画像)に4つの方向アイコンと中央のアイコンを設け、簡単な操作で曲の選択、再生、トランスポーズによる絵の選択と再生、印刷、様々な解析や表現の設定などを実施できるようにした。従って、曲の再生、選択、トランスポーズによる絵の編集、印刷、様々な解析や表現の設定などをわかりやすく、簡単に編集することができる。
【0083】
これらのことから実施形態によれば、演奏により作成された絵の色合いを変更できるようになり、これによりユーザの興味を喚起し得るプログラム、方法、電子機器、および演奏データ表示システムを提供することが可能になる。ひいては、楽器を演奏したり、練習したりすることがさらに楽しくなる。
【0084】
なお、本発明は、具体的な実施形態に限定されるものではない。例えば実施形態では、情報処理装置TBとして、デジタルキーボード1とは別体の、タブレット型の携帯端末を想定した。これに限らず、デスクトップ型、またはノート型のコンピュータを用いても良い。あるいは、デジタルキーボード1自体が情報処理装置の機能を兼ね備えていてもよい。また、本発明の技術的範囲には、本発明の目的が達成される範囲での様々な変形や改良などが含まれるものであり、そのことは当業者にとって特許請求の範囲の記載から明らかである。
【0085】
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。
付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲のとおりである。
<請求項1>
情報処理装置に、
入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定させ、
決定された前記種別に応じた第1色を含む第1画像を生成させ、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成させ、
前記第1画像及び前記第2画像を表示装置に表示させる、
プログラム。
<請求項2>
前記属性は、前記種別として複数の調を含む調性であり、
前記第1画像及び前記第2画像を、いずれも入力された前記演奏データに基づいて生成させる、
請求項1に記載のプログラム。
<請求項3>
前記第1画像の背景色に前記第1色を含み、
前記第2画像の背景色に前記第2色を含む、
請求項1または2に記載のプログラム。
<請求項4>
前記表示装置に、少なくとも前記第1画像及び前記第2画像を含む複数の画像をサムネイル表示させる、
請求項1乃至3のいずれかに記載のプログラム。
<請求項5>
前記第1画像の指定に応じて、入力された前記演奏データを演奏装置に与えて演奏させ、
前記第2画像の指定に応じて、入力された前記演奏データに基づいて生成された第2演奏データであって、決定された前記種別とは異なる種別に応じた第2演奏データを前記演奏装置に与えて演奏させる、
請求項1乃至4のいずれかに記載のプログラム。
<請求項6>
情報処理装置に、
入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定させ、
決定された前記種別に応じた第1色を含む第1画像を生成させ、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成させ、
前記第1画像及び前記第2画像を表示装置に表示させる、
方法。
<請求項7>
表示装置と、
プロセッサと、を含み前記プロセッサが、
入力された演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定し、
決定された前記種別に応じた第1色を含む第1画像を生成し、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成し、
前記第1画像及び前記第2画像の前記表示装置への表示を指示する、
電子機器。
<請求項8>
電子楽器と、表示装置と、を備え、
前記電子楽器は、
ユーザによる演奏操作に応じて演奏データを生成するとともに、生成された前記演奏データを前記表示装置に出力し、
前記表示装置は、
入力される前記演奏データに基づいて、複数の種別を含む属性についていずれか1つの種別を決定し、
決定された前記種別に応じた第1色を含む第1画像を生成し、
決定された前記種別とは異なる種別に応じた第2色を含む第2画像を生成し、
前記第1画像及び前記第2画像を表示する、
演奏データ表示システム。
【符号の説明】
【0086】
1…デジタルキーボード、3…記憶装置、4…MIDI装置、10…鍵、20…表示部、30…操作部、40…発音部、42…スピーカ、51…操作部、52…表示部、53…通信部、54…音出力部、55…メモリ、56…制御部、57…バス、60…ROM、70…プログラム、70a…音楽解析ルーチン、70b…画像作成ルーチン、70c…画像作成ルーチン、70d…出力制御ルーチン、80…RAM、80a…演奏データ、80b…第1画像データ、80c…第2画像データ、90…通信部、101…鍵盤、105…RAM、106…ROM、111…CPU、201…CPU、202…ROM、203…RAM、204…音源、206…キースキャナ、207…LEDコントローラ、207…コントローラ、208…LCDコントローラ、209…システムバス、210…タイマ、211…D/Aコンバータ、212…D/Aコンバータ、213…ミキサ、214…アンプ、215…MIDIインタフェース、216…USBインタフェース、205…音声合成LSI。
【手続補正書】
【提出日】2022-09-20
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】0009
【補正方法】変更
【補正の内容】
【0009】
上記目的を達成するために、本発明の一実施形態であるプログラムは、情報処理装置に、入力された第1演奏データに基づいて第1画像を生成させ、前記第1演奏データに対応する調性を移調して、第2演奏データを生成させ、前記第2演奏データに基づいて第2画像を生成させる。
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
情報処理装置に、
入力された第1演奏データに基づいて第1画像を生成させ、
前記第1演奏データに対応する調性が移調された第2演奏データを生成させ、
前記第2演奏データに基づいて第2画像を生成させる、
プログラム。
【請求項2】
前記第1画像及び前記第2画像を表示装置に表示させ、
前記第1画像の指定に応じて、前記第1演奏データに基づく発音を指示させ、
前記第2画像の指定に応じて、前記第2演奏データに基づく発音を指示させる、
請求項1に記載のプログラム。
【請求項3】
前記第1画像の背景色に第1色を含み、
前記第2画像は背景色に前記第1色とは異なる第2色を含む、
請求項1又は2に記載のプログラム。
【請求項4】
情報処理装置に、
入力された第1演奏データに基づいて第1画像を生成させ、
前記第1演奏データに対応する調性が移調された第2演奏データを生成させ、
前記第2演奏データに基づいて第2画像を生成させる、
方法。
【請求項5】
前記第1画像及び前記第2画像を表示装置に表示させ、
前記第1画像の指定に応じて、前記第1演奏データに基づく発音を指示させ、
前記第2画像の指定に応じて、前記第2演奏データに基づく発音を指示させる、
請求項4に記載の方法。
【請求項6】
前記第1画像の背景色に第1色を含み、
前記第2画像は背景色に前記第1色とは異なる第2色を含む、
請求項4又は5に記載の方法。
【請求項7】
表示装置と、
プロセッサと、を含み前記プロセッサが、
入力された第1演奏データに基づいて第1画像を生成し、
前記第1演奏データに対応する調性が移調された第2演奏データを生成し、
前記第2演奏データに基づいて第2画像を生成する、
電子機器。
【請求項8】
電子楽器と、情報処理装置と、を備え、
前記電子楽器は、
ユーザによる演奏操作に応じて演奏データを生成するとともに、生成された前記演奏データを前記情報処理装置に出力し、
前記情報処理装置は、
入力された第1演奏データに基づいて第1画像を生成し、
前記第1演奏データに対応する調性が移調された第2演奏データを生成し、
前記第2演奏データに基づいて第2画像を生成する、
演奏データ表示システム。