(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-12-19
(45)【発行日】2022-12-27
(54)【発明の名称】画像解析方法およびプログラム
(51)【国際特許分類】
G06F 16/50 20190101AFI20221220BHJP
G06T 1/00 20060101ALI20221220BHJP
G06T 7/00 20170101ALI20221220BHJP
【FI】
G06F16/50
G06T1/00 200E
G06T7/00 300F
(21)【出願番号】P 2017201939
(22)【出願日】2017-10-18
【審査請求日】2020-08-21
【審判番号】
【審判請求日】2022-07-01
(73)【特許権者】
【識別番号】000004075
【氏名又は名称】ヤマハ株式会社
(74)【代理人】
【識別番号】110003177
【氏名又は名称】弁理士法人旺知国際特許事務所
(72)【発明者】
【氏名】山本 和彦
【合議体】
【審判長】須田 勝巳
【審判官】中村 信也
【審判官】篠原 功一
(56)【参考文献】
【文献】特開2013-125281(JP,A)
【文献】特開2016-200883(JP,A)
【文献】山本 祐介、紙楽譜を用いた演奏メディアonNoteのためのマーカレス楽譜認識の提案、情報処理学会研究報告 平成22年度▲6▼ [DVD-ROM]、その他、2011.04.15発行
(58)【調査した分野】(Int.Cl.,DB名)
G06F16/00
G06T1/00
G06T7/00
(57)【特許請求の範囲】
【請求項1】
平面状に形成された被写体の一部を撮像した部分画像を解析し、
前記部分画像の解析結果に基づいて、複数の候補画像のうち当該部分画像に対応する部分を含む候補画像を特定する
コンピュータにより実現される
画像解析方法であって、
前記部分画像の解析においては、
前記部分画像から複数の特徴点を抽出し、
前記複数の特徴点を基準線に射影した複数の射影点を表す部分画像解析データを生成し、
前記部分画像解析データは、前記複数の射影点の各々について、当該射影点の識別情報と、当該射影点の位置と、当該射影点の近傍に位置する1以上の射影点の識別情報と、を含む
画像解析方法。
【請求項2】
前記候補画像の特定においては、
複数の候補画像の各々について、当該候補画像から抽出された特徴点を基準線に射影した結果を表す候補画像解析データと、前記部分画像解析データとを対比することで、前記部分画像に対応する部分を含む候補画像を特定する
請求項
1の画像解析方法。
【請求項3】
前記部分画像の解析においては、
前記部分画像に含まれる直線に対応した前記基準線を設定する
請求項
1または請求項
2の画像解析方法。
【請求項4】
前記被写体は楽譜である
請求項1から請求項
3の何れかの画像解析方法。
【請求項5】
平面状に形成された被写体の一部を撮像した部分画像を解析する処理と、
前記部分画像の解析結果に基づいて、複数の候補画像のうち当該部分画像に対応する部分を含む候補画像を特定する処理と
をコンピュータに実行させる
プログラムであって、
前記部分画像を解析する処理においては、
前記部分画像から複数の特徴点を抽出し、
前記複数の特徴点を基準線に射影した複数の射影点を表す部分画像解析データを生成し、
前記部分画像解析データは、前記複数の射影点の各々について、当該射影点の識別情報と、当該射影点の位置と、当該射影点の近傍に位置する1以上の射影点の識別情報と、を含む
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、楽譜または書籍等の書面を撮像した画像を解析する技術に関する。
【背景技術】
【0002】
利用者の所望の楽曲を検索する技術が従来から提案されている。例えば特許文献1には、利用者が順次に指定した音符の時系列を含む楽曲を複数の候補から検索する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の技術のもとでは、所望の楽曲の音符を指定するための音楽的な知識が利用者に必要であり、所望の楽曲を検索できる場面は実際には制限されるという問題がある。なお、以上の説明では楽曲の検索を例示したが、例えば利用者の所望の文字列を含む文書(例えば書籍)を検索する場合にも同様の問題が発生し得る。以上の事情を考慮して、本発明の好適な態様は、利用者の所望の情報を簡便に特定することを目的とする。
【課題を解決するための手段】
【0005】
以上の課題を解決するために、本発明の好適な態様に係る画像解析方法は、平面状に形成された被写体の一部を撮像した部分画像を解析し、前記部分画像の解析結果に基づいて、複数の候補画像のうち当該部分画像に対応する部分を含む候補画像を特定する。
本発明の好適な態様に係るプログラムは、平面状に形成された被写体の一部を撮像した部分画像を解析する処理と、前記部分画像の解析結果に基づいて、複数の候補画像のうち当該部分画像に対応する部分を含む候補画像を特定する処理とをコンピュータに実行させる。
【図面の簡単な説明】
【0006】
【
図1】本発明の第1実施形態に係る画像解析装置の構成を示すブロック図である。
【
図5】制御装置の機能的な構成を示すブロック図である。
【
図7】第2実施形態に係る画像解析装置の構成を示すブロック図である。
【発明を実施するための形態】
【0007】
<第1実施形態>
図1は、本発明の第1実施形態に係る画像解析装置100Aの構成を例示するブロック図である。
図1に例示される通り、第1実施形態の画像解析装置100Aは、制御装置11と記憶装置12と撮像装置13と表示装置14とを具備するコンピュータシステムで実現される。例えば携帯電話機もしくはスマートフォン等の可搬型の情報端末、またはパーソナルコンピュータ等の可搬型または据置型の情報端末が、画像解析装置100Aとして好適に利用され得る。
【0008】
撮像装置13は、画像を撮像するための画像入力機器であり、被写体からの入射光を電気信号に変換する撮像素子を具備する。具体的には、撮像装置13は、撮影レンズ等の光学系の画角に応じた撮像範囲内の被写体を表す画像データを生成する。なお、画像データの形式は任意である。また、第1実施形態では撮像装置13が画像解析装置100Aに搭載された構成を例示するが、画像解析装置100Aとは別体の撮像装置13を画像解析装置100Aに有線または無線で接続してもよい。
【0009】
第1実施形態の撮像装置13は、利用者からの指示に応じて任意の楽曲の楽譜Mを撮像する。第1実施形態では、
図2に例示される通り、書面に印刷された楽譜Mの全体のうちの撮像範囲内の部分(以下「部分楽譜」という)Qが撮像装置13により撮像された場合を想定する。第1実施形態の画像解析装置100Aは、楽譜の1頁分を表す複数の画像(以下「候補楽譜」という)のうち部分楽譜Qに対応する部分を含む候補楽譜(以下「目標楽譜」という)を検索する。具体的には、部分楽譜Qに類似または一致する部分を含む目標楽譜が検索される。以上の説明から理解される通り、第1実施形態の画像解析装置100Aは、撮像装置13により撮像された部分楽譜Qと楽曲が共通する候補楽譜を目標楽譜として複数の候補楽譜から検索する。
【0010】
図2に例示される通り、撮像装置13により撮像される楽譜Mは、相互に間隔をあけて縦方向に並列に配置された複数の譜表F(具体的には五線譜)を含む。複数の譜表Fの各々は、相異なる音高を表す横方向の複数の直線で構成される。ト音記号またはヘ音記号等の音部記号と音符または休符等の符号とを含む複数の楽譜要素が、複数の譜表Fの各々に対して配置される。部分楽譜Q(部分画像の一例)は、楽譜Mのうち譜表Fの一部を含む範囲内の画像である。
【0011】
表示装置14は、制御装置11による制御のもとで各種の画像を表示する。例えば液晶表示パネルまたは有機EL(Electroluminescence)表示パネルが表示装置14として好適に利用される。記憶装置12は、制御装置11が実行するプログラムと制御装置11が使用する各種のデータとを記憶する。例えば半導体記録媒体および磁気記録媒体等の公知の記録媒体、または複数種の記録媒体の組合せが、記憶装置12として任意に採用され得る。
【0012】
第1実施形態の記憶装置12は、相異なる候補楽譜(すなわち楽譜の1頁分)に対応する複数の楽譜データDを複数の楽曲の各々について記憶する。任意の1個の楽譜データDは、
図3に例示される通り、楽譜画像データXと付属データYと解析データZとを含む。
【0013】
楽譜画像データXは、候補楽譜を表す画像データである。例えばPDF形式等の任意の形式の画像データが楽譜画像データXとして利用される。付属データYは、候補楽譜に関する付属的なデータである。例えば、付属データYは、候補楽譜に対応する楽曲を識別するための情報(例えば楽曲名)と、当該楽曲の楽譜を構成する複数頁のうち当該候補楽譜が表す頁の番号とを指定する。なお、例えば候補楽譜に対応する楽譜が掲載された書籍(楽譜集)を識別するための情報を付属データYに含めてもよい。解析データZは、候補楽譜が表す1頁分の楽譜の内容を表すデータである。
【0014】
図4は、候補楽譜の解析データZ(候補画像解析データの一例)を説明するための模式図である。
図2を参照して前述した通り、楽譜Mの各頁には、複数の譜表Fと複数の楽譜要素(音部記号または符号)とが配置される。
図4には、楽譜Mから抽出された複数の特徴点Pa(すなわち画像上の特徴的な地点)と、譜表Fを構成する複数の直線Lに沿う基準線Rとが図示されている。
図4の射影点Pbは、1個の特徴点Paを基準線Rに射影(詳細には正射影)した地点である。すなわち、射影点Pbは、1個の特徴点Paを通過する基準線Rの垂線と当該基準線Rとの交点(垂線の足)である。第1実施形態の解析データZは、楽譜Mから抽出された相異なる特徴点Paに対応する複数の射影点Pbの集合(すなわち点群)を表すベクトルデータである。楽譜Mの1頁分に含まれる複数の譜表Fの各々に対応する解析データZが楽譜データDに含まれる。以上の説明から理解される通り、候補楽譜の解析データZは、当該候補画像から抽出された特徴点Paを基準線Rに射影した結果を表すデータである。
【0015】
図3に例示される通り、解析データZは、複数の射影点Pbの各々について、当該射影点Pbの識別情報(例えば番号)z1と、当該射影点Pbの位置(座標)z2と、当該射影点Pbの近傍に位置する1個以上の射影点Pbの識別情報z3(=z1)とを含む。以上の説明から理解される通り、各射影点Pbについて近傍の射影点Pbの識別情報z3が登録されるから、ひとつの譜表Fに対応する複数の射影点Pbの相互間の位置関係を簡便に把握できるという利点がある。
【0016】
図1の制御装置11は、例えばCPU(Central Processing Unit)等の処理回路であり、画像解析装置100Aの各要素を統括的に制御する。第1実施形態の制御装置11は、
図5に例示される通り、記憶装置12に記憶されたプログラムを実行することで、撮像装置13により撮像された部分楽譜Qに対応する部分を含む目標楽譜を検索するための複数の要素(解析処理部31および特定処理部32)を実現する。なお、制御装置11の機能を複数の装置の集合(すなわちシステム)で実現してもよいし、制御装置11の機能の一部または全部を専用の電子回路で実現してもよい。
【0017】
解析処理部31は、撮像装置13が撮像した部分楽譜Qを解析することで当該部分楽譜Qの解析データZ(部分画像解析データの一例)を生成する。特定処理部32は、相異なる候補楽譜について記憶装置12に記憶された複数の解析データZの各々と解析処理部31が生成した解析データZとを相互に対比することで、部分楽譜Qに対応する部分を含む候補楽譜を目標楽譜として特定する。
【0018】
図6は、制御装置11が部分楽譜Qから目標楽譜を特定する処理(以下「画像解析処理」という)の具体的な内容を例示するフローチャートである。例えば撮像装置13により部分楽譜Qが撮像されるたびに画像解析処理が実行される。したがって、複数の部分楽譜Qの時系列で構成される動画像を撮像する場合、
図6の画像解析処理が部分楽譜Q毎に順次に実行されて目標楽譜が特定される。
【0019】
画像解析処理を開始すると、解析処理部31は、部分楽譜Qの解析により解析データZを生成する(Sa1~Sa6)。部分楽譜Qを解析する処理は、縮小処理Sa1と設定処理Sa2と抽出処理Sa3と区分処理Sa4と射影処理Sa5と生成処理Sa6とを含む。縮小処理Sa1は、部分楽譜Qを縮小する処理である。縮小処理Sa1には公知の画像縮小技術が任意に採用される。なお、縮小処理Sa1を省略してもよい。
【0020】
解析処理部31は、撮像装置13が撮像した部分楽譜Qについて基準線Rを設定する(設定処理Sa2)。具体的には、解析処理部31は、譜表Fを構成する各直線Lを部分楽譜Qから抽出し、複数の直線Lに平行な基準線Rを設定する。例えば、解析処理部31は、部分楽譜Qから抽出された横方向の複数の直線Lを譜表F毎に区分(クラスタリング)し、縦方向における譜表Fの中点を通過するとともに当該譜表Fの各直線Lに沿って横方向に延在する基準線Rを設定する。以上の説明から理解される通り、制御装置11は、部分楽譜Qに含まれる直線Lに対応した基準線Rを設定する要素(基準線設定部)として機能する。
【0021】
解析処理部31は、撮像装置13が撮像した部分楽譜Qから複数の特徴点Paを抽出する(抽出処理Sa3)。特徴点Paの抽出には、SIFT(Scale-Invariant Feature Transform)、SURF(Speeded Up Robust Features)、KAZE(KAZE Features)、またはAKAZE(Accelerated KAZE)等の公知の画像解析技術が任意に採用される。以上の説明から理解される通り、制御装置11は、部分楽譜Qから複数の特徴点Paを抽出する要素(特徴点抽出部)として機能する。なお、設定処理Sa2および抽出処理Sa3の順序を逆転してもよい。
【0022】
解析処理部31は、抽出処理Sa3で抽出した複数の特徴点Paを譜表F毎に複数の集合(クラスタ)に区分する(区分処理Sa4)。区分処理Sa4には公知の分類技術(クラスタリング)が任意に採用される。部分楽譜Qに1個の譜表Fのみが含まれる場合には、区分処理Sa4を省略してもよい。
【0023】
以上の処理(Sa1~Sa4)が完了すると、解析処理部31は、部分楽譜Qに含まれる譜表F毎に、複数の特徴点Paを基準線Rに射影することで複数の射影点Pbを特定する(射影処理Sa5)。すなわち、解析処理部31は、任意の1個の譜表Fの付近から抽出処理Sa3で抽出した複数の特徴点Paの各々を、設定処理Sa2で設定した基準線Rに正射影することで、複数の射影点Pbを特定する。以上の説明から理解される通り、制御装置11は、複数の特徴点Paを基準線Rに射影する要素(特徴点射影部)として機能する。
【0024】
解析処理部31は、射影処理Sa5で特定した複数の射影点Pbを表す解析データZを生成する(生成処理Sa6)。すなわち、制御装置11は、射影後の各特徴点Pa(すなわち射影点Pb)を表す解析データZを生成する要素(生成処理部)として機能する。解析処理部31が部分楽譜Qの解析により解析データZを生成する処理(Sa1~Sa6)の具体例は以上の通りである。なお、各候補楽譜の解析データZは、以上に例示した処理(Sa1~Sa6)を候補楽譜について実行することで生成されて記憶装置12に格納される。
【0025】
解析処理部31が以上の処理により部分楽譜Qの解析データZを生成すると、特定処理部32は、以下に詳述する通り、相異なる候補楽譜について記憶装置12に記憶された複数の解析データZの各々と、解析処理部31が生成した解析データZとを相互に対比することで、部分楽譜Qに対応する部分を含む候補楽譜を目標楽譜として特定する(Sb1~Sb4)。
【0026】
特定処理部32は、複数の候補楽譜の何れかを選択し(Sb1)、当該候補楽譜の解析データZと部分楽譜Qの解析データZとの間で類似指標を算定する(Sb2)。類似指標は、候補楽譜の解析データZと部分楽譜Qの解析データZとの間の類似の度合を示す指標である。2個のベクトルの相互間の距離または相関を示す任意の指標が類似指標として好適である。以下の説明では、候補楽譜の解析データZと部分楽譜Qの解析データZとが類似するほど類似指標が大きい数値となる場合を想定する。
【0027】
特定処理部32は、全部の候補楽譜について部分楽譜Qとの間の類似指標を算定したか否かを判定する(Sb3)。類似指標を算定していない候補楽譜がある場合(Sb3:NO)、特定処理部32は、未選択の候補楽譜を新たに選択したうえで、当該候補楽譜の解析データZと部分楽譜Qの解析データZとの類似指標を算定する(Sb2)。
【0028】
以上に例示した処理が反復されることで全部の候補楽譜について類似指標を算定すると(Sb3:YES)、特定処理部32は、複数の候補楽譜のうち類似指標が最大となる候補楽譜を目標楽譜として特定する(Sb4)。すなわち、複数の候補楽譜のうち部分楽譜Qに対応する部分を含む候補楽譜が目標楽譜として特定される。特定処理部32は、目標楽譜の楽譜データDを記憶装置12から取得し、当該楽譜データDの楽譜画像データXが表す目標楽譜の画像と、当該楽譜データDの付属データYが表す情報(楽曲名および頁番号)とを表示装置14に表示させる(Sc)。
【0029】
以上に説明した通り、第1実施形態では、楽譜Mの一部を撮像した部分楽譜Qの解析により、当該部分画像に対応する部分を含む目標楽譜が特定される。したがって、例えば利用者が楽譜Mの様々な範囲を撮影した画像から目標画像を特定することが可能である。また、楽譜の特徴点Paを基準線Rに射影した射影点Pbを表す解析データZを部分楽譜Qと候補楽譜との間で対比することで、目標楽譜を高精度に特定できるという利点もある。
【0030】
<第2実施形態>
図7は、本発明の第2実施形態における画像解析装置100Bの構成を示すブロック図である。第2実施形態の画像解析装置100Bは、移動体通信網およびインターネット等を含む通信網42を介して端末装置40と通信可能なサーバ装置(例えばウェブサーバ)で実現される。端末装置40は、撮像装置13と表示装置14とを具備する。第1実施形態と同様に、撮像装置13は、楽譜Mの一部である部分楽譜Qを撮像し、表示装置14は、楽譜画像データXが表す楽譜(例えば目標楽譜)を表示する。
【0031】
撮像装置13が撮像した部分楽譜Qを表す画像データが端末装置40から画像解析装置100Bに送信される。画像解析装置100Bは、端末装置40から送信された画像データを受信し、当該画像データが表す部分楽譜Qに対応する部分を含む目標楽譜を特定する。具体的には、画像解析装置100Bは、第1実施形態と同様の制御装置11および記憶装置12を具備する。記憶装置12は、相異なる候補楽譜に対応する複数の楽譜データDを記憶する。制御装置11は、部分楽譜Qから目標楽譜を特定する
図6の画像解析処理を実行する。制御装置11が特定した目標楽譜の楽譜画像データXと付属データYとが端末装置40に送信される。端末装置40の表示装置14は、楽譜画像データXが表す楽譜の画像と、付属データYが表す情報(例えば楽曲名および頁番号)とを表示する。第2実施形態においても第1実施形態と同様の効果が実現される。
【0032】
<変形例>
以上に例示した各態様に付加される具体的な変形の態様を以下に例示する。以下の例示から任意に選択された2個以上の態様を、相互に矛盾しない範囲で適宜に併合してもよい。
【0033】
(1)前述の各形態では、譜表Fを構成する各直線Lに平行な直線を基準線Rとして特定したが、基準線Rを特定する方法は以上の例示に限定されない。例えば利用者が基準線Rを指定してもよい。また、例えば楽譜Mが掲載された書面の縁辺が部分楽譜Qに含まれる場合に、当該縁辺に沿う基準線Rを設定してもよい。
【0034】
(2)前述の各形態では、複数の候補楽譜の各々に関する解析データZが記憶装置12に事前に記憶された構成を例示したが、目標楽譜の検索の段階(例えば部分楽譜Qの解析前)において候補楽譜の解析により当該候補楽譜の解析データZを生成してもよい。例えば、制御装置11(解析処理部31)は、楽譜画像データXが表す各候補楽譜について
図6の解析処理(Sa1~Sa6)を実行することで、当該候補楽譜の解析データZを生成する。候補楽譜の解析データZ(候補画像解析データの一例)と部分楽譜Qの解析データZとを特定処理部32が対比することで目標楽譜を特定する処理(Sb1~Sb4)は前述の各形態と同様である。
【0035】
(3)前述の各形態では、部分楽譜Qに対応した部分を含む目標楽譜を特定したが、本発明が適用される分野は楽譜の検索に限定されない。例えば、書籍等の文書の一部を撮像した部分画像から当該部分画像を含む候補画像(例えば文書の1頁分)を特定するために、本発明を適用してもよい。書籍等の文書の部分画像を解析する場合には、例えば複数の文字が配列する方向に平行な直線、または利用者が指定した直線が、基準線Rとして好適である。以上の構成によれば、文書の一部を撮像した部分画像から、当該部分画像に対応した部分を含む文書全体を特定することが可能である。以上の説明から理解される通り、本発明の好適な態様は、平面状に形成された被写体(例えば楽譜または文書)の一部を撮像した部分画像を解析することで、複数の候補画像のうち当該部分画像に対応する部分を含む候補画像を特定する画像解析方法である。前述の各形態で説明した部分楽譜は「部分画像」の一例であり、前述の各形態で説明した候補楽譜は「候補画像」の一例である。
【0036】
(4)前述の各形態に係る画像解析装置100(100A,100B)は、各形態での例示の通り、制御装置11とプログラムとの協働により実現される。前述の各形態に係るプログラムは、コンピュータが読取可能な記録媒体に格納された形態で提供されてコンピュータにインストールされ得る。記録媒体は、例えば非一過性(non-transitory)の記録媒体であり、CD-ROM等の光学式記録媒体(光ディスク)が好例であるが、半導体記録媒体または磁気記録媒体等の公知の任意の形式の記録媒体を含み得る。なお、非一過性の記録媒体とは、一過性の伝搬信号(transitory, propagating signal)を除く任意の記録媒体を含み、揮発性の記録媒体を除外するものではない。また、通信網を介した配信の形態でプログラムをコンピュータに提供することも可能である。
【0037】
(5)以上に例示した形態から、例えば以下の構成が把握される。
【0038】
本発明の好適な態様(第1態様)に係る画像解析方法は、平面状に形成された被写体の一部を撮像した部分画像を解析し、前記部分画像の解析結果に基づいて、複数の候補画像のうち当該部分画像に対応する部分を含む候補画像を特定する。以上の態様によれば、被写体の一部を撮像した部分画像の解析により、当該部分画像に対応する部分を含む候補画像が特定されるから、例えば利用者が撮影した様々な画像から候補画像を特定することが可能である。
【0039】
第1態様の好適例(第2態様)において、前記部分画像の解析では、前記部分画像から複数の特徴点を抽出し、前記複数の特徴点を基準線に射影し、前記射影後の各特徴点を表す部分画像解析データを生成する。第2態様の好適例(第3態様)において、前記候補画像の特定では、複数の候補画像の各々について、当該候補画像から抽出された特徴点を基準線に射影した結果を表す候補画像解析データと、前記部分画像解析データとを対比することで、前記部分画像に対応する部分を含む候補画像を特定する。以上の態様では、部分画像から抽出された複数の特徴点を基準線に射影した結果を表す解析データが、相異なる候補画像に対応する複数の解析データの各々と対比される。したがって、部分画像に対応する部分を含む候補画像を高精度に特定できるという利点がある。
【0040】
第2態様または第3態様の好適例(第4態様)において、前記部分画像の解析では、前記部分画像に含まれる直線に対応した前記基準線を設定する。以上の態様では、部分画像に含まれる直線に対応した基準線が設定されるから、例えば利用者が基準線を設定する必要がないという利点がある。
【0041】
第1態様から第4態様の何れかの好適例(第5態様)において、前記被写体は楽譜である。以上の態様によれば、楽譜の一部を撮像した部分画像から、当該部分画像に対応した部分を含む楽譜を特定することが可能である。
【0042】
本発明の好適な態様(第6態様)に係るプログラムは、平面状に形成された被写体の一部を撮像した部分画像を解析することで、複数の候補画像のうち当該部分画像に対応する部分を含む候補画像を特定する画像解析処理をコンピュータに実行させる。
【符号の説明】
【0043】
100A,100B…画像解析装置、11…制御装置、12…記憶装置、13…撮像装置、14…表示装置、31…解析処理部、32…特定処理部、40…端末装置、M…楽譜(被写体)、F…譜表、Q…部分楽譜(部分画像)、R…基準線、Pa…特徴点、Pb…射影点。