【実施例1】
【0040】
まず,本発明の変状評価支援システム1の基本的構成を説明する。変状評価支援システム1は,変状情報記憶部10と,共起性情報記憶部11と,検索条件設定受付処理部12と,処理対象選択受付処理部13と,共起性推薦順位リスト生成処理部14と,画像類似性リスト生成処理部15と,画像特徴量記憶部16と,画像類似性リスト記憶部17と,画像類似性リスト特定処理部18と,結合処理部19と,表示処理部20と,確定情報入力受付処理部21とを有する。
【0041】
変状情報記憶部10は,過去に登録された確定済みの変状情報と,あらたに登録された未確定の変状情報を記憶する。変状情報は,変状情報を識別する変状IDと,変状箇所を撮像した画像情報である変状画像情報と,変状の属性に関する事実を示す情報であるタグ情報(変状属性タグ情報)と,日時情報とを少なくとも有する。確定済み,未確定とは,変状属性タグ情報の内容が確定しているか否かを意味する。
【0042】
あらたに登録された未確定の変状情報には,変状IDと,変状画像情報と,未確定の変状属性タグ情報と,日時情報とが対応付けられているが,未確定の変状属性タグ情報について,本発明を利用することにより確定させる。確定した情報の入力は,後述する確定情報入力受付処理部21で受け付ける。
図6に変状情報記憶部10における各変状情報の一般的な一例を示す。
【0043】
変状属性タグ情報としては,たとえば,構造種別名称,損傷項目名称,損傷部位名称,損傷判定区分名称,IC(インターチェンジ)区間名称などがある。構造種別名称とはインフラストラクチャーの構造の種別を示す名称であって,たとえばPC桁,PC床版,RC桁,RC床版,橋脚,橋台,支柱などがある。損傷項目名称は変状の種類を示す名称であり,たとえばひびわれ,遊離石灰,鉄筋露出,剥落,剥離,漏水,錆汁などがある。損傷部位名称とは変状箇所がある部位を示す名称であり,たとえば左外側車線,左内側車線,橋脚,支柱,主桁などがある。損傷判定区分名称とは変状の程度を示す情報であり,A,B,Cのように所定の基準に従ったランクを示す情報が該当する。IC区間名称とはその変状があったインターチェンジ区間を示す名称であり,たとえば川口西,川口中央,川口東,川上,船橋,前橋,前橋南,蘇我,草加などがある(なお,区間名称なので本来は川口西−川口中央区間のような表記になるが,処理の便宜のため,区間の先頭または後尾のいずれかで示している)。なお,変状属性タグ情報およびその設定値としてはさまざまなものを用途に合わせて採用することができ,上記は一例にすぎない。
【0044】
共起性情報記憶部11は,変状情報記憶部10に記憶する変状属性タグ情報に対する共起性解析を行い,その解析結果を記録した共起性情報を記憶する。共起性情報とは,事象yが起こるという条件の下で別の事象xが発生する共起確率P(x|y)を示す情報である。共起確率P(x|y)は,たとえばベイジアンネットワークを用いた解析処理により算出する。
【0045】
P(x|y)としては,たとえば,P(損傷項目名称|IC区間),P(損傷部位名称|IC区間),P(損傷判定区分名称|IC区間),P(損傷項目名称|構造種別名称),P(損傷部位名称|構造種別名称),P(損傷判定区分名称|構造種別名称),P(損傷部位名称|損傷項目名称),P(損傷判定区分名称|損傷項目名称),P(損傷判定区分名称|損傷部位名称),P(損傷項目名称|損傷判定区分名称),P(損傷部位名称|損傷判定区分名称)などがある。たとえばP(損傷項目名称|IC区間)であれば,IC区間の具体的な値(たとえば「市原インターチェンジ」など)がm種類,損傷項目名称の具体的な値(たとえば「ひび割れ」,「鉄骨露出」など)がn種類あったとすると,そのm×nのすべての組み合わせに対して共起確率を算出し,それを共起性情報として記憶しておく。共起性情報の概念を
図8に示す。
【0046】
処理対象選択受付処理部13は,本発明の変状評価支援システム1において,処理対象となる,あらたに登録された未確定の変状情報(クエリ変状情報)の選択を受け付ける。この選択は,ユーザによる選択操作の入力を受け付けることでもよいし,何らかの方法により自動的に選択を受け付けてもよい。たとえば複数のあらたに登録された未確定の変状情報がある場合,それらを順に自動的にクエリ変状情報として選択を受け付けてもよい。
【0047】
検索条件設定受付処理部12は,後述する共起性推薦順位リスト生成処理部14において共起性による推薦順位のリストを生成するための共起条件(x|y)と,共起性による推薦順位のリストと画像類似性リストとを結合してユーザに提供する推薦順位のリストを生成する際の結合比率と,を受け付ける。すなわち共起条件におけるxとy,共起性の結合比率と画像特徴量の結合比率との入力を受け付ける。たとえばxとして構造種別名称,yとして損傷項目名称,共起性の結合比率として40%,画像特徴量の結合比率として60%のようになる。これらの情報は,あらかじめ管理者などによって,事前に設定され,その入力を受け付けることが好ましいが,ユーザからの操作入力を受け付けてもよい。
【0048】
共起性推薦順位リスト生成処理部14は,処理対象選択受付処理部13で受け付けたクエリ変状情報について,検索条件設定受付処理部12で受け付けた共起条件に基づき,共起性情報記憶部11に記憶する共起性情報を参照して,共起性による推薦順位リストの生成処理を行う。たとえば共起条件として(x|y)=(損傷項目名称|構造種別名称)が設定されていた場合,変状情報記憶部10に記憶する変状情報における変状属性タグ情報から構造種別名称で絞り込みを行い,損傷項目名称の共起性の値で順位付けを行う。たとえば,
図1に示すように,共起性の値が高い変状情報から,順番にリスト化する。この際に,変状IDと,共起性の値とをリスト化して生成することが好ましいがそれに限定されない。
【0049】
画像類似性リスト生成処理部15は,特定の変状情報における変状画像情報と,変状情報記憶部10に記憶するほかの変状情報における変状画像情報との類似度の値を算出し,類似性のリストを生成する。この類似性のリストは,特定の変状画像情報に類似するほかの変状画像情報が順位付けされたものであり,類似度の値が高い変状画像情報が順にリスト化されている。この際に,変状IDと,類似度の値とをリスト化して生成することが好ましいがそれに限定されない。
【0050】
変状画像情報同士の類似性の判定の方法にはさまざまな方法があるが,それぞれの画像特徴量を算出し,それらを用いて類似度の値,たとえば非類似性距離を算出して類似性を判定する方法を用いることができる。
【0051】
コンピュータの処理能力にも依存するが,一般的に変状画像情報の類似性の判定処理には多くの処理時間を要する。そのため,あらかじめ設定された設定値より多い数の変状画像情報の類似性の判定処理を行う場合には,事前に処理を行っておき,画像類似性リストとして後述する画像類似性リスト記憶部17に記憶させておくことが好ましい。たとえば変状情報記憶部10に記憶する変状情報が
図6であったとすると,変状情報ID1における変状画像情報とそれ以外の変状情報における変状画像情報の画像類似性リスト,変状情報ID2における変状画像情報と変状情報ID3乃至変状情報IDnの変状画像情報の画像類似性リスト,といったように,すべての変状画像情報に対する画像類似性リストを事前に生成しておくことが好ましい。
【0052】
画像特徴量記憶部16は,画像類似性リスト生成処理部15において,特定の変状情報における変状画像情報と,変状情報記憶部10に記憶するほかの変状情報における変状画像情報との類似度の値を算出する際の,各画像の特徴量を記憶する。画像の特徴量としては,たとえば局所特徴量が用いられるが,それに限定されない。
【0053】
画像類似性リスト記憶部17は,変状情報記憶部10に記憶する各変状情報における変状画像情報の画像特徴量における類似性のリストを記憶する。
図6は変状情報記憶部10における各変状情報の一般的な一例であり,
図7は,後述する結合処理部19における処理において絞り込まれた状態を示す変状情報の具体的な一例を示す。なお,
図7では図示の都合上,変状情報の表示順番を変更しているが,その技術的意義は変わらないし,如何なる順番で記憶されていてもよい。また,
図7におけるクエリ変状情報とは,あらたに登録した未確定の変状情報であり,これが対象となる変状情報である。またクエリ変状画像情報とは,クエリ変状情報における画像情報であり,この画像情報に類似する画像情報の類似度のリスト(類似性リスト)を,後述する画像類似性リスト生成処理部15で求めることとなる。
【0054】
画像類似性リスト特定処理部18は,あらかじめ設定された設定値より多い数の変状情報がある場合,画像類似性リスト記憶部17に記憶する画像類似性リストを特定することで,処理対象となる変状画像情報に類似するほかの変状画像情報の順位付けの情報を取得する。
【0055】
結合処理部19は,共起性推薦順位リスト生成処理部14で生成した共起性による推薦順位のリストと,画像類似性リスト生成処理部15で生成した画像類似性のリストまたは画像類似性リスト特定処理部18で特定した画像類似性のリストと,検索条件設定受付処理部12で受け付けた結合比率の情報とに基づいて,ユーザに対して提供する,クエリ変状情報に類似度の高い変状情報の推薦順位のリストを生成する。
【0056】
リストの長さとクエリ変状情報に類似度の高い変状情報の推薦順位の精度とはトレードオフの関係にある。しかし長いリストに基づく処理は,処理時間を要してしまう。また,結合処理部19での2つのリストの結合処理において,共起性によるリストは同順位での第1位が数件の場合もあれば,数万件の場合もある。この場合,共起性の値に基づいて絞り込むことを優先して処理を実行するが,候補件数が多すぎる場合には先に画像類似性により絞り込みを行う。すなわち,共起性による推薦順位のリストの件数が設定値以内であれば画像類似性リスト生成処理部15で生成した画像類似性リストに基づく処理を実行し,その画像類似性リストと共起性による推薦順位のリストとに基づいて結合処理を実行する。また,共起性による推薦順位のリストの件数が設定値以内でなければ画像類似性リスト特定処理部18で画像類似性リストを特定し,そのリストにおける変状情報に対する共起性の処理を実行し,その共起性による推薦順位のリストと画像類似性リストとに基づいて結合処理を実行する。
【0057】
以上のような処理を実行することで,クエリ変状情報に類似度の高い変状情報の推薦順位の精度を維持しながら,処理時間を抑えることができる。
【0058】
また,共起性による推薦順位のリストを優先して絞り込む場合,その件数が数件のみなど絞り込まれすぎる可能性がある。その場合,共起性の値の同順第2位について第1位と同様の処理を実行させる。これを,表示件数に至るまで反復する。このような処理によって,表示件数が絞り込まれすぎてしまうことを防止することができる。
【0059】
表示処理部20は,結合処理部19で生成した変状情報の推薦順位のリストを,コンピュータの表示装置72に表示させる。
【0060】
確定情報入力受付処理部21は,表示処理部20で表示した変状情報の推薦順位のリストに基づいて,クエリ変状情報のうち,未確定の変状属性タグ情報についての入力を受け付け,変状情報記憶部10に記憶させる。この入力によって未確定の変状情報ではなくなるので,確定済みの変状情報になる。
【0061】
たとえば変状属性タグ情報のうち,損傷項目名称が「未確定」であったとする。本発明の変状評価支援システム1での処理の結果,クエリ変状情報に対して,表示処理部20が表示装置72で表示させた変状情報の推薦順位のリストを閲覧したユーザは,そのリストに基づいて判断を行う。そしてその損傷項目名称が「ひび割れ」であると判断した場合,クエリ変状情報の未確定の変状属性タグ情報における損傷項目名称として「ひび割れ」を入力する。この入力を確定情報入力受付処理部21で受け付けると,それを変状情報記憶部10に記憶させる。
【0062】
つぎに本発明の変状評価支援システム1の基本的実施態様における処理プロセスの一例を
図4および
図5を用いて説明する。
【0063】
まず事前処理として,画像類似性リスト生成処理部15が実行する,変状情報記憶部10に記憶する各変状情報における変状画像情報の類似性リストの生成処理を説明する。
【0064】
まず,ユーザは所定の方法で変状評価支援システム1を起動し,そこから画像類似性リスト生成処理の対象とする変状画像情報(クエリ変状画像情報)を特定する操作を行い,その操作入力を変状評価支援システム1で受け付ける(S100)。
【0065】
画像類似性リスト生成処理部15は,クエリ変状画像情報における画像特徴量,たとえば局所特徴量を算出し,画像特徴量記憶部16に記憶させる(S110)。そして変状情報記憶部10に記憶するほかの変状情報における変状画像情報を比較対象として特定し(S120),その比較対象となる変状画像情報の画像特徴量,たとえば局所特徴量を算出し,画像特徴量記憶部16に記憶させる(S130)。
【0066】
そして画像特徴量記憶部16に記憶させた,クエリ変状画像情報における画像特徴量(局所特徴量)と,比較対象となる変状画像情報の画像特徴量(局所特徴量)とに基づいて,それらの画像類似性の判別処理を実行する(S140)。画像類似性の判別処理としてはさまざまな方法があるが,たとえば局所特徴量を用いて非類似性距離を算出することで行える。そして変状情報記憶部10に記憶するすべての変状情報の変状画像情報に対して,S120からS140の処理を実行する(S150)。
【0067】
このようにして,クエリ変状画像情報に対するすべての変状画像情報の類似性(たとえば非類似性距離)が判定できる。そして類似度の値(非類似性距離)に基づいて類似する変状画像情報から順にリスト化することで,クエリ変状画像情報に対する画像類似性のリストを生成する(S160)。
【0068】
S150までの処理の結果,画像特徴量による類似性としての非類似性距離が
図9であったとする。そうすると,画像類似性リスト生成処理部15は,画像類似性のリストとして
図10を生成し,画像類似性リスト記憶部17に記憶させる。
【0069】
以上のような事前処理を行うことで,クエリ変状画像情報に対して類似する類似性リストが生成できる。生成したリストは,画像類似性リスト記憶部17に記憶する。なお,クエリ変状画像情報が複数ある場合には,各クエリ変状画像情報に対して上述の処理を実行しておくことで,クエリ変状画像情報ごとに対する類似性のリストが生成,記憶できる。
【0070】
上記においては,ユーザによるクエリ変状画像情報の選択を受け付けてから処理を実行したが,あらたにクエリ変状情報が変状情報記憶部10に記憶されることで,自動的に処理対象とするクエリ変状画像情報として特定し,任意のタイミングで処理を実行することとしてもよい。
【0071】
つぎにクエリ変状情報に類似度の高い変状情報の推薦順位のリストの生成処理を説明する。ユーザは,所定の方法で変状評価支援システム1を起動し,そこからリスト生成処理の対象とする変状情報(クエリ変状情報)を特定する操作を行い,その操作入力を処理対象選択受付処理部13で受け付ける(S200)。
【0072】
そして受け付けたクエリ変状情報と,検索条件設定受付処理部12であらかじめ受け付けた共起条件とに基づいて,共起性情報記憶部11に記憶する共起性情報を参照して,共起性による推薦順位リストの生成処理を,共起性推薦順位リスト生成処理部14で実行する(S210)。たとえば共起性の検索条件として(x|y)=(損傷項目名称|構造種別名称)が設定されており,構造種別名称(y)=「橋脚」であった場合,変状情報記憶部10に記憶する変状情報のうち,変状属性タグ情報における構造種別名称が「橋脚」である変状情報の絞り込みを行う。絞り込まれた変状情報の一例が
図7である。そして,絞り込まれた変状情報(すなわち構造種別名称が「橋脚」である変状情報)のうち,共起性情報記憶部11に記憶する共起性情報を参照し,もっとも高い共起性の値で順位付けを行うことで推薦順位リストを生成する。たとえば
図11に示す共起性による推薦順位リストが共起性推薦順位リスト生成処理部14により生成される。
【0073】
そしてS210で生成した共起性による推薦順位リストの件数(絞り込まれた変状情報の件数)が設定値(たとえば2000件)以内である場合には(S220),十分な提供をユーザに行えないことから,共起性推薦順位リスト生成処理部14は,共起性情報記憶部11に記憶する共起性情報を参照して,S210と同様に,つぎに共起性の値が高いx,yで絞り込みを行う(S230)。
【0074】
たとえば上述の場合,S210において,変状情報記憶部10に記憶する変状情報のうち,変状属性タグ情報における構造種別名称が「橋脚」である変状情報で絞り込みが行われているので,絞り込まれた変状情報のうち,共起性情報記憶部11に記憶する共起性情報を参照し,2番目に共起性の値が高いx,yで順位付けを行うことで推薦順位リストを生成する。
【0075】
推薦順位リストにおける候補数が設定値以上(上記の場合,たとえば2000件以上)になるまで,共起性の値が高い順番のx,yで処理(S230の処理)を繰り返して行う(S240)。
【0076】
以上のようにして推薦順位リストにおける候補数が設定値以上になると,画像類似性リスト生成処理部15が,絞り込まれた各変状情報の変状画像情報と,クエリ変状情報のクエリ変状画像情報との類似性の判定処理を実行することで,画像類似性リスト生成処理を実行する(S250)。すなわち,
図7の場合,クエリ変状画像情報の画像特徴量と,変状情報ID1乃至変状情報ID8の各変状画像情報との画像特徴量とを算出し,それらに基づいて,非類似性距離を算出する(
図9参照)。そして非類似性距離に基づいて画像類似性リストを生成する(
図10参照)。
【0077】
なお,S250において,クエリ変状画像情報に対する画像類似性リストが画像類似性リスト記憶部17に記憶されている場合,画像類似性リスト生成処理部15で画像類似性リストの生成処理を行う代わりに,画像類似性リスト特定処理部18で画像類似性リスト記憶部17から画像類似性リストを特定してもよい。
【0078】
以上のような処理を実行することで,共起性による推薦順位リストと,画像類似性リストとが生成できるので,結合処理部19は,検索条件設定受付処理部12で受け付けた結合比率に基づいて結合処理を実行し,ユーザに対して提供する推薦順位のリストを生成する(S260)。
【0079】
結合処理としては,単純に共起性に基づく推薦順位のリストと画像類似性に基づくリストとを結合してもよい。たとえば,共起性の値に結合比率40%を乗算し,画像特徴量に結合比率60%を乗算し,それぞれ算出される値に基づいて並び替えることで,ユーザに対して提供する推薦順位のリストを生成する。変状画像情報に付されている変状属性タグ情報の共起性と,変状画像情報の類似性の尺度が同じ場合にはこの方法で処理ができる。
【0080】
一方,多くの場合には,変状画像情報に付されている変状属性タグ情報の共起性と,変状画像情報の類似性とは,類似度の正負号,分布,分散が異なっているため,尺度を揃えてから結合をする。そこで,結合処理部19は,いずれか一方の尺度に,他方の尺度を合わせる処理を行う。たとえば変状属性タグ情報の共起性の尺度に,変状画像情報の類似性の尺度を合わせる処理を行う。
【0081】
変状属性タグ情報の共起性による推薦順位のリストと,画像類似性による画像類似性リストとの尺度を合わせる処理の概念を
図12に模式的に示す。
【0082】
まず結合処理部19は,共起性情報記憶部11に記憶する共起性情報に基づいて,対象となる共起性の組み合わせ(上述の例では,たとえば11の組み合わせ)について,共起性の値の分布を生成する。そしてここで生成した共起性の組み合わせに関する共起性の値の分布を結合の基準となる分布とする。すなわちx軸に共起性の値,y軸にサンプル数をとる分布を生成する。
【0083】
つぎに,結合処理部19は,画像類似性リスト記憶部17に記憶する画像の類似度を示す値,たとえば非類似性距離のすべてまたは一部を抽出することで,非類似性距離とサンプル数の分布を生成する。すなわちx軸に非類似性距離,y軸にサンプル数をとる分布を生成する。
【0084】
そして共起性の値に基づく分布と,画像類似性に基づく分布とはその尺度が異なるので,それを揃える。まず非類似性距離の符号を揃える処理を実行し,つぎに,共起性の値に基づく分布の分散と,画像類似性に基づく分布の分散をあわせる処理を実行する。そして,共起性の値に基づく分布の平均と,画像類似性に基づく分布の平均をあわせる処理を実行する。以上のような処理を実行することによって,変状属性タグ情報の共起性による推薦順位のリストと,画像類似性による画像類似性リストとの尺度を合わせることができる。
【0085】
このようにして結合処理部19が2つのリストの尺度を合わせると,検索条件設定受付処理部12で受け付けた結合比率に基づいて,それぞれの値を重み付けし,加算をする。そして加算の結果,最終的に算出された値が,クエリ変状に対する類似度を示す値となる。そしてクエリ変状に対する類似度を示す値に基づいて,リスト化をする。
【0086】
以上の結合処理を実行するには,たとえば,
クエリ変状に対する類似度を示す値=T×w+(a×P+b)×(1−w)
で算出すればよい。なお,上記の算出式において,Tは共起性の値,Pは非類似性距離(画像の類似度を示す値),wは結合比率のうち共起性に対する重み,aは分散を揃えるための定数,bは平均を揃えるための定数である。
【0087】
また,2つの分布において,分布の偏りを補正するため,分布を平滑化する関数f1,f2を導入することもできる。この場合,たとえば,
クエリ変状に対する類似度を示す値=f1(T)×w+(a×f2(P)+b)×(1−w)
で算出すればよい。なお,関数f1は共起性の値の分布を平滑化する関数であり,関数f2は画像類似性に基づく分布を平滑化する関数である。
【0088】
たとえば絞り込んだ変状属性情報が
図7に示すような場合であり,共起性による推薦順位のリストが
図11,画像類似性に基づくリストが
図10であり,aが「−0.5」,bが「0.3」,wが「0.6」,クエリ変状に対する類似度を示す値=T×w+(a×P+b)×(1−w)の算出式を用いた場合,クエリ変状に対する類似度を示す値として
図13に示すようになる。したがって,結合処理部19は推薦順位を決定し,
図14に示すようにリスト化する。
【0089】
なお,クエリ変状に対する類似度を示す値のほかの算出方法として,
クエリ変状に対する類似度を示す値=max(f1(T)×w,(a×f2(P)+b)×(1−w))
で算出してもよい。
【0090】
以上のようにして,S260における,結合処理部19が共起性の値と非類似性距離とに基づく結合処理とクエリ変状に対する類似度を示す値のリストを生成すると,表示処理部20がS260で生成したリストをコンピュータの表示装置72に表示させる。
【0091】
一方,上述のS220において,S210で生成した共起性による推薦順位リストの件数(絞り込まれた変状情報の件数)が設定値以内でない場合には,画像類似性リスト特定処理部18は,S200において選択されたクエリ変状情報におけるクエリ変状画像情報に対する画像類似性のリストを画像類似性リスト記憶部17から抽出し,そのリストにおける上位所定数(たとえば2500件)の変状情報を特定する(S270)。変状情報の特定は,画像類似性リストにおける変状IDに基づいて特定が可能である。
【0092】
そして,共起性推薦順位リスト生成処理部14は,S270において特定した各変状情報の共起性の値を算出し,共起性に基づく推薦順位のリストを生成する(S280)。
【0093】
結合処理部19は,S280で生成した共起性に基づく推薦順位のリストと,S270で特定した変状画像の類似性のリストとの結合処理をS260と同様に実行し,クエリ変状に対する類似性の値を算出して,リスト化する(S290)。
【0094】
以上のようにして,S290における,結合処理部19が共起性の値と非類似性距離とに基づく結合処理とクエリ変状に対する類似度を示す値のリストを生成すると,表示処理部20がS290で生成したリストをコンピュータの表示装置72に表示させる。
【0095】
以上のような処理を実行することで,クエリ変状情報に類似する変状情報の候補がコンピュータの表示装置72に表示され,それをユーザが視認することで,クエリ変状情報における変状の種類や程度等を判断する。そして判断の結果を入力装置73を介して入力すると,確定情報入力受付処理部21でそれを受け付け,変状情報記憶部10に記憶するクエリ変状情報の未確定の変状属性タグ情報として,その情報を追加して記憶させる。これによって,未確定の変状属性タグ情報をあらたに登録していくことが可能となる。
【実施例2】
【0096】
実施例1では,変状属性タグ情報の共起性に基づく共起性リストと,変状画像情報の類似性に基づくリストとに基づいて処理を実行したが,変状画像情報に代えて,変状箇所の音情報の類似性に基づくリストとに基づいて処理を実行してもよい。変状箇所の音情報(変状音情報)とは,変状と疑われる箇所に対して実施した打音検査による音を集音した情報である。
【0097】
この場合,画像類似性リスト生成処理部15の代わりに音類似性リスト生成処理部22,画像特徴量記憶部16の代わりに音特徴量記憶部23,画像類似性リスト記憶部17の代わりに音類似性リスト記憶部24,画像類似性リスト特定処理部18の代わりに音類似性リスト特定処理部25を備える。また変状情報記憶部10における変状情報には,変状画像情報の代わりに変状音情報を備える。
図15に本実施態様における変状評価支援システム1のシステム構成の一例を模式的に示す。
【0098】
音類似性リスト生成処理部22は,特定の変状情報における変状音情報と,変状情報記憶部10に記憶するほかの変状情報における変状音情報との類似性を判定し,類似性のリストを生成する。この類似性のリストは,特定の変状音情報に類似するほかの変状音情報が順位付けされたものであり,類似度の値が高い変状音情報が順にリスト化されている。この際に,変状IDと,類似度の値とをリスト化して生成することが好ましいがそれに限定されない。
【0099】
変状音情報同士の類似性の判定の方法にはさまざまな方法があるが,たとえばスペクトログラムを利用して音の特性抽出を行い,周波数の帯域,たとえば低域,中域,高域ごとに重みを与えて類似度の値を算出することで行える。
【0100】
変状画像情報の場合と同様,変状音情報の場合にも,一般的にはその類似性の判定処理には多くの処理時間を要するため,あらかじめ後述の音類似性リスト記憶部24に記憶させておくことが好ましい。
【0101】
音特徴量記憶部23は,音類似性リスト生成処理部22において,特定の変状情報における変状音情報と,変状情報記憶部10に記憶するほかの変状情報における変状音情報との類似度の値を算出する際の,各音情報の特徴量を記憶する。音の特徴量としては,たとえば局所特徴量が用いられるが,それに限定されない。
【0102】
音類似性リスト記憶部24は,変状情報記憶部10に記憶する各変状情報における変状音情報の類似性のリストを記憶する。
【0103】
音類似性リスト特定処理部25は,あらかじめ設定された設定値より多い数の変状情報がある場合,音類似性リスト記憶部24に記憶する音類似性リストを特定することで,処理対象となる変状音情報に類似するほかの変状音情報の順位付けの情報を取得する。
【0104】
結合処理部19は,共起性推薦順位リスト生成処理部14で生成した共起性による推薦順位のリストと,音類似性リスト生成処理部22で生成した音類似性のリストと,検索条件設定受付処理部12で受け付けた結合比率の情報とに基づいて,ユーザに対して提供する,クエリ変状情報に類似度の高い変状情報の推薦順位のリストを生成する。
【0105】
結合処理部19においては実施例1の場合と同様に,
クエリ変状に対する類似度を示す値=T×w+(a×S+b)×(1−w)
で算出する。なお,上記の算出式において,Sは音の類似度を示す値である。
【0106】
また,2つの分布において,分布の偏りを補正するため,分布を平滑化する関数f1,f2を導入することもできる。この場合,たとえば,
クエリ変状に対する類似度を示す値=f1(T)×w+(a×f2(S)+b)×(1−w)
で算出する。
また,クエリ変状に対する類似度を示す値=max(f1(T)×w,(c×f2(S)+d)×(1−w))
で算出してもよい。cは共起性に基づく分布に対する分散を揃えるための定数,dは共起性に基づく分布に対する平均を揃えるための定数である。