特許第5753945号(P5753945)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 楽天株式会社の特許一覧

特許5753945画像処理装置、画像処理装置の制御方法、プログラム、及び情報記憶媒体
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5753945
(24)【登録日】2015年5月29日
(45)【発行日】2015年7月22日
(54)【発明の名称】画像処理装置、画像処理装置の制御方法、プログラム、及び情報記憶媒体
(51)【国際特許分類】
   G06T 11/60 20060101AFI20150702BHJP
   G06F 3/048 20130101ALI20150702BHJP
【FI】
   G06T11/60 100A
   G06F3/048 656A
【請求項の数】21
【全頁数】29
(21)【出願番号】特願2014-515408(P2014-515408)
(86)(22)【出願日】2012年5月16日
(86)【国際出願番号】JP2012062511
(87)【国際公開番号】WO2013171857
(87)【国際公開日】20131121
【審査請求日】2014年11月13日
【早期審査対象出願】
(73)【特許権者】
【識別番号】399037405
【氏名又は名称】楽天株式会社
(74)【代理人】
【識別番号】110000154
【氏名又は名称】特許業務法人はるか国際特許事務所
(72)【発明者】
【氏名】益子 宗
【審査官】 岡本 俊威
(56)【参考文献】
【文献】 国際公開第2007/108200(WO,A1)
【文献】 特開2007−004677(JP,A)
【文献】 特開2006−041614(JP,A)
【文献】 特開2005−159850(JP,A)
【文献】 特開平04−310997(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 11/60 −11/80
G06F 3/048
(57)【特許請求の範囲】
【請求項1】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段と、
注釈を示す注釈情報を取得する注釈情報取得手段と、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段と、
を含み、
前記表示位置決定手段は、
前記画像に複数の注釈が付与される場合に、前記複数の注釈の表示位置の組み合わせとして、複数種類の組み合わせを取得する手段であって、前記複数種類の組み合わせの各々を取得する際に、前記複数の注釈の表示位置を注釈対象の位置又は領域に基づいて取得する組み合わせ取得手段と、
前記複数種類の組み合わせの各々の評価値を、各組み合わせにおける前記複数の注釈の表示位置に基づいて算出する算出手段と、
前記複数種類の組み合わせの各々の前記評価値に基づいて前記複数種類の組み合わせのうちから選出される組み合わせに基づいて、前記複数の注釈の表示位置を決定する手段と、を含む、
ことを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記算出手段は、前記複数種類の組み合わせの各々の評価値を、各組み合わせにおける前記複数の注釈の表示位置に関する情報に基づいて算出し、
前記複数の注釈の表示位置に関する前記情報は、注釈の表示位置と該注釈が付与される注釈対象との間の距離と、注釈の表示位置と他の注釈の表示位置との間の距離と、注釈の表示色と該注釈の表示位置の色と、注釈の表示位置のエッジ量と、注釈の表示位置の顕著性と、の少なくとも一つを含む、
ことを特徴とする画像処理装置。
【請求項3】
請求項1又は2に記載の画像処理装置において、
前記複数の注釈は、前記画像に含まれる第1の注釈対象に既に付与されている第1の注釈と、前記画像に含まれる第2の注釈対象に新たに付与される第2の注釈と、を含み、
前記組み合わせ取得手段は、前記複数の注釈の表示位置の組み合わせを取得する際に、前記第2の注釈の表示位置を前記第2の注釈対象の位置又は領域に基づいて取得し、前記第1の注釈の新たな表示位置を前記第1の注釈対象の位置又は領域に基づいて取得する手段を含む、
ことを特徴とする画像処理装置。
【請求項4】
請求項1乃至3のいずれかに記載の画像処理装置において、
前記組み合わせ取得手段は、前記複数の注釈の表示位置の組み合わせを取得する際に、前記画像に含まれる注釈対象の領域の大きさ及び形状のうちの少なくとも一つに基づいて、該注釈対象に付与される注釈の表示位置を取得する手段を含む、
ことを特徴とする画像処理装置。
【請求項5】
請求項1乃至4のいずれかに記載の画像処理装置において、
前記組み合わせ取得手段は、前記複数の注釈の表示位置の組み合わせを取得する際に、注釈の表示位置を、該注釈の長さ、表示色、表示サイズ、及び書字方向のうちの少なくとも一つと、該注釈が付与される注釈対象の位置又は領域と、に基づいて取得する手段を含む、
ことを特徴とする画像処理装置。
【請求項6】
請求項1乃至5のいずれかに記載の画層処理装置において、
前記画像の画素のエッジ量を取得する手段を含み、
前記組み合わせ取得手段は、前記複数の注釈の表示位置の組み合わせを取得する際に、注釈の表示位置を、前記画像の画素のエッジ量と、該注釈が付与される注釈対象の位置又は領域と、に基づいて取得する手段を含む、
ことを特徴とする画像処理装置。
【請求項7】
請求項1乃至6のいずれかに記載の画像処理装置において、
前記画像の顕著性マップを取得する手段を含み、
前記組み合わせ取得手段は、前記複数の注釈の表示位置の組み合わせを取得する際に、注釈の表示位置を、前記顕著性マップと、該注釈が付与される注釈対象の位置又は領域と、に基づいて取得する手段を含む、
ことを特徴とする画像処理装置。
【請求項8】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段と、
注釈を示す注釈情報を取得する注釈情報取得手段と、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段と、
を含み、
前記表示位置決定手段は、
前記注釈情報が取得される前において、複数種類の注釈の類型の各々について、該類型に属する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該類型に対応する表示位置候補として取得する手段と、
前記注釈情報が取得された場合、該注釈情報が示す注釈が属する類型に対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含む、
ことを特徴とする画像処理装置。
【請求項9】
請求項に記載の画像処理装置において、
前記複数種類の注釈の類型は、注釈の長さ、表示色、表示サイズ、及び書字方向の少なくとも一つに基づいて設定される、
ことを特徴とする画像処理装置。
【請求項10】
請求項又はに記載の画像処理装置において、
前記表示位置決定手段は、
前記注釈情報が取得される前において、注釈の長さに関する複数種類の長さ情報の各々について、該長さ情報が示す長さを有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該長さ情報に対応する表示位置候補として取得する手段と、
前記注釈情報が取得された場合、該注釈情報が示す注釈が有する長さに対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含む、
ことを特徴とする画像処理装置。
【請求項11】
請求項乃至10のいずれかに記載の画像処理装置において、
前記表示位置決定手段は、
前記注釈情報が取得される前において、注釈の表示色に関する複数種類の表示色情報の各々について、該表示色情報が示す表示色を有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該表示色情報に対応する表示位置候補として取得する手段と、
前記注釈情報が取得された場合、該注釈情報が示す注釈が有する表示色に対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含む、
ことを特徴とする画像処理装置。
【請求項12】
請求項乃至11のいずれかに記載の画像処理装置において、
前記表示位置決定手段は、
前記注釈情報が取得される前において、注釈の表示サイズに関する複数種類の表示サイズ情報の各々について、該表示サイズ情報が示す表示サイズを有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該表示サイズ情報に対応する表示位置候補として取得する手段と、
前記注釈情報が取得された場合、該注釈情報が示す注釈が有する表示サイズに対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含む、
ことを特徴とする画像処理装置。
【請求項13】
請求項乃至12のいずれかに記載の画像処理装置において、
前記表示位置決定手段は、
前記注釈情報が取得される前において、注釈の書字方向に関する複数種類の書字方向情報の各々について、該書字方向情報が示す書字方向を有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該書字方向情報に対応する表示位置候補として取得する手段と、
前記注釈情報が取得された場合、該注釈情報が示す注釈が有する書字方向に対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含む、
ことを特徴とする画像処理装置。
【請求項14】
請求項乃至13のいずれかに記載の画像処理装置において、
前記画像には、他の注釈が既に付与されており、
前記表示位置決定手段は、
前記注釈情報が取得される前において、複数種類の注釈の類型の各々について、前記注釈が該類型に属すると場合を想定して、前記注釈の表示位置と、前記他の注釈の新たな表示位置とを、前記注釈対象の位置又は領域と、前記他の注釈に対応する注釈対象の位置又は領域と、に基づいて決定し、該表示位置を、該類型に対応する表示位置候補として取得する手段と、
前記注釈情報が取得された場合、該注釈情報が示す注釈が属する類型に対応する表示位置候補に基づいて、該注釈の表示位置と、前記他の注釈の新たな表示位置と、を決定する手段と、を含む、
ことを特徴とする画像処理装置。
【請求項15】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段と、
注釈を示す注釈情報を取得する注釈情報取得手段と、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段と、
を含み、
前記表示位置決定手段は、前記注釈の表示位置を、該注釈の表示色と、前記注釈対象の位置又は領域と、に基づいて決定する手段を含む、
ことを特徴とする画像処理装置。
【請求項16】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得ステップと、
注釈を示す注釈情報を取得する注釈情報取得ステップと、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定ステップと、
を含み、
前記表示位置決定ステップは、
前記画像に複数の注釈が付与される場合に、前記複数の注釈の表示位置の組み合わせとして、複数種類の組み合わせを取得するステップであって、前記複数種類の組み合わせの各々を取得する際に、前記複数の注釈の表示位置を注釈対象の位置又は領域に基づいて取得する組み合わせ取得ステップと、
前記複数種類の組み合わせの各々の評価値を、各組み合わせにおける前記複数の注釈の表示位置に基づいて算出する算出ステップと、
前記複数種類の組み合わせの各々の前記評価値に基づいて前記複数種類の組み合わせのうちから選出される組み合わせに基づいて、前記複数の注釈の表示位置を決定するステップと、を含む、
ことを特徴とする画像処理装置の制御方法。
【請求項17】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段、
注釈を示す注釈情報を取得する注釈情報取得手段、及び、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段、
としてコンピュータを機能させ、
前記表示位置決定手段は、
前記画像に複数の注釈が付与される場合に、前記複数の注釈の表示位置の組み合わせとして、複数種類の組み合わせを取得する手段であって、前記複数種類の組み合わせの各々を取得する際に、前記複数の注釈の表示位置を注釈対象の位置又は領域に基づいて取得する組み合わせ取得手段と、
前記複数種類の組み合わせの各々の評価値を、各組み合わせにおける前記複数の注釈の表示位置に基づいて算出する算出手段と、
前記複数種類の組み合わせの各々の前記評価値に基づいて前記複数種類の組み合わせのうちから選出される組み合わせに基づいて、前記複数の注釈の表示位置を決定する手段と、を含む、
ことを特徴とするプログラム。
【請求項18】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得ステップと、
注釈を示す注釈情報を取得する注釈情報取得ステップと、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定ステップと、
を含み、
前記表示位置決定ステップは、
前記注釈情報が取得される前において、複数種類の注釈の類型の各々について、該類型に属する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該類型に対応する表示位置候補として取得するステップと、
前記注釈情報が取得された場合、該注釈情報が示す注釈が属する類型に対応する表示位置候補に基づいて、該注釈の表示位置を決定するステップと、を含む、
ことを特徴とする画像処理装置の制御方法。
【請求項19】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段、
注釈を示す注釈情報を取得する注釈情報取得手段、及び、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段、
としてコンピュータを機能させ、
前記表示位置決定手段は、
前記注釈情報が取得される前において、複数種類の注釈の類型の各々について、該類型に属する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該類型に対応する表示位置候補として取得する手段と、
前記注釈情報が取得された場合、該注釈情報が示す注釈が属する類型に対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含む、
ことを特徴とするプログラム。
【請求項20】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得ステップと、
注釈を示す注釈情報を取得する注釈情報取得ステップと、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定ステップと、
を含み、
前記表示位置決定ステップは、前記注釈の表示位置を、該注釈の表示色と、前記注釈対象の位置又は領域と、に基づいて決定するステップを含む、
ことを特徴とする画像処理装置の制御方法。
【請求項21】
画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段、
注釈を示す注釈情報を取得する注釈情報取得手段、及び、
前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段、
としてコンピュータを機能させ、
前記表示位置決定手段は、前記注釈の表示位置を、該注釈の表示色と、前記注釈対象の位置又は領域と、に基づいて決定する手段を含む、
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理装置、画像処理装置の制御方法、プログラム、及び情報記憶媒体に関する。
【背景技術】
【0002】
画像に含まれる注釈対象(注釈を付与する対象)に注釈を付与できるようになっている画像処理装置が知られている。このような画像処理装置としては、例えば、ユーザによって入力された注釈をユーザによって指定された画像内の位置に表示する画像処理装置や、画像内に表示された注釈の表示位置をユーザによって指定された位置に変更する画像処理装置等が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平6−131143号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
注釈の表示位置は、注釈と注釈対象とを考慮して適切な位置に設定されるのが望ましい。しかしながら、従来の画像処理装置では注釈が適切な位置に表示されない場合があった。例えば、特許文献1に記載の装置では、注釈が適切な位置に表示されない場合があり、そのような場合にはユーザが注釈の表示位置を変更する必要がある。
【0005】
本発明は上記課題に鑑みてなされたものであって、その目的は、注釈を適切な位置に表示することが可能な画像処理装置、画像処理装置の制御方法、プログラム、及び情報記憶媒体を提供することにある。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明に係る画像処理装置は、画像を取得する画像取得手段と、前記画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段と、注釈を示す注釈情報を取得する注釈情報取得手段と、前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段と、前記表示位置決定手段によって決定された表示位置に前記注釈が表示された前記対象画像のデータを出力するデータ出力手段と、を含むことを特徴とする。
【0007】
また、本発明に係る画像処理装置の制御方法は、画像を取得する画像取得ステップと、前記画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得ステップと、注釈を示す注釈情報を取得する注釈情報取得ステップと、前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定ステップと、前記表示位置決定ステップによって決定された表示位置に前記注釈が表示された前記対象画像のデータを出力するデータ出力ステップと、を含むことを特徴とする。
【0008】
また、本発明に係るプログラムは、画像を取得する画像取得手段、前記画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段、注釈を示す注釈情報を取得する注釈情報取得手段、前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段、及び、前記表示位置決定手段によって決定された表示位置に前記注釈が表示された前記対象画像のデータを出力するデータ出力手段、としてコンピュータを機能させるためのプログラムである。
【0009】
また、本発明に係る情報記憶媒体は、画像を取得する画像取得手段、前記画像に含まれる、注釈を付与する注釈対象を指定する注釈対象情報を取得する注釈対象情報取得手段、注釈を示す注釈情報を取得する注釈情報取得手段、前記注釈の表示位置を、前記注釈対象の位置又は領域に基づいて決定する表示位置決定手段、及び、前記表示位置決定手段によって決定された表示位置に前記注釈が表示された前記対象画像のデータを出力するデータ出力手段、としてコンピュータを機能させるためのプログラムを記録したコンピュータ読み取り可能な情報記憶媒体である。
【0010】
また、本発明の一態様では、前記画像には、他の注釈が既に付与されており、前記表示位置決定手段は、前記注釈の表示位置を、前記注釈対象の位置又は領域と、前記他の注釈の表示位置と、に基づいて決定する手段を含むようにしてもよい。
【0011】
また、本発明の一態様では、前記画像には、他の注釈が既に付与されており、前記表示位置決定手段は、前記注釈の表示位置を、前記注釈対象の位置又は領域と、前記他の注釈に対応する注釈対象の位置又は領域と、に基づいて決定する手段を含むようにしてもよい。
【0012】
また、本発明の一態様では、前記画像には、他の注釈が既に付与されており、前記表示位置決定手段は、前記注釈の表示位置と、前記他の注釈の新たな表示位置とを、前記注釈対象の位置又は領域と、前記他の注釈に対応する注釈対象の位置又は領域と、に基づいて決定する手段を含むようにしてもよい。
【0013】
また、本発明の一態様では、前記表示位置決定手段は、複数種類の注釈の類型の各々について、該類型に属する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該類型に対応する表示位置候補として取得する手段と、前記注釈取得手段によって前記注釈情報が取得された場合、該注釈情報が示す注釈が属する類型に対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含むようにしてもよい。
【0014】
また、本発明の一態様では、前記複数種類の注釈の類型は、注釈の長さ、表示色、表示サイズ、及び書字方向の少なくとも一つに基づいて設定されるようにしてもよい。
【0015】
また、本発明の一態様では、前記表示位置決定手段は、注釈の長さに関する複数種類の長さ情報の各々について、該長さ情報が示す長さを有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該長さ情報に対応する表示位置候補として取得する手段と、前記注釈取得手段によって前記注釈情報が取得された場合、該注釈情報が示す注釈が有する長さに対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含むようにしてもよい。
【0016】
また、本発明の一態様では、前記表示位置決定手段は、注釈の表示色に関する複数種類の表示色情報の各々について、該表示色情報が示す表示色を有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該表示色情報に対応する表示位置候補として取得する手段と、前記注釈取得手段によって前記注釈情報が取得された場合、該注釈情報が示す注釈が有する表示色に対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含むようにしてもよい。
【0017】
また、本発明の一態様では、前記表示位置決定手段は、注釈の表示サイズに関する複数種類の表示サイズ情報の各々について、該表示サイズ情報が示す表示サイズを有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該表示サイズ情報に対応する表示位置候補として取得する手段と、前記注釈取得手段によって前記注釈情報が取得された場合、該注釈情報が示す注釈が有する表示サイズに対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含むようにしてもよい。
【0018】
また、本発明の一態様では、前記表示位置決定手段は、注釈の書字方向に関する複数種類の書字方向情報の各々について、該書字方向情報が示す書字方向を有する注釈が前記注釈対象に付与されたと想定した場合における該注釈の表示位置を前記注釈対象の位置又は領域に基づいて決定し、該表示位置を、該書字方向情報に対応する表示位置候補として取得する手段と、前記注釈取得手段によって前記注釈情報が取得された場合、該注釈情報が示す注釈が有する書字方向に対応する表示位置候補に基づいて、該注釈の表示位置を決定する手段と、を含むようにしてもよい。
【0019】
また、本発明の一態様では、前記画像には、他の注釈が既に付与されており、前記表示位置決定手段は、複数種類の注釈の類型の各々について、前記注釈が該類型に属すると場合を想定して、前記注釈の表示位置と、前記他の注釈の新たな表示位置とを、前記注釈対象の位置又は領域と、前記他の注釈に対応する注釈対象の位置又は領域と、に基づいて決定し、該表示位置を、該類型に対応する表示位置候補として取得する手段と、前記注釈取得手段によって前記注釈情報が取得された場合、該注釈情報が示す注釈が属する類型に対応する表示位置候補に基づいて、該注釈の表示位置と、前記他の注釈の新たな表示位置と、を決定する手段と、を含むようにしてもよい。
【0020】
また、本発明の一態様では、前記表示位置決定手段は、前記注釈対象の領域の大きさ及び形状のうちの少なくとも一つに基づいて、前記注釈の表示位置を決定する手段を含むようにしてもよい。
【0021】
また、本発明の一態様では、前記表示位置決定手段は、前記注釈の表示位置を、該注釈の長さ、表示色、表示サイズ、及び書字方向のうちの少なくとも一つと、前記注釈対象の位置又は領域と、に基づいて決定する手段を含むようにしてもよい。
【0022】
また、本発明の一態様では、前記画像の画素のエッジ量を取得する手段と、前記表示位置決定手段は、前記注釈の表示位置を、前記画像の画素のエッジ量と、前記注釈対象の位置又は領域と、に基づいて決定する手段を含むようにしてもよい。
【0023】
また、本発明の一態様では、前記画像の顕著性マップを取得する手段と、前記表示位置決定手段は、前記注釈の表示位置を、前記顕著性マップと、前記注釈対象の位置又は領域と、に基づいて決定する手段を含むようにしてもよい。
【0024】
また、本発明の一態様では、前記画像に含まれる注釈対象候補を検出する手段と、前記注釈対象候補に注釈が付与されたと想定した場合における該注釈の表示位置を前記注釈対象候補の位置又は領域に基づいて決定し、該表示位置を表示位置候補として取得する手段と、前記表示位置決定手段は、前記注釈対象情報によって指定された注釈対象が前記注釈対象候補に対応する場合、前記表示位置候補に基づいて、前記注釈の表示位置を決定する手段を含むようにしてもよい。
【発明の効果】
【0025】
本発明によれば、注釈を適切な位置に表示することが可能になる。
【図面の簡単な説明】
【0026】
図1】本発明の実施形態に係る画像処理装置のハードウェア構成の一例を示す図である。
図2】画像の一例を示す図である。
図3】注釈対象指定画面の一例を示す図である。
図4】注釈入力画面の一例を示す図である。
図5】注釈が付与された画像の一例を示す図である。
図6】画像処理装置の機能ブロック図である。
図7】画像処理装置で実行される処理の一例を示すフロー図である。
図8】他の注釈が既に付与されている画像の一例を示す図である。
図9】注釈が付与された画像の他の一例を示す図である。
図10】注釈が付与された画像の他の一例を示す図である。
図11】画像処理装置で実行される処理の他の一例を示すフロー図である。
図12】注釈入力画面の他の一例を示す図である。
図13A】注釈の類型の一例について説明するための図である。
図13B】注釈の類型の他の一例について説明するための図である。
図13C】注釈の類型の他の一例について説明するための図である。
図13D】注釈の類型の他の一例について説明するための図である。
図14】画像処理装置で実行される処理の他の一例を示すフロー図である。
図15】画像処理装置で実行される処理の他の一例を示すフロー図である。
図16】表示位置候補の一例を示す図である。
図17】画像処理装置で実行される処理の他の一例を示すフロー図である。
図18】表示位置候補の一例を示す図である。
図19】表示位置候補の一例を示す図である。
図20】表示位置候補の一例を示す図である。
【発明を実施するための形態】
【0027】
以下、本発明の実施形態の例について図面に基づき詳細に説明する。
【0028】
[第1実施形態]まず、本発明の第1実施形態について説明する。本発明の第1実施形態に係る画像処理装置は、例えばデスクトップ型コンピュータ、ラップトップ型コンピュータ、タブレット型コンピュータ、又はサーバコンピュータ等によって実現される。図1は、第1実施形態に係る画像処理装置10のハードウェア構成の一例を示す。
【0029】
図1に示すように、画像処理装置10は制御部11、記憶部12、光ディスクドライブ部13、通信インタフェース部14、操作部15、表示部16、及び音声出力部17を含む。
【0030】
制御部11は例えば1又は複数のマイクロプロセッサを含み、記憶部12に記憶されたオペレーティングシステム又はプログラムに従って情報処理を実行する。記憶部12は例えばRAM、ハードディスク、又はソリッドステートドライブを含む。光ディスクドライブ部13は、光ディスク(情報記憶媒体)に記憶されたプログラムやデータを読み取る。
【0031】
プログラムやデータは光ディスクを介して記憶部12に供給される。すなわち、プログラムやデータが記憶された光ディスクが光ディスクドライブ部13に装着され、プログラムやデータが光ディスクドライブ部13によって光ディスクから読み出され、記憶部12に記憶される。なお、光ディスクドライブ部13は必須の構成要素ではない。光ディスク以外の情報記憶媒体(例えばメモリカード)に記憶されたプログラム又はデータを読み取るための構成要素が光ディスクドライブ部13の代わりに含まれるようにしてもよい。そして、光ディスク以外の情報記憶媒体を介してプログラムやデータが記憶部12に供給されるようにしてもよい。
【0032】
通信インタフェース部14は画像処理装置10を通信ネットワークに接続するためのインタフェースである。画像処理装置10は通信ネットワークを介して他の装置(例えばサーバ等)とデータを授受できるようになっている。なお、プログラム及びデータは通信ネットワークを介して記憶部12に供給されるようにしてもよい。
【0033】
操作部15はユーザが操作を行うためのものである。例えば、操作部15は、文字を入力するためのキーボード又はボタンを含む。また、操作部15は、表示部16に表示される画面内の位置を指し示すためのポインティングデバイス(タッチパッド、マウス、又はスティック等)を含む。なお、いわゆるソフトウェアキーボードが表示部16に表示されるようにしてもよい。
【0034】
表示部16は例えば液晶表示ディスプレイ等であり、音声出力部17は例えばスピーカ又はヘッドホン端子等である。
【0035】
画像処理装置10はデータベース20にアクセスできるようになっている。データベース20は、画像処理装置10以外の装置(例えばサーバ)において実現されていてもよいし、画像処理装置10において実現されていてもよい。
【0036】
記憶部12又はデータベース20には画像が記憶される。図2は、記憶部12又はデータベース20に記憶される画像の一例を示す。図2に示す画像30には人32、ボール34、及び木36が写っている。
【0037】
画像処理装置10では、画像30に含まれる注釈対象(注釈を付与する対象)に注釈を付与できるようになっている。以下、注釈を付与するためにユーザが行う手順について説明する。
【0038】
注釈を付与する場合、まず、注釈対象を指定するための画面(以下「注釈対象指定画面」と呼ぶ。)が表示部16に表示される。なお、「注釈対象」とは、注釈を付与する対象(言い換えれば、注釈を関連づける対象)のことを意味している。例えば、画像30に含まれているオブジェクトが「注釈対象」に相当し得る。図2に示す画像30の場合、人32、ボール34、又は木36が「注釈対象」に相当し得る。
【0039】
図3は注釈対象指定画面40の一例を示す。図3に示すように、注釈対象指定画面40には画像30が表示される。また、注釈対象指定画面40には、注釈対象を指定するようにユーザに要求するメッセージ42が表示されており、注釈対象指定画面40では、ユーザによる注釈対象の指定が受け付けられる。
【0040】
注釈対象指定画面40において、ユーザはポインティングデバイス等を用いて注釈対象を指定する。画像30に写っている人32に関する注釈を入力する場合、ユーザは人32を注釈対象として指定する。例えば、ユーザは、人32が表示されている領域内の点を指し示したり、人32を囲むような軌跡を入力したりすることによって、人32を注釈対象として指定する。
【0041】
注釈対象が指定された場合、注釈を入力するための画面(以下「注釈入力画面」と呼ぶ。)が表示部16に表示される。図4は注釈入力画面の一例を示す。なお、図4に示す注釈入力画面50は、人32が注釈対象として指定された場合の注釈入力画面である。
【0042】
図4に示すように、注釈入力画面50には画像30が表示される。また、注釈入力画面50には、注釈を入力するようにユーザに要求するメッセージ52が表示されており、注釈入力画面50では、ユーザによる注釈の入力が受け付けられる。
【0043】
注釈入力画面50は入力欄54と登録ボタン56とを含んでいる。入力欄54には、ユーザがキーボード等を用いて入力した注釈が表示される。入力欄54は画像30内に表示される。入力欄54の表示位置は注釈対象(人32)の位置に基づいて決定される。例えば、注釈対象の付近の位置に入力欄54は表示される。ユーザは注釈対象に関する注釈を入力した後、登録ボタン56をクリックする。
【0044】
なお、注釈入力画面50では、注釈の表示色、表示サイズ(文字サイズ)や、書字方向(横書き又は縦書き)等もユーザが指定できるようにしてもよい。また、注釈入力画面50では、予め用意された複数の注釈のうちのいずれかをユーザが選択できるようにしてもよい。
【0045】
注釈入力画面50の登録ボタン56がクリックされると、ユーザによって指定された注釈対象やユーザによって入力された注釈に関するデータが画像30に関連づけて記憶部12又はデータベースに保存される。また、ユーザによって入力された注釈が付与された画像30が表示部16に表示される。
【0046】
図5は、ユーザによって入力された注釈が付与された画像30の一例を示す。図5に示す画像30では、ユーザによって入力された注釈62が、注釈対象である人32に関連づけて表示されている。なお、図5に示す画像30では、注釈62と注釈対象(人32)とを関連づける連結線60が表示されている。
【0047】
画像処理装置10では、ユーザによって入力された注釈が適切な位置に表示されるようになっている。以下、ユーザによって入力された注釈を適切な位置に表示するための技術について説明する。
【0048】
図6は、画像処理装置10において実現される機能ブロックのうち、本発明に関連する機能ブロックを示す機能ブロック図である。図6に示すように、画像処理装置10は画像取得部70、注釈対象情報取得部72、注釈情報取得部74、表示位置決定部76、及びデータ出力部78を含む。
【0049】
画像取得部70は記憶部12又はデータベース20に記憶された画像30を取得する。
【0050】
注釈対象情報取得部72は、画像30に含まれる注釈対象を指定する注釈対象情報を取得する。本実施形態の場合、注釈対象情報取得部72は、ユーザによって指定された注釈対象を示す注釈対象情報を取得する。例えば、注釈対象情報取得部72は、注釈対象指定画面40においてユーザが指し示した画像30内の位置を示す情報、又は、注釈対象指定画面40においてユーザが入力した軌跡を示す情報等を注釈対象情報として取得する。
【0051】
注釈情報取得部74は注釈を示す注釈情報を取得する。本実施形態の場合、注釈情報取得部74は、ユーザが入力(又は選択)した注釈を示す注釈情報を取得する。例えば、下記に示すような情報が注釈情報に含まれ得る。
・注釈を示すテキスト情報
・注釈の表示色を示す情報
・注釈の表示サイズ(文字サイズ)を示す情報
・注釈の書字方向(横書き又は縦書き)を示す情報
【0052】
表示位置決定部76は注釈の表示位置を決定する。表示位置決定部76は、画像30における注釈対象の位置又は領域に基づいて、注釈の表示位置を決定する。注釈の表示位置の決定方法の詳細については後述する(図7のステップS105等参照)。
【0053】
データ出力部78は、ユーザによって入力(又は選択)された注釈が表示位置決定部76によって決定された表示位置に表示された画像30のデータを出力する。例えば、データ出力部78は上記のデータを表示部16に表示させる。あるいは、データ出力部78は上記のデータを記憶部12又はデータベース20に出力(保存)する。
【0054】
次に、上記に説明した機能ブロックを実現するために画像処理装置10で実行される処理について説明する。図7は、注釈を画像30に付与する場合に画像処理装置10で実行される処理の一例を示すフロー図である。制御部11がプログラムに従って図7に示す処理を実行することによって、制御部11が画像取得部70、注釈対象情報取得部72、注釈情報取得部74、表示位置決定部76、及びデータ出力部78として機能するようになる。
【0055】
図7に示すように、まず、制御部11は画像30を記憶部12又はデータベース20から取得する(S101)。そして、制御部11は注釈対象指定画面40を表示部16に表示する(S102)。注釈対象指定画面40が表示されている間、制御部11は、注釈対象の指定が完了したか否かを監視する(S103)。
【0056】
注釈対象の指定が完了した場合、制御部11は、画像30における注釈対象の位置や領域を特定する(S104)。例えば、注釈対象指定画面40においてユーザが指し示した画像30内の位置や、注釈対象指定画面40においてユーザが入力した軌跡に基づいて、制御部11は、注釈対象の位置や領域を特定する。例えば、人32内の位置がユーザによって指し示された場合、制御部11は、ユーザによって指し示された位置に基づいて公知のオブジェクト領域検出処理を実行することによって、人32が表示された領域を検出し、該領域を注釈対象の領域として特定する。また例えば、人32を囲むような軌跡がユーザによって入力された場合、制御部11は、該軌跡によって囲まれた領域を注釈対象の領域として特定する。
【0057】
その後、制御部11は注釈の表示位置を決定する(S105)。なお、この時点では注釈は入力されていないが、本実施形態ではこの時点で注釈の表示位置が決定される。すなわち、本実施形態では、注釈が入力されるのに先立って、注釈の表示位置が決定される。
【0058】
注釈の表示位置は下記の情報(A)〜(H)の少なくとも一つに基づいて決定される。
(A)注釈対象の位置
(B)注釈対象の領域の形状又は大きさ
(C)注釈の長さ
(D)注釈の表示色
(E)注釈の表示サイズ
(F)注釈の書字方向
(G)画像30の画素のエッジ量
(H)画像30の顕著性マップ
【0059】
例えば、制御部11は注釈対象の位置に基づいて注釈の表示位置を決定する。
【0060】
具体的には、制御部11は、注釈対象からの距離が基準距離以下となるような位置を注釈の表示位置として決定する。ここで、「注釈対象からの距離」とは、注釈対象の代表点からの距離であってもよいし、注釈対象の領域の境界線からの距離であってもよい。
【0061】
また例えば、制御部11は注釈の長さ(文字数)又は/及び表示サイズ(文字サイズ)に基づいて注釈の表示位置を決定する。
【0062】
具体的には、注釈の長さが長い場合や注釈の表示サイズが大きい場合、制御部11は、比較的広い空き領域内の位置を注釈の表示位置として決定する。例えば、図2に示す画像30では、人32と画像30の左辺30Lとの間の領域は比較的狭くなっており、人32と画像30の上辺30Uとの間の領域は比較的広くなっている。このため、人32(注釈対象)に関連づける注釈の長さが長い場合や表示サイズが大きい場合、制御部11は、人32と画像30の上辺30Uとの間の領域内の位置を、注釈の表示位置として決定する。
【0063】
一方、注釈の長さが短い場合や注釈の表示サイズが小さい場合、制御部11は、比較的狭い空き領域内に注釈の表示位置を決定する場合がある。人32(注釈対象)に関連づける注釈の長さが短い場合や表示サイズが小さい場合、制御部11は、人32と画像30の左辺30Lとの間の領域内の位置を、注釈の表示位置として決定する場合がある。
【0064】
また例えば、制御部11は、注釈の書字方向と、注釈対象の領域の形状又は大きさと、に基づいて注釈の表示位置を決定する。
【0065】
具体的には、注釈の書字方向が「横書き」であり、かつ、注釈対象の領域が横長の形状を有している場合、制御部11は、注釈対象の上側又は下側の領域内の位置を注釈の表示位置として決定する。なお、注釈の長さが注釈対象の領域の横方向の長さと同等である場合、又は、注釈の長さが注釈対象の領域の横方向の長さよりも短い場合に限って、制御部11は、注釈対象の上側又は下側の領域内の位置を注釈の表示位置として決定するようにしてもよい。
【0066】
また、注釈の書字方向が「縦書き」であり、かつ、注釈対象の領域が縦長の形状を有している場合、制御部11は、注釈対象の左側又は右側の領域内の位置を注釈の表示位置として決定する。なお、注釈の長さが注釈対象の領域の縦方向の長さと同等である場合、又は、注釈の長さが注釈対象の領域の縦方向の長さよりも短い場合に限って、制御部11は、注釈対象の左側又は右側の領域内の位置を注釈の表示位置として決定するようにしてもよい。
【0067】
また例えば、制御部11は注釈の表示色に基づいて注釈の表示位置を決定する。具体的には、制御部11は、注釈の表示色との相性が良い色を有する領域内の位置を注釈の表示位置として決定する。すなわち、制御部11は、注釈の表示色との相性が良い色を有する領域を探し、そのような領域が見つかったら、該領域内の位置を注釈の表示位置として決定する。
【0068】
本実施形態では、色の模範組み合わせ(すなわち、相性が良い色の組み合わせ)に関する情報が記憶部12又はデータベース20に記憶されている。制御部11はこの情報を参照し、注釈の表示色と、画像30内の領域の色と、の相性が良いか否かを判定する。すなわち、制御部11は、注釈の表示色と、領域の色と、の組み合わせが上記の情報が示す組み合わせのいずれかに合致しているか否かを判定する。そして、注釈の表示色と、領域の色と、の組み合わせが上記の情報が示す組み合わせのいずれかに合致している場合に、制御部11は、注釈の表示色と、領域の色と、の相性が良いと判定する。なお、ここで、「領域の色」とは、領域内の画素の色値の平均であってもよいし、領域内の画素の色のうちで最も多い色であってもよい。
【0069】
また例えば、制御部11は画像30の各画素のエッジ量に基づいて注釈の表示位置を決定する。
【0070】
ここで、「エッジ」とは、画像30中で色が変化する度合いのことを意味しており、「画素のエッジ量」とは、画素と該画素の周辺画素との間の色相の差に関する量である。画素のエッジ量を算出するための手法としては公知の手法を用いることができる。例えば、Sobelフィルタを用いることができる。画素(x,y)における画素値をIx,yとした場合、画素(x,y)のエッジ量Sx,yは下記式(1)〜(3)によって算出される。
【0071】
【数1】
【0072】
なお、各画素の画素値Iは、各画素のRGB値をYC値に変換することによって取得される。RGB値からYC値への変換は下記式(4)によって行われる。ここでは、画素と該画素の周辺画素との間の色相の差に関する量を「画素のエッジ量」として用いるため、各画素のC,C値に基づいて各画素の画素値Iが算出される。例えば下記式(5)によって各画素の画素値Iが算出される。
【0073】
【数2】
【0074】
なお、「エッジ」は、画像30中で輝度が変化する度合いのことを意味してもよく、「画素のエッジ量」は、画素と該画素の周辺画素との間の輝度の差に関する量であってもよい。すなわち、上記式(4)によって算出される各画素のY値が各画素の画素値Iとして用いられるようにしてもよい。言い換えれば、各画素のY値が各画素の画素値Iとして上記式(1)〜(3)に代入されることによって、各画素のエッジ量が算出されるようにしてもよい。
【0075】
制御部11は、領域内に含まれる画素のエッジ量の合計値が基準値よりも小さい領域内の位置を注釈の表示位置として決定する。例えば、制御部11は、領域内に含まれる画素のエッジ量の合計値が基準値よりも小さいような所定サイズの領域を探し、そのような領域が見つかったら、該領域内の位置を注釈の表示位置として決定する。一般的に、画像30の特徴部分(例えば、被写体が写っている部分等)は色相又は輝度の変化が大きくなるため、エッジ量の合計値が基準値よりも小さい領域内の位置を注釈の表示位置として決定するようにすれば、画像30の特徴部分と重ならないようにして注釈を表示できるようになる。
【0076】
なお、制御部11は、領域内に含まれる画素のエッジ量の合計値が基準値よりも大きい領域内の位置を注釈の表示位置として決定するようにしてもよい。例えば、制御部11は、領域内に含まれる画素のエッジ量の合計値が基準値よりも大きいような所定サイズの領域を探し、そのような領域が見つかったら、該領域内の位置を注釈の表示位置として決定するようにしてもよい。このようにすることによって、画像30の特徴部分(目立つ部分)に注釈を表示するようにしてもよい。
【0077】
また例えば、制御部11は、画像30の顕著性マップを考慮して注釈の表示位置を決定する。なお、顕著性マップは公知の手法によって取得するようにすればよい。
【0078】
具体的には、制御部11は、顕著性が所定の基準よりも低い領域内の位置を注釈の表示位置として決定することによって、画像30の特徴部分(顕著性がある部分)と重ならないようにして注釈を表示するようにしてもよい。なお、制御部11は、顕著性が所定の基準よりも高い領域内の位置を注釈の表示位置として決定することによって、画像30の特徴部分(顕著性がある部分)に注釈を表示するようにしてもよい。
【0079】
ステップS105では、以上に説明したような条件の全部又は一部を満足するような位置が注釈の表示位置として決定される。なお、図7に示す処理では、注釈が入力される前に注釈の表示位置が決定されるようになっているため、注釈の長さ、表示色、表示サイズ、及び書字方向が所定の長さ、所定の表示色、所定の表示サイズ、及び所定の書字方向であるとの仮定の下で、注釈の表示位置が決定されることになる。
【0080】
ステップS105が実行された後、制御部11は注釈入力画面50を表示部16に表示する(S106)。注釈入力画面50では、ステップS105で決定された表示位置に入力欄54が表示される。
【0081】
なお、上述したように、図7に示す処理では、注釈が入力される前に注釈の表示位置(入力欄54の表示位置)が決定されるようになっているため、注釈の長さ(文字数)、表示色、表示サイズ、及び書字方向が所定の長さ(文字数)、所定の表示色、所定の表示サイズ、及び所定の書字方向であるとの仮定の下で、入力欄54の表示位置(注釈の表示位置)が決定されることになる。
【0082】
そこで、注釈入力画面50が表示されている間において、入力欄54に入力された文字数が所定の文字数に比べて多くなった場合には、入力欄54に入力された文字数に基づいて、入力欄54の表示位置(注釈の表示位置)の再決定が実行されるようにしてもよい。
【0083】
また、注釈の表示色として所定の表示色とは異なる色が指定された場合にも、入力欄54の表示位置(注釈の表示位置)の再決定が実行されるようにしてもよい。同様に、注釈の表示サイズとして所定の表示サイズとは異なる表示サイズが指定された場合や、注釈の書字方向として所定の書字方向とは異なる書字方向が指定された場合にも、入力欄54の表示位置(注釈の表示位置)の再決定が実行されるようにしてもよい。
【0084】
以上のように、ユーザの指定内容に応じて、入力欄54の表示位置(注釈の表示位置)の再決定を実行し、入力欄54の表示位置(注釈の表示位置)を変えるようにしてもよい。
【0085】
注釈入力画面50が表示されている間、制御部11は、注釈の入力が完了したか否かを監視する(S107)。すなわち、制御部11は登録ボタン56がクリックされたか否かを監視する。
【0086】
注釈の入力が完了した場合、制御部11は、注釈入力画面50の入力欄54に入力された注釈を取得する(S108)。そして、制御部11は、ステップS108で取得された注釈がステップS105で決定された表示位置に表示された画像30のデータを生成し、該データを出力する(S109)。例えば、制御部11は該データを表示部16に表示する。あるいは、制御部11は該データを記憶部12又はデータベース20に保存する。
【0087】
以上説明した第1実施形態に係る画像処理装置10によれば、注釈や注釈対象を考慮した最適な位置に注釈を表示することが可能になる。
【0088】
ところで、以上では、注釈が付与されていない画像30に注釈を付与する場合について説明した。しかしながら、他の注釈が既に画像30に付与されている場合もある。図8は、他の注釈が既に付与されている画像30の一例を示す。図8に示す画像30では、注釈64がボール34(注釈対象)に関連づけられており、注釈66が木36(注釈対象)に関連づけられている。
【0089】
ここで、他の注釈が既に付与されている画像30に新たに付与される注釈の表示位置を決定する方法について説明する。図9及び図10は、他の注釈64,66が既に付与されている画像30に新たに付与される注釈62の表示位置を決定する方法について説明するための図である。
【0090】
他の注釈64,66が既に画像30に付与されている場合、図7のステップS105において、制御部11は、新たに付与される注釈62の表示位置を下記に説明するようにして決定する。
【0091】
この場合、注釈62の表示位置は、先述の情報(A)〜(H)の少なくとも一つと、下記の情報(I)〜(K)の少なくとも一つと、に基づいて決定される。
(I)他の注釈64,66の表示位置
(J)他の注釈64,66に対応する注釈対象(ボール34,木36)の位置
(K)他の注釈64,66に対応する注釈対象(ボール34,木36)の領域の形状又は大きさ
【0092】
例えば、制御部11は、他の注釈64,66の表示位置に基づいて注釈62の表示位置を決定する。具体的には、制御部11は、注釈62が他の注釈64,66と重ならないような位置を注釈62の表示位置として決定する。あるいは、制御部11は、他の注釈64,66の表示位置からの距離が基準距離よりも大きくなるような位置を注釈62の表示位置として決定する。図9に示す例は、このようにして注釈62の表示位置が決定された場合について示している。
【0093】
また例えば、制御部11は、他の注釈64,66に対応する注釈対象(ボール34,木36)の位置又は領域に基づいて、注釈62の表示位置を決定する。具体的には、制御部11は、他の注釈64,66に対応する注釈対象(ボール34,木36)からの距離が基準距離よりも大きくなるような位置を注釈62の表示位置として決定する。
【0094】
なお、図7のステップS105において、制御部11は、他の注釈64,66を考慮することなく、注釈62の表示位置を決定するようにしてもよい。そして、制御部11は、注釈62の表示位置に基づいて、他の注釈64,66の表示位置を変更するようにしてもよい。図10に示す例では、注釈62の表示領域と、注釈66の元々の表示領域(図8参照)が重なるため、注釈66の表示位置が、注釈62と重ならないような位置に変更されている。言い換えれば、注釈66の表示位置が、注釈62からの距離が基準距離よりも大きくなるような位置に変更されている。
【0095】
あるいは、図7のステップS105において、制御部11は、注釈62,64,66の表示位置の組み合わせとして複数種類の組み合わせを取得するようにしてもよい。また、制御部11はそれらの組み合わせの各々の評価値を算出するようにしてもよい。そして、制御部11は、それらの評価値に基づいていずれかの組み合わせを選出し、選出された組み合わせに基づいて、注釈62,64,66の表示位置を決定するようにしてもよい。
【0096】
なお、この場合、注釈62,64,66の表示位置は上記の情報(A)〜(H)の少なくとも一つに基づいてそれぞれ決定される。また、組み合わせの評価値は例えば下記のような指標の少なくとも一つに基づいて算出される。
・注釈と注釈対象との間の距離(距離が短いほど、評価が高くなる。)
・注釈と他の注釈との間の距離(距離が長いほど、評価が高くなる。)
・注釈の表示色と該注釈の表示位置の色との相性(相性が良いほど、評価が高くなる。)
・注釈の表示位置のエッジ量(エッジ量が小さいほど、評価が高くなる。)
・注釈の表示位置の顕著性(顕著性が低いほど、評価が高くなる。)
【0097】
[第2実施形態]本発明の第2実施形態について説明する。以下に説明する相違点を除いて、第2実施形態に係る画像処理装置10は第1実施形態と同様である。
【0098】
第1実施形態に係る画像処理装置10では、注釈が入力される前に(言い換えれば、注釈入力画面50が表示される前に)、注釈の表示位置が決定されるようになっていたが(図7のステップS105参照)、第2実施形態に係る画像処理装置10では、注釈が入力された後に、注釈の表示位置が決定されるようになっている。この点で第2実施形態に係る画像処理装置10は第1実施形態と異なっている。
【0099】
第2実施形態に係る画像処理装置10で実行される処理について説明する。図11は、第2実施形態に係る画像処理装置10で実行される処理の一例を示すフロー図である。第2実施形態に係る画像処理装置10では、図7に示す処理に代えて、図11に示す処理が実行される。
【0100】
図11のステップS201〜S204は図7のステップS101〜S104と同様である。このため、ここでは説明を省略する。
【0101】
ステップS204の処理が実行された後、制御部11は注釈入力画面50を表示部16に表示する(S205)。図12は、ステップS205において表示される注釈入力画面50の一例を示す。図12に示す注釈入力画面50は、入力欄54が画像30外の所定位置に表示される点で、図4に示す注釈入力画面50と異なっている。
【0102】
注釈入力画面50が表示されている間、制御部11は注釈の入力が完了したか否かを監視する(S206)。ステップS206は図7のステップS107と同様である。
【0103】
注釈の入力が完了した場合、制御部11は、注釈入力画面50の入力欄54に入力された注釈を取得する(S207)。そして、制御部11は、ステップS207で取得された注釈の表示位置を決定する(S208)。基本的に、ステップS208で実行される処理は図7のステップS105と同様である。ただし、ステップS105と異なり、ステップS208が実行される時点では注釈が既に入力されているため、ステップS208では、実際に入力された注釈の長さ、表示色、表示サイズ、及び書字方向の少なくとも一つに基づいて、注釈の表示位置が決定される。
【0104】
ステップS208の処理が実行された後、制御部11は、ステップS207で取得された注釈がステップS208で決定された表示位置に表示された画像30のデータを出力する(S209)。例えば、制御部11は該データを表示部16に表示する。あるいは、制御部11は該データを記憶部12又はデータベース20に保存する。
【0105】
なお、図11に示す処理では、注釈の入力が完了した後にステップS207,S208が実行されるようになっていたが、注釈の入力中においてもステップS207,S208が実行されるようにしてもよい。すなわち、注釈入力画面50の入力欄54に文字が入力されるごとに、その時点で入力欄54に入力されている注釈(すなわち、入力途中の注釈)に基づいて、ステップS207,S208が実行されるようにしてもよい。
【0106】
以上説明した第2実施形態に係る画像処理装置10によれば、第1実施形態に係る画像処理装置10と同様、注釈や注釈対象を考慮した最適な位置に注釈を表示することが可能になる。
【0107】
なお、第2実施形態に係る画像処理装置10においても、他の注釈が既に画像30に付与されている場合がある(図8参照)。このような場合、図11のステップS208では、先述の情報(A)〜(K)の少なくとも一つに基づいて、注釈の表示位置を決定するようにすればよい(図9,10参照)。
【0108】
[第3実施形態]本発明の第3実施形態について説明する。以下に説明する相違点を除いて、第3実施形態に係る画像処理装置10は第1実施形態と同様である
【0109】
第3実施形態に係る画像処理装置10では、注釈の入力が完了する前において注釈の複数の表示位置候補が取得され、注釈の入力が完了した後において、該注釈の表示位置として、それら複数の表示位置候補のうちのいずれかが選択されるようになっている。この点で第3実施形態に係る画像処理装置10は第1実施形態と異なっている。
【0110】
第3実施形態に係る画像処理装置10では、複数種類の注釈の類型(分類)が予め定義される。図13A図13B図13C、及び図13Dは注釈の類型の例について示す。図13A〜13Dでは、複数種類の類型が定義されており、各類型に属する注釈の特徴が記載されている。
【0111】
図13Aに示す例では注釈の長さ(文字数)に基づいて注釈の類型が設定されている。図13Aにおける「第1の類型」は、長さが5文字以内である注釈が属する類型である。また、「第2の類型」は、長さが6文字以上10文字以下である注釈が属する類型であり、「第3の類型」は、長さが11文字以上である注釈が属する類型である。
【0112】
図13Bに示す例では注釈の表示色に基づいて注釈の類型が設定されている。図13Bにおける「第1の類型」は、表示色が黒色である注釈が属する類型である。また、「第2の類型」は、表示色が赤色である注釈が属する類型であり、「第3の類型」は、表示色が青色である注釈が属する類型である。
【0113】
図13Cに示す例では注釈の表示サイズに基づいて注釈の類型が設定されている。図13Bにおける「第1の類型」は、表示サイズがP1未満である注釈が属する類型である。「第2の類型」は、表示サイズがP1以上P2未満である注釈が属する類型であり、「第3の類型」は、表示サイズがP2以上である注釈が属する類型である。なお、「P1」及び「P2」は所定の表示サイズ(文字サイズ)を示している。
【0114】
図13Dに示す例では注釈の書字方向に基づいて注釈の類型が設定されている。図13Dにおける「第1の類型」は、横書きの注釈が属する類型であり、「第2の類型」は、縦書きの注釈が属する類型である。
【0115】
なお、注釈の類型(分類)は、注釈の長さ、表示色、表示サイズ、及び書字方向のうちの複数に基づいて設定されるようにしてもよい。すなわち、図13A〜13Dのうちの複数を組み合わせたような類型が設定されるようにしてもよい。
【0116】
第3実施形態に係る画像処理装置10で実行される処理について説明する。図14は、第3実施形態に係る画像処理装置10で実行される処理の一例を示すフロー図である。第3実施形態に係る画像処理装置10では、図7に示す処理に代えて、図14に示す処理が実行される。なお、以下では、図13Aに示す類型が定義されていることとして、図14に示す処理について説明する。
【0117】
図14のステップS301〜S304は図7のステップS101〜S104と同様である。このため、ここでは説明を省略する。
【0118】
ステップS304が実行された後、制御部11は、注釈対象に付与される注釈の表示位置候補を取得する(S305)。図15はステップS305で実行される処理の一例を示すフロー図である。
【0119】
図15に示すように、まず、制御部11は変数iを1に初期化する(S401)。そして、制御部11は第iの表示位置候補を取得する(S402)。例えば、制御部11は、注釈対象に付与される注釈が第iの類型に属すると想定した場合における該注釈の表示位置を決定する。注釈の表示位置を決定する処理自体は、図7のステップS105や図11のステップS208と同様である。そして、制御部11は、上記の表示位置を、第iの類型に対応する表示位置候補(すなわち、第iの表示位置候補)として取得する。
【0120】
例えば、変数iが1である場合、制御部11は、注釈対象に付与される注釈の長さが5文字以下であるとの仮定の下で、該注釈の表示位置を決定し、該表示位置を第1の表示位置候補として取得する。
【0121】
ステップS402が実行された後、制御部11は、ステップS402で取得された第iの表示位置候補を記憶部12に記憶する。その後、制御部11は変数iに1を加算し(S403)、変数iが3以下であるか否かを判定する(S404)。ここで、「3」は注釈の類型の種類の総数である(図13A参照)。
【0122】
ステップS403による加算後の変数iが3以下である場合、制御部11は第iの表示位置候補を取得する(S402)。例えば、変数iが2である場合、制御部11は、注釈対象に付与される注釈の長さが6文字以上10文字以下であるとの仮定の下で、該注釈の表示位置を決定し、該表示位置を第2の表示位置候補として取得する。また例えば、変数iが3である場合、制御部11は、注釈対象に付与される注釈の長さが11文字以上であるとの仮定の下で、該注釈の表示位置を決定し、該表示位置を第3の表示位置候補として取得する。一方、変数iが3以下でない場合、制御部11は本処理を終了する。
【0123】
図15に示す処理が終了した時点では第1〜第3の表示位置候補が取得されている。図16は、第1〜第3の表示位置候補の一例を示す。図16において、表示位置候補82Aは第1の表示位置候補を示す。また、表示位置候補82Bは第2の表示位置候補を示し、表示位置候補82Cは第3の表示位置候補を示す。
【0124】
例えば、表示位置候補82Aは、注釈が第1の類型に属すると想定した場合に取得される表示位置候補である。第1の類型は長さが短い注釈が属する類型であるため(図13A参照)、表示位置候補82Aは、注釈の長さが短いとの仮定の下で取得された表示位置候補である。このため、表示位置候補82Aは比較的狭い空き領域に設定されている。
【0125】
また例えば、表示位置候補82Cは、注釈が第3の類型に属すると想定した場合に取得される表示位置候補である。第3の類型は長さが長い注釈が属する類型であるため、表示位置候補82Cは、注釈の長さが長いとの仮定の下で取得された表示位置候補である。このため、表示位置候補82Cは比較的広い空き領域に設定されている。
【0126】
図15に示す処理(すなわち、図14のステップS305)が完了された場合、図14に示すように、制御部11は注釈入力画面50を表示部16に表示する(S306)。例えば、制御部11は、図12に示すような注釈入力画面50を表示部16に表示する。
【0127】
注釈入力画面50が表示されている間、制御部11は注釈の入力が完了したか否かを監視する(S307)。ステップS307は図7のステップS107と同様である。
【0128】
注釈の入力が完了した場合、制御部11は、注釈入力画面50の入力欄54に入力された注釈を取得する(S308)。そして、制御部11は、ステップS308で取得された注釈の表示位置を決定する(S309)。図17はステップS309で実行される処理の一例を示すフロー図である。
【0129】
図17に示すように、まず、制御部11は変数iを1に初期化する(S501)。そして、制御部11は、ステップS308で取得された注釈が第iの類型に属するか否かを判定する(S502)。例えば、変数iが1である場合、制御部11は、ステップS308で取得された注釈の長さ(文字数)が5文字以下であるか否かを判定する。そして、ステップS308で取得された注釈の長さが5文字以下である場合、制御部11は、ステップS308で取得された注釈が第1の類型に属すると判定する。
【0130】
ステップS308で取得された注釈が第iの類型に属しない場合、制御部11は変数iに1を加算し(S503)、変数iが3以下であるか否かを判定する(S504)。ここで、「3」は注釈の類型の種類の総数である。
【0131】
変数iが3以下であると判定された場合、制御部11はステップS502を再実行する。一方、変数iが3以下でないと判定される場合とは、ステップS308で取得された注釈が第1〜第3の類型のいずれにも属しない場合である。このような場合、制御部11はエラーメッセージを表示部16に表示し(S506)、本処理を終了する。この場合、制御部11は後述のステップS310を実行することなく、図14に示す処理を終了する。なお、注釈が第1〜第3の類型のいずれかに必ず属するように第1〜第3の類型が設定されているのであれば、ステップS506は不要である。
【0132】
ステップS502において、ステップS308で取得された注釈が第iの類型に属すると判定された場合、制御部11は、第iの表示位置候補に基づいて、ステップS308で取得された注釈の表示位置を決定する。すなわち、制御部11は、第iの表示位置候補を、ステップS308で取得された注釈を表示位置として決定する(S505)。そして、制御部11は本処理を終了し、図14のステップS310を実行する。
【0133】
ステップS309(すなわち、図17に示す処理)が完了された場合、制御部11は、ステップS308で取得された注釈がステップS309で決定された表示位置に表示された画像30のデータを出力する(S310)。例えば、制御部11は該データを表示部16に表示する。あるいは、制御部11は該データを記憶部12又はデータベース20に保存する。
【0134】
以上説明した第3実施形態に係る画像処理装置10によれば、第1実施形態に係る画像処理装置10と同様、注釈や注釈対象を考慮した最適な位置に注釈を表示することが可能になる。
【0135】
なお、第3実施形態に係る画像処理装置10においても、他の注釈が既に画像30に付与されている場合がある(図8参照)。他の注釈が既に画像30に付与されている場合、図15のステップS402では下記に説明するような処理が実行される。なお、ここでは、他の注釈64,66が既に付与されている画像30に注釈(図9,10における注釈62)が新たに付与される場合を想定する。
【0136】
ステップS402において、制御部11は、第iの類型に対応する表示位置候補の組み合わせ(第iの表示位置候補の組み合わせ)を取得する。
【0137】
例えば変数iが1である場合、制御部11は第1の類型に対応する表示位置候補の組み合わせ(第1の表示位置候補の組み合わせ)を取得する。すなわち、制御部11は、新たに付与される注釈が第1の類型に属する場合を想定して、新たに付与される注釈の表示位置候補と、既に付与されている他の注釈64,66の表示位置候補と、の組み合わせを取得する。
【0138】
図18は第1の表示位置候補の組み合わせの一例を示す。図18において、表示位置候補82Aは、新たに付与される注釈の第1の表示位置候補を示している。表示位置候補84Aは、ボール34に対して既に付与されている注釈64の第1の表示位置候補を示し、表示位置候補86Aは、木36に対して既に付与されている注釈66の第1の表示位置候補を示している。
【0139】
例えば、制御部11は、新たに付与される注釈が第1の類型に属するとの想定の下で、該注釈の表示位置を決定し、該表示位置を、新たに付与される注釈の表示位置候補82Aとして取得する。第1の類型は、5文字以下の注釈が属する類型であるため(図13A参照)、表示位置候補82Aは、新たに付与される注釈が5文字以下の注釈であるとの仮定の下で取得される表示位置候補である。
【0140】
表示位置候補82Aが取得された後、制御部11は注釈64の表示位置候補84Aを表示位置候補82Aに基づいて取得する。注釈64の元々の表示領域(図8参照)は表示位置候補82Aと重なっていないため、例えば、制御部11は注釈64の元々の表示位置を表示位置候補84Aとして取得する。
【0141】
表示位置候補82A,84Aが取得された後、制御部11は注釈66の表示位置候補86Aを表示位置候補82A,84Aに基づいて取得する。注釈66の元々の表示領域(図8参照)は表示位置候補82A,84Aと重なっていないため、例えば、制御部11は注釈66の元々の表示位置を表示位置候補86Aとして取得する。
【0142】
また例えば変数iが2である場合、制御部11は、第2の類型に対応する表示位置候補の組み合わせ(第2の表示位置候補の組み合わせ)を取得する。すなわち、制御部11は、新たに付与される注釈が第2の類型に属する場合を想定して、新たに付与される注釈の表示位置候補と、既に付与されている他の注釈64,66の表示位置候補と、の組み合わせを取得する。
【0143】
図19は第2の表示位置候補の組み合わせの一例を示す。図19において、表示位置候補82Bは、新たに付与される注釈の第2の表示位置候補を示している。表示位置候補84Bは、ボール34に対して既に付与されている注釈64の第2の表示位置候補を示し、表示位置候補86Bは、木36に対して既に付与されている注釈66の第3の表示位置候補を示している。
【0144】
例えば、制御部11は、新たに付与される注釈が第2の類型に属するとの想定の下で、該注釈の表示位置を決定し、該表示位置を、新たに付与される注釈の表示位置候補82Bとして取得する。第2の類型は、6文字以上10文字以下の注釈が属する類型であるため、表示位置候補82Bは、新たに付与される注釈が6文字以上10文字以下の注釈であるとの仮定の下で取得される表示位置候補である。
【0145】
表示位置候補82Bが取得された後、制御部11は注釈64の表示位置候補84Bを表示位置候補82Bに基づいて取得する。注釈64の元々の表示領域(図8参照)は表示位置候補82Bと重なっているため、例えば、制御部11は、注釈64の元々の表示位置とは異なる位置を表示位置候補84Bとして取得する。すなわち、制御部11は、表示位置候補82Bと重ならないような位置を表示位置候補84Bとして取得する。
【0146】
表示位置候補82B,84Bが取得された後、制御部11は注釈66の表示位置候補86Bを表示位置候補82B,84Bに基づいて取得する。注釈66の元々の表示領域(図8参照)は表示位置候補82B,84Bと重なっていないため、例えば、制御部11は注釈66の元々の表示位置を表示位置候補86Bとして取得する。
【0147】
例えば変数iが3である場合、制御部11は、第3の類型に対応する表示位置候補の組み合わせ(第3の表示位置候補の組み合わせ)を取得する。すなわち、制御部11は、新たに付与される注釈が第3の類型に属する場合を想定して、新たに付与される注釈の表示位置候補と、既に付与されている他の注釈64,66の表示位置候補と、の組み合わせを取得する。
【0148】
図20は第3の表示位置候補の組み合わせの一例を示す。図20において、表示位置候補82Cは、新たに付与される注釈の第3の表示位置候補を示している。表示位置候補84Cは、ボール34に対して既に付与されている注釈64の第3の表示位置候補を示し、表示位置候補86Cは、木36に対して既に付与されている注釈66の第3の表示位置候補を示している。
【0149】
例えば、制御部11は、新たに付与される注釈が第3の類型に属するとの想定の下で、該注釈の表示位置を決定し、該表示位置を、新たに付与される注釈の表示位置候補82Cとして取得する。第3の類型は11文字以上の注釈が属する類型であるため、表示位置候補82Cは、新たに付与される注釈が11文字以上の注釈であるとの仮定の下で取得される表示位置候補である。
【0150】
表示位置候補82Cが取得された後、制御部11は注釈64の表示位置候補84Cを表示位置候補82Cに基づいて取得する。注釈64の元々の表示領域(図8参照)は表示位置候補82Cと重なっていないため、例えば、制御部11は注釈64の元々の表示位置を表示位置候補84Cとして取得する。
【0151】
表示位置候補82C,84Cが取得された後、制御部11は注釈66の表示位置候補86Cを表示位置候補82C,84Cに基づいて取得する。注釈66の元々の表示領域(図8参照)は表示位置候補82Cと重なっているため、例えば、制御部11は注釈66の元々の表示位置とは異なる位置を表示位置候補86Cとして取得する。すなわち、制御部11は、表示位置候補82Cと重ならないような位置を表示位置候補86Cとして取得する。
【0152】
他の注釈が既に画像30に付与されている場合、図17のステップS505では下記に説明するような処理が実行される。なお、ここでも、他の注釈64,66が既に付与されている画像30に注釈(図9,10における注釈62)が新たに付与される場合を想定する。
【0153】
すなわち、制御部11は、第iの表示位置候補の組み合わせに基づいて、新たに付与される注釈の表示位置と、既に付与されている他の注釈64,66の表示位置と、を決定する。
【0154】
例えば、変数iが3であり、かつ、ステップS308で取得された注釈が第3の類型に属するとステップS502において判定された場合、制御部11は、第3の表示位置候補の組み合わせ(図20参照)に基づいて、ステップS308で取得された注釈と、既に付与されている他の注釈64,66の表示位置と、を決定する。
【0155】
具体的には、制御部11は、表示位置候補82Cを、ステップS308で取得された注釈の表示位置として決定する。同様に、制御部11は、表示位置候補84Cを注釈64の表示位置として決定する。また、制御部11は、表示位置候補86Cを注釈66の表示位置として決定する。その結果、図14のステップS310では、図10に示すような画像30のデータが出力されることになる。
【0156】
なお、本発明は以上に説明した第1〜第3実施形態に限定されるものではない。
【0157】
例えば、画像処理装置10は、下記に説明するような処理を予め実行しておくようにしてもよい。
【0158】
すなわち、制御部11は画像30内に含まれる注釈対象候補を予め検出する。ここで、「注釈対象候補」とは、注釈対象としてユーザに指定される可能性があるものを意味している。なお、注釈対象候補の検出方法としては公知の方法を利用することが可能である。
【0159】
例えば、オブジェクト領域検出アルゴリズムによって、画像30内に含まれるオブジェクト領域を検出し、該オブジェクト領域を注釈対象候補として検出するようにしてもよい。
【0160】
また例えば、顔認識アルゴリズムによって、画像30内に含まれる顔領域を検出し、該顔領域を注釈対象候補として検出するようにしてもよい。
【0161】
また例えば、画像30の画素のエッジ量に基づいて、注釈対象候補を検出するようにしてもよい。具体的には、領域内に含まれる画素のエッジ量の合計値が基準値よりも高いような所定サイズの領域を探し、そのような領域が見つかった場合には該領域を注釈対象候補として検出するようにしてもよい。
【0162】
また例えば、画像30の顕著性マップに基づいて、注釈対象候補を検出するようにしてもよい。より具体的には、顕著性が所定の基準よりも高い領域を探し、そのような領域が見つかった場合には該領域を注釈対象候補として検出するようにしてもよい。
【0163】
以上のようにして注釈対象候補が検出された場合、制御部11は、注釈対象候補が注釈対象として指定され、かつ、該注釈対象に関する注釈が入力された場合を想定して、注釈の表示位置を決定する。なお、この際、注釈の長さ、表示色、表示サイズ、及び書字方向は所定の長さ、所定の表示色、所定の表示サイズ、及び所定の書字方向であると想定して、注釈の表示位置が決定される。
【0164】
このようにして決定された表示位置は、注釈対象候補に関連づけて記憶部12又はデータベース20に保存され、例えば図7のステップS105において用いられる。
【0165】
例えば、図7のステップS105において、制御部11は、ユーザによって指定された注釈対象が予め検出された注釈対象候補に対応しているか否かを判定する。そして、ユーザによって指定された注釈対象が予め検出された注釈対象候補に対応している場合、制御部11は、該注釈対象候補に関連づけて記憶されている表示位置に基づいて、注釈の表示位置を決定する。例えば、制御部11は、注釈対象候補に関連づけて記憶されている表示位置を注釈の表示位置として決定する。
【符号の説明】
【0166】
10 画像処理装置、11 制御部、12 記憶部、13 光ディスクドライブ部、14 通信インタフェース部、15 操作部、16 表示部、17 音声出力部、20 データベース、30 画像、32 人、34 ボール、36 木、40 注釈対象指定画面、42,52 メッセージ、50 注釈入力画面、54 入力欄、56 登録ボタン、62,64,66 注釈、70 画像取得部、72 注釈対象情報取得部、74 注釈情報取得部、76 表示位置決定部、78 データ出力部、82A,82B,82C,84A,84B,84C,86A,86B,86C 表示位置候補。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13A
図13B
図13C
図13D
図14
図15
図16
図17
図18
図19
図20