(58)【調査した分野】(Int.Cl.,DB名)
前記関連情報記憶手段に記憶されている画像データに、前記撮像画像と類似する画像データが複数存在する場合には、前記関連情報送信手段は、前記撮像画像と最も類似する画像データの関連情報を、前記携帯情報端末に送信すること
を特徴とする請求項1乃至4のいずれか1項に記載の情報処理システム。
撮像装置を備える携帯情報端末と、前記携帯情報端末と通信可能に接続され、画像データと、当該画像データに対応付けた複数の言語ごとに関連情報とを記憶する関連情報記憶手段を備えるサーバとを含む情報処理システムにおける処理方法であって、
前記携帯情報端末が、
前記撮像装置で撮像された撮像画像を取得する撮像画像取得ステップと、
前記携帯情報端末の表示言語として設定されているユーザ言語情報を取得する言語情報取得ステップと、
前記サーバに、前記撮像画像取得ステップにより取得された撮像画像と、前記言語情報取得ステップにより取得されたユーザ言語情報とを送信する撮像画像送信ステップと
を実行し、
前記サーバが、
前記撮像画像送信ステップで送信された撮像画像とユーザ言語情報とを受信する撮像画像受信ステップと、
前記関連情報記憶手段に記憶されている画像データに、前記撮像画像受信ステップで受信した撮像画像と類似する画像データが存在するかを判定する類似画像判定ステップと、
前記類似画像判定ステップで存在すると判定した場合に、当該類似すると判定した前記関連情報記憶手段に記憶されている画像データに対応する関連情報のうち、前記ユーザの言語情報から特定される言語に対応する関連情報を取得する関連情報取得ステップと、
前記関連情報取得ステップで取得した関連情報を、前記携帯情報端末に送信する関連情報送信ステップと、
前記類似画像判定ステップで存在しないと判定した場合に、前記撮像画像に対して文字認識処理を行う文字認識ステップと、
前記文字認識ステップによる文字認識処理が行われることで生成されたテキスト情報を前記携帯情報端末に送信するテキスト情報送信ステップと
を実行し、
前記携帯情報端末は、
前記関連情報送信ステップで送信された関連情報を受信し表示する関連情報表示ステップ
を実行することを特徴とする処理方法。
撮像装置を備える携帯情報端末と通信可能に接続され、画像データと、当該画像データに対応付けた複数の言語ごとに関連情報とを記憶する関連情報記憶手段を備えるサーバにおける処理方法であって、
前記サーバが、
前記携帯情報端末から、前記撮像装置で撮像された撮像画像と前記携帯情報端末の表示言語として設定されているユーザ言語情報とを受信する撮像画像受信ステップと、
前記関連情報記憶手段に記憶されている画像データに、前記撮像画像受信ステップで受信した撮像画像と類似する画像データが存在するかを判定する類似画像判定ステップと、
前記類似画像判定ステップで存在すると判定した場合に、当該類似すると判定した前記関連情報記憶手段に記憶されている画像データに対応する関連情報のうち、前記ユーザの言語情報から特定される言語に対応する関連情報を取得する関連情報取得ステップと、
前記関連情報取得ステップで取得した関連情報を、前記携帯情報端末に送信する関連情報送信ステップと、
前記類似画像判定ステップで存在しないと判定した場合に、前記撮像画像に対して文字認識処理を行う文字認識ステップと、
前記文字認識ステップによる文字認識処理が行われることで生成されたテキスト情報を前記携帯情報端末に送信するテキスト情報送信ステップと
を実行することを特徴とする処理方法。
撮像装置を備える携帯情報端末と、前記携帯情報端末と通信可能に接続され、画像データと、当該画像データに対応付けた複数の言語ごとに関連情報とを記憶する関連情報記憶手段を備えるサーバとを含む情報処理システムで実行可能なプログラムであって、
前記携帯情報端末を、
前記撮像装置で撮像された撮像画像を取得する撮像画像取得手段と、
前記携帯情報端末の表示言語として設定されているユーザ言語情報を取得する言語情報取得手段と、
前記サーバに、前記撮像画像取得手段により取得された撮像画像と、前記言語情報取得手段により取得されたユーザ言語情報とを送信する撮像画像送信手段
として機能させ、
前記サーバを、
前記撮像画像送信手段で送信された撮像画像とユーザ言語情報とを受信する撮像画像受信手段と、
前記関連情報記憶手段に記憶されている画像データに、前記撮像画像受信手段で受信した撮像画像と類似する画像データが存在するかを判定する類似画像判定手段と、
前記類似画像判定手段で存在すると判定した場合に、当該類似すると判定した前記関連情報記憶手段に記憶されている画像データに対応する関連情報のうち、前記ユーザの言語情報から特定される言語に対応する関連情報を取得する関連情報取得手段と、
前記関連情報取得手段で取得した関連情報を、前記携帯情報端末に送信する関連情報送信手段と、
前記類似画像判定手段で存在しないと判定した場合に、前記撮像画像に対して文字認識処理を行う文字認識手段と、
前記文字認識手段による文字認識処理が行われることで生成されたテキスト情報を前記携帯情報端末に送信するテキスト情報送信手段
として機能させ、
前記携帯情報端末を、
前記関連情報送信手段で送信された関連情報を受信し表示する関連情報表示手段
として機能させることを特徴とするプログラム。
撮像装置を備える携帯情報端末と通信可能に接続され、画像データと、当該画像データに対応付けた複数の言語ごとに関連情報とを記憶する関連情報記憶手段を備えるサーバで実行可能なプログラムであって、
前記サーバを、
前記携帯情報端末から、前記撮像装置で撮像された撮像画像と前記携帯情報端末の表示言語として設定されているユーザ言語情報とを受信する撮像画像受信手段と、
前記関連情報記憶手段に記憶されている画像データに、前記撮像画像受信手段で受信した撮像画像と類似する画像データが存在するかを判定する類似画像判定手段と、
前記類似画像判定手段で存在すると判定した場合に、当該類似すると判定した前記関連情報記憶手段に記憶されている画像データに対応する関連情報のうち、前記ユーザの言語情報から特定される言語に対応する関連情報を取得する関連情報取得手段と、
前記関連情報取得手段で取得した関連情報を、前記携帯情報端末に送信する関連情報送信手段と、
前記類似画像判定手段で存在しないと判定した場合に、前記撮像画像に対して文字認識処理を行う文字認識手段と、
前記文字認識手段による文字認識処理が行われることで生成されたテキスト情報を前記携帯情報端末に送信するテキスト情報送信手段
として機能させることを特徴とするプログラム。
【発明を実施するための形態】
【0014】
以下、図面を参照して、本発明の実施の形態の一例について説明する。
【0015】
図1は、本発明の情報処理システムのシステム構成の一例を示す図である。
図1に示す通り、本発明の情報処理システムは、管理サーバ101、複数台の携帯情報端末102、通信ネットワーク103等を備えて構成されている。
【0016】
管理サーバ101は、画像データに関連情報を対応付けてデータテーブルで記憶管理しており、携帯情報端末102から送信される、画像データの関連情報取得要求に応じて、携帯情報端末102から送信された画像データと類似のデータテーブルで記憶管理している画像データを検索し、類似した画像データの関連情報として登録されている情報を携帯情報端末102に送信する機能を有している。その時、携帯情報端末102での言語設定に合わせた形で、関連情報を提供する。すなわち、携帯情報端末102の言語設定が英語であれば英語の関連情報を、日本語であれば日本語の関連情報を携帯情報端末に送信する。
【0017】
また、携帯情報端末102から送信される画像データに対して文字認識処理を行い、その結果得られたテキスト情報を携帯情報端末の言語設定で選択されている言語に翻訳する機能を有している。その結果得られるテキスト情報を、携帯情報端末102に対して送信する。
【0018】
携帯情報端末102は、カメラ機能を有しており、カメラを用いて被写体を撮影することで、画像データを生成することが可能である。また、カメラで撮影される等により得られる画像データを管理サーバ101に送信することで、管理サーバ102に対して画像データの関連情報の取得要求を行う装置である。例えば、スマートフォンやタブレット端末等である。
【0019】
通信ネットワーク103は、管理サーバ101と携帯情報端末102とを通信可能に接続するためのインターネット等のネットワークである。接続形態は、有線/無線を問わない。
【0020】
以上が、本発明の情報処理システムのシステム構成の一例の説明である。
【0021】
次に、
図2を参照して、
図1の管理サーバ101に適用可能な情報処理装置のハードウェア構成の一例について説明する。
【0022】
図2において、201はCPUで、システムバス204に接続される各デバイスやコントローラを統括的に制御する。また、ROM203あるいは外部メモリ211には、CPU201の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、管理サーバ101が実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。
【0023】
202はRAMで、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM203あるいは外部メモリ211からRAM202にロードして、該ロードしたプログラムを実行することで各種動作を実現するものである。
【0024】
また、205は入力コントローラで、キーボードやポインティングデバイス等の入力装置209からの入力を制御する。206はビデオコントローラで、ディスプレイ装置210等の表示器への表示を制御する。これらは必要に応じて操作者が使用するものである。
【0025】
207はメモリコントローラで、ブートプログラム,各種のアプリケーション,フォントデータ,ユーザファイル,編集ファイル,各種データ等を記憶するハードディスク(HD)や、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等の外部メモリ211へのアクセスを制御する。
【0026】
208は通信I/F(インタフェース)コントローラで、ネットワーク(例えば、
図1に示したLAN107)を介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信等が可能である。
【0027】
なお、CPU201は、例えばRAM202内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、ディスプレイ装置210上での表示を可能としている。また、CPU201は、ディスプレイ装置210上の不図示のマウスカーソル等でのユーザ指示を可能とする。
【0028】
CPU201を、後述する
図4に示す各手段として機能させるためのプログラムは外部メモリ211に記録されている。そして、CPU301は、必要に応じてRAM202にロードし、当該プログラムを実行する。CPU201は、当該プログラムに従った制御を実行することで、後述するフローチャートに示す各ステップの処理を実行する。さらに、上記プログラムの実行時に用いられる定義ファイル及び各種情報テーブル等も、外部メモリ211に格納されており、これらについての詳細な説明も後述する。
【0029】
次に、
図3を参照して、
図1の携帯情報端末102のハードウェア構成の一例について説明する。
【0030】
図3において、301はCPUで、システムバス310に接続される後述する各種のデバイスを統括的に制御する。ROM303や外部メモリ309には、CPU301の制御プログラムであるBIOS(Basic Input/Output System)やオペレーティングシステム(OS)や、携帯情報端末102が実行する機能を実現するために必要な各種プログラムやデータ等が記憶されている。
【0031】
302はRAMで、CPU301の主メモリ、ワークエリア等として機能する。CPU301は、後述する各種の処理の実行に際して必要なプログラム等をROM303や外部メモリ309からRAM302にロードして、ロードしたプログラムを実行することで、各種の動作を実現する。
【0032】
撮影部304は、撮影レンズ、撮像素子、撮像素子で得られた画像信号を所定の形式に変換する回路等からなる。通信部305は、通信ネットワーク(例えば、
図1の通信ネットワーク103)を介して管理サーバ101等の外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信等が可能である。
【0033】
表示部306は、液晶ディスプレイ等からなり、CPU301が、例えばRAM302内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、表示部306への表示を可能としている。
【0034】
操作部307はCPU301に対して各種の指示を入力するためのものであり、各種のボタンや表示部306に貼られているタッチパネルシートからなる。表示部306に表示されているシステムの操作画面に対する押下指示を受け付けると、押されるとその位置情報を操作部307はCPU301に伝える。
【0035】
音声入力部308は、マイク等から構成され、入力された音声を音声信号に変換する。外部メモリ309は、携帯情報端末102が後述するフローチャート示す各ステップの処理を実行するためのプログラムやデータを記憶する記憶装置である。
【0036】
CPU301を、後述する
図4に示す各手段として機能させるためのプログラムは外部メモリ309に記録されている。そして、CPU301は、必要に応じてRAM302にロードし、当該プログラムを実行する。CPU301は、プログラムに従った制御を実行することで、後述するフローチャートに示す各ステップの処理を実行することになる。さらに、上記プログラムの実行時に用いられる定義ファイル及び各種情報テーブル等も、外部メモリ309に格納されている。
【0037】
以上が、
図1の携帯情報端末102のハードウェア構成の一例の説明である。
【0038】
次に、
図4を参照して、管理サーバ101及び携帯情報端末102の機能構成について説明する。
図4に示す通り、管理サーバ101は、設定保存手段401、送受信手段402、特徴量抽出手段403、画像検索手段404、OCR手段405、翻訳手段406等を備えている。また、携帯情報端末102は、設定保存手段411、位置情報取得手段412、情報表示手段413、送受信手段414、撮影手段415等を備えている。
【0039】
まず、管理サーバ101が備える各手段について説明する。設定保存手段401は、画像検索手段404が、画像データベース409に登録されている画像データのうち、送受信手段402で携帯情報端末102から受信した画像データと類似する画像データを検索する際に、類似画像と判定する設定値や、送受信手段402で受信した画像データに対するOCR処理をどの言語のOCR辞書を用いて行うかといった設定情報を保存する機能部である。
【0040】
送受信手段402は、携帯情報端末102とのデータ通信を行うために機能部である。例えば、携帯情報端末102から送信される画像データや、画像データベース409に登録されている画像データの関連情報取得要求を受信したり、携帯情報端末102に対して、画像データの関連情報や、画像データに対するOCR処理や、OCR処理の結果得られるテキスト情報に対する翻訳処理等を行うことにより得られる翻訳語のテキスト情報を、携帯情報端末102に対して送信したりする。
【0041】
特徴量抽出手段403は、送受信手段402が携帯情報端末102から受信した画像データの特徴量を抽出する機能部である。画像検索手段404は、前記送受信手段402で受信した画像データと類似する、画像データベース409に登録されている画像データを検索する検索し、その関連情報を取得する機能部である。
【0042】
OCR手段405は、送受信手段402で受信した画像データに対して文字認識処理(OCR処理)を実行し、テキストデータを生成する機能部である。翻訳手段406は、OCR手段405により得られたテキストデータを他の言語に翻訳する機能部である。翻訳手段406は、翻訳処理を行う際には翻訳辞書DB407に登録されている情報を用いて、翻訳処理を行う。
【0043】
次に、携帯情報端末102が備える各手段について説明する。設定保存手段411は、OSの言語設定等の設定情報を保存する機能部である。位置情報取得部412は、携帯情報端末102が存在する位置を示す位置情報を取得する機能部である。例えばGPS機能等によって実現される。
【0044】
情報表示手段413は、各種の情報を表示部に表示する機能部である。例えば、管理サーバ101から送信された画像データの関連情報を表示部に表示する。撮影手段414は、撮影部304を用いて、被写体を撮影し、画像データを生成する機能部である。
【0045】
送受信部415は、通信部305を用いて管理サーバ101と各種のデータの送受信を行う機能部である。例えば、画像データの関連情報の取得要求を行う際に、画像データ、OSの言語情報や携帯情報端末102の位置情報を管理サーバ101に送信したり、管理サーバ101から送信された画像データの関連情報を取得したりする。
【0046】
以上が、管理サーバ101及び携帯情報端末102の機能構成の説明である。
【0047】
次に、
図5を参照して、管理サーバ101のCPU201によって行わる初期設定処理の一例について説明する。この処理は、管理サーバ101のCPU201を設定保存手段として機能させるためのプログラムによる制御に基づき行われる。
【0048】
管理サーバ101のCPU201は、システム管理者の操作指示により入力される、画像データに対するOCR処理を行う際に用いる辞書(OCR辞書)の優先度の、OCR処理の結果得られたテキスト情報の翻訳処理を行う際に用いる辞書(翻訳辞書)の優先度、検索の基準となる画像データと、画像データベース中の画像データがどれぐらい類似している場合に、画像検索手段405に類似画像と判定させるかの設定値の入力を受け付ける。
【0049】
例えば、OCR辞書の優先度としては、携帯情報端末102の位置情報取得手段412で取得した位置情報が示す国・地域で使用されている言語の辞書を、最優先の辞書として設定し、特定の言語(例えば、英語、日本語、中国語)の優先度をさらに設定する。翻訳辞書の優先度としては、携帯情報端末102のOSの言語設定で選択されている言語に翻訳するための辞書を、最優先の辞書として設定し、特定の言語(例えば、英語、日本語、中国語)の優先度をさらに設定する。
【0050】
また、類似度の設定値としては0%〜100%の値を設定することが可能であり、この値が大きいほど、管理サーバ101のCPU201は、基準画像データと類似する画像データのみを、類似画像と判断することになる。
【0051】
その後、ステップS501からステップS503の処理終了後、管理サーバ101のCPU201は、それらステップで入力を受け付けた各種の設定情報を外部メモリ211に記憶する(ステップS504)。
【0052】
以上が、管理サーバ101のCPU201によって行わる初期設定処理の一例の説明である。
【0053】
次に、
図6を参照して、携帯情報端末102のCPU301によって行われる関連情報取得要求処理の一例について説明する。
【0054】
携帯情報端末102のCPU301は、撮影部305を用いて被写体(例えば店舗の看板)の写真撮影を行い、画像データを生成する(ステップS601)。また、OSの言語設定で選択されている言語情報を取得する(ステップS602)。
【0055】
そして、携帯情報端末102のCPU301は、当該携帯情報端末102の位置情報を取得可能であるかを判定し(ステップS603)、取得可能である(YES)と判定した場合には、処理をステップS604に進め、位置情報を取得し、ステップS601で得られた画像データ、ステップS602で取得した言語情報、ステップS604で取得した位置情報を用いて検索情報を作成する(ステップS605)。一方、ステップS604の判定処理で位置情報の取得が可能ではない(NO)と判定した場合には、携帯情報端末102のCPU301は、処理をステップS606に進め、ステップS601で得られた画像データ、ステップS602で取得した言語情報を用いて検索情報を作成する。この時、事前に取得していた位置情報がある場合には、その位置情報を用いて検索情報を作成するようにしても構わない。
【0056】
携帯情報端末102のCPU301は、ステップS605、または、ステップS606の処理が終了後、作成した検索情報を管理サーバ101に対して送信する(ステップS607)。
【0057】
以上が、携帯情報端末102のCPU301によって行われる関連情報取得要求処理の一例の説明である。
【0058】
次に、
図7を参照して、管理サーバ101のCPU201によって行われる画像検索・関連情報取得処理の一例について説明する。
【0059】
管理サーバ101のCPU201は、携帯情報端末102より送信された検索情報を受信し、RAM202(または外部メモリ211)に記憶する(ステップS701)。その後、受信した検索情報に含まれる画像データの特徴量を抽出する(ステップS702)。特徴量は、画像データの輝度や色成分、輪郭などの情報を、数値などの比較可能なデータに置き換えたものである。その後、管理サーバ101のCPU201は、画像データベース409に登録されている画像データのうち、ステップS701で受信した画像データ(基準画像データ)と類似する画像データの検索処理を行う(ステップS703)。この時、ステップS702で抽出した特徴量を用いて画像データの検索処理を行う。
【0060】
ここで、
図10を参照して、
図4に示した、画像DB(データベース)409のデータ構成の一例について説明する。この画像DB409は、例えば、管理サーバ101の外部メモリ211に記憶されている。
【0061】
図10に示す通り、画像DB409はID1001、画像1002、特徴量1003、関連情報1004等のデータ項目を備えて構成されている。
【0062】
ID1001は、画像DB409に登録されている画像データを一意に識別するために用いられる識別情報が登録されるデータ項目である。画像1002は、画像が登録されるデータ項目である。特徴量1003は、画像1002に登録されている画像の特徴量が登録されるデータ項目である。この特徴量は、類似画像検索の際に用いられる情報である。
【0063】
関連情報1004は、画像データに関連する情報が登録されるデータ項目である。本実施例では、画像データに関連する情報として、飲食店で提供される各国語(日本語、英語、中国語等)のメニューの画像データ(一部文字画像が含まれている)やメニューのテキストデータが登録されている。その他、図示していないが、画像データ1002に登録されている画像データのサムネイル画像なども登録されている。
【0064】
以上が、画像DB409のデータ構成の説明である。
【0065】
図7の説明に戻る。管理サーバ101は、ステップS703での類似画像検索が終了後、その検索処理の結果、類似度が、類似と判断する基準となる類似度として設定された数値以上である画像データ(類似画像データ)が画像DB409に登録されているか否かを判定する(ステップS704)。
【0066】
ステップS704の判定処理で、類似画像データが画像DB409に登録されている(YES)と判定した場合には、管理サーバ101のCPU201は処理をステップS705に進め、画像DB409に登録されている類似画像データのサムネイル画像を取得する。尚、尚、検索情報に含まれる画像データと類似する画像データが画像データベースに複数登録されている場合には、全ての類似画像データのサムネイル画像を取得する。
【0067】
そして、検索情報に含まれる言語情報を取得し(ステップS706)、取得した言語情報に従って、類似画像データの関連情報を取得する(ステップS707)。尚、検索情報に含まれる画像データと類似する画像データが画像データベースに複数登録されている場合には、最も類似する画像データの関連情報を取得することになる。そして、類似画像のサムネイル画像、関連情報を表示させるための検索結果情報を作成する(ステップS708)。
【0068】
一方、ステップS704の判定処理で、類似画像データが画像DB409に登録されていない(NO)と判定した場合には、管理サーバ101のCPU201は処理をステップS709に進め、検索情報に位置情報が含まれるかを判定する。
【0069】
このステップS709判定処理で、位置情報が含まれる(YES)と判定した場合には、処理をステップS710に進め、位置情報に従って、OCRに使用するOCR辞書の言語を決定する。例えば、位置情報が日本国内を示す情報であれば、日本語のOCR辞書を、位置情報が韓国内を示す情報であれば韓国語のOCR辞書をOCRに使用する辞書として決定する。一方、位置情報が含まれない(NO)と判定した場合には、予め設定された優先順位に従って、OCRに使用するOCR辞書の言語を決定する(ステップS711)。
【0070】
ステップS710またはステップS711でOCR辞書の言語を決定した後に、管理サーバ101のCPU201は、決定したOCR辞書を用いて、検索情報に含まれる画像データに対するOCR処理を実行し(ステップS712)、OCR結果テキストを取得する(ステップS713)。
【0071】
その後、ステップS713で取得したOCR結果テキストを、検索情報に含まれる言語情報が示す言語に翻訳すべく、OCR結果テキストに対して翻訳処理を実行する(ステップS714)。検索情報に含まれる言語情報は、携帯情報端末を使用するユーザが通常使用している母国語等の言語であることが高いため、本発明では、ユーザになるべくわかりやすい情報を提供するために、このような翻訳処理を行っている。そして翻訳結果テキストを生成する。
【0072】
そして、OCR結果テキストと、翻訳結果テキストを表示させるための検索結果情報を作成する。翻訳処理の結果は当然OCR処理の結果得られるORC結果テキストに左右されるため、翻訳結果が適切であるかをユーザに認識させるべく、OCR結果テキストも含めた形で検索結果情報を作成している。
【0073】
ステップS708、または、ステップS715の処理終了後、それらステップで作成した検索結果情報を、検索要求を行った携帯情報端末102に対して送信する(ステップS716)。
【0074】
以上が、管理サーバ101のCPU201によって行われる管理サーバ101のCPU201によって行われる画像検索・関連情報取得処理の一例の説明である。
【0075】
次に、
図8を参照して、管理サーバ101のCPU201及び携帯情報端末102のCPU301によって行われる関連情報閲覧処理の一例について説明する。
【0076】
携帯情報端末102のCPU301は、管理サーバ101から送信された検索結果情報を受信すると(ステップS801)、受信した検索結果情報を用いて、
図9に示す検索結果表示画面900を表示部306に表示する(ステップS802)。
【0077】
ここで、
図9を参照して、
図8のステップS802で携帯情報端末102の表示部306に表示される検索結果表示画面900の構成の一例について説明する。
【0078】
サムネイル画像表示部901は、類似画像データのサムネイル画像が表示される表示部である。このサムネイル画像表示部に表示されているサムネイル画像には、関連情報を取得するためのリンク情報が設定されており、携帯情報端末102のCPU301は、サムネイル画像に対するタッチ指示を受け付けると、そのサムネイル画像が示す画像データ(類似画像)の関連情報の取得要求を、管理サーバ101に対して送信する。
【0079】
関連情報(画像)表示部902は、管理サーバ101から受信した検索結果情報に含まれる関連情報(画像)が表示される表示部である。テキスト情報表示部903は、管理サーバ101から受信した検索結果情報に含まれる関連テキストや、OCR結果テキスト、翻訳結果テキストが表示される表示部である。ユーザは、これら表示部に表示される情報を確認することで、自身が撮影した看板から特定される飲食店等の情報を確認することが出来る。また、テキスト情報表示部903に表示されているテキストを部分的に選択し、その情報を用いてのWeb検索を行うことが可能となっている。
【0080】
以上が、検索結果表示画面900の構成の一例の説明である。
【0081】
図8の説明に戻る。携帯情報端末102のCPU301は、表示部306に検索結果画面900を表示した後に、サムネイル画像表示部901に表示されているサムネイル画像に対するタッチ指示を受け付けると(ステップS803でYES)、タッチ指示されたサムネイル画像から画像IDを特定し(ステップS804)、その画像IDとOSで表示言語として設定されている言語情報を管理サーバ101に対して送信する(ステップS805)。
【0082】
管理サーバ101のCPU201は、携帯情報端末102から送信された画像ID、言語情報を受信すると(ステップS806)、受信した画像IDで特定される画像データの関連情報のうち、受信した言語情報に対応した関連情報を画像DB409から取得する(ステップS807)。そして、取得した関連情報を、携帯情報端末に対して送信する(ステップS808)。
【0083】
携帯情報端末102のCPU301は、管理サーバ101より送信された関連情報を受信すると(ステップS809)、その関連情報を用いて検索結果表示画面の表示を更新する(ステップS810)。その後、処理をステップS803に戻す。
【0084】
携帯情報端末102のCPU301は、テキスト情報表示部903に表示されている検索結果文字列を用いてのWeb検索指示を受け付けると(ステップS811でYES)、Webブラウザアプリケーションを起動し(ステップS812)、Webブラウザアプリケーションにより制御に従って、テキスト情報表示部903で選択された文字列を検索条件とした検索要求を、不図示の検索サーバに対して送信する(ステップS813)。そして、その検索結果を受信すると、ブラウザアプリケーションの表示画面に、検索の結果、検索サーバより得られた情報を表示する(ステップS814)。その後、処理をステップS803に進める。
【0085】
また、携帯情報端末102のCPU301は、終了指示を受け付けた場合には(ステップS815でYES)、本図に示す処理を終了する。それ以外の処理を受け付けた場合には(この場合、ステップS815でNOと判定する)、処理をステップS816に進め、その他指示された処理を実行し、ステップS803に処理を進める。
【0086】
以上が、管理サーバ101のCPU201及び携帯情報端末102のCPU301によって行われる関連情報閲覧処理の一例の説明である。
【0087】
以上説明したように、本発明によれば、撮影処理により生成される画像データを用いてその画像データと関連する情報を、当該撮影処理がされた装置の言語設定で表示言語等として設定されている言語で取得することが可能となる。これにより、例えば、飲食店の看板を写真撮影することで、その飲食店に関連する情報を容易に得ることが可能となるため、特に、海外等、他の言語を使用している地域であっても、自身が必要とする情報を容易に取得することが可能となる。
【0088】
以上の説明では、飲食店の情報取得を例に説明したが、当然これ以外にも本発明を適用できることは言うまでもない。
【0089】
以上、実施形態例を詳述したが、本発明は、方法、プログラムもしくは記録媒体等としての実施態様をとることが可能である。
【0090】
また、本発明におけるプログラムは、各処理方法をコンピュータが実行可能(読み取り可能)なプログラムであり、本発明の記録媒体は、各処理方法をコンピュータが実行可能なプログラムが記憶されている。
【0091】
なお、本発明におけるプログラムは、各装置の処理方法ごとのプログラムであってもよい。
【0092】
以上のように、前述した実施形態の機能を実現するプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムを読取り実行することによっても、本発明の目的が達成されることは言うまでもない。
【0093】
この場合、記録媒体から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記憶した記録媒体は本発明を構成することになる。
【0094】
プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク,ハードディスク,光ディスク,光磁気ディスク,CD−ROM,CD−R,DVD−ROM,磁気テープ,不揮発性のメモリカード,ROM,EEPROM,シリコンディスク等を用いることができる。
【0095】
また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0096】
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0097】
また、本発明は、システムあるいは装置にプログラムを供給することによって達成される場合にも適応できることは言うまでもない。この場合、本発明を達成するためのプログラムを格納した記録媒体を該システムあるいは装置に読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。
【0098】
さらに、本発明を達成するためのプログラムをネットワーク上のサーバ,データベース等から通信プログラムによりダウンロードして読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。
【0099】
なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。