IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ヤフー株式会社の特許一覧

特許7354196情報処理装置、情報処理方法、及び情報処理プログラム
<>
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図1
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図2
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図3
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図4
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図5
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図6
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図7
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図8
  • 特許-情報処理装置、情報処理方法、及び情報処理プログラム 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-09-22
(45)【発行日】2023-10-02
(54)【発明の名称】情報処理装置、情報処理方法、及び情報処理プログラム
(51)【国際特許分類】
   G06F 3/04845 20220101AFI20230925BHJP
   G06F 3/0488 20220101ALI20230925BHJP
【FI】
G06F3/04845
G06F3/0488
【請求項の数】 7
(21)【出願番号】P 2021150503
(22)【出願日】2021-09-15
(65)【公開番号】P2023043028
(43)【公開日】2023-03-28
【審査請求日】2023-01-13
(73)【特許権者】
【識別番号】319013263
【氏名又は名称】ヤフー株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】池松 香
(72)【発明者】
【氏名】笹谷 奈翁美
(72)【発明者】
【氏名】鈴木 健司
【審査官】滝谷 亮一
(56)【参考文献】
【文献】特開2019-46201(JP,A)
【文献】特開2015-49621(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/04845
G06F 3/0488
(57)【特許請求の範囲】
【請求項1】
画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して前記対象コンテンツに対する拡大縮小操作の操作指示を表示させる表示部と、
利用者の画面上における前記対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得する取得部と、
前記操作情報と、前記中心点座標との関係を機械学習モデルに学習させて、前記操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成する生成部と、
前記学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力する中心点出力部と、を備える、
情報処理装置。
【請求項2】
拡大縮小処理の対象コンテンツを表示させて、利用者の拡大縮小操作の操作情報を受け付ける受付部と、
前記中心点出力部が出力した中心点座標と前記受付部が受け付けた操作情報に基づいて、対象コンテンツを拡大又は縮小させて表示させる表示制御部と、をさらに備える、
請求項1に記載の情報処理装置。
【請求項3】
前記取得部は、複数の利用者の前記対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得し、
前記生成部は、複数の利用者の前記操作情報と中心点座標との関係を機械学習モデルに学習させて、前記学習済みモデルを生成する、
請求項1又は請求項2に記載の情報処理装置。
【請求項4】
前記生成部は、利用者ごとの前記操作情報と中心点座標との関係を機械学習モデルに学習させて、利用者ごとに前記学習済みモデルを生成する、
請求項1又は請求項2に記載の情報処理装置。
【請求項5】
前記取得部は、手の震えがある利用者の前記操作情報と中心点座標を取得し、
前記生成部は、手の震えがある利用者の前記操作情報と中心点座標との関係を機械学習モデルに学習させて、前記学習済みモデルを生成する、
請求項1又は請求項2に記載の情報処理装置。
【請求項6】
画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して前記対象コンテンツに対する拡大縮小操作の操作指示を表示させるステップと、
利用者の画面上における前記対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得するステップと、
前記操作情報と、前記中心点座標との関係を機械学習モデルに学習させて、前記操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成するステップと、
前記学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力するステップと、
を含む情報処理方法。
【請求項7】
画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して前記対象コンテンツに対する拡大縮小操作の操作指示を表示させるステップと、
利用者の画面上における前記対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得するステップと、
前記操作情報と、前記中心点座標との関係を機械学習モデルに学習させて、前記操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成するステップと、
前記学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力するステップと、
をコンピュータに実行させる情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理方法、及び情報処理プログラムに関する。
【背景技術】
【0002】
スマートフォンやタブレット型端末に用いられるタッチパネルに表示される画像などを拡大縮小する場合、ピンチ操作と呼ばれる2本の指でタッチパネルの画面をつまむような操作が行われる。ピンチ操作において画像などを拡大縮小する処理の中心点は、2本の指の間隔の中間点とすることが多い。しかしながら、ピンチ操作において指を広げる前の2本の指の間隔の中間点と、指を広げた後の2本の指の間隔の中間点は一致しないことが多い。これによる拡大縮小処理の中心点のズレは拡大縮小処理をするに連れて大きくなっていく。その為、利用者が意図した箇所とは異なる位置を中心として拡大縮小処理される場合が多い。
【0003】
例えば、特許文献1には、表示画面に表示しきれない画像に表示領域が設定されて表示領域に含まれる部分画像がタッチパネルを前側に有する表示部に表示され、ユーザーの指先がタッチパネルに触れた場合、表示領域が拡大され、ユーザーの指先がタッチパネルから離れた場合、表示領域が拡大前の大きさの表示領域に変更する表示装置が開示されている。しかしながら、特許文献1に開示された表示装置は、ピンチ操作によって画像を拡大縮小処理するものではない。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2009-187057号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示は上記課題を鑑み、利用者の意図を適切に反映して対象コンテンツの拡大縮小処理の中心点座標を出力できる情報処理装置、情報処理方法、及び情報処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本開示に係る情報処理装置は、画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して前記対象コンテンツに対する拡大縮小操作の操作指示を表示させる表示部と、利用者の画面上における前記対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得する取得部と、前記操作情報と、前記中心点座標との関係を機械学習モデルに学習させて、前記操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成する生成部と、前記学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力する中心点出力部と、を備える。
【発明の効果】
【0007】
本開示によれば、利用者の意図を適切に反映して対象コンテンツの拡大縮小処理の中心点座標を出力できる情報処理装置、情報処理方法、及び情報処理プログラムを提供することができる。
【図面の簡単な説明】
【0008】
図1図1は、実施形態に係る情報処理の一例を示す図である。
図2図2は、利用者端末に表示させる操作指示及び操作情報の取得処理の一例を示す図である。
図3図3は、実施形態に係る情報処理システムの構成例を示す図である。
図4図4は、実施形態に係る情報処理装置の構成例を示す図である。
図5図5は、実施形態に係る情報処理装置の操作情報記憶部に記憶される情報の一例を示す図である。
図6図6は、実施形態に係る情報処理装置のモデル記憶部に記憶される情報の一例を示す図である。
図7図7は、実施形態に係る利用者端末の構成例を示す図である。
図8図8は、実施形態に係る情報処理の一例を示すフローチャートである。
図9図9は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【0009】
以下に、本願に係る情報処理装置、情報処理方法、及び情報処理プログラムを実施するための形態(以下、「実施形態」と記載する。)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る情報処理装置、情報処理方法、及び情報処理プログラムが限定されるものではない。
【0010】
(実施形態)
〔1-1.実施形態に係る情報処理の一例〕
まず、図1を用いて、実施形態に係る情報処理の一例について説明する。図1は、実施形態に係る情報処理の一例を示す図である。図1では、実施形態に係る情報処理が情報処理装置100により実行される例を示す。
【0011】
図1では、情報処理装置100が利用者端末200に学習処理用の拡大縮小操作の中心点が表示された対象コンテンツ、及び操作指示を表示させて、利用者端末200から利用者の拡大縮小操作の操作情報を取得し、操作情報を入力すると拡大縮小処理の中心点座標を出力する学習済みモデルを生成し、利用者端末200に拡大縮小処理を受け付ける対象コンテンツを表示させて、利用者から拡大縮小操作の操作情報を受け付けて、操作情報を当該モデルに入力して中心点座標を出力し、中心点座標を中心として対象コンテンツの拡大縮小処理を行う例を示している。以下、図1を用いて、実施形態に係る情報処理の一例についてステップごとに説明する。
【0012】
まず、情報処理装置100は、利用者端末200の画面に学習処理用の拡大縮小操作の中心点が表示された対象コンテンツ、及び操作指示を表示させる(ステップS1)。この処理について図2を用いて説明する。図2は、利用者端末に表示させる操作指示及び操作情報の取得処理の一例を示す図である。例えば、情報処理装置100は、図2の画面C1に示すように、利用者端末200の出力部230に対象コンテンツTCと、当該の対象コンテンツTCの拡大縮小操作の中心点CPと、利用者への操作指示I「以下の中心点を中心にして、対象コンテンツを拡大又は縮小するピンチ操作を実行してください」を表示させる。なお、中心点CPは、図2に示したように対象コンテンツTCの中心に限定されるものではなく、任意の位置に表示させてよい。
【0013】
次に、情報処理装置100は、利用者端末200から利用者の拡大縮小操作の操作情報と中心点座標を取得する(ステップS2)。この処理について図2を用いて説明する。例えば、情報処理装置100は、図2の画面C2に示すような利用者の右手でのピンチイン操作や、図2に図示はしていないが利用者の右手でのピンチアウト操作、利用者の左手でのピンチイン操作及びピンチアウト操作の操作情報と、その際の対象コンテンツの中心点座標を取得する。すなわち、情報処理装置100は、利用者端末200のタッチパネルに接触している利用者の2本の指の指ごとのタッチ所要時間、タッチ移動速度(X軸、Y軸)、タッチダウン位置(X軸、Y軸)、タッチアップ位置(X軸、Y軸)、最大接触面積、タッチダウン‐アップ位置の差異、2本の指のタッチ座標間距離、2本の指のタッチ座標間距離の変位を含む操作情報を取得する。なお、対象コンテンツの中心点は任意の箇所に表示させてよいから、中心点座標は任意の位置の座標であってよい。
【0014】
次に、情報処理装置100は、操作情報を入力すると中心点座標を出力する学習済みモデルを生成する(ステップS3)。例えば、情報処理装置100は、機械学習モデルに対して、利用者端末200に表示させた対象コンテンツTCの中心点CPの中心点座標と、これに対する利用者のダッチダウン位置を含む操作情報を学習させて、利用者の操作情報を入力すると中心点座標を出力する学習済みモデルを生成する。
【0015】
次に、情報処理装置100は、利用者端末200から拡大縮小操作を受け付けたら、操作情報を学習済みモデルに入力し中心点座標を出力する(ステップS4)。例えば、情報処理装置100は、利用者端末200に電子ブック、テキストメッセージ、動画、WEBページ、CAD(Computer‐Aided Design)、グラフィックス編集ソフトなどを含む拡大縮小処理の対象コンテンツを表示させて、利用者の拡大縮小操作の操作情報を受け付ける。次に、情報処理装置100は、ステップS3において生成された学習済みモデルに対して利用者端末200から受け付けた操作情報を入力して、対象コンテンツの拡大縮小処理の中心点座標を出力する。
【0016】
次に、情報処理装置100は、学習済みモデルが出力した中心点座標を中心として対象コンテンツの拡大縮小処理を実行する(ステップS5)。例えば、情報処理装置100は、対象コンテンツに対する利用者の拡大縮小操作の操作情報に基づいて、対象コンテンツの拡大縮小率を算出する。次に、情報処理装置100は、ステップS4にて学習済みモデルが出力した中心点座標を中心として対象コンテンツに対して、算出した拡大縮小率を用いて拡大縮小処理を実行する。
【0017】
これにより、情報処理装置100は、利用者の意図を適切に反映した中心点座標を中心として対象コンテンツの拡大縮小処理を実行することができる。
【0018】
〔1-2.実施形態に係る情報処理の他の例1(複数の利用者の操作情報を学習)〕
情報処理装置100は、複数の利用者の対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得し、複数の利用者の操作情報と、中心点座標との関係を学習する。
【0019】
この情報処理について順を追って説明する。まず、情報処理装置100は、図1に示したステップS1と同じ処理を実行する。ステップS1の処理は、前述した処理と同じであるから説明を省略する。
【0020】
次に、情報処理装置100は、複数の利用者の拡大縮小操作の操作情報と中心点座標を取得する。例えば、情報処理装置100は、利用者U1からU6の利用者端末200Aから200Fから、利用者U1からU6の拡大縮小操作の操作情報と中心点座標を取得する。
【0021】
次に、情報処理装置100は、複数の利用者の操作情報と中心点座標との関係を機械学習モデルに学習させて、操作情報を入力すると中心点座標を出力する学習済みモデルを出力する。
【0022】
次に、情報処理装置100は、図1に示したステップS4からS5と同じ処理を実行する。ステップS4からS5の処理は、前述した処理と同じであるから説明を省略する。
【0023】
これにより、情報処理装置100は、複数の利用者の操作情報と中心点座標との関係を学習させた学習モデルを生成することができる。その為、多様な利用者に対応することが可能な学習済みモデルを用いて拡大縮小処理の中心点座標を出力することができる。したがって、様々な利用者の意図に沿って対象コンテンツの拡大縮小処理を行うことができる。
【0024】
〔1-3.実施形態に係る情報処理の他の例2(利用者ごとにモデルを生成)〕
情報処理装置100は、利用者ごとの操作情報と、中心点座標との関係を機械学習モデルに学習させて、利用者ごとに学習済みモデルを生成する。
【0025】
この情報処理について順を追って説明する。まず、情報処理装置100は、図1に示したステップS1からS2と同じ処理を実行する。ステップS1からS2の処理は、前述した処理と同じであるから説明を省略する。
【0026】
次に、情報処理装置100は、利用者ごとの操作情報と、中心点座標との関係を機械学習モデルに学習させて、利用者ごとに学習済みモデルを生成する。例えば、情報処理装置100は、利用者U1の利用者端末200Aから取得した拡大縮小操作の操作情報と、中心点座標との関係を機械学習モデルに学習させて、利用者U1の操作情報と中心点座標と関係を学習させた利用者U1の学習済みモデルを生成する。
【0027】
次に、情報処理装置100は、図1に示したステップS4からS5と同じ処理を実行する。ステップS4からS5の処理は、前述した処理と同じであるから説明を省略する。なお、本情報処理においては、ステップS4において、利用者U1から拡大縮小操作の操作情報を受け付けて、受け付けた操作情報を利用者U1の操作情報と中心点座標を学習させた学習済みモデルに入力し、拡大縮小処理の中心点座標を出力する。
【0028】
これにより、情報処理装置100は、利用者ごとの拡大縮小操作の特徴を学習させた学習済みモデルを用いることで、利用者ごとに拡大縮小操作に大きな違いがあった場合であっても、適切に利用者の意図を反映した中心点を中心として対象コンテンツに対して拡大縮小処理することができる。
【0029】
〔1-4.実施形態に係る情報処理の他の例3(手の震えがある方のモデルを生成)〕
情報処理装置100は、手の震えがある利用者の拡大縮小操作の操作情報を取得し、手の震えがある利用者の拡大縮小操作の操作情報と、中心点座標との関係を機械学習モデルに学習させて、学習済みモデルを生成する。
【0030】
この情報処理について順を追って説明する。まず、情報処理装置100は、図1に示したステップS1からS2と同じ処理を実行する。ステップS1からS2の処理は前述した処理と同じであるが、本情報処理においては、ステップS2において操作情報と中心点座標を取得する利用者端末200の利用者Uが、例えばパーキンソン病患者のような手の震えがある方である。
【0031】
次に、情報処理装置100は、ステップS3からS5までと同じ処理を実行する。ステップS3からS5までの処理は前述した処理と同じであるから説明を省略する。なお、本情報処理においては、ステップS3において機械学習モデルに学習させる拡大縮小操作の操作情報は手の震えがある方の利用者端末200から取得した拡大縮小操作の操作情報を用いる。その為、拡大縮小操作を行う手に震えがあったとしても、利用者の意図した中心点を出力する学習済みモデルを生成することができる。
【0032】
これにより、情報処理装置100は、利用者の拡大縮小操作を行う手に震えがあったとしても、利用者の意図を適切に反映した中心点を中心として対象コンテンツの拡大縮小処理を行うことができる。
【0033】
〔2.情報処理システムの構成〕
次に、図3を用いて実施形態に係る情報処理システムの構成について説明する。図3は、実施形態に係る情報処理システムの構成例を示す図である。図2に示すように、情報処理システム1は、情報処理装置100と、利用者端末200と、を含む。なお、図2に示した情報処理システム1は、複数台の情報処理装置100や、複数台の利用者端末200が含まれ構成されていてもよい。情報処理装置100と、利用者端末200と、は所定の通信網(ネットワークN)を介して、有線又は無線により通信可能に接続される。
【0034】
情報処理装置100は、例えばPC(Personal Computer)、WS(Work Station)、サーバの機能を備えるコンピュータなどの情報処理装置であってよい。例えば、情報処理装置100は、利用者端末200からネットワークNを介して送信されてきた情報に基づいて処理を行う。
【0035】
利用者端末200は、利用者が利用する情報処理装置である。利用者端末200は、例えば、スマートフォン、タブレット型端末、デスクトップ型PC、ノート型PC、携帯電話機、PDA(Personal Digital Assistant)等の情報処理装置であってよい。なお、図1に示す例においては、利用者端末200がスマートフォンである場合を示している。
【0036】
〔3.情報処理装置の構成〕
次に、図4を用いて、実施形態に係る情報処理装置100の構成について説明する。図4は、実施形態に係る情報処理装置の構成例を示す図である。図4に示すように、情報処理装置100は、通信部110と、記憶部120と、制御部130と、を有する。なお、図4に図示はしていないが、情報処理装置100は、情報処理装置100の管理者から各種操作を受け付ける入力部(例えば、キーボードやマウス等)や、各種情報を出力するための出力部(例えば、液晶ディスプレイ等)を有してもよい。
【0037】
(通信部110について)
通信部110は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部110は、ネットワークNと有線または無線で接続され、利用者端末200と、の間で情報の送受信を行う。
【0038】
(記憶部120について)
記憶部120は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、SSD(Solid State Drive)、光ディスク等の記憶装置によって実現される。図4に示すように、記憶部120は、操作情報記憶部121と、モデル記憶部122と、を有する。
【0039】
(操作情報記憶部121について)
操作情報記憶部121は、利用者端末200から取得した利用者の操作情報を記憶する。ここで、図5を用いて、操作情報記憶部121が記憶する情報の一例を説明する。図5は、実施形態に係る情報処理装置の操作情報記憶部に記憶される情報の一例を示す図である。
【0040】
図5に示す例において、操作情報記憶部121は、「利用者ID」、「中心点座標」、「操作情報」という項目に係る情報を紐付けて記憶する。
【0041】
「利用者ID」は、利用者を識別する識別子であり文字列や番号などによって表される。「中心点座標」は、利用者端末200に表示させた対象コンテンツの拡大縮小操作の中心点の座標を示す情報である。「操作情報」は、「利用者ID」に紐付けられた利用者の拡大縮小操作の操作情報であり、利用者の2本の指の指ごとのタッチ所要時間、タッチ移動速度(X軸、Y軸)、タッチダウン位置(X軸、Y軸)、タッチアップ位置(X軸、Y軸)、最大接触面積、タッチダウン‐アップ位置、2本の指のタッチ座標間距離、2本の指のタッチ座標間距離の変位の差異などを含んでよい。
【0042】
すなわち、図5においては、利用者ID「UID#1」により識別された利用者が中心点座標「中心点座標#1」に対して、拡大縮小操作を実行した際の操作情報が操作情報「操作情報#1」であることを示している。
【0043】
なお、操作情報記憶部121に記憶される情報は、「利用者ID」、「中心点座標」、「操作情報」という項目に係る情報に限定されるものではなく、その他の任意の利用者の拡大縮小操作に関係する情報が記憶されてよい。
【0044】
(モデル記憶部122について)
モデル記憶部122は、利用者の操作情報と中心点座標との関係を学習させて、利用者の操作情報を入力すると拡大縮小処理の中心点座標を出力するモデルを記憶する。図6は、実施形態に係る情報処理装置のモデル記憶部に記憶される情報の一例を示す図である。
【0045】
図6に示す例において、モデル記憶部122は、「モデルID」、「モデルデータ」という項目に係る情報を紐付けて記憶する。
【0046】
「モデルID」は、機械学習モデルを識別する識別子であり文字列や番号などによって表される。「モデルデータ」は、機械学習モデルのモデルデータを示す。例えば、「モデルデータ」には、利用者の操作情報を入力すると、対象コンテンツの拡大縮小処理の中心点座標を出力するモデルの為のデータが記憶される。なお、機械学習モデルは、例えばニューラルネットワークなどであってよい。
【0047】
ここで、機械学習モデルがニューラルネットワークである場合は、モデルデータ「モデルデータ#1」には、例えば、ニューラルネットワークを構成する複数の層のそれぞれに含まれるノードが互いにどのように結合するかという結合情報や、結合されたノード間で入出力される数値に掛け合わされる結合係数などの各種情報が含まれる。
【0048】
すなわち、図6において、モデルID「モデルID#1」により識別されるモデルのデータがモデルデータ「モデルデータ#1」であることを示している。
【0049】
なお、モデル記憶部122に記憶される情報は、「モデルID」、「モデルデータ」という項目に係る情報に限定されるものではなく、その他の任意の機械学習モデルに関係する情報が記憶されてよい。
【0050】
(制御部130について)
次に図4に戻って、制御部130について説明する。制御部130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、情報処理装置100の記憶装置に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。また、制御部130は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。
【0051】
図4に示すように、制御部130は、表示部131と、取得部132と、生成部133と、受付部134と、中心点出力部135と、表示制御部136と、を有する。
【0052】
(表示部131について)
表示部131は、画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して対象コンテンツに対する拡大縮小操作の操作指示を表示させる。例えば、表示部131は、図2の画面C1に示すように、利用者端末200の出力部230に対象コンテンツTCと、当該の対象コンテンツTCの拡大縮小操作の中心点CPと、利用者への操作指示I「以下の中心点を中心にして、対象コンテンツを拡大又は縮小するピンチ操作を実行してください」を表示させる。
【0053】
(取得部132について)
取得部132は、利用者端末200から利用者の画面上における対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得する。具体的には、取得部132は、利用者端末200の画面に対象コンテンツの拡大縮小操作の中心点座標が表示された状態での利用者の右手でのピンチイン操作、ピンチアウト操作の操作情報、利用者の左手でのピンチイン操作、ピンチアウト操作の操作情報と、その際の拡大縮小操作の中心点座標を取得する。なお、ピンチイン操作とは、2本の指でタッチパネルをつまむように動かす操作であり、2本の指の間隔を縮小する操作である。また、ピンチアウト操作とは、2本の指でタッチパネルをつまむように動かす操作であり、2本の指の間隔を拡大する操作である。取得部132は、利用者端末200から操作情報と中心点座標を取得したら、取得した操作情報と中心点座標を利用者IDに紐付けて操作情報記憶部121に記憶する。
【0054】
なお、操作情報は、利用者端末200のタッチパネルに接触している利用者の2本の指の指ごとのタッチ所要時間、タッチ移動速度(X軸、Y軸)、タッチダウン位置(X軸、Y軸)、タッチアップ位置(X軸、Y軸)、最大接触面積、タッチダウン‐アップ位置、2本の指のタッチ座標間距離、2本の指のタッチ座標間距離の変位の差異を含んでよい。ここで、タッチアップとは、タッチパネルに触れていた指やペンを離すことを意味し、タッチダウンとは、タッチパネルを指やペンが触れたことを意味する。
【0055】
取得部132は、利用者端末200から複数の利用者の対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得する。例えば、取得部132は、利用者U1からU6の利用者端末200Aから200Fから、利用者U1からU6の拡大縮小操作の操作情報と中心点座標を取得する。取得部132は、利用者端末200から操作情報と中心点座標を取得したら、取得した操作情報と中心点座標を利用者IDに紐付けて操作情報記憶部121に記憶する。
【0056】
取得部132は、利用者端末200から手の震えがある利用者の操作情報と中心点座標を取得する。例えば、取得部132は、例えばパーキンソン病患者のような手の震えがある利用者の拡大縮小操作の操作情報と中心点座標を取得する。なお、パーキンソン病とは、震え、動作緩慢、筋強剛、姿勢保持障害を主な運動症状とする病気である。大脳の下の中脳の黒質ドパミン神経細胞が減ることで、体が動きにくくなり、手足の震えが起こる。取得部132は、利用者端末200から操作情報と中心点座標を取得したら、取得した操作情報と中心点座標を利用者IDに紐付けて操作情報記憶部121に記憶する。
【0057】
(生成部133について)
生成部133は、操作情報と、中心点座標との関係を機械学習モデルに学習させて、操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成する。例えば、生成部133は、複数の利用者の操作情報と中心点座標との関係を機械学習モデルに学習させて、学習済みモデルを生成する。機械学習モデルは、例えば、ニューラルネットワークモデルであってよい。生成部133は、取得部132が取得した複数の利用者の操作情報と中心点座標とを機械学習モデルに学習させることで、学習済みモデルを生成する。
【0058】
また、生成部133は、利用者ごとの操作情報と中心点座標との関係を機械学習モデルに学習させて、利用者ごとに学習済みモデルを生成する。例えば、生成部133は、利用者U1の利用者端末200Aから取得した拡大縮小操作の操作情報と、中心点座標との関係を機械学習モデルに学習させて、利用者U1の操作情報と中心点座標との関係を学習させた学習済みモデルを生成する。なお、生成部133は、利用者U1以外のその他の利用者についても利用者ごとに学習済みモデルを生成してよい。
【0059】
また、生成部133は、手の震えがある利用者の操作情報と中心点座標との関係を機械学習モデルに学習させて、学習済みモデルを生成する。例えば、生成部133は、パーキンソン病患者などの手の震えがある利用者Uの利用者端末200から取得した拡大縮小操作の操作情報と、中心点座標との関係を機械学習モデルに学習させて、利用者Uの操作情報と中心点座標との関係を学習させた学習済みモデルを生成する。これにより、利用者端末200から取得した操作情報に手の震えがあった場合であっても、利用者の意図した中心点座標を出力する学習済みモデルを生成することができる。
【0060】
(受付部134について)
受付部134は、利用者端末200に拡大縮小処理の対象コンテンツを表示させて、利用者端末200から利用者の拡大縮小操作の操作情報を受け付ける。例えば、受付部134は、利用者端末200に電子ブック、テキストメッセージ、動画、WEBページ、CAD(Computer‐Aided Design)、グラフィックス編集ソフトなどを含む対象コンテンツを表示させて、利用者の拡大縮小操作の操作情報を受け付ける。なお、受付部134が受け付ける操作情報は取得部132が取得する操作情報と同様の情報であってよい。
【0061】
(中心点出力部135について)
中心点出力部135は、学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力する。すなわち、中心点出力部135は、受付部134が受け付けた操作情報を生成部133が生成した学習済みモデルに入力して拡大縮小処理の中心点座標を出力する。なお、中心点座標は、例えば利用者端末200の横方向をX方向、縦方向をY方向とした場合にX方向とY方向の座標値であってよい。
【0062】
(表示制御部136について)
表示制御部136は、中心点出力部135が出力した中心点座標と受付部134が受け付けた操作情報に基づいて、対象コンテンツを拡大又は縮小させて表示させる。例えば、表示制御部136は、ピンチ操作の1本目の指のピンチ開始点の座標を(xx11,yy11)、2本目の指のピンチ開始点の座標を(xx21,yy21)、1本目の指のピンチ終了点の座標を(xx12,yy12)、2本目の指のピンチ終了点の座標を(xx22,yy22)とすると、2本の指の間隔のピンチ開始時の距離D1と、ピンチ終了時の距離D2と、現在の拡大縮小率R1とに基づいて、例えば以下の式で拡大縮小率R2を求めてよい。
【0063】
D1=√((xx21-xx11)+(yy21-yy11)
D2=√((xx22-xx12)+(yy22-yy12)
R2=R1×D2/D1
【0064】
表示制御部136は、上記の式で求められた拡大縮小率R2と、中心点出力部135が出力した中心点座標を中心として対象コンテンツに対して拡大縮小処理を実行する。
【0065】
〔4.利用者端末の構成〕
次に、図7を用いて、実施形態に係る利用者端末200の構成について説明する。図7は、実施形態に係る利用者端末の構成例を示す図である。図7に示すように、利用者端末200は、通信部210と、入力部220と、出力部230と、制御部240と、を有する。
【0066】
通信部210は、例えば、NIC等によって実現される。そして、通信部210は、ネットワークNと有線又は無線で接続され、ネットワークNを介して、情報処理装置100との間で各種の情報の送受信を行う。
【0067】
入力部220は、利用者から各種の操作情報が入力される。例えば、入力部220は、タッチパネルにより表示面(例えば出力部230)を介して利用者からの操作情報を受け付けてもよい。なお、タッチパネルは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式などの様々な方式のものを用いてよい。抵抗膜方式は、抵抗を持つ金属薄膜によって透明電極を構成し、対向する2枚の抵抗膜の内の1枚に対して電圧をかけておき、操作した位置に応じた電圧を検知することで接触位置を検出する。静電容量方式は、指先と導電膜との間での静電容量の変化を捉えて接触位置を検出する。表面弾性波方式は、基板の複数の隅に圧電素子を取り付けて振動を発生させ、基板に指が接触した際の振動波の跳ね返りを捉えて接触位置を検出する。赤外線方式は、赤外線の遮断を捉えて接触位置を検出する。電磁誘導方式は、画面の下にEMR(Electro-Magnetic Resonance)センサーを設けてEMRペンから発せられる磁界を捉えて接触位置を検出する。
【0068】
出力部230は、例えば液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ等によって実現されるタブレット型端末等の表示画面であり、各種情報を表示するための表示装置である。つまり、利用者端末200は、入力部220がタッチパネルである場合は、出力部230である表示画面により利用者の入力を受け付け、利用者への出力も行う。
【0069】
制御部240は、例えば、CPUやMPU等によって、利用者端末200に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。また、制御部240は、例えば、ASICやFPGA等の集積回路により実現されてもよい。
【0070】
図7に示すように、制御部240は、表示部241と、取得部242と、受付部243と、を有する。
【0071】
表示部241は、出力部230としてのタッチパネルの画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して対象コンテンツの拡大縮小の操作指示を表示させる。例えば、表示部241は、出力部230に図2の画面C1に示すような対象コンテンツGと操作指示Iを含む画面を表示させてよい。表示部241が出力部230に表示させた画面を確認した利用者は、入力部220としてのタッチパネルに対象コンテンツに対する拡大縮小操作を入力する。
【0072】
表示部241は、出力部230としてのタッチパネルの画面に拡大縮小処理の対象となる対象コンテンツを表示させる。例えば、表示部241は、出力部230としてのタッチパネルの画面に電子ブック、テキストメッセージ、動画、WEBページ、CAD(Computer‐Aided Design)、グラフィックス編集ソフトなどを含む対象コンテンツを表示させる。表示部241が出力部230に表示させた画面を確認した利用者は、入力部220としてのタッチパネルに操作情報を入力する。
【0073】
取得部242は、入力部220に入力された利用者の学習処理用の対象コンテンツに対する拡大縮小操作の操作情報を取得する。すなわち、取得部242は、表示部241が任意の位置に拡大縮小操作の中心点を含む対象コンテンツと、操作指示とを表示させた状態で、利用者の拡大縮小操作の操作情報を取得する。操作情報は、入力部220としてのタッチパネルに接触している利用者の2本の指の指ごとのタッチ所要時間、タッチ移動速度(X軸、Y軸)、タッチダウン位置(X軸、Y軸)、タッチアップ位置(X軸、Y軸)、最大接触面積、タッチダウン‐アップ位置、2本の指のタッチ座標間距離、2本の指のタッチ座標間距離の変位の差異を含んでよい。
【0074】
受付部243は、入力部220に入力された拡大縮小処理用の対象コンテンツに対する拡大縮小操作の操作情報を受け付ける。すなわち、受付部243は、表示部241が拡大縮小処理の対象コンテンツを表示させた状態で、利用者の操作情報を取得する。なお、受付部243が受け付ける操作情報は取得部242が取得する操作情報と同様の情報であってよい。
【0075】
〔5.情報処理のフロー〕
次に、図8を用いて、実施形態に係る情報処理装置100による情報処理の手順について説明する。図8は、実施形態に係る情報処理の一例を示すフローチャートである。例えば、情報処理装置100は、画面に対象コンテンツの拡大縮小操作の中心点及び操作指示を表示させる(ステップS101)。そして、情報処理装置100は、利用者の拡大縮小操作の操作情報と中心点座標を取得する(ステップS102)。そして、情報処理装置100は、操作情報を入力すると、中心点座標を出力する学習済みモデルを生成する(ステップS103)。そして、情報処理装置100は、利用者端末から拡大縮小操作を受け付けたら、操作情報を学習済みモデルに入力し中心点座標を出力する(ステップS104)。そして、情報処理装置100は、学習済みモデルが出力した中心点座標を中心として対象コンテンツの拡大縮小処理を実行する(ステップS105)。
【0076】
〔6.ハードウェア構成〕
また、上述した実施形態に係る情報処理装置100は、例えば図9に示すような構成のコンピュータ1000によって実現される。図9は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ1000は、出力装置1010、入力装置1020と接続され、演算装置1030、一次記憶装置1040、二次記憶装置1050、出力IF(Interface)1060、入力IF1070、ネットワークIF1080がバス1090により接続された形態を有する。
【0077】
演算装置1030は、一次記憶装置1040や二次記憶装置1050に格納されたプログラムや入力装置1020から読み出したプログラム等に基づいて動作し、各種の処理を実行する。一次記憶装置1040は、RAM等、演算装置1030が各種の演算に用いるデータを一次的に記憶するメモリ装置である。また、二次記憶装置1050は、演算装置1030が各種の演算に用いるデータや、各種のデータベースが記憶される記憶装置であり、ROM(Read Only Memory)、HDD(Hard Disk Drive)、フラッシュメモリ等により実現される。
【0078】
出力IF1060は、モニタやプリンタといった各種の情報を出力する出力装置1010に対し、出力対象となる情報を送信するためのインタフェースであり、例えば、USB(Universal Serial Bus)やDVI(Digital Visual Interface)、HDMI(登録商標)(High Definition Multimedia Interface)といった規格のコネクタにより実現される。また、入力IF1070は、マウス、キーボード、およびスキャナ等といった各種の入力装置1020から情報を受信するためのインタフェースであり、例えば、USB等により実現される。
【0079】
なお、入力装置1020は、例えば、CD(Compact Disc)、DVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等から情報を読み出す装置であってもよい。また、入力装置1020は、USBメモリ等の外付け記憶媒体であってもよい。
【0080】
ネットワークIF1080は、ネットワークNを介して他の機器からデータを受信して演算装置1030へ送り、また、ネットワークNを介して演算装置1030が生成したデータを他の機器へ送信する。
【0081】
演算装置1030は、出力IF1060や入力IF1070を介して、出力装置1010や入力装置1020の制御を行う。例えば、演算装置1030は、入力装置1020や二次記憶装置1050からプログラムを一次記憶装置1040上にロードし、ロードしたプログラムを実行する。
【0082】
例えば、コンピュータ1000が情報処理装置100として機能する場合、コンピュータ1000の演算装置1030は、一次記憶装置1040上にロードされたプログラムを実行することにより、情報処理装置100の制御部130の機能を実現する。
【0083】
〔7.構成と効果〕
本開示に係る情報処理装置100は、画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して対象コンテンツに対する拡大縮小操作の操作指示を表示させる表示部131と、利用者の画面上における対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得する取得部132と、操作情報と、中心点座標との関係を機械学習モデルに学習させて、操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成する生成部133と、学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力する中心点出力部135と、を備える。
【0084】
この構成によれば、情報処理装置100は、利用者の意図を適切に反映して、対象コンテンツの拡大縮小処理の中心点座標を出力できる。
【0085】
また、本開示に係る情報処理装置100は、拡大縮小処理の対象コンテンツを表示させて、利用者の拡大縮小操作の操作情報を受け付ける受付部134と、中心点出力部135が出力した中心点座標と受付部134が受け付けた操作情報に基づいて、対象コンテンツを拡大又は縮小させて表示させる表示制御部136と、をさらに備える。
【0086】
この構成によれば、情報処理装置100は、利用者の意図を適切に反映した中心点座標を中心として対象コンテンツの拡大縮小処理を実行することができる。
【0087】
また、本開示に係る情報処理装置100の取得部132は、複数の利用者の対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得し、生成部133は、複数の利用者の操作情報と中心点座標との関係を機械学習モデルに学習させて、学習済みモデルを生成する。
【0088】
この構成によれば、情報処理装置100は、多様な利用者の拡大縮小操作の特徴を学習させた学習済みモデルを用いて拡大縮小処理の中心点座標を出力することができる。したがって、様々な利用者の意図に沿って拡大縮小処理を行うことができる。
【0089】
また、本開示に係る情報処理装置100は、生成部133は、利用者ごとの操作情報と中心点座標との関係を機械学習モデルに学習させて、利用者ごとに学習済みモデルを生成する。
【0090】
この構成によれば、情報処理装置100は、利用者ごとに拡大縮小操作に大きな違いがあった場合であっても、利用者の意図を適切に反映した中心点を中心として対象コンテンツを拡大縮小処理することができる。
【0091】
また、本開示に係る情報処理装置100の取得部132は、手の震えがある利用者の操作情報と中心点座標を取得し、生成部133は、手の震えがある利用者の操作情報と中心点座標との関係を機械学習モデルに学習させて、学習済みモデルを生成する。
【0092】
この構成によれば、情報処理装置100は、利用者の拡大縮小操作を行う手に震えがあったとしても、利用者の意図を適切に反映した中心点を中心として対象コンテンツの拡大縮小処理を行うことができる。
【0093】
また、本開示に係る情報処理方法は、画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して対象コンテンツに対する拡大縮小操作の操作指示を表示させるステップと、利用者の画面上における対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得するステップと、操作情報と、中心点座標との関係を機械学習モデルに学習させて、操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成するステップと、学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力するステップと、を含む。
【0094】
この構成によれば、利用者の意図を適切に反映して、対象コンテンツの拡大縮小処理の中心点座標を出力できる。
【0095】
また、本開示に係る情報処理プログラムは、画面に表示される学習処理用の対象コンテンツの任意の位置に拡大縮小操作の中心点を表示させて、利用者に対して対象コンテンツに対する拡大縮小操作の操作指示を表示させるステップと、利用者の画面上における対象コンテンツに対する拡大縮小操作の操作情報と中心点座標を取得するステップと、操作情報と、中心点座標との関係を機械学習モデルに学習させて、操作情報を入力すると、拡大縮小処理の中心点座標を出力する学習済みモデルを生成するステップと、学習済みモデルに操作情報を入力して、拡大縮小処理の中心点座標を出力するステップと、を含む。
【0096】
この構成によれば、利用者の意図を適切に反映して、対象コンテンツの拡大縮小処理の中心点座標を出力できる。
【0097】
以上、本願の実施形態を図面に基づいて詳細に説明したが、これは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【0098】
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、取得部132は、取得手段や取得回路に読み替えることができる。
【符号の説明】
【0099】
100 情報処理装置
110 通信部
120 記憶部
121 操作情報記憶部
122 モデル記憶部
130 制御部
131 表示部
132 取得部
133 生成部
134 受付部
135 中心点出力部
136 表示制御部
200 利用者端末
N ネットワーク
図1
図2
図3
図4
図5
図6
図7
図8
図9