IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社シマノの特許一覧

特許7514063検出装置、検出方法、コンピュータプログラム、および記憶媒体
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-02
(45)【発行日】2024-07-10
(54)【発明の名称】検出装置、検出方法、コンピュータプログラム、および記憶媒体
(51)【国際特許分類】
   B62J 50/20 20200101AFI20240703BHJP
   G06T 19/00 20110101ALI20240703BHJP
   G01V 8/10 20060101ALI20240703BHJP
   G01M 17/007 20060101ALN20240703BHJP
【FI】
B62J50/20
G06T19/00 600
G01V8/10 S
G01M17/007 H
【請求項の数】 38
(21)【出願番号】P 2019111494
(22)【出願日】2019-06-14
(65)【公開番号】P2020203546
(43)【公開日】2020-12-24
【審査請求日】2022-02-17
【前置審査】
(73)【特許権者】
【識別番号】000002439
【氏名又は名称】株式会社シマノ
(74)【代理人】
【識別番号】100114557
【弁理士】
【氏名又は名称】河野 英仁
(74)【代理人】
【識別番号】100078868
【弁理士】
【氏名又は名称】河野 登夫
(72)【発明者】
【氏名】島津 速人
(72)【発明者】
【氏名】近井 厚三
(72)【発明者】
【氏名】中村 克生
(72)【発明者】
【氏名】田河 賢治
(72)【発明者】
【氏名】田中 翔
(72)【発明者】
【氏名】中島 康博
(72)【発明者】
【氏名】増田 慎子
(72)【発明者】
【氏名】本元 泰穂
【審査官】高瀬 智史
(56)【参考文献】
【文献】米国特許出願公開第2017/0308751(US,A1)
【文献】米国特許出願公開第2019/0012802(US,A1)
【文献】特開2005-004489(JP,A)
【文献】国際公開第2017/217032(WO,A1)
【文献】特開2005-302919(JP,A)
【文献】特開2015-005172(JP,A)
【文献】米国特許出願公開第2012/0130521(US,A1)
【文献】特開2002-370630(JP,A)
【文献】特開2005-078586(JP,A)
【文献】特表2017-533609(JP,A)
【文献】国際公開第2015/194371(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
B62J 50/20
G06T 19/00
G01V 8/10
G01M 17/007
(57)【特許請求の範囲】
【請求項1】
人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車のコンポーネントを被検出コンポーネントとして検出し、前記被検出コンポーネントに関する関連情報として、前記被検出コンポーネントの識別情報に対応付けて記憶されている組付け状態のイメージに基づき、前記被検出コンポーネントの前記人力駆動車への組み付けの適否を示す情報を出力する制御部を備える検出装置。
【請求項2】
前記制御部は、イメージの入力に応じて前記被検出コンポーネントの識別情報および前記被検出コンポーネントである確度を出力するように学習された学習モデルによって、前記コンポーネントを検出する、請求項1に記載の検出装置。
【請求項3】
前記制御部は、前記関連情報と、前記被検出コンポーネントが強調された第2イメージと、を出力する、請求項1に記載の検出装置。
【請求項4】
前記関連情報は、前記被検出コンポーネントに関連するコンポーネント情報を含む、請求項1から3のいずれか一項に記載の検出装置。
【請求項5】
前記コンポーネント情報は、前記被検出コンポーネントの種類に関する情報、前記被検出コンポーネントのスペックに関する情報、前記被検出コンポーネントの組立方法に関する情報、前記被検出コンポーネントの組付方法に関する情報、前記被検出コンポーネントの分解方法に関する情報、前記被検出コンポーネントの調整方法に関する情報、および、前記被検出コンポーネントの置換品に関する情報の少なくとも1つに関する情報を含む、請求項4に記載の検出装置。
【請求項6】
前記組付方法に関する情報は、前記被検出コンポーネントを前記人力駆動車に組み付けるための部品に関する情報、および前記被検出コンポーネントの組み付けに必要な工具に関する情報のうちの少なくとも1つを含む、請求項5に記載の検出装置。
【請求項7】
前記置換品に関する情報は、前記被検出コンポーネントを前記置換品に置き換える場合に必要となる他の部品に関する情報を含む、請求項5または6に記載の検出装置。
【請求項8】
前記制御部は、前記第1イメージから複数の前記被検出コンポーネントを検出し、複数の前記被検出コンポーネント間の適合状態に関する情報を前記関連情報として出力する、請求項1から7のいずれか一項に記載の検出装置。
【請求項9】
前記制御部は、
前記第1イメージから前記人力駆動車のフレームを被検出フレームとして検出し、
前記被検出フレームへの前記被検出コンポーネントの組付けの適否を示す情報を出力する、請求項1から8のいずれか一項に記載の検出装置。
【請求項10】
前記制御部は、前記関連情報と、前記被検出フレームが強調された第3イメージと、を出力する、請求項9に記載の検出装置。
【請求項11】
前記制御部は、前記関連情報として、前記人力駆動車の使用者の身体情報および属性情報の少なくとも1つを含む使用者情報と、前記被検出フレームと、に基づき推奨されるコンポーネントに関する情報を出力する、請求項9または10に記載の検出装置。
【請求項12】
前記身体情報は、前記使用者の関節位置に関する情報を含む、請求項11に記載の検出装置。
【請求項13】
前記制御部は、文字列およびグラフィックの少なくとも1つによって、前記関連情報を出力する、請求項1から12のいずれか一項に記載の検出装置。
【請求項14】
前記制御部から出力される情報を表示する表示部をさらに備える、請求項1から13のいずれか一項に記載の検出装置。
【請求項15】
前記表示部は、前記関連情報を、被選択関連情報として選択する入力を受け付け、
前記制御部は、前記被選択関連情報の詳細情報を出力する、請求項14に記載の検出装置。
【請求項16】
前記表示部は、前記被検出コンポーネントが強調された第2イメージにおいて、前記被検出コンポーネントを、被選択コンポーネントとして選択可能に構成され、
前記制御部は、前記被選択コンポーネントの関連情報を出力する、請求項14または15に記載の検出装置。
【請求項17】
前記制御部から出力される情報を記憶する記憶部をさらに備える、請求項1から16のいずれか一項に記載の検出装置。
【請求項18】
前記制御部は、前記被検出コンポーネントの識別情報を、前記関連情報と対応付けて前記記憶部に記憶させる、請求項17に記載の検出装置。
【請求項19】
前記制御部は、前記被検出コンポーネントの識別情報を、前記人力駆動車の使用者の識別情報と対応付けて前記記憶部に記憶させる、請求項17または18に記載の検出装置。
【請求項20】
前記制御部は、前記被検出コンポーネントの識別情報を、前記関連情報と対応付けて外部に出力する、請求項1から19のいずれか一項に記載の検出装置。
【請求項21】
前記制御部は、前記被検出コンポーネントの識別情報を、前記人力駆動車の使用者の識別情報と対応付けて外部に出力する、請求項1から20のいずれか一項に記載の検出装置。
【請求項22】
前記制御部は、前記人力駆動車の走行履歴に基づき、前記第1イメージの入力を使用者に促すための情報を出力する、請求項1から21のいずれか一項に記載の検出装置。
【請求項23】
前記制御部は、前記第1イメージを、前記人力駆動車の走行履歴と対応付けて外部に出力する、請求項1から22のいずれか一項に記載の検出装置。
【請求項24】
前記制御部は、前記第1イメージを、前記人力駆動車の走行環境を示す走行環境情報と対応付けて外部に出力する、請求項1から23のいずれか一項に記載の検出装置。
【請求項25】
前記制御部は、インターネットを介して収集された人力駆動車の一部を含むイメージに対し、前記イメージに写っているコンポーネントの識別情報をラベル付けした教師データによって、前記学習モデルを学習させる、請求項2に記載の検出装置。
【請求項26】
前記制御部は、人力駆動車のフレームおよびコンポーネントの少なくとも1つに関する設計用アプリケーションプログラムによって生成されるレンダリングイメージに基づく教師データによって、前記学習モデルを学習させる、請求項2に記載の検出装置。
【請求項27】
前記制御部は、人力駆動車のフレームおよびコンポーネントの少なくとも1つを、複数の異なる角度から見たときの複数のイメージを含む教師データによって、前記学習モデルを学習させる、請求項2に記載の検出装置。
【請求項28】
前記制御部は、前記学習モデルから出力される確度が所定値以下である場合、確度が高い順に前記コンポーネントの識別情報を複数出力し、選択された物体の識別情報をラベル付けした第4イメージによって、前記学習モデルを学習させる、請求項2に記載の検出装置。
【請求項29】
人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車に関する物体を被検出物体として検出し、前記被検出物体に関する関連情報を出力する制御部を備え、
前記物体は、前記人力駆動車のフレームを含み、
前記制御部は、前記第1イメージから前記フレームを被検出フレームとして検出し、
前記関連情報として、前記人力駆動車の使用者の身体情報および属性情報の少なくとも1つを含む使用者情報と、前記被検出フレームと、に基づき推奨されるコンポーネントに関する情報を出力する、検出装置。
【請求項30】
前記身体情報は、前記使用者の関節位置に関する情報を含む、請求項29に記載の検出装置。
【請求項31】
記関連情報は、前記被検出コンポーネントに対応する型番情報を含む、請求項1に記載の検出装置。
【請求項32】
人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車のコンポーネントを被検出コンポーネントとして検出し、
前記被検出コンポーネントに関する関連情報として、前記被検出コンポーネントの識別情報に対応付けて記憶されている組付け状態のイメージに基づき、前記被検出コンポーネントの前記人力駆動車への組み付けの適否を示す情報を出力する、処理を含む検出方法。
【請求項33】
人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車のフレームを被検出フレームとして検出し、
前記被検出フレームに関する関連情報として、前記人力駆動車の使用者の身体情報および属性情報の少なくとも1つを含む使用者情報と、前記被検出フレームと、に基づき推奨されるコンポーネントに関する情報を出力する、処理を含む検出方法。
【請求項34】
前記関連情報、前記被検出コンポーネントに対応する型番情報を含、請求項32に記載の検出方法。
【請求項35】
コンピュータに、
人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車のコンポーネントを被検出コンポーネントとして検出し、
前記被検出コンポーネントに関する関連情報として、前記被検出コンポーネントの識別情報に対応付けて記憶されている組付け状態のイメージに基づき、前記被検出コンポーネントの前記人力駆動車への組み付けの適否を示す情報を出力する、処理を実行させるコンピュータプログラム。
【請求項36】
請求項35に記載のコンピュータプログラムが記憶された、コンピュータが読み取り可能な記憶媒体。
【請求項37】
コンピュータに、
人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車のフレームを被検出フレームとして検出し、
前記被検出フレームに関する関連情報として、前記人力駆動車の使用者の身体情報および属性情報の少なくとも1つを含む使用者情報と、前記被検出フレームと、に基づき推奨されるコンポーネントに関する情報を出力する、処理を実行させるコンピュータプログラム。
【請求項38】
前記関連情報、前記被検出コンポーネントに対応する型番情報を含む、請求項35に記載のコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、人力駆動車の一部をイメージから検出する検出装置、検出方法、コンピュータプログラム、および記憶媒体に関する。
【背景技術】
【0002】
フロントディレーラ、リアディレーラ、シートポスト、またはサスペンションを含むコンポーネントを備える人力駆動車が知られている。人力駆動車のコンポーネントに診断装置を接続して診断を行なう技術が知られている(特許文献1、2参照)。
【先行技術文献】
【特許文献】
【0003】
【文献】米国特許第7819032号明細書
【文献】米国特許第9227697号明細書
【発明の概要】
【発明が解決しようとする課題】
【0004】
現在、人力駆動車に関する情報をユーザがより手軽に取得する手段を提供することが求められている。
【0005】
本発明の目的は、ユーザが手軽に人力駆動車に関する物体の情報を取得することを可能にする検出装置、検出方法、コンピュータプログラム、および記憶媒体を提供することである。
【課題を解決するための手段】
【0006】
(1)本発明の第1側面に従う検出装置は、人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車に関する物体を被検出物体として検出し、前記被検出物体に関する関連情報を出力する制御部を備える。
このため、ユーザは、人力駆動車のイメージから、人力駆動車の関連情報を手軽に取得することができる。
【0007】
(2)本発明の第2側面に従う検出装置では、前記制御部は、イメージの入力に応じて前記被検出物体の識別情報および前記被検出物体である確度を出力するように学習された学習モデルによって、前記物体を検出する。
このため、入力したイメージから被検出物体の識別情報および確度が学習モデルから出力され、学習によって精度よく被検出物体を検出できる。
【0008】
(3)本発明の第3側面に従う検出装置では、前記物体は、前記人力駆動車のコンポーネントを含み、前記制御部は、前記第1イメージから前記人力駆動車のコンポーネントを被検出コンポーネントとして検出する。
このため、ユーザは、人力駆動車のイメージから、人力駆動車に含まれるコンポーネントの関連情報を取得することができる。
【0009】
(4)本発明の第4側面に従う検出装置では、前記制御部は、前記関連情報と、前記被検出コンポーネントが強調された第2イメージと、を出力する。
このため、ユーザは、検出されたコンポーネントと、関連情報とを認識し易い。
【0010】
(5)本発明の第5側面に従う検出装置では、前記関連情報は、前記被検出コンポーネントに関連するコンポーネント情報を含む。
このため、ユーザは、人力駆動車に含まれるコンポーネントが何であるのか、そのコンポーネントに関連する情報を、人力駆動車の一部を含むイメージからより手軽に情報を取得することができる。
【0011】
(6)本発明の第6側面に従う検出装置では、前記コンポーネント情報は、前記被検出コンポーネントの種類に関する情報、前記被検出コンポーネントのスペックに関する情報、前記被検出コンポーネントの組立方法に関する情報、前記被検出コンポーネントの組付方法に関する情報、前記被検出コンポーネントの分解方法に関する情報、前記被検出コンポーネントの調整方法に関する情報、および、前記被検出コンポーネントの置換品に関する情報の少なくとも1つに関する情報を含む。
このため、ユーザは、人力駆動車の一部を含むイメージから、人力駆動車に含まれるコンポーネントの種類、スペック、組立方法、組付方法、分解方法、調整方法、および置換品の少なくとも1つの情報を手軽に取得することができる
【0012】
(7)本発明の第7側面に従う検出装置では、前記組付方法に関する情報は、前記被検出コンポーネントを前記人力駆動車に組み付けるための部品に関する情報、および前記被検出コンポーネントの組み付けに必要な工具に関する情報のうちの少なくとも1つを含む。
このため、ユーザは、人力駆動車のイメージから、人力駆動車に含まれるコンポーネントを組み付けるための情報を手軽に取得することができる。
【0013】
(8)本発明の第8側面に従う検出装置では、前記置換品に関する情報は、前記被検出コンポーネントを前記置換品に置き換える場合に必要となる他の部品に関する情報を含む。
このため、ユーザは、人力駆動車のイメージから、人力駆動車に含まれるコンポーネントの置換品の情報を手軽に取得することができる。
【0014】
(9)本発明の第9側面に従う検出装置では、前記制御部は、前記被検出コンポーネントについて、前記人力駆動車への組付け状態に関する情報を出力する。
このため、ユーザは、人力駆動車のイメージから、人力駆動車に含まれるコンポーネントの組付け状態の情報を取得することができる。
【0015】
(10)本発明の第10側面に従う検出装置では、前記制御部は、前記第1イメージから複数の前記被検出コンポーネントを検出し、複数の前記被検出コンポーネント間の適合状態に関する情報を前記関連情報として出力する。
このため、ユーザは、人力駆動車のイメージから、人力駆動車に含まれる複数のコンポーネント間の適合性に関する情報を取得することができる。
【0016】
(11)本発明の第11側面に従う検出装置では、前記物体は、前記人力駆動車のフレームを含み、前記制御部は、前記第1イメージから前記フレームを被検出フレームとして検出する。
このため、ユーザは、人力駆動車のイメージから、人力駆動車に含まれるフレームの関連情報を取得することができる。
【0017】
(12)本発明の第12側面に従う検出装置では、前記制御部は、前記関連情報と、前記被検出フレームが強調された第3イメージと、を出力する。
このため、ユーザは、検出されたフレームと、関連情報とを認識し易い。
【0018】
(13)本発明の第13側面に従う検出装置では、前記制御部は、前記関連情報として、前記人力駆動車の使用者の身体情報および属性情報の少なくとも1つを含む使用者情報と、前記被検出フレームと、に基づき推奨されるコンポーネントに関する情報を出力する。
このため、ユーザは人力駆動車のイメージから、自身の身体に適合したフレームおよびコンポーネントの情報を取得することができる。
【0019】
(14)本発明の第14側面に従う検出装置では、前記身体情報は、前記使用者の関節位置に関する情報を含む。
このため、ユーザは、人力駆動車のイメージと、ユーザの関節位置とに基づき、自身の身体に適合したフレームおよびコンポーネントの情報を取得することができる。
【0020】
(15)本発明の第15側面に従う検出装置では、前記制御部は、文字列およびグラフィックの少なくとも1つによって、前記関連情報を出力する。
このため、ユーザは、人力駆動車のイメージから、文字列、グラフィックによって関連情報を取得することができる。
【0021】
(16)本発明の第16側面に従う検出装置は、前記制御部から出力される情報を表示する表示部をさらに備える。
このため、ユーザは、被検出物体、および関連情報を視認することができる。
【0022】
(17)本発明の第17側面に従う検出装置では、前記表示部は、前記関連情報を、被選択関連情報として選択する入力を受け付け、前記制御部は、前記被選択関連情報の詳細情報を出力する。
このため、ユーザは、人力駆動車のイメージから検出された物体に関する関連情報に対し、いずれの関連情報をより詳細に表示させるかを選択し、詳細な情報を取得することができる。
【0023】
(18)本発明の第18側面に従う検出装置では、前記表示部は、前記被検出コンポーネントが強調された第2イメージにおいて、前記被検出コンポーネントを、被選択コンポーネントとして選択可能に構成され、前記制御部は、前記被選択コンポーネントの関連情報を出力する。
このため、ユーザは、人力駆動車のイメージから検出されたコンポーネントに関する関連情報に対し、いずれのコンポーネントについて関連情報を表示させるかを選択できる。
【0024】
(19)本発明の第19側面に従う検出装置は、前記制御部から出力される情報を記憶する記憶部をさらに備える。
このため、検出装置は、人力駆動車における被検出物体に関する関連情報を記憶しておくことができる。
【0025】
(20)本発明の第20側面に従う検出装置では、前記制御部は、前記被検出物体の識別情報を、前記関連情報と対応付けて前記記憶部に記憶させる。
このため、検出装置は、被検出物体の識別情報と、関連情報とを記憶しておくことができる。
【0026】
(21)本発明の第21側面に従う検出装置では、前記制御部は、前記被検出物体の識別情報を、前記人力駆動車の使用者の識別情報と対応付けて前記記憶部に記憶させる。
このため、検出装置は、人力駆動車のイメージにおける被検出物体の識別情報と、使用者を識別する情報とを対応付けて記憶しておくことができる。
【0027】
(22)本発明の第22側面に従う検出装置では、前記制御部は、前記被検出物体の識別情報を、前記関連情報と対応付けて外部に出力する。
このため、検出装置は、人力駆動車のイメージにおける被検出物体の識別情報を、外部、たとえばクラウドサーバ、に出力することができる。
【0028】
(23)本発明の第23側面に従う検出装置では、前記制御部は、前記被検出物体の識別情報を、前記人力駆動車の使用者の識別情報と対応付けて外部に出力する。
このため、検出装置は、人力駆動車のイメージにおける被検出物体の識別情報と、使用者を識別する情報とを対応付けて外部、たとえばクラウドサーバ、に出力することができる。
【0029】
(24)本発明の第24側面に従う検出装置では、前記制御部は、前記人力駆動車の走行履歴に基づき、前記第1イメージの入力を使用者に促すための情報を出力する。
このため、ユーザは、より確実に、人力駆動車に関する物体の関連情報を取得することができる。
【0030】
(25)本発明の第25側面に従う検出装置では、前記制御部は、前記第1イメージを、前記人力駆動車の走行履歴と対応付けて外部に出力する。
このため、検出装置は、人力駆動車のイメージを、前記人力駆動車の走行履歴と対応付けられて外部、たとえばクラウドサーバ、に出力することができる。
【0031】
(26)本発明の第26側面に従う検出装置では、前記制御部は、前記第1イメージを、前記人力駆動車の走行環境を示す走行環境情報と対応付けて外部に出力する。
このため、検出装置は、人力駆動車のイメージと、前記人力駆動車が走行した走行環境を示す情報とを対応付けて外部、たとえばクラウドサーバ、に出力することができる。
【0032】
(27)本発明の第27側面に従う検出装置では、前記制御部は、インターネットを介して収集された人力駆動車の一部を含むイメージに対し、前記イメージに写っている物体の識別情報をラベル付けした教師データによって、前記学習モデルを学習させる。
このため、インターネットで収集された非常に多くの人力駆動車のイメージに基づいて人力駆動車に関する物体を精度よく検出するように学習モデルが学習される。
【0033】
(28)本発明の第28側面に従う検出装置では、前記制御部は、人力駆動車のフレームおよびコンポーネントの少なくとも1つに関する設計用アプリケーションプログラムによって生成されるレンダリングイメージに基づく教師データによって、前記学習モデルを学習させる。
このため、設計用アプリケーションプログラムにて作成された人力駆動車のイメージに基づいて、人力駆動車に関する物体を精度よく検出するように学習モデルが学習される。
【0034】
(29)本発明の第29側面に従う検出装置では、前記制御部は、人力駆動車のフレームおよびコンポーネントの少なくとも1つを、複数の異なる角度から見たときの複数のイメージを含む教師データによって、前記学習モデルを学習させる。
このため、検出装置は、人力駆動車に関する複数のイメージに基づき、人力駆動車に関する物体を検出するように学習モデルを生成することができる。
【0035】
(30)本発明の第30側面に従う検出装置では、前記制御部は、前記学習モデルから出力される確度が所定値以下である場合、確度が高い順に前記物体の識別情報を複数出力し、選択された物体の識別情報をラベル付けした第4イメージによって、前記学習モデルを学習させる。
このため、イメージから学習モデルによって出力された確度が所定値以下である場合には、候補の選択を受け付けて学習モデルが再学習され、検出の精度が高まる。
【0036】
本発明は、上述の特徴的な要素を備える検出装置として実現することができるだけでなく、各特徴的な処理を実行する検出方法、コンピュータに特徴的な処理を実行させるコンピュータプログラム、学習モデルの生成方法、および記憶媒体として実現することができる。
【0037】
(31)本発明の第31側面に従う検出方法は、人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車に関する物体を被検出物体として検出し、前記被検出物体に関する関連情報を出力する。
このため、ユーザは、人力駆動車のイメージから、人力駆動車の関連情報を手軽に取得することができる。
【0038】
(32)本発明の第32側面に従う生成方法は、人力駆動車の少なくとも一部を含む複数の第1イメージに対して、人力駆動車に関する物体の識別情報をラベル付けした教師データを作成し、イメージの入力に応じて、前記イメージから前記人力駆動車に関する物体を被検出物体として検出し、前記被検出物体の識別情報および前記被検出物体である確度を出力する学習モデルを、作成された教師データに基づいて生成する。
このため、入力したイメージから被検出物体の識別情報および確度を出力する学習モデルを生成することができる。
【0039】
(33)本発明の第33側面に従うコンピュータプログラムは、コンピュータに、人力駆動車の少なくとも一部が含まれる第1イメージから前記人力駆動車に関する物体を被検出物体として検出し、前記被検出物体に関する関連情報を出力する、処理を実行させる。
このため、ユーザは、人力駆動車のイメージから、人力駆動車の関連情報を手軽に取得することができる。
【0040】
(34)本発明の第34側面に従う記憶媒体は、上述のコンピュータプログラムが記憶された、コンピュータが読み取り可能な記憶媒体である。
このため、コンピュータプログラムをコンピュータに読み取らせることで、前記コンピュータが、人力駆動車のイメージから、人力駆動車の関連情報を出力する装置になる。
【発明の効果】
【0041】
本発明に関する検出装置によれば、ユーザは、特別な診断装置を用いずに、人力駆動車のイメージから、人力駆動車の関連情報を手軽に取得することができる。
【図面の簡単な説明】
【0042】
図1】第1実施形態に係る検出装置の構成を示すブロック図である。
図2】学習モデルの概要を示す図である。
図3】学習モデルを用いた検出装置によるコンポーネントの検出方法の一例を示すフローチャートである。
図4】検出装置の表示部における関連情報の出力例を示す。
図5】検出装置の表示部における関連情報の他の出力例を示す。
図6】検出装置の表示部における関連情報の他の出力例を示す。
図7】検出装置の表示部における関連情報の他の出力例を示す。
図8】検出装置の表示部における関連情報の他の出力例を示す。
図9】検出装置の表示部における関連情報の他の出力例を示す。
図10】第2実施形態の学習モデルの概要を示す図である。
図11】第2実施形態の学習モデルを用いた検出装置によるコンポーネントの検出方法の一例を示すフローチャートである。
図12】第2実施形態における検出装置の表示部における関連情報の出力例を示す。
図13】検出装置の表示部における関連情報の他の出力例を示す。
図14】検出装置の表示部における関連情報の他の出力例を示す。
図15】変形例における検出装置の処理手順の一例を示すフローチャートである。
図16】変形例における検出装置の処理手順の一例を示すフローチャートである。
図17】第3実施形態における学習モデルの概要を示す図である。
図18】第3実施形態の検出装置による処理手順の一例を示すフローチャートである。
図19】検出装置の表示部における関連情報の出力例を示す。
図20】第4実施形態における検出装置による処理手順の一例を示すフローチャートである。
図21】第5実施形態における検出装置およびサーバ装置を含むシステムの構成を示すブロック図である。
図22】第5実施形態における処理手順の一例を示すフローチャートである。
図23】第5実施形態における処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【0043】
以下の各実施形態に関する説明は、本発明に関する出力装置が取り得る形態の例示であり、その形態を制限することを意図していない。本発明に関する出力装置は、各実施形態の変形例、および、相互に矛盾しない少なくとも2つの変形例が組み合わせられた形態等のように各実施形態とは異なる形態を取り得る。
【0044】
以下の各実施形態に関する説明において、前、後、前方、後方、左、右、横、上、および、下等の方向を表す言葉は、ユーザが人力駆動車のサドルに着座した状態における方向を基準として用いられる。
【0045】
(第1実施形態)
図1は、第1実施形態に係る検出装置1の構成を示すブロック図である。検出装置1は、第1例ではスマートフォンである。検出装置1は、第2例ではタブレット端末である。検出装置1は、制御部100、記憶部102、表示部104、通信部108、入出力部110、および撮像部112を備える。
【0046】
制御部100は、CPU(Central Processing Unit )および/またはGPU(Graphics Processing Unit)を用いたプロセッサである。制御部100は、内蔵するROM(Read Only Memory)およびRAM(Random Access Memory)等のメモリを用いて処理を実行する。検出装置1は、人力駆動車の少なくとも一部が含まれる第1イメージから人力駆動車に関する物体を被検出物体として検出し、被検出物体に関する関連情報を出力する。
【0047】
記憶部102は、例えばフラッシュメモリ等の不揮発性メモリを含む。記憶部102には、コンピュータプログラム1Pが記憶されている。制御部100は、コンピュータプログラム1Pを読み出して実行する。コンピュータプログラム1Pは、人力駆動車の部品メーカから提供され、または任意の配信サーバから配信され、汎用コンピュータである検出装置1にインストールされる。コンピュータプログラム1Pは、コンピュータに、人力駆動車の少なくとも一部が含まれる第1イメージから人力駆動車に関する物体を被検出物体として検出し、被検出物体に関する関連情報を出力する、処理を実行させる。コンピュータプログラム1Pは、記憶媒体5に記憶されたコンピュータプログラム5Pを制御部100が読み出して記憶部102に複製したものであってもよい。
【0048】
記憶部102には、学習モデル1Mが記憶されている。学習モデル1Mは、イメージの入力に応じて前記被検出物体の識別情報および前記被検出物体である確度を出力するように学習されている。制御部100は、学習モデル1Mによって物体を検出する。学習モデル1Mは、記憶媒体5に記憶された学習モデル5Mを制御部100が読み出して記憶部102に複製したものであってもよい。
【0049】
第1実施形態において、物体は、人力駆動車のコンポーネントを含み、制御部100は、第1イメージから人力駆動車のコンポーネントを被検出コンポーネントとして検出する。
【0050】
記憶部102には予め、検出されたコンポーネントに関連するコンポーネント情報を含む関連情報が記憶されている。コンポーネント情報は第1例では、人力駆動車のコンポーネントの識別情報に対応付けたコンポーネントの種類であり、種類を示す名称を含む。コンポーネント情報は第2例では、コンポーネントの型番を識別する識別情報に対応付けられた各コンポーネントのスペックに関する情報である。コンポーネント情報は第3例では、コンポーネントの型番を識別する識別情報に対応付けられた各コンポーネントの組立方法に関する情報である。コンポーネント情報は第3例では、コンポーネントの型番を識別する識別情報に対応付けられた各コンポーネントの組立方法に関する情報である。コンポーネント情報は第4例では、コンポーネントの型番を識別する識別情報に対応付けられた各コンポーネントの組付方法に関する情報である。コンポーネント情報は第5例では、コンポーネントの型番を識別する識別情報に対応付けられた各コンポーネントの分解方法に関する情報である。コンポーネント情報は第6例では、コンポーネントの型番を識別する識別情報に対応付けられた各コンポーネントの調整方法に関する情報である。コンポーネント情報は第7例では、コンポーネントの型番を識別する識別情報に対応付けられた各コンポーネントの置換品に関する情報である。これらの情報の一部または全部が関連情報に含まれてよい。関連情報は、コンピュータプログラム1Pに組み込まれていてもよい。
【0051】
組付方法に関する情報は、被検出コンポーネントを人力駆動車に組み付けるための部品に関する情報、および前記被検出コンポーネントの組み付けに必要な工具に関する情報のうちの少なくとも1つを含む。置換品に関する情報は、前記被検出コンポーネントを前記置換品に置き換える場合に必要となる他の部品に関する情報を含む。
【0052】
記憶部102には、予め記憶されている情報に加え、制御部100が出力する情報が記憶される。記憶部102には検出された人力駆動車に関する関連情報が記憶される。記憶部102には、使用者の識別情報が記憶される。使用者の識別情報は、たとえば、名前、ニックネーム、ユーザID、または電子メールアドレスを含む。記憶部102には、使用者に関する使用者情報が記憶される。使用者情報は、人力駆動車の使用者の身体情報および属性情報の少なくとも1つを含む。身体情報は、たとえば、使用者の身長、体重を含む。身体情報は、使用者の関節位置を含んでよい。属性情報は、たとえば、使用者の好むライディングスタイルや、ライフスタイルに関する情報を含む。
【0053】
表示部104は、液晶パネルまたは有機ELディスプレイ等の表示装置である。表示部104は、制御部100から出力される情報を表示する。第1実施形態では表示部104は、撮像部112で撮像した人力駆動車のイメージと共に、人力駆動車の一部に関する関連情報を表示する。
【0054】
表示部104は、ユーザの操作入力を受け付けるインタフェースである操作部106を含む。本実施形態では、操作部106は、表示部104に含まれるタッチパネルデバイスである。操作部106は、物理ボタン、およびマイクロフォン等であってもよい。
【0055】
通信部108は、公衆通信網Nへの通信接続を実現する通信モジュールである。制御部100は、通信部108を介して、情報を外部に出力することができる。
【0056】
入出力部110は、外部記憶装置、または通信機器と接続されるインタフェースである。入出力部110は例えば、USB(Universal Serial Bus)インタフェースである。
【0057】
撮像部112は、CMOS(Complementary MOS )イメージセンサ等の撮像素子を含む。撮像部112は起動すると撮像素子にて撮像された画像を出力する。撮像部112は、制御部100の指示に基づいて静止画像または動画像を撮像する。
【0058】
第1実施形態の制御部100は、学習モデル1Mを用いて人力駆動車のコンポーネントを検出する。制御部100は、人力駆動車を撮像した第1イメージを学習モデル1Mへ入力し、写っている人力駆動車、人力駆動車のコンポーネント、人力駆動車のフレームを検出し、検出されたコンポーネント、フレーム等に関連する関連情報を出力する。以下に、学習モデル1Mを用いた検出処理を詳細に説明する。
【0059】
図2は、学習モデル1Mの概要を示す図である。学習モデル1Mは、人力駆動車の少なくとも一部が含まれる第1イメージの入力に応じて人力駆動車に関する物体の識別情報およびその物体である確度を出力するように学習された学習モデルである。学習モデル1Mは、図2に示すようにニューラルネットワーク(以下NN:Neural Network)を用いた教師ありの深層学習アルゴリズムによって人力駆動車に関する物体の識別情報を、確度を示すスコアと共に出力する。学習モデル1Mの学習アルゴリズムは教師なしの学習アルゴリズムでもよいし、リカレントニューラルネットワーク(Recurrent Neural Network)でもよい。
【0060】
学習モデル1MのNNは、図2に示すように、定義データによって定義される複数段の畳み込み層、プーリング層および全結合層を含み、入力される第1イメージの特徴量に基づいて、入力された第1イメージに写っている物体を分類し、分類結果を識別する識別情報と確度とを出力する。
【0061】
学習モデル1Mは、人力駆動車に関する事業者によって管理されるモデル作成装置にて、インターネットを介して収集された人力駆動車の一部を含む第1イメージに対し、第1イメージに写っている物体の識別情報をラベル付けした教師データによって、学習されている。具体的には、学習モデル1Mは、人力駆動車の少なくとも一部を含む複数の第1イメージに対して、人力駆動車に関する物体の識別情報をラベル付けした教師データを作成し、イメージの入力に応じて、イメージから人力駆動車に関する物体を被検出物体として検出し、人力駆動車に関する物体の識別情報および確度を出力する学習モデルを、作成された教師データに基づいて生成する、生成方法によって生成される。
【0062】
学習モデル1Mは予め、人力駆動車に関する事業者によって管理されるモデル作成装置にて、人力駆動車のフレームおよびコンポーネントの少なくとも1つに関する設計用アプリケーションプログラムによって生成されるレンダリングイメージに基づく教師データによって、学習されてもよい。レンダリングイメージが教師データに使用される場合であっても、物体の識別情報をラベル付けして教師データが作成される。設計用アプリケーションプログラムは例えば三次元CADである。
【0063】
学習モデル1Mは予め、人力駆動車に関する事業者によって管理されるモデル作成装置にて、人力駆動車のフレームおよびコンポーネントの少なくとも1つを複数の異なる角度から見たときの複数のイメージを含む教師データによって学習されてもよい。
【0064】
教師データのイメージにラベル付けされる物体の識別情報は、第1例では、人力駆動車のコンポーネントの種類を区別する情報である。図2では、スプロケットを含む第1イメージは「0」のラベル、リアディレーラを含む第1イメージには「1」のラベル、フロントディレーラを含む第1イメージには「2」のラベルが付けられている。
【0065】
教師データのイメージにラベル付けされる物体の識別情報は、第2例では、人力駆動車の各コンポーネントまたはフレームの型番に対応する。第2例では、コンポーネントまたはフレームを含む第1イメージに型番別のラベルが付けられて教師データとされる。
【0066】
図2に示した学習モデル1Mを用いた検出処理を、フローチャートを参照して説明する。学習モデル1Mは、型番に対応するコンポーネントの識別情報を出力するように学習してあるものとする。
ある。
【0067】
図3は、学習モデル1Mを用いた検出装置1によるコンポーネントの検出方法の一例を示すフローチャートである。スマートフォンである検出装置1を所持するユーザ、または検出装置1を所持する人力駆動車のメンテナンススタッフが、コンピュータプログラム1Pを起動させると、制御部100は以下の処理を実行する。
【0068】
制御部100は、人力駆動車を含む第1イメージを受け付ける(ステップS101)。ステップS101において、制御部100は、撮像部112は起動させ、画像出力を受け付ける。あらかじめ撮像部112によって取得された第1イメージを記憶部102に記憶しておき、ステップS101において制御部100が、選択された第1イメージを記憶部102から読み出すことで第1イメージを受け付けてもよい。
【0069】
制御部100は、受け付けた第1イメージを出力する(ステップS103)。ステップS103において制御部100は、第1イメージを表示部104に表示させる。
【0070】
制御部100は、受け付けた第1イメージを学習済みの学習モデル1Mに入力する(ステップS105)。学習モデル1Mは、第1イメージの入力に応じて、コンポーネントを検出し、被検出コンポーネントの型番に対応する識別情報および確度を出力する。制御部100は、学習モデル1Mから出力された識別情報および確度を取得する(ステップS107)。ステップS105およびステップS107によって、制御部100は、人力駆動車のコンポーネントを被検出コンポーネントとして検出する。
【0071】
制御部100は、被検出コンポーネントに関連するコンポーネント情報を含む関連情報を記憶部102から読み出し(ステップS109)、読み出された関連情報を出力する(ステップS111)。ステップS109において制御部100は、関連情報を表示部104に出力する。制御部100は、文字列およびグラフィックの少なくとも1つによって、関連情報を出力する。表示部104は、ステップS103で表示されている第1イメージ上に、関連情報を示す文字列を重畳させて表示する。関連情報の出力は表示部104への出力に限らず、入出力部110を介した外部装置への出力でも、印刷出力であっても、音声出力であってもよい。
【0072】
ステップS111において制御部100は、関連情報をコンポーネントごとに選択可能に出力し、選択されたコンポーネントの関連情報の詳細情報を出力する。詳細情報の出力例は、図4図9を参照して詳細に説明する。
【0073】
ステップS109において読み出されるコンポーネント情報は、記憶部102に関連情報として記憶されている情報の内の任意の情報である。読み出されるコンポーネント情報は、記憶部102に関連情報として記憶されている全ての情報であってよい。
【0074】
制御部100は、ステップS111で出力した関連情報と対応付けて、ステップS107で検出されたコンポーネントの識別情報を記憶部102に記憶させ(ステップS113)、処理を終了する。
【0075】
図4は、検出装置1の表示部104における関連情報の表示例を示す。図4には、表示部104に表示されているコンピュータプログラム1Pに基づくアプリ画面140の例が示されている。アプリ画面140には、ステップS103で表示部104に表示された第1イメージ142が含まれる。アプリ画面140には、第1イメージ142に重畳して、被検出コンポーネントに関する関連情報が文字列によって表示されている。図4の例では、関連情報は、コンポーネントの型番を示す情報である。表示部104は、操作部106を介して、関連情報を被選択関連情報として選択する入力を受け付ける。表示部104は、図4のアプリ画面140上で、文字によって表示されている関連情報をオブジェクト144として選択する入力を受け付ける。図4では、選択可能な関連情報のオブジェクト144は、矩形枠で示されている。
【0076】
制御部100は、被選択関連情報の詳細情報を出力する。具体的には、制御部100は、詳細情報を表示部104に出力する。図5は、表示部104における詳細情報の表示例を示す。図5に示すように、アプリ画面140には、第1イメージ142に重畳されて、太字枠で示す選択されたオブジェクト144に対応する被検出コンポーネントの詳細情報として、コンポーネントの型番に対応付けて記憶部102に記憶されているコンポーネントのスペックに関する情報が表示されている。アプリ画面140には、被検出コンポーネントの型番に対応付けて記憶部102に記憶されているコンポーネントの置換品、および置換品に置き換える場合に必要となる他の部品に関する情報が表示されてもよい。
【0077】
図6は、検出装置1の表示部104における関連情報の他の表示例を示す。図6では、オブジェクト144が選択された場合の他の表示例が示される。アプリ画面140には、第1イメージ142に写っているコンポーネントの型番を示す情報が関連情報として表示されている。関連情報は図4同様に、選択可能なオブジェクト144として表示されている。オブジェクト144をユーザが選択した場合、たとえば、アプリ画面140上で、ユーザがオブジェクト144をタップした場合、図6に示すように、コンポーネントの関連情報として、「組立方法」、「組付方法」、「分解方法」、「調整方法」および「登録」の少なくとも1つを選択することが可能なメニュー146が文字列で表示される。「登録」が選択された場合、人力駆動車の使用者の識別情報および属性情報を受け付け、被検出コンポーネントの種類、型番および関連情報が、使用者の識別情報および属性情報に対応付けて記憶部102に記憶される。
【0078】
図7は、検出装置1の表示部104における関連情報の他の表示例を示す。図7の例は、クランクを写した第1イメージ142のオブジェクト144に対して表示されるメニュー146で「組付方法」が選択された場合の表示例である。「組付方法」が選択された場合に表示される組付方法に関する情報は、被検出コンポーネントを人力駆動車に組み付けるための部品に関する情報、および前記被検出コンポーネントの組み付けに必要な工具に関する情報のうちの少なくとも1つを含む。図7の例では、部品に関する情報が表示されている。
【0079】
図8は、検出装置1の表示部104における関連情報の他の表示例を示す。図8の例は、図6のメニュー146で「調整方法」が選択された場合の表示例である。「調整方法」が選択された場合、図8に示すように、調整の手順を示す詳細情報が表示されている。
【0080】
図9は、検出装置1の表示部104における関連情報の他の表示例を示す。図9の例は、図6のメニュー146で「分解方法」が選択された場合の表示例である。「分解方法」が選択された場合、図9に示すように、分解の手順を示す詳細情報が表示されている。
【0081】
図4から図9に示したように、ユーザはスマートフォンまたはタブレット端末を用い、コンピュータプログラム1Pを起動させることによって、人力駆動車のイメージから、人力駆動車の関連情報を手軽に取得することができる。検出装置1は、学習済みの学習モデル1Mに基づく検出によって精度よく被検出物体を検出できる。
【0082】
(第2実施形態)
第2実施形態における学習モデル1Mは、第1イメージに写っている人力駆動車に関する物体の第1イメージ内での位置も出力するように学習される。学習モデル1Mはこの場合、SSD(Single Shot MultiBox Detector )として学習される。第2実施形態の構成は、学習モデル1Mの内容および制御部100による処理内容以外は、第1実施形態と同様であるから、共通する構成には同一の符号を付して詳細な説明を省略する。
【0083】
図10は、第2実施形態の学習モデル1Mの概要を示す図である。学習モデル1Mはこの場合、入力された第1イメージを複数チャネルに分解し、畳み込みまたはプーリング処理の後、複数のスケールの特徴マップを段階的に出力する。学習モデル1Mは、複数段階ごとに出力された特徴マップに対して検出範囲を候補と確度とを出力し、段階ごとに出力された検出範囲の候補に対して重複したものを除外しながら、検出範囲候補を集合させ、検出枠のおよび対応する確度(score)を出力する。
【0084】
第2実施形態における学習モデル1Mを生成するための教師データは、第1イメージ内の物体の範囲を示す枠の位置、幅および高さも含む。物体の位置も出力する学習モデル1Mは、SSDに限られずR-CNN、YOLO等に基づくモデルであってよい。
【0085】
図10に示した位置も含めて検出する学習モデル1Mを生成するための教師データは、第1実施形態同様に、人力駆動車に関する事業者によって管理されるモデル作成装置にて、インターネットを介して収集された人力駆動車の一部を含む第1イメージに対し、第1イメージに写っている物体の識別情報をラベル付けし、第1イメージ内の物体の位置を指定した教師データである。なお、学習モデル1Mは、人力駆動車に関する事業者によって管理されるモデル作成装置にて、人力駆動車のフレームおよびコンポーネントの少なくとも1つに関する設計用アプリケーションプログラムによって生成されるレンダリングイメージに基づく教師データに基づいて、生成されてもよい。
【0086】
図11は、第2実施形態の学習モデル1Mを用いた検出装置1によるコンポーネントの検出方法の一例を示すフローチャートである。図11のフローチャートに示す処理手順の内、第1実施形態の図4のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。
【0087】
第2実施形態では制御部100は、使用者の識別情報、および属性情報の入力を受け付け(ステップS121)、第1イメージを受け付ける(S101)。ステップS121における識別情報の受け付けは、コンピュータプログラム1Pの初回起動のみであってもよいし、検出処理の都度受け付けてもよい。また、制御部100は、ステップS121において、記憶部102に記憶される複数の使用者の識別情報のいずれか1つを選択する操作入力を受け付けてもよい。
【0088】
第2実施形態の学習モデル1Mは、ステップS105の第1イメージの入力に応じて、コンポーネントを検出し、被検出コンポーネントの型番に対応する識別情報、コンポーネントの検出範囲、および確度を出力する。制御部100は、学習モデル1Mから出力された識別情報、検出範囲、および確度を取得する(ステップS123)。
【0089】
制御部100は、取得した検出範囲の情報に含まれる第1イメージ内における検出位置、幅および高さに基づき、被検出コンポーネントが強調された第2イメージを作成する(ステップS125)。第2イメージは例えば、第1イメージ上のコンポーネントを囲む枠を重畳させて得られる。第2イメージは例えば、第1イメージ上のコンポーネントに輪郭のグラフィックを重畳させて得られる。第2イメージは例えば、コンポーネントから出る吹き出しのグラフィックである。第2イメージは例えば、第1イメージ上のコンポーネントの範囲を覆うように半透明のグラフィックを重畳させて得られる。第2イメージは文字列を含んでよい。
【0090】
制御部100は、取得した識別情報に対応するコンポーネントの関連情報を記憶部102から読み出す(S109)。制御部100は、読み出した関連情報と、検出されたコンポーネントが強調された第2イメージと、を出力する(ステップS127)。制御部100は、関連情報と第2イメージとを表示部104に表示させる。
【0091】
制御部100は、第2イメージ上でコンポーネントの選択を受け付け(ステップS129)、選択されたコンポーネントの関連情報を出力する(ステップS131)。
【0092】
制御部100は、被検出物体、すなわち被検出コンポーネント、の識別情報を、関連情報と対応付けて、記憶部102に記憶させる(S113)。制御部100は、被検出物体、すなわち被検出コンポーネント、の識別情報を、人力駆動車の使用者の識別情報と対応付けて記憶部102に記憶させ(ステップS133)、処理を終了する。
【0093】
図12は、第2実施形態における検出装置1の表示部104における関連情報の表示例を示す。図12には、コンピュータプログラム1Pに基づいて表示部104に表示されるアプリ画面140の例が示されている。アプリ画面140には、検出コンポーネントが強調された第2イメージ148が含まれる。第2イメージ148は、検出されたコンポーネントに対応するオブジェクト150を、被選択コンポーネントとして選択可能に含む。図12の例では、検出された3つのコンポーネントは、検出枠で囲まれて強調され、選択可能なオブジェクト150は吹き出しである。
【0094】
図13は、検出装置1の表示部104における関連情報の他の表示例を示す。図13の例は、図12の例で表示されている3つのコンポーネントのオブジェクト150の内、「リアディレーラ」を選択した場合の表示例である。「リアディレーラ」が選択された場合、検出された「リアディレーラ」に関する関連情報として「組立方法」、「組付方法」、「分解方法」、「調整方法」および「登録」の少なくとも1つを選択可能なメニュー146が吹き出しのオブジェクト150内に表示される。
【0095】
図14は、検出装置1の表示部104における関連情報の他の表示例を示す。図14の例は、図13の例で表示されているメニュー146でリアディレーラの「調整方法」が選択された場合の表示例である。「調整方法」が選択された場合、図14に示すように、調整の手順を示す詳細情報が表示されている。第2実施形態では位置も検出されているため、ボルトの位置、チェーンを掛ける位置が第2イメージ148内で特定できるので、制御部100は第2イメージ148上で、更に詳細な手順を示すグラフィック152を表示する。
【0096】
ユーザはスマートフォンまたはタブレット端末を用い、コンピュータプログラム1Pを起動させることによって、人力駆動車のイメージから、人力駆動車の関連情報を手軽に取得することができる。第2実施形態の検出装置1は、コンポーネントが強調された第2イメージを表示するので、ユーザは、検出されたコンポーネントと、関連情報とを認識し易い。
【0097】
(変形例)
変形例では、検出装置1は記憶部102に予め、コンポーネントの型番ごとに、適合するコンポーネントの組付け状態の画像を記憶している。変形例における検出装置1の制御部100は、あらかじめ記憶部102に、同一の人力駆動車に搭載するコンポーネントとして相互に適合するか否かの適合状態に関する情報を、コンポーネントの型番に対応付けて記憶させている。
【0098】
図15および図16は、変形例における検出装置1の処理手順の一例を示すフローチャートである。図15および図16のフローチャートに示す処理手順の内、第2実施形態の図11のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。
【0099】
制御部100は、ステップS123において、被検出コンポーネントの識別情報、検出範囲および確度を取得する(S123)。ステップS123において、制御部100は、学習モデル1Mから複数の識別情報を取得してもよい。つまり制御部100は、ステップS105およびステップS123の処理によって、第1イメージから複数の被検出コンポーネントを検出してもよい。
【0100】
制御部100は、ステップS123で取得した識別情報に対応する型番に対応付けて記憶部102に記憶してある組付け状態の画像を関連情報として読み出す(ステップS141)。ステップS141の処理は、ステップS123の後、ステップS125の第2イメージの作成に前後して実施されてよい。
【0101】
制御部100は、ステップS123で取得した被検出コンポーネントの識別情報と、ステップS121で受け付けた使用者の識別情報に対応付けられているコンポーネントの識別情報とを用い、人力駆動車に搭載されている複数のコンポーネント間の適合状態を関連情報として記憶部102から読み出す(ステップS143)。ステップS125およびステップS105において制御部100が第1イメージから複数のコンポーネントを検出している場合、既に取得済みの使用者の識別情報に対応付けられているコンポーネントの識別情報を用いなくもよい。
【0102】
制御部100は、ステップS143で読み出した適合状態に基づき、複数のコンポーネントが適合しないか否かを判断する(ステップS145)。適合しないと判断された場合(S145:YES)、制御部100は検出されたコンポーネントの置換品に関する情報を関連情報として記憶部102から読み出す(ステップS147)。
【0103】
制御部100は、被検出コンポーネントについて、ステップS141で読み出した組付け状態に関する情報を出力する(ステップS127)。ステップS123において、第1イメージから複数の被検出コンポーネントを検出している場合、制御部100は、複数の被検出コンポーネント間の適合状態に関する情報を関連情報として出力してもよい。ステップS127において、制御部100は、被検出コンポーネントの置換品に関する情報を含んでいてもよい。置換品に関する情報は、被検出コンポーネントを置換品に置き換える場合に必要となる他の部品に関する情報を含む。
【0104】
ステップS127において出力される関連情報には、組付け状態に関してその良し悪しの診断結果が含まれてもよい。この場合、制御部100は、コンポーネントの組付け状態について、コンポーネントを撮像した第1イメージから良し悪しを診断する。例えば制御部100は、第1イメージを入力し、組付け状態の良し悪しを出力するように学習された学習済み診断モデルを用いて良し悪しを診断し、診断結果を、組付け状態に関する情報のひとつとして出力する。
【0105】
このようにして、ユーザは人力駆動車のイメージから、コンポーネントの組付け状態の情報、複数のコンポーネント間の適合性に関する情報を手軽に取得することができる。
【0106】
(第3実施形態)
第3実施形態において、検出対象の物体は、人力駆動車のフレームを含み、制御部100は、第1イメージから前記フレームを被検出フレームとして検出する。第3実施形態では、第2実施形態と同様に学習モデル1Mは、第1イメージに写っている人力駆動車に関する物体の第1イメージ内での位置も出力するようにSSDとして学習される。第3実施形態の構成は、学習モデル1Mの内容および制御部100による処理内容以外は、第1実施形態または第2実施形態と同様であるから、共通する構成には同一の符号を付して詳細な説明を省略する。
【0107】
図17は、第3実施形態における学習モデル1Mの概要を示す図である。第3実施形態では、人力駆動車に関する事業者によって管理されるモデル作成装置にて、インターネットを介して収集された人力駆動車の一部を含む第1イメージに対し、第1イメージに写っている物体の識別情報をラベル付けした教師データに基づいて、学習モデル1Mが生成される。第3実施形態では、フレームのタイプおよび型番に対応付けられている識別情報によってラベル付けされた教師データを用いて学習モデル1Mが生成される。人力駆動車に関する事業者によって管理されるモデル作成装置にて、人力駆動車のフレームに関する設計用アプリケーションプログラムによって生成されるレンダリングイメージに基づく教師データによって、学習モデル1Mが生成されてもよい。
【0108】
図17に示した学習モデル1Mを用いた検出処理を、フローチャートを参照して説明する。第3実施形態では、上述したように、検出対象の物体は、人力駆動車のフレームを含み、制御部100は人力駆動車のフレームを被検出フレームとして検出し、ライダーである使用者の身体情報を受け付け、推奨されるチェーンやコンポーネントの部品の情報を関連情報として出力する。
【0109】
図18は、第3実施形態の検出装置1による処理手順の一例を示すフローチャートである。スマートフォンである検出装置1を所持するユーザ、または検出装置1を所持する人力駆動車のメンテナンススタッフが、第3実施形態におけるコンピュータプログラム1Pを起動させると、制御部100は以下の処理を実行する。
【0110】
制御部100は、人力駆動車を含む第1イメージを受け付ける(ステップS301)。ステップS301において、制御部100は、撮像部112は起動させ、画像出力を受け付ける。あらかじめ撮像部112によって取得された第1イメージを記憶部102に記憶しておき、ステップS301において制御部100が、選択された第1イメージを記憶部102から読みだすことで第1イメージを受け付けてもよい。
【0111】
制御部100は、受け付けた第1イメージを出力する(ステップS303)。ステップS303において制御部100は、第1イメージを表示部104に表示させる。
【0112】
制御部100は、受け付けた第1イメージを学習済みの学習モデル1Mに入力する(ステップS305)。学習モデル1Mは、第1イメージの入力に応じて、検出されたフレームのタイプまたは型番に対応する識別情報、フレームの検出範囲、および確度を出力する。制御部100は、学習モデル1Mから出力された識別情報、検出範囲および確度を取得する(ステップS307)。ステップS307では寸法も検出してよい。ステップS305およびステップS307において、制御部100は、第1イメージから人力駆動車のフレームを被検出フレームとして検出する。
【0113】
制御部100は、ステップS307で取得した検出範囲の情報に含まれる第1イメージ内におけるフレームの検出位置、幅および高さに基づいて、被検出フレームが強調された第3イメージを作成する(ステップS309)。第3イメージは例えば、第1イメージ上のフレームに沿う線を重畳させて得られる。第3イメージは例えば、第1イメージ上のフレームを囲む枠を重畳させて得られる。第3イメージは例えば、フレームから出る吹き出しのグラフィックである。第3イメージは例えば、第1イメージ上のフレームの範囲を覆うように半透明のグラフィックを重畳させて得られる。第3イメージは文字列を含んでよい。
【0114】
制御部100は、ステップS307で取得した識別情報に対応するフレームの関連情報を記憶部102から読み出し(ステップS311)、読み出した関連情報と、被検出フレームが強調された第3イメージを出力する(ステップS313)。制御部100は、関連情報と第3イメージを表示部104に表示させる。
【0115】
制御部100は、使用者の識別情報および使用者情報を受け付ける(ステップS315)。制御部100は、表示部104の操作部106を介して使用者の識別情報および使用者情報を受け付けてもよいし、あらかじめ記憶部102に記憶されている使用者の識別情報および使用者情報を読み出してもよい。
【0116】
身体情報が使用者の関節位置を含む場合、その位置の受け付けは以下のように行なわれる。使用者が対象の人力駆動車に乗っている状態を第三者、または使用者自身によって撮像する。撮像画像を検出装置1で取得する。撮像自体を検出装置1の撮像部112によって行なってもよい。検出装置1の制御部100は、コンピュータプログラム1Pに基づき、撮像画像を表示部104に表示させた状態で、タッチパネル上で関節位置の選択を受け付ける。制御部100は、別途関節位置を検出する任意の検出エンジンを用いて自動的に使用者の関節位置を検出してよい。
【0117】
制御部100は、関連情報として、ステップS315で受け付けた使用者の身体情報および属性情報の少なくとも1つと、ステップS307で検出した被検出フレームとに基づき推奨されるコンポーネントに関する情報を出力する(ステップS317)。記憶部102は、フレームの型番、使用者の身長または関節位置の情報と対応付けて推奨されるコンポーネントの型番を記憶しており、制御部100は、記憶部102に記憶されている情報に基づき、推奨されるコンポーネントに関する情報を出力する。
【0118】
制御部100は、推奨コンポーネントに関する情報を、関連情報として出力する(ステップS319)。ステップS319において制御部100は、関連情報を表示部104に表示させる。制御部100は、被検出フレームの識別情報、および関連情報を使用者の識別情報に対応付けて記憶部102に記憶し(ステップS321)、処理を終了する。
【0119】
制御部100は、文字列およびグラフィックの少なくとも1つによって、関連情報を出力する。図19は、検出装置1の表示部104における関連情報の表示例である。図19には、表示部104に表示されているコンピュータプログラム1Pに基づくアプリ画面140の例が示されている。アプリ画面140には、ステップS313で表示部104に出力された第3イメージ154が含まれる。アプリ画面140には、第3イメージ154に重畳して、第3イメージ154に写っている被検出フレームに関する関連情報が文字列によって出力されている。図19の例では、被検出フレームの型番および推奨されるコンポーネントの内容を含む関連情報が、文字列および矩形枠のグラフィックによって表示されている。
【0120】
このような検出装置1によって、ユーザは、人力駆動車のイメージから、人力駆動車に含まれるフレームの関連情報を手軽に取得することができる。ユーザは、身体情報を入力することによって、自身の身体に適合したフレームおよびコンポーネントの情報を手軽に取得することができる。
【0121】
(第4実施形態)
第4実施形態の検出装置1は、学習モデル1Mにおける検出の確度が所定値以下である場合に、写っているコンポーネントまたはフレームの識別情報の選択を受け付け、選択された識別情報をラベル付けした第4イメージによって学習モデル1Mを再学習させる。第4実施形態の構成は、制御部100による処理内容以外は、第1実施形態と同様であるから、共通する構成には同一の符号を付して詳細な説明を省略する。
【0122】
図20は、第4実施形態における検出装置1による処理手順の一例を示すフローチャートである。図20のフローチャートに示した処理手順の内、第1実施形態の図3のフローチャートに示した処理手順と共通する手順には同一のステップ番号を付して詳細な説明を省略する。
【0123】
制御部100が、受け付けた第1イメージを、ステップS105にて学習済みの学習モデル1Mに入力した場合、学習モデル1Mからは複数の識別情報と夫々に対応付けられる確度が出力される。第1実施形態で制御部100は、最も確度が高い識別情報をステップS107で取得すればよい。第3実施形態では、最も高い確度が所定値以下である場合には、学習モデル1Mを再学習させる。制御部100は、学習モデル1Mから出力される確度が所定値以下である場合、確度が高い順に物体の識別情報を複数出力し、選択された物体の識別情報をラベル付けした第4イメージによって、学習モデル1Mを学習させる。
【0124】
制御部100は、ステップS107で学習モデル1Mから出力される識別情報および確度の内、確度が所定値以下であるか否かを判断する(ステップS401)。確度が所定値以下でないと判断された場合(S401:NO)、制御部100は処理をステップS109へ進める。
【0125】
ステップS401で確度が所定値以下であると判断された場合(S401:YES)、制御部100は、学習モデル1Mから出力される複数の識別情報を、確度の高い順に所定個数分選択し(ステップS403)、選択した複数の識別情報を出力する(ステップS405)。ステップS405において制御部100は、複数の識別情報を表示部104に表示させる。ステップS405において出力される複数の識別情報は、学習モデル1Mから出力される識別情報に対応付けられているコンポーネントの名前、または型番等、ユーザが、コンポーネントが何であるかを認識できる情報である。
【0126】
制御部100は、ステップS405で出力した複数の識別情報からいずれかの選択を受け付け(ステップS407)、選択された物体の識別情報をラベル付けした第4イメージを作成する(ステップS409)。制御部100は、作成された第4イメージを教師データとして、学習モデル1Mを再学習させ(ステップS411)、選択された識別情報に対応する関連情報を読み出し(ステップS413)、処理をステップS111へ進める。
【0127】
このようにイメージから学習モデルによって出力された確度が所定値以下である場合には、候補の選択を受け付けて学習モデルが再学習され、検出の精度が高まる。
【0128】
(第5実施形態)
第5実施形態では、関連情報は、検出装置1が通信接続可能なサーバ装置2に記憶されており、検出装置1はサーバ装置2から関連情報を取得する。図21は、第5実施形態における検出装置1およびサーバ装置2を含むシステムの構成を示すブロック図である。第5実施形態における検出装置1の構成の一部は、第1実施形態と同様であるから、共通する構成には同一の符号を付して詳細な説明を省略する。
【0129】
第5実施形態の検出装置1は、制御部100、記憶部102、表示部104、通信部108、入出力部110、および撮像部112を備える。
【0130】
第5実施形態の検出装置1の記憶部102には、関連情報が記憶されていない。関連情報はサーバ装置2にて記憶されたものが使用される。記憶部102には、スマートフォンである検出装置1のユーザの人力駆動車の走行履歴が記憶されている。記憶部102には、人力駆動車の走行環境を示す走行環境情報が記憶される。走行環境は、位置情報によって特定される走行路面の種類、天候の情報を含む。走行履歴および走行環境は第1例では、人力駆動車のサイクルコンピュータから入出力部110または他の無線通信モジュールによって取得された情報である。走行履歴および走行環境は、検出装置1の制御部100が他のコンピュータプログラムに基づいて測定して得られるものであってもよい。
【0131】
第5実施形態の検出装置1の通信部108は、Wi-Fi に対応する無線通信デバイスを用い、公衆通信網Nへ、アクセスポイントAPを介して接続してもよい。通信部108は、キャリアネットワークN2を介した通信を実現するキャリア通信用モジュールであってよい。
【0132】
サーバ装置2は、サーバコンピュータを用いる。サーバ装置2は、制御部20、記憶部22、および通信部24を備える。サーバ装置2は1台のサーバコンピュータとして説明するが、複数のサーバコンピュータで機能または処理を分散させてもよい。
【0133】
制御部20は、CPUまたはGPUを用いたプロセッサである。制御部20は、内蔵するROMおよびRAM等のメモリを用いて処理を実行する。
【0134】
記憶部22は、例えばハードディスクまたはSSD(Solid State Drive )等の不揮発性メモリを含む。記憶部22には、サーバプログラム2Pが記憶されている。制御部20は、サーバプログラム2Pを読み出して実行する。
【0135】
記憶部22は、関連情報データベースDB1と、使用者識別情報データベースDB2と、イメージデータベースDB3を含む。関連情報データベースDB1は、検出されるコンポーネントまたはフレームに関連する情報を含む。より具体的には、関連情報データベースDB1は、コンポーネントの種類、型番、スペック、組立方法、組付方法、分解方法、調整方法、置換品、コンポーネント同士の適合性、フレームとコンポーネントとの適合性に関する情報を含む。関連情報データベースDB1には、コンポーネントメーカ、フレームメーカから提供される情報のほか、人力駆動車の販売店、コンポーネント販売店、およびフレーム販売店のスタッフ、メンテナンススタッフから収集された適合性の情報が含まれてよい。使用者識別情報データベースDB2は、人力駆動車の使用者の名前、ニックネーム、ユーザID、および電子メールアドレスに関する情報を含む。イメージデータベースDB3は、人力駆動車を含むイメージに関する情報を含む。
【0136】
通信部24は、公衆通信網Nへの通信接続を実現する通信モジュールである。通信部24は、有線接続のためのネットワークカードである。制御部20は、通信部24によって検出装置1との間で情報を送受信する。
【0137】
図22および図23は、第5実施形態における処理手順の一例を示すフローチャートである。スマートフォンである検出装置1を所持するユーザ、または検出装置1を所持する人力駆動車のメンテナンススタッフが、コンピュータプログラム1Pを起動させると、制御部100は以下の処理を実行する。
【0138】
制御部100は、記憶部102に記憶されている人力駆動車の走行履歴に基づき、前記第1イメージの入力を使用者に促すための情報を、表示部104に出力する(ステップS501)。ステップS501の出力先は、表示部104に限られず、検出装置1が備える音声入出力部を用いて音声出力してもよい。
【0139】
制御部100は、人力駆動車を含む第1イメージを受け付ける(ステップS503)。ステップS503において、制御部100は、撮像部112は起動させ、画像出力を受け付ける。あらかじめ撮像部112によって取得された第1イメージを記憶部102に記憶しておき、ステップS101において制御部100が、選択された第1イメージを記憶部102から読みだすことで第1イメージを受け付けてもよい。
【0140】
制御部100は、受け付けた第1イメージを出力する(ステップS505)。ステップS505において制御部100は、第1イメージを表示部104に表示させる。
【0141】
制御部100は、受け付けた第1イメージを学習済みの学習モデル1Mに入力する(ステップS507)。学習モデル1Mは、第1イメージの入力に応じて、コンポーネントを検出し、被検出コンポーネントの型番に対応する識別情報および確度を出力する。制御部100は、学習モデル1Mから出力された識別情報および確度を取得する(ステップS509)。ステップS507およびステップS509によって制御部100は、第1イメージから人力駆動車のコンポーネントを被検出コンポーネントとして検出する。制御部100は、取得した識別情報を含む関連情報の読み出し依頼を通信部108からサーバ装置2へ送信する(ステップS511)。
【0142】
サーバ装置2は、関連情報の読み出し依頼を通信部24によって受信し(ステップS201)、制御部20は、読み出し依頼に含まれるコンポーネントの識別情報に対応するコンポーネントの関連情報を記憶部22から読み出す(ステップS203)。ステップS203において制御部20は、記憶部22に記憶されているコンポーネントのスペック情報から、メンテナンススタッフによって得られる関連情報を含む多様な情報を読み出してよい。制御部20は、読み出した関連情報を検出装置1へ送信する(ステップS205)。
【0143】
検出装置1は、サーバ装置2から送信された関連情報を受信し(ステップS513)、制御部100は、ステップS509によって検出された識別情報に対応するコンポーネントについて関連情報を表示部104に出力する(ステップS515)。
【0144】
制御部100は、出力しているコンポーネントのいずれかの選択を受け付け(ステップS517)、選択されたコンポーネントに対するメニュー146によって登録操作を受け付ける(ステップS519)。制御部100は、通信部108を介して、選択されたコンポーネント、すなわち被検出物体の識別情報を、関連情報と対応付けて外部(サーバ装置2)に出力する(ステップS521)。
【0145】
制御部100は、通信部108を介して、選択されたコンポーネント、すなわち被検出物体の識別情報を、使用者の識別情報と対応付けて外部(サーバ装置2)に出力する(ステップS522)。
【0146】
制御部100は、選択されたコンポーネントに対し、ステップS503で受け付けた第1イメージを、記憶部102に記憶してある人力駆動車の走行履歴と対応付けて外部(サーバ装置2)に出力する(ステップS523)。
【0147】
制御部100は、選択されたコンポーネントに対し、ステップS503で受け付けた第1イメージを、記憶部102に記憶してある人力駆動車の走行環境と対応付けて外部(サーバ装置2)に出力する(ステップS525)
【0148】
ステップS523およびステップS525の処理手順は必須ではなく、いずれか一方のみ実施されてもよい。
【0149】
サーバ装置2では、関連情報と対応付けられた被検出物体(被検出コンポーネント)の識別情報を受信し(ステップS207)、使用者の識別情報と対応付けられた被検出物体(被検出コンポーネント)の識別情報を受信する(ステップS208)。制御部20は、被検出物体(被検出コンポーネント)の識別情報を関連情報に対応付けて記憶部22の関連情報データベースDB1に記憶し(ステップS209)、被検出物体(被検出コンポーネント)の識別情報を使用者の識別情報に対応付けて記憶部22の使用者識別情報データベースDB2に記憶する(ステップS210)。
【0150】
制御部20は、走行履歴と対応付けられた第1イメージを受信し(ステップS211)、走行環境と対応付けられた第1イメージを受信する(ステップS213)。制御部20は、記憶部22のイメージデータベースDB3に、走行履歴と対応付けられた第1イメージを、ステップS208で受信した使用者の識別情報と対応付けて記憶し(ステップS215)、走行環境と対応付けられた第1イメージを、ステップS208で受信した使用者の識別情報と対応付けて記憶する(ステップS216)。制御部20は、登録完了を検出装置1へ通知し(ステップS217)、処理を終了する。
【0151】
検出装置1では、登録通知を受信すると(ステップS527)、登録完了を表示部104に出力し(ステップS529)、処理を終了する。
【0152】
ステップS215において、走行履歴すなわちどれほど人力駆動車が走行したのかの情報と対応付けて第1イメージがサーバ装置2で記憶される。ステップS215で記憶された情報は、どれほど消耗したかをユーザに知らせるために使用できる。ステップS215で記憶された情報は、消耗したり汚れたりしたコンポーネントの第1イメージを、新品のコンポーネントの第1イメージとは別に教師データとして用いて学習モデル1Mを再学習させるために使用してもよい。
【0153】
ステップS216において、走行環境すなわちどのような環境で人力駆動車が走行したのかの情報と対応付けて第1イメージがサーバ装置2で記憶される。ステップS216で記憶された情報は、コンポーネントの第1イメージを走行環境別の教師データとして用いて学習モデル1Mを再学習させるために使用してもよい。
【0154】
第5実施形態では、コンポーネントの検出に関して説明したが、フレーム検出についても同様の処理が可能である。
【0155】
第5実施形態では、サーバ装置2に関連情報が記憶されており、サーバ装置2から関連情報が読み出される構成として説明した。学習モデル1Mもサーバ装置2にて記憶され、検出装置1は学習モデル1Mから出力される識別情報の情報を取得して検出処理に用いてもよい。この場合、サーバ装置2で、複数の検出装置1から収集した第1イメージによって学習モデル1Mを更新し、より精度よく検出することが期待される。
【符号の説明】
【0156】
1…検出装置、100…制御部、102…記憶部、104…表示部、106…操作部、108…通信部、110…入出力部、112…撮像部、1P…コンピュータプログラム、1M…学習モデル、2…サーバ装置、20…制御部、22…記憶部、24…通信部、2M…学習モデル、5…記憶媒体、5P…コンピュータプログラム、5M…学習モデル
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23