(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023138197
(43)【公開日】2023-10-02
(54)【発明の名称】釣りにおける行動記録装置
(51)【国際特許分類】
A01K 97/12 20060101AFI20230922BHJP
【FI】
A01K97/12 Z
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2022044765
(22)【出願日】2022-03-19
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 1.Webサイトへの掲載 [ウェブサイトの掲載日]令和3年6月25日 [ウェブサイトのアドレス]https://www.ipa.go.jp/jinzai/mitou/2021/gaiyou_tn-3.html 2.Webサイトへの掲載 [ウェブサイトの掲載日]令和3年9月12日 [ウェブサイトのアドレス]https://www.ficy.net/FicyLOG 3.試験の実施 [試験日]令和3年8月13日 [試験場所]三重県 宿田曽漁港周辺 4.試験の実施 [試験日]令和3年10月9日 [試験場所]和歌山県 比井漁港周辺 5.試験の実施 [試験日]令和3年12月28日 [試験場所]奈良先端科学技術大学院大学内の池 6.試験の実施 [試験日]令和4年2月6日 [試験場所]豊洲ぐるり公園 7.配布依頼物を発明者が配布 [配布日]令和3年9月27日 [配布方法]郵送
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.ZIGBEE
【国等の委託研究の成果に係る記載事項】(出願人による申告)国等の委託研究の成果に係る特許出願(独立行政法人情報処理推進機構2021年度未踏IT人材発掘・育成事業(釣りのサイバーフィジカルシステムの開発)に関する委託契約、産業技術力強化法第17条の適用を受ける特許出願)
(71)【出願人】
【識別番号】722001561
【氏名又は名称】福田 修之
(72)【発明者】
【氏名】福田 修之
【テーマコード(参考)】
2B109
【Fターム(参考)】
2B109EA21
(57)【要約】 (修正有)
【課題】釣り人の行動を記録するための行動記録装置を提供する。。
【解決手段】釣りを行うときに釣竿に取り付けられ、加速度情報とジャイロ情報と姿勢角情報を測定するセンサ部301と、センサ部301から得られる一定時間測定した測定情報に対して、特徴量として統計量を算出する特徴量計算部302と、特徴量計算部302で算出された統計量を入力とし釣り人の行動を出力する行動認識処理部303と、行動認識処理部303で用いる「待つ」「移動する」「餌をつける」「リールを巻く」「投げる(オーバーヘッドキャスト)」「投げる(アンダーフロー)」の行動を出力する機械学習モデルを格納する記憶部304と、装置をバッテリーにより駆動させるための電源部310と、を備えている行動記録装置。
【選択図】
図3
【特許請求の範囲】
【請求項1】
釣りを行うときに釣竿に取り付けられる装置であって、加速度情報とジャイロ情報と姿勢角情報を測定するセンサ部と、前記センサ部から得られる一定時間測定した測定情報に対して、特徴量を算出する特徴量計算部と、前記特徴量計算部で算出された前記特徴量を入力とし、学習済みモデルを用いて、釣り人の行動を出力する行動認識処理部と、前記行動認識処理部で用いる「待つ」「移動する」「餌をつける」「リールを巻く」「投げる(オーバーヘッドキャスト)」「投げる(アンダーフロー)」の行動を出力する前記学習済みモデルを格納する記憶部と、装置をバッテリーにより駆動させるための電源部と、を備えた行動記録装置。
【請求項2】
前記特徴量は、前記センサ部が一定時間測定した測定情報から算出された統計量であり、最大値、平均値、絶対平均値、分散、第 1, 3 四分位数の幅(第1四分位数から第3四分位数を減算した値)を含むことを特徴とする請求項1に記載の行動記録装置。
【請求項3】
前記センサ部で測定し、前記特徴量計算部に送信する情報は、釣竿の軸方向をXYZ座標系のY軸とし、リールを釣竿に取り付ける面をZ軸とした時の、Y軸の加速度情報と合成加速度情報と、
前記XYZ座標系のロール軸をX軸、ピッチ軸をY軸、ヨー軸をZ軸としたロール・ピッチ・ヨーで示される姿勢角情報のうち、ロール軸とピッチの軸の姿勢角情報を含むことを特徴とする請求項1または請求項2に記載の行動記録装置。
【請求項4】
前記行動認識処理部において、前記特徴量計算部で算出された前記特徴量に加えて、過去に前記行動認識処理部が出力した行動の結果を特徴量として、入力することを特徴とした請求項1から請求項3のいずれかに記載の行動記録装置。
【請求項5】
請求項1から請求項4のいずれかに記載の行動記録装置において、
前記特徴量計算部で算出された前記特徴量を入力とし、「リールを巻く」行動をしているかのみを学習済みモデルにより判断するリールを巻く行動判定処理部と、「リールを巻く」行動をしているかのみを判断する前記学習済みモデルを格納する記憶部とを備えた行動記録装置。
【請求項6】
請求項5に記載の行動記録装置において、前記特徴量計算部にて、フーリエ変換による周波数解析もしくは自己相関関数による周波数解析を行った結果を前記特徴量として算出することを特徴とする行動記録装置。
【請求項7】
請求項1から請求項6のいずれか一項に記載の行動記録装置において、GPSによる位置情報を取得する位置情報測定部を備えた行動記録装置。
【請求項8】
請求項1から請求項7のいずれか一項に記載の行動記録装置において、前記行動記録装置が釣竿に取り付けられた位置および角度によって前記センサ部で測定する際の前記XYZ座標系が変わることに対応するための座標変換部を備えた行動記録装置。
【請求項9】
請求項1から請求項8のいずれか一項に記載の行動記録装置において、外部との通信を行うための無線通信部と、時刻情報を保持する時刻保持部と、行動認識の結果を表示する表示部と、ワイヤレス充電を行うためのワイヤレス充電部と、電源の制御を行うスイッチを備えた行動記録装置。
【発明の詳細な説明】
【技術分野】
【0001】
以下の開示は、エサ釣りやルアー釣り、投げ釣りといったレジャーフィッシングにおいて、釣り人の行動を記録するための行動記録装置に関する。
【背景技術】
【0002】
エサ釣りやルアー釣り、投げ釣りといったレジャーフィッシングにおいて、よりより釣果を上げるためには、釣りを開始してから釣れない状態に陥ったときに餌を変えることや場所を変えること、餌を投げてから再び引き上げるまでの時間を調整するなどの様々な行動を考え、変更していく必要がある。例えば、海釣りを開始した場所が、魚が回遊しづらく釣れない場所であった時、その場所で釣りを続けるよりも他の場所に移動する方が釣れる確率は高くなる。このことからつれないときに定期的に「移動」という行動を選択することは重要である。
【0003】
また、川釣りにおいてウキ釣りをする場合、餌を垂らしてからすぐに餌を引き上げてしまうと魚が餌に近づいて観察しているときに餌をあげてしまうこととなり、釣れづらくなる。このことから、餌を垂らしてから待つ時間は重要である。つまり、「待つ」という行動についても、どの程度待つべきかを把握するために記録することは釣りを継続的にしていく上で重要な情報となる。これらのことから、釣り人の釣りに関する行動を記録することは重要である。
【0004】
また、ルアー釣りにおいて、ルアーを投げる回数やそれを巻き取る時間は、どのような釣りを行ったかを把握するための情報となる。具体的には、海の釣り場において、ルアーを堤防から投げるときに、投げる距離が長いほど、一般的には遠方の深さのある場所をルアーで探索することが可能となる。つまり、遠方をルアーで探索する場合、一定時間当たりの投げる回数は、近場をルアーで探索するときよりも少なくなるが、連続してリールを巻く時間は長くなる。これらのことから、仕掛けやルアーを「投げる」という行動と「リールを巻く」という行動を、毎回の釣行で記録しておけば、釣れた日と釣れなかった日の釣りの振り返りとその比較が可能となる。
【0005】
別の例として、「リールを巻く」という行動を記録することは、リールを巻いている時間を把握することにつながり、ルアー等の投げた距離を把握することに使用できるため、重要である。また、リールを巻いているときに魚を釣り上げている場合があるため、リールを巻いている時の振動と共に取得することには大きな価値がある。具体的には、魚を釣り上げる時の竿の振動から釣れている魚の大きさや魚種を判別できる可能性があるため、リールを巻くという行動の時の振動データから、将来的に、魚を釣り上げているか、釣り上げている魚の大きさはどの程度かの予測を人工知能によりする時の学習データとなる。
【0006】
これらのことから、釣り人の行動を記録するためのシステムとして、非特許文献1が開発されている。非特許文献1のシステム構成図を
図1に示す。非特許文献1のシステムは、釣竿に取り付けた加速度センサとジャイロセンサを搭載したセンシングデバイスと、センシングデバイス上で加速度センサとジャイロセンサの情報を取得し、インターネット上へ送信するための無線モジュールと、送信された加速度情報とジャイロ情報を入力として、5種類の釣り人の行動(投げる、餌をつける、移動、リールを巻く、移動)を予測する機械学習モデルから構成される。なお、機械学習モデルは、
図1のインターネット上の行動認識処理サーバにデプロイされている。
【0007】
センシングデバイスでは、サンプリング周波数100Hzで加速度情報とジャイロ情報を2秒間分取得しており、2秒ごとにUDP通信によりセンシングデバイスから行動認識処理サーバへと送信される。
【0008】
インターネット上の行動認識処理サーバは、送信されてきた2秒間の加速度情報とジャイロ情報を用いて、特徴量を算出し、機械学習モデルにより行動を認識したのち、センシングデバイスへと行動認識の結果を送信する。
【0009】
非特許文献1の機械学習モデルは、投げる、餌をつける、移動、リールを巻く、移動の5つの行動を認識可能であるが、「投げる」の行動の投げ方は、オーバーヘッドキャストと呼ばれる仕掛けやルアーを振りかぶって、頭上を仕掛けやルアーが通るような軌道で投げる投げ方のみ認識可能となっている。
【0010】
行動認識処理サーバ上で行われる特徴量の算出は、2秒間の加速度情報とジャイロ情報に対して、表1:非特許文献1の行動認識のための特徴量一覧に示す統計量を算出する方法である。具体的には、表1の特徴量算出方法の「最大値」は、加速度情報のうちのX軸に関する2秒間、100Hzで取得された200点の情報の最大値を算出する方法となっている。表1のセンサ情報は、3軸の加速度情報と3軸のジャイロ情報の計6項目に対して、特徴量算出方法に示す7つの算出方法をおこなうため、合計42項目の特徴量が算出される。
【0011】
【先行技術文献】
【非特許文献】
【0012】
【非特許文献1】福田修之, 玉置理沙, 松井智一, 大井一輝, 松田裕貴, & 安本慶一. (2020).「 リアルタイム行動認識機能を有する釣り CPS の開発」 ,第 28 回マルチメディア通信と分散処理ワークショップ論文集, pp.172-179.
【発明の概要】
【発明が解決しようとする課題】
【0013】
本発明により解決する課題は下記の4点である。
【0014】
先行技術に示される釣り人の行動を認識するためのシステムは、センシングデバイスで取得した加速度情報とジャイロ情報を無線通信により送信し、インターネットのサーバ上で特徴量の計算や行動認識の推論処理を行う必要がある。また、前記センシングデバイスは2秒ごとにデータを送信するため、前記センシングデバイスの接続台数が増えれば増えるほど、データの送信量やサーバでの処理が増加することとなる。
【0015】
そこで、本発明では、釣竿に取り付けるエッジデバイス側で軽量な処理で特徴量計算処理と行動認識処理を行い、サーバ上では特徴量の計算や推論処理をなくすことで、処理の分散化を行う。
【0016】
本発明により解決する2つ目の課題は、釣竿に取り付け、バッテリーにより駆動する行動記録装置における特徴量の計算処理の軽量化である。釣りは長時間に及び行われる可能性のあるスポーツであり、バッテリーにより駆動する場合、特徴量計算の処理の軽量化が必要不可欠である。なぜなら、特徴量の計算処理が重たい場合、計算処理を高速に行えるプロセッサーを搭載しなければならず、消費電力が大きくなり、バッテリーでの駆動時間が短くなるからである。
例えば、非特許文献1の機械学習モデルを使用する場合、表1の特徴量を全て計算する場合、6種類のセンサのデータに対して、7つの統計量、つまり42の項目を算出しなければならない。また、機械学習モデルの精度を向上させるためには、より多くの特徴量を入力する方が良いとされるが、これらはエッジデバイスである行動記録装置の処理が増加し、バッテリーによる駆動時間が減少することとなる。
【0017】
そこで本発明では、非特許文献1と同等の行動認識の精度を保ちつつ、エッジデバイス側で非特許文献1より少ない特徴量で行動認識を行う。
【0018】
本発明により解決する3つ目の課題は、「リールを巻く」という行動の認識精度を向上させることである。非特許文献1に示す機械学習モデルでは、「移動」の行動と「リールを巻く」の行動の認識において、特徴量として分散等の統計量を算出した際に、釣竿に取り付けているため振動を示すデータとして似る傾向があり、誤認識が発生する事象が発生している。
【0019】
そこで、本発明では、別途「リールを巻く」行動を認識する機械学習モデルを、行動記録装置上で使用することで、高精度に認識できるようにした。
【0020】
本発明により解決する4つ目の課題は、オーバーヘッドキャスト以外の投げ方にも対応したことである。非特許文献1に示す機械学習モデルはオーバーヘッドキャスト以外の投げ方については、認識ができなかった。そのため、釣り人が振りかぶって投げない時は「投げる」という行動として認識されなかった。
【0021】
そこで、本発明では、アンダーフローと呼ばれる釣り竿を下から上へと振り上げることで、仕掛けやルアーを投げる投げ方を認識可能とした。
【課題を解決するための手段】
【0022】
以下の開示は、上記の4つの課題に鑑みなされたものであり、その目的は、エッジデバイス側で行動認識の処理を行うことで、サーバでの処理の軽量化による接続台数の増加を行い、さらなるスケーラビリティの確保と、長時間の使用にも耐えられるエッジデバイスの発明である。
【0023】
この開示の行動認識装置は、釣りを行うときに釣竿に取り付けられる装置であって、加速度情報とジャイロ情報と姿勢角情報を測定するセンサ部と、前記センサ部から得られる一定時間測定した測定情報に対して、特徴量として、統計量を算出する特徴量計算部と、前記特徴量計算部で算出された前記統計量を入力とし、釣り人の行動を出力する行動認識処理部と、前記行動認識処理部で用いる「待つ」「移動する」「餌をつける」「リールを巻く」「投げる(オーバーヘッドキャスト)」「投げる(アンダーフロー)」の行動を出力する機械学習モデルを格納する記憶部と、装置をバッテリーにより駆動させるための電源部と、を備える。
【0024】
前記センサ部で測定し、前記特徴量計算部に送信する情報は、釣竿の軸方向をXYZ座標系のY軸とし、リールを釣竿に取り付ける面をZ軸とした時の、Y軸の加速度情報と合成加速度情報と、前記XYZ座標系のロール軸をX軸、ピッチ軸をY軸、ヨー軸をZ軸としたロール・ピッチ・ヨーで示される姿勢角情報のうち、ロールとピッチの軸の姿勢角情報であることを特徴とする。
【0025】
前記統計量は、最大値、平均値、絶対平均値、分散、第 1, 3 四分位数の幅(第1四分位数から第3四分位数を減算した値)であることを特徴とする。
【0026】
前記行動認識処理部において、前記特徴量計算部で算出された前記統計量に加えて、過去に前記行動認識処理部が出力した行動の結果を特徴量として、入力することを特徴とする。
【0027】
前記行動認識処理部に入力される前記特徴量を用いて、「リールを巻く」行動をしているかのみを判断するリールを巻く行動判定処理部と、「リールを巻く」行動をしているかのみを判断する機械学習モデルを格納する記憶部とを備える。
【0028】
前記特徴量計算部にて、フーリエ変換による周波数解析もしくは自己相関関数による周波数解析を行った結果を前記特徴量として算出することを特徴とする。
【0029】
GPSによる位置情報を取得する位置情報取得部と、外部との通信を行うための無線通信部と、時刻情報を保持する時刻保持部と、行動認識の結果を表示する表示部と、ワイヤレス充電を行うためのワイヤレス充電部313と、電源の制御を行うスイッチを備える。
【0030】
前記行動記録装置が釣竿に取り付けられた位置および角度によって前記センサ部で測定する際の前記XYZ座標系が変わることに対応するための座標変換部を備える。
【発明の効果】
【0031】
この開示によれば、釣り人は、釣竿に行動記録装置を取り付けることで、長時間の釣りにおいても行動の記録をすることが可能となる。
【図面の簡単な説明】
【0032】
【
図1】非特許文献1の行動認識システムの概略図である。
【
図2】非特許文献1と比較した時の本開示の行動記録装置の概略図である。
【
図3】本開示の行動記録装置の一例を示すブロック図である。
【
図4】本開示の行動記録装置の釣竿への取り付けの一例を示す図である。
【
図5】本開示の行動記録装置が無線通信を行う時の一例を示す図である。
【
図6】本開示の行動記録装置上で行う処理の流れの一例を示すフローチャートである。
【
図7】本開示の行動認識の特徴量の算出方法の一例を示す図である。
【
図8】非特許文献1の行動認識の精度を示す混同行列の図である。
【
図9】本開示の行動認識において、表1に示す42項目の特徴量を使用して推定した時の混同行列と、表2に示す84項目の特徴量を用いて推定した時の混同行列と、表3に示す20項目の特徴量を用いて推定した時の混同行列を示す図である。
【
図10】本開示の行動認識において、表3に示す20項目の特徴量と、過去の推定結果を加えて推定した時の混同行列を示す図である。
【
図11】本開示の「リールを巻く」行動をしているかのみを判断する機械学習モデルが推定した時の混同行列を示す図である。
【発明を実施するための形態】
【0033】
以下、本発明の実施例について説明する。以降の流れとしては、初めに本開示の行動記録装置の全体像を示す概略図について説明し、次に、前記行動記録装置の各要素について、ブロック図を用いて説明する。その後、
図5を用いて、前記行動記録装置の無線通信について説明する。
図6では、前記行動認識装置202の処理のフローチャートを説明する。最後に、本開示の行動認識で用いる特徴量の算出方法について、
図7を用いて説明し、先行技術に示される非特許文献1との行動認識の差分について、
図8、
図9、
図10を用いて説明する。
図11では、「リールを巻く」行動をしているかのみを判断する機械学習モデルについて説明する。
【0034】
先ず、本開示の行動記録を使用する時の概略図を説明する。
図2のように、行動記録装置は、釣り竿に取り付けられる。そして、前記行動記録装置上で推定された行動認識結果を行動認識結果記録サーバ201にて保存する。保存された情報は、情報端末107でそれらのデータを閲覧することが可能となる。
【0035】
図3は、本開示の行動記録装置の一例を示すブロック図である。以下、各ブロックの詳細を説明する。
【0036】
(センサ部)
センサ部301は、3軸加速度センサ、3軸ジャイロセンサ、3軸姿勢角センサを含んで良い。前記センサ部301は、3軸加速度センサの値を用いて、合成加速度を計算し、測定結果としても良い。前記センサ部301で測定する時のサンプリング周波数は、例えば10Hzであり、好ましくは100Hzである。具体的には、10,50,80,100,200,300,400,500,1000Hzであり、ここで例示した数値のいずれか2つの間の範囲内であってもよい。
【0037】
前記センサ部301で測定する情報は、釣竿102の軸方向をXYZ座標系のY軸とし、リール401を釣竿102に取り付ける面をZ軸とした時の、Y軸の加速度情報と合成加速度情報と、前記XYZ座標系のロール軸をX軸、ピッチ軸をY軸、ヨー軸をZ軸としたロール・ピッチ・ヨーで示される姿勢角情報のうち、ロールとピッチの軸の姿勢角情報のみでもよい。
【0038】
前記3軸姿勢角センサの出力は、ロール・ピッチ・ヨーで示される姿勢角情報でもよく、オイラー角により示される姿勢角情報でもよい。また、姿勢角情報の取得は、カルマンフィルタを用いた手法でも良い。
【0039】
(特徴量計算部)
特徴量計算部302は、前記センサ部301から得られる一定時間測定した測定情報に対して、統計量を算出し、特徴量として出力する。前記統計量は、最大値、平均値、絶対平均値、分散、第 1, 3 四分位数の幅である。なお、前記センサ部301が一定時間測定した前記測定情報を前記特徴量計算部302にて、保持する時の保持期間は、例えば1秒であり、好ましくは5秒である。具体的には、1,2,3,4,5,6,10,15,30,60,120,300秒であり、ここで例示した数値のいずれか2つの間の範囲内であってもよい。
【0040】
前記特徴量計算部302は、前記統計量の算出に加えて、前記センサ部301にて測定された時系列データに対して、フーリエ変換による周波数解析もしくは自己相関関数による周波数解析を行い出力しても良い。
【0041】
(行動認識処理部)
行動認識処理部303は、前記特徴量計算部302で算出された前記統計量を入力とし、「待つ」「移動する」「餌をつける」「リールを巻く」「投げる(オーバーヘッドキャスト)」「投げる(アンダーフロー)」の行動を出力する行動認識モデル318を用いて、釣り人の行動を出力する。前記行動認識モデル318は、あらかじめ人工知能に前記特徴量と行動の正解ラベルを学習させたものであって良い。
【0042】
ここでいう人工知能は、機械学習という概念内包し、機械学習という概念は、深層学習という概念を内包する。機械学習には、たとえば、ランダムフォレストやロジスティック回帰などの手法を含んで良い。深層学習は、たとえば、Recurrent Neural Networkなどの時系列データを扱うモデルを含んで良い。
前記行動認識モデル318の作成には、機械学習を用いてもよいし、深層学習を用いても良い。なお、行動認識モデル318についての詳細は、
図7、
図8、
図9を用いて、後述する。
【0043】
前記行動認識処理部303は、前記行動認識処理部303が出力した過去の行動認識結果を前記特徴量計算部302で算出された前記統計量と合わせて、入力しても良い。
【0044】
(記憶部)
記憶部304は、前記行動認識処理部303から出力される行動認識結果保存する。前記行動認識結果の保存形式は、テキスト形式やバイナリ形式でも良い。
前記記憶部304は、位置情報測定部306で測定される位置情報を保存する。前記記憶部304は、前記行動認識処理部303で用いる行動認識モデル318と、リールを巻く行動判定処理部316で用いるリール行動認識モデル319を保存しても良い。
【0045】
前記記憶部304は、特徴量計算部302、行動認識処理部303、リールを巻く行動判定処理部316、座標変換部317、時刻保持部305、位置情報測定部306、無線通信部308のワーキングメモリとして機能してもよく、またそれぞれのブロックで実行されるプログラムを格納しても良い。
【0046】
記憶部304は、例えば、半導体メモリで構成されるが、これには限られず、磁気記憶媒体で構成されてよいし、他の記憶媒体で構成されてよい。記憶部304は取り外し可能な外部記録媒体を用いても良い。具体的には、SDカードやUSBメモリである。
【0047】
(時刻保持部)
時刻保持部305は、無線通信部308を通して外部と通信することで、時刻を同期し、正確な時刻を保持する。前記時刻保持部305は例えば、RTCを用いたものでもよい。時刻の取得は例えば、NTPを利用した手法やGPSによる時刻取得手法、外部サーバから提供される時刻情報を取得する手法であってもよい。前記時刻保持部305は電源部310の電源を利用せず独自の電源を有しても良い。
【0048】
(位置情報測定部)
位置情報測定部306は、前記行動認識装置202の位置情報(緯度および経度)を測定し、前記位置情報測定部306内の一時保存領域に一時保存することで、任意のタイミングで読み出すことができる。これにより前記行動認識装置202が位置情報を測定できないとき、前記位置情報測定部306に一時保存された前記位置情報を使用することが可能である。なお、前記一時保存領域は、前記位置情報測定部306外の前記記憶部304の記憶領域を利用しても良い。前記位置情報測定部306は例えば、GPSを利用したセンサを利用してもよい。
【0049】
(SSID設定部)
SSID設定部309は、前記無線通信部308にてWi-Fiを用いて通信する場合に必要となる、SSID(Service Set Identifier)とパスワードからなるWi-Fi設定情報を設定するためのものである。前記SSID設定部309はWi-Fiのアクセスポイントモードを使用する。Wi-Fiのアクセスポイントモードを使用することで、スマートフォンやパソコンなどの外部端末107から手軽に設定することが可能となる。前記SSID設定部309は、HTTPサーバやTCPサーバを構築するプログラムを有してもよい。SSIDおよびパスワードは前記記憶部304に保存しても良い。
【0050】
(表示部)
表示部307は、行動認識の結果情報105を表示する。前記表示部307は、前記時刻保持部305から得られる時刻情報を表示しても良い。前記表示部307は、前記位置情報測定部306で測定された現在位置の情報を表示しても良い。表示部307は、電源部310のバッテリー312の残表を表示しても良い。
【0051】
前記表示部307は、電源部310のバッテリー312の残表を表示しても良い。
【0052】
(座標変換部)
座標変換部317は、前記行動記録装置が釣竿102に取り付けられた位置および角度によって前記センサ部301で測定する際の前記XYZ座標系が変わることに対応するための処理を行う。
【0053】
前記座標変換部317は、
図4-1および
図4-2に示す右側につけた時のX,Y,Z座標系を基準とし、
図4-3および
図4-4のように左側に取り付けられている場合、前記加速度センサで得られたX軸とY軸の値の符号を反転するように座標変換部317で行うように設定する。
【0054】
(リールを巻く行動判定処理部)
リールを巻く行動判定処理部316は、前記行動認識処理部303に入力される情報を前記リール行動認識モデル319に入力することで、「リールを巻く」行動をしているか否かを、判断する。
【0055】
前記リール行動認識モデル319は、あらかじめ人工知能に前記特徴量と「リールを巻く」行動か否かの正解ラベルを学習させたものである。
ここでいう人工知能は、機械学習という概念内包し、機械学習という概念は、深層学習という概念を内包する。機械学習には、たとえば、ランダムフォレストやロジスティック回帰などの手法を含んで良い。深層学習は、たとえば、Recurrent Neural Networkなどの時系列データを扱うモデルを含んで良い。
【0056】
前記リールを巻く行動判定処理部316は、前記リール行動認識モデル319の入力として、
前記特徴量計算部302にて、フーリエ変換による周波数解析もしくは自己相関関数による周波数解析を行った結果を用いても良い。
【0057】
(電源部)
電源部310は、装置を駆動させるための電源となるバッテリー312と、前記バッテリー312を充電するための充電部313と、前記バッテリー312の出力を各処理部に提供する変圧部311を含む。前記バッテリー312は、リチウムポリマー電池、リチウムイオンポリマー電池、リチウム電池、リチウムイオン電池、アルカリボタン電池、マンガン乾電池、アルカリ乾電池、酸化銀電池、ニッケル水素電池、ニカド電池を用いて良い。また、変形例として太陽光電池と前記バッテリー312を組み合わせたものを含んで良い。
【0058】
前記電源部310のバッテリー312の容量は、特に限定されないが、例えば300mAh以上であり、好ましくは1000mAh以上であり、より好ましくは2000mAh以上である。具体的には、300,500,800,1000,1100,2000,2500,3000,4000,5000,10000mAhであり、ここで例示した数値のいずれか2つの間の範囲内であってもよい。バッテリー312の容量を大きくすると前記行動認識装置202の大型化につながり、大型化すると釣り竿に取り付けて釣りをする際のユーザビリティの低下につながる。
【0059】
前記変圧部311は、前記バッテリー312からの電圧を昇圧または降圧する。例えば3.7Vを5Vに昇圧する回路を含む。降圧の例としてはたとえば5Vを3.3Vに降圧する。
変形例として前記電源部310は、前記充電部313を含まず再充電不可能な電池と前記変圧部311を含む構成でも良い。
【0060】
前記電源部310は、前記バッテリー312の残量を測定し、前記表示部307にて表示する際、前記表示部307にバッテリー312の残量情報を送信しても良い。
【0061】
(ワイヤレス充電部)
ワイヤレス充電部314は、前記電源部310に充電可能な前記バッテリー312用いる時にワイヤレスで充電を行うことで、外部への端子の露出をなくし、防水性を高めることが可能である。ワイヤレス充電を行う手法として、ワイヤレス充電規格であるQiを用いても良い。
【0062】
(防水スイッチ)
防水スイッチ315は、電源のON・OFFを制御するために使用される。防水スイッチ315には、トグルスイッチ、プッシュスイッチ、押しボタンスイッチ、ロッカースイッチ、スライドスイッチ、ロータリースイッチ、ディップスイッチ、タクトスイッチを用いてもよい。また、前記スイッチ等に比べて突起的な形状とならない圧力センサや静電容量センサを用いてもよい。同様に赤外線を使用した被接触センサを用いても良い。
【0063】
図4は、本開示の前記行動記録装置の釣竿102への取り付け方法の一例を示す図である。
図4-1は前記行動記録装置を釣り竿の右下に取り付けている。図中の座標系は、矢印により示されており、たとえば、
図4-1のY軸の正方向は釣り竿の先端方向である。
【0064】
図4-2は、前記行動記録装置を、リール401の取り付け位置から見て、釣り竿の右上に取り付けている。
図4-3は前記行動記録装置を、リール401の取り付け位置から見て、釣り竿の左下に取り付けている。
図4-3の取り付けでは、前記行動記録装置のX軸とY軸の正負の方向が逆になっている。
図4-4は、前記行動記録装置を、リール401の取り付け位置から見て、釣り竿の左上に取り付けている。
【0065】
図5は、本開示の前記行動記録装置の無線通信を行う方法の一例を示す図である。前記行動記録装置の無線通信の方法は、基地局501と通信を行う、LTEや4G,5G,6Gのような遠距離の無線通信規格に対応する無線通信規格を含んでよい。また、前記行動記録装置はWi-Fi(登録商標)、Bluetooth(登録商標)、ZigBee又は赤外線通信やNFCのような近距離の無線通信規格に対応する無線通信規格を使用しても良い。
【0066】
図6は本開示の前記行動記録装置202で行う処理の流れの一例を示すフローチャートである。
【0067】
図6のフローチャートはS001から開始し、まず初めに、S002で各種初期設定を行う。具体的には、たとえば、前記センサ部301の取り付け位置に応じた座標軸の設定処理などある。
【0068】
前記座標軸の設定処理は、
図4-1および
図4-2に示す右側につけた時のX,Y,Z座標系を基準とし、
図4-3および
図4-4のように左側に取り付けられている場合、前記加速度センサで得られたX軸とY軸の値の符号を反転するように座標変換部317で行うように設定する。
【0069】
S003にて、前記センサ部301にて、前記加速度情報と前記姿勢角度情報の測定を行い、その値を前記記憶部304にて保存する。
【0070】
S004にて、前記測定部で測定し、前記記憶部304に測定したデータのうち、過去N秒間分(N=1,2,3,4,5,6,7,…,10秒)のデータを前記特徴量計算部302に読み出し、表2に示す特徴量の計算を行う。
【0071】
S005にて、前記特徴量計算部302で計算した特徴量を前記行動認識処理部303に入力し、前記行動認識処理部303にて、あらかじめ学習させておいた行動認識モデル318に入力し、行動ラベルを出力し、行動認識の結果情報105として、前記記憶部304に書き込む。同時に、前記リールを巻く行動判定処理部316に、前記特徴量計算処理部で計算した前記特徴量を、あらかじめ学習させておいた前記リール行動認識モデル319に入力し、リール行動かどうかの判定結果を前記記憶部304に書き込む。
【0072】
S006にて、前記時刻保持部305から得られる現在の時刻情報と前記位置情報測定部306により得られる前記行動認識装置202の位置情報を取得し、S005にて得られた前期行動認識の結果情報105と紐づけて、記憶部304に書き込む。
【0073】
S007にて、前記記憶部304に保存された行動ラベル、位置情報、時刻情報を前記表示部307にて表示する。
【0074】
図7は、前記行動認識モデル318、リール行動認識モデル319を作成にあたり、モデルの学習に使用する特徴量の算出方法の一例を示す図である。
【0075】
特徴量の算出方法は、前記センサ部301にて測定された加速度情報、ジャイロ情報、姿勢角度情報の測定データの時刻701に対して、時間窓702を作成し、前記統計量を算出する。例えば、
図7では、測定データの時刻701の0秒から、5秒までの5秒間の時間窓702を設けて、各種統計量(平均や分散など)を算出し、1件目の特徴量データとしている。
【0076】
次に、オーバーラップ(時間窓702がかぶる部分)を50%として、測定データの時刻701の2.5秒から、7.5秒までの5秒間の時間窓702を設けて、前記統計量算出し、2件目の特徴量データとしている。
【0077】
時間窓702の値は、例えば5秒であり、好ましくは2秒である。具体的には、1,2,3,4,5,6,7,30秒であり、ここで例示した数値のいずれか2つの間の範囲内であってもよい。
【0078】
前記測定データの時刻701に対して時間窓702を適応していった結果、時間窓702を適応した数だけ、特徴量が算出される。その結果が特徴量の計算結果例703である。特徴量の計算結果例703の一行は、時間窓702ごとの統計量計算結果を示しており、前記統計量を列方向にまとめている。
【0079】
図8は、非特許文献1の行動認識を行うための機械学習モデルの推定精度を示す混同行列である。縦軸は、実際の正解ラベルを示しており、横軸は、予測結果を示している。例えば、一行目の「投げる」に関しては、投げる行動を示しており,実際の「投げる」と定義されたデータのうち,72%を予測できていることを示す.混同行列のパーセンテージで表示される値は、行ごとで100%となるように算出されている。
【0080】
非特許文献1の行動認識を行うための機械学習モデルは、投げる、餌をつける、移動、リールを巻く、移動の5つの行動を認識可能であるが、「投げる」の行動の投げ方は、オーバーヘッドキャストと呼ばれる仕掛けやルアーを振りかぶって、頭上を仕掛けやルアーが通るような軌道で投げる投げ方のみ認識可能となっている。
【0081】
表1のセンサ情報は、3軸の加速度情報と3軸のジャイロ情報の計6項目に対して、特徴量算出方法に示す7つの算出方法をおこなうため、合計42項目の特徴量が算出される。
【0082】
本開示では、非特許文献1の行動認識ではできなかったオーバーヘッドキャスト以外の投げ方であるアンダーフローと呼ばれる釣り竿を下から上へと振り上げることで、仕掛けやルアーを投げる投げ方の認識を目標とし、表1に示す統計量の算出を行い、機械学習モデルの作成と評価を行った。
【0083】
図9-1に表1の特徴量から作成した機械学習モデルを評価した時の混同行列の結果を示す。機械学習モデルには、ランダムフォレストを用いた。
【0084】
図9-1は、餌つけ、移動、リールを巻く、オーバーヘッドキャスト、アンダーフロー、待つ、の6つの行動を予測した結果を示している。図中の値は,再現率を示しており,たとえば「餌つけ」の行動に関しては、実際のデータのうち69%当てられていることがわかる。再現率の下のかっこ枠の数値は、実際のデータ数を示す。
【0085】
本開示では、3種類の長さと硬さの異なる釣り竿にて、6つの行動(餌つけ、移動、リールを巻く、オーバーヘッドキャスト、アンダーフロー、待つ)を行い、データの収集を行なった。
【0086】
図8と
図9-1の結果では、精度的に低下しているように見えるが、
図8の結果は、1種類のみの竿に対して評価を行ったものであり、
図9の結果は3種類の特性(長さ、硬度)の異なる竿に対して、LeaveOneRodOut交差検証を行った結果である。そのため、
図9の方が厳しい条件で評価しているため、精度としては低くなっているように数値的には見えるが、条件が異なる。
【0087】
つまり、
図8の結果は、1種類の竿のみを学習した結果であるため、竿の特性は学習の難しさには反映されず、1本の種類のみに特化した過学習した状態の精度評価になっている。
【0088】
なお、LeaveOneRodOut交差検証とは、例えば、3本の竿を使用してデータを収集したのち、ある1本の竿から収集したデータを集計して、モデルの評価データとする。次に残りの2本の竿から集計し得られるデータセットを学習データとする。前記学習データを用いて機械学習モデルの構築と学習を行う。次に、前記評価データを用いて、推定を行い、精度の評価を行う。これらの評価データに用いる竿を選ぶ処理を合計3回繰り返し、3回分の推定結果から
図9-1の混同行列を出力する。
【0089】
これらのことから、
図8では、各行動の精度が7割程度となっているのに対して、
図9-1では、各行動の精度(再現率)が40%から80%程度となっているが、前記LeaveOneRodOut交差検証にて評価しているからである。
【0090】
次に表2:本開示の行動認識装置202で算出する特徴量の候補一覧に示す特徴量を用いてモデルの構築を行った結果を
図9-2に示す。
【0091】
【0092】
表2のセンサ情報の項目で、ジャイロ情報は精度向上に寄与しなかったため除外した。その代わりに、姿勢角情報を追加した。
【0093】
表2のセンサ情報の項目において「加速度 X, Y, Z, 合成加速度Nと姿勢角度 roll, pitch, yawの微分」と表記されているものは、前記センサ部301で時刻Nに測定された値から時刻N+1に測定された値を減算したものである。
【0094】
図9-1に比べて
図9-2では特徴量を増やした結果推定精度が向上していることがわかる。たとえば「移動」の行動では、精度が37%から62%に向上している。
【0095】
しかし、表2の特徴量は、本開示のエッジデバイスである行動認識装置202上で算出するためには、計算処理が重くなり、バッテリー312の消耗を向上させる。そこで、表2の特徴量のうち、精度向上に寄与しているものを絞り込んだものを表3に示す。また、表3を用いて、行動認識モデル318を作成した時の混同行列を
図9-3に示す。
【0096】
表3:本開示の行動認識装置202で算出する特徴量一覧では、合計20項目の特徴量のみから行動認識をしているが、
図9-2と
図9-3の各行動の精度おおよそ同じとなっている。これらのことから、表3の特徴量を用いることで、軽量な計算処理で同程度の精度の行動認識を行うことが可能となる。
【0097】
【0098】
図10は、表3に示す20項目の特徴量と、過去の推定結果を加えて推定した時の混同行列を示す図である。
図9-3の「移動」の精度は、65%であるが、
図10では72%となっている。また、「リールを巻く」行動についても、
図9-3の精度は、56%であるが、
図10では72%となり向上している。
【0099】
以上のことをまとめたものが表4:先行技術と本開示の特徴量セットの比較結果表である。表4に示すように、本開示の特徴量セット(表3に示す特徴量リスト)は、先行技術と比較して、行動認識の精度は高くなっており、特徴量の算出速度も高速化されている。
【0100】
【0101】
図10のリールを巻く行動の精度は72%となっているが、特徴量として分散等の統計量を算出した際に、釣竿102に取り付けているため振動を示すデータとして似る傾向があり、誤認識が発生することが多く発生している。そこで、本開示では、別途「リールを巻く」行動を認識する機械学習モデルを、行動記録装置上で使用することで、高精度に認識できるようにした。
図11に、「リールを巻く」行動か否かを推定した結果を評価した混同行列を示す。
【0102】
図11の「リールを巻く」行動の推定精度は、78%であり、精度が向上していることがわかる。
【0103】
前記特徴量計算部302にて、フーリエ変換による周波数解析もしくは自己相関関数による周波数解析を行った結果を前記特徴量として算出し、「リールを巻く」行動の推定に用いることで、精度向上が見込まれると考えられる。なぜなら、リールを巻く時の振動やリールを巻く時に意図が引っ張られることで竿がしなった時の振動情報を特徴量として追加できるからである。
【0104】
なお、フーリエ変換の処理を前記行動認識装置202で行うためには、三角関数の処理を計算しなければならないため、処理が重くなる傾向にある。そこで、自己相関関数による周波数解析の結果を特徴量に用いることで処理の軽量化が見込める。
【符号の説明】
【0105】
101 ユーザ
102 釣竿
103 センシングデバイス
104 加速度・ジャイロ情報
105 行動認識の結果情報
106 行動認識処理サーバ
107 情報端末
201 行動認識結果記録サーバ
202 行動認識装置
301 センサ部
302 特徴量計算部
303 行動認識処理部
304 記憶部
305 時刻保持部
306 位置情報測定部
307 表示部
308 無線通信部
309 SSID設定部
310 電源部
311 変圧部
312 バッテリー
313 充電部
314 ワイヤレス充電部
315 防水スイッチ
316 リールを巻く行動判定処理部
317 座標変換部
318 行動認識モデル
319 リール行動認識モデル
401 リール
501 基地局
701 測定データの時刻
702 時間窓
703 特徴量の計算結果例