(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-08-21
(45)【発行日】2023-08-29
(54)【発明の名称】判定装置、判定方法及び判定プログラム
(51)【国際特許分類】
A61B 5/055 20060101AFI20230822BHJP
A61B 10/00 20060101ALI20230822BHJP
G09B 9/00 20060101ALN20230822BHJP
A63B 69/00 20060101ALN20230822BHJP
【FI】
A61B5/055 380
A61B10/00 W
G09B9/00 Z
A63B69/00 501Z
(21)【出願番号】P 2019222384
(22)【出願日】2019-12-09
【審査請求日】2022-12-08
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成26年度 国立研究開発法人科学技術振興機構、戦略的創造研究推進事業(さきがけ)、平成30年度 国立研究開発法人科学技術振興機構、戦略的創造研究推進事業(CREST)、産業技術力強化法第17条の適用を受けるもの
(73)【特許権者】
【識別番号】399086263
【氏名又は名称】学校法人帝京大学
(74)【代理人】
【識別番号】100079108
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】岡ノ谷 一夫
(72)【発明者】
【氏名】細田 千尋
(72)【発明者】
【氏名】林 俊宏
【審査官】下村 一石
(56)【参考文献】
【文献】特開2015-084970(JP,A)
【文献】米国特許出願公開第2018/0310870(US,A1)
【文献】特表2014-506150(JP,A)
【文献】特表2019-521379(JP,A)
【文献】国際公開第2007/023522(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/055
G01R 33/20-33/64
A61B 10/00
G09B 9/00
A63B 69/00
(57)【特許請求の範囲】
【請求項1】
ユーザの脳画像を取得する取得部と、
前記脳画像に基づいて、前記ユーザの脳の所定領域の灰白質体積を演算する演算部と、
前記演算された灰白質体積に基づいて、前記ユーザが
三次元映像に対する受容性を含む特定の認知能力を有するか否かを判定する判定部と、
を備える判定装置。
【請求項2】
各ユーザの脳画像に基づいて演算される前記所定領域の灰白質体積と各ユーザの前記特定の認知能力に関する所定課題の成績とを用いた機械学習に基づいて生成された予測器を更に備え、
前記判定部は、前記演算された灰白質体積を前記予測器に入力して生成される前記成績の予測値に基づいて、前記ユーザが前記特定の認知能力を有するか否かを判定する、
請求項1に記載の判定装置。
【請求項3】
前記機械学習には、前記灰白質体積及び前記成績に加えて、各ユーザの前記特定の認知能力に関する主観的指標値が用いられ、
前記取得部は、前記脳画像が取得された前記ユーザの前記特定の認知能力に関する主観的指標値を取得し、
前記予測値は、前記演算された灰白質体積及び前記取得された主観的指標値を前記予測器に入力して生成される、
請求項2に記載の判定装置。
【請求項4】
前記所定領域は、上頭頂小葉及び尾状核の少なくとも一部に対応する領域である、
請求項1から請求項3のいずれかに記載の判定装置。
【請求項5】
前記三次元映像は、所定の表示装置を用いて前記ユーザによって知覚され、
前記所定の表示装置は、前記ユーザの右目用の二次元映像を表示する第1表示部と左目用の二次元映像を表示する第2表示部とを具備する、
請求項
1から請求項4のいずれかに記載の判定装置。
【請求項6】
前記所定の表示装置は、前記ユーザの所定部位に装着される装着型表示装置、又は、前記ユーザの所定部位に装着されない非装着型表示装置である、
請求項
5に記載の判定装置。
【請求項7】
ユーザの脳画像を取得する工程と、
前記脳画像に基づいて、前記ユーザの脳の所定領域の灰白質体積を演算する工程と、
前記演算された灰白質体積に基づいて、前記ユーザが
三次元映像に対する受容性を含む特定の認知能力を有するか否かを判定する工程と、
を有する判定方法。
【請求項8】
判定装置に備えられた演算部を、
ユーザの脳画像を取得する取得部、
前記脳画像に基づいて、前記ユーザの脳の所定領域の灰白質体積を演算する演算部、及び、 前記演算された灰白質体積に基づいて、前記ユーザが
三次元映像に対する受容性を含む特定の認知能力を有するか否かを判定する判定部、
として機能させる判定プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、判定装置、判定方法及び判定プログラムに関する。
【背景技術】
【0002】
近年、所定の表示装置(例えば、ヘッドマウントディスプレイ(head mounted display(HMD))など)を用いて三次元(3 dimension(3D))映像を知覚させることにより、種々の行為を仮想的にユーザに体験させるxR(仮想現実(Virtual Reality(VR))、拡張現実(Augmented Reality(AR)))、複合現実(Mixed Reality(MR)等の総称)が様々な分野で活用されている。例えば、VRは、ゲームなどのエンターテイメントだけでなく、スポーツ、航空機の操縦及び自動車の運転などのトレーニング、リハビリ、手術支援ロボット(例えば、da Vinci(登録商標))等で活用されている。
【0003】
一方、所定の表示装置を用いて3D映像を知覚するユーザに所定の生体反応(例えば、気持ちの悪さ(Nausea)、目の疲れ(Oculomotor)、ふらつき感(Disorientation)など)が生じる場合があることが知られている(例えば、特許文献1)。当該生体反応は、映像酔い、3D酔い、VR酔い等とも呼ばれる。以下では、説明の便宜上、当該生体反応を「映像酔い」と呼ぶ。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
人間の認知能力(例えば、3D映像に対する受容性)には個人差があり、当該認知能力に関する様々な行為の実施は、全てのユーザに適切に作用するとは限らない。例えば、ユーザが3D映像を用いたトレーニング又はリハビリを実施する場合、映像酔いのために、当該トレーニング又は当該リハビリの実施効果を当該ユーザが十分に得られない恐れがある。したがって、ユーザによる特定の行為(例えば、3D映像を用いた行為)の実施効果を適切に得るために、当該ユーザが特定の認知能力(例えば、3D映像に対する受容性)を有するか否かを判定可能とすることが望まれている。
【0006】
そこで、本発明は、特定の認知能力(例えば、3D映像に対する受容性)を有するか否かを判定可能な判定装置、判定方法及び判定プログラムを提供することを目的の一つとする。
【課題を解決するための手段】
【0007】
本発明の一態様に係る判定装置は、ユーザの脳画像を取得する取得部と、前記脳画像に基づいて、前記ユーザの脳の灰白質体積を演算する演算部と、前記演算された灰白質体積に基づいて、前記ユーザが特定の認知能力を有するか否かを判定する判定部と、を備える。
【0008】
この態様によれば、上記灰白質体積に基づいて上記ユーザが特定の認知能力を有するか否かを判定できる。このため、当該判定結果を考慮して特定の行為を実施することで、当該行為の実施効果を適切に得ることができる。
【0009】
上記態様において、各ユーザの脳画像に基づいて演算される前記所定領域の灰白質体積と各ユーザの前記特定の認知能力に関する所定課題の成績とを用いた機械学習に基づいて生成された予測器を更に備え、前記判定部は、前記演算された灰白質体積を前記予測器に入力して生成される前記成績の予測値に基づいて、前記ユーザが前記特定の認知能力を有するか否かを判定してもよい。
【0010】
この態様によれば、上記灰白質体積と上記成績とを用いた機械学習に基づいて生成された予測器が用いられるので、上記特定の認知能力を有するか否かの判定精度を向上させることができる。
【0011】
上記態様において、前記機械学習には、前記灰白質体積及び前記成績に加えて、各ユーザの前記特定の認知能力に関する主観的指標値が用いられ、前記取得部は、前記脳画像が取得された前記ユーザの主観的指標値を取得し、前記予測値は、前記演算された灰白質体積及び前記取得された主観的指標値を前記予測器に入力して生成されてもよい。
【0012】
この態様によれば、上記灰白質体積及び上記成績に加えて上記主観的指標値を用いた機械学習により学習済みの予測器が用いられるので、上記特定の認知能力を有するか否かの判定精度を向上させることができる。
【0013】
上記態様において、前記所定領域は、上頭頂小葉及び尾状核の少なくとも一部に対応する領域であってもよい。この構成によれば、上頭頂小葉及び尾状核の灰白質体積に基づいてユーザが上記特定の認知能力を有するか否かが判定されるので、当該受容性の判定精度を向上させることができる。
【0014】
上記態様において、前記特定の認知能力は、三次元映像に対する受容性を含んでもよい。この態様によれば、前記ユーザが三次元映像に対する受容性を有するか否かの判定結果を考慮して三次元映像を用いた行為を実施することで、当該行為の実施効果を適切に得ることができる。
【0015】
上記態様において、前記三次元映像は、所定の表示装置を用いて前記ユーザによって知覚され、前記所定の表示装置は、前記ユーザの右目用の二次元映像を表示する第1表示部と左目用の二次元映像を表示する第2表示部とを具備してもよい。
【0016】
上記態様において、前記ユーザの頭部に装着される頭部装着型の表示装置、又は、前記ユーザが右目及び左目により記第1表示部及び前記第2表示部をそれぞれ覗き込む非装着型の表示装置であってもよい。
【0017】
本発明の他の態様に係る判定方法は、ユーザの脳画像を取得する工程と、前記脳画像に基づいて、前記ユーザの脳の所定領域の灰白質体積を演算する工程と、前記演算された灰白質体積に基づいて、前記ユーザが特定の認知能力を有するか否かを判定する工程と、を有する。
【0018】
本発明の他の態様に係る判定プログラムは、判定装置に備えられた演算部を、ユーザの脳画像を取得する取得部、前記脳画像に基づいて、前記ユーザの脳の所定領域の灰白質体積を演算する演算部、及び、前記演算された灰白質体積に基づいて、前記ユーザが特定の認知能力を有するか否かを判定する判定部、として機能させる。
【発明の効果】
【0019】
本発明によれば、特定の認知能力(例えば、3D映像に対する受容性)を有するか否かを判定可能な判定装置、判定方法及び判定プログラムを提供することができる。
【図面の簡単な説明】
【0020】
【
図1】本発明の実施形態に係る3D映像を用いた行為の一例を示す図である。
【
図2】本発明の実施形態に係る3D映像に対する受容性と脳画像の所定領域を関心領域として演算される灰白質体積との相関関係の一例を示す図である。
【
図3】本発明の実施形態に係る判定システム1の機能構成の一例を示す図である。
【
図4】本発明の実施形態に係る判定システム1を構成する各装置のハードウェア構成の一例を示す図である。
【
図5】本発明の実施形態に係る学習動作の一例を示すフローチャートである。
【
図6】本発明の実施形態に係る判定動作の一例を示すフローチャートである。
【
図7】本発明の実施形態に係る知覚課題の成績と3D映像に対する受容性との関係の一例を示す図である。
【
図8】本発明の実施形態に係る3D映像に対する受容性の判定の効果の一例を示す図である。
【発明を実施するための形態】
【0021】
添付図面を参照して、本発明の実施形態について説明する。なお、各図において、同一の符号を付したものは、同一又は同様の構成を有する。
【0022】
本実施形態では、脳の所定領域の灰白質の体積(灰白質体積)に基づいて判定される特定の認知能力の一例として、三次元(3D)映像に対する受容性を例示する。なお、特定の認知能力は、3D映像に対する受容性に限られず、脳の所定領域の灰白質体積と相関関係を有するどのような能力であってもよい。
【0023】
本実施形態において、ユーザは、所定の表示装置を用いて三次元(3D)映像を知覚する(視認する、認識する等ともいう)。具体的には、当該所定の表示装置は、ユーザの右目用の二次元(2D)映像(右目用映像)を表示する第1表示部と左目用の2D映像(左目用映像)を表示する第2表示部とを具備する。ここで、3D映像とは、ユーザから立体的に見える映像であり、立体映像、3D立体視とも呼ばれる。当該3D映像は、ユーザが奥行きを知覚できる映像ともいえる。例えば、ユーザに左右の眼に視差(parallax)のある映像(すなわち、右目用映像及び左目用映像)を表示すること(両眼視差(binocular parallax)ともいう)、及び/又は、ユーザの頭部運動に合わせて当該映像の見え方を変化させること(運動視差(motion parallax)ともいう)により、3D映像をユーザに知覚させてもよい。なお、3D映像は、両眼視差を利用するものに限られず、ホログラム、体積走査型などであってもよい。また、2D映像とは、ユーザから平面的に見える映像であり、平面映像等とも呼ばれる。
【0024】
ここで、両眼視差を利用して3D映像を知覚させるための右目用映像及び左目用映像は、同一の対象物を異なる角度で捉えた映像である。ユーザは、右目用の第1表示部に表示される右目用映像と、左目用の第2表示部に表示される左目用映像を脳内で一つに合成して、当該対象物を立体的に知覚する(すなわち、3D映像として知覚する)。
【0025】
上記第1表示部及び第2表示部を備える所定の表示装置は、ユーザの所定部位に装着される装着型表示装置であってもよいし、又は、非装着型表示装置であってもよい。装着型表示装置は、例えば、ユーザの頭部に装着されるヘッドマウントディスプレイ(head mounted display(HMD))、VRヘッドセット、ゴーグル等であってもよい。非装着型表示装置は、例えば、Cave Automatic Virtual Environment(CAVE)等の没入型ディスプレイ(immersive display)、立体テレビ、右目用の第1表示部及び左目用の第2表示部を備えたコンソールを含む手術支援ロボット等であってもよい。
【0026】
図1は、本実施形態に係る3D映像を用いた行為の一例を示す図である。
図1では、上記所定の表示装置として、ユーザの頭部に装着されるHMD100が例示されるが、上記の通り、所定の表示装置はこれに限られない。また、
図1では、3D映像を用いた行為の一例としてスポーツ(ここでは、テニス)が示されているが、当該行為は、スポーツ以外の分野の行為(例えば、航空機の操縦、車両の運転、リハビリ、患者の手術)等であってもよい。また、
図1では、3D映像は、仮想現実(VR)を実現するものであるが、拡張現実(AR)又は複合現実(MR)を実現するものであってもよい。
【0027】
図1において、ユーザは、HMD100が備える第1表示部101及び第2表示部102にそれぞれ表示される右目用映像及び左目用映像の視差により、3D映像Vを知覚する。例えば、
図1では、ユーザは、頭部に装着されたHMD100を用いて知覚される3D映像Vに基づいて、テニスのトレーニングを実施している。
【0028】
また、HMD100は、ユーザの所定部位(例えば、頭、目、手、足など)の動き(motion)を検知するセンサー103を備え、当該動きの解析結果に基づいて右目用映像及び左目用映像を制御するトラッキング機能を有してもよい。当該トラッキング機能は、ヘッドトラッキング、アイトラッキング、モーショントラッキング等とも呼ばれる。当該動きを検出するセンサーは、例えば、方向を検出する磁力計、角度や角速度を検出するジャイロスコープ、加速度を検出する加速度計、赤外線センサー等であってもよい。
【0029】
トラッキング機能により、ユーザの所定の動きに従って当該ユーザが知覚する3D映像が変化する。例えば、
図1では、ラケットを操作するユーザの手の動きや、目の方向、頭の動きに応じて、3D映像Vで知覚されるラケットやボールの動き、位置等が変化する。このため、ユーザの臨場感や没入感を向上させることができる。
【0030】
ところで、以上のような3D映像中の視覚的な運動をきっかけとして、「映像酔い」等と呼ばれる所定の生体反応(例えば、気持ちの悪さ、目の疲れ、ふらつき感など)が生じるユーザが存在することが知られている。
【0031】
そこで、所定数の被験者に対して2D映像及び3D映像それぞれ(以下、2D/3D映像と略する)の知覚課題(例えば、2D/3D映像を用いた複数オブジェクト追跡(Multiple Object Tracking(MOT))課題)を実施したところ、2D/3D映像の成績に有意な差がない被験者のグループ(第1の被験者グループ)と、3D映像の成績が2D映像の成績よりも有意に低い被験者のグループ(第2の被験者グループ)とが生じた。なお、MOT課題とは、映像内の複数の物体を追跡する所定のタスクであり、被験者の知覚能力の評価に用いられる。
【0032】
第1の被験者グループは、3D映像を用いた知覚課題でも2D映像を用いる場合と同様の成績が出せるので、第2の被験者グループよりも3D映像に対する受容性が高いといえる。一方、第2の被験者グループは、3D映像を用いた知覚課題の成績が2D映像を用いる場合よりも有意に低くなるので、第1の被験者グループよりも3D映像に対する受容性が低いといえる。ここで、3D映像に対する受容性とは、3D映像を知覚しても映像酔いを生じ難く、3D映像を用いた行為の実施効果を適切に得られることをいう。
【0033】
図2は、本実施形態に係る3D映像に対する受容性と脳画像の所定領域を関心領域(Region Of Interest(ROI))として演算される灰白質体積との相関関係の一例を示す図である。
図2では、人間の脳の側面からみた脳画像I1と、脳画像I1の切断面Xで人間の脳を切断した断面を示す脳画像I2とが示される。脳画像I1に示される上頭頂小葉は、大脳の外側面にある脳回のひとつである。上頭頂小葉は、対象物の位置や動き、奥行きなどの空間に関係する情報を認識するための役割を有する。一方、脳画像I2に示される尾状核は、脳の中心付近、視床の両側に存在する。尾状核は、運動の制御や学習、認知等に関係する。
【0034】
図2に示すように、3D映像に対する受容性が相対的に高い(すなわち、2D/3D映像の知覚課題の成績差が相対的に小さい)第1の被験者グループについては、上頭頂小葉の灰白質体積が大きく、尾状核の灰白質体積が小さい傾向がある。一方、3D映像に対する受容性が相対的に高い(すなわち、3D映像の成績が2D映像の成績よりも有意に低い)第2の被験者グループについては、上頭頂小葉の灰白質体積が小さく、尾状核の灰白質体積が大きい傾向がある。
【0035】
このように、3D映像に対する受容性と上頭頂小葉の灰白質体積との間には、正の相関関係がある。一方、3D映像に対する受容性と尾状核の灰白質体積との間には、負の相関関係がある。すなわち、3D映像に対する受容性等の特定の認知能力は、脳の所定領域の灰白質体積の相関関係があると想定される。そこで、本発明者らは、特定の認知能力(例えば、3D映像に対する受容性)と脳の所定領域の灰白質体積との相関関係に着目し、当該所定領域の灰白質体積に基づいて特定の認知能力(例えば、3D映像に対する受容性)を判定することを着想した。
【0036】
なお、以下では、特定の認知能力(例えば、3D映像に対する受容性)の判定に用いられる脳の所定領域が、上頭頂小葉及び尾状核の少なくとも一つであるものとするが、これに限られない。当該所定領域は、当該特定の認知能力と相関関係を有する脳のどのような領域であってもよい。当該所定領域は、例えば、上記上頭頂小葉及び尾状核の少なくとも一つに代えて又は加えて、角回及び大脳基底核の少なくとも一つを含んでもよい。
【0037】
(判定システムの構成)
図3は、本発明の実施形態に係る判定システム1の一例を示す図である。判定システム1は、予測器14aを用いて特定の認知能力(例えば、3D映像に対する受容性)を有するか否かを予測する判定装置10と、予測器14aに実装される予測モデル22bの学習処理を行う学習装置20と、を有する。なお、予測モデル22bを実装する予測器14aは、予測モデル、予測プログラム、予測アルゴリズム等と言い換えられてもよい。
【0038】
また、本例では、学習装置20による機械学習によって学習された予測器14aを用いる判定装置10について説明するが、予測器14aは、必ずしも機械学習によって生成されたものに限られず、脳の所定領域の灰白質体積と特定の認知能力(例えば、3D映像に対する受容性)の関係について理論的に導かれた関係式又は経験的に導かれた関係式に基づいて当該特定の認知能力を判定するものであってもよい。
【0039】
また、本例では、判定装置10及び学習装置20が別体の場合を示しているが、判定装置10及び学習装置20は一体の装置で構成されてもよい。例えば、判定装置10及び学習装置20は、PLC(Programmable Logic Controller)の異なる動作として実現されてもよい。
【0040】
<学習装置>
学習装置20は、機能構成として、学習用データ22aを生成する生成部21と、学習用データ22a及び予測モデル22bを記憶する記憶部22と、学習用データ22aを用いた機械学習により予測モデル22bの学習処理を実施する学習部23と、を有する。生成部21は、脳画像取得部211と、灰白質体積演算部212と、成績取得部213と、主観的指標値取得部214と、を有する。
【0041】
脳画像取得部211は、各ユーザの脳画像を取得する。脳画像は、例えば、磁気共鳴画像化(Magnetic Resonance Imaging(MRI))装置により撮像された画像(例えば、
図2の脳画像I1、I2など)であってもよい。脳画像は、脳解剖画像等と呼ばれてもよい。当該MRI装置は、例えば、3テスラMRI装置であってもよい。
【0042】
灰白質体積演算部212は、脳画像取得部211により取得された脳画像に基づいて、ユーザの脳の所定領域の灰白質体積を演算する。具体的には、灰白質体積演算部212は、当該脳画像の所定領域を関心領域に設定して、関心領域における灰白質体積を演算する。当該所定領域は、例えば、上頭頂小葉及び尾状核の少なくとも一部に対応する領域であるが、これに限られず、角回及び大脳基底核等の少なくとも一部に対応する領域であってもよい。当該灰白質体積は、例えば、Voxel-based-Morp hometry(VBM)を用いて評価されてもよい。
【0043】
成績取得部213は、各ユーザの特定の認知能力に関する所定課題(例えば、3D映像を用いた知覚課題)の成績(例えば、正答率又は点数)を取得する。当該3D映像を用いた知覚課題の成績は、例えば、3D映像を用いたMOT課題の成績であってもよい。
【0044】
主観的指標値取得部214は、各ユーザの特定の認知能力に関する主観的指標値(例えば、映像酔いに関する主観的指標値)を取得する。当該映像酔いに関する主観的指標値は、例えば、Simulator Sickness Questionnaire(SSQ)値を示す情報であってもよい。SSQでは、気持ちの悪さ、目の疲れ、ふらつき感に分類される所定数の質問項目(例えば、16の質問項目)について、所定段階(例えば、4段階)でユーザが回答する。SSQ値は、当該回答に基づいて生成される所定の指標値であってもよい。当該SSQ値は、上記知覚課題を実施した後のユーザの回答に基づいて生成されてもよい。
【0045】
記憶部22は、生成部21によって生成される学習用データ22aと、学習部23による学習処理によって生成される予測モデル22bとを記憶する。学習用データ22aは、灰白質体積演算部212によって演算される灰白質体積と、成績取得部213によって取得される成績とをユーザ毎に関連付けたデータであってもよい。また、学習用データ22aは、上記灰白質体積及び成績に加えて、主観的指標値取得部214によって取得される主観的指標値をユーザ毎に関連付けたデータであってもよい。
【0046】
学習部23は、記憶部22に記憶された学習用データ22aを用いた機械学習によって予測モデル22bの学習処理を実行する。例えば、学習部23は、学習用データ22aとして記憶される各ユーザの灰白質体積に基づいて、学習用データ22aとして記憶される各ユーザの成績が出力されるように、予測モデル22bの学習処理を行ってもよい。また、学習部23は、学習用データ22aとして記憶される各ユーザの灰白質体積及び主観的指標値に基づいて、学習用データ22aとして記憶される各ユーザの成績が出力されるように、予測モデル22bの学習処理を行ってもよい。
【0047】
学習部23によって機械学習される予測モデル22bは、例えば、ニューラルネットワークで構成されてよい。予測モデル22bがニューラルネットワークで構成される場合、学習部23は、例えば、誤差逆伝播法によってニューラルネットワークの学習処理を行ってよい。
【0048】
<判定装置>
判定装置10は、脳画像取得部11と、灰白質体積演算部12と、主観的指標値取得部13と、判定部14と、を備える。脳画像取得部11は、特定の認知能力(例えば、3D映像に対する受容性)の有無の判定対象となるユーザの脳画像を取得する。灰白質体積演算部12は、脳画像取得部11により取得された脳画像の所定領域を関心領域に設定して、関心領域における灰白質体積を演算する。主観的指標値取得部13は、当該ユーザの特定の認知能力に関する主観的指標値(例えば、映像酔いに関する主観的指標値)を取得する。なお、脳画像取得部11、灰白質体積演算部12及び主観的指標値取得部13の詳細は、それぞれ、脳画像取得部211、灰白質体積演算部212及び主観的指標値取得部214で説明した通りである。
【0049】
判定部14は、灰白質体積演算部12で演算された灰白質体積に基づいて、ユーザが特定の認知能力(例えば、3D映像に対する受容性)を有するか否かを判定する。また、判定部14は、学習装置20における機械学習により生成される予測器14aを含んでもよい。なお、予測器14aは、蒸留(distillation)により生成又は蒸留により生成される新たな予測モデルを実装してもよい。蒸留では、学習装置20で機械学習された予測モデル22bへの入出力データを用いて新たな予測モデルが生成されてもよい。
【0050】
具体的には、判定部14は、灰白質体積演算部12で演算された灰白質体積を予測器14aに入力して生成される予測値に基づいて、ユーザが特定の認知能力(例えば、3D映像に対する受容性)を有するか否かを判定してもよい。また、判定部14は、当該灰白質体積に加えて、主観的指標値取得部13で取得される主観的指標値を予測器14aに入力して生成される予測値に基づいて、ユーザが特定の認知能力(例えば、3D映像に対する受容性)を有するか否かを判定してもよい。当該予測値は、各ユーザの特定の認知能力に関する所定課題の成績の予測値(例えば、3D映像を用いたMOT課題の正答率の予測値)であってもよい。
【0051】
判定部14による判定結果は、後述する出力部10eに出力され、ユーザに表示されてもよい。或いは、当該判定結果は、通信部10cを介して他の装置に送信されてもよい。
【0052】
<ハードウェア構成>
次に、判定システム1内の各装置(例えば、判定装置10及び学習装置20の少なくとも一つ)のハードウェア構成を説明する。
図4に示すように、判定システム1内の各装置は、演算装置に相当するCPU(Central Processing Unit)10aと、記憶装置10bと、通信部10cと、入力部10dと、出力部10eとを有する。これらの各構成は、バスを介して相互にデータ送受信可能に接続される。なお、本例では、判定装置10及び学習装置20は、別々のコンピュータで構成されるが、一台のコンピュータで構成されてもよい。
【0053】
CPU10aは、記憶装置10bに記憶されたプログラムの実行に関する制御やデータの演算、加工を行う制御部である。CPU10aは、脳画像の所定領域を関心領域として演算される灰白質体積に基づいて特定の認知能力(例えば、3D映像に対する受容性)を判定するプログラム(判定プログラム)を実行する演算装置(演算部)であってもよい。CPU10aは、入力部10d及び/又は通信部10cから種々の入力データを受け取り、入力データの演算結果を出力部10eに出力(例えば、表示)したり、記憶装置10bに格納したり、又は、通信部10cを介して送信したりする。
【0054】
記憶装置10bは、メモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)、の少なくとも一つである。学習装置20の記憶装置10bは、記憶部22を構成してもよい。判定装置10の記憶装置10bは、CPU10aが実行する判定プログラムを記憶してもよい。
【0055】
通信部10cは、判定システム1内の各装置を外部機器に接続するインターフェースである。なお、判定装置10及び学習装置20が一体の装置で構成される場合、通信部10cは、判定装置10として動作するプロセスと、学習装置20として動作するプロセスとの間のプロセス間通信を含んでよい。
【0056】
入力部10dは、ユーザからデータの入力を受け付けるものであり、例えば、キーボード、マウス、タッチパネル、マイクの少なくとも一つを含んでよい。
【0057】
出力部10eは、CPU10aによる演算結果を出力するものであり、例えば、LCD(Liquid Crystal Display)等のディスプレイ及びスピーカの少なくとも一つにより構成されてよい。
【0058】
判定プログラムは、記憶装置10b等のコンピュータによって読み取り可能な記憶媒体に記憶されて提供されてもよいし、通信部10cにより接続されるネットワークNを介して提供されてもよい。当該判定プログラムを格納した記憶媒体は、コンピュータ読み取り可能な非一時的な記憶媒体(Non-transitory computer readable medium)であってもよい。非一時的な記憶媒体は特に限定されないが、例えば、USBメモリ、CD-ROM又はDVD等の記憶媒体であってもよい。
【0059】
判定装置10では、CPU10aが判定プログラムを実行することにより、
図3を用いて説明した脳画像取得部11、灰白質体積演算部12、主観的指標値取得部13、判定部14の動作が実現される。なお、これらの物理的な構成は例示であって、必ずしも独立した構成でなくてもよい。例えば、判定装置10は、CPU10aと記憶装置10bが一体化したLSI(Large-Scale Integration)を備えていてもよい。
【0060】
また、脳画像取得部11及び211、主観的指標値取得部13及び214、成績取得部213は、それぞれ、通信部10cで受信される脳画像、主観的指標値、特定の認知能力に関する所定課題(例えば、3D映像を用いたMOT課題)の成績を取得してもよいし、又は、記憶装置10b等のコンピュータによって読み取り可能な記憶媒体に記憶された脳画像、当該主観的指標値、当該成績を取得してもよい。
【0061】
(判定システムの動作)
<学習動作>
図5は、本実施形態に係る学習動作の一例を示すフローチャートである。なお、
図5では、特定の認知能力の一例として3D映像に対する受容性を想定し、当該3D映像に対する受容性を予測する予測モデル22bの学習動作について説明する。
【0062】
図5に示すように、ステップS101において、学習装置20は、各ユーザの脳画像を取得する。例えば、学習装置20は、MRI装置(例えば、3テスラMRI装置)により撮像された脳画像を取得してもよい。ステップS102において、学習装置20は、ステップS101において取得された脳画像の所定領域を関心領域に設定し、当該関心領域の灰白質体積を演算する。当該関心領域は、例えば、上頭頂小葉及び尾状核の少なくとも一部に対応する領域であってもよい。
【0063】
ステップS103において、学習装置20は、各ユーザの映像酔いに関する主観的指標値(例えば、SSQ値)を取得する。例えば、知覚課題(例えば、3D映像を用いたMOT課題)後に各ユーザにSSQが実施され、当該SSQの回答に基づいて決定されたSSQ値が主観的指標値として取得されてもよい。
【0064】
ステップS104において、学習装置20は、各ユーザの3D映像を用いた知覚課題の成績を取得する。上記の通り、知覚成績情報は、知覚課題(例えば、3D映像を用いたMOT課題)の成績を示す情報(例えば、正答率)であってもよい。
【0065】
ステップS105において、学習装置20は、ステップS102で演算された灰白質体積とステップS103で取得された主観的指標値と、ステップS104で取得された知覚成績情報とを関連づけた学習用データ22aを用いた機械学習により、予測モデル22bの学習処理を実施してもよい。
【0066】
なお、
図5において、ステップS101、S103、S104の順序は問われない。また、
図5において、ステップS103は省略されてもよい。ステップS103を省略する場合、ステップS105において、学習装置20は、ステップS102で演算された灰白質体積とステップS104で取得された成績とを関連づけた学習用データを用いた機械学習により、予測モデル22bの学習処理を実施してもよい。
【0067】
<判定動作>
図6は、本実施形態に係る判定動作の一例を示す図である。なお、
図6では、特定の認知能力の一例として3D映像に対する受容性を想定し、当該3D映像に対する受容性を判定する判定動作について説明する。
【0068】
図6に示すように、ステップS201において、判定装置10は、3D映像に対する受容性の判定対象となるユーザの脳画像を取得する。ステップS202において、判定装置10は、ステップS201において取得された脳画像の所定領域を関心領域に設定し、当該関心領域の灰白質体積を演算する。ステップS203において、判定装置10は、当該ユーザの映像酔いに関する主観的指標値を取得する。なお、ステップS201、S202、S203の詳細は、
図5のステップS101、S102、S103と同様である。
【0069】
ステップS204において、判定装置10は、ステップS202で演算された灰白質体積及びステップS203で取得された主観的指標値を学習済みの予測器14aに入力して、当該予測器14aの出力として3D映像を用いた知覚課題の成績の予測値(成績予測値)を生成してもよい。当該成績予測値は、例えば、MOT課題の正答率又は点数の予測値であってもよい。
【0070】
ステップS205において、判定装置10は、ステップS204で生成された成績予測値が所定の条件を満たすか否かを判定する。当該成績予測値が所定の条件を満たす場合、ステップS206において、判定装置10は、当該ユーザが3D映像に対する受容性を有すると判定する。一方、当該成績予測値が所定の条件を満たさない場合、ステップS207において、判定装置10は、当該ユーザが3D映像に対する受容性を有しないと判定する。
【0071】
なお、
図6において、ステップS201、S203の順序は問われない。また、
図6において、ステップS203は省略されてもよい。ステップS203を省略する場合、ステップS204において、判定装置10は、ステップS202で演算された灰白質体積を学習済みの予測器14aに入力して、当該予測器14aの出力として成績予測値を生成してもよい。
【0072】
図7は、本実施形態に係る知覚課題の成績と3D映像に対する受容性との関係の一例を示す図である。
図7に示すように、3D映像に対する受容性の有無の判定に用いられる所定の条件は、所定数の被験者に対する知覚課題の成績分布に基づいて決定されてもよい。
図7では、78名の被験者に対して3D映像を用いた知覚課題(ここでは、MOT課題)を実施した場合の成績分布が示される。
【0073】
例えば、
図7に示すように、知覚課題の成績が分布する場合、3D映像に対する受容性を有すると判断される所定の条件は、当該成績が70%以上の正答率であることであってもよい。
【0074】
例えば、
図7の条件を用いる場合、
図6のステップS204において予測器14aから出力される成績予測値が70%以上の正答率を示す場合、当該成績予測値に対応するユーザは、3D映像に対する受容性を有すると判断される。一方、
図6のステップS204において予測器14aから出力される成績予測値が70%未満の正答率を示す場合、当該成績予測値に対応するユーザは、3D映像に対する受容性を有しないと判断される。
【0075】
なお、
図7は一例にすぎず、3D映像に対する受容性を有すると判断される所定の条件は、当該成績が70%以上の正答率であることに限られない。当該所定の条件は、知覚課題の成績(例えば、正答率)と所定の閾値とに基づいて定められれば、どのような条件であってもよい。
【0076】
図8は、本実施形態に係る3D映像に対する受容性の判定の効果の一例を示す図である。
図8では、所定数(ここでは、48名)の被験者に対して所定期間(例えば、1ヶ月)、3D映像を用いたスポーツトレーニングを実施した場合の伸び率の分布が示される。
【0077】
図8では、48名の被験者のうち22名の伸び率が10%未満である。当該22名の被験者の脳画像に基づいて上頭頂小葉及び尾状核に対応する領域を関心領域として設定し、灰白質体積を演算した。当該灰白質体積を学習済みの予測器14aに入力して当該22名の被験者の3D映像に対する受容性を予め判定したところ、19名の被験者については3D映像に対する受容性が有しないと判定されていた。
【0078】
したがって、学習済みの予測器14aを用いて3D映像に対する受容性がないと判定されるユーザに対し、3D映像を用いたスポーツトレーニングを実施しても、当該トレーニングの実施効果を適切に得られない可能性が高い。したがって、3D映像に対する受容性を有すると判定されるユーザに対して3D映像を用いたトレーニングを実施することで、トレーニングの実施効果を効率的に得ることができる。
【0079】
なお、
図8では、3D映像を用いた行為の一例としてスポーツトレーニングが示されているが、当該行為は、例えば、航空機の操縦、車両の運転、リハビリ、患者の手術等、3D映像を用いて実施されるどのような行為であってもよい。3D映像を用いた行為を実施する際に、学習済みの予測器14aを用いて3D映像に対する受容性の判定結果を考慮することで、当該行為の実施効果をより効率的に得ることができる。
【0080】
以上のように、本実施形態に係る判定システムによれば、ユーザの脳画像に基づいて演算される当該ユーザの脳の所定領域の灰白質体積に基づいて、当該ユーザの3D映像に対する受容性を判定できる。このため、3D映像に対する受容性を有すると判定されたユーザに対して、3D映像を用いた行為を実施することにより、当該行為の実施効果を効率的に得ることができる。
【0081】
なお、上記実施形態では、脳の所定領域の灰白質体積に基づいて特定の認知能力(例えば、3D映像に対する受容性)が判定されるが、当該判定に用いられるパラメータは、脳機能及び脳構造の少なくとも一つを示すパラメータであれば、灰白質体積に限られない。例えば、灰白質体積に代えて又は加えて、当該脳の所定領域の拡散異方性度(Fractional Anisotropy(FA)値)が演算されてもよい。当該拡散異方性度は、脳の白質線維の質的・量的な変化を反映してもよい。当該拡散異方性度は、拡散強調画像に基づいて演算されてもよい。当該拡散強調画像は、例えば、MRIにより、水素原子の拡散を検出するために印加される傾斜磁場(拡散運動検出傾斜磁場(Motion Probing gradient(MPG)))を用いて取得されてもよい。また、安静時脳機能結合、ミエリンマップ、微細構造画像の少なくとも一つに基づいて決定されるパラメータが用いられてもよい。
【0082】
以上説明した実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。実施形態が備える各要素並びにその配置、材料、条件、形状及びサイズ等は、例示したものに限定されるわけではなく適宜変更することができる。また、異なる実施形態で示した構成同士を部分的に置換し又は組み合わせることが可能である。
【符号の説明】
【0083】
1…判定システム、10…判定装置、20…学習装置、11…脳画像取得部、12…灰白質体積演算部、13…主観的指標値取得部、14…判定部、14a…予測器、21…生成部、22…記憶部、22a…学習用データ、22b…予測モデル、23…学習部、211…脳画像取得部、212…灰白質体積演算部、213…成績取得部、214…主観的指標値取得部、10a…CPU、10b…記憶装置、10c…通信部、10d…入力部、10e…出力部、I1、I2…脳画像、V…3D映像、X…切断面、100…HMD、101…第1表示部、102…第2表示部、103…センサー