IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士重工業株式会社の特許一覧

<>
  • 特開-車両サービス提供システム 図1
  • 特開-車両サービス提供システム 図2
  • 特開-車両サービス提供システム 図3
  • 特開-車両サービス提供システム 図4
  • 特開-車両サービス提供システム 図5
  • 特開-車両サービス提供システム 図6
  • 特開-車両サービス提供システム 図7
  • 特開-車両サービス提供システム 図8
  • 特開-車両サービス提供システム 図9
  • 特開-車両サービス提供システム 図10
  • 特開-車両サービス提供システム 図11
  • 特開-車両サービス提供システム 図12
  • 特開-車両サービス提供システム 図13
  • 特開-車両サービス提供システム 図14
  • 特開-車両サービス提供システム 図15
  • 特開-車両サービス提供システム 図16
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024039577
(43)【公開日】2024-03-22
(54)【発明の名称】車両サービス提供システム
(51)【国際特許分類】
   G06T 3/18 20240101AFI20240314BHJP
   G08G 1/09 20060101ALI20240314BHJP
   G06T 1/00 20060101ALI20240314BHJP
   G07C 5/00 20060101ALI20240314BHJP
【FI】
G06T3/00 770
G08G1/09 F
G06T1/00 340A
G07C5/00 Z
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2022144231
(22)【出願日】2022-09-11
(71)【出願人】
【識別番号】000005348
【氏名又は名称】株式会社SUBARU
(74)【代理人】
【識別番号】100099793
【弁理士】
【氏名又は名称】川北 喜十郎
(74)【代理人】
【識別番号】100154586
【弁理士】
【氏名又は名称】藤田 正広
(74)【代理人】
【識別番号】100182051
【弁理士】
【氏名又は名称】松川 直宏
(74)【代理人】
【識別番号】100179280
【弁理士】
【氏名又は名称】河村 育郎
(74)【代理人】
【識別番号】100180747
【弁理士】
【氏名又は名称】小森 剛彦
(72)【発明者】
【氏名】香川 呼楠人
(72)【発明者】
【氏名】中村 亮太
【テーマコード(参考)】
3E138
5B057
5H181
【Fターム(参考)】
3E138AA01
3E138MA10
3E138MB08
3E138MC17
3E138MD05
5B057AA16
5B057AA19
5B057CD20
5H181AA01
5H181BB04
5H181BB13
5H181CC03
5H181CC04
5H181CC14
5H181CC27
5H181FF04
5H181FF13
5H181FF27
5H181FF33
5H181LL09
(57)【要約】      (修正有)
【課題】利便性を極力損なうことがないように、個人情報を保護する車両サービス提供システムを提供する。
【解決手段】自動車とサーバ装置とが、通信網を通じて、互いに情報を送受している車両サービス提供システムにおいて、車両制御部は、車内カメラによる乗員の顔画像の点群情報とパッチ情報とを生成し、乗員の顔画像の替わりに、乗員または車両の分類情報C1~C3とともに、サーバ装置へ送信する。サーバメモリは、サンプル顔画像の分類情報95~98と関連付けられている、複数のサンプル顔画像91~94の情報を記録する。サーバ制御部は、複数のサンプル顔画像91~94の中から、受信する乗員または車両の分類情報C1~C3を用いてサンプル顔画像を選択し、選択したサンプル顔画像を用いたモーフィング処理を実行し、モーフィング顔画像を車両の乗員の顔画像の替わりに出力部から出力する。
【選択図】図13
【特許請求の範囲】
【請求項1】
車両からサーバ装置へ情報を送信して、前記サーバ装置が受信した情報に基づいてサービスを提供するシステムであって、
前記車両は、前記車両の乗員を撮像可能な車内カメラおよび車両制御部、を有し、前記サーバ装置は、画像の出力部、サーバメモリおよびサーバ制御部、を有し、
前記車両制御部は、
前記車内カメラから、乗員の顔を含む撮像画像を取得する乗員画像取得処理と、
取得した撮像画像から、乗員の顔の撮像領域を切り出す切出処理と、
切り出した乗員の顔の撮像領域における、顔の輪郭および顔の要素の位置を示す顔の点群情報を生成する点群生成処理と、
生成した点群情報を画像分割の基準に用いて、切り出した乗員の顔の撮像領域を分割するパッチ情報を生成するパッチ生成処理と、
を実行して、乗員の顔を含む撮像画像の替わりに、処理により生成した点群情報およびパッチ情報の情報を、乗員を一意に特定することができない乗員または前記車両の分類情報とともに、前記サーバ装置へ送信し、
前記サーバメモリは、
前記撮像画像から切り出す前記乗員とは異なる顔画像の情報として、点群情報およびパッチ情報を含み、かつ、サンプル顔画像の分類情報と関連付けられている、複数のサンプル顔画像の情報を記録し、
前記サーバ制御部は、
前記サーバメモリに記録されている複数のサンプル顔画像の中から、前記車両制御部から受信する乗員または前記車両の分類情報を用いて、乗員または前記車両の分類情報に対応する情報が関連付けられているサンプル顔画像を選択するサンプル画像取得処理と、
選択したサンプル顔画像についての前記点群情報およびパッチ情報と、前記乗員について生成されている前記点群情報および前記パッチ情報とを用いたモーフィング処理を実行して、モーフィング顔画像を生成するモーフィング処理と、
を実行して、前記モーフィング処理によるモーフィング顔画像
を、前記車両の乗員の顔画像の替わりに、前記出力部から出力する、ことが可能である、
車両サービス提供システム。
【請求項2】
前記サーバメモリにおいて、前記サンプル顔画像には、前記サンプル顔画像の分類情報として、各サンプル顔画像の他者が属する地域の情報、および、前記地域での車両の仕様情報、の中の少なくとも1つの車両の分類情報と関連付けられて記録され、
前記車両制御部は、
乗員を一意に特定することができない乗員または車両の分類情報として、乗員の前記車両の位置情報、および前記車両の仕様情報の中の少なくとも一方を、前記サーバ装置へ送信し、
前記サーバ制御部は、前記サンプル画像取得処理において、
前記サーバメモリに記録されている複数のサンプル顔画像の中から、受信している乗員の前記車両の位置情報または前記車両の仕様情報と対応する情報が関連付けられているサンプル顔画像を選択する、
請求項1記載の、車両サービス提供システム。
【請求項3】
前記サーバメモリにおいて、前記サンプル顔画像には、前記サンプル顔画像の分類情報として、各サンプル顔画像の他者の体格に応じた車両の設定情報、がさらに関連付けられて記録され、
前記車両制御部は、
乗員を一意に特定することができない乗員または車両の分類情報として、乗員の体格に応じた前記車両の設定情報を、前記サーバ装置へ送信し、
前記サーバ制御部は、前記サンプル画像取得処理において、
前記サーバメモリに記録されている複数のサンプル顔画像の中から、受信している乗員の体格に応じた前記車両の設定情報と対応する情報が関連付けられているサンプル顔画像を選択する、
請求項2記載の、車両サービス提供システム。
【請求項4】
前記サーバメモリにおいて、前記サンプル顔画像には、前記サンプル顔画像の分類情報として、各サンプル顔画像での他者を一意に特定することができない情報である、サンプル顔画像の他者の分類情報が、さらに関連付けられて分類可能に記録され、
前記車両制御部は、
乗員を一意に特定することができない乗員または車両の分類情報として、乗員の分類情報を、前記サーバ装置へ送信し、
前記サーバ制御部は、前記サンプル画像取得処理において、
前記サーバメモリに記録されている複数のサンプル顔画像の中から、受信している乗員の分類情報に対応する情報と関連付けられているサンプル顔画像を選択する、
請求項3記載の、車両サービス提供システム。
【請求項5】
前記サーバ制御部は、前記サンプル画像取得処理において、
乗員を一意に特定することができない乗員または車両の分類情報を用いて選択するサンプル顔画像が複数である場合には、さらに顔画像の類似度に基づいて、モーフィング処理に用いる1つのサンプル画像を選択する、
請求項4記載の、車両サービス提供システム。




【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両サービス提供システムに関する。
【背景技術】
【0002】
自動車といった車両では、移動中に、車両そのものの不具合や、乗員の不具合などが発生することがある。
また、車両や乗員は、移動中に各種のコンテンツサービスを受けられることが望ましいことがある。
これらの車両サービスには、車両や乗員の不具合に対応する緊急対応サービス、そのための乗員監視サービス、コンテンツ提供サービス、などが考えられる。
そして、このような車両サービス提供システムでは、車両サービスを提供するために、基本的に、車両からサーバ装置へ情報を送信し、サーバ装置が受信した情報に基づいてサービスを提供することになる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2021-043571号公報
【特許文献2】特開2014-067131号公報
【特許文献3】特開2020-156033号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、このような車両サービス提供システムでは、特に上述した緊急対応サービスや乗員監視サービスでは、乗員の状態を示す車内カメラの撮像画像などを、車両からサーバ装置へ送信することが望まれている。車内カメラの撮像画像がサーバ装置に表示出力されることにより、オペレータは、乗員の現在の状態や表情などを乗員の撮像画像から的確に把握でき、その結果として、乗員の現在の状態などに最適なサービスを提供することが可能になる。
【0005】
その一方で、このように車両からサーバ装置へ情報を送信する場合、その情報によっては、法令などに基づいて制限されることがある。たとえば、欧州では、個人を特定可能な情報の送受信については、独自に厳しい制限を設けている。
また、このような個人情報の保護について対応しようとする企業にあっては、車両からサーバ装置へ送信する情報を、自主的に良好な制限をしたいと考える。
そして、上述した車両の乗員の撮像画像には、乗員の顔の画像成分が含まれる。乗員の顔は、個人情報であり、適切に保護することが望まれる。
【0006】
特許文献1~3は、撮像画像に含まれる乗員の顔の画像を、抽象化、置換、またはマスクすることを開示する。
しかしながら、特許文献1~3のように乗員の顔の画像を抽象化、置換、またはマスクしてしまうと、その画像がサーバ装置に出力されたとしても、オペレータは、乗員の現在の状態や表情などを的確に把握することが難しい。
【0007】
このように車両サービス提供システムでは、その利便性を極力損なうことがないようにしながら、個人情報を保護することが望まれる。
【課題を解決するための手段】
【0008】
本発明の一形態に係る車両サービス提供システムは、車両からサーバ装置へ情報を送信して、前記サーバ装置が受信した情報に基づいてサービスを提供するシステムであって、前記車両は、前記車両の乗員を撮像可能な車内カメラおよび車両制御部、を有し、前記サーバ装置は、画像の出力部、サーバメモリおよびサーバ制御部、を有し、前記車両制御部は、前記車内カメラから、乗員の顔を含む撮像画像を取得する乗員画像取得処理と、取得した撮像画像から、乗員の顔の撮像領域を切り出す切出処理と、切り出した乗員の顔の撮像領域における、顔の輪郭および顔の要素の位置を示す顔の点群情報を生成する点群生成処理と、生成した点群情報を画像分割の基準に用いて、切り出した乗員の顔の撮像領域を分割するパッチ情報を生成するパッチ生成処理と、を実行して、乗員の顔を含む撮像画像の替わりに、処理により生成した点群情報およびパッチ情報の情報を、乗員を一意に特定することができない乗員または前記車両の分類情報とともに、前記サーバ装置へ送信し、前記サーバメモリは、前記撮像画像から切り出す前記乗員とは異なる顔画像の情報として、点群情報およびパッチ情報を含み、かつ、サンプル顔画像の分類情報と関連付けられている、複数のサンプル顔画像の情報を記録し、前記サーバ制御部は、前記サーバメモリに記録されている複数のサンプル顔画像の中から、前記車両制御部から受信する乗員または前記車両の分類情報を用いて、乗員または前記車両の分類情報に対応する情報が関連付けられているサンプル顔画像を選択するサンプル画像取得処理と、選択したサンプル顔画像についての前記点群情報およびパッチ情報と、前記乗員について生成されている前記点群情報および前記パッチ情報とを用いたモーフィング処理を実行して、モーフィング顔画像を生成するモーフィング処理と、を実行して、前記モーフィング処理によるモーフィング顔画像を、前記車両の乗員の顔画像の替わりに、前記出力部から出力する、ことが可能である、ものである。
【発明の効果】
【0009】
本発明の車両サービス提供システムでは、車両の車両制御部およびサーバ装置のサーバ制御部は、乗員画像取得処理、切出処理、点群生成処理、パッチ生成処理、サンプル顔画像取得処理、およびモーフィング処理を実行する。そして、サーバ制御部は、モーフィング処理によるモーフィング顔画像を、車両の乗員の顔画像の替わりに、出力部から出力する。これにより、出力部からは、乗員の表情などの状態を反映した顔画像が出力され得る。その結果、オペレータは、出力される顔画像に基づいて、乗員の現在の実際の状態や表情などを把握することができる。
これに対して、仮にたとえば乗員の顔画像が抽象化されたり、置換されたり、マスクされたりしている場合、オペレータは、その画像において、乗員の現在の実際の状態や表情などを的確に把握することが難しくなる。
また、車両の車両制御部は、乗員画像取得処理、切出処理、点群生成処理、パッチ生成処理、を実行する。そして、車両の車両制御部は、処理により生成した情報を、乗員の顔を含む撮像画像の替わりに、サーバ装置へ送信する。これにより、本発明の車両は、乗員の個人情報として保護する必要がある乗員の顔画像そのものを外へ送信しないようすることができる。
このように本発明では、車両サービス提供システムの利便性を極力損なうことがないようにしながら、個人情報を保護することが可能である。
【0010】
しかも、本発明において、サーバ装置は、画像の出力部とともに、サーバメモリおよびサーバ制御部、を有する。サーバメモリは、撮像画像から切り出す乗員とは異なる顔画像の情報として、点群情報およびパッチ情報を含み、かつ、サンプル顔画像の分類情報と関連付けられている、複数のサンプル顔画像の情報を記録する。そして、サーバ制御部は、サーバメモリに記録されている複数のサンプル顔画像の中から、車両制御部から受信する、乗員を一意に特定することができない乗員または車両の分類情報を用いて、乗員または車両の分類情報に対応する情報が関連付けられているサンプル顔画像を選択する。
このようなサーバ装置では、サーバメモリに、各々の乗員に良好に用いることが可能な多数のサンプル顔画像を記録することが可能となる。しかも、そのように多数のサンプル顔画像がサーバメモリに記録されているとしても、サーバ制御部は、乗員または車両の分類情報に基づく選択処理という簡易で低い負荷の処理により、モーフィング処理に用いるサンプル顔画像を短時間で絞り込んで選択することができる。サーバ制御部は、サーバメモリに記録されている多数のサンプル顔画像のすべてについて、たとえば顔の輝度値の類似度などに基づく比較選択をするような高い負荷となる処理を実行することなく、それよりも軽い負荷の処理により、乗員と良好に対応し得るサンプル顔画像を、モーフィング処理のために短時間で選択することができる。サンプル顔画像の他人が乗員と良好に対応している場合、それにより得られるモーフィング顔画像は、それらが良好に対応していない場合と比べて、乗員に近いものになり得る。
【図面の簡単な説明】
【0011】
図1図1は、本発明の実施形態に係る車両サービス提供システムのシステム構成図である。
図2図2は、図1の車両サービス提供システムにおいて緊急対応サービスを提供する例での、図1の自動車とサーバ装置との基本的な通信手順の説明図である。
図3図3は、図1の自動車の制御系の構成図である。
図4図4は、図3の通信制御装置の基本的な構成図である。
図5図5は、図3の自動車の制御系による、緊急対応サービスのための情報の送信制御のフローチャートである。
図6図6は、図5のステップST15のモーフィング処理情報の生成制御の詳細なフローチャートである。
図7図7は、図1のサーバ装置の構成図である。
図8図8は、図7のサーバ装置のサーバCPUによる、緊急対応サービスのための加工画像の生成制御のフローチャートである。
図9図9は、図4の車内カメラによる撮像画像の一例の説明図である。
図10図10は、図9の撮像画像から切り出したドライバの顔の撮像領域である顔画像の一例の説明図である。
図11図11は、図10のドライバの顔画像について生成される点群情報の一例の説明図である。
図12図12は、図10のドライバの顔画像について生成されるパッチ情報の一例の説明図である。
図13図13は、複数のサンプル顔画像の組み合わせの一例の説明図である。
図14図14は、図13において選択されたサンプル顔画像について生成される点群情報の一例の説明図である。
図15図15は、図13において選択されたサンプル顔画像について生成されるパッチ情報の一例の説明図である。
図16図16は、乗員の顔画像に替わって表示出力される、モーフィング顔画像の一例の説明図である。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態を、図面に基づいて説明する。
【0013】
図1は、本発明の実施形態に係る車両サービス提供システム1の構成図である。
図1の車両サービス提供システム1は、自動車2と、自動車2に対して車両サービスを提供するためのサーバ装置5と、を有する。そして、自動車2とサーバ装置5とは、通信網6を通じて、互いに情報を送受している。
ここで、自動車2は、車両の一例であり、基本的に複数の乗員が乗車可能なものでよい。複数の乗員が乗車可能な自動車2は、ドライバおよび助手が車幅方向に並んで着座できる。ただし、本発明が適用可能な車両は、このような特徴を有する自動車2に限られるものではない。
【0014】
図1の通信網6は、自動車2の走行経路に対して並べられている複数の基地局3、複数の基地局3とともにサーバ装置5が接続される通信ネットワーク4、を有する。基地局3は、たとえば、携帯端末などのためのキャリア通信網の基地局であっても、自動車2へのITSサービスまたはADASサービスのための基地局であってもよい。キャリア通信網の第五世代の基地局には、高性能な情報処理機能を有するものがある。この場合、サーバ装置5は、複数の基地局3に分散して設けることが可能である。
【0015】
自動車2には、その移動中に、自動車2そのものに不具合が発生したり、乗員に不具合が発生したり、することがある。
また、乗員は、自動車2での移動中に、各種のコンテンツサービスを利用することがある。コンテンツサービスには、たとえば楽曲の配信サービス、動画の配信サービス、などがある。
車両サービス提供システム1は、自動車2との間で情報を送受するサーバ装置5を利用することにより、これらの車両サービスを自動車2へ提供することが可能である。車両サービス提供システム1は、たとえば自動車2や乗員の不具合に対応するための緊急対応サービス、そのための監視サービス、を提供してよい。また、車両サービス提供システム1は、サーバ装置5からコンテンツ情報を提供してよい。
【0016】
図2は、図1の車両サービス提供システム1において緊急対応サービスを提供する例での、図1の自動車2とサーバ装置5との基本的な通信手順の説明図である。
図2には、自動車2と、サーバ装置5とが示されている。時間は、上から下へ流れる。
【0017】
図2において、自動車2は、ステップST1において自動車2および乗員の情報を取得し、ステップST2において取得した情報をサーバ装置5へ送信する。自動車2からサーバ装置5へ送信する情報には、基本的に、自動車2の状態などを示す情報、乗員の状態などを示す情報、が含まれてよい。
サーバ装置5は、ステップST3に示すように、自動車2からの情報受信を待っている。そして、自動車2から情報を受信すると、サーバ装置5は、ステップST4において受信した情報を表示などにより出力する。これにより、オペレータは、自動車2および乗員の情報を確認することができる。そして、乗員への確認が必要であると判断すると、オペレータは、サーバ装置5を操作する。サーバ装置5は、受信情報を出力した後、ステップST5において通信の要否を判断する。オペレータの操作があると、サーバ装置5は、通信要と判断し、ステップST6において自動車2との通信を開始する。これにより、ステップST7に示すように、自動車2とサーバ装置5との間に、オペレータと乗員とが音声または動画により通話可能な通信路が確立される。
そして、乗員との通話により緊急対応が必要であると判断すると、オペレータは、サーバ装置5を操作する。サーバ装置5は、ステップST8に示すように、ロードサービス9へ緊急通報する。ロードサービス9は、その通報に基づいて、ステップST9に示すように自動車2へ向けて出動する。ロードサービス9は、緊急時対応の車両サービスを提供する。
これにより、自動車2または乗員は、車両サービス提供システム1により提供されている緊急対応サービスを享受することができる。
【0018】
このように車両サービス提供システム1では、車両サービスを提供するために、基本的に、自動車2からサーバ装置5へ情報を送信し、サーバ装置5が受信した情報に基づいてサービスを提供することになる。
ところで、このような車両サービス提供システム1では、特に上述した緊急対応サービスや乗員監視サービスにおいては、乗員の状態を示す車内カメラ55の撮像画像などを、自動車2からサーバ装置5へ送信することが望まれる。車内カメラ55の撮像画像がサーバ装置5に表示出力されることにより、オペレータは、乗員の現在の状態や表情などを乗員の撮像画像から的確に把握できる。その結果、オペレータは、乗員の現在の状態などに応じた最適なサービスなどを提供することができる。
【0019】
その一方で、このように自動車2からサーバ装置5へ情報を送信する場合、その情報によっては、法令などに基づいて制限されることがある。たとえば、欧州では、個人を特定可能な情報の送受信については、独自に厳しい制限を設けている。
また、このような個人情報の保護について対応しようとする企業にあっては、自動車2からサーバ装置5へ送信する情報を、自主的に制限しようと考える。
そして、上述した自動車2の乗員の撮像画像は、乗員の顔の画像成分が含まれる。乗員の顔写真は、乗員の氏名などと同様に、個人情報として、法令の要請や必要に応じて、適切に保護することが望まれる。
【0020】
このように車両サービス提供システム1では、その利便性を極力損なうことがないようにしながら、個人情報を保護することが望まれる。
【0021】
図3は、図1の自動車2の制御系20の構成図である。
図3の自動車2の制御系20は、車ネットワーク30と、車ネットワーク30に接続される複数の制御装置と、を有する。図4には、複数の制御装置の例として、駆動制御装置21、操舵制御装置22、制動制御装置23、走行制御装置24、運転操作制御装置25、検出制御装置26、通信制御装置27、通話制御装置28、が示されている。自動車2の制御装置には、この他にもたとえば、空調制御装置、乗員監視制御装置、ドライビングポジション制御装置、などが設けられてよい。
【0022】
車ネットワーク30は、たとえば自動車2で採用されるたとえばCAN(Controller Area Network)やLIN(Local Interconnect Network)といった規格に準拠したものでよい。このような車ネットワーク30は、複数の制御装置が接続される複数のバスケーブル32と、複数のバスケーブル32が接続される中継装置としてのセントラルゲートウェイ装置31と、を有する。セントラルゲートウェイ装置31は、複数のバスケーブル32を通じた複数の制御装置の間でのルーティングを制御する。これにより、制御装置は、他のバスケーブル32に接続される他の制御装置との間で、情報を送受できる。
【0023】
運転操作制御装置25には、自動車2を走行させるためにドライバが操作する操作部材である、ハンドル41、ブレーキペダル42、アクセルペダル43、シフトレバ44、などが接続される。運転操作制御装置25は、操作部材に対するドライバの操作を検出し、操作に応じた操作情報を生成し、車ネットワーク30を通じて他の制御装置へ出力する。
【0024】
走行制御装置24は、自動車2の走行を制御する。走行制御装置24は、たとえば、車ネットワーク30を通じて運転操作制御装置25から操作情報を取得する。そして、走行制御装置24は、取得した情報に応じた駆動情報、操舵情報、制動情報を生成し、車ネットワーク30を通じて駆動制御装置21、操舵制御装置22、制動制御装置23へ出力する。この際、走行制御装置24は、操作情報に対してそのままに対応する駆動情報、操舵情報、制動情報を生成しても、操作を支援するように調整した駆動情報、操舵情報、制動情報を生成しても、よい。また、走行制御装置24は、乗員の操作によることがない自動走行のための駆動情報、操舵情報、制動情報を生成してもよい。
【0025】
駆動制御装置21は、車ネットワーク30から駆動情報を取得し、自動車2の動力源である不図示のエンジン、モータ、トランスミッション、などを制御して、自動車2の駆動力の大きさおよびバランスを制御する。
操舵制御装置22は、車ネットワーク30から操舵情報を取得し、自動車2の不図示のハンドルモータなどを制御して、走行方向を制御する。
制動制御装置23は、車ネットワーク30から制動情報を取得し、自動車2の不図示の制動部材やモータを制御して、自動車2の制動を制御する。
通信制御装置27は、自動車2の近くにある基地局3と通信して、無線通信路を確立する。通信制御装置27は、基地局3との間に確立している無線通信路を用いて、サーバ装置5などとの間で情報を送受する。
通話制御装置28には、自動車2の乗員がたとえばサーバ装置5のオペレータとの間に通話するために使用する、スピーカ46、およびマイクロホン47、が接続される。
【0026】
検出制御装置26は、自動車2に設けられる各種のセンサ部材が接続される。図4には、センサ部材の例として、速度センサ51、加速度センサ52、車外カメラ53、Lidar54、車内カメラ55、GNSS受信機56、が示されている。
速度センサ51は、移動のために走行する自動車2の速度を検出する。
加速度センサ52は、移動のために走行する自動車2の加速度を検出する。
車外カメラ53は、自動車2の車外の周囲を撮像するカメラである。車外カメラ53は、たとえば、自動車2の車外の周囲を全体的に撮像する360度カメラであっても、自動車2の車外の周囲を複数のカメラで分割して撮像するものであっても、よい。
Lidar54は、赤外線などの信号を用いて、自動車2の車外の周囲を検出するセンサである。Lidar54は、赤外線の反射波に基づいて、車外の空間情報を生成する。
GNSS受信機56は、図1に示すGNSS衛星110の電波を受信して、GNSS受信機56が設けられる自動車2の現在位置および現在時刻を生成する。GNSS衛星110には、天頂衛星が含まれてよい。また、GNSS受信機56は、地上に固定設置されている発信機からの電波を併せて受信できるものでもよい。
【0027】
車内カメラ55は、自動車2においてドライバなどの乗員が乗車する車内を撮像するカメラである。ここで、車内カメラ55は、自動車2に乗車しているドライバと助手とを1つの画像に撮像できる広角のカメラでよい。このような自動車2に乗車している複数の乗員を撮像する広角のカメラは、自動車2の車幅方向の中央部分、たとえばダッシュボードの中央部分に設けるとよい。
【0028】
そして、検出制御装置26は、これらのセンサ部材の検出情報、および検出情報に基づいて生成した情報を、車ネットワーク30を通じて他の制御装置へ出力する。
たとえば、検出制御装置26は、そのメモリ64に車内カメラ55による乗員の顔の撮像画像の情報を事前に記録しておき、それと車内カメラ55の現在の撮像画像とを照合して、自動車2に乗車している乗員を特定してよい。この場合、検出制御装置26は、特定した乗員の情報を、検出情報に基づいて生成した情報として、車ネットワーク30を通じて他の制御装置へ出力することができる。また、検出制御装置26は、車内カメラ55の最新の撮像画像を繰り返し取得して、乗員の状態を監視してよい。乗員は、運転中に疾患が発症する可能性がある。検出制御装置26は、このような乗員の状態変化を検出すると、通信制御装置27からサーバ装置5に対して緊急対応要求を送信してよい。このような検出制御装置26は、乗員監視制御装置として機能することになる。
【0029】
図4は、図3の通信制御装置27の基本的な構成図である。
図3のその他の制御装置も、図4と同様の基本的な構成でよい。
図4の通信制御装置27は、車内通信デバイス61、入出力ポート62、タイマ63、メモリ64、CPU65、および、これらが接続される内部バス66、を有する。
【0030】
車内通信デバイス61は、車ネットワーク30に接続される。車内通信デバイス61は、車ネットワーク30を通じて、他の制御装置の車内通信デバイス61との間で、情報を入出力する。
入出力ポート62は、通信制御装置27に接続される各種の部材が接続される。通信制御装置27の場合、基地局3との間の通信のための通信デバイスが接続されてよい。
タイマ63は、時間または時刻を計測する。タイマ63の時刻は、GNSS受信機56により取得される現在時刻により校正されてよい。これにより、サーバ装置5の時刻と、自動車2の時刻とは、高精度に合致できる。
メモリ64は、CPU65が実行するプログラムや各種の情報を記録する。メモリ64は、たとえば半導体メモリ、HDD、などで構成されてよい。半導体メモリには、たとえば、RAMなどの揮発性メモリ、ROM、SSDなどの不揮発性メモリがある。
CPU65は、メモリ64に記録されているプログラムを読み込んで実行する。これにより、CPU65は、それが設けられる通信制御装置27の全体動作を制御する車両制御部として機能する。
【0031】
図5は、図3の自動車の制御系による、緊急対応サービスのための情報の送信制御のフローチャートである。
ここでは、通信制御装置27のCPU65が、図5の送信制御を実行するものとして説明する。通信制御装置27のCPU65は、たとえば自動車2に乗員が乗車している状態において、図5の送信制御を繰り返し実行する。
なお、図3の自動車2の制御系20に含まれる各種の制御装置のCPU65が、図5の送信制御を実行してもよい。また、制御系20の複数のCPU65が協働して、図5の送信制御を実行してもよい。
【0032】
ステップST11において、CPU65は、自動車2の最新の車両情報を収集する。ここで、車両情報とは、自動車2の各部から収集可能な情報であればよい。車両情報には、自動車2の走行状態や不具合を示す情報、乗員の状態や不具合を示す情報、などが含まれてよい。乗員の状態を示す情報としては、たとえば車内カメラ55の撮像画像がある。車内カメラ55の撮像画像には、自動車2に乗車しているドライバや助手といった複数の乗員が撮像され得る。
【0033】
ステップST12において、CPU65は、車両情報に基づいて判断可能な車両の状況が、サーバ装置5との通信を必要としているか否かを判断する。自動車2や乗員に不具合がある場合、自動車2の事故が発生している場合、乗員が不図示のボタン操作などにより要請している場合、CPU65は、それらの情報に基づいて、サーバ装置5との通信を必要としていると判断してよい。この場合、CPU65は、サーバ装置5との通信を実行するために、処理をステップST13へ進める。サーバ装置5との通信を必要としていると判断しない場合、CPU65は、本制御を終了する。
【0034】
ステップST13から、CPU65は、サーバ装置5との通信を実行するための処理を開始する。CPU65は、まず、収集している最新の車両情報から、送信情報を選択する。自動車2に不具合がある場合、CPU65は、自動車2についての各種の情報を、送信情報として選択してよい。乗員に不具合がある場合、または乗員がボタンを操作している場合、CPU65は、乗員についての各種の情報を、送信情報として選択してよい。自動車2の事故が発生している場合、CPU65は、自動車2および乗員についての各種の情報を、送信情報として選択してよい。そして、乗員についての各種の情報を選択する場合、CPU65は、乗員の顔を含む車内カメラ55の撮像画像を選択することがある。
【0035】
ステップST14において、CPU65は、送信する情報として、乗員の顔画像を選択しているか否かを判断する。CPU65は、たとえば乗員の顔を含む車内カメラ55の撮像画像を送信情報として選択している場合、乗員の顔画像を選択していると判断し、処理をステップST15へ進める。乗員の顔を含む車内カメラ55の撮像画像を送信情報として選択していない場合、CPU65は、ステップST15を飛ばして、処理をステップST16へ進める。
【0036】
ステップST15において、CPU65は、送信情報として選択している乗員の顔を含む画像に基づいて、乗員の顔画像に基づく顔のモーフィング処理に用いる情報を生成する。
【0037】
ステップST16において、CPU65は、送信情報を、通信制御装置27から基地局3を通じてサーバ装置5へ送信する。
ステップST15において乗員の顔画像に基づく顔のモーフィング処理に用いる情報を生成している場合、CPU65は、乗員の顔画像の替わりに、モーフィング処理に用いる情報を送信する。
この際、CPU65は、サーバ装置5でのモーフィング処理のための情報、たとえば乗員および車両についての分類情報を、併せて送信する。CPU65は、自動車2の制御系20の各部から、乗員および車両についての情報を取得して、乗員および車両についての分類情報を生成して送信してよい。
【0038】
サーバ装置5でのモーフィング処理のために用いるための、乗員および車両についての分類情報は、少なくとも、その乗員を一意に特定することができない情報であればよい。
このような乗員を特定することにはならない車両の分類情報には、たとえば、乗員の自動車2の位置情報、乗員の自動車2のハンドルの左右位置などの仕様情報、がある。
また、乗員の車両についての分類情報には、たとえば、乗員の体格に応じた車両の設定情報、がある。乗員の体格に応じた車両の設定情報には、たとえば、乗員のシートの位置、高さおよび傾きの設定情報、ハンドルの位置および高さの設定情報、アクセルの操作情報、自動車2での乗員個人向けの設定情報、がある。
また、乗員そのものについての分類情報には、たとえば、乗員についての眼鏡の使用の有無、帽子の使用の有無、ひげの有無、性別、パターン化された髪型、パターン化された数個の有限区分での髪色、パターン化された数個の有限区分での眼球の色、パターン化された数個の有限区分での肌色、などがある。これら各種の乗員の分類情報は、各々の情報がそれ単独で個人を特定できるような情報ではない。また、複数の分類情報を組み合わせたとしても、乗員を一意に特定できる情報でもない。
【0039】
ステップST15において乗員の顔画像に基づく顔のモーフィング処理に用いる情報を生成していない場合、CPU65は、その乗員の顔画像を、サーバ装置5へ送信する。
このように、自動車2の通信制御装置27のCPU65は、乗員の顔画像を含む車内カメラ55の撮像画像を、車外へ送信しないようにできる。乗員の顔画像は、個人情報として保護され得る。
【0040】
図6は、図5のステップST15のモーフィング処理情報の生成制御の詳細なフローチャートである。
【0041】
ステップST61において、CPU65は、自動車2の各部から取得する車両情報として既に取得している車内カメラ55の撮像画像から、乗員の顔の撮像領域である顔画像を切り出す。
ここで、乗員の顔画像とは、乗員の顔の画像成分が含まれている画像をいう。
【0042】
ステップST62において、CPU65は、切り出した乗員の顔画像について、乗員の顔を示す点群情報を生成する。ここで、点群情報には、乗員の顔画像における乗員の顔の輪郭の位置を示す複数の点、乗員の顔の眉毛、目、鼻、口といった要素の位置を示す複数の点、が含まれる。この他にもたとえば、点群情報には、乗員の頭を含む頭部全体の輪郭の位置を示す複数の点が含まれてもよい。また、顔の要素の位置を示す複数の点は、その要素の形状や範囲を示すことができる組み合わせにするとよい。たとえば眉毛についての複数の点は、各眉毛の両端の位置と、その間の位置とを示す組み合わせにするとよい。目についての複数の点は、目がしらの位置、眼尻の位置、上瞼の位置、および、下瞼の位置、を示す組み合わせにするとよい。鼻についての複数の点は、鼻の上端および下縁、左右両縁、および、鼻の頂点、を示す組み合わせにするとよい。口についての複数の点は、上唇の外周と、下唇の外周とを示す組み合わせにするとよい。
これらの乗員の顔についての複数の点の点群情報は、ランドマーク検出処理により生成することが可能である。
【0043】
ステップST63において、CPU65は、顔画像を複数に分割するパッチ情報を生成する。この際、CPU65は、ステップST62において生成した点群情報を画像分割の基準に用いて、顔画像を分割するパッチ情報を生成してよい。CPU65は、たとえばドロネー法により、顔画像についての複数のパッチ情報を生成してよい。ドロネー法では、顔画像を、三角形のパッチ領域を得るようにして、複数に分割する。
【0044】
ステップST64において、CPU65は、乗員の顔画像についての輝度値を生成する。CPU65は、乗員の顔画像についての顔の部分についての平均的な輝度値、代表的な輝度値、などを生成してよい。
その後、CPU65は、図5のステップST16において、ステップST62からステップST63で生成した情報を、乗員の顔画像に基づく顔のモーフィング処理に用いる情報として、サーバ装置5へ送信する。CPU65は、乗員の顔を含む撮像画像の替わりに、処理により生成した点群情報およびパッチ情報の情報を、上述したような乗員を一意に特定することができない乗員または車両の分類情報とともに、サーバ装置へ送信する。
【0045】
図7は、図1のサーバ装置5の構成図である。
図7のサーバ装置5は、サーバタイマ16、サーバメモリ17、サーバCPU18、および、これらが接続されるサーババス19、を有する。サーババス19には、この他にもたとえば、サーバGNSS受信機11、サーバ通信デバイス12、サーバ表示デバイス13、サーバ操作デバイス14、サーバ音声デバイス15、などが接続されてよい。
【0046】
サーバ通信デバイス12は、通信網6の通信ネットワーク4に接続される。サーバ通信デバイス12は、通信ネットワーク4を通じて、通信ネットワーク4に接続されている他の装置、たとえば自動車2や基地局3との間で情報を送受する。
サーバGNSS受信機11は、図1に示すGNSS衛星110の電波を受信して、現在時刻を得る。
サーバ表示デバイス13は、サーバ装置5の情報を表示により出力する。サーバ表示デバイス13は、たとえば液晶モニタ、でよい。サーバ表示デバイス13は、サーバ装置5における画像の出力部として機能できる。
サーバ操作デバイス14は、サーバ装置5においてオペレータが操作するデバイスである。サーバ操作デバイス14は、たとえばキーボード、タッチパネル、などでよい。
サーバ音声デバイス15は、サーバ装置5においてオペレータが通話に用いるデバイスである。サーバ音声デバイス15は、たとえばスピーカとマイクロホンとで構成されてよい。
サーバタイマ16は、時間または時刻を計測する。サーバタイマ16の時刻は、サーバGNSS受信機11により取得される現在時刻により校正されてよい。
【0047】
サーバメモリ17は、サーバCPU18が実行するプログラムや各種の情報を記録する。サーバメモリ17は、たとえば半導体メモリ、HDD、などで構成されてよい。半導体メモリには、たとえば、RAMなどの揮発性メモリ、ROM、SSDなどの不揮発性メモリがある。揮発性メモリは、情報を一時的に記録するものであり、たとえば個人情報などの記録に適している。
また、本実施形態においてサーバメモリ17は、サーバ装置5でのモーフィング処理のための情報として、後述する複数のサンプル顔画像を含む顔画像群90、を記録してよい。顔画像群90は、複数のサンプル顔画像の情報とともに、各サンプル顔画像に関連付けられている各サンプル顔画像の分類情報を含む。
【0048】
ここで、サンプル顔画像の分類情報には、自動車2から送信される乗員および自動車2の分類情報に対応する、サンプル画像の他者の分類情報で構成されてよい。
このようなサンプル顔画像の他者の分類情報には、たとえば、他者が属する地域の情報、その地域での自動車の仕様情報、がある。
また、他者の車両についての分類情報には、たとえば、他者の体格に応じた車両の設定情報、がある。他者の体格に応じた車両の設定情報には、たとえば、他者のシートの位置、高さおよび傾きの設定情報、ハンドルの位置および高さの設定情報、アクセルの操作情報、自動車2での他者個人向けの設定情報、がある。
また、他者そのものについての分類情報には、たとえば、他者についての眼鏡の使用の有無、帽子の使用の有無、ひげの有無、性別、パターン化された髪型、パターン化された数個の有限区分での髪色、パターン化された数個の有限区分での眼球の色、パターン化された数個の有限区分での肌色、などがある。
これら各種の他者の分類情報は、各々の情報がそれ単独で他者を一意に特定できるような情報ではない。また、複数の分類情報を組み合わせたとしても、他者を一意に特定できる情報でもない。
サンプル画像の他者の分類情報には、上述した各種の情報のすべてまたは一部が含まれてよい。
【0049】
サーバCPU18は、サーバメモリ17に記録されているプログラムを読み込んで実行する。これにより、サーバCPU18は、サーバ装置5の全体動作を制御するサーバ制御部として機能する。
サーバ制御部としてのサーバCPU18は、たとえば、個人情報についてのサーバメモリ17への一時的な記録を管理制御してよい。たとえば、サーバCPU18は、車両サービスの提供が終了した個人情報を、サーバメモリ17から削除するとよい。
また、サーバCPU18は、サーバ通信デバイス12を用いた、自動車2との間での情報の送受を管理制御してよい。たとえば、サーバCPU18は、サーバ通信デバイス12が自動車2から情報を受信すると、受信した情報に応じた制御、たとえば車両サービスのための制御を実行してよい。サーバCPU18は、乗員の顔に基づく顔画像を、画像の出力部としてのサーバ表示デバイス13に表示出力してよい。これにより、サーバ装置5は、自動車2から情報を受信して、受信した情報に基づいて車両サービスを提供することができる。
【0050】
図8は、図7のサーバ装置5のサーバCPU18による、緊急対応サービスのための加工画像の生成制御のフローチャートである。
サーバ装置5のサーバCPU18は、サーバ制御部として、図8の加工画像の生成制御を、繰り返しに実行する。
【0051】
ステップST71において、サーバCPU18は、モーフィング処理情報を取得する。
自動車2のCPU65は、図5のステップST16において、乗員の顔画像に基づく顔のモーフィング処理に用いる情報を、サーバ装置5へ送信している。サーバ装置5のサーバ通信デバイス12は、このモーフィング処理に用いる情報を受信する。モーフィング処理に用いる情報には、乗員の顔の点群情報およびパッチ情報とともに、乗員を一意に特定することができない乗員または車両の分類情報が含まれる。サーバCPU18は、この乗員または車両の分類情報を、モーフィング処理情報として取得してよい。
【0052】
ステップST72から、サーバCPU18は、モーフィング処理に用いるサンプル顔画像の選択処理を開始する。
【0053】
ステップST73において、サーバCPU18は、サーバメモリ17に記録されている顔画像群90からのサンプル顔画像の取得条件を設定する。サーバCPU18は、ステップST71で自動車2から取得している乗員または車両の分類情報を、サンプル顔画像の取得条件に設定してよい。
サーバCPU18は、たとえば、乗員または車両の分類情報に含まれている乗員の自動車2の位置情報、乗員の自動車2のハンドルの左右位置などの仕様情報、乗員の体格に応じた車両の設定情報、などを、サンプル顔画像の取得条件に設定してよい。
また、サーバCPU18は、乗員または車両の分類情報に含まれている乗員そのものについての分類情報を、サンプル顔画像の取得条件に設定してよい。
【0054】
ステップST74において、サーバCPU18は、設定した取得条件の下で、サーバメモリ17の顔画像群90から、サンプル顔画像を取得する。これにより、サーバCPU18は、たとえば、サーバメモリ17に記録されている複数のサンプル顔画像の中から、受信している乗員の車両の位置情報または車両の仕様情報と対応する情報が関連付けられているサンプル顔画像を選択することができる。
【0055】
ステップST75において、サーバCPU18は、サーバメモリ17の顔画像群90からサンプル顔画像の取得処理を終了するか否かを判断する。サーバCPU18は、サーバメモリ17の顔画像群90に含まれる複数のサンプル顔画像のすべてについての処理を終えている場合、サンプル顔画像の取得処理を終了すると判断してよい。または、サーバCPU18は、サーバメモリ17の顔画像群90から、所定数のサンプル顔画像を選択し終えている場合、サンプル顔画像の取得処理を終了すると判断してよい。そして、サンプル顔画像の取得処理について終了と判断しない場合、サーバCPU18は、処理をステップST73へ戻す。ステップST73からステップST75の処理を繰り返して、サンプル顔画像の取得処理について終了と判断すると、サーバCPU18は、処理をステップST76へ進める。この場合、サーバCPU18は、基本的に、サーバメモリ17の顔画像群90から、受信している乗員または車両の分類情報に対応する情報が関連付けられている複数のサンプル顔画像を選択している。
【0056】
ステップST76において、サーバCPU18は、サーバメモリ17の顔画像群90から、複数のサンプル顔画像を取得しているか否かを判断する。選択しているサンプル顔画像が複数である場合、サーバCPU18は、処理をステップST77へ進める。選択しているサンプル顔画像が1つである場合、サーバCPU18は、モーフィング処理に用いるサンプル顔画像の選択処理を終了して、処理をステップST79へ進める。
【0057】
ステップST77において、サーバCPU18は、サーバメモリ17の顔画像群90から取得している複数のサンプル顔画像について、乗員の顔画像との類似度を判定する。サーバCPU18は、たとえば、取得している複数のサンプル顔画像の輝度値と、乗員の分類情報に含まれる乗員の輝度値とを比較することにより、乗員の顔画像との類似度を判定してよい。
【0058】
ステップST78において、サーバCPU18は、サーバメモリ17の顔画像群90から取得している複数のサンプル顔画像から、モーフィング処理に用いる1つのサンプル顔画像を選択する。サーバCPU18は、ステップST77の処理において、乗員の顔画像と最も類似度が高いとして判定しているサンプル顔画像を、モーフィング処理に用いる1つのサンプル顔画像を選択してよい。これにより、サーバCPU18は、モーフィング処理に用いるサンプル顔画像の選択処理を終了する。
このように乗員を一意に特定することができない乗員または車両の分類情報を用いて選択するサンプル顔画像が複数である場合、サーバCPU18は、さらに顔画像の輝度値の類似度に基づいて、モーフィング処理に用いる1つのサンプル画像を選択することができる。
【0059】
ステップST79において、サーバCPU18は、サンプル顔画像についてのモーフィング処理を実行する。サーバCPU18は、選択したサンプル顔画像についての点群情報およびパッチ情報と、受信している乗員の点群情報およびパッチ情報とを用いたモーフィング処理を実行して、モーフィング顔画像を生成する。
【0060】
ステップST80において、サーバCPU18は、モーフィング処理により生成したモーフィング顔画像を、サーバ表示デバイス13に表示出力する。
【0061】
次に、乗員の顔画像とサンプル顔画像との具体例を用いて、上述した一連の処理について説明する。
【0062】
図9は、図4の車内カメラ55による撮像画像70の一例の説明図である。
図4の車内カメラ55は、広角カメラであるため、図9の車内カメラ55の撮像画像70には、自動車2に乗車しているドライバおよび助手の複数の乗員が撮像されている。各乗員の頭部は、車内で移動することがあったとしても、その全体が撮像画像70に収まる。
この場合、CPU65は、図7のステップST61において、たとえば図中に破線枠で示すドライバの顔を含む撮像領域を、ドライバの顔画像71として切り出す。
【0063】
図10は、図9の撮像画像70から切り出したドライバの顔の撮像領域である顔画像71の一例の説明図である。
図10のドライバの顔画像71には、ドライバの頭部の全体が、画像の外周縁において切れることなく、収まっている。
なお、CPU65は、ドライバの頭部の全体ではなく、ドライバの眉毛から顎先までを含むように、ドライバの顔画像71を切り出してもよい。この場合でも、ドライバの顔画像71には、ドライバの顔の画像成分が含まれている。そして、CPU65は、後述するようにドライバの顔の眉毛から顎先までの要素についての点群情報を生成することが可能である。
ただし、このように頭部の頭の部分が切れている場合でも、CPU65は、ドライバの顔画像71において、ドライバの顔の領域の左右に、所定の幅の余白部分77が含まれるように、ドライバの顔を切り出す。余白部分77は、後述する加工処理において有用である。
【0064】
図11は、図10のドライバの顔画像71について生成される点群情報の一例の説明図である。
CPU65は、図10のドライバの顔画像71について、図7のステップST62において、図11に示すような点群情報を生成することができる。
そして、図11の点群情報には、ドライバの顔の輪郭の位置を示す複数の点、およびドライバの顔の眉毛、目、鼻、口といった要素の位置を示す複数の点といった顔そのものについての複数の点72とともに、顔画像そのものの輪郭である外周縁についての複数の点73が含まれる。
ここでは、画像の外周縁についての複数の点73は、四角形の画像の外周縁についての、各角部と、各辺の中央部とに、設けられている。
そして、画像の外周縁についての複数の点73は、ドライバの顔画像71の左右に余白部分77が含まれているために、ドライバの顔そのものについての複数の点72から離れている。
また、画像の外周縁についての複数の点73は、ドライバの顔そのものについて複数の点72を、外側から全体的に囲むように配置されている。
【0065】
図12は、図10のドライバの顔画像71について生成されるパッチ情報の一例の説明図である。
図12のパッチ情報において、各パッチは、三角形とされている。
CPU65は、ドロネー法により、図10のドライバの顔画像71について、図7のステップST63において、図12のパッチ情報を生成することができる。
そして、図12のパッチ情報には、ドライバの顔そのものについてのパッチ84とともに、ドライバの顔の外側のパッチ85が含まれる。CPU65は、ドライバの顔そのものについての複数の点72とともに、画像の外周縁に配置されている複数の点73を用いたドロネー法の処理により、図12に示すように顔画像全体を複数の三角形のパッチに分割することができる。ドライバの顔画像71の左右に余白部分77が存在することにより、CPU65は、顔そのものについての複数のパッチへの分割に影響を与えることなく、顔画像全体を複数の三角形のパッチに分割することができる。
これに対し、仮にたとえばドライバの顔画像71の左右に余白部分77が存在していない場合、CPU65は、ドロネー法による顔画像の複数のパッチへの分割において、図12とは異なる分割をし易くなる。たとえば画像の左右の外周縁の点を顔の輪郭の一部として処理してしまうような、顔のパッチ情報としては好ましくないパッチ分割をしてしまう可能性が高まる。このような事態を避けるために、本実施形態では、図10や後述する図13に示すように、顔の幅が、顔画像の幅の1/3程度となるように、顔画像を切り出している。たとえば、顔画像の幅の少なくとも25%以上となる幅の余白を、顔の左右それぞれに設けることにより、CPU65は、ドロネー法により図12に示すような顔のパッチ情報として好ましいものを生成することが可能である。CPU65は、少なくともドライバの顔の幅方向においてドライバの顔より大きい範囲の撮像領域を、ドライバの顔の撮像領域として切り出すとよい。
【0066】
このようにCPU65は、切出処理において、車内カメラ55から取得した撮像画像70から、少なくとも乗員の顔の幅方向において乗員の顔より大きい範囲の撮像領域を切り出して、乗員の顔の撮像領域としての顔画像を生成する。そして、CPU65は、点群生成処理において、切り出した乗員の顔の撮像領域の、乗員の顔から離れている位置を含む外周縁について複数の点群情報を生成する。また、CPU65は、パッチ生成処理において、顔の輪郭および顔の要素の位置を示す顔の点群情報とともに、切り出した乗員の顔の撮像領域の外周縁にある複数の点群情報を画像分割の基準に用いて、切り出した乗員の顔の撮像領域を、三角形を基本とする単位に分割するパッチ情報を生成する。CPU65は、これらの乗員のモーフィング処理に用いる情報を生成して、乗員を一意に特定することができない乗員または車両の分類情報とともに、サーバ装置5へ送信する。
【0067】
次に、図13から図15を用いて、CPU65が図17のステップST65において取得するサンプル顔画像91の情報について説明する。
【0068】
図13は、複数のサンプル顔画像91~94の組み合わせの一例の説明図である。
複数のサンプル顔画像91~94は、顔画像群90として、サーバメモリ17に記録されてよい。
そして、サーバメモリ17に記録されている顔画像群90には、複数の他者の顔画像が、サンプル顔画像91~94として記録される。
図13には、具体的には、色白丸顔の第一の他者のサンプル顔画像91と、色黒面長顔の第二の他者のサンプル顔画像92と、色黒丸顔の第三の他者のサンプル顔画像93と、色黒面長顔で眼鏡をかけた第四の他者のサンプル顔画像94と、が例示されている。
【0069】
また、各サンプル顔画像91~94には、各々の画像に含まれる他者についての分類情報95~98が記録されている。
この他者の分類情報95~98には、自動車2から送信される乗員および自動車2の分類情報に対応する、サンプル画像の他者の分類情報が含まれる。
たとえば、色白丸顔の第一の他者の分類情報95には、日本国の住人であること、体格が小さくてシート位置から前寄りであること、顔の輝度値が黄色であること、眼鏡をかけていないこと、などが含まれる。日本国で販売される自動車2は、右ハンドルである。
色黒面長顔の第二の他者のサンプル顔画像92の分類情報96には、米国の住人であること、体格が大きくてシート位置から後寄りであること、顔の輝度値が茶色であること、眼鏡をかけていないこと、などが含まれる。米国で販売される自動車2は、左ハンドルである。
色黒丸顔の第三の他者のサンプル顔画像93の分類情報97には、米国の住人であること、体格が小さくてシート位置から前寄りであること、顔の輝度値が茶色であること、眼鏡をかけていないこと、などが含まれる。
色黒面長顔で眼鏡をかけた第四の他者のサンプル顔画像94の分類情報97には、米国の住人であること、体格が大きくてシート位置から後寄りであること、顔の輝度値が茶色であること、眼鏡をかけていること、などが含まれる。
【0070】
このような顔画像群90の情報がサーバメモリ17に記録される一方で、サーバCPU18は、ステップST71において、自動車2からのモーフィング処理情報として、乗員または車両の分類情報を受信して取得している。
そして、図中に示す、乗員または車両の分類情報C1には、乗員の自動車2についての日本国での位置情報と、日本を仕向地とする自動車2の仕様情報として右ハンドルの情報と、が含まれる。
この場合、サーバCPU18は、乗員の自動車2の位置情報および仕様情報を用いて、図13の顔画像群90の情報から、少なくとも色白丸顔の第一の他者のサンプル顔画像91を選択することができる。
このようにサーバCPU18は、サーバメモリ17に記録されている複数のサンプル顔画像91~94の中から、受信している乗員の自動車2の位置情報または仕様情報と対応する情報が関連付けられているサンプル顔画像91を選択することができる。
【0071】
また、図中に示す、乗員または車両の分類情報C2には、分類情報C1の情報に加えてさらに、乗員の体格に応じたシートの設定位置の情報として前寄りの情報、を含む。
この場合、サーバCPU18は、乗員の自動車2の位置情報および仕様情報に加えて、またはそれに替えて、シートの設定位置を用いて、図13の顔画像群90の情報から、少なくとも色白丸顔の第一の他者のサンプル顔画像91を選択することができる。
このようにサーバCPU18は、サーバメモリ17に記録されている複数のサンプル顔画像91~94の中から、受信している乗員の体格に応じた自動車2の設定情報と対応する情報が関連付けられているサンプル顔画像91を選択することができる。
【0072】
また、図中に示す、乗員または車両の分類情報C3は、分類情報C2の情報に加えてさらに、乗員の眼鏡がないことについての情報、を含む。
この場合、サーバCPU18は、乗員の自動車2の位置情報、仕様情報およびシートの設定位置に加えて、またはそれに替えて、眼鏡の有無の情報を用いて、図13の顔画像群90の情報から、少なくとも色白丸顔の第一の他者のサンプル顔画像91を選択することができる。
このようにサーバCPU18は、サーバメモリ17に記録されている複数のサンプル顔画像91~94の中から、受信している乗員の分類情報と対応する情報が関連付けられているサンプル顔画像91を選択することができる。
【0073】
図14は、図13において選択されたサンプル顔画像91について生成される点群情報の一例の説明図である。
図15は、図13において選択されたサンプル顔画像91について生成されるパッチ情報の一例の説明図である。
【0074】
図13の第一の他者のサンプル顔画像91には、他者の頭部の全体が、頭部の周囲に余白を有するように、画像の外周縁において切れることなく、収まっている。
この場合、サーバCPU18は、第一の他者のサンプル顔画像91についての点群生成処理により、図14に示すような第一の他者のサンプル顔画像91についての点群情報を生成できる。この場合の第一の他者のサンプル顔画像91についての点群情報には、顔の輪郭および顔の要素の位置を示す顔そのものについての複数の点82とともに、顔画像の外周縁にある複数の点83が含まれている。
また、サーバCPU18は、第一の他者のサンプル顔画像91についてのパッチ生成処理により、図15に示すように、第一の他者のサンプル顔画像91を、三角形を基本とする単位に分割するパッチ情報を生成する。パッチ情報には、他者の顔そのものを分割するパッチ84とともに、他者の顔の外を分割するパッチ85が含まれる。
そして、サーバCPU18は、図10のドライバの顔画像71についての処理と同様の処理により、図13の第一の他者のサンプル顔画像91についての図14の点群情報と図15のパッチ情報とを生成してよい。
【0075】
図16は、乗員の顔画像に替わって表示出力される、モーフィング顔画像100の一例の説明図である。このモーフィング顔画像100は、ドライバの顔画像71の替わりに、サーバ装置5において表示出力される画像である。
サーバCPU18は、図8のステップST79において、第一の他者のサンプル顔画像91についてのモーフィング処理を実行する。
サーバCPU18は、モーフィング処理において、サンプル顔画像91についての図13から図15の情報と、ドライバの顔画像71についての図10から図12の情報とを用いる。
図11のドライバの顔画像71の点群情報に含まれる複数の点72,73と、図14のサンプル顔画像91の点群情報に含まれる複数の点82,83と、は対応している。
また、図12のドライバの顔画像71のパッチ情報に含まれる複数のパッチ74,75と、図15のサンプル顔画像91のパッチ情報に含まれる複数のパッチ84,85と、は対応している。
このようにサンプル顔画像91の点群情報およびパッチ情報は、ドライバの顔画像71の点群情報およびパッチ情報と良好に対応するように生成されている。
【0076】
この場合、サーバCPU18は、たとえば、サンプル顔画像91の点群情報の各点82,83の画像中の位置を、ドライバの顔画像71の点群情報において対応する点72,73の画像中の位置へ近づける。
これにより、サンプル顔画像91のパッチ情報の各パッチ84,85についての画像中の位置および範囲は、ドライバの顔画像71のパッチ情報の各パッチ74,75についての画像中の位置および範囲に重なるように変化する。
その結果、図13の第一の他者のサンプル顔画像91における第一の他者の顔は、図10の画像71におけるドライバの顔に近づいてゆく。
【0077】
このようにサーバCPU18は、サンプル顔画像91の点群情報およびパッチ情報が、ドライバの顔画像71の点群情報およびパッチ情報に対して近づくように、サンプル顔画像91についてのモーフィング処理を実行する。
ここで、サンプル顔画像91の点群情報の各点82,83についての画像中の位置が、ドライバの顔画像71の点群情報の各点72,73についての画像中の位置と重なる場合、第一の他者のサンプル顔画像91は、100%の割合でモーフィングされることになる。サンプル顔画像91における顔の輪郭、顔の要素の位置およびサイズは、実際のドライバの顔画像71でのものと略同じ位置およびサイズになり得る。ただし、モーフィング処理に用いるサンプル顔画像91そのものがドライバ本人のものではなく異なる人物のものであるため、100%の割合でモーフィング処理をしても、モーフィング顔画像100は、ドライバの顔画像71そのものとはならない。モーフィングの割合が50%である場合、モーフィング顔画像100は、図16に示すように、図10の画像71におけるドライバの顔と、図13のサンプル画像91における他者の顔との中間的なものになる。この場合でも、モーフィング顔画像100には、ドライバの顔の特徴や表情がモーフィングの割合で含まれている。
サーバCPU18は、サンプル顔画像91についてのモーフィングの割合を、任意の値として、モーフィング処理を実行する。モーフィングの割合の値は、固定的なものであっても、ドライバなどが任意に設定してもよい。
【0078】
以上のように、本実施形態の車両サービス提供システム1では、乗員の自動車2のCPU65およびサーバ装置5のサーバCPU18は、協働して、乗員画像取得処理、切出処理、点群生成処理、パッチ生成処理、サンプル顔画像取得処理、およびモーフィング処理を実行する。そして、サーバCPU18は、モーフィング処理によるモーフィング顔画像を、乗員の顔画像の替わりに、サーバ装置5の出力部から出力する。これにより、サーバ装置5の出力部からは、乗員の表情などの状態を反映した顔画像が出力され得る。その結果、オペレータは、出力される顔画像に基づいて、乗員の現在の実際の状態や表情などを把握することができる。
これに対して、仮にたとえば乗員の顔画像が抽象化されたり、置換されたり、マスクされたりしている場合、オペレータは、サーバ装置5において出力される顔画像において、乗員の現在の実際の状態や表情などを的確に把握することが難しくなる。
また、乗員の自動車2のCPU65は、乗員画像取得処理、切出処理、点群生成処理、パッチ生成処理、を実行する。そして、乗員の自動車2のCPU65は、これらの処理により生成した情報を、乗員の顔を含む撮像画像の替わりに、サーバ装置5へ送信する。これにより、本実施形態の自動車2は、乗員の個人情報として保護する必要がある乗員の顔画像そのものを外へ送信しないようすることができる。
このように本実施形態では、車両サービス提供システム1の利便性を極力損なうことがないようにしながら、個人情報を保護することが可能である。
【0079】
しかも、本実施形態において、サーバ装置5は、画像の出力部とともに、サーバメモリ17およびサーバCPU18、を有する。サーバメモリ17は、撮像画像から切り出す乗員とは異なる顔画像の情報として、点群情報82,83およびパッチ情報84,85を含み、かつ、サンプル顔画像の分類情報95~98と関連付けられている、複数のサンプル顔画像91~94の情報を記録する。そして、サーバCPU18は、サーバメモリ17に記録されている複数のサンプル顔画像91~94の中から、乗員の自動車2のCPU65から受信する、乗員を一意に特定することができない乗員または車両の分類情報C1~C3を用いて、乗員または車両の分類情報C1~C3に対応する情報が関連付けられている1乃至複数のサンプル顔画像を選択する。
このようなサーバ装置5では、サーバメモリ17に、各々の乗員に良好に用いることが可能な多数のサンプル顔画像を記録することが可能である。
しかも、そのように多数のサンプル顔画像がサーバメモリ17に記録されているとしても、サーバCPU18は、乗員または車両の分類情報C1~C3に基づく選択処理という簡易で低い負荷の処理により、モーフィング処理に用いるサンプル顔画像を短時間で絞り込んで選択することができる。サーバCPU18は、サーバメモリ17に記録されている多数のサンプル顔画像のすべてについて、たとえば顔の輝度値の類似度などに基づく比較選択をするような高い負荷となる処理を実行することなく、それよりも軽い負荷の処理により、乗員と良好に対応し得るサンプル顔画像を、モーフィング処理のために短時間で選択することができる。サンプル顔画像の他人が乗員と良好に対応している場合、それにより得られるモーフィング顔画像は、それらが良好に対応していない場合と比べて、乗員に近いものになり得る。
【0080】
以上の実施形態は、本発明の好適な実施形態の例であるが、本発明は、これに限定されるものではなく、発明の要旨を逸脱しない範囲において種々の変形または変更が可能である。
【符号の説明】
【0081】
1…車両サービス提供システム、2…自動車(車両)、3…基地局、4…通信ネットワーク、5…サーバ装置、6…通信網、9…ロードサービス、11…サーバGNSS受信機、12…サーバ通信デバイス、13…サーバ表示デバイス、14…サーバ操作デバイス、15…サーバ音声デバイス、16…サーバタイマ、17…サーバメモリ、18…サーバCPU、19…サーババス、20…制御系、21…駆動制御装置、22…操舵制御装置、23…制動制御装置、24…走行制御装置、25…運転操作制御装置、26…検出制御装置、27…通信制御装置、28…通話制御装置、30…車ネットワーク、31…セントラルゲートウェイ装置、32…バスケーブル、41…ハンドル、42…ブレーキペダル、43…アクセルペダル、44…シフトレバ、46…スピーカ、47…マイクロホン、51…速度センサ、52…加速度センサ、53…車外カメラ、54…Lidar、55…車内カメラ、56…GNSS受信機、61…車内通信デバイス、62…入出力ポート、63…タイマ、64…メモリ、65…CPU、66…内部バス、70…撮像画像、71…ドライバの顔画像、72,73,82,83…点、74,75,84,85…パッチ、77…余白部分、90…顔画像群、91~94…サンプル顔画像、95~98…分類情報、100…モーフィング顔画像、110…GNSS衛星、C1~C3…乗員または車両の分類情報


図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16