IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社コンピュータサイエンス研究所の特許一覧

特開2024-7147歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア
<>
  • 特開-歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア 図1
  • 特開-歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア 図2
  • 特開-歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア 図3
  • 特開-歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア 図4
  • 特開-歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア 図5
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024007147
(43)【公開日】2024-01-18
(54)【発明の名称】歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア
(51)【国際特許分類】
   G08G 1/005 20060101AFI20240111BHJP
   G01C 21/26 20060101ALI20240111BHJP
【FI】
G08G1/005
G01C21/26 P
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022108415
(22)【出願日】2022-07-05
(71)【出願人】
【識別番号】516139056
【氏名又は名称】株式会社コンピュータサイエンス研究所
(74)【代理人】
【識別番号】100114627
【弁理士】
【氏名又は名称】有吉 修一朗
(74)【代理人】
【識別番号】100182501
【弁理士】
【氏名又は名称】森田 靖之
(74)【代理人】
【識別番号】100175271
【弁理士】
【氏名又は名称】筒井 宣圭
(74)【代理人】
【識別番号】100190975
【弁理士】
【氏名又は名称】遠藤 聡子
(72)【発明者】
【氏名】林 秀美
(72)【発明者】
【氏名】有田 秀昶
(72)【発明者】
【氏名】▲高▼田 将平
(72)【発明者】
【氏名】末松 圭史
【テーマコード(参考)】
2F129
5H181
【Fターム(参考)】
2F129AA02
2F129CC03
2F129CC15
2F129CC16
2F129DD20
2F129DD53
2F129EE43
2F129EE52
2F129EE85
2F129EE95
2F129FF15
2F129FF20
2F129FF32
2F129FF57
2F129FF62
2F129FF63
2F129GG17
2F129HH15
5H181AA23
5H181BB04
5H181CC04
5H181FF13
5H181FF14
5H181FF25
5H181LL07
(57)【要約】
【課題】進行するときの歩行者にとって安心安全な向きを判定できる、歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェアを提供する。
【解決手段】歩行者進行方向判定システム1は、メガネ装置2と、サーバ3とを備える。メガネ装置2は撮像カメラ4と、物体検出部5と、進行方向検出部6と、進行方向判定部7を有する。物体検出部5は、撮像画像の中で傾斜して延びた横断歩道左境界線分と横断歩道右境界線分を検出する。進行方向判定部7は、進行方向検出部6が、横断歩道左境界線分及び横断歩道右境界線分と、画像中心線とが交差していないことを検出し、横断歩道左境界線分の下端及び横断歩道右境界線分の下端よりも、横断歩道左境界線分の上端及び横断歩道右境界線分の上端に近い位置を画像中心線が通ることを検出した場合、歩行者の向きが正常状態であると判定する。
【選択図】図1
【特許請求の範囲】
【請求項1】
歩行者の少なくとも前方を撮像可能な撮像部と、
該撮像部が撮像して得られた撮像画像であって同撮像画像の中心点を通ると共に同撮像画像の縦方向へ延びた画像中心線を有する同撮像画像の中で、設置された物体である設置物体の境界線分であって同撮像画像の少なくとも下部の領域において、同撮像画像の縦方向に対して傾斜して延びた同境界線分を検出可能な物体検出部と、
前記境界線分と前記画像中心線とが交差しているか否かを検出可能であり、かつ、同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通るか否かを検出可能な進行方向検出部と、
該進行方向検出部が、前記境界線分と前記画像中心線とが交差していないこと、及び同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通ることを検出した場合、歩行者の向きが正常状態であると判定可能な進行方向判定部と、を備える
歩行者進行方向判定システム。
【請求項2】
前記境界線分は、前記撮像画像の座標系における上端のx座標値が下端のx座標値よりも大きい左境界線分と、同撮像画像の座標系における上端のx座標値が下端のx座標値よりも小さい右境界線分である
請求項1に記載の歩行者進行方向判定システム。
【請求項3】
前記設置物体に関する情報である設置物体情報を記録可能な検出物体情報記録部と、
前記物体検出部が検出した設置物体の情報と、前記検出物体情報記録部が記録した前記設置物体情報とを照合して、同設置物体を特定可能な物体特定部とを備え、
前記進行方向検出部は、前記物体特定部が前記設置物体を横断歩道であると特定した場合、前記物体検出部が前記設置物体を検出したときに前記撮像画像の中に表示される、同横断歩道の全体に対応した横断歩道存在領域矩形の、同撮像画像の座標系における縦方向の座標値であるy座標値が一番小さい横方向線分の中のx座標値が、前記左境界線分との交点のx座標値より大きい若しくは前記右境界線分との交点のx座標値より小さい部分である横断歩道到着口線分と、前記画像中心線とが交差しているか否かを、さらに検出可能である
請求項2に記載の歩行者進行方向判定システム。
【請求項4】
前記進行方向検出部はさらに、前記物体特定部が横断歩道であると特定した設置物体とは別の設置物体を同物体特定部が歩行者用信号機であると特定した場合、前記撮像画像の座標系における、同歩行者用信号機の座標と、前記画像中心線との間の最短距離が所定の範囲内であるか否かを検出可能であり、
前記進行方向判定部はさらに、前記進行方向検出部が、前記横断歩道到着口線分と前記画像中心線とが交差していることを検出し、かつ、前記歩行者用信号機の座標と、前記画像中心線との間の最短距離が所定の範囲内であることを検出した場合、歩行者の向きがさらに正常状態であると判定可能である
請求項3に記載の歩行者進行方向判定システム。
【請求項5】
前記進行方向判定部が判定した結果を告知可能な告知部を備え、
前記進行方向判定部は、前記画像中心線が前記左境界線分と交差していることを前記進行方向検出部が検出した場合、歩行者の向きが第1の異常状態であると判定可能であり、同画像中心線が前記右境界線分と交差していることを同進行方向検出部が検出した場合、歩行者の向きが第2の異常状態であると判定可能であり、
前記告知部は、前記進行方向判定部が第1の異常状態であると判定した場合、右への方向転換を促す情報を告知可能であり、同進行方向判定部が第2の異常状態であると判定した場合、左への方向転換を促す情報を告知可能である
請求項2に記載の歩行者進行方向判定システム。
【請求項6】
前記告知部は、本体と複数の振動体とを有する振動告知部であって、同本体は長手方向を有し、かつ、長手方向の一方側と、この一方側とは反対側に位置する他方側とを着脱自在に連結して環状を形成可能であり、同振動体は同本体の一方の面に同本体の長手方向へ並べて取付けられており、右への方向転換を促す情報を告知する場合に環状の同本体の片方側に位置する振動体を振動可能であり、左への方向転換を促す情報を告知する場合に片方側の振動体とは反対側に位置する他方側の振動体を振動可能である前記振動告知部である
請求項5に記載の歩行者進行方向判定システム。
【請求項7】
前記進行方向判定部が判定した結果を告知可能な告知部と、
出発地と目的地に関する情報に基づいて、出発地と目的地との間の経路に関する情報である経路情報を設定可能な経路情報設定部と、を備え、
前記告知部は、前記経路情報設定部が設定した経路情報に基づいて方向転換を告知可能であり、
前記進行方向判定部は、前記告知部が前記経路情報に基づいて方向転換を告知した時から所定の時間内に、前記進行方向検出部が前記境界線分と前記画像中心線とが交差したことを検出した場合、歩行者の向きが方向転換状態であると判定可能である
請求項1に記載の歩行者進行方向判定システム。
【請求項8】
進行するときの歩行者の向きを判定するための歩行者進行方向判定ソフトウェアであって、
情報処理機器を、
歩行者の少なくとも前方を撮像可能な撮像部が撮像して得られた撮像画像であって同撮像画像の中心点を通ると共に同撮像画像の縦方向へ延びた画像中心線を有する同撮像画像の中で、設置された物体である設置物体の境界線分であって同撮像画像の少なくとも下部の領域において、同撮像画像の縦方向に対して傾斜して延びた同境界線分を検出可能な物体検出部と、
前記境界線分と前記画像中心線とが交差しているか否かを検出可能であり、かつ、同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通るか否かを検出可能な進行方向検出部と、
該進行方向検出部が、前記境界線分と前記画像中心線とが交差していないこと、及び同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通ることを検出した場合、歩行者の向きが正常状態であると判定可能な進行方向判定部と、
を含む手段として機能させるための歩行者進行方向判定ソフトウェア。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェアに関する。詳しくは、例えば、高齢者や目の不自由な人といった歩行弱者のための、歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェアに係るものである。
【背景技術】
【0002】
歩行弱者にとって、外出して道を歩き、目的地へ向かうということは、その道がどんなに単純な道であったとしても、とても難しい。
【0003】
こうした歩行弱者特に目の不自由な人の歩行を支援すべく、点字ブロック、誘導鈴、点字サイン、白杖が存在し、また、盲導犬の使用や歩行訓練士による歩行訓練も行われている。
【0004】
また、歩行弱者の歩行を支援するための様々な技術も提案されている。
例えば、特許文献1には、歩行者端末が、歩行者情報を含むメッセージをITS通信部から路側機に送信し、路側機は、歩行者端末から送信されるメッセージをITS通信部で受信すると、そのメッセージに含まれる歩行者情報を通行履歴情報として記憶部に蓄積し、制御部において、記憶部の通行履歴情報に基づいて、災害発生時の避難経路に関する経路案内情報(歩行者支援情報)、特に、高齢者などの要援護者や、危険行動が多い人物を検知して、それらの人物向けの経路案内情報を生成し、その経路案内情報を含むメッセージを、周辺の歩行者端末に送信する、という発明が記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2019-53371号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、目の不自由な人は、例えば横断歩道を渡るときには、自分が横断歩道から逸脱する方向へ歩いているのではないか、一般歩道を歩いているときでも、自分が縁石や段差へ向かって歩いているのではないか、という不安を抱えていることが多い。
【0007】
特許文献1に記載の発明は、歩行者端末から収集した情報に基づいて、歩行者を支援する情報を生成できるが、目の不自由な人の上記のような不安を緩和するには不充分であった。
【0008】
本発明は、以上の点に鑑みて創案されたものであり、進行するときの歩行者にとって安心安全な向きを判定できる、歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェアを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の目的を達成するために、本発明の歩行者進行方向判定システムは、歩行者の少なくとも前方を撮像可能な撮像部と、該撮像部が撮像して得られた撮像画像であって同撮像画像の中心点を通ると共に同撮像画像の縦方向へ延びた画像中心線を有する同撮像画像の中で、設置された物体である設置物体の境界線分であって同撮像画像の少なくとも下部の領域において、同撮像画像の縦方向に対して傾斜して延びた同境界線分を検出可能な物体検出部と、前記境界線分と前記画像中心線とが交差しているか否かを検出可能であり、かつ、同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通るか否かを検出可能な進行方向検出部と、該進行方向検出部が、前記境界線分と前記画像中心線とが交差していないこと、及び同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通ることを検出した場合、歩行者の向きが正常状態であると判定可能な進行方向判定部と、を備える。
【0010】
ここで、境界線分と画像中心線とが交差しているか否かを検出可能であり、かつ、境界線分の下端よりも境界線分の上端に近い位置を画像中心線が通るか否かを検出可能な進行方向検出部によって、撮像画像の中で傾斜した境界線分を有する設置物体に対する歩行者の向きを検出できる。
また、「境界線分」は直線状の線分を意味する。
【0011】
また、進行方向検出部が、境界線分と画像中心線とが交差していないこと、及び境界線分の下端よりも境界線分の上端に近い位置を画像中心線が通ることを検出した場合、歩行者の向きが正常状態であると判定可能な進行方向判定部によって、傾斜した境界線分を有する設置物体に対する歩行者の向きが、正常であるか否かを確認できる。
また、本発明において「正常状態」とは、歩行者が安心安全に進行できる方向を向いている状態であることを意味する。
【0012】
また、本発明の歩行者進行方向判定システムにおいて、境界線分は、撮像画像の座標系における上端のx座標値が下端のx座標値よりも大きい左境界線分と、撮像画像の座標系における上端のx座標値が下端のx座標値よりも小さい右境界線分である構成とすることができる。
【0013】
ここで、「撮像画像の座標系」は、撮像画像を長方形としたとき、左上隅を原点(0,0)とし、原点から水平右方向にx正軸、原点から鉛直下方向にy正軸を取った画像座標系である。
この場合、画像中心線が左境界線分もしくは右境界線分と交差していることを進行方向検出部が検出したときに、歩行者が、傾斜した境界線分を有する設置物体の左側もしくは右側どちらへ向いているかが判り、歩行者の向きを修正し易い。
【0014】
さらに、本発明の歩行者進行方向判定システムは、設置物体に関する情報である設置物体情報を記録可能な検出物体情報記録部と、物体検出部が検出した設置物体の情報と、検出物体情報記録部が記録した設置物体情報とを照合して、設置物体を特定可能な物体特定部とを備え、進行方向検出部は、物体特定部が設置物体を横断歩道であると特定した場合、物体検出部が設置物体を検出したときに撮像画像の中に表示される、横断歩道の全体に対応した横断歩道存在領域矩形の、撮像画像の座標系における縦方向の座標値であるy座標値が一番小さい横方向線分の中のx座標値が、左境界線分との交点のx座標値より大きい若しくは右境界線分との交点のx座標値より小さい部分である横断歩道到着口線分と、画像中心線とが交差しているか否かを、さらに検出可能である構成とすることができる。
【0015】
この場合、特に横断歩道に対する歩行者の向きが、正常であるか否かを確認し易くなる。
【0016】
また、本発明の歩行者進行方向判定システムにおいて、進行方向検出部はさらに、物体特定部が横断歩道であると特定した設置物体とは別の設置物体を物体特定部が歩行者用信号機であると特定した場合、撮像画像の座標系における、歩行者用信号機の座標と、画像中心線との間の最短距離が所定の範囲内であるか否かを検出可能であり、進行方向判定部はさらに、進行方向検出部が、横断歩道到着口線分と画像中心線とが交差していることを検出し、かつ、歩行者用信号機の座標と、画像中心線との間の最短距離が所定の範囲内であることを検出した場合、歩行者の向きがさらに正常状態であると判定可能である構成とすることができる。
【0017】
ここで、「最短距離」とは、撮像画像の座標系においてy座標値が同じとした場合の、x座標値間の距離(差)を意味する。
また、ここで「所定の範囲」とは、「0」より大きく、かつ、横断歩道の中央を貫く仮想の中央線と歩行者用信号機の座標との間の最短距離以下の範囲を意味する。
この場合、特に横断歩道に対する歩行者の向きが正常であるか否かを、さらに精度良く確認できる。
【0018】
また、本発明の歩行者進行方向判定システムは、進行方向判定部が判定した結果を告知可能な告知部を備え、進行方向判定部は、画像中心線が左境界線分と交差していることを進行方向検出部が検出した場合、歩行者の向きが第1の異常状態であると判定可能であり、画像中心線が右境界線分と交差していることを進行方向検出部が検出した場合、歩行者の向きが第2の異常状態であると判定可能であり、告知部は、進行方向判定部が第1の異常状態であると判定した場合、右への方向転換を促す情報を告知可能であり、進行方向判定部が第2の異常状態であると判定した場合、左への方向転換を促す情報を告知可能である構成とすることができる。
【0019】
この場合、歩行者の向きを、さらに修正し易い。
【0020】
また、本発明の歩行者進行方向判定システムにおいて、告知部は、本体と複数の振動体とを有する振動告知部であって、本体は長手方向を有し、かつ、長手方向の一方側と、この一方側とは反対側に位置する他方側とを着脱自在に連結して環状を形成可能であり、振動体は本体の一方の面に本体の長手方向へ並べて取付けられており、右への方向転換を促す情報を告知する場合に環状の本体の片方側に位置する振動体を振動可能であり、左への方向転換を促す情報を告知する場合に片方側の振動体とは反対側に位置する他方側の振動体を振動可能である振動告知部である構成とすることができる。
【0021】
この場合、本体の一方側と他方側とを連結して本体を環状と成して、例えば本体の片方側が歩行者の身体の右側に配置されるように歩行者の身体に取付けることができ、また、音声による告知に比べて早く告知することができる。
【0022】
また、本発明の歩行者進行方向判定システムは、進行方向判定部が判定した結果を告知可能な告知部と、出発地と目的地に関する情報に基づいて、出発地と目的地との間の経路に関する情報である経路情報を設定可能な経路情報設定部と、を備え、告知部は、経路情報設定部が設定した経路情報に基づいて方向転換を告知可能であり、進行方向判定部は、告知部が経路情報に基づいて方向転換を告知した時から所定の時間内に、進行方向検出部が境界線分と画像中心線とが交差したことを検出した場合、歩行者の向きが方向転換状態であると判定可能である構成とすることができる。
【0023】
この場合、告知部が経路情報に基づいて方向転換を告知した時例えば、歩道を右折または左折するよう告知した時から所定の時間が経過するまでの間は、進行方向判定部は、歩行者の向きが正常状態であるか否かという判定ではなく、方向転換状態であると判定するので、歩行者は方向転換に集中できる。
【0024】
ここで、「所定の時間」とは、一般的に歩行者が進行しながら、自身の向きを変え始めてから変え終わるまでに要する時間を意味し、例えば3~10秒である。
【0025】
また、上記の目的を達成するために、本発明の歩行者進行方向判定ソフトウェアは、進行するときの歩行者の向きを判定するための歩行者進行方向判定ソフトウェアであって、情報処理機器を、歩行者の少なくとも前方を撮像可能な撮像部が撮像して得られた撮像画像であって同撮像画像の中心点を通ると共に同撮像画像の縦方向へ延びた画像中心線を有する同撮像画像の中で、設置された物体である設置物体の境界線分であって同撮像画像の少なくとも下部の領域において、同撮像画像の縦方向に対して傾斜して延びた同境界線分を検出可能な物体検出部と、前記境界線分と前記画像中心線とが交差しているか否かを検出可能であり、かつ、同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通るか否かを検出可能な進行方向検出部と、該進行方向検出部が、前記境界線分と前記画像中心線とが交差していないこと、及び同境界線分の下端よりも同境界線分の上端に近い位置を同画像中心線が通ることを検出した場合、歩行者の向きが正常状態であると判定可能な進行方向判定部と、を含む手段として機能させるためのソフトウェアである。
【0026】
ここで、境界線分と画像中心線とが交差しているか否かを検出可能であり、かつ、境界線分の下端よりも境界線分の上端に近い位置を画像中心線が通るか否かを検出可能な進行方向検出部によって、撮像画像の中で傾斜した境界線分を有する設置物体に対する歩行者の向きを検出できる。
【0027】
また、進行方向検出部が、境界線分と画像中心線とが交差していないこと、及び境界線分の下端よりも境界線分の上端に近い位置を画像中心線が通ることを検出した場合、歩行者の向きが正常状態であると判定可能な進行方向判定部によって、傾斜した境界線分を有する設置物体に対する歩行者の向きが、正常であるか否かを確認できる。
【発明の効果】
【0028】
本発明に係る歩行者進行方向判定システムは、進行するときの歩行者にとって安心安全な向きを判定できる。
本発明に係る歩行者進行方向判定ソフトウェアは、進行するときの歩行者にとって安心安全な向きを判定できる。
【図面の簡単な説明】
【0029】
図1】本発明を適用した歩行者進行方向判定システムの構成の一例を示す概略図である。
図2】本発明を適用した歩行者進行方向判定システムにおける撮像画像の第1の例を示す概略図(a)、及び概略図(a)に示す撮像画像に基づいた拡張現実撮像画像の一例を示す概略図(b)である。
図3図2(b)に示す拡張現実撮像画像の次の段階の拡張現実撮像画像の一例を示す概略図(a)、及び概略図(a)に示す拡張現実撮像画像に基づいて、本発明を適用した歩行者進行方向判定システムの進行方向判定部が歩行者の向きを判定した結果を含む拡張現実撮像画像の一例を示す概略図(b)である。
図4】本発明を適用した歩行者進行方向判定システムが備える振動告知部の一例を示す概略図である。
図5】本発明を適用した歩行者進行方向判定システムにおける撮像画像の第2の例を示す概略図(a)、及び概略図(a)に示す撮像画像の拡張現実撮像画像に基づいて、本発明を適用した歩行者進行方向判定システムの進行方向判定部が歩行者の向きを判定した結果を含む拡張現実撮像画像の一例を示す概略図(b)である。
【発明を実施するための形態】
【0030】
以下、本発明の実施の形態について図面を参照しながら説明し、本発明の理解に供する。
図1は、本発明を適用した歩行者進行方向判定システムの構成の一例を示す概略図である。
【0031】
また、図2(a)は、本発明を適用した歩行者進行方向判定システムにおける撮像画像の第1の例を示す概略図である。また、図2(b)は、図2(a)に示す撮像画像に基づいた拡張現実撮像画像の一例を示す概略図である。
【0032】
また、図3(a)は、図2(b)に示す拡張現実撮像画像の次の段階の拡張現実撮像画像の一例を示す概略図である。また、図3(b)は、図3(a)に示す拡張現実撮像画像に基づいて、本発明を適用した歩行者進行方向判定システムの進行方向判定部が歩行者の向きを判定した結果を含む拡張現実撮像画像の一例を示す概略図である。
【0033】
図1に示す本発明の歩行者進行方向判定システム1は、メガネ装置2と、サーバ3とを備える。
ここで、メガネ装置2は、一般的なメガネの形状を有し、サーバ3は、メガネ装置2とインターネット14を介して通信可能である。
また、メガネ装置2は、例えば目の不自由な歩行者に装着されている。
また、メガネ装置2は、一般的な情報処理機能を有する機器である。
【0034】
また、メガネ装置2は、歩行者の少なくとも前方を撮像可能な撮像カメラ4を有する。
ここで、撮像カメラ4は撮像部の一例である。
【0035】
また、歩行者の少なくとも前方を撮像可能な撮像カメラ4を有すると共に、サーバ3とインターネット14を介して通信可能であれば、必ずしもメガネ装置2でなくてもよく、例えばスマートフォンを歩行者の首から吊り下げて胸元に配置させ、歩行者の前方を撮像するようにすることもできる。
すなわち、撮像カメラ4の撮像方向が、歩行者の向いている方向である。
【0036】
また、メガネ装置2は、撮像画像送信部4Aを有する。
ここで、撮像画像送信部4Aは、撮像カメラ4が撮像して得られた撮像画像を、インターネット14を介してサーバ3へ送信可能である。
【0037】
また、撮像画像は、撮像画像の中心点を通ると共に撮像画像の縦方向へ延びた画像中心線を有する。
【0038】
一方、サーバ3は、撮像画像受信部4Bを有する。
ここで、撮像画像受信部4Bは、撮像画像送信部4Aが送信した撮像画像を受信可能である。
【0039】
また、メガネ装置2は、物体検出部5を有する。
ここで、物体検出部5は、撮像画像の中で、設置された物体である設置物体を検出可能である。
【0040】
また、メガネ装置2の物体検出部5は、設置物体の境界線分も検出可能である。
また、この境界線分は、設置物体の外形に基づく線分であり、直線状の線分である。
また、物体検出部5が検出する境界線分は、撮像画像の少なくとも下部の領域において、撮像画像の縦方向に対して傾斜して延びた境界線分である。
【0041】
ここで、「傾斜して延びた境界線分」とは、撮像画像の中で、傾斜して見える舗装された一般歩道の直線部分、傾斜して見える横断歩道の直線部分、傾斜して見える境界ブロックの直線部分、傾斜して見える縁石の直線部分を意味する。
また、「撮像画像の下部の領域」とは、撮像画像の下半分の領域を意味する。
【0042】
また、設置物体としては、具体的には例えば、横断歩道、舗装された一般歩道、舗装された一般歩道が延びた方向へ並べられた境界ブロック、歩行者用信号機、電信柱、街灯が挙げられる。
また、通常、一般歩道の境界線分と境界ブロックの境界線分は共通する。
【0043】
また、撮像画像の画像中心線は画像上に表示される。
また、撮像画像の中で検出された設置物体の箇所に、設置物体の存在を示すための矩形が表示される。
また、撮像画像の中で検出された、傾斜して延びた境界線分も、対応する設置物体の、傾斜して見える該当箇所に表示される。
そして、画像中心線や矩形や傾斜した境界線分などが表示された画像が、「拡張現実撮像画像」である。
【0044】
本明細書において、このように撮像画像に基づいて画像中心線や矩形や傾斜した境界線分などが表示された画像を「拡張現実撮像画像」と表現しているが、拡張現実撮像画像と撮像画像は実質的に同じである。
従って、「拡張現実撮像画像の画像中心線」と「撮像画像の画像中心線」は互いに同義である。
【0045】
図2(b)に示すように、撮像画像20の中心点である撮像画像中心点23を通ると共に撮像画像の縦方向へ延びた画像中心線22が、撮像画像中心点23と共に表示される。
また、図2(b)に示すように、物体検出部5が撮像画像20の中で検出した設置物体、例えば横断歩道の複数の平行白線領域の箇所それぞれに、横断歩道断片矩形25Aが表示される。
そして、図3(a)に示すように、複数の横断歩道断片矩形25Aが表示された領域全体を一つの設置物体として物体検出部5が検出し、複数の横断歩道断片矩形25Aを包含する大きさの横断歩道存在領域矩形25が、横断歩道断片矩形25Aの代わりに表示される。
【0046】
また、図2(b)に示すように、物体検出部5が撮像画像20の中で検出した設置物体、例えば歩行者用信号機の箇所に、歩行者用信号機存在領域矩形29が表示される。
また、図3(a)に示すように、物体検出部5が撮像画像20の中で検出した、横断歩道の、傾斜して延びた境界線分、すなわち横断歩道左境界線分26と横断歩道右境界線分27が、横断歩道の傾斜した箇所に表示される。
【0047】
また、矩形や直線線分などの位置は、撮像画像の座標系で示される。
すなわち、撮像画像の座標系において、撮像画像の左上隅が画像座標系の原点であり、原点から画像横方向すなわち画像右方向へ進むにつれx座標値が大きくなり、原点から画像縦方向すなわち画像下方向へ進むにつれy座標値が大きくなる。
【0048】
ここで、横断歩道左境界線分26は、撮像画像20の座標系における上端のx座標値が下端のx座標値よりも大きい境界線分である。
また、横断歩道右境界線分27は、撮像画像20の座標系における上端のx座標値が下端のx座標値よりも小さい境界線分である。
【0049】
このように、画像中心線22や、横断歩道存在領域矩形25などの矩形や、横断歩道左境界線分26などの傾斜した直線線分が表示された画像が、拡張現実撮像画像21である。
【0050】
また、物体検出部5は、例えば次のようにして横断歩道左境界線分26を検出する。
【0051】
横断歩道存在領域矩形25で囲まれた部分の画像をコピーして切り出し、切り出した画像を二値化する。
【0052】
そして、複数の平行白線領域のラベリングの前処理を行う。
すなわち、複数の平行白線領域の枠部分で、上辺、下辺3ラインに「0」をセットし、また、左辺、右辺の3ピクセル部分を「0」にして、内部を枠部分から強制的に切り離す。
また、収縮及び膨張処理を0~2回程度行なって、1~2ピクセルの細い線分だけからできている部分などを除去する。
【0053】
次に、ラベリングの前処理が行われた二値化画像にラベリング処理を施すと、分離している平行白線領域にラベルが付けられ、その領域を囲む外接矩形を求めることができる。
求めた外接矩形の中から、長さが矩形領域幅方向長さの1/3~半分程度以上で、かつy方向の差が2以上のものを選択抽出する。
【0054】
選択抽出された矩形データは以下のように表される。
{(x1d[i],y1d[i])-(x2d[i],y2d[i])}
ここで、「i=0、1、・・・Nd-1」であり、「Nd」はラベル数である。
またこれらは、y1d[i]の大きい順(画像下方から上方への順)に並んでいるように整列処理を施したものとする。
【0055】
そして、左境界線分を、選択抽出された矩形データの左端データから求める。データは以下のように表される。
{(x1d[i],y1d[i])}
ここで、「i=0、1、・・・Nd-1」である。
【0056】
また、x座標値が最小である端点を探し、そのときの座標値を(x0L,y0L)とする。
次に、x座標値が「x0L」と同じ若しくは「x0L」から規定範囲内であり、y座標値が「y0L」より小さく、次の点が「x0L」よりも規定以上離れているような点の座標値を(x1L,y1L)とする。
【0057】
(x1L,y1L)の点が左境界候補点列の「i1L」番目である場合、「i1L+1,Nd(ラベル数)」番目の点(x1d[i],y1d[i])と(x1L,y1L)の点とを結んだ左境界線の方向角pを以下の式で算出する。
p=angle(x1L,y1L,x1d[i],y1d[i])
【0058】
ここで、方向角は、北を0度とした時計回り地図方向角である。撮像画像の画像中心線と北方位とが重なっている場合は方位角0度であり、東方位と重なっている場合は方位角90度である。
【0059】
そして、算出した方向角が左境界線分上の点として許容できる方向角角度範囲[pLmin,pLmax]内にあるかどうかを判定し、範囲内にあった点について、平均方向角p2Lを以下の式で算出する。
p2L=Σp「j」/mL
ここで、『p「j」』は左境界線分上の点として許容できる方向角角度範囲[pLmin,pLmax]内の角度であり、「mL」はその個数である。
【0060】
物体検出部5は、この平均方向角p2Lを満たす線分を、横断歩道左境界線分26として検出する。
【0061】
また、物体検出部5は、例えば次のようにして横断歩道右境界線分27を検出する。
【0062】
右境界線分を、選択抽出された矩形データの右端データから求める。データは以下のように表される。
{(x1d[i],y1d[i])}
ここで、「i=0、1、・・・Nd-1」である。
【0063】
また、x座標値が最大である端点を探し、そのときの座標値を(x0R,y0R)とする。
次に、x座標値が「x0R」と同じ若しくは「x0R」から規定範囲内であり、y座標値が「y0R」より小さく、次の点が「x0R」よりも規定以上離れているような点の座標値を(x1R,y1R)とする。
【0064】
(x1R,y1R)の点が右境界候補点列の「i1R」番目である場合、「i1R+1,Nd(ラベル数)」番目の点(x1d[i],y1d[i])と(x1R,y1R)の点とを結んだ右境界線の方向角pを以下の式で算出する。
p=angle(x1R,y1R,x1d[i],y1d[i])
【0065】
ここで、方向角は、北を0度とした時計回り地図方向角である。撮像画像の画像中心線と北方位とが重なっている場合は方位角0度であり、西方位と重なっている場合は方位角270度である。
【0066】
そして、算出した方向角が右境界線分上の点として許容できる方向角角度範囲[pRmin,pRmax]内にあるかどうかを判定し、範囲内にあった点について、平均方向角p2Rを以下の式で算出する。
p2R=Σp「j」/mR
ここで、『p「j」』は右境界線分上の点として許容できる方向角角度範囲[pRmin,pRmax]内の角度であり、「mR」はその個数である。
【0067】
物体検出部5は、この平均方向角p2Rを満たす線分を、横断歩道右境界線分27として検出する。
【0068】
また、メガネ装置2は、進行方向検出部6を有する。
ここで、進行方向検出部6は、境界線分すなわち、横断歩道左境界線分26及び横断歩道右境界線分27と画像中心線22とが交差しているか否かを検出可能である。
さらに、進行方向検出部6は、横断歩道左境界線分26の下端及び横断歩道右境界線分27の下端よりも、横断歩道左境界線分26の上端及び横断歩道右境界線分27の上端に近い位置を、画像中心線22が通るか否かを検出可能である。
【0069】
また、メガネ装置2は、進行方向判定部7を有する。
ここで、進行方向判定部7は、進行方向検出部6が以下の2つの要件を満たす場合、メガネ装置2を装着した歩行者の向きが「正常状態である」と判定可能である。
(1)進行方向検出部6が、横断歩道左境界線分26及び横断歩道右境界線分27と画像中心線22とが交差していないことを検出したこと、及び
(2)進行方向検出部6が、横断歩道左境界線分26の下端及び横断歩道右境界線分27の下端よりも、横断歩道左境界線分26の上端及び横断歩道右境界線分27の上端に近い位置を画像中心線22が通ることを検出したこと。
【0070】
また、メガネ装置2は、告知部8を有する。
ここで、告知部8は、進行方向判定部7が判定した結果例えば、「正常状態である」という判定結果を告知可能である。
また、告知部8の告知方法としては、例えば音声による告知、振動による告知、または画像上での表示による告知の中の少なくとも一つが挙げられる。
【0071】
すなわち、図3(b)に示すように、画像中心線22が、横断歩道左境界線分26及び横断歩道右境界線分27と交差しておらず、さらに、横断歩道左境界線分26の下端及び横断歩道右境界線分27の下端よりも、横断歩道左境界線分26の上端及び横断歩道右境界線分27の上端に近い位置を画像中心線22が通っていて、このような状況を、進行方向検出部6が検出した場合に、進行方向判定部7は、メガネ装置2を装着した歩行者の向きが「正常状態である」と判定可能である。
そして、告知部8は、進行方向判定部7が判定した「正常状態である」という判定結果を、図3(b)に示すように、拡張現実撮像画像21上に「◎」という正常判定結果記号24Aを表示することで告知可能である。
【0072】
また、このとき告知部8は、例えば「正しい方向へ進んでいます。」という音声によっても、進行方向判定部7が判定した「正常状態である」という判定結果を告知可能である。
【0073】
また、メガネ装置2は、検出物体情報送信部5Aを有する。
ここで、検出物体情報送信部5Aは、物体検出部5が検出した設置物体に関する情報例えば、設置物体の少なくとも一部を囲む存在領域矩形を表示した拡張現実撮像画像21を、インターネット14を介してサーバ3へ送信可能である。
【0074】
一方、サーバ3は、検出物体情報受信部5Bを有する。
ここで、検出物体情報受信部5Bは、メガネ装置2から送信された設置物体に関する情報を受信可能である。
すなわち、検出物体情報受信部5Bは、設置物体の少なくとも一部を囲む存在領域矩形を表示した拡張現実撮像画像21を受信可能である。
【0075】
また、サーバ3は、検出物体情報データベース9を有する。検出物体情報データベース9は、検出物体情報記録部の一例である。
ここで、検出物体情報データベース9は、物体検出部5が検出できる様々な物体すなわち設置物体に関する情報である設置物体情報を記録可能である。
設置物体情報は、具体的には例えば、設置物体の名称、設置物体の外観的特徴(形状、寸法、色彩など)である。
【0076】
また、サーバ3は、物体特定部10を有する。
ここで、物体特定部10は、検出物体情報受信部5Bが受信した、物体検出部5が検出した設置物体の情報と、検出物体情報データベース9が記録した設置物体情報とを照合して、設置物体を特定可能である。
【0077】
物体特定部10は、具体的には例えば、物体検出部5が検出した設置物体の矩形の数値例えば縦方向の数値や横方向の数値と、検出物体情報データベース9が記録した設置物体情報例えば縦方向の数値範囲や横方向の数値範囲とを照合して設置物体を特定可能である。
ここで、矩形の縦方向の数値とは、矩形の2つの水平線分間の距離であり、また、矩形の横方向の数値とは、矩形の2つの鉛直線分間の距離であり、どちらも画像解析などによって算出された寸法数値である。
【0078】
また、物体特定部10は、例えば、物体検出部5が検出した設置物体の横断歩道断片矩形25Aの数値と、検出物体情報データベース9が記録した数値範囲とを照合して、設置物体を「横断歩道の白線」であると特定した場合、「横断歩道の白線」に対応する横断歩道断片矩形25Aが複数表示されていることに基づいて、横断歩道存在領域矩形25が表示された設置物体を「横断歩道」であると特定できる。
【0079】
また、サーバ3は、物体特定部10が特定した設置物体に関する情報を、インターネット14を介してメガネ装置2へ送信可能な特定物体情報送信部10Aを有する。
【0080】
一方、メガネ装置2は、物体特定部10が特定した設置物体に関する情報を、サーバ3から受信可能な特定物体情報受信部10Bを有する。
【0081】
また、進行方向検出部6は、物体特定部10が設置物体を「横断歩道」であると特定した場合、横断歩道到着口線分28と、画像中心線22とが交差しているか否かを、さらに検出可能である。
ここで、横断歩道到着口線分28は、横断歩道存在領域矩形25の上側線分すなわち撮像画像の座標系における、横断歩道存在領域矩形25のy座標値が一番小さい横方向線分の中のx座標値が、この横方向線分と横断歩道左境界線分26との交点のx座標値より大きい若しくは、この横方向線分と横断歩道右境界線分27との交点のx座標値より小さい部分である。
【0082】
また、物体特定部10が「横断歩道」であると特定した設置物体とは別の設置物体を「歩行者用信号機」であると特定した場合、進行方向検出部6はさらに、撮像画像の座標系における、歩行者用信号機の座標と、画像中心線22との間の最短距離が所定の範囲内であるか否かを検出可能である。
【0083】
また、進行方向判定部7はさらに、進行方向検出部6が以下の2つの要件を満たす場合、メガネ装置2を装着した歩行者の向きが「さらに正常状態である」と判定可能である。
(1)進行方向検出部6が、横断歩道到着口線分28と画像中心線22とが交差していることを検出したこと、及び
(2)進行方向検出部6が、撮像画像の座標系における、歩行者用信号機の座標と、画像中心線22との間の最短距離が所定の範囲内であることを検出したこと。
【0084】
また、画像中心線22が横断歩道左境界線分26と交差していることを進行方向検出部6が検出した場合、進行方向判定部7は、歩行者の向きが「第1の異常状態である」と判定可能である。
また、画像中心線22が横断歩道右境界線分27と交差していることを進行方向検出部6が検出した場合、進行方向判定部7は、歩行者の向きが「第2の異常状態である」と判定可能である。
【0085】
また、告知部8は、進行方向判定部7が第1の異常状態であると判定した場合、右への方向転換を促す情報を告知可能である。
また、告知部8は、進行方向判定部7が第2の異常状態であると判定した場合、左への方向転換を促す情報を告知可能である。
【0086】
また、本発明の歩行者進行方向判定システム1は、図4に示すような振動告知部30を備えることができる。
すなわち、図4は、本発明を適用した歩行者進行方向判定システムが備える振動告知部の一例を示す概略図である。
ここで、振動告知部30は、告知部8の一例であり、振動による告知方法を実現する。
【0087】
振動告知部30は、本体31と、複数の振動体32を有する。また、本体31はベルト状に構成されている。
【0088】
すなわち、本体31は長手方向を有し、かつ、長手方向の一方側と、この一方側とは反対側に位置する他方側とを着脱自在に連結して環状を形成可能である。
また、複数の振動体32は、本体31の一方の面に本体31の長手方向へ並べて取付けられている。
【0089】
進行方向判定部7が第1の異常状態であると判定した場合、告知部8は右への方向転換を促す情報を告知可能であるが、この場合、告知部8の一例である振動告知部30は、環状の本体31の片方側(例えば図4において上側)に位置する振動体32を振動可能である。
また、進行方向判定部7が第2の異常状態であると判定した場合、告知部8は左への方向転換を促す情報を告知可能であるが、この場合、振動告知部30は、環状の本体31の片方側の振動体32とは反対側に位置する他方側(例えば図4において下側)の振動体32を振動可能である。
【0090】
また、メガネ装置2は、音声送信部11を有する。
ここで、音声送信部11は、メガネ装置2を装着した歩行者が発した音声をサーバ3へ、インターネット14を介して送信可能である。
【0091】
また、サーバ3は、音声受信部12を有する。
ここで、音声受信部12は、メガネ装置2から送信された音声を受信可能である。
【0092】
また、サーバ3は、経路情報設定部13を有する。
ここで、経路情報設定部13は、音声受信部12が受信した出発地と目的地に関する音声に基づいて、出発地と目的地との間の経路に関する情報である経路情報を設定可能である。
【0093】
また、経路情報設定部13は、経路情報を設定する場合に、適宜、地図情報などに基づいて経路情報を設定できることは勿論である。
この場合、サーバ3は、地図情報を記録可能な地図情報記録部(地図情報データベース)を有し、この地図情報データベースに記録された地図情報に基づいて経路情報を設定したり、サーバ3とは別のサーバと、インターネットを介して通信しながら、別のサーバが有する地図情報データベースに記録された地図情報に基づいて経路情報を設定したりできる。
【0094】
経路情報設定部13は例えば、音声受信部12が受信した「〇△公園から小倉駅の海側まで」という音声に基づいて、「〇△公園」を出発地とし、「小倉駅の海側」を目的地とする、歩行者が進行するための経路情報を設定する。
【0095】
また、経路情報設定部13は、必ずしも音声受信部12が受信した音声に基づいて経路情報を設定しなくてもよい。
出発地と目的地が判るのであれば、経路情報設定部13は例えば、文字や画像に基づいて経路情報を設定することもできる。
この場合、メガネ装置2は、文字や画像をサーバ3へ送信できる機能例えば電子メール機能を有することができる。
【0096】
また、サーバ3は、経路情報送信部13Aを有する。
ここで、経路情報送信部13Aは、経路情報設定部13が設定した経路情報をメガネ装置2へ、インターネット14を介して送信可能である。
【0097】
一方、メガネ装置2は、経路情報受信部13Bを有する。
ここで、経路情報受信部13Bは、サーバ3から送信された経路情報を受信可能である。
【0098】
また、告知部8は、経路情報受信部13Bが受信した経路情報を告知可能である。
また、告知部8は、経路情報設定部13が設定した経路情報に基づいて方向転換を告知可能である。
【0099】
また、進行方向判定部7は、告知部8が経路情報に基づいて方向転換を告知した時から所定の時間内例えば8秒以内に、進行方向検出部6が例えば横断歩道右境界線分27と画像中心線22とが交差したことを検出した場合、歩行者の向きが方向転換状態であると判定可能である。
【0100】
本発明の歩行者進行方向判定システム1は、必ずしも検出物体情報データベース9すなわち検出物体情報記録部を備えていなくてもよく、また、必ずしも物体特定部10を備えていなくてもよく、さらには本発明の歩行者進行方向判定システム1において、進行方向検出部6は、必ずしも横断歩道到着口線分28と画像中心線22とが交差しているか否かを検出可能でなくてもよい。
【0101】
しかし、本発明の歩行者進行方向判定システム1が、検出物体情報データベース9と物体特定部10とを備えて、設置物体を横断歩道であると特定し、進行方向検出部6が、横断歩道到着口線分28と画像中心線22とが交差しているか否かを検出可能であれば、特に横断歩道に対する歩行者の向きが、正常であるか否かを確認し易くなるので好ましい。
【0102】
また、本発明の歩行者進行方向判定システム1において、進行方向検出部6は、必ずしも撮像画像の座標系における歩行者用信号機の座標と画像中心線22との間の最短距離が所定の範囲内であるか否かを検出可能でなくてもよい。
また、本発明の歩行者進行方向判定システム1において、進行方向判定部7は、必ずしも進行方向検出部6が、横断歩道到着口線分28と画像中心線22とが交差していることを検出し、かつ、歩行者用信号機の座標と、画像中心線22との間の最短距離が所定の範囲内であることを検出した場合、歩行者の向きがさらに正常状態であると判定可能でなくてもよい。
【0103】
しかし、進行方向検出部6が、横断歩道到着口線分28と画像中心線22とが交差しているか否かを検出可能であることに加え、歩行者用信号機の座標と画像中心線22との間の最短距離が所定の範囲内であるか否かを検出可能であり、進行方向検出部6が、横断歩道到着口線分28と画像中心線22とが交差していることと、歩行者用信号機の座標と、画像中心線22との間の最短距離が所定の範囲内であることを検出した場合に、進行方向判定部7が、歩行者の向きがさらに正常状態であると判定可能であれば、特に横断歩道に対する歩行者の向きが正常であるか否かを、さらに精度良く確認できるので好ましい。
【0104】
また、本発明の歩行者進行方向判定システム1において、進行方向判定部7は必ずしも、画像中心線22が横断歩道左境界線分26と交差していることを進行方向検出部6が検出した場合、歩行者の向きが「第1の異常状態である」と判定可能でなくてもよく、また、画像中心線22が横断歩道右境界線分27と交差していることを進行方向検出部6が検出した場合、歩行者の向きが「第2の異常状態である」と判定可能でなくてもよい。
そして、本発明の歩行者進行方向判定システム1において、告知部8は必ずしも、進行方向判定部7が第1の異常状態であると判定した場合、右への方向転換を促す情報を告知可能でなくてもよく、また、進行方向判定部7が第2の異常状態であると判定した場合、左への方向転換を促す情報を告知可能でなくてもよい。
【0105】
しかし、進行方向判定部7が、第1の異常状態及び第2の異常状態であると判定可能であり、進行方向判定部7が第1の異常状態であると判定した場合、告知部8が右への方向転換を促す情報を告知可能であり、進行方向判定部7が第2の異常状態であると判定した場合、告知部8が左への方向転換を促す情報を告知可能であれば、このような構成ではない場合よりも、歩行者の向きを、さらに修正し易いので好ましい。
【0106】
また、本発明の歩行者進行方向判定システム1は、必ずしも経路情報設定部13を備えていなくてもよく、また、告知部8は、必ずしも経路情報設定部13が設定した経路情報に基づいて方向転換を告知可能でなくてもよく、さらには、進行方向判定部7は、必ずしも告知部8が経路情報に基づいて方向転換を告知した時から所定の時間内に、進行方向検出部6が、横断歩道左境界線分26または横断歩道右境界線分27と画像中心線22とが交差したことを検出した場合、歩行者の向きが方向転換状態であると判定可能でなくてもよい。
【0107】
しかし、本発明の歩行者進行方向判定システム1が経路情報設定部13を備え、告知部8が経路情報に基づいて方向転換を告知した時から所定の時間内に、進行方向検出部6が、横断歩道左境界線分26または横断歩道右境界線分27と画像中心線22とが交差したことを検出した場合、進行方向判定部7が、歩行者の向きが方向転換状態であると判定可能であれば、この所定の時間が経過するまでの間は、進行方向判定部7は、歩行者の向きが正常状態であるか否かという判定ではなく、方向転換状態であると判定するので、歩行者は方向転換に集中でき、好ましい。
【0108】
また、このような歩行者進行方向判定システム1を実行するための本発明の歩行者進行方向判定ソフトウェアは、情報処理機器を、前述のような機能を有するメガネ装置2として機能させるためのソフトウェアである。
【0109】
また、図1に示す例は一例であり、メガネ装置2及びサーバ3それぞれが有する機能は、これに限定されるものではない。
例えば、サーバ3が、物体検出部5と、進行方向検出部6と、進行方向判定部7とを有することもでき、この場合、歩行者進行方向判定システム1を実行するための本発明の歩行者進行方向判定ソフトウェアは、情報処理機器を、メガネ装置2と同様の機能を有するサーバとして機能させることができる。
【0110】
また、サーバ3が、物体検出部5と、進行方向検出部6と、進行方向判定部7とを有する場合、サーバ3の撮像画像受信部4Bが受信した撮像画像に基づいて、物体検出部5と、進行方向検出部6と、進行方向判定部7とが処理を行う。
【0111】
次に、本発明の歩行者進行方向判定システムを利用した、歩行者の進行方向を判定する流れの一例について説明する。
【0112】
歩行者は、歩道上での歩行を開始するにあたり、自分が歩行する予定の経路を設定するために必要な情報をサーバ3へ送信する。
すなわち、歩行者は、歩道上での歩行を開始する現在時点で自分が位置する場所の情報である出発地の情報と、目的地の情報を声に出して言うことで、メガネ装置2の音声送信部11が出発地と目的地に関する音声をサーバ3へ、インターネット14を介して送信する。
【0113】
例えば、歩行者が「〇△公園」で遊んだ後、帰宅するために小倉駅まで徒歩で移動しようとする場合、歩行者は、自身が進行する経路を設定するために、「〇△公園から小倉駅の海側まで」という経路の情報を声に出す。
【0114】
そして、メガネ装置2の音声送信部11は、「〇△公園から小倉駅の海側まで」という音声をサーバ3へ、インターネット14を介して送信する。
一方、サーバ3の音声受信部12は、メガネ装置2から送信された「〇△公園から小倉駅の海側まで」という音声を受信する。
【0115】
すると、サーバ3の経路情報設定部13は、音声受信部12が受信した「〇△公園から小倉駅の海側まで」という音声に基づいて、「〇△公園」を出発地とし、「小倉駅の海側」を目的地とする、歩行者が進行するための経路情報を設定する。
【0116】
また、サーバ3の経路情報送信部13Aは、経路情報設定部13が設定した「〇△公園から小倉駅の海側まで」という経路情報をメガネ装置2へ、インターネット14を介して送信する。
一方、メガネ装置2の経路情報受信部13Bは、サーバ3から送信された経路情報を受信する。
【0117】
そして、メガネ装置2の告知部8は、経路情報受信部13Bが受信した「〇△公園から小倉駅の海側まで」という経路情報を、歩行者へ告知する。
【0118】
また、歩行者は、例えば〇△公園から出ていき、点字ブロックを頼りに〇△公園の目の前の交差点に立つ。
このとき、メガネ装置2の撮像カメラ4は、歩行者の前方を撮像しており、撮像カメラ4が撮像して得られた撮像画像の第1の例を図2(a)に示す。
また、メガネ装置2の物体検出部5が、図2(a)に示す撮像画像20の中で設置物体を検出したときの拡張現実撮像画像21の一例を、図2(b)、図3(a)及び図3(b)に示す。
【0119】
また、設定された経路情報は、〇△公園の目の前の交差点の横断歩道を渡る内容となっている。
【0120】
また、メガネ装置2の物体検出部5が、撮像画像20の中で設置物体を検出する。
また、メガネ装置2の物体検出部5が、設置物体の、傾斜して延びた境界線分も検出する。
そして、物体検出部5が設置物体や境界線分を検出すると、検出された設置物体の箇所や、対応する設置物体の、傾斜して見える該当箇所に、矩形や境界線分が表示される。
【0121】
また、図2(b)、図3(a)及び図3(b)に示すように、拡張現実撮像画像21には、拡張現実撮像画像21の中心点である撮像画像中心点23を通ると共に撮像画像の縦方向へ延びた画像中心線22が表示されている。
ここで、拡張現実撮像画像21は、撮像画像20に基づいて画面上に線や矩形が表示されたものであるから、拡張現実撮像画像21の中心点と撮像画像20の中心点は同じである。
【0122】
また、図2(b)に示すように、物体検出部5が検出した設置物体である、横断歩道の複数の平行白線領域それぞれに、横断歩道断片矩形25Aが表示される。
そして、物体検出部5は、複数の横断歩道断片矩形25Aが表示された領域全体を一つの設置物体として検出し、図3(a)に示すように、複数の横断歩道断片矩形25Aを包含する大きさの横断歩道存在領域矩形25が、横断歩道断片矩形25Aの代わりに表示される。
【0123】
また、図2(b)に示すように、物体検出部5が検出した設置物体である、歩行者用信号機に、歩行者用信号機存在領域矩形29が表示される。
また、図3(a)に示すように、物体検出部5が検出した、横断歩道の、傾斜して延びた境界線分である、横断歩道左境界線分26と横断歩道右境界線分27が、横断歩道の傾斜した箇所に表示される。
【0124】
そして、進行方向検出部6が、横断歩道左境界線分26及び横断歩道右境界線分27と、画像中心線22とが交差しているか否かを検出する。
また、進行方向検出部6が、横断歩道左境界線分26の下端及び横断歩道右境界線分27の下端よりも、横断歩道左境界線分26の上端及び横断歩道右境界線分27の上端に近い位置を、画像中心線22が通るか否かについても検出する。
【0125】
図2(b)、図3(a)及び図3(b)に示すように、画像中心線22は、横断歩道左境界線分26及び横断歩道右境界線分27どちらとも交差していないので、進行方向検出部6は、横断歩道左境界線分26及び横断歩道右境界線分27と画像中心線22とが交差していないことを検出する。
また、図2(b)、図3(a)及び図3(b)に示すように、画像中心線22は、横断歩道左境界線分26の下端及び横断歩道右境界線分27の下端よりも、横断歩道左境界線分26の上端及び横断歩道右境界線分27の上端に近い位置を通っているので、進行方向検出部6は、画像中心線22がその位置を通ることを検出する。
【0126】
そして、進行方向判定部7が、メガネ装置2を装着した歩行者の向きは「正常状態である」と判定する。
さらに、告知部8が、進行方向判定部7によって判定された「正常状態である」という判定結果を、歩行者に対して、拡張現実撮像画像21上に判定結果記号を表示して告知したり、例えば「正しい方向へ進んでいます。」という音声によって告知したりする。
【0127】
このように、本発明の歩行者進行方向判定システム1は、撮像画像20の中の設置物体を特定しなくても、設置物体の、傾斜して延びた境界線分を検出できれば、歩行者の向きを判定できる。
【0128】
また、このような進行方向の判定処理とは別に、検出物体情報送信部5Aが、設置物体の少なくとも一部を囲む存在領域矩形を表示した拡張現実撮像画像21を、インターネット14を介してサーバ3へ送信する。
【0129】
一方、このような拡張現実撮像画像21を受信したサーバ3において、物体特定部10が、物体検出部5によって検出された設置物体の情報と、検出物体情報データベース9が記録した設置物体情報とを照合して、設置物体を特定する。
【0130】
また、物体特定部10が、横断歩道存在領域矩形25が表示された設置物体を「横断歩道」であると特定し、特定物体情報送信部10Aが、特定された設置物体に関する情報をメガネ装置2へ送信する。
従って、告知部8が、進行方向判定部7によって判定された「正常状態である」という判定結果を音声によって告知するときに、例えば「横断歩道を正しい方向へ進んでいます。」というように、特定された設置物体の内容を加えて告知する。
【0131】
また、物体特定部10が設置物体を「横断歩道」であると特定しているので、進行方向検出部6は、横断歩道到着口線分28と画像中心線22とが交差しているか否かも検出する。
【0132】
また、物体特定部10が、歩行者用信号機存在領域矩形29が表示された設置物体すなわち、物体特定部10が「横断歩道」であると特定した設置物体とは別の設置物体を「歩行者用信号機」であると特定し、特定物体情報送信部10Aが、特定された設置物体に関する情報をメガネ装置2へ送信する。
また、進行方向検出部6がさらに、撮像画像の座標系における、歩行者用信号機の座標すなわち「歩行者用信号機」であると特定された、検出された設置物体の座標と、画像中心線22との間の最短距離が所定の範囲内すなわち、「0」より大きく、かつ、横断歩道の中央を貫く仮想の中央線と歩行者用信号機の座標との間の最短距離以下の範囲内であるか否かを検出する。
【0133】
図2(b)、図3(a)及び図3(b)に示すように、画像中心線22は、横断歩道到着口線分28と交差しており、また、画像中心線22は、横断歩道の中央付近を通っているので、進行方向検出部6は、横断歩道到着口線分28と画像中心線22とが交差していること、及び、撮像画像の座標系における、歩行者用信号機の座標と、画像中心線22との間の最短距離が所定の範囲内であることを検出する。
【0134】
従ってこの場合、進行方向判定部7は、メガネ装置2を装着した歩行者の向きが「さらに正常状態である」と判定する。
そして、告知部8が、進行方向判定部7によって判定された「さらに正常状態である」という判定結果を、歩行者に対して、図3(b)に示すように、拡張現実撮像画像21上に「◎」のような正常判定結果記号24を表示して告知したり、例えば「充分に正しい方向へ進んでいます。」という音声によって告知したりする。
【0135】
また、例えば、図2(b)、図3(a)及び図3(b)に示す画像中心線22が、もう少し右側へ位置して歩行者用信号機存在領域矩形29と交差した場合、画像中心線22は、横断歩道到着口線分28と交差しているものの、歩行者用信号機の座標と画像中心線22との間の最短距離が「0」であるため所定の範囲内ではない。
従ってこの場合、進行方向判定部7は「さらに正常状態である」とは判定しないので、告知部8は、拡張現実撮像画像21上に、例えば「〇」のような判定結果記号を表示して告知したり、「ある程度正しい方向へ進んでいます。」という音声によって告知したりする。
【0136】
一方、「〇△公園」を出発地とし、「小倉駅の海側」を目的地とする、歩行者が進行するための経路情報を設定し、歩行者が〇△公園から出ていき、点字ブロックを頼りに〇△公園の目の前の交差点に立ったとき、横断歩道に対して斜め方向を向いて立つ場合も想定される。
【0137】
図5(a)は、本発明を適用した歩行者進行方向判定システムにおける撮像画像の第2の例を示す概略図である。
また、図5(b)は、図5(a)に示す撮像画像の拡張現実撮像画像に基づいて、本発明を適用した歩行者進行方向判定システムの進行方向判定部が歩行者の向きを判定した結果を含む拡張現実撮像画像の一例を示す概略図である。
【0138】
歩行者が、横断歩道に対して斜め方向を向いて立ったとき、メガネ装置2の撮像カメラ4が撮像して得られた撮像画像の第2の例が図5(a)に示されている。
また、メガネ装置2の物体検出部5が、図5(a)に示す撮像画像40の中で設置物体を検出したときの拡張現実撮像画像41の一例を、図5(b)に示す。
【0139】
また、設定された経路情報は、〇△公園の目の前の交差点の横断歩道を渡る内容となっている。
【0140】
また、メガネ装置2の物体検出部5が、撮像画像40の中で設置物体を検出する。
また、メガネ装置2の物体検出部5が、設置物体の、傾斜して延びた境界線分も検出する。
そして、物体検出部5が設置物体や境界線分を検出すると、検出された設置物体の箇所や、対応する設置物体の、傾斜して見える該当箇所に、矩形や境界線分が表示される。
【0141】
また、図5(b)に示すように、拡張現実撮像画像41には、拡張現実撮像画像41の中心点である撮像画像中心点43を通ると共に撮像画像の縦方向へ延びた画像中心線42が表示されている。
ここで、拡張現実撮像画像41の中心点と撮像画像40の中心点は同じである。
【0142】
また、物体検出部5は、複数の横断歩道断片矩形(図示せず。)が表示された領域全体を一つの設置物体として検出し、複数の横断歩道断片矩形(図示せず。)を包含する大きさの横断歩道存在領域矩形45が、図5(b)に示すように、横断歩道断片矩形(図示せず。)の代わりに表示される。
【0143】
また、図5(b)に示すように、物体検出部5が検出した設置物体である、歩行者用信号機に、歩行者用信号機存在領域矩形49が表示される。
また、図5(b)に示すように、物体検出部5が検出した、横断歩道の、傾斜して延びた境界線分である、横断歩道右境界線分47が、横断歩道の傾斜した箇所に表示される。
ここで、物体検出部5は、横断歩道左境界線分を検出していない。
【0144】
そして、進行方向検出部6が、横断歩道右境界線分47と、画像中心線42とが交差しているか否かを検出する。
また、進行方向検出部6が、横断歩道右境界線分47の下端よりも、横断歩道右境界線分47の上端に近い位置を、画像中心線42が通るか否かについても検出する。
【0145】
図5(b)に示すように、画像中心線42は、横断歩道右境界線分47と交差しているので、進行方向検出部6は、横断歩道右境界線分47と画像中心線42とが交差していることを検出する。
【0146】
また、図5(b)に示すように、画像中心線42は、横断歩道右境界線分47の上端よりも、横断歩道右境界線分47の下端に近い位置を通っている、すなわち、画像中心線42は、横断歩道右境界線分47の下端よりも、横断歩道右境界線分47の上端に近い位置を通っていない。
従って、進行方向検出部6は、横断歩道右境界線分47の下端よりも、横断歩道右境界線分47の上端に近い位置を、画像中心線42が通らないことを検出する。
【0147】
そして、この場合、進行方向判定部7は、メガネ措置2を装着した歩行者の向きが「正常状態ではない」と判定するのであるが、画像中心線42が横断歩道右境界線分47と交差していることを進行方向検出部6が検出するので、進行方向判定部7は、歩行者の向きが「第2の異常状態である」と判定する。
【0148】
また、告知部8が、進行方向判定部7によって判定された「第2の異常状態である」という判定結果を、歩行者に対して、図5(b)に示すように、拡張現実撮像画像41上に「×」のような異常判定結果記号44を表示して告知する。
また、進行方向判定部7が、歩行者の向きは「第2の異常状態である」と判定した場合、さらに、告知部8は、左への方向転換を促す情報、例えば「右方向へ進んでいます。もう少し左へ向いてください。」という音声によって告知する。
そしてさらには、この場合、歩行者の腰にベルト状に巻かれて環状を成した本体31を有する振動告知部30が、環状の本体31の片方側すなわち、歩行者の左脇腹に位置する振動体32を振動させ、左への方向転換を促す情報を告知する。
【0149】
一方、画像中心線が横断歩道左境界線分と交差していることを、進行方向検出部6が検出した場合、進行方向判定部7は、歩行者の向きが「第1の異常状態である」と判定する。
【0150】
また、この場合、告知部8は、右への方向転換を促す情報、例えば「左方向へ進んでいます。もう少し右へ向いてください。」という音声によって告知する。
そしてさらには、この場合、歩行者の腰にベルト状に巻かれて環状を成した本体31を有する振動告知部30が、環状の本体31の片方側とは反対側すなわち、歩行者の右脇腹に位置する振動体32を振動させ、右への方向転換を促す情報を告知する。
【0151】
また、このような進行方向の判定処理とは別に、検出物体情報送信部5Aが、設置物体の少なくとも一部を囲む存在領域矩形を表示した拡張現実撮像画像41を、インターネット14を介してサーバ3へ送信する。
【0152】
また、物体特定部10が、横断歩道存在領域矩形45が表示された設置物体を「横断歩道」であると特定し、特定物体情報送信部10Aが、特定された設置物体に関する情報をメガネ装置2へ送信する。
従って、告知部8が、進行方向判定部7によって判定された「第2の異常状態である」という判定結果を音声によって告知するときに、例えば「横断歩道を右方向へ進んでいます。」というように、特定された設置物体の内容を加えて告知する。
【0153】
また、物体特定部10が設置物体を「横断歩道」であると特定しているので、進行方向検出部6は、横断歩道到着口線分48と画像中心線42とが交差しているか否かも検出する。
【0154】
また、物体特定部10が、歩行者用信号機存在領域矩形49が表示された設置物体すなわち、物体特定部10が「横断歩道」であると特定した設置物体とは別の設置物体を「歩行者用信号機」であると特定し、特定物体情報送信部10Aが、特定された設置物体に関する情報をメガネ装置2へ送信する。
また、進行方向検出部6がさらに、撮像画像の座標系における、歩行者用信号機の座標と、画像中心線42との間の最短距離が所定の範囲内であるか否かを検出する。
【0155】
図5(b)に示すように、画像中心線42は、横断歩道到着口線分48と交差しておらず、また、画像中心線42は、横断歩道右境界線分47と交差しており、しかも横断歩道右境界線分47の上端よりも、横断歩道右境界線分47の下端に近い位置を通っている。
従って、進行方向検出部6は、横断歩道到着口線分48と画像中心線42とが交差していないことを検出し、歩行者用信号機の座標と、画像中心線42との間の最短距離が所定の範囲内ではないことを検出する。
【0156】
また一方、歩行者は、自身が進行する経路を設定するために、「〇△公園から△△ビルまで」という経路の情報を声に出して、サーバ3の経路情報設定部13が、「〇△公園」を出発地とし、「△△ビル」を目的地とする経路情報を設定する変形例も想定される。
そして、設定された経路情報は、〇△公園の目の前の交差点の横断歩道を渡らずに、右方向へ進む内容となっている。
【0157】
この場合、歩行者が〇△公園から出た直後は、図2(a)に示すように横断歩道が延びた方向と略同じ方向へ、歩行者が向いている。
そして、歩行者に対し、告知部8は、経路情報設定部13が設定した経路情報に基づいて、右方向への方向転換を告知する。
【0158】
右方向への方向転換の告知を受けた歩行者は、右方向へ進行すべく、身体を右方向へ向けて進行を始める。
このとき、歩行者の前方の撮像画像は、図2(a)に示すようなものから、図5(a)に示すようなものへと変わる。
【0159】
また、メガネ装置2の物体検出部5が、横断歩道左境界線分及び横断歩道右境界線分を検出する。
また、進行方向検出部6が、横断歩道左境界線分及び横断歩道右境界線分と画像中心線とが交差しているか否かを検出する。
【0160】
従って、歩行者が身体を右方向へ向けて進行を始めると、画像中心線は横断歩道右境界線分と交差することになり、進行方向検出部6が、横断歩道右境界線分と画像中心線とが交差していることを検出する。
【0161】
そして、進行方向判定部7は、告知部8が経路情報に基づいて右方向への方向転換を告知した時から所定の時間内例えば8秒以内に、進行方向検出部6が境界線分例えば横断歩道右境界線分と画像中心線とが交差したことを検出した場合、歩行者の向きが方向転換状態であると判定する。
【0162】
歩行者が右方向への方向転換を告知された時から例えば8秒が経過するまでの間は、進行方向判定部は、画像中心線と横断歩道右境界線分などの境界線分とが交差しても、歩行者の向きが正常状態であるか否かという判定ではなく、方向転換状態であると判定するので、歩行者は方向転換に集中できる。
【0163】
横断歩道の手前で右方向への方向転換を終えた歩行者は、経路情報に従って、車道に沿った一般歩道を進行していく。
そして、メガネ装置2の物体検出部5が、設置物体の境界線分であって傾斜して延びた境界線分すなわち、車道と一般歩道との間の、傾斜して見える縁石の直線部分や、歩道と敷地との間の、傾斜して見える境界ブロックの直線部分を、一般歩道左境界線分及び一般歩道右境界線分として検出する。
【0164】
さらに、進行方向検出部6が、一般歩道左境界線分及び一般歩道右境界線分と、画像中心線とが交差しているか否かを検出する。
また、進行方向検出部6が、一般歩道左境界線分の下端及び一般歩道右境界線分の下端よりも、一般歩道左境界線分の上端及び一般歩道右境界線分の上端に近い位置を、画像中心線が通るか否かについても検出する。
【0165】
そして、進行方向検出部6が、一般歩道左境界線分及び一般歩道右境界線分と画像中心線とが交差していないことを検出し、さらに、一般歩道左境界線分の下端及び一般歩道右境界線分の下端よりも、一般歩道左境界線分の上端及び一般歩道右境界線分の上端に近い位置を、画像中心線が通ることを検出すると、進行方向判定部7が、歩行者の向きは「正常状態である」と判定する。
【0166】
以上のように、本発明の歩行者進行方向判定システム1は進行方向検出部6を備え、進行方向検出部6は、境界線分すなわち、横断歩道左境界線分26及び横断歩道右境界線分27と画像中心線22とが交差しているか否かを検出可能であり、さらに、横断歩道左境界線分26の下端及び横断歩道右境界線分27の下端よりも、横断歩道左境界線分26の上端及び横断歩道右境界線分27の上端に近い位置を、画像中心線22が通るか否かを検出可能であるので、撮像画像の中で傾斜した境界線分を有する設置物体に対する歩行者の向きを検出できる。
【0167】
また、本発明の歩行者進行方向判定システム1は進行方向判定部7を備え、進行方向判定部7は、進行方向検出部6が、横断歩道左境界線分26及び横断歩道右境界線分27と画像中心線22とが交差していないことを検出し、かつ、進行方向検出部6が、横断歩道左境界線分26の下端及び横断歩道右境界線分27の下端よりも、横断歩道左境界線分26の上端及び横断歩道右境界線分27の上端に近い位置を画像中心線22が通ることを検出した場合、歩行者の向きが「正常状態である」と判定可能であるので、傾斜した境界線分を有する設置物体に対する歩行者の向きが、正常であるか否かを確認できる。
【0168】
従って、本発明の歩行者進行方向判定システム1は、進行するときの歩行者にとって安心安全な向きを判定できる。
【0169】
また、本発明の歩行者進行方向判定ソフトウェアは、情報処理機器を、本発明の歩行者進行方向判定システム1が備える進行方向検出部6及び進行方向判定部7と同様の機能を有するメガネ装置2として機能させることができる。
【0170】
従って、本発明の歩行者進行方向判定ソフトウェアは、進行するときの歩行者にとって安心安全な向きを判定できる。
【符号の説明】
【0171】
1 歩行者進行方向判定システム
2 メガネ装置
3 サーバ
4 撮像カメラ
4A 撮像画像送信部
4B 撮像画像受信部
5 物体検出部
5A 検出物体情報送信部
5B 検出物体情報受信部
6 進行方向検出部
7 進行方向判定部
8 告知部
9 検出物体情報データベース
10 物体特定部
10A 特定物体情報送信部
10B 特定物体情報受信部
11 音声送信部
12 音声受信部
13 経路情報設定部
13A 経路情報送信部
13A 経路情報受信部
14 インターネット
20 撮像画像
21 拡張現実撮像画像
22 画像中心線
23 撮像画像中心点
24 正常判定結果記号
25 横断歩道存在領域矩形
25A 横断歩道断片矩形
26 横断歩道左境界線分
27 横断歩道右境界線分
28 横断歩道到着口線分
29 歩行者用信号機存在領域矩形
30 振動告知部
31 本体
32 振動体
40 撮像画像
41 拡張現実撮像画像
42 画像中心線
43 撮像画像中心点
44 異常判定結果記号
45 横断歩道存在領域矩形
47 横断歩道右境界線分
48 横断歩道到着口線分
49 歩行者用信号機存在領域矩形
図1
図2
図3
図4
図5