IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 楽天株式会社の特許一覧

<>
  • 特許-無人機及び配送システム 図1
  • 特許-無人機及び配送システム 図2
  • 特許-無人機及び配送システム 図3
  • 特許-無人機及び配送システム 図4
  • 特許-無人機及び配送システム 図5
  • 特許-無人機及び配送システム 図6
  • 特許-無人機及び配送システム 図7
  • 特許-無人機及び配送システム 図8
  • 特許-無人機及び配送システム 図9
  • 特許-無人機及び配送システム 図10
  • 特許-無人機及び配送システム 図11
  • 特許-無人機及び配送システム 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2023-07-04
(45)【発行日】2023-07-12
(54)【発明の名称】無人機及び配送システム
(51)【国際特許分類】
   B64U 10/13 20230101AFI20230705BHJP
   B64U 20/87 20230101ALI20230705BHJP
   B65G 61/00 20060101ALI20230705BHJP
   B64U 101/64 20230101ALN20230705BHJP
【FI】
B64U10/13
B64U20/87
B65G61/00 540
B65G61/00 550
B64U101:64
【請求項の数】 16
(21)【出願番号】P 2023514902
(86)(22)【出願日】2022-04-25
(86)【国際出願番号】 JP2022018726
【審査請求日】2023-03-03
【早期審査対象出願】
(73)【特許権者】
【識別番号】399037405
【氏名又は名称】楽天グループ株式会社
(74)【代理人】
【識別番号】110000958
【氏名又は名称】弁理士法人インテクト国際特許事務所
(74)【代理人】
【識別番号】100120189
【弁理士】
【氏名又は名称】奥 和幸
(72)【発明者】
【氏名】田中 大貴
(72)【発明者】
【氏名】田爪 敏明
(72)【発明者】
【氏名】井沼 孝慈
(72)【発明者】
【氏名】松本 麻希
(72)【発明者】
【氏名】谷 真斗
【審査官】林 政道
(56)【参考文献】
【文献】米国特許出願公開第2019/0041852(US,A1)
【文献】特開2021-96865(JP,A)
【文献】特開2017-58937(JP,A)
【文献】特開2016-88675(JP,A)
【文献】特開2019-16157(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B64U 10/13
B64U 20/87
B65G 61/00
B64U 101/64
B64C 39/02
B64D 1/12
B64D 47/08
(57)【特許請求の範囲】
【請求項1】
荷物を配送する無人機であって、
画角に収まる範囲を撮像するカメラと、
前記無人機から前記荷物を解放させる第1制御部と、
前記第1制御部により解放場所に置かれた前記荷物と当該荷物の周辺領域とが前記画角に収まるように前記無人機の位置と向きとの少なくとも何れか一方を制御し、前記範囲において前記解放場所に置かれた前記荷物とともに目印となる地物を検出し、少なくとも、前記荷物とともに前記地物が検出されたタイミングで前記カメラにより撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させる第2制御部と、
を備えることを特徴とする無人機。
【請求項2】
前記第2制御部は、前記荷物とともに異なる位置にある複数の前記地物を検出し、少なくとも、前記荷物とともに複数の前記地物が検出されたタイミングで撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする請求項に記載の無人機。
【請求項3】
前記第2制御部は、前記カメラにより連続的に撮像された前記画像ごとに当該画像におけるカラー値の変化率を算出し、当該変化率が第1閾値以上になったタイミングで前記地物を検出することを特徴とする請求項またはに記載の無人機。
【請求項4】
前記無人機は、無人で飛行可能な無人飛行体であり、
前記第2制御部は、前記荷物が解放された後、前記無人機を上昇または下降させ、前記無人機が上昇または下降している間に前記荷物とともに前記地物を検出することを特徴とする請求項またはに記載の無人機。
【請求項5】
前記第2制御部は、前記荷物とともに前記地物が検出されたタイミングで前記無人機をホバリングさせ、前記無人機がホバリングしている間に撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする請求項に記載の無人機。
【請求項6】
前記第2制御部は、前記カメラが備える露出計により測定された、前記無人機の周囲の明るさを示す情報を取得し、当該明るさに応じて前記無人機が上昇または下降する速度を変化させることを特徴とする請求項に記載の無人機。
【請求項7】
前記第2制御部は、前記カメラにより連続的に撮像された前記画像ごとに当該画像におけるカラー値の変化率を算出し、少なくとも、当該変化率が第1閾値以上になったタイミングで撮像された前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする請求項1に記載の無人機。
【請求項8】
前記無人機は、無人で飛行可能な無人飛行体であり、
前記第2制御部は、前記荷物が解放された後、前記無人機を上昇または下降させ、前記無人機が上昇または下降している間に前記画像におけるカラー値の変化率を算出することを特徴とする請求項に記載の無人機。
【請求項9】
前記第2制御部は、前記変化率が第1閾値以上になったタイミングで前記無人機をホバリングさせ、前記無人機がホバリングしている間に撮像された前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする請求項に記載の無人機。
【請求項10】
前記第2制御部は、前記カメラが備える露出計により測定された、前記無人機の周囲の明るさを示す情報を取得し、当該明るさに応じて前記無人機が上昇または下降する速度を変化させることを特徴とする請求項またはに記載の無人機。
【請求項11】
前記第2制御部は、前記荷物が解放されたタイミングで撮像された前記荷物及び前記周辺領域の画像と、その後に前記荷物とともに前記地物が検出されたタイミングで撮像された前記荷物及び前記地物を含む前記周辺領域の画像とを前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする請求項1、2、7乃至9の何れか一項に記載の無人機。
【請求項12】
前記第2制御部は、前記撮像された前記画像の証明適正度を特定し、当該証明適正度が第2閾値以上である場合に、前記撮像された前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする請求項1、2、7乃至9の何れか一項に記載の無人機。
【請求項13】
前記保存部に第1の前記画像が保存された後に撮像された第2の前記画像の証明適正度が前記第1の前記画像の証明適正度より大きい場合に、前記第2制御部は、前記第1の前記画像を前記保存部から消去し、前記第2の前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする請求項12に記載の無人機。
【請求項14】
前記保存部に保存された前記画像を前記荷物の受取人の端末に提供する画像提供部を更に備えることを特徴とする請求項1、2、7乃至9の何れか一項に記載の無人機。
【請求項15】
画角に収まる範囲を撮像するカメラを搭載する無人機により荷物を配送する配送システムであって、
前記無人機から解放されることにより解放場所に置かれた前記荷物と当該荷物の周辺領域とが前記画角に収まるように前記無人機の位置と向きとの少なくとも何れか一方を制御し、前記範囲において前記解放場所に置かれた前記荷物とともに目印となる地物を検出し、少なくとも、前記荷物とともに前記地物が検出されたタイミングで前記カメラにより撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させる制御部を備えることを特徴とする配送システム。
【請求項16】
画角に収まる範囲を撮像するカメラを搭載し荷物を配送する無人機の制御装置であって、
前記無人機から解放されることにより解放場所に置かれた前記荷物と当該荷物の周辺領域とが前記画角に収まるように前記無人機の位置と向きとの少なくとも何れか一方を制御し、前記範囲において前記解放場所に置かれた前記荷物とともに目印となる地物を検出し、少なくとも、前記荷物とともに前記地物が検出されたタイミングで前記カメラにより撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする制御装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、荷物を配送する配送システム等の技術分野に関する。
【背景技術】
【0002】
従来、荷物の配送方法として、例えば配達者が受取人宅の敷地内に荷物を置くことで配送を完了するいわゆる置き配が知られている。例えば、特許文献1には、置き配が完了した荷物の写真を配達者が端末で撮影し、当該撮影された画像が受取人の端末に送信されるシステムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2019-16157号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、配達者を必要としない無人機が置き配を行う場合、配送が完了した荷物の写真を配達者が撮影することができないため、配送完了を証明するための適切な画像を保存することが困難である。特に、受取人宅の広い敷地内の何れかの位置に荷物が置かれる場合、受取人がその位置を判断できるような画像を保存しておくことが望ましい。
【0005】
そこで、荷物の配送完了を証明するための適切な画像を保存することが可能な無人機及び配送システムを提供する。
【課題を解決するための手段】
【0006】
上記課題を解決するために、請求項1に記載の発明は、荷物を配送する無人機であって、画角に収まる範囲を撮像するカメラと、前記無人機から前記荷物を解放させる第1制御部と、前記第1制御部により解放場所に置かれた前記荷物と当該荷物の周辺領域とが前記画角に収まるように前記無人機の位置と向きとの少なくとも何れか一方を制御し、前記範囲において前記解放場所に置かれた前記荷物とともに目印となる地物を検出し、少なくとも、前記荷物とともに前記地物が検出されたタイミングで前記カメラにより撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させる第2制御部と、を備えることを特徴とする。これにより、荷物の配送完了を証明するための適切な画像であって、荷物の配送先に特有の画像を保存させることができる。
【0007】
請求項2に記載の発明は、請求項1に記載の無人機において、前記第2制御部は、前記範囲において前記解放場所に置かれた前記荷物とともに目印となる地物を検出し、少なくとも、前記荷物とともに前記地物が検出されたタイミングで撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、荷物の配送先に特有の画像を保存させることができる。
【0008】
請求項に記載の発明は、請求項に記載の無人機において、前記第2制御部は、前記荷物とともに異なる位置にある複数の前記地物を検出し、少なくとも、前記荷物とともに複数の前記地物が検出されたタイミングで撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、より一層、荷物の配送先に特有の画像を保存させることができる。
【0009】
請求項に記載の発明は、請求項またはに記載の無人機において、前記第2制御部は、前記カメラにより連続的に撮像された前記画像ごとに当該画像におけるカラー値の変化率を算出し、当該変化率が第1閾値以上になったタイミングで前記地物を検出することを特徴とする。これにより、配送完了を証明する画像が保存されるまでの無人機の処理負荷を低減できるとともに無人機のバッテリの消費電力を低減でき、さらに、当該画像が保存されるまでの時間を短縮することができる。
【0010】
請求項に記載の発明は、請求項またはに記載の無人機において、前記無人機は、無人で飛行可能な無人飛行体であり、前記第2制御部は、前記荷物が解放された後、前記無人機を上昇または下降させ、前記無人機が上昇または下降している間に前記荷物とともに前記地物を検出することを特徴とする。
【0011】
請求項に記載の発明は、請求項に記載の無人機において、前記第2制御部は、前記荷物とともに前記地物が検出されたタイミングで前記無人機をホバリングさせ、前記無人機がホバリングしている間に撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、より鮮明な画像を保存させることができる。
【0012】
請求項に記載の発明は、請求項に記載の無人機において、前記第2制御部は、前記カメラが備える露出計により測定された、前記無人機の周囲の明るさを示す情報を取得し、当該明るさに応じて前記無人機が上昇または下降する速度を変化させることを特徴とする。これにより、より鮮明な画像を保存させることができる。
【0013】
請求項に記載の発明は、請求項1に記載の無人機において、前記第2制御部は、前記カメラにより連続的に撮像された前記画像ごとに当該画像におけるカラー値の変化率を算出し、少なくとも、当該変化率が第1閾値以上になったタイミングで撮像された前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、配送完了を証明する画像が保存されるまでの無人機の処理負荷を低減できるとともに無人機のバッテリの消費電力を低減でき、さらに、当該画像が保存されるまでの時間を短縮することができる。
【0014】
請求項に記載の発明は、請求項に記載の無人機において、前記無人機は、無人で飛行可能な無人飛行体であり、前記第2制御部は、前記荷物が解放された後、前記無人機を上昇または下降させ、前記無人機が上昇または下降している間に前記画像におけるカラー値の変化率を算出することを特徴とする。
【0015】
請求項に記載の発明は、請求項に記載の無人機において、前記第2制御部は、前記変化率が第1閾値以上になったタイミングで前記無人機をホバリングさせ、前記無人機がホバリングしている間に撮像された前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、より鮮明な画像を保存させることができる。
【0016】
請求項10に記載の発明は、請求項またはに記載の無人機において、前記第2制御部は、前記カメラが備える露出計により測定された、前記無人機の周囲の明るさを示す情報を取得し、当該明るさに応じて前記無人機が上昇または下降する速度を変化させることを特徴とする。これにより、より鮮明な画像を保存させることができる。
【0017】
請求項11に記載の発明は、請求項1、2、7乃至9の何れか一項に記載の無人機において、前記第2制御部は、前記荷物が解放されたタイミングで撮像された前記荷物及び前記周辺領域の画像と、その後に前記荷物とともに前記地物が検出されたタイミングで撮像された前記荷物及び前記地物を含む前記周辺領域の画像とを前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、荷物の受取人は、保存される画像に表れる荷物が小さいために視認し難い場合であっても、拡大された荷物の画像から容易に視認することができる。
【0018】
請求項12に記載の発明は、請求項1、2、7乃至9の何れか一項に記載の無人機において、前記第2制御部は、前記撮像された前記画像の証明適正度を特定し、当該証明適正度が第2閾値以上である場合に、前記撮像された前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、荷物の配送完了を証明する画像の有用性を高めることができる。
【0019】
請求項13に記載の発明は、請求項12に記載の無人機において、前記保存部に第1の前記画像が保存された後に撮像された第2の前記画像の証明適正度が前記第1の前記画像の証明適正度より大きい場合に、前記第2制御部は、前記第1の前記画像を前記保存部から消去し、前記第2の前記画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。これにより、より一層、荷物の配送完了を証明する画像の有用性を高めることができ、また、複数の画像を保存させるよりもメモリ容量を抑えることができる。
【0020】
請求項14に記載の発明は、請求項1、2、7乃至9の何れか一項に記載の無人機において、前記保存部に保存された前記画像を前記荷物の受取人の端末に提供する画像提供部を更に備えることを特徴とする。これにより、荷物の配送完了を受取人に視覚的に伝えることができる。
【0021】
請求項15に記載の発明は、画角に収まる範囲を撮像するカメラを搭載する無人機により荷物を配送する配送システムであって、前記無人機から解放されることにより解放場所に置かれた前記荷物と当該荷物の周辺領域とが前記画角に収まるように前記無人機の位置と向きとの少なくとも何れか一方を制御し、前記範囲において前記解放場所に置かれた前記荷物とともに目印となる地物を検出し、少なくとも、前記荷物とともに前記地物が検出されたタイミングで前記カメラにより撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させる制御部を備えることを特徴とする。
【0022】
請求項16に記載の発明は、画角に収まる範囲を撮像するカメラを搭載し荷物を配送する無人機の制御装置であって、前記無人機から解放されることにより解放場所に置かれた前記荷物と当該荷物の周辺領域とが前記画角に収まるように前記無人機の位置と向きとの少なくとも何れか一方を制御し、前記範囲において前記解放場所に置かれた前記荷物とともに目印となる地物を検出し、少なくとも、前記荷物とともに前記地物が検出されたタイミングで前記カメラにより撮像された前記荷物及び前記地物を含む前記周辺領域の画像を前記荷物の配送完了を証明する画像として保存部に保存させることを特徴とする。
【発明の効果】
【0023】
本発明によれば、荷物の配送完了を証明するための適切な画像を保存することができる。
【図面の簡単な説明】
【0024】
図1】配送システムSの概要構成例を示す図である。
図2】UAV1の概要構成例を示す図である。
図3】制御部16における機能ブロック例を示す図である。
図4】UAV1が建物102の近傍の解放場所に着陸している状態において荷物101を解放したときの様子を示す図である。
図5】荷物101の周辺領域において建物102が目印となる地物として検出されたタイミングで撮像された画像I1の一例を示す図である。
図6】学習済モデルに入力された画像I2において検出された物体を示す分類ラベル、及び分類確率の一例をバウンディングボックスごとに示す概念図である。
図7】撮像された画像I3,I4と、それぞれの画像におけるカラー値のヒストグラムH1,H2の一例を示す図である。
図8】管理サーバ2の概要構成例を示す図である。
図9】実施例1においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。
図10】実施例2においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。
図11】実施例3においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。
図12】実施例4においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0025】
以下、図面を参照して本発明の一実施形態について説明する。なお、以下の実施形態は、荷物を配送する配送システムの一実施形態である。
【0026】
1.配送システムSの構成
先ず、図1を参照して、本発明の一実施形態に係る配送システムSの構成について説明する。図1は、配送システムSの概要構成例を示す図である。図1に示すように、配送システムSは、無人航空機(以下、「UAV(Unmanned Aerial Vehicle)」と称する)1、及び管理サーバ2を含んで構成され、これらは、通信ネットワークNWに接続可能になっている。ここで、通信ネットワークNWは、例えば、インターネット、移動体通信ネットワーク及びその無線基地局等から構成される。UAV1は無人機及び無人飛行体の一例であり、ドローン、またはマルチコプタとも呼ばれる。管理サーバ2は、荷物の配送を管理及び制御するためのサーバである。また、管理サーバ2は、UAV1を制御することもできる。管理サーバ2は、UAV1との間で通信ネットワークNWを介して通信可能になっている。
【0027】
UAV1に積載される荷物(貨物)は、例えば、EC(Electronic commerce)サイトまたは宅配サイトなどで注文される商品または宅配品などの物品である。このような荷物は、配送拠点から、配送依頼人(例えば、商品の注文者)による注文で指定された配送先(配達先)に向けて運搬される。ここで、配送拠点は、荷物がUAV1に積み込まれる場所である。配送先は、例えば、荷物の受取人の居住する住宅などである。ただし、本実施形態では、配送先の近傍においてUAV1が荷物を解放して解放場所に置くことで配送を完了すること(つまり、置き配)を想定する。かかる置き配は、例えば注文時に配送方法として置き配が設定された場合に行われてもよいし、受取人が配送先に不在などの理由で荷物を直接受け取れない場合に行われてもよい。配送された荷物は、例えば、受取人が居住する住宅の敷地(例えば、庭)内の何れかの解放場所に置かれる。住宅が集合住宅(例えばマンションやアパート)である場合、配送された荷物は、その建物の共通のエントランス付近、または、その建物の屋上における何れかの解放場所に置かれてもよい。なお、解放場所は、地面または建物の屋上面である。
【0028】
1-1.UAV1の構成及び機能
次に、図2を参照して、UAV1の構成及び機能について説明する。図2は、UAV1の概要構成例を示す図である。図2に示すように、UAV1は、駆動部11、測位部12、通信部13、センサ部14、記憶部15(保存部の一例)、及び制御部16(制御装置の一例)等を備える。さらに、UAV1は、UAV1の各部へ電力を供給するバッテリ(図示せず)、水平回転翼であるロータ(プロペラ)、及び積載される荷物を保持するための保持機構等を備える。保持機構は、荷物を保持するフック等の保持部材、及びモータ等により構成されるアクチュエータを含む。保持機構は、制御部16から出力される制御信号に応じてアクチュエータを駆動することで保持部材から荷物を解放する(つまり、荷物を切り離す)。なお、保持機構には、保持部材に接続されたワイヤ等の線状部材、及び線状部材の送り出しまたは巻き取りを行うリール(ウインチ)が備えられてもよい。
【0029】
駆動部11は、モータ及び回転軸等を備える。駆動部11は、制御部16から出力された制御信号に従って駆動するモータ及び回転軸等により複数のロータを回転させる。測位部12は、電波受信機及び高度センサ等を備える。測位部12は、例えば、GNSS(Global Navigation Satellite System)の衛星から発信された電波を電波受信機により受信し、当該電波に基づいてUAV1の水平方向の現在位置(緯度及び経度)を検出する。なお、UAV1の水平方向の現在位置は、センサ部14のカメラにより撮像された画像に基づいて補正されてもよい。また、UAV1の水平方向の現在位置は、設置位置が特定されている基準局(UAV1と通信可能な基準局)により受信された上記電波を利用するRTK(Real Time Kinematic)手法により補正されてもよい。測位部12により検出された現在位置を示す位置情報は、制御部16へ出力される。さらに、測位部12は、気圧センサ等の高度センサによりUAV1の垂直方向の現在位置(高度)を検出してもよい。この場合、位置情報には、UAV1の高度を示す高度情報が含まれる。
【0030】
通信部13は、無線通信機能を備え、通信ネットワークNWを介して行われる通信の制御を担う。センサ部14は、UAV1の飛行制御等に用いられる各種センサを備える。各種センサには、例えば、光学センサ、3軸角速度センサ、3軸加速度センサ、及び地磁気センサ等が含まれる。光学センサは、カメラ(例えば、RGBカメラ)を含む。カメラは、レンズ、撮像素子、シャッター、及び露出計等を備え、制御部16からの撮像指令に応じて画角に収まる範囲を撮像する。画角は、外部からの光がレンズを介して撮像素子に当たる範囲を表す角度である。ここで、撮像とは、撮像素子で受光された光が電気信号に変換されることにより画像が撮られることをいう。光学センサには、UAV1の進行方向を撮像するためのカメラと、UAV1の下方を撮像するためのカメラとが含まれてもよい。また、カメラの向きが制御部16により制御されてもよい。露出計は、UAV1の周囲の明るさを測定する。露出計により測定された明るさに応じてカメラのシャッターの速度及び絞りが自動調整される。
【0031】
なお、光学センサには、物体の形状や物体までの距離を測定するLiDAR(Light Detection and Ranging、或いはLaser Imaging Detection and Ranging)センサが含まれてもよい。センサ部14によりセンシングされることで得られたセンシング情報は、制御部16へ連続的に出力される。センシング情報には、カメラにより撮像された画像(例えば、RGB画像)のデータが含まれる。また、センシング情報には、LiDARセンサにより測定された距離画像(デプス画像)のデータが含まれてもよい。また、カメラの露出計により測定された明るさを示す情報が制御部16へ出力されてもよい。
【0032】
記憶部15は、不揮発性メモリ等から構成され、各種プログラム及びデータを記憶する。また、記憶部15は、UAV1を識別する機体IDを記憶する。この機体IDは、UAV1を識別するための識別情報である。なお、記憶部15には、機械学習により生成された学習済モデルが記憶されてもよい。かかる学習済モデルは、カメラにより撮像された画像から地上に存在する物体(荷物、及び後述する地物を含む)を推定するためのものである。制御部16は、CPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)等を備える。RAMには、カメラから連続的に出力される画像を一時的に記憶するバッファメモリが設けられる。バッファメモリには、所定の時間間隔で連続する複数の画像(画像フレーム)が記憶される。図3は、制御部16における機能ブロック例を示す図である。制御部16は、ROM(または、記憶部15)に記憶されたプログラム(プログラムコード群)に従って、図3に示すように、飛行制御部161、解放制御部162(第1制御部の一例)、撮像制御部163(第2制御部の一例)、及び画像提供部164等として機能する。
【0033】
飛行制御部161は、UAV1を飛行させる飛行制御を行う。飛行制御には、離陸制御、ホバリング制御、及び着陸制御が含まれる。飛行制御においては、測位部12により検出された現在位置を示す位置情報、センサ部14によりセンシングされたセンシング情報、及び配送先情報等が用いられて、ロータの回転数の制御、UAV1の現在位置、姿勢及び進行方向の制御が行われる。これにより、UAV1は自律的に配送先に向けて飛行することができる。配送先情報は、荷物情報及び受取人情報とともに例えば配送拠点でUAV1に設定されてもよいし、管理サーバ2から荷物情報及び受取人情報とともに送信されて設定されてもよい。ここで、配送先情報には、配送先の位置情報(緯度及び経度)等が含まれる。荷物情報には、UAV1により配送される荷物を識別するための荷物ID及び荷物の写真画像等が含まれる。荷物の写真画像から当該荷物の外観特徴量が抽出されてもよい。受取人情報には、荷物の受取人を識別するユーザID、及び受取人のメールアドレスまたは電話番号等が含まれる。なお、UAV1の飛行中に、UAV1の位置情報、及びUAV1の機体IDは、通信部13により管理サーバ2へ逐次送信される。また、センサ部14によりセンシングされたセンシング情報及びUAV1の機体IDは、通信部13により管理サーバ2へ逐次送信されてもよい。
【0034】
解放制御部162は、解放場所においてUAV1から荷物を解放させる解放制御を行う。例えば、解放制御部162は、UAV1が解放場所に着陸している状態において、UAV1の保持機構へ制御信号を出力することで保持部材から荷物を解放させる。図4は、UAV1が建物102の近傍の解放場所(地面)に着陸している状態において荷物101を解放したときの様子を示す図である。これとは別の例として、解放制御部162は、UAV1が解放場所の上空でホバリングしている状態において、UAV1の保持機構へ制御信号を出力することで線状部材を送り出させてもよい。これにより、解放制御部162は、保持部材を解放場所に降下させた後(例えば、荷物が接地した後)に保持部材から荷物を解放させる。或いは、UAV1が解放場所から垂直方向に数十cm~2m程度離れた位置でホバリングしている状態において、解放制御部162は、UAV1の保持機構へ制御信号を出力することで保持部材から荷物を解放(つまり、投下)させてもよい。なお、荷物の解放場所は、配送先の近傍において光センサからの画像(例えば、RGB画像または距離画像)に基づいて解放制御部162により特定されるとよい。
【0035】
撮像制御部163は、光センサからのセンシング情報を用いて、上記解放場所に置かれた荷物と当該荷物の周辺領域(つまり、荷物を含む周辺領域)とがカメラの画角に収まるようにUAV1の位置と向きとの少なくとも何れか一方を制御する。例えば、予め設定された外観特徴量を有する荷物が、カメラにより撮像された画像から検出(物体検出)されるまで(または、当該検出から数秒後まで)UAV1の位置と向きとの少なくとも何れか一方が制御される。ここで、UAV1の位置とは、UAV1の水平方向の位置と垂直方向の位置との少なくとも何れか一方である。垂直方向の位置の制御により、UAV1が上昇または下降することになる。UAV1の向きとは、例えば、センサ部14に備えられるカメラの光軸方向(撮影光学系の光軸が延びる方向)である。そして、撮像制御部163は、カメラにより撮像された荷物を含む周辺領域の画像(画像データ)を荷物の配送完了を証明する画像(以下、「配送証明画像」という)として記憶部15に保存させる。例えば、配送証明画像は、所定のファイル形式の画像ファイルとして保存される。なお、撮像制御部163は、配送証明画像を通信部13により管理サーバ2に送信して保存させてもよい。
【0036】
また、撮像制御部163は、カメラの画角に収まる範囲において解放場所に置かれた荷物とともに目印となる地物を検出してもよい。図5は、荷物101の周辺領域において建物102(一部分)が目印となる地物として検出されたタイミングで撮像された画像I1の一例を示す図である。この場合、撮像制御部163は、少なくとも、荷物とともに地物が検出されたタイミングで撮像された画像I1(つまり、荷物及び地物を含む周辺領域の画像)を配送証明画像として保存(つまり、少なくとも当該画像を保存)させる。これにより、荷物の配送先に特有の配送証明画像を保存させることができる。ここで、地物が検出されたタイミングとは、例えば、地物が検出された時点からその所定時間(例えば、数秒)後までの間の何れかの時点である。この場合、予め設定された外観特徴量を有する荷物とともに、予め設定された外観特徴量を有する地物(目印となる地物)が、カメラにより撮像された画像から検出(つまり、同一画像フレーム上で検出)されるまでUAV1の位置と向きとの少なくとも何れか一方が制御される。特に、撮像制御部163は、荷物とともに異なる位置にある複数の地物を検出するとよい。この場合、撮像制御部163は、少なくとも、荷物とともに複数の地物(目印となる地物)が検出されたタイミングで撮像された画像を配送証明画像として保存させる。ここで、複数の地物は、異なる種類の地物であるとよい。これにより、より一層、当該荷物の配送先に特有の配送証明画像を保存させることができる。
【0037】
また、撮像制御部163は、解放制御部162により荷物が解放された後にUAV1を上昇または下降させ、UAV1が上昇または下降している間に荷物とともに目印となる地物を検出してもよい。このとき、撮像制御部163は、カメラが備える露出計により測定された、UAV1の周囲の明るさを示す情報を取得し、当該明るさに応じてUAV1が上昇または下降する速度を変化させるとよい。例えば、UAV1の周囲が暗いほどUAV1の上昇速度を低下させる。これにより、より鮮明な配送証明画像を保存させることができる。また、撮像制御部163は、解放制御部162により荷物が解放された後にUAV1を上昇または下降させ、荷物とともに目印となる地物が検出されたタイミングでUAV1をホバリング(つまり、UAV1が移動している状態から一時停止)させてもよい。この場合、撮像制御部163は、UAV1がホバリングしている間に撮像された画像を配送証明画像として保存させる。これにより、より一層、より鮮明な配送証明画像を保存させることができる。
【0038】
なお、目印となる地物とは、荷物の受取人が目印として視認可能な物である。かかる地物は、自然物や人工物など、特に地面に接して存在する物であり、平面的な物であってもよいし、立体的な物であってもよい。かかる地物の例として、建物、ガレージ、フェンス、門扉、垣根、玄関スロープ、樹木、植栽、自動車、自転車などが挙げられる。これらの地物の外観特徴量は予め設定される。また、荷物及び目印となる地物は、記憶部15に記憶された学習済モデルから推定されてもよい。この構成によれば、カメラにより撮像された画像が学習済モデルに入力されることで、当該学習済モデルから荷物及び目印となる地物それぞれを示す分類ラベル(種類)等の推定結果情報が出力される。ここで、画像から複数の物体を検出する場合、R-CNN(Region based Convolutional Neural Networks)やSSD(Single Shot Multibox Detector)の機械学習アルゴリズムが用いられるとよい。この場合、カメラにより撮像された画像が、ニューラルネットワークを用いた学習済モデルに入力されることで、当該学習済モデルから、複数の物体(つまり、荷物及び目印となる地物)それぞれに対応するバウンディングボックス、物体を示す分類ラベル、及び分類確率等の推定結果情報が出力される。解放制御部162は、当該出力された推定結果情報に基づいて、荷物及び目印となる地物を検出する。
【0039】
図6は、学習済モデルに入力された画像I2において検出された物体を示す分類ラベル、及び分類確率の一例をバウンディングボックスごとに示す概念図である。図6の例では、バウンディングボックスB1内には荷物が示されており、かかる荷物に対応する分類確率として89%が示されている。また、バウンディングボックスB2内には目印となる地物として建物が示されており、かかる建物に対応する分類確率として63%が示されている。また、また、バウンディングボックスB3内には目印となる地物として植栽が示されており、かかる植栽に対応する分類確率として76%が示されている。ここで、分類確率が基準確率(例えば、60%)以下の地物は検出対象外としてもよい(つまり、目印となる地物として検出されない)。この場合、分類確率が基準確率以上の荷物及び目印となる地物が検出されるまでUAV1の位置と向きとの少なくとも何れか一方が制御されるとよい。
【0040】
また、撮像制御部163は、UAV1の位置と向きとの少なくとも何れか一方を制御している間(つまり、カメラの画角に収まる範囲が変化している間)に、カメラにより連続的に撮像された画像ごとに当該画像におけるカラー値の変化率を算出し、当該変化率が基準変化率(第1閾値)以上になったタイミングで目印となる地物を検出してもよい。ここで、カラー値とは、例えば、画素を構成するR値、G値、及びB値のうち少なくとも何れか1つである。カラー値の変化率とは、単位時間におけるカラー値の変化の割合である。カラー値の変化率が基準変化率以上になったタイミングとは、例えば、カラー値の変化率が基準変化率以上になった時点からその所定時間(例えば、数秒)後までの間の何れかの時点である。当該変化率が基準変化率以上になったタイミングで目印となる地物が検出されるので、当該変化率が基準変化率未満である間、目印となる地物を検出するための処理は行われない。これにより、配送証明画像が保存されるまでのCPUの処理負荷を低減できるとともにバッテリの消費電力を低減でき、さらに、配送証明画像が保存されるまでの時間を短縮することができる。
【0041】
図7は、撮像された画像I3,I4と、それぞれの画像におけるカラー値のヒストグラムH1,H2の一例を示す図である。図7において、左側は、荷物101が解放されたタイミングで撮像された画像I3と、画像I3におけるカラー値のヒストグラムH1とを示す。一方、図7において、右側は、荷物101の解放後UAV1が上昇中にカラー値の変化率が基準変化率以上になったタイミングで撮像された画像I4と、画像I4におけるカラー値のヒストグラムH2とを示す。画像I3に表れる荷物101は、画像I4に表れる荷物101が拡大されたように視認できるものになっている。図7の例では、UAV1が上昇中にカメラの画角に収まる範囲内に建物102及び植栽103(目印となる地物)が出現することで、G値及びB値の変化率が大きく(つまり、目印となる地物の出現前より大きく)なる。これにより、当該変化率が基準変化率を超え、荷物101とともに建物102及び植栽103が検出されることになる。
【0042】
また、撮像制御部163は、図7に示すように荷物101とともに建物102及び植栽103が検出されたタイミングでUAV1をホバリングさせてもよい。この場合、撮像制御部163は、UAV1がホバリングしている間に撮像された荷物101、建物102及び植栽103を含む画像を配送証明画像として保存させる。また、撮像制御部163は、図7に示すように荷物101が解放されたタイミングで撮像された画像I3と、その後に荷物101とともに建物102及び植栽103が検出されたタイミングで撮像された画像I4とを配送証明画像として保存させてもよい。これにより、置き配された荷物101の受取人は、画像I3に表れる荷物101が小さいために視認し難い場合であっても、あたかも拡大されたように見える荷物101を画像I4から容易に視認することができる。また、荷物とともに地物が検出されたタイミングで撮像された画像を含む動画像が配送証明画像として保存されてもよい。この場合、例えば、荷物とともに地物が検出されたタイミングの所定時間(例えば、数秒~数十秒)前から当該タイミングの所定時間(例えば、数秒~数十秒)後までの間に含まれる複数の画像から構成される動画像(例えば、数十フレームレートの動画像)が配送証明画像として保存される。
【0043】
別の例として、撮像制御部163は、UAV1の位置と向きとの少なくとも何れか一方を制御している間に、カメラにより連続的に撮像された画像ごとに当該画像におけるカラー値の変化率を算出し、少なくとも、当該変化率が基準変化率以上になったタイミングで撮像された画像を配送証明画像として保存させてもよい。つまり、カラー値の変化率が基準変化率以上になったタイミングで撮像された画像に目印となる地物が含まれているものとみなし、当該画像を配送証明画像として保存させる。この場合、目印となる地物を画像から検出する必要がないので、配送証明画像が保存されるまでのCPUの処理負荷を低減できるとともにバッテリの消費電力を低減でき、さらに、配送証明画像が保存されるまでの時間を短縮することができる。この場合、撮像制御部163は、UAV1が上昇または下降している間に連続的に撮像された画像におけるカラー値の変化率を算出し、当該変化率が基準変化率以上になったタイミングでUAV1をホバリングさせてもよい。そして、撮像制御部163は、UAV1がホバリングしている間に撮像された画像を配送証明画像として保存させる。このとき、撮像制御部163は、カメラが備える露出計により測定された、UAV1の周囲の明るさを示す情報を取得し、当該明るさに応じてUAV1が上昇または下降する速度を変化させてもよい。
【0044】
また、撮像制御部163は、上述したように撮像された画像の証明適正度を特定し、当該証明適正度が基準適正度(第2閾値)以上である場合に、当該撮像された画像を配送証明画像として保存させてもよい。これにより、配送証明画像の有用性(換言すると、価値)を高めることができる。ここで、証明適正度は、撮像された画像がどの程度、配送証明画像に適しているかどうかを定量的に示す値である。証明適正度は、配送先に特有の画像であればあるほど高くなる。証明適正度は、目印となる地物の種類、地物の数、及び複数の地物間の位置関係などから算出されるとよい。例えば、上記撮像された画像に含まれる地物が、過去に保存された多くの配送証明画像(つまり、異なる配送先に対応付けられた配送証明画像)において表れる頻度が低いほど、当該画像の証明適正度が高くなる。また、上記撮像された画像に含まれる地物の数が多いほど、当該画像の証明適正度が高くなる。また、上記撮像された画像に含まれる複数の地物間の位置関係が、過去に保存された多くの配送証明画像において表れる頻度が低いほど、当該画像の証明適正度が高くなる。
【0045】
なお、撮像制御部163は、記憶部15に配送証明画像(第1の画像)が保存された後に撮像された画像(第2の画像)の証明適正度が、既に保存されている配送証明画像(第1の画像)の証明適正度より大きい場合、撮像制御部163は、既に保存されている配送証明画像を記憶部15から消去し、当該第2の画像を新たな配送証明画像として保存(更新)させてもよい。これにより、より一層、配送証明画像の有用性を高めることができ、また、複数の配送証明画像を保存させるよりも記憶部15のメモリ容量を抑えることができる。
【0046】
画像提供部164は、撮像制御部163の上記処理方法で保存された配送証明画像を、所定の提供方法により、荷物の受取人の端末(例えば、スマートフォン)に提供する。これにより、荷物の配送完了を受取人に視覚的に伝えることができる。例えば、画像提供部164は、保存された配送証明画像の所在(保存場所)を示すURL(Uniform Resource Locator)が記述された電子メールを荷物の受取人のメールアドレス宛に送信する。これにより、受取人の端末は、当該URLにアクセスすることで配送証明画像を取得して表示することができる。或いは、画像提供部164は、保存された配送証明画像へアクセスするためのURLが記述されたメッセージをSMS(Short Message Service)により荷物の受取人の電話番号宛に送信してもよい。或いは、荷物の受取人の端末において常住しているアプリケーションに対して、保存された配送証明画像をプッシュ配信してもよい。
【0047】
1-2.管理サーバ2の構成及び機能
次に、図8を参照して、管理サーバ2の構成及び機能について説明する。図8は、管理サーバ2の概要構成例を示す図である。図8に示すように、管理サーバ2は、通信部21、記憶部22、及び制御部23等を備える。通信部21は、通信ネットワークNWを介して行われる通信の制御を担う。UAV1から送信された位置情報及び機体IDは、通信部21により受信される。管理サーバ2は、UAV1の位置情報によりUAV1の現在位置を認識することができる。また、UAV1から送信されたセンシング情報及び機体IDは、通信部21により受信される。記憶部22は、例えば、ハードディスクドライブ等から構成され、各種プログラム及びデータを記憶する。記憶部22には、上述した学習済モデルが記憶されてもよい。なお、記憶部22は、配送証明画像を保存するための保存部として機能してもよい。
【0048】
また、記憶部22には、配送管理データベース221等が構築される。配送管理データベース221は、荷物の配送に関する情報を管理するためのデータベースである。配送管理データベース221には、荷物情報、機体情報、配送先情報、配送スケジュール、及び受取人情報等が対応付けられて格納(登録)される。ここで、機体情報には、荷物を配送するUAV1に関する情報(例えば、機体ID等)が含まれる。なお、配送管理データベース221には、UAV1により荷物が置き配された場合、当該荷物の配送証明画像の所在を示すURLが荷物情報に対応付けられて格納される。
【0049】
制御部23は、CPU、ROM、及びRAM等を備える。制御部23は、UAV1の現在位置を監視し、適宜、UAV1へ制御指令を送信することでUAV1を制御する(制御装置の一例)。かかる制御には、UAV1の飛行制御、荷物の解放制御、及び撮像制御のうち少なくとも何れか1つが含まれてもよい。ここで、撮像制御は、UAV1からのセンシング情報に基づいて行われる。この処理方法はUAV1の撮像制御部163の処理方法と同様である。また、記憶部22に配送証明画像が保存された場合、制御部23は、当該配送証明画像を荷物の受取人の端末に提供してもよい。かかる提供方法は、UAV1の画像提供部164の提供方法と同様である。
【0050】
2.配送システムSの動作
【0051】
次に、配送システムSの動作について、実施例1~実施例4に分けて説明する。
【0052】
(実施例1)
先ず、図9を参照して、実施例1について説明する。図9は、実施例1においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。図9に示す処理は、例えば、荷物を積載するUAV1が配送先の上空に到着した場合に開始される。図9に示す処理が開始されると、制御部16は、UAV1をホバリングさせ、光センサからのセンシング情報に基づいて荷物の解放場所を特定する(ステップS1)。例えば、UAV1が着陸状態で荷物を解放する場合、UAV1の着陸に必要な2次元サイズ(例えば、縦ym×横xm)以上の広さで且つ平坦な(障害物がない)解放場所が特定されるとよい。一方、UAV1がホバリング状態で荷物を解放する場合、荷物の2次元サイズ以上に広さで且つ平坦な解放場所が特定されるとよい。
【0053】
次いで、制御部16は、ステップS1で特定された解放場所においてUAV1から荷物を解放させる解放制御を行う(ステップS2)。例えば、解放制御部162は、UAV1を解放場所に着陸させた後、UAV1の保持機構へ制御信号を出力することにより、保持部材から荷物を解放させる。或いは、解放制御部162は、UAV1が解放場所の上空でホバリングしている状態において、UAV1の保持機構へ制御信号を出力することにより、線状部材を送り出させ、降下した保持部材から荷物を解放させる。
【0054】
次いで、制御部16は、カメラにより撮像された画像を取得し、ステップS1で特定された解放場所に置かれた荷物を含む周辺領域がカメラの画角に収まるようにUAV1の位置と向きとの少なくとも何れか一方を制御する(ステップS3)。例えば、UAV1が解放場所に着陸している状態で荷物が解放された場合、撮像制御部163は、当該解放場所に置かれた荷物を含む周辺領域がカメラの画角に収まるようにUAV1を上昇させる。一方、UAV1がホバリングしている状態で荷物が解放された場合、撮像制御部163は、当該解放場所に置かれた荷物を含む周辺領域がカメラの画角に収まるようにUAV1を下降させる。このような撮像制御において、荷物及び目印となる地物を検出する処理が開始される。なお、撮像制御部163は、UAV1を上昇または下降させながら、UAV1の向きを変化させてもよい。
【0055】
次いで、制御部16は、カメラにより撮像された画像から、荷物とともに目印となる地物が検出されたか否かを判定する(ステップS4)。例えば、撮像制御部163は、撮像された画像を学習済モデルに入力し、当該学習済モデルから出力された推定結果情報に基づいて、荷物とともに目印となる地物が検出されたか否かを判定するとよい。この場合、推定結果情報に、荷物及び地物(1または複数の地物)それぞれに対応するバウンディングボックス、当該物体を示す分類ラベル、及び分類確率が含まれ、且つそれぞれの分類確率が基準確率以上である場合に、荷物とともに目印となる地物が検出されたと判定する。荷物とともに目印となる地物が検出されたと判定された場合(ステップS4:YES)、処理はステップS5へ進む。一方、荷物とともに目印となる地物が検出されていないと判定された場合(ステップS4:NO)、処理はステップS3に戻る。ステップS3に戻ると、制御部16は、荷物を含む周辺領域をカメラの画角に収まらせながらUAV1の位置と向きとの少なくとも何れか一方を変化させる。このとき、撮像制御部163は、UAV1を上昇または下降させながら、UAV1の向きを変化させてもよい。
【0056】
なお、光センサからのセンシング情報がUAV1から管理サーバ2へ送信されてもよい。この場合、管理サーバ2は、センシング情報に含まれる画像を学習済モデルに入力し、当該学習済モデルから出力された推定結果情報をUAV1へ送信する。この場合、撮像制御部163は、管理サーバ2から受信された推定結果情報に基づいて、荷物とともに目印となる地物が検出されたか否かを判定する。或いは、管理サーバ2は、当該学習済モデルから出力された推定結果情報に基づいて、荷物とともに目印となる地物が検出されたか否かを判定し、その判定結果をUAV1へ送信してもよい。この場合、撮像制御部163は、管理サーバ2から受信された判定結果に基づいて、荷物とともに目印となる地物が検出されたか否かを判定する。
【0057】
ステップS5では、制御部16は、荷物とともに目印となる地物が検出されたタイミングで撮像された画像を配送証明画像として記憶部15に保存させる。なお、ステップS4において、撮像制御部163は、荷物とともに目印となる地物が検出されたと判定した場合、UAV1をホバリングさせてもよい。この場合、撮像制御部163は、UAV1がホバリングしている間に撮像された画像を配送証明画像として記憶部15に保存させる。また、撮像制御部163は、荷物が解放されたタイミングで撮像された画像と、その後に荷物とともに地物が検出されたタイミングで撮像された画像とを配送証明画像として保存させてもよい。或いは、撮像制御部163は、荷物が解放されたタイミングから、当該荷物とともに地物が検出されたタイミングの所定時間(例えば、数秒~数十秒)後までの間に含まれる複数の画像から構成される動画像を配送証明画像として記憶部15に保存させてもよい。
【0058】
次いで、制御部16は、ステップS5で保存された配送証明画像を荷物の受取人の端末に画像提供部164により提供する(ステップS6)。例えば、保存された配送証明画像の所在を示すURLが生成され、当該URLが記述された電子メールが荷物の受取人のメールアドレス宛に送信される。配送証明画像が荷物の受取人の端末に提供された後、UAV1は配送拠点に帰還するか、次の配送先へ移動する。なお、画像提供部164は、ステップS5で保存された配送証明画像を含む保存要求を管理サーバ2へ送信することで配送証明画像を管理サーバ2の記憶部22に保存させてもよい。この場合、管理サーバ2は、記憶部22に保存された配送証明画像を荷物の受取人の端末に画像提供部164により提供する。
【0059】
(実施例2)
次に、図10を参照して、実施例2について説明する。図10は、実施例2においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。なお、図10に示すステップS11~S13の処理は、図9に示すステップS1~S3の処理と同様である。
【0060】
ステップS14では、制御部16は、カメラにより撮像された画像におけるカラー値の変化率を算出する。例えば、単位時間前(換言すると、数フレーム前)に撮像された画像からカラー値の変化率が算出される。次いで、制御部16は、ステップS14で算出された変化率が基準変化率以上になったか否かを判定する(ステップS15)。カラー値の変化率が基準変化率以上になったと判定された場合(ステップS15:YES)、処理はステップS16へ進む。一方、カラー値の変化率が基準変化率以上になっていないと判定された場合(ステップS15:NO)、処理はステップS13に戻る。ステップS13に戻ったときの処理は、ステップS3に戻ったときの処理と同様である。
【0061】
ステップS16では、制御部16は、カラー値の変化率が基準変化率以上になったタイミングで撮像された画像を配送証明画像として記憶部15に保存させる。なお、ステップS15において、撮像制御部163は、カラー値の変化率が基準変化率以上になったと判定した場合、UAV1をホバリングさせてもよい。この場合、撮像制御部163は、UAV1がホバリングしている間に撮像された画像を配送証明画像として記憶部15に保存させる。なお、図10に示すステップS17の処理は、図9に示すステップS6の処理と同様である。
【0062】
(実施例3)
次に、図11を参照して、実施例3について説明する。図11は、実施例3においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。なお、図11に示すステップS21~S23の処理は、図9に示すステップS1~S3の処理と同様である。
【0063】
ステップS24では、ステップS14と同様、制御部16は、カメラにより撮像された画像におけるカラー値の変化率を算出する。次いで、ステップS15と同様、制御部16は、ステップS24で算出された変化率が基準変化率以上になったか否かを判定する(ステップS25)。カラー値の変化率が基準変化率以上になったと判定された場合(ステップS25:YES)、処理はステップS26へ進む。一方、カラー値の変化率が基準変化率以上になっていないと判定された場合(ステップS25:NO)、処理はステップS23に戻る。ステップS23に戻ったときの処理は、ステップS3に戻ったときの処理と同様である。
【0064】
ステップS26では、制御部16は、カラー値の変化率が基準変化率以上になったタイミングで撮像された画像から、荷物とともに目印となる地物が検出されたか否かを撮像制御部163により判定する。荷物とともに目印となる地物が検出されたと判定された場合(ステップS26:YES)、処理はステップS27へ進む。なお、図11に示すステップS27及びS28の処理は、図9に示すステップS5及びS6の処理と同様である。一方、荷物とともに目印となる地物が検出されていないと判定された場合(ステップS26:NO)、処理はステップS23に戻る。ステップS23に戻ったときの処理は、ステップS3に戻ったときの処理と同様である。
【0065】
(実施例4)
次に、図12を参照して、実施例4について説明する。図12は、実施例4においてUAV1の制御部16により実行される処理の一例を示すフローチャートである。なお、図12に示すステップS31及びS32の処理は、図9に示すステップS1及びS2の処理と同様である。図12に示すステップS33の撮像制御処理では、図9に示すステップS3及びS4の処理、図10に示すステップS13~S15の処理、または、図11に示すステップS23~S26の処理が行われる。
【0066】
ステップS34では、制御部16は、荷物とともに目印となる地物が検出されたタイミング、またはカラー値の変化率が基準変化率以上になったタイミングで撮像された画像の証明適正度を撮像制御部163により特定する。次いで、制御部16は、ステップS34で特定された証明適正度が基準適正度以上であるか否かを撮像制御部163により判定する(ステップS35)。証明適正度が基準適正度以上であると判定された場合(ステップS35:YES)、処理はステップS36へ進む。一方、証明適正度が基準適正度以上でないと判定された場合(ステップS35:NO)、処理はステップS40へ進む。
【0067】
ステップS36では、制御部16は、配送証明画像及びその証明適正度が記憶部15に保存されているか否かを判定する。配送証明画像及びその証明適正度が記憶部15に保存されていないと判定された場合(ステップS36:NO)、制御部16は、上記タイミングで撮像された画像を配送証明画像として記憶部15に保存させる(ステップS37)。一方、配送証明画像及びその証明適正度が記憶部15に既に保存されていると判定された場合(ステップS36:YES)、処理はステップS38へ進む。
【0068】
ステップS38では、制御部16は、上記タイミングで今回撮像された画像(第2の画像)の証明適正度が、既に保存されている配送証明画像(第1の画像)の証明適正度より大きいか否かを撮像制御部163により判定する。上記タイミングで撮像された画像の証明適正度が、既に保存されている配送証明画像の証明適正度より大きいと判定された場合(ステップS38:YES)、処理はステップS39へ進む。一方、上記タイミングで撮像された画像の証明適正度が、既に保存されている配送証明画像の証明適正度より大きくないと判定された場合(ステップS38:NO)、処理はステップS40へ進む。
【0069】
ステップS39では、制御部16は、既に保存されている配送証明画像を記憶部15から消去し、上記タイミングで撮像された画像を配送証明画像として新たに保存させる。これにより配送証明画像が更新される。このとき、新たに保存された配送証明画像の証明適正度が配送証明画像に対応付けられて記憶部15に保存され、処理はステップS40へ進む。
【0070】
ステップS40では、制御部16は、荷物の解放から所定時間が経過したか否かを判定する。荷物の解放から所定時間が経過していないと判定された場合(ステップS40:NO)、処理はステップS33に戻る。このとき、制御部16は、基準適正度を低下させてもよい。一方、荷物の解放から所定時間が経過したと判定された場合(ステップS40:YES)、処理はステップS41へ進む。
【0071】
ステップS41では、制御部16は、最終的に保存された配送証明画像を荷物の受取人の端末に画像提供部164により画像提供部164により提供する。なお、画像提供部164は、最終的に保存された配送証明画像及びその証明適正度を含む保存要求を管理サーバ2へ送信してもよい。これにより、管理サーバ2は、当該保存要求に応じて、配送証明画像及びその証明適正度を記憶部22に保存させる。
【0072】
以上説明したように、上記実施形態によれば、UAV1により解放場所に置かれた荷物と当該荷物の周辺領域とがカメラの画角に収まるようにUAV1の位置と向きとの少なくとも何れか一方を制御し、当該カメラにより撮像された荷物を含む周辺領域の画像を配送証明画像として保存させるように構成したので、配達者を必要としないUAV1が置き配を行う場合であっても、荷物の配送完了を証明するための適切な画像を保存することができる。また、解放場所に置かれた荷物とともに目印となる地物を検出し、荷物とともに地物が検出されたタイミングで撮像された画像を配送証明画像として保存させる構成によれば、当該荷物の配送先に特有の配送証明画像が保存させることができる。これにより、例えば受取人宅の広い敷地内に荷物が置かれる場合であっても、荷物の受取人にその位置を容易に判断させることができる。
【0073】
なお、上記実施形態は本発明の一実施形態であり、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲で上記実施形態から種々構成等に変更を加えてもよく、その場合も本発明の技術的範囲に含まれる。上記実施形態において、管理サーバ2の制御部23は、カメラにより撮像された画像を含むセンシング情報をUAV1から逐次受信し、当該撮像された画像に基づいてUAV1の撮像制御を行うように構成してもよい。この場合、管理サーバ2の制御部23は、当該撮像された画像に基づいて荷物を含む周辺領域が画角に収まるようにUAV1の位置と向きとの少なくとも何れか一方を制御するための制御指令をUAV1へ送信する。そして、管理サーバ2の制御部23は、UAV1のカメラにより撮像された荷物を含む周辺領域の画像を配送証明画像として記憶部22に保存させ、当該保存された配送証明画像を荷物の受取人の端末に提供する。
【0074】
この場合において、管理サーバ2の制御部23は、当該荷物とともに目印となる地物を検出し、荷物とともに地物が検出されたタイミングで撮像された画像を配送証明画像として記憶部22に保存させてもよい。また、管理サーバ2の制御部23は、UAV1のカメラにより連続的に撮像された画像ごとに当該画像におけるカラー値の変化率を算出し、当該変化率が基準変化率以上になったタイミングで目印となる地物を検出してもよい。さらに、管理サーバ2の制御部23は、撮像された画像の証明適正度を特定し、当該証明適正度が基準適正度以上である場合に、当該撮像された画像を配送証明画像として保存させてもよい。
【0075】
また、上記実施形態においては、無人機としてUAVを例にとって説明したが、飛行ロボットなどに対しても本発明は適用可能である。また、上記実施形態は、荷物を積載し、無人で地上を自律的に走行することが可能なUGV(Unmanned Ground Vehicle)に対しても適用可能である(ただし、ホバリングさせることを除く)。かかるUGVは、複数の車輪を有するものであってもよいし、車輪を有しないロボット(例えば、2足歩行ロボット)等であってもよい。例えば、UGVは、配送先の近傍に到着した場合に、荷物の解放場所を特定し、当該解放場所においてUGVの搬出機構を通じて荷物を解放(搬出)させる。そして、UGVは、解放場所に置かれた荷物と当該荷物の周辺領域とがUGVのカメラの画角に収まるようにUGVの位置と向きとの少なくとも何れか一方を制御し、当該カメラにより撮像された荷物を含む周辺領域の画像を配送証明画像として保存部に保存させる。また、無人機の向きを制御することに代えて、或いは、無人機の向きを制御するとともに、無人機に搭載されたカメラの向きを制御することで、荷物と当該荷物の周辺領域とが画角に収まるようにしてもよく、この場合も本発明の技術的範囲に含まれる。
【符号の説明】
【0076】
1 UAV
2 管理サーバ
11 駆動部
12 測位部
13 通信部
14 センサ部
15 記憶部
16 制御部
161 飛行制御部
162 解放制御部
163 撮像制御部
164 画像提供部
21 通信部
22 記憶部
23 制御部
S 配送システム
【要約】
UAV1及び管理サーバ2を含んで構成される配送システムSにおいて、UAV1は、解放場所に置かれた荷物と当該荷物の周辺領域とがカメラの画角に収まるようにUAV1の位置と向きとの少なくとも何れか一方を制御する。そして、UAV1は、当該カメラにより撮像された荷物を含む周辺領域の画像を、当該荷物の配送完了を証明する画像として、UAV1の記憶部15または管理サーバ2の記憶部22などにおける保存部に保存させる。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12