(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025038528
(43)【公開日】2025-03-19
(54)【発明の名称】レーザースキャン装置、レーザースキャン方法およびレーザースキャン用プログラム
(51)【国際特許分類】
G01C 15/00 20060101AFI20250312BHJP
【FI】
G01C15/00 103D
G01C15/00 103E
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2023145191
(22)【出願日】2023-09-07
(71)【出願人】
【識別番号】000220343
【氏名又は名称】株式会社トプコン
(74)【代理人】
【識別番号】100096884
【弁理士】
【氏名又は名称】末成 幹生
(72)【発明者】
【氏名】佐々木 陽
(57)【要約】
【課題】レーザースキャンにおいて、スキャン対象に応じた適切なスキャン条件の設定を行う。
【解決手段】レーザースキャンを行う装置であって、撮影手段であるカメラ107と、レーザースキャンを行う手段である光軸偏向部208と、前記カメラ107が撮影した画像に基づき、前記画像に写った対象の奥行き情報を得る奥行き情報取得部202と、前記奥行き情報に基づき、前記対象に対する前記レーザースキャンの条件を設定するスキャン条件設定部とを備えるレーザースキャナ100。
【選択図】
図3
【特許請求の範囲】
【請求項1】
レーザースキャンを行う装置であって、
撮影手段と、
レーザースキャンを行う手段と、
前記撮影手段が撮影した画像に基づき、前記画像に写った対象の奥行き情報を得る手段と、
前記奥行き情報に基づき、前記対象に対する前記レーザースキャンの条件を設定する手段と
を備えるレーザースキャン装置。
【請求項2】
前記対象として第1の対象と第2の対象があり、
前記第1の対象に対するレーザースキャンの結果に基づき、前記第2の対象の画像から得た前記奥行き情報の修正を行う手段を備える請求項1に記載のレーザースキャン装置。
【請求項3】
前記第2の対象は、前記第1の対象と類似する外観である請求項2に記載のレーザースキャン装置。
【請求項4】
前記第2の対象は、前記第1の対象に最も近い奥行き情報を有する対象である請求項2に記載のレーザースキャン装置。
【請求項5】
前記撮影手段の撮影範囲に対するレーザースキャンが行われ、
該レーザースキャンは、前記対象に対するレーザースキャンのスキャン密度よりも小さなスキャン密度で行われ、
前記撮影手段の撮影範囲に対する前記レーザースキャンの結果に基づき、前記奥行き情報の修正が行われる請求項1に記載のレーザースキャン装置。
【請求項6】
レーザースキャンを行う方法であって、
撮影画像に基づき、前記撮影画像に写った対象の奥行き情報を得、
前記奥行き情報に基づき、前記対象に対するレーザースキャンの条件を設定するレーザースキャン方法。
【請求項7】
レーザースキャンを行うためのレーザースキャン用プログラムであって、
コンピュータに
撮影画像に基づき、前記撮影画像に写った対象の奥行き情報を取得させ、
前記奥行き情報に基づき、前記対象に対するレーザースキャンの条件を設定させるレーザースキャン用プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、レーザースキャンに関する。
【背景技術】
【0002】
レーザースキャン装置が知られている(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特定の対象のレーザースキャンを行う場合、その形状や距離に応じてスキャン条件を設定する必要がある。具体的には、スキャン範囲やスキャン密度を対象の形状や対象までの距離に応じて調整することが望まれる。このような背景において、本発明は、スキャン対象に応じた適切なスキャン条件の設定が行なえるレーザースキャンの技術を得ることを目的とする。
【課題を解決するための手段】
【0005】
本発明は、レーザースキャンを行う装置であって、撮影手段と、レーザースキャンを行う手段と、前記撮影手段が撮影した画像に基づき、前記画像に写った対象の奥行き情報を得る手段と、前記奥行き情報に基づき、前記対象に対する前記レーザースキャンの条件を設定する手段とを備えるレーザースキャン装置である。
【0006】
本発明において、前記対象として第1の対象と第2の対象があり、前記第1の対象に対するレーザースキャンの結果に基づき、前記第2の対象の画像から得た前記奥行き情報の修正を行う手段を備える態様が挙げられる。また、この態様において、前記第2の対象は、前記第1の対象と類似する外観であることは好ましい。また、前記第2の対象は、前記第1の対象に最も近い奥行き情報を有する対象である態様は好ましい。
【0007】
本発明において、前記撮影手段の撮影範囲に対するレーザースキャンが行われ、該レーザースキャンは、前記対象に対するレーザースキャンのスキャン密度よりも小さなスキャン密度で行われ、前記撮影手段の撮影範囲に対する前記レーザースキャンの結果に基づき、前記奥行き情報の修正が行われる態様は好ましい。
【0008】
本発明は、レーザースキャンを行う方法であって、撮影画像に基づき、前記撮影画像に写った対象の奥行き情報を得、前記奥行き情報に基づき、前記対象に対するレーザースキャンの条件を設定するレーザースキャン方法である。また本発明は、レーザースキャンを行うためのレーザースキャン用プログラムであって、コンピュータに撮影画像に基づき、前記撮影画像に写った対象の奥行き情報を取得させ、前記奥行き情報に基づき、前記対象に対するレーザースキャンの条件を設定させるレーザースキャン用プログラムである。
【発明の効果】
【0009】
本発明によれば、スキャン対象に応じた適切なスキャン条件の設定が行なえるレーザースキャンの技術が得られる。
【図面の簡単な説明】
【0010】
【
図2】レーザースキャンの原理を示す概念図である。
【
図5】処理の手順の一例を示すフローチャートである。
【
図6】処理の手順の一例を示すフローチャートである。
【
図7】スキャンパターンの一例を示すイメージ図である。
【発明を実施するための形態】
【0011】
1.第1の実施形態
(レーザースキャナ概要)
図1には、レーザースキャナ(レーザースキャン装置)100の外観が示されている。レーザースキャナ100は、脚部である三脚101、三脚101の上部に固定されたベース部102、ベース部102上で水平回転(鉛直軸を回転軸とする回転)が可能な回転体である水平回転部103、水平回転部103の上に固定された支持部104を備えている。
【0012】
支持部104は、鉛直方向に起立し、水平方向において離間して対向して配置された一対の垂直部を備え、この一対の垂直部の間に鉛直回転部105が鉛直回転可能な状態で保持されている。ここで、鉛直回転は、水平方向に延長する軸を回転軸とする回転である。鉛直回転は、仰角回転および俯角回転と同義である。
【0013】
水平回転部103の水平回転と鉛直回転部105の鉛直回転は、モータによって駆動され、その回転角はエンコーダにより計測される。水平回転部103の水平回転と鉛直回転部105の鉛直回転を手動で行う形態も可能である。
【0014】
鉛直回転部105の背面には、レーザースキャナ100を操作するための図示しない操作パネル(タッチパネルディスプレイ)が配置されている。レーザースキャナ100の操作を端末(リモコン)で行うこともできる。この場合、端末とレーザースキャナ100との間で無線通信が行われる。端末として、スマートフォンやタブレット型コンピュータを利用する形態も可能である。
【0015】
鉛直回転部105は、レーザースキャン光の放射と受光を行う光学系である光学部106を備えている。レーザースキャナ100は、水平回転部103と鉛直回転部105を動かさない状態で特定の範囲のレーザースキャンを行うことができる。
【0016】
以下、このレーザースキャンの原理を説明する。このレーザースキャンについては、日本国特許第6616077号公報、日本国特許第6877946号公報に記載されている。
【0017】
図2は、レーザースキャンの原理を示す図である。
図1の光学部106の内側には、光軸偏向部208が配置されている。
【0018】
光軸偏向部208は、プリズムAとプリズムB、プリズムA’とプリズムB’を有する。プリズムAとプリズムBは、発光部206から出射されるスキャン光(パルス状の測距光)の光軸(発光部206の光軸)の方向を軸として回転が可能である。回転は、モータにより行われ、その回転角は精密に測定されている。なお、上記発光部206の光軸の方向は、光学部106および受光部207の光軸の方向と一致するように定められている。
【0019】
プリズムA’とプリズムB’は、プリズムAとプリズムBと同様な回転が可能とされている。回転は、モータにより行われ、その回転角は精密に測定されている。
【0020】
プリズムAとプリズムA’は、同じ方向から入射する光を同じ偏向角で偏向するように設定され、回転する際には同期して同じように回転する。これは、プリズムBとプリズムB’についても同様であり、プリズムBとプリズムB’は、同じ方向から入射する光を同じ偏向角で偏向するように設定され、回転する際には同期して同じように回転する。
【0021】
発光部206からは、スキャン光がパルス発光される。このスキャン光は、プリズムBとプリズムAにより光軸の方向が偏向され、光学部106から外部の特定の方向に出射される。
【0022】
このスキャン光は、対象の反射点で反射され、光学部106から反射点への光路と逆の経路を辿って光学部106に入射する。この外部から光学部106に入射したスキャン光は、プリズムA’とプリズムB’を通過し、その際に光軸の方向が偏向され、受光部207に入射する。
【0023】
プリズムAとプリズムA’およびプリズムBとプリズムB’は、同じ方向から入射する光を同じ偏向角で偏向するよう設定されているので、反射点から反射され戻ってきたスキャン光がプリズムA’とプリズムB’を通過することで、その光軸の方向は受光部207の光軸の方向に戻され、当該スキャン光は受光部207に入射する。
【0024】
ここで、プリズムAとプリズムA’を同期して回転させると、光学部106から外部に出射されるスキャン方向の光軸の方向が変化する。これは、プリズムBとプリズムB’を同期して回転させた場合も同じである。また、プリズムAとプリズムA’を同期して回転させ、同時にプリズムBとプリズムB’を同期して回転させた場合も光学部106から外部に出射されるスキャン方向の光軸の方向が変化する。
【0025】
よって、スキャン光をパルス発光させながら、プリズムAとプリズムA’の回転および/またはプリズムBとプリズムB’の回転を行うことで、スキャン光の照射方向が刻々と変化し、プリズムによる偏向の範囲におけるレーザースキャンが可能となる。
【0026】
レーザースキャンのパターンやスキャン範囲は、プリズムの回転速度、回転方向、回転範囲の組み合わせにより、多様なものが実現できる。
図7にスキャンパターンの一例を示す。
【0027】
例えば、プリズムAとプリズムA’を回転させ、プリズムBとプリズムB’を回転させずにスキャンを行うと円形のスキャンパターンが得られ、次にプリズムBとプリズムB’を僅かに回転させ、停止させた状態でプリズムAとプリズムA’を回転させてスキャンを行うと、径の異なる2つの円が同心円状に配置されたスキャンパターンが得られる。この処理を繰り返すことで、
図7(A)のスキャンパターンが得られる。また、上記の動作にプリズムBとプリズムB’の回転を組み合わせると、
図7(B)のスキャンパターンが得られる。
【0028】
また、プリズムAとプリズムA’を第1の方向に回転させ、プリズムBとプリズムB’を第1の方向と逆の方向に同じ速度で回転させた状態でスキャンを行うと、直線状のスキャンが行われる。これを利用すると、
図7(C)のスキャンパターンが得られる。
【0029】
また、プリズムAとプリズムA’を第1の方向に回転させ、プリズムBとプリズムB’を第1の方向と逆の方向に異なる速度で回転させた状態でスキャンを行うと、
図7(D)のスキャンパターンが得られる。
【0030】
図7に示すように、
図2の光軸偏向部208を利用したレーザースキャンは、2系統のプリズムの回転を組み合わせることで、多様なスキャンパターンおよびスキャン範囲を実現できる。
【0031】
また、プリズムの回転速度および/または発光部206の発光周波数(パルス周波数)を調整することで、スキャン密度(スキャン点の密度)を調整できる。
【0032】
また、本実施形態によれば、レーザースキャナ100に正対していない面上で奥行き方向においてスキャン点の間隔が一定となるようなスキャンも可能である。例えば、路面上にレーザースキャナを設置し、近くから遠くに向かって路面のレーザースキャンを行う場合、通常の等間隔な角度でスキャン光によるスキャンを行うと、遠くに行くにしたがってスキャン点の間隔が広くなる。本実施形態の場合、プリズムの回転速度をスキャン中に可変させることで、上記の路面に対するレーザースキャンにおいて、遠近方向におけるスキャン点の間隔を一定にすること、あるいは一定(等間隔)に近づけることが可能である。
【0033】
スキャン光の照射方向(光学部106からの出射の方向)は、各プリズムの回転角から計算できる。すなわち、プリズムAとプリズムA’の回転角、およびプリズムBとプリズムB’の回転角から、レーザースキャナ100から見たスキャン点の方向が計算される。
【0034】
なお、プリズムAとプリズムA’の組と、プリズムBとプリズムB’の組の回転角を180°異ならせた場合に偏向角は0°となるようにプリズムの特性が選択されている。この場合、偏向角は0°となり、光学部106から正面の方向にスキャン光が放射される。
【0035】
図2では、原理を説明するために、プリズムAとプリズムA’を別に用意し、またプリズムBとプリズムB’を別に用意する構造を例示した。ここで、プリズムAとプリズムA’を一つのプリズムで兼用し、またプリズムBとプリズムB’を一つのプリズムで兼用する形態も可能である。この場合、発光部206の光軸と受光部207の光軸の分離と合成を行う光学系を発光部206または受光部207の前に配置する。
【0036】
図1に戻り、鉛直回転部105は、カメラ107を備えている。カメラ107は、RGB画像の撮影を行うデジタルカメラであり、光学部106からのレーザースキャンが可能な範囲の撮影を行う。カメラ107が撮影した画像の画像データを解析することで、撮影画像に写った対象物の奥行き情報(距離情報)が得られる。
【0037】
(レーザースキャナブロック図)
図3は、レーザースキャナ100の機能ブロック図である。レーザースキャナ100は、カメラ107、発光部206、受光部207、光軸偏向部208を備える。カメラ107は、
図1に示されるデジタルカラーカメラであり、
図2に原理を示すレーザースキャンの範囲を撮影する。カメラ107と光軸偏向部208の位置と姿勢の関係は既知であり、カメラ107の撮影範囲(撮影画面)におけるスキャン点の位置は特定できる。すなわち、カメラ107が撮影した画像における特定の範囲(特定の部分)とレーザースキャンの範囲との対応関係は特定できる。
【0038】
発光部206は、スキャン光の発光を行うための発光素子(例えば、レーザーダイオード素子)と光学系を備える。スキャン光は、発光部206からパルス発光される。受光部207は、対象物で反射して戻ってきたスキャン光を受光するための光学系と受光素子(例えばフォトダイオード)を備える。
【0039】
光軸偏向部208は、
図2に原理を示すプリズムを用いたスキャン光の光軸の偏向(光軸の向きを変える)を行う。光軸偏向部208の具体的な構造については、例えば、日本国特許第6616077号公報、日本国特許第6877946号公報に記載されている。
【0040】
レーザースキャナ100は、撮影対象の抽出部201、奥行き情報取得部202、スキャン対象指定受付部203、スキャン密度指定受付部204、スキャン条件設定部205、偏向制御部209、距離算出部210、光軸方向算出部211、点群データ生成部212、奥行き情報修正部213、奥行き情報学習部214の各機能部を備える。
【0041】
レーザースキャナ100は、コンピュータを備えている。このコンピュータは、レーザースキャナ100の動作を制御する制御コンピュータとして機能する。このコンピュータにより、後述する
図5および
図6の処理が実行される。また、このコンピュータにより、上述した各機能部が実現される。
【0042】
上述した各機能部は、レーザースキャナ100が内蔵するコンピュータにより、各機能部を実現するためのソフトウェアが実行されることで実現されている。これらの機能部の1または複数を専用のハードウェアで構成する形態も可能である。またこれら機能部の一または複数をレーザースキャナ100とは別に用意したハードウェア(例えば、別に用意したコンピュータやデータ処理サーバ)で実現する構成も可能である。
【0043】
撮影対象の抽出部201は、カメラ107が撮影した画像に写った各種対象を抽出する。例えば、路面、壁、屋根、手摺、配管、柱、架線、路面、車両といった個別の対象を識別し抽出する。この処理は、画像処理ソフトウェアを用いて行う。また、抽出された対象の画像は、路面、壁、屋根、手摺、配管、柱、架線、路面、車両といった類型に分類される。
図4は、撮影画像の一例を示すイメージ図である。
【0044】
奥行き情報取得部202は、カメラ107が撮影した画像(RGB画像)に写った対象の奥行き情報(距離情報)を取得する。ここで、奥行き情報は、カメラ107の光学原点(投影中心)から対象物までの距離の情報である。
【0045】
カメラ107が撮影した画像は、単眼画像である。奥行き情報取得部202は、深層学習を利用したニューラルネットワーク(深度推定AIモデル)を用いて、単眼画像である撮影画像中に写った対象物の距離情報を予測し、撮影画像のデプスマップ(距離マップ)を作成する。このデプスマップでは、濃淡や色調によって撮影画像に写った対象の距離情報(カメラ107の光学原点からの距離)が表現される。深度推定AIモデルは各種開発されており、ネット上から入手できる。
【0046】
撮影対象の抽出部201において抽出された各抽出対象に係る情報と上記の奥行き情報(距離情報)とを組み合わることで、各対象の奥行き情報(距離情報)を得ることができる。
【0047】
スキャン対象指定受付部203は、カメラ107が撮影した画像の中から指定された対象を受け付ける。指定は、レーザースキャナ100の操作パネルを用いて行われる。具体的には、以下のようにして行われる。まず、当該操作パネルのタッチパネルディスプレイにカメラ107が撮影した画像が表示される。この表示された中において、ユーザは、レーザースキャンの対象としたい部分をタッチする。これにより、レーザースキャンの対象が指定され、その情報がスキャン対象指定受付部203において取得される。
【0048】
スキャン対象が選択されると、そのスキャン対象に適したスキャンパターンが選択される。複数のスキャンパターンの中から所望のスキャンパターンを選択する形態も可能である。
【0049】
スキャン密度指定受付部204は、指定されたスキャン対象におけるスキャン密度(スキャン点の密度)の指定を受け付ける。スキャン密度の指定は、レーザースキャナ100が備える図示しない操作パネルを用いて行われる。スキャン密度は、スキャン対象面の単位面積当たりのスキャン点(反射点)の数である。
【0050】
スキャン条件設定部205は、レーザースキャナ100が行うレーザースキャンのスキャン条件の設定を行う。スキャン条件は、指定された対象をカバーする範囲に対する指定された密度のスキャンを行うための発光部の発光条件、および/または光軸偏向部208におけるプリズムの回転を制御する条件を設定する。
【0051】
例えば、
図4の電柱151がレーザースキャンの対象として選択されたとする。この場合、電柱151の形状に即した縦長の矩形状のスキャン範囲が設定され、また、そのスキャン範囲における指定されたスキャン密度でのレーザースキャンが実現するスキャン条件が設定される。この際、撮影画像に基づいて深度推定AIモデルが推定した電柱151の奥行き情報を利用して、スキャン密度の設定が行なわれる。
【0052】
例えば、スキャン点までの距離をL、隣接するスキャン光の見開き角をθとして、Lθが概略のスキャン点の離間距離となる。なお、正対面でない場合は、角度によって当該離間距離はLθよりも長くなるので、その場合は、スキャン面の向きを勘案する。ここで、深度推定AIモデルにおいてLが推定され、θを調整することで、スキャン点の間隔Lθを設定できる。θは、スキャン光の発光周波数とプリズムの回転速度の設定により調整される。このLθの設定によりスキャン密度の設定が行なわれる。
【0053】
偏向制御部209は、光軸偏向部208におけるプリズムの回転させるモータを制御するための制御信号を生成する。偏向制御部209により、レーザースキャンの制御が行われる。偏向制御部209は、スキャン制御部として機能する。
【0054】
距離算出部210は、光波測距の原理に基づき、レーザースキャナ100の光学原点からスキャン点(スキャン光の反射点)までの距離を算出する。光学原点は、例えば、発光部206の発光素子の発光点の位置である。
【0055】
光軸方向算出部211は、光軸偏向部208におけるプリズムの回転角の情報から各スキャン光(1条(1パルス)のスキャン光それぞれ)の光軸の方向を算出する。この処理により、レーザースキャナ100から見た各スキャン点の方向の情報が得られる。点群データ生成部212は、各スキャン点のレーザースキャナ100の光学原点からの距離と方向のデータをまとめたデータである点群データを生成する。点群データには、各スキャン点からの反射光の強度も含まれる。
【0056】
奥行き情報修正部213は、奥行き情報取得部203が取得した画像の奥行き情報(距離情報)を点群データ生成部で生成された点群データに基づいて修正する。奥行き情報取得部203が取得した画像の奥行き情報の精度は、ステレオ写真計測や光波測距計測に比較して誤差が大きく、また対象の画像の写り方(色彩、影の影響、明度、解像度、背景画像との関係等)の影響を受け易い。
【0057】
そこで、以下の処理を行い、上記の誤差の影響を低減する。まず、撮影画像中から複数の対象が抽出され、そのそれぞれについて奥行き情報(距離情報)が得られているとする。
【0058】
ここで、第1の抽出対象に対する範囲を絞ったレーザースキャンを行い、このレーザースキャンに基づく奥行き情報(距離情報)を得る。次に、撮影画像から得た当該抽出対象の奥行き情報(第1の奥行情報)とレーザースキャンから得た奥行き情報(第2の奥行き情報)とを比較する。
【0059】
ここで、第1の奥行き情報は、深度推定AIモデルを用いて撮影画像から推定した情報であり、第2の奥行き情報に比較して誤差が大きい。言い換えると、第2の奥行き情報は第1の奥行き情報に比較して精度が高い。
【0060】
ここでは、第1の奥行き情報と第2の奥行き情報の差分や比を誤差修正情報として取得し、この誤差修正情報を用いて、第1の抽出対象以外の抽出対象(例えば、第2の抽出対象、第3の抽出対象、・・・・)に係る深度推定AIモデルが得た奥行き情報を修正する。
【0061】
例えば、第1の抽出対象に係り、第2の奥行き情報/第1の奥行き情報=kである場合、kを誤差係数として取得し、第2の抽出対象の画像から得た奥行き情報(第1の奥行き情報)をk倍する。これにより、第2の抽出対象に係る画像から得た奥行き情報の誤差が是正される。第3の抽出対象以降の抽出対象についても同様の処理を行う。
【0062】
また、第2の抽出対象に関して、「k=第2の奥行き情報/第1の奥行き情報」を取得し、そこで得たkを用いて第3の抽出対象の画像から得られる奥行き情報を修正してもよい。つまり、0を含まない自然数をnとして、第nの抽出対象に関して、「kn=第2の奥行き情報/第1の奥行き情報」を取得し、そこで得たknを用いて第n+1の抽出対象の画像から得られる奥行き情報を修正してもよい。
【0063】
奥行き情報修正部213において行われる処理として以下の態様も可能である。まず、第1の抽出対象に係る誤差係数kを上記の方法により取得する。次に、第1の抽出対象に類似する外観の抽出対象を第2の抽出対象として選択する。例えば、第1の抽出対象が配管である場合、同様な配管の外観またはそれに近い外観を有した対象を次の抽出対象として選択する。そして、この次に選択された抽出対象の画像から奥行き情報を得、この奥行き情報を第1の抽出対象に関して得た誤差係数kを用いて補正する。具体的には、この次に選択された抽出対象の画像から得た奥行き情報をk倍する。
【0064】
この方法は、似た外観の対象では、深度推定AIモデルによる深度の推定(奥行き情報の推定)において、同様な誤差が生じ易い可能性があるいう知見に基づく。
【0065】
奥行き情報修正部213において行われる処理として以下の態様も可能である。まず、第1の抽出対象に係る誤差係数kを上記の方法により取得する。次に、第1の抽出対象に係る第1の奥行き情報(画像に基づき深度推定AIモデルが推定した奥行き情報)に最も近い第1の奥行き情報が得られた抽出対象を次の抽出対象として選択する。そして、この次に選択された抽出対象の画像から奥行き情報を得、この奥行き情報を第1の抽出対象に関して得た誤差係数kを用いて補正する。具体的には、この次に選択された抽出対象の画像から得た奥行き情報をk倍する。
【0066】
この方法は、深度推定AIモデルによる深度の推定値が近い場合、誤差も近い値となる可能性が高いう知見に基づく。
【0067】
奥行き情報学習部214は、レーザースキャンによって得た奥行き情報(距離情報)を教師データとして、奥行き情報取得部202で用いられる深度推定AIモデルの再学習を行う。これにより、当該深度推定AIモデルの推定精度を高めることができる。
【0068】
(処理の手順の一例)
以下、レーザースキャナ100の動作の一例を説明する。
図5は、処理の手順の一例を示すフローチャートである。
図5の処理を実行するプログラムは、レーザースキャナ100が備えるコンピュータの記憶部あるいは適当な記憶媒体に記憶され、当該コンピュータにより読み出されて実行される。当該プログラムをサーバに記憶させ、そこからダウンロードして利用する形態も可能である。
【0069】
まず、カメラ107を用いて、レーザースキャンの対象を含む範囲の撮影を行い、画像データを得る(ステップS101)。次に、ステップS101において得た画像データに基づき、撮影画像中から個別の撮影対象の抽出を行う(ステップS102)。この処理は、撮影対象の抽出部201において行われる。
【0070】
次に、ステップS102において抽出された各対象の奥行き情報を取得する(ステップS103)。この処理は、奥行き情報取得部202において行われる。次に、ステップS102において抽出された複数の撮影対象の中から、レーザースキャンを行う対象の指定を受け付ける(ステップS104)。この指定は、ユーザにより行われる。指定される対象の数は、一つであってもよいし、複数であってもよい。
【0071】
以下、ステップS104の一例を説明する。例えば、
図4の撮影画像の中から、電柱151が抽出されており、この電柱151をスキャン対象として選択するとする。この場合、
図4の画面がレーザースキャナ100の操作部のディスプレイや端末のディスプレイに表示される。ユーザは、その表示画像の中から電柱151の部分を選択する。この選択情報が
図3のスキャン対象指定受付部203において受け付けられる。
【0072】
次に、スキャン対象の選択が行われる(ステップS105)。例えば、ステップS103において複数の対象が指定された場合、その中の一つがスキャン対象として選択される(ステップS105)。選択は、自動で選択される形態とユーザが選択する形態が可能である。
【0073】
次に、ステップS105において選択されたスキャン対象におけるスキャン密度(スキャン点の密度)の指定を受け付ける(ステップS106)。例えば、1点/cm2といったスキャン密度の指定を受け付ける。指定は、ユーザにより行われる。
【0074】
次に、ステップS105において選択されたスキャン対象に絞った範囲のレーザースキャンの条件、およびステップS106において指定されたスキャン密度が得られるスキャン条件の設定が行われる(ステップS107)。この処理は、
図3のスキャン条件設定部205において行われる。以下、ステップS107において行われる処理の詳細な一例を説明する。
【0075】
例えば、
図4の表示画像において、電柱151の部分がスキャン対象として選択されているとする。この場合、電柱151に範囲を絞ったスキャンを行う条件が設定される。このスキャン条件は、スキャンの範囲を決める条件となる。具体的には、電柱151に絞ったスキャンを行うためのプリズム(
図2のプリズムA,プリズムA’、プリズムB,プリズムB’)の回転範囲を決める条件が設定される。
【0076】
また、以下の手順により、スキャン密度の設定が行われる。まず、ステップS103において、電柱151の部分の奥行き情報(距離情報)は得られている。よって、電柱151におけるスキャン密度は、スキャン光の発光周波数と偏向制御部209におけるプリズムの回転速度によって一義的に決まる。そこで、電柱151におけるスキャン密度が指定された場合、スキャン光の発光周波数および/または偏向制御部209におけるプリズムの回転速度を調整することで、指定されたスキャン密度を得るようにする。
【0077】
レーザースキャンの条件の設定を行ったら、指定された対象(部位)のレーザースキャンを行い、当該対象の点群データを得る(ステップS108)。
【0078】
次に、ステップS108によって得た点群データに基づき、ステップS103において得た奥行き情報(距離情報)の修正を行う(ステップS109)。
【0079】
例えば、
図4の電柱151の部分がスキャン対象として選択されているとする。この場合、電柱151に係るステップS103において得た奥行き情報(距離情報)と、電柱151に係るステップS108の結果得られた奥行き情報(距離情報)とを比較してその差分を求め、その差を是正する修正パラメータを得る。この修正パラメータを用いて、次に選択されるスキャン対象の奥行き情報(撮影画像に基づく深度推定AIモデルが推定した奥行き情報)の修正を行う。
【0080】
次に、この時点で未選択の対象があるか否か、の判定が行われる(ステップS109)。未選択の対象がある場合、未選択の対象が選択され、ステップS105以下の処理が再度実行される。
【0081】
(優位性)
図3には、レーザースキャンを行う装置であって、撮影手段であるカメラ107と、レーザースキャンを行う手段である光軸偏向部208と、前記カメラ107が撮影した画像に基づき、前記画像に写った対象の奥行き情報を得る手段である奥行き情報取得部202と、前記奥行き情報に基づき、前記対象に対する前記レーザースキャンの条件を設定する手段であるスキャン条件設定部とを備えるレーザースキャナ100が示されている。
【0082】
この構成によれば、撮影画像から得られる撮影対象の距離情報を利用してレーザースキャンの条件の設定を行うことで、スキャン対象に応じた適切なスキャン条件の設定が可能となる。
【0083】
(再学習処理)
図5の処理を繰り返し行うことで、対象の画像とレーザースキャンによって得たその距離情報のデータが蓄積される。このレーザースキャンによって得た距離情報を教師データとして機械学習を行うことで、利用する深度推定AIモデルの推定精度を高めることができる。
【0084】
2.第2の実施形態
図6に処理の一例を示す。
図6の処理を実行するプログラムは、レーザースキャナ100が備えるコンピュータの記憶部あるいは適当な記憶媒体に記憶され、当該コンピュータにより実行される。
【0085】
まず、計測対象を含む範囲の撮影を行う(ステップS201)。次に、ステップS201における撮影範囲に対するレーザースキャンを行う(ステップS202)。このレーザースキャンは、粗い(疎な)レーザースキャンで良く、例えば、撮影画像から抽出された各対象に対するレーザースキャン(ステップS108におけるレーザースキャン)におけるスキャン密度に比較して(1/100)以下とする。これは、ステップS202におけるレーザースキャンは、深度推定AIモデルが推定した深度情報の校正のための点群データを得ることが目的であり、3Dモデル作成のための点群データ程の高い密度での奥行き情報(距離情報)を得る必要がないからである。
【0086】
次に、ステップS201において得た撮影画像の中から撮影対象の抽出を行い(ステップS203)、更に抽出された対象の撮影画像に基づく奥行き情報の取得を行う(ステップS204)。
【0087】
次に、ステップS204において得た奥行き情報を、ステップS202において得たレーザースキャンデータを用いて修正する(ステップS205)。
【0088】
以下、この処理の詳細な一例を説明する。ステップS204において得た奥行き情報は撮影画像に基づき深度推定AIモデルが推定した情報であり誤差を含む。他方において、ステップS202において得たレーザースキャンデータは、スキャン密度が疎であるが、各スキャン点の測距情報は、深度推定AIモデルが推定した奥行き情報(距離情報)に比較して高い精度を有する。また、ステップS201において得た撮影画像とステップS202において得たレーザースキャンデータは重畳でき、撮影画像とスキャン点の対応関係は特定できる。
【0089】
そこで、ステップS204において得た奥行き情報に係り、対応するレーザースキャン点における深度推定AIモデルが推定した奥行き情報とレーザースキャン点の奥行き情報を比較し、誤差を評価する。レーザースキャン点は密度が疎であるが、深度推定AIモデルが推定した奥行き情報は、疎なレーザースキャン点の間隔で誤差が評価され、校正が行われる。
【0090】
例えば、あるスキャン点Piに着目する。この場合、スキャン点Piにおけるレーザースキャンによる奥行き情報(距離情報)と、その位置における深度推定AIモデルが推定した奥行き情報が比較される。そしてその差に基づき、当該点Piにおける深度推定AIモデルが推定した奥行き情報が修正される。この処理が各スキャン点において行われる。
【0091】
2つのスキャン点の間における深度推定AIモデルが推定した奥行き情報は、内挿により補正される。例えば、スキャン点Piにおける補正値がΔf1であり、スキャン点Pi+1における補正値がΔf2であるとする。この場合、スキャン点Piとスキャン点Pi+1の間において補正値が線形に変化すると仮定し、スキャン点Piとスキャン点Pi+1の間における深度推定AIモデルが推定した奥行き情報が修正される。
【0092】
ステップS205の後、
図5において説明したステップS104以下の処理が実行される。なお、この処理では、
図5のステップS109の処理は省略される(勿論、実行しても良い)。
【0093】
本実施形態によれば、ステップS202における粗レーザースキャンの結果を用いて、画像から得た奥行き情報が校正される。このため、画像から得た奥行き情報の精度を高めることができ、適切なスキャン条件の設定が可能となる。
【0094】
本実施形態において、ステップS202のレーザースキャンは、粗いスキャン密度のレーザースキャンで良く、スキャンに要する時間は短くて済む。よって、作業時間の増大を抑えつつ、画像から得る奥行き情報(距離情報)の精度の低下を抑えることができる。
【0095】
3.他の実施形態
特定の範囲のレーザースキャンを行う手段は、
図2に示す原理に限定されない。例えば、電子式にスキャンを行うレーザースキャナや、ミラーの回転や往復運動によりスキャン光の走査を行うレーザースキャナを用いることもできる。
【産業上の利用可能性】
【0096】
本発明は、レーザースキャンに係る技術に利用できる。
【符号の説明】
【0097】
100…レーザースキャナ、101…三脚、102…ベース部、103…水平回転部、104…支持部、105…鉛直回転部、106…光学部、107…カメラ、151…電柱。