IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士フイルム株式会社の特許一覧

特許7158471検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム
<>
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図1
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図2
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図3
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図4
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図5
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図6
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図7
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図8
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図9
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図10
  • 特許-検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-10-13
(45)【発行日】2022-10-21
(54)【発明の名称】検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラム
(51)【国際特許分類】
   A61B 1/045 20060101AFI20221014BHJP
   G06T 7/00 20170101ALI20221014BHJP
【FI】
A61B1/045 619
A61B1/045 614
G06T7/00 300F
G06T7/00 612
【請求項の数】 14
(21)【出願番号】P 2020518198
(86)(22)【出願日】2019-04-08
(86)【国際出願番号】 JP2019015361
(87)【国際公開番号】W WO2019216084
(87)【国際公開日】2019-11-14
【審査請求日】2020-11-06
(31)【優先権主張番号】P 2018090616
(32)【優先日】2018-05-09
(33)【優先権主張国・地域又は機関】JP
【前置審査】
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】100083116
【弁理士】
【氏名又は名称】松浦 憲三
(72)【発明者】
【氏名】齋藤 孝明
【審査官】永田 浩司
(56)【参考文献】
【文献】特開2010-187756(JP,A)
【文献】特開2009-5020(JP,A)
【文献】特開2005-192880(JP,A)
【文献】米国特許第9349185(US,B2)
【文献】米国特許第9430833(US,B2)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
内視鏡の検査動画を取得する検査動画取得部と、
前記検査動画取得部で取得された前記検査動画から時間Tの間隔で順次動画を抽出して、複数のフレームを有する単位動画を時系列順に順次抽出する単位動画抽出部と、
前記単位動画抽出部で抽出された各前記単位動画を解析し、前記単位動画内でのシーンの変化の有無を判定して、前記内視鏡の動きの有無を判定するシーン変化判定部と、
前記シーン変化判定部でシーンの変化がないと判定されて、前記内視鏡の動きが無いと判定された前記単位動画に含まれる少なくとも一部のフレームを第1記憶媒体に記録する記録制御部と、
を備えた検査動画処理装置。
【請求項2】
前記シーン変化判定部は、前記単位動画から一定の時間間隔で時系列順にフレームを抽出し、抽出した前後のフレーム間で変化の有無を検出して、前記単位動画内でのシーンの変化の有無を判定する、
請求項1に記載の検査動画処理装置。
【請求項3】
前記シーン変化判定部は、フレームを構成する画像のX方向における合計輝度値のグラフの形状の変化及び/又はY方向における合計輝度値のグラフの形状の変化に基づいて、前後のフレーム間の変化の有無を判定する、
請求項2に記載の検査動画処理装置。
【請求項4】
前記X方向における合計輝度値のグラフは、X方向の単一又は複数の画素列の輝度値の合計である、
請求項3に記載の検査動画処理装置。
【請求項5】
前記Y方向における合計輝度値のグラフは、Y方向の単一又は複数の画素列の輝度値の合計である、
請求項3又は4に記載の検査動画処理装置。
【請求項6】
前記シーン変化判定部は、前記X方向における合計輝度値のグラフのフレーム間の差分値に基づく、
請求項3又は4に記載の検査動画処理装置。
【請求項7】
前記シーン変化判定部は、前記Y方向における合計輝度値のグラフのフレーム間の差分値に基づく、
請求項3又は5に記載の検査動画処理装置。
【請求項8】
前記シーン変化判定部は、前後のフレーム間で動きベクトルを検出し、検出した前記動きベクトルに基づいて、前後のフレーム間の変化の有無を判定する、
請求項2に記載の検査動画処理装置。
【請求項9】
前記シーン変化判定部でシーンの変化がないと判定された前記単位動画を解析し、最も鮮鋭度の高いフレームを抽出する高鮮鋭度フレーム抽出部を更に備え、
前記記録制御部は、前記高鮮鋭度フレーム抽出部で抽出されたフレームを前記第1記憶媒体に記録する、
請求項1から8のいずれか1項に記載の検査動画処理装置。
【請求項10】
前記検査動画取得部は、検査中の前記検査動画をリアルタイムに取得する、
請求項1から9のいずれか1項に記載の検査動画処理装置。
【請求項11】
前記第1記憶媒体に記録したフレームを第2記憶媒体に転送する転送制御部を更に備えた、
請求項1から10のいずれか1項に記載の検査動画処理装置。
【請求項12】
前記記録制御部は、前記シーン変化判定部でシーンの変化がないと判定されて、前記内視鏡の動きが無いと判定された前記単位動画をレポートに関連付けて記録する、
請求項1から11のいずれか1項に記載の検査動画処理装置。
【請求項13】
検査動画取得部と、単位動画抽出部と、シーン変化判定部と、記録制御部と、を備えた検査動画処理装置の作動方法であって、
前記検査動画取得部によって内視鏡の検査動画を取得するステップと、
前記単位動画抽出部によって前記検査動画から時間Tの間隔で順次動画を抽出し、複数のフレームを有する単位動画を時系列順に順次抽出するステップと、
前記シーン変化判定部によって各前記単位動画を解析し、前記単位動画内でのシーンの変化の有無を判定して、前記内視鏡の動きの有無を判定するステップと、
シーンの変化がないと判定されて、前記内視鏡の動きが無いと判定された前記単位動画に含まれる少なくとも一部のフレームを前記記録制御部によって第1記憶媒体に記録するステップと、
を含む検査動画処理装置の作動方法。
【請求項14】
内視鏡の検査動画を取得する機能と、
取得した前記検査動画から時間Tの間隔で順次動画を抽出し、複数のフレームを有する単位動画を時系列順に順次抽出する機能と、
抽出した各前記単位動画を解析し、前記単位動画内でのシーンの変化の有無を判定して、前記内視鏡の動きの有無を判定する機能と、
シーンの変化がないと判定されて、前記内視鏡の動きが無いと判定された前記単位動画に含まれる少なくとも一部のフレームを
第1記憶媒体に記録する機能と、
をコンピュータに実現させる検査動画処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラムに係り、特に内視鏡の検査動画を処理する検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラムに関する。
【背景技術】
【0002】

近年、機械学習を活用して、内視鏡の検査動画から病変部を自動的に検出する技術が注目されている。本技術を開発するためには、適切な観察シーンの学習用サンプル画像を大量に用意する必要がある。
【0003】

特許文献1には、動画から学習用サンプル画像を取得する技術として、動画から一定の時間間隔で学習用サンプル画像とする静止画を抽出し、かつ、映像の変化が激しい部分については、より細かい間隔で静止画を抽出する技術が提案されている。
【先行技術文献】
【特許文献】
【0004】

【文献】特開2016-76073号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】

しかしながら、特許文献1の手法では、内視鏡を大きく動かしているシーンなど、術者が病変検出のために注視していないシーンの画像も大量に取得されてしまい、良質な学習用サンプル画像を効率よく収集できないという欠点がある。
【0006】
本発明は、このような事情に鑑みてなされたもので、良質な学習用サンプル画像を効率よく収集できる検査動画処理装置、検査動画処理装置の作動方法及び検査動画処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】

上記課題を解決するための手段は、次のとおりである。
【0008】

(1)内視鏡の検査動画を取得する検査動画取得部と、検査動画取得部で取得された検査動画から複数のフレームを有する単位動画を抽出する単位動画抽出部と、単位動画抽出部で抽出された単位動画を解析し、単位動画内でのシーンの変化の有無を判定するシーン変化判定部と、シーン変化判定部でシーンの変化がないと判定された単位動画に含まれる少なくとも一部のフレームを第1記憶媒体に記録する記録制御部と、を備えた検査動画処理装置。
【0009】

本態様によれば、取得された内視鏡の検査動画から時系列順に単位動画が抽出される。抽出された単位動画は、シーン変化判定部において、単位動画ごとにシーンの変化の有無が判定される。そして、シーンの変化がないと判定された単位動画に含まれる少なくとも一部のフレームが第1記憶媒体に記録される。
【0010】

一般に、内視鏡の検査動画において、シーンの変化がない部分は、術者が病変検出のために注視している部分と考えられる(注視する場合は、内視鏡の動きを止めるので、シーンは変化しないと考えられる。)。したがって、シーンの変化がない単位動画のみを選択して記録することにより、検査動画から術者が注視した部分のみを抽出できる。これにより、検査動画から術者が注視したシーンの画像(動画又は静止画)を効率よく収集でき、機械学習のための良質な学習用サンプル画像を効率よく収集できる。
【0011】

なお、「シーンの変化がない」と認められる範囲には、実質的に変化がないと認められる範囲が含まれる。すなわち、「ほぼ変化なし」の範囲が含まれる。
【0012】

(2)シーン変化判定部は、単位動画から一定の時間間隔で時系列順にフレームを抽出し、抽出した前後のフレーム間で変化の有無を検出して、単位動画内でのシーンの変化の有無を判定する、上記(1)の検査動画処理装置。
【0013】

本態様によれば、単位動画から一定の時間間隔で時系列順にフレームが抽出され、抽出された前後のフレーム間で変化の有無が検出される。そして、その検出結果に基づいて、シーンの変化の有無が判定される。具体的には、抽出されたすべてのフレーム間で変化がない場合にシーンの変化がないと判定される。これにより、効率よくシーンの変化の有無を判定できる。
【0014】

(3)シーン変化判定部は、フレームを構成する画像のX方向における合計輝度値のグラフの形状の変化及び/又はY方向における合計輝度値のグラフの形状の変化に基づいて、前後のフレーム間の変化の有無を判定する、上記(2)の検査動画処理装置。
【0015】

本態様によれば、フレームを構成する画像のX方向における合計輝度値のグラフの形状の変化及び/又はY方向における合計輝度値のグラフの形状の変化に基づいて、前後のフレーム間の変化の有無が判定される。これにより、より正確にシーンの変化の有無を判定できる。なお、画像のX方向における合計輝度値のグラフとは、画像のX方向における輝度値の合計をグラフにしたものであり、横軸を画像のX方向の各位置、縦軸を各位置における輝度値の合計として表わされる。同様に、画像のY方向における合計輝度値のグラフとは、画像のY方向における輝度値の合計をグラフにしたものであり、横軸を画像のY方向の各位置、縦軸を各位置における輝度値の合計として表わされる。
【0016】

(4)X方向における合計輝度値のグラフは、X方向の単一又は複数の画素列の輝度値の合計である、上記(3)の検査動画処理装置。
【0017】

本態様によれば、X方向における合計輝度値のグラフが、X方向の単一又は複数の画素列の輝度値の合計で構成される。すなわち、X方向における合計輝度値のグラフは、必ずしもX方向の全画素列のものではなく、特定の画素列のみを取り出したものでもよい。
【0018】

(5)Y方向における合計輝度値のグラフは、Y方向の単一又は複数の画素列の輝度値の合計である、上記(3)又は(4)の検査動画処理装置。
【0019】

本態様によれば、Y方向における合計輝度値のグラフが、Y方向の単一又は複数の画素列の輝度値の合計で構成される。すなわち、Y方向における合計輝度値のグラフは、必ずしもY方向の全画素列のものではなく、特定の画素列のみを取り出したものでもよい。
【0020】

(6)シーン変化判定部は、X方向における合計輝度値のグラフのフレーム間の差分値に基づく、上記(3)の検査動画処理装置。
【0021】

本態様によれば、X方向における合計輝度値のグラフのフレーム間の差分値に基づいて、前後のフレーム間の変化の有無が判定される。
【0022】

(7)シーン変化判定部は、Y方向における合計輝度値のグラフのフレーム間の差分値に基づく、上記(3)又は(4)の検査動画処理装置。
【0023】

本態様によれば、Y方向における合計輝度値のグラフのフレーム間の差分値に基づいて、前後のフレーム間の変化の有無が判定される。
【0024】

(8)シーン変化判定部でシーンの変化がないと判定された単位動画を解析し、最も鮮鋭度の高いフレームを抽出する高鮮鋭度フレーム抽出部を更に備え、記録制御部は、高鮮鋭度フレーム抽出部で抽出されたフレームを第1記憶媒体に記録する、上記(1)から(7)のいずれか一の検査動画処理装置。
【0025】

本態様によれば、シーン変化判定部でシーンの変化がないと判定されると、当該単位動画から最も鮮鋭度の高いフレームが抽出される。そして、抽出されたフレームが第1記憶媒体に記録される。これにより、一部のフレームのみを記録する場合に良質なフレームを選択して記録できる。
【0026】

(9)検査動画取得部は、検査中の検査動画をリアルタイムに取得する、上記(1)から(8)のいずれか一の検査動画処理装置。
【0027】

本態様によれば、検査中の検査動画がリアルタイムに取得され、リアルタイムに処理される。すなわち、検査と平行して、バックグラウンドで処理される。
【0028】

(10)第1記憶媒体に記録したフレームを第2記憶媒体に転送する転送制御部を更に備えた、上記(1)から(9)のいずれか一の検査動画処理装置。
【0029】

本態様によれば、必要に応じて、第1記憶媒体に記録されたフレームが第2記憶媒体に転送される。これにより、大量のデータを効率よく保存できる。
【0030】

(11)内視鏡の検査動画を取得するステップと、取得した検査動画から複数のフレームを有する単位動画を抽出するステップと、抽出した単位動画を解析し、単位動画内でのシーンの変化の有無を判定するステップと、シーンの変化がないと判定された単位動画に含まれる少なくとも一部のフレームを第1記憶媒体に記録するステップと、を含む検査動画処理方法。
【0031】

本態様によれば、取得された内視鏡の検査動画から時系列順に単位動画が抽出され、抽出された単位動画ごとにシーンの変化の有無が判定される。そして、シーンの変化がないと判定された単位動画に含まれる少なくとも一部のフレームが第1記憶媒体に記録される。これにより、術者が注視したシーンの画像(動画又は静止画)を効率よく収集でき、良質な学習用サンプル画像を効率よく収集できる。
【0032】

(12)内視鏡の検査動画を取得する機能と、取得した検査動画から複数のフレームを有する単位動画を抽出する機能と、抽出した単位動画を解析し、単位動画内でのシーンの変化の有無を判定する機能と、シーンの変化がないと判定された単位動画に含まれる少なくとも一部のフレームを第1記憶媒体に記録する機能と、をコンピュータに実現させる検査動画処理プログラム。
【0033】

本態様によれば、取得された内視鏡の検査動画から時系列順に単位動画が抽出され、抽出された単位動画ごとにシーンの変化の有無が判定される。そして、シーンの変化がないと判定された単位動画に含まれる少なくとも一部のフレームが第1記憶媒体に記録される。これにより、術者が注視したシーンの画像(動画又は静止画)を効率よく収集でき、良質な学習用サンプル画像を効率よく収集できる。
【発明の効果】
【0034】

本発明によれば、良質な学習用サンプル画像を効率よく収集できる。
【図面の簡単な説明】
【0035】

図1】検査動画処理装置を含む内視鏡システムのシステム構成を示す図
図2】内視鏡装置の概略構成を示す図
図3】検査動画処理装置を構成するコンピュータの概略構成を示す図
図4】検査動画処理装置が実現する機能のブロック図
図5】単位動画抽出部による処理の概念図
図6】シーン変化判定部による処理の概念図
図7】画像プロファイルに基づくフレーム間の変化の検出の概念図
図8】検査動画処理装置における検査動画の処理手順を示すフローチャート
図9】シーン変化判定部におけるシーンの変化の有無を判定する処理の手順を示すフローチャート
図10】単位動画から最も鮮鋭度の高いフレームを抽出する機能を備える場合に検査動画処理装置が実現する機能のブロック図
図11】注視シーンのデータとして抽出した単位動画を転送する機能を備える場合に検査動画処理装置が実現する機能のブロック図
【発明を実施するための形態】
【0036】

以下、添付図面に従って本発明の好ましい実施形態について詳説する。
【0037】

[内視鏡システム]

図1は、検査動画処理装置を含む内視鏡システムのシステム構成を示す図である。
【0038】

同図に示すように、この内視鏡システム1は、内視鏡装置100と、内視鏡の検査画像(動画及び静止画)を記録する画像記録装置200と、内視鏡の検査動画を処理する検査動画処理装置300と、を備える。各装置は、ネットワーク10を介して互いに通信可能に接続される。
【0039】

《内視鏡検査装置》

図2は、内視鏡装置の概略構成を示す図である。
【0040】

図2に示すように、内視鏡装置100は、電子内視鏡110、光源装置120、プロセッサ装置130、表示装置140及びコンソール150等を備える。
【0041】

〈電子内視鏡〉

電子内視鏡110は、挿入部112、操作部114及び接続部116を備え、接続部116を介して光源装置120及びプロセッサ装置130と接続される。
【0042】

挿入部112は、体腔内に挿入される部分である。挿入部112は、操作部114の操作によって先端部が上下左右に湾曲する。挿入部112の先端部には、観察窓、照明窓、鉗子口、ノズル等が備えられる。画像は、挿入部112の先端部に組み込まれた撮影光学系及びイメージセンサを介して観察窓から撮影される。また、照明光は、挿入部112の先端部に組み込まれた照明光学系を介して照明窓から照射される。
【0043】

操作部114は、各種操作を行う部分である。操作部114には、挿入部112の先端の湾曲を制御するアングルノブ、撮影を指示する撮影ボタン、ノズルからの送気又は送水を指示する送気送水ボタン、鉗子口からの吸引を指示する吸引ボタン、処置具を挿入する鉗子口等が備えられる。
【0044】

〈光源装置〉

光源装置120は、照明光を電子内視鏡110に供給する。光源装置120は、自然光(太陽光)に近い特性(波長分布)の光(いわゆる白色光)を発生させて、電子内視鏡110に供給する。
【0045】

光源装置120は、プロセッサ装置130に接続される。光源装置120は、プロセッサ装置130と連動して、照明光の明るさを自動的に調整する(いわゆる自動調光)。
【0046】

〈プロセッサ装置〉

プロセッサ装置130は、電子内視鏡110のイメージセンサから出力される信号を処理して、映像信号を生成する。
【0047】

プロセッサ装置130は、ネットワーク10を介して画像記録装置200及び検査動画処理装置300と通信可能に接続される。プロセッサ装置130は、術者からの指示に応じて、検査画像(動画及び静止画)を画像記録装置200及び検査動画処理装置300に送信する。
【0048】

〈表示装置〉

表示装置140は、電子内視鏡110のイメージセンサで捉えた映像を映し出す装置である。表示装置140は、たとえば、液晶ディスプレイで構成される。表示装置140には、プロセッサ装置130で生成された映像信号が入力される。これにより、電子内視鏡110のイメージセンサで捉えた映像が表示装置140に映し出される。
【0049】

〈コンソール〉

コンソール150は、内視鏡装置100の機能設定、各種指示等の入力操作を受け付けるユーザインターフェースとして機能する。
【0050】

《画像記録装置》

画像記録装置200は、内視鏡の検査画像(動画及び静止画)を記録する。画像記録装置200は、いわゆるファイルサーバで構成され、所定のファイル管理プログラムがインストールされたコンピュータ210と、そのコンピュータ210に接続された外部記憶装置220と、を備える。コンピュータ210は、ネットワーク10に接続され、ネットワーク10を介して内視鏡装置100及び検査動画処理装置300と通信可能に接続される。
【0051】

内視鏡の検査画像は、ネットワーク10を介して内視鏡装置100から取得される。取得された検査画像は、外部記憶装置220に記録される。外部記憶装置220は、たとえば、ハードディスクドライブ(Hard Disk Drive , HDD)で構成される。
【0052】

画像記録装置200が記録する内視鏡の検査画像は、動画の他に静止画を含む。動画は、時系列で並ぶ多数のフレームで構成される。静止画は、その動画の1コマ(1フレーム)分の画像で構成される。動画及び静止画の撮影は、術者からの指示に応じて実施される。すなわち、動画の撮影は、術者からの開始の指示に応じて開始され、終了の指示に応じて終了される。撮影は、あらかじめ定められたフレームレートで実施される。また、静止画の撮影は、術者からの撮影指示に応じて実施される。
【0053】

《検査動画処理装置》

検査動画処理装置300は、内視鏡の検査動画から術者が注視した部分を抽出して記録する処理を行う。より具体的には、内視鏡の検査動画からシーンの変化がない部分を術者が注視した部分として抽出して記録する処理を行う。一般に、内視鏡の検査動画において、シーンの変化がない部分は、術者が病変検出のために注視している部分と考えられる(注視する場合は、内視鏡の動きを止めるので、シーンは変化しないと考えられる。)。したがって、内視鏡の検査動画からシーンの変化がない部分のみを抽出することにより、術者が注視している部分のみを抽出できる。これにより、検査動画から術者が注視したシーンの画像を効率よく収集でき、良質な学習用サンプル画像を効率よく収集できる。
【0054】

検査動画処理装置300は、所定の検査動画処理プログラムがインストールされたコンピュータで構成される。
【0055】

図3は、検査動画処理装置を構成するコンピュータの概略構成を示す図である。
【0056】

同図に示すように、検査動画処理装置300を構成するコンピュータは、CPU(Central Processing Unit)310、ROM(Read Only Memory)311、RAM(Random Access Memory)312、ハードディスクドライブ(Hard Disk Drive , HDD)313、光学ディスクドライブ314、通信インターフェース(interface , I/F)315、入出力インターフェース(interface , I/F)316等を備える。このコンピュータには、入出力インターフェース316を介して、キーボード320、マウス321、ディスプレイ322が接続される。また、このコンピュータは、通信インターフェース315を介してネットワーク10に接続される。
【0057】

内視鏡の検査動画は、ネットワーク10を介して内視鏡装置100からリアルタイムに取得される。すなわち、電子内視鏡110による検査中の動画が、プロセッサ装置130から検査動画処理装置300にリアルタイムに送信され、取得される。本実施の形態の検査動画処理装置300では、通信インターフェース315が、検査動画取得部に相当する。通信インターフェース315を介して取得された検査動画は、RAM312又はハードディスクドライブ313の所定の記憶領域(一時記憶領域)に格納され、以後の処理に供される。
【0058】

図4は、検査動画処理装置が実現する機能のブロック図である。
【0059】

同図に示すように、検査動画処理装置300は、取得された内視鏡の検査動画から単位動画を時系列順に抽出する単位動画抽出部300A、単位動画抽出部300Aで抽出された単位動画を解析し、単位動画内でのシーンの変化の有無を判定するシーン変化判定部300B、及び、シーン変化判定部300Bでシーンの変化がないと判定された単位動画をハードディスクドライブ313に記録する記録制御部300Cとして機能する。
【0060】

〈単位動画抽出部〉

単位動画抽出部300Aは、取得された内視鏡の検査動画から単位動画を時系列順に抽出する。単位動画は、規定数のフレームを含んだ動画で構成される。
【0061】

図5は、単位動画抽出部による処理の概念図である。
【0062】

同図に示すように、検査動画Mは、時系列で並ぶ多数のフレームfで構成される。単位動画抽出部300Aは、先頭から順に規定数のフレームfを含む動画を取り出して、単位動画UMを抽出する。
【0063】

なお、検査動画は、あらかじめ定められたフレームレートで撮影されるので、一定の時間間隔で順次動画を抽出してゆくことにより、一定数のフレームfを含む動画を時系列順に抽出できる。たとえば、フレームレートが30fps(frames per second;フレーム毎秒)の場合、1秒ごとに動画を抽出することにより、30フレームの動画を抽出できる。したがって、規定数のフレームfを含む動画の撮影時間を単位時間Tとすると、単位時間Tの間隔で順次動画を抽出してゆくことにより、検査動画Mから時系列順に規定数のフレームfを含んだ単位動画UMを抽出できる。
【0064】

〈シーン変化判定部〉

シーン変化判定部300Bは、単位動画抽出部300Aで抽出された単位動画を解析し、単位動画内でのシーンの変化の有無を判定する。本実施の形態では、単位動画から一定の時間間隔で時系列順にフレームを抽出し、抽出した前後のフレーム間で変化の有無を検出して、単位動画内でのシーンの変化の有無を判定する。より具体的には、前後のフレーム間で画像のズレの有無を検出して、シーンの変化の有無を判定する。すなわち、前後のフレーム間で画像のズレが少ない場合にシーンの変化がないと判定する。
【0065】

図6は、シーン変化判定部による処理の概念図である。
【0066】

同図に示すように、シーン変化判定部300Bは、単位動画UMから一定の時間間隔で時系列順にフレームfを抽出する。そして、抽出した前後のフレーム間で変化の有無を検出する。いずれかのフレーム間で変化が検出された場合、シーンが変化したと判定する。一方、いずれのフレーム間においても変化が検出されない場合、シーンの変化がないと判定する。
【0067】

図6に示す例では、30フレームで構成される単位動画UMから5フレームごとにフレームfを抽出する場合を示している。この場合、5フレーム目、10フレーム目、15フレーム目、20フレーム目、25フレーム目及び30フレーム目のフレームが抽出される。そして、5フレーム目と10フレーム目、10フレーム目と15フレーム目、15フレーム目と20フレーム目、20フレーム目と25フレーム目、25フレーム目と30フレーム目において、フレーム間の変化の有無が検出される。
【0068】

本実施の形態では、画像プロファイルに基づいて、フレーム間の変化の有無を検出する。具体的には、フレームを構成する画像のX方向における合計輝度値のグラフの形状の変化及びY方向における合計輝度値のグラフの形状の変化に基づいて、前後のフレーム間の変化の有無を判定する。
【0069】

図7は、画像プロファイルに基づくフレーム間の変化の検出の概念図である。
【0070】

同図において、(A)は、フレームを構成する画像のX方向における合計輝度値のグラフを示し、(B)は、フレームを構成する画像のY方向における合計輝度値のグラフを示している。
【0071】

画像のX方向における合計輝度値のグラフは、画像のX方向における輝度値の合計をグラフにしたものであり、横軸を画像のX方向の各位置、縦軸を各位置における輝度値の合計として表わされる。各位置における輝度値の合計は、各位置においてY方向に並ぶ画素の輝度値の合計として算出される。なお、各画素の輝度値は、G(Green;緑)画像の画素値として取得できる。
【0072】

図7の(A)において、実線で示すグラフGX1は、前フレームにおけるX方向の合計輝度値のグラフであり、破線で示すグラフGX2は、後フレームにおけるX方向の合計輝度値のグラフである。
【0073】

画像のY方向における合計輝度値のグラフは、画像のY方向における輝度値の合計をグラフにしたものであり、横軸を画像のY方向の各位置、縦軸を各位置における輝度値の合計として表わされる。各位置における輝度値の合計は、各位置においてX方向に並ぶ画素の輝度値の合計として算出される。
【0074】

図7の(B)において、実線で示すグラフGY1は、前フレームにおけるY方向の合計輝度値のグラフであり、破線で示すグラフGY2は、後フレームにおけるY方向の合計輝度値のグラフである。
【0075】

上記のように、本実施の形態では、フレームを構成する画像のX方向における合計輝度値のグラフの形状の変化及びY方向における合計輝度値のグラフの形状の変化に基づいて、フレーム間の変化の有無を検出する。具体的には、次の手順で変化の有無を検出する。
【0076】

いま、前フレームを構成する画像のX方向の各位置における合計輝度値をPX1(X)、後フレームを構成する画像のX方向の各位置における合計輝度値をPX2(X)、前フレームを構成する画像のY方向の各位置における合計輝度値をPY1(Y)、後フレームを構成する画像のY方向の各位置における合計輝度値をPY2(Y)とする。
【0077】

まず、X方向の各位置について、前フレームの合計輝度値PX1(X)と後フレームの合計輝度値PX2(X)の差の絶対値(|PX1(X)-PX2(X)|)を求め、その総和(Σ|PX1(X)-PX2(X)|)を算出する。同様に、Y方向の各位置について、前フレームの合計輝度値PY1(Y)と後フレームの合計輝度値PY2(Y)の差の絶対値(|PY1(Y)-PY2(Y)|)を求め、その総和(Σ|PY1(Y)-PY2
(Y)|)を算出する。
【0078】

次に、算出されたX方向の各位置の合計輝度値の差の絶対値の総和(|PX1(X)-PX2(X)|)とY方向の各位置の合計輝度値の差の絶対値の総和(Σ|PY1(Y)-PY2(Y)|)の和Dを算出する。すなわち、D=Σ|PX1(X)-PX2(X)| +Σ|PY1(Y)-PY2(Y)|を算出する。
【0079】

次に、算出されたDを閾値と比較する。算出されたDが、閾値を超える場合、前後のフレーム間で変化あり、と判定する。一方、算出されたDが、閾値以下の場合、前後のフレーム間で変化なし、と判定する。
【0080】

このように、本実施の形態では、フレームを構成する画像のX方向における合計輝度値のグラフの形状の変化及びY方向における合計輝度値のグラフの形状の変化に基づいて、前後のフレーム間の変化の有無を判定する。
【0081】

〈記録制御部〉

記録制御部300Cは、シーン変化判定部300Bで判定処理された単位動画を判定結果に基づいて処理する。具体的には、シーン変化判定部300Bでシーンの変化なしと判定された単位動画をハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録する。ハードディスクドライブ313は第1記憶媒体の一例である。
【0082】

ハードディスクドライブ313に記録される単位動画は、シーンの変化のない部分の動画である。シーンの変化がないということは、内視鏡の動きのないということであり、術者が注視している部分の動画であると考えられる。このような部分を選択的に抽出して記録することにより、学習用サンプル画像となり得る良質な画像を効率よく収集できる。
【0083】

記録制御部300Cは、シーンの変化なしと判定された単位動画をハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録後、RAM312又はハードディスクドライブ313の一時記憶領域に記憶された当該単位動画をRAM312又はハードディスクドライブ313の一時記憶領域から消去する。シーンの変化ありと判定された単位動画についても同様であり、シーン変化判定部300Bによる判定処理後、RAM312又はハードディスクドライブ313の一時記憶領域から消去する。これにより、RAM312又はハードディスクドライブ313の記憶領域を効率よく使用できる。
【0084】

[検査動画処理方法]

図8は、検査動画処理装置における検査動画の処理手順を示すフローチャートである。
【0085】

内視鏡検査が開始されると、電子内視鏡110で撮影された動画(検査動画)が内視鏡装置100からネットワーク10を介して検査動画処理装置300にリアルタイムに送信される。検査動画処理装置300は、内視鏡装置100から送信される検査動画をリアルタイムに取得する(ステップS10)。取得された検査動画は、RAM312又はハードディスクドライブ313の一時記憶領域に記録される。
【0086】

検査動画が取得されると、単位動画抽出部300Aにおいて、取得された検査動画から時系列順に単位動画が抽出される(ステップS11)。
【0087】

抽出された単位動画は、シーン変化判定部300Bにおいて、シーンの変化の有無が判定される(ステップS12)。
【0088】

図9は、シーン変化判定部におけるシーンの変化の有無を判定する処理の手順を示すフローチャートである。
【0089】

シーン変化判定部300Bは、まず、単位動画から時系列順に一定の時間間隔でフレームを抽出する(ステップS12A)。次に、抽出した各フレームを前後で比較し、その変化の有無を検出する(ステップS12B)。
【0090】

本実施の形態では、フレームを構成する画像のX方向における合計輝度値のグラフの形状の変化及びY方向における合計輝度値のグラフの形状の変化に基づいて、前後のフレーム間の変化の有無が判定される。具体的には、D=Σ|PX1(X)-PX2(X)| +Σ|PY1(Y)-PY2(Y)| を算出し、算出されたDが閾値以下か否かに基づいて、前後のフレーム間の変化の有無を判定する。算出されたDが閾値を超える場合、前後のフレーム間で変化あり、と判定され、閾値以下の場合、前後のフレーム間で変化なし、と判定される。
【0091】

すべてのフレーム間で変化の有無を検出後、その検出結果にシーンの変化の有無を判定する(ステップS12C)。すなわち、すべてのフレーム間において、変化がなかったか否かを判定する。すべてのフレーム間において、変化がない場合、当該単位動画内でシーンの変化なし、と判定する(ステップS12D)。一方、いずれかのフレーム間において、変化があった場合、当該単位動画内でシーンの変化あり、と判定する(ステップS12E)。
【0092】

このように、シーン変化判定部300Bでは、一定の時間間隔で抽出したフレームを前後で比較して、シーンの変化の有無を検出する。
【0093】

シーン変化判定部300Bによる判定処理後、その判定結果に基づいて、当該単位動画を注視シーンのデータとして記録するか否か判定される(ステップS13)。シーン変化判定部300Bでシーンの変化なし、と判定されると、当該単位動画を注視シーンのデータとして記録する、と判定される。一方、シーン変化判定部300Bでシーンの変化あり、と判定されると、当該単位動画を注視シーンのデータとして記録しない、と判定される。
【0094】

注視シーンのデータとして記録する、と判定されると、当該単位動画が、ハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記憶される(ステップS14)。その後、RAM312又はハードディスクドライブ313の一時記憶領域に記録された当該単位動画が消去される(ステップS15)。
【0095】

一方、注視シーンのデータとして記録しない、と判定されると、RAM312又はハードディスクドライブ313の一時記憶領域に記録された当該単位動画が消去される(ステップS15)。
【0096】

この後、次の単位動画の有無が判定される(ステップS16)。すなわち、次に抽出された単位動画の有無が判定される。次に抽出された単位動画ある場合、ステップS12に戻り、上記処理を再度実施する。一方、次に抽出された単位動画がない場合、処理を終了する。
【0097】

このように、本実施の形態の検査動画処理装置300によれば、内視鏡の検査動画から時系列順に単位動画が抽出され、抽出された単位動画ごとにシーンの変化の有無が判定される。そして、シーンの変化がないと判定された単位動画のみがハードディスクドライブ313に記録される。一般に、内視鏡の検査動画において、シーンの変化がない部分は、術者が病変検出のために注視している部分と考えられる(注視する場合は、内視鏡の動きを止めるので、シーンは変化しないと考えられる。)。したがって、シーンの変化がない単位動画のみを選択して記録することにより、検査動画から術者が注視した部分のみを抽出できる。これにより、検査動画から術者が注視したシーンの画像を効率よく収集でき、機械学習のための良質な学習用サンプル画像を効率よく収集できる。
【0098】

[変形例]

《検査動画の取得形態の変形例》

上記実施の形態では、検査中の動画をリアルタイムに取得する構成としているが、検査動画の取得形態は、これに限定されるものではない。たとえば、画像記録装置200に記録されている検査動画を取得して、処理する構成としてもよい。あるいは、CD(Compact Disc)、DVD(Digital Versatile Disc)などの光ディスクに格納された検査動画を光学ディスクドライブ314から読み出して処理してもよい。また、検査動画処理装置300に接続された外部ストレージに格納された検査動画を取得して、処理する構成としてもよい。その他、ネットワークを介して他の機器から検査動画を取得して、処理する構成としてもよい。
【0099】

《単位動画抽出部の変形例》

検査動画から抽出する単位動画については、フレーム数又は長さを任意に設定できるようにしてもよい。最小は、2フレームとなる。
【0100】

《シーン変化判定部の変形例》

〈フレームの抽出〉

上記実施の形態では、単位動画から一定の時間間隔でフレームを抽出して、フレーム間の変化の有無を検出する構成としているが、単位動画を構成するすべてのフレーム間で変化の有無を検出する構成としてもよい。
【0101】

また、上記実施の形態では、抽出したすべてのフレーム間で変化の有無を検出する構成としているが、変化が検出された段階で処理を終了してもよい。この場合、変化が検出された段階で当該単位動画は、シーンの変化ありと判定される。
【0102】

〈フレーム間の変化の有無の検出〉

上記実施の形態では、画像のプロファイル(輝度値の合計)のフレーム間の差分に基づいて、フレーム間の変化の有無を検出する構成としているが、前後のフレーム間の変化の有無を検出する方法は、これに限定されるものではない。内視鏡の動きによる画像のズレの有無を検出できる構成であればよい。
【0103】

たとえば、X方向の差分値列PX1(X)-PX2(X)又はY方向の差分値列PY1(Y)-PY2(Y)が、所定の範囲外の値を含む場合に変化ありと判定してもよい。
【0104】

また、プロファイルは、XあるいはY方向の全画素列のものではなく、特定の画素列のみを取り出したものでもよい。
【0105】

また、X方向及びY方向のいずれか一方の画像のプロファイルに基づいて、フレーム間の変化の有無を検出する構成としてもよい。
【0106】

また、その他の方法として、前後のフレーム間で動きベクトルを検出して、変化の有無を検出する構成としてもよい。この場合、たとえば、検出された動きベクトルを閾値と比較し、閾値以下の場合にフレーム間の変化なしと判定する。
【0107】

この他、前後のフレームの比較に関わらず、動画内のシーンの変化の有無を検出する技術に関して、公知の技術を採用できる。
【0108】

《記録制御部の変形例》

〈記録対象〉

上記実施の形態では、シーン変化判定部300Bでシーンの変化ありと判定された場合、当該単位動画の全体を注視シーンのデータとして、ハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録する構成としているが、当該単位動画の一部のフレームをハードディスクドライブ313の所定の記憶領域に記録する構成としてもよい。たとえば、当該単位動画の先頭フレームをハードディスクドライブ313の所定の記憶領域に記録する構成としてもよい。この他、最終フレーム、中間フレーム等をハードディスクドライブ313の所定の記憶領域に記録する構成としてもよい。また、この場合、単一のフレームではなく複数枚のフレームを記録する構成としてもよい。たとえば、単位動画から一定の時間間隔で抽出したフレームを記録する構成としてもよい。
【0109】

また、単位動画から最も鮮鋭度の高いフレームを抽出し、当該フレームを注視シーンのデータとしてハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録する構成としてもよい。
【0110】

図10は、単位動画から最も鮮鋭度の高いフレームを抽出する機能を備える場合に検査動画処理装置が実現する機能のブロック図である。
【0111】

同図に示すように、この場合、検査動画処理装置300には、高鮮鋭度フレーム抽出部300Dが更に備えられる。
【0112】

高鮮鋭度フレーム抽出部300Dは、処理対象の単位動画が、シーン変化判定部300Bでシーンの変化なしと判定された場合に、当該単位動画を解析し、最も鮮鋭度の高いフレームを抽出する処理を行う。鮮鋭度は、一般的に、画像内の細部の明瞭度又はエッジ部の遷移度の測定値で表される。
【0113】

高鮮鋭度フレーム抽出部300Dは、単位動画を構成する各フレームの鮮鋭度を測定し、最も鮮鋭度の高いフレームを抽出する。鮮鋭度の測定には、公知の手法が採用される。
たとえば、画像のエッジ領域における高周波成分の強度の平均によって鮮鋭度を測定する方法などを採用できる。
【0114】

記録制御部300Cは、高鮮鋭度フレーム抽出部300Dによって抽出されたフレームを注視シーンのデータとしてハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録する。
【0115】

このように、最も鮮鋭度の高いフレームを注視シーンのデータとしてハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録することにより、より良質な学習用サンプル画像を収集できる。
【0116】

なお、上記の例では、単位動画を構成するすべてのフレームを対象にして最も鮮鋭度の高いフレームを抽出する構成としているが、間引いて処理してもよい。たとえば、単位動画から一定の時間間隔でフレームを抽出し、抽出したフレームの中から最も鮮鋭度の高いフレームを抽出する構成としてもよい。
【0117】

また、鮮鋭度の高い複数のフレームを抽出して記録してもよい。たとえば、鮮鋭度の高い上位N枚のフレームを記録してもよい。
【0118】

〈記録先〉

上記実施の形態では、注視シーンのデータとして単位動画を検査動画処理装置300に備えられたハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録する構成としているが、注視シーンのデータとして抽出した単位動画の記録先は、これに限定されるものではない。たとえば、ネットワーク10を介して画像記録装置200に転送し、画像記録装置200に記録する構成としてもよい。
【0119】

図11は、注視シーンのデータとして抽出した単位動画を転送する機能を備える場合に検査動画処理装置が実現する機能のブロック図である。
【0120】

同図に示すように、この場合、検査動画処理装置300には、転送制御部300Eが更に備えられる。転送制御部300Eは、ハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に記録された単位動画を、ネットワーク10を介して画像記録装置200に転送する。画像記録装置200は、検査動画処理装置300から転送された単位動画を受け取り、外部記憶装置220に記録する。画像記録装置200は、第2記憶媒体の一例である。
【0121】

なお、転送制御部300Eは、注視シーンのデータとして抽出した単位動画を逐次転送してもよいし、また、内視鏡の検査終了後にまとめて転送してもよい。また、ハードディスクドライブ313の所定の記憶領域(注視シーン記憶領域)に一定容量の単位動画が蓄積された段階でまとめて転送してもよい。
【0122】

〈検査画像等との関連付け〉

注視シーンのデータとして抽出した単位動画は、抽出元の検査動画に関連付けて、画像記録装置200に記録してもよい。
【0123】

また、一般に内視鏡検査では、検査後にレポートが作成されるが、そのレポートに関連付けて画像記録装置200に記録してもよい。診断結果の情報等を付加して記録してもよい。
【0124】

《内視鏡装置の変形例》

〈内視鏡の種類〉

上記実施の形態では、いわゆる軟性内視鏡の検査動画を処理する場合を例に説明したが、硬性内視鏡の検査動画を処理する場合にも同様に適用できる。
【0125】

〈観察の種類〉

上記実施の形態は、いわゆる通常観察の例で説明したが、NBI(Narrow Band Imaging;狭帯域光観察)、BLI(Blue LASER Imaging;狭帯域光観察)、FICE(Flexible spectral Imaging Color Enhancement ;分光推定処理)等の特殊光観察を行う場合にも同様に適用できる。特殊光観察を行う場合は、その特殊光観察に対応した光を光源装置120から供給し、特殊光観察に対応した画像処理をプロセッサ装置130で実施する。
【0126】

たとえば、狭帯域光観察では、照明光に特定の波長帯域の光(狭帯域光)を使用して、観察対象を撮影する。そして、撮影により得られた信号から観察対象の特定深さ領域にある血管を強調した可視化画像を生成する。これにより、血管の観察に適した画像を表示装置140に表示できる。
【0127】

〈光源の波長帯域〉

光源装置120に備える光源は、白色帯域の光、又は、白色帯域の光として複数の波長帯域の光を発生する光源でもよいし、白色の波長帯域よりも狭い特定の波長帯域の光を発生する光源でもよい。
【0128】

特定の波長帯域は、可視域の青色帯域若しくは緑色帯域、あるいは、可視域の赤色帯域であってもよい。特定の波長帯域が可視域の青色帯域若しくは緑色帯域である場合、390nm以上450nm以下、又は530nm以上550nm以下の波長帯域を含み、かつ、390nm以上450nm以下又は530nm以上550nm以下の波長帯域内にピーク波長を有していてもよい。また、特定の波長帯域が可視域の赤色帯域である場合、585nm以上615nm以下、又は610nm以上730nm以下、の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域内にピーク波長を有していてもよい。
【0129】

上述した特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有していてもよい。この場合、特定の波長帯域は、400±10nm、440±10nm、470±10nm、又は、600nm以上750nmの波長帯域を含み、かつ、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域にピーク波長を有していてもよい。
【0130】

また、光源が発生する光は、790nm以上820nm以下、又は905nm以上970nm以下の波長帯域を含み、かつ、790nm以上820nm以下又は905nm以上970nm以下の波長帯域にピーク波長を有していてもよい。
【0131】

また、光源は、ピークが390nm以上470nm以下である励起光を照射する光源を備えていてもよい。この場合、被検体内の蛍光物質が発する蛍光の情報を有する画像を取得できる。
【0132】

光源の種類(レーザ光源、キセノン光源、LED光源(LED:Light-Emitting Diode)等)、波長、フィルタの有無等は、観察対象の種類、観察の目的等に応じて構成することが好ましく、また、観察の際は観察対象の種類、観察の目的等に応じて照明光の波長を組合せ、及び/又は、切り替えることが好ましい。波長を切り替える場合、たとえば、光源の前方に配置され、特定波長の光を透過又は遮光するフィルタが設けられた円板状のフィルタ(ロータリカラーフィルタ)を回転させることにより、照射する光の波長を切り替えてもよい。
【0133】

[その他]

上記の実施の形態において、コンピュータに実現させている機能は、各種のプロセッサに実現させることができる。各種のプロセッサには、プログラムを実行して各種の処理を行う処理部として機能する汎用的なプロセッサであるCPU、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるPLD(Programmable Logic Device)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
【0134】

一つの機能は、同種又は異種の二つ以上のプロセッサに実現させてもよい。たとえば、複数のFPGAで実現させる構成としてもよいし、CPU及びFPGAの組み合わせで実現させる構成としてもよい。
【0135】

また、複数の機能を一つのプロセッサで構成してもよい。複数の機能を一つのプロセッサで実現する構成の例としては、第1に、クライアント、サーバなどのコンピュータに代表されるように、一つ以上のCPUとソフトウェアとの組合せで一つのプロセッサを構成し、このプロセッサに複数の機能を実現させる形態がある。第2に、システムオンチップ(SoC:System On Chip)などに代表されるように、複数の機能を一つのICチップ(IC:Integrated Circuit)で実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウェア的な構造として、上記各種のプロセッサを一つ以上用いて実現される。
【0136】

更に、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路である。
【符号の説明】
【0137】

1 内視鏡システム

10 ネットワーク

100 内視鏡装置

110 電子内視鏡

112 挿入部

114 操作部

116 接続部

120 光源装置

130 プロセッサ装置

140 表示装置

150 コンソール

200 画像記録装置

210 コンピュータ

220 外部記憶装置

300 検査動画処理装置

300A 単位動画抽出部

300B シーン変化判定部

300C 記録制御部

300D 高鮮鋭度フレーム抽出部

300E 転送制御部

312 RAM313 ハードディスクドライブ

314 光学ディスクドライブ

315 通信インターフェース

316 入出力インターフェース

320 キーボード

321 マウス

322 ディスプレイ

GX1 前フレームにおけるX方向の合計輝度値のグラフ

GX2 後フレームにおけるX方向の合計輝度値のグラフ

GY1 前フレームにおけるY方向の合計輝度値のグラフ

GY2 後フレームにおけるY方向の合計輝度値のグラフ

En 輝度値

Pn1 輝度値Enにおける前フレームの画素数

Pn2 輝度値Enにおける後フレームの画素数

M 検査動画

T 単位時間

UM 単位動画

f フレーム

S10~S16 検査動画の処理手順

S12A~S12E シーンの変化の有無を判定する処理の手順
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11