知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022182225
(43)【公開日】2022-12-08
(54)【発明の名称】データ処理システムおよびデータ処理方法
(51)【国際特許分類】
H03M 7/30 20060101AFI20221201BHJP
G06N 20/00 20190101ALI20221201BHJP
【ＦＩ】
H03M7/30 Z
G06N20/00
【審査請求】未請求
【請求項の数】8
【出願形態】ＯＬ
(21)【出願番号】P 2021089677
(22)【出願日】2021-05-28
(71)【出願人】
【識別番号】000005108
【氏名又は名称】株式会社日立製作所
(74)【代理人】
【識別番号】110002365
【氏名又は名称】特許業務法人サンネクスト国際特許事務所
(72)【発明者】
【氏名】成子 貴洋
(72)【発明者】
【氏名】圷 弘明
【テーマコード（参考）】
5J064
【Ｆターム（参考）】
5J064AA03
5J064BA08
5J064BA09
5J064BC01
5J064BC02
5J064BD03
(57)【要約】
【課題】圧縮および伸長が行われる圧縮伸長部を利用可能な高速伸長ＡＩを提供する。
【解決手段】データを圧縮する圧縮器と、圧縮器により圧縮されたデータを伸長する伸長器とを含んで構成される圧縮伸長部を備えるデータ処理システムであって、圧縮伸長部は、圧縮器の構成情報を出力可能な第１のインタフェース部と、圧縮器により圧縮されたデータを出力可能な第２のインタフェース部と、を設けるようにした。
【選択図】図１
【解決手段】データを圧縮する圧縮器と、圧縮器により圧縮されたデータを伸長する伸長器とを含んで構成される圧縮伸長部を備えるデータ処理システムであって、圧縮伸長部は、圧縮器の構成情報を出力可能な第１のインタフェース部と、圧縮器により圧縮されたデータを出力可能な第２のインタフェース部と、を設けるようにした。
【選択図】図１
【特許請求の範囲】
【請求項1】
データを圧縮する圧縮器と、前記圧縮器により圧縮されたデータを伸長する伸長器とを含んで構成される圧縮伸長部を備えるデータ処理システムであって、
前記圧縮伸長部は、
前記圧縮器の構成情報を出力可能な第１のインタフェース部と、
前記圧縮器により圧縮されたデータを出力可能な第２のインタフェース部と、
を備えるデータ処理システム。
前記圧縮伸長部は、
前記圧縮器の構成情報を出力可能な第１のインタフェース部と、
前記圧縮器により圧縮されたデータを出力可能な第２のインタフェース部と、
を備えるデータ処理システム。
【請求項2】
前記第１のインタフェース部により出力された前記圧縮器の構成情報から前記圧縮器のモデルを生成し、前記圧縮器の構成情報と所定のＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）のモデルとから、前記圧縮器により圧縮されたデータを入力とする高速伸長ＡＩのモデルを生成する生成部を備える、
請求項１に記載のデータ処理システム。
請求項１に記載のデータ処理システム。
【請求項3】
前記生成部は、前記構成情報から、前記圧縮器により圧縮されたデータを前記所定のＡＩに入力されるデータ形式に変換するための前処理ユニットを生成し、生成した前処理ユニットと前記所定のＡＩのモデルとを結合し、前記高速伸長ＡＩのモデルを生成する、
請求項２に記載のデータ処理システム。
請求項２に記載のデータ処理システム。
【請求項4】
前記圧縮器のモデルが動作可能に読み込まれた圧縮器により学習データが圧縮されたデータを入力として、前記高速伸長ＡＩのモデルが動作可能に読み込まれた高速伸長ＡＩを学習する学習部を備える、
請求項２に記載のデータ処理システム。
請求項２に記載のデータ処理システム。
【請求項5】
前記所定のＡＩは、データの分析処理を行うＡＩであり、
前記第２のインタフェース部により出力された前記圧縮器により圧縮されたデータと、前記学習部により学習された前記高速伸長ＡＩとを用いて、前記データの分析処理を行う分析部を備える、
請求項４に記載のデータ処理システム。
前記第２のインタフェース部により出力された前記圧縮器により圧縮されたデータと、前記学習部により学習された前記高速伸長ＡＩとを用いて、前記データの分析処理を行う分析部を備える、
請求項４に記載のデータ処理システム。
【請求項6】
前記圧縮伸長部は、
前記圧縮器により圧縮されたデータを符号化する符号化器と、前記符号化器により符号化されたデータを復号する復号器とを含んで構成され、
前記符号化器を用いて前記圧縮器により圧縮されたデータを符号化したデータをストレージに記憶する第３のインタフェース部と、
前記ストレージからデータを読み出し、読み出したデータを前記復号器により復号し、復号したデータを前記伸長器により伸長し、伸長したデータを出力する第４のインタフェース部と、
を備え、
前記第２のインタフェース部は、前記ストレージからデータを読み出し、読み出したデータを前記復号器により復号し、復号したデータを出力する、
請求項１に記載のデータ処理システム。
前記圧縮器により圧縮されたデータを符号化する符号化器と、前記符号化器により符号化されたデータを復号する復号器とを含んで構成され、
前記符号化器を用いて前記圧縮器により圧縮されたデータを符号化したデータをストレージに記憶する第３のインタフェース部と、
前記ストレージからデータを読み出し、読み出したデータを前記復号器により復号し、復号したデータを前記伸長器により伸長し、伸長したデータを出力する第４のインタフェース部と、
を備え、
前記第２のインタフェース部は、前記ストレージからデータを読み出し、読み出したデータを前記復号器により復号し、復号したデータを出力する、
請求項１に記載のデータ処理システム。
【請求項7】
前記圧縮器は、入力されたデータを前記圧縮器のエンコーダ部が受領するデータサイズとするために、前記データにパディングするパディング器を備え、
前記符号化器は、前記圧縮器により圧縮されたデータを前記符号化器のハイパーエンコーダ部が受領するデータサイズとするために、前記データにパディングするパディング器を備える、
請求項６に記載のデータ処理システム。
前記符号化器は、前記圧縮器により圧縮されたデータを前記符号化器のハイパーエンコーダ部が受領するデータサイズとするために、前記データにパディングするパディング器を備える、
請求項６に記載のデータ処理システム。
【請求項8】
データを圧縮する圧縮器と、前記圧縮器により圧縮されたデータを伸長する伸長器とを含んで構成される圧縮伸長部を備えるデータ処理システムにおけるデータ処理方法であって、
前記圧縮伸長部が、
前記圧縮器の構成情報を出力することと、
前記圧縮器により圧縮されたデータを出力することと、
を含むデータ処理方法。
前記圧縮伸長部が、
前記圧縮器の構成情報を出力することと、
前記圧縮器により圧縮されたデータを出力することと、
を含むデータ処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、概して、圧縮されているデータを処理するＡＩ（Artificial Intelligence）に関する。
【背景技術】
【0002】
データ量を削減するストレージシステムが知られている（特許文献１参照）。その種のストレージシステムは、一般に、圧縮によりデータ量を削減する。既存の圧縮方法の１つとして、ランレングス法のように、所定のブロック単位内で出現頻度の高い文字列を辞書化し、より小さなサイズの符号に置換する方法が知られている。
【0003】
ランレングス法のような可逆圧縮よりも、データ量を削減する技術として、非可逆圧縮技術が知られている（特許文献２参照）。例えば、特許文献２に記載のストレージシステムは、ニューラルネットワークを用いた圧縮技術により、データを圧縮して格納するストレージシステムである。データが有する規則性を、ニューラルネットワークでモデル化することにより、データを圧縮する。
【0004】
ニューラルネットワークを用いた圧縮技術により圧縮したデータを、高速にＡＩで分析する技術が知られている（非特許文献１参照）。例えば、非特許文献１に記載の技術は、圧縮されたデータ（圧縮データ）を直接入力できるようにＡＩを改造することで、圧縮データの伸長処理を高速化する技術である。以下、非特許文献１で示されるようなＡＩを、高速伸長ＡＩを呼ぶ。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開２００７－１９９８９１号公報
【特許文献2】特開２０１９－０９５９１３号公報
【非特許文献】
【0006】
【非特許文献1】Robert Torfason, Fabian Mentzer, Eirikur Agustsson, Michael Tschannen, Radu Timofte, Luc Van Gool, “Towards Image Understanding from Deep Compression without Decoding”, 2018.
【発明の概要】
【発明が解決しようとする課題】
【0007】
データの蓄積コスト削減の観点から、ＩｏＴ（Internet-of-Things）機器が生成する大規模なデータの蓄積には、圧縮率の高い非可逆圧縮が求められると考えられる。また、大規模なデータを、高速に、ＡＩで分析することが求められると考えられる。これらの要件を両立するために、特許文献２に記載のストレージシステムにより、非可逆圧縮して蓄積したデータを、高速伸長ＡＩにより、高速に分析するシステムが考えられる。
【0008】
高速伸長ＡＩの設計および学習には、入力となる圧縮データを生成するための、圧縮器の構成情報（例えば、圧縮データのテンソルのサイズ、値のレンジ、圧縮器本体等）が必要である。なぜなら、高速伸長ＡＩが入力として受領するテンソルのサイズや値のレンジが、圧縮データのサイズや値のレンジと整合するように、高速伸長ＡＩの構造を設計する必要があるためである。
【0009】
また、高速伸長ＡＩの学習データを生成するために、圧縮器本体が必要である。例えば、画像分類を行うＡＩの学習においては、一般的に、画像データとクラスを表すラベルデータとのペアが学習データである。一方、高速伸長ＡＩの学習においては、圧縮データとラベルデータとのペアが学習データとして必要である。このため、学習用の画像データに対応する圧縮データを生成するために、圧縮器本体が必要となる。
【0010】
また、高速伸長ＡＩによりデータを分析する際には、伸長したデータではなく、圧縮データが必要である。
【0011】
しかしながら、特許文献２に示されるようなストレージシステムは、圧縮処理および伸長処理を内部で透過的に行うため、圧縮器本体や圧縮器の構成情報にストレージシステムの外部からアクセスすることができない。また、ストレージシステムの外部から、伸長前の圧縮データを取得することができない。このため、これらのストレージシステムにおいては、高速伸長ＡＩを使用することができず、分析時の伸長時間が長くなるという課題がある。
【0012】
本発明は、以上の点を考慮してなされたもので、圧縮および伸長が行われる圧縮伸長部を利用可能な高速伸長ＡＩを提供するためのデータ処理システム等を提案しようとするものである。
【課題を解決するための手段】
【0013】
かかる課題を解決するため本発明においては、データを圧縮する圧縮器と、前記圧縮器により圧縮されたデータを伸長する伸長器とを含んで構成される圧縮伸長部を備えるデータ処理システムであって、前記圧縮伸長部は、前記圧縮器の構成情報を出力可能な第１のインタフェース部と、前記圧縮器により圧縮されたデータを出力可能な第２のインタフェース部と、を設けるようにした。
【0014】
上記構成によれば、圧縮器の構成情報が出力されるので、例えば、当該圧縮器により圧縮されたデータを入力として分析処理等の推論が可能な高速伸長ＡＩを生成し、生成した高速伸長ＡＩを用いて推論できるようになる。また、上記構成によれば、圧縮伸長部の圧縮器により圧縮されたデータが伸長されることなく高速伸長ＡＩに入力されるので、推論における伸長時間を短くすることができる。
【発明の効果】
【0015】
本発明によれば、圧縮および伸長が行われる圧縮伸長部を利用可能な高速伸長ＡＩを提供できるようになる。
【図面の簡単な説明】
【0016】
【図1】第１の実施の形態によるデータ処理システムの概要を説明するための図である。
【図2】第１の実施の形態によるデータ処理システムの一例を示す図である。
【図3】第１の実施の形態によるＲＡＭの構成の一例を示す図である。
【図4】第１の実施の形態によるＲＡＭの構成の一例を示す図である。
【図5】第１の実施の形態による圧縮器構成情報テーブルの構成の一例を示す図である。
【図6】第１の実施の形態によるデータ書き込み処理の一例を示す図である。
【図7】第１の実施の形態による伸長データ読み出し処理の一例を示す図である。
【図8】第１の実施の形態による圧縮データ読み出し処理の一例を示す図である。
【図9】第１の実施の形態による圧縮器構成情報応答処理の一例を示す図である。
【図10】第１の実施の形態による高速伸長ＡＩ学習処理の一例を示す図である。
【図11】第１の実施の形態による高速伸長ＡＩモデルの生成例を示す図である。
【図12】第１の実施の形態による高速伸長ＡＩ分析処理の一例を示す図である。
【図13】第１の実施の形態による圧縮器および符号化器の構成の一例を示す図である。
【発明を実施するための形態】
【0017】
（Ｉ）第１の実施の形態
以下、本発明の一実施の形態を詳述する。本実施の形態は、データ量の削減と、高速な分析処理とに関するものである。ただし、本発明は、実施の形態に限定されるものではない。
以下、本発明の一実施の形態を詳述する。本実施の形態は、データ量の削減と、高速な分析処理とに関するものである。ただし、本発明は、実施の形態に限定されるものではない。
【0018】
本実施の形態のデータ処理システムは、データを圧縮する圧縮器と、圧縮器により圧縮されたデータ（圧縮データ）を伸長する伸長器とを含んで構成される圧縮伸長部を備える。圧縮器および伸長器は、例えば、ニューラルネットワークである。圧縮伸長部は、第１のインタフェースにより、外部からの要求に対して、圧縮器の構成情報を応答する。さらに、データ処理システムは、取得した構成情報に基づいて、圧縮器モデルと高速伸長ＡＩモデルとを生成するライブラリを備え、ライブラリによって、ＡＩの学習プログラムが高速伸長ＡＩを設計および学習できるようにする。さらに、圧縮伸長部は、第２のインタフェースにより、外部からの要求に対して、伸長前の圧縮データを応答する。
【0019】
上記構成によれば、例えば、ニューラルネットワークを用いた圧縮器によりデータを圧縮して蓄積するシステムにおいて、高速伸長ＡＩを使用できるようになるため、特許文献２に記載の技術と比較して、分析時の伸長処理が高速化される。
【0020】
次に、本発明の実施の形態を図面に基づいて説明する。以下の記載および図面は、本発明を説明するための例示であって、説明の明確化のため、適宜、省略および簡略化がなされている。本発明は、他の種々の形態でも実施することが可能である。特に限定しない限り、各構成要素は、単数でも複数でも構わない。
【0021】
また、本明細書等における「第１」、「第２」、「第３」等の表記は、構成要素を識別するために付するものであり、必ずしも、数または順序を限定するものではない。また、構成要素の識別のための番号は、文脈毎に用いられ、１つの文脈で用いた番号が、他の文脈で必ずしも同一の構成を示すとは限らない。また、ある番号で識別された構成要素が、他の番号で識別された構成要素の機能を兼ねることを妨げるものではない。
【0022】
（１－１）概要
第１の実施の形態の概要について、図１を用いて説明する。
第１の実施の形態の概要について、図１を用いて説明する。
【0023】
本実施の形態のデータ処理システムは、データ生成源１００、圧縮伸長部１０１、ＡＩ処理部１０２、およびストレージ１１２を含んで構成される。
【0024】
データ生成源１００は、蓄積および分析の対象となるデータを生成する主体である。データ生成源１００は、例えば、画像データを生成するイメージセンサである。データ生成源１００およびデータ生成源１００が生成するデータは、これに限定されるものではなく、例えば、動画データを生成する監視カメラ、１次元データを生成する振動センサ、ログデータを生成するソフトウェア等であってもよい。また、データ生成源１００は、複数あってもよい。
【0025】
圧縮伸長部１０１は、データの圧縮およびデータの伸長を担うモジュールである。圧縮伸長部１０１は、圧縮器１１０、伸長器１１３、符号化器１１４、復号器１１５等を備える。圧縮器１１０および伸長器１１３は、例えば、ニューラルネットワークであり、オートエンコーダのエンコーダ部分およびデコーダ部分を用いて構成される。
【0026】
圧縮伸長部１０１は、データ生成源１００からのデータの書き込み要求に対して、当該データを圧縮器１１０により圧縮データに変換したのち、符号化器１１４によりビット列に変換し、ストレージ１１２に格納する。
【0027】
圧縮伸長部１０１は、伸長したデータ（伸長データ１０３）の読み出し要求に対しては、対象となるデータのビット列をストレージ１１２から読み出したのち、復号器１１５で圧縮データに変換し、さらに、当該圧縮データに対して伸長器１１３により伸長処理を行い、伸長したデータ（伸長データ１０３）を要求元に応答する。
【0028】
一方、例えば高速伸長ＡＩ１６１による分析を行うために、圧縮データの読み出しを要求された場合、圧縮伸長部１０１は、対象となるデータのビット列をストレージ１１２から読み出したのち、復号器１１５で変換（復号）した圧縮データを要求元に応答する。この場合、伸長器１１３での伸長処理が省略されるため、伸長データの読み出し要求に応答する場合に比べ、分析時の伸長処理が高速化される。
【0029】
また、圧縮伸長部１０１は、圧縮器１１０に関する構成情報（圧縮器構成情報１１１）を管理しており、圧縮器構成情報１１１が要求された場合には、圧縮器構成情報１１１を要求元に応答する。
【0030】
ＡＩ処理部１０２は、高速伸長ＡＩ１４２の学習と、高速伸長ＡＩ１４２の学習が行われたＡＩである高速伸長ＡＩ１６１による分析とを行うモジュールである。ＡＩ処理部１０２は、ライブラリ１２０、高速伸長ＡＩ学習部１４０、高速伸長ＡＩ分析部１６０等を備える。
【0031】
ライブラリ１２０は、高速伸長ＡＩ１４２の学習に必要となる、圧縮器１４１のモデル（圧縮器モデル１２２）と、高速伸長ＡＩ１４２のモデル（高速伸長ＡＩモデル１２３）とを提供するライブラリである。
【0032】
高速伸長ＡＩ学習部１４０は、高速伸長ＡＩ１４２の学習を行うプログラムである。高速伸長ＡＩ学習部１４０は、圧縮伸長部１０１に、圧縮器構成情報１１１を問い合わせ、ライブラリ１２０に設定情報１２１として設定する。ライブラリ１２０は、設定情報１２１に基づいて、学習済みの圧縮器モデル１２２と、未学習の高速伸長ＡＩモデル１２３とを生成する。高速伸長ＡＩ学習部１４０は、学習データ１３０のうち、高速伸長ＡＩ１４２の入力となるデータ（学習入力データ１３１）を、圧縮器モデル１２２が動作可能に読み出されている圧縮器１４１により圧縮した圧縮データを入力として、正解ラベルデータ１３２を出力するように、損失関数１４３を用いて、高速伸長ＡＩモデル１２３が動作可能に読み出されている高速伸長ＡＩ１４２を学習する。高速伸長ＡＩ学習部１４０は、学習が完了したのち、学習した高速伸長ＡＩ１４２のモデルをストレージ１５０に格納する。
【0033】
高速伸長ＡＩ分析部１６０は、ストレージ１５０から学習が完了した高速伸長ＡＩ１４２のモデルを取得し、高速伸長ＡＩ１４２のモデルを動作可能に読み出した高速伸長ＡＩ１６１を用いて、ストレージ１１２に蓄積したデータを分析するプログラムである。高速伸長ＡＩ分析部１６０は、圧縮伸長部１０１に、圧縮データの読み出しを要求し、取得した圧縮データを入力として、高速伸長ＡＩ１６１を実行し、分析結果を得る。
【0034】
（１－２）データ処理システム構成
本実施の形態のデータ処理システムの一例（データ処理システム２００）について、図２を用いて説明する。
本実施の形態のデータ処理システムの一例（データ処理システム２００）について、図２を用いて説明する。
【0035】
圧縮伸長部１０１およびＡＩ処理部１０２の各々は、プロセッサ、メモリ、ネットワークインタフェース等のハードウェア資源と、圧縮器、伸長器等のソフトウェア資源とを備えたコンピュータである。スイッチ２０１は、データ生成源１００、圧縮伸長部１０１、およびＡＩ処理部１０２を相互に接続する。
【0036】
圧縮伸長部１０１は、スイッチ２１０、プロセッサ２２０、Ｉ／Ｆ２３０（Front-end Interface）、ＲＡＭ２４０、およびＩ／Ｆ２５０（Back-end Interface）を含んで構成される。Ｉ／Ｆ２３０は、圧縮伸長部１０１と、データ生成源１００およびＡＩ処理部１０２とを接続するためのインタフェースである。プロセッサ２２０は、スイッチ２１０を介して、ＲＡＭ２４０に記録されたプログラム２４５および管理情報２４６（Metadata）を基に、圧縮伸長部１０１全体を制御する。Ｉ／Ｆ２５０は、圧縮伸長部１０１とストレージ１１２とを接続する。
【0037】
ＡＩ処理部１０２は、ストレージ１５０、Ｉ／Ｆ２６０（Front-end Interface）、スイッチ２７０、プロセッサ２８０、およびＲＡＭ２９０を含んで構成される。Ｉ／Ｆ２６０は、ＡＩ処理部１０２と、圧縮伸長部１０１等を接続するためのインタフェースである。プロセッサ２８０は、スイッチ２７０を介して、ＲＡＭ２９０に記録されたプログラム２９１および管理情報２９２（Metadata）を基に、ＡＩ処理部１０２全体を制御する。
【0038】
プロセッサ２２０およびプロセッサ２８０は、ＣＰＵ（Central Processing Unit）のような、汎用的な演算処理器のほかに、ＧＰＵ（Graphical Processing Unit)やＦＰＧＡ（Field Programmable Gate Array)のような、アクセラレータであってもよく、また、それらの組み合わせであってもよい。
【0039】
ストレージ１１２およびストレージ１５０は、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）により構成されたブロックデバイスであってもよいし、ファイルストレージであってもよいし、コンテンツストレージであってもよいし、ストレージシステム上に構築されたボリュームであってもよいし、その他、データを蓄積する任意の方法で実現されてもよい。
【0040】
圧縮伸長部１０１とＡＩ処理部１０２とは、以上で説明した構成要素を実装した、ＩＣ（Integrated Circuit）等のハードウェアを相互に接続した構成であってもよいし、そのいくつかが、ＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ等として、１つの半導体素子により実装される構成であってもよい。また、圧縮伸長部１０１とＡＩ処理部１０２とは、異なるハードウェア装置あってもよいし、同一のコンピュータで動作する異なるＶＭ（Virtual Machine）であってもよいし、同一のＯＳ（Operating System）上で動作する異なるコンテナであってもよいし、同一のＯＳ上で動作する異なるアプリケーションであってもよい。例えば、圧縮伸長部１０１、ＡＩ処理部１０２、およびストレージ１１２は、ＨＣＩ（Hyper Converged Infrastructure）上で動作する個別のソフトウェアであってもよい。また、圧縮伸長部１０１およびＡＩ処理部１０２は、複数のコンピュータから構成されるクラスタにより実現されてもよい。
【0041】
（１－３）ＲＡＭ構成
図３に、ＡＩ処理部１０２のＲＡＭ２９０の構成の一例を示す。ＲＡＭ２９０には、ＡＩ処理部１０２のプロセッサ２８０が実行するプログラム２９１と、プログラム２９１で用いる管理情報２９２とが含まれる。
図３に、ＡＩ処理部１０２のＲＡＭ２９０の構成の一例を示す。ＲＡＭ２９０には、ＡＩ処理部１０２のプロセッサ２８０が実行するプログラム２９１と、プログラム２９１で用いる管理情報２９２とが含まれる。
【0042】
プログラム２９１は、高速伸長ＡＩ学習プログラム３００、高速伸長ＡＩ分析プログラム３０１、圧縮器モデル生成プログラム３０２、および高速伸長ＡＩモデル生成プログラム３０３を含んで構成される。管理情報２９２は、圧縮器構成情報設定テーブル３１０、学習入力データ１３１、および正解ラベルデータ１３２を含んで構成される。このうち、圧縮器モデル生成プログラム３０２、高速伸長ＡＩモデル生成プログラム３０３、および圧縮器構成情報設定テーブル３１０は、ライブラリ１２０に含まれるプログラムおよび管理情報である。また、学習データ１３０は、ＲＡＭ２９０に格納される代わりに、ストレージ１５０に格納されていてもよい。
【0043】
高速伸長ＡＩ学習プログラム３００は、学習入力データ１３１と正解ラベルデータ１３２とからなる学習データ１３０を用いて、高速伸長ＡＩ１４２の学習を行うプログラムである。
【0044】
高速伸長ＡＩ分析プログラム３０１は、高速伸長ＡＩ学習プログラム３００による学習が完了した高速伸長ＡＩ１４２、つまり高速伸長ＡＩ１６１を用いて、ストレージ１１２に蓄積したデータの分析を行うプログラムである。
【0045】
圧縮器モデル生成プログラム３０２は、高速伸長ＡＩ１４２の学習で必要となる学習済みの圧縮器１４１のモデルである圧縮器モデル１２２を、圧縮器構成情報設定テーブル３１０に設定された圧縮器１１０の構成情報に基づいて生成するプログラムである。
【0046】
高速伸長ＡＩモデル生成プログラム３０３は、入力として与えられた所定のＡＩのモデル（入力ＡＩモデル）を、圧縮器構成情報設定テーブル３１０に設定された、圧縮器１１０の構成情報に基づいて、高速伸長ＡＩモデル１２３に変換するプログラムである。ただし、高速伸長ＡＩモデル１２３は、未学習の状態で生成される。例えば、高速伸長ＡＩモデル生成プログラム３０３は、画像を入力として、当該画像に写る数字を識別するニューラルネットワークのモデルを与えると、画像の圧縮データを入力として、数字を識別するような高速伸長ＡＩのニューラルネットワークのモデルを生成する。詳細については、図１１を用いて後述する。
【0047】
圧縮器構成情報設定テーブル３１０は、圧縮伸長部１０１から取得した圧縮器構成情報１１１（圧縮器１１０の構成情報）を管理するテーブルである。
【0048】
学習入力データ１３１および正解ラベルデータ１３２は、高速伸長ＡＩ１４２の学習に用いる学習データである。例えば、高速伸長ＡＩ１４２が、画像の圧縮データを入力として、当該画像に写る数字を識別するＡＩである場合は、学習入力データ１３１は、数字が写る画像群であり、正解ラベルデータ１３２は、各画像に写る数字を表すラベル群である。なお、学習データ１３０の構成は、学習入力データ１３１と正解ラベルデータ１３２とのペアに限定されるものではない。例えば、教師なし学習するＡＩを学習する場合、正解ラベルデータ１３２は存在しなくてもよい。また、入力に対して、複数のタスクを同時に実行する高速伸長ＡＩ１４２を学習する場合、学習データ１３０は、複数種類の正解ラベルデータ１３２を含んでいてもよい。また、ストレージ１１２に蓄積したデータを学習に用いる場合、学習データ１３０に学習入力データ１３１が含まれていなくてもよい。
【0049】
図４に、圧縮伸長部１０１のＲＡＭ２４０の構成の一例を示す。ＲＡＭ２４０には、圧縮伸長部１０１のプロセッサ２２０が実行するプログラム２４５と、プログラム２４５で用いる管理情報２４６とが含まれる。
【0050】
プログラム２４５は、データ書き込みプログラム４００、伸長データ読み出しプログラム４０１、圧縮データ読み出しプログラム４０２、および圧縮器構成情報応答プログラム４０３を含んで構成される。管理情報２４６は、圧縮器構成情報管理テーブル４１０を含んで構成される。
【0051】
データ書き込みプログラム４００は、データ生成源１００から受領したデータを、圧縮器１１０により圧縮し、符号化器１１４によりビット列に変換したのちに、ストレージ１１２に格納するプログラムである。
【0052】
伸長データ読み出しプログラム４０１は、外部からの伸長データの読み出し要求に対し、ストレージ１１２から対応するデータのビット列を読み出し、復号器１１５により圧縮データに復号したのち、伸長器１１３により伸長処理した伸長データを、要求元に応答するプログラムである。
【0053】
圧縮データ読み出しプログラム４０２は、外部からの圧縮データの読み出し要求に対し、ストレージ１１２から対応するデータのビット列を読み出し、復号器１１５により復号した圧縮データを、要求元に応答するプログラムである。
【0054】
圧縮器構成情報応答プログラム４０３は、外部からの圧縮器構成情報１１１の取得要求に対し、圧縮器構成情報管理テーブル４１０から圧縮器構成情報１１１を読み出し、要求元に応答するプログラムである。
【0055】
圧縮器構成情報管理テーブル４１０は、圧縮器構成情報１１１を管理するテーブルである。
【0056】
（１－４）テーブル構成
図５に、圧縮器構成情報テーブル５００の構成の一例を示す。圧縮器構成情報設定テーブル３１０および圧縮器構成情報管理テーブル４１０は、圧縮器構成情報テーブル５００の形式に基づいて圧縮器構成情報１１１を保持する。なお、圧縮器構成情報１１１の表現方法は、圧縮器構成情報テーブル５００の形式に限られるものではなく、ＸＭＬ（Extensible Markup Language）、ＹＡＭＬ（YAML Ain’t a Markup Language)、ハッシュテーブル、木構造等、テーブル以外のデータ構造によって表現されてもよい。
図５に、圧縮器構成情報テーブル５００の構成の一例を示す。圧縮器構成情報設定テーブル３１０および圧縮器構成情報管理テーブル４１０は、圧縮器構成情報テーブル５００の形式に基づいて圧縮器構成情報１１１を保持する。なお、圧縮器構成情報１１１の表現方法は、圧縮器構成情報テーブル５００の形式に限られるものではなく、ＸＭＬ（Extensible Markup Language）、ＹＡＭＬ（YAML Ain’t a Markup Language)、ハッシュテーブル、木構造等、テーブル以外のデータ構造によって表現されてもよい。
【0057】
圧縮器構成情報テーブル５００は、構成パラメタ列５１０に示される圧縮器１１０のパラメタに対して、設定値列５１１に示される設定値を管理するテーブルである。図５に、圧縮器構成情報テーブル５００で管理するパラメタの例を示す。なお、圧縮器構成情報テーブル５００で管理するパラメタは、図５に示されるパラメタ以外に存在してもよいし、また、図５に示されるパラメタを除外してもよい。
【0058】
入力チャネル数５２０は、圧縮器１１０が入力するテンソルのチャネル数を表す。出力チャネル数５２１は、圧縮器１１０が出力するテンソルのチャネル数を表す。出力幅スケール５２２は、圧縮器１１０の入力テンソルの幅に対して、圧縮器１１０の出力テンソルの幅が何倍になるかを表す。出力高さスケール５２３は、圧縮器１１０の入力テンソルの高さに対して、圧縮器１１０の出力テンソルの高さが何倍になるかを表す。入力レンジ５２４は、圧縮器１１０が入力するテンソルの、各要素がとりうる値のレンジを表す。出力レンジ５２５は、圧縮器１１０が出力するテンソルの、各要素がとりうる値のレンジを表す。
【0059】
例えば、図５に示す構成では、圧縮器１１０は、ＲＧＢ画像等の、各要素の値が０以上２５５以下の値を取る３チャネルの３次元データを入力として受領し、各要素の値が－３以上３以下で、チャネル数６４かつ、高さおよび幅がそれぞれ入力の１６分の１のサイズのテンソルを出力することを表す。
【0060】
重みパラメタ５２６は、圧縮器１１０を構成するニューラルネットワークの重み、バイアス等、学習されたパラメタを表す。パラメタは、Ｄｉｃｔｉｏｎａｒｙ、ＯＮＮＸ（Open Neural Network eXchange）形式等、任意のデータ構造で表現されていればよい。
【0061】
（１－５）データ書き込み処理
図６は、データ書き込みプログラム４００のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、データ生成源１００からのデータの書き込み要求をＩ／Ｆ２３０が受領するイベントを契機として、データ書き込みプログラム４００を開始する（Ｓ６００）。
図６は、データ書き込みプログラム４００のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、データ生成源１００からのデータの書き込み要求をＩ／Ｆ２３０が受領するイベントを契機として、データ書き込みプログラム４００を開始する（Ｓ６００）。
【0062】
Ｓ６０１では、プロセッサ２２０が、Ｉ／Ｆ２３０で受領した書き込み対象のデータを取得し、圧縮器１１０により圧縮データに変換する。
【0063】
Ｓ６０２では、プロセッサ２２０が、Ｓ６０１で変換（生成）した圧縮データを、符号化器１１４によりビット列に変換する。例えば、単純には、テンソルの各要素の３２ビット浮動小数点数を、Ｒａｓｔｅｒ－ｓｃａｎ Ｏｒｄｅｒでバイナリ化することで、圧縮データを符号化できる。また、圧縮率を改善するために、圧縮データを算術符号等により、エントロピー符号化してもよい。ただし、符号化の方法は、これらに限定されるものではない。
【0064】
エントロピー符号化する場合の、圧縮器１１０と符号化器１１４との構成の一例を図１３に示す。ただし、圧縮器１１０および符号化器１１４の構成は、これに限定されるものではない。
【0065】
圧縮器１１０は、パディング器１３０１、エンコーダ１３０３、および量子化器１３０４から構成される。エンコーダ１３０３は、例えば、畳み込みニューラルネットワークで構成されたオートエンコーダのエンコーダ部分である。畳み込みニューラルネットワークは、畳み込み層、バッチ正規化層（Batch Normalization層）、活性化関数等により構成され、一般に、実数からなるテンソルを出力する。量子化器１３０４は、エンコーダ１３０３が出力したテンソルの各要素の値を、離散的な値に丸める処理を行う。例えば、量子化器１３０４は、各要素の値を最も近い整数値に丸める量子化器や、各要素の値を、事前定義された有限個の値のうち、最も近いもので置き換える量子化器である。また、量子化器１３０４は、その他任意の量子化器でもよい。
【0066】
エンコーダ１３０３は、一般に、Ｐｏｏｌｉｎｇ層やＳｔｒｉｄｅ付きの畳み込み層により、入力テンソル１３００よりも空間方向のサイズが小さいテンソルを出力する。例えば、Ｓｔｒｉｄｅが「２」の畳み込み層を４段含む畳み込みニューラルネットワークの場合、入力テンソル１３００の空間方向の各軸のサイズが１６分の１になったテンソルが出力される。入力テンソル１３００に、サイズが１６の倍数でない空間方向の軸が含まれる場合、パディング器１３０１は、その軸のサイズが、元のサイズより大きい最小の１６の倍数となるように、入力テンソル１３００に要素を追加（パディング）する。
【0067】
パディング器１３０１は、例えば、「０」を追加するｚｅｒｏ－ｐａｄｄｉｎｇであってもよいし、その他任意の値を追加してもよい。例えば、入力テンソル１３００の空間方向のサイズが幅１２６ピクセル、高さ１２９ピクセルである場合、パディング器１３０１は、左右に１ピクセルずつ、上に８ピクセル、下に７ピクセル分の「０」を挿入することで、幅１２８ピクセル、高さ１４４ピクセルのテンソル１３０２を生成し、エンコーダ１３０３および量子化器１３０４は、幅８ピクセル、高さ９ピクセルの圧縮データ１３０５を生成する。
【0068】
符号化器１１４は、パディング器１３０６、ハイパーエンコーダ１３０８、ハイパーデコーダ１３１０、コンテキスト推定器１３１１、ミキサ１３１２、確率生成器１３１３、およびエントロピー符号化器１３１４から構成される。ハイパーエンコーダ１３０８、ハイパーデコーダ１３１０、コンテキスト推定器１３１１、およびミキサ１３１２は、それぞれニューラルネットワークにより構成され、圧縮データ１３０５の各要素の値の出現確率を予測するためのパラメタを算出する。ハイパーエンコーダ１３０８およびハイパーデコーダ１３１０は、ハイパーエンコーダ１３０８の入力テンソルとハイパーデコーダ１３１０の出力テンソルのサイズが等しくなるように実装される。
【0069】
コンテキスト推定器１３１１は、例えば、Ｍａｓｋｅｄ Ｃｏｎｖｏｌｕｔｉｏｎ層により構成される。ミキサ１３１２は、ハイパーデコーダ１３１０の出力と、コンテキスト推定器１３１１の出力とを入力として、確率予測に必要なパラメタを出力する。確率生成器１３１３は、ミキサ１３１２の出力を基にして、圧縮データ１３０５の各要素の値の出現確率を算出する。例えば、ミキサ１３１２の出力は、圧縮データ１３０５の各要素の平均値と標準偏差とを表しており、確率生成器１３１３は、それらのパラメタで表されるガウス分布により、各要素の値の確率を計算する。エントロピー符号化器１３１４は、例えば、算術符号化器であり、確率生成器１３１３が生成した確率を使用して、圧縮データ１３０５をビット列１３１５に変換する。
【0070】
ハイパーエンコーダ１３０８およびハイパーデコーダ１３１０は、例えば、Ｓｔｒｉｄｅ付きの畳み込みニューラルネットワークで構成されるため、エンコーダ１３０３と同様に、ハイパーエンコーダ１３０８に入力されるテンソル１３０７は、空間方向の軸のサイズが特定の整数の倍数になっている必要がある。パディング器１３０６は、この条件を満たすように、圧縮データ１３０５のサイズを変換して、テンソル１３０７を出力する。パディング器１３０６は、パディング器１３０１と同様に、上下左右に均等に値が「０」の要素を追加するものでもよいが、コンテキスト推定器１３１１の出力テンソルと、ハイパーデコーダ１３１０の出力テンソルとの座標が整合するように、下と右に寄せて要素を追加してもよい。
【0071】
また、パディング器１３０１において、パディング器１３０６で必要となる量の要素をまとめて追加してもよい。例えば、エンコーダ１３０３がＳｔｒｉｄｅ「２」の畳み込み層４段、ハイパーエンコーダ１３０８がＳｔｒｉｄｅ「２」の畳み込み層２段から構成される場合、パディング器１３０１にて、空間軸のサイズが６４の倍数となるように要素を追加することで、パディング器１３０６を省略してもよい。しかし、パディング器１３０１で１６の倍数となるように、パディング器１３０６で４の倍数となるように、それぞれで要素を追加する、図１３に示す構成とする方が、圧縮データ１３０５の要素数が小さくなるため、よりよい圧縮率が期待できる。
【0072】
Ｓ６０３では、プロセッサ２２０が、Ｓ６０２で生成したビット列をストレージ１１２に格納する。その後、データ書き込みプログラム４００は終了する（Ｓ６０４）。
【0073】
（１－６）伸長データ読み出し処理
図７は、伸長データ読み出しプログラム４０１のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、伸長データの読み出し要求をＩ／Ｆ２３０が受領するイベントを契機として、伸長データ読み出しプログラム４０１を開始する（Ｓ７００）。なお、要求の発行主体は、例えば、ＡＩ処理部１０２であるが、その他、スイッチ２０１に接続された任意のハードウェア、仮想化されたハードウェア等であってもよい。
図７は、伸長データ読み出しプログラム４０１のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、伸長データの読み出し要求をＩ／Ｆ２３０が受領するイベントを契機として、伸長データ読み出しプログラム４０１を開始する（Ｓ７００）。なお、要求の発行主体は、例えば、ＡＩ処理部１０２であるが、その他、スイッチ２０１に接続された任意のハードウェア、仮想化されたハードウェア等であってもよい。
【0074】
Ｓ７０１では、プロセッサ２２０が、読み出し対象のデータに対応するビット列を、ストレージ１１２から取得する。
【0075】
Ｓ７０２では、プロセッサ２２０が、復号器１１５を用いて、ビット列を圧縮データに復号する。
【0076】
Ｓ７０３では、プロセッサ２２０が、伸長器１１３を用いて、圧縮データを、圧縮前と同一フォーマットのデータに伸長する。
【0077】
Ｓ７０４では、プロセッサ２２０が、Ｓ７０３において取得した伸長データを、Ｉ／Ｆ２３０を介して、要求元に応答する。その後、伸長データ読み出しプログラム４０１は、終了する（Ｓ７０５）。
【0078】
（１－７）圧縮データ読み出し処理
図８は、圧縮データ読み出しプログラム４０２のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、圧縮データの読み出し要求をＩ／Ｆ２３０が受領するイベントを契機として、圧縮データ読み出しプログラム４０２を開始する（Ｓ８００）。なお、要求の発行主体は、例えば、ＡＩ処理部１０２であるが、その他、スイッチ２０１に接続された任意のハードウェア、仮想化されたハードウェア等であってもよい。
図８は、圧縮データ読み出しプログラム４０２のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、圧縮データの読み出し要求をＩ／Ｆ２３０が受領するイベントを契機として、圧縮データ読み出しプログラム４０２を開始する（Ｓ８００）。なお、要求の発行主体は、例えば、ＡＩ処理部１０２であるが、その他、スイッチ２０１に接続された任意のハードウェア、仮想化されたハードウェア等であってもよい。
【0079】
Ｓ８０１では、プロセッサ２２０が、読み出し対象のデータに対応するビット列を、ストレージ１１２から取得する。
【0080】
Ｓ８０２では、プロセッサ２２０が、復号器１１５を用いて、ビット列を圧縮データに復号する。
【0081】
Ｓ８０３では、プロセッサ２２０が、Ｓ８０２において取得した圧縮データを、Ｉ／Ｆ２３０を介して、要求元に応答する。その後、圧縮データ読み出しプログラム４０２は、終了する（Ｓ８０４）。
【0082】
圧縮データ読み出しプログラム４０２では、伸長データ読み出しプログラム４０１において必要であった、伸長器１１３で圧縮データを伸長するＳ７０３が不要であるため、分析時の伸長処理が高速化される。
【0083】
（１－８）圧縮器構成情報応答処理
図９は、圧縮器構成情報応答プログラム４０３のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、圧縮器構成情報１１１の取得要求をＩ／Ｆ２３０が受領するイベントを契機として、圧縮器構成情報応答プログラム４０３を開始する（Ｓ９００）。なお、要求の発行主体は、例えば、ＡＩ処理部１０２であるが、その他、スイッチ２０１に接続された任意のハードウェア、仮想化されたハードウェア等であってもよい。
図９は、圧縮器構成情報応答プログラム４０３のフロー図である。圧縮伸長部１０１のプロセッサ２２０は、圧縮器構成情報１１１の取得要求をＩ／Ｆ２３０が受領するイベントを契機として、圧縮器構成情報応答プログラム４０３を開始する（Ｓ９００）。なお、要求の発行主体は、例えば、ＡＩ処理部１０２であるが、その他、スイッチ２０１に接続された任意のハードウェア、仮想化されたハードウェア等であってもよい。
【0084】
Ｓ９０１では、プロセッサ２２０が、圧縮器構成情報管理テーブル４１０から、圧縮器構成情報１１１を取得する。
【0085】
Ｓ９０２では、プロセッサ２２０が、Ｓ９０１で取得した圧縮器構成情報１１１を要求元に応答する。その後、圧縮器構成情報応答プログラム４０３は、終了する（Ｓ９０３）。
【0086】
（１－９）高速伸長ＡＩ学習処理
図１０は、高速伸長ＡＩ学習プログラム３００のフロー図である。ＡＩ処理部１０２のプロセッサ２８０が高速伸長ＡＩ学習プログラム３００の実行を開始する契機は、例えば、ユーザがキーボード等の外部入力デバイスを用いてＡＩ処理部１０２に指示したタイミングであるが、その他、任意のイベントを契機としてもよい。なお、高速伸長ＡＩ学習プログラム３００は、ＡＩの設計者によって記述されるものであり、図１０に示すフローは一例であって、ライブラリ１２０を用いて高速伸長ＡＩ１４２を学習するプログラムであれば、これとは異なる処理が記述されていてもよい。
図１０は、高速伸長ＡＩ学習プログラム３００のフロー図である。ＡＩ処理部１０２のプロセッサ２８０が高速伸長ＡＩ学習プログラム３００の実行を開始する契機は、例えば、ユーザがキーボード等の外部入力デバイスを用いてＡＩ処理部１０２に指示したタイミングであるが、その他、任意のイベントを契機としてもよい。なお、高速伸長ＡＩ学習プログラム３００は、ＡＩの設計者によって記述されるものであり、図１０に示すフローは一例であって、ライブラリ１２０を用いて高速伸長ＡＩ１４２を学習するプログラムであれば、これとは異なる処理が記述されていてもよい。
【0087】
Ｓ１００１では、プロセッサ２８０が、Ｉ／Ｆ２５０を介して、圧縮伸長部１０１に、圧縮器構成情報１１１を要求する。この要求に基づいて、圧縮伸長部１０１にて、圧縮器構成情報応答プログラム４０３が実行され、応答された圧縮器構成情報１１１がＩ／Ｆ２５０で受領される。
【0088】
Ｓ１００２では、プロセッサ２８０が、Ｉ／Ｆ２５０で受領した圧縮器構成情報１１１を、圧縮器構成情報設定テーブル３１０に設定する。プロセッサ２８０は、高速伸長ＡＩ学習プログラム３００に記述されたステップに従って、ライブラリ１２０に含まれる圧縮器構成情報設定テーブル３１０に情報を書き込んでもよいし、ライブラリ１２０が提供するＡＰＩ（Application Programming Interface）を用いて書き込んでもよい。
【0089】
Ｓ１００３では、プロセッサ２８０が、圧縮器モデル生成プログラム３０２をサブルーチンコールして、学習済みの圧縮器モデル１２２を取得する。圧縮器モデル生成プログラム３０２は、圧縮器構成情報設定テーブル３１０に格納された、圧縮器１１０のニューラルネットワークの構造や、重みパラメタ５２６の情報を基に、圧縮器モデル１２２を生成する。
【0090】
Ｓ１００４では、プロセッサ２８０が、高速伸長ＡＩモデル生成プログラム３０３をサブルーチンコールして、未学習の高速伸長ＡＩモデル１２３を取得する。高速伸長ＡＩモデル生成プログラム３０３は、圧縮器構成情報設定テーブル３１０に格納された圧縮器１１０の構成情報と、高速伸長ＡＩモデル生成プログラム３０３の引数として与えられた入力ＡＩモデルとを基にして、高速伸長ＡＩモデル１２３を生成する。
【0091】
高速伸長ＡＩモデル１２３の生成例を図１１に示す。入力ＡＩモデル１１１０のニューラルネットワークとして、１２８ｘ１２８のＲＧＢ画像を入力として、当該ＲＧＢ画像に写る数字を識別し、長さ１０のワンホットベクトルとして出力するＡＩ１１０５を想定する。また、圧縮器１１０として、ＲＧＢ画像（各要素の値のレンジは０以上２５５以下）を入力して、幅および高さがそれぞれ１６分の１となるチャネル数６４のテンソル（各要素の値のレンジは－３以上３以下）を出力するものを想定する。
【0092】
この場合、高速伸長ＡＩモデル生成プログラム３０３では、圧縮器構成情報設定テーブル３１０に格納された圧縮器１１０の構成情報を基に、値のレンジが－３～３でサイズが６４ｘ８ｘ８の圧縮データを、値のレンジが０～２５５でサイズが３ｘ１２８ｘ１２８のテンソルに変換する前処理ユニット１１００が構築される。
【0093】
前処理ユニット１１００は、例えば、各要素の値を「３」で割ることにより、値のレンジを－３～３から－１～１に変換する正規化層１１０１、６４チャネルのテンソルを３チャネルに変換する畳み込み層１１０２、線形補間によりテンソルの幅と高さとをそれぞれ１６倍に拡大するＩｎｔｅｒｐｏｌａｔｉｏｎ層１１０３、各要素の値を２５５倍することで、レンジを０～２５５に変換するＤｅｎｏｒｍａｌｉｚａｔｉｏｎ層１１０４により、構成することができる。このように、高速伸長ＡＩモデル生成プログラム３０３は、生成した前処理ユニット１１００と、与えられた入力ＡＩモデル１１１０とを連結することにより、圧縮データを入力として、長さ１０のベクトルを出力する、高速伸長ＡＩ１１０６の高速伸長ＡＩモデル１２３を生成することができる。
【0094】
ただし、前処理ユニット１１００は、ここで記した以外の方法で生成されてもよい。また、圧縮器１１０と同様に、ＡＩ１１０５が畳み込みニューラルネットワーク等で構成されている場合、高速伸長ＡＩモデル生成プログラム３０３は、前処理ユニット１１００を生成する代わりに、圧縮データのサイズのテンソルを入力できるように、入力ＡＩモデル１１１０の前段の畳み込み層を除去することで、高速伸長ＡＩモデル１２３を生成してもよいし、入力ＡＩモデル１１１０の前段の畳み込み層のＳｔｒｉｄｅを「１」に変更したり、Ｐｏｏｌｉｎｇ層を除去したりすることで、高速伸長ＡＩモデル１２３を生成してもよい。
【0095】
Ｓ１００６では、プロセッサ２８０が、学習データ１３０から、学習入力データ１３１と正解ラベルデータ１３２とをサンプリングして取得する。
【0096】
Ｓ１００７は、プロセッサ２８０が、Ｓ１００６で取得した学習入力データ１３１と正解ラベルデータ１３２とに対して、水増し処理を行う。水増し処理は、例えば、ランダムに回転、反転、リサイズする処理や、データを同一サイズのパッチに切り出す処理等が含まれる。なお、水増し処理が不要であれば、このステップは省略されてもよい。
【0097】
Ｓ１００８では、プロセッサ２８０が、Ｓ１００７で生成した学習入力データ１３１を、Ｓ１００３で取得した圧縮器モデル１２２が実行可能にＲＡＭ２９０にロードされた圧縮器１４１に入力し、圧縮データを取得する。
【0098】
Ｓ１００９では、プロセッサ２８０が、Ｓ１００８で生成した圧縮データを入力として、Ｓ１００７で生成した正解ラベルデータ１３２を出力するように、Ｓ１００４で取得した高速伸長ＡＩモデル１２３が実行可能にＲＡＭ２９０にロードされた高速伸長ＡＩ１４２のパラメタを更新する。例えば、プロセッサ２８０は、ニューラルネットワークで構成された高速伸長ＡＩ１４２に対して、圧縮データを入力し、その出力値と正解ラベルデータ１３２との差を損失関数１４３で評価し、各パラメタにおける微分値を逆誤差伝播法等で算出し、Ａｄａｍ等の最適化アルゴリズムにより、各パラメタを更新する。ただし、高速伸長ＡＩ１４２の学習アルゴリズムは、これに限定されるものではない。
【0099】
Ｓ１００６～Ｓ１００９は、高速伸長ＡＩ１４２の学習が収束する等、所定の条件を満たすまで繰り返し実行される（Ｓ１００５）。
【0100】
学習が終了したら、プロセッサ２８０は、学習した高速伸長ＡＩ１４２のモデルをストレージ１５０に格納し、高速伸長ＡＩ学習プログラム３００を終了する（Ｓ１０１１）。
【0101】
（１－１０）高速伸長ＡＩ分析処理
図１２は、高速伸長ＡＩ分析プログラム３０１のフロー図である。ＡＩ処理部１０２のプロセッサ２８０が高速伸長ＡＩ分析プログラム３０１の実行を開始する契機は、例えば、ユーザがキーボード等の外部入力デバイスを用いてＡＩ処理部１０２に指示したタイミングであるが、その他、任意のイベントを契機としてもよい。なお、高速伸長ＡＩ分析プログラム３０１は、ＡＩの設計者によって記述されるものであり、図１２に示すフローは一例であって、高速伸長ＡＩ１６１を実行するステップが含まれていれば、これと異なる処理が記述されていてもよい。
図１２は、高速伸長ＡＩ分析プログラム３０１のフロー図である。ＡＩ処理部１０２のプロセッサ２８０が高速伸長ＡＩ分析プログラム３０１の実行を開始する契機は、例えば、ユーザがキーボード等の外部入力デバイスを用いてＡＩ処理部１０２に指示したタイミングであるが、その他、任意のイベントを契機としてもよい。なお、高速伸長ＡＩ分析プログラム３０１は、ＡＩの設計者によって記述されるものであり、図１２に示すフローは一例であって、高速伸長ＡＩ１６１を実行するステップが含まれていれば、これと異なる処理が記述されていてもよい。
【0102】
Ｓ１２０１では、プロセッサ２８０が、学習済みの高速伸長ＡＩ１４２のモデルを、ストレージ１５０から取得する。
【0103】
Ｓ１２０２では、プロセッサ２８０が、Ｉ／Ｆ２５０を介して、圧縮伸長部１０１に、分析対象とする圧縮データを要求する。要求に基づいて、圧縮伸長部１０１にて、圧縮データ読み出しプログラム４０２が実行され、応答された圧縮データがＩ／Ｆ２５０で受領される。
【0104】
Ｓ１２０３では、プロセッサ２８０が、Ｉ／Ｆ２５０にて受領した圧縮データを、Ｓ１２０１で取得した高速伸長ＡＩ１４２のモデルが実行可能にＲＡＭ２９０にロードされた高速伸長ＡＩ１６１に入力し、分析結果を取得する。その後、プロセッサ２８０は、高速伸長ＡＩ分析プログラム３０１を終了する（Ｓ１２０４）。
【0105】
なお、プロセッサ２８０は、Ｓ１２０２～Ｓ１２０３を繰り返すことで、複数のデータに対して高速伸長ＡＩ１６１による分析を行ってもよいし、Ｓ１２０３で得た分析結果を、さらに加工する処理がＳ１２０３に続いてもよい。
【0106】
以上、本発明が適用されるシステムの例について説明した。
【0107】
（ＩＩ）付記
上述の実施の形態には、例えば、以下のような内容が含まれる。
上述の実施の形態には、例えば、以下のような内容が含まれる。
【0108】
上述の実施の形態においては、本発明をデータ処理システムに適用するようにした場合について述べたが、本発明はこれに限らず、この他種々のシステム、装置、方法、プログラムに広く適用することができる。
【0109】
また、上述の実施の形態において、プログラムの一部またはすべては、プログラムソースから、圧縮伸長部１０１、ＡＩ処理部１０２等を実現するコンピュータのような装置にインストールされてもよい。プログラムソースは、例えば、ネットワークで接続されたプログラム配布サーバまたはコンピュータが読み取り可能な記録媒体（例えば非一時的な記録媒体）であってもよい。また、上述の説明において、２以上のプログラムが１つのプログラムとして実現されてもよいし、１つのプログラムが２以上のプログラムとして実現されてもよい。
【0110】
上述した実施の形態は、例えば、以下の特徴的な構成を有する。
【0111】
（１）
データを圧縮する圧縮器（例えば、圧縮器１１０）と、上記圧縮器により圧縮されたデータを伸長する伸長器（例えば、伸長器１１３）とを含んで構成される圧縮伸長部（例えば、圧縮伸長部１０１）を備えるデータ処理システム（例えば、データ処理システム２００）であって、上記圧縮伸長部は、上記圧縮器の構成情報を出力可能な第１のインタフェース部（例えば、圧縮器構成情報応答プログラム４０３、プロセッサ２２０、回路）と、上記圧縮器により圧縮されたデータを出力可能な第２のインタフェース部（例えば、圧縮データ読み出しプログラム４０２、プロセッサ２２０、回路）と、を備える。
データを圧縮する圧縮器（例えば、圧縮器１１０）と、上記圧縮器により圧縮されたデータを伸長する伸長器（例えば、伸長器１１３）とを含んで構成される圧縮伸長部（例えば、圧縮伸長部１０１）を備えるデータ処理システム（例えば、データ処理システム２００）であって、上記圧縮伸長部は、上記圧縮器の構成情報を出力可能な第１のインタフェース部（例えば、圧縮器構成情報応答プログラム４０３、プロセッサ２２０、回路）と、上記圧縮器により圧縮されたデータを出力可能な第２のインタフェース部（例えば、圧縮データ読み出しプログラム４０２、プロセッサ２２０、回路）と、を備える。
【0112】
上記圧縮伸長部は、ストレージに設けられていてもよいし、ＶＭ、コンテナ、アプリケーション等であってもよい。
【0113】
上記構成によれば、圧縮器の構成情報が出力されるので、例えば、当該圧縮器により圧縮されたデータを入力として分析処理等の推論が可能な高速伸長ＡＩを生成し、生成した高速伸長ＡＩを用いて推論できるようになる。また、上記構成によれば、圧縮伸長部の圧縮器により圧縮されたデータが伸長されることなく高速伸長ＡＩに入力されるので、推論における伸長時間を短くすることができる。
【0114】
（２）
上記データ処理システムは、上記第１のインタフェース部により出力された上記圧縮器の構成情報（例えば、圧縮器構成情報１１１）から上記圧縮器のモデル（例えば、圧縮器モデル１２２）を生成し、上記圧縮器の構成情報と所定のＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）のモデル（例えば、入力ＡＩモデル１１１０）とから、上記圧縮器により圧縮されたデータを入力とする高速伸長ＡＩのモデル（例えば、高速伸長ＡＩモデル１２３）を生成する生成部（例えば、ライブラリ１２０、圧縮器モデル生成プログラム３０２および高速伸長ＡＩモデル生成プログラム３０３、プロセッサ２８０、回路）を備える。
上記データ処理システムは、上記第１のインタフェース部により出力された上記圧縮器の構成情報（例えば、圧縮器構成情報１１１）から上記圧縮器のモデル（例えば、圧縮器モデル１２２）を生成し、上記圧縮器の構成情報と所定のＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）のモデル（例えば、入力ＡＩモデル１１１０）とから、上記圧縮器により圧縮されたデータを入力とする高速伸長ＡＩのモデル（例えば、高速伸長ＡＩモデル１２３）を生成する生成部（例えば、ライブラリ１２０、圧縮器モデル生成プログラム３０２および高速伸長ＡＩモデル生成プログラム３０３、プロセッサ２８０、回路）を備える。
【0115】
上記構成によれば、圧縮器のモデルと、高速伸長ＡＩのモデルが生成部により生成されるので、例えば、これらのモデルを手作業で生成する必要がなく、高速伸長ＡＩを容易に生成することができる。
【0116】
（３）
上記生成部は、上記構成情報から、上記圧縮器により圧縮されたデータを上記所定のＡＩに入力されるデータ形式に変換するための前処理ユニット（例えば、前処理ユニット１１００）を生成し、生成した前処理ユニットと上記所定のＡＩのモデルとを結合し、上記高速伸長ＡＩのモデルを生成する。
上記生成部は、上記構成情報から、上記圧縮器により圧縮されたデータを上記所定のＡＩに入力されるデータ形式に変換するための前処理ユニット（例えば、前処理ユニット１１００）を生成し、生成した前処理ユニットと上記所定のＡＩのモデルとを結合し、上記高速伸長ＡＩのモデルを生成する。
【0117】
上記構成によれば、所定のＡＩのモデルにおける層等の構成を変更することなく、高速伸長ＡＩを生成することができる。
【0118】
（４）
上記データ処理システムは、上記圧縮器のモデルが動作可能に読み込まれた圧縮器（例えば、圧縮器１４１）により学習データ（例えば、学習データ１３０）が圧縮されたデータを入力として、上記高速伸長ＡＩのモデルが動作可能に読み込まれた高速伸長ＡＩ（例えば、高速伸長ＡＩ１４２）を学習する学習部（例えば、高速伸長ＡＩ学習部１４０、高速伸長ＡＩ学習プログラム３００、プロセッサ２８０、回路）を備える。
上記データ処理システムは、上記圧縮器のモデルが動作可能に読み込まれた圧縮器（例えば、圧縮器１４１）により学習データ（例えば、学習データ１３０）が圧縮されたデータを入力として、上記高速伸長ＡＩのモデルが動作可能に読み込まれた高速伸長ＡＩ（例えば、高速伸長ＡＩ１４２）を学習する学習部（例えば、高速伸長ＡＩ学習部１４０、高速伸長ＡＩ学習プログラム３００、プロセッサ２８０、回路）を備える。
【0119】
上記構成によれば、高速伸長ＡＩが学習されるので、例えば、学習済みの高速伸長ＡＩを容易に利用することができる。
【0120】
（５）
上記所定のＡＩは、データの分析処理を行うＡＩ（例えば、ＡＩ１１０５）であり、上記データ処理システムは、上記第２のインタフェース部により出力された上記圧縮器により圧縮されたデータと、上記学習部により学習された上記高速伸長ＡＩとを用いて、上記データの分析処理を行う分析部（例えば、高速伸長ＡＩ分析部１６０、高速伸長ＡＩ分析プログラム３０１、プロセッサ２８０、回路）を備える。
上記所定のＡＩは、データの分析処理を行うＡＩ（例えば、ＡＩ１１０５）であり、上記データ処理システムは、上記第２のインタフェース部により出力された上記圧縮器により圧縮されたデータと、上記学習部により学習された上記高速伸長ＡＩとを用いて、上記データの分析処理を行う分析部（例えば、高速伸長ＡＩ分析部１６０、高速伸長ＡＩ分析プログラム３０１、プロセッサ２８０、回路）を備える。
【0121】
上記構成によれば、例えば、データの分析処理を高速化することができる。
【0122】
（６）
上記圧縮伸長部は、上記圧縮器により圧縮されたデータを符号化する符号化器（例えば、符号化器１１４）と、上記符号化器により符号化されたデータを復号する復号器（例えば、復号器１１５）とを含んで構成され、上記データ処理システムは、上記符号化器を用いて上記圧縮器により圧縮されたデータを符号化したデータをストレージ（例えば、ストレージ１１２）に記憶する第３のインタフェース部（例えば、データ書き込みプログラム４００、プロセッサ２２０、回路）と、上記ストレージからデータを読み出し、読み出したデータを上記復号器により復号し、復号したデータを上記伸長器により伸長し、伸長したデータを出力する第４のインタフェース部（例えば、伸長データ読み出しプログラム４０１、プロセッサ２２０、回路）と、を備え、上記第２のインタフェース部は、上記ストレージからデータを読み出し、読み出したデータを上記復号器により復号し、復号したデータを出力する（例えば、図８参照）。
上記圧縮伸長部は、上記圧縮器により圧縮されたデータを符号化する符号化器（例えば、符号化器１１４）と、上記符号化器により符号化されたデータを復号する復号器（例えば、復号器１１５）とを含んで構成され、上記データ処理システムは、上記符号化器を用いて上記圧縮器により圧縮されたデータを符号化したデータをストレージ（例えば、ストレージ１１２）に記憶する第３のインタフェース部（例えば、データ書き込みプログラム４００、プロセッサ２２０、回路）と、上記ストレージからデータを読み出し、読み出したデータを上記復号器により復号し、復号したデータを上記伸長器により伸長し、伸長したデータを出力する第４のインタフェース部（例えば、伸長データ読み出しプログラム４０１、プロセッサ２２０、回路）と、を備え、上記第２のインタフェース部は、上記ストレージからデータを読み出し、読み出したデータを上記復号器により復号し、復号したデータを出力する（例えば、図８参照）。
【0123】
上記構成では、圧縮されて符号化されたデータがストレージに記憶されるので、例えば、ストレージのデータ量を削減すると共に、推論を高速化することができる。
【0124】
（７）
上記圧縮器は、入力されたデータを上記圧縮器のエンコーダ部（例えば、エンコーダ１３０３）が受領するデータサイズとするために、上記データにパディングするパディング器（例えば、パディング器１３０１）を備え、上記符号化器は、上記圧縮器により圧縮されたデータを上記符号化器のハイパーエンコーダ部（例えば、ハイパーエンコーダ１３０８）が受領するデータサイズとするために、上記データにパディングするパディング器（例えば、パディング器１３０６）を備える。
上記圧縮器は、入力されたデータを上記圧縮器のエンコーダ部（例えば、エンコーダ１３０３）が受領するデータサイズとするために、上記データにパディングするパディング器（例えば、パディング器１３０１）を備え、上記符号化器は、上記圧縮器により圧縮されたデータを上記符号化器のハイパーエンコーダ部（例えば、ハイパーエンコーダ１３０８）が受領するデータサイズとするために、上記データにパディングするパディング器（例えば、パディング器１３０６）を備える。
【0125】
上記構成によれば、圧縮器による圧縮後のデータの要素数を少なくすることができるので、例えば、圧縮率が向上し、ストレージのデータ量をさらに削減することができる。
【0126】
また上述した構成については、本発明の要旨を超えない範囲において、適宜に、変更したり、組み替えたり、組み合わせたり、省略したりしてもよい。
【符号の説明】
【0127】
１０１……圧縮伸長部、４０２……圧縮データ読み出しプログラム、４０３……圧縮器構成情報応答プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】