(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022185786
(43)【公開日】2022-12-15
(54)【発明の名称】演算装置、演算方法およびプログラム
(51)【国際特許分類】
G05B 23/02 20060101AFI20221208BHJP
B22D 11/16 20060101ALI20221208BHJP
B22D 11/18 20060101ALI20221208BHJP
【ＦＩ】
G05B23/02 R
B22D11/16 104B
B22D11/18 Z
【審査請求】未請求
【請求項の数】10
【出願形態】ＯＬ
(21)【出願番号】P 2021093622
(22)【出願日】2021-06-03
(71)【出願人】
【識別番号】000006655
【氏名又は名称】日本製鉄株式会社
(74)【代理人】
【識別番号】110000637
【氏名又は名称】特許業務法人樹之下知的財産事務所
(72)【発明者】
【氏名】關 翼人
(72)【発明者】
【氏名】北田 宏
【テーマコード（参考）】
3C223
4E004
【Ｆターム（参考）】
3C223AA05
3C223BA01
3C223CC01
3C223EB01
3C223EB02
3C223FF22
3C223FF26
3C223GG01
3C223HH03
3C223HH08
3C223HH23
4E004MA05
4E004MB20
4E004MC22
4E004NA01
4E004NB01
4E004NB02
4E004NC01
4E004PA07
4E004SB01
4E004SC07
(57)【要約】
【課題】モデルの自由度に対して利用可能な観測データと結果データとのデータセットが少ない場合であっても過学習を抑制して予測モデルを構築する。
【解決手段】時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および結果データに基づいて予測モデルを学習する予測モデル学習部と、観測データのうち、第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて予測モデルの学習を制御する学習制御部とを備える演算装置が提供される。
【選択図】図１
【解決手段】時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および結果データに基づいて予測モデルを学習する予測モデル学習部と、観測データのうち、第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて予測モデルの学習を制御する学習制御部とを備える演算装置が提供される。
【選択図】図１
【特許請求の範囲】
【請求項1】
時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および前記結果データに基づいて予測モデルを学習する予測モデル学習部と、
前記観測データのうち、前記第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて前記予測モデルの学習を制御する学習制御部と
を備える演算装置。
前記観測データのうち、前記第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて前記予測モデルの学習を制御する学習制御部と
を備える演算装置。
【請求項2】
前記時系列上で前記第１の観測データの前後に位置する前記第２の観測データに対して、前記結果データを時間的に拡張することによって得られる拡張結果データを対応付けるデータ拡張部をさらに備え、
前記予測モデル学習部は、前記第１および第２の観測データ、ならびに前記結果データおよび前記拡張結果データに基づいて前記予測モデルを学習し、
前記学習制御部は、前記評価指標に基づいて前記予測モデルの学習に用いる前記第２の観測データおよび前記拡張結果データの数を決定する、請求項１に記載の演算装置。
前記予測モデル学習部は、前記第１および第２の観測データ、ならびに前記結果データおよび前記拡張結果データに基づいて前記予測モデルを学習し、
前記学習制御部は、前記評価指標に基づいて前記予測モデルの学習に用いる前記第２の観測データおよび前記拡張結果データの数を決定する、請求項１に記載の演算装置。
【請求項3】
前記データ拡張部は、前記時系列上で前記第１の観測データの前後に位置する所定の数の前記第２の観測データに、前記所定の数の前記拡張結果データをそれぞれ対応付け、
前記学習制御部は、前記評価指標が所定の条件を満たさない場合に、前記所定の数を増加させて前記データ拡張部の処理および前記予測モデル学習部による前記予測モデルの学習を再実行させる、請求項２に記載の演算装置。
前記学習制御部は、前記評価指標が所定の条件を満たさない場合に、前記所定の数を増加させて前記データ拡張部の処理および前記予測モデル学習部による前記予測モデルの学習を再実行させる、請求項２に記載の演算装置。
【請求項4】
前記学習制御部は、前記評価指標に相当する前記予測モデルの正則化項を算出し、
前記予測モデル学習部は、前記第１の観測データから予測される予測値の前記結果データに対する損失関数、および前記正則化項の和が最小化されるように前記予測モデルを学習する、請求項１に記載の演算装置。
前記予測モデル学習部は、前記第１の観測データから予測される予測値の前記結果データに対する損失関数、および前記正則化項の和が最小化されるように前記予測モデルを学習する、請求項１に記載の演算装置。
【請求項5】
前記予測モデルは、前記結果データのうち上位の結果データが存在する確率を示す第１の存在確率を予測する第１の予測モデルと、前記結果データのうち下位の結果データが存在する第２の存在確率を予測する第２の予測モデルとを含み、
前記下位の結果データを発生させる事象は、前記上位の結果データを発生させる事象に包含され、
前記評価指標は、前記第１および第２の観測データを含む一連の前記観測データを前記第１の予測モデルおよび前記第２の予測モデルにそれぞれ入力したときに、前記第１の存在確率と前記第２の存在確率との大小関係が逆転する時刻の比率に基づいて算出される、請求項１から請求項４のいずれか１項に記載の演算装置。
前記下位の結果データを発生させる事象は、前記上位の結果データを発生させる事象に包含され、
前記評価指標は、前記第１および第２の観測データを含む一連の前記観測データを前記第１の予測モデルおよび前記第２の予測モデルにそれぞれ入力したときに、前記第１の存在確率と前記第２の存在確率との大小関係が逆転する時刻の比率に基づいて算出される、請求項１から請求項４のいずれか１項に記載の演算装置。
【請求項6】
前記評価指標は、前記第１および第２の観測データを含む一連の前記観測データを前記予測モデルに入力したときに出力される時系列の予測値の時間変化率に基づいて算出される、請求項１から請求項５のいずれか１項に記載の演算装置。
【請求項7】
前記観測データは、連続鋳造機の鋳型に配置された複数の測温装置による温度観測値を示す要素を含み、
前記結果データは、前記連続鋳造機で鋳造された鋳片の観察によって特定される前記温度観測値の観測時における前記鋳型内の溶鋼流動状態を示す要素を含む、請求項１から請求項６のいずれか１項に記載の演算装置。
前記結果データは、前記連続鋳造機で鋳造された鋳片の観察によって特定される前記温度観測値の観測時における前記鋳型内の溶鋼流動状態を示す要素を含む、請求項１から請求項６のいずれか１項に記載の演算装置。
【請求項8】
新たな観測データを前記予測モデルに入力することによって予測値を得る予測部をさらに備える、請求項１から請求項７のいずれか１項に記載の演算装置。
【請求項9】
時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および前記結果データに基づいて予測モデルを学習するステップと、
前記観測データのうち、前記第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて前記予測モデルの学習を制御するステップと
を含む演算方法。
前記観測データのうち、前記第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて前記予測モデルの学習を制御するステップと
を含む演算方法。
【請求項10】
時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および前記結果データに基づいて予測モデルを学習する予測モデル学習部と、
前記観測データのうち、前記第１の観測データ、および対応付けられる結果データが存在しない第２の観測量データに基づいて算出される、過学習を抑制するための評価指標に基づいて前記予測モデルの学習を制御する学習制御部と
を備える演算装置としてコンピュータを機能させるためのプログラム。
前記観測データのうち、前記第１の観測データ、および対応付けられる結果データが存在しない第２の観測量データに基づいて算出される、過学習を抑制するための評価指標に基づいて前記予測モデルの学習を制御する学習制御部と
を備える演算装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、演算装置、演算方法およびプログラムに関する。
【背景技術】
【0002】
連続鋳造における鋳型内部の溶鋼流動は、鋳造する鋳片の品質に影響する。しかし、鋳型内の溶鋼流動を直接観測して操業することは困難である。そこで、観測可能な鋳型の温度に基づき、物理モデルを利用して溶鋼流動の状態を推定する技術が種々提案されている。例えば特許文献１には、鋳型に設置した熱電対を用いて測定した温度を主成分分析して得られる主成分スコアを指標としてスラブ表面の欠陥発生有無を判定する技術が記載されている。具体的には、主成分スコアの次元ごとに設定した閾値によって異常、つまり欠陥が発生したことを判定する。欠陥が発生したと判定された場合は、表面欠陥を除去してからスラブを圧延工程へ搬送する。
【0003】
また、特許文献２には、鋳型湯面付近に設置した熱電対を用いて測定した温度に基づいて湯面形状を表す湯面流動パターンを検出し、湯面流動のパターンの一致性から鋳片の欠陥有無、欠陥位置及び欠陥原因などを予測し、鋳片の欠陥が予測される場合には鋼片の表面に生じた傷や不純物を燃料ガスと酸素で熱化学的に溶削するスカーフィングなどの処理を行う技術が記載されている。特許文献３には、鋳型に設置した熱電対を用いて測定した温度を算出式に代入して、凝固シェル界面の溶鋼流速や偏流度（溶鋼流速のばらつきの大きさを表す、複数点で算出される溶鋼流速の最大値と最小値の差、最大流速と平均流速の差、または流速分布の標準偏差などの値）を算出する技術が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開２０１５－１６０２３９号公報
【特許文献2】特表２０１５－５２２４２８号公報
【特許文献3】特開２０１２－６６２７８号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記の例のような溶鋼流動状態の予測技術では、予測にあたっての教師データになる溶鋼流動状態がリアルタイムには測定できないことから、鋳型温度などの観測により得られる観測データと、製造された鋳片の観察などによって特定される溶鋼流動状態を示す結果データとのデータセットを用意する必要があるが、大量に用意することは難しい。その一方で、鋳型温度が多数の点で測定される場合は観測量の次元が高く、従ってモデルの自由度も高くなる。結果として、予測モデルが学習に用いたデータセットに過剰適合し、新たな観測データに対する予測では精度が低くなる、いわゆる過学習が生じやすい。しかしながら、上記の例のような従来の技術では、このような過学習に対する対策は講じられていない。
【0006】
そこで、本発明は、モデルの自由度に対して利用可能な観測データと結果データとのデータセットが少ない場合であっても過学習を抑制して予測モデルを構築することが可能な演算装置、演算方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明のある観点によれば、時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および結果データに基づいて予測モデルを学習する予測モデル学習部と、観測データのうち、第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて予測モデルの学習を制御する学習制御部とを備える演算装置が提供される。
【0008】
本発明の別の観点によれば、時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および結果データに基づいて予測モデルを学習するステップと、観測データのうち、第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて予測モデルの学習を制御するステップとを含む演算方法が提供される。
【0009】
本発明のさらに別の観点によれば、時系列で取得された観測データのうち、対応付けられる結果データが存在する第１の観測データ、および結果データに基づいて予測モデルを学習する予測モデル学習部と、観測データのうち、第１の観測データ、および対応付けられる結果データが存在しない第２の観測データに基づいて算出される、過学習を抑制するための評価指標に基づいて予測モデルの学習を制御する学習制御部とを備える演算装置としてコンピュータを機能させるためのプログラムが提供される。
【0010】
上記の構成によれば、対応する結果データが存在する観測データのみではなく、対応する結果データが存在しない観測データも用いて、予測モデルの過学習を抑制するための評価指標を算出し、その評価指標に基づいて予測モデルの学習を制御する。そのため、モデルの自由度に対して利用可能な観測データと結果データとのデータセットが少ない場合であっても過学習を抑制して予測モデルを構築することができる。
【図面の簡単な説明】
【0011】
【図1】本発明の第１の実施形態におけるシステム構成を示す図である。
【図2】メニスカス流速のよどみについて説明するための図である。
【図3】本発明の第１の実施形態における処理の例を示すフローチャートである。
【図6】本発明の第２の実施形態におけるシステム構成を示す図である。
【図7】本発明の第２の実施形態における処理の例を示すフローチャートである。
【図9A】本発明の実施例において、データ拡張部におけるデータ拡張幅を変化させた場合の過学習の評価指標の変化を示すグラフである。
【図9B】本発明の実施例において、データ拡張部におけるデータ拡張幅を変化させた場合の過学習の評価指標の変化を示すグラフである。
【図10】本発明の実施例において、データ拡張部におけるデータ拡張幅を変化させた場合の予測精度の変化を示すグラフである。
【図11A】本発明の実施例において、データ拡張部におけるデータ拡張幅を変化させた場合の予測確率値の変化を示すグラフである。
【図11B】本発明の実施例において、データ拡張部におけるデータ拡張幅を変化させた場合の予測確率値の変化を示すグラフである。
【発明を実施するための形態】
【0012】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。
【0013】
（第１の実施形態）
本発明の第１の実施形態では、連続鋳造における鋳型内の溶鋼流動状態を、鋳型温度分布から予測する予測モデルを構築する。連続鋳造機において溶鋼を連続的に凝固させて所定の断面形状の鋳片を作る工程では、タンディッシュ底部から鋳型に溶鋼が注がれる。鋳型は水冷されており、溶鋼は鋳型に接する外側から冷却されることによって微細な結晶からなる薄い凝固殻を作りはじめ、微細な結晶はつながりあって大きな樹枝状晶へと成長する。表面が凝固した状態の鋳片は鋳型底部から引き抜かれ、ローラーを用いて搬送されながら、さらに冷却されて完全に凝固する。
本発明の第１の実施形態では、連続鋳造における鋳型内の溶鋼流動状態を、鋳型温度分布から予測する予測モデルを構築する。連続鋳造機において溶鋼を連続的に凝固させて所定の断面形状の鋳片を作る工程では、タンディッシュ底部から鋳型に溶鋼が注がれる。鋳型は水冷されており、溶鋼は鋳型に接する外側から冷却されることによって微細な結晶からなる薄い凝固殻を作りはじめ、微細な結晶はつながりあって大きな樹枝状晶へと成長する。表面が凝固した状態の鋳片は鋳型底部から引き抜かれ、ローラーを用いて搬送されながら、さらに冷却されて完全に凝固する。
【0014】
本実施形態では、鋳型内の溶鋼流動状態の例として、鋳型内湯面付近の幅方向溶鋼流速であるメニスカス流速を予測対象とする。メニスカス流速の範囲と鋳片欠陥の関係性は、例えば「連鋳鋳片の大型介在物と柱状晶成長方向との関係」（岡野忍ら，「鉄と鋼」第61年第14号，2982-2990頁，1975年）などの研究によって明らかになっている。より具体的には、鋳片欠陥が発生しにくいメニスカス流速の範囲の知見が存在する。メニスカス流速のよどみ、すなわちメニスカス流速が鋳型の幅方向において反転している箇所では、流速が低下しており介在物や気泡の捕捉が起きるため、鋳片欠陥が発生しやすい。
【0015】
メニスカス流速は鋳造中に直接計測することが困難であるが、凝固後鋳片の断面におけるデンドライト傾角から算出することができる。ただし、デンドライト傾角は鋳造後の鋳片を切断しなければ計測することができないためリアルタイムでの計測は困難であり、また実際上、連続鋳造で製造される大量の鋳片の中でデンドライト傾角を計測できるのはごく一部に限られる。一方、リアルタイムで、かつ大量に利用可能なデータとして、鋳型に複数設置された熱電対によって観測される鋳型温度分布がある。鋳型温度分布は、溶鋼の鋼種や鋳造速度による鋳型における抜熱量、すなわち溶鋼から鋳型に流れる単位時間当たりの熱量の違いや、溶鋼の流速による熱伝達係数の変動によって変化する。
【0016】
そこで、観測された鋳型温度分布とメニスカス流速との関係性を示す実績に基づいて、鋳型温度分布からメニスカス流速を予測するモデルを学習する。これによって、物理モデルに依存しない鋳型内の溶鋼流動の状態推定を実現できる。この場合、時系列で取得された観測データは鋳型温度分布を示す要素を含み、観測データに対応付けられる結果データは鋳型温度分布の観測時におけるメニスカス流速を示す要素を含む。ただし、鋳型温度分布がリアルタイムで大量に取得できるのに対して、上述のようにデンドライト傾角から算出されるメニスカス流速のデータ数は限られる。従って、鋳型に取り付ける熱電対の数を増やすことによって鋳型温度分布データを高次元化してモデルの自由度を高めても、鋳型温度分布データとセットで利用できるメニスカス流速データの数が少ないために過学習が生じ、予測モデルの精度向上には寄与しない。
【0017】
上記の点に鑑み、本発明者らは、以下に例示するような予測モデルの過学習を抑制するための評価指標を、対応する結果データが存在する観測データのみではなく、対応する結果データが存在しない観測データも用いて算出し、その評価指標に基づいて予測モデルの学習を制御することによって、モデルの自由度を高めつつ過学習を抑制して予測モデルを構築することを検討した。
【0018】
（評価指標１：上位データおよび下位データの存在確率の大小関係）
観測データに対応付けられる結果データについては、上位および下位の関係を定義することができる。以下では、相対的に上位の関係にある結果データを上位データと称し、下位の関係にある結果データを下位データと称する。例えば、メニスカス流速のよどみが小さい結果データを上位データとし、メニスカス流速のよどみが大きい結果データを下位データとすることができる。メニスカス流速の大小は、例えば後述する例のように所定の閾値を用いて判定できる。ここで、下位データを発生させる事象は、上位データを発生させる事象に包含される。つまり、下位データが発生したときには必ず上位データが発生しているが、上位データが発生している場合には下位データが発生しているとは限らない。この場合、予測モデルによって算出される上位データおよび下位データの存在確率の間には、（下位データの存在確率）≦（上位データの存在確率）という大小関係が成り立つ。上位データおよび下位データの存在確率をそれぞれ予測する予測モデルを学習した場合に、上位データの存在確率と下位データの存在確率との大小関係が逆転している、すなわち（下位データの存在確率）＞（上位データの存在確率）である場合は、過学習によって予測モデルと対象の物理現象としての性質とが乖離していると推測できる。従って、例えば、時系列で取得された観測量を予測モデルに入力したときに、上位データの存在確率と下位データの存在確率との大小関係が逆転する時刻の比率に基づいて過学習を抑制するための評価指標を算出することができる。なお、上位データおよび下位データは、例えば教師ラベルのような離散値についても、連続量についても定義できる。
観測データに対応付けられる結果データについては、上位および下位の関係を定義することができる。以下では、相対的に上位の関係にある結果データを上位データと称し、下位の関係にある結果データを下位データと称する。例えば、メニスカス流速のよどみが小さい結果データを上位データとし、メニスカス流速のよどみが大きい結果データを下位データとすることができる。メニスカス流速の大小は、例えば後述する例のように所定の閾値を用いて判定できる。ここで、下位データを発生させる事象は、上位データを発生させる事象に包含される。つまり、下位データが発生したときには必ず上位データが発生しているが、上位データが発生している場合には下位データが発生しているとは限らない。この場合、予測モデルによって算出される上位データおよび下位データの存在確率の間には、（下位データの存在確率）≦（上位データの存在確率）という大小関係が成り立つ。上位データおよび下位データの存在確率をそれぞれ予測する予測モデルを学習した場合に、上位データの存在確率と下位データの存在確率との大小関係が逆転している、すなわち（下位データの存在確率）＞（上位データの存在確率）である場合は、過学習によって予測モデルと対象の物理現象としての性質とが乖離していると推測できる。従って、例えば、時系列で取得された観測量を予測モデルに入力したときに、上位データの存在確率と下位データの存在確率との大小関係が逆転する時刻の比率に基づいて過学習を抑制するための評価指標を算出することができる。なお、上位データおよび下位データは、例えば教師ラベルのような離散値についても、連続量についても定義できる。
【0019】
（評価指標２：予測値の時間変化率）
予測モデルによって観測データから算出される予測値が物理量である場合、予測値の時系列変化は物理現象の状態変化を表す。従って、予測値の物理現象としての性質によって、予測値の時間変化率には妥当な範囲が存在する。例えばメニスカス流速のような流体の挙動の場合、物理現象としての状態変化は連続的であるため、物理現象としての性質に基づく予測値の時間変化率の妥当な範囲が存在する。時間変化率が妥当な範囲を超える場合、すなわち予測値の変化が物理現象としての性質に照らして激しすぎる場合、過学習によって予測モデルと対象の物理現象としての性質とが乖離していると推測できる。従って、例えば、時系列で取得された観測データを予測モデルに入力したときに、予測値の時間変化率に基づいて過学習を抑制するための評価指標を算出することができる。
予測モデルによって観測データから算出される予測値が物理量である場合、予測値の時系列変化は物理現象の状態変化を表す。従って、予測値の物理現象としての性質によって、予測値の時間変化率には妥当な範囲が存在する。例えばメニスカス流速のような流体の挙動の場合、物理現象としての状態変化は連続的であるため、物理現象としての性質に基づく予測値の時間変化率の妥当な範囲が存在する。時間変化率が妥当な範囲を超える場合、すなわち予測値の変化が物理現象としての性質に照らして激しすぎる場合、過学習によって予測モデルと対象の物理現象としての性質とが乖離していると推測できる。従って、例えば、時系列で取得された観測データを予測モデルに入力したときに、予測値の時間変化率に基づいて過学習を抑制するための評価指標を算出することができる。
【0020】
図１は、本発明の第１の実施形態におけるシステム構成を示す図である。図示された例において、システム１０は、データベース１００と、演算装置２００とを含む。データベース１００には、鋳型Ｍ内の溶鋼流動状態を判定することが可能なデータが格納される。本実施形態では、計測装置１０１を用いて鋳片Ｓのエッチプリントから計測されたデンドライト傾角をメニスカス流速に変換したメニスカス流速データ１１０が格納される。ここで、エッチプリントからは鋳型Ｍの幅方向および深さ方向（エッチプリントでは外縁部から中心部に向かう方向）に複数のデンドライト傾角が計測可能であるが、本実施形態ではこのうちメニスカス流速に対応する深さ方向のデータを用いる。メニスカス流速は、例えば「連鋳鋳片の大型介在物と柱状晶成長方向との関係」（岡野忍ら，「鉄と鋼」第61年第14号，2982-2990頁，1975年）に記載された以下の式（１）によって算出される。式（１）において、ｖはメニスカス流速（cm/sec）、θはデンドライト傾角（度）、ｆは凝固速度（cm/sec）である。なお、ｆは定数であり、製造条件によって定められるシェル厚みＤと凝固係数Ｋとの関係性（Ｄ＝Ｋ×ｔ１／２）の微分から算出される事前に定められた値が式（１）に代入される。
【0021】
【数1】
【0022】
また、データベース１００には、鋳型Ｍに配置された複数の測温装置、具体的には熱電対１０２によって時系列で取得された温度観測値である鋳型温度分布データ１２０が格納される。熱電対１０２は、例えば鋳型Ｍの各面で、周方向および鋳造方向（鋳型Ｍの深さ方向）に配列され、鋳型Ｍを構成する銅板の温度を測定する。熱電対に代えて、光ファイバを用いたＦＢＧ（Fiber Bragg Grating）測温装置などを用いてもよい。熱電対１０２は、例えば鋳型Ｍの各面の垂直方向中心線について対称に、かつ対向する各面の間で対応する位置に配置してもよい。上述の通り、鋳型温度分布データ１２０については、メニスカス流速データ１１０が存在しない操業についても取得可能であるため、メニスカス流速データ１１０よりもデータ数が多い。
【0023】
演算装置２００は、ＣＰＵ（Central Processing Unit）、記憶装置、通信装置、入出力手段などを備え、プログラムに従って各種の演算を実行するコンピュータである。プログラムは、記憶装置に格納されるか、またはリムーバブル記憶媒体に格納されて演算装置２００に読み込まれる。演算装置２００は、ＣＰＵがプログラムに従って動作することによって実装される機能部分として、教師ラベル設定部２１０、前処理部２２０、データ拡張部２３０、予測モデル学習部２４０、学習制御部２５０、予測部２６０および出力部２７０を備える。なお、上記の機能部分は、ＰＬＣ（Programmable Logic Controller）であってもよいし、ＡＳＩＣ（Application Specific Integrated Circuit）などの専用のハードウェアによって実装されてもよい。
【0024】
教師ラベル設定部２１０は、データベース１００から取得した鋳型Ｍ内の溶鋼流動状態を示すデータに基づいて、溶鋼流動状態に関する教師ラベルを設定する。具体的には、教師ラベル設定部２１０は、データベース１００から取得したメニスカス流速データ１１０に基づいて、メニスカス流速のよどみの有無を示す教師ラベルを設定する。よどみの有無は、連続鋳造機で鋳造された鋳片の観察によって特定される、温度観測値の観測時における鋳型内の溶鋼流動状態の例であり、鋳型幅方向のメニスカス流速の分布によって特定される。具体的には、教師ラベル設定部２１０は、図２に示されるように鋳片Ｓを鋳型幅方向に所定数に等分した領域ごとに鋳型幅方向のメニスカス流速を平均化し、平均流速ｖが反転する領域（図２に示す例では破線で囲まれた箇所）が存在する場合に、よどみＹが発生していることを示す教師ラベルを設定する。
【0025】
本実施形態において、教師ラベル設定部２１０は、互いに上位および下位の関係にある複数の教師ラベルを設定する。以下では上位ラベルおよび下位ラベルの２つの教師ラベルが設定される例について説明するが、３つ以上の種類の教師ラベルが設定されてもよい。また、既に述べたように、上位データおよび下位データは例えば教師ラベルのような離散値についても連続量についても定義できるため、他の実施形態では教師ラベル設定部２１０に代えて連続量について上位および下位を定義する機能部分が実装されてもよい。具体的には、教師ラベル設定部２１０は、図２に示されるように鋳片Ｓを鋳型幅方向に１０等分した領域の中で平均流速ｖが反転した領域が存在する場合に、「小さなよどみ」を示す上位ラベルを設定する。また、教師ラベル設定部２１０は、下位ラベルとして、鋳片Ｓを鋳型幅方向に３等分した領域の中で平均流速ｖが反転した領域が存在する場合に、「大きなよどみ」を示す下位ラベルを設定する。「大きなよどみ」が発生している場合には「小さなよどみ」が発生しているのに対して、「小さなよどみ」が発生している場合に「大きなよどみ」が発生しているとは限らないことから、これらの教師ラベルは上述した過学習を抑制するための評価指標における上位データおよび下位データとして利用可能である。
【0026】
前処理部２２０は、データベース１００から取得した鋳型温度分布データ１２０の前処理を実行する。具体的には、前処理部２２０は、鋳型温度分布データ１２０を操業条件ごとに層別し、層ごとに正規化する。層別条件として、例えば鋼種、鋳型幅および鋳造速度が用いられる。正規化処理では、事前に層別した鋳型温度分布データ１２０に含まれる温度観測値ｘの平均μおよび分散σ２を層ごとに求めておき、例えば下記の式（２）において正規化対象の温度観測値ｘが属する層の平均μおよび分散σ２を用いてその温度観測値ｘを正規化された値ｘ’に変換する。上記の通り、前処理は必須ではないが、モデルの精度向上に寄与する。
【0027】
【数2】
【0028】
データ拡張部２３０は、結果データとセットになっている観測データに対して時系列上で前後に位置する観測データについて、当該結果データを時間的に拡張することによって得られる拡張結果データを対応付けるデータ拡張（Data Augmentation）を実行する。具体的には、データ拡張部２３０は、ある時刻のメニスカス流速データ１１０を複製して、当該時刻の前後の所定時間内に取得された、メニスカス流速データ１１０に対応付けられていない鋳型温度分布データ１２０に対応付ける。メニスカス流速データ１１０によって示される実測されたメニスカス流速は、鋳型内における瞬間的な状態ではなくその前後を含む時間範囲内の状態を表現する結果と捉えられるため、上記のようなデータ拡張は溶鋼流動状態の物理現象としての性質に照らして妥当である。データ拡張の時間範囲内でも観測データには微小な変化が生じており、従ってデータ拡張によって拡張結果データに対応付けられた観測データを予測モデルの学習に用いるデータに加えることによってデータセットの数が見かけ上増加し、過学習の抑制が期待される。なお、データの拡張幅、すなわち元の結果データと観測データとのセットに対して追加した拡張結果データと前後の観測データのセットの数は、後述するように学習制御部２５０によって決定される。
【0029】
予測モデル学習部２４０は、メニスカス流速データ１１０と、鋳型温度分布データ１２０とに基づいて予測モデルを学習する。本実施形態ではデータ拡張部２３０によってデータが拡張されているため、予測モデル学習部２４０が用いるデータは、結果データに対応付けられる第１の観測データだけではなく、拡張結果データに対応付けられる第２の観測データをも含む。また、本実施形態では教師ラベル設定部２１０がメニスカス流速データ１１０に基づいて上位ラベルおよび下位ラベルを設定するため、予測モデル学習部２４０は上位ラベルおよび下位ラベルのそれぞれの存在確率を予測する予測モデルを学習する。具体的には、予測モデル学習部２４０は、鋳型温度分布データ１２０から「小さなよどみ」を示す上位ラベルの存在確率を予測する第１の予測モデルと、鋳型温度分布データ１２０から「大きなよどみ」を示す下位ラベルの存在確率を予測する第２の予測モデルとを学習する。予測モデル学習部２４０は、例えばそれぞれの教師ラベルの存在確率を出力するロジスティック回帰モデルを学習してもよい。他の例において、連続量である結果データについて上位および下位の関係が定義される場合、予測モデル学習部２４０はロジスティック回帰モデルではなく通常の回帰モデルを用いてもよい。予測モデル学習部２４０は、学習された予測モデル２４１を記憶装置に格納する。あるいは、予測モデル学習部２４０は、学習された予測モデルのパラメータを通信装置で外部装置に送信してもよいし、リムーバブル記憶媒体に書き込んでもよい。
【0030】
学習制御部２５０は、過学習を抑制するための評価指標に基づいて、予測モデル学習部２４０における予測モデルの学習を制御する。なお、過学習を抑制するための評価指標は、対応する結果データが存在する観測データのみではなく、対応する結果データが存在しない観測データも用いて算出される。ここで、評価指標は、必ずしもデータベース１００に格納された鋳型温度分布データ１２０の全てを用いて算出されなくてもよく、所定の時間範囲において時系列で取得され、予測モデルの学習に用いられる鋳型温度分布データ１２０について、メニスカス流速データ１１０に対応付けられるものも対応づけられないものも含む一連の鋳型温度分布データ１２０から評価指標が算出されてもよい。本実施形態において、学習制御部２５０は、第１の評価指標として以下の式（３）で表されるような上位データおよび下位データの存在確率の大小関係が逆転する時刻の比率に基づく評価指標ｄ１を算出する。なお、Ｉ（・）は条件が満たされる場合には１、条件が満たされない場合には０を出力とする判定関数、ｙ＾ｔ
ｕｐｐｅｒは時刻ｔにおける上位データの存在確率、ｙ＾ｔ
ｌｏｗｅｒは時刻ｔにおける下位データの存在確率である。また、学習制御部２５０は、第２の評価指標として以下の式（４）で表されるような、予測モデルを用いて予測された予測値の時間変化率に基づく評価指標ｄ２を算出する。なお、ｚｔ’は時刻ｔにおける予測値（予測量）ｙ＾ｔと時刻ｔ－１における予測値（予測量）ｙ＾ｔ－１との差分、すなわち時間変化率であり、σｚおよびσｙ＾はそれぞれ時間変化率ｚｔ’および予測値（予測量）ｙ＾ｔの標準偏差である。ここで、ｔ’＝ｔ－１（２≦ｔ≦Ｔ，１≦ｔ’≦Ｔ－１）である。
【0031】
【数3】
【0032】
本実施形態では、後述する例のように学習制御部２５０が評価指標ｄ１，ｄ２の両方に基づいて予測モデルの学習を制御するが、他の例では学習制御部２５０が評価指標ｄ１，ｄ２のいずれか一方のみに基づいて予測モデルの学習を制御してもよい。式（３），（４）から明らかなように、それぞれの評価指標は互いに独立して算出可能である。なお、上位データおよび下位データの存在確率に関する評価指標ｄ１が用いられない場合、教師ラベル設定部２１０は複数種の教師ラベルを設定しなくてもよい。評価指標ｄ１が用いられる場合、教師ラベル設定部２１０は、最終的な予測対象である教師ラベル（以下、対象ラベルともいう）に加えて、その上位ラベルまたは下位ラベルの少なくともいずれかを設定する。対象ラベルと上位ラベルまたは下位ラベルの少なくともいずれかとの間で評価指標ｄ１を算出することによって、対象ラベルについての予測モデルの過学習の有無を評価することができる。従って、例えば教師ラベル設定部２１０が３つ以上の教師ラベルを設定する場合、学習制御部２５０は対象ラベルの上位ラベルでも下位ラベルでもない教師ラベルについては評価指標ｄ１を算出しなくてよい。
【0033】
予測部２６０は、新たな温度観測値である鋳型温度分布データ１２０を予測モデル２４１に入力することによって、新たな予測値として未知のメニスカス流速のよどみの存在確率を得る。この際、前処理部２２０は、新たな鋳型温度分布データ１２０について、学習時と同様に正規化などの前処理を実行してもよい。出力部２７０は、予測部２６０による予測の結果に応じて通知を出力する。例えば、出力部２７０は、予測されたよどみの存在確率が閾値を超えたら、オペレータに向けて表示による視覚的な通知、または音声による聴覚的な通知を出力してもよい。あるいは、出力部２７０は、操業条件を制御する制御装置（図示せず）に制御信号として通知を出力してもよい。通知を受け取ったオペレータまたは制御装置は、予測結果を指標にしてメニスカス流速のよどみが解消するように操業条件を変更する。具体的には、鋳造速度を変更したり、電磁ブレーキや電磁撹拌の制御値を変更したりすることができる。出力部２７０によって、予測の結果を反映させて操業条件を改善させることができる。
【0034】
なお、上記の予測部２６０および出力部２７０は、必ずしも演算装置２００に含まれなくてもよい。既に述べたように学習された予測モデルは外部装置に送信したりリムーバブル記憶媒体に書き込んだりすることが可能であるため、演算装置２００は予測モデルの学習までを実行すればよく、必ずしも予測モデルを用いた溶鋼流動状態の予測までが同じ装置で実行されなくてもよい。
【0035】
図３は本発明の第１の実施形態における予測モデルの構築処理の例を示すフローチャートである。図４および図５は図３に示された処理を概念的に示す図である。図３に示された例では、教師ラベル設定部２１０は、上位ラベルｙｕｐｐｅｒ
ｔｙｏおよび下位ラベルｙｌｏｗｅｒ
ｔｙｏを設定する（ステップＳ１０１）。具体的には、教師ラベル設定部２１０は、まず、時刻ｔｙｏの時点での溶鋼流動状態（正確には時刻ｔｙｏ周辺における平均的な溶鋼流動状態）を示す結果データ、すなわちメニスカス流速データ１１０をデータベース１００から読み出す。ここで、時刻ｔｙｏは、鋳片Ｓからエッチプリントを取得した鋳込長位置（エッチプリントの計測位置）から断面外周部までの距離（深さ）を時間に換算することで得られる。教師ラベル設定部２１０は、読みだした各時刻ｔｙｏのメニスカス流速データ１１０のそれぞれについて、よどみの小さい上位データの存在確率を示す上位ラベルｙｕｐｐｅｒ
ｔｙｏ（図４左側のｙｕｐｐｅｒ
ｔｙｏが指す実線の矩形）と、よどみの大きい下位データの存在確率を示す下位ラベルｙｌｏｗｅｒ
ｔｙｏ（図４左側のｙｌｏｗｅｒ
ｔｙｏが指す実線の矩形）とを設定する。上位ラベルｙｕｐｐｅｒ
ｔｙｏには、図２に示されるように鋳片Ｓを鋳型幅方向に１０等分し、鋳型の上下面それぞれの領域（つまり２０個の領域）の中で平均流速ｖが反転した領域が１つでも存在する場合はよどみありとして１が、１つも含まれない場合はよどみなしとして０が格納される。また、下位ラベルｙｌｏｗｅｒ
ｔｙｏには、鋳片Ｓを鋳型幅方向に３等分した領域に関して同様の方法で求めることで得られる値が格納される。
【0036】
一方、データ拡張部２３０は、必要に応じて前処理部２２０による前処理を経て、時刻ｔについて時系列で取得された温度観測値ｘｔとして鋳型温度分布データ１２０を取得する（ステップＳ１０２）。図４では、温度観測値ｘｔ，ｄがＤ次元のデータ（１≦ｄ≦Ｄ）であり、時刻Ｔまでの範囲で取得される（１≦ｔ≦Ｔ）ものとして図示されている（図４右側のｘｔ，ｄが指す実線の矩形）。ここで、Ｄは、鋳型Ｍに配置された測温装置（例えば熱電対１０２）の個数に対応する。図４に示すとおり、メニスカス流速データ１１０が存在する時刻ｔｙｏにおいては、メニスカス流速データ（上位ラベルｙｕｐｐｅｒ
ｔｙｏおよび下位ラベルｙｌｏｗｅｒ
ｔｙｏ）１１０と鋳型温度分布データ（温度観測値ｘｔｙｏ，ｄ）１２０とが対応付けて格納されるが、時刻ｔｙｏ以外の時刻ｔの鋳型温度分布データ（温度観測値ｘｔ，ｄ）１２０に対しては、対応付けられるメニスカス流速データ（上位ラベルｙｕｐｐｅｒ
ｔおよび下位ラベルｙｌｏｗｅｒ
ｔ）１１０が存在しない。
【0037】
次に、データ拡張部２３０において、データ拡張幅τが初期化される（ステップＳ１０３）。図示された例ではデータ拡張幅τが０に初期化されているが、０以外の値に初期化されてもよい。データ拡張部２３０は、データ拡張幅τに従ってデータを拡張する。具体的には、図５に示されるように、データ拡張部２３０は、上位ラベルｙｕｐｐｅｒ
ｔｙｏおよび下位ラベルｙｌｏｗｅｒ
ｔｙｏをそれぞれデータ拡張幅τだけ時間的に拡張した所定の数の拡張上位ラベルｙｕｐｐｅｒ
ｔｙｏ（τ）および拡張下位ラベルｙｌｏｗｅｒ
ｔｙｏ（τ）を生成し（図５のハッチングされた部分）、これらをそれぞれ温度観測値ｘｔｙｏ（τ）に対応付ける（ステップＳ１０４）。なお、拡張上位ラベルｙｕｐｐｅｒ
ｔｙｏ（τ）および拡張下位ラベルｙｌｏｗｅｒ
ｔｙｏ（τ）には、それぞれ、時刻ｔｙｏの上位ラベルｙｕｐｐｅｒ
ｔｙｏおよび下位ラベルｙｌｏｗｅｒ
ｔｙｏの値が複製される。
【0038】
次に、予測モデル学習部２４０は、データ拡張部２３０によって拡張されたデータに基づいて予測モデルＭを学習する。具体的には、予測モデル学習部２４０は、上位ラベルおよび下位ラベルのそれぞれの存在確率を予測する予測モデルＭのパラメータθｕｐｐｅｒ，θｌｏｗｅｒを、データ拡張の時間範囲内（ｔｙｏ（τ））で、予測値ｙ＾ｕｐｐｅｒ
ｔｙｏ（τ），ｙ＾ｌｏｗｅｒ
ｔｙｏ（τ）の結果データｙｕｐｐｅｒ
ｔｙｏ（τ），ｙｌｏｗｅｒ
ｔｙｏ（τ）に対する損失関数Ｌ（・）が最小化されるように決定する（ステップＳ１０５）。なお、損失関数Ｌ（・）には、予測値ｙ＾ｕｐｐｅｒ
ｔｙｏ（τ），ｙ＾ｌｏｗｅｒ
ｔｙｏ（τ）と、結果データｙｕｐｐｅｒ
ｔｙｏ（τ），ｙｌｏｗｅｒ
ｔｙｏ（τ）との誤差を計算する式を含むような公知の関数が用いられる。
【0039】
次に、学習制御部２５０は、過学習の評価指標に用いられる値を算出する。具体的には、学習制御部２５０は、すべての時刻ｔの範囲内（１＜ｔ≦Ｔ）で温度観測値ｘｔを予測モデルＭに入力して予測値ｙ＾ｕｐｐｅｒ
ｔ，ｙ＾ｌｏｗｅｒ
ｔを得る（ステップＳ１０６）。なお、予測モデルＭは、ステップＳ１０６において上位データ用の予測モデルＭｕｐｐｅｒと下位データ用の予測モデルＭｌｏｗｅｒとが別個に構築されており、ステップＳ１０７では同一の温度観測値ｘｔが各予測モデルＭｕｐｐｅｒ，Ｍｌｏｗｅｒに入力される。その後、学習制御部２５０は、ステップＳ１０６において得られた予測値ｙ＾ｕｐｐｅｒ
ｔ，ｙ＾ｌｏｗｅｒ
ｔを、図５に示すように、同時刻ｔの鋳型温度分布データ（温度観測値ｘｔ，ｄ）１２０に対応付けて格納する。
【0040】
また、学習制御部２５０は、予測モデルＭにより予測した予測値の時間変化率ｚｕｐｐｅｒ
ｔ’，ｚｌｏｗｅｒ
ｔ’を算出する（ステップＳ１０７）。ここで、ｔ’＝ｔ－１である。学習制御部２５０は、算出されたこれらの値を用いて過学習の評価指標を算出して閾値と比較する。具体的には、学習制御部２５０は、予測値ｙ＾ｕｐｐｅｒ
ｔ，ｙ＾ｌｏｗｅｒ
ｔに基づいて上記で式（３）に示した評価指標ｄ１を算出し、閾値ｔｈ１と比較する（ステップＳ１０８）。評価指標が閾値ｔｈ１を超えている場合（ステップＳ１０８：ＹＥＳ）、学習制御部２５０はデータ拡張部２３０の処理および予測モデル学習部２４０による予測モデルの学習を再実行させる。具体的には、データ拡張幅τを拡大し（ステップＳ１０９）、ステップＳ１０４以降の処理が再実行される。なお、図示された例ではデータ拡張幅τが１だけ拡大されているが、１以外の量で拡大されてもよい。
【0041】
上記の第１の評価指標を用いた判定（ステップＳ１０８）において評価指標が閾値ｔｈ１以下であった場合（ステップＳ１０８：ＮＯ）、さらに、学習制御部２５０は、時間変化率ｚｕｐｐｅｒ
ｔ’，ｚｌｏｗｅｒ
ｔ’および予測値ｙ＾ｕｐｐｅｒ
ｔ，ｙ＾ｌｏｗｅｒ
ｔに基づいて上記で式（４）に示したような評価指標ｄ２を、上位データ、下位データ別に算出し（ｄ２
ｕｐｐｅｒ，ｄ２
ｌｏｗｅｒ）、閾値ｔｈ２と比較する（ステップＳ１１０）。評価指標ｄ２
ｕｐｐｅｒ，ｄ２
ｌｏｗｅｒの少なくともいずれかが閾値ｔｈ２を超えている場合（ステップＳ１１０：ＹＥＳ）、学習制御部２５０は、データ拡張幅τを拡大し（ステップＳ１０９）、ステップＳ１０４以降の処理を再実行させる。ステップＳ１０８およびステップＳ１１０の判定で、いずれも評価指標が閾値以下である場合（ステップＳ１１０：ＮＯ）、その時点で予測モデル学習部２４０が学習している予測モデルＭｕｐｐｅｒ，Ｍｌｏｗｅｒが記憶装置、通信装置、またはリムーバブル記憶媒体に出力される（ステップＳ１１１）。
【0042】
以上で説明したような本発明の第１の実施形態によれば、予測モデルの過学習を抑制するための評価指標ｄ１，ｄ２に基づいてデータ拡張幅τが決定されるため、予測モデルのバイアスとバリアンスのトレードオフの観点で最適な範囲でデータ拡張を実行することによって予測モデルの精度を向上させることができる。メニスカス流速データ１１０が取得されていない時刻を含めたすべての時刻ｔの範囲内で温度観測値ｘｔから評価指標ｄ１，ｄ２が算出されるため、予測モデルの自由度（鋳型温度分布データ１２０の次元）に対して利用可能な観測データと結果データとのデータセット（メニスカス流速データ１１０と鋳型温度分布データ１２０とのセット）が少ない場合であっても過学習を抑制して予測モデルを構築することができる。
【0043】
（第２の実施形態）
図６は、本発明の第２の実施形態におけるシステム構成を示す図である。図示された例において、システム２０は、データベース１００と、演算装置３００とを含む。演算装置３００は、ＣＰＵ、記憶装置、通信装置、入出力手段などを備え、プログラムに従って各種の演算を実行するコンピュータである。プログラムは、記憶装置に格納されるか、またはリムーバブル記憶媒体に格納されて演算装置３００に読み込まれる。演算装置３００は、ＣＰＵがプログラムに従って動作することによって実装される機能部分として、教師ラベル設定部２１０、前処理部２２０、予測モデル学習部３４０、学習制御部３５０、予測部２６０および出力部２７０を備える。なお、演算装置３００の予測モデル学習部３４０および学習制御部３５０以外について、本実施形態の構成は上述した第１の実施形態と同様であるため、重複した説明は省略する。
図６は、本発明の第２の実施形態におけるシステム構成を示す図である。図示された例において、システム２０は、データベース１００と、演算装置３００とを含む。演算装置３００は、ＣＰＵ、記憶装置、通信装置、入出力手段などを備え、プログラムに従って各種の演算を実行するコンピュータである。プログラムは、記憶装置に格納されるか、またはリムーバブル記憶媒体に格納されて演算装置３００に読み込まれる。演算装置３００は、ＣＰＵがプログラムに従って動作することによって実装される機能部分として、教師ラベル設定部２１０、前処理部２２０、予測モデル学習部３４０、学習制御部３５０、予測部２６０および出力部２７０を備える。なお、演算装置３００の予測モデル学習部３４０および学習制御部３５０以外について、本実施形態の構成は上述した第１の実施形態と同様であるため、重複した説明は省略する。
【0044】
本実施形態における予測モデル学習部３４０および学習制御部３５０の機能について、図７および図８を合わせて参照しながら説明する。図７は本発明の第２の実施形態における予測モデルの構築処理の例を示すフローチャートであり、図８は図７に示された処理を概念的に示す図である。図７に示された例では、教師ラベル設定部２１０は、上位ラベルｙｕｐｐｅｒ
ｔｙｏおよび下位ラベルｙｌｏｗｅｒ
ｔｙｏを設定する（ステップＳ２０１）。ステップＳ２０１の処理は、上述のステップＳ１０１と同様の処理であり、図８に示されるように、データベース１００から読み出されたメニスカス流速データ１１０について、上位ラベルｙｕｐｐｅｒ
ｔｙｏおよび下位ラベルｙｌｏｗｅｒ
ｔｙｏが設定される。
【0045】
一方、データ拡張部２３０は、必要に応じて前処理部２２０による前処理を経て、時刻ｔについて時系列で取得された温度観測値ｘｔとして鋳型温度分布データ１２０を取得する（ステップＳ２０２）。ステップＳ２０２の処理は、上述のステップＳ１０２と同様の処理であり、図８に示されるように、温度観測値ｘｔ，ｄはＤ次元のデータ（１≦ｄ≦Ｄ）であり、時刻Ｔまでの範囲で取得される（１≦ｔ≦Ｔ）。図８に示すとおり、メニスカス流速データ１１０が存在する時刻ｔｙｏにおいては、メニスカス流速データ（上位ラベルｙｕｐｐｅｒ
ｔｙｏおよび下位ラベルｙｌｏｗｅｒ
ｔｙｏ）１１０と鋳型温度分布データ（温度観測値ｘｔｙｏ,d）１２０が対応付けて格納されるが、時刻ｔｙｏ以外の時刻ｔの鋳型温度分布データ（温度観測値ｘｔ，ｄ）１２０に対しては、対応付けられるメニスカス流速データ（上位ラベルｙｕｐｐｅｒ
ｔおよび下位ラベルｙｌｏｗｅｒ
ｔ）１１０が存在しない。
【0046】
予測モデル学習部３４０は、上記のデータを用いて予測モデルＭを学習する。本実施形態ではデータ拡張が実行されないため、予測モデル学習部３４０が用いるデータは、結果データと結果データに対応付けられる第１の観測データとを含む。結果データに対応付けられていない第２の観測データについては、後述する正則化項の算出によって予測モデルＭに反映される。具体的には、予測モデル学習部３４０は、上位ラベルおよび下位ラベルのそれぞれの存在確率を予測する予測モデルＭのパラメータθｕｐｐｅｒ，θｌｏｗｅｒを、教師ラベルが存在する時刻ｔｙｏにおける予測値ｙ＾ｕｐｐｅｒ
ｔｙｏの結果データｙｕｐｐｅｒ
ｔｙｏに対する損失関数Ｌ（・）と、図７に数式で示されるような２つの正則化項との和が最小化されるように決定する（ステップＳ２０３）。そのために、予測モデル学習部３４０は、まず、すべての時刻ｔの範囲内（１＜ｔ≦Ｔ）で温度観測値ｘｔを予測モデルＭに入力して予測値ｙ＾ｕｐｐｅｒ
ｔ，ｙ＾ｌｏｗｅｒ
ｔを得る。その後、予測モデル学習部３４０は、ここで得られた予測値ｙ＾ｕｐｐｅｒ
ｔ，ｙ＾ｌｏｗｅｒ
ｔを、図８に示すように、同時刻ｔの鋳型温度分布データ（温度観測値ｘｔ，ｄ）１２０に対応付けて格納する。そして、学習制御部３５０は、教師ラベルが存在する時刻ｔｙｏにおける予測値ｙ＾ｕｐｐｅｒ
ｔｙｏ，ｙ＾ｌｏｗｅｒ
ｔｙｏと結果データｙｕｐｐｅｒ
ｔｙｏ，ｙｌｏｗｅｒ
ｔｙｏ（図８の実線で囲まれた範囲のデータ）とを用いて損失関数Ｌ（・）の項を算出する。さらに、学習制御部３５０は、所定の正則化パラメータλ１，λ２に従って上記の２つの正則化項を算出する。具体的には、２つの正則化項は、それぞれ上記で説明された評価指標ｄ１，ｄ２に相当し、メニスカス流速データ１１０が存在する時刻ｔｙｏ以外の時刻を含むすべての時刻ｔの範囲内（１＜ｔ≦Ｔ）のデータ（図８の破線で囲まれた範囲のデータ）を用いて算出される。θｕｐｐｅｒ，θｌｏｗｅｒは各々の損失関数Ｌ（・）に互いを含んでいるが、最小化では同時最適化・交互最適化など方法は問わない。最終的に、予測モデル学習部３４０で損失関数Ｌ（・）と評価指標ｄ１，ｄ２を含む正則化項との和が最小化されるように学習された予測モデルＭｕｐｐｅｒ，Ｍｌｏｗｅｒが記憶装置、通信装置、またはリムーバブル記憶媒体に出力される（ステップＳ２０４）。
【0047】
以上で説明したような本発明の第２の実施形態によれば、予測モデルの過学習を抑制するための評価指標ｄ１，ｄ２が予測モデルの正則化項として取り込まれるため、過学習が抑制された予測モデルを学習することができる。第１の実施形態と同様に、メニスカス流速データ１１０が取得されていない時刻を含めたすべての時刻ｔの範囲内で温度観測値ｘｔから評価指標ｄ１，ｄ２が算出されるため、予測モデルの自由度（鋳型温度分布データ１２０の次元）に対して利用可能な観測データと結果データとのデータセット（メニスカス流速データ１１０と鋳型温度分布データ１２０とのセット）が少ない場合であっても過学習を抑制して予測モデルを構築することができる。
【実施例0048】
続いて、本発明の実施例について説明する。上記で説明した第１の実施形態に係るシステム１０を用いて、鋳型温度分布からメニスカス流速のよどみの有無を推定した。鋳型に取り付けた熱電対の数は２６８であり、従って鋳型温度分布データの温度観測値ｘｔは２６８次元（Ｄ＝２６８）である。本実施例では、鋳型全体に熱電対を配置したが、湯面付近には他の部分よりも高い密度で熱電対を配置した。取得されたメニスカス流速の観測データ数は３０であり、そのうちよどみが発生していると判定されたデータ数は１２であった。これらのメニスカス流速の観測データについては、セットになる鋳型温度分布のデータも取得されている。メニスカス流速を観測していない場合における鋳型温度分布のデータ数は１７６２５６０００である。予測モデルにはラッソ回帰（ＬＡＳＳＯ）を用いた。
【0049】
図９Ａおよび図９Ｂは、データ拡張部におけるデータ拡張幅を変化させた場合の過学習の評価指標の変化を示すグラフである。図３に示された例のデータ拡張幅τの初期値を０（初回はデータを拡張しない）とし、閾値判定はせずにデータ拡張幅τを１０［ｓｅｃ］ずつ、４０［ｓｅｃ］まで拡大した場合の、各回で算出された過学習の評価指標ｄ１，ｄ２を記録した。ここで、上位ラベルは鋳片Ｓを鋳型幅方向に１０等分した領域で平均流速ｖが反転する「小さなよどみ」が発生している場合に設定され、下位ラベルは鋳片Ｓを鋳型幅方向に３等分した領域で平均流速ｖが反転する「大きなよどみ」が発生している場合に設定される。図９Ａに示されるように、予測値における上位ラベルおよび下位ラベルの存在確率の大小関係に基づいて算出される評価指標ｄ１は、データ拡張幅τを０から２０［ｓｅｃ］まで拡大させることで有意に低下する。
【0050】
一方、図９Ｂに示されるように、「小さなよどみ」および「大きなよどみ」のそれぞれの予測値における単位時間あたりの変化量に基づいて算出される評価指標ｄ２は、破線で示す「小さなよどみ」についてはデータ拡張幅τを０から２０［ｓｅｃ］まで拡大させることで有意に低下する。なお、実線で示す「大きなよどみ」については、評価指標ｄ２はデータ拡張幅τに関わらず低い値になった。上記の結果から、データ拡張のように結果データに対応付けられていない観測データを予測モデルの学習に利用することで、過学習を抑制するための評価指標を改善できることがわかる。
【0051】
図１０は、データ拡張部におけるデータ拡張幅を変化させた場合の予測精度の変化を示すグラフである。予測精度の評価は、メニスカス流速データが取得されている時刻ｔｙｏの温度観測値ｘｔｙｏ、教師ラベルｙｕｐｐｅｒ
ｔｙｏ，ｙｌｏｗｅｒ
ｔｙｏおよび予測値ｙ＾ｕｐｐｅｒ
ｔｙｏ，ｙ＾ｌｏｗｅｒ
ｔｙｏを用いて実行した。図１０に示された結果ではデータ拡張幅τが２０［ｓｅｃ］の場合に最も精度が高くなっている。これは、データ拡張の適応は訓練誤差の観点では精度が悪化するが、予測の観点では精度が向上することがありうるためである。つまり、過学習の抑制、すなわちデータ拡張の適応によってバイアスが大きくなることで訓練誤差は悪化するが、同時にバリアンスが抑制されることで予測精度は向上することがありうる。グラフに示された例では、データ拡張幅２０［ｓｅｃ］がバイアスとバリアンスのトレードオフの観点で最適であり、データ拡張幅４０［ｓｅｃ］になるとバイアスが大きいために「小さいよどみ」における予測精度が低下している。
【0052】
図１１Ａおよび図１１Ｂは、データ拡張部におけるデータ拡張幅を変化させた場合の予測確率値の変化を示すグラフである。図１１Ａに示すデータ拡張なし（±０［ｓｅｃ］）の場合の予測モデルでは、「小さなよどみ」の存在確率が「大きなよどみ」の存在確率を下回っている時刻が存在し、また存在確率自体の変化も激しいことから、予測モデルが上述したような溶鋼流動の物理現象としての性質に沿っていないと考えられる。一方、図１１Ｂに示すデータ拡張あり（±２０［ｓｅｃ］）の場合の予測モデルでは、データ拡張なしの場合とは異なり「小さなよどみ」および「大きなよどみ」の存在確率の逆転は生じず、また存在確率の変化も比較的緩やかになっていることから、予測モデルがより溶鋼流動の物理現象としての性質に沿っていると考えられる。これらの結果から、データ拡張のように結果データに対応付けられていない観測データを予測モデルの学習に利用することで、過学習による予測モデルと対象の物理現象としての性質との乖離が抑制され、予測モデルの妥当性が改善されることがわかる。
【0053】
なお、上記で説明した本発明の実施形態および実施例では連続鋳造における予測モデルについて説明したが、本発明の他の実施形態では連続鋳造における予測モデル以外への適用も可能である。例えば、大量の観測データに対して少量の結果データが存在する場合であって、結果データにおいて上位および下位が定義可能であるか、または結果データについて時系列的な連続性を仮定できる場合に本発明を適用することができる。例えば上述したデータ拡張、または正則化項の導入によって結果データに対応付けられていない観測データを予測モデルの学習に用いる場合において、上記のような上位データおよび下位データの存在確率の大小関係、または予測値の時間変化率に基づいて評価指標を算出することによって、過学習を抑制した予測モデルの学習が実現できる。
【0054】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はこれらの例に限定されない。本発明の属する技術の分野の当業者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【符号の説明】
【0055】
１０，２０…システム、１００…データベース、１０１…計測装置、１０２…熱電対、１１０…メニスカス流速データ、１２０…鋳型温度分布データ、２００，３００…演算装置、２１０…教師ラベル設定部、２２０…前処理部、２３０…データ拡張部、２４０，３４０…予測モデル学習部、２４１…予測モデル、２５０，３５０…学習制御部、２６０…予測部、２７０…出力部。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9A】
【図9B】
【図10】
【図11A】
【図11B】