IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ アクションパワー コーポレイションの特許一覧

特開2024-152654テキスト情報を修正する方法{METHOD FOR EDITING TEXT INFORMATION}
<>
  • 特開-テキスト情報を修正する方法{METHOD  FOR  EDITING  TEXT  INFORMATION} 図1
  • 特開-テキスト情報を修正する方法{METHOD  FOR  EDITING  TEXT  INFORMATION} 図2
  • 特開-テキスト情報を修正する方法{METHOD  FOR  EDITING  TEXT  INFORMATION} 図3
  • 特開-テキスト情報を修正する方法{METHOD  FOR  EDITING  TEXT  INFORMATION} 図4
  • 特開-テキスト情報を修正する方法{METHOD  FOR  EDITING  TEXT  INFORMATION} 図5
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024152654
(43)【公開日】2024-10-25
(54)【発明の名称】テキスト情報を修正する方法{METHOD FOR EDITING TEXT INFORMATION}
(51)【国際特許分類】
   G06F 40/166 20200101AFI20241018BHJP
   G10L 15/22 20060101ALI20241018BHJP
   G06F 40/253 20200101ALI20241018BHJP
【FI】
G06F40/166
G10L15/22 470Z
G06F40/253
【審査請求】有
【請求項の数】24
【出願形態】OL
(21)【出願番号】P 2024060562
(22)【出願日】2024-04-04
(11)【特許番号】
(45)【特許公報発行日】2024-08-16
(31)【優先権主張番号】10-2023-0048030
(32)【優先日】2023-04-12
(33)【優先権主張国・地域又は機関】KR
(71)【出願人】
【識別番号】522357781
【氏名又は名称】アクションパワー コーポレイション
(74)【代理人】
【識別番号】110002789
【氏名又は名称】弁理士法人IPX
(72)【発明者】
【氏名】イ・チファ
(72)【発明者】
【氏名】ソン・チェユプ
【テーマコード(参考)】
5B109
【Fターム(参考)】
5B109QB14
(57)【要約】      (修正有)
【課題】問題のあるテキストを校正するための代替テキストを生成して提供することが可能な方法を提供する。
【解決手段】コンピューティング装置により実行されるテキスト情報を修正する方法であって、上記キスト情報を取得する段階S110、上記テキスト情報において問題のあるテキストを決定する段階S120、上記問題のあるテキストに係る拡張テキスト又は上記問題のあるテキストに係る非テキストタイプの情報を用いて、上記問題のあるテキストを校正するための代替テキストを生成する段階S130及び上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供する段階S140を含む。
【選択図】図4
【特許請求の範囲】
【請求項1】
コンピューティング装置により実行される、テキスト情報を修正する方法であって、
前記テキスト情報を取得する段階;
前記テキスト情報において問題のあるテキストを決定する段階;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する段階;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する段階
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含む、
方法。
【請求項2】
請求項1において、
前記問題のあるテキストに係る拡張テキストは、
前記問題のあるテキストを含み、且つ前記問題のあるテキストより長いテキスト;
前記問題のあるテキストを含む文;又は
前記問題のあるテキストを含む段落
のうち、少なくとも1つを含む、
方法。
【請求項3】
請求項2において、
前記テキスト情報において問題のあるテキストを決定する段階は、
前記問題のあるテキストに係る拡張テキストにおいて、前記問題のあるテキストと対応する部分をマスキング(masking)する段階を含み、
前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階
を含む、
方法。
【請求項4】
請求項3において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記検索対象ドメインにおいて、前記マスキングが適用された前記拡張テキストを検索する段階;及び
前記検索の結果に基づき、前記問題のあるテキストを校正するための代替テキストを生成する段階
を含む、
方法。
【請求項5】
請求項4において、
前記検索対象ドメインは、
アプリケーション、プログラム、ウェブサイト、検索エンジン又はデジタル辞書のうち、少なくとも1つを含む、
方法。
【請求項6】
請求項3において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記マスキングが適用された前記拡張テキストをテキスト生成モデルに入力する段階;及び
前記テキスト生成モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成する段階を含む、
方法。
【請求項7】
請求項1において、
前記テキスト情報を取得する段階は、
音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、前記テキスト情報を取得する段階
を含む、
方法。
【請求項8】
請求項7において、
前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記問題のあるテキストに係る非テキストタイプの情報を、前記音声認識モデルと異なる追加の音声認識モデルに入力する段階;及び
前記追加の音声認識モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成する段階
を含む、
方法。
【請求項9】
請求項8において、
前記問題のあるテキストに係る非テキストタイプの情報は、
前記音声認識モデルに入力された前記音声信号の全体;又は
前記音声認識モデルに入力された前記音声信号において前記問題のあるテキストと対応する部分的音声信号
のうち、少なくとも1つを含む、
方法。
【請求項10】
請求項7において、
前記テキスト情報において問題のあるテキストを決定する段階は、
前記ユーザーインターフェースを介して、前記テキスト情報において前記問題のあるテキストに係る入力情報を取得する段階;又は
前記音声認識(STT)によって取得された前記テキスト情報において、信頼度が最も低いテキストを、前記問題のあるテキストとして決定する段階
のうち、少なくともいずれか1つを含む、
方法。
【請求項11】
請求項7において、
前記方法は、
前記音声信号において前記代替テキストと対応する信号部分を抽出する段階;
前記抽出された信号部分と前記代替テキストに係るペア(pair)を生成する段階;及び
前記生成されたペアをパーソナライズされた音声認識モデルの学習データとして用いる段階
をさらに含む、
方法。
【請求項12】
請求項1において、
前記代替テキストに対するスコアリングを行う段階は、
次文予測(Next Sentence Prediction)モデルを用いて、前記代替テキストに対するスコアリングを行う段階;又は
テキスト含意(Text Entailment)モデルを用いて、前記代替テキストに対するスコアリングを行う段階
のうち、少なくともいずれか1つを含む、
方法。
【請求項13】
コンピューター可読保存媒体に保存されたコンピュータープログラムであって、前記コンピュータープログラムは、1つ以上のプロセッサーにおいて実行される場合、前記1つ以上のプロセッサーに、テキスト情報を修正するための以下の動作を実行させるが、前記動作は:
前記テキスト情報を取得する動作;
前記テキスト情報において問題のあるテキストを決定する動作;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する動作;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する動作
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項14】
請求項13において、
前記問題のあるテキストに係る拡張テキストは、
前記問題のあるテキストを含み、且つ前記問題のあるテキストより長いテキスト;
前記問題のあるテキストを含む文;又は
前記問題のあるテキストを含む段落
のうち、少なくとも1つを含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項15】
請求項13において、
前記テキスト情報において問題のあるテキストを決定する動作は、
前記問題のあるテキストに係る拡張テキストにおいて、前記問題のあるテキストと対応する部分をマスキング(masking)する動作を含み、
前記問題のあるテキストを校正するための代替テキストを生成する動作は、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項16】
請求項15において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作は、
前記検索対象ドメインにおいて、前記マスキングが適用された前記拡張テキストを検索する動作;及び
前記検索の結果に基づき、前記問題のあるテキストを校正するための代替テキストを生成する動作
を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項17】
請求項15において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作は、
前記マスキングが適用された前記拡張テキストをテキスト生成モデルに入力する動作;及び
前記テキスト生成モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成する動作
を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項18】
請求項13において、
前記テキスト情報を取得する動作は、
音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、前記テキスト情報を取得する動作
を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項19】
請求項15において、
前記代替テキストに対するスコアリングを行う動作は、
次文予測(Next Sentence Prediction)モデルを用いて、前記代替テキストに対するスコアリング(scoring)を行う動作;又は
テキスト含意(Text Entailment)モデルを用いて、前記代替テキストに対するスコアリング(scoring)を行う動作
のうち、少なくともいずれか1つを含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項20】
コンピューティング装置であって、
少なくとも1つのプロセッサー;及び
メモリー;
を含み、
前記少なくとも1つのプロセッサーは、
テキスト情報を取得し;
前記テキスト情報において問題のあるテキストを決定し;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成し;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供し、且つ、
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替するように構成され、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含む、
装置。
【請求項21】
請求項20において、
前記問題のあるテキストに係る拡張テキストは、
前記問題のあるテキストを含み、且つ前記問題のあるテキストより長いテキスト;
前記問題のあるテキストを含む文;又は
前記問題のあるテキストを含む段落
のうち、少なくとも1つを含む、
装置。
【請求項22】
請求項21において、
前記少なくとも1つのプロセッサーは、
前記問題のあるテキストに係る拡張テキストにおいて、前記問題のあるテキストと対応する部分をマスキング(masking)し;且つ
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成するように追加で構成される、
装置。
【請求項23】
請求項20において、
前記少なくとも1つのプロセッサーは、
音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、前記テキスト情報を取得するように追加で構成される、
装置。
【請求項24】
請求項23において、
前記少なくとも1つのプロセッサーは、
前記問題のあるテキストに係る非テキストタイプの情報を、前記音声認識モデルと異なる追加の音声認識モデルに入力し;且つ
前記追加の音声認識モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成するように追加で構成される、
装置。
【請求項25】
請求項23において、
前記少なくとも1つのプロセッサーは、
前記ユーザーインターフェースを介して、前記テキスト情報において前記問題のあるテキストに係る入力情報を取得し;且つ
前記音声認識(STT)によって取得された前記テキスト情報において、信頼度が最も低いテキストを前記問題のあるテキストとして決定するように追加で構成される、
装置。
【請求項26】
請求項23において、
前記少なくとも1つのプロセッサーは、
前記音声信号において前記代替テキストと対応する信号部分を抽出し;
前記抽出された信号部分と前記代替テキストに係るペア(pair)を生成し;且つ
前記生成されたペアをパーソナライズされた音声認識モデルの学習データとして用いるように
追加で構成される、
装置。
【請求項27】
請求項20において、
前記少なくとも1つのプロセッサーは、
次文予測(Next Sentence Prediction)モデルを用いて前記代替テキストに対するスコアリングを行い;又は
テキスト含意(Text Entailment)モデルを用いて前記代替テキストに対するスコアリングを行うように構成される、
装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、テキスト情報を修正する方法に係り、より具体的には、問題のあるテキストを校正するための代替テキストを生成し、テキスト情報を修正する技術に関するものである。
【背景技術】
【0002】
【0003】
音声認識(STT or ASR;Speech To Text,or Automatic Speech Recognition)は、音声をテキストに変換する文字起こし技術である。言い換えると、音声認識(STT)は、音声と対応するテキストを生成する技術である。かかる音声認識(STT)の入力(Input)は、音声信号、音声信号を変換したスペクトログラム(spectrogram)又は音声特徴(feature)のうち、少なくともいずれか1つを含むことが可能である。また、音声認識(STT)の出力(Output)は、文字列形式のテキストである。一方、音声認識(STT)モデルは、神経回路網モデルを含む多様な形態のモデルとして具現化されることが可能である。また、音声認識(STT)モデルは、具現化の方式によって、モジュール化された方式とモジュール化されていない方式のend-to-end(e2e)方式に分けられる。ここで、モジュール化された方式は、音響モデル(音声信号がどのような形態で表現されることができるかを示すモデル)、言語モデル(与えられた文章及び単語をもとに、単語に発生確率を付与するモデル)、発音辞書等に分けて音声認識を行う、従来の方式のモデル(例えば、Kaldi toolkit基盤のASRにおける一部のモデル、Hybrid-ASRモデル等)等を含むことが可能であるが、これらに限定されない。一方、モジュール化されていない方式は、e2eモデル(例えば、transformer-based encoder decoderモデル等)を意味し、下位モジュールを設けずに多くのデータを学習させ、モデルを生成することが可能である。一方、デコーディング(Decoding)手法は、ビームサーチ(Beam Search)手法が代表的なものであり、ビームサーチ手法は、状況に応じて最も正解に近い単語を1つだけ予測するのではなく、あらゆる可能性を踏まえることができ、文章全体を考慮し最適解を見つけ出す方法である。
【0004】
一方、ユーザーの発話を転写した音声認識(STT)の結果は完ぺきではないため、音声認識(STT)の結果テキストに対する校正(correction)を行わなければならない。
【0005】
大韓民国特許公開特許第10-2022-0070709号(2022.05.31)は、音声認識装置の結果テキストと音声特徴を用いた、音声認識における誤り校正モデリング方法について開示している。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】大韓民国特許公開特許第10-2022-0070709号(2022.05.31)
【発明の概要】
【発明が解決しようとする課題】
【0007】
本開示は、テキスト情報において問題のあるテキストを決定し、問題のあるテキストを校正するための代替テキストを生成して提供することを目的とする。例えば、本開示は、テキスト情報(例えば、音声認識実行結果テキスト)において問題のあるテキストを識別し、資料検索又は人工知能モデルを活用し、上記問題のあるテキストを校正(代替)することのできる代替テキストを生成し、代替テキストと代替テキストのソース(source)に係る情報とを連動させて提供することを目的とする。
【0008】
しかし、本開示が解決しようとする技術的課題は、前述の技術的課題に限られるわけではなく、以下に説明する内容から、当業者にとって自明な範囲内において、多様な技術的課題が含まれることが可能である。
【課題を解決するための手段】
【0009】
【0010】
前述の課題を実現するための本開示の一実施例に基づき、コンピューティング装置により実行される、テキスト情報を修正する方法が開示される。上記方法は、上記テキスト情報を取得する段階;上記テキスト情報において問題のあるテキストを決定する段階;上記問題のあるテキストに係る拡張テキスト又は上記問題のあるテキストに係る非テキストタイプの情報を用いて、上記問題のあるテキストを校正するための代替テキストを生成する段階;及び上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供する段階を含むことが可能である。
【0011】
一実施例において、上記問題のあるテキストを校正するための代替テキストに係る情報を提供する段階は、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソース(source)に係る情報を、共に提供する段階を含むことが可能である。
【0012】
一実施例において、上記問題のあるテキストに係る拡張テキストは、上記問題のあるテキストを含み、且つ上記問題のあるテキストより長いテキスト;上記問題のあるテキストを含む文;又は上記問題のあるテキストを含む段落のうち、少なくとも1つを含むことが可能である。
【0013】
一実施例において、上記テキスト情報において問題のあるテキストを決定する段階は、上記問題のあるテキストに係る拡張テキストにおいて、上記問題のあるテキストと対応する部分をマスキング(masking)する段階を含み、上記問題のあるテキストを校正するための代替テキストを生成する段階は、上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成する段階を含むことが可能である。
【0014】
一実施例において、上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成する段階は、検索対象ドメインにおいて、上記マスキングが適用された上記拡張テキストを検索する段階;及び上記検索の結果に基づき、上記問題のあるテキストを校正するための代替テキストを生成する段階を含むことが可能である。
【0015】
一実施例において、上記検索対象ドメインは、アプリケーション、プログラム、ウェブサイト、検索エンジン又はデジタル辞書のうち、少なくとも1つを含むことが可能である。
【0016】
一実施例において、上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成する段階は、上記代替テキストに係る情報及び上記代替テキストのソースに係る情報をペア(pair)として共に提供する段階をさらに含み、上記ソースに係る情報は、上記代替テキストの生成に用いられた上記検索対象ドメインに係る情報を含むことが可能である。
【0017】
一実施例において、上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成する段階は、上記マスキングが適用された上記拡張テキストをテキスト生成モデルに入力する段階;及び上記テキスト生成モデルの出力をもとに、上記問題のあるテキストを校正するための代替テキストを生成する段階を含むことが可能である。
【0018】
一実施例において、上記テキスト情報を取得する段階は、音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、上記テキスト情報を取得する段階を含むことが可能である。
【0019】
一実施例において、上記問題のあるテキストを校正するための代替テキストを生成する段階は、上記問題のあるテキストに係る非テキストタイプの情報を、上記音声認識モデルと異なる追加の音声認識モデルに入力する段階;及び上記追加の音声認識モデルの出力をもとに、上記問題のあるテキストを校正するための代替テキストを生成する段階を含むことが可能である。
【0020】
一実施例において、上記問題のあるテキストに係る非テキストタイプの情報は、上記音声認識モデルに入力された上記音声信号の全体;又は上記音声認識モデルに入力された上記音声信号において上記問題のあるテキストと対応する部分的音声信号のうち、少なくとも1つを含むことが可能である。
【0021】
一実施例において、上記テキスト情報において問題のあるテキストを決定する段階は、ユーザーインターフェースを介して、上記テキスト情報において上記問題のあるテキストに係る入力情報を取得する段階;又は上記音声認識(STT)によって取得された上記テキスト情報において、信頼度が最も低いテキストを、上記問題のあるテキストとして決定する段階のうち、少なくともいずれか1つを含むことが可能である。
【0022】
一実施例において、上記方法は、上記音声信号において上記代替テキストと対応する信号部分を抽出する段階;上記抽出された信号部分と上記代替テキストに係るペア(pair)を生成する段階;及び上記生成されたペアをパーソナライズされた音声認識モデルの学習データとして活用する段階をさらに含むことが可能である。
【0023】
一実施例において、上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供する段階は、上記代替テキストに係る評価情報を提供する段階を含むことが可能である。
【0024】
一実施例において、上記代替テキストに係る評価情報を提供する段階は、次文予測(Next Sentence Prediction)モデルを用いて上記代替テキストに対するスコアリング(scoring)を行う段階;又はテキスト含意(Text Entailment)モデルを用いて上記代替テキストに対するスコアリング(scoring)を行う段階のうち、少なくともいずれか1つを含むことが可能である。
【0025】
前述のような課題を実現するための本開示の一実施例に基づき、コンピューター可読保存媒体に保存されたコンピュータープログラムが開示される。上記コンピュータープログラムは、1つ以上のプロセッサーにおいて実行される場合、上記1つ以上のプロセッサーに、テキスト情報を修正するための以下の動作を実行させるが、上記動作は:上記テキスト情報を取得する動作;上記テキスト情報において問題のあるテキストを決定する動作;上記問題のあるテキストに係る拡張テキスト、又は上記問題のあるテキストに係る非テキストタイプの情報を用いて、上記問題のあるテキストを校正するための代替テキストを生成する動作;及び上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供する動作を含むことが可能である。
【0026】
一実施例において、上記問題のあるテキストを校正するための代替テキストに係る情報を提供する動作は、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソース(source)に係る情報を、共に提供する動作を含むことが可能である。
【0027】
一実施例において、上記問題のあるテキストに係る拡張テキストは、上記問題のあるテキストを含み、且つ上記問題のあるテキストより長いテキスト;上記問題のあるテキストを含む文;又は上記問題のあるテキストを含む段落のうち、少なくとも1つを含むことが可能である。
【0028】
一実施例において、上記テキスト情報において問題のあるテキストを決定する動作は、上記問題のあるテキストに係る拡張テキストにおいて、上記問題のあるテキストと対応する部分をマスキング(masking)する動作を含み、上記問題のあるテキストを校正するための代替テキストを生成する動作は、上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成する動作を含むことが可能である。
【0029】
一実施例において、上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成する動作は、検索対象ドメインにおいて、上記マスキングが適用された上記拡張テキストを検索する動作;及び上記検索の結果に基づき、上記問題のあるテキストを校正するための代替テキストを生成する動作を含むことが可能である。
【0030】
一実施例において、上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成する動作は、上記マスキングが適用された上記拡張テキストをテキスト生成モデルに入力する動作;及び上記テキスト生成モデルの出力をもとに、上記問題のあるテキストを校正するための代替テキストを生成する動作を含むことが可能である。
【0031】
一実施例において、上記テキスト情報を取得する動作は、音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、上記テキスト情報を取得する動作を含むことが可能である。
【0032】
一実施例において、上記問題のあるテキストを校正するための代替テキストを生成する動作は、上記問題のあるテキストに係る非テキストタイプの情報を、上記音声認識モデルと異なる追加の音声認識モデルに入力する動作;及び上記追加の音声認識モデルの出力をもとに、上記問題のあるテキストを校正するための代替テキストを生成する動作を含むことが可能である。
【0033】
一実施例において、上記問題のあるテキストに係る非テキストタイプの情報は、上記音声認識モデルに入力された上記音声信号の全体;又は上記音声認識モデルに入力された上記音声信号において上記問題のあるテキストと対応する部分的音声信号のうち、少なくとも1つを含むことが可能である。
【0034】
一実施例において、上記テキスト情報において問題のあるテキストを決定する動作は、ユーザーインターフェースを介して、上記テキスト情報において上記問題のあるテキストに係る入力情報を取得する動作;又は上記音声認識(STT)によって取得された上記テキスト情報において、信頼度が最も低いテキストを上記問題のあるテキストとして決定する動作のうち、少なくともいずれか1つを含むことが可能である。
【0035】
一実施例において、上記動作は、上記音声信号において上記代替テキストと対応する信号部分を抽出する動作;上記抽出された信号部分と上記代替テキストに係るペア(pair)を生成する動作;及び上記生成されたペアをパーソナライズされた音声認識モデルの学習データとして用いる動作をさらに含むことが可能である。
【0036】
一実施例において、上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供する動作は、上記代替テキストに係る評価情報を提供する動作を含むことが可能である。
【0037】
一実施例において、上記代替テキストに係る評価情報を提供する動作は、次文予測(Next Sentence Prediction)モデルを用いて上記代替テキストに対するスコアリング(scoring)を行う動作;又はテキスト含意(Text Entailment)モデルを用いて上記代替テキストに対するスコアリング(scoring)を行う動作のうち、少なくともいずれか1つを含むことが可能である。
【0038】
前述の課題を解決するための本開示の一実施例に基づくコンピューティング装置が開示される。上記装置は、少なくとも1つのプロセッサー;及びメモリーを含み、上記少なくとも1つのプロセッサーは、テキスト情報を取得し;上記テキスト情報において問題のあるテキストを決定し;上記問題のあるテキストに係る拡張テキスト又は上記問題のあるテキストに係る非テキストタイプの情報を用いて、上記問題のあるテキストを校正するための代替テキストを生成し;且つ上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供するように構成されることが可能である。
【0039】
一実施例において、上記少なくとも1つのプロセッサーは、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソース(source)に係る情報を、共に提供するように構成されることが可能である。
【0040】
一実施例において、上記問題のあるテキストに係る拡張テキストは、上記問題のあるテキストを含み、且つ上記問題のあるテキストより長いテキスト;上記問題のあるテキストを含む文;又は上記問題のあるテキストを含む段落のうち、少なくとも1つを含むことが可能である。
【0041】
一実施例において、上記少なくとも1つのプロセッサーは、上記問題のあるテキストに係る拡張テキストにおいて、上記問題のあるテキストと対応する部分をマスキング(masking)し;且つ上記マスキングが適用された上記拡張テキストを用いて、上記問題のあるテキストを校正するための代替テキストを生成するように構成されることが可能である。
【0042】
一実施例において、上記少なくとも1つのプロセッサーは、検索対象ドメインにおいて、上記マスキングが適用された上記拡張テキストを検索し;且つ上記検索の結果に基づき、上記問題のあるテキストを校正するための代替テキストを生成するように構成されることが可能である。
【0043】
一実施例において、上記少なくとも1つのプロセッサーは、上記マスキングが適用された上記拡張テキストをテキスト生成モデルに入力し;且つ上記テキスト生成モデルの出力をもとに、上記問題のあるテキストを校正するための代替テキストを生成するように構成されることが可能である。
【0044】
一実施例において、上記少なくとも1つのプロセッサーは、音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、上記テキスト情報を取得するように構成されることが可能である。
【0045】
一実施例において、上記少なくとも1つのプロセッサーは、上記問題のあるテキストに係る非テキストタイプの情報を、上記音声認識モデルと異なる追加の音声認識モデルに入力し;且つ上記追加の音声認識モデルの出力をもとに、上記問題のあるテキストを校正するための代替テキストを生成するように構成されることが可能である。
【0046】
一実施例において、上記問題のあるテキストに係る非テキストタイプの情報は、上記音声認識モデルに入力された上記音声信号の全体;又は上記音声認識モデルに入力された上記音声信号において上記問題のあるテキストと対応する部分的音声信号のうち、少なくとも1つを含むことが可能である。
【0047】
一実施例において、上記少なくとも1つのプロセッサーは、ユーザーインターフェースを介して、上記テキスト情報において上記問題のあるテキストに係る入力情報を取得し;且つ上記音声認識(STT)によって取得された上記テキスト情報において、信頼度が最も低いテキストを、上記問題のあるテキストとして決定するように構成されることが可能である。
【0048】
一実施例において、上記少なくとも1つのプロセッサーは、上記音声信号において上記代替テキストと対応する信号部分を抽出し;上記抽出された信号部分と上記代替テキストに係るペア(pair)を生成し;且つ上記生成されたペアをパーソナライズされた音声認識モデルの学習データとして用いるように追加で構成されることが可能である。
【0049】
一実施例において、上記少なくとも1つのプロセッサーは、上記代替テキストに係る評価情報を提供するように構成されることが可能である。
【0050】
一実施例において、上記少なくとも1つのプロセッサーは、次文予測(Next Sentence Prediction)モデルを用いて上記代替テキストに対するスコアリング(scoring)を行い;又はテキスト含意(Text Entailment)モデルを用いて上記代替テキストに対するスコアリング(scoring)を行うように構成されることが可能である。
【発明の効果】
【0051】
【0052】
本開示は、問題のあるテキストを校正するための代替テキスト及び代替テキストのソース(source)に係る情報を共に提供することで、問題のあるテキストの校正についてユーザーに信頼性のある情報を提供することが可能であり、ユーザーの利便性を向上することが可能である。
【0053】
また、本開示は、音声認識(STT;Speech To Text)結果テキストに含まれている問題のあるテキストを校正するための情報を、高い正確度と信頼度が確保された状態で提供することが可能である。例えば、本開示は、「問題のあるテキストに係る拡張テキスト」及び「マスキング技術」を用いた資料検索によって、問題のあるテキストを校正するための正確度の高い代替テキストを識別することが可能であり、識別された代替テキストと検索のソースとを共に提供することで、ユーザーに高い信頼度を提供することが可能である。他の例を挙げると、本開示は、STT結果テキストの生成に用いられたSTTモデルと異なる追加のSTTモデルを用いて、問題のあるテキストを校正するための正確度の高い代替テキストを識別することが可能であり、複数のSTTモデルが関与した校正情報を提供することで、ユーザーに高い信頼度を提供することが可能である。一方、本開示の効果は、前述の効果に限られるわけではなく、以下に説明する内容から、当業者にとって自明な範囲内において、多様な効果が含まれることが可能である。
【図面の簡単な説明】
【0054】
【0055】
図1】本開示の一実施例における、テキスト情報を修正するためのコンピューティング装置のブロック構成図である。
図2】本開示の一実施例における、神経回路網を示す概念図である。
図3】本開示の一実施例における、テキスト情報を修正するための複数のモジュールに係るブロック構成図である。
図4】本開示の一実施例における、テキスト情報を修正するための方法に係るフローチャートである。
図5】本開示の実施例が具現化されることのできる、例示的なコンピューティング環境に係る簡略且つ一般的な概略図である。
【発明を実施するための形態】
【0056】
多様な実施例について以下に図面を参照用いて説明する。本明細書において多様な説明が本開示に対する理解を容易にするために示される。しかし、かかる実施例がかかる具体的な説明がなくても実施されることが可能であることは自明である。
【0057】
本明細書において、「コンポーネント」、「モジュール」、「システム」等の用語は、コンピューター関連エンティティ、ハードウェア、ファームウェア、ソフトウェア、ソフトウェアとハードウェアとの組み合わせ、又はソフトウェアの実行を指す。例えば、コンポーネントは、プロセッサー上で実行される処理手順(procedure)、プロセッサー、オブジェクト、実行スレッド、プログラム、及び/又はコンピューターになり得るが、これらに限定されるものではない。例えば、コンピューティング装置で実行されるアプリケーションとコンピューティング装置は、両方ともコンポーネントになり得る。1つ以上のコンポーネントは、プロセッサー及び/又は実行スレッドの中に常駐することが可能である。1つのコンポーネントは、1つのコンピューターの中でローカル化されることが可能である。1つのコンポーネントは、2つ以上のコンピューターに配分されることが可能である。また、このようなコンポーネントは、その内部に保存されている多様なデータ構造を有する多様なコンピューター可読媒体において実行することが可能である。コンポーネントは、例えば1つ以上のデータパケットを含む信号(例えば、ローカルシステムや分散システムにおいて他のコンポーネントと相互作用する1つのコンポーネントからのデータ及び/又は信号を用いて、他のシステムと、インターネットのようなネットワークを介して伝送されるデータ)を用いてローカル及び/又は遠隔処理等を通じて通信することが可能である。
【0058】
なお、用語「又は」は、排他的な「又は」ではなく、内包的な「又は」を意味する意図で使われる。つまり、特に特定されておらず、文脈上明確ではない場合、「Xは、A又はBを利用する」は、自然な内包的置換のうち1つを意味するものとする。つまり、XがAを利用したり;XがBを利用したり;又はXがA及びBの両方を利用する場合、「XはA又はBを利用する」は、これらのいずれにも当てはまるとすることが可能である。また、本明細書における「及び/又は」という用語は、取り挙げられた複数の関連アイテムのうち、1つ以上のアイテムの可能なすべての組み合わせを指し、含むものと理解されるべきである。
【0059】
また、述語としての「含む(含める)」及び/又は修飾語としての「含む(含める)」という用語は、当該特徴及び/又は構成要素が存在することを意味するものと理解されるべきである。ただし、述語としての「含む(含める)」及び/又は修飾語として「含む(含める)」という用語は、1つ以上の他のさらなる特徴、構成要素及び/又はこれらのグループの存在又は追加を排除しないものと理解されるべきである。また、特に数が特定されていない場合や、単数の形を示すことが文脈上明確でない場合、本明細書と請求範囲において単数は、一般的に「1つ又はそれ以上」を意味するものと解釈されるべきである。
【0060】
そして、「A又はBのうち少なくとも1つ」という用語については、「Aだけを含む場合」、「Bだけを含む場合」、「AとBの組み合わせの場合」を意味するものと解釈されるべきである。
【0061】
当業者は、さらに、ここに開示されている実施例に係るものとして説明された多様な例示的論理的ブロック、構成、モジュール、回路、手段、ロジック及びアルゴリズム段階が、電子ハードウェア、コンピューターソフトウェア、又はその両方の組み合わせによって実現されることが可能であることを認識すべきである。ハードウェアとソフトウェアとの相互交換性を明確に例示するために、多様な例示的コンポーネント、ブロック、構成、手段、ロジック、モジュール、回路及び段階が、それらの機能性の側面で一般的に上述された。そのような機能性がハードウェアとして実装されるか或いはソフトウェアとして実装されるかは、全般的なシステムに係る特定のアプリケーション(application)及び設計制限によって決まる。熟練した技術者は、個々の特定アプリケーションのために多様な方法で説明された機能性を実現することが可能である。ただし、そのような実現に係る決定が本開示内容の領域を逸脱するものと解釈されてはならない。
【0062】
ここに示す実施例に係る説明は、本開示の技術分野において通常の知識を持つ者が本発明を利用したり、又は実施できるように提供される。このような実施例に対する多様な変形は、本開示の技術分野において通常の知識を持つ者には明確に理解できるものである。ここに定義された一般的な原理は、本開示の範囲を逸脱することなく他の実施例に適用されることが可能である。従って、本発明はここに示す実施例だけに限定されるものではない。本発明はここに示す原理及び新規な特徴と一貫する最広義の範囲で解釈されるべきである。
【0063】
本開示において、ネットワーク関数、人工神経回路網及びニューラルネットワーク(neural network)は、相互置換可能に用いることが可能である。
【0064】
【0065】
図1は、本開示の一実施例に基づく、音声認識結果(STT;Speech-To-Text)及び参照データにおいて重要部分を決定するためのコンピューティング装置のブロック構成図である。
【0066】
図1に図示されたコンピューティング装置(100)の構成は、簡略化して示した例示に過ぎない。本開示の一実施例において、コンピューター装置(100)には、コンピューター装置(100)のコンピューティング環境を実装するための他の構成が含まれることが可能であり、開示されている構成のうち一部だけでコンピューター装置(100)を構成することも可能である。
【0067】
コンピューター装置(100)は、プロセッサー(110)、メモリー(130)、ネットワーク部(150)を含むことができる。
【0068】
本開示の一実施例において、プロセッサー(100)は、1つ以上のコアで構成されることが可能であり、コンピューティング中央処理装置(CPU:central processing unit)、汎用グラフィック処理装置(GPGPU:general purpose graphics processing unit)、テンサー処理装置(TPU:tensor processing unit)等のデータ分析、ディープラーニングのためのプロセッサーを含むことができる。プロセッサー(110)は、メモリー(130)に保存されたコンピュータープログラムを読み取り、本開示の一実施例における機械学習のためのデータ処理を実行することができる。本開示の一実施例に基づき、プロセッサー(110)は、ニューラルネットワークの学習のための演算を行うことができる。プロセッサー(110)は、ディープラーニング(DL:deep learning)において、学習のための入力データの処理、入力データからのフィーチャーの抽出、誤差計算、逆伝播(backpropagation)を利用したニューラルネットワークの重みの更新等のニューラルネットワークの学習のための計算を実行することができる。
プロセッサー(110)のCPUとGPGPUとTPUとのうち、少なくとも1つが、ネットワーク関数の学習を処理できる。例えば、CPUとGPGPUとがともにネットワーク関数の学習やネットワーク関数を利用したデータの分類を行うことができる。なお、本開示の一実施例において、複数のコンピューティング装置のプロセッサーを一緒に使ってネットワーク関数の学習やネットワーク関数を利用したデータ分類を行うことができる。また、本開示の一実施例における、コンピューティング装置において実行されるコンピュータープログラムは、CPU、GPGPU又はTPUで実行可能なプログラムになり得る。
【0069】
本開示の一実施例において、メモリー(130)は、プロセッサー(110)が生成したり、決定した任意の形態の情報及びネットワーク部(150)が受信した任意の形態の情報を保存することができる。
【0070】
本開示の一実施例において、メモリー(130)は、フラッシュメモリータイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリー(例えばSD又はXDメモリー等)、ラム(Random Access Memory、RAM)、SRAM(Static Random Access Memory)、ロム(Read-Only Memory、ROM)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、PROM(Programmable Read-Only Memory)、磁気メモリー、磁気ディスク、光ディスクのうち少なくとも1つのタイプの保存媒体を含むことができる。コンピューティン装置(100)は、インターネット(internet)上で前記メモリー(130)の保存機能を実行するウェブストレージ(web storage)と連携して動作することも可能である。前述のメモリーに係る記述は、例示に過ぎず、本開示はこれらに限定されない。
【0071】
本開示の一実施例におけるネットワーク部(150)は、公衆電話交換網(PSTN:Public Switched Telephone Network)、xDSL(x Digital Subscriber Line)、RADSL(Rate Adaptive DSL)、MDSL(Multi Rate DSL)、VDSL(Very High Speed DSL)、UADSL(Universal Asymmetric DSL)、HDSL(High Bit Rate DSL)及び近距離通信網(LAN)等のような多様な有線通信システムを使用することが可能である。
【0072】
また、本明細書におけるネットワーク部(150)は、CDMA(Code Division Multi Access)、TDMA(Time Division Multi Access)、FDMA(Frequency Division Multi Access)、OFDMA(Orthogonal Frequency Division Multi Access)、SC-FDMA(Single Carrier-FDMA)及びその他のシステムのような多様な無線通信システムを利用することが可能である。
【0073】
本開示におけるネットワーク部(150)は、有線及び無線等のような通信の様態を問わずに構成されるとができ、短距通信網(LAN: Local Area Network), 個人通信網(PAN:Personal Area Network)、広域通信網(WAN:Wide Area Network)等の多様な通信網になり得る。また、前記ネットワークは、公知のワールドワイドウェブ(WWW:World Wide Web)になり得る他、赤外線(IrDA:Infrared Data Association)又は、ブルートゥース(登録商標)(Bluetooth(登録商標))のように、短距離通信に利用される無線伝送技術を利用することもできる。
【0074】
本明細書において説明された技術は、前記のネットワークだけでなく、他のネットワークで使われることもできる。
【0075】
【0076】
図2は、本開示の一実施例において、ネットワーク関数を示す概略図である。
【0077】
本明細書の全体を通して、演算モデル、神経回路網、ネットワーク関数、ニューラルネットワーク(neural network)は、同一の意味で用いることができる。神経回路網は、一般的にノードと呼ばれる相互連結された計算単位の集合で構成されることが多い。このようなノードは、ニューロン(neuron)と称することもできる。神経回路網は、少なくとも1つ以上のノードを含めて構成される。神経回路網を構成するノード(またはニューロン)は1つ以上のリンクによって相互連結されることが可能である。
【0078】
神経回路網において、リンクを介して繋がっている1つ以上のノードは、相対的に入力ノード及び出力ノードの関係を形成することができる。入力ノード及び出力ノードの概念は相対的なものであり、あるノードに対して出力ノードとなる任意のノードは、他のノードとの関係においては入力ノードになり得るが、その逆も成立する。前述のように、入力ノードと出力ノードとの関係はリンクを中心にして成立することができる。1つの入力ノードに1つ以上の出力ノードがリンクを介して繋がることができ、その逆も成立する。
【0079】
1つのリンクを介して繋がっている入力ノード及び出力ノードの関係において、出力ノードのデータは入力ノードに入力されたデータに基づきその値が決められることが可能である。ここで入力ノードと出力ノードとを相互連結するノードは加重値(weight)を持つことができる。加重値は可変的なものになり得るが、神経回路網が所望の機能を行うために、利用者またはアルゴリズムによって変わることが可能である。例えば、1つの出力ノードに1つ以上の入力ノードが各リンクによって相互連結されている場合、出力ノードは前記出力ノードに繋がっている入力ノードに入力された値及び各入力ノードに対応するリンクに設定された加重値に基づき出力ノードの値を決定することができる。
【0080】
前述のように、神経回路網は、1つ以上のノードが1つ以上のリンクを介して相互連結され神経回路網の中で入力ノードと出力ノードの関係を形成する。神経回路網において、ノードとリンクの数及びノードとリンクとの間の相関関係、各リンクに付与された加重値の値によって、神経回路網の特性が決まることが可能である。例えば、同数のノード及びリンクが存在し、リンクの加重値の値がそれぞれ異なる2つの神経回路網が存在する場合、その2つの神経回路網を、相異なるものと認識することができる。
【0081】
神経回路網は、1つ以上のノードの集合で構成することができる。神経回路網を構成するノードの部分集合は、レイヤー(layer)を構成できる。神経回路網を構成する複数のノードのうち一部は、第1入力ノードからの距離に基づき、1つのレイヤー(layer)を構成することができる。例えば、第1入力ノードからの距離がnであるノードの集合は、nレイヤーを構成することができる。第1入力ノードからの距離は、第1入力ノードから当該ノードに到達するために経由しなければならないリンクの最小限の数を基に定義することができる。しかし、このようなレイヤーの定義は、説明のために任意に取り挙げたものであり、神経回路網の中におけるレイヤーの構成は、前述の説明と異なる方法で定義されることができる。例えば、ノードのレイヤーは、最終出力ノードからの距離を基に定義することもできる。
【0082】
第1入力ノードは、神経回路網の中のノードのうち、他のノードとの関係においてリンクを経由せずにデータが直接入力される1つ以上のノードを意味することができる。または、神経回路網のネットワークの中で、リンクを基準にしたノード間の関係において、リンクを介して繋がっている他の入力ノードを持たないノードを意味することができる。これと同様に、最終出力ノードは、神経回路網の中のノードのうち、他のノードとの関係において、出力ノードを持たない1つ以上のノードを意味することができる。また、ヒドンノードは、第1入力ノード及び最終出力ノードではないノードで、神経回路網を構成するノードを意味することができる。
【0083】
本開示の一実施例による神経回路網は、入力レイヤーのノードの数が、出力レイヤーのノードと同数で、入力レイヤーからヒドンレイヤーへと進むにつれ、ノードの数が一度減ってから、再び増加する形の神経回路網になり得る。本開示の一実施例による神経回路網は、入力レイヤーのノードの数が、出力レイヤーのノードの数より少なく、入力レイヤーからヒドンレイヤーへと進むにつれ、ノードの数が減少していく形の神経回路網になり得る。また、本開示の他の一実施例による神経回路網は、入力レイヤーのノードの数が、出力レイヤーのノードの数より多く、入力レイヤーからヒドンレイヤーへと進むにつれ、ノードの数が増加していく形の神経回路網になり得る。本開示の他の一実施例における神経回路網は、上述の神経回路網を組み合わせた形の神経回路網になり得る。
【0084】
ディープニューラルネットワーク(DNN:deep neural network、深層神経回路網)は、入力レイヤーと出力レイヤー以外に複数のヒドンレイヤーを含む神経回路網を意味することができる。ディープニューラルネットワークを利用するとデータの潜在的な構造(latent structures)を把握することができる。つまり、写真、文章、ビデオ、音声、音楽の潜在的な構造(例えば、ある物が写真に映っているか、文章の内容と感情はどのようなものなのか、音声の内容と感情はどのようなものなのか等)を把握することができる。ディープニューラルネットワークは、畳み込みニューラルネットワーク(CNN:convolutional neural network)、リカレントニューラルネットワーク(RNN;:recurrent neural network)、オートエンコーダー(auto encoder)、GAN(Generative Adversarial Networks)、制限ボルツマンマシン(RBM:restricted boltzmann machine)、深層信頼ネットワーク(DBN:deep belief network)、Qネットワーク、Uネットワーク、シャムネットワーク、敵対的生成ネットワーク(GAN:Generative Adversarial Network)等を含むことができる。前述のディープニューラルネットワークは、例示に過ぎず本開示はこれらに限定されない。
【0085】
本開示の一実施例において、ネットワーク関数は、オートエンコーダー(autoencoder)を含むこともできる。オートエンコーダーは、入力データに類似した出力データを出力するための人工神経回路網の一種になり得る。オートエンコーダーは、少なくとも1つのヒドンレイヤーを含むことができ、奇数個のヒドンレイヤーが入出力レイヤーの間に配置されることができる。各レイヤーのノード数は、入力レイヤーのノード数から、ボトルネックレイヤー(エンコード)という中間レイヤーに向かって減っていき、ボトルネックレイヤーから出力レイヤー(入力レイヤーと対称を成す)に向かって、縮小と対称する形で、拡張することもできる。オートエンコーダーは、非線形次元減少を行うことができる。入力レイヤー及び出力レイヤーの数は、入力データの前処理後に次元に対応することができる。オートエンコーダー構造において、エンコーダーに含まれたヒドンレイヤーのノードの数は、入力データから遠くなるほど減っていく構造を持つことができる。ボトルネックレイヤー(エンコーダーとデコーダーの間に位置する、ノードの数が最も少ないレイヤー)のノードの数が少なすぎる場合、十分な量の情報が伝わらない可能性があるため、特定の数以上(例えば、入力レイヤーの半分以上等)に維持されることもあり得る。
【0086】
ニューラルネットワークは、教師あり学習(supervised learning)、教師なし学習(unsupervised learning)、半教師あり学習(semi supervised learning)、または、強化学習(reinforcement learning)のうち、少なくともいずれか1つの方式で学習されることができる。ニューラルネットワークの学習は、ニューラルネットワークが特定の動作を行うための知識をニューラルネットワークに提供する過程になり得る。
【0087】
ニューラルネットワークは、出力のエラーを最小化する方向で学習されることが可能である。ニューラルネットワークの学習において、繰り返し学習データをニューラルネットワークに入力させ、学習データに関するニューラルネットワークの出力とターゲットのエラーを計算し、エラーを減らすための方向としてニューラルネットワークのエラーをニューラルネットワークの出力レイヤーから入力レイヤーの方向へ逆伝播(back propagation)してニューラルネットワークの各ノードの加重値を更新するプロセスが行われる。教師あり学習の場合、個々の学習データに正解がラベリングされている学習データを使い(つまり、ラベリングされた学習データ)、教師なし学習の場合は、個々の学習データに正解がラベリングされていない場合がある。つまり、例えばデータ分類に関する教師あり学習における学習データは、学習データの各々にカテゴリがラベリングされたデータになり得る。ラベリングされた学習データがニューラルネットワークに入力され、ニューラルネットワークの出力(カテゴリ)と学習データのラベルを比較することでエラー(error)を計算することが可能である。他の例として、データ分類に関する教師なし学習の場合、入力である学習データをニューラルネットワークの出力と比較することでエラーを計算することが可能である。計算されたエラーは、ニューラルネットワークにおいて逆方向(つまり、出力レイヤーから入力レイヤー方向)へ逆伝播され、逆伝播を通じてニューラルネットワークの各レイヤーの各ノードの連結加重値を更新することが可能である。更新される各ノードの連結加重値は、学習率(learing rate)によって変化量が決まることが可能である。入力データに対するニューラルネットワークの計算とエラーの逆伝播は、学習のサイクル(epoch)を構成することができる。学習率は、ニューラルネットワークの学習のサイクルの反復回数によって適用方式が変わることが可能である。例えば、ニューラルネットワークの学習初期においては、学習率を高くしてニューラルネットワークが早く一定のレベルの性能を確保するようにすることで効率を高め、学習の後半においては学習率を低くして精度を上げることが可能である。
【0088】
ニューラルネットワークの学習において、一般的に学習データは実際のデータ(つまり、学習されたニューラルネットワークを利用して処理しようとするデータ)の部分集合であることが可能であり、そのため学習データに係るエラーは減少するが、実際のデータに係るエラーは増加する学習サイクルが存在し得る。過剰適合(over fitting)は、このように学習データについて過度に学習したため、実際のデータにおいてエラーが増加する現象である。例えば、黄色い猫を見て猫を学習したニューラルネットワークが、黄色以外の色の猫を見ると猫であることを認識できない現象が過剰適合の一種になり得る。過剰適合は、マシンラーニングアルゴリズムのエラーを増加させる原因になり得る。このような過剰適合を防ぐために、多様な最適化方法を適用できる。過剰適合を防ぐためには、学習データを増加させる方法、正則化(regulaization)、学習の過程でネットワークのノードの一部を非活性化するドロップアウト(drop out)、バッチ正規化レイヤー(batch normalization layer)の活用等の方法を適用できる。
【0089】
【0090】
本開示は、テキスト情報に含まれている問題のあるテキストを修正する方法に関するものである。ここで、テキスト情報は、音声認識によって生成されたテキスト、電子機器を介したユーザーの入力によって生成されたテキスト、保存装置に保存されているテキスト、ウェブページ上に表示されるテキスト、アプリケーション上に表示されるテキスト、撮影装置により撮影されたテキスト、画像認識技術に基づき認識されたテキスト等の多様なタイプのテキストを含むことが可能である。例えば、本開示は、テキスト情報において基準情報(例えば、音声認識モデルが判断した各々の出力テキストに係る信頼度(confidence))又はユーザー入力をもとに、問題のあるテキストを識別し、資料検索又は人工知能モデルを用いて上記問題のあるテキストを校正(代替)できる代替テキストを生成し、代替テキストと代替テキストのソース(source)に係る情報とを連動させて提供する方法に関するものである。一実施例において、本開示は、テキスト情報においてユーザーが問題のあるテキスト(例えば、誤字脱字が含まれている部分、意味不明の単語、数字がテキストで表現されている部分等)を指定すると、問題のあるテキストに該当する部分についてさらなる検索、調査、又は分析を行い、上記問題のあるテキストを校正(代替)する代替テキストを生成し、「代替する結果値(代替テキスト)-代替する結果値の素となるソース(source)」の組み合わせを、データペア(pair)の形でユーザーに提供することが可能である。
【0091】
また、本開示は、音声認識(ASR又はSTT)結果における、ユーザーが所望する部分について、「当該テキストが適切であるか否かを調査する技術」であり、一種の資料調査自動化に関する発明である。特に、音声認識(STT)結果テキストにおいて問題のあるテキストを校正するための代替テキストと、代替テキストについて調査した結果とを、そのソース(source)と連動させて提供することが特徴である。また、本開示は、テキスト情報(例えば、音声認識結果テキスト)について、ユーザーにより選択されたテキストについて資料調査を行い、代替テキストに係る情報及び代替テキストのソースに係る情報をペア(pair)として共にユーザーに提供することで、より便利なユーザー経験を提供するものである。
【0092】
つまり、本開示は、音声認識結果テキストについての資料調査及び修正機能を提供することが可能である。また、本開示は、単純な資料調査だけでなく、音声認識(STT)の性能の問題により、文字起こしに誤りがある場合、それをユーザーの選択によって修正できるようにサポートするという点にその特徴がある。
【0093】
【0094】
図3は、本開示の一実施例における、テキスト情報を修正するための複数のモジュールに係るブロック構成図であり、図4は、本開示の一実施例における、テキスト情報を修正するための方法に係るフローチャートである。
【0095】
例示として図3を参照すると、コンピューティング装置(100)は、入力モジュール(10)、前処理モジュール(20)、STTモジュール(30)、問題のあるテキスト決定モジュール(40)、1次代替テキスト決定モジュール(50)、2次代替テキスト決定モジュール(60)、代替テキスト評価モジュール(70)及びフィードバック受信モジュール(80)等を含むことが可能である。一方、このようなコンピューティング装置(100)に含まれることのできる複数のモジュールは、プロセッサー(110)により制御されたり、又はプロセッサー(110)の動作により実行されることが可能である。また、テキスト情報を修正するためにコンピューティング装置(100)に含まれることの可能なモジュールは、以上で説明した複数のモジュールに限定されるわけではなく、追加のモジュールが含まれることが可能である。以下において、テキスト情報を修正するための例示としての複数のモジュールについて、より具体的に説明する。
【0096】
【0097】
図4を参照すると、本開示の一実施例におけるテキスト情報を修正するための方法は、上記テキスト情報を取得する段階(S110)、上記テキスト情報において問題のあるテキストを決定する段階(S120)、上記問題のあるテキストに係る拡張テキスト、又は上記問題のあるテキストに係る非テキストタイプの情報を用いて、上記問題のあるテキストを校正するための代替テキストを生成する段階(S130)及び上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供する段階(S140)等を含むことが可能である。また、本開示の一実施例におけるテキスト情報を修正するための方法は、コンピューティング装置(100)により実行されることが可能である。
【0098】
【0099】
本開示の一実施例によると、コンピューティング装置(100)は、上記テキスト情報を取得することが可能である(S110)。ここで、テキスト情報は、音声認識によって生成されたテキスト、電子機器を介したユーザーの入力によって生成されたテキスト、保存装置に保存されているテキスト、ウェブページ上に表示されるテキスト、アプリケーション上に表示されるテキスト、撮影装置により撮影されたテキスト、画像認識技術に基づき認識されたテキスト等の多様なタイプのテキストを含むことが可能である。一例として、コンピューティング装置(100)は、音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、上記テキスト情報を取得することが可能である。例えば、コンピューティング装置(100)に含まれている入力モジュール(10)は、音声認識(STT)を行うオーディオファイル(例えば、音声信号、音声信号を変換したスペクトログラム(spectrogram)又は音声特徴(feature))を取得することが可能である。また、入力モジュール(10)は、文又は段落単位のテキスト情報を取得することが可能である。また、コンピューティング装置(100)に含まれている前処理モジュール(20)は、音声強調(speech enhancement)又は音声区間検出(VAD、Voice Activity Detection)等の前処理を行うことが可能である。一例として、音声区間検出(VAD、Voice Activity Detection)は、オーディオデータ(オーディオ信号、オーディオストリーム等)において、音声のアクティビティが検知されたか否かを判断する技術である。音声認識(STT)を適用する前に、音声区間検出(VAD)、ノイズ除去及び音声強調(speech enhancement)等の前処理技術が適用されることが可能である。このようなVADの実行について、教師あり学習に基づく二項分類(Binary classification)アルゴリズムを活用したり、確率分布に基づく分類(Distribution based classification)アルゴリズムが活用されることが可能である。また、コンピューティング装置(100)に含まれているSTTモジュール(30)は、入力モジュール(10)から取得したオーディオファイルに対して音声認識(STT)を行い、音声認識(STT)結果テキスト情報を生成することが可能である。
【0100】
実施例によると、コンピューティング装置(100)に含まれているSTTモジュール(30)は、音声信号に対する音声認識(STT)を行い、上記テキスト情報を取得することが可能である。また、コンピューティング装置(100)は、音声認識(STT)によって生成された結果テキスト情報ではない、別のテキスト情報(例えば、複数の文又は段落が含まれたテキスト)を取得することも可能である。一方、以下においては、説明を容易にするために、テキスト情報は、STTモジュール(30)を用いて音声信号に対する音声認識(STT)を行うことで取得されたテキスト情報である場合の実施例を中心に、本開示が説明される。
【0101】
【0102】
本開示の一実施例によると、コンピューティング装置(100)は、テキスト情報において問題のあるテキストを決定することが可能である(S120)。一例として、コンピューティング装置(100)に含まれている問題のあるテキスト決定モジュール(40)は、問題のあるテキストを決定し、問題のあるテキストと対応する部分をマスキング(masking)することが可能である。例えば、問題のあるテキスト決定モジュール(40)は、ユーザーインターフェースを介して、上記テキスト情報において上記問題のあるテキストに係る入力情報を取得することが可能である。コンピューティング装置(100)は、ユーザーインターフェースを介してテキスト情報を提供し、ユーザーインターフェースを介して、問題があって補完が必要なテキスト(問題のあるテキスト)に係るユーザーの選択(例えば、クリック、マウスホバー等)に係る情報を取得することが可能である。また、問題のあるテキスト決定モジュール(40)は、上記音声認識(STT)によって取得された上記テキスト情報において、信頼度(confidence)が最も低いテキストを、上記問題のあるテキストとして決定することも可能である。また、問題のあるテキスト決定モジュール(40)は、上記問題のあるテキストに係る拡張テキストにおいて、上記問題のあるテキストと対応する部分をマスキング(masking)することが可能である。一例として、問題のあるテキストはマスキング(masking)処理されるが、この時にマスキング(masking)された問題のあるテキストは、ユーザー画面にディスプレイされないことも可能である。なお、上記マスキングが適用された上記拡張テキストを用いて、後述する上記問題のあるテキストを校正するための代替テキストを生成することが可能である。
【0103】
一実施例によると、テキスト情報には、「2021年の国内における電気自動車の販売台数は、充満六百八重一台だった」という文が含まれることが可能である。問題のあるテキスト決定モジュール(40)は、i)ユーザーインターフェースを介して、上記テキスト情報において上記問題のあるテキストに係る入力情報を取得したり、又はii)音声認識(STT)によって取得された上記テキスト情報において、信頼度(confidence)が最も低いテキストを、上記問題のあるテキストとして決定する動作によって、「充満六百八重一」を問題のあるテキストとして決定することが可能である。問題のあるテキスト決定モジュール(40)は、上記問題のあるテキスト「充満六百八重一」に係る拡張テキストである「2021年の国内における電気自動車の販売台数は、充満六百八重一台だった」において、上記問題のあるテキスト「充満六百八重一」と対応する部分をマスキング(masking)することが可能である。例えば、問題のあるテキスト決定モジュール(40)は、「2021年の国内における電気自動車の販売台数は、[]だった」のように、上記問題のあるテキストと対応する「充満六百八重一」をマスキング(masking)することが可能である。なお、数字の場合、STTモジュール(30)において、韓国語で文字起こしを行う場合、信頼度(confidence)が低く問題のあるテキストとして決定される場合もある。または、STTモジュール(30)において音声認識を行って取得されたテキスト情報が適切だった(例えば、「充満六百八重一」を、「十万六百八十一」又は数字で文字起こしするように学習された音声認識モデルが、100681と、正しく表記した場合)としても、ユーザーが当該数字の信憑性について疑念を抱き、追加の調査のために選択することで、問題のあるテキストとして決定されることも可能である。
【0104】
【0105】
本開示の一実施例によると、コンピューティング装置(100)は、上記問題のあるテキストに係る拡張テキスト又は上記問題のあるテキストに係る非テキストタイプの情報を用いて、上記問題のあるテキストを校正するための代替テキストを生成することが可能である(S130)。ここで、上記問題のあるテキストに係る拡張テキストは、上記問題のあるテキストを含み、且つ上記問題のあるテキストより長いテキスト、上記問題のあるテキストを含む文又は上記問題のあるテキストを含む段落のうち、少なくとも1つを含むことが可能である。また、上記問題のあるテキストに係る非テキストタイプの情報は、上記音声認識モデルに入力された上記音声信号の全体、又は上記音声認識モデルに入力された上記音声信号において上記問題のあるテキストと対応する部分的音声信号のうち、少なくとも1つを含むことが可能である。例えば、テキスト情報が「2021年の国内における電気自動車の販売台数は、充満六百八重一台だった」であり、問題のあるテキストが「充満六百八重一台」である場合、コンピューティング装置(100)は、問題のあるテキストに係る非テキストタイプの情報として、i)上記音声認識モデルに入力された上記音声信号の全体である「2021年の国内における電気自動車の販売台数は、充満六百八重一台だった」、又はii)上記音声認識モデルに入力された上記音声信号において、上記問題のあるテキストと対応する部分的音声信号「充満六百八重一台」のうち、少なくともいずれか1つを用いて、上記問題のあるテキストを校正するための代替テキストを生成することが可能である。
【0106】
一実施例によると、コンピューティング装置(100)に含まれている1次代替テキスト決定モジュール(50)は、検索対象ドメインにおいて、上記マスキングが適用された上記拡張テキストを検索することが可能である。一例として、上記検索対象ドメインは、アプリケーション、プログラム、ウェブサイト、検索エンジン又はデジタル辞書のうち、少なくとも1つを含むことが可能であるが、これらに限定されない。また、1次代替テキスト決定モジュール(50)は、上記代替テキストに係る情報及び上記代替テキストのソースに係る情報をペア(pair)として共に提供することが可能である。ここで、ソースに係る情報は、上記代替テキストの生成に用いられた上記検索対象ドメインに係る情報を含むことが可能である。
【0107】
例えば、1次代替テキスト決定モジュール(50)は、検索対象ドメインにおいて、上記問題のあるテキスト「充満六百八重一」に係る拡張テキストである「2021年の国内における電気自動車の販売台数は、充満六百八重一台だった」において、マスキングが適用された拡張テキストである「2021年の国内における電気自動車の販売台数は、[]だった」を検索することが可能である。また、1次代替テキスト決定モジュール(50)は、上記検索の結果に基づき、上記問題のあるテキストを校正するための代替テキストを生成することが可能である。例えば、1次代替テキスト決定モジュール(50)は、検索の結果に基づき、上記問題のあるテキスト「充満六百八重一」を校正するための代替テキストとして、「十万六百八十一」又は「100681」を生成することが可能である。また、1次代替テキスト決定モジュール(50)は、上記代替テキストに係る情報である「十万六百八十一」又は「100681」と併せて、上記代替テキストのソースに係る情報(例えば、Googleのドメイン情報)を、ペア(pair)として共に提供することが可能である。
【0108】
すなわち、1次代替テキスト決定モジュール(50)は、音声認識(STT)によって取得された、音声認識結果テキストのうち、ユーザーが設定した検索対象ドメインについて優先的に資料調査を行い、代替テキストを生成することが可能である。また、1次代替テキスト決定モジュール(50)は、ユーザーが設定した「関連するアプリケーション(例えば、YouTube(登録商標))、ウェブサイト、検索エンジン、Wikipedia等の検索対象ドメイン」において、マスキングが適用された上記拡張テキストを検索し、問題のあるテキストを校正するための代替テキストを生成することが可能である。一例として、検索対象ドメインは、ユーザーが事前に設定したものであることが可能である。一例として、1次代替テキスト決定モジュール(50)は、事前にユーザーインターフェースを介して、検索対象ドメインのうちGoogleで検索することを指示する入力を取得し、マスキングが適用された上記拡張テキストをGoogleで検索することで、問題のあるテキストを校正するための上記代替テキストに係る情報及び上記代替テキストのソースに係る情報を、ペア(pair)として取得することが可能である。
【0109】
【0110】
本開示の一実施例によると、コンピューティング装置(100)に含まれている2次代替テキスト決定モジュール(60)は、上記1次代替テキスト決定モジュール(50)の検索結果の他、さらに多用な種類のテキスト生成モデル(Text Generation model)を用いて、問題のあるテキストを校正するための代替テキストを生成することが可能である。例えば、2次代替テキスト決定モジュール(60)は、(1)追加の音声認識(STT)モデル、(2)他の言語モデル(LM;Language Model)又は(3)質疑応答(Question Answering、QA)モデルのうち、少なくともいずれか1つのテキスト生成モデルを用いて、問題のあるテキストを校正するための代替テキストを生成することが可能である。
【0111】
まず、2次代替テキスト決定モジュール(60)は、(1)追加の音声認識モデルに基づき、問題のあるテキストを校正するための代替テキストを生成することが可能である。追加の音声認識(STT)モデルは、前述のSTTモジュール(30)と異なる音声認識(STT)モジュールである。例えば、2次代替テキスト決定モジュール(60)は、上記問題のあるテキストに係る非テキストタイプの情報を、上記STTモジュール(30)と異なる追加の音声認識モデルに入力することが可能である。すなわち、2次代替テキスト決定モジュール(60)は、入力モジュール(10)から取得した「上記音声信号の全体」を、STTモジュール(30)と異なる追加の音声認識モデルに入力し、問題のあるテキストを校正するための代替テキストを生成することが可能である。また、2次代替テキスト決定モジュール(60)は、問題のあるテキストに係る拡張テキストに係る音声信号部分を抽出することが可能である。例えば、2次代替テキスト決定モジュール(60)は、「問題のあるテキストに係る拡張テキストに係る音声信号部分」を、STTモジュール(30)と異なる追加の音声認識モデルに入力し、問題のあるテキストを校正するための代替テキストを生成することも可能である。この場合、代替テキストを生成するために入力されるデータの大きさが、大幅に軽量化されることが可能であるため、上記追加の音声認識モデルが、より軽いモデルの形態で具現化されることが可能であり、演算の効率がさらに向上されることが可能である。なお、上記問題のあるテキストに係る拡張テキストは、上記問題のあるテキストを含み、且つ上記問題のあるテキストより長いテキスト、上記問題のあるテキストを含む文又は上記問題のあるテキストを含む段落のうち、少なくとも1つを含むことが可能である。
【0112】
そして、2次代替テキスト決定モジュール(60)は、(2)他の言語モデル(LM;Language Model)に基づき、問題のあるテキストを校正するための代替テキストを生成することが可能である。例えば、2次代替テキスト決定モジュール(60)は、上記問題のあるテキストが含まれている文だけを抽出することが可能である。また、2次代替テキスト決定モジュール(60)は、上記問題のあるテキストが含まれている文を、他の言語モデル(LM;Language Model)に入力し、上記問題のあるテキストを校正するための代替テキストを生成することが可能である。一方、上記他の言語モデルは(LM)、ChatGPT等の大型言語モデル(LLM;Large Language Model)を含むことも可能である。
【0113】
そして、2次代替テキスト決定モジュール(60)は、質疑応答(Question Answering、QA)モデルに基づき、問題のあるテキストを校正するための代替テキストを生成することが可能である。例えば、2次代替テキスト決定モジュール(60)は、STTモジュール(30)において音声信号に対する音声認識(STT)を行って生成されたテキスト情報と、「空欄に入る最も適切な言葉は?」という質問とを、共に質疑応答(Question Answering、QA)モデルへ入力し、上記問題のあるテキストを校正するための代替テキストを生成することが可能である。なお、ここで、空欄は問題のあるテキストに対してマスキング処理が施された領域に該当することが可能である。
【0114】
【0115】
本開示の一実施例によると、コンピューティング装置(100)に含まれている代替テキスト評価モジュール(70)は、問題のあるテキストを校正するための上記代替テキストに係る評価情報を生成することが可能である。テキスト評価モジュール(70)は、1次代替テキスト決定モジュール(50)において検索した代替テキスト、又は2次代替テキスト決定モジュール(60)において生成した代替テキストとのうち、どちらが上記問題のあるテキストの校正に適した代替テキストであるかについてスコアリング(scoring)を行うことが可能である。
【0116】
実施例によると、i)代替テキスト評価モジュール(70)は、次文予測(Next Sentence Prediction)モデルを用いて、上記代替テキストに対するスコアリング(scoring)を行うことが可能である。例えば、代替テキスト評価モジュール(70)は、1次代替テキスト決定モジュール(50)において検索した代替テキスト(又は代替テキストを含む拡張代替テキスト)及び2次代替テキスト決定モジュール(60)において生成した代替テキスト(又は代替テキストを含む拡張代替テキスト)を、その前の文、段落又はテキスト全体と共に、次文予測(Next Sentence Prediction)モデルに入力し、スコアリング(scoring)を行うことが可能である。すなわち、代替テキスト評価モジュール(70)は、その前の文、段落又はテキスト全体の次に、各候補代替テキスト(又は各候補代替テキストを含む各候補拡張代替テキスト)が予測される確率を求め、当該確率に基づきスコアリング(scoring)を行うことが可能である。
【0117】
一例として、テキスト情報である「2021年の国内における電気自動車の販売台数は、充満六百八重一台だった」において、問題のあるテキストが「充満六百八重一台」である場合、1次代替テキスト決定モジュール(50)において代替テキストを「十万六百八十一」として決定し、(1)「2021年の国内における電気自動車の販売台数は、[十万六百八十一]だった」という拡張代替テキスト(例えば、代替テキストがマスク領域に挿入された文)を生成することが可能である。また、2次代替テキスト決定モジュール(60)において代替テキストを「100681」として決定し、(2)「2021年の国内における電気自動車の販売台数は、[100681]だった」という拡張代替テキスト(例えば、代替テキストがマスク領域に挿入された文)を生成することが可能である。代替テキスト評価モジュール(70)は、生成された拡張代替テキスト (1)「2021年の国内における電気自動車の販売台数は、[十万六百八十一]だった」、(2)「2021年の国内における電気自動車の販売台数は、[100681]だった」を、その前の文、段落又はテキスト全体と共に、次文予測(Next Sentence Prediction)モデルに入力し、各候補代替テキストを含む各候補拡張代替テキストが予測される確率を求め、当該確率に基づきスコアリング(scoring)を行うことが可能である。
【0118】
また、ii)代替テキスト評価モジュール(70)は、テキスト含意(Text Entailment)モデルを用いて、上記代替テキストに対するスコアリング(scoring)を行うことも可能である。例えば、代替テキスト評価モジュール(70)は、1次代替テキスト決定モジュール(50)において検索した代替テキスト(又は代替テキストを含む拡張代替テキスト)及び2次代替テキスト決定モジュール(60)において生成した代替テキスト(又は代替テキストを含む拡張代替テキスト)を、その前の文、段落又はテキスト全体と共に、テキスト含意(Text Entailment)モデルに入力し、スコアリング(scoring)を行うことが可能である。すなわち、代替テキスト評価モジュール(70)は、その前の文、段落又はテキスト全体の次に来るテキストとして、各候補代替テキスト(又は各候補代替テキストを含む各候補拡張代替テキスト)がどれくらい適切であるかに係る確率を求め、その確率に基づきスコアリング(scoring)を行うことも可能である。
【0119】
一例として、テキスト情報である「2021年の国内における電気自動車の販売台数は、充満六百八重一台だった」において、問題のあるテキストが「充満六百八重一台」である場合、1次代替テキスト決定モジュール(50)において代替テキストを「十万六百八十一」として決定し、(1)「2021年の国内における電気自動車の販売台数は、[十万六百八十一]だった」という拡張代替テキスト(例えば、代替テキストがマスク領域に挿入された文)を生成することが可能である。また、2次代替テキスト決定モジュール(60)において代替テキストを「100681」として決定し、(2)「2021年の国内における電気自動車の販売台数は、[100681]だった」という拡張代替テキスト(例えば、代替テキストがマスク領域に挿入された文)を生成することが可能である。代替テキスト評価モジュール(70)は、生成された拡張代替テキスト (1)「2021年の国内における電気自動車の販売台数は、[十万六百八十一]だった」、(2)「2021年の国内における電気自動車の販売台数は、[100681]だった」を、その前の文、段落又はテキスト全体と共に、テキスト含意(Text Entailment)モデルに入力し、各候補代替テキストを含む各候補拡張代替テキストがどれくらい適切であるかに係る確率を求め、その確率に基づきスコアリング(scoring)を行うことも可能である。ただし、代替テキストを評価するためのスコアリングは、ユーザーに提案する代替テキストの候補を決定するためのものであり、上述のNext Sentence PredictionモデルやText Entailmentモデルの他にも多様な方法によって評価されることが可能である。一例として、自然言語処理分野においてよく用いられているROUGE score、BLEU score等に基づき、代替テキストが評価されることが可能である。
【0120】
【0121】
本開示の一実施例によると、コンピューティング装置(100)は、上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供することが可能である(S140)。一例として、コンピューティング装置(100)に含まれているフィードバック受信モジュール(80)は、上記問題のあるテキストを校正するための上記代替テキストに係る情報だけを提供することが可能である。また、コンピューティング装置(100)は、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソース(source)に係る情報を、共に提供することが可能である。一例として、フィードバック受信モジュール(80)は、上記問題のあるテキストを校正するための代替テキストが1次代替テキスト決定モジュール(50)において検索された場合、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソースに係る情報(例えば、代替テキストの生成に関与した検索ドメインに係る情報)を、共に提供することが可能である。また、フィードバック受信モジュール(80)は、上記問題のあるテキストを校正するための代替テキストが2次代替テキスト決定モジュール(60)において生成された場合、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソースに係る情報(例えば、代替テキストの生成に関与した人工知能モデルに係る情報)を、共に提供することが可能である。
【0122】
【0123】
本開示の一実施例によると、コンピューティング装置(100)は、上記問題のあるテキストを校正するための上記代替テキストに係る情報を提供することが可能である(S140)。一例として、コンピューティング装置(100)に含まれているフィードバック受信モジュール(80)は、上記問題のあるテキストを校正するための代替テキストが2次代替テキスト決定モジュール(60)において生成された場合、上記問題のあるテキストを校正するための上記代替テキストに係る情報だけを提供することが可能である。また、コンピューティング装置(100)は、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソース(source)に係る情報を、共に提供することが可能である。一例として、フィードバック受信モジュール(80)は、上記問題のあるテキストを校正するための代替テキストが1次代替テキスト決定モジュール(50)において検索された場合、上記問題のあるテキストを校正するための代替テキスト及び上記代替テキストのソース(source)に係る情報を、共に提供することが可能である。
【0124】
一実施例によると、フィードバック受信モジュール(80)は、1次代替テキスト決定モジュール(50)において検索された代替テキスト及び2次代替テキスト決定モジュール(60)において生成された代替テキストについて、代替テキスト評価モジュール(70)において行われた評価情報を、ユーザーインターフェースに提供することが可能である。一方、フィードバック受信モジュール(80)は、1次代替テキスト決定モジュール(50)において検索された代替テキストについて、代替テキスト評価モジュール(70)において行われた評価情報を先に、ユーザーインターフェースに提供することが可能である。例えば、i)フィードバック受信モジュール(80)は、1次代替テキスト決定モジュール(50)において検索された代替テキストについて代替テキスト評価モジュール(70)においてスコアリング(scoring)を行ったリストと共に、「リストの中に目当ての結果が見当たらない場合は、代替テキストを生成し提案する」と言った案内のフレーズを、ユーザーインターフェースに提供することが可能である。この場合、フィードバック受信モジュール(80)は、1次代替テキスト決定モジュール(50)において検索された代替テキストに係る情報及び上記代替テキストのソースに係る情報(上記代替テキストの生成に用いられた上記検索対象ドメインに係る情報)を、ペア(pair)として共に提供することが可能である。それについて、ユーザーがユーザーインターフェースを介してフィードバック(feedback)すると(例えば、「代替テキストを生成する」といったUIをクリックすると)、ii)再び2次代替テキスト決定モジュール(60)において上記問題のあるテキストを校正するための上記代替テキストを生成し、2次代替テキスト決定モジュール(60)において生成した代替テキストに基づきテキスト評価モジュール(70)においてスコアリング(scoring)を行い、フィードバック受信モジュール(80)は、上記スコアリング(scoring)を行ったリストを、ユーザーインターフェースを介して提供することも可能である。
【0125】
一実施例によると、フィードバック受信モジュール(80)は、上記代替テキスト評価モジュール(70)においてスコアリング(scoring)を行ったもののうち、上位に該当する代替テキスト(例えば、上位5つ)を、ユーザーインターフェースを介して提供することが可能である。また、フィードバック受信モジュール(80)は、ユーザーインターフェースを介して入力されたユーザーの選択に基づき、問題のあるテキストをユーザーが選択した代替テキストで代替することが可能である。フィードバック受信モジュール(80)は、ユーザーの選択に基づいて決定された代替テキストを、ユーザーアカウントと連動させて保存することが可能であり、決定された代替テキストと対応する音声信号(オーディオ信号)のペア(pair)は、ユーザーアカウントと連動させてユーザーアカウント別にパーソナライズされた音声認識モデルの学習に用いることが可能である。一実施例によると、コンピューティング装置(100)は、上記音声信号において上記代替テキストと対応する信号部分を抽出することが可能である。また、コンピューティング装置(100)は、上記抽出された信号部分と上記代替テキストに係るペア(pair)を生成することが可能である。また、コンピューティング装置(100)は、上記生成されたペアをパーソナライズされた音声認識モデルの学習データとして用いることも可能である。つまり、ユーザーによって選択された代替テキストは、問題が発生していた音声信号部分(上記抽出された信号部分)に対し、正確性が検証された正解(Ground Truth)の役割を果たすことが可能であるため、かかるペアを学習データとして用いて、上記ユーザーのためのパーソナライズされた音声認識モデルを構築することが可能である。
【0126】
上述の説明において、段階S110乃至S140は、本願の具現化の例によって、さらに細かい段階に分けられたり、一部の段階が統合され、段階の数が少なくなることも可能である。また、一部の段階は、必要に応じて省略される場合もあり、段階の順番が変更される場合もある。
【0127】
【0128】
本開示の一実施例に基づき、データ構造を保存したコンピューター可読保存媒体が開示される。
【0129】
データ構造は、データに効率的なアクセスおよび修正を可能にするデータの組織、管理、保存を意味することができる。データ構造は、特定の問題(例えば、最短時間でデータ検索、データ保存、データ修正)を解決するためのデータ組織を意味することができる。データ構造は、特定のデータ処理機能をサポートするように設計されたデータ要素間の物理的または論理的な関係と定義することもできる。データ要素間の論理的な関係は、ユーザーが考えるデータ要素間の連結関係を含むことができる。データ要素間の物理的な関係は、 コンピューター可読保存媒体(例えば、ハードディスク)に物理的に保存されているデータ要素間の実際の関係を含むことができる。データ構造は具体的にデータの集合、データ間の関係、データに適用できる関数またはコマンドを含むことができる。効果的に設計されたデータ構造により、コンピューティング装置はコンピューティング装置のリソースを最小限に使用しながら計算を行うことができる。具体的にコンピューティング装置は効果的に設計されたデータ構造を通じて演算、読み取り、挿入、削除、比較、交換、検索の効率性を高めることができる。
【0130】
データ構造はデータ構造の形態によって線形データ構造と非線形データ構造に区分されることができる。線形データ構造は、一つのデータの後に一つのデータだけが連結される構造である可能性がある。線形データ構造はリスト(List)、スタック(Stack)、キュー(Queue)、デッキ(Deque)を含むことができる。リストは、内部的に順序が存在する一連のデータセットを意味することが可能である。リストは連結リスト(Linked List)を含むことができる。連結リストはそれぞれのデータがポインタを持って一列に連結されている方式でデータが連結されたデータ構造でありうる。連結リストでポインタは、次や以前のデータとの連結情報を含むことができる。連結リストは形態によって単一連結リスト、二重連結リスト、円形連結リストで表現できる。スタックは制限的にデータにアクセスできるデータリスト構造である可能性がある。スタックは、データ構造の片端でのみデータを処理(例えば、挿入または削除)できる線形データ構造である可能性がある。スタックに保存されたデータは、遅く入るほど早く出てくるデータ構造(LIFO-Last in First Out)である可能性がある。キューは制限的にデータにアクセスできるデータ羅列構造であり、スタックとは異なり遅く保存されたデータほど遅く出てくるデータ構造(FIFO-FirstinFirstOut)であることができる。デッキはデータ構造の両端でデータを処理できるデータ構造になり得る。
【0131】
非線形データ構造は、一つのデータの後に複数のデータが連結される構造である可能性がある。非線形データ構造はグラフ(Graph)データ構造を含むことができる。グラフデータ構造は頂点(Vertex)と幹線(Edge)で定義でき、幹線は互いに異なる二つの頂点を連結する線を含むことができる。グラフデータ構造ツリー(Tree)データ構造を含むことができる。ツリーデータ構造はツリーに含まれる複数の頂点のうち、互いに異なる2つの頂点を連結させる経路が一つのデータ構造になり得る。すなわち、グラフデータ構造でループ(loop)を形成しないデータ構造になり得る。
【0132】
本明細書にかけて、演算モデル、 神経回路網、ネットワーク関数、ニューラルネットワークは同じ意味で使用できる。(以下ではニューラルネットワークで統一して記述する。) データ構造はニューラルネットワークを含むことができる。そして、ニューラルネットワークを含むデータ構造は、コンピューター可読保存媒体に保存されることができる。ニューラルネットワークを含むデータ構造はまた、ニューラルネットワークに入力されるデータ、ニューラルネットワークの加重値、ニューラルネットワークのハイパーパラメータ、ニューラルネットワークから獲得したデータ、ニューラルネットワークの各ノードまたはレイヤーに関連する活性関数、ニューラルネットワークの学習のための損失関数を含むことができる。ニューラルネットワークを含むデータ構造は、前記開示された構成のうち任意の構成要素を含むことができる。すなわち、ニューラルネットワークを含むデータ構造は、ニューラルネットワークに入力されるデータ、ニューラルネットワークの加重値、ニューラルネットワークのハイパーパラメータ、ニューラルネットワークから獲得したデータ、ニューラルネットワークの各ノードまたはレイヤーに関連する活性関数、ニューラルネットワークのトレーニングのための損失関数など、全部またはこれらの任意の組み合わせを含んで構成されることができる。前述した構成以外にも、ニューラルネットワークを含むデータ構造は、ニューラルネットワークの特性を決定する任意の他の情報を含むことができる。また、データ構造は、ニューラルネットワークの演算過程で使用されたり発生するすべての形態のデータを含むことができ、前述の事項に制限されるわけではない。コンピューター可読保存媒体は、コンピューター可読記録媒体および/またはコンピューター可読伝送媒体を含むことができる。ニューラルネットワークは、一般的にノードと呼ばれる相互接続された計算単位の集合で構成されることができる。このようなノードはニューロン(neuron)と呼ばれることができる。ニューラルネットワークは、少なくとも1つ以上のノードを含んで構成される。
【0133】
データ構造は、ニューラルネットワークに入力されるデータを含むことができる。ニューラルネットワークに入力されるデータを含むデータ構造は、コンピューター可読保存媒体に保存されることができる。ニューラルネットワークに入力されるデータは、ニューラルネットワークの学習過程で入力される学習データおよび/または学習が完了したニューラルネットワークに入力される入力データを含むことができる。ニューラルネットワークに入力されるデータは、前処理(pre-processing)を経たデータおよび/または前処理対象となるデータを含むことができる。前処理はデータをニューラルネットワークに入力させるためのデータ処理過程を含むことができる。したがって、データ構造は前処理対象となるデータおよび前処理で発生するデータを含むことができる。前述のデータ構造は例示に過ぎず、本開示はこれに限定されない。
【0134】
データ構造は、ニューラルネットワークの加重値を含むことができる。(本明細書で加重値、パラメータは同じ意味で使用できる。) そして、神経回路網の加重値を含むデータ構造はコンピューター可読保存媒体に保存されることができる。ニューラルネットワークは、複数の加重値を含むことができる。加重値は可変的であり、ニューラルネットワークが望む機能を遂行するために、ユーザーまたはアルゴリズムによって可変することができる。例えば、一つの出力ノードに一つ以上の入力ノードがそれぞれのリンクによって相互接続された場合、出力ノードは前記出力ノードと連結された入力ノードに入力された値及びそれぞれの入力ノードに対応するリンクに設定されたパラメータに基づいて出力ノード値を決定することができる。前述のデータ構造は例示に過ぎず、本開示はこれに限定されない。
【0135】
制限ではなく例として、加重値は神経回路網学習過程で可変する加重値および/または神経回路網学習が完了した加重値を含むことができる。ニューラルネットワーク学習過程で可変される加重値は、学習サイクルが始まる時点の加重値および/または学習サイクルの間に可変される加重値を含むことができる。ニューラルネットワーク学習が完了した加重値は、学習サイクルが完了した加重値を含むことができる。したがって、ニューラルネットワークの加重値を含むデータ構造は、ニューラルネットワーク学習過程で可変される加重値および/またはニューラルネットワーク学習が完了した加重値を含むデータ構造を含むことができる。したがって、上述した加重値および/または各加重値の組み合わせは、神経回路網の加重値を含むデータ構造に含まれるものとする。前述のデータ構造は例示に過ぎず、本開示はこれに限定されない。
【0136】
ニューラルネットワークの加重値を含むデータ構造は、直列化(serialization)過程を経た後、コンピューター可読保存媒体(例えば、メモリ、ハードディスク)に保存されることができる。直列化は、データ構造を同一または他のコンピューティングデバイスに保存し、後で再構成して使用できる形態に変換する過程である可能性がある。コンピューティングデバイスは、データ構造を直列化し、ネットワークを介してデータを送受信することができる。直列化されたニューラルネットワークの加重値を含むデータ構造は、逆直列化(deserialization)を通じて同じコンピューティング装置または他のコンピューティング装置で再構成されることができる。ニューラルネットワークの加重値を含むデータ構造は、シリアル化に限定されるものではない。さらに、神経回路網の加重値を含むデータ構造は、コンピューティング装置の資源を最小限に使用しながら演算の効率を高めるためのデータ構造(例えば、非線形データ構造で B-Tree、Trie、m-way search tree、AVLtree、Red-Black Tree)を含むことができる。前述の事項は例示に過ぎず、本開示はこれに限定されない。
【0137】
データ構造は、ニューラルネットワークのハイパーパラメータ(Hyper-parameter)を含むことができる。そして、ニューラルネットワークのハイパーパラメータを含むデータ構造は、コンピューター可読保存媒体に保存されることができる。ハイパーパラメータは、ユーザーによって可変される変数である可能性がある。ハイパーパラメータは、例えば、学習率(learning rate)、コスト関数(cost function)、学習サイクル反復回数、加重値初期化(例えば、加重値初期化対象となる加重値の範囲設定)、Hidden Unit個数(例えば、ヒドゥンレイヤーの個数、ヒドゥンレイヤーのノード数)を含むことができる。前述のデータ構造は例示に過ぎず、本開示はこれに限定されない。
【0138】
【0139】
図5は、本開示の実施例が具現化されることのできる例示的なコンピューティング環境に係る簡略で一般的な概略図である。
【0140】
本開示が一般的にコンピューティング装置により具現化されることができると前述されているが、当業者であれば本開示が一つ以上のコンピューター上で実行されることのできるコンピューター実行可能命令及び/またはその他のプログラムモジュールと結合して及び/またはハードウェアとソフトウェアの組み合わせとして具現化されることができるということをよく理解できるだろう。
【0141】
一般的に、本明細書におけるモジュールは、特定のタスクを実行したり特定の抽象的なデータ類型を実装するルーティン、プログラム、コンポーネント、データ構造、その他等々を含む。また、当業者なら本開示の方法がシングルプロセッサーまたはマルチプロセッサーコンピューターシステム、ミニコンピューター、メインフレームコンピューターはもちろん、パーソナルコンピューター、ハンドヘルド(handheld)コンピューティング装置、マイクロプロセッサー基盤、またはプログラム可能な家電製品、その他等々(これらは、それぞれ1つ以上の関連する装置と繋がって動作することができる)をはじめとする、他のコンピューターシステムの構成によって実施されることができることをよく理解できるだろう。
【0142】
本開示において説明された実施例は、さらに、あるタスクが通信ネットワークを通じて繋がっている遠隔処理装置によって実行される分散コンピューティング環境で実施されることができる。分散コンピューティング環境において、プログラムモジュールは、ローカルや遠隔メモリー保存装置の両方に位置することができる。
【0143】
コンピューターは、多様なコンピューター可読媒体を含む。コンピューターによってアクセス可能な媒体はいずれもコンピューター可読媒体になり得るが、このようなコンピューター可読媒体は揮発性及び非揮発性媒体、一時的(transitory)及び非一時的(non-transitory)媒体、移動式及び非-移動式媒体を含む。制限ではなく例として、コンピューター可読媒体は、コンピューター可読保存媒体及びコンピューター可読伝送媒体を含むことができる。コンピューター可読保存媒体は、コンピューター可読命令、データ構造、プログラムモジュール又はその他のデータのような情報を保存する任意の方法又は技術により実装される揮発性及び非揮発性媒体、一時的及び非-一時的媒体、移動式及び非移動式媒体を含む。コンピューター可読保存媒体は、RAM、ROM、EEPROM、フラッシュメモリーまたはその他のメモリー技術、CD-ROM、DVD(digital video disk)またはその他の光ディスク保存装置、磁気カセット、磁気テープ、磁気ディスク保存装置またはその他の磁気保存装置、またはコンピューターによってアクセスされることができ、情報を保存するのに使われることのできる任意のその他の媒体を含むが、これに限定されない。
【0144】
コンピューター可読伝送媒体は、通常、搬送波(carrier wave)またはその他の伝送メカニズム(transport mechanism)のような被変調データ信号(modulated data signal)にコンピューター可読命令、データ構造、プログラムモジュールまたはその他のデータ等を実装し、すべての情報伝達媒体を含む。被変調データ信号という用語は、信号の中で情報をエンコードするように、その信号の特性のうち1つ以上を設定または変更した信号を意味する。制限ではなく例として、コンピューター可読伝送媒体は、有線ネットワークまたは直接配線接続(direct-wired connection)のような有線媒体、そして音響、RF、赤外線、その他の無線媒体のような無線媒体を含む。前述の媒体のいずれかによる任意の組み合わせもまたコンピューター可読伝送媒体の範囲に含まれるものとする。
【0145】
コンピューター(1102)を含む本開示の多様な側面を実現する例示的な環境(1100)が示されており、コンピューター(1102)は、処理装置(1104)、システムメモリー(1106)、システムバス(1108)を含む。システムバス(1108)は、システムメモリー(1106)(これに限定されない)をはじめとするシステムコンポーネントを処理装置(1104)につなげる。処理装置(1104)は、多様な商用プロセッサーのうち任意のプロセッサーになり得る。デュエルプロセッサーとその他のマルチプロセッサーアーキテクチャもまた処理装置(1104)として利用されることができる。
【0146】
システムバス(1108)は、メモリーバス、周辺装置バス、そして多様な商用バスアーキテクチャの中から、任意のものを使用するローカルバスにさらに相互連結されることのできる複数の類型のバス構造のうちいずれかになり得る。システムメモリー(1106)は、読み取り専用メモリー(ROM)(1110)やランダムアクセスメモリー(RAM)(1112)を含む。基本的な入出力システム(BIOS)は、ROM、EPROM、EEPROM等の非揮発性メモリー(1110)に保存され、このBIOSは、起動中の時等にコンピューター(1102)の中の複数の構成要素間の情報のやりとりをサポートする基本的なルーティンを含む。RAM(1112)は、またデータをキャッシュするための静的RAM等の高速RAMを含むことができる。
【0147】
コンピューター(1102)においては、また、内蔵型ハードディスクドライブ(HDD)(1114)(例えば、EIDE、SATA)―この内蔵型ハードディスクドライブ(1114)はまた適切なシャシー(図示は省略)の中で外付け型の用途で構成されることができる―、磁気フロッピーディスクドライブ(FDD)(1116)(例えば、移動式ディスケット(1118)から読み取ったりそれに書き込むためのものである)及び光ディスクドライブ(1120)(例えば、CD-ROMディスク(1122)を読み取ったり、DVD等のその他の高容量光媒体から読み取ったり、それに書き込むためのものである)を含む。ハードディスクドライブ(1114)、磁気ディスクドライブ(1116)及び光ディスクドライブ(1120)は、それぞれハードディスクドライブインターフェース(1124)、磁気ディスクドライブインターフェース(1126)及び光ドライブインターフェース(1128)によってシステムバス(1108)に繋がることができる。外付け型ドライブの実装のためのインターフェース(1124)は、例えば、USB(Universal Serial Bus)やIEEE1394インターフェース技術のうち、少なくとも1つまたはその両方を含む。
【0148】
これらのドライブ及びこれらに係るコンピューター可読媒体は、データ、データ構造、コンピューターで実行可能な命令、その他等々の非揮発性保存を提供する。コンピューター(1102)の場合、ドライブ及び媒体は、任意のデータを適切なデジタル形式に保存することに対応する。前述におけるコンピューター可読保存媒体に係る説明が、HDD、移動式磁気ディスク及びCDまたはDVD等の移動式光媒体について触れているが、当業者ならジップドライブ(zip drive)、磁気カセット、フラッシュメモリーカード、カートリッジ、その他等々のコンピューターにより読み取り可能な他の類型の保存媒体もまた例示的な運営環境で使われることができ、さらに、このような媒体のうち任意のある媒体が、本開示の方法を実行するためのコンピューターで実行可能な命令を含むことができることをよく理解できるだろう。
【0149】
運営システム(1130)、1つ以上のアプリケーションプログラム(1132)、その他のプログラムモジュール(1134)及びプログラムデータ(1136)をはじめとする多数のプログラムモジュールが、ドライブ及びRAM(1112)に保存されることができる。運営システム、アプリケーション、モジュール及び/またはデータの全部またはその一部分がまたRAM(1112)にキャッシュされることができる。本開示が商業的に利用可能な様々な運営システムまたは複数の運営システムの組み合わせにより実装されることができることをよく理解できるだろう。
【0150】
ユーザーは、1つ以上の有線・無線の入力装置、例えば、キーボード(1138)及びマウス(1140)等のポインティング装置を通じてコンピューター(1102)に命令及び情報を入力することができる。その他の入力装置(図示は省略)としてはマイク、IRリモコン、ジョイスティック、ゲームパッド、スタイラスペン、タッチスクリーン、その他等々があり得る。これら及びその他の入力装置が、よくシステムバス(1108)に繋がっている入力装置インターフェース(1142)を通じて処理装置(1104)に繋がることがあるが、並列ポート、IEEE1394直列ポート、ゲームポート、USBポート、IRインターフェース、その他等々のその他のインターフェースによって繋がることができる。
【0151】
モニター(1144)または他の類型のディスプレイ装置も、ビデオアダプター(1146)等のインターフェースを通じてシステムバス(1108)に繋がる。モニター(1144)に加えて、コンピューターは一般的にスピーカー、プリンター、その他等々のその他の周辺出力装置(図示は省略)を含む。
【0152】
コンピューター(1102)は、有線及び/または無線通信による(複数の)遠隔コンピューター(1148)等の1つ以上の遠隔コンピューターへの論理的接続を利用し、ネットワーク化された環境で動作することができる。(複数の)遠隔コンピューター(1148)は、ワークステーション、サーバーコンピューター、ルーター、パーソナルコンピューター、携帯用コンピューター、マイクロプロセッサー基盤の娯楽機器、ピア装置またはその他の通常のネットワークノードになることができ、一般的にコンピューター(1102)について述べられた構成要素のうち、多数またはその全部を含むが、簡略化するために、メモリー保存装置(1150)のみ図示されている。図示されている論理的接続は、近距離通信網(LAN)(1152)及び/または、より大きいネットワーク、例えば、遠距離通信網(WAN)(1154)における有線・無線の接続を含む。このようなLAN及びWANのネットワーキング環境は、オフィスや会社では一般的なもので、イントラネット等の全社的コンピューターネットワーク(enterprise-wide computer network)を容易にし、これらはすべて全世界のコンピューターネットワーク、例えば、インターネットに繋がることができる。
【0153】
LANネットワーキング環境で使われるとき、コンピューター(1102)は、有線及び/または無線通信ネットワークインターフェース、または、アダプター(1156)を通じてローカルネットワーク(1152)に繋がる。アダプター(1156)は、LAN(1152)への有線または無線通信を容易にすることができ、このLAN(1152)は、また無線アダプター(1156)と通信するためにそれに設置されている無線アクセスポイントを含む。WANネットワーキング環境で使われるとき、コンピューター(1102)は、モデム(1158)を含むことができたり、WAN(1154)上の通信サーバーに繋がったり、またはインターネットを通じる等、WAN(1154)を通じて通信を設定するその他の手段を持つ。内蔵型又は外付け型、そして、有線または無線装置になり得るモデム(1158)は、直列ポートインターフェース(1142)を通じてシステムバス(1108)に繋がる。ネットワーク化された環境において、コンピューター(1102)について説明されたプログラムモジュールまたはその一部分が、遠隔メモリー/保存装置(1150)に保存されることができる。図示されたネットワーク接続が例示的なものであり、複数のコンピューター間で通信リンクを設定する他の手段が使われることができるということは容易に理解できることである。
【0154】
コンピューター(1102)は、無線通信で配置されて動作する任意の無線装置またはユニット、例えば、プリンター、スキャナー、デスクトップ及び/または携帯用コンピューター、PDA(portable data assistant)、通信衛星、無線で検出可能なタグに係る任意の装備または場所及、及び電話と通信する動作をする。これは、少なくともWi-Fi及びブルートゥース(登録商標)無線技術を含む。従って、通信は、従来のネットワークのように予め定義された構造であったり、単純に少なくとも2つの装置の間でのアドホック通信(ad hoc communication)になり得る。
【0155】
Wi-Fi(Wireless Fidelity)は、有線で繋がっていなくても、インターネット等への接続を可能にする。Wi-Fiは、このような装置、例えば、コンピューターが室内及び室外で、つまり基地局の通話圏内のどこからでもデータを送受信できるようにするセル電話のような無線技術である。Wi-Fiネットワークは、安全で信頼性があり、高速である無線接続を提供するためにIEEE802.11(a、b、g、その他)という無線技術を使う。コンピューターを互いに、インターネット及び有線ネットワーク(IEEE802.3またはイーサネットを使う)に接続するためにWi-Fiが使われることができる。Wi-Fiネットワークは、非認可2.4や5GHzの無線帯域において、例えば、11Mbps(802.11a)または54Mbps(802.11b)のデータレートで動作したり、両帯域(デュエル帯域)を含む製品において動作することができる。
【0156】
本開示の技術分野における通常の知識を持つ者は情報及び信号が任意の多様な異なる技術及び手法を利用して示されることができることを理会できる。例えば、前記の説明において参照できるデータ、指示、命令、情報、信号、ビット、シンボル及びチップは、電圧、電流、電磁気派、磁場等または粒子、光学場等または粒子、またはこれらの任意の組み合わせによって示されることができる。
【0157】
本開示の技術分野において通常の知識を持つ者は、ここに開示された実施例に係る説明で取り挙げられた多様な例示的な論理ブロック、モジュール、プロセッサー、手段、回路、アルゴリズム段階が電子ハードウェア、(利便性のために、ここでは「ソフトウェア」と称される)多様な形のプログラムまたは設計コード、またはこれらすべての結合により実装されることができることを理解できるだろう。ハードウェア及びソフトウェアのこのような相互互換性を明確に説明するために、多様な例示的なコンポーネント、ブロック、モジュール、回路、及び段階がこれらの機能に着目して前記で一般的に説明された。このような機能がハードウェアやソフトウェアで実装されるかどうかは、特定のアプリケーションおよび全体システムに対して付与される設計上の制限によって決まる。本開示の技術分野において通常の知識を持つ者は、個々の特定のアプリケーションについて多様な手法で説明された機能を実現することができるが、このような実現の決定は、本開示の範囲を逸脱するものと解釈されてはならない。
【0158】
ここに示された多様な実施例は、方法、装置、または標準プログラミング及び/またはエンジニアリング技術を使った製造物品(article)によって実現できる。用語「製造物品」は、任意のコンピューターで可読な装置からアクセス可能なコンピュータープログラム、キャリアー、または媒体(media)を含む。例えば、コンピューターで可読保存媒体は、磁気保存装置(例えば、ハードディスク、フロッピーディスク、磁気ストリップ等)、光学ディスク(例えば、CD、DVD等)、スマートカード及びフラッシュメモリー装置(例えば、EEPROM、カード、スティック、キードライブ等)を含むが、これらに限定されるものではない。また、ここに示されている多様は保存媒体は、情報を保存するための1つ以上の装置及び/または他の機械可読媒体を含む。
【0159】
示されたプロセスにおける複数の段階の特定の順番または階層構造は、例示的なアプローチの一例であることを理解すべきである。設計上の優先順位に基づき、本開示の範囲内で、プロセスにおける段階の特定の順番または階層構造が再配列されることができることを理解すべきである。添付の方法請求項は、サンプルとしての順番で、多様な段階のエレメントを提供するが、示された特定の順番または階層構造に限定されることを意味するわけではない。
【0160】
示された実施例に関する説明は、任意の本開示の技術分野において通常の知識を持つ者が、本開示を利用したりまたは実施できるように提供される。このような実施例に対する多様な変形は、本開示の技術分野において通常の知識を持つ者には明確に理解できるものであり、ここに定義された一般的な原理は、本開示の範囲を逸脱することなく他の実施例に適用されることができる。従って、本開示はここに示す実施例によって限定されるものではなく、ここに示す原理及び新規な特徴と一貫する最広義の範囲で解釈されるべきである。
図1
図2
図3
図4
図5
【手続補正書】
【提出日】2024-06-27
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
コンピューティング装置により実行される、テキスト情報を修正する方法であって、
前記テキスト情報を取得する段階;
前記テキスト情報において問題のあるテキストを決定する段階;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する段階;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する段階
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記テキスト情報において問題のあるテキストを決定する段階は、
前記問題のあるテキストに係る拡張テキストにおいて、前記問題のあるテキストと対応する部分をマスキング(masking)する段階を含み、
前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階
を含む、
方法。
【請求項2】
請求項1において、
前記問題のあるテキストに係る拡張テキストは、
前記問題のあるテキストを含み、且つ前記問題のあるテキストより長いテキスト;
前記問題のあるテキストを含む文;又は
前記問題のあるテキストを含む段落
のうち、少なくとも1つを含む、
方法。
【請求項3】
請求項1において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記検索対象ドメインにおいて、前記マスキングが適用された前記拡張テキストを検索する段階;及び
前記検索の結果に基づき、前記問題のあるテキストを校正するための代替テキストを生成する段階
を含む、
方法。
【請求項4】
請求項において、
前記検索対象ドメインは、
アプリケーション、プログラム、ウェブサイト、検索エンジン又はデジタル辞書のうち、少なくとも1つを含む、
方法。
【請求項5】
請求項1において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記マスキングが適用された前記拡張テキストをテキスト生成モデルに入力する段階;及び
前記テキスト生成モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成する段階を含む、
方法。
【請求項6】
コンピューティング装置により実行される、テキスト情報を修正する方法であって、
前記テキスト情報を取得する段階;
前記テキスト情報において問題のあるテキストを決定する段階;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する段階;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する段階
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記テキスト情報を取得する段階は、
音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、前記テキスト情報を取得する段階
を含む、
方法。
【請求項7】
請求項において、
前記問題のあるテキストを校正するための代替テキストを生成する段階は、
前記問題のあるテキストに係る非テキストタイプの情報を、前記音声認識モデルと異なる追加の音声認識モデルに入力する段階;及び
前記追加の音声認識モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成する段階
を含む、
方法。
【請求項8】
請求項において、
前記問題のあるテキストに係る非テキストタイプの情報は、
前記音声認識モデルに入力された前記音声信号の全体;又は
前記音声認識モデルに入力された前記音声信号において前記問題のあるテキストと対応する部分的音声信号
のうち、少なくとも1つを含む、
方法。
【請求項9】
請求項において、
前記テキスト情報において問題のあるテキストを決定する段階は、
前記ユーザーインターフェースを介して、前記テキスト情報において前記問題のあるテキストに係る入力情報を取得する段階;又は
前記音声認識(STT)によって取得された前記テキスト情報において、信頼度が最も低いテキストを、前記問題のあるテキストとして決定する段階
のうち、少なくともいずれか1つを含む、
方法。
【請求項10】
請求項において、
前記方法は、
前記音声信号において前記代替テキストと対応する信号部分を抽出する段階;
前記抽出された信号部分と前記代替テキストに係るペア(pair)を生成する段階;及び
前記生成されたペアをパーソナライズされた音声認識モデルの学習データとして用いる段階
をさらに含む、
方法。
【請求項11】
コンピューティング装置により実行される、テキスト情報を修正する方法であって、
前記テキスト情報を取得する段階;
前記テキスト情報において問題のあるテキストを決定する段階;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する段階;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する段階;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する段階
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記代替テキストに対するスコアリングを行う段階は、
次文予測(Next Sentence Prediction)モデルを用いて、前記代替テキストに対するスコアリングを行う段階;又は
テキスト含意(Text Entailment)モデルを用いて、前記代替テキストに対するスコアリングを行う段階
のうち、少なくともいずれか1つを含む、
方法。
【請求項12】
コンピューター可読保存媒体に保存されたコンピュータープログラムであって、前記コンピュータープログラムは、1つ以上のプロセッサーにおいて実行される場合、前記1つ以上のプロセッサーに、テキスト情報を修正するための以下の動作を実行させるが、前記動作は:
前記テキスト情報を取得する動作;
前記テキスト情報において問題のあるテキストを決定する動作;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する動作;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する動作
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記テキスト情報において問題のあるテキストを決定する動作は、
前記問題のあるテキストに係る拡張テキストにおいて、前記問題のあるテキストと対応する部分をマスキング(masking)する動作を含み、
前記問題のあるテキストを校正するための代替テキストを生成する動作は、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項13】
請求項12において、
前記問題のあるテキストに係る拡張テキストは、
前記問題のあるテキストを含み、且つ前記問題のあるテキストより長いテキスト;
前記問題のあるテキストを含む文;又は
前記問題のあるテキストを含む段落
のうち、少なくとも1つを含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項14】
請求項12において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作は、
前記検索対象ドメインにおいて、前記マスキングが適用された前記拡張テキストを検索する動作;及び
前記検索の結果に基づき、前記問題のあるテキストを校正するための代替テキストを生成する動作
を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項15】
請求項12において、
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作は、
前記マスキングが適用された前記拡張テキストをテキスト生成モデルに入力する動作;及び
前記テキスト生成モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成する動作
を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項16】
コンピューター可読保存媒体に保存されたコンピュータープログラムであって、前記コンピュータープログラムは、1つ以上のプロセッサーにおいて実行される場合、前記1つ以上のプロセッサーに、テキスト情報を修正するための以下の動作を実行させるが、前記動作は:
前記テキスト情報を取得する動作;
前記テキスト情報において問題のあるテキストを決定する動作;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する動作;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する動作
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記テキスト情報を取得する動作は、
音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、前記テキスト情報を取得する動作
を含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項17】
コンピューター可読保存媒体に保存されたコンピュータープログラムであって、前記コンピュータープログラムは、1つ以上のプロセッサーにおいて実行される場合、前記1つ以上のプロセッサーに、テキスト情報を修正するための以下の動作を実行させるが、前記動作は:
前記テキスト情報を取得する動作;
前記テキスト情報において問題のあるテキストを決定する動作;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成する動作;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供する動作;及び
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替する動作
を含み、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記代替テキストに対するスコアリングを行う動作は、
次文予測(Next Sentence Prediction)モデルを用いて、前記代替テキストに対するスコアリング(scoring)を行う動作;又は
テキスト含意(Text Entailment)モデルを用いて、前記代替テキストに対するスコアリング(scoring)を行う動作
のうち、少なくともいずれか1つを含む、
コンピューター可読保存媒体に保存されたコンピュータープログラム。
【請求項18】
コンピューティング装置であって、
少なくとも1つのプロセッサー;及び
メモリー;
を含み、
前記少なくとも1つのプロセッサーは、
テキスト情報を取得し;
前記テキスト情報において問題のあるテキストを決定し;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成し;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供し、且つ、
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替するように構成され、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記少なくとも1つのプロセッサーは、
前記問題のあるテキストに係る拡張テキストにおいて、前記問題のあるテキストと対応する部分をマスキング(masking)し;且つ
前記マスキングが適用された前記拡張テキストを用いて、前記問題のあるテキストを校正するための代替テキストを生成するように追加で構成される、
装置。
【請求項19】
請求項18において、
前記問題のあるテキストに係る拡張テキストは、
前記問題のあるテキストを含み、且つ前記問題のあるテキストより長いテキスト;
前記問題のあるテキストを含む文;又は
前記問題のあるテキストを含む段落
のうち、少なくとも1つを含む、
装置。
【請求項20】
コンピューティング装置であって、
少なくとも1つのプロセッサー;及び
メモリー;
を含み、
前記少なくとも1つのプロセッサーは、
テキスト情報を取得し;
前記テキスト情報において問題のあるテキストを決定し;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成し;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供し、且つ、
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替するように構成され、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記少なくとも1つのプロセッサーは、
音声認識(STT;Speech To Text)モデルを用いて、音声信号に対する音声認識(STT)を行い、前記テキスト情報を取得するように追加で構成される、
装置。
【請求項21】
請求項20において、
前記少なくとも1つのプロセッサーは、
前記問題のあるテキストに係る非テキストタイプの情報を、前記音声認識モデルと異なる追加の音声認識モデルに入力し;且つ
前記追加の音声認識モデルの出力をもとに、前記問題のあるテキストを校正するための代替テキストを生成するように追加で構成される、
装置。
【請求項22】
請求項20において、
前記少なくとも1つのプロセッサーは、
前記ユーザーインターフェースを介して、前記テキスト情報において前記問題のあるテキストに係る入力情報を取得し;且つ
前記音声認識(STT)によって取得された前記テキスト情報において、信頼度が最も低いテキストを前記問題のあるテキストとして決定するように追加で構成される、
装置。
【請求項23】
請求項20において、
前記少なくとも1つのプロセッサーは、
前記音声信号において前記代替テキストと対応する信号部分を抽出し;
前記抽出された信号部分と前記代替テキストに係るペア(pair)を生成し;且つ
前記生成されたペアをパーソナライズされた音声認識モデルの学習データとして用いるように
追加で構成される、
装置。
【請求項24】
コンピューティング装置であって、
少なくとも1つのプロセッサー;及び
メモリー;
を含み、
前記少なくとも1つのプロセッサーは、
テキスト情報を取得し;
前記テキスト情報において問題のあるテキストを決定し;
前記問題のあるテキストに係る拡張テキスト又は前記問題のあるテキストに係る非テキストタイプの情報を用いて、前記問題のあるテキストを校正するための代替テキストを生成し;
前記代替テキストに対するスコアリング(scoring)を行い、前記スコアリングを行った代替テキストに係る情報及び前記代替テキストのソース(source)に係る情報のペア(pair)に係るリストを提供し、且つ、
ユーザーインターフェースを介して入力されたユーザーの選択に基づき、前記リストから選択された代替テキストで前記問題のあるテキストを代替するように構成され、
前記ソースに係る情報は、前記代替テキストの生成に用いられた検索対象ドメイン又は人工知能モデルに係る情報を含み、ここで、
前記少なくとも1つのプロセッサーは、
次文予測(Next Sentence Prediction)モデルを用いて前記代替テキストに対するスコアリングを行い;又は
テキスト含意(Text Entailment)モデルを用いて前記代替テキストに対するスコアリングを行うように構成される、
装置。