特表 2024-505213 人工知能モデルの結果に対する信頼情報提供方法および装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公表特許公報(A)

(11)【公表番号】

(43)【公表日】2024-02-05

(54)【発明の名称】人工知能モデルの結果に対する信頼情報提供方法および装置

(51)【国際特許分類】

   G16H 50/50 20180101AFI20240129BHJP

【ＦＩ】

G16H50/50

【審査請求】有

【予備審査請求】未請求

(21)【出願番号】P 2023545818

(86)(22)【出願日】2022-03-30

(85)【翻訳文提出日】2023-07-27

(86)【国際出願番号】 KR2022004544

(87)【国際公開番号】W WO2022211505

(87)【国際公開日】2022-10-06

(31)【優先権主張番号】10-2021-0042268

(32)【優先日】2021-03-31

(33)【優先権主張国・地域又は機関】KR

(31)【優先権主張番号】10-2022-0038924

(32)【優先日】2022-03-29

(33)【優先権主張国・地域又は機関】KR

(81)【指定国・地域】

(71)【出願人】

【識別番号】520159215

【氏名又は名称】ルニット・インコーポレイテッド

【氏名又は名称原語表記】ＬＵＮＩＴ ＩＮＣ．

【住所又は居所原語表記】５Ｆ， ３７４ ＧＡＮＧＮＡＭ－ＤＡＥＲＯ， ＧＡＮＧＮＡＭ－ＧＵ， ＳＥＯＵＬ ０６２４１， ＲＥＰＵＢＬＩＣ ＯＦ ＫＯＲＥＡ

(74)【代理人】

【識別番号】110001818

【氏名又は名称】弁理士法人Ｒ＆Ｃ

(72)【発明者】

【氏名】パク，スンギュン

(72)【発明者】

【氏名】キム，キファン

(72)【発明者】

【氏名】ペク，スンウク

(72)【発明者】

【氏名】ユ，ドングン

【テーマコード（参考）】

5L099

【Ｆターム（参考）】

5L099AA01

(57)【要約】

少なくとも一つのプロセッサーによって動作するコンピューティング装置であって、少なくとも一つのタスクを学習し、入力医療画像に対するタスクを行って目的結果を出力する目的人工知能モデル、そして前記入力医療画像に基づいて前記目的結果に影響を与える少なくとも一つの影響変数（impact factor）を獲得し、前記影響変数を用いて前記目的結果の信頼情報を推定する信頼予測モデルを含む。

【特許請求の範囲】

【請求項1】

少なくとも一つのプロセッサーによって動作するコンピューティング装置であって、
少なくとも一つのタスクを学習し、入力医療画像に対するタスクを行って目的結果を出力する目的人工知能モデル、そして
前記入力医療画像に基づいて前記目的結果に影響を与える少なくとも一つの影響変数（impact factor）を獲得し、前記影響変数を用いて前記目的結果の信頼情報を推定する信頼予測モデルを含む、コンピューティング装置。

【請求項2】

前記影響変数は、前記目的人工知能モデルの特性および／または前記入力医療画像の特性に基づいて決定される、請求項１に記載のコンピューティング装置。

【請求項3】

前記影響変数は、前記目的人工知能モデルのタスク関連医学的変数、前記目的人工知能モデルの入力画像関連変数、前記目的人工知能モデルで検出する疾病関連変数、患者関連人口統計学的変数、そして患者特性関連変数のうちの少なくとも一つを含む、請求項１に記載のコンピューティング装置。

【請求項4】

前記影響変数は、前記入力医療画像の付加情報から抽出されるか、前記入力医療画像から推論されるか、外部サーバー／データベースから獲得されるか、使用者から入力される、請求項１に記載のコンピューティング装置。

【請求項5】

前記入力医療画像の付加情報から抽出される影響変数は、年齢、性別、そして撮影方法を含む撮影情報のうちの少なくとも一つを含み、
前記入力医療画像から推論される影響変数は、組織緻密度、前記入力医療画像内にオブジェクトを含むかどうか、病変タイプ、そして病変大きさ変化のうちの少なくとも一つを含む、請求項４に記載のコンピューティング装置。

【請求項6】

前記目的人工知能モデルは、医療画像から病変を検出するか、医学的診断情報または治療情報を推論するように訓練されたモデルを含む、請求項１に記載のコンピューティング装置。

【請求項7】

前記信頼予測モデルは、訓練用医療画像に関連する少なくとも一つの影響変数と、当該訓練用医療画像から推論された目的結果の信頼度の間の関係を学習したモデルを含む、請求項１に記載のコンピューティング装置。

【請求項8】

前記目的結果の信頼情報は、前記目的結果と共に提供されるか、前記目的結果の補正に使用されるか、前記入力医療画像の再撮影および／または撮影方法を推薦するための指標として使用されるか、前記目的人工知能モデルから出力された目的結果を廃棄する（discard）ための指標として使用される、請求項１に記載のコンピューティング装置。

【請求項9】

少なくとも一つのプロセッサーによって動作するコンピューティング装置の動作方法であって、
目的人工知能モデルに入力された医療画像を受信する段階、
前記医療画像に基づいて、前記目的人工知能モデルから出力された目的結果に影響を与える少なくとも一つの影響変数を獲得する段階、そして
前記影響変数を用いて前記目的結果の信頼情報を推定する段階、を含む、動作方法。

【請求項10】

前記少なくとも一つの影響変数を獲得する段階は、前記医療画像の付加情報から前記影響変数を抽出するか、前記医療画像から前記影響変数を推論するか、外部サーバー／データベースから前記影響変数を獲得するか、使用者から前記影響変数の入力を受ける、請求項９に記載の動作方法。

【請求項11】

前記医療画像の付加情報から抽出される影響変数は、
年齢、性別、そして撮影方法を含む撮影情報のうちの少なくとも一つを含み、
前記医療画像から推論される影響変数は、
組織緻密度、前記医療画像内にオブジェクトを含むかどうか、病変タイプ、そして病変大きさ変化のうちの少なくとも一つを含む、請求項１０に記載の動作方法。

【請求項12】

前記少なくとも一つの影響変数を獲得する段階は、
前記医療画像が乳房撮影画像である場合、前記乳房撮影画像から推論した緻密度（density）を前記影響変数と決定し、
前記医療画像が胸部Ｘ線画像である場合、前記胸部Ｘ線画像の付加情報から抽出したＰＡ（Posterior Anterior）またはＡＰ（Anterior Posterior）情報を前記影響変数と決定する、請求項９に記載の動作方法。

【請求項13】

前記目的結果を用いて前記目的結果の信頼情報を補正し、補正された信頼情報を前記目的結果の最終信頼情報として提供する段階をさらに含む、請求項９に記載の動作方法。

【請求項14】

前記目的結果と共に前記信頼情報を提供する段階をさらに含む、請求項９に記載の動作方法。

【請求項15】

前記目的結果の信頼情報を用いて前記目的結果を補正する段階をさらに含む、請求項９に記載の動作方法。

【請求項16】

前記目的結果に対する信頼情報が基準以下である場合、前記目的結果を廃棄する段階をさらに含む、請求項９に記載の動作方法。

【請求項17】

前記目的結果に対する信頼情報に基づいて、前記目的人工知能モデルに入力される医療画像の再撮影を要請するか、撮影方法を推薦する段階をさらに含む、請求項９に記載の動作方法。

【請求項18】

医療画像の入力を受けた目的人工知能モデルから目的結果が出力される場合、前記目的結果に影響を与える少なくとも一つの影響変数（impact factor）に基づいて前記目的結果の信頼情報を推定し、前記目的結果と前記信頼情報をユーザーインターフェース画面に提供するプロセッサーを含む、コンピューティング装置。

【請求項19】

前記プロセッサーは、前記医療画像を受信し、前記目的人工知能モデルの特性および／または前記医療画像の特性に基づいて決定された前記影響変数を獲得した後、前記影響変数から前記目的結果の信頼情報を推定する、請求項１８に記載のコンピューティング装置。

【請求項20】

前記プロセッサーは、前記目的結果を用いて前記目的結果の信頼情報を補正し、補正された信頼情報を前記目的結果の最終信頼情報として提供する動作、
前記目的結果の信頼情報を用いて前記目的結果を補正し、補正された目的結果を提供する動作、
前記目的結果に対する信頼情報に基づいて、前記医療画像の再撮影を要請するか、撮影方法を推薦する動作、そして
前記目的結果に対する信頼情報が基準以下である場合、前記目的結果を廃棄する動作のうちの少なくとも一つを行う、請求項１８に記載のコンピューティング装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、人工知能基盤予測技術に関する。

【背景技術】

【0002】

機械学習（machine-learning）技術は、画像、音声、テキストなど多様な形態のデータ分析において既存方法の性能を乗り越える結果を提供している。また、機械学習技術は、技術自体に内在する拡張性および柔軟性によって多様な分野に適用されており、多様な種類の神経網（neural network）が公開されている。

【0003】

機械学習基盤の人工知能（Artificial Intelligence、ＡＩ）技術は医療分野で活発に導入されている。以前にはＣＡＤ（Computer Aided Detection）装置がルール基盤（rule based）で病変を検出するか、医療画像で設定された候補領域で病変を検出したが、最近のＡＩ基盤医療画像判読技術は画像全体をＡＩアルゴリズムで分析し、異常（abnormal）病変を視覚的に提供することができる。

【0004】

医療スタッフはＡＩ基盤医療画像判読技術が実現された診断補助装置から医療画像に含まれた異常病変情報の提供を受け、これを参照して診断することができる。

【発明の概要】

【発明が解決しようとする課題】

【0005】

本開示は、人工知能モデルの結果に影響を与える少なくとも一つの影響変数を用いて、人工知能モデルの結果に対する信頼情報を提供する方法および装置を提供する。

【課題を解決するための手段】

【0006】

一実施形態により、少なくとも一つのプロセッサーによって動作するコンピューティング装置であって、少なくとも一つのタスクを学習し、入力医療画像に対するタスクを行って目的結果を出力する目的人工知能モデル、そして前記入力医療画像に基づいて前記目的結果に影響を与える少なくとも一つの影響変数（impact factor）を獲得し、前記影響変数を用いて前記目的結果の信頼情報を推定する信頼予測モデルを含む。

【0007】

前記影響変数は、前記目的人工知能モデルの特性および／または前記入力医療画像の特性に基づいて決定できる。

【0008】

前記影響変数は、前記目的人工知能モデルのタスク関連医学的変数、前記目的人工知能モデルの入力画像関連変数、前記目的人工知能モデルで検出する疾病関連変数、患者関連人口統計学的変数、そして患者特性関連変数のうちの少なくとも一つを含むことができる。

【0009】

前記影響変数は、前記入力医療画像の付加情報から抽出されるか、前記入力医療画像から推論されるか、外部サーバー／データベースから獲得されるか、使用者から入力を受けることができる。

【0010】

前記入力医療画像の付加情報から抽出される影響変数は、年齢、性別、そして撮影方法を含む撮影情報のうちの少なくとも一つを含むことができる。前記入力医療画像から推論される影響変数は、組織緻密度、前記入力医療画像内にオブジェクトを含むかどうか、病変タイプ、そして病変大きさ変化のうちの少なくとも一つを含むことができる。

【0011】

前記目的人工知能モデルは 、医療画像から病変を検出するか、医学的診断情報または治療情報を推論するように訓練されたモデルを含むことができる。

【0012】

前記信頼予測モデルは、訓練用医療画像に関連する少なくとも一つの影響変数と、当該訓練用医療画像から推論された目的結果の信頼度の間の関係を学習したモデルを含むことができる。

【0013】

前記目的結果の信頼情報は、前記目的結果と共に提供されるか、前記目的結果の補正に使用されるか、前記入力医療画像の再撮影および／または撮影方法を推薦するための指標として使用されるか、前記目的人工知能モデルから出力された目的結果を廃棄する（discard）ための指標として使用できる。

【0014】

一実施形態により、少なくとも一つのプロセッサーによって動作するコンピューティング装置の動作方法であって、目的人工知能モデルに入力された医療画像を受信する段階、前記医療画像に基づいて、前記目的人工知能モデルから出力された目的結果に影響を与える少なくとも一つの影響変数を獲得する段階、そして前記影響変数を用いて前記目的結果の信頼情報を推定する段階を含む。

【0015】

前記少なくとも一つの影響変数を獲得する段階は、前記医療画像の付加情報から前記影響変数を抽出するか、前記医療画像から前記影響変数を推論するか、外部サーバー／データベースから前記影響変数を獲得するか、使用者から前記影響変数の入力を受けることができる。

【0016】

前記医療画像の付加情報から抽出される影響変数は、年齢、性別、そして撮影方法を含む撮影情報のうちの少なくとも一つを含むことができる。前記医療画像から推論される影響変数は、組織緻密度、前記医療画像内にオブジェクトを含むかどうか、病変タイプ、そして病変大きさ変化のうちの少なくとも一つを含むことができる。

【0017】

前記少なくとも一つの影響変数を獲得する段階は、前記医療画像が乳房撮影画像である場合、前記乳房撮影画像から推論した緻密度（density）を前記影響変数と決定することができる。前記医療画像が胸部Ｘ線画像である場合、前記胸部Ｘ線画像の付加情報から抽出したＰＡ（Posterior Anterior）またはＡＰ（Anterior Posterior）情報を前記影響変数と決定することができる。

【0018】

前記動作方法は、前記目的結果を用いて前記目的結果の信頼情報を補正し、補正された信頼情報を前記目的結果の最終信頼情報として提供する段階をさらに含むことができる。

【0019】

前記動作方法は、前記目的結果と共に前記信頼情報を提供する段階をさらに含むことができる。

【0020】

前記動作方法は、前記目的結果の信頼情報を用いて前記目的結果を補正する段階をさらに含むことができる。

【0021】

前記動作方法は、前記目的結果に対する信頼情報が基準以下である場合、前記目的結果を廃棄する段階をさらに含むことができる。

【0022】

前記動作方法は、前記目的結果に対する信頼情報に基づいて、前記目的人工知能モデルに入力される医療画像の再撮影を要請するか、撮影方法を推薦する段階をさらに含むことができる。

【0023】

一実施形態によるコンピューティング装置であって、医療画像の入力を受けた目的人工知能モデルから目的結果が出力される場合、前記目的結果に影響を与える少なくとも一つの影響変数（impact factor）に基づいて前記目的結果の信頼情報を推定し、前記目的結果と前記信頼情報をユーザーインターフェース画面に提供するプロセッサーを含む。

【0024】

前記プロセッサーは、前記医療画像を受信し、前記目的人工知能モデルの特性および／または前記医療画像の特性に基づいて決定された前記影響変数を獲得した後、前記影響変数から前記目的結果の信頼情報を推定することができる。

【0025】

前記プロセッサーは、前記目的結果を用いて前記目的結果の信頼情報を補正し、補正された信頼情報を前記目的結果の最終信頼情報として提供する動作、前記目的結果の信頼情報を用いて前記目的結果を補正し、補正された目的結果を提供する動作、前記目的結果に対する信頼情報に基づいて、前記医療画像の再撮影を要請するか、撮影方法を推薦する動作、そして前記目的結果に対する信頼情報が基準以下である場合、前記目的結果を廃棄する動作のうちの少なくとも一つを行うことができる。

【発明の効果】

【0026】

実施形態によれば、人工知能モデルの結果に対する信頼情報を使用者が理解することができる形態で提供することができる。

【0027】

実施形態によれば、人工知能モデルの結果と共に、結果の信頼情報を視覚的に提供することができる。

【図面の簡単な説明】

【0028】

【図1】一実施形態によるコンピューティング装置を説明する図である。

【図2】一実施形態によるコンピューティング装置の連動環境を説明する図である。

【図3】他の実施形態による目的結果に対する信頼情報提供方法を説明する図である。

【図4】一実施形態による目的結果に対する信頼情報提供方法のフローチャートである。

【図5】一実施形態による医療画像の目的結果に対する信頼情報を提供するインターフェース画面を例示した図である。

【図6】一実施形態によるコンピューティング装置のハードウェア構成図である。

【発明を実施するための形態】

【0029】

以下に、添付した図面を参照して本開示の実施形態について本開示の属する技術分野における通常の知識を有する者が容易に実施することができるように詳しく説明する。しかし、本開示は様々な異なる形態に実現でき、ここで説明する実施形態に限定されない。そして図面において本開示を明確に説明するために説明上不必要な部分は省略し、明細書全体にわたって類似の部分については類似の図面符号を付けた。

【0030】

説明で、ある部分がある構成要素を“含む”というとき、これは特に反対になる記載がない限り他の構成要素を除くのではなく他の構成要素をさらに含むことができることを意味する。また、明細書に記載された“・・・部”、“・・・機”、“モジュール”などの用語は少なくとも一つの機能や動作を処理する単位を意味し、これはハードウェアやソフトウェアまたはハードウェアおよびソフトウェアの結合で実現できる。

【0031】

本開示の装置は、少なくとも一つのプロセッサーが命令語（instructions）を実行することによって、本開示の動作を行うことができるように構成および連結されたコンピューティング装置である。コンピュータプログラムはプロセッサーが本開示の動作を実行するように記述された命令語（instructions）を含み、非一時的－コンピュータ判読可能記憶媒体（non-transitory computer readable storage medium）に保存できる。コンピュータプログラムはネットワークを通じてダウンロードされるか、製品形態で販売できる。

【0032】

本開示の医療画像は多様なモダリティ（modality）で撮影された多様な部位の画像であってもよく、例えば、医療画像のモダリティはＸ線（X-ray）、ＭＲＩ（magnetic resonance imaging）、超音波（ultrasound）、ＣＴ（computed tomography）、ＭＭＧ（Mammography）、ＤＢＴ（Digital breast tomosynthesis）などであってもよい。

【0033】

本開示の使用者とは、医療専門家であって医師、看護師、臨床検査技師、ソノグラファー、または医療画像専門家などであるか、患者、または保護者のような一般人であってもよいが、これに限定されない。

【0034】

本開示の人工知能モデル（Artificial Intelligence model、AI model）は少なくとも一つのタスク（task）を学習する機械学習モデルであって、プロセッサーによって実行されるコンピュータプログラムで実現できる。人工知能モデルはコンピューティング装置で実行されるコンピュータプログラムで実現でき、ネットワークを通じてダウンロードされるか、製品形態で販売できる。または人工知能モデルはネットワークを通じて多様な装置と連動できる。

【0035】

人工知能モデルが学習するタスクとは、機械学習を通じて解決しようとする課題または機械学習を通じて行おうとする作業を称することができる。例えば、医療画像（Medical image）から認識、分類、予測などを行うという時、認識、分類、予測それぞれが個別タスクに対応できる。

【0036】

本開示で、人工知能モデルの結果は、タスクを学習した人工知能モデルが入力に対して提供した出力を意味する。人工知能モデルの結果は例えば、異常度スコア（Abnormality score）、ＣＡＤ（Computer Aided Detection）結果、癌などの疾病予測（Cancer prediction）などのように、入力から分析された多様な推論／予測結果を意味することができる。

【0037】

本開示は人工知能モデルの結果に対する信頼情報を提供し、信頼情報は信頼度を含むことができる。一方、一般に、信頼度（Confidence score）は人工知能モデルがタスクに対して行った結果がどれだけ正確かを示す指標を意味する。したがって、人工知能モデルのタスクに対する信頼度（Confidence score）と区分するために、本開示の人工知能モデルの結果に対する信頼情報は信頼測定度（Confidence measure score）と呼ぶことができる。

【0038】

図１は一実施形態によるコンピューティング装置を説明する図であり、図２は一実施形態によるコンピューティング装置の連動環境を説明する図である。

【0039】

図１を参照すれば、少なくとも一つのプロセッサーによって動作するコンピューティング装置１０は、目的人工知能（Artificial Intelligence、ＡＩ）モデル１００の結果に対する信頼情報を提供する。ここで、目的人工知能モデル（Target AI model）１００の結果に対する信頼情報は、目的人工知能モデル１００の結果に影響を与える少なくとも一つの影響変数（impact factor）を用いて推定できる。目的人工知能モデル１００の結果は、簡単に目的結果（target result）と呼ぶこともできる。目的結果に対する信頼情報は目的結果ごとに提供され、例えば、病変単位またはケース単位で提供できる。

【0040】

一般的な人工知能モデルによれば、人工知能モデルが提供した結果の尤度（Likelihood）を通じて、結果に対する信頼度を判断することができる。例えば、医療画像から病変を検出する人工知能モデルによれば、人工知能モデルが提供した結果の尤度に基づいて、病変検出結果の信頼度が判断される。しかし、使用者が尤度の意味を明確に解釈しにくく、尤度と結果に対する信頼度を直観的に関連させて認識するのが難しい。

【0041】

したがって、本開示の多様な実施形態によるコンピューティング装置１０は、使用者が理解できる形態で目的結果に対する信頼情報を使用者に提供することができる。コンピューティング装置１０は、医療画像の少なくとも一部組織の異常か否かに対するスコアを目的結果として予測し、目的結果に対する信頼度を数値で表示することができる。例えば、コンピューティング装置１０は、対象体に対する異常度スコアを７１と推定し、異常度スコア７１に対する信頼度を９８％と推定することができる。コンピューティング装置１０は、目的結果に対する信頼情報を用いて、目的結果を補正し、補正された目的結果を提供することができる。または、コンピューティング装置１０は、目的結果を用いて目的結果に対する信頼情報を補正し、補正された信頼情報を最終信頼情報として提供することができる。または、コンピューティング装置１０は、目的結果に対する信頼情報を目的人工知能モデル１００の改善に使用することができる。

【0042】

コンピューティング装置１０は、目的結果に対する信頼情報が基準以下である場合、目的結果を廃棄し（discard）、使用者に医療画像の再撮影を推薦するか、信頼情報が高い目的結果を得るための撮影方法を推薦することができる。コンピューティング装置１０は、目的結果に対する信頼情報に基づいて、使用者に提供される報告書を作成することができる。このように、コンピューティング装置１０で推定された目的結果の信頼情報は、目的結果と共に使用者に提供されるか、目的結果の補正に使用されるか、使用者に医療画像の再撮影および／または撮影方法を推薦するための指標として使用されるか、目的人工知能モデル１００で分析された目的結果を廃棄する（discard）ための指標として使用できる。その他にも、目的結果に対する信頼情報は、目的人工知能モデルの性能改善指標として使用できる。

【0043】

コンピューティング装置１０は、目的人工知能モデル１００、そしてその結果に対する信頼情報を提供する信頼予測モデル（Confidence Prediction Model）２００を含むことができる。

【0044】

以下に、説明の便宜のために一つのコンピューティング装置１０で動作が行われることと記載する。しかし、本開示はこのような例に制限されず、実現方式によって以下に記述する少なくとも一つの動作が複数のコンピューティング装置、および／または使用者端末で行われてもよい。例えば、目的人工知能モデル１００と信頼予測モデル２００それぞれは別途のコンピューティング装置で駆動され、使用者端末が目的人工知能モデル１００と信頼予測モデル２００の出力結果を受信して使用者端末の画面に提供することができる。

【0045】

目的人工知能モデル１００は少なくとも一つのタスクを学習したモデルであって、入力に対するタスクを行って目的結果を出力する。目的人工知能モデル１００は訓練過程で入力と出力の間の関係を学習し、新たな入力から推論された結果を出力することができる。ここで、目的人工知能モデル１００の入力は多様なデータであってもよいが、説明では医療画像（Medical Image）と仮定する。例えば、目的人工知能モデル１００は医療画像の入力を受け、医療画像から病変を検出するか、医学的診断情報または治療情報を推論するように訓練されたモデルであってもよい。医学的情報は、病変の異常度スコア（Abnormality score）、病変に基づいて予測された疾病発病危険度などの多様な医学的推論／予測結果を含むことができる。

【0046】

信頼予測モデル２００は、目的人工知能モデル１００の結果（目的結果）に影響を与える少なくとも一つの影響変数（impact factor）を獲得し、影響変数に基づいて目的結果に対する信頼情報を提供することができる。影響変数は、目的人工知能モデル１００およびその入力（例えば医療画像）の特性に基づいて決定できる。

【0047】

信頼予測モデル２００は、訓練用医療画像に関連する少なくとも一つの影響変数と、当該訓練用医療画像から推論された目的結果の信頼度の間の関係を学習したモデルを含むことができる。ここで、訓練用医療画像から推論された目的結果は、目的人工知能モデル１００の出力であってもよい。また、信頼予測モデル２００は、入力された医療画像から少なくとも一つの影響変数を推論するように訓練されたモデルを含むことができる。

【0048】

一例として、信頼予測モデル２００は、医療画像保存伝送システム（Picture Archiving and Communication System、ＰＡＣＳ）、電子医療記録（Electronic Medical Record、ＥＭＲ）、および／または電子健康記録（Electronic Health Record、ＥＨＲ）などと連動して患者の多様な臨床情報を獲得することができる。信頼予測モデル２００は、患者の多様な臨床情報から影響変数を抽出するか推論することができる。

【0049】

他の例として、信頼予測モデル２００は、入力画像に含まれている付加情報（メタデータ）から影響変数を抽出することができる。例えば、入力画像がＤＩＣＯＭ（Digital Imaging and Communications in Medicine）標準に従う場合、信頼予測モデル２００はＤＩＣＯＭデータのヘッダに保存された年齢、性別、撮影方法などを含む撮影情報などから少なくとも一つの影響変数を抽出することができる。

【0050】

また他の例として、信頼予測モデル２００は、入力画像から影響変数、例えば、組織緻密度、画像内にオブジェクトを含むか否か、画像品質、病変のタイプ（例えば、Soft tissue、Calcificationなど）、過去画像との比較を通じて人工知能によって分析された画像内病変の大きさ変化などを推論することができる。このために、信頼予測モデル２００は入力画像から少なくとも一つの影響変数を推論するように学習された人工知能モデルを含むことができる。

【0051】

その他にも、信頼予測モデル２００は、外部サーバー／データベースと連動して影響変数を獲得することができる。または、信頼予測モデル２００は、使用者から影響変数の入力を受けることができる。

【0052】

信頼予測モデル２００は、指定された方式でベクター化された影響変数を用いて目的結果の信頼情報を推定することができる。例えば、数値型影響変数は０と１の間の値で数値化でき、範疇型影響ベクターはワンホット（One-Hot）エンコーディングで数値化できる。例えば、入力画像から推論された乳房緻密度に基づいて、緻密度影響変数の値は緻密であれば１、そうでなければ０で数値化されるか、０と１の間の値で数値化できる。または、メタデータ、外部サーバー／データベース、使用者入力で獲得した影響変数は比較的に正確な値であるので、０または１で数値化され、信頼予測モデル２００が推論した影響変数は推論確率に基づいて０と１の間の値で数値化できる。

【0053】

信頼予測モデル２００は、目的人工知能モデル１００の結果ごとに信頼情報を推定することができる。ここで、目的人工知能モデル１００の結果に対する信頼情報は、簡単に信頼測定度（Confidence measure score）と呼ぶことができる。

【0054】

信頼予測モデル２００は、少なくとも一つの影響変数から信頼情報を推定するように訓練された人工知能モデル、または少なくとも一つの影響変数から信頼情報を計算する統計学的モデルで実現できる。例えば、統計学的モデルは、少なくとも一つの影響変数が目的結果（例えばAbnormality score）に与える影響に関する統計学的情報を含むことができる。

【0055】

目的人工知能モデルの目的結果に影響を与える影響変数は、目的人工知能モデル１００のタスク関連医学的変数、入力画像関連変数、疾病関連変数、患者関連人口統計学的変数、患者特性関連変数などの候補変数のうちから決定できる。例えば、人工知能モデルが医療画像の入力を受け、これに対する予測／推論などの目的結果を出力する場合、信頼予測モデル２００は表１のような変数のうちの少なくとも一部を人工知能モデルの結果に影響を与える影響変数として使用することができる。

【0056】

【表1】

【0057】

信頼予測モデル２００は、タスク関連医学的変数を影響変数として使用することができる。例えば、入力画像が乳房撮影画像である場合、緻密度が高いほど人工知能モデルが正確に病変を検出しにくく、偽陽性（False Positive、ＦＰ）確率が高いと知られている。このように、判読難易度に関係する緻密度が結果に影響を与える影響変数であるので、信頼予測モデル２００は画像から推論された組織の緻密度に基づいて、目的人工知能モデル１００の結果に対する信頼情報を推定することができる。この時、信頼予測モデル２００は、目的人工知能モデル１００に入力された画像の入力を受け、画像の緻密度を推論した後、これを用いて目的人工知能モデル１００の結果に対する信頼情報を推定することができる。

【0058】

信頼予測モデル２００は、多様な入力画像関連変数を影響変数として使用することができる。例えば、医療画像の撮影情報、画像内にオブジェクトを含むか否か、画像品質、組織緻密度、病変タイプ、病変大きさ変化などが影響変数として使用できる。入力画像関連変数は、医療画像の付加情報（例えば、ＤＩＣＯＭデータのヘッダ、医療画像のメタデータなど）から抽出されるか、医療画像から推論できる。

【0059】

撮影情報は、撮影方法（例、ＰＡ／ＡＰ）、撮影姿勢、撮影位置（position）、撮影装備などを含むことができる。信頼予測モデル２００は、入力画像に含まれている付加情報から撮影情報を抽出するか、外部サーバー／データベースから撮影情報を獲得することができる。信頼予測モデル２００は、目的人工知能モデル１００に入力された画像の撮影情報を用いて目的人工知能モデル１００の結果に対する信頼情報を推定することができる。例えば、胸部Ｘ線（Chest X-ray）画像の場合、ＰＡ（Posterior Anterior）画像がＡＰ（Anterior Posterior）画像より判読しにくいと知られている。このような判読困難は人工知能モデルも同一に経験する。したがって、胸部Ｘ線画像が人工知能モデルに入力される場合、胸部Ｘ線画像がＰＡ画像であるかまたはＡＰ画像であるか否かに対する情報が影響変数として使用できる。一方、撮影装備の種類および特性が人工知能モデルの結果に影響を与えることができる。例えば、Ｘ線装置はFilm方式、ＣＲ（Computed Radiography）方式、ＤＲ（Digital Radiography）方式などがあり、撮影方式が人工知能モデルの結果に影響を与えることができる。また、撮影装備の製造会社や製品バージョンが人工知能モデルの結果に影響を与えることができる。

【0060】

画像内に含まれているオブジェクトは、医療装置（medical device）、extrinsic material、ボタン、マーカ、チューブ、ペースメーカー（Pacemaker）などを含むことができる。例えば、画像内に患者の生体組織でないオブジェクトが含まれる場合、判読信頼度が低下すると知られている。したがって、信頼予測モデル２００は、目的人工知能モデル１００に入力された画像の入力を受け、画像内オブジェクトを抽出した後、これを用いて目的人工知能モデル１００の結果に対する信頼情報を推定することができる。

【0061】

画像品質も、目的人工知能モデルの結果に影響を与える影響変数として使用できる。例えば、画像内にアーチファクトが含まれるか画像が低い解像度を有するなど画像の品質が劣る場合、判読信頼度が低下すると知られている。したがって、信頼予測モデル２００は、目的人工知能モデル１００に入力された画像の入力を受け、画像品質を獲得した後、これを用いて目的人工知能モデル１００の結果に対する信頼情報を推定することができる。

【0062】

画像から推論された多様な情報が目的人工知能モデルの結果に影響を与える影響変数として使用できる。乳房緻密度と判読難易度の関係で説明した通り、画像から推論された組織緻密度が目的結果の信頼度推定に使用できる。画像から軟組織（Soft tissue）／石灰化（Calcification）病変などの病変タイプが推論でき、病変タイプが目的人工知能モデルの結果に影響を与える影響変数として使用できる。また、分析対象画像に関係する患者の過去画像を用いて病変大きさ変化が推論でき、病変大きさ変化が目的人工知能モデルの結果に影響を与える影響変数として使用できる。

【0063】

疾病関連変数が影響変数として使用できる。疾病を予測する人工知能モデルの場合、疾病関連訓練データの量や、疾病特性によって検出正確度が異なることもある。したがって、疾病種類、疾病検出正確度などの疾病関連変数が人工知能モデルの結果に影響を与えることができる。信頼予測モデル２００は、目的人工知能モデル１００で検出する疾病関連変数を用いて、目的人工知能モデル１００の結果に対する信頼情報を推定することができる。

【0064】

その他にも、患者関連人口統計学的変数／患者特性関連変数が影響変数として使用できる。例えば、性別、年齢、人種、地域的特性などの患者関連人口統計学的変数が人工知能モデルの結果に影響を与えることができる。また、患者個人情報などの患者特性関連変数が人工知能モデルの結果に影響を与えることができる。信頼予測モデル２００は、入力画像に含まれている付加情報から患者関連人口統計学的変数／患者特性関連変数を抽出するか、外部サーバー／データベースからこれを獲得することができる。または、信頼予測モデル２００は、入力画像から患者関連人口統計学的変数／患者特性関連変数を推論することもできる。

【0065】

図２を参照すれば、コンピューティング装置１０は単独型で構築することができ、他の装置との連動型で構築することもできる。例えば、コンピューティング装置１０は、複数の使用者端末２０と連動するように実現することができる。また、コンピューティング装置１０は、医療機関の各種データベース３０、例えば、医療画像保存伝送システム（Picture Archiving and Communication System、ＰＡＣＳ）、電子医療記録（Electronic Medical Record、ＥＭＲ）、電子健康記録（Electronic Health Record、ＥＨＲ）などと連動して患者の多様な臨床情報を獲得することができる。使用者端末２０は、コンピューティング装置１０およびデータベース３０と連動して必要な情報を画面に表示するユーザーインターフェース画面を提供することができる。使用者端末２０は、専用ビューアーを通じてコンピューティング装置１０から提供された情報を表示することができる。

【0066】

コンピューティング装置１０はサーバー装置であってもよく、使用者端末２０は医療機関に設置されたクライアント端末であってもよく、これらはネットワークを通じて連動できる。コンピューティング装置１０は、特定医療機関内ネットワークに連結されたローカルサーバーであってもよい。コンピューティング装置１０はクラウドサーバーであってもよく、接近権限を有する多数の医療機関の端末（医療スタッフ端末）と連動できる。コンピューティング装置１０はクラウドサーバーであってもよく、接近権限を有する患者個人端末と連動できる。

【0067】

コンピューティング装置１０は、使用者端末２０から医療画像に対する分析の要請を受け、使用者端末２０に目的結果および目的結果に対する信頼情報（信頼測定度）を応答することができる。コンピューティング装置１０は、使用者端末２０／データベース３０から影響変数を獲得することができる。医療画像がデータベース３０に保存された場合、使用者端末２０がデータベース３０からインポートした医療画像をコンピューティング装置１０に伝送することができ、コンピューティング装置１０が使用者端末２０で要請した医療画像をデータベース３０からインポートすることができる。

【0068】

図３は、他の実施形態による目的結果に対する信頼情報提供方法を説明する図である。

【0069】

図３を参照すれば、信頼予測モデル２００は、目的人工知能モデル１００の結果に影響を与える少なくとも一つの影響変数を獲得し、影響変数に基づいて目的結果に対する信頼情報を提供することができる。

【0070】

目的人工知能モデルの影響変数は、目的人工知能モデル１００のタスク関連医学的変数、入力画像関連変数、疾病関連変数、患者関連人口統計学的変数、患者特性関連変数などの候補変数のうちから決定できる。例えば、信頼予測モデル２００は、入力画像に含まれている付加情報（メタデータ）から影響変数を抽出することができる。信頼予測モデル２００は、入力画像から必要な影響変数を推論することができる。信頼予測モデル２００は、外部サーバー／データベースと連動して影響変数を獲得することができる。または、信頼予測モデル２００は、使用者から影響変数の入力を受けることができる。

【0071】

図３に示されているように、一実施形態によるコンピューティング装置１０は信頼予測モデル２００から出力した初期信頼情報（Initial Confidence information）を目的結果の信頼情報として提供することができるが、初期信頼情報を補正してより正確な最終信頼情報（Final Confidence information）を提供することができる。

【0072】

コンピューティング装置１０は、調整（Adjustment）モジュール３００を通じて、最終信頼情報を計算することができる。コンピューティング装置１０は、目的人工知能モデル１００の目的結果を用いて初期信頼情報を補正することができる。調整モジュール３００は例えば、加重和（Weighted sum）演算を通じて、目的結果を用いて初期信頼情報を補正することができる。または、調整モジュール３００は、入力と出力の関係を学習した人工知能モデル、または入力と出力の関係に対する統計学的情報を含む統計学的モデルで実現できる。

【0073】

一方、図３に示された実施形態と異なる一実施形態によれば、コンピューティング装置１０は、目的人工知能モデル１００から出力した目的結果、即ち、初期目的結果（Initial Target result）を出力情報として提供することができるが、初期目的結果を補正してより正確な最終目的結果（Final Target result）を提供することができる。

【0074】

コンピューティング装置１０は、調整（Adjustment）モジュール３００を通じて、最終目的結果を計算することができる。コンピューティング装置１０は、信頼予測モデル２００の信頼情報を用いて初期目的結果を補正することができる。調整モジュール３００は例えば、加重和（Weighted sum）演算を通じて、信頼情報を用いて初期目的結果を補正することができる。または、調整モジュール３００は、入力と出力の関係を学習した人工知能モデル、または入力と出力の関係に対する統計学的情報を含む統計学的モデルで実現できる。

【0075】

図４は、一実施形態による目的結果に対する信頼情報提供方法のフローチャートである。

【0076】

図４を参照すれば、コンピューティング装置１０は、目的人工知能モデル１００に入力された医療画像を受信する（Ｓ１１０）。目的人工知能モデル１００は、コンピューティング装置１０、外部の別途装置（例えば、使用者端末またはデータベース）またはコンピューティング装置１０内部のメモリから医療画像の入力を受けることができる。

【0077】

コンピューティング装置１０は、医療画像に基づいて、目的人工知能モデル１００の出力（目的結果）に影響を与える少なくとも一つの影響変数を獲得する（Ｓ１２０）。コンピューティング装置１０は、目的人工知能モデル１００の特性、および／または入力（例えば、医療画像）の特性に基づいて、影響変数の種類を決定することができる。例えば、影響変数は、目的人工知能モデル１００のタスク関連医学的変数（例えば乳房緻密度）、入力画像関連変数（例えば撮影情報、画像内にオブジェクトを含むか否か、画像品質、組織緻密度、病変タイプ、病変大きさ変化など）、疾病関連変数（例えば疾病種類、疾病検出正確度など）、患者関連人口統計学的変数、患者特性関連変数などの候補変数のうちから決定できる。コンピューティング装置１０は、目的人工知能モデル１００の入力に含まれている付加情報（メタデータ）から少なくとも一つの影響変数を抽出することができる。コンピューティング装置１０は、目的人工知能モデル１００の入力から影響変数（例えば画像内オブジェクト、画像品質、組織緻密度、病変タイプ、病変大きさ変化など）を推論することができる。コンピューティング装置１０は、外部サーバー／データベースと連動して影響変数を獲得することができる。または、コンピューティング装置１０は、使用者から影響変数の入力を受けることができる。コンピューティング装置１０は、獲得した影響変数を指定された方式で数値化することができる。例えば、コンピューティング装置１０は、影響変数を０と１の間の値で数値化することができる。

【0078】

コンピューティング装置１０は、獲得した少なくとも一つの影響変数を用いて、目的人工知能モデル１００から出力された目的結果の信頼情報を推定する（Ｓ１３０）。コンピューティング装置１０は、影響変数から信頼情報を推定するように訓練された人工知能モデル、または影響変数から信頼情報を計算する統計学的モデルで実現された信頼予測モデル２００を用いて、目的結果に対する信頼情報を推定することができる。

【0079】

コンピューティング装置１０は、目的結果に対する信頼情報をユーザーインターフェース画面に提供する（Ｓ１４０）。コンピューティング装置１０は、使用者端末２０の画面に目的結果に対する信頼情報を提供することができる。コンピューティング装置１０は、目的結果を用いて目的結果の信頼情報を補正することによってより正確な最終信頼情報を提供することができる。コンピューティング装置１０は、目的結果の信頼情報を用いて、目的結果を補正することができる。コンピューティング装置１０は、目的結果と共にその信頼情報を提供することができる。目的結果に対する信頼情報は目的結果ごとに提供され、例えば、病変単位またはケース単位で提供できる。

【0080】

一方、コンピューティング装置１０は、目的結果に対する信頼情報が基準以下である場合、目的結果を廃棄する（discard）ことができる。コンピューティング装置は、目的結果に対する信頼情報に基づいて、より正確な目的結果を得るために、使用者に新たな入力を要請することができる。例えば、コンピューティング装置は、目的結果に対する信頼情報が基準以下である場合、医療画像の再撮影を要請するか、信頼情報が高い目的結果を得るための撮影方法を推薦することができる。

【0081】

図５は、一実施形態による医療画像の目的結果に対する信頼情報を提供するインターフェース画面の例示である。

【0082】

図５を参照すれば、目的人工知能モデル１００が使用者端末２０に乳房撮影画像の異常度スコア（Abnormality score）を目的結果として出力すると仮定する。

【0083】

目的人工知能モデル１００が乳房撮影画像の異常度スコアを推論／予測する間または、異常度スコアを推論／予測した後に、コンピューティング装置１０は目的人工知能モデル１００の画像判読に影響を与える少なくとも一つの影響変数を収集することができる。コンピューティング装置１０は、乳房撮影画像の緻密度を影響変数と決定し、乳房撮影画像から獲得した緻密度を用いて目的人工知能モデル１００が出力した異常度スコアの信頼情報（Confidence measure score）を推定することができる。コンピューティング装置１０は、緻密度以外にも、入力画像関連変数（例えば、撮影情報、画像内オブジェクト、画像品質、病変タイプ、病変大きさ変化など）、疾病関連変数（例えば、疾病種類、疾病検出正確度など）、患者関連人口統計学的変数、患者特性関連変数などの候補変数のうちから決定された少なくとも一つの影響変数を用いて、異常度スコアの信頼情報を推定することができる。

【0084】

使用者端末２０は、コンピューティング装置１０から提供された情報をユーザーインターフェース画面２１に表示する。例えば、画面２１は乳房撮影画像から検出された結節（nodule）をヒートマップで表示することができる。そして、画面２１は結節の異常度スコア（Abnormality score）で表示できる乳癌疑い点数と共に、乳癌疑い点数の信頼度（Confidence measure score）を表示することができる。例えば、画面２１は乳癌疑い点数（確率）は９５％であり、９５％という結果の信頼度は９８％と表示することができる。

【0085】

使用者は、人工知能の分析結果を参照して、異常（abnormal）病変があるか否かおよび／または後続措置などに対する最終判断を直接行うことができる。この時、本開示の多様な実施形態によるコンピューティング装置１０は、人工知能の分析結果（目的結果）に対する信頼情報を使用者に共に提供することによって、使用者が人工知能の分析結果を参照して最終判断するのに役立つ。また、本開示の多様な実施形態によるコンピューティング装置１０は、人工知能の分析結果（目的結果）に、推定した信頼情報を反映することによって、人工知能の分析結果に対する正確度を向上させることができる。

【0086】

図６は、一実施形態によるコンピューティング装置のハードウェア構成図である。

【0087】

図６を参照すれば、コンピューティング装置１０は、一つ以上のプロセッサー１１、プロセッサー１１によって実行されるコンピュータプログラムをロードするメモリ１３、コンピュータプログラムおよび各種データを保存するストレージ１５、通信インターフェース１７、そしてこれらを連結するバス１９を含むことができる。その他にも、コンピューティング装置１０は、多様な構成要素をさらに含むことができる。コンピュータプログラムは、メモリ１３にロードされる時、プロセッサー１１が本開示の多様な実施形態による方法／動作を行うようにする命令語（instruction）を含むことができる。即ち、プロセッサー１１は、命令語を実行することによって、本開示の多様な実施形態による方法／動作を行うことができる。コンピュータプログラムは、機能を基準にして結ばれた一連のコンピュータ判読可能命令語から構成され、プロセッサーによって実行されるものを示す。コンピュータプログラムは、入力画像から医学的診断情報または治療情報を推論するように訓練された目的人工知能モデル、目的人工知能モデルの推論結果に対する信頼情報を提供する信頼予測モデル、および／または初期信頼情報および／または初期目的結果を補正する調整モデルを含むことができる。

【0088】

プロセッサー１１は、コンピューティング装置１０の各構成の全般的な動作を制御する。プロセッサー１１は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＭＣＵ（Micro Controller Unit）、ＧＰＵ（Graphic Processing Unit）または本開示の技術分野によく知られた任意の形態のプロセッサーのうちの少なくとも一つを含んで構成できる。また、プロセッサー１１は、本開示の多様な実施形態による方法／動作を実行するための少なくとも一つのアプリケーションまたはコンピュータプログラムに対する演算を行うことができる。

【0089】

メモリ１３は、各種データ、命令および／または情報を保存する。メモリ１３は、本開示の多様な実施形態による方法／動作を実行するためにストレージ１５から一つ以上のコンピュータプログラムをロードすることができる。メモリ１３はＲＡＭのような揮発性メモリで実現することができるが、本開示の技術的範囲はこれに限定されない。

【0090】

ストレージ１５は、コンピュータプログラムを非臨時的に保存することができる。ストレージ１５は、ＲＯＭ（Read Only Memory）、ＥＰＲＯＭ（Erasable Programmable ROM）、ＥＥＰＲＯＭ（Electrically Erasable Programmable ROM）、フラッシュメモリなどのような非揮発性メモリ、ハードディスク、着脱型ディスク、または本開示の属する技術分野においてよく知られた任意の形態のコンピュータで読むことができる記録媒体を含んで構成できる。

【0091】

通信インターフェース１７は、コンピューティング装置１０の有無線インターネット通信を支援する。また、通信インターフェース１７は、インターネット通信以外の多様な通信方式を支援することもできる。このために、通信インターフェース１７は本開示の技術分野によく知られた通信モジュールを含んで構成できる。

【0092】

バス１９は、コンピューティング装置１０の構成要素間通信機能を提供する。バス１９は、アドレスバス（Address Bus）、データバス（Data Bus）、および制御バス（Control Bus）など多様な形態のバスで実現できる。

【0093】

以上で説明した本開示の実施形態は装置および方法を通じてのみ実現されるのではなく、本開示の実施形態の構成に対応する機能を実現するプログラムまたはそのプログラムが記録された記録媒体を通じても実現できる。

【0094】

以上、本開示の実施形態について詳細に説明したが、本開示の権利範囲はこれに限定されるのではなく、次の請求範囲で定義している本開示の基本概念を用いた当業者の様々な変形および改良形態も本開示の権利範囲に属するのである。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【国際調査報告】