特開 2023-31363 情報処理装置、情報処理方法及び情報処理プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023031363

(43)【公開日】2023-03-09

(54)【発明の名称】情報処理装置、情報処理方法及び情報処理プログラム

(51)【国際特許分類】

   G06N 5/04 20230101AFI20230302BHJP

   G06Q 50/10 20120101ALI20230302BHJP

   G06N 20/00 20190101ALI20230302BHJP

【ＦＩ】

G06N5/04

G06Q50/10

G06N20/00

【審査請求】未請求

【請求項の数】6

【出願形態】ＯＬ

(21)【出願番号】P 2021136800

(22)【出願日】2021-08-25

(71)【出願人】

【識別番号】000000295

【氏名又は名称】沖電気工業株式会社

(74)【代理人】

【識別番号】100180275

【弁理士】

【氏名又は名称】吉田 倫太郎

(74)【代理人】

【識別番号】100161861

【弁理士】

【氏名又は名称】若林 裕介

(72)【発明者】

【氏名】小林 啓洋

【テーマコード（参考）】

5L049

【Ｆターム（参考）】

5L049CC11

(57)【要約】

【課題】人工知能を用いて判定した結果について、揺らぎの少ない正当な情報として記録できるようにする。
【解決手段】本発明は、人工知能を用いて判定した判定結果を、高信頼保存システムに保存する情報処理装置であって、人工知能を用いて入力された情報に基づいて人工知能判定の結果を出力する判定手段と、判定手段に情報を入力して判定させる判定開始手段と、判定開始手段から判定手段への判定に関する判定関連情報を取得し、事前設定した回数の判定手段の判定結果に基づいて、判定手段の判定結果の揺らぎを抑えた結果を含む判定結果関連情報を作成して、高信頼保存システムに保存させる判定結果受信手段とを備えることを特徴とする。
【選択図】 図１

【特許請求の範囲】

【請求項1】

人工知能を用いて判定した判定結果を、高信頼保存システムに保存する情報処理装置であって、
人工知能を用いて入力された情報に基づいて人工知能判定の結果を出力する判定手段と、
前記判定手段に情報を入力して判定させる判定開始手段と、
前記判定開始手段から前記判定手段への判定に関する判定関連情報を取得し、事前設定した回数の前記判定手段の判定結果に基づいて、前記判定手段の前記判定結果の揺らぎを抑えた結果を含む判定結果関連情報を作成して、前記高信頼保存システムに保存させる判定結果受信手段と
を備えることを特徴とする情報処理装置。

【請求項2】

前記判定結果受信手段が、前記判定結果毎に、前記判定手段を特定する情報と、前記各判定結果を評価した結果と、前記判定結果全体を評価した結果と、前記判定関連情報とを含む情報を前記判定結果関連情報として保存させることを特徴とする請求項１に記載の情報処理装置。

【請求項3】

前記判定結果受信手段は、前記判定手段からの判定結果の保持数が、前記判定関連情報に含まれる判定回数に達していないときに、前記判定手段の判定の繰り返しを前記判定開始手段に指示することを特徴とする請求項１又は２に記載の情報処理装置。

【請求項4】

前記高信頼保存システムが、ブロックチェーンネットワーク上の分散台帳で管理するものであることを特徴とする請求項１～３のいずれかに記載の情報処理装置。

【請求項5】

人工知能を用いて判定した判定結果を、高信頼保存システムに保存する情報処理方法であって、
判定手段が、人工知能を用いて入力された情報に基づいて人工知能判定の結果を出力し、
判定開始手段が、前記判定手段に情報を入力して判定させ、
判定結果受信手段が、前記判定開始手段から前記判定手段への判定に関する判定関連情報を取得し、事前設定した回数の前記判定手段の判定結果に基づいて、前記判定手段の前記判定結果の揺らぎを抑えた結果を含む判定結果関連情報を作成して、前記高信頼保存システムに保存させる
ことを特徴とする情報処理方法。

【請求項6】

人工知能を用いて判定した判定結果を、高信頼保存システムに保存する情報処理プログラムであって、
コンピュータを、
人工知能を用いて入力された情報に基づいて人工知能判定の結果を出力する判定手段と、
前記判定手段に情報を入力して判定させる判定開始手段と、
前記判定開始手段から前記判定手段への判定に関する判定関連情報を取得し、事前設定した回数の前記判定手段の判定結果に基づいて、前記判定手段の前記判定結果の揺らぎを抑えた結果を含む判定結果関連情報を作成して、前記高信頼保存システムに保存させる判定結果受信手段と
して機能させることを特徴とする情報処理プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理装置、情報処理方法及び情報処理プログラムに関し、例えば、人工知能（ＡＩ：Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）によって判定された結果を記録するシステムに適用し得るものである。

【背景技術】

【0002】

近年、医療分野や自動運転などの分野でＡＩの活用が進んでいる。政府も、ＡＩの有効かつ安全に利用できる社会を構築するために「ＡＩ－Ｒｅａｄｙな社会」を策定して、ＡＩを活用した社会変革を推進しており、今後、社会におけるＡＩの重要性は増えていき、ＡＩの利用はより活発になっていくと考えられる。

【0003】

人工知能（ＡＩ）はその技術分野が広く、学術的に確立した定義は難しいが、人工知能に関わる技術として機械学習が挙げられ、機械学習に関する技術としてディープラーニング（深層学習）などが挙げられる。例えば、特許文献１には、機械学習を利用した検索サービスに関して記載されており、再学習の回数を増やすことにより、検索精度を向上させることが記載されている。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】特許第６８６７６６１号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

しかしながら、ＡＩが独自で判断した行動が問題となってしまうことがある。その場合、ＡＩの判断に使用された入力データや出力データ等を含む情報を用いて、ＡＩの行動に対する責任の所在や原因分析を進める必要がある。

【0006】

そのため、ＡＩの判断に使用した入力データや出力データ等を含む情報を記録するシステムが求められている。特に、医療分野や自動運転等のように、利用リスクの高い領域・分野で記録システムの必要性が高いと考えられるが、そのような領域では、記録された情報の完全性を担保することがより重要となる。

【0007】

そこで、本発明は、上述した課題を解決するために、人工知能を用いて判定した結果について、揺らぎの少ない正当な情報として記録することができる情報処理装置、情報処理方法及び情報処理プログラムを提供しようとするものである。

【課題を解決するための手段】

【0008】

かかる課題を解決するために、第１の本発明は、人工知能を用いて判定した判定結果を、高信頼保存システムに保存する情報処理装置であって、人工知能を用いて入力された情報に基づいて人工知能判定の結果を出力する判定手段と、判定手段に情報を入力して判定させる判定開始手段と、判定開始手段から判定手段への判定に関する判定関連情報を取得し、事前設定した回数の判定手段の判定結果に基づいて、判定手段の判定結果の揺らぎを抑えた結果を含む判定結果関連情報を作成して、高信頼保存システムに保存させる判定結果受信手段とを備えることを特徴とする。

【0009】

第２の本発明は、人工知能を用いて判定した判定結果を、高信頼保存システムに保存する情報処理方法であって、判定手段が、人工知能を用いて入力された情報に基づいて人工知能判定の結果を出力し、判定開始手段が、判定手段に情報を入力して判定させ、判定結果受信手段が、判定開始手段から判定手段への判定に関する判定関連情報を取得し、事前設定した回数の判定手段の判定結果に基づいて、判定手段の判定結果の揺らぎを抑えた結果を含む判定結果関連情報を作成して、高信頼保存システムに保存させることを特徴とする。

【0010】

第３の本発明は、人工知能を用いて判定した判定結果を、高信頼保存システムに保存する情報処理プログラムであって、コンピュータを、人工知能を用いて入力された情報に基づいて人工知能判定の結果を出力する判定手段と、判定手段に情報を入力して判定させる判定開始手段と、判定開始手段から判定手段への判定に関する判定関連情報を取得し、事前設定した回数の判定手段の判定結果に基づいて、判定手段の判定結果の揺らぎを抑えた結果を含む判定結果関連情報を作成して、高信頼保存システムに保存させる判定結果受信手段として機能させることを特徴とする。

【発明の効果】

【0011】

本発明によれば、人工知能を用いて判定した結果について、揺らぎの少ない正当な情報として記録することができる。

【図面の簡単な説明】

【0012】

【図1】実施形態に係る情報記録システムの全体構成を示す全体構成図である。

【図2】実施形態に係るＢＣノードの内部構成を示す内部構成図である。

【図3】実施形態に係る分散台帳の一例を説明する説明図である。

【図4】実施形態に係る情報記録システムにおけるＡＩ判定結果の記録方法を示すシーケンス図である。

【図5】実施形態に係る判定結果関連情報の構成を示す構成図である。

【発明を実施するための形態】

【0013】

（Ａ）実施形態
以下では、実施形態に係る情報処理装置、情報処理方法及び情報処理プログラムの実施形態を、図面を参照しながら詳細に説明する。

【0014】

（Ａ－１）実施形態の構成
図１は、実施形態に係る情報記録システムの全体構成を示す全体構成図である。

【0015】

図１において、実施形態に係る情報記録システム１０は、情報処理装置１と、複数のブロックチェーンノード（ＢＣノード）３を有するブロックチェーンネットワーク（ＢＣネットワーク）Ｎとを有する。

【0016】

情報記録システム１０は、ＡＩの識別情報及び判定の識別情報と共に、ＡＩへの入力情報と、複数回に亘ってＡＩに判定させて得た判定結果とその判定精度等を含む判定結果関連情報を、ＢＣネットワークＮ上の分散台帳に記録するシステムである。

【0017】

ここで、ＡＩの判断には揺らぎが生じ得るため、判定結果は決定的ではない。すなわち、入力に対して常に同じ結果ではない。分散台帳は、ハッシュ値を用いたブロックチェーン構造でデータを記録するため、ただ１つの正当とみなせる情報を記録することに有効である。しかし、単にＡＩの判定結果をＢＣネットワークＮ上の分散台帳に記録しても、ＡＩの判定結果は決定的でないので、責任の所在や原因追及が難しい。つまり、ＡＩの判定結果に問題がある場合、入力情報の設定に問題があることもあれば、ＡＩの性能品質に問題があることもあり、ＡＩの判定結果をそのまま分散台帳に記録しても、原因追及が難しく、責任の所在を捉えることができないことがある。

【0018】

そこで、この実施形態では、情報記録システム１０は、ＡＩの識別情報及び判定種別の識別情報と共に、ＡＩへの入力情報と、ＡＩに複数回の判定をさせて得た判定結果と、事前に期待される判定精度と実際の判定精度などを含む判定結果関連情報を、ＢＣネットワークＮの分散台帳に記録する。

【0019】

情報処理装置１は、ＡＩを用いた判定処理を行なう機能を有するものである。また、情報処理装置１は、ＢＣネットワークＮと通信可能であり、ＡＩの判定結果に関する情報をＢＣネットワークＮに送信して、ＢＣネットワークＮ上の分散台帳に記録する。

【0020】

情報処理装置１は、汎用的なサーバ、コンピュータ等を適用できる。また、情報処理装置１の各種機能は、情報処理プログラムをインストールすることで実現することができ、その場合でも、情報処理プログラムは、図１に示すブロック図で示すことができる。

【0021】

図１において、情報処理装置１は、判定開始部１１、ＡＩで判定処理を実行する制御部１２、判定結果受信部１３を有する。

【0022】

説明便宜上、１台の情報処理装置１が、判定開始部１１、制御部１２、判定結果受信部１３を備える場合を例示するが、判定開始部１１、制御部１２、判定結果受信部１３の各機能を、物理的に異なる複数の装置のそれぞれが分散処理で行ってもよい。

【0023】

判定開始部１１は、ＡＩ機能を有する制御部１２に対して情報を入力し、判定処理を開始させる機能を有する。また、判定開始部１１は、判定結果受信部１３とデータを送受信する機能として判定関連情報通知部１１１を有する。

【0024】

制御部１２は、判定開始部１１から入力情報（入力データ）を受け取る入力情報取得部１２１と、判定処理に用いるデータベース１２４と、入力された情報に対応する判定結果を出力する判定部１２２と、判定部１２２により判定された判定結果を判定結果受信部１３に与える判定結果出力部１２３とを有する。

【0025】

制御部１２の判定部１２２は、ＡＩ機能を果たすものである。判定部１２２における人工知能（ＡＩ）は、例えば、学習・推論・判断といった人間の知能のもつ機能を備えたコンピューターシステムである。人工知能（ＡＩ）の技術は、例えば、機械学習、深層学習、ニューラルネットワーク等を一例として挙げることができる。しかし、人工知能（ＡＩ）はこれらに限定されるものではない。以下では、判定部１２２をＡＩとも表記する。

【0026】

判定部１２２は、判定毎に動作する。複数の判定部１２２を備えて、各判定部１２２が独自の判定処理を動作するが、図１では、説明便宜上、１個の判定部１２２のみを図示している。例えば、自動運転の分野では、車載搭載カメラの撮影画像に基づいて、他車、人、標識等を判定する判定部１２２や、車載搭載のスピードメータからのデータに基づいてスピード判定する判定部１２２など複数の判定種類があり、判定を実行するＡＩ（判定部１２２）の品質も異なる。図１では説明便宜上、そのうちの１個の判定部１２２を図示している。

【0027】

判定結果受信部１３は、制御部１２から出力された判定結果を受け取る判定結果取得部１３１、判定開始部１１から判定関連情報を受け取る判定関連情報取得部１３２、判定結果をＢＣネットワークＮに記録するか否かを判断する判定結果判断部１３３と、判定開始部１１に対して判定結果を受け取ったことを通知すると共に、複数回の判定結果を取得するため判定開始部１１に対して判定開始を促す判定結果受信完了通知部１３４、判定結果をＢＣネットワークＮ上の分散台帳に記録要求する記録要求部１３５とを有する。

【0028】

ＢＣノード３は、ＢＣネットワークＮを構成するノードである。ＢＣノード３は、判定結果受信部１３の記録要求部１３５からの要求に応じて、ＡＩによって判定された判定結果関連情報をブロックチェーンとして保管する機能を有する。なお、図１では３台のＢＣノード３を示しているが、ＢＣノード３の台数は限定されない。

【0029】

図２は、実施形態に係るＢＣノード３の内部構成を示す内部構成図である。図２において、ＢＣノード３は、記録処理部３１、管理部３２、記憶部３３を有する。

【0030】

ＢＣノード３は、プロセッサやメモリ等を有するコンピュータにプログラムをインストールして実現するようにしてもよいが、この場合でもＢＣノード３は機能的には図２を用いて示すことができる。なお、ＢＣノード３については一部又は全部をハードウェア的に実現するようにしてもよい。

【0031】

記録処理部３１は、記録要求部１３５からの要求に応じて、記録要求部１３５から取得した判定結果関連情報を分散台帳３４に記録する機能を備える。記録処理部３１は、判定結果関連情報を分散台帳３４に記録する際、何らかのコンセンサスアルゴリズムに則って分散台帳３４に記録してもよい。正当な情報とみなせるか否かを判断し、正当な情報とみなせる場合、判定結果関連情報を記録する。

【0032】

コンセンサスアルゴリズムは、様々なものを適用できる。例えば、コンソーシアム型のブロックチェーンの構造を利用する場合には、ビジネスで利用可能なアルゴリズムを利用でき、例えばＲＡＦＴ等のように、承認端末（ＢＣノード３）のうち、多数決で情報を分散台帳３４に追加することの合意を形成するアルゴリズムを用いることができる。

【0033】

管理部３２は、記憶部３３に記憶するデータを管理するものである。管理部３２は、記憶部３３の分散台帳３４に記録する情報を管理する。

【0034】

記憶部３３は、ＢＣノード３の処理に必要なデータ、プログラム等を記憶する機能を有する。また、記憶部３３は、後述する分散台帳３４を備える。

【0035】

図３は、実施形態に係る分散台帳３４の一例を説明する説明図である。

【0036】

ＢＣネットワークＮは、複数のＢＣノード３で構成されており、各ＢＣノード３は、同じ内容の分散台帳３４（すなわち台帳情報）を保持する。図３に示すように、分散台帳３４は、ハッシュ値を利用したブロックチェーンの構造でデータを保存する。分散台帳３４は、ＡＩ機能である判定部１２２に入力した入力情報、判定部１２２によって判定された判定結果、判定精度等を含む判定結果関連情報を保持する。

【0037】

分散台帳３４は、上述したようなハッシュ値を利用したブロックチェーンの構造で保存されており、改竄は困難である。さらに、仮に少数の台帳が改竄されても、多数の正常な台帳が分散して存在していれば、システムが台帳の改竄を修復することができる。また、台帳を更新するときは、悪意のある変更か否かが何かしらの方法で検証（例えば、特定の電子署名がなされているかなど）された上で、全てのＢＣノード３の台帳情報が同じように変更される。こういった仕組みにより、台帳に書かれている情報を信頼することができる。

【0038】

（Ａ－２）実施形態の動作
次に、実施形態に係る情報記録システム１０における情報処理方法の動作を図面を参照しながら説明する。

【0039】

図４は、実施形態に係る情報記録システム１０におけるＡＩ判定結果の記録方法を示すシーケンス図である。

【0040】

ここでは、ユーザがＡＩを購入して利用することを想定して説明する。ＡＩを購入したユーザがＡＩを利用する際、判定結果の揺らぎを小さくするために、事前に複数回の判定結果を出すように判定回数（繰り返し回数）を設定する。判定回数について、判定結果の揺らぎは、ＡＩが判定する判定の種類によって異なったり、若しくはＡＩ（すなわち判定部１２２）によって異なったりするので、判定識別情報毎、若しくはＡＩ識別情報毎に設定できる。

【0041】

まず、判定開始部１１が、制御部１２に対して情報を入力して判定処理を開始させる（Ｓ１０１）。つまり、判定開始部１１が制御部１２に情報を入力すると、入力情報取得部１２１が取得した入力情報を判定部１２２に与える。

【0042】

ここで、判定を開始する際、判定開始部１１は、判定結果受信部１３に対して、判定回数、ＡＩを一意に識別するＡＩ識別情報、そのＡＩがどの判定種類の判定をするかを一意に識別する判定識別情報、判定のために入力する入力情報を識別する入力情報識別情報を含む判定関連情報を送信する（Ｓ１０２）。これにより、判定開始するＡＩ及びＡＩが判定する判定種類を特定できると共に、ＡＩに入力する入力情報及び判定回数も、判定結果受信部１３に知らせることができる。

【0043】

制御部１２では、判定部１２２が、入力された情報に基づいて判定処理を行ない（Ｓ１０３）、判定結果を判定結果受信部１３に出力する（Ｓ１０４）。

【0044】

判定結果受信部１３は、判定部１２２のＡＩ識別情報と、ＡＩとしての判定部１２２が判定する判定識別情報とを認識している。そして、判定部１２２が判定結果受信部１３に判定結果を出力すると、判定結果判断部１３３は、判定部１２２の判定結果を判定部１２２毎（判定識別情報毎）に保持し、保持している数と事前に設定された判定回数とを比較して、当該判定部１２２が実施した判定回数が、事前に設定された判定回数を満たしているか否かを確認する（Ｓ１０５）。

【0045】

つまり、判定結果判断部１３３は、判定結果を出力した判定部１２２の判定識別情報に基づいて判定関連情報を特定し、判定結果の保持数に基づいて、その判定関連情報に含まれている判定回数だけの判定を当該判定部１２２が行なったのかを確認する。

【0046】

そして、判定部１２２が実際に行った判定回数が、事前に設定した判定回数を満たしていないとき、判定結果受信完了通知部１３４が、判定部１２２から判定結果を受信した旨と、更に判定部１２２に判定を実行させる旨とを含む繰り返し判定指示を、判定開始部１１に送信する（Ｓ１０６）。

【0047】

繰り返し判定指示を受信した判定開始部１１は、制御部１２に対して情報を入力して判定を繰り返し実行させる（Ｓ１０１）。なお、判定開始部１１が２度目の判定を開始させるときには、判定開始部１１は、判定結果受信部１３への判定関連情報の送信を省略してもよい。

【0048】

Ｓ１０１～Ｓ１０５の処理を繰り返し、判定部１２２による判定回数が事前設定した判定回数を満たすと、判定結果判断部１３３は、事前に設定した判定回数分の全ての判定結果を用いて判定精度を判断する（Ｓ１０７）。

【0049】

ここで、判定結果判断部１３３による判定精度の判断方法は、ＡＩの判定方法やＡＩが実行する判定種類によって様々な方法を適用でき、例えば、判定部１２２の判定結果と、事前に設定した閾値とを比較して、判定結果の制度を求めることができる。

【0050】

上述の事前設定の閾値は、例えば、自動運転においてスピードメータからのデータに基づくスピード判定などのように公称値があるときには、その公称値を用いることができ、又例えば公称値がないときには、判定結果の正当性を判断するための適切な値を用いるようにしてもよい。このように、判定の種類によって公称値があるときには、その公称値を用いることができ、公称値がないときには、適切な値を用いることができる。

【0051】

例えば、公称値がある場合を例示して説明する。公称値が「公称値：Ａ」であるとする。また、判定回数は５回とする。そして、判定結果を示す数値が公称値Ａ以上であれば、その判定結果はある程度信頼できる正当なデータであり「ＹＥＳ」と判定し、公称値Ａ未満のとき「ＮＯ」と判定する。

【0052】

上述の例の場合、判定結果判断部１３３は、判定結果を示す数値毎に、判定結果を示す数値と公称値Ａとを比較して、判定結果を示す数値が公称値Ａ以上であるか否かを判定する。そして、判定結果判断部１３３は、全ての判定結果のそれぞれについて公称値Ａを用いて判定し、全ての判定結果（例えば５個の判定結果）のうち、公称値Ａ以上となった結果を判定精度とする。

【0053】

例えば、５個の判定結果と公称値Ａとを用いた結果が、１番目の判定結果（ｎ１）が「ＹＥＳ」、２番目の判定結果（ｎ２）が「ＹＥＳ」、３番目の判定結果（ｎ３）が「ＮＯ」、４番目の判定結果（ｎ４）が「ＹＥＳ」、５番目の判定結果（ｎ５）が「ＹＥＳ」とする。この場合、判定結果判断部１３３は、「ＹＥＳ」が「８０％」、「ＮＯ」が「２０％」と、揺らぎが生じ得る判定部１２２の判定結果に対する精度を評価できる。

【0054】

なお、上述した判定精度の判断手法は、一例である。ＡＩが判定する手法に応じて、適切な判定精度の判断手法を用いることができる。ただし、判定部１２２が出力した複数回（事前設定の判定回数分）に亘って得た各判定結果と、事前設定の閾値とを比較し、その結果を用いて判定精度を得ることについては、判断手法によらず共通とする。すなわち、判定部１２２が出力した１回のみの判定結果だけで正当とみなすか否かを判断するのではなく、判定部１２２の判定を繰り返し行い、複数の判定で得た複数個の判定結果を用いて、判定結果の揺らぎを考慮した精度を判断する。

【0055】

そして、判定結果判断部１３３は、判定部１２２の判定に関する判定関連情報と、判定部１２２の判定結果及び判定精度とに基づいて、判定結果関連情報を作成する（Ｓ１０８）。そして、記録要求部１３５は、ＢＣネットワークＮ上のＢＣノード３に対して、判定結果関連情報の分散台帳３４への記録を要求する（Ｓ１０９）。

【0056】

図５は、実施形態に係る判定結果関連情報の構成を示す構成図である。図５において、実施形態に係る判定結果関連情報は、「判定識別情報（判定ＩＤ」、「ＡＩ識別情報（ＡＩＩＤ」」、「タイムスタンプ」、「期待される判定精度」、「判定回数（繰り返し回数）」、「実際の判定精度」、「実際の判定結果群」、「入力情報識別情報」を項目とする。

【0057】

判定結果関連情報は、どの判定に関してどのＡＩで判定させ、そのＡＩにどのような情報を入力してどのような結果が出力され、判定結果の揺らぎはどのくらいであるかを示す情報を含むものである。これらの情報が、ＡＩの判定結果に問題があったときに原因を分析でき、責任所在を解明できる情報と言える。したがって、原因分析又は責任所在を解明するために必要な情報であれば、判定結果関連情報は、上述の項目に限定されないが、この実施形態では、図５の項目とすることができる。また、判定結果関連情報は、判定部１２２の判定結果、判定結果判断部１３３による判定結果、判定開始部１１からの判定関連情報等を用いて作成される。

【0058】

「判定識別情報」は、どの判定に関する情報かを識別するための情報である。例えば、自動運転において、カメラ画像を用いた判定であっても、他車両認識判定、人認識判定、車線判定など、どの判定を行なうか異なる。そのため、事前に、どの判定に関するものかについて一意に識別可能な情報を付与しておき、それを判定識別情報とする。

【0059】

「ＡＩ識別情報」は、どの判定に関する情報かを識別するための情報である。つまり、ＡＩを一意に識別する識別情報である。例えば、ユーザがＡＩを購入して利用する場合には、ユーザ購入のＡＩのＡＩ識別情報がこれに当たる。ＡＩ識別情報を判定結果関連情報に含めることで、ＡＩの品質良否も判断材料とすることができるので、原因追及や責任所在が容易になる。

【0060】

「タイムスタンプ」は、判定部１２２が判定した時刻である。

【0061】

「期待される判定精度」は、判定結果判断部１３３が、各判定結果の精度判定に際に用いた閾値を記載する。例えば、上述した公称値、若しくは事前設定した値などを記載する。

【0062】

「判定回数」は、判定部１２２に対して判定を繰り返し実行させる、事前設定した回数である。

【0063】

「実際の判定精度」は、判定部１２２の全ての判定結果を通じた判定精度である。これは、判定結果判断部１３３が、揺らぎが生じる判定部１２２の判定結果に対する精度の評価結果ともいえる。例えば、上述した例の場合、判定回数ｎ＝５、「ＹＥＳ：８０％」、「ＮＯ：２０％」というデータが記載される。

【0064】

「実際の判定結果群」は、判定結果判断部１３３が、各判定結果と事前設定した閾値を用いて判定した結果である、例えば、上述した例の場合、「ｎ１：ＹＥＳ」、「ｎ２：ＹＥＳ」、「ｎ３：ＮＯ」、「ｎ４：ＹＥＳ」、「ｎ５：ＹＥＳ」が記載される。

【0065】

「入力情報識別情報」は、入力情報を識別するための情報である。例えば、画像判定であれば、判定部１２２に入力したカメラ画像を一意に識別するための識別情報とする。なお、判定部１２２に入力した情報がどの情報であるかを特定できればよいので、ＩＤ等の識別情報に限らず、判定部１２２に入力した情報（データ）そのものであってもよい。

【0066】

ＢＣネットワークＮにおいて、判定結果関連情報を含む記録要求を受信したＢＣノード３は、コンセンサスアルゴリズムに則り、判定結果関連情報を分散台帳３４に追加してよい情報か否かを判断する（Ｓ１１０）。

【0067】

そして、ＢＣネットワークＮにおいて、判定結果関連情報が正当な情報とみなされれば、分散台帳３４に判定結果関連情報を追加して、分散台帳３４の内容を更新する。つまり、コンソーシアム型のＢＣネットワークＮの場合、複数の承認者（承認されたＢＣノード３）が存在しており、ＢＣノード３による多数決で分散台帳３４の更新を決定する。なお、この例に限定されず、ＢＣネットワークＮで何らかの承認シーケンスが働けばいい。

【0068】

他方、ＢＣネットワークＮにおいて、判定結果関連情報が正当な情報とみなされない（すなわち不正な情報とみなされる）と、分散台帳３４は更新されず、その旨が判定結果受信部１３に通知される。その判定結果を受けて、例えば、もう一度ＡＩによる判定を開始させるなどといったことができる。つまり、判定結果受信部１３は、判定開始部１１に対して再度判定開始指示を通知して、判定部１２２による判定をさせるようにしてもよい。その後の処理は、上述した処理を繰り返し行うことで用いることができる。

【0069】

（Ａ－３）実施形態の効果
以上のように、この実施形態によれば、情報記録システムは、ＡＩとしての判定部に繰り返し判定させて、揺らぎを少なくした判定結果（すなわち、本来期待されるＡＩの性能を発揮した判定結果）を決定し、その結果を出力した判定部（ＡＩ識別情報、判定識別情報）と判定部に入力及び出力した情報とをブロックチェーンの分散台帳に記録できる。

【0070】

例えば、ＡＩの判定結果に問題があるとユーザーが判断した場合に、ユーザー側の入力情報に問題があるケースや、そもそもＡＩの品質が悪いというケースなどが考えられる。こういった問題に対する責任分界点を決める際に、双方にとって公正な情報が必要となるが、この実施形態によれば、問題が発生したときの状況をブロックチェーン上の分散台帳に記録しておくことで、必要な情報を残しておくことができる。

【0071】

また、この実施形態によれば、ユーザーは問題なくＡＩを利用しているにもかかわらず、ＡＩ提供側がＡＩの品質の悪さを認めないようなケースや、本来はＡＩ性能に問題が無いのにユーザーが不当に性能が悪いというようなケース等に対しての抑止力となりうる。

【0072】

（Ｂ）他の実施形態
上述した実施形態においても種々の変形実施形態を言及したが、本発明は、以下の変形実施形態にも適用できる。

【0073】

（Ｂ－１）上述した実施形態では、正当とみなせる情報を保存でき、改竄が困難な高信頼の状態で情報を保存するシステム（高信頼保存システム）の一例としてブロックチェーンを挙げて、ブロックチェーンネットワーク上の分散台帳に、ＡＩの判定結果関連情報を記録する場合を説明したが、判定結果関連情報を記録するシステムは、ブロックチェーンに限らない。例えば、既存のブロックチェーン技術を発展させたシステム、高信頼のデータベースシステム等にも適用できる。

【0074】

（Ｂ－２）上述した実施形態では、コンソーシアム型のブロックチェーン構造のシステムを例示したが、パブリック型のブロックチェーン構造のシステムにも適用できる。パブリック型の場合、判定結果関連情報を分散台帳に更新するコンセンサスアルゴリズムは多数決型のものでなく、より高可用性な判断が可能なアルゴリズムを適用できる。また、パブリック型のブロックチェーンを利用する場合に、ＡＩの種類を識別する必要があるのなら、判定結果関連情報に、ＡＩ種別識別情報を含めてもよい。

【0075】

（Ｂ－３）ユーザがＡＩを購入する場合に限らず、ネットワーク上に存在するＡＩ機能のサーバを利用可能な場合に適用できる。

【0076】

（Ｂ－４）判定部１２２の人工知能（ＡＩ）は、学習、推論、判断といった人間の持つ機能を有する人工知能システムであり、様々な人工知能技術を適用できる。

【符号の説明】

【0077】

１０…情報記録システム、１…情報処理装置、１１…判定開始部、１２…制御部、１３…判定結果受信部、１１１…判定関連情報通知部、１２１…入力情報取得部、１２２…判定部、１２３…判定結果出力部、１２４…データベース、１３１…判定結果取得部、１３２…判定関連情報取得部、１３３…判定結果判断部、１３４…判定結果受信完了通知部、１３５…記録要求部、３…ＢＣノード、３１…記録処理部、３２…管理部、３３…記憶部、３４…分散台帳。

【図1】

【図2】

【図3】

【図4】

【図5】