(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-09-04
(45)【発行日】2023-09-12
(54)【発明の名称】識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法
(51)【国際特許分類】
G06V 30/26 20220101AFI20230905BHJP
G06V 30/194 20220101ALI20230905BHJP
G06V 30/412 20220101ALI20230905BHJP
G06V 30/12 20220101ALI20230905BHJP
G06T 7/00 20170101ALI20230905BHJP
G16H 20/10 20180101ALI20230905BHJP
A61J 3/00 20060101ALI20230905BHJP
【FI】
G06V30/266
G06V30/194
G06V30/412
G06V30/12 Z
G06T7/00 350C
G16H20/10
A61J3/00 310K
(21)【出願番号】P 2021533014
(86)(22)【出願日】2020-07-09
(86)【国際出願番号】 JP2020026849
(87)【国際公開番号】W WO2021010276
(87)【国際公開日】2021-01-21
【審査請求日】2022-09-12
(31)【優先権主張番号】P 2019132074
(32)【優先日】2019-07-17
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000149837
【氏名又は名称】富士フイルム富山化学株式会社
(74)【代理人】
【識別番号】100083116
【氏名又は名称】松浦 憲三
(74)【代理人】
【識別番号】100170069
【氏名又は名称】大原 一樹
(74)【代理人】
【識別番号】100128635
【氏名又は名称】松村 潔
(74)【代理人】
【識別番号】100140992
【氏名又は名称】松浦 憲政
(72)【発明者】
【氏名】羽田 真司
【審査官】新井 則和
(56)【参考文献】
【文献】国際公開第2018/190394(WO,A1)
【文献】特開2009-098867(JP,A)
【文献】特許第6505937(JP,B1)
【文献】国際公開第2019/039302(WO,A1)
【文献】国際公開第2017/002713(WO,A1)
【文献】国際公開第2016/047569(WO,A1)
【文献】特開2017-215859(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06V 30/26
G16H 20/10
G06V 30/194
G06V 30/412
G06V 30/12Z
G06T 7/00
A61J 3/00
G16H 20/10
(57)【特許請求の範囲】
【請求項1】
薬剤の画像を取得する画像取得部と、
前記画像に含まれる文字列を文字ごとに抽出して前記文字列を示す第1のテキストを生成するテキスト化部と、
前記第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、
薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、
前記第2のテキストを前記薬剤マスタと照合して、前記第2のテキストが示す薬剤の候補である候補薬剤についての前記識別情報を取得する照合部と、
前記候補薬剤についての前記識別情報を出力する出力部と、
を備え
、
前記テキスト修正部は、前記抽出した文字の前後関係を用いて前記第1のテキストを修正し、
前記薬剤マスタは前記文字情報についてのレイアウト情報を有し、
前記照合部は前記レイアウト情報に基づいて前記照合を行う識別支援システム。
【請求項2】
前記テキスト化部は、機械学習により構成された学習済みモデルを用いて前記文字列を抽出する請求項1に記載の識別支援システム。
【請求項3】
前記画像に含まれる前記文字列を強調して文字列強調画像を生成する強調処理部をさらに備え、
前記テキスト化部は前記文字列強調画像から前記第1のテキストを生成する請求項1または2に記載の識別支援システム。
【請求項4】
前記照合部は、前記第2のテキストと前記文字情報との類似度を算出し、前記類似度に基づいて前記候補薬剤を選択する請求項1から3のいずれか1項に記載の識別支援システム。
【請求項5】
前記薬剤マスタは前記識別情報と薬剤の画像とを関連付けて記憶し、
前記出力部は前記候補薬剤について前記識別情報と前記画像とを関連付けて表示装置に表示させる請求項1から4のいずれか1項に記載の識別支援システム。
【請求項6】
薬剤の画像を取得する画像取得部と、
前記画像に含まれる文字列を文字ごとに抽出して前記文字列を示す第1のテキストを生成するテキスト化部と、
前記第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、
前記第2のテキストを示す情報を識別支援サーバに送信するクライアント側送信部と、
前記第2のテキストが示す薬剤の候補である候補薬剤について、薬剤のコード及び/または名称を含む識別情報を前記識別支援サーバから受信するクライアント側受信部と、
前記候補薬剤についての前記識別情報を出力する出力部と、
を備え、
前記テキスト修正部は、前記抽出した文字の前後関係を用いて前記第1のテキストを修正する識別支援クライアント。
【請求項7】
薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、
薬剤についてのテキスト情報を識別支援クライアントから受信するサーバ側受信部と、
前記テキスト情報を前記薬剤マスタと照合して、前記テキスト情報が示す薬剤の候補である候補薬剤についての前記識別情報を取得する照合部と、
前記取得した前記識別情報を前記識別支援クライアントに送信するサーバ側送信部と、
を備え、
前記薬剤マスタは前記文字情報についてのレイアウト情報を有し、
前記照合部は前記レイアウト情報に基づいて前記照合を行う識別支援サーバ。
【請求項8】
薬剤の画像を取得する画像取得工程と、
前記画像に含まれる文字列を文字ごとに抽出して前記文字列を示す第1のテキストを生成するテキスト化工程と、
前記第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正工程と、
薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと前記第2のテキストとを照合して、前記第2のテキストが示す薬剤の候補である候補薬剤についての前記識別情報を取得する照合工程と、
前記候補薬剤についての前記識別情報を出力する出力工程と、
を有し、
前記テキスト修正工程では、前記抽出した文字の前後関係を用いて前記第1のテキストを修正し、
前記薬剤マスタは前記文字情報についてのレイアウト情報を有し、
前記照合工程では前記レイアウト情報に基づいて前記照合を行う識別支援方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、薬剤の識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法に関する。
【背景技術】
【0002】
病院、薬局等の医療現場では、患者に提供する薬剤の監査や患者が持参する薬剤の鑑別が行われる。人手による監査や鑑別は作業時間が長くユーザ(医師、薬剤師等)の負担が高いので、監査や鑑別の支援を行う技術が提案されている。例えば、特許文献1には、文字認識を行う画像処理装置が記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【0004】
本発明の一つの実施形態は、ユーザが正確に薬剤の識別を行うことができる識別支援システム、識別支援クライアント、及び識別支援方法を提供する。また、本発明は薬剤の識別に利用可能な識別支援サーバを提供する。
【課題を解決するための手段】
【0005】
上述した目的を達成するため、本発明の第1の態様に係る識別支援システムは、薬剤の画像を取得する画像取得部と、画像に含まれる文字列を文字ごとに抽出して文字列を示す第1のテキストを生成するテキスト化部と、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、第2のテキストを薬剤マスタと照合して、第2のテキストが示す薬剤の候補である候補薬剤についての識別情報を取得する照合部と、候補薬剤についての識別情報を出力する出力部と、を備える。
【0006】
第1の態様によれば、画像に含まれる文字列を文字ごとに抽出し、抽出したテキストを薬剤の識別に用いられる表現に基づいて修正し、その修正したテキストを薬剤マスタと照合するので、ユーザは正確に薬剤の識別を行うことができる。なお、第1の態様においてシステムの構成要素は一つの筐体に収納されていてもよいし、複数の筐体に分けて収納されていてもよい。また、複数の装置がネットワークを介して接続され全体として第1の態様の構成要件を満たしていてもよい。
【0007】
第2の態様に係る識別支援システムは第1の態様において、テキスト化部は、機械学習により構成された学習済みモデルを用いて文字列を抽出する。学習済みモデルは、ニューラルネットワークを用いた学習済みモデルでもよい。
【0008】
第3の態様に係る識別支援システムは第1または第2の態様において、画像に含まれる文字列を強調して文字列強調画像を生成する強調処理部をさらに備え、テキスト化部は文字列強調画像から第1のテキストを生成する。第3の態様によれば、画像から文字列を抽出する際の認識精度を向上させることができる。
【0009】
第4の態様に係る識別支援システムは第1から第3の態様のいずれか1つにおいて、照合部は、第2のテキストと文字情報との類似度を算出し、類似度に基づいて候補薬剤を選択する。第4の態様では、照合部は、類似度の算出において文字列同士の距離を考慮してもよい。
【0010】
第5の態様に係る識別支援システムは第1から第4の態様のいずれか1つにおいて、薬剤マスタは文字情報についてのレイアウト情報を有し、照合部はレイアウト情報に基づいて照合を行う。レイアウト情報は、段組の数(2段、3段、等)や配置(左上から右上へ、次いで左下へ、さらに右下へ、等)等の情報を含んでいてよい。照合部がレイアウト情報に基づいて照合を行うことにより、認識精度を向上させることができる。
【0011】
第6の態様に係る識別支援システムは第1から第5の態様のいずれか1つにおいて、薬剤マスタは識別情報と薬剤の画像とを関連付けて記憶し、出力部は候補薬剤について識別情報と画像とを関連付けて表示装置に表示させる。第6の態様によれば、ユーザは照合結果が適切であるかどうかを視覚により容易に判断することができる。なお、薬剤の画像は、薬剤自体ではなく薬剤の包装(PTPシート等)の画像でもよい。
【0012】
上述した目的を達成するため、本発明の第7の態様に係る識別支援クライアントは、薬剤の画像を取得する画像取得部と、画像に含まれる文字列を文字ごとに抽出して文字列を示す第1のテキストを生成するテキスト化部と、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正部と、第2のテキストを示す情報を識別支援サーバに送信するクライアント側送信部と、第2のテキストが示す薬剤の候補である候補薬剤について、薬剤のコード及び/または名称を含む識別情報を識別支援サーバから受信するクライアント側受信部と、候補薬剤についての識別情報を出力する出力部と、を備える。第7の態様によれば、ユーザは正確に薬剤の識別を行うことができる。なお、第7の態様に係る識別支援クライアントは第2~第6の態様に係る構成を備えていてもよい。
【0013】
上述した目的を達成するため、本発明の第8の態様に係る識別支援サーバは、薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと、薬剤についてのテキスト情報を識別支援クライアントから受信するサーバ側受信部と、テキスト情報を薬剤マスタと照合して、テキスト情報が示す薬剤の候補である候補薬剤についての識別情報を取得する照合部と、取得した識別情報を識別支援クライアントに送信するサーバ側送信部と、を備える。第8の態様に係る識別支援サーバは、薬剤の識別支援に用いることができる。なお、第8の態様に係る識別支援クライアントは第2~第6の態様に係る構成を備えていてもよい。また、第7の態様に係る識別支援クライアントと第8の態様に係る識別支援サーバとにより、第1の態様に係る識別支援システムと同様の識別支援システムを構成することができる。
【0014】
上述した目的を達成するため、本発明の第9の態様に係る識別支援方法は、薬剤の画像を取得する画像取得工程と、画像に含まれる文字列を文字ごとに抽出して文字列を示す第1のテキストを生成するテキスト化工程と、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成するテキスト修正工程と、薬剤のコード及び/または名称を示す識別情報と、薬剤に付された文字を示す文字情報と、がテキストとして記憶された薬剤マスタと第2のテキストとを照合して、第2のテキストが示す薬剤の候補である候補薬剤についての識別情報を取得する照合工程と、候補薬剤についての識別情報を出力する出力工程と、を有する。第9の態様によれば、第1の態様と同様に、ユーザは正確に薬剤の識別を行うことができる。なお、第9の態様に係る識別支援方法は第2~第6の態様と同等の構成を備えていてもよい。また、これら態様の識別支援方法を識別支援システムやコンピュータに実行させるプログラム、及び斯かるプログラムのコンピュータ読み取り可能なコードを記録した非一時的記録媒体も、本発明の態様として挙げることができる。
【0015】
なお、上述した態様の識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法は、薬剤の鑑別支援及び/または監査支援に用いることができる。
【発明の効果】
【0016】
以上説明したように、本発明の識別支援システム、識別支援クライアント、及び識別支援方法によれば、ユーザは正確に薬剤の識別を行うことができる。また、本発明の識別支援サーバは、薬剤の識別に利用可能である。
【図面の簡単な説明】
【0017】
【
図1】
図1は、第1の実施形態に係る識別支援システムの構成を示す図である。
【
図3】
図3は、記憶部に記憶される情報を示す図である。
【
図4】
図4は、第1の実施形態に係る識別支援方法の処理を示すフローチャートである。
【
図5】
図5は、照合処理を示すフローチャートである。
【
図6】
図6は、薬剤に付された刻印等の例を示す図である。
【
図7】
図7は、第2の実施形態に係る識別支援システムの構成を示す図である。
【
図8】
図8は、クライアント処理部の機能ブロック図である。
【
図9】
図9は、クライアント記憶部に記憶される情報を示す図である。
【
図11】
図11は、サーバ記憶部に記憶される情報を示す図である。
【
図12】
図12は、第2の実施形態に係る識別支援方法の処理を示すフローチャートである。
【
図13】
図13は、第2の実施形態に係る識別支援方法の処理を示す他のフローチャートである。
【発明を実施するための形態】
【0018】
以下、添付図面を参照しつつ、本発明に係る識別支援システム、識別支援クライアント、識別支援サーバ、及び識別支援方法の実施形態について詳細に説明する。
【0019】
<第1の実施形態>
図1は第1の実施形態に係る識別支援システム10(識別支援システム)の構成を示すブロック図である。識別支援システム10は薬剤の識別を支援するシステムであり、コンピュータを用いて実現することができる。
図1に示すように、識別支援システム10は処理部100、照明部120、撮影部130、記憶部200、表示部300、及び操作部400を備え、互いに接続されて必要な情報が送受信される。照明部120は薬剤を照明する光源を備え、撮影部130は薬剤の画像を取得するカメラを備えている。また、識別支援システム10は通信制御部114(
図2参照)及び不図示のネットワークを介して不図示の外部サーバや外部データベース等に接続し、必要に応じて情報(薬剤の識別情報や画像等)を取得することができる。
【0020】
なお、識別支援システム10は、患者が持参した薬剤等に対する鑑別の支援や、患者に提供する薬剤に対する監査の支援に適用することができる。
【0021】
<処理部の構成>
図2は処理部100の構成を示す図である。処理部100は画像取得部102(画像取得部)、強調処理部104(強調処理部)、テキスト化部106(テキスト化部)、テキスト修正部108(テキスト修正部)、照合部110(照合部)、出力部112(出力部)、及び通信制御部114を備える。処理部100は、さらに不図示のCPU(CPU:Central Processing Unit)、ROM(ROM:Read Only Memory)、及びRAM(RAM:Random Access Memory)を備える。なお、これらの各部による処理はCPUの制御の下で行われる。
【0022】
上述した処理部100の各部の機能は、各種のプロセッサ(processor)を用いて実現できる。各種のプロセッサには、例えばソフトウェア(プログラム)を実行して各種の機能を実現する汎用的なプロセッサであるCPUが含まれる。また、上述した各種のプロセッサには、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)も含まれる。さらに、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路なども上述した各種のプロセッサに含まれる。
【0023】
各部の機能は1つのプロセッサにより実現されてもよいし、同種または異種の複数のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ、またはCPUとGPUの組み合わせ)で実現されてもよい。また、1つのプロセッサが複数の機能を実現してもよい。複数の機能を1つのプロセッサで構成する例としては、第1に、クライアント、サーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の機能として実現する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、システム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウェア的な構造として、上述した各種のプロセッサを1つ以上用いて構成される。さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
【0024】
上述したプロセッサあるいは電気回路がソフトウェア(プログラム)を実行する際は、実行するソフトウェアのコンピュータ(例えば、処理部100を構成する各種のプロセッサや電気回路、及び/またはそれらの組み合わせ)で読み取り可能なコードをROM等の非一時的記録媒体に記憶しておき、プロセッサがそのソフトウェアを参照する。非一時的記録媒体に記憶しておくソフトウェアは、本発明に係る識別支援方法を実行するためのプログラム(識別支援プログラム)を含む。プログラムのコードは、ROMではなく各種光磁気記録装置、半導体メモリ等の非一時的記録媒体に記録されていてもよい。ソフトウェアを用いた処理の際には例えばRAMが一時的記憶領域として用いられ、また例えば不図示のEEPROM(Electronically Erasable and Programmable Read Only Memory)に記憶されたデータを参照することもできる。
【0025】
<記憶部の構成>
記憶部200はDVD(Digital Versatile Disk)、ハードディスク(Hard Disk)、各種半導体メモリ等の非一時的記録媒体及びその制御部により構成され、
図3に示すように薬剤マスタ202(薬剤マスタ)、薬剤画像204(薬剤の画像)、照合結果206、及び追加学習用データ208が記憶される。この他に、薬剤の識別に用いられる表現を学習させた薬剤照合用辞書(後述)が記憶されていてもよい。薬剤照合用辞書は、例えば数字、アルファベット、会社名及びその略称等が変換候補として登録された辞書であり、これにより意図した単語が検索のキーワードとして入力される可能性を高めることができる。
【0026】
薬剤マスタ202には、薬剤のコード及び/または名称を含む識別情報と、薬剤に付された文字を示す文字情報と、が関連付けてテキスト情報として記憶されている。「コード」は例えばYJコード(英数字12桁で構成される個別医薬品コード)であり、名称は有効成分の容量を含んでいてもよい。また、「文字情報」は薬剤の刻印情報及び/または印字情報を含む。刻印及び印字については、薬剤の表面及び裏面のそれぞれについて情報を記憶することが好ましい。薬剤マスタ202は、薬剤の一般名称と個々の製品の情報、あるいは先発医薬品の情報と後発医薬品の情報とを関連付けて記憶してもよい。
【0027】
記憶部200は、薬剤画像204を薬剤マスタ202と関連付けて記憶する。薬剤画像204も、薬剤の表面及び裏面のそれぞれについて記憶することが好ましい。なお、記憶部200は、撮影画像や文字列強調画像を薬剤画像204として記憶することができる。
【0028】
<表示部及び操作部の構成>
表示部300はモニタ310(表示装置)を備えており、記憶部200に記憶された情報、処理部100による処理の結果等を表示することができる。操作部400は入力デバイスあるいはポインティングデバイスとしてのキーボード410及びマウス420を含んでおり、ユーザはこれらのデバイス及びモニタ310の画面を介して、本発明に係る識別支援方法の実行に必要な操作を行うことができる(後述)。モニタ310をタッチパネルにより構成し、ユーザがそのタッチパネルを介して操作を行えるようにしてもよい。
【0029】
<識別支援方法の処理>
以下、
図4,5のフローチャートを参照しつつ、上述した構成の識別支援システム10による識別支援方法について説明する。
【0030】
<画像の取得>
画像取得部102は、照明部120及び撮影部130を制御して、薬剤の画像を取得する(ステップS100:画像取得工程)。画像取得部102が照明方向を切り替えながら薬剤の画像を複数撮影し、強調処理部104が、撮影した画像に含まれる文字列(刻印、印字等)を強調して文字列強調画像を生成してもよい。また、画像取得部102及び通信制御部114が、ネットワークを介して接続された装置から画像を取得してもよい。なお、識別の精度を向上させるため、薬剤の画像は両面について取得することが好ましい。また、撮影する画像は薬剤の包装(PTP等)の画像でもよい。
【0031】
<テキストの生成>
テキスト化部106は、撮影した画像または文字列強調画像に含まれる文字列を文字ごとに抽出して、文字列を示す第1のテキストを生成する(ステップS110:テキスト化工程)。テキスト化(文字認識)の手法は特に限定されないが、機械学習により構成されたニューラルネットワーク等の学習済みモデル、例えばMask-RCNN(RCNN:Regions with Convolutional Neural Networks)を用いることができる。Mask-RCNNでは、入力画像の畳み込みにより得られた固定サイズの特徴量マップが全結合層と領域分割用の畳み込み層とに分岐して入力され、その畳み込み層でマスク領域が推定される。テキスト化部106は、機械学習により文字の中心を直接推定してから個々の文字範囲を特定してもよい。なお、テキスト化部106は画像に含まれる文字列のレイアウト(例えば、「左上から順次右上、左下、右下へ」、「二段組み」、「フリーレイアウト」等)を検出することが好ましく、この場合、薬剤マスタ202も文字列についてのレイアウト情報(文字情報についてのレイアウト情報)を有していることが好ましい(後述)。
【0032】
<テキストの修正>
ステップS110におけるテキスト化(文字認識)では、本来認識されるべき文字と異なる文字(テキスト)が出力される可能性がある。そこでテキスト修正部108は、第1のテキストを薬剤の識別に用いられる表現に基づいて修正して第2のテキストを生成する(ステップS120:テキスト修正工程)。具体的には、テキスト修正部108は、誤りを含む文字列(テキスト)と正しい文字列(テキスト)とを対にして学習させた学習済みモデルを用いてテキストを修正(第2のテキストを生成)することができる。このような学習済みモデルは、自然言語処理のアルゴリズムに基づいて、seq2seq(sequence to sequence)のような、RNN(Recurrent Neural Network)やLSTM(Long Short Term Memory)を利用したニューラルネットワークにより構成することができる。seq2seqは「語句の並び」(本発明においては、誤りを含んだ文字列)を入力して、別の「語句の並び」(正解の文字列)を出力する(置き換える)ルールを学習するモデルであり、機械翻訳等で利用される。
【0033】
RNNは入力層、隠れ層、及び出力層を有し、隠れ層が現在の時刻(時刻t)の状態を示す第1の隠れ層と過去の時刻(時刻t-1)の状態を示す第2の隠れ層とを有する点で他のニューラルネットワーク(畳み込みニューラルネットワーク等)と異なる。RNNによる学習済みモデルは、時刻t-1における隠れ層の状態を保持して次の時刻tの入力に使うことにより、自然言語のように時系列的に入力される情報の過去の履歴(文字や単語の前後関係)を利用した推定を行うことができる。
【0034】
また、LSTMはRNNの一種であり、RNNの中間層のユニットを「LSTMブロック」と呼ばれる「メモリと3つのゲートを持つブロック」に置き換えることで実現することができる。LSTMでは、通常のRNNでは学習が困難な長期的な依存関係(long-term dependencies;遠く離れた文字や単語の関係性)を学習することができる。
【0035】
例えば、薬剤に付された刻印が「FF284」である場合(
図6の(a)部分の例を参照)、ステップS110でのテキスト化の結果が「F」、「F」、「2」、「日」、「4」(「F」はアルファベット、「2」及び「4」は数字、「日」は漢字)であったと仮定する。この場合、テキスト修正部108は、自然言語処理により「『日』の前後が数字なので、『日』は数字かアルファベットの誤りである」と判断し、「日」を「8」または「B」に修正することが考えられる。
【0036】
なお、テキスト修正部108は第1、第2のテキストに対する修正を受け付け、受け付けた修正に基づいて上述した学習済みモデルや薬剤照合用辞書(後述)に追加学習を実行させてもよい。
【0037】
<照合>
照合部110(照合部)は、第2のテキストを薬剤マスタ202と照合して、第2のテキストが示す薬剤の候補である候補薬剤についての識別情報を取得する(ステップS130:照合工程)。照合部110は、第2のテキストと薬剤マスタ202の文字情報(第3のテキスト)との類似度を算出し(
図5のステップS132)、類似度に基づいて候補薬剤を選択する。類似度を示す指標としては、レーベンシュタイン距離、Damerau-Levenshtein距離、ハミング距離、ジャロ・ウィンクラー距離等を用いることができる。なお、照合部110は、第2のテキストを正規化して正規化テキストを生成し、正規化テキストを用いて照合を行ってもよい(照合工程、正規化工程)。照合部110は、「正規化」として例えば大文字から小文字へ、全角から半角へ、漢字及び/またはひらがなからカタカナへ、の変換(またはこれら変換の逆)を行うことができ、これによりテキストの表現を統一して検索精度を向上させることができる。照合部110は、薬剤マスタ202における識別情報の表現形式(大文字と小文字のいずれを用いているか、等)に合わせた変換を行うことが好ましい。
【0038】
<文字列の構成に応じた照合>
薬剤に付される文字列(刻印、印字)の構成(レイアウトや文字の種類等)は様々なタイプが存在する。そのため、文字列の構成に応じた照合手法を用いることが好ましい。
図6は薬剤に付された文字列の例を示す図である。
図6の(a)部分は、文字列が英文字で1~4字程度の識別コード及び数字で2~4桁程度の識別コードにより構成される例である。この例では文字の長さが短く、テキストとしては情報量が短いため、文字列の並びが正確に抽出されることが要求される。このため、テキスト化部106が、画像に含まれる文字列のレイアウトに基づいて、認識されたそれぞれの文字から文字列を構成する。
図6の(b)部分のように数字のみの場合(あるいは文字のみの場合)も同図の(a)部分と場合と同様である。
【0039】
図6の(c)部分は薬剤にマーク(この場合、星印)及び数字が付された例である。マークはテキストではないため、この場合マークをあらかじめ特殊な文字列で表現する規則を定義しておくことが好ましい。例えば、星印(star)をエスケープ文字「¥」を用いて「¥S」と表現し、「¥S」を一つの文字として通常文字と同様に扱うことができる。
【0040】
図6の(d)部分及び(e)部分は、文字列が複数の段で構成され情報量が豊富な例である。このような場合、文字数が多いため、テキストの並びが本来と異なって抽出されたとしても、文字種別にカウントする方法が有効である。例えば、照合部110は、同図の(e)部分に示す例において画像から抽出された文字列が「カサタアODナ10FF」と抽出された場合、文字列の順序を無視して「カ」が1つ、「サ」が1つ、「タ」が1つ、「ア」が1つ、「O」が1つ、「D」が1つ、「ナ」が1つ、「1」が1つ、「0」が1つ、「F」が2つ、とカウントする。照合部110は、同様に薬剤マスタ202の文字情報についても文字列の順序を無視して両者の一致性を調べる。
【0041】
<キーワードの文字数を考慮した類似度の算出>
薬剤の識別を行う場合、文字が判定不能で照合に使えない場合や、錠剤または包装(PTPシート等)の分割等で文字列が短くなる場合がある。この場合、長い薬剤名よりも短い薬剤名の方がキーワードとの類似度が相対的に高くなり、適切な検索結果が得られない可能性がある。そこで、識別支援システム10では、以下のようにキーワードの文字数を考慮して類似度を算出することができる。具体的には、照合部110は、「修正後のテキスト(第2のテキスト)の文字数」が「薬剤マスタ202に記憶されたテキスト情報(第3のテキスト)の文字数」未満である場合、第3のテキストから第2のテキストと同じ長さの文字列を抜き出し、抜き出した文字列と第2のテキストとの類似度を算出し、類似度が最大の場合の値を利用する(ステップS130:照合工程)。一方、「修正後のテキストの文字数」が「薬剤マスタ202に記憶されたテキスト情報の文字数」以上である場合、照合部110は文字列の抽出を行わずに類似度を算出する(ステップS130:照合工程)。このように、キーワードの文字数を考慮した類似度の算出により、正確な検索結果が得られやすくなる。
【0042】
<候補薬剤の絞り込み>
図5は候補薬剤の絞り込みを示すフローチャート(
図4のフローチャートにおけるステップS130の部分:照合工程)である。照合部110は類似度を算出して(ステップS132)、類似度がしきい値以上の薬剤を候補薬剤として選択する(ステップS133)。そして、照合部110は、候補薬剤が複数存在するか否か(ステップS134)及び候補薬剤が複数存在する場合に絞り込みを行うか否か(ステップS136)を判断する。照合部110は、例えば撮影画像(あるいは文字列強調画像)と薬剤マスタ202のマスタ画像とのテンプレートマッチングにより絞り込みを行うことができる(ステップS138)が、他の方法で絞り込みを行ってもよい。照合部110は、絞り込みを行うか否かを、操作部400を介したユーザの操作に応じて判断することができる。また、照合部110は、絞り込みを行わず類似度がしきい値以上の薬剤を全て候補薬剤として選択してもよい(ステップS136でNOの場合、ステップS139へ)。照合部110は、最終的な候補薬剤について識別情報及び画像を取得する(ステップS139)。
【0043】
<識別情報及び画像の表示>
出力部112(出力部)は、候補薬剤についての照合結果(識別情報及び画像)をモニタ310(表示装置)に表示(出力)させる(
図4のステップS140:出力工程)。識別情報(薬剤のコード及び/または名称)及び画像を表示することで、ユーザは候補薬剤が適切であるか否か(照合が適切であるか否か)を容易に把握することができる。識別支援システム10(照合部110)は、「候補薬剤が適切でない」と判断した場合(ステップS150でNO)、及び「全薬剤についての照合が終了していない」と判断した場合(ステップS160でNO)は、ステップS100に戻って処理を繰り返す。識別支援システム10は、操作部400を介したユーザの操作に基づいてこれらの判断を行うことができる。
【0044】
<追加学習用データの生成>
テキスト修正部108(テキスト修正部)は、第1,第2のテキストに対する修正を受け付け、上述した第1,第2のテキストの生成用の学習済みモデルに対し、受け付けた修正に基づいて追加学習を実行させてもよい。また、テキスト修正部108は、後述する薬剤照合用辞書を更新してもよい。テキスト修正部108は、第1,第2のテキストに対する修正を受け付けた場合は、受け付けた修正の内容に応じて追加学習用データ208を生成する(ステップS170:データ生成工程)。テキスト修正部108は、追加学習用データを生成するごとに追加学習を行わせてもよいし、定期的に、あるいは操作部400を介したユーザの指示に応じて随時行わせてもよい。このような追加学習により、第1,第2のテキストの生成精度を向上させることができる。
【0045】
<第1の実施形態の効果>
以上説明したように、第1の実施形態に係る識別支援システム10及び識別支援方法によれば、ユーザは正確に薬剤の識別を行うことができる。
【0046】
<辞書の参照によるテキストの修正>
上述した第1の実施形態では、テキスト修正部108が学習済みモデルを用いて文字認識の結果(第1のテキスト)を修正する態様について説明したが、本発明の識別支援システムでは、テキスト修正部108は、薬剤の識別に用いられる表現を学習させた薬剤照合用辞書を参照して第1のテキストを修正して第2のテキストを生成してもよい(テキスト修正工程)。薬剤照合用辞書は、薬剤の識別に用いられる単語が変換候補として登録された変換辞書であり、例えば数字、アルファベット、薬剤名、製薬会社名及びその屋号や略称等が登録される。これらの情報は刻印及び/または印字、包装への印刷やラベル貼付等により薬剤に付される場合があり、薬剤照合用辞書への登録により、意図した単語を照合(検索)のキーワードとして入力して正確な照合(検索)を行うことができる。
【0047】
<第2の実施形態>
図7は、本発明の第2の実施形態に係る識別支援システム20(識別支援システム)の構成を示す図である。識別支援システム20は全体として第1の実施形態に係る識別支援システム10と同様の機能を有するが、システムが識別支援クライアント11(識別支援クライアント)と識別支援サーバ30(識別支援サーバ)とを含んで構成される点で第1の実施形態と異なる。なお、識別支援システム20に関し、第1の実施形態に係る識別支援システム10と共通する構成には同一の参照符号を付し、詳細な説明を省略する。
【0048】
<識別支援クライアントの構成>
識別支援クライアント11は処理部101と、照明部120と、撮影部130と、記憶部201と、表示部300と、操作部400を備え、後述するように薬剤画像に対する文字認識(テキスト化)や識別支援サーバ30との間のデータ送受信、結果表示等を行う。識別支援クライアント11はパーソナルコンピュータ等のコンピュータやスマートフォン等の携帯端末を用いて実現することができ、タッチパネル型のモニタを用いることにより表示部300と操作部400とを一体として構成してもよい。
【0049】
図8は処理部101の機能構成を示す図である。処理部101は、画像取得部102(画像取得部)と、強調処理部104(強調処理部)と、テキスト化部106(テキスト化部)と、テキスト修正部108(テキスト修正部)と、出力部112(出力部)と、クライアント側送信部116(クライアント側送信部)と、クライアント側受信部118(クライアント側送信部)と、を備える。これら各部は、処理部100について上述したのと同様に各種のプロセッサや電気回路を用いて実現することができ、プロセッサあるいは電気回路がソフトウェア(プログラム)を実行する際は、ROM、RAM等が用いられる。
【0050】
図9は記憶部201の構成を示す図である。記憶部201には、薬剤画像204(撮影画像、文字列強調画像、サーバから取得した候補薬剤の画像(後述)等)と照合結果206が記憶される。記憶部201は、照合結果206を第1,第2のテキストと関連付けて記憶してもよい。
【0051】
<識別支援サーバの構成>
識別支援サーバ30はクラウドCL(
図7参照)上のサーバであり、サーバ本体500と記憶部510とを有する。サーバ本体500は、
図10に示すように照合部502(照合部)と、サーバ側出力部504(サーバ側出力部)と、サーバ側送信部506(サーバ側送信部)と、サーバ側受信部508(サーバ側受信部)と、を備える。
図11に示すように、記憶部510には薬剤マスタ512(
図3の薬剤マスタ202と同様)及び薬剤画像514(
図3の薬剤画像204と同様)が記憶される。
【0052】
<識別支援方法の処理>
図12~13は第2の実施形態に係る識別支援方法の処理を示すフローチャートである。これらの図の左側は識別支援クライアント11における処理を示し、右側は識別支援サーバ30における処理を示す。識別支援クライアント11の画像取得部102及びテキスト修正部108は、第1の実施形態について上述したステップS100~S120と同様にステップS200~S220の処理(薬剤画像の取得、文字認識による第1のテキストの生成、テキスト修正による第2のテキストの生成;画像取得工程、テキスト化工程、テキスト修正工程)を実行する。テキスト化部106及びテキスト修正部108は、第1の実施形態と同様に学習済みモデルを用いてテキストを生成、修正することができるが、変換辞書を用いてもよい。クライアント側送信部116は薬剤についてのテキスト情報(照合用テキスト;第2のテキスト)を識別支援サーバ30に送信し(ステップS230)、識別支援サーバ30のサーバ側受信部508(サーバ側受信部)はそのテキスト情報を受信する(ステップS400)。
【0053】
照合部502は、上述したステップS130~S140と同様に、受信したテキスト情報(第2のテキスト)と薬剤マスタ512のテキスト情報とを照合して候補薬剤についての識別情報及び画像を取得する(ステップS410;照合工程)。サーバ側送信部506は照合結果(候補薬剤の識別情報及び画像)を識別支援クライアント11に送信し(ステップS420)、クライアント側受信部118が照合結果を受信して(ステップS240)、出力部112が候補薬剤についての識別情報及び画像をモニタ310(表示装置)に表示させる(ステップS250:出力工程)。識別支援クライアント11は、上述したステップS150~S160と同様に、全薬剤についての処理が終了するまで(ステップS270でYESになるまで)ステップS200~S250の処理を繰り返す。
【0054】
なお、第2の実施形態では識別支援サーバ30が識別支援クライアント11に候補薬剤の画像を送信する場合について説明しているが、画像の送受信に関し他の構成を採用してもよい。具体的には、識別支援サーバ30から識別支援クライアント11に画像の格納先を示すURL(Uniform Resource Locator)を送信し、識別支援クライアント11の出力部112が指定されたURLから画像をダウンロードする構成を採用することができる。この場合、画像の格納先は記憶部510でもよいし、その他の記憶装置でもよい。出力部112は、取得した画像を記憶部200に記憶することができる。また、第2の実施形態では識別支援サーバ30の記憶部510が薬剤の画像(薬剤画像514)を保持(記憶)する場合について説明しているが、識別支援クライアント11の処理能力が十分である場合は、識別支援クライアント11の記憶部201が薬剤の画像を保持(記憶)してもよい。
【0055】
識別支援クライアント11のテキスト修正部108は、上述したステップS170と同様に追加学習用データを生成する(ステップS280)。
【0056】
以上説明したように、第2の実施形態に係る識別支援システム(識別支援クライアント、識別支援サーバ)及び識別支援方法においても、第1の実施形態と同様にユーザは正確に薬剤の識別を行うことができる。
【0057】
以上で本発明の実施形態に関して説明してきたが、本発明は上述した態様に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能である。
【符号の説明】
【0058】
10 識別支援システム
11 識別支援クライアント
20 識別支援システム
30 識別支援サーバ
100 処理部
101 処理部
102 画像取得部
104 強調処理部
106 テキスト化部
108 テキスト修正部
110 照合部
112 出力部
114 通信制御部
116 クライアント側送信部
118 クライアント側受信部
120 照明部
130 撮影部
200 記憶部
201 記憶部
202 薬剤マスタ
204 薬剤画像
206 照合結果
208 追加学習用データ
300 表示部
310 モニタ
400 操作部
410 キーボード
420 マウス
500 サーバ本体
502 照合部
504 サーバ側出力部
506 サーバ側送信部
508 サーバ側受信部
510 記憶部
512 薬剤マスタ
514 薬剤画像
CL クラウド
S100~S420 識別支援方法の各ステップ