(58)【調査した分野】(Int.Cl.,DB名)
薬剤の複数回の送達が前記ビデオに記録されているという決定に応答して、前記ビデオでの前記薬剤用量インジケータの少なくとも第2の画像に対する光学文字認識を使用して識別された少なくとも1つの文字に基づいて、少なくとも第2の薬剤用量を決定する工程と、
前記決定された薬剤用量および前記決定された第2の薬剤用量に基づいて、ユーザによって受け取られる全体の薬剤用量を決定する工程と
を含む請求項2に記載の方法。
薬剤の複数回の送達が前記ビデオに記録されているという決定に応答して、前記薬剤の複数回の送達が1回またはそれ以上のプライムショットを含むかどうかを決定する工程を
含む請求項2または3に記載の方法。
プロセッサによって実行されたとき、プロセッサに請求項1〜6のいずれか1項に記載の方法を行わせるようにするコンピュータ可読命令を含む、電子データ収集デバイス上で実行されるコンピュータプログラム。
処理構成は、前記ビデオでの前記薬剤用量インジケータの少なくとも第2の画像に対する光学文字認識を使用して識別された少なくとも1つの文字に基づいて、少なくとも第2の薬剤用量を決定し、前記決定された薬剤用量および前記決定された第2の薬剤用量に基づいて、ユーザによって受け取られる全体の薬剤用量を決定することによって、薬剤の複数回の送達が前記ビデオに記録されているという決定に応答するように構成される請求項11に記載のデータ収集装置。
前記処理構成は、前記薬剤の複数回の送達が1回またはそれ以上のプライムショットを含むかどうかを決定することによって、薬剤の複数回の送達が前記ビデオに記録されているという決定に応答するように構成される請求項11または12に記載のデータ収集装置。
【発明を実施するための形態】
【0021】
以下、インスリン注射デバイスに関して本発明の実施形態を説明する。しかし、本発明はそのような用途に限定されず、本明細書で上述したように、他の薬剤を吐出する注射デバイスまたは他のタイプの薬剤送達デバイスと共に等しく十分に展開される。
【0022】
図1aは、注射デバイス1の分解図であり、注射デバイス1は、この特定の例では、SanofiのSolostar(登録商標)インスリン注射ペンを表す。
【0023】
図1aの注射デバイス1は、ハウジング10を含み、インスリン容器14を含む事前充填型の使い捨て注射ペンであり、インスリン容器14に針15を取り付けることができる。針は、内側ニードルキャップ16および外側ニードルキャップ17によって保護され、外側ニードルキャップ17は、キャップ18によってカバーすることができる。注射デバイス1から吐出予定のインスリン用量は、投薬量ノブ12を回すことによって選択することができ、次いで、選択された用量は、例えばいわゆる国際単位(IU)の倍数で投薬量窓13を通して表示され、ここで、1IUは、約45.5マイクログラム(1/22mg)の純粋な結晶性インスリンの生物学的等量である。投薬量窓13に表示される選択された用量の一例は、
図1aに示されるように、例えば30IUでよい。選択された用量を別の形で同様に表示することもできることに留意すべきである。
【0024】
投薬量窓13は、ハウジング10のアパーチャの形態でよく、投薬量ノブ12が回転されるときに動くように構成された数字スリーブ70の限られた部分をユーザが閲覧することを可能にする。投薬量窓13に表示された数字の画像の撮影を容易にするために、数字スリーブ70は艶消し面を有することがある。
【0025】
ハウジング10にはラベル19が設けられている。ラベル19は、薬剤を識別する情報を含めて、注射デバイスに含まれる薬剤に関する情報を含む。薬剤を識別する情報は、テキストの形でよい。薬剤を識別する情報は、色の形でもよい。例えば、ラベル19は、背景を有してもよく、または注射デバイスに提供された薬剤の特定のタイプに対応する色を有するボーダー線など陰付き要素を含むことができる。代替として、または追加として、ラベルは、そのような情報を記憶するRFIDタグまたは同様のデバイスを含むことができる。
【0026】
注射ボタン11または投薬量ノブ12など注射デバイスの1つまたはそれ以上の部品を、薬剤に対応する色を有する材料から形成することもできる。場合により、注射デバイス1のインスリン容器(図示せず)の一部は、薬剤タイプを示すカラーコード化された部分を含んでいてよく、投薬量窓13を通して閲覧可能でよい。追加として、または代替として、薬剤を識別する情報は、バーコードまたはQRコード(登録商標)などに符号化される。薬剤を識別する情報は、白黒パターン、カラーパターン、または陰影の形でもよい。
【0027】
投薬量ノブ12を回すと、機械的なクリック音が、ユーザに音響フィードバックを提供する。数字付きスリーブ70は、インスリン容器14にあるピストンと機械的に相互作用する。針15が患者の皮膚部分に刺され、次いで注射ボタン11が押されるとき、投薬量窓13に表示されたインスリン用量が注射デバイス1から吐出される。注射ボタン11が押された後、特定の時間にわたって注射デバイス1の針15が皮膚部分に留まるとき、用量の高いパーセンテージが患者の体内に実際に注射される。インスリン用量の吐出も機械的なクリック音を引き起こし、しかしこの音は、投薬量ノブ12を使用するときに発生される音とは異なる。
【0028】
注射デバイス1は、インスリン容器14が空になるか、注射デバイス1の有効期限(例えば最初の使用から28日)に達するまで、数回の注射プロセスにわたって使用される。
【0029】
さらに、最初に注射デバイス1を使用する前に、針15を上向きにして注射デバイス1を保持しながら、例えば2IUのインスリンを選択して注射ボタン11を押すことによって、インスリン容器14および針15から空気を除去するためにいわゆる「プライムショット」を行うことが必要なことがある。提示を簡単にするために、以下では、吐出される用量が注射される用量に実質的に対応すると例示的に仮定し、したがって、例えば、次に注射予定の用量に関する提案を行うとき、この用量は、注射デバイスによって吐出しなければならない用量に等しい。それにも関わらず、当然、特に「プライムショット」に関して、吐出される用量と注射される用量との差(例えば損失)が考慮に入れられる。
【0030】
図1bは、注射デバイス1の端部の拡大図である。
図1に示される特定の例では、位置特定リブ71が、閲覧窓13と投薬量ノブ12との間に位置されている。
【0031】
図2は、本発明の一実施形態によるデータ収集デバイス20のブロック図であり、このデータ収集デバイス20は、
図1の注射デバイス1から、インスリンのタイプ、投薬量、注射のタイミングなどのデータを収集するために使用される。
【0032】
データ収集デバイス20は、内蔵ビデオカメラ21と処理構成22とを含む電子デバイスであり、処理構成22は、マイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)など、1つまたはそれ以上のプロセッサを含む。この特定の例では、データ収集デバイス20は、ユーザの視点からの画像を記録するためにユーザによって装着されるビデオカメラデバイス、または眼鏡に取り付けられる、もしくは他の形でユーザの頭部または身体に装着される計算デバイスなど、ウェアラブル電子デバイスである。
【0033】
また、データ収集デバイス20は、読み出し専用メモリ23およびランダムアクセスメモリ24を含むメモリユニット23、24を含み、これらのメモリユニット23、24は、処理構成22によって実行するためのソフトウェアを記憶することができる。また、データ収集デバイス20は、携帯電話ネットワーク、パーソナルエリアネットワーク、ローカルワイヤレスネットワークまたはWLAN、およびインターネットのうちの1つまたはそれ以上との双方向通信を可能にするために、アンテナ25および送受信機26などの通信機器25、26を含む。さらに、データ収集デバイス20は、キーパッド27および/またはマイクロホン28などの入力構成27、28と、スピーカ29および/またはディスプレイ30などの出力構成29、30とを含む。いくつかの実施形態では、入力構成は、タッチ要素または「タッチパッド」の形態で、またはディスプレイ31の一部または全体を利用するタッチスクリーンの一部として、キーパッド27を含むことがある。入力構成は、代替として、または追加として、データ収集デバイス20の動きを検出するための1つまたはそれ以上の加速度計などの運動センサ構成31を含むことがある。また、データ収集デバイス20は、ビデオカメラ21、処理構成22、メモリユニット23、24、通信機器25、26、入力構成27、28、31、および出力構成29、30との間の通信を可能にする通信バス32も含む。
【0034】
データ収集デバイス20のメモリユニット23、24に記憶されているソフトウェアは、コンピュータ可読命令を含み、これらのコンピュータ可読命令は、処理構成22によって実行されるとき、データ収集デバイス20にビデオを記録させ、ビデオを処理させて、注射デバイス1内の薬剤のタイプ、注射デバイス1によって送達される用量、および場合により薬剤の送達時間に関するデータを得られるようにする。ソフトウェアは、インターネットを介してライブラリまたはストアからダウンロードされるソフトウェアアプリケーションまたは「アプリ」の形態で提供することができる。
【0035】
次に、
図3〜9を参照して、本発明の一実施形態による例示的な方法を述べる。
【0036】
図3の工程s3.0から始めて、ビデオカメラ21は、投薬量窓13を含む注射デバイス1の少なくとも一部の画像の記録(工程s3.1)を開始するように制御される。いくつかの実施形態では、アプリは、処理構成22が、カメラ21の視野の「ライブビュー」に基づいてカメラ21に対する注射デバイス1の位置決めに関する命令を提供することによって、ビデオが記録されている間にユーザにガイダンスの提供するように構成される。例えば、アプリは、投薬量窓13への良好な合焦を得ることができる距離にカメラ21を位置決めするようにユーザをガイドするように構成される。特定の実施形態では、カメラと注射デバイス1との距離が約30cmであるときに、そのような合焦が実現される。
【0037】
さらに、薬剤情報がラベル19など注射デバイス1の別の部分にのみ含まれている場合、アプリによって、処理構成22は、ディスプレイ29にメッセージを提供することおよび/またはスピーカ30を介して告知を提供することによって、注射デバイス1のその部分を含むようにデータ収集デバイス20、33のユーザに命令することがある。
【0038】
次いで、この実施形態では、処理構成22は、前処理(工程s3.2)を行って、以下の工程を実行することによってビデオデータ品質を査定し、必要であれば改善する:
・欠陥および不良画素の補正
・光補正
・歪曲
・ジッタ
【0039】
例えば、露出制御アルゴリズムは、ビデオカメラ21に関する露出パラメータを制御することによって、および/または、例えばデータ収集デバイス20がフラッシュユニット(図示せず)を含む実施形態において提供される場合には追加の照明を制御することによって、明るすぎるまたは暗すぎる画像を補正するようにビデオカメラ21の動作を調節することができる。前処理は、場合によって採用される機能であることに留意されたい。アプリは、画像の前処理なしで所要の規格に合うように動作するように設計することもできる。
【0040】
注射デバイス1とビデオカメラ21との距離は固定されず、カメラ21に対する投薬量窓13および(提供される場合には)ラベル19の向きも変化し得る。これに鑑みて、処理構成22は、投薬量窓13に表示される文字のサイズが所定の範囲内になるように、ビデオ記録での画像のスケールを調節する(工程s3.3)。
【0041】
さらに、処理構成22は、カメラに対する注射デバイス1の向きに基づく投薬量窓13に表示される文字の歪み、および/または投薬量窓13に表示される文字の任意の傾きを補正することによって、ビデオ記録での画像を調節することができる(工程s3.4)。例えば、投薬量窓13での数字は、ユーザによる認識および位置決めを容易にするために傾けられるが、その傾きがなくされる場合、データ収集デバイス20によって復号するのがより容易になることがある。
【0042】
スケールおよび歪みの調節は、所定の形状および/またはサイズの注射デバイス1の特徴の分析に基づくことがある。例えば、処理構成22は、投薬量窓13、ラベル19、注射デバイス1でのロゴ(図示せず)、および/または画像内の注射デバイス1の他の特徴を識別し、それらの特徴の予想される形状および/またはサイズに関する情報に基づいて、ビデオカメラ21によって撮影された画像のスケールおよび位置合わせを調節し、画像に含まれるテキストおよび数字の歪みを補正する。
【0043】
いくつかの実施形態では、アプリは、投薬量窓13と、薬剤情報を含むラベル19など注射デバイス1の特定の部分とがビデオ画像に含まれているかどうかを決定するように処理構成22を制御することもある(工程s3.5)。この決定は、画像での注射デバイス1のスケールと、画像での注射デバイス1の1つまたはそれ以上の部分の位置とに基づくことがある。アプリは、場合により、注射デバイス1の関連する部分がビデオカメラ21の視野内にあるように、ビデオカメラ21に対する注射デバイス1の位置決めを調節するようにユーザにガイダンスを提供することがある。
【0044】
次いで、処理構成22は、アプリに含まれる光学文字認識(OCR)ソフトウェアを使用して、ビデオ記録からの投薬量窓の少なくとも1つの画像から文字を認識することを試み(工程s3.6)、投薬量窓13に表示された数字または他の投薬量標示を決定する(工程s3.7)。
【0045】
図4および5は、投薬量窓13の一部分を示し、表示される数字の例を示す。
図4では、数表示34(この場合は6IUを示す数字6)が投薬量窓13の中央に表示されるように用量が注射デバイス1にダイヤル設定されている。
図5では、7IUの投薬量が注射デバイス1にダイヤル設定され、数字6および8をそれぞれ表す数表示35、36が共に用量窓13に表示され、これらの数字の間のスペースが用量窓13の中央領域を占める。この特定の実施形態では、処理構成22は、
図4および5に示した状況の両方が正確に復号されるようにするアルゴリズムを実行するように構成される。
【0046】
OCRプロセスは、以下の工程を含む:
・2値化
・セグメント化
・パターンマッチング
・位置計算
【0047】
センサデバイス2の高信頼性要件により、いくつかの実施形態では、並列に動作される2つのOCRアルゴリズムが存在し得る。2つのOCRアルゴリズムは同じ入力(画像)を有し、同じ出力を提供することを意図される。どちらも同様の工程を行うが、各工程で使用される個々の方法は異なることがある。これら2つのOCRアルゴリズムは、2値化、セグメント化、パターンマッチング、および位置計算工程の1つ、またはこれらの工程の複数で異なることがある。同じ結果を提供するために異なる方法を使用する2つのOCR部分を有することにより、2つの独立した方法でデータが処理されるので、アルゴリズム全体の信頼性が向上する。
【0048】
OCRプロセスでは、ビデオカメラ21によって取得され、上述したように調節されたカラーまたはグレースケール画像が、2値化プロセスによって、
図6に示されるような純粋に白黒の画像37に変換される。投薬量窓での明るい背景に暗色の数字が提示される例では、白黒画像は、
図6の例に示されるように、黒い画素で数表示38、39の存在を示し、白い画素で数表示の不在を示す。いくつかの実施形態では、黒い画素と白い画素を分けるために固定閾値が使用される。2値化されたピクチャにおいて、閾値以上の値を有する画素は白になり、閾値未満の画素は黒になる。高い閾値はアーチファクト(白い領域内の黒い部分)をもたらし、低い閾値は、いくつかの場合には数字の一部が欠落するリスクを有する。いくつかの実施形態では、アルゴリズムは一般にアーチファクトに対してロバストである(すなわち、いくらかのアーチファクトがあっても正確なOCRプロセスを実施することができる)ので、閾値は、数字の一部が欠落しないように選択される。256のグレー値を用いて画像が分析された試験では、127の閾値が良好な結果を示した。
【0049】
例えば前処理で光補正が行われた場合、固定閾値の使用が可能である。光補正と固定閾値との組合せは、窓平均2値化と同様である。窓平均2値化は、画素値と、それが位置される領域の画素の平均値とを比較する。歪曲および傾き補正工程の前に光補正工程を実施することは、OCRプロセスに関する使用のためにより多くの情報が入手可能であることを意味し、これは、ピクチャの縁部および隅部でより良い結果をもたらすことが示されている。
【0050】
代替として、
図6に示される2値化画像37と同様の2値画像を生成するために、捕捉されたグレースケール画像に大津の閾値法が適用される。いくつかの代替実施形態では、2値化が省略され、アルゴリズムのOCR部分は、捕捉されたカラーまたはグレースケール画像に対して行われる。
【0051】
次いで、セグメント化が行われる。アルゴリズムのこの部分の目的は、画像でのそれぞれの見えているまたは一部見えている数字の正確な位置を決定することである。これを実現するために、アルゴリズムは、数表示の縁部を見出すことによって、見えている数字の境界を定義する。これは、一般に2工程で達成され、これらの工程は任意の順序で実施される。再び
図4および5を参照すると、処理構成22は、2値化画像37を構成する画素列が分析される「垂直投影」を行うことがある。各画素列が個別に分析され、各列の黒い画素の数の合計が計算される。いくつかの実施形態では、黒い画素を1つも有さない画素列のみが数字の縁部を定義する。代替として、汚れ、引掻き傷、および他の外乱を見込んで、黒い画素の数に関する低い閾値が設定される。隣接する列に関する差分値が計算され、最大の差を有する境界が数字の縁部を表す。さらに、数字の水平縁部を決定する助けとなるように、重なり合う列グループ(例えば隣接する3列)の画素内容が計算される。
【0052】
次いで、処理構成は、2値化画像37を構成する画素行が解析される「水平投影」を行う。これは、垂直投影に関して上述したのと同様に進行する。
【0053】
水平投影の予想される結果が垂直投影の結果に追加され、それにより、見えている数字の縁部が識別されるようにする。処理構成22は、数字全体の(画素行での)予想される高さを予めプログラムされ、それにより、一部見えている数字の存在を認識することが可能である。
【0054】
別の実施形態では、「水平投影」および「垂直投影」は、各行および列における白い画素の予想される数が既知であると仮定して白い画素の合計が計算される分析に基づくことがある。
【0055】
正確な位置を知ることは、OCRプロセスでの次の工程に関して、見えている数字を表す画像の部分のみを使用することを可能にする。これにより、数字以外の他の物、例えば汚れ、引掻き傷、および他の外乱の影響を低減することができる。さらに、後続の工程(例えばパターンマッチング工程)で処理される画素の総数も減少される。これは、資源要件を低減させる助けとなる。これは、性能を向上させる助けにもなる。さらに、正確な位置を知ることは、画像の中心に対する垂直位置の決定も支援する。
【0056】
OCRプロセスでの次の工程は、復号および識別されるように見えている数字の1つを選択することである。これは、数字の1つを「主数表示行」として指定することによって行われる。主数表示行は、見えている数字のどれが最大高さを有するかに基づいて選択される。これは、スリーブ70に印刷されている数字の全てがほぼ同じ高さを有し、最大高さを有する数字が完全に見え、したがって高い確実性で復号することが容易であると仮定することができるからである。
図7に示される例では、数字「6」は、上下に一部見えている数字よりも大きい高さを有し、したがって主数表示行として選択される。
図8に示される例では、数字「6」と「8」の両方が完全に見えており、同じ高さを有する。この場合、最上部の数字が主数表示行として選択される。主数表示行は、注射デバイス1にダイヤル設定された用量を決定するために後で使用される数字である。
【0057】
インスリンの自己投与用の標準的な注射デバイス1は、1〜80IUの任意の単位数の薬剤を注射することができる。したがって、主数表示行として識別された数字を適切に復号するために、その数字が1桁からなるか2桁からなるかを決定しなければならない。したがって、処理構成22は、一連の工程を行って、各数字が1桁からなるか2桁からなるかを決定し、2桁の場合には、数表示を互いに分離する。処理構成22は、この目的のために、前に計算された列画素情報を使用することがある。
図9に示される例では、9IUの薬剤が注射デバイス1にダイヤル設定されている。水平投影および垂直投影の予想される結果が示される。数字「10」は、数字「8」よりも大きい高さであり、したがって主数表示行として選択される。
【0058】
この後、処理構成22は、選択された主数表示行が予め定義された「最大数表示幅」値よりも広いかどうかを決定する。処理構成22は、捕捉された画像内の数字の予想されるサイズに関係する情報を予めプログラムされ、それにより、1桁に関する最大予想幅を定義することができる。信頼性を高めるために、最大幅は、最も広い数字よりも大きい少数の画素列分だけ広い幅として設定される。主数表示行の幅が最大数表示幅以下である場合、その行は1桁のみを含むと仮定される。主数表示行が1桁であるには広すぎる場合、(画像全体ではなく)主数表示行に対して第2の垂直投影が行われる。さらに、分離が生じるはずの点を予測するために、個々の桁それぞれの予想される幅が使用される。
【0059】
図9に示される例示的な視野900は、数字が十分に離隔されている図式表現である。他の構成では、利用可能なスペースが限られているため、および数字がユーザに可読である必要があるため、投薬量窓内で数字がかなり近接し合って表示される。したがって、2値化後、数字を構成する2つの桁を明確に分離することができないことがあり、すなわち、2つの桁の間に黒い画素を有さない列が存在しないことがある。これは、
図6に示される例示的な2値化画像の場合であり、上側の数表示38の「7」と「4」は、黒い画素を含まない画素列を間に有さない。この場合、やはり、個々の桁それぞれの予想される幅が、分離が生じるはずの点を予測するために使用される。予測された列が黒い画素を含む場合、最良の分離点を決定するために、この列と隣接する列との偏差が計算される。この状況では、選択された分離する列での黒い画素が左の桁に属するか右の桁に属するかは明らかでないので、それらの画素は無視される。これは、桁を正しく識別するためのOCRプロセスの信頼性に最小限の影響しか与えないことが示されている。
【0060】
次いで、主数表示行での数表示を識別するために、パターンマッチングプロセスが行われる。各数字に関するテンプレートがアプリによって予めプログラムされており、次いで、識別された数表示が、これらのテンプレートと比較される。単純な手法では、パターンマッチングを画素毎に行うことができる。しかし、これは高い計算力を必要とすることがあり、画像とテンプレートとの位置のばらつきが生じやすいことがある。テンプレートが使用される場合、アプリは、例えば、1つまたはそれ以上の数表示のサイズを変え、定義された画素領域に合わせて数字をトリミングし、イタリック体で印刷された数字を変形して直立させることによって、画像の数字に対する他のタイプの操作を処理構成22に行わせるように構成される。これらの操作は、記憶されているテンプレートとのパターンマッチング比較の前に行われる。代替として、これらの操作は、2値化プロセス前の前処理で行われる。追加の陰影、歪曲、および露出補正を行うこともできる。
【0061】
いくつかの他の実施形態では、特徴認識プロセスが行われる。特徴は、水平、垂直、または対角線、曲線、円、または閉ループなどでよい。そのような特徴は、選択された数字の画像で認識され、テンプレートと比較される。
【0062】
さらなる実施形態では、パターンマッチングアルゴリズムは、ベクトル比較プロセスに基づくことがある。例えば、テンプレートは、黒い画素の各ライン(連続線)の位置および長さを記述するベクトルの形でよい。一例では、位置および長さは、それぞれの線での絶対位置に関係する。別の例では、位置および長さは、テンプレートの中心を通って延びる垂直線に関係する。各桁の捕捉された2値画像は、同様にベクトルに変換され、記憶されているテンプレートそれぞれと順に比較されて最良の一致を見出す。捕捉された画像のベクトルを特定の数表示テンプレートと比較するとき、偏差があると、画像とそのテンプレートとの一致の尤度に関してペナルティ(penalty)が適用される。ペナルティの大きさは、テンプレートと比較した、画像での欠落したまたは余剰の黒い画素の数に依存することがある。数表示画像が各テンプレートと比較され、全てのペナルティが適用された後、どの数表示が存在するか判断される。良好な光学条件では、適正なテンプレートは非常に低いペナルティを有し、他の全てのテンプレートは高いペナルティを有する。主数表示行が2桁からなる場合、このプロセスが両方の桁に対して行われ、次いで、処理構成22は、それらの結果を組み合わせて、その数字に関する最終結果を生成することができる。
【0063】
特定の数表示に対して特別な手段が存在することがある。例えば、「1」の幅は、全ての他の数表示から実質的に逸脱しており、誤検出がよくある。これに対処するために、数表示の2値画像は、「1」の予想される幅よりも広い場合、記憶されている「1」のベクトルテンプレートと比較されるときに追加の検出ペナルティを受ける。
【0064】
いくつかの例外的な場合には、主数表示行のパターンマッチングの結果の信頼度が特定の閾値(例えば99%)を下回る場合、プロセッサは、他の見えているまたは一部見えている数字の1つまたはそれ以上に対して第2のパターンマッチングプロセスを行うことがある。数字の順序が分かっているので、この第2のパターンマッチングは、第1のパターンマッチングが正しい結果を返したことのチェックとなり得る。
【0065】
結果の信頼度がまだ十分に高くない場合には、ビデオカメラ21によって記録されたビデオからの第2の画像に関して工程s3.1〜s3.6が繰り返される。代替として、エラーメッセージが表示され、場合により、出力構成29、30を介して、投薬量窓13のビデオ画像の捕捉を続けるように、または入力構成27、28を介して投薬量情報を手入力するようにユーザに命令が発出される。
【0066】
主数表示行の数表示の識別に成功した場合、投薬量窓13に表示される用量を決定するために重み関数が適用される(工程s3.7)。重み関数を公式化するために、投薬量窓13の中心に対する主数表示行の垂直位置が決定される。これは、画像内の投薬量窓13の中心線を表す画素行に対する、主数表示行を構成する中央画素行のオフセットを計算することによって行われる。
【0067】
例えば、いくつかの実施形態では、光センサは、感光性素子の長方形の64×48アレイを含む。得られる2値画像は、これらの同じ寸法を有する画素アレイである。第24および/または第25の画素行が、画像の中心行として指定される。主数表示行を構成する中央画素行の位置が決定される。次いで、画素行における、主数表示行を構成する中央画素行と画像の中心行とのオフセットが計算される。このオフセットは、オフセットの方向に応じて正のことも負のこともある。オフセットは、連続する数字間の(画素行での)距離で除算することによって小数に変換され、その後、それに従って、決定された数字に適用される。したがって、オフセットは、センサに対する数字の回転位置を決定することを可能にする。主数表示行の中心画素行が画像の中心画素行と同じである場合、オフセットはゼロであり、位置は主数表示行の数字と等しい。しかし、ほとんどの状況で、いくらかのオフセットがある可能性が高い。
【0068】
数字は注射デバイスメカニズムの離散的な機械的運動に関係する用量を表すので、数字スリーブ70に印刷された連続する数字間の距離は一定である。したがって、捕捉された画像での連続する数字間の(画素行での)距離も一定にすべきである。数字の予想される高さと、数字間のスペースとは、アプリに予めプログラムされる。一例として、各数字の予想される高さは22画素でよく、数字間のスペースの予想される高さは6画素でよい。したがって、連続する数字の中心画素行間の距離は28画素になる。
【0069】
この例を続けると、画素行が画像の上から下へ順次に番号付けされている場合、重み関数の適用は数学的に以下のように定義される:
位置=主数表示行の数字+[2×オフセット/(数字の予想される高さ+スペースの予想される高さ)]
ここで、オフセット=投薬量窓の中心に対応する画像行の数字−主数表示行の中心行の数字である。
【0070】
したがって、主数表示行が画像の上半分にある場合、オフセットは正であり、主数表示行が画像の下半分にある場合、オフセットは負である。例えば、主数表示行に示される数字が「6」で、オフセットがゼロである場合、計算される位置は以下のようになる:
位置=6+[2×0/(28)]=6
【0071】
したがって、予想通り、「6」という結果が返される。
【0072】
別の例では、75IUが注射デバイス1にダイヤル設定される場合、上の数字「74」が主数表示行として選択され、上式に従って11画素行の正のオフセットがある場合、この場合も数字/スペース高さの合計が28画素であると仮定すると、計算される位置は以下のようである:
位置=74+[2×11/(28)]=74.79
【0073】
次いで、この結果は、最も近い整数に切り上げられ、予想通り、「75」という位置決定を与える。
【0074】
上述した重み関数および位置決定は一例を表すにすぎず、同じ結果に至るために多くの他の計算法を使用することができることを当業者は理解されよう。また、計算時間を短縮するために、上述した数学的計算が修正されて改良されることもあることを当業者は理解されよう。したがって、重み関数の厳密な形式は、本発明の定義には重要でない。
【0075】
いくつかの注射デバイスでは、スペースの制約と、数字が特定のサイズである必要性とにより、偶数のみが投薬量窓13に提示される。いくつかの他の注射デバイスでは、奇数のみが表示される。しかし、薬剤の任意の単位数を注射デバイス1にダイヤル設定することができる。他の注射デバイスでは、偶数と奇数の両方が提示され、半単位用量(half−unit dose)を注射デバイスにダイヤル設定することが可能であり得る。注射デバイスは、80IUの最大ダイヤル用量に制限される。代替として、2つおき、3つおき、または4つおきの数字のみが表示され、数字の間の用量は目盛によって示される。これに鑑みて、アプリは、注射デバイス1で使用されているナンバリングシーケンス(numbering sequence)を識別するように処理構成22を制御するための命令を含むことがある。例えば、ユーザは、キーパッド27もしくはタッチスクリーン33を介して注射デバイス1に関する情報を入力するように促され、または、画像から、例えばラベル19のテキストもしくはバーコードから得られた情報が使用される。アプリは、ルックアップテーブル、または様々な注射デバイス1に使用されるナンバリングシーケンスを示す他の情報を含むことがある。次いで、処理構成22は、OCRデータと、注射デバイス1に適したナンバリングシーケンスとの両方に基づいて、選択された用量を決定することがある。代替として、または追加として、数字の高さおよび数字間のスペースのサイズも修正されるとき、重み関数の修正された形式を使用することができる。
【0076】
この方法は、場合により、サニティチェック(sanity check)およびヒステリシス計算の実施などの後処理を含むことがある。代替として、OCRプロセスの結果は、後処理なしで完了される。
【0077】
次いで、ダイヤル設定された投薬量が変わったかどうかを決定するために、工程s3.6〜s3.7で上述したようなOCRプロセスが、ビデオからの少なくとも1つの後続の画像に対して反復される(工程s3.8)。この工程は、工程s3.7で識別された投薬量が注射デバイス1によって送達予定の投薬量を表すかどうか、またはユーザがノブ12を使用してダイヤル投薬量を調節し続けているかどうかを決定するように意図される。いくつかの実施形態では、処理構成22は、ビデオにおける最後に決定された投薬量を、ユーザに送達される実際の投薬量であると識別するように構成される。他の例示的な実施形態では、処理構成22は、工程s3.6〜s3.7での所定数の連続するビデオフレーム、または実質的に連続するビデオフレームのシーケンスでの同じダイヤル投薬量の検出に基づいて、注射デバイス1によって送達される実際の投薬量を識別することがある。
【0078】
薬剤のタイプに関する情報は、ラベル19を含む画像の一部からOCRを使用すること、ラベル19を含む画像の一部からバーコードを抽出して解釈すること、または画像から薬剤タイプを示す注射デバイス1の一部の色を識別することの1つまたはそれ以上によって取得される(工程s3.9)。
【0079】
色検出が使用される実施形態では、注射デバイス1の数字付きスリーブ70は、画像内の1つまたはそれ以上の色を正しく識別することができるように基準色情報を提供するように構成される。例えば、印刷された数字の背景は、画像に示される注射デバイス1の構成要素の色を較正するためのホワイトバランスレベルを提供するために使用される。
【0080】
注射デバイス1によって薬剤が送達された時間に関する情報は、ビデオ記録に関連するタイムスタンプデータから得られる(工程s3.10)。
【0081】
次いで、ビデオから得られた情報は、データ収集デバイス20のランダムアクセスメモリ24に記憶され(工程s3.11)、および/または通信機器25、26を使用して、携帯電話ネットワーク、パーソナルエリアネットワーク、WLANまたはインターネットなどのネットワークを介して別のデバイスに送信される(工程3.12)。このようにして、患者への薬剤の投与が記録および/または監視される。プロセスは、工程s3.13で終了する。
【0082】
データ収集デバイスを使用して注射デバイス1から収集するために使用される方法の別の実施形態が
図10に示されている。
【0083】
工程s10.0から始まって、工程s10.1〜s10.10は、それぞれ工程s3.1〜s3.10に対応する。
【0084】
図10に示される方法は、薬剤の複数の投薬量を送達するために注射デバイス1が起動されるかどうかを決定するためにビデオ記録を分析する追加の工程を含む。上述したように、注射デバイス1は、80IUなど、1回の注射で送達される薬剤の量に対する上限を有することがある。実際には、所要の用量の薬剤をユーザが受け取るために、複数回の実際の注射が必要とされる。注射デバイス1の最大投薬量を上回る用量、例えば上記の例では80IUを超える用量をユーザが必要とする場合、2回の注射が迅速に連続して投与される。
【0085】
代替として、または追加として、ビデオは、ユーザに送達される投薬量を決定する際に無視されるべき注射器ペンからの空気をなくすために、1回またはそれ以上の「プライムショット」をユーザが実施している画像を含むことがある。
【0086】
工程s10.11で、処理構成22は、工程s10.6およびs10.7に関係して述べたOCRプロセスをビデオからの1つまたはそれ以上の後続の画像に対して繰り返すことによって、ビデオカメラ21によって捕捉されたビデオが、さらなる投薬量が注射器ペン1にダイヤル設定されている画像を含むかどうかを決定する。例えば、注射を投与するために上述したSoloSTAR(登録商標)ペンが使用されるとき、薬剤が送達されるにつれて、投薬量窓13に表示される数字はゼロへと減少する。したがって、工程s10.7でダイヤル投薬量が識別された後、変化する数字を投薬量窓13に示すビデオでの画像のシーケンス、または投薬量窓13でのゼロでない文字のその後の検出は、薬剤のさらなる送達がユーザによって行われているという標示とみなされる。
【0087】
薬剤のさらなる送達が示される場合、処理構成22は、薬剤の前の送達が「プライムショット」に対応していたか、それとも薬剤の実際の注射に対応していたかを決定する(工程s10.12)。決定された投薬量に基づいて、「プライムショット」が検出される。例えば、工程s10.8またはs10.9での2IU以下のダイヤル投薬量の検出は、ユーザによって受け取られる注射ではなく、「プライムショット」に対応すると考えられる。代替として、または追加として、工程s10.10で得られるタイムスタンプと、工程s10.11での、注射デバイス1にダイヤル設定された新規の投薬量の検出の基になっている画像に関連するタイムスタンプ、または工程s10.11でのさらなる投薬量の検出間の時間は、「プライムショット」が行われたかどうかを示すために使用される。ユーザへの注射の投与は、特定のインスリン注射時に数秒間、例えば10秒間、針がユーザの体内に留まることを必要とすることがある。さらに、第2の注射が行われる場合、ユーザは、第1の注射後に針15を交換すると予想され、工程s10.6〜s10.7と工程s10.11でのOCRプロセスによるダイヤル投薬量の検出間の時間インターバルを増加する。その時間インターバルが所定の限度、例えば10秒を超える場合、第2の注射が示される。時間インターバルが所定の限度未満である場合、処理構成22は、注射デバイス1の前の活動が「プライムショット」であったと決定することがある。
【0088】
ビデオカメラ21によってビデオが捕捉されている間にOCRプロセスが行われる実施形態では、データ収集デバイス20は、ディスプレイ29および/またはスピーカ30を介して、第2の注射が行われているかどうか、および/または「プライムショット」が行われたかどうかを示すようにユーザに要求を出力することがある。ユーザは、入力構成27、28、31を介して要求に応答することができる。
【0089】
工程s10.11で注射が1回のみ送達されたと決定された場合、ユーザによって受け取られた全体の投薬量が、工程S10.7で検出された投薬量に対応するものと決定される。
【0090】
第2の注射が送達され(工程s10.11)、いずれの注射も「プライムショット」でなかったと決定された場合、工程s10.7およびs10.11で決定された投薬量が足し合わされて、ユーザによって受け取られた合計投薬量を決定する(工程s10.13)。しかし、工程s10.7およびs10.11で検出された1つまたはそれ以上の投薬量が「プライムショット」に関係していたと決定された場合(工程s10.12)、そのように決定されたそれぞれの投薬量は、全体の決定された投薬量に含まれず(工程s10.14)、さらなる注射に関するチェックが行われる(工程s10.11)。
【0091】
代替実施形態では、工程s10.12〜工程s10.14が省かれ、さらなる投薬量が検出された場合(工程s10.11)、検出された投薬量に関係するデータは、後の分析のために記憶および/または送信される。
【0092】
薬剤のタイプおよびタイムスタンプ情報に関する情報は、
図3の工程s3.11〜s3.12に関連して上述したのと同様に記憶および/または送信される(工程s10.15、s10.16)。次いで、プロセスは終了する(工程s10.17)。
【0093】
上で論じた実施形態によって示されるように、注射、他の医学的処置、または他の機器の操作に関する情報を得るためのアプリまたは同様のソフトウェア製品の提供は、一般に入手可能でありユーザによく知られているウェアラブル電子デバイスなどのデバイスを使用して、そのような情報のより正確なおよび/または高信頼性の記録を可能にすることがある。上述した実施形態は、特化されたデータ収集デバイスの製造および配布を必要としないので、処置または操作の記録および/または監視を提供するコストおよび複雑さを低減することができる可能性がある。
【0094】
上述した実施形態では、ビデオは、1つのデータ収集デバイス20によって捕捉され、処理され、分析される。しかし、他の実施形態では、データ収集デバイス20は、そのカメラ21を使用してビデオを捕捉し、次いで、ワイヤレスローカルエリアネットワーク、パーソナルエリアネットワーク、セルラ通信ネットワーク、またはインターネットなどのネットワークを介して、捕捉されたビデオをコンピュータに送信するように構成され、ここで、コンピュータは、ビデオを処理して分析して、投薬量窓13に表示される投薬量を決定するように構成された処理構成を含む。
【0095】
上記の実施形態は、インスリン注射器ペンからのデータの収集に関して述べてきたが、本発明の実施形態は、他の薬剤の注射または他の医学的プロセスの監視など他の目的のために使用することもできることに留意されたい。実施形態は、医療以外の目的で、例えば安全上の理由により他のタイプの機器の動作を監視する際に使用することもできる。