知財求人 - 知財ポータルサイト「IP Force」
▶ インターナショナル・ビジネス・マシーンズ・コーポレーションの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-06-28
(54)【発明の名称】音声攻撃の禁止
(51)【国際特許分類】
G06F 21/55 20130101AFI20240621BHJP
【ＦＩ】
G06F21/55
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023577683
(86)(22)【出願日】2022-05-13
(85)【翻訳文提出日】2023-12-15
(86)【国際出願番号】 CN2022092670
(87)【国際公開番号】W WO2022262494
(87)【国際公開日】2022-12-22
(31)【優先権主張番号】17/351,310
(32)【優先日】2021-06-18
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】390009531
【氏名又は名称】インターナショナル・ビジネス・マシーンズ・コーポレーション
【氏名又は名称原語表記】ＩＮＴＥＲＮＡＴＩＯＮＡＬ ＢＵＳＩＮＥＳＳ ＭＡＣＨＩＮＥＳ ＣＯＲＰＯＲＡＴＩＯＮ
【住所又は居所原語表記】Ｎｅｗ Ｏｒｃｈａｒｄ Ｒｏａｄ， Ａｒｍｏｎｋ， Ｎｅｗ Ｙｏｒｋ １０５０４， Ｕｎｉｔｅｄ Ｓｔａｔｅｓ ｏｆ Ａｍｅｒｉｃａ
(74)【復代理人】
【識別番号】100104880
【弁理士】
【氏名又は名称】古部 次郎
(74)【復代理人】
【識別番号】100118108
【弁理士】
【氏名又は名称】久保 洋之
(74)【代理人】
【識別番号】100112690
【弁理士】
【氏名又は名称】太佐 種一
(74)【代理人】
【識別番号】100120710
【弁理士】
【氏名又は名称】片岡 忠彦
(72)【発明者】
【氏名】ドス、サントス、シルバ、ブルーノ
(72)【発明者】
【氏名】リー、チェンタ
(72)【発明者】
【氏名】ジャオ、ハワード、ルイファ
(72)【発明者】
【氏名】ソウ、ソチート
(72)【発明者】
【氏名】ダムガー、ジェームズ、エドワード
(72)【発明者】
【氏名】カーパー、ジョージ、パトリック
(57)【要約】
音声攻撃を禁止するアプローチでは、プロセッサは、ソースから音声入力を受信することに応答して、許可リストを含む予め定められたフィルタを使用して、音声入力が予め定められたフィルタの対応するエントリのいずれにも一致しないことを判定する。プロセッサは、音声入力を処理のために敵対的パイプラインにルーティングする。プロセッサは、予め定められたコネクショニスト時間分類法を使用して、音声入力の敵対的事例を識別する。プロセッサは、識別された敵対的事例を使用して、設定可能な歪曲された敵対的事例を生成する。ユーザからの返答に応答して、プロセッサは、音声ストリームを変更するために、設定可能な歪曲された敵対的用例をノイズとしてユーザからの返答の音声ストリームにリアルタイムで注入する。プロセッサは、変更された音声ストリームをソースにルーティングする。
【特許請求の範囲】
【請求項1】
ソースから音声入力を受信することに応答して、１つまたは複数のプロセッサによって、許可リストを含む予め定められたフィルタを使用して、前記音声入力が前記予め定められたフィルタの対応するエントリのいずれにも一致しないことを判定することと、１つまたは複数のプロセッサによって、前記音声入力を敵対的パイプラインにルーティングすることであって、
予め定められたコネクショニスト時間分類（ＣＴＣ）法を使用して、前記音声入力の敵対的事例を識別することと、
識別された前記敵対的事例を使用して、設定可能な歪曲された敵対的事例を生成することと、
ユーザからの返答に応答して、音声ストリームを変更するために、前記設定可能な歪曲された敵対的事例をノイズとして前記ユーザからの返答の前記音声ストリームにリアルタイムで注入することにより処理する、ルーティングすることと、
１つまたは複数のプロセッサによって、前記変更された音声ストリームを前記ソースにルーティングすることと、を含むコンピュータ実装方法。
【請求項2】
前記変更された音声ストリームを代表するハッシュ値を作成することと、音声攻撃に使用される可能性の高い音声サンプルのリストに前記ハッシュ値を追加することと、をさらに含む、請求項１に記載のコンピュータ実装方法。
【請求項3】
リアルタイムで敵対的な攻撃を前記音声ストリームに注入することをさらに含む、請求項１に記載のコンピュータ実装方法。
【請求項4】
信頼できないソースを使用できないように敵対的なノイズを加えることと、敵対的なノイズをマニュアルでトリガーすることと、をさらに含む、請求項１に記載のコンピュータ実装方法。
【請求項5】
前記変更された音声ストリームを追跡することをさらに含む、請求項１に記載のコンピュータ実装方法。
【請求項6】
前記許可リストはプログラム可能なハッシュテーブルである、請求項１に記載のコンピュータ実装方法。
【請求項7】
前記ノイズはホワイトノイズである、請求項１に記載のコンピュータ実装方法。
【請求項8】
１つまたは複数のコンピュータ可読記憶媒体、および前記１つまたは複数のコンピュータ可読記憶媒体に集合的に記憶されたプログラム命令を含み、前記プログラム命令は、ソースから音声入力を受信することに応答して、許可リストを含む予め定められたフィルタを使用して、前記音声入力が前記予め定められたフィルタの対応するエントリのいずれにも一致しないことを判定するプログラム命令と、
前記音声入力を敵対的パイプラインにルーティングするプログラム命令であって、
予め定められたＣＴＣ法を使用して、前記音声入力の敵対的事例を識別するプログラム命令と、
識別された前記敵対的事例を使用して、設定可能な歪曲された敵対的事例を生成するプログラム命令と、
ユーザからの返答に応答して、音声ストリームを変更するために、前記設定可能な歪曲された敵対的事例をノイズとして前記ユーザからの返答の前記音声ストリームにリアルタイムで注入するプログラム命令と、によって処理する、ルーティングするプログラム命令と、
前記変更された音声ストリームを前記ソースにルーティングするプログラム命令と、を含む、コンピュータプログラム製品。
【請求項9】
前記変更された音声ストリームを代表するハッシュ値を作成するプログラム命令と、音声攻撃に使用される可能性の高い音声サンプルのリストに前記ハッシュ値を追加するプログラム命令と、をさらに含む、請求項８に記載のコンピュータプログラム製品。
【請求項10】
リアルタイムで敵対的な攻撃を前記音声ストリームに注入するプログラム命令をさらに含む、請求項８に記載のコンピュータプログラム製品。
【請求項11】
信頼できないソースを使用できないように敵対的なノイズを加えるプログラム命令と、敵対的なノイズをマニュアルでトリガーするプログラム命令と、をさらに含む、請求項８に記載のコンピュータプログラム製品。
【請求項12】
前記変更された音声ストリームを追跡するプログラム命令をさらに含む、請求項８に記載のコンピュータプログラム製品。
【請求項13】
前記許可リストはプログラム可能なハッシュテーブルである、請求項８に記載のコンピュータプログラム製品。
【請求項14】
前記ノイズはホワイトノイズである、請求項８に記載のコンピュータプログラム製品。
【請求項15】
１つまたは複数のコンピュータプロセッサ、１つまたは複数のコンピュータ可読記憶媒体、および前記１つまたは複数のコンピュータプロセッサの少なくとも１つにより実行される、前記１つまたは複数のコンピュータ可読記憶媒体に格納されたプログラム命令を含み、前記プログラム命令は、ソースから音声入力を受信することに応答して、許可リストを含む予め定められたフィルタを使用して、前記音声入力が前記予め定められたフィルタの対応するエントリのいずれにも一致しないことを判定するプログラム命令と、
前記音声入力を敵対的パイプラインにルーティングするプログラム命令であって、
予め定められたＣＴＣ法を使用して、前記音声入力の敵対的事例を識別するプログラム命令と、
識別された前記敵対的事例を使用して、設定可能な歪曲された敵対的事例を生成するプログラム命令と、
ユーザからの返答に応答して、音声ストリームを変更するために、前記設定可能な歪曲された敵対的事例をノイズとして前記ユーザからの返答の前記音声ストリームにリアルタイムで注入するプログラム命令と、によって処理する、ルーティングするプログラム命令と、
前記変更された音声ストリームを前記ソースにルーティングするプログラム命令と、を含む、コンピュータシステム。
【請求項16】
前記変更された音声ストリームを代表するハッシュ値を作成するプログラム命令と、音声攻撃に使用される可能性の高い音声サンプルのリストに前記ハッシュ値を追加するプログラム命令と、をさらに含む、請求項１５に記載のコンピュータシステム。
【請求項17】
リアルタイムで敵対的な攻撃を前記音声ストリームに注入するプログラム命令をさらに含む、請求項１５に記載のコンピュータシステム。
【請求項18】
信頼できないソースを使用できないように敵対的なノイズを加えるプログラム命令と、敵対的なノイズをマニュアルでトリガーするプログラム命令と、をさらに含む、請求項１５に記載のコンピュータシステム。
【請求項19】
前記変更された音声ストリームを追跡するプログラム命令をさらに含む、請求項１５に記載のコンピュータシステム。
【請求項20】
前記許可リストはプログラム可能なハッシュテーブルである、請求項１５に記載のコンピュータシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、一般に音声セキュリティの分野に関し、より詳細には音声攻撃の禁止に関する。
【背景技術】
【0002】
音声フィッシング、またはヴィッシングは、フィッシング攻撃を行うために電話通信、多くの場合音声オーバーインターネットプロトコル（ＶｏＩＰ）通信を利用することである。固定電話サービスは従来信頼できるものであった。しかし現在、ヴィッシング詐欺師はしばしば最新のＶｏＩＰ機能を使い、検知を妨害している。音声フィッシングは通常、個人からクレジットカード番号やＩＤ窃盗スキームで使用されるその他の情報を盗むために使用されることがある。音声フィッシング攻撃は、攻撃者が管理する番号に電話をかけるよう被害者を誘導する自動音声合成システムを使用して行われることがある。詐欺師は、被害者の個人情報だけでなく、クレジットカードや銀行口座に関する個人情報や金融情報を取得しようとする可能性がある。ＩＰテレフォニーとも呼ばれるＶｏＩＰは、インターネットなどのＩＰネットワーク上で音声通信やマルチメディアセッションを配信するための方法であり、技術群である。長年にわたり、攻撃者はその手口を改善し、人工知能のような高度な技術を活用することで、そのテクニックを強化し、加入者を欺く効果を高めてきた。
【発明の概要】
【0003】
本開示の一実施形態の態様は、音声攻撃を禁止するためのアプローチを開示する。プロセッサは、ソースから音声入力を受信することに応答して、許可リストを含む予め定められたフィルタを使用して、音声入力が予め定められたフィルタの対応するエントリのいずれにも一致しないことを判定する。プロセッサは、音声入力を処理のために敵対的パイプラインにルーティングする。プロセッサは、予め定められたコネクショニスト時間分類法を使用して、音声入力の敵対的事例を識別する。プロセッサは、識別された敵対的事例を使用して、設定可能な歪曲された敵対的事例を生成する。ユーザからの返答に応答して、プロセッサは、音声ストリームを変更するために、設定可能な歪曲された敵対的用例をノイズとしてユーザからの返答の音声ストリームにリアルタイムで注入する。プロセッサは、変更された音声ストリームをソースにルーティングする。
【図面の簡単な説明】
【0004】
【図1】本開示の一実施形態による、音声フィッシング禁止環境を示す機能ブロック図を示す。
【発明を実施するための形態】
【0005】
本開示は、音声攻撃を禁止するためのシステムおよび方法に関する。
【0006】
本開示の実施形態は、人工知能（ＡＩ）ベースの音声フィッシングスキームに対抗するために、音声パターンに敵対的データを注入するために利用可能なメディアを利用する必要性を認識する。本開示の実施形態は、ＡＩベースの音声フィッシングスキームがユーザの回答を適切に分類できず、攻撃者が詐欺を続行できないようにすることを開示する。本開示の実施形態は、４Ｇ／５Ｇネットワークが、ルーティングを通じてＩＰネットワーク上で音声を伝送するためのＩＰコアネットワークを含み得ることを開示する。音声はネットワーク上を通過するデータであってもよい。
【0007】
本開示の実施形態は、リアルタイムの敵対的サンプルの注入を可能にする敵対的ロバストネスツールボックスに適用される改良を開示する。本開示の実施形態は、リアルタイムスピーチパイプラインを適用することを開示する。本開示の実施形態は、音声ストリームにリアルタイムの敵対的攻撃を注入し得るＩＰコアネットワークに敵対的ロバストネスツールボックスを組み込むことを開示する。本開示の実施形態は、音声ストリームにノイズを挿入することを開示し、チャットボットが混乱し、電話を切るか、またはユーザに詐欺の可能性が高いことを認識させる質問をすることになるかもしれない。本開示の実施形態は、音声ストリームをハッシュ化し、音声ストリームをリストに追加することを開示する。このリストは、将来的に脅威インテリジェンスとして使用される可能性があり、攻撃に再利用される可能性の高い音声に関するインテリジェンス情報を通信事業者に提供する。
【0008】
本開示の実施形態は、敵対的パイプラインに送信されるべきではないすべての許可された既知のチャットボットソースを保持する責任を負うプログラム可能なハッシュテーブルである可能性がある許可リストを開示する。敵対的パイプラインは、音声サンプルを攻撃し、信頼されていない（例えば、悪意のある）チャットボットによって処理される音声を汚染する可能性のあるリアルタイムの敵対的サンプルジェネレータであってもよい。本開示の実施形態は、チャットボットが使用できないように敵対的なノイズを加えることを開示する。本開示の実施形態は、チャットボットを騙すために敵対的なノイズをマニュアルでトリガーすることを開示する。
【0009】
次に、図を参照して本開示を詳細に説明する。図１は、本開示の一実施形態に係る音声フィッシング禁止環境を示す機能ブロック図であり、一般に１００と称される。
【0010】
示されている実施形態では、音声フィッシング禁止環境１００はコンピューティングデバイス１０２、音声入力１０４、信頼できるソース１２０、信頼できないソース１２２、およびネットワーク１０８を含む。音声入力１０４は、ルーティングによってネットワーク１０８上を通過するＶｏＩＰに変換された音声であってもよい。音声は、ネットワーク１０８上を通過するデータであってもよい。攻撃者が音声フィッシングを実行する場合、音声フィッシングは、質問／回答ベースで動作するように訓練され、音声ストリームと同様に情報を保存するために音声をテキストに変換することができるチャットボットシステム上で処理される可能性がある。
【0011】
本開示の様々な実施形態において、コンピューティングデバイス１０２は、ラップトップコンピュータ、タブレットコンピュータ、ネットブックコンピュータ、パーソナルコンピュータ（ＰＣ）、デスクトップコンピュータ、携帯電話、スマートフォン、スマートウォッチ、ウェアラブルコンピューティングデバイス、パーソナルデジタルアシスタント（ＰＤＡ）、またはサーバであり得る。別の実施形態では、コンピューティングデバイス１０２は、シームレスなリソースの単一のプールとして機能するようにクラスタリングされたコンピュータおよびコンポーネントを利用するコンピューティングシステムを表す。他の実施形態では、コンピューティングデバイス１０２は、クラウドコンピューティング環境などのサーバシステムとして複数のコンピュータを利用するサーバコンピューティングシステムを表すことができる。一般的に、コンピューティングデバイス１０２は、音声フィッシング禁止モジュール１１０およびネットワーク１０８にアクセス可能であり、本開示の実施形態に従って、プログラム命令を処理し、音声フィッシング禁止モジュール１１０を実行することができる任意のコンピューティングデバイスまたはデバイスの組み合わせであり得る。コンピューティングデバイス１０２は、図７に関してさらに詳細に描かれ説明されるように、内部および外部のハードウェアコンポーネントを含むことができる。
【0012】
さらに、示されている実施形態において、コンピューティングデバイス１０２は音声フィッシング禁止モジュール１１０を含んでいる。示されている実施形態では、音声フィッシング禁止モジュール１１０はコンピューティングデバイス１０２上に配置されている。しかし、他の実施形態では、音声フィッシング禁止モジュール１１０は外部に位置し、ネットワーク１０８のような通信ネットワークを通してアクセスすることができる。通信ネットワークは、例えば、ローカルエリアネットワーク（ＬＡＮ）、インターネットなどのワイドエリアネットワーク（ＷＡＮ）、またはこれらの組み合わせとすることができ、有線、無線、光ファイバー、または当該技術分野で知られている他の接続を含むことができる。一般に、通信ネットワークは、本開示の望ましい実施形態に従って、コンピューティングデバイス１０２と音声フィッシング禁止モジュール１１０との間の通信をサポートする接続およびプロトコルの任意の組み合わせであり得る。
【0013】
示されている実施形態では、音声フィッシング禁止モジュール１１０は許可リスト１１２と敵対的パイプライン１１４を含む。１つ以上の実施形態において、許可リスト１１２は、敵対的パイプライン１１４に送信されるべきではない、すべての許可された既知の信頼できるソース１２０（例えば、通常のチャットボット）を保持する役割を担うプログラム可能なハッシュテーブルである。許可リスト１１２は、どのソースが信頼できるソース１２０であるかを判定することを助けるかもしれない。許可リスト１１２は、既知の、信頼された、認証されたチャットボットを許可する可能性があり、ソフトウェア開発者が修正プログラムを見つけることができる前に、ソフトウェアの脆弱性を悪用する可能性の高いゼロデイソフトウェア攻撃を検出する可能性がある。
【0014】
１つまたは複数の実施形態において、敵対的パイプライン１１４は、リアルタイムの敵対的サンプル生成器であってもよい。音声は、ＩＰネットワーク（例えば、ネットワーク１０８）を通過するデータストリームとして扱われることがある。一例として、敵対的攻撃は、機械学習モデルを欺いてデータを誤分類させるために使用される技術の組み合わせである。敵対的攻撃は、攻撃者を欺く可能性があり、音声ネットワーク上での攻撃者の成功率を低下させる可能性がある。敵対的パイプライン１１４は、信頼できないソース１２２（例えば、悪意のあるチャットボット）によって処理される音声を汚染する可能性のある音声サンプルを生成する可能性がある。敵対的パイプライン１１４は、音声トラフィックを受信する入力を含むことができる。敵対的パイプライン１１４は、音声ストリームにそのような攻撃を適用することができる敵対的ロバストネスツールキットまたは任意の他の敵対的攻撃ライブラリジェネレータを含むことができる。敵対的パイプライン１１４は、音声ネットワーク（例えば、ネットワーク１０８）を介して音声トラフィックをカプセル化し、連続性を与えることができる出力を含むことができる。一例として、敵対的パイプライン１１４は、音声入力１０４に敵対的攻撃を挿入することができるリアルタイムパイプラインであってもよく、ユーザを呼び出しているソースが音声をテキストに書き写すことに失敗させ、したがって、電話で情報を盗むことに失敗するようにする。
【0015】
１つまたは複数の実施形態において、音声フィッシング禁止モジュール１１０は音声入力１０４を受信するように構成されている。音声入力１０４は、ルーティングすることを通じてネットワーク１０８上を通過するＶｏＩＰに変換された音声であってもよい。音声はネットワーク１０８上を通過するデータであってもよい。攻撃者が音声フィッシングを実行する場合、音声フィッシングは、質問／回答ベースで動作するように訓練され、音声ストリームと同様に情報を保存するために音声をテキストに変換することができるチャットボットシステム上で処理されてもよい。音声フィッシング禁止モジュール１１０は、許可リスト１１２を含む予め定められたフィルタを使用して、音声入力１０４が予め定められたフィルタの対応するエントリと一致するかどうかを判定することができる。許可リスト１１２は、敵対的パイプライン１１４に送信されるべきではないすべての許可された既知のチャットボットのソースを保持する役割を担うプログラム可能なハッシュテーブルであってもよい。
【0016】
１つまたは複数の実施形態において、音声フィッシング禁止モジュール１１０は、音声入力１０４が信頼できるソース１２０からのものであると識別するように構成されている。音声フィッシング禁止モジュール１１０は、音声入力１０４が許可リスト１１２の予め定められたフィルタの対応するエントリと一致すると判定してもよい。音声フィッシング禁止モジュール１１０は、信頼できるソース１２０からの音声入力１０４を通常の処理のためにルーティングしてもよい。
【0017】
【0018】
１つまたは複数の実施形態において、音声フィッシング禁止モジュール１１０は、ポイズン音声ストリームを代表するハッシュ値を作成するように構成される。音声フィッシング禁止モジュール１１０は、音声フィッシング攻撃で使用される可能性の高い音声サンプルのリストにハッシュ値を追加することができる。例えば、音声ストリームにノイズを注入した後、音声フィッシング禁止モジュール１１０は、音声ストリームをハッシュ化し、ハッシュ値をリストに追加してもよく、これにより、攻撃に再利用される可能性が高い音声に関するインテリジェンス情報を提供することができる。音声フィッシング禁止モジュール１１０は害されたデータを追跡することができ、害されたデータが見られた場合にそれを削除するだけでなく、攻撃者が害されたデータを使用し始めているかどうかを判定することもできる。
【0019】
図２は、本開示の一実施形態による音声フィッシング禁止モジュール１１０の動作ステップを示すフローチャート２００である。
【0020】
音声フィッシング禁止モジュール１１０は音声入力１０４を受信するように動作する。音声入力１０４はルーティングによってネットワーク１０８上を通過するＶｏＩＰに音声変換される場合がある。音声フィッシング禁止モジュール１１０はまた、許可リスト１１２を含む予め定められたフィルタを使用して、音声入力１０４が予め定められたフィルタの対応するエントリと一致するか否かを判定するように動作する。音声フィッシング禁止モジュール１１０が、音声入力１０４が予め定められたフィルタの対応するエントリと一致すると判定した場合、音声フィッシング禁止モジュール１１０は、音声入力１０４が信頼できるソース１２０からのものであると識別するように動作する。音声フィッシング禁止モジュール１１０は、信頼できるソース１２０からの音声入力１０４を通常の処理のためにルーティングするように動作する。音声フィッシング禁止モジュール１１０が、音声入力１０４が許可リスト１１２の予め定められたフィルタの対応するエントリと一致しないと判定した場合、音声フィッシング禁止モジュール１１０は、音声入力１０４が信頼できないソース１２２からのものであると識別するように動作する。音声フィッシング禁止モジュール１１０は、信頼できないソース１２２からの音声入力１０４を処理のために敵対的パイプライン１１４にルーティングするように動作する。音声フィッシング禁止モジュール１１０は、ポイズン音声ストリームを信頼できないソース１２２にルーティングするように動作する。音声フィッシング禁止モジュール１１０は、ポイズン音声ストリームを代表するハッシュ値を作成するように動作する。音声フィッシング禁止モジュール１１０は、音声フィッシング攻撃で使用される可能性の高い音声サンプルのリストにハッシュ値を追加するように動作する。
【0021】
ステップ２０２において、音声フィッシング禁止モジュール１１０は音声入力１０４を受信する。音声入力１０４は、ルーティングによってネットワーク１０８上を通過するＶｏＩＰに変換された音声であってもよい。音声はネットワーク１０８上を通過するデータであってもよい。攻撃者が音声フィッシングを実行する場合、音声フィッシングは、質問／回答ベースで動作するように訓練され、音声ストリームと同様に情報を保存するために音声をテキストに変換することができるチャットボットシステム上で処理される可能性がある。
【0022】
判定２０４において、音声フィッシング禁止モジュール１１０は、許可リスト１１２を含む予め定められたフィルタを使用して、音声入力１０４が予め定められたフィルタの対応するエントリと一致するかどうかを判定する。許可リスト１１２は、敵対的パイプライン１１４に送信されるべきではないすべての信頼できるソース（例えば、許可された既知のチャットボットソース）を保持する役割を担うプログラム可能なハッシュテーブルであってもよい。音声フィッシング禁止モジュール１１０が、音声入力１０４が許可リスト１１２の予め定められたフィルタの対応するエントリと一致すると判定した場合（判定２０４でＹＥＳ）、ステップ２０６において、音声フィッシング禁止モジュール１１０は、音声入力１０４を信頼できるソース１２０からのものとして識別する。ステップ２０８において、音声フィッシング禁止モジュール１１０は、信頼できるソース１２０からの音声入力１０４を通常の処理のためにルーティングする。
【0023】
【0024】
ステップ２１４で、音声フィッシング禁止モジュール１１０はポイズン音声ストリームを信頼できないソース１２２にルーティングする。ステップ２１６において、音声フィッシング禁止モジュール１１０はポイズン音声ストリームを代表するハッシュ値を作成する。ステップ２１８において、音声フィッシング禁止モジュール１１０は、音声フィッシング攻撃で使用される可能性の高い音声サンプルのリストにハッシュ値を追加する。例えば、音声ストリームにノイズを注入した後、音声フィッシング禁止モジュール１１０は、音声ストリームをハッシュ化し、ハッシュ値をリストに追加してもよく、これにより、攻撃に再利用される可能性の高い音声に関するインテリジェンス情報を提供することができる。音声フィッシング禁止モジュール１１０は害されたデータを追跡することができ、害されたデータが見られた場合にそれを削除するだけでなく、攻撃者が害されたデータを使用し始めているか否かを判定することもできる。
【0025】
図３は、本開示の実施形態による、音声フィッシング禁止モジュール１１０の例示的な機能図を示す。
【0026】
図３の例では、音声フィッシング禁止モジュール１１０はネットワーク１０８の音声ルータ３０２を通して音声入力１０４を受信する。音声入力１０４は入力キュー３０４に入れられてもよい。音声フィッシング禁止モジュール１１０は音声入力１０４が許可リスト１１２の対応するエントリに一致するか否かを判定する。音声入力１０４が許可リスト１１２の対応するエントリに一致すると音声フィッシング禁止モジュール１１０が判定した場合、音声フィッシング禁止モジュール１１０は音声入力１０４を通常の処理（例えば、通常の発信者と通常のチャットボット３１２）にルーティングする。音声入力１０４が許可リスト１１２の対応するエントリに一致しないと音声フィッシング禁止モジュール１１０が判定した場合、音声フィッシング禁止モジュール１１０はデキャッパー３０６で音声入力１０４をデキャップすることができる。音声フィッシング禁止モジュール１１０は処理のために音声入力１０４を敵対的パイプライン１１４にルーティングしてもよい。音声フィッシング禁止モジュール１１０は、ＣＴＣメソッド３０８を用いて音声入力１０４の敵対的事例を特定することができる。音声フィッシング禁止モジュール１１０は、識別された敵対的事例を用いて、設定可能な歪曲された敵対的事例を生成してもよい。音声フィッシング禁止モジュール１１０は、設定可能な歪曲された敵対的事例をノイズとして音声ストリームにリアルタイムで注入し、ポイズン音声ストリームを生成することができる。音声ストリームにノイズを挿入することにより、音声フィッシング禁止モジュール１１０は悪意のあるチャットボット３１４を混乱させることができる。音声フィッシング禁止モジュール１１０は、ポイズン音声ストリームを悪意のあるチャットボット３１４にルーティングすることができる。音声フィッシング禁止モジュール１１０は、監査３１０においてポイズン音声ストリームを代表するハッシュ値を作成することができる。音声フィッシング禁止モジュール１１０は、音声フィッシング攻撃で使用される可能性の高い音声サンプルのリストにハッシュ値を追加してもよい。
【0027】
図４は、本開示の実施形態による、音声フィッシング禁止モジュール１１０の例示的な機能フローチャートを示す。
【0028】
図４の例では、悪意のあるチャットボット３１４がユーザ４０２に電話をかけることがある。音声フィッシング禁止モジュール１１０は、ユーザ４０２への通話を妨害することができる。音声フィッシング禁止モジュール１１０は通話のデータを分析してもよい。音声フィッシング禁止モジュール１１０は、許可リスト１１２を介して可能性のあるスパムコールを判定することができる。音声フィッシング禁止モジュール１１０は、敵対的パイプライン１１４を介して音声トラフィックを送信してもよい。敵対的パイプライン１１４は、悪意のあるチャットボット３１４への接続を確立する可能性がある。敵対的パイプライン１１４は、ユーザ４０２への接続を確立することができる。悪意のあるチャットボット３１４は、ユーザ４０２との会話を開始する可能性がある。悪意のあるチャットボット３１４は、ユーザ４０２に質問をすることができる。ユーザ４０２は、敵対的パイプライン１１４に質問に回答することができる。音声フィッシング禁止モジュール１１０は、敵対的パイプライン１１４を介して音声ストリームをデキャップすることができる。音声フィッシング禁止モジュール１１０は、敵対的パイプライン１１４を通じてリアルタイムの敵対的検査を実行してもよい。音声フィッシング禁止モジュール１１０は音声をカプセル化してもよい。ユーザ４０２は、処理された音声ストリームを用いて悪意のあるチャットボット３１４の質問に回答することができる。悪意のあるチャットボット３１４は、音声応答を開くことができる。悪意のあるチャットボット３１４は、所望の応答を受信しない場合がある。悪意のあるチャットボット３１４は、振り回される応答を出すか、または単に電話を切るかもしれない。
【0029】
図５は、本開示の実施形態による、音声フィッシング禁止モジュール１１０が実装されていない例示的なユーザシナリオを示す図である。図６は、本開示の実施形態による、音声フィッシング禁止モジュール１１０が実装された例示的なユーザシナリオを示す図である。
【0030】
図５の例では、音声フィッシング禁止モジュール１１０が実装されていない場合、悪意のあるチャットボット３１４は、ユーザ４０２に対して音声フィッシングを実行する可能性がある。悪意のあるチャットボットがスクリプト化された回答をすべて取得すると、悪意のあるチャットボット３１４は電話を切り、ＩＤ窃盗、音声録音、またはまったく別のものに変わる可能性がある。図６の例では、音声フィッシング禁止モジュール１１０が実装されているため、悪意のあるチャットボット３１４は所望の応答を受け取らない可能性がある。悪意のあるチャットボット３１４は、振り回される応答を出すか、またはユーザ４０２から有用な情報を得ることなく単に電話を切る可能性がある。
【0031】
図７は、本開示の例示的な実施形態による、コンピューティングデバイス１０２のコンポーネントのブロック図７００を示す。図７は、１つの実装の例示を提供するのみであり、異なる実施形態が実装され得る環境に関していかなる制限も意味しないことが理解されるべきである。描かれた環境に対する多くの変更がなされ得る。
【0032】
コンピューティングデバイス１０２は、キャッシュ７１６、メモリ７０６、永続記憶装置７０８、通信ユニット７１０、および入出力（Ｉ／Ｏ）インターフェース７１２間の通信を提供する通信ファブリック７０２を含み得る。通信ファブリック７０２は、プロセッサ（マイクロプロセッサ、通信およびネットワークプロセッサなど）、システムメモリ、周辺デバイス、およびシステム内の他のハードウェアコンポーネントの間でデータもしくは制御情報またはその両方を受け渡すように設計された任意のアーキテクチャで実装することができる。例えば、通信ファブリック７０２は、１つまたは複数のバスまたはクロスバースイッチを用いて実装することができる。
【0033】
メモリ７０６および永続記憶装置７０８は、コンピュータ可読記憶媒体である。本実施形態では、メモリ７０６はランダムアクセスメモリ（ＲＡＭ）を含む。一般に、メモリ７０６は、任意の適切な揮発性または不揮発性のコンピュータ可読記憶媒体を含むことができる。キャッシュ７１６は、最近アクセスされたデータ、およびアクセスされたデータに近いデータをメモリ７０６から保持することによって、コンピュータプロセッサ７０４の性能を高める高速メモリである。
【0034】
音声フィッシング禁止モジュール１１０は、キャッシュ７１６を介して１つ以上のそれぞれのコンピュータプロセッサ７０４によって実行されるために、永続記憶装置７０８およびメモリ７０６に記憶されることができる。一実施形態では、永続記憶装置７０８は磁気ハードディスクドライブを含む。代替的に、または磁気ハードディスクドライブに加えて、永続記憶装置７０８は、ソリッドステートハードドライブ、半導体記憶装置、リードオンリーメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリーメモリ（ＥＰＲＯＭ）、フラッシュメモリ、またはプログラム命令またはデジタル情報を記憶することができる任意の他のコンピュータ可読記憶媒体を含むことができる。
【0035】
永続記憶装置７０８が使用する媒体は、取り外し可能である場合もある。例えば、リムーバブルハードドライブを永続記憶装置７０８に使用することができる。他の例としては、永続記憶装置７０８の一部でもある別のコンピュータ可読記憶媒体上に転送するためにドライブに挿入される光および磁気ディスク、サムドライブ、およびスマートカードが挙げられる。
【0036】
通信ユニット７１０は、これらの例では、他のデータ処理システムまたは装置との通信を提供する。これらの実施例において、通信ユニット７１０は、１つ以上のネットワークインターフェースカードを含む。通信ユニット７１０は、物理通信リンクおよび無線通信リンクのいずれか一方または両方の使用を通じて通信を提供することができる。音声フィッシング禁止モジュール１１０は、通信ユニット７１０を介して永続記憶装置７０８にダウンロードされてもよい。
【0037】
Ｉ／Ｏインターフェース７１２は、コンピューティングデバイス１０２に接続され得る他のデバイスとのデータの入出力を可能にする。例えば、Ｉ／Ｏインターフェース７１２は、キーボード、キーパッド、タッチスクリーン、もしくは他の適切な入力デバイスまたはその組み合わせ等の外部デバイス７１８への接続を提供することができる。外部デバイス７１８はまた、例えば、サムドライブ、ポータブル光または磁気ディスク、およびメモリカードなどのポータブルコンピュータ可読記憶媒体を含み得る。本発明の実施形態を実践するために使用されるソフトウェアおよびデータ、例えば音声フィッシング禁止モジュール１１０は、このような携帯型コンピュータ可読記憶媒体に記憶されることができ、Ｉ／Ｏインターフェース７１２を介して永続記憶装置７０８にロードされることができる。Ｉ／Ｏインターフェース７１２はディスプレイ７２０にも接続する。
【0038】
ディスプレイ７２０は、ユーザにデータを表示する機構を提供し、例えば、コンピュータのモニターであってもよい。
【0039】
本明細書で説明するプログラムは、本発明の特定の実施形態で実施される用途に基づいて特定される。しかしながら、本明細書における任意の特定のプログラムの命名法は、単に便宜のために使用されており、したがって、本発明は、そのような命名法によって特定もしくは暗示またはその両方がなされる任意の特定のアプリケーションにおける使用のみに限定されるべきではないことを理解されたい。
【0040】
本発明は、任意の可能な技術詳細レベルで統合されたシステム、方法もしくはコンピュータプログラム製品またはそれらの組み合せとすることができる。コンピュータプログラム製品は、プロセッサに本発明の態様を実行させるためのコンピュータ可読プログラム命令を記憶したコンピュータ可読記憶媒体を含んでよい。
【0041】
コンピュータ可読記憶媒体は、命令実行装置によって使用される命令を保持し、記憶することができる有形の装置とすることができる。コンピュータ可読記憶媒体は、一例として、電子記憶装置、磁気記憶装置、光学記憶装置、電磁記憶装置、半導体記憶装置またはこれらの適切な組み合わせであってよいが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な一例の非網羅的なリストとしては、ポータブルコンピュータディスケット、ハードディスク、ＲＡＭ、ＲＯＭ、ＥＰＲＯＭ（またはフラッシュメモリ）、ＳＲＡＭ、ＣＤ－ＲＯＭ、ＤＶＤ、メモリスティック、フロッピーディスク、パンチカードまたは溝内の隆起構造などに命令を記録した機械的に符号化された装置、およびこれらの適切な組み合せが挙げられる。本明細書で使用されるコンピュータ可読記憶装置は、電波もしくは他の自由に伝播する電磁波、導波管もしくは他の伝送媒体を介して伝播する電磁波（例えば、光ファイバケーブルを通過する光パルス）、またはワイヤを介して送信される電気信号のような、一過性の信号それ自体として解釈されるべきではない。
【0042】
本明細書に記載のコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体からそれぞれのコンピューティング／処理装置に、または、ネットワーク（例えば、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク、もしくはワイヤレスネットワークまたはその組み合わせ）を介して外部コンピュータまたは外部記憶装置にダウンロードすることができる。ネットワークは、銅線伝送ケーブル、光伝送ファイバー、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ、もしくはエッジサーバーまたはその組み合わせで構成される。各コンピューティング／処理装置のネットワークアダプタカードまたはネットワークインターフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、それぞれのコンピューティング／処理装置内のコンピュータ可読記憶媒体に格納するためにコンピュータ可読プログラム命令を転送する。
【0043】
本発明の動作を実行するためのコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、機械命令、機械依存命令、マイクロコード、ファームウェア命令、状態設定データ、統合回路のための構成データ、またはＳｍａｌｌｔａｌｋ、Ｃ＋＋などのオブジェクト指向プログラミング言語と「Ｃ」プログラミング言語や類似のプログラミング言語などの手続き型プログラミング言語を含む、１つ以上のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードのいずれかであってよい。コンピュータ可読プログラム命令は、スタンドアロンソフトウェアパッケージとして、完全にユーザのコンピュータ上で、または部分的にユーザのコンピュータ上で実行可能である。あるいは、部分的にユーザのコンピュータ上でかつ部分的にリモートコンピュータ上で、または完全にリモートコンピュータまたはサーバ上で実行可能である。後者のシナリオでは、リモートコンピュータは、ローカルエリアネットワーク（ＬＡＮ）またはワイドエリアネットワーク（ＷＡＮ）を含む任意のタイプのネットワークを介してユーザのコンピュータに接続され、または（例えば、インターネットサービスプロバイダーを使用したインターネット経由で）外部コンピュータに接続されてよい。いくつかの実施形態では、例えば、プログラマブルロジック回路、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、またはプログラマブルロジックアレイ（ＰＬＡ）を含む電子回路は、本発明の態様を実行するために、コンピュータ可読プログラム命令の状態情報を利用してパーソナライズすることにより、コンピュータ可読プログラム命令を実行することができる。
【0044】
本発明の態様は、本発明の実施形態による方法、装置（システム）、およびコンピュータプログラム製品のフローチャート図もしくはブロック図またはその両方を参照して本明細書に記載されている。フローチャート図もしくはブロック図またはその両方の各ブロック、およびフローチャート図もしくはブロック図またはその両方のブロックの組み合わせは、コンピュータ可読プログラム命令によって実装できることが理解されよう。
【0045】
これらのコンピュータ可読プログラム命令は、コンピュータまたは他のプログラム可能なデータ処理装置のプロセッサを介して実行される命令がフローチャートもしくはブロック図またはその両方の１つまたは複数のブロックで指定された機能／動作を実装するための手段を生成するように、機械を生成するためにコンピュータのプロセッサまたは他のプログラム可能なデータ処理装置に提供されることができる。これらのコンピュータ可読プログラム命令はまた、フローチャートもしくはブロック図またはその両方の１つまたは複数のブロックで指定された機能／行為の態様を実装する命令を含む生成品の１つを命令が記憶されたコンピュータ可読プログラム命令が構成するように、コンピュータ、プログラム可能なデータ処理装置、もしくは特定の方法で機能する他のデバイスまたはその組み合わせに接続可能なコンピュータ可読記憶媒体の中に記憶されることができる。
【0046】
コンピュータ、他のプログラム可能な装置、または他のデバイス上でフローチャートもしくはブロック図またはその両方の１つまたは複数のブロックで指定された機能／行為を実行する命令のように、コンピュータ可読プログラム命令はまた、コンピュータ、他のプログラム可能なデータ処理装置、または他のデバイスにロードされ、コンピュータ、他のプログラム可能な装置、または他のデバイス上で一連の操作ステップを実行し、コンピュータ実装された過程を生成することができる。
【0047】
図中のフローチャートおよびブロック図は、本発明の様々な実施形態によるシステム、方法、およびコンピュータプログラム製品が実行可能な実装の構成、機能、および動作を示している。これに関して、フローチャートまたはブロック図の各ブロックは、モジュール、セグメント、または命令の一部を表してよく、これは、指定された論理機能を実装するための１つまたは複数の実行可能命令を構成する。いくつかの代替の実施形態では、ブロックに示されている機能は、図に示されている順序とは異なる場合がある。例えば、連続して示される２つのブロックは、実際には、１つのステップとして達成される場合があり、同時に、実質的に同時に、部分的または全体的に時間的に重複する方法で実行されるか、またはブロックは、関係する機能に応じて逆の順序で実行される場合がある。ブロック図もしくはフローチャート図またはその両方の各ブロック、およびブロック図もしくはフローチャート図またはその両方のブロックの組み合わせは、指定された機能または動作を実行する、または特別な目的のハードウェアとコンピュータ命令の組み合わせを実行する特別な目的のハードウェアベースのシステムによって実装できることにも留意されたい。
【0048】
本発明の様々な実施形態の説明は、例示の目的で提示されているが、網羅的であることを意図するものではなく、開示される実施形態に限定されることを意図するものでもない。本発明の範囲および精神から逸脱することなく、多くの修正および変更が可能であることは当業者には明らかであろう。本明細書で使用される用語は、実施形態の原理、市場で見られる技術に対する実際の適用または技術的改善を最もよく説明するため、または当業者が本明細書に記載の実施形態を理解できるようにするために選択された。
【0049】
本発明の特定の実施形態について説明したが、説明した実施形態と同等の他の実施形態が存在することは当業者には理解されるであろう。従って、本発明は、具体的に図示した実施形態によって限定されるものではなく、添付の特許請求の範囲によってのみ限定されるものであることを理解されたい。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【国際調査報告】