(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022098392
(43)【公開日】2022-07-01
(54)【発明の名称】コード検証のための電子装置およびその方法
(51)【国際特許分類】
G06F 11/36 20060101AFI20220624BHJP
【FI】
G06F11/36 180
【審査請求】有
【請求項の数】13
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2021005709
(22)【出願日】2021-01-18
(11)【特許番号】
(45)【特許公報発行日】2021-12-08
(31)【優先権主張番号】10-2020-0180048
(32)【優先日】2020-12-21
(33)【優先権主張国・地域又は機関】KR
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.WINDOWS
2.JAVA
(71)【出願人】
【識別番号】520244544
【氏名又は名称】クーパン コーポレイション
(74)【代理人】
【識別番号】100188558
【弁理士】
【氏名又は名称】飯田 雅人
(74)【代理人】
【識別番号】100205785
【弁理士】
【氏名又は名称】▲高▼橋 史生
(74)【代理人】
【識別番号】100154922
【弁理士】
【氏名又は名称】崔 允辰
(72)【発明者】
【氏名】プラカシュ・カデル
(72)【発明者】
【氏名】デ・ファン・ペ
(72)【発明者】
【氏名】テ・イル・キム
(72)【発明者】
【氏名】キ・ウン・ジャン
【テーマコード(参考)】
5B042
【Fターム(参考)】
5B042HH12
5B042MA05
5B042MA08
5B042MA10
5B042MA14
5B042MC22
5B042MC29
5B042NN04
5B042NN11
(57)【要約】
【課題】使用者入力を互いに異なるバージョンのコードが駆動されるサーバーにサンプリングして伝送し、これに対する結果値を比較した情報を提供することによってコードを検証する。
【解決手段】本開示によると、電子装置で要請情報セットを獲得する段階、前記要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバーに伝送する段階、前記要請情報サブセットを開発サーバーに伝送する段階、前記基準サーバーから前記要請情報サブセットに対応した応答を含む第1応答セットを受信する段階、前記開発サーバーから前記要請情報サブセットに対応した応答を含む第2応答セットを受信する段階、および前記第1応答セットおよび前記第2応答セットの比較情報を提供する段階を含む情報提供方法が開示される。
【選択図】
図1
【特許請求の範囲】
【請求項1】
電子装置で情報提供方法において、
要請情報セットを獲得する段階、
前記要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバーに伝送する段階、
前記要請情報サブセットを開発サーバーに伝送する段階、
前記基準サーバーから前記要請情報サブセットに対応した応答を含む第1応答セットを受信する段階、
前記開発サーバーから前記要請情報サブセットに対応した応答を含む第2応答セットを受信する段階、および
前記第1応答セットおよび前記第2応答セットの比較情報を提供する段階を含む、情報提供方法。
【請求項2】
前記要請情報セットは前記基準サーバーに対応するサービスサーバーに入力される使用者情報に基づいて獲得される、請求項1に記載の情報提供方法。
【請求項3】
前記開発サーバーは前記基準サーバーと互いに対応する構造を有し、
前記要請情報サブセットに対応した応答を生成する前記開発サーバーのコードと前記基準サーバーのコードとは互いに関連し、
使用者入力によって前記開発サーバーのコードが変更可能な、請求項1に記載の情報提供方法。
【請求項4】
前記比較情報を提供する段階は
前記要請情報サブセットの処理と関連する一つ以上のAPI(Application Programming Interface)別に、前記第1応答セットおよび前記第2応答セットを比較する情報を提供する段階を含む、請求項1に記載の情報提供方法。
【請求項5】
前記要請情報セットが時間別に獲得される場合、
前記比較情報を提供する段階は
前記第1応答セットおよび前記第2応答セットを比較した結果に対する時間情報を出力する段階を含む、請求項1に記載の情報提供方法。
【請求項6】
前記基準サーバーおよび前記開発サーバーと関連した統計情報を出力する段階をさらに含む、請求項1に記載の情報提供方法。
【請求項7】
前記統計情報は、前記基準サーバーおよび前記開発サーバーのうち少なくとも一つが前記要請情報サブセットに対応した応答を生成することと関連した性能情報を含む、請求項6に記載の情報提供方法。
【請求項8】
前記性能情報は、前記基準サーバーおよび前記開発サーバーのうち少なくとも一つに設置されたアプリケーションの性能情報を含み、
前記アプリケーションの性能情報は、前記応答の生成に関連した遅延時間およびメモリ使用量のうち少なくとも一つを含む、請求項7に記載の情報提供方法。
【請求項9】
前記要請情報サブセットの処理と関連する一つ以上のAPI別に前記統計情報が出力される、請求項6に記載の情報提供方法。
【請求項10】
前記第1応答セットおよび前記第2応答セットを比較した結果に基づいて前記開発サーバーのコードの問題の有無を判断する段階をさらに含む、請求項1に記載の情報提供方法。
【請求項11】
前記開発サーバーのコードに問題がないと判断する場合、前記開発サーバーのコードを前記基準サーバーに対応するサービスサーバーに配布する段階をさらに含む、請求項10に記載の情報提供方法。
【請求項12】
前記電子装置は少なくとも一つのサブ装置を含み、
前記少なくとも一つのサブ装置によって前記比較情報を提供する段階が遂行される、請求項1に記載の情報提供方法。
【請求項13】
請求項1に記載された方法をコンピュータで実行させるためのプログラムを記録した、コンピュータ読み取り可能な非一過性の記録媒体。
【請求項14】
情報を提供する電子装置において、
トランシーバー、命令語を保存するメモリおよびプロセッサを含み、
前記プロセッサは、前記メモリと連結され、要請情報セットを獲得し、前記要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバーに伝送し、前記要請情報サブセットを開発サーバーに伝送し、前記基準サーバーから前記要請情報サブセットに対応した応答を含む第1応答セットを受信し、前記開発サーバーから前記要請情報サブセットに対応した応答を含む第2応答セットを受信し、前記第1応答セットおよび前記第2応答セットの比較情報を提供する、電子装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示はコード検証のための電子装置およびその方法に関する。より具体的には、本開示は使用者入力を互いに異なるバージョンのコードが駆動されるサーバーにサンプリングして伝送し、これに対する結果値を比較した情報を提供することによってコードを検証できる、電子装置およびその方法に関する。
【背景技術】
【0002】
電子技術の発達につれて、生活全般には電子技術を利用したサービスが根付いてきた。使用者にサービスを提供するサーバーは問題を改善したり追加機能を提供するなどの理由で、その動作のためのコード(機械語によって記述され、CPUによって解釈されて実行されるプログラム)の変更が必要となり得る。
【0003】
従来から、サーバー、パーソナルコンピュータまたは移動通信端末などの情報処理装置では、検証されたコードが装置上で実行されることが要求されている。すなわち、第三者によって意図しない変更が発生したコード、または予測できない問題が発生し得るコードがメモリに保存されて装置上で実行されることがないようにする必要がある。
【0004】
そして、このような必要性に対する従来技術として、情報処理装置に検証用ソフトウェアを追加し、コードにあらかじめ付与されている検証情報を利用してコードを実行する前にコードを検証する方法や、情報処理装置に復号用ソフトウェアを追加し、あらかじめ暗号化されたコードを実行する前に復号することによってコードを検証する方法が、従来から一般的に行われている。
【0005】
しかし、前記従来技術はソフトウェアによってコードを検証するものであって、ソフトウェアの駆動エラーの可能性などを排除できず、別途のソフトウェアが情報処理装置にあらかじめ追加されていなければならないという限界が存在した。
【0006】
このような点を考慮する時、情報処理装置のプロセッサやメモリの構造変更、別途のソフトウェアの設置をすることなくコードを検証できる方法および装置が必要であるのが実情である。
【発明の概要】
【発明が解決しようとする課題】
【0007】
本実施例が解決しようとする課題は、テスト環境でコードを検証してコードに問題があるかどうかを先制的に判断することによって、該当コードを利用して使用者にサービスを提供する時に問題が発生しないように予防する電子装置およびその方法を提供することである。
【0008】
本実施例が達成しようとする技術的課題は前記のような技術的課題に限定されず、以下の実施例からさらに他の技術的課題が類推され得る。
【課題を解決するための手段】
【0009】
一実施例に係る電子装置での情報提供方法は、要請情報セットを獲得する段階、前記要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバーに伝送する段階、前記要請情報サブセットを開発サーバーに伝送する段階、前記基準サーバーから前記要請情報サブセットに対応した応答を含む第1応答セットを受信する段階、前記開発サーバーから前記要請情報サブセットに対応した応答を含む第2応答セットを受信する段階、および前記第1応答セットおよび前記第2応答セットの比較情報を提供する段階を含む。
【0010】
一実施例によると、前記要請情報セットは前記基準サーバーに対応するサービスサーバーに入力される使用者情報に基づいて獲得され得る。
【0011】
一実施例によると、前記開発サーバーは前記基準サーバーと互いに対応する構造を有し、前記要請情報サブセットに対応した応答を生成する前記開発サーバーのコードと前記基準サーバーのコードとは互いに関連して、使用者入力によって前記開発サーバーのコードが変更され得る。
【0012】
一実施例によると、前記比較情報を提供する段階は前記要請情報サブセットの処理と関連する一つ以上のAPI(Application Programming Interface)別に、前記第1応答セットおよび前記第2応答セットを比較する情報を提供する段階を含むことができる。
【0013】
一実施例によると、前記要請情報セットが時間別に獲得される場合、前記比較情報を提供する段階は前記第1応答セットおよび前記第2応答セットを比較した結果に対する時間情報を出力する段階を含むことができる。
【0014】
一実施例によると、前記情報提供方法は前記基準サーバーおよび前記開発サーバーと関連した統計情報を出力する段階をさらに含むことができる。
【0015】
一実施例によると、前記統計情報は前記基準サーバーおよび前記開発サーバーのうち少なくとも一つが前記要請情報サブセットに対応した応答を生成することと関連した性能情報を含むことができる。
【0016】
一実施例によると、前記性能情報は前記基準サーバーおよび前記開発サーバーのうち少なくとも一つに設置されたアプリケーションの性能情報を含み、前記アプリケーションの性能情報は前記応答の生成に関連した遅延時間およびメモリ使用量のうち少なくとも一つを含むことができる。
【0017】
一実施例によると、前記要請情報サブセットの処理と関連する一つ以上のAPI別に前記統計情報が出力され得る。
【0018】
一実施例によると、前記情報提供方法は前記第1応答セットおよび前記第2応答セットを比較した結果に基づいて前記開発サーバーのコードの問題の有無を判断する段階をさらに含むことができる。
【0019】
一実施例によると、前記開発サーバーのコードに問題がないと判断する場合、前記情報提供方法は前記開発サーバーのコードを前記基準サーバーに対応するサービスサーバーに配布する段階をさらに含むことができる。
【0020】
一実施例によると、前記電子装置は少なくとも一つのサブ装置を含み、前記少なくとも一つのサブ装置によって前記比較情報を提供する段階が遂行され得る。
【0021】
一実施例に係る情報を提供する電子装置はトランシーバー、命令語を保存するメモリおよびプロセッサを含み、前記プロセッサは、前記メモリと連結され、要請情報セットを獲得し、前記要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバーに伝送し、前記要請情報サブセットを開発サーバーに伝送し、前記基準サーバーから前記要請情報サブセットに対応した応答を含む第1応答セットを受信し、前記開発サーバーから前記要請情報サブセットに対応した応答を含む第2応答セットを受信し、前記第1応答セットおよび前記第2応答セットの比較情報を提供する。
【0022】
その他実施例の具体的な事項は詳細な説明および図面に含まれている。
【発明の効果】
【0023】
本開示によると、コードを検証する電子装置およびその方法は、テスト環境でコードを検証してコードに問題があるかどうかを先制的に判断することによって、該当コードを利用して使用者にサービスを提供する時に問題が発生しないように予防することができる。
【0024】
発明の効果は以上で言及した効果に制限されず、言及されていないさらに他の効果は特許請求の範囲の記載から当該技術分野の通常の技術者に明確に理解され得るであろう。
【図面の簡単な説明】
【0025】
【
図1】一実施例に係る情報提供システムを示す概略的な構成図である。
【
図2】一実施例に係る情報提供システムでの情報提供方法の動作フローチャートである。
【
図3a】一実施例に係る電子装置が提供する統計情報を例示的に説明するための図面である。
【
図3b】一実施例に係る電子装置が提供する統計情報を例示的に説明するための図面である。
【
図4】一実施例に係る電子装置が提供する比較情報を例示的に説明するための図面である。
【
図5】一実施例に係る電子装置の情報提供方法の動作フローチャートである。
【
図6】一実施例に係るコードを検証する電子装置の構成の例示図である。
【発明を実施するための形態】
【0026】
実施例で使われる用語は、本開示での機能を考慮しつつ、可能な限り現在広く使われる一般的な用語を選択したが、これは当分野に従事する技術者の意図または判例、新しい技術の出現などによって変わり得る。また、特定の場合には出願人が任意に選定した用語もあり、この場合、該当する説明の部分で詳細にその意味を記載する。したがって、本開示で使われる用語は単なる用語の名称ではなく、その用語が有する意味と本開示の全般にわたった内容に基づいて定義されるべきである。
【0027】
明細書全体において、ある部分がある構成要素を「含む」とする時、これは特に反対の記載がない限り、他の構成要素を除くものではなく他の構成要素をさらに含み得ることを意味する。また、明細書に記載された「…部」、「…モジュール」等の用語は少なくとも一つの機能や動作を処理する単位を意味し、これはハードウェアまたはソフトウェアで具現されるかハードウェアとソフトウェアの結合で具現され得る。
【0028】
明細書全体で記載された「a、b、およびcのうち少なくとも一つ」の表現は、「a単独」、「b単独」、「c単独」、「aおよびb」、「aおよびc」、「bおよびc」、または「a、b、cすべて」を含むことができる。
【0029】
以下で言及される「端末」は、ネットワークを通じてサーバーや他の端末に接続できるコンピュータや携帯用端末で具現され得る。ここで、コンピュータは例えば、ウェブブラウザ(WEB Browser)が搭載されたノートパソコン、デスクトップ(desktop)、ラップトップ(laptop)等を含み、携帯用端末は例えば、携帯性と移動性が保障される無線通信装置であって、IMT(International Mobile Telecommunication)、CDMA(Code Division Multiple Access)、W-CDMA(W-Code Division Multiple Access)、LTE(Long Term Evolution)等の通信基盤端末、スマートフォン、タブレットPCなどのようなすべての種類のハンドヘルド(Handheld)基盤の無線通信装置を含むことができる。
【0030】
以下、添付した図面を参照して本開示の実施例について、本開示が属する技術分野で通常の知識を有する者が容易に実施できるように詳細に説明する。しかし、本開示は多様な異なる形態で具現され得、ここで説明する実施例に限定されない。
【0031】
以下、本発明の実施例を添付された図面を参照して詳細に説明する。
【0032】
実施例を説明するにおいて、本発明が属する技術分野に広く知られていて本発明と直接的にかかわっていない技術内容については説明を省略する。これは、不要な説明を省略することによって本発明の要旨を曖昧にすることなくさらに明確に伝達するためである。
【0033】
同様の理由で、添付図面において一部の構成要素は誇張および省略され、または概略的に図示された。また、各構成要素の大きさは実際の大きさを全部反映するものではない。各図面で同一または対応する構成要素には同一の参照番号を付与した。
【0034】
本発明の利点および特徴、そしてそれらを達成する方法は、添付される図面と共に詳細に後述されている実施例を参照すると明確となるであろう。しかし、本発明は以下で開示される実施例に限定されるものではなく互いに異なる多様な形態で具現され得、ただし本実施例は本発明の開示を完全なものとし、本発明が属する技術分野で通常の知識を有する者に発明の範疇を完全に知らせるために提供されるものであり、本発明は請求項の範疇によって定義されるのみである。明細書全体に亘って同一の参照符号は同一の構成要素を指し示す。
【0035】
この時、処理フローチャート図面の各ブロックとフローチャート図面の組み合わせは、コンピュータプログラムインストラクションによって遂行され得ることが理解できるであろう。これらコンピュータプログラムインストラクションは、汎用コンピュータ、特殊用コンピュータまたはその他プログラム可能なデータプロセッシング装備のプロセッサに搭載され得るため、コンピュータまたはその他プログラム可能なデータプロセッシング装備のプロセッサを通じて遂行されるそのインストラクションが、フローチャートのブロック(ら)で説明された機能を遂行する手段を生成することになる。これらコンピュータプログラムインストラクションは特定の方式で機能を具現するために、コンピュータまたはその他プログラム可能なデータプロセッシング装備を指向できるコンピュータ利用可能またはコンピュータ読み取り可能メモリに保存されることも可能であるため、そのコンピュータ利用可能またはコンピュータ読み取り可能メモリに保存されたインストラクションは、フローチャートのブロック(ら)で説明された機能を遂行するインストラクション手段を内包する製造品目を生産することも可能である。コンピュータプログラムインストラクションはコンピュータまたはその他プログラム可能なデータプロセッシング装備上に搭載されることも可能であるため、コンピュータまたはその他プログラム可能なデータプロセッシング装備上で一連の動作段階が遂行されて、コンピュータで実行されるプロセスを生成してコンピュータまたはその他プログラム可能なデータプロセッシング装備を実行するインストラクションは、フローチャートのブロック(ら)で説明された機能を遂行するための段階を提供することも可能である。
【0036】
また、各ブロックは特定された論理的機能(ら)を実行するための一つ以上の実行可能なインストラクションを含むモジュール、セグメントまたはコードの一部を表すことができる。また、いくつかの代替実行例では各ブロックで言及された機能が順序をはずれて発生することも可能であることに注目しなければならない。例えば、続けて図示されている二つのブロックは実質的に同時に遂行されることも可能であり、またはそのブロックが時々該当する機能により逆順で遂行されることも可能である。
【0037】
図1は、一実施例に係る情報提供システムを示す概略的な構成図である。
【0038】
多様な実施例によると、情報提供システムは、電子装置110、基準サーバー120および開発サーバー130を含むことができる。また、実施例により情報提供システムは、電子装置110、基準サーバー120および開発サーバー130間の情報の送受信を支援するネットワークをさらに含むことができる(図示せず)。
【0039】
電子装置110、基準サーバー120および開発サーバー130それぞれはメモリおよびプロセッサを含むことができる。また、電子装置110、基準サーバー120および開発サーバー130それぞれは少なくとも一つの機能や動作を処理する単位を意味し、これはハードウェアやソフトウェア、またはハードウェアおよびソフトウェアの結合で具現され得る。
【0040】
一実施例によると、電子装置110、基準サーバー120および開発サーバー130はネットワークサーバーで具現される多数のコンピュータシステムまたはコンピュータソフトウェアを含むことができ、多様な情報をウェブページで構成して提供することができる。例えば、電子装置110、基準サーバー120および開発サーバー130のうち少なくとも一部は、イントラネットまたはインターネットのようなコンピュータネットワークを通じて他のネットワークサーバーと通信できる下位装置と連結されて作業の遂行要請を受け付け、それに対する作業を遂行して遂行結果を提供するコンピュータシステムおよびコンピュータソフトウェアを指し示し得る。その他にも、電子装置110、基準サーバー120および開発サーバー130のうち少なくとも一部は、ネットワークサーバー上で動作できる一連のアプリケーションと、内部に構築されている各種データベースを含む広義の概念で理解され得る。例えば、電子装置110、基準サーバー120および開発サーバー130のうち少なくとも一部は、ディーオーエス(DOS)、ウインドウ(Windows)、リナックス(登録商標)(Linux(登録商標))、ユニックス(UNIX(登録商標))、またはマックOS(MacOS)等の運営体制に応じて多様に提供されるネットワークサーバープログラムを利用して具現され得る。
【0041】
電子装置110は情報を提供するために、要請情報セットを獲得し、要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバー120に伝送し、要請情報サブセットを開発サーバー130に伝送し、基準サーバー120から要請情報サブセットに対応した応答を含む第1応答セットを受信し、開発サーバー130から要請情報サブセットに対応した応答を含む第2応答セットを受信する。電子装置110と基準サーバー120間の通信および電子装置110と開発サーバー130間の通信のために、ネットワークが利用され得る。また、実施例で電子装置110は、基準サーバー120から受信した情報および開発サーバー130から受信した情報に基づいて比較情報を生成することができ、要請情報サブセットに対応して開発サーバー130から受信した情報に基づいて応答のための開発サーバー130での駆動状態に関連した情報を受信して提供することができる。
【0042】
一実施例によると、電子装置110はステートフル(stateful)サーバーを含むことができる。具体的には、電子装置110は連結された他の装置との通信状態をリアルタイムに追跡し、追跡した通信状態を自身の情報提供に利用することができる。例えば、電子装置110はデータの送受信に関連した遅延時間(latency)等を含む性能(performance)情報を獲得することができる。一方、遅延時間は各サーバーで応答を生成するのに要する時間およびネットワーク上で該当情報を伝送する時間のうち少なくとも一つを含むことができる。また、実施例で性能情報は、他の装置が要請情報に対する応答を生成するために要するリソース関連情報を含むことができる。一例として、メモリ使用量、CPU占有率などの情報も性能情報に含まれ得、このような性能情報に基づいて該当サーバーでコードが動作する状況を効果的にモニタリングすることができる。また、実施例で性能情報は前記他の電子装置に設置されたアプリケーション性能情報を含むことができる。一例として、要請情報に基づいてアプリケーションが応答情報を生成し、このようにアプリケーションが応答情報を生成するのに要する性能関連基準が前記性能情報に含まれ得る。
【0043】
電子装置110が情報を提供する方法に関連したより詳細な事項は、
図2~
図5を通じて後述する。
【0044】
基準サーバー120は要請情報サブセットを電子装置110から受信し、要請情報サブセットに対する応答(以下、第1応答セット)を生成し、生成された第1応答セットを電子装置110に伝送する。基準サーバー120は実際に使用者にサービスを提供するサービスサーバーに対応するサーバーであって、サービスサーバーと対応する構造を有するサーバーであり得る。基準サーバー120で要請情報サブセットに対する応答を生成するために使うコードは、サービスサーバーで要請情報サブセットに対する応答を生成するために使うコードに対応し得る。
【0045】
開発サーバー130は要請情報サブセットを電子装置110から受信し、要請情報サブセットに対する応答(以下、第2応答セット)を生成し、生成された第2応答セットを電子装置110に伝送する。開発サーバー130は実際に使用者にサービスを提供するサービスサーバーに対応するサーバーであって、サービスサーバーと対応する構造を有するサーバーであり得る。すなわち、開発サーバー130は基準サーバー120と互いに対応する構造を有することができる。
【0046】
開発サーバー130で要請情報サブセットに対する応答を生成するために使うコードは、サービスサーバーで要請情報サブセットに対する応答を生成するために使うコードに関連するコードであり得る。ただし、使用者入力によって開発サーバー130のコードは変更され得る。
【0047】
基準サーバー120はサービスサーバーで使われるコードを使い、開発サーバー130は変更されたコードを使うことによって、第2応答セットは変更されたコードを使う場合の応答に対応し、第1応答セットは既存のコードを使う場合の応答に対応し得る。この場合、第1応答セットおよび第2応答セットを比較することによって変更されたコードの問題の有無を判断することができる。一方、実施例で基準サーバー120は実サービスで使われる少なくとも一つのサーバーのうち少なくとも一部のサーバーで具現することも可能であり得る。
【0048】
以下、説明の便宜のために開発サーバー130が変更されたコードを使う場合に限定して説明したが、本発明の内容は開発サーバー130が変更されたコードを利用する実施例に限定されるものではなく、実施例によっては開発サーバー130が基準サーバー120と同一のコードを使ってもよい。例えば、基準サーバー120と開発サーバー130が同一のコードを使うことによって、基準サーバー120と開発サーバー130の構造が互いに対応するかどうかを検証することができる。
【0049】
ネットワークは、電子装置110と基準サーバー120、電子装置110と開発サーバー130または電子装置110と外部装置(例:クエリ受信サーバー、サービスサーバーなど)を連結する役割をすることができる。例えば、ネットワークは、基準サーバー120、開発サーバー130または外部装置が電子装置110と連結されて電子装置110とパケットデータを送受信できるように接続経路を提供することができる。
【0050】
多様な実施例に係る一連の情報提供方法に関連した動作は、単一の物理的装置によって具現され得、複数の物理的装置が有機的に結合された方式で具現されてもよい。例えば、情報提供システムに含まれた構成のうち一部はいずれか一つの物理的装置によって具現され、残りの一部は他の物理的装置で具現され得る。例えば、いずれか一つの物理的装置は、電子装置110の一部で具現され得、他の物理的装置は、基準サーバー120の一部または開発サーバー130の一部または外部装置の一部で具現されてもよい。場合により、前記情報提供システムに含まれたそれぞれの構成要素はそれぞれ互いに異なる物理的装置に分散して配置され、前記分散配置された構成要素が有機的に結合されて前記情報提供システムの機能および動作を遂行するように具現されてもよい。例えば、本明細書の電子装置110は少なくとも一つのサブ装置を含み、電子装置110によって遂行されるものとして記載された一部の動作は第1サブ装置によって遂行され、他の一部の動作は第2サブ装置によって遂行されてもよい。例えば、第1応答セットおよび第2応答セットの比較情報を提供する動作が電子装置110が含むサブ装置によって遂行され得る。
【0051】
図2は、一実施例に係る電子装置の情報を提供する方法の動作フローチャートである。
【0052】
図2を参照すると、クエリ受信サーバー220は要請情報セットを獲得し(201)、獲得した要請情報セットを電子装置110に伝達することができる(202)。クエリ受信サーバー220は受信した情報を他の装置に伝送するサーバーを含むことができる。例えばクエリ受信サーバー220は分散メッセージングシステムを活用して受信した情報を他のノードに伝送することができ、分散メッセージングシステムの一例として、Apache Kafkaが使われ得る。
【0053】
クエリ受信サーバー220は、実際に使用者にサービスを提供するサービスサーバーから要請情報セットを獲得することができる。要請情報セットはサービスサーバーに入力される使用者情報に基づいて獲得される情報であり得る。要請情報セットはサービスの提供を受ける使用者が入力する各種情報の集合であり得、例えばフロントエンドサーバーに入力される使用者入力に基づいてバックエンドサーバーに伝送される要請情報を含むことができる。
【0054】
実施例により、電子装置110はクエリ受信サーバー220を通じずにサービスサーバーから直接的に要請情報セットを受信したり、クエリ受信サーバー220が電子装置110の一部で具現されてもよい。
【0055】
電子装置110は受信した要請情報セットに基づいて要請情報サブセットを獲得することができる。要請情報サブセットは要請情報セットの少なくとも一部に対応し得る。例えば、要請情報サブセットは要請情報セットが含む複数の使用者情報のうち特定の比率をサンプリングすることによって生成され得る。一方、電子装置110の設定によってサンプリングする比率は変わり得、単位時間当り獲得される要請情報サブセットの数字も電子装置110の設定によって変わり得る。このような要請情報サブセットをサンプリングする比率や単位時間当りサンプリングされる数字を調節することによって、開発サーバー130の負荷テストなどを容易に進めることができる。
【0056】
電子装置110は要請情報サブセットを基準サーバー120に伝送することができる(203)。また、電子装置110は要請情報サブセットを開発サーバー130に伝送することができる(204)。基準サーバー120は受信した要請情報サブセットに対応した応答を含む第1応答セットを生成し(205)、生成された第1応答セットを電子装置110に伝送することができる(207)。開発サーバー130は受信した要請情報サブセットに対応した応答を含む第2応答セットを生成し(206)、生成された第2応答セットを電子装置110に伝送することができる(208).
【0057】
電子装置110は受信した第1応答セットおよび第2応答セットを比較し(209)、比較した情報を提供することができる(210)。具体的には、電子装置110は第1応答セットが含む複数の応答と第2応答セットが含む複数の応答をそれぞれ比較し、それぞれ対応するコードの応答のうち特定部分を比較して同一の応答が受信されたのか他の応答が受信されたのかを確認することができる。実施例で電子装置110に対する設定を通じて、特定コードに対する応答のうち比較する部分を設定することができる。また、二つの応答を比較してどの部分が変わったかを確認できるUIも提供され得る。また、電子装置110は全体の応答のうち互いに異なる出力を有する応答の比率に対する情報も提供することができ、これと関連して詳細な比較結果の例示は
図4に開示されている。
【0058】
一実施例によると、電子装置110は要請情報サブセットの処理と関連する一つ以上のAPI(Application Programming Interface)別に、第1応答セットおよび第2応答セットを比較することができる。この場合、電子装置110は一つ以上のAPI別に区分されるように第1応答セットおよび第2応答セットを比較する情報を提供することができる。
【0059】
管理者は電子装置110が提供する比較情報に基づいて、開発サーバー130が使う変更されたコードに問題があるかどうかを判断することができる。具体的には、管理者は第1応答セットが含む複数の応答と第2応答セットが含む複数の応答が、どの程度一致するかを判断することができる。予想外の不一致応答が発見される場合(すなわち、コードの変更当時に意図した不一致に該当しない場合)、管理者は変更されたコードに問題があると判断し、変更されたコードを修正することができる。電子装置110が一つ以上のAPI別に区分されるように第1応答セットおよび第2応答セットを比較する情報を提供する場合、管理者は不一致応答が発生するAPIを速かに把握できるため、変更されたコードのどの部分に問題があるかを容易に把握することができる。
【0060】
予想外の不一致応答が発見されない場合、管理者は開発サーバー130が使ったコードを基準サーバー120に対応するサービスサーバーに配布することができる。
【0061】
一実施例によると、要請情報セットが時間別に獲得される場合、電子装置110は第1応答セットおよび第2応答セットを比較した結果に対する時間情報を提供することができる。例えば、電子装置110は時系列を軸にして第1応答セットおよび第2応答セットを比較した結果を、グラフの形態で図示して提供することができる。
【0062】
電子装置110が第1応答セットおよび第2応答セットを比較した情報を提供することに関連したより詳細な例示は、
図4を通じて後述する。
【0063】
電子装置110は基準サーバー120および開発サーバー130と関連した統計情報をさらに提供することができる。電子装置110が提供する統計情報のうち少なくとも一部は、第1応答セットおよび第2応答セットを比較した情報に対応し得る。電子装置110が提供する統計情報は要請情報サブセットが含む使用者入力の個数を含むことができる。また、電子装置110が提供する統計情報は電子装置110の性能情報を含むことができる。例えば、統計情報は要請情報の獲得、要請情報サブセットの伝送および第1応答セットおよび第2応答セットの受信のうち、少なくとも一部と関連した遅延時間(latency)を含むことができる。
【0064】
一実施例によると、電子装置110は要請情報サブセットの処理と関連する一つ以上のAPI別に統計情報を提供することができる。例えば、電子装置110は一つ以上のAPI別に要請情報サブセットが含む使用者入力の個数および要請情報サブセットが含む全体使用者入力の個数をすべて提供することができる。
【0065】
一実施例によると、電子装置110は統計情報とともに時間情報を提供することができる。例えば、電子装置110は時系列を軸にして要請情報サブセットが含む使用者入力の個数または性能情報(例えば、遅延時間)をグラフの形態で図示して提供することができる。
【0066】
電子装置110が基準サーバー120および開発サーバー130と関連した統計情報を提供することに関連したより詳細な例示は、
図3aおよび
図3bを通じて後述する。
【0067】
一実施例によると、電子装置110は第1応答セットおよび前記第2応答セットを比較した結果に基づいて開発サーバー130のコードの問題の有無を判断することができる。この場合、電子装置110は事前に設定された条件によってコードの問題の有無を判断することができる。例えば、電子装置110は第1応答セットおよび第2応答セットを比較した結果、不一致応答の発生比率が特定の臨界比率を超過する場合には開発サーバー130のコードに問題があると判断することができる。この場合、開発サーバー130で使われたコードの変更当時に意図された結果に対応する不一致応答は、開発サーバー130のコードに問題があるかどうかを判断するにおいては不一致応答ではないものと見なすことができる。例えば、開発サーバー130で使われたコードが特定APIに対して変更された結果を出力するように変更されたコードの場合、該当APIは除いて不一致応答の発生比率を判断することができる。
【0068】
一実施例によると、電子装置110は開発サーバー130が使ったコードを基準サーバー120に対応するサービスサーバーに配布することができる。この場合、電子装置110が自主的にコードの問題の有無を判断した場合もあれば、管理者がコードの問題の有無を判断して電子装置110にその判断結果を入力した場合もあり得る。
【0069】
図3aおよび
図3bは、一実施例に係る電子装置が提供する統計情報を例示的に説明するための図面である。
【0070】
図3aおよび
図3bを参照すると、電子装置110は基準サーバー120および開発サーバー130と関連した統計情報を提供することができる。電子装置110が提供する統計情報は要請情報サブセットが含む使用者入力の個数310および性能情報320~370を含むことができる。性能情報320~370のうち少なくとも一部は電子装置110の動作と関連し得、少なくとも一部は基準サーバー120および開発サーバー130のうち少なくとも一つが要請情報サブセットに対応した応答を生成することと関連し得る。例えば、統計情報が含む性能情報320~370は要請情報の獲得、要請情報サブセットの伝送および第1応答セットおよび第2応答セットの受信のうち少なくとも一部と関連して、電子装置110、基準サーバー120および開発サーバー130のうち少なくとも一つの性能を表示する少なくとも一つの情報を含むことができる。
【0071】
性能情報320~370は基準サーバー120および開発サーバー130のうち少なくとも一つに設置されたアプリケーションの性能情報を含むことができる。アプリケーションの性能情報は、第1応答セットに含まれる複数の応答および第2応答セットに含まれる複数の応答のうち少なくとも一部を生成することと関連した遅延時間およびメモリ使用量のうち少なくとも一つを含むことができる。一実施例によると、アプリケーションの性能情報は、CPUの性能に関連した情報330、メモリの性能に関連した情報340、電子装置110のシステムロード(load)情報350、使用可能ディスク容量情報360およびネットワークの単位時間当り情報処理量に関連した情報370等を含むことができる。この場合、CPUの性能に関連した情報330は、使用者領域で使ったCPU時間である「CPU:user」、他の通信によってCPUの作業が一時的に待機するのに消費されたCPU時間である「CPU:iowait」、システム領域でCPUが使われた時間である「CPU:system」およびCPUが使われない遊休状態の比率である「CPU:idle」を含むことができる。また、メモリの性能に関連した情報は、メモリ使用量に関連した情報である「Memory:used」および「Memory:used percent」、メモリに関連したキャッシュ(cache)情報である「Memory:cache」およびメモリに関連したバッファ(buffer)情報である「Memory:buffer」を含むことができる。
【0072】
統計情報は時系列を横軸にしてグラフの形態で図示されて表示され得る。統計情報のうち少なくとも一部は、一つ以上のAPI別に区分されて表示され得る。時系列に沿って統計情報を表示することによって、管理者は特定の時点で情報の入出力と関連して問題があったかどうかを判断することができる。例えば、特定の時点で使用者入力が過度に少なかったり発生した遅延時間が過度に大きい場合、管理者は該当時点で送受信した情報が信頼性が低いと判断することができる。または現在時点から近接した時点で使用者入力が過度に少なかったり発生した遅延時間が過度に大きい場合、管理者は問題の発生原因を探索することによって問題の解決を試みることができる。
【0073】
統計情報のうち少なくとも一部は、基準サーバー120に関連した情報および開発サーバー130に関連した情報を比較する形態で表示され得る。例えば、CPUの性能に関連した情報330は基準サーバー120のCPU性能と開発サーバー130のCPU性能を比較した結果を比較する形態で表示され得、これはメモリの性能に関連した情報340、システムロード情報350、使用可能ディスク容量情報360およびネットワークの単位時間当り情報処理量に関連した情報370等の場合にも同様であり得る。また、図面に図示された遅延時間320は電子装置110のAPI別遅延時間情報に対応するが、場合により遅延時間320は基準サーバー120および開発サーバー130の応答の生成に関連する遅延時間を比較して表示する情報に対応してもよい。
【0074】
基準サーバー120に関連した情報および開発サーバー130に関連した情報を比較する統計情報を表示することによって、管理者は開発サーバー130が使う変更されたコードに問題があるかどうかを判断することができる。例えば、性能情報320~370を確認した結果、開発サーバー130の全般的な性能が基準サーバー120の全般的な性能に比べて一定比率以上劣る場合、管理者は開発サーバー130が使う変更されたコードに問題があると判断することができる。この場合、管理者は性能低下の原因を探索することによって性能低下の解決を試みることができる。
【0075】
図4は、一実施例に係る電子装置が提供する比較情報を例示的に説明するための図面である。
【0076】
図4を参照すると、電子装置110は第1応答セットおよび第2応答セットの比較情報410を提供することができる。比較情報410は時系列を横軸にしてグラフの形態で図示されて表示され得、比較情報410は一つ以上のAPI別に区分されて表示され得る。時系列に沿って比較情報410を表示することによって、管理者は不一致な応答がどの時点でどれほど多く受信されたかを確認することができる。
【0077】
電子装置110が提供する比較情報410は、第1応答セットが含む複数の応答および第2応答セットが含む複数の応答と関連して成功的に収集された応答の個数411を含むことができる。この場合、第1応答セットが含む特定の応答と、第2応答セットに含まれながら第1応答セットが含む特定の応答に対応する応答がすべて成功的に受信される場合に成功的に収集された応答の個数411を一つにカウントすることができる。例えば、第1応答セットが300個の応答を含み、第2応答セットが300個の応答を含み、第1応答セットに含まれる応答と第2応答セットに含まれる応答がもれなく対応する場合、成功的に収集された応答の個数411は300個であり得る。
【0078】
また、電子装置110が提供する比較情報410は、第1応答セットが含む複数の応答および第2応答セットが含む複数の応答と関連して一致する応答の個数412と不一致な応答の個数413を含むことができる。予想外の不一致応答が発見される場合、管理者は変更されたコードに問題があると判断し、変更されたコードを修正することができる。
【0079】
一実施例によると、電子装置110が提供する比較情報410は、収集に失敗した応答の個数416や通信不安定などの理由で基準サーバー120との情報の送受信に障害が発生した回数414、開発サーバー130との情報の送受信に障害が発生した回数415等をさらに含むことができる。
【0080】
一実施例によると、電子装置110はログ情報420を提供することができる。ログ情報420は特定の条件を満足するイベントが発生した時に記録される情報であり得る。例えば、ログ情報420は一定時間ごとに収集されるインフォ(info)ログおよびエラー発生時に収集されるエラー(error)ログを含むことができる。ログ情報420は電子装置110で生成された情報でもよく、基準サーバー120や開発サーバー130から受信した情報でもよい。エラーログは電子装置110の作動エラーと関連することもあれば、基準サーバー120や開発サーバー130の作動エラーと関連することもある。
【0081】
一実施例に係る電子装置110は不一致応答の発生比率431、電子装置110が含むサブ装置のうち駆動中のサブ装置の個数432、電子装置110が含むサブ装置のうち活性化したサブ装置の個数433および情報送受信回数434等の情報をさらに提供することができる。サブ装置は電子装置110に含まれる装置であって、第1応答セットおよび第2応答セットの比較情報を提供する動作を遂行する装置であり得る。駆動中のサブ装置はリアルタイムに比較情報を提供している装置に対応し得、活性化したサブ装置は比較情報を提供できる装置に対応し得る(すなわち、駆動中のサブ装置を含む概念であり得る)。情報送受信回数434は要請情報セットの獲得や、要請情報サブセットの伝送や、第1応答セットおよび第2応答セットの受信が単位時間当たり何回遂行されるかに対応し得る。一方、実施例で電子装置110に対する情報に基づいて駆動されるサブ装置の数字を調節することができる。
【0082】
図示はしていないが、一実施例に係る電子装置110は要請情報サブセットの処理と関連する一つ以上のAPI別に不一致応答の個数情報を提供することができる。また、一実施例に係る電子装置110は不一致応答が発生する場合、その不一致応答に対応する経路情報を提供することもできる。
【0083】
その他にも、図示はしていないが、一実施例に係る電子装置110はメモリのうちヒープ領域(heap area)の使用量、メモリのうち非ヒープ領域(non-heap area)の使用量、メモリ管理のために動作するバックグラウンドスレッド(thread)の動作時間、http応答による要請の回数、スレッドの個数、遅延時間の平均値などを含む多様な情報を提供することができる。
【0084】
メモリのうちヒープ領域の使用量はメモリリーク(leak)の発生の有無と関連し得る。具体的には、ヒープ領域の使用量が維持されず、時間に沿って右上向きになる場合、メモリリークが発生したと予想することができる。
【0085】
メモリ管理のために動作するバックグラウンドスレッドはガベージコレクタ(garbage collector)を含むことができる。
【0086】
図5は、一実施例に係る電子装置の情報提供方法の動作フローチャートである。
【0087】
図5を参照すると、一実施例に係る電子装置110は要請情報セットを獲得し(510)、要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバー120および開発サーバー130に伝送する(520)。その後、電子装置110は基準サーバー120から要請情報サブセットに対応した応答を含む第1応答セットを受信し、開発サーバー130から要請情報サブセットに対応した応答を含む第2応答セットを受信する(530)。
【0088】
第1応答セットおよび第2応答セットを受信した電子装置110は、第1応答セットおよび第2応答セットを比較してその比較情報を提供する(540)。
【0089】
図6は、一実施例に係るコードを検証する電子装置の構成の例示図である。
【0090】
図6を参照すると、電子装置110はトランシーバー610、プロセッサ620およびメモリ630を含む。電子装置110はトランシーバー610を通じて基準サーバー120、開発サーバー130および外部装置(例えば、パーソナルコンピュータ)等と連結され、データを交換することができる。
【0091】
プロセッサ620は
図1~
図5を通じて前述した少なくとも一つの装置を含むか、
図1~
図5を通じて前述した少なくとも一つの方法を遂行できる。メモリ630は
図1~
図5を通じて前述した少なくとも一つの方法を遂行するための情報(前述した要請情報セット、要請情報サブセット、第1応答セット、第2応答セット、統計情報および比較情報を含む)を保存することができる。メモリ630は揮発性メモリまたは不揮発性メモリであり得る。
【0092】
プロセッサ620はプログラムを実行し、情報を提供するための電子装置110を制御することができる。プロセッサ620によって実行されるプログラムのコードはメモリ630に保存され得る。
【0093】
また、実施例の電子装置110は管理者に情報を提供できるインターフェースをさらに含むことができる。
【0094】
一方、本明細書と図面には本発明の好ましい実施例について開示し、たとえ特定の用語が使われたとしても、これは単に本発明の技術内容を容易に説明し発明の理解を助けるための一般的な意味で使われたものであって、本発明の範囲を限定しようとするものではない。ここに開示された実施例の他にも本発明の技術的思想に基づいた他の変形例が実施可能であることは本発明が属する技術分野で通常の知識を有する者に自明なものである。
【0095】
前述した実施例に係る電子装置または端末は、プロセッサ、プログラムデータを保存し実行するメモリ、ディスクドライブのような永久保存部(permanent storage)、外部装置と通信する通信ポート、タッチパネル、キー(key)、ボタンなどのような使用者インターフェース装置などを含むことができる。ソフトウェアモジュールまたはアルゴリズムで具現される方法は、前記プロセッサ上で実行可能なコンピュータ読み取り可能なコードまたはプログラム命令であって、コンピュータ読み取り可能な記録媒体上に保存され得る。ここでコンピュータ読み取り可能な記録媒体として、マグネチック保存媒体(例えば、ROM(read-only memory)、RAM(random-Access memory)、フロッピーディスク、ハードディスクなど)および光学的読み取り媒体(例えば、シーディーロム(CD-ROM)、ディーブイディー(DVD:Digital Versatile Disc))等がある。コンピュータ読み取り可能な記録媒体はネットワークに連結されたコンピュータシステムに分散され、分散方式でコンピュータが読み取り可能なコードが保存され実行され得る。媒体はコンピュータによって読み取り可能であり、メモリに保存され、プロセッサで実行され得る。
【0096】
本実施例は機能的なブロック構成および多様な処理段階で示され得る。このような機能ブロックは特定機能を遂行する多様な個数のハードウェアまたは/およびソフトウェア構成で具現され得る。例えば、実施例は一つ以上のマイクロプロセッサの制御または他の制御装置によって多様な機能を遂行できる、メモリ、プロセッシング、ロジック(logic)、ルックアップテーブル(look-up table)等のような直接回路構成を採用することができる。構成要素がソフトウェアプログラミングまたはソフトウェア要素で実行され得るのと同様に、本実施例はデータ構造、プロセス、ルーチンまたは他のプログラミング構成の組み合わせで具現される多様なアルゴリズムを含み、C、C++、ジャヴァ(Java)、アセンブラ(assembler)、パイソン(Python)等のようなプログラミングまたはスクリプト言語で具現され得る。機能的な側面は一つ以上のプロセッサで実行されるアルゴリズムで具現され得る。また、本実施例は電子的な環境設定、信号処理、および/またはデータ処理などのために従来技術を採用することができる。「メカニズム」、「要素」、「手段」、「構成」のような用語は広く使われ得、機械的で物理的な構成で限定されるものではない。前記用語はプロセッサなどと連係してソフトウェアの一連の処理(routines)の意味を含むことができる。
【0097】
前述した実施例は一例示に過ぎず、後述する請求項の範囲内で他の実施例が具現され得る。
【符号の説明】
【0098】
110 電子装置
120 基準サーバー
130 開発サーバー
220 クエリ受信サーバー
610 トランシーバー
620 プロセッサ
630 メモリ
【手続補正書】
【提出日】2021-09-24
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
電子装置で情報提供方法において、
時間別に要請情報セットを獲得する段階、
前記要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバーに伝送する段階、
前記要請情報サブセットを開発サーバーに伝送する段階、
前記基準サーバーから前記要請情報サブセットに対応した応答を含む第1応答セットを受信する段階、
前記開発サーバーから前記要請情報サブセットに対応した応答を含む第2応答セットを受信する段階、および
前記第1応答セットおよび前記第2応答セットの比較情報を時系列で提供する段階を含み、前記比較情報が前記第1応答セットおよび前記第2応答セットの間の一致しない応答の量を示す情報を含む、情報提供方法。
【請求項2】
前記要請情報セットは前記基準サーバーに対応するサービスサーバーに入力される使用者情報に基づいて獲得される、請求項1に記載の情報提供方法。
【請求項3】
前記開発サーバーは前記基準サーバーと互いに対応する構造を有し、
前記要請情報サブセットに対応した応答を生成する前記開発サーバーのコードと前記基準サーバーのコードとは互いに関連し、
使用者入力によって前記開発サーバーのコードが変更可能な、請求項1に記載の情報提供方法。
【請求項4】
前記比較情報を提供する段階は
前記要請情報サブセットの処理と関連する一つ以上のAPI(Application Programming Interface)別に、前記第1応答セットおよび前記第2応答セットを比較する情報を提供する段階を含む、請求項1に記載の情報提供方法。
【請求項5】
前記基準サーバーおよび前記開発サーバーと関連した統計情報を出力する段階をさらに含む、請求項1に記載の情報提供方法。
【請求項6】
前記統計情報は、前記基準サーバーおよび前記開発サーバーが前記要請情報サブセットに対応した応答を生成することと関連した性能情報を含む、請求項5に記載の情報提供方法。
【請求項7】
前記性能情報は、前記基準サーバーおよび前記開発サーバーに設置されたアプリケーションの性能情報を含み、
前記アプリケーションの性能情報は、前記応答の生成に関連した遅延時間およびメモリ使用量のうち少なくとも一つを含む、請求項6に記載の情報提供方法。
【請求項8】
前記要請情報サブセットの処理と関連する一つ以上のAPI別に前記統計情報が出力される、請求項5に記載の情報提供方法。
【請求項9】
前記第1応答セットおよび前記第2応答セットを比較した結果に基づいて前記開発サーバーのコードの問題の有無を判断する段階をさらに含む、請求項1に記載の情報提供方法。
【請求項10】
前記開発サーバーのコードに問題がないと判断する場合、前記開発サーバーのコードを前記基準サーバーに対応するサービスサーバーに配布する段階をさらに含む、請求項9に記載の情報提供方法。
【請求項11】
前記電子装置は少なくとも一つのサブ装置を含み、
前記少なくとも一つのサブ装置によって前記比較情報を提供する段階が遂行される、請求項1に記載の情報提供方法。
【請求項12】
請求項1に記載された方法をコンピュータで実行させるためのプログラムを記録した、コンピュータ読み取り可能な非一過性の記録媒体。
【請求項13】
情報を提供する電子装置において、
トランシーバー、命令語を保存するメモリおよびプロセッサを含み、
前記プロセッサは、前記メモリと連結され、時間別に要請情報セットを獲得し、前記要請情報セットのうち少なくとも一部に対応する要請情報サブセットを基準サーバーに伝送し、前記要請情報サブセットを開発サーバーに伝送し、前記基準サーバーから前記要請情報サブセットに対応した応答を含む第1応答セットを受信し、前記開発サーバーから前記要請情報サブセットに対応した応答を含む第2応答セットを受信し、前記第1応答セットおよび前記第2応答セットの比較情報を時系列に提供し、
前記比較情報が前記第1応答セットおよび前記第2応答セットの間の一致しない応答の量を示す情報を含む、電子装置。
【外国語明細書】