特開 2024-165175 テキスト生成システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024165175

(43)【公開日】2024-11-28

(54)【発明の名称】テキスト生成システム

(51)【国際特許分類】

   G06F 8/73 20180101AFI20241121BHJP

【ＦＩ】

G06F8/73

【審査請求】未請求

【請求項の数】13

【出願形態】ＯＬ

(21)【出願番号】P 2023081096

(22)【出願日】2023-05-16

【公序良俗違反の表示】

（特許庁注：以下のものは登録商標）

１．ＰＹＴＨＯＮ

２．ＪＡＶＡ

３．ＪＡＶＡＳＣＲＩＰＴ

４．ＶＩＳＵＡＬ ＢＡＳＩＣ

５．Ｍａｔｈｅｍａｔｉｃａ

(71)【出願人】

【識別番号】000005108

【氏名又は名称】株式会社日立製作所

(74)【代理人】

【識別番号】110001689

【氏名又は名称】青稜弁理士法人

(72)【発明者】

【氏名】是枝 祐太

(72)【発明者】

【氏名】森下 皓文

(72)【発明者】

【氏名】今一 修

【テーマコード（参考）】

5B376

【Ｆターム（参考）】

5B376BB03

5B376BB11

5B376BB15

(57)【要約】

【課題】テキスト生成システムにおいて、数万から数百万行のプログラムコードを抽象的に要約してレポジトリ全体に関するドキュメンテーションを生成する。
【解決手段】プログラムコードからプログラムコード部分を特定する代表プログラムコード特定部と、プログラムコード部分とモデル情報に基づいてプログラムコードの説明テキストを生成するコンテンツ生成部を有する。
【選択図】図１

【特許請求の範囲】

【請求項1】

プロセッサによりプログラムコードから前記プログラムコードの説明テキストを生成するテキスト生成システムであって、
前記プログラムコードからプログラムの代表的な処理が記載されている前記プログラムコードの一部分であるプログラムコード部分を特定する代表プログラムコード特定部と、
前記プログラムコード部分と、モデル情報としての少なくとも一つの設定値に基づいて、前記プログラムコードの前記説明テキストを生成するコンテンツ生成部と、
を有することを特徴とするテキスト生成システム。

【請求項2】

前記代表プログラムコード特定部は、
前記プログラムコード部分として、前記プログラムコードの断片を構成するプログラムコード断片を特定することを特徴とする請求項１に記載のテキスト生成システム。

【請求項3】

前記代表プログラムコード特定部は、
前記プログラムの前記代表的な処理として、前記プログラムの抽象的な全体処理が記載されているプログラムコード部分を特定し、
前記プログラムコード部分として、ファイル、パッケージ、関数、クラス、コードブロック及びユーザーインターフェースコンポーネントの少なくとも一つを特定することを特徴とする請求項１に記載のテキスト生成システム。

【請求項4】

前記代表プログラムコード特定部は、
前記プログラムコードの内容に基づいて、前記プログラムコードから前記プログラムコード部分を特定することを特徴とする請求項１に記載のテキスト生成システム。

【請求項5】

前記代表プログラムコード特定部は、
前記プログラムコードを複数のプログラムコード部分に分割し、
分割された複数の前記プログラムコード部分の内容及び分割された複数の前記プログラムコード部分の間の構造的な関係性の少なくとも一つに基づいて、前記プログラムコード部分を特定することを特徴とする請求項１に記載のテキスト生成システム。

【請求項6】

前記コンテンツ生成部は、
前記設定値として、アフィン変換又は非線形変換のパラメータ値を用いて、前記アフィン変換又は前記非線形変換によって前記説明テキストを生成することを特徴とする請求項１に記載のテキスト生成システム。

【請求項7】

前記コンテンツ生成部の生成内容を制御する少なくとも一つの文字列を保持するプロンプトテンプレートデータベースを更に有し、
前記コンテンツ生成部は、
前記プロンプトテンプレートデータベースから前記文字列の入力受け付け、前記設定値と前記文字列に基づいて前記説明テキストを生成することを特徴とする請求項１に記載のテキスト生成システム。

【請求項8】

前記代表プログラムコード特定部で特定された前記プログラムコード部分から前記モデル情報を学習し、学習した前記モデル情報に基づいて前記設定値を生成するモデル学習部を更に有することを特徴とする請求項１に記載のテキスト生成システム。

【請求項9】

前記コンテンツ生成部は、
前記プログラムコードの前記説明テキストを複数生成することを特徴とする請求項１に記載のテキスト生成システム。

【請求項10】

複数の前記説明テキストに対して所定の順序を付与する出力ランキング部を更に有することを特徴とする請求項９に記載のテキスト生成システム。

【請求項11】

複数の前記説明テキストを集約した集約生成テキストを生成する生成テキスト集約部を更に有することを特徴とする請求項９に記載のテキスト生成システム。

【請求項12】

ユーザによるテキスト入力を受け付ける対話的入力受付部を更に有し、
前記コンテンツ生成部は、
前前記テキスト入力と前記プログラムコード部分と前記設定値に基づいて前記説明テキストを生成することを特徴とする請求項１に記載のテキスト生成システム。

【請求項13】

前記説明テキストを表示する表示部を更に有することを特徴とする請求項１に記載のテキスト生成システム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、テキスト生成システムに関する。

【背景技術】

【0002】

近年は、ローコード・ノーコード開発に代表されるようにソフトウェア開発の自動化の進展が著しい。一方、プログラムコードと同程度に重要な、ｒｅａｄｍｅなどレポジトリ全体に関する説明テキスト（ドキュメンテーション）については、多くの開発者の悩みの種であるにもかかわらず、人手での作成に頼っているのが現状である。

【0003】

レポジトリ全体に関するドキュメンテーションの作成を支援する手段として、静的なテンプレートを開発者に提示し、ユーザの入力に基づきテンプレートを埋めるシステムが知られている。しかし、これらの手段は、あくまでもドキュメンテーション作成の要件を開発者に示すにすぎず、実際に開発者がドキュメンテーションの内容を書くことを支援できない。

【0004】

これに関連する技術として、例えば、特許文献１、非特許文献１がある。

【0005】

特許文献１は、プログラムコードから１つ以上のコードコメントを収集し、該コードコメントを結合することで、レポジトリ全体に関するドキュメンテーションを作成する方法を開示している。

【0006】

非特許文献１は、大規模言語モデルを活用することにより、クラスないしは関数のプログラムコードから該クラスないしは関数のコードコメントを生成するシステムを開示している。

【先行技術文献】

【特許文献】

【0007】

【特許文献1】特開２０００－１６３２６０号公報

【非特許文献】

【0008】

【非特許文献1】Ｙｕｅ Ｗａｎｇ， Ｗｅｉｓｈｉ Ｗａｎｇ， Ｓｈａｆｉｑ Ｊｏｔｙ ａｎｄ Ｓｔｅｖｅｎ Ｃ．Ｈ． Ｈｏｉ． ２０２１． ＣｏｄｅＴ５： Ｉｄｅｎｔｉｆｉｅｒ－ａｗａｒｅ Ｕｎｉｆｉｅｄ Ｐｒｅ－ｔｒａｉｎｅｄ Ｅｎｃｏｄｅｒ－Ｄｅｃｏｄｅｒ Ｍｏｄｅｌｓ ｆｏｒ Ｃｏｄｅ Ｕｎｄｅｒｓｔａｎｄｉｎｇ ａｎｄ Ｇｅｎｅｒａｔｉｏｎ． Ｉｎ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２０２１ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｅｍｐｉｒｉｃａｌ Ｍｅｔｈｏｄｓ ｉｎ Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ， ｐｐ． ８６９６-８７０８． Ａｓｓｏｃｉａｔｉｏｎ ｆｏｒ Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃｓ．

【発明の概要】

【発明が解決しようとする課題】

【0009】

特許文献１は、開発者が記述済みのコードコメントを編纂するに過ぎず、プログラムコード自体からレポジトリ全体に関するドキュメンテーションを作成する方法を開示していない。

【0010】

非特許文献１は、クラスないしは関数のコードコメントの生成は、数十行のプログラムコードから、高々数行の具体性の高い説明テキストを生成することに過ぎない。

【0011】

その一方で、ｒｅａｄｍｅに代表されるレポジトリ全体に関するドキュメンテーションの生成においては、数万から数百万行のプログラムコードを抽象的に要約して生成を行う必要があるところ、非特許文献１の計算量は入力プログラムコード長に対して二乗増加する。そのため、コードコメント生成技術をレポジトリ全体に関するドキュメンテーションの生成の問題に適用することはできない。

【0012】

本発明の目的は、テキスト生成システムにおいて、数万から数百万行のプログラムコードを抽象的に要約してレポジトリ全体に関するドキュメンテーションを生成することにある。

【課題を解決するための手段】

【0013】

本発明の一態様のテキスト生成システムは、プロセッサによりプログラムコードから前記プログラムコードの説明テキストを生成するテキスト生成システムであって、前記プログラムコードからプログラムの代表的な処理が記載されている前記プログラムコードの一部分であるプログラムコード部分を特定する代表プログラムコード特定部と、前記プログラムコード部分と、モデル情報としての少なくとも一つの設定値に基づいて、前記プログラムコードの前記説明テキストを生成するコンテンツ生成部とを有することを特徴とする。

【発明の効果】

【0014】

本発明の一態様によれば、テキスト生成システムにおいて、数万から数百万行のプログラムコードを抽象的に要約してレポジトリ全体に関するドキュメンテーションを生成することができる。

【図面の簡単な説明】

【0015】

【図1】実施例１のテキスト生成システムの構成の一例を示す図である。

【図1A】実施例１のテキスト生成システムの構成の一例を示す図である。

【図2】実施例１の代表プログラムコード特定部１１０が実行する処理の一例を説明するフローチャートである。

【図3】実施例１の代表プログラムコード特定部１１０が実行する処理におけるデータの入出力を説明する図である。

【図4】実施例１の代表プログラムコード特定部１１０が実行する処理におけるデータの入出力を説明する図である。

【図5】実施例１の代表プログラムコード特定部１１０が実行する処理におけるデータの入出力を説明する図である。

【図6】実施例１の代表プログラムコード特定部１１０が実行する処理におけるデータの入出力を説明する図である。

【図7】実施例１の代表プログラムコード特定部１１０が実行する処理の一例を説明するフローチャートである。

【図8】実施例１の代表プログラムコード特定部１１０が実行する処理におけるデータの入出力を説明する図である。

【図9】実施例１の代表プログラムコード特定部１１０が実行する処理の一例を説明するフローチャートである。

【図10】実施例１のコンテンツ生成部１１２が実行する処理の一例を説明するフローチャートである。

【0016】

プロンプトテンプレートの一例を示す図である。

【0017】

プロンプトテンプレートの一例を示す図である。

【0018】

プロンプトテンプレートの一例を示す図である。

【図12】トークン辞書の一例を示す図である。

【図13】実施例２のテキスト生成システムの構成の一例を示す図である。

【図14】実施例２の学習部１３１０が実行する処理の一例を説明するフローチャートである。

【図15A】プロンプトテンプレートの一例を示す図である。

【図15B】プロンプトテンプレートの一例を示す図である。

【図16】実施例３のテキスト生成システムの構成の一例を示す図である。

【図17】実施例２の出力ランキング部１６０１が実行する処理の一例を説明するフローチャートである。

【図18】実施例４のテキスト生成システムの構成の一例を示す図である。

【図19A】プロンプトテンプレートの一例を示す図である。

【図19B】プロンプトテンプレートの一例を示す図である。

【図20】プロンプトテンプレートの一例を示す図である。

【図21】実施例５のテキスト生成システムの構成の一例を示す図である。

【図22】実施例５の対話的入力受付部２１０１が実行する処理の一例を説明するフローチャートである。

【図23A】プロンプトテンプレートの一例を示す図である。

【図23B】プロンプトテンプレートの一例を示す図である。

【図23C】プロンプトテンプレートの一例を示す図である。

【図23D】プロンプトテンプレートの一例を示す図である。

【図24A】実施例６の出力部（表示部）のユーザインターフェースに表示する内容の一例を示す図である。

【図24B】実施例６の出力部（表示部）のユーザインターフェースに表示する内容の一例を示す図である。

【図24C】実施例６の出力部（表示部）のユーザインターフェースに表示する内容の一例を示す図である。

【図25】プロンプトテンプレートの一例を示す図である。

【発明を実施するための形態】

【0019】

以下、本発明の実施例を、図面を用いて説明する。ただし、本発明は以下に示す実施の形態の記載内容に限定して解釈されるものではない。本発明の思想ないし趣旨から逸脱しない範囲で、その具体的構成を変更し得ることは当業者であれば容易に理解される。

【0020】

以下に説明する発明の構成において、同一又は類似する構成又は機能には同一の符号を付し、重複する説明は省略する。

【0021】

本明細書等における「第１」、「第２」、「第３」等の表記は、構成要素を識別するために付するものであり、必ずしも、数又は順序を限定するものではない。

【0022】

図面等において示す各構成の位置、大きさ、形状、及び範囲等は、発明の理解を容易にするため、実際の位置、大きさ、形状、及び範囲等を表していない場合がある。したがって、本発明では、図面等に開示された位置、大きさ、形状、及び範囲等に限定されない。

【実施例0023】

図１、図１Ａは、実施例１のテキスト生成システム（計算機システム）の構成の一例を示す図である。

【0024】

テキスト生成システムは、プログラムコードレポジトリを入力にレポジトリ全体に関するドキュメンテーションを出力する。実施例１では、Ｐｙｔｈｏｎ言語で記述されたレポジトリを入力にレポジトリ全体に関するドキュメンテーションである英文のｒｅａｄｍｅを１つ出力する計算機システムを想定する。

【0025】

なお、対象とするプログラムコードはＰｙｔｈｏｎ言語に限定されず、Ｊａｖａ、Ｊａｖａｓｃｒｉｐｔ、Ｃ言語、Ｒ言語、Ｍａｔｈｅｍａｔｉｃａ言語、Ｖｉｓｕａｌ Ｂａｓｉｃ ｆｏｒ Ａｐｐｌｉｃａｔｉｏｎｓ、ＨＴＭＬなどのプログラム言語・マークアップ言語や、ユーザが構築したドメイン固有言語（ＤＳＬ）、それらの組み合わせなど、１つ以上の機能を給する目的で計算機が実行することが意図されたコンピュータ言語であれば、実際にコンピュータが実行できる状態・形態であるかは問わない。

【0026】

また、出力されるドキュメンテーションは、レポジトリ全体に対して抽象的なドキュメンテーションであれば、言語を問わず、ｒｅａｄｍｅだけでなく設計仕様書の一部分やユーザ文書、利用マニュアルなどであっても良い。

【0027】

テキスト生成システムは、一つの計算機１００から構成される。計算機１００は、プロセッサ１０１、メモリ１０２、及びネットワークインタフェース１０３を有する。各ハードウェアは内部バスと介して互いに接続される。計算機１００は、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）及びＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等の記憶装置、キーボード、マウス、及びタッチパネル等の入力装置、並びに、ディスプレイ等の出力装置を有してもよい。

【0028】

プロセッサ１０１は、メモリ１０２に格納されるプログラムを実行する。プロセッサ１０１がプログラムにしたがって処理を実行することによって、所定の機能を有する機能部（モジュール）として動作する。以下の説明では、機能部を主語に処理を説明する場合、プロセッサ１０１が、当該機能部を実現するプログラムを実行していることを表す。

【0029】

メモリ１０２は、プロセッサ１０１が実行するプログラム及び当該プログラムに必要な情報を格納する。また、メモリ１０２は、プログラムが一時的に使用するワークエリアを含む。ネットワークインタフェース１０３は、ネットワークを介して他の装置と接続する。

【0030】

ここで、計算機１００のメモリ１０２に格納されるプログラム及び情報について説明する。

【0031】

計算機１００のメモリ１０２は、モデル情報１１１とプロンプトテンプレートデータベース１１３を保持し、また、代表プログラムコード特定部１１０とコンテンツ生成部１１２を実現するプログラムを格納する。

【0032】

代表プログラムコード特定部１１０は、プログラムコードの入力を受けつけ、該プログラムコードからプログラムの代表的な処理が記載されているプログラムコード断片を特定する。前記プログラムの代表的な処理とは、例えば、プログラムの抽象的な全体処理である。

【0033】

前記代表プログラムコードは、アプリケーションのエントリーポイント、ファサードデザインパターンにおけるファサード、オブジェクト指向型のライブラリにおけるベースクラスなど、様々な形態をとりうる。

【0034】

プログラムコード断片は、前記プログラムコードの一部分であるプログラムコード部分であり、ファイル、パッケージ、関数、クラス、コードブロック、ユーザーインターフェースコンポーネントなどの少なくとも１つである。実施例１では、プログラムコード断片としてファイルを採用する。

【0035】

コンテンツ生成部１１２は、前記プログラムコード断片を受け付け、モデル情報１１１に格納された少なくとも１つ以上の設定値に基づいて、前記プログラムコードの説明テキストを生成する。

【0036】

なお、計算機システムは、計算機１００にデータを入力し、また、計算機１００からデータを取得するための端末等を含んでもよい。計算機１００が有する機能を、ネットワークを介してつながった二つ以上の計算機で実現してもよい。また、計算機１００は、仮想化技術を利用して実現してもよい。

【0037】

図２から図９を用いて、代表プログラムコード特定部１１０が実行する処理について説明する。図２、図７、及び図９は、実施例１の代表プログラムコード特定部１１０が実行する処理の一例を説明するフローチャートである。図３、図４、図５、図６、及び図８は、実施例１の代表プログラムコード特定部１１０が実行する処理におけるデータの入出力を説明する図である。

【0038】

まず、代表プログラムコード特定部１１０はプログラミング言語Ｐｙｔｈｏｎで記述された１つ以上のファイルから構成されるプログラムコードを受け付ける（ステップＳ２０１）。

【0039】

プログラムコードは単一のレポジトリで管理されるファイルの集合でも良いし、複数のレポジトリにまたがって管理されるファイルの集合でも良い。また、単一のレポジトリで管理されるファイルの部分集合であってもよいし、レポジトリ以外の手段で管理されるファイルの集合でもよい。

【0040】

次に、代表プログラムコード特定部１１０は前記プログラムコードをＮ個のファイル３００に分割する（ステップＳ２０２）。該分割の単位はファイルでもよいし、関数・クラスなどファイル未満の単位でも良い。パッケージ等複数のファイルにまたがる単位でもよいし、パッケージと関数の組み合わせなど非排他的な単位でも良い。

【0041】

図３に示すように、ファイル３００に固有のファイル識別子３０１、レポジトリ内におけるファイル３００の格納場所であるファイルディレクトリ３０２、ファイルに記録されているファイル内容３０３を、ファイル３００に格納する。

【0042】

次に、代表プログラムコード特定部１１０は、ファイル３００のループ処理を開始する（ステップＳ２０３）。

【0043】

次に、代表プログラムコード特定部１１０は、ターゲットファイル３００のファイル内容３０３を解析し、該ファイル内容３０３のプログラムコードが依存しているファイル３００を特定する（ステップＳ２０４）。依存グラフ４００（図４参照）に該ターゲットファイル３００から該依存先のファイル３００に対して依存エッジ４０１を追加する。プログラムコードが依存しているファイル３００を特定するには静的プログラム解析を活用してもよいし、正規表現などを活用してもよいし、動的解析や、プログラムコードをコンパイルした上でリバースエンジニアリングをしてもよい。

【0044】

次に、代表プログラムコード特定部１１０は、ターゲットファイル３００のファイル内容３０３を解析し、該ファイルに含まれるクラスが継承しているクラスが含まれているファイル３００を特定する（ステップＳ２０５）。継承グラフ５００（図５参照）に該ターゲットファイル３００から該依存先のファイル３００に対して継承エッジ５０１を追加する。

【0045】

次に、代表プログラムコード特定部１１０は、前記プログラムコードに含まれる全てのファイル３００について処理を実行したか否かを判定する（ステップＳ２０６）。

【0046】

処理を実行していないファイル３００が少なくとも一つ存在すると判定された場合、代表プログラムコード特定部１１０は、ステップＳ２０３に戻り、同様の処理を実行する。

【0047】

前記プログラムコードに含まれる全てのファイル３００について処理を実行したと判定された場合、代表プログラムコード特定部１１０は、ファイル３００のループ処理を終了し、ステップＳ２０７に進む。

【0048】

次に、代表プログラムコード特定部１１０は、依存グラフ４００から各ファイル３００の依存グラフ序数６０２を算出する（ステップＳ２０７）。依存グラフ序数の算出Ｓ２０７を図６と図７を使い説明する。

【0049】

代表プログラムコード特定部１１０は、ファイル３００のループ処理を開始する（ステップＳ７０１）。ターゲットファイル３００をターゲットファイルｉと呼称する。

【0050】

代表プログラムコード特定部１１０は、ファイル３００のループ処理を開始する（ステップＳ７０２）。ターゲットファイル３００をターゲットファイルｊと呼称する。

【0051】

代表プログラムコード特定部１１０は、依存グラフ４００におけるターゲットファイルｊからターゲットファイルｉへの有向グラフ上の距離（最短経路における辺数）を距離マトリクス６０１の（ｉ，ｊ）の座標に格納する（ステップＳ７０３）。ターゲットファイルjからターゲットファイルｉに到達できない場合は０を格納する。

【0052】

次に、代表プログラムコード特定部１１０は、前記プログラムコードに含まれる全てのファイル３００についてステップＳ７０３の処理を実行したか否かを判定する（ステップＳ７０４）。

【0053】

処理を実行していないファイル３００が少なくとも一つ存在すると判定された場合、代表プログラムコード特定部１１０は、ステップＳ７０２に戻り、同様の処理を実行する。

【0054】

前記プログラムコードに含まれる全てのファイル３００について処理を実行したと判定された場合、代表プログラムコード特定部１１０は、ファイル３００のループ処理を終了し、ステップＳ７０５に進む。

【0055】

代表プログラムコード特定部１１０は、距離マトリクス６０１のｉ列の最大値を計算し、ターゲットファイルｉの依存グラフ序数６０２として格納する（ステップＳ７０５）。

【0056】

次に、代表プログラムコード特定部１１０は、前記プログラムコードに含まれる全てのファイル３００についてステップＳ７０２からＳ７０５の処理を実行したか否かを判定する（ステップＳ７０６）。

【0057】

処理を実行していないファイル３００が少なくとも一つ存在すると判定された場合、代表プログラムコード特定部１１０は、ステップＳ７０１に戻り、同様の処理を実行する。

【0058】

前記プログラムコードに含まれる全てのファイル３００について処理を実行したと判定された場合、代表プログラムコード特定部１１０は、ファイル３００のループ処理を終了し、依存グラフ序数の算出Ｓ２０７を終了する。

【0059】

次に、代表プログラムコード特定部１１０は、ファイル３００のループ処理を開始する（ステップＳ２０８）。

【0060】

次に、代表プログラムコード特定部１１０は、ターゲットファイル３００の代表プログラムコードらしさを示す仮分類結果８０１を算出する（ステップＳ２０９）。仮分類結果の算出Ｓ２０９を図８と図９を使い説明する。

【0061】

代表プログラムコード特定部１１０は、ターゲットファイル３００の依存グラフ序数６０２が全ファイル３００の依存グラフ序数６０２の最小値と同じ値である場合、ターゲットファイル３００が依存グラフの最上位であると判定する（ステップＳ９０１）。依存グラフの最上位であるファイルはエントリーポイントなどコードの代表的かつ抽象的な処理を記述している可能性が高いので、該判定結果が真である場合、ターゲットファイル３００の代表プログラムコードらしさを示す仮分類結果８０１の（ｉ，０）に「１」の値を、判定結果が負である場合は仮分類結果８０１の（ｉ，０）に「０」の値を格納する。

【0062】

次に、代表プログラムコード特定部１１０は、ターゲットファイル３００の依存グラフ序数６０２が全ファイル３００の依存グラフ序数６０２の最大値と同じ値である場合、ターゲットファイル３００が依存グラフ４００の最下位であると判定する（ステップＳ９０２）。

【0063】

依存グラフの最下位であるファイルは代表的かつ抽象的な処理を記述している可能性が高いエントリーポイントである可能性が低いため、該判定結果が真である場合、ターゲットファイル３００の代表プログラムコードらしさを示す仮分類結果８０１の（ｉ，１）に「－１」の値を、判定結果が負である場合は仮分類結果８０１の（ｉ，１）に「０」の値を格納する。

【0064】

次に、代表プログラムコード特定部１１０は、継承グラフ５００においてターゲットファイル３００の入次数が３以上であるかを判定する（ステップＳ９０３）。

【0065】

あるクラスが多数のクラスから継承を受けている場合、該クラスはオブジェクト指向型のライブラリにおけるベースクラスなどコードの代表的かつ抽象的な処理を記述している可能性が高いので、該判定結果が真である場合、ターゲットファイル３００の代表プログラムコードらしさを示す仮分類結果８０１の（ｉ，２）に「１」の値を、判定結果が負である場合は仮分類結果８０１の（ｉ，２）に「０」の値を格納する。なお、前記入次数の閾値は任意の値で良い。

【0066】

次に、代表プログラムコード特定部１１０は、ターゲットファイル３００のファイルディレクトリ３０２に基づき、ターゲットファイル３００のファイル名に文字列「ｍａｉｎ」が含まれるかを判定する（ステップＳ９０４）。

【0067】

あるファイルが文字列「ｍａｉｎ」を含むファイル名を持つとき、該ファイルはエントリーポイントなどコードの代表的かつ抽象的な処理を記述している可能性が高いので、該判定結果が真である場合、ターゲットファイル３００の代表プログラムコードらしさを示す仮分類結果８０１の（ｉ，３）に「１」の値を、判定結果が負である場合は仮分類結果８０１の（ｉ，３）に「０」の値を格納する。なお、前記文字列「ｍａｉｎ」の代わりに、「ｃｌｉ」や「ｃｏｍｍａｎｄ」など任意の文字列を用いても良い。

【0068】

次に、代表プログラムコード特定部１１０は、ターゲットファイル３００のファイル内容３０３に基づき、ターゲットファイル３００に文字列「ｍａｉｎ」が含まれる関数が存在するかを判定する（ステップＳ９０５）。

【0069】

ある関数が文字列「ｍａｉｎ」を含むとき、該関数はエントリーポイントなどコードの代表的かつ抽象的な処理を記述している可能性が高いので、該判定結果が真である場合、ターゲットファイル３００の代表プログラムコードらしさを示す仮分類結果８０１の（ｉ，４）に「１」の値を、判定結果が負である場合は仮分類結果８０１の（ｉ，４）に「０」の値を格納する。なお、前記文字列「ｍａｉｎ」の代わりに、「ｃｌｉ」など任意の文字列を用いても良い。

【0070】

次に、代表プログラムコード特定部１１０は、ターゲットファイル３００のファイル内容３０３に基づき、ターゲットファイル３００のファイルサイズが３００バイト以下であるかを判定する（ステップＳ９０６）。あるファイルに記述されたプログラムコードが極端に短い場合、該ファイルに具体的な処理が書かれている可能性は低いため、該判定結果が真である場合、ターゲットファイル３００の代表プログラムコードらしさを示す仮分類結果８０１の（ｉ，５）に「－１」の値を、判定結果が負である場合は仮分類結果８０１の（ｉ，５）に「０」の値を格納する。なお、前記閾値は３００バイト以外の任意の値でもよく、前記判定対象はユニコード文字数など他の指標であっても良い。

【0071】

次に、代表プログラムコード特定部１１０は、仮分類結果の算出Ｓ２０９を終了する。

【0072】

次に、代表プログラムコード特定部１１０は、前記プログラムコードに含まれる全てのファイル３００についてステップＳ２０９の処理を実行したか否かを判定する（ステップＳ２１０）。

【0073】

処理を実行していないファイル３００が少なくとも一つ存在すると判定された場合、代表プログラムコード特定部１１０は、ステップＳ２０８に戻り、同様の処理を実行する。

【0074】

前記プログラムコードに含まれる全てのファイル３００について処理を実行したと判定された場合、代表プログラムコード特定部１１０は、ファイル３００のループ処理を終了し、ステップＳ２１１に進む。

【0075】

次に、代表プログラムコード特定部１１０は、仮分類結果８０１をファイルごとに加算することで、ターゲットファイル３００の代表プログラムコードらしさを示すファイルスコア８０２を算出する（ステップＳ２１１）。なお、仮分類結果８０１の統合には重み付け和や、投票など任意の統合方法を用いても良い。また、ファイルスコア８０２を擬似正解データとみなし仮分類結果８０１乃至はファイル内容３０３を特徴量としたファイルスコア８０２予測器を作成し、該予測器を用いファイルスコア８０２を計算しなおす弱教師付き学習を利用してもよい。

【0076】

次に、代表プログラムコード特定部１１０は、各ファイル３００のファイルスコア８０２が最大なるファイル３００を選択する（ステップＳ２１２）。なお、各ファイル３００のファイルスコア８０２順に合計ファイルサイズが閾値を上回るまでファイル３００を選択するなど、２つ以上のファイル３００を選択してもよい。

【0077】

また、２つ以上のファイル３００の選択にあたって、選択済みのファイル３００とファイル内容３０３の類似度が高いファイル３００を除外するなど、異なる観点を併用してファイル３００の選択を行っても良い。実施例１において複数のファイル３００を選択した場合、それらのファイル内容３０３を結合し、１つのファイル３００であるかのように扱う。

【0078】

実施例１では６個の弱分類器を使う方法を説明したが、任意の数の弱分類器を用いても良い。また、利用する弱分類器は上記で開示内容に限定されず、「引数解析器を含むか」、「ＭＶＣモデルにおけるコントローラに相当する処理か」、「ファイル名が「ｔｅｓｔ＿」から始まらないか」、「バージョン管理のソフトウェア上で初期に登録されたファイルか」、「特定のユーザによって作成されたファイルか」など、プログラミング言語依存の処理、アプリケーション形態依存の処理、メタ情報依存の処理を含む多用な処理を含んで良い。また、ファイル内容３０３に依存せず、ユーザによる指定を受け付けても良い。

【0079】

以上が、代表プログラムコード特定部１１０が実行する処理の説明である。

【0080】

コンテンツ生成部１１２は、モデル情報１１１、プロンプトテンプレートデータベース１１３、及び選択されたファイル３００を入力にｒｅａｄｍｅを生成する。図１０から図１２を使いコンテンツ生成部１１２の処理を説明する。

【0081】

コンテンツ生成部１１２は、選択されたファイル３００の入力を受け付ける（ステップＳ１００１）。

【0082】

次に、コンテンツ生成部１１２は、前記ファイル３００の前処理を行う（ステップＳ１００２）。該前処理においては、各ファイル３００のファイル内容３０３からコードレポジトリの抽象的な処理を把握するには不要と思われるインポート文やファイル先頭のライセンス表示などを正規表現で除去の上、各ファイル３００のファイル内容３０３を結合する。なお、該前処理においては重複する記述の除去や、ヒューリスティクスに基づく重要箇所の特定などを行っても良い。

【0083】

次に、コンテンツ生成部１１２は、前記結合したファイル内容３０３を所定の閾値Ｋに基づき前方Ｋ文字の代表プログラムコード文字列に短縮する（ステップＳ１００３）。なお、前方Ｋ文字以外を除去するかわりに、後方Ｋ文字以外を除去したり、前方Ｋ／２文字と後方Ｋ／２文字以外を除去するなど、任意の短縮方法をとっても良い。また、閾値Ｋは所望の計算時間にあわせて任意の値を指定して良い。

【0084】

次に、コンテンツ生成部１１２は、前記代表プログラムコード文字列とプロンプトテンプレート１１３から取得したプロンプトテンプレート１１００－１（図１１Ａ参照）を組み合わせることでプロンプト１１１０－２（図１１Ｂ参照）を作成する（ステップＳ１００４）。

【0085】

図１１Ａに示すように、プロンプトテンプレート１１００－１は、自然言語でドキュメンテーションの生成を促すプロンプトテキスト１１０１、代表プログラムコードプレースホルダ１１０２、ファイルプレースホルダ１１０３から構成される。コンテンツ生成部１１２は、前記代表プログラムコード文字列を代表プログラムコードプレースホルダ１１０２に格納し、レポジトリ内から無作為に抽出したファイル３００のファイルディレクトリ３０２からファイル名を抽出し、該ファイル名を結合した上でファイルプレースホルダ１１０３に格納する。

【0086】

プロンプトテンプレート１１００－１は、代表プログラムコードを活用しドキュメンテーションを生成することが志向されていれば、プロンプトテキスト１１０１、代表プログラムコードプレースホルダ１１０２、及びファイルプレースホルダ１１０３の構成を取る必要はなく、レポジトリ名やユーザ名、ライセンス情報など様々な情報を含みうる。また、それらの情報は対話的質問や設定ファイルなどを通し、ユーザから別途入力を受け付けてもよい（図２５参照）。

【0087】

次に、コンテンツ生成部１１２は、前記プロンプト１１１０－２を１つ以上のトークンから構成されるプロンプトトークン列に分割する（ステップＳ１００５）。「トークン」は一般的には変数名、予約語、演算子などプログラミング言語を構成する最小単位を意味するが、本発明においてはバイトペアエンコーディングなどプログラミング言語における「トークン」とは異なる単位で分割を行っても良い。

【0088】

次に、コンテンツ生成部１１２は、前記プロンプトトークン列をトークン辞書１２００（図１２参照）を使い、Ｐ個の整数からなるプロンプトトークンインデックス列｛ｔ_０，ｔ_１，・・・ｔ_Ｐ｝に変換する（ステップＳ１００６）。該変換は、前記プロンプトトークン列を構成する各トークンをトークン辞書１２００のトークン１２０１と突合し、合致したトークン１２０１に紐付くインデックス１２０２を取得することによって実現される。なお、前記トークンに合致するトークン１２０１が存在しない場合、該トークンは所定のインデックス１２０２を紐つける。

【0089】

次に、コンテンツ生成部１１２は、変数ｉのループ処理を開始する（ステップＳ１００７）。初期値として変数ｉに０を格納する。
ＧＰＴ－３などトークンインデックス列に対する確率分布モデルを用いて、プロンプトトークンインデックス列と、生成済みの（ｉ-１）番目までの生成トークンインデックス列を入力に、ｉ番目における生成トークンインデックスｘ_ｉの確率分布を計算する。

【0090】

ｐ（ｘ_ｉ｜θ，ｔ_０，ｔ_１，・・・ｔ_Ｐ，ｘ_０，ｘ_１，・・・，ｘ_ｉ－１）
ただし、θはモデル情報１１１に格納された確率分布モデルの設定値（パラメータ）である。

【0091】

確率値が最大なる生成トークンインデックスをｉ番目の生成トークンインデックスとして取得する。

【0092】

ａｒｇｍａｘ_ｘｉ ｐ（ｘ_ｉ｜ｔ_０，ｔ_１，・・・ｔ_Ｐ，ｘ_０， ｘ_１，・・・，ｘ_ｉ－１）
なお、確率値が最大なるトークンインデックスを選択するかわりに、確率分布をもとにサンプリングを行ったり、ｂｅａｍ ｓｅａｒｃｈなどを用いてトークンインデックスを選択しても良い。また、前記確率分布モデルはＴ５やＢＬＯＯＭなどＴｒａｎｓｆｏｒｍｅｒアーキテクチャに基づくモデルや、ＥＬＭｏなどの再帰的計算に基づくモデル、ＧＳｈａｒｄなど分散計算に基づくモデルで実現されてもよい。

【0093】

前記確率分布モデルは様々な文書を利用して単語の確率分布を学習したモデル、それらと同一のアーキテクチャを持つモデルを独自のコーパスで学習したモデル、それらのモデルをでもよい。入力トークンインデックス列をもとに入力トークンインデックスを生成できるのであれば、確率分布の要件を満たさなくても良い。

【0094】

次に、コンテンツ生成部１１２は、ｉ番目の生成トークンインデックスが文書の終端を示すトークンインデックスであるか、あるいは前記変数ｉが所定の生成トークン数Ｌから１を減算したものであるかを判定する（ステップＳ１００９）。

【0095】

該条件を満たさないと判定された場合コンテンツ生成部１１２は、変数ｉをインクリメントした上でステップＳ１００７に戻り、同様の処理を実行する。該条件を満たしたと判定された場合、コンテンツ生成部１１２は、変数ｉのループ処理を終了し、ステップＳ１０１０に進む。

【0096】

コンテンツ生成部１１２は前記生成トークンインデックス列｛ｘ_０， ｘ_１，・・・，ｘ_Ｌ－１｝を生成テキスト１１０４に変換する（ステップＳ１０１０）。該変換においては、まず前記生成トークンインデックス列を構成する各トークンインデックスをトークン辞書１２００のインデックス１２０２と突合し、合致したインデックス１２０２に紐付くトークン１２０１を取得することで生成トークン列をえる。その後、該生成トークン列を結合することで生成テキストを得る。

【0097】

このようにして、図１１Ｃのプロンプトテンプレート１１００－３に示すような生成テキスト１１０４が得られる。

【0098】

次に、コンテンツ生成部１１２は前記生成テキストに対して後処理を行う（ステップＳ１０１１）。該後処理においては、前記生成テキストに存在する３つ以上の改行を２つの改行に変換する。なお、求められる生成テキストの状態応じて、ヒューリスティクスや機械学習に基づく任意の変換を行ってもよい。

【0099】

実施例１によれば、計算機システムは、数万から数百万行のプログラムコードを抽象的に要約してレポジトリ全体に関するドキュメンテーションを生成することができる。

【実施例0100】

図１３は、実施例２のテキスト生成システム（計算機システム）の構成の一例を示す図である。

【0101】

実施例２では、計算機１００は、プロンプトテンプレートデータベース１１３を用いずにドキュメンテーションを生成する。以下、実施例１との差異を中心に実施例２について説明する。

【0102】

実施例２の計算機システムの構成は実施例１と同一である。実施例２の計算機１００のハードウェア構成は実施例１と同一である。また、実施例２の代表プログラムコード特定部１１０が実行する処理は実施例１と同一である。

【0103】

実施例２では、計算機１００のソフトウェア構成が一部異なる。実施例３の計算機１００のメモリ１０２には、コンテンツ生成部１１２を実現するプログラムに加えて、モデル学習部１３０１を実現するプログラムを格納する。

【0104】

モデル学習部１３０１は、１つ以上の選択されたファイル３００を入力に、モデルの確率分布モデルの設定値（パラメータ）を計算し、モデル情報１１１に格納する。モデル学習部１３０１が行う処理を図１４、図１５Ａ、図１５Ｂを使い説明する。

【0105】

モデル学習部１３０１は、ファイル３００と、該ファイル３００に対応する正解ドキュメンテーションペアのペアを１つ以上受け付ける（Ｓ１４０１）。

【0106】

正解ドキュメンテーションは人手で作成してもよいし、オープンソースソフトウェアとして公開されているレポジトリからｒｅａｄｍｅファイルを抽出してもよい。

【0107】

次に、モデル学習部１３０１は、ファイル３００と正解ドキュメンテーションペアのループ処理を開始する（ステップＳ１４０２）。

【0108】

Ｓ１００２からＳ１００６までの処理は実施例１と同様である。ただし、実施例２ではモデルの学習を行うため、実施例１のようにドキュメンテーションの生成を促すプロンプトテンプレートは必要なく、図１５Ａのプロンプト１５１０－１に示すように代表プログラムコードプレースホルダ１１０２やファイルプレースホルダ１１０３を適当な文字列で結合し、プロンプト１５１０－２（図１５Ｂ参照）を作成する。

【0109】

Ｓ１４０３とＳ１４０４は、正解ドキュメンテーションを対象にそれぞれＳ１００５とＳ１００６と同様の処理を行い、正解ドキュメンテーショントークンインデックス列を得る。

【0110】

次に、モデル学習部１３０１は、変数ｉのループ処理を開始する（ステップＳ１４０５）。初期値として変数ｉに０を格納する。

【0111】

Ｓ１００８の処理は請求項１と同様である。

【0112】

ｉ番目における生成トークンインデックスｘ_ｉの確率分布と、ｉ番目における正解ドキュメンテーショントークンインデックスｘ’_ｉの確率分布をもとに損失l_ｉを計算する。

【0113】

l_ｉ＝－ｌｏｇｐ（ｘ_ｉ＝ｘ’_ｉ｜θ，ｔ_０，ｔ_１，・・・ｔ_Ｐ，ｘ_０， ｘ_１，・・・，ｘ_ｉ－１）
次に、モデル学習部１３０１は、ｉ番目の正解ドキュメンテーショントークンインデックスが文書の終端を示すトークンインデックスであるかを判定する（ステップＳ１００９）。

【0114】

該条件を満たさないと判定された場合コンテンツ生成部１１２は、変数ｉをインクリメントした上でステップＳ１００７に戻り、同様の処理を実行する。該条件を満たしたと判定された場合、コンテンツ生成部１１２は、変数ｉのループ処理を終了し、ステップＳ１４０７に進む。

【0115】

次に、モデル学習部１３０１は、前記損失の和Lを計算する（ステップＳ１４０８）。

【0116】

L＝Σ_ｉl_ｉ
次に、モデル学習部１３０１は、前記損失の和Lから各パラメータθ_ｋ∈θに対する勾配Δ_ｋを計算し、該パラメータθ_ｋを勾配に基づき更新する（ステップＳ１４０９）。

【0117】

Δ_ｋ＝∂L／∂θ_ｋ
θ_ｋ←θ_ｋ－ηΔ_ｋ
次に、モデル学習部１３０１は、全てのファイル３００と正解ドキュメンテーションペアに対してステップＳ１００２からＳ１４０９の処理を実行したか否かを判定する（ステップＳ１４１０）。処理を実行していないファイル３００と正解ドキュメンテーションペアが少なくとも一つ存在すると判定された場合、モデル学習部１３０１は、ステップＳ１００２に戻り、同様の処理を実行する。

【0118】

全てのファイル３００と正解ドキュメンテーションペアについて処理を実行したと判定された場合、モデル学習部１３０１は、ファイル３００と正解ドキュメンテーションペアのループ処理を終了し、ステップＳ１４０９に進む。

【0119】

次に、モデル学習部１３０１は更新したパラメータθをモデル情報１１１に格納する（ステップＳ１４０１）。

【0120】

以上が、モデル学習部１３０１が実行する処理の説明である。

【0121】

上記では確率的勾配法を使ったモデルの学習を例示したが、ミニバッチ確率的勾配法を利用したり、ＡｄａｍＷや二次微分を用いたより洗練された最適化方法を活用してもよい。また、単語ごとの分類問題ではなく、対称学習や強化学習を用いても良い。

【0122】

実施例２におけるコンテンツ生成部１１２の処理は実施例１と同じである。ただし、モデル学習部１３０１と同様に、図１５Ａに示すように代表プログラムコードプレースホルダ１１０２やファイルプレースホルダ１１０３を適当な文字列で結合し、プロンプト１５１０－２（図１５Ｂ）を作成する。

【0123】

実施例２によれば、計算機システムは、モデルを学習することで実施例１よりも相対的に小さいモデルを活用し効率的にドキュメンテーションを生成することができる。また、各モデルに対してプロンプトテンプレートを調整する必要がなくなり、よりロバストな生成ができる。