特許ウォッチ

公開番号2025157566
公報種別公開特許公報(A)
公開日2025-10-15
出願番号2025126411,2023142658
出願日2025-07-29,2020-03-03
発明の名称文生成装置、文生成学習装置、文生成方法、文生成学習方法及びプログラム
出願人NTT株式会社
代理人弁理士法人ITOH
主分類G06F 40/279 20200101AFI20251007BHJP(計算;計数)
要約【課題】文を生成する際に考慮すべき情報をテキストとして付加可能とすること。
【解決手段】文生成装置は、入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、前記入力文と前記単語のセットとを入力し、前記入力文と前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記単語のセットに対応する情報を入力することで、前記入力文と前記単語のセットに基づいて出力文を生成する生成部と、を有する。
【選択図】図2
特許請求の範囲【請求項１】
入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、
前記入力文と前記単語のセットとを入力し、前記入力文と前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記単語のセットに対応する情報を入力することで、前記入力文と前記単語のセットに基づいて出力文を生成する生成部と、
を有することを特徴とする文生成装置。
続きを表示（約 2,500 文字）【請求項２】
入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、
前記入力文と前記単語のセットとを入力し、前記入力文と前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記単語のセットに対応する情報を入力することで、前記入力文と前記単語のセットに基づいて出力文を生成する生成部と、
入力文として第１のテキストと、当該第１のテキストから抽出された単語のセットとを入力した前記機械学習モデルからの出力と前記第１のテキストに対応する出力文である第２のテキストとに基づいて前記機械学習モデルのパラメータを更新するパラメータ学習部と、
を有することを特徴とする文生成学習装置。
【請求項３】
入力文と、外部知識に含まれる複数の文の文ごとの重要度及び単語ごとの重要度の少なくとも一方とに基づいて、文のセットを抽出する内容選択部と、
前記入力文と前記文のセットとを入力し、前記入力文と前記文のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記文のセットに対応する情報を入力することで、前記入力文と前記文のセットに基づいて出力文を生成する生成部と、
を有することを特徴とする文生成装置。
【請求項４】
入力文と、外部知識に含まれる複数の文の文ごとの重要度及び単語ごとの重要度の少なくとも一方とに基づいて、文のセットを抽出する内容選択部と、
前記入力文と前記文のセットとを入力し、前記入力文と前記文のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記文のセットに対応する情報を入力することで、前記入力文と前記文のセットに基づいて出力文を生成する生成部と、
入力文として第１のテキストと、外部知識から抽出された文のセットとを入力した前記機械学習モデルからの出力と前記第１のテキストに対応する出力文である第２のテキストとに基づいて前記機械学習モデルのパラメータを更新するパラメータ学習部と、
を有することを特徴とする文生成学習装置。
【請求項５】
入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、
前記単語のセットを入力し、前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記単語のセットに対応する情報を入力することで、前記単語のセットに基づいて出力文を生成する生成部と、
を有することを特徴とする文生成装置。
【請求項６】
入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、
前記単語のセットを入力し、前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記単語のセットに対応する情報を入力することで、前記単語のセットに基づいて出力文を生成する生成部と、
入力文として第１のテキストから抽出された単語のセットを入力した前記機械学習モデルからの出力と前記第１のテキストに対応する出力文である第２のテキストとに基づいて前記機械学習モデルのパラメータを更新するパラメータ学習部と、
を有することを特徴とする文生成学習装置。
【請求項７】
複数の入力文と、前記複数の入力文に含まれる各文の重要度と、出力長とに基づいて文のセットを抽出する内容選択部と、
前記文のセットを入力し、前記文のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記文のセットに対応する情報を入力することで、前記文のセットに基づいて出力文を生成する生成部と、
を有することを特徴とする文生成装置。
【請求項８】
複数の入力文と、前記複数の入力文に含まれる各文の重要度と、出力長とに基づいて文のセットを抽出する内容選択部と、
前記文のセットを入力し、前記文のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記文のセットに対応する情報を入力することで、前記文のセットに基づいて出力文を生成する生成部と、
複数の入力文として第１のテキストと、当該第１のテキストから抽出された文のセットとを入力した前記機械学習モデルからの出力と前記第１のテキストに対応する出力文である第２のテキストとに基づいて前記機械学習モデルのパラメータを更新するパラメータ学習部と、
を有することを特徴とする文生成学習装置。
【請求項９】
入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、
前記入力文と前記単語のセットとを入力し、前記入力文と前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記単語のセットに対応する情報を入力することで、前記入力文と前記単語のセットに基づいて出力文を生成する生成部と、
を有することを特徴とする文生成装置。
【請求項１０】
入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、
前記入力文と前記単語のセットとを入力し、前記入力文と前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記単語のセットに対応する情報を入力することで、前記入力文と前記単語のセットに基づいて出力文を生成する生成部と、
入力文として第１のテキストと、当該第１のテキストから抽出された単語のセットとを入力した前記機械学習モデルからの出力と前記第１のテキストに対応する出力文である第２のテキストとに基づいて前記機械学習モデルのパラメータを更新するパラメータ学習部と、
を有することを特徴とする文生成学習装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、文生成装置、文生成学習装置、文生成方法、文生成学習方法及びプログラムに関する。
続きを表示（約 2,200 文字）【背景技術】
【０００２】
ニューラルネットに基づく文の生成技術は進展している。当該生成技術は、テキストを入力として、予め学習済みのニューラルネットワークモデルに基づき、所定の目的の文（例えば要約文）を生成する技術である。
【０００３】
例えば、非特許文献１では、入力文書に含まれる文の重要度（ａｔｔｅｎｔｉｏｎ）と単語の重要度を掛け合わせて求めた単語レベルの重要度を文生成時に反映させる手法が提案されている。
【先行技術文献】
【非特許文献】
【０００４】
Wan-Ting Hsu, Chieh-Kai Lin, Ming-Ying Lee, Kerui Min, Jing Tang, Min Sun. 2018. A Unified Model for Extractive and Abstractive Summarization using Inconsistency Loss.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、非特許文献１では、文を生成する際に考慮すべき情報を、重要度のスコアや、長さＥｍｂｅｄｄｉｎｇ等の形式で与えており、テキストとして与えることができない。
【０００６】
本発明は、上記の点に鑑みてなされたものであって、文を生成する際に考慮すべき情報をテキストとして付加可能とすることを目的とする。
【課題を解決するための手段】
【０００７】
そこで上記課題を解決するため、文生成装置は、入力文と、前記入力文に含まれる各単語の重要度と、出力長とに基づいて単語のセットを抽出する内容選択部と、前記入力文と前記単語のセットとを入力し、前記入力文と前記単語のセットに基づいて出力文を生成するよう教師あり学習された機械学習モデルに、前記入力文と前記単語のセットに対応する情報を入力することで、前記入力文と前記単語のセットに基づいて出力文を生成する生成部と、を有する。
【発明の効果】
【０００８】
文を生成する際に考慮すべき情報をテキストとして付加可能とすることができる。
【図面の簡単な説明】
【０００９】
第１の実施の形態における文生成装置１０のハードウェア構成例を示す図である。
第１の実施の形態における文生成装置１０の機能構成例を示す図である。
第１の実施の形態における生成部１２の構成例を示す図である。
第１の実施の形態における文生成装置１０が実行する処理手順の一例を説明するためのフローチャートである。
各単語に対する重要度の推定を説明するための図である。
第１の実施の形態における生成部１２による処理を説明するための図である。
第１の実施の形態における文生成装置１０の学習時における機能構成例を示す図である。
第２の実施の形態における生成部１２の構成例を示す図である。
第２の実施の形態における生成部１２による処理を説明するための図である。
第３の実施の形態における文生成装置１０の機能構成例を示す図である。
第３の実施の形態における文生成装置１０が実行する処理手順の一例を説明するためのフローチャートである。
知識源ＤＢ２０の構成例を示す図である。
関連度計算モデルの第１の例を説明するための図である。
関連度計算モデルの第２の例を説明するための図である。
第３の実施の形態における文生成装置１０の学習時における機能構成例を示す図である。
第４の実施の形態における文生成装置１０の機能構成例を示す図である。
第４の実施の形態における生成部１２の構成例を示す図である。
第４の実施の形態におけるモデル構成例を示す図である。
第４の実施の形態における文生成装置１０の学習時における機能構成例を示す図である。
第５の実施の形態における文生成装置１０の機能構成例を示す図である。
第５の実施の形態における生成部１２の構成例を示す図である。
第５の実施の形態におけるモデル構成例を示す図である。
第６の実施の形態における文生成装置１０の機能構成例を示す図である。
第６の実施の形態におけるモデル構成例を示す図である。
第６の実施の形態における文生成装置１０の学習時における機能構成例を示す図である。
第７の実施の形態における文生成装置１０の機能構成例を示す図である。
第７の実施の形態における文生成装置１０の学習時における機能構成例を示す図である。
【発明を実施するための形態】
【００１０】
以下、図面に基づいて本発明の実施の形態を説明する。図１は、第１の実施の形態における文生成装置１０のハードウェア構成例を示す図である。図１の文生成装置１０は、それぞれバスＢで相互に接続されているドライブ装置１００、補助記憶装置１０２、メモリ装置１０３、ＣＰＵ１０４、及びインタフェース装置１０５等を有する。
（【００１１】以降は省略されています）

関連特許