特許ウォッチ

公開番号2025110142
公報種別公開特許公報(A)
公開日2025-07-28
出願番号2024003912
出願日2024-01-15
発明の名称時系列データ処理方法、学習方法、処理システム及び学習システム
出願人セイコーエプソン株式会社,公立大学法人大阪
代理人個人,個人,個人,個人
主分類G06N 3/04 20230101AFI20250718BHJP(計算;計数)
要約【課題】機械学習を用いた時系列データの解析において、学習又は推論の速度を向上すると共に推論精度を向上できる時系列データ処理方法等を提供すること。
【解決手段】エンコーダーSB2aは、時系列データを解析し且つ再帰構造を持たないニューラルネットワークであり、アテンション機構を用いている。学習済みモデル130は、時系列データに基づいてエンコーダーSB2aから特徴量SB2bを出力するように学習されている。時系列データ処理方法は、複数のウィンドウWD1、WD2における複数の時系列データDT1、DT2を取得し、各ウィンドウの開始位置TS1、TS2における時系列データの初期位相を一定にする位相調整処理を行うステップを、含む。時系列データ処理方法は、位相調整処理を行った後の時系列データを学習済みモデル130に入力することにより、エンコーダーSB2aから特徴量SB2bを取得するステップを、含む。
【選択図】図2
特許請求の範囲【請求項１】
時系列データを解析し且つ再帰構造を持たないニューラルネットワークであり、アテンション機構を用いたエンコーダーを含み、時系列データに基づいて前記エンコーダーから前記特徴量を出力するように学習された学習済みモデルを用いて、
複数のウィンドウにおける複数の時系列データを取得し、各ウィンドウの開始位置における時系列データの初期位相を一定にする位相調整処理を行うステップと、
前記位相調整処理を行った後の時系列データを前記学習済みモデルに入力することにより、前記エンコーダーから前記特徴量を取得するステップと、
を含むことを特徴とする時系列データ処理方法。
続きを表示（約 1,500 文字）【請求項２】
請求項１において、
前記複数の時系列データに含まれる着目周波数の信号における前記初期位相が一定値となるように、前記位相調整処理を行うことを特徴とする時系列データ処理方法。
【請求項３】
請求項１において、
前記複数の時系列データに含まれる複数の着目周波数の信号に対して、着目周波数毎に前記初期位相が一定値となるように、前記位相調整処理を行うことを特徴とする時系列データ処理方法。
【請求項４】
請求項１において、
前記複数の時系列データに含まれる全ての定常信号成分に対して、対応する周波数の初期位相が一定値となるように、前記位相調整処理を行うことを特徴とする時系列データ処理方法。
【請求項５】
請求項２において、
前記位相調整処理を行うステップは、
前記複数の時系列データの各時系列データをスペクトルデータに変換するステップと、
前記スペクトルデータの前記着目周波数における位相を前記一定値にシフトさせる時間シフト量を求めるステップと、
前記スペクトルデータの各周波数における位相を、前記時間シフト量に対応した位相シフト量でシフトさせるステップと、
位相がシフトされた前記スペクトルデータを時系列データに逆変換するステップと、
を含むことを特徴とする時系列データ処理方法。
【請求項６】
請求項２において、
前記位相調整処理を行うステップは、
前記着目周波数の信号における前記初期位相が前記一定値である複数のウィンドウを設定するステップを含むことを特徴とする時系列データ処理方法。
【請求項７】
請求項１において、
前記複数の時系列データは、対象物から計測された振動に関する物理量の計測データであり、
前記エンコーダーから取得された前記特徴量に基づいて、前記対象物の状態監視、品質管理及び予知保全の少なくとも１つに関する前記振動の状態を推論するステップを含むことを特徴とする時系列データ処理方法。
【請求項８】
請求項７において、
前記学習済みモデルは、前記特徴量から前記振動の状態を推論するように学習された振動解析部を含み、
前記特徴量は、２次元データであり、
前記推論するステップは、前記２次元データの全要素を前記振動解析部に入力するステップを含むことを特徴とする時系列データ処理方法。
【請求項９】
請求項７において、
前記学習済みモデルは、前記特徴量から前記振動の状態を推論するように学習された振動解析部を含み、
前記特徴量は、２次元データであり、
前記推論するステップは、前記２次元データを１行ずつ又は１列ずつ前記振動解析部に入力するステップを含むことを特徴とする時系列データ処理方法。
【請求項１０】
時系列データを解析し且つ再帰構造を持たないニューラルネットワークであり、アテンション機構を用いたエンコーダー及びデコーダーを含み、解析対象である時系列データの時間範囲外の時系列データを推論するように学習モデルの学習を行い、
複数のウィンドウにおける複数の時系列データを取得し、各ウィンドウの開始位置における時系列データの初期位相を一定にする位相調整処理を行うステップと、
前記位相調整処理を行った後の時系列データを前記学習モデルに入力し、前記学習モデルが前記時間範囲外の時系列データを推論するように前記学習を行うステップと、
を含むことを特徴とする学習方法。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、時系列データ処理方法、学習方法、処理システム及び学習システム等に関する。
続きを表示（約 2,200 文字）【背景技術】
【０００２】
非特許文献１には、ニューラルネットワークのアーキテクチャーとして、トランスフォーマーが提案されている。トランスフォーマーは、エンコーダーデコーダー構造を有し、入力データをエンコードして特徴量を抽出し、その特徴量に基づくデコード処理を行うことで、出力を生成する。エンコーダーとデコーダーの各々は、アテンション機構を利用した並列処理によって要素間の関係性を捉えており、入力データを逐次的に処理するリカレントニューラルネットワーク等に比べて、学習又は推論の時間を短縮可能である。
【０００３】
上記のようなトランスフォーマーは時系列データの解析に利用できる。エンコーダーが出力する特徴量は、トランスフォーマーに入力された時系列データの特徴を示しており、その特徴量を用いることで、時系列データを解析できる。例えば、時系列データが振動データである場合には、その振動データが計測された対象物の異常検出等を行うことができる。
【先行技術文献】
【非特許文献】
【０００４】
Ashish Vaswani, etc., “Attention Is All You Need”, NIPS'17: Proceedings of the 31st International Conference on Neural Information Processing Systems, Long Beach, CA, USA., NIPS, 2017
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、時系列データに含まれる周波数成分の位相は、時系列データの開始時刻に応じて変化してしまうため、アテンション機構を用いた並列処理によって特徴量を抽出しようとすると、開始時刻における位相によって学習又は推論される特徴量が変化してしまうので、その特徴量に基づく解析が困難になるという課題があった。
【０００６】
また、トランスフォーマーに限らず、アテンション機構を用いた並列処理によって特徴量を抽出した場合には、上記と同様な課題があった。
【課題を解決するための手段】
【０００７】
本開示の一態様は、時系列データを解析し且つ再帰構造を持たないニューラルネットワークであり、アテンション機構を用いたエンコーダーを含み、時系列データに基づいて前記エンコーダーから前記特徴量を出力するように学習された学習済みモデルを用いて、複数のウィンドウにおける複数の時系列データを取得し、各ウィンドウの開始位置における時系列データの初期位相を一定にする位相調整処理を行うステップと、前記位相調整処理を行った後の時系列データを前記学習済みモデルに入力することにより、前記エンコーダーから前記特徴量を取得するステップと、を含む時系列データ処理方法に関係する。
【０００８】
また、本開示の他の態様は、時系列データを解析し且つ再帰構造を持たないニューラルネットワークであり、アテンション機構を用いたエンコーダー及びデコーダーを含み、解析対象である時系列データの時間範囲外の時系列データを推論するように学習モデルの学習を行い、複数のウィンドウにおける複数の時系列データを取得し、各ウィンドウの開始位置における時系列データの初期位相を一定にする位相調整処理を行うステップと、前記位相調整処理を行った後の時系列データを前記学習モデルに入力し、前記学習モデルが前記時間範囲外の時系列データを推論するように前記学習を行うステップと、を含む学習方法に関係する。
【０００９】
また、本開示の更に他の態様は、時系列データを解析し且つ再帰構造を持たないニューラルネットワークであり、アテンション機構を用いたエンコーダーを含み、時系列データに基づいて前記エンコーダーから前記特徴量を出力するように学習された学習済みモデルを記憶する記憶部と、前記学習済みモデルを用いた処理を行う処理部と、を含み、前記処理部は、複数のウィンドウにおける複数の時系列データを取得し、各ウィンドウの開始位置における時系列データの初期位相を一定にする位相調整処理を行い、前記位相調整処理を行った後の時系列データを前記学習済みモデルに入力することにより、前記エンコーダーから前記特徴量を取得する処理システムに関係する。
【００１０】
また、本開示の更に他の態様は、時系列データを解析し且つ再帰構造を持たないニューラルネットワークであり、アテンション機構を用いたエンコーダー及びデコーダーを含み、解析対象である時系列データの時間範囲外の時系列データを推論する学習モデルを記憶する記憶部と、前記学習モデルの学習を行う処理部と、を含み、前記処理部は、複数のウィンドウにおける複数の時系列データを取得し、各ウィンドウの開始位置における時系列データの初期位相を一定にする位相調整処理を行い、前記位相調整処理を行った後の時系列データを前記学習モデルに入力し、前記学習モデルが前記時間範囲外の時系列データを推論するように前記学習を行う学習システムに関係する。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許