特許ウォッチ

公開番号2025144420
公報種別公開特許公報(A)
公開日2025-10-02
出願番号2024044181
出願日2024-03-19
発明の名称情報処理システム、情報処理装置および情報処理方法
出願人NTT株式会社,富士通株式会社
代理人弁理士法人酒井国際特許事務所
主分類G06T 7/00 20170101AFI20250925BHJP(計算;計数)
要約【課題】推論に際して計算コストや電力コストを抑えることができる。
【解決手段】判定装置と、切替装置とを有する情報処理システムにおいて、判定装置は、処理対象データを第1モデルに処理させる第1推論部と、第1モデルによる処理結果が第1の条件を満たすか否かを判定する第1判定部と、処理対象データを第1モデルよりも高精度で処理する第2モデルに処理させる第2推論部と、第2モデルによる処理結果が第2の条件を満たすか否かを判定する第2判定部と、判定の結果を切替装置に送信する送信部とを有し、切替装置は、第1判定部により、第1の条件を満たすと判定された場合、処理対象データの処理を第2モデルに実行させるように切り替え、第2判定部により第2の条件を満たすと判定された場合、処理対象データの処理を第1モデルに実行させるように切り替える切替部とを有する。
【選択図】図5
特許請求の範囲【請求項１】
処理結果の判定を行う判定装置と、前記判定装置による判定に応じて処理対象データの処理を実行させるモデルを切り替える切替装置とを有する情報処理システムにおいて、
前記判定装置は、
前記処理対象データを第１モデルに処理させる第１推論部と、
前記第１モデルによる処理結果が第１の条件を満たすか否かを判定する第１判定部と、
前記処理対象データを前記第１モデルよりも高精度で処理する第２モデルに処理させる第２推論部と、
前記第２モデルによる処理結果が第２の条件を満たすか否かを判定する第２判定部と、
前記判定の結果を切替装置に送信する送信部と
を有し、
前記切替装置は、
前記第１判定部により、前記第１の条件を満たすと判定された場合、前記処理対象データの処理を前記第２モデルに実行させるように切り替え、前記第２判定部により前記第２の条件を満たすと判定された場合、前記処理対象データの処理を前記第１モデルに実行させるように切り替える切替部と
を有することを特徴とする情報処理システム。
続きを表示（約 1,300 文字）【請求項２】
前記切替部は、
前記処理対象データの処理を前記第２モデルに実行させるように切り替えた場合、前記第１判定部により前記第１の条件を満たすと判定された前記処理結果に係る前記処理対象データの処理を前記第２モデルに実行させる
ことを特徴とする請求項１に記載の情報処理システム。
【請求項３】
前記切替装置は、
前記切替部により前記処理対象データの処理を前記第２モデルに実行させるように切り替えられた場合、切り替えが行われる直前の前記第１モデルによる前記処理結果を削除する削除部
をさらに有することを特徴とする請求項２に記載の情報処理システム。
【請求項４】
前記第１判定部は、前記第１モデルによる連続する複数フレームからなる画像の処理結果が前記第１の条件を満たすか否かを判定し、
前記第２判定部は、前記第２モデルによる連続する複数フレームからなる画像の処理結果が前記第２の条件を満たすか否かを判定する
ことを特徴とする請求項１に記載の情報処理システム。
【請求項５】
処理対象データを第１モデルに処理させる第１推論部と、
前記第１モデルによる処理結果が第１の条件を満たすか否かを判定する第１判定部と、
前記処理対象データを前記第１モデルよりも高精度で処理する第２モデルに処理させる第２推論部と、
前記第２モデルによる処理結果が第２の条件を満たすか否かを判定する第２判定部と、
前記第１判定部により、前記第１の条件を満たすと判定された場合、前記処理対象データの処理を前記第２モデルに実行させるように切り替え、前記第２判定部により前記第２の条件を満たすと判定された場合、前記処理対象データの処理を前記第１モデルに実行させるように切り替える切替部と
を有することを特徴とする情報処理装置。
【請求項６】
処理結果の判定を行う判定装置と、前記判定装置による判定に応じて処理対象データの処理を実行させるモデルを切り替える切替装置とを有する情報処理システムで実行される情報処理方法であって、
前記判定装置が、前記処理対象データを第１モデルに処理させる第１推論工程と、
前記判定装置が、前記第１モデルによる処理結果が第１の条件を満たすか否かを判定する第１判定工程と、
前記判定装置が、前記処理対象データを前記第１モデルよりも高精度で処理する第２モデルに処理させる第２推論工程と、
前記判定装置が、前記第２モデルによる処理結果が第２の条件を満たすか否かを判定する第２判定工程と、
前記判定装置が、前記判定の結果を切替装置に送信する送信工程と、
前記切替装置が、前記第１判定工程により、前記第１の条件を満たすと判定された場合、前記処理対象データの処理を前記第２モデルに実行させるように切り替え、前記第２判定工程により前記第２の条件を満たすと判定された場合、前記処理対象データの処理を前記第１モデルに実行させるように切り替える切替工程と
を含むことを特徴とする情報処理方法。

発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理システム、情報処理装置および情報処理方法に関する。
続きを表示（約 2,300 文字）【背景技術】
【０００２】
軽いイベント検知用の１層目モデルを本番推論を行う２層目モデルの前に導入し、１層目の軽量なモデルによるイベントの検知結果（評価値）を参照して、必要と判定された場合のみ２層目のモデルの推論を行うことで、２層目推論の頻度を削減し、システム全体での性能、電力効率性が向上させるイベントドリブン型二層推論システムが提案されている。
【先行技術文献】
【非特許文献】
【０００３】
Daniel Kang, John Emmons, Firas Abuzaid, Peter Bailis, and Matei Zaharia. 2017. NoScope: Optimizing Neural Network Queries over Video at Scale. Proc. VLDB Endow. 10, 11 (August 2017), 1586-1597.＜ＵＲＬ：https://doi.org/10.14778/3137628.3137664＞＜２０２４年１月２９日検索＞
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来のイベントドリブン型二層推論システムでは、推論に際して計算コストや電力コストを抑えることができない場合があった。例えば、従来技術では、イベントが発生している間に１層目モデルと２層目モデルとの両方が推論を行う仕組みであるため、計算コストや電力コストがかかるといった課題があった。
【０００５】
本発明は、上記に鑑みてなされたものであって、推論に際してコストを抑えることができる情報処理システム、情報処理装置および情報処理方法を提供することを目的とする。
【課題を解決するための手段】
【０００６】
上述した課題を解決し、目的を達成するために、本発明に係る情報処理システムは、処理結果の判定を行う判定装置と、前記判定装置による判定に応じて処理対象データの処理を実行させるモデルを切り替える切替装置とを有する情報処理システムにおいて、前記判定装置は、前記処理対象データを第１モデルに処理させる第１推論部と、前記第１モデルによる処理結果が第１の条件を満たすか否かを判定する第１判定部と、前記処理対象データを前記第１モデルよりも高精度で処理する第２モデルに処理させる第２推論部と、前記第２モデルによる処理結果が第２の条件を満たすか否かを判定する第２判定部と、前記判定の結果を切替装置に送信する送信部とを有し、前記切替装置は、前記第１の条件を満たすと判定された場合、前記処理対象データの処理を前記第２モデルに実行させるように切り替え、前記第２判定部により前記第２の条件を満たすと判定された場合、前記処理対象データの処理を前記第１モデルに実行させるように切り替える切替部とを有することを特徴とする。
【発明の効果】
【０００７】
本発明によれば、推論に際して計算コストや電力コストを抑えることができる。
【図面の簡単な説明】
【０００８】
図１は、従来技術の課題について説明するための図である。
図２は、従来技術の課題について説明するための図である。
図３は、実施形態に係る情報処理システムが行う処理の概要を説明するための図である。
図４は、ＤＮＮ１およびＤＮＮ２の一例を説明するための図である。
図５は、実施形態に係る情報処理システムの構成の一例を示す図である。
図６は、実施形態に係る判定装置の構成の一例を示す図である。
図７は、実施形態に係る切替装置の構成の一例を示す図である。
図８は、実施形態に係る情報処理システムが行う切り替え処理の一例を説明するための図である。
図９は、実施形態に係る情報処理システムが行う切り替え処理の一例を説明するための図である。
図１０は、実施形態に係る情報処理システムが行う切り替え処理の一例を説明するための図である。
図１１は、実施形態に係る情報処理システムの構成の一例を示す図である。
図１２は、実施形態に係る情報処理システムが行う処理の流れを示すフローチャートである。
図１３は、実施形態に係る情報処理システムの変形例を示す図である。
図１４は、実施形態に係る情報処理システムの変形例を示す図である。
図１５は、実施形態に係る情報処理システムの変形例を示す図である。
図１６は、プログラムが実行されることにより、情報処理システムが実現されるコンピュータの一例を示す図である。
【発明を実施するための形態】
【０００９】
以下、図面を参照して、本願に係る情報処理システム、情報処理装置および情報処理方法の実施形態を詳細に説明する。なお、この実施の形態により本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示しており、重複する説明は省略される。
【００１０】
〔情報処理システムによる処理の概要〕
まず、図１～図３を用いて情報処理システムによる処理の概要について説明する。図１と図２は、従来技術の課題について説明するための図である。図３は、実施形態に係る情報処理システムによる処理の概要について説明するための図である。
（【００１１】以降は省略されています）

関連特許