特許ウォッチ

公開番号2025113176
公報種別公開特許公報(A)
公開日2025-08-01
出願番号2024223859
出願日2024-12-19
発明の名称情報処理プログラム、情報処理方法、および情報処理装置
出願人富士通株式会社,ビー.ジー.ネゲブテクノロジーズアンドアプリケーションズリミテッド, アットベン‐グリオンユニバーシティー
代理人弁理士法人酒井国際特許事務所
主分類G06T 7/00 20170101AFI20250725BHJP(計算;計数)
要約【課題】敵対的パッチ攻撃に対する検知精度を向上させることを課題とする。
【解決手段】情報処理プログラムは、第1の画像に含まれる物体の領域のサイズを表す第1の値を取得し、第1の値に応じて取得される敵対的パッチの最小のサイズを表す第2の値に基づいて、敵対的パッチに対する欠損率を特定し、欠損率を上回る欠損を第1の画像に付与した第2の画像を生成し、第1の画像を物体検出モデルに入力して得られる第1の検出結果と、第2の画像を物体検出モデルに入力して得られる第2の検出結果とを比較する処理をコンピュータに実行させる。
【選択図】図8
特許請求の範囲【請求項１】
第１の画像に含まれる物体の領域のサイズを表す第１の値を取得し、
前記第１の値に応じて取得される敵対的パッチの最小のサイズを表す第２の値に基づいて、前記敵対的パッチに対する欠損率を特定し、
前記欠損率を上回る欠損を前記第１の画像に付与した第２の画像を生成し、
前記第１の画像を物体検出モデルに入力して得られる第１の検出結果と、前記第２の画像を前記物体検出モデルに入力して得られる第２の検出結果とを比較する
処理をコンピュータに実行させる情報処理プログラム。
続きを表示（約 1,100 文字）【請求項２】
前記第２の画像を生成する処理は、
前記欠損を前記第１の画像の前記領域内に付与した前記第２の画像を生成する
処理を含む請求項１に記載の情報処理プログラム。
【請求項３】
前記第２の画像を生成する処理は、
前記欠損として、所定の形状を、所定の間隔、所定の向き、および所定のオフセットで、かつ、前記間隔に応じた位置に付与した前記第２の画像を生成する
処理を含む請求項１に記載の情報処理プログラム。
【請求項４】
前記所定の間隔、前記所定の向き、前記所定のオフセット、および前記位置を、所定の範囲内でランダムに決定する
処理を前記コンピュータに実行させる請求項３に記載の情報処理プログラム。
【請求項５】
前記第１の画像における前記物体のエッジを取得する
処理を前記コンピュータに実行させ、
前記第２の画像を生成する処理は、
前記欠損を、前記第１の画像のうち前記エッジから所定の範囲外に付与した前記第２の画像を生成する
処理を含む請求項１に記載の情報処理プログラム。
【請求項６】
前記第１の検出結果と前記第２の検出結果との比較結果が不一致の場合、アラートを通知する
処理を前記コンピュータに実行させる請求項１に記載の情報処理プログラム。
【請求項７】
第１の画像に含まれる物体の領域のサイズを表す第１の値を取得し、
前記第１の値に応じて取得される敵対的パッチの最小のサイズを表す第２の値に基づいて、前記敵対的パッチに対する欠損率を特定し、
前記欠損率を上回る欠損を前記第１の画像に付与した第２の画像を生成し、
前記第１の画像を物体検出モデルに入力して得られる第１の検出結果と、前記第２の画像を前記物体検出モデルに入力して得られる第２の検出結果とを比較する
処理をコンピュータが実行することを特徴とする情報処理方法。
【請求項８】
第１の画像に含まれる物体の領域のサイズを表す第１の値を取得し、
前記第１の値に応じて取得される敵対的パッチの最小のサイズを表す第２の値に基づいて、前記敵対的パッチに対する欠損率を特定し、
前記欠損率を上回る欠損を前記第１の画像に付与した第２の画像を生成し、
前記第１の画像を物体検出モデルに入力して得られる第１の検出結果と、前記第２の画像を前記物体検出モデルに入力して得られる第２の検出結果とを比較する
処理を実行する制御部を有することを特徴とする情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、物体検出などの画像ＡＩを用いる情報処理プログラム、情報処理方法、および情報処理装置に関する。
続きを表示（約 1,700 文字）【背景技術】
【０００２】
物体検出などの画像ＡＩ（Artificial Intelligence）に対し、例えば、リテール領域におけるセルフレジの不正検知、パブリックセキュリティ領域におけるナンバープレートの認識など、検出対象の物体を誤認識させる敵対的パッチ攻撃がある。なお、敵対的パッチは、敵対的サンプル攻撃の一種であり、敵対的サンプルパッチなどとも呼ばれる。
【０００３】
敵対的パッチ攻撃を検知するため、例えば、画像加工を行った入力画像に対して物体検出により出力されたクラスを、画像加工無しの入力画像に対して物体検出により出力されたクラスと比較して、不一致の場合にパッチ攻撃を受けたと判断している。ここで、画像加工には、一例として、無作為に決めた幅・間隔の直線の欠損を付与する加工や、無作為に決めたサイズ・位置の正方形の欠損を入力画像に対して付与する加工などがある。
【先行技術文献】
【特許文献】
【０００４】
特開２０２３－０７８０８５公報
特開２０２２－０８０２８５公報
国際公開第２０２２／２６４３３１号
米国特許出願公開第２０１９／０２３８５６８号明細書
米国特許第１０７８３４０１号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、例えば、無作為なサイズや位置の欠損を付与する場合、パッチに欠損が及ばず、パッチの効力を下げることができずにパッチ攻撃を検知できない場合があり、延いてはセルフレジやナンバープレートなどの不正利用を見逃してしまう場合がある。
【０００６】
１つの側面では、敵対的パッチ攻撃に対する検知精度を向上させることを目的とする。
【課題を解決するための手段】
【０００７】
１つの態様において、情報処理プログラムは、第１の画像に含まれる物体の領域のサイズを表す第１の値を取得し、第１の値に応じて取得される敵対的パッチの最小のサイズを表す第２の値に基づいて、敵対的パッチに対する欠損率を特定し、欠損率を上回る欠損を第１の画像に付与した第２の画像を生成し、第１の画像を物体検出モデルに入力して得られる第１の検出結果と、第２の画像を物体検出モデルに入力して得られる第２の検出結果とを比較する処理をコンピュータに実行させる。
【発明の効果】
【０００８】
１つの側面では、敵対的パッチ攻撃に対する検知精度を向上させることができる。
【図面の簡単な説明】
【０００９】
図１は、物体検出について説明するための図である。
図２は、敵対的パッチ攻撃について説明するための図である。
図３は、不正検知およびパッチ検知技術について説明するための図である。
図４は、敵対的パッチ攻撃に対するパッチ検知技術の一例を示す図である。
図５は、欠損付与によるパッチ検出技術の問題点を説明するための図である。
図６は、本実施形態にかかる欠損付与について説明するための図である。
図７は、本実施形態にかかる情報処理システム１の構成例を示す図である。
図８は、本実施形態にかかる情報処理装置１０の機能構成例を示す図である。
図９は、インスタンスセグメンテーションを説明するための図である。
図１０は、本実施形態にかかる欠損付与の一例を示す図である。
図１１は、本実施形態にかかるパッチ検知処理の流れの一例を示すフローチャートである。
図１２は、本実施形態にかかる欠損付与処理の流れの一例を示すフローチャートである。
図１３は、情報処理装置１０のハードウェア構成例を説明する図である。
【発明を実施するための形態】
【００１０】
以下に、本実施形態に係る情報処理プログラム、情報処理方法、および情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例により本実施形態が限定されるものではない。また、各実施例は、矛盾のない範囲内で適宜組み合わせることができる。
（【００１１】以降は省略されています）

関連特許