拡張平均場理論を用いた敵対的訓練の理論的解析

研究課題

戦略的な研究開発の推進戦略的創造研究推進事業 ACT-X

体系的番号	JPMJAX23C7
DOI	https://doi.org/10.52926/JPMJAX23C7
研究代表者	熊野創一郎東京大学, 大学院情報理工学系研究科, 大学院生
研究期間 (年度)	2023 – 2025
概要	敵対的訓練は敵対的画像に対する有効な防御策として広く認知されていますが、頑健性が何に由来するのかなど、不明な部分も多いです。本研究ではまず、拡張平均場理論と呼ばれる、訓練後期のDeep Neural Networkを解析対象とする理論的枠組みを提案します。そして、この理論を用いた敵対的訓練の解析と保証を行います。本研究で提案される新たな理論と敵対的訓練の保証は、AIの社会的受容を促進します。
研究領域	次世代AIを築く数理・情報科学の革新

報告書

(1件)

2023 年次報告書 ( PDF )

主な研究成果
(4件)

すべて雑誌論文 (4件) (査読あり 2件、オープンアクセス 4件)

[雑誌論文] Adversarially Robust Continual Learning with Anti-Forgetting Loss2024
- 著者名
  Koki Mukai, Soichiro Kumano, Nicolas Michel, Ling Xiao, and Toshihiko Yamasaki
- 雑誌名
  
  IEEE International Conference on Image Processing (ICIP)
- 査読あり / オープンアクセス
[雑誌論文] 認識と再構成における敵対的画像の特徴量分析2024
- 著者名
  前田拓海, 熊野創一郎, 山崎俊彦
- 雑誌名
  
  信学技報, パターン認識・メディア理解研究会 (PRMU)
- オープンアクセス
[雑誌論文] Theoretical Explanation for Learning from Adversarial Perturbations2024
- 著者名
  Soichiro Kumano, Hiroshi Kera, and Toshihiko Yamasaki
- 雑誌名
  
  信学技報, パターン認識・メディア理解研究会 (PRMU)
- オープンアクセス
[雑誌論文] Wide Two-Layer Networks can Learn from Adversarial Perturbations2024
- 著者名
  Soichiro Kumano, Hiroshi Kera, and Toshihiko Yamasaki
- 雑誌名
  
  Conference on Neural Information Processing Systems (NeurIPS)
- 査読あり / オープンアクセス