体系的番号 |
JPMJTM20T0 |
DOI |
https://doi.org/10.52926/JPMJTM20T0 |
研究代表者 |
小野 智司 鹿児島大学, 学術研究院 理工学域工学系, 教授
|
研究期間 (年度) |
2021
|
概要 | 機械学習器の誤認識を意図的に生じさせる敵対的攻撃の技術を利用し,機械学習システムの脆弱性を発見するツール/サービスを開発する.本技術は,対象システムの内部情報を利用せずに,外部から脆弱性を検証できる点に特徴があり,商用システム/サービスへの適用が可能である.また,一般的な敵対的攻撃では発見できない脆弱性を発見できる点にも特徴がある.さらに,本技術の実現により,脆弱性を含むモデルに対して,有効な防御技術を提案することが可能となる.本課題では,広く利用されている画像認識器における未知の脆弱性を100種類程度明らかにするとともに,対象器の頑健性を高める防御手法の組み合わせを提案できることを示す.
|