深層学習の原理記述に向けた構造汎化理論スキームの開発

研究課題

体系的番号	JPMJFR216I
DOI	https://doi.org/10.52926/JPMJFR216I
研究代表者	今泉允聡東京大学, 総合文化研究科, 准教授
研究期間 (年度)	2022 – 2028 (予定)
概要	深層学習の原理を記述する新しい数学的理論を構築し、深層学習の諸問題の抜本的な解決を目指します。深層学習は高精度で優れたデータ解析技術ですが、実用上は膨大な計算コストなどの課題が多く残ります。これは、従来理論が深層学習という新技術の原理を説明できないことに一因があります。本研究は、新概念「構造的汎化」を基軸に深層学習の原理を記述する理論を構築し、深層学習の基盤的側面の長期的かつ抜本的改善を試みます。
研究領域	八木パネル

報告書

(4件)

主な研究成果
(7件)

すべて 2024

すべて雑誌論文 (7件) (国際共著 4件、査読あり 6件、オープンアクセス 7件)

[雑誌論文] Fast Convergence on Perfect Classification for Functional Data2024
- 著者名
  Tomoya Wakayama, Masaaki Imaizumi
- 雑誌名
  
  Statistica Sinica
- 査読あり / オープンアクセス
[雑誌論文] SAN: Inducing Metrizability of GAN with Discriminative Normalized Linear Layer2024
- 著者名
  Yuhta Takida, Masaaki Imaizumi, Takashi Shibuya, Chieh-Hsin Lai, Toshimitsu Uesaka, Naoki Murata, Yuki Mitsufuji
- 雑誌名
  
  International Conference on Learning Representations
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Automatic Domain Adaptation by Transformers in In-Context Learning2024
- 著者名
  Ryuichiro Hataya, Kota Matsui, Masaaki Imaizumi
- 雑誌名
  
  arXiv
- オープンアクセス
[雑誌論文] Effect of Weight Quantization on Learning Models by Typical Case Analysis2024
- 著者名
  Shuhei Kashiwamura, Ayaka Sakata, Masaaki Imaizumi
- 雑誌名
  
  IEEE International Symposium on Information Theory
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Distribution-on-distribution regression with Wasserstein metric: Multivariate Gaussian case2024
- 著者名
  Ryo Okano, Masaaki Imaizumi
- 雑誌名
  
  Journal of Multivariate Analysis
  
  巻: 203 ページ: 105334-105334
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Inference for Projection-Based Wasserstein Distances on Finite Spaces2024
- 著者名
  Ryo Okano, Masaaki Imaizumi
- 雑誌名
  
  Statistica Sinica
- 査読あり / オープンアクセス
[雑誌論文] Benign Overfitting of Non-Sparse High-Dimensional Linear Regression with Correlated Noise2024
- 著者名
  Toshiki Tsuda, Masaaki Imaizumi
- 雑誌名
  
  Electronic Journal of Statistics
- 査読あり / オープンアクセス / 国際共著

深層学習の原理記述に向けた構造汎化理論スキームの開発

研究代表者

今泉 允聡 東京大学, 総合文化研究科, 准教授

報告書

主な研究成果

[雑誌論文] Fast Convergence on Perfect Classification for Functional Data2024

著者名

雑誌名

[雑誌論文] SAN: Inducing Metrizability of GAN with Discriminative Normalized Linear Layer2024

著者名

雑誌名

[雑誌論文] Automatic Domain Adaptation by Transformers in In-Context Learning2024

著者名

雑誌名

[雑誌論文] Effect of Weight Quantization on Learning Models by Typical Case Analysis2024

著者名

雑誌名

[雑誌論文] Distribution-on-distribution regression with Wasserstein metric: Multivariate Gaussian case2024

著者名

雑誌名

[雑誌論文] Inference for Projection-Based Wasserstein Distances on Finite Spaces2024

著者名

雑誌名

[雑誌論文] Benign Overfitting of Non-Sparse High-Dimensional Linear Regression with Correlated Noise2024

著者名

雑誌名

今泉允聡東京大学, 総合文化研究科, 准教授