動的特徴量縮約可能な大規模モデル向けテンソル連想メモリアーキテクチャ

研究課題

体系的番号	JPMJBY24G7
研究代表者	藤木大地国立情報学研究所, アーキテクチャ科学研究系, 特任研究員
研究期間 (年度)	2025 – 2030 (予定)
概要	大量のデータを処理するAIは電力を多く消費します。本研究では、主な電力消費がメモリアクセスにあるという事実に注目し、特殊なメモリTAMによりAI内部のデータをコンパクト化することで、電力と処理速度を改善します。TAMは活性値を局所性・類似性に基づいて縮約し、要約します。本技術により、AIの性能を維持したまま大幅な省エネ化を実現し、様々なAIモデルやハードウェアに適用できる汎用性の高い最適化技術の開発を目指します。