大規模言語モデルのための新しい信頼性向上技術

研究課題

戦略的な研究開発の推進戦略的創造研究推進事業さきがけ

体系的番号	JPMJPR23P5
DOI	https://doi.org/10.52926/JPMJPR23P5
研究代表者	曹洋北海道大学, 大学院情報科学研究院, 准教授
研究期間 (年度)	2023 – 2026
概要	大規模言語モデル（LLMs）は私たちの社会を変革していますが、プライバシーや堅牢性、悪用のリスクももたらしています。本研究は、大規模言語モデルの信頼性を向上させる新しい技術を開発することを目指しており、敵対的な環境での大規模言語モデルの堅牢性を向上させ、大規模言語モデルによって生成されたコンテンツの誤用を防ぐことを目的としています。
研究領域	社会変革に向けたICT基盤強化

主な研究成果
(4件)

すべて雑誌論文 (4件) (国際共著 4件、査読あり 4件、オープンアクセス 4件)

[雑誌論文] HRNet: Differentially Private Hierarchical and Multi-Resolution Network for Human Mobility Data Synthesization.2024
- 著者名
  Shun Takagi, Li Xiong 0001, Fumiyuki Kato, Yang Cao 0011, Masatoshi Yoshikawa
- 雑誌名
  
  Proceedings of the VLDB Endowment
  
  巻: 17 号: 11 ページ: 3058-3071
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Uldp-FL: Federated Learning with Across Silo User-Level Differential Privacy.2024
- 著者名
  Fumiyuki Kato, Li Xiong 0001, Shun Takagi, Yang Cao 0011, Masatoshi Yoshikawa
- 雑誌名
  
  Proceedings of the VLDB Endowment
  
  巻: 17 号: 11 ページ: 2826-2839
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] TabularMark: Watermarking Tabular Datasets for Machine Learning.2024
- 著者名
  Yihao Zheng, Haocheng Xia, Junyuan Pang, Jinfei Liu, Kui Ren 0001, Lingyang Chu, Yang Cao 0011, Li Xiong 0001
- 雑誌名
  
  CCS
  
  ページ: 3570-3584
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] PreCurious: How Innocent Pre-Trained Language Models Turn into Privacy Traps.2024
- 著者名
  Ruixuan Liu, Tianhao Wang 0001, Yang Cao 0011, Li Xiong 0001
- 雑誌名
  
  CCS
  
  ページ: 3511-3524
- 査読あり / オープンアクセス / 国際共著