安全な生成AIのためのニューロシンボリック融合議論システム: NeSyDebates
| 体系的番号 |
JPMJAP25B2 |
研究代表者 |
佐藤 健 情報・システム研究機構, データサイエンス共同利用基盤施設 人工知能法学研究センター, センター長
|
|---|
| 研究期間 (年度) |
2025 – 2030
|
| 概要 | 最近、生成AIモデルが進展し、さまざまな分野で活用されつつあるが、安全性や人間の価値観との整合性が課題である。たとえば、大規模言語モデルLLMではハルシネーションによる虚偽情報表示やプロンプト悪用による個人情報不法取得のリスクがある。本研究では、この問題に対処するため、ニューロシンボリック融合議論システム(NeSyDebates)を開発する。このシステムでは、自然言語で表現された政策・規制・法律等の規範違反事例から自動的に機械可読の規範議論形式を抽出し、新しい事例にその規範議論を適用することで規範違反を検出・分析・回避する。具体的な応用として、法律分野の文書処理のためのLLMおよびオンライン画像生成のためのテキストからの画像生成AIでこのシステムの有効性を検証する。
|
|---|
| 研究領域 | AI・情報 |
|---|
