1. 前のページに戻る

トラスト可能な生成AIと法制度およびAIガバナンス体制の構築の研究

研究課題

戦略的な研究開発の推進 社会技術研究開発事業

体系的番号 JPMJRS24L2

研究代表者

寺田 麻佑  一橋大学, 大学院ソーシャル・データサイエンス研究科, 教授

研究期間 (年度) 2024 – 2027
概要生成AIの利用が現実性を帯びる中、トラストできる生成AIの生成物とは何なのか、どのような形で社会にフィットし共存するのか、どのように社会の中に組み込んでデジタル社会を構築していくのか、といった課題に対して、利便性が高く、正確な情報を提供するAIシステムの設計とその利用の在り方が求められている。本研究開発プロジェクトでは、社会調査を通じた実体把握を経た上で、生成AIのアーキテクチャ設計、法制度の整備、ビジネスモデルの構築、社会環境の形成を考慮した構築すべきAIガバナンス体制を提案する。  研究開発の内容としては、生成AIを利用者に使用してもらうなどの実態把握調査を社会調査として継続的に行い、具体的な課題を明確にする。生成AIの透明性を向上させつつ、収集したフィードバックを基にシステムの透明性を向上するための検討を行い、ユーザーの信頼を高めるガバナンスモデルを提案する。また、説明可能なAIを導入し、出力した情報の根拠説明機能を追加することでユーザーが理解しやすい仕組みとするための検討を行う。さらに、個人情報保護や著作権法などの法的な枠組みを第三者機関でも可能にするリスク評価方法を検討し、AIガバナンスシステムの評価と認証、生成AIの信頼性やリスク評価についての基準提示の仕組みを提案し、ユーザーと提供者双方に対するシステムへのトラストの在り方を検討する。加えて、ユーザーデータの安全な取り扱いやプライバシー保護に配慮した、安心して生成AIを利用できる環境を整え、教育・人材育成領域でも生成AIを利用可能にする透明性を向上した仕組みを検討する。  以上、多様なステークホルダーを対象とした社会調査などにより、ユーザーの信頼を高める生成AIの設計・利用に向けて解決すべき課題とその解決プロセスの明確化を行い、構築すべき法制度とガバナンスシステムについて提案する。
研究領域SDGsの達成に向けた共創的研究開発プログラム(情報社会における社会的側面からのトラスト形成)

URL: 

JSTプロジェクトデータベース掲載開始日: 2024-12-19   JSTプロジェクトデータベース最終更新日: 2025-03-26  

サービス概要 よくある質問 利用規約

Powered by NII jst