機械学習を用いたシステムの高品質化・実用化を加速する"Engineerable AI"技術の開発

研究課題

体系的番号	JPMJMI20B8
DOI	https://doi.org/10.52926/JPMJMI20B8
研究代表者	石川冬樹情報・システム研究機構, 国立情報学研究所, 准教授
研究期間 (年度)	2020 – 2024 (予定)
概要	機械学習の利点は、データセット全体からファジーなゴール全体を帰納的・経験的に実現できることである。しかし、大量データから機能全体を大まかに導くというアプローチ上、レアなニーズ・状況に対応したり、多数の状態に対する性能限界を把握・修正したりすることができない。このことは、交通・医療など安全性・信頼性が最重要である領域において、AIの展開を困難にしている。本研究開発では“Engineerable AI”というビジョンを提唱し、AIシステムの開発・品質保証・運用を安定化・効率化することで、その高品質化・実用化を加速する。具体的には、大量データを用いた学習・反復修正に基づく従来AIに対し、深層学習に人の知識を交え反映しAIを構築する技術や、品質に影響する要因を抽出・分析しての保証や修正を行う技術に取り組む。本研究開発は統計・機械学習分野とソフトウェア工学分野の研究者が密に連携して行い、自動運転および医療診断・治療においてその有効性を実証する。
研究領域	超スマート社会の実現「サイバー世界とフィジカル世界を結ぶモデリングとAI（本格研究）」

報告書

(7件)

主な研究成果
(32件)

すべて 2024

すべて雑誌論文 (32件) (国際共著 14件、査読あり 31件、オープンアクセス 28件)

[雑誌論文] More is Not Always Better: Exploring Early Repair of DNNs2024
- 著者名
  Andrei Mancu, Thomas Lauren, Franz Rieger, Paolo Arcaini, Fuyuki Ishikawa, Daniel Ruecker
- 雑誌名
  
  DeepTest 2024 at The 46th International Conference on Software Engineering (ICSE 2024)
  
  ページ: 13-16
- DOI
  10.1145/3643786.3648024
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Federated Repair of Deep Neural Networks2024
- 著者名
  Davide Li Calsi, Thomas Lauren, Paolo Arcaini, Fuyuki Ishikawa
- 雑誌名
  
  DeepTest 2024 at The 46th International Conference on Software Engineering (ICSE 2024)
  
  ページ: 17-24
- DOI
  10.1145/3643786.3648025
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Landscape and Taxonomy of Online Parser-Supported Log Anomaly Detection Methods2024
- 著者名
  Scott Lupton, Hironori Washizaki, Nobukazu Yoshioka and Yoshiaki Fukazawa
- 雑誌名
  
  IEEE Access
  
  巻: 12 ページ: 78193-78218
- DOI
  10.1109/ACCESS.2024.3387287
- 査読あり / オープンアクセス
[雑誌論文] バグレポート重複検出のための機械学習モデルをファインチューニングする際のロス計算手法および入力形式の比較評価2024
- 著者名
  森俊介, 草開新太郎, 鷲崎弘宜, 深澤良彰
- 雑誌名
  
  情報処理学会論文誌
  
  巻: 65 号: 4 ページ: 820-841
- DOI
  10.20729/00233611
- 査読あり / オープンアクセス
[雑誌論文] MultiTest: Physical-Aware Object Insertion for Testing Multi-sensor Fusion Perception Systems.2024
- 著者名
  Xinyu Gao, Zhijie Wang, Yang Feng, Lei Ma, Zhenyu Chen, and Baowen Xu.
- 雑誌名
  
  In Proceedings of the IEEE/ACM 46th International Conference on Software Engineering,
  
  ページ: 1710-1722
- DOI
  10.1145/3597503.3639191
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] AI and machine learning in medical imaging: key points from development to translation2024
- 著者名
  Samala R. K., Drukker K., Shukla-Dave A., Chan H. P., Sahiner B., Petrick N., Greenspan H., Mahmood U., Summers R. M., Tourassi G., Deserno T. M., Regge D., Nappi J. J., Yoshida H., Huo Z., Chen Q., Vergara D., Cha K. H., Mazurchuk R., Grizzard K. T., Huisman H., Morra L., Suzuki K., Armato, III S. G., and Hadjiiski L.
- 雑誌名
  
  BJR Artificial Intelligence
  
  巻: 1
- DOI
  10.1093/bjrai/ubae006
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Equivalence, identity, and unitarity checking in black-box testing of quantum programs2024
- 著者名
  Peixun Long, Jianjun Zhao
- 雑誌名
  
  Journal of Systems and Software
- DOI
  10.1016/j.jss.2024.112000
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Metamorphic Testing of an Autonomous Delivery Robots Scheduler2024
- 著者名
  Thomas Laurent, Paolo Arcaini, Xiao-Yi Zhang, Fuyuki Ishikawa
- 雑誌名
  
  The 17th IEEE International Conference on Software Testing, Verification, and Validation (ICST 2024, Industry Track)
  
  ページ: 361-372
- DOI
  10.1109/ICST60714.2024.00040
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Technical Briefing on Deep Neural Network Repair.2024
- 著者名
  Paolo Arcaini, Fuyuki Ishikawa, Lei Ma, Yuta Maezawa, Nobukazu Yoshioka, and Fuyuan Zhang.
- 雑誌名
  
  In Proceedings of the 2024 IEEE/ACM 46th International Conference on Software Engineering: Companion Proceedings
  
  ページ: 428-430
- DOI
  10.1145/3639478.3643063
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] An Federated Active Learning Framework for Ef?cient Labeling in Skin Lesion Analysis2024
- 著者名
  Zhipeng Deng, Yuqiao Yang, Kenji Suzuki
- 雑誌名
  
  Journal of Investigative Dermatology
- DOI
  10.1016/j.jid.2024.05.023
- 査読あり / オープンアクセス
[雑誌論文] Search-Based Repair of DNN Controllers of AI-Enabled Cyber-Physical Systems Guided by System-Level Specifications2024
- 著者名
  Deyun Lyu, Zhenya Zhang, Paolo Arcaini, Fuyuki Ishikawa, Thomas Lauren, Jianjun Zhao
- 雑誌名
  
  The Genetic and Evolutionary Computation Conference (GECCO 2024)
  
  ページ: 1435-1444
- DOI
  10.1145/3638529.3654078
- 査読あり / オープンアクセス
[雑誌論文] A Taxonomy and Review of Prompt Engineering Patterns in Software Engineering2024
- 著者名
  Yuya Sasaki, Hironori Washizaki, Jialong Li, Dominik Sander, Nobukazu Yoshioka and Yoshiaki Fukazawa
- 雑誌名
  
  Proceedings of the 48th IEEE International Conference on Computers, Software, and Applications (COMPSAC 2024)
- 査読あり / オープンアクセス
[雑誌論文] Integrated Multi-view Modeling for Reliable Machine Learning-Intensive Software Engineering2024
- 著者名
  Jati H. Husen, Hironori Washizaki, Jomphon Runpakprakun, Nobukazu Yoshioka, Hnin Thandar Tun, Yoshiaki Fukazawa, Hironori Takeuchi
- 雑誌名
  
  Software Quality Journal
  
  巻: 32 ページ: 1239-1285
- DOI
  10.1007/s11219-024-09687-z
- 査読あり / オープンアクセス
[雑誌論文] Enterprise Architecture-based Metamodel for Machine Learning Projects and its Management2024
- 著者名
  Hironori Takeuchi, Jati H. Husenb, Hnin Thandar Tun, Hironori Washizaki, Nobukazu Yoshioka
- 雑誌名
  
  Future Generation Computer Systems
  
  巻: 161 ページ: 135-145
- DOI
  10.1016/j.future.2024.06.062
- 査読あり / オープンアクセス
[雑誌論文] Quantum Circuit Ansatz: Patterns of Abstraction and Reuse of Quantum Algorithm Design2024
- 著者名
  Xiaoyu Guo, Takahiro Muta, Jianjun Zhao
- 雑誌名
  
  Proceedings of the IEEE International Conference on Quantum Software (QSW 2023)
  
  ページ: 69-80
- DOI
  10.1109/QSW62656.2024.00021
- 査読あり / オープンアクセス
[雑誌論文] AI Engineering Continuum: Concept and Expected Foundation2024
- 著者名
  Hironori Washizaki and Nobukazu Yoshioka
- 雑誌名
  
  Proceedings of the 15th International Conference on Information, Intelligence, Systems and Applications (IISA)
- 査読あり / 国際共著
[雑誌論文] Exploitation Process for Machine Learning Systems2024
- 著者名
  Satoshi Okuda, Naoshi Uchihira
- 雑誌名
  
  International Journal of Innovation and Technology Management
- DOI
  10.1142/S0219877024500482
- 査読あり / オープンアクセス
[雑誌論文] Project Practice-Based Anti-Patterns for Machine Learning Projects2024
- 著者名
  Hironori Takeuchi, Haruhiko Kaiya, Hiroyuki Nakagawa, Shinpei Ogata
- 雑誌名
  
  Proceedings of the International Conference on AI-empowered Software Engineering (AIESE)
  
  ページ: 25-36
- 査読あり
[雑誌論文] 画像生成モデルの弱点検出タスクへの適用可能性調査2024
- 著者名
  横山晴樹, 石川冬樹
- 雑誌名
  
  ソフトウェアエンジニアリングシンポジウム2024（SES 2024）
- 査読あり / オープンアクセス
[雑誌論文] On the effectiveness of hybrid pooling in mixup-based graph learning for language processing2024
- 著者名
  Zeming Dong, Qiang Hu, Zhenya Zhang, Yuejun Guo, Maxime Cordy, Mike Papadakis, Yves Le Traon, Jianjun Zhao
- 雑誌名
  
  The Journal of Systems & Software
  
  巻: 216 ページ: 112139-112139
- DOI
  10.1016/j.jss.2024.112139
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Pattern Application Support Framework in Machine Learning Reliability Solution Patterns2024
- 著者名
  Takumi Ayukawa, Jati H. Husen, Nobukazu Yoshioka, Hironori Washizaki, Naoyasu Ubayashi
- 雑誌名
  
  Proceedings of the 31st International Conference on Pattern Languages of Programs, People & Practices (PLoP 2024)
- 査読あり / オープンアクセス
[雑誌論文] n-Pipeline Log Anomaly Detection Drift Mitigation2024
- 著者名
  Scott Lupton, Hironori Washizaki, Naoyasu Ubayashi and Nobukazu Yoshioka
- 雑誌名
  
  Proceedings of the 35th IEEE International Symposium on Software Reliability Engineering (ISSRE 2024)
- 査読あり
[雑誌論文] Toward Pattern-Oriented Machine Learning Reliability Argumentation2024
- 著者名
  Takumi Ayukawa, Jati H. Husen, Nobukazu Yoshioka, Hironori Washizaki and Naoyasu Ubayashi
- 雑誌名
  
  Proceedings of the 1st International Workshop on Patterns and Practices of Reliable AI Engineering and Governance (AI-Pattern'24)
- 査読あり
[雑誌論文] Optimizing Multiple Consumer-Specific Objectives in End-To-End Ensemble Machine Learning Serving2024
- 著者名
  Minh-Tri Nguyen, Hong-Linh Truong, Paolo Arcaini, Fuyuki Ishikawa
- 雑誌名
  
  The 17th IEEE/ACM International Conference on Utility and Cloud Computing (UCC 2024, Short Paper)
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] On-the-Fly Proof-Based Verification of Reachability in Autonomous Vehicle Controllers Relying on Goal-Aware RSS2024
- 著者名
  Peter Riviere, Tsutomu Kobayashi, Neeraj Singh, Fuyuki Ishikawa, Yamine Ait Ameur, Guillaume Dupon
- 雑誌名
  
  The 25th International Conference on Formal Engineering Methods (ICFEM 2024, Short Paper)
  
  ページ: 314-331
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] CRAG - a combinatorial testing-based generator of road geometries for ADS testing2024
- 著者名
  Paolo Arcaini, Ahmet Cetinkaya
- 雑誌名
  
  Science of Computer Programming
- DOI
  10.1016/j.scico.2024.103171
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] SpectAcle: Fault Localisation of AI-Enabled CPS by Exploiting Sequences of DNN Controller Inferences2024
- 著者名
  Deyun Lyu, Zhenya Zhang, Paolo Arcaini, Xiao-Yi Zhang, Fuyuki Ishikawa, Jianjun Zhao
- 雑誌名
  
  ACM Transactions on Software Engineering and Methodology (TOSEM)
- DOI
  10.1145/3705307
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Landscape and Taxonomy of Prompt Engineering Patterns in Software Engineering2024
- 著者名
  Yuya Sasaki, Hironori Washizaki, Jialong Li, Nobukazu Yoshioka, Naoyasu Ubayashi, Yoshiaki Fukazawa
- 雑誌名
  
  IEEE IT Professional (IT Pro)
- DOI
  10.1109/MITP.2024.3525458
- 査読あり / オープンアクセス
[雑誌論文] Filter-based Repair of Semantic Segmentation in Safety-Critical Systems2024
- 著者名
  Sebastian Schneider, Tomas Sujovolsky, Paolo Arcaini, Fuyuki Ishikawa, Truong Vinh, Truong Duy
- 雑誌名
  
  The 32nd IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER 2025 Industrial Track)
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Enhancing Safety in Autonomous Driving: Integrating CARLA for Multi-Sensor Dataset Generation and Advanced Scenario Testing2024
- 著者名
  Guan Shiyang, Lu Yijun, Husen Jati Hiliamsyah, Cheng Haowei, Yoshioka Nobukazu, Ubayashi Naoyasu, Washizaki Hironori
- 雑誌名
  
  情報処理学会第219回ソフトウェア工学研究発表会
- オープンアクセス
[雑誌論文] Machine Learning Application Argument Patterns: A Catalog for Building Assurance Cases2024
- 著者名
  Takumi Ayukawa, Jati H. Husen, Nobukazu Yoshioka, Hironori Washizaki, Naoyasu Ubayashi
- 雑誌名
  
  11th Asian Conference on Pattern Languages of Programs, People & Practices (AsianPLoP 2025)
- 査読あり / オープンアクセス
[雑誌論文] リスク分析を含む高信頼機械学習システム開発フレームワークとモビリティにおける活用2024
- 著者名
  大久保利哉, Jati Hiliamsyah Husen, 吉岡信和, 鵜林尚靖, 鷲崎弘宜, 竹内広宜, Truong Vinh Truong Duy
- 雑誌名
  
  人工知能学会全国大会（第39回）
- 査読あり / オープンアクセス

機械学習を用いたシステムの高品質化・実用化を加速する"Engineerable AI"技術の開発

研究代表者

石川 冬樹 情報・システム研究機構, 国立情報学研究所, 准教授

報告書

主な研究成果

[雑誌論文] More is Not Always Better: Exploring Early Repair of DNNs2024

著者名

雑誌名

DOI

[雑誌論文] Federated Repair of Deep Neural Networks2024

著者名

雑誌名

DOI

[雑誌論文] Landscape and Taxonomy of Online Parser-Supported Log Anomaly Detection Methods2024

著者名

雑誌名

DOI

[雑誌論文] バグレポート重複検出のための機械学習モデルをファインチューニングする際のロス計算手法および入力形式の比較評価2024

著者名

雑誌名

DOI

[雑誌論文] MultiTest: Physical-Aware Object Insertion for Testing Multi-sensor Fusion Perception Systems.2024

著者名

雑誌名

DOI

[雑誌論文] AI and machine learning in medical imaging: key points from development to translation2024

著者名

雑誌名

DOI

[雑誌論文] Equivalence, identity, and unitarity checking in black-box testing of quantum programs2024

著者名

雑誌名

DOI

[雑誌論文] Metamorphic Testing of an Autonomous Delivery Robots Scheduler2024

著者名

雑誌名

DOI

[雑誌論文] Technical Briefing on Deep Neural Network Repair.2024

著者名

雑誌名

DOI

[雑誌論文] An Federated Active Learning Framework for Ef?cient Labeling in Skin Lesion Analysis2024

著者名

雑誌名

DOI

[雑誌論文] Search-Based Repair of DNN Controllers of AI-Enabled Cyber-Physical Systems Guided by System-Level Specifications2024

著者名

雑誌名

DOI

[雑誌論文] A Taxonomy and Review of Prompt Engineering Patterns in Software Engineering2024

著者名

雑誌名

[雑誌論文] Integrated Multi-view Modeling for Reliable Machine Learning-Intensive Software Engineering2024

著者名

雑誌名

DOI

[雑誌論文] Enterprise Architecture-based Metamodel for Machine Learning Projects and its Management2024

著者名

雑誌名

DOI

[雑誌論文] Quantum Circuit Ansatz: Patterns of Abstraction and Reuse of Quantum Algorithm Design2024

著者名

雑誌名

DOI

[雑誌論文] AI Engineering Continuum: Concept and Expected Foundation2024

著者名

雑誌名

[雑誌論文] Exploitation Process for Machine Learning Systems2024

著者名

雑誌名

DOI

[雑誌論文] Project Practice-Based Anti-Patterns for Machine Learning Projects2024

著者名

雑誌名

[雑誌論文] 画像生成モデルの弱点検出タスクへの適用可能性調査2024

著者名

雑誌名

[雑誌論文] On the effectiveness of hybrid pooling in mixup-based graph learning for language processing2024

著者名

雑誌名

石川冬樹情報・システム研究機構, 国立情報学研究所, 准教授