納得感のある人間-AI協調意思決定を目指す信頼インタラクションデザインの基盤構築と社会浸透

研究課題

体系的番号	JPMJCR21D4
DOI	https://doi.org/10.52926/JPMJCR21D4
研究代表者	山田誠二情報・システム研究機構, 国立情報学研究所, 教授
研究期間 (年度)	2021 – 2026
概要	「信頼できるAI」の目的の一つに、様々な場面における人間とAIの協調意思決定の実現があります。本研究では、人間とAIが互いに相手を適切に信頼できる関係構築を目指し、人間の行動からAIに対する信頼レベルを判定して、人間自身による過信・不信の是正を促すことができる信頼較正AIを開発します。そして、その信頼較正AIを人間-AI協調画像診断、人間-AI協調検診に応用し、実験的評価の基に実稼働を目指します。
研究領域	信頼されるAIシステムを支える基盤技術

主な研究成果
(48件)

すべて 2024

すべて雑誌論文 (48件) (国際共著 4件、査読あり 47件、オープンアクセス 43件)

[雑誌論文] 精神科へき地医療の新しい時代に向けて長崎県における児童精神科医療へき地支援体制の構築2024
- 著者名
  今村明, 山本直毅, 三宅通, 熊崎博一, 小澤寛樹, 岩永竜一郎, 田中悟郎
- 雑誌名
  
  精神神経学雑誌
  
  巻: 2023 ページ: 479-479
- 査読あり
[雑誌論文] Discrimination between healthy participants and people with panic disorder based on polygenic scores for psychiatric disorders and for intermediate phenotypes using machine learning.2024
- 著者名
  Kazutaka Ohi, Yuta Tanaka, Takeshi Otowa, Mihoko Shimada, Hisanobu Kaiya, Fumichika Nishimura, Tsukasa Sasaki, Hisashi Tanii, Toshiki Shioiri, Takeshi Hara
- 雑誌名
  
  The Australian and New Zealand journal of psychiatry
  
  ページ: 48674241242936-48674241242936
- 査読あり / オープンアクセス
[雑誌論文] マルチエージェントに挫折，HAIを開拓，そしていま再挑戦2024
- 著者名
  小野哲雄
- 雑誌名
  
  人工知能学会誌
  
  巻: 39 号: 3 ページ: 288-294
- オープンアクセス
[雑誌論文] Persuasion by Shaping Beliefs about Multidimensional Features of a Thing2024
- 著者名
  Kazunori Terada, Yasuo Noma, Masanori Hattori
- 雑誌名
  
  Proceedings of the 23rd International Conference on Autonomous Agents and Multiagent Systems (AAMAS '24)
- 査読あり / オープンアクセス
[雑誌論文] Temaneki: Map-Based Collaboration Tool for Consensus-Building in Student-Run Festival Management Teams2024
- 著者名
  Yuki Abe, Hikaru Tsujiguchi, Daisuke Sakamot, Tetsuo Ono
- 雑誌名
  
  Proceedings of the ACM Conference on Human Factors in Computing Systems (CHI 2024)
  
  巻: 311 ページ: 1-8
- 査読あり / オープンアクセス
[雑誌論文] Waiting Time Perceptions for Faster Count-downs/ups Are More Sensitive Than Slower Ones: Experimental Investigation and Its Application2024
- 著者名
  Takanori Komatsu, Chenxi Xie, Seiji Yamada
- 雑誌名
  
  Proceedings of the ACM CHI conference on Human Factors in Computing System (CHI 2024)
  
  号: 624 ページ: 1-13
- 査読あり / オープンアクセス
[雑誌論文] Adjusting Amount of AI Explanation for Visual Tasks2024
- 著者名
  Akihiro Maehigashi, Yosuke Fukuchi, Seiji Yamada
- 雑誌名
  
  (Extended Abstracts) Proceedings of the ACM CHI conference on Human Factors in Computing System (CHI 2024), 35, 1-13
  
  号: 35 ページ: 1-7
- 査読あり / オープンアクセス
[雑誌論文] Language and sensory characteristics are reflected in voice-evoked responses in low birth weight children2024
- 著者名
  Yuko Yoshimura, Yusuke Mitani, Takashi Ikeda, Sanae Tanaka, Momoka Suda, Ken Yaoi, Chiaki Hasegawa, Kyung-min An, Sumie Iwasaki, Hirokazu Kumazaki, Daisuke N. Saito, Hidenobu Ohta, Akiko Ando, Kazutoshi Cho, Mitsuru Kikuchi, Taizo Wada
- 雑誌名
  
  Pediatric Research
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] Experimental Investigation of Explanation Presentation for Visual Tasks with XAI2024
- 著者名
  Akihiro Maehigashi, Yosuke Fukuchi, Seiji Yamada
- 雑誌名
  
  Proceedings of the Annual Meeting of the Cognitive Science Societ (CogSci 2024)
  
  巻: 46
- 査読あり / オープンアクセス
[雑誌論文] Designing Prosocial Agents: Cultivating Altruism through Observation-Based Approaches2024
- 著者名
  Chenlin Hang, Tetsuo Ono and Seiji Yamada
- 雑誌名
  
  Proceedings of the 9th International Conference on Robot Ethics and Standards (ICRES 2024)
- 査読あり / 国際共著
[雑誌論文] Investigating Impact of Robot Motion on AI Transparency and Trust in AI2024
- 著者名
  Akihiro Maehigashi, Yosuke Fukuchi and Seiji Yamada
- 雑誌名
  
  Proceedings of the 9th International Conference on Robot Ethics and Standards (ICRES 2024)
- 査読あり / オープンアクセス
[雑誌論文] Should XAI Nudge Human Decisions with Explanation Biasing?2024
- 著者名
  Yosuke Fukuchi and Seiji Yamada
- 雑誌名
  
  Proceedings of the 9th International Conference on Robot Ethics and Standards (ICRES 2024)
- 査読あり / オープンアクセス
[雑誌論文] Exploring the Impact of Social Robot’s Eyes on Privacy2024
- 著者名
  Maino Shinohara, Daisuke Sakamoto, Tetsuo Ono
- 雑誌名
  
  Proceedings of the 9th International Conference Series on Robot Ethics and Standards (ICRES 2024)
  
  ページ: 208-219
- 査読あり / オープンアクセス
[雑誌論文] Investigating the Factors of Algorithm Aversion in Virtual Agents2024
- 著者名
  Tetsuya Kaneko, Miharu Aoki, Myungguen Choi, Tetsuo Ono
- 雑誌名
  
  Proceedings of the 9th International Conference Series on Robot Ethics and Standards (ICRES 2024)
  
  ページ: 220-230
- 査読あり / オープンアクセス
[雑誌論文] Training high-performance deep learning classifier for diagnosis in oral cytology using diverse annotations.2024
- 著者名
  Shintaro Sukegawa, Futa Tanaka, Keisuke Nakano, Takeshi Hara, Takanaga Ochiai, Katsumitsu Shimada, Yuta Inoue, Yoshihiro Taki, Fumi Nakai, Yasuhiro Nakai, Takanori Ishihama, Ryo Miyazaki, Satoshi Murakami, Hitoshi Nagatsuka, Minoru Miyake
- 雑誌名
  
  Scientific reports
  
  巻: 14 号: 1 ページ: 17591-17591
- 査読あり / オープンアクセス
[雑誌論文] Changing Human’s Impression of Empathy from Agent by Verbalizing Agent’s Position2024
- 著者名
  Takahiro Tsumura, Seiji Yamada
- 雑誌名
  
  Proceedings of the 33rd IEEE International Conference on Robot and Human Interactive Communication (RO-MAN 2024)
- 査読あり
[雑誌論文] User Decision Guidance with Selective Explanation Presentation from Explainable-AI2024
- 著者名
  Yosuke Fukuchi, Seiji Yamada
- 雑誌名
  
  Proceedings of the 33rd IEEE International Conference on Robot and Human Interactive Communication (RO-MAN 2024)
- 査読あり / オープンアクセス
[雑誌論文] Empirical Investigation of How Robot Head Motion Influences Acceptance of Heatmap-Based XAI: Designing XAI with Social Robot2024
- 著者名
  Akihiro Maehigashi, Yosuke Fukuchi, Seiji Yamada
- 雑誌名
  
  Proceedings of the 33rd IEEE International Conference on Robot and Human Interactive Communication (RO-MAN 2024)
- 査読あり / オープンアクセス
[雑誌論文] Measuring algorithm aversion and betrayal aversion to humans and AI using trust games2024
- 著者名
  Hisashi Takagi, Yang Li, Masashi Komori, Kazunori Terada
- 雑誌名
  
  Proceedings of the 33rd IEEE International Conference on Robot and Human Interactive Communication (RO-MAN 2024)
- 査読あり / オープンアクセス
[雑誌論文] Joint segmentation of sternocleidomastoid and skeletal muscles in computed tomography images using a multiclass learning approach2024
- 著者名
  Kosuke Ashino, Naoki Kamiya, Xiangrong Zhou, Hiroki Kato, Takeshi Hara, Hiroshi Fujita
- 雑誌名
  
  Radiological Physics and Technology
  
  巻: 17 号: 4 ページ: 854-861
- 査読あり / オープンアクセス
[雑誌論文] Training potential of a teleoperated humanoid robot for use by a young psychiatrist during childcare leave2024
- 著者名
  Hiroko Kawahara, Nobukazu Kanchi, Megumi Kawata, Yuichiro Yoshikawa, Jun Baba, Taro Muramatsu, Hiroshi Ishiguro, Hirokazu Kumazaki
- 雑誌名
  
  Psychiatry and Clinical Neurosciences Reports
- 査読あり / オープンアクセス
[雑誌論文] Emotional Expression Help Regulate the Appropriatelevel of Cooperation with Agents2024
- 著者名
  Ryoya Ito, Celso M. de Melo, Jonathan Gratch, Kazunori Terada
- 雑誌名
  
  Proceedings of the 12th International Conference on Affective Computing and Intelligent Interaction (ACII '24)
- 査読あり / 国際共著
[雑誌論文] People Negotiate Better with Emotional Human-Like Virtual Agents than Android Robots2024
- 著者名
  Motoaki Sato, Takahisa Uchida, Yuichiro Yoshikawa, Celso M. de Melo, Jonathan Gratch, Kazunori Terada
- 雑誌名
  
  Proceedings of the 12th International Conference on Affective Computing and Intelligent Interaction (ACII '24)
- 査読あり
[雑誌論文] Metaverse Technologies Can Foster an Inclusive Society2024
- 著者名
  Daisuke Sakamoto, Tetsuo Ono
- 雑誌名
  
  Nature human behaviour
  
  号: 8 ページ: 1827-1828
- 査読あり / オープンアクセス
[雑誌論文] Impacts of Robot Beep Timings on Trust Dynamics in Human-Robot Interaction2024
- 著者名
  Akihiro Maehigashi, Takahiro Tsumura, Seiji Yamada
- 雑誌名
  
  International Journal of Social Robotics
- 査読あり / オープンアクセス
[雑誌論文] Making a human's trust repair for an agent in a series of tasks through the agent's empathic behavior2024
- 著者名
  Takahiro Tsumura, Seiji Yamada
- 雑誌名
  
  Frontiers in Computer Science
  
  巻: 6
- 査読あり / オープンアクセス
[雑誌論文] Robot can reduce superior's dominance in group discussions with human social hierarchy2024
- 著者名
  Kazuki Komura, Kumi Ozaki, Seiji Yamada
- 雑誌名
  
  Proceedings of the 12th International Conference on Human-Agent Interaction
  
  ページ: 242-249
- 査読あり / オープンアクセス
[雑誌論文] Socially Aware Robotics: Designing Apologetic Gestures for Multi-Joint Manipulators2024
- 著者名
  Nungduk Yun, Seiji Yamada
- 雑誌名
  
  Proceedings of the 12th International Conference on Human-Agent Interaction
  
  ページ: 379-381
- 査読あり / オープンアクセス
[雑誌論文] Can agent's behavior modification influence empathy from people?2024
- 著者名
  Takahiro Tsumura, Seiji Yamada
- 雑誌名
  
  Proceedings of the 12th International Conference on Human-Agent Interaction
  
  ページ: 370-372
- 査読あり / オープンアクセス
[雑誌論文] Can user engagement affect trust in audio guide agent?2024
- 著者名
  Mari Saito, Seiji Yamada
- 雑誌名
  
  Proceedings of the 12th International Conference on Human-Agent Interaction
  
  ページ: 44-53
- 査読あり / オープンアクセス
[雑誌論文] Effects of Presenting Multiple Types of AI Explanations for Visual Task2024
- 著者名
  Akihiro Maehigashi, Yosuke Fukuchi, Seiji Yamada
- 雑誌名
  
  Proceedings of the 12th International Conference on Human-Agent Interaction (HAI2024)
  
  ページ: 160-166
- 査読あり / オープンアクセス
[雑誌論文] Towards Adaptive Explanation with Social Robot in Human-XAI Interaction2024
- 著者名
  Yosuke Fukuchi, Seiji Yamada
- 雑誌名
  
  Proceedings of the 12th International Conference on Human-Agent Interaction (HAI2024)
  
  ページ: 353-355
- 査読あり / オープンアクセス
[雑誌論文] Similarities in Face Recognition between Deep Learning and Autism Spectrum Disorders2024
- 著者名
  Taku Imaizumi, Lu Li, Natsuki Nishikawa, Hirokazu Kumazaki, Kazuhiro Ueda
- 雑誌名
  
  Proceedings of the 12th International Conference on Human-Agent Interaction
  
  ページ: 344-346
- 査読あり / オープンアクセス
[雑誌論文] Investigation of Factors That Influence Human Presence and Robot Anthropomorphism in Telepresence Robot2024
- 著者名
  Nungduk Yun, Seiji Yamada
- 雑誌名
  
  IEEE Access
- 査読あり / オープンアクセス
[雑誌論文] Optimizing dental implant identification using deep learning leveraging artificial data.2024
- 著者名
  Shintaro Sukegawa, Kazumasa Yoshii, Takeshi Hara, Futa Tanaka, Yoshihiro Taki, Yuta Inoue, Katsusuke Yamashita, Fumi Nakai, Yasuhiro Nakai, Ryo Miyazaki, Takanori Ishihama, Minoru Miyake
- 雑誌名
  
  Scientific reports
  
  巻: 15 号: 1 ページ: 3724-3724
- 査読あり / オープンアクセス
[雑誌論文] Examination of Document Clustering Based on Independent Topic Analysis and Word Embeddings2024
- 著者名
  Riku Yasutomi, Seiji Yamada, Takashi Onoda
- 雑誌名
  
  In Proceedings of the 17th International Conference on Agents and Arti?cial Intelligence (ICAART 2025)
  
  ページ: 185-192
- 査読あり / オープンアクセス
[雑誌論文] Adjusting Doctor's Reliance on AI Through Labeling for Training Data and Modification of AI Output in a Muscle Tissue Detection Task2024
- 著者名
  Keito Miyake, Kumi Ozaki, Akihiro Maehigashi, Seiji Yamada
- 雑誌名
  
  In Proceedings of the 17th International Conference on Agents and Artificial Intelligence (ICAART 2025)
  
  ページ: 837-844
- 査読あり / オープンアクセス
[雑誌論文] ソーシャルロボットにおけるプライバシーに配慮した眼のデザインの探索的研究2024
- 著者名
  篠原舞乃，坂本大介，小野哲雄
- 雑誌名
  
  情報処理学会論文誌
  
  巻: 66 号: 2 ページ: 262-272
- 査読あり / オープンアクセス
[雑誌論文] Nudge & Boost Agents: Bridging Physical and Metaverse Environments through Agent Technology to Effectively Influence Human Decision Making2024
- 著者名
  Tetsuo Ono
- 雑誌名
  
  The 17th International Conference on Agents and Artificial Intelligence (ICAART 2025)
  
  ページ: 1-2
- 査読あり / オープンアクセス
[雑誌論文] Effects of Robot Bowing during Apology on Trust Repair2024
- 著者名
  Akihiro Maehigashi, Kenta Kubo, Yun Nungduk, Seiji Yamada
- 雑誌名
  
  . In Proceedings of the 2025 ACM/IEEE International Conference on Human-Robot Interaction (HRI2025)
  
  ページ: 1478-1482
- 査読あり / オープンアクセス
[雑誌論文] From Battery to Bonding: How Robot Self-Sacrifice Shapes Human Trust and Prosocial behavior2024
- 著者名
  Chenlin Hang, Masahiro Shiomi, Seiji Yamada
- 雑誌名
  
  In Proceedings of the 2025 ACM/IEEE International Conference on Human-Robot Interaction (HRI2025)
  
  ページ: 1329-1333
- 査読あり / オープンアクセス
[雑誌論文] Estimating the Trust of Humans in AI for Level 3 Autonomous Driving2024
- 著者名
  Sota Kaneko, Seiji Yamada
- 雑誌名
  
  In Proceedings of the 2025 ACM/IEEE International Conference on Human-Robot Interaction (HRI2025)
  
  ページ: 1389-1392
- 査読あり / オープンアクセス
[雑誌論文] Robots as Ambient Observers: Investigating the Effects of Robotic Eye Features on Human Perception2024
- 著者名
  Maino Shinohara, Daisuke Sakamoto and Tetsuo Ono
- 雑誌名
  
  The 20th IEEE/ACM International Conference on Human-Robot Interaction (HRI 2025)
  
  ページ: 1629-1633
- 査読あり / オープンアクセス
[雑誌論文] Initial study of verbal and nonverbal communication training through the collaborative operation of a humanoid robot for individuals with autism spectrum disorder2024
- 著者名
  Watanabe, T., Nishida, K., Kumazaki, H.
- 雑誌名
  
  Asian Journal of Psychiatry
  
  巻: 106
- 査読あり / オープンアクセス
[雑誌論文] Personal Preference Estimation and Rationale Generation with Large Vision-Language Model2024
- 著者名
  吉田温登, 滝之弥, 加藤邦人, 寺田和憲
- 雑誌名
  
  Journal of the Japan Society for Precision Engineering
  
  巻: 91 号: 3 ページ: 411-417
- 査読あり / オープンアクセス
[雑誌論文] Evolution of indirect reciprocity under emotion expression2024
- 著者名
  Henrique Correia da Fonseca, Celso M. de Melo, Kazunori Terada, Jonathan Gratch, Ana S. Paiva, Francisco C. Santos
- 雑誌名
  
  Scientific Reports
  
  巻: 15 号: 1
- 査読あり / オープンアクセス / 国際共著
[雑誌論文] The potential of evaluating shape drawing using machine learning for predicting high autistic traits2024
- 著者名
  Yoshimasa Ohmoto, Kazunori Terada, Hitomi Shimizu, Akira Imamura, Ryoichiro Iwanaga, Hirokazu Kumazaki
- 雑誌名
  
  PLOS ONE
- 査読あり / オープンアクセス
[雑誌論文] The potentiality of telepsychiatry using a teleoperated robot for a patient with alcohol abuse on an isolated island.2024
- 著者名
  Nobukazu Kanchi, Megumi Kawata, Yuichiro Yoshikawa, Atsushi Baba, Takahiro Miyashita, Hiroshi Ishiguro, Hirokazu Kumazaki
- 雑誌名
  
  PCN reports : psychiatry and clinical neurosciences
  
  巻: 3 号: 3 ページ: 230
- 査読あり / オープンアクセス

納得感のある人間-AI協調意思決定を目指す信頼インタラクションデザインの基盤構築と社会浸透

研究代表者

山田 誠二 情報・システム研究機構, 国立情報学研究所, 教授

主な研究成果

[雑誌論文] 精神科へき地医療の新しい時代に向けて 長崎県における児童精神科医療へき地支援体制の構築2024

著者名

雑誌名

[雑誌論文] Discrimination between healthy participants and people with panic disorder based on polygenic scores for psychiatric disorders and for intermediate phenotypes using machine learning.2024

著者名

雑誌名

[雑誌論文] マルチエージェントに挫折，HAIを開拓，そしていま再挑戦2024

著者名

雑誌名

[雑誌論文] Persuasion by Shaping Beliefs about Multidimensional Features of a Thing2024

著者名

雑誌名

[雑誌論文] Temaneki: Map-Based Collaboration Tool for Consensus-Building in Student-Run Festival Management Teams2024

著者名

雑誌名

[雑誌論文] Waiting Time Perceptions for Faster Count-downs/ups Are More Sensitive Than Slower Ones: Experimental Investigation and Its Application2024

著者名

雑誌名

[雑誌論文] Adjusting Amount of AI Explanation for Visual Tasks2024

著者名

雑誌名

[雑誌論文] Language and sensory characteristics are reflected in voice-evoked responses in low birth weight children2024

著者名

雑誌名

[雑誌論文] Experimental Investigation of Explanation Presentation for Visual Tasks with XAI2024

著者名

雑誌名

[雑誌論文] Designing Prosocial Agents: Cultivating Altruism through Observation-Based Approaches2024

著者名

雑誌名

[雑誌論文] Investigating Impact of Robot Motion on AI Transparency and Trust in AI2024

著者名

雑誌名

[雑誌論文] Should XAI Nudge Human Decisions with Explanation Biasing?2024

著者名

雑誌名

[雑誌論文] Exploring the Impact of Social Robot’s Eyes on Privacy2024

著者名

雑誌名

[雑誌論文] Investigating the Factors of Algorithm Aversion in Virtual Agents2024

著者名

雑誌名

[雑誌論文] Training high-performance deep learning classifier for diagnosis in oral cytology using diverse annotations.2024

著者名

雑誌名

[雑誌論文] Changing Human’s Impression of Empathy from Agent by Verbalizing Agent’s Position2024

著者名

雑誌名

[雑誌論文] User Decision Guidance with Selective Explanation Presentation from Explainable-AI2024

著者名

雑誌名

[雑誌論文] Empirical Investigation of How Robot Head Motion Influences Acceptance of Heatmap-Based XAI: Designing XAI with Social Robot2024

著者名

雑誌名

[雑誌論文] Measuring algorithm aversion and betrayal aversion to humans and AI using trust games2024

著者名

雑誌名

[雑誌論文] Joint segmentation of sternocleidomastoid and skeletal muscles in computed tomography images using a multiclass learning approach2024

著者名

雑誌名

[雑誌論文] Training potential of a teleoperated humanoid robot for use by a young psychiatrist during childcare leave2024

著者名

雑誌名

[雑誌論文] Emotional Expression Help Regulate the Appropriatelevel of Cooperation with Agents2024

著者名

雑誌名

[雑誌論文] People Negotiate Better with Emotional Human-Like Virtual Agents than Android Robots2024

著者名

雑誌名

[雑誌論文] Metaverse Technologies Can Foster an Inclusive Society2024

著者名

雑誌名

[雑誌論文] Impacts of Robot Beep Timings on Trust Dynamics in Human-Robot Interaction2024

著者名

雑誌名

[雑誌論文] Making a human's trust repair for an agent in a series of tasks through the agent's empathic behavior2024

山田誠二情報・システム研究機構, 国立情報学研究所, 教授

[雑誌論文] 精神科へき地医療の新しい時代に向けて長崎県における児童精神科医療へき地支援体制の構築2024