• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

Detecting and Supporting People with Communication Difficulties using Multi-sensor and Statistical Models

Research Project

Project/Area Number 26540117
Research InstitutionNara Institute of Science and Technology

Principal Investigator

中村 哲  奈良先端科学技術大学院大学, 情報科学研究科, 教授 (30263429)

Co-Investigator(Kenkyū-buntansha) 岩坂 英巳  奈良県立医科大学, 医学部, 研究員 (70244712)
根來 秀樹  奈良教育大学, 教育学研究科, 教授 (80336867)
サクリアニ サクティ  奈良先端科学技術大学院大学, 情報科学研究科, 助教 (00395005)
戸田 智基  名古屋大学, 情報基盤センター, 教授 (90403328) [Withdrawn]
Neubig Graham  奈良先端科学技術大学院大学, 情報科学研究科, 助教 (70633428)
田中 宏季  奈良先端科学技術大学院大学, 情報科学研究科, 特任助教 (10757834)
Project Period (FY) 2014-04-01 – 2017-03-31
Keywordsコミュニケーション障害の計測 / 支援技術
Outline of Annual Research Achievements

本研究では、コミュニケーションが苦手な児童をトレーニングする対話システムを作るため、精神科医および臨床心理士などにより使用されている認知行動療法の一種であるソーシャルスキルトレーニングの枠組みを参考とした。「自動ソーシャルスキルトレーナ」と題して、ソーシャルスキルトレーニングの過程を人間とコンピュータのアバターとの対話によって自動化するシステムの開発を実現した。自動ソーシャルスキルトレーナの設計は、ソーシャルスキルトレーニングの枠組みに沿っており、課題設定、モデリング、ロールプレイ、フィードバック、正の強化、宿題を含んでいる。ユーザが対話システム上の仮想的なアバターと音声対話していく中で、コミュニケーションスキルを訓練していく。
これまで課題設定として、上手に話を伝える訓練バッテリーを対話システムに実装した。まずモデリングのステップでは、ユーザはあらかじめ収録した、上手に話を伝える人の動画を視聴し良い点のルールを学習する。次にロールプレイとして、ユーザがアバターに向かって1分間で「最近あった楽しかった出来事」を伝える。その際、アバターは聞き役として頷きなどの反応をし、同時にユーザの音声と動画も収録する。収録したデータから、ユーザの言語・非言語的情報(声の周波数や明瞭性、1分間の単語数、6文字以上の単語割合、笑顔の頻度など)を検出し、それを標準的なモデル(モデリングで使用した話者達)と比較して、良かった点と改善点をユーザに提示する。ユーザはフィードバックを見ることによって、自分の話の伝え方について客観的なアドバイスを受けることが可能になる。これまで、大学院生および自閉スペクトラム症者(児)において本システムの訓練効果を評価し、システム使用前後における対人対話において、有意に話を伝えるスキルの向上を確認した。

  • Research Products

    (11 results)

All 2017 2016

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Acknowledgement Compliant: 3 results,  Open Access: 2 results) Presentation (8 results) (of which Int'l Joint Research: 3 results)

  • [Journal Article] Multimodal Automated Social Skills Training in People with Autism Spectrum Disorders2017

    • Author(s)
      Hiroki Tanaka, Hideki Negoro, Hidemi Iwasaka, Satoshi Nakamura
    • Journal Title

      Plos One

      Volume: 印刷中 Pages: 印刷中

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Teaching Social Communication Skills through Human-Agent Interaction2016

    • Author(s)
      Hiroki Tanaka, Sakriani Sakti, Graham Neubig, Tomoki Toda, Hideki Negoro, Hidemi Iwasaka, Satoshi Nakamura
    • Journal Title

      ACM Transactions on Interactive Intelligent Systems

      Volume: 6(2) Pages: pp.1-26

    • DOI

      10.1145/2937757

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Enhancing Event-Related Potentials Based on Maximum a Posteriori Estimation with a Spatial Correlation Prior2016

    • Author(s)
      Hayato Maki, Tomoki Toda, Sakriani Sakti, Graham Neubig, Satoshi Nakamura
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: Vol. E99.D No.6 Pages: 1437-1446

    • DOI

      10.1587/transinf.2015CBP0008

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Presentation] EEG計測による脳活動に基づいた映像視聴時の感情状態の追従2017

    • Author(s)
      寺澤 直人, 田中 宏季, Sakriani Sakti, 中村 哲
    • Organizer
      電子情報通信学会技術研究報告(MEとバイオサイバネティックス研究会)
    • Place of Presentation
      機械振興会館(東京都・港区)
    • Year and Date
      2017-03-13 – 2017-03-14
  • [Presentation] EEG計測による脳活動に基づいた映像視聴時の感情状態の追従2017

    • Author(s)
      渡部 宏樹,田中 宏季,サクティ サクリアニ,中村 哲
    • Organizer
      電子情報通信学会技術研究報告(MEとバイオサイバネティックス研究会)
    • Place of Presentation
      九州大学病院キャンパス(福岡県・福岡市)
    • Year and Date
      2017-01-27 – 2017-01-28
  • [Presentation] 自閉スペクトラム症による自動ソーシャルスキルトレーナの訓練効果2016

    • Author(s)
      田中 宏季,根來 秀樹,岩坂 英巳,中村 哲
    • Organizer
      電 子情報通信学会技術研究報告(福祉情報工学研究会)
    • Place of Presentation
      産総研臨海副都心センター(東京都・江東区)
    • Year and Date
      2016-12-14 – 2016-12-15
  • [Presentation] Personalized Unknown Word Detection in Non-native Language Reading using Eye Gaze2016

    • Author(s)
      Rui Hiraoka, Hiroki Tanaka, Sakti Sakriani, Graham Neubig, Satoshi Nakamura
    • Organizer
      ACM International Conference on Multimodal Interaction (ICMI)
    • Place of Presentation
      日本科学未来館(東京都・江東区)
    • Year and Date
      2016-11-12 – 2016-11-16
    • Int'l Joint Research
  • [Presentation] 注視特徴を用いた非母語読解時の未知語検出における品詞タグの使用と個人適応の検討2016

    • Author(s)
      平岡 類,田中 宏季,Sakriani Sakti,Graham Neubig,中村 哲
    • Organizer
      電子情報通信学会技術研究報告(ヒューマン情報処理研究会)
    • Place of Presentation
      奈良春日野国際フォーラム(奈良県・奈良市)
    • Year and Date
      2016-09-27 – 2016-09-28
  • [Presentation] Eye Gaze-based Unknown Word Detection in Non-native Language Reading using SVMs and Random Forests2016

    • Author(s)
      Rui Hiraoka, Hiroki Tanaka, Sakti Sakriani, Koichiro Yoshino, Graham Neubig, Satoshi Nakamura
    • Organizer
      International Conference of the IEEE Engineering in Medicine and Biology Society
    • Place of Presentation
      フロリダ(米国)
    • Year and Date
      2016-08-16 – 2016-08-20
    • Int'l Joint Research
  • [Presentation] Automated Social Skills Training with Audiovisual Information2016

    • Author(s)
      Hiroki Tanaka, Sakriani Sakti, Graham Neubig, Hideki Negoro, Hidemi Iwasaka, Satoshi Nakamura
    • Organizer
      International Conference of the IEEE Engineering in Medicine and Biology Society
    • Place of Presentation
      フロリダ(米国)
    • Year and Date
      2016-08-16 – 2016-08-20
    • Int'l Joint Research
  • [Presentation] 注視特徴を用いたSVMによる非母語読解時の未知語検出2016

    • Author(s)
      平岡 類,田中 宏季,Sakriani Sakti,吉野 幸一郎,Graham Neubig,中村 哲
    • Organizer
      電子情報通信学会技術研究報告(ヒューマン情報処理研究会)
    • Place of Presentation
      沖縄産業支援センター(沖縄県・那覇市)
    • Year and Date
      2016-05-18 – 2016-05-19

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi