• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Annual Research Report

パフォーマンス評価のための項目反応理論とその運用モデルの開発

Research Project

Project/Area Number 17H04726
Research InstitutionThe University of Electro-Communications

Principal Investigator

宇都 雅輝  電気通信大学, 大学院情報理工学研究科, 准教授 (10732571)

Project Period (FY) 2017-04-01 – 2021-03-31
Keywordsパフォーマンス評価 / 項目反応理論 / eテスティング / eラーニング
Outline of Annual Research Achievements

本研究は,パフォーマンス評価の信頼性を改善する手法のひとつとして実用化が期待されている評価者特性を考慮した項目反応理論に関する以下のテーマに取り組むものである.1)異質評価者に頑健な新たなモデルの開発,2)最先端のMCMCアルゴリズムによるパラメータ推定の効率化,3)様々な実践場面への適用を想定したモデル適用と性能評価.
これに対し,令和2年度には次の研究を行なった.1)に関しては,開発したモデルのシミュレーション評価とデータ実験を行い,英文論文誌に投稿した.2)については,最先端のMCMCアルゴリズムの一つであるNo-U-Turnサンプラー・ハミルトニアンモンテカルロ法による推定手法を開発し,実験によりその有効性を評価した.成果は英文論文誌に投稿した.3)に関しては次の研究を行なった.3-1)ルーブリックを用いた評価のための多次元型拡張モデルを開発し,電子情報通信学会論文雑誌に成果を掲載.3-2)小論文の採点を想定し,統計的自然言語処理技術の一つである潜在ディリクレ配分法を組み込んだ拡張モデルを開発し,トップ国際会議のAIEDに掲載.3-3)医療系大学間共用試験の実データ適用を通した実証評価の実施.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

上記の通り,計画中の研究は全て順調に進行しており,研究成果も順次出版できているため.

Strategy for Future Research Activity

令和2年度には次を実施する.1)に関しては,最終成果が英文論文誌に採択・掲載する.2)については,最先端のMCMCアルゴリズムの一つであるNo-U-Turnサンプラー・ハミルトニアンモンテカルロ法による推定手法を開発し,その成果が英文論文誌に掲載する.3)に関しては,具体的には次の研究を行ない,それらの成果を論文誌に掲載する.3-1)ルーブリックを用いた評価のための拡張モデル開発,3-2)小論文の採点を想定し,統計的自然言語処理技術の一つである潜在ディリクレ配分法や深層学習モデルを組み込んだ拡張モデルの開発,3-3)MOOCsなどの大規模学習環境における相互評価の信頼性改善を目指したグループ構成最適化手法の開発,3-4)医療系大学間共用試験の実データ適用を通した実証評価,3-5)適切なモデル活用のための試験デザインの設計.

  • Research Products

    (14 results)

All 2020 2019

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (12 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results)

  • [Journal Article] パフォーマンス評価における多次元項目反応モデル2019

    • Author(s)
      八木嵩大・宇都雅輝
    • Journal Title

      電子情報通信学会論文誌D

      Volume: 10 Pages: 708-720

    • DOI

      10.14923/transinfj.2019JDP7018

    • Peer Reviewed
  • [Journal Article] 論述式試験における評点データと文章情報を活用した項目反応トピックモデル2019

    • Author(s)
      宇都雅輝
    • Journal Title

      電子情報通信学会論文誌D

      Volume: 8 Pages: 553-566

    • DOI

      10.14923/transinfj.2019JDP7007

    • Peer Reviewed
  • [Presentation] アノテータのバイアスに頑健な小論文自動採点手法2020

    • Author(s)
      岡野将士・宇都雅輝
    • Organizer
      言語処理学会第26回年次大会
  • [Presentation] 項目反応理論に基づく能力推定値を活用した短答記述式問題自動採点手法2020

    • Author(s)
      内田優斗・宇都雅輝
    • Organizer
      言語処理学会第26回年次大会
  • [Presentation] 評価者バイアスに頑健な小論文自動採点手法2020

    • Author(s)
      岡野将士・宇都雅輝
    • Organizer
      第88回 人工知能学会 先進的学習科学と工学研究会
  • [Presentation] 項目反応理論と深層学習を用いた短答記述式問題自動採点手法2020

    • Author(s)
      内田優斗・宇都雅輝
    • Organizer
      第88回 人工知能学会 先進的学習科学と工学研究会
  • [Presentation] Rater-effect IRT model integrating supervised LDA for accurate measurement of essay writing ability.2019

    • Author(s)
      Masaki Uto
    • Organizer
      International Conference on Artificial Intelligence in Education (AIED)
    • Int'l Joint Research
  • [Presentation] OSCEにおけるIRT利用について2019

    • Author(s)
      宇都雅輝
    • Organizer
      公益社団法人医療系大学間共用試験実施評価機構 試験信頼性向上部会第16回講演会
    • Invited
  • [Presentation] 項目反応理論と機械学習技術を用いた小論文評価手法2019

    • Author(s)
      宇都雅輝
    • Organizer
      日本テスト学会第17回大会
  • [Presentation] 評価者バイアスを考慮した小論文自動採点手法2019

    • Author(s)
      岡野将士・宇都雅輝
    • Organizer
      情報処理学会第241回自然言語処理研究発表会
  • [Presentation] 受験者の解答履歴データを組み込んだ短答式問題自動採点手法2019

    • Author(s)
      内田優斗・宇都雅輝
    • Organizer
      NLP 若手の会 第14回シンポジウム
  • [Presentation] 臨床実習前OSCE正式実施以降の変化と現在の課題1:統計量の動向2019

    • Author(s)
      森本剛・仁田善雄・野上康子・内田啓子・吉田素文・宇都雅輝・中田優芽・大滝純司・齋藤宣彦
    • Organizer
      第51回医学教育学会全国大会
  • [Presentation] 臨床実習前OSCE正式実施以降の変化と現在の課題2:実施体制の動向2019

    • Author(s)
      吉田素文・内田啓子・森本剛・仁田善雄・野上康子・宇都雅輝・中田優芽・大滝純司・齋藤宣彦
    • Organizer
      第51回医学教育学会全国大会
  • [Presentation] Maximizing accuracy of group peer assessment using item response theory and integer programming2019

    • Author(s)
      Masaki Uto, Duc-Thien Nguyen, Maomi Ueno
    • Organizer
      第33回人工知能学会全国大会

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi