• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

パフォーマンス評価のための項目反応理論とその運用モデルの開発

Research Project

Project/Area Number 17H04726
Research InstitutionThe University of Electro-Communications

Principal Investigator

宇都 雅輝  電気通信大学, 大学院情報理工学研究科, 准教授 (10732571)

Project Period (FY) 2017-04-01 – 2021-03-31
Keywordsパフォーマンス評価 / 項目反応理論 / eテスティング / eラーニング
Outline of Annual Research Achievements

本研究は,パフォーマンス評価の信頼性を改善する手法のひとつとして実用化が期待されている評価者特性を考慮した項目反応理論に関する以下のテーマに取り組むものである.1)異質評価者に頑健な新たなモデルの開発,2)最先端のMCMCアルゴリズムによるパラメータ推定の効率化,3)様々な実践場面への適用を想定したモデル適用と性能評価.
これに対し,令和2年度には次の成果を得た.1)に関しては,最終成果が英文論文誌に採択・掲載された.2)については,最先端のMCMCアルゴリズムの一つであるNo-U-Turnサンプラー・ハミルトニアンモンテカルロ法による推定手法を開発し,その成果が英文論文誌に掲載された.
上述の3)に関しては,具体的には次の研究を令和2年度に行なった.3-1)ルーブリックを用いた評価のための拡張モデル開発,3-2)小論文の採点を想定し,統計的自然言語処理技術の一つである潜在ディリクレ配分法や深層学習モデルを組み込んだ拡張モデルの開発,3-3)MOOCsなどの大規模学習環境における相互評価の信頼性改善を目指したグループ構成最適化手法の開発,3-4)医療系大学間共用試験の実データ適用を通した実証評価,3-5)適切なモデル活用のための試験デザインの設計.
各研究成果は次の通りである.3-1)の成果は,令和2年度に電子情報通信学会論文誌に採択されるとともに,それを発展させたモデルが国際会議AIED2021に採択された.3-2)の成果は,前年度までに論文誌や国際会議で発表済であり,令和2年度は招待講演などで研究成果を紹介した.3-3)の成果はIEEEの論文誌に令和2年度に掲載された.3-4)については,分析結果を専門委員会で議論するとともに,医療系大学向けの全国説明会や医学教育学会で発表した.3-5)の成果も,令和2年度に英文論文誌に投稿し,掲載された.

Research Progress Status

令和2年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和2年度が最終年度であるため、記入しない。

  • Research Products

    (15 results)

All 2021 2020

All Journal Article (5 results) (of which Peer Reviewed: 4 results,  Open Access: 3 results) Presentation (10 results) (of which Int'l Joint Research: 3 results,  Invited: 3 results)

  • [Journal Article] Accuracy of performance-test linking based on a many-facet Rasch model2020

    • Author(s)
      Masaki Uto
    • Journal Title

      Behavior Research Methods, Springer

      Volume: - Pages: in press

    • DOI

      10.3758/s13428-020-01498-x

    • Peer Reviewed / Open Access
  • [Journal Article] Group optimization to maximize peer assessment accuracy using item response theory and integer programming2020

    • Author(s)
      Masaki Uto, Duc-Thien Nguyen, Maomi Ueno
    • Journal Title

      IEEE Transactions on Learning Technologies, IEEE Computer Society

      Volume: 13 Pages: 91-106

    • DOI

      10.1109/TLT.2019.2896966

    • Peer Reviewed / Open Access
  • [Journal Article] A generalized many-facet Rasch model and its Bayesian estimation using Hamiltonian Monte Carlo2020

    • Author(s)
      Masaki Uto, Maomi Ueno
    • Journal Title

      Behaviormetrika

      Volume: 47/2 Pages: 469-496

    • DOI

      10.1007/s41237-020-00115-7

    • Peer Reviewed / Open Access
  • [Journal Article] テスト理論と人工知能に基づくパフォーマンス評価の新技術2020

    • Author(s)
      宇都雅輝
    • Journal Title

      教育システム情報学会論文誌

      Volume: 37/1 Pages: 8--18

    • DOI

      10.14926/jsise.37.8

  • [Journal Article] ルーブリック評価における項目反応理論2020

    • Author(s)
      宇都雅輝・植野真臣
    • Journal Title

      電子情報通信学会論文誌D

      Volume: 103/05 Pages: 459--470

    • DOI

      10.14923/transinfj.2019JDP7065

    • Peer Reviewed
  • [Presentation] ルーブリック評価における多次元4相型項目反応モデルの提案2021

    • Author(s)
      新田森・宇都雅輝
    • Organizer
      人工知能学会 第91回 先進的学習科学と工学研究会
  • [Presentation] アノテータのバイアスを考慮した記述・論述式自動採点手法2021

    • Author(s)
      岡野将士・宇都雅輝
    • Organizer
      言語処理学会第27回年次大会
  • [Presentation] OSCEにおけるIRT利用について2020

    • Author(s)
      宇都雅輝
    • Organizer
      公益社団法人医療系大学間共用試験実施評価機構 試験信頼性向上部会第18回講演会
    • Invited
  • [Presentation] パフォーマンス型試験の課題とその解決に向けた人工知能研究の現在2020

    • Author(s)
      宇都雅輝
    • Organizer
      SCATE-21研究会
    • Invited
  • [Presentation] Rater-effect IRT model integrating supervised LDA for accurate measurement of essay writing ability.2020

    • Author(s)
      Masaki Uto
    • Organizer
      第19回情報科学技術フォーラム FIT2020, 情報処理学会(トップコンファレンスセッション)
    • Invited
  • [Presentation] ルーブリック評価のための多相項目反応モデル2020

    • Author(s)
      宇都雅輝・植野真臣
    • Organizer
      行動計量学会第48回大会
  • [Presentation] OSCEにおける項目反応理論の適用2020

    • Author(s)
      宇都雅輝・森本剛・野上康子・内田啓子・吉田素文・片桐瑞希・葛西一貴・川上智史・江藤一洋・齋藤宣彦・仁田善雄
    • Organizer
      第52回医学教育学会全国大会
  • [Presentation] Neural Automated Essay Scoring Incorporating Handcrafted Features2020

    • Author(s)
      Masaki Uto, Yikuan Xie, Maomi Ueno
    • Organizer
      International Conference on Computational Linguistics
    • Int'l Joint Research
  • [Presentation] Robust neural automated essay scoring using item response theory2020

    • Author(s)
      Masaki Uto, Masashi Okano
    • Organizer
      International Conference on Artificial Intelligence in Education
    • Int'l Joint Research
  • [Presentation] Automated short-answer grading using deep neural networks and item response theory2020

    • Author(s)
      Masaki Uto, Yuto Uchida
    • Organizer
      International Conference on Artificial Intelligence in Education
    • Int'l Joint Research

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi