• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Development and Evaluation of Ordered Multiple-Choice Items with Distractors at Various Difficulty Levels

Research Project

Project/Area Number 20K14177
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 10020:Educational psychology-related
Research InstitutionThe National Center for University Entrance Examinations

Principal Investigator

Terao Takahiro  独立行政法人大学入試センター, 研究開発部, 准教授 (70827055)

Project Period (FY) 2020-04-01 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000)
Fiscal Year 2023: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2022: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2021: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2020: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Keywords順序多肢選択式項目 / 誤答選択肢 / 系統的錯乱枝生成法 / 選択肢リスト / 順序分割モデル
Outline of Research at the Start

本研究の目的は,種類の異なる誤答選択肢の難易度の順序性や階層構造を考慮した順序多肢選択式問題から,受験者の能力に関する情報を最大限に引き出す誤答選択肢の組み合わせ方を解明することである。
研究1では,共通の特徴をもつ複数の誤答選択肢をリストとしてまとめ,リスト内の誤答選択肢間の難易度のバラつきの程度や難易度の高低をもたらす要因を検討する。研究2では,複数の誤答選択肢リストを用いて,リスト間の難易度の順序性や階層構造を検討する。研究3では,上記2つの研究知見に基づいて多様な難易度の誤答選択肢を組み合わせた順序多肢選択式問題を作成し,受験者の能力に関する情報を豊富に得られる試験問題の条件を解明する。

Outline of Final Research Achievements

This study developed a new data visualization methodology called distractor cascade analysis, which makes it possible to show selection patterns across ordered multiple-choice items. This work won the 2022 EM:IP cover graphic award and was acknowledged to the international practitioners.
Study 1 aimed to experiment ordered multiple-choice items with various difficulty level. A total of 227 highschool students answered the test and results showed that the intended difficulty ordering was observed only in three of 12 items. It was revealed that a set of experimental items in the study was much difficult for Japanese highschool students.

Academic Significance and Societal Importance of the Research Achievements

本研究課題では,古典的な項目分析ではとらえきれなかった,複数問題にわたる選択パターンを可視化する手法を開発し,実データを適用した事例を創出した。これまで1問1問に対する統計的分析にとどまっていたところ,複数個の問題にわたる選択状況を把握する可視化手法を開発したことにより,同一難易度水準の選択肢が連続して選ばれているか等の確認を行える点が画期的であり,学術的意義が高い。この特長は,順序多肢選択式問題の品質を評価する上でとりわけ有用な統計図表となり,統計に必ずしも明るくない者にも解釈可能な図となっている点は,実用性も高い。

Report

(5 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (14 results)

All 2024 2023 2022 2021 2020

All Journal Article (4 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 4 results,  Open Access: 4 results) Presentation (10 results) (of which Int'l Joint Research: 3 results,  Invited: 1 results)

  • [Journal Article] Computer-Based Listening Test with Full Video, Visual-Limited Video, and Audio: A Comparative Analysis Based on Difficulty, Discrimination Power, and Response Time2024

    • Author(s)
      Terao Takahiro
    • Journal Title

      Applied Measurement in Education

      Volume: 37 Issue: 1 Pages: 29-42

    • DOI

      10.1080/08957347.2024.2311923

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] CBTの実施方式に関する探索的検討―特別な設備のない試験室での実施に向けて―2023

    • Author(s)
      寺尾尚大
    • Journal Title

      大学入試研究ジャーナル

      Volume: 33 Pages: 81-87

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] シンポジウム「大学入試におけるコロナ対策:令和3年度入試の舞台裏」のプレイバック2023

    • Author(s)
      内田照久・寺尾尚大・石井秀宗・林篤裕・中村裕行・立脇洋介・西郡大・宮本友弘・久保沙織・南紅玉・倉元直樹
    • Journal Title

      大学入試研究ジャーナル

      Volume: 33 Pages: 191-198

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Features Affecting Difficulty Parameters of Test Items Measuring the Skill of Reading Multiple Documents in English:2021

    • Author(s)
      寺尾 尚大
    • Journal Title

      The Japanese Journal of Educational Psychology

      Volume: 69 Issue: 1 Pages: 37-51

    • DOI

      10.5926/jjep.69.37

    • NAID

      130008033299

    • ISSN
      0021-5015, 2186-3075
    • Year and Date
      2021-03-30
    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] 順序多枝選択式英語文章読解項目における選択状況の可視化 ―トレースライン・誤答選択枝カスケード分析を用いて―2023

    • Author(s)
      寺尾尚大
    • Organizer
      日本テスト学会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Videos and audios in computer-based listening tests: Item characteristic and response time.2022

    • Author(s)
      Takahiro Terao
    • Organizer
      National Council on Measurement in Education
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] CBTの実施方式に関する探索的検討―特別な設備のない試験室での実施に向けて―2022

    • Author(s)
      寺尾尚大
    • Organizer
      令和4年度全国大学入学者選抜研究連絡協議会大会
    • Related Report
      2022 Research-status Report
  • [Presentation] CBT英語リスニング問題における動画・音声の提示方法が困難度・識別力・回答時間に及ぼす影響2022

    • Author(s)
      寺尾尚大
    • Organizer
      日本テスト学会第20回大会
    • Related Report
      2022 Research-status Report
  • [Presentation] 項目パラメタドリフトの検出と原因の検討・共通尺度への影響―そのドリフトはどこから来てどこへ行くのか―2022

    • Author(s)
      寺尾尚大
    • Organizer
      日本テスト学会第20回大会
    • Related Report
      2022 Research-status Report
    • Invited
  • [Presentation] 心理尺度作成ガイドラインの開発―尺度作成の流れを踏まえての検討―2022

    • Author(s)
      坪田彩乃・石井秀宗・荒井清佳・安永和央・寺尾尚大
    • Organizer
      日本テスト学会第20回大会
    • Related Report
      2022 Research-status Report
  • [Presentation] シンポジウム「大学入試におけるコロナ対策:令和3年度入試の舞台裏」のプレイバック2022

    • Author(s)
      内田照久・寺尾尚大・石井秀宗・林篤裕・中村裕行・立脇洋介・西郡大・宮本友弘・久保沙織・南紅玉・倉元直樹
    • Organizer
      令和4年度全国大学入学者選抜研究連絡協議会大会
    • Related Report
      2022 Research-status Report
  • [Presentation] Videos and audios in computer-based listening tests: Item characteristics and response time2022

    • Author(s)
      Terao, T.
    • Organizer
      National Council on Measurement in Education
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] 企画セッション(3)「大規模入学者選抜におけるCBT活用の可能性と課題」2021

    • Author(s)
      寺尾尚大
    • Organizer
      日本テスト学会第19回大会
    • Related Report
      2021 Research-status Report
  • [Presentation] An investigation of item difficulty for multiple-texts reading skills2020

    • Author(s)
      Terao, T.
    • Organizer
      National Council on Measurement in Education
    • Related Report
      2020 Research-status Report
    • Int'l Joint Research

URL: 

Published: 2020-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi