• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

論述式試験の採点システム構築に関する統計科学的研究

研究課題

研究課題/領域番号 17300088
研究種目

基盤研究(B)

配分区分補助金
応募区分一般
研究分野 統計科学
研究機関東北大学 (2007)
新潟大学 (2005-2006)

研究代表者

柴山 直  東北大学, 大学院・教育学研究科, 教授 (70240752)

研究分担者 前田 忠彦  統計数理研究所, データ科学研究系, 准教授 (10247257)
新田 克己  東京工業大学, 大学院・総合理工学研究科, 教授 (60293073)
野口 裕之  名古屋大学, 大学院・教育発達科学研究科, 教授 (60114815)
町村 泰貴  北海道大学, 大学院・法学研究科, 教授 (60199726)
藤本 亮  静岡大学, 大学院・法務研究科, 教授 (80300474)
研究期間 (年度) 2005 – 2007
研究課題ステータス 完了 (2007年度)
配分額 *注記
15,640千円 (直接経費: 14,800千円、間接経費: 840千円)
2007年度: 3,640千円 (直接経費: 2,800千円、間接経費: 840千円)
2006年度: 4,600千円 (直接経費: 4,600千円)
2005年度: 7,400千円 (直接経費: 7,400千円)
キーワード論述式試験 / 小論文 / 自動採点 / パフォーマンスアセスメント / 一般化可能性理論 / テスト / 信頼性 / 評価 / パフォーマンス・アセスメント / 採点 / 論述式 / 欠測値 / キーワードマッチング法
研究概要

手続き
1)平成17年度においては、循環型の採点者配置にもとづき2つの異なる問題に解答した答案をのべ20名の採点者で採点し、のべ5160枚に及ぶ採点結果を得ることができた。またこれらの答案をテキストファイル化し、自動採点システムの開発のための資料とした。
2)平成18年度においては、10名の採点者のもとに一人280枚の小論文答案を採点しあらたな採点データを収集した。採点の対象となった答案をテキストファイル化し、自動採点システムの改良に利用した。
主要な結果
1)現実的制約下での最適な採点者配置:必要な制度を確保しつつ効率のよい採点者割り当てを達成する手段として、採点者が担当する対象論文を重複させつつ、一つの論文に対して複数の採点者が採点しながらも、一人の採点者がすべての論文を採点しない、循環型の採点者配置を提案した。
2)適切な採点基準の構成:採点者配置デザインと信頼性の評価について、測値をともなうデータに対する一般化可能性理論の適用とANOVA的アプローチによる欠測値の補完の両面から信頼性の評価方法を提案した。
3)自動採点システムの開発:昨年度開発したAI的推論機能を用いた自動採点システムに、パターン識別手法の一つであるSVM(support Vector Machine)の観点から大幅な改良を加えた。その結果、サンプル採点答案数が200程度あれば、人間の採点者と同程度の採点が可能であるところまで採点精度を向上させることができた。このことは膨大な採点対象答案がある場合に、このシステムを用いることで採点時間の大幅な短縮が見込めることを意味する。

報告書

(4件)
  • 2007 実績報告書   研究成果報告書概要
  • 2006 実績報告書
  • 2005 実績報告書
  • 研究成果

    (11件)

すべて 2007 2006

すべて 雑誌論文 (3件) 学会発表 (7件) 図書 (1件)

  • [雑誌論文] Technical Report 2006 of Japan Law School Aptitude Test2007

    • 著者名/発表者名
      Shibayama, Tadasi & Maeda, Tadahiko Fujita Kazuyosi & Nitta Katsumi
    • 雑誌名

      JLF Summa(Shoujihoumu) Vol. 12

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2007 研究成果報告書概要
  • [雑誌論文] 複数採点者による小論文評価に関する方法論的検討2007

    • 著者名/発表者名
      柴山直, 前田忠彦
    • 雑誌名

      JFL叢書 (法科大学院統一適性試験テクニカル・レポート2006) 12

      ページ: 119-131

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] 小論文の自動採点の試み2007

    • 著者名/発表者名
      藤田和恭, 新田克己
    • 雑誌名

      JLF叢書 (法科大学院統一適性試験テクニカル・レポート2006) 12

      ページ: 132-146

    • 関連する報告書
      2006 実績報告書
  • [学会発表] 論述式試験の採点者配置デザインと信頼性の評価2007

    • 著者名/発表者名
      前田忠彦・柴山直
    • 学会等名
      日本テスト学会第5回大会
    • 発表場所
      聖路加看護大学、東京
    • 年月日
      2007-08-30
    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2007 研究成果報告書概要
  • [学会発表] Assessing Reliability of Essay Scoring and Connected Scoring Design2007

    • 著者名/発表者名
      Maeda, Tadahiko & Shibayama, Tadashi
    • 学会等名
      The 5th annual meeting of The Japan Association for Research on Testing
    • 発表場所
      St. Luke''s College of Nursing, Tokyo
    • 年月日
      2007-08-30
    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2007 研究成果報告書概要
  • [学会発表] 論述式試験の採点者配置デザインと信頼性の評価2007

    • 著者名/発表者名
      前田忠彦・柴山直
    • 学会等名
      日本テスト学会第5回大会
    • 発表場所
      聖路加看護大学・東京
    • 年月日
      2007-08-30
    • 関連する報告書
      2007 実績報告書
  • [学会発表] Assessing Reliability of Essay Scoring in the Writing Section of JLSAT2006

    • 著者名/発表者名
      Maeda, Tadahiko
    • 学会等名
      The 4th LSAC-JLF Seminar
    • 発表場所
      Law School Admission Council, Pennsylvania
    • 年月日
      2006-09-18
    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2007 研究成果報告書概要
  • [学会発表] Assessing Reliability of Essay Scoring in the Writing Section of JLSAT2006

    • 著者名/発表者名
      Maeda, Tadahiko
    • 学会等名
      The 4^<th> LSAC-JLF Seminar
    • 発表場所
      Law School Admission Council, Pennsylvania
    • 年月日
      2006-09-18
    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2007 研究成果報告書概要
  • [学会発表] 評定者間の差に関する得点調整の試み-小論文データを素材として-2006

    • 著者名/発表者名
      柴山直・前田忠彦
    • 学会等名
      日本テスト学会第4回大会
    • 発表場所
      東北大学,仙台
    • 年月日
      2006-08-26
    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2007 研究成果報告書概要
  • [学会発表] Linear equating method for an incomplete data matrix of essay-type scoring2006

    • 著者名/発表者名
      Shibayama, Tadasi & Maeda, Tadahiko
    • 学会等名
      The 4th annual meeting of The Japan Association for Research on Testing
    • 発表場所
      Tohoku University, Sendai
    • 年月日
      2006-08-26
    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2007 研究成果報告書概要
  • [図書] JLF叢書 VOL.12 法科大学院統一適性試験テクニカルレポート20062007

    • 著者名/発表者名
      柴山直・前田忠彦藤田和恭・新田克己
    • 出版者
      商事法務
    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2007 研究成果報告書概要

URL: 

公開日: 2005-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi