| 研究課題/領域番号 |
22K19825
|
|---|
| 研究種目 |
挑戦的研究(萌芽)
|
| 配分区分 | 基金 |
|---|
| 審査区分 |
中区分62:応用情報学およびその関連分野
|
|---|
| 研究機関 | 電気通信大学 |
|---|
研究代表者 |
植野 真臣 電気通信大学, 大学院情報理工学研究科, 教授 (50262316)
|
|---|
| 研究分担者 |
宇都 雅輝 電気通信大学, 大学院情報理工学研究科, 准教授 (10732571)
|
|---|
| 研究期間 (年度) |
2022-06-30 – 2025-03-31
|
| 研究課題ステータス |
交付 (2023年度)
|
| 配分額 *注記 |
6,500千円 (直接経費: 5,000千円、間接経費: 1,500千円)
2024年度: 2,210千円 (直接経費: 1,700千円、間接経費: 510千円)
2023年度: 2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
2022年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
|
|---|
| キーワード | 項目反応理論 / 深層学習 / Knowledge Tracing / 教育ビックデータ / Deep Learning / アダプティブラーニング / ディープラーニング / テスト理論 |
|---|
| 研究開始時の研究の概要 |
教育ビックデータから学習者の知識状態を推定し，適応的に学習支援するアダプティブラーニングの基礎技術として，Deep Learningの利用が注目されている．これらの手法は学習者の未知の項目への反応予測精度は高いが，パラメータの解釈性が低い問題がある．一方，確率モデルの一つである項目反応理論(IRT)は，パラメータの解釈性は高いが予測精度はDeep Learningに劣る．我々は予測精度と解釈性の両立を目指したDeep-IRTを開発してきた．しかし，この手法では解釈性の改善が限定的であった．本研究では，Deep-IRTに確率的アプローチを組み込み，高い解釈性と予測精度を実現できるBayesian Deep-IRTを提案する．
|
| 研究実績の概要 |
本研究では，我々が開発してきたDeep LearningによるKnowledge Tracingの最先端手法であるDeep-IRTに新たな Hypernetwork を組み込み，最新の学習者の反応データと直前の学習者の潜在能力値の両方を用いて忘却パラメータを最適化した．一般的な LSTM では潜在変数を更新するための重みパラ メータの値が全時点で共有されているが，Hypernetworkを用いて潜在変数を更新する前に重みを時点ごとに最適化することで，LSTM のパフォーマンスが向上することが示されている． 本研究では，Deep-IRT における潜在変数を更新する前に，Hypernetwork 内で最新の学習者の反応データと前時点での潜在変数のバランスを調整しながら忘却パラメータを推定した．提案手法は，最先端の反応予測手法を大きく上回る予測精度を示した．これらの結果は堤(2023)で発表され、2023年度電子情報通信学会論文賞を受賞している．一方，確率モデルは数学的に明確で漸近的一致性などの数学的性質も望ましい．また，教育分野のように「学力」や「難易度」などの構成概念の測定には明確にモデルを定義できる確率アプローチが向いているが、予測精度に関してDeep learningに大きく劣っている．2003年度では，Deep learningに予測精度・解釈性ともに大きく勝るベイジアンネットワーク分類機を提案した(加藤 2023, Sugahara 2024)．この手法は分類値、分類確率も真の値に漸近収束する．この成果は人工知能の最高峰のトップカンファレンスAAAI2024に採択され発表されている．現在までに開発してきた手法は，解釈性，予測精度ともに世界最高精度に到達している．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
著者らは独立な学習者ネットワークと項目ネットワークから学習者の項目反応を予測するDeep-IRTを開発し, 予測精度も解釈性も改善できることを示してきた．これらの研究では学習者の能力パラメータと課題の難易度パラメータの解釈性を向上させたが，学習者の反応予測精度は既存手法と同程度であった．本研究ではDeep-IRTに新たなHypernetworkを組み込み，最新の学習者の反応データと直前の学習者の潜在能力値の両方を用いて忘却パラメータを最適化した．一般的な LSTMでは潜在変数を更新するための重みパラメータの値が全時点で共有されているが，Hypernetwork を用いて潜在変数を更新する前に重みを時点ごとに最適化することで，LSTM のパフォーマンスが向上することが示されている．本研究では， Deep-IRT における潜在変数を更新する前に，Hypernetwork内で最新の学習者の反応データと前時点での潜在変数のバランスを調整しながら忘却パラメータを推定した．提案手法は最先端の反応予測手法を上回る予測精度を実現した．また，忘却パラメータ最適化は長期の学習において有効であることがわかった．一方，著者らは確率アプローチを用いた学習システムも開発してきた．しかし，予測精度に関して確率的アプローチはDeep learningアプローチに決定的に劣っていることが分かってきた．その理由は，Deep learningが対象変数の予測のみを目的とする識別モデルであるのに対し，生成モデルである確率モデルは，対象としない変数についても予測していることにある．今回，Deep learningに予測精度・解釈性ともに大きく勝るベイジアンネットワーク分類機を提案している．この手法は真のモデルがベイジアンネットワークに従わなくても真の値に分類でき、分類確率も真の値に漸近収束するという望ましい性質を持っている．現在までに開発してきた手法は，解釈性，予測精度ともに世界最高精度に到達している．
|
| 今後の研究の推進方策 |
今後は，Hypernetworkを組み込んだDeep-IRTの予測精度をさらに向上させることを考える．また，Bayesian network分類機は現在、100変数程度にしか適用できない．また，時系列モデルに対応していないという問題もある．まず，Bayesian network分類機の大規模変数を扱えるアルゴリズムを開発する．次に，時系列データを扱えるDynamic Bayesian network分類機を提案する．この手法は，Adaptive LearningにおけるKnowledge Tracingに適用可能となる．最後に，Dynamic Bayesian network分類機とHypernetworkを組み込んだDeep-IRTを組み合わせて，最高の解釈性と予測精度を持つKnowledge Tracing手法の実現を目指したい．また，これまで手法開発に注力してきて，システム開発や社会実装などの実応用が少ない．今後，実際の現場で用いられるようにAdaptive Learning システムに組み込み，実際の現場でその有効性を示したいと考える．
|
