2023 Fiscal Year Research-status Report
自治体業務改善に向けたデータ効率型都市点検技術の開発と実応用
| Project/Area Number |
20K19930
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
河野 慎 東京大学, 大学院工学系研究科(工学部), 特任研究員 (40801288)
|
|---|
| Project Period (FY) |
2020-04-01 – 2025-03-31
|
| Keywords | 深層学習 / ラベルなしテスト評価 / 世界モデル |
|---|
| Outline of Annual Research Achievements |
本年度は，主に昨年度から継続して取り組んでいるラベルが付与されていないテストセットにおけるモデルの性能評価に関する研究に取り組んだ．
ここ1年で大規模言語モデルや生成AIと称される基盤モデルが急速に普及してきている．その結果モデルの学習や運用コストが膨大に膨れており，そのモデルの利活用を検討する際の課題の一つとなってきている．そのため，コストを減らすことを目的としている本研究は非常に有益であると考える．昨年度は，主にデータ拡張の観点でラベルなし評価の研究を行っていたが，本年度はモデル自体に着目し，研究を行った．上述のように，大規模言語モデルや基盤モデルは運用コストが大きいため，その検証目的であってもコストがかかってしまう．そこで評価したいモデルと同じ挙動を示すような代理モデルを設ける手法について研究した．その結果については，今年度及び次年度の国内の研究会で報告済み及び予定である．
また本研究テーマのデータ効率の観点で，近年注目されている世界モデルも重要である．世界モデルは，実世界のデータ生成過程をモデル化する方法であり，世界モデルを構築することでデータの効率を上げた学習手法が考えられる．そこで本年度では，より実世界でその有用性から注目されているグラフ構造を持つデータに対して世界モデルを構築する研究を行った．本年度は，コンセプトの実証段階のため，データは実データではなく，迷路を想定した合成データでの検証を行った．その結果は，国内の研究会で報告済みである．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
本年度は，基本的には順調である．
一方で遅れている理由としては，国際会議への投稿に至らなかったことが挙げられる．
これは，実験結果が際立って良いわけではなかったためである．
|
| Strategy for Future Research Activity |
まずはラベルなし評価の実験結果を改善していくことが第一目標となる．次に今年度では合成データのみでの検証であったグラフ構造データにおける世界モデルの構築について取り組んでいく予定である．
|
| Causes of Carryover |
今年度は，実験が少し小規模になってしまったため，実験環境の拡充があまり必要がなく，次年度に持ち越しとなってしまった．
次年度は実験データの大規模化などを計画しているため，それらのための環境の構築に使用していく予定である．
|
