2019 Fiscal Year Research-status Report
Knowledge Routing Method for Modality Networks
| Project/Area Number |
19K22861
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
中山 英樹 東京大学, 大学院情報理工学系研究科, 准教授 (00643305)
|
|---|
| Project Period (FY) |
2019-06-28 – 2021-03-31
|
| Keywords | マルチモーダル / 教師なし学習 / 知識発見 / 画像認識 / 自然言語処理 |
|---|
| Outline of Annual Research Achievements |
現在成功している機械学習技術の多くは、入出力の事例（パラレルデータ）が十分に与えられる教師付き学習の枠組みに則っている。しかしながら、現実的には大量のパラレルデータを用意することは必ずしも容易であるとは言い難い。本研究では、申請者が実績を有するピボット学習の考え方を拡張し、さまざまな種類のデータ（モダリティ）が為すグラフ（ネットワーク）上で任意の二点間の関連性を教師なしで学習するための数理的基盤技術を開発する。具体的には、多数のモダリティ群が疎に結合した一般的なグラフにおいて、所望の二点間を結ぶ最適な経路を発見するとともに、モデルパラメータを最適化することを考える。
本研究では、適切な経路の選択と、その経路における関連性の最大化を同時に行うことが鍵となる。その実現に必要な数理的基盤として、EMアルゴリズムに基づく交互最適化による汎用的な学習アルゴリズムの開発を行った。本年度は理論面に注目するため、テキストデータの談話構造解析という単一ドメインのタスクを題材としたが、同じ枠組みで正準相関分析などのクロスモーダルな分析手法を用いることで、本研究で目標とする経路発見へ応用可能であると期待できる。本成果は、自然言語処理のトップジャーナルであるTransactions of the Association for Computational Linguistics (TACL)へ採択されている。
また、近年は教師なしのクロスモーダル学習が大きく進展しつつあり、本研究においても同様のアプローチを組み込むことで、モダリティネットワーク上で明示的にエッジがない部分も経路として利用し、手法の柔軟性を飛躍的に向上できる可能性がある。これを念頭に、画像認識における物体関連性識別などを題材として、教師なしクロスモーダル学習手法の開発を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の計画を実現するにあたり、技術的に最も挑戦性の高い部分は、グラフ上の適切な経路の選択とその経路における関連性の最大化を同時に行う点にあるが、これを可能とするための数理的基盤技術が確立できた。今後はこの枠組みにおいて、一般的なクロスモーダル解析手法を導入していくことで本研究の最終的な目標を実現できると期待でき、具体的な道筋が得られたことから十分な進展であると考える。
|
| Strategy for Future Research Activity |
本年度開発した交互最適化による学習アルゴリズムにおいて、(1)現在のモデルパラメータによる最適な経路の探索、(2)その経路における関連性を最大化するようにモデルパラメータを更新、という二つの処理を繰り返す。これにより、最終的にモダリティネットワーク上の最適な経路を得て、二点間の関連性の推定や予測精度を最大化することを実現する。具体的な評価タスクとして、複数監視カメラネットワークにおける人物同定タスクの公開データセット[Liang et al., 2015]や、写真・スケッチ・言語などさまざまなモダリティでシーンの記述を行ったCross-Modal Placesデータセット[Castrejon et al., 2016]を利用した実験により、提案手法の有効性を実証する。
|
| Causes of Carryover |
本年度の計画策定後に、別の自由度の高い予算により十分な計算資源が購入でき物品費が浮いたこと、また適切な研究員が採用できず人件費が浮いたことなどにより、全体として当初予定よりも使用額が少なくなったことによる。
2020年度は本研究の最終年度となるため、複数のRA等の人件費や、クラウド計算機の使用料金、研究発表にかかる費用（論文掲載料、学会参加費、英文校閲料金等）などを中心に予算を執行し、研究を推進する。
|
