2015 Fiscal Year Annual Research Report
| Project/Area Number |
15H02749
|
|---|
| Research Institution | Nara Institute of Science and Technology |
|---|
Principal Investigator |
新保 仁 奈良先端科学技術大学院大学, 情報科学研究科, 准教授 (90311589)
|
|---|
| Project Period (FY) |
2015-04-01 – 2019-03-31
|
| Keywords | ゼロショット学習 / 近傍検索 / 機械学習 / ドメイン対応 / 回帰 |
|---|
| Outline of Annual Research Achievements |
2015年度は, 主として, 異なるドメイン (ベクトル空間) に属するオブジェクトの対応問題に取り組んだ. 近年注目されているゼロショット学習 (zero-shot learning) と呼ばれる, 訓練データに存在しないオブジェクトのクラス推定問題も, この対応問題の一種として定式化することが可能である.
この対応問題は, 一般には回帰や正準相関解析を用いて, 双方のドメインのオブジェクトを同一ベクトル空間上に写像し, この空間で近傍検索を行う解法が一般的である. 我々は, この場合にもハブの出現が精度の著しい低下を招いていることを実問題 (対訳単語抽出タスクおよび画像のテキストラベル付け) で確認した. さらに, ハブの出現する原因について理論的な考察を行い, その原因が, 写像されたオブジェクトの分布の異なりによることを明らかにした.
特に回帰を用いる場合, クエリ (問い合わぜ) 側ドメインのオブジェクトを, 検索対象のデータベース・オブジェクトの空間に写像するのが自然であり, このような定式化がこれまで一般的であったが, 我々は, この方式ではハブが生じやすいオブジェクト配置になりやすいことを明らかにした. それに対して, (一般には行われていないが) 逆に, データベース・オブジェクトをクエリ空間側に写像することで, ハブが削減できることを指摘し, これを実験によっても確認した.
クエリオブジェクトとデータベースオブジェクトの分布が異なる状況におけるハブの出現についての研究はこれまで行われたことはなく, また極めて簡単な手法で解決が可能なことを示した点で重要な成果である. この成果は, 国際会議 ECMLPKDD 2015 で公表し, 結果 Best Student Paper Runner-Up として表彰を受けた.
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
理論的に大きな前進が得られたため, 今後の応用研究への足がかりになると考える.
|
| Strategy for Future Research Activity |
2015年度に得られた結果は, 厳密には線形回帰 (リッジ回帰・最小二乗回帰) に限られた分析にもとづいており, 非線形回帰や正準相関分析に関する理論的な考察は課題として残っている.
|
-
[Presentation] Ridge regression, hubness, and zero-shot learning2015
Author(s)
Yutaro Shigeto, Ikumi Suzuki, Kazuo Hara, Masashi Shimbo, Yuji Matsumoto
Organizer
2015 European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECMLPKDD 2015)
Place of Presentation
Porto, Porgugal
Year and Date
2015-09-07 – 2015-09-11
Int'l Joint Research
-
-
-
