Provable, Explainable, Efficient, Robust Deep Neural Network for Large-scale Multimedia Retrieval

2021 Fiscal Year Annual Research Report

• Project/Area Number: 21F50377
• Allocation Type: Single-year Grants
• Research Institution: National Institute of Informatics
• Principal Investigator: 佐藤 真一 国立情報学研究所, コンテンツ科学研究系, 教授 (90249938)
• Co-Investigator(Kenkyū-buntansha): LIU HONG 国立情報学研究所, コンテンツ科学研究系, 外国人特別研究員
• Project Period (FY): 2021-11-18 – 2024-03-31
• Keywords: 深層学習 / 敵対的学習 / 証明可能 / 説明可能

Outline of Annual Research Achievements

深層学習は、特に画像・映像の意味解析において、極めて高精度の解析が可能であることが広く認識されており、自動運転、医療における自動診断、eコマースなどにおいての応用が期待されており、すでに利用も開始されている。一方、深層学習の学習はブラックボックスの状況で行われ、なぜ高い精度が出るのかの説明ができない、どういうときに認識誤りが起こるのか不明、さらにはシーンに微小な操作を加えることにより深層学習に認識誤りを起こさせる敵対的攻撃の問題(人間が見れば明らかに「止まれ」の標識なのに、深層学習ではそう認識できないようにシーンに加工を加える)が知られている。本研究では、こうした問題に総合的に取り組み、証明可能・説明可能・効率的・頑健な深層学習の枠組みの構築を目的とする。加えて、マルチメディア検索を対象として、この枠組みが実際に効果的に機能することを示す。
2021年度には、証明可能な深層学習の枠組みについて検討を行った。具体的には、敵対的学習の理論的基盤を構築し、証明可能な深層学習につなげるための検討を行った。また、説明可能かつ頑健な深層学習についての検討を開始した。

Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2021年末に研究を開始したところであるが、順調に進捗している。

Strategy for Future Research Activity

引き続き検討を進める。当初は画像や映像を主たる対象としようと考えていたが、自動運転などでも用いられるLiDARセンサーなどで得られる3次元点群データも対象に加えようと考えている。

Research Products

• [Journal Article] Improving Camouflaged Object Detection with the Uncertainty of Pseudo-edge Labels (2021)
  • Author(s): Kajiura Nobukatsu、Liu Hong、Satoh Shin'ichi
  • Journal Title: ACM Multimedia Asia 2021 Volume: N/A Pages: N/A
  • DOI: 10.1145/3469877.3490587
  • Peer Reviewed
• [Journal Article] Learning to Attack Real-World Models for Person Re-identification via Virtual-Guided Meta-Learning (2021)
  • Author(s): Yang, F., Zhong, Z., Liu, H., Wang, Z., Luo, Z., Li, S., Sebe, N., & Satoh, S
  • Journal Title: Proceedings of the AAAI Conference on Artificial Intelligence Volume: N/A Pages: N/A
  • Peer Reviewed / Int'l Joint Research