• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Annual Research Report

Automatic Food Calorie Estimation from Photos Employing Deep Learning and Food-related Knowledge on the Web

Research Project

Project/Area Number 17H01745
Research InstitutionThe University of Electro-Communications

Principal Investigator

柳井 啓司  電気通信大学, 大学院情報理工学研究科, 教授 (20301179)

Co-Investigator(Kenkyū-buntansha) 大河原 一憲  電気通信大学, 大学院情報理工学研究科, 准教授 (30631270)
Project Period (FY) 2017-04-01 – 2021-03-31
Keywords深層学習 / 食事画像認識 / カロリー量推定
Outline of Annual Research Achievements

本研究の目的は,自動食事診断実現のために,Web上の食事ビッグデータと深層学習を用いて,食事のカロリー量栄養素量自動推定を専門家並みの高い精度で実現することである.従来,カロリー量付きの大規模食事画像データセット構築の困難性から,画像からの食事カロリー量推定の研究は限定的にしか行われてこなかった.それに対して,昨年度は(A)カロリー量付き食事画像データセットの構築,(B)食事画像領域分割データセットの構築を行った.今年度は,引き続き(B)の食事画像領域分割データセットの追加作業を行うとともに,(C)3D食事形状データセットの整備も行い,より正確なカロリー量推定のための単一画像からの食事体積推定を実現するためのデータセット整備作業を行った.
さらに,これらのデータセットを利用して,(1)領域分割を利用したカロリー量推定システムの構築,(2)単一食事画像からの3次元形状推定の研究を行った.(3)(1)はARと組み合わせも実現し,ARベースのUIで利用するシステムも構築した.(4)食事画像変換に関して,特にラーメン画像を自由に生成するためのシステム及びデータセットUEC-Ramen555の構築と公開を行った.(5)既存の大規模レシピデータセットRecipe1Mを用いたクロスモーダルサーチの性能を,食事の形状とレシピ成分を分離することで大幅に向上させることに成功し,さらにはレシピからの高精度な食事画像生成も実現した.

Research Progress Status

令和元年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和元年度が最終年度であるため、記入しない。

  • Research Products

    (34 results)

All 2020 2019

All Journal Article (5 results) (of which Peer Reviewed: 5 results,  Open Access: 3 results) Presentation (29 results) (of which Int'l Joint Research: 13 results,  Invited: 1 results)

  • [Journal Article] Weakly Supervised Semantic Segmentation Using Distinct Class Specific Saliency Maps2019

    • Author(s)
      Wataru Shimoda and Keiji Yanai
    • Journal Title

      Computer Vision and Image Understanding

      Volume: 191 Pages: 102712

    • DOI

      https://doi.org/10.1016/j.cviu.2018.08.006

    • Peer Reviewed
  • [Journal Article] Simultaneous Estimation of Dish Locations and Calories with Multi-task Learning2019

    • Author(s)
      Takumi Ege and Keiji Yanai
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E102-D-7 Pages: 1240-1246

    • DOI

      https://doi.org/10.1587/transinf.2018CEP0004

    • Peer Reviewed / Open Access
  • [Journal Article] Webly-Supervised Food Detection with Foodness Proposal,2019

    • Author(s)
      Wataru Shimoda and Keiji Yanai
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E102-D-7 Pages: 1230-1239

    • DOI

      https://doi.org/10.1587/transinf.2018CEP0001

    • Peer Reviewed / Open Access
  • [Journal Article] Self-Supervised Difference Detection for Weakly-Supervised Semantic Segmentation2019

    • Author(s)
      Wataru Shimoda and Keiji Yanai
    • Journal Title

      Proc. of IEEE/CVF International Conference on Computer Vision (ICCV)

      Volume: - Pages: 5208-5217

    • DOI

      https://doi.org/10.1109/ICCV.2019.00531

    • Peer Reviewed / Open Access
  • [Journal Article] Enchanting Your Noodles: A Gustatory Manipulation Interface by Using GAN-based Real-time Food-to-Food Translation2019

    • Author(s)
      Kizashi Nakano, Daichi Horita, Nobuchika Sakata, Kiyoshi Kiyokawa, Keiji Yanai and Takuji Narumi
    • Journal Title

      Proc. of IEEE Conference on Virtual Reality and 3D User Interfaces (VR)

      Volume: - Pages: -

    • DOI

      https://doi.org/10.1109/VR.2019.8798324

    • Peer Reviewed
  • [Presentation] CalorieCaptorGlass: Food Calorie Estimation based on Actual Size using HoloLens and Deep Learning2020

    • Author(s)
      Shu Naritomi and Keiji Yanai
    • Organizer
      Proc. of IEEE Conference on Virtual Reality and 3D User Interfaces (IEEE VR) (demo)
    • Int'l Joint Research
  • [Presentation] 映像・音・センサー情報の統合によるレスキュー犬の1人称行動認識2020

    • Author(s)
      井出佑汰, 荒木勇人, 濱田龍之介, 大野和則, 柳井啓司
    • Organizer
      電子情報通信学会 パターン認識・メディア理解研究会(PRMU)
  • [Presentation] 意味と形状の分離によるマルチモーダルレシピ検索及び画像生成2020

    • Author(s)
      杉山 優, 柳井啓司
    • Organizer
      電子情報通信学会 パターン認識・メディア理解研究会(PRMU)
  • [Presentation] ラーメンスタイルエンコーダーを用いたスタイル特徴とマスク画像からの画像生成2020

    • Author(s)
      趙 宰, 下田 和, 柳井啓司
    • Organizer
      電子情報通信学会 パターン認識・メディア理解研究会(PRMU)
  • [Presentation] Self-supervised Difference Detection for Refinement CRF and Seed Interpolation2019

    • Author(s)
      Wataru Shimoda and Keiji Yanai
    • Organizer
      CVPR WS on Weakly Supervised Learning for Real-World Computer Vision Applications
    • Int'l Joint Research
  • [Presentation] Analyzing Regional Food Trends with Geo-tagged Twitter Food Photos2019

    • Author(s)
      Kaimu Okamoto and Keiji Yanai
    • Organizer
      Proc. of International Conference on Content-Based Multimedia Indexing (CBMI)
    • Int'l Joint Research
  • [Presentation] Large-scale Twitter Food Photo Mining and Its Applications2019

    • Author(s)
      Keiji Yanai, Kaimu Okamoto, Tetsuya Nagano and Daichi Horita
    • Organizer
      International Conference on Multimedia Big Data (BIGMM)
    • Int'l Joint Research / Invited
  • [Presentation] DepthCalorieCam: A Mobile Application for Volume-Based Food Calorie Estimation using Depth Cameras2019

    • Author(s)
      Yoshikazu Ando, Takumi Ege, Jaehyeong Cho, Keiji Yanai
    • Organizer
      ACMMM Workshop on Multimedia Assisted Dietary Management (MADIMA)
    • Int'l Joint Research
  • [Presentation] A New Large-scale Food Image Segmentation Dataset and Its Application to Food Calorie Estimation Based on Grains of Rice2019

    • Author(s)
      Takumi Ege, Wataru Shimoda, Keiji Yanai
    • Organizer
      ACMMM Workshop on Multimedia Assisted Dietary Management (MADIMA)
    • Int'l Joint Research
  • [Presentation] Unseen Food Creation by Mixing Existing Food Images with Conditional StyleGAN2019

    • Author(s)
      Daichi Horita, Wataru Shimoda, Keiji Yanai
    • Organizer
      ACMMM Workshop on Multimedia Assisted Dietary Management (MADIMA)
    • Int'l Joint Research
  • [Presentation] Ramen as You Like :Sketch-based Food Image Generation and Editing2019

    • Author(s)
      Jaehyeong Cho, Wataru Shimoda and Keiji Yanai
    • Organizer
      ACM Multimedia
    • Int'l Joint Research
  • [Presentation] Zero-Annotation Plate Segmentation Using a Food Category Classifier and a Food/Non-Food Classifier2019

    • Author(s)
      Wataru Shimoda and Keiji Yanai
    • Organizer
      ICCV Workshop on Multi-Discipline Approach for Learning Concepts (MDALC)
    • Int'l Joint Research
  • [Presentation] Self-supervised Difference Detection for Weakly-supervised Semantic Segmentation2019

    • Author(s)
      Wataru Shimoda and Keiji Yanai
    • Organizer
      IEEE/CVF International Conference on Computer Vision (ICCV)
    • Int'l Joint Research
  • [Presentation] Dog-Centric Activity Recognition by Integrating Appearance, Motion and Sound2019

    • Author(s)
      Tsuyohito Araki, Ryunosuke Hamada, Kazunori Ohno, and Keiji Yanai
    • Organizer
      ICCV Workshop on Egocentric Perception Interaction and Computing (EPIC)
    • Int'l Joint Research
  • [Presentation] Continual Learning of An Image Transformation Network Using Task-dependent Weight Selection Masks2019

    • Author(s)
      Asato Matsumoto and Keiji Yanai
    • Organizer
      Asian Conference on Pattern Recognition (ACPR)
    • Int'l Joint Research
  • [Presentation] SSA-GAN: End-to-End Time-Lapse Generation with Spatial Self-Attention2019

    • Author(s)
      Daichi Horita and Keiji Yana
    • Organizer
      Asian Conference on Pattern Recognition (ACPR)
    • Int'l Joint Research
  • [Presentation] 自己教師あり学習による変化領域の推論を活用した弱教師あり領域分割2019

    • Author(s)
      下田 和, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] 米飯を基準としたCNNによる食事画像からのカロリー量推定2019

    • Author(s)
      會下 拓実, Jaehyeong Cho, 松平 礼史, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] Ramen as You Like2019

    • Author(s)
      Jaehyeong Cho, Wataru Shimoda, Keiji Yanai
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] レスキュー犬の一人称動画を用いた動作推定2019

    • Author(s)
      荒木 勇人, 井出 佑汰, 濱田 龍之介, 大野 和則, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] DepthCalorieCam: 深度カメラと深層学習による自動食事カロリー量推定システム2019

    • Author(s)
      安蒜 祥和, 會下 拓実, 岡本 開夢, 泉 裕貴, Jaehyeong Cho, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] 大量のTwitter位置情報付き画像を用いた世界各地域における食事傾向分析2019

    • Author(s)
      岡本 開夢, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] Identityと化粧Styleの分離による顔画像変換2019

    • Author(s)
      五味 京祐, 越野 誠也, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] 重み選択マスクを用いた画像変換ネットワークの連続学習2019

    • Author(s)
      松本 晨人, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] SSA-GAN: Cloud Video Generation from a Single Image with Spatial Self-Attention Generative Adversarial Networks2019

    • Author(s)
      Daichi Horita, Keiji Yanai
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] ウミネコ動画の自動分析2019

    • Author(s)
      井出 佑汰, 水谷 友一, 依田 憲, 柳井 啓司
    • Organizer
      電子情報通信学会 食メディア研究会 (CEA)
  • [Presentation] ONNX2MPSNNGraph: モバイル深層学習コードジェネレータの実装と評価2019

    • Author(s)
      泉 裕貴, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] 皿領域の推論を活用した食事の弱教師あり領域分割2019

    • Author(s)
      下田和, 柳井啓司
    • Organizer
      電子情報通信学会 食メディア研究会 (CEA)
  • [Presentation] 食事画像領域分割データセットの作成とその活用2019

    • Author(s)
      岡本開夢, Cho Jaehyeong, 會下拓実, 柳井啓司
    • Organizer
      電子情報通信学会 食メディア研究会 (CEA)

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi