• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2018 年度 実績報告書

自動食事診断実現のための深層学習とWeb知識を用いた食事写真カロリー量推定

研究課題

研究課題/領域番号 17H01745
研究機関電気通信大学

研究代表者

柳井 啓司  電気通信大学, 大学院情報理工学研究科, 教授 (20301179)

研究分担者 大河原 一憲  電気通信大学, 大学院情報理工学研究科, 准教授 (30631270)
研究期間 (年度) 2017-04-01 – 2021-03-31
キーワード深層学習 / 食事画像認識 / カロリー量推定
研究実績の概要

本研究の目的は,自動食事診断実現のために,Web上の食事ビッグデータと深層学習を用いて,食事のカロリー量栄養素量自動推定を専門家並みの高い精度で世界で初めて実現することである.従来,カロリー量付きの大規模食事画像データセット構築の困難性から,画像からの食事カロリー量推定の研究は限定的にしか行われてこなかった.そこで,本研究ではWeb上の大量のレシピ情報に注目し,それらと最新の深層学習技術の一つである,食事カテゴリ,食材,カロリー量など複数の認識要素を同時に学習するマルチタスクCNNを利用し同時学習することによって,実用的なカロリー量・栄養素推定の実現を目指す.この方法では,画像からの直接のカロリー量推定よりも高精度が期待でき,学習データにない食事メニューの食事画像のカロリー量推定も可能となる利点がある.
2年目である本年度は,(1)カロリー量情報付き食事画像データセットの構築,および(2)単品食事画像に対するマルチタスクNNを利用した食事カロリー量推定手法の研究,を引き続き実施するとともに,(3)複数品食事画像に対する領域分割を用いた個々の食事カロリー量推定を実施した.
(1)は実際にカロリー量および栄養素量が既知の食事を準備し撮影を行った.また,食事領域に画素単位でアノテーションがされている領域分割用のデータセットも作成した.(2)(3)に関しては,物体認識ネットワークYoloV2にカロリー量推定ブランチを追加して,マルチタスク学習することによって,食事領域検出と各領域のカロリー量推定を同時に行うことを実現した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

(1)カロリー量および栄養素量がアノテーションされている画像データセットの構築を行った.また,食事領域に画素単位でアノテーションがされている領域分割用のデータセットも作成した.(2)(3)に関しては,物体認識ネットワークYoloV2にカロリー量推定ブランチを追加して,マルチタスク学習することによって,食事領域検出と各領域のカロリー量推定を同時に行うことを実現した.よって,予定通りに計画を進行していると言える.

今後の研究の推進方策

本年度は,構築したカロリー量付きの画像データセットを利用して,リアルタイムカロリー量推定システムを実現する予定である.さらにカロリー量推定と食事変換をARと組み合わせる研究も行っていく予定である.

  • 研究成果

    (35件)

すべて 2019 2018

すべて 雑誌論文 (5件) (うち査読あり 5件、 オープンアクセス 2件) 学会発表 (30件) (うち国際学会 13件)

  • [雑誌論文] Weakly Supervised Semantic Segmentation Using Distinct Class Specific Saliency Maps2019

    • 著者名/発表者名
      Wataru Shimoda and Keiji Yanai
    • 雑誌名

      Computer Vision and Image Understanding

      巻: 191 ページ: 102712

    • DOI

      https://doi.org/10.1016/j.cviu.2018.08.006

    • 査読あり
  • [雑誌論文] Simultaneous Estimation of Dish Locations and Calories with Multi-task Learning2019

    • 著者名/発表者名
      Takumi Ege and Keiji Yanai
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E102-D-7 ページ: 1240-1246

    • DOI

      https://doi.org/10.1587/transinf.2018CEP0004

    • 査読あり / オープンアクセス
  • [雑誌論文] Webly-Supervised Food Detection with Foodness Proposal,2019

    • 著者名/発表者名
      Wataru Shimoda and Keiji Yanai
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E102-D-7 ページ: 1230-1239

    • DOI

      https://doi.org/10.1587/transinf.2018CEP0001

    • 査読あり / オープンアクセス
  • [雑誌論文] Image-Based Food Calorie Estimation Using Recipe Information2018

    • 著者名/発表者名
      Takumi Ege and Keiji Yanai
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E101-D ページ: 1333-1341

    • DOI

      https://doi.org/10.1587/transinf.2017MVP0027

    • 査読あり
  • [雑誌論文] CNN特徴量学習に基づく画像検索による食事画像カロリー量推定2018

    • 著者名/発表者名
      會下拓実, 下田和, 柳井啓司
    • 雑誌名

      電子情報通信学会論文誌 D

      巻: J101-D ページ: 1099-1109

    • DOI

      https://doi.org/10.14923/transinfj.2017IUP0009

    • 査読あり
  • [学会発表] A Large-scale Analysis of Regional Tendency of Twitter Photos Using Only Image Features2019

    • 著者名/発表者名
      Tetsuya Nagano, Takumi Ege, Wataru Shimoda and Keiji Yanai
    • 学会等名
      Proc. of IEEE International Conference on Multimedia Information Processing and Retrieval (MIPR)
    • 国際学会
  • [学会発表] Image-Based Estimation of Real Food Size for Accurate Food Calorie Estimation2019

    • 著者名/発表者名
      Takumi Ege, Yoshikazu Ando, Ryosuke Tanno, Wataru Shimoda and Keiji Yanai
    • 学会等名
      Proc. of IEEE International Conference on Multimedia Information Processing and Retrieval (MIPR)
    • 国際学会
  • [学会発表] 米飯画像の実寸推定に基づく面積を考慮したカロリー量推定2019

    • 著者名/発表者名
      會下 拓実,柳井 啓司
    • 学会等名
      データ工学と情報マネジメントに関するフォーラム (DEIM)
  • [学会発表] 深度付き画像と深層学習による食事カロリー量推定システムの開発2019

    • 著者名/発表者名
      安蒜 祥和,會下 拓実,柳井 啓司
    • 学会等名
      データ工学と情報マネジメントに関するフォーラム (DEIM)
  • [学会発表] 画像変換ネットワークによる連続学習2019

    • 著者名/発表者名
      松本 晨人,柳井 啓司
    • 学会等名
      データ工学と情報マネジメントに関するフォーラム (DEIM)
  • [学会発表] 位置情報付きTwitter画像を用いた世界の食事傾向分析2019

    • 著者名/発表者名
      岡本 開夢,柳井 啓司
    • 学会等名
      データ工学と情報マネジメントに関するフォーラム (DEIM)
  • [学会発表] Conditional GANによる化粧顔画像変換2019

    • 著者名/発表者名
      五味 京祐,柳井 啓司
    • 学会等名
      データ工学と情報マネジメントに関するフォーラム (DEIM)
  • [学会発表] 変化領域の推測による弱教師あり領域分割の精度向上2019

    • 著者名/発表者名
      下田 和, 柳井 啓司
    • 学会等名
      電子情報通信学会 パターン認識・メディア理解研究会(PRMU)
  • [学会発表] 深層学習による太陽画像からの太陽黒点数の推定2019

    • 著者名/発表者名
      樋口陽光, 會下拓実, 柳井啓司
    • 学会等名
      電子情報通信学会 総合大会
  • [学会発表] Multi-task Learning of Dish Detection and Calorie Estimation2018

    • 著者名/発表者名
      Takumi Ege and Keiji Yanai
    • 学会等名
      Proc. of International Workshop on Multimedia Assisted Dietary Management (MADIMA)
    • 国際学会
  • [学会発表] Food Category Transfer with Conditional Cycle GAN and a Large-scale Food Image Dataset2018

    • 著者名/発表者名
      Daichi Horita, Ryosuke Tanno, Wataru Shimoda, Keiji Yanai
    • 学会等名
      Proc. of International Workshop on Multimedia Assisted Dietary Management (MADIMA)
    • 国際学会
  • [学会発表] Food Image Generation using A Large Amount of Food Images with Conditional GAN: RamenGAN and RecipeGAN2018

    • 著者名/発表者名
      Yoshifumi Ito, Wataru Shimoda and Keiji Yanai
    • 学会等名
      Proc. of International Workshop on Multimedia Assisted Dietary Management (MADIMA)
    • 国際学会
  • [学会発表] Magical Rice Bowl: Real-time Food Category Changer2018

    • 著者名/発表者名
      Ryosuke Tanno, Daichi Horita, Wataru Shimoda and Keiji Yanai
    • 学会等名
      ACM Multimedia, Demo Paper
    • 国際学会
  • [学会発表] AR DeepCalorieCam V2: Food Calorie Estimation with CNN and AR-based Actual Size Estimation2018

    • 著者名/発表者名
      Ryosuke Tanno, Takumi Ege, Keiji Yanai
    • 学会等名
      ACM Symposium on Virtual Reality Software and Technology (VRST)
    • 国際学会
  • [学会発表] CNN-based Photo Transformation for Improving Attractiveness of Ramen Photos2018

    • 著者名/発表者名
      Daichi Horita, Jaehyeong Cho, Takumi Ege, Keiji Yanai
    • 学会等名
      ACM Symposium on Virtual Reality Software and Technology (VRST)
    • 国際学会
  • [学会発表] Word-Conditioned Image Style Transfer2018

    • 著者名/発表者名
      Yu Sugiyama and Keiji Yanai
    • 学会等名
      Proc. of ACCV Workshop on AI Aesthetics in Art and Media (AIAM)
    • 国際学会
  • [学会発表] Font Style Transfer Using Neural Style Transfer and Unsupervised Cross-domain Transfer2018

    • 著者名/発表者名
      Atsushi Narusawa, Wataru Shimoda, and Keiji Yanai
    • 学会等名
      Proc. of ACCV Workshop on AI Aesthetics in Art and Media
    • 国際学会
  • [学会発表] Real-Time Image Classification and Transformation Apps on iOS by "Chainer2MPSNNGraph"2018

    • 著者名/発表者名
      Yuki Izumi, Daichi Horita, Ryosuke Tanno and Keiji Yanai
    • 学会等名
      Proc. of NIPS WS on Machine Learning on the Phone and other Consumer Devices (MLPCD)
    • 国際学会
  • [学会発表] Continual Learning for an Encoder-Decoder CNN Using "Piggyback"2018

    • 著者名/発表者名
      Asato Matsumoto and Keiji Yanai
    • 学会等名
      Proc. of NIPS Continual Learning Workshop
    • 国際学会
  • [学会発表] CNN-based Food Transformation on HoloLens2018

    • 著者名/発表者名
      Shu Naritmo, Ryosuke Tanno, Takumi Ege, and Keiji Yanai
    • 学会等名
      Proc. of International Workshop on Interface and Experience Design with AI for VR/AR (DAIVAR)
    • 国際学会
  • [学会発表] 深層学習による質感文字生成2018

    • 著者名/発表者名
      成沢 淳史, 下田 和, 柳井 啓司
    • 学会等名
      人工知能学会全国大会
  • [学会発表] 画像内容を考慮した質感表現に基づく画像変換2018

    • 著者名/発表者名
      杉山 優, 柳井 啓司
    • 学会等名
      人工知能学会全国大会
  • [学会発表] 大量のTwitter画像を用いたConditional Cycle GANによる食事写真カテゴリ変換2018

    • 著者名/発表者名
      堀田 大地, 成冨 志優, 丹野 良介, 下田 和, 柳井 啓司
    • 学会等名
      人工知能学会全国大会
  • [学会発表] 教師情報に含まれるノイズに堅牢な弱教師あり領域分割手法2018

    • 著者名/発表者名
      下田 和, 柳井 啓司
    • 学会等名
      画像の認識・理解シンポジウム(MIRU)
  • [学会発表] CNNによる料理検出とカロリー量推定のマルチタスク学習2018

    • 著者名/発表者名
      會下 拓実, 柳井 啓司
    • 学会等名
      画像の認識・理解シンポジウム(MIRU)
  • [学会発表] 単語情報を利用した画像の質感転送2018

    • 著者名/発表者名
      杉山 優, 柳井 啓司
    • 学会等名
      画像の認識・理解シンポジウム(MIRU)
  • [学会発表] Chainer2MPSGraph: 高速深層学習 モバイルアプリ作成のためのモデルコンバータ2018

    • 著者名/発表者名
      泉 裕貴, 堀田 大地, 丹野 良介, 柳井 啓司
    • 学会等名
      画像の認識・理解シンポジウム(MIRU)
  • [学会発表] 画像マイニングを用いた Conditional Cycle GAN による食事画像変換2018

    • 著者名/発表者名
      堀田 大地, 丹野 良介, 下田 和, 柳井 啓司
    • 学会等名
      画像の認識・理解シンポジウム(MIRU)
  • [学会発表] CNNを用いた質感文字生成2018

    • 著者名/発表者名
      成沢淳史, 下田和, 柳井啓司
    • 学会等名
      画像の認識・理解シンポジウム(MIRU)
  • [学会発表] AR 技術とモバイル深層学習を活用した 食事カロリー量推定2018

    • 著者名/発表者名
      丹野良介, 會下拓実, Jaehyeong Cho, 柳井啓司
    • 学会等名
      画像の認識・理解シンポジウム(MIRU)

URL: 

公開日: 2019-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi