• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

New Technologies for Active Dietary Management Using Deep Learning

Research Project

Project/Area Number 22H00548
Research InstitutionThe University of Electro-Communications

Principal Investigator

柳井 啓司  電気通信大学, 大学院情報理工学研究科, 教授 (20301179)

Co-Investigator(Kenkyū-buntansha) 井手 一郎  名古屋大学, 情報学研究科, 教授 (10332157)
大河原 一憲  電気通信大学, 大学院情報理工学研究科, 教授 (30631270)
佐藤 光哉  電気通信大学, 人工知能先端研究センター, 助教 (60822533)
Project Period (FY) 2022-04-01 – 2026-03-31
Keywords食事画像認識 / 食事画像変換 / 食事管理 / 食事レシピ
Outline of Annual Research Achievements

本研究では,深層学習によって高精度に実現可能となった画像認識・生成・変換技術を用いて,新しい能動的な食事管理技術を創出することを目的とする.本研究の特色は,食事中に摂取した総カロリー量をユーザに提示することで食事摂取量の意識付けを可能としたり,目の前の食事の見た目や量を視覚的に変化させることでカロリー量をコントロールしたりするような,能動的な食事管理技術を実現することである.さらに,能動的食事管理として,ユーザの条件を考慮した個人適応型の食事レシピ推薦・生成も合わせて実施する.本研究は,AIの最新技術を人々の「食」の健康に役立てることを最終的な目標とする.
2年目である本年度は次の研究を実施した.(1)3次元的な量および食材の違いを考慮した食事カロリー量および栄養素量推定(柳井,大河原)(2)焼き肉,鍋,大皿料理のためのリアルタイム食事動作認識による連続摂取カロリー量推定(柳井)(3)深層学習による画像変換技術(柳井)(4)カロリー量や栄養素量を考慮したレシピおよび料理画像の自動生成(井手,柳井)
(1)に関しては1年目に引き続き3D食事画像データセットの構築作業を行った.(2)については1年目に行った成果として全方位カメラを用いたリアルタイム食事行動認識システムCalorieCam360を完成させた.(3)についてはカロリー量を考慮した食事画像変換の研究を実施した.(4)については,クロスモーダルレシピ検索やレシピ情報からの画像生成などの研究を実施した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2年目である本年度は1年目に引き続き次の研究を実施した.(1)3次元的な量および食材の違いを考慮した食事カロリー量および栄養素量推定(柳井,大河原)(2)焼き肉,鍋,大皿料理のためのリアルタイム食事動作認識による連続摂取カロリー量推定(柳井)(3)深層学習による画像変換技術(柳井)(4)カロリー量や栄養素量を考慮したレシピおよび料理画像の自動生成(井手,柳井).
(1)に関しては1年目に引き続き3D食事画像データセットの構築作業を行った.(2)については1年目に行った成果として全方位カメラを用いたリアルタイム食事行動認識システムCalorieCam360を完成させた.(3)についてはカロリー量を考慮した食事画像変換の研究を実施した.(4)については,クロスモーダルレシピ検索やレシピ情報からの画像生成などの研究を実施した.以上より,概ね順調に進展していると言える.

Strategy for Future Research Activity

残りの2年間では,次の(1)から(4)を更に発展させる予定である.(1)3次元的な量および食材の違いを考慮した食事カロリー量および栄養素量推定(柳井,大河原)(2)焼き肉,鍋,大皿料理のためのリアルタイム食事動作認識による連続摂取カロリー量推定(柳井)(3)深層学習による画像変換技術(柳井)(4)カロリー量や栄養素量を考慮したレシピおよび料理画像の自動生成(井手,柳井).
特に(1)については構築したデータセットを利用した3D食事カロリー量を実施し,構築データセットとともに成果を発表する予定である.(2)については多様な状況で多様な食事に対してリアルタイム食事認識を実現する予定である.(3)については,リアルタイム食事画像変換をARに応用して食事コントロールへ発展させる予定である.(4)これまで実現したレシピからの食事画像生成にカロリー量や栄養素量によるコントロールを追加して,より細かい食事画像生成の制御を可能とすることを検討している.

  • Research Products

    (20 results)

All 2024 2023

All Journal Article (2 results) (of which Open Access: 2 results,  Peer Reviewed: 1 results) Presentation (18 results) (of which Int'l Joint Research: 9 results,  Invited: 1 results)

  • [Journal Article] Multi-Style Shape Matching GAN for Text Images2024

    • Author(s)
      YUAN Honghui、YANAI Keiji
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E107.D Pages: 505~514

    • DOI

      10.1587/transinf.2023IHP0010

    • Peer Reviewed / Open Access
  • [Journal Article] Patent image retrieval using transformer-based deep metric learning2023

    • Author(s)
      Higuchi Kotaro、Yanai Keiji
    • Journal Title

      World Patent Information

      Volume: 74 Pages: 102217~102217

    • DOI

      10.1016/j.wpi.2023.102217

    • Open Access
  • [Presentation] Training-Free Region Prediction with Stable Diffusion.2024

    • Author(s)
      Yuma Honbu and Keiji Yanai
    • Organizer
      Proc. of the International Multimedia Modeling Conference (MMM)
    • Int'l Joint Research
  • [Presentation] 生成AI技術の基礎と展望2024

    • Author(s)
      柳井 啓司
    • Organizer
      SID日本支部 講演会 「生成AIとメタバースが開く社会に向けたディスプレイ技術と課題」
    • Invited
  • [Presentation] タイトル重畳料理サムネイル画像における魅力的なフォントスタイルの分析2024

    • Author(s)
      高木七海,久徳遙矢,道満恵介,駒水孝裕,井手一郎
    • Organizer
      電子情報通信学会メディアエクスペリエンス・バーチャル環境基礎研究会
  • [Presentation] 複数食材の大きさを統合利用した弁当画像のスケール推定に関する研究2024

    • Author(s)
      渡辺茉里香,久徳遙矢,道満恵介,駒水孝裕,井手一郎
    • Organizer
      電子情報通信学会メディアエクスペリエンス・バーチャル環境基礎研究会
  • [Presentation] Contextual Associated Triplet Queries for Panoptic Scene Graph Generation.2023

    • Author(s)
      Jingbin Xu, Junwen Chen and Keiji Yanai
    • Organizer
      Proc. of ACM Multimedia Asia
    • Int'l Joint Research
  • [Presentation] Mask-based Food Image Synthesis with Cross-Modal Recipe Embeddings.2023

    • Author(s)
      Zhongtao Chen, Yuma Honbu, Keiji Yanai
    • Organizer
      Proc. of ACM Multimedia Asia
    • Int'l Joint Research
  • [Presentation] VQ-VDM: Video Diffusion Models with 3D VQGAN.2023

    • Author(s)
      Ryota Kaji, Keiji Yanai
    • Organizer
      Proc. of ACM Multimedia Asia
    • Int'l Joint Research
  • [Presentation] RecipeMeta: Metapath-enhanced recipe recommendation on heterogeneous recipe network2023

    • Author(s)
      Jialiang Shi, Takahiro Komamizu, Keisuke Doman, Haruya Kyutoku, Ichiro Ide
    • Organizer
      ACM Multimedia Asia 2023
    • Int'l Joint Research
  • [Presentation] HowToEat: Exploring Human Object Interaction and Eating Action in Eating Scenarios.2023

    • Author(s)
      Yingcheng Wang, Junwen Chen, Keiji Yanai
    • Organizer
      ACM MM Workshop on Multimedia Assisted Dietary Management
    • Int'l Joint Research
  • [Presentation] Focusing on what to decode and what to train: Efficient Training with HOI Split Decoders and Specific Target Guided DeNoising.2023

    • Author(s)
      Junwen Chen, Yingcheng Wang, Keiji Yanai
    • Organizer
      arXiv
    • Int'l Joint Research
  • [Presentation] QAHOI: Query-Based Anchors for Human-Object Interaction Detection.2023

    • Author(s)
      Junwen Chen, Keiji Yanai
    • Organizer
      Proc. of the International Workshop on Machine Vision and Applications (MVA)
    • Int'l Joint Research
  • [Presentation] CalorieCam360: Simultaneous Eating Action Recognition of Multiple People Using an Omnidirectional Camera.2023

    • Author(s)
      Kento Terauchi, Keiji Yanai
    • Organizer
      Proc. of ACM International Conference on Multimedia Retrieval (ICMR)
    • Int'l Joint Research
  • [Presentation] StableSeg: Stable Diffusionによるゼロショット領域分割2023

    • Author(s)
      本部 勇真, 山口 廉斗, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム (MIRU)
  • [Presentation] 人物・物体・動作デコーダの分離によるHOI検出2023

    • Author(s)
      陳 俊文, 王 瀛成, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム (MIRU)
  • [Presentation] VQ-VDM: ベクトル量子化変分オートエンコーダと 拡散モデルを用いた動画生成モデル2023

    • Author(s)
      梶 凌太, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム (MIRU)
  • [Presentation] CalorieCam360: 全方位カメラによる複数人同時食事カロリー量推定システム2023

    • Author(s)
      寺内 健人, 山本 耕平, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム (MIRU)
  • [Presentation] CLIPと微分可能レンダラーを用いたフォントスタイル変換2023

    • Author(s)
      泉 幸太, 柳井 啓司
    • Organizer
      画像の認識・理解シンポジウム (MIRU)
  • [Presentation] Unified transformer with fine-grained contrastive learning for cross-modal recipe retrieval2023

    • Author(s)
      Bolin Zhang, Haruya Kyutoku, Keisuke Doman, Takahiro Komamizu, Chao Yang, Bin Jiang, Ichiro Ide
    • Organizer
      画像の認識・理解シンポジウム (MIRU)

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi