• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2022 年度 実施状況報告書

深層学習による色覚障がい支援のための意味論的情報補償

研究課題

研究課題/領域番号 22K21274
研究機関山梨大学

研究代表者

朱 臻陽  山梨大学, 大学院総合研究部, 助教 (10954927)

研究期間 (年度) 2022-08-31 – 2024-03-31
キーワード色覚補償 / 意味論的情報 / 拡張現実 / 深層学習
研究実績の概要

本研究では,色覚障がいによる意味論的情報損失を補償するために,深層学習モデル及び拡張現実(Augmented-Reality,AR)グラスを取り入れた色覚補償技術Color Communication Glasses (CC-Glasses)を開発することを目的とする.具体的には,(1)ARグラス補償システムの開発,(2)障がい者が利用するシチュエーションに合わせた使用モード:探索モードと検索モードの提案,(3)二つの使用モードに取り入れる深層学習モデルの学習のためのデータセットの作成である.
本研究課題の1年目では,検索モードに取り入れる技術の開発に取り組んできた.当該モードでは,ユーザが周囲とのコミュニケーションを取る際に,会話中の色単語とオブジェクト単語のペアを利用し,入力画像から指定されるオブジェクトを見つけ出し,ARグラスでユーザに知らせる.当該モードに取り入れた深層学習モデルを学習させるために,色単語とオブジェクト単語のペアを含んだデータセットを作成した.既存のインスタンスセグメンテーションモデルを利用し,ソーシャルネットサイトから収集した画像データを半自動的にアノテーションする方法を提案した.提案技術の有効性を検証するために,色覚障がいをもつ協力者による主観評価実験を行った.その成果をまとめた論文は国際会議Augmented Humans 2023 (h5-index:17)に採択され,口頭発表を行った.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

CC-Glassesの検索モードに取り入れる技術の開発ができた.その成果をまとめた論文は国際会議Augmented Humans 2023 に採択され,口頭発表ができた.

今後の研究の推進方策

今後の方策としては,CC-Glassesに取り入れる使用モードの一つである探索モードの開発に取り組む.
1年目で開発した検索モードのフレームワークを基に,2年目では,探索モードの開発を行う.まずは,インスタンスセグメンテーションのための深層学習モデルを基に,オブジェクトラベル且複数の色ラベルが予測できる深層学習モデルを開発とする.次に,1年目で収集したデータセットを利用し,提案するモデルを学習させる.また,1年目で開発したAR Glasses 制御システムに探索モード機能を追加し,CC-Glassesを完成させる.さらに,提案技術の有効性を検証するために,色覚障がいをもつ協力者による検証実験を行う.
最後に,成果をまとめ,CG分野のトップ国際学会誌の一つであるIEEE Transactions on Visualization and Computer Graphics に投稿する予定である.

次年度使用額が生じた理由

研究成果発表で参加する予定の国際学会がオンライン開催になったため,当初予定の旅費との差額が生じた.本未使用額は次年度の旅費及び国際学会誌の論文掲載料に充当する.

  • 研究成果

    (4件)

すべて 2023 2022

すべて 雑誌論文 (1件) (うち国際共著 1件、 査読あり 1件) 学会発表 (3件) (うち国際学会 2件)

  • [雑誌論文] Image recoloring for Red-Green dichromats with compensation range-based naturalness preservation and refined dichromacy gamut2022

    • 著者名/発表者名
      Huang Wangkang、Zhu Zhenyang、Chen Ligeng、Go Kentaro、Chen Xiaodiao、Mao Xiaoyang
    • 雑誌名

      The Visual Computer

      巻: 38 ページ: 3405~3418

    • DOI

      10.1007/s00371-022-02549-4

    • 査読あり / 国際共著
  • [学会発表] Deep Learning and Augmented-Reality Glasses based Meat Cooking Support for Color Vision Disorder Compensation2023

    • 著者名/発表者名
      Shota Chiba、Zhenyang Zhu、Daisuke Inoue、Xiaoyang Mao
    • 学会等名
      NICOGRAPH International 2023
    • 国際学会
  • [学会発表] CC-Glasses: Color Communication Support for People with Color Vision Deficiency Using Augmented Reality and Deep Learning2023

    • 著者名/発表者名
      Zhenyang Zhu、Jiyi Li、Ying Tang、Kentaro Go、Masahiro Toyoura、Kenji Kashiwagi、Issei Fujishiro、Xiaoyang Mao
    • 学会等名
      Augmented Humans 2023
    • 国際学会
  • [学会発表] Swin Transformerを利用した色覚障がい支援用色変換手法2022

    • 著者名/発表者名
      陳 立庚、朱 臻陽、郷 健太郎、黄 望康、茅 暁陽
    • 学会等名
      Visual Computing シンポジウム

URL: 

公開日: 2023-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi