• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

AIR-Glasses:AI-ARを用いた視知覚ベース個別適応型色覚情報補償技術

研究課題

研究課題/領域番号 22H00549
研究種目

基盤研究(A)

配分区分補助金
応募区分一般
審査区分 中区分62:応用情報学およびその関連分野
研究機関山梨大学

研究代表者

茅 暁陽  山梨大学, その他部局等, 理事 (20283195)

研究分担者 藤代 一成  駒澤大学, グローバル・メディア・スタディーズ学部, 教授 (00181347)
朱 臻陽  山梨大学, 大学院総合研究部, 助教 (10954927)
柏木 賢治  山梨大学, 大学院総合研究部, 教授 (30194723)
郷 健太郎  山梨大学, 大学院総合研究部, 教授 (50282009)
豊浦 正広  山梨大学, 大学院総合研究部, 教授 (80550780)
研究期間 (年度) 2022-04-01 – 2027-03-31
研究課題ステータス 交付 (2026年度)
配分額 *注記
41,990千円 (直接経費: 32,300千円、間接経費: 9,690千円)
2026年度: 6,500千円 (直接経費: 5,000千円、間接経費: 1,500千円)
2025年度: 7,020千円 (直接経費: 5,400千円、間接経費: 1,620千円)
2024年度: 8,450千円 (直接経費: 6,500千円、間接経費: 1,950千円)
2023年度: 8,970千円 (直接経費: 6,900千円、間接経費: 2,070千円)
2022年度: 11,050千円 (直接経費: 8,500千円、間接経費: 2,550千円)
キーワード色覚補償 / 色覚障害補償 / 画像色変換 / 拡張現実
研究開始時の研究の概要

本研究課題は,先行研究課題「コンピュテーショナル・オプサルモロジー:ARを用いた視覚障害者の視力の適応的増強」(基盤研究(A)17H00738)の後続研究である.色覚障害に的を絞り,以下の三点において先行研究課題の成果を発展させる.(1) 結果が計算モデルに直接利用可能で軽負担の自覚的検査方式による個人の障害レベルへの対応,(2)最新の転移学習を用いて,シミュレーションモデルに主観評価を組み合わせ,複合化した要因に適応,(3)最新の深層学習技術を駆使し,画像内の物体色を認識し,その物体と色のテキスト情報との相互参照を可能とすることで,色に基づく意思決定やコミュニケーションを支援.

研究実績の概要

本研究では最新の深層学習技術を活用し、個人の色覚障害の度合いに適応した色覚補償技術に加え、シーン中の物体の色覚特徴まで認識し、拡張現実感技術(Augmented Reality、 AR)を用いて可視化することで、意思決定や健常者とのシームレスなコミュニケーションを支援する技術を開発する。令和6年度の実績は以下の通りである。

課題(A)の個人の障害レベルの適応については、色覚障害の程度を定量的に推定する新たな計測技術を開発した。具体的には、100色相配列検査器による実測結果と異なる障害レベルをシミュレート可能なモデルをベースにし、ユーザの検査結果とシミュレーションデータをスピアマンの順位相関係数で比較することで、最も相関が高いレベルを障害程度と判定する方式を確立した。また、CIE Lab色空間上で障害の度合ごとの知覚色域をモデル化し、元画像の自然さと視認性のためのコントラストを両立する個人適応型色変換手法も開発した。
課題(B)の知覚評価に対応した個人適応型補償モデルの開発においては、色覚支援画像の有効性を評価するため、美学的評価に基づく画像評価モデルを基盤に、主観的評価を反映する支援画像評価モデルを設計した。令和5年度に収集した支援画像と評価値のペアで事前学習を行い、さらに個別データによるファインチューニングを実施した。
課題(C)の色識別とコンミュニケーション支援については、令和6年度は、音声入力に対応する大規模言語モデル「Gemini」を導入し、ユーザとの対話を前提とした支援システムを構築した。加えて、画像と意味論的情報のペアからなるデータセットを収集し、今後ユーザの単独使用ができるモデルの開発に必要な学習資源として整備した。

現在までの達成度
現在までの達成度

2: おおむね順調に進展している

理由

計画した内容はすべて予定通りに実施され、期待していた成果を得ることができた。従来の個人適応型色補償アルゴリズムは、色覚障がいの度合が既知であることを前提としたCVD(色覚異常)シミュレーションモデルに基づいていたが、個々人の色覚障がいの度合を定量的に推定する手法がなかったため、実用性には限界があった。令和6年度に得られた成果である色覚障がいの度合を定量的に推定する技術は、この課題を解決するものであり、既存手法の有用性を大きく向上させることが期待される。

今後の研究の推進方策

課題(A)については、主観評価結果に基づき個人の視覚特性に適応した色変換深層学習モデルの開発を継続する。R6年度に実装したグラフニューラルネットワークと転移学習を活用して実装した画像変換モデルについて、30枚以下の学習データで学習可能となるようにモデルの改良も行う予定である。また、主観評価に用いる画像についても、独自の評価尺度を定義し、もっとも効果的な画像集を構築する。

課題(B)においては、これまでもっともよく利用されているMachadoらの色覚障がいシミュレーションモデルがデバイス依存であることを踏まえ、新たにCIE XYZ色空間に基づくシミュレーションモデルを開発し、その有効性の評価とモデル改善のための実験を行う予定である。

課題(C)では、令和6年度に開発した、音声入力に対応する大規模言語モデル「Gemini」を活用した支援システムの評価実験とインタフェースの改善を行う予定である。また、ユーザの単独使用ができるモデルの開発も行う予定である。

報告書

(4件)
  • 2024 実績報告書
  • 2023 実績報告書
  • 2022 審査結果の所見   実績報告書
  • 研究成果

    (20件)

すべて 2025 2024 2023 2022 その他

すべて 国際共同研究 (2件) 雑誌論文 (13件) (うち国際共著 6件、 査読あり 13件、 オープンアクセス 5件) 学会発表 (3件) 備考 (2件)

  • [国際共同研究] 杭州電子科技大学(中国)

    • 関連する報告書
      2024 実績報告書
  • [国際共同研究] 杭州電子科技大学(中国)

    • 関連する報告書
      2022 実績報告書
  • [雑誌論文] Influence of artificial intelligence on ophthalmologists’ judgments in glaucoma2025

    • 著者名/発表者名
      Kashiwagi Kenji、Toyoura Masahiro、Mao Xiaoyang、Kawase Kazuhide、Tanito Masaki、Nakazawa Toru、Miki Atsuya、Mori Kazuhiko、Yoshitomi Takeshi
    • 雑誌名

      PLOS ONE

      巻: 20 号: 4 ページ: e0321368-e0321368

    • DOI

      10.1371/journal.pone.0321368

    • 関連する報告書
      2024 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Fast image recoloring for red-green anomalous trichromacy with contrast enhancement and naturalness preservation2024

    • 著者名/発表者名
      Zhou Haiqiang、Huang Wangkang、Zhu Zhenyang、Chen Xiaodiao、Go Kentaro、Mao Xiaoyang
    • 雑誌名

      The Visual Computer

      巻: 40 号: 7 ページ: 4647-4660

    • DOI

      10.1007/s00371-024-03454-8

    • 関連する報告書
      2024 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Perceptual Uniformity-Aware Image Recoloring Method for Red-Green Anomalous Trichromacy2024

    • 著者名/発表者名
      Zhou Haiqiang、Huang Wangkang、Zhu Zhenyang、Chen Xiaodiao、Go Kentaro、Mao Xiaoyang
    • 雑誌名

      Proceedings of NICOGRAPH 2024

      巻: - ページ: 41-48

    • DOI

      10.1109/nicoint62634.2024.00017

    • 関連する報告書
      2024 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] STMA: A Fast Visual Field Defect Assessment Method Using Quadtree and Head-Mounted Display2024

    • 著者名/発表者名
      Ge Chao、Zhu Zhenyang、Kashiwagi Kenji、Toyoura Masahiro、Go Kentaro、Fuiishiro Issei、Mao Xiaoyang
    • 雑誌名

      Proceedings of NICOGRAPH 2024

      巻: - ページ: 1-8

    • DOI

      10.1109/nicoint62634.2024.00010

    • 関連する報告書
      2024 実績報告書
    • 査読あり
  • [雑誌論文] Image recoloring for color vision deficiency compensation using Swin transformer2024

    • 著者名/発表者名
      Chen Ligeng、Zhu Zhenyang、Huang Wangkang、Go Kentaro、Chen Xiaodiao、Mao Xiaoyang
    • 雑誌名

      Neural Computing and Applications

      巻: 36 号: 11 ページ: 6051-6066

    • DOI

      10.1007/s00521-023-09367-2

    • 関連する報告書
      2024 実績報告書 2023 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Seamless Image Editing for Perceptual Size Restoration Based on Seam Carving2024

    • 著者名/発表者名
      Ishikawa Naohiko、Zhu Zhenyang、Kim Jong-nam、Chung Wan-Young、Go Kentaro、Mao Xiaoyang
    • 雑誌名

      Lecture Notes in Computer Science: Advances in Computer Graphics. CGI 2023

      巻: - ページ: 322-334

    • DOI

      10.1007/978-3-031-50069-5_27

    • ISBN
      9783031500688, 9783031500695
    • 関連する報告書
      2023 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] SLIM: A transparent structurized self-learning interpolation method for super-resolution images2023

    • 著者名/発表者名
      Chen Xiao-Diao, He Rui, Mao Xiaoyang
    • 雑誌名

      The Visual Computer

      巻: 40 号: 4 ページ: 2857-2872

    • DOI

      10.1007/s00371-023-02990-z

    • 関連する報告書
      2024 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Metamorphopsia Insepction System Based on Relevance Feedback2023

    • 著者名/発表者名
      Zhu Zhenyang、Moritake Katsuhito、Kashiwagi Kenji、Toyoura Masahiro、Go Kentaro、Fujishiro Issei、Mao Xiaoyang
    • 雑誌名

      Proceedings of 2023 IEEE International Conference on Systems, Man, and Cybernetics (SMC)

      巻: - ページ: 4667-4674

    • DOI

      10.1109/smc53992.2023.10394105

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] Deep Learning and Augmented-Reality Glasses based Meat Cooking Support for Color Vision Disorder Compensation2023

    • 著者名/発表者名
      Chiba Shota、Zhu Zhenyang、Inoue Daisuke、Mao Xiaoyang
    • 雑誌名

      Proceedings of 2023 Nicograph International (NicoInt)

      巻: - ページ: 62-67

    • DOI

      10.1109/nicoint59725.2023.00019

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] CC-Glasses: Color Communication Support for People with Color Vision Deficiency Using Augmented Reality and Deep Learning2022

    • 著者名/発表者名
      Zhenyang Zhu, Jiyi Li, Ying Tang, Kentaro Go, Masahiro Toyoura, Kenji Kashiwagi, Issei Fujishiro, Xiaoyang Mao
    • 雑誌名

      Proceedings of Augmented Humans (AHs) 2022

      巻: 0 ページ: 190-199

    • DOI

      10.1145/3582700.3582707

    • 関連する報告書
      2023 実績報告書 2022 実績報告書
    • 査読あり
  • [雑誌論文] A Study on Contextual Task Performance of Simulated Homonymous Hemianopia Patients with Computational Glasses-based Compensation2022

    • 著者名/発表者名
      Chao Ge, Zhenyang Zhu, Keisuke Ichinose, Issei Fujishiro, Kentaro Go, Kenji Kashiwagi, Masahiro Toyoura, Xiaoyang Mao
    • 雑誌名

      ACM SIGGRAPH International Conference on Virtual-Reality Continuum and its Applications in Industry (VRCAI)

      巻: 0 ページ: 1-8

    • DOI

      10.1145/3574131.3574441

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] Image recoloring for Red-Green dichromats with compensation range-based naturalness preservation and refined dichromacy gamut2022

    • 著者名/発表者名
      Wangkang Huang, Zhenyang Zhu, Ligeng Chen, Kentaro Go, Xiaodiao Chen, Xiaoyang Mao
    • 雑誌名

      The Visual Computer

      巻: 38 号: 9-10 ページ: 3405-3418

    • DOI

      10.1007/s00371-022-02549-4

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Swin Transformerを利用した色覚障がい支援用色変換手法2022

    • 著者名/発表者名
      陳 立庚,朱 臻陽,郷 健太郎,黄 望康,茅 暁陽
    • 雑誌名

      Visual Computing シンポジウム

      巻: 0 ページ: 1-6

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [学会発表] A Personalized Generative Model for Color Vision Deficiency2023

    • 著者名/発表者名
      陳 立庚,朱 臻陽,茅 暁陽
    • 学会等名
      画像電子学会ビジュアルコンピューティングワークショップ
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Fast Image Recoloring for Anomalous Trichromacy with Contrast Enhancement and Naturalness Preservation2023

    • 著者名/発表者名
      Haiqiang Zhou,Wangkang Huang,Zhenyang Zhu,Xiaodiao Chen,Xiaoyang Mao
    • 学会等名
      Visual Computing シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 深層学習を用いた肉の焼け具合の推定2022

    • 著者名/発表者名
      千葉 翔太,茅 暁陽
    • 学会等名
      情報処理学会第84回全国大会
    • 関連する報告書
      2022 実績報告書
  • [備考] 計算眼科学

    • URL

      https://vc.media.yamanashi.ac.jp/research-ophtalomology/

    • 関連する報告書
      2024 実績報告書
  • [備考] 計算眼科学

    • URL

      http://vc.media.yamanashi.ac.jp/

    • 関連する報告書
      2022 実績報告書

URL: 

公開日: 2022-04-19   更新日: 2026-07-08  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi