• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

人間機械融合視覚による質感認識能力拡張

Planned Research

Project AreaAnalysis and synthesis of deep SHITSUKAN information in the real world
Project/Area Number 20H05958
Research InstitutionOsaka University

Principal Investigator

岩井 大輔  大阪大学, 大学院基礎工学研究科, 准教授 (90504837)

Co-Investigator(Kenkyū-buntansha) 伊藤 勇太  東京大学, 大学院情報学環・学際情報学府, 特任准教授 (10781362)
Project Period (FY) 2020-11-19 – 2025-03-31
Keywords拡張現実感 / 人間拡張 / 光学シースルーHMD / プロジェクションマッピング / 質感の科学
Outline of Annual Research Achievements

【代表者】
質感分離眼鏡の性能評価と、プロジェクションマッピングによる質感編集技術の開発(毛質感の提示・深層生成技術との統合)を目標として研究を進めた。前者については、ユーザが指定する一部の領域のみ間接反射成分を観察できる光学シースルー拡張現実感システムの構築に成功し、ユーザ実験によって実際に特定の領域のみ質感を切り替えることが可能であることを確認できた。後者については、投影対象面を振動させることで、投影された毛質感を向上させる技術の開発を行ったが、異なる深度に提示された輝点が、視点に応じて重なり合ったり離れてしまったりすることで、連続的な毛として視認できないという技術課題が見つかり、毛質感を提示するシステムとしての完成には至らなかった。深層生成技術をプロジェクションマッピングに統合する研究では、投影対象の質感を、ユーザがテキスト入力したプロンプトに応じて適切に切り替えるシステムを実現した。そのために、投影過程をニューラルネットワークで表現し微分可能とする技術の開発にも取り組んだ。
【分担者】
光を減算する光学シースルーディスプレイの技術開発を行った。まず、フォトクロミック材料を用いる遮蔽マスクについては、今年度は十分に進捗せず、次年度への継続課題となった。一方、高速に透過波長を切り替えられる液晶チューナブルフィルタを二重化して色空間を拡大し、DMDを用いて空間変調する、新たな減算ディスプレイの原理を考案し、実証した。また、空中像呈示で用いられるマイクロミラーアレイ光学系とロボットアームを用いて、ユーザがディスプレイを装着する必要なく、網膜投影によるAR映像呈示可能なディスプレイ技術についても開発に成功した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

【代表者】
特に、プロジェクションマッピングによる質感編集技術に関して大きく研究が進展し、多くの論文発表を実施できた。具体的には、「研究実績の概要」セクションに記載した、深層生成技術をプロジェクションマッピングに統合しテキスト入力したプロンプトに応じて投影対象の質感を切り替える研究は、AR/VR分野の主要な論文誌IEEE Transactions on Visualization and Computer Graphics (TVCG) に採録された。また、質感編集で重要となる投影映像のコントラスト増強を実現すべく、プロジェクタの新たな光学系を提案した研究が、同様にIEEE TVCGに採録された。さらに、明室でのプロジェクションマッピングでもコントラスト低下を抑制した投影結果を実現する研究を実施した成果は、IEEE TVCGに採録されるとともに、主要な国際会議IEEE Conference on Virtual Reality and 3D User Interface (VR) にてBest Paper Award を受賞した。
【分担者】
「研究実績の概要」セクションに記載した、新規な減算ディスプレイの成果は、IEEE TVCGに採録された。また、網膜投影ディスプレイ技術についても、AR/VR関連の国際会議ACM Virtual Reality Software and Technology にて口頭発表を行った。その他にも、映像エンジンを環境側に配置し、ユーザは簡素な光学系のみ眼鏡として装着する、軽量なHMDのアーキテクチャに関する研究がIEEE TVCGに2件採録され、そのうちの1件は、IEEE VRにてBest Paper Honorable Mention Awardを実施した。
全体として、研究がおおむね順調に進展した、と考えている。

Strategy for Future Research Activity

【代表者】
明るい場所でのプロジェクションマッピングは投影結果にコントラスト低下を引き起こすことから、従来プロジェクションマッピングは暗所で行われてきた。一方、暗所と明所では知覚する質感が異なることが知られており、特に色のモード(開口色モードと表面色モード)の違いは顕著である。そこで、環境照明をプロジェクタに置き換えて、コントラスト低下を抑制した照明を本年度実現した。次年度は、従来の照明機器と同等の照明環境を再現すべく、LEDの2次元アレイにレンズアレイを組み合わせる技術を開発する。また、知覚される色のモードが、明所と暗所のプロジェクションマッピング結果でどのように異なるかを明らかにする。
【分担者】
これまでの光学シースルーディスプレイ技術を統合して、光線の加算と減算の双方を行うことのできるディスプレイを開発して、眼鏡型の質感提示ディスプレイにおいて考えうる限り最も高機能なデバイスを実現し、その質感提示への適用可能性について検討する。さらに、実応用を見越し、ユーザの身体的負荷を抑えることを目的として、眼鏡側には最低限の光学機能しか持たさず、映像を眼鏡に投射することで加算型の質感提示を行うディスプレイの高度化にも取り組む。

  • Research Products

    (23 results)

All 2024 2023 Other

All Int'l Joint Research (1 results) Journal Article (9 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 9 results,  Open Access: 3 results) Presentation (13 results) (of which Int'l Joint Research: 4 results,  Invited: 4 results)

  • [Int'l Joint Research] Tel Aviv University(イスラエル)

    • Country Name
      ISRAEL
    • Counterpart Institution
      Tel Aviv University
  • [Journal Article] Projection Mapping under Environmental Lighting by Replacing Room Lights with Heterogeneous Projectors2024

    • Author(s)
      Takeuchi Masaki、Kusuyama Hiroki、Iwai Daisuke、Sato Kosuke
    • Journal Title

      IEEE Transactions on Visualization and Computer Graphics

      Volume: 30 Pages: 2151~2161

    • DOI

      10.1109/TVCG.2024.3372031

    • Peer Reviewed
  • [Journal Article] Towards Co-Operative Beaming Displays: Dual Steering Projectors for Extended Projection Volume and Head Orientation Range2024

    • Author(s)
      Aoki Hiroto、Tochimoto Takumi、Hiroi Yuichi、Itoh Yuta
    • Journal Title

      IEEE Transactions on Visualization and Computer Graphics

      Volume: 30 Pages: 2309~2318

    • DOI

      10.1109/TVCG.2024.3372118

    • Peer Reviewed
  • [Journal Article] StainedSweeper: Compact, Variable-Intensity Light-Attenuation Display with Sweeping Tunable Retarders2024

    • Author(s)
      Hiroi Yuichi、Hiraki Takefumi、Itoh Yuta
    • Journal Title

      IEEE Transactions on Visualization and Computer Graphics

      Volume: 30 Pages: 2682~2692

    • DOI

      10.1109/TVCG.2024.3372058

    • Peer Reviewed
  • [Journal Article] Topology optimization with text-guided stylization2023

    • Author(s)
      Zhong Shengze、Punpongsanon Parinya、Iwai Daisuke、Sato Kosuke
    • Journal Title

      Structural and Multidisciplinary Optimization

      Volume: 66 Pages: 256

    • DOI

      10.1007/s00158-023-03686-7

    • Peer Reviewed / Open Access
  • [Journal Article] Neural Projection Mapping Using Reflectance Fields2023

    • Author(s)
      Erel Yotam、Iwai Daisuke、Bermano Amit H.
    • Journal Title

      IEEE Transactions on Visualization and Computer Graphics

      Volume: 29 Pages: 4339~4349

    • DOI

      10.1109/TVCG.2023.3320256

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Estimation of fused-filament-fabrication structural vibro-acoustic performance by modal impact sound2023

    • Author(s)
      Zhong Shengze、Punpongsanon Parinya、Iwai Daisuke、Sato Kosuke
    • Journal Title

      Computers & Graphics

      Volume: 115 Pages: 137~147

    • DOI

      10.1016/j.cag.2023.07.010

    • Peer Reviewed / Open Access
  • [Journal Article] Focal surface projection: Extending projector depth of field using a phase‐only spatial light modulator2023

    • Author(s)
      Ueda Fumitaka、Kageyama Yuta、Iwai Daisuke、Sato Kosuke
    • Journal Title

      Journal of the Society for Information Display

      Volume: 31 Pages: 651~656

    • DOI

      10.1002/jsid.1261

    • Peer Reviewed
  • [Journal Article] Low-Latency Beaming Display: Implementation of Wearable, 133 μs Motion-to-Photon Latency Near-Eye Display2023

    • Author(s)
      Hiroi Yuichi、Watanabe Akira、Mikawa Yuri、Itoh Yuta
    • Journal Title

      IEEE Transactions on Visualization and Computer Graphics

      Volume: 29 Pages: 4761~4771

    • DOI

      10.1109/TVCG.2023.3320212

    • Peer Reviewed
  • [Journal Article] A Monocular Projector-Camera System Using Modular Architecture2023

    • Author(s)
      Yamamoto Kenta、Iwai Daisuke、Tani Ikuho、Sato Kosuke
    • Journal Title

      IEEE Transactions on Visualization and Computer Graphics

      Volume: 29 Pages: 5586~5592

    • DOI

      10.1109/TVCG.2022.3217266

    • Peer Reviewed / Open Access
  • [Presentation] Appearance Editing of Real-World Objects using Projection Mapping2023

    • Author(s)
      Iwai D
    • Organizer
      Computer Graphics International
    • Int'l Joint Research / Invited
  • [Presentation] プロジェクションマッピングによる色彩の再現および制御,2023

    • Author(s)
      岩井大輔
    • Organizer
      日本色彩学会第54回全国大会
    • Invited
  • [Presentation] Iwai D2023

    • Author(s)
      Melting Universe into Metaverse by Projection Mapping
    • Organizer
      French-Japanese Seminar on “Metaverse and Virtual Reality - The Science and Technology of Interacting with Digital Worlds”
    • Int'l Joint Research / Invited
  • [Presentation] 影抑制と焦点ぼけ補償とを動的に調整可能な大開口同軸二重投影システム2023

    • Author(s)
      楠山弘基, 影山雄太, 岩井大輔, 佐藤宏介
    • Organizer
      第28回日本バーチャルリアリティ学会大会
  • [Presentation] プロジェクションマッピングによる照明と映像の融合2023

    • Author(s)
      岩井大輔
    • Organizer
      照明学会 光源・照明システム分科会公開研究会
    • Invited
  • [Presentation] 複数のRGB-Dカメラ及び熱カメラを用いた手作業の三次元復元2023

    • Author(s)
      三浦康平, 岩井大輔, 佐藤宏介
    • Organizer
      第67回システム制御情報学会研究発表講演会
  • [Presentation] 投影対象への微振動付加と適応高速投影による毛状素材の高質感投影表現2023

    • Author(s)
      西隼世, 岩井大輔, 佐藤宏介
    • Organizer
      第67回システム制御情報学会研究発表講演会
  • [Presentation] 大開口同軸二重投影システムによる影抑制2023

    • Author(s)
      楠山弘基, 影山雄太, 岩井大輔, 佐藤宏介
    • Organizer
      第67回システム制御情報学会研究発表講演会
  • [Presentation] プロジェクションマッピングの画質劣化補償におけるCNNとViTの精度比較2023

    • Author(s)
      影山雄太, 岩井大輔, 佐藤宏介
    • Organizer
      第67回システム制御情報学会研究発表講演会
  • [Presentation] Structure Design with Text-Guided Stylization2023

    • Author(s)
      Zhong S, Punpongsanon P, 岩井大輔, 佐藤宏介
    • Organizer
      第67回システム制御情報学会研究発表講演会
  • [Presentation] 食体験変容のための投影型ARによる動的食品質感変調に関する研究2023

    • Author(s)
      牧篤司, Punpongsanon P, 岩井大輔, 佐藤宏介
    • Organizer
      第67回システム制御情報学会研究発表講演会
  • [Presentation] Telextiles: End-to-end Remote Transmission of Fabric Tactile Sensation2023

    • Author(s)
      Kitagishi T, Hiroi Y, Watanabe Y, Itoh Y, Rekimoto J
    • Organizer
      ACM Symposium on User Interface Software and Technology (UIST) 2023
    • Int'l Joint Research
  • [Presentation] Retinal Homing Display: Head-Tracking Auto-stereoscopic Retinal Projection Display2023

    • Author(s)
      Aoki H, Hiroi Y, Itoh Y, Rekimoto J
    • Organizer
      ACM Symposium on Virtual Reality Software and Technology (VRST) 2023
    • Int'l Joint Research

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi