• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

Integrative understanding of deep SHITSUKAN recognition from visual, auditory, tactile and linguistic information

Planned Research

Project AreaAnalysis and synthesis of deep SHITSUKAN information in the real world
Project/Area Number 20H05957
Research InstitutionKyoto University

Principal Investigator

西田 眞也  京都大学, 情報学研究科, 教授 (20396162)

Co-Investigator(Kenkyū-buntansha) 堀内 隆彦  千葉大学, 大学院情報学研究院, 教授 (30272181)
梶本 裕之  電気通信大学, 大学院情報理工学研究科, 教授 (80361541)
坂本 真樹  電気通信大学, 大学院情報理工学研究科, 教授 (80302826)
上村 卓也  日本電信電話株式会社NTTコミュニケーション科学基礎研究所, 人間情報研究部, 研究員 (10829394)
Project Period (FY) 2020-11-19 – 2025-03-31
Keywords質感 / 価値 / 情動 / リアリティ / アート
Outline of Annual Research Achievements

・研究代表者の西田らは、 動的な照明環境においても人間が質感(光学的特性)の違いを乗り越えて運動物体の変形を安定して知覚できることを見出し、生成モデルによる予測に基づく変形知覚の可能性を否定した。また、光沢や透明物体の動きの知覚が二次運動知覚の基盤である可能性を示した。佐藤いまり班や渡辺義浩班との共同研究も進めた。
・研究分担者の堀内らは、視覚系を中心とした実物の物理情報と知覚量の関係のモデル化を、表層質感からさらに高次の高級感などへと発展させた。また、視覚系に加えて、嗅覚との多感覚情報の統合のモデル化を継続した。
・研究分担者の上村らは、音の分類で訓練した計算モデルを用いた振幅変調検出実験のシミュレーション研究について、論文を発表した。モデルを両耳音入力に拡張し、両耳音分類で訓練したモデルについて両耳間時間差チューニングを計算した。両耳音による音源定位で訓練したモデルについても同様の検討を開始した。
・研究分担者の梶本らは、化学物質を用いた冷感提示の特性を詳細に検討し、コンパクトな提示装置を実現した。またリアルなテクスチャ感を実現するための回転円盤を用いた機構を提案し有効性を検証した。
・研究分担者の坂本らは、オンラインの商品レビュー中に含まれる質感情報が購買意欲に与える影響を調べる被験者実験を実施した。ChatGPTを利用し、同じ商品画像に対して質感情報を含むレビューと含まないレビューを生成し、それぞれの購買意欲を7段階で評価してもらった。その結果、質感情報を含むレビューの方が優位に購買意欲が高いことがわかった。また、香りの質的表現にオノマトペが活用できるか確認するため、56種類の精油の香りを一つずつ嗅ぎ、想起されたオノマトペをそれぞれ回答してもらう実験を行った。その結果、257語のオノマトペを収集することができた。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

西田チームでは、人間が質感(光学的特性)の違いを乗り越えて運動物体の変形を安定して知覚できることの実験的な証拠が十分に集まった。そのほか、質感関係の研究が複数進行している。さらに、深奥質感領域内の共同研究も進んだ。分担研究者のチームでも順調に研究が進み、多くの研究成果が発表された。

Strategy for Future Research Activity

・研究代表者の西田は、ポスドクのYung-Hao Yang、研究協力者の黒木忍(NTT)らの協力を得て、視覚の深奥質感情報処理、および視覚と触覚の 深奥質感処理の関係を研究する。今年度は、質感情報(光学的特性)が形状変形の推定に与える影響、インバースレンダリングを使った質感操作 、表面色知覚の個人差、人の動きの質感評価、動きの質感に与えるフレームレートの影響、触覚の空間情報処理特性の検討を進め、成果を取りまとめる。
・研究分担者の上村は、昨年度に引き続き、古川茂人(静岡社会健康医学大学院大学)・寺島裕貴(NTT)らの協力を得て、自然な音環境認識の ために訓練された人工神経回路を聴覚系のモデルと見立てる。モデル構築用データに残響や背景ノイズを加え、空間の質感が両時間時間差チュ ーニングの形成へ与える影響を検討する。
・研究分担者の堀内は、田中緑(千葉大・公募班)、渡辺修平(リコー)らの協力を得て、昨年度まで実施してきた視覚系を中心とした実物の 物理情報と知覚量の関係のモデル化を、さらに高次の情動系へと発展させる。また、触覚や嗅覚などの多感覚情報の統合に発展させる。
・研究分担者の坂本は、生成AIに投稿した画像の質感に類似した画像を再生成可能にするプロンプトについて、手触りを表すオノマトペを活用 しながら開発する。アートでの応用の可能性も含め検討する。
・研究分担者の梶本は、人肌よりも環境温度が高い場合の物体の材料識別能力を解明し、温度感覚による材質感の記録再現に取り組む。また昨 年度までの多指触感提示装置に広帯域な振動提示機能を付与し、ウェアラブルな触感提示装置の決定版を構築する。

  • Research Products

    (56 results)

All 2024 2023 Other

All Int'l Joint Research (2 results) Journal Article (10 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 10 results,  Open Access: 10 results) Presentation (42 results) (of which Int'l Joint Research: 24 results) Patent(Industrial Property Rights) (2 results)

  • [Int'l Joint Research] TU Delft(オランダ)

    • Country Name
      NETHERLANDS
    • Counterpart Institution
      TU Delft
  • [Int'l Joint Research] 国立台湾大学(その他の国・地域)

    • Country Name
      その他の国・地域
    • Counterpart Institution
      国立台湾大学
  • [Journal Article] Touch cannot attentionally select signals based on feature binding2024

    • Author(s)
      Kuroki Scinob、Nishida Shin'ya
    • Journal Title

      IEEE Transactions on Haptics

      Volume: - Pages: 1~11

    • DOI

      10.1109/TOH.2024.3367944

    • Peer Reviewed / Open Access
  • [Journal Article] Chemical Approach to the Thermal Grill Illusion2024

    • Author(s)
      Hamazaki Takumi、Kaneda Miku、Kaneko Seitaro、Kajimoto Hiroyuki
    • Journal Title

      IEEE Access

      Volume: 12 Pages: 29385~29396

    • DOI

      10.1109/ACCESS.2024.3368894

    • Peer Reviewed / Open Access
  • [Journal Article] Automatic MTF Conversion between Different Characteristics Caused by Imaging Devices2024

    • Author(s)
      Tanaka Midori、Ando Tsubasa、Horiuchi Takahiko
    • Journal Title

      Journal of Imaging

      Volume: 10 Pages: 49~49

    • DOI

      10.3390/jimaging10020049

    • Peer Reviewed / Open Access
  • [Journal Article] Key Considerations for Image Evaluation Experiments2024

    • Author(s)
      HORIUCHI Takahiko
    • Journal Title

      IEICE ESS Fundamentals Review

      Volume: 17 Pages: 203~209

    • DOI

      10.1587/essfr.17.3_203

    • Peer Reviewed / Open Access
  • [Journal Article] オンラインECプラットフォームにおけるレビュー文中の質感情報が購買意欲に与える影響2024

    • Author(s)
      小西健太郎, 野崎裕二, 松倉悠, 坂本真樹
    • Journal Title

      日本バーチャルリアリティ学会論文誌

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] Artificial Neural Network Trained for Sound Recognition Exhibiting Human-like Sensitivity to Sound Amplitude Modulation2024

    • Author(s)
      Koumura Takuya
    • Journal Title

      NTT Technical Review

      Volume: 22 Pages: 80~84

    • DOI

      10.53829/ntr202401ra1

    • Peer Reviewed / Open Access
  • [Journal Article] Coarse-to-fine interaction on perceived depth in compound grating2023

    • Author(s)
      Chen Pei-Yin、Chen Chien-Chung、Nishida Shin'ya
    • Journal Title

      Journal of Vision

      Volume: 23 Pages: 4852~4852

    • DOI

      10.1167/jov.23.9.4852

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Psychophysical measurement of perceived motion flow of naturalistic scenes2023

    • Author(s)
      Yang Yung-Hao、Fukiage Taiki、Sun Zitang、Nishida Shin’ya
    • Journal Title

      iScience

      Volume: 26 Pages: 108307~108307

    • DOI

      10.1016/j.isci.2023.108307

    • Peer Reviewed / Open Access
  • [Journal Article] Decoupled spatiotemporal adaptive fusion network for self-supervised motion estimation2023

    • Author(s)
      Sun Zitang、Luo Zhengbo、Nishida Shin’ya
    • Journal Title

      Neurocomputing

      Volume: 534 Pages: 133~146

    • DOI

      10.1016/j.neucom.2023.03.012

    • Peer Reviewed / Open Access
  • [Journal Article] 反発する磁石の漏れ磁束を利用したウェアラブル触覚提示素子2023

    • Author(s)
      真鍋 光希、牛山 奎悟、髙橋 哲史、梶本 裕之
    • Journal Title

      日本バーチャルリアリティ学会論文誌

      Volume: 28 Pages: 361~370

    • DOI

      10.18974/tvrsj.28.4_361

    • Peer Reviewed / Open Access
  • [Presentation] Can material-robust detection of 3D non-rigid deformation be explained by predictive processing through generative models?2024

    • Author(s)
      Shin’ya Nishida, Mitchell J.P. van Zuijlen, Yung-Hao Yang, Jan Jaap R. van Assen
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Temporal Dynamics Gap between Position Tracking and Attribute Tracking2024

    • Author(s)
      Yen-Ju Chen, Zitang Sun, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Temporal characteristics of perceived motion flow of naturalistic movies2024

    • Author(s)
      Yung-Hao Yang, Taiki Fukiage, Zitang Sun, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Acquisition of second-order motion perception by learning to recognize the motion of objects made by non-diffusive materials2024

    • Author(s)
      Zitang Sun, Yen-Ju Chen, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Modeling of Human Motion Perception Mechanism: A Simulation based on Deep Neural Network and Attention Transformer2023

    • Author(s)
      Sun Zitang, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Temporal limits of visual segmentation based on temporal asynchrony in luminance, color, motion direction, and their mixtures2023

    • Author(s)
      Yen-Ju Cheng, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Local image statistics can account for the perceived naturalness of image contrast2023

    • Author(s)
      Taiki Fukiage, Shin'ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] A Comparative Analysis of Visual Motion Perception: Computer Vision Models versus Human Abilities2023

    • Author(s)
      Sun Zitang, Yen-Ju Chen, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      Conference on Cognitive Computational Neuroscience
    • Int'l Joint Research
  • [Presentation] Studying User Perceptible Misalignment in Simulated Dynamic Facial Projection Mapping2023

    • Author(s)
      Hao-Lun Peng, Shin'ya Nishida, Yoshihiro Watanabe
    • Organizer
      ISMAR
    • Int'l Joint Research
  • [Presentation] Modelling Human Visual Motion Processing with Trainable Motion Energy Sensing and a Self-attention Network for Adaptive Motion Integration.2023

    • Author(s)
      Sun Zitang, Yen-Ju Chen, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      NeulIPS (Conference on Neural Information Processing Systems)
    • Int'l Joint Research
  • [Presentation] 3D Shape Presentation by Combination of Force Feedback and Electro-tactile Stimulation2023

    • Author(s)
      Yui Suga, Masahiro Miyakami, Izumi Mizoguchi, Hiroyuki Kajimoto
    • Organizer
      IEEE World Haptics Conference 2023
    • Int'l Joint Research
  • [Presentation] Presentation of Tracing Sensation to Fingertip Using a Rotating Disk2023

    • Author(s)
      Soma Kato, Yui Suga, Masahiro Miyakami, Izumi Mizoguchi, Hiroyuki Kajimoto
    • Organizer
      IEEE World Haptics Conference 2023
    • Int'l Joint Research
  • [Presentation] Temperature change measurement of skin-to-skin contact2023

    • Author(s)
      Mizuki Hamaguchi, Takumi Hamazaki, Miku Kaneda, Seitaro Kaneko, Hiroyuki Kajimoto
    • Organizer
      IEEE World Haptics Conference 2023
    • Int'l Joint Research
  • [Presentation] Presentation of Finger-size Shapes by Combining Force Feedback and Electro-tactile Stimulation2023

    • Author(s)
      Yui Suga, Izumi Mizoguchi, Hiroyuki Kajimoto
    • Organizer
      IEEE Virtual Reality 2024
    • Int'l Joint Research
  • [Presentation] 回転板による指先へのなぞり感提示手法の提案2023

    • Author(s)
      加藤総真,須賀悠偉, 宮上昌大,溝口泉,梶本裕之
    • Organizer
      ロボティクス・メカトロニクス講演会2023
  • [Presentation] 皮膚電気刺激と力覚の融合による三次元形状提示2023

    • Author(s)
      須賀悠偉,宮上昌大,溝口泉,梶本裕之
    • Organizer
      ロボティクス・メカトロニクス講演会2023
  • [Presentation] 人肌感提示のための皮膚温度計測2023

    • Author(s)
      濱口美月,浜崎拓海,金田実久,金子征太郎,溝口泉,梶本裕之
    • Organizer
      ロボティクス・メカトロニクス講演会2023
  • [Presentation] 単一のDCモータによるラケットへの衝撃感と反発感の提示2023

    • Author(s)
      祖父江迪瑠, 加藤総真,溝口泉,梶本裕之
    • Organizer
      第28回 日本バーチャルリアリティ学会大会
  • [Presentation] 人肌同士の接触時の皮膚温度変化を再現する温度触覚ディスプレイ2023

    • Author(s)
      濱口美月, 浜崎拓海,溝口泉,梶本裕之
    • Organizer
      第28回 日本バーチャルリアリティ学会大会
  • [Presentation] 球面配置型超音波触覚ディスプレイの曲率変化による焦点奥行方向移動の予備検討2023

    • Author(s)
      今笙羽, 成田叡賦,溝口泉,梶本裕之
    • Organizer
      第28回 日本バーチャルリアリティ学会大会
  • [Presentation] 薄型直動アクチュエータを用いた異部位触覚提示デバイスの検討2023

    • Author(s)
      秋葉優馬,中山翔太,溝口泉,梶本裕之
    • Organizer
      第28回 日本バーチャルリアリティ学会大会
  • [Presentation] 皮膚電気刺激と力覚の融合による微細形状提示2023

    • Author(s)
      須賀悠偉,溝口泉,梶本裕之
    • Organizer
      第24回計測自動制御学会システムインテグレーション部門講演会
  • [Presentation] アルコールの揮発を利用したユビキタスな冷感提示2023

    • Author(s)
      浜崎拓海,高見太基,牛山奎悟,溝口泉,梶本裕之
    • Organizer
      第24回計測自動制御学会システムインテグレーション部門講演会
  • [Presentation] 回転刺激を用いたなぞり感提示手法における回転速度が及ぼす影響の調査2023

    • Author(s)
      加藤総真,須賀悠偉,溝口泉,梶本裕之
    • Organizer
      第24回計測自動制御学会システムインテグレーション部門講演会
  • [Presentation] Modelling pf Perceptual Gloss under Mixed Lighting Conditions2023

    • Author(s)
      Midori Tanaka, Shoma Amari and Takahiko Horiuchi
    • Organizer
      30th Quadrennial Session of the CIE
    • Int'l Joint Research
  • [Presentation] Naturalness perception of 2.5D prints: elevation and size of prints relation2023

    • Author(s)
      A.Kadyrova, M.Pedersen, S.Westland, C.Weijkamp and T.Horiuchi
    • Organizer
      London Imaging Meeting
    • Int'l Joint Research
  • [Presentation] An HDR Image Database Construction and LDR-to-HDR Mapping for Metallic Objects2023

    • Author(s)
      Shoji Tominaga and Takahiko Horiuchi
    • Organizer
      Color Imaging Conference
    • Int'l Joint Research
  • [Presentation] Visual Perception Experiment and Analysis of Metamorphosis for Object Appearance by Change-Detection Task2023

    • Author(s)
      Kota Iwase, Momoka Matsufuji, Midori Tanaka and Takahiko Horiuchi
    • Organizer
      15th Congress of the International Colour Association
    • Int'l Joint Research
  • [Presentation] Analysis of Harmony between Coloured Light and Fragrance by the Left-Right Orbitofrontal Area2023

    • Author(s)
      Toshinori Oba, Midori Tanaka and Takahiko Horiuchi
    • Organizer
      15th Congress of the International Colour Association
    • Int'l Joint Research
  • [Presentation] Perceptual Collation Method for Colour Halftone Images based on Visual Saliency2023

    • Author(s)
      Taiga Baba, Midori Tanaka, Shoko Imaizumi and Takahiko Horiuchi
    • Organizer
      15th Congress of the International Colour Association
    • Int'l Joint Research
  • [Presentation] Physical and perceptual worlds of material appearance2023

    • Author(s)
      Takahiko Horiuchi
    • Organizer
      15th Congress of the International Colour Association
    • Int'l Joint Research
  • [Presentation] Experimental Study on Reducing Wavelength Dependency of Spatial Resolution Characteristics of a Digital Camera by MTF Correctio2023

    • Author(s)
      Tsubasa Ando, Midori Tanaka and Takahiko Horiuchi
    • Organizer
      Electronic Imaging
    • Int'l Joint Research
  • [Presentation] 左右のOFC反応に着目した色彩照明と香りの調和の解析2023

    • Author(s)
      大場俊範,田中緑,堀内隆彦
    • Organizer
      日本色彩学会第54回全国大会
  • [Presentation] 2次元分光放射計のMTF測定とディスプレイ計測への影響2023

    • Author(s)
      安渡翼,田中緑,堀内隆彦,正岡顕一郎
    • Organizer
      映像情報メディア学会年次大会
  • [Presentation] サブ画素構造が知覚的解像度に与える影響の実験的検討2023

    • Author(s)
      明田川航世,田中緑,堀内隆彦
    • Organizer
      日本色彩学会合同研究発表会
  • [Presentation] 画像のシーン照明が硬さ感知覚に与える影響2023

    • Author(s)
      太田響介,田中緑,堀内隆彦
    • Organizer
      日本色彩学会視覚情報基礎研究会
  • [Presentation] 香り表現におけるオノマトペ利用に関する基礎的検討2023

    • Author(s)
      荻野峻輔,松倉悠,坂本真樹
    • Organizer
      日本バーチャルリアリティ学会第32回香り・味と生体情報研究会
  • [Presentation] Comparison of Neural Networks Trained for Multi-Source and Single-Source Sound Recognition: Towards Modeling Auditory Mechanisms of Multi-Source Sound Recognition.2023

    • Author(s)
      Takuya Koumura, Hiroki Terashima, Shigeto Furukawa
    • Organizer
      第33回全国大会, 日本神経回路学会
  • [Presentation] 音認識で訓練した人工ニューラルネットワークの各層における変調周波数選択性2023

    • Author(s)
      上村 卓也, 寺島 裕貴, 古川 茂人
    • Organizer
      第150回(2023秋季)研究発表会, 日本音響学会
  • [Presentation] 複数音源認識で訓練した人工ニューラルネットワークにおける両耳間時間差チューニング2023

    • Author(s)
      上村 卓也, 寺島 裕貴, 古川 茂人
    • Organizer
      第151回(2024年春季)研究発表会, 日本音響学会
  • [Presentation] Simulating Psychophysical Modulation Masking Experiments in an Artificial Neural Network Trained for Sound Classification2023

    • Author(s)
      Takuya Koumura, Hiroki Terashima, Shigeto Furukawa
    • Organizer
      47th Annual MidWinter Meeting, Association for Research in Otolaryngology
    • Int'l Joint Research
  • [Presentation] Computational Comparative Approaches for Understanding Why Auditory Neurophysiological and Psychophysical Properties Have Emerged in the Auditory System2023

    • Author(s)
      Takuya Koumura
    • Organizer
      The 9th CiNet Conference
    • Int'l Joint Research
  • [Patent(Industrial Property Rights)] 画像処理装置、画像機器、画像処理方法、及びプログラム2024

    • Inventor(s)
      田中緑,安渡翼,堀内隆彦
    • Industrial Property Rights Holder
      国立大学法人千葉大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2024-007059
  • [Patent(Industrial Property Rights)] 触覚提示装置、触覚提示タッチパネルおよび触覚提示方法2023

    • Inventor(s)
      梶本裕之
    • Industrial Property Rights Holder
      国立大学法人電気通信大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2023-202673

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi