• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Research-status Report

Optical skin: 光と深層学習によるマルチモーダルソフトセンシング

Research Project

Project/Area Number 22K18792
Research InstitutionKanazawa University

Principal Investigator

砂田 哲  金沢大学, 機械工学系, 教授 (10463704)

Project Period (FY) 2022-06-30 – 2025-03-31
Keywordsスペックルパターン / マルチモーダルセンシング
Outline of Annual Research Achievements

本研究では、多様で複雑な外界刺激を的確に分離し且つ同時に検出可能なソフト・マルチモーダルセンシング手法の創出を目指している。本提案の骨子は、光スペックルによる符号化と深層学習により外界情報を推定することであり、接触力、接触位置、温度などの物理情報が、ミリニュートン、マイクロメートルオーダーの精度で同時に検出できることを明らかにしている。この結果に基づき、直径数cm程度の半球上の光マルチモーダル触覚センサを制作した。本センサはシリコーンゴムにより構成され、背景光を除去するためのコーティングも施している。本センサには、光ファイバを通じて光を入射するとシリコーン内部での散乱が生じる。その散乱パターンを測定するための小型カメラも搭載している。上述のように、触覚、温度を含む様々な情報が1つのセンサで同時に推定可能であるため、本センサをロボットアームの指として搭載することで、接触物質の判別ができるかを調べた。スペックルパターンから接触物質を推定するためのモデルとしては、CNNによる深層学習モデルを用いた。原理検証として、本センサをロボットハンドに搭載し、紙、アルミ、やすり、アクリルなどの素材を複数回接触させて、学習用データを取得した。結果として、本手法により98%以上の精度で材料の推定が可能であった。また、高精度の材料特定が可能となる条件を明らかにするため、スペックルイメージの前処理、平均化、学習用データ数の依存性などの系統的な調査も行なった。スペックルパターンと材料との関係においては、t-SNEによる低次元化手法を援用して、2層のCNNによる演算後に各材料の特徴をよく分離できるようになることも明らかにした。以上のように、本提案センサは、光干渉の高感度を利用して多様な物理量・接触物質を特定できる性質を有する。ロボットハンドでの触覚センサ応用に対する期待の持てる結果もえた。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当該年度は、当初の研究実施計画に従い、上述の光マルチモーダルセンサの原理検証実験を行い、その基本的な性能を評価した。また,ロボットハンドの指として搭載可能な小型な光マルチモーダルセンサを開発して、接触材料の識別が可能となることも示した。

Strategy for Future Research Activity

今年度に開発した触覚センサは、紙、アルミ、やすり、アクリルなど明らかに特徴の異なる材料であれば容易に識別可能である。次年度は、触り心地や手触りのような曖昧な感触とスペックルパターンへの反応との関係を明らかにする。また、本センサの出力は深層学習モデルを用いた物理情報のデコーディング方法に頼っているが、多くの学習データを必要とする。また、ロボット応用などでは、逐次的に学習していけるような手法に変更していくことが望ましい。よって、少ない学習データ量で逐次的な学習が可能なデコーディング手法も開発する。

  • Research Products

    (8 results)

All 2023 2022 Other

All Presentation (7 results) (of which Int'l Joint Research: 1 results,  Invited: 4 results) Remarks (1 results)

  • [Presentation] 光ニューラルネットワークコンピ―ティングの動向2023

    • Author(s)
      砂田 哲
    • Organizer
      フォトンテクノロジー技術部会
    • Invited
  • [Presentation] 光波動リザバーコンピューティング2023

    • Author(s)
      砂田 哲
    • Organizer
      光エレクトロニクス産学連携専門委員会『光の日』公開シンポジウム(第333回研究会)
    • Invited
  • [Presentation] Haptic Sensing Based on Deep Learning and Laser Speckles2022

    • Author(s)
      K. Sagehashi,K. Kitagawa,T. Niiyama,S. Sunada
    • Organizer
      2022 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] 光ニューラルフィールドダイナミクス:リザバー計算とセンシングへの展開2022

    • Author(s)
      砂田 哲
    • Organizer
      第83回応用物理学会秋季学術講演会, 23a-M206-1
    • Invited
  • [Presentation] ソフトマテリアルと機械学習を用いたOptical skinソフトインターフェース2022

    • Author(s)
      北川 慧,提橋 昂洋,新山 友暁,砂田 哲
    • Organizer
      第83回応用物理学会秋季学術講演会, 23p-M206-2
  • [Presentation] 光スペックルと深層学習を用いたマルチモーダルソフトセンシング2022

    • Author(s)
      提橋 昂洋,嶋寺 祥,新山 友暁,砂田 哲
    • Organizer
      Optics&Photonics Japan 2022, 15pD15
  • [Presentation] 光のニューラルフィールドダイナミクス:コンピューティングとセンシング応用2022

    • Author(s)
      砂田 哲,新山 友暁
    • Organizer
      Optics&Photonics Japan 2022, 15pAS7
    • Invited
  • [Remarks] 砂田・新山研究室

    • URL

      https://sn-lab.w3.kanazawa-u.ac.jp/

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi