• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

未学習クラス推定深層確率ニューラルネットの提案と自動的作業記録生成への応用

Research Project

Project/Area Number 23K16935
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 61020:Human interface and interaction-related
Research InstitutionKanagawa Institute of Industrial Sclence and Technology

Principal Investigator

迎田 隆幸  地方独立行政法人神奈川県立産業技術総合研究所, 戦略的研究シーズ育成プロジェクト, 研究員(任期有) (40914180)

Project Period (FY) 2023-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,810,000 (Direct Cost: ¥3,700,000、Indirect Cost: ¥1,110,000)
Fiscal Year 2025: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2024: ¥1,820,000 (Direct Cost: ¥1,400,000、Indirect Cost: ¥420,000)
Fiscal Year 2023: ¥2,340,000 (Direct Cost: ¥1,800,000、Indirect Cost: ¥540,000)
Keywordsオープンセット認識 / 隠れマルコフモデル / 確率ニューラルネット / 行動分類 / 介護作業支援 / 足底圧
Outline of Research at the Start

機械学習に基づく分類モデルでは学習時に想定しない異常な入力に対する挙動を保証できないため,学習してない事象を“未学習”として判断可能なオープンセット認識(OSR)の研究が盛んになっている.ただし,OSR手法では大量の学習サンプルの収集が前提で,検知した異常値に関する知見を一切獲得できないという問題を抱えている.本研究では,①少量のサンプルからも学習可能な独自の確率ニューラルネットの提案し,②異常値が属する未学習クラスの知的構造解析までを実現する統合的異常評価手法を確立する.最終的にはウェアラブルな作業計測法と組み合わせ,福祉・産業分野で活用する作業記録自動生成システムの開発を試みる.

Outline of Annual Research Achievements

機械学習において学習データと対応する教師ラベルが利用できる教師あり学習問題を扱う場合,予め学習対象となる事象数やそのサンプルを与えて分類モデルの学習を実現する.ただし,起こりうる全事象を網羅した学習を行うのは不可能で,事前に想定しない未知事象が入力された際の挙動は保証されない.画像認識分野をはじめ,各分野で未知事象を明示的に扱えるモデルの重要性が高まっており,異常サンプルが学習時に利用しない半教師あり学習を適用可能なオープンセット認識手法の研究が盛んに行われている.
昨年度は高次な時系列データを分類対象として扱い,高精度なオープンセット認識を可能にする深層リカレント確率ニューラルネットの開発に取り組んだ.提案ネットワークは2種類の確率モデルを内包しており,1つは混合正規分布(GMM)を出力分布として有する適応的遷移型隠れマルコフモデル(A-HMM),もう1つは混合余事象分布(CGMM)を出力分布に有するA-HMMである.前者は学習対象クラスの時系列データのモデル化に,後者は未知事象の時系列データを仮定するために利用される.また,A-HMMは通常の隠れマルコフモデルと異なり,状態遷移確率の時間変化を許容したモデル構造になっており,より複雑な時系列変化を表現できる特徴を有する.複雑化したGMM,CGMM,A-HMMの確率演算をネットワーク状に展開し,統計的パラメータをネットワーク重みとして獲得することで,時系列データに対するオープンセット認識を実現できる.実験では加速度データを使用したヒトの行動分類タスクに提案法を適用し,従来法より高精度なオープンセット認識が可能であることを示した.また,提案法を学習サンプル数がクラス毎に極端に異なる不均衡データ問題に適応したところ,A-HMMを並列に結合した特殊なネットワーク構造によって非常に優れた分類精度を得られることが確認できた.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

研究実績に記したように,昨年度では高精度なオープンセット認識を可能にする深層リカレント確率ニューラルネットの提案を実現し,加速度データを使用した基礎的な検証も実施済みである.上記に加えて,未知クラスの内部構造解析や得られた知見をモデルに導入する適応的学習法の確立にも取り組んだ.前提条件として未知クラスとして分類されたサンプルが十分蓄積されたシチュエーションを想定する.分類対象クラスの学習データと未知クラスのサンプルから構成される新たな学習データに対し,対数線形化された無限混合正規分布(LL-IGMM)による教師なし学習を実施した.LL-IGMMではGMMのパラメータだけでなく,学習データに含まれる正規分布の数までを推定でき,事前にデータ構造を定義できない未知クラスの内部構造推定に適している.さらに,LL-IGMMは対数線形化されたGMM,すなわち確率ニューラルネットを直接サンプルリングしており,尤度および事後分布の算出を高速に実施できるという特徴も有する.サンプリングした確率ニューラルネット郡の結合・追加・削除を行うことで,ネットワーク構造の適応的修正も可能となる.人工データや生体信号を使用した検証実験を通して,提案法は通常のIGMMと比較し1.6倍高速な学習を可能にし,サンプルリング後のネットワークの重みを微調整だけで高精度なオープンセット認識が実現できたことを確認した.ただし,LL-IGMMではデータの時系列変化を考慮できておらず,静的な分布構造の解析に留まっているという課題も存在する.
上記のような成果から研究は順調に進んでいると評価しており,提案法のさらなる実証やヒト計測システムの構築にシフトしていく予定である.

Strategy for Future Research Activity

本年度はまず未知クラス推定深層リカレント確率ニューラルネットの学習則の改善に取り組む.提案法は分類モデルである一方,生成モデルとしての側面も有するが,学習時に考慮されているのは交差エントロピー誤差のみである.学習データの分布形状も含めて正しく獲得するためには学習データに対するネットワークパラメータの事後分布を考慮する必要があり,複雑な事後分布の獲得にはサンプリングによる学習法の導入が不可欠である.一方,サンプリングによる学習法は多くの学習データ,学習回数を必要とし,正確な分布形状を取得しなくてもよい提案法にとっては非常に冗長であると考える.そこで,本年度は学習時の評価関数に分類誤差だけでなく,学習データに対する尤度に関する項を織り込むことで,分布形状と分類精度の両方を最適化する学習則の開発を目指す.
さらに,作業を妨げない行動分類を実現するために,ウェアラブル・エンベデッドセンサによる作業計測システムを構築する.スマートウォッチによる片上肢姿勢計測,胸ポケットに挿入したスマートフォンによる上体姿勢計測,インソール型足底圧センサによる下肢姿勢分類および外部負荷推定を組み合わせたセンサフュージョンシステムを提案する.作業分類時には陽に姿勢推定行わず全測定値を分類モデルに入力し,作業負荷推定時には各部位の姿勢や外部負荷を個別に推定することで,作業記録生成と作業負荷評価の両方の自動化を可能にする.
上記の通り,本年度は分類手法および計測システムの確立に注力し,最終年度で実施予定の介護施設や工場での実証実験に向けた準備を進める.

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (6 results)

All 2024 2023

All Presentation (5 results) (of which Int'l Joint Research: 1 results) Patent(Industrial Property Rights) (1 results)

  • [Presentation] 適応的遷移型HMMを内包するリカレント確率ニューラルネットによるオープンセット動作認識2024

    • Author(s)
      迎田 隆幸,嘉山 敢太,島 圭介
    • Organizer
      第29回ロボティクスシンポジア
    • Related Report
      2023 Research-status Report
  • [Presentation] 対数線形化された無限混合正規分布に基づく未知クラス推定確率ニューラルネットの構造最適化2024

    • Author(s)
      南部 穣汰,迎田 隆幸,島 圭介
    • Organizer
      情報処理学会 第86回全国大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 余事象分布を内包するリカレント確率ニューラルネットによるエンドミル加工面の面粗さ推定2023

    • Author(s)
      迎田 隆幸,島 圭介,横田 知宏,奥田 誠
    • Organizer
      第31回インテリジェント・システム・シンポジウム
    • Related Report
      2023 Research-status Report
  • [Presentation] 適応的遷移確率を導入した混合正規分布内包型隠れマルコフモデルに基づくリカレント確率ニューラルネット2023

    • Author(s)
      嘉山 敢太,迎田 隆幸,島 圭介
    • Organizer
      第24回計測自動制御学会システムインテグレーション部門講演会
    • Related Report
      2023 Research-status Report
  • [Presentation] Open-set motion recognition and adaptive structural modification of classifiers based on clustering of unknown motions2023

    • Author(s)
      Takayuki Mukaeda, Keisuke Shima
    • Organizer
      2023 IEEE International Conference on Systems, Man, and Cybernetics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Patent(Industrial Property Rights)] 識別装置、識別方法およびプログラム2024

    • Inventor(s)
      島 圭介,嘉山 敢太,迎田 隆幸
    • Industrial Property Rights Holder
      島 圭介,嘉山 敢太,迎田 隆幸
    • Industrial Property Rights Type
      特許
    • Filing Date
      2024
    • Related Report
      2023 Research-status Report

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi