• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

野鳥行動解析のためのマルチモーダル生態環境理解・解析技術の構築

Research Project

Project/Area Number 20H00475
Research InstitutionTokyo Institute of Technology

Principal Investigator

中臺 一博  東京工業大学, 工学院, 教授 (70436715)

Co-Investigator(Kenkyū-buntansha) 井手 一郎  名古屋大学, 数理・データ科学教育研究センター, 教授 (10332157)
鈴木 麗璽  名古屋大学, 情報学研究科, 准教授 (20362296)
森本 元  公益財団法人山階鳥類研究所, 自然誌研究室, 研究員 (60468717)
松林 志保  大阪大学, 大学院基礎工学研究科, 特任准教授(常勤) (60804804)
小島 諒介  京都大学, 医学研究科, 講師 (70807651)
Project Period (FY) 2020-04-01 – 2023-03-31
Keywordsマルチモーダル環境理解技術 / ロボット聴覚 / 音景解析技術 / 野鳥生態系影響評価 / 個体間コミュニケーション
Outline of Annual Research Achievements

本研究課題は,ロボット分野で研究開発されてきた「ロボット聴覚技術」を発展させ,視覚処理技術や機械学習技術と統合,生態学・環境学に適用可能な「マルチモーダル環境理解技術」を確立し,野生動物の観測データを質・量ともに数百倍に引き上げる次世代野生動物観測技術の開発により,生態学・環境学を新たなレベルへ導くことをゴールに,野鳥の鳴き声と画像から複数野鳥同時三次元追跡技術を開発し,群れ中の個体間コミュニケーション行動,夜間行動,配偶行動解析に適用すること,実フィールド背景音解析を通じ,音景解析技術を確立,環境・人による野鳥生態系・世代間伝承への影響評価,いずれも手法構築と実フィールド観測・解析の両面から取り組むことを目標としている.二年目にあたる2021年度については,初年度同様、コロナ禍,ならびにこれに端を発する半導体不足の影響を大きく受け,屋外観測作業が予定通り、遂行できず,また予定していた新規観測デバイスの構築が遅れた.このため,1年間の繰り越し処理を行ったが,2022年度も大きな状況の好転は見られず,全体として遅延がみられる.この中にあっても,創意工夫を行い,進められる項目について研究を推進し,以下のような実績を上げることができた.
技術的な実績:圃場内のキンカチョウを対象に視聴覚を利用した三次元追跡技術,マイクロホンアレイ校正技術の評価, カメラ付き長期収録デバイスの長期定点観測安定化,信号処理と機械学習を融合した音景解析技術構築
その他の実績:本研究課題の国際的なアピール活動として国際会議IEEE/SICE SII 2023 にてオーガナイズドセッション実施,ロボット学会学術講演会オーガナイズドセッション企画・運営,人工知能学会AIチャレンジ研究会で本研究課題をテーマに研究会を開催,アウトリーチ活動としてロボット聴覚ソフトウェアHARK講習会を人工知能学会合同研究会で開催.

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

上記2つの目標を達成するため,【WP1】複数野鳥マルチモーダル三次元追跡技術構築とその野鳥行動解析への適用,および【WP2】音景解析技術構築と野鳥生態系影響調査への適用の2つのワークパッケージを設定した.
【WP1】では,カメラ付きデバイス開発・収録の遅れにより,代替カメラを用いて圃場で収録したデータを対象として,視聴覚統合による鳥の追跡技術を構築した[Chu+22].また,複数マイクロホンアレイ使用時に重要となる前年度構築したマイクロホンアレイ校正技術のシミュレーション評価で有効性を実証した[Sugiyama+21].さらに, 既存デバイスを用いて収録したデータをもとにフクロウ行動解析[Matsubayashi+21],キンカチョウ行動解析 [Sumitani+21]を実施し,実データへの有効性を示した.
【WP2】 では,長期定点観測にむけ,カメラ付き長期収録デバイスの安定化を実施した.また,収録データの一部に対し分析を実施し,クラスごとのデータ数がアンバランスであっても識別学習が可能な技術を構築した[山本+21].また,音景解析技術では,複数マイクロホンアレイが利用可能な実時間分析技術が構築できた [上野+22].
全体として,コロナ禍,半導体不足の影響で,収録作業・デバイス動作安定化に遅延が生じた.フィールド実験・検証が難しい状況は変わらず,全体としてはやや遅延して進捗している.

Strategy for Future Research Activity

原則,3年目の計画に則り推進する.【WP1】 複数野鳥マルチモーダル三次元追跡技術構築とその野鳥行動解析への適用については,これまでに構築した視聴覚三次元鳴き声追跡技術の適用・改良を行う.カメラ付き収録デバイスが稼働するようになったため,これまで実施できなかった収録についても並行して実施する.具体的には,集団や個体間行動の観測が可能な森林性鳥類およびスズメを対象にした集団行動収録と解析,フクロウの行動の収録解析,ホシワキアカトウヒチョウ収録データからの行動解析実施を行う.
【WP2】 音景解析技術構築と野鳥生態系影響調査への適用については,ようやく動作が安定化したChirpyを用いた,長期定点観測(印旛沼周辺市街地)とデータ整備・分析を継続実施する.音景分析については,これまでに開発した手法を統合し,高速な信号処理手法と機械学習手法を融合した音景解析の手法を構築し,上記収録予定のデータにて解析を進める.

  • Research Products

    (32 results)

All 2022 2021 Other

All Journal Article (5 results) (of which Peer Reviewed: 5 results,  Open Access: 5 results) Presentation (24 results) (of which Int'l Joint Research: 5 results,  Invited: 5 results) Remarks (3 results)

  • [Journal Article] Assessment of Sound Source Tracking Using Multiple Drones Equipped with Multiple Microphone Arrays2021

    • Author(s)
      Yamada Taiki、Itoyama Katsutoshi、Nishida Kenji、Nakadai Kazuhiro
    • Journal Title

      International Journal of Environmental Research and Public Health

      Volume: 18 Pages: 9039~9039

    • DOI

      10.3390/ijerph18179039

    • Peer Reviewed / Open Access
  • [Journal Article] Multichannel environmental sound segmentation2021

    • Author(s)
      Sudo Yui、Itoyama Katsutoshi、Nishida Kenji、Nakadai Kazuhiro
    • Journal Title

      Applied Intelligence

      Volume: 51 Pages: 8245~8259

    • DOI

      10.1007/s10489-021-02314-5

    • Peer Reviewed / Open Access
  • [Journal Article] Non-Invasive Monitoring of the Spatio-Temporal Dynamics of Vocalizations among Songbirds in a Semi Free-Flight Environment Using Robot Audition Techniques2021

    • Author(s)
      Sumitani Shinji、Suzuki Reiji、Arita Takaya、Nakadai Kazuhiro、Okuno Hiroshi G.
    • Journal Title

      Birds

      Volume: 2 Pages: 158~172

    • DOI

      10.3390/birds2020012

    • Peer Reviewed / Open Access
  • [Journal Article] Proposal and Evaluation of Spatial Sound Source Separationusing NMF with Multiple Microphone Arrays2021

    • Author(s)
      Kagimoto Yasuhiro、Itoyama Katsutoshi、Nishida Kenji、Nakadai Kazuhiro
    • Journal Title

      Journal of the Robotics Society of Japan

      Volume: 39 Pages: 669~672

    • DOI

      10.7210/jrsj.39.669

    • Peer Reviewed / Open Access
  • [Journal Article] Two-Dimensional Environment Recognition by Audible Sound with Weighted Likelihood Function and Standing Wave2021

    • Author(s)
      Kishinami Hidehiko、Itoyama Katsutoshi、Nishida Kenji、Nakadai Kazuhiro
    • Journal Title

      Journal of the Robotics Society of Japan

      Volume: 39 Pages: 271~274

    • DOI

      10.7210/jrsj.39.271

    • Peer Reviewed / Open Access
  • [Presentation] 深層学習を用いた複数音声強調処理のアンサンブル手法の検討2022

    • Author(s)
      藤田 雅彦, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      情報処理学会全国大会
  • [Presentation] 野鳥の歌を対象とした複数マイクロフォンアレイを用いたリアルタイム音環境分析デバイスの開発2022

    • Author(s)
      上野 裕太, 小島 諒介
    • Organizer
      日本ロボット学会学術講演会
  • [Presentation] Towards detecting birds from panorama video aided by Sound Source Localization2022

    • Author(s)
      Baidong Chu, Chihaya Matsuhira, Yasutomo Kawanishi, Marc A. Kastner, Takahiro Komamizu, Ichiro Ide, Daisuke Deguchi
    • Organizer
      電子情報通信学会メディアエクスペリエンス・バーチャル環境基礎研究会
  • [Presentation] 深層フルランク空間相関分析に基づく遠隔音声認識のフロントエンド2022

    • Author(s)
      合澤 隆拓, 坂東 宜明, 西田 健次, 糸山 克寿, 中臺 一博
    • Organizer
      情報処理学会全国大会
  • [Presentation] ヒクイナの鳴き声自動観測の可能性と今後の課題2021

    • Author(s)
      松林志保, 斎藤史之, 鈴木麗璽, 中臺一博, 奥乃博
    • Organizer
      日本鳥学会2021年度大会
  • [Presentation] Robot Audition in Rescue Robotics2021

    • Author(s)
      Kazuhiro Nakadai
    • Organizer
      2021 IEEE International Symposium on Safety Security and Rescue Robotics (SSRR)
    • Int'l Joint Research / Invited
  • [Presentation] Robot Audition and Computational Auditory Scene Analysis2021

    • Author(s)
      Kazuhiro Nakadai
    • Organizer
      Robotics & Intelligent Systems, Australian Centre for Field Robotics, シドニー大学
    • Int'l Joint Research / Invited
  • [Presentation] Robot Audition 5.0: Listening to Several Things at Once and Beyond2021

    • Author(s)
      Kazuhiro Nakadai
    • Organizer
      IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2021)
    • Int'l Joint Research / Invited
  • [Presentation] Fully-Online Always-Adaptation of Transfer Functions and Its Application to Sound Source Localization and Separation2021

    • Author(s)
      Kazuhiro Nakadai, Masayuki Takigahira, Yusuke Kawai, Hirofumi Nakajima
    • Organizer
      IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2021)
    • Int'l Joint Research
  • [Presentation] Assessment of von Mises-Bernoulli Deep Neural Network in Sound Source Localization2021

    • Author(s)
      Katsutoshi Itoyama, Yoshiya Morimoto, Shungo Masaki, Ryosuke Kojima, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      INTERSPEECH 2021
    • Int'l Joint Research
  • [Presentation] スポットフォーミングによる音声認識性能向上の評価2021

    • Author(s)
      合澤 隆拓, 鍵本 泰宏, 西田 健次, 糸山 克寿, 中臺 一博
    • Organizer
      第22回計測自動制御学会システムインテグレーション部門講演会 (SI2021)
  • [Presentation] 転移学習を用いた音響クラス分類の検討2021

    • Author(s)
      露口 弘毅, 西田 健次, 糸山 克寿, 中臺 一博
    • Organizer
      第22回計測自動制御学会システムインテグレーション部門講演会 (SI2021)
  • [Presentation] ロボット聴覚 5.0 ~変遷と展望~2021

    • Author(s)
      中臺 一博
    • Organizer
      第22回計測自動制御学会システムインテグレーション部門講演会 (SI2021)
    • Invited
  • [Presentation] 複数マイクロホンアレイを用いたNMFによる空間音源分離法の残響下での評価2021

    • Author(s)
      鍵本 泰宏, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第58回人工知能学会回人工知能学会 AI チャレンジ研究会
  • [Presentation] Detecting earthquakes: a novel deep learning-based approach for effective disaster response2021

    • Author(s)
      Muhammad, Shakeel, Nishida, Kenji, Itoyama, Katsutoshi, Nakadai, Kazuhiro
    • Organizer
      第58回人工知能学会回人工知能学会 AI チャレンジ研究会
  • [Presentation] 伝達関数の常時オンライン適応による音源定位・分離の向上2021

    • Author(s)
      中臺 一博, 瀧ケ平 雅行, 河合 熊輔, 中島 弘史
    • Organizer
      第58回人工知能学会回人工知能学会 AI チャレンジ研究会
  • [Presentation] 複数マイクアレイを用いたキンカチョウの時空間的発声パターンに基づく個体間相互作用の調査2021

    • Author(s)
      炭谷 晋司, 鈴木 麗璽, 有田 隆也, 和多 和宏, 松林 志保, 中臺 一博, 奥乃 博
    • Organizer
      第58回人工知能学会回人工知能学会 AI チャレンジ研究会
  • [Presentation] Numerical Evaluation of 3D Sound Source Tracking Methods for Drones with Microphone Arrays2021

    • Author(s)
      Taiki Yamada, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      第39回日本ロボット学会学術講演会
  • [Presentation] 複数マイクロホンアレイの同期および3次元位置・姿勢推定の同時最適化の検討2021

    • Author(s)
      杉山 地塩, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第39回日本ロボット学会学術講演会
  • [Presentation] 野外での鳥類鳴き声観測のためのWebベース録音ユニットと可視化ツールの試作2021

    • Author(s)
      炭谷 晋司, 大和 祐介, 鈴木 麗璽, 小島 諒介, 有田 隆也, 中臺 一博, 奥乃 博
    • Organizer
      第39回日本ロボット学会学術講演会
  • [Presentation] 類似度行列を考慮した野鳥の歌自動識別の検討2021

    • Author(s)
      山本 遼, 中臺 一博, 西田 健次, 糸山 克寿
    • Organizer
      第39回日本ロボット学会学術講演会
  • [Presentation] エコロケーションに基づく視覚シーンの再構成 手法の提案と入力特徴量の検討2021

    • Author(s)
      岸波 華彦, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第39回日本ロボット学会学術講演会
  • [Presentation] アンサンブル時間周波数マスクによる音声強 調手法の評価2021

    • Author(s)
      藤田 雅彦, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第39回日本ロボット学会学術講演会
  • [Presentation] ロボット聴覚・音環境理解研究とその展開2021

    • Author(s)
      中臺 一博
    • Organizer
      生理研研究会「人工知能技術と科学の協調と展開
    • Invited
  • [Remarks] Robot Audition Open Source Software HARK

    • URL

      https://hark.jp

  • [Remarks] HARKBird

    • URL

      https://sites.google.com/view/alcore-suzuki/home/harkbird

  • [Remarks] Nakadai Lab HP

    • URL

      https://www.ra.sc.e.titech.ac.jp

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi