• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

野鳥行動解析のためのマルチモーダル生態環境理解・解析技術の構築

Research Project

Project/Area Number 20H00475
Research InstitutionTokyo Institute of Technology

Principal Investigator

中臺 一博  東京工業大学, 工学院, 教授 (70436715)

Co-Investigator(Kenkyū-buntansha) 井手 一郎  名古屋大学, 数理・データ科学教育研究センター, 教授 (10332157)
鈴木 麗璽  名古屋大学, 情報学研究科, 准教授 (20362296)
森本 元  公益財団法人山階鳥類研究所, 自然誌研究室, 研究員 (60468717)
松林 志保  大阪大学, 基礎工学研究科, 特任准教授(常勤) (60804804)
小島 諒介  京都大学, 医学研究科, 講師 (70807651)
Project Period (FY) 2020-04-01 – 2023-03-31
Keywordsマルチモーダル環境理解技術 / ロボット聴覚 / 音景解析技術 / 野鳥生態系影響評価 / 個体間コミュニケーション
Outline of Annual Research Achievements

本研究課題は,ロボット分野で研究開発されてきた「ロボット聴覚技術」を発展させ,視覚処理技術や機械学習技術と統合,生態学・環境学に適用可能な「マルチモーダル環境理解技術」を確立し,野生動物の観測データを質・量ともに数百倍に引き上げる次世代野生動物観測技術の開発により,生態学・環境学を新たなレベルへ導くことをゴールに,野鳥の鳴き声と画像から複数野鳥同時三次元追跡技術を開発し,群れ中の個体間コミュニケーション行動,夜間行動,配偶行動解析に適用すること,実フィールド背景音解析を通じ,音景解析技術を確立,環境・人による野鳥生態系・世代間伝承への影響評価,いずれも手法構築と実フィールド観測・解析の両面から取り組むことを目標としている.初年度については,コロナ禍,ならびにこれに端を発する半導体不足の影響を大きく受け,屋外観測作業が遂行できず,また予定していた新規観測デバイスの構築が遅れた.このため,1年間の繰り越し処理を行ったが,2021年度も大きな状況の好転は見られず,全体として遅延がみられる.この中にあっても,創意工夫を行い,進められる項目について研究を推進し,以下のような実績を上げることができた.
技術的な実績:複数マイクアレイによる三次元追跡技術,校正技術の構築, カメラ付き長期収録デバイスの開発と長期定点観測開始,音景解析技術として,低次元埋め込み手法構築
論文的な実績:雑誌論文7, 国際会議11,国内会議22, 受賞5
その他の実績:本研究課題の国際的なアピール活動として国際会議IEEE/SICE SII 2021 にてオーガナイズドセッション実施,人工知能学会AIチャレンジ研究会で本研究課題をテーマに2回研究会を開催,アウトリーチ活動としてロボット聴覚ソフトウェアHARK講習会を国内外の学会内 (IJCAI2020,人工知能学会合同研究会) で計2回開催.

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

上記2つの目標を達成するため,【WP1】複数野鳥マルチモーダル三次元追跡技術構築とその野鳥行動解析への適用,および【WP2】音景解析技術構築と野鳥生態系影響調査への適用の2つのワークパッケージを設定した.
【WP1】では,三次元鳴き声追跡技術構築を目指し,校正問題など基礎的な技術の取り組みを含め,複数マイクアレイを統合する技術を開発[Yamada 2021 SII],複数野鳥の三次元追跡への適用を試行 [Sumitani 21 Birds].カメラ付きデバイス開発・収録実施が遅れにより,複数カメラ三次元画像追跡技術構築は,代替カメラでの基礎データ収集実施.スズメ集団行動解析,フクロウ行動解析,キンカチョウ行動解析については,データ収録・解析準備を推進 [Sumitani 21 SII & Matsubayashi 21 SII].
【WP2】 では,カメラ付き16ch新緑色マイクアレイを2タイプ開発(定点観測用のPoE付Chirpy-D,遠隔地単独収録用の大容量バッテリ付きChirpy-S).Chirpy-D 4台を利用して,印旛沼周辺市街地にて,長期定点観測を開始,一部アノテーションを実施.複数個所音景解析データ用に,カリフォルニアの研究者に依頼し,既存8chマイクアレイを用いたホシアカトウヒチョウのプレイバック実験収録実施.音景解析技術には,鳴き声のフレーズ単位教師なしクラスタリング,可視化可能な低次元埋め込み手法を構築 [Shizato 21 SII].
全体として,コロナ禍,ならびにこれに端を発する半導体不足の影響で,収録・デバイス開発に遅れが生じた.次善策として既存デバイスやデータを利用して,技術開発は予定通り進めたが,フィールド実験・検証が難しい状況は変わらず,全体としてはやや遅延して進捗している.

Strategy for Future Research Activity

原則,2年目の計画に則り推進する.【WP1】 複数野鳥マルチモーダル三次元追跡技術構築とその野鳥行動解析への適用については,これまで構築してきた複数アレイ三次元鳴き声追跡技術と複数カメラ三次元画像追跡技術の統合技術の構築を行う.また,2020年度, 2021年度で実施できなかった収録についても並行して実施する.具体的には,集団や個体間行動の観測が可能な森林性鳥類およびスズメを対象にした集団行動収録と解析,フクロウの行動の収録解析,キンカチョウ収録データからの行動解析実施を行う.
【WP2】 音景解析技術構築と野鳥生態系影響調査への適用については,新規開発デバイスChirpyを用いた,長期定点観測(印旛沼周辺市街地)とデータ整備・分析を継続実施する.また,使用者のフィードバックに基づいたデバイス改良も行う.さらに,音景分析のため,既開発の教師なしクラスタリング手法を発展させ,長期間の時系列データに対し,鳴き声と環境変化の相関を複数年にわたり可視化・解析できる手法の構築を進める.

Remarks

HARK講習会の情報・当日の動画も https://hark.jp にて公開

  • Research Products

    (42 results)

All 2021 2020 Other

All Journal Article (7 results) (of which Peer Reviewed: 7 results,  Open Access: 7 results) Presentation (31 results) (of which Int'l Joint Research: 11 results,  Invited: 2 results) Remarks (3 results) Funded Workshop (1 results)

  • [Journal Article] Multichannel environmental sound segmentation2021

    • Author(s)
      Sudo Yui、Itoyama Katsutoshi、Nishida Kenji、Nakadai Kazuhiro
    • Journal Title

      Applied Intelligence

      Volume: 51 Pages: 8245~8259

    • DOI

      10.1007/s10489-021-02314-5

    • Peer Reviewed / Open Access
  • [Journal Article] Non-invasive monitoring of the spatio-temporal dynamics of vocalizations among songbirds in a semi free-flight environment using robot audition techniques2021

    • Author(s)
      Shinji Sumitani, Reiji Suzuki, Takaya Arita, Kazuhiro Nakadai, Hiroshi G. Okuno
    • Journal Title

      Birds

      Volume: 2 Pages: 158-172

    • DOI

      10.3390/birds2020012

    • Peer Reviewed / Open Access
  • [Journal Article] Detecting earthquakes: a novel deep learning-based approach for effective disaster response2021

    • Author(s)
      Shakeel Muhammad, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Journal Title

      Applied Intelligence

      Volume: 51 Pages: 8305-8315

    • DOI

      10.1007/s10489-021-02285-7

    • Peer Reviewed / Open Access
  • [Journal Article] Sound event aware environmental sound segmentation with Mask U-Net2020

    • Author(s)
      Yui Sudo, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Journal Title

      Advanced Robotics

      Volume: 34 Pages: 1280-1290

    • DOI

      10.1080/01691864.2020.1829040

    • Peer Reviewed / Open Access
  • [Journal Article] Robot Audition and Computational Auditory Scene Analysis2020

    • Author(s)
      Kazuhiro Nakadai, Hiroshi G. Okuno
    • Journal Title

      Advanced Intelligent Systems

      Volume: 2 Pages: 2000050

    • DOI

      10.1002/aisy.202000050

    • Peer Reviewed / Open Access
  • [Journal Article] Calibration of a Microphone Array Based on a Probabilistic Model of Microphone Positions2020

    • Author(s)
      Katsuhiro Dan, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Journal Title

      Trends in Artificial Intelligence Theory and Applications. IEA/AIE 2020

      Volume: 12144 Pages: 614-625

    • DOI

      10.1007/978-3-030-55789-8_53

    • Peer Reviewed / Open Access
  • [Journal Article] 音で追跡するフクロウの巣立ち2020

    • Author(s)
      松林 志保, 斎藤 史之, 鈴木 麗璽, 中臺 一博, 奥乃 博
    • Journal Title

      景観生態学

      Volume: 25 Pages: 87-89

    • DOI

      10.5738/jale.25.87

    • Peer Reviewed / Open Access
  • [Presentation] An Unsupervised Auditory Scene Analysis System Using Incremental Low-Dimensional Embedding2021

    • Author(s)
      K. Shinzato, R. Kojima
    • Organizer
      021 IEEE/SICE International Symposium on System Integration (SII)
    • Int'l Joint Research
  • [Presentation] Assessment of a Beamforming Implementation Developed for Surface Sound Source Separation2021

    • Author(s)
      Zhi Zhong, Shakeel Muhammad, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      021 IEEE/SICE International Symposium on System Integration (SII)
    • Int'l Joint Research
  • [Presentation] Sound Source Tracking Using Integrated Direction Likelihood for Drones with Microphone Arrays2021

    • Author(s)
      Taiki Yamada, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      021 IEEE/SICE International Symposium on System Integration (SII)
    • Int'l Joint Research
  • [Presentation] Visualizing Directional Soundscapes of Bird Vocalizations Using Robot Audition Techniques2021

    • Author(s)
      Reiji Suzuki, Hao Zhao, Shinji Sumitani, Shiho Matsubayashi, Takaya Arita, Kazuhiro Nakadai, Hiroshi G. Okuno
    • Organizer
      021 IEEE/SICE International Symposium on System Integration (SII)
    • Int'l Joint Research
  • [Presentation] Multi-Channel Environmental Sound Segmentation Utilizing Sound Source Localization and Separation U-Net2021

    • Author(s)
      Yui Sudo, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      021 IEEE/SICE International Symposium on System Integration (SII)
    • Int'l Joint Research
  • [Presentation] EMC: Earthquake Magnitudes Classification on Seismic Signals Via Convolutional Recurrent Networks2021

    • Author(s)
      Shakeel Muhammad, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      021 IEEE/SICE International Symposium on System Integration (SII)
    • Int'l Joint Research
  • [Presentation] Observing Nocturnal Birds Using Localization Techniques2021

    • Author(s)
      Shiho Matsubayashi, Fumiyuki Saito, Reiji Suzuki, Kazuhiro Nakadai, Hiroshi G. Okuno
    • Organizer
      021 IEEE/SICE International Symposium on System Integration (SII)
    • Int'l Joint Research
  • [Presentation] ロボット聴覚とその展開2021

    • Author(s)
      中臺 一博
    • Organizer
      双葉記念財団衛藤細矢記念賞受賞記念講演
    • Invited
  • [Presentation] 鳥類学におけるロボット技術や AI の関わり2021

    • Author(s)
      森本元
    • Organizer
      第58回人工知能学会 AI チャレンジ研究会
    • Invited
  • [Presentation] 複数マイクロホンアレイの同期および位置・姿勢推定の同時最適化の検討2021

    • Author(s)
      杉山 地塩, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      情報処理学会 第83回全国大会
  • [Presentation] アンサンブル時間周波数マスクによる音声強調手法の検討2021

    • Author(s)
      藤田 雅彦, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      情報処理学会 第83回全国大会
  • [Presentation] Synchronization of Microphones Based on Rank Minimization of Warped Spectrum for Asynchronous Distributed Recording2020

    • Author(s)
      Katsutoshi Itoyama and Kazuhiro Nakadai
    • Organizer
      2020 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)
    • Int'l Joint Research
  • [Presentation] Detection of ball spin direction using hitting sound in tennis2020

    • Author(s)
      Naoki Yamamoto, Kenji Nishida, Katsutoshi Itoyama, Kazuhiro Nakadai
    • Organizer
      8th International Conference on Sport Sciences Research and Technology Support (icSPORTS 2020)
    • Int'l Joint Research
  • [Presentation] Onset-informed source separation using non-negative matrix factorization with binary masks2020

    • Author(s)
      Yuta Kusaka, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      23rd International Conference on Digital Audio Effects (DAFx-2020)
    • Int'l Joint Research
  • [Presentation] 3D Sound Source Tracking for Drones Using Direction Likelihood2020

    • Author(s)
      Taiki Yamada, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      the first e-Symposium on Noise of UAV and UAS (Quiet Drones 2020)
    • Int'l Joint Research
  • [Presentation] オンライン音環境認識のための低次元埋め込み手法の高速化2020

    • Author(s)
      新里 顕大, 小島 諒介
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] 複雑なニューラルネットワークを対象としたノードプルーニングベースのモデル圧縮の検討2020

    • Author(s)
      中臺一博, 福本陽介, 武田龍
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] 表情による感情推定と音声による感情推定手法の検討2020

    • Author(s)
      西田 健次, 山田 亨, 糸山 克寿, 中臺 一博
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] マイクロホンアレイ搭載ドローンによる音源方向尤度統合に基づく音源追跡2020

    • Author(s)
      山田 泰基, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] テニスにおける打球音を用いた球種識別の検討2020

    • Author(s)
      山本 修己, 西田 健次, 糸山 克寿, 中臺 一博
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] マイクロホン位置と音源スペクトルの確率モデルに基づくマイクロホンアレイのキャリブレーション2020

    • Author(s)
      段 雄啓, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] バイナリマスク付き非負値行列因子分解に基づく発音時刻を用いた音源分離2020

    • Author(s)
      日下 湧太, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] Visualizing Soundscape of Animal Vocalizations in Forests Using Robot Audition Techniques2020

    • Author(s)
      Hao Zhao, Reiji Suzuki, Shinji Sumitani, Shiho Matsubayashi, Takaya Arita, Kazuhiro Nakadai, Hiroshi G. Okuno
    • Organizer
      第57回人工知能学会 AI チャレンジ研究会
  • [Presentation] Implementation and Performance Assessment of the Scan-and-sum Beamformer2020

    • Author(s)
      Zhi Zhong, Katsutoshi Itoyama, Kenji Nishida, Kazuhiro Nakadai
    • Organizer
      第38回日本ロボット学会学術講演会予稿集 (RSJ 2020)
  • [Presentation] テニスの打球音による球種識別の検討2020

    • Author(s)
      山本 修己, 西田 健次, 糸山 克寿, 中臺 一博
    • Organizer
      第38回日本ロボット学会学術講演会予稿集 (RSJ 2020)
  • [Presentation] ロボット聴覚技術の活用による鳥類音声の到来方向に基づく音風景の可視化の検討2020

    • Author(s)
      鈴木 麗璽, 趙 浩, 炭谷 晋司, 松林 志保, 有田 隆也, 中臺 一博, 奥乃 博
    • Organizer
      第38回日本ロボット学会学術講演会予稿集 (RSJ 2020)
  • [Presentation] 環境音情報と画像情報を用いた物体検出による音ラベル付きセグメントの生成2020

    • Author(s)
      鈴木 啓, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第38回日本ロボット学会学術講演会予稿集 (RSJ 2020)
  • [Presentation] 伸縮スペクトルのランク最小化の緩和に基づくチャネル間同期2020

    • Author(s)
      糸山 克寿, 中臺 一博
    • Organizer
      第38回日本ロボット学会学術講演会予稿集 (RSJ 2020)
  • [Presentation] 複数マイクロホンアレイを用いたNMFによる空間音源分離法の提案と評価2020

    • Author(s)
      鍵本 泰宏, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第38回日本ロボット学会学術講演会予稿集 (RSJ 2020)
  • [Presentation] 重み付け尤度関数と定在波を用いた可聴音による二次元環境認識2020

    • Author(s)
      岸波 華彦, 糸山 克寿, 西田 健次, 中臺 一博
    • Organizer
      第38回日本ロボット学会学術講演会予稿集 (RSJ 2020)
  • [Presentation] バイナリマスク付き非負値行列因子分解による発音時刻を用いた音源分離手法とその評価2020

    • Author(s)
      日下湧太,糸山克寿,西田健次, 中臺一博
    • Organizer
      情報処理学会 音楽情報処理研究会(SIGMUS-124-14)
  • [Remarks] Robot Audition Open Source Software HARK

    • URL

      https://hark.jp

  • [Remarks] HARKBird

    • URL

      https://sites.google.com/view/alcore-suzuki/home/harkbird

  • [Remarks] Nakadai Lab HP

    • URL

      https://www.ra.sc.e.titech.ac.jp

  • [Funded Workshop] IJCAI 2020 tutorial on robot audition software HARK2021

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi