• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

A Study of Dynamic Audiovisual Integration based on High Speed Vision

Research Project

Project/Area Number 16360205
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeSingle-year Grants
Section一般
Research Field Measurement engineering
Research InstitutionHIROSHIMA UNIVERSITY

Principal Investigator

ISHII Idaku  Hiroshima University, Graduate School Associate Of Engineering, Professor, 大学院・工学研究科, 助教授 (40282686)

Co-Investigator(Kenkyū-buntansha) KANEKO Makoto  Hiroshima University, Graduate School Associate Of Engineering, Professor, 大学院・工学研究科, 教授 (70224607)
HIGASHIMORI Mitsuru  Hiroshima University, Graduate School Associate Of Engineering, Assistant, 大学院・工学研究科, 助手 (30346522)
Project Period (FY) 2004 – 2005
Project Status Completed (Fiscal Year 2005)
Budget Amount *help
¥12,800,000 (Direct Cost: ¥12,800,000)
Fiscal Year 2005: ¥6,900,000 (Direct Cost: ¥6,900,000)
Fiscal Year 2004: ¥5,900,000 (Direct Cost: ¥5,900,000)
KeywordsHigh Speed Vision / Visual Auditorization / Vibration Dynamics / Sound Synthesis / Audiovisual Integration / Pixelwise Source Detection / Doppler Shift / Source Measurement
Research Abstract

In this research, we constructed a theory for dynamic audiovisual integration which can integrate both vision sensor information and auditory sensor information at signal level in human audible frequency domain (20〜20kHz) by matching sampling and signal processing rates of vision sensor and auditory sensor. We also showed the effectiveness of dynamic audiovisual integration based on the vibrated dynamics which is contained in both visual information and auditory information commonly.
Concretely, we studied the following issues ; A)VA (Visual Auditorizaition) signal processing, in which visual information is converted into sound information at real-time, B)Pixel-wise Sound Source Detection by extracting the common dynamics between visual information and auditory information, C)Sound source distance / velocity measurement based on the difference between sound speed and light speed. These issues were implemented on the high speed vision system whose frame rate is in kHz order, and we verified the fundamental function of dynamic audiovisual integration.

Report

(3 results)
  • 2005 Annual Research Report   Final Research Report Summary
  • 2004 Annual Research Report
  • Research Products

    (38 results)

All 2006 2005 2004

All Journal Article (38 results)

  • [Journal Article] 高解像度ビジョンチップのためのCFPEアーキテクチャ2006

    • Author(s)
      山本 健吉, 窪園 宗寛, 石井 抱
    • Journal Title

      電子情報通信学会論文誌D Vol.J89-D,No.1

      Pages: 56-63

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] A CFPE Architecture for High Space Resolution Vision Chip2006

    • Author(s)
      K.Yamamoto, M.Kubozono, I.Ishii
    • Journal Title

      Trans.IEICE Vol.J89-D, No.1

      Pages: 56-63

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高解像度ビジョンチップのためのCFPEアーキテクチャ2006

    • Author(s)
      山本健吉, 窪園宗寛, 石井抱
    • Journal Title

      電子通信学会論文誌D Vol.J89-D No.1

      Pages: 56-63

    • Related Report
      2005 Annual Research Report
  • [Journal Article] 高速視覚を用いた実時間三次元追跡システム2005

    • Author(s)
      石井 抱, 田中 静一
    • Journal Title

      電子情報通信学会論文誌D-II Vol,J88-D-II,No12

      Pages: 2331-2340

    • NAID

      110004018394

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高速ビジョンを用いた弾性はりのダイナミック接触力推定2005

    • Author(s)
      金子 真, 溝井 敏幸, 石井 抱
    • Journal Title

      計測自動制御学会論文集 Vol.41,No.8

      Pages: 630-636

    • NAID

      130003971481

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Development of Higher Order Autocorreation Vision Chip2005

    • Author(s)
      Kenkichi Yamamoto, Munehiro Kubozono, Idaku Ishii
    • Journal Title

      Proceedings of the IEEE/RSJ International Conference on Intelligent Robots and SYsてms

      Pages: 3258-3263

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] ダイナミック視聴覚東郷に基づくリアルタイム音源定位2005

    • Author(s)
      辻 徳生, 山本 健吉, 石井 抱
    • Journal Title

      講演論文集(計測自動制御学会 第6回システムインテグレーション部門講演会) 1C2-1

      Pages: 81-82

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高次自己相関ビジョンチップを用いたリアルタイム計数処理2005

    • Author(s)
      窪園 宗寛, 山本 健吉, 石井 抱
    • Journal Title

      講演論文集(計測自動制御学会 第6回システムインテグレーション部門講演会) 1C2-2

      Pages: 83-84

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高速視覚による実時間振動分布計測2005

    • Author(s)
      杉山 克彦, 加藤 一樹, 石井 抱
    • Journal Title

      計測自動制御学会 第6回システムインテグレーション部門講演会/講演論文集 1C2-3

      Pages: 85-86

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] CFPEアーキテクチャに基づく高解像度ビジョンチップの設計と試作2005

    • Author(s)
      窪園 宗寛, 山本 健吉, 石井 抱
    • Journal Title

      日本機会学会 ロボティクス・メカトロニクス講演会'05/講演論文集 2P1-N-095

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Toward a Real Time Force Measurement by Vision2005

    • Author(s)
      Toshiyuki Mizoi, Idaku Ishii, Makoto kaneko
    • Journal Title

      Proc. of the Tenth Int. Symp. on Artificial Life and Robotics IS6-4(CD-ROM)

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Real-time Sound Source Localization based on Dynamic Audiovisual Integration2005

    • Author(s)
      T.Tsuji, K.Yamamoto, I.Ishii
    • Journal Title

      Proc.SICE S12004

      Pages: 81-82

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Development of Higher order Autocorrelation Vision Chip2005

    • Author(s)
      K.Yamamoto, M.Kubozono, I.Ishii
    • Journal Title

      Proceedings of the IEEE / RSJ International Conference on Intelligent Robots and Systems

      Pages: 3258-3263

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] A Real-Time Three Dimensional Tracking System using High Speed Vision2005

    • Author(s)
      I.Ishii, S.Tanaka
    • Journal Title

      Trans.IEICE Vol.J88-D-II, No.12

      Pages: 2331-2340

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] ダイナミック視聴覚統合に基づくリアルタイム音源定位2005

    • Author(s)
      辻徳生, 山本健吉, 石井抱
    • Journal Title

      計測自動制御学会 第6回システムインテグレーション部門講演会講演論文集

      Pages: 81-82

    • Related Report
      2005 Annual Research Report
  • [Journal Article] Development of Higher Order Autocorrelation Vision Chip2005

    • Author(s)
      K.Yamamoto, M.Kubozono, I.Ishii
    • Journal Title

      Proceedings of the IEEE/RSJ International Conference on Intelligent Robots and Systems

      Pages: 3258-3263

    • Related Report
      2005 Annual Research Report
  • [Journal Article] 高速視覚を用いた実時間三次元追跡システム2005

    • Author(s)
      石井抱, 田中靜一
    • Journal Title

      電子情報通信学会論文誌D-II Vol.J88-D-II No.12

      Pages: 2331-2340

    • NAID

      110004018394

    • Related Report
      2005 Annual Research Report
  • [Journal Article] Development of a Mega-pixel and Mill-second Vision System using Intelligent Pixel Selection2004

    • Author(s)
      Idaku Ishii, Kazuki Kato, Shogo Kurozumi, Hiroshi Nagai, Akihiko Numata, Kenji Tajima
    • Journal Title

      2004 1st IEEE Techinical Exhibition Based Conference on Robotics and Automation (TExCRA2004)

      Pages: 9-10

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Decvelopment of a high-resolution, high-speed vision system using CMOS image sensor technology enhanced by intelligent pixel selection technique2004

    • Author(s)
      Kenji Tajima, Akihiko Numata, Idaku Ishii
    • Journal Title

      Optics East 2004 : MACHINEVISIONANDITSOPTO-MECHATRONICAPPLICATIONS/Proc.SPIE Vol.5603

      Pages: 215-224

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高速ビジョンを用いた接触力のリアルタイム推定2004

    • Author(s)
      金子 真, 溝井 敏幸, 石井 抱
    • Journal Title

      計測自動制御学会 システムインテグレーション部門講演会/論文集 3A1-3

      Pages: 815-816

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 知的画素選択機能を有する高速・高空間解像度ビジョンシステム2004

    • Author(s)
      石井 抱, 杉山 克彦, 加藤 一樹, 黒住 省吾, 沼田 暁彦, 田嶋 健司
    • Journal Title

      計測自動制御学会 システムインテグレーション部門講演会/論文集 3A2-2

      Pages: 821-822

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高速視覚を用いた振動可視化しステム2004

    • Author(s)
      加藤 一樹, 石井 抱
    • Journal Title

      計測自動制御学会 システムインテグレーション部門講演会/論文集 3A2-3

      Pages: 825-826

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高次自己相関ビジョンチップの開発とその動作評価2004

    • Author(s)
      窪園 宗寛, 山本 健吉, 石井 抱
    • Journal Title

      第21回センシングフォーラム/資料

      Pages: 185-190

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 高速ビジョンに基づく3次元トラッキングシステム2004

    • Author(s)
      石井 抱, 田中 静一, 灘谷 演
    • Journal Title

      3次元画像コンファレンス2004/講演論文集

      Pages: 147-150

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 超高速・メガピクセルビジョンカメラヘッドの開発2004

    • Author(s)
      石井 抱, 加藤 一樹, 黒住 省吾, 越智 清仁, 灘谷 演, 沼田 暁彦, 田嶋 健司
    • Journal Title

      日本機会学会ロボティクス・メカトロニクス講演会'04/講演論文集 2P1-L1-50

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 64×64 画素高次自己相関ビジョンチップの開発と評価2004

    • Author(s)
      山本 健吉, 窪園 宗寛, 石井 抱
    • Journal Title

      日本機会学会ロボティクス・メカトロニクス講演会'04/講演論文集 2P1-L1-46

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] 複数のMmVision カメラを用いた高速ビジョンネットワークシステム2004

    • Author(s)
      杉山 克彦, 石井 抱
    • Journal Title

      日本機械学会ロボティクス・メカトロニクス講演会'04/講演論文集 2P1-L1-49

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] MmVision(Mega-pixel and milli-second vison)カメラヘッドの開発2004

    • Author(s)
      石井 抱, 加藤 一樹, 黒住 省吾, 灘谷 演, 越智 清仁, 沼田 暁彦, 田嶋 健司
    • Journal Title

      第10回 画像センシングシンポッジウム/講演論文集

      Pages: 185-188

    • Description
      「研究成果報告書概要(和文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Development of a MmVision (Mega-pixel and milli-second vision) Camera Head2004

    • Author(s)
      I.Ishii, K.Kato, S.Kurozumi, H.Nadatani, K.Ochi, A.Numata, K.Tajima
    • Journal Title

      Proc.SSII'04

      Pages: 185-168

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Development of a High-speed and Mega-pixel Camera Head2004

    • Author(s)
      I.Ishii, K.Kato, S.Kurozumi, H.Nadatani, K.Ochi, A.Numata, K.Tajima
    • Journal Title

      Proc.ROBOMEC'04 2P1-L1-50

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] Development of a Mega-pixel and Milli-second Vision System using Intelligent Pixel Selection2004

    • Author(s)
      I.Ishii, K.Kato, S.Kurozumi, A.Numata, K.Tajima
    • Journal Title

      Proc.The 2004 1^<st> IEEE Technical Exhibition Based Conference on Robotics and Automation

      Pages: 9-19

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] A Three-dimensional Tracking System based on High Speed Vision2004

    • Author(s)
      S.Tanaka H.Nadatani, I.Ishii
    • Journal Title

      Proc.3D Image Conf. 2004

      Pages: 147-150

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] A Vibration Visualization System using High Speed Vision2004

    • Author(s)
      K.Kato, I.Ishii, T.Yokota
    • Journal Title

      Proc.SICE SI2004

      Pages: 825-826

    • Description
      「研究成果報告書概要(欧文)」より
    • Related Report
      2005 Final Research Report Summary
  • [Journal Article] MmVision(Mega-pixel and milli-second vison)カメラヘッドの開発2004

    • Author(s)
      石井抱, 加藤一樹, 黒住省吾, 灘谷演, 越智清仁, 沼田暁彦, 田嶋健司
    • Journal Title

      画像センシング技術研究会 第10回画像センシングシンポジウム講演論文集 B-31

      Pages: 185-188

    • Related Report
      2004 Annual Research Report
  • [Journal Article] 超高速・メガピクセルビジョンカメラヘッドの開発2004

    • Author(s)
      石井抱, 加藤一樹, 黒住省吾, 越智清仁, 灘谷演, 沼田暁彦, 田嶋健司
    • Journal Title

      日本機械学会ロボティクス・メカトロニクス講演会'04講演論文集

    • Related Report
      2004 Annual Research Report
  • [Journal Article] Development of a Mega-pixel and Milli-second Vision System using Intelligent Pixel Selection2004

    • Author(s)
      I.Ishii, K.Kato, S.Kurozumi, H.Nagai, A.Numata, K.Tajima
    • Journal Title

      The 2004 1st IEEE Technical Exhibition Based Conference on Robotics and Automation

      Pages: 9-10

    • Related Report
      2004 Annual Research Report
  • [Journal Article] 高速ビジョンに基づく3次元トラッキングシステム2004

    • Author(s)
      田中靜一, 灘谷演, 石井抱
    • Journal Title

      3次元画像コンファレンス 2004講演論文集

      Pages: 147-150

    • Related Report
      2004 Annual Research Report
  • [Journal Article] 高速視覚を用いた振動可視化システム2004

    • Author(s)
      加藤一樹, 石井抱, 横田友哉
    • Journal Title

      計測自動制御学会 第5回システムインテグレーション部門講演会講演論文集

      Pages: 825-826

    • Related Report
      2004 Annual Research Report

URL: 

Published: 2004-04-01   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi