効果音を対象とする無音動画の有音化の研究を行った。効果音を、繰り返し音、瞬間的な音、持続性のある音の三種類に分類し、瞬間的な音と持続性のある音について研究した。 瞬間的な音はミリ秒単位で発音位置を調整し、動画内の物体の動きと効果音の発音タイミングを一致させる必要がある。そこで音付き動画から効果音の合成に使用する特徴量と音データを切り出し、動画と独立なオブジェクト化を図ることとし、瞬間的な音の貼り付け技術を確立した。 爆発音など数ミリ秒から5秒程度持続する音は、広周波数帯域にわたり不規則に音成分が現れる。このため無音動画内の物体の動きに合わせて持続性のある効果音を低劣化で伸長させる技術を確立した。
|