• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2017 Fiscal Year Annual Research Report

次世代高精度検索を実現するスーパーマルチモーダル人間情報解析基盤

Research Project

Project/Area Number 17H01744
Research InstitutionHokkaido University

Principal Investigator

長谷山 美紀  北海道大学, 情報科学研究科, 教授 (00218463)

Co-Investigator(Kenkyū-buntansha) 高橋 翔  北海道大学, 工学研究院, 准教授 (00708018)
畠山 泰貴  広島市立大学, 情報科学研究科, 助教 (10786370) [Withdrawn]
小川 貴弘  北海道大学, 情報科学研究科, 准教授 (20524028)
Project Period (FY) 2017-04-01 – 2022-03-31
Keywords画像 / 機械学習 / 人工知能
Outline of Annual Research Achievements

【平成29年度の研究実施計画:ユーザの興味推定を可能とする多種類センサーデータ統合解析技術の開発】
平成29年度の研究では、まず、各種センサーを用いて、コンテンツを視聴するユーザの視線・心拍・表情等の生体情報を代表とするセンサーデータを取得した。さらに、センサーデータとマルチメディアデータという極めて異質なデータの関連性を相関分析理論に基づき推定することで、ユーザの興味を誘発するコンテンツの検出を可能とした。具体的に、相関分析理論に基づき、ユーザの視線・心拍・表情等の生体情報を表すセンサーデータとマルチメディアの関連性を明らかにすることで、互いに比較可能な特徴量を導出可能とし、ユーザの興味を誘発するコンテンツを検出する技術を構築した。この際、コンテンツを視聴するユーザの脳波や脳血流データに基づき、興味推定の定量的な精度検証を可能とする枠組みを合わせて構築する。本フェーズにより、これまで統合的に解析することができなかった、センサーデータとマルチメディアデータという極めて異質なデータを同一の特徴空間で統一的に処理可能となった。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

研究実績の概要で述べた通り、平成29年度の研究では、センサーデータとマルチメディアデータという極めて異質なデータの関連性を相関分析理論に基づき推定することで、ユーザの興味を誘発するコンテンツの検出を可能としており、当初の計画通り進んでいる。また、次年度以降に実施するグラフ解析についても着手しており、前倒しで研究が進んでいる。

Strategy for Future Research Activity

平成29年度の研究で得られた特徴量を用い、マルチメディアデータとセンサーデータを同一の特徴空間で互いに比較可能とする超グラフを構築する。さらに、グラフ解析法を高度化し、異種データ間の関連性を明らかにする新たな手法を実現する。これにより、共通の興味を有するコンテンツとユーザを統合的にグルーピングし、コミュニティとして抽出することが可能となり、ユーザとコンテンツを同時に活用した興味推定の高精度化が実現される。次年度以降は、最終年度の実証実験も視野に入れて、検索のための可視化インタフェースの設計に着手する。

  • Research Products

    (66 results)

All 2018 2017

All Journal Article (12 results) (of which Peer Reviewed: 12 results,  Open Access: 1 results) Presentation (54 results) (of which Int'l Joint Research: 23 results,  Invited: 1 results)

  • [Journal Article] A Novel Framework for Estimating Viewer Interest by Unsupervised Multimodal Anomaly Detection2018

    • Author(s)
      Sasaka Yuma、Ogawa Takahiro、Haseyama Miki
    • Journal Title

      IEEE Access

      Volume: 6 Pages: 8340~8350

    • DOI

      10.1109/ACCESS.2018.2804925

    • Peer Reviewed
  • [Journal Article] Preliminary study of automatic gastric cancer risk classification from photofluorography2018

    • Author(s)
      Togo Ren、Ishihara Kenta、Mabe Katsuhiro、Oizumi Harufumi、Ogawa Takahiro、Kato Mototsugu、Sakamoto Naoya、Nakajima Shigemi、Asaka Masahiro、Haseyama Miki
    • Journal Title

      World Journal of Gastrointestinal Oncology

      Volume: 10 Pages: 62~70

    • DOI

      10.4251/wjgo.v10.i2.62

    • Peer Reviewed / Open Access
  • [Journal Article] Accurate Estimation of Personalized Video Preference Using Multiple Users' Viewing Behavior2018

    • Author(s)
      ITO Yoshiki、OGAWA Takahiro、HASEYAMA Miki
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E101.D Pages: 481~490

    • DOI

      10.1587/transinf.2017EDP7178

    • Peer Reviewed
  • [Journal Article] A Language-Independent Ontology Construction Method Using Tagged Images in Folksonomy2018

    • Author(s)
      Hamano Shota、Ogawa Takahiro、Haseyama Miki
    • Journal Title

      IEEE Access

      Volume: 6 Pages: 2930~2942

    • DOI

      10.1109/ACCESS.2017.2786218

    • Peer Reviewed
  • [Journal Article] Wiener-Based Inpainting Quality Prediction2017

    • Author(s)
      OGAWA Takahiro、TANAKA Akira、HASEYAMA Miki
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E100.D Pages: 2614~2626

    • DOI

      10.1587/transinf.2017EDP7058

    • Peer Reviewed
  • [Journal Article] Visualizing Web Images Using Fisher Discriminant Locality Preserving Canonical Correlation Analysis2017

    • Author(s)
      TATENO Kohei、OGAWA Takahiro、HASEYAMA Miki
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E100.D Pages: 2005~2016

    • DOI

      10.1587/transinf.2016PCP0005

    • Peer Reviewed
  • [Journal Article] Extracting Hierarchical Structure of Web Video Groups Based on Sentiment-Aware Signed Network Analysis2017

    • Author(s)
      Harakawa Ryosuke、Ogawa Takahiro、Haseyama Miki
    • Journal Title

      IEEE Access

      Volume: 5 Pages: 16963~16973

    • DOI

      10.1109/ACCESS.2017.2741098

    • Peer Reviewed
  • [Journal Article] Biomimetics Image Retrieval Platform2017

    • Author(s)
      HASEYAMA Miki、OGAWA Takahiro、TAKAHASHI Sho、NOMURA Shuhei、SHIMOMURA Masatsugu
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E100.D Pages: 1563~1573

    • DOI

      10.1587/transinf.2016LOI0001

    • Peer Reviewed
  • [Journal Article] Extracting hierarchical structure of content groups from different social media platforms using multiple social metadata2017

    • Author(s)
      Takehara Daichi、Harakawa Ryosuke、Ogawa Takahiro、Haseyama Miki
    • Journal Title

      Multimedia Tools and Applications

      Volume: 76 Pages: 20249~20272

    • DOI

      10.1007/s11042-017-4717-7

    • Peer Reviewed
  • [Journal Article] Helicobacter Pylori infection detection from gastric X-ray images based on feature fusion and decision fusion2017

    • Author(s)
      Ishihara Kenta、Ogawa Takahiro、Haseyama Miki
    • Journal Title

      Computers in Biology and Medicine

      Volume: 84 Pages: 69~78

    • DOI

      10.1016/j.compbiomed.2017.03.007

    • Peer Reviewed
  • [Journal Article] Distress Classification of Road Structures via Adaptive Bayesian Network Model Selection2017

    • Author(s)
      Maeda K.、Takahashi S.、Ogawa T.、Haseyama M.
    • Journal Title

      Journal of Computing in Civil Engineering

      Volume: 31 Pages: 4017044~4017044

    • DOI

      10.1061/(ASCE)CP.1943-5487.0000686

    • Peer Reviewed
  • [Journal Article] [Paper] A Method of Important Player Extraction Based on Link Analysis in Soccer Videos2017

    • Author(s)
      Takahashi Sho、Haseyama Miki
    • Journal Title

      ITE Transactions on Media Technology and Applications

      Volume: 5 Pages: 42~48

    • DOI

      10.3169/mta.5.42

    • Peer Reviewed
  • [Presentation] 深層学習を用いた胃X線画像における胃がんリスク検出の高精度化に関する検討 ~複数体位から撮影される画像に対する適用~2018

    • Author(s)
      石原賢太, 小川貴弘, 長谷山美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 胃X線画像を用いた胃炎識別における敵対的生成ネットワークの利用に関する検討2018

    • Author(s)
      藤後 廉, 石原 賢太, 小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 作業員から取得されるセンシングデータを用いた熱中症の予兆検知に向けた検討2018

    • Author(s)
      佐坂勇磨, 小川貴弘, 長谷山美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 機械学習を用いたMR画像からの転移性脳腫瘍の分類に関する一検討2018

    • Author(s)
      菅田健斗, 小川貴弘, 長谷山美紀, タキンキン, 工藤與亮, 白𡈽博樹
    • Organizer
      映像情報メディア学会
  • [Presentation] SFEM-GSによる特徴統合を利用した映像の評価値推定の高精度化2018

    • Author(s)
      伊藤 良起,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] LRGAアルゴリズムを用いた昆虫同定のための類似画像検索に関する検討 ー データ拡張による検索精度向上の検証 ー2018

    • Author(s)
      弦間奨,小川貴弘,長谷山美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] アクティブネットを用いたラグビー映像におけるパス可能領域の推定に関する検討2018

    • Author(s)
      高橋 翔,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 深層学習を用いた画像共有サービスに投稿される観光画像のカテゴリ分類の高精度化に関する検討2018

    • Author(s)
      斉藤直輝, 小川貴弘, 浅水仁,長谷山美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 道路構造物に発生する変状の自動分類の高精度化に向けたConvolutional Sparse Coding の導入に関する検討2018

    • Author(s)
      前田 圭介 高橋 翔 小川 貴弘 長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 岩盤の弾性波速度推定に向けたトンネル切羽画像の分類に関する初期検討2018

    • Author(s)
      濱野 翔太,原川 良介,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 楽曲聴取時のユーザに誘起される感情の推定に関する検討 ー 深層学習の導入による高精度化 ー2018

    • Author(s)
      段 博瀟, 小川 貴弘, 長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 視線データと点検データの正準相関に注目した類似点検データ検索の高精度化に関する検討2018

    • Author(s)
      斉藤 僚汰,高橋 翔,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 再帰型ニューラルネットワークを用いたサッカー映像における基本戦術の推定に関する検討2018

    • Author(s)
      鈴木 元樹,高橋 翔,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 映像視聴時の fNIRS 信号を利用した映像に対する好みの推定に関する検討 ー 複数特徴量の統合と距離計量学習の導入 ー2018

    • Author(s)
      豊田 陽,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 背景差分法と深層学習による歩行者検出を用いた河川CCTV映像における歩行者追跡に関する検討2018

    • Author(s)
      川本 舜,石原 賢太,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] Video Preference Estimation Using fNIRS Signals2017

    • Author(s)
      Akira Toyoda, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE Global Conference on Consumer Electronics (GCCE2017)
    • Int'l Joint Research
  • [Presentation] Aesthetic Quality Assessment of Images via Supervised Locality Preserving CCA2017

    • Author(s)
      Misaki Kanai, Ren Togo, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE Global Conference on Consumer Electronics (GCCE2017)
    • Int'l Joint Research
  • [Presentation] Interest Level Estimation Based on Matrix Completion via Rank Minimization2017

    • Author(s)
      Tetsuya Kushima, Sho Takahashi, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE Global Conference on Consumer Electronics (GCCE2017)
    • Int'l Joint Research
  • [Presentation] Personalized Tweet Recommendation Based on Field-aware Factorization Machines with Adaptive Field Organization2017

    • Author(s)
      Shoji Takimura, Ryosuke Harakawa, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE Global Conference on Consumer Electronics (GCCE2017)
    • Int'l Joint Research
  • [Presentation] Image Classification for Trend Prediction Based on Integration of fNIRS and Visual Features2017

    • Author(s)
      Kazaha Horii, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE Global Conference on Consumer Electronics (GCCE2017)
    • Int'l Joint Research
  • [Presentation] Construction of Network Using Heterogeneous Social Metadata for Music Video Recommendation2017

    • Author(s)
      Yui Matsumoto, Ryosuke Harakawa, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE Global Conference on Consumer Electronics (GCCE2017)
    • Int'l Joint Research
  • [Presentation] Preference Estimation for Video Recommendation Using DCNN Features and Viewing Behavior2017

    • Author(s)
      Yoshiki Ito, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE Global Conference on Consumer Electronics (GCCE2017)
    • Int'l Joint Research
  • [Presentation] Detection of Gastric Cancer Risk from X-ray Images via Patch-based Convolutional Neural Network2017

    • Author(s)
      Kenta Ishihara, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE International Conference on Image Processing (ICIP 2017)
    • Int'l Joint Research
  • [Presentation] Image Retrieval Based on LRGA Algorithm and Relevance Feedback For Insect Identification2017

    • Author(s)
      Susumu Genma, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE International Conference on Image Processing (ICIP 2017)
    • Int'l Joint Research
  • [Presentation] Tag Refinement Based on Multilingual Tag Hierarchies Extracted from Image Folksonomy2017

    • Author(s)
      Shota Hamano, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE International Conference on Image Processing (ICIP 2017)
    • Int'l Joint Research
  • [Presentation] Automatic Estimation of Deterioration Level on Transmission Towers via Deep Extreme Learning Machine Based on Local Receptive Field2017

    • Author(s)
      Keisuke Maeda, Sho Takahashi, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE International Conference on Image Processing (ICIP 2017)
    • Int'l Joint Research
  • [Presentation] Automatic Martian Dust Storm Detection via Decision Level Fusion Based on Deep Extreme Learning Machine2017

    • Author(s)
      Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE International Conference on Image Processing (ICIP 2017)
    • Int'l Joint Research
  • [Presentation] MvLFDA-based Video Preference Estimation Using Complementary Properties of Features2017

    • Author(s)
      Akira Toyoda, Takahiro Ogawa, Miki Haseyama
    • Organizer
      IEEE International Conference on Image Processing (ICIP 2017)
    • Int'l Joint Research
  • [Presentation] Detection of Gastric Cancer Risk from X-ray Images Based on Machine Learning2017

    • Author(s)
      Kenta Ishihara, Takahiro Ogawa, Miki Haseyama
    • Organizer
      GSB Workshop - Big-data Analysis, IoT and Bioinformatics
    • Int'l Joint Research
  • [Presentation] Deterioration Level Estimation on Transmission Towers Based on Machine Learning2017

    • Author(s)
      Keisuke Maeda, Sho Takahashi, Takahiro Ogawa, Miki Haseyama
    • Organizer
      GI-CoRE GSQ, GSB & IGM Joint Symposium
    • Int'l Joint Research
  • [Presentation] Estimation of Regions Related to Helicobacter Pylori Infection from Gastric X-ray Images2017

    • Author(s)
      Ren Togo, Kenta Ishihara, Takahiro Ogawa, Miki Haseyama
    • Organizer
      GI-CoRE GSQ, GSB & IGM Joint Symposium
    • Int'l Joint Research
  • [Presentation] Detection of Gastric Cancer Risk from X-ray Images via Soft Voting2017

    • Author(s)
      Kenta Ishihara, Takahiro Ogawa, Miki Haseyama
    • Organizer
      International Technical Conference on Circuits, Systems, Computers, and Communications (ITC-CSCC)
    • Int'l Joint Research
  • [Presentation] Deterioration Level Estimation on Transmission Towers via Extreme Learning Machine based on Combination Use of Local Receptive Field and Principal Component Analysis2017

    • Author(s)
      Keisuke Maeda, Sho Takahashi, Takahiro Ogawa, Miki Haseyama
    • Organizer
      International Technical Conference on Circuits, Systems, Computers, and Communications (ITC-CSCC)
    • Int'l Joint Research
  • [Presentation] Effectiveness Evaluation of Imaging Direction for Estimation of Gastritis Regions on Gastric X-ray Images2017

    • Author(s)
      Ren Togo, Kenta Ishihara, Takahiro Ogawa, Miki Haseyama
    • Organizer
      International Technical Conference on Circuits, Systems, Computers, and Communications (ITC-CSCC)
    • Int'l Joint Research
  • [Presentation] Identification of Reliable Results for Rubber Material Property Estimation Using Scanning Electron Microscope Images and Mix Proportions2017

    • Author(s)
      Naoki Saito, Takahiro Ogawa, Miki Haseyama
    • Organizer
      International Technical Conference on Circuits, Systems, Computers, and Communications (ITC-CSCC)
    • Int'l Joint Research
  • [Presentation] Retrieval System of Similar Inspection Records for Support of Maintenance Inspection in Expressway and Discussions of Evaluation by Experienced Inspectors2017

    • Author(s)
      Sho Takahashi, Takahiro Ogawa, Miki Haseyama
    • Organizer
      International Conference on Civil and Building Engineering Informatics (ICCBEI 2017)
    • Int'l Joint Research
  • [Presentation] Distress Classification of Class Imbalanced Data for Maintenance Inspection of Road Structures in Express Way2017

    • Author(s)
      Keisuke Maeda, Sho Takahashi, Takahiro Ogawa, Miki Haseyama
    • Organizer
      International Conference on Civil and Building Engineering Informatics (ICCBEI 2017)
    • Int'l Joint Research
  • [Presentation] Retrieval of Similar Inspection Records Using Deep Learning Based Image Features in Expressway2017

    • Author(s)
      Ryota Saito, Sho Takahashi, Takahiro Ogawa, Miki Haseyama
    • Organizer
      International Conference on Civil and Building Engineering Informatics (ICCBEI 2017)
    • Int'l Joint Research
  • [Presentation] サッカー映像における選手配置に注目した類似場面検出に関する検討2017

    • Author(s)
      高橋 翔,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 変状評価支援のための類似点検データ検索の高精度化に関する検討 - 熟練技術者の判定に関する推定に基づいた学習データ生成法の導入 -2017

    • Author(s)
      斉藤 僚汰,高橋 翔,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 複数の条件で撮像された走査型電子顕微鏡画像を用いたゴム材料の物性値推定に関する検討2017

    • Author(s)
      斉藤直輝, 小川貴弘, 長谷山美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] 正準相関最大化を導入した深層学習に基づく送電鉄塔の劣化レベル分類に関する検討2017

    • Author(s)
      前田 圭介, 高橋 翔, 小川 貴弘, 長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] Deep Extreme Learning Machineに基づくサッカー映像に撮像されたフィールド位置の推定に関する検討2017

    • Author(s)
      鈴木 元樹,高橋 翔,小川 貴弘,長谷山 美紀
    • Organizer
      映像情報メディア学会
  • [Presentation] fNIRS 信号を利用した好みの映像識別に関する検討 ー 複数の CNN 特徴量の統合による高精度化 ー2017

    • Author(s)
      豊田 陽,小川 貴弘,長谷山 美紀
    • Organizer
      第20回画像の認識・理解シンポジウム (MIRU2017)
  • [Presentation] Signedネットワーク解析に基づくWeb映像集合の階層構造抽出に関する検討 ー 適応的モジュラリティ最適化による高精度化の試み ー2017

    • Author(s)
      原川 良介,小川 貴弘,長谷山 美紀
    • Organizer
      第20回画像の認識・理解シンポジウム (MIRU2017)
  • [Presentation] 音響特徴と心拍特徴を用いた楽曲聴取時のユーザに誘起される感情の推定の高精度化に関する検討2017

    • Author(s)
      段 博瀟, 小川 貴弘, 長谷山 美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] fNIRS 信号を利用した好みの映像識別に関する検討ー特徴量選択の導入による高精度化ー2017

    • Author(s)
      豊田 陽,小川 貴弘,長谷山 美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] 背景差分法と深層学習を用いた河川 CCTV 映像における歩行者検出の高精度化に関する検討2017

    • Author(s)
      川本 舜,石原 賢太,小川 貴弘,長谷山 美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] 敵対的学習により生成された画像が与える審美的印象に関する検討2017

    • Author(s)
      金井 美岬,藤後 廉,小川 貴弘,長谷山 美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] ランク最小化に基づく行列補完を用いた関心度推定の高精度化に関する検討2017

    • Author(s)
      九島 哲哉,高橋 翔,小川 貴弘,長谷山 美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] 適応的フィールド構成を導入したFFMに基づくツイート推薦の高精度化に関する検討2017

    • Author(s)
      滝村祥司,原川良介,小川貴弘,長谷山美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] 画像特徴量と fNIRS 特徴量の関連性に注目した画像分類の高精度化に関する検討2017

    • Author(s)
      堀井 風葉,前田 圭介,小川 貴弘,長谷山 美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] 異種特徴の関連性を活用したネットワーク解析に基づく音楽動画コンテンツの推薦に関する一検討 -ユーザの好みを反映可能とする特徴変換による高精度化-2017

    • Author(s)
      松本 有衣,原川 良介,小川 貴弘,長谷山 美紀
    • Organizer
      平成29年度電気・情報関係学会北海道支部連合大会
  • [Presentation] ビッグデータからの価値創出を実現する次世代情報検索 ~AI・IoT技術の発想支援型検索への導入~2017

    • Author(s)
      長谷山 美紀
    • Organizer
      電子情報通信学会
    • Invited

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi