• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Annual Research Report

Fundamental Technologies for Information Sharing and Behavior Change Actuation in SNSs

Research Project

Project/Area Number 18H03339
Research InstitutionThe University of Tokyo

Principal Investigator

山崎 俊彦  東京大学, 大学院情報理工学系研究科, 准教授 (70376599)

Project Period (FY) 2018-04-01 – 2021-03-31
Keywordsマルチメディア / SNS / 情報発信 / 魅力工学
Outline of Annual Research Achievements

本研究の目的は、今や必要不可欠な存在となったSNSについて、誰がどんなタイミングでどのようなタグや文章と共にどんな画像・映像コンテンツを投稿すると、情報の受け取り手にどのような情動・行動をもたらしたり情報拡散・共有を引き起こしたりするのかを明らかにし、その知見を活かして狙った情動・行動・情報共有を引き起こさせることのできる技術の研究開発を行うことである。2019年度は下記の研究を行った。
刺さるSNS配信に向けたハッシュタグ推薦:より多くの人気を獲得することのできる我々の独自ハッシュタグ推薦技術FP-Rankをさらに拡張したUFP-Rankアルゴリズムについて、詳細な実証実験を行い、成果を難関国際会議ACM Multimediaで発表を行った。また、一般公開向けのデモシステムの構築を行うと共に、企業へのライセンスを通して社会実装を行った。
刺さる情報発信に向けた画像処理:より好印象な画像に変換する技術や、画像を高速かつ適切に非線形リサイズする技術を強化学習などにより実現した。さらに、オンライン広告を対象にマルチモーダルの情報を効果的に組み合わせる手法を確立し、静止画・動画共に高い精度で広告効果を予測することに成功した。これらの技術は難関国際会議での発表やいくつかの受賞を果たしている。
情報発信者と発信内容・タイミングのマッチング:SNSやオンラインサービス上でのマッチング予測を深層学習にて実現した。特にFactorization Machineの拡張アルゴリズムを提案し、従来に比べて大幅な精度向上を実現した。
どれもユニークな試みとして多くの受賞やマスコミの取材、国際会議等での招待講演依頼を受けている。また、対外発表なども難関国際会議を中心に順調に行っている。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

これまで、非常に多くの項目について成果が出ており、研究計画の内容から大幅に領域を拡大して様々な研究分野に展開している。前述の通り多くの受賞やマスコミの報道、招待講演依頼を受けている。そのハイライトのみをいくつか列挙する。
ソーシャルネットワークにアップロードされた画像や映像などのコンテンツの人気度を予測しさらに人気度を高めるためのタグを推薦するための我々の独自アルゴリズムUFP-Rankを実現し、難関国際会議ACM Multimediaで発表したほか、The WEB conferenceでのデモ展示を行った。我々の従来手法であるFPRankに比べて1.2倍の効果があることを実験的に確認している。マスコミ等で取り上げられたほか、すでに複数の企業にライセンス提供している。
静止画のバナー広告のクリック率予測について、2018年度に研究開発したマルチモーダルな手法を更に拡張・最適化し、クリック率の正解との相関係数を0.55から0.83にまで向上させた。さらに、動画広告のクリック率予測についても取り組んだ。単に静止画広告の手法を拡張すればよいといった単純なものではなく、また我々がこれまで取り組んできたTVCMの効果予測手法でもうまく予測できないことを実験的に確認した。そのうえで、各種最適化や過学習を防ぐ試みを導入することで、相関係数0.7で予測できる手法を確立した。また、現在判定理由の説明・可視化について検討を重ねている。
マッチング・推薦技術については、Factorization Machineを拡張した手法を複数提案し、高い精度を実現した。ACM SIGMMの旗艦会議の1つACM Multimedia Asiaにて発表を行った。また、現在、グラフ深層学習やPositive-Unlabel学習といった最新の手法を取り入れることでさらなる精度の改善を検討している。

Strategy for Future Research Activity

2019年度の取り組みに引き続いて生成、すなわち能動的に関与・介入することで行動変容を引き起こすことができる技術に関する研究に注力していきたい。具体的には、ポスター・スライドなどのデザインをより魅力的に生成していくような強化学習に関する研究、画像・映像に対して人がより魅力的だと感じる説明文やハッシュタグを生成する研究、SNS発信者とフォロワーの世界観マッチングなどを行っていく。
画像・映像等に対する説明文やハッシュタグを生成する技術については、最新の画像キャプション技術の網羅的調査を開始している。また、いくつかの企業と共同研究を通じてデータの共有や実証実験の検討を始めている。非常に挑戦的な課題であるが、実用的な技術が実現できたら学術的・産業的インパクトは大きいと考えている。
SNS発信者とフォロワーの世界観マッチングについては、グラフを用いた分散表現方法について検討していく。SNSは発信者とユーザ、ユーザとユーザの発信する画像やタグはすべて数学的なグラフとして表現可能である。そのようなデータに対し、近年注目を集めているグラフ分散表現手法やグラフ深層学習を適用することにより、適切な特徴量表現手法やマッチング手法について検討していく。
AI技術全般で問題となっている説明可能なAIに関する研究もこのフレームワークの中で行っていく。物体認識など一般的に研究されているものは客観的に誰が見ても確実に判断できるものを対象にするのに対し、我々は主観的な評価を対象としており、より調整的な課題である。
また、上記の研究を行うために、プロジェクト内で積極的にデータセット構築も行っていき、オープンソースでの公開を目指す。また、研究開発した技術を適切に社会還元していけるよう、引き続きデモシステムの構築や実用化を見据えた産学連携・ライセンシングなどを積極的に進めていく予定である。

Remarks

本研究に関し、多くの招待講演の依頼があり、また報道も数多くなされた。

  • Research Products

    (26 results)

All 2020 2019 Other

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 1 results) Presentation (20 results) (of which Int'l Joint Research: 16 results,  Invited: 5 results) Remarks (1 results) Patent(Industrial Property Rights) (2 results)

  • [Journal Article] Users' preference prediction of real estate properties based on floor plan analysis2020

    • Author(s)
      Naoki Kato, Toshihiko Yamasaki, Kiyoharu Aizawa, and Takemi Ohama
    • Journal Title

      IEICE TRANSACTIONS on Information and Systems

      Volume: E103-D Pages: 398-405

    • DOI

      10.1587/transinf.2019EDP7146

    • Peer Reviewed / Open Access
  • [Journal Article] Click-Through Rate Prediction of Online Banners Featuring Multimodal Analysis2020

    • Author(s)
      Bohui Xia, Hiroyuki Seshime, Xueting Wang, and Toshihiko Yamasaki
    • Journal Title

      International Journal of Semantic Computing

      Volume: 14(1) Pages: -

    • Peer Reviewed
  • [Journal Article] PixelRL: Fully Convolutional Network With Reinforcement Learning for Image Processing2019

    • Author(s)
      Ryosuke Furuta, Naoto Inoue, and Toshihiko Yamasaki
    • Journal Title

      IEEE Transactions on Multimedia

      Volume: - Pages: -

    • DOI

      10.1109/TMM.2019.2960636

    • Peer Reviewed
  • [Presentation] Unpaired Image Enhancement Featuring Reinforcement-Learning-Controlled Image Editing Software2020

    • Author(s)
      Satoshi Kosugi and Toshihiko Yamasaki
    • Organizer
      The Thirty-Fourth AAAI Conference on Artificial Intelligence (AAAI)
    • Int'l Joint Research
  • [Presentation] PresentationTrainer: Oral Presentation Support System for Impression-related Feedback2020

    • Author(s)
      Shengzhou Yi, Hiroshi Yumoto, Xueting Wang and Toshihiko Yamasaki
    • Organizer
      AAAI
    • Int'l Joint Research
  • [Presentation] A comparative study of data-driven approaches for the generation of floor plans in japanese apartments2020

    • Author(s)
      Taro Narahara, Xueting Wang, and Toshihiko Yamasaki
    • Organizer
      The Tenth International Workshop on Image Media Quality and its Applications (IMQA)
    • Int'l Joint Research
  • [Presentation] QoL向上のためのメディア認識・理解技術2020

    • Author(s)
      山崎俊彦
    • Organizer
      画像センシング展2019セミナー
    • Invited
  • [Presentation] Attractiveness Computing-Analysis and Enhancement of Attractiveness using Big Multimedia Data2020

    • Author(s)
      Toshihiko YAMASAKI
    • Organizer
      The 10th International Symposium on Information and Communication Technology (SoICT)
    • Invited
  • [Presentation] 近傍を考慮した画素ラベリング2020

    • Author(s)
      古田諒佑, 井上直人, 山崎俊彦
    • Organizer
      画像工学研究会
    • Invited
  • [Presentation] ソーシャルリスニング×AIで人を知る/人を動かす (Understanding and Actuating Consumers by Social Listening and AI)2020

    • Author(s)
      山崎俊彦
    • Organizer
      数理・データサイエンス公開シンポジウム
    • Invited
  • [Presentation] Aspect-Ratio-Preserving Multi-Patch Image Aesthetics Score Prediction2019

    • Author(s)
      Lijie Wang, Xueting Wang, Toshihiko Yamasaki, and Kiyoharu Aizawa
    • Organizer
      NTIRE: New Trends in Image Restoration and Enhancement workshop and challenges at CVPR 2019
    • Int'l Joint Research
  • [Presentation] Predicting the attractiveness of real-estate images by pairwise comparison using deep learning2019

    • Author(s)
      Xueting Wang, Yuki Takada, Youiti Kado, and Toshihiko Yamasaki
    • Organizer
      International Joint Workshop on Multimedia Artworks Analysis and Attractiveness Computing in Multimedia (MMArt-ACM 2019) in conjunction with ICME2019
    • Int'l Joint Research
  • [Presentation] An Impression Prediction System of Oral Presentation Using LSTM and Attention Mechanism2019

    • Author(s)
      Shengzhou Yi, Xueting Wang, and Toshihiko Yamasaki
    • Organizer
      Third International Workshop on Symbolic-Neural Learning (SNL-2019)
    • Int'l Joint Research
  • [Presentation] Fast Instance Segmentation for Line Drawing Vectorization2019

    • Author(s)
      Naoto Inoue and Toshihiko Yamasaki
    • Organizer
      The IEEE International Conference on Multimedia Big Data (BigMM)
    • Int'l Joint Research
  • [Presentation] Impression Prediction of Oral Presentation Using LSTM and Dot-product Attention Mechanism2019

    • Author(s)
      Shengzhou Yi, Xueting Wang, and Toshihiko Yamasaki
    • Organizer
      The IEEE International Conference on Multimedia Big Data (BigMM)
    • Int'l Joint Research
  • [Presentation] Deep neural network-based click-through rate prediction using multimodal features of online banners2019

    • Author(s)
      Bohui Xia, Xueting Wang, Toshihiko Yamasaki, Kiyoharu Aizawa and Hiroyuki Seshime
    • Organizer
      The IEEE International Conference on Multimedia Big Data (BigMM)
    • Int'l Joint Research
  • [Presentation] Visual Clarity Analysis and Improvement Support for Presentation Slides2019

    • Author(s)
      Shinji Oyama and Toshihiko Yamasaki
    • Organizer
      The IEEE International Conference on Multimedia Big Data (BigMM)
    • Int'l Joint Research / Invited
  • [Presentation] A Preliminary Study on Attractiveness Analysis of Real Estate Floor Plans2019

    • Author(s)
      Taro Narahara and Toshihiko Yamasaki
    • Organizer
      2019 IEEE 8th Global Conference on Consumer Electronics (GCCE)
    • Int'l Joint Research
  • [Presentation] User-Aware Folk Popularity Rank: User-Popularity-Based Tag Recommendation That Can Enhance Social Popularity2019

    • Author(s)
      Xueting Wang, Yiwei Zhang, and Toshihiko Yamasaki
    • Organizer
      27th ACM International Conference on Multimedia
    • Int'l Joint Research
  • [Presentation] Human Tracking for Children Behavior Analysis in Nursery Schools2019

    • Author(s)
      Yuan Lin, Yuki Obuchi, Xueting Wang, Toshihiko Yamasaki, Satoshi Toriumi, Mikihisa Hayashi, Sachiko Nozawa, Midori Takahashi, Toshihiko Endo and Kiyomi Akita
    • Organizer
      The 15th International Conference on SIGNAL IMAGE TECHNOLOGY & INTERNET BASED SYSTEMSSITIS (SITIS)
    • Int'l Joint Research
  • [Presentation] Weakly Supervised Video Summarization by Hierarchical Reinforcement Learning2019

    • Author(s)
      Yiyan Chen, Li Tao, Xueting Wang, and Toshihiko Yamasaki
    • Organizer
      ACM Multimedia Asia
    • Int'l Joint Research
  • [Presentation] Measuring Similarity between Brands using Social Media Content2019

    • Author(s)
      Yiwei Zhang, Xueting Wang, Yoshiaki Sakai, and Toshihiko Yamasaki
    • Organizer
      ACM Multimedia Asia
    • Int'l Joint Research
  • [Presentation] Deep Feature Interaction Embedding for Pair Matching Prediction2019

    • Author(s)
      Luwei Zhang, Xueting Wang, and Toshihiko Yamasaki
    • Organizer
      ACM Multimedia Asia
    • Int'l Joint Research
  • [Remarks]

    • URL

      https://www.hal.t.u-tokyo.ac.jp/~yamasaki/project/index-e.html

  • [Patent(Industrial Property Rights)] 情報処理装置、及びプログラム2020

    • Inventor(s)
      山崎俊彦, Yiwei Zhang , 汪雪婷
    • Industrial Property Rights Holder
      山崎俊彦, Yiwei Zhang , 汪雪婷
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2020-31046
  • [Patent(Industrial Property Rights)] 動画要約装置、動画要約方法及び動画要約プログラム2019

    • Inventor(s)
      山崎俊彦, Yiyan Chen, 汪雪婷
    • Industrial Property Rights Holder
      山崎俊彦, Yiyan Chen, 汪雪婷
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2019-185428

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi