• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Annual Research Report

SNSにおける情報共有解析および行動変容アクチュエーションのための基盤構築

Research Project

Project/Area Number 18H03339
Research InstitutionThe University of Tokyo

Principal Investigator

山崎 俊彦  東京大学, 大学院情報理工学系研究科, 准教授 (70376599)

Project Period (FY) 2018-04-01 – 2021-03-31
Keywordsマルチメディア / SNS / 情報発信 / 魅力工学
Outline of Annual Research Achievements

本研究の目的は、今や必要不可欠な存在となったSNSについて、誰がどんなタイミングでどのようなタグや文章と共にどんな画像・映像コンテンツを投稿すると、情報の受け取り手にどのような情動・行動をもたらしたり情報拡散・共有を引き起こしたりするのかを明らかにし、その知見を活かして狙った情動・行動・情報共有を引き起こさせることのできる技術の研究開発を行うことである。2018年度は下記に記すような研究を行った。
刺さる画像・映像の予測:投稿する画像や映像がどの程度SNS上での人気
を獲得できそうか、どの程度商品の販促に繋がりそうかなどの数値を深層学習により予測する研究を行った。SNSに投稿された画像とハッシュタグからいいね数を相関0.77で予測するモデルを構築したほか、より多くの人気を獲得することのできる我々の独自ハッシュタグ推薦技術FP-Rankをさらに拡張したUFP-Rankを実現した。また、広告用の静止画・動画について比較的高精度にクリック率などの効果を予測する手法を確立した。
情報発信者と発信内容・タイミングのマッチング:SNSやオンラインサービス上でのマッチング予測を深層学習にて行うための予備検討を行った。特にFactorization Machineと呼ばれる手法とその拡張アルゴリズムについて網羅的に調査し、マッチング精度や処理時間などを明らかにした。
どれもユニークな試みとして多くの受賞やマスコミの取材、招待講演依頼を受けている。また、対外発表なども順調に行っている。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

これまで、非常に多くの項目について成果が出ており、研究計画の内容から大きく拡大して様々な研究分野に展開している。前述の通り多くの受賞やマスコミの取材、招待講演依頼を受けている。そのハイライトのみをいくつか列挙する。
ソーシャルネットワークにアップロードされた画像や映像などのコンテンツの人気度を予測しさらに人気度を高めるためのタグを推薦するための我々の独自アルゴリズムFPRankを更に拡張したUFP-Rankアルゴリズムを実現した。これは、これまで考慮に入れていたコンテンツとタグと人気度との関係性に加え、ユーザの人気度とタグの使用頻度を考慮に入れたものである。SNS上での実証実験を行い、FPRankに比べて1.2倍の効果があることを確かめた。
TVCMの効果予測では過去10年に渡って地上波で放送された1万本以上の映像と、それに付随するアンケートのデータから認識率・商品購入換気率・好意度・興味関心度を相関係数0.65-0.8程度で予測する技術を実現した。これは、画像、音楽・音声、メタデータ、出演タレント好感度を組み合わせるマルチモーダル認識技術により実現されている。企業へのライセンスに至った他、MVE賞(国内研究会優秀論文賞)を受賞するなど学術的にも産業的にも貢献した。
静止画のバナー広告のクリック率予測について、マルチパッチによる画像の縦横比を考慮した深層学習技術を用いて高い精度を実現した。また、アテンションモデルを導入することで画像やメタデータなどのうちどれがどの程度寄与しているかを可視化できるようにした。
マッチングについては、Factorization Machineと呼ばれる手法とその拡張アルゴリズムについて網羅的に調査し、最新の同行を把握した。それらをすべて再実装し、マッチング精度や処理時間などを明らかにした。

Strategy for Future Research Activity

これまで主に予測技術について検討を行ってきた。今後は生成、すなわち積極的に行動変容を引き起こすことができる技術に関する研究に注力していきたい。具体的には、長尺の動画から「刺さる」要約動画を生成する研究、ポスターなどのデザインをより魅力的に生成していくような強化学習に関する研究、過去に使われたことのあるものの中から推薦するのではなく新規に新しいタグや説明文を生成する研究などを行っていく。すでに予備検討を開始しているものもあり、動画要約に関しては強化学習を用いて、非常に少ない正解ラベルしか付与されていない弱教師付き学習でも効果的に要約を実現できる見通しが立っている。
また、そのような研究を可能にするデータセットはほとんどないと言ってよく、プロジェクト内で積極的にデータセット構築も行っていく。また、研究開発した技術を適切に社会還元していけるよう、デモシステムの構築や実用化を見据えた産学連携・ライセンシングなどを積極的に進めていく予定である。

Remarks

本研究に関し、多くの招待講演の依頼があり、また報道も数多くなされた。

  • Research Products

    (21 results)

All 2019 2018 Other

All Int'l Joint Research (2 results) Journal Article (2 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (13 results) (of which Int'l Joint Research: 7 results,  Invited: 7 results) Remarks (1 results) Patent(Industrial Property Rights) (3 results)

  • [Int'l Joint Research] Panyapiwat Institute of Management(タイ)

    • Country Name
      THAILAND
    • Counterpart Institution
      Panyapiwat Institute of Management
  • [Int'l Joint Research] Polytechnic Institute of Surabaya(インドネシア)

    • Country Name
      INDONESIA
    • Counterpart Institution
      Polytechnic Institute of Surabaya
  • [Journal Article] Efficient and Interactive Spatial-Semantic Image Retrieval2019

    • Author(s)
      Ryosuke Furuta, Naoto Inoue, and Toshihiko Yamasaki
    • Journal Title

      Multimedia Tools and Applications

      Volume: - Pages: -

    • DOI

      10.1007/s11042-018-7148-1

    • Peer Reviewed / Open Access
  • [Journal Article] A Survey on Multimedia Artworks Analysis and Attractiveness Computing in Multimedia2019

    • Author(s)
      Wei-Ta Chu, Hideto Motomura, Norimichi Tsumura, and Toshihiko Yamasaki
    • Journal Title

      ITE Transactions on Media Technology and Applications

      Volume: 7 Pages: 60-67

    • DOI

      https://doi.org/10.3169/mta.7.60

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] AIを活用した魅力工学とそのビジネス応用2019

    • Author(s)
      山崎俊彦
    • Organizer
      ソフトウェアインタプライズモデリング研究会 (SWIM)
    • Invited
  • [Presentation] Product and Service Popularity Analysis on Instagram2018

    • Author(s)
      Yiwei Zhang, Toshihiko Yamasaki, and Kiyoharu Aizawa
    • Organizer
      IEEE International Conference on Consumer Electronics - Taiwan (ICCE-TW)
    • Int'l Joint Research
  • [Presentation] Photo Selection for Family Album using Deep Neural Networks2018

    • Author(s)
      Sijie Shen, Toshihiko Yamasaki, Michi Sato, and Kenji Kajiwara
    • Organizer
      International Joint Workshop on Multimedia Artworks Analysis and Attractiveness Computing in Multimedia 2018
    • Int'l Joint Research
  • [Presentation] Predicting image aesthetics using objects in the scene2018

    • Author(s)
      Hiya Roy, Toshihiko Yamasaki, and Tatsuaki Hashimoto
    • Organizer
      International Joint Workshop on Multimedia Artworks Analysis and Attractiveness Computing in Multimedia 2018
    • Int'l Joint Research
  • [Presentation] Users’ Preference Prediction of Real Estates Featuring Floor Plan Analysis using FloorNet2018

    • Author(s)
      Naoki Kato, Toshihiko Yamasaki, Kiyoharu Aizawa, and Takemi Ohama
    • Organizer
      International Workshop on Real Estate Tech 2018
    • Int'l Joint Research
  • [Presentation] Do hashtags help? - Image aesthetics prediction using only hashtags2018

    • Author(s)
      Hiya Roy, Toshihiko Yamasaki, and Tatsuaki Hashimoto
    • Organizer
      Woman in Computer Vision at CVPR
    • Int'l Joint Research
  • [Presentation] Fully Convolutional Network with Multi-Step Reinforcement Learning for Image Processing2018

    • Author(s)
      Ryosuke Furuta, Naoto Inoue, and Toshihiko Yamasaki
    • Organizer
      The Thirty-Third AAAI Conference on Artificial Intelligence
    • Int'l Joint Research
  • [Presentation] 画像・映像の「魅力」を操る人工知能2018

    • Author(s)
      山崎俊彦
    • Organizer
      日本オプトメカトロニクス協会 (JOEM), デジタル・イメージング技術部会
    • Invited
  • [Presentation] Let’s Make It More Attractive - Application of Artificial Intelligence to Multimedia Enrichment-2018

    • Author(s)
      Toshihiko Yamasaki
    • Organizer
      Computer Graphics Workshop
    • Int'l Joint Research / Invited
  • [Presentation] 古典的技術と深層学習を融合した信号処理技術の新展開2018

    • Author(s)
      山崎俊彦
    • Organizer
      電子情報通信学会信号処理研究会(SIP)
    • Invited
  • [Presentation] 魅力工学:「刺さる」に対する工学的アプローチ2018

    • Author(s)
      山崎俊彦
    • Organizer
      魅力工学研究会シンポジウム
    • Invited
  • [Presentation] AIを活用した魅力工学研究とそのビジネス応用2018

    • Author(s)
      山崎俊彦
    • Organizer
      NIIコグニテイブ技術研究会
    • Invited
  • [Presentation] AIを活用した魅力工学研究とそのビジネス応用2018

    • Author(s)
      山崎俊彦
    • Organizer
      ViEW (Vision Engineering Workshop)
    • Invited
  • [Remarks]

    • URL

      https://www.hal.t.u-tokyo.ac.jp/~yamasaki/project/index-e.html

  • [Patent(Industrial Property Rights)] タグ推薦装置、タグ推薦方法及びタグ推薦プログラム2019

    • Inventor(s)
      山崎俊彦, 汪雪婷
    • Industrial Property Rights Holder
      山崎俊彦, 汪雪婷
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      2019- 46846
  • [Patent(Industrial Property Rights)] 情報分析装置およびプログラム2018

    • Inventor(s)
      山崎俊彦, Yiwei Zhang
    • Industrial Property Rights Holder
      山崎俊彦, Yiwei Zhang
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2018-160577
  • [Patent(Industrial Property Rights)] 動画像データ処理装置、およびプログラム2018

    • Inventor(s)
      山崎俊彦, 中村遵介
    • Industrial Property Rights Holder
      山崎俊彦, 中村遵介
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2018-160578

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi