• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Building semantic basis of information design and graphics

Research Project

Project/Area Number 20K12782
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 01010:Philosophy and ethics-related
Research InstitutionOchanomizu University (2023)
The University of Tokyo (2020-2022)

Principal Investigator

佐藤 有理  お茶の水女子大学, 基幹研究院, 助教 (90750480)

Project Period (FY) 2020-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2020: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Keywords画像キャプショニング / 視覚的質問応答 / 全称量化 / グラウンディング / 視覚表現 / 否定 / コミックイラスト / 写真 / 実世界データ / 画像 / 不確定情報 / 情報視覚化 / 情報デザイン / 意味論
Outline of Research at the Start

情報デザイン・グラフィックスの意味論的基盤を構築することを目的とする。情報伝達様式としてのグラフィックスは、言語と比べて体系的な形での研究が不十分であったが、近年、図的推論の学際アプローチが期待を集め、形式グラフィックス(例:集合論や幾何学における図形)においては、ある程度の成功をおさめてきた。本研究は、その方法をさらに充実させることで、自然グラフィックス(自然言語に対応)へと進展させる。具体的には、不確定情報の描画至難性などの意味特性の問題について、論理学の手法を基にした理論分析と認知科学の手法を基にした実世界分析を統合的に用いて研究を展開させる。

Outline of Annual Research Achievements

4年目である2023年度は、画像における「否定」の理解に再び焦点を当て、基盤となる計算能力を明らかにすることを目的として、研究を進展させた。2022年度の研究実績として報告した我々の Cognitive Science誌論文では、画像分類の機械学習モデルは言語データを含まなかった。今年度の実験では、大規模言語データを含む機械学習モデルにおいて、画像キャプション文生成の課題を用いた実験を行った。人間の場合、否定を含むキャプション文を画像から生成ができるが、機械学習モデルの場合、否定を含むキャプション文を画像から生成ができなかった。次に、Visual Question Answering (VQA) 課題形式では、"what is in φ?" のように質問文プロンプトを操作することにより、アテンション領域をある程度限定することができる。我々の実験では、機械学習モデルでは、画像キャプション文生成課題よりもVQA課題において、否定 (Nothing のような存在否定)を含む出力が相対的に増えた。結果、人間は画像上で否定を理解できるが、その計算プロセスは不明であり、計算論的実現には言語情報の追加学習だけでは不十分であり、アテンション領域の指定が効果的であるということが示唆された。
以上に関する研究成果は、査読付き国際会議論文にまとめた。"Can Machines and Humans Use Negation When Describing Images?"というタイトルで、Human and Artificial Rationalities国際会議(HAR 2023) において、発表・出版した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

否定認識の計算能力を明らかにする研究を、"Can Machines and Humans Use Negation When Describing Images?"というタイトルの国際会議論文として、Human and Artificial Rationalities国際会議(HAR 2023) において、発表・出版することができた。

Strategy for Future Research Activity

当初は4年目である2023年度が最終であったが、1年間の延長申請を行い受理されたので、2024年度を最終とする。2024年度は、これまでの成果のとりまとめを行う計画である。とくに、日本認知科学会大会のOS「認知科学研究は人工知能研究に「借り」を返せるか?」において講演を招待頂いたので、本若手研究プロジェクトの成果報告の場としたいと考えている。

Report

(4 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (16 results)

All 2024 2023 2022 2021 2020

All Journal Article (10 results) (of which Int'l Joint Research: 4 results,  Peer Reviewed: 8 results,  Open Access: 8 results) Presentation (6 results) (of which Int'l Joint Research: 4 results,  Invited: 1 results)

  • [Journal Article] Can Machines and?Humans Use Negation When Describing Images?2024

    • Author(s)
      Sato Yuri、Mineshima Koji
    • Journal Title

      Proceedings of 2nd International Conference on Human and Artificial Rationalities

      Volume: LNCS 14522 Pages: 39-47

    • DOI

      10.1007/978-3-031-55245-8_3

    • ISBN
      9783031552441, 9783031552458
    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Human Visual Consistency-Checking in the Real World Ontologies2023

    • Author(s)
      Sato Yuri、Stapleton Gem、Jamnik Mateja、Shams Zohreh、Blake Andrew
    • Journal Title

      Proceedings of 2023 IEEE Symposium on Visual Languages and Human-Centric Computing

      Volume: - Pages: 249-251

    • DOI

      10.1109/vl-hcc57772.2023.00044

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Can Negation Be Depicted? Comparing Human and Machine Understanding of Visual Representations2023

    • Author(s)
      Yuri Sato, Koji Mineshima, Kazuhiro Ueda
    • Journal Title

      Cognitive Science

      Volume: 47 Issue: 3

    • DOI

      10.1111/cogs.13258

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Visually Analyzing Universal Quantifiers in Photograph Captions2022

    • Author(s)
      Yuri Sato, Koji Mineshima
    • Journal Title

      Lecture Notes in Computer Science

      Volume: 13462 Pages: 373-377

    • DOI

      10.1007/978-3-031-15146-0_34

    • ISBN
      9783031151453, 9783031151460
    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Visual representation of negation: Real world data analysis on comic image design2021

    • Author(s)
      Sato Yuri、Mineshima Koji、Ueda Kazuhiro
    • Journal Title

      Proceedings of 43rd Annual Conference of the Cognitive Science Society

      Volume: 43 Pages: 1166-1172

    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Can Humans and Machines Classify Photographs as Depicting Negation?2021

    • Author(s)
      Sato Yuri、Mineshima Koji
    • Journal Title

      Proceedings of 12th International Conference on the Theory and Application of Diagrams, Lecture Notes in Artificial Intelligence

      Volume: 12909 Pages: 348-352

    • DOI

      10.1007/978-3-030-86062-2_35

    • ISBN
      9783030860615, 9783030860622
    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] 「否定は描けるか」プロジェクトの概要 : 意味論と実世界データ分析2021

    • Author(s)
      佐藤 有理
    • Journal Title

      哲學

      Volume: 146 Pages: 151-161

    • Related Report
      2020 Research-status Report
    • Open Access
  • [Journal Article] Diagrams for logics2020

    • Author(s)
      佐藤 有理、峯島 宏次
    • Journal Title

      Cognitive Studies: Bulletin of the Japanese Cognitive Science Society

      Volume: 28 Issue: 1 Pages: 139-152

    • DOI

      10.11225/cs.2020.020

    • NAID

      130007998529

    • ISSN
      1341-7924, 1881-5995
    • Year and Date
      2020-07-15
    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Depicting Negative Information in Photographs, Videos, and Comics: A Preliminary Analysis2020

    • Author(s)
      Sato Yuri、Mineshima Koji
    • Journal Title

      Proceedings of 11th International Conference on the Theory and Application of Diagrams, Lecture Notes in Artificial Intelligence

      Volume: 12169 Pages: 485-489

    • DOI

      10.1007/978-3-030-54249-8_40

    • ISBN
      9783030542481, 9783030542498
    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] 否定情報の視覚表現デザイン2020

    • Author(s)
      佐藤 有理、峯島 宏次
    • Journal Title

      日本デザイン学会第67回研究発表大会概要集

      Volume: 67 Pages: 136-137

    • NAID

      130007891422

    • Related Report
      2020 Research-status Report
    • Open Access
  • [Presentation] 論理表現のグラウンディング:否定と全称量化の視覚的分析2022

    • Author(s)
      佐藤有理
    • Organizer
      早稲田大学哲学会大会
    • Related Report
      2022 Research-status Report
    • Invited
  • [Presentation] Negation, Images, and Symbol Grounding2022

    • Author(s)
      Sato Yuri
    • Organizer
      UNESCO World Logic Day 2022: Aspects of Logic Study
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] Visual representation of negation: Real world data analysis on comic image design2021

    • Author(s)
      Sato Yuri、Mineshima Koji、Ueda Kazuhiro
    • Organizer
      43rd Annual Conference of the Cognitive Science Society
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] Can humans and machines classify photographs as depicting negation?2021

    • Author(s)
      Sato Yuri、Mineshima Koji
    • Organizer
      12th International Conference on the Theory and Application of Diagrams
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] 写真とイラストから否定を認識する:人間と深層学習モデルの比較2021

    • Author(s)
      佐藤有理、峯島宏次、植田一博
    • Organizer
      日本認知科学会第38回大会
    • Related Report
      2021 Research-status Report
  • [Presentation] Depicting negative information in photographs, videos, and comics: a preliminary analysis2020

    • Author(s)
      Sato Yuri、Mineshima Koji
    • Organizer
      11th International Conference on the Theory and Application of Diagrams
    • Related Report
      2020 Research-status Report
    • Int'l Joint Research

URL: 

Published: 2020-04-28   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi