• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

機械可読時代における文字科学の創成と応用展開

Research Project

Project/Area Number 17H06100
Research InstitutionKyushu University

Principal Investigator

内田 誠一  九州大学, システム情報科学研究院, 教授 (70315125)

Co-Investigator(Kenkyū-buntansha) 牛久 祥孝  オムロンサイニックエックス株式会社, リサーチアドミニストレイティブディビジョン, プリンシパルインベスティゲーター (10784142)
Project Period (FY) 2017-05-31 – 2022-03-31
Keywords文字科学 / 文字工学 / 文字認識 / 機械学習 / フォント
Outline of Annual Research Achievements

R2年度についても、H29-R1年度と同様、文字機能の原理解明のための基礎研究を4 機能全てについて並行して実施した。
周囲の明確化機能:①物体とその表面に印字された単語の共起関係を膨大なデータを用いて定量化し、ある物体の上に特異的に存在する単語(物体の詳細を表すラベルとして機能)や様々な単語が表示される物体(本や看板などのメッセージキャリア)の特定に成功した(ICPR2020にオーラル採択)。また深層学習のアテンション機能を利用することで、情景内単語が指示する物体領域を推定する試みにも着手した。
知識・意味伝達機能:②書体(フォント)が単語の意味をより強化している可能性を検証すべく、書籍画像20万冊分を用いて、各書籍のタイトルを構成する文字列の書体と単語の意味の相関関係を調べた(論文準備中)。
雰囲気伝達機能:R2年度からの新規課題として、③GANによる特定印象を持ったフォントの自動生成、④フォントスタイルとその印象語を同時表現する共潜在変数空間の学習、⑤特定画像の雰囲気にマッチしたフォントスタイルの自動生成、⑥書籍表紙の構成部品のレイアウトから表紙全体の画像を自動生成するシステム、⑦ロゴ画像とそこに含まれるテキスト情報の関係解析、⑧Lyric Videoにおけるフォントと音楽印象の関係解析、⑨フォントのスタイルからの利用年代推定を実施し、すべて国際会議論文として投稿済した。さらに、⑩フォントのどの部分がどのような印象を生んでいるかといった「形状と印象」の相関に関する根源的な研究も実施し、論文の投稿に至っている。なお、文字デザインについ
ては関連して企業との共同研究も継続している。
可読性維持機能:新規課題として、⑪文字に適したプーリングのメタ学習(投稿済)、⑫認識に必要な局所構造の学習(国内発表済)、⑬手書きの変形吸収のための機械学習(投稿済)を実施した。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

2020年度も、文字の機能解明のために、満遍なくかつ大量の研究を同時並列して実施した。昨年度同様、昨今の技術的進展ならびにオープンソース・オープンデータにより、これらの中には、本研究課題開始時には着想できてなかったものが多く存在し、予想を超える進展を遂げている状況である。
さらに我々は、世界的なスピード感と歩調を合わせるべく,躊躇することなく成果のすべてを国際論文(ジャーナル・国際会議論文)として投稿しており,その多くが採択されるに至っている。特に2021年度に予定されている本課題に関する最重要会議であるICDAR (International Conference on Document Analysis and Recognition, CORE ranking A会議)に対しては、我々のグループから10編ものフルペーパーを投稿している。なお、研究代表者は同会議のプログラム委員長も務めており、本課題の遂行により得られた研究成果が高く評価されていることの一つの証左であると考える.

Strategy for Future Research Activity

最終年度である2021年度についても,2020年度までに行ってきた検討をさらに進め,文字機能の原理解明のための基礎研究を,下記の通り,4 機能全てについて並行して実施する.なお,これまで4年間の実績において,すでに当初計画の内容を超えており,さらにその成果により,より広くの文字関連分野(認知心理学や自然言語処理,プロフェッショナルな書体デザイナや環境サインデザイナ)との連携の必要性も見えてきた状況である.今後はこうした連携を広げる動きについても加速する予定であり,すでにそれら分野の第一人者との交流も進めている.
周囲の明確化機能:①物体と文字の間のインタラクション関係について,これまでに解明してきた共起性等の関係を踏まえ,さらに進めた解析を行う.
知識・意味伝達機能:②自然言語処理の分野で劇的に進歩している文や単語の意味定量化や,画像を対象としたキャプション生成や質問応答の技術を利活用し,我々の身の回りの文字情報がどのような知識や意味を伝達しているのかについて,その傾向を定量的解析する.
雰囲気伝達機能:③フォントデザインと印象の関係を局所形状に注目して検証を行う.さらに特定印象を持ったフォントの合成についても引き続き検討する.それら課題においては,印象の多様性や不安定性を考慮した手法の改善を図る.またこうした試みを介して,フォントデザインと印象の結びつきの強さを定量化するような手法を開発する.また文字と関連するロゴ等のビジュアルデザインについて対象を拡大し,同様の手法の開発を試みる.
可読性維持機能:④文字が通信記号として持つ様々な特性を解明するため,どのような局所的形状集合が文字クラスを決定しているのかを,集合を対象とした深層学習や強化学習を利用することで,客観的に解明する.これと並行して,文字の耐ノイズ性についても,様々なノイズを対象として定量解析を行う.

  • Research Products

    (57 results)

All 2021 2020 Other

All Int'l Joint Research (2 results) Journal Article (23 results) (of which Int'l Joint Research: 15 results,  Peer Reviewed: 23 results,  Open Access: 5 results) Presentation (31 results) (of which Int'l Joint Research: 4 results,  Invited: 5 results) Remarks (1 results)

  • [Int'l Joint Research] ドイツ人工知能研究所(ドイツ)

    • Country Name
      GERMANY
    • Counterpart Institution
      ドイツ人工知能研究所
  • [Int'l Joint Research] Wuhan University of Technology(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      Wuhan University of Technology
  • [Journal Article] A Discriminative Gaussian Mixture Model with Sparsity2021

    • Author(s)
      Hideaki Hayashi, Seiichi Uchida
    • Journal Title

      Proceedings of the Ninth International Conference on Learning Representations

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] Complex image processing with less data?Document image binarization by integrating multiple pre-trained U-Net modules2021

    • Author(s)
      Kang Seokjun、Iwana Brian Kenji、Uchida Seiichi
    • Journal Title

      Pattern Recognition

      Volume: 109 Pages: 107577~107577

    • DOI

      10.1016/j.patcog.2020.107577

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Layer-Wise Interpretation of Deep Neural Networks Using Identity Initialization2021

    • Author(s)
      Shohei Kubota, Hideaki Hayashi, Tomohiro Hayase, Seiichi Uchida
    • Journal Title

      Proceedings of the 45th International Conference on Acoustics, Speech, and Signal Processing

      Volume: - Pages: -

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Self-Augmented Multi-Modal Feature Embedding2021

    • Author(s)
      Shinnosuke Matsuo, Seiichi Uchida, Brian Kenji Iwana
    • Journal Title

      Proceedings of the 45th International Conference on Acoustics, Speech, and Signal Processing

      Volume: - Pages: -

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Label or Message: A Large-Scale Experimental Survey of Texts and Objects Co-Occurrence2021

    • Author(s)
      Koki Takeshita, Juntaro Shioyama, Seiichi Uchida
    • Journal Title

      Proceedings of the 25th The International Conference on Pattern Recognition

      Volume: - Pages: 6228-6234

    • Peer Reviewed
  • [Journal Article] Time Series Data Augmentation for Neural Networks by Time Warping with a Discriminative Teacher2021

    • Author(s)
      Brian Kenji Iwana, Seiichi Uchida
    • Journal Title

      Proceedings of the 25th The International Conference on Pattern Recognition

      Volume: - Pages: 3558-3565

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Total Whitening for Online Signature Verification Based on Deep Representation2021

    • Author(s)
      Xiaomeng Wu, Akisato Kimura, Kunio Kashino, Seiichi Uchida
    • Journal Title

      Proceedings of the 25th The International Conference on Pattern Recognition

      Volume: - Pages: 655-661

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Divergence Optimization for Noisy Universal Domain Adaptation2021

    • Author(s)
      Qing Yu, Atsushi Hashimoto, Yoshitaka Ushiku
    • Journal Title

      IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR2021)

      Volume: - Pages: -

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Denoising Pseudo-Captions in Unsupervised Image Captioning2021

    • Author(s)
      Ukyo Honda, Yoshitaka, Ushiku, Atsushi Hashimoto, Taro Watanabe, Yuji Matsumoto
    • Journal Title

      The 16th Conference of the European Chapter of the Association for Computational Linguistics (EACL2021)

      Volume: - Pages: -

    • Peer Reviewed
  • [Journal Article] Structure-Aware Procedural Text Generation From an Image Sequence2021

    • Author(s)
      T. Nishimura, A. Hashimoto, Y. Ushiku, H. Kameko, Y. Yamakata and S. Mori
    • Journal Title

      IEEE Access

      Volume: 9 Pages: 2125-2141

    • DOI

      10.1109/ACCESS.2020.3043452

    • Peer Reviewed / Open Access
  • [Journal Article] Benchmarking Deep Learning Models for Classification of Book Covers2020

    • Author(s)
      Lucieri Adriano、Sabir Huzaifa、Siddiqui Shoaib Ahmed、Rizvi Syed Tahseen Raza、Iwana Brian Kenji、Uchida Seiichi、Dengel Andreas、Ahmed Sheraz
    • Journal Title

      SN Computer Science

      Volume: 1 Pages: -

    • DOI

      10.1007/s42979-020-00132-z

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Few-Shot Text Style Transfer via Deep Feature Similarity2020

    • Author(s)
      Zhu Anna、Lu Xiongbo、Bai Xiang、Uchida Seiichi、Iwana Brian Kenji、Xiong Shengwu
    • Journal Title

      IEEE Transactions on Image Processing

      Volume: 29 Pages: 6932~6946

    • DOI

      10.1109/TIP.2020.2995062

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Guided neural style transfer for shape stylization2020

    • Author(s)
      Atarsaikhan Gantugs、Iwana Brian Kenji、Uchida Seiichi
    • Journal Title

      PLOS ONE

      Volume: 15 Pages: e0233489

    • DOI

      10.1371/journal.pone.0233489

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Iconify: Converting Photographs into Icons2020

    • Author(s)
      Karamatsu Takuro、Benitez-Garcia Gibran、Yanai Keiji、Uchida Seiichi
    • Journal Title

      Proceedings of 2020 Joint Workshop on Multimedia Artworks Analysis and Attractiveness Computing in Multimedia

      Volume: - Pages: -

    • DOI

      10.1145/3379173.3393708

    • Peer Reviewed
  • [Journal Article] Regularized Pooling2020

    • Author(s)
      Otsuzuki Takato、Hayashi Hideaki、Zheng Yuchen、Uchida Seiichi
    • Journal Title

      Proceedings of the 29th International Conference on Artificial Neural Networks

      Volume: - Pages: 241~254

    • DOI

      10.1007/978-3-030-61616-8_20

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] What is the Reward for Handwriting? ? A Handwriting Generation Model Based on Imitation Learning2020

    • Author(s)
      Kanda Keisuke、Iwana Brian Kenji、Uchida Seiichi
    • Journal Title

      Proceedings of the 17th The International Conference on Frontiers of Handwriting Recognition

      Volume: - Pages: -

    • DOI

      10.1109/ICFHR2020.2020.00030

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Handwriting Prediction Considering Inter-Class Bifurcation Structures2020

    • Author(s)
      Yamagata Masaki、Hayashi Hideaki、Uchida Seiichi
    • Journal Title

      Proceedings of the 17th The International Conference on Frontiers of Handwriting Recognition

      Volume: - Pages: -

    • DOI

      10.1109/ICFHR2020.2020.00029

    • Peer Reviewed
  • [Journal Article] Neural Style Difference Transfer and Its Application to Font Generation2020

    • Author(s)
      Atarsaikhan Gantugs、Iwana Brian Kenji、Uchida Seiichi
    • Journal Title

      Proceedings of the 14th IAPR International Workshop on Document Analysis Systems

      Volume: - Pages: 544~558

    • DOI

      10.1007/978-3-030-57058-3_38

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Character-Independent Font Identification2020

    • Author(s)
      Haraguchi Daichi、Harada Shota、Iwana Brian Kenji、Shinahara Yuto、Uchida Seiichi
    • Journal Title

      Proceedings of the 14th IAPR International Workshop on Document Analysis Systems

      Volume: - Pages: 497~511

    • DOI

      10.1007/978-3-030-57058-3_35

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Lyric Video Analysis Using Text Detection and Tracking2020

    • Author(s)
      Sakaguchi Shota、Kato Jun、Goto Masataka、Uchida Seiichi
    • Journal Title

      Proceedings of the 14th IAPR International Workshop on Document Analysis Systems

      Volume: - Pages: 426~440

    • DOI

      10.1007/978-3-030-57058-3_30

    • Peer Reviewed
  • [Journal Article] Effect of Text Color on Word Embeddings2020

    • Author(s)
      Ikoma Masaya、Iwana Brian Kenji、Uchida Seiichi
    • Journal Title

      Proceedings of the 14th IAPR International Workshop on Document Analysis Systems

      Volume: - Pages: 341~355

    • DOI

      10.1007/978-3-030-57058-3_24

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] ACMU-Nets: Attention Cascading Modular U-Nets Incorporating Squeeze and Excitation Blocks2020

    • Author(s)
      Kang Seokjun、Iwana Brian Kenji、Uchida Seiichi
    • Journal Title

      Proceedings of the 14th IAPR International Workshop on Document Analysis Systems

      Volume: - Pages: 118~130

    • DOI

      10.1007/978-3-030-57058-3_9

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Generating Easy-to-understand Referring Expressions for Target Identifications2020

    • Author(s)
      Mikihiro TANAKA, Takayuki ITAMOCHI, Kenichi NARIOKA, Ikuro SATO, Yoshitaka USHIKU, Tatsuya HARADA
    • Journal Title

      Journal of the Imaging Society of Japan

      Volume: 59 Pages: 591-600

    • DOI

      10.11370/isj.59.591

    • Peer Reviewed
  • [Presentation] 単語分散表現におけるフォントスタイル情報の利用2021

    • Author(s)
      原口大地,下田和,内田誠一
    • Organizer
      情報処理学会コンピュータビジョンとイメージメディア研究会
  • [Presentation] Playing with Visible Texts around Us2021

    • Author(s)
      Seiichi Uchida
    • Organizer
      RIEC International Symposium: Symposium of Yotta Informatics Research Platform for Yotta-Scale Data Science 2021
    • Int'l Joint Research / Invited
  • [Presentation] Visual Design Analysis with Machine Learning2021

    • Author(s)
      Seiichi Uchida
    • Organizer
      Kyushu-Illinois Strategic Partnership Colloquia Series - #2 Mathematics Without Borders?Applied and Applicable
    • Int'l Joint Research / Invited
  • [Presentation] Multimodal Understanding: Vision and Language, and its Beyond2021

    • Author(s)
      Yoshitaka Ushiku
    • Organizer
      International Workshop on Frontiers of Computer Vision
    • Int'l Joint Research / Invited
  • [Presentation] マルチモーダル理解~Vision and Languageとその先へ2021

    • Author(s)
      牛久祥孝
    • Organizer
      京都大学学術情報メディアセンターセミナー
    • Invited
  • [Presentation] 識別・生成のハイブリッドモデルと弱教師あり学習への応用2020

    • Author(s)
      早志英朗, 内田誠一
    • Organizer
      画像の認識・理解シンポジウム(MIRU2020)
  • [Presentation] 単位初期化による深層パーセプトロン学習:ヤコビ行列を用いた誤差逆伝播に関する考察2020

    • Author(s)
      久保田祥平, 早志英朗, 早瀬友裕, 内田誠一
    • Organizer
      画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] 日本語テキストの属性認識に向けて2020

    • Author(s)
      下田和, 原口大地, 山口光太, 内田誠一
    • Organizer
      画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] 模倣学習による手書き生成2020

    • Author(s)
      Keisuke Kanda, Brian Kenji Iwana, Seiichi Uchida
    • Organizer
      画像の認識・理解シンポジウム(MIRU2023)
  • [Presentation] 任意のオンライントラッカの統合法2020

    • Author(s)
      Heon Song, Daiki Suehiro, Seiichi Uchida
    • Organizer
      画像の認識・理解シンポジウム(MIRU2024)
  • [Presentation] 異種文字間のフォント同一性判定2020

    • Author(s)
      原口大地, 原田翔太, Brian Kenji Iwana, 内田誠一
    • Organizer
      画像の認識・理解シンポジウム(MIRU2025)
  • [Presentation] GANを用いた局所パターン生成2020

    • Author(s)
      Shee Chean Fei, Daiki Suehiro, Seiichi Uchida
    • Organizer
      画像の認識・理解シンポジウム(MIRU2026)
  • [Presentation] 深層特徴を用いたリジェクション学習2020

    • Author(s)
      Xiaotong Ji, Daiki Suehiro, Seiichi Uchida
    • Organizer
      画像の認識・理解シンポジウム(MIRU2027)
  • [Presentation] Class-Guided Handwriting Prediction with Uncertainty2020

    • Author(s)
      Masaki Yamagata, Hideaki Hayashi, Seiichi Uchida
    • Organizer
      画像の認識・理解シンポジウム(MIRU2027)
  • [Presentation] 深層パーセプトロンの単位初期化に基づく中間層の貢献度と尤度の解析2020

    • Author(s)
      久保田祥平, 早志英朗, 早瀬友裕, 内田誠一
    • Organizer
      電子情報通信学会パターン認識・メディア理解研究会
  • [Presentation] リリックビデオにおける歌詞内単語の動きの抽出と分類2020

    • Author(s)
      坂口翔太, 加藤 淳, 後藤真孝, 内田誠一
    • Organizer
      電子情報通信学会パターン認識・メディア理解研究会
  • [Presentation] 正則化プーリング2020

    • Author(s)
      緒續隆人, 早志英朗, Zheng Yuchen, 内田誠一
    • Organizer
      電子情報通信学会パターン認識・メディア理解研究会
  • [Presentation] Deep Setsの挙動解析 ~ 文字画像を対象とした可視化 ~2020

    • Author(s)
      神田敬佑, 内田誠一
    • Organizer
      電子情報通信学会パターン認識・メディア理解研究会
  • [Presentation] 情景内単語と物体の共起に関する大規模解析 ~ ラベルとメッセージの識別を目指して ~2020

    • Author(s)
      竹下孔喜, 塩山惇太郎, 内田誠一
    • Organizer
      電子情報通信学会パターン認識・メディア理解研究会
  • [Presentation] クラスの存在を利用した時系列予測とその手書きパターンへの応用2020

    • Author(s)
      山縣将貴,早志英朗,内田誠一
    • Organizer
      電子情報通信学会パターン認識・メディア理解研究会
  • [Presentation] フォントの印象分析2020

    • Author(s)
      上田将矢, 原口大地, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] 書籍表紙画像のタイトル部自動生成の試み2020

    • Author(s)
      宮薗大雅, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] 特定印象を考慮した文字フォントの生成に向けた試み2020

    • Author(s)
      松田征也, 早志英朗, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] フォントのクオリティに関する評価関数の提案2020

    • Author(s)
      姜 志勲, 原口大地, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] 映画ポスターにおけるタイトル画像解析2020

    • Author(s)
      辻 海元, 原口大地, 内田誠一, Brian Kenji Iwana
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] 表紙画像生成2020

    • Author(s)
      張 文升, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] 複数モダリティを対象とした表現学習2020

    • Author(s)
      松尾信之介, Brian Kenji Iwana, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] オンライン予測による画像分類器の識別率の制御2020

    • Author(s)
      本田康祐, 内田誠一, 末廣大貴
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] ロゴ画像の特徴解析2020

    • Author(s)
      西 進太朗, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] 深層ニューラルネットワーク内部でのデータ改ざん検出の試み2020

    • Author(s)
      亀澤祥平, 内田誠一
    • Organizer
      電気・情報関係学会九州支部連合大会
  • [Presentation] Future Challenges in Handwriting Recognition (Panel discussion)2020

    • Author(s)
      Seiichi Uchida
    • Organizer
      The 17th International Conference on Frontiers of Handwriting Recognition (ICFHR2020)
    • Int'l Joint Research / Invited
  • [Remarks] 九州大学ヒューマンインターフェス研究室

    • URL

      http://human.ait.kyushu-u.ac.jp

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi