• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2013 年度 実績報告書

アクティビティ解析に基づくKnowledge Logの構築とその応用

研究課題

研究課題/領域番号 25240028
研究種目

基盤研究(A)

研究機関大阪府立大学

研究代表者

黄瀬 浩一  大阪府立大学, 工学(系)研究科(研究院), 教授 (80224939)

研究分担者 岩村 雅一  大阪府立大学, 工学(系)研究科(研究院), 准教授 (80361129)
岩田 基  大阪府立大学, 工学(系)研究科(研究院), 助教 (70316008)
内海 ゆづ子  大阪府立大学, 工学(系)研究科(研究院), 助教 (80613489)
研究期間 (年度) 2013-04-01 – 2017-03-31
キーワード文書画像解析 / インタフェース / アイトラッカ / wordometer / reading-life log / 近似最近傍探索 / アノーテーション / 顔認識
研究概要

本研究は4ヵ年計画となっている。初年度は要素技術の洗練化を目標としている。得られた成果を項目ごとに以下に示す。
(1) 認識・検索:複雑背景下での文字認識、文字画像の大規模データベース(学習用)、文書タイプの認識(画像、あるいは視線の分布による)、顔認識、行動認識(瞬きの時系列データ、脳波、静電容量センサーを伴うネックバンドによる)などを開発した。いずれも、本研究を推進する上で重要な要素となる技術であるとともに、世界でもあまり類を見ないセンサーや認識方式に基づいている。
(2) インタフェース:カメラペンによる筆跡復元、注視やアイジェスチャを入力方式とするもの、ならびに得られた情報を重畳表示する方式について検討した。これらのインタフェースについては、現在、基礎的な検討段階にあり、すぐに利用できるレベルに到達しているわけではないが、改良の土台となる成果が得られたと考えている。
(3) Reading-Life Log:知識の源は読書にあるという考えから、読書の量と質の自動計測を行った。具体的には、読んだ文書の単語数を数える手法(万語計;wordometer)、読んだテキストを認識によって全て記録する手法(認識によるreading-life log)、さらには言語知識量の推定のため基礎的な手法(視線の分布を解析して理解困難な英単語を発見する手法)の検討を行った。使用したデバイスは、モバイル・アイトラッカであり、これによりユーザが見ている画像とその中の視線データを得ることができる。
(4) 要素技術の基盤となる技術:上記の要素技術の基盤となる技術の研究も行った。具体的には、タブレットPCのカメラを用いたアイトラッカの実現、ならびに画像照合などのエンジンとなる近似最近傍探索や逆近似最近傍探索のアルゴリズムを考案した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

研究項目として挙げた3つの項目、すなわち、認識・検索、知識記述、スマートフォン・アプリケーションのそれぞれについて順調に成果が得られている。
(1) 認識・検索:申請段階で研究項目としてあげていた、認識結果の統合による検証(文字認識の結果を複数フレームにわたって照合することで、より正しい結果を得る)、見る行為の分類、画像ならびに他のセンサデータを用いた行動認識のすべてについて、手法を提案すると共に、実験によって有効性を検証した。特に、文書のタイプ識別(画像特徴、視線分布、脳波による)については、当初想定していたよりも高い精度の処理を実現することに成功した。また、読んだ単語の数を測る万語計という全く新しい概念を提唱するとともに、実際にアイトラッカを用いて実現し、実験により評価した。この手法を文書解析・認識の分野で世界最大の国際会議で発表したところ、450を超える投稿論文の中から唯一の最優秀論文に選ばれた。
(2) 知識記述:知識記述の基礎的検討を行った。ただし、実際の記述方式を定めるレベルにまで到達することはできず、今後のさらなる検討が必要である。
(3) スマートフォン・アプリケーション: 成果還元のためのスマートフォン・アプリケーションをいくつか作成した。一つは文書にコメントを簡単に付けるシステムであり、ユーザはスマートフォンを文書にかざすだけで、他の人が付けたコメントを参照したり、自分がコメントを付与したりすることもできる。また、スマートフォンやタブレットなどのカメラ(ユーザの方を向いているもの)を用いて、人の視線データを得る手法も開発した。後者はスマートフォンやタブレットを通して本を見る限り、高価なアイトラッカを用いずとも、類似の成果を得ることができる、というものである。
以上のように、知識記述については十分とは言えない成果であるが、他については予想を上回る成果が得られた。

今後の研究の推進方策

(1) 認識・検索:認識・検索の2年目の課題は相互連携である.まず,認識・検索の中で相互連携を図る.例えば,物体認識と文字認識が連携すれば,物体が分かることによってそこに書かれている文字の可能性が狭まり,認識誤りを減らせる.行動認識については実環境への適用を図りつつ,連携を確立する.行動認識はpredicate認識を担うので,自ずとpredicateに適合するsubject, objectの物体の可能性が狭まるし,逆も真である.結果としてRDFを生成する認識装置がこの段階で構築される.このような相補的な認識を前期で
追求した後は,後期では高次知識とのインタラクションを考える.Semantic Desktopに蓄えられた個人の履歴や知識体系を援用し,より認識や解析の信頼性を高めていく.また,得た知識をSemantic Desktopに反映させることも行う.
(2) 知識記述:相互連携が可能となれば,Semantic Desktopを構成する要素すべてが環境から取得可能となるので,記述を生成できる.問題は,生成される記述が誤りを含む点である.誤り訂正としては,時間軸方向での安定性を見る単純な方式から,確率モデルを用いるものまで,様々な可能性がある.これらを比較検討して,最良のものを採用する.もう一つの方策は,ユーザに直接聞くことであろう.このための方法として,ヘッドマウントディスプレイに選択肢を提示してジェスチャーで選ばせるという方式を構築する.
(3) スマートフォン・アプリケーション:利用シーンのシナリオを考えながら前年度に策定したアプリケーションを実際に作成していく.可能なら早い段階で試験公開をして,フィードバックを得る.

  • 研究成果

    (43件)

すべて 2014 2013

すべて 雑誌論文 (5件) (うち査読あり 2件) 学会発表 (38件)

  • [雑誌論文] Recovery and localization of handwritings by a camera-pen based on tracking and document image retrieval2014

    • 著者名/発表者名
      Megumi Chikano, Koichi Kise, Masakazu Iwamura, Seiichi Uchida, and Shinichiro Omachi
    • 雑誌名

      Pattern Recognition Letters

      巻: 35 ページ: 214 224

    • DOI

      10.1016/j.patrec.2012.10.003

    • 査読あり
  • [雑誌論文] More than Ink ― Realization of a Data-Embedding Pen2014

    • 著者名/発表者名
      Marcus Liwicki, Seiichi Uchida, Akira Yoshida, Masakazu Iwamura, Shinichiro Omachi, and Koichi Kise
    • 雑誌名

      Pattern Recognition Letters

      巻: 35 ページ: 246 255

    • DOI

      10.1016/j.patrec.2012.09.001

    • 査読あり
  • [雑誌論文] Activity Recognition for the Mind: Toward a Cognitive "Quantified Self"2013

    • 著者名/発表者名
      Kai Kunze, Masakazu Iwamura, Koichi Kise, Seiichi Uchida, and Shinichiro Omachi
    • 雑誌名

      IEEE Computer

      巻: 46 ページ: 85 88

    • DOI

      http://doi.ieeecomputersociety.org/10.1109/MC.2013.339

  • [雑誌論文] 高速・高精度な近似最近傍探索の実現2013

    • 著者名/発表者名
      岩村雅一
    • 雑誌名

      TELECOM FRONTIER

      巻: 80 ページ: 1 8

  • [雑誌論文] 局所特徴量と事例検索に基づく高速特定物体認識2013

    • 著者名/発表者名
      岩村雅一,黄瀬浩一
    • 雑誌名

      光学,

      巻: Vol.42 No.8 ページ: 407 412

  • [学会発表] 読書アノテーション支援システムに向けたアイジェスチャの提案2014

    • 著者名/発表者名
      鈴木若菜,外山託海,Kai Kunze,岩村雅一,黄瀬浩一,Andreas Dengel,Andreas Bulling
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 発表場所
      東京
    • 年月日
      20140319-20140320
  • [学会発表] 大規模日本語情景文字データセットOPU-JST-12014

    • 著者名/発表者名
      佐藤 瞳,松田 崇宏,池田 佑輝,岩村 雅一,黄瀬 浩一
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 発表場所
      東京
    • 年月日
      20140319-20140320
  • [学会発表] Reading-Life Logの実現に向けた万語計の提案2014

    • 著者名/発表者名
      川市 仁史,Kai Kunze,黄瀬 浩一
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 発表場所
      東京
    • 年月日
      20140319-20140320
  • [学会発表] 近似逆最近傍探索によるBM25を用いた映像検索の高速化2014

    • 著者名/発表者名
      的﨑 伸彰,岩村 雅一,黄瀬 浩一
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 発表場所
      東京
    • 年月日
      20140319-20140320
  • [学会発表] 顔画像検索を用いたリアルタイム人物記憶補助システム2014

    • 著者名/発表者名
      加藤 祐也,内海 ゆづ子,Kai Kunze,岩村 雅一,黄瀬 浩一
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 発表場所
      東京
    • 年月日
      20140319-20140320
  • [学会発表] Haven't we met before? ― A Realistic Memory Assistance System to Remind You of The Person in Front of You2014

    • 著者名/発表者名
      Masakazu Iwamura, Kai Kunze, Yuya Kato, Yuzuko Utsumi and Koichi Kise
    • 学会等名
      Proc. 5th Augmented Human (AH2014)
    • 発表場所
      Kobe, Japan
    • 年月日
      20140307-20140309
  • [学会発表] On the Tip of my Tongue ― A Non-Invasive Pressure-BasedTongue Interface2014

    • 著者名/発表者名
      Jingyuan Cheng, Ayano Okoso, Kai Kunze, Niels Henze, Albrecht Schmidt, Paul Lukowicz,Koichi Kise
    • 学会等名
      Proc. 5th Augmented Human (AH2014)
    • 発表場所
      Kobe, Japan
    • 年月日
      20140307-20140309
  • [学会発表] In the Blink of an Eye ― Combining Head Motion and Eye Blink Frequency for Activity Recognition with Google Glass2014

    • 著者名/発表者名
      Shoya Ishimaru, Jens Weppner, Kai Kunze, Andreas Bulling, Koichi Kise, Andreas Dengel and Paul Lukowicz
    • 学会等名
      Proc. 5th Augmented Human (AH2014)
    • 発表場所
      Kobe, Japan
    • 年月日
      20140307-20140309
  • [学会発表] A Mixed Reality Head-Mounted Text Translation System Using Eye Gaze Input2014

    • 著者名/発表者名
      Takumi Toyama, Daniel Sonntag, Andreas Dengel, Takahiro Matsuda, Masakazu Iwamura, and Koichi Kise
    • 学会等名
      Proc. 2014 International Conference on Intelligent User Interfaces (IUI'14)
    • 発表場所
      Haifa, Israel
    • 年月日
      20140224-20140227
  • [学会発表] ポスター発表のためのアノテーション共有システム2014

    • 著者名/発表者名
      田中 克磨,カイ クンツェ,岩田 基,岩村 雅一,黄瀬 浩一
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 発表場所
      福岡
    • 年月日
      20140213-20140214
  • [学会発表] Mental Task Classification Using Electroencephalogram2014

    • 著者名/発表者名
      Olivier Le Bas de Bouclans, Kai Kunze, Hiroki Fujiyoshi and Koichi Kise
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 発表場所
      福岡
    • 年月日
      20140213-20140214
  • [学会発表] Document Type Classification Toward Understanding Reading Habits2014

    • 著者名/発表者名
      Yuzuko Utsumi,Yuki Shiga,Masakazu Iwamura,Kai Kunze,Koichi Kise
    • 学会等名
      Proceedings of 20th Korea―Japan Joint Workshop on Frontiers of Computer Vision
    • 発表場所
      Okinawa, Japan
    • 年月日
      20140204-20140206
  • [学会発表] What Is the Most Efficient Way to Select Nearest Neighbor Candidates for Fast Approximate Nearest Neighbor Search?2013

    • 著者名/発表者名
      Masakazu Iwamura, Tomokazu Sato and Koichi Kise
    • 学会等名
      Proc. 14th International Conference on Computer Vision (ICCV 2013)
    • 発表場所
      Sydney, Australia
    • 年月日
      20131203-20131206
  • [学会発表] Digital Watermarking Method to Extract Watermarks from Printed Matters with Cell Phone by Using Finder Patterns and Alignment Pattern of QR Code2013

    • 著者名/発表者名
      Motoi Iwata, Kenji Yamanaka and Koichi Kise
    • 学会等名
      Proc. of the 2nd Asian Conference on Pattern Recognition (ACPR2013)
    • 発表場所
      Okinawa, Japan
    • 年月日
      20131105-20131108
  • [学会発表] Share Me - A Digital Annotation Sharing Service for Paper Documents with Multiple Clients Support2013

    • 著者名/発表者名
      Kazuma Tanaka, Motoi Iwata, Kai Kunze, Masakazu Iwamura, Koichi Kise
    • 学会等名
      Proc. of the 2nd Asian Conference on Pattern Recognition (ACPR2013)
    • 発表場所
      Okinawa, Japan
    • 年月日
      20131105-20131108
  • [学会発表] Event Detection Based on Noisy Object Information2013

    • 著者名/発表者名
      Yuzuko Utsumi, Misa Katte, Masakazu Iwamura, Koichi Kise
    • 学会等名
      Proceedings of 2nd IAPR Asian Conference on Pattern Recognition (ACPR2013)
    • 発表場所
      Okinawa, Japan
    • 年月日
      20131105-20131108
  • [学会発表] Recognition of Layout-Free Characters on Complex Background2013

    • 著者名/発表者名
      Masakazu Iwamura, Takuya Kobayashi, Takahiro Matsuda and Koichi Kise
    • 学会等名
      Proc. of the 2nd Asian Conference on Pattern Recognition (ACPR2013)
    • 発表場所
      Okinawa, Japan
    • 年月日
      20131105-20131108
  • [学会発表] User Attention Oriented Augmented Reality on Documents with DocumentDependent Dynamic Overlay2013

    • 著者名/発表者名
      Takumi Toyama, Wakana Suzuki, Andreas Dengel, Koichi Kise
    • 学会等名
      Proc. ISMAR2013
    • 発表場所
      Adelaide, Australia
    • 年月日
      20131001-20131004
  • [学会発表] I know what you are reading: recognition of document types using mobile eye tracking2013

    • 著者名/発表者名
      Kai Kunze, Yuzuko Utsumi, Yuki Shiga, Koichi Kise, Andreas Bulling
    • 学会等名
      Proceedings of the 17th annual international symposium on International symposium on wearable computers
    • 発表場所
      Zurich, Switzerland
    • 年月日
      20130908-20130912
  • [学会発表] Activity recognition and nutrition monitoring in every day situations with a textile capacitive neckband2013

    • 著者名/発表者名
      Jingyuan Cheng, Bo Zhou, Kai Kunze, Carl Christian Rheinlaender, Sebastian Wille, Norbert Wehn, Jens Weppner, Paul Lukowicz
    • 学会等名
      Proceedings of the 2013 ACM conference on Pervasive and ubiquitous computing adjunct publication
    • 発表場所
      Zurich, Switzerland
    • 年月日
      20130908-20130912
  • [学会発表] Annotate me: supporting active reading using real-time document image retrieval on mobile devices2013

    • 著者名/発表者名
      Kai Kunze, Katsuma Tanaka, Masakazu Iwamura, Koichi Kise
    • 学会等名
      Proceedings of the 2013 ACM conference on Pervasive and ubiquitous computing adjunct publication
    • 発表場所
      Zurich, Switzerland
    • 年月日
      20130908-20130912
  • [学会発表] My reading life: towards utilizing eyetracking on unmodified tablets and phones2013

    • 著者名/発表者名
      Kai Kunze, Shoya Ishimaru, Yuzuko Utsumi, Koichi Kise
    • 学会等名
      Proceedings of the 2013 ACM conference on Pervasive and ubiquitous computing adjunct publication
    • 発表場所
      Zurich, Switzerland
    • 年月日
      20130908-20130912
  • [学会発表] Upright or sideways?: analysis of smartphone postures in the wild2013

    • 著者名/発表者名
      Alireza Sahami Shirazi, Neils Henze, Tilman Dingler, Kai Kunze, Albrecht Schmidt
    • 学会等名
      Proceedings of the 15th international conference on Human-computer interaction with mobile devices and services
    • 発表場所
      Munich, Germany
    • 年月日
      20130827-20130830
  • [学会発表] Reading Activity Recognition Using an Off―the―Shelf EEG― ―Detecting Reading Activities and Distinguishing Genres of Documents2013

    • 著者名/発表者名
      Kai Kunze, Yuki Shiga, Shoya Ishimaru, Koichi Kise
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] "ICDAR 2013 Robust Reading Competition2013

    • 著者名/発表者名
      Dimosthenis Karatzas, Faisal Shafait, Seiichi Uchida, Masakazu Iwamura, Lluis Gomez i Bigorda, Sergi Robles Mestre, Joan Mas, David Fernandez Mota, Jon Almazan Almazan and Lluis Pere de las Heras
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] An Anytime Algorithm for Camera-Based Character Recognition2013

    • 著者名/発表者名
      Takuya Kobayashi, Masakazu Iwamura, Takahiro Matsuda and Koichi Kise
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] Automatic Labeling for Scene Text Database2013

    • 著者名/発表者名
      Masakazu Iwamura, Masaki Tsukada and Koichi Kise
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] Key-region Detection for Document Images ---Application to Administrative Document Retrieval2013

    • 著者名/発表者名
      Hongxing Gao, Marcal Rusinol, Dimosthenis Karatzas, Josep Llados, Tomokazu Sato, Masakazu Iwamura and Koichi Kise
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] The Wordometer - Estimating the Number of Words Read Using Document Image Retrieval and Mobile Eye Tracking2013

    • 著者名/発表者名
      Kai Kunze, Hitoshi Kawaichi, Koichi Kise and Kazuyo Yoshimura
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] Automatic Ground Truth Generation of Camera Captured Documents Using Document Image Retrieval2013

    • 著者名/発表者名
      Sheraz Ahmed, Koichi Kise, Masakazu Iwamura, Marcus Liwicki, and Andreas Dengel
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] The Reading-life Log --- Technologies to Recognize Texts That We Read2013

    • 著者名/発表者名
      Takashi Kimura, Rong Huang, Seiichi Uchida, Masakazu Iwamura, Shinichiro Omachi and Koichi Kise
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] Wearable Reading Assist System: Augmented Reality Document Combining Document Retrieval and Eye Tracking2013

    • 著者名/発表者名
      Takumi Toyama, Wakana Suzuki, Andreas Dengel, Koichi Kise
    • 学会等名
      Proc 12th International Conference on Document Analysis and Recognition (ICDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130825-20130828
  • [学会発表] Fast and Layout-Free Camera-Based Character Recognition on Complex Backgrounds2013

    • 著者名/発表者名
      Masakazu Iwamura, Takuya Kobayashi, Takahiro Matsuda and Koichi Kise
    • 学会等名
      Handout of 5th International Workshop on Camera-Based Document Analysis and Recognition (CBDAR2013)
    • 発表場所
      Washington DC, USA
    • 年月日
      20130823-20130828
  • [学会発表] 記憶補助を目的とした装着型実時間顔認識システム2013

    • 著者名/発表者名
      加藤 祐也,内海ゆづ子,Kai Kunze,岩村 雅一,黄瀬 浩一
    • 学会等名
      画像の認識・理解シンポジウム(MIRU2013)
    • 発表場所
      東京
    • 年月日
      20130729-20130801
  • [学会発表] リファレンスポイントを用いた情景内文字認識の高速化2013

    • 著者名/発表者名
      松田 崇宏,小林 拓也,岩村 雅一,黄瀬 浩一
    • 学会等名
      第19回 画像センシングシンポジウム(SSII2013)
    • 発表場所
      横浜
    • 年月日
      20130612-20130614
  • [学会発表] リーディングライフ・ログ2013

    • 著者名/発表者名
      木村 崇志,フォン ヤオカイ,内田 誠一,岩村 雅一,大町 真一郎,黄瀬 浩一
    • 学会等名
      第19回 画像センシングシンポジウム(SSII2013)
    • 発表場所
      横浜
    • 年月日
      20130612-20130614
  • [学会発表] A Proposal of Writing―Life Log and Its Implementation Using s Retrival―Based Camera―Pen2013

    • 著者名/発表者名
      Koichi Kise, Riki Kudo, Masakazu Iwamura, Seiichi Uchida, Shinichiro Omachi
    • 学会等名
      Proc. the 16th International Graphonomics Society Conference (IGS 2013)
    • 発表場所
      Nara, Japan
    • 年月日
      20130610-20130613
  • [学会発表] Towards inferring language expertise using eye tracking2013

    • 著者名/発表者名
      Kai Kunze, Hitoshi Kawaichi, Kazuyo Yoshimura, Koichi Kise
    • 学会等名
      CHI'13 Extended Abstracts on Human Factors in Computing Systems
    • 発表場所
      Paris, France
    • 年月日
      20130427-20130502

URL: 

公開日: 2015-05-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi