• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2010 年度 実績報告書

スケーラブルな広域ファイルシステムの研究

公募研究

研究領域情報爆発時代に向けた新しいIT基盤技術の研究
研究課題/領域番号 21013005
研究機関筑波大学

研究代表者

建部 修見  筑波大学, 大学院・システム情報工学研究科, 准教授 (70357432)

キーワード広域分散ファイルシステム / 分散メタデータサーバ / マルチマスター / ファイル複製作成 / 複製選択 / MapReduce / MPI-10 / 性能評価
研究概要

増加の一途のデータの解析に対し,複数の拠点による広域分散データ解析の要求が高まっている。そのためには広域ファイルシステムが有用であるが,データ解析の規模が拡大するにつれ,ファイルを管理するメタデータのアクセス負荷の増大,広域ネットワークの遅延による応答性の低下が問題となっている。本年度は,広域ファイル共有の規模が拡大したときに問題となる,メタデータアクセス負荷の増大,高遅延ネットワークによる応答性の低下に対処するため,ファイルシステムの一貫性を緩めた2レベルのマルチマスター型メタデータサーバを提案した。4拠点を利用した実環境の評価では,読込,書込ともにスケーラブルな性能が得られた。多数ファイルの複製スケジューリング問題については,問題の定式化を行い,食欲法に基づく方法と線形計画法に基づく方法の提案を行った。評価の結果,特に難しい初期配置以外では両方式は理想的なスケジューリングに成功し,スケジューリングコストの観点で食欲法に基づく方法が良いことが分かった。また,難しい初期配置の場合,線形計画法に基づく方法は食欲法に基づく方法より2倍程度良いスケジューリングを行うことが分かった。大規模データ処理に関しては,MapReduceアプリケーション,MPI-10アプリケーションを広域分散ファイルシステムで効率的に実行するための検討を行った。プロトタイプシステムを作成し,様々なアプリケーション,利用シナリオに関して性能評価を行った。

  • 研究成果

    (28件)

すべて 2011 2010 その他

すべて 雑誌論文 (13件) (うち査読あり 6件) 学会発表 (14件) 備考 (1件)

  • [雑誌論文] クラスタ間並列複製作成のためのファイル分割を許さないスケジューリング2011

    • 著者名/発表者名
      鈴木克典, 建部修見
    • 雑誌名

      ハイパフォーマンスコンピューティングと計算科学シンポジウムHPCS2011論文集

      ページ: 10-19

    • 査読あり
  • [雑誌論文] StableSearch : A Searchable File Content Metadata System for the Gfarm File System2011

    • 著者名/発表者名
      Joel Tucci, Osamu Tatebe
    • 雑誌名

      情報処理学会研究報告

      巻: Vol.2011-HPC-129, No.7 ページ: 1-6

  • [雑誌論文] Cephのメタデータサーバの冗長性の調査2011

    • 著者名/発表者名
      大西健太, 建部修見, 西谷明彦, 大岸智彦
    • 雑誌名

      情報処理学会研究報告

      巻: Vol.2011-HPC-129, No.8 ページ: 1-7

  • [雑誌論文] Gfarm Grid File System2010

    • 著者名/発表者名
      Osamu Tatebe, Kohei Hiraga, Noriyuki Soda
    • 雑誌名

      New Generation Computing

      巻: Vol.28, No.3 ページ: 257-275

    • 査読あり
  • [雑誌論文] PCクラスタ間ファイル複製スケジューリング2010

    • 著者名/発表者名
      鈴木克典, 建部修見
    • 雑誌名

      情報処理学会ACS論文誌

      巻: Vol.3, No.3 ページ: 113-125

    • 査読あり
  • [雑誌論文] Pwrake : A parallel and distributed flexible workflow management tool for wide-area data intensive computing2010

    • 著者名/発表者名
      Masahiro Tanaka, Osamu Tatebe
    • 雑誌名

      Proceedings of ACM International Symposium on High Performance Computing (HPDC)

      ページ: 356-359

    • 査読あり
  • [雑誌論文] PCクラスタ間ファイル複製スケジューリング2010

    • 著者名/発表者名
      鈴木克典, 建部修見
    • 雑誌名

      先進的計算基盤シンポジウムSACSIS2010論文集

      ページ: 71-78

    • 査読あり
  • [雑誌論文] グラフ分割による広域分散並列ワークフローの効率的な実行2010

    • 著者名/発表者名
      田中昌宏, 建部修見
    • 雑誌名

      先進的計算基盤シンポジウムSACSIS2010論文集

      ページ: 63-70

    • 査読あり
  • [雑誌論文] 広域分散ファイルシステムGfarm上でのMapReduceを用いた大規模分散データ処理2010

    • 著者名/発表者名
      三上俊介, 建部修見
    • 雑誌名

      情報処理学会研究報告

      巻: Vol.2010-HPC-126, No.4 ページ: 1-7

  • [雑誌論文] 広域分散アイルシステムGfarmのMPI-IOの実装と評価2010

    • 著者名/発表者名
      木村浩希, 建部修見
    • 雑誌名

      情報処理学会研究報告

      巻: Vol.2010-HPC-126, No.21 ページ: 1-6

  • [雑誌論文] 広域ファイルシステムHGFSのための分散メタデータサーバの実装と性能評価2010

    • 著者名/発表者名
      平賀弘平, 建部修見
    • 雑誌名

      情報処理学会研究報告

      巻: Vol.2010-HPC-126, No.29 ページ: 1-6

  • [雑誌論文] クラウドにおける高性能ファイルサービスの検討2010

    • 著者名/発表者名
      小林賢司, 建部修見
    • 雑誌名

      情報処理学会研究報告

      巻: Vol.2010-HPC-126, No.38 ページ: 1-6

  • [雑誌論文] 遠隔ファイルアクセスにおけるアクセスパターンと遅延の影響2010

    • 著者名/発表者名
      大辻弘貴, 建部修見
    • 雑誌名

      情報処理学会研究報告

      巻: Vol.2010-HPC-128, No.6 ページ: 1-8

  • [学会発表] Calling the Cloud : The Gfarm-iPhone Bridge2011

    • 著者名/発表者名
      Joel Tucci
    • 学会等名
      PRAGMA 20 Workshop
    • 発表場所
      Hong Kong University (Hong Kong, China)
    • 年月日
      2011-03-04
  • [学会発表] HGMDS : Design of Distributed Metadata Management System for Global File System2011

    • 著者名/発表者名
      Kohei Hiraga, Osamu Tatebe
    • 学会等名
      PRAGMA 20 Workshop Poster Presentation
    • 発表場所
      Hong Kong University (Hong Kong, China)
    • 年月日
      2011-03-03
  • [学会発表] MPI-IO/Gfarm : An Optimized Implementation of MPI-IO for the Gfarm File System2011

    • 著者名/発表者名
      Hiroki Kimura, Osamu Tatebe
    • 学会等名
      PRAGMA 20 Workshop Poster Presentation
    • 発表場所
      Hong Kong University (Hong Kong, China)
    • 年月日
      2011-03-03
  • [学会発表] High Performance File System Service for Cloud Computing2011

    • 著者名/発表者名
      Kenji Kobayashi, Osamu Tatebe
    • 学会等名
      PRAGMA 20 Workshop Poster Presentation
    • 発表場所
      Hong Kong University (Hong Kong, China)
    • 年月日
      2011-03-03
  • [学会発表] Optimization of Remote File Access Considering Access Pattern and Network Dalay2011

    • 著者名/発表者名
      Hiroki Ohtsuji, Osamu Tatebe
    • 学会等名
      PRAGMA 20 Workshop
    • 発表場所
      Hong Kong University (Hong Kong, China)
    • 年月日
      2011-03-03
  • [学会発表] クラスタ間並列複製作成のためのファイル分割を許さないスケジューリング2011

    • 著者名/発表者名
      鈴木克典, 建部修見
    • 学会等名
      ハイパフォーマンスコンピューティングと計算科学シンポジウムHPCS2011
    • 発表場所
      産業技術総合研究所(茨城県)
    • 年月日
      2011-01-18
  • [学会発表] Wide-area Distributed File System2010

    • 著者名/発表者名
      Osamu Tatebe, et.al.
    • 学会等名
      ACM/IEEE International Conference for High Performance Computing, Networking, Storage and Analysis (SC10) Research Exhibition
    • 発表場所
      Ernest N.Morial Convention Center (New Orleans, LA, USA)
    • 年月日
      20101115-20101118
  • [学会発表] High Performance File System Service for Cloud Computing2010

    • 著者名/発表者名
      Kenji Kobayashi, Osamu Tatebe
    • 学会等名
      PRAGMA 19 Workshop
    • 発表場所
      Jilin University (Changchun, China)
    • 年月日
      2010-09-15
  • [学会発表] Gfarm Integration2010

    • 著者名/発表者名
      Osamu Tatebe
    • 学会等名
      PRAGMA Institute on Implementation
    • 発表場所
      Jilin University (Changchun, China)(招待講演)
    • 年月日
      2010-09-13
  • [学会発表] High Performance File System Service for Cloud Computing2010

    • 著者名/発表者名
      Kenji Kobayashi, Osamu Tatebe
    • 学会等名
      7^<th> Korea-Japan e-Science Symposium
    • 発表場所
      Daemyung Resort (Korea)
    • 年月日
      2010-07-06
  • [学会発表] A Design and Implementation of MPI-IO for Gfarm File System2010

    • 著者名/発表者名
      Hiroki Kimura, Osamu Tatebe
    • 学会等名
      7^<th> Korea-Japan e-Science Symposium
    • 発表場所
      Daemyung Resort (Korea)
    • 年月日
      2010-07-06
  • [学会発表] Pwrake : A parallel and distributed flexible workflow management tool for wide-area data intensive computing2010

    • 著者名/発表者名
      Masahiro Tanaka, Osamu Tatebe
    • 学会等名
      ACM International symposium on High Performance Distributed Computing (HPCD) Poster Presentation
    • 発表場所
      DoubleTree Hotel Chicago (Chicago, IL, USA)
    • 年月日
      2010-06-23
  • [学会発表] PCクラスタ間ファイル複製スケジューリング2010

    • 著者名/発表者名
      鈴木克典, 建部修見
    • 学会等名
      先進的計算基盤シンポジウムSACSIS2010
    • 発表場所
      奈良県新公会堂(奈良県)
    • 年月日
      2010-05-27
  • [学会発表] グラフ分割による広域分散並列ワークフローの効率的な実行2010

    • 著者名/発表者名
      田中昌宏, 建部修見
    • 学会等名
      先進的計算基盤シンポジウムSACSIS2010
    • 発表場所
      奈良県新公会堂(奈良県)
    • 年月日
      2010-05-27
  • [備考]

    • URL

      http://datafarm.apgrid.org/

URL: 

公開日: 2012-07-19  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi