Japan 公式ブログ
Google の企業向けソリューションに関する公式な情報やユーザーの事例などを、いち早く皆さんにお届けします。
[GCP] Cloud Dataflow SDK for Java をオープンソース公開
2015年1月9日金曜日
データの持つ「価値」は、その分析を通じて得られるインテリジェンスにあります。しかし、データセットの巨大化や、多様なストレージ システムへのデータの分散の影響で、データからインテリジェンスを導くことは容易ではありません。さらにリアルタイム分析のニーズの増加など、いまエンジニアはさまざまな課題に直面しています。
Google は 2014 年 7 月、データ処理のためのまったく新しいマネージド サービス、
Google Cloud Dataflow
のアルファ版を発表しました。このサービスは、ビッグデータ処理基盤の運用の負荷を大きく引き下げ、エンジニアが開発のみに集中できる環境を提供します。データサイエンティストやデータアナリスト、そしてデータ処理に関わるエンジニアが、データを今以上に簡単に、より広い範囲で扱えるようにするものです。用途や使い方を問わず、分散システムを扱うための労力を不要とし、シンプルで直感的なプログラミング コンセプトを用いたデータからのインテリジェンスの抽出を可能とします。
今回 Google では、
Google Cloud Dataflow
の導入を促し、またさまざまなプログラミング言語や実行環境へポーティングできる土台を提供すべく、同サービスにアクセスするためのライブラリである「Cloud Dataflow SDK」をオープンソース化しました。
Gooole Cloud Dataflow は、Google 社内で用いられてきた
FlumeJava
と呼ばれるプログラミング モデルをベースとしています。FlumeJava の導入の過程で、データをインテリジェンスへ転換する上での多くの知見を得られました。この知見を基盤に、Cloud Dataflow SDK をオープンソースとして共有することで、次の 3 点で開発者コミュニティによるさらなる発展を促します。
ストリーム処理とバッチ処理の統合によるイノベーション
:Cloud Dataflow SDK では、バッチ処理とストリーム処理の両方を統合したモデルを導入します。この統合がもたらす再利用可能なプログラミング パターンが、開発効率の向上を実現するカギとなります。また、時間軸でのデータ集約のための
豊富なウィンドウ関数
を提供し、バッチとストリーム両方の種類のデータソースに対して同じ処理を適用できます。
さまざまなプログラミング言語による Dataflow プログラミング モデルのサポート
:Dataflow がサポートするプログラミング言語とプログラミング パターンは、今後も増加していきます。Dataflow をより多くのアプリケーションから使えるように、現在 Python 3 版 SDK の開発が進められています。
サードパーティのサービス環境での Dataflow の実行
:現在のIT開発、とりわけクラウド分野おいては、多種多様なサービスをいかにして組み合わせ構成するかが重要なポイントとなります。Cloud Dataflow は、大規模にスケール可能で、高い信頼性と一貫性を備えるマネージド サービスとして構築されていますが、一方で外部サービスへのポータビリティも重視されています。例えば Apache Storm や Spark、 Hadoop 製品ファミリーは引き続きは発展を続けているものの、それにともなうプログラミングモデルの分裂が開発者にとっての課題となります。大規模データ処理の実行環境やサービス環境のポータビリティを確保することで、そうした苦労をなるべくなくし、デプロイ先プラットフォームの選択肢を広げます。
バックグラウンドのさまざまに異なる開発者が分散データ処理を行えるシステムを、皆さんと協力して構築していけることが楽しみです。 GitHub の
Dataflow SDK for Java
リポジトリを通じたコミュニティへの参加をお待ちしています。
Cloud Dataflow コミュニティには、以下の方法で参加できます。
- Google Cloud Dataflow の
利用申し込み
-
ドキュメント
(英)による詳細の確認
- StackOverflow での議論への参加 [タグ:
google-cloud-dataflow
]
0 件のコメント :
コメントを投稿
Labels
#GoogleCloudSummit
#GoogleNext18
#GoogleNext19
77 min Lunch
add on
admin
Advanced Solutions Lab
AI
AI Hub
AI Platform
Android
Anthos
API
App Engine
App Maker
apps
Apps script
ASL
atmosphere
Atmosphere Tokyo
AutoML
AutoML Natural Language
AutoML Translation
bigquery
Box
Calendar
Case Study
Chorme OS
Chrome
Chrome Enterprise
Chrome Enterprise 導入事例
Chrome for Work
Chrome ウェブストア
chromebook
chromebooks
Chromebooks for Education
Chromebooks for meeting
Chromebooks for Work
Chromebox
Chromebox for digital signage
Chromebox for meetings
Chronicle
Cisco
Cloud
Cloud Armor
Cloud AutoML
Cloud AutoML Natural Language
Cloud AutoML Translation
Cloud AutoML Vision
cloud connect
Cloud Dataflow
Cloud Identity
Cloud IoT Core
Cloud Load Balancing
Cloud Memorystore for Redis
Cloud monitoring
Cloud OnAir
Cloud Pub/Sub
Cloud Ranking
Cloud Services Platform
Cloud Storage
Cloud TPU
compliance
compute engine
Contact Center AI
Container Engine
Coursera
Deloitte
developers
Dialogflow Enterprise Edition
Drive for Work
Dropbox
earth api
Education
enterprise
Enterprise Japan
event
Evernote
Expo
Firebase
FISC
Forrester
G Suite
G Suite Business
G Suite for Education
G Suite 事例
G Suite 導入事例
G+
gadget
GAE
GCE
GCP
GCP 導入事例
GCP 認定資格チャレンジ
GDPR
GEO
GEP
GfWtips
GKE
gmail
Gmail、新機能
Gone Google
GoneGoogle
Google App Engine
Google Apps
Google Apps Blog
Google Apps for Education
Google Apps for Work
Google Apps Script
Google Apps ユーザー事例
Google Apps 導入事例
Google atmosphere
Google calendar
Google calender
Google classroom
Google Cloud
Google Cloud Certification
Google Cloud Next '18 in Tokyo
Google Cloud Next '19 in Tokyo
google cloud platform
Google Cloud Search
Google Cloud Summit '18
Google Cloud 認定資格チャレンジ
Google Commerce Search
Google Derive
Google Docs
Google Docs API
google drive
Google Drive for Work
Google Earth
google enterprise
Google Enterprise Day
Google for Education
Google for Work
Google form
Google hang-out
Google hung-out
google map
Google maps
google maps api
google maps api premier
Google Maps APIs
Google Maps for Work
Google Maps Platform
Google Message Continuity
google search appliance
Google Shopping
Google Sites
Google Springboard
Google Storage for Developers
Google Video
Google Wave
Google スライド
Google ドキュメント
Google ドライブ
Google フォーム
Google マップ
Google+
GoogleApps
GoogleApps、新機能、spreadsheets
groups
gsa
Hangouts Meet
healthcare
Hybrid Cloud Platform for Google Cloud
Inbox
INSIDE
iOS
iphone
ISAE 3402 Type II
ISO 27018
IT
Jamboard
japan
Kubeflow Pipelines
Looker
Lotus Notes
Machine learning
map
maps api
Maps 導入事例
Maps-sensei
Mapsコーナー
media
microsoft office
migration
mobile
new features
Next
Next Tokyo
OAuth
Office 365
Office of the CTO
Osaka
partner
Partner Interconnect
partner program
Partner Summit
postini
pricing
Qwiklabs
region
research
RSA
SAP
SAS70
search
Security
Security Key
seminar
Shizuoka
Signage
Sites
SMB
SSAE 16 Type II
startup
Status Dashboard
TensorFlow
Trial
Upload any files
vault
Veolia
Viacom
Virtual Conference
VMware
あっぷす先生
あっぷす先生 誤解をとく!
あっぷす先生会社訪問
イベント
インフラストラクチャ
おしえて!あっぷす先生
おしえて!くらうど先生
オフライン
クラウド
くらうど先生
サイネージ
サポート
セキュリティ
チームドライブ
チェンジマネジメント
デジタル トランスフォーメーション
テレワーク
パートナー
ハングアウト
プライバシー
まっぷす先生
ランキング
リージョン
ワークインサイト
円周率
海底ケーブル
企業検索
機械学習
互換性
事例
小売
新機能
働き方
認定資格
Archive
2019
8月
7月
6月
5月
4月
3月
2月
1月
2018
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2017
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2016
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2015
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2014
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2013
12月
11月
10月
9月
7月
6月
5月
4月
3月
1月
2012
12月
11月
10月
9月
8月
7月
6月
5月
4月
2月
2011
12月
10月
9月
8月
7月
5月
4月
2月
2010
12月
11月
10月
9月
7月
6月
5月
3月
2月
1月
2009
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
1月
2008
12月
11月
10月
9月
8月
7月
6月
5月
4月
3月
2月
2007
12月
Feed
Follow @googlecloud_jp
Useful Links
G Suite
Google Cloud Platform
Google 検索アプライアンス
Google Maps
G Suite 公式アップデート情報
0 件のコメント :
コメントを投稿