okumin https://blog.hatena.ne.jp/okumin/ おくみん公式ブログ https://blog.okumin.com/ GCP ビッグデータ okumin.com のアクセスログを Google BigQuery で分析するために、ETL パイプラインを構築しました。 Apache Beam(Scio) + Google Cloud Dataflow を用いてログの加工及び BigQuery へのストリーミングインサートを行うという構成です。 この記事ではその全体像と個々のコンポーネントの簡単な説明を行います。 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblog.okumin.com%2Fentry%2F2017%2F08%2F20%2F201901" title="Google Cloud Dataflow で Google BigQuery へストリーミング ETL するの巻 - おくみん公式ブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/o/okumin/20170818/20170818025111.png Hatena Blog https://hatena.blog 2017-08-20 20:19:01 rich https://blog.okumin.com/entry/2017/08/20/201901 1.0 100%