kaigai https://blog.hatena.ne.jp/kaigai/ KaiGaiの俺メモ https://kaigai.hatenablog.com/ 前回のエントリで Apache Arrow のフォーマットについて調べていたが、これのゴールは、外部テーブル（Foreign Table）を介してApache Arrowファイルを読み出し、高速に集計・解析処理を実行する事にある。 特にPG-Stromの場合はSSD-to-GPU Direct SQLという飛び道具が使えるため、NVME-SSD上のApache Arrowファイルを直接GPUへ転送し、列指向データをGPUの大量のコアでぐわーーっと処理するという構成が取れるハズである。 で、FDWモジュールがApache Arrowファイルを読むためには、まずメタデータを解読してどの列がどういっ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fkaigai.hatenablog.com%2Fentry%2F2019%2F01%2F24%2F010346" title="Dive into Apache Arrow（その２）- pg2arrow - KaiGaiの俺メモ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/k/kaigai/20190123/20190123162316.png Hatena Blog https://hatena.blog 2019-01-24 01:03:46 rich https://kaigai.hatenablog.com/entry/2019/01/24/010346 1.0 100%