FPT Lakehouse の概要
FPT Lakehouse は FPT Cloud 上のマネージドデータプラットフォームサービスです。オープンなテーブル形式の Apache Iceberg を基盤に、大規模なデータの保存と分析を行えます。
Lakehouse とは
Lakehouse は、Data Lake の柔軟なストレージと、Data Warehouse のクエリ性能およびデータガバナンス機能を組み合わせた次世代のデータアーキテクチャです。
| 項目 | Data Lake | Data Warehouse | Lakehouse |
|---|---|---|---|
| 対応するデータの種類 | すべて | 主に構造化データ | すべて |
| ACID トランザクション | なし | あり | あり |
| クエリ性能 | 低い | 高い | 高い |
| ストレージコスト | 低い | 高い | 低い |
| Schema 管理 | 柔軟 | 厳格 | 柔軟 |
主な機能
🔒 ACID トランザクション
同時書き込み時もデータの整合性を保ち、INSERT、UPDATE、DELETE、MERGE に対応します。
⏳ Time Travel
Snapshot の履歴から過去の任意の時点のデータをクエリできます。過去データの監査や、必要に応じたデータの復旧に使えます。
📋 Schema の進化
既存のデータや下流の pipeline に影響を与えずに、カラムを追加、削除、名前変更できます。
🗃️ パーティションの進化
既存のデータを書き換えずに、テーブルのパーティション方式を変更できます(例:日単位から月単位へ)。
🔍 隠しパーティション
クエリ実行時のパーティション処理は Lakehouse が自動で行います。パーティションカラムで手動で絞り込む必要はなく、自然なクエリを書けます。
📦 ストレージの定期最適化
compaction job をスケジュール実行して小さなファイルをまとめ、メタデータの負荷を減らし、クエリ性能を安定して保ちます。
🌐 オープン形式で特定ツールに依存しない
データはオープンなテーブル形式で保存され、FPT Data Platform 内の複数の分析サービスで共有できます。単一のツールに縛られません。
はじめに
- クイックスタート — すぐに使い始めるための手順です。
- プロビジョニングと管理 — Lakehouse の作成と管理です。
- Data Explorer — catalog、schema、テーブルを参照します。